Пентагон призывает разработчиков ИИ убрать предохранители для военных целей — Reuters

Пентагон призывает ведущие компании по искусственному интеллекту сделать их инструменты доступными в засекреченных сетях без многих стандартных ограничений для пользователей. Об этом Reuters сообщили источники, знакомые с ходом переговоров.

Речь идет о переговорах с OpenAI, Anthropic, Google и xAI по развертыванию моделей как в открытых, так и в секретных доменах. Во время мероприятия в Белом доме главный технический директор Пентагона Эмиль Майкл заявил руководителям технологических компаний, что военные стремятся к более широкому доступу к ИИ в различных уровнях классификации.

"Пентагон движется к развертыванию передовых возможностей искусственного интеллекта на всех уровнях классификации", — отметил чиновник на условиях анонимности. Reuters не смогло установить, когда именно и каким образом военные планируют развернуть чат-боты в секретных сетях.

ВАС ЗАИНТЕРЕСУЕТ

WSJ: Пентагон готовит новую военную базу в Австралии на случай войны с Китаем

Секретные сети используют для планирования миссий и определения целей вооружения. Военные рассчитывают, что ИИ поможет синтезировать большие объемы информации для принятия решений, однако исследователи предупреждают о рисках ошибок или вымышленной информации, что может иметь "фатальные последствия".

Большинство инструментов, которые компании разрабатывают для армии США, пока доступны только в несекретных сетях, применяемых для административных задач. Только Anthropic представлена в секретных сетях через третьих сторон, но правительство обязано придерживаться политики использования этой компании.

Чиновники Пентагона выражают недовольство ограничениями, которые ИИ-компании встраивают в свои продукты. Они настаивают, что должны иметь возможность использовать коммерческие инструменты без дополнительных барьеров, если это соответствует законодательству США.

ВАС ЗАИНТЕРЕСУЕТ

"Китайский след" в SpaceX: Сенат США требует от Пентагона срочной проверки компании Маска

На этой неделе OpenAI заключила соглашение с Пентагоном об использовании ее продуктов, включая ChatGPT, в несекретной сети genai.mil, охватывающей более 3 миллионов сотрудников Министерства обороны. Компания согласилась снять часть типовых ограничений, сохранив отдельные предохранители.

В OpenAI заявили, что договоренность касается именно несекретного использования через genai.mil, а расширение потребует нового или измененного соглашения. Ранее подобные соглашения с Пентагоном заключали Google и xAI.

Переговоры с Anthropic были более напряженными, сообщало Reuters ранее. Руководство компании заявило, что не хочет, чтобы ее технологии использовались для автономного наведения оружия или внутреннего наблюдения в США.

"Anthropic стремится защитить лидерство Америки в сфере искусственного интеллекта и помочь правительству США противостоять иностранным угрозам. Claude уже широко используется правительством США для миссий национальной безопасности, и мы ведем продуктивные переговоры с Министерством войны о путях продолжения этой работы", — заявил представитель компании.

ИИ Илона Маска Grok Минобороны США уже интегрирует в свои военные системы для анализа боевых данных за два десятилетия. Министр обороны Пит Гегсет заявил о намерении использовать искусственный интеллект без "идеологических ограничений" для ведения войн, отвергая предыдущие политики сдерживания. Это решение приняли несмотря на международные скандалы вокруг Grok из-за генерации неприемлемого контента и его блокировки в отдельных странах.