Anthropic проведет переговоры с Белым домом по поводу блокировки нового ИИ — BBC

Пока администрация президента Соединенных Штатов Дональда Трампа фактически приостановила работу новых моделей Anthropic — Fable 5 и Mythos 5 — из-за опасений по поводу национальной безопасности, сама компания пытается доказать, что полная блокировка была чрезмерной реакцией. Руководство компании Anthropic во главе с генеральным директором Дарио Амодеи проведет в Вашингтоне переговоры с представителями Министерства торговли США. Об этом сообщила BBC.

Руководители компании Anthropic должны провести встречу с высокопоставленными чиновниками администрации США на фоне новых споров вокруг последних разработок в сфере ИИ. Переговоры запланированы на понедельник в Вашингтоне между представителями Anthropic и Министерства торговли США, которое возглавляет министр Говард Лутник.

Встреча состоится после того, как Anthropic в пятницу заблокировала публичный доступ к своей новой системе искусственного интеллекта. Ранее компания сама характеризовала этот инструмент как чрезвычайно мощный. Anthropic приняла решение об ограничении доступа после того, как правительство США запретило предоставлять технологию для использования любыми иностранными гражданами.

Предметом спора стали две новые модели искусственного интеллекта — Fable 5 и Mythos 5. Fable 5 — это версия с дополнительными механизмами защиты, которую планировали сделать доступной для широкой аудитории. В свою очередь, Mythos 5 имеет другой набор настроек безопасности и предназначена только для ограниченного круга организаций. Обе модели являются новым поколением Claude Mythos — семейства систем искусственного интеллекта компании Anthropic.

Широкий резонанс вокруг этих моделей возник еще в апреле, когда компания предоставила к ним предварительный доступ небольшому количеству организаций. Среди участников тестирования были также отдельные структуры правительства США. Ожидается, что в переговорах примет участие генеральный директор Anthropic Дарио Амодеи.

Представители Белого дома отказались комментировать предстоящую встречу. В Министерстве торговли США и самой компании Anthropic также не предоставили официальных комментариев. На прошлой неделе Anthropic пояснила, что открытие доступа к новой модели связано с определенными рисками.

В компании подчеркнули, что возможности Fable 5 превосходят все модели, которые она ранее делала общедоступными. Однако уже через несколько дней после запуска американские власти заявили, что узнали о возможной «дыре» в системе безопасности.

Речь идет о так называемом jailbreak – способе заставить систему искусственного интеллекта выполнять действия, для которых она не была создана или настроена.

В ответ Anthropic заявила, что на данный момент получила лишь устные сообщения о существовании такой потенциальной уязвимости. Спор между компанией и правительством стал очередным эпизодом непростых отношений между Anthropic и федеральными властями. Ранее в этом году компания даже подала иск против Министерства войны США из-за разногласий относительно условий использования ее моделей.

В то же время несколько недель назад стороны уже проводили встречи в Белом доме. Тогда переговоры были охарактеризованы как продуктивные. Ожидается, что на нынешней встрече Министерство торговли США представит дополнительные материалы по выявленной проблеме. По словам одного из собеседников, именно эти документы должны стать предметом обсуждения. Пока остается неясным, сможет ли Anthropic после завершения переговоров вновь открыть доступ к моделям Fable 5 и Mythos 5.

Между тем десятки представителей технологической индустрии и специалистов по кибербезопасности призвали власти США разрешить компании вернуть модели в открытый доступ. Соответствующее обращение было оформлено в виде открытого письма. Его подписали сотрудники и бывшие работники Nvidia, Zoom, Mercedes-Benz, Google, а также бывшие специалисты правительственных структур США.

Авторы обращения призвали Говарда Лутника отменить ограничения в отношении Fable 5 и Mythos 5. Они также предложили правительству внедрить открытый, научный и прозрачный механизм оценки рисков искусственного интеллекта в будущем.

Несмотря на то, что Белый дом ранее демонстрировал относительно сдержанный подход к регулированию искусственного интеллекта и даже заявлял о заинтересованности в его экономическом потенциале, последние действия властей вызвали беспокойство среди разработчиков и экспертов по безопасности.

ВАС ЗАИНТЕРЕСУЕТ

Трамп подписал упрощенный указ по регулированию ИИ

Напомним, что нынешние переговоры Anthropic с властями США стали продолжением истории с запуском моделей Claude Fable 5 и Claude Mythos 5, которые компания сразу позиционировала как свои самые мощные ИИ-системы. Anthropic заявляла, что новые модели превосходят предыдущие версии Claude в программировании, научных исследованиях, работе с данными и компьютерном зрении. Claude Fable 5 назвали первой общедоступной системой класса Mythos, тогда как Claude Mythos 5 оставили доступной только для ограниченного круга партнеров в рамках программы Project Glasswing, которую реализуют в сотрудничестве с правительством США. Из-за рисков злоупотреблений компания внедрила дополнительные механизмы безопасности, в частности автоматический перевод запросов из чувствительных сфер на менее мощную модель Claude Opus 4.8.