Ажиотаж вокруг Mythos от Anthropic: почему новая модель ИИ напугала правительства и мировые банки

Компания Anthropic ведет переговоры с правительством США относительно своей новой модели искусственного интеллекта Mythos, которую считает слишком опасной для публичного доступа. По словам представителей компании, система создает "беспрецедентные риски кибербезопасности" из-за способности выявлять уязвимости и потенциально использовать их. К обсуждению присоединились правительства, финансовые регуляторы и крупнейшие банки мира, пишет EuroNews.

"Наша позиция заключается в том, что правительство должно быть в курсе этих вопросов... Поэтому, конечно, мы обсуждаем с ними модель Mythos, и будем обсуждать с ними и следующие модели", — заявил соучредитель Anthropic Джек Кларк на мероприятии Semafor World Economy в Вашингтоне.

ВАС ЗАИНТЕРЕСУЕТ

Конфликт Пентагона с Anthropic открыл новую проблему использования ИИ в войне — эксперт

Беспокойство вокруг модели возникло на фоне предыдущего конфликта между Anthropic и Пентагоном относительно ограничений использования ИИ в военных целях. После срыва переговоров Министерство обороны США внесло компанию в список рисков для цепи поставок и запретило использование ее технологий.

"У нас возник небольшой спор относительно контракта, но я не хочу, чтобы это затмило тот факт, что мы очень заботимся о национальной безопасности", — добавил соучредитель Anthropic.

Финансовый сектор также отреагировал на новую разработку. Министр финансов США Скотт Бессент на прошлой неделе собрал руководителей ведущих банков для обсуждения Mythos, а по данным Bloomberg, их поощряют тестировать модель для выявления киберугроз.

ВАС ЗАИНТЕРЕСУЕТ

Claude взломал браузер Firefox: ИИ от Anthropic нашел более сотни уязвимостей

Anthropic планирует ограничить доступ к Mythos и предоставить его только отдельным технологическим и кибербезопасным компаниям, в частности Amazon, Apple и JP Morgan Chase. По информации Bloomberg, модель также тестируют Goldman Sachs, Citigroup, Bank of America и Morgan Stanley.

В Великобритании правительственный Институт безопасности искусственного интеллекта (The AI Security Institute, AISI) предупредил, что Mythos является "шагом" вперед по сравнению с предыдущими моделями по уровню киберугроз. Financial Times сообщает, что финансовые регуляторы страны также оценивают потенциальные риски системы.

Как отмечает Reuters, модель Mythos, представленная 7 апреля, позиционируется Anthropic как самая мощная для задач программирования и автономной работы. Эксперты указывают, что ее способность к сложному кодированию может позволить не только выявлять слабые места в системах, но и создавать способы их эксплуатации.

Напомним, что Федеральный апелляционный суд в Вашингтоне отказался приостановить решение Минобороны США о признании Anthropic риском для национальной безопасности в сфере снабжения. Компания считает это политическим давлением из-за позиции по безопасности технологий.