Компания Anthropic ведет переговоры с правительством США относительно своей новой модели искусственного интеллекта Mythos, которую считает слишком опасной для публичного доступа. По словам представителей компании, система создает "беспрецедентные риски кибербезопасности" из-за способности выявлять уязвимости и потенциально использовать их. К обсуждению присоединились правительства, финансовые регуляторы и крупнейшие банки мира, пишет EuroNews.
"Наша позиция заключается в том, что правительство должно быть в курсе этих вопросов... Поэтому, конечно, мы обсуждаем с ними модель Mythos, и будем обсуждать с ними и следующие модели", — заявил соучредитель Anthropic Джек Кларк на мероприятии Semafor World Economy в Вашингтоне.
Беспокойство вокруг модели возникло на фоне предыдущего конфликта между Anthropic и Пентагоном относительно ограничений использования ИИ в военных целях. После срыва переговоров Министерство обороны США внесло компанию в список рисков для цепи поставок и запретило использование ее технологий.
"У нас возник небольшой спор относительно контракта, но я не хочу, чтобы это затмило тот факт, что мы очень заботимся о национальной безопасности", — добавил соучредитель Anthropic.
Финансовый сектор также отреагировал на новую разработку. Министр финансов США Скотт Бессент на прошлой неделе собрал руководителей ведущих банков для обсуждения Mythos, а по данным Bloomberg, их поощряют тестировать модель для выявления киберугроз.
Anthropic планирует ограничить доступ к Mythos и предоставить его только отдельным технологическим и кибербезопасным компаниям, в частности Amazon, Apple и JP Morgan Chase. По информации Bloomberg, модель также тестируют Goldman Sachs, Citigroup, Bank of America и Morgan Stanley.
В Великобритании правительственный Институт безопасности искусственного интеллекта (The AI Security Institute, AISI) предупредил, что Mythos является "шагом" вперед по сравнению с предыдущими моделями по уровню киберугроз. Financial Times сообщает, что финансовые регуляторы страны также оценивают потенциальные риски системы.
Как отмечает Reuters, модель Mythos, представленная 7 апреля, позиционируется Anthropic как самая мощная для задач программирования и автономной работы. Эксперты указывают, что ее способность к сложному кодированию может позволить не только выявлять слабые места в системах, но и создавать способы их эксплуатации.
Напомним, что Федеральный апелляционный суд в Вашингтоне отказался приостановить решение Минобороны США о признании Anthropic риском для национальной безопасности в сфере снабжения. Компания считает это политическим давлением из-за позиции по безопасности технологий.