ИИ от Anthropic “взломал“ секретные системы США за несколько часов — AP

Модель искусственного интеллекта Mythos от компании Anthropic в ходе тестирования обнаружила уязвимости в правительственных компьютерных системах США с высоким уровнем защиты всего за несколько часов. Об этом сообщает Associated Press со ссылкой на американского чиновника, знакомого с результатами проверки.

По словам источника AP, Anthropic сотрудничала с американскими спецслужбами в рамках проекта Project Glasswing, направленного на оценку рисков, которые представляют самые мощные ИИ-системы для общественной и национальной безопасности. В ходе испытаний Mythos смогла выявить ряд уязвимостей в секретных системах, хотя это не означает, что модель сразу получила возможность их эксплуатировать.

О результатах тестирования ранее упомянул сенатор от штата Вирджиния Марк Уорнер во время слушаний в Сенате 11 июня. По его словам, инструмент «взломал почти все наши секретные системы не за недели, а за часы». Он сослался на информацию от главы Агентства национальной безопасности и Киберкомандования, генерала Джошуа Радда.

ВАС ЗАИНТЕРЕСУЕТ

ИИ, который перевернет работу правительств и бизнеса, появится уже через несколько месяцев — Five Eyes

Эта история появилась на фоне споров между Anthropic и администрацией президента США Дональда Трампа по поводу контроля над передовыми моделями ИИ. В начале июня администрация потребовала от компании ограничить доступ иностранных пользователей к новейшим моделям Fable 5 и Mythos 5 из-за потенциальных рисков для кибербезопасности. Anthropic отключила передовые ИИ для всех, хотя и заявила, что не согласна с этим решением.

После этого более 100 экспертов и представителей технологических компаний, в числе которых Adobe и Nvidia, обратились к правительству с призывом отменить ограничения. В письме отмечается, что модели Anthropic эффективно выявляют программные уязвимости и помогают в защите систем, но не обладают уникальными возможностями по сравнению с другими современными моделями.

Еще до отключения Fable 5 и Mythos 5 эксперты критиковали компанию за то, что установленные ограничения срабатывают слишком часто и блокируют безобидные запросы. Если система считала запрос потенциально рискованным, чат автоматически приостанавливался. В таком случае пользователь мог получить уведомление о том, что механизмы безопасности обнаружили темы, связанные с кибербезопасностью или биологией.