Компания Anthropic заявила, что Министерство торговли США отменило ограничения на доступ к её самым современным моделям искусственного интеллекта Fable и Mythos — менее чем через три недели после того, как компании было предписано приостановить доступ к этим ИИ-моделям из-за рисков для национальной безопасности. Об этом сообщает Reuters.
В письме к Anthropic от министра торговли США Говарда Лутника, с которым ознакомилось агентство Reuters, отмечается, что компания согласилась тесно сотрудничать с правительством США над протоколами для Mythos, Fable и будущих моделей ИИ, а также информировать американское правительство о любой злонамеренной деятельности. В то же время Лутник отметил, что ведомство «оставляет за собой право пересмотреть решения, изложенные в этом письме, а также необходимость возобновления требования о лицензировании, если обстоятельства изменятся или Anthropic не выполнит свои обязательства».
Распоряжение от 12 июня, обязывавшее Anthropic немедленно ограничить доступ к Mythos 5 и Fable 5 для иностранных граждан, вынудило компанию заблокировать обе модели для всех пользователей, поскольку не было возможности проверять гражданство в режиме реального времени.
На прошлой неделе правительство США разрешило компании выпустить Mythos 5, но только для некоторых «надежных» американских организаций. Эта модель, предназначенная для выявления уязвимостей в кибербезопасности, ранее была доступна более широкому кругу компаний в рамках проекта Glasswing.
Anthropic заявила, что сотрудничает с правительством США с целью расширения доступа к Mythos 5 для более широкого круга американских и международных партнеров в рамках программы Glasswing. Модель Fable 5, предназначенная для широкой общественности и оснащенная более надежными мерами безопасности, будет доступна со среды, 1 июля.
Компания также сотрудничает с Amazon, Microsoft, Google и другими партнерами в рамках Glasswing над разработкой общих стандартов для оценки и устранения потенциальных способов обхода мер безопасности.
Модель Mythos 5, по словам экспертов, способна находить и использовать уязвимости в системах кибербезопасности с недостижимой ранее скоростью. Fable 5 — это «упрощенная» версия этой модели. Именно поэтому власти США, ссылаясь на соображения безопасности, запрещали иностранным гражданам доступ к этим моделям. Компания Anthropic в настоящее время заявляет, что внедрила новый защитный механизм.
Решение об экспортных ограничениях появилось вскоре после подписания указа администрации президента США Дональда Трампа о тестировании самых мощных моделей искусственного интеллекта перед их запуском.
Администрация Трампа сталкивается с дилеммой: с одной стороны, США пытаются усилить меры защиты и регулирования ИИ, но с другой — чрезмерное регулирование может нанести вред конкурентоспособности американских технологий на фоне развития китайских моделей.
Исполнительный директор некоммерческой организации Frontier Security Institute Айзек Харрис отметил, что в настоящее время, по всей видимости, идет процесс разработки стандартов для американских моделей ИИ.
«Остается вопрос, как администрация (президента США — ред.) будет реагировать на столь же опасные возможности из Китая, которые имеют меньше защитных механизмов», — добавил он.
Отношения Anthropic с правительством США были особенно напряжёнными. Компания заявила, что не хочет допустить использования искусственного интеллекта для «массовой слежки внутри страны» или в полностью автономных системах вооружения. Пентагон определил Anthropic как «риск для цепочки поставок», запретив подрядчикам использовать искусственный интеллект этой компании при работе на американскую армию.
Существует соблазн рассматривать искусственный интеллект как чисто технологическую проблему. Однако ИИ становится инструментом силы. Логика проста: кто контролирует его — тот влияет на экономику, безопасность и глобальные правила игры, писал в статье для ZN.UA Алексей Костенко.
О том, как история с блокировкой доступа к моделям ИИ может изменить будущее регулирования искусственного интеллекта, Костенко рассказывал в статье «Государство может отключить искусственный интеллект. Почему блокировка новых моделей Claude — урок для Украины».
Подробнее о том, почему ИИ — это уже не о технологиях, а о политическом влиянии и контроле над будущим, — в материале «Пока Украина разрабатывает стратегию ИИ, мир уже делит влияние на него».