Кінець “ШІ без обмежень”: Білий дім може запровадити перевірку нейромереж перед запуском

Адміністрація Дональда Трампа обговорює можливість запровадження державного нагляду за моделями штучного інтелекту. Йдеться про можливу перевірку систем до їхнього публічного запуску. Зміна курсу відбувається після появи потужних та потенційно небезпечних технологій, таких як Mythos від Anthropic, повідомляє The New York Times.

Деталі можливого нового нагляду за ШІ

За словами американських чиновників, Білий дім обговорює створення спеціальної робочої групи, яка займатиметься оцінкою таких систем. Йдеться про потенційний указ, який об’єднає представників уряду та технологічних компаній для розробки процедур контролю. Серед ідей — формалізований процес перевірки нових моделей ШІ перед їхнім запуском.

Раніше урядовці Білого дому провели зустрічі з керівниками Anthropic, Google та OpenAI, де обговорювали ці ініціативи. За даними джерел NYT, робоча група може орієнтуватися на підхід Великої Британії, де кілька державних органів контролюють відповідність ШІ стандартам безпеки.

OpenAI презентувала урядам новий кіберінструмент з розширеними можливостями ШІ

Зокрема, в Білому домі розглядають можливість залучення кількох структур до контролю за ШІ, зокрема офісу національного кібердиректора та розвідувальних органів. Додатково можуть переглянути роль Центру стандартів та інновацій у сфері ШІ, створеного за адміністрації Байдена.

Зміна політики Трампа

Обговорення означають різкі зміни в політиці адміністрації Трампа щодо штучного інтелекту. Після повернення до влади він дотримувався стратегії розвитку технологій без жодних регуляторних обмежень, прагнучи забезпечити США беззаперечне глобальне лідерство у перегонах із Китаєм. 

“Ми зробимо цю галузь абсолютно провідною, адже зараз вона — як прекрасне немовля, що щойно народилося. Ми маємо виростити це немовля і дати йому можливість розвиватися… Ми не можемо зупинити його політикою. Ми не можемо зупинити його безглуздими правилами”, — заявляв Трамп раніше.

Федеральні агентства США тестують новий ШІ Anthropic попри заборону Трампа — Politico

Надзвичайний і повноважний посол України Сергій Корсунський у своїй статті “ШІ без обмежень: план Трампа як дороговказ до прірви” наголошував, що відсутність нагляду за нейромережами створює безпрецедентні ризики для світової безпеки та соціальної стабільності. Такий підхід, за його словами, ігнорує загрози дезінформації, використання технологій терористами та катастрофічні екологічні наслідки через надмірне споживання енергії дата-центрами.

Вплив Mythos від Anthropic

Додатковим фактором стала поява моделі Mythos від Anthropic. Компанія заявила, що система настільки ефективна у виявленні вразливостей у програмному забезпеченні, що може спричинити “переломний момент” у кібербезпеці, і вирішила не відкривати її для широкого доступу. Нещодавно адміністрація Дональда Трампа також заборонила масштабувати цей ШІ.

У Білому домі побоюються політичних наслідків можливих кібератак із використанням ШІ. Також адміністрація оцінює, чи можуть нові моделі бути корисними для Міністерства війни США та розвідувальних служб. Нагадаємо, що Пентагон вже уклав сім угод з провідними технологічними компаніями для використання їх інструментів.

OpenAI обмежує доступ до ШІ Cyber після критики подібної політики Anthropic

Реакція на повідомлення щодо можливих змін

Деякі чиновники виступають за систему, яка надасть уряду пріоритетний доступ до нових моделей без блокування їхнього релізу. Водночас частина технологічних компаній застерігає, що надмірний контроль може сповільнити розвиток США у конкуренції з Китаєм.

Ймовірна зміна підходу відбувається на тлі зростання суспільного занепокоєння щодо впливу ШІ на робочі місця, енергоспоживання, освіту, конфіденційність і психічне здоров’я. За даними Pew Research Center, близько половини американців — як республіканців, так і демократів — більше стурбовані, ніж захоплені розвитком технології.

Офіційно Білий дім поки не підтвердив підготовку указу, називаючи обговорення “спекуляціями”. Остаточне рішення, за словами представників адміністрації, має оголосити сам президент.

Ажіотаж довкола Mythos від Anthropic: чому нова модель ШІ налякала уряди та світові банки

Конфлікт Anthropic з Пентагоном

Ситуацію ускладнює конфлікт між Anthropic і Пентагоном щодо контракту на 200 мільйонів доларів та використання ШІ у військових цілях. Міністерство війни США вимагало від компанії надати доступ до моделі Claude для “всіх законних цілей”, тоді як Anthropic наполягала на обмеженнях, зокрема щодо застосування ШІ в масовому стеженні та автономній зброї. 

Згодом міністр оборони Піт Гегсет офіційно визнав Anthropic ризиком для ланцюга постачання, що фактично мало заблокувати використання її продуктів у контрактах Пентагону й не тільки. Anthropic намагається оскаржити це рішення в суді, проте наразі він підтримав позицію Пентагону.

Попри це, технології Anthropic частково використовуються урядом, зокрема в системі Maven для аналізу розвідданих і визначення цілей. Також модель Mythos застосовувалася Агентством національної безпеки для оцінки кіберзагроз.