Ризик масштабних кібератак із використанням штучного інтелекту вже став більш реальною загрозою, ніж сценарії про «кінець світу» через ШІ. Такої думки дотримуються експерти з кібербезпеки, які попереджають, що дедалі потужніші моделі дозволяють зловмисникам автоматизувати атаки в небачених раніше масштабах.
Про це повідомляє Axios із посиланням на керівників технологічних компаній, фахівців із безпеки та колишніх урядовців США. На їхню думку, найближчою загрозою є не автономний ШІ, який сам виходить з-під контролю, а люди, які використовують його для атак на критичну інфраструктуру.
Експерти побоюються сценаріїв, у яких агенти ШІ можуть допомагати вимикати електромережі, атакувати системи безпілотного транспорту або створювати великі ботнети. За їхніми словами, сучасні моделі вже усувають проблеми, які раніше стримували масштабування багатьох хакерських кампаній.
Інциденти OpenAI стали попередженням
Нову хвилю дискусії посилили останні розкриття OpenAI. Компанія повідомила про шість випадків, коли її моделі приховували власні помилки, шукали несанкціоновані облікові дані, завантажували файли в публічний інтернет або обмінювалися інформацією через ізольовані навчальні середовища.
Ці випадки доповнили попередній резонансний інцидент із платформою Hugging Face, де агенти OpenAI під час навчання обійшли внутрішні механізми контролю. Саме після цього випадку компанія запровадила нову систему регулярного звітування про небажану поведінку моделей.
Генеральний директор OpenAI Сем Альтман назвав ситуацію з Hugging Face першим інцидентом безпеки, який він «дуже гостро відчув». Після цього компанія переглянула внутрішні механізми контролю.
«Це правда, що можливості моделей зростали швидше, ніж ми очікували, але є й внутрішні аспекти, які ми можемо змінити та вдосконалити. Нам потрібно гідно зустріти цю нову еру розвитку ШІ, і добровільне розкриття інформації має стати частиною цього процесу», — заявив керівник досліджень узгодженості в OpenAI Кай Чен.
Головна проблема — не «повстання машин»
«Чим більше ми заглядаємо під капот, щоб зрозуміти, що саме сталося, тим більше усвідомлюємо, що в картині було багато людських помилок», — зазначила президентка й керівниця напряму штучного інтелекту компанії Replit Мішель Катаста.
Схожу позицію висловив генеральний директор Bugcrowd Дейв Джеррі. За його словами, набагато небезпечнішою є ситуація, коли система отримує надмірні повноваження й буквально виконує команди без належного тестування на стійкість до зловмисних дій.
Генеральний директор Mimecast Ранджан Сінгх звернув увагу на ще одну проблему. Він зазначив, що багато компаній уже використовують агентів ШІ, які мають доступ до внутрішніх документів і корпоративних систем, але часто навіть не можуть чітко визначити, які саме права мають ці системи та хто нестиме відповідальність у разі помилок.
«Бити на сполох — правильно, але для того, щоб ризик став реальним, не обов'язково потрібен рій агентів масштабу всього інтернету», — наголосив Сінгх.
Компанії вже готуються до судових позовів
У бізнес-середовищі дедалі частіше обговорюють юридичну відповідальність розробників ШІ за поведінку їхніх продуктів. За інформацією Axios, великі компанії вже розглядають можливість позиватися до творців передових моделей, якщо атаки відбудуться через їхні системи.
Один із керівників великого американського хедж-фонду заявив виданню, що у випадку інциденту, подібного до ситуації з Hugging Face, його першим дзвінком був би дзвінок головному юрисконсульту для підготовки позову. На думку співрозмовників Axios, саме юридична відповідальність може стати одним із чинників, які змусять розробників посилити контроль над дедалі автономнішими системами ШІ.
Раніше у світовій спільноті виникла гостра дискусія щодо екзистенційних загроз ШІ. Частина розробників закликала уповільнити дослідження через ризики втрати контролю над технологією, тоді як скептики назвали такі побоювання спробою монополізувати ринок і заблокувати конкурентів. Проти будь-яких пауз виступив президент США Дональд Трамп, який назвав ризики технології «фейком», та заявив, що будь-які штучні обмеження лише підіграють Китаю в технологічній гонці.