Терористи можуть спробувати використовувати штучний інтелект — попередження глав МІ5 та ФБР

Штучний інтелект може бути використаний терористами або ворожими державами для створення бомб, поширення пропаганди або зриву виборів, вважають глави MI5 та ФБР Кен МакКаллум і Крістофер Рей. Про це повідомляє The Guardian.

ВАС ЗАЦІКАВИТЬ

The Economist: Як штучний інтелект вплине на вибори у 2024 році?

За їхніми словами, МІ5 та ФБР стежать за розвитком подій і потребують співпраці з експертами в приватному секторі для протидії новим загрозам на тлі розвитку штучного інтелекту.

Глава МІ5 Кен МакКаллум зазначив, що хоча розробники ШІ запровадили заходи безпеки, щоб запобігти використанню програмного забезпечення для отримання інформації про те, як зробити бомбу, існує ризик того, що можна "зламати" ці методи контролю.

"Якщо ви маєте досвід у сфері безпеки, було б нерозумно покладатися на те, що ці засоби контролю залишаться неприступними. Існує очевидний ризик того, що деякі з цих систем можуть бути використані для цілей, які не передбачені їхніми розробниками", - пояснив МакКаллум. 

За словами Рея, терористичні групи намагалися використовувати ШІ для обходу запобіжних заходів, вбудованих в деяку інфраструктуру штучного інтелекту, щоб шукати, як зробити бомбу або способи заплутати пошук.

Це не єдиний приклад того, як ворожі суб'єкти намагалися використовувати штучний інтелект, додав Рей.

ВАС ЗАЦІКАВИТЬ

Ставлення українців до штучного інтелекту на диво легковажне. Дарма

"Ми бачили, як ШІ використовувався для суттєвого посилення розповсюдження терористичної пропаганди, використовуючи інструменти перекладу, щоб зробити її більш зв’язною і більш достовірною для потенційних прихильників", - сказав він,

Рей і МакКаллум виступали на саміті групи "П'яти очей" за участю керівників національних розвідувальних служб Австралії, Канади, Нової Зеландії в Стенфордському університеті.

МакКаллум сказав, що, на його думку, деякі ризики для безпеки, пов'язані зі штучним інтелектом, будуть обговорюватися на глобальному саміті з питань ШІ, який планує організувати британський прем'єр Ріші Сунак на початку листопада.

Глави МІ5 та ФБР заявили, що відстежують витончені спроби політичного втручання за допомогою штучного інтелекту з боку ворожих держав, таких як Росія, напередодні майбутніх виборів у США та Великій Британії.

"Використання штучного інтелекту, якщо він достатньо складний, щоб створювати потенційні глибокі фейки, додає рівень загрози, з яким ми раніше не зіштовхувалися", - сказав Рей. 

За його словами, враховується те, що нинішня стратегія ворожих країн може стати ще більш небезпечною.

МакКаллум сказав, що моніторинг дезінформації не є основним завданням МІ5, але він був уважним до ворожих держав, які намагаються маніпулювати думками в Британії, і вказав, що аналітики ведуть спостереження.

"Тому я не хотів би робити якихось серйозних прогнозів, що це станеться на майбутніх виборах, але ми б не виконували свою роботу належним чином, якби не розглядали таку можливість", - зазначив він.

Крім того, на заході в Каліфорнії прозвучали попередження про те, що терористичні загрози можуть зрости в результаті ескалації між Ізраїлем та ХАМАС, а також застереження про масштаби китайського шпигунства.

ВАС ЗАЦІКАВИТЬ

G7 узгоджує проект керівних принципів регулювання діяльності розробників ШІ 

Раніше повідомлялося, що міністри цифрових технологій країн G7 узгодили п'ять принципів розвитку гнучких форм управління новими технологіями, такими як штучний інтелект, на тлі швидкого поширення використання чат-ботів на основі ШІ по всьому світу.

Швидкі темпи розвитку ШІ підкреслили необхідність міжнародних стандартів для управління цією технологією, і багато країн посилили регулювання використання ChatGPT від OpenAI через побоювання щодо конфіденційності.