«Екзистенційні ризики»: навіщо прем'єр Великої Британії збирає саміт щодо ШІ

Прем'єр-міністр Великої Британії Ріші Сунак оголосив, що восени в його країні відбудеться глобальний саміт з безпеки штучного інтелекту (ШІ), оскільки зростають побоювання, що стрімкий розвиток технології може вийти з-під контролю.

Після прориву в галузі генеративного ШІ, який може створювати переконливий текст, зображення і навіть голос по команді, зростає занепокоєння щодо безпеки, і серед діячів, які висловлюють тривогу, такі технологічні керівники, як Ілон Маск. Що можна очікувати від саміту, розповідає The Guardian.

Яка мета саміту?

В останні тижні прем'єр-міністр змінив свій тон щодо ШІ. Якщо раніше він був налаштований оптимістично щодо нових можливостей, то тепер він почав говорити про "екзистенційні ризики".

Сунак намагається позиціонувати Велику Британію як природний центр для зусиль регулювання галузі в глобальному масштабі, який може стати мостом між США та Китаєм і запропонувати альтернативу підходу ЄС, який деякі вважають жорстким.

Уряд заявляє, що це буде "перший глобальний саміт з безпеки ШІ", на якому будуть розглянуті ризики, пов'язані з технологією, та обговорені шляхи їх зниження через "скоординовані на міжнародному рівні дії".

ВАС ЗАЦІКАВИТЬ

Китай планує побудувати на Кубі станцію для шпигунства за військовими базами США – WSJ

Чи потрібні скоординовані дії на міжнародному рівні?

Професіонали галузі відчувають занепокоєння щодо ШІ та попереджають про його небезпеки. Ілон Маск був одним із понад 50 тисяч осіб, які підписали в березні лист із закликом негайно призупинити розробку "гігантських" ШІ, а також створити "надійні системи управління ШІ".

Занепокоєння щодо можливої екзистенційної загрози з боку системи, яку людина не зможе контролювати, не є загальним. Багато представників технологічної галузі стверджують, що увага має бути більш пильною, наприклад, до потенціалу генеративного ШІ, який може створювати правдоподібні імітації тексту, зображень та голосу, що може призвести до дестабілізуючої дезінформації під час політичних виборів.

ВАС ЗАЦІКАВИТЬ

Акула в Єгипті з'їла росіянина

Як могла би виглядати глобальна структура?

Договір про нерозповсюдження ядерної зброї, який уклали за посередництва ООН і який набрав чинності 1970 року, є прикладом глобальної спроби пом'якшити екзистенційну загрозу. Міжнародне агентство з атомної енергії слідкує за дотриманням договору шляхом проведення інспекцій. Договір сприяє поширенню мирного використання ядерної енергії.

Лист, який закликає зробити шестимісячну паузу в розробці ШІ, дає уявлення про те, що може входити до таких рамок. Він закликає до створення спеціальних регулюючих органів, державного фінансування досліджень у галузі безпеки, а також до нагляду та відстеження потужних систем.

ВАС ЗАЦІКАВИТЬ

Мозок космонавтів страждає від тривалих польотів у космос: відкриті нові деталі

Чи може система, подібна до угоди про ядерну зброю, досягти успіху щодо ШІ?

Як і у випадку з ядерною зброєю, необхідно створити таку систему, яка зможе впоратися з тим, що вже існує та активно розвивається. Чат-бот ChatGPT завоював аудиторію в 100 мільйонів користувачів протягом двох місяців після свого запуску, а підроблене зображення Папи Римського в куртці Balenciaga підкреслило здатність генеративного ШІ обманювати.

Pope Francis in Balenciaga deepfake fools millions: 'Definitely scary' https://t.co/c8aKglruXa pic.twitter.com/7Uz8ivm1ak

- New York Post (@nypost) March 28, 2023

Минулого місяця один із інженерів Google попередив, що компанія може програти через технології ШІ з відкритим вихідним кодом. Такі розробники надають свої напрацювання всім охочим для використання, покращення або адаптації на власний розсуд, що ускладнює обмеження використання моделей з відкритим вихідним кодом.

Китай, швидше за все, не братиме участі в саміті у Великій Британії, який буде відкритий для технологічних компаній та "країн-однодумців". Тобто міжнародна структура, покликана поставити огороджувальні бар'єри навколо розвитку ШІ, може залишитись без участі одного зі світових лідерів у галузі технологій та ІІ.

ВАС ЗАЦІКАВИТЬ

Творець «Чорного дзеркала» попросив ChatGPT згенерувати епізод серіалу і розчарувався

Що вже відбувається у сфері регулювання ШІ?

ЄС досяг значних успіхів у цій галузі та пропонує законодавство, яке вважатиметься передовим для регулювання ШІ, підтверджуючи статус блоку як провідного регулятора у сфері технологій.

У "Білій книзі" Великої Британії з ШІ викладено низку принципів, яких має дотримуватися галузь, але конкретних правил щодо її регулювання майже немає. Міністри розчарували деяких експертів, відмовившись від ідеї створення нового регулятора, який займатиметься виключно ШІ.

"Велика сімка" домовилася про створення міжурядового форуму під назвою "Хіросимський процес ШІ" для обговорення питань, пов'язаних з інструментами, які швидко розвиваються.