Лауреат Нобелівської премії з фізики, когнітивний психолог та інформатик Джеффрі Гінтон, якого називають «хрещеним батьком штучного інтелекту», заявив, що оцінює ймовірність знищення людства через ШІ приблизно у 10%, хоча визнає, що точно розрахувати такий ризик неможливо. В інтерв'ю BBC Newsnight він також закликав світових лідерів активніше регулювати розвиток ШІ, оскільки, на його думку, часу на підготовку залишається дедалі менше.
«10% здаються мені цілком обґрунтованою оцінкою, хоча насправді ніхто не знає, як зробити це точно», — заявив Гінтон.
Чому Гінтон вважає ризик реальним
Науковець пояснив, що людство вперше створює системи, які незабаром можуть перевершити людей за рівнем інтелекту. Саме тому, за його словами, неможливо спиратися на попередній досвід, щоб точно передбачити наслідки.
Гінтон вважає, що суперінтелекту навіть не обов'язково діяти у фізичному світі, щоб спричинити катастрофу. Він може створювати хаос через спілкування з людьми, організовувати масштабні кібератаки або розробляти небезпечні біологічні й комп'ютерні віруси. З цією думкою погоджується й футуролог Ювал Ной Харарі, який раніше заявив, що ШІ здатний отримати контроль над людством через поступове підпорядкування бюрократичних інституцій, інформаційних потоків та ухвалення рішень без участі людини.
«Ми повинні з'ясувати, як створити його так, щоб воно цього не захотіло», — наголосив Гінтон.
За словами науковця, його власні оцінки часу до появи потенційно небезпечного суперінтелекту постійно скорочувалися. Якщо раніше він говорив про 30–50 років, потім про 10–20 років, то тепер припускає, що може залишитися приблизно десять років або навіть менше.
ШІ-перегони
Гінтон вважає, що розробники ШІ повинні одночасно робити системи розумнішими й працювати над мінімізацією вже відомих ризиків. Однак, на його думку, великі технологічні компанії сьогодні насамперед конкурують за створення дедалі потужніших моделей, оскільки саме це приносить короткостроковий прибуток. На цьому наголошує більшість дослідників ШІ, зокрема Трістан Гарріс, який закликав зупинити неконтрольовану гонку ШІ, адже корпорації привласнюють прибутки, а ризики перекладають на суспільство.
Водночас Гінтон підкреслив, що розвиток ШІ навряд чи можна просто зупинити. На відміну від ядерної зброї, ця технологія має величезну практичну користь — від охорони здоров'я та освіти до розробки нових ліків, а чат-боти вже зараз є корисними інструментами в повсякденному житті.
Світові лідери повинні діяти швидше
Головним рішенням Гінтон називає регулювання, але наголошує, що універсального рецепта не існує. За його словами, різні ризики потребують різних механізмів контролю, а міжнародна співпраця можлива насамперед у питаннях, де інтереси всіх держав збігаються.
Науковець навів приклад холодної війни, коли США та СРСР співпрацювали, щоб запобігти ядерній катастрофі. На його думку, подібна логіка має спрацювати й щодо ризику втрати людством контролю над ШІ.
Коментарі Гінтона пролунали невдовзі після публічного оголошення про звільнення дослідника Anthropic Джейкоба Коксона через побоювання, що неконтрольовані перегони за створення самовдосконалюваних ШІ-систем несуть загрозу вимирання людства. Позицію Коксона підтримали й інші інсайдерські голоси в індустрії, зокрема дослідник Anthropic Еван Гюбінгер, який оцінив ймовірність знищення людства штучним інтелектом протягом найближчого десятиліття більш ніж у 10%.