Підтримати
Розробник штучного інтелекту Anthropic заявив, що світові ШІ-лабораторії мають розглянути можливість уповільнення розвитку найпотужніших систем. У компанії вважають, що технологія наближається до етапу, коли моделі зможуть самостійно вдосконалювати себе без участі людини. У Anthropic попереджають, що такий сценарій може призвести до масштабних суспільних наслідків, а інститути та регулятори можуть виявитися неготовими до нової реальності, передає The Wall Street Journal.
Наближення до “рекурсивного самовдосконалення”
Компанія Anthropic опублікувала заяву, в якій закликала провідні лабораторії штучного інтелекту розглянути можливість уповільнення темпів розвитку галузі. Автори матеріалу — співзасновник компанії Джек Кларк та керівниця внутрішнього дослідницького інституту Марина Фаваро — стверджують, що сучасні ШІ-моделі швидко наближаються до порогу так званого рекурсивного самовдосконалення.
Йдеться про гіпотетичну ситуацію, коли системи штучного інтелекту зможуть покращувати власні можливості без втручання людини. У компанії наголошують, що цей момент ще не настав та не є неминучим, однак він може настати раніше, ніж більшість державних та суспільних інституцій будуть до нього готові.
“Ми вважаємо, що для світу було б корисно мати можливість уповільнити або тимчасово призупинити розвиток передових технологій ШІ, щоб соціальні структури та дослідження з узгодження цілей встигали за прогресом технологій”, — наголосили автори публікації.
Розроблення міжнародної угоди
У документі пропонується розробити міжнародну угоду, яка б дозволила координувати можливе уповільнення розвитку ШІ та перевіряти, чи дотримуються учасники домовленостей. Anthropic визнає, що реалізувати такий механізм буде складно, адже процес навчання моделей значно легше приховати, ніж, наприклад, військову інфраструктуру.
Компанія порівнює майбутню систему контролю з міжнародними договорами щодо ядерного озброєння. Водночас у блозі зазначається, що будь-яка пауза матиме сенс лише за умови широкої підтримки, оскільки країна або компанія, яка продовжить розробку, може отримати значну конкурентну перевагу.
“Такого роду технології раніше не існувало, але я вірю, що це може статися вже протягом найближчих двох років, а можливо, й раніше”, — заявляв Кларк під час лекції в Оксфордському університеті, де також припускав, що ШІ вже протягом наступних 12 місяців може допомогти людям зробити відкриття рівня Нобелівської премії.
План дій Anthropic
Внутрішній дослідницький центр Anthropic разом із зовнішніми експертами вивчатиме та створить “системи, необхідні для надійного уповільнення або призупинення роботи”. Найближчими місяцями компанія проведе обговорення з політиками та науковцями щодо “рекурсивного самовдосконалення” технологій.
“Настав час спільно розглянути ці питання, і до цього обговорення слід залучити людей, які не працюють у компаніях, що займаються штучним інтелектом”, — зазначили автори публікації.
Критика політики Anthropic
Anthropic останніми роками послідовно позиціює себе як один із головних прихильників безпечного розвитку штучного інтелекту. Проте критики компанії стверджують, що її ініціативи можуть також допомагати стримувати конкурентів. Зокрема, неформальний радник президента США Дональда Трампа Девід Сакс звинувачував керівництво Anthropic у просуванні “регуляторного захоплення” та попереджав про обмеження розвитку моделей з відкритим кодом.
Anthropic також конфліктувала з Пентагоном через обмеження використання її ШІ-моделі Claude для масового стеження та створення автономної зброї. Після зриву переговорів Міністерство оборони США внесло компанію до списку ризиків для ланцюга постачань та заборонило використання її технологій.
Скептики вважають, що частина заяв про ризики ШІ може виконувати маркетингову функцію. Як приклад вони наводять рішення компанії обмежити доступ до потужної моделі кібербезпеки Mythos, одночасно наголошуючи на її високих можливостях.
Паралельно керівники найбільших компаній у сфері штучного інтелекту, серед яких генеральний директор Anthropic Даріо Амодей, закликали Конгрес США посилити контроль над замовленнями синтетичної ДНК та РНК, щоб запобігти можливому використанню ШІ для створення небезпечних патогенів. Відповідний лист підписали СЕО OpenAI Сем Альтман, керівник Google DeepMind Деміс Хассабіс, очільник напряму штучного інтелекту Microsoft Мустафа Сулейман та головний директор з питань ШІ компанії Meta Александр Ван.
Стежити у Телеграмі
Увійти за допомогою Facebook
Увійти за допомогою Twitter
Увійти за допомогою Google