До 20 лет тюрьмы за сверхинтеллект: в США предлагают криминализировать создание сверхразумного ИИ

После того как Китай уже создал одну из самых жестких в мире систем государственного регулирования искусственного интеллекта, сенатор США Берни Сандерс и конгрессмен Грег Касар представили законопроект о запрете разработки искусственного суперинтеллекта в США. Документ предусматривает уголовную ответственность с наказанием до 20 лет лишения свободы за создание систем, которые достигают или превосходят человеческие когнитивные способности.

Американский когнитивист, исследователь и критик современного ИИ Гэри Маркус заявил, что поддерживает идею более жесткого регулирования отрасли, однако считает предложенный запрет слишком радикальным. По его мнению, она может ослабить позиции США в сфере ИИ и отвлечь внимание от уже существующих рисков.

«Лидеры индустрии искусственного интеллекта признают, что создают опасную технологию, которую не могут контролировать. Нам нужна немедленная глобальная ПАУЗА в разработке передового искусственного интеллекта, пока не поздно», — написал Сандерс в социальной сети X.

ВАС ЗАИНТЕРЕСУЕТ

Риск потери контроля: OpenAI, Anthropic, Google и Meta призвали к регулированию развития ИИ

Маркус отметил, что видит аргументы в пользу временной паузы в развитии самых мощных систем, но выступает против бессрочного одностороннего запрета на разработки. Он добавил: «Нам, безусловно, нужно агентство по вопросам ИИ — о чём я лично говорил в Сенате США в 2023 году, — но постоянный односторонний запрет на любые исследования в области сверхчеловеческого ИИ — это слишком радикальный шаг; это гарантированно привело бы к отставанию США и не является правильным подходом».

По словам Маркуса, законопроект также опирается на слишком узкое понимание оценки возможностей моделей и создает риск того, что авторитарные страны получат преимущество. Он считает, что документ в большей степени сосредоточен на гипотетических сценариях потери контроля над суперинтеллектом, чем на реальных проблемах, которые уже возникают из-за современных систем ИИ.

Аналогичную позицию выразила вирусолог Анджела Расмуссен, которая призвала уделять больше внимания существующим угрозам. По её мнению, запреты не должны основываться исключительно на предположениях о будущих рисках.

ВАС ЗАИНТЕРЕСУЕТ

«Аварийный выключатель» против открытого кода: программист и главный научный сотрудник Meta спорят о регулировании ИИ

В качестве альтернативы Маркус поддержал предложение астрофизика Энтони Агирре. Оно предусматривает, что разработка узкоспециализированных систем ИИ может продолжаться, тогда как создание более автономных и универсальных моделей должно разрешаться только после подтверждения независимым органом их безопасности, надлежащего контроля и согласования целей (alignment).

По мнению Маркуса, такой подход устанавливает высокую планку без полного запрета исследований и стимулирует компании доказывать безопасность своих систем. Он призвал использовать законопроект Сандерса и Касара как основу для более широкой дискуссии об эффективном регулировании ИИ, а не как окончательное решение.

Напомним, что администрация президента США Дональда Трампа существенно смягчила подход к регулированию отрасли ИИ. Сначала Белый дом за несколько часов до церемонии подписания отказался от жесткой версии указа об усиленном государственном надзоре из-за опасений затормозить инновации и ослабить конкурентные позиции США. Впоследствии Трамп подписал упрощённый вариант документа: он обязал силовые ведомства усилить киберзащиту и отслеживать риски, связанные с передовыми алгоритмами, однако прямо запретил вводить обязательное государственное лицензирование или обязательное предварительное одобрение новых ИИ-систем перед выходом на рынок.