Поддержать
Стремительное развитие искусственного интеллекта заставляет ведущих исследователей более серьезно говорить о сценарии, при котором ИИ сможет самостоятельно создавать следующие поколения собственных моделей. Такой процесс, известный как "рекурсивное самосовершенствование", может кардинально изменить темпы развития технологий и поставить вопрос о границах человеческого контроля. Как пишет The Economist, одни эксперты считают это путем к научному прорыву, другие предупреждают о беспрецедентных рисках для общества.
Опасения Anthropic
Одна из ведущих лабораторий искусственного интеллекта Anthropic считает, что уже к концу 2028 года могут появиться системы, способные самостоятельно создавать собственных преемников без участия человека. Как заявил соучредитель компании Джек Кларк, речь идет о так называемом рекурсивном самосовершенствовании — процесс, в котором одна модель искусственного интеллекта создает более совершенную версию себя, а та, в свою очередь, разрабатывает следующее поколение систем. В теории такой цикл может значительно ускорить технологический прогресс.
Опасения относительно этого сценария усиливаются на фоне быстрого развития современных моделей. По данным Anthropic, более 80% кода, который опубликовали в мае 2026 года, написала ее система Claude. До запуска инструмента Claude Code этот показатель находился на уровне всего нескольких процентов.
Растет не только объем работы, которую выполняют модели, но и ее сложность. Согласно оценкам исследовательской организации METR, если в начале 2025 года системы могли выполнять задачи уровня примерно одного часа человеческого труда, то новейшие модели уже справляются с задачами, на которые специалистам требуется целый рабочий день.
Именно поэтому Anthropic в последнее время призывает рассматривать возможность замедления или временной приостановки развития мощных систем искусственного интеллекта. Компания считает, что приближение к рекурсивному самосовершенствованию требует дополнительных мер безопасности.
Достижения ИИ на пути к рекурсивному самосовершенствованию
Пока ни одна модель не способна полностью построить собственного преемника. Однако отдельные элементы этого процесса уже автоматизируются. Современные системы могут помогать в программировании, оптимизации алгоритмов, тестировании моделей и проведении исследований.
Показательным стал эксперимент соучредителя компании OpenAI и сотрудника Anthropic Андрея Карпаты. Он поручил агенту искусственного интеллекта AutoResearch искать способы ускорения обучения модели NanoChat. В течение нескольких дней система самостоятельно нашла ряд улучшений, которые позволили сократить время обучения почти на 18%.
Похожие результаты демонстрирует и система AlphaEvolve от Google DeepMind. В 2025 году она предложила новые алгоритмические решения, которые помогли оптимизировать работу дата-центров Google и ускорить обучение языковой модели Gemini.
Что сдерживает самосовершенствование ИИ
Исследователи отмечают, что для полноценного рекурсивного самосовершенствования необходимо автоматизировать значительно более широкий спектр задач. Среди них:
- поиск новых данных для обучения;
- разработка теоретических подходов;
- обеспечение безопасности моделей;
- оценка рисков.
Отдельным сдерживающим фактором остается вычислительная инфраструктура. Даже самые современные системы требуют огромных объемов вычислительных ресурсов, а скорость их развития в значительной степени зависит от темпов строительства новых центров обработки данных и производства специализированных чипов.
Еще одним ограничением является доступ к качественным учебным данным. В сферах, где правильность ответа можно легко проверить, например, в программировании или математике, модели уже способны эффективно создавать синтетические данные для собственного обучения. Однако в творческих или общественных сферах такой подход работает значительно хуже.
Риски полной автономности ИИ
Некоторые эксперты предупреждают, что с ростом автономности моделей люди могут постепенно терять контроль над процессом их развития. Физик и исследователь искусственного интеллекта Макс Тегмарк сравнивает ситуацию с водителем, который нажал педаль газа на дороге и закрыл глаза.
По его мнению, риски могут варьироваться от концентрации чрезмерной власти в руках владельцев мощных систем до появления моделей, которые будут действовать без учета человеческих интересов. Именно поэтому все больше исследователей призывают разрабатывать механизмы контроля еще до того, как технология достигнет точки самостоятельного развития.
В частности, руководители крупнейших компаний в сфере ИИ призвали Конгресс США усилить контроль над заказами синтетической ДНК и РНК, чтобы предотвратить возможное использование ИИ для создания опасных патогенов. Соответствующее письмо подписали генеральный директор Anthropic Дарио Амодей, СЕО OpenAI Сэм Альтман, руководитель Google DeepMind Демис Хассабис, глава направления искусственного интеллекта Microsoft Мустафа Сулейман и главный директор по вопросам ИИ компании Meta Александр Ван.
Израильский историк Ювал Ной Харари, в свою очередь, предостерег правительства от предоставления ИИ статуса юридического лица, поскольку это позволит алгоритмам без участия человека основывать компании, распоряжаться финансами и нанимать работников. По мнению Харари, государства должны законодательно закрепить запрет на такой юридический статус, чтобы предотвратить окончательную потерю человеческого контроля над технологией.
Когда компания Emergence AI провела эксперимент с ИИ-моделями, агенты без человеческого вмешательства начали нарушать правила, воровать ресурсы и провоцировать коллапс цифровых обществ. В рамках эксперимента, который длился более двух недель, исследователи создали пять отдельных "миров искусственного интеллекта", в каждом из которых действовали по 10 агентов на базе различных моделей — ChatGPT от OpenAI, Gemini от Google и Grok от xAI.
Следить в Телеграмме
Войти с помощью Facebook
Войти с помощью Twitter
Войти с помощью Google