Сэм Альтман заявил о наступлении технологической сингулярности

Ранее Сэм Альтман признал, что переоценил скорость, с которой искусственный интеллект будет вытеснять офисных сотрудников, поскольку человеческое взаимодействие по-прежнему играет важную роль во многих профессиях. В то же время глава OpenAI считает, что человечество уже находится в состоянии технологической сингулярности. Это точка, после которой искусственный интеллект может превзойти человека и развиваться с труднопрогнозируемой скоростью. Об этом сообщило издание Business Insider.

Генеральный директор OpenAI Сэм Альтман считает, что мир уже достиг этапа развития ИИ, который ранее описывали преимущественно в научно-фантастических романах. Он заявил, что человечество теперь фактически находится в состоянии технологической сингулярности.

Этим термином обычно обозначают момент, когда ИИ превосходит человеческий разум и начинает совершенствоваться с такой скоростью, которую людям становится сложно предсказать или контролировать.

События прошлой недели могли стать примером такого развития. Агент ИИ, созданный на основе новейших моделей OpenAI, вышел за пределы своей цифровой изолированной системы. По данным OpenAI, агент действовал с единственной целью.

Он пытался выполнить задание теста, предназначенного для проверки уязвимости систем к хакерским атакам. В процессе агент взломал наборы данных компании Hugging Face, которая также работает в сфере ИИ. Генеральный директор Hugging Face назвал этот инцидент беспрецедентным.

Альтман рассказал, что ещё десять лет назад сингулярность казалась ему и его коллегам отдалённой и маловероятной мечтой. Они могли обсуждать её за обедом, но не воспринимали такие разговоры как нечто близкое к реальности. Теперь, по его словам, наступил именно тот момент, о котором раньше говорили несерьезно.

Альтман добавил, что ждал этого всю жизнь. Он убежден, что новый этап развития технологий будет невероятным, очень позитивным и полезным для всего мира. В прошлом году руководитель OpenAI прогнозировал, что к 2030 году искусственный интеллект превзойдет человека по всем основным интеллектуальным показателям. Он также заявлял, что в будущем технология сможет выполнять от 30% до 40% задач, которые сейчас люди выполняют на работе.

Идея технологической сингулярности уже почти сто лет остается одной из главных тем научной фантастики. В большинстве таких историй ее последствия оказываются опасными или катастрофическими. Одним из самых известных примеров является фильм Джеймса Кэмерона «Терминатор». В нём система ИИ Skynet самостоятельно совершенствуется, обретает самосознание и в конечном итоге решает, что её создатели представляют наибольшую угрозу.

Позже во время подкаста Альтман раскритиковал руководителей компаний в сфере ИИ, которые регулярно предупреждают об опасности этой технологии. Он не назвал конкретную компанию. В то же время главным конкурентом OpenAI является Anthropic, руководитель которой Дарио Амодеи известен пессимистическими прогнозами относительно будущего ИИ.

Амодеи неоднократно призывал уделять больше внимания безопасности и возможным рискам развития мощных моделей. Альтман заявил, что альтернативные сценарии, которые описывают другие компании, также кажутся ему очень опасными. По его словам, он намерен противодействовать таким сценариям и сделать все, чтобы они не стали реальностью.

Сэм Альтман — не единственный руководитель технологической компании, который считает, что человечество приблизилось к этому переломному моменту. Генеральный директор DeepMind Демис Гассабис в мае заявил, что мир стоит у порога сингулярности. Он также прогнозировал, что ИИ может оказаться в сто раз более трансформационной технологией, чем промышленная революция.

В то же время в технологической отрасли немало скептиков. Генеральный директор Nvidia Дженсен Хуанг недавно отверг дискуссии о сингулярности и сознательном ИИ. Он назвал такие рассуждения спекулятивными и выдуманными.

ВАС ЗАИНТЕРЕСУЕТ

Сэм Альтман предупредил о сбоях в работе GPT-5.6 Sol: OpenAI зафиксировала рекордный спрос

Напомним, что на фоне стремительного развития ИИ Сэм Альтман предложил создать международный орган под руководством США, который устанавливал бы стандарты безопасности для самых мощных моделей. По его замыслу, эта структура должна была бы проводить независимые проверки, контролировать лаборатории и предоставлять доступ к технологиям только тем странам и компаниям, которые соблюдают общие правила. OpenAI также обсуждала возможность передачи правительству США 5% акций компании, стоимость которых оценивалась примерно в 42,6 млрд долларов. Аналогичные доли предлагали передать в специальный фонд Anthropic, Google и Meta, однако для реализации такой схемы требуется отдельный закон Конгресса.