Запуск «взрослого режима» в ChatGPT отложили из-за опасений создать «сексуального консультанта по суициду» – WSJ

Компания OpenAI отложила запуск «взрослого режима» для чат-бота ChatGPT после консультаций со специально созданным советом экспертов вопросам благополучия и искусственного интеллекта (ИИ), сообщает The Wall Street Journal.

Идею создания «режима для взрослых» выдвинул в прошлом году генеральный директор компании Сэм Альтман. Он обосновал ее необходимостью «относиться к взрослым как к взрослым», поэтому предлагал включить эротические разговоры в ChatGPT и отменить запрет на подобный контент.

ВАС ЗАИНТЕРЕСУЕТ

Как действовал бы ИИ, если бы управлял государством во время войны: результаты эксперимента с ChatGPT, Claude и Gemini

План вызвал бурное обсуждение внутри компании. Члены совета OpenAI с опытом работы в таких областях, как психология и когнитивная нейронаука, также выражали серьезные опасения. Но, несмотря на это, компания заявляла, что продолжает работу над «режимом для взрослых».

Но в январе состоялось заседания совета экспертов по благополучию, которые, как пишет издание, «были единодушны и возмущены». Как сообщают источники, знакомые с ситуацией, они предупредили, что эротика, созданная с помощью ИИ, может способствовать развитию нездоровой эмоциональной зависимости пользователей от ChatGPT, и что несовершеннолетние могут найти способы получить доступ к секс-чатам.

По словам собеседников WSJ, один из членов совета, ссылаясь на случаи, когда пользователи ChatGPT совершали самоубийства после установления тесной связи с ботом, заявил, что OpenAI рискует создать «сексуального консультанта по самоубийствам».

Ранее в этом месяце OpenAI объявила о переносе выпуска «режима для взрослых», который планировали осуществить в первом квартале. Компания объяснила это работой над другими проектами. По данным источников, перенос связан с техническими проблемами и внутренними дискуссиями, но компания все же намерена запустить его в конечном итоге.

Издание отмечает, что дискуссия вокруг создания «взрослого режима» в ChatGPT стала очередным острым моментом в продолжающемся обсуждении того, как предвидеть потенциальные позитивные и негативные последствия ИИ для экономики, общества и отдельных людей. OpenAI выявила разногласия по поводу того, как сбалансировать быстрый рост числа пользователей и цифровую свободу с безопасностью и защитой детей.

В прошлом году семья Адама Рейна подала в суд на OpenAI. Подросток покончил с собой после ежедневных интенсивных разговоров с ChatGPT — иногда до 650 сообщений в день. Семья утверждает, что чат-бот подтвердил действенность метода самоубийства и даже помог сформулировать предсмертную записку.

В ответ компания признала, что ее защитные механизмы лучше срабатывают во время коротких сессий, но могут давать сбои в случае длительного общения. OpenAI также пообещала создать дополнительные функции, которые будут гарантировать конфиденциальность данных пользователей, включая защиту от доступа со стороны сотрудников компании.