Компания OpenAI обнародовала обновленные данные о пользователях своего искусственного интеллекта ChatGPT, среди которых фиксируют случаи поведения, которое может свидетельствовать о мании, психозе или других психических расстройствах. Об этом сообщает BBC.
По оценкам компании, примерно 0,07% активных пользователей в неделю демонстрируют подобные признаки. В OpenAI отмечают, что такие случаи являются "чрезвычайно редкими", однако даже этот показатель может означать сотни тысяч людей, ведь ChatGPT имеет около 800 миллионов активных пользователей еженедельно.
Чтобы правильно реагировать на такие ситуации, компания создала международную сеть специалистов - более 170 психологов, психиатров и врачей общей практики из 60 стран мира. Эти эксперты помогают OpenAI разрабатывать рекомендации для ИИ, чтобы он мог эмпатийно реагировать и советовать обращаться за реальной помощью.
Также в компании сообщили, что около 0,15% пользователей ChatGPT ведут диалоги с признаками потенциального намерения к самоубийству или самоповреждения.
Разработчики отмечают, что новые версии ChatGPT имеют механизмы выявления опасных высказываний, в частности косвенных намеков на суицид или психические расстройства. В таких случаях бот перенаправляет разговор в более безопасную форму или открывает новое окно диалога, чтобы обеспечить пользователю психологическую поддержку и снизить риски.
Ранее сообщалось о том, как гормоны влияют на психическое состояние человека.