ChatGPT рятує від суїциду: ШІ навчився помічати тривожні сигнали – ЗМІ

Компанія OpenAI оприлюднила оновлені дані щодо користувачів свого штучного інтелекту ChatGPT, серед яких фіксують випадки поведінки, що може свідчити про манію, психоз чи інші психічні розлади. Про це повідомляє BBC.

За оцінками компанії, приблизно 0,07% активних користувачів на тиждень демонструють подібні ознаки. В OpenAI зазначають, що такі випадки є “надзвичайно рідкісними”, однак навіть цей показник може означати сотні тисяч людей, адже ChatGPT має близько 800 мільйонів активних користувачів щотижня.

ВАС ЗАЦІКАВИТЬ

Депресія передається через поцілунок — дослідження

Щоб правильно реагувати на такі ситуації, компанія створила міжнародну мережу фахівців – понад 170 психологів, психіатрів та лікарів загальної практики з 60 країн світу. Ці експерти допомагають OpenAI розробляти рекомендації для ШІ, щоб він міг емпатійно реагувати та радити звертатися по реальну допомогу.

Також у компанії повідомили, що близько 0,15% користувачів ChatGPT ведуть діалоги з ознаками потенційного наміру до самогубства або самоушкодження.

Розробники наголошують, що нові версії ChatGPT мають механізми виявлення небезпечних висловлювань, зокрема непрямих натяків на суїцид чи психічні розлади. У таких випадках бот перенаправляє розмову у безпечнішу форму або відкриває нове вікно діалогу, щоб забезпечити користувачу психологічну підтримку та знизити ризики.

Раніше повідомлялося про те, як гормони впливають на психічний стан людини.