Чат-бот видає себе за справжнього психіатра: Пенсільванія подала позов проти Character.AI

Штат Пенсільванія подав позов проти компанії Character.AI. У справі йдеться про чат-бот, який нібито видавав себе за ліцензованого психіатра. Влада заявляє про порушення Закону про медичну практику, передає TechCrunch.

Згідно з позовом, чат-бот на імʼя Емілі під час тестування державного слідчого представлявся ліцензованим психіатром. Він нібито стверджував, що має чинну ліцензію, та навіть вигадував її серійний номер.

Коли слідчий звернувся по допомогу через симптоми депресії, бот продовжив роль лікаря і не відмовився від заявленого статусу. У позові зазначається, що така поведінка порушує Закон штату Пенсильванія про медичну практику.

ВАС ЗАЦІКАВИТЬ

ШІ набуде свідомості вже за 15 років: вчені створили шкалу для вимірювання

“Мешканці Пенсильванії мають право знати, з ким — або з чим — вони взаємодіють в інтернеті, особливо коли йдеться про їхнє здоров’я. Ми не дозволимо компаніям застосовувати інструменти штучного інтелекту, які вводять людей в оману, змушуючи їх вважати, що вони отримують консультацію від дипломованого медичного фахівця”, — заявив губернатор штату Джош Шапіро.

Пенсильванія стала першим штатом, що ініціював судовий розгляд проти чат-ботів, які видають себе за медичних експертів. У відповідь представники Character.AI заявили, що безпека користувачів є пріоритетом, проте відмовилися коментувати деталі позову до завершення розгляду справи. У компанії також підкреслили, що персонажі є вигаданими та кожен чат супроводжується спеціальними застереженнями.

Це не перший судовий процес проти Character.AI. Раніше компанія вже стикалася з позовами щодо випадків із неповнолітніми користувачами та звинуваченнями у сприянні самоушкодженню.