Чат-бот выдает себя за настоящего психиатра: Пенсильвания подала иск против Character.AI

Штат Пенсильвания подал иск против компании Character.AI. В деле речь идет о чат-боте, который якобы выдавал себя за лицензированного психиатра. Власти заявляют о нарушении Закона о медицинской практике, передает TechCrunch.

Согласно иску, чат-бот по имени Эмили во время тестирования государственного следователя представлялся лицензированным психиатром. Он якобы утверждал, что имеет действующую лицензию, и даже выдумывал ее серийный номер.

Когда следователь обратился за помощью из-за симптомов депрессии, бот продолжил роль врача и не отказался от заявленного статуса. В иске отмечается, что такое поведение нарушает Закон штата Пенсильвания о медицинской практике.

ВАС ЗАИНТЕРЕСУЕТ

ИИ обретет сознание уже через 15 лет: ученые создали шкалу для измерения

"Жители Пенсильвании имеют право знать, с кем — или с чем — они взаимодействуют в интернете, особенно когда речь идет об их здоровье. Мы не позволим компаниям применять инструменты искусственного интеллекта, которые вводят людей в заблуждение, заставляя их считать, что они получают консультацию от дипломированного медицинского специалиста", — заявил губернатор штата Джош Шапиро.

Пенсильвания стала первым штатом, инициировавшим судебное разбирательство против чат-ботов, выдающих себя за медицинских экспертов. В ответ представители Character.AI заявили, что безопасность пользователей является приоритетом, однако отказались комментировать детали иска до завершения рассмотрения дела. В компании также подчеркнули, что персонажи являются вымышленными и каждый чат сопровождается специальными предостережениями.

Это не первый судебный процесс против Character.AI. Ранее компания уже сталкивалась с исками относительно случаев с несовершеннолетними пользователями и обвинениями в содействии самоповреждению.