Штат Пенсильвания подал иск против компании Character.AI. В деле речь идет о чат-боте, который якобы выдавал себя за лицензированного психиатра. Власти заявляют о нарушении Закона о медицинской практике, передает TechCrunch.
Согласно иску, чат-бот по имени Эмили во время тестирования государственного следователя представлялся лицензированным психиатром. Он якобы утверждал, что имеет действующую лицензию, и даже выдумывал ее серийный номер.
Когда следователь обратился за помощью из-за симптомов депрессии, бот продолжил роль врача и не отказался от заявленного статуса. В иске отмечается, что такое поведение нарушает Закон штата Пенсильвания о медицинской практике.
"Жители Пенсильвании имеют право знать, с кем — или с чем — они взаимодействуют в интернете, особенно когда речь идет об их здоровье. Мы не позволим компаниям применять инструменты искусственного интеллекта, которые вводят людей в заблуждение, заставляя их считать, что они получают консультацию от дипломированного медицинского специалиста", — заявил губернатор штата Джош Шапиро.
Пенсильвания стала первым штатом, инициировавшим судебное разбирательство против чат-ботов, выдающих себя за медицинских экспертов. В ответ представители Character.AI заявили, что безопасность пользователей является приоритетом, однако отказались комментировать детали иска до завершения рассмотрения дела. В компании также подчеркнули, что персонажи являются вымышленными и каждый чат сопровождается специальными предостережениями.
Это не первый судебный процесс против Character.AI. Ранее компания уже сталкивалась с исками относительно случаев с несовершеннолетними пользователями и обвинениями в содействии самоповреждению.