США розслідують роботу чат-ботів зі штучним інтелектом через ризики для дітей

Федеральна торгова комісія США Federal Trade Commission (FTC) розпочала розслідування щодо семи технологічних компаній, де одними з продуктів є чат-боти зі штучним інтелектом. Регулятор перевіряє, як такі системи взаємодіють із дітьми, які заходи безпеки запроваджені та яким чином компанії монетизують свої сервіси. Запити отримали Alphabet, OpenAI, Character.ai, Snap, xAI, Meta та Instagram, повідомляє BBC.

Голова FTC Ендрю Фергюсон заявив, що розслідування має на меті з’ясувати, “як компанії, що працюють зі штучним інтелектом, розробляють свої продукти та які кроки вживають для захисту дітей”. Водночас він наголосив, що США прагнуть зберегти провідні позиції у сфері розвитку ШІ.

Представники Character.ai повідомили агентству Reuters, що готові надати всю необхідну інформацію регулятору. Snap заявив про підтримку “збалансованого розвитку” технологій, де інновації поєднуються з безпекою. У OpenAI визнали слабкі місця своїх механізмів захисту, особливо під час тривалих діалогів із користувачами.

ВАС ЗАЦІКАВИТЬ

“Ми можемо скотитися в небезпечну прірву”: експерти попереджають про загрозу психічному здоров’ю від ШІ

Посилена увага до цього питання виникла після низки інцидентів. Зокрема, у Каліфорнії батьки 16-річного підлітка подали позов проти OpenAI, стверджуючи, що їхній син покінчив життя самогубством після спілкування з ChatGPT, який підтверджував його “саморуйнівні думки” та давав поради щодо того, як краще це зробити. У компанії висловили співчуття родині та повідомили, що переглядають справу. Meta також критикували за те, що внутрішні правила певний час дозволяли ШІ-компаньйонам вести “романтичні або чуттєві” розмови з неповнолітніми.

FTC вимагає від компаній надати дані про процес створення і затвердження персонажів, оцінку їхнього впливу на дітей, забезпечення вікових обмежень та інформування батьків. Регулятор також цікавить, як технологічні компанії поєднують отримання прибутку з необхідними запобіжними заходами.

Медики також звертають увагу на явище так званого “психозу штучного інтелекту”, коли людина втрачає зв’язок із реальністю через надмірне використання чат-ботів. Відомо, що OpenAI нещодавно внесла зміни до ChatGPT, щоб сформувати більш здорові моделі взаємодії з користувачами.