ШІ-агент Meta спровокував витік конфіденційних даних компанії

У Meta зафіксували витік конфіденційних даних через роботу агента зі штучним інтелектом. Інцидент стався після того, як співробітник звернувся за допомогою на внутрішньому форумі, і коли він виконав запропоноване рішення, то відкрив доступ до інформації. Компанія заявляє, що інцидент не призвів до неправильного використання даних, передає The Guardian.

Агент штучного інтелекту запропонував рішення, яке працівник реалізував, що призвело до відкриття великого обсягу даних користувачів і компанії для інших інженерів. Доступ до цієї інформації був відкритим близько двох годин.

“Жодні дані користувачів не були неправильно оброблені”, — заявив представник Meta та додав, що подібні помилки можуть виникати і через рекомендації людей.

ВАС ЗАЦІКАВИТЬ

Reddit для штучного інтелекту: як працює соцмережа, де люди лише спостерігають

Інцидент спричинив внутрішнє попередження про безпеку. Це, за словами компанії, свідчить про серйозне ставлення до захисту даних. 

Компанія Amazon нещодавно також зазнала щонайменше двох збоїв через використання внутрішніх ШІ-інструментів. За словами співробітників компанії, інтеграція штучного інтелекту в робочі процеси призвела до помилок у коді та зниження продуктивності. Вони також вказували на поспішність у впровадженні нових рішень.

Технологія агентного ШІ швидко розвивається і вже демонструє здатність виконувати складні завдання автономно. Зокрема, інструмент Claude Code від Anthropic привернув увагу здатністю виконувати різні дії без прямого втручання людини. Водночас такі системи можуть припускатися помилок через обмеження контексту. 

ВАС ЗАЦІКАВИТЬ

Штучний інтелект допомагає розкривати анонімні акаунти в соцмережах

“З ретроспективи ця вразливість була б для Meta дуже, дуже очевидною, хоча й не в той момент…Meta експериментує у великому масштабі”, — зазначив співзасновник консалтингової компанії Тарек Нсейр.

Фахівці з безпеки наголошують, що ШІ-агенти не мають довгострокового контексту, який дозволяє людям оцінювати ризики. За словами експерта Джеймісона О'Райлі, це може призводити до рішень, які відкривають доступ до чутливих даних.

“Неминуче буде ще більше помилок”, — підсумував Нсейр.

Нагадаємо, що Meta розглядає можливість масштабного скорочення понад 20% персоналу на тлі стратегічної переорієнтації на розробку генеративного штучного інтелекту. Генеральний директор Марк Цукерберг пояснює такі кроки підвищенням ефективності, де окремі фахівці із застосуванням ШІ здатні замінити цілі команди.