ИИ-агент Meta спровоцировал утечку конфиденциальных данных компании

В Meta зафиксировали утечку конфиденциальных данных из-за работы агента с искусственным интеллектом. Инцидент произошел после того, как сотрудник обратился за помощью на внутреннем форуме, и когда он выполнил предложенное решение, то открыл доступ к информации. Компания заявляет, что инцидент не привел к неправильному использованию данных, передает The Guardian.

Агент искусственного интеллекта предложил решение, которое работник реализовал, что привело к открытию большого объема данных пользователей и компании для других инженеров. Доступ к этой информации был открытым около двух часов.

"Никакие данные пользователей не были неправильно обработаны", — заявил представитель Meta и добавил, что подобные ошибки могут возникать и из-за рекомендаций людей.

ВАС ЗАИНТЕРЕСУЕТ

Reddit для искусственного интеллекта: как работает соцсеть, где люди только наблюдают

Инцидент вызвал внутреннее предупреждение о безопасности. Это, по словам компании, свидетельствует о серьезном отношении к защите данных.

Компания Amazon недавно также потерпела по меньшей мере два сбоя из-за использования внутренних ИИ-инструментов. По словам сотрудников компании, интеграция искусственного интеллекта в рабочие процессы привела к ошибкам в коде и снижению производительности. Они также указывали на поспешность во внедрении новых решений.

Технология агентного ИИ быстро развивается и уже демонстрирует способность выполнять сложные задачи автономно. В частности, инструмент Claude Code от Anthropic привлек внимание способностью выполнять различные действия без прямого вмешательства человека. В то же время такие системы могут допускать ошибки из-за ограничений контекста.

ВАС ЗАИНТЕРЕСУЕТ

Искусственный интеллект помогает раскрывать анонимные аккаунты в соцсетях

"С ретроспективы эта уязвимость была бы для Meta очень, очень очевидной, хотя и не в тот момент... Meta экспериментирует в большом масштабе", — отметил соучредитель консалтинговой компании Тарек Нсейр.

Специалисты по безопасности отмечают, что ИИ-агенты не имеют долгосрочного контекста, который позволяет людям оценивать риски. По словам эксперта Джеймисона О'Райли, это может приводить к решениям, которые открывают доступ к чувствительным данным.

"Неизбежно будет еще больше ошибок", — подытожил Нсейр.

Напомним, что Meta рассматривает возможность масштабного сокращения более 20% персонала на фоне стратегической переориентации на разработку генеративного искусственного интеллекта. Генеральный директор Марк Цукерберг объясняет такие шаги повышением эффективности, где отдельные специалисты с применением ИИ способны заменить целые команды.