В Meta зафиксировали утечку конфиденциальных данных из-за работы агента с искусственным интеллектом. Инцидент произошел после того, как сотрудник обратился за помощью на внутреннем форуме, и когда он выполнил предложенное решение, то открыл доступ к информации. Компания заявляет, что инцидент не привел к неправильному использованию данных, передает The Guardian.
Агент искусственного интеллекта предложил решение, которое работник реализовал, что привело к открытию большого объема данных пользователей и компании для других инженеров. Доступ к этой информации был открытым около двух часов.
"Никакие данные пользователей не были неправильно обработаны", — заявил представитель Meta и добавил, что подобные ошибки могут возникать и из-за рекомендаций людей.
Инцидент вызвал внутреннее предупреждение о безопасности. Это, по словам компании, свидетельствует о серьезном отношении к защите данных.
Компания Amazon недавно также потерпела по меньшей мере два сбоя из-за использования внутренних ИИ-инструментов. По словам сотрудников компании, интеграция искусственного интеллекта в рабочие процессы привела к ошибкам в коде и снижению производительности. Они также указывали на поспешность во внедрении новых решений.
Технология агентного ИИ быстро развивается и уже демонстрирует способность выполнять сложные задачи автономно. В частности, инструмент Claude Code от Anthropic привлек внимание способностью выполнять различные действия без прямого вмешательства человека. В то же время такие системы могут допускать ошибки из-за ограничений контекста.
"С ретроспективы эта уязвимость была бы для Meta очень, очень очевидной, хотя и не в тот момент... Meta экспериментирует в большом масштабе", — отметил соучредитель консалтинговой компании Тарек Нсейр.
Специалисты по безопасности отмечают, что ИИ-агенты не имеют долгосрочного контекста, который позволяет людям оценивать риски. По словам эксперта Джеймисона О'Райли, это может приводить к решениям, которые открывают доступ к чувствительным данным.
"Неизбежно будет еще больше ошибок", — подытожил Нсейр.
Напомним, что Meta рассматривает возможность масштабного сокращения более 20% персонала на фоне стратегической переориентации на разработку генеративного искусственного интеллекта. Генеральный директор Марк Цукерберг объясняет такие шаги повышением эффективности, где отдельные специалисты с применением ИИ способны заменить целые команды.