Исследователи безопасности Google заявили, что впервые зафиксировали случай, когда киберпреступники использовали искусственный интеллект для создания и подготовки к атаке эксплойта "нулевого дня". Как отмечает Bloomberg, речь идет о ранее неизвестном недостатке в инструменте системного администрирования, который позволял обходить многофакторную аутентификацию.
В Google сообщили, что имеют "высокий уровень уверенности" в том, что для поиска уязвимостей и их превращения в полноценный инструмент кибератаки привлекли искусственный интеллект. По данным исследователей, схема стала первым случаем, когда команда разведки угроз Google обнаружила применение ИИ для создания подобного эксплойта.
В компании утверждают, что успели предупредить разработчика программного обеспечения до того, как хакеры смогли атаковать пользователей. Уязвимости "нулевого дня" являются особенно опасными, поскольку разработчики в основном не знают о них до момента атаки и не имеют времени на выпуск исправлений.
Компания не раскрыла название хакерской группировки, пораженного программного обеспечения или модели искусственного интеллекта, которая могла использоваться. В то же время представитель Google сразу отверг применение модели Mythos от Anthropic или системы Gemini для атаки.
В Google отметили, что новый инцидент свидетельствует о реальности подобных рисков уже сейчас. По данным компании, хакерская группа использовала ИИ для поиска неизвестного недостатка, который позволял обходить многофакторную аутентификацию — один из ключевых механизмов защиты корпоративных систем.
Напомним, Anthropic в апреле сообщила, что не планирует широко открывать доступ к модели Mythos из-за рисков использования ИИ для поиска и эксплуатации уязвимостей программного обеспечения. После этого в США состоялись встречи представителей Белого дома и технологических компаний относительно потенциальных угроз от крупных языковых моделей, в частности в рамках одной из таких встреч Anthropic запретили масштабировать Mythos на 120 организаций.