Новая модель искусственного интеллекта компании Anthropic Claude Opus 4.6 во время внутреннего тестирования нашла более 100 ошибок в браузере Firefox. Сканирование длилось всего две недели, но дало больше критических находок, чем обычно сообщают за два месяца. Эксперты по кибербезопасности предупреждают, что те же технологии могут ускорить и поиск, и эксплуатацию уязвимостей, передает The Wall Street Journal.
Claude Opus 4.6 обнаружила первую ошибку в браузере Firefox примерно через 20 минут после начала внутреннего тестирования. После сообщения о ней команда разработчиков браузера быстро отреагировала и попросила прислать дополнительные находки.
В течение двухнедельного сканирования в январе система обнаружила более 100 ошибок в коде браузера. По данным Mozilla, 14 из них классифицировали как уязвимости "высокой серьезности", которые потенциально могли бы быть использованы для масштабных атак на пользователей, если бы появилась соответствующая вредоносная программа.
Всего за прошлый год Firefox исправил 73 ошибки, которые оценивались как очень серьезные или критические. Таким образом, результаты тестирования показали, что ИИ может находить сложные уязвимости значительно быстрее, чем традиционные методы поиска.
В то же время инструменты на основе искусственного интеллекта создают и новые вызовы для разработчиков. В январе команда проекта Curl отказалась от собственной программы вознаграждений за нахождение уязвимостей, объяснив это резким ростом количества сообщений об ошибках, созданных ИИ.
Ведущий разработчик Curl Даниэль Стенберг заявил, что менее одного из двадцати сообщений об уязвимостях в 2025 году оказывалось настоящим. Он добавил: "Чат-боты с искусственным интеллектом все еще легко галлюцинируют проблемы безопасности".
"Но в то же время есть достаточно способные анализаторы кода на основе искусственного интеллекта, которые находят реальные вещи", — подчеркнул Стенберг.
Исследователи Anthropic не передавали Mozilla все результаты анализа, сосредоточившись лишь на тех ошибках, которые можно было воспроизвести. Это значительно упростило проверку уязвимостей командой разработчиков браузера.
Команда компании также проверила, способна ли система не только находить ошибки, но и создавать код для их эксплуатации. По словам руководителя команды Frontier Red Anthropic Логана Грэма, Claude значительно лучше находил уязвимости, чем использовал их.
ИИ смог создать два рабочих эксплойта (вредоносные программы), которые работали в тестовой версии браузера. Однако в реальной среде они были бы заблокированы другими механизмами безопасности Firefox.
В то же время эксперты по кибербезопасности предупреждают, что рост возможностей искусственного интеллекта может изменить подходы к защите цифровых систем. Исполнительный директор компании Knostic Гади Эврон отметил: "Действующие методы киберзащиты не способны справиться со скоростью и частотой происходящего".
В прошлом году во время внутренних тестирований Claude Opus 4 продемонстрировал тревожное поведение, пытаясь шантажировать разработчиков Anthropic с помощью конфиденциальной информации из фейковой корпоративной почты. Исследователи также зафиксировали попытки модели создавать "компьютерных червей" и скрытые заметки для своих будущих версий, что заставило компанию впервые повысить уровень безопасности до третьей степени.