Исследователи из американской компании Calif заявили о новом способе обхода системы защиты MacOS, который они обнаружили во время тестирования ранней версии искусственного интеллекта Mythos от Anthropic. По их словам, такая атака позволяет получить повышенные привилегии в системе и потенциально взять контроль над компьютером Apple, передает The Wall Street Journal.
Проблемы обнаружили в апреле во время тестирования программного обеспечения Mythos. Исследователи утверждают, что им удалось совместить две ошибки в MacOS с несколькими техниками повреждения памяти, после чего получить доступ к частям системы, которые должны быть изолированны от пользователя. В сочетании с другими атаками так называемый эксплойт эскалации привилегий может позволить хакерам полностью захватить контроль над устройством.
Особое внимание исследователей привлекло то, что атаку удалось реализовать против MacOS. Эту систему в индустрии считают одной из самых сложных целей для взлома.
Исследователи Calif настолько серьезно отнеслись к своему открытию, что лично приехали из Пало-Альто в штаб-квартиру Apple в Купертино, чтобы передать компании 55-страничный отчет с описанием найденных ошибок. Они отметили, что обнародуют детали атаки только после того, как Apple выпустит необходимые обновления безопасности.
"Безопасность является нашим главным приоритетом, и мы очень серьезно относимся к сообщениям о потенциальных уязвимостях", — заявили в Apple и добавили, что уже просматривают отчет Calif.
По словам Calif, создание рабочего кода для атаки с помощью Claude Mythos заняло всего пять дней. В то же время генеральный директор компании Тай Дуонг отметил, что Mythos впервые продемонстрировала способность изобретать новые методы взлома, а не просто воспроизводить задокументированные атаки. По его мнению, такой прорыв стал возможным благодаря привлечению опыта профессиональных калифорнийских хакеров. Ранее ИИ не проявлял подобной автономности в создании уникальных киберугроз.
В последние месяцы эксперты все чаще предупреждают о возможном Bugmageddon — резком росте количества найденных уязвимостей из-за развития моделей искусственного интеллекта. В частности, ранее в этом году ИИ Anthropic за две недели обнаружил более 100 критических ошибок в браузере Firefox — примерно столько же, сколько специалисты обычно находят за два месяца.
Недавно исследователи также обнаружили, что модели искусственного интеллекта могут автономно взламывать компьютеры, переносить собственные файлы на новые машины и продолжать атаки без участия человека. Авторы эксперимента считают, что это первая известная демонстрация самовоспроизведения ИИ из-за использования уязвимостей в системах безопасности.
Тема безопасности новых моделей ИИ уже вызвала беспокойство в Вашингтоне. Белый дом ранее выступал против постепенного расширения доступа к Mythos, а сейчас чиновники рассматривают возможность введения дополнительного государственного надзора за мощными системами искусственного интеллекта.