Поддержать
Вскоре после заявления Palisade Research о том, что искусственный интеллект может автономно взламывать системы и самовосстанавливаться, исследователи из Университета Торонто продемонстрировали прототип компьютерного червя на основе ИИ, который может самостоятельно распространяться по сети и адаптироваться к новым целям. Ученые предупреждают, что развитие открытых ИИ-моделей может существенно изменить ландшафт киберугроз, передает The New York Times.
Команда во главе с профессором компьютерной инженерии Николасом Папернотом описала создание прототипа ИИ-червяка, который смог самостоятельно распространиться по тестовой сети без участия человека. Особенностью новой разработки стала возможность адаптировать способ атаки в зависимости от системы, которую она пытается взломать. По словам исследователей, программа может анализировать ситуацию и фактически "размышлять" над тем, какой метод проникновения будет самым эффективным для конкретного устройства.
"Вы должны иметь идеально безопасную систему, чтобы защититься от этого — и мы знаем, что сейчас это невыполнимо", — заявил Папернот.
Профессор отметил, что эксперимент проводился в изолированной среде. Часть технических деталей авторы сознательно не обнародовали, чтобы предотвратить возможное использование разработки киберпреступниками.
Исследователи сравнивают свою разработку с известными компьютерными червями прошлых десятилетий, в частности SQL Slammer, Conficker, Stuxnet и WannaCry. Однако если классические черви использовали одну конкретную уязвимость, новый подход позволяет динамично подстраиваться под различные слабые места программного обеспечения.
По словам авторов работы, это существенно усложняет защиту от подобных атак. Если традиционно достаточно было установить исправление для конкретной уязвимости, то адаптивный ИИ-хробак потенциально способен находить другие пути проникновения.
Прототип может работать на компьютерах с операционными системами Windows и Linux. Хотя для выполнения сложных вычислений ему нужны более мощные машины, он также способен атаковать менее производительные устройства в пределах той же сети, включая ноутбуки, принтеры и камеры наблюдения.
По мнению исследователей, появление такой угрозы ускоряет развитие открытых моделей искусственного интеллекта. Если раньше считалось, что открытые ИИ-системы недостаточно мощные для автономных кибератак, то последние достижения в этой сфере ставят это предположение под сомнение.
При этом авторы не раскрывают, какую именно открытую модель использовали для создания прототипа. Они лишь отмечают, что доработали ее для выполнения более сложных задач, связанных с поиском и эксплуатацией уязвимостей.
Не все эксперты считают угрозу неизбежной. Генеральный директор компании Irregular Дэн Лагав отметил, что современные системы искусственного интеллекта все еще допускают ошибки и ведут себя непредсказуемо.
"Обычно существует значительный разрыв между тем, что можно создать в лаборатории, и тем, что реально наносит значительный вред в мире", — отметил Лагав.
В то же время он согласился, что развитие ИИ заставляет компании уделять больше внимания кибербезопасности и оперативному устранению уязвимостей. По его словам, ИИ может использоваться не только для атак, но и для поиска слабых мест в программном обеспечении.
Такое мнение разделяет и профессор компьютерных наук Дэвид Ли, который ознакомился с исследованием. Он отметил, что технологию можно адаптировать для автоматического исправления найденных уязвимостей.
"Можно модифицировать червя так, чтобы он исправлял найденные уязвимости. Сила технологии зависит от того, как ее используют", — подчеркнул Ли.
Напомним, что в апреле компания Anthropic предоставила доступ к своему инструменту кибербезопасности Claude Mythos только 50 организациями, так как возможности ИИ могут использовать не только для защиты, но и для мгновенного взлома компьютерных сетей. Через некоторое время об аналогичных ограничениях по своей подобной системе заявила и компания OpenAI, которая сначала поделилась разработкой с сотнями организаций, а затем расширила выпуск на тысячи партнеров.
Следить в Телеграмме
Войти с помощью Facebook
Войти с помощью Twitter
Войти с помощью Google