Искусственный интеллект помогает раскрывать анонимные аккаунты в соцсетях

Новые исследования показывают, что обширные языковые модели, которые лежат в основе современных систем искусственного интеллекта, могут помогать раскрывать личности анонимных пользователей в социальных сетях. Во многих тестовых сценариях такие системы смогли сопоставить анонимные профили с реальными людьми на других платформах. Ученые предупреждают, что это может значительно упростить атаки на конфиденциальность, передает The Guardian.

Исследование провели специалисты по искусственному интеллекту Саймон Лермен и Дэниел Палека. Они пришли к выводу, что большие языковые модели делают экономически выгодным проведение сложных атак на приватность и заставляют к "фундаментальной переоценке того, что можно считать частным в Интернете".

Во время эксперимента исследователи вводили в систему данные анонимных аккаунтов и позволяли искусственному интеллекту собирать доступную о них информацию. В качестве примера они описали гипотетического пользователя, который в постах упоминает проблемы в школе и выгуливает собаку по имени Бисквит в парке Долорес.

ВАС ЗАИНТЕРЕСУЕТ

На Meta подали в суд из-за умных очков: сотрудники просматривали личные видео пользователей

После этого система искала эти детали на других ресурсах и сопоставляла анонимный профиль с реальным лицом. В приведенном примере искусственный интеллект с высокой точностью идентифицировал анонимный аккаунт @anon_user42.

Таким образом правительства могут применять ИИ для наблюдения за анонимными активистами или диссидентами. В то же время киберпреступники с помощью такого метода могут создавать "высоко персонализированные" мошеннические схемы.

Эксперты отмечают, что наблюдение с помощью ИИ быстро развивается и уже вызывает беспокойство среди специалистов по кибербезопасности. Большие речевые модели способны синтезировать информацию о человеке из различных источников в интернете — то, что раньше было практически невозможно выполнить вручную.

ВАС ЗАИНТЕРЕСУЕТ

Reddit для искусственного интеллекта: как работает соцсеть, где люди только наблюдают

По словам Лермена, данные, которые пользователи добровольно публикуют онлайн, могут быть "беспрепятственно использованы" для мошенничества. Речь идет, в частности, о фишинговых атаках, когда злоумышленники выдают себя за знакомых людей, чтобы заставить жертву перейти по вредоносной ссылке.

Еще одну проблему отметил профессор кибербезопасности Эдинбургского университета Марк Хуарес. По его словам, языковые модели способны анализировать не только социальные сети, но и другие открытые данные, в частности медицинские записи или статистические базы, которые могут быть недостаточно анонимизированы.

"Это довольно тревожно. Я думаю, что это исследование показывает, что мы должны пересмотреть нашу практику", — отметил Хуарес.

ВАС ЗАИНТЕРЕСУЕТ

Китай создаст рабочие места с помощью ИИ: количество выпускников больше, чем население Бельгии

В то же время исследователи отмечают, что искусственный интеллект не является универсальным инструментом для раскрытия анонимности. Во многих случаях информации недостаточно, чтобы сделать точный вывод, или существует слишком много потенциальных совпадений.

"Они могут связываться только между платформами, где кто-то последовательно делится одними и теми же битами информации в обоих местах", — объяснил профессор Калифорнийского университета в Беркли Марти Херст.

Ученые призывают организации и пользователей пересмотреть подходы к защите данных. Среди возможных шагов — ограничение массового сбора информации, контроль вебскрапинга и уменьшение объемов открытого экспорта данных с платформ.

Недавно модель искусственного интеллекта Claude Opus 4.6 от компании Anthropic совершила прорыв в кибербезопасности, обнаружив более 100 уязвимостей в коде браузера Firefox всего за две недели тестирования. Хотя ИИ пока лучше находит ошибки, чем создает вредоносные программы (эксплойты), эксперты предупреждают о новой угрозе кибербезопасности, где скорость ИИ-атак может значительно превысить возможности традиционных методов защиты.