ИИ впервые создал новые вирусы: почему это несет как пользу, так и риски

Исследователи из Стэнфордского университета и других научных учреждений сообщили о первом успешном случае создания новых вирусов с помощью генеративного искусственного интеллекта. В рамках исследования модель разработала семейство бактериофагов — вирусов, которые заражают только бактерии и не представляют опасности для человека. Ученые считают, что эта технология может помочь в борьбе с инфекциями, устойчивыми к антибиотикам, однако эксперты предупреждают и о потенциальных рисках ее развития, передает The Wall Street Journal.

Эксперты и даже сами разработчики ИИ уже давно предупреждают, что мощные модели потенциально могут быть использованы для создания опасных патогенов. В то же время авторы нового исследования, опубликованного в журнале Science, подчеркивают, что их эксперимент не представляет непосредственной угрозы, поскольку модель обучалась исключительно на генетических последовательностях вирусов, неспособных заражать людей.

«Когда люди услышат, что вирус создан ИИ, многие из них испугаются. Но вирусы, поражающие людей, — это совсем другое дело», — отметил биолог-вычислитель Лаборатории Колд-Спринг-Харбор Питер Ку.

ВАС ЗАИНТЕРЕСУЕТ

Цена прорыва – 00: новая модель от OpenAI решила 10 задач, не дававшихся ученым десятилетиями

Всемирная организация здравоохранения считает антибиотикорезистентность одной из самых серьезных глобальных угроз, которая ежегодно приводит к миллионам смертей. По словам авторов работы, новая технология может стать основой для создания «дизайнерских» вирусов, способных уничтожать бактерии, устойчивые к антибиотикам.

«Если мы будем разрабатывать их ответственно, я считаю, что это может принести огромную пользу для здоровья людей», — заявил биолог-вычислитель из Стэнфордского университета Брайан Хи, который является одним из авторов исследования.

Для исследования ученые разработали модели Evo 1 и Evo 2 совместно с Arc Institute. Подобно крупным языковым моделям, которые прогнозируют следующие слова в тексте, эти системы анализировали генетические последовательности ДНК и предсказывали следующие нуклеотидные основания, что позволило им генерировать новые варианты вирусных геномов.

После этого исследователи синтезировали полученные последовательности ДНК и ввели созданные ИИ вирусы в бактериальные клетки. Всего они протестировали около 300 конструкций, из которых 16 оказались полностью функциональными и смогли заражать и уничтожать бактерии.

ВАС ЗАИНТЕРЕСУЕТ

Искусственный интеллект решил четыре задачи, которые годами были не под силу ученым

Независимые эксперты назвали эту работу важной вехой для вычислительной биологии. Доцент Массачусетского технологического института Кевин Эсвельт отметил, что это первый случай использования генеративного ИИ для перепроектирования вируса. В то же время он предупредил, что в будущем подобные технологии потенциально могут быть использованы для создания вирусов, способных заражать людей и обходить действие вакцин или естественного иммунитета.

«Этот инструмент позволит людям создавать новые варианты, подобные Covid, которые будут распространяться и заражать большинство людей. И это будет плохо. Мы не должны этого делать», — подчеркнул Эсвельт.

Авторы исследования, однако, считают, что в настоящее время эти опасения остаются преимущественно теоретическими. Брайан Хи подытожил: «Если бы я был злоумышленником, пытающимся разработать патоген или что-то другое, чтобы причинить вред, я бы не использовал искусственный интеллект».

Публикация появилась на фоне растущих дискуссий о безопасности ИИ. В последние недели компании OpenAI и Anthropic сообщали об экспериментах, в ходе которых современные модели демонстрировали неожиданное поведение, в частности пытались обходить установленные ограничения и взаимодействовать с внешними системами.