ИИ может упростить создание биологического оружия: руководители OpenAI, Google и Anthropic бьют тревогу

Руководители крупнейших компаний в сфере искусственного интеллекта призвали Конгресс США усилить контроль над заказами синтетической ДНК и РНК, чтобы предотвратить возможное использование ИИ для создания опасных патогенов. Соответствующее письмо подписали глава OpenAI Сэм Альтман, генеральный директор Anthropic Дарио Амодей и руководитель Google DeepMind Демис Хассабис, сообщает The Wall Street Journal.

Авторы обращения предлагают законодательно обязать компании, которые продают синтетические нуклеиновые кислоты, проверять клиентов и анализировать заказы на предмет потенциальных рисков. В случае выявления опасных комбинаций ДНК или РНК такие заказы должны блокироваться.

В письме отмечается, что развитие искусственного интеллекта способно существенно снизить барьеры для создания биологического оружия. По мнению подписантов, технологии, которые уже сегодня ускоряют научные открытия и разработку лекарств, одновременно могут использоваться злоумышленниками для создания новых патогенов.

ВАС ЗАИНТЕРЕСУЕТ

Центры обработки данных из клеток человеческого мозга: стартап создает "биологические компьютеры"

"Системы искусственного интеллекта стремительно совершенствуются, и наряду с невероятными преимуществами для науки и медицины существует реальная вероятность того, что барьеры в виде знаний, которые исторически мешали злоумышленникам получить биологическое оружие, существенно ослабнут", — говорится в обращении.

Инициаторами письма стали два американских аналитических центра, специализирующихся на технологической политике. Они назвали вопрос биологической безопасности одной из немногих тем, которая объединяет представителей разных политических лагерей, исследователей и руководителей конкурирующих технологических компаний. Обращение подписали также руководитель направления искусственного интеллекта Microsoft Мустафа Сулейман и главный директор по вопросам ИИ компании Meta Александр Ван.

В документе также отмечается, что нынешние механизмы контроля преимущественно являются добровольными или распространяются только на организации, которые получают федеральное финансирование. Сторонники новых правил считают, что Конгресс должен принять отдельный закон, который будет распространяться на всех покупателей синтетических нуклеиновых кислот. В то же время критики предупреждают, что дополнительные требования могут создать финансовое давление на стартапы и замедлить развитие биотехнологической отрасли.

ВАС ЗАИНТЕРЕСУЕТ

Нобелевская премия для ИИ и "ненулевой шанс убить всех": прогноз сооснователя Anthropic

Бывший советник президента США Дональда Трампа по вопросам искусственного интеллекта Дин Болл, который помогал организовать кампанию в поддержку письма, заявил, что потенциальные расходы оправданы масштабом рисков. По его словам, проверка заказов на синтетические биологические материалы является разумным требованием, учитывая угрозу создания биологического оружия.

Обращение появилось вскоре после того, как Дональд Трамп подписал указ о надзоре за моделями искусственного интеллекта и кибербезопасности. Документ стал частью нового подхода администрации к регулированию отрасли после отмены предыдущих правил, введенных при президентстве Джо Байдена.