Информатик Джеффри Хинтон, которого называют «крестным отцом искусственного интеллекта» за его большой вклад в развитие данной области, считает, что стоит запретить использование ИИ в военных целях. Об этом он заявил в интервью ВВС.
Учитывая то, что правительства вряд ли согласятся на такой запрет, Хинтон говорит, что для регулирования военного использования ИИ может потребоваться нечто подобное Женевским конвенциям – международным договорам, устанавливающим правовые стандарты гуманного обращения во время войны. При этом, по мнению профессора, человечество вряд ли разработает такие соглашения, пока не произойдет что-то «крайне неприятное», что подтолкнет людей договариваться насчет использования ИИ в военных целях.
Хинтон отметил, что Россия, вероятно, «усердно работает» над разработкой ИИ в военных целях, вспомнив слова российского президента Владимира Путина «Кто контролирует ИИ, контролирует мир».
Профессор надеется на то, что в разработке искусственного интеллекта Запад всё ещё «значительно опережает» Россию и Китай. По его мнению, мир стоит на пороге гонки вооружений с использованием искусственного интеллекта.
Военные США уже тестируют ИИ в принятии важных решений, и на данном этапе модели LLM могут вести себя непредсказуемо. Кроме того, в многочисленных повторах симуляции военных игр одна из мощнейших моделей ИИ – ChatGPT, разработанный компанией OpenAI – выбирала нанесение ядерного удара как лучшее решение конфликтов.