Ученые из Массачусетского технологического института создали алгоритм, который учит искусственный интеллект воспринимать информацию скептически. Затем ИИ проверили на простой игре, и оказалось, что он справляется с задачей лучше своих предшественников, сообщает «Лига».
Чтобы сделать ИИ устойчивым к противоречащим данным, исследователи попытались внедрить защиту для контролируемого обучения, объединив алгоритм обучения данными с глубокой нейронной сетью, которая используется, например, для обучения машины игре в Го или шахматы.
Обычно нейросеть учат связывать определенные данные с заданными параметрами. Например, если в ИИ загрузить изображения с меткой «кошка», то в дальнейшем он с легкостью сможет определить кошку, попадая на изображения с соответствующей меткой. Но такой способ очень длительный и трудоемкий, поэтому ученые хотели найти способ, который может заставить ИИ принимать решения в режиме реального времени.
Поэтому команда решила опираться на форму машинного обучения, которая не требует связывания помеченных входных данных с выходными, а скорее направлена на усиление определенных действий в ответ на входные данные. То есть, ученые придумали способ, с помощью которого машина могла анализировать свои правильные и неправильные ответы.
Для проверки результатов исследователи использовали игру пинг-понг, в которой два игрока находятся по разные стороны экрана и отбивают мячик в сторону соперника. Ученые сместили траекторию движения мяча на несколько пикселей, а машина должна была понять, когда он двигается правильно, а когда ее пытаются обмануть.
Исследователи отмечают, что ИИ справился с этой задачей лучше своих предшественников.
Подписывайтесь на наш Telegram-канал с новостями технологий и культуры.
Ранее ученые из Университета Кенхи в Сеуле создали нейросеть, которая превратила рисунки, сделанные Галилео Галилеем, в снимки, сделанные современными зондами. Искусственный интеллект реконструировал магнитные поля и активность Солнца по архивным изображениям солнечных пятен.