Штучний інтелект виявився здатний маніпулювати людьми

Вчені з Австралії провели три експерименти зі штучним інтелектом і з'ясували, що він може навчитися маніпулювати людьми. В рамках цих експериментів нейромережа грала в ігри проти людей, повідомляє «Новое время».

У першому експерименті учасники натискали на червоні або сині поля, щоб виграти фальшиву валюту. У 70% випадків штучний інтелект вивчав шаблони поведінки людей і підштовхував їх до потрібного йому вибору.

У другому експерименті учасники повинні були натискати на кнопку тоді, коли їм показували певний символ і не натискати, коли показували інший. Нейромережа навчилася створювати таку послідовність символів, щоб учасники більше помилялися. У підсумку ШІ домігся збільшення кількості помилок майже на 25%.

Третій експеримент складався з декількох раундів, в яких учасник був в ролі інвестора, а ШІ відігравав роль керуючого. Нейромережа використовувала гроші, а потім повертала певну суму людині, яка потім вирішувала, скільки вкласти в наступний раунд. У цю гру грали в двох різних режимах: в одному ШІ прагнув максимізувати кількість грошей, які він отримав, а в іншому він прагнув до справедливого розподілу грошей між собою і людиною. ШІ був дуже успішний в кожному режимі.

За словами вчених, у кожному експерименті нейромережа вчилася на відповідях і помилках людей і з часом виявляла вразливі місця в процесі прийняття рішень. В результаті ІІ навчився направляти людей до потрібних йому рішень.

Результати дослідження поки що абстрактні, але вже показують, що машини можуть впливати на рішення людей. Таким чином, вирішили вчені, потрібні додаткові дослідження, щоб визначити, як ці висновки можна реалізувати і використовувати на благо суспільства.

Підписуйтесь на наш Telegram-канал з новинами технологій і культури.

ВАС ЗАЦІКАВИТЬ

Вчені навчили штучний інтелект розрізняти породи дерев

Раніше медики створили штучний інтелект, який здатний в автономному режимі аналізувати знімки комп'ютерної томографічної ангіографії (КТ-ангіографія) і шукати аневризми судин головного мозку пацієнтів. За словами вчених, нейромережа зможе помічати особливості, які не видні людському оку.