Искусственный интеллект может создать синтетические лица людей, которые кажутся более правдоподобными, чем настоящие, и вызывают больше доверия. Созданные нейросетью лица смогли обмануть даже опытных наблюдателей. Их легко загрузить онлайн и они могут использоваться для интернет-мошенничества и создания фейковых аккаунтов в соцсетях, сообщает New Scientist.
«Мы должны быть обеспокоены, потому что эти синтетические лица могут быть эффективно использованы в гнусных целях, например, для таких вещей, как порноместь или мошенничество», - заявила Софи Найтингейл из Ланкастерского университета в Великобритании.
Известно, что программы искусственного интеллекта могут научиться создавать изображения, все менее отличимые от настоящих. В ходе исследования Найтингейл и ее команда попросили 315 добровольцев сказать, смогут ли они отличить 400 синтетических фотографий от 400 снимков настоящих людей. Каждый набор состоял из 100 фотографий людей четырех этнических групп.
Эта группа смогла отличить настоящие фотографии с точностью 48,2% - чуть хуже, чем просто догадка. Вторая группа, состоявшая из 219 добровольцев, прослушала тренинг по определению созданных на компьютере изображений. Эта группа смогла определить фейковые снимки с точностью 59%, что чуть лучше, но этой разницей можно пренебречь, считает Найтингейл.
Хуже всего добровольцам удавалось отделить синтетические и настоящие лица белых людей. Возможно, это происходило из-за того, что нейросети тренировали генерировать лица именно на представителях этой расы.
Исследователи также попросили отдельную группу из 223 участников оценить выбранные лица по уровню их достоверности по шкале от 1 до 7. Они почитали, что синтетические лица на 8% более правдоподобны, чем настоящие. Найтингейл считает, что это небольшая, но значительная разница. Это может быть связано с тем, что такие изображения больше похожи на «средние» человеческие лица, а люди с большей вероятностью будут доверять типичным лицам.
Интересно, что четыре лица, которые посчитали наиболее недостоверными, были настоящими. Три же, которые были оценены как наиболее правдоподобные, были сгенерированы искусственным интеллектом.
Подписывайтесь на наш Telegram-канал с новостями технологий и культуры.
В прошлом году ученые из Австралии провели три эксперимента с искусственным интеллектом и выяснили, что он может научиться манипулировать людьми. В рамках этих экспериментов нейросеть играла в игры против людей.