Искусственный интеллект делает мир глупее — СМИ

Человечество столкнулось с парадоксом, когда стремительное накопление цифровых данных и активное использование ИИ не повышают, а, напротив, снижают коллективный интеллект общества. Из-за лавинообразного роста объемов генеративного контента человеческие системы теряют способность отличать важные факты от общего информационного шума, пишет аспирант кафедры конвергенции искусственного интеллекта (AI Convergence), консультант по вопросам устойчивой безопасности Чарльз Чанг в своей колонке для The Korean Times.

Раньше информации не хватало, поэтому любые новые данные двигали мир и общество вперед. Сегодня все наоборот: ИИ мгновенно штампует убедительные тексты, фото и видео, которые часто оказываются обычной выдумкой. Человеческий мозг просто не успевает отсеивать этот бесконечный поток фейков.

Автор материала подчеркивает, что это не просто метафора, а измеримое свойство любой системы обработки данных: когда «шум» растет быстрее полезного «сигнала», общий интеллект падает.
«Математика здесь проста. Объем доступных данных за последние десятилетия вырос на несколько порядков. Количество решений в реальном мире и связанных с ними событий, генерирующих значимые сигналы, — нет», — утверждает Чанг.

ВАС ЗАИНТЕРЕСУЕТ

Люди начали говорить на языке чат-ботов: исследователи фиксируют изменения речи

К тому же технологии разделяют людей. Каждая политическая или социальная группа настраивает алгоритмы под себя и закрывается в собственном информационном «пузыре». В результате сообщества смотрят на одни и те же вещи, но делают абсолютно противоположные выводы, разрушая любое согласие относительно базовых фактов.

Исследования в области науки о принятии решений уже давно фиксируют это пагубное влияние на экспертов в различных отраслях. Как оказалось, избыток информации не помогает специалистам, а лишь вредит им.

«Выше определенного порога дополнительная информация вызывает когнитивную перегрузку, порождает ложную уверенность и лишает возможности правильно взвесить противоречивые аргументы», — — отмечает издание. ИИ лишь увеличил этот эффект до катастрофических масштабов.

Хуже всего то, что правительства и крупные компании начинают верить красивым отчетам ИИ, оторванным от реальной жизни. Полагаясь на цифровые иллюзии, руководители теряют связь с реальностью, перестают видеть последствия своих действий и учиться на ошибках.

Мир должен переосмыслить подходы к потреблению информации и отказаться от устаревших представлений о прогрессе, которые формировались в эпоху её дефицита.

«Мы должны избавиться от иллюзии, что накопление большего количества информации — это то же самое, что и генерация интеллекта», — резюмирует автор. Стратегическое преимущество получат лишь те общества, которые смогут сохранить способность слышать полезный сигнал в условиях шума, управляемого искусственным интеллектом.

Пока мир пытается разобраться с лавиной ИИ-контента, ведущие лаборатории мира уже работают над следующим шагом — созданием внутреннего «морального компаса» для алгоритмов.

Зачем искусственному интеллекту пишут собственную конституцию, почему ИИ-мораль напоминает религиозные догмы и убережет ли это человечество от цифрового хаоса, — рассуждает заведующий Научной лабораторией иммерсивных технологий и права Института информации, безопасности и права Национальной академии правовых наук Украины, доктор наук в области права Алексей Костенко в статье «Для ИИ пишут конституцию. Зачем ему мораль и достаточно ли этого?».