Штучний інтелект робить світ дурнішим — ЗМІ

Людство зіткнулося з парадоксом, коли стрімке накопичення цифрових даних та активне використання ШІ не підвищують, а навпаки знижують колективний інтелект суспільства. Через лавиноподібне зростання обсягів генеративного контенту людські системи втрачають здатність відрізняти важливі факти від загального інформаційного шуму, пише аспірант кафедри конвергенції штучного інтелекту (AI Convergence), консультант із питань стійкості безпеки Чарльз Чанг, у своїй колонці для The Korean Times.

Раніше інформації бракувало, тому будь-які нові дані рухали світ і суспільство уперед. Сьогодні все навпаки: ШІ миттєво штампує переконливі тексти, фото та відео, які часто виявляються звичайною вигадкою. Людський мозок просто не встигає відсіювати цей нескінченний потік фейків.

Автор матеріалу наголошує, що це не просто метафора, а вимірна властивість будь-якої системи обробки даних: коли «шум» росте швидше за корисний «сигнал», загальний інтелект падає.
«Математика тут проста. Обсяг доступних даних за останні десятиліття зріс на порядки. Кількість рішень у реальному світі та підлеглих подій, які генерують значущі сигнали, — ні», — стверджує Чанг.

ВАС ЗАЦІКАВИТЬ

Люди почали говорити мовою чат-ботів: дослідники фіксують зміни мовлення

До того ж технології розділяють людей. Кожна політична чи соціальна група налаштовує алгоритми під себе та закривається у власній інформаційній «бульбашці». У результаті спільноти дивляться на ті самі речі, але роблять абсолютно протилежні висновки, руйнуючи будь-яку згоду щодо базових фактів.

Дослідження у сфері науки про прийняття рішень уже давно фіксують цей пагубний вплив на експертів у різних галузях. Як виявилося, надлишок інформації не допомагає фахівцям, а лише шкодить їм.

«Вище певного порогу додаткова інформація викликає когнітивне перевантаження, породжує хибну впевненість і позбавляє можливості правильно зважити суперечливі аргументи», — зазначає видання. ШІ лише масштабував цей ефект до катастрофічних обсягів.

Найгірше те, що уряди та великі компанії починають вірити красивим ШІ-звітам, які відірвані від реального життя. Покладаючись на цифрові ілюзії, керівники втрачають зв'язок із дійсністю, перестають бачити наслідки своїх дій та вчитися на помилках.

Світ має переосмислити підходи до споживання інформації та відмовитися від застарілих уявлений про прогрес, які формувалися в епоху її дефіциту.

«Ми повинні позбутися ілюзії, що накопичення більшої кількості інформації — це те саме, що й генерація інтелекту», — резюмує автор. Стратегічну перевагу отримають лише ті суспільства, які зможуть зберегти здатність чути корисний сигнал в умовах керованого штучним інтелектом шуму.

Поки світ намагається розібратися з лавиною ШІ-контенту, провідні лабораторії світу вже працюють над наступним кроком — створенням внутрішнього «морального компаса» для алгоритмів.

Навіщо штучному інтелекту пишуть власну конституцію, чому ШІ-мораль нагадує релігійні догми та чи вбереже це людство від цифрового хаосу, — розбирає завідувач наукової лабораторії імерсивних технологій і права Інституту інформації, безпеки і права Національної академії правових наук України, доктор наук у галузі права Олексій Костенко у статті «Для ШІ пишуть конституцію. Навіщо йому мораль і чи цього достатньо?».