Новейшая модель ChatGPT начала ссылаться на Grokipedia — онлайн-энциклопедию, созданную компанией Илона Маска xAI. По результатам тестов The Guardian, GPT-5.2 девять раз цитировала Grokipedia в ответах на более чем десяток вопросов. Эксперты предостерегают, что такая практика может повысить уровень дезинформации.
Grokipedia запустили в октябре прошлого года как альтернативу Википедии, которая создается без прямого редактирования человеком. Платформу критикуют за грубые фактические ошибки, признаки политической предвзятости и отсутствие академических стандартов.
Тестировщики Guardian задавали политические и исторические вопросы ChatGPT, в частности, о структуре власти в Иране и деятельности отрицателей Холокоста. Модель ссылалась на Grokipedia, отвечая на запросы о зарплатах военизированных сил Басидж, собственности Фонда Мостазафан и биографии британского историка Ричарда Эванса.
Guardian отмечает, что ChatGPT не цитировал Grokipedia в ответах на прямые запросы с уже известной дезинформацией. В то же время ссылки на эту энциклопедию появлялись в ответах на менее известные или узкие темы.
В частности, ChatGPT повторил утверждения Grokipedia о связях компании MTN-Irancell с офисом верховного лидера Ирана, которые якобы более убедительны, чем в Википедии. Также модель воспроизвела информацию о деятельности Ричарда Эванса, которую ранее опровергла Guardian.
"ChatGPT имеет целью использовать широкий спектр общедоступных источников и точек зрения. Мы применяем фильтры безопасности, чтобы уменьшить риск появления ссылок, связанных с серьезным вредом", — заявил представитель OpenAI.
GPT-5.2 — не единственная модель, которая, вероятно, берет данные из Grokipedia. По неофициальным данным, на эту энциклопедию также ссылался Claude от Anthropic в темах от нефтедобычи до шотландского эля.
Исследовательница дезинформации Нина Янкович отметила, что материалы Grokipedia, которые она анализировала, "в лучшем случае опирались на ненадежные источники, в худшем — намеренно дезинформировали". По ее словам, цитирование таких ресурсов может создавать иллюзию их надежности для пользователей. Янкович также обратила внимание, что исправление ошибок в ИИ-системах происходит медленно.
"Большинство людей не приложат усилий, чтобы выяснить, где на самом деле кроется правда", — подытожила исследовательница.
Представитель xAI, компании-разработчика Grokipedia, в ответ на запрос Guardian по этой теме заявил: "Ложь устаревших СМИ".
В то же время Фонд Викимедиа , управляющий Wikipedia, официально монетизировал доступ к своим данным для обучения ИИ, заключив соглашения с Microsoft, Meta, Amazon, Perplexity и Mistral AI. Теперь техногиганты будут платить за легальное использование более 65 миллионов статей через сервис Wikimedia Enterprise, вместо того чтобы бесплатно нагружать серверы массовым сбором данных.