Компания Google удалила ряд медицинских обзоров, созданных с помощью генеративного искусственного интеллекта, после того, как расследование The Guardian показало их потенциальную опасность. Некоторые из таких сводок появлялись в верхней части поиска и содержали обманчивые данные о состоянии здоровья, пишет Guardian.
Компания ранее заявляла, что ее AI Overviews являются "полезными" и "надежными". В то же время расследование показало, что в отдельных случаях они могли вводить людей в заблуждение и создавать риски для пациентов.
Один из примеров касался анализов функции печени, где Google предоставил некорректные диапазоны "нормальных" показателей. Эксперты назвали это "опасным" и "тревожным", поскольку люди с серьезными заболеваниями могли ошибочно считать себя здоровыми.
Как выяснил Guardian, запрос "какой нормальный диапазон показателей анализа крови на печень" возвращал набор цифр без надлежащего контекста. При этом не учитывались возраст, пол, этническая принадлежность или другие индивидуальные факторы.
Специалисты отметили, что такие обобщения могут существенно отличаться от клинических норм. Это, в свою очередь, могло привести к тому, что пациенты не обращались за дальнейшей медицинской помощью.
После публикации расследования Google удалил AI Overviews для запросов "какой нормальный диапазон для анализов крови на печень" и "какой нормальный диапазон для анализов функции печени". В компании подтвердили, что приняли меры, но не комментируют отдельные случаи.
"Мы не комментируем отдельные удаления в Поиске. В случаях, когда обзоры ИИ не учитывают определенный контекст, мы работаем над общими улучшениями", — заявил представитель Google.
Директор по коммуникациям British Liver Trust Ванесса Хебдитч положительно оценила это решение. Она отметила, что "это отличная новость", и она рада "удалению обзоров Google AI в этих случаях".
Однако Хебдитч подчеркнула, что проблема не исчезла полностью. По ее словам, незначительные вариации запросов все еще могут вызвать потенциально обманчивые обзоры. The Guardian пишет, что альтернативные запросы вроде "диапазон опорных значений LFT" также активировали AI Overviews.
"Функциональный тест печени — это совокупность различных анализов крови. Понимание результатов включает гораздо больше, чем просто сравнение набора цифр. Но в обзорах искусственного интеллекта список тестов выделен жирным шрифтом, из-за чего читателям очень легко не заметить, что эти цифры могут даже не соответствовать их тесту", — добавила Хебдитч.
Google, который контролирует около 91% мирового рынка поисковых систем, заявил, что просматривает новые примеры, предоставленные журналистами. В компании настаивают, что обзоры ИИ показываются только тогда, когда есть "высокая уверенность" в качестве ответа.
The Guardian также обратила внимание на другие ИИ-сводки Google по раку и психическому здоровью. Эксперты охарактеризовали часть этой информации как "абсолютно неправильную" и "действительно опасную".
В ответ Google заявил, что эти обзоры содержат ссылки на авторитетные источники и призывы обращаться к специалистам. По словам представителя, внутренняя команда клиницистов не обнаружила во многих из них фактических ошибок.
Старший редактор техносайта Futurism Виктор Тангерманн отметил, что результаты расследования показали необходимость серьезной доработки инструмента. По его словам, компания должна убедиться, что ее ИИ "не распространяет опасную дезинформацию о здоровье".
В то же время Anthropic и OpenAI презентовали свои решения в сфере медицины. Anthropic запустила платформу Claude for Healthcare, которая должна помочь врачам сократить время на рутинные процессы, а пациентам — лучше понимать медицинскую информацию. А OpenAI представила сервис ChatGPT Health, предназначенный для анализа медицинских показателей и советов по здоровому образу жизни.