Расследование The Guardian показало, что сводки Google, создаваемые ИИ, выдавали неточную медицинскую информацию.
Как сообщается, Google удалил некоторые обзоры ИИ (AI Overviews) для запросов, связанных со здоровьем, после расследования, которое выявило, что часть содержащейся в них информации вводила в заблуждение.
AI Overviews представляют собой сводки, создаваемые искусственным интеллектом, которые дают информацию в ответ на тему или вопрос и отображаются в верхней части результатов поиска.
Расследование газеты The Guardian показало, что в некоторых таких сводках содержалась недостоверная медицинская информация, что могло навредить людям.
Газета выяснила, что AI Overviews выдавали массу цифр почти без контекста в ответ на вопросы вроде «каков нормальный диапазон для печеночных анализов крови?» и «каков нормальный диапазон для печеночных проб?». Ответы также не учитывали возможные различия в зависимости от национальности, пола, этнической принадлежности или возраста.
В результатах поиска Google по обоим вопросам наверху отображался выделенный фрагмент, то есть абзац, извлеченный с наиболее релевантного сайта по запросу пользователя.
По обоим запросам Google в качестве фрагмента выбрал диапазоны нормальных уровней различных веществ, содержащихся в печени, например аланинаминотрансферазы (ALT), которая регулирует выработку энергии, аспартатаминотрансферазы (AST), которая выявляет поврежденные кровяные клетки, и щелочной фосфатазы (ALP), которая помогает расщеплять белки.
Как выяснила The Guardian, цифры Google взял с Max Healthcare, индийской коммерческой сети больниц в Нью-Дели.
Выделенные фрагменты отличаются от обзоров ИИ тем, что текст в них не генерируется ИИ.
Расследование The Guardian показало, что вариации тех же вопросов, например «[liver function test] lft reference range» или «lft test reference range», по-прежнему создавали сводки ИИ. Печеночные пробы представляют собой анализы крови, которые измеряют белки и ферменты, чтобы оценить, насколько хорошо работает печень.
Сообщается, что Google рекомендовал людям с раком поджелудочной железы избегать жирной пищи, что, по словам экспертов, с которыми беседовала The Guardian, является плохой рекомендацией, поскольку это может увеличить риск смерти пациентов от болезни.
Расследование The Guardian проводится на фоне того, что эксперты бьют тревогу из-за того, как чат-боты ИИ «галлюцинируют»,» то есть придумывают ложные ответы, когда у них нет точной информации.
Euronews Next обратился в Google с вопросом, удалил ли он обзоры ИИ из некоторых медицинских запросов, но оперативного ответа не получил.
В выходные Google объявил, что добавляет обзоры ИИ в свой почтовый сервис Gmail.
Новая функция позволяет пользователям задавать вопросы и получать ответ о своих письмах вместо поиска по ним по ключевым словам.