Исследование показало, что в статьях Grokpedia о религии, истории, литературе и искусстве чаще, чем в Википедии, встречаются ссылки на правые сайты.
Грокипедия Илона Маска, энциклопедия на основе искусственного интеллекта (ИИ), при освещении чувствительных тем опирается на источники с правым уклоном, говорится в новом исследовании.
РЕКЛАМА
РЕКЛАМА
Это исследование (источник на английском языке), проведенное учеными из Тринити-колледжа в Дублине и Технологического университета Дублина, рассмотрело почти 18 000 наиболее редактируемых англоязычных страниц Википедии и сравнило их с соответствующими статьями в Grokipedia, альтернативной энциклопедии на основе ИИ, которую Маск запустил в октябре прошлого года.
Как установили исследователи, в статьях Grokipedia о религии, истории, литературе и искусстве чаще цитировались правоконсервативные издания, чем в соответствующих статьях Википедии, хотя в целом политическая направленность материалов на обеих платформах была схожей.
По данным исследования, две трети проанализированных статей Grokipedia были сильно переработаны и опирались на меньшее число источников, чем их аналоги в Википедии.
Доклад появился после того, как в январе было опубликовано препринт-исследование (источник на английском языке), в котором высказывались схожие опасения по поводу Grokipedia: многие статьи в целом демонстрировали левый уклон, но материалы на спорные темы могли отдавать приоритет правоконсервативному контенту.
Тем временем Европейская комиссия в январе начала расследование (источник на английском языке) в отношении xAI Маска в рамках Закона о цифровых услугах (DSA), чтобы выяснить, распространяет ли сервис в ЕС незаконный контент, например, смонтированные изображения сексуального характера.
Полученные данные, по словам авторов, показывают, что генеративные системы ИИ могут перестраивать общественные знания менее заметным для пользователей образом, чем традиционные редакционные процессы.
«В отличие от Википедии, где предвзятость заметна и оспаривается в ходе человеческого редактирования, системы на основе ИИ работают в значительной степени непрозрачно», – сказала (источник на английском языке) Саэде Мохаммади, ведущий автор исследования. «Это означает, что изменения точки зрения или источников могут происходить без четкой ответственности и редакционного контроля».
Авторы также предупреждают, что стремительное распространение систем знаний, создаваемых ИИ, ставит более широкие вопросы управления.
Они указывают на риски, похожие на уже наблюдаемые на платформах социальных сетей, где слабый редакционный контроль способствовал распространению дезинформации с реальными последствиями для выборов, общественного здравоохранения и социальной стабильности.
«Наш информационный ландшафт стремительно меняется, – сказал профессор Тринити-колледжа в Дублине Таха Яссери. – Мы наблюдаем масштабное обновление информации по принципу «черного ящика» крупными языковыми моделями, которые во многом остаются закрытыми для общественной проверки».