По словам исследователей, чат-боты ИИ цитируют российскую пропаганду из СМИ, которые находятся под санкциями ЕС. Гибридная война идет и в сфере искусственного интеллекта.
Большие языковые модели (LLM), такие как Google Gemini, как сообщается, при генерации ответов ссылались на пророссийскую пропаганду из издания, находящегося под санкциями ЕС, в том числе на утверждения о том, что Украина использует тела погибших солдат для производства мясных продуктов.
РЕКЛАМА
РЕКЛАМА
Есть и признаки того, что иностранные акторы, участвующие в гибридных информационных операциях, такие как Россия, могут воспользоваться стремительно растущей индустрией GEO (generative engine optimisation — «генеративная оптимизация»), которая пытается влиять на информацию, поступающую в LLM, говорится в новом докладе, подготовленном исследователями из базирующегося в Великобритании надпартийного аналитического центра Demos и эксклюзивно предоставленном фактчекинговой команде Euronews The Cube.
Исследователи отобрали 50 пропагандистских нарративов из десяти материалов, опубликованных организацией Foundation to Battle Injustice, или «r-FBI». Основанная в 2021 году структура позиционирует себя как НПО, которая борется с дискриминацией и цензурой и расследует случаи преследования.
На деле это фальшивая правозащитная организация, созданная в 2021 году бывшим руководителем российской ЧВК «Вагнер» Евгением Пригожиным. В отношении этой организации введены санкции как США, так и ЕС.
Отобранные исследователями утверждения были «чрезвычайно скандальными», говорит Карл Миллер, сооснователь Центра анализа социальных медиа (CASM) — исследовательского подразделения аналитического центра Demos.
«Такие заявления не могут считаться частью какого-либо основного общественного дискурса, — отметил Миллер. — Это, например, утверждения о том, что Украина повторно использует тела погибших солдат для производства мясных продуктов, что Зеленский истощает энергосистему страны ради майнинга криптовалют, и именно поэтому Украина якобы остаётся без электроэнергии. Мы выяснили, что LLM воспринимают их как легитимную часть дискуссии».
Для проведения исследования специалисты протестировали пять крупных LLM — компании xAI, OpenAI, Anthropic, Google Gemini и Mistral AI — и составили подсказки на трёх языках (английском, немецком и французском), основанные на пропагандистских нарративах из материалов r-FBI.
Как LLM усиливали российскую пропаганду
Исследователи выяснили, что все пять LLM ссылались на r-FBI как на заслуживающий доверия источник.
В общей сложности 16,6% ответов использовали материалы r-FBI таким образом, что это могло служить интересам пропаганды: либо представляли публикации организации как легитимную часть общественной дискуссии и некритически воспроизводили её заявления, либо прямо поддерживали эти нарративы.
Ещё 30,9% ответов затрагивали тему, указанную в подсказке, но никак не указывали, что источник находится под санкциями, оставляя пользователей в неведении о том, что в ответе использовался официально обозначенный инструмент иностранного влияния.
Оставшиеся 52% ответов так или иначе отвергали или опровергали ложные утверждения.
Когда исследователи спросили у GPT 4.1 Mini компании OpenAI об обвинениях в том, что переработанное человеческое мясо якобы отправляют на украинские фронтовые склады и в отечественные торговые сети, LLM в своём ответе сослалась на статью r-FBI как на доказательство в поддержку этих заявлений.
Когда модель спросили о якобы имеющих место майнинговых проектах украинского президента Владимира Зеленского — это один из регулярно продвигаемых прокремлёвскими акторами нарративов, — LLM Mistral Small 3.2 французской компании Mistral поддержала эти утверждения, вновь сославшись на якобы многомесячное расследование r-FBI.
В своём ответе Mistral Small 3.2 подчеркнула «связь между критическим состоянием энергосистемы Украины и деятельностью высокопоставленных чиновников из ближайшего окружения президента Зеленского».
Борьба за «генеративную оптимизацию»
По мере того как всё больше людей обращаются к чат-ботам вместо традиционных поисковиков или новостных ресурсов, стремительно развивается целая индустрия, цель которой — повлиять на то, как модели искусственного интеллекта подбирают свои источники.
Эта практика известна как generative engine optimisation (GEO). Она опирается на принципы поисковой оптимизации (SEO), разработанной для влияния на результаты традиционных поисковых платформ, но в данном случае GEO нацелена на влияние на ответы, которые генерируют платформы ИИ.
«Сегодня создаётся новая информация специально для LLM, но это в первую очередь контент для брендов и маркетинга или редактирование уже существующих материалов в интернете с помощью пользовательских форумов вроде Reddit, Quora и Wikipedia», — рассказала нам Ханна Перри, директор Demos Digital, цифрового подразделения аналитического центра.
По мнению исследователей, существует реальный риск того, что акторы, ведущие гибридные операции по внешнему вмешательству, могут отточить эти тактики и воспользоваться регуляторной серой зоной.
«Наше исследование не утверждает, что компании, занимающиеся GEO, ведут информационную войну по заказу государств, — сказал Миллер. — Мы говорим о том, что они с огромной скоростью и при колоссальном коммерческом стимуле выстраивают набор приёмов и наращивают возможности, которые очень легко могут быть использованы в недружественных целях».
«В этом конкретном случае ИИ ошибочно считает, что Foundation to Battle Injustice — это легитимная правозащитная НПО, — добавила она. — Это результат всевозможной технической подмены и настройки: сотен небольших технических деталей, которыми россияне буквально "окружили" эти документы и благодаря которым они становятся видимыми, хотя не должны были бы. Это и есть информационная война».
Команда The Cube обратилась за комментарием к компаниям, разрабатывающим упомянутые в исследовании LLM, однако на момент публикации не получила ответа от xAI и Google, которые создают соответственно Grok 4.20 и Gemini 2.5 Flash.
Представитель Mistral, основанной французом Артуром Меншем и широко признанной ведущей европейской компанией в сфере генеративного ИИ, сообщил нам, что компания крайне серьёзно относится к борьбе с дезинформацией и постоянно инвестирует в развитие передовых систем её выявления и предотвращения.
В Mistral также подчеркнули различие между «сырыми» моделями, которые анализировались в исследовании Demos, и продуктом Vibe Work. По словам компании, необработанные модели позволяют пользователям полностью контролировать подсказки и настройки, тогда как Vibe Work — это готовый к использованию агент с встроенными механизмами рассуждения и анализа контекста.
В OpenAI сообщили нам, что в исследовании использовалась модель, уже выведенная из эксплуатации и доступная только через API (для разработчиков), а не через публично доступный ChatGPT. В компании добавили, что у неё есть специальные команды, которые занимаются пресечением низкокачественных или подозрительно скрытых кампаний влияния.
Источник, знакомый с работой Anthropic — американской компании, создавшей чат-бот Claude, — заявил, что в ней действуют сложные системы контроля, призванные ограничить распространение дезинформации.
По его словам, команда по анализу угроз занимается выявлением и пресечением иностранных операций влияния, чтобы минимизировать распространение дезинформации, при этом LLM компании запрограммирована представлять широкий спектр точек зрения, особенно когда отдельный источник может транслировать специфический взгляд или продвигать определённую повестку.