"Национальное объединение" использовало искусственный интеллект в рамках кампании перед выборами в Национальное собрание Франции и Европарламент, говорится в отчетах нескольких некоммерческих организаций.
РЕКЛАМАФранцузские ультраправые использовали сгенерированные искусственным интеллектом (ИИ) изображения в рамках своей предвыборной кампании, говорится в отчете некоммерческой организации AI Forensics.
Ее аналитики изучили страницы 31 французской политической партии в социальных сетях в поисках подобного контента в период с 1 мая по 28 июня — перед евровыборами и выборами в Национальное собрание Франции.
В общей сложности командаобнаружила 51 случай использования генеративных изображений ИИ французскими партиями. Чаще всего это делали "Национальное объединение", "Реконкиста" и "Патриоты".
"Это первый избирательный цикл, в котором (генеративный) ИИ стал реальностью, но мы уверены, что в ближайшие годы он будет использоваться чаще и чаще", — сказал Euronews Next исследователь из AI Forensics Сальваторе Романо.
"Если мы не можем справиться с этим сейчас, когда масштабы так малы, то когда технология станет неотличима от реального контента, сделать это будет еще сложнее", — добавил он.
Ультраправое "Национальное объединение" одержало победу в первом туре выборов во Франции в минувшее воскресенье, набрав 33% голосов, а также на июньских выборах в ЕС, где она получила 31,5%.
Где появился ИИ-контент?
Большинство сгенерированных ИИ изображений для предвыборной кампании, использованных французскими партиями, "несут в себе идеи против иммиграции, отсутствия безопасности во Франции, свободы слова, несовершенной системы правосудия и слабой защиты сельского хозяйства", говорится в отчете AI Forensics.
"[Изображения] используются в качестве средства нагнетания страха, чтобы сказать, что Франция небезопасна в ЕС, и это очень сильно действует на уязвимых людей в нашем обществе", — добавила исследователь AI Forensics Миазия Шюлер.
По словам Шюлер, одни изображения часто выглядели "гиперреалистично", другие — более тонко, например, имитировали политические карикатуры, которые можно найти в газетах.
Некоторые партии, например ультраправая "Реконкиста", также использовали генеративный ИИ для создания изображений президента Франции Эммануэля Макрона и главы Еврокомиссии Урсулы фон дер Ляйен.
Согласно исследованию Лаборатории цифровых криминалистических исследований Атлантического совета (DFRLabs), в ходе предвыборной кампании в ЕС "Национальное объединение" создало сайт под названием "Европа без них", который аналогичным образом оспаривал лидерские позиции Макрона и фон дер Ляйен.
Он до сих пор работает, и там есть как минимум три изображения, сгенерированные искусственным интеллектом: петиции против "неуважения ЕС к народам, массовой иммиграции и пропаганды хиджаба".
Только верхушка айсберга
Исследователь Atlantic Council Валентин Шатле говорит, что трудно определить, насколько сильно этот тип контента повлиял на успех "Национального объединения" на выборах в ЕС и во Франции.
"Я думаю, что это положительно сказывается на материалах, которые партия использует для передачи определенной идеи, например, позиции Барделлы по тому или иному вопросу. (Сгенерированные ИИ) изображения также используются, чтобы шокировать людей", — добавил он.
Euronews Next связался с "Национальным объединением", еврофракцией "Идентичность и демократия", а также с политическими партиями "Патриоты" и "Реконкиста", но не получил ответа.
По данным французской телекомпании BFMTV, с января 2024 года кандидаты от "Национального объединения" проходят обучение искусственному интеллекту, в том числе использованию ChatGPT. В учебном буклете приводятся примеры того, как ИИ может помочь политическим кандидатам, например, для создания агитационных плакатов и поиска аргументов для дебатов.
Сальваторе Романо считает, что их исследование — это "лишь верхушка айсберга". На самом деле в соцсетях гораздо больше немаркированного ИИ-контента.
Небрежность технологических компаний
Отчет AI Forensics показал, что ни одно из изображений, созданных искусственным интеллектом, не было помечено как таковое.
РЕКЛАМА"Наши выводы свидетельствуют о критической небрежности политических партий и платформ в отношении обязательств по маркировке изображений, созданных искусственным интеллектом, в своих политических кампаниях, что подчеркивает настоятельную необходимость прозрачности", — говорится в отчете.
Крупные технологические компании, такие как Google, OpenAI, Meta и TikTok, подписали в феврале соглашение об открытых технологиях, которое "устанавливает ожидания относительно того, как подписавшие его стороны будут управлять обманчивым предвыборным контентом ИИ" на своих платформах перед европейскими выборами.
Первое обязательство этого соглашения заключается в том, что платформы должны "(идентифицировать) реалистичные изображения, созданные ИИ, и/или (подтверждать) подлинность контента и его происхождение", говорится в копии соглашения .
Некоторые политические партии подписали собственный вариант этого соглашения с Еврокомиссией, где заявили, что "обязуются предотвращать преднамеренный обман общественности, в том числе с помощью искусственного интеллекта".
Фракция "Идентичность и демократия" (ID) Европейского парламента, членом которой является "Национальное объединение", подписала этот кодекс поведения. Другие французские правые партии этого не сделали.
РЕКЛАМАПо словам Романо, AI Forensics направит отчет в Еврокомиссию в надежде, что будут приняты меры против партий за нарушение этих кодексов поведения.