В соцсети TikTok появилось множество сгенерированных ИИ видео с протестами по всей Европе. Эксперты полагают, что они создаются и распространяются с целью «усилить раскол в обществе».
Серия сгенерированных ИИ видеороликов, на которых якобы тысячи людей протестуют в различных европейских городах против иммиграции, ситуации в их странах, действующего правительства или в поддержку националистических ценностей, распространяется в TikTok.
РЕКЛАМА
РЕКЛАМА
Проанализированные видео были опубликованы за последние четыре месяца, некоторые из них набрали более 300 тысяч просмотров.
The Cube, команда по проверке фактов Euronews, выявила подобный контент, нацеленный на пользователей в Португалии, Франции, Германии, Ирландии, Италии и Великобритании, при этом многие зрители, похоже, верят в подлинность увиденного.
Однако ни одна из демонстраций, показанных в этих конкретных роликах, на самом деле не происходила, хотя авторы используют различные приемы, чтобы ввести пользователей в заблуждение.
Прежде всего, многие такие ролики выдаются за сюжеты из новостных выпусков.
Например, на одном из видео будто бы ведет репортаж португальская журналистка, работающая на государственный телеканал RTP, о чем свидетельствует логотип на ее микрофоне, тогда как графика, наложенная на сам видеоролик, напоминает оформление частного канала SIC Notícias.
Ошибочно указано и место съемки: в действительности на месте здания, возле которого она якобы стоит, протекает река Тежу.
The Cube также связался с RTP. Там сообщили, что журналистка из ролика, созданного с помощью ИИ, у них никогда не работала и что у канала нет никакого отношения к видео, распространяемому в TikTok.
Хотя заявленные причины этих мнимых протестов зачастую расплывчаты, например обобщенное недовольство «состоянием страны», в некоторых роликах прослеживаются отсылки к ультраправым партиям. Так, в ряде немецких видео, с которыми столкнулась команда The Cube, в подписях содержится поддержка партии «Альтернатива для Германии» (АдГ).
В некоторых роликах есть и комментарии пользователей TikTok, которые призывают эти партии взять ситуацию под контроль и решить, к примеру, проблему миграции. Среди фигур, к которым обращаются комментаторы, — Андре Вентура из португальской ультраправой партии Chega, представители французского «Национального объединения» и Алиса Вайдель из уже упомянутой выше АдГ.
Большинство таких видео заканчиваются призывом к аудитории проявить активность — поделиться своим мнением о протестах или написать название города, откуда они смотрят ролик.
Эксперты утверждают, что основная цель массового производства подобных видео — манипулировать общественным восприятием и усиливать общественную поляризацию по всей Европе, что создает серьезные риски для демократического дискурса.
«Зрители взаимодействуют с такими роликами прежде всего потому, что синтетические изображения напрямую обращаются к уже существующим политическим тревогам и культурным обидам», — объяснила The Cube Бруна Мартинс душ Сантуш из WITNESS, международной организации, изучающей влияние новых технологий, в особенности генеративного ИИ и дипфейков.
Знакомые приемы дезинформации
Все эти видео используют три типичных приема манипуляции: эмоционально заряженный язык, сгенерированное ИИ содержание и нагнетание поляризации.
По словам Мартинс душ Сантуш, в большинстве случаев эти инструменты служат приманкой для вовлечения.
«Темы вроде иммиграции, национализма и упадка общества вызывают сильный эмоциональный отклик, — говорит она. — Этот эффект особенно заметен на платформах коротких видео, где визуальный эффект и эмоциональный резонанс опережают контекст: зрители сначала воспринимают зрелище — масштаб толпы, флаги, скандирование, — и лишь потом задаются вопросом, насколько это подлинно».
Дополнительно этот эффект усиливается за счет алгоритмов рекомендаций в соцсетях, которые продвигают провокационный визуальный контент тем пользователям, у кого он, скорее всего, вызовет отклик.
По словам Мартинс душ Сантуш, использование ИИ для создания таких роликов делает производство дешевым и легко масштабируемым, что позволяет эффективно наращивать просмотры, число подписчиков и показатели вовлеченности.
Почему такой контент вообще доступен?
Соцсеть TikTok помечает эти ролики как созданные с помощью ИИ. Платформа утверждает, что запрещает контент, сгенерированный ИИ, если он «вводит в заблуждение по вопросам, имеющим общественную значимость» или нарушает ее правила, касающиесяраспространения дезинформации.
Более того, платформа заявляет: «Непомеченный контент может быть удален, ограничен или снабжен пометкой нашей командой в зависимости от потенциального вреда».
Тем не менее некоторые ролики, судя по всему, продолжают проскакивать через фильтры.
«Тот факт, что эти видео остаются онлайн, может означать нарушение TikTok собственных правил, а также указывать на недостаточную эффективность инструментов распознавания контента», — считает Мартинс душ Сантуш.
Кроме того, в соответствии с Европейским законом о цифровых услугах платформа обязана принимать эффективные меры против контента, который может негативно повлиять на «гражданский дискурс и избирательные процессы».
«Хотя само по себе присутствие таких видео на платформе еще не доказывает нарушения политики, оно поднимает серьезные вопросы об эффективности механизмов обнаружения, стандартов маркировки и алгоритмов рекомендаций TikTok», — сказала душ Сантуш.
Представители соцсети оперативно на запрос о комментарии не ответили.
В последние недели Европу охватили реальные протесты
Пока сгенерированные ИИ ролики показывают вымышленные протесты, которых не было, по всей Европе в последние недели действительно проходили массовые демонстрации по самым разным поводам.
Наибольший международный резонанс вызвали протесты в Испании в ответ на кризис в Сеуте, когда, по оценкам, около 80 000 человек пересекли границу между Марокко и североафриканской испанской территорией.
Большинство мигрантов позднее вернулись, однако, по оценкам, до 13 000 человек все еще могут оставаться в Сеуте, что спровоцировало протесты против того, как власти справляются с кризисом.
В Германии тем временем вспыхнули демонстрации против АдГ после ее разгромной победы на региональных выборах в начале сентября.
В Швейцарии тысячи людей недавно вышли на улицы, протестуя против бездействия правительства в условиях ухудшающейся ситуации с глобальным потеплением.