Видео быстро набрало более 12 миллионов просмотров после того, как им поделились на Facebook. Meta отказалась убирать его.
Президент Франции Эммануэль Макрон узнал о новости о своём предполагаемом свержении после того, как получил сообщение с выражением обеспокоенности и ссылкой на видео в Facebook.
"В воскресенье [14 декабря] один из моих африканских коллег вышел на связь и написал: "Дорогой президент, что с вами происходит? Я очень обеспокоен", - сообщил Макрон читателям французской газеты La Provence 16 декабря.
Вместе с посланием в газете появилось эффектное видео: кружащийся вертолет, военные, толпы людей, а женщина, похожая на ведущую новостей, передает материал на камеру.
"По неофициальным данным, во Франции произошел переворот, возглавляемый полковником, личность которого не раскрывается, и возможно падение Эммануэля Макрона. Однако власти не сделали чёткого заявления", - говорит она.
Вот только ничто в этом ролике не является подлинным: на самом деле он был создан с помощью искусственного интеллекта.
Узнав о видео, Макрон попросил Pharos — официальный французский портал по выявлению незаконного онлайн‑контента — связаться с материнской компанией Facebook, Meta, и потребовать удалить фальшивый ролик.
Но просьба была отклонена: платформа заявила, что видео не нарушает ее "правил использования".
Тогда президент Франции решил добиться его удаления лично.
"Я склонен думать, что у меня больше возможностей для давления, чем у других людей, - сказал Макрон. - Или, скорее, что легче придать делу серьёзности, если звоню я сам. Но это не работает".
"Эти люди издеваются над нами, - добавил он. - Им плевать на культуру взвешенных публичных дебатов, они насмехаются на суверенностью демократий, и поэтому они подвергают нас опасности".
Так кто же стоит за этими фальшивыми видео?
Оригинальное видео, которое быстро набрало более 12 миллионов просмотров, было изначально размещено в Facebook аккаунтом "Ислам", который, несмотря на свое название, не размещает религиозный контент.
Аккаунтом управляет подросток из Буркина‑Фасо, зарабатывающий на продаже курсов по монетизации искусственного интеллекта.
В итоге он удалил видео, но только более чем через неделю после его первоначальной публикации - из-за политических и общественных разногласий.
Команда Euronews по проверке фактов, The Cube, неоднократно пыталась связаться с ним по номеру, указанному в его аккаунте на Facebook, но пока безуспешно.
На некоторых роликах сгенерированные ИИ «ведущие новостей» держат в руках микрофон с логотипом Radio France Internationale (RFI), международного подразделения французского общественного радио.
На некоторых видео присутствует водяной знак "Sora", что говорит о том, что большая часть этого контента, скорее всего, была создана с использованием этой технологии.
Технология Sora 2, созданная OpenAI - той же компанией, которая основала Chat GPT, - позволяет пользователям генерировать 10-секундные гиперреалистичные видеоролики на основе текстовых подсказок.
Хотя на других видео логотип не отображается, его можно удалить во время пост-продакшена.
С момента своего появления в октябре технология вызвала споры, что привело к распространению в социальных сетях очень сложных и трудноразличимых видеороликов с искусственным интеллектом.