Они кажутся такими же энергичными и с безупречной дикцией, как настоящие ведущие эфира, но на самом деле они сгенерированы искусственным интеллектом. Более того, они распространяют фейки.
РЕКЛАМА
"Ошеломляющий шаг: Канада объявила войну США", - говорит светловолосая ведущая американских новостей в видеоролике, распространяемом по соцсетям от TikTok до X.
Глядя прямо в камеру, ведущая продолжает: "Давайте обратимся к Джо Брэкстону, который находится на границе". Те, кто дотянет до семисекундной отметки, больше других приблизятся к истине.
"Я сейчас на границе, но войны нет, - говорит репортер, а затем сообщает. - Мама, папа, я знаю, что это может выглядеть реально, но это всё создано искусственным интеллектом".
Ведущие в этих роликах демонстрируют такой же энтузиазм и дикцию, как и настоящие дикторы, они созданы искусственным интеллектом (ИИ).
Многие из этих роликов созданы с помощью Veo 3 - программного обеспечения Google для создания видео с помощью искусственного интеллекта, которое позволяет пользователям генерировать восьмисекундные ролики, синхронизируя аудио и видео.
С помощью этой технологии пользователи "заставляют" сфабрикованных ведущих произносить безумные вещи.
Как определить, что видео поддельное ?
Ряд признаков может помочь онлайн-пользователям определить, является ли видео с телеведущим настоящим. Один из признаков - то, что в этих видео многие "репортёры", якобы ведущие репортажи с места событий, держат один и тот же микрофон, на котором написано "NEWS".
Хотя многие телеканалы имеют термин "новости" в своем названии (например, BBC News, Fox News или Euronews), ни одно известное СМИ не называется просто "Новости".
В других случаях логотипы на микрофонах, одежде ведущих, а также на заднем плане и в бегущей строке на экране, представляют собой тарабарщину.
ИИ не в состоянии различить, что делает серию букв разборчивой, поскольку ориентируется в первую очередь на визуальные паттерны, а не на смысловое значение текста, поэтому часто генерирует неразборчивый текст.
Это связано с тем, что ИИ работает по принципу подсказки: если человек не вводит подсказку, в которой указано, какие слова должны быть включены в генерируемое видео, машина создаёт собственный текст.
Сфабрикованные ведущие новостей, используемые государствами
В последние годы всё больше аутентичных телеканалов экспериментируют с ИИ-ведущими, используя либо полностью сгенерированных персонажей, либо прося реальных людей подписать разрешение на использование их изображения или голоса. В октябре одна из польских радиостанций вызвала споры, уволив журналистов и запустив на этой неделе "ведущих" с искусственным интеллектом.
Государственные структуры также используют ИИ-ведущих для пропаганды.
Так в опубликованном в 2023 году докладе, аналитическая компания Graphika, специализирующаяся на ИИ, обнаружила, что фиктивный новостной канал под названием "Wolf News" продвигал интересы Коммунистической партии Китая с помощью распространяемых в соцсетях видеороликов и ведущих, сгенерированных ИИ.
ИИ-ведущие обходят репрессивную цензуру
ИИ-ведущие могут способствовать распространению фальшивых новостей и дезинформации, но в некоторых случаях они могут избавить журналистов, работающих при репрессивных режимах, от опасности публичного разоблачения.
В июле 2024 года президент Венесуэлы Николас Мадуро был переизбран в ходе выборов, омрачённых, по мнению правозащитных групп, фальсификациями.
После переизбрания Мадуро, находящийся у власти с 2013 года, еще больше ограничил свободу прессы, подвергая опасности работников СМИ.
Чтобы дать ему отпор, в августе 2024 года журналисты начали операцию Operación Retuit ("Операция ReTweet").
В серии из 15 видеороликов в стиле соцсетей сгенерированные ИИ женщина и мужчина по имени "Бестия" и "Бадди" рассказывают о политической ситуации в Венесуэле, делясь фактическими данными.