В последние годы на TikTok и YouTube растёт поток низкокачественного, повторяющегося и порой жестокого детского контента, созданного ИИ; по новому исследованию, он может вредить когнитивному развитию и усиливать агрессивность.
Так называемый «AI‑мусор», особенно сгенерированные ИИ ролики с анимированными фруктами, может способствовать заметному снижению когнитивных способностей и росту агрессивности у детей, говорится в новом исследовании.
РЕКЛАМА
РЕКЛАМА
Согласно анализу, проведенному Глобальной сетью по изучению экстремизма и технологий (Global Network on Extremism and Technology, GNET), такие ролики с анимированными фруктами, созданными с помощью ИИ и сегодня заполонившими ленты детей по всему миру, могут использоваться для скрытого распространения «насильственного и экстремистского контента».
Под «AI‑мусором» обычно понимают массово штампуемый, крайне повторяющийся и низкокачественный контент, создаваемый ИИ, в котором практически нет человеческого участия. В центре такого продукта — просмотры, клики, вовлечённость и рекламная выручка, а производить его очень дёшево.
Один создатель может выпускать сотни таких коротких роликов, заливая ими сразу несколько платформ. Поскольку многие социальные сети поощряют постоянную активность и загрузку нового контента, такая стратегия оказывается весьма эффективной для охвата миллионов детей по всему миру.
Это может способствовать когнитивному упадку или «brain rot» — так называют культурные и психологические последствия потребления чрезмерного объёма быстрых, чрезмерно стимулирующих, намеренно бессмысленных медиа, зачастую абсурдных и рассчитанных на бесконечный скроллинг и погоню за мгновенными дофаминовыми всплесками.
Рост доступных, простых в освоении и крайне удобных приложений, таких как PixVerse, VeoE.ai, Media.io и Sora, также подпитал резкий всплеск подобного контента, создаваемого ИИ, в последние годы.
Как «AI‑мусор» способствует радикализации в интернете
«AI‑мусор» может скрытно распространять радикализирующий контент через ролики, которые на первый взгляд кажутся безобидными, абсурдными или даже забавными, например видео с анимированными фруктами и овощами.
В подобных видео нередко разворачиваются драматические сюжеты о романах, семейных конфликтах, предательстве и изменах, которые разыгрывают, казалось бы, невинные анимированные фрукты. В них много агрессии и эмоционального насилия, а манера повествования может оказывать чрезмерное воздействие на внушаемую детскую психику.
Во многих случаях такие ролики используют и для прославления, героизации и распространения насильственного экстремизма и терактов, упаковывая их в броскую форму и привязывая к вирусным онлайн‑трендам и популярным темам.
Кровавые сцены с фруктами и овощами, созданные ИИ, нередко включают пытки, жестокие увечья и гиперреалистичное насилие, что может сильно притуплять чувствительность аудитории, маскируясь под знакомых анимированных персонажей.
В них могут показываться убийства, массовые расправы и жестокие расправы, например когда один фрукт убивает другой с помощью оружия.
Во многих случаях такие видео напоминают продукцию экстремистских организаций, продвигающих крайне правые, нигилистические или насильственные идеологии, а также уголовных картелей.
Например, популярный персонаж Carrot Khalifah нередко изображается в роликах, где он говорит армии: «Морковное государство восстанет снова», что перекликается с идеологией и пропагандой «Исламского государства» (ИГ).
У таких платформ, как TikTok, формально есть правила, призванные предотвращать распространение подобного крайне жестокого контента, однако они далеки от совершенства: ИИ‑генераторы позволяют обходить ограничения, маскируя такие ролики под внешне безобидные.