Европейская некоммерческая организация AI Forensics обнаружила, что в Telegram действует "экосистема масштабных злоупотреблений", пользователи которой распространяют и продают сексуальный контент, несмотря на усилия платформы по модерации.
Согласно новому отчету, масштабная сеть, насчитывающая чуть менее 25 000 человек, распространяла сексуальные материалы и детскую порнографию без согласия по всей Испании и Италии через сервис обмена мгновенными сообщениями Telegram.
РЕКЛАМА
РЕКЛАМА
AI Forensics, европейский некоммерческий институт, изучающий алгоритмы, обнаружил (источник на английском языке) "экосистему масштабных злоупотреблений" после анализа 2,8 миллиона сообщений Telegram в 16 группах в течение шести недель.
Согласно отчету, большинство пользователей, выкладывающих сексуальный контент без согласия, - это молодые гетеросексуальные мужчины, публикующие контент с женщинами, которые являются их партнершами, бывшими партнершами или знакомыми. Наиболее экстремальный контент изображает детей в сценариях инцеста и изнасилования.
Доклад появился после того, как в прошлом месяце члены Европейского парламента поддержали (источник на английском языке) запрет на использование систем искусственного интеллекта (ИИ), которые "обнажают" изображения - или создают поддельные обнаженные изображения - путем снятия одежды с объекта без его согласия.
По данным Европейского института гендерного равенства, каждая третья женщина в Европейском союзе подвергалась (источник на английском языке) сексуальному насилию в возрасте после 15 лет, включая кибернасилие.
Какой контент распространяется?
Исследование показало, что молодые люди часто получают исходный материал из частных обменов в социальных сетях Instagram и WhatsApp.
Преступники монетизируют видео, взимая единовременную плату в размере до 50 евро за полный доступ к каналам и архивам этого контента. В некоторых случаях они также взимают ежемесячную абонентскую плату в размере 5 евро.
"Обнажающие" боты часто рекламируются на этих каналах как инструменты для создания большего количества контента без согласия.
"Это позволило злоумышленникам увеличить объем, скорость и простоту распространения [такого контента]", - говорится в пресс-релизе AI Forensics.
Женщины, фигурирующие в видеороликах, часто имеют имена, метки и могут быть найдены по ссылкам на профили, которыми делятся в каналах Telegram, говорится в исследовании.
Затем этот контент распространяется на других платформах, таких как TikTok и Instagram. Reddit используется в качестве "вербовочного шлюза", который распространяет ссылки на оригинальные каналы Telegram, где люди могут найти платный контент.
Контент охватил около 52 000 человек: 27 000 человек в Италии и еще 25 000 в Испании, выяснила AI Forensics.
По мнению НПО, это говорит о том, что распространение сексуального контента без согласия в социальных сетях не ограничивается национальными границами или границами платформ и является "структурной проблемой, которая имеет европейский масштаб и требует европейского ответа".
Модерация Telegram "недостаточна", говорится в докладе
Telegram, как сообщается, закрыл некоторые из групп, которые наблюдала AI Forensics, но они были созданы снова с теми же названиями "всего несколько часов спустя". Европейская организация заявила, что это означает, что практика модерации Telegram "недостаточна".
Она рекомендовала, чтобы модерация в Telegram включала в себя механизмы отчетности и обеспечение соблюдения политики платформы, особенно модели премиум-подписки, поскольку она дает создателям возможность монетизировать этот контент.
Некоммерческая организация заявила, что Европейская комиссия также должна определить Telegram как очень крупную онлайн-платформу (VLOP) в соответствии с Законом о цифровых услугах (DSA) - правовой основой ЕС для обеспечения подотчетности онлайн-платформ, модерации контента и безопасности пользователей.
Это означает, что на платформу будут наложены более строгие обязательства, такие как прозрачность алгоритма работы и проведение оценки риска вредоносного контента.
В феврале платформа заявила (источник на английском языке), что у нее "значительно меньше" 45 миллионов пользователей, что является критерием ЕС для присвоения ей статуса VLOP.
AI Forensics также хочет, чтобы в Закон ЕС об искусственном интеллекте были включены положения, облегчающие удаление с платформ изображений, содержащих сексуальное насилие над детьми и изображения, сделанные не по согласию сторон.
Euronews Next обратился в Telegram за ответом на этот доклад, но не получил немедленного ответа.
В соответствии с условиями обслуживания платформы, в Telegram запрещены (источник на английском языке) материалы сексуального характера и материалы, связанные с сексуальным насилием над детьми. Для противодействия злоупотреблениям существует система модерации контента на основе искусственного интеллекта, а также штат сотрудников. Пользователи также могут сообщать о контенте, нарушающем правила и условия платформы.
Telegram может временно или навсегда приостановить работу некоторых функций в аккаунте пользователя, например, общение с людьми, с которыми он не связан.
В случае "серьезных нарушений" платформа может заблокировать или удалить пользователей, ботов, сообщения, каналы и группы.