Индекс Кембриджа выявил рынок, где ложную верификацию аккаунтов соцсетей продают за 8 центов, разжигая манипуляции и вмешательство в выборы по всему миру.
Исследователи подсчитали, сколько стоит создание фейковых онлайн-аккаунтов в каждой стране мира, пока правительства и регуляторы пытаются противостоять онлайн-дезинформации и мошенничеству.
РЕКЛАМА
РЕКЛАМА
В четверг Кембриджский университет запустил индекс Cambridge Online Trust and Safety (COTSI), сайт, который, как утверждается, является первым глобальным инструментом для отслеживания в реальном времени цен на верификацию фейковых аккаунтов более чем на 500 платформах, включая TikTok, Instagram, Amazon, Spotify и Uber.
Эти аккаунты часто используются для создания «бот-армий», которые призваны имитировать реальных людей и формировать онлайн-общественные дебаты. Авторы исследования говорят, что их можно задействовать, чтобы захлестнуть онлайн-обсуждения, продвигать мошеннические схемы или товары либо координированно продвигать политические сообщения.
Исследование выходит в критический момент для доверия в интернете, поскольку крупные платформы соцсетей сократили усилия по модерации контента и начали платить пользователям за вовлеченность, что может стимулировать зависимость от фальшивых взаимодействий.
В начале недели Великобритания ввела санкции против российских и китайских фирм, подозреваемых в роли злонамеренных участников информационной войны.
Исследование также показало, что распространение генеративного искусственного интеллекта (genAI) сделало проблему более острой.
«Мы видим процветающий подпольный рынок, на котором легко и открыто продаются неаутентичный контент, искусственная популярность и кампании политического влияния», — написал в заявлении старший автор исследования, вычислительный социальный психолог Кембриджского университета Джон Рузенбек
«Это можно делать, имитируя онлайн-поддержку «снизу» или создавая споры, чтобы собирать клики и обманывать алгоритмы», — добавил он.
Поставщики, управляющие банками из тысяч SIM-карт и миллионами готовых верификаций, могут создавать фейковые аккаунты всего за несколько центов.
Данные поставщиков, которые исследователи отслеживали в течение года, показывают, что верификация дешевле всего в Великобритании, США и России, а заметно дороже — в Японии и Австралии, где более строгие правила для SIM-карт повышают издержки.
По данным анализа, SMS-верификация одного фейкового аккаунта в среднем составляет $0.08 (€0.06) в России, $0.10 (€0.086) в Великобритании и $0.26 (€0.22) в США, тогда как в Японии — $4.93 (€4.25).
К платформам с самыми низкими мировыми ценами на фейковые аккаунты относятся Meta, Shopify, X, Instagram, TikTok, LinkedIn и Amazon.
По данным исследования, некоторые продавцы предлагают поддержку клиентов, оптовые предложения и услуги по накрутке лайков, комментариев и подписчиков.
«Генеративный ИИ означает, что боты теперь могут адаптировать сообщения, чтобы казаться более человечными, и даже подстраивать их под другие аккаунты. Бот-армии становятся убедительнее и их всё труднее заметить», — сказал Рузенбек.
В исследовании также отмечены тесные связи с российскими и китайскими платёжными системами; грамматика на многих сайтах поставщиков указывает на русское авторство.
Ценовые всплески, связанные с выборами
Исследование также выявило, что кампании политического влияния могут приводить к скачкам на рынке фейковых аккаунтов: растёт спрос на «операции влияния».
«Относительно дезинформации существуют разногласия по всему политическому спектру. Какова бы ни была природа неаутентичной онлайн-активности, значительная её часть проходит через этот рынок манипуляций, так что мы можем просто следовать за деньгами», — сказал научный сотрудник Кембриджского центра альтернативных финансов Антон Дек.
В странах, где вскоре пройдут национальные выборы, цены на фейковые аккаунты в Telegram и WhatsApp резко возрастали: в течение 30 дней до открытия участков рост составил 12% и 15% соответственно.
Поскольку эти мессенджеры показывают номера телефонов, операторам влияния приходится регистрировать аккаунты локально, что подталкивает спрос.
Подобной динамики не обнаружено на платформах вроде Facebook или Instagram, где созданные дёшево в одной стране фейковые аккаунты можно использовать для таргетирования аудитории в других.
Команда авторов исследования, в которую входят эксперты по дезинформации и криптовалютам, считает, что ужесточение правил для SIM-карт и обязательные проверки удостоверений личности повысили бы стоимость производства фейковых аккаунтов и помогли бы обуздать рынок.
По их словам, новый инструмент также можно использовать для тестирования регуляторных мер в странах по всему миру.
«Индекс COTSI проливает свет на теневую экономику онлайн-манипуляций, превращая скрытый рынок в измеряемые данные», — сказал соавтор исследования, профессор социальной психологии Кембриджского университета Сандер ван дер Линден.
«Понимание стоимости онлайн-манипуляций — первый шаг к демонтажу бизнес-модели, стоящей за дезинформацией».
Ранее в этом году Великобритания стала первой страной в Европе, запретившей SIM-фермы, и команда из Кембриджа говорит, что COTSI теперь поможет измерить эффект этой политики.