Функция «Likeness detection» компании социальной сети предназначена для политиков, сталкивающихся с потоком онлайн-дезинформации.
Компания TikTok в пятницу объявила, что начала поэтапно внедрять функцию по выбору пользователя под названием «Likeness Detection». Она должна помочь создателям контента находить и помечать материалы с искусственным интеллектом, которые используют их внешность на платформе, пока компания пытается бороться с дезинформацией, создаваемой ИИ.
Инструмент ориентирован на публичных фигур, в том числе представителей государственных органов, политиков и аккаунты политических партий. Он помогает им выявлять и сообщать о контенте с ИИ, который использует их изображение без согласия.
Функция появляется на фоне того, что Европа уже сталкивается с волной дезинформации и кампаний с дипфейками на базе ИИ, нарушающих избирательные процессы. В ближайшие 12 месяцев в девяти европейских странах пройдут выборы, и этот инструмент может сыграть важную роль.
Подходящие пользователи могут зарегистрироваться, подтвердив свою личность через надежного партнера третьей стороны. После этого им приходят уведомления, когда контент и аккаунты в TikTok могут использовать их внешность, и они могут просматривать такие материалы внутри инструмента.
Затем пользователи могут напрямую отправлять жалобы на контент в команды безопасности TikTok для проверки и принятия мер.
Евросоюз начал поэтапное внедрение правил прозрачности в сфере искусственного интеллекта 2 августа в рамках закона об ИИ. Среди требований есть обязательная маркировка дипфейков и другого контента, созданного ИИ.
TikTok в последние годы предпринимает шаги по ограничению дипфейков, в том числе требует от авторов контента помечать реалистичные изображения, аудио и видео, созданные ИИ, как того требует закон об ИИ.
Определение контента, созданного ИИ
Компания также запустила новый инструмент прозрачности, который позволяет пользователям проверять, был ли тот или иной контент создан или изменен с помощью встроенных функций платформы.
По словам TikTok, инструмент «Identify AI-Generated Content (источник на английском языке)» бесплатен для всех, даже для тех, у кого нет аккаунта.
Платформа позволяет пользователям загружать изображение или видео, чтобы проверить, было ли оно создано или отредактировано с помощью собственных инструментов ИИ TikTok, включая приложения CapCut, Dreamina, Hypic и Pippit компании ByteDance.
Инструмент поддерживает широкий спектр форматов, включая популярные JPEG, PNG и MP4, при ограничении размера файла до 20 мегабайт для изображения или 100 мегабайт для каждого видео или аудио.
Он проверяет два признака того, что контент создан ИИ: метаданные-«учетные данные», добавленные приложениями TikTok и ByteDance, а также невидимые водяные знаки, встроенные непосредственно в контент и которые сложнее удалить.
Компания заявила, что инструмент удаляет весь загруженный контент сразу после проверки и не использует его для обучения моделей ИИ.
TikTok предупреждает пользователей, что он определяет только контент, созданный или отредактированный с помощью собственных инструментов приложения или сервисов ByteDance, поэтому это не безошибочный способ выявить любой контент с ИИ.