Искусственный интеллект облегчил доступ к технологиям по созданию видеоподделок. В интернете стало появляться больше порнографических дипфейков. Какие меры принимают правительства, интернет-компании и сами пользователи в борьбе с этой проблемой?
РЕКЛАМАНоэль Мартен было всего 18 лет, когда она обнаружила, что в Интернете распространяются ее порнографические фотографии. Она говорит, что не помнит, что делала интимные снимки, а тем более делилась ими. Однако на фото - ее лицо.
Ноэль стала жертвой дипфейка (англ. deep learning — "глубинное обучение" и fake — "подделка"). Порноснимки были отредактированы, в них были добавлены элементы фотографий, которыми Ноэль делилась в своих социальных сетях.
"Это приговор на всю жизнь", - призналась она в интервью Euronews Next.
"Это может разрушить жизнь человека, лишить средств к существованию, возможности трудоустройства, отношений. Если вы стали мишенью, мало что можно с этим поделать", - говорит девушка.
Дипфейки - это измененные цифровым способом видео или изображения, созданные для того, чтобы изобразить кого-либо в придуманной ситуации. Отличить от реальной видеосъемки такие ролики и фото практически невозможно. В отчете Deeptrace Labs за 2019 год говорится, что 96% дипфейков в Интернете - это порнография.
В Нью-Йорке в конце апреля 22-летний молодой человек был приговорен к шести месяцам тюремного заключения за размещение порнографических фотографий бывших одноклассников с использованием снимков, взятых из их аккаунтов в социальных сетях.
Борьба за справедливость
В 2013 году Мартен обратилась в полицию, попросив удалить изображения. Однако там ничего не могли сделать, поскольку в Австралии, где она живет, в то время не было законов, касающихся распространения интимных изображений.
"Даже если вы попытаетесь убрать изображения, если вы стали жертвой, все равно остается проблема с привлечением виновных к ответственности. Удаление информации из интернета - это только часть проблемы", - рассказывает Мартен.
"Если вы не привлечете преступников к ответственности, они будут продолжать этим заниматься", - добавляет девушка.
28-летняя Мартен - юрист. В течение многих лет она добивалась принятия в Австралии законов против распространения интимных изображений без согласия того, кто на них изображен. В 2018 году благодаря ее усилиям были приняты новые законы, которые предусматривают ответственность за распространение интимных изображений без согласия.
"В конечном счете, мы, сообщество пострадавших, пытаемся добиться принятия подобных законов во всех странах мира, введения уголовного наказания за эти правонарушения", - говорит Мартен.
Возникновение порнографических подделок
Дипфейки с порно появились в интернете много лет назад. Однако последние достижения в области искусственного интеллекта и растущая доступность таких технологий облегчили создание реалистичной поддельной порнографии.
Когда технология только была создана, главной мишенью злоумышленников были знаменитости.
Сам термин "дипфейк" появился в 2017 году, когда пользователь с таким псевдонимом на социальной платформе Reddit стал известен тем, что создавал и делился подделанными порнографическими видео со знаменитостями, включая Скарлетт Йоханссон и Тейлор Свифт.
В январе популярный стример платформы Twitch Брэндон Юинг (никнейм Atrioc) был "пойман" с открытым в браузере порносайтом, на котором были размещены поддельные изображения других стримеров Twitch. Позднее Юинг принес извинения и даже прекратил стримить на несколько недель. Twitch в свою очередь пришлось обновить правила поведения на платформе. Молодой человек признался, что его охватило "болезненное любопытство" после того, как он увидел рекламу порнодипфейков на популярном сайте, поэтому кликнул и заплатил за доступ к видео.
Девушки-стримеры Twitch заявили, что даже не знали о существовании такого контента в сети.
Согласно данным Google Trends, эта история вызвала всплеск онлайн-поиска по фразам "deepfake porn", "porn deepfake" и "deepfakes".
Софи Комптон, соучредитель коалиции My Image My Choice, которая ведет кампанию против преднамеренного использования интимных изображений, говорит, что пользователи сайтов с дипфейками тоже являются частью проблемы и должны нести ответственность.
РЕКЛАМА"Дело не только в создателях, но и в пользователях. Это обычные мальчики. Это люди из наших школ. Возможно, некоторые женщины тоже, но в основном это мужчины: одноклассники, друзья, братья, бойфренды", - сказала Комптон в интервью Euronews Next.
Как дипфейки используются против жертв
Хотя порнодипфейки со знаменитостями существуют уже много лет, прогресс в сфере искусственного интеллекта привел к тому, что сегодня практически любой человек может стать жертвой подобных подделок.
Технология может быть использована для дискредитации или шантажа людей, чтобы заставить их замолчать или подорвать их авторитет.
"Каждый месяц появляется новый сайт с поддельным порно. Они превращаются в коммерческие предприятия", - рассказала Комптон, добавив, что открываются такие сайты совершенно безнаказанно.
"Человек, который стал объектом подобного преступления, может заявить о подделке, но причиненный ущерб непоправим", - напоминает Ноэль Мартен.
РЕКЛАМА"Люди все равно будут ассоциировать с вами то, что увидели в интернете. Ваша репутация, имя и имидж останутся вымазаны грязью", - убеждена девушка.
Рана Айюб, индийская журналистка-расследователь, сотрудница Washington Post, стала жертвой кампании ненависти, в ходе которой порнофальшивки использовались, чтобы заставить ее замолчать.
В одной из своих колонок она подробно описала этот неприятный опыт, рассказав, как ее открытая позиция сделала ее мишенью для ненависти в социальных сетях.
Однако к оскорблениям в интернете, к которым она привыкла, добавилось фальшивое порновидео с ее участием. Ролик стал вирусным и настолько потряс ее, что она какое-то время не могла даже встречаться с членами семьи.
"Вся страна смотрела порнографическое видео, на котором якобы была я, в то время как я просто не могла заставить себя что-либо сделать", - вспоминает Рана.
РЕКЛАМА"С того дня, как видео было опубликовано, я уже не была прежним человеком. Раньше я была очень категоричной, а теперь гораздо осторожнее отношусь к тому, что пишу. Я ввела самоцензуру по необходимости", - признается журналистка.
"Это очень, очень опасный инструмент", - говорит она.
Защищают ли законы и правила от порнографических подделок?
В настоящее время легко унизить или оболгать человека, создавая фейки с использованием его изображений. Отсутствие регулирования и привлечения к ответственности создателей таких фейков только усложняет жизнь жертвам.
"Люди, создающие эти видео, понимают: никто за ними не придет. То, что они делают, не является противозаконным и не влечет за собой никаких последствий", - говорит Комптон.
Европейский союз предложил новые правила борьбы с вредным онлайн-контентом, но они еще не доказали, что могут полностью защитить людей от подделок. Например, закон об искусственном интеллекте, который в настоящее время обсуждается в Европейском парламенте, требует, чтобы создатели четко указывали, когда контент был создан, были ли внесены в материалы какие-либо изменения. Еще один законодательный акт ЕС в разработке - Директива о гендерном насилии, предложенная в 2022 году. Она предусматривает уголовную ответственность за публикацию интимных снимков без согласия изображенных на них людей, виновным будет грозить тюремное заключение. Статья 7b конкретно касается подделок.
РЕКЛАМАРоль технических компаний и онлайн-платформ
Тем временем пострадавшие возлагают надежды на то, что онлайн-платформы обновят свою политику, чтобы пресечь появление порноподделок.
OpenAI, компания, создавшая инструмент для создания изображений DALL-E, уже удалила откровенный контент из своих данных и фильтрует запросы на блокировку создания изображений знаменитостей и политиков.
Комапния Midjourney, блокирует определенные ключевые слова и поощряет пользователей отмечать проблемные изображения для модераторов.
TikTok также ввел требование, согласно которому дипфейки должны помечаться, и запретил подделки с участием детей.
В обновленных правилах сообщества Twitch предупреждает, что намеренное продвижение, создание или распространение порнографических фейков приведет к мгновенному бану. Даже показ мельком такого контента при том, что он предназначен для выражения возмущения, "будет удален и приведет к взысканию", отмечает компания.
РЕКЛАМАMeta, OnlyFans и Pornhub используют новый инструмент "Take It Down", который позволяет подросткам сообщать о своих откровенных изображениях и видео в интернете.
"Правоохранительные органы, правительства, регулирующие органы должны объединиться, чтобы справиться с этой проблемой... Это глобальная проблема, которая требует глобального решения", - убеждена Мартен.
"Важно, чтобы пострадавшие могли принимать участие в принятии решений. Они слишком часто принимаются для нас, но без нас", - добавила она.