Некоторые утверждают, что предлагаемый ЕС закон может привести к нарушению права на частную жизнь и слежке за пользователями соцсетей.
РЕКЛАМАРианнон было всего тринадцать лет, когда она подверглась сексуальному насилию в интернете. Ее обидчику было предъявлено обвинение, но последствия его преступлений оставили глубокий шрам.
"Я очень долго не рассказывала о насилии, — сказала Рианнон в интервью Euronews. — Я страдала от тревоги, панических атак, депрессии, самоповреждения и попыток самоубийства".
Сейчас ей 33 года, и она живет, зная, что изображения и видеозаписи с её участием по-прежнему циркулируют в интернете. Но она говорит об этом, чтобы призвать власти реагировать на похожие ситуации.
На этой неделе министры Евросоюза обсуждают новые законы, предложенные Еврокомиссией для борьбы с сексуальным насилием над детьми в интернете и для того, чтобы преступления, подобные тем, что были совершены в отношении Рианнон, не повторялись в сети изо дня в день.
Рианнон, гражданка Великобритании, говорит, что предлагаемые Евросоюзом нормы, а также британский законопроект о безопасности в интернете, который вскоре станет законом, имеют решающее значение для глобальной борьбы с сексуальным насилием над детьми.
Они предполагают использование новых технологий для обнаружения новых и существующих материалов о сексуальном насилии над детьми. Они также дадут национальным властям право обязывать цифровые сервисы проверять сообщения пользователей, включая зашифрованные.
Однако между защитниками прав детей и лоббистами цифровых прав разгорелась ожесточенная борьба, которые утверждают, что законопроект приведет к введению режима массовой слежки и ознаменует конец привычной цифровой конфиденциальности. Сторонники утверждают, что непринятие закона приведет к тому, что преступники останутся незамеченными, а технологии — нерегулируемыми.
Между этими двумя лагерями находится труднопроходимая тропинка: как поймать злоумышленников, не нарушив при этом неприкосновенность частной жизни в интернете.
Достаточно ли развиты технологии?
Для обнаружения уже известных правоохранительным органам материалов о сексуальном насилии над детьми Еврокомиссия предложила использовать так называемое перцептивное хэширование, которое снимает "отпечаток пальца" или хэш, с вредоносных файлов и обнаруживает их повторы в интернете.
Однако научные эксперты предупреждают, что злоумышленники могут легко манипулировать изображениями и что невиновные пользователи могут быть несправедливо обвинены: "Проблема заключается в том, что очень легко взломать хэш, изменив один пиксель или даже слегка обрезав изображение, — пояснил профессор Барт Пренил, эксперт по криптографии из университета KU Leuven. — Кроме того, вполне легитимное изображение может быть отмечено как вредоносное".
Еврокомиссия хочет создать в Гааге Центр ЕС по сексуальному насилию над детьми, где будут работать сотрудники, которые будут вручную фильтровать контент, помеченный как незаконный, чтобы избежать наводнения правоохранительных органов ложными доносами.
Однако общественная организация ECPAT International утверждает, что существует достаточно доказательств того, что технологии перцептивного хэширования действительно работают.
"Эти технологии не просто перспективны, они доказаны. Методы, основанные на хэшировании, эффективны уже более десяти лет, позволяя быстрее бороться с нелегальным контентом и помогая правоохранительным органам. Например, более 200 компаний используют технологию PhotoDNA для предотвращения использования своих сервисов для распространения материалов о сексуальном насилии над детьми", — заявил представитель ECPAT.
С этой точкой зрения согласны не все.
"Даже если мы снизим коэффициент ошибки до 1%, при миллиардах изображений, ежедневно отправляемых в ЕС, мы можем столкнуться с десятками миллионов ежедневных ложных срабатываний, — предупредил Пренил. — Мы можем обвинить невинных людей в самых серьезных преступлениях".
Пренил также предупреждает, что подростки, добровольно и на законных основаниях обменивающиеся друг с другом изображениями обнаженной натуры, могут быть неправомерно привлечены к уголовной ответственности.
Миэ Кохияма, еще одна жертва сексуального насилия над детьми из Франции, которая, как и Рианнон, выступает за более жесткое регулирование, говорит, что распространенность изображений и видеоматериалов с насилием над детьми в интернете означает, что Евросоюз обязан принять меры.
"Более 60% этих изображений размещаются на европейских серверах, поэтому мы обязаны принять соответствующие меры, — пояснила она. — Обнаружение — ключевой момент, удаление — ключевой момент".
РЕКЛАМАНарушат ли новые правила неприкосновенность частной жизни?
Наиболее спорным аспектом предложения Еврокомиссии является обязательство технологических компаний при выявлении риска использовать технологию сканирования на стороне клиента (CSS) для проверки сообщений пользователей, включая сквозные зашифрованные сообщения на таких платформах, как WhatsApp компании Meta.
Это означает, что зашифрованные сообщения, фотографии, электронная почта и голосовые заметки пользователей могут быть использованы.
Сторонники защиты частной жизни предупреждают, что это является серьезным нарушением права людей на неприкосновенность частной жизни в интернете и может быть легко использовано злоумышленниками. В 2021 году система CSS была на короткое время внедрена компанией Apple для проверки загруженных в iCloud файлов, но была отключена через несколько недель после взлома системы.
Однако, по мнению ECPAT International, важно помнить, что CSS работает "до того, как данные становятся зашифрованными".
"Она выявляет CSAM до того, как данные загружаются и отправляются через зашифрованную среду — точно так же, как в WhatsApp, сервисе со сквозным шифрованием, уже используется технология обнаружения вредоносных программ и вирусов", — заявил представитель ECPAT.
РЕКЛАМАКритики также предупреждают, что отказ от шифрования может создать опасный прецедент для авторитарных режимов, которые смогут манипулировать этой технологией для выявления критики и преследования диссидентов.
Миэ считает, что подобные пугающие заявления — это просто способ отвлечь внимание от реальной проблемы.
"Европа — это демократия, а не диктатура. И давайте не будем наивными: в диктатуре, когда вы хотите шпионить за гражданами, вы шпионите за ними. Вам не нужен новый регламент".
Смогут ли министры ЕС найти компромисс?
Предлагаемый регламент вызвал бурю в столицах стран ЕС, многие из которых обеспокоены уровнем развития технологий и угрозой для частной жизни потребителей. Министры могут принять решение одобрить некоторые аспекты текста, отложив другие планы до тех пор, пока технологии не станут достаточно развитыми.
Миэ и Рианнон заявили Euronews, что министры не должны поддаваться давлению со стороны крупных технологических и цифровых лобби. По их словам, резкий рост числа оскорбительных материалов свидетельствует о том, что добровольные меры, принимаемые технологическими компаниями для обнаружения и удаления контента, явно недостаточны. Согласно исследованию, опубликованному Глобальным альянсом WeProtect, с 2019 года количество сообщений о материалах, содержащих сексуальное насилие над детьми, увеличилось на 87%.
РЕКЛАМА"Технологические компании разрабатывают свои продукты, чтобы завлечь детей и увлечь их как можно дольше. Если такова их модель, то это должна быть безопасная среда для детей", — говорит Рианнон.
"Модель саморегулирования для технологических компаний не работает, это ясно из количества детей, подвергающихся насилию. Мы должны законодательно урегулировать этот вопрос, мы должны заставить технологические компании защищать детей", — добавила она.
Миэ также считает, что блок обязан защитить жертв насилия с использованием цифровых технологий от повторной травматизации, связанной с осознанием того, что изображения их насилия просматриваются каждый день.
"Эти жертвы боятся всего на свете. Они не могут покинуть свои дома. Некоторые из них боятся даже пользоваться интернетом. Это люди, полностью изолированные от общества. Мы должны защитить их. Мы должны защищать детей. Это должно стоять у всех на первом месте".