С этой недели закон ЕС об ИИ обязывает помечать контент, созданный искусственным интеллектом. Эксперты предупреждают: технические недочёты и отсутствие общих стандартов осложнят правоприменение норм.
С воскресенья компании, работающие с искусственным интеллектом, подпадут под новые обязательства по европейскому Закону об ИИ, который требует маркировать соответствующим образом сгенерированные искусственным интеллектом дипфейки и прочие материалы, созданные с его помощью.
РЕКЛАМА
РЕКЛАМА
Однако наличие технических трудностей заставляет экспертов сомневаться в эффективности новых норм.
Два года назад ЕС разработал масштабные положения по регулированию использования нейросетей. Было создано специальное управление по этим вопросам, призванное следить за применением этих положений.
Среди прочего, первый в мире Закон об ИИ вводит режим прозрачности для цифрового контента: он обязует разработчиков систем ИИ, таких как Claude компании Anthropic и ChatGPT компании OpenAI, гарантировать, что созданный или изменённый ИИ контент можно распознать как таковой.
Правила ещё строже для дипфейков — реалистичных изображений, аудио или видео, созданных или обработанных нейросетью, которые имитируют внешность, голос или действия реального человека.
От сатиры к манипуляции
Как и любую другую технологию, ИИ можно использовать и во благо, и во вред.
В Брюсселе признают, что не всегда такого рода контент создаётся с целью обмана или введения в заблуждения: есть материалы, имеющие художественную, научную ценность, или, например, сатирического, юмористического характера, и они вне рамок обозначенных требований.
Известный пример относится к 2023 году: сгенерированное изображение Папы Франциска в модном белом пуховике-«дутике» стало вирусным. Этот дипфейк большинством был воспринят как шутка.
Зато в 2024 году мировая поп-звезда Тейлор Свифт стала мишенью злоумышленников, распространявших в Сети её откровенные изображения, созданные ИИ, без её согласия, что вновь разожгло дискуссию о рисках, которые кроют в себе эти технологии.
Дипфейки также превратились в инструмент политических манипуляций.
В 2022 году, вскоре после начала полномасштабного вторжения России в Украину, появилось поддельное видео, на котором президент Украины Владимир Зеленский якобы призывает военных сложить оружие. Быстро выяснилось, что это фейк, но инцидент показал, как ИИ может применяться в качестве оружия и в информационной войне.
Опасения связаны с тем, что контент, создаваемый нейросетями и распространяемый в Интернете, становится всё более реалистичным, и людям всё труднее отличать достоверную информацию от лживой.
Регулирование дипфейков
Чтобы ответить на этот вызов, Европейская комиссия разработала свод правил, указывающий на то, как компании должны помечать происхождение такого контента с помощью машинно считываемых меток, а также видимых обозначений для дипфейков.
Принцип прост: люди должны понимать, что перед ними контент, созданный или изменённый ИИ. Поэтому требования распространяются как на компании, разрабатывающие технологии, так и на тех, кто профессионально использует ИИ, тогда как личное использование остаётся за рамками регулирования.
Свод правил касается не только маркировки, но и механизмов обнаружения такого контента, что предполагает сотрудничество всех вовлечённых сторон: компаний разработчиков технологий, социальных платформ, общественных организаций и фактчекеров.
Но насколько реально правоприменение?
Один закон, множество препятствий
Первая проблема — географическая. ЕС может регулировать компании, работающие на европейском рынке или ориентирующиеся на него, но онлайн-контент не знает границ. Дипфейк, созданный за пределами Европы, всё равно может за считанные минуты достичь миллионов европейских пользователей.
Вторая — техническая зрелость. Крупные компании в сфере ИИ, такие как OpenAI и Google, в целом поддержали требования прозрачности, подписав свод правил Комиссии. Однако они предупреждают, что это постоянно движущаяся мишень с точки зрения обнаружения и маркировки.
Единого отраслевого решения пока нет. Компании экспериментируют с разными подходами — водяными знаками, метаданными, системами отслеживания происхождения контента, — которые не всегда совместимы и «умеют» взаимодействовать друг с другом.
Третья проблема — эфемерность цифровых следов. Эксперты предупреждают, что водяные знаки можно удалить, изменить или потерять, когда контент редактируется, сжимается или пересылается через разные платформы. Проследить полную историю изображения или видео, созданного ИИ и прошедшего через множество правок, бывает чрезвычайно трудно.
Из-за этих ограничений исследователи считают, что одной технологии будет недостаточно. Компании, вероятно, придётся использовать многоуровневый подход, сочетая несколько методов.
«Сочетание решений даёт больший эффект, чем любая отдельная мера. Поэтому лучшей практикой является внедрение нескольких уровней маркировки и обнаружения контента, созданного ИИ», — говорится в исследовательском докладе (источник на английском языке) Европейской комиссии по этой теме.
Выдерживать темпы прогресса
ЕС занял лидирующие позиции в попытке справиться с одной из ключевых проблем эпохи ИИ: миром, в котором сгенерированный контент всё труднее отличить от реальности.
Но будет ли Брюссель успевать за развитием технологий, которое происходит в невероятно быстром темпе? Именно от этого зависит станут ли правила прозрачности Закона об ИИ эффективным защитным барьером для европейцев.