Мировое ужесточение мер: эти страны ограничивают Grok или выступают против него из-за порнографических дипфейков, созданных без согласия.
Власти по всему миру спешат обуздать Grok, чат-бот искусственного интеллекта (ИИ) Илона Маска, на фоне растущей тревоги из-за создания им поддельных, откровенно сексуальных изображений.
Прошлым летом xAI, компания-разработчик Grok, добавила функцию генерации изображений, в которую входил «spicy mode», способный создавать контент для взрослых.
В последние недели Grok отвечал на запросы пользователей «раздеть» женщин на фотографиях и одеть их в бикини, создавая ИИ-дипфейки без каких-либо защитных механизмов.
Власти заявляют, что существующие защитные механизмы не работают: в Юго-Восточной Азии сервис прямо блокируют, в Европе и Австралии действуют уголовные расследования и предупреждения регуляторов.
Вот страны, которые запретили Grok или вынесли ему предупреждения.
Какие страны запретили Grok?
Индонезия
Индонезия первой временно заблокировала Grok, чтобы защитить женщин, детей и более широкие слои общества от поддельного порнографического контента, создаваемого с помощью ИИ.
«Правительство рассматривает сексуальные дипфейки без согласия как серьезное нарушение прав человека, достоинства и безопасности граждан в цифровом пространстве», говорится в заявлении министра связи и цифровых технологий Индонезии Меутьи Хафид, опубликованном в субботу.
Ограничения на Grok являются «превентивной» мерой на время оценки властями безопасности платформы, сообщили в Национальной полиции Индонезии.
Первичные выводы показали, что у Grok нет эффективных защитных механизмов, предотвращающих создание и распространение порнографического контента на основе реальных фотографий жителей Индонезии, говорится в заявлении Александра Сабара, генерального директора по надзору за цифровым пространством Индонезии.
По словам Сабара, такие практики могут нарушать право на частную жизнь и право на изображение, когда фотографии изменяются или распространяются без согласия, нанося психологический, социальный и репутационный ущерб.
Малайзия
Малайзийская комиссия по коммуникациям и мультимедиа (MCMC) в воскресенье распорядилась временно заблокировать Grok после, как она заявила, «неоднократных злоупотреблений» инструментом для создания непристойных, откровенно сексуальных и несогласованных манипулированных изображений.
Регулятор сообщил, что в этом месяце направил две нотификации в X и xAI с требованием усилить защиту. В ответах X указала, что Grok в основном полагается на сообщения пользователей о нарушающем правила контенте.
MCMC пришла к выводу, что X «не устранила присущие риски» в проектировании и работе своей ИИ-платформы, что, по мнению регулятора, не соответствует требованиям малайского законодательства.
«Ограничение вводится как превентивная и соразмерная мера на время проведения юридических и регуляторных процедур», заявили там, добавив, что доступ останется заблокированным до внедрения эффективных защитных механизмов.
Как отреагировали другие страны?
Европейский союз
Европейская комиссия сообщила, что изучает случаи создания Grok сексуально провокационных и откровенных изображений девочек.
«Могу подтвердить отсюда, что Комиссия тоже очень серьезно занимается этим вопросом», заявил на прошлой неделе журналистам в Брюсселе представитель Комиссии.
По данным Reuters, Комиссия обязала X сохранять все документы, связанные с Grok, до конца года, чтобы блок мог оценить, соблюдает ли платформа правила ЕС.
Представитель Комиссии уточнил Reuters, что это не означает начало официального расследования.
Урсула фон дер Ляйен, председатель Европейской комиссии, в интервью итальянской газете Corriere della Sera заявила, что «возмущена тем, что технологическая платформа позволяет пользователям цифровым образом раздевать женщин и детей в интернете».
Не называя напрямую X или Grok, фон дер Ляйен сказала, что Комиссия «не будет перекладывать на Силиконовую долину защиту детей и вопросы согласия. Если они не будут действовать, будем действовать мы».
Великобритания
Британский медиарегулятор начал расследование в отношении X, материнской компании xAI и социальной платформы Илона Маска, из-за использования Grok для создания откровенных и несогласованных изображений.
Ofcom заявил, что поступили «крайне тревожные сообщения» об использовании чат-бота для создания и распространения раздетых изображений людей, а также «сексуализированных изображений детей».
Регулятор также может обратиться в суд за предписанием, обязывающим интернет-провайдеров заблокировать доступ к Grok, если X не выполнит требования Ofcom.
X грозит штраф до 10 процентов от мирового оборота или 18 млн фунтов стерлингов (20 млн евро).
_«_Контент, распространявшийся в X, отвратителен. Это не просто вызов приличному обществу, это незаконно», заявила в парламенте министр по технологиям Лиз Кендалл.
Франция
Парижская прокуратура в начале января расширила расследование в отношении X, включив в него Grok, как сообщали местные СМИ.
Первоначальная проверка, идущая с прошлого июля, была сосредоточена на предполагаемом организованном вмешательстве в компьютерные системы X и незаконном извлечении данных.
Решение о расширении расследования было принято на этой неделе после того, как пятеро политиков обвинили платформу в создании и распространении поддельных откровенно сексуальных видео с участием несовершеннолетних, пишет французская газета Le Parisien.
По ее данным, французский регулятор аудиовизуальной и цифровой коммуникации (Arcom) проверяет возможные нарушения X Закона о цифровых услугах, европейского регламента для цифровых сервисов.
Италия
8 января Управление по защите данных Италии (Garante) предупредило, что всем, кто использует Grok или другие ИИ-платформы для удаления одежды с людей на изображениях, а также распространяет такие изображения, грозят уголовные обвинения.
Использование таких инструментов без разрешения изображенного человека может быть признано «серьезным нарушением основных прав и свобод затронутых лиц», отметили там.
Ведомство также напомнило Grok и другим поставщикам ИИ, что они обязаны проектировать, разрабатывать и выводить на рынок продукты, соответствующие нормам о защите данных.
Итальянский регулятор сообщил, что работает с Комиссией по защите данных Ирландии, основным надзорным органом по приватности для X, поскольку штаб-квартира компании находится в Ирландии.
В октябре итальянское ведомство заблокировало ClothOff, еще одну ИИ-платформу, которая «снимает одежду». Платформа позволяла кому угодно, в том числе несовершеннолетним, создавать фото и видео с изображением реальных людей обнаженными или в сексуальных позах.
В сентябре Италия добавила новую статьюв свой Уголовный кодекс, предусматривающую до пяти лет тюрьмы за распространение ИИ-дипфейков.
Германия
Германия заявила, что вскоре представит «конкретное предложение» по новому закону против цифрового насилия.
Представитель министерства юстиции Германии Анна-Лена Бекфельд на январской пресс-конференции сказала, что будущий закон о цифровом насилии станет способом поддержать жертв этого «вида цифрового насилия», упростив для них «принятие прямых мер против нарушений их прав онлайн».
На вопрос конкретно о Grok Бекфельд сказала, что «недопустимо, когда манипуляции в массовом порядке используются для систематического нарушения личных прав».
«Поэтому мы хотим видеть более жесткие меры против этого в рамках уголовного законодательства», добавила она.
В 2025 году три основные партии Германии договорились реформировать законодательство о кибпреступлениях и закрыть «лазейки» в Уголовном кодексе для преступлений, связанных с ИИ, таких как ИИ-генерируемые сексуальные изображения, следует из коалиционного соглашения.
Австралия
В январе управление австралийского eSafety Commissioner сообщило, что за последние пару недель получило небольшое, но растущее число сообщений о сексуальном ИИ-контенте Grok.
Ведомство заявило, что при нарушении Закона об онлайн-безопасности будет использовать свои полномочия, например, направлять уведомления об удалении, которые могут обязать социальные сети убрать проблемный контент.
Управление уже запросило у X дополнительную информацию о злоупотреблениях «сексуальным» сервисом Grok и для оценки того, соблюдает ли платформа новый австралийский закон о соцсетях.
Также Grok напомнили, что с 9 марта онлайн-сервисы, включая ИИ-компании, обязаны блокировать доступ детей к сексуальному, насильственному или вредному контенту.