ИИ-чатбот Grok Илона Маска сталкивается с растущим вниманием в ЕС, Великобритании, Индии и Франции из-за использования для создания откровенных изображений без согласия.
Малайзия и Индонезия заблокировали Grok, чат-бот с искусственным интеллектом (ИИ), разработанный xAI Илона Маска, после того как власти заявили, что его используют для генерации сексуально откровенных изображений без согласия изображенных на них людей.
Эти страны стали первыми, кто запретил этот инструмент генеративного ИИ, что отражает растущую мировую обеспокоенность тем, что он способен создавать реалистичные изображения, звук и текст, а действующие меры защиты не предотвращают злоупотребления ими.
Чат-бот Grok, доступ к которому осуществляется через социальную платформу X Илона Маска, критиковали за генерацию манипулированных изображений, включая изображения женщин в бикини или в сексуально откровенных позах, а также изображения с участием детей.
Регуляторы в двух странах Юго-Восточной Азии заявили, что действующие меры контроля не препятствуют созданию и распространению поддельного порнографического контента, особенно с участием женщин и несовершеннолетних. В субботу правительство Индонезии временно заблокировало доступ к Grok, за ним в воскресенье последовала Малайзия.
«Правительство рассматривает сексуальные дипфейки, создаваемые без согласия, как серьезное нарушение прав человека, достоинства и безопасности граждан в цифровом пространстве», заявила в субботу министр связи и цифровых технологий Индонезии Меутья Хафид.
В министерстве заявили, что мера призвана защитить женщин, детей и общество в целом от поддельного порнографического контента, создаваемого с помощью ИИ.
Предварительные выводы показали, что в Grok отсутствуют эффективные меры защиты, которые могли бы помешать пользователям создавать и распространять порнографический контент на основе реальных фотографий жителей Индонезии, заявил в отдельном заявлении генеральный директор по надзору за цифровым пространством Александр Сабар. По его словам, подобные практики несут риск нарушения конфиденциальности и права на изображение, когда фото манипулируются или распространяются без согласия, причиняя психологический, социальный и репутационный вред.
В Куала-Лумпуре Комиссия по коммуникациям и мультимедиа Малайзии в воскресенье распорядилась временно ограничить доступ к Grok после того как, по ее словам, инструментом многократно злоупотребляли для создания непристойных, сексуально откровенных и манипулированных изображений без согласия, включая контент с участием женщин и несовершеннолетних.
Регулятор сообщил, что направленные в этом месяце уведомления в адрес X Corp. и xAI с требованием усилить меры защиты получили ответы, которые в основном опирались на механизмы жалоб пользователей.
«Ограничение вводится как превентивная и соразмерная мера на время проведения правовых и регуляторных процедур», говорится в сообщении. Также отмечается, что доступ останется заблокированным, пока не будут введены эффективные меры защиты.
Запущенный в 2023 году Grok бесплатен для использования на X. Пользователи могут задавать ему вопросы на платформе и отмечать им собственные публикации и ответы на записи других пользователей. Прошлым летом компания добавила функцию генерации изображений Grok Imagine, в которой есть так называемый «spicy mode», позволяющий создавать контент для взрослых.
Ограничения в Юго-Восточной Азии вводятся на фоне усиливающегося внимания к Grok в других странах, включая Европейский союз, Великобританию, Индию и Францию.
На прошлой неделе Grok ограничил функции создания и редактирования изображений только для платных пользователей после глобальной волны возмущения из-за сексуализированных дипфейков людей, но критики говорят, что это не решает проблему полностью.