По словам властей, Grok использовали не по назначению, генерируя сексуально откровенные изображения, созданные ИИ, без согласия изображённых людей.
Власти Малайзии во вторник заявили, что инициируют судебные действия против социальной платформы X Илона Маска и ее подразделения искусственного интеллекта xAI, обвинив компании в неспособности обеспечить безопасность пользователей чат-бота Grok.
Этот шаг был сделан всего через несколько дней после того, как Малайзия и Индонезия стали первыми странами, которые заблокировали доступ к Grok, на фоне растущих опасений, что сервис используется для создания сексуально откровенных и созданных без согласия изображений.
Малайзийская комиссия по связи и мультимедиа заявила в заявлении, что выявила злоупотребление Grok для создания и распространения вредоносного контента, включая сексуально откровенные, непристойные, крайне оскорбительные, а также манипулированные изображения, создаваемые без согласия.
По ее словам, в этом месяце X и xAI были направлены уведомления с требованием удалить вредоносный контент, однако никаких мер принято не было.
«Контент, предположительно связанный с женщинами и детьми, вызывает серьезную обеспокоенность. Такое поведение противоречит законам Малайзии и подрывает заявленные компаниями обязательства по обеспечению безопасности», говорится в сообщении. Комиссия наняла юриста и заявила, что судебные процедуры начнутся в ближайшее время.
Растет внимание к генеративным инструментам ИИ, способным создавать реалистичные изображения, звук и текст, и опасение, что существующие меры безопасности не предотвращают злоупотребления.
Запущенный в 2023 году Grok доступен на X бесплатно. В прошлом году была добавлена функция генерации изображений Grok Imagine, в которой есть так называемый «spicy mode», способный создавать контент для взрослых. Grok критиковали за создание манипулированных изображений, включая изображения женщин в бикини или сексуально откровенных позах, а также изображения с участием детей.
На Grok усилилось давление в Европейском союзе, Индии и Соединенном Королевстве, которое в понедельник заявило, что намерено криминализировать «nudification apps». Британский медиарегулятор также начал расследование о том, нарушил ли Grok закон, разрешая пользователям делиться сексуализированными изображениями детей.
На прошлой неделе Grok ограничил создание и редактирование изображений для платных пользователей после глобальной волны возмущения из-за сексуализированных дипфейков людей, но критики считают, что проблема решена не полностью.
Маск и его компании публично не комментировали ограничения в Юго-Восточной Азии. xA1 на запросы СМИ дает автоматический ответ: «Legacy Media Lies».