Решение было принято спустя несколько часов после того, как миллиардер заявил, что не знает о каких-либо «обнажённых изображениях несовершеннолетних», сгенерированных Grok.
ИИ-чат-бот Grok Илона Маска не сможет редактировать фотографии, чтобы изображать реальных людей в откровенной одежде в местах, где это незаконно, говорится в заявлении, опубликованном на его социальной платформе X.
Объявление поздно вечером в среду последовало за глобальной волной возмущения из-за сексуализированных изображений женщин и детей, включая запреты и предупреждения со стороны некоторых правительств. Оно также было сделано всего через несколько часов после того, как Маск заявил, что ему не известно ни о каких «обнаженных изображениях несовершеннолетних», созданных Grok.
В эту реакцию входило и объявленное в среду расследование властей штата Калифорния по поводу распространения созданного при помощи Grok сексуально откровенного материала без согласия изображенных лиц.
Изначально на запросы СМИ по поводу проблемы последовал лишь ответ: «традиционные медиа лгут».
Компания Маска xAI теперь заявляет, что будет применять геоблокировку контента, если он нарушает законы в конкретной юрисдикции.
«Мы внедрили технологические меры, чтобы аккаунт Grok не позволял редактировать изображения реальных людей в откровенной одежде, такой как бикини, нижнее белье и другие виды открованной одежды», говорится в заявлении.
Правило распространяется на всех пользователей, включая платных подписчиков, которым доступно больше функций.
xAI также ограничила создание или редактирование изображений только для платных подписчиков, «чтобы те, кто пытается злоупотреблять аккаунтом Grok для нарушения закона или наших правил, могли быть привлечены к ответственности».
Режим “spicy” в Grok позволял пользователям создавать откровенный контент, что вызвало протесты правительств по всему миру.
Малайзия и Индонезия предприняли юридические действия и заблокировали доступ к Grok. Великобритания и Европейский союз расследуют возможные нарушения законов о безопасности в интернете. Франция и Индия также выступили с предупреждениями, потребовав более строгого контроля. Бразилия призвала к расследованию злоупотреблений Grok.
В заявлении штата Калифорния говорится, что функции редактирования Grok «способствуют массовому производству дипфейковых интимных изображений, создаваемых без согласия, которые используются для преследования женщин и девочек в интернете, в том числе через социальную платформу X».
«Лавина сообщений с подробностями о несогласованном сексуально откровенном материале, который xAI создала и разместила в сети за последние недели, шокирует. Этот материал, изображающий женщин и детей обнаженными и в сексуально откровенных ситуациях, используется для травли людей по всему интернету», говорится в заявлении со ссылкой на генпрокурора штата Роба Бонту.
«У нас нулевая терпимость к созданию и распространению с помощью ИИ несогласованных интимных изображений или материалов о сексуальном насилии над детьми», сказал он.