За последние две недели чат-бот подвергся резкой критике за создание сексуально откровенных дипфейков с участием женщин и несовершеннолетних.
ИИ-чат-бот Grok Илона Маска заблокировал для большинства пользователей создание и редактирование любых изображений после глобальной волны возмущения, поднявшейся, когда сервис начал распространять сексуализированные дипфейки, преимущественно с изображениями женщин.
Чат-бот, доступный через социальную платформу Маска X, в последние недели удовлетворял, как утверждают исследователи, поток злонамеренных пользовательских запросов на изменение изображений, включая «надевание» на женщин бикини или помещение их в откровенно сексуальные позы.
Исследователи предупредили, что в отдельных случаях некоторые изображения, по-видимому, изображали детей.
Правительства по всему миру осудили платформу и открыли расследования.
В пятницу Grok отвечал на запросы на изменение изображений сообщением: «Генерация и редактирование изображений в настоящее время доступны только платным подписчикам. Вы можете оформить подписку, чтобы получить доступ к этим функциям».
Хотя число подписчиков Grok публично не раскрывается, заметно сократилось количество откровенных дипфейков, которые сервис теперь генерирует по сравнению с предыдущими днями.
Среди официальных реакций властей Европейский союз резко раскритиковал Grok за «незаконное» и «ужасающее» поведение, а чиновники во Франции, Индии, Малайзии и бразильский парламентарий призвали к расследованиям.
В четверг премьер-министр Великобритании Кир Стармер пригрозил принять неуточненные меры против X.
Стармер заявил в эфире радиостанции Greatest Hits: «Это позор. Это отвратительно. И это недопустимо. X должен взять ситуацию под контроль».
Он сказал, что британский медиарегулятор Ofcom «пользуется нашей полной поддержкой для принятия мер», а «все варианты рассматриваются».
«Это отвратительно. X должен привести дела в порядок и убрать этот материал. Мы примем меры, потому что это просто недопустимо».
Ofcom и британский регулятор по защите данных на этой неделе сообщили, что обратились к X и к компании искусственного интеллекта Маска xAI за информацией о мерах, предпринятых для соблюдения британских правил.
Grok запустили в 2023 году. Прошлым летом компания добавила функцию генерации изображений Grok Imagine, в которой появился так называемый режим «spicy mode», позволяющий пользователям создавать контент для взрослых.
ИИ-чат-бот бесплатен для пользователей X: задавать ему вопросы можно прямо на платформе. Можно отметить его в собственных постах или в ответах на публикации других пользователей.
Функция публичной генерации и редактирования изображений сейчас доступна только платным подписчикам.
При попытке отметить Grok и сгенерировать изображения пользователям показывается сообщение: «Генерация и редактирование изображений в настоящее время доступны только платным подписчикам. Вы можете оформить подписку, чтобы получить доступ к этим функциям».
При этом генерация и редактирование изображений остаются доступными на самой платформе Grok.
Шарлотта Уилсон, руководитель корпоративного направления в глобальной компании кибербезопасности Check Point, заявила, что ограничение редактирования изображений в Grok только для платных пользователей не является решением проблемы безопасности.
«Это может сократить случайные злоупотребления, но не остановит тех, кто действует целенаправленно, и ничего не сделает для жертв, чьи изображения уже созданы, распространены и сохранены», сказала Уилсон в заявлении.
Проблему усугубляет то, что Маск продвигает свой чат-бот как более дерзкую альтернативу конкурентам с большим количеством защитных механизмов, а изображения Grok видны публично и их легко распространять по интернету.
«Если платформы хотят доказать, что относятся к этому серьезно, им нужно рассматривать ситуацию как задачу реагирования на инцидент. Закрыть лазейку на уровне модели, чтобы запросы и правки на „раздевание“ блокировались, а не просто отговаривались», добавила Уилсон.