Ofcom начал официальное расследование X по Закону об онлайн-безопасности: «Мы проверим, не нарушила ли платформа свои юридические обязательства».
Британский медиарегулятор расследует социальную сеть X Илона Маска из-за использования чат-бота Grok на базе искусственного интеллекта, который оказался под пристальным вниманием из-за злоупотреблений при создании сексуально откровенных и созданных без согласия изображений.
В заявлении Ofcom сообщило о «чрезвычайно тревожных сообщениях» об использовании чат-бота для создания и распространения «раздетых» изображений людей, а также «сексуализированных изображений детей».
Платформа ИИ была заблокирована в Малайзии и Индонезии в выходные после того, как власти заявили, что ее используют для создания сексуальных дипфейков без согласия.
«Расследование Ofcom в отношении X стало проведением красной черты. Это не про размещение вредного контента. Речь о том, что связанный с платформой инструмент ИИ активно его генерирует», сказала Шарлотта Уилсон, руководитель корпоративного направления в компании по кибербезопасности Check Point.
«Когда ваша собственная технология может создавать „раздетые“ изображения реальных людей и сексуализированные изображения детей, вы больше не нейтральная инфраструктура. Вы становитесь частью цепочки причинения вреда. Обвинять одних лишь злоумышленников не по существу», добавила она.
Запущенный в 2023 году Grok доступен в X бесплатно. Пользователи могут задавать чат-боту вопросы в этой социальной сети и помечать посты, которые они создали сами, а также ответы на публикации других пользователей.
Прошлым летом компания добавила функцию генерации изображений Grok Imagine, в которой есть так называемый «spicy mode», позволяющий создавать контент для взрослых.
Если X не выполнит требования Ofcom, медиарегулятор может через суд обязать интернет-провайдеров полностью заблокировать доступ к сайту в Великобритании.
Если будет установлено, что X нарушила закон, Ofcom может назначить штраф до 10% от мировой выручки компании или 18 млн фунтов стерлингов (20 млн евро).
Министр по технологиям Великобритании Лиз Кендалл выступит в понедельник днем с заявлением о Grok.