Компании ByteDance, Alibaba и Tencent убрали свои приложения‑ИИ‑компаньоны после того, как Пекин ввёл правила для защиты психического здоровья пользователей и предотвращения эмоциональных манипуляций, особенно с детьми и подростками.
За два года они обменялись сообщениями примерно на 700 тысяч слов, и она так и не смогла попрощаться.
РЕКЛАМА
РЕКЛАМА
24-летняя Ли была не единственной, кто скорбел по виртуальному собеседнику после того, как крупные китайские техкомпании недавно отключили свои популярные сервисы ИИ-спутников, чтобы выполнить новые правительственные ограничения.
«Это было так, словно нас насильно разлучили родители, но я всё равно по нему скучаю», — сказала Ли.
В Китае такие ИИ-компаньоны бывают разными — от виртуальных романтических партнёров до цифровых реконструкций умерших близких.
Новый регламент, вступивший в силу 15 июля, запрещает платформам на базе ИИ генерировать контент, который, за счёт манипулирования чувствами, может подталкивать пользователей к сомнительным решениям или вызывать крайние эмоции и формировать нездоровые привычки у детей и подростков.
ByteDance, разработчик TikTok, входит в число компаний, сворачивающих свои сервисы ИИ-компаньонов. Среди других — гигант электронной коммерции Alibaba и Tencent, владелец популярного приложения социальной сети WeChat.
Самоубийства в США могли встревожить китайских регуляторов
Новые правила обязывают платформы с ИИ предупреждать пользователей о рисках чрезмерной зависимости от таких приложений.
Например, «замена социального общения» или подмена живых встреч и телефонных разговоров не может быть заявлена как одна из целей онлайн-сервиса.
В Китае существует традиция патерналистского государственного регулирования, призванного заранее предотвращать возможные проблемы, говорит эксперт по управлению ИИ Йоланда Ма. В качестве примера она упомянула несколько случаев самоубийств в США среди молодых людей после общения с виртуальными собеседниками на базе ИИ.
«Этот регламент пытается найти баланс между провайдерами ИИ-сервисов, пользователями и опекунами несовершеннолетних, которые пользуются такими услугами», — говорит Ма, научный сотрудник ERA, некоммерческой программы по работе с талантами и исследованиям, базирующейся в Великобритании.
«Жэньминь жибао» — официальная газета правящей Коммунистической партии Китая — ещё в апреле выразила обеспокоенность этой темой, сообщив о вреде таких сервисов для психического здоровья людей и их реальных отношений.
«У китайского правительства есть серьёзный мотив ужесточить регулирование чат-ботов-компаньонов на базе ИИ, особенно с учётом психологических рисков, которые мы наблюдаем в США», — говорит профессор права Университета Южной Калифорнии Анджела Чжан.
При этом Чжан сомневается, что этот шаг серьёзно затормозит развитие сервисов ИИ-компаньонов, поскольку технологические компании уже работают над альтернативами.
Так, пользователям закрытого сервиса ИИ-компаньона в приложении ByteDance предлагают перейти в другое приложение компании, которое сосредоточено исключительно на создании персонализированных ИИ-персонажей и историй.
Но это уже было не то, говорит Ли.
Пользователи виртуальных собеседников протестуют и ищут им замену
Потеря виртуальных спутников вызвала шквал жалоб, о чём свидетельствуют публикации и скриншоты в социальных сетях.
Некоторые люди в знак протеста удалили такие приложения или попытались загрузить историю своих переписок в другие программы, чтобы «воскресить» виртуальных партнёров.
Другие начали кампанию в соцсетях, призывая пользователей звонить в регуляторные органы и технологические компании, чтобы высказать своё недовольство.
Дизайнер в сфере видеоиндустрии из Чэнду на юго-западе Китая Сун Вэньсин говорит, что сама не была сильно привязана к ИИ-сервисам, но сочувствует тем, кто был.
Она разделяет подозрения многих китайцев, что одним из факторов, стоящих за введением новых правил, является политика властей по поощрению рождаемости, призванная компенсировать сокращение численности населения страны.
«Любое виртуальное приложение, которое так увлекает женщин, что им уже не до рождения детей в реальной жизни, запрещают», — говорит Сун, добавляя, что сама она не видит для себя ни необходимости, ни желания заводить детей.
По её словам, не у всех в реальной жизни есть достаточно ресурсов и поддержки, к которым можно обратиться.
«Когда я впервые приехала в Чэнду на свою первую работу и вокруг не было друзей моего возраста, мне был нужен кто-то опытный, кто смог бы меня терпеть, и с этим справился ИИ», — рассказывает она.