ChatGPT будет оценивать, младше ли пользователь 18 лет, на основе того, сколько существует его аккаунт, когда он в сети и о чём он спрашивает.
Чат-бот с искусственным интеллектом ChatGPT от OpenAI будет определять возраст пользователей, чтобы обеспечить подросткам более безопасную онлайн-среду, на фоне растущего внимания к тому, как технологические компании защищают несовершеннолетних в интернете.
Новая системапрогнозирования возраста компании будет использовать данные об аккаунте пользователя, чтобы определить, младше ли он 18 лет: например, как давно существует аккаунт, в какое время суток он входит в систему и как пользуется приложением.
Если ChatGPT определит, что пользователю нет 18 лет, автоматически включатся дополнительные защиты от натуралистического, жестокого, связанного с самоповреждениями и сексуального контента. Вирусные челленджи в соцсетях, побуждающие несовершеннолетних к «рискованному или опасному поведению», также будут ограничены.
В OpenAI говорят, что этот подход «опирается на мнение экспертов и основан на академических исследованиях детского развития».
Аккаунты, определённые как принадлежащие лицам младше 18 лет, всё равно смогут использовать ChatGPT для обучения, творчества и получения ответов на вопросы, заявили в компании.
Обновление OpenAI выходит на фоне того, что правительства Европейского союза обсуждают ограничения на аккаунты в соцсетях для пользователей младше 16 лет, после того как Австралия ввела запрет в декабре. ChatGPT не считается социальной платформой в рамках австралийских ограничений.
Против OpenAI и её гендиректора Сэма Олтмана подан иск в Калифорнии родителями 16-летнего Адама Рейна, который покончил с собой в апреле прошлого года: по их словам, платформа якобы подталкивала его к самоубийству и написала для него предсмертную записку.
Ранее OpenAI представила родительский контроль в ChatGPT: родители могут устанавливать «тихие часы», когда ИИ недоступен, и получать уведомления, если подросток проявляет признаки тревоги в переписке с ботом.
Если новая система ошибочно определит пользователя как младше 18 лет, он сможет сделать селфи в режиме реального времени или загрузить документ, удостоверяющий личность, выданный государством, чтобы подтвердить возраст и снять ограничения.