OpenAI и Anthropic обсуждают с профсоюзом учителей США соглашения по безопасности и приватности, тогда как Google, лидер edtech, не обещает аналогичных гарантий.
Корпорация Microsoft вводит защитные механизмы и стандарты конфиденциальности для своих систем искусственного интеллекта в школах США. Они были согласованы со вторым по величине в стране профсоюзом учителей на фоне растущей волны критики в адрес ИИ и времени, которое дети проводят у экранов.
РЕКЛАМА
РЕКЛАМА
Подписанное на прошлой неделе соглашение (источник на английском языке) запрещает использование ИИ-собеседников или функций, «разработанных для формирования эмоциональной привязанности или зависимости» либо рассчитанных на то, чтобы удерживать учеников вовлечёнными дольше, чем того требует учебная задача.
Эти стандарты имеют обязательную юридическую силу и предусматривают проверки независимыми аудиторами для контроля соблюдения.
В рамках этого масштабного соглашения Microsoft заявляет, что не будет использовать данные учеников и преподавателей для обучения своих ИИ-систем, за редким исключением случаев, когда данные могут помочь защитить детей. Собранная информация, по словам компании, не может продаваться, использоваться для рекламы или для разработки новых продуктов.
Документ также включает меры по аудиту и прозрачности, обязывающие компанию простым и понятным языком объяснять семьям, как работают её инструменты и какие данные они собирают.
«Этот стандарт устанавливает высокую планку в защите детей и безопасности ИИ, и мы распространим это соглашение на каждый школьный округ по всей стране», — говорится в заявлении заместителя председателя совета директоров и президента Microsoft Брэда Смита.
По данным компании, стандарты будут применяться ко всем школьным контрактам Microsoft в США начиная с 1 ноября.
Нужен ли тормоз для ИИ в европейских классах?
Системы искусственного интеллекта уже постепенно входят в европейские классы.
Исследование Европейской комиссии (источник на английском языке), проведённое среди школ-пионеров среднего звена в Финляндии, Германии, Ирландии, Люксембурге и Испании, показало, что ученики используют генеративный ИИ, чтобы объяснять сложные темы, отрабатывать навыки и готовиться к экзаменам.
Ряд европейских правительств уже устанавливает ограничения на использование ИИ младшими школьниками.
Норвегия в этом году заявила, что дети примерно от шести до 12 лет, как правило, не должны самостоятельно использовать генеративный ИИ для выполнения школьных заданий, тогда как подростки примерно от 13 до 15 лет могут начинать осторожно с ним экспериментировать.
Франция позволяет знакомить учащихся с искусственным интеллектом уже в начальной школе, но считает, что они не должны напрямую пользоваться генеративным ИИ. Использование таких систем в классе под присмотром учителя может начинаться примерно с 13–14 лет.
Документ, с которым ознакомился Euronews, свидетельствует, что Еврокомиссия намерена предложить запретить доступ подросткам младше 15 лет к рискованным онлайн-сервисам, таким как ИИ-чат-боты, в рамках законодательной инициативы, которую опубликуют в четверг.
OpenAI и Anthropic обсуждают аналогичные меры защиты
Эксперты признают, что положения о безопасности в американском соглашении являются существенными, однако некоторые предупреждают: усиление мер защиты не следует автоматически трактовать как одобрение более широкого применения ИИ в школах.
«Я опасаюсь, что столь заметная инициатива будет неправильно понята, и школы решат: “Если они хорошо справляются с защитой данных и безопасностью, значит, нам нужно пользоваться этим инструментом”», — сказал исполнительный директор американской некоммерческой организации по онлайн-безопасности Fairplay Джош Голин.
По словам Голина, стандарты будут эффективны лишь в том случае, если к ним присоединятся и другие крупные компании в сфере ИИ.
«Примет ли Google эту рамочную договорённость? Это огромный вопрос», — добавил он.
В августе Google подверглась критике в США после того, как расширила использование инструментов на базе Gemini в сервисе Google Classroom на школьные аккаунты, которыми пользуются учащиеся младше 18 лет.
Критики расценили этот шаг как очередной этап конкурентной борьбы технологических гигантов за закрепление своих ИИ-продуктов в школах и доступ к более молодым пользователям. По данным самой компании, Classroom пользуются более 150 миллионов учителей и учеников по всему миру.
Учительский профсоюз также ведёт переговоры с OpenAI и Anthropic, которые публично поддержали соглашение с Microsoft.
Компания OpenAI, разработчик ChatGPT, назвала его «важной вехой в обеспечении безопасности ИИ и конфиденциальности данных в школах». По её словам, она уже сотрудничает с учительским профсоюзом и рассчитывает вскоре завершить подготовку собственного соглашения.
Компания Anthropic, создатель системы Claude, заявила, что также поддерживает усилия по продвижению ответственного использования ИИ в образовании и совместно с профсоюзом разрабатывает стандарты безопасности и конфиденциальности.