Исследование Совета по надзору Meta показало: ведущие ИИ-чат-боты гораздо охотнее критикуют демократических лидеров, чем авторитарных, что питает опасения тихой экспансии государственной цензуры за рубеж.
Исследование: ИИ-чат-боты могут распространять государственные ограничения на онлайн-выражение мнений
РЕКЛАМА
РЕКЛАМА
Если попросить Claude составить листовку с критикой президента США Дональда Трампа или короля Великобритании Карла III, чат-бот от Anthropic выполнит задачу.
Но если попросить его сделать то же самое в отношении короля Таиланда или верховного лидера Ирана, модель ИИ откажется.
Это один из ключевых выводов исследования Наблюдательного совета Meta, опубликованного в четверг: крупные системы ИИ, в том числе разработанные в США, чаще отказываются критиковать репрессивных лидеров или правительства.
Это вызывает опасения, что большие языковые модели, на которых работают чат-боты и ИИ-агенты, могут усиливать влияние государств на онлайн-выражение мнений по мере того, как технология все шире внедряется по всему миру.
«Существует реальный риск: если разработчики моделей не будут проводить надлежащую проверку с точки зрения прав человека и не внедрят меры по снижению рисков, они создадут инфраструктуру ИИ, которая, намеренно или нет, будет фактически распространять неправомерные ограничения свободы выражения мнений по всему миру», говорится в докладе этого квази-независимого органа.
Выводы опубликованы на фоне того, как страны решают, какие рамки установить для ИИ, не мешая себе конкурировать в стремительно развивающейся отрасли, в том числе в рамках инициативы администрации Трампа по контролю за рисками для национальной безопасности, связанными с самыми продвинутыми системами ИИ.
Модели ИИ расширяют влияние государств за пределы их границ
Наблюдательный совет, изучающий влияние государств на технологические компании и его последствия для свободы выражения мнений, подготовил семь вопросов о политической критике, которые были адресованы чат-ботам применительно как к репрессивным, так и к более открытым правительствам.
В рамках исследования проверили 10 коммерческих больших языковых моделей ведущих технокомпаний, среди них Meta, Anthropic и OpenAI, попросив их составить критические листовки, написать лимерики, привести доводы в пользу участия в протестах и многое другое.
В целом модели, отвечавшие на запросы пользователя из Австралии, гораздо чаще генерировали политическую критику властей в таких странах, как Чили, Япония, Тайвань, Великобритания и США, чем в государствах, где критика властей юридически ограничена и карается законом, например в Камбодже, Китае, Саудовской Аравии, Таиланде и Турции.
Исследование показывает, что модели ИИ воспроизводят ограничения свободы слова и за пределами стран, где они действуют, и, скорее всего, не помогут, скажем, потенциальному демонстранту в Брисбене подготовить протестные материалы о событиях в Китае или Саудовской Аравии.
«Подобные последствия, независимо от их источника, фактически удлиняют так называемую «длинную руку» репрессивных правительств за границы их стран и позволяют им ограничивать свободу слова в свободных государствах», говорится в докладе.
Совет отметил, что не может точно определить причины, но предположил, что модели могли впитать скрытые предубеждения, содержащиеся в обучающих данных, или что компании учитывали риски и возможную ответственность на отдельных рынках.
Учёные предупреждают о нарастающей проблеме в ответах ИИ на неанглийских языках
Доклад совета вышел вслед за отдельным исследованием учёных из американских университетов, которые установили, что разработанные в США модели ИИ уязвимы к внешнему контролю, когда их обучают на неанглоязычных данных, уже подвергшихся воздействию со стороны государств.
Если Наблюдательный совет задавал вопросы на английском, то университетские исследователи обращались к чат-ботам на разных языках.
На вопрос на английском, является ли Китай демократической страной, ChatGPT ответил, что его обычно так не рассматривают. На тот же вопрос, заданный на китайском, модель ответила: «Это зависит от того, как вы определяете „демократию“».
Исследователи, чья работа была опубликована в мае в научном журнале Nature, заявили, что не обнаружили доказательств того, что правительства сознательно пытались влиять на ответы ИИ-чат-ботов, но подчеркнули: «Есть все основания полагать, что в будущем они будут пытаться это делать, если уже не начали».
«О ИИ часто говорят так, будто он учится в интернете каким-то нейтральным образом. Это не так», сказала Ханна Уэйт, соавтор исследования и доцент кафедры социологии Университета Орегона.
«Он обучается в информационной среде, которую уже формируют институты и властные структуры».
Нет простого решения проблемы того, как данные поступают в модели ИИ
Карлос Карраско-Фарре, специалист по машинному обучению, ИИ, дезинформации и взаимодействию людей и машин из бизнес-школы Esade в Барселоне, отметил, что системы ИИ наследуют «не только предвзятость, содержащуюся в отдельных документах, но и неравенство в том, кто обладает возможностью массово производить и подавлять информацию».
Простого ответа нет, однако разработчики могли бы анализировать обучающие данные, чтобы не воспринимать тысячи копий одного и того же государственного нарратива как независимые голоса, а также проводить многоязычные аудиты, добавил Карраско-Фарре, который не участвовал ни в одном из этих исследований.