Нидерландское управление по защите данных обратилось к гражданам с просьбой не спрашивать у чат-ботов совета, за кого голосовать на парламентских выборах.
Пользователи интернета все чаще обращаются к чат-ботам за жизненными советами - от помощи в решении рутинных административных задач до поиска совета по межличностням отношениям. Но ли можно доверять советам чат-ботов по вопросам голосования на выборах?
"Нет!" - отвечает Нидерландское управление по защите данных. В преддверии парламентских выборов (они проходят 29 октября) надзорный орган предупредил, что ChatGPT, Gemini, Grok и Le Chat постоянно рекомендовали пользователям две партии, которые, согласно прогнозам, должны были получить наибольшее количество мест в парламенте.
В 56% случаев чат-боты направляли пользователей к ультраправой Партии свободы Герта Вилдерса и левоцентристской партии "Зеленые левые — Партия труда" Франса Тиммерманса.
Согласно исследованию, взгляды политического центра были недостаточно представлены, а небольшие маргинальные партии (Движение фермеров и граждан и Христианско-демократический призыв) почти никогда не предлагались, даже когда пользователи вводили информацию, которая напрямую соответствовала взглядам этих партий.
"Мы наблюдали своего рода чрезмерное упрощение политического ландшафта Нидерландов, когда одна левая партия как бы поглощает все голоса в этом сегменте политического спектра, и то же самое происходит с одной правой партией", - сказал Йост ван дер Бургт, руководитель исследовательского проекта.
Третья партия, правая JA21 ("Правильный ответ 2021"), была рекомендована на удивление часто, несмотря на то, что это относительно молодая партия со сравнительно менее широким освещением в СМИ.
"Принцип работы генеративного ИИ и больших языковых моделей заключается в том, что они, по сути, являются статистическими машинами, которые предсказывают пропущенные слова во фразе или определенном выводе", - сказал ван дер Бургт в интервью команде проверки фактов Euronews, The Cube.
"Если ваши политические взгляды склоняются к одному из полюсов политического спектра, возможно, неудивительно, что генеративный ИИ выбирает политическую партию, которая соответствует этой стороне и это кажется безопасным выбором", - сказал эксперт. "ИИ также может не различать партии, которые довольно близки друг к другу или имеют схожие взгляды по большинству вопросов, но не по всем".
В августе 2024 года вступил в силу Европейский закон об искусственном интеллекте (AI Act). В соответствии с этим законом, системы ИИ, квалифицируемые как системы с высоким риском, могут представлять угрозу для здоровья или основных прав граждан ЕС. Однако они остаются легальными, поскольку их социально-экономические преимущества перевешивают риски.
По мнению исследователей, тот факт, что чат-боты предоставляют рекомендации по голосованию, может означать, что они подпадают под определение "высокорисковых систем" в соответствии с новым сводом правил, который должен быть введен в действие в августе 2026 года в рамках Закона ЕС об ИИ.
По мнению ван дер Бургта, угроза того, что чат-боты могут влиять на избирателей на основе предвзятой информации, усугубляется отсутствием регулирования.
"... Когда речь идет о вопросах психического здоровья или помощи в создании самодельного оружия, чат-бот четко заявляет: "Извините, мы не можем вам в этом помочь. И мы считаем, что такой же механизм должен действовать и в отношении рекомендаций по голосованию".
Кому можно доверять в плане советов?
Несмотря на это, некоторые все еще верят, что ИИ можно использовать во благо, разрабатывая индивидуальные чат-боты для выборов.
В Германии одобренный правительством и широко используемый Wahl-O-Mat, изначально основанный на StemWijzer, сравнивает позиции избирателей по ряду политических заявлений с позициями политических партий, чтобы в итоге приписать пользователя к партии, которая лучше всего соответствует его взглядам.
Wahl.Chat был разработан Мишелем Шимпфом в преддверии федеральных выборов в Германии, состоявшихся в феврале 2025 года.
Мишель Шимпф, исследователь и основатель Wahl.Chat: "В нашем чат-боте мы позаботились о том, чтобы он всегда анализировал предвыборную программу партии и искал в ней соответствующую информацию, а затем пытался ответить на вопрос на основе этой информации. Искусственный интеллект работает на основе вероятностных моделей. И если очень постараться, то можно получить информацию, которая направит ИИ в сторону предвзятого ответа".
Но есть ли надежда, что чат-боты смогут давать избирателям надежные и подробные советы о том, какая политическая партия лучше всего соответствует взглядам пользователя? Группа исследователей считает, что такая возможность есть, но при условии, что эти чат-боты будут под контролем.
Могу ли я по-прежнему использовать ChatGPT?
Несмотря на возможные подводные камни, многие утверждают, что модели чатботов, основанные на генеративном искусственном интеллекте, могут стать полезным инструментом для принятия политических решений при условии их правильного использования.
"Если я понятия не имею, за кого буду голосовать, и перед голосованием просто спрошу у ChatGPT, какая партия лучше, то использование ИИ - это жесткое "нет", - говорит Цзяньлун Чжу, докторант факультета компьютерных наук Саарландского университета, - Мы никогда не должны перекладывать принятие столь ответственных решений на кого-то другого, тем более на машину".
"Однако если мы рассматриваем этот совет в образовательном контексте, если мы хотим помочь избирателям узнать больше о политическом ландшафте, чтобы заинтересовать их в политике, то я думаю, что ИИ может быть жизнеспособным инструментом", - добавил он. "Хотя я не так уверен в ChatGPT и других существующих интерфейсах".
Учитывая риски, "пользователи должны спрашивать о партиях, а не получать рекомендации", - сказал Чжу, добавив, что в будущем может быть создана нормативная база для обеспечения ответственного использования чат-ботов во время избирательных кампаний.