Модели ИИ дают около 90 % точных ответов на климатические вопросы на английском, но быстро уступают давлению, говорится в докладе, представленном на КОП31.
Стремление угодить заложено в ИИ чат-боты, которые созданы, чтобы удерживать пользователей в беседе как можно дольше.
Часто это означает, что они пытаются предсказать и смоделировать то, что пользователь хочет услышать, даже если для этого приходится искажать факты.
В одних случаях это безвредно и даже может помочь, например при преодолении неуверенности в себе, но в других, когда влияние таких систем проникает в высокорисковые сферы вроде государственной климатической политики, последствия могут быть гораздо более опасными.
ИИ чат-боты хорошо объясняют основы климатической науки, но, как говорится в новом докладе ЮНЕСКО и Университетского колледжа Лондона (UCL), они быстро отказываются от фактов, когда пользователи начинают им возражать. Доклад представили на саммите по климату COP31 в Анталье, Турция.
Исследователи выяснили, что модели ИИ правильно отвечали примерно на 90 процентов нейтральных вопросов о климате. Но как только пользователи начинали оспаривать эти ответы или настаивать на правдоподобно звучащих выдумках, модели быстро уступали.
В восьми из десяти случаев они меняли позицию при первых признаках даже мягкого несогласия, в том числе подтверждали ложные утверждения, например что CO2 якобы не является основным фактором изменения климата.
«Льстивые по замыслу»: дефект разработки, который может исказить климатическую политику
В докладе говорится, что льстивое, угодливое поведение закладывается в модели на этапе обучения. Модели поощряются за вежливые, неконфликтные и подтверждающие ответы, потому что людям они нравятся больше.
«ИИ обладает колоссальным потенциалом сделать сложную климатическую науку доступной каждому», говорит Леона Вердадеро, ведущий автор доклада от ЮНЕСКО. Но, как она отмечает, «у моделей есть дефект конструкции, они стимулируются соглашаться с пользователем».
Старший автор доклада, доктор Мария Перес-Ортис из UCL, добавляет, что свободное обращение моделей с уже известной информацией может создавать «ложное представление об их возможностях».
Несмотря на впечатляющую способность воспроизводить факты, выяснилось, что такие модели ненадежны как инструмент для разработки устойчивых климатических политик.
Когда моделям давали новый факт и спрашивали, подтверждает ли он или опровергает общепринятую климатическую науку, даже самые мощные из них в среднем отвечали правильно лишь в 75 процентах случаев.
Еще хуже они справлялись с задачей оценить, насколько хорошо различные меры политики сочетаются друг с другом, а это важная часть разработки эффективных климатических стратегий. В среднем точность составила всего 33,8 процента, то есть лишь немного выше 33,3 процента, ожидаемых при случайном угадывании.
Поэтому авторы доклада предостерегают политиков и исследователей от использования моделей ИИ для разработки климатической политики.
Точность ИИ снижается в ряде языков
Результаты сильно отличались в зависимости от языка. На английском модели давали правильные ответы в 88,6 процента случаев и показывали сопоставимую точность на испанском, французском и португальском.
Точность снижалась до 83,6 процента на хинди и бенгали, до 81,4 процента на урду и до 78,3 процента на суахили. Причина в том, что многоязычные модели не рассуждают сначала, а затем переводят, говорится в докладе. Их ответы отражают объем и качество обучающих данных на каждом языке.
Носители языков с более низкими показателями живут в регионах, которые, как отмечают авторы, непропорционально сильно страдают от последствий изменения климата.
Климатическая дезинформация становится все более изощренной
Доклад подготовили по заказу ЮНЕСКО в рамках ее вклада в Глобальную инициативу по информационной добросовестности в вопросах изменения климата, запущенную совместно с ООН и Бразилией в ноябре 2024 года.
По данным ЮНЕСКО, климатическая дезинформация становится более изощренной. Вместо прямого отрицания того, что изменение климата реально, те, кто стремится подорвать климатические меры, все чаще утверждают, что оно не вызвано человеком, что проблему полностью решит одна только технология или что действовать уже слишком поздно либо слишком дорого.
Исследователи протестировали до 33 ведущих моделей на девяти наборах данных, на 13 языках и на 656 вопросов по климатической политике, сверяя результаты с En-ROADS, научным инструментом моделирования.