Пользователи надеются на помощь ИИ, чтобы отличить ложь от правды, но оказалось, что ИИ и сам ошибается
РЕКЛАМА
Пользователи интернета обращались к искусственному интеллекту, чтобы проверять противоречивые сообщения о 12-дневном конфликте между Ираном и Израилем.
Но, как выяснилось, Grok — бесплатный чат-бот компании Илона Маска — сам вводил людей в заблуждение непоследовательными и неверными утверждениями.
Видео, про которое говорили, что оно показывает последствия иранского удара по аэропорту Тель-Авива, на самом деле оно создано искусственным интеллектом: мы в Euroverify ранее уже говорили об этом. Но Grok, на просьбу проверить подлинность видео, ответил, что «это скорее всего реальные кадры, а не созданные ИИ».
В Euroverify мы выявили ещё несколько случаев, когда Grok ошибочно называет подлинными видео, на самом деле созданные искусственным интеллектом. Также обнаружены случаи, когда Grok связывал с нынешним конфликтом совершенно посторонние видео.
Так, посетителей фестиваля Hellfest во Франции Grok выдал за израильтян, которые бегут от обстрелов на КПП Таба на границе с Египтом. По утверждению Grok, «иранская ракета, упавшая на Тель-Авив», на самом деле оказалась взрывом в Малайзии.
Исследователи из Digital Forensic Research Lab утверждают, что Grok в поисках ответов анализирует сообщения СМИ — но те быстро устаревают из-за стремительного характера конфликта.
Кроме того, чатбот регулярно не проверяет подлинность источников. Например, он утверждает, что аккаунты, распространяющие дезинформацию на сайте X, являются официальными правительственными или военными аккаунтами.
Эксперты отмечают, что всё больше пользователей пытаются проверять факты с помощью ИИ. Но на самом деле это лишь способствует распространению дезинформации.