Военные США использовали ИИ Claude компании Anthropic. Но после отказа снять ограничения, препятствующие массовой слежке и созданию автономных боевых систем, Пентагон расторг контракт и обратился к OpenAI.
Сообщения СМИ о том, что вооружённые силы США использовали чат-бот Claude компании Anthropic во время операций, нацеленных на лидеров в Венесуэле и Иране, вызывают новые вопросы о том, с какой скоростью ИИ интегрируется в военную сферу.
РЕКЛАМА
РЕКЛАМА
Американские СМИ сообщили, что Claude помогал в проведении январской операции, в результате которой был захвачен лидер Венесуэлы Николас Мадуро. Позднее появились похожие сообщения о том, что чат-бот использовался и при подготовке операции против верховного лидера Ирана аятоллы Али Хаменеи.
По словам экспертов, эти случаи дают представление о том, как продвинутые системы ИИ уже могут поддерживать планирование военных операций и разведывательную работу США.
"Было очень неожиданно увидеть столь стремительное развёртывание этих инструментов, особенно с учётом того, что, на мой взгляд, профессиональное сообщество в целом не считает их готовыми к такому использованию", — говорит главный научный специалист по ИИ американского аналитического центра AI Now Institute Хейди Хлааф.
"Мы вообще сомневаемся, смогут ли такие модели ИИ эффективно работать в военной сфере из‑за того, насколько они несовершенны", — сказала она Euronews Next.
Хлааф напоминает, что исследователи предупреждали: крупные языковые модели часто выдают ненадёжные или ошибочные ответы, и это вызывает опасения относительно того, как они поведут себя в условиях повышенного риска, таких как военные операции.
Сообщения об использовании Claude появляются на фоне того, как администрация Трампа продвигает амбициозную стратегию превращения американской армии в AI-first, утверждая, что быстрое внедрение этой технологии необходимо, чтобы не уступить соперникам, таким как Китай.
"Мы ощущаем срочность развития ИИ"
США используют различные виды автоматизации в армии ещё с 2010‑х годов, и это направление было в центре внимания сразу нескольких президентов, включая предшественников Трампа — Барака Обаму и Джо Байдена, рассказали Euronews Next эксперты.
Первые модели ИИ применялись в логистике, обслуживании техники и переводах, поясняет профессор Лондонского университета королевы Марии (Великобритания) Элке Шварц.
Второй срок Трампа ускоряет внедрение генеративных моделей ИИ — таких как ChatGPT компании OpenAI или Claude компании Anthropic — в рамках своего рода "гонки вооружений в сфере ИИ" с противниками США, отмечают Шварц и Хлааф.
Американская политика создаёт "ощущение срочности" в развитии ИИ, поскольку это "крайне ценная технология", которая должна обеспечить стране преимущество над соперниками, говорит научный сотрудник аналитического центра Европейского совета по международным отношениям Гиоргос Верди.
Инициатива Пентагона AI Acceleration strategy нацелена на обеспечение военного превосходства США за счёт устранения барьеров для интеграции ИИ и инвестиций в стратегические проекты, которые должны сохранить отрыв американской армии от соперников.
"Идея заключается в том, чтобы внедрить ИИ практически во все сферы, включая безобидные, но также и потенциально более разрушительные", — говорит Шварц.
Она отмечает, что предыдущие администрации были гораздо осторожнее в вопросах создания систем безопасности и правил, регулирующих то, как и когда могут использоваться подобные технологии.
В рамках этой стратегии создана база данных genai.mil, которая даёт чиновникам доступ к чат-ботам на базе ИИ, включая Gemini от Google и Grok от xAI.
В бюджете администрации на 2025 год, получившем название "Большой красивый законопроект» (Big Beautiful Bill), также заложены сотни миллионов долларов на проекты, связанные с ИИ в военной сфере.
Документ предусматривает выделение 650 млн долларов (550 млн евро) на военные инновации, в том числе 145 млн долларов (123 млн евро) на разработку систем борьбы с беспилотниками на базе ИИ.
Ещё 250 млн долларов должны быть направлены на "развитие экосистемы ИИ", а ещё 250 млн — на расширение возможностей искусственного интеллекта в центре Киберкомандования. Дополнительно 115 млн долларов предназначены для ускорения выполнения задач в сфере ядерной национальной безопасности с применением ИИ.
Военные США всё ещё на "этапе испытаний" чат-ботов с ИИ
Из-за отсутствия прозрачности в данной сфере сложно определить, насколько продвинулись планы правительства США, сказала Шварц. "В отличие от конкретного вида боеприпасов или конкретной системы вооружения, вы на самом деле не видите, что именно используется", — сказала она. "Все происходит через интерфейс и в значительной степени в невидимой зоне".
Шварц считает, что американские военные находятся на "пробном этапе", где они экспериментируют с различными компаниями, занимающимися искусственным интеллектом, чтобы понять, на что они способны и в чем заключаются их ограничения.
Партнерство Anthropic с американскими военными на сумму 200 миллионов долларов предусматривает двухлетнюю разработку прототипа, который будет способствовать укреплению национальной безопасности, заявляет компания. Она будет работать с министерством, чтобы "предвидеть и смягчать потенциальные враждебные применения ИИ", а также выявлять любые риски, связанные с внедрением этой технологии во всей "оборонной системе".
По словам Шварц, это говорит о том, что системы проходят испытания в реальных условиях, что, как она считает, вызывает серьёзные этические вопросы.
"Это чудовищная практика, когда речь идёт о человеческих жизнях", — сказала она.
Верди, напротив, предполагает, что системы вроде Claude, использованные в венесуэльском и иранском контекстах, применялись для "более рутинных задач", например для сбора или анализа спутниковых снимков.
"Человек физически не в состоянии проанализировать каждый фрагмент поступающей разведывательной информации. Система ИИ может сделать это гораздо быстрее", — говорит он. — "Затем люди интерпретируют выводы системы ИИ и уже на их основе действуют".
Эксперты предупреждают о растущем интересе к автономному оружию на базе ИИ
Исследователи опасаются, что усиливающаяся роль ИИ в планировании и принятии военных решений в США в итоге может привести к разработке автономных видов вооружений.
"Я уверен, что интерес к тому, чтобы по крайней мере иметь возможность создать полностью автономное оружие с ИИ и, возможно, использовать его, безусловно существует", — говорит Верди.
По словам Хлааф, под автономным оружием понимается любой вид вооружений, который способен обнаруживать, выбирать и поражать цель без участия человека в финальном решении.
"То есть вместо того, чтобы человек получал рекомендацию от крупной языковой модели и решал, следовать ей или нет, весь этот процесс был бы полностью автоматизирован", — поясняет эксперт.
Одним из главных аргументов в пользу разработки таких систем, по словам Верди, является страх, что США отстанут, если соперники создадут их раньше.
Однако, как отмечают Верди и Хлааф, нет никаких публичных данных, свидетельствующих о том, что Китай уже каким‑либо образом интегрировал ИИ в свои вооружённые силы.
"Китайцы очень обеспокоены тем, чтобы сохранить эту технологию под контролем", — добавляет Верди.
По словам аналитика, возможности в области ИИ у других оппонентов США — России, Ирана или Северной Кореи — "ещё менее развиты", поэтому вероятность того, что у этих стран уже есть автономное оружие на базе ИИ, ещё ниже.
Верди также предупреждает, что создание полностью автономного оружия с ИИ может привести к эскалации конфликтов.
В недавнем препринте исследования Кингс‑колледжа Лондона говорится, что в 95% имитационных военных игр чат-боты на основе ИИ выбирали угрозу применения ядерного оружия.
Пентагону предстоит "сложный переход"
По словам Верди, можно ожидать, что США продолжат использовать Claude или другой чат-бот с ИИ в своих операциях, поскольку миссии в Венесуэле и Иране, судя по всему, оказались "очень эффективными" с точки зрения достижения их целей.
Как она добавляет, воспринимаемый успех этих операций создаёт риск того, что США захотят ещё больше ослабить защитные барьеры — например, уменьшить степень человеческого контроля, — чтобы сделать технологии ещё эффективнее. По словам Верди, для министерства войны одной из главных задач станет поиск модели, которая будет работать не хуже Claude.
В ближайшие шесть месяцев правительство будет постепенно отходить от него, поскольку компания отказалась предоставить военным неограниченный доступ к своей технологии, которая, по утверждению Anthropic, могла бы использоваться для массовой слежки или разработки автономного оружия. Об этом говорится в заявлении министра войны США Пита Хегсета.
В Anthropic заявили , что Claude развернут по всей сети секретных информационных систем правительства США, используется в национальных ядерных лабораториях и непосредственно занимается разведывательным анализом для министерства войны.
Тем временем министерство обороны подписало контракт с OpenAI о внедрении "передовых систем ИИ в засекреченных средах" — всего через несколько часов после того, как сделка с Anthropic была разорвана.
"Я думаю, министерству предстоит непростой переход, но в то же время эта задача вполне решаема", — говорит эксперт о планах заменить Claude новой системой ИИ. По его словам, разведданные, собранные и предоставленные Claude, скорее всего, останутся в распоряжении министерства и могут быть использованы следующими поставщиками технологий.