В письме сотрудники Google предупреждают, что Пентагон может использовать эту технологию негуманным образом — для массовой слежки и создания автономного оружия, способного убивать.
Более 600 сотрудников Google призвали компанию отказаться от потенциальной сделки с Пентагоном, которая позволила бы использовать ее искусственный интеллект в секретных военных операциях, говорится в заявлении, опубликованном в понедельник.
РЕКЛАМА
РЕКЛАМА
«Мы хотим, чтобы ИИ приносил пользу человечеству, а не применялся бесчеловечным образом или с крайне разрушительными последствиями», — говорится в открытом письме (источник на английском языке), адресованном гендиректору Google Сундару Пичаи. «Речь идет об автономных летальных системах вооружений и массовой слежке, но список на этом не ограничивается».
Письмо, под которым подписались сотрудники Google DeepMind, Cloud и других подразделений, появилось на фоне переговоров IT-гиганта с Министерством обороны США о возможном использовании его модели ИИ Gemini в засекреченных проектах.
Открыто под документом подписались более 20 директоров, старших директоров и вице-президентов.
«Секретные проекты по определению непрозрачны», — заявил один из организаторов инициативы, чье имя в заявлении не приводится.
«Сейчас у нас нет никакой возможности гарантировать, что наши инструменты не будут использованы для нанесения тяжелого ущерба или подрыва гражданских свобод вдали от общественного контроля. Речь идет, в частности, о профилировании людей или нацеливании на мирных жителей».
Письмо появилось на фоне растущего давления на технологические компании с требованием прояснить, как их инструменты ИИ могут использоваться военными и разведслужбами, после конфликта между Пентагоном и стартапом Anthropic.
Ранее Anthropic подала в суд на Министерство обороны США после того, как ведомство сочло ее «риском для цепочек поставок» из-за просьбы компании не использовать ее системы для массовой слежки или ведения автономной войны.
Генеральный директор Anthropic Дарио Амодей заявил, что он «не может в здравой совести удовлетворить просьбу Пентагона» о неограниченном доступе к системам ИИ компании.
«В ряде случаев, как мы считаем, ИИ способен не защищать, а подрывать демократические ценности, — написал Амодей. — Кроме того, некоторые сценарии применения просто выходят за пределы того, что нынешние технологии могут выполнять безопасно и надежно».
В ответ на решение Амодея президент США Дональд Трамп распорядился, чтобы государственные ведомства прекратили использовать чат-бот Claude.
По словам организаторов обращения, Google предложила включить в контракт формулировку, которая запретила бы использовать Gemini для внутренней массовой слежки или автономных вооружений без надлежащего человеческого контроля.
Пентагон, однако, настаивает на более широкой формулировке о «всеми законными способами», утверждая, что она необходима для сохранения операционной гибкости. Сотрудники говорят, что такие ограничения будет сложно реализовать на практике, указывая на действующие в Пентагоне правила, которые ограничивают внешний контроль над его системами ИИ.
Новое заявление сотрудников Google неизбежно вызывает параллели с протестом 2018 года, после которого компания вышла из Project Maven — инициативы Пентагона по использованию ИИ для анализа видеозаписей с беспилотников.
«Мы считаем, что Google не должна заниматься войной», — говорилось тогда в письме.
«Поэтому мы просим закрыть Project Maven, а также разработать, опубликовать и строго соблюдать четкую политику, согласно которой ни Google, ни ее подрядчики никогда не будут создавать военные технологии».