Генсек ООН и Папа Лев XIV призвали страны согласовать более строгие правила для автономных вооружённых систем, чтобы не допустить их способности принимать решения о жизни и смерти без участия человека.
На этой неделе роботы-убийцы и боевые дроны окажутся в центре внимания: в понедельник представители правительств активизировали обсуждение и в ближайшие дни могут решить, начинать ли переговоры о выработке правил применения этих смертоносных машин или отказаться от этого.
Папа Лев XIV, глава ООН и правозащитные организации представляют проблему как вопрос экзистенциального характера: можно ли позволить роботам убивать и должны ли люди сохранять контроль и нести ответственность за применение летальных автономных систем вооружений.
Активисты утверждают, что вооруженные беспилотники, способные самостоятельно наносить удары по целям, уже применялись в отдельных случаях в зонах конфликтов, таких как Украина и Ближний Восток, но массового их развертывания пока не произошло.
Пугающие гипотетические сценарии, например вооруженные дроны, вышедшие из-под контроля и расстреливающие мирных жителей с высокой точностью, на протяжении многих лет фигурируют в обсуждениях роботов-убийц. Однако эти дискуссии пока не привели к появлению каких-либо международных ограничений.
Соединенные Штаты и Россия, давние соперники, стремятся минимизировать ограничения на их возможность разрабатывать и разворачивать новые мощные инструменты в высокотехнологичной гонке вооружений, именно в тот момент когда технологии искусственного интеллекта набирают обороты и меняют планы ведения боевых действий.
Сторонники создания свода правил для вооружений с ИИ говорят, что время играет решающую роль.
"Сейчас мы на переломном этапе, это фаза экспериментов. Мы видим отдельные случаи здесь и там, но пока нет полного внедрения", сказала Анна Хехир, руководитель направления регулирования военного ИИ в правозащитной организации Future of Life Institute.
"Регулировать и разрабатывать правила будет гораздо сложнее, когда эти системы уже много лет используются".
Заседание ООН проходит после того, как семь стран выступили за переговоры
Вопрос выходит на передний план в отделениях ООН в Женеве, где седьмая обзорная конференция по Конвенции о некоторых видах обычного оружия с громоздким названием рассмотрит, начинать ли переговоры о регулировании роботов-убийц.
Сторонники соглашения признают, что на пути стоят очень влиятельные силы, но указывают на прецедент: правительства уже договорились о регулировании ослепляющих лазеров.
Большинство стран поддерживают их ограничение. Установленный на этот год срок, который генеральный секретарь ООН Антониу Гутерриш обозначил для начала переговоров о регулировании, придал вопросу срочность, однако некоторые ведущие военные державы колеблются.
В прошлом месяце семь стран - Австрия, Бельгия, Бразилия, Ирландия, Мексика, Новая Зеландия и Панама - представили на конференции предложение о начале переговоров по новому юридически обязательному соглашению об автономных видах вооружений.
Различные стороны готовятся к дипломатическому противостоянию.
В пятницу президент Международного комитета Красного Креста Мирьяна Сполярич заявила в опубликованном заявлении: "Государства должны действовать, чтобы будущее войны не оказалось полностью в руках машин".
"Stop Killer Robots", правозащитная организация, заявляет, что 130 стран выступают за новые международные правила для этих систем вооружений.
Активисты начали размещать рекламу на улицах и в метро Берлина, Лондона и Парижа, подчеркивая общественную поддержку ограничений в отношении роботов-убийц.
Россия: переговоры об ограничениях "преждевременны"
В своей первой энциклике в мае (источник на английском языке) папа осудил "культуру власти", которая подпитывает гонку ИИ, особенно разработку все более сложных методов ведения войны на расстоянии, и заявил, что недопустимо поручать решения о жизни и смерти удаленным системам ИИ.
Согласно правилам конвенции решения должны приниматься на основе консенсуса. Это означает, что любая отдельная страна может сорвать соглашение, и любое достигнутое решение, скорее всего, будет основано на минимально приемлемом компромиссе. Еще одним спорным моментом является то, сколько времени может быть отведено переговорщикам, чтобы попытаться согласовать формулировки.
В преддверии конференции гуманитарные организации и группы активистов заявили, что Россия, судя по всему, готова прибегнуть к тактике, которая замедлит или даже остановит продвижение к началу формальных переговоров.
"Россия придает большое значение успешному исходу конференции и достижению взаимоприемлемых договоренностей, которые помогут укрепить Конвенцию о негуманном вооружении и способствовать ее универсализации", заявила в среду журналистам официальный представитель МИД России Мария Захарова.
По ее словам, Москва хочет, чтобы сначала были урегулированы "организационные вопросы" и чтобы процесс был "свободен от политизации".
И что особенно показательно, Захарова сказала: "Мы считаем преждевременным утверждать, что якобы настало время разрабатывать ограничительные или запретительные меры в отношении таких систем".