Пока Дональд Трамп отверг глобальные усилия по контролю ИИ, а генсек ООН Антониу Гутерриш предупреждал об опасности передачи машинам права решать, кому жить и умереть, другие лидеры призывали к международному сотрудничеству в управлении этой технологией.
Во вторник на заседании ООН президент США Дональд Трамп и генеральный секретарь организации Антониу Гутерриш представили диаметрально противоположные взгляды на то, как миру следует обращаться с искусственным интеллектом.
РЕКЛАМА
РЕКЛАМА
Опираясь на новый научный доклад ООН, предупреждающий о пусть и небольшой, но реальной угрозе катастрофического и необратимого ущерба, Гутерриш открыл серию выступлений мировых лидеров на Генеральной Ассамблее призывом ужесточить контроль над ИИ, живо, хотя и мрачно, описывая, что может пойти не так.
«Давайте договоримся, что решения о жизни и смерти никогда не будут переданы машинам. Убийственным роботам не место в нашем будущем», – заявил генсек ООН в своем прощальном обращении к мировым лидерам. О рисках ИИ он предупреждал и в своем первом выступлении на Генассамблее десять лет назад.
Подчеркнув, что миру необходимо «обеспечить условия для ответственного развития ИИ и дополнительные гарантии для снижения рисков», Гутерриш анонсировал заседание Совета Безопасности, которое пройдет в среду и будет посвящено выработке механизмов контроля над этой технологией с участием ведущих фигур отрасли.
Это не искусственный, а "супер", утверждает Трамп
Менее чем через час Трамп решительно отверг такие подходы.
«Соединенные Штаты также полностью отвергают любые попытки навязать глобалистскую схему контроля над тем самым искусственным интеллектом, о котором сейчас так много говорят. Отныне здесь его официально будут называть суперинтеллектом – меняем название», – заявил он.
Однако лидеры, выступавшие после Трампа, продолжали говорить об «искусственном интеллекте», а не о «суперинтеллекте».
«Любая крупная новая технология приносит вызовы, и суперинтеллект не исключение, – продолжил Трамп. – Но это говорят ровно те люди, которые обещали, что мы все вымрем через 12 лет из-за глобального потепления, которое затем переименовали в изменение климата, потому что планета якобы остывала, а не нагревалась, и никто так и не умер».
«И именно эти же люди теперь утверждают, что ИИ нас всех погубит, что роботы нападут на нас и что все закончится полным крахом».
Действовать осторожно, но сотрудничать, призывают другие
Проблема в том, что и Трамп, и Гутерриш сводят обсуждение к крайностям, что не помогает делу, считает заведующий кафедрой информатики Чикагского университета Генри Хоффман.
«Один превращает все в научно-фантастический фильм, другой делает вид, будто проблемы не существует», – написал Хоффман в электронном письме.
«Оба подталкивают людей выбирать "свою команду", вместо того чтобы разбираться в реальных рисках и возможных способах их снижения. Не должно быть "сторон" в вопросе о том, нужен ли нам адекватный контроль над мощными автономными системами. Настоящая дискуссия должна идти о том, какие именно механизмы способны этот контроль обеспечить».
Другие страны стремятся не отстать в гонке ИИ между США и Китаем, в которой, по словам Трампа, побеждает Америка. Президент Франции Эмманюэль Макрон и Гутерриш сделали акцент на защите детей.
«Не будем ждать, пока на нас обрушатся последствия развития ИИ, – заявил Макрон. – Мы должны действовать уже сейчас, чтобы защитить наших детей и молодежь».
Президент Финляндии Александр Стубб отметил, что ИИ изменит мир, возможно в лучшую сторону, но при этом требует жестких ограничителей.
«Искусственный интеллект – самая значимая технология за всю историю человечества. Он повлияет на науку, экономику, политику, безопасность и на саму сущность нашей человечности», – сказал Стубб.
«Люди могут и должны оставаться за рулем. У нас есть выбор: конкурировать, сотрудничать или притормозить. Для меня лучший путь вперед – сотрудничество».
Премьер-министр Великобритании Энди Бёрнхэм на встрече с представителями бизнеса на полях Генассамблеи ООН заявил, что хотел бы видеть "единый набор глобальных принципов и стандартов", который позволит раскрыть потенциал ИИ и одновременно снизить связанные с ним риски.
По его словам, выработка концепции "ИИ во благо" станет главным приоритетом председательства Великобритании в "двадцатке" в следующем году.
На заседании Совбеза ООН по ИИ в среду выступят как создатели передовых систем искусственного интеллекта, так и те, кто в последнее время громче всего предупреждает о необходимости ограничителей.
С докладами выступят генеральный директор OpenAI Сэм Альтман, затем глава Anthropic Дарио Амодей и, наконец, сооснователь и гендиректор платформы Hugging Face Клеман Деланг, чья компания стала жертвой взлома со стороны вышедшей из-под контроля программы OpenAI.