Генсек ООН Антониу Гутерриш заявил, что эта группа является «важным шагом к формированию глобального научного понимания ИИ».
На этой неделе ООН учредила глобальную научную комиссию из 40 экспертов, которая будет изучать риски, связанные с искусственным интеллектом (ИИ), несмотря на жёсткое сопротивление со стороны США. Решение принято на фоне предупреждений бывших сотрудников компаний в сфере ИИ, бьющих тревогу из-за этой технологии.
РЕКЛАМА
РЕКЛАМА
Генеральная Ассамблея ООН проголосовала 117 голосами против двух за утверждение комиссии; против высказались США и Парагвай, Тунис и Украина воздержались. Россия, Китай и европейские союзники поддержали решение.
Эксперты Независимой Международной научной комиссии по искусственному интеллекту (ИИ) будут ежегодно публиковать доклад, обобщающий и анализирующий риски, возможности и последствия применения ИИ в том, что в ООН называют «первым в мире научным органом такого рода».
Создание этой комиссии стало, по словам генерального секретаря ООН Антониу Гутерриша, «фундаментальным шагом к формированию глобального научного понимания ИИ».
«В мире, где развитие ИИ идёт опережающими темпами, — сказал Гутерриш, — эта комиссия даст то, чего до сих пор не хватало, — строгую, независимую научную оценку, которая позволит всем государствам, вне зависимости от их технологических возможностей, участвовать в обсуждении на равных».
Голосование в ООН состоялось на фоне демаршей сотрудников компаний по разработке искусственного интеллекта, обеспокоенных их практикой.
Бывший исследователь по вопросам безопасности в компании Anthropic Мринанк Шарма в открытом письме предупредил, что «мир в опасности» в связи с развитием ИИ и другими кризисами.
А бывший ведущий научный сотрудник OpenAI Зоэ Хитциг рассказала газете The New York Times, что у неё «серьёзные сомнения» по поводу стратегии, которую избрала её бывшая компания.
Некоторые из наиболее известных в мире специалистов по ИИ, такие как Дарио Амодей, глава Anthropic, руководитель OpenAI Сэм Олтман и сооснователь Apple Стив Возняк, также предупреждали о рисках, связанных с ИИ.
«Существенное превышение мандата ООН»
Сорок членов комиссии были отобраны из более чем 2600 кандидатов после независимой оценки, проведённой несколькими структурами ООН и Международным союзом электросвязи, сообщил Гутерриш. Срок их полномочий составит три года.
У Европы в комиссии 11 мест: Жоэль Барраль (Франция), Мелахат Билге Демиркоз (Турция), Анна Корхонен (Финляндия), Александра Королова (Латвия), Андрей Незнамов (Россия), Максимилиан Никель и Бернхард Шёлькопф (Германия), Роман Орус (Испания), Йоханна Пиркер (Австрия), Пётр Саньковский (Польша) и Сильвио Саварезе (Италия).
Представитель США Лорен Ловлейс назвала комиссию «существенным превышением мандата и компетенции ООН» и заявила, что «регулирование ИИ — это не та сфера, в которой ООН должна диктовать условия».
Ловлейс призвала ООН сосредоточиться на своих «основных миссиях», таких как поддержание международного мира и безопасности, защита прав человека и гуманитарная помощь, вместо того чтобы «пытаться регулировать или подавлять развитие сквозных... технологий, которые будут определять экономическую и стратегическую конкуренцию в XXI веке».
Президент США Дональд Трамп выступает за минимальное регулирование ИИ, стремясь сократить федеральную бюрократию и избежать «лоскутного одеяла» законов штатов, которые могли бы замедлить инновации. США и Китай считаются идущими ноздря в ноздрю в гонке по внедрению ИИ.
Несмотря на возражения США, у страны по-прежнему два представителя в комиссии: профессор Университета Миннесоты Випин Кумар и Марта Палмер, вышедшая на пенсию профессор Университета Колорадо и специалист по лингвистике.