"Серьезный риск для человечества": эксперты призывают сделать "паузу" в развитии передового ИИ

Открытое письмо с призывом "взять паузу" подписали многие лидеры технологического сектора
Открытое письмо с призывом "взять паузу" подписали многие лидеры технологического сектора Авторское право Canva
By Euronews
Поделиться статьейКомментарии
Поделиться статьейClose Button

Развитие систем искусственного интеллекта вызывает все большую обеспокоенность - известные предприниматели и ученые призвали приостановить их разработку

РЕКЛАМА

Известные предприниматели и ученые предупреждают, что системы искусственного интеллекта (ИИ) "представляют собой серьезный риск для общества и человечества", и призывают компании затормозить дальнейшее развитие технологии.

Генеральный директор Twitter Илон Маск и соучредитель Apple Стив Возняк - одни из многих известных людей, подписавших открытое письмо, в котором просят лаборатории искусственного интеллекта немедленно прекратить разработки, по крайней мере, на шесть месяцев.

В письме, опубликованном на сайте Института будущего жизни, утверждается, что лаборатории ИИ "втянуты в неконтролируемую гонку по разработке и внедрению все более мощных цифровых разумов, которые никто - даже их создатели - не может понять, предсказать или надежно контролировать".

Они призвали приостановить обучение любых систем ИИ, более мощных, чем GPT-4, новейшей большой языковой модели (LLM) компании OpenAI, которая лежит в основе ее крайне популярного чатбота ChatGPT.

Письмо, опубликованное в среду, совпало по времени с выходом отдельного доклада компании Goldman Sachs, в котором содержится оценка о том, что 300 миллионов рабочих мест с полной занятостью могут быть подвержены воздействию генеративного ИИ во всем мире.

Взрыв интереса к ИИ, вызванный появлением ChatGPT и генератора изображений DALL-E, также вызвал множество вопросов об этике и влиянии новых мощных инструментов.

Даже Сэм Альтман, генеральный директор компании OpenAI, создавшей ChatGPT, неоднократно поднимал тревогу по поводу внезапного роста ИИ, недавно заявив, что мир, возможно, "не так уж далек от потенциально страшных" инструментов ИИ.

В ответ на это предупреждение некоторые эксперты по ИИ заявили Euronews Next, что мы сейчас живем в "антиутопическом настоящем" благодаря распространению ИИ.

Так, Сара Майерс Вест, управляющий директор AI Now Institute, считает, что сегодня "во многих смыслах мы уже там", а системы ИИ усугубляют "давно существующие модели неравенства", особенно в таких областях, как трудоустройство и образование.

Открытое письмо, опубликованное 28 марта, на момент публикации этой статьи подписали 1 123 человека, включая историка Юваля Ноя Харари и лауреата премии Тьюринга Йошуа Бенжио.

В документе говорится, что ИИ может в скором времени глубоко изменить траекторию жизни на Земле, и его "следует планировать и управлять им с соответствующим вниманием и ресурсами", чего, по мнению авторов, не происходит.

Предупреждая, что машины могут "наводнить наши информационные каналы пропагандой" или отнять "все рабочие места", сделав людей "устаревшими", авторы задаются вопросом: "Должны ли мы рисковать потерей контроля над нашей цивилизацией?"

Они также призывают к надзору, чтобы эти решения не оставались в руках технологических лидеров.

Этот надзор должен включать в себя общие протоколы безопасности, которые контролируются независимыми экспертами.

Разработчики ИИ также должны сотрудничать с политиками, чтобы "значительно ускорить создание надежных систем управления ИИ", добавляют они.

"300 миллионов рабочих мест под угрозой"

Меморандум многонационального инвестиционного банка Goldman Sachs тем временем раскрывает масштабное экономическое воздействие ИИ.

По мнению исследовательской группы банка, ИИ может взять на себя до четверти всей текущей работы, что приведет к автоматизации 300 миллионов рабочих мест с полной занятостью.

Хорошей новостью, согласно докладу, является то, что "вытеснение работников в результате автоматизации исторически компенсируется созданием новых рабочих мест, а появление новых профессий в результате технологических инноваций составляет подавляющее большинство долгосрочного роста занятости".

РЕКЛАМА

Экономия затрат на рабочую силу и повышение производительности труда для работников, не вытесняемых с рабочих мест, может означать "бум производительности, который существенно повысит экономический рост", отмечается в докладе.

По оценкам экспертов финансовой организации, повышение производительности труда в мире может увеличить годовой мировой ВВП на 7 процентов.

Поделиться статьейКомментарии

Также по теме

ИИ с открытым и закрытым исходным кодом: в чем разница и почему это важно?

Apple призвала не класть промокший iPhone в рис

Почему основателю WikiLeaks Джулиану Ассанжу грозит экстрадиция в США?