Может ли искусственный интеллект уничтожить человечество?

Тель-Авив
Тель-Авив Авторское право AFP
By Sophia Khatsenkova
Поделиться статьейКомментарии
Поделиться статьейClose Button
Скопировать линк для интеграции видеоCopy to clipboardCopied

С открытием доступа к ChatGPT появилась целая серия публикаций об опасности новых технологий для человечества. Может искусственный интеллект положить конец нашей истории?

РЕКЛАМА

Базирующаяся в Брюсселе группа под названием PauseAI считает, что ИИ опасен. Активисты пытаются убедить Европейский союз остановить развертывание более мощных систем искусственного интеллекта.

За последние несколько месяцев новые инструменты, такие как ChatGPT, вызвали опасения, что ИИ лишит работы миллионы людей или будет распространять дезинформацию, особенно во время выборов.

По словам основателя PauseAI, эти мощные системы очень скоро смогут перехитрить и даже манипулировать людьми. И если люди попытаются вмешаться или отключить их, эти технологии могут оказать сопротивление.

Со временем компании будут готовы дать системам ИИ больше самостоятельности и подключить их к жизненно важной инфраструктуре, например, энергосетям, или дать доступ к вооружениям. Вот почему основатель группы PauseAI также просит ЕС провести международный саммит по этому вопросу.

Первое, что нужно сделать, это призвать какое-нибудь правительство выступить, организовать саммит и ввести мораторий, приостановить развитие этих опасных систем. И это надо делать на международном уровне, потому что если вы сделаете это на национальном уровне, будет много аргументов против этого. Страны конкурируют так же, как компании. Мы не можем просто вежливо попросить компании прекратить развитие ИИ, потому что на них оказывается сильное конкурентное давление. И то же самое происходит и на национальном уровне. Поэтому нам нужно сделать это на международном уровне. Вот почему нам нужно провести этот саммит.
Йуп Мейндертсма
основатель PauseAI

PauseAI не единственные, кто бьет тревогу по этому поводу. В июне премьер-министр Великобритании Риши Сунак стал одним из первых мировых лидеров, признавших потенциальную «экзистенциальную» угрозу разработки «сверхразумного» ИИ без соответствующих мер предосторожности.

Недавно сотни исследователей и руководителей технологических компаний подписали открытое письмо с предупреждением о том, что ИИ может однажды уничтожить человечество.

Но некоторые утверждают, что ИИ всё ещё слишком недоразвит, чтобы представлять экзистенциальную угрозу, и что краткосрочные проблемы, такие как предвзятость и ошибки в ответах, должны вызывать сейчас наибольшее беспокойство. Сэм Альтман, генеральный директор OpenAI, разработавшей ChatGPT, сказал, что, хотя искусственный интеллект может быть полезен для людей, регулировать ИИ необходимо.

Поделиться статьейКомментарии

Также по теме

Глава Microsoft не видит в ИИ угрозы человечеству

Байден рассматривает просьбу Австралии о закрытии дела Ассанжа

Каждому продукту - по цифровому паспорту. В чем смысл глобального проекта ЕС?