Десятки выдающихся ученых опубликовали открытое письмо, предупреждающее общественность об опасности автономного оружия, создание которого стало
РЕКЛАМАДесятки выдающихся ученых опубликовали открытое письмо, предупреждающее общественность об опасности автономного оружия, создание которого стало возможным в связи с прогрессом в области робототехники и искусственного интеллекта.
Вы можете прочитать письмо здесь
Они призывают запретить разработку “роботов-убийц”, иначе, как указывается в обращении, неизбежна новая гонка вооружений, которая не пойдет на пользу человечеству.
Письмо подписали сотни других ученых, исследователей и экспертов, среди которых – Стивен Хокинг, Ноам Хомский, Илон Маск и другие. Они предупреждают, что “роботам-убийцам” даже не потребуется разрешение человека, чтобы принять решение о том, на кого напасть и кого убить: “Технология искусственного интеллекта достигла той точки, когда вопрос появления автономного оружия с искусственным интеллектом становится делом ближайших лет – даже не десятилетий”. “Ставки высоки, – говорится в обращении. – Так как автономные виды вооружений представляют собой третью революцию в военной области после изобретения пороха и ядерного оружия”.
В письме также перечисляется короткий список преимуществ оружия, наделенного искусственным разумом, в том числе – возможность сократить число человеческих жертв на поле боя, и длинный список недостатков, среди которых – относительно дешевое массовое производство, снижение порога вступления в войну, легая возможность оказаться на “черном” рынке и, как следствие, – в руках диктаторов, террористов, военных фанатиков и так далее.
“Если не принять никаких мер, автономное оружие завтра станет столь же распространенным, как автомат Калашникова сегодня”, – утверждают авторы обращения.
При этом ученые не призывают полностью запретить разработки технологий искусственного разума для оборонной промышленности: “Искусственному интеллекту можно найти множество применений, которые позволят сделать поле боя более безопасным для человека, в первую очередь – для гражданского населения, не создавая при этом новых инструментов для убийства людей”.
Тем не менее, не все ученые-робототехники с этим согласны. Австралиец Родни Брукс настаивает, что искусственный инструмент – это инструмент, а не угроза.
Брукс, основавший стартап RethinkRobotics, пишет: “Я думаю, будет ошибкой опасаться злобности искусственного интеллекта в ближайшие лет сто. Думаю, что эти беспокойства связаны с фундаментальной ошибкой неразличения разницы между весьма реальными последними достижениями в конкретном аспекте искусственного интеллекта и масштабностью и сложностью задачи строительства разумного волевого интеллекта”.
Австралийский ученый называет эти опасения простым страхом перед слухами и огромной тратой времени. “Давайте улучшать искусственный интеллект и делать его умнее”, – призывает Брукс.