Глава Anthropic Дарио Амодеи предупреждает: ИИ может уничтожить человечество; глава Nvidia Дженсен Хуан называет это чепухой. Знакомьтесь с ключевыми фигурами самой ожесточённой технологической дискуссии в мире.
Ожесточённые споры вокруг искусственного интеллекта уже разделили участников на враждующие лагеря, а посередине застряли сторонники более осторожного подхода.
РЕКЛАМА
РЕКЛАМА
Вот как сегодня выглядят линии фронта в борьбе за технологию, которая стала опорой экономики и способна решить, каким будет будущее планеты.
Оба термина возникли не из академического употребления, а из интернет-дискуссий об ИИ в X и на форумах, заимствуя жаргонные привычки техно- и криптосообществ, где любят придумывать краткие названия для противоборствующих лагерей.
«Doomer» описывает тех, кто предсказывает катастрофу, тогда как «booster», нередко используемый как синоним «accelerationist», обозначает сторонников стремительного и ничем не сдерживаемого развития ИИ.
Думеры
Страх перед опасными последствиями технологий для общества имеет давнюю историю.
OpenAI отчасти создавалась потому, что её инвесторы, включая первого вкладчика Илона Маска, опасались: развитие ИИ окажется в руках Google, которой, по их мнению, нельзя доверять такую технологию.
Сегодня большинство тех, кто предупреждает об угрозах искусственного интеллекта, приходит либо из самих компаний, либо из академической среды, либо совмещает обе роли.
Лучше всего позицию «внутри отрасли» олицетворяет Дарио Амодеи, сооснователь Anthropic — сейчас одного из крупнейших игроков на рынке ИИ, готовящегося к историческому первичному размещению акций.
Он ушёл из OpenAI, потому что считал: компания под руководством Сэма Олтмана относится к потенциалу и рискам технологии недостаточно серьёзно.
Критики называют его позицию лицемерной: ведь и его компания выпускает самые передовые продукты.
Бывший исследователь Google Джеффри Хинтон и его коллега, учёный-компьютерщик Йошуа Бенджио возглавили волну предупреждений об угрозах ИИ в месяцы после выхода ChatGPT в 2022 году, который и спровоцировал нынешнюю «лихорадку ИИ».
Физик из MIT Макс Тегмарк, возглавляющий институт Future of Life, организовал открытое письмо 2023 года с призывом к шестимесячной паузе в разработке самых продвинутых систем ИИ; под ним подписались тысячи человек, включая Маска.
Ещё дальше от индустрии стоит Элиезер Юдковски, самоучка-теоретик, который уже два десятилетия утверждает, что достаточно мощный ИИ уничтожит человечество.
Строить, строить, строить
Диаметрально противоположную позицию занимают акселерационисты — те, кто верит в прогресс технологий, в его неизбежность и фундаментальную пользу для общества, а заодно зарабатывает состояние на их успехе.
Такой подход широко распространён в Силиконовой долине, но ярче всего его выражают венчурные инвесторы, имеющие серьёзное влияние на Белый дом, такие как Марк Андреессен, влиятельный глава венчурного фонда Andreessen Horowitz, и Дэвид Сакс, бывший координатор политики Белого дома по вопросам ИИ.
Лично и идейно близкие технологическому предпринимателю Питеру Тилю, они в принципе выступают против регулирования и ведут закулисную борьбу, а также кампании в X против того, что называют хорошо финансируемым «культом апокалипсиса».
Они обвиняют думеров в том, что те прикрывают интересы компаний, стремящихся с помощью регулирования задавить конкурентов.
Гарри Тан, возглавляющий стартап-инкубатор Y Combinator, — один из самых громких голосов этого лагеря: он считает регулирование под предлогом безопасности угрозой для небольших компаний, которые не могут позволить себе его издержки.
Андреессен и его союзники щедро финансируют политические комитеты, перечисляющие средства республиканским и демократическим законодателям, выступающим за рост индустрии ИИ. Anthropic, в свою очередь, возглавила усилия по созданию сопоставимого по масштабу лобби через собственные сборы средств.
К лагерю сторонников ускорения относится и глава Nvidia Дженсен Хуан: чипы его компании стали основным строительным материалом ИИ-революции и устанавливаются в гигантских дата-центрах, против которых всё чаще выступают жители по всей территории США.
Хуан называет разговоры о вымирании человечества из-за ИИ «полной чепухой», хотя и расходится с частью акселерационистов, выступая за единую федеральную нормативную рамку по ИИ и отраслевую систему экспертной оценки вместо полного отсутствия регулирования.
Отдельно стоит упомянуть Янна Лекуна, который вместе с Хинтоном и Бенджио получил премию Тьюринга и многие годы отмахивается от их предупреждений об экзистенциальной угрозе как от преувеличений.
Осторожно, но вперёд
Многие крупные технологические компании стараются действовать осмотрительно — в духе корпораций, которые не хотят оказаться на неверной стороне политического конфликта.
Когда OpenAI создавалась в 2015 году, её структура была выстроена так, чтобы последнее слово в вопросах внедрения технологий оставалось за исследователями, а не инвесторами, а основным принципом была безопасность для человечества.
Однако при Олтмане, который в 2023 году пережил попытку смещения со стороны коллег, ориентированных на безопасность, компания заняла более сложную позицию: она говорит об угрозах ИИ, но при этом ускоряет разработки и выстраивает всё более тесные отношения с Белым домом, не склонным к серьёзным ограничениям.
Google, Microsoft и Amazon давно научились рассуждать о безопасности технологий и одновременно успешно выстраивать отношения в Вашингтоне так, чтобы регулирование сводилось к минимуму.
В сфере ИИ им по-прежнему приходится балансировать на этой тонкой грани.