Крупнейшие разработчики ИИ призвали притормозить его развитие и поставить безопасность выше прибыли, что в понедельник давило на акции техкомпаний.
Акции японского инвестиционного конгломерата SoftBank Group, одного из ключевых инвесторов OpenAI, в понедельник упали более чем на 10 % вместе с бумагами других технологических компаний после того, как руководители ряда ведущих в мире разработчиков ИИ поддержали призывы ставить «осторожность выше скорости, а благоразумие — выше прибыли».
РЕКЛАМА
РЕКЛАМА
Эта формулировка прозвучала из уст гендиректора Anthropic Дарио Амодеи, который в субботу призвал компании в сфере ИИ «сдерживать гонку на переднем крае» через согласованное замедление разработки их самых продвинутых моделей, чтобы выиграть больше времени для понимания и управления рисками.
Одной из его главных тревог является так называемое «рекурсивное самоусовершенствование», при котором системы ИИ помогают создавать следующее поколение моделей.
«Если этот процесс пустить на самотёк, он может опередить нашу способность понимать и контролировать такие системы, поэтому к нему нужно подходить с крайней осторожностью — если вообще идти по этому пути», — написал Амодеи.
Гендиректор OpenAI Сэм Олтман и глава xAI Илон Маск публично поддержали его предупреждение; Маск заявил: «Дарио прав».
Олтман также сказал в интервью журналу Fortune, опубликованном в субботу, что OpenAI в этом году не будет проводить первичное размещение акций, поскольку компания сосредоточена на вопросах безопасности.
OpenAI и Anthropic остаются непубличными компаниями. По сообщениям, Anthropic готовится к возможному выходу на биржу в ближайшие месяцы.
Эти заявления прозвучали после ухода из Anthropic исследователя Джейкоба Коксона, который предупредил, что технология может выйти из‑под контроля человека.
Другой исследователь Anthropic, Эван Хубингер, который по-прежнему работает в компании, позже написал: «Мы действительно искренне считаем, что ИИ может убить всех людей!» По его словам, вероятность этого он оценивает более чем в 10 % в течение следующего десятилетия.
Президент США Дональд Трамп в воскресенье отверг эти предупреждения, назвав критиков ИИ «очень негативными силами» и заявив, что описываемые ими сценарии не произойдут. Спикер Палаты представителей Майк Джонсон также призвал не поддаваться панике.
Инвесторы, тем не менее, в понедельник распродавали технологические бумаги.
Падение SoftBank «вероятно, отражает риск того, что регуляторы могут притормозить развитие ИИ, пытаясь не допустить наихудших сценариев, о которых говорили в Anthropic и OpenAI», — отметил Дэн Бейкер из исследовательской компании Morningstar.
«И, возможно, оно также отражает вероятность того, что любые новые примеры утраты контроля над новейшими моделями ИИ тоже могут замедлить развитие отрасли», — добавил он.
Другие связанные с ИИ акции в Азии также пошли вниз. Южнокорейский производитель микросхем памяти SK Hynix подешевел на 5,3 %, Samsung Electronics — на 2,8 %. Японский производитель оборудования для чипов Tokyo Electron потерял 0,9 %, а выпускающая чипы памяти Kioxia Holdings просела на 6 %.
Гонка с Китаем
Амодеи также призвал ужесточить ограничения на доступ Китая к передовым чипам для ИИ и оборудованию для производства полупроводников, заявив, что именно чипы в значительной степени будут определять возможности страны в области ИИ.
При этом в интервью CBS News он признал, что «самая сложная дилемма» заключается в том, что Китай может не присоединиться к согласованному замедлению.
Подконтрольная китайскому государству газета Global Times назвала его позицию «близорукой» и обвинила его в попытке сдержать развитие Китая через «холодную войну в сфере ИИ». Тем временем председатель КНР Си Цзиньпин предложил создать зону открытого ИИ с открытым исходным кодом для стран БРИКС, чтобы углубить сотрудничество по моделям и их обучению.