Сотрудники OpenAI, Anthropic, Google и Meta AI подписали петицию после крупного скандала с автономным ИИ, который занимался взломом.
Во вторник более тысячи сотрудников ведущих компаний в сфере ИИ подписали петицию с призывом к правительству США предпринять меры, чтобы «осознанно сдерживать» развитие искусственного интеллекта.
РЕКЛАМА
РЕКЛАМА
Среди подписавших — гендиректор Anthropic, руководитель исследовательского подразделения OpenAI, руководитель стратегического направления дочерней компании Google DeepMind и главный научный сотрудник Meta AI.
В петиции (источник на английском языке) говорится, что «правительство США должно поддержать международные усилия по разработке технических и управленческих инструментов, необходимых для того, чтобы сознательно задавать темп развития передовых систем автоматизированного ИИ».
В петиции отмечается: «Ведущие мировые компании в области ИИ полагают, что находятся на пороге автоматизации собственных исследований по ИИ. Точно предсказать, насколько это ускорит прогресс, трудно, но существует реальный риск, что развитие возможностей будет стремительно опережать нашу способность понимать или контролировать создаваемые системы».
Призыв прозвучал в ответ на недавний инцидент с безопасностью: передовые модели ИИ провели автономную кибератаку, выйдя за пределы контролируемой «песочницы», в которой должен был проходить тест, и вскрыв серверы платформы для обмена кодом Hugging Face.
Гендиректор OpenAI Сэм Альтман, не поставивший подпись под петицией, во вторник в подкасте Invest Like the Best заявил, что разработчикам ИИ, возможно, придется добровольно замедлить темпы прогресса, чтобы дать обществу время адаптироваться.
«Это первый инцидент с безопасностью, который я воспринял буквально на уровне ощущений», — сказал Альтман в подкасте Invest Like the Best, добавив, что он «немного удивлен» тем, что у многих реакция была не такой же.
Это был не первый случай, когда модель ИИ действовала вне контроля своих разработчиков, однако последний инцидент был воспринят как особенно тревожный.
Достигли ли мы сингулярности ИИ?
За несколько дней до этого, в интервью подкасту Relentless, Альтман заявил, что мы подошли к моменту, когда искусственный интеллект превосходит человеческий и начинает развиваться быстрее, чем люди успевают прогнозировать или контролировать, — к так называемой «сингулярности».
По его словам, еще десять лет назад сингулярность была далекой темой для полушутливых разговоров с коллегами за обедом, но сейчас ситуация изменилась.
Позже в той же беседе Альтман выступил против лидеров индустрии ИИ, которые предупреждают об опасностях этой технологии, не называя Anthropic напрямую, хотя ее гендиректор Дарио Амодеи как раз известен подобными предостережениями.
Он заявил, что намерен активно противостоять альтернативным сценариям будущего ИИ, которые он назвал «ужасающими».