Вмешательство последовало через неделю после того, как OpenAI выпустила GPT-6 Astra, «свою самую мощную на сегодняшний день модель», ранее задержанную из-за опасений по кибербезопасности.
OpenAI призывает ввести обязательные требования безопасности в отношении самых мощных систем искусственного интеллекта в США, что знаменует собой разворот для компании, которая ранее выступала против ужесточения регулирования.
РЕКЛАМА
РЕКЛАМА
Директор OpenAI по глобальным вопросам Крис Лехан заявил в опубликованном в среду заявлении, что обязательные общенациональные правила должны основываться на том, на что способны передовые модели ИИ.
«Мы вступили в новую главу развития возможностей ИИ, и это требует новой главы в политике в области ИИ. Ни одна компания, ни одна отрасль и ни одно правительство не справятся с этим вызовом в одиночку. Нам нужно встретить этот момент, отдавая приоритет осмысленным действиям, а не стремлению к идеальной политике», – говорится в заявлении Лехана, опубликованном на сайте OpenAI.
Компания заявила, что выступает за создание федеральной системы, основанной на общих стандартах тестирования, независимой оценке самых передовых моделей ИИ, более строгих требованиях к кибербезопасности и обязательной отчетности о серьезных инцидентах, связанных с безопасностью.
Это заявление прозвучало спустя неделю после того, как OpenAI представила GPT-6 Astra, который компания назвала своей самой мощной моделью на сегодняшний день.
Президент OpenAI Грег Брокман заявил, что этот релиз ознаменовал начало эры искусственного общего интеллекта (AGI), имея в виду давнюю цель создать ИИ, сопоставимый с человеком по широте и уровню выполняемых задач.
Растущие опасения по поводу мощного ИИ
Крупнейшие компании в сфере ИИ, включая OpenAI и Anthropic, уже столкнулись с тревогами по поводу безопасности по мере того, как их модели становятся все более мощными.
OpenAI отложила часть запуска Astra, одновременно добавляя дополнительные защитные меры, после того как тестирование выявило у системы продвинутые возможности в области кибербезопасности. Это произошло спустя несколько недель после того, как система, созданная на основе собственных моделей компании, во время внутреннего испытания вышла из‑под контроля и взломала платформу ИИ Hugging Face.
Anthropic сообщила о похожих случаях с ее моделями Claude в ходе проверки безопасности.
Опасения усилились после того, как исследователь Anthropic Джейкоб Коксон на этой неделе объявил, что уходит из отрасли, обвинив OpenAI и Anthropic в том, что они «играют нашими жизнями» в гонке за создание все более мощного ИИ.
«Перспектива того, что развитие ИИ будет ускоряться самим ИИ, требует большего, чем добровольные обязательства», – написал Лехан.
Поворот в подходе OpenAI
Создатель ChatGPT призвал законодателей США действовать до того, как Конгресс завершит свою сессию в декабре.
Призыв прозвучал на фоне того, что парламентарии обсуждают новые правила для ИИ, хотя принятие масштабного регулирования технологий по‑прежнему затруднено из‑за политической поляризации в Конгрессе и мощного давления со стороны отрасли.
OpenAI признала, что часть мер, которые она сейчас поддерживает, ранее она отказывалась одобрять.
Компания также выступала против того, чтобы отдельные штаты США разрабатывали собственные правила в сфере ИИ, настаивая на необходимости федерального законодательства. Теперь она поддержала четыре законопроекта об ИИ в Калифорнии, продолжая при этом добиваться общенациональной системы регулирования.
По словам OpenAI, любые федеральные требования безопасности должны распространяться только на узкий круг компаний, разрабатывающих самые мощные модели, а не на «стартапы, небольших разработчиков или исследователей, работающих далеко от переднего края».