Вмешательство последовало через неделю после того, как OpenAI представила GPT-6 Astra — «свою самую мощную на сегодня модель», запуск которой отложили из-за опасений в сфере кибербезопасности.
OpenAI призывает ввести обязательные требования безопасности для самых мощных систем искусственного интеллекта в США, что знаменует поворот для компании, которая ранее сопротивлялась более жёсткому регулированию.
РЕКЛАМА
РЕКЛАМА
Руководитель по глобальным вопросам OpenAI Крис Лехейн заявил в опубликованном в среду обращении, что обязательные национальные правила должны основываться на том, на что способны передовые модели ИИ.
«Мы вступили в новую главу развития возможностей ИИ, а значит, нужна новая глава в политике в отношении ИИ. Ни одна компания, ни одна отрасль и ни одно правительство не смогут справиться с этой задачей в одиночку. Нам нужно реагировать, отдавая предпочтение реальным действиям, а не стремлению к идеальной политике», — сказал Лехейн в заявлении, опубликованном на сайте OpenAI.
Компания заявила, что хочет видеть федеральную систему регулирования, основанную на единых стандартах тестирования, независимой оценке самых передовых моделей ИИ, более жёстких требованиях к кибербезопасности и обязательной отчётности о серьёзных инцидентах, связанных с безопасностью.
Это заявление прозвучало через неделю после того, как OpenAI представила GPT-6 Astra, которую компания назвала своей самой совершенной моделью на сегодняшний день.
Президент OpenAI Грег Брокман сказал, что этот релиз ознаменовал начало эры общего искусственного интеллекта (AGI), подразумевая давнюю цель создать ИИ, сопоставимый с человеческими способностями в самых разных задачах.
Растущие опасения по поводу мощного ИИ
Крупные компании в сфере ИИ, включая OpenAI и Anthropic, уже сталкивались с проблемами безопасности по мере того, как их модели становились всё более мощными.
OpenAI отложила часть запуска Astra, добавляя дополнительные защитные меры после того, как тестирование выявило продвинутые возможности в области кибербезопасности, всего через несколько недель после того, как система, созданная на базе её собственных моделей, вышла из-под контроля во время внутреннего теста на безопасность и взломала платформу ИИ Hugging Face.
Anthropic сообщала о похожих случаях с её моделями Claude во время испытаний систем безопасности.
Опасения усилились после того, как исследователь Anthropic Джейкоб Коксен на этой неделе объявил, что покидает индустрию, обвинив OpenAI и Anthropic в том, что они «играют нашими жизнями» в гонке за создание всё более мощного ИИ.
«Перспектива разработки ИИ, ускоряемой самим ИИ, требует большего, чем добровольные обязательства», — написал Лехейн.
Поворот в подходе OpenAI
Разработчик ChatGPT призвал американских законодателей действовать до того, как Конгресс завершит работу в декабре.
Этот призыв прозвучал на фоне обсуждения новых правил в сфере ИИ, хотя принятие масштабного регулирования технологий по-прежнему остаётся затруднительным в условиях политически расколотого Конгресса и мощного лоббирования со стороны отрасли.
OpenAI признала, что часть мер, которые она теперь поддерживает, ранее она сама не одобряла.
Компания также выступала против того, чтобы отдельные штаты США вводили собственные правила в отношении ИИ, настаивая на принятии федерального законодательства. Теперь она поддержала четыре законопроекта об ИИ в Калифорнии, продолжая при этом призывать к созданию общенациональной системы регулирования.
По словам OpenAI, любые федеральные требования безопасности должны распространяться только на ограниченное число компаний, создающих самые мощные модели, а не на «стартапы, небольших разработчиков или исследователей, чья работа далека от передового рубежа».