Что изменилось почти за десятилетие существования миссии OpenAI? Мы разбираемся в новом документе компании с изложением ее «принципов».
OpenAI сегодня уделяет меньше внимания созданию универсального искусственного интеллекта (AGI), чем почти десять лет назад, и вместо этого делает ставку на максимально широкое внедрение своих технологий, следует из нового заявления о миссии компании.
РЕКЛАМА
РЕКЛАМА
В воскресенье OpenAI опубликовала обновлённую версию документа «Наши принципы», в котором описано, как компания намерена развивать и использовать свои технологии в будущем.
Между новым набором принципов и тем, что компания ставила во главу угла почти десять лет назад, когда OpenAI ещё была зарождающейся некоммерческой исследовательской организацией в области искусственного интеллекта, есть заметные различия.
Снижение акцента на универсальном искусственном интеллекте
В 2018 (источник на английском языке) году OpenAI жёстко концентрировалась на создании универсального сверхразумного ИИ (AGI) — системы, которая превзойдёт человеческий интеллект, но теперь эта цель стала лишь частью более широкой стратегии по развёртыванию ИИ.
В обеих версиях говорится, что миссия OpenAI — сделать так, чтобы эта технология «приносила пользу всему человечеству», однако в документе 2018 года отдельно подчёркивается необходимость её безопасной и благоприятной разработки.
«Наша главная фидуциарная обязанность — перед человечеством, — говорится в документе. — Мы понимаем, что для выполнения нашей миссии нам потребуются значительные ресурсы, но всегда будем тщательно минимизировать конфликты интересов между сотрудниками и стейкхолдерами, которые могли бы помешать достижению всеобщей пользы».
В 2026 году (источник на английском языке), напротив, говорится, что OpenAI по‑прежнему должна создавать безопасные системы, но при этом обществу предстоит иметь дело «с каждым последующим уровнем возможностей ИИ, осмыслить его, интегрировать и совместно определить наилучший путь вперёд».
По мнению гендиректора и сооснователя компании Сэма Олтмена, путь вперёд в 2026 году заключается в том, чтобы демократизировать ИИ на всех уровнях, обеспечив доступ к нему как можно более широкому кругу людей и не допустить, чтобы эта технология «сконцентрировала власть в руках немногих».
В документе 2026 года также говорится, что OpenAI намерена сотрудничать с правительствами, международными структурами и другими инициативами в области AGI, чтобы «достаточно решить серьёзные проблемы согласования целей, безопасности и воздействия на общество, прежде чем двигаться дальше» в своей работе.
В качестве примеров такого подхода приводятся, в частности, использование ChatGPT для противодействия моделям, способным создавать новые патогены, или внедрение устойчивых к кибератакам систем в критически важную инфраструктуру.
О причинах снижения акцента на AGI Олтмен частично рассказал в личном блоге в начале месяца.
AGI, по его словам, обладает своего рода «кольцом всевластия», которое «заставляет людей творить безумства». Противостоять этому, считает Олтмен, можно только одним способом — «нацелившись на максимально широкое распространение технологии среди людей, чтобы кольцо не оказалось ни у кого одного».
OpenAI больше не откажется от гонки в пользу «более безопасного» проекта
В 2018 году OpenAI заявляла, что её тревожит превращение разработки AGI в «соревнование, в котором не остаётся времени на достаточные меры безопасности».
Компания обещала при необходимости остановить развитие собственных моделей и помочь любому проекту, который «разделяет её ценности и серьёзно относится к вопросам безопасности» и тем самым продвигается ближе к созданию AGI.
«Конкретные механизмы мы ещё проработаем… но типичным основанием для такого шага может стать “более чем 50‑процентная вероятность успеха в ближайшие два года”», — говорилось в документе 2018 года.
В документе 2026 года о готовности отойти в сторону ради «более высокой цели» уже не сказано. Напротив, в нём признаётся, что OpenAI «сегодня играет в мире гораздо более значимую роль, чем несколько лет назад», и даётся обещание открыто сообщать, когда и каким образом её операционные принципы могут меняться.
Компания ведёт жёсткую конкуренцию с несколькими игроками рынка, в том числе с Anthropic.
В феврале Anthropic отказалась предоставить администрации президента США Дональда Трампа неограниченный доступ к своим ИИ‑системам для военных нужд. После этого компанию признали риском для цепочек поставок и в марте предписали федеральным ведомствам прекратить использование её цифрового ассистента Claude.
28 февраля этот вакуум заполнила OpenAI, подписав соглашение с Министерством войны. На этом фоне часть пользователей объявила бойкот ChatGPT, переключившись на Claude.
В этом же месяце капитализацию Anthropic оценили в 800 млрд долларов (696 млрд евро), то есть примерно на уровне OpenAI.
Размытые обращения ко всему обществу
В документе 2026 года OpenAI призывает к ряду общественных преобразований, чтобы миру было проще адаптироваться к ИИ.
«Мы видим будущее, в котором процветание станет по‑настоящему всеобщим — в масштабах, которые сегодня сложно даже представить, — говорится в документе. — Многие вещи, о которых мы пока лишь читаем в научной фантастике, могут стать реальностью, а большинство людей смогут жить гораздо более осмысленной жизнью, чем сейчас».
Однако такое будущее не предопределено, подчёркивается в документе: ИИ может либо «оказаться в руках небольшого числа компаний, использующих и контролирующих суперинтеллект», либо «быть распределён по‑децентрализованному принципу между людьми».
В «Принципах» повторяются и некоторые недавние политические предложения OpenAI — в частности, призыв к правительствам задуматься о «новых экономических моделях» и инвестировать в технологии, которые позволят снизить стоимость инфраструктуры для ИИ.
«Многие наши действия, которые со стороны выглядят странно — например, закупка колоссальных объёмов вычислительных мощностей при относительно скромной выручке, — продиктованы нашей базовой верой в будущее всеобщего благосостояния», — говорится в документе.