Что изменилось почти за десятилетие существования OpenAI и ее миссии? Разбираем новый программный документ компании с изложением ее базовых принципов.
OpenAI сейчас меньше озабочена разработкой универсального искусственного интеллекта (AGI), чем почти десять лет назад, и вместо этого делает ставку на более широкое внедрение своих технологий, следует из обновлённой миссии компании.
РЕКЛАМА
РЕКЛАМА
В воскресенье OpenAI опубликовала обновлённую версию документа «Наши принципы», в котором описывается, как компания намерена развивать и использовать свои технологии в будущем.
В новом наборе принципов есть важные отличия от того, что компания ставила во главу угла почти десять лет назад, когда OpenAI была ещё молодой некоммерческой исследовательской организацией в сфере ИИ.
Универсальный ИИ больше не в центре внимания
В 2018 году (источник на английском языке) OpenAI была жёстко сосредоточена на создании сверхмощного универсального искусственного интеллекта (AGI), то есть систем, способных превзойти человеческий разум, но теперь AGI рассматривается лишь как часть более широкого развёртывания технологий ИИ компанией.
В обеих версиях принципов говорится, что миссия OpenAI — гарантировать, чтобы эти технологии «приносили пользу всему человечеству», однако в редакции 2018 года отдельно подчёркивается необходимость создавать их безопасно и во благо.
«Наша основная фидуциарная обязанность — перед человечеством, — говорится в документе. — Мы предполагаем, что нам придётся привлечь значительные ресурсы для выполнения нашей миссии, но при этом мы всегда будем тщательно минимизировать конфликты интересов между сотрудниками и стейкхолдерами, которые могли бы подорвать принцип максимальной общественной пользы».
Версия 2026 года (источник на английском языке), напротив, говорит о необходимости и дальше создавать безопасные системы, но одновременно подчёркивает, что обществу придётся иметь дело «с каждым последующим уровнем возможностей ИИ: понимать его, интегрировать и совместно искать наилучший путь вперёд».
Как видит путь вперёд сооснователь и гендиректор компании Сэм Альтман, в 2026 году задача состоит в том, чтобы демократизировать ИИ на всех уровнях, обеспечив к нему доступ каждому и не допустив, чтобы эта технология «сконцентрировала власть в руках немногих».
В документе о принципах 2026 года также говорится, что OpenAI рассчитывает сотрудничать с правительствами, международными организациями и другими инициативами в области AGI, чтобы «достаточно решить серьёзные проблемы согласования, безопасности или общественного характера перед тем, как двигаться дальше» в своей работе.
В качестве примеров приводятся, в частности, использование ChatGPT для противодействия моделям, способным создавать новые патогены, или внедрение киберустойчивых моделей в критически важную инфраструктуру.
Некоторые намёки на то, почему OpenAI отходит от риторики AGI, Альтман дал в своём личном блоге в начале месяца.
AGI, по его словам, окружён аурой «кольца всевластия», которая «заставляет людей делать безумные вещи». Противоядие, считает он, одно: «стремиться к тому, чтобы технология широко разделялась людьми и чтобы кольцо не принадлежало никому одному».
OpenAI больше не намерена уступать место ради «более безопасного» конкурента
В 2018 году OpenAI заявляла, что её тревожит превращение гонки за созданием AGI в соревнование, в котором не остаётся времени на надлежащие меры безопасности.
Компания обязалась приостанавливать развитие собственных моделей, чтобы поддержать любой «разделяющий её ценности и ориентированный на безопасность» проект, который окажется ближе к созданию AGI.
«Мы проработаем детали… но типичным условием для срабатывания такого механизма может стать “более чем 50‑процентная вероятность успеха в течение ближайших двух лет”», говорилось в документе 2018 года.
В версии 2026 года обещания «уступить дорогу» ради высшей цели уже нет. Напротив, там признаётся, что OpenAI «сегодня играет в мире куда более значительную роль, чем несколько лет назад», и компания берёт на себя обязательство открыто сообщать, когда и каким образом её операционные принципы могут меняться.
В последние годы компания ведёт жёсткую конкуренцию с несколькими соперниками, в том числе с Anthropic.
В феврале Anthropic отказалась предоставить администрации президента США Дональда Трампа неограниченный доступ к своим ИИ‑системам для военных нужд. В результате компания была признана риском для цепочек поставок, а федеральным ведомствам в марте предписали отказаться от использования её ассистента Claude.
28 февраля вакуум заполнила OpenAI, подписав соглашение с Департаментом войны США, что привело к тому, что часть пользователей стала бойкотировать ChatGPT, переходя на Claude.
В этом же месяце стоимость Anthropic оценили в 800 млрд долларов (696 млрд евро) — примерно на уровне OpenAI.
Размытые призывы к переменам во всём обществе
В документе 2026 года OpenAI призывает к ряду общественных преобразований, чтобы миру было проще адаптироваться к ИИ.
«Мы видим будущее, в котором процветание станет повсеместным и достигнет уровня, который сегодня трудно даже представить, — говорится в документе. — Многие вещи, до сих пор остававшиеся лишь мечтой из научной фантастики, могут стать реальностью, а большинство людей получит возможность жить более осмысленной жизнью, чем сейчас».
Однако такое будущее не гарантировано, подчёркивается в тексте: ИИ может быть либо «сконцентрирован в руках горстки компаний, которые будут использовать и контролировать сверхразум», либо «распределён децентрализованно между людьми».
Документ о принципах также повторяет некоторые недавние политические предложения OpenAI — в частности, призыв к правительствам задуматься о «новых экономических моделях» и развивать технологии, которые будут снижать стоимость инфраструктуры для ИИ.
«Многие наши действия, которые со стороны выглядят странно — например, закупка колоссальных объёмов вычислительных мощностей при относительно скромной выручке, — продиктованы нашей глубокой верой в будущее всеобщего процветания», — говорится в документе.