Руководители Nvidia, OpenAI и Anthropic подписали в Белом доме необязательное обещание контролировать ИИ; в ЕС им грозят штрафы до 3% мирового оборота за нарушения.
Самые влиятельные люди в индустрии технологий во вторник вышли с саммита в Белом доме с участием президента США Дональда Трампа, пообещав держать под контролем собственные разработки.
РЕКЛАМА
РЕКЛАМА
Трамп заявил, что руководители, среди которых глава Nvidia Дженсен Хуан, сооснователь OpenAI Грег Брокман и руководитель Anthropic Дарио Амодеи, подписали «морально обязательное» обещание встроить защитные механизмы в системы искусственного интеллекта (ИИ).
Соглашение не имеет юридической силы и не предусматривает четких санкций за его нарушение.
«Они будут контролировать себя сами», сказал Трамп журналистам после встречи.
На рабочий обед были приглашены 31 гость, в их числе глава Meta Марк Цукерберг, Илон Маск, основатель Amazon Джефф Безос, глава Microsoft Сатья Наделла и глава Google Сундар Пичаи. Саммит прошел на фоне растущего раздражения Вашингтона по поводу ИИ.
На конгрессменов усиливается давление со стороны избирателей, которые требуют обуздать или замедлить развитие технологий из-за опасений, что они вытеснят работников и перевернут привычный уклад жизни. Серия инцидентов за последние месяцы, когда автономные системы OpenAI выходили за рамки установленных ограничений, подогрела эти страхи.
Первым стал взлом в июле платформы Hugging Face, популярного ресурса для обмена ИИ-моделями. В понедельник OpenAI отменила выпуск своего последнего продукта, модели Astra 6.1, после того как внутренние испытания показали, что она не соответствует стандартам безопасности.
Вот главные выводы саммита.
Главы IT-компаний обещают самоконтроль
Документ, получивший название «Соглашение Белого дома», фиксирует обязательство индустрии регулировать себя самостоятельно. Юридической силы он не имеет, но оставляет возможность «закрепить эти шаги в законах или нормативных актах», если со временем это покажется разумным.
Цукерберг заявил, что соглашение должно дать клиентам уверенность в том, что ИИ «работает так, как мы задумали». По его словам, оно предусматривает «надежные внутренние механизмы контроля» и несколько уровней аудита: от оценки рисков внутри компаний до внешних проверок и надзора со стороны советов директоров. Он назвал документ отправной точкой для отраслевых стандартов.
Маск выразился проще: по его словам, руководители фактически договорились «проверять домашние задания друг друга, что гораздо лучше, чем если бы каждый проверял только свое, по понятным причинам».
Трамп сообщил, что в ближайшие дни назначит человека, который будет следить за исполнением соглашения, и предложил создать комитет примерно из десяти человек, чтобы «наблюдать за всей этой сферой».
Компания Амодеи ранее жестко спорила с Белым домом по вопросам безопасности ИИ, и сам он высказался осторожнее, чем коллеги.
«Как сказал президент, кто выиграет в ИИ, тот выиграет вообще. Думаю, это очень важно, – отметил Амодеи после встречи. – Но у технологий есть вполне реальные риски, и механизм того, как мы будем с ними справляться, все еще обсуждается».
В проспекте к планируемому IPO компания недавно предупредила инвесторов о возможных экзистенциальных угрозах человечеству. Anthropic рассчитывает выйти на биржу уже в ноябре.
Льготы для дата-центров
Прислушиваясь к советам Хуана и бывшего «царя по ИИ» Дэвида Сакса, Трамп настаивает на свободном развитии технологии, чтобы обогнать Китай и подпитать экономику США, все больше зависящую от роста, обеспечиваемого ИИ.
Этот курс упирается в дата-центры – огромные, прожорливые до энергии вычислительные комплексы, на которых держится ИИ. Они уже стали поводом для острых споров в предвыборных кампаниях обеих партий: местные жители опасаются роста счетов за электричество и давления на водные ресурсы и землю.
Опрос NPR/PBS News/Marist, проведенный 14 и 15 сентября, показал, что 65% зарегистрированных избирателей выступают против строительства дата-центров в их общинах, причем 43% решительно против.
Среди демократов против выступают более 80%, а среди республиканцев мнения разделились: 44% против и 46% за.
16 сентября Палата представителей проголосовала 417 голосами против 3 за принятие закона о защите потребителей электроэнергии Ratepayer Protection Act. Документ обязывает штаты рассмотреть правила, по которым именно дата-центры, а не домохозяйства, будут оплачивать модернизацию сетей и рост стоимости электроэнергии. Сенат закон пока не одобрил.
В начале месяца Трамп написал в сети Truth Social, что сообщества, отказывающиеся принимать у себя дата-центры, «выбирают отсталость и бедность». После встречи во вторник он смягчил риторику, заявив, что компании ИИ «будут очень щедры» к территориям, которые их примут.
«Они помогут с школами, помогут с учителями», сказал он.
Прощай, искусственный интеллект
Трамп также подтвердил, что официально переименует технологию в «суперинтеллект» вместо искусственного интеллекта, «потому что он не искусственный».
Спустя несколько часов он подписал указ, предписывающий федеральным учреждениям по возможности использовать термины «суперинтеллект» и SI.
«Суперинтеллект» точнее отражает потенциал, перспективы и стремительно растущие возможности этих технологий», говорится в документе.
Как это устроено в Брюсселе
По другую сторону Атлантики ЕС закрепил защитные меры в законе. Акт об ИИ, который в Брюсселе называют первым в мире комплексным законом об искусственном интеллекте, распространяется на любую компанию, продающую ИИ на территории союза, независимо от страны базирования.
С августа 2025 года компании, создающие универсальные модели ИИ, такие как OpenAI, Anthropic и Google, обязаны документировать принцип работы своих моделей, делиться ключевой информацией с бизнесом, который строит на них свои продукты, соблюдать европейское законодательство об авторском праве и публиковать краткое описание наборов данных, на которых велось обучение.
Для самых мощных моделей действуют более строгие правила. Их разработчики должны тестировать системы на риски, включая испытания с участием «красных команд», сообщать в Брюссель о серьезных инцидентах и обеспечивать защиту от кибератак.
Эти нормы имеют реальные последствия. С 2 августа Офис по ИИ при Еврокомиссии получил право запрашивать у компаний информацию, проводить собственные проверки моделей и требовать ограничить их использование или вывести модель с рынка ЕС.
Нарушителям грозят штрафы до 15 млн евро или 3% от глобального годового оборота компании, в зависимости от того, какая сумма больше. Для технологических гигантов речь может идти о миллиардах.
Добровольный кодекс практики дополняет закон и должен помочь бизнесу с соблюдением требований. Но в отличие от соглашения Белого дома его подписание остается делом добровольным, тогда как исполнение Акта об ИИ обязательно.