Новый самый мощный ИИ Anthropic под названием Mythos слишком опасен для публичного запуска, заявляет компания, начав срочные консультации с властями и финрегуляторами.
Компания Anthropic ведет переговоры с правительством США о своей новой ИИ‑модели Mythos, которую, по словам компании, слишком опасно выпускать в широкий доступ, поскольку она «создает беспрецедентные риски для кибербезопасности».
РЕКЛАМА
РЕКЛАМА
Банковский сектор тоже бьет тревогу.
«Власти должны знать о таких вещах», – заявил в понедельник сооснователь Anthropic на форуме Semafor World Economy в Вашингтоне.
«Разумеется, мы обсуждаем с ними Mythos и будем обсуждать следующие модели», – добавил он.
Вспоминая публичный конфликт с правительством, из-за которого в прошлом месяце компанию внесли в список рисков для цепочек поставок, он сказал: «Я бы не хотел, чтобы это затмило тот факт, что вопросы национальной безопасности для нас чрезвычайно важны».
Статус риска для цепочек поставок компания получила после срыва переговоров о том, как ограничить использование ее ИИ‑моделей Пентагоном.
Это решение последовало за встречей, которую на прошлой неделе в Вашингтоне собрал министр финансов США Скотт Бессент: он пригласил топ-менеджеров американских банков обсудить модель Mythos.
По данным Bloomberg, на встрече банкиров призвали использовать модель Mythos компании Anthropic для выявления уязвимостей, сообщает Bloomberg (источник на английском языке).
В Anthropic также заявили, что доступ к новой модели ИИ получат лишь немногие технологические и кибербезопасностные компании. В их числе Amazon, Apple и JPMorgan Chase.
По данным Bloomberg, модель Anthropic сейчас тестируют также Goldman Sachs, Citigroup, Bank of America и Morgan Stanley.
В понедельник британский государственный Институт безопасности ИИ (AISI) заявил, что Mythos выводит киберугрозу на новый уровень по сравнению с предыдущими моделями.
Тем временем Financial Times сообщила, что британские финансовые регуляторы также обсуждают потенциальные риски Mythos.