Всего несколько часов, а не недель, понадобилось модели ИИ компании Anthropic, чтобы обнаружить уязвимости в засекреченных системах правительства США.
Модель искусственного интеллекта, разработанная компанией Anthropic, выявила уязвимости в особо чувствительных компьютерных системах правительства США во время тестовых учений, сообщил агентству Associated Press американский чиновник.
РЕКЛАМА
РЕКЛАМА
Чиновник, выступавший на условиях анонимности, заявил, что Anthropic совместно с американскими разведывательными службами провела испытания, используя модель компании под названием Mythos.
По его словам, она обнаружила ряд уязвимостей в течение нескольких часов. При этом он подчеркнул, что нахождение уязвимостей не означало, что модель смогла бы за это время ими воспользоваться.
Тестирование проводилось в рамках инициативы Anthropic под названием Project Glasswing, в ходе которой технологические компании объединили усилия, чтобы защитить критически важное программное обеспечение от тяжелых последствий для общественной безопасности, национальной безопасности и экономики, которые, как опасаются, может повлечь использование Mythos.
Сенатор-демократ от Вирджинии Марк Уорнер вскользь упомянул об этих испытаниях на слушаниях 11 июня в банковском комитете Сената, занимающемся также вопросами жилья и городского хозяйства.
"Этот инструмент взломал почти все наши секретные системы не за недели, а за часы", - сказал он, сославшись на информацию руководителя Агентства национальной безопасности (NSA) и Киберкомандования США генерала Джошуа Радда.
Растущая напряженность
Несмотря на сотрудничество Anthropic с американскими ведомствами, напряженность между калифорнийской компанией и администрацией Трампа растет.
Anthropic выражает обеспокоенность тем, как американские военные будут использовать ее системы ИИ, тогда как администрация предпринимает шаги, чтобы ограничить применение некоторых моделей.
В начале этого месяца администрация издала директиву, предписывающую Anthropic не допускать использования своих новейших моделей, известных как Fable 5 и Mythos 5, иностранными гражданами.
В этом месяце Anthropic широко представила модель Fable - облегченную версию более продвинутой Mythos, к которой компания строго ограничила доступ из-за опасений, связанных с кибербезопасностью.
Директива была опубликована через десять дней после того, как президент Дональд Трамп подписал указ, устанавливающий порядок, в соответствии с которым федеральные власти могут в течение до месяца до публичного релиза проверять, какие риски для нацбезопасности несут наиболее совершенные системы ИИ.
В документе отмечается, что участие разработчиков ИИ в этой процедуре будет добровольным.
Anthropic заявила, что отключила модели для всех клиентов, чтобы выполнить требования директивы, но добавила, что не считает предпринятые правительством шаги оправданными теми рисками для безопасности, на которые она указывала.
Сопротивление отрасли
Более ста экспертов по кибербезопасности и руководителей компаний, включая Adobe и Nvidia, написали правительству письмо с призывом отменить директиву, предупредив, что этот шаг может принести больше пользы противникам США, чем вреда.
В письме подписанты отмечают, что модели Mythos от Anthropic "довольно хорошо" справляются с поиском ошибок в программном обеспечении и превращением уязвимостей в оружие, однако "не являются уникальными" в выполнении этих задач.
Многие из них заявили, что регулярно используют другие базовые и открытые модели для аудита безопасности и обучения, и предупредили, что в условиях стремительного усиления противников США опасно лишаться лучших средств киберзащиты "без веских причин".