Кто именно стоит за попыткой взлома, пока неизвестно, но данные указывают на вышедших из-под контроля агентов Google и OpenAI, которые проводили проверку на наличие уязвимостей.
По данным некоммерческой исследовательской лаборатории Transluce , вышедшие из-под контроля ИИ-агенты пытались взломать сайты правительств США и Канады. Собранные доказательства указывают на то, что за атакой стояли модели искусственного интеллекта Google и OpenAI.
РЕКЛАМА
РЕКЛАМА
Особое внимание привлекли два инцидента, в ходе которых применялись агрессивные методы для получения доступа к данным Министерства образования США (в частности, к системе сбора данных о соблюдении гражданских прав) и к ресурсам федерального ведомства «Библиотека и архив Канады». В обоих случаях попытки взлома не увенчались успехом, утечки данных не произошло
В Transluce отмечают, что эти эпизоды вписываются в «более широкую тенденцию использования автоматизированных рабочих процессов», связанных с ИИ-агентами. «При таких сценариях используются агрессивные методы или приемы, находящиеся в «серой зоне» правового поля, для извлечения информации с правительственных сайтов, порой задействуя их не по назначению или нарушая явные правила использования», — заявили исследователи организации.
В числе других целей кибератаки оказались Белый дом, министерства обороны, юстиции и торговли, а также Центры по контролю и профилактике заболеваний (CDC), Комиссия по ценным бумагам и биржам (SEC) и государственные ведомства штатов Калифорния, Мэриленд, Иллинойс, Техас и Нью-Йорк.
Ни в одном из этих случаев агентам не удалось получить доступ к информации, которая не была бы общедоступной.
Эти данные были обнародованы на фоне участившихся сообщений о несанкционированных действиях ИИ-агентов.
Один только сентябрь принёс два крупных инцидента с неконтролируемыми моделями OpenAI: в первом случае агенты сливали приватные изображения пользователей на общедоступные сайты, во втором пытались добиться доступа к правительственным данным в США и Австралии.
После этого компания решила отложить запуск своей модели нового поколения Astra, поскольку специалисты по безопасности указали на потенциальную угрозу «критического уровня» для кибербезопасности и непредсказуемое поведение.
Попытки взлома в США и Канаде
17 июня агенты атаковали сайт Министерства образования США в процессе сбора статистических данных о школах.
По данным Transluce, ИИ-агенты отправили на сайт более 200 000 запросов, в том числе с некорректными входными данными чтобы спровоцировать сбой в механизме защиты информационной базы и обойти штатные фильтры.
Аналитики установили, что данные, хранившиеся на сайте, совпадали по типу с заданием на веб-поиск в бенчмарке DeepSearchQA - тесте, созданный компанией Google для комплексной оценки ИИ-агентов.
По их мнению, это указывает на то, что перед агентами не ставилась задача проведения хакерских атак; вместо этого их «оценивали по способности успешно извлекать из интернета специфическую, узкопрофильную информацию».
В сентябре компания Transluce уведомила Министерство образования США о попытке взлома; ведомство сообщило, что не зафиксировало никакого негативного влияния на свои сервисы.
Аналогичные попытки со стороны ИИ-агентов были предприняты в отношении организации «Библиотека и архив Канады» в ходе двух отдельных инцидентов — 28 мая и 9 июня.
По данным официального португальского веб-архива Arquivo.pt, агенты отправили 899 запросов, касающихся бракоразводных дел за 1905–1911 годы.
Из этих 899 запросов 13 содержали вредоносные элементы, предназначенные для проверки уязвимости сайта. И в этом случае ни одна из попыток не оказалась успешной.
В Transluce заявили, что не могут «с достаточной уверенностью» приписать эти попытки OpenAI, однако использованные тактики совпадают с активностью, которую лаборатория ранее связывала с этой компанией.
Организация сообщила об этих инцидентах правительству Канады в начале недели.
В ответ Канадский центр кибербезопасности опубликовал заявление, в котором говорится, что «на данный момент нет признаков компрометации государственных систем».
Transluce обнародовала свои выводы вчера, опираясь на результаты исследования с использованием данных Arquivo.pt и сервиса urlquery.net — бесплатного онлайн-инструмента для проверки URL-адресов и доменов на безопасность.