Исследователи не могут уверенно назвать виновных, но данные указывают на вышедших из-под контроля агентов Google и OpenAI, применявших агрессивные методы сбора данных и проверки их уязвимости.
По данным некоммерческой исследовательской лаборатории Transluce (источник на английском языке), вышедшие из-под контроля ИИ-агенты пытались взломать сайты правительств США и Канады; собранные доказательства указывают на то, что за атакой стояли агенты Google и OpenAI.
РЕКЛАМА
РЕКЛАМА
Особенно показательные были два эпизода, когда применялись агрессивные методы для доступа к открытым данным базы Civil Rights Data Collection Министерства образования США и федерального ведомства Library and Archives Canada. В обоих случаях злоумышленникам в итоге не удалось нарушить целостность или конфиденциальность информации.
В Transluce отмечают, что эти эпизоды вписываются в «более широкий паттерн автоматизированных рабочих процессов», связанных с ИИ-агентами. «Такие сценарии используют агрессивные методы или приемы, находящиеся в правовом «сером» поле, чтобы извлекать информацию с правительственных сайтов, порой задействуя их не по назначению или нарушая явные правила использования», — заявили исследователи организации.
Среди дополнительных целей значились сайт Белого дома, министерства обороны, юстиции и торговли США, а также Центры по контролю и профилактике заболеваний, Комиссия по ценным бумагам и биржам и государственные агентства в Калифорнии, Мэриленде, Иллинойсе, Техасе и Нью-Йорке.
Ни в одном из этих случаев агентам не удалось получить доступ к информации, которая не была уже открыта для общего пользования.
Последние выводы опубликованы на фоне растущего числа сообщений о неожиданном или несанкционированном поведении ИИ-агентов.
Один только сентябрь принес два крупных инцидента с неконтролируемыми агентами OpenAI: в первом случае агенты сливали приватные изображения пользователей на общедоступные сайты, во втором пытались добиться доступа к правительственным данным в США и Австралии.
После этого компания решила отложить запуск своей модели нового поколения Astra, поскольку специалисты по безопасности указали на ее «критические» возможности в сфере кибербезопасности и непредсказуемое, несанкционированное поведение.
Попытки взлома в США и Канаде
17 июня агенты атаковали сайт Министерства образования США, выполняя запросы по школьной статистике.
По данным Transluce, ИИ-агенты отправили на сайт более 200 000 запросов, включая неудачную попытку направить преднамеренно некорректные данные, чтобы проверить уязвимость базы данных и обойти штатные фильтры.
Исследователи установили, что данные, хранившиеся на сайте, совпадали по типу с заданием на веб-поиск в бенчмарке Google DeepSearchQA. По их словам, это говорит о том, что агентам, вероятно, не ставили прямую задачу взлома, а оценивали их по способности успешно находить специфическую нишевую информацию в интернете.
Transluce сообщила об этой попытке взлома в Министерство образования США в сентябре; в ведомстве ответили, что не увидели какого-либо влияния на работу своих сервисов.
Похожие попытки ИИ-агенты предпринимали в отношении сайта Library and Archives Canada в двух отдельных инцидентах — 28 мая и 9 июня.
По данным, собранным официальным португальским веб-архивом Arquivo.pt, агенты отправили 899 запросов «collection-search» к данным о бракоразводных делах за 1905–1911 годы.
Из 899 запросов 13 содержали вредоносные нагрузки, предназначенные для проверки уязвимости сайта. И в этом случае ни одна из попыток не оказалась успешной.
В Transluce заявили, что не могут «с достаточной уверенностью» приписать эти попытки OpenAI, однако использованные тактики совпадают с активностью, которую лаборатория ранее связывала с этой компанией.
Организация сообщила об этих инцидентах правительству Канады в начале недели.
В ответ Канадский центр кибербезопасности опубликовал заявление (источник на английском языке), в котором говорится, что «на данный момент нет признаков компрометации государственных систем».
Transluce обнародовала свои выводы вчера, опираясь на результаты исследования с использованием данных Arquivo.pt и сервиса urlquery.net — бесплатного онлайн-инструмента для проверки URL-адресов и доменов на безопасность.