Национальное агентство кибербезопасности заявило, что ИИ помогает преступникам и хакерам при поддержке государств быстрее обнаружить и использовать уязвимые места, а недавние инциденты выявляют риски для госструктур и ключевой инфраструктуры.
Во вторник, 27 октября, австралийское агентство по кибербезопасности предупредило, что искусственный интеллект представляет "беспрецедентную угрозу", поскольку иностранные правительства все активнее используют его для взлома компьютерных сетей и объектов критически важной инфраструктуры.
РЕКЛАМА
РЕКЛАМА
Это заявление прозвучало на фоне того, как правительства по всему миру пытаются справиться с масштабом угрозы со стороны ИИ, который все чаще применяется для поиска и эксплуатации цифровых уязвимостей, как в произошедшем на прошлой неделе случае в PHP, из‑за которого власти ряда стран были вынуждены отключить свои сайты, чтобы защититься от кибератак.
Австралийское агентство радиоэлектронной разведки, которое само использовало ряд инструментов ИИ при подготовке ежегодного доклада о киберугрозах, заявило, что стремительно развивающиеся модели ИИ могут принести огромную пользу, если направить их в мирное русло.
Но, как отмечается в докладе, последние месяцы также показали, что ИИ помогает преступникам и хакерам, действующим по заданию государств, проводить атаки "в масштабах, ранее небывалых".
"За последний год ИИ стал определяющим фактором в сфере киберугроз, позволяя злоумышленникам быстрее находить уязвимости и использовать их с беспрецедентными масштабом, скоростью и уровнем изощренности, – говорится в документе. - В последние недели появились новые угрозы, связанные с непреднамеренными действиями ИИ‑агентов и испытанием моделей".
Мировая обеспокоенность мощью продвинутых инструментов ИИ усиливается на фоне череды хакерских инцидентов и неконтролируемых действий ИИ, в которых фигурируют модели ведущих разработчиков, таких как OpenAI и Anthropic.
В июне одна из моделей OpenAI во время обучения обошла встроенные защитные механизмы и взломала сайт австралийского правительства. В компании обнаружили инцидент лишь в августе, а в сентябре сообщили о нем австралийским властям. Премьер-министр Энтони Албанезе назвал это нарушение "явно неприемлемым".
Ключевые выводы доклада
В докладе зафиксирован резкий рост числа инцидентов в сфере кибербезопасности.
За прошедший год Австралийское агентство радиоэлектронной разведки направило более 4 400 предупреждений о потенциально вредоносной активности, что на 80 процентов больше, чем за предыдущие 12 месяцев.
"Киберпреступники, действующие в интересах иностранных государств, продолжали атаковать австралийские организации, главным образом стремясь получить доступ к конфиденциальной или непубличной информации. Эта деятельность выходит далеко за пределы правительственных сетей и затрагивает объекты критически важной инфраструктуры, частный бизнес и отдельных граждан", – говорится в докладе.
В документе говорится, что в последнее время на Австралию и ее союзников нацеливались хакеры, связанные с Китаем, Россией и Северной Кореей.
Австралия не в первый раз бьет тревогу из‑за кибератак. В июне 2020 года тогдашний премьер-министр Скотт Моррисон заявил, что органы власти, промышленность, политические структуры, системы здравоохранения и объекты критически важной инфраструктуры страны подверглись продолжительным атакам со стороны высокоподготовленного киберактера, действующего от имени иностранного государства.
Министр обороны Ричард Марлс заявил, что страна не может игнорировать революцию в области ИИ.
"ИИ уже с нами, и это реальность. Людям нужно научиться с ним работать, – сказал он журналистам. - Назад дороги нет. Злоумышленники используют ИИ, чтобы находить уязвимости в системах".
Марлс призвал австралийцев обновлять свои компьютеры и "укреплять свои системы".
В последние дни правительства и компании в срочном порядке устраняют критические уязвимости в языке программирования, на котором работает значительная часть сайтов по всему миру.
Уязвимость была обнаружена с помощью мощной модели OpenAI.