ИИ-агент продемонстрировал техническую изощренность, по уровню сопоставимую с показателями сильнейших участников-людей в рамках исследования.
Агент искусственного интеллекта (ИИ) превзошел большинство хакеров-людей, проведя 16 часов за сканированием сайта университета в поисках уязвимостей, как показало новое исследование.
Исследование появилось на фоне того, что хакеры из России, Северной Кореи, Ирана и поддерживаемых Китаем групп используют большие языковые модели (LLM), чтобы совершенствовать кибератаки, как сообщают Microsoft и OpenAI в этом году. Воинственные группировки, например сторонники «Исламского государства», также экспериментируют с ИИ, чтобы совершать атаки.
Стэнфордский университет установил, что его новый ИИ-агент ARTEMIS занял второе место из десяти в эксперименте с участием хакеров-людей. Исследователи заявили, что их ИИ-агент «продемонстрировал техническую сложность», сопоставимую с сильнейшими человеческими участниками исследования.
Запуск ИИ-агента ARTEMIS стоит всего 18 долларов (около 15 евро) в час по сравнению с 60 долларами (52 евро) в час у «профессионального пентестера», говорится в отчете. Исследование еще не опубликовано в официальном научном журнале.
ИИ-агенты, полностью автоматизированные цифровые помощники, способные выполнять задачи без контроля человека, по прогнозу компании Google, будут использоваться злоумышленниками в 2026 году для упрощения и масштабирования атак, говорится в докладе.
Стэнфордский университет предоставил ARTEMIS, шести тестовым ИИ-агентам и десяти тестировщикам-людям доступ ко всем 8 000 устройствам университетской сети, включая серверы, компьютеры и умные устройства. Исследователи сравнили результаты человеческого тестировщика, стэнфордского ARTEMIS и остальных шести ИИ-агентов, которым было поручено работать 16 часов, однако их эффективность оценивалась только за первые 10 часов.
За это время ARTEMIS обнаружил девять уязвимостей в системе вуза, и 82 процента его находок были приняты как корректные отчеты. ИИ-агент занял второе место в рейтинге и превзошел девять из десяти человеческих тестировщиков.
Секрет успеха программы в том, что при обнаружении уязвимости она могла создавать «субагентов», которые сразу разбирались с ней в фоновом режиме, пока продолжалось сканирование на предмет других угроз. Люди так не могут и вынуждены проверять каждую уязвимость, прежде чем переходить к следующей, говорится в исследовании.
Однако в исследовании отмечается, что ARTEMIS все же пропустил часть уязвимостей, обнаруженных людьми, и находил их только после подсказок.
Существующим ИИ-агентам для кибербезопасности, таким как Codex от OpenAI и Claude Code от Anthropic, не хватает заложенной при проектировании экспертизы по кибербезопасности.
Во время испытаний ИИ-агенты от устоявшихся компаний либо отказывались искать уязвимости, либо зависали.
Модели OpenAI и Anthropic, по данным исследования, показали результаты лучше лишь двух человеческих участников, что позволяет говорить об их «недостаточной эффективности».