Исследователи создали червя с искусственным интеллектом, на которого даже не нужно нажимать, чтобы нанести вред.
РЕКЛАМАИсследователи в области безопасности создали вирус-червь для искусственного интеллекта (ИИ), который может проникать в такие модели, как ChatGPT и Gemini, и потенциально красть данные.
Исследователи, работающие в США и Израиле, специально создали компьютерного червя, чтобы он служил информатором и предотвращал появление подобных ему червей в моделях генеративного ИИ.
Компьютерный червь может реплицировать себя и распространяться, компрометируя другие машины. В отличие от других червей, для получения вредоносного ПО созданному новичку не нужно щелкать мышью или открывать электронное письмо: он делает это автоматически в момент получения зараженного письма.
Они назвали червя Morris II в честь первого в истории компьютерного червя, разработанного в 1988 году.
Как он работает?
Исследователи создали систему электронной почты, которая могла отвечать на сообщения с помощью генеративного ИИ, а затем подключаться к моделям ChatGPT, Gemini и LLaVA.
Morris II был продемонстрирован против почтовых ассистентов на базе генеративного ИИ и мог похищать личные данные и запускать спам-кампании.
"Исследование демонстрирует, что злоумышленники могут вставлять такие подсказки во входные данные, которые при обработке моделями генеративного ИИ побуждают модель воспроизвести входные данные в качестве выходных (репликация) и совершить вредоносные действия (полезная нагрузка)", - пишут исследователи.
Подсказка, которая представляет собой любой вопрос или сообщение, заданное модели ИИ, заставляет модель ИИ ответить другой подсказкой, которая может заразить помощника ИИ, чтобы затем выудить конфиденциальную информацию.
Затем червь может быть отправлен другим контактам в вашей онлайн-сети, "используя возможности связи в экосистеме генеративного ИИ", - добавили они.
Исследователи предупреждают, что, хотя ИИ-черви еще не обнаружены, это лишь вопрос времени.
"По сути, это означает, что теперь у вас есть возможность провести или осуществить новый вид кибератаки, которого раньше не было", - сказал в интервью изданию Wired Бен Насси, исследователь из Корнельского университета, создавший компьютерного червя.
Исследование вызывает опасения, поскольку помощники ИИ внедряются в умные устройства и даже автомобили и могут отправлять электронные письма или назначать встречи от чьего-либо имени.
В другой работе, опубликованной в прошлом месяце, исследователи из Сингапура и Китая показали, что они могут легко получить root-доступ к операционной системе большой языковой модели (LLM).