Компания заявляет, что уже через несколько месяцев ИИ сможет сам копироваться и распространяться на устройства Интернета вещей, усложняя его остановку при кибератаках.
Компания Anthropic сообщила на этой неделе (источник на английском языке), что небольшие модели искусственного интеллекта уже через несколько месяцев смогут самовоспроизводиться на устройствах интернета вещей, таких как умные духовки и телевизоры.
РЕКЛАМА
РЕКЛАМА
Это важно потому, что современные модели ИИ работают в центрах обработки данных, где компании, владеющие ими, могут просто отключить систему, если что-то идёт не так.
Модель, распределённая по тысячам плохо защищённых бытовых и офисных гаджетов, такой возможности не имела бы. Чтобы её остановить, пришлось бы разыскать и очистить каждое заражённое устройство, и если бы она перешла к кибератакам, остановить её было бы крайне сложно.
Это заявление прозвучало в год, когда ведущие мировые модели ИИ и их агенты уже неоднократно обходили встроенные системы защиты и устраивали атаки на конкурирующие компании и государственные структуры по всему миру.
Хотя это лишь один из возможных способов распространения вышедшего из-под контроля ИИ, в Anthropic предупреждают, что самовоспроизводящийся искусственный интеллект может также стать «мощной кибермоделью, которая с высокой скоростью взламывает центры обработки данных, или моделью, обманывающей людей ради вычислительных кредитов».
В компании признают, что пока не могут с уверенностью сказать, какую именно форму примет автономное самовоспроизводство ИИ.
По данным Anthropic, модели с числом параметров до 30 миллиардов уже способны выполнять многие шаги, необходимые для самовоспроизводства, хотя и допускают ошибки при последовательном выполнении всей цепочки действий.
Но если малые модели будут и дальше улучшаться нынешними темпами, к концу года они смогут полностью освоить эту способность.
В Anthropic считают, что киберугроза, связанная с самовоспроизводящимся ИИ, является непреднамеренным побочным эффектом прогресса в других областях.
«Возможности, которые делают модели ИИ в целом мощными агентами программирования, также переносятся на киберзадачи, включая автономное самовоспроизводство», говорится в заявлении компании.
Самокопирующийся код не является чем-то новым. Некоторые из самых разрушительных кибератак в истории опирались именно на такие самораспространяющиеся программы, известные как черви.
В 2010 году атака Stuxnet использовала сложный червь, который, как широко считается, был создан США и Израилем, чтобы вывести из строя центрифуги на иранском заводе по обогащению урана в Натанзе.
В 2017 году вымогательский вирус WannaCry лишил пользователей по всему миру доступа к их файлам и потребовал выкуп в биткоине.
В отличие от таких червей, модели и агенты ИИ смогут самостоятельно разбираться с незнакомыми устройствами. Это позволит им распространяться не только с компьютера на компьютер, но и с компьютеров на другие устройства.
Anthropic прогнозирует будущее, в котором мир будет буквально наводнён агентами, работающими на самом разном оборудовании, включая то, которое не находится под контролем человека.