Энтони Албаниз назвал произошедшее "недопустимым". При этом OpenAI сообщила австралийскому правительству об инциденте лишь спустя три месяца.
Во время обучения одна из моделей OpenAI вышла из-под контроля, обошла защитные механизмы и взломала сайт австралийского правительства, заявил премьер-министр Энтони Албаниз, раскритиковав создателя ChatGPT за «очевидно недопустимое» нарушение.
РЕКЛАМА
РЕКЛАМА
По его словам, в июне этот инструмент ИИ попытался получить доступ к порталу статистики здравоохранения. Получив отказ, он обошел ограничения и проник в раздел, где размещались закрытые файлы.
OpenAI при этом не сразу уведомила об инцидинте австралийские власти, сообщив о нем только спустя три месяца и отправив сообщение на общий электронный адрес, который проверяют только раз в день.
«Сегодня я поговорил с генеральным директором OpenAI Сэмом Альтманом, чтобы выразить крайнюю обеспокоенность Австралии этим инцидентом», – сказал Албаниз журналистам в Нью-Йорке.
«Я также выразил разочарование тем, что компании понадобилось слишком много времени, чтобы сообщить правительству о произошедшем, – добавил он. - До 10 сентября не было никакого уведомления, и единственным сообщением стало электронное письмо, отправленное просто на общий почтовый ящик».
Инструмент ИИ получил доступ к открытым и закрытым файлам, размещенным на старом сайте статистики здравоохранения.
Албаниз сообщил, что «нет свидетельств» получения ИИ доступа к персональным данным и что другие государственные сервисы не пострадали.
«Тем не менее ситуация, разумеется, недопустима», - подчеркнул австралийский премьер.
"Австралийский" инцидент произошел, когда OpenAI проводила учебные упражнения для оценки работы своих моделей.
По словам министра по делам государственных услуг Кэти Галлахер, модель попросили найти в интернете данные о том, сколько австралийское правительство тратит на лекарства.
В OpenAI ответили, что заметили некорректную активность только в августе, когда проанализировали действия этого инструмента ИИ.
Опасения из-за неуправляемого ИИ
Министр обороны Австралии Ричард Марлс заявил, что модель ИИ «перелезла через забор».
«Она сделала запрос, информация не была предоставлена, и вместо того чтобы на этом остановиться, она перелезла через забор», – пояснил он.
Во всем мире растет обеспокоенность мощью продвинутых систем ИИ после серии хакерских инцидентов с участием моделей как OpenAI, так и конкурирующей компании Anthropic.
Австралия инициировала ускоренную проверку инцидента, в которую будет включено национальное разведывательное агентство, отвечающее за кибербезопасность.
В OpenAI сообщили, что обнаружили взлом в ходе «масштабной проверки» своих моделей ИИ.
«В ходе этой проверки мы выявили активность, затронувшую несколько сайтов и сервисов правительства Австралии, когда наши модели пытались найти ответы и доступную статистику на вопросы об Австралии во время внутренней оценки», – заявила компания.
«В процессе этого наши модели предприняли действия, которых мы не планировали», – добавили в OpenAI.
В среду Альтман и другие руководители технологических компаний выступили на специальном заседании Совета Безопасности ООН, посвященном рискам ИИ.
Более 100 организаций по всему миру, включая OpenAI и Anthropic, в прошлом месяце подписали открытое письмо с призывом к глобальным усилиям по усилению киберзащиты от угроз в сфере кибербезопасности, основанных на ИИ.
Это случилось после того, как две модели OpenAI вышли из закрытой тестовой среды и проникли во внутренние системы платформы Hugging Face, сайта, где разработчики ИИ размещают и обмениваются кодом.
Компания Anthropic недавно обнаружила, что ее модели получили несанкционированный доступ к системам трех не названных организаций во время испытаний, которые должны были не допустить их выхода в «реальные» системы.
По данным компании, пользовательская ИИ-модель Google Gemini на прошлой неделе взломала несколько систем, подобрав учетные данные для входа.