Критики опасаются, что выводы о рисках — от кибератак до биологического оружия — могут быть смягчены в угоду технологической индустрии.
Американское госучреждение, которое тестирует передовые системы искусственного интеллекта на безопасность, не имеет постоянного руководителя и перестало публиковать свои исследования, сообщает Associated Press.
РЕКЛАМА
РЕКЛАМА
Двое бывших правительственных чиновников рассказали агентству, что сотрудников Центра содействия инновациям и разработке стандартов для суперинтеллекта (CAISSI), входящего в состав Министерства торговли, недавно попросили неформально отчитываться перед одним из офисов Белого дома.
Критики считают, что такое изменение может политизировать работу центра. По их словам, его выводы могут сглаживаться в угоду компаниям, занимающимся ИИ, которые в значительной степени предоставлены сами себе в вопросах регулирования.
Каролин Зигель Сингх из Федерации американских ученых заявила, что цель состояла в том, чтобы «беспартийные или двухпартийные технократические эксперты» формировали политику в общественных интересах.
Другие утверждают, что более тесная связь с президентом Дональдом Трампом может повысить известность центра и принести ему больше финансирования. CAISSI получает 10 млн долларов (8,94 млн евро) в год, что примерно составляет одну восьмую бюджета его британского аналога.
Для сравнения, Канцелярия по вопросам ИИ ЕС, которая работает в структуре Европейской комиссии и с августа имеет полномочия штрафовать разработчиков наиболее продвинутых моделей ИИ, насчитывает более 125 сотрудников и, по сообщениям, нанимает еще 40 человек.
Нет руководителя, нет отчетов, нет надзора
CAISSI испытывает трудности с назначением руководителя. Коллин Бернс, ранее работавший в Anthropic, был отстранен от должности директора уже через четыре дня в апреле, по сообщениям, из-за его связей с этой компанией.
Его преемник, Крис Фолл, подал в отставку через три месяца.
Арвинд Раман, возглавляющий материнскую структуру центра, Национальный институт стандартов и технологий, сейчас исполняет обязанности директора. В августе Конгресс поинтересовался, почему центр перестал публиковать свои отчеты по безопасности.
В сентябре Трамп призвал компании, работающие с ИИ, взять на себя обязательства по «колоссальному самоконтролю» в рамках добровольного соглашения, но его администрация так и не объяснила, как именно будет проверять соблюдение этих обещаний.
В Белом доме не ответили на вопросы о CAISSI. Вместо этого там сослались на новую Super Intelligence Force Трампа, которую возглавляет директор национальной разведки Джей Клейтон.
Амос То из Центра правосудия Бреннана заявил AP, что подход к безопасности ИИ как к вопросу национальной безопасности чреват оттеснением на второй план защиты прав потребителей, приватности и гражданских свобод.
«Все эти решения имеют огромные последствия для общества и должны быть разъяснены и обоснованы публично, сказал То. И этого не происходит».