Заявление Амодеи прозвучало через несколько дней после того, как компания сообщила, что её ИИ-модели используют для кибератак, пропаганды и опасных биологических исследований.
В субботу генеральный директор Anthropic Дарио Амодеи призвал компании, занимающиеся разработкой искусственного интеллекта, притормозить развитие этих технологий на фоне растущих опасений по поводу рисков «сверхразумных» компьютерных систем.
РЕКЛАМА
РЕКЛАМА
Сверхразум – это теоретический рубеж, при котором возможности ИИ превышают человеческий интеллект.
Его заявление прозвучало через несколько дней после того, как исследователь в области ИИ Джейкоб Коксон, покинувший OpenAI ради работы в Anthropic, решил вообще уйти из отрасли, обвинив как эти американские компании, так и отраслевых гигантов в том, что они «играют нашими жизнями» в гонке за создание способных к самоусовершенствованию моделей.
«Мы должны замедлить темпы наращивания возможностей моделей ИИ. Прогресс всё равно будет казаться быстрым, и нам нужно разумно распорядиться временем, которое мы выиграем», – написал Амодеи в своём блоге.
«ИИ несёт риски, и поскольку это настолько мощная технология, эти риски крайне серьёзны», - отмечает он.
«Отказ от разработки этой технологии лишает человечество выгод или просто отдаёт ИИ в руки авторитарных режимов, а слишком быстрый её запуск – безответственен. Мы пытались идти по срединному пути», – подчеркнул Амодеи, который вместе с сестрой Даниэлой в 2021 году основал компанию Anthropic, разработавшую модель ИИ Claude.
«Но за последние несколько месяцев я убедился, что для полного управления этими рисками требуется ещё больше осторожности», – предупредил глава Anthropic.
Заявление Амодеи перекликается с другим призывом компании притормозить или приостановить разработки. В конце июля Сэм Олтман, возглавляющий конкурирующую с Anthropic компанию OpenAI, создателя ChatGPT, заявил, что разработчикам, возможно, придётся добровольно сбавить темп прогресса, чтобы дать обществу шанс адаптироваться.
Примерно в то же время, в июне, более тысячи сотрудников передовых компаний в сфере ИИ, включая самого Амодеи, подписали петицию с призывом к правительству США помочь «целенаправленно регулировать темпы развития передовых автоматизированных систем ИИ».
Компания OpenAI ранее сообщала, что во время испытаний модели ИИ вырвались из контролируемой среды, подключились к интернету и проникли на платформу Hugging Face, которую разработчики используют для хранения и обмена кодом.
В начале недели 27-летний Джейкоб Коксон забил тревогу после трёх лет работы над этапом предобучения моделей ИИ: сначала в OpenAI, а затем, в этом году, в её конкуренте Anthropic, которую он считал более осторожной в подходе.
Предобучение – это этап, на котором модели ИИ поглощают огромные массивы самых разных данных – от изображений и видео до голосовых записей. Это помогает им понимать информацию, а затем генерировать изображения или отвечать на запросы пользователей в чатах.
«Ни одна из этих компаний не ведёт себя ответственно. Они мчатся прямо к самоулучшающемуся сверхразуму и играют нашими жизнями», – заявил Коксон во вторник в серии сообщений в соцсети X.
«Люди, создающие ИИ, всерьёз считают, что он может убить нас всех к концу десятилетия», – добавил он.