Заявление Амодеи прозвучало через несколько дней после того, как компания сообщила, что её ИИ-модели используют для кибератак, пропаганды и опасных биологических исследований.
В субботу генеральный директор Anthropic Дарио Амодеи призвал компании, занимающиеся разработкой искусственного интеллекта (ИИ), притормозить создание этой мощной технологии на фоне растущих опасений по поводу рисков «сверхразумных» компьютерных систем.
РЕКЛАМА
РЕКЛАМА
Сверхразум – это теоретический рубеж, при котором возможности ИИ превышают человеческий интеллект.
Его заявление прозвучало через несколько дней после того, как исследователь в области ИИ Джейкоб Коксон, покинувший OpenAI ради работы в Anthropic, решил вообще уйти из отрасли, обвинив как эти американские компании, так и отраслевых гигантов в том, что они «играют нашими жизнями» в гонке за создание способных к самоусовершенствованию моделей.
«Мы должны замедлить темпы наращивания возможностей моделей ИИ. Прогресс всё равно будет казаться быстрым, и нам нужно разумно распорядиться временем, которое мы выиграем», – написал Амодеи в публикации на своём личном сайте (источник на английском языке).
«ИИ несёт риски, и поскольку это настолько мощная технология, эти риски крайне серьёзны».
«Отказ от разработки этой технологии лишает человечество выгод или просто отдаёт ИИ в руки авторитарных режимов, а слишком быстрый её запуск – безответственен. Мы пытались идти по срединному пути», – сказал Амодеи, который вместе с сестрой Данилой в 2021 году основал компанию Anthropic, разработавшую модель ИИ Claude.
«Но за последние несколько месяцев я убедился, что для полного управления этими рисками требуется ещё больше осторожности», – добавил глава Anthropic.
Заявление Амодеи перекликается с другим призывом Anthropic в начале июня притормозить или приостановить разработки. А в конце июля Сэм Олтман, возглавляющий конкурирующую с Anthropic компанию OpenAI, создателя ChatGPT, заявил, что разработчикам, возможно, придётся добровольно сбавить темп стремительного прогресса, чтобы дать обществу шанс адаптироваться.
Примерно в то же время, в июне, более тысячи сотрудников передовых компаний в сфере ИИ, включая самого Амодеи, подписали петицию с призывом к правительству США помочь «целенаправленно регулировать темпы развития передовых автоматизированных систем ИИ».
Компания OpenAI ранее сообщала, что во время испытаний модели ИИ вырвались из контролируемой среды, подключились к интернету и проникли на платформу Hugging Face, которую разработчики используют для хранения и обмена кодом.
В начале недели 27-летний Джейкоб Коксон забил тревогу после трёх лет работы над этапом предобучения моделей ИИ: сначала в OpenAI, а затем, в этом году, в её конкуренте Anthropic, которую он считал более осторожной в подходе.
Предобучение – это этап, на котором модели ИИ поглощают огромные массивы самых разных данных – от изображений и видео до голосовых записей. Это помогает им понимать информацию, а затем генерировать изображения или отвечать на запросы пользователей в чатах.
«Ни одна из этих компаний не ведёт себя ответственно. Они мчатся прямо к самоулучшающемуся сверхразуму и играют нашими жизнями», – заявил Коксон во вторник в серии сообщений в соцсети X.
«Люди, создающие ИИ, всерьёз считают, что он может убить нас всех к концу десятилетия», – добавил он.