Anthropic заявляет, что её чат-бот Claude уже курирует более четверти исследований и разработок компании, на фоне опасений, что ИИ вскоре сможет совершенствовать себя быстрее человека.
Крупная компания в сфере искусственного интеллекта Anthropic заявила в четверг, что системы ИИ всё чаще способны создавать свои будущие версии, что усиливает растущее беспокойство по поводу угроз, связанных с этой мощной технологией.
РЕКЛАМА
РЕКЛАМА
Дискуссия о рисках ИИ в последние месяцы заметно обострилась на фоне ряда инцидентов и апокалиптических предупреждений от представителей отрасли.
В Anthropic сообщили, что их чат-бот Claude сейчас отвечает более чем за четверть работ по исследованиям и разработкам и совместно с сотрудниками участвует более чем в 90% задач.
Компания пояснила, что публикует эти данные, чтобы предоставить обществу, независимым экспертам и государствам «лучшее представление о темпах развития ИИ» в тот момент, когда мир «задумывается о замедлении» этого процесса.
Глава Anthropic Дарио Амодеи в этом месяце призвал замедлить разработку ИИ: стремительный прогресс технологии подпитывает опасения по поводу потери рабочих мест, взрывного роста потребления энергии и влияния дата-центров на окружающую среду.
Опасения, что создатели ИИ-агентов могут утратить контроль над своими разработками, усилились после сообщений о том, что несколько моделей Anthropic и конкурирующей OpenAI самостоятельно вышли за пределы тестовых сред, получили доступ к интернету и вмешивались в работу сайтов и платформ.
«Модели, ускоряющие собственное развитие, могут затруднить для людей понимание или контроль таких систем», говорится в отчёте Anthropic.
«Поэтому важно делиться такими показателями, чтобы понимать, насколько мир близок к достижению рекурсивного самосовершенствования (когда модель полностью автономно создаёт своего преемника)».
По данным на август Claude ведёт 26% исследовательских и конструкторских работ Anthropic, то есть способен выполнять большую часть задачи от начала до конца под контролем человека.
В Anthropic подчёркивают, что Claude пока не может действовать «полностью автономно».
В компании также заявили, что у них работает около 30 000 ИИ-агентов, занятых исследованиями и инженерными задачами; под агентами подразумеваются боты, способные выполнять отдельные поручения.
Ожидается, что Anthropic выйдет на биржу раньше OpenAI, проведя масштабное первичное размещение акций уже в этом году, несмотря на продолжающиеся споры вокруг регулирования отрасли.