Американский производитель чипов в пятницу в Берлине представил устройство, которое называет «персональным суперкомпьютером» для новой эры ИИ.
Суперкомпьютер под названием Threadripper Halo Station был представлен на немецкой технологической выставке Internationale Funkausstellung старшим вице-президентом компании AMD Джеком Хуинем.
РЕКЛАМА
РЕКЛАМА
Threadripper Halo — это сверхмощная рабочая станция, оснащённая до 2 ТБ оперативной памяти, до 576 ГБ высокоскоростной памяти (HBM3E), 96 ядрами Threadripper Pro и двумя ускорителями для дата-центров MI350P; вся система охлаждается жидкостным контуром.
По словам Хуиня, новый суперкомпьютер — «самая мощная рабочая станция в мире», способная запускать модели ИИ с более чем триллионом параметров.
На презентации топ-менеджер AMD кратко продемонстрировал её возможности, сгенерировав по одному запросу целый трёхмерный мир и авиасимулятор.
Задача компании — перенести вычислительную мощность и ёмкость ИИ уровня дата-центров в настольный формат на фоне стремительно растущего во всём мире спроса на такие технологии.
Выход суперкомпьютера намечен на начало следующего года, однако AMD пока не раскрывает цену. Ожидается, что она может превысить 100 000 евро; устройство будет ориентировано скорее на корпоративных и институциональных заказчиков, а не на сегмент персональных компьютеров, как заявлялось изначально.
При этом устройство предоставит пользователям платформу, на которой они смогут самостоятельно разворачивать крупные языковые модели и так называемые агентные ИИ-системы, не полагаясь на всё более дорогие облачные сервисы.
Прямой конкурент Threadripper Halo Station — станция NvidiaDGX Station: обе системы позволяют запускать крупные модели ИИ в настольном форм-факторе, однако подход к решению этой задачи у них различается.
Суперкомпьютер AMD значительно превосходит соперника по объёму и пропускной способности памяти, предлагая более чем втрое большую ёмкость, чем решение Nvidia, что позволяет локально запускать модели ИИ с триллионом параметров.
Зато решение Nvidia обеспечивает более бесшовную интеграцию при переносе кода с локальной станции в облако и, что важно, уже доступно на рынке: его цена составляет около 100 000 евро.
Отраслевые аналитики рассматривают анонс AMD как возможный катализатор, который изменит расстановку сил на рынке локальных вычислений для ИИ.
По мере того как расходы на подписки на облачные ИИ-сервисы для многих компаний и учреждений растут, спрос на такие системы, как Threadripper Halo Station, позволяющие запускать крупные модели на собственной инфраструктуре, будет сохраняться.
Поэтому подход AMD, заключающийся в предоставлении вычислительной мощности уровня дата-центра на базе стандартизированных компонентов и снижении порога входа, может стать важной вехой в дальнейшем развитии сегментов ИИ и персональных вычислений.