Наука

Huawei научилась создавать конкурентов для ИИ-систем Nvidia, но они проигрывают по эффективности и производительности

Huawei научилась создавать конкурентов для ИИ-систем Nvidia, но они проигрывают по эффективности и производительности - актуальные новости по теме Huawei на Toplenta

Краткое резюме

Huawei представила ИИ-систему CloudMatrix 384 как конкурента Nvidia GB200 NVL72. Несмотря на более низкую эффективность и производительность по сравнению с ИИ-ускорителями Nvidia, система Huawei компенсирует это за счёт масштабирования.

Китайские компании, занимающиеся производством компонентов для упаковки чипов, партнёры по средствам автоматизации проектирования и аппаратное обеспечение ИИ-серверов Huawei стали основой для формирования цепочки поставок чипов в Китае. ИИ-чипы Huawei Ascend и их поставщики рассматриваются как фундамент для создания независимой отечественной полупроводниковой экосистемы в КНР. Huawei инвестировала в более чем 60 компаний из полупроводниковой отрасли Китая через свою дочернюю компанию Hubble. В то же время местные партнёры Huawei, такие как Empyrean, разрабатывают инструменты проектирования для поддержки экосистемы программного обеспечения в сфере ИИ, которая не зависит от американских поставщиков, включая Nvidia. На Международной выставке высоких технологий в Шэньчжэне Huawei продемонстрировала результаты работы сформированной сети поставщиков на внутреннем рынке. Компания представила ИИ-систему CloudMatrix 384, которая объединяет 384 ускорителя Ascend 910C в серверных стойках и позиционируется как прямой конкурент платформе Nvidia GB200 NVL72. Несмотря на сохраняющиеся компромиссы в производительности и энергоэффективности, система CloudMatrix 384 демонстрирует значительный прогресс Huawei с момента ограничения доступа к американским технологиям и оборудованию в 2019 году. Графический процессор Ascend 910C, созданный с использованием многослойной памяти HBM2E и архитектуры нейропроцессора DaVinci, оптимизированной для ИИ-нагрузок, обеспечивает производительность до 780 TFLOPS на операциях BF16 при энергопотреблении 350 Вт. Показатели ИИ-ускорителей Nvidia на архитектурах Hopper (H100) и Blackwell (B200) выше по пиковой производительности и энергоэффективности. Однако Huawei компенсирует разницу за счёт масштабирования. Система CloudMatrix 384 объединяет 12 стоек с модулями Ascend и четыре стойки оптических соединений, формируя кластер из 384 ИИ-ускорителей с производительностью около 300 PFLOPS. При пиковой нагрузке система потребляет около 559 киловатт энергии, что почти в четыре раза превышает энергопотребление системы Nvidia DGX на базе ускорителей GB200. Китайские центры обработки данных сталкиваются с меньшими ограничениями на энергопотребление со стороны регуляторов, а стоимость электроэнергии в Китае существенно ниже, чем в США. В сочетании с масштабными поставками чипов отечественного производства это делает ускорители Ascend жизнеспособной основой для обучения передовых ИИ-моделей в Китае.

Фильтры и сортировка