7月11日(rì)，英特爾宣布面向中國(guó)市場推出第二代Gaudi深度學習加速器-HabanaGaudi2。緻力于加速AI訓練及推理(lǐ)，爲中國(guó)用戶提升深度學習性能和使用效率。
英特爾執行副總裁兼數據中心與人(rén)工(gōng)智能事(shì)業部總經理(lǐ)Sandra Rivera表示，英特爾緻力于通過爲客戶提供廣泛的硬件(jiàn)選擇，并支持開放(fàng)的軟件(jiàn)環境，加速人(rén)工(gōng)智能技術(shù)的發展。憑借包括至強可(kě)擴展處理(lǐ)器和Gaudi2深度學習加速器在内的産品組合，英特爾正在降低人(rén)工(gōng)智能的準入門(mén)檻，并強化客戶在雲端通過網絡和智能邊緣部署這一關鍵業務技術(shù)的能力，從(cóng)而幫助構建中國(guó)人(rén)工(gōng)智能的未來(lái)。
爲深度學習而生(shēng)的全新Gaudi2訓練加速器
該Gaudi2深度學習加速器暨Gaudi2夾層卡HL-225B，以第一代Gaudi高性能架構爲基礎，以多方位性能與能效比提升，加速高性能大(dà)語言模型運行。該加速器具備：
● 24個可(kě)編程Tensor處理(lǐ)器核心（TPCs）
● 21個100Gbps（RoCEv2）以太網接口
● 96GB HBM2E内存容量
● 2.4TB/秒的總内存帶寬
● 48MB片上SRAM
● 集成多媒體(tǐ)處理(lǐ)引擎
Habana® Gaudi®2深度學習加速器
Gaudi2加速器的出色性能在6月公布的MLCommons® MLPerf®基準測試1中得(de)到了充分(fēn)認證，其在GPT-3模型、計(jì)算機(jī)視覺模型ResNet-50（使用8個加速器）、Unet3D（使用8個加速器），以及自(zì)然語言處理(lǐ)模型BERT（使用8個和64個加速器）上均取得(de)了優異的訓練結果。與市場上其他(tā)面向大(dà)規模生(shēng)成式AI和大(dà)語言模型的産品相(xiàng)比，Gaudi2擁有卓越的性能與領先的性價比優勢，能夠幫助用戶提升運營效率的同時，降低運營成本。
此外，Gaudi2可(kě)爲大(dà)規模的多模态和語言模型提供出色的推理(lǐ)性能。在最近的Hugging Face評估中，其在大(dà)規模推理(lǐ)方面的表現，包括在運行Stable Diffusion2（另一個用于從(cóng)文本生(shēng)成圖像的最先進生(shēng)成式AI模型之一）、70億以及1760億參數BLOOMz3模型時，在行業内保持領先。
