另闢蹊徑戰輝達!英特爾Gaudi 3AI加速器瞄準中小型市場深耕




商傳媒|記者許方達/綜合外電報導

想在輝達(NVIDIA)稱霸的AI運算市場殺出一條血路,英特爾(Intel)選擇不再直接挑戰硬體運算能力的寶座,而是另闢一條較為冷門但具潛力的AI加速器路徑。綜合外媒報導,Intel最新推出的Gaudi 3 AI加速器,標榜其高性價比為主要賣點,特別是針對中小型企業與個人消費者,試圖擴展市場版圖。

英特爾指出,Gaudi 3系列在推論工作負載(inferencing workloads)效能可媲美輝達的H100 AI加速器,特別是在LLM(大語言模型)應用上表現較為突出。根據CRN數據顯示,相較於輝達H100,Gaudi 3的效能每美元價值可提升80%,而在Llama-2模型的基準測試中,此性價比差距更擴大到兩倍之多。這對於資金有限的AI創新企業和個人開發者來說,是一項極具吸引力的選擇。

不過,儘管Gaudi 3在推論負載中表現亮眼,但在進行浮點運算時,與輝達產品相比,還是略顯不足;這也顯示出英特爾在核心AI性能方面的限制,可能無法在短期內與輝達直接抗衡。因此,英特爾選擇不與輝達正面交鋒,而是專注於更具成本效益的AI解決方案,特別是針對那些不需要大規模數據中心運算能力的小型LLM模型。

輝達在AI硬體領域的領導地位和CUDA技術的優勢毫無懸念,更以此在市場中建立強大的「護城河」;即便如此,英特爾持續推動Gaudi 3的發展,並在企業級市場中獲得IBM Cloud、Hewlett Packard Enterprise(HPE)和Dell等公司的支持,目前上述公司已在其數據中心產品中採用Gaudi 3來運行。

市場傳出,英特爾目前正尋求出售子公司阿爾特拉(Altera)的少數股權,藉此籌集數十億美元的現金。面對艱難的財務狀況,英特爾迫切需要在AI領域找到新的立足點,Gaudi 3的市場表現將是未來觀察的重要指標。英特爾聲稱,並不打算趕搭這波主流市場的列車,從長遠來看,英特爾堅信AI狂熱和大型資料中心的熱潮一旦退去,較小的法學碩士模型將得到更廣泛的採用。