另闢蹊徑戰輝達！英特爾Gaudi 3AI加速器瞄準中小型市場深耕 (2024-10-18 11:58:34)

想在輝達(NVIDIA)稱霸的AI運算市場殺出一條血路，英特爾(Intel)選擇不再直接挑戰硬體運算能力的寶座，而是另闢一條較為冷門但具潛力的AI加速器路徑。綜合外媒報導，Intel最新推出的Gaudi 3 AI加速器，標榜其高性價比為主要賣點，特別是針對中小型企業與個人消費者，試圖擴展市場版圖。

英特爾指出，Gaudi 3系列在推論工作負載(inferencing workloads)效能可媲美輝達的H100 AI加速器，特別是在LLM(大語言模型)應用上表現較為突出。根據CRN數據顯示，相較於輝達H100，Gaudi 3的效能每美元價值可提升80%，而在Llama-2模型的基準測試中，此性價比差距更擴大到兩倍之多。這對於資金有限的AI創新企業和個人開發者來說，是一項極具吸引力的選擇。

不過，儘管Gaudi 3在推論負載中表現亮眼，但在進行浮點運算時，與輝達產品相比，還是略顯不足；這也顯示出英特爾在核心AI性能方面的限制，可能無法在短期內與輝達直接抗衡。因此，英特爾選擇不與輝達正面交鋒，而是專注於更具成本效益的AI解決方案，特別是針對那些不需要大規模數據中心運算能力的小型LLM模型。

輝達在AI硬體領域的領導地位和CUDA技術的優勢毫無懸念，更以此在市場中建立強大的「護城河」；即便如此，英特爾持續推動Gaudi 3的發展，並在企業級市場中獲得IBM Cloud、Hewlett Packard Enterprise(HPE)和Dell等公司的支持，目前上述公司已在其數據中心產品中採用Gaudi 3來運行。

市場傳出，英特爾目前正尋求出售子公司阿爾特拉(Altera)的少數股權，藉此籌集數十億美元的現金。面對艱難的財務狀況，英特爾迫切需要在AI領域找到新的立足點，Gaudi 3的市場表現將是未來觀察的重要指標。英特爾聲稱，並不打算趕搭這波主流市場的列車，從長遠來看，英特爾堅信AI狂熱和大型資料中心的熱潮一旦退去，較小的法學碩士模型將得到更廣泛的採用。