人工智慧(AI)晶片大廠輝達(NVIDIA)今天表示,AI推論加速平台Groq3LPX已全面量產。這代表輝達透過與Groq技術授權交易所取得的技術正式邁向商業化;Nebius則成為首家採用輝達Groq3LPX的AI雲端服務商。
輝達去年取得Groq推論技術授權並延攬其核心團隊,今年3月發表Groq3LPU推論晶片;今天宣布搭載256顆Groq3LPU晶片的Groq3LPX機櫃全面量產。
Groq3LPX機櫃專為強化VeraRubin平台的互動效能而設計,讓AI代理更快回應並完成複雜任務。輝達積極推動這款產品量產並提供給客戶,凸顯低延遲推論的重要性。
輝達透過新聞稿表示,根據ArtificialAnalysis的基準測試,Groq3LPX在代理式程式設計及其他對延遲高度敏感的工作負載中,展現「世界級速度」。
輝達目前正擴大VeraRubin平台產能,執行長黃仁勳3月在GTC技術大會表示,Blackwell與VeraRubin兩代產品從2025年至2027年的累計營收,預估至少達到1兆美元。
另外,輝達今天也宣布,SpaceX執行長馬斯克(ElonMusk)旗下SpaceXAI採用輝達VeraCPU,加速大規模代理式AI運算。VeraCPU為首款專為AI代理設計的CPU。
SpaceXAI計劃透過輝達VeraRubin平台,擴充支援AI模型Grok的AI基礎設施,並將經過最佳化的VeraRubinNVL72系統延伸至太空,應用於第一代Starmind衛星。
輝達將於美國時間26日發布2027財年第2季財報。