輝達GPU晾一邊？蘋果採Google自研晶片訓練AI模型 (2024-07-30 10:20:00)

商傳媒｜記者許方達／綜合報導

蘋果即將向測試版用戶推出「Apple Intelligence」功能，正當市場引頸期盼蘋果最新AI技術的時間點，外媒根據蘋果一篇技術報告揭露，有關訓練AI模型的部分，蘋果是採用Google開發的兩種TPU(Tensor Processing Unit)，而非目前市場上最受歡迎的輝達AI處理器。

目前包含計算Google、亞馬遜和其他雲端運算公司生產的晶片在內，輝達約有80%市占；儘管在報告中，蘋果未明確表示「不採用輝達晶片」，但在AI工具和相關功能的軟硬體基礎設施描述中，確實沒有提及輝達相關產品。對於上述報導，蘋果尚未置評。

《路透》報導分析，輝達專精於廣泛用在AI工作的GPU(圖型處理器)，而非TPU設計。Google則是透過其雲端平台Google Cloud Platform，銷售能使用TPU的權限，這點和輝達獨立銷售晶片與系統的做法截然不同。在多達47頁的報告中，蘋果並沒有提到Google或輝達，而是指出其基礎模型(AFM)和AFM伺服器是在「雲端TPU叢集」上進行訓練；這也代表蘋果是向雲端業者租用伺服器以執行運算。

為了建立在iPhone和其他裝置上運行的AI模型，蘋果使用2048個TPUv5p晶片，同時為伺服器AI模型部署8192個TPUv4處理器。蘋果工程師在研究報告中指出，使用Google晶片能創造出比報告中討論的兩款模型更龐大、更複雜的模型，「這系統讓我們能夠有效率地訓練AFM模型而且可以擴容，包括終端裝置上的AFM、AFM伺服器與更大的模型」。