IBM企業級AI平台「watsonx.ai」已開放支援DeepSeek-R1蒸餾變體孫敬 (2025-02-17 10:30:18)

IBM近日宣布IBM的企業級AI開發平台「watsonx.ai」，已經提供DeepSeek-R1的Llama 3.1 8B與Llama 3.3 70b蒸餾版本，協助企業建置專用AI模型以便於安全推理。記者／孫敬 Archer Sun

IBM近日宣布IBM的企業級AI開發平台「watsonx.ai」，已經提供DeepSeek-R1的Llama 3.1 8B與Llama 3.3 70b蒸餾版本，協助企業建置專用AI模型以便於安全推理。

延伸閱讀：IBM聯手萊雅打造AI模型 推動化妝品更永續、創新

[caption id="attachment_164624" align="aligncenter" width="1200"]

watsonx.ai開啟企業AI治理第一步。（圖／Getty Images）[/caption]

watsonx.ai保障企業資安並推廣AI治理

IBM表示，支持DeepSeek-R1的蒸餾變體是IBM致力於AI開源創新的一部分，例如watsonx.ai平台上第三方的DeepSeek與IBM Granite模型，IBM期望繼續宣揚與培養協同合作與知識共享的文化。

IBM watsonx.ai協助企業客戶按照特定需求、使用如DeepSeek-R1與IBM Granite等開源模型，從建置環境的靈活度到建立直覺式的工作流，包括代理型AI（AI agent）的開發、微調、RAG、指令工程、及整合既有的企業應用程式等，且watsonx.ai的內建安全護欄，有效保護企業用戶的應用程式。此外，IBM watson.ai平台格式和使用者介面容易上手，以協助開發者測試與評估模型輸出，藉由連接各種向量資料庫與嵌入式模型構建RAG，來與LangChain和CrewAI等常見的框架和連接器協作。

IBM認為資料安全與AI治理，是企業在應用AI時最關心的議題。IBM watsonx.ai提供安全護欄功能之外，DeepSeek這類的開源模型在watsonx.ai上將成為企業的專屬應用，企業資料將不會在watsonx.ai以外的其他地方共享。

[caption id="attachment_164629" align="aligncenter" width="2560"]

IBM watsonx.ai Prompt Lab介面示意圖。（圖／IBM）[/caption]

企業可以藉由以下兩種方式，在watsonx.ai上使用DeepSeek的蒸餾模型：一是透過watsonx.ai的「按需部署目錄」使用DeepSeek Llama 3.1 8B與Llama 3.3 70b；二是使用自定義基礎模型導入功能導入DeepSeek-R1模型的其他變體，如Qwen蒸餾模型。

以下是從IBM watsonx的資源中心部署DeepSeek-R1基礎模型的步驟：

IBM watsonx.ai在介面上用英文斜體顯示模型的思維過程，最終輸出則用非斜體顯示；只需一個簡單的提示，該模型就能推理並規劃回應裡需要包含的各部分。

使用者也可以使用REST API在watsonx上部署R1模型，必須將bearer token和space-id等訊息改為相應憑證，當模型部署完成，使用者就可以從Prompt Lab或watsonx.ai API提示基礎模型。

若對watsonx.aiTM中的DeepSeek-R1蒸餾模型有興趣，可再點此連結試用。

這篇文章 IBM企業級AI平台「watsonx.ai」已開放支援DeepSeek-R1蒸餾變體 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。