企業將資料中心打造成AI工廠的關鍵彭夢竺 (2024-12-18 15:07:32)

AI浪潮席捲全球，新一波產業革命也隨之而來。傳統上，晶圓廠將原料轉化為基本元件，而工廠負責產品組裝。然而，AI工廠和晶圓廠帶來了全新的產品創造和創新方式，並有望徹底改變軟體開發、所需資源以及管理方式。這些變革將改變企業的營運方式，並提升其創造和傳遞的價值。文 / 江偉儀（Hitachi Vantara台灣區總經理）

AI浪潮席捲全球，新一波產業革命也隨之而來。傳統上，晶圓廠將原料轉化為基本元件，而工廠負責產品組裝。然而，AI工廠和晶圓廠帶來了全新的產品創造和創新方式，並有望徹底改變軟體開發、所需資源以及管理方式。這些變革將改變企業的營運方式，並提升其創造和傳遞的價值。

[caption id="attachment_155938" align="aligncenter" width="977"]

Hitachi Vantara使用GenAI助理（GenAI copilots）和大型語言模型（LLM）來支援公司客戶服務、行銷和業務團隊。（圖／Hitachi Vantara提供）[/caption]

AI和生成式人工智慧（GenAI）為企業帶來許多機遇

如今企業開始利用GenAI來提高生產力。例如，Hitachi Vantara使用GenAI助理（GenAI copilots）和大型語言模型（LLM）來支援公司的客戶服務、行銷和業務團隊。麻省理工學院和史丹佛大學的聯合研究顯示，GenAI能使客服人員每小時解決的問題數量增加14%，並讓新進和較低技能之員工的生產力提升34%。

更多新聞：台積電在泰國投資獲重大激勵 砸3億美元興建2座晶片廠

GenAI和AI也改變了軟體的開發和運作方式。在GenAI的輔助下，軟體工程師的生產力可以大幅提升。麥肯錫研究指出，藉由GenAI的協助，軟體開發人員可以用一半的時間完成程式碼功能文件化，以提升可維護性（即程式碼未來改進的容易度），用將近一半的時間編寫新的程式碼，並用約三分之二的時間優化現有程式碼（即程式碼重構）。

此外，企業也開始在其開發的軟體中嵌入AI和機器學習（ML），以便根據對客戶和使用案例的動態理解做出更精準的決策，而非僅仰賴靜態經驗法則。

隨著企業組織採用GenAI並擴大應用，且更頻繁地使用內建AI和ML的軟體，他們需要謹慎評估該如何建置IT基礎架構，以確保擁有所需的基礎運算能力和靈活性。這正是企業與值得信賴的合作夥伴攜手，全面升級和現代化其基礎架構的最佳時機。

企業需要多方協作以成功實現AI和GenAI目標

企業需要大量的基礎硬體和軟體來驅動AI和GenAI，以使用這些技術達成目標。這也催生出在整個產品生命週期以及企業營運方式中建立高度整合流程的需求。

企業及其主要合作夥伴必須確保自身及供應鏈中的每個供應商都遵守所有相關要求，並採取最適合企業AI部署模式的實作方式。這包括遵循正確流程，並對他們使用的材料、製造流程、軟體設計方式以及解決方案的運輸和交付方式進行制衡。由於GenAI需要大量的運算和儲存資源，因此一致性和緊密整合尤為重要。若不加以控管，可能會導致運算成本、能源使用和碳排放失控。

近期一則媒體報導指出，用於資料中心的某個NVIDIA Blackwell晶片版本會消耗1200瓦特的電力。與幾年前相比，這是相當高的數字。GenAI以及實現 GenAI應用的AI晶圓廠和工廠將需要依賴大量的運算、互連網路和儲存設備，以將龐大的資料集連結至運算資源。這意味著企業組織需要借鏡FedEx的配送模式來優化運作，包括選擇最佳路線和採取其他措施，以確保及時交付，同時減少燃料消耗和成本，並限制碳排放。

企業採用GenAI並轉型為AI工廠時的關鍵考量

雖然AI被視為一種工作負載（或一系列的工作負載），但我們也需了解GenAI創造的工作負載與過往所見大不相同。大家都在摸索中學習GenAI，但可以肯定的是，企業必須改變建構基礎架構的方式，以應對這些新型工作負載。然而，建置適當的基礎架構並非易事。雖然大部分基礎架構將位於雲端，但本地端基礎架構也有其作用。如何在雲端和本地端建置最合適的系統以優化效率將需要大量的分析和專業知識，因此企業需慎選合作夥伴，以確保對GenAI的投資能夠成功。選擇具備創新能力，並在部署和運行關鍵任務基礎架構方面擁有豐富經驗的合作夥伴將能協助企業充分發揮GenAI的價值。

GenAI優化是一個需反覆進行的過程，沒有快速的解決方案。企業應採用能簡化基礎架構和自動化的解決方案，並選擇有能力協助處理所有環節的合作夥伴，從資料準備（包括移除不必要的資料和混淆敏感資料）、把資料整合至可擴展、靈活且具成本效益的資料儲存系統，到ＡI模型訓練和推論，皆能一手包辦。企業與該業務領域擁有豐富經驗，並能協助處理未來以資料為中心之工作流程的可靠夥伴合作是邁向成功的關鍵。

AI和GenAI都與資料密不可分。因此，企業需確保擁有最相關和最完整的資料，以及能夠存放與保護資料的正確資料基礎架構。

企業若能使用正確的方法和資料基礎架構來支援GenAI和AI工作，必能打造成為一個AI工廠，並利用軟體優化營運效率、創造產品差異化，進而推動業務增長。

這篇文章 企業將資料中心打造成AI工廠的關鍵 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。