數發部升級算力池 擬砸億元經費再買AI晶片


數發部今天表示,產業AI算力平台共有64家業者申請使用,包括打造多國語言翻譯器、淹水模型等多元應用;明年規劃投入新台幣1億元經費進行平台維運、資安防護等,也會增購70片繪圖處理器(GPU)為算力平台增添火力。

數發部長黃彥男日前受訪時表示,對很多中小企業來說運用算力很困難,這項計畫是去購買GPU,讓中小企業跟新創可以免費使用,去做一些商業試驗,如果確實有商業價值,業者後續也可以再購買正式算力服務。

數發部今年起推動為期4年的數位公共建設「數位產業跨域軟體基盤暨數位服務躍升計畫」,盼為軟體產業打地基,加快AI落地應用。其中,數產署今年採用輝達的H100晶片32片、AMD的MI300X晶片8片,打造產業AI算力平台,提供業者免費申請。

數發部數位產業署說明,今年中開放業者申請算力平台,協助資服業者進行AI模型訓練,業者報名踴躍,目前有64家業者獲選使用中,其中新創公司占比逾半,應用領域廣泛,包括公益與教育、醫療健康與防災、製造與運輸業等。

至於業者運用算力平台打造哪些應用,數產署舉例,有廠商規劃打造「多國語言直譯器」,使用國語、台語、客語以及東南亞國家像是泰國跟印尼的語料庫,訓練語音模型,未來可發展多語種翻譯系統,協助新住民在台生活,有機會提供台語直譯印尼話等功能。

數產署進一步說,也有業者運用超過17萬筆降雨量、水位、雨水下水道容量、歷史洪災等數據,訓練10億參數的預測淹水模型,以提升防洪預警能力;或是規劃打造環保科技執法的輔助工具,利用3萬張露天燃燒及2萬張煙霧圖片,訓練辨識空污的AI智慧模型等。

數產署表示,建立AI算力平台的目的,短期可協助資服與新創業者進行AI模型訓練,降低業者生成式AI模型的開發成本。不過,長期會回歸市場機制,由民間業者提供持續的算力服務,促進業者未來AI應用加值服務的商業機會。

為了因應愈來愈龐大的語言模型需求,數產署說明,考量擴大對軟體資服新創的協助及訓練專屬資安模型,明年算力平台整體經費預計投入約1億元,運用在建置及維運AI算力池,涵蓋機房代管、網路頻寬、資料備份、資安防護等,也規劃採購算至少70片GPU,不過仍待立法院審議通過後才能確定最終預算規模。