導入AI請先等一下 這些漏洞要先補李佩璇 (2024-09-22 12:15:00)

隨著AI技術的快速發展，許多企業為了在市場中搶佔先機，急於導入AI應用，卻忽視了強化資安的必要性。根據Orca Security的分析，許多公司在開發AI應用時未遵循安全強化指南，導致其AI模型和數據面臨重大曝露風險。

編譯／Cynthia

隨著AI技術的快速發展，許多企業為了在市場中搶佔先機，急於導入AI應用，卻忽視了強化資安的必要性。根據Orca Security的分析，許多公司在開發AI應用時未遵循安全強化指南，導致其AI模型和數據面臨重大曝露風險。分析還指出，許多雲端基礎設施存在配置錯誤和未加密數據，使得這些企業的資安防護顯得薄弱，容易成為駭客攻擊的目標。故企業在推進AI應用的同時，必須提高對資安問題的警覺。

AI工具部署中的安全問題

在部署AI工具的過程中，許多企業常常使用預設的不安全設置，這樣做大幅增加潛在的漏洞風險。根據Orca Security的分析，許多企業所使用的AI軟體套件存在已知的安全漏洞，並且缺乏足夠的加密措施和角色權限管理。這使得企業的數據和模型更容易受到外部攻擊，甚至可能導致敏感資料外洩。因此，企業應在AI應用的早期階段就重視安全設置，確保未來能有效降低資安威脅。

更多新聞：雲端AI服務漏洞多 企業備好防堵了嗎

企業急於部署AI技術的現況

根據最新分析，企業中有56%已在雲端環境中部署AI模型，主要來自於知名的服務平台，如Azure OpenAI和Amazon SageMaker等。尤其是熱門的AI模型，像是GPT-35和GPT-4，分別被79%和56%的企業廣泛採用。令人擔憂的是，許多企業在使用這些先進技術時，並未及時修補安全漏洞。這種急於求成的做法，雖然可能在短期內獲得市場優勢，卻也讓資安風險進一步升高，成為潛在的威脅。

AI模型面臨的安全威脅

企業的AI模型和數據正面臨多種攻擊風險，包括數據污染、模型逆向工程和加密勒索攻擊等。這些攻擊不僅可能造成企業巨額資金損失，還會損害其信譽。此外，過度的權限設置、未加密的數據存取，以及使用預測性命名的雲端儲存服務S3（Simple Storage Service）中的儲存區等問題，都會進一步增加被攻擊的風險。根據Orca的報告，有20%的企業曝光OpenAI的API密鑰，使得這些企業更容易成為網路攻擊的目標。因此，企業應加強對AI配置的管理，降低潛在的資安風險。

加強AI安全性的建議

為了提升AI的安全性，企業應首先檢查並改善預設設置，並採用雲端服務提供商的最佳安全作法。另外強化漏洞管理非常重要，企業需將機器學習框架和自動化工具納入漏洞管理計畫，並及時進行修補。限制AI資產的網路存取範圍，以及使用自我管理的加密金鑰，對保護AI模型和數據的安全性也至關重要。透過這些措施，企業可以有效降低資安風險，確保AI應用的安全與可靠。

資料來源：CSO Online

※探索職場，透視薪資行情，請參考【科技類-職缺百科】幫助你找到最適合的舞台！

這篇文章 導入AI請先等一下 這些漏洞要先補 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。