資安不容忽視！生成式AI加速網攻進程 2023身分詐欺TOP5曝光王 佐銘 (2024-04-17 03:14:03)

CNEWS匯流新聞網記者王佐銘、胡照鑫／台北報導

資策會產業情報研究所（MIC）於本月16日至18日舉辦一場為期三天的「37th MIC FORUM Spring」智賦研討會，本次研討會以AI為主軸，深入探討了AI時代下的產業前瞻趨勢、治理挑戰、商機發展以及資安防護策略。今（17）日，財團法人資訊工業策進會產業求報研究所資深產業分析師徐暐釗針對「生成式AI風潮下關鍵資安議題分析」提出一系列問題與相對應防範措施，以應對AI時代下的資安挑戰。

徐暐釗指出，AI的快速發展不僅為各行業帶來了新的應用前景，也同時帶來了新的資安挑戰。舉例來說，今年3⽉28⽇⼩米新⾞發布會，線上轉播時，集團董事⻑雷軍多次呼喚⼩米的智慧⾳箱「⼩愛同學」，導致線上觀眾家中的⾳箱全被喚醒，⼀時間對伺服器形成DDoS攻擊，造成服務中斷，這種全新的攻擊情境顯示了AI應用所面臨的資安風險。

而關於AI的資安風險，徐暐釗表示，包括了偏誤、隱私、規範挑戰、不可預測、不透明、資料汙染、實作問題、系統缺陷等，加強防護措施，以確保資訊安全；除此之外，研討會還探討了AI模型生命周期中的重大威脅，如資料處理、模型訓練、模型部署等階段可能面臨的攻擊風險，並提出了相應的防護建議。同時，還分享了Nightshade投毒圖像技術、開源供應鏈惡意風險、AI蠕蟲攻擊等最新的資安議題，引發與會者的高度關注和討論。

徐暐釗指出，⽣成式AI加速攻擊產⽣、打擊⾯更廣泛。⽬前駭客應⽤AI是輔助性質，影響較⼤為網路釣⿂與DeepFake攻擊，對其它攻擊尚未出現質變性的影響，但駭客可以利⽤AI快速學習技術與服務內容，加速了整體攻擊威脅進展。

徐暐釗提到，根據研究顯示，2023年前5名的⾝份詐欺類型分別為⼈⼯智慧詐欺、⾦錢洗錢網路、假⾝分證、帳⼾接管和強制驗證等，因此資安不但是AI監管的核⼼議題，更是國安問題，所以保障AI系統的安全性與可靠性是刻不容緩的任務。

徐暐釗呼籲，企業需制定各種策略、流程，以產出滿⾜法規要求的評測、透明度報告。過去⼀年，AI治理、風險及法遵(GRC)這類整合型資安新創成⻑最多，偏重於模型開發階段與攻擊偵測的新創公司，也因為法遵需求，⽽發展全⾯性解決⽅，這將成為防護方案新趨勢。

照片來源：CNEWS匯流新聞網記者王佐銘拍攝

《更多CNEWS匯流新聞網報導》

【MIC智賦3-1】2024年資通訊產業整體環境與產業關鍵 AI主導下的新機遇與挑戰

【MIC智賦3-2】走出高庫存陰霾 2024半導體供應鏈迎來復甦

【文章轉載請註明出處】