科技龍頭攜手 共同應對AI安全挑戰洪嘉宏 (2024-07-22 16:26:49)

隨著人工智慧（AI）技術快速進步，AI安全問題成為關注焦點。c雖然生成式AI帶來創新，但也引發模型被濫用的風險，CoSAI成立正是為了解決這些挑戰，提供相關安全防護。

編譯／Cynthia

隨著人工智慧（AI）技術快速進步，AI安全問題成為關注焦點。c雖然生成式AI帶來創新，但也引發模型被濫用的風險，CoSAI成立正是為了解決這些挑戰，提供相關安全防護。

CoSAI的核心目標與計劃

CoSAI主要目標是提供減少AI風險的工具，以及標準化的防護措施，聯盟致力於建立一套完整的安全框架，涵蓋AI和軟體供應鏈的安全，以及應對變化中的網路安全挑戰。這些措施包括創建安全環境和系統檢查，主要在降低AI開發過程中的風險。透過這些計劃，CoSAI將有助於制定行業標準，推動AI技術在安全的軌道上發展。

更多新聞：超強合作！Google微軟OpenAI和輝達成立AI安全聯盟

CoSAI聯盟成員介紹

CoSAI創始成員包括 Google、OpenAI 和 Anthropic 等擁有廣泛影響力的 科技公司。除了這些主要的 AI 開發商，像 Microsoft、IBM、Nvidia 和 PayPal 這些基礎設施提供者也加入這個聯盟。這些成員在業界中具備強大的實力，他們的參與不僅提升聯盟的技術水平，也擴大其影響力。成員間的多樣合作將有助於制定更完善的 AI 安全標準，並推動最佳實踐的落實。

CoSAI的初步安全措施

CoSAI初步措施包括建立一個安全環境和檢查系統，以防止AI模型的濫用。這些措施將涵蓋設計框架來保護AI模型免受網路攻擊。透過這些安全措施，聯盟將加強AI系統的防護，確保模型在使用過程中符合安全標準。這些努力主要在預防潛在的安全威脅，保障技術的正常運作。

AI安全性問題的多樣化挑戰

AI安全問題的多樣性逐漸增加，例如社交工程攻擊和深偽影像等威脅，這些問題不僅危害企業，也對公眾造成風險，如Trend Micro和 CrowdStrike 等安全公司，現在正運用AI技術來協助企業發現並應對這些威脅。儘管AI技術帶來許多好處，但若不加以防範，可能會被濫用。因此，AI安全性問題顯得尤為重要，這促使業界加強對這些挑戰的關注。

政府倡議與未來展望

美國總統拜登已呼籲私人企業重視AI安全與倫理問題，並於 2023 年 7 月簽署行政命令，要求主要公司制定安全標準。CoSAI正與 Frontier Model Forum、Partnership on AI等組織合作，推動AI安全標準化。MLCommons 計劃於今年秋季發布AI安全基準套件，來評估大型語言模型的反應。CoSAI的持續發展預期將對AI安全性產生深遠影響，並促使未來更多合作和技術進步，確保AI技術的安全應用。

資料來源：Dark Reading

這篇文章 科技龍頭攜手 共同應對AI安全挑戰 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。