專案概觀
OWASP AI Exchange 自稱為「全球 AI 安全指南」:一套開放授權、超過 300 頁,涵蓋實務威脅與控制措施、用於保護 AI 與機器學習系統的框架。它同時是全球性的智庫,也是輸入國際 AI 安全與隱私標準的關鍵開源來源,扮演「連接組織」(connective tissue)的角色。
其內容以 CC0 1.0 釋出 —— 一種公眾領域宣告(public domain dedication),任何人皆可自由複製、修改與再利用,無需署名(歡迎但不強制標示來源)。正是這種極寬鬆的授權,讓它得以成為正式標準的原始素材。
- 由 Rob van der Veer 於 2022 年 10 月 22 日創立(最初名為「AI 安全與隱私指南」)。
- 於 2025 年 3 月獲頒 OWASP 旗艦專案(Flagship)地位。
- 由 70 多位精選專家共同維護:研究人員、實務工作者、廠商與資料科學家。
威脅與控制措施架構
此框架沿 AI 生命週期對應威脅,並為每項威脅搭配控制措施,組織成數個深入章節:一般(治理)控制、使用階段威脅(輸入威脅)、開發階段威脅、執行階段傳統資安威脅,另含 AI 安全測試與 AI 隱私。
- 開發階段威脅:訓練資料下毒(data poisoning)、模型下毒(model poisoning)、供應鏈遭破壞,以及工程環境中的開發階段資料外洩。
- 執行/使用階段威脅:規避攻擊(對抗式輸入)、提示注入(直接與間接)、模型竊取/萃取、敏感資料揭露與成員推斷(membership inference),以及 AI 資源耗盡(模型 DoS)。
- 執行階段傳統資安:套用於 AI 資產的傳統 IT 攻擊,包含透過模型輸出進行的注入攻擊。
- 一般治理控制:AIPROGRAM、SECPROGRAM、DEVPROGRAM、SECDEVPROGRAM、CHECKCOMPLIANCE、SECEDUCATE,並包含限制不當模型行為與資料最小化。
- 開發階段控制:開發環境安全、資料隔離/保護、聯邦式學習(federated learning)與供應鏈管理。
- 執行階段應用控制:模型與輸入輸出完整性、模型機密性、存取控制、速率限制、輸入驗證與輸出過濾。
- 資料科學防禦:訓練資料強化(抗下毒)、對抗式/規避攻擊韌性、模型集成(ensemble)與品質控管。
輸入全球標準
由於採用 CC0 授權,AI Exchange 得以作為「標準輸入來源」:其內容被直接貢獻進正式的 AI 安全與隱私標準,創辦人 Rob van der Veer 於相關組織擔任聯絡官(liaison officer)與共同編輯。
- ISO/IEC 27090(AI 安全指引):貢獻約 70 頁內容;預計 2026 年發布。
- ISO/IEC 27091(AI 隱私):制定中,OWASP 參與工作小組。
- 歐盟 AI 法案 / CEN-CENELEC prEN 18282(AI 安全):OWASP 大幅貢獻內容;van der Veer 擔任共同編輯;2026 年初進入公眾諮詢。
- OWASP 與 CEN/CENELEC 建立正式聯絡夥伴關係,並獲歐盟會員國一致通過。
- 與 NIST、ENISA 對齊,並透過 OpenCRE 在全球串接各項資安標準。
AI Exchange 與 OWASP GenAI Security Project(LLM Top 10 的所屬專案)互補:兩者互相交叉引用,AI Exchange 提供涵蓋所有 AI 類型(包含預測式 ML)、達標準等級的廣度與深度,而 GenAI 則聚焦生成式 AI 與代理式(agentic)威脅。
如何運用
團隊可將 AI Exchange 作為單一參考來源,用以建立 AI 安全計畫、進行威脅建模、選擇控制措施並為法規合規做準備。互動式 Navigator(導覽圖)呈現威脅、控制、風險與控制類型之間的關係,讓使用者能從某項風險逐層鑽研到具體緩解措施。
- 將你的 AI 使用情境對應到開發階段與執行階段威脅,再挑選對應的控制措施。
- 把它當作法規橋樑 —— 其內容支撐即將發布的歐盟 AI 法案與 ISO 標準。
- 搭配 OWASP GenAI/LLM Top 10,補強生成式 AI 專屬的風險認知。
發展歷程
- 2022 年 10 月:由 Rob van der Veer 以「AI 安全與隱私指南」之名啟動。
- 2023 年:更名為「AI Exchange」,強調全球協作與標準對齊。
- 2025 年 3 月:獲頒 OWASP 旗艦專案地位(與 GenAI Security Project 同時)。
- 2025–2026 年:迅速成長為輸入 ISO/IEC 與歐盟 AI 法案標準的開源橋樑。
全球 AI 安全指南 —— 連結實務工作者、研究人員、產業與政策制定者,為 AI 安全帶來清晰方向。