【時事觀點】 Google發表AI系統的安全性概念框架

 

Google安全AI框架（SAIF）提出6項核心元素，以協助AI產業設立各種安全標準

Secure AI Framework（SAIF）是一個概念性框架，為建立和部署安全的AI系統提供清晰的行業安全標準。它受到軟體開發中的安全最佳實踐的啟發，同時結合了對AI系統特定的安全趨勢和風險的理解。

就讓我們一起來看看Google發表的安全AI框架核心元素吧！

重點摘要: 六大重要核心元素

在AI生態系統中擴展強大的安全基礎

圖片來源

這包括利用過去二十年建立的默認安全基礎架構保護和專業知識來保護 AI 系統、應用程序和用戶。 與此同時，發展組織專業知識以跟上 AI 的進步，並開始在 AI 和不斷發展的威脅模型的背景下擴展和調整基礎設施保護。 例如，像 SQL 注入這樣的注入技術已經存在了一段時間，組織可以採用緩解措施，例如輸入清理和限制，以幫助更好地防禦提示注入式攻擊。

擴展偵測和響應，將AI納入組織的威脅範圍

圖片來源

及時發現和回應與AI相關的網絡安全事件，將威脅情報和其他能力擴展到組織內。對於組織來說，這包括監控生成式AI系統的輸入和輸出，檢測異常，以及使用威脅情報預測攻擊。這需要與信任和安全、威脅情報和反濫用團隊的合作。

自動化防禦，跟上現有和新興的威脅

圖片來源

最新的AI創新可以提高對安全事件的規模和速度的應對。對手可能會利用AI來擴大他們的影響，因此利用AI及其當前和新興的能力保持機動靈活和成本效益的保護對策是很重要的。

通過統一平台級控制確保組織內一致的安全性

圖片來源

跨控制框架的一致性可以支持跨不同平台和工具的 AI 風險緩解和擴展保護，以確保以可擴展且具有成本效益的方式為所有 AI 應用程序提供最佳保護。

根據AI部署調整控制措施，創建更快的反饋循環

圖片來源

通過持續學習不斷測試實施方式，確保檢測和保護能力應對不斷變化的威脅環境。這包括根據事件和用戶反饋進行強化學習等技術，包括更新訓練數據集，對模型進行細調以戰略性應對攻擊，並允許用於構建模型的軟體在上下文中嵌入更多安全性（例如，檢測異常行為）。

在周圍的業務流程中將AI系統風險置於上下文中

圖片來源

進行與組織如何部署AI有關的端到端風險評估，以幫助做出決策。這包括評估從數據來源到驗證和操作行為監控等的端到端業務風險。

看來隨著AI的蓬勃發展之下， 安全議題也逐漸浮上檯面， 智能化的過程中也應確保人類的安全， AI的趨勢已經是正在進行式了， 而且也是一條難以停止的道路， 既然不能阻止它，就只能基於這樣的發展之下發展出一些保護網，以避免這項技術偏向負面的影響進而傷害我們人類。