【時事觀點】 Google發表AI系統的安全性概念框架

Google安全AI框架（SAIF）提出6項核心元素，以協助AI產業設立各種安全標準

Secure AI Framework（SAIF）是一個概念性框架，為建立和部署安全的AI系統提供清晰的行業安全標準。它受到軟體開發中的安全最佳實踐的啟發，同時結合了對AI系統特定的安全趨勢和風險的理解。

就讓我們一起來看看Google發表的安全AI框架核心元素吧！

重點摘要: 六大重要核心元素

在AI生態系統中擴展強大的安全基礎

這包括利用過去二十年建立的默認安全基礎架構保護和專業知識來保護 AI 系統、應用程序和用戶。與此同時，發展組織專業知識以跟上 AI 的進步，並開始在 AI 和不斷發展的威脅模型的背景下擴展和調整基礎設施保護。例如，像 SQL 注入這樣的注入技術已經存在了一段時間，組織可以採用緩解措施，例如輸入清理和限制，以幫助更好地防禦提示注入式攻擊。

擴展偵測和響應，將AI納入組織的威脅範圍

及時發現和回應與AI相關的網絡安全事件，將威脅情報和其他能力擴展到組織內。對於組織來說，這包括監控生成式AI系統的輸入和輸出，檢測異常，以及使用威脅情報預測攻擊。這需要與信任和安全、威脅情報和反濫用團隊的合作。

自動化防禦，跟上現有和新興的威脅

最新的AI創新可以提高對安全事件的規模和速度的應對。對手可能會利用AI來擴大他們的影響，因此利用AI及其當前和新興的能力保持機動靈活和成本效益的保護對策是很重要的。

通過統一平台級控制確保組織內一致的安全性

跨控制框架的一致性可以支持跨不同平台和工具的 AI 風險緩解和擴展保護，以確保以可擴展且具有成本效益的方式為所有 AI 應用程序提供最佳保護。

根據AI部署調整控制措施，創建更快的反饋循環

通過持續學習不斷測試實施方式，確保檢測和保護能力應對不斷變化的威脅環境。這包括根據事件和用戶反饋進行強化學習等技術，包括更新訓練數據集，對模型進行細調以戰略性應對攻擊，並允許用於構建模型的軟體在上下文中嵌入更多安全性（例如，檢測異常行為）。

在周圍的業務流程中將AI系統風險置於上下文中

進行與組織如何部署AI有關的端到端風險評估，以幫助做出決策。這包括評估從數據來源到驗證和操作行為監控等的端到端業務風險。

看來隨著AI的蓬勃發展之下，安全議題也逐漸浮上檯面，智能化的過程中也應確保人類的安全， AI的趨勢已經是正在進行式了，而且也是一條難以停止的道路，既然不能阻止它，就只能基於這樣的發展之下發展出一些保護網，以避免這項技術偏向負面的影響進而傷害我們人類。

留言

這個網誌中的熱門文章

淺顯易懂的選擇權概念

圖片來源選擇權到底是選擇什麼呢？搭幾點的車？中午吃什麼？這件工作該如何下手？這些問題我想都是每個人每天會面臨的幾個選擇，除了生活會需要選擇之外，投資市場也有「選擇」概念的選擇權，那到底是在選擇什麼呢？ 📌 簡單來說就是在一段時間內選擇是否履約的權利。其實就可以將其想成訂金的概念，假設我們今天選擇站在「買方」，看到一間「預售屋(標的物) 」，預計於兩年後完工，目前的價格也非常滿意，希望完工後仍以現在的價格買進，此時雙方就會具有一個「約定(規則) 」，只要支付一定比例的「訂金(權利金) 」，就能獲得「買權」，並於「約定期間」後，以目前約定的「價格」買進，就如同底下的選擇權組成元素。圖片來源那麼對於買賣雙方來說，彼此的關係什麼？圖片來源那麼已經了解了雙方關係之後，我們再加上價格。圖片來源對於雙方來說，當約定期間之後發生了價格變化，兩邊的收益、損失又是如何呢？狀況一：當房屋市價漲到800萬時，那麼買方一定會選擇履約，此時買方的獲利為$800-$700-$10=90萬，而賣方則$700-$800+$10=-90萬。狀況二：當房屋市價跌到剩下650萬時，那麼買方評估後認為放棄履約的損失較小，此時買方只有損失訂金10萬，而賣方則獲取這10萬的訂金。圖片來源上述的例子是以買方這邊做為視角出發，而相反的我們也可以反向思考，以賣方的視角做為出發點，進行賣權的約定。總之不論如何，就是會有其中一方獲利，其中一方損失，加上時間的因素，誰都無法保證未來如何？故就是一場零和遊戲，應小心審慎注意風險。構成選擇權的四個象限前面都在說明選擇權的基本概念，當我們了解選擇權大致上是在做什麼之後，接著就進入正題，我們將人物區分為買方與賣方，一樣照上面的邏輯套用到選擇權市場中，可以發現到會有以下四個象限。圖片來源站在買方的立場，有點類似買樂透的概念，以小博大，損失有限，而賣方的立場就是保險公司，負責收取保費，一旦發生事情便支付理賠金，因此獲利有限，風險無限，乍看之下是不是站在買方比較有利，但我們要思考一件事情，那就是股市常常處於盤整階段，並不會短期間暴漲暴跌，因此以統計來說，反而是賣方會有比較平穩的收益，這也就是為什麼常常散戶在買方，而法人站在賣方。那操作選擇權有什麼好處呢？ ...

閱讀完整內容

【商業與行銷系列】讓消費者感受物超所值的訂價策略

錨定訂價法我們的生活中應該常常看到促銷、周年慶...等活動，通常小資族的我們都會選擇在折扣的日子去進行消費，讓我們思考一下，為什麼要特別將原價標示出來呢？腦海中進行比較的過程中，會拿一些特定的數值來進行比較，並決策是否購買，因此業者才會提供原價跟打折後的價格，讓我們更容易下定決心購買，創造雙贏，消費者認為賺到，賣家多銷售一件商品。畸零訂價法我們的大腦通常在看複雜的數字時會利用整數來進行標準與比較，例如底下有一個商品$300，另一個商品標價$299，通常我們的第一印象就是3與2的差異，因此明明只差1元，確讓人感覺起來差很多。三欄式定價提供消費者三種不同規格的價格，讓消費者可以根據自身需求來決策，就像有些人覺得50吋太大太貴，那麼就可以選擇較低一皆的40吋，那有些人可能覺得24吋太小，因此可能傾向往上一點的40吋，透過三個等級的訂價法讓消費者更容易進行比較與決策。結語不同的訂價方式可以讓消費者感受大不同，透過一點點訂價技巧讓成本在控制範圍內，也吸引消費者購買意願，以上介紹的訂價技巧相信我們在日常生活中應該常常見到，這也就是為什麼有些東西都要賣$99，或者打著年終大特賣，把很高的價格劃掉透過折扣讓我們感覺到撿便宜，進而購買，如果我們能夠在開店前先了解這些訂價策略，那麼相信在開店後會相對順利。如果你有更多的商業訂價策略，歡迎留言在底下，讓我們一起學習商業訂價知識。 📝 商業與行銷系列【商業與行銷系列】 Link in bio 是什麼？背後蘊含什麼商業價值？喜歡撰寫文章的你，不妨來了解一下：「 Web3.0時代下為創作者、閱讀者打造的專屬共贏平台 - 為什麼要加入？」歡迎加入一起練習寫作，賺取知識，累積財富！ 📚 如果想看更多精選文章，或者關於我的相關資訊請來這裡... 💬 如果您有任何問題，也歡迎底下留言告訴我，讓我們一起學習 💬

閱讀完整內容

【時事觀點】 LLM大型語言的幻覺可助長惡意套件散布

當無辜的AI技術成為駭客幫凶時，對於過度依賴於AI的我們又有什麼影響呢？相信近來，大家不論在工作、生活、娛樂都已經大量的使用ChatGPT來輔助我們了，也發覺到奇怪，怎麼常常答非所問甚至答案可能都是用猜測的，它剛開始讓我們感覺是無所不能的知識博士，但實質上在零背景知識底下可能引發出一本正經胡說八道的幻覺，而這種幻覺產生出來的回答可能被有心人士拿來利用，比如說開發人員詢問一個關於URL的處理套件，可能由於訓練的語料仍未更新，因此回答出舊有的錯誤資訊，輕則影響當事人的判斷決策資訊，重則被有心人士利用，製作有害的套件庫讓開發人員使用，進而引發更大的連鎖效應。就在2023/06/10時發布了這樣的消息，Vulcan安全風險管理廠商研究報告指出Chatgpt的幻覺將為開發人員帶來系統開發的漏洞… 來源： Researchers Warn That ChatGPT Can Be Used To Spread Malicious Code 安全風險管理廠商Vulcan怎麼做圖片來源首先，它們蒐集了許多程式語言開發的問題，將問題縮小到「如何做？」，在最短的時間內獲得最多的不存在套件回答，獲得這些套件之後，接下來… 高達 35 ％的套件庫都是幻覺的圖片來源 “在 Node.js 中，我們提出了 201 個問題，並觀察到其中超過 40 個問題引起了至少一個尚未發布的包的響應。我們總共收到了 50 多個未發布的 npm 包。在 Python 中，我們提出了 227 個問題，其中 80 多個問題，我們至少收到了一個未發布的包，總共提供了 100 多個未發布的 pip 包。” 概念驗證這個程式將會將裝置的主機名稱、套件來源以及包含模組檔案的目錄絕對路徑傳送到威脅角色的伺服器… 接著，一位「受害者」出現，問了和攻擊者相同的問題，ChatGPT建議了包含「惡意」程式碼的套件以及如何安裝它，確實如預期，該套件被安裝並啟用。研究人員解釋了接下來發生的事情：「受害者按照ChatGPT的建議安裝了惡意套件，攻擊者根據我們對node index.js的預安裝呼叫，從受害者那裡收到了資料，其中包括了長主機名稱。」雖然並不構成真正威脅，但這樣的概念展示已經證明了攻擊的可行性，因此我們開發或者使用時也應該非常小心， ...

閱讀完整內容

微知識引擎，共同打造無窮複利

搜尋此網誌

【房止無知】建築用地甲乙丙丁，傻傻分不清楚？