爭優勢針對人工智慧模式的駭

[si.nf.o.2.69]

這項發現可能會對商業人工智慧開發帶來挑戰OpenAI Anthropic 和Google等公司已經在專有模式上投入了大量資金。然而專家表示此類技術的現實影響和防禦措施仍不清楚。 CUDO Compute 首席行銷長 Lars Nyman 告訴 PYMNTSAI 盜竊不僅僅是失去模型。這是潛在的連鎖損害即競爭對手利用研發監管機構多年來對客戶敏感智慧財產權訴訟的處理不當進行調查這些客戶突然意識到你的人工智慧「獨特性並不那麼獨特」。如果有的話這種竊盜保險趨勢可能會為類似於 SOC 或 ISO 認證的標準化審核鋪平道路以區分安全參與者和魯莽參與者。

隨著企業依靠人工智慧來獲得競客對商業構成 whatsapp 號碼數據 了越來越大的威脅。最近的報告顯示數千個惡意檔案已上傳到 Hugging Face（人工智慧工具的關鍵儲存庫）危及零售物流和金融等行業使用的模式。國家安全專家警告說薄弱的安全措施可能導致專有系統被盜正如 OpenAI 洩漏事件中所見。被盜的人工智慧模型可以被逆向工程或出售從而削弱企業投資並侵蝕信任同時使競爭對手能夠實現跨越式創新。人工智慧模型是一種數學系統經過資料訓練來識別模式並做出決策就像食譜一樣告訴電腦如何完成特定任務例如識別照片中的物件或編寫文字。




暴露的人工智慧模型北卡羅來納州立大學的研究人員展示了一種提取人工智慧模型的新方法透過從處理硬體捕獲電磁訊號來實現高達 % 的準確度。透過將探針放置在 Google Edge 張量處理單元 TPU 附近他們可以分析揭示模型結構關鍵資訊的訊號。據推測該攻擊不需要直接存取系統從而對人工智慧智慧財產權構成安全風險。調查結果強調隨著人工智慧技術在商業和關鍵系統中的使用需要改進保障措施。人工智慧模型很有價值我們不希望人們竊取它們該研究論文的合著者、北卡羅來納州立大學電氣和計算機工程副教授艾丁·艾蘇（Aydin Aysu）在部落格文章中表示。