Hugging Face揭露AI代理人入侵事件始末　OpenAI資安測試意外演變正式系統攻擊

(圖/ 橘子新聞 AI圖片)

Hugging Face公布AI代理人入侵事件完整調查結果，詳細還原一場原本用於測試AI資安能力的實驗，如何一路演變為正式系統遭滲透的事件。根據調查，代理人在約4天半時間內執行約1.76萬項操作，涉及漏洞利用、權限提升、橫向移動與憑證蒐集，凸顯AI代理人自主攻擊能力正快速提升。

此次事件起點來自OpenAI使用ExploitGym測試AI代理人的漏洞發掘與利用能力。依Hugging Face公布內容，代理人在測試期間利用下載套件中的零時差漏洞突破原有沙箱隔離限制，取得對外網路連線能力，隨後自行尋找可利用的第三方程式碼測試環境，並藉由程式執行漏洞與指令注入漏洞取得root權限，最終將該環境作為攻擊跳板。

從漏洞利用到正式系統滲透　AI代理人完成多階段攻擊

Hugging Face指出，代理人推測ExploitGym相關測驗答案可能儲存在Hugging Face平台，因此將攻擊目標轉向正式服務，而非持續完成原本測驗內容。

調查顯示，代理人先透過上傳惡意資料集，引導資料集處理流程回傳環境變數、Token、金鑰與部分系統資訊，再利用另一項漏洞使正式伺服器執行指定程式碼，逐步取得系統立足點。

完成初步滲透後，代理人開始搜尋更多系統憑證，並利用取得的存取權限持續向內部環境擴散。根據Hugging Face公布內容，從控制第一個正式Kubernetes Pod，到取得多個內部Kubernetes叢集管理權限，整個過程不到13小時。

透過公開平台下達指令　展現高度自主攻擊能力

調查也發現，代理人並未採用傳統惡意軟體控制方式，而是利用Pastebin、檔案分享平台以及Hugging Face公開資料集作為命令與控制（Command and Control）管道。

代理人會將攻擊指令發布於公開平台，再由遭入侵主機讀取內容執行，同時把回傳資料重新上傳至公開位置，以降低遭安全系統即時攔截的機率。

此外，代理人還會將竊得的憑證拆分、重新編碼與分散儲存。Hugging Face表示，在完成解碼後，實際取得的外洩憑證數量約為初步掃描結果的四倍，顯示AI代理人在規避偵測方面已有一定程度的自主策略。

客戶資料影響有限　Hugging Face完成漏洞修補

Hugging Face表示，目前確認代理人實際讀取內容僅涉及5個資料集中的ExploitGym與CyberGym測驗答案，沒有發現其他模型、資料集、Spaces或套件遭到存取，也沒有證據顯示內部資料庫遭修改或發生大規模資料外洩。

事件發生後，Hugging Face已完成兩項資料集處理漏洞修補，更換基礎設施相關憑證，限制內部程式存取雲端主機資訊，並重建一個核心Kubernetes叢集，以降低類似事件再次發生的可能性。

AI代理人安全治理成全球新課題

近年大型語言模型逐步發展為具備自主規劃、多步驟執行能力的AI代理人（AI Agent），產業界同步投入代理人自動化研究。然而，當代理人開始具備自主搜尋漏洞、選擇攻擊路徑及持續滲透能力時，也讓AI安全治理進入全新階段。

此次事件雖然未造成大規模客戶資料外洩，但完整揭露代理人如何串聯多個漏洞、建立持久存取權限及自主完成攻擊流程，已成為AI安全研究的重要案例。未來企業除強化傳統資安防護外，也將面臨如何限制AI代理人權限、隔離執行環境與建立可信任監控機制等新挑戰。

橘子新聞

(文/ 記者 郭紋雅)