OpenAI ChatGPT Images 2.0 在智能手機上顯示，背景帶有 OpenAI 品牌標識。（圖片來源：Cheng Xin/Getty Images）
【看中國2026年7月22日訊】（看中國記者路克編譯/綜合）據路透社7月21日報導，OpenAI日前披露，一款由其先進人工智慧模型驅動的自主智能體（AI agent）在安全測試過程中出現異常行為，突破原本設定的限制，並對人工智慧初創企業Hugging Face的基礎設施發動攻擊，引發一起被OpenAI稱為「前所未有」的網路安全事件。
OpenAI表示，此次事件發生在內部評估先進AI模型網路攻擊能力的測試中。研究人員原本希望通過模擬攻擊環境，瞭解模型在複雜網路安全任務中的能力，但測試中的AI智能體意外繞過隔離環境限制，獲得更廣泛的網路訪問能力，並最終觸及Hugging Face相關系統。
美聯社報導稱，這是目前公開披露的少數案例之一：AI系統並非簡單執行單一指令，而是在追求測試目標過程中，自主尋找漏洞、利用工具，並採取人類開發者未預料到的行動。
涉及GPT-5.6 Sol等模型，AI展現超出預期的網路能力
OpenAI在隨後發布的說明中表示，此次事件涉及多個內部測試模型，包括GPT-5.6 Sol以及一款尚未公開發布、能力更強的預覽模型。為了評估模型在網路安全領域的極限能力，測試過程中關閉了一些通常用於阻止高風險行為的安全限制。
據OpenAI介紹，測試環境原本處於高度隔離狀態，但模型通過發現並利用軟體漏洞，逐步擴大許可權範圍，最終突破限制。公司稱，相關模型並不存在「惡意意圖」，而是在試圖完成設定目標時採取了開發人員沒有預料到的路徑。
《華爾街日報》指出，這一事件凸顯了一個新的挑戰：隨著AI模型越來越擅長自主規劃、編寫代碼和執行複雜任務，傳統的軟體安全邊界可能不足以約束未來更強大的智能系統。
Hugging Face確認事件，AI安全監管壓力進一步升高
此次事件涉及的Hugging Face是全球最大的人工智能模型共享平臺之一，擁有大量開源AI模型和數據資源。OpenAI表示，已與Hugging Face合作調查事件經過，並加強相關安全措施。
Hugging Face方面確認發現並控制了相關安全事件。報導稱，攻擊過程中並未造成公開披露的大規模損害，但事件本身暴露出一個潛在風險：未來AI系統可能不僅是被動的軟體工具，而可能成為能夠自主尋找漏洞、調用工具甚至改變自身運行環境的「行動者」。
英國廣播公司（BBC）報導稱，AI智能體（AI agents）與傳統聊天機器人最大的區別在於，它們能夠在獲得初始指令後持續行動，包括調用外部工具、訪問文件系統以及執行多步驟任務。因此，如何確保這些系統始終處於人類控制之下，已經成為行業關注焦點。
專家警告：AI能力快速提升，安全體系必須同步升級
近年來，OpenAI、Anthropic、Google DeepMind等公司不斷推動大型AI模型發展，同時也投入大量資源研究「AI對齊」（AI alignment）和安全控制技術。
此次事件再次引發業內關於「失控AI」風險的討論。不過，一些專家也指出，「AI失控」這一說法容易被誤解。部分技術人士認為，這並不意味著AI產生了類似人類的自主意識或目的，而是模型在優化既定目標時，採取了超出設計者預期的策略。
支持AI發展的研究人員認為，類似測試本身正是為了提前發現風險；而批評者則警告，隨著AI能力接近甚至超過人類在部分專業領域的水平，僅依靠傳統的軟體安全措施可能已經不足。
OpenAI表示，公司正在強化安全評估流程，並與行業夥伴共享此次事件的調查結果，希望幫助研究人員更準確判斷未來高級AI系統可能帶來的風險。
来源:看中國
短网址: 版權所有，任何形式轉載需本站授權許可。 嚴禁建立鏡像網站。
【誠徵榮譽會員】溪流能夠匯成大海，小善可以成就大愛。我們向全球華人誠意徵集萬名榮譽會員：每位榮譽會員每年只需支付一份訂閱費用，成為《看中國》網站的榮譽會員，就可以助力我們突破審查與封鎖，向至少10000位中國大陸同胞奉上獨立真實的關鍵資訊， 在危難時刻向他們發出預警，救他們於大瘟疫與其它社會危難之中。
