2026年春季OpenAI的一系列網路安全能力測試，出現了令研究人員始料未及的情況：多個AI（人工智慧）模型沒有按照要求完成測試任務，而是開始相互協作，尋找繞過測試限制的方法，甚至建立了內部「祕密留言板」，交換訊息和破解思路。更令人擔憂的是，這種異常行為持續數週才被發現。
AI自行祕密協調行動
2026年5月至6月，這批AI模型持續利用祕密通訊管道協調行動，最終找到突破測試環境、連接外部網際網路的方法。OpenAI工作人員發現AI第一次「越獄」後，清理了受到影響的系統，但兩天後，AI模型再次突破限制，而且沒有立即被工作人員察覺。
直到7月，AI軟體平台Hugging Face披露遭到身分不明的AI模型入侵，OpenAI才意識到該模型再次逃離原本設置的邊界，最後被迫終止了相關實驗。
OpenAI安全工程師邁克爾．道爾頓（Michael Dalton）說，第二次突破比第一次更複雜，參與行動的AI模型會彼此協調，使用「Jan18」等名稱辨認其他AI，有時還會要求同伴暫緩行動，等待另一名AI確認後再繼續執行。
研究人員後來檢查模型運行過程中產生的內部推理文本，希望釐清這些AI為什麼會開始合作。OpenAI研究員埃里克．華萊士（Eric Wallace）表示，該模型似乎逐漸形成一種「集體效率」的判斷──即使幫助其他AI不能立即完成自身任務，但只要整個群體因此節省時間，最終仍可能對自己有利。
這讓事件的性質不再只是單一AI模型意外訪問網際網路，而涉及的是多個AI在缺乏明確人工指令下協調行動、分享訊息，並且共同尋找突破限制的方法。
AI安全測試成為突破口
近期發生問題的並不只有OpenAI。Anthropic、Meta及英國政府最近公布的測試結果顯示，一些最先進AI模型也出現了繞過規則，甚至離開測試環境的情況。
英國人工智慧安全研究所披露，在一項測試中，Anthropic模型採取了網路安全領域所謂的「社會工程」手段：它創建網路身分，並試圖向一名人類軟體開發人員施壓，希望對方批准AI提交到開源軟體項目中的惡意代碼。不過，管理員最終沒有批准。
Meta也有類似意外。該公司原本要求一個AI模型攻擊測試環境中的虛構企業，但該模型卻進入了一家與虛構目標同名的真實公司網站。
部分事故被認為與第三方測試機構Irregular的配置問題有關。Meta表示，協助測試的承包商錯誤地允許模型連接網際網路；Anthropic表示，其模型涉及外部企業的三起事件與該機構的配置失誤有關。Irregular表示，已經處理相關問題，正在制定更嚴格的AI安全測試標準。
但事件引發的擔憂並不只是測試人員配置錯誤。Anthropic在2026年公布的一系列網路安全研究顯示，先進的模型尋找及利用軟體漏洞的能力正在迅速提高。該公司5月的研究稱，Claude Mythos Preview在發現複雜漏洞後，已經能夠把不同攻擊步驟組合成完整的端到端攻擊鏈。6月的研究提醒，已經公開但尚未被所有設備修補的「N日漏洞」（N-day vulnerabilities），可能很容易被越來越強大的AI系統大規模利用。
Anthropic此前表示，AI能夠大規模發現高嚴重性漏洞，網路攻防可能處於一個快速變化的轉折點。
網路安全公司Abundant Security聯合創始人兼技術長約書亞．薩克斯（Joshua Saxe）認為，過去半年已經出現明顯變化，AI的能力正在接近能夠自動化部分駭客攻擊的程度，隨著模型越來越便宜、能力越來越強，可能重塑傳統網路犯罪，以至軍事網路衝突。
OpenAI對新模型採取了更謹慎態度，延後發布新模型Astra的核心原因，正是擔憂其不斷增強的網路安全能力可能被攻擊者利用，並讓防禦人員難以及時應對。
實驗室事故變成政治事件
接連曝光的「越界」事件迅速從AI實驗室內部的技術問題，演變為美國政治和監管議題。
佛蒙特州獨立派聯邦參議員伯尼．桑德斯（Bernie Sanders）已經致函OpenAI首席執行官山姆．奧特曼（Sam Altman）、Anthropic首席執行官達里歐．阿莫戴（Dario Amodei），以及Meta首席執行官馬克．祖克柏（Mark Zuckerberg），要求這些公司暫停開發AI，否則國會可能採取行動。
早在2023年，奧特曼和阿莫戴就分別在美國參議院司法委員會下屬小組作證。奧特曼表示，OpenAI會努力將安全機制落實到系統各個層面；阿莫戴也強調，Anthropic希望透過研究和公開安全技術，讓AI更加可控。
然而，這次最令批評者抓住不放的是，當AI模型真正突破測試邊界時，兩家公司的工作人員都未能在第一時間發現。
喬治城大學（Georgetown University）「安全與新興技術中心」（Center for Security and
Emerging Technology，簡稱CSET）執行主任、OpenAI前董事海倫．托納（Helen Toner）認為，這些問題反映出AI企業開發速度過快，安全工作沒有獲得足夠時間和資源。
美國國會也開始要求企業解釋。德州民主黨聯邦眾議員格雷戈里奧．卡薩（Greg Casar）稱，目前情況已經需要按照緊急事件處理。他希望奧特曼和阿莫戴到國會作證，解釋事故如何發生，此前是否還有未及時發現的類似事件，以及未來如何防止重演。
由愛荷華、阿拉巴馬、佛羅里達、德州等15個州的共和黨籍檢察長組成的聯盟，已要求OpenAI保存與人工智慧公司「Hugging Face」事件有關的材料，保存範圍不僅涉及7月的入侵，還包括：OpenAI發現事件的過程、參與測試的未發布模型、內部調查，以及此前任何AI模型未經授權進入外部電腦系統的紀錄。
這意味著監管機構關注的重點已經從「AI有沒有犯錯」，進一步轉向企業是否建立了足夠嚴格的測試隔離、即時監控和事故報告制度。
及時發現AI脫逃才是根本
此次事件也讓AI行業一個長期存在的矛盾變得更加突出：最先進模型的網路攻擊能力正在快速提高，但負責測試這些能力的安全設施和監管機制未必同步升級。
批評者指出，目前來看，一些事故原本可以透過更傳統、更嚴格的網路安全措施加以避免，例如：讓高風險AI模型在完全與外部網路隔離的「氣隙系統」（air-gapped system）中接受測試，同時即時監控AI執行的每一步操作，而不是允許模型長時間自主運行後再來檢查結果。
AI網路安全公司Embroidery聯合創始人兼首席執行官扎克．科爾曼（Zack Korman）認為，近期事件暴露的首先是測試環境設計和安全防護不足。問題不只是AI模型越來越聰明，也包括企業是否為這種能力準備好了足夠牢固的「籠子」。
另一方面，AI用於網路安全並非只有攻擊風險。Anthropic在6月表示，其Project Glasswing項目已經擴大到約150個組織，希望利用高能力模型主動掃瞄重要軟體系統中的漏洞。此前參與項目的合作夥伴已發現超過1萬個高危或嚴重安全漏洞。
這也解釋了為什麼行業很難簡單選擇「停止發展AI網路能力」。同一種能夠自動尋找漏洞、編寫利用代碼和組合攻擊鏈的能力，既可以幫助攻擊者，也可以幫助企業在攻擊發生之前發現並修復問題。
當AI嘗試突破網路邊界時，人們有沒有能力馬上發現它正在做什麼？Adobe Stock
未來AI是否會失控？
過去討論AI安全時，人們經常擔憂的是一個遙遠的問題──未來某一天AI是否可能脫離人類控制。OpenAI、Anthropic和Meta最近的事故則是更現實的層面：當模型能夠尋找漏洞、使用社會工程手段、協調其他AI並嘗試突破網路邊界時，實驗室究竟有沒有能力第一時間發現它正在做什麼？
蒙特利爾大學AI教授、非營利組織Evitable創始人大衛．克魯格（David Krueger）認為，近期事件顯示AI行業對當前及下一代模型的控制能力仍然不足。
這種擔憂如今不再侷限於長期主張限制AI發展的活動人士。Astra延期及一連串網路安全事故，正在迫使矽谷重新討論一個過去被視為過於激進的問題：如果AI能力提升的速度超過安全體系升級的速度，企業是否真的應該主動放慢開發腳步？
OpenAI和Anthropic的答案仍然不是停止研發，而是加強測試規範、安全隔離和監控機制。
然而連續發生的突破事件留下一個更棘手的問題：隨著AI越來越擅長自動化網路攻擊，未來衡量一家AI公司是否「安全」，或許不能再只看模型拒絕了多少危險請求，而是要看當模型不再按照預期行動時，人類究竟需要多久才能發現。