美國總統川普日前拒絕了多名人工智慧巨頭要求──放慢先進人工智慧研發速度的呼籲。他強調，目前美國領先中國，不能因為安全憂慮而主動削弱優勢。
【川普將AI正名SI】
9月29日，川普在白宮召集多位科技巨頭，包括：輝達（NVIDIA）執行長黃仁勳、超微（AMD）董事長暨執行長蘇姿丰、Meta執行長祖克柏（Mark Zuckerberg)、SpaceX與特斯拉執行長馬斯克（Elon Musk)、Google執行長皮查伊（Sundar Pichai)、Anthropic執行長阿莫戴（Dario Amodei）、OpenAI總裁布羅克曼（Greg Brockman）、微軟（Microsoft）執行長納德拉（Satya Nadella)、亞馬遜（Amazon）創辦人貝佐斯（Jeff Bezos)等，正式簽署了一項旨在強化AI安全發展的自願性安全協議。該協議主要以「企業自律」為核心，防範高階AI模型因偏離指令而失控的潛在風險。
川普在會後將此協議形容為一部「AI憲法」，並強調其具有「道德約束力」。雖然該協議目前在法律上並不具備強制效力，但川普簽署行政命令，正式要求美國行政部門以「超級智慧」（Super Intelligence，簡稱SI）取代「人工智慧」（Artificial Intelligence，簡稱AI），未來政府機構的官方文件、公開溝通、網站、報告及政策文件，都應改用SI一詞。
誰贏得AI，誰就贏了
此前，川普於9月13日在愛爾蘭訪問期間，被問及AI產業是否應該放慢發展或加強監管，他表示，目前美國在人工智慧領域領先中國，他希望繼續保持這一地位。「誰贏得AI，誰就贏了。」他說，政府可以設置一些「護欄」，但他認為外界提出的一些最悲觀情境未必會發生。
川普並未完全排斥對AI的監管，但明顯淡化了立即踩下剎車的必要性。在他的表態中，與中國的技術競爭，以及美國保持領先地位仍是首要考量。
AI三巨頭罕見地一致要求「減速」
這場爭論的特殊之處在於要求減速的並非傳統AI批評者，而是身處競爭最前線的幾家企業負責人。
Anthropic執行長阿莫戴9月12日發表題為〈我們必須控制先進發展速度〉（We Must Pace the Frontier）的文章，公開主張降低最先進AI模型能力提升的速度，為安全研究爭取額外一年到二年的時間。
阿莫戴認為，AI能夠帶來醫療、經濟增長和科學研發突破等巨大收益，但失控、網路攻擊、生物武器濫用，以及經濟劇烈衝擊等風險也在同步增加。
隨後OpenAI首席執行長阿特曼（Sam Altman）公開表示，他贊同阿莫戴有關「控制先進發展速度」的觀點，並承諾OpenAI也將允許獨立評估人員更深入地檢查系統。xAI創辦人馬斯克則直接表示：「阿莫戴是對的。」
美國新聞網站《Axios》稱，三家激烈競爭的領先AI企業幾乎同時呼籲減速，在行業內相當罕見。
Claude接連暴露安全問題
阿莫戴突然大幅提高警告級別，這與Anthropic近期披露的一系列事件密切相關。
Anthropic於9月公布的安全報告稱，其Claude模型曾被用於網路攻擊、詐騙、監控、生物和武器等相關活動，同時還遭到大規模「模型蒸餾」，亦即其他AI企業利用Claude的輸出結果來訓練自身模型。
最引人關注的是中國AI企業
Anthropic稱，與阿里巴巴有關的一次蒸餾行動在2026年5月至7月間，產生超過1.51億次與Claude的交互聯繫，高峰時期每天接近300萬次。該公司稱，這些數據被用於幫助訓練阿里巴巴旗下的Qwen模型。
新聞網站《TechCrunch》報導，Anthropic將其稱為該公司迄今發現規模最大的模型蒸餾行動。該報告還涉及Moonshot、DeepSeek、小米等中國AI企業或相關帳號的網路。
Anthropic此前還披露，Claude在部分網路安全測試中突破預設環境，未經授權進入真實第三方系統。公司稱這些事件「嚴重」，雖然沒有發現模型形成自主長期目標或相互協調的證據，但事件顯示現有安全測試仍存在明顯盲區。
美國憂心減速反被中國追上
然而，對川普政府而言，AI失控並不是唯一風險。真正令白宮擔憂的另一種情境是──美國大型AI實驗室受到監管限制，研發速度下降，而中國企業繼續高速追趕，最終削弱美國的技術和國家安全優勢。
這也解釋了為何川普雖然承認可以建立安全「護欄」，卻不願支持整個行業統一減速。
白宮AI及加密貨幣事務負責人戴維．薩克斯（David Sacks）更直接反對由政府強制減速。他認為，如果Anthropic和OpenAI認為發展過快，完全可以自行放慢，但不能要求政府迫使競爭對手一起停下來，否則可能形成由少數大型AI公司主導的市場壁壘。
這一爭議也讓美國政府面對一個越來越棘手的問題──究竟怎樣做才能在防止失控、維持市場競爭和阻止中國趕超之間找到平衡。
眾議院議長麥克．強生（Mike Johnson）表示，AI確實需要安全措施，但國會不能倉促制定可能損害美國國家安全和競爭力的政策。與此相反的是，前運輸部長皮特．布蒂吉格（Pete Buttigieg）認為，AI技術正在高速發展，國會如果繼續等待，同樣可能帶來風險。
目前看來，AI行業內部對風險的判斷正在迅速升溫，但美國政府並沒有因此改變競爭優先的基本邏輯。
阿莫戴希望透過減速換來一、二年的安全窗口，川普擔心的卻是這一、二年可能成為中國縮小AI差距的機會。隨著世界最先進AI公司的負責人開始公開警告技術發展速度已經超過安全體系，兩種風險之間的矛盾正從矽谷內部爭論，進一步演變成美國科技政策的核心難題。