人工智慧（AI）的黃金時代發展正遭遇越來越多的質疑。近日加州大學柏伯克萊分校電腦科學教授、人工智慧安全領域權威拉塞爾（Stuart Russell）在新德里舉行的AI影響峰會直言，全球科技巨頭正陷入一場人工智慧的「軍備競賽」，其潛在後果可能威脅整個人類文明。
據《巴倫週刊》（Barron's）報導，拉塞爾說，「讓私人企業以類似『俄羅斯輪盤賭』方式拿全人類的命運下注，在我看來是政府嚴重失職。」
同時《TechRadar》指出，圍繞AI的樂觀宣言已經持續數年——產業革命、效率飛躍、無摩擦生產力，但現實跡象表明，其相關風險並不是靠一次更新就能解決的小問題，而是伴隨技術擴張而來的結構性挑戰。
CEO困境：誰來踩剎車？
拉塞爾認為，全球主要AI公司掌門人並非對風險毫無認知，相反的，他們「理解超級智慧系統可能凌駕人類之上的危險」。但是，問題在於單一家企業無法率先「繳械」。
「我相信，每一家主要AI公司的CEO都希望解除這場競賽。」「但他們無法單方面這麼做，否則會被投資人趕下台。」
他透露，部分公司高層曾經私下表達類似擔憂。公開層面上，OpenAI執行長奧特曼（Sam Altman）曾經承認，人工智慧存在導致人類滅絕的理論可能性。
然而，迄今為止，國際峰會達成的共識大多是企業自願承諾，缺乏強制約束力。拉塞爾強調，真正的責任在於各國政府要採取集體行動，建立硬性監管架構。
資本擴張帶來就業焦慮
在政策博弈之外，資本正在全速前進。各國與科技企業正投入數千億美元建設高耗能數據中心，以訓練和運行生成式人工智慧模型。印度正試圖借勢突圍。印度資訊技術部長瓦伊什瑙（Ashwini Vaishnaw）表示，未來兩年印度預計吸引超過2000億美元的AI投資，大約900億美元已實現。
資本擴張同樣帶來就業焦慮。印度龐大的客服與技術外包產業近期股價下挫，市場擔憂AI助理工具將取代大量後台職位。拉塞爾直言：「我們正在創造『人類模仿者』，最自然的應用場景當然就是替代人類。」
他還觀察到，年輕群體正出現對AI「去人性化」趨勢的反彈。「當系統接管回答問題、制定決策、規劃行動等認知功能時，實際上是在削弱人的主體性。年輕人不願意那樣的未來。」
高層辭職、深度偽造與現實誤判
《TechRadar》梳理了近期多起值得警惕的信號。首先是安全領域高層的離職潮。Anthropic一名負責AI安全研究的高層2月公開辭職，並警告「世界正處於危險之中」。類似情況並非孤例，xAI等實驗室也有核心人員出走，而且往往伴隨著公開聲明，質疑企業是否在競爭壓力下犧牲安全標準。
其次是深度偽造技術的氾濫。監管機構已開始調查部分平台生成涉及未成年人的不當圖像。隨著生成工具的門檻降低，偽造圖像與影片需要的技術大幅簡化，結果不僅是個體受害，更是對公共信任基礎的侵蝕。
此外，AI「幻覺」問題正從螢幕走向現實。自動駕駛、倉儲機器人與無人機等系統依賴視覺識別與即時決策。研究顯示，微小環境干擾或刻意設計的標識變化，可能導致系統誤判。例如將「停車」標誌識別為「限速」標誌，這在實驗室裡是錯誤，但在公路上卻可能是災難。
當聊天機器人遇上廣告
另一個爭議焦點是商業模式。近期OpenAI在ChatGPT測試廣告產品，引發部分研究人員擔憂。一名資深研究員公開辭職並指出，當系統既掌握用戶心理畫像又承載商業激勵時，輔助與操控之間的界線將變得模糊。
社交媒體的發展史已提供前車之鑑——廣告驅動的演算法優化往往優先考慮參與度而非福祉。若AI助手在回答排序與推薦邏輯中加入營收權重，其影響可能更為深遠。
據AI事故資料庫統計，僅2025年11月至2026年1月就新增108起與AI相關的事故紀錄，涵蓋詐欺、誤導建議與系統濫用等問題。雖然部分案例的規模有限，但數量增長已經構成趨勢信號。