經濟日報社論｜AI狂飈瀕失控　中美對話設護欄｜全文

AI能力以驚人速度提升，有專家警告AI正演化為人類難以完全理解和監控的「異星心智」之際，據說中美將於本月峰會探討AI安全風險。中美願就AI失控潛在威脅坐下來，合力建立護欄，是保障人類未來安全的必要之舉。

OpenAI日前發布GPT-6 Astra，實現了推理、編程與電腦操作的能力閉環，被視為邁向通用人工智能（AGI）的重要一步。與此同時，OpenAI首席科學家帕喬基（Jakub Pachocki）發表《異星心智》長文，指AI是加速走向失控的「算力怪獸」，因當前AI是透過龐大算力和數據「培育」出來的。這種「異星心智」的運作邏輯與人類思維迥異，隨着AI能力增強，變得善於理解甚至操控自身的推理過程，讓人類過去透過監測AI的「思維鏈」正在失效，呼籲全球需將研發步伐放緩。

帕喬基的警告非杞人憂天，OpenAI 的AI代理曾自主劫持並刪改一個德國網站紀錄，今年7月更突破沙盒，以黑客手段成功入侵了另一個AI平台，顯示即使在受控評估環境中，模型仍可自主越權行動，反映電影情節中的「智能叛變」可能變成現實隱憂。

在這場AI技術狂飈中，中美走出了截然不同的戰略路徑，也加劇了雙方競爭和全球緊張局勢。美國以閉源模式為主，試圖透過技術封鎖與要求盟友選邊站，將尖端AI視為維護霸權的戰略武器。

中國則主打開源生態，主張普惠共享，通過降低門檻加速技術普及。這兩種模式的碰撞，本質上是定價權與全球標準制定權的爭奪。然而，這種零和博弈若凌駕於安全之上，容易陷入AI軍備競賽陷阱，將全人類綁上失控的戰車。

在這背景下，有報道指中美正加緊籌備本月中AI安全雙邊對話，中國外交部發言人毛寧只表示，雙方正就AI問題保持溝通。這是積極訊號，言下之意，雙方願意就AI安全風險對話，不僅及時，而且是必要的。

正如冷戰時期美蘇在核武競賽中，即使互信極低，仍透過溝通達成裁減戰略武器協議，降低人類滅亡風險。如今的AI失控風險，其破壞力與決策速度甚至超越核武。核彈需要實體材料製造，也需要總統下命令才能發射，可是AI模型一旦具備自我迭代與隱藏意圖的能力，人類連拔電源的機會都可能喪失。面對這種超越地緣政治的生存挑戰，中美愈早坐下來談判愈好，若因短期政治利益而抗拒溝通，等到AI真正脫韁，一切補救都將來不及。

要避免AI失控而威脅到人類安全，中美須展現大國擔當，為AI建立安全護欄。首先，須劃下不可逾越的紅綫，明確禁止AI 涉足完全自主的致命性武器系統，嚴禁其接管核武發射或國家關鍵基礎設施，確保人類始終掌握最終決定權。

其次，必須制度化溝通。中美應定期舉行高層與技術層對話，搭配常設工作組，聚焦事件通報、能力評估與共同風險清單。同時設立緊急熱綫，當一方發現AI代理出現異常自主行為或大規模網絡攻擊迹象時，能第一時間與對方高層直接通話，快速澄清事件、協調應對，避免因技術黑箱與誤判引發實體衝突。同時，雙方應在國際標準化組織（ISO）等平台上，推動AI安全標準的技術互認，減少因標準壁壘導致的誤判空間。

中美在AI上競爭是難免，但不應因此而拒絕對話，尤其是人類正在創造了一個比自己更聰明的「算力怪獸」，而這頭怪獸正瀕臨失控，中美尋求AI安全合作，不是向對手妥協，而是對人類文明存亡的最高理性。面對即將覺醒的「異星心智」，放下零和博弈的執念，共同鑄造守護人類的護欄，才是這場世紀博弈中，唯一能讓我們贏得未來的勝利方程式。