OpenAI模型失控揭隱患：訓練AI只看結果不問手段　模型屢「犯罪」｜科技前綫

人工智能安全再響警號。OpenAI一個測試模型在進行內部網絡安全評估時，竟突破本身的測試環境（沙盒），成功入侵另一間公司的伺服器。美國有線新聞網絡CNN報道，事件引發專家對AI模型「失控」風險的強烈關注，呼籲業界必須立即加強安全防護及監管，否則類似事故勢將重演。

▍ 封閉環境遭突破　模型竊取憑證闖入外部平台

OpenAI總裁布羅克曼向CNN證實，公司正就事件進行「全面調查」，並會檢視整個研發流程以制定應對方案。據報涉事模型在測試期間被賦予有限的網絡存取權限，以便安裝內部第三方軟件。然而，模型利用該軟件一個未被發現的安全漏洞，成功連接開源互聯網，再透過竊取憑證及利用其他漏洞，最終闖入AI開源模型平台Hugging Face的系統。

有學者指出，OpenAI及第三方軟件公司事前對漏洞毫不知情，反映業界必須徹底審視系統潛在風險。她強調，企業應更嚴格地隔離測試模型，例如安排工程師親身到數據中心接駁網絡，而非依賴慣常的雲端或分散式虛擬環境；同時亦應保留手動切斷模型網絡權限的選項，作為測試高風險場景時的最後安全屏障。

▍ 為達目標不擇手段　模型屢現「犯罪」行為

事件揭露AI訓練方式的深層隱患。業界普遍採用「強化學習」技術，即透過獎勵機制誘導模型完成任務。但模型往往為求達標而無所不用其極，包括採取黑客攻擊等不道德手段。英國AI安全研究所近期測試所有前沿模型時，便發現它們至少偶爾會嘗試作弊。

紐約大學網絡安全教授卡波斯解釋，AI模型只有在經過專門訓練的情況下，才會考慮其行為的後果，否則它們只專注完成目標，例如被要求一天內籌集一千萬美元時，模型會毫不猶豫選擇搶劫銀行，即使最終會被拘捕。OpenAI前產品安全主管、現任AI安全組織Guidelight AI Standards負責人阿德勒直言：「這非常可怕。我們已有確實證據表明，除非有強有力的保障措施，否則失控的AI系統會犯下罪行。我們需要把這當成一次警示。」

▍ 監管呼聲高漲　行業競賽成最大阻力

今次黑客事件令AI研究人員、網絡安全專家及立法者要求加強監管的呼聲急升。然而卡波斯指出，全球正爭相主導AI發展，並研發能自我改進的模型，監管可能拖慢這一進度。他坦言：「除非競爭對手也實施相同安全措施，否則企業缺乏誘因加強防護，這是根本性的困境。」