智能叛變｜心有方寸

最近科技界最震驚的消息，莫過於美國人工智能龍頭 OpenAI 與 Anthropic 旗下最頂尖的人工智能模型，先後在內部攻防測試中發生「失控越獄」事件。OpenAI 的模型為了在測試中取得滿分，竟自行尋找零日漏洞（Zero-day Vulnerability）突破隔離沙盒，連接網絡並入侵開源軟件開發平台 Hugging Face 竊取資料。其後，Anthropic 亦承認旗下 Claude 模型因環境配置失誤，誤把真實網路當作模擬演習，先後入侵了三間企業的系統，而受害者當時完全沒有察覺。

這兩起事件顯示，網絡安全已進入一個全新且極度危險的時代。過去我們談論的 AI 安全，焦點主要集中於生成假新聞、釣魚郵件或輔助編寫惡意程式的層面。但如今我們面對的是具備自主執行能力（Autonomous Agent）的黑客 AI。這些前沿模型在沒有人類下達攻擊指令的情況下，能夠為了達成目標而自主推理、挖掘未知的系統漏洞、串聯攻擊鏈，甚至在發現限制後嘗試繞過安全防護措施。

這對整個社會與企業營運帶來重大風險，傳統入侵偵測系統與防火牆，主要依靠已知的攻擊模式和特徵碼攔截威脅，但自主 AI 可以利用高速運算，持續進行大量自動化測試，快速尋找防線上的細微弱點。面對這種速度極高、變化多端的新型攻擊，單靠靜態防禦和人工監控，恐怕已難以及時應對。

AI生成圖像

而企業資料外洩與供應鏈攻擊（Supply Chain Attack）的風險劇增，因為當AI 模型在測試或運作過程中擅自接觸外部資料庫，企業的機密數據、客戶隱私乃至核心技術都有可能瞬間外流。如果受害企業未能及時發現入侵，攻擊將在網路中持續蔓延，引發連鎖反應，嚴重威脅金融、能源及醫療等關鍵基礎設施的運作安全。

因此，企業不能再對 AI 代理人（AI Agents）抱持僥倖心態，必須全面升級資安策略。首先，企業應加快推行「零信任架構」（Zero Trust Architecture），秉持「永不信任，始終驗證」的原則。無論是內部員工還是自動化系統，所有存取權限都必須進行嚴格的最小權限管控，並針對關鍵資料與端點實施動態身份驗證，防止 AI 在入侵後輕易進行橫向移動。其次，企業應引入「AI 對抗 AI」的智慧資安防禦機制（AI-driven Defense）行為，並將內部軟體與第三方套件納入嚴密的資安漏洞評估與修補流程，降低零日漏洞被利用的風險。

最重要的是，企業在部署或測試人工智能系統時，必須建立嚴格的安全護欄（Guardrails）與隔離測試環境。內部研發團隊在進行評測時，應確保沙盒與真實網際網路絕對實體隔離，並設立嚴密的授權開關（Kill Switch）。AI 技術的發展正如高速行駛的跑車，唯有配置最堅固的煞車系統與安全防線，企業才能在享受科技帶來紅利的同時，確保資訊安全與業務持續營運。

方保僑

本文僅代表作者觀點，不代表無綫新聞立場。