信報社論｜確保AI不叛變　中國可當規則制定者｜全文

關於人工智能（AI）的失控風險，近日受到科技巨頭高度重視，是否應該加強監管引起熱烈討論。美國總統特朗普重申，反對放慢AI發展或加添規管，強調美國必須保持對中國的領先優勢。按照其邏輯，美國目前的AI技術領先中國約一年半，若加強規管只會讓中國有機可乘超越美國。

微軟創辦人蓋茨（Bill Gates）一方面警告，AI可造成十億人死亡，沒有一種武器比不良分子濫用AI更具殺傷力，另一方面指出，採取安全措施不會阻礙美國與中國競爭。他認為，所有國家都應該希望這些安全措施到位，預計中國會加入支持AI安全的行列，因為中國不希望成為攻擊目標。

特朗普的思維顯然是把AI視作美國維持霸權的利器，誰贏得AI，誰就贏得一切，寧願承擔「智能叛變」的不確定性，也不肯失去競爭優勢。在他眼中，一旦美國主動放慢發展步伐，中國就會「不顧一切」繼續加速。如此思維，純粹以自我為中心，絕對低估了中國的安全意識。

半個月前，中國國家安全部部長陳一新發表署名文章指出，AI已成為全球科技競爭主戰場與大國博弈新賽道，警告AI存在「六大風險」，強調敵對勢力若濫用相關技術，將直接威脅中國的政治安全、制度安全及意識形態安全。陳一新表示，AI高速發展令現有法律規範、倫理原則及治理機制面臨滯後問題，並正推動戰爭形態進入智能化時代。他說，中國將強化風險感知預警，建立完善AI安全監管平台，並定期發布安全風險防範指南。

蓋茨說得沒錯，中國會加入支持AI安全的行列，這一點完全不用懷疑。國家主席習近平就建設更高水平的平安中國作出重要指示，要求加強國家安全體系和能力建設，提高公共安全治理水平，完善社會治理體系，防範化解各類風險。至於AI，習近平一直以來的說法是「人工智能技術應在人類控制下發展」。換言之，中國不可能為了競爭而犧牲安全。

習近平日前訪問美國，白宮設國宴邀請頂級富豪兼科技巨頭出席，外界寄望「習特會」制定遊戲規則，避免AI真的叛變至有機會「消滅人類」。然而，中美雙方沒有達成重大協議，特朗普淡然說道，沒有花太多時間討論人工智能問題。白宮僅稱，美國和中國同意建立「雙邊溝通管道」，以處理與人工智能相關的突發事件。

雖然特朗普拒絕為AI設限，但二十個聯合國成員發表聲明呼籲加強規管，而業界亦叫停了部分技術測試。據報道，美國的OpenAI、Anthropic和網絡安全研究人員正調查數萬宗安全事故，漏洞包括AI模型繞過防護措施、創建留言板、逃離沙盒、網站劫持、自我提示或試圖繞過監控。OpenAI發言人宣布，暫停對其最強大的模型進行訓練，只有在確信團隊已經採取額外保障和改進措施後才會恢復訓練。Anthropic方面，已委託第三方安全機構對其模型進行效能評估。

既然AI失控的風險確實存在，而中國不會為了競爭而犧牲安全，那麼不妨藉此契機，主動成為監管AI的規則制定者。中國外交部發言人郭嘉昆表示，中方始終秉持建設性、負責任態度參與人工智能全球治理，持續不斷貢獻中國方案。中方一貫主張應當堅持發揮聯合國主渠道作用，構建公正合理的全球人工智能治理體系。習近平所說的「人工智能技術應在人類控制下發展」，定然得到各國共鳴，中國若可帶頭制定監管規則，必可進一步提升國際地位，同時消除美國戒心，拓闊彼此的合作空間。

Anthropic曾經警告，「遞歸式自我改進」（Recursive Self-Improvement，RSI）可能增加人類失去對AI系統控制的風險。OpenAI認為，除非能夠安全實現，否則不應該貿然推進RSI。所謂RSI，意指AI模型在毋須人類指導下自我構建更強大版本的能力，變得愈來愈難由人類控制，甚至發展出反抗人類指示的系統。如果中國成為規則制定者，該着眼於類似問題予以防範，大方向是確保AI不可能叛變。AI沒有道德，行善或作惡視乎規則如何制定，中國可擔當十分重要的安全角色。