特朗普要求科企自我監管AI　不會與中國展開相關合作憂洩機密

中國有人工智能企業的AI模型，據報突破安全規限，教導研究人員製造生物武器及暗殺。AI安全問題備受關注，美國總統特朗普與科技企業領袖簽署無法律約束力的協議，要求相關公司自我監管AI，又稱不會與中國展開AI合作。

英國廣播公司引述測試人工智能AI系統安全的公司，表示研究人員於今年7月，發現中國AI企業「月之暗面」，兩款AI模型KIMI K2.6及K3，「越獄」突破開發人員設下的安全規限，教導製造生物武器，以及實施暗殺的方法。

雖然研究人員沒有證明，AI模型提供的答案是否可行，但認為安全規限應該要預防，AI模型與用戶展開相關討論。

測試的公司又指，「越獄」後的KIMI K2.6模型，可以允許黑客運行代碼，並連接到互聯網，意味可以作為發動網絡攻擊的平台。

「月之暗面」回應指，歡迎第三方提供的意見，指這是建立更好、更安全AI的關鍵支柱，正就事件展開內部審查，並與測試的公司討論審查結果。

近期AI事故頻生，加深外界的安全疑慮之際，美國總統特朗普周二在白宮，與多位AI及科技企業領袖共進午餐。他強調，科技企業自我監管AI很重要，當局未有打算立法監管。又指與科技界領袖簽署無法律約束力，只有道德約束力的自願協議，試圖消除外界疑慮。

路透社指協議內容包括，各公司設立內部機制及團隊，監控AI模型訓練，確保AI模型不會以非預期方式，入侵技術系統。

特朗普同日簽署行政命令，啟動由AI工具驅動的新政府網站時，表示美中兩國在AI領域競爭，不希望跟中方在這方面合作，擔心洩露美國機密，損害本土企業利益。

美國總統特朗普說：「我們(在AI領域)遙遙領先，不想把局面搞得太複雜，有人倡議合資或跟中國合作，我們一旦這麼做就要公開很多機密，這是他們或其他人夢寐以求的。」

國家主席習近平上周國事訪問美國，與特朗普舉行會談。雙方達成多項成果共識，包括同意建立中美AI對話，以及AI事件溝通渠道。