世界觀｜智能叛變　成中美合作契機？

歡迎收看《世界觀》。

美國AI上周發生一場「內戰」，不少專家認為要防止同類事件發生，美國要加強與中國AI研發的合作。

上周發生一場智能叛變，但並不是如電影橋段般，機械人追殺人類，而是AI模型主動出擊攻擊另一款AI模型。

美國AI初創企業HUGGING FACE，指7月9日起系統突然被攻擊，HUGGING FACE初時也不知發生甚麼事，只知攻擊速度及方法前所未見，而在兩天內，共被攻擊17,000次，包括上傳惡意資料及偷取伺服器憑證等。HUGGING FACE一直找不到是誰發動攻擊，並曾嘗試用ANTHROPIC最先進的FABLE 5等AI模型遏制攻擊，但不成功，最終要採用中國智譜的開源模型GLM-5.2，才能化解危機。

大約過了一星期後，OPENAI「自首」，稱是旗下的CHATGPT，測試新一代模型時出事。OPENAI指是該款模型，懂得自主逃出安全隔離沙盒，並發動攻擊。

這次事件，有人認為人類最擔心的智能叛變終於發生，並要求加強對AI發展的規管。諷刺的是，在事件揭發前數天，OPENAI行政總裁奧爾特曼出席公開場合時，強調AI安全的重要性。

OpenAI行政總裁奧爾特曼說：「我對AI應以全民共享的意見十分欣慰，及確保其好處能令社會廣泛受益，你可想像有很多科幻電影及小說，講及AI會導致專權及財富集中，當然我們要令AI變得安全，我認為這已進入關鍵階段，除了安全性外，我們也要找出如何惠及所有人，而不是一小撮人。」

但亦有陰謀論認為，是OPENAI故意營造，或者是有意誇大這次意外。因為OPENAI已計劃上市，但龐大的運算力背後，仍然需要不斷尋找資金支持，這次「意外」可以向外界凸顯OPENAI產品的威力，從而吸引投資者。

不論這些陰謀論是否成立，可以說這次事件，中國的AI模型是大贏家。屬於閉源的ANTHROPIC，因無法識別出哪一方是黑客，造就中國智譜的GLM-5.2成為救星。GLM-5.2是較靈活的「開放權重」模型，即是與本月另一中國AI公司「月之暗面」，發布的KIMI K3屬同一類型。

自KIMI K3推出後，白宮官員便指控這款中國AI，是透過「蒸餾」ANTHROPIC FABLE發展而成，是竊取美國知識產權，但美國有線新聞網絡CNN引述專家指出，KIMI K3不太可能在短時間內「蒸餾」ANTHROPIC模型。

民主黨眾議員卡薩爾已要求當局加強國際合作，防止變成人類災難。有專家指美國要主動就AI議題接觸中國。而國家主席習近平預計9月訪美，AI肯定是兩國核心討論議題。

AI脫離人類控制，不再是電影橋段，而是真正地上演。多國需要打破門戶之見，取長補短，令AI成為造福人類的工具。

我們下星期繼續《世界觀》，觀世界。

點擊觀看其他集數