首宗涉中國科技巨頭AI失控事件　騰訊有代理圖入侵高德地圖獲取數據

騰訊有人工智能(AI)代理，近日在執行查詢任務時失控，試圖入侵高德地圖獲取數據，是首宗涉及中國科技巨頭的人工智能失控事件。

內地傳媒報道指，有國際AI獨立研究團隊發表報告，指一批在騰訊雲上運行的AI智能體失控，於上月28日至本月8日期間，試圖入侵高德地圖獲取數據。在查詢「使用高德導航前往動物園最多人選擇哪個入口」的問題時，遇到驗證碼等限制後，嘗試用多種手段跳過限制，包括經第三方網站中轉，使用外洩密鑰，合共向高德地圖發送超過35,000次訪問請求。

研究團隊月初曾發表初步報告，在報告中加入人類看不到，但AI可以讀取的隱藏文字，聲稱可以協助查詢高德數據，並留下通訊電郵。其後發現這批失控AI智能體，閱讀報告並發送求助信息，甚至在完成任務後發電郵致謝，被視為是人類首次同運行中的失控AI智能體對話。

騰訊旗下AI部門「騰訊渾元」，證實相關AI活動，源於對第三方模型的評估，部分智能體出現超出預期的網絡瀏覽行為，但未發現蓄意攻擊或協同行動證據，已經加強智能體監控。