Anthropic共同創辦人籲暫緩研發尖端AI　指出現或脫離人類控制跡象

美國人工智能AI公司Anthropic共同創辦人克拉克，呼籲全球暫緩研發尖端AI，因最新模型已出現可能脫離人類控制的跡象，或構成重大風險。

英國廣播公司節目《新聞之夜》周四播出美國人工智能AI公司Anthropic創辦人之一克拉克的訪問。他以駕車作為比喻，指當今AI的發展只有油門踏板，但無煞車踏板，AI就快毋須人類介入，已可以自我發展。

克拉克又提到公司旗下生成式AI聊天機械人，指系統目前基於百分之八十自主生成的程式碼運作，要於兩年內達到百分之一百，他表示是有可能，但將產生巨大影響。

作為全球一名主要AI企業家，克拉克認為社會需要認真討論AI持續演化的影響，因為當中既帶來顯著利益，亦存在風險。他表示，隨著AI越來越強大，人類保持對AI的控制就更重要，只有制定新法規，才令人類對AI有信心。

克拉克周四亦發表文章，呼籲全球暫停研發最強大的AI，指最新模型已出現AI可能脫離人類控制的跡象，讓社會結構及「對齊研究」能跟上技術進步的步伐。所謂「AI對齊」，是指確保AI的目標能與研發者的意圖，以及社會價值一致。

文章指出，要做到真正的暫停研發，需要中美等國家的主要AI企業同意，否則沒有一個全球性的協調機制，企業及政府面對競爭，以及地緣政治壓力，將難以就AI安全作出決策。

教宗良十四世早前發表任內首份通諭，提到假如AI脫離人類控制，可能會出現「新型數碼奴隸」，以及「數碼殖民主義」。他當日亦請來Anthropic另一共同創辦人奧拉，對方亦認同教宗的觀點。