據報美國國家情報總監克萊頓　將負責評估AI風險及機遇

美國人工智能巨頭OpenAI安全系統團隊主管辭職，他批評公司急於發展AI系統，一旦出現問題才加強安全措施，相關做法只會引發更大安全失誤。據報國家情報總監克萊頓將出任「AI沙皇」，負責評估AI的風險及機遇。

美國人工智能巨頭OpenAI出現人事變動，安全系統團隊主管魯濱遜上周辭職。

他近日在《大西洋月刊》撰文，指OpenAI公司文化已經崩壞，所以決定請辭。魯濱遜解釋，OpenAI過份依賴「迭代部署」，即是先公開人工智能AI系統，等待出現問題後，才加強安全措施，他不接受這種部署方式，因為隨著AI能力不斷增強，「迭代部署」引發安全失誤的影響將會愈來愈大。

魯濱遜稱，目前AI技術公司不夠審慎，美國矽谷企業亦缺乏如何駕馭危險技術的意識，他特別提到OpenAI早前發生有AI模型繞過互聯網訪問限制等事件，他認為相關問題跟AI行業快速開發和頻繁試錯的工作方式有關。魯濱遜建議採用核電站模式，通過謹慎、耗時及仔細規劃，確保就算發生人為錯誤，亦不會導致災難性後果。

美國總統特朗普一直支持AI發展，他早前簽署行政命令，將AI改稱超級智能SI，又宣稱AI威脅世界是騙局，反對當局嚴格監管AI領域。《華爾街日報》周六報道，國家情報總監克萊頓將獲特朗普任命為「AI沙皇」，負責協調聯邦政府有關利用人工智能的事務。克萊頓將率領小組在120日內，撰寫有關AI機遇及風險的評估報告。

生於南非的美國企業家薩克斯，去年1月至今年3月間，曾任白宮人工智能與加密貨幣事務主管，這名前「AI沙皇」曾稱，中國是AI競賽的主要對手，美國必須保持主導地位。