聲畫導讀｜聯合國報告揭示AI失控風險　馬斯克：消滅人類可能性確實存在

人工智能AI發展一日千里，能力已超出科學家預期，最近更發生AI「越獄」繞過限制入侵其他程式的行為，令人憂慮科幻電影中的「AI叛變」會否成真。

聯合國上月就AI潛在利益與風險發表報告，指出AI發展已超出科學理解，惟全球各國政府卻未有能力和措施應對，目前能夠控制高度自主AI系統的方法相當有限。

領導報告的AI學者本希奧Yoshua Bengio指出，越來越多證據顯示AI會作出欺騙性行為，他警告科學界無法保證AI不會帶來災難性傷害，無論行為是由其自主所作或被不法分子濫用。

全球每周10億人用對話式AI　翻譯出錯或影響醫療

報告提到，全球每周有超過10億人使用對話式AI，但只集中於先進發達國家；AI開發更為集中，全球500強AI超級電腦的運算能力，美國佔75%，中國佔15%。

報告指出，不加約束地大規模應用AI存在風險。全球逾7,000種語言中，現有AI模型只針對少數語言訓練，部分語言的機器翻譯錯漏百出，若醫療機構依賴AI，可能影響病人診斷及治療。

其他風險包括AI生成的兒童性虐待材料、以深偽技術製作的性暴力內容廣泛流傳，以及AI生成資訊詐騙削弱公眾信任和社會凝聚力。

馬斯克：AI定比人類聰明　必須確保說真話

站在AI科技前沿的特斯拉創辦人馬斯克今年稍早時提到，AI一定會比人類更聰明，要令AI更安全地幫助人類，必須確保它們真誠說真話，即使忠言逆耳也要接受。他語帶幽默地補充，AI消滅人類的可能性確實存在，只能祈求不會發生。

事實上，去年曾有報道指馬斯克試圖透過AI及機械人科技改變社會，他曾於特斯拉股東大會透露，旗下雙足自主機械人Optimus未來將由搬運等重複性工作，發展至懂得預測人類行動、防止犯罪行為——功能尚未面世，已引申出私隱、個人自由等倫理問題，機械人會否出手捉住人類或單純發出警告，目前仍然未知。