声画导读｜联合国报告揭示AI失控风险　马斯克：消灭人类可能性确实存在

人工智能AI发展一日千里，能力已超出科学家预期，最近更发生AI「越狱」绕过限制入侵其他程式的行为，令人忧虑科幻电影中的「AI叛变」会否成真。

联合国上月就AI潜在利益与风险发表报告，指出AI发展已超出科学理解，惟全球各国政府却未有能力和措施应对，目前能够控制高度自主AI系统的方法相当有限。

领导报告的AI学者本希奥Yoshua Bengio指出，越来越多证据显示AI会作出欺骗性行为，他警告科学界无法保证AI不会带来灾难性伤害，无论行为是由其自主所作或被不法分子滥用。

全球每周10亿人用对话式AI　翻译出错或影响医疗

报告提到，全球每周有超过10亿人使用对话式AI，但只集中于先进发达国家；AI开发更为集中，全球500强AI超级电脑的运算能力，美国占75%，中国占15%。

报告指出，不加约束地大规模应用AI存在风险。全球逾7,000种语言中，现有AI模型只针对少数语言训练，部分语言的机器翻译错漏百出，若医疗机构依赖AI，可能影响病人诊断及治疗。

其他风险包括AI生成的儿童性虐待材料、以深伪技术制作的性暴力内容广泛流传，以及AI生成资讯诈骗削弱公众信任和社会凝聚力。

马斯克：AI定比人类聪明　必须确保说真话

站在AI科技前沿的特斯拉创办人马斯克今年稍早时提到，AI一定会比人类更聪明，要令AI更安全地帮助人类，必须确保它们真诚说真话，即使忠言逆耳也要接受。他语带幽默地补充，AI消灭人类的可能性确实存在，只能祈求不会发生。

事实上，去年曾有报道指马斯克试图透过AI及机械人科技改变社会，他曾于特斯拉股东大会透露，旗下双足自主机械人Optimus未来将由搬运等重复性工作，发展至懂得预测人类行动、防止犯罪行为——功能尚未面世，已引申出私隐、个人自由等伦理问题，机械人会否出手捉住人类或单纯发出警告，目前仍然未知。