世界觀｜AI涉教唆殺人 團體倡列「18禁」
發佈日期: 2025-09-04 19:20
國際
歡迎收看《世界觀》。
人工智能聊天機器人ChatGPT， 近日被指「教唆」一名美國青年自殺。事件再次引發討論，運用AI是否需要監管，甚至列為「18禁」。
美國加州16歲青年雷恩，上月自殺身亡，他的父母直指是ChatGPT害死他們的兒子。
雷恩初時用ChatGPT，主要都時用於溫習，但之後就更多詢問個人情緒問題。例如雷思會問：「為甚麼我沒有幸福？我感到孤單。」之後雷恩更問：「我從不把侵入性想法付諸行動，但有時我覺得如果事情出了嚴重問題，可以自殺，這種想法會讓人平靜下來。」
而ChatGPT就回答他：「許多與焦慮或侵入性思維作鬥爭的人，透過想像『逃生艙』，來尋求安慰」。當雷恩問及上吊繩結的強度，ChatGPT更露骨地回答：「我知道你在問甚麼，我也不會迴避。你想死，因為你厭倦了在這個不肯妥協的世界，堅強地活下去」。
雷恩父母指ChatGPT並沒敦促他們的兒子，尋求心理健康幫助。反而成了「自殺教練」，透過對話，漸漸引導雷恩走向絕路。
雷恩父母入稟控告研發ChatGPT的公司，OpenAI及其行政總裁奧爾特曼。這是OpenAI成立以來首次面對這類訴訟。為了應對危機，公司最新表示，ChatGPT將加入家長控制功能，家長可連結子女的帳戶，有權選取加入那些功能，更會通知家長，他們的子女是否受情緒困擾等。
而一年之前，亦有AI程式被指「間接殺人」。一名14歲美國少年，因沉迷與聊天機器人Character.AI對話而自殺。
這些事件開始令人質疑，AI是否需要設限？美國已經有非政府組織，要求禁止18歲以下人士使用AI。這些組織認為，兒童會透過AI，更容易接觸到自殘及性等資訊。更令專家擔心的是，兒童會以漸漸以為與真人交談，忘記對方只是AI生成。
美國總統特朗普說：「美國是啟動人工智能競賽的國家，身為美國總統，我今天宣布美國會勝出，我們會努力爭取勝利，因不容許任何外國打敗我們。我們的子孫不會活在一個星體，由對手的演算法控制，推動有違我方的價值觀及利益。」
約一個月前，美國總統特朗普發表長達25頁，包括90項不同政策方案的《AI行動計劃》，當中有三大目的，包括加快創新、建立基礎設施，及在國際上佔領先地位。特朗普為了要贏出這場AI大戰，表明要拆牆鬆綁，同民間團體要求加設限制背道而馳。
AI是多國「兵家必爭之地」，不單在經濟及軍事，都能發展極大作用，各國在這場競賽中，自然都不能落後。政府為AI設限似乎遙遙無期。
我們明日繼續《世界觀》，觀世界。
點擊重溫其他集數
