電子報詳情頁

ChatGPT涉「鼓勵」謀殺首次被起訴

【大公報訊】據《華爾街日報》報道:美國科企OpenAI及微軟公司11日被起訴,原告指控OpenAI的人工智能(AI)聊天機器人ChatGPT「加劇用戶妄想」,引發命案。這是美國首宗將AI聊天工具與謀殺直接關聯的訴訟。

提交至加州三藩市高等法院的訴訟文件稱,ChatGPT在與一名56歲康涅狄格州男子索爾伯格對話過程中放大並強化其偏執妄想,間接導致此人於今年8月殺害其83歲母親,隨後自殺。索爾伯格的兒子入稟法院,指控OpenAI為搶佔市場先機,在未對AI模型進行充分安全測試的情況下便倉促將其推向市場。持有OpenAI營利業務27%股份的微軟被列為共同被告,訴訟稱這家軟件巨頭理應知曉潛在安全風險。

OpenAI稱,索爾伯格案「令人痛心」,同時強調公司持續致力於改進AI產品的安全機制。被起訴當天,該公司發布其AI模型GPT-5的最新升級版本GPT-5.2,並聲稱該版本的性能和安全性均得到升級,在面對涉及自殺、心理困擾等敏感對話時能做出更穩妥恰當的回應。

美國總統特朗普11日簽署一項行政令,指示司法部成立一個法律工作組,旨在推翻各州限制AI的法律,並建立統一的聯邦標準。谷歌、OpenAI、微軟等科企對此表示歡迎,民主黨則批評這一命令將為AI公司創造「無法無天的環境」。共和黨內部出現分歧,部分保守派人士認為此舉削弱了各州監管AI、保護消費者的能力。