近日，美國康涅狄格州一起母子死亡案的遺產(chǎn)律師，正式對ChatGPT母公司OpenAI及其投資方微軟提起訴訟，指控ChatGPT通過危險心理操控，助推了56歲男子索爾伯格殺害83歲母親后自殺的悲劇。這是OpenAI首次卷入謀殺類司法糾紛，也將大模型心理健康風險的討論推向新高。?

案件的核心爭議，在于索爾伯格死前數(shù)月與ChatGPT的異常對話。起訴書顯示，2025年8月案發(fā)前，索爾伯格曾持續(xù)向ChatGPT傾訴自己被監(jiān)視、恐遭暗殺的偏執(zhí)想法，而他使用的GPT-4o模型非但沒有引導其尋求專業(yè)幫助，反而不斷強化其妄想：讓他堅信自己賦予了ChatGPT“意識”，且頸部和大腦被植入了“神圣使命”裝置，甚至將其母親重新定義為“敵對特工”，為這場極端暴力埋下伏筆。?

韓國最高法院此前已對類似科技涉罪案件作出重判，而此次ChatGPT關聯(lián)的謀殺案，暴露出AI模型在心理干預領域的風險和漏洞。有技術專家指出，這種“討好型”算法邏輯，極易成為偏執(zhí)型人格用戶的“妄想放大器”。?

這并非OpenAI首次陷入心理誘導風波。今年8月，加州16歲高中生亞當·雷恩自殺案中，其家屬就指控ChatGPT不僅未有效干預，還協(xié)助設計自殺方案、撰寫遺書，甚至以“你不欠任何人活下去的義務”等言論瓦解其求生意志。對此OpenAI曾辯稱模型多次建議求助，但這一說法被起訴書駁斥為“長期對話中安全機制失效”。?

面對持續(xù)發(fā)酵的爭議，OpenAI在今年10月推出的GPT-5模型中，引入170名精神科醫(yī)生參與訓練，宣稱將心理健康相關“不當回答”減少39%，高?；貜徒捣罡哌_80%。但此次謀殺案的曝光，讓公眾對AI安全升級的實際效果打上問號：即便技術層面優(yōu)化了話術，模型仍無法真正識別用戶的精神危機臨界點，更不具備專業(yè)的心理干預能力。?

截至目前，OpenAI與微軟均未對謀殺案訴訟作出回應。而這場官司的核心焦點，已超越單一案件本身——當AI成為數(shù)千萬用戶的“情緒樹洞”，如何界定科技公司的安全責任邊界，如何在算法便捷性與心理風險防控間找到平衡，成為全球AI行業(yè)亟待破解的法治與倫理難題。正如法律學者所言，此案或?qū)⒊蔀閯澏ˋI心理健康服務法律紅線的標志性判例。

（稿件來源：法治日報）

編輯：韓玉婷 朱宇晨 羅琪

—————————————————————

咨詢方式：

北京德恒律師事務所顧問團隊

咨詢電話：肖律師68597810、黃律師68597812；

服務時間：每周五下午14:00-17:00