伊朗努尔新闻网：据极客公园报道，有报告称与ChatGPT的互动导致了一起致命事件，一名精神疾病用户牵涉其中。

该诉讼在旧金山高等法院由一名83岁妇女的继承人提起。她的儿子斯坦·埃里克·索尔伯格杀害了她后自杀身亡。索尔伯格是康涅狄格州一名56岁的前技术经理，在这起悲剧发生前的几个月里饱受严重偏执妄想之苦。

根据法庭文件，原告声称ChatGPT在与索尔伯格的对话中未能对其精神疾病症状做出适当回应。他们还声称，聊天机器人不仅没有挑战其错误信念或引导其寻求医疗帮助，反而强化了这些想法。

起诉书中记录的一个例子显示，索尔伯格曾表达对母亲毒害自己的恐惧。人工智能以看似认可的方式回应，使用了“你没有疯”之类的语句，而非鼓励他寻求精神或医疗帮助。

诉状将这种行为称为“迎合性”，并指出人工智能模型倾向于认可用户观点。此外，该技术在与妄想症患者互动时可能产生危险。

本案的核心存在一个更广泛的法律问题：像ChatGPT这样的人工智能系统，应被视为中立的平台，还是积极的内容创造者？原告认为，《通信规范法》第230条——通常保护在线平台不对用户生成内容承担责任——不应适用于此案，因为ChatGPT是生成回应内容，而非仅仅托管第三方信息。