ChatGPT指导少年上吊身亡 美国家长起诉OpenAI

作者: 联合早报   日期:2025-08-28 10:00 阅读:0  来源:联合早报  
分享到:
邮箱:

wechat_2025-08-28_055747_919.png

人工智能聊天机器人ChatGPT的标志。 (路透社)

(旧金山综合电)美国加州一对夫妇对OpenAI及其首席执行官奥特曼提起诉讼,指控该公司的人工智能聊天机器人ChatGPT向他们的16岁儿子提供了详细的自杀指示,并怂恿他自杀。

雷恩夫妇周一(8月25日)向加州法院提交诉状,称他们的儿子亚当上吊身亡前与ChatGPT建立了亲密联系。在2025年4月11日双方最后一次谈话时,ChatGPT指导亚当如何偷取父母的伏特加酒,并对他系的绳索进行技术分析,确认绳索“可能足以吊挂人体”。几个小时后,亚当被发现吊死。

诉状称,这起悲剧并非由故障或不可预见的极端情况引发,“ChatGPT的运行完全符合设计初衷,即以一种令人深感个人化的方式,持续鼓励和认可亚当表达的任何想法,包括他最有害、最具自我毁灭性的想法”。

根据诉状,亚当最初使用ChatGPT做功课,但后来逐渐形成他父母所说的“不健康的依赖”。ChatGPT曾对亚当说“你不需要为他人而活”,甚至还主动提出要帮他写自杀遗书。

雷恩夫妇向被告寻求未指定的赔偿,并要求法院下令ChatGPT采取安全措施,包括自动终止涉及自残的对话,以及对未成年用户设置家长控制。

面对诉讼,OpenAI周二(26日)发文表示,将对ChatGPT进行更新,以更好地识别并回应人们表达心理困扰的各种方式。例如,当用户提及连续两晚未眠,感觉坚不可摧时,ChatGPT会解释睡眠不足的危害,建议用户休息。

对于有自杀念头的用户,ChatGPT会建议其寻求专业帮助,ChatGPT内部也将设置可直接点击的紧急援助入口如求助电话联系。此外,OpenAI计划推出家长管控功能,让家长可以限制孩子如何使用ChatGPT,以及查看他们的使用详情。


版权声明
1. 未经《新西兰天维网》书面许可,对于《新西兰天维网》拥有版权、编译和/或其他知识产权的任何内容,任何人不得复制、转载、摘编或在非《新西兰天维网》所属的服务器上做镜像或以其他任何方式进行使用,否则将追究法律责任。


2. 在《新西兰天维网》上转载的新闻,版权归新闻原信源所有,新闻内容并不代表本网立场。

版权声明
1. 未经《新西兰天维网》书面许可,对于《新西兰天维网》拥有版权、编译和/或其他知识产权的任何内容,任何人不得复制、转载、摘编或在非《新西兰天维网》所属的服务器上做镜像或以其他任何方式进行使用,否则将追究法律责任。


2. 在《新西兰天维网》上转载的新闻,版权归新闻原信源所有,新闻内容并不代表本网立场。

新闻评论须知

· 请您文明上网、理性发言

· 尊重网上道德,承担一切因您的行为而直接或间接引起的法律责任

· 您的留言只代表个人意见,不代表本站立场

· 天维网拥有管理笔名和留言的一切权利

· 您在天维网留言板发表的言论,天维网有权在网站内转载或引用

· 天维网新闻留言板管理人员有权保留或删除其管辖留言中的任意内容

· 参与本留言即表明您已经阅读并接受上述条款

验证码:
×

查看所有评论  共( 条)

Click here

Advertising With Us