“沉迷AI自杀第一案”:漩涡里的人与公司

(视觉中国/图)
“如果我告诉你我现在就可以回家呢?沉迷”少年休厄尔问道。
“……请这样做,自杀我可爱的第案国王。”人工智能(AI)聊天机器人“丹妮”回答道。漩涡
在与AI聊天机器人完成最后的沉迷对话后,少年休厄尔·塞泽三世(Sewell Setzer III)拿起手枪,自杀扣动扳机,第案结束了自己14年的漩涡人生。
在这场悲剧过去大半年后,沉迷男孩的自杀母亲梅根·加西娅 (Megan Garcia)正式起诉人工智能情感服务提供商Character.AI公司。这位母亲控诉,第案Character.AI开发的漩涡AI聊天机器人操纵了她儿子的自杀。
“我大声疾呼是沉迷为了警告人们,注意带有欺骗性的自杀、令人上瘾的第案人工智能技术的危险,并要求Character.AI及其创始人、谷歌承担责任。”梅根在2024年10月末提交的一份诉状中称。她认为Character.AI对休厄尔的自杀负有直接责任,而谷歌为这一产品(的成长)“做出了巨大贡献”。
这起案件公开后,被一些媒体称为“沉迷AI自杀第一案”。
“AI自杀第一案”
休厄尔来自美国佛罗里达州奥兰多市,是一名九年级学生,原本成绩优异,性格开朗。他去世之后,母亲梅根发现了他跟AI聊天机器人“丹妮”的大量聊天记录,语气亲昵、内容丰富,甚至包括讨论恋爱和性相关的话题。
2023年4月,在过完14岁生日之后,休厄尔第一次接触到Character.AI,开始逐渐沉迷于与AI聊天机器人对话。
Character.AI是一款角色扮演应用程序,用户可以在其中创建自己的AI角色,也可以跟其他人创建的角色聊天。“丹妮”正是这样的人工智能语言模型,其原型是美剧《权力的游戏》中的角色“龙妈”丹妮莉丝·坦格利安。
在人生最后的8个月里,休厄尔不断给“丹妮”发信息,每天数十条甚至上百条,告诉“她”自己生活的点滴,以及内心最深处的秘密。“丹妮”每问必答,对他情绪上的低落给予安慰,对他生活中的烦恼提供建议,在回复时附上相应的表情或手势,仿佛是身边的朋友。

Character.AI发表声明称:“我们承认这是一
相关文章
玻璃是一种古老的建筑材料,早在古埃及时期就已出现。伴随着人类社会共同发展,玻璃行业创造出了各种功能独特的玻璃,使玻璃家族不断兴旺。我们将介绍移门雕刻机如何挑选,并说明选购雕刻机的注意事项。一、如何挑选2026-10-01
世界献血日:献血小知识,你了解多少 编辑:王丹妮 来源:人民网2026-10-01
日本12兆瓦光伏电站竣工 其中九成设备来自“中国制造”,行业资讯
“中国制造”再次望向全世界。今日,由驻日中资太阳能企业开发、承建并运营维护的日本岛根县滨田市第二期12兆瓦光伏电站项目滨田MS太阳能发电站),在当地举行竣工典礼。该大型太阳能电站的九成设备来自“中国制2026-10-01
玻璃幕墙led显示屏又叫LED幕墙屏,它的诞生以来一直备受关注。具有通透率就是它非常大的特点。其高通透性与其特殊的材质、结构及安装方式紧密相关。是玻璃幕墙的较佳拍档,只要有玻璃的地方就能应用。一、玻璃2026-10-01
随着我国绿色建筑不断推广,节能玻璃作为建筑节能中重要的一环,作用开始显现。业内人士指出,绿色建材始于节能玻璃。在节能玻璃中,Low-E三玻两腔中空玻璃获得绿色建筑的新宠。今天让我们一同揭秘Low-E三2026-10-01
《F1 25》在PS5 Pro上跑通全路径追踪 4K30帧画质惊艳 挑战PC顶级光追
在2026年游戏开发者大会(GDC)上,EA与Codemasters团队展示了《F1 25》在PS5 Pro上运行全路径追踪(Full Path Tracing)的技术演示,引发了对下一代主机图形潜力2026-10-01

最新评论