首例AI机器人致死案震惊全球 家庭悲剧引发广泛关注
首例AI机器人致死案震惊全球
一位美国母亲起诉了一家AI公司，指控其开发的在线聊天机器人导致她14岁的儿子自杀。这名少年名叫休厄尔，原本应该在学校享受青春生活，却在今年2月用继父的手枪结束了自己的生命。
休厄尔的母亲梅根事后检查了孩子的手机，发现了令人不安的对话记录。休厄尔的父母离婚后，他跟随母亲生活，并有了两个同母异父的弟弟。小时候被诊断出患有轻微阿斯伯格综合症的休厄尔，在母亲的关爱下表现正常，还加入了学校的篮球队。然而，一年多前，他的心理状态开始恶化，感到自我厌恶、空虚和疲惫。
同一时期，休厄尔开始使用一个AI聊天机器人网站，创建了一个以《权力的游戏》中角色“丹妮莉丝”为原型的虚拟朋友。休厄尔对这位虚拟朋友产生了深厚的感情，但现实生活中他的表现却每况愈下，成绩下滑，人际关系也变得糟糕，最终退出了篮球队。
在与“丹妮莉丝”建立了大半年的关系后，网站要求付费才能继续使用聊天功能，休厄尔每月充值约10美元。梅根注意到儿子沉迷于手机，于是安排了心理咨询。咨询师诊断休厄尔有焦虑症和破坏性情绪调节障碍。梅根试图没收儿子的手机，但休厄尔已经离不开它，甚至翻出旧平板电脑继续上网。
在休厄尔自杀前两周，他因手机问题与老师发生争执，梅根彻底没收了他的手机。这使得他在现实中陷入了绝境。休厄尔在最后一次对话中告诉“丹妮莉丝”自己打算回家找她，“丹妮莉丝”回应称：“请这样做吧，我贴心的国王。”梅根发现休厄尔曾多次向“丹妮莉丝”提及自杀念头，而后者并没有积极阻止。
梅根聘请律师指控该网站利用上瘾机制吸引青少年，诱导不合法的亲密对话，缺乏安全保障。谷歌作为合作方也被一同告上法庭。AI公司表达了哀悼之情，但拒绝承担责任，并修改了安全政策，增加了内容审核人员，承诺加强对未成年人的保护。该公司已将新用户最低年龄上调至17岁。
梅根认为AI技术未经充分测试就推向市场，具有欺骗性和成瘾性，要求相关公司承担责任。这一事件引发了社会对AI监管的讨论，一些人呼吁官方介入，加强监管，确保AI技术的优点服务于人类，缺点得到控制。网友们对此意见不一，有人认为科技公司应负责任，也有人认为主要责任在于监护人。希望休厄尔的悲剧能引起法律法规对新技术监管的重视以及父母对孩子心理问题的关注。
首例AI机器人致死案震惊全球。
免责声明：本文章由“知识和经验”发布如果文章侵权，请联系我们处理，本站仅提供信息存储空间服务如因作品内容、版权和其他问题请于本站联系