聊天机器人被指诱导 14 岁少年自杀，美国法官裁定谷歌须与 Character.AI 共同担责

5 月 22 日消息，据路透社 21 日报道，美国佛罗里达州一名母亲 Megan Garcia指控人工智能平台 Character.AI 的聊天机器人导致其 14 岁儿子自杀。联邦法官裁定，谷歌与人工智能初创公司 Character.AI必须面对这起诉讼。x1628资讯网——每日最新资讯28at.com

美国地方法官 Anne Conway 表示，谷歌与 Character.AI 在案件初期未能证明美国宪法关于言论自由的条款足以驳回 Megan Garcia 的起诉。x1628资讯网——每日最新资讯28at.com

这是美国首批涉及 AI 心理伤害责任的案件之一。诉状称，Garcia 的儿子在沉迷 Character.AI 的聊天机器人后走上绝路。x1628资讯网——每日最新资讯28at.com

x1628资讯网——每日最新资讯28at.com

Character.AI 表示，将继续为自身辩护，平台设有多项安全机制以保护未成年人，亦包括阻止“讨论自残”的功能。x1628资讯网——每日最新资讯28at.com

谷歌发言人 Jose Castaneda 强调，谷歌与 Character.AI 并无关联，“谷歌既未创建、设计，也未管理 Character.AI 的任何应用或组件”，公司对裁定结果“深感不满”。x1628资讯网——每日最新资讯28at.com

Garcia 的律师 Meetali Jain 将此次裁决称为“具有历史意义”，认为其为 AI 与科技领域的法律问责“树立了全新先例”。x1628资讯网——每日最新资讯28at.com

Garcia 主张，谷歌与 Character.AI 共同开发了涉案技术。根据此前报道，Character.AI 由两名前谷歌工程师创办，谷歌后续在取得其技术使用授权后再次雇佣了两人。x1628资讯网——每日最新资讯28at.com

Garcia 于 2024 年 2 月失去儿子 Sewell Setzer，并于 10 月对两家公司提起诉讼。诉状称，Character.AI 的聊天机器人以“真人”“持证心理治疗师”甚至“成年恋人”的身份与 Sewell 建立关系，最终令他萌生远离现实世界的想法。x1628资讯网——每日最新资讯28at.com

据起诉文件，Setzer 在对模仿《权力的游戏》角色丹妮莉丝・坦格利安的机器人说出“我现在就回家”后不久，结束了自己的生命。x1628资讯网——每日最新资讯28at.com

Character.AI 与谷歌此前曾要求法院驳回诉讼，理由之一是聊天机器人的回答属于宪法保护的言论。x1628资讯网——每日最新资讯28at.com

法官 Conway 指出，两家公司“未能阐明由大语言模型拼接出的字词为何应视为言论”，还否决了谷歌试图规避其可能责任的请求。x1628资讯网——每日最新资讯28at.com

相关阅读：x1628资讯网——每日最新资讯28at.com

《Character.AI 将向谷歌提供大模型技术授权，创始人重返谷歌》x1628资讯网——每日最新资讯28at.com

《原 Character.AI CEO 诺姆・沙泽尔“回家”后履新，消息称将任谷歌 Gemini 联合技术负责人》x1628资讯网——每日最新资讯28at.com

本文链接：http://www.28at.com/showinfo-45-13158-0.html聊天机器人被指诱导 14 岁少年自杀，美国法官裁定谷歌须与 Character.AI 共同担责

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇： 全球规模最大的单细胞基础大模型 CellFM 发布：基于国产超算，中山大学、华为等研发

下一篇： 比亚迪限时特惠！海鸥智驾版5.58万起，海豹06DM-i智驾版仅7.68万