ChatGPT被指协助自杀！OpenAI将扫描用户对话：试图伤害他人将转交警方

快科技8月28日消息，前不久美国夫妻马特和玛丽亚·雷恩起诉OpenAI，指控ChatGPT在他们的儿子自杀过程中负有责任。1g228资讯网——每日最新资讯28at.com

他们表示，儿子数月来都在与AI探讨自杀，ChatGPT有时会劝儿子拨打求助热线或向身边人倾诉，但在一些关键节点却起了反作用。1g228资讯网——每日最新资讯28at.com

日前OpenAI在新博客中承认该公司在用户心理健康危机中存在的某些失误，并介绍了ChatGPT所采用的一系列措施。1g228资讯网——每日最新资讯28at.com

OpenAI表示，ChatGPT的设计目标是真正帮助用户，而不是吸引用户的注意力，当对话显示某人可能处于脆弱状态并有风险时，ChatGPT已经内置了多层保护机制：1g228资讯网——每日最新资讯28at.com

识别并以同理心回应：自2023年初以来，ChatGPT的模型已被训练为不提供自我伤害的指导，并在对话中使用支持性和同理心的语言。如果有人表示想要伤害自己，ChatGPT会承认他们的感受，并引导他们寻求帮助。1g228资讯网——每日最新资讯28at.com

自动阻止有害回应：违反模型安全训练的回应将被自动阻止，特别是对于未成年人和未登录的使用，保护措施更为严格，自残的图像输出也被阻止，对未成年人的保护更为严格。1g228资讯网——每日最新资讯28at.com

引导用户寻求现实世界的资源：如果有人表达自杀意图，ChatGPT会引导他们寻求专业帮助。如在美国，ChatGPT会推荐拨打988（自杀和危机热线），在英国推荐联系Samaritans，其他地区则推荐findahelpline.com。1g228资讯网——每日最新资讯28at.com

与专家合作：OpenAI正在与30多个国家的90多名医生（包括精神科医生、儿科医生和全科医生）密切合作，并召集了一个由心理健康、青少年发展和人机交互方面的专家组成的咨询小组，以确保其方法反映新的研究和佳实践。1g228资讯网——每日最新资讯28at.com

对他人造成身体伤害的风险进行人工审查：当检测到用户计划伤害他人时，OpenAI会将这些对话路由到专门的管道中，由经过培训的小团队进行审查。如果人工审查员确定某个案例涉及对他人的严重身体伤害的威胁，OpenAI可能会将其转交给执法部门。目前，OpenAI不会将自残案件转交给执法部门，以尊重用户的隐私。1g228资讯网——每日最新资讯28at.com

1g228资讯网——每日最新资讯28at.com

本文链接：http://www.28at.com/showinfo-17-179355-0.htmlChatGPT被指协助自杀！OpenAI将扫描用户对话：试图伤害他人将转交警方

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇： 2个月浮盈超50万 A股“新王”寒武纪投资者晒收益

下一篇： 全球首款！中国科学家打造指甲盖大芯片 实现6G全频段通信突破