微软副总裁 Vik Singh：AI 聊天机器人需“学会求助”而非“制造幻觉”

9 月 2 日消息，当地时间 9 月 1 日，据法新社报道，微软公司副总裁 Vik Singh 在接受采访时说，“坦率地说，如今（生成式 AI）真正缺少的能力，即是当模型无法确定（自身答案是否准确）时，能够主动说‘嘿，我不确定，我需要帮助’。”JwK28资讯网——每日最新资讯28at.com

自去年以来，微软、谷歌及其竞争对手一直在迅速部署如 ChatGPT、Gemini 等生成式 AI 应用，这些应用可以按需生成各种内容，并给用户一种“无所不知”的错觉。尽管生成式 AI 的开发取得了进展，它们仍然会出现“幻觉”或编造答案。JwK28资讯网——每日最新资讯28at.com

JwK28资讯网——每日最新资讯28at.com

Vik Singh 坚持认为，“真正聪明的人”正在努力找到方法，让聊天机器人在不知道正确答案时“承认并寻求帮助”。JwK28资讯网——每日最新资讯28at.com

与此同时，云端软件巨头 Salesforce 的首席执行官 Marc Benioff 也在上周表示，他看到许多客户对微软 Copilot 的误导性表现越来越感到沮丧。JwK28资讯网——每日最新资讯28at.com

获悉，近年来，人工智能蓬勃发展，聊天机器人等应用逐渐普及，人们可以通过简单的指令从这些聊天机器人（例如 ChatGPT）获取信息。然而，这些聊天机器人仍然容易出现“幻觉”问题，即提供错误的答案，有时甚至是危险的信息。造成“幻觉”的原因之一，是训练数据不准确、泛化能力不足以及数据采集过程中的副作用。JwK28资讯网——每日最新资讯28at.com

本文链接：http://www.28at.com/showinfo-45-6663-0.html微软副总裁 Vik Singh：AI 聊天机器人需“学会求助”而非“制造幻觉”

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇： 哈佛反向学习法火了：教会 AI 就是教会自己，陶哲轩力荐

下一篇： 中国科学院开发出基于语义记忆的动态神经网络：相比静态最高减少 48.1% 计算量