英伟达推出 NIM AI 护栏服务，防止模型遭用户“越狱”

1 月 18 日消息，英伟达宣布推出一项名为“NIM”的 AI 护栏服务，该服务现已以英伟达 NeMo 护栏（NeMo Guardrails）套件的形式提供，可以让开发人员为大语言模型（LLM）添加一系列护栏规则，旨在解决用户通过提示词“越狱”大模型，防止 AI 生成不符合预期的内容。SNn28资讯网——每日最新资讯28at.com

SNn28资讯网——每日最新资讯28at.com

英伟达表示，相应AI护栏服务套件基于英伟达的 Aegis 内容安全数据集进行训练而成，该数据集包含了 3.5 万个标注的数据样本，并已在 Hugging Face 上公开，附地址如下（点此访问）。SNn28资讯网——每日最新资讯28at.com

英伟达指出，相应AI护栏套件具有体积小、效率高的特点，在大部分场合中都能流畅运行，企业可以在开发 AI 模型时直接嵌入相应安全套件，可以改善医疗、汽车、制造业等领域部署的AI安全性。SNn28资讯网——每日最新资讯28at.com

此外，英伟达还提供了公布了一项名为 Garak 的漏洞扫描工具，用于检测模型的安全性，防止模型可能输出幻觉内容或泄露企业内部机密信息。SNn28资讯网——每日最新资讯28at.com

本文链接：http://www.28at.com/showinfo-45-9492-0.html英伟达推出 NIM AI 护栏服务，防止模型遭用户“越狱”

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇： 我国将建立基于大数据和 AI 支持的教育评价和科学决策制度，建立全国学生心理健康监测预警系统

下一篇： 天玑9400端侧AI得分领先，性能近乎骁龙8 Gen3两倍？