Anthropic 示警：Claude 等 AI 被滥用，引导舆论威胁公众认知

4 月 24 日消息，Anthropic 昨日（4 月 23 日）发布博文，报告称 Claude 等前沿 AI 模型正被恶意行为者滥用，涉及“舆论引导服务”（influence-as-a-service）操作、凭证填充、招聘诈骗及恶意软件开发等活动。Wg728资讯网——每日最新资讯28at.com

Anthropic 开发团队为 Claude 采取了多项安全措施，成功阻止了许多有害输出，但威胁行为者仍在尝试绕过这些保护。援引博文介绍，报告通过多个案例，揭示了恶意行为者如何利用 AI 技术进行复杂操作，包括政治影响力操控、凭证窃取、招聘诈骗及恶意软件开发。Wg728资讯网——每日最新资讯28at.com

其中最值得关注的一个案例，就是一个营利组织在 X 和 Facebook 上创建了超过 100 个虚假账号，完全无人为干预，能使用多种语言发表评论，伪装成真实用户，成功与数万名真实用户互动，传播政治偏见的叙事内容。Wg728资讯网——每日最新资讯28at.com

Wg728资讯网——每日最新资讯28at.com

另一个案例涉及凭证填充操作，恶意行为者利用 Claude 增强系统，识别并处理与安全摄像头相关的泄露用户名和密码，同时搜集互联网目标信息以测试这些凭证。Wg728资讯网——每日最新资讯28at.com

报告还发现，一名技术能力有限的用户，通过 Claude 开发出超出其技能水平的恶意软件。这些案例均未确认实际部署成功，但显示出 AI 如何降低恶意行为的门槛。Wg728资讯网——每日最新资讯28at.com

研究团队通过 Clio 和分层摘要等技术，分析大量对话数据，识别滥用模式，并结合分类器检测潜在有害请求，成功封禁相关账户。团队强调，随着 AI 系统功能增强，半自主复杂滥用系统可能愈发普遍。Wg728资讯网——每日最新资讯28at.com

Wg728资讯网——每日最新资讯28at.com

本文链接：http://www.28at.com/showinfo-45-12583-0.htmlAnthropic 示警：Claude 等 AI 被滥用，引导舆论威胁公众认知

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇： “AI 教父”等发布联名公开信： OpenAI 重组背离初衷，呼吁监管介入

下一篇： OpenAI 将 ChatGPT 新图像生成技术引入 API，每张图约 2 美分起