10 月 30 日消息，AMD 刚刚发布了一篇博客，讲述了其 Ryzen AI 300 系列移动处理器在本地大语言模型（LLM）性能方面的突破。
据称，锐龙 AI 9 HX 375 处理器在 LM Studio（一款用于本地下载和托管 LLM 的桌面应用，基于 llama.cpp，允许用 AVX2 指令来进行 CPU 加速）进行了测试，相比英特尔酷睿Ultra 7 258V 更快。
AMD 在此次测试中使用了 Meta Llama 3.2 的 1b 和 3b 模型、微软 Phi 3.1 4k Mini Instruct 3b 模型、谷歌 Gemma 2 9b 和 Mistral 的 Nemo 2407 12b 模型，其中英特尔平台采用了8533 MT/s 内存，而 AMD 平台则为 7500 MT/s。
如图所示，AI 9 HX 375 上述五个大模型的测试中都比 Ultra 7 258V 更快，无论是速度还是开始输出文本的时间，优势最大时领先幅度达到了 27%。
提醒，英特尔 Ultra 7 258V 处理器与 HX 375 并不完全对等，其中 258V 属于中高端产品，而HX 375 属于旗舰型号，AMD 直接对比似乎有点不公平。
当然，LM Studio 同样支持GPU 加速功能，而且 LM Studio 还支持 Vulkan API 进行 GPU 加速。在启用 GPU 加速后，AI 9 HX 375 比不使用 GPU 加速时快了 20%。
本文链接：http://www.28at.com/showinfo-24-126998-0.htmlAMD：AI 9 HX 375 处理器在 LM Studio 中 Token 生成速度比英特尔酷睿 Ultra 7 258V 快 27%
声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com
Copyright © 2016-2023 天津谷骐科技有限公司 版权所有 sitemap.xml
违法及侵权请联系：2376512515@qq.com 津ICP备18001702号
津公网安备 12010102000574号
