当前位置:首页 > 科技  > 手机

华为发布AI推理技术UCM:降低HBM依赖 计划9月正式开源

来源: 责编: 时间:2025-08-13 16:03:18 56观看
导读 快科技8月13日消息,据媒体报道,在2025金融AI推理应用落地与发展论坛上,华为重磅发布了其AI推理创新技术——UCM(推理记忆数据管理器)。这项技术被业内视为有望重塑国内AI推理格局的关键突破。UCM技术

快科技8月13日消息,据媒体报道,在2025金融AI推理应用落地与发展论坛上,华为重磅发布了其AI推理创新技术——UCM(推理记忆数据管理器)。这项技术被业内视为有望重塑国内AI推理格局的关键突破。oVq28资讯网——每日最新资讯28at.com

UCM技术的核心在于其先进的KV Cache系统,通过融合多种缓存加速算法工具与精细的分级管理策略,高效处理推理过程中产生的大量记忆数据。这带来了多重显著优势:有效扩大上下文窗口,确保推理过程的高吞吐量与低延迟,并显著降低每个Token的推理成本。oVq28资讯网——每日最新资讯28at.com

尤为关键的是,UCM技术有望缓解当前因HBM(高带宽内存)资源短缺导致的任务停滞与响应延迟问题,为AI应用提供更流畅的体验,从而减少行业对HBM的过度依赖。oVq28资讯网——每日最新资讯28at.com

此次论坛不仅是UCM技术的首次亮相,华为还宣布将携手中国银联,共同发布双方在AI推理领域的新应用成果。论坛还邀请了来自信通院、清华大学、科大讯飞等机构的专家,分享他们在优化大模型推理速度及提升用户体验方面的前沿经验。oVq28资讯网——每日最新资讯28at.com

华为数据存储产品线副总裁樊杰在演讲中强调了高质量行业数据与高性能存储对AI发展的重要性。他指出,未来的AI飞跃将极大依赖于此,高性能AI存储系统能将数据加载时间从数小时压缩至几分钟,同时使算力集群的效率实现倍增。oVq28资讯网——每日最新资讯28at.com

华为计划于2025年9月正式开源UCM技术,首发平台为魔擎社区。后续,华为将逐步将该技术贡献给业界主流的推理引擎社区,并向所有采用 “共享一切”(Share Everything) 架构的存储厂商及生态伙伴开放共享。oVq28资讯网——每日最新资讯28at.com

华为发布AI推理技术UCM:降低HBM依赖 计划9月正式开源oVq28资讯网——每日最新资讯28at.com

本文链接:http://www.28at.com/showinfo-22-177043-0.html华为发布AI推理技术UCM:降低HBM依赖 计划9月正式开源

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 杀入传音腹地!小米任命多位非洲市场高管 雷军称要加大投入

下一篇: 北京移动崩了 官方道歉

标签:
  • 热门焦点
  • Automa-通过连接块来自动化你的浏览器

    1、前言通过浏览器插件可实现自动化脚本的录制与编写,具有代表性的工具就是:Selenium IDE、Katalon Recorder,对于简单的业务来说可快速实现自动化的上手工作。Selenium IDEKat
  • 一年经验在二线城市面试后端的经验分享

    忠告这篇文章只适合2年内工作经验、甚至没有工作经验的朋友阅读。如果你是2年以上工作经验,请果断划走,对你没啥帮助~主人公这篇文章内容来自 「升职加薪」星球星友 的投稿,坐
  • 微信语音大揭秘:为什么禁止转发?

    大家好,我是你们的小米。今天,我要和大家聊一个有趣的话题:为什么微信语音不可以转发?这是一个我们经常在日常使用中遇到的问题,也是一个让很多人好奇的问题。让我们一起来揭开这
  • 拼多多APP上线本地生活入口,群雄逐鹿万亿市场

    Tech星球(微信ID:tech618)文 | 陈桥辉 Tech星球独家获悉,拼多多在其APP内上线了“本地生活”入口,位置较深,位于首页的“充值中心”内,目前主要售卖美食相关的
  • 新电商三兄弟,“抖快红”成团!

    来源:价值研究所作 者:Hernanderz 随着内容电商的概念兴起,抖音、快手、小红书组成的“新电商三兄弟”成为业内一股不可忽视的势力,给阿里、京东、拼多多带去了巨大压
  • 一条抖音4亿人围观 ! 这家MCN比无忧传媒还野

    作者:Hiu 来源:互联网品牌官01 擦边少女空降热搜,幕后推手曝光被网友誉为“纯欲天花板”的女网红井川里予,近期因为一组哥特风照片登上热搜,引发了一场互联网世界关于
  • 微博大门常打开,迎接海外画师漂洋东渡

    作者:互联网那些事“起猛了,我能看得懂日语了”。“为什么日本人说话我能听懂?”“中文不像中文,日语不像日语,但是我竟然看懂了”…&hell
  • 朋友圈可以修改可见范围了 苹果用户可率先体验

    近日,iOS用户迎来微信8.0.27正式版更新,除了可更换二维码背景外,还新增了多项实用功能。在新版微信中,朋友圈终于可以修改可见范围,简单来说就是已发布的朋友圈
  • 英特尔Xe-HP项目终止,将专注Xe-HPC/HPG系列显卡

    据10 月 31 日消息报道,英特尔高级副总裁兼加速计算系统和图形事业部总经理 表示,Xe-HP“ Arctic Sound” 系列服务器 GPU 已经应用于 oneAPI devcloud 云服
Top