当前位置:首页 > 科技  > 芯片

蚂蚁集团用本土AI芯片训练大模型,成本降低20%

来源:icspec 责编: 时间:2025-03-26 11:01:22 229观看
导读据法新社报道,蚂蚁集团近日发布了一项重要研究成果,其研发团队利用中国本土AI芯片成功训练出参数规模达3000亿的混合专家(MoE)大模型,训练效能媲美采用NVIDIA H800芯片的方案,同时成本降低了20%。这一突破展现了中国在AI基
据法新社报道,蚂蚁集团近日发布了一项重要研究成果,其研发团队利用中国本土AI芯片成功训练出参数规模达3000亿的混合专家(MoE)大模型,训练效能媲美采用NVIDIA H800芯片的方案,同时成本降低了20%。这一突破展现了中国在AI基础设施领域的自主创新能力。
蚂蚁集团的Ling技术团队在预印本平台Arxiv上发表论文《每一个FLOP都至关重要:无需高级GPU即可扩展3000亿参数混合专家LING大模型》,详细介绍了这一成果。由于高性能GPU供应受限且成本高昂,蚂蚁团队通过算法优化与硬件兼容结合的方式,使用中国本土低端芯片完成了大规模模型训练。
研究中,蚂蚁推出了两款不同规模的MoE模型:羽量级的“百灵Ling-Lite”(168亿参数)和高效能的“百灵Ling-Plus”(2900亿参数)。其中,Ling-Plus模型在9万亿token预训练中表现出色,花费仅508万元人民币,相比传统方案节省127万元,成本降低约20%。在多项基准测试中,该模型的表现与采用NVIDIA芯片训练的同类模型如阿里巴巴的通义Qwen2.5-72B和深度求索的DeepSeek-V2.5不相上下。
这一成果的核心在于通过动态路由优化、梯度压缩和计算架构重构等技术,克服了中国本土芯片在算力和带宽上的局限。这种方法“以算法补硬件不足”,为中国AI产业在外部限制下提供了新的可能性。
首先,该研究验证了中国本土AI芯片承载大模型训练的可行性,为华为升腾、阿里平头哥等芯片厂商提供了重要发展路径。其次,训练成本的降低将使更多中小企业得以参与大模型研发,推动AI应用的多元化发展。
蚂蚁集团还宣布将开源相关技术,优先应用于医疗、金融等民生领域,推动AI技术的普惠化。业内人士分析,若这一技术得到广泛应用,中国AI产业对NVIDIA等国际芯片厂商的依赖度有望显著下降,为中国AI技术在全球竞争中赢得更多主导权。

本文链接:http://www.28at.com/showinfo-27-138882-0.html蚂蚁集团用本土AI芯片训练大模型,成本降低20%

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 日本九州推动“分散式”半导体园区建设,各方资源加速整合

下一篇: 德仪发布全球最小MCU,称不惧市场竞争

标签:
  • 热门焦点
  • 把LangChain跑起来的三个方法

    使用LangChain开发LLM应用时,需要机器进行GLM部署,好多同学第一步就被劝退了,那么如何绕过这个步骤先学习LLM模型的应用,对Langchain进行快速上手?本片讲解3个把LangChain跑起来
  • 一年经验在二线城市面试后端的经验分享

    忠告这篇文章只适合2年内工作经验、甚至没有工作经验的朋友阅读。如果你是2年以上工作经验,请果断划走,对你没啥帮助~主人公这篇文章内容来自 「升职加薪」星球星友 的投稿,坐
  • Flowable工作流引擎的科普与实践

    一.引言当我们在日常工作和业务中需要进行各种审批流程时,可能会面临一系列技术和业务上的挑战。手动处理这些审批流程可能会导致开发成本的增加以及业务复杂度的上升。在这
  • 零售大模型“干中学”,攀爬数字化珠峰

    文/侯煜编辑/cc来源/华尔街科技眼对于绝大多数登山爱好者而言,攀爬珠穆朗玛峰可谓终极目标。攀登珠峰的商业路线有两条,一是尼泊尔境内的南坡路线,一是中国境内的北坡路线。相
  • 10天营收超1亿美元,《星铁》比《原神》差在哪?

    来源:伯虎财经作者:陈平安即便你没玩过《原神》,你一定听说过的它的大名。恨它的人把《原神》开服那天称作是中国游戏史上最黑暗的一天,有粉丝因为索尼在PS平台上线《原神》,怒而
  • 8月见!小米MIX Fold 3获得3C认证:支持67W快充

    这段时间以来,包括三星、一加、荣耀等等有不少品牌旗下的最新折叠屏旗舰都得到了不少爆料,而小米新一代折叠屏旗舰——小米MIX Fold 3此前也屡屡被传
  • 华为HarmonyOS 4升级计划公布:首批34款机型今日开启公测

    8月4日消息,今天下午华为正式发布了HarmonyOS 4系统,在更流畅的前提下,还带来了不少新功能,UI设计也有变化,会让手机焕然一新。华为宣布,首批机型将会在
  • 2299元起!iQOO Pad开启预售:性能最强天玑平板

    5月23日,iQOO如期举行了新品发布会,除了首发安卓最强旗舰处理器的iQOO Neo8系列新机外,还在发布会上推出了旗下首款平板电脑——iQOO Pad,其搭载了天玑
  • iQOO Neo8系列或定档5月23日:首发天玑9200+ 安卓跑分王者

    去年10月,iQOO推出了iQOO Neo7系列机型,不仅搭载了天玑9000+,而且是同价位唯一一款天玑9000+直屏旗舰,一经上市便受到了用户的广泛关注。在时隔半年后,
Top