当前位置:首页 > 科技  > 芯片

国内AI算力租赁需求激增,NVIDIA加速卡涨价成常态

来源: 责编: 时间:2023-12-05 17:11:27 391观看
导读由于国内大型语言模型(LLM)的爆发式增长,AI算力基础硬件设施无法满足需求,导致国内科技大厂如腾讯、阿里巴巴、华为等纷纷向算力租赁业者求助。其中,国内网络安全厂商也跨界提供GPU算力租赁服务。据报道,由于NVIDIA多款高端

由于国内大型语言模型(LLM)的爆发式增长,AI算力基础硬件设施无法满足需求,导致国内科技大厂如腾讯、阿里巴巴、华为等纷纷向算力租赁业者求助。其中,国内网络安全厂商也跨界提供GPU算力租赁服务。dRZ28资讯网——每日最新资讯28at.com


dRZ28资讯网——每日最新资讯28at.com

据报道,由于NVIDIA多款高端人工智能(AI)GPU芯片出口受限,国内科技大厂在AI算力告急的情况下,不得不向国内算力租赁业者求助。国内算力租赁大厂汇纳科技公告称,由于算力需求大幅增加、算力资源持续紧张,该公司内建NVIDIA A100芯片的高消能服务器算力供应,收费将上调100%。dRZ28资讯网——每日最新资讯28at.com


dRZ28资讯网——每日最新资讯28at.com

在市场涌现出的强大需求下,拥有GPU资源的企业也纷纷下海,跨界布局算力租赁。一家网络安全一线大厂相关人士向媒体表示,该公司也在做算力租赁,主要以NVIDIA的A100/A800加速卡为主。dRZ28资讯网——每日最新资讯28at.com


dRZ28资讯网——每日最新资讯28at.com

由于ChatGPT引发的大型语言模型(LLM)风潮横扫国内市场,LLM训练的参数量与训练时的数据量双双提升后,亟需更大的算力布局。但当AI推论情境和需求成长后,国内的算力基础硬件设施无法跟上LLM的需求爆发。dRZ28资讯网——每日最新资讯28at.com


dRZ28资讯网——每日最新资讯28at.com

由于NVIDIA高端AI GPU遭到美国政府断供,再加上新一代国内特供版芯片还不确定,在当前国内的AI算力告急下,厂商瞄准多元算力,表示国内本土芯片已在不断升级中,将和国产高端芯片业者保持密切联系。dRZ28资讯网——每日最新资讯28at.com


dRZ28资讯网——每日最新资讯28at.com

尽管包括华为昇腾、壁仞科技、摩尔线程等国内本土芯片业者陆续获得厂商采用测试的机会,但对于国内AI服务器发展熟稔的浪潮信息资深副总裁刘军,日前在“2023年人工智能计算大会”(AICC 2023)上坦承,要实现多元算力的挑战不小。刘军指出,全球高端AI训练芯片目前已经超过40款左右,但因为每家厂商在开发过程中采用的技术路线不一样,所以在接口互连等方面还存在较多不兼容之处,这也使得AI算力系统整个开发配置周期拉长、定制化开发投资过大、从既有厂商迁移到国内本土方案的转换时间过久等挑战。dRZ28资讯网——每日最新资讯28at.com


dRZ28资讯网——每日最新资讯28at.com

本文链接:http://www.28at.com/showinfo-27-38260-0.html国内AI算力租赁需求激增,NVIDIA加速卡涨价成常态

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 国内AI需求飙升,打破单芯片效能瓶颈成未来要务

下一篇: AMD利用PyTorch与ROCm,为显示卡注入AI研发新动力

标签:
  • 热门焦点
  • 一加Ace2 Pro官宣:普及16G内存 引领24G

    一加官方今天继续为本月发布的新机一加Ace2 Pro带来预热,公布了内存方面的信息。“淘汰 8GB ,12GB 起步,16GB 普及,24GB 引领,还有呢?#一加Ace2Pro#,2023 年 8 月,敬请期待。”同时
  • 跑分安卓第一!Redmi K60至尊版8月发布!卢伟冰:目标年度性能之王

    8月5日消息,Redmi K60至尊版将于8月发布,在此前举行的战略发布会上,官方该机将搭载搭载天玑9200+处理器,安兔兔V10跑分超177万分,是目前安卓阵营最高的分数
  • K8S | Service服务发现

    一、背景在微服务架构中,这里以开发环境「Dev」为基础来描述,在K8S集群中通常会开放:路由网关、注册中心、配置中心等相关服务,可以被集群外部访问;图片对于测试「Tes」环境或者
  • JVM优化:实战OutOfMemoryError异常

    一、Java堆溢出堆内存中主要存放对象、数组等,只要不断地创建这些对象,并且保证 GC Roots 到对象之间有可达路径来避免垃 圾收集回收机制清除这些对象,当这些对象所占空间超过
  • 腾讯盖楼,字节拆墙

    来源 | 光子星球撰文 | 吴坤谚编辑 | 吴先之“想重温暴刷深渊、30+技能搭配暴搓到爽的游戏体验吗?一起上晶核,即刻暴打!”曾凭借直播腾讯旗下代理格斗游戏《DNF》一
  • 2纳米决战2025

    集微网报道 从三强争霸到四雄逐鹿,2nm的厮杀声已然隐约传来。无论是老牌劲旅台积电、三星,还是誓言重回先进制程领先地位的英特尔,甚至初成立不久的新
  • 机构称Q2全球智能手机出货量同比下滑11% 苹果份额依旧第2

    7月20日消息,据外媒报道,研究机构的报告显示,由于需求下滑,今年二季度全球智能手机的出货量,同比下滑了11%,三星、苹果等主要厂商的销量,较去年同期均有下
  • 苹果140W USB-C充电器:采用氮化镓技术

    据10 月 30 日 9to5 Mac 消息报道,当苹果推出新的 MacBook Pro 2021 时,该公司还推出了新的 140W USB-C 充电器,附赠在 MacBook Pro 16 英寸机型的盒子里,也支
  • 三翼鸟智能家居亮相电博会,让用户体验更真实

    2021电博会在青岛国际会展中心开幕中,三翼鸟直接把“家”搬到了现场,成为了展会的一大看点。这也是三翼鸟继9月9日发布了行业首个一站式定制智慧家平台后的
Top