当前位置:首页 > 科技  > 芯片

国内AI算力租赁需求激增,NVIDIA加速卡涨价成常态

来源: 责编: 时间:2023-12-05 17:11:27 345观看
导读由于国内大型语言模型(LLM)的爆发式增长,AI算力基础硬件设施无法满足需求,导致国内科技大厂如腾讯、阿里巴巴、华为等纷纷向算力租赁业者求助。其中,国内网络安全厂商也跨界提供GPU算力租赁服务。据报道,由于NVIDIA多款高端

由于国内大型语言模型(LLM)的爆发式增长,AI算力基础硬件设施无法满足需求,导致国内科技大厂如腾讯、阿里巴巴、华为等纷纷向算力租赁业者求助。其中,国内网络安全厂商也跨界提供GPU算力租赁服务。Me228资讯网——每日最新资讯28at.com


Me228资讯网——每日最新资讯28at.com

据报道,由于NVIDIA多款高端人工智能(AI)GPU芯片出口受限,国内科技大厂在AI算力告急的情况下,不得不向国内算力租赁业者求助。国内算力租赁大厂汇纳科技公告称,由于算力需求大幅增加、算力资源持续紧张,该公司内建NVIDIA A100芯片的高消能服务器算力供应,收费将上调100%。Me228资讯网——每日最新资讯28at.com


Me228资讯网——每日最新资讯28at.com

在市场涌现出的强大需求下,拥有GPU资源的企业也纷纷下海,跨界布局算力租赁。一家网络安全一线大厂相关人士向媒体表示,该公司也在做算力租赁,主要以NVIDIA的A100/A800加速卡为主。Me228资讯网——每日最新资讯28at.com


Me228资讯网——每日最新资讯28at.com

由于ChatGPT引发的大型语言模型(LLM)风潮横扫国内市场,LLM训练的参数量与训练时的数据量双双提升后,亟需更大的算力布局。但当AI推论情境和需求成长后,国内的算力基础硬件设施无法跟上LLM的需求爆发。Me228资讯网——每日最新资讯28at.com


Me228资讯网——每日最新资讯28at.com

由于NVIDIA高端AI GPU遭到美国政府断供,再加上新一代国内特供版芯片还不确定,在当前国内的AI算力告急下,厂商瞄准多元算力,表示国内本土芯片已在不断升级中,将和国产高端芯片业者保持密切联系。Me228资讯网——每日最新资讯28at.com


Me228资讯网——每日最新资讯28at.com

尽管包括华为昇腾、壁仞科技、摩尔线程等国内本土芯片业者陆续获得厂商采用测试的机会,但对于国内AI服务器发展熟稔的浪潮信息资深副总裁刘军,日前在“2023年人工智能计算大会”(AICC 2023)上坦承,要实现多元算力的挑战不小。刘军指出,全球高端AI训练芯片目前已经超过40款左右,但因为每家厂商在开发过程中采用的技术路线不一样,所以在接口互连等方面还存在较多不兼容之处,这也使得AI算力系统整个开发配置周期拉长、定制化开发投资过大、从既有厂商迁移到国内本土方案的转换时间过久等挑战。Me228资讯网——每日最新资讯28at.com


Me228资讯网——每日最新资讯28at.com

本文链接:http://www.28at.com/showinfo-27-38260-0.html国内AI算力租赁需求激增,NVIDIA加速卡涨价成常态

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 国内AI需求飙升,打破单芯片效能瓶颈成未来要务

下一篇: AMD利用PyTorch与ROCm,为显示卡注入AI研发新动力

标签:
  • 热门焦点
  • 2023年Q2用户偏好榜:12+256G版本成新主流

    3月份的性能榜、性价比榜和好评榜之后,就要轮到2023年的第二季度偏好榜了,上半年的新机潮已经过去,最明显的肯定就是大内存和存储的机型了,另外部分中端机也取消了屏幕塑料支架
  • Rust中的高吞吐量流处理

    作者 | Noz编译 | 王瑞平本篇文章主要介绍了Rust中流处理的概念、方法和优化。作者不仅介绍了流处理的基本概念以及Rust中常用的流处理库,还使用这些库实现了一个流处理程序
  • .NET 程序的 GDI 句柄泄露的再反思

    一、背景1. 讲故事上个月我写过一篇 如何洞察 C# 程序的 GDI 句柄泄露 文章,当时用的是 GDIView + WinDbg 把问题搞定,前者用来定位泄露资源,后者用来定位泄露代码,后面有朋友反
  • WebRTC.Net库开发进阶,教你实现屏幕共享和多路复用!

    WebRTC.Net库:让你的应用更亲民友好,实现视频通话无痛接入! 除了基本用法外,还有一些进阶用法可以更好地利用该库。自定义 STUN/TURN 服务器配置WebRTC.Net 默认使用 Google 的
  • 10天营收超1亿美元,《星铁》比《原神》差在哪?

    来源:伯虎财经作者:陈平安即便你没玩过《原神》,你一定听说过的它的大名。恨它的人把《原神》开服那天称作是中国游戏史上最黑暗的一天,有粉丝因为索尼在PS平台上线《原神》,怒而
  • 腾讯VS网易,最卷游戏暑期档,谁能笑到最后?

    作者:无锈钵来源:财经无忌7月16日晚,上海1862时尚艺术中心。伴随着幻象的精准命中,硕大的荧幕之上,比分被定格在了14:12,被寄予厚望的EDG战队以绝对的优势战胜了BLG战队,拿下了总决
  • 造车两年股价跌六成,小米的估值逻辑变了吗?

    如果从小米官宣造车后的首个交易日起持有小米集团的股票,那么截至2023年上半年最后一个交易日,投资者将浮亏59.16%,同区间的恒生科技指数跌幅为52.78%
  • 回归OPPO两年,一加赢了销量,输了品牌

    成为OPPO旗下主打性能的先锋品牌后,一加屡创佳绩。今年618期间,一加手机全渠道销量同比增长362%,凭借一加 11、一加 Ace 2、一加 Ace 2V三款爆品,一加
  • OPPO K11评测:旗舰级IMX890加持 2000元档最强影像手机

    【Techweb评测】中端机型用户群体巨大,占了中国目前手机市场的大头,一直以来都是各手机品牌的“必争之地”,其中OPPO K系列机型一直以来都以高品质、
Top