当前位置:首页 > 科技  > 手机

华为官宣!DeepSeek系列模型正式上线昇腾社区

来源: 责编: 时间:2025-02-06 07:51:26 170观看
导读 快科技2月5日消息,今日,华为宣布,DeepSeek-R1、DeepSeek-V3、DeepSeek-V2、Janus-Pro正式上线昇腾社区,支持一键获取DeepSeek系列模型,支持昇腾硬件平台上开箱即用。据了解,DeepSeek-V3首个版本于2024年上线并同

快科技2月5日消息,今日,华为宣布,DeepSeek-R1、DeepSeek-V3、DeepSeek-V2、Janus-Pro正式上线昇腾社区,支持一键获取DeepSeek系列模型,支持昇腾硬件平台上开箱即用。QCT28资讯网——每日最新资讯28at.com

据了解,DeepSeek-V3首个版本于2024年上线并同步开源,为自研MoE模型,671B 参数,激活37B,在14.8T token上进行了预训练。QCT28资讯网——每日最新资讯28at.com

据DeepSeek介绍,DeepSeek-V3多项评测成绩超越了Qwen2.5-72B和Llama-3.1-405B 等其他开源模型,并在性能上和世界顶尖的闭源模型GPT-4o以及Claude-3.5-Sonnet不分伯仲。QCT28资讯网——每日最新资讯28at.com

以下以Deepseek-V3为例,演示在昇腾社区如何高效获取模型及使用QCT28资讯网——每日最新资讯28at.com

华为官宣!DeepSeek系列模型正式上线昇腾社区QCT28资讯网——每日最新资讯28at.com

一、硬件要求QCT28资讯网——每日最新资讯28at.com

部署DeepSeek-V3模型需配置4台Atlas 800I A2(8*64G)服务器资源QCT28资讯网——每日最新资讯28at.com

二、模型调用实践QCT28资讯网——每日最新资讯28at.com

1、权重转换QCT28资讯网——每日最新资讯28at.com

GPU:QCT28资讯网——每日最新资讯28at.com

华为官宣!DeepSeek系列模型正式上线昇腾社区QCT28资讯网——每日最新资讯28at.com

NPU:QCT28资讯网——每日最新资讯28at.com

华为官宣!DeepSeek系列模型正式上线昇腾社区QCT28资讯网——每日最新资讯28at.com

2、加载镜像QCT28资讯网——每日最新资讯28at.com

在昇腾社区/开发资源下载适配DeepSeek-V3的镜像包:QCT28资讯网——每日最新资讯28at.com

mindie:1.0.T71-800I-A2-py311-ubuntu22.04-arm64QCT28资讯网——每日最新资讯28at.com

完成之后,请使用docker images命令确认查找具体镜像名称与标签。QCT28资讯网——每日最新资讯28at.com

华为官宣!DeepSeek系列模型正式上线昇腾社区QCT28资讯网——每日最新资讯28at.com

3、容器启动QCT28资讯网——每日最新资讯28at.com

提供的MindIE镜像预置了DeepSeek-V3模型推理脚本,从您信任的来源自行获取权重后,放置在从上述下载的模型代码的主目录下,修改模型文件夹属组为1001,执行权限为750,启动容器。QCT28资讯网——每日最新资讯28at.com

华为官宣!DeepSeek系列模型正式上线昇腾社区QCT28资讯网——每日最新资讯28at.com

华为官宣!DeepSeek系列模型正式上线昇腾社区QCT28资讯网——每日最新资讯28at.com

4、服务化测试QCT28资讯网——每日最新资讯28at.com

配置服务化环境变量,expandable_segments-使能内存池扩展段功能,即虚拟内存特性。QCT28资讯网——每日最新资讯28at.com

华为官宣!DeepSeek系列模型正式上线昇腾社区QCT28资讯网——每日最新资讯28at.com

修改服务化参数QCT28资讯网——每日最新资讯28at.com

华为官宣!DeepSeek系列模型正式上线昇腾社区QCT28资讯网——每日最新资讯28at.com

拉起服务化QCT28资讯网——每日最新资讯28at.com

出现“Daemon start success!”,则认为服务成功启动。QCT28资讯网——每日最新资讯28at.com

华为官宣!DeepSeek系列模型正式上线昇腾社区QCT28资讯网——每日最新资讯28at.com

本文链接:http://www.28at.com/showinfo-22-128874-0.html华为官宣!DeepSeek系列模型正式上线昇腾社区

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 强鸿蒙手机!华为Pura 80系列曝光:升级红枫影像

下一篇: 没了它通信行业就完了吗 其实这个频段真没这么重要

标签:
  • 热门焦点
  • 红魔电竞平板评测:大屏幕硬实力

    前言:三年的疫情因为要上网课的原因激活了平板市场,如今网课的时代已经过去,大家的生活都恢复到了正轨,这也就意味着,真正考验平板电脑生存的环境来了。也就是面对着这种残酷的
  • 小米平板5 Pro 12.4简评:多专多能 兼顾影音娱乐的大屏利器

    疫情带来了网课,网课盘活了安卓平板,安卓平板市场虽然中途停滞了几年,但好的一点就是停滞的这几年行业又有了新的发展方向,例如超窄边框、高刷新率、多摄镜头组合等,这就让安卓
  • 女孩租房开2小时空调用完100元电费引热议:5级能耗惹不起 月薪过万电费也交不起

    近日,江苏苏州一女孩租房当天充值了100元电费,开着空调不到2小时发现电费已用完。对于为什么这个快,房东表示,电表坏了这种情况很多,之前也遇到过,给租客换
  • 把LangChain跑起来的三个方法

    使用LangChain开发LLM应用时,需要机器进行GLM部署,好多同学第一步就被劝退了,那么如何绕过这个步骤先学习LLM模型的应用,对Langchain进行快速上手?本片讲解3个把LangChain跑起来
  • K8S | Service服务发现

    一、背景在微服务架构中,这里以开发环境「Dev」为基础来描述,在K8S集群中通常会开放:路由网关、注册中心、配置中心等相关服务,可以被集群外部访问;图片对于测试「Tes」环境或者
  • 企业采用CRM系统的11个好处

    客户关系管理(CRM)软件可以为企业提供很多的好处,从客户保留到提高生产力。  CRM软件用于企业收集客户互动,以改善客户体验和满意度。  CRM软件市场规模如今超过580
  • JVM优化:实战OutOfMemoryError异常

    一、Java堆溢出堆内存中主要存放对象、数组等,只要不断地创建这些对象,并且保证 GC Roots 到对象之间有可达路径来避免垃 圾收集回收机制清除这些对象,当这些对象所占空间超过
  • iQOO Neo8系列今日官宣:首发天玑9200+ 全球安卓最强芯!

    在昨日举行的的联发科新一代旗舰芯片天玑9200+的发布会上,iQOO官方也正式宣布,全新的iQOO Neo8系列新品将全球首发搭载这款当前性能最强大的移动平台
  • 苹果140W USB-C充电器:采用氮化镓技术

    据10 月 30 日 9to5 Mac 消息报道,当苹果推出新的 MacBook Pro 2021 时,该公司还推出了新的 140W USB-C 充电器,附赠在 MacBook Pro 16 英寸机型的盒子里,也支
Top