塔岸网

华为官宣!DeepSeek正式上线昇腾社区

热度:12℃ 发布时间:2025-02-06 03:50:58

快科技2月5日消息,今日,华为宣布,DeepSeek-R1、DeepSeek-V3、DeepSeek-V2、Janus-Pro正式上线昇腾社区,支持一键获取DeepSeek系列模型,支持昇腾硬件平台上开箱即用。

据了解,DeepSeek-V3首个版本于2024年上线并同步开源,为自研MoE模型,671B 参数,激活37B,在14.8T token上进行了预训练。

据DeepSeek介绍,DeepSeek-V3多项评测成绩超越了Qwen2.5-72B和Llama-3.1-405B 等其他开源模型,并在性能上和世界顶尖的闭源模型GPT-4o以及Claude-3.5-Sonnet不分伯仲。

以下以Deepseek-V3为例,演示在昇腾社区如何高效获取模型及使用

华为官宣!DeepSeek正式上线昇腾社区

一、硬件要求

部署DeepSeek-V3模型需配置4台Atlas 800I A2(8*64G)服务器资源

二、模型调用实践

1、权重转换

GPU:

华为官宣!DeepSeek正式上线昇腾社区

NPU:

华为官宣!DeepSeek正式上线昇腾社区

2、加载镜像

在昇腾社区/开发资源下载适配DeepSeek-V3的镜像包:

mindie:1.0.T71-800I-A2-py311-ubuntu22.04-arm64

完成之后,请使用docker images命令确认查找具体镜像名称与标签。

华为官宣!DeepSeek正式上线昇腾社区

3、容器启动

提供的MindIE镜像预置了DeepSeek-V3模型推理脚本,从您信任的来源自行获取权重后,放置在从上述下载的模型代码的主目录下,修改模型文件夹属组为1001,执行权限为750,启动容器。

华为官宣!DeepSeek正式上线昇腾社区

华为官宣!DeepSeek正式上线昇腾社区

4、服务化测试

配置服务化环境变量,expandable_segments-使能内存池扩展段功能,即虚拟内存特性。

华为官宣!DeepSeek正式上线昇腾社区

修改服务化参数

华为官宣!DeepSeek正式上线昇腾社区

拉起服务化

出现“Daemon start success!”,则认为服务成功启动。

华为官宣!DeepSeek正式上线昇腾社区

(window.slotbydup = window.slotbydup || []).push({ id: "u6501951", container: "_brvvnx0iwme", async: true });
  • 科技资讯推荐
更多+
大众追尾起火负全责!车主谢雷军:小米SU7毫发无损 真硬

大众追尾起火负全责!车主谢雷军:小米SU7毫发无损 真硬

12月25日消息,近日一辆大众追尾小米SU7后起火,车主公开回应人都安全,自家车没大问题。小米车主接受采访时表示,自己是因前方车主减速才急停刹车,自燃车车主当时就从车上下来了,人很安全。他表示事故调查结果是后车追尾,承担全责。车子目前没什么大问题,小米SU7车子挺硬的(摄像头都没坏,还让追尾的车辆起...

02-06

工会硬控70小时 强如大众也妥协了:不关厂、短期不裁员

工会硬控70小时 强如大众也妥协了:不关厂、短期不裁员

兄弟们,喜大普奔。大众集团和工会的连续剧,终于要告一段落了。从谈判结果来看,双方都有所让步,比如裁员关厂的计划暂时被搁置,员工降薪10%的命运也转移到了高管身上。不过工人们也没有置身事外,他们在未来四年内都不会涨薪资,甚至还会取消部分奖金。尽管如此,在工会代表眼里,罢工逼宫一仗打得很漂亮,工人方属于...

02-06

隔壁车辆自燃引燃自家大众ID.3 车主:对方保险拒赔该找谁

隔壁车辆自燃引燃自家大众ID.3 车主:对方保险拒赔该找谁

快科技12月27日消息,一网友在网上发帖维权称,自己的车被隔壁车位的车引燃了,结果对方保险拒赔。车主介绍称,11月27日时,小区地下车库发生车辆自燃事故,她的大众ID.3电动车被烧成了空壳。起初,大家都误以为是大众ID.3自燃的,但经过消防救援大队给出的火灾事故认定书来看,ID.3电池虽然经过两小时...

02-06

大众ID.3被旁车引燃烧成壳保险拒赔!大众送车主一台新车

大众ID.3被旁车引燃烧成壳保险拒赔!大众送车主一台新车

快科技12月27日消息,日前,一网友在网上发帖维权称,自己的车被隔壁车位的车引燃了,结果对方保险拒赔。车主介绍称,11月27日时,小区地下车库发生车辆自燃事故,她的大众ID.3电动车被烧成了空壳。起初,大家都误以为是大众ID.3自燃的,但经过消防救援大队给出的火灾事故认定书来看,ID.3电池虽然经过...

02-06

车机存安全漏洞:约80万辆大众电动车位置信息公开暴露数月

车机存安全漏洞:约80万辆大众电动车位置信息公开暴露数月

快科技12月28日消息,据德国最权威的媒体《明镜》最新报道,软件公司Cariad的一项安全漏洞,导致约80万辆大众集团(包括大众、奥迪、西雅特和斯柯达)在欧洲销售的电动汽车的位置信息暴露在互联网上长达数月。近日,一举报人向《明镜》杂志及一个欧洲黑客组织举报了这件事,泄露的数据可将车主的位置信息与个人...

02-06

网友评论
评论
发 布

更多科技资讯