塔岸网

实测M3 Ultra运行DeepSeek R1:速度超价值百万8卡A100!

热度:3℃ 发布时间:2025-03-16 21:40:48

快科技3月12日消息,近日,B站UP主“虽然但是张黑黑”分享了一段视频,展示了满血版苹果M3 Ultra运行6710亿参数的DeepSeek R1模型的测试结果,其速度甚至超过了8张A100显卡,而成本却低得多。

运行6710亿参数的DeepSeek R1模型通常需要一台搭载6-8张A100的专业级服务器,总价轻松超过百万元这对于普通用户来说几乎是不可能负担的。

然而满血版M3 Ultra仅需一台Mac Studio即可实现类似性能,性价比极高。

实测M3 Ultra运行DeepSeek R1:速度超价值百万8卡A100!

测试结果显示,在运行DeepSeek R1模型时,8张A100显卡的性能为16.41 Tokens/s,而满血版M3 Ultra在GGUF格式下达到15.78 Tokens/s,

切换到能发挥统一内存优势的MLX格式后,速度提升至19.17 Tokens/s,超越8张A100显卡,此外M3 Ultra在运行DeepSeek V3 6710亿参数模型时,速度也达到了19.66 Tokens/s。

实测M3 Ultra运行DeepSeek R1:速度超价值百万8卡A100!

不过这并不意味着M3 Ultra在所有场景下都能超越A100,单用户进行单一模型推理时,主要依赖内存带宽和容量,无法完全发挥A100的潜力,在多用户推理和大模型训练场景下,M3 Ultra则完全无法与A100相提并论。

实测M3 Ultra运行DeepSeek R1:速度超价值百万8卡A100!

此外,M3 Ultra在大语言模型推理速度测试中表现优异,无论是Llama 3.1 70B、Gemma2 27B还是Qwen 2.5 14B模型,其速度都明显优于其他M系列芯片,与M2 Ultra相比,速度分别提升了13%、34%和18%。

实测M3 Ultra运行DeepSeek R1:速度超价值百万8卡A100!

此次测试的满血版M3 Ultra配备了512GB统一内存,总价为74249人民币,对于大多数用户来说,如果不需要运行如此大规模的模型,可以适当降低统一内存容量,从而节省成本。

(window.slotbydup = window.slotbydup || []).push({id: "u6501951",container: "_brvvnx0iwme",async: true });
  • 科技资讯推荐
更多+
当前视点!国轩高科百亿高端正极材料项目投产

当前视点!国轩高科百亿高端正极材料项目投产

(相关资料图)11月8日上午,国轩高科子公司合肥国轩科宏新能源科技有限公司(下称“国轩科宏”)正极材料投产仪式在合肥庐江高新区举行,这也是庐江的首个百亿项目。该项目位于合肥市庐江县国轩材料基地,主要产品为国轩高科自主研发的单体电芯能量密度≥210Wh/kg的高性能磷酸铁锂正极材料,应用于高端新能源汽...

11-15

当前热点-10月销量榜出炉!排名发生剧变,这个品牌近乎腰斩

当前热点-10月销量榜出炉!排名发生剧变,这个品牌近乎腰斩

(资料图片仅供参考)进入11月,电哥依旧为大伙儿整理了10月销量榜单,看看这一期的排名和你预想中有多少差别吧:有意思是:又有新人加入了榜单,有的品牌表现极为稳定,当然也少不了波动非常剧烈的选手。Tips:排名统计时间截止到11月3日,未公布品牌尚未纳入榜单另外,电哥也附上9月榜单(截止10月2日统计...

11-15

快报:我国汽车行业发展环境持续向好 10月份汽车销量同比增长6.9%

快报:我国汽车行业发展环境持续向好 10月份汽车销量同比增长6.9%

(相关资料图)来源:人民网原创稿人民网北京11月10日电(记者王连香)今日,中国汽车工业协会发布10月汽车工业产销情况,数据显示,10月,汽车产销延续平稳发展态势。当月产销分别达到259.9万辆和250.5万辆,环比下降2.7%和4%,同比增长11.1%和6.9%。由于车辆购置税减征政策的持续发...

11-15

世界今头条!量子世界中的平行宇宙到底是什么样子的?

世界今头条!量子世界中的平行宇宙到底是什么样子的?

(资料图)平行世界是否真实存在?另外一个世界的你自己是不是已经过上了非常幸福的生活,已经走上了人生的巅峰,而处在这个世界的你正在受尽社会的毒打。这种平行宇宙的理论到底是怎么来的呢?为什么科学家又会定义平行宇宙的存在呢?我们今天一起来了解一下量子世界中的平行宇宙到底是什么样子的?我们大家都知道在量子世...

11-15

上市公司拟投建超22万吨电池专用外壳材料项目

上市公司拟投建超22万吨电池专用外壳材料项目

(资料图)11月8日晚,甬金股份(603995)公告,拟设立全资子公司“浙江镨赛新材料科技有限公司”,投资建设“年产22.5万吨柱状电池专用外壳材料项目”,计划总投资额约14亿元。该项目分两期建设,其中一期工程建设期12个月,建成年加工7.5万吨柱状电池外壳专用材料生产线,二期工程建设期18个月,建...

11-15

网友评论
评论
发 布

更多科技资讯