当前位置: 首页 » 资讯 » 新科技 » 正文

苹果M3 Ultra神了 跑DeepSeek比8卡A100还快

IP属地 北京 编辑:杨凌霄 中关村在线 时间:2025-03-12 19:06:41

2025-03-12 18:20:58 作者:八月八

B站UP主“虽然但是张黑黑”近日分享了一段视频,展示了满血版苹果M3 Ultra的强大性能。在运行6710亿参数的DeepSeek R1模型测试中,其速度甚至超过了8张A100显卡,而成本却远低于后者。而满血版M3 Ultra仅需一台Mac Studio即可实现类似的性能,性价比极高。

测试数据显示,在GGUF格式下,满血版M3 Ultra运行DeepSeek R1模型的速度为15.78 Tokens/s,而8张A100显卡的性能为16.41 Tokens/s。当切换到能发挥统一内存优势的MLX格式后,M3 Ultra的速度提升至19.17 Tokens/s,超越了8张A100显卡。此外,在运行DeepSeek V3 6710亿参数模型时,M3 Ultra的速度也达到了19.66 Tokens/s。

尽管如此,M3 Ultra并非在所有场景下都能超越A100。在单用户进行单一模型推理时,由于主要依赖内存带宽和容量,A100的潜力无法被完全发挥。在多用户推理和大模型训练场景下,M3 Ultra更是无法与A100相提并论。

此次测试的满血版M3 Ultra配备了512GB统一内存,总价为74249人民币。

免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。

全站最新