2025-03-12 18:20:58 作者:八月八
B站UP主“虽然但是张黑黑”近日分享了一段视频,展示了满血版苹果M3 Ultra的强大性能。在运行6710亿参数的DeepSeek R1模型测试中,其速度甚至超过了8张A100显卡,而成本却远低于后者。而满血版M3 Ultra仅需一台Mac Studio即可实现类似的性能,性价比极高。
测试数据显示,在GGUF格式下,满血版M3 Ultra运行DeepSeek R1模型的速度为15.78 Tokens/s,而8张A100显卡的性能为16.41 Tokens/s。当切换到能发挥统一内存优势的MLX格式后,M3 Ultra的速度提升至19.17 Tokens/s,超越了8张A100显卡。此外,在运行DeepSeek V3 6710亿参数模型时,M3 Ultra的速度也达到了19.66 Tokens/s。
尽管如此,M3 Ultra并非在所有场景下都能超越A100。在单用户进行单一模型推理时,由于主要依赖内存带宽和容量,A100的潜力无法被完全发挥。在多用户推理和大模型训练场景下,M3 Ultra更是无法与A100相提并论。
此次测试的满血版M3 Ultra配备了512GB统一内存,总价为74249人民币。