知未科技

20万块GPU“烧出”的Grok 3到底是不是地表最强AI？对此不乏争议。但毋庸置疑的是，Grok 3绝对是有史以来能耗最高的大模型。马斯克在直播中首次透露，Grok 3的训练量是Grok 2的10倍，基于人工智能初创公司xAI位于孟菲斯的超级计算机集群进行。该集群建造的第一阶段，xAI在122天内建成了拥有10万块NVIDIA H100 GPU的超级计算集群，第二阶段拓展到20万块GPU集群，仅耗时92天。有人计算了xAI在孟菲斯GPU的成本，仅以10万块H100、每块GPU费用30000美元计算，Grok 3的总硬件消耗就已超出30亿美元。

能耗方面，H100的典型功耗约为700瓦，以此计算，Grok 3使用的GPU总能耗相当于一个小城市的用电量。假设电力来源为混合能源（平均碳排放系数0.5千克二氧化碳/千瓦时），Grok 3训练产生的碳排放大致相当于4万多辆燃油车一年的碳排放量。

马斯克与xAI团队在Grok 3直播演示中称，20万块GPU需要功率多达250MW的电力。“（面对电力缺口）我们最初租赁了一大堆发电机……又租用了美国四分之一的制冷能力……从来没有人建造过如此大规模的液冷数据中心。”他们同时预告，xAI已在着手研究下一个更强大的算力集群，所需电力高达1.2GW。（澎湃新闻）