当前位置: 首页 » 资讯 » 新科技 » 正文

腾讯混元深度思考模型T1正式版来了,吐字快、能秒回,解码速度提升2倍

IP属地 北京 编辑:沈瑾瑜 华尔街见闻 时间:2025-03-22 08:00:14

腾讯混元3月21日周五宣布,正式推出自研深度思考模型混元T1正式版,已在腾讯云官网上线,输入价格为每百万token 1元,输出价格为每百万token 4元。

腾讯混元概括,混元T1正式版的特点为“吐字快、能秒回”、“擅长超长文处理”,称它是腾讯自研的强推理模型。

速度方面,混元T1正式版在可比参数量下的解码性能高于行业2倍,首字秒出,吐字速度每秒60至80token,具备优秀的长文处理能力。多项指标达到业界领先推理模型的水平,效果方面,混元T1正式版逻辑强、文风简洁、复杂指令跟随准确,摘要幻觉低。

通过大规模强化学习,并结合数学、逻辑推理、科学和代码等理科难题的专项优化,混元T1正式版进一步提升了推理能力。

在体现推理模型基础能力的常见评估指标中,如大语言模型(LLM)评估增强数据集MMLU-PRO中,混元T1取得87.2分,仅次于得分89.3的OpenAI o1,高于得分86.1的OpenAI GPT 4.5和得分84的DeepSeek R1。

在Ceval、AIME、Zebra Logic等中英文知识及竞赛级数学、逻辑推理的公开基准测试中,混元T1的成绩也达到业界领先推理模型的水平,其中,逻辑推理得分93.1,高于前述三个模型o1、GPT 4.5和R1。

混元T1正式版的强大推理能力源于,腾讯沿用混元Turbo S的架构,采用Hybrid-Mamba-Transformer 融合模式。这是工业界首次将混合Mamba架构无损应用于超大型推理模型。

上述架构有效降低了传统Transformer结构的计算复杂度,减少了KV-Cache的内存占用,从而 显著降低了训练和推理成本

混元T1在超长文本推理领域也展现出独特优势。

基于出色的长文捕捉能力,混元T1能有效解决长文推理中常见的上下文丢失和长距离信息依赖问题。同时,混合Mamba架构针对长序列处理进行了专项优化,通过高效的计算方式,在确保长文本信息捕捉能力的同时大幅降低资源消耗,在相近的激活参数量下,实现了解码速度提升2

在上线全新推理模型之前,本周一,腾讯混元模型首次登上了海外权威大模型竞技场 Chatbot Arena 的榜单,跻身全球 Top 15。一同上榜的还有阿里巴巴本月6日发布的通义千问最新开源模型QwQ-32B。

不同于其他测评,Chatbot Arena 的测评人是C端用户——用户在平台上以匿名方式与多个模型互动,然后投票决定哪个模型更好,从而根据分数生成排行榜。这种测评也被看成是大模型直接PK的竞技场,简单直接。

腾讯混元模型在中文基础能力测试中也表现突出。本周二发布的《中文大模型测评基准SuperCLUE 3月报告》中,腾讯混元位列基础模型国内第二,综合实力稳居国内大模型第一梯队。

免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。

全站最新