腾讯近日宣布,其自主研发的深度思考模型——混元T1正式版已隆重面世,这款模型被誉为腾讯目前最强的推理利器。
据腾讯介绍,混元T1正式版不仅拥有极快的响应速度,能够迅速回答用户问题,还具备处理超长文本的强大能力。这一特性使得它在处理复杂推理任务时显得尤为出色。
为了进一步提升推理能力,腾讯对混元T1进行了大规模强化学习,并针对数学、逻辑推理、科学以及代码等理科难题进行了专项优化。这些努力使得混元T1在多个基准测试中取得了优异的成绩。
在备受关注的大语言模型评估增强数据集MMLU-PRO中,混元T1取得了87.2分的高分,这一成绩仅次于业界领先的o1模型。在Ceval、AIME、Zebra Logic等中英文知识及竞赛级数学、逻辑推理的公开基准测试中,混元T1也展现出了业界领先的推理水平。
除了基础的推理能力,混元T1还在多项对齐任务、指令跟随任务和工具利用任务中表现出了极强的适应性。这一特性使得它在处理复杂多变的推理场景时更加游刃有余。
技术层面,混元T1正式版沿用了混元Turbo S的创新架构,并采用了Hybrid-Mamba-Transformer融合模式。这是工业界首次将混合Mamba架构无损应用于超大型推理模型,这一创新不仅降低了传统Transformer结构的计算复杂度,还减少了KV-Cache的内存占用,从而显著降低了训练和推理的成本。
基于其出色的长文捕捉能力,混元T1能够有效解决长文推理中常见的上下文丢失和长距离信息依赖问题。同时,混合Mamba架构针对长序列处理进行了专项优化,通过高效的计算方式,在确保长文本信息捕捉能力的同时,大幅降低了资源消耗。在相近的激活参数量下,混元T1实现了解码速度的两倍提升。
目前,腾讯已经开放了混元T1的体验服务,并上线了相应的API接口。用户可以通过API接口以每百万tokens 1元的价格输入数据,并以每百万tokens 4元的价格获取输出结果。这一举措无疑将为用户提供更加便捷、高效的推理服务。