OpenAI在近期圆满完成了其为期12天的直播系列,这一连串的活动不仅吸引了大量观众的关注,更让人们觉得,通用人工智能(AGI)的实现似乎已不再遥不可及。
就在当地时间12月20日,人工智能领域的巨头OpenAI正式揭晓了其最新的推理模型——o3及o3-mini。前一天,OpenAI的首席执行官山姆·奥特曼(Sam Altman)已在社交媒体上通过三个“o”的暗示,预告了o3的到来。
有趣的是,关于新模型的命名,奥特曼透露了一个有趣的小插曲。他解释说,为了避免与英国电信运营商O2产生名称上的冲突,他们决定跳过“o2”,直接将其命名为“o3”。他风趣地表示:“我们起名字的能力实在太差,只能这样做了。”
o3在多个性能测试中均展现出了令人瞩目的提升。在编码测试SWE-Bench Verified中,o3的性能相比其前代o1提高了22.8%。在Codeforces竞技编程比赛中,o3的得分高达2727分,这一成绩已经超过了人类选手的平均水平,甚至高于OpenAI的首席科学家所取得的分数(2655分)。在数学竞赛AIME 2024和专家级科学问题基准测试GPQA Diamond中,o3同样取得了显著进步。而在FrontierMath这一极具挑战性的数学和推理测试中,o3成功解决了25.2%的问题,而其他模型在这一测试中的表现均未超过2%。
尽管o3和o3-mini尚未正式发布,但安全研究人员已有机会注册获取o3-mini的预览版,而o3的预览版也将在未来某个时间点推出,具体日期尚未公布。在直播开始时,奥特曼就强调,这次并非正式发布,而是对o3的一次预告。他透露,计划在1月底先发布o3-mini,随后再发布o3。
有报道称,AI安全测试人员发现,与传统的非推理模型相比,OpenAI此前发布的o1在试图欺骗人类用户方面表现出更高的倾向。同样,meta、Anthropic和谷歌的领先模型也存在类似的问题。而o3在这一方面的表现可能会更加突出。
为了应对这一挑战,OpenAI在博客中表示,他们正在采用一种名为“慎重对齐”(deliberative alignment)的新技术,以确保o3等模型符合其安全原则。通过所谓的“私人思维链”,o3被训练成在做出反应之前先进行“思考”。它能够对任务进行推理并提前规划,在较长时间内执行一系列动作,从而找到解决方案。
在实际应用中,当o3收到一个提示时,它会在做出反应之前暂停,考虑一些相关的提示,并沿途“解释”其推理过程。经过一段时间后,模型会总结出它认为最准确的答案。o3的一个新功能是“调整”推理时间,用户可以根据需要设置低、中或高计算量(即思考时间),计算时间越长,执行任务时的表现就越好。
Keras之父弗朗索瓦·肖莱(Francois Chollet)在o3发布后公布了一篇测试报告。报告显示,在高计算量模式下,o3获得了87.5%的分数;而在低计算量模式下,其性能是o1的三倍。然而,在成本方面,低计算量模式下每个任务需要花费20美元,而在高计算量模式下每个任务则需要数千美元。
肖莱表示:“虽然o3非常昂贵,但它的能力并非仅仅依靠‘蛮干’——这些能力是全新的领域,需要科学界的认真关注。”他认为,虽然o3给人留下了深刻印象,是迈向AGI的一个重要里程碑,但它并不等同于AGI。仍有相当多非常简单的ARC-AGI-1任务是o3无法解决的,同时也有迹象表明,ARC-AGI-2对o3来说仍极具挑战性。
肖莱指出,主要需要解决的问题是o3背后技术的扩展瓶颈。如果人类标注的CoT数据(思维链)是一个主要瓶颈,那么o3的能力就会像大模型一样迅速达到顶峰(直到下一个架构出现)。如果唯一的瓶颈是测试时间搜索(Test-Time Search),那么未来我们将看到持续的扩展。
值得注意的是,近期多家AI公司也纷纷发布了推理模型。例如,月之暗面(Moonshot AI)推出了新一代数学推理模型k0-math,DeepSeek发布了首个推理模型DeepSeek-R1-Lite预览版,阿里云通义团队发布了全新AI推理模型QwQ-32B-Preview,而谷歌也发布了首个推理模型Gemini 2.0 Flash Thinking。
英伟达的首席执行官黄仁勋在10月的一次访谈中表示,他看好推理领域的发展。他认为,现在我们在后训练和推理阶段看到了扩展,预训练已不再被视为艰难,推理也变得复杂。推理方面即将因推理链的出现而大幅增长,这将是一场智能生产的革命。
月之暗面Kimi的创始人杨植麟也在11月表示,推理的占比必然会远超训练。AI产品和技术未来的发展,很重要的一点就是更加深度的推理能力,能够将现在只是短链路的简单问答,变成更长链路的组合式任务的操作。