摘要

1) 一句话总结 OpenAI在12天发布活动的最后一天正式推出了o3模型,该模型在编程、高级数学和抽象推理等多个核心基准测试中取得了突破性成绩,大幅超越现有AI模型及人类平均水平。

2) 关键要点

  • 命名决策:跳过“o2”直接命名为o3,原因是为避免与英国电信服务商O2产生版权或商标冲突。
  • 编程能力:在软件工程基准测试(SWE-Bench Verified)中得分71.7%;在Codeforces编程竞赛中得分2727,位列榜单第175名,超越99.99%的人类选手。
  • 数学能力:在AIME 2024数学竞赛中接近满分;在由顶尖数学家开发的原创难题基准FrontierMath中得分25.2%(此前GPT-4和Gemini 1.5 Pro得分不足2%)。
  • 抽象推理能力:在ARC-AGI(测试模式识别与解决新问题能力)中得分高达87.5%,首次超越了85%的人类阈值分数(此前o1得分为32%,o1 Pro约为50%)。
  • 发布状态:o3目前仅对红队(Red Team)开放以进行安全测试,用户需通过特定网址申请早期访问权限。
  • 衍生模型计划:OpenAI基于o3训练了3个小尺寸模型,其中“o3-mini”预计将于1月底对外开放。
  • 12天活动回顾:o3是OpenAI连续12天直播的压轴发布,此前的关键发布包括满血版o1、Sora、ChatGPT Canvas、ChatGPT Search全量开放以及o1 API等。

3) 风险/不足

  • 可用性限制:o3目前尚未全面公测,仍处于仅限红队测试的“期货”状态。
  • 特定领域提升有限:在博士级科学考试(GPQA Diamond)中的能力虽然有所进化,但提升幅度不如数学和编程领域显著。

正文

今天凌晨2点,OpenAI的12天直播,终于来到了最终章。

奥特曼,也在一片圣诞的气息中终于回归。

为大家带来了最后的压轴大戏。

OpenAI o3 。

又一次超群,又一次把模型的能力,推到了新的高度。

也向全世界证明了,OpenAI,依然在铁王座上牢不可摧。

我也想起了OpenAI研究员在发布o1之前的那句话:

“我们通往AGI的路上,已经没有任何阻碍了”

之所以OpenAI直接发布o3没有o2,原因也挺简单的。

因为跟 英国电信服务提供商O2可能存在版权或商标冲突,所以直接跳过了。。。

直接到o3。

而OpenAI直播一完,X上基本就沸腾了。

o3的能力,对现在所有模型,几乎都直接是降维打击。

看下o3的能力吧。

一些粗的评测集简单过一下。

左边的是 软件工程考试(SWE-Bench Verified), 这就像是一个考写程序的考试,比如你写一个软件要它快速、准确,还不能有 bug(小错误)。这是考察 o3 是否能像一流的软件工程师一样写出完美的代码。

o3 的成绩:71.7%,比o1还强了不少。

右边的那个基准比较猛,Codeforces,一个全球著名的编码竞赛平台。

o3的得分是2727,这个得分,相当于整个榜单的第175名,已经超越了99.99%的人类了。

o1的代码能力已经强到爆炸了,而o3,又向AGI的山顶,前进了一大步。

数学竞赛AIEM 2024和博士级科学考试GPQA Diamond。

AIEM 2024接近满分,如果我没记错的话,这应该也是第一次AI能达到有AIEM接近满分的水平。

博士级科学考试有进化,但没数学和编程进化的这么猛。

接下来的这个数学基准比较有趣一点。

FrontierMath, Epoch AI 开发的一个数学基准测试,由 60多位顶尖数学家的合作开发, 旨在评估人工智能在高级数学推理方面的能力。

而且为了避免数据污染,所有的题目都是原创的且从来没有发布过的新题目。

之前 GPT-4 和 Gemini 1.5 Pro这种模型去评估的时候,成功 功率不足2%,与其他传统数学基准(如 GSM-8K 和 MATH)中超过90%的成功率形成鲜明对比。

而这一次, o3直接达到了25.2 。

当各大其他模型都还在卷传统数学基准的时候,o3真的已经进入了另一个世界了。。。

就像大家还在大斗师阶段互相卷,你是五星大斗师,我是八星大斗师。

两者争论不休,正准备要比试比试,忽然就看到一个斗宗强者踏空而行,留下一地的卧槽。

这还比个鬼。

然后,就是我觉得,整个基准里,最有趣的一个基准了:

ARC-AGI。

先说说这是个啥玩意。

ARC-AGI于2019年首次提出,旨在通过一系列抽象和推理任务来测试AI系统的能力。

主要是因为传统的技能测量方法并不能有效代表智能,因为它们往往依赖于先前知识和经验,而真正的智能应体现在广泛的适应能力和通用性上。

所以,ARC-AGI诞生了,里面的 这些任务要求AI识别模式并解决新问题, 每个任务由输入输出示例组成。这些任务以网格形式呈现,每个方块可以是十种颜色中的一种,网格的大小可以从1x1到30x30不等。参与者需要根据给定的输入生成正确的输出,测试其推理和抽象能力。

可以简单的理解成,找规律。

大概就是这样的。

非常的难且抽象。

过去几代模型的评分在此:

  • GPT-2 (2019): 0%

  • GPT-3 (2020): 0%

  • GPT-4 (2023): 2%

  • GPT-4o (2024): 5%

  • o1-preview (2024): 21%

  • o1 (2024): 32%

  • o1 Pro (2024): ~50%

但是今天,o3的分数,达到了恐怖的87.5%。

从0%到5%,整整花了5年的时间,而如今,从5%到87.5%,仅仅只花了半年。

而对应的,人类的阈值分数,是85%。

我们通往AGI的路上,已经没有任何阻碍了。

不过o3强归强,但是又是一个期货,OpenAI目前只对红队开放,如果是巨佬的话,可以去申请试试。

网址在此:https://openai.com/index/early-access-for-safety-testing/

目前不知道o3什么时候放出,但是OpenAI又基于o3,训了3个小尺寸的o3模型。

目前o3-mimi,预估在1月底可以对外开放,但是感觉到时候,肯定又是pro会员专属的模型了。

我越来越期待,2025年AI行业的进化了。

推理模型、Agent、AI硬件、世界模型。

每一个都是比这个中间态的2024,都更让人兴奋的东西。

2025,必是AI行业,真正的星辰大海。

我们也在最后,回顾一下这12天的直播吧。

Day 1:满血o1上线,ChatGPT Pro会员上线,o1 pro推出。

Day 2:基于o1的强化微调。

Day 3:Sora正式发布。

Day 4:ChatGPT Canvas全员开放以及小功能更新。

Day 5:给苹果站台,宣传苹果全系接入GPT。

Day 6:4o的实时视频理解上线。

Day 7:ChatGPT发布新建文件夹“项目”功能。

Day 8:ChatGPT Search全量开放,搜索体验大幅优化。

Day 9:发布了o1的API、更新了实时语音的API、发布了偏好微调能力(PFT)。

Day 10:物理意义上的可以给ChatGPT打电话了。

Day 11: 炒冷饭,ChatGPT 桌面版能读到别的应用。

Day 12:OpenAI o3正式发布 。

这12天,稍微有点惊喜的日子大概只有2、3天,其他都是垃圾时间。

还好,今天的大货,补上了之前的阴霾。

最后,还是忍不住感叹一声。

这12天,像一场漫长的马拉松。

我们经历了深夜中数不胜数的垃圾时间。

却也迎来了最后的高光时刻。

这感觉。

还挺AI的。

关联主题