OpenAI首席研究官Mark Chen：三年内AI将独立完成端到端科研

在一场别开生面的访谈中，OpenAI首席研究官（Chief Research Officer）Mark Chen一边烹饪韩式豆腐汤，一边分享了他对AI科研前沿的深度思考。这场被戏称为"送汤给研究员"的对话（灵感来自扎克伯格用送汤方式挖角研究员的传闻），意外地成为洞察OpenAI研究哲学的绝佳窗口。

本文提炼这场对话中最具价值的观点：从科研人才的培养路径，到强化学习（RL）的边界，再到OpenAI最激进的三年目标——让模型独立完成端到端的科学研究。

从交易员到研究负责人：科研品味如何培养

Mark Chen的职业轨迹颇具代表性——他曾是一名交易员，后来成为OpenAI的核心研究人物。当被问及交易与科研之间是否存在关联时，他的回答打破了"必须读博士才能做研究"的迷思。

他强调，OpenAI一直坚信"培养人才"胜过"筛选学历"。真正稀缺的能力是创造性地解决问题、跳出框架思考。至于交易背景的价值，他认为其特殊之处在于"无法作弊"——你无法欺骗真实世界，这是一个极难优化的硬指标，同时要求对细节的极致关注和从系统中"榨取每一分收益"的耐力，这些特质会自然迁移到科研中。

复现论文是培养研究品味的最佳路径

对于想进入AI科研领域却缺乏背景的人，Mark给出了一个具体建议：完整复现你所仰慕的论文。他回忆2018年复现ResNet、CNN时，为了精确达到论文暗示的训练损失和困惑度（perplexity），学到了大量"论文里从不提及"的隐藏技巧。

困惑度（perplexity）是语言模型中最常用的评估指标之一，衡量模型对下一个token的预测不确定性——困惑度越低，说明模型对文本的建模越准确。复现论文时追求精确匹配困惑度，往往意味着需要掌握学习率调度、权重初始化、数据预处理等大量未在论文正文中详述的工程细节，这些"暗知识"（tacit knowledge）正是区分优秀研究者与普通从业者的关键。

真正点燃他兴趣的，则是AlphaGo战胜李世石的那一刻——尤其是著名的"第37手"（Move 37）。2016年3月的这一历史性对局中，AlphaGo在第二局第37手下出了违反人类数千年围棋定式的一步棋，最初被职业棋手视为失误，却在后续展现出超越人类直觉的深远战略价值。AlphaGo结合了蒙特卡洛树搜索与深度强化学习，其自我对弈产生的创新着法证明了AI不仅能模仿人类智慧，更能发现人类未曾想到的路径。而如今令人震撼的是，Mark观察到"Move 37"式的突破正在几乎每个领域涌现：数学、计算机科学、编程。许多人在今年年初"突然醒悟"，发现智能体已经能在自己的职业领域中完成有意义的长周期工作。

强化学习的能力边界：客观领域 vs 主观领域

Mark清晰地划定了当前强化学习的能力边界。强化学习是机器学习的核心分支之一，其基本框架是智能体通过与环境交互、根据奖励信号调整策略来学习最优行为。在大语言模型的语境下，RL主要以RLHF（基于人类反馈的强化学习）形式应用——模型生成回答后由奖励模型评分，再通过PPO等算法优化策略。这一范式的核心瓶颈在于奖励信号的质量与可靠性。

Mark指出，RL在客观可评判的领域（如数学、编程）表现极佳——因为答案要么对要么错，存在"冷酷的真理"（cold hard truth）。在这些领域，奖励信号天然清晰：一段代码能否通过测试用例、一个数学证明是否逻辑严密，都可以被自动化地精确验证，这为RL提供了高质量的训练信号。

而在主观领域，RL则面临天然阻力。以创意写作为例，两位专家对同一篇作品可能有截然相反的评价，这类"难以打分"的任务让RL难以直接应用。根本原因在于，当奖励模型本身存在系统性偏差或在评价标准上不一致时，RL优化可能导致模型学会"讨好"奖励模型而非真正提升质量——这就是所谓的"奖励黑客"（reward hacking）问题。虽然业界正在开发相关技术（如多维度评分、宪法AI等方法），但目前RL真正起飞的地方，仍是那些实现正确与否一目了然的硬科学领域。

从编程协作看AI的"高上下文"能力

关于为什么编程比"初级顾问"类工作更容易被AI攻克，Mark的解释很直接：编程的上下文是可获取的（代码库、任务本身都在），而顾问工作的上下文往往分散且模糊。编程任务的上下文通常以结构化形式存在于代码仓库、文档、测试套件和版本历史中，模型可以直接读取和理解；而咨询类工作的关键信息往往存在于非结构化的会议对话、人际关系、组织政治等"暗信息"中，这些是当前模型极难获取和编码的。OpenAI将编程/协作视为测试模型能否在高上下文、真实世界、长周期场景中学习的关键领域。

超越人类：如何评估超人智能

当模型开始饱和IMO（国际数学奥林匹克）这类顶尖测试时，一个根本问题浮现：如何评估超越人类0.1%顶尖水平的智能？

IMO是全球最高水平的中学生数学竞赛，每年约600名来自100多个国家的顶尖选手参加，题目涵盖代数、组合、几何和数论，通常需要创造性的证明构造而非套路化计算。2024年DeepMind的系统已达到银牌水平。当这类被视为"人类智力天花板"的基准开始被AI饱和时，传统的评估方法论面临根本性挑战——我们无法用人类解题能力作为标尺来衡量超越人类的智能。

Mark的答案指向"与真实世界的交互"。OpenAI早期的方向是将模型推向真实科研——让它们发现新定理、推进硬科学前沿。而如今，模型解决高难度问题已经"不再令人惊讶"，甚至被视为理所当然。下一步的追求是：模型能否在不同领域之间建立新颖而有洞察力的关联——例如，发现拓扑学中的某个定理可以应用于蛋白质折叠问题，或者将博弈论的框架迁移到免疫学研究中。这种跨学科的创造性联想，是当前AI最缺乏也最难评估的能力。

评估危机与"刷榜"陷阱

Mark坦承业界正处于"评估危机"（evals crisis）。SAT等经典黄金标准基准几乎全部饱和，而真正高质量的基准数量极少。同时存在"刷榜"（bench maxing）现象——在特定分布上过拟合，无法反映真实泛化能力。所谓"刷榜"是指研究团队有意或无意地针对特定基准测试的数据分布进行优化，导致模型在该基准上得分极高，但在略有不同的实际场景中表现骤降。这类似于学生"背真题"而非真正理解知识——考试分数高，但解决新问题的能力并未提升。

OpenAI的应对策略颇具启发性：将创建评估的团队与优化模型的团队分离。评估团队的目标是构建对模型足够困难的测试，形成一种"对抗性过程"（类似于密码学中攻击者与防御者的关系），从而让双方激励对齐，避免"自欺欺人"。他们还与外部机构合作打造数学与科学领域的黄金标准。

Scaling Law尚未终结：坚持指数曲线的底气

面对"预训练已死"（pre-training is dead）的流行论调，Mark态度鲜明：强烈反对。

Scaling Law（缩放定律）由OpenAI在2020年系统化阐述，指出神经网络的性能与模型参数量、训练数据量、计算量之间存在幂律关系——在对数坐标下呈现近似线性的持续改进。这一规律在从百万到万亿参数的近10个数量级上保持成立，其可预测性是AI研究史上最令人瞩目的经验发现之一。围绕其是否会终结的争议主要集中在物理约束（算力、能源、数据）是否会构成不可逾越的瓶颈。

Mark指出这一叙事在LLM发展史上反复出现——每次都有人声称"因为某个瓶颈无法继续扩展"，但OpenAI总能通过更好的工程、更精细的数据处理或新的研究洞见突破边界。Scaling Law已经在近10个数量级上成立，没有理由认为它会停止。

推理模型o1：一场需要"坚定信念"的豪赌

Mark以o1（推理模型）为例，说明OpenAI如何押注非共识方向。o1代表了LLM训练范式的根本性创新——传统模型在生成每个token时花费固定计算量（"快思考"），而o1引入了"测试时计算"（test-time compute）的概念，让模型在回答前进行长链条的内部推理步骤（"慢思考"），类似人类面对难题时反复验证的思考过程。这开辟了一条独立于预训练缩放的新性能提升路径——即便不增大模型参数，通过在推理阶段投入更多计算也能显著提升表现。

在o1诞生前，"预训练+后训练"是极其成功的范式，连OpenAI内部都有人质疑："既然机器已经能工作，为何要另辟蹊径？"

正是因为Jakob、Ilya等人对推理方向的坚定信念与愿景，团队才真正投入。即便如此，仍需要大量"引导"才能让整个公司认同这一根本性押注。这揭示了OpenAI的核心Alpha——敢于承担高风险赌注，这也是其能持续保持前沿地位的原因。这里的"Alpha"借用了金融术语，指超越市场平均回报的超额收益，在此语境下意味着OpenAI相对于竞争对手的差异化优势来源。

三年路线图：让AI独立做科研

访谈中最引人注目的，是Mark透露的三年目标：让模型进行端到端的独立研究（end-to-end research）。

所谓"端到端的独立研究"，指AI系统能够完成科研的全流程：从文献综述、提出假设、设计实验、编写和运行代码、分析结果、到撰写论文并判断结果的意义。这与当前AI辅助研究的模式有本质区别——目前模型主要充当"工具"角色，而端到端研究要求模型具备自主设定目标、规划长期策略、从失败中调整方向的能力，还需要突破长期记忆、持续学习等多个技术瓶颈。

Mark描绘了一个正在快速逼近的世界——研究工作将主要转向"编排"（orchestration）：研究员负责提出想法，而模型足够强大到独立完成实现与执行。这就是所谓的"Vibe Researcher"（氛围研究员）概念——与"Vibe Coding"（氛围编程，即开发者只描述意图，AI完成全部代码实现）类似，研究员只需提供方向性指引和品味判断，模型负责所有繁重的执行工作。

品味与执行：人类研究员仍不可替代

不过Mark强调，当前模型"尚不具备研究品味"（taste）。这正是人类研究员仍需提出想法的原因——教会模型良好的品味非常困难。所谓"研究品味"是指判断什么问题重要、什么方向有希望、什么结果有意义的元认知能力——这种能力来自于多年积累的领域直觉、对研究社区动态的理解、以及对"优雅"和"深刻"等美学标准的把握，目前极难通过训练数据或RL奖励信号来传递。但在加速执行层面，收益已经清晰可见。

他还谈到OpenAI对失败的独特态度：即便一个技术押注失败，研究员的书面记录也极具价值，因为失败的想法往往"看起来很自然"，详尽的记录能让其他人避免重蹈覆辙。对于连续押注失败的研究员，他以"交易员心态"看待——只要期望值为正，偶尔的"大爆款"就足以证明其价值。这反映了一种"幂律分布"思维：科研产出的价值分布极度不均匀，少数突破性成果创造的价值远超大量普通工作的总和。

架构统一：多模态应在一个模型下

关于图像、音频、视频、文本是否应统一在单一模型下，Mark倾向于尽可能减少架构数量。这一立场反映了AI研究中"统一模型"vs"专精模型"的长期争论。统一架构的优势在于：不同模态之间可以共享表征（例如，对物理世界的理解可以同时帮助视频生成和机器人控制），训练和推理的基础设施只需维护一套，核心的算法创新（如注意力机制改进）可以立即惠及所有模态。

对研究实验室而言，维护单一基础设施栈的优势巨大——核心研究成果可以自然迁移到任何模态。维护和扩展多套基础设施的成本，是"不应被低估的"。这里的成本不仅包括工程人力，还涉及研究注意力的分散——当团队需要为每种模态维护独立的训练流程、数据管线和评估体系时，跨模态的协同创新会变得极其困难。

结语：低垂的果实与最后的窗口

当被问及是否还有大量"低垂的果实"时，Mark的判断意味深长：新的重大押注不多了。随着模型越来越强大，我们正接近一个模型能自主产生创新、进行自我持续研究的世界。他认为"窗口很小，但仍有一些相当重要的想法正在尝试"。

对于"通往AGI还需两三个突破"（如持续学习）的观点，Mark并不完全认同这一框架，但他确信"有很多进球机会"，且大概率会成功。持续学习（continual learning）是指模型能够像人类一样不断从新经验中学习而不遗忘已有知识的能力——当前模型在训练完成后本质上是"冻结"的，虽然通过上下文学习可以临时适应，但无法真正积累长期经验。如果这一问题被突破，将意味着AI系统可以在部署后持续进化，这是通往自主科研能力的关键一环。

这场在氤氲汤气中进行的对话，最终指向一个清晰的信号：OpenAI相信，AI独立做科研的时代，或许只有三年之遥。