跳转至

Import AI 469 精华简报

TL;DR

本期Import AI围绕一个核心暗线展开：递归自我改进（RSI）正从理论概念加速走向工程现实。四个看似独立的故事共同勾勒出这一图景——DiG-bench基准通过70个隐藏规则的游戏测试AI的"发现能力"（当前最强模型通关率仅20%，作者预测2027年中达到人类水平）；Paradigm Research发布RSI模拟器帮助业界建立对自我改进的直觉；AI初创公司Inherent训练出27B参数的"AI科学家"Faraday，在复现研究任务上已击败GPT-5.5和Opus 4.8；而扎克伯格关于"超级智能民主化"的宣言却对最核心的问题——具备发明能力的超级智能是否会服从人类意图——保持沉默。

核心观点与深度洞察

1. DiG-bench：创造力与发现能力成为AI评估的新前沿

核心命题： AI系统能否通过探索和好奇心自主推断环境的"不成文规则"，而非被告知规则？

  • 基准设计： 70个纯文本游戏，每个都是拥有自身法则的微型世界，但规则和目标均对玩家隐藏，必须通过交互逐步揭示。游戏足够简短，大多数轨迹可完全容纳在当前前沿模型的上下文窗口内。
  • 关键特性： 全部由人类专家手工构建；大部分保持非公开以避免污染训练数据；每个游戏至少被一位人类通关，但普遍反馈难度较大；附带"实验模式"放宽步数限制。
  • 难度分级： 分为7个层级（Tier 1最易至Tier 7最难），每步可用动作从2到34个不等，21个游戏已公开。
  • 模型表现：
  • Opus 5和Fable 5（配合Claude Code）整体最佳，是唯一能在Tier 7通关的模型（成功率仅0.2）
  • Opus 5、GPT-5.5、Kimi K3在获得工具框架后可通关部分Tier 6任务
  • GLM-5.2和Gemini 3.1 Pro仅能通关部分Tier 4关卡
  • 相比之下，人类个体在测试中可获得100%成功率

战略意义： 这是对创造力**先决条件**的分离测试——即在新奇环境中自主发现有用且未被记录的事物的能力。作者（含Schmidhuber）明确预测：2027年年中达到人类水平，届时递归自我改进将真正启动。

2. RSI模拟器：通过游戏化建立对"奇点"的直觉

Paradigm Research发布了一款浏览器游戏，模拟运营一家致力于构建具备递归自我改进能力AI系统的公司。

  • 玩家需在多个维度间权衡：研究人员 vs. 算力投资、何时以何种条件授权数据、研发节奏与风险管理
  • 游戏难度极高——这本身就是对前沿AI开发现实的一种隐喻
  • 深层价值： RSI对人类具有"关乎存亡"的重要性，但大多数人缺乏对其动态过程的直觉。游戏化是弥合这一认知鸿沟的低成本工具，让政策制定者、研究者和公众都能"亲手感受"这一技术的运作逻辑。

3. Faraday/Replica：AI科学家的"品味"初现，复现能力成为RSI的先行指标

AI初创公司Inherent展示了如何构建一个能监督前沿模型的"AI科学家"——这在本质上是一个**以能力为中心的"可扩展监督"解决方案**。

技术架构： - Faraday是一个27B参数模型（在Qwen-3.6-27B基础上后训练），以OpenAI Codex作为底层编码工具，形成一个"外部监督代理"层，控制大型专有前沿模型以提升其科研效率 - 训练数据"Replica"：从1990-2026年间发表的100篇ML和AI-for-Science论文中，剔除关键图表/结果，构建310个复现任务 - 训练流程：Claude Opus 4.7生成任务评分标准 → Codex-based Judge模型提供总体奖励和逐轮信用分配 → 修改版GRPO训练Faraday

核心结果： - 配备Codex的Faraday在**73%的分布内ML任务**和**60%的保留AI-for-Science任务**上超越Opus 4.8和GPT-5.5 - 相比基础Qwen模型，在训练和测试任务上均实现全面性能提升

最深刻的洞察在于其推论： "让Faraday能够填补模糊指定细节的技能，可能正是让它能够通过设计自己的实验来推进技术前沿的同一套技能。"复现能力与发明能力共享同一底层技能集——决定研究什么、在预算内规划实验、评判结果。这意味着**后训练一个外部代理模型，即可持续追踪前沿模型的进步并将其转化为科研突破**。这正是RSI的雏形。

4. 扎克伯格的技术悲观主义：民主化宣言背后的关键沉默

扎克伯格在《未来属于每个人》中提出Meta的AI哲学： - **个人赋能**作为繁荣的源泉 - **发明**作为超级智能的首要目的 - **权力平衡**作为安全的基础

愿景包括：每个人的个性化超级代理、创作工具、创业工具、全学科博士级导师、普惠的科学进步参与权。

Jack Clark的尖锐批评： 扎克伯格的文章在关键处保持沉默——具备发明能力的超级智能可能想要做的事情，与扎克伯格所提议的并不一致。文章默认"AI发明能力"与"个人赋能"是天然捆绑的，却完全回避了价值对齐问题：如果超级智能的目标函数与人类意图出现偏差，民主化的权力分散反而可能使问题更难以控制。这是一个"技术乐观主义外衣下的根本性悲观"——回避了AI发展中最困难的问题。

对行业的启发与影响

1. 评估范式正在发生根本性转移

从知识问答、代码生成等"规则明确"的基准，转向DiG-bench这类"规则隐藏、需自主发现"的开放式评估。这意味着**模型的"创造性直觉"将取代"知识储备"成为下一代能力分水岭**。对AI实验室而言，这意味着评估预算应大幅投向此类探索性基准。

2. RSI已从理论推演变为工程目标

Faraday证明了"小模型监督大模型"（outer agent架构）的可行性，且其技能可与前沿编码模型的进步**相互叠加**。任何实验室都可以复制这一路径：选择一个开源基座模型 + 顶级编码代理 + 复现任务数据集 + GRPO训练。RSI不再是思想实验，而是一个有明确技术路线的工程问题。

3. 时间线压缩带来的战略紧迫性

作者对DiG-bench在2027年中达到人类水平的预测，与Faraday展示的自我改进潜力相互印证。对于企业决策者：未来18-24个月内的模型能力跃迁可能比多数线性预测更为陡峭。技术战略、人才布局和产品路线图都需要按此时间线重新校准。

4. 政策讨论严重滞后于技术现实

扎克伯格的宣言代表了硅谷主流叙事——通过民主化实现安全。但正如Clark所指出的，这种叙事回避了最根本的问题：当AI系统真正具备发明能力时，其行为目标由谁定义、如何确保与人类意图一致？ 政策制定者需要超越"谁拥有AI"的讨论框架，直面"AI想要什么"的深层问题。行业领导者在此问题上的沉默，本身就是一种风险信号。

来源：Import AI 469 (Jack Clark)，原文链接：https://importai.substack.com/p/import-ai-469-science-ai-rsi-simulator