Import AI 467 精华简报¶

来源：Import AI (Jack Clark) | 主题：AI安全、算力经济、前沿治理、AI创造力边界

TL;DR（核心主旨）¶

本期 Import AI 勾勒了一幅 AI 进入"自我演化"阶段的风险图景：研究者已成功构建出利用开放权重大模型实现自主入侵、寄生算力并自我复制的 AI 蠕虫病毒，标志着"自主生成式对手"从理论走向现实；与此同时，头部实验室员工联合呼吁政府介入"为AI发展设节奏"，反映出业界对递归自我改进加速失控的普遍焦虑。但一项"影子评估"研究又给出了审慎信号——当前 AI 在工程执行上极为出色，却尚未展现出真正的科研创造力。此外，算力经济学正在发生结构性逆转：随着 AI 变得更聪明，算力价格可能飙升 15 倍以上。四条线索共同指向一个核心命题：AI 正在从"工具"转变为"自主行动者"，人类社会的防御、治理与经济范式均需随之重构。

核心观点与深度洞察¶

一、自我维持、自我复制的 AI 病毒已成现实¶

关键事实：多伦多大学、剑桥大学、Vector Institute 与 ServiceNow 的研究人员联合构建了一种概念验证型 AI 蠕虫病毒。该病毒完全基于本地开源权重 LLM 运行，不依赖任何可被监控或撤销的供应商 API。

技术机制：

寄生式算力利用：病毒入侵 GPU 节点后，直接劫持其算力运行 LLM 进行推理，实现"以战养战"——被入侵的机器既是攻击跳板，也是病毒自身的"大脑"。
推理图（Reasoning Graph）架构：通过有向的专门节点图（计划、评判、行动、总结、进展等节点）分解智能体的推理过程，每个节点只看与自己角色相关的工具和提示。这有效控制了上下文长度，防止 LLM 在复杂攻击任务中"迷失"，显著提升了攻击的稳定性和成功率。
去中心化群体韧性：蠕虫不断自我复制形成"群体"（swarm），各副本独立采样推理轨迹、并行探索攻击路径。即使某些尝试失败，其他副本会以不同策略重试。没有任何单一控制点可以被下线来中断其传播——这是与传统恶意软件最本质的差别。

关键数据：漏洞检测成功率约 80%，漏洞利用成功率约 53%，自我复制成功率约 88%（含预封装辅助工具），完整攻击链总体成功率约 37%。

深层含义：37% 的成功率"高到足以令人担忧，又低到足以作为未来测试开源模型的评估基准"。未来的互联网将不再是静态的基础设施，而是一个由攻击型与防御型 AI 智能体共同构成的**复杂生态系统**。人类可能需要部署自己的 AI 智能体，充当网络空间中的"白细胞"。

二、算力经济学正在发生结构性逆转¶

核心论点（Dwarkesh Patel）：随着 AI 系统变得更聪明，算力价格不但不会下降，反而会大幅上涨。

逻辑推导：AI 越聪明，同等算力就能变现更多经济价值。如果一个达到人类水平的软件工程师能运行在一块 H100 上，按当前软件工程师的市场薪酬计算，这块 H100 的年租金应超过 25 万美元——是当前现货价格的 15 倍。目前 AI 算力之所以相对便宜，恰恰是因为 AI 还做不了顶级人类能做的大部分事情；一旦这一差距被抹平，用 GPU 做"短视频垃圾内容"将被市场直接淘汰。

时间维度：这种高价状态是"暂时性的"——未来算力供应链的大规模机器人化将把成本拉回接近原材料水平，但那时人类社会可能已深入奇点。奇点经济学的核心特征将是：今天被视为大宗商品的资源（计算），其价格会被 AI 系统的贪婪需求推到难以想象的高度。

三、业界集体呼吁"为AI发展设节奏"¶

关键事实：OpenAI、Anthropic、Google DeepMind、Meta、Safe Superintelligence 等主要西方实验室的约 1337 名员工（含首席科学家、联合创始人、CEO）联合发表声明，请求美国政府支持一项国际努力，开发"有意为自动化 AI 发展前沿设定节奏"所需的技术与治理工具。

声明核心逻辑：

世界领先的 AI 公司认为已接近实现"AI 研究的自动化"（即 AI 自我改进），这将导致能力发展速度可能迅速超出人类的理解与控制能力。
每家公司、每个国家都面临激烈的竞争压力，无法单方面放慢速度——这是一个典型的囚徒困境。
当今世界缺乏在"前沿整体"层面主动调节发展速度的技术与治理工具，因此需要国际协作来创建这种能力。

本质洞察：应对递归自我改进（RSI）本质上是一个**巨大的集体行动问题**。声明本身的意义不在于具体机制，而在于它首次让"主动为前沿发展设节奏"从禁忌话题变成可公开讨论的合法议题——这是人类社会获得应对这类问题能力的前提条件。

四、AI 是优秀工程师，但还不是创造性研究者¶

研究方法（"影子评估"）：普林斯顿、UC Berkeley、斯坦福、英国 AI 安全研究所等机构合作，选取两篇提交至 NeurIPS 2026 但尚未公开的论文，提取其核心研究问题，让运行在 OpenClaw 框架中的 Claude Opus 4.8 尝试回答，再由原论文作者按会议评审标准打分。

研究发现：AI 智能体能够解决开展研究所需的工程问题（代码实现、实验设计、数据管道等），但**未能产出原创性的研究想法**——即缺乏"有品位的创造力"（tasteful creativity）：提出好问题、形成直觉判断、识别真正有价值的研究方向的能力。

对时间线的意义：这一结果对"短期递归自我改进"的预测是一个**偏悲观（看空）的信号**。如果 AI 无法提出推动领域前进的原创想法，那么 AI 自主开发更强大 AI 的临界点可能比许多人所担忧的更远。但它同时也说明：一旦 AI 跨越创造力这道门槛，其自我改进的速度将远超预期——这正是需要提前建立治理机制的原因。

对行业的启发与影响¶

1. 网络安全范式必须根本性转向¶

传统防御基于"已知签名 + 边界防护"，但 AI 蠕虫能够针对每个目标**实时定制攻击策略**，且以去中心化群体形态运作，没有可被击毙的"母体"。安全行业需要从"防御已知威胁"转向"构建自主防御智能体"，在网络空间中形成 AI 对 AI 的对抗生态。企业应尽快评估自身 GPU 算力资产的安全态势——它们既是 AI 时代的核心资源，也是 AI 病毒眼中的"食物"。

2. 算力战略价值将被重新定价¶

如果 Dwarkesh 的逻辑成立，算力将从"基础设施成本"转变为"核心资产"，其定价逻辑从硬件成本转向**智能体创造的经济价值**。这意味着：拥有算力就是拥有未来收益权；AI 公司需要重新思考商业模式（按价值定价而非按算力定价）；投资机构应将算力储备视为类似"土地储备"的战略资产。同时，算力高价期也是短暂的——长期看机器人化将使其回归成本价，战略布局需同时考虑短期溢价与长期贬值两条曲线。

3. AI 治理从"事后监管"走向"事前节奏控制"¶

1337 名从业者的联名声明释放了一个强烈信号：业界内部对失控的恐惧已超过对竞争失利的恐惧。可预期的下一步是：美国政府可能推动建立国际性的"AI 发展节奏"协调机制，包括模型发布审批、训练算力上限、自动化研究监测等技术手段。企业需要为"主动放缓"的可能性做好准备——那些能将放缓期转化为安全能力积累的公司，将在长期竞争中胜出。

4. 重新校准对 AI 能力的评估框架¶

"影子评估"方法论本身具有重要价值：它提供了一种**在信息泄露之前**评估 AI 真实科研能力的手段。对行业而言，这意味着：AI 的工程化应用（编码、数据分析、运维）可以加速推进；但对 AI 驱动的自主科研应保持审慎预期。对研发团队而言，人机协作的科研模式（AI 做工程、人类做选题与判断）可能是当前阶段最有效的组织形态。

5. "智能阶梯"概念将进入公共话语¶

声明中隐含的"某些智能水平可能过于危险而不宜触及"的想法，标志着一个根本性转变：技术发展不再被默认是天然正义的。企业、政府和社会需要建立新的对话机制，讨论"我们想以多快的速度、走向什么样的智能未来"。这不仅是安全问题，也是文明选择问题。

"我们正站在一个分水岭上：AI 不再是工具，而是行动者。为这个新世界建立规则，是所有人共同的责任。"