AGI 时代技术展望：前沿模型能力与 Scaling 趋势

AGI 时代技术展望：前沿模型能力与 Scaling 趋势

版本：v1.0 · 2026-09-04 读者定位：技术团队（深度版） 范围：前沿模型能力演进与 Scaling 趋势。不含商业化、组织与合规章节。

可靠性标注约定

本报告所有关键论断均标注证据等级，请勿把 P 级内容当作事实引用。

1. 核心判断（TL;DR）

1. Scaling 没有停，但主轴已经换了。 预训练算力仍在以 5×/年 增长 C，然而边际能力增量的主要来源已从预训练转移到 后训练 RL 与 推理时计算 ——而这两条轴在 2025–2026 年都出现了公开的边际收益递减证据 C。这是本报告最重要的一条判断。
2. "AGI 时代"目前是厂商叙事，不是技术结论。 GPT-6 Astra 的发布口径由 OpenAI 高管给出 C，但参数量、训练数据、能力边界均未披露 C。技术团队应以实测替代叙事。
3. 真正的约束正在从数据转向电力。 数据墙的估算区间为 2026–2032 C（但估算本身已过时），而算力侧已出现 GW 级数据中心与 ~1 万亿美元年化 capex C。瓶颈的重心变了。
4. Benchmark 已经失真。 主流榜单饱和且污染严重 S，能力评估必须转向自建 eval + 长程任务实测。这对工程团队是最直接、最可操作的结论。
5. 架构层面没有出现范式颠覆。 MoE 已是事实标准 S，SSM/混合架构在长上下文与推理成本上占优 C，但前沿旗舰仍以 Transformer 变体为主。"Transformer 已死"的说法在 2026 年不成立。

2. 事实基线：当前前沿格局

2.1 GPT-6 Astra

关键技术事实：Astra 的发布被推迟出原定 8 月窗口，原因是模型触及 关键网络攻击能力（critical cyber capabilities）阈值，并具备发现零日漏洞的能力 C。OpenAI 为此发布了两篇安全说明（Path to Astra: critical capabilities and frontier safeguards 与 Responding to the next frontier of critical cyber capabilities）C。

工程含义：这是前沿实验室首次因能力过强而非能力不足而延迟发布。安全阈值开始成为发布节奏的实际约束项 —— 这对依赖前沿模型 API 的团队意味着版本可用性变得不可预测，必须预留降级路径。

2.2 前沿模型格局（截至 2026-09）

下表除 OpenAI / Google 两行外均来自单一聚合来源，等级 S，使用前请自行复核。

观察：前沿已不再是单一梯队。开源阵营（DeepSeek / Qwen / Kimi / GLM）在特定能力维度上已进入同一竞争面，且以宽松许可发布 —— 这改变了"必须用闭源旗舰"的默认假设。

3. Scaling 的三条轴

这是本报告的技术核心。三条轴的状态差异极大，混为一谈是 2026 年最常见的分析错误。

3.1 轴一：预训练算力 —— 仍在增长，但增量变贵

已核实数据（Epoch AI, Trends in AI，页面更新于 2026-02-05）C：

• 前沿训练算力增长 5×/年
• 自 2020 年起 每 5.2 个月翻倍
• 0.7 个数量级 / 年
• 未观测到平台期

但成本侧同步恶化（arXiv 2405.21015，2025-02-07）C：

• 前沿模型训练成本自 2016 年起 2.4×/年
• 摊销成本 2027 年初突破 $1B（该项为预测 P）

判断：预训练轴在数学上没有断裂，但已进入收益/成本剪刀差区间。每翻一倍算力所换取的能力增量在下降，而成本在加速上升。这解释了为什么实验室把重心转向后训练 —— 不是因为预训练失效，而是因为性价比失效。

3.2 轴二：后训练 RL —— 新主轴，但有实证天花板

这是 2025–2026 年最重要的技术变化，也是最容易被过度宣传的一条。

关键反面证据（Yue et al., Does RL Really Incentivize Reasoning Capacity in LLMs Beyond the Base Model?，arXiv 2504.13837，2025-04-18 提交 / v5 2025-11-24，NeurIPS 2025）C：

"base models achieve a higher pass@k score when k is large."

即：在大 k 下，基座模型的 pass@k 高于 RL 后模型。结论是 RLVR 收窄了采样分布而非扩展能力边界 —— RL 把模型的能力集中到它已经会的那部分，而不是教会它新的东西。

这是目前公开发表的最强 "RL scaling wall" 证据，且来自 NeurIPS 正会，不是预印本孤证。

支撑证据：

• RL Squeezes, SFT Expands（ICLR 2026 正会）C（标题与会议已核实；摘要中的定量结果未核实 ?，PDF 抓取超时）—— 标题本身与 Yue et al. 结论方向一致
• The Landscape of Agentic RL for LLMs: A Survey（arXiv 2509.02547，2025-09-02）C：将 agentic RL 描述为范式转移 —— "reframing LLMs from passive sequence generators into autonomous, decision-making agents"
• Beyond Verifiable Rewards（arXiv 2503.19618，NeurIPS 2025）C：RLVR 向数学/代码之外的领域扩展

未能核实 ?：RL 在前沿后训练算力中所占比例的任何定量测量。业界"RL 已成为主导 scaling 轴"的说法属于评论性表述，不是测量结果。

工程判断：RL 后训练在分布收窄与稳定性上确实有效 —— 这正是产品化需要的。但不要期待它带来能力边界的实质外扩。如果你的任务需要探索性 / 新颖解法，基座模型的宽采样反而更有价值 —— 这是一个可实测的反直觉结论。

3.3 轴三：推理时计算 —— 成本可调，但有负收益区

关键证据（Zhou et al., When More Thinking Hurts: Overthinking in LLM Test-Time Compute，arXiv 2604.10739，2026-04-12）C：

摘要原文："marginal returns diminish substantially at higher budgets… models exhibit 'overthinking'… stopping at moderate budgets can reduce computation significantly while maintaining comparable accuracy."

即：高预算下边际收益显著递减，模型出现 overthinking；在中等预算处停止可大幅降低算力消耗而保持可比精度。

近似阈值（来自该论文 HTML v1，标注为近似值，非摘要原文）C：

• 边际效用转为负值：约 >12K tokens
• flip ratio > 1：约 ~7K tokens

基线参考：Snell et al.（arXiv 2408.03314，2024-08）给出 compute-optimal test-time scaling 框架 C。

工程判断：这是三条轴中对工程团队最直接可操作的一条。推理预算是一个可调节旋钮，且存在明确的最优区间。生产系统中的正确做法不是"永远拉满 reasoning effort"，而是：

• 建立任务难度 → 推理预算的映射（路由）
• 对简单任务强制低预算，避免 overthinking 带来的成本浪费与延迟
• 对高不确定性任务设置预算上限而非无限扩展

4. Scaling 的硬约束

4.1 数据墙（估算已过时）

Epoch AI, Will we run out of data?（2024-06-06）C：

• 人类生成文本存量将在 2026–2032 年间被完全利用
• 同一页面明确指出：合成数据 "not yet well understood"

重要缺口 ?：未找到该估算在 2025–2026 年的任何修订版本，也未找到人类数据 vs 合成数据的拆分比例。该区间基于 2024 年数据，应视为下限参考而非当前判断。

4.2 算力与电力 —— 真正的瓶颈

已核实数据（Epoch AI, Frontier labs don't use most AI compute (yet)，Josh You，2026-05-20）C：

电力与 capex（同一来源，2026-05-20）C：

• OpenAI 数据中心电力在 2024 与 2025 年各增长 3×
• 2025 年 1.9 GW → 2027 年 "low double-digit GW"
• OpenAI 2026 年算力支出 $50B（约为 2025 年的 3×）
• 2026 年 AI 总 capex ≈ $1T 年化（约占全球 GDP 1%，美国 GDP 3%）

数据中心实况（Epoch 最大数据中心图表，更新于 2026-09-03）C：

• Colossus 2：946 MW 在运行
• Fairwater (WI)：2,263 MW 规划中

历史对照（arXiv 2504.16026v2，2025-04-23）C：Colossus 约 200k 芯片 / ~$7B / ~300 MW；2030 年预测约 2M 芯片 / ~$200B / ~9 GW（该项为预测 P）。

判断：从 300 MW（2025）到 946 MW 在运行 + 2,263 MW 规划（2026-09），电力已经取代数据成为首要物理约束。注意那条 "前沿实验室五年内吃掉 80% 算力" 的推论 —— 它意味着算力供给的再分配会成为未来几年的主要竞争面。

4.3 硬件代际

NVIDIA Vera Rubin NVL72（NVIDIA 开发者博客，2026-01-05）C：

AMD MI400 / Helios（TechPowerUp 预览，2025-06-13）S：MI400 432 GB HBM4 / ~19.6 TB/s / 40 PF FP4；Helios 72 GPU / 3.1 EFLOPS；MI450X 预计 2026 年末。最终出货规格未核实 ?（amd.com 抓取超时）。

推理侧瓶颈：Rubin 22 TB/s 与 MI400 ~19.6 TB/s 的 HBM4 带宽，相较 HBM3e 世代约提升 10×。内存带宽而非算力，是长上下文推理的实际约束。

5. 架构范式转移

结论先行：2026 年没有出现架构颠覆。

SSM vs Transformer 的实证结论（arXiv 2507.12442v4，Characterizing State Space Model and Hybrid Language Models）C：

• SSM 在长上下文上占优
• Transformer 在短序列上领先
• 混合架构在效率与精度间取得平衡，被证明适用于高效推理

Mamba-3 已进入公开生态（Princeton PLI / Together AI 等有覆盖）S。

工程判断：对绝大多数团队，架构选择不是当前的决策点 —— 你消费的是 API，架构由供应商决定。唯一需要关注的架构信号是 MoE + 稀疏注意力带来的推理成本下降，它直接影响你的单位 token 成本曲线。

6. Benchmark 失真

现状 S：主流榜单（MMLU 92%+、HumanEval、SWE-bench 等）已饱和，且存在严重的训练集污染问题。业界已有 "leaderboards are dead" 的公开讨论。

仍有区分度的方向：ARC-AGI-2（arXiv 2505.11831）、FrontierMath 等开放研究问题类基准 S。

未能核实 ?：GPT-6 Astra 在具体 benchmark 上的分项成绩 —— Artificial Analysis 仅给出聚合指数 57–61 C，分项数据未获取。

这是本报告中最可操作的一条结论：

不要以公开榜单作为选型依据。 建立自建 eval 集，并在真实长程任务上做实测。榜单分数与你系统中的实际表现之间的相关性，在 2026 年已经低到不可用于决策。

7. 对技术团队的落地判断

按可操作性排序：

1. 推理预算路由（高优先级，立即可做）

基于 §3.3 的 overthinking 证据，建立任务难度分级与推理预算映射。预期收益：成本下降 + 延迟下降，精度基本不变。这是当前 ROI 最高的优化点。

1. 多供应商降级路径（高优先级）

§2.1 表明前沿模型发布节奏已被安全阈值约束，版本可用性不可预测。任何硬绑定单一前沿模型的生产链路都需要降级方案。

1. 自建 eval（高优先级）

§6。替代公开榜单作为选型与回归依据。

1. 重新评估开源选项（中优先级）

§2.2。DeepSeek V4 / Qwen / Kimi K3 以宽松许可发布，在特定能力维度已进入同一竞争面。对成本敏感与非极端能力场景，闭源旗舰不再是默认答案。

1. 长上下文成本核算（中优先级）

1M 上下文已成前沿标配 C。但内存带宽是实际约束（§4.3），长上下文的成本曲线非线性 —— 需实测而非按线性外推。

1. 基座模型宽采样的保留价值（低优先级，但值得实验）

§3.2 的 pass@k 证据表明，探索性任务上基座模型可能优于 RL 后模型。如果你的场景涉及新颖解法生成，值得做对照实验。

8. 不确定性清单

以下内容已核查但无法确认，请勿在下游文档中填充估计值：

一处主动纠错：Epoch AI 不存在题为 Compute Trends Across the Frontier of AI 的出版物；也未能核实任何"约 6 年算力余量"的估算及其修订。网络上流传的该表述不应引用。当前可用的余量表述是 2026-05-20 的"五年内约 80%"C。

抓取受限来源：openai.com、datacenterdynamics.com、phoronix.com 返回 403；amd.com 超时；reuters.com、anthropic.com 被拦截。上述缺口由此产生。

9. 参考来源

一手来源 / 高可信

• Epoch AI — Trends in AI（更新于 2026-02-05）
• Epoch AI — Frontier labs don't use most AI compute (yet)（2026-05-20）
• Epoch AI — Largest AI data centers by power capacity（更新于 2026-09-03）
• Epoch AI — Will we run out of data?（2024-06-06）
• Epoch AI — Can AI scaling continue through 2030?（2024-08-20，预测性）
• Yue et al. — Does RL Really Incentivize Reasoning Capacity in LLMs Beyond the Base Model?（NeurIPS 2025）
• Zhou et al. — When More Thinking Hurts: Overthinking in LLM Test-Time Compute（2026-04-12）
• Snell et al. — Compute-Optimal Test-Time Scaling（2024-08）
• The Landscape of Agentic RL for LLMs: A Survey（2025-09-02）
• Beyond Verifiable Rewards（NeurIPS 2025）
• RL Squeezes, SFT Expands（ICLR 2026）
• Characterizing State Space Model and Hybrid Language Models
• ARC-AGI-2: A New Challenge for Frontier AI Reasoning Systems
• Rising costs of training frontier AI models（2025-02-07）
• Trends in AI Supercomputers（2025-04-23）
• NVIDIA — Inside the Rubin Platform（2026-01-05）

GPT-6 Astra 相关

• OpenAI — Path to Astra: critical capabilities and frontier safeguards
• OpenAI — Responding to the next frontier of critical cyber capabilities
• The Decoder — GPT-6 Astra is the first model making OpenAI willing to declare the AGI era
• Artificial Analysis — GPT-6 Astra
• LifeArchitect.ai — GPT-6 (2026)（更新于 2026-09-04）
• The New Stack — OpenAI launches GPT-6 Astra
• Cody AI — GPT-6 Astra Released: Access, Features & Latest News

单一来源 / 需复核（S 级）

• DataLakeHouseHub — Every AI Model Family That Matters in Mid-2026
• AIReiter — GPT-6：截至 2026 年 8 月我们知道些什么（2026-08-10）
• BuildMVPFast — AI Benchmark Saturation 2026: Leaderboards Are Dead
• Together AI — Mamba-3
• Princeton PLI — Mamba-3
• TechPowerUp — AMD MI400 / Helios preview（2025-06-13）

附：方法说明

本报告通过 Web 检索 + 一手来源交叉验证生成，未使用任何模型内部先验知识填充数据缺口。所有 ? 级条目均为真实的核查失败，而非省略。 若需将任一 S 级条目提升为 C，建议对该条目做独立的第二来源验证后再引用。