博主头像

RSI已经开始?AI 距离超级智能还有多远 | 递归自我改进 | AGI | Dwarkesh Pa

外来客 • 2026-11-21 04:26:18

分享
𝕏 f ◉
声明:本文为对公开内容的摘要整理, 未经本站独立核实,可能与原内容存在出入,不代表本站立场、观点或建议; 观点与版权归原作者及原平台所有。 如涉及版权问题,请联系我们,核实后立即删除。 [ 免责声明 ]

🚀 RSI启动与时间线预测

  • Dwarkesh Patel 判断递归自我改进(RSI)已启动,AI 在 AI 研究上达到顶尖人类水平的中位年份定为 2028年。
  • 存在两种主要情景:50% 概率出现“纯软件起飞”,数月内逼近芯片物理极限;50% 概率为“Spark”情景,首年进展相当于过去3-6年的总和。
  • 乐观估计认为最早明年即可超越顶尖人类专家,保守估计则可能推迟至 2032年之后(概率约25%)。

📊 研发加速的关键证据

  • Meta 驻留评估显示,Anthropic 在明确任务上的 AI 进展速度已是一年前的两倍。
  • OpenAI 内部数据显示,前10%研究人员在编程智能体上的日均开销从年初的 $1,000 涨至8月底的 $7,000+。
  • Anthropic 披露其 AI 主导了 26% 的研发工作(今年2月该比例不足1%)。
  • OpenAI 模型在 88小时内解决了一道千禧年大奖难题,展现出从简单数学题向未解难题的泛化能力。

⚙️ 自动化研究员的效率逻辑

  • AI 工作速度约为人类的10倍,考虑非工作时间后,单周工作量约为人类的50倍。
  • 前沿实验室约 80% 的算法进展出自最顶尖的50名研究者,AI 普及顶尖水平将带来显著加速。
  • Transformer 架构被视为深度学习最大突破,其核心部件在2017年前已存在于文献中,仅缺组合方式,这正是 AI 擅长的“聪明尝试”。

🧠 现实能力与持续学习

  • 针对缺乏现实经验的质疑,AI 将通过构建比电子游戏复杂数万倍的强化学习环境进行训练。
  • 模拟环境将涵盖数百万 AI 的经济竞争、历史回测(如推导广义相对论或预测古巴导弹危机)。
  • 持续学习难题有望通过扩大上下文规模解决,无需架构大突破;AI 在部署后数月内即可积累相当于人类数年的经验。

🛠️ 可验证性与算力瓶颈

  • AI 研发分为预训练、后训练和推理效率三大块,均拥有可直接量化的硬指标(如损失值、GPU利用率)。
  • 数据改善对算法进步的贡献是模型改善的三倍多,且合成数据的生成正日益自动化。
  • 预计2027年底 OpenAI 可为1万个智能体提供每日一次 GPT3 规模训练的算力,足以支撑大规模并行实验。

博主头像 👤 同一博主

查看该博主全部 206 篇

🧭 类似博主

0 条评论

发表评论

请先 登录 后参与讨论。