🔐 登录 ✍️ 注册

博主头像

我为什么认为通用人工智能（AGI）并非近在咫尺

外来客 • 2026-08-25 19:04:08

声明：本文为对公开内容的摘要整理，未经本站独立核实，可能与原内容存在出入，不代表本站立场、观点或建议；观点与版权归原作者及原平台所有。如涉及版权问题，请联系我们，核实后立即删除。 [ 免责声明 ]

（原标题：Why I don’t think AGI is right around the corner）

🧠 核心观点：持续学习缺失是主要瓶颈

当前大语言模型（LLM）虽然具备强大的即时推理能力，但缺乏人类员工所具备的“持续学习”能力，这是阻碍其完全替代白领工作的根本原因。
即使AI技术进步停滞，现有模型在经济上的变革性也不如互联网，因为企业难以从模型中获得稳定、可迭代的人力替代方案。
作者认为，模型无法像人类那样通过反馈积累上下文、修正错误并优化工作流，导致其在长期任务中表现不佳。
尽管模型在单次会话中能通过上下文窗口表现出一定的“智能”，但这种理解是脆弱的，且无法跨会话保留。

📊 关键论据：技术局限与数据挑战

持续学习难题：人类通过试错和反馈积累隐性知识（如编辑对受众喜好的理解），而LLM只能依赖系统提示或强化学习（RL），后者缺乏自适应性和通用性。
计算机使用（Computer Use）障碍：
长时程任务困难：处理如报税等需数小时甚至数天的任务时，模型需处理更长的推理链（rollouts），且涉及图像和视频处理，计算成本极高。
数据稀缺：缺乏大规模的多模态计算机操作预训练数据，不同于自然语言处理拥有海量互联网文本数据。
算法落地周期长：以DeepSeek R1为例，从GPT-4发布到O1发布耗时两年，说明看似简单的算法创新在实际工程化中耗时极长，计算机使用领域的难度更高。
上下文压缩的脆弱性：将丰富的隐性经验压缩为文本摘要（如Cloud Code的做法）在非工程领域（如创意写作）容易丢失关键细节，导致模型“遗忘”之前达成的优化。

📅 时间线预测：50%概率节点

2028年：AI能够端到端完成小型企业的报税工作（包括追踪发票、邮件沟通、填写表格并提交IRS）。作者认为这相当于计算机使用领域的“GPT-4时刻”，目前仍处于“GPT-2时代”。
2032年：AI能够像人类员工一样，在六个月内通过工作积累对特定偏好和受众的深度理解，实现无缝的“在职学习”。
长期展望：
若持续学习问题在2030年前解决，将引发广泛部署的智能爆炸，因为AI可以跨所有副本聚合学习经验，迅速成为超级智能。
若未解决，2030年代甚至2040年代可能是一个相对正常的过渡期，因为算力增长（4倍/年）无法持续，算法进步的低垂果实也将被摘完。

⚖️ 共识与分歧：与Anthropic研究员的对比

分歧点：
Sholto Douglas & Trenton Bricken（Anthropic）：认为即使AI进步停滞，现有模型也足以在5年内自动化大部分白领工作，因为数据收集容易且模型能力足够。
作者：认为若AI进步停滞，少于25%的白领工作会被取代。虽然模型能完成子任务，但缺乏持续学习能力使其无法作为真正的“员工”运作。
共识点：
双方均承认当前模型在特定领域（如代码生成、推理）表现惊人，具备“婴儿级通用智能”的特征。
双方都关注AI在计算机使用（如自动化办公流程）方面的潜力，但对实现可靠性的时间点和难度评估不同。

💡 结论：对未来的审慎乐观

作者对近期（未来几年）的变革性AI持谨慎态度，认为持续学习是主要瓶颈。
对长期（未来十年）持强烈乐观态度，认为一旦突破持续学习限制，AI的价值将出现巨大断层。
建议为2028年可能出现的对齐风险做准备，因为该时间点被视为一个合理的ASI（人工超级智能）出现概率节点。
强调AI进步的非线性特征：要么在本十年内爆发，要么因算力/算法瓶颈而放缓，不存在中间状态。

👤 同一博主

查看该博主全部 57 篇

🧭 类似博主

0 条评论

发表评论

请先登录后参与讨论。