博主头像

AI 2040计划：为超级智能争取时间​ | 超级智能 | AI安全 | AI对齐 | AI控制 |

外来客 • 2026-09-28 17:50:24

分享
𝕏 f ◉
声明：本文为对公开内容的摘要整理， 未经本站独立核实，可能与原内容存在出入，不代表本站立场、观点或建议； 观点与版权归原作者及原平台所有。 如涉及版权问题，请联系我们，核实后立即删除。 [ 免责声明 ]

🎯 核心观点

  • AI 2040计划A旨在将超级智能的到来推迟至2040年，利用这十余年为人类争取安全准备时间。
  • 该方案是预测与建议的混合体，主张通过政府干预管理AI发展局面，而非单纯预测未来走向。
  • 透明性被视为缓解权力集中问题的关键，建议公开核心训练配方以推动AI商品化并自然放缓研发速度。

📊 关键事实与论据

  • Daniel Kokotajlo和Thomas Larsen创立AI Futures Project，其报告《AI 2027》中已验证预测的整体进度约为75%。
  • 计划A提出五大风险：失控、权力集中、地缘冲突、就业冲击及生物武器滥用。
  • 执行层面建议中美合作收集99%的大型数据中心算力，并派驻核查人员监控训练日志以确保透明。
  • H100 GPU的浮点运算能力（约$10^{15}$次方）处于人脑计算量估算区间的中位水平。
  • 控制手段存在“定时炸弹”效应，当AI足够聪明时可绕过机制，最终必须依赖对齐科学突破。

💡 结论与共识

  • AI在模糊任务上的表现正从GPT-3向GPT-4显著提升，自动化AI科学家在可预见未来可能实现。
  • 经济本质是自我复制系统，未来由AI和机器人运行的系统将拥有远快于当前20年的倍增时间。
  • 华盛顿政策圈缺乏技术专家且激励错位，导致公共讨论质量低下，未能消化通用人工智能假说已趋正确的现实。
  • 双方共识在于若出现云端人类或自动化自身研究过程，则AI不再属于“正常技术”，需提前布局应对临界点。

博主头像 👤 同一博主

查看该博主全部 120 篇

🧭 类似博主

0 条评论

发表评论

请先 登录 后参与讨论。