亚当·马布尔斯通（Adam Marblestone）：AI 缺失了关于大脑的根本要素

（原标题：Adam Marblestone – AI is missing something fundamental about the brain）

🧠 核心论点：大脑与LLM的本质差异

• 大脑与大型语言模型（LLM）的根本区别可能不在于数据规模或基础架构，而在于损失函数（Loss Functions）的复杂性以及学习课程（Curriculum）的设计。
• 进化在大脑中编码了复杂的、分阶段的损失函数，形成了特定的学习路径，而机器学习通常依赖简单的数学损失函数（如交叉熵）。
• 大脑皮层具备“全向推理”（Omnidirectional Inference）能力，能够预测任意变量子集，而非仅局限于预测下一个Token。
• 大脑通过“转向子系统”（Steering Subsystem，如杏仁核、下丘脑）将学习到的世界模型与先天本能奖励连接，解决了进化无法预知具体情境如何触发本能反应的问题。
• 智能的核心被定义为贝叶斯推理，即通过采样潜在原因来解释观察数据，但全量计算在计算上是不可行的。
• 神经网络的前向传播被视为对这一采样过程的“摊销”（amortization），直接输出最佳原因，而非实时进行蒙特卡洛采样。
• 数字心智与生物心智存在权衡差异：数字系统可复制，因此更倾向于将推理过程摊销进模型权重；生物系统受限于进化，需保留部分实时推理能力。
• 随着模型能力提升，原本需要推理时计算（test-time compute）的任务正逐渐被蒸馏回基础模型，实现单次通过即可解决。

🏗️ 架构对比：全向推理与条件概率

• LLM基于上下文窗口计算条件概率（Next Token Prediction），而大脑皮层六层结构可能支持联合分布的概率采样，允许在任意变量子集间进行预测。
• 基底神经节执行简单的模型无关强化学习，皮层构建包含奖励预测的世界模型。
• 多巴胺传递奖励预测误差信号，支持价值函数学习。
• 皮层模型可反向推断计划，将高奖励作为条件采样可行路径。
• 进化、基底神经节和文化传承均呈现模型无关特征，皮层则偏向模型基础。
• 大脑的世界模型表征并非清晰的符号语言，更可能是一种混乱的架构、损失函数与学习规则的涌现结果。
• 海马体在记忆巩固与皮层训练中的具体机制仍是未解之谜，海马体存储序列并回放以训练皮层，涉及多时间尺度的可塑性。
• 大脑中存在多种注意力机制，丘脑可能参与皮层间的信息门控与匹配，但其是否类似 Transformer 的注意力机制尚不明确。

🧬 子系统分工：学习模块与转向模块

• 人类基因组仅约 3GB，其中编码大脑的部分极少，这解释了为何进化未将大量信息直接写入基因组。
• 大脑分为“学习子系统”（皮层）和“转向子系统”（皮层下区域/奖励函数生成区）。
• 学习子系统架构相对通用，类似可复制的 Transformer 层，主要依赖突触可塑性进行终身学习。
• 转向子系统包含大量特异的细胞类型，用于硬编码特定的奖励函数（如蜘蛛反射、社交本能），这些功能通过基因特异性接线实现，而非学习获得。
• 转向子系统通过定义紧凑的奖励函数（如 Python 代码般的逻辑），提高了学习子系统的样本效率。
• 灵长类动物大脑的快速扩张源于社会学习能力的提升，使得从环境（如长者教导）中获取知识的效率高于个体试错。
• 视觉和听觉皮层在人类中不成比例地扩大，可能因为社交奖励函数更依赖视觉线索（如眼神接触）和听觉信号（如语言）来引导学习。
• 即使果蝇大脑也具备类似“思想评估器”的关联学习中心，通过多巴胺信号将感官信息与奖励或惩罚关联，表明这种机制在进化上具有古老性。
• 引用Steve Burns的理论，认为皮层或杏仁核通过预测“转向子系统”（包含先天启发式反应，如面部识别、威胁检测）的神经元活动，来识别哪些皮层神经元与社交地位、友谊等高级概念相关。
• 转向子系统拥有原始感官系统（如上丘），能检测快速移动物体等威胁；皮层通过预测这些先天反应，将抽象概念（如“蜘蛛”一词）与本能恐惧反应关联，实现从具体感知到抽象概念的泛化。

⚡ 生物硬件：物理约束与计算特性

• 大脑运行于 200 赫兹、20 瓦特功耗，受限于能量效率与低电压。
• 生物硬件具备非结构化稀疏性，实现内存与计算共置。
• 神经元天然具有随机性，适合概率采样，无需额外随机数生成器。
• 主要劣势在于无法像数字矩阵那样直接复制、随机访问或编辑权重。
• 细胞核参与权重归一化及记忆巩固，执行复杂的分子机器操作。
• 小脑细胞体直接存储时间常数，用于预测延迟反射。
• 细胞活动主要服务于突触连接的物理实现，而非引入额外算法逻辑。
• 数字计算机可轻松调整参数，生物系统需通过复杂细胞机制实现同等功能。
• 大脑结构基础信息（如细胞类型分布、多巴胺神经元数量、前额叶与听觉/视觉皮层的连接差异）尚属未知，通过定制实验获取效率极低，获取完整连接组（Connectome）是更高效的途径。
• 连接组定义并非仅指神经元连接，E11 Bio等机构正推动从电子显微镜转向光学显微镜范式，以获取“分子注释连接组”，即包含突触分子类型及细胞类型信息，从而关联结构与功能。

💰 资源路径：连接组成本与资金策略

• 首个小鼠连接组成本预计为数十亿美元，目标是通过技术突破降至低千万美元级别；人脑体积约为小鼠1000倍，即使技术优化，单个人脑映射仍需数十亿美元。
• 参考人类基因组计划经验，通过竞争机制和技术范式转换（如DNA测序并行化），成本可在10年内降低百万倍；连接组领域需类似的技术驱动成本下降。
• 资金来源目前主要依赖慈善（如E11 Bio）和政府（NSF），未来可能通过“Moonshot”初创公司或AI实验室投资实现，前提是证明连接组研究能反向解释AI机制或提升安全性。
• “Gap Map”揭示了科学进步的关键瓶颈并非智力，而是缺乏类似“微型哈勃望远镜”的基础设施；解决这些缺口所需的资金规模远低于预期，仅需数十亿美元级别。
• 该地图汇总了数百项基础能力缺口，每项相当于一个 A 轮融资规模的深科技项目；这些缺口存在于包括数学、天文学在内的多个领域，往往因官僚流程或规模门槛而被忽视。

📐 形式化验证：Lean与数学证明

• Lean语言使数学证明可机械验证，为强化学习（RLVR）提供了完美信号，AlphaProof等公司正基于此进行自动化证明搜索。
• 自动化主要解决机械性验证和引理检查，但新猜想提出及概念组织仍依赖人类创造力；若实现AGI，则可能通过优化“解释复杂度”或“证明网络压缩率”等损失函数来自动化创造性部分。
• 形式化验证软件可确保代码在内存安全、防黑客攻击等方面具备数学证明级别的可靠性，这是LLM生成代码结合Lean验证的重要应用方向，目前受限于规格说明（Specification）问题。
• 形式化验证（Formal Methods）正从理论边缘走向实用，LLM 开始能生成对数学家有用的可验证证明，有望在软件与硬件验证中“扭转潮流”。
• 纯数学的价值不仅在于证明定理，更在于发现跨领域的构造映射与辩证重构；AI 辅助可能加速这一过程，但需警惕因跳过机械推导而丧失深层直觉。
• 目前缺乏从工程实践提取形式化规范的工具，用户界面与 AI 结合可辅助定义安全规范；DARPA 曾资助开发可证明安全的四旋翼飞行器项目。
• Terry Tao 提出批量证明定理并研究其聚合属性，而非逐个攻克；Lean 等可验证编程语言成为数学研究的新基础设施，类似 AI 研究者对 GPU 的需求。

🚀 未来展望：对齐、智能与科学突破

• 当前AI缺乏对大脑“全向推理”和复杂损失函数机制的理解，这可能是人类智能超越LLM的关键。
• 未来的AI研究需借鉴神经科学，探索更复杂的奖励函数设计、多模态表征的潜在抽象层级，以及测试时计算（Test-time Compute）与训练计算的权衡策略。
• 解决“进化如何编码高层欲望”这一难题，需要整合神经科学、AI安全及计算模型，通过模拟大脑的预测-反馈机制来构建更鲁棒的智能系统。
• 超级智能可能仅具备好奇心等最小驱动，缺乏人类社交伦理本能。
• 对齐问题核心在于区分能力所需的最小驱动与人类价值观。
• 建议采用双重研究路径：自底向上模拟生物物理系统，自顶向下逆向工程算法。
• 理解大脑应描述其架构、学习规则及初始化，而非寻找具体神经元电路。
• 连接组提供约束条件，辅助确定能量模型、反向传播等算法类型。
• 当前AI（如LLM）与大脑机制存在本质差异，Adam Marblestone认为其时间线可能在10年左右，而非3年；若AlphaZero等模型能直接实现GPT-5级能力，则范式验证将更清晰。
• 提及Andy Jones 2021年关于AlphaZero的研究，显示在固定计算预算下，将算力分配给多个智能体进行协同进化训练，可能比集中训练单一智能体更高效，尽管该实验基于有限算力且存在实现误差风险。
• 未来可能出现“自动化聪明”（Automated Cleverness）与可验证性结合的模式，使 LLM 输出可被证明，从而支持大规模智能体协作。
• 科学突破需要规模化基础设施支持，但这不否定小规模探索与偶然发现的价值；当前许多领域（如数学）急需类似 GPU 或 Lean 的工具链来解锁研究潜力。
• 大脑机制的完全理解可能涉及新物理或更复杂的架构，目前无人能给出确切答案，需通过无偏数据收集与跨学科合成（如非神经科学背景者整合文献）来推进认知。