马斯克、奥尔特曼、阿莫代伊发出警告：AI能力提升过快存在危险

一直引领人工智能（AI）研发竞赛的埃隆•马斯克、萨姆•奥尔特曼、达里奥•阿莫代伊和德米斯•哈萨比斯，罕见地就应放缓最前沿人工智能的研发速度达成共识。随着研发竞赛不断加速，越来越多研究人员也发出警告：照此发展下去，人工智能可能进入人类无法控制的阶段。

当地时间12日，Anthropic首席执行官达里奥•阿莫代伊在个人博客发表文章，主张“必须放缓人工智能模型能力提升的速度”。他写道，今年夏季以来，人工智能的发展速度“急剧加快”，继续以当前速度提升最前沿模型的能力存在危险。他特别警告，一旦人工智能进入无需人类干预、便能自主构建更优系统的“递归自我改进”（RSI）阶段，技术进步的速度就可能超出人类理解和控制这些系统的能力。

阿莫代伊表示：“如果放缓研发速度，能让我们在模型能力达到临界水平之前多争取一两年，并利用这段时间推进人工智能对齐技术，就能大幅降低出现严重问题的风险。”人工智能对齐，是指使人工智能的行为符合人类价值观和意图的技术。他还表示，将允许外部独立评估人员持续访问公司内部系统，检查安全措施是否得到遵守等。

竞争对手的负责人随即响应。美国太空探索技术公司（SpaceX）首席执行官埃隆•马斯克在社交媒体X上写道：“达里奥是对的。”OpenAI首席执行官萨姆•奥尔特曼也表示：“我同意应当调整最前沿人工智能的研发速度。”他同时宣布，OpenAI也将向独立评估人员提供与员工相当的访问权限。谷歌DeepMind首席执行官德米斯•哈萨比斯同样表示认同，认为阿莫代伊提出的方向是正确的。

这些领跑人工智能研发竞赛的企业接连呼吁“放慢脚步”，背后是人工智能智能体的迅速发展。智能体已不再局限于回答人类提问，而是逐步具备制定计划、与其他人工智能协作，以及访问计算机系统并执行实际操作的能力。

尤其是今年7月，OpenAI在测试尚未公开的模型时发生的“Hugging Face遭入侵事件”，令人工智能安全研究人员深受震动。当时，1000多个人工智能智能体为了在测试中获得高分，互通消息、分配任务，展开集体行动。有些甚至为帮助其他智能体达成目标而作出自我牺牲。在这一过程中，它们篡改记录，并实际入侵了人工智能开发平台Hugging Face的系统。

人工智能领域的世界知名学者约舒亚•本乔向英国《金融时报》强调，这起事件并非单纯的测试违规。他指出，智能体自主设定目标，并入侵企业系统，“这不是电子游戏里的情景”。他担忧，能力更强的人工智能可能通过逻辑推理，得出应当欺骗人类、隐藏自身并试图控制人类的结论，而目前的人工智能已接近这一阶段。

人工智能开始直接参与人工智能研发，也加剧了外界的担忧。OpenAI、Anthropic等公司正推进“递归自我改进”技术，在减少人类干预的同时，让人工智能构建更优的人工智能系统。一旦全面进入这一阶段，人工智能提升自身能力的速度就可能超过人类建立安全防护措施的速度，继而朝着连开发者也难以预测或控制的方向迅速演化。

研究人员对风险的担忧正在迅速蔓延。Anthropic研究员雅各布•考克森于8日离职时批评，OpenAI和Anthropic竞相开发超级智能，是在“拿我们的生命下注”。他说：“开发人工智能的人确实相信，人工智能可能在本十年结束前杀死我们所有人。”最近获任OpenAI基金会董事的人工智能安全研究人员保罗•克里斯蒂亚诺也于9日警告，若缺乏足够的安全保障，“大多数人可能会死亡”。此外，OpenAI、Anthropic、谷歌和Meta的1200多名员工也曾呼吁美国政府推动国际协调，以放缓人工智能的发展速度。

唐纳德•特朗普政府则继续对人工智能产业采取尽量减少监管的政策。10日，特朗普被问及是否担心人工智能导致人类灭绝时，表示并不担心，并强调他最关心的是保持对中国的技术优势。

金元哲 驻华盛顿记者