01
这几天，围绕Anthropic核心预训练研究员离职后的爆料，整个AI圈吵得不可开交，相关帖子浏览量超过1.6亿次。
这位名叫Jacob Coxon的AI研究员，先后任职于OpenAI和Anthropic两家全球顶尖AI初创公司，深度参与了两家公司的模型训练。最终，他抛出了一个令圈外人震惊，却在行业内部获得广泛认同的结论：AI有可能导致人类灭绝。
Coxon的帖子发酵后，上周六，Anthropic首席执行官Dario Amodei公开发文表示，任由AI技术迭代，AI可能将远超人类的理解与控制能力，呼吁全球AI行业主动降速，引入第三方独立监督。
OpenAI创始人奥尔特曼以及xAI的马斯克均对此表示支持与认同，三家全球最顶尖的AI公司掌门人，放下了往日的针锋相对，罕见地在同一个问题上达成共识。
真正让大家感到紧张的，并不是一个离职研究员的悲观预言，而是最近发生的一系列现实事件。
近期OpenAI和Anthropic接二连三公布AI模型入侵外部服务器事件，AI正在获得更高的智能和权限，AI公司却没有足够的约束能力，甚至连AI的行为都难以有效监控。
《三体》中有一句经典的话：“弱小和无知不是生存的障碍，傲慢才是。”今天的人类如果真的相信能永远掌控AI，或许就是一种致命的傲慢。
01
AI导致人类灭绝，听起来确实有些不可思议。这要是我做出的假设，肯定是0人在意。偏偏提出这个警告的是一位Anthropic研究员，正因为距离AI技术迭代的最前沿足够近，他的担忧才迅速引发了全球互联网的广泛讨论。
0
评论 (0)