01
Anthropic研究员雅各布・考克森(Jacob Coxon)本周辞职，并称自己的前东家及其竞争对手OpenAI正在竞相开发“可能在本十年末杀死我们所有人”的技术。
有此想法的并非只有考克森一人。就在他表态几分钟后，Anthropic的一名现任员工也证实了这一点。“我们真的深信AI可能毁灭全人类！”在Anthropic牵头负责未来人工智能系统的引导与控制研究的埃文・哈宾格(Evan Hubinger)写道，并估计人类在未来十年内走向灭绝的概率超过10%。
Anthropic首席执行官达里奥・阿莫迪，摄于2024年。图片来源：JEFF CHIU/AP
面对这种言论，许多人现在不禁要问：这怎么可能发生？既然明知AI构成了切实且日益严重的威胁，为何还要执意去研发它？
关于这场AI末日论辩，你需要了解以下内容：
末日论者究竟在担心什么？
所谓的末日论者通常并不担心《终结者》(Terminator)系列电影中的情节会成为现实，也就是机器人主动出击以灭绝人类。他们的担忧主要集中在两个方面：AI失控与人类滥用。
在失控场景中，具备自我复制与改进能力的高智能AI智能体会开始追求自身目标，并在此过程中毁灭人类。而在滥用场景中，心怀不轨之人会利用强大的AI作恶，例如制造出足以消灭全人类的新型病毒。
0
评论 (0)