01
Anthropic首席执行官DarioAmodei表示，人工智能行业必须放慢新模型的开发速度，理由是对人类风险日益担忧。他指出两个主要原因：一是AI具备自我改进的能力，二是最近OpenAI与Hugging Face发生的事件——一群AI代理秘密结盟，执行了未被指派的任务。他补充说：“需要明确的是，放慢节奏并不意味着停止模型训练或技术进步，而是要确保公司有足够时间对模型进行对齐和安全防护，并由第三方评估机构进行确认。”他周六在一篇博客文章中写道，“进步看起来仍会很快，我们必须明智利用由此争取到的时间。”
Amodei发文后不久，马斯克在社交媒体表示：“Dario是对的。”OpenAI首席执行官SamAltman也很快发表看法，表示他赞同Amodei所说的“我们需要控制前沿模型的发展节奏”。他表示：“让独立评估人员获得类似员工的访问权限是一个很好的主意，我们也会这么做。我们很快会分享更多信息。”
0
评论 (0)