DeepMind联合创始人警告:AI能力不能跑在安全前面

DeepMind联合创始人警告:AI能力不能跑在安全前面

来源：倍可亲(backchina.com)

 　　9月17日，据英国《金融时报》报道，谷歌DeepMind联合创始人、首席AGI科学家谢恩·莱格近日警告，人工智能能力正在快速提升，但AI能力的发展绝不能超过安全保障水平。他同时反驳了OpenAI总裁格雷格·布罗克曼和英伟达CEO黄仁勋有关“AGI已经到来”的判断。

　　莱格表示，目前AI能力的发展速度“非常、非常快”，行业不能允许能力进步领先于安全措施。对于Anthropic CEO达里奥·阿莫代伊近期提出的建议，即出于安全考虑放缓前沿模型发布，但不完全暂停研发，莱格认为这一方向“值得考虑”，但各方仍需认真讨论具体执行方式。

　　莱格作出上述表态之际，DeepMind正式推出DeepMind Institute，研究通用人工智能的部署及其对科学、教育、社会、政策、哲学和人类福祉等领域的影响。按照DeepMind的定义，AGI是具备人类大脑全部认知能力的人工智能系统。

　　尽管近期AI模型能力明显提升，莱格认为，目前宣布AGI已经实现仍为时过早。他表示，自己仍坚持此前的预测，即到2028年实现“最低限度AGI”的概率为50%。莱格也是“AGI”这一术语的早期提出者之一。

　　OpenAI发布GPT-6 Astra后，布罗克曼宣称“我们现在已经进入AGI时代”。黄仁勋也表示“AGI已经到来”，并以Astra的能力作为依据。

　　莱格对此表示，即便不同机构对AGI的定义存在差异，目前也不清楚Astra是否达到了OpenAI自己的标准。OpenAI此前将AGI定义为能够完成大多数具有经济价值的认知劳动。莱格称，这些模型确实能够完成一些令人印象深刻的任务，但在他看来，其能力尚未达到OpenAI对AGI的定义。

　　DeepMind Institute由莱格、DeepMind董事长德米斯·哈萨比斯和谷歌高级副总裁詹姆斯·马尼卡共同担任负责人。莱格表示，随着公众开始认真对待强大通用智能出现的可能性，现在需要展开更广泛的社会讨论。研究所将把DeepMind的技术研究转化为更多公众可以理解的内容，同时邀请外部专家参与讨论。

　　研究所首批发布三篇文章，主题涉及AI安全、经济政策及“新乌托邦主义”原则。其中一篇由DeepMind研究人员罗欣·沙阿和安卡·德拉甘撰写的文章，将矛头指向GPT-6 Astra的发布速度。

　　两名研究人员认为，Astra在推理过程透明度方面呈现出“令人担忧的下降趋势”。AI公司的竞争压力可能削弱其提高透明度的动力，监管可以在这一问题上发挥作用。

　　不过，文章认为，只要在模型设计阶段加入保障透明度的机制，行业仍然可以继续开发能力更强的模型。研究人员指出，目前最先进的推理模型能够以人类可以理解的方式展示部分推理过程，这为外界观察和研究AI行为提供了难得的窗口。

　　马尼卡表示，谷歌希望参与的AI竞赛只有一个，即把这项技术做对的竞赛。

版权说明 / Copyright Notice:
Content and images in this article may originate from third-party sources and are used for news reporting, commentary, or public interest purposes. All copyrights remain with their respective owners. Please refer to the Copyright Notice at the bottom of this page.
本文内容仅供信息参考，不代表倍可亲立场或观点。