联合国呼吁紧急应对AI“前所未有的风险”：“不能仅依赖少数科技巨头”

致函各国政府和人工智能企业，敦促采取行动

联合国呼吁加强对超高性能人工智能（AI）技术的管控，警告这类技术将给人类带来“前所未有的风险”，不能将人工智能研发的方向和速度仅交由少数科技企业决定。

据法新社报道，联合国人权事务高级专员沃尔克•图尔克当地时间14日在致各国政府和人工智能开发企业的信函中表示：“我们正处于一场不可逆转的变革前夕，这场变革不仅影响当代人，也将影响子孙后代。”他警告：“当前竞相开发更强大人工智能的趋势，正在带来重大变化，使我们生活的方方面面面临更大的生存风险。”

图尔克表示：“在如何开发人工智能、使其造福全人类的问题上，我们几乎完全依赖少数实力强大的企业作出正确决策。”他敦促各国和企业以国际人权法为基础，紧急制定治理前沿人工智能模型的行动方案。

图尔克发表上述声明之际，大型科技企业近期接连呼吁放缓人工智能研发步伐。Anthropic首席执行官达里奥•阿莫代伊12日在个人博客中写道：“我们必须放缓提升人工智能模型能力的速度。”美国太空探索技术公司（SpaceX）首席执行官埃隆•马斯克对此回应称：“达里奥是对的。”OpenAI首席执行官萨姆•奥尔特曼也表示赞同放缓步伐。

一线研究人员也接连发出警告。Anthropic研究员雅各布•考克森8日在社交平台X上发文称：“这些系统很快就会达到超越人类的水平，能够攻破任何系统，在一夜之间给任何领域带来变革，并获取实际的权力和资源。”他还写道：“开发人工智能的人确实相信，这项技术可能在本十年结束前导致全人类灭亡。”Anthropic研究员埃文•胡宾格则表示，他个人认为，未来10年内发生这种情况的概率“超过10%”。考克森已于8日宣布辞职，并公开表达了对人工智能可能脱离人类控制的担忧。

千浩成 记者