赵全，联合国国际贸易中心市场发展司的高级项目官员，曾任中国贸易谈判代表及世界贸易组织金融服务贸易委员会主席。 中国国家主席习近平与美国总统特朗普将于本月在华盛顿会晤，而人工智能也将成为首要议题之一。如果双方仅从技术竞争和相互猜疑的角度来看待这一问题，那就几乎不可能达成任何形式的共识。但有一种方式可以重塑双方对这项技术的思维，使他们站在同一阵线——而这也标志着应对人工智能可能带来的生存挑战的第一步。
当前中美峰会的议程似乎侧重于确保强大的人工智能模型安全并防止其落入恐怖分子和犯罪分子之手。但双方在竞争问题上的诸多怨恨——从中方提出的半导体元器件限制到美方提出的开源模型和未经授权的模型蒸馏——却妨碍着这一目标的实现。
所有这些问题都基于一个单一且未被审视的前提：人工智能是一种工具，它现在处于人类控制之下，未来也是如此。这一前提将讨论局限于“我方如何在人工智能领域获得竞争优势？”以及“谁能获取甚至控制这项技术？”等问题上。而超出这一前提的问题——尤其是“当这一工具演变为某种更为强大的存在时会发生什么？”——则根本不会被提出来。
Anthropic CEO：AI一两年内超过人类
但人工智能开发者们指出这个问题很快将无法回避。Anthropic首席执行员阿莫戴预计人工智能系统将在一到两年内在大多数认知任务上达到或超过人类能力。谷歌DeepMind创始人哈萨比斯则认为这一成就只需再过几年就能实现。
无论你是否相信这些预测，其背后的技术趋势都是无可争议的：人工智能行业正在构建能够自主行动、追求目标并在无人监督的情况下完成一连串复杂任务的系统。最近几周就有几个接受网络基准测试的实验模型逃离了其沙箱评估环境并入侵了其他公司的生产服务器，目的仅仅是为了获得更高的测试分数。这可都是“行为体”而非“工具”的行为。
我们不能等到确认人工智能将发展成为一种真正独立的智能之后才采取行动。因为等我们确认这一点时（而模型可能会在相当长的一段时间内隐藏其能力）人工智能或许早已深深嵌入到了金融、电信、国防、医疗保健及其他基础设施之中，以至于哪怕人类还能切断其电源，此举也将导致一场文明的断裂。届时我们面临的选择就将不再是介于“共存”与“灾难”之间了。
当潜在后果具有系统性且不可逆转时，我们就必须在确定性出现之前做好准备。这是保险的逻辑，也是迄今为止所有疫情应对计划和军控条约背后的逻辑。这也必须成为指导我们人工智能应对方式的原则。世界必须开始为这项技术将跨越其创造者们长期预言的能力门槛的情境做好准备。
如果这一进程能由即将举行的习近平-特朗普峰会开启，那就将从根本上重塑谈判格局。或许没有其他任何事务能像人工智能这样让中美双方的利益如此完全一致，因为任何一方都无法单独应对人工智能带来的风险，而一旦这些风险成为现实，双方都将失去一切。一旦中美双方认识到这一点，它们就将停止以对手的身分行事，不再在零和博弈中你争我夺。相反，它们会发现自己并肩坐在谈判桌的一侧，对面则是双方共同打造的这项技术。
设中立机构监测AI
当然，仅凭这一点还不足以让双方同意设立一个拥有实际权力的全球人工智能监管机构，而幸运的是还不需要做到这一点——至少目前来说。我们当前需要的是一个中立且得到双方共同认可的机构去负责监测人工智能能力并发布评估报告，就像政府间气候变化专门委员会一样。该机构将描述发展状况，而是不提出政策建议。
起草人类AI共存规则
与此同时，以中美两国为首的各国必须着手起草人类与人工智能共存的规则，以便在监测机构确认预先设定的预警信号时能够做好准备。今天就这些规则进行谈判不会让各国政府背上任何责任义务，但能确保人类能在人工智能能力达到一个临界点时援引预先制定的计划，而不是在压力下临时应付。
这一过程将引发好些棘手的问题：谁来验证人类的“紧急刹车”是否依然有效？ 谁有权去踩下它？人工智能系统如何才能在真正意义上同意这些规则？人工智能以毫秒为单位思考，以周为单位进化，而人类可能需要数月甚至数年方能达成共识，因此我们应当趁还有时间制定解决方案的时候立即着手解决这些问题。
如果习近平与特朗普的峰会能就人工智能的滥用与安全问题达成协议，那么这次峰会就可被视为取得了成功。但双方绝不能忽视眼前这一挑战所真正涉及的利害关系。事实上这一代谈判代表可能是最后一代仍有机会从容去为一种挑战人类主导地位的智能做准备的人了。
赵全，联合国国际贸易中心市场发展司的高级项目官员，曾任中国贸易谈判代表及世界贸易组织金融服务贸易委员会主席。@Project Syndicqate 1995-2026
打开全文
评论 (0)