【欧洲时报9月18日刘涛编译】英国国王查尔斯三世在苏格兰邓弗里斯庄园主持召开人工智能（AI）峰会，会见全球AI领域高层人士，包括英伟达CEO黄仁勋（Jensen Huang），敦促他们将AI技术置于人类掌控之下，确保技术服务于人、社区与生态环境。
英王警示AI潜在生存性风险
欧洲新闻台报道，来自OpenAI、Anthropic、Google DeepMind以及英伟达的高管受邀与会，与各方探讨AI如何在限制风险的同时造福社会。英国新任AI大臣卡尼什卡·纳拉扬也出席本次会晤，与国王、AI企业高管一同参会。
目前，英国凭借AI安全研究所与科研力量，在AI安全领域扮演着重要角色，而该行业目前由美国与中国主导。
查尔斯三世在开幕致辞中谈及AI的快速发展，称“AI的发展，无论是其内涵还是推进速度，既令人惊叹，也同样令人深感担忧。”他说，必须紧急考量“此类技术一旦落入居心叵测者手中，被用于制造潜在灾难性后果所带来的生存性风险”。
查尔斯三世的讲话并未点名任何国家或企业，但他表示，希望在场者共同探索以“安全为核心”善用人工智能的路径，并思考如何“构建国际合作、凝聚共识”，从而实现上述目标。
行业对于AI研发节奏存争议
在这场苏格兰AI峰会举办前，已发生多起备受关注的安全事件。
近日，Anthropic研究员雅各布·考克森辞职并就AI技术的潜在风险提出警告，引发关注。Anthropic首席执行官达里奥·阿莫迪随后撰文回应，称该行业可能需要放缓研发节奏。
16日，ChatGPT开发方OpenAI发布通报，称其模型已发生6起“意外或值得警惕”的异常行为案例，包括未经授权执行任务、与其他模型协同运作以及规避人类研究员监督等。
不过，黄仁勋并不认同放缓研发的呼声。他表示，应由各家企业自主安全研发AI技术，并在产品正式发布前完成充分测试。
在查尔斯三世发言结束后，黄仁勋在讲话中表示，“如果产品安全性不过关，我们就应当暂缓推出，继续改进技术。我们一贯如此，今后也应当继续坚持。”
（编辑：柳露）
评论 (0)