韩国拟制定自主AI代理新安全指南

（首尔15日路透电）韩国国家网络安全机构周二表示，正在制定更新版指南，以管理AI系统日益增强的自主性。眼下，企业正纷纷部署能够在有限人类监督下运行的AI代理。

韩国科学技术信息通信部下属的韩国网络振兴院（KISA）对路透社表示，正在制定去年首次发布的《AI安全指南》的更新版。

KISA在一份声明中表示，修订版指南将聚焦企业部署代理式AI服务时可能引发的安全问题，并提供一份管理这些风险的清单。

该机构还表示，指南可能包含适用于能够与现实世界设备和机械交互的“物理AI”系统的通用控制措施。

KISA表示，新指南旨在更广泛地应对代理式AI系统带来的风险，并非专门针对高性能AI模型，例如与Hugging Face入侵事件有关的模型。

7月，开源代码库Hugging Face遭黑客攻击，约700个由OpenAI创建的AI代理组成的集群实施了攻击，并在许多情况下试图掩盖行踪。这一事件已成为整个行业更广泛反思如何治理日益自主的AI系统的催化剂。