回应安全担忧 AI巨头推动设立自律监管机构

OpenAI首席执行官奥尔特曼周二说，他有信心AI行业能够安全推行这项技术。（彭博社）

（华盛顿综合电）在人们对人工智能（AI）潜在风险的担忧升高之际，全球最大的几家AI企业计划组建一个行业标准机构，以打造更安全的AI技术。

OpenAI星期二（9月15日）透露，公司正与Anthropic和谷歌合作推进这一构想。这一构想由谷歌旗下AI实验室DeepMind首席执行官哈萨比斯提出。

哈萨比斯7月撰文，建议成立一个类似美国金融业监管局的行业自律机构，负责在前沿AI系统向公众开放前对它们进行测试。

美国金融业监管局负责监管美国证券经纪商和投资公司。哈萨比斯说，AI行业标准机构将制定评估规程，并与联邦机构及美国国家实验室合作，在涉及国家安全的领域开展测试。

OpenAI首席执行官奥尔特曼周二承认，公众对于企业与国家间的AI竞赛可能会导致安全问题被忽视感到担忧。但他称：“我对我们的公司以及整个行业安全推行这项技术的能力非常有信心。”

延伸阅读

与此同时，也有科技业人士担心，AI巨头间的合作将把规模较小的竞争对手挤出市场。加拿大AI公司Cohere首席执行官戈麦斯就称，美国AI巨头试图以安全为幌子实行垄断。

上周，AI研究员科克森指责OpenAI与Anthropic在竞相开发AI的过程中“拿人类生命作赌注”。Anthropic首席执行官阿莫迪过后撰文，呼吁放慢研发前沿AI模型的步伐，奥尔特曼与xAI创办人马斯克对此表示支持。

Meta创始人扎克伯格则反对放缓AI发展。他认为，市场激励机制与法律责任是防范AI技术风险的最佳护栏。

他周二在社媒平台X上写道：“人们不会愿意使用那些与自身意图不符，且不听从指令的智能体。因此，实验室有强烈的内在动力，去提升AI模型与人类意图的一致性。”

英伟达公司首席执行官黄仁勋也淡化AI行业需要新安全法规的说法，称市场力量已足以推动企业安全地创新。

知情者透露，特朗普政府高官周二与Anthropic高管举行了线上会议，讨论AI的安全风险。美国总统特朗普此前称，有关AI风险的警告是“骗局”。

进步派参议员桑德斯与特朗普前顾问班农周二出席华盛顿一场活动时，则不约而同呼吁加强监管AI。美国左右两翼代表人物罕见地意见一致，反映出人们对AI安全风险的忧虑日益加深。

桑德斯说，他将提出永久禁止开发超级人工智能的立法草案，并把这种技术与核武器相提并论。他还呼吁美国与主要竞争对手中国谈判一项全面条约，内容包括暂停开发先进AI与超级智能。

班农也支持给超级人工智能的研发踩刹车，并指科技业高管不可信任，但提出的应对之策与桑德斯不同。

班农认为立法耗时太久，特朗普应行使行政权力设立相关监管机构。他也反对与中国谈判，主张美国应彻底切断与中国AI领域的联系。