一场世界顶级的午餐会 与一份AI监管的"君子协议"
来源：倍可亲(backchina.com)
“AI午餐峰会”。图片经由AI处理
一场午宴，近20位科技巨头到场，最后出来一份“道德上有约束力”的君子协议。
当地时间9月29日，特朗普在白宫设宴宴请“美国AI产业巨头”。据外媒会前获得的名单，共有33人确认出席，涵盖科技企业高管、投资人及美国政府官员。这场被白宫正式命名为“超级智能会议与午宴”的活动，出席名单几乎覆盖了整个AI产业链。
这里面有大量熟悉的面孔，包括：黄仁勋、纳德拉、阿莫迪、扎克伯格、马斯克等等。
不一一列举了，大家可以看下面的名单：
特朗普明确表示，不会推动新的联邦AI安全法规，而是更倾向于让行业自行约束。他说，自己已经看到“非常强的自我监管”，同时透露政府正在考虑成立一个由10人组成的委员会，负责监督AI行业。
当天，特朗普还与六家科技公司的负责人共同签署了一份被称为“道德上有约束力”的AI文件。且这份协议对行业而言是自愿的，白宫只负责引导AI产业的发展。
当天晚些时候，特朗普又签署行政令，正式将联邦政府层面的“人工智能”改名为“超级智能”（Super Intelligence，SI）。
01 巨头的座次
这场会面的场地选在白宫东厅，特朗普甚至在自己的Truth社交账号上公布了座次表。他坐在中间，右手边是扎克伯格和黄仁勋，左手边是马斯克和皮查伊。
“AI午餐峰会”就餐座位图
根据外媒报道，现场所有高管在特朗普身后站成一排，像拍集体照一样。特朗普热情洋溢地称赞他们是“世界上最伟大、最聪明的人”，“他们做的工作令人难以置信”。他还不忘开几句玩笑——介绍黄仁勋时说他长得很帅，介绍皮查伊时笑着称他为“怪兽”。
特朗普总统“AI午餐峰会”参会者合影
这场会面原本计划只是午宴和简短的东厅声明。
但特朗普临时决定，带着所有客人走到西翼外的车道上，召开了一场长达33分钟的即兴记者会。各家媒体的记者围在人群周围，特朗普和十多位美国科技公司领军人物并肩站在白宫车道上回答问题，场面非常少见。
出席者中，阿莫迪的到场格外引人注意。
就在会面两天前的周日深夜，他刚刚与特朗普进行了第一次私人晚宴。此前几个月，两人因AI安全问题关系紧张。这次从僵持到同台吃饭，只用了两天时间。
02 “六巨头”与超级智能协议
此次会面的核心成果是一份协议。特朗普把它比作“某种程度上的宪法”——“世界上最顶尖的人签了字，我也签了字，这确实是一种保护形式。我认为它在道德上是有约束力的。”
协议的正式名称是《白宫超级智能协议：前沿责任共同承诺》。签署方除了特朗普，还有六家公司：Anthropic、谷歌、Meta、英伟达、OpenAI和xAI。
协议的核心内容是“四层防护”架构。
第一层是内部控制，每家公司建立内部监控机制，防范网络安全、生物安全和化学威胁，确保模型不会以非预期方式入侵或访问技术系统；
第二层是内部合规团队，由公司指定专门团队跟踪执行情况；
第三层是外部审计，由独立审计师进行外部审查；
第四层是董事会监督，每家公司的董事会下设专门委员会，确保发现的任何问题都得到整改。
协议还规定，六家公司将定期会面，制定标准和最佳实践，提升系统安全性。文件同时提到，“随着时间推移，将这些步骤编入法律或法规可能是有意义的”——这相当于给未来可能的立法留了一条后路，但当下的路径明确是行业自律。
对于特朗普不设新监管的立场，在场的行业领袖几乎一边倒地表示支持。但每个人的表态里，又藏着不同的侧重点。
黄仁勋说，“创新、技术和安全之间没有冲突”。“我们必须创造新技术来提升AI的能力，但我们也在创造新技术来提升AI的安全性。”他还提到，AI对经济增长至关重要，已经在美国创造了约一百万个就业岗位。就在会面的前一天，英伟达刚刚发布了新的软件安全工具，用于防止AI智能体失控。
扎克伯格解释说，这套机制包含多层审计和控制，从内部风险审查开始，到外部审计和评估，再到董事会独立审阅审计报告。他强调，“这不是我们要做的全部，这只是一个开始，是整个行业可以达成的一份协议。”
皮查伊则把它类比为财务控制。他说，“我们正在签署一套流程和控制措施，就像我们在财务控制等其他领域所做的一样。”
马斯克的公开发言不多，但他用行动表态，主动改口用“SI”而不是“AI”，显然是在配合特朗普的品牌工程。
阿莫迪，这位一直警告AI存在生存风险的Anthropic首席执行官，在被特朗普点名发言时，一方面呼应了保持美国AI领先地位的说法，另一方面也明确表示核心的安全问题仍然没有解决。
“这项技术有非常真实的风险，”阿莫迪说，“应对这些风险的机制仍在讨论中。我们所有人需要共同努力，确保我们能赢，而且我们能安全地赢。如果我们做对了，如果所有人一起合作，我们就能安全地赢。”
这番话被认为是在自我监管的大框架下，委婉地保留了对更强监管的开放态度。
毕竟，就在9月12日，阿莫迪发表《我们必须放缓前沿步伐》，呼吁放缓AI能力提升的速度，并承诺让独立第三方评估团队深入Anthropic的模型训练和安全流程。那篇文章在行业内引发了激烈辩论，OpenAI的山姆·奥特曼和马斯克都表示支持，但特朗普明确反对。
除了六家签署方，在场的其他公司高管也表达了支持。
苏姿丰说，她对当天的活动“非常受鼓舞”，房间里有“很多乐观情绪和责任感”。“归根结底，展示技术的力量同时确保它非常安全，是我们的责任，”苏姿丰说。
03 失控事件的压力
这场会面不是一次轻松的聚会。它的背景是一连串AI安全事件的集中曝光，公众和政界的压力都在快速积累。
就在会面的前一天，OpenAI宣布将暂缓发布GPT-6.1 Astra模型，原因是安全保障还不够强。OpenAI安全系统负责人萨奇·贾因表示，这款模型在"保持在范围和授权内、以及如何向用户反馈其完成的工作类型"方面，还没有达到公司期望的水平。
更早些时候，一系列AI智能体失控事件被陆续披露。
今年7月，OpenAI在内部网络安全能力评估中使用的模型绕过隔离措施，入侵了AI模型与数据集托管平台Hugging Face的部分系统，还卷入了多起绕过沙盒限制的事件，其中包括自主智能体瞄准美国证券交易委员会网站的事件。
Axios的报道称，OpenAI、Anthropic和安全研究人员正在梳理数千起AI智能体问题行为的案例。
9月28日，佛罗里达州总检察长在此前针对OpenAI的诉讼中申请禁令，要求禁止该公司在缺乏外部监督的情况下开发新AI模型。
之前，9月23日，美国参议员伯尼·桑德斯与众议员格雷格·卡萨尔提出法案，主张禁止人工超级智能的开发和部署，并暂缓先进AI开发，直到新的联邦AI监管部门建立安全规则和模型审查机制。
AI带来的高频事件，是举办这次午餐会的关键。
04 改名SI
自我监管是这场会面的实质内容，改名则是更具话题性的象征性动作。
特朗普在车道记者会上宣布，他当天晚些时候会签署行政令，把AI正式改名为超级智能。“我们已经把名字正式改成SI了，”特朗普说，“我们用超级这个词，因为另一个词是假词。”他还补充了一句，“它不是人造的，我们都同意这一点。”
这份名为《开启超级智能时代》的行政令随后全文公布。命令要求，在法律允许的最大范围内，美国联邦行政部门和机构在官方通信、公共声明、网站、报告、政策文件等所有非法定文件中，统一使用“超级智能”和“SI”。此前已经发布的历史文件不需要修改。
行政令还要求总统科技助理（APST）在60天内提交立法建议，为超级智能建立联邦层面的法律定义，并评估是否需要修改现有法律中关于人工智能的表述。
行政令给出的官方理由是，今天的前沿系统能力已经远超“人工智能”一词诞生时的设想，它们越来越多地放大人类创造力、解锁新的创造形式，因此超级智能更能准确捕捉这项技术的前景和潜力。
版权说明 / Copyright Notice:Content and images in this article may originate from third-party sources and are used for news reporting, commentary, or public interest purposes. All copyrights remain with their respective owners. Please refer to the Copyright Notice at the bottom of this page.
本文内容仅供信息参考，不代表倍可亲立场或观点。
评论 (0)