在发生一系列安全事件后，Anthropic和OpenAI这两家研发世界上最强大AI系统的公司承诺，将采取措施控制对尖端AI模型的研发速度，以更好地了解该技术带来的风险。（法新社照片） （纽约14日彭博电）虽然Anthropic和OpenAI呼吁放缓人工智能（AI）发展，但在科技行业、金融市场以及特朗普政府这些可能反对任何实质性减速的力量面前，这两家公司将不得不面临如何权衡的问题。
在发生一系列安全事件后，这两家研发世界上最强大AI系统的公司承诺，将采取措施控制对尖端AI模型的研发速度，以更好地了解该技术带来的风险。
Anthropic首席执行员阿莫代（Dario Amodei）上周六发布一篇长达3800字的长文，文中观点也得到了OpenAI首席执行员阿尔特曼（Sam Altman）和SpaceXAI首席执行员马斯克的支持。阿莫代称，必须放慢对最先进AI系统的开发速度，以防止AI超出人类掌控并造成灾难性危害。
阿莫代在文章中强调，放缓AI发展速度未必会导致支出或成长减少。但是，任何所谓前沿系统研发的停滞或延迟，都不是投资者想看到的，因为他们押注AI热潮将带动数千亿美元的资本支出。华尔街还预期Anthropic和OpenAI的首次公开售股（IPO）有望创下纪录，而这两家公司能否在AI领域取得突破进展，正是其IPO成败的关键所在。
周一早盘，市场对AI基础设施主要公司的反应就已显现，三星电子和SK海力士在首尔市场双双跌逾4%，OpenAI的投资人软银集团重挫13%。在矽谷，有关放缓研发的讨论也可能令辉达等晶片制造商承压，此前企业加大处理器相关支出以训练和运行新一代AI模型，令这类公司受益。亚马逊和微软等公司向Anthropic和OpenAI提供AI云端计算服务，这类公司也可能受到影响。
Evercore ISI的分析师马哈尼（Mark Mahaney）表示：“这两家公司及其计划对整个科技行业都会产生相当大的连锁反
应，如果这两家公司大幅削减研发支出、招聘和资本支出，可能会对金融市场产生重大影响。”
任何阻碍发展的举措都可能招致美国总统特朗普的强烈反对，他将自己的经济议程押注于积极推进AI发展，以此作为创造就业的引擎，他曾警告说，美国必须在技术上保持领先于中国，以维护国家安全。
周日，特朗普淡化了进一步设置“安全护栏”的想法，重申了他之前的立场，即美国需要继续扩大AI，即使国内对支撑这项技术所需的数据中心的反对声浪增强。
特朗普在爱尔兰高尔夫公开赛间隙告诉记者：“我们在AI领域领先中国。我们是世界上最先进的国家，坦白说，我希望保持这种状态，因为谁在AI领域胜出，谁就赢，我们可以设置一些安全护栏，我们可以做这做那，但我认为有很多负面势力在炒作这个问题，他们不应该炒作这个问题。”
随著Anthropic前员工考克森（Jacob Coxon）的高调离职，AI带来的生存风险在上周引发主流社会焦虑，他警告称AI巨头在“拿人类生命作赌注……到2030年前后它可能会杀死我们所有人”。考克森在社交媒体上发布的辞职声明得到了数十位其他AI研究人员的支持，他们敦促放缓AI技术发展脚步。
在考克森的信息传播开来之前，美国国会议员们就已经开始要求采取行动，通过新的安全防护措施来应对AI最严重的风险。参议员桑德斯是一位与民主党立场一致的佛蒙特州独立议员，他提议禁止所谓的超级AI，而其他议员则提出了为AI设置“终止开关”的想法，但在距离中期选举不到两个月之际，外界对严重分裂的国会达成共识并通过任何重要法案并不抱有太高预期。
众议院议长约翰逊此前呼吁科技行业与政府合作，共同寻找AI安全防护措施，并表示他向各公司传达的信息是，他们“有企业责任确保产品的安全”。众议院少数党领袖杰弗里斯在ABC的This Week节目中表示，众议院民主党人将于周二上午召开党团会议，讨论可能采取的AI行动。
尽管大规模的科技投资面临打水漂风险，但华尔街一些人士也发出自己的警告声音，指出如果这项技术出现灾难性失误，可能会造成广泛而严重的危害。桥水首席投资员詹森（Greg Jensen）是OpenAI和Anthropic的早期投资人，他表示AI的快速发展让他感到不安，并称世界有可能错过避免严重后果的机会窗口。
詹森在彭博Odd Lots播客节目中说道：“不幸的是，除非AI开始杀人，否则历史经验表明我们不会采取任何行动。这种情况终将发生，如果我们在此之前就开始应对，情况会好得多。”
打开全文
评论 (0)