AI末日派认为强大AI可能失控甚至毁灭人类,因而呼吁减速和监管;加速派则相信AI的进步不可避免且造福社会,因而反对监管、主张全速发展。(图:法新社档案照) (纽约15日法新电)围绕AI的激烈争论,如今已逐渐演变成针锋相对的两大阵营,以及一个谨慎观望的中间派。以下是对这场技术之争战线的梳理。这项技术如今已成为经济的支柱,并可能决定地球的未来。
末日派:AI最终消灭人类
警告AI可能带来灾难性影响的“末日论者”,大多来自AI企业内部、学术界,或同时来自这两个领域。
在业界人士中,最具代表性的是阿莫戴。他是Anthropic的联合创始人,如今该公司已成为AI领域的重要巨头,并正朝着历史性的首次公开募股(IPO)迈进。
阿莫戴当年离开OpenAI,是因为他认为由阿尔特曼领导的OpenAI,没有足够认真地看待AI的潜力及其潜在危险。
不过,他的立场也被批评为虚伪,因为Anthropic本身同样在不断推出尖端AI技术。
ChatGPT于2022年发布,引发新一轮AI热潮。此后数月,前谷歌研究员辛顿以及另一名计算机科学家本希奥率先发出警告,强调AI可能带来的威胁。
麻省理工学院物理学家泰格马克则站在业界之外。他领导的“生命未来研究所”在2023年组织了一封公开信,呼吁暂停开发最先进的AI系统6个月。这封公开信获得数千人签名,其中包括马斯克。
在AI产业之外,自学成才的理论学者尤德科夫斯基过去20年来一直主张,一旦AI强大到一定程度,最终可能消灭整个人类。
加速派:建设,建设,建设
与“末日论者”截然相反的是“加速主义者”。他们相信科技进步是必然趋势,而且从根本上有利于社会;与此同时,他们自身也从科技成功中获得巨额财富。
这种理念在硅谷相当普遍,但最具代表性的,是一些在白宫拥有相当影响力的风险投资界人士,例如著名风险投资公司Andreessen Horowitz创办人、具有影响力的安德森,以及曾任白宫AI事务负责人萨克斯。
这群人与科技界人士蒂尔在个人立场和哲学理念上高度一致,基本反对政府监管,并在幕后以及社交平台X上,与他们所谓资金雄厚的AI“末日论邪教”展开斗争。
他们指责“末日论者”实际上是一些企业的代言人,这些企业试图利用监管措施打击竞争对手。
经营创业公司孵化器Y Combinator的陈加里(音),是其中最积极发声的人士之一。他认为,以安全为导向的监管会对小型企业构成威胁,因为这些公司无法承担由监管带来的高昂成本。
同属加速派的,还有辉达首席执行员黄仁勋,以及与辛顿和本希奥共同获得图灵奖的杨立昆。后者一直认为AI可能带来人类生存危机的警告被过度夸大。
中间派:谨慎前行
许多大型科技公司则试图谨慎行事,采取一种更符合大企业特点的立场,避免自己在一场政治斗争中站错边。
OpenAI于2015年成立时,其组织架构经过特别设计,以确保研究人员而非投资者能够对这项技术如何部署拥有最终决定权,而保障人类安全则是公司的核心理念。
但在阿尔特曼领导下,公司如今采取了更为复杂的路线。如今的OpenAI一方面谈论AI可能带来的危险,另一方面却继续加速技术发展,并与一个不设限制、强调放松监管的白宫保持密切关系。
谷歌、微软和亚马逊都是科技业谈论安全问题的“老手”,同时也长期在华盛顿周旋,成功将政府监管控制在最低程度。
打开全文
评论 (0)