AI将在本世纪末消灭全人类”的说法纯属幻想

外来客 • 2026-09-14 07:24:53

声明：本文为对公开内容的摘要整理，未经本站独立核实，可能与原内容存在出入，不代表本站立场、观点或建议；观点与版权归原作者及原平台所有。如涉及版权问题，请联系我们，核实后立即删除。 [ 免责声明 ]

（原标题：AI wiping out everyone by the end of the decade is ‘fantastical'）

前 Anthropic 员工 Jacob Coxon 辞职并警告，AI 开发者严肃认为该技术可能在十年内导致人类灭绝。
Geoffrey Hinton、Stephen Hawking 及 Anthropic、OpenAI 负责人均呼吁放缓 AI 开发速度以规避风险。
Toby Walsh 指出，AI 已能生成新 viruses 和控制 autonomous drones；swarm intelligence（群体智能）显著提升了 AI 的协作与破坏能力。
Anthropic 报告称检测到伊朗人员利用其工具进行 bioweapons research，以及 Russian hackers building swarms of autonomous drones。
澳大利亚有 200,000 名青少年拥有 AI 伴侣，引发对人际关系异化的担忧。
澳大利亚政府解散了 AI 专家咨询委员会，转而主要听取大型科技公司的游说意见，导致政策制定缺乏独立专业建议。

各方共识：AI 带来的风险是真实且紧迫的，需要建立预防性的监管框架而非事后补救；应吸取社交媒体监管失败的教训。
主要分歧：前员工及激进观点认为存在“灭绝级”生存威胁；Toby Walsh 认为全面灭绝概率低，但局部灾难和 insidious social impacts（如认知退化、关系疏离）更为迫在眉睫。
政策警示：若缺乏国际规则约束，rogue nation states（如 China, Russia, Iran, North Korea）或 terror groups may exploit AI for lethal weapons or bioweapons, creating asymmetric security threats.