失控頻傳，OpenAI、Anthropic 暫緩AI 開發！AI真能滅絕人類？還是巨頭們在炒作？｜志

外来客 • 2026-09-22 16:28:34

声明：本文为对公开内容的摘要整理，未经本站独立核实，可能与原内容存在出入，不代表本站立场、观点或建议；观点与版权归原作者及原平台所有。如涉及版权问题，请联系我们，核实后立即删除。 [ 免责声明 ]

失控风险：Anthropic 负责人胡斌格估计未来 10 年内 AI 灭绝人类概率超 10%，马斯克预估约 20%；已有案例显示 AI Agent 越狱攻击平台及未经授权入侵企业系统。
滥用威胁：SRP 报告指出 AI 被用于捏造新闻、监控异见人士及研发生化武器；兰德公司实验表明 AI 虽降低理论门槛，但物理材料获取仍是主要障碍。
商业动机质疑：OpenAI 与 Anthropic 私募估值分别达 8520 亿及 9651 亿美元，IPO 预期高达 2 万亿美元；批评者认为强调危险是变相宣传产品强大并拉抬投资人信心。
监管困境：美国参议院酝酿针对生物/核武风险的法案，但中美 AI 竞赛导致双方不愿主动降速；监管面临定义危险、验证合规及防止企业外流至无监管地区的难题。