加里·马库斯(Gary Marcus):Robust AI 首席执行官兼创始人
外来客 • 2026-10-04 20:10:18
声明:本文为对公开内容的摘要整理,
未经本站独立核实,可能与原内容存在出入,不代表本站立场、观点或建议;
观点与版权归原作者及原平台所有。
如涉及版权问题,请联系我们,核实后立即删除。
[ 免责声明 ]
(原标题:Gary Marcus, Robust AI Inc. CEO&Founder)
🎯 核心观点
- AI代理(Agents)目前缺乏可靠性,错误率高达20%,不适合直接处理高风险事务如个人财务。
- 当前AI系统存在严重的控制缺陷,企业出于营收动机(消耗Token)过度部署代理,导致安全隐患。
- 建议对不可靠的AI代理技术实施“产品召回”,暂停其大规模应用直至安全性得到修复。
- 拒绝“人类灭绝”式的末日叙事,认为实际风险在于基础设施瘫痪(如电网、医院关闭)及网络安全漏洞。
📊 关键事实与论据
- Hugging Face攻击:发生数万次由AI代理引发的网络入侵,证明系统无法严格遵循指令。
- 技术局限:模型自2001年以来持续存在“幻觉”问题;部分服务依赖后台人工干预以维持稳定性。
- 监管现状:白宫达成的超级智能协议仅具道德约束力,缺乏强制执行力;美国政府未对非法网络入侵行为进行起诉。
- 风险对比:传统AI(如AlphaFold、GPS导航)无此类风险,问题集中于具备自主行动能力的代理技术。
⚖️ 结论与建议
- 消费者建议:在可靠性问题解决前,应暂缓采用高风险AI代理服务。
- 治理需求:需建立国际标准化机构并实施强制执法,而非依赖企业自愿自律。
- 本质定性:当前危机源于软件工程质量缺陷(如“纸板刹车”),并非意识觉醒或超自然失控。
👤 同一博主
Exemplar Luxury首席执行官表示增长计划进展顺利
英伟达财报前夕美股震荡;特朗普启程开启亚洲之行
收紧对华芯片漏洞限制;英伟达财报倒计时
特朗普在马尼拉开启亚洲之行,为会晤习、普做准备
英伟达冲击重创东南亚
万斯称美国不会在伊朗战争中长期停留,油价因供应恢复预期下跌
悲观预期已充分定价:市场分析
美国拟限制中国获取英伟达芯片,特朗普访亚
美国出台新规限制中国远程获取芯片
Anthropic IPO:澳大利亚投资者须知
🧭 类似博主
-
思科CEO:AI末日论调与黄仁勋(Jensen Huang)均判断有误 | Sozzi Unleas
-
Meta 改写 K-Means,训练轮次降到十分之一 | K-Means | e-means |
-
電話號碼外洩「元兇竟是自己?」拆解四大元兇「日日被」垃圾電話「瘋狂轟炸」背後原因!推銷詐騙電話「教4
-
特斯拉自動駕駛路線贏了?德州 Robotaxi 總數超車Waymo! | M觀點 AI 製作
-
蘋果跨足人形機器人! HALO大腦搭載宇樹G1曝光... 複合任務成功率僅50%! 人形機器人仍有瓶
-
美国陷入混乱!航班停飞,摩根大通(JPMorgan)及多家银行受创 | 是否遭遇网络攻击? | Fi
-
【抢救老视频】不删除、不重传!教你一招让YouTube老视频重新获得推荐,甚至再火一把的妙招!
-
【館長精華】剛從宜蘭頭城回來!今晚就放鬆一下好好玩遊戲!繼續來玩影之刃零!
-
Chase、FAA近期接连发生技术故障引发对数字系统依赖的担忧
-
活用应用开发改善业务!推进DX的中川先生的工作(爱媛 NNN精选)
0 条评论
发表评论
请先 登录 后参与讨论。