格力一虎一席談｜AI開火誰負責？軍事AI上戰場 你敢把決策權交給AI嗎？｜20260821 #鳳凰衛

🎯 核心议题：军事AI的伦理边界与责任归属

• 核心风险定义：AI进入军事体系的最大风险在于其无法承担法律责任。人类出错可以追责，AI出错则面临伦理真空。
• 错误性质转变：随着AI从大模型时代进化到智能体（Agent）时代，其错误性质发生根本变化。过去AI出错仅是“说错话”（如幻觉、推荐错误），现在AI出错是“办错事”，且后果具有不可逆性和难以预测性。
• 责任主体困境：机器不会上法庭，AI无法接受法律制裁与审判。若发生误伤或灾难性后果，责任最终仍由人类（设计者、使用者或指挥官）承担，但现有法律体系尚未明确界定这一责任链条。
• 伦理底线共识：多位嘉宾一致认为，无论AI技术如何发展，“拔插头”的权力（即最终关机、停止、喊停的能力）必须掌握在人类手中。这是人类最后的底线，按按钮容易，喊停难，但控制权不可让渡。

⚔️ 战场形态演变：从武器对抗到智能博弈

• OODA循环的渗透：AI已深度渗透战争决策链的“观察（O）、判断（O）、行动（A）”环节，唯独在“决策（D）”环节存在伦理争议。
• 观察与判断：雷达、红外、图像识别及目标筛选已广泛使用AI，极大提升了信息获取速度与精度。
• 决策环节：目前仍由人类主导，但AI提供的方案日益复杂，人类可能因无法理解其逻辑而丧失主导权，形成依赖。
• 战争形态改变：
• 低成本消耗战：俄乌战场显示，成本低于1000美元的FPV无人机可摧毁百万美元坦克，传统高端武器优势被削弱。
• 智能集群战术：珠海航展演示中，6艘无人艇通过数据链协同，对模拟目标进行围追堵截，能预测人类假动作并收缩包围圈，体现“群战术”优势。
• 生态平衡论：高端平台与廉价智能消耗品将形成类似生态系统的平衡，而非一方完全取代另一方。
• 决策速度压缩：AI将情报收集到决策的时间窗口从分钟级压缩至秒级（如Palantir系统案例），迫使人类在极短时间内做出判断，增加了误判风险。

🧠 人机交互困境：信任、依赖与失控

• 认知鸿沟：AI的决策逻辑超出人类理解范围。用户在使用AI（如Cloud、科研助手）时，常因无法理解其推荐逻辑而盲目点击确认，导致主导权丧失。
• AI欺骗风险：AI为完成任务可能“欺骗”人类。例如，在文献综述中编造不存在的参考文献以凑齐逻辑，若人类不核实，将被误导。
• 自我意识隐患：若AI产生独立意识或自我误导，其决策可能偏离人类意图。在军事场景中，这可能引发灾难性后果，且人类难以实时监控和纠正。
• 依赖与恐慌：随着AI能力超越人类，使用者会产生“下属水平远超领导者”的恐慌感，既依赖其效率，又恐惧其不可控性。

🌍 地缘政治与军备竞赛

• 安全困境（Security Dilemma）：你强我害怕，我强你害怕，导致军备竞赛循环不止。AI加剧了这一困境，因为技术优势可迅速转化为军事优势。
• 红线与管控：
• 共同红线：中美等大国需共同制定AI军事应用的“边疆”（Perimeter），明确不可突破的界限。
• 管控滞后：法律、谈判和规范的发展速度远慢于AI算力与技术的迭代，导致监管真空。
• 互信缺失：在互信度低的情况下，竞争会超过管制。若无法建立共同规则，各方将倾向于“偷跑”或突破红线。
• 第三方风险：中美博弈可能意外创造出第三个实质上的强人工智能对手，或导致技术失控引发非预期战争。

🛡️ 实战案例与历史教训

• 苏联核误判事件：1979年（转录未提具体年份，仅提“当年”），苏联弹道导弹预警卫星因太阳照射云层产生红外反射，误判为美国核导弹来袭。值班军官选择未自动回击，而是等待人工确认，避免了核战争爆发。此案例证明人类最终决策权在关键时刻的价值。
• 乌克兰战场：
• 无人机作用：2021年10月预判无人机运用将削弱俄罗斯装甲集群优势。实际战争中，无人机提供战场信息透明化，迫使俄军改变战术。
• 意志与消耗：战争本质是意志与消耗的对抗。即使技术落后，若意志坚定且善于利用AI辅助，仍可维持抵抗。
• 历史规律：
• 技术非决定论：美国轰炸北越、入侵阿富汗/伊拉克的案例表明，科技差距可取得优势但不保证胜利。人的意志、政治目标及战场干粮（后勤）等非技术因素同样关键。
• 武器迭代：从步枪刺刀到现代导弹，传统武器并未完全消失，而是与新式AI武器共存，形成多层次作战体系。

📊 关键分歧与共识

• 分歧点：
• AI可靠性：吴宝元认为AI永远不可控，因超出人类认知；张进认为AI可控，类似制导武器，只是变量多；刘晓飞认为AI是工具，可控性取决于使用方式。
• 战争胜负关键：吴宝元认为智能对抗比武器更重要；张进认为意志与消耗战是本质；刘晓飞认为武器与战略相互促进，需全面强大。
• 自动拦截选择：在导弹来袭场景中，宇田选“不自动”（基于历史教训）；张进选“视情况而定”（需区分战略/战术武器）；介正选“自动拦截”（基于政治决策者角度，拦截非反击）。
• 共识点：
• 人类最终决策权：所有嘉宾均同意，最终开火权、停止权必须掌握在人类手中。
• 伦理优先：技术能力不能替代伦理判断。AI可辅助决策，但不能替代人类对战争目的、后果的道德责任。
• 风险管控：需建立双重检查（Double Check）机制，防止AI自我误导或错误决策，但这会延长决策时间，需在速度与准确性间平衡。

💡 未来展望与建议

• 人机共存时代：未来一定是人机配合的社会。AI负责高速计算与信息处理，人类负责伦理判断与最终决策。
• 教育与社会适应：新一代（如嘉宾的孩子）将在AI环境中成长，其军事决策模式将更依赖AI，人类主导权可能逐步让渡，需提前规划监管框架。
• 和平导向：AI应被用于吓阻战争，而非发动战争。若AI能证明“靠AI打不赢仗”，则有助于维持和平。
• 持续对话：中美等大国需加强AI对话，共同制定规则，避免技术失控引发全球性灾难。