AI在大企业中的应用才刚刚开始，人才供不应求？｜对话微软CoreAI副总裁Marco Casalai

📝 一句话概述

企业级AI落地需摒弃通用化幻想，通过构建独立安全身份、深度数据治理及基于自然语言的评估标准（Rubric），解决隐性知识壁垒与业务特异性问题，实现从“开箱即用”到“信任验证”的转型。

🧠 核心观点：模型嵌入与安全隔离

• 应用框架依赖性：大语言模型本身仅具备Token预测能力，必须结合M365 Copilot等特定场景或“外壳”才能产生实际业务价值，脱离上下文的通用模型无法直接解决企业痛点。
• 定制化优于通用化：针对文档解析、本地转录等企业场景，经过微调的专用模型在准确性与隐私保护上显著优于直接调用通用API，特别是在处理敏感数据时，本地运行方案更具优势。
• Agent身份与安全隔离：企业级AI Agent应拥有独立身份（如专属邮箱、文件空间）并运行在独立安全上下文中。遵循“最小权限原则”至关重要，避免Agent继承用户全部权限导致的数据泄露风险，确保操作边界清晰可控。
• 数据治理是落地前提：构建高效AI应用需投入大量时间梳理业务逻辑与数据字典。技术本身无法替代对领域知识的结构化整理，前期在数据清洗与上下文构建上的高成本投入是企业必须接受的现实。

📊 关键事实：评估范式转变与实施细节

• 从概率指标到Rubric评估：AI Agent的评估已从通用的概率性指标（如groundedness、coherence）转向基于自然语言定义的“评分标准”（Rubric-based evaluations）。通用指标无法识别特定业务逻辑错误，而Rubric能精准捕捉如公寓定价逻辑等特异性问题。
• Microsoft Foundry中的Rubric实施：在Microsoft Foundry中，Rubric由多个加权维度组成，允许定义不同规则的重要性（例如银行合规高于费用退款错误）。建议在设计初期即制定Rubric，并设定可接受的误差阈值，将其作为核心成功标准。
• 迭代优化闭环机制：通过“Rubric Refinement”机制，将用户反馈的具体原因（如特定配置导致定价偏差）转化为新的评估维度或修正现有规则。这种机制形成了Agent与评估标准同步改进的闭环，确保系统随业务需求动态演进。
• 隐性知识壁垒突破：Agent无法自动获取同事间的隐性信息（Tacit Information）。必须从人类专家处提取并转化为上下文或规则，这是实现有效自动化不可逾越的障碍，需通过结构化整理将非显性知识转化为机器可理解的逻辑。

🏢 案例实证：BMW与文档智能

• BMW MDR数据字典构建：车辆配备5000个传感器，团队耗时6个月建立详细的数据字典以区分刹车、引擎等指标含义。最终实现了自然语言查询功能（如“上周雨天急刹事件”），证明了深度数据治理对复杂工业场景的价值。
• 本地模型隐私保护实践：受访者使用本地运行的Whisper变体进行语音转录，通过自定义优化人名拼写，确保数据不上传云端。这种方案在保障隐私的同时提升了特定领域术语的识别准确率。
• 文档智能技术突破：微软Document Intelligence每日处理数十亿份文档，能精准识别跨页表格布局，并支持从英语到希伯来语等右向左语言的版式翻转翻译。这展示了AI在处理复杂非结构化数据时的强大能力。
• 效率提升实证案例：AI视频编辑工具将受访者1小时的剪辑工作缩短至15分钟，通过直接修改转录文本实现画面删减。这种基于语义而非时间轴的编辑方式极大降低了技术门槛，提升了创作效率。

🛡️ 信任机制与最佳实践策略

• Trust but Verify文化：企业应建立“信任但验证”的文化，通过交叉检查而非双重检查来管理风险。评估团队需持续根据用户反馈优化Rubric，确保AI行为符合业务预期，避免盲目依赖自动化结果。
• 延长试点期收集反馈：最佳实践策略建议企业延长试点期以收集真实用户反馈，避免将未经验证的想法直接推向生产环境。复用现有的合规文档作为初始Rubric的基础，可以加速评估体系的建立并降低初期错误率。
• 新兴职业角色出现：“Eval Maintainer”（评估维护者）和“Forward Deployed Engineer”（前沿部署工程师）成为关键岗位。前者负责构建和优化评估体系，后者协助企业落地AI最佳实践，填补了技术与业务之间的鸿沟。
• 技能获取工艺化建议：开发者需将AI学习视为一种“工艺”，通过亲手操作各类工具（如Copilot、Suno）获得第一手体验，而非仅依赖理论或视频。这种实践导向的学习方式有助于适应快速变化的技术环境，提升实际解决问题的能力。

🚀 结论与未来展望

• 赋能而非替代：AI转型的成功关键在于“赋能”而非替代人类工作。需获得用户明确授权（Permission）以建立信任，确保AI在可控范围内辅助决策和执行任务，避免过度自动化带来的风险。
• 摒弃开箱即用幻想：企业应摒弃“开箱即用”的幻想，接受前期在数据清洗与上下文构建上的高成本投入。只有经过深度定制和严格评估的AI系统，才能在复杂的企业环境中稳定运行并产生价值。
• 自然语音界面普及：未来交互将趋向自然语音界面，降低技术门槛，使AI能力从极客群体向大众普及。随着隐性知识壁垒的逐步突破和评估体系的成熟，AI将成为企业日常运营中不可或缺的基础设施。