虚构但具有代表性的情境，时间为2026年7月17日。一家维也纳工业企业的采购AI智能体已经稳定运行六周。仪表盘全部绿色：可用率99.9%，延迟稳定，没有API错误。但采购人员花在修改供应商建议上的时间越来越多。知识源更新后，智能体开始偏爱熟悉供应商；提示词调整后，它也更少把异常升级给人。系统没有宕机，业务结果却在Drift。
该情境来自常见生产模式，并非客户案例或成果。问题不是没有日志，而是企业只监控基础设施，没有监控使命、证据、权限、人工关系和最终结果。
最危险的静默失败：技术指标全绿，业务流程却越来越差
传统监控关注可用性、错误和延迟，这些仍然重要。但AI智能体可以返回HTTP 200，同时使用旧规则、选择错误来源、因错误理由调用正确工具、避免必要升级，或生成看似专业但需要员工暗中修正的结果。
AI智能体监控必须把技术行为连接到可接受业务结果。Observability需要回答：哪个使命、身份、模型、策略、证据、工具和审批产生了结果，它是否仍在运营边界内？
监控在AI智能体运营体系中的位置
AI智能体评测体系负责Release前测试，智能体网关与控制平面负责运行时策略，Monitoring负责观察生产行为并触发Review，事件响应计划在问题成为实质事件时接手。四项职责共享一条Evidence链。
MONITOR：每个生产智能体都要回答的七个问题
M – Mission使命
智能体被允许为谁完成哪项具体工作，当前版本和禁止用途是什么？
O – Outcome结果
工作是否通过业务验收？跟踪修正、重开、周期、财务和客户影响。
N – Network依赖网络
模型、检索、记忆、工具、身份、审批、队列和下游系统必须形成一条Trace。
I – Intervention人工干预
人何时批准、修改、拒绝、停止或挽救案例？静默修改会隐藏质量下降。
T – Telemetry遥测
记录关联编号、版本、来源、Tool Call、策略决定、重试、成本、延迟和Outcome。
O – Operating Drift运营漂移
识别输入、知识、工具、语言、规则、验收和升级行为变化。
R – Review复审
谁按什么门槛和频率复审，并有权限制、Regression、Rollback或停止？
Golden Signals：监控智能体，而不只是API
| 信号 | 问题 | 指标示例 | 负责人 |
|---|---|---|---|
| 业务结果 | 工作是否仍可接受？ | 验收、修正、重开、下游缺陷 | 业务负责人 |
| 来源依据 | 重要陈述是否由当前批准资料支持？ | 支持率、旧来源、冲突 | 知识负责人 |
| 权限 | 动作是否在身份、金额、数据和工具边界内？ | 拒绝调用、审批绕过、权限异常 | 安全/服务 |
| 人工干预 | 人是否在正确时间介入？ | 升级、Override、审核时间、静默修正 | 运营 |
| 韧性 | 流程能否安全失败？ | 重试、循环、重复影响、Fallback | 平台 |
| 经济性 | 审核和返工后是否仍有价值？ | 每个可接受结果成本 | 财务/业务 |
应按工作流、语言、客户、模型和策略版本拆分。总平均值会掩盖DACH本地某条路径的下降。
Evaluation Probe：把生产轨迹变成可验证结论
Probe是在智能体流程中或结束后执行的有限检查，例如确认重要陈述有批准来源、Tool Call符合权限、必要审批存在，或最终结果满足业务Rubric。它应返回结构化判断和理由，而不是另一段未经验证的文字。
先部署Grounding、Authority和Outcome三类Probe。高后果动作全部检查，低风险大量任务进行合理抽样。自动Judge必须与人工审核案例对照，因为它也可能Drift或共享智能体的盲点。
Drift：Token仪表盘看不到的七种变化
- 输入漂移：客户语言、文件格式和案例复杂度。
- 知识漂移：过期、缺失或冲突来源。
- 工具漂移：Schema、权限或返回含义变化。
- 行为漂移：重试、升级、规划长度和来源选择。
- 人工漂移：机械批准、静默修改或Workaround。
- 结果漂移：验收、客户反应、返工或财务影响。
- 环境漂移：用途、市场、法规或业务政策改变。
在时间线上标注Release与外部变化。相关性只触发调查，不自动证明原因。
Alert Policy：每个告警必须对应一个决定
把条件分为Stop、Restrict、Review和Observe。未授权写操作停止权限；重要陈述缺乏来源时限制为Draft-only；验收下降启动Regression；轻微延迟变化在不影响服务时继续观察。
| 条件 | 决定 | 保存Evidence | 负责人 |
|---|---|---|---|
| 未授权Tool执行 | 停止身份和写入队列 | Trace、Policy、Credential、结果 | 事件负责人 |
| Grounding硬失败 | 转为人工审核草稿 | 陈述、来源、Probe、影响案例 | 业务/知识 |
| 验收低于基线 | 检查案例群并运行Regression | 案例结构、版本、修正、Outcome | 流程负责人 |
| 成本升高 | 分析Routing、Retry和Tool | 路径、成本、时延和验收 | 平台/财务 |
Human Oversight：需要监控人与智能体的关系
审批数量看似正常，不代表审核人拥有时间、上下文和真正权限。抽样检查正确的人是否及时获得来源与不确定性、理解后果并能停止执行。AI Act Article 26针对High-Risk系统规定了包括合格人工监督、运行监控和日志保留在内的部署者责任，但并非所有业务智能体都是High-Risk。
Production Evidence Pack
- 使命、Owner、用户、禁止用途和当前批准。
- 模型、Prompt、Retrieval、Tool、权限和Policy版本。
- 连接请求、来源、决定、调用、审批和Outcome的关联编号。
- Probe判断、不确定性、失败和人工Review。
- 变更、Deployment标注和Regression结果。
- 业务结果、返工、客户影响和成本。
- Alert、决定、限制、Rollback和关闭证据。
保留规则应符合用途、法律、合同和隐私。Observability不代表可以永久保存所有Prompt。
总部与DACH团队的监控节奏
- 实时：越权、关键Probe失败、循环、重复动作和服务故障。
- 每日：Fallback、延迟、成本异常、来源新鲜度和未解决队列。
- 每周：验收、修正、升级、语言分组和Drift。
- 每月/季度：预期用途、价值、风险、Owner、供应商、批准到期和Retirement。
30/60/90天路线图
前30天
- 选择一个生产智能体并完成MONITOR。
- 定义Outcome、Hard Stop、基线和负责人。
- 用关联编号连接请求到最终结果。
- 记录人工静默修正与异常成本。
第31-60天
- 部署Grounding、Authority和Outcome Probe。
- 使用人工审核案例验证Probe。
- 定义Stop/Restrict/Review/Observe及响应人。
- 完成一次Drift调查和人工干预演练。
第61-90天
- 运行分组Scorecard和复审节奏。
- 连接Monitoring、Regression、Rollback和Incident Response。
- 演练供应商故障、旧知识和越权场景。
- Evidence、Alert和业务结果稳定后再扩展。
官方资料支持什么
NIST的部署后AI监控报告说明Drift、分散日志和Human-AI反馈等挑战，但没有规定MONITOR框架。NIST的Agentic AI Evaluation Probes项目研究Verifier和机器可读Audit Trail，并不证明Probe能够取代人工判断。EU AI Act Service Desk提供Article 26 High-Risk部署者义务，具体适用需要按系统与角色判断。
常见问题
什么是AI智能体监控？
持续观察使命、结果、Evidence、工具、权限、人工干预、依赖、成本和Drift，以便负责人限制、重测、Rollback或改进。
AI Agent Observability与API监控有什么不同？
API监控测可用性和延迟；Agent Observability还连接版本、来源、策略、动作、审批和业务结果。
什么是Evaluation Probe？
在流程中或流程后验证陈述、来源、权限规则或Outcome，并提供结构化判断的有限检查。
哪些告警应该停止生产？
未授权动作、敏感数据边界突破、失控循环或关键安全失败等可信不可接受后果。
Article 26适用于所有AI智能体吗？
不适用。Article 26针对High-Risk AI系统部署者，分类与角色需要具体评估。
下一步
准备一个生产工作流、现有仪表盘、已验收与已修改案例、身份、来源、工具、审批和成本。作为AI Systems Architect，Ali Najafzadeh将帮助建立MONITOR、Probe、Alert决策和90天生产控制计划。预约AI系统评审。
Continue Reading
