跳转至

第 12 次会议纪要:决策后端与云端 LLM 接入

摘要

本次会议围绕 DecisionRouter 和多后端决策展开。会议确认默认路径采用本地规则优先,云端 LLM 作为可选增强,并补充熔断、回退和 provider 错误处理要求。

会议信息

  • 日期:2026-06-03
  • 议题:DecisionRouter、RuleBasedBackend、LocalEvaluatorBackend 与 CloudLlmBackend
  • 阶段:决策层实现
  • 参会人:lsy, srh, ljs, wxz, sdd

背景

早期可行性报告更强调云端大模型调用 Skills。经过动作治理和隐私边界讨论后,会议认为最终在线路径不能默认依赖云端:

  • 云端模型会带来网络延迟和可用性风险。
  • 即使输入已脱敏,也要减少不必要的上传。
  • 低风险、高频、确定性动作不需要大模型。
  • 云端失败时系统必须安全降级。

讨论内容

1. 路由后端划分

DecisionRouter 按上下文复杂度和配置选择后端:

后端 职责 默认状态
RuleBasedBackend 确定性、低风险、高频规则。 默认启用
LocalEvaluatorBackend 本地候选排序、低风险预判、是否升级。 可用
CloudLlmBackend 复杂语义理解、跨事件关联。 默认关闭,需配置
FallbackNoOpBackend 熔断、错误、上下文不足时保守回退。 安全兜底

会议决定不再把 MockCloudProxy 作为最终抽象,而是保留规则、本地评估和云端 LLM 的统一 IntentBatch 输出。

2. Cloud LLM provider

会议确认云端后端支持:

  • DeepSeek
  • Qwen / DashScope
  • OpenAI-compatible endpoint

Cloud LLM 输入必须使用 ModelInput,包含当前 StructuredContext、行为 profile 和近期 decision feedback。不得直接发送 RawEvent。

3. Prompt 和输出约束

Cloud LLM 必须输出结构化动作建议,不执行自然语言命令。

输出动作类型限制在:

  • NoOp
  • PreWarmProcess
  • PrefetchFile
  • KeepAlive
  • ReleaseMemory

并且仍要经过 PolicyEngine 和 ActionLifecycle。

4. 错误处理和安全日志

会议补充安全要求:

  • provider 错误不能把 HTTP 响应体原样写入 audit。
  • 云端超时或配置错误时回落本地规则或 no-op。
  • 连续错误触发熔断。
  • 后端 route 写入 trace,便于复盘为什么使用规则、本地或云端。

决议

  • DecisionRouter 成为 agent 层主入口。
  • 默认本地规则优先,云端 LLM 显式启用。
  • Cloud LLM 只接收 StructuredContext 及衍生 profile。
  • provider 错误信息需要做日志收敛,避免错误响应携带敏感内容。

后续动作

  • ljs:实现 Cloud LLM 配置和 provider 适配。
  • sdd:完善 CapabilityLevel::for_route。
  • srh:确保 action lifecycle 校验 route capability。
  • wxz:增加云端失败和 fallback no-op 的测试。
  • lsy:验证 Android trace 中是否存在可能越过脱敏边界的字段。