74% 的企业计划在两年内部署智能体 AI，但只有 21% 拥有成熟的 AI 治理模型。这两个数字来自 Deloitte 最新报告，53 个百分点的鸿沟不是战略问题，而是执行层面的真空——大量公司正拿着还没来得及造好的刹车片去踩油门。更准确地说，AI 治理的失效往往不是缺政策，而是缺一个能把政策落到调用链上的技术抓手。本文要拆解的就是这个抓手：LLM 路由架构。
为什么"有政策"不等于"有治理"
多数企业 AI 治理文档长得像合规手册：禁止使用未授权模型、敏感数据脱敏、人工复核高风险输出。漂亮，但落不了地。原因在于这些规则被写进了 PDF，而非写进代码。当业务团队用 OpenAI SDK 直连 API、用 LangChain 调本地模型、用某个内部平台跑 RAG 流水线时，每一次调用都绕过治理团队设的护栏。问题出在第一跳：流量从哪儿进。
路由器被低估的角色
在微服务架构里，API 网关是流量调度、鉴权、限流的中心节点。LLM 时代本应有同样的角色，但大量公司跳过了这一步。开发者直接拿 API Key 接模型供应商，治理团队看到的只是月底账单和模糊的"使用量增长 40%"，至于谁在调什么模型、传了什么数据、走了哪条路径，统统是黑盒。路由器缺失意味着治理盲区从第一天就存在。
三种姿态，三种默认安全等级
企业接入 LLM 通常有三条路径。第一是托管网关，OpenRouter、Portkey 这类平台帮你聚合多模型、统一鉴权、自带日志面板，适合不想自建 infra 的团队。第二是自托管网关，LiteLLM、OneAPI 等开源方案让你把网关部署在自己的 VPC 里，满足数据驻留和审计要求，成本是运维负担。第三是直接 API，开发者拿供应商 Key 直连，零基础设施但零控制力。三条路在默认状态下提供的治理能力天差地别，可多数公司在选型时只比较了价格和延迟。
把合规拆成五个可执行的齿轮
治理框架最怕变成又一份没人读的 PDF。把它拆成齿轮，每个齿轮对应路由层的一个能力，才能转起来。下面这五个支柱不是 ISO 标准委员会的产物，而是从路由架构能直接落地的视角倒推出来的。
齿轮一：资产盘点与可见性
你不知道自己在用什么模型，谈何治理？路由层天然会记录每一次调用的模型名、版本号、Token 用量、响应时长。这些元数据汇总后形成模型资产清单：哪些业务在用 GPT-4o，哪些在用 Claude，哪个团队偷偷接了某个国内小厂的 API。没有这层可见性，后续所有治理动作都是盲人摸象。
齿轮二：问责制与责任链
智能体 AI 一旦自主决策，出问题谁背锅？路由层在每条请求上打上调用者身份、租户标签、业务线标识，事后追溯时能精确定位到人、到团队、到项目。直接 API 模式下，审计日志要么不存在要么散落在各业务系统里，拼图都拼不齐。
齿轮三：访问控制与策略执行
不是所有模型都该对所有用户开放。财务数据处理调用走私有部署，营销文案生成调用公共模型，这些策略要在路由层写死。基于角色的访问控制（RBAC）、按业务线的配额管理、敏感关键词的输入过滤——这些是路由网关的内置能力，但直接 API 模式下要业务团队各自实现，几乎不可能统一。
齿轮四：证据记录与可审计性
监管来了，律师要的是聊天记录原文、Prompt 内容、模型输出、时间戳。路由层把这些结构化日志全打下来，按租户、按时间切片导出。电子表格能做这件事吗？理论上能，实际上谁手动填过超过三个月的 LLM 审计表，谁知道那是怎样的噩梦。
齿轮五：合规性映射
GDPR、数据驻留、行业准入——这些法规最终都要落到"数据去了哪里、谁看过、能否删除"。路由层把出境流量可视化，按地域路由，配合数据脱敏和保留策略，让合规审计从一场救火变成日常巡检。缺这层基础设施的公司，每季度合规窗口期都在通宵赶工。
从"用起来"到"用得稳"的临界点
智能体 AI 的吸引力在于自主性，但自主性放大的不只是业务价值，还有失控半径。一个能调用工具、读写数据库、连续执行多步任务的 Agent，一旦在治理盲区里跑起来，后果远比一个偶尔出错的 Chatbot 严重。路由架构是给自主系统装上的第一道减速带。
别再把网关当可选项
很多 CTO 的心态是"等规模大了再上网关"，但治理的代价随调用量指数级增长，事后补的成本是事前的五到十倍。早期哪怕只是一个轻量级网关，也比直接 API 强出一截。托管方案几天就能上线，运维成本近乎为零；自托管方案需要投入人力但换来完全控制权。选哪条路取决于数据敏感度和合规要求，但"不选"不该是选项。
治理是工程问题，不是道德问题
把 AI 治理说成"价值观"或"伦理"很容易让人误以为是软性倡导。错。治理是一系列具体的工程决策：路由层装不装、日志开不开、鉴权严不严、配额设不设。这些决策写在架构图上、写进 SLO 里、写在值班手册里。当一家公司开始用路由架构的视角审视自己的 LLM 堆栈，它就跨过了从"有 AI"到"有可治理 AI"的临界点。53 个百分点的差距不会一夜消失，但路由器是这个差距开始收窄的第一个工程动作。
