Agent Infra

Agent Infra 指介于 Agent 应用代码与模型/工具之间的基础设施层，负责流量治理、访问控制、执行可见性与状态持久化。本板块收录该层的六个专题，共 39 篇。

该层的共同特征是：与 Agent 的业务逻辑无关，更换模型供应商或编排框架后依然存在。

一、范围与边界

站内三个板块沿 LLM 应用栈的不同位置切分：

中间这一层的共同特征是：与 Agent 的业务逻辑无关，更换模型供应商或编排框架之后它依然存在。

三者的判据可以用同一个故障现象区分。以「一次请求变慢了」为例：

归属板块	排查方向
AI Infra	KV Cache 命中率下降、batch 调度使 decode 阶段饥饿
Agent 应用	编排范式导致单次任务被拆成多轮模型调用
Agent Infra	路由命中冷却中的后端、限流排队、某租户占满配额

判据：若该问题在更换模型供应商后依然存在，且与 Agent 的推理过程无关，则属于 Agent Infra。

前五个专题对应同一条请求链路上的五个关注点，第六个不在生产链路上：

五个专题里只有持久化执行不在请求链路上，它的时间尺度比其余四个大三到六个数量级 —— 这也是它和网关容错最容易被混为一谈、却完全不同的原因。

网关处于链路中心：安全策略的主要执行点在网关，可观测性数据的主要产生点也在网关。持久化执行是唯一不在请求链路上的专题，它的时间尺度是分钟到天，其余三者是毫秒到秒。

专题	篇数	覆盖内容
Agent 网关	11	部署形态、路由与容错、多租户配额、MCP 代理、缓存、Token 速率保障、国内外托管产品对比、性能开销
Agent 安全	6	威胁模型、MCP 授权规范演进、工具投毒与 Rug Pull、防线分层、供应链攻击复盘
Agent 可观测性	4	Trace 结构、OpenTelemetry 与 OpenInference 两套语义约定、成本归因、方案选型
Agent 持久化执行	6	Checkpoint 机制、确定性重放、故障恢复、四条技术路线选型
Agent 执行沙箱	6	隔离的四个维度、容器与 microVM 与用户态内核三条路线、E2B 快照机制、开源产品实现、出口管控
Agent 训练环境	6	训练环境与运行时沙箱的分野、AgentENV 的存储与快照机制、三套环境接口标准、训练框架接入方式、任务环境选型

从单次请求的路由，到长任务的状态持久化，再到不可信代码的执行隔离，本层已覆盖 Agent 生产链路的主要环节。