[51] Guardrails：给生成式系统加护栏，不是加枷锁

• 资料类型：综述/方法论
• 原始来源：https://arxiv.org/abs/2402.01822
• 对应章节：第 10 章（Agent：边界与安全）、第 20 章（合规与伦理）

一句话

护栏的目标是把高风险输出挡住、把低风险输出放行，而不是把系统变成处处卡顿的流程机。

你该从 Guardrails 带走什么

• 护栏要可验收：规则、阈值、命中率、误杀率都要能回归对比。
• 护栏是系统的一部分：输入（注入）+ 输出（敏感/幻觉）+ 工具调用（越权）都要覆盖。
• 性能是硬约束：护栏越多越慢，必须在延迟与风险之间做显式取舍。

在本书里怎么用

• 第 12 章把护栏纳入日常门禁：命中趋势、误杀趋势、事故演练。
• 第 7 章把工具调用护栏写清楚：确认、权限、审计、速率限制。

常见误用

• 规则写得很严，但没有误杀/漏检统计，最后只剩用户抱怨。
• 把护栏当成上线前一次性开关，缺少回归与复盘。