RerouteGuard：理解并缓解 LLM 路由的对抗性风险

⚡ 一句话总结 AI 生成 · 以原文为准

关键结论

• 真实世界 LLM 路由系统易受重路由攻击，尤其在成本抬升场景下。
• 重路由攻击通过在查询前拼接混淆子 gadget 利用路由器决策边界，迫使错误路由。
• RerouteGuard 在三种攻击设置与四个基准上对最先进重路由攻击的检测准确率超过 99%，对合法查询影响可忽略不计。

📄 摘要AI 生成 · 以原文为准中文翻译英文原文

多模型 AI 系统的最新进展利用 LLM 路由器，通过将查询分配给最合适的模型，在保持响应质量的同时降低计算成本。然而，作为分类器，LLM 路由器容易受到新型对抗攻击——LLM 重路由（rerouting）攻击：攻击者在用户查询前拼接精心构造的触发器来操纵路由决策。此类攻击可导致计算成本上升、响应质量下降，甚至绕过安全防护，但其安全影响仍 largely 未被充分研究。本工作基于攻击者目标（即成本抬升、质量劫持与安全绕过）及其知识对 LLM 重路由威胁进行系统化分类。基于该威胁分类，我们对真实世界 LLM 路由系统开展针对现有重路由攻击的测量研究。结果表明，现有路由系统易受重路由攻击，尤其在成本抬升场景下。随后，我们利用可解释性技术刻画现有重路由攻击，揭示其通过在查询前拼接混淆子 gadget 来利用路由器决策边界，从而迫使错误路由。为缓解这些风险，我们提出 RerouteGuard，一个灵活且可扩展的 LLM 重路由护栏框架。RerouteGuard 通过动态基于嵌入的检测与自适应阈值过滤对抗性重路由提示。在三种攻击设置与四个基准上的大量评估表明，RerouteGuard 对最先进重路由攻击的检测准确率超过 99%，同时对合法查询的影响可忽略不计。实验结果表明，RerouteGuard 为保护多模型 AI 系统免受对抗性重路由提供了有原则且实用的解决方案。