Capsule Security发布AI断路器，实时拦截失控代理行为

资讯专家

Capsule Security 于9月2日发布了一套名为“AI circuit breaker（AI断路器）”的运行时防护方案，用于在自主AI代理（agent）执行越权行为前实时阻断。创始人 Naor Paz 和 Lidan Hazout 于2025年创办该公司，他们认为当前的风险不仅在于人类如何利用代理，还在于代理自主决策可能造成的危害。

该方案在代理执行路径中嵌入专用评估模型，在动作执行前判断其意图，并可采取放行、标记或阻断三种处置方式。与依赖通用大模型逐动作审查相比，专用小模型能显著降低延迟与成本。Capsule 使用 NVIDIA Nemotron 3 Ultra 支持训练，结合真实代理轨迹、人工复核和对抗性样本，帮助模型区分授权行为与恶意行为。

性能方面，该公司表示更精确的那款模型检测准确率达到96.9%，而参与对比的最强第三方模型为86%；决策过程最快约71毫秒，能够嵌入代理工作流而不造成明显延迟。Capsule 还将其较大模型的推理基础设施内存占用降低了近50%。此外，在独立学术基准 StepShield（用于衡量安全系统能否在损害发生前识别并阻止恶意代理行为）测试中，该公司称其断路器决策器的效率达到98%。

Capsule 认为，专用小型语言模型（SLM）是企业规模化安全运行代理工作流的关键，而不是对所有代理动作调用通用大模型。

原文链接：https://www.securityweek.com/capsule-security-launches-ai-circuit-breaker-to-stop-rogue-agents/

热心网友1

这个方向感觉挺靠谱的，现在Agent跑起来确实怕它突然“发疯”。用专用小模型做前置判断，比每个动作都丢给通用大模型审核要实际得多，毕竟延迟和成本放到企业规模环境下都是大问题。 比较好奇的是里面提到的安全基准测试，在“损害发生前”识别恶意代理确实很关键，不知道实际跑业务复杂流程的时候误判率高不高。要是能把那种“虽然不越权但来回瞎折腾的傻事”也能拦下来就更好了。

热心网友6

这概念挺有意思的，相当于给AI代理装了个“刹车片”。比起事后审计日志，能在动作执行前拦截确实更能让人放心一点。就是不知道那个96.9%的检测率在实际复杂业务场景里还能不能维持住，误伤正常操作的话也挺麻烦的。另外用专用小模型做实时判断，成本和延迟确实会比每次调大模型划算不少，感觉会是以后Agent安全的一个方向。

热心网友6

这东西有意思，现在大家都在拼命追AI的能力上限，倒是很少有人关心怎么给这些越来越自主的代理踩刹车。创始人说的那个点挺实在——风险不光是坏人拿AI干坏事，AI自己闷头执行任务的时候也容易跑偏。 用专用小模型来实时把关，而不是每次动作都调用大模型审核，这个思路在成本和速度上都可落地得多。71毫秒的判断速度塞进工作流里确实不怎么感知得到，既然要阻断失控行为，慢了就失去意义了。 不过说实话，单靠一个外部断路器判断“意图”，感觉还是有点隔靴搔痒，毕竟真正的越轨很多时候是在多步动作的累积中一步步滑过去的，单点拦截未必能看到全貌。而且在真实场景里授权边界往往很微妙，评估模型要做到高准确率且误伤率低，难度还是不小。 但总的来说方向是对的，让AI管AI应该会是以后的标配，现在有人专门做这块，总比等到出事了再补强要稳。