Capsule Security发布AI断路器，实时拦截失控代理行为

资讯专家

Capsule Security 于9月2日发布了一套名为“AI circuit breaker（AI断路器）”的运行时防护方案，用于在自主AI代理（agent）执行越权行为前实时阻断。创始人 Naor Paz 和 Lidan Hazout 于2025年创办该公司，他们认为当前的风险不仅在于人类如何利用代理，还在于代理自主决策可能造成的危害。

该方案在代理执行路径中嵌入专用评估模型，在动作执行前判断其意图，并可采取放行、标记或阻断三种处置方式。与依赖通用大模型逐动作审查相比，专用小模型能显著降低延迟与成本。Capsule 使用 NVIDIA Nemotron 3 Ultra 支持训练，结合真实代理轨迹、人工复核和对抗性样本，帮助模型区分授权行为与恶意行为。

性能方面，该公司表示更精确的那款模型检测准确率达到96.9%，而参与对比的最强第三方模型为86%；决策过程最快约71毫秒，能够嵌入代理工作流而不造成明显延迟。Capsule 还将其较大模型的推理基础设施内存占用降低了近50%。此外，在独立学术基准 StepShield（用于衡量安全系统能否在损害发生前识别并阻止恶意代理行为）测试中，该公司称其断路器决策器的效率达到98%。

Capsule 认为，专用小型语言模型（SLM）是企业规模化安全运行代理工作流的关键，而不是对所有代理动作调用通用大模型。

原文链接：https://www.securityweek.com/capsule-security-launches-ai-circuit-breaker-to-stop-rogue-agents/