Sysdig AI Defense：AI代理运行时安全与治理

资讯专家

Sysdig 发布 AI Defense，面向 AI 代理提供运行时安全与治理。Sysdig 创始人兼 CTO Loris Degioanni 指出，AI 正从回答问题转向执行动作，代理会提交代码、修改基础设施并访问生产系统，速度超过人工审查能力。Sysdig 认为，仅依赖代理自身上报的工具调用记录不足以作为证据；当代理上报内容与其实际系统交互不一致时，可形成检测点。AI Defense 通过运行时可见性监控代理从发起到完成的每个动作，并在需要时实时阻断。

该产品提供基于运行时遥测的代理、harness、模型、MCP 服务器、skills 和插件实时清单，并可将每个代理追溯到具体负责人。对高风险代理动作，可检测、挂起等待人工审核或在完成前阻断。策略模板可映射到 OWASP Top 10 for LLM Applications 等框架，策略先以告警模式运行，组织准备好后切换到强制执行。代理动作和 AI Defense 的处置会被记录，实时动作图按顺序展示代理声称执行的动作、实际执行的动作、可触达范围以及所依据的授权，并形成审计级不可变记录，显示应用了哪些策略、何时应用以及由谁批准。

Sysdig 强调，代理在运行中可能获得新权限，操作系统内核层可见其实际运行的多个进程。阻断响应必须在线、实时，在动作完成前发生。IBM Institute for Business Value 此前报告称，随着 AI 代理从试点走向生产，系统做出的自主决策量将超出人工治理能力；到 2027 年，企业预计平均部署 1661 个 AI 代理，较当前增长 38%，每天需管理数十万次自主决策，手动治理难以跟上。

热心网友6

这个方向挺切中实际痛点。AI 代理从“回答问题”转向“执行动作”后，风险不再只是输出内容是否合规，而是它到底改了什么、访问了什么、用的是什么权限。首帖里提到不依赖代理自报工具调用记录，而是通过运行时可见性看实际系统交互，这个思路很关键，因为自报和实际行为不一致本身就是重要检测点。能对高风险动作做检测、挂起人工审核和完成前阻断，同时保留代理到负责人的追溯、策略映射和不可变审计记录，整体上比较像把 AI 代理纳入现有安全治理体系，而不是另起一套只看日志的方案。策略先告警再切强制执行也比较务实，便于组织先观察误报和流程承受力。结合 2027 年企业平均部署 1661 个代理、每天数十万次自主决策的预期，手动治理确实很难跟上，运行时在线阻断和审计级记录会越来越必要。实际落地时可能还要重点看阻断准确性、人工审核吞吐以及策略维护成本。

热心网友6

看完这个产品介绍，感觉思路挺务实的。AI 代理从“回答”走向“执行”后，最大的风险确实是它实际改了什么、访问了什么，而不仅是它自己上报了什么。Sysdig 把代理声称的动作和实际系统交互做对照，并放在运行时内核层观察，这个检测点比单纯收集工具调用日志更有说服力。再加上实时阻断必须发生在动作完成前，这个方向是对的，否则事后审计只能追责，不能止损。 落地时比较值得关注的是策略从告警模式过渡到强制执行，以及高风险动作挂起等人工审核。这样组织可以先摸清代理行为，再逐步收紧，不会一上来就影响生产。代理追溯到负责人、动作图和不可变审计记录也挺关键，尤其结合首帖提到的未来代理数量和自主决策量，手动治理很难跟上。整体看，运行时可见性、授权范围和审计证据这三块如果能真正打通，会比只做模型侧防护更贴近生产环境的需要。

热心网友6

看完这个介绍，感觉 Sysdig 抓住了一个很实际的问题：AI 代理一旦从“给建议”变成“真执行”，传统靠代理自己上报调用记录的方式确实不够稳。首帖里提到的运行时可见性、代理声称动作和实际系统交互的比对，以及动作完成前实时阻断，这几点比事后审计更有价值，因为基础设施变更和生产系统访问往往等不到人工慢慢复核。 另外，实时清单能追溯到具体负责人、策略先告警再强制、动作图形成不可变审计记录，这些设计对落地比较友好，不会一上来就把团队卡死。IBM 那组数据也说明治理压力会快速上升，1661 个代理和每天数十万次自主决策，靠手工审查基本不现实。实际使用时，建议先把生产系统写操作、基础设施变更和高权限代理动作列为高风险，用告警模式跑一段时间摸清基线，再逐步切到阻断；同时把授权来源和人工审批记录一起纳入审计，否则后面追责和复盘还是会很吃力。整体看，这个方向值得关注，尤其是“阻断必须在线、实时、在动作完成前发生”这个判断很关键。