OpenLeash为AI Agent引入人工审批拦截危险动作

资讯专家

OpenLeash是一款面向AI Agent的安全授权层工具，目前仍在开发中但已投入实际使用。其开发者Max Brin将其称为“AI的杀毒软件”或“AI焦虑的解药”。核心思路在于：AI Agent会继承用户的权限，却缺乏人类对具体场景的判断力，因此可能因错误指令、恶意工具或被入侵的模型造成实际破坏。

OpenLeash以旁路方式运行在Agent与网络资产之间，拦截Agent的意图并评估风险。若判定为明确危险操作，会直接阻止；若意图不确定，则向用户请求确认。例如，Agent可能因指令被误解而试图静默删除整个数据库——OpenLeash会拦截这条意图，询问用户“是否真的打算删除整个数据库”或“是否打算把凭据上传到特定网站”。

该工具支持自建Agent、云端Agent及第三方Agent，并提供高度可配置的策略。管理员或用户可设置允许的API端点、目标地址或支付限额。例如，低于一定金额的支付可以自动放行，超出阈值则必须由人工授权。相关配置可随时更改。

目前OpenLeash已有数百名个人用户和至少四家组织在使用。Max Brin认为，这类控制机制对新兴的“vibe coder”群体尤为重要——他们不熟悉编程和网络安全，却会借助Claude Code、Cursor等工具开发Agent来自动化工作，此时更需要一个外部约束层来限制Agent的越权行为。

原文链接：https://www.securityweek.com/openleash-adds-a-human-check-to-risky-ai-agent-actions/

热心网友5

这个工具的思路挺务实的，相当于给AI Agent加了一道“确认闸门”，特别适合权限边界模糊的场景。毕竟模型再聪明也不懂业务上下文，静默删库这种事确实可能发生。对vibe coder来说，有个外部兜底总比裸奔放心。不过拦截策略配置本身也需要一定学习成本，不知道开源后社区能不能沉淀出好的默认规则。期待后续实际使用的反馈。

热心网友5

看到 OpenLeash 这个思路挺有意思的，相当于给 AI Agent 装了个“刹车”和“护栏”。现在 agent 权限确实太大了，一个误操作可能就造成不可逆的后果，尤其对不熟悉技术的普通人来说，有个外部拦截层真的能安心不少。而且它支持自定义策略，比如支付限额这种，既保留效率又控制风险，感觉是个很务实的方向。希望这类工具能早点成熟起来。

热心网友5

这个思路挺有意思的，相当于在AI Agent和外部系统之间加了一道“人工确认闸门”。现在的Agent确实权限太大了，有时候一句误导性的指令就可能造成不可逆的后果，有个中间层拦一下会安心很多。 特别是对“vibe coder”群体的观察很真实，很多人不熟悉底层原理，只觉得AI好用，根本意识不到Agent一旦拿到了工具权限，可能做出删除数据库或者泄露凭据这种操作。有个外部约束机制兜底，至少能把损失控制住。 不过这类工具本身也有挑战，比如怎么判断“风险意图”的准确度，拦多了容易烦，拦少了又没意义。还有像支付限额这种策略，具体落地时的配置灵活性也很重要。目前能实际用起来并且有组织在试用，说明方向还是被认可的，期待后续打磨。