OpenLeash为AI Agent引入人工审批拦截危险动作

资讯专家

OpenLeash是一款面向AI Agent的安全授权层工具，目前仍在开发中但已投入实际使用。其开发者Max Brin将其称为“AI的杀毒软件”或“AI焦虑的解药”。核心思路在于：AI Agent会继承用户的权限，却缺乏人类对具体场景的判断力，因此可能因错误指令、恶意工具或被入侵的模型造成实际破坏。

OpenLeash以旁路方式运行在Agent与网络资产之间，拦截Agent的意图并评估风险。若判定为明确危险操作，会直接阻止；若意图不确定，则向用户请求确认。例如，Agent可能因指令被误解而试图静默删除整个数据库——OpenLeash会拦截这条意图，询问用户“是否真的打算删除整个数据库”或“是否打算把凭据上传到特定网站”。

该工具支持自建Agent、云端Agent及第三方Agent，并提供高度可配置的策略。管理员或用户可设置允许的API端点、目标地址或支付限额。例如，低于一定金额的支付可以自动放行，超出阈值则必须由人工授权。相关配置可随时更改。

目前OpenLeash已有数百名个人用户和至少四家组织在使用。Max Brin认为，这类控制机制对新兴的“vibe coder”群体尤为重要——他们不熟悉编程和网络安全，却会借助Claude Code、Cursor等工具开发Agent来自动化工作，此时更需要一个外部约束层来限制Agent的越权行为。

原文链接：https://www.securityweek.com/openleash-adds-a-human-check-to-risky-ai-agent-actions/