微软Project Perception扩展AI Agent管控

资讯专家

Microsoft宣布扩展Project Perception，新增监控和限制企业环境中潜在失控AI Agent的控制。Microsoft称组织应把AI Agent当作内部人员，而不是默认可信软件。Project Perception是Microsoft今年7月推出的agentic安全系统，最初用于防御外部AI驱动攻击，现在也覆盖企业内部运行的Agent。

Microsoft Security执行副总裁Hayete Gallot表示，企业往往默认信任自己部署的Agent；前沿模型以取得结果为目标训练，并非围绕组织规范或判断构建。这些Agent经常权限过高，可访问数据、工具和系统，并能在关键流程中采取行动和做决策。Microsoft身份与网络访问副总裁Nadim Abdo补充，“内部人员”标签不代表Agent本身恶意，而是说它们是有能力的工具，可被用户授予重要系统访问权限，也可能犯错、被操纵或被攻陷。

新增的Dynamic Permissions让Agent初始没有权限或仅有最小权限，随后按任务授予；任务变化或结束时权限过期或收缩，高影响操作需要人工审核。Dynamic Agent Risk为每个Agent提供持续更新的风险评分，综合Agent活动以及身份、数据、端点、云、网络和运行时信号，并考虑其安全配置、可触达资源、出错时可能造成的损害，以及是否偏离用户或组织意图。

Dynamic Conditional Access把Entra Conditional Access引入Agent，根据风险变化采取动作：不只是允许或阻止，还可缩减权限、只读不写、限制可访问的数据和网络资源，或要求人工批准有后果的操作；风险足够高时，可隔离Agent运行时或停止执行。为规模化处置，Project Perception引入Playbooks和Guardian Agents：由人制定规则和审批限制，Playbooks说明安全响应应达到的目标，Guardian Agents负责执行、调查Agent风险变化原因，并建议或实施遏制。Microsoft还将Agent发现范围扩展到另外35种本地Agent，支持总数达到60种，包括Claude Code、OpenAI Codex和GitHub Copilot。