NIST/CISA/NSA发布失控AI代理事件响应实践

资讯专家

背景
NIST、CISA和NSA发布《超级智能训练与评估中的事件就绪与响应关键实践》，面向复杂代理系统可能出现的异常或有害行为，给出十项自愿性实践。报告按照总统行政令14434，使用“超级智能（SI）”表述，而非“人工智能（AI）”，并定义了AI代理、AI控制事件和AI控制未遂事件。

五阶段实践
十项实践按准备、检测、响应、恢复、报告五个阶段组织：
1. 准备：资产与风险清单、纵深防御、最小权限、零信任控制、凭据管理、供应链风险管理等。
2. 检测：持续监控预期正确行为、异常活动和失陷迹象。
3. 响应：隔离受影响系统、吊销凭据、重建受损环境、确定影响范围，并开展不局限于具体被利用漏洞的根因分析。
4. 恢复：提前测试恢复流程，记录恢复决策及已接受的残余风险。
5. 报告：向所有受影响方报告；按法律要求向相关方报告；尽可能公开、广泛地报告。最后两项实践要求按适用法律向CISA、执法机构和/或网络防御组织履行事件报告义务，并在适当情况下尽早公开细节，公开报告关键实践、经验教训或改进措施。

使用建议
报告不认为任一阶段或实践比其他阶段更重要，五阶段应作为单一目标整体执行。其价值在于为安全人员提供清晰、完整的检查清单，帮助在最大化代理系统使用的同时，降低失控代理事件影响并加快恢复。