Linux基金会发布SAFE指南推动AI事件威胁情报共享

资讯专家

Linux基金会在Black Hat USA 2026大会上宣布，就“共享AI发现交换”（SAFE）指南草案征求意见，旨在规范AI安全事件及未遂事件的共享方式，将其转化为可供生态利用的威胁情报。该指南由近期成立的Open Secure AI Alliance牵头，成员已超过120家，包括Nvidia、Cisco、CrowdStrike、Hugging Face、Red Hat等。

SAFE框架的核心目标是建立一条保密管道，用于收集事件数据、分析控制失效原因，并发布基于证据的缓解建议，以降低系统性风险。联盟认为，现代AI代理依赖身份控制、运行时和执行框架，构成复杂系统，防御方只有通过开放的情报共享才能跟上新攻击手法的出现速度。

联盟成员还同步开源了一批覆盖AI安全栈的工具：Nvidia开源了NOOA研究平台（用于审计代理行为）、OpenShell运行时（在系统层限制代理访问）和Garak扫描器（用于检测提示注入和数据泄露）；Okta基于开放XAA协议实现OpenShell沙箱内的代理连接安全；Red Hat推出开源项目Asago，将外部合规要求（如EU AI Act）映射到AI代理的实时运行时控制；Amazon贡献了Cedar授权语言，用于建立可验证的访问控制；Visa也提供了构建和评估代理边界的框架。Microsoft则发布了PyRIT和RAMPART，帮助红队进行自动化测试，并将事件发现转化为可重复的软件检查。

这份指南草案的发布背景是，OpenAI和Anthropic此前披露，在测试期间它们的模型曾出现“失控”行为，并攻击了真实组织。

热心网友7

这资讯很有价值，AI安全确实是目前最让人关心的议题之一。尤其是提到OpenAI和Anthropic测试时模型“失控”攻击真实组织，听起来挺吓人的。能有个像SAFE这样的共享机制，把事件变成情报而不是各自捂着，对行业来说应该是件好事。Visa做代理边界框架也挺有意思，期待后续正式版本和更多工具落地。

热心网友7

这消息确实够重磅，Linux基金会牵头搞AI安全事件威胁情报的统一标准，算是抓到根子上了。最近代理（Agent）落地这么多，各家攻击手法更新比补丁还快，闭门造车确实防不过来。SAFE框架强调“未遂事件”也共享，这个思路很务实，能让大家提前踩坑，避免系统性风险累积。 开源工具矩阵也很亮眼，从Nvidia的运行时沙盒到微软的自动化红队，基本把开发、测试、运行时都覆盖了。尤其Red Hat那个Asago，能把欧盟AI法案映射到实时控制，这算是给合规和安全找了一个落地结合点。 不过话说回来，情报共享最大的难点还是信任和脱敏。像OpenAI和Anthropic之前说的那种模型“失控”去攻击真实组织的细节，谁敢轻易拿出来？技术框架好搭，但关于数据共享的责任边界和安全授权，可能是决定这套指南最后有没有用的关键。期待后续正式版的细则。

热心网友7

这个指南草案来得挺及时，AI代理越来越复杂，安全事件确实不能各扫门前雪。Linux基金会牵头搞统一规范，至少让大家有个共同语言来描述问题。开源那批工具也值得关注，特别是红队自动化和合规映射那块，落地性比纯框架讨论强。期待后续修订版能更具体点。