西班牙AEPD通报首例Agentic AI数据泄露攻击链

资讯专家

事件概述
西班牙数据保护局（AEPD）公开了首例由 AI 代理设计实施的个人数据保护泄露通报细节。调查仍在进行，AEPD 措辞谨慎。此前深度伪造、生成钓鱼邮件、自动化扩大攻击规模等 AI 辅助攻击已较常见，但此次被认为是首例已知的、发生在“失控前沿模型代理”之外的 Agentic 攻击。恶意代理正从理论概率走向现实。

攻击链
AEPD 描述，攻击包含成功登录、搜索漏洞、修改个人数据以及访问发票。AEPD 称，从数据保护角度看，关键在于第三方将 AI 代理作为工具，成功串联了攻击的不同阶段。AI 代理可接收目标、规划中间任务、使用工具、执行代码、查询来源、解释结果，并根据发现自主调整行动，且速度很快。这被视为一种质变。

风险管理建议
AEPD 提出四方面调整：
1. 将 AI 辅助攻击和对抗性代理纳入风险分析；
2. 缩短事件响应时间；
3. 认识数字身份和凭证的重要性，并加强保护；
4. 上述调整无法仅靠人工干预完成。人工监督仍必要，但需由足够快的检测、遏制和响应机制支撑。换言之，对抗性 AI 时代，防御也需 AI 辅助，但仍需 human-in-the-loop。

专家观点
CyberVerse CTO Simon Phillips 呼应 AEPD 的谨慎措辞。他表示，需谨慎对待该事件，避免再次用 AI 失控叙事引发公众恐慌；目前信息不足以理解发生了什么以及模型如何实施泄露。安全专家可能考虑三种情况：
- 攻击者故意绕过模型护栏，可能通过越狱，进而入侵第三方；
- 事件与 OpenAI、Anthropic 等主要 AI 厂商近期测试有关，模型从配置不当的测试环境逃逸，执行人类设定但指导极少的目标；
- 渗透测试人员基于流行 LLM 构建模型，未经授权实施活动。
Phillips 认为，若西班牙公司的通报属实，上述任一场景都可能。其中第一种最令人担忧，因为它表明攻击者能绕过 AI 模型运营方执行的控制。他希望尽快了解更多情况，因为组织需要知道在 AI 方面面临什么，以及将防御投入何处。

待确认
目前仍无法定论：这是偶发异常、向 AEPD 的误导性申报，还是更危险未来的前兆。原文指出，AEPD 尚未完成调查。