AI编码安全成熟度与Agentic AI治理模型

资讯专家

SecurityWeek 文章指出，AI 软件安全的关键不只是采用速度，而是组织的成熟度。随着大语言模型进入软件开发与日常使用，获批工具和员工引入的影子 AI 正在快速扩大攻击面，传统控制措施难以跟上，agentic AI 的普及进一步放大了这一挑战。Gartner 预测，到 2027 年，由 agentic AI 驱动的事件成本将增长四倍。

风险并非只来自模型能力。SonarSource 指出，Claude、Gemini 等前沿 LLM 在生成功能性代码方面表现突出，但同时也会产生更严重的安全漏洞。组织已经意识到需要控制 agentic AI 的风险因素，但当前防护可能不足。治理以及对 AI 工具使用和代码提交的可观测性，有助于限制风险并获取生产力收益；但仅靠治理不够，组织还需要知道自己处于 AI 采用的哪个阶段，以及该阶段需要哪些安全控制和开发者技能。

三阶段八阶段 AI 采用模型

文章给出一个三阶段、八阶段的 AI 采用模型，用于描述活动、风险等级和开发者技能要求。三个阶段分别是 AI Assisted、AI Native 和 Agentic。

阶段一：AI Assisted

包括第 1 阶段 Minimal AI Use 和第 2 阶段 Supervised Assistance，面向 AI 实施初期、风险低到中等的组织。此阶段适合建立治理政策，并对开发者开展安全编码、代码审查等培训；同时可用工具验证技能基线、跟踪开发者表现。

阶段二：AI Native

包括第 3 阶段 Unsupervised Assistance 和第 4 阶段 AI-Primary Development。开发者让 AI 模型在较少监督下工作，生产力可能快速提升，但风险等级较高。MCP（Model Context Protocol）等信息共享标准可让 agent 更高效，但也带来过度信任 AI 的风险，需要用工具检测过度信任并跟踪 MCP 活动。第 4 阶段开始从 AI Native 向 Agentic 过渡，开发者从代码作者转为代码审查者，需要有效教育和技能提升。

阶段三：Agentic

该阶段风险从很高、关键到极高和最高。第 5 阶段 Single Agent 中，Claude Code、Gemini CLI 等 CLI agent 可端到端自行执行操作；第 6 阶段 Multi-agent Parallel 中多个 agent 并行工作，AI 能力可快速扩展；第 7 阶段 Scaled Agent Management 要求管理规模化运行的多个 agent；第 8 阶段 Autonomous Orchestration 要求开发者像协调统一团队一样协调 agent。开发者教育应覆盖政策执行、应用风险评分卡使用，以及为审计目的跟踪代码提交。

落地建议

文章认为，多数开发者目前处于第 2 到第 4 阶段，组织仍有时间建立护栏、监督和教育项目，以管理 Agentic Development Lifecycle（ADLC）。AI 采用往往跑在安全能力前面，影子 AI 还会让组织缺乏可见性：不清楚谁在使用 AI、如何使用、对生产代码有何影响。建立有效 AI 治理的第一步，是先评估组织在当前采用阶段的位置，明确当前和下一阶段所需的安全控制与开发者技能水平。无论处于哪个阶段，下一阶段的能力和风险都可能比预期更快到来。