AI投入生产后，安全团队掌控的12项实践

资讯专家

安全团队不仅需要了解AI应用，更需要一套可复用的框架来监控、调查和保护生产中的AI应用。以下是12项有助于将AI应用融入安全运营流程的实践：

1. 可见性：无法看见就无法防御。持续可见性有助于发现敏感数据暴露、漏洞、控制缺陷、欺诈、滥用和攻击。

2. 理解风险：利用可见性数据科学地评估风险，而非猜测。近乎实时地持续评估应用带来的风险。

3. 建立信任：通过发现阶段的数据催化安全团队与应用所有者、产品管理、开发者等利益相关者的关系，逐步积累信任。

4. 利用信任：信任使安全团队能更早介入软件开发生命周期，便于将AI应用纳入安全运营流程。

5. 遥测：确保从AI层、API层和应用层生成全面的遥测数据，并流入SIEM、SOAR或首选记录系统，为分析、调查和响应提供支持。

6. 流程：像其他安全领域一样，制定AI应用安全流程和规程，使团队能更敏捷地行动。

7. 执行：确保安全团队能在不同运行环境中轻松实施和执行控制，这是AI应用安全的关键。

8. 预防控制：完善的预防控制应覆盖滥用、欺诈、DDoS、恶意自动化攻击等威胁，并具备敏捷增强能力。

9. 检测控制：持续安全监控依赖于已有的可见性和遥测，与预防控制相辅相成。

10. 调查：发生安全事件时，团队需能分析日志、事件和告警等数据，因此遥测数据必须可供查询。

11. 缓解：调查完成后，团队需能响应、修复和恢复，这就要求具备反向接入应用、API和AI基础设施的能力。

12. 迭代：持续从事件中总结经验、记录发现并改进，才能跟上快速变化的威胁格局，保持对AI应用的安全防护。

AI应用进入生产确实增加了安全团队的复杂度，但通过上述步骤可以减轻负担。希望未来安全团队能更早参与开发周期，在此之前，他们需要主动准备将AI应用纳入安全运营流程。

热心网友4

感谢楼主分享这么系统的实践框架！这12项从可见性到迭代形成了一个完整的闭环，对安全团队来说确实很有参考价值。特别是“利用信任”和“遥测”这两点，很多时候安全团队被动就是因为介入太晚、数据不够，如果能提前和业务团队建立信任，把遥测数据纳管进SIEM，后续的调查和响应会顺畅很多。期待看到更多关于落地细节的讨论。