写在前面

随着AI军备战进入白热化状态，越来越多的行业开始被AI带来的浪潮所影响，甚至颠覆。 安全作为和众多行业交叉的一个领域，同样无法避免这样的浪潮。

但和其他领域不同的是，安全和AI之间其实是一个相互作用和碰撞 的过程——

• 黑客可以利用AI发起攻击。 如攻破验证码机制、自动化钓鱼攻击、实现漏洞的自动挖掘等。
• 黑客可以对AI发起攻击。 如用数据中毒或逃逸攻击干扰模型结果，或是用模型萃取的方法窃取模型或训练集等。
• 安全研究员可以利用AI进行防守。 如对钓鱼邮件从行为和文本上进行检测、利用图挖掘恶意团伙、对C&C服务器进行检测等。
• 安全研究员需要对AI进行保护。 如面对恶意机器流量，如何搭建机器流量防控体系，以及旨在保护模型机密性和数据安全的隐私保护技术等。

基于此，本文考虑对AI与安全的关系进行一些简单的提纲挈领式的梳理和思考，抛砖引玉。

具体而言，我将AI与安全的关系划分为了五个部分，前四个部分分别从【黑客利用AI进行攻击】、【黑客攻击AI模型】、【安全人员利用AI进行防守】、【安全人员对AI进行保护】角度进行分篇介绍，最后在【Do we need all in AI ?】部分，给出自己对当前安全现状的一点思考。

整个系列文章的大纲如下图所示，因为字数较多，因此我会将五部曲分为五篇文章，依次进行介绍，欢迎大家共同交流。