去年，安全公司 ZeroFOX 的两位数据科学家进行了一次实验，看看人类或人工智能谁更好地让 Twitter 用户点击恶意链接，研究人员教导人工智能研究社交网络用户的行为，然后设计并实施自己的网络钓鱼诱饵。
在测试中，“人工智能黑客” SNAP_R 完爆人类竞争对手，获得了比人类更多的网络钓鱼转帖，并且点击率相当高。
幸运的是，这只是一个实验。但这遗憾地表明，黑客已经能够使用 AI 来进行恶意攻击。今年 7 月份，数百名领先的网络安全专家聚集在拉斯维加斯，讨论人工智能及新兴技术带来的隐患。与会者被问及在未来一年内，黑客是否会使用 AI 进行攻击，62％ 的受访者表示毫无疑问。
Cylance 主管安全数据科学家 Brian Wallace 在接受 Gizmodo 采访时说，黑客一直在使用人工智能作为武器。因为黑客有受害规模的问题，肯定希望用最小的成本完成大规模的目标攻击，同时尽量减少对自己的风险。人工智能和机器学习，就是他们最完美工具。
今天，机器学习、自然语言处理、神经网络等许多领域的快速发展让我们对人工智能的未来充满了欣喜。生活中的我们将人工助理（如 Siri 或 Alexa）、自驾车和疾病诊断算法当作理所当然的，但同时科幻电影和小说里的高级人工智能却让我们迷恋又恐惧。
我们当然不用怀疑人工智能在改善人类文明状态中的帮助，但同时我们也相信只有在错误的个人手中，人工智能才会显得可怕。
移动安全初创公司 Zighra 的创始人兼首席执行官 Deepak Dutt 表示，在不久的将来，复杂的人工智能将被用于网络攻击的可能性非常高，而且它可能已经被俄罗斯、东欧、中国等国家所使用。
人工智能可用于挖掘大量公共领域和社交网络数据，以提取出生日期、性别、位置、电话号码和电子邮件地址等个人身份信息，这对黑客入侵个人账户提供了极大的便利。它还可以用于自动监控电子邮件和短信，可以智能地搜索和挖掘公共事务系统中的漏洞。
绝大多数网络攻击都是自动化的，人类黑客进行单一目标的攻击是非常少的，现在更常见的方法是使用 AI 和机器学习的工具进行自动化攻击，从分布式拒绝服务攻击（DDoS）攻击到勒索软件（ransomware）。
虽然自动化在根本上其实并部是智能的。相反地，可能会出现某种形式的自动化，特别是那些涉及大量复杂任务的自动化，这种攻击形式令人恐惧。
随着人工智能变得成熟并开始渗透进我们的生活，“坏人”将会开始使用它来提高攻击性能，同时降低成本，人工智能已经是现代黑客工具包的一部分。
幸运的是，安全专业人员也有明显的对策和对抗的利器，即人工智能本身。麻烦的是，这势必会在两个阵营之间产生一场“军备竞赛”。双方都没有选择，唯一的对抗方式就是越来越依赖系统。
为了保持优势，部分安全公司已经开始内部研究策略，并开发自己的武器化 AI 来对抗防御黑客。五角大楼的神秘研究机构 DARPA 已经采用了这种方法，AI 开发人员在夺旗的虚拟游戏中进行演戏。
这个过程非常达尔文，令人联想起到 AI 开发的另一种方法——进化算法。对于黑客和信息技术专业人士来说，这也是一个优胜劣汰＼最强悍的 AI 生存的游戏。
这与 Elon Musk 所担心的不谋而合。就在 9 月初，Musk 就在推特上提到过，“战争可能不是由国家的领导人发动，而是由人工智能发动——只要它认为先发制人的打击是取得胜利最为有效的方式”。
