黑客使用机器学习发动攻击的 10 种方式

机器学习和人工智能（AI）正在成为威胁检测和响应工具的核心技术。动态学习和自动适应不断变化的网络威胁的能力为网络安全团队提供了优势。

根据Sapio Research代表Vanta进行的一项调查，62%的组织计划在未来12个月内对人工智能安全进行更多投资。然而，一些威胁行为者也在使用机器学习和人工智能来扩大他们的网络攻击，逃避安全控制，并以前所未有的速度发现新的漏洞，并造成毁灭性的后果。

Credit: DC Studio / Shutterstock

根据Bugcrowd 10月份发布的年度黑客调查，77%的黑客使用人工智能进行黑客攻击，86%的黑客表示人工智能从根本上改变了他们的黑客攻击方式。如今，71%的人表示人工智能技术显示出黑客攻击的价值，而2023年这一比例仅为21%。

据网络安全公司SecureOps称，有专门为犯罪创建的生成性人工智能工具，包括FraudGPT和WormGPT。

波士顿咨询集团网络和数字风险全球负责人Vanessa Lyon表示：“人工智能一代，以及更广泛的人工智能，正在降低黑客部署和开发一系列攻击的能力。”。她补充道，生成式人工智能的非确定性方面使传统的基于规则的防御更难保持相关性。

事实上，根据Keeper Security 10月份的一份报告，51%的IT和安全领导者表示，人工智能攻击是他们组织面临的最严重威胁。

以下是攻击者利用人工智能和机器学习技术的十种最常见方式。

1.垃圾邮件

Omdia分析师Fernando Montenegro表示，几十年来，捍卫者一直在使用机器学习来检测垃圾邮件。“防止垃圾邮件是机器学习的最佳初始用例。”

如果使用的垃圾邮件过滤器提供了电子邮件未通过的原因或生成了某种分数，那么攻击者可以使用它来修改他们的行为。他们将使用合法的工具来使自己的攻击更加成功。黑山说：“如果你提交的东西足够频繁，你可以重建模型是什么，然后你可以微调你的攻击以绕过这个模型。”。

不仅仅是垃圾邮件过滤器容易受到攻击。黑山表示，任何提供分数或其他输出的安全供应商都可能被滥用。“并不是所有人都有这个问题，但如果你不小心，他们会有一个有用的输出，有人可以将其用于恶意目的。”

2.更好的钓鱼邮件

攻击者不仅使用机器学习安全工具来测试他们的邮件是否可以通过垃圾邮件过滤器。安永前合伙人Adam Malone表示，他们首先也在使用机器学习来创建这些电子邮件。“他们在犯罪论坛上宣传这些服务的销售。他们用这些服务来生成更好的钓鱼电子邮件。生成虚假角色来推动欺诈活动。”这些服务被专门宣传为使用机器学习，而且可能不仅仅是营销。马龙说：“证据就在布丁里。”。“他们肯定更好。”

机器学习允许攻击者以创造性的方式定制钓鱼电子邮件，这样它们就不会显示批量电子邮件，并且经过优化以触发参与和点击。他们不会只停留在电子邮件的文本上。人工智能可用于生成逼真的照片、社交媒体资料和其他材料，使沟通看起来尽可能合法。

生成型人工智能将其提升到了一个层次。根据OpenText发布的一项调查，45%的公司因人工智能而看到网络钓鱼的增加，55%的高级决策者表示，由于威胁行为者中人工智能的使用激增，他们的公司面临更大的勒索软件风险。Keeper Security的另一项研究发现，84%的IT和安全领导者表示，人工智能工具使网络钓鱼攻击更难检测。

3.更好的密码猜测

犯罪分子也在使用机器学习来更好地猜测密码。马龙说：“我们已经看到了基于密码猜测引擎的频率和成功率的证据。”。犯罪分子正在构建更好的字典来破解被盗的哈希值。他们还使用机器学习来识别安全控制，“这样他们就可以减少尝试，猜测更好的密码，并增加成功访问系统的机会。”

4.深度假货

人工智能最可怕的用途是能够生成难以与真实人类区分的视频或音频的深度伪造工具。黑山说：“能够模拟某人的声音或面部对人类非常有用。”。“如果有人假装听起来像我，你可能会上当。”

事实上，在过去几年中，有几起备受瞩目的案件被公开，在这些案件中，伪造音频使公司损失了数十万甚至数百万美元。得克萨斯大学计算机科学教授Murat Kantarcioglu表示：“人们一直在接到老板的电话，这些电话都是假的。”。

更常见的是，骗子正在使用人工智能生成逼真的照片、用户资料、电子邮件，甚至音频和视频，使他们的信息看起来更可信。这是一笔大生意。根据美国联邦调查局的数据，在过去十年中，商业电子邮件泄露骗局导致了超过550亿美元的损失。早在2021年，就有媒体报道称，香港一家银行被骗，向一个犯罪团伙转移了3500万美元，因为一名银行官员接到了一名公司董事的电话，他之前曾与该董事交谈过。他认出了那个声音，于是批准了转移。如今，黑客可以制作出难以与真人区分的Zoom视频。

根据保险公司Nationwide 9月底发布的一项调查，52%的小企业主承认曾被deepfake图像或视频愚弄，十分之九的人表示生成式人工智能骗局正变得越来越复杂。

大公司也不能幸免。根据Teleport的一项调查，人工智能模拟是最难防御的网络攻击媒介。

5.消除现成的安全工具

如今使用的许多流行的安全工具都内置了某种形式的人工智能或机器学习。例如，防病毒工具越来越多地超越了可疑行为的基本特征。Kantarcioglu说：“网上任何可用的东西，尤其是开源软件，都可能被坏人利用。”。

攻击者可以使用这些工具，不是为了防御攻击，而是调整他们的恶意软件，直到它可以逃避检测。“人工智能模型有很多盲点，”Kantarcioglu说。“你可以通过改变攻击的特征来改变它们，比如你发送了多少数据包，或者你正在攻击哪些资源。”

攻击者使用的不仅仅是人工智能驱动的安全工具。人工智能是许多不同技术的一部分。例如，考虑到用户经常通过查找语法错误来学习识别钓鱼电子邮件。像Grammarly这样的人工智能语法检查器可以帮助攻击者提高写作水平，而像ChatGPT这样的生成性人工智能工具可以从头开始编写令人信服的电子邮件。

6.侦察

人工智能和机器学习可用于研究和侦察，以便攻击者可以查看公开可用的信息及其目标的流量模式、防御和潜在漏洞。卡内基梅隆大学软件工程研究所CERT部门的首席研究员兼技术经理Thomas Scanlon说，这就是黑客总是开始的地方。“当人工智能启用时，所有这些活动都可以更智能、更快地完成。”

许多组织没有意识到存在的数据量。而且，这不仅仅是员工在暗网上和社交媒体上发布的黑客密码列表。例如，Scanlon说，当公司发布招聘信息或征求建议书时，他们可能会透露他们使用的技术类型。“过去收集所有数据并对其进行分析是劳动密集型的，但现在很多数据都可以自动化。”

根据Bugcrowd黑客调查，62%的人使用人工智能来分析数据，61%的人使用它来自动化任务，38%的人用它来识别漏洞。

7.自主代理人

如果企业发现自己受到攻击并关闭了对受影响系统的互联网访问，那么恶意软件可能无法连接回其命令和控制服务器以获取指令。Kantarcioglu说：“攻击者可能希望提出一种智能模型，即使他们不能直接控制它，也能保持更长的持续时间。”。

现在，由于微软的商业产品和几个没有任何防护措施来防止恶意使用的开源平台，任何人都可以使用这些自主代理。CMU的Scanlon说：“过去，对手需要人类接触点来进行攻击，因为大多数攻击都涉及多个步骤。”。“如果他们能够部署代理来执行这些步骤，那肯定是一个迫在眉睫的威胁——好吧，不仅仅是迫在眉睫。这是人工智能正在实现的事情之一。”

8.AI中毒

攻击者可以通过向机器学习模型提供新信息来欺骗它。全球风险研究所高级研究员Alexey Rubtsov说：“对手操纵训练数据集。他们故意对其进行偏见，机器会以错误的方式学习。”。

例如，一个被劫持的用户帐户可以每天凌晨2点登录系统进行无害的工作，使系统认为凌晨2点工作没有任何可疑之处，并减少了用户必须跨越的安全障碍。

这类似于微软的Tay聊天机器人在2016年被教导为种族主义者。同样的方法可用于教导系统特定类型的恶意软件是安全的，或者特定的机器人行为是完全正常的。

9.人工智能模糊

合法的软件开发人员和渗透测试人员使用模糊测试软件生成随机样本输入，试图使应用程序崩溃或发现漏洞。该软件的增强版本使用机器学习以更集中、更有组织的方式生成输入，优先考虑最可能引起问题的文本字符串。这使得模糊测试工具对企业更有用，但在攻击者手中也更致命。

所有这些技术都是为什么补丁、反钓鱼教育和微细分等基本网络安全卫生仍然至关重要的原因。Forrester Research分析师Allie Mellen表示：“这也是纵深防御如此重要的原因之一。”。“你需要设置多个路障，而不仅仅是攻击者最终用来对付你的一件事。”

10.AI恶意软件

9月，惠普Wolf Security报告称，他们已经确定了一个恶意软件活动，该活动“极有可能”是在生成人工智能的帮助下编写的。“生成人工智能正在加速攻击，降低网络罪犯感染端点的门槛，”作者说。

惠普并不孤单。根据Vanta的报告，32%的受访组织发现基于人工智能的恶意软件有所增加。

研究人员甚至证明，生成式人工智能可用于发现零日漏洞。

CMU的Scanlon说，正如合法的开发人员可以使用人工智能来查找代码中的问题一样，攻击者也可以。这可能是公共存储库中可用的开源代码，也可能是通过其他方式获得的代码。他说：“黑客可以获取代码并通过ChatGPT或其他一些基础模型运行它，并要求它找到可被利用的代码中的弱点。”他补充说，他知道这种用途既用于研究，也用于邪恶目的。

生成型人工智能弥补了专业知识的不足

在过去，只有最先进的威胁行为者，如民族国家，才有能力利用机器学习和人工智能进行攻击。

今天，任何人都可以做到。

特别难以防御的是，人工智能现在的发展速度比任何技术都快。波士顿咨询集团的里昂表示：“这是一个不断变化的目标。”。“企业应优先考虑保持对威胁形势的理解水平，并调整技能组合。”