欢迎来到云栖网

免费注册

AI时代的新对抗——派拓网络以AI构建网络安全新防御

云栖网 2024-05-20 11:06 来源:云栖网

云栖网】随着ChatGPT等各类AI产品逐渐融入大众的工作,甚至日常生活,AI似乎以极大的便利性和广泛的运用掩盖了自身的危险性。AI正在以不道德的方式协助网络攻击者加速并升级其攻击方式。与之相伴的还有当前环境下的其他威胁,包括网络犯罪分子与高级持续威胁 (APT) 团伙之间的界限正在变得模糊,事故对目标企业产生的影响更广泛,检测和缓解攻击需要多种防御途径。AI时代下,企业正在面临着更加严峻的网络安全环境。

AI催生新威胁

对于网络攻击者而言,AI的利用可以分成三大类,第一类是用AI写木马程序,并利用木马程序进入被攻击者的环境中;第二是利用AI写钓鱼邮件;第三,攻击者会利用AI使原本的攻击更快速、简单。

以生成式AI为例,网络攻击者已经研发出了像是WormGTP、FraudGPT这样的AI程序,作为ChatGPT的一个衍生,它可以让攻击者很容易地写出木马程序或钓鱼邮件。此前,当人们收到钓鱼邮件时,由于词汇不通顺,或者用错词语,会很快被识破。但运用AI去驱动这一类型的工具时,写出来的文字就会变得更加准确,钓鱼邮件的辨认也就变得更加困难。

当企业运用像Copilot这样的ChatGPT类AI工具时,相当于为攻击者开辟了端口。所以任何企业使用AI时都要慎之又慎。并且,生成式AI后端是语言模型,而此类语言模型背后有很多开源程序会在例如GitHub一类的平台上分享。攻击者可以利用这一类型的开源训练自己的AI模型。开放的网络环境也会让不同攻击者更轻易地分享自己的成功经验和故事。

与此同时,勒索软件会变得更加泛滥。在AI的助力下,勒索变得更加难以辨认,且危害性更高。比如,勒索者会利用AI换脸软件制作勒索视频。个人在社交媒体分享的照片和视频都有可能变成犯罪分子的勒索素材。而现在越来越普遍的人脸识别登录和付款也可能蕴藏着被利用的风险。

AI构筑新防御

面对AI环境中“道高一尺,魔高一丈”的网络攻击,用AI对抗AI是唯一的途径。Palo Alto Networks(派拓网络)Unit 42咨询总监Terence Lau 认为: “我们无法仅凭人力去阻挡AI攻击,而是应该用AI去对抗AI。我们之前所熟知的一些防御模式和方法需要改变,因为AI让我们看到了更快、更强、更精准的攻击模式。”

作为全球网络安全领导者之一,派拓网络会一直跟踪AI演进的过程、利用方式和攻击者的新手段。派拓网络Unit 42 是世界一流的威胁研究机构和事件响应团队之一,对于精准AI颇有经验,会利用各种数据和机器学习,并通过一些模式来研究目前威胁信息方面的整体现状。同时,信息和研究成果会以开放、免费的形式公布在网站和论坛与大众共享。派拓网络始终希望能够对一个企业所运营的网络生态系统实现整体保护,并最终保护整个生态系统。

除了针对AI的持续跟踪,对于企业,派拓网络还有一些重点建议:首先是要改变对成功防御的看法,企业不仅要预防,更要懂得响应。其次是优先考虑限制攻击者,并为防御者提供回旋的空间和时间,做到精简防御,实现可重复性和自动化。企业还需要注意24/7全天候监控,以增加攻击者的时间压力。除此之外,努力过渡到零信任企业、增强安全措施、测量并减少外部攻击面也是面对AI时代网络攻击的必要防御手段之一。