【赛迪网讯】AI的发展已经成为改变我们社会和历史的一个科技引爆点。任何此类科技的爆发其作用都是双向的，正面和负面的效果都在不同程度改变着人们的生活。对于保护网络安全的企业派拓网络来说，则更加关注AI技术发展可能对网络安全造成的危害，做好未雨绸缪的准备。

派拓网络网络威胁与安全情报部门Unit42咨询总监刘俊佃

在近日派拓网络召开的一次媒体沟通会上，派拓网络网络威胁与安全情报部门Unit42咨询总监刘俊佃与媒体分享了生成式AI对网络安全带来的新挑战。

AI正在降低黑客门槛

当前网络威胁存在三个主要问题。一是 网络犯罪分子与高级持续威胁（APT）团伙之间的界限正在变得模糊，二是网络安全事故对目标企业产生的影响更广泛；三是检测和缓解攻击需要更多种防御途径。

OpenAI的ChatGPT在许多领域大大降低了技术的准入门槛，即使不懂写代码的人也可能通过ChatGPT写出一些简单的代码。这种类似的生成式AI工具既可能造福于人，也可能危害一方。虽然ChatGPT不能直接为黑客编写木马，但是生产式AI的成功必然增强了黑客的信心。事实上，一些专门以编写木马病毒的生产式AI已经初具雏形。

比如WormGTP，这个直译为蠕虫GPT的生成式AI工具是与ChatGPT类似的衍生品。这是专门使用恶意软件数据进行训练的模型，但是它与Open AI的ChatGPT和Google的Bard不同，WormGPT没有安全护栏、没有底线，它可以很容易地被别有用心的人提示创建基于Python的恶意软件。

WormGPT是建立在2021年的旧大型语言模型GPT-J之上，它最让人惊讶的能力是能够写出让人难以直观发现漏洞的钓鱼邮件。一般来说，以前的钓鱼邮件内容的词汇不太顺，经常有用错词、拼错词的情况，会被人一眼识破它是一封钓鱼邮件。但是有了WormGPT这一样的工具辅助的时候，运用AI通过大模型所写出来的文字就会变得相当完美，而且产量会更大，更容易捕获猎物。

FraudGPT则是另一种通过Telegram疯传的基于订阅的新型生成式人工智能黑客工具，订阅费用为每月200美元或每年1700美元。在今年7月被人们注意到的时候，它已经拥有超过3000个订阅者。FraudGPT可以用来协助这一类型攻击者进行诈骗，尤其是对于水平还不高的初级黑客，它简直就是一个入门工具包。可以提供包括编写网络钓鱼电子邮件和社会工程内容，创建漏洞利用、恶意软件和黑客工具，发现漏洞、泄露的凭证和存有信用卡信息的网站，提供有关黑客技术和网络犯罪的建议等多项入门级的辅助。

勒索类生成式AI工具方兴未艾

WormGPT和FraudGPT的出现让人们意识到自己已经进入到一个新的网络环境，它们标志着一个危险的、民主化和武器化生成式人工智能工具时代的开始，人们可以利用AI能力去让网络攻击变得更快、更简易。AI让变种恶意软件克服了基于特征码的检测，让精心制作的电子邮件绕过防护工具的扫描，并且以机器速度、创造性攻击瓦解防御体系。

在2018年8月的黑帽大会上，IBM Research的安全研究人员发布了一款由AI驱动的新型恶意软件DeepLocker。DeepLocker采用了一个叫做DNN（深度神经网络）的AI模块，如果黑客想攻击一个人，他不会希望被攻击者身边的所有人都受到攻击，因为越多人受到攻击，被发现的几率就会越高。而该恶意软件运用DNN就可以避免这种无差别攻击，具有高度的针对性和规避性特征，能隐藏自身恶意意图，直到感染特定目标。

Unit42的报告显示，勒索软件每年的增长量是400%，这也会刺激牟利者更加关注这个潜在的商机，加速具有AI能力的勒索软件的发展。

新形势下的建议

面对AI时代网络安全的新挑战，刘俊佃的意见是以AI对AI，在攻击者借助AI力量升级了矛之后，防御者也必须以AI驱动升级自己的盾。

“第一，我们不可能利用人力去阻挡AI攻击，我们必须利用AI去对抗AI，这是唯一的路。第二，我们之前所了解和熟知的一些防御模式和方法需要改变。因为AI让我们看到更快、更强、更精准的攻击模式。”刘俊佃这样说道。

在当今新的网络安全形势下，保证网络安全需要改变对成功的看法，优先考虑能限制攻击者并为防御者提供回旋空间和时间的防御。利用AI精简防御，实现可重复性和自动化，实行全天候监控，增加攻击者的时间压力，并更加强调零信任。唯有如此，才能让企业在快步进入智能化时代的中不会因为步子迈得太快而跌倒在前。