2022年11月,ChatGPT发布时,国外曾掀起惊天巨浪,当时在国内却鲜有人提及。短短几天内,OpenAI开发的智能聊天机器人ChatGPT迅速走红。

国内多家公司宣布推出ChatGPT类似服务:有公司宣布,将于3月推出自研的ChatGPT类产品;有公司宣布,计划推出Demo版ChatGPT产品;有公司宣布,推出内部测试类的ChatGPT工具;有公司表示,将类似的ChatGPT技术结合到客服中;也有公司表示,将部署ChatGPT相关技术服务于医疗、教育等领域;更有很多公司表示,自身业务与ChatGPT有关联积累。

总之,发布关于ChatGPT相关公告后,相关公司的股价大多上涨。

ChatGPT产品的推动下,国内的开发和使用者鱼龙混杂,顶象防御云业务安全情报中心发现,ChatGPT已经成为无数黑灰产快速捞钱的新手段。

借助ChatGPT使用赚钱

1、贩卖ChatGPT账号。

ChatGPT在国外是完全免费向公众开放的,但必须使用海外手机号码接收短信才能完成注册,许多国内使用者被这一步拦在了门外。部分黑灰产注册了大批账号,然后通过电商、社交、论坛平台贩卖ChatGPT。

黑灰产贩卖的ChatGPT账号,主要分为永久账号和共享账号。顾名思义,前者是一人独有,后者是多人公用。一个永久账号售价9.9-39.9元不等,共享账号价格比较低,1元-6元不等。不过,一个共享账号可以卖给不同的买家从中牟取。

2、售卖注册工具。

由于注册ChatGPT需要境外手机号码,很多黑灰产提供境外手机号码、虚拟号码的平台租赁服务,售价几元到几十元不等。还有黑灰产提供三方软件或插件,也可以同等注册功能。此外,售卖非法VPN工具的频率也在大幅提升。

3、山寨ChatGPT。

这里面主要有两种情况,一类是通过镜像或接口,一类就是仿冒伪造。

通过ChatGPT镜像或接口,就是在国内建立一个ChatGPT内容拷贝,或者是调用ChatGPT的接口,一端连接ChatGPT,一端连接国内用户,黑灰产在中间转述用户的提问和ChatGPT的答复。这些产品的服务有以次数收费,也有有时效收费。比如,充值99.99元,可以使用1300次;每月199元月,可以无限次使用等。

此外,黑灰产还在网购平台开设网店进行兜售代提问。1元钱购买3-9个问题不等。买家购买后将问题发给商家,商家代为提问,然后将ChatGPT的回答复制或截图给买家。

仿冒伪造ChatGPT。国内涌现出很多名称中包含ChatGPT的公众号、小程序,以ChatGPT的官方图标为头像,回复的方式与ChatGPT回复很像。不过,这些全部都是假的。这些山寨的ChatGPT,对话模型质量粗糙,很多是回复是统一的应答话术,更有很多答非所问。

4、贩卖ChatGPT教程和使用。

这里面也有两种方式,第一种是制作ChatGPT使用教程,包含如何登录、如何获得海外邮箱、如何获取海外手机号、如何注册、登录、使用等等,通过电商平台、社群、小程序兜售,有视频版也有文字版,售价从几元到家几十元不等。

第二种是利用“ChatGPT赚钱”来赚钱。社交媒体、视频网站上搜索“ChatGPT赚钱”会看到各种免费教程,浏览量很高。例如教你先用ChatGPT给初创公司起名,再交给Midjourney设计对应的LOGO,就能完成一整套品牌从起名到设计的服务,爽拿几千元:还有例如油管博主Liam James Kay,就以一个食谱转换插件为例,演示了一遍使用ChatGPT生成代码的方式。

ChatGPT对业务安全的帮助

提升漏洞挖掘的广度和精度

漏洞挖掘主要依靠技术挖掘,然后经过安全人员审核,从而能够提供准确的漏洞点、漏洞利用及修补方案。当面对数量庞大的漏洞,安全人员疲于应对。ChatGPT可以通过结合软件代码和应用信息,帮助发现软件和系统中的新漏洞,分析漏洞利用的方式,并可以优化漏洞挖掘方案中,由此为依据进行漏洞修补等防护强化工作,良好应对安全漏洞的挑战。

提升业务安全情报的效率和广度

以往的业务情报是在各个情报源头汇总后,进行数据梳理分析,然后经过人工审查而产生。ChatGPT能够基于各个情报源的信息自动化的分析和整理,由于能够模仿人类书写方面的专长,就可以更快生成摘要,帮助安全人员快速决策分析,然后形成业务安全情报和报告。

顶象业务安全情报拥有 30000+风险源,包含来自对黑灰产社区社群、暗网论坛、违法违禁网站和App的监测,以及打码平台、众包平台、行业非风险数据的共享等。基于对风险数据的人群画像、行为评分、关联关系分析、团伙欺诈挖掘、场景风险特征分析,以及专家专业经验的判断和定位后,提炼总结分析出电信诈骗风险、IP地址风险、设备风险、涉毒涉诈风险、交易风险以及不同行业风险的业务安全情报,为安全人员提供及时、准确、有效的情报内容,帮助安全人员系统掌握业务安全态势、威胁路径、影响范围等,分析挖掘出攻击特征、潜在隐患,从而及时有效提升安全应急响应能力,制定科学有效的防控策略。

ChatGPT自身的潜在风险

随着ChatGPT应用和类似的服务越来越多,相关安全隐患会逐步曝出。AI产品的安全隐患网上有很多讨论,最可能被忽略的是数据源污染。也就是,ChatGPT们在训练学习中,被投喂大量的虚假、伪造、非法的信息数据,由此会导致ChatGPT的回答、输出是虚假或错误的。

当长期被投喂虚假非法数据的ChatGPT们,被用于模型规则、策略乃至模型训练后,不仅会破坏ChatGPT学习过程,更可能导致ChatGPT成为被黑灰产操控的工具,给业务带来更大危害。

最后,这一篇不是ChatGPT写的。