疫情期间,约会应用软件意外成为必需品,不仅霸榜iOS应用商店下载排行榜,更是在去年获得了超6亿人的使用。可见,陌生人社交模式成为当代青年交往的重要助推器,人气紧追老牌社交软件。

在此背景下,陌生人社交软件迅速蹿红。某陌生人社交软件在专注于“交友”生态建设的同时,始终秉承“守护用户交友安全”的责任,构建了一支 100人以上的审核团队,并引入网易易盾的数字内容风控体系,为用户可信度与APP内容生态把关,保证陌生人社交的真实性与安全性。

一、聚焦单身交友,发挥先行者优势

某陌生人社交软件,是一款以互联网思维开发的婚恋交友APP,让单身男女通过文字、语音、视频等多种方式与同城附近异性聊天与互动,已有超过千万用户在平台快速搭讪结识了心怡的另一半、知心朋友、红颜蓝颜知己。

以独特的文化内涵,丰富品牌调性,该陌生人社交软件不仅强调产品的单身交友属性,更传递年轻人对自我、情感的表达,通过对自己的“示弱”的调侃,形成幽默的反差效果。在短短4年内中,APP已经实现100倍用户增长,在2020年7月APP总用户量突破1亿,成功跻身中国垂直社交产品TOP3产品。

二、各大风险 识别和管控

在信息高度发达的今天,该客户经历了商业模式的阶梯式创新,以智能的AI匹配算法,以声音、视频、AI智能推荐机制为抓手,为用户快速推荐相互有好感的异性。

在这里,搭讪聊天回复率高,平均回复等待时间小于5秒,让用户快速进入状态。内容交互节奏的加快,意味着内容审核机制的快步赶上。该客户从以下2方面出发,对可靠和稳健的数字内容风控体系提出要求:

海量UGC内容安全: 、虚假广告、违禁、暴恐、涉政等内容的监察与拦截,有损平台形象,IM私聊、社区、评论、动态、用户资料、直播等环节是用户参与的重点,也成为所有互联网内容平台关注焦点。

新进用户身份把关:进行风险审核时,不可避免需要对新用户进行综合评估, 首先必须在不影响个人隐私的情况下,其次账号背后的身份真实、可靠性往往难以把控和确认。

陌生人社交平台所面临的内容风险来自于各方各面,识别和管控细碎且复杂,大大掣肘了业务稳定健康发展。近年来,采用先进技术应对风险,成为行业进步的一个必然选择。

三、“清朗”主体责任多维度把握

清朗网络空间的治理行动稳步开展,陌生人社交向着健康的方向发展成为大趋势。该客户以平台自身监管责任为使命,携手网易易盾,共同构建一套全面覆盖、相互连结的数字内容风控体系。

在合作中,该客户强化了“先审后发”和“三重审核”机制,利用AI机初审,基于智能审核平台开展人工复审,以及总编室终审,保证真实社交的安全性。

AI机审,基于自然语言理解、深度学习等技术,覆盖图、文、音、视,实现毫秒级违规预警。从源头出发,敏感词检测一般作为第一道关卡,同时结合智能模型对文本二次识别。易盾为其设置了敏感关键词、策略规则组合、语义模型,针对敏感信息进行实时预警,达到拦截垃圾内容的目的。

根据客户的场景及需求,设立专项完成优化方案:一是,确定了四档风控等级,通过分级制度更好管控内容服务。二是,根据日常运营需求,灵活定制内容监管策略。三是,为违规问题匹配定制化标签,确保审核数据结果一目了然。

网易易盾还为用户真实性提供全面验证,所有技术基于合法隐私数据之上。用户画像技术通过用户行为、设备IP等信息,分析用户是否有黑灰产风险,是否为虚假账号,最小化地利用个人数据,从而最大程度地满足个人数据隐私合规要求,实现用户身份的验证。

最后,通过舆情周报、月度报告、年度报告,API报告、特殊时期安保专项等多个环节进行定期反馈,提供审核过程的数据监控、质检优化等功能,确保审核质量的真实可信。

四、一站式风控效果显著

长远来看,数字内容风控体系接入简单,一站式提供数十种算法模型、多类违规内容对抗策略与全栈智能审核平台,大大降低公司开发成本与节省内容治理人力,确保了不同场景下的内容对用户无害,势必将全面释放交友的流动性,让社交更具活力。

用户安全

每一位新用户都经过“系统+人工”双重审核,超过9成的用户通过真人认证。真人社交让APP拥有了更多的用户技术和较强的用户粘性。

内容安全

以2021年2月为例,APP累计处理违规案例22409例,禁言处罚10705例,封禁账号218例,永久封禁账号11486例。由数据可知,APP“净网行动”卓有成效,违法违规行为数据连降5个月,降幅明显。

内容审核不再只是为了发现与删除不良内容,有效区分出高风险的访问者、并持续跟踪各类内容风险,成为了平台的每日课题。目前,易盾一站式“智能内容检测解决方案”接入简单,效果显著,为众多头部娱乐社交公司所采用。