作为互联网安全领域的“领头羊”,近日阿里安全在内容风控方面再获殊荣:由其牵头并联合中国科学院计算技术研究所和浙江大学共同完成的“面向多场景的互联网内容风控关键技术与应用”,由于“在人工智能和网络空间安全应用领域的重大技术突破”被浙江省人民政府评为2022年度浙江省技术发明二等奖。
互联网内容安全是国家网络空间安全的重要环节。从互联网诞生伊始,内容安全就是监管者和平台企业重点关注的问题。从最开始的人工审核到算法智能风控,虽然技术手段不断进步,但互联网环境和监管要求也在日益变化,因此,提升智能风控水平是近年来整个行业都在关注和研究的重点课题。
在此背景下,阿里安全抓住“面向多场景的互联网内容风控”这一关键任务,针对其中若干关键性技术难题,开展了基础理论、关键技术和实践应用等方面的研究并取得了一系列达到国际领先水平的创新成果,这其中既包括发明专利和高水平学术论文,也包括对于国际/国内/行业的各类标准建立的主导和推动。
除了在理论和技术上的突破外,阿里安全还将此研究应用了实际应用。阿里安全始终坚持打造创新的安全技术能力和世界一流的安全风险防御体系,其官网“绿网”就是在此研究的基础上构建的复杂互联网环境下内容风控应用。绿网深耕深度学习、自然语言理解、图像OCR、语音识别(ASR)等业界前沿人工智能技术,提供针对图片、视频、文字、音频等多媒体内容风险智能识别服务,不仅能帮助用户降低 、暴恐、广告、垃圾信息等违规风险,而且能大幅度降低人工审核成本。
目前,阿里安全的这项研究成果已在阿里巴巴集团内、外部多个场景得到推广应用,取得了显著的经济和社会效益。另外,随着大模型技术突飞猛进的发展,阿里安全团队也针对大模型技术的应用和安全开展研发,致力于通过对大模型的不断升级来建设更为完善的风控技术体系,同时也通过技术手段防范治理大模型可能引发的风险。