进入AI时代，整个安全行业都在迎接全新的挑战。当人们谈论AI安全，都在谈些什么？算法安全，如图像对抗、语音对抗，还是AI关键基础设施安全？AI技术在网络安全中又将有哪些应用？这些问题在8月5日召开的ISC2020人工智能安全分论坛上都将找到答案。

当日，第八届互联网安全大会（ISC2020）正式开幕，这是一场突破圈层、打破壁垒的“万人在线”网络安全云峰会。在人工智能安全分论坛现场，来自中国移动通信有限公司研究院安全技术研究所所长何申、国家互联网应急中心高级工程师饶毓、360AI安全研究院研究员刘昭、北京理工大学教授李侃、国家电网高级研究员赵明明、vivo千镜实验室安全研究员刘黄骁烈的不同背景的网络安全专家、学者围绕数字时代的人工智能安全议题展开了深度对话与碰撞。

AI安全起底：算法安全与基础设施安全“并驾齐驱”

AI技术近些年来发展迅速，相关的产品应用越来越多，相关的安全问题也越来越突出。大多数研究人员都偏向于对算法安全的研究，比如图像对抗、语音对抗，通过对输入的图像或者语音添加扰动信息，使AI模型做出错误的判断。

算法安全是AI安全的一个重要组成部分，360AI安全研究院研究员刘昭认为，如果要建立完整的AI安全体系，我们还需要关注AI算法所依赖的基础设施安全。AI关键基础设施存在容易被忽视的安全问题，如堆栈溢出、未授权访问、任意文件上传等，这些安全问题将会导致严重后果，如恶意代码执行、敏感信息泄露、服务不可用等。

360AI安全研究院研究员刘昭指出，AI基础设施中主要有三个关键部分：第一是深度学习框架，其中包含框架自身代码实现以及第三方图像处理库、算子库等；其次是硬件相关，包含GPU驱动、芯片等；最后是云平台，包含web框架、虚拟化技术等。

（360AI安全研究院研究员刘昭）

针对AI关键基础设施的攻击，最终可能会导致更严重的后果。刘昭建议，可以通过权限控制、访问隔离、参数过滤等措施来缓解AI关键基础设施的安全问题。

vivo千镜实验室安全研究员刘黄骁烈则围绕对抗样本的攻与防展开分享，刘黄骁烈指出，目前，对抗样本的攻防已经不再局限于对抗样本本身。攻击者通过人工智能产品的软硬件漏洞或安全缺陷获取模型信息，试图将黑盒转化为白盒；防御者结合对抗样本的特性，通过安全思想和安全技术来提高攻击成本和攻击难度。

（vivo千镜实验室安全研究员刘黄骁烈）

AI应用图像：网络安全精准捕获与分析攻击行为

AI系统存在的漏洞风险带来巨大的挑战，但同时，随着AI技术的不断发展，也在应用上为网络安全行业带来更多机会。

国家互联网应急中心高级工程师饶毓在有关《高位视角下的网络攻击团伙发现与追踪方法探讨》中指出，自2001年至今，国家互联网应急中心积累了大量的网络攻击事件数据，并长期开展安全态势分析工作。在此基础上，近几年来也尝试甄别海量攻击事件背后的团伙行为，主动挖掘划分攻击团伙并对攻击团伙进行持续的追踪。目前，国家互联网应急中心重点针对DDoS攻击、web攻击、诈骗等开展了团伙的自主发现和追踪，并在大会上分享了DDoS攻击团伙的一些案例情况。

（国家互联网应急中心高级工程师饶毓）

从消费互联网到产业互联网时代，网络安全的需求及理念也在不断发生变化。

在这一背景下，中国移动通信有限公司研究院安全技术研究所所长何申发表了《基于知识驱动的安全智慧决策》，指出未来安全的主题倾向于由网络运营方来承担，知识积累和运营也将成为网络运营方的重要优势。何申所长介绍了基于知识积累、赋能和基于知识驱动的智慧决策整体架构，从知识的形成、进化与遗忘，以及决策与赋能进行了详细介绍。未来，将着重研究AI决策的边界和越界约束，6G数字孪生场景下的知识积累和智慧决策模式，也对知识运营的产业合作进行展望。

（中国移动通信有限公司研究院安全技术研究所所长何申）

北京理工大学教授李侃则围绕群智中台及其在公共安全领域的应用展开演讲，李侃表示，群体中台由知识+数据驱动，采用HI+AI共享学习范式，形成群智的横向和纵向闭环，人在回路，能够自我进化，具有数据可用不可见，价值可量化的特点。系统通过协作、共享和赋能，促进个体智能释放传承、推动群体智能涌现汇聚，激发用户价值创新活力、提升行业整体智能水平，同时注重保护用户隐私，已应用于公共安全领域。

（北京理工大学教授李侃）

随后，国网网安公司资深技术专家、国家电网高级研究员赵明明从工业生产蜜网搭建和漏洞挖掘实践角度分享了智能分析技术，蜜罐技术本质上是一种对攻击方进行欺骗的技术，通过高度仿真工业业务流程，诱使攻击方对它们实施攻击，从而可以对攻击行为进行捕获和分析，了解攻击方所使用的工具与方法，推测攻击意图和动机，能够让防御方清晰地了解他们所面对的安全威胁，并通过技术和管理手段来增强实际系统的安全防护能力。

（国网网安公司资深技术专家、国家电网高级研究员赵明明）

工业蜜网不仅仅是蜜罐的堆叠，而是结合人工智能、安全知识图谱、全球情报网络等技术的综合型蜜罐网络。

综上可见，人工智能安全是一个全方位的概念，它甚至不是任何一家公司、社区、生态能够独立解决的事情，这也是本次人工智能安全轮胎秉持开放态度的初心，从产品到技术，从框架到理念，ISC2020期待和更多的合作伙伴一起构建开放的AI安全生态。