在过去不到一年的时间里，生成式AI应用场景井喷，已经应用到企业创新的各个环节。通过智能客服优化客户体验，通过自动生成代码来提高技术团队生产力，通过文字生成图片的方式加速创意内容生成，通过自动化文档处理提高整个组织的运营效率，生成式AI真正让AI在企业加速落地。以ChatGPT为代表的生成式人工智能等新技术、新业务的发布，引发行业变革，但也为数据安全保护和监管带来新挑战。2023亚马逊云科技re:Inforce中国站，亚马逊云科技大中华区解决方案架构部总监代闻在演讲中提到：“从构建开始，我们就需要把安全作为企业AI战略发展中的核心环节。“

亚马逊云科技大中华区解决方案架构部总监 代闻

数据和模型安全是构建AI应用的关键

亚马逊云科技在大数据以及AI领域耕耘多年，生成式AI的井喷对一个企业的数据平台有了更高的要求。要训练构建一个生成式AI的模型，需要大量的非结构化数据。如果一个企业直接去应用一个做好的模型进行微调，同时需要有高质量的专业化的数据来微调这个模型。这两个方面的需求对于大多数企业的数据平台都提出了更高的要求。

（一）数据安全

亚马逊云科技提供了贯穿生成式AI全周期的数据治理，从数据源的获取到数据的存储和查询，再到将数据传输给 AI平台进行模型的训练、调优和推理，以及全面实施数据分类和治理。亚马逊云科技提供了一整套的解决方案、产品服务和最佳实践，帮助企业加速落地端到端的云原生数据战略，给生成式AI 提供高质量的数据支持。

首先，亚马逊云科技通过实施安全密钥管理、静态数据加密、强制实施访问控制、利用机制限制数据访问，保护存储中的数据。针对高质量的数据，亚马逊云科技有两个保护重点：防止数据泄漏以及防止数据篡改。在2023 亚马逊云科技re:Inforce中国站活动中，亚马逊云科技推出了敏感数据保护解决方案，可实现对企业敏感数据的自动化发现并在统一平台管理数据资产。该解决方案允许客户创建数据目录、使用内置或定制数据识别规则定义敏感数据类型，该方案利用机器学习、模式匹配的方式自动识别敏感数据，并提供可视化面板，帮助客户更轻松地对敏感数据进行管理和保护。

其次，亚马逊云科技从实施安全密钥和证书管理、执行传输中加密、自动检测意外数据访问、对网络通信进行身份验证四个方面对传输中的数据进行保护。多层次保护传输中的数据，亚马逊云科技通过跨区域之间的数据传输、VPC内部以及VPC之间的传输、迁移上云的过程中、以及TLS1.2+AES256从整个的基础架构上实现应用层的加密和传输的保护。

第三，亚马逊云科技从身份认证、隔离环境、多方协作以及数据共享四个方面，对使用中的数据进行保护。

（二）模型安全

模型训练后进入生产环境的安全防护同样重要。针对大模型，几个月前，亚马逊云科技宣布推出Amazon Bedrock和多种生成式AI服务和功能，以帮助客户构建和扩展自己的生成式AI应用程序。

首先，Amazon Bedrock后面接入了基础模型，它给提供了一个API可以使用大模型加速生成式AI的应用程序和开发，无须管理底层的基础设施。其次，Amazon Bedrock选取一些合作伙伴，例如AI21 Labs、Anthropic、Stability AI，以及自己的基础模型。另外，亚马逊云科技最新推出的合作伙伴名单里也增加了Cohere，便于客户最快速地找到最合适的、能力最强的基础模型。第三，使用组织内部的数据来训练大模型。

应用安全是实现AI价值的保障

第一个阶段是开发流程中的安全（DevSecOps）。安全应该贯穿到从开发到持续集成、持续部署再到投产、监控以及整个反馈的过程里面来。亚马逊云科技利用自身经验，将AI防护应用到软件开发的全生命周期，让开发更便捷，更安全。亚马逊云科技最新发布的AI开发安全能力包括：（1）Amazon CodeWhisperer，该服务是亚马逊云科技推出的AI编程助手，可根据开发者指令利用内嵌的基础模型实时生成代码建议，该服务内置了代码安全扫描功能，可帮助开发者查找难以检测的漏洞并提出补救建议。（2）Amazon CodeGuru Security，它可以扫描代码，在代码里面寻找漏洞，包括调用包漏洞，包括很多其他代码逻辑的漏洞。它还能够在CICD通过人工智能和机器学习的方式自动降低误报率，同时它基于API设计，能够非常方便地集成到开发工作流里边去，实现集中化和扩展性。

第二个阶段是运行中的安全。针对应用的安全访问，企业可构建零信任的应用安全访问策略。零信任不是一个标准的工具或者解决方案，而是一套机制，并且需要经过演练和考验。需要对访问大模型的应用进行权限管理，确保只有在拥有特定权限的应用，才能访问或者调用大模型里的制定API。亚马逊云科技推出几个工具，帮助客户在自己的亚马逊云科技环境下构建这套机制。包括：（1）Amazon Verified Access 可以搭建一套无需VPN的网络验证系统，可以使用Amazon IAM，或者客户自己的用户认证系统，来完成这个认证程序。（2）Amazon Verified Permissions为用户构建的应用程序提供细粒度授权和权限管理，用户可以使用该服务管理其应用程序的角色和属性的访问控制。（3）新的开源语言——CEDAR，CEDAR用于编写和执行授权策略的开源的语言，它可以能够让大家更加轻松、更加快速地来创建所有的访问控制权限。（4）Amazon Shield用于防DDos攻击，Amazon WAF提供防火墙支撑，Amazon Firewall Manager可以轻松管制防火墙策略。（5）Amazon GuardDuty使用了基于人工智能和机器学习的技术，使安全事件的误报率减少50%。

利用AI提升安全合规效率

在当前全球环境下，安全合规变得越来越重要。目前，已经有超过130多个国家和地区制定和颁布了数据保护和隐私安全相关的法律法规。同时由于云计算的大规模普及，越来越多的重要数据正在加速上云，而且数量和种类在增加。业务持续变化，给安全合规带来的挑战，这其中也包含诸如像大模型运用带来的业务的变化给安全带来的挑战。

目前，亚马逊云科技在全球已经获得了超过140个安全标准和合规认证。值得一提的是，这些合规认证不简简单单只是覆盖了基础设施，还有非常多的平台应用，比方说容器平台、无服务器平台。并将AI技术应用到其安全及合规服务中，能够为大规模批量审查提供安全控制，利用自动化减少手工操作以降低错误，利用AI提供一致性判断，利用AI/ML技术实现自动审查，全面提升合规效率。亚马逊云科技通过在其500多项自身合规审计控制项中使用AI技术，将审计时间节约了53%。在IDC近期发布的《2023中国公有云托管安全服务能力报告》中，亚马逊云科技是获得满分最多的厂商之一，其中“生态建设”评估维度是唯一获得满分的厂商。