亚马逊云科技：安全构建生成式AI应用需从全栈角度出发

2023年，生成式AI迎来了前所未有的爆发。经过多年的积累和发展，生成式AI技术已经从最初的实验阶段迈入了实用化阶段，其应用领域也日益扩大。无论是在艺术创作、自然语言处理还是图像生成等领域，生成式AI都展现出了强大的能力和无限的创造力。

然而，随着生成式AI的快速发展，也带来了一系列新的挑战和问题。数据隐私、合规、版权等方面的考量成为了业界和学术界的热门话题。频发的安全事件也越来越多，引发了人们对生成式AI数据泄露风险的关注。

为了应对这一挑战，亚马逊云科技re:Inforce 2023中国站于8月31日正式启动，以“AI时代 全面智能的安全”为主题，帮助企业解决生成式AI在各个流程环节中的安全挑战。

生成式AI迎来新安全挑战

亚马逊云科技大中华区解决方案架构总监代闻在大会演讲中表示：安全是构建生成式AI应用不可回避的重要议题。从全栈角度出发，应该从数据、传输、应用到基础设施整体构建出可靠的合规体系，这样才能真正保障AI应用的安全。

针对生成式AI，亚马逊云科技将安全防护划分为三个重要阶段。首先，确保数据和模型的安全性，确保生成式AI系统的输入和输出数据不会被非法获取或篡改。其次，加强应用安全，确保生成式AI系统的使用过程符合预期，防止未经授权的使用和恶意攻击。最后，确保全球合规，遵守各国家和地区的相关法律法规，保护用户隐私和数据安全。基于这三个阶段，亚马逊云科技提供了更为系统化的安全防护工具，以确保生成式AI系统的安全性。

OWASP在2023年列出的大语言模型应用面临的十大威胁，其中就包括了数据泄露。数据泄露在大语言模型应用中较易发生，此前已有一些新闻报道过类似事件。如若企业没有明确规定数据边界、权限和应用API的控制，就可能发生数据泄露。

此外，生成式AI和大语言模型对企业内部管控机制带来了新的挑战。以前，防控的边界可能是物理边界或网络边界，可以比较粗粒度地管控数据的访问和人员的权限。然而，在移动办公成为普遍现象的时代，安全边界开始模糊。现在，大语言模型使用公开服务的需求出现后，进一步对企业内部的数据资产和其他信息资产的权限控制带来了新的挑战。这些问题在近年来都开始凸显。

此外，还有模型本身及应用两方面，也给企业安全带来了巨大挑战。

云端工具确保生成式AI顺利落地

在探讨所有安全问题的背后时，亚马逊云科技认为有两个关键方面需要着重关注。首先，必须践行负责任的AI（Responsible AI）。这不仅仅是一个技术问题，更涉及到规范、对待大语言模型的态度、使用方式和数据处理准则。这些因素实际上已成为企业构建大数据、数据处理和大语言模型的新要求。

其次，在上述框架下，如何使用最合适、高效且有效的工具来提供支持？今天亚马逊云科技已经提供了许多解决方案和工具，能够保护数据、剔除隐私数据，并保障数据和模型的运行环境安全。例如保护数据的Amazon KMS、保护传输的Amazon Nitro、Amazon SageMaker的模型安全工具Model Cards、Model Monitor及Model Registry，以及云端安全防护工具Amazon Verified Permissions等等。

如何将AI能力有机地融入安全审计流程中，这是一个循环往复的过程：AI为安全服务，安全反过来再为AI应用提供保障。只有这样，才能真正解决上述问题。

同时，AI大模型领域充满了未知，亚马逊云科技认为需要保持开放的心态，谨慎而乐观地关注这两个方面的建设，只有这样才能让生成式AI在企业中顺利落地。

零信任机制夯实云端安全

一直以来，亚马逊云科技都在推崇零信任架构，时至今日它在能力方面又有哪些提升呢？

据亚马逊云科技大中华区安全合规与治理产品总监白帆介绍，对于亚马逊云科技来说，零信任并不是一个标准的解决方案或者产品，而是一套完整的机制。作为一套机制，它需要一套工具和方法论的支持，同时也需要被业内实践验证。例如，在公司内部进行消防演习，只有在演练过程中才能发现可能存在的问题，从而在真正火灾来临时更好地应对。因此，零信任机制的实践和实施对于云服务的安全性和可靠性至关重要。

在工具方面，除了Amazon Verified Permissions和Amazon Verified Access之外，亚马逊云科技还有IAM和权限管控的控制机制。Amazon Verified Permissions中的权限管控实际上是基于IAM的能力，这种能力在亚马逊云科技的一开始就已经构建到整个架构中，因此才有了后面更细粒度的Amazon Verified Permissions能力。

此外，由于生成式AI和大模型的出现，许多没有能力构建或没有大量IT资源或工程能力的公司也能够接触到生成式AI。然而，这些公司的IT和安全基础与大型厂商相比可能不够完善。为了解决这些问题，亚马逊云科技推出Amazon CodeWhisperer，可以生成代码并检测代码的安全性，同时还有Amazon Verified Permissions，可以直接集成到应用程序内部，帮助管理内部运营的权限。整套权限开发是一个非常庞大和复杂的系统，自行开发非常麻烦，而使用第三方或开源软件也不是很好的选择。

Amazon Verified Permissions还提供了策略管理与验证、策略查询与审计的功能。这些功能能够满足合规要求，可以记录并控制用户在何时访问了哪些资源。这些记录可以支持从权限管控到网络控制再到整体的自动化管理，包括审计。

这一整套的理念以易于使用的方式呈现，，让开发者和所有用户都能使用。也是亚马逊云科技对零信任安全模型的实践。不同的企业可以根据自己能力和需求去构建自己的零信任的能力，亚马逊云科技所有的这些服务和能力都是可以被拆开独立使用的，方便用户自由选择。

AI加持，让开发实现自动化

今年4月，亚马逊云科技宣布推出了完全托管的基础模型服务Amazon Bedrock。该服务允许用户通过API访问和使用其中的基础模型，以满足各种需求。

Amazon Bedrock的一个独特之处在于它允许用户使用自己的数据进行定制化特征工程（FM），并利用相关的工具和功能将其无缝集成和部署到应用程序中，无需管理任何基础设施。

举个例子，假设一位用户希望在没有任何基础的情况下构建一套文本生成的大模型。通过Amazon Bedrock，他可以简单地在亚马逊云端定义他的模型需求，并利用各种模型工具将其集成并部署到应用中。这个过程就像拼装乐高一样简单，极大地降低了构建模型的门槛。

通过Amazon Bedrock，用户能够专注于实现自己的AI应用，而无需花费过多时间和精力来处理基础设施方面的问题。这种完全托管的服务为用户提供了更大的灵活性和便利性，使他们能够更加高效地开发和部署生成式AI模型。

云安全护航加速中企全球化发展

目前，很多中国企业也开启了全球化之旅，但在安全合规方面依然面临挑战。

白帆表示，中国企业有着一定的特殊性，例如我们的身份证、手机号码、地址等格式与境外有很大差别。所以亚马逊云科技最新发布的敏感数据保护解决方案中加入了对中国本地的语言语义的识别，同时也引入了合作伙伴的识别能力，包含200多项预置的规则帮助客户自动识别敏感的数据，同时提供高度保护。

此外，亚马逊云科技有产品服务、技术架构及合规认证，也有合作伙伴可提供进行合规的咨询，在这些服务的加持下帮助中国企业加速落地。

在安全方面，云端安全服务的易用性和按需付费特点更容易被企业所接受，不会给企业带来额外的安全成本负担。也正是因为如此，从亚马逊云科技统计显示，中国企业云上安全的采用率与国外企业非常接近，有了明显进步。

IDC中国研究总监王军民认为，“IDC 通过调研，看到企业组织在整个的数字化转型过程中，对于网络安全的担忧是最大的。安全是全球最高管理层数字化举措面临的最大障碍，因此安全也是最高管理层技术投资的关键任务，尤其是云计算市场在全球的快速发展极大推动了客户对IT安全软件及服务的需求。亚马逊云科技用高标准的安全理念，不断提升安全合规能力及标准。”

总体来看，生成式AI的出现已经重塑了市场格局。它为企业带来便利的同时，也引发了新的安全风险。因此，云端安全工具将成为未来备受关注的焦点。也只有通过有效的云端安全工具保障，企业才能够在激烈的“模型大战”中稳定发展，并进一步提升自己的竞争优势。