2023亚马逊云科技re:Inforce中国站开启 解读生成式AI的安全挑战及对策

“2023亚马逊云科技re:Inforce中国站”今日在北京召开。此次大会以“AI时代 全面智能的安全”为主题，聚焦生成式AI在安全层面给企业带来的挑战及机遇。亚马逊云科技认为，安全是构建生成式AI不可回避的重要议题，企业只有在AI旅程中做好数据、模型和应用的安全防护，才能更好地借助AI加速业务创新。

在大会上，亚马逊云科技还宣布与涂鸦智能成立“联合安全实验室”，双方将在机密计算及数据隐私、Matter技术合作及体系建设、生成式AI在IoT领域的安全实践等方面展开联合共创；与德勤企业咨询合作发布《中国企业出海发展建议白皮书2023版》，为中国出海企业解读相应的法律法规，分析面临的问题和挑战，并提出应对策略提升出海企业数据安全。同时，亚马逊云科技还正式推出“敏感数据保护解决方案”，帮助客户在数据治理层面，实现自动化敏感数据发现并在统一平台上管理数据资产；以及多项安全新服务及功能，如Amazon Verified Permissions、Amazon CodeGuru Security、Findings Groups for Amazon Detective等，帮助客户构建应用程序的零信任管理，提升漏洞发现及响应的智能化。

如今，各行各业的企业都希望能抓住生成式 AI带来的机遇开展业务创新。企业根据自身场景，在云平台的支持下，可选择适合的基础模型，或利用自身数据基于基础模型构建定制化的模型，或直接使用开箱即用的生成式 AI 应用。企业借助生成式AI、大语言模型等前沿技术开始业务创新的过程中，会面临诸多围绕数据、模型、应用等新的安全挑战。生成式 AI需要依赖大量的数据和模型，任何一个环节的安全疏漏，如使用不安全的模型训练及微调、模型的泄露、不安全的应用、不安全的应用访问等等，都可能会导致企业自身数据及隐私的泄露，或者产生不准确甚至错误的结果。企业只有确保应用AI各个环节的安全合规，才能更好地的助力业务开展创新。

亚马逊云科技不仅提供了一系列的技术、服务和工具帮助更多企业充分释放生成式 AI 的潜力，同时确保安全合规是开展一切业务的基础，包括其生成式 AI的各种工具，涵盖数据、模型以及应用各个环节。同时，亚马逊云科技还将AI以及生成式 AI技术应用于其安全及合规服务中，以更智能的安全、合规服务应对复杂的安全威胁、提高合规效率。在IDC近期发布的《2023中国公有云托管安全服务能力报告》中，亚马逊云科技在专家能力、漏洞及威胁检测、威胁情报等7项目评估维度上是获得满分最多的厂商之一，其中“生态建设”评估维度是唯一获得满分的厂商。

确保数据、模型以及应用的安全，企业才能更好的释放生成式AI应用的价值

数据是企业使用AI进行业务创新的基础，例如企业需要使用高价值的业务数据进行模型训练及微调，数据在产生价值之前会经过数据存储、传输、使用、治理等各个环节。企业为构建生成式AI应用，首先应在数据流动的过程中确保端到端的数据安全，为生成式AI应用提供安全和有价值的数据输入。在亚马逊云科技，我们一直严格遵从客户拥有和控制数据的理念，提供了行业领先的技术和物理措施来防止未经授权的访问，为数据提供涵盖存储、传输、使用、治理等各个环节的加密及保护服务。例如，亚马逊云科技的客户可使用Amazon Key Management Service (Amazon KMS)，并将其与亚马逊云科技众多服务深度集成轻松保护多种数据； Amazon Nitro 提供硬件级别的安全机制，实现了网络、存储隔离的独立安全通道，使用 Nitro Enclaves 的加密功能，客户可以进行机密计算，其中多个参与方可以加入和处理高度敏感的数据，而无需分别向每个参与方披露或共享实际数据。

亚马逊云科技还提供贯穿如Amazon Data Zone整个数据周期的治理服务，并在本次大会上推出了敏感数据保护解决方案，可实现对企业敏感数据的自动化发现并在统一平台管理数据资产。该解决方案允许客户创建数据目录、使用内置或定制数据识别规则定义敏感数据类型，该方案利用机器学习、模式匹配的方式自动识别敏感数据，并提供可视化面板，帮助客户更轻松地对敏感数据进行管理和保护。

企业需要借助模型以及基础模型构建AI应用，要确保训练结果的准确性和有效性，模型训练的安全性同样至关重要，企业应全方位的监控模型的安全运行，包括模型的访问安全、模型的管理、模型运行的安全监控等。针对自建模型的企业，Amazon SageMaker提供了多种功能帮助开发人员更轻松地构建、训练和部署模型，如Amazon SageMaker Model Cards可实现对模型信息的统一管理、Amazon SageMaker Model Monitor可自动监测模型的准确性。为了降低客户生成式 AI 的使用门槛，亚马逊云科技推出了完全托管的基础模型服务Amazon Bedrock，客户可根据自身需求通过API 访问及使用其中的基础模型。Amazon Bedrock与亚马逊云科技其他托管服务一样，客户可安全地在其虚拟私有云(VPC)中使用该服务并对基础模型进行微调，始终保持其自有数据以及模型的安全。

最后，生成式AI应用本身以及访问的安全性也同样重要。将安全功能嵌入AI应用之中是提升应用本身安全性的方法之一。以Amazon CodeWhisperer为例，该服务是亚马逊云科技推出的AI编程助手，可根据开发者指令利用内嵌的基础模型实时生成代码建议，该服务内置了代码安全扫描功能，可帮助开发者查找难以检测的漏洞并提出补救建议。针对应用的安全访问，企业可构建零信任的应用安全访问策略。亚马逊云科技日前推出了Amazon Verified Permissions，为用户构建的应用程序提供细粒度授权和权限管理，用户可以使用该服务管理其应用程序的角色和属性的访问控制。

加强AI赋能安全及合规服务，应对复杂的安全威胁、提升合规效率

亚马逊云科技将AI技术应用到其安全及合规服务中，通过更智能的安全及合规服务应对复杂的安全威胁、提升合规效率，如威胁检测服务Amazon GuardDuty可通过人工智能和机器学习将安全事件的误报率降低50%。亚马逊云科技通过在其500多项自身合规审计控制项中使用AI技术，大幅提升了自身的合规效率，将审计时间简约了53%。在此次大会上，亚马逊云科技推出了多项具有AI能力的安全服务新功能，包括推出Amazon CodeGuru Security 预览版，利用机器学习技术帮助用户识别代码漏洞，并提供修复漏洞的指导意见；扩大Amazon Detective发现组的范围至Amazon Inspector，该服务利用机器学习技术，可以帮助专业安全人员加快调查过程、确定根本原因。

与涂鸦智能成立“联合安全实验室”，为物联网行业安全发展注入新动能

亚马逊云科技宣布与全球领先的IoT开发者平台涂鸦智能成立“联合安全实验室”，双方将在智能家居、数据安全、安全文化建设、海外合规等领域，重点就机密计算及数据隐私、Matter技术合作及体系建设、生成式AI在IoT领域等安全实践展开联合共创。涂鸦智能与亚马逊云科技已有近九年的合作历史，此次“联合安全实验室”的成立将进一步加强双方的合作，为物联网行业安全发展注入新动能，致力于为客户和终端用户的物联网设备提供更多安全保障。

与德勤合作发布《中国企业出海发展建议白皮书2023版》

亚马逊云科技与德勤企业咨询合作发布了《中国企业出海发展建议白皮书2023版》，从组织建设和技术实践两方面提出安全合规建议。在组织建设方面出海企业应当建立健全管理体系，包括制定隐私处理原则、数据保护原则，实行数据生命周期管理制度、数据泄露管理规范，健全相关事件的响应、评估等操作规程；在技术实施方面，亚马逊云科技提供的300多项安全、合规服务及功能，涵盖威胁检测和事件响应、身份认证和访问控制、网络和基础设施安全、数据保护与隐私以及风险管控及合规五大领域，为企业提供全方位的云上安全保障。除此之外，亚马逊云科技还提供责任共担模型、云上隐私保护和几乎满足全球所有监管机构合规性要求的合规计划，全面助力中国企业应对出海合规挑战。