生成式AI时代,亚马逊云科技如何平衡业务创新与安全风险?

数码好在云体验 2024-07-11 14:43:05

2024年6月,亚马逊云科技一年一度的安全主题大会re:Inforce在美国费城召开。

大会发布了多项安全服务,对于安全领域的从业者来说,这些发布都是真正需要的。而且,这场大会,可以让他们学到更多关于安全的实践经验和实用技能。

令人好奇的是,在生成式AI引起广泛关注的背景下,亚马逊云科技要如何利用它来构建云服务,同时,还要注意安全相关问题呢?针对这一问题,Hart Rossman进行了详细的介绍。

Hart Rossman

Hart Rossman是亚马逊云科技全球客户安全技术支持与服务副总裁,他的工作以保障服务的安全为主,同时推动亚马逊云科技在安全领域的持续创新和改进。

安全工作的领导者一定要了解新技术

Hart认为,作为安全工作的领导者,一定要先了解所要保护的技术内容才能提供安全保护。

一位银行的首席安全官向 Hart表示,他希望他的安全领导者首先是银行从业者,其次才是安全从业者。他雇用了很多安全工作者,但他始终认为,只有当他们成为行业专家时,才能够做出正确的安全和风险管理决策。

对于了解机器学习的人来说,生成式AI也不是什么新奇的事物,只是因为它带来了新的互动方式而格外引人瞩目。事实上,亚马逊云科技在这一领域也深耕许久。

Hart认为,生成式AI是安全领域的一个关键时刻。为了帮助客户进行创新,安全领导者必须深刻理解技术原理和应用场景,并开发新的安全手段。

眼下,生成式AI的用例还不明确,但客户和业务人员那里或许有更好的答案,了解这些需求可以更好地帮助他们实现快速创新。

所以,安全工作最大的挑战就是,既要让用户能快速行动来实现创新,同时又要保持安全,两者显然存在一定的矛盾,需要做出权衡。

Hart表示,为了确保生成式AI技术的安全应用,我们需要更新思维模式,需要重新考虑如何保护我们的工作负载、业务和创新。

生成式AI安全范围矩阵与三个实践经验

为此,亚马逊云科技在几个月前发布了生成式AI安全范围矩阵,它总结了在安全领域的研究成果,帮助安全领导者、开发者和审计员思考生成式AI技术应用场景。

Hart介绍称,亚马逊云科技自身在使用范围矩阵的时候,也学到了三项重要的经验。

首先,身份和访问控制的重要性。确保身份和访问控制的正确性是非常重要的,要遵循“最小权限原则”,确保没有人能利用生成式AI服务获取他们通常不能访问的信息。期间会用到Cedar、Verified Permissions、Amazon IAM和Access Analyzer等技术。

第二点,与数据所有者合作,而不是单独进行开发。个体贡献者在开发生成式AI应用时,应与数据所有者沟通,因为他们的计划中可能已经包含了类似的想法,从而避免重复工作。此外,个人贡献者可以提供反馈,协助优化用例和安全模型,确保项目更好地部署。

第三点,要全面考虑整个架构。在引入新技术时,常常会关注新技术的新颖性,容易忽略整体架构。生成式AI应用不是孤立部署的,而是复杂系统的一部分,因此需要全面考虑整个架构,确保实施合适的控制措施,对整个基础设施和工作流的生命周期进行审计。

亚马逊云科技面向生成式AI开展的安全工作

除了这些经验之谈,亚马逊云科技在产品技术层面也有很多安全相关的举措,在Amazon Nitro、Amazon KMS等技术的基础之上,还面向生成式AI相关服务做了很多有针对性的优化。

Amazon Bedrock和Amazon SageMaker是亚马逊云科技在AI方面的重要服务,都可以简化模型的验证和定制过程。其中,Amazon Bedrock可以确保数据在传输和存储中是加密状态,同时,搭配Guardrails可以确保模型输出的安全性。

此外,新公布的安全参考架构可以更好地将所有工具进行整合。亚马逊云科技还将各种云服务和工具整合在一起,以确保生成式AI的安全性和可观测性,其中会涉及到一些安全工具,比如Amazon Maci、Amazon Inspector、Amazon Detector等。

亚马逊云科技还在利用生成式AI改进安全工作流程。比如,基于Amazon Bedrock开发的支持系统,可以利用生成式AI帮助安全响应人员提高效率,可以快速、安全地识别、分类问题,甚至可以与其他工具和调查技术相关联,加快处理的速度。

有了这套系统,在解决安全问题时,大概平均使用10个查询或提示词即可。Hart表示,我原本不确定它会如此有用,但结果安全人员都非常喜欢,它极大加速了他们以高标准调查和解决问题的速度,这非常棒。

亚马逊云科技的客户事件响应团队(CIRT)专门帮助客户处理在亚马逊云科技共享责任模型下发生的安全事件,在看到Amazon Bedrock和Amazon Q之后,该团队也在考虑如何利用这些技术提供更好的响应体验,帮助事件响应人员更充分了解所调查的领域。

为了探索如何更好地应对涉及生成式AI系统的安全问题,并研究使用生成式AI提高调查结果的方法,亚马逊云科技提出了一个心智模型(Mental model),模型包含七个调查要素,涉及访问控制、计算变更等多个方面。

安全实践要付诸行动

最后,Hart强调说,作为安全工作的领导者,不要把了解到的最佳实践停留在纸面上,而是要付诸实践,通过部署生成式AI技术来提高安全操作水平。

亚马逊云科技提供了工具和经验,帮助安全工作的领导者可以更快、更安全地展开创新,并为客户提供更好的安全保障。

Hart的介绍展示了生成式AI在安全领域的巨大潜力,并提供了具体的实践指南,帮助安全专业人员在快速创新和保持安全之间找到平衡。

0 阅读:0