亚马逊云科技代闻:大语言模型应用加速“零信任”在企业落地
9月6日消息,近日,亚马逊云科技re:Inforce 2023中国站峰会召开。作为一年一度云安全的大会,re:Inforce 2023全球大会6月在美国召开并发布了一系列新安全服务。这次中国站的大会则将关注点聚焦在“AI时代的安全”。
事实上,在过去大半年的时间里,生成式AI应用场景在全球呈现井喷式发展。生成式AI已经应用到企业创新的各个环节,包括智能客服、自动生成代码、创意内容生产等等。生成式AI应用如此广泛的与企业生产、用户生活联系起来,安全的重要性不言而喻。
“一个很有意思的现象是,生成式AI的需求越来越多从业务部门提出。生成式AI不只是技术部门进行创新的工具或平台,而是变成了业务增强竞争力的一个核心手段”,亚马逊云科技大中华区解决方案架构部总监代闻表示,生成式AI应用需求如此旺盛,给企业技术部门带来了前所未有的挑战。
如何构建一套完备的生成式AI应用安全保护屏障?代闻强调,应从全栈角度来考虑安全问题,构建生成式AI应用的安全问题包括三个方面:数据和模型的安全、应用安全、全球合规。
首先,数据和模型安全是构建AI应用的关键。
这其中,数据安全涉及到保护存储中、传输中、使用中的数据安全。代闻表示,亚马逊云科技提供了贯穿生成式AI全周期的数据治理,从数据源的获取到数据的存储和查询,再到将数据传输给 AI平台进行模型的训练、调优和推理,以及全面实施数据分类和治理。
代闻认为,对于大模型训练而言,通过对静态数据的加密只是一个基本的防护。另一个很重要的对数据的保护是“如何能识别敏感数据”,比信用卡的卡号、身份证ID等等。
此次大会上,亚马逊云科技新推出了“敏感数据保护解决方案”。据介绍,该方案可以集中管理所有的账号,同时自动地发现各种存储中的敏感数据,该解决方案允许客户创建数据目录、使用内置或定制数据识别规则定义敏感数据类型,该方案利用机器学习、模式匹配的方式自动识别敏感数据,并提供可视化面板,帮助客户更轻松地对敏感数据进行管理和保护。
模型训练后进入生产环境的安全防护同样重要。此前亚马逊云科技已推出Amazon Bedrock和多种生成式AI服务和功能,以帮助客户构建和扩展自己的生成式AI应用程序。代闻介绍,Amazon Bedrock全面地使用亚马逊云科技提供的安全功能,Amazon KMS、Amazon IAM等可以完善地跟Amazon Bedrock集成,集成以后可以很好地管理加密、权限控制和所有行为的日志。
第二,应用安全是实现AI价值的保障。
代闻表示,生成式AI应用安全应该贯穿从开发到持续集成、持续部署再到投产、监控以及整个反馈的过程。
具体应用时,代闻强调:“大语言模型最后要变成应用来提供服务,怎么样让大语言模型为企业内不同的人提供不同的API,以前是靠应用程序和网络边界来隔离的,现在网络边界已经不足够了,网络边界只是用户认证的基础条件,大语言模型的出现加速了零信任在企业中的落地。”
企业需要对访问大模型的应用进行权限管理,确保只有在拥有特定权限的应用,才能访问或者调用大模型里的制定API。代闻介绍,亚马逊云科技推出几个工具,帮助客户在自己的亚马逊云科技环境下构建这套机制:
Amazon Verified Access 可以搭建一套无需VPN的网络验证系统,Amazon Verified Access还支持可以设置规则。这些管控,可以在几乎不对应用进行任何代码改变的情况下部署和发生。
亚马逊云科技日前推出了Amazon Verified Permissions,为用户构建的应用程序提供细粒度授权和权限管理,用户可以使用该服务管理其应用程序的角色和属性的访问控制。
此外,代闻也特别提到:“零信任和网络控制并不是一个二选一的关系,在亚马逊云科技看来,零信任能够实现按需的授权和认证,而网络控制依然是非常需要的,把这两个概念应该加起来,才能够实现企业的端到端的应用安全,尤其在大模型的时代中。”
第三,全球合规重要性与日俱增
大模型运用带来的业务的变化给安全带来的挑战,当前合规环境不断变化,已经有超过130多个国家和地区制定和颁布了数据保护和隐私安全相关的法律法规,安全合规变得越来越重要。
代闻介绍,亚马逊云科技在全球获得140多个安全标准和合规认证,并将AI技术应用到其安全及合规服务中,能够为大规模批量审查提供安全控制,利用自动化减少手工操作以降低错误,利用AI提供一致性判断,利用AI/ML技术实现自动审查,全面提升合规效率。同时,亚马逊云科技APN合作伙伴网络提供数百种行业领先的安全解决方案,实现多层保护客户的应用和数据安全。
8月14日消息,据台媒《经济日报》今日凌晨报道,鸿海集团首度拿下了英伟达HGXAI服务器芯片基板的订单,供货比重将超过50%。据报道,继此前获得英伟达另一款DGXAI服务器芯片基板订单之后,鸿海已经取得英伟达最重要的...
韩国餐厅机器人市场遭遇中国产品低价冲击,本土企业面临生存危机8月28日消息,一份报告称,韩国的科技企业担心,中国的廉价机器人正在威胁他们自己的餐厅服务机器人市场。韩国由于人口危机导致的劳动力短缺,已经在餐厅中广泛使用了机器人服务员。据《金融时报》引用韩国机器人产...
好未来数学领域千亿级大模型MathGPT开启公测8月24日消息,在好未来20周年直播活动中,CTO田密宣布好未来自研的数学领域千亿级大模型MathGPT正式上线并开启公测。即日起,用户可通过官网(www.mathgpt.com)申请注册账号免费试用体验。今年5月,好未来曾公布正...
百度字节等8家公司大模型产品通过生成式人工智能备案 可上线向公众提供服务IT之家8月31日消息,百度、字节、中科院旗下紫东太初、百川智能、智谱华章等8个企业/机构的大模型位列第一批名单,可正式上线面向公众提供服务。百度深夜宣布,旗下AI大模型产品文心一言率先向全社会全面开放,用户...
SuperCLUE 8月榜单:百川智能Baichuan-13B中国榜夺冠8月29日消息,SuperCLUE发布中文大模型8月榜单。此次SuperCLUE的8月榜单由5部分组成:总排行榜、OPEN多轮开放问题排行榜、OPT三大能力客观题排行榜、十大基础能力排行榜、开源排行榜。据介绍,本次评测选取了目前国...
苹果招募生成式AI人才 提供数十个大模型岗位
根据最新的招聘信息,苹果正在扩大其生成式人工智能领域的专业团队,并计划将这项技术应用于iPhone和iPad等...
昆仑万维旗下Opera生成式AI服务海外用户数突破100万
昆仑万维旗下Opera宣布,生成式AI服务Aria海外用户数突破100万。2023年5月24日,Opera正式推出生成式AI助理...
创始人王慧文退出 美团成AI公司光年之外唯一股东
8月7日消息,据国家企业信用信息公示系统显示,北京光年之外科技有限公司在近期完成工商变更,创始人王慧文...
AppLovin宣布AppDiscovery在AI方面进一步升级 提升营销效果
8月8日消息,营销平台AppLovin(纳斯达克代码:APP)今日宣布,旗下移动用户获取(UA)平台AppDiscovery在人工...