Top
首页 > 正文

亚马逊云科技生成式AI构建者大会:助力数据和AI普惠

生成式 AI 将为企业数字化转型带来一次巨大的革命。Gartner预测,到2026年,超过80%的企业将使用生成式AI的API或模型,或在生产环境中部署支持生成式AI的应用,这也将为产业发展带来巨大的机遇与挑战。
发布时间:2023-11-03 18:22        来源:赛迪网        作者:

生成式 AI 将为企业数字化转型带来一次巨大的革命。Gartner预测,到2026年,超过80%的企业将使用生成式AI的API或模型,或在生产环境中部署支持生成式AI的应用,这也将为产业发展带来巨大的机遇与挑战。“生成式AI不仅仅是大模型,而整个生成式AI应用就像是浮在海面的冰山,需要大量的基础模型以外的服务来支撑,如加速芯片、数据库、数据分析、数据安全服务等。” 亚马逊云科技大中华区产品部总经理陈晓建在亚马逊云科技生成式AI构建者大会上表示:“亚马逊云科技提供了完整的端到端的生成式AI技术堆栈,从底层的加速层如加速芯片,存储优化,到中间层模型构建工具和服务,再到最上层的生成式AI相关应用,每一层都在针对客户的不同需求持续创新。”

生成式AI正在重塑各行各业,企业都在思考如何借助生成式AI技术创新业务,从而巩固市场优势地位。这项技术爆发的原因在于数据大规模激增,丰富的高度可扩展的计算能力和机器学习模型随时间的不断创新。在此次生成式AI构建者大会上,亚马逊云科技宣布围绕应用场景、工具和基础设施、数据基座、AI原生应用构建和生成式AI服务这五个层面,不断助力企业和开发者全面释放生成式AI的潜力。

1

从典型场景入手创新业务模式

根据麦肯锡咨询2023年6月发布的生成式AI生产力前沿技术报告,在生成式AI技术带来的经济效益中,大约3/4来自四类主要的职能:营销与销售、产品与研发、软件工程和客户运营;而这四类职能,恰恰是生成式AI应用使用的主力军。

典型的应用场景带给企业的业务价值主要包含三个方面:增强客户体验、提升员工生产力与创造力以及优化业务流程。举例说明,Salesforce将Amazon Bedrock和Amazon Titan集成到其生成式AI产品中,使客户能够在Salesforce Data Cloud上轻松安全地使用其数据,以构建生成式AI应用;海尔创新设计中心利用生成式AI能够实现文生图、图生图、定量图和全场景图四个方面的提效,上线后,自动化设计系统应用让相关业务的操作周期缩短了20%。此外,上海沐瞳科技正在携手亚马逊云科技使用生成式AI技术Amazon Bedrock,优化游戏开发领域的业务流程。

生成式AI工具和基础设施

基础模型的发展和迭代速度正超越任何一项技术,基本以月、甚至天为单位持续迭代,而新出现的每一个大模型都在性能和特定领域有着独特的优势。在众多的基础模型中,

如何便捷安全地选择最适合自己业务场景的基础模型,是每一家企业在构建生成式AI应用时所面临的挑战。

为此,亚马逊云科技正式推出了Amazon Bedrock,该服务与Amazon SageMaker Jumpstart结合,助力对基础模型有着不同需求的客户轻松、安全地选择基础模型。Amazon Bedrock是企业使用基础模型构建和扩展生成式AI应用程序的最简单方法,它是一项无服务器服务,提供了广泛的模型选择、数据隐私,并且能够自定义模型,无需管理任何基础设施。该服务提供的基础模型来自Meta, Anthropic, Stability AI, AI21 Labs、Cohere等第三方领先提供商以及自身的Amazon Titan模型等,近期还加入了Meta的下一代开源大模型Llama2以及Anthropic的Claude2等热门基础模型。

夯实数据基座、使用私有化数据

面向生成式AI构建强大的数据“基座”,需要一套全面的服务,以便能够存储用于构建和微调模型的各种类型的数据;还需要服务间的集成,以打破数据孤岛,确保能够随时访问所有数据;此外,还需要在构建生成式AI应用程序的整个生命周期中,确保数据安全并对其进行管理。

亚马逊云科技针对生成式AI领域的用户个人信息、会话信息管理、私域知识库等应用场景都提供了专门构建的数据库。针对检索增强生成(RAG,Retrieval Augment GenerationRAG)需要处理的向量数据,亚马逊云科技为Amazon OpenSearch Service、Amazon Aurora PostgreSQL和 Amazon RDS for PostgreSQL加入了向量数据库功能,客户可以使用这些功能来存储和搜索其机器翻译和生成式AI应用中使用的嵌入,将向量与数据同地放置,可以更轻松地连接数据并减少数据重复。数据集成方面,ETL(数据的抽取Extract,转换Transform,加载 Load)是端到端数据旅程迫切需要解决的问题,亚马逊云科技提出“Zero-ETL”的愿景,并采用了相应的创新,如推出的Aurora Zero ETL for Redshift Integration, 允许存储在Amazon Aurora中实时产生的业务数据,无需ETL工具,以自动的方式同步到数据仓库Amazon Redshift中,以供近实时的进行海量数据的聚合分析。数据治理方面,亚马逊云科技提供Amazon DataZone这一全新的数据治理服务。

借助云原生服务,加速AI应用构建

亚马逊科技通过服务百万客户无数次变化的现代化应用转型过程中,积累了一些不变的经验,以分享给生成式AI时代的构建者:第一,以微服务化和事件驱动架构为核心的设计框架,松耦合的去处理每个功能模块之间的互相依赖;第二,Serverless First简化运维,同时提升效率;第三,应该像重视资产一样重视数据,将数据能力作为应用的核心竞争壁垒加入到生成式AI应用的设计理念中来;第四,将安全与数据的合规与保护放在前所未有的重要地位;第五,为避免重复建设,持续投入例如基础设施即服务等现代应用治理理念,构建高效敏捷的构建者文化。

生成式AI服务及工具服务1000+中小及初创企业

亚马逊云科技推出的人工智能编码伙伴Amazon CodeWhisperer在基础模型高级选项中使用,可以实时生成代码建议,从根本上提高开发人员的生产力。经测试,与未使用的参与者相比,使用Amazon CodeWhisperer的参与者完成任务的速度平均快57%,成功率高27%。最近,亚马逊云科技还推出了Amazon Whisperer自定义功能,能够生成优于之前的代码建议,因为它允许客户使用私有代码库安全地定制 CodeWhisperer代码建议,这些私有代码库可涵盖内部API、数据库、最佳实践和架构模式等。

亚马逊云科技通过将Amazon Quicksight Q功能与Amazon Bedrock提供的大语言模型功能相结合,为Amazon QuickSight提供生成式BI功能。Amazon Quicksight中新的生成式BI功能使业务分析师能够轻松地在几秒钟内快速编写和微调新的视觉效果,并使用自然语言将其添加到仪表板中。在Amazon QuickSight Q的支持下,这种新的创作体验还使得分析师无需查找或学习特定的语法,直接使用自然语言创建新的计算。现在,创建一个新的仪表板或计算只需问Amazon QuickSight Q几个问题,非常简便。

西门子股份公司(以下简称“西门子”)专注于工业、基础设施、交通和医疗领域,并与亚马逊云科技在多个项目上有着紧密合作,此前亚马逊云科技的一些产品和功能已被运用到西门子中国成都灯塔工厂,用于废料分拣、产品自检等关键的生产制造环节。出于企业战略考虑,在结合业务具体需求的前提下,西门子中国与亚马逊云科技合作开发了基于生成式人工智能技术的智能会话机器人“小禹”,它采用了“检索增强生成RAG架构+向量数据库”设计,大大缩短了整体开发与部署的时间,仅用三个月就圆满完成了。未来西门子将不断扩展机器人“小禹”服务于各个应用领域,比如40%的IT支持问题可以利用小禹的知识查询和问答快速解决;产品研发中大约30%跟编码,测试,调试和文档编制相关的任务也可以利用小禹加速完成。

“开发生成式AI应用是一个充满挑战的系统工程,并不是单纯的产品和服务拼接,因此,如何加速客户最终应用的商业化落地,除了亚马逊本身的资源以外,我们同样需要构建强大的合作伙伴生态,携手助力解决生成式AI应用构建中的各种技术问题,加速应用落地。除了云服务之外,亚马逊云科技还提供解决方案架构师、产品技术专家、人工智能实验、数据实验室、快速原型团队、专业服务团队、培训与认证部门等多个资源共同助力客户快速构建AI应用,同时携手生态合作伙伴与初创圈,构建生成式AI的大生态,进一步助力生成式AI技术的落地。”陈晓建表示。

每日必读

专题访谈

合作站点