Top
首页 > 正文

九章云极DataCanvas发布AI新工具,AIFS大家庭添新员

九章云极希望在大模型时代算力可能不足的情况下依然让企业能够使用相关的功能
发布时间:2023-12-08 12:09        来源:赛迪网        作者:赛迪网

【赛迪网讯】2023年无疑是人工智能的新纪元元年。生成式AI从去年年底引起全球轰动以后,在今年各个行业都催生了林林总总的大模型。不过,大多数人关注的是那些功能新奇的消费、娱乐类的AI生成工具,但真正具有颠覆意义的还得是那些生产类的AI工具。

在今年6月30日,九章云极DataCanvas发布了DataCanvas Alaya九章元识大模型,时隔不到五个月,近日,九章云极DataCanvas又发布了DataCanvas Alaya九章元识大模型的开源底层LLMOps大模型工具链、开源Alaya-7B大模型系列,以及TableAgent数据分析智能体等一系列创新产品。这些新品都发布在Github上对所有人开源,生动诠释了大模型时代应用优先的战略。

针对算力不足的7B大模型工具

九章云极DataCanvas开源了Alaya-7B大模型系列中的两个模型,分别是Alaya-7B Foundation Model通识大模型和Alaya-7B Chat Model对话大模型。Alaya-7B Foundation Model主要满足用户在白盒模型下去应用Alaya模型的需求,而Alaya-7B Chat Model以对话的方式简化工作,让用户用文字对话制作出表格或生成代码。

为何九章云极DataCanvas选择开源仅仅7B的模型工具?九章云极DataCanvas董事长方磊表示,这主要是考虑到在大模型时代算力可能不足的情况下依然让企业能够使用相关的功能。众所周知,在进入智能时代以后,大模型的规模也是越来越大,算力消耗呈现指数性上升的趋势。

如何在算力可能不足的情况下进行弥补,这需要国产的算力厂商、GPU核心的供应商和九章云极DataCanvas这样的基础软件厂商共同去努力。从小模型时代到大模型时代,有两个巨大的变化。

一是在小模型时代,如英伟达这种GPU比较领先的厂商其护城河具有一定兼容性,企业的许多模型难以迁移。但大模型的架构相对固定,这让企业的模型迁移在一定程度消除了兼容性问题。这意味着九章云极DataCanvas这些基础软件厂商可以针对特定的结构进行深度优化。

其次,是在大模型时代,具有决定意义的不是单张GPU卡的极致性能,而是集群式GPU的工作能力。这除了GPU硬件性能的升级之外,还和GPU连接的技术、分布式调度的技术有密切关系。因此,大模型时代的创新不只是软件的创新,也不只是硬件的创新,而是软硬结合的联合体的集体创新。正是在此背景下,才凸显了Alaya-7B系列的意义。

丰富的大模型工具链

本次发布的产品另一亮点是LLMOps大模型工具链。目前包含两个工具,分别是Large Model Prompt Manager(大模型提示词管理器,简称LMPM)和Large Model Serving(模型运行工具,简称LMS)。

在智能时代,把机器比较容易理解听懂的机器语言和人类正常表达自然语言之间作转换、存储是一项必不可少的过程。在过去这是一项非常具有专业性的工作,所以为社会提出大量程序员的需求。而随着智能时代的深入,一些简单的转换则被一些大模型工具所承担。所以LMPM和LMS这类工具便应运而生。

LMS模型运行工具,能够提高大模型的交付速度和质量,降低大模型的运维和运营成本,以及完成大模型生产化及服务运营等方面的需求。LMPM提示词管理器,通过帮助用户设计更好的提示词,引导大模型生成更加准确、可靠、符合预期的输出内容。该工具既可面向技术人员提供Development Toolkit的开发模式,也可以面向非技术人员提供人机交互的操作模式,满足更多人群使用大模型的需求。

这些工具的辅助丰富了九章云极DataCanvas的大模型生态,让九章云极DataCanvas的大模型如虎添翼,更加便捷用户的使用。

人人都是数据分析师的Agent智能体

Agent智能体是AIGC的新战场,为了将“人人都是数据分析师”从理想照进现实,九章云极DataCanvas发布了TableAgent数据分析智能体。九章云极DataCanvas公司主任架构师杨健介绍称,TableAgent在Alaya元识基础上进化而来,有非常强大的意图理解能力、分析建模能力和洞察力。

作为一种生成式AI,所需即所得是TableAgent的最重要的能力。同时,能够满足私有化部署是TableAgent最大的优势。在国外,OpenAI也有类似的成功产品,那就是Code Interpreter。但在国内很多企业没有办法用,主要原因是考虑到数据安全和合规等各种原因,不可能把企业数据放到线上。因此一款能够在企业内部部署的生成式AI就显得非常必要,可以避免安全合规的风险。

另一方面,TableAgent能支持企业级的数据分析,能够充分满足国内企业动辄上亿级的数据规模分析。最后,TableAgent还能支持领域微调。数据分析在不同行业、不同领域、不同企业都有特定的一些概念背景,包括语言表达特性,以及分析能力的要求。这需要通过不同领域微调让这款生成式AI工具更具有普适性。

强人工智能的应用是人类生成方式的一次巨大变革和颠覆,这次九章云极DataCanvas新品的推广进一步奠定了九章云极DataCanvas在人工智能基础软件的领导者地位。当然,要让中国这艘大船快速进入智能的深海不是一家企业可以完成的,这需要全行业的共同创新。而九章云极DataCanvas已经走出了自己最关键的一步。

每日必读

专题访谈

合作站点