Top
首页 > 正文

智算力即创新力,浪潮信息助力中国大模型创新

在大模型百花齐放的今天浪潮信息用千亿模型全面开源的创新方式为行业走出了先行的一步
发布时间:2023-12-08 12:15        来源:赛迪网        作者:赛迪网

【赛迪网讯】人工智能是人类科技发展史上的最重大的成果之一。生成式人工智能应用的爆发为各行各业带来了新的可能,产生出了一系列对未来工作、生活的畅想,开启了新一轮产业革命的新声。近日,以“智算力就是创新力”为主题的2023人工智能计算大会(AICC)在北京召开,来自政企学等各界各行业的人工智能从业者对中国人工智能的产业应用、技术发展进行了深度探讨,发布多项成果,以论坛和展览多种形式向社会各界展现了中国人工智能产业的最新成果。

人工智能计算的三大变革

IDC和浪潮信息联合发布的《2023-2024中国人工智能计算力发展评估报告》是本次大会最具代表性的成果。这项报告最早从2018年首次发布,迄今已经是第六次发布年度报告,旨在从产业、算力发展、地域分布、行业AI算力对比等多维度对我国人工智能计算力的发展进行一个综合评估,为相关行业客户和技术提供商提出更加有针对性的行动建议。

《报告》显示,2023年,中国通用算力规模预计达到59.3EFLOPS,同比增长8.8%;智能算力预计达到414.1EFLOPS,同比增长59.3%,6.7倍于通用算力增速。其中,我国人工智能服务器市场规模预计将达664亿元,同比增长82.5%。

浪潮信息高级副总裁刘军用

浪潮信息高级副总裁刘军用“三大变革”对中国2023年人工智能计算发展格局做了凝练的总结:计算范式之变、产业动量之变和算力服务格局之变。

刘军表示,因为大模型和生成式AI的发展,驱动了对高性能高互联的算力基础设施的建设,也推进了人工智能在云、边、端的覆盖。同时伴随着应用场景的多样化,底层的基础设施也呈现出了多元化的发展。同时,生成式人工智能会重构现有的工作和生产方式,在内容创作、自动驾驶、零售、医疗,诸多领域都会改变人们的生活和生产方式,也带来了更大的市场机会。最后,生成式AI可以通过采用算力服务租赁的方式来满足自己的训练需求,这也为算力服务的市场带来了新机会。在算力服务的交付过程中,算力服务的供应商,需要提供定制化的基础设施的服务能力,满足单个用户在大模型的训练和推理的独占式大规模、长时间使用的诉求,同时也帮助客户实现在成本和资本投入上的控制。

大模型的应用创新带来AI新生态

《北京市人工智能行业大模型创新应用白皮书(2023年)》是本次大会呈现的另一项重要成果。正是因为大模型的应用才让生成式人工智能的能力得以发挥,产生上述的巨大变革。腾讯云产业智能首席专家王巍认为,大模型深刻触动了产业变化和底层逻辑,引发动力变革、交互变革和效率变革。企业大模型落地需要从底座、功能和应用等方面来进行能力加持。跨模态大模型落地过程中需要克服数据、连接、安全、统一等四个方面的挑战。

对于人工智能的大模型,最重要的是其具体的应用创新。《白皮书》从大模型全球发展态势、北京应用情况和发展建议等方面进行了系统分析和阐述,评选了涵盖政务、金融、医疗、传统产业赋能、文化旅游、智慧城市等六个行业领域18个典型案例。正如恒生电子股份有限公司首席科学家白硕所言,这些大模型的出现改变了过去烟囱式的架构,让多任务训练共享平台成为可能。未来,无论对于金融业务场景发展还是自身数字化建设,都需要构建一个基于垂直领域、符合行业特征的大模型能力中心。

“源2.0”千亿开源大模型,为行业打个样

在2023人工智能计算大会召开前夕,浪潮信息发布了“源2.0”基础大模型,并宣布全面开源。这款基础大模型包括1026亿、518亿、21亿三种参数规模,在编程、推理、逻辑等方面展示出了先进的能力,在算法、数据和算力上都有着独特的创新。在算法上,“源2.0”提出并采用注意力算法结构的新型算法,运用局部注意力过滤增强机制(LFA:Localized Filtering-based Attention),以便于更好地学习自然语言的局部和全局的语言特征,对于自然语言的关联语义理解更准确、更人性,提升了模型的自然语言表达能力,进而提升了模型精度。

在数据上,“源2.0”采用了基于大模型的数据生产及过滤方法,在保证数据多样性的同时也在每一个类别上提升数据质量,获取了一批高质量的数学与代码预训练数据。

在算力上,“源2.0”采用了非均匀流水并行的方法,综合运用“流水线并行+优化器参数并行+数据并行”的策略,让模型在流水并行各阶段的显存占用量分布更均衡,降低了大模型对芯片间P2P带宽的需求,为硬件差异较大的训练环境提供了一种高性能的训练方法。

在大模型百花齐放的今天,浪潮信息用千亿模型全面开源的创新方式为行业走出了先行的一步,通过构建繁荣的开源大模型生态,让行业用户、应用开发商、社区开发者能够通过源2.0构建更强的AI系统,激发无穷创新力。进入人工智能引领的智能化时代,人类对于算力、智能提出了更高的需求。面对林林总总的各种大模型,用户场景决定了技术价值,大模型要找到好的用户场景,才能够真正体现出价值。而AICC大会的价值正是为行业交流搭建平台、展示丰富的应用场景,让中国AI创新有的放矢,加速AI产业化。

每日必读

专题访谈

合作站点