Top
首页 > 正文

“言”之有“力”,大模型背后的算力“推手”

对话式人工智能技术无疑是近年来最引人瞩目的领域之一。这项技术的发展已经改变了人们与计算机交互的方式,为各行各业带来了前所未有的便利与效率。更是在出行、教育、医疗等领域展现出了惊人的潜力,其不断升级和创新的发展,成为科技界与社会各界热议的焦点之一。欢迎来到新华网特别策划,全息产业探访节目--《云上之翼》,今天我们一起走进思必驰,探访大模型背后的算力“推手”。
发布时间:2024-01-05 20:44        来源:赛迪网        作者:

对话式人工智能技术无疑是近年来最引人瞩目的领域之一。这项技术的发展已经改变了人们与计算机交互的方式,为各行各业带来了前所未有的便利与效率。更是在出行、教育、医疗等领域展现出了惊人的潜力,其不断升级和创新的发展,成为科技界与社会各界热议的焦点之一。

欢迎来到新华网特别策划,全息产业探访节目--《云上之翼》,今天我们一起走进思必驰,探访大模型背后的算力“推手”。

算力让AI“一路狂飙”

思必驰是国内专业的对话式人工智能平台公司。以人机对话交互为核心,为智能汽车、智能家居、智慧政务等领域的客户提供软硬一体化方案,推进智能化转型升级。

近年来,随着ChatGPT“一路狂飙”,思必驰推出了自研的对话式语言大模型DFM-2,并通过了《生成式人工智能服务管理暂行办法》备案,成为江苏省本土人工智能首个通过大模型备案的企业。据了解,该模型具有通用语言计算大模型的所有AGI特性,同时针对通用模型事实不准、私域知识无法包含、专用领域理解性能不足等问题,进行了一系列技术改造。DFM-2属于垂域大模型,可以实现通用人工智能的柔性定制,并开展大规模、高质量、个性化的人工智能系统定制。

作为大模型的基础“底座”,算力在其中发挥着关键的作用。动辄百亿甚至千亿数据规模的大模型训练,加之在不同阶段的大模型训练对计算能力的不同要求,都需要更高标准的算力条件支撑。中国电信天翼云基于自研技术优势,为其提供了坚实的算力基础,成为思必驰大模型背后的算力“推手”。

算力打通AI“任督二脉”

AI大模型的兴起加速了对更大规模和更强大计算资源的需求。天翼云通过自研的智算平台,向广大客户提供智能算力、云计算、数据等服务,为大模型训练平台提供高性能底座支撑能力。

在服务合作伙伴的过程中,思必驰推出了集大语言模型应用的生产、调试、发布、体验、应用于一体的大模型应用平台,可实现跨领域多意图、文档问答、多人设交互等大模型能力的快速应用,产品有了这些能力,会变得更加智能好用。这意味着需要更庞大的算力支持。

思必驰研发总监樊帅表示,不论是在算力基础设施、算力调度、还是训练能力打造方面,可以说天翼云与思必驰DFM-2大模型携手,为高效训练和产品赋能打通了“任督二脉”。

算力赋能千行百业

“不仅在智能家居,我们在汽车行业、消费电子、金融服务、政务轨交等等领域都有深入的布局。”思必驰研发总监陆峰表示。

比如在汽车智能交互方面,思必驰已经实现了全车全时免唤醒、多音区交互、一句话多意图,以及为用户提供出行规划和汽车大师智能解答等等复杂的功能,而且对日常的口误也有很好的理解。借助天翼云智算平台的高端智算算力支撑,思必驰能够更快速地把这些大模型能力集成到客户的产品和应用中。

因为有天翼云提供的云计算资源和技术支持,可以确保数据处理和分析能力不断改善提升。最重要的是,启动大项目往往需要大量的高端智算算力,这对于很多企业来说需要承担较高的成本。天翼云的智算平台恰到好处地解决了这一痛点,它提供的高性能计算资源和良好的存储解决方案,可以更好地处理海量数据和复杂的算法,从而可以为客户提供更精准的大模型服务和更高效的运维支持,让研发人员把精力更好地用于优化算法和方案上,而不必担心硬件好不好用。

智能算力助力降本增效

“在算力基础设施上,天翼云集成弹性计算、分布式存储、云网络三大基础核心技术,以全量IaaS+PaaS产品服务,为思必驰DFM-2大模型提供了高性能底座支撑能力。”思必驰研发总监陆峰表示。

在算力调度方面,天翼云通过自研的调度系统,协助思必驰DFM-2大模型调度GPU、NPU、CPU等异构算力资源,做大模训练上云1个月,可以完成数十亿规模大模型所有阶段训练和效果评估。在训练能力打造方面,天翼云支持多种模型训练方式,不仅可以提升大模型训练平台的数据量,还大幅缩短了训练周期和交付进度。

苏州电信园区局局长施亚东表示,“其实不仅是思必驰,天翼云基于集数据算力、数据网络、数据传输的一体化资源优势,以及汇聚通用算力、智能算力、超级算力和边缘算力的一站式解决方案两大算力服务优势,目前已经服务了170多万家工业客户以及530万家中小企业。”

天翼云作为提供智算、超算、通算多样化算力服务的一体化算力平台,助力千行百业用上了普惠算力。天翼云致力于让客户使用算力就像“水电”一样无感,而客户想要的产品又能分毫不差地呈现出来。

算力已经成为数字经济的核心生产力,而在算力基础之上,各式各样的数字应用正在百花齐放。相信在不远的将来,在天翼云的智算赋能下,还会有更多更好的应用走入日常生活中。

每日必读

专题访谈

合作站点