数字先锋 | “言”之有“力”,大模型背后的算力“推手”!

天翼云开发者社区
• 阅读 135

对话式人工智能技术无疑是近年来最引人瞩目的领域之一。这项技术的发展已经改变了人们与计算机交互的方式,为各行各业带来了前所未有的便利与效率,更是在出行、教育、医疗等领域展现出了惊人的潜力。随着不断升级和创新发展,对话式人工智能已成为科技界与社会各界热议的焦点之一。

今天我们一起走进思必驰,探访大模型背后的算力“推手”。

数字先锋 | “言”之有“力”,大模型背后的算力“推手”!

算力让AI“一路狂飙”

思必驰是国内专业的对话式人工智能平台公司。以人机对话交互为核心,为智能汽车、智能家居、智慧政务等领域的客户提供软硬一体化方案,推进智能化转型升级。

近年来,随着ChatGPT“一路狂飙”,思必驰推出了自研的对话式语言大模型DFM-2,并通过了《生成式人工智能服务管理暂行办法》备案,成为江苏省本土人工智能首-个通过大模型备案的企业。据了解,该模型具有通用语言计算大模型的所有AGI特性,同时针对通用模型事实不准、私域知识无法包含、专用领域理解性能不足等问题,进行了一系列技术改造。DFM-2属于垂域大模型,可以实现通用人工智能的柔性定制,并开展大规模、高质量、个性化的人工智能系统定制。

作为大模型的基础“底座”,算力在其中发挥着关键的作用。动辄百亿甚至千亿数据规模的大模型训练,加之在不同阶段的大模型训练对计算能力的不同要求,都需要更高标准的算力条件支撑。中国电信天翼云基于自研技术优势,为其提供了坚实的算力基础,成为思必驰大模型背后的算力“推手”。

数字先锋 | “言”之有“力”,大模型背后的算力“推手”!

算力打通AI“任督二脉”

AI大模型的兴起加速了对更大规模和更强大计算资源的需求。天翼云通过自研的智算平台,向广大客户提供智能算力、云计算、数据等服务,为大模型训练平台提供高性能底座支撑能力

在服务合作伙伴的过程中,思必驰推出了集大语言模型应用的生产、调试、发布、体验、应用于一体的大模型应用平台,可实现跨领域多意图、文档问答、多人交互等大模型能力的快速应用,产品有了这些能力,会变得更加智能好用,而这也需要更庞大的算力支持。

思必驰研发总监樊帅表示,不论是在算力基础设施、算力调度、还是训练能力打造方面,天翼云与思必驰DFM-2大模型携手,为高效训练和产品赋能打通了“任督二脉”。

算力赋能千行百业

“不仅在智能家居,我们在汽车行业、消费电子、金融服务、政务轨交等领域都有深入的布局。”思必驰研发总监陆峰表示。

比如在汽车智能交互方面,思必驰已经实现了全车全时免唤醒、多音区交互、一句话多意图,以及为用户提供出行规划和汽车大师智能解答等复杂的功能,并对日常的口误也有很好的理解。借助天翼云智算平台的高端智算算力支撑,思必驰能够更快速地把这些大模型能力集成到客户的产品和应用中。

因为有天翼云提供的云计算资源和技术支持,可以确保数据处理和分析能力不断改善提升。最重要的是,启动大项目往往需要大量的高端智算算力,这对于很多企业来说需要承担较高的成本。天翼云的智算平台恰到好处地解决了这一痛点,它提供的高性能计算资源和良好的存储解决方案,可以更好地处理海量数据和复杂的算法,从而为客户提供更精准的大模型服务和更高效的运维支持,让研发人员把精力更好地用于优化算法和方案上,而不必担心硬件是否好用。

数字先锋 | “言”之有“力”,大模型背后的算力“推手”!

智能算力助力降本增效

“在算力基础设施上,天翼云集成弹性计算、分布式存储、云网络三大基础核心技术,以全量IaaS+PaaS产品服务,为思必驰DFM-2大模型提供了高性能底座支撑能力。”思必驰研发总监陆峰表示。

在算力调度方面,天翼云通过自研的调度系统,协助思必驰DFM-2大模型调度GPU、NPU、CPU等异构算力资源,大规模训练上云1个月,可以完成数十亿规模大模型所有阶段训练和效果评估。在训练能力打造方面,天翼云支持多种模型训练方式,不仅可以提升大模型训练平台的数据量,还大幅缩短了训练周期和交付进度

苏州电信园区局局长施亚东表示,“其实不仅是思必驰,天翼云基于集数据算力、数据网络、数据传输的一体化资源优势,以及汇聚智能算力、超级算力、通用算力和边缘算力的一站式解决方案两大算力服务优势,目前已经服务了170多万家工业客户以及530万家中小企业。”

天翼云作为提供智算、超算、通算多样化算力服务的一体化算力平台,助力千行百业用上了普惠算力。天翼云致力于让客户使用算力就像“水电”一样便利,而客户想要的产品又能分毫不差地呈现出来。

算力已经成为数字经济的核心生产力,而在算力基础之上,各式各样的数字应用正在百花齐放。相信在不远的将来,在天翼云的智算赋能下,还会有更多更好的应用走入日常生活中。

点赞
收藏
评论区
推荐文章
Kubernetes 资源拓扑感知调度优化
作者星辰算力团队,星辰算力平台基于深入优化云原生统一接入和多云调度,加固容器运行态隔离,挖掘技术增量价值,平台承载了腾讯内部的CPU和异构算力服务,是腾讯内部大规模离线作业、资源统一调度平台。背景问题源起近年来,随着腾讯内部自研上云项目的不断发展,越来越多的业务开始使用云原生方式托管自己的工作负载,容器平台的规模因此不断增大。以Kubernetes
什么是算力网络
什么是算力网络?是一种根据业务需求,在云、网、边之间按需分配和灵活调度计算资源、存储资源以及网络资源的新型信息基础设施。“算力网络“是“以网络为中心”的多种融合资源供给网络计算模型,将“新计算”(云计算、边缘计算、泛在计算)的算力,通过“新联接”(无处不在的网络)整合起来,实现算力的灵活按需使用。
“息壤”引领首个算力互联互通验证平台建设,天翼云开启算力互联网新纪元!
6月21日,“2023算力互联互通大会”在北京召开。天翼云基于自主研发的云操作系统、紫金DPU、算力分发网络平台“息壤”等能力,作为算力互联互通验证平台的设计方、核心建设者、资源提供者与标准制定者,充分展现了跨服务商、跨架构、跨地域的算力互联互通能力,作为开源社区首批成员与核心贡献者推进国产开源社区体系构建,致力于打造全国算力一体化调度、算力资源跨区域高效配置的基础设施,推动算力产业高质量发展,加快数字中国建设
京东云开发者 京东云开发者
7个月前
DeepSpeed: 大模型训练框架 | 京东云技术团队
目前,大模型的发展已经非常火热,关于大模型的训练、微调也是各个公司重点关注方向。但是大模型训练的痛点是模型参数过大,动辄上百亿,如果单靠单个GPU来完成训练基本不可能。所以需要多卡或者分布式训练来完成这项工作。
大语言模型微调数据竞赛,冠军!
近日,天池FTDataRanker竞赛落下帷幕,天翼云智能边缘事业部AI团队(后称天翼云AI团队)凭借在大语言模型(LLM)训练数据增强方面的卓越研究,荣获大语言模型微调数据竞赛——7B模型赛道冠军。
何婆子 何婆子
5个月前
从0到1训练自己的私有大模型,打造属于自己的ChatGPT|网盘高清
从0到1训练自己的私有大模型,打造属于自己的ChatGPT|网盘高清download》chaoxingit.com/2586/从0到1训练自己的私有大模型,打造属于自己的ChatGPT,可以遵循以下步骤:确定模型类型和框架:选择适合的模型类型和框架,如GP
实力强劲!天翼云斩获多项权威大奖与认证!
近日,云计算标准和开源推进委员会(TC608)年度工作总结会暨算力服务工作组成果发布会在北京召开。会上,天翼云斩获2023年算力服务领航者计划优秀案例等多项大奖,天翼云算力分发网络平台“息壤”通过了可信算力调度服务能力认证。凭借领先的产品技术和丰富的落地实践,天翼云深度赋能千行百业高质量发展,获得业界权威认可。
程昱 程昱
3个月前
尚硅谷AI大模型实战训练营|更新中
尚硅谷AI大模型实战训练营|更新中download》quangneng.com/4635/什么是AI大模型AI大模型通常指的是参数数量庞大、计算资源需求巨大的人工智能模型。这些模型通常具有数十亿甚至数千亿个参数,需要在大规模的计算设备上进行训练和推理。这些
云行|中国速度,智算未来!天翼云为宁波数智化发展注入新动能!
智算正成为人工智能时代的关键生产力要素。为落实好国家要求,抓住智算新机遇,天翼云着力打造从IaaS到SaaS的一体化服务,实现基础设施、算力平台、算力调度、行业大模型的全面升级。天翼云科技有限公司副总经理黄洪波表示,天翼云已在浙江形成了“211X”的分布式算力资源布局,通过算力多级下沉和层次化布局,天翼云具备了差异化的资源服务能力,广泛服务于宁波等浙江省各类行业客户,为客户提供普惠、泛在、安全的算力资源。未来,天翼云将立足宁波所在的长三角集群,持续深化“东数西算”布局,进一步深化合作,共谋发展。
国云注智,聚力向新!天翼云打造五位一体智算云能力体系!
5月25日,第七届数字中国建设峰会期间,以“国云注智 聚力向新”为主题的2024智算云生态大会·智算云论坛在福州召开。天翼云全面升级产品及生态矩阵,打造“算力·平台·数据·模型·应用”五位一体的智算云能力体系。会上举行“开源大模型社区发布暨生态繁荣计划启动”、“息壤区域算力互联互通及调度管理服务计划暨息壤城市算力互联网点亮行动”等仪式,通过产业各方伙伴共创、共建、共推智算产业发展再上新台阶。作为云服务国家队,天翼云正以全新智算云布局,加快构建以科技创新为驱动的新质生产力,为数字经济发展与数字中国建设注入澎湃动能。
天翼云开发者社区
天翼云开发者社区
Lv1
天翼云是中国电信倾力打造的云服务品牌,致力于成为领先的云计算服务提供商。提供云主机、CDN、云电脑、大数据及AI等全线产品和场景化解决方案。
文章
550
粉丝
10
获赞
37