全球掀起AI热,天翼云智算能力已就绪!

天翼云开发者社区
• 阅读 247

随着超大规模人工智能模型和海量数据的爆发,人工智能对算力的需求也随之不断走高。根据IDC发布的《2022-2023中国人工智能计算力发展评估报告》显示,中国人工智能计算力保持快速增长,2022年智能算力规模达到268百亿亿次/秒(EFLOPS),超过通用算力规模。 全球掀起AI热,天翼云智算能力已就绪!

作为云服务国家队,天翼云积极推进算力普惠发展,已形成“2+4+31+X”资源布局,构建了“集中化+区域化+属地化+边缘化”的云网基础设施,为人工智能夯实“算力底座”,助力AI快速完成数据训练,提高计算与模拟的精准性。

为了适应市场智能算力的快速增长,天翼云聚焦人工智能场景创新,推出天翼云智算平台,以普惠智能算力为基础,支持大模型训练、智能推荐、无人驾驶、生命科学、NLP等业务场景。

天翼云智算平台依托天翼云分布式架构的云底座和海量的计算、存储、网络资源,具有高性能、高弹性、高速互联、高性价比等特性,能够满足企业不断增长的高性能算力使用需求。

日前,天翼云智算平台通过中国信息通信研究院《可信算力服务 平台技术能力要求 第3部分:智算平台》评估,成为业内首批通过该项评估的云服务商。 全球掀起AI热,天翼云智算能力已就绪!

具体来看,天翼云智算平台主要有以下四个方面的差异化优势:

01 高性能底座支撑能力 天翼云智算平台基于天翼云TeleCloudOS4.0云网底座,覆盖全场景算力需求;打造国产化能力体系,适配国产主流GPU芯片以及各种国产服务器,适配自研云服务器操作系统CTyunOS;集成弹性计算、分布式存储、云网络三大基础核心技术,软硬协同硬件加速,提供全量IaaS产品服务。

02 GPU虚拟化能力 天翼云智算平台支持主流Mediated Passthrough(vGPU)、直通透传等虚拟化技术;支持软硬件层面的容器虚拟化技术,软件方面支持API劫持及其他算力和显存灵活分配能力,硬件方面支持MIG、vNPU等特性,从物理资源层面分配单卡资源。

03 高效的调度能力 资源调度方面,天翼云智算平台实现对GPU、NPU、CPU等异构算力资源的混合调度,训练、推理任务统一调度,实现了异构算力和异构任务的统一调度;任务调度方面,提供基于任务优先级、任务SLA、资源独占式调度、共享式调度、抢占式调度,灵活支持各类差异化的用户需求。

04 分布式训练能力 天翼云智算平台提供分布式训练一站式解决方案,融合GPU拓扑感知、亲和调度、高IO并行文件系统等底层技术,支持多种模型训练方式,兼容主流AI框架,扩展定制业界主流分布式训练方案,提升训练数据量,缩短模型交付周期;提供定制化算法框架,采用代码生成等方式,内置提供丰富的算子,简化数据集导入、特征工程处理、预训练模型依赖等步骤,提升AI训练开发效率;针对大模型分布式环境下的训练,显存优化方面使用ZeRo等技术,打破显存与内存的隔阂,降低训练的显存开销。

随着国内新一波人工智能浪潮袭来以及AI规模化落地应用,具备“更高、更快、更强”能力的智能计算基础设施平台被人工智能行业所青睐。天翼云智算平台适用于城市治理、AI质检、搜索推荐、自动驾驶、金融、科学研究等领域,可提供人工智能应用所需算力服务、数据服务和算法服务,通过算力的生产、聚合、调度和释放,促进AI产业聚集发展。 全球掀起AI热,天翼云智算能力已就绪!

天翼云智算平台不仅提供算力,还对云能力做“组件化”封装进行输出,能迅速支撑业务上线,提升技术创新能力,加速科技研发进程。此外,智算平台的推广与应用将产生联动效应,带动通信服务网络、大数据、人工智能等技术快速迭代,有助于我国科技创新提速。

在人工智能按下“快进键”的背景下,天翼云不断完善智算基础设施,打造创新性的产品,深度赋能人工智能领域企业跑出“加速度”,并通过多点发力布局走在智算领域的前列,AI应用也将在科技创新的助力下进一步加速“走深向实”,全面推动AI产业高质量发展。

点赞
收藏
评论区
推荐文章
天翼云4.0创新成果发布!科技创新赋能安全普惠
5月17日,中国电信天翼云以“红云天翼,安全普惠”为主题,在线上举办了天翼云4.0创新成果发布会。此次发布会重磅发布了七款自主研发产品,全面展示了天翼云4.0分布式云的科技创新能力,为行业用户构建云边端“一朵云”。近年来,算力已成为最具活力和创新力的新型生产力,算力种类多样性态势日渐凸显、算力布局泛在化趋势愈发显著。如何构建无缝分布式部署体系,实现“算力一体
天翼云4.0分布式云赋能千行百业数字化转型!
7月29日,在2022中国算力大会期间,由中国电信承办的天翼云4.0分布式云赋能行业数字化转型分论坛在山东召开。中国电信天翼云不断升级技术、产品与服务能力,夯实数字经济发展的算力底座,推动算力服务泛在、智能、绿色发展。会上,工信部领导现场致辞,中国电信及客户、合作伙伴等企业代表分享了数字化转型实践经验,为千行百业上云用数赋智提供落地参考。践行云服务国家队使命
计算正向智算跨越
计算正向智算跨越源自:经济日报记者:黄鑫算力作为数字经济时代的关键生产力要素,已成为推动数字经济发展的核心支撑力和驱动力。在6月29日举行的中国算力大会新闻发布会上,工业和信息化部副部长张云明透露,截至2021年底,我国在用数据中心机架总规模超过520万标准机架,在用数据中心服务器规模1900万台,算力规模排名全球第二。“这些数据表明,随着高质量算力
玩转云端 | 看天翼云iBox智能盒子如何实现边缘侧的“神机妙算”
在昨日播出的《坐标中国》系列主题片中国速度之《神机妙算》中中国高达150EFlops的总算力规模以及在20毫秒内传输2200公里的算力超高速我国算力发展除了体现在超高速与大规模上更体现在智能化发展中在AI和算力调度平台的赋能下智算能力不断
安全可信 | 首批!天翼云智算平台率先通过可信算力服务评估
近日,中国信息通信研究院可信算力服务评审会圆满结束,智算平台率先顺利通过《可信算力服务平台技术能力要求第3部分:智算平台》评估,成为业内首批通过该项评估的云服务商。该项可信评估主要考察智算平台的基础资源、平台、应用三层核心能力,监控运维、安全性、高可用与灾
ChatGPT 背后的英雄——AI芯片
AI芯片能为人工智能应用提供所需的基础算力;按技术架构主要分为GPU、FPGA和ASIC。ChatGPT有着大量复杂计算需求的AI模型,AI芯片专门用于处理人工智能应用中的大量计算任务,是不可或缺的底层硬件
“息壤”引领首个算力互联互通验证平台建设,天翼云开启算力互联网新纪元!
6月21日,“2023算力互联互通大会”在北京召开。天翼云基于自主研发的云操作系统、紫金DPU、算力分发网络平台“息壤”等能力,作为算力互联互通验证平台的设计方、核心建设者、资源提供者与标准制定者,充分展现了跨服务商、跨架构、跨地域的算力互联互通能力,作为开源社区首批成员与核心贡献者推进国产开源社区体系构建,致力于打造全国算力一体化调度、算力资源跨区域高效配置的基础设施,推动算力产业高质量发展,加快数字中国建设
云行 | 国云入江南 数智耀太湖,天翼云谱写江苏数智发展新篇!
12月20日,以“国云入江南数智耀太湖”为主题的天翼云中国行·无锡站活动成功举办。无锡市政府部门领导,各行业客户、合作伙伴企业代表与天翼云齐聚一堂,共谋江苏省数字化发展新篇章。会上举行了天翼云“213”一城一池全栈云发布仪式、天翼云江苏智能算力中心落成发布仪式。通过不断优化算力布局,天翼云持续协同合作伙伴为江苏乃至整个长三角区域行业数智化发展提供澎湃算力。
云行|中国速度,智算未来!天翼云为宁波数智化发展注入新动能!
智算正成为人工智能时代的关键生产力要素。为落实好国家要求,抓住智算新机遇,天翼云着力打造从IaaS到SaaS的一体化服务,实现基础设施、算力平台、算力调度、行业大模型的全面升级。天翼云科技有限公司副总经理黄洪波表示,天翼云已在浙江形成了“211X”的分布式算力资源布局,通过算力多级下沉和层次化布局,天翼云具备了差异化的资源服务能力,广泛服务于宁波等浙江省各类行业客户,为客户提供普惠、泛在、安全的算力资源。未来,天翼云将立足宁波所在的长三角集群,持续深化“东数西算”布局,进一步深化合作,共谋发展。
全国首/个!天翼云上海临港国产单池万卡液冷算力集群启用!
3月22日,中国电信宣布,天翼云上海临港国产万卡算力池正式启用,八家合作伙伴宣布将作为首批用户入驻临港国产算力池。这是国内首/个投入正式运营的国产单池万卡液冷算力集群,也是业内领先的全国产化云智一体公共智算中心。通过中国电信天翼云打造的人工智能公共算力服务平台,将以公共普惠、创新领先的算力供给,算、存、运一体的综合算力服务模式,全面赋能上海千行百业,成为上海“新算力”的重要一极。
天翼云开发者社区
天翼云开发者社区
Lv1
天翼云是中国电信倾力打造的云服务品牌,致力于成为领先的云计算服务提供商。提供云主机、CDN、云电脑、大数据及AI等全线产品和场景化解决方案。
文章
494
粉丝
8
获赞
37