百度飞桨适配MediaTek人工智能芯片,为智能产业落地开启新局

极客星云客
• 阅读 2841

AI人工智能产业又一重磅合作!百度飞桨(PaddlePaddle)深度学习平台携手IC设计领导厂商MediaTek,完成Paddle Lite轻量化推理引擎与MediaTek的NeuroPilot人工智能通用软件平台适配。

如此一来,所有MediaTek的人工智能芯片APU (Artificial intelligence Processing Unit ) 都能够使用Paddle Lite快速部署。透过推进智能技术与产品的进步,双方有着共同的目标,即加速AI科技的普及与进步,让AI技术更好的为所有用户服务,并实现产业落地。

MediaTek芯片目前在智能音箱/智能带屏音箱领域市场占有率过半,与百度共同合作开发的智能音箱产品小度在家系列,AI识别技术获得市场好评,销量持续位居前茅。百度在 AI 技术及生态圈加大了布局, MediaTek 深耕边缘 AI 技术平台,双方以智能屏音箱小度在家产品的合作为基础,携手拓展更广泛的智能家居市场, 共同丰富生态圈。

百度飞桨是自主研发、开源开放、功能最完备的产业级深度学习平台,集深度学习核心框架、基础模型库、端到端开发套件、工具组件和服务平台于一体,包含完整的开发、训练、推理的端到端深度学习AI模型开发工具链。

飞桨源于产业实践,致力于与产业深入融合,目前飞桨已经广泛应用于工业、农业、服务业等领域,不仅如此,在边缘端口、移动端和部分服务器端等场景内,Paddle Lite这一轻量化推理引擎也可以进行AI模型部署、高性能推理等工作。如智能闸机、智能音箱、智能抠图、AR/VR手机等应用。与MediaTek探索的边缘应用的方向不谋而合。

百度飞桨适配MediaTek人工智能芯片,为智能产业落地开启新局

图1 飞桨PaddlePaddle协助万千行业落地AI应用

MediaTek芯片技术优势及特点

MediaTek是唯一支持泛消费类产品的芯片方案公司,此前在AI领域发布多形态的智能产品,包括应用于汽车电子、智能音箱、智能红酒柜、智能家居、智能支付设备、智能电视、智能手机等众多领域的芯片方案。MediaTek拥有广泛技术组合开发和跨平台及操作系统(Android, Linux, RTOS, 其他)的强大优势,在面向主流智能家居应用领域,MediaTek 推出了新一代端侧 AI 平台 MT8175,其特点包含:

•   12 纳米制程 : 先进制程提升性能,降低功耗 30%

•   APU (AI神经网络加速处理器) 支持 Paddle Lite轻量化推理引擎

•   AI 摄像头功能 : 支持 广角镜头/移动侦测/人脸识别/手势识别

•   Audio DSP : 支持低功耗语音助理设备

•   MiraVision : 支持芯片级护眼及屏显参数依环境自调节技术

•   WiFi : 内置 802.11ac 及蓝芽 Mesh 组网

 百度飞桨适配MediaTek人工智能芯片,为智能产业落地开启新局

图2 MediaTek 芯片解決方案

MediaTek与百度飞桨的合作成果

MediaTek 弹性的AI框架NeuroPilot 与百度 Paddle Lite 集成,实现端上实时智能推理的产品应用。Paddle Lite 运行在MediaTek APU 上的效率相比于传统 ARM CPU 性能提升 6 倍,功耗降低90%,实现低功耗,便携式产品应用。通过下方的系统架构图可以见到,相比于离线的工具转换,透过Delegate的子图直接调用,可以降低软件時延,确保维持Paddle Lite上模型的效能。

百度飞桨适配MediaTek人工智能芯片,为智能产业落地开启新局

图3 Paddle Lite 与 MediaTek NeuroPilot 框架图

如图4所示, 从实测结果可以看出,与手机等移动端常用的国内外主流CPU相比,MT8175 APU在MobileNET_v1的耗时表现更出色,由此证明在AI相关领域,如图像分割、点击率预估、目标检测、语义理解上,语音合成、图像分类等,专用的AI芯片将带来更出色的效果。

百度飞桨适配MediaTek人工智能芯片,为智能产业落地开启新局

图4 MT8175 芯片在MobileNet V1模型上对比主流CPU时延明显优化

百度飞桨适配MediaTek人工智能芯片,为智能产业落地开启新局

 图5 NeuroPilot 与 Paddle Lite兼容性认证书

百度飞桨适配MediaTek人工智能芯片,为智能产业落地开启新局图6 Paddle Lite支持MediaTek 人工智能APU芯片

Paddle Lite 全新升级双方后续合作展望

Paddle Lite即将在近期上线的V2.6版本中新增支持无较准量化模型,8bit精度损失从 2%减少到0.1%,编译脚本分不同后端平台硬件做分支优化,单个场景编译更简单。而在全新更新的文档中,也详细介绍了如何使用Paddle Lite在MediaTek 人工智能APU硬件上做预测部署,支持的芯片、设备、Paddle模型与算子列表及参考示例演示等。

(https://paddle-lite.readthedo..._guides/mediatek_apu.html)

百度飞桨适配MediaTek人工智能芯片,为智能产业落地开启新局

未来,百度飞桨与 MediaTek 人工智能平台除了在硬件上进行全面适配,还将携手拓展更广泛的智能应用,针对主流行业应用场景做进一步的性能优化,推出行业标杆的解决方案,共同助力人工智能场景规模化,赋予AI更多可能。


关于飞桨

百度飞桨适配MediaTek人工智能芯片,为智能产业落地开启新局

百度飞桨是目前国内自主研发、开源开放、功能最完备的产业级深度学习平台,集深度学习核心框架、基础模型库、端到端开发套件、工具组件和服务平台于一体。飞桨源于产业实践,致力于与产业深入融合,提供了领先的深度学习&机器学习任务开发、训练、部署能力,加速企业从算法研发到产业落地的过程。目前飞桨已广泛应用于工业、农业、服务业等,服务180多万开发者,与合作伙伴一起帮助越来越多的行业完成AI赋能。

关于MediaTek

百度飞桨适配MediaTek人工智能芯片,为智能产业落地开启新局

MediaTek是全球无晶圆厂半导体公司,在移动终端、智能家居应用、无线连接技术及物联网产品等市场位居领先地位,一年约有15亿台内建MediaTek芯片的终端产品在全球各地上市。MediaTek力求技术创新并赋能市场,为5G、智能手机、平板电脑、智能电视、语音助手设备、可穿戴设备与车用电子等产品提供高效能低功耗的移动计算技术、先进的通信技术、汽车解决方案以及多媒体功能。MediaTek致力让科技产品更普及,因为我们相信科技能够改善人类的生活、与世界连接,每个人都有潜力利用科技创造无限可能(Everyday Genius)。了解更多讯息,请浏览:

(www.mediatek.com)

点赞
收藏
评论区
推荐文章
Wesley13 Wesley13
3年前
PPDB:今晚老齐直播
【今晚老齐直播】今晚(本周三晚)20:0021:00小白开始“用”飞桨(https://www.oschina.net/action/visit/ad?id1185)由PPDE(飞桨(https://www.oschina.net/action/visit/ad?id1185)开发者专家计划)成员老齐,为深度学习小白指点迷津。
可莉 可莉
3年前
0502 直播|AI Open Day
!(https://oscimg.oschina.net/oscnet/36a3beaf87260fc894b7a78922180362e8c.jpg)提到人工智能框架,开发者们脑子里立马会闪现出TensorFlow、Keras、PyTorch、MXNet、Caffe2、FastAI、MindSpore、飞桨(https://www.
Stella981 Stella981
3年前
0502 直播|AI Open Day
!(https://oscimg.oschina.net/oscnet/36a3beaf87260fc894b7a78922180362e8c.jpg)提到人工智能框架,开发者们脑子里立马会闪现出TensorFlow、Keras、PyTorch、MXNet、Caffe2、FastAI、MindSpore、飞桨(https://www.
智汇宁夏,共创未来!天翼云携手宁夏共建“中国算力之都”!
为充分发挥宁夏算力产业基础与优势,聚焦人工智能关键共性技术创新,推动人工智能技术与实体经济深度融合,搭建AI产业应用开发与生态合作平台,6月29日,2024首届算力之都开发者大会暨天翼云智算生态合作大会在宁夏隆重举行。大会以“沙海铸就人工智能,黄河汇集数字洪流”为主题,邀请全球顶尖院士和来自清华大学、北京邮电大学等高校的知名学者、10余家头部模型厂商、3000余名国内外AI开发者和行业精英汇聚一堂,共同探讨AI应用创新的前沿趋势和关键技术,展示AI技术在各个领域的应用成果,推动AI应用的落地和普及。
公孙度 公孙度
1年前
「AI得贤招聘官」通过工信部工业文化发展中心“AI产业创新场景应用案例”评估
近日,上海近屿智能科技有限公司的「AI得贤招聘官」,经过工业和信息化部工业文化发展中心数字科技中心的严格评估,荣获首批“AI产业创新场景应用案例”。据官方介绍,为积极推进通用人工智能产业高质量发展,围绕人工智能垂直产业应用案例升级迭代,以场景应用为牵引、加
数字先锋 | 央企首批!天翼云助力中国石化率先完成全尺寸DeepSeek国产化部署!
人工智能大模型发展如火如荼,以智能化推进传统产业升级已经成为发展新质生产力的重要引擎。作为云服务国家队,天翼云将持续夯实国云智算底座,探索更多算力与AI的融合模式,赋能央国企深化改革,打造人工智能产业创新高地,助推我国数字经济发展再上新台阶。
近屿智能 近屿智能
2个月前
AI 人才缺口超 500 万!年薪 30 万起步!近屿智能教你如何找工作
如今,当我们谈论人工智能时,不再是遥远的科技想象,而是切切实实的产业变革与职业新赛道。中国人工智能产业正以火箭般的速度崛起,背后隐藏着哪些普通人可把握的机会?今天我们就来深度拆解。一、数据透视:AI产业的爆发式增长作为全球人工智能专利第一大国,我国核心产业
ChatGPT 背后的英雄——AI芯片
AI芯片能为人工智能应用提供所需的基础算力;按技术架构主要分为GPU、FPGA和ASIC。ChatGPT有着大量复杂计算需求的AI模型,AI芯片专门用于处理人工智能应用中的大量计算任务,是不可或缺的底层硬件
向“新”而行,以科技创新培育新质生产力!
天翼云作为云服务国家队,肩负央企使命责任,紧跟国家重大战略方向,发挥数字中国建设主力军作用,在全国各地落地智能算力中心,同时,天翼云积极发挥跨央企协同创新平台作用,携手广大高校、科研团队,进一步深化产学研合作,构建人工智能产业创新生态,深化人工智能与经济社会各领域深度融合。