【MindStudio训练营第一季】MindStudio 专家系统随笔
文章目录
简介专家系统(Mindstudio Advisor) 是用于聚焦模型和算子的性能调优Top问题,识别性能瓶颈,重点构建瓶颈分析、优化推荐模型,支撑开发效率提升的工具。专家系统当前已经支持针对推理、训练、算子场景的瓶颈分析模型,包括内部团队开发的模型&算子瓶颈分析和优化推荐知识库、针对onnx模型的自动调优知识库,以及基于生态开发者开发的生态知识库。
使用介绍调优知识库
模型瓶颈分析分析流程:参数配置 & 启动分析;首页summary报告: 模型香吐率运行时间、芯片利用率、切分策略评估,以及各个调优知识库TOP问题;计算图分析: ub融合、aipp融合、transdata等;模型算子性能瓶颈分析:模型算子带宽&算力利用率;aicpu & aicore并行分析;
模型性能优化针对onnx推理模型,根据定义好的子图pattern主动识别onnx模型中符合的子图,并对其进行修改优化:当前支持的子图pattern:Conv1d优化:连续slice合并连续concat合并类型转换大shape卷积转置大kernel卷积拆分根据官方介绍,后续还会根据调优场景继续补充,让更多开发者直接受益。调用知识库开发基于Ascend Advisor工程,开发者可以开发自己的调优知识库支持代码调试(该功能在新版本会提供)支持知识库共享(该功能在新版本会提供)
案例实践推理模型调优性能分析: Mobilenetv3图像分类https://www.hiascend.com/zh/s...性能分析&优化: Deit图像分类https://www.hiascend.com/zh/s...性能分析&优化: tdnn语音识别https://www.hiascend.com/zh/s...图像分类
Deit图像分类

评论
登录后参与技术讨论,分享你的经验与见解。
登录 / 注册暂无评论