HelloWorld 开发者社区

科技资讯

全部资讯

开源项目

全部项目

推荐好文

MegEngine 使用小技巧:量化

常见神经网络模型所用的Tensor数据类型一般是float32类型,而工业界出于对特定场景的需求(极少的计算资源,极致的推理速度),需要把模型的权重和或激活值转换为位数更少的数值类型(比int8,float16)——整个过程被称为量化(Quantization)。!1.pn

正在加载更多文章…

加载更多

已加载文章中没有匹配内容,可继续加载更多。