Relay TensorRT 集成
介绍NVIDIATensorRT是一个用于优化深度学习推理的库。这种集成尽可能多地将算子从Relay迁移到TensorRT,无需对schedule调优,即可提升NVIDIAGPU的性能。本教程演示如何安装TensorRT以及如何构建TVM,来启用Tenso
介绍NVIDIATensorRT是一个用于优化深度学习推理的库。这种集成尽可能多地将算子从Relay迁移到TensorRT,无需对schedule调优,即可提升NVIDIAGPU的性能。本教程演示如何安装TensorRT以及如何构建TVM,来启用Tenso