字节映星鹤的头像 ID: 51692937192

字节映星鹤

HelloWorld 社区成员

2892637677

文章4
个人网站0
加入社区2025

Typora 图片上传

Typora图片上传本文借鉴源于:https://zhuanlan.zhihu.com/p/...(https://link.segmentfault.com/?encuFajTIZeGCe7Yit3Sc2Cjw%3D%3D.ENCTZSB3ojxmF4vcTY%2Fbm0F

使用Kubernetes容器服务在云上搭建AI推理环境

场景描述本方案适用于使用GPU进行AI在线推理的场景。在推理之前,模型已经训练完成。例如,刷脸支付中,我们在刷脸的时候,就是推理的一个过程。再比如图像分类,目标检测,语音识别,语义分析等返回结果的过程。解决问题使用GPU云服务器搭建推理环境使用容器服务K