公孙康的头像 ID: 75805157557

公孙康

HelloWorld 社区成员

5195486736

文章7
个人网站0
加入社区2025

大语言模型推理提速,TensorRT-LLM 高性能推理实践

1.TensorRTLLM如何提升LLM模型推理效率大型语言模型(Largelanguagemodels,LLM)是基于大量数据进行预训练的超大型深度学习模型。底层转换器是一组神经网络,这些神经网络由具有selfattention的编码器和解码器组成。编码器和解码器从一

听GPT 讲K8s源代码--pkg(二)

在Kubernetes(K8s)项目中,<codepkg/controller</code目录是用于存放控制器(Controller)相关的代码的目录。控制器是Kubernetes的核心组件之一,用于管理和控制集群中的资源对象的状态和行为。<codepkg/controller</

技术分享 | 使用 Docker 安装 MySQL

<blockquote作者:PeterZaitsev<br/翻译:管长龙<br/原文:<ahref"https://link.segmentfault.com/?enc6j27H78D2EXx%2B5bSdzntbQ%3D%3D.DNwAzQoitSOssUe56h%2FNhnu4B7

Java 集合类入门篇

开门见山地说吧,Java提供了一套完整的集合类(也可以叫做容器类)来管理一组长度可变的对象(也就是集合的元素),其中常见的类型包括List、Set、Queue和Map。从我个人的编程经验来看,List的实现类ArrayList和Map的实现类HashMap使用频率最高,其它实现

好程序员Java学习路线分享冒泡排序及优化

​好程序员Java学习路线分享冒泡排序及优化,冒泡排序是一定典型的交换排序,如排序规则是升序,有如下数列: A0A1A2A3......An​将A0和A1比较,如果A0&gt;A1,则交换两个元素的位置,否则不变,再继续比较A1和A