开源项目
发现实用项目,分享使用心得与参与经验。
vllm:面向大语言模型的高吞吐推理与服务引擎
vllm-project/vllm面向大语言模型的高吞吐推理与服务引擎。
sglang:面向大模型及多模态模型的推理服务框架
sgl-project/sglang面向大模型及多模态模型的推理服务框架。
llm-course:按学习路线汇总大语言模型基础、训练与应用相关资料
mlabonne/llm-course按学习路线汇总大语言模型基础、训练与应用相关资料。
LLMs-from-scratch:配合书籍从基础组件实现语言模型的代码和学习材料
rasbt/llms-from-scratch配合书籍从基础组件实现语言模型的代码和学习材料。
已显示全部内容