开源项目
发现实用项目,分享使用心得与参与经验。
continue:开源 AI 编程工具
continuedev/continue开源 AI 编程工具,支持围绕模型与开发工作流定制代码辅助能力。
goose:可扩展的本地智能体
aaif-goose/goose可扩展的本地智能体,将语言模型与工具连接以完成开发及日常任务。
vllm:面向大语言模型的高吞吐推理与服务引擎
vllm-project/vllm面向大语言模型的高吞吐推理与服务引擎。
sglang:面向大模型及多模态模型的推理服务框架
sgl-project/sglang面向大模型及多模态模型的推理服务框架。
haystack:以组件和流水线构建检索增强生成、搜索与语言模型应用
deepset-ai/haystack以组件和流水线构建检索增强生成、搜索与语言模型应用。
qdrant:支持向量相似度搜索和过滤的开源数据库
qdrant/qdrant支持向量相似度搜索和过滤的开源数据库。
milvus:面向大规模向量检索的数据库
milvus-io/milvus面向大规模向量检索的数据库,服务语义搜索与 AI 应用。
chroma:为 AI 应用提供嵌入数据存储与检索能力
chroma-core/chroma为 AI 应用提供嵌入数据存储与检索能力。
langfuse:面向语言模型应用的追踪、提示词管理和评估平台
langfuse/langfuse面向语言模型应用的追踪、提示词管理和评估平台。
promptfoo:以测试配置评估提示词、模型和 AI 应用输出
promptfoo/promptfoo以测试配置评估提示词、模型和 AI 应用输出,并提供安全测试能力。
llm-course:按学习路线汇总大语言模型基础、训练与应用相关资料
mlabonne/llm-course按学习路线汇总大语言模型基础、训练与应用相关资料。
LLMs-from-scratch:配合书籍从基础组件实现语言模型的代码和学习材料
rasbt/llms-from-scratch配合书籍从基础组件实现语言模型的代码和学习材料。