开源项目
发现实用项目,分享使用心得与参与经验。
promptfoo:以测试配置评估提示词、模型和 AI 应用输出
promptfoo/promptfoo以测试配置评估提示词、模型和 AI 应用输出,并提供安全测试能力。
llama.cpp
ggml-org/llama.cpp以 C/C++ 实现模型推理,适合研究量化部署及不同硬件上的推理方案。
已显示全部内容
发现实用项目,分享使用心得与参与经验。
以测试配置评估提示词、模型和 AI 应用输出,并提供安全测试能力。
以 C/C++ 实现模型推理,适合研究量化部署及不同硬件上的推理方案。