OVHcloud 公布 Olala mini 7A1B,Qwant 已用于搜索快答

来源:OVHcloud· 2026年11月17日阅读原文 ↗

欧洲云服务商 OVHcloud 于 11 月 17 日公布其首个大模型系列 Olala,并将 11 月 19 日的 OVHcloud AI Summit 列为正式发布场合。首款模型 Olala mini 7A1B 面向对成本和响应延迟敏感的应用。搜索引擎 Qwant 已把它接入快速回答功能,为这款小模型提供了一个实际应用案例。OVHcloud 公告

搜索引擎怎样使用小模型

OVHcloud 称,搜索引擎 Qwant 已把 Olala mini 用在快速回答功能上。在这一场景中,相比此前使用的模型,回答速度提高 20%,运行成本降至三分之一。这是厂商披露的业务数据。不同团队比较时,可以先核对自身流量的查询长度、召回结果大小和输出上限,再判断这一案例的可比性。Qwant 落地案例

简短搜索回答通常有明确的生成边界。上游检索负责找出候选资料,生成侧再归纳要点,用户可以跟着引用找到详情。比较大小模型时,可以固定搜索结果,观察模型是否正确保留人名、数字和时间,能否处理彼此冲突的来源。答案质量稳定之后,再增加检索范围并观察延迟,这样容易看出错误来自查找资料还是生成。

从公开材料判断接入成本

按公告,Olala mini 采用 70 亿总参数、约 10 亿激活参数的混合专家架构,当前上下文约 3.2 万 Token。OVHcloud 宣布计划通过 Hugging Face 按 Apache 2.0 许可提供模型,并公开权重、预训练基础模型、技术报告和相关合规文档。评估接入时,可以等实际仓库公开后核对权重精度、推理框架、版本和许可证文件,再以自己的设备测内存与吞吐。模型与发布材料

如果目标是文档检索和短答案,可以先用几十条常见问题做最小对照集,其中加入资料过期、检索为空和来源相互冲突的例子。输出先固定为几句话,并对每个重要事实检查证据。用相同查询比较完整请求时长、首 Token 延迟、人工修改比例和每千条合格答案的成本,才能估算线上切换是否划算。

训练基础设施也有行业意义

OVHcloud 披露训练使用了 Jupiter、MeluXina 和 Jean Zay 三套欧洲公共超算。对采购方,这类信息可以和实际部署位置、推理服务访问方式、版本发布频率一起考察。搜索和客服产品往往需要快速迭代,长期维护成本也受权重能否固定、出现回归时能否恢复和跨环境运行是否一致的影响。

公告把更长的上下文列入后续版本计划。今天可按当前公布的上下文和已披露的搜索案例评估,等公开仓库和报告可查后再补上独立复现。

评论

暂无评论