HelloWorld 开发者社区

科技资讯

全部资讯

开源项目

全部项目

推荐好文

典型场景解析|PolarDB分布式版如何支撑SaaS多租户?

SaaS多租户背景很多平台类应用或系统(如电商CRM平台、仓库订单平台等等),它们的服务模型是围绕用户维度(这里的用户维度可以是一个卖家或品牌,可以是一个仓库等)展开的。因此,这类型的平台业务,为了支持业务系统的水平扩展性,业务的数据库通常是按用户维度进行水平切分。可是,当平台类应用

云原生场景下,AIGC 模型服务的工程挑战和应对

作者:徐之浩、车漾“成本”、“性能”和“效率”正在成为影响大模型生产和应用的三个核心因素,也是企业基础设施在面临生产、使用大模型时的全新挑战。AI领域的快速发展不仅需要算法的突破,也需要工程的创新。大模型推理对基础设施带来更多挑战首先,AI商业化的时代,大模型推理训练会被

模型服务网格:云原生下的模型服务管理

作者:王夕宁模型服务网格(ModelServiceMesh)是一种架构模式,用于在分布式环境中部署和管理机器学习模型服务。它提供了一个可扩展的、高性能的基础架构,用于将多个模型服务进行管理、部署和调度,以此更好地处理模型的部署、版本管理、路由和推理请求的负载均衡。模型服务网格的核心思想是

RocketMQ 中冷热分离的随机索引模块详解

作者:苏昌盛消息系统中随机索引的特点RocketMQ广泛使用于各类业务场景中,在实际生产场景中,用户通常会选择消息ID或者特定的业务Key(例如学号,订单号)来查询和定位特定的一批消息,进而定位分布式系统中的复杂问题。传统方案下,消息索引的存储是基于数据库系统或者基于本地文

正在加载更多文章…

加载更多

已加载文章中没有匹配内容,可继续加载更多。