HelloWorld 开发者社区

软件架构

美团视觉GPU推理服务部署架构优化实践

<blockquote面对在线推理服务使用的GPU资源不断增加、GPU利用率普遍较低的挑战,美团视觉研发团队决定通过模型结构拆分和微服务化进行优化,他们提出一种通用高效的部署架构,来解决这种常见的性能瓶颈问题。以“图像检测分类”服务为例,优化后的服务压测性能指标GPU利用率由40%提升至100%

应用部署初探:微服务的3大部署模式

在之前的文章中,我们已经充分了解了应用部署的4种常见模式(金丝雀部署、蓝绿部署、滚动部署及影子部署)。随着云原生技术逐步成熟,企业追求更为灵活和可扩展的系统,微服务架构大行其道。 微服务固然有诸多优点,但也给架构及运维工程师带来了新的挑战。在单体架构中,应用的设计、部署以及扩展都是作为一个单元进

数据同步gossip协议原理与应用场景介绍

作者:京东物流冯鸿儒1简介Gossip是一种p2p的分布式协议。它的核心是在去中心化结构下,通过将信息部分传递,达到全集群的状态信息传播,传播的时间收敛在O(Log(N))以内,其中N是节点的数量。基于gossip协议,可以构建出状态一致的各种解决方案。一些常见的分布式协议如

使用 go kit进行微服务开发

gokit的基本介绍gokit介绍<codegokit</code是一个Golang编写的开发框架,可以帮助开发者更快捷地构建可伸缩的微服务架构。它提供了一系列模块化的组件,可以帮助开发者更轻松地构建和维护微服务。<codegokit</code的

阿里云架构设计

云架构设计及工具使用什么是云架构云架构是指在云计算环境下的架构设计。与传统架构不同,云架构需要考虑云服务的可用性、可伸缩性、安全性和成本效益。首先,云架构需要考虑可用性。这意味着系统必须能够在网络、硬件或其他故障发生时继续运行,保证用户对系统的访问。其次,云架构需要考虑可伸缩性。这意味着系统必须能够

正在加载更多文章…

加载更多

已加载文章中没有匹配内容,可继续加载更多。