CDN动态加速路径计算集群间数据同步优化方法

天翼云开发者社区
• 阅读 3

本文分享自天翼云开发者社区《CDN动态加速路径计算集群间数据同步优化方法》.作者:罗****斌

背景

实时路径计算服务作为动态加速平台核心组件,针对动态交互数据无法缓存于边缘节点,需要实时与客户源站进行交互,同时考虑客户接入点到客户源站之间复杂网络情况以及客户源站突发峰值的不确定性,实时路径计算服务能够避开网络拥塞、突发流量、源站服务压力高、服务设备宕机等诸多不利因素导致丢包、响应慢、服务不稳定等问题,叠加压缩传输、协议优化、链路复用等技术,承担起动态加速平台的智能选路功能

路径计算服务目前部署于全国三大区域机房内,每个区域内三台机器组成一个服务集群,三大区域之间采用主备备模式,全网CDN边缘主机组的基础探测数据都往一个主区域内的路径计算服务集群上报,故障情况下由域名调度实现主备区域角色的切换来解决服务的高可用性,不能利用备区域实现分布式计算及容错能力

存在的问题

随着CDN业务发展,边缘主机组增多,基础探测数据量增大,导致实时路径计算服务压力增大,此时只能横向扩展服务,压力还是存在于一个区域内的服务集群里,其它备区域服务集群则很空闲,无法垂直扩展分摊压力

基础探测数据不能按区域就近上报,全网CDN边缘主机组都往一个主区域内的服务集群上报,如果某局部网络故障,将导致此故障地区无法上报基础探测数据和获取最优路径结果;如果不幸主区域内的服务集群故障(主区域表示全网基础探测数据都往此汇聚的区域,基础探测数据是路径计算的基础数据),将导致主区域无法提供路径计算服务。对于以上故障,如果进行边缘节点域名调度切换到另一个备区域,由于各区域路径计算集群之间没有实现数据同步,导致切过来的一段时间路径计算不准确(缺少最新的各层级基础探测数据),影响客户加速

优化目的

实现路径计算服务在不同区域内的路径计算服务集群之间的数据同步功能,打破各区域数据孤岛问题而导致的边缘主机组基础探测数据无法在各区域来回切换上报,并可以按区域实现垂直扩展,达到去中心化,解决高可用的同时,也提高了计算速度

各区域具备数据同步功能后,每一个区域内都是全量边缘主机组的基础探测数据(包括路径的中间节点等),边缘主机组基础探测数据根据域名调度解析按区域就近上报(而不是只上报到一个主区域),在故障情况下,可以通过域名调度切换到一个可用的区域,零时延切换为用户继续提供准确的路径计算服务

优化方法

整体服务架构 CDN动态加速路径计算集群间数据同步优化方法

集群间数据同步模块 1.路径计算服务接收到边缘主机组上报的基础探测数据和其它区域集群同步过来的基础探测数据 2.对收到的基础探测数据,判断是增量数据还是同步数据 3.1如果是增量数据,则进行路径计算并下发结果,基础探测数据存储到本区域集群 3.2增量数据同时也需要同步一份到其它区域,通过自定义消息格式控制数据的不同状态,并使用grpc+proto数据协议同步到其它区域集群 4.数据存储模块,存储增量数据与同步数据

CDN动态加速路径计算集群间数据同步优化方法

同步数据接收模块 1.边缘节点基础探测数据开始上报 2.域名解析,查看上报区域是否发送改变 3.1如果上报区域发生改变,则上报到最新调整后的区域路径计算服务,并开始路径计算 3.2如果上报区域没有改变,则上报到原有区域路径计算服务 4.通过自定义消息格式控制数据的不同状态,并使用grpc+proto数据协议同步到其它区域集群

CDN动态加速路径计算集群间数据同步优化方法

优点和效果

实现路径计算服务在不同区域内的路径计算服务集群之间的数据同步功能,打破各区域数据孤岛问题而导致的边缘主机组基础探测数据无法在各区域来回切换上报,并可以按区域实现垂直扩展,达到去中心化,解决高可用的同时,也提高了计算速度

各区域具备数据同步功能后,每一个区域内都是全量边缘主机组的基础探测数据(包括路径的中间节点等),边缘主机组基础探测数据根据域名调度解析按区域就近上报(而不是只上报到一个主区域),在故障情况下,可以通过域名调度切换到一个可用的区域,零时延切换为用户继续提供准确的路径计算服务

点赞
收藏
评论区
推荐文章
PostgreSQL:psql 介绍
本文分享自天翼云开发者社区《》,作者:周平psql命令是与PostgreSQL服务器交互的客户端程序,要登录到数据库服务器,需要使用psql客户端工具或者第三方客户端工具如PostgreSQLforNavicat,pgAdmin,Visualizer等等。
天翼云CDN全站加速产品对websocket协议的支持
天翼云全站加速产品支持对webscoket协议和http/https协议可同时加速,即同一个域名可以既有http/https协议,又有websocket加速,您无需拆分域名,使用全站加速产品就可以实现对域名下http/https协议的应用和websocket协议的应用同时加速。全站加速节点会自动识别客户端与全站加速边缘节点通信使用的协议,自动切换协议。通常情况下,websocket协议的应用多为动态业务,对实时性要求很高,全站加速的动态探测选路能力可以为websocket应用选择最快的回源路径,提升websocket业务的访问效果。
玩转云端|演唱会一票难求?快用天翼云边缘安全加速平台AccessOne!
天翼云AccessOne基于覆盖全球的海量边缘节点,能够智能分离动静态内容,通过智能负载均衡技术,让静态内容在边缘节点进行缓存,保障用户就近接入边缘节点获取资源;对于动态内容,可通过智能选路、协议优化等技术,选择最/佳链路回源,同时提供协议优化、链路优化等多项优化技术,大大缩短内容传输距离和时间,加速抢购过程中的数据流转,有效降低延迟和抖动,保障用户交易。
玩转云端 | 网络也i人?咋变显眼包?天翼云AccessOne边缘接入来了!
AccessOne边缘接入服务提供低时延、高可靠的传输加速服务,可以解决跨运营商网络不稳定、单线源站、网络拥塞等诸多因素导致的延迟高、服务不稳定等问题,提升网络传输性能和用户体验。AccessOne边缘接入服务拥有多样灵活的接入方式,客户可将任意位置的数据资源安全连接到边缘网络入口,实现全球范围数据高速、稳定、安全的传输,适用于应用加速等多协议加速的业务场景。基于AccessOne边缘接入服务,用户可实现业务透明转发,并构建网络层安全防护,无惧DDoS攻/击。
Flink 与Flink可视化平台StreamPark教程(CDC功能)
本文分享自天翼云开发者社区《》,作者:ln基本概念flinkCDC功能是面向binlog进行同步、对数据的增删改进行同步的工具,能够实现对数据的动态监听。目前其实现原理主要为监听数据源的binlog对数据的变化有所感知。在这里,我们只需引入相关依赖即可进行
CDN中使用边缘函数实现自定义编程
本文分享自天翼云开发者社区《》.作者:郭迎为什么选择边缘函数千人千面,个性化定制,源站计算成本高:企业网站为了提升用户转化率,往往需要在源站服务器根据用户历史数据,计算出千人千面的个性化推荐结果。一方面给源站服务器带来了较大的计算成本,另一方面由于中心化部
一种智能调度分布式路径计算解决方案
本文分享自天翼云开发者社区《》.作者:蒋辉背景技术传统的CDN动态加载智能路由系统对用户动态请求,主要通过探测服务器主动发起周期性的探测请求,探测CDN中转节点和源站的可用性及网络性能,根据探测结果选择最优的回源链路;然而,在获取到探测结果后,为了减少探测
利用排列组合法实现TOPN路径计算
本文分享自天翼云开发者社区《》.作者:罗斌1背景在进行TOPN选路性能摸底时,发现其在100100节点级别以上的两两互相探测情况下的选路性能不太理想,整体压测后分析发现,选路算法部分是整个处理流程的瓶颈点。对此,我分析了下目前计算TOPN路径所使用的深度优
京东云开发者 京东云开发者
9小时前
常用Web 实时通信技术:原理+选型,一篇通关
在Web开发中,实时通信技术的核心目标是实现客户端(Browser)与服务器之间低延迟、双向/单向的动态数据交互,而非传统HTTP的“请求响应”模式。以下是Web端最常用的实时通信技术,从概念、原理特点、适用场景、对比选型进行详细解析。一、WebSocke
多RID分层路径计算性能优化
本文分享自天翼云开发者社区《》.作者:罗斌针对以上问题和性能分析点,进行了以下优化,分别是:1)基础探测图按rid分层染色计算所有点到点路径,零拷贝萃取整个路径算法需要修改的部分,单独创建一个临时变量用于不可避免的一次路径计算过程中写操作,防止任何一次两点
天翼云开发者社区
天翼云开发者社区
Lv1
天翼云是中国电信倾力打造的云服务品牌,致力于成为领先的云计算服务提供商。提供云主机、CDN、云电脑、大数据及AI等全线产品和场景化解决方案。
文章
959
粉丝
16
获赞
40