协同存储,为边缘计算创造更大价值

暗网探索
• 阅读 721

01 数据的爆发为存储带来持续挑战

在5G时代下,视频和图片因其强大的信息承载力,已经成为数据内容的主要载体和信息传播的主要方式。而5G的大带宽、低时延、广连接的特性激活了云游戏、物联网、视频监控等场景应用,从消费互联网到产业互联网的延伸,更加促进了终端应用和数据的爆发。

这些终端和数据具有位置分散、规模大、以及价值密度相对较低等特点,典型的如:视频监控录像/截图、云游戏录像、海量临时日志文件等。一方面,我们需要提供就近、低延迟的数据接入与存储能力,另一方面,我们需要在边缘进行数据的精细化管理,与计算相结合,分析其中的关键片段以及其结构化信息。

这样的场景和需求对计算和存储的方式带来了严峻挑战和根本性变化。

协同存储,为边缘计算创造更大价值

02 基于边缘云构建位置无感的协同存储服务

用户在使用对象存储时,针对海量数据,提出了大流量、就近、低延迟的要求,边缘云在这些方面具备天然优势,但边缘云的对象存储在使用方式和体验上存在明显不足。相较于传统中心云的region化使用方式,边缘云的单点规模较小,并且节点数多了几个量级。

如果每个边缘云节点独立进行对象存储服务,无异于将复杂的逻辑交给用户,用户使用时将面临节点资源管理、资源读写调度、单节点可用性运维等诸多复杂问题。这会对用户业务带来巨大的挑战,任何节点状态的变化,都可能带来业务的感知,处理不好甚至会对业务造成严重影响。

以摄像头数据上云为例,传统的方式,用户需要感知终端设备的地理位置,并且需要去维护海量终端设备和云上地址的对应关系,一旦出现单点故障,用户需要做大量的动作来进行调度和迁移。

协同存储,为边缘计算创造更大价值

传统的数据上云架构

而理想的架构中,用户无需关心具体的云上位置,希望与云只有一个交互面,就能实现全网设备的就近、低延迟接入,并且无需关心云上单节点的负载、水位、异常等情况。

协同存储,为边缘计算创造更大价值

理想的数据上云架构

边缘计算孵化了位置无感的协同存储(EOS)服务,通过中心管控和多个边缘节点进行协同,将分布在各地边缘节点的物理存储资源,组成一个逻辑统一的对象存储资源池。用户无需关心读写位置和单节点可用性带来的运维和调度问题,即可得到与使用公有云对象存储一致的接口体验,以及由数量众多的边缘存储资源整合而带来的大容量、高弹性的存储资源池。

协同存储,为边缘计算创造更大价值

03 协同存储核心模块

协同存储,为边缘计算创造更大价值

协同存储采用了典型的云边协同架构,其核心包含中心管控与边缘节点两部分,其中,中心管控包含以下管理模块:

  1. 元数据管理:汇聚全网的元数据进行统一管理,与文件读写调度、文件生命周期等联动;
  2. 资源调度:负责逻辑存储桶与物理存储桶的映射关系管理,根据节点状态、水位进行全局资源动态规划;
  3. 读写调度:根据用户地理位置、所需资源量、文件分布等因素进行全局文件读写调度;
  4. 多点数据协同:对节点数据进行跨节点复制或数据迁移,提高整体服务可用性;

边缘节点包含以下管理模块:

  1. 节点网关:提供节点文件读写服务,如存储协议兼容、http/ https访问支持、动态配置、跨域管理、流控、日志监控等。
  2. 边缘管控
  • 与中心管控协同完成完整的管控逻辑,同时在节点范围内具备一定的边缘自治能力;
  • 负责节点内存储管理、跨节点数据复制/迁移等操作;
  • 负责节点内多引擎容灾。
  1. 存储引擎:提供基础的存储能力(文件读写等)以及文件容灾能力(EC、三副本等)。

04协同存储的关键技术

协同存储,为边缘计算创造更大价值

基于边缘节点构建的位置无感分布式协同存储,关键技术在于以下几点:

  1. 节点统一纳管与调度

协同存储,为边缘计算创造更大价值

对用户而言,和边缘云只有一个交互面,协同存储将多个物理节点抽象为一个逻辑节点,通过全网资源的统一纳管,进行多维度的协同调度,过程中会综合地理位置、节点带宽、存储空间、设备亲和性等众多因素,从而实现服务的高可用以及数据的就近存取,同时,协同存储提供了灵活的接入和调度策略供业务按需使用(全国、区域、运营商、单节点、自定义节点范围)。

  1. 文件读写调度

协同存储物理文件存储在边缘节点,存储空间、文件元信息等汇聚到中心,进行统一的管理和检索。

使用方式上,文件写入和读取均可采用302调度方式,写入统一域名,协同存储经过地理位置、节点水位等综合调度后,将请求跳转到真实的物理节点进行读写,用户无需关心终端所在位置,即可快速就近、低延迟接入。

  1. 实时的节点状态和容量监测

协同存储会对单个节点进行实时状态与水位检测,当单点不可写时,会自动将请求迁移到其他节点,完成服务无感漂移和切换,单点恢复后快速复制同步。

  1. 跨节点多副本

为了应对节点割接、容灾等场景,协同存储提供了跨节点多副本的冗余能力,将数据进行节点间错峰同步。当单点不可用时,协同存储会进行流量的快速转移,同时也可以在访问量大时进行多节点读负载均衡,整个过程用户无感知。

协同存储,为边缘计算创造更大价值

  1. 边缘统一的存储访问网关

在整体架构上,协同存储通过边缘统一网关进行异构资源的适配,不管是从API、SDK还是授权体系,完全兼容现有的使用方式,这对于海量的数据源来说,只需要简单配置,便可以快速将数据上传到协同存储,从而确保给用户云边一体化的使用体验,同时去除了Region概念,直接采用了统一的域名接入和管理方式,真正实现了只上一朵云、只存一朵云。

目前协同存储已经在众多场景下落地,典型的如监控设备的截图/录像上传、车载场景的数据就近写入等。未来,我们将与边缘算力进行更加紧密结合,助力网、算、存一体化的边缘计算体系发展。协同存储的演进,必将为边缘更多场景的落地提供有力支撑,为边缘计算带来更多的可能性。

点赞
收藏
评论区
推荐文章
Prodan Labs Prodan Labs
4年前
IoT基础架构的演进 — 边云自定义消息传输
边缘计算不仅仅是将应用部署在边缘,并对其进行自动化的监控和运维。在许多应用场景里,边缘和云上应用需要进行特定的消息传输、数据交换等,以完成边云协同的业务处理。例如,用户需要从云端发送命令至边缘的应用来触发特定的业务,或者边缘设备需要将采集的业务信息上传至云端处理。KubeEdgev1.6版本增加了自定义边云消息传输的支持,用户可以根据场景,借助Rule
玩转云端 | 提升边缘应用交付效率,天翼云Serverless边缘容器有妙招
随着5G、物联网时代的到来,智能终端设备数量急剧增加,云计算能力不断向边缘侧、设备侧下沉,与此同时,针对边缘计算应用的高效、敏捷交付需求也随之产生。Serverless作为一种构建和管理基于微服务架构的技术,可实现部署应用无需涉及基础设施建设,自动
安全可信丨两个项目新入选可信边缘计算推进计划!
当前我国边缘计算技术持续演进,应用不断深化落地,产业正在加速迈向广泛普及和深度应用的新阶段。为进一步聚焦和推动边缘计算产业发展,中国信通院云边协同产业方阵启动第二批“可信边缘计算推进计划”项目申报,天翼云(https://click.ctyun.c
边缘计算简介
边缘计算是一种新兴的计算模型,旨在将计算能力推向离用户更近的边缘设备,以提供更快速、可靠和低延迟的计算服务。在传统的云计算模式中,大部分计算任务都是集中在远程的数据中心进行处理,这可能导致网络延迟和带宽瓶颈。边缘计算通过在离用户更近的边缘设备上执行计算任务,可以减少数据传输的时间和带宽消耗,提供更高效的计算体验。
边缘云特点、应用实践和发展趋势浅析
随着物联网、人工智能和5G技术的快速发展,云计算正在迎来一场革命性的变革。在传统云计算架构中,数据和计算主要集中在大型数据中心中进行处理,这在某些场景下存在一定的局限性。为了满足实时性、低延迟和数据安全等需求,边缘云应运而生。本文将对边缘云的特点、应用实践和发展趋势进行浅析。
CDN与云计算技术的结合:专业视角下的深度融合
随着信息技术的不断发展,内容分发网络(CDN)与云计算技术作为两种重要的互联网基础设施,其结合已成为行业发展的重要趋势。CDN负责高效地分发和传输互联网内容,而云计算则提供强大的计算、存储和应用服务。当这两者结合时,能够为用户提供更加优质、高效的服务体验。本文将从专业的角度深入解析CDN与云计算技术的结合,探讨其优势、应用场景以及未来发展趋势。
边缘计算与MEC浅谈
边缘计算是在靠近物或数据源头的网络边缘侧,通过融合网络、计算、存储、应用核心能力的分布式开放平台,就近提供边缘智能服务。简单点讲,边缘计算是将从终端采集到的数据,直接在靠近数据产生的本地设备或网络中进行分析,无需再将数据传输至云端数据处理中心。
京东云开发者 京东云开发者
7个月前
记录一次「OSS上传文件的前置处理机制」实例剖析
作者:京东物流陈雨引言在云计算环境中,对象存储服务(OSS)是一种提供存储和访问任意类型数据(如网站内容、企业备份数据、游戏、IoT设备数据等)的服务,支持从任何地点、任何时间访问数据。在很多应用场景中,用户需要上传文件到OSS,这可能包括图片、视频、文档
边缘云特点、应用实践和发展趋势浅析
本文分享自天翼云开发者社区《》,作者:JinnyPeng引言:随着物联网、人工智能和5G技术的快速发展,云计算正在迎来一场革命性的变革。在传统云计算架构中,数据和计算主要集中在大型数据中心中进行处理,这在某些场景下存在一定的局限性。为了满足实时性、低延迟和