Java集群优化——dubbo+zookeeper构建高可用分布式集群

Wesley13
• 阅读 363

不久前,我们讨论过Nginx+tomcat组成的集群,这已经是非常灵活的集群技术,但是当我们的系统遇到更大的瓶颈,全部应用的单点服务器已经不能满足我们的需求,这时,我们要考虑另外一种,我们熟悉的内容,就是分布式,而当下流行的Dubbo框架,不容我们忽视,这里,咱们一起来探讨一下这个框架的使用。

一,背景

    以前我们需要远程调用他人的接口,我们是这么做的:

                                              Java集群优化——dubbo+zookeeper构建高可用分布式集群

我们遇到的问题:

        (1) 当服务越来越多时,服务URL配置管理变得非常困难,F5硬件负载均衡器的单点压力也越来越大。
此时需要一个服务注册中心,动态的注册和发现服务,使服务的位置透明。
并通过在消费方获取服务提供方地址列表,实现软负载均衡和Failover,降低对F5硬件负载均衡器的依赖,也能减少部分成本。
        (2) 当进一步发展,服务间依赖关系变得错踪复杂,甚至分不清哪个应用要在哪个应用之前启动,架构师都不能完整的描述应用的架构关系。
这时,需要自动画出应用间的依赖关系图,以帮助架构师理清理关系。
        (3) 接着,服务的调用量越来越大,服务的容量问题就暴露出来,这个服务需要多少机器支撑?什么时候该加机器?
        为了解决这些问题,第一步,要将服务现在每天的调用量,响应时间,都统计出来,作为容量规划的参考指标。
        其次,要可以动态调整权重,在线上,将某台机器的权重一直加大,并在加大的过程中记录响应时间的变化,直到响应时间到达阀值,记录此时的访问量,再以此访问量乘以机器数反推总容量。

        为解决这些问题,Dubbo为我们做了什么呢:

                               Java集群优化——dubbo+zookeeper构建高可用分布式集群

负载均衡:

                                        Java集群优化——dubbo+zookeeper构建高可用分布式集群

        这就是所谓的软负载均衡!

        现在让我们一起来接触下这个优秀的框架:

        简介

     架构如图:

                                                      Java集群优化——dubbo+zookeeper构建高可用分布式集群

节点角色说明:

        Provider: 暴露服务的服务提供方。

        Consumer: 调用远程服务的服务消费方。

        Registry: 服务注册与发现的注册中心。

        Monitor: 统计服务的调用次调和调用时间的监控中心。

        Container: 服务运行容器。

调用关系说明:

        0. 服务容器负责启动,加载,运行服务提供者。

        1. 服务提供者在启动时,向注册中心注册自己提供的服务。

        2. 服务消费者在启动时,向注册中心订阅自己所需的服务。

        3. 注册中心返回服务提供者地址列表给消费者,如果有变更,注册中心将基于长连接推送变更数据给消费者。

        4. 服务消费者,从提供者地址列表中,基于软负载均衡算法,选一台提供者进行调用,如果调用失败,再选另一台调用。

        5. 服务消费者和提供者,在内存中累计调用次数和调用时间,定时每分钟发送一次统计数据到监控中心。

        Dubbo提供了很多协议,Dubbo协议、RMI协议、Hessian协议,我们查看Dubbo源代码,有各种协议的实现,如图所示:

                                                                       Java集群优化——dubbo+zookeeper构建高可用分布式集群

        我们之前没用Dubbo之前时,大部分都使用Hessian来使用我们服务的暴露和调用,利用HessianProxyFactory调用远程接口。

        上面是参考了Dubbo官方网介绍,接下来我们来介绍SpringMVC、Dubbo、Zookeeper整合使用。

第三:Dubbo与Zookeeper、SpringMVC整合使用

  第一步:在Linux上安装Zookeeper

       Zookeeper作为Dubbo服务的注册中心,Dubbo原先基于数据库的注册中心,没采用Zookeeper,Zookeeper一个分布式的服务框架,是树型的目录服务的数据存储,能做到集群管理数据 ,这里能很好的作为Dubbo服务的注册中心,Dubbo能与Zookeeper做到集群部署,当提供者出现断电等异常停机时,Zookeeper注册中心能自动删除提供者信息,当提供者重启时,能自动恢复注册数据,以及订阅请求。我们先在linux上安装Zookeeper,我们安装最简单的单点,集群比较麻烦。

先需要安装JdK,从Oracle的Java网站下载,安装很简单,就不再详述。

单机模式

        单机安装非常简单,只要获取到 Zookeeper 的压缩包并解压到某个目录如:C:\zookeeper-3.4.5\下,Zookeeper 的启动脚本在 bin 目录下,Windows 下的启动脚本是 zkServer.cmd。

        在你执行启动脚本之前,还有几个基本的配置项需要配置一下,Zookeeper 的配置文件在 conf 目录下,这个目录下有 zoo_sample.cfg 和 log4j.properties,你需要做的就是将 zoo_sample.cfg 改名为 zoo.cfg,因为 Zookeeper 在启动时会找这个文件作为默认配置文件。下面详细介绍一下,这个配置文件中各个配置项的意义。

框架简介:

本系统一款通用的SOA中间件平台,用来开发各类J2EE企业级应用,节省时间和人力成本。本系统采用MVC模式、AOP引擎、任务调度器、Ajax、拦截器、过滤器、缓存、日志监控、数据访问、表达式、国际化等技术。

框架/平台构成:
Maven+Springmvc + Mybatis + Shiro(权限)+ Tiles(模板) +ActiveMQ(消息队列) + Rest(服务) + WebService(服务)+ EHcache(缓存) + Quartz(定时调度)+ Html5(支持PC、IOS、Android)

用户权限系统:
组织结构:角色、用户、用户组、组织机构;权限点:页面、方法、按钮、数据权限、分级授权

项目管理新体验:
快速出原型系统、组件树、版本控制、模块移植、协同开发、实时监控、发布管理

可持续集成:
所有组件可移植、可定制、可扩充,开发成果不断积累,形成可持续发展的良性循环

支持平台平台: 
Windows XP、Windows 7 、Windows 10 、 Linux 、 Unix

服务器容器:
Tomcat 5/6/7 、Jetty、JBoss、WebSphere 8.5 

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

 Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

 Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

 Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

 Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

Java集群优化——dubbo+zookeeper构建高可用分布式集群

[html] view plain copy

  1. # The number of milliseconds of each tick  
  2. tickTime=2000  
  3. The number of ticks that the initial

  4. synchronization phase can take

  5. initLimit=10  
  6. The number of ticks that can pass between

  7. sending a request and getting an acknowledgement

  8. syncLimit=5  
  9. the directory where the snapshot is stored.

  10. do not use /tmp for storage, /tmp here is just

  11. example sakes.

  12. dataDir=C:\\zookeeper-3.4.5\\data  
  13. dataLogDir=C:\\zookeeper-3.4.5\\log  
  14. the port at which the clients will connect

  15. clientPort=2181  
  16. Be sure to read the maintenance section of the

  17. administrator guide before turning on autopurge.

  18. http://zookeeper.apache.org/doc/current/zookeeperAdmin.html#sc\_maintenance

  19. The number of snapshots to retain in dataDir

  20. #autopurge.snapRetainCount=3  
  21. Purge task interval in hours

  22. Set to "0" to disable auto purge feature

  23. #autopurge.purgeInterval=1

  

  • tickTime:这个时间是作为 Zookeeper 服务器之间或客户端与服务器之间维持心跳的时间间隔,也就是每个 tickTime 时间就会发送一个心跳。
  • dataDir:顾名思义就是 Zookeeper 保存数据的目录,默认情况下,Zookeeper 将写数据的日志文件也保存在这个目录里。
  • dataLogDir:顾名思义就是 Zookeeper 保存日志文件的目录
  • clientPort:这个端口就是客户端连接 Zookeeper 服务器的端口,Zookeeper 会监听这个端口,接受客户端的访问请求。

        当这些配置项配置好后,你现在就可以启动 Zookeeper 了,启动后要检查 Zookeeper 是否已经在服务,可以通过 netstat – ano 命令查看是否有你配置的 clientPort 端口号在监听服务。

  第二步:配置dubbo-admin的管理页面,方便我们管理页面

        (1)下载dubbo-admin-2.4.1.war包,在windows的tomcat部署,先把dubbo-admin-2.4.1放在tomcat的webapps/ROOT下,然后进行解压

        (2)然后到webapps/ROOT/WEB-INF下,有一个dubbo.properties文件,里面指向Zookeeper ,使用的是Zookeeper 的注册中心,如图所示:

[html] view plain copy

  1. dubbo.registry.address=zookeeper://127.0.0.1:2181  
  2. dubbo.admin.root.password=root  
  3. dubbo.admin.guest.password=guest

  

        (3)然后启动tomcat服务,用户名和密码:root,并访问服务,显示登陆页面,说明dubbo-admin部署成功,如图所示:

      Java集群优化——dubbo+zookeeper构建高可用分布式集群

  第三步:SpringMVC与Dubbo的整合,这边使用的Maven的管理项目

        第一:我们先开发服务注册的,就是提供服务,项目结构如图所示:

         Java集群优化——dubbo+zookeeper构建高可用分布式集群

        (1)test-maven-api项目加入了一个服务接口,代码如下:

[java] view plain copy

  1. public interface TestRegistryService {  
  2.    public String hello(String name);  
  3. }

  

 

       (2)test-maven-console在pom.xml加入Dubbo和Zookeeper的jar包、引用test-maven-api的jar包,代码如下:

[html] view plain copy

  1.   

  2.         cn.test  

  3.         test-maven-api  

  4.         0.0.1-SNAPSHOT  

  5.       

  6.         

  7.             com.alibaba  

  8.             dubbo  

  9.             2.5.3  

  10.           

  11.            

  12.             org.apache.zookeeper  

  13.             zookeeper  

  14.             3.4.6  

  15.           

  16.         

  17.          com.github.sgroschupf  

  18.          zkclient  

  19.          0.1  

  

        (3)test-maven-console实现具体的服务,代码如下:

[java] view plain copy

  1. @Service("testRegistryService")  
  2. public class TestRegistryServiceImpl implements TestRegistryService {  
  3.     public String hello(String name) {    
  4.         return "hello"+name;  
  5.     }  
  6. }

  

        (4)我们服务以及实现好了,这时要暴露服务,代码如下:

[html] view plain copy

  1.   
  2. <beans xmlns="http://www.springframework.org/schema/beans"  
  3.     xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"   
  4.     xmlns:jee="http://www.springframework.org/schema/jee"  
  5.     xmlns:tx="http://www.springframework.org/schema/tx"  
  6.     xmlns:dubbo="http://code.alibabatech.com/schema/dubbo"  
  7.     xmlns:context="http://www.springframework.org/schema/context"  
  8.     xsi:schemaLocation="http://www.springframework.org/schema/beans http://www.springframework.org/schema/beans/spring-beans-3.1.xsd  
  9.     http://www.springframework.org/schema/tx http://www.springframework.org/schema/tx/spring-tx-3.1.xsd  
  10.     http://www.springframework.org/schema/jee http://www.springframework.org/schema/jee/spring-jee-3.1.xsd  
  11.     http://code.alibabatech.com/schema/dubbo http://code.alibabatech.com/schema/dubbo/dubbo.xsd  
  12.     http://www.springframework.org/schema/context http://www.springframework.org/schema/context/spring-context-3.1.xsd"  
  13.     default-lazy-init="false" >  
  14.      
  15.    <dubbo:application name="dubbo_provider">  
  16.        
  17.    <dubbo:registry address="zookeeper://127.0.0.1:2181" check="false" subscribe="false" register="">  
  18.       
  19.   <dubbo:service interface="cn.test.dubbo.registry.service.TestRegistryService" ref="testRegistryService" />        

  

 

说明:

   dubbo:registry 标签一些属性的说明:

      1)register是否向此注册中心注册服务,如果设为false,将只订阅,不注册。

      2)check注册中心不存在时,是否报错。

      3)subscribe是否向此注册中心订阅服务,如果设为false,将只注册,不订阅。

      4)timeout注册中心请求超时时间(毫秒)。

      5)address可以Zookeeper集群配置,地址可以多个以逗号隔开等。

  dubbo:service标签的一些属性说明:

     1)interface服务接口的路径

     2)ref引用对应的实现类的Bean的ID

     3)registry向指定注册中心注册,在多个注册中心时使用,值为dubbo:registry的id属性,多个注册中心ID用逗号分隔,如果不想将该服务注册到任何registry,可将值设为N/A

     4)register 默认true ,该协议的服务是否注册到注册中心。

    (5)启动项目,然后我们在Dubbo管理页面上显示,已经暴露的服务,但显示还没有消费者,因为我们还没实现消费者服务,如图所示:

  Java集群优化——dubbo+zookeeper构建高可用分布式集群

   第二:我们在开发服务消费者,就是调用服务,我们在新建一个新的消费者项目:

       

        (1)test-maven-server-console的pom.xml引入Dubbo和Zookeeper的jar包、test-maven-api的jar包,因为引入test-maven-api的jar包,我们在项目中调用像在本地调用一样。代码如下:

[html] view plain copy

  1.   

  2.         cn.test  

  3.         test-maven-api  

  4.         0.0.1-SNAPSHOT  

  5.       

  6.         

  7.             com.alibaba  

  8.             dubbo  

  9.             2.5.3  

  10.           

  11.            

  12.             org.apache.zookeeper  

  13.             zookeeper  

  14.             3.4.6  

  15.           

  16.         

  17.          com.github.sgroschupf  

  18.          zkclient  

  19.          0.1  

  

        (2)test-maven-server-console项目的具体实现,代码如下:

     

[java] view plain copy

  1. @Controller  

  2. public class IndexController {  

  3.     @Autowired  

  4.     private TestRegistryService testRegistryService;  

  5.     @RequestMapping("/hello")  

  6.     public String index(Model model){  

  7.          String name=testRegistryService.hello("zz");  

  8.          System.out.println("xx=="+name);  

  9.         return "";  

  10.     }  

  11. }

  

        (3)我们要引用的地址,代码如下:    

[java] view plain copy

  1.   

  2. <beans xmlns="http://www.springframework.org/schema/beans"  

  3.     xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"   

  4.     xmlns:jee="http://www.springframework.org/schema/jee"  

  5.     xmlns:tx="http://www.springframework.org/schema/tx"  

  6.     xmlns:dubbo="http://code.alibabatech.com/schema/dubbo"  

  7.     xmlns:context="http://www.springframework.org/schema/context"  

  8.     xsi:schemaLocation="http://www.springframework.org/schema/beans http://www.springframework.org/schema/beans/spring-beans-3.1.xsd  

  9.     http://www.springframework.org/schema/tx http://www.springframework.org/schema/tx/spring-tx-3.1.xsd  

  10.     http://www.springframework.org/schema/jee http://www.springframework.org/schema/jee/spring-jee-3.1.xsd  

  11.     http://code.alibabatech.com/schema/dubbo http://code.alibabatech.com/schema/dubbo/dubbo.xsd  

  12.     http://www.springframework.org/schema/context http://www.springframework.org/schema/context/spring-context-3.1.xsd"  

  13.     default-lazy-init="false" >  

  14.    <dubbo:application name="dubbo_consumer">  

  15.        

  16.    <dubbo:registry address="zookeeper://192.168.74.129:2181" check="false">   

  17.          

  18.    <dubbo:reference interface="cn.test.dubbo.registry.service.TestRegistryService" id="testRegistryService">  

  

说明:

   dubbo:reference 的一些属性的说明:

      1)interface调用的服务接口

      2)check 启动时检查提供者是否存在,true报错,false忽略

      3)registry 从指定注册中心注册获取服务列表,在多个注册中心时使用,值为dubbo:registry的id属性,多个注册中心ID用逗号分隔

      4)loadbalance 负载均衡策略,可选值:random,roundrobin,leastactive,分别表示:随机,轮循,最少活跃调用

(4)项目启动,Dubbo管理页面,能看到消费者,如图所示:

 Java集群优化——dubbo+zookeeper构建高可用分布式集群

(5)然后访问消费者项目,Controller层能像调用本地一样调用服务的具体实现,如图所示:

  Java集群优化——dubbo+zookeeper构建高可用分布式集群

总结:

        经过一系列的操作之后,我们感觉,的确很简单,dubbo给我们封装了很多操作,让我们不需要过多考虑具体的实现细节,配置化生成咱们的应用,这样的思想,现在在IT行业正在盛行!

点赞
收藏
评论区
推荐文章
blmius blmius
2年前
MySQL:[Err] 1292 - Incorrect datetime value: ‘0000-00-00 00:00:00‘ for column ‘CREATE_TIME‘ at row 1
文章目录问题用navicat导入数据时,报错:原因这是因为当前的MySQL不支持datetime为0的情况。解决修改sql\mode:sql\mode:SQLMode定义了MySQL应支持的SQL语法、数据校验等,这样可以更容易地在不同的环境中使用MySQL。全局s
Jacquelyn38 Jacquelyn38
2年前
2020年前端实用代码段,为你的工作保驾护航
有空的时候,自己总结了几个代码段,在开发中也经常使用,谢谢。1、使用解构获取json数据let jsonData  id: 1,status: "OK",data: 'a', 'b';let  id, status, data: number   jsonData;console.log(id, status, number )
皕杰报表之UUID
​在我们用皕杰报表工具设计填报报表时,如何在新增行里自动增加id呢?能新增整数排序id吗?目前可以在新增行里自动增加id,但只能用uuid函数增加UUID编码,不能新增整数排序id。uuid函数说明:获取一个UUID,可以在填报表中用来创建数据ID语法:uuid()或uuid(sep)参数说明:sep布尔值,生成的uuid中是否包含分隔符'',缺省为
Easter79 Easter79
2年前
Twitter的分布式自增ID算法snowflake (Java版)
概述分布式系统中,有一些需要使用全局唯一ID的场景,这种时候为了防止ID冲突可以使用36位的UUID,但是UUID有一些缺点,首先他相对比较长,另外UUID一般是无序的。有些时候我们希望能使用一种简单一些的ID,并且希望ID能够按照时间有序生成。而twitter的snowflake解决了这种需求,最初Twitter把存储系统从MySQL迁移
Wesley13 Wesley13
2年前
mysql设置时区
mysql设置时区mysql\_query("SETtime\_zone'8:00'")ordie('时区设置失败,请联系管理员!');中国在东8区所以加8方法二:selectcount(user\_id)asdevice,CONVERT\_TZ(FROM\_UNIXTIME(reg\_time),'08:00','0
Wesley13 Wesley13
2年前
00:Java简单了解
浅谈Java之概述Java是SUN(StanfordUniversityNetwork),斯坦福大学网络公司)1995年推出的一门高级编程语言。Java是一种面向Internet的编程语言。随着Java技术在web方面的不断成熟,已经成为Web应用程序的首选开发语言。Java是简单易学,完全面向对象,安全可靠,与平台无关的编程语言。
Stella981 Stella981
2年前
Django中Admin中的一些参数配置
设置在列表中显示的字段,id为django模型默认的主键list_display('id','name','sex','profession','email','qq','phone','status','create_time')设置在列表可编辑字段list_editable
Stella981 Stella981
2年前
Docker 部署SpringBoot项目不香吗?
  公众号改版后文章乱序推荐,希望你可以点击上方“Java进阶架构师”,点击右上角,将我们设为★“星标”!这样才不会错过每日进阶架构文章呀。  !(http://dingyue.ws.126.net/2020/0920/b00fbfc7j00qgy5xy002kd200qo00hsg00it00cj.jpg)  2
Wesley13 Wesley13
2年前
MySQL部分从库上面因为大量的临时表tmp_table造成慢查询
背景描述Time:20190124T00:08:14.70572408:00User@Host:@Id:Schema:sentrymetaLast_errno:0Killed:0Query_time:0.315758Lock_
Python进阶者 Python进阶者
4个月前
Excel中这日期老是出来00:00:00,怎么用Pandas把这个去除
大家好,我是皮皮。一、前言前几天在Python白银交流群【上海新年人】问了一个Pandas数据筛选的问题。问题如下:这日期老是出来00:00:00,怎么把这个去除。二、实现过程后来【论草莓如何成为冻干莓】给了一个思路和代码如下:pd.toexcel之前把这