Harbor+Helm Chart构建k8s应用程序打包存储发布的基础环境

Stella981
• 阅读 837

Harbor

简介

Harbor是由VMware公司中国团队为企业用户设计的 Registry server开源项目，包括了权限管理(RBAC)、LDAP、审计、管理界面、自我注册、HA、RESTful API等企业必需的功能，属于Cloud Native Computing Foundation（CNCF，云原生计算基金会）的毕业项目。

我们建议使用2.0以后的版本，Harbor在2.0以后的版本使Harbor成为第一个符合OCI（Open Container Initiative，开放容器倡议）标准的开源Registry server，能够存储大量云原生组件，例如container images、Helm Chart、OPAs、CNAB、Singularity等。

目前，Harbor最新稳定版本为2.1，本文使用此版本部署。

部署

1,我们的需求如下

  • 提供registey服务的域名为registry.myk8s.com
  • 我们需要把域名解析到有外网ip的nginx上，然后nginx给Harbor做代理
  • 我们给Harbor单独提供一个分区挂载到了/data1目录

2,现在准备docker环境：

# yum install docker-ce -y
# yum install docker-compose -y
# systemctl start docker

3,Harbor安装配置：

# wget https://github.com/goharbor/harbor/releases/download/v2.0.1/harbor-online-installer-v2.0.1.tgz
# tar xf harbor-online-installer-v2.0.1.tgz
# cd harbor

# vim harbor.yml
hostname: registry.myk8s.com  #服务的域名

https: # 如下配置域名的证书
  certificate: /opt/registry.myk8s.com.crt
  private_key: /opt/registry.myk8s.com.key

external_url: https://registry.myk8s.com # 由于要用nginx做代理，故需要配置

harbor_admin_password: 123546  # 设置harbor默认admin用户的密码

data_volume: /data1 # 设置存储卷

# bash install.sh

最后install.sh会执行安装操作，需要从外网下载镜像，故需要一定的时间。

4,公网nginx配置给Harbor做代理转发:

  • 给nginx添加vhost如下

    # vim registry.myk8s.com.conf
server {
listen 443;
       access_log /data0/logs/registry.myk8s.com.log main;
       server_name registry.myk8s.com;
       location / {
               proxy_pass https://x.x.x.x:443;
               proxy_set_header  Host registry.myk8s.com;
       }
}

  • 重启nginx

    # systemctl reload nginx

    5,访问Harbor界面和配置

  • 访问url：https://registry.myk8s.com

  • 登陆界面之后，可以创建私有项目和不同权限的新用户，然后给用户绑定到不同的项目。私有项目需要对应用户的凭证才能访问。

  • 也可以创建公共项目，公共项目不需要凭证就可以访问

推送docker image到Harbor的私有test项目

说到使用image就离不开要理解image的tag，我们先来理解下tag的作用：
1，docker可以为image的每一个commit ID创建一个tag
docker image将文件等信息的变动抽象为一次次的commit，每一次commit以后会生成一串无规则的字符串代表此次生成的image的ID，此时，tag的作用就是为这个ID创建一个友好的NAME，方便我们对镜像库的管理。
2，docker可以为给一个本地存在的image创建一个指向远程registry server的tag
3，一个image可以有多个tag，不同的tag可以用来区分不同的版本 

# docker login registry.myk8s.com # 输入用户名和密码

# docker tag tutum/dnsutils registry.myk8s.com/test/dnsutils:latest
# docker push registry.myk8s.com/test/dnsutils:latest

对比docker registry

docker registry也提供镜像仓库的功能，但是Harbor功能更为强大。主要提供了docker registry所没有的镜像同步，用户角色权限控制，Helm Chart仓库支持等。

Helm Chart

简介

Helm是一个开源的k8s包管理器，属于Cloud Native Computing Foundation（CNCF，云原生计算基金会）的毕业项目。它能够把创建一个应用所需的所有Kubernetes API对象声明文件组合并打包在一起，并提供了仓库的机制便于存储和分发共享，还支持模版变量替换，同时还有版本的概念，使之能够对一个应用进行版本的管理。

Helm的主要组件如下：

  • helm cli：helm的命令行客户端工具，主要用于k8s应用程序Chart的创建、打包、发布以及创建和管理本地和远程的Chart仓库。
  • Chart：Helm的软件包，采用tar格式。类似于YUM的rpm包，其包含了一组定义k8s资源相关的YAML文件。
  • Repoistory：Helm的软件仓库，Repository本质上是一个Web服务器，该服务器保存了一系列的Chart软件包以供用户下载，并且提供了一个该Repository的Chart包的清单文件以供查询。Helm可以同时管理多个不同的Repository。
  • Release：使用helm install命令在Kubernetes集群中部署的Chart称为Release。

在Helm中，一个Chart可能依赖于任何数量的其他Chart。这些依赖关系可以通过requirements.yaml文件动态链接或引入Charts/目录并手动管理。

helm3在2019年年底发布，移除了Tiller，支持推送Chart包到Harbor registry server。目前helm最新稳定版为helm 3.2.4，本位使用此版本部署。

架构

Harbor+Helm Chart构建k8s应用程序打包存储发布的基础环境

安装

在官方网站https://github.com/helm/helm/releases下载helm3以上的最新稳定二进制版本：

# wget https://get.helm.sh/helm-v3.2.4-linux-amd64.tar.gz
# tar xf helm-v3.2.4-linux-amd64.tar.gz
# mv linux-amd64/helm /usr/local/bin/helm

# helm version
version.BuildInfo{Version:"v3.2.4", GitCommit:"0ad800ef43d3b826f31a5ad8dfbb4fe05d143688", GitTreeState:"clean", GoVersion:"go1.13.12"}

使用

公共仓库

helm有自己的官方公开仓库https://hub.helm.sh/，里面有开发者贡献的一些常见应用的Chart。如果有使用开源软件的需求可以在上面搜索直接下载使用。当然，也可以自己搭建Harbor registry server创建公共仓库。

我们以在k8s集群部署cerebro应用为例子，需要先添加应用对应的repo，然后进行安装：

# helm repo add stable https://kubernetes-charts.storage.googleapis.com
# helm repo list
NAME        URL
stable      https://kubernetes-charts.storage.googleapis.com

# helm install stable/cerebro --version 1.1.4  --generate-name

# helm list
NAME                NAMESPACE   REVISION    UPDATED                                 STATUS      CHART           APP VERSION
cerebro-1591777586  default     1           2020-07-22 16:26:30.419723417 +0800 CST deployed    cerebro-1.1.4   0.8.4

# kubectl get pods|grep cerebro
cerebro-1591777586-7fd87f7d48-hmlp7   1/1     Running   0          11m

私有仓库

1，我们把helm hub的cerebro应用下载到本地，需要再给helm安装push插件，然后给推送到我们自己的Harbor registry server上。

# helm repo add stable https://kubernetes-charts.storage.googleapis.com
# helm pull stable/cerebro
# tar xf cerebro-1.9.2.tgz

# yum install git -y
# helm plugin install https://github.com/chartmuseum/helm-push.git

# export  HELM_EXPERIMENTAL_OCI=1
[root@master2 ~]# helm chart save cerebro registry.myk8s.com/test/cerebro:v1.9.2
ref:     registry.myk8s.com/test/cerebro:v1.9.2
digest:  d32e30e72bb1929b6cf7e46381e7d54f01fc5926c638ef5a47547e0fa24822d5
size:    5.4 KiB
name:    cerebro
version: 1.9.2
v1.9.2: saved

# helm registry login https://registry.myk8s.com
Username: username
Password:
Login succeeded

# helm chart push registry.myk8s.com/test/cerebro:v1.9.2
The push refers to repository [registry.myk8s.com/test/cerebro]
ref:     registry.myk8s.com/test/cerebro:v1.9.2
digest:  d32e30e72bb1929b6cf7e46381e7d54f01fc5926c638ef5a47547e0fa24822d5
size:    5.4 KiB
name:    cerebro
version: 1.9.2
v1.9.2: pushed to remote (1 layer, 5.4 KiB total)

注意：
如果helm-push安装失败，需要通过一些办法把https://github.com/chartmuseum/helm-push/releases/download/v0.8.1/helm-push\_0.8.1\_linux\_amd64.tar.gz文件下载到服务器，然后通过如下方法安装： 

# tar xf helm-push_0.8.1_linux_amd64.tar.gz
# mkdir -p /root/.local/share/helm/plugins/helm-push.git/bin/
# cp bin/helmpush /root/.local/share/helm/plugins/helm-push.git/bin/

2，我们自己初始化一个简单的Chart，默认会安装一个nginx应用, 然后给推送到Harbor registry server。

# helm create helm-test
# vim helm-test/values.yaml # 修改相关Chart的配置

# helm package helm-test
# helm  install helm-test-0.1.0.tgz --generate-name # 在本地k8s安装应用
# helm list
helm-test-0-1595410957  default     1           2020-07-22 17:42:38.051204463 +0800 CST deployed    helm-test-0.1.0 1.16.0

# helm chart save helm-test registry.myk8s.com/test/helm-test:v2
ref:     registry.myk8s.com/test/helm-test:v2
digest:  7f1f17b1516d9173b3368cb64393ec31ad8b818b722b743b31276f49c1c36cf9
size:    3.5 KiB
name:    helm-test
version: 0.1.0
v2: saved

# helm chart push registry.myk8s.com/test/helm-test:v2
The push refers to repository [registry.myk8s.com/test/helm-test]
ref:     registry.myk8s.com/test/helm-test:v2
digest:  7f1f17b1516d9173b3368cb64393ec31ad8b818b722b743b31276f49c1c36cf9
size:    3.5 KiB
name:    helm-test
version: 0.1.0
v2: pushed to remote (1 layer, 3.5 KiB total)

对比CNAB规范

Helm Chart只能用于k8s应用程序的包管理，而CNAB应用更为广泛。Cloud Native Application Bundles (CNAB) 是全新的开源打包格式规范，通过一个可安装文件就能管理多款，在不同环境中配置应用程序资源并分布式应用，在不同环境中配置应用程序资源，无需多个工具集就能轻松管理应用程序的生命周期。它兼容Azure，on-prem OpenStack, Kubernetes, Swarm, Ansible, Terraform等平台。

总结

目前Helm Chart是主流的k8s包管理工具，而Harbor也是主流的registry server，值的我们研究使用。

参考

https://goharbor.io/docs/2.0.0/install-config/
https://goharbor.io/docs/2.0.0/working-with-projects/working-with-images/managing-helm-charts/
https://goharbor.io/blog/harbor-2.0/
https://helm.sh/docs/intro/install/
https://helm.sh/docs/

chartdockerdocker私有仓库搭建k8s软件testkubernetes前端前端
点赞
收藏
评论区
推荐文章
blmius blmius
•
2年前
MySQL:[Err] 1292 - Incorrect datetime value: ‘0000-00-00 00:00:00‘ for column ‘CREATE_TIME‘ at row 1
文章目录问题用navicat导入数据时，报错：原因这是因为当前的MySQL不支持datetime为0的情况。解决修改sql\mode:sql\mode:SQLMode定义了MySQL应支持的SQL语法、数据校验等，这样可以更容易地在不同的环境中使用MySQL。全局s
3521
0
0
Jacquelyn38 Jacquelyn38
•
2年前
2020年前端实用代码段，为你的工作保驾护航
有空的时候，自己总结了几个代码段，在开发中也经常使用，谢谢。1、使用解构获取json数据let jsonData  id: 1,status: "OK",data: 'a', 'b';let  id, status, data: number   jsonData;console.log(id, status, number )
2001
0
0
helloworld_34035044 helloworld_34035044
•
1年前
皕杰报表之UUID
​在我们用皕杰报表工具设计填报报表时，如何在新增行里自动增加id呢？能新增整数排序id吗？目前可以在新增行里自动增加id，但只能用uuid函数增加UUID编码，不能新增整数排序id。uuid函数说明：获取一个UUID，可以在填报表中用来创建数据ID语法：uuid()或uuid(sep)参数说明：sep布尔值，生成的uuid中是否包含分隔符''，缺省为
789
0
0
Stella981 Stella981
•
2年前
KVM调整cpu和内存
一.修改kvm虚拟机的配置1、virsheditcentos7找到“memory”和“vcpu”标签，将<namecentos7</name<uuid2220a6d1a36a4fbb8523e078b3dfe795</uuid
1048
0
0
Easter79 Easter79
•
2年前
Twitter的分布式自增ID算法snowflake (Java版)
概述分布式系统中，有一些需要使用全局唯一ID的场景，这种时候为了防止ID冲突可以使用36位的UUID，但是UUID有一些缺点，首先他相对比较长，另外UUID一般是无序的。有些时候我们希望能使用一种简单一些的ID，并且希望ID能够按照时间有序生成。而twitter的snowflake解决了这种需求，最初Twitter把存储系统从MySQL迁移
876
0
0
Wesley13 Wesley13
•
2年前
mysql设置时区
mysql设置时区mysql\_query("SETtime\_zone'8:00'")ordie('时区设置失败，请联系管理员！');中国在东8区所以加8方法二：selectcount(user\_id)asdevice,CONVERT\_TZ(FROM\_UNIXTIME(reg\_time),'08:00','0
932
0
0
Wesley13 Wesley13
•
2年前
00：Java简单了解
浅谈Java之概述Java是SUN(StanfordUniversityNetwork)，斯坦福大学网络公司)1995年推出的一门高级编程语言。Java是一种面向Internet的编程语言。随着Java技术在web方面的不断成熟，已经成为Web应用程序的首选开发语言。Java是简单易学，完全面向对象，安全可靠，与平台无关的编程语言。
919
0
0
Stella981 Stella981
•
2年前
Django中Admin中的一些参数配置
设置在列表中显示的字段，id为django模型默认的主键list_display('id','name','sex','profession','email','qq','phone','status','create_time')设置在列表可编辑字段list_editable
860
0
0
Wesley13 Wesley13
•
2年前
MySQL部分从库上面因为大量的临时表tmp_table造成慢查询
背景描述Time:20190124T00:08:14.70572408:00User@Host:@Id:Schema:sentrymetaLast_errno:0Killed:0Query_time:0.315758Lock_
1128
0
0
Python进阶者 Python进阶者
•
3个月前
Excel中这日期老是出来00：00：00，怎么用Pandas把这个去除
大家好，我是皮皮。一、前言前几天在Python白银交流群【上海新年人】问了一个Pandas数据筛选的问题。问题如下：这日期老是出来00：00：00，怎么把这个去除。二、实现过程后来【论草莓如何成为冻干莓】给了一个思路和代码如下：pd.toexcel之前把这
139
0
0
Stella981
Stella981
Lv1
接天莲叶无穷碧，映日荷花别样红。
文章
1.7w
粉丝
37
获赞
28
热门文章
OpenVPN下载、安装、配置及使用详解
GitHub神器，一个可以白嫖全网无损音乐的神器
OpenWrt 路由器过滤广告的N种方法
Python—执行系统命令的四种方法（os.system、os.popen、commands、subprocess）
SS端加密以及obfs混淆