49 | 服务编排（上）：Helm服务编排基础知识

发表于 | 更新于 | 分类于
本文字数： 28k | 阅读时长 ≈ 26 分钟

思考并回答以下问题：

我们将应用部署在Kubernetes时，可能需要创建多个服务。我就见过一个包含了40多个微服务的超大型应用，每个服务又包含了多个Kubernetes资源，比如Service、Deployment、StatefulSet、ConfigMap等。相同的应用又要部署在不同的环境中，例如测试环境、预发环境、现网环境等，也就是说应用的配置也不同。

对于一个大型的应用，如果基于YAML文件一个一个地部署Kubernetes资源，是非常繁琐、低效的，而且这些YAML文件维护起来极其复杂，还容易出错。那么，有没有一种更加高效的方式？比如，像Docker镜像一样，将应用需要的Kubernetes资源文件全部打包在一起，通过这个包来整体部署和管理应用，从而降低应用部署和维护的复杂度。

答案是有。我们可以通过Helm Chart包来管理这些Kubernetes文件，并通过helm命令，基于Chart包来创建和管理应用。

接下来，我就来介绍下Helm的基础知识，并给你演示下如何基于Helm部署IAM应用。

Helm基础知识介绍

Helm目前是Kubernetes服务编排事实上的标准。Helm提供了多种功能来支持Kubernetes的服务编排，例如helm命令行工具、Chart包、Chart仓库等。下面，我就来详细介绍下。

Helm是什么？

Helm是Kubernetes的包管理器，类似于Python的pip，centos的yum。Helm主要用来管理Chart包。Helm Chart包中包含一系列YAML格式的Kubernetes资源定义文件，以及这些资源的配置，可以通过Helm Chart包来整体维护这些资源。

Helm也提供了一个helm命令行工具，该工具可以基于Chart包一键创建应用，在创建应用时，可以自定义Chart配置。应用发布者可以通过Helm打包应用、管理应用依赖关系、管理应用版本，并发布应用到软件仓库；对于使用者来说，使用Helm后不需要编写复杂的应用部署文件，可以非常方便地在Kubernetes上查找、安装、升级、回滚、卸载应用程序。

Helm最新的版本是v3，Helm3以Helm2的核心功能为基础，对Chart repo、发行版管理、安全性和library Charts进行了改进。和Helm2比起来，Helm3最明显的变化是删除了Tiller（Helm2是一种Client-Server结构，客户端称为Helm，服务器称为Tiller）。Helm3还新增了一些功能，并废弃或重构了Helm2的部分功能，与Helm2不再兼容。此外，Helm3还引入了一些新的实验功能，包括OCI支持。

Helm3架构图如下：

上面的架构图中，核心是Helm Client（helm命令）和Helm Chart包。helm命令可以从Chart Repository中下载Helm Chart包，读取kubeconfig文件，并构建kube-apiserver REST API接口的HTTP请求。通过调用Kubernetes提供的REST API接口，将Chart包中包含的所有以YAML格式定义的Kubernetes资源，在Kubernetes集群中创建。

这些资源以Release的形式存在于Kubernetes集群中，每个Release又包含多个Kubernetes资源，例如Deployment、Pod、Service等。

Helm中的三大基本概念

要学习和使用Helm，一定要了解Helm中的三大基本概念，Helm的所有操作基本都是围绕着这些概念来进行的。下面我来介绍下Helm的三大基本概念。

  • Chart：代表一个Helm包。它包含了在Kubernetes集群中运行应用程序、工具或服务所需的所有YAML格式的资源定义文件。
  • Repository（仓库）：它是用来存放和共享Helm Chart的地方，类似于存放源码的GitHub的Repository，以及存放镜像的Docker的Repository。
  • Release：它是运行在Kubernetes集群中的Chart的实例。一个Chart通常可以在同一个集群中安装多次。每一次安装都会创建一个新的Release。

我们为什么要使用Helm？

现在你对Helm已经有了一定了解，这里我再来详细介绍下为什么要使用Helm。

先来看下传统的应用部署模式：

我们有测试环境、预发环境、现网环境三个环境，每个环境中部署一个应用A，应用A中包含了多个服务，每个服务又包含了自己的配置，不同服务之间的配置有些是共享的，例如配置A。

每个服务由一个复杂的KubernetesYAML格式的文件来定义并创建，可以看到如果靠传统的方式，去维护这些YAML格式文件，并在不同环境下使用不同的配置去创建应用，是一件非常复杂的工作，并且后期YAML文件和Kubernetes集群中部署应用的维护都很复杂。随着微服务规模越来越大，会面临以下挑战：

  • 微服务化服务数量急剧增多，给服务管理带来了极大的挑战。
  • 服务数量急剧增多，增加了管理难度，对运维部署是一种挑战。
  • 服务数量的增多，对服务配置管理也提出了更高的要求。
  • 随着服务数量增加，服务依赖关系也变得更加复杂，服务依赖关系的管理难度增大。
  • 在环境信息管理方面，在新环境快速部署一个复杂应用变得更加困难。

所以，我们需要一种更好的方式，来维护和管理这些YAML文件和Kubernetes中部署的应用。Helm可以帮我们解决上面这些问题。

接下来，我们来看下Helm是如何解决这些问题的。

在Helm中，可以理解为主要包含两类文件：模板文件和配置文件。模板文件通常有多个，配置文件通常有一个。Helm的模板文件基于text/template模板文件，提供了更加强大的模板渲染能力。Helm可以将配置文件中的值渲染进模板文件中，最终生成一个可以部署的KubernetesYAML格式的资源定义文件，如下图所示：

上图中，我们将以下配置渲染进了模板中，生成了KubernetesYAML文件：

1
2
3
4
5
replicas: 2
tag: latest
common:
    username: colin
    password: iam1234

所以在Helm中，部署一个应用可以简化为Chart模板（多个服务）+Chart配置->应用，如下图所示：

Chart模板一个应用只用编写一次，可以重复使用。在部署时，可以指定不同的配置，从而将应用部署在不同的环境中，或者在同一环境中部署不同配置的应用。

Helm基本操作实战

上面，我介绍了Helm的一些基础知识，这里我们再来学习下如何使用Helm对应用进行生命周期管理。

前置条件

在开始之前，你需要确保你有一个可以使用的Kubernetes集群。目前最方便快捷、最经济的方式是申请一个腾讯云EKS集群。至于如何申请和访问，你可以参考48讲“准备一个Kubernetes集群”部分的教程。这里再提醒下，用完集群后，记得删除集群资源，免得被持续扣费。

安装Helm

Helm提供了多种安装方式，在能连通外网的情况下，可以通过脚本来安装，安装命令如下：

1
2
3
4
5
6
7
$ mkdir -p $HOME/bin
$ wget https://get.helm.sh/helm-v3.6.3-linux-amd64.tar.gz
$ tar -xvzf helm-v3.6.3-linux-amd64.tar.gz
$ mv linux-amd64/helm $HOME/bin
$ chmod +x $HOME/bin/helm
$ helm version
version.BuildInfo{Version:"v3.6.3", GitCommit:"d506314abfb5d21419df8c7e7e68012379db2354", GitTreeState:"clean", GoVersion:"go1.16.5"}

如果执行helmversion可以成功打印出helm命令的版本号，说明Helm安装成功。

Helm各版本安装包地址见HelmReleases。

安装完helm命令后，可以安装helm命令的自动补全脚本。假如你用的shell是bash，安装方法如下：

1
2
3
$ helm completion bash > $HOME/.helm-completion.bash
$ echo 'source $HOME/.helm-completion.bash' >> ~/.bashrc
$ bash

执行helm comp，就会自动补全为helm completion。

Helm快速入门

你可以通过以下六个步骤，来快速创建一个Chart应用。

第一步，初始化一个Helm Chart仓库。

安装完Helm之后，就可以使用helm命令添加一个Chart仓库。类似于用来托管Docker镜像的DockerHub、用来托管代码的GitHub，Chart包也有一个托管平台，当前比较流行的Chart包托管平台是ArtifactHub。

ArtifactHub上有很多Chart仓库，我们可以添加需要的Chart仓库，这里我们添加BitNami提供的Chart仓库：

1
2
$ helm repo add bitnami https://charts.bitnami.com/bitnami # <span style="color:#339AFF;">添加 Chart Repository
$ helm repo list # <span style="color:#339AFF;">查看添加的 Repository 列表

添加完成后，我们可以通过helm search命令，来查询需要的Chart包。helm search支持两种不同的查询方式，这里我来介绍下。

  • helm searchrepo：从你使用helm repoadd添加到本地Helm客户端中的仓库里查找。该命令基于本地数据进行搜索，无需连接外网。
  • helm searchhub：从ArtifactHub中查找并列出Helm Charts。ArtifactHub中存放了大量的仓库。

Helm搜索使用模糊字符串匹配算法，所以你可以只输入名字的一部分。下面是一个helm search的示例：

1
2
3
4
5
6
7
8
9
10
$ helm search repo bitnami
NAME                                          CHART VERSION  APP VERSION    DESCRIPTION
bitnami/bitnami-common                        0.0.9          0.0.9          DEPRECATED Chart with custom templates used in ...
bitnami/airflow                               10.2.8         2.1.2          Apache Airflow is a platform to programmaticall...
bitnami/apache                                8.6.1          2.4.48         Chart for Apache HTTP Server
bitnami/argo-cd                               1.0.2          2.0.5          Declarative, GitOps continuous delivery tool fo...
bitnami/aspnet-core                           1.3.14         3.1.18         ASP.NET Core is an open-source framework create...
bitnami/cassandra                             8.0.2          4.0.0          Apache Cassandra is a free and open-source dist...
bitnami/cert-manager                          0.1.15         1.5.1          Cert Manager is a Kubernetes add-on to automate...
# ... and many more

第二步，安装一个示例Chart。

查询到自己需要的Helm Chart后，就可以通过helm install命令来安装一个Chart。helm install支持从多种源进行安装：

  • Chart的Repository。
  • 本地的ChartArchive，例如helm install foo foo-1.0.0.tgz。
  • 一个未打包的Chart路径，例如helm install foo path/to/foo。
  • 一个完整的URL，例如helm install foo https://example.com/charts/foo-1.0.0.tgz。

这里，我们选择通过bitnami/mysqlChart包来安装一个MySQL应用。你可以执行helm show chartbitnami/mysql命令，来简单了解这个Chart的基本信息。或者，你也可以执行helm show allbitnami/mysql，获取关于该Chart的所有信息。

接下来，就可以使用helm install命令来安装这个Chart包了。安装命令如下：

1
2
3
4
5
6
7
8
9
$ helm repo update              # <span style="color:#339AFF;">Make sure we get the latest list of charts
$ helm install bitnami/mysql --generate-name
NAME: mysql-1629528555
LAST DEPLOYED: Sat Aug 21 14:49:19 2021
NAMESPACE: default
STATUS: deployed
REVISION: 1
TEST SUITE: None
NOTES: ...

在上面的例子中，我们通过安装bitnami/mysql这个Chart，创建了一个mysql-1629528555Release。--generate-name参数告诉Helm自动为这个Release命名。

在安装过程中，Helm客户端会打印一些有用的信息，包括哪些资源已经被创建，Release当前的状态，以及你是否还需要执行额外的配置步骤。例如，从上述例子的输出中，你可以获取到数据库的Root密码、登陆方式、更新方式等信息。

安装完之后，你可以使用helm status来追踪Release的状态。

每当你执行helm install的时候，都会创建一个新的发布版本。所以一个Chart在同一个集群里面可以被安装多次，每一个都可以被独立地管理和升级。

helm install命令会将templates渲染成最终的Kubernetes能够识别的YAML格式，然后安装到Kubernetes集群中。

helm install功能非常强大，想了解更多功能，你可以参考这个指南：使用Helm。

第三步，安装前自定义Chart。

上一步中的安装方式只会使用Chart的默认配置选项，很多时候我们需要自定义Chart来指定我们想要的配置。使用helm show values可以查看Chart中的可配置选项：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
$ helm show values bitnami/mysql # 为了方便展示，我删除了 `helm show values`输出中的`#`注释
# and many more
architecture: standalone
auth:
  rootPassword: ""
  database: my_database
  username: ""
  password: ""
  replicationUser: replicator
  replicationPassword: ""
  existingSecret: ""
  forcePassword: false
  usePasswordFiles: false
  customPasswordFiles: {}
initdbScripts: {}
# ... and many more

然后，你可以使用YAML格式的文件，覆盖上述任意配置项，并在安装过程中使用该文件。
1
2
$ echo '{auth.database: iam, auth.username: iam, auth.password: iam59!z$}' > values.yaml
$ helm install bitnami/mysql -f values.yaml --generate-name

上述命令将为MySQL创建一个名称为iam的默认用户，密码为iam59!z$，并且授予该用户访问新建的iam数据库的权限。Chart中的其他默认配置保持不变。

安装过程中，有两种传递配置数据的方式。

  • -f,—values：使用YAML文件覆盖配置。可以指定多次，优先使用最右边的文件。
  • —set：通过命令行的方式对指定配置项进行覆盖。

如果同时使用两种方式，则--set中的值会被合并到--values中，但是--set中的值优先级更高。在--set中覆盖的内容会被保存在ConfigMap中。你可以通过hel mget values来查看指定Release中--set设置的值，也可以通过运行helm upgrade并指定--reset-values字段，来清除--set中设置的值。

这里我讲解下--set的格式和限制。

—set选项使用0或多个key-value对。最简单的用法类似于--setname=value，等价于下面这个YAML格式：

1
name: value

多个值之间使用逗号分割，因此—seta=b,c=d的YAML表示是：
1
2
a: b
c: d

--set还支持更复杂的表达式。例如，--setouter.inner=value被转换成了：
1
2
outer:
  inner: value

列表使用花括号{}来表示。例如，--setname={a,b,c}被转换成了：
1
2
3
4
name:
  - a
  - b
  - c

从2.5.0版本开始，我们可以使用数组下标的语法来访问列表中的元素了。例如--setservers[0].port=80就变成了：
1
2
servers:
  - port: 80

多个值也可以通过这种方式来设置。—setservers[0][0].host=``marmotedu变成了：
1
2
3
servers:
  - port: 80
    host: marmotedu

如果需要在—set中使用特殊字符，你可以使用反斜线来进行转义，比如—setname=value1\,value2就变成了：
1
name: "value1,value2"

如果是深层嵌套的数据结构，可能很难用—set来表达，更多内容你可以参考Values文件。

第四步，查看当前集群安装了哪些Release。

通过helmlist可以查看当前集群、当前Namespace下安装的Release列表：

1
2
3
4
$ helm list
NAME              NAMESPACE  REVISION  UPDATED                                  STATUS    CHART        APP VERSION
mysql-1629528555  default    1         2021-08-21 14:49:19.101935218 +0800 CST  deployed  mysql-8.8.4  8.0.26
mysql-1629529348  default    1         2021-08-21 15:02:32.079969128 +0800 CST  deployed  mysql-8.8.4  8.0.26

可以看到，我们创建了两个Release，这些Release位于default命名空间中。上述命令，也列出了Release的更新时间、状态、Chart的版本等。

第五步，升级Release，并且在失败时恢复。

部署完应用之后，后续还可能升级应用，可以通过helmupgrade命令来升级应用。升级操作会基于已有的Release，根据提供的信息进行升级。Helm在更新时，只会变更有更改的内容。

例如，这里我们升级mysql-1629528555，变更它的Root密码：

1
$ helm upgrade mysql-1629528555 bitnami/mysql --set auth.rootPassword='iam59!z$'

在上面的例子中，mysql-1629528555这个Release使用相同的Chart进行升级，但使用了一个新的rootPassword配置。

我们可以使用helmgetvalues命令，来看看配置值是否真的生效了：

1
2
3
4
$ helm get values mysql-1629528555
USER-SUPPLIED VALUES:
auth:
  rootPassword: iam59!z$

可以看到rootPassword的新值已经被部署到集群中了。

假如发布失败，我们也很容易通过helmrollback[RELEASE][REVISION]命令，回滚到之前的发布版本。

1
$ helm rollback mysql-1629528555 1

上面这条命令将我们的mysql-1629528555回滚到了它最初的版本。Release版本其实是一个增量修订（revision）。每当发生了一次安装、升级或回滚操作，revision的值就会加1。第一次revision的值永远是1。

我们可以使用helmhistory[RELEASE]命令来查看一个特定Release的修订版本号：

1
2
3
4
$ helm history mysql-1629528555
REVISION  UPDATED                   STATUS      CHART        APP VERSION  DESCRIPTION
1         Sat Aug 21 14:49:19 2021  superseded  mysql-8.8.4  8.0.26       Install complete
2         Sat Aug 21 15:14:45 2021  deployed    mysql-8.8.4  8.0.26       Upgrade complete

你还可以指定一些其他的选项，来自定义Helm在安装、升级、回滚期间的行为。这里，我介绍一些常用的参数，供你参考。

  • —timeout：一个Goduration类型的值，用来表示等待Kubernetes命令完成的超时时间，默认值为5m0s。
  • —no-hooks：不运行当前命令的钩子。
  • —wait：表示必须要等到所有的Pods都处于ready状态、PVC都被绑定、Deployments处在ready状态的Pods个数达到最小值（Desired减去maxUnavailable），才会标记该Release为成功。最长等待时间由—timeout值指定。如果达到超时时间，Release将被标记为FAILED。

这里需要注意，当Deployment的replicas被设置为1，但其滚动升级策略中的maxUnavailable没有被设置为0时，—wait将返回就绪，因为已经满足了最小readyPod数。

第六步，卸载Release。

你可以使用helmuninstall命令卸载一个Release：

1
$ helm  uninstall mysql-1629528555

上述命令会从Kubernetes卸载mysql-1629528555，它将删除和该版本关联的所有资源（Service、Deployment、Pod、ConfigMap等），包括该Release的所有版本历史。

如果你在执行helmuninstall的时候提供—keep-history选项，Helm将会保存版本历史。你可以通过helmstatus命令查看该版本的信息：

1
2
3
$ helm status mysql-1629528555
Status: UNINSTALLED
...

因为--keep-history选项会让Helm跟踪你的版本（即使你卸载了它们），所以你可以审计集群历史，甚至使用helmrollback回滚版本。

Helm命令

上面我介绍了Helm的一些命令的用法，如果你想查看Helm提供的所有命令，可以执行helmhelp。或者，你也可以执行helm-h来查看某个子命令的用法，例如：

1
2
3
4
5
6
7
8
9
10
11
12
13
$ helm get -h

This command consists of multiple subcommands which can be used to
get extended information about the release, including:

- The values used to generate the release
- The generated manifest file
- The notes provided by the chart of the release
- The hooks associated with the release

Usage:
  helm get [command]
# ... and many more

我整理了一份命令列表，供你参考：

上面这些命令中，有些提供了子命令和命令行参数，具体你可以执行helm -h来查看。

总结

今天，我介绍了Helm的基础知识，并给你演示了如何基于Helm部署IAM应用。

当一个应用包含了很多微服务时，手动在Kubernetes集群中部署、升级、回滚这些微服务是一件非常复杂的工作。这时候，我们就需要一个服务编排方案来编排这些服务，从而提高服务部署和维护的效率。

目前业界提供了多种服务编排方案，其中最流行的是Helm，Helm已经成为一个事实上的Kubernetes服务编排标准。

在Helm中，有Chart、Repository和Release三大基本概念。Chart代表一个Helm包，里面包含了运行Kubernetes应用需要的所有资源定义YAML文件；Repository是Chart仓库，用来存放和共享Helm Chart；Release是运行在Kubernetes集群中的Chart的实例。

我们可以通过helm install[NAME][CHART][flags]来安装一个Chart包；通过helmupgrade[RELEASE][CHART][flags]来更新一个HelmRelease；通过helmuninstallRELEASE_NAME[…][flags]来卸载一个HelmRelease。另外，helm命令行工具还提供了其他的功能，你可以再回顾一遍。

课后练习

1，思考下，如果使用Helm创建服务，是否会存在先启动服务，再创建服务配置，从而导致服务启动时加载配置失败的问题？

2，如果有，Helm可以怎样解决这个问题？尝试将IAM应用制作成一个Chart包，并通过Helm安装。

0%