使用腾讯云容器服务（TKE）是如何实现应用跨可用区高可用部署的？

本文来源 | 云+社区专栏文章

作者 | 杨泽华，腾讯云高级解决方案架构师。8年大型互联网公司从业经验，5年云计算行业工作经验。对云计算平台基础架构、网络架构等有深入的理解。专注于互联网行业高可用方案、多活方案、迁移方案设计。

 

 

本文描述如何使用腾讯云容器服务（TKE）实现跨可用区的应用高可用部署，包含如下内容：

 

1.高可用部署架构

2.使用容器服务（TKE）进行高可用部署

3.关于亲和性和反亲和性说明

4.总结

 

 

01高可用部署架构

 

IDC在全球范围内,针对多个行业的中小型企业(员工数小于1000名)的调研显示,近80%的公司预计，云服务器每小时的停机成本至少在2万美元以上,而超过20%的企业估算其云服务器每小时的停机成本至少为10万美元。

 

由此可见，云服务器停机对于云上企业的损失不容小觑，云服务商高可用方案越来越成为企业上云最重要的选择标准之一。在“上云”已经成为共识之后,如何进行高可用部署呢？

 

传统模式下，使用云主机实现高可用部署的架构图如下：

云主机实现高可用部署

 

将云主机分散在不同的可用区，利用负载均衡（CLB）支持跨可用区分发的特性，实现业务流量跨可用区分发。当一个可用区（AZ）出现故障时，流量切换到另一个可用区（AZ），由此实现高可用部署。

 

使用云主机搭建业务环境，需要在云主机上部署web服务器（Nginx，Tomcat等），然后再部署业务代码，随着业务规模的增大，发布、部署的时间会变长。

 

随着容器的盛行，越来越多的企业采用DevOps， 使用容器部署业务。本文描述了如何使用腾讯云容器服务（TKE）进行业务高可用部署。部署架构如下：

 

两个Node节点分布位于同一个地域的两个可用区，两个业务的Pod分布部署在2个Node上，使用CLB实现流量负载均衡。

 

下面我们看看如何使用腾讯云容器快速的实现应用高可用部署。

 

 

02使用容器服务（TKE）进行高可用部署

 

在本文中我们使用一个简单的swagger应用作为示例，实现高可用部署。swagger-ui的下载地址：https://github.com/swagger-api/swagger-ui/blob/master/docs/usage/installation.md。

 

在docker的镜像仓库里已经有了制作好的swaggerui镜像，可以直接使用。 也可以自己下载源码制作成镜像。 我们使用docker镜像仓库里的镜像。

 

登陆腾讯云容器控制台，

https://console.cloud.tencent.com/tke2/cluster?rid=8 创建一个容器集群。

 

容器集群创建成功之后，创建新的节点：

 

这里添加2个节点，分别分布到2个可用区：北京二区、北京三区：

 

添加成功后如下图：

 

 

 

集群创建成功后下面制作镜像。

 

制作镜像

 

首先我们创建一个镜像仓库，设置为公有：

 

腾讯云registry使用指引方法如下：

 

登录腾讯云docker registry

sudo docker login --username=100002678805 ccr.ccs.tencentyun.com

从registry拉取镜像

sudo docker pull ccr.ccs.tencentyun.com/zehua/swaggerui:[tag]

将镜像推送到registry

sudo docker login --username=100002678805 ccr.ccs.tencentyun.com
sudo docker tag [ImageId] ccr.ccs.tencentyun.com/zehua/swaggerui:[tag]
sudo docker push ccr.ccs.tencentyun.com/zehua/swaggerui:[tag]

下面我们按照上面的方法将swagger的镜像推送到刚刚创建的镜像仓库。

 

SSH登陆到其中一台容器节点，拉取swaggerui镜像，执行命令：

docker pull swaggerapi/swagger-ui

登陆到腾讯云镜像仓库：

docker login --username=100002678805 ccr.ccs.tencentyun.com

给刚刚拉取的swaggerui镜像打标签：

docker tag swaggerapi/swagger-ui ccr.ccs.tencentyun.com/zehua/swaggerui:1.2

将swaggerui镜像推送到腾讯云镜像仓库：

docker push ccr.ccs.tencentyun.com/zehua/swaggerui:1.2

 

高可用部署

 

下面进行高可用部署。首先创建deployment，创建deployment时，选择合适的namespace，如下图：

 

本示例将swagger部署到zehua-ns这个namespace下：

 

选择刚刚创建的swaggerui镜像：

 

注意这里的端口号是8080。

 

这里为了演示，Pod数量创建2个，将这2个pod分发到不同的可用区中。你可以根据实际情况选择合适的pod数量。

节点调度策略这里有2个选择： 按节点调度，自定义调度规则。可以选择任意一种方式进行调度。

 

按节点调度，可以选择当前容器集群的节点, TKE会将Pod均匀调度到这些节点上。 本示例中创建2个Pod，TKE会将2个Pod分别调度到这2个节点上。

 

如果选择按自定义规则调度，需要指定节点的标签。

 

我们给2个节点打了AZ的标签，分别是bj2，bj3. 打标签方式如下：

 

分别给2个节点新增标签：

 

也可以使用命令行的方式打标签。 使用kubectl进行添加。传统模式下，使用云主机实现高可用部署的架构图如下：

 

kubectl get nodes --show-labels

 

kubectl label nodes 10.0.2.12 az=bj2
kubectl label nodes 10.0.5.17 az=bj3

设置完高可用部署后，进行访问设置。开启公网访问， 注意端口映射的设置：

 

完成后点击创建workload。

 

创建完成后，可以在service里面看到创建的服务：

 

在Pod管理里可以看到2个Pod被调度到了2个节点上：

访问Service里的负载均衡IP，可以看到部署成功：

至此我们完成了业务高可用部署。

 

 

03关于亲和性和反亲和性

 

通过腾讯云控制台查看swagger应用的YAML文件，可以看到，通过控制台实现Pod调度是通过节点亲和性（nodeAffinity:）来实现的。

spec:
affinity:
nodeAffinity:
requiredDuringSchedulingIgnoredDuringExecution:
nodeSelectorTerms:
- matchExpressions:
  - key: kubernetes.io/hostname
operator: In
values:
- 10.0.2.12
- 10.0.5.17

节点亲和性通过指定 preferredDuringSchedulingIgnoredDuringExecution和

requiredDuringSchedulingIgnoredDuringExecution 来实现亲和性的软限制和硬限制。节点亲和性的语法支持：In, NotIn, Exists, DoesNotExist, Gt, Lt。 通过这些语法，可以灵活的控制台节点亲和性。本例中使用了http://kubernetes.io/hostname这个默认标签作为调度，调度到hostname为 10.0.2.12和10.0.5.17的两个节点上。

 

如果在节点调度策略里选择了“自定义调度规则”， 亲和性的实现大概如下：

spec:
affinity:
nodeAffinity:
preferredDuringSchedulingIgnoredDuringExecution:
- preference:
  matchExpressions:
  - key: failure-domain.beta.kubernetes.io/zone
operator: In
values:
- "800002"
- "800003"
weight: 1
  requiredDuringSchedulingIgnoredDuringExecution:
nodeSelectorTerms:
- matchExpressions:
  - key: az
operator: In
values:
- bj2
- bj3

这里的调度策略使用了节点的AZ标签，2个pod会被调度到标签值为bj2，bj3的节点上。 如果有3个pod，某一个节点上会部署2个pod，另一个节点上部署一个pod。

 

如果希望使用pod affinity的特性，可以通过自己编写YAML的方式实现。 下一篇文章中将会给出Pod Affinity的示例。

 

 

04总结

 

至此，我们完成了通过腾讯云容器平台实现业务跨可用区的高可用部署。通过腾讯云TKE控制台，使用K8S节点亲和性的功能，可以快速实现业务跨可用区的高可用部署。通过节点亲和性的语法规则，可以实现复杂的部署逻辑。腾讯云TKE控制台大大简化了跨可用区部署的复杂性，帮助用户快速实现业务的高可用。