496 lines
18 KiB
Markdown
496 lines
18 KiB
Markdown
<h2><center>Kubernetes Service详解</center></h2>
|
||
|
||
------
|
||
|
||
## 一：Service介绍
|
||
|
||
在kubernetes中，pod是应用程序的载体，我们可以通过pod的ip来访问应用程序，但是pod的ip地址不是固定的，这也就意味着不方便直接采用pod的ip对服务进行访问。
|
||
|
||
为了解决这个问题，kubernetes提供了Service资源，Service会对提供同一个服务的多个pod进行聚合，并且提供一个统一的入口地址。通过访问Service的入口地址就能访问到后面的pod服务。
|
||
|
||
|
||
|
||
Service在很多情况下只是一个概念，真正起作用的其实是kube-proxy服务进程，每个Node节点上都运行着一个kube-proxy服务进程。当创建Service的时候会通过api-server向etcd写入创建的service的信息，而kube-proxy会基于监听的机制发现这种Service的变动，然后它会将最新的Service信息转换成对应的访问规则。
|
||
|
||
|
||
|
||
```bash
|
||
# 10.97.97.97:80 是service提供的访问入口
|
||
# 当访问这个入口的时候，可以发现后面有三个pod的服务在等待调用，
|
||
# kube-proxy会基于rr（轮询）的策略，将请求分发到其中一个pod上去
|
||
# 这个规则会同时在集群内的所有节点上都生成，所以在任何一个节点上，都可以访问。
|
||
[root@node1 ~]# ipvsadm -Ln
|
||
IP Virtual Server version 1.2.1 (size=4096)
|
||
Prot LocalAddress:Port Scheduler Flags
|
||
-> RemoteAddress:Port Forward Weight ActiveConn InActConn
|
||
TCP 10.97.97.97:80 rr
|
||
-> 10.244.1.39:80 Masq 1 0 0
|
||
-> 10.244.1.40:80 Masq 1 0 0
|
||
-> 10.244.2.33:80 Masq 1 0 0
|
||
```
|
||
|
||
kube-proxy目前支持三种工作模式：
|
||
|
||
### 1. userspace 模式
|
||
|
||
userspace模式下，kube-proxy会为每一个Service创建一个监听端口，发向Cluster IP的请求被Iptables规则重定向到kube-proxy监听的端口上，kube-proxy根据LB算法选择一个提供服务的Pod并和其建立链接，以将请求转发到Pod上。 该模式下，kube-proxy充当了一个四层负责均衡器的角色。由于kube-proxy运行在userspace中，在进行转发处理时会增加内核和用户空间之间的数据拷贝，虽然比较稳定，但是效率比较低。
|
||
|
||
|
||
|
||
### 2. iptables 模式
|
||
|
||
iptables模式下，kube-proxy为service后端的每个Pod创建对应的iptables规则，直接将发向Cluster IP的请求重定向到一个Pod IP。 该模式下kube-proxy不承担四层负责均衡器的角色，只负责创建iptables规则。该模式的优点是较userspace模式效率更高，但不能提供灵活的LB策略，当后端Pod不可用时也无法进行重试。
|
||
|
||
|
||
|
||
### 3. ipvs 模式
|
||
|
||
ipvs模式和iptables类似，kube-proxy监控Pod的变化并创建相应的ipvs规则。ipvs相对iptables转发效率更高。除此以外，ipvs支持更多的LB算法。
|
||
|
||
|
||
|
||
```bash
|
||
# 此模式必须安装ipvs内核模块，否则会降级为iptables
|
||
# 开启ipvs
|
||
# 修改mode: "ipvs"
|
||
[root@master ~]# kubectl edit cm kube-proxy -n kube-system
|
||
configmap/kube-proxy edited
|
||
[root@master ~]# kubectl delete pod -l k8s-app=kube-proxy -n kube-system
|
||
pod "kube-proxy-fxv98" deleted
|
||
pod "kube-proxy-mtn5n" deleted
|
||
pod "kube-proxy-x82nf" deleted
|
||
[root@node1 ~]# ipvsadm -Ln
|
||
IP Virtual Server version 1.2.1 (size=4096)
|
||
Prot LocalAddress:Port Scheduler Flags
|
||
-> RemoteAddress:Port Forward Weight ActiveConn InActConn
|
||
TCP 10.97.97.97:80 rr
|
||
-> 10.244.1.39:80 Masq 1 0 0
|
||
-> 10.244.1.40:80 Masq 1 0 0
|
||
-> 10.244.2.33:80 Masq 1 0 0
|
||
```
|
||
|
||
## 二：Service类型
|
||
|
||
Service的资源清单文件：
|
||
|
||
```yaml
|
||
kind: Service # 资源类型
|
||
apiVersion: v1 # 资源版本
|
||
metadata: # 元数据
|
||
name: service # 资源名称
|
||
namespace: dev # 命名空间
|
||
spec: # 描述
|
||
selector: # 标签选择器，用于确定当前service代理哪些pod
|
||
app: nginx
|
||
type: # Service类型，指定service的访问方式
|
||
clusterIP: # 虚拟服务的ip地址
|
||
sessionAffinity: # session亲和性，支持ClientIP、None两个选项
|
||
ports: # 端口信息
|
||
- protocol: TCP
|
||
port: 3017 # service端口
|
||
targetPort: 5003 # pod端口
|
||
nodePort: 31122 # 主机端口
|
||
```
|
||
|
||
- ClusterIP：默认值，它是Kubernetes系统自动分配的虚拟IP，只能在集群内部访问
|
||
- NodePort：将Service通过指定的Node上的端口暴露给外部，通过此方法，就可以在集群外部访问服务
|
||
- LoadBalancer：使用外接负载均衡器完成到服务的负载分发，注意此模式需要外部云环境支持
|
||
- ExternalName： 把集群外部的服务引入集群内部，直接使用
|
||
|
||
## 三：Service使用
|
||
|
||
### 1. 实验环境准备
|
||
|
||
在使用service之前，首先利用Deployment创建出3个pod，注意要为pod设置app=nginx-pod的标签
|
||
|
||
创建deployment.yaml，内容如下：
|
||
|
||
```yaml
|
||
apiVersion: apps/v1
|
||
kind: Deployment
|
||
metadata:
|
||
name: pc-deployment
|
||
namespace: dev
|
||
spec:
|
||
replicas: 3
|
||
selector:
|
||
matchLabels:
|
||
app: nginx-pod
|
||
template:
|
||
metadata:
|
||
labels:
|
||
app: nginx-pod
|
||
spec:
|
||
containers:
|
||
- name: nginx
|
||
image: nginx:1.17.1
|
||
ports:
|
||
- containerPort: 80
|
||
```
|
||
|
||
```bash
|
||
[root@master ~]# kubectl create -f deployment.yaml
|
||
deployment.apps/pc-deployment created
|
||
|
||
# 查看pod详情
|
||
[root@master ~]# kubectl get pods -n dev -o wide --show-labels
|
||
NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES LABELS
|
||
pc-deployment-6756f95949-6slx9 1/1 Running 0 101s 10.244.1.2 node1 <none> <none> app=nginx-pod,pod-template-hash=6756f95949
|
||
pc-deployment-6756f95949-hjkfw 1/1 Running 0 101s 10.244.2.2 node2 <none> <none> app=nginx-pod,pod-template-hash=6756f95949
|
||
pc-deployment-6756f95949-jjzvd 1/1 Running 0 101s 10.244.2.3 node2 <none> <none> app=nginx-pod,pod-template-hash=6756f95949
|
||
|
||
# 为了方便后面的测试，修改下三台nginx的index.html页面（三台修改的IP地址不一致）
|
||
# kubectl exec -it pc-deployment-6756f95949-6slx9 -n dev /bin/sh
|
||
# echo "10.244.1.2" > /usr/share/nginx/html/index.html
|
||
|
||
#修改完毕之后，访问测试
|
||
[root@master ~]# curl 10.244.1.2
|
||
10.244.1.2
|
||
[root@master ~]# curl 10.244.2.2
|
||
10.244.2.2
|
||
[root@master ~]# curl 10.244.2.3
|
||
10.244.2.3
|
||
```
|
||
|
||
### 2. ClusterIP 类型的 Service
|
||
|
||
创建service-clusterip.yaml文件
|
||
|
||
```yaml
|
||
apiVersion: v1
|
||
kind: Service
|
||
metadata:
|
||
name: service-clusterip
|
||
namespace: dev
|
||
spec:
|
||
selector:
|
||
app: nginx-pod
|
||
clusterIP: 10.97.97.97
|
||
type: ClusterIP
|
||
ports:
|
||
- port: 80
|
||
targetPort: 80
|
||
```
|
||
|
||
```bash
|
||
# 创建service
|
||
[root@master ~]# kubectl create -f service-clusterip.yaml
|
||
service/service-clusterip created
|
||
|
||
# 查看service
|
||
[root@master ~]# kubectl get svc -n dev -o wide
|
||
NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE SELECTOR
|
||
service-clusterip ClusterIP 10.97.97.97 <none> 80/TCP 10s app=nginx-pod
|
||
|
||
# 查看service的详细信息
|
||
# 在这里有一个Endpoints列表，里面就是当前service可以负载到的服务入口
|
||
[root@master ~]# kubectl describe svc service-clusterip -n dev
|
||
Name: service-clusterip
|
||
Namespace: dev
|
||
Labels: <none>
|
||
Annotations: <none>
|
||
Selector: app=nginx-pod
|
||
Type: ClusterIP
|
||
IP Family Policy: SingleStack
|
||
IP Families: IPv4
|
||
IP: 10.97.97.97
|
||
IPs: 10.97.97.97
|
||
Port: <unset> 80/TCP
|
||
TargetPort: 80/TCP
|
||
Endpoints: 10.244.1.2:80,10.244.2.2:80,10.244.2.3:80
|
||
Session Affinity: None
|
||
Events: <none>
|
||
|
||
# 查看ipvs的映射规则
|
||
[root@master ~]# ipvsadm -Ln
|
||
IP Virtual Server version 1.2.1 (size=4096)
|
||
Prot LocalAddress:Port Scheduler Flags
|
||
-> RemoteAddress:Port Forward Weight ActiveConn InActConn
|
||
TCP 10.97.97.97:80 rr
|
||
-> 10.244.1.2:80 Masq 1 0 0
|
||
-> 10.244.2.2:80 Masq 1 0 0
|
||
-> 10.244.2.3:80 Masq 1 0 0
|
||
|
||
# 访问10.97.97.97:80观察效果
|
||
[root@master ~]# curl 10.97.97.97:80
|
||
10.244.2.3
|
||
```
|
||
|
||
### 3. Endpoint
|
||
|
||
Endpoint是kubernetes中的一个资源对象，存储在etcd中，用来记录一个service对应的所有pod的访问地址，它是根据service配置文件中selector描述产生的。
|
||
|
||
一个Service由一组Pod组成，这些Pod通过Endpoints暴露出来，Endpoints是实现实际服务的端点集合。换句话说，service和pod之间的联系是通过endpoints实现的。
|
||
|
||
|
||
|
||
**负载分发策略**
|
||
|
||
对Service的访问被分发到了后端的Pod上去，目前kubernetes提供了两种负载分发策略：
|
||
|
||
- 如果不定义，默认使用kube-proxy的策略，比如随机、轮询
|
||
|
||
- 基于客户端地址的会话保持模式，即来自同一个客户端发起的所有请求都会转发到固定的一个Pod上
|
||
|
||
此模式可以使在spec中添加sessionAffinity:ClientIP选项
|
||
|
||
```bash
|
||
# 查看ipvs的映射规则【rr 轮询】
|
||
[root@master ~]# ipvsadm -Ln
|
||
IP Virtual Server version 1.2.1 (size=4096)
|
||
Prot LocalAddress:Port Scheduler Flags
|
||
-> RemoteAddress:Port Forward Weight ActiveConn InActConn
|
||
TCP 10.97.97.97:80 rr
|
||
-> 10.244.1.2:80 Masq 1 0 0
|
||
-> 10.244.2.2:80 Masq 1 0 0
|
||
-> 10.244.2.3:80 Masq 1 0 0
|
||
|
||
# 循环访问测试
|
||
[root@master ~]# while true;do curl 10.97.97.97:80; sleep 5; done;
|
||
10.244.2.2
|
||
10.244.1.2
|
||
10.244.2.3
|
||
10.244.2.2
|
||
10.244.1.2
|
||
|
||
# 修改分发策略----sessionAffinity:ClientIP
|
||
[root@master ~]# kubectl edit service service-clusterip -n dev
|
||
service/service-clusterip edited
|
||
|
||
# 查看ipvs规则【persistent 代表持久】
|
||
[root@master ~]# ipvsadm -Ln
|
||
IP Virtual Server version 1.2.1 (size=4096)
|
||
Prot LocalAddress:Port Scheduler Flags
|
||
-> RemoteAddress:Port Forward Weight ActiveConn InActConn
|
||
TCP 10.97.97.97:80 rr persistent 10800
|
||
-> 10.244.1.2:80 Masq 1 0 0
|
||
-> 10.244.2.2:80 Masq 1 0 0
|
||
-> 10.244.2.3:80 Masq 1 0 0
|
||
|
||
# 循环访问测试
|
||
[root@master ~]# while true;do curl 10.97.97.97; sleep 5; done;
|
||
10.244.2.3
|
||
10.244.2.3
|
||
10.244.2.3
|
||
10.244.2.3
|
||
|
||
# 删除service
|
||
[root@master ~]# kubectl delete -f service-clusterip.yaml
|
||
service "service-clusterip" deleted
|
||
```
|
||
|
||
### 4. HeadLiness类型的 Service
|
||
|
||
在某些场景中，开发人员可能不想使用Service提供的负载均衡功能，而希望自己来控制负载均衡策略，针对这种情况，kubernetes提供了HeadLiness Service，这类Service不会分配Cluster IP，如果想要访问service，只能通过service的域名进行查询。
|
||
|
||
创建service-headliness.yaml
|
||
|
||
```yaml
|
||
apiVersion: v1
|
||
kind: Service
|
||
metadata:
|
||
name: service-headliness
|
||
namespace: dev
|
||
spec:
|
||
selector:
|
||
app: nginx-pod
|
||
clusterIP: None
|
||
type: ClusterIP
|
||
ports:
|
||
- port: 80
|
||
targetPort: 80
|
||
```
|
||
|
||
```bash
|
||
# 创建service
|
||
[root@master ~]# kubectl create -f service-headliness.yaml
|
||
service/service-headliness created
|
||
|
||
# 获取service， 发现CLUSTER-IP未分配
|
||
[root@master ~]# kubectl get svc service-headliness -n dev -o wide
|
||
NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE SELECTOR
|
||
service-headliness ClusterIP None <none> 80/TCP 6s app=nginx-pod
|
||
|
||
# 查看service详情
|
||
[root@master ~]# kubectl describe svc service-headliness -n dev
|
||
Name: service-headliness
|
||
Namespace: dev
|
||
Labels: <none>
|
||
Annotations: <none>
|
||
Selector: app=nginx-pod
|
||
Type: ClusterIP
|
||
IP Family Policy: SingleStack
|
||
IP Families: IPv4
|
||
IP: None
|
||
IPs: None
|
||
Port: <unset> 80/TCP
|
||
TargetPort: 80/TCP
|
||
Endpoints: 10.244.1.2:80,10.244.2.2:80,10.244.2.3:80
|
||
Session Affinity: None
|
||
Events: <none>
|
||
|
||
# 查看域名的解析情况
|
||
[root@master ~]# kubectl exec -it pc-deployment-6756f95949-6slx9 -n dev /bin/sh
|
||
kubectl exec [POD] [COMMAND] is DEPRECATED and will be removed in a future version. Use kubectl exec [POD] -- [COMMAND] instead.
|
||
# cat /etc/resolv.conf
|
||
nameserver 10.96.0.10
|
||
search dev.svc.cluster.local svc.cluster.local cluster.local
|
||
|
||
[root@master ~]# dig @10.96.0.10 service-headliness.dev.svc.cluster.local
|
||
service-headliness.dev.svc.cluster.local. 30 IN A 10.244.2.3
|
||
service-headliness.dev.svc.cluster.local. 30 IN A 10.244.1.2
|
||
service-headliness.dev.svc.cluster.local. 30 IN A 10.244.2.2
|
||
```
|
||
|
||
### 5. NodePort类型的 Service
|
||
|
||
在之前的样例中，创建的Service的ip地址只有集群内部才可以访问，如果希望将Service暴露给集群外部使用，那么就要使用到另外一种类型的Service，称为NodePort类型。NodePort的工作原理其实就是将service的端口映射到Node的一个端口上，然后就可以通过NodeIp:NodePort来访问service了。
|
||
|
||
|
||
|
||
创建service-nodeport.yaml
|
||
|
||
```yaml
|
||
apiVersion: v1
|
||
kind: Service
|
||
metadata:
|
||
name: service-nodeport
|
||
namespace: dev
|
||
spec:
|
||
selector:
|
||
app: nginx-pod
|
||
type: NodePort
|
||
ports:
|
||
- port: 80
|
||
nodePort: 30002
|
||
targetPort: 80
|
||
```
|
||
|
||
```bash
|
||
# 创建service
|
||
[root@master ~]# kubectl create -f service-nodeport.yaml
|
||
service/service-nodeport created
|
||
|
||
# 查看service
|
||
[root@master ~]# kubectl get svc -n dev -o wide
|
||
NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE SELECTOR
|
||
service-nodeport NodePort 10.104.5.98 <none> 80:30002/TCP 15s app=nginx-pod
|
||
```
|
||
|
||
### 6. LoadBalancer 类型的 Service
|
||
|
||
LoadBalancer和NodePort很相似，目的都是向外部暴露一个端口，区别在于LoadBalancer会在集群的外部再来做一个负载均衡设备，而这个设备需要外部环境支持的，外部服务发送到这个设备上的请求，会被设备负载之后转发到集群中。
|
||
|
||
|
||
|
||
### 7. ExternalName 类型的 Service
|
||
|
||
ExternalName类型的Service用于引入集群外部的服务，它通过externalName属性指定外部一个服务的地址，然后在集群内部访问此service就可以访问到外部的服务了。
|
||
|
||
|
||
|
||
创建service-externalname.yaml
|
||
|
||
```yaml
|
||
apiVersion: v1
|
||
kind: Service
|
||
metadata:
|
||
name: service-externalname
|
||
namespace: dev
|
||
spec:
|
||
type: ExternalName
|
||
externalName: www.baidu.com
|
||
```
|
||
|
||
```bash
|
||
# 创建service
|
||
[root@master ~]# kubectl create -f service-externalname.yaml
|
||
service/service-externalname created
|
||
|
||
# 域名解析
|
||
[root@master ~]# dig @10.96.0.10 service-externalname.dev.svc.cluster.local
|
||
www.baidu.com. 5 IN CNAME www.a.shifen.com.
|
||
www.a.shifen.com. 5 IN A 39.156.70.46
|
||
www.a.shifen.com. 5 IN A 39.156.70.239
|
||
```
|
||
|
||
## 四：Ingress介绍
|
||
|
||
在前面课程中已经提到，Service对集群之外暴露服务的主要方式有两种：NotePort和LoadBalancer，但是这两种方式，都有一定的缺点：
|
||
|
||
- NodePort方式的缺点是会占用很多集群机器的端口，那么当集群服务变多的时候，这个缺点就愈发明显
|
||
- LB方式的缺点是每个service需要一个LB，浪费、麻烦，并且需要kubernetes之外设备的支持
|
||
|
||
基于这种现状，kubernetes提供了Ingress资源对象，Ingress只需要一个NodePort或者一个LB就可以满足暴露多个Service的需求。工作机制大致如下图表示：
|
||
|
||
|
||
|
||
实际上，Ingress相当于一个7层的负载均衡器，是kubernetes对反向代理的一个抽象，它的工作原理类似于Nginx，可以理解成在Ingress里建立诸多映射规则，Ingress Controller通过监听这些配置规则并转化成Nginx的反向代理配置 , 然后对外部提供服务。在这里有两个核心概念：
|
||
|
||
- ingress：kubernetes中的一个对象，作用是定义请求如何转发到service的规则
|
||
- ingress controller：具体实现反向代理及负载均衡的程序，对ingress定义的规则进行解析，根据配置的规则来实现请求转发，实现方式有很多，比如Nginx, Contour, Haproxy等等
|
||
|
||
Ingress（以Nginx为例）的工作原理如下：
|
||
|
||
1. 用户编写Ingress规则，说明哪个域名对应kubernetes集群中的哪个Service
|
||
2. Ingress控制器动态感知Ingress服务规则的变化，然后生成一段对应的Nginx反向代理配置
|
||
3. Ingress控制器会将生成的Nginx配置写入到一个运行着的Nginx服务中，并动态更新
|
||
4. 到此为止，其实真正在工作的就是一个Nginx了，内部配置了用户定义的请求转发规则
|
||
|
||
|
||
|
||
## 五：Ingress使用
|
||
|
||
### 1. 环境准备搭建 ingress 环境
|
||
|
||
```bash
|
||
|
||
```
|
||
|
||
### 2. 准备 service 和 pod
|
||
|
||
为了后面的实验比较方便，创建如下图所示的模型
|
||
|
||
|
||
|
||
创建tomcat-nginx.yaml
|
||
|
||
```yaml
|
||
|
||
```
|
||
|
||
```bash
|
||
|
||
```
|
||
|
||
### 3. Http 代理
|
||
|
||
创建ingress-http.yaml
|
||
|
||
```yaml
|
||
|
||
```
|
||
|
||
```bash
|
||
|
||
```
|
||
|
||
### 4. Https 代理
|
||
|
||
创建证书
|
||
|
||
```bash
|
||
|
||
```
|
||
|
||
创建ingress-https.yaml
|
||
|
||
```yaml
|
||
|
||
```
|
||
|
||
```bash
|
||
|
||
```
|
||
|