diff --git a/kubernetes-Service详解.md b/kubernetes-Service详解.md index 8245b2e..8c4053f 100644 --- a/kubernetes-Service详解.md +++ b/kubernetes-Service详解.md @@ -1,495 +1,495 @@ -

Kubernetes Service详解

- ------- - -## 一:Service介绍 - -​ 在kubernetes中,pod是应用程序的载体,我们可以通过pod的ip来访问应用程序,但是pod的ip地址不是固定的,这也就意味着不方便直接采用pod的ip对服务进行访问。 - -​ 为了解决这个问题,kubernetes提供了Service资源,Service会对提供同一个服务的多个pod进行聚合,并且提供一个统一的入口地址。通过访问Service的入口地址就能访问到后面的pod服务。 - -![](accents\images-202505080020.png) - -​ Service在很多情况下只是一个概念,真正起作用的其实是kube-proxy服务进程,每个Node节点上都运行着一个kube-proxy服务进程。当创建Service的时候会通过api-server向etcd写入创建的service的信息,而kube-proxy会基于监听的机制发现这种Service的变动,然后它会将最新的Service信息转换成对应的访问规则。 - -![](accents\images-202505080021.png) - -```bash -# 10.97.97.97:80 是service提供的访问入口 -# 当访问这个入口的时候,可以发现后面有三个pod的服务在等待调用, -# kube-proxy会基于rr(轮询)的策略,将请求分发到其中一个pod上去 -# 这个规则会同时在集群内的所有节点上都生成,所以在任何一个节点上,都可以访问。 -[root@node1 ~]# ipvsadm -Ln -IP Virtual Server version 1.2.1 (size=4096) -Prot LocalAddress:Port Scheduler Flags - -> RemoteAddress:Port Forward Weight ActiveConn InActConn -TCP 10.97.97.97:80 rr - -> 10.244.1.39:80 Masq 1 0 0 - -> 10.244.1.40:80 Masq 1 0 0 - -> 10.244.2.33:80 Masq 1 0 0 -``` - -kube-proxy目前支持三种工作模式: - -### 1. userspace 模式 - -​ userspace模式下,kube-proxy会为每一个Service创建一个监听端口,发向Cluster IP的请求被Iptables规则重定向到kube-proxy监听的端口上,kube-proxy根据LB算法选择一个提供服务的Pod并和其建立链接,以将请求转发到Pod上。 该模式下,kube-proxy充当了一个四层负责均衡器的角色。由于kube-proxy运行在userspace中,在进行转发处理时会增加内核和用户空间之间的数据拷贝,虽然比较稳定,但是效率比较低。 - -![](accents\images-202505080022.png) - -### 2. iptables 模式 - -​ iptables模式下,kube-proxy为service后端的每个Pod创建对应的iptables规则,直接将发向Cluster IP的请求重定向到一个Pod IP。 该模式下kube-proxy不承担四层负责均衡器的角色,只负责创建iptables规则。该模式的优点是较userspace模式效率更高,但不能提供灵活的LB策略,当后端Pod不可用时也无法进行重试。 - -![](accents\images-202505080023.png) - -### 3. ipvs 模式 - -​ ipvs模式和iptables类似,kube-proxy监控Pod的变化并创建相应的ipvs规则。ipvs相对iptables转发效率更高。除此以外,ipvs支持更多的LB算法。 - -![](accents\images-202505080024.png) - -```bash -# 此模式必须安装ipvs内核模块,否则会降级为iptables -# 开启ipvs -# 修改mode: "ipvs" -[root@master ~]# kubectl edit cm kube-proxy -n kube-system -configmap/kube-proxy edited -[root@master ~]# kubectl delete pod -l k8s-app=kube-proxy -n kube-system -pod "kube-proxy-fxv98" deleted -pod "kube-proxy-mtn5n" deleted -pod "kube-proxy-x82nf" deleted -[root@node1 ~]# ipvsadm -Ln -IP Virtual Server version 1.2.1 (size=4096) -Prot LocalAddress:Port Scheduler Flags - -> RemoteAddress:Port Forward Weight ActiveConn InActConn -TCP 10.97.97.97:80 rr - -> 10.244.1.39:80 Masq 1 0 0 - -> 10.244.1.40:80 Masq 1 0 0 - -> 10.244.2.33:80 Masq 1 0 0 -``` - -## 二:Service类型 - -Service的资源清单文件: - -```yaml -kind: Service # 资源类型 -apiVersion: v1 # 资源版本 -metadata: # 元数据 - name: service # 资源名称 - namespace: dev # 命名空间 -spec: # 描述 - selector: # 标签选择器,用于确定当前service代理哪些pod - app: nginx - type: # Service类型,指定service的访问方式 - clusterIP: # 虚拟服务的ip地址 - sessionAffinity: # session亲和性,支持ClientIP、None两个选项 - ports: # 端口信息 - - protocol: TCP - port: 3017 # service端口 - targetPort: 5003 # pod端口 - nodePort: 31122 # 主机端口 -``` - -- ClusterIP:默认值,它是Kubernetes系统自动分配的虚拟IP,只能在集群内部访问 -- NodePort:将Service通过指定的Node上的端口暴露给外部,通过此方法,就可以在集群外部访问服务 -- LoadBalancer:使用外接负载均衡器完成到服务的负载分发,注意此模式需要外部云环境支持 -- ExternalName: 把集群外部的服务引入集群内部,直接使用 - -## 三:Service使用 - -### 1. 实验环境准备 - -在使用service之前,首先利用Deployment创建出3个pod,注意要为pod设置app=nginx-pod的标签 - -创建deployment.yaml,内容如下: - -```yaml -apiVersion: apps/v1 -kind: Deployment -metadata: - name: pc-deployment - namespace: dev -spec: - replicas: 3 - selector: - matchLabels: - app: nginx-pod - template: - metadata: - labels: - app: nginx-pod - spec: - containers: - - name: nginx - image: nginx:1.17.1 - ports: - - containerPort: 80 -``` - -```bash -[root@master ~]# kubectl create -f deployment.yaml -deployment.apps/pc-deployment created - -# 查看pod详情 -[root@master ~]# kubectl get pods -n dev -o wide --show-labels -NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES LABELS -pc-deployment-6756f95949-6slx9 1/1 Running 0 101s 10.244.1.2 node1 app=nginx-pod,pod-template-hash=6756f95949 -pc-deployment-6756f95949-hjkfw 1/1 Running 0 101s 10.244.2.2 node2 app=nginx-pod,pod-template-hash=6756f95949 -pc-deployment-6756f95949-jjzvd 1/1 Running 0 101s 10.244.2.3 node2 app=nginx-pod,pod-template-hash=6756f95949 - -# 为了方便后面的测试,修改下三台nginx的index.html页面(三台修改的IP地址不一致) -# kubectl exec -it pc-deployment-6756f95949-6slx9 -n dev /bin/sh -# echo "10.244.1.2" > /usr/share/nginx/html/index.html - -#修改完毕之后,访问测试 -[root@master ~]# curl 10.244.1.2 -10.244.1.2 -[root@master ~]# curl 10.244.2.2 -10.244.2.2 -[root@master ~]# curl 10.244.2.3 -10.244.2.3 -``` - -### 2. ClusterIP 类型的 Service - -创建service-clusterip.yaml文件 - -```yaml -apiVersion: v1 -kind: Service -metadata: - name: service-clusterip - namespace: dev -spec: - selector: - app: nginx-pod - clusterIP: 10.97.97.97 - type: ClusterIP - ports: - - port: 80 - targetPort: 80 -``` - -```bash -# 创建service -[root@master ~]# kubectl create -f service-clusterip.yaml -service/service-clusterip created - -# 查看service -[root@master ~]# kubectl get svc -n dev -o wide -NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE SELECTOR -service-clusterip ClusterIP 10.97.97.97 80/TCP 10s app=nginx-pod - -# 查看service的详细信息 -# 在这里有一个Endpoints列表,里面就是当前service可以负载到的服务入口 -[root@master ~]# kubectl describe svc service-clusterip -n dev -Name: service-clusterip -Namespace: dev -Labels: -Annotations: -Selector: app=nginx-pod -Type: ClusterIP -IP Family Policy: SingleStack -IP Families: IPv4 -IP: 10.97.97.97 -IPs: 10.97.97.97 -Port: 80/TCP -TargetPort: 80/TCP -Endpoints: 10.244.1.2:80,10.244.2.2:80,10.244.2.3:80 -Session Affinity: None -Events: - -# 查看ipvs的映射规则 -[root@master ~]# ipvsadm -Ln -IP Virtual Server version 1.2.1 (size=4096) -Prot LocalAddress:Port Scheduler Flags - -> RemoteAddress:Port Forward Weight ActiveConn InActConn -TCP 10.97.97.97:80 rr - -> 10.244.1.2:80 Masq 1 0 0 - -> 10.244.2.2:80 Masq 1 0 0 - -> 10.244.2.3:80 Masq 1 0 0 - -# 访问10.97.97.97:80观察效果 -[root@master ~]# curl 10.97.97.97:80 -10.244.2.3 -``` - -### 3. Endpoint - -Endpoint是kubernetes中的一个资源对象,存储在etcd中,用来记录一个service对应的所有pod的访问地址,它是根据service配置文件中selector描述产生的。 - -一个Service由一组Pod组成,这些Pod通过Endpoints暴露出来,Endpoints是实现实际服务的端点集合。换句话说,service和pod之间的联系是通过endpoints实现的。 - -![](accents\images-202505080025.png) - -**负载分发策略** - -对Service的访问被分发到了后端的Pod上去,目前kubernetes提供了两种负载分发策略: - -- 如果不定义,默认使用kube-proxy的策略,比如随机、轮询 - -- 基于客户端地址的会话保持模式,即来自同一个客户端发起的所有请求都会转发到固定的一个Pod上 - - 此模式可以使在spec中添加sessionAffinity:ClientIP选项 - -```bash -# 查看ipvs的映射规则【rr 轮询】 -[root@master ~]# ipvsadm -Ln -IP Virtual Server version 1.2.1 (size=4096) -Prot LocalAddress:Port Scheduler Flags - -> RemoteAddress:Port Forward Weight ActiveConn InActConn -TCP 10.97.97.97:80 rr - -> 10.244.1.2:80 Masq 1 0 0 - -> 10.244.2.2:80 Masq 1 0 0 - -> 10.244.2.3:80 Masq 1 0 0 - -# 循环访问测试 -[root@master ~]# while true;do curl 10.97.97.97:80; sleep 5; done; -10.244.2.2 -10.244.1.2 -10.244.2.3 -10.244.2.2 -10.244.1.2 - -# 修改分发策略----sessionAffinity:ClientIP -[root@master ~]# kubectl edit service service-clusterip -n dev -service/service-clusterip edited - -# 查看ipvs规则【persistent 代表持久】 -[root@master ~]# ipvsadm -Ln -IP Virtual Server version 1.2.1 (size=4096) -Prot LocalAddress:Port Scheduler Flags - -> RemoteAddress:Port Forward Weight ActiveConn InActConn -TCP 10.97.97.97:80 rr persistent 10800 - -> 10.244.1.2:80 Masq 1 0 0 - -> 10.244.2.2:80 Masq 1 0 0 - -> 10.244.2.3:80 Masq 1 0 0 - -# 循环访问测试 -[root@master ~]# while true;do curl 10.97.97.97; sleep 5; done; -10.244.2.3 -10.244.2.3 -10.244.2.3 -10.244.2.3 - -# 删除service -[root@master ~]# kubectl delete -f service-clusterip.yaml -service "service-clusterip" deleted -``` - -### 4. HeadLiness类型的 Service - -在某些场景中,开发人员可能不想使用Service提供的负载均衡功能,而希望自己来控制负载均衡策略,针对这种情况,kubernetes提供了HeadLiness Service,这类Service不会分配Cluster IP,如果想要访问service,只能通过service的域名进行查询。 - -创建service-headliness.yaml - -```yaml -apiVersion: v1 -kind: Service -metadata: - name: service-headliness - namespace: dev -spec: - selector: - app: nginx-pod - clusterIP: None - type: ClusterIP - ports: - - port: 80 - targetPort: 80 -``` - -```bash -# 创建service -[root@master ~]# kubectl create -f service-headliness.yaml -service/service-headliness created - -# 获取service, 发现CLUSTER-IP未分配 -[root@master ~]# kubectl get svc service-headliness -n dev -o wide -NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE SELECTOR -service-headliness ClusterIP None 80/TCP 6s app=nginx-pod - -# 查看service详情 -[root@master ~]# kubectl describe svc service-headliness -n dev -Name: service-headliness -Namespace: dev -Labels: -Annotations: -Selector: app=nginx-pod -Type: ClusterIP -IP Family Policy: SingleStack -IP Families: IPv4 -IP: None -IPs: None -Port: 80/TCP -TargetPort: 80/TCP -Endpoints: 10.244.1.2:80,10.244.2.2:80,10.244.2.3:80 -Session Affinity: None -Events: - -# 查看域名的解析情况 -[root@master ~]# kubectl exec -it pc-deployment-6756f95949-6slx9 -n dev /bin/sh -kubectl exec [POD] [COMMAND] is DEPRECATED and will be removed in a future version. Use kubectl exec [POD] -- [COMMAND] instead. -# cat /etc/resolv.conf -nameserver 10.96.0.10 -search dev.svc.cluster.local svc.cluster.local cluster.local - -[root@master ~]# dig @10.96.0.10 service-headliness.dev.svc.cluster.local -service-headliness.dev.svc.cluster.local. 30 IN A 10.244.2.3 -service-headliness.dev.svc.cluster.local. 30 IN A 10.244.1.2 -service-headliness.dev.svc.cluster.local. 30 IN A 10.244.2.2 -``` - -### 5. NodePort类型的 Service - -在之前的样例中,创建的Service的ip地址只有集群内部才可以访问,如果希望将Service暴露给集群外部使用,那么就要使用到另外一种类型的Service,称为NodePort类型。NodePort的工作原理其实就是将service的端口映射到Node的一个端口上,然后就可以通过NodeIp:NodePort来访问service了。 - -![](accents\images-202505080026.png) - -创建service-nodeport.yaml - -```yaml -apiVersion: v1 -kind: Service -metadata: - name: service-nodeport - namespace: dev -spec: - selector: - app: nginx-pod - type: NodePort - ports: - - port: 80 - nodePort: 30002 - targetPort: 80 -``` - -```bash -# 创建service -[root@master ~]# kubectl create -f service-nodeport.yaml -service/service-nodeport created - -# 查看service -[root@master ~]# kubectl get svc -n dev -o wide -NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE SELECTOR -service-nodeport NodePort 10.104.5.98 80:30002/TCP 15s app=nginx-pod -``` - -### 6. LoadBalancer 类型的 Service - -LoadBalancer和NodePort很相似,目的都是向外部暴露一个端口,区别在于LoadBalancer会在集群的外部再来做一个负载均衡设备,而这个设备需要外部环境支持的,外部服务发送到这个设备上的请求,会被设备负载之后转发到集群中。 - -![](accents\images-202505080027.png) - -### 7. ExternalName 类型的 Service - -ExternalName类型的Service用于引入集群外部的服务,它通过externalName属性指定外部一个服务的地址,然后在集群内部访问此service就可以访问到外部的服务了。 - -![](accents\images-202505080028.png) - -创建service-externalname.yaml - -```yaml -apiVersion: v1 -kind: Service -metadata: - name: service-externalname - namespace: dev -spec: - type: ExternalName - externalName: www.baidu.com -``` - -```bash -# 创建service -[root@master ~]# kubectl create -f service-externalname.yaml -service/service-externalname created - -# 域名解析 -[root@master ~]# dig @10.96.0.10 service-externalname.dev.svc.cluster.local -www.baidu.com. 5 IN CNAME www.a.shifen.com. -www.a.shifen.com. 5 IN A 39.156.70.46 -www.a.shifen.com. 5 IN A 39.156.70.239 -``` - -## 四:Ingress介绍 - -在前面课程中已经提到,Service对集群之外暴露服务的主要方式有两种:NotePort和LoadBalancer,但是这两种方式,都有一定的缺点: - -- NodePort方式的缺点是会占用很多集群机器的端口,那么当集群服务变多的时候,这个缺点就愈发明显 -- LB方式的缺点是每个service需要一个LB,浪费、麻烦,并且需要kubernetes之外设备的支持 - -基于这种现状,kubernetes提供了Ingress资源对象,Ingress只需要一个NodePort或者一个LB就可以满足暴露多个Service的需求。工作机制大致如下图表示: - -![](accents\images-202505080029.png) - -实际上,Ingress相当于一个7层的负载均衡器,是kubernetes对反向代理的一个抽象,它的工作原理类似于Nginx,可以理解成在Ingress里建立诸多映射规则,Ingress Controller通过监听这些配置规则并转化成Nginx的反向代理配置 , 然后对外部提供服务。在这里有两个核心概念: - -- ingress:kubernetes中的一个对象,作用是定义请求如何转发到service的规则 -- ingress controller:具体实现反向代理及负载均衡的程序,对ingress定义的规则进行解析,根据配置的规则来实现请求转发,实现方式有很多,比如Nginx, Contour, Haproxy等等 - -Ingress(以Nginx为例)的工作原理如下: - -1. 用户编写Ingress规则,说明哪个域名对应kubernetes集群中的哪个Service -2. Ingress控制器动态感知Ingress服务规则的变化,然后生成一段对应的Nginx反向代理配置 -3. Ingress控制器会将生成的Nginx配置写入到一个运行着的Nginx服务中,并动态更新 -4. 到此为止,其实真正在工作的就是一个Nginx了,内部配置了用户定义的请求转发规则 - -![](accents\images-202505080030.png) - -## 五:Ingress使用 - -### 1. 环境准备搭建 ingress 环境 - -```bash - -``` - -### 2. 准备 service 和 pod - -为了后面的实验比较方便,创建如下图所示的模型 - -![](accents\images-202505080031.png) - -创建tomcat-nginx.yaml - -```yaml - -``` - -```bash - -``` - -### 3. Http 代理 - -创建ingress-http.yaml - -```yaml - -``` - -```bash - -``` - -### 4. Https 代理 - -创建证书 - -```bash - -``` - -创建ingress-https.yaml - -```yaml - -``` - -```bash - -``` - +

Kubernetes Service详解

+ +------ + +## 一:Service介绍 + +​ 在kubernetes中,pod是应用程序的载体,我们可以通过pod的ip来访问应用程序,但是pod的ip地址不是固定的,这也就意味着不方便直接采用pod的ip对服务进行访问。 + +​ 为了解决这个问题,kubernetes提供了Service资源,Service会对提供同一个服务的多个pod进行聚合,并且提供一个统一的入口地址。通过访问Service的入口地址就能访问到后面的pod服务。 + +![](http://182.92.143.66:40072/directlink/img/kubernetes/images-202505080020.png) + +​ Service在很多情况下只是一个概念,真正起作用的其实是kube-proxy服务进程,每个Node节点上都运行着一个kube-proxy服务进程。当创建Service的时候会通过api-server向etcd写入创建的service的信息,而kube-proxy会基于监听的机制发现这种Service的变动,然后它会将最新的Service信息转换成对应的访问规则。 + +![](http://182.92.143.66:40072/directlink/img/kubernetes/images-202505080021.png) + +```bash +# 10.97.97.97:80 是service提供的访问入口 +# 当访问这个入口的时候,可以发现后面有三个pod的服务在等待调用, +# kube-proxy会基于rr(轮询)的策略,将请求分发到其中一个pod上去 +# 这个规则会同时在集群内的所有节点上都生成,所以在任何一个节点上,都可以访问。 +[root@node1 ~]# ipvsadm -Ln +IP Virtual Server version 1.2.1 (size=4096) +Prot LocalAddress:Port Scheduler Flags + -> RemoteAddress:Port Forward Weight ActiveConn InActConn +TCP 10.97.97.97:80 rr + -> 10.244.1.39:80 Masq 1 0 0 + -> 10.244.1.40:80 Masq 1 0 0 + -> 10.244.2.33:80 Masq 1 0 0 +``` + +kube-proxy目前支持三种工作模式: + +### 1. userspace 模式 + +​ userspace模式下,kube-proxy会为每一个Service创建一个监听端口,发向Cluster IP的请求被Iptables规则重定向到kube-proxy监听的端口上,kube-proxy根据LB算法选择一个提供服务的Pod并和其建立链接,以将请求转发到Pod上。 该模式下,kube-proxy充当了一个四层负责均衡器的角色。由于kube-proxy运行在userspace中,在进行转发处理时会增加内核和用户空间之间的数据拷贝,虽然比较稳定,但是效率比较低。 + +![](http://182.92.143.66:40072/directlink/img/kubernetes/images-202505080022.png) + +### 2. iptables 模式 + +​ iptables模式下,kube-proxy为service后端的每个Pod创建对应的iptables规则,直接将发向Cluster IP的请求重定向到一个Pod IP。 该模式下kube-proxy不承担四层负责均衡器的角色,只负责创建iptables规则。该模式的优点是较userspace模式效率更高,但不能提供灵活的LB策略,当后端Pod不可用时也无法进行重试。 + +![](http://182.92.143.66:40072/directlink/img/kubernetes/images-202505080023.png) + +### 3. ipvs 模式 + +​ ipvs模式和iptables类似,kube-proxy监控Pod的变化并创建相应的ipvs规则。ipvs相对iptables转发效率更高。除此以外,ipvs支持更多的LB算法。 + +![](http://182.92.143.66:40072/directlink/img/kubernetes/images-202505080024.png) + +```bash +# 此模式必须安装ipvs内核模块,否则会降级为iptables +# 开启ipvs +# 修改mode: "ipvs" +[root@master ~]# kubectl edit cm kube-proxy -n kube-system +configmap/kube-proxy edited +[root@master ~]# kubectl delete pod -l k8s-app=kube-proxy -n kube-system +pod "kube-proxy-fxv98" deleted +pod "kube-proxy-mtn5n" deleted +pod "kube-proxy-x82nf" deleted +[root@node1 ~]# ipvsadm -Ln +IP Virtual Server version 1.2.1 (size=4096) +Prot LocalAddress:Port Scheduler Flags + -> RemoteAddress:Port Forward Weight ActiveConn InActConn +TCP 10.97.97.97:80 rr + -> 10.244.1.39:80 Masq 1 0 0 + -> 10.244.1.40:80 Masq 1 0 0 + -> 10.244.2.33:80 Masq 1 0 0 +``` + +## 二:Service类型 + +Service的资源清单文件: + +```yaml +kind: Service # 资源类型 +apiVersion: v1 # 资源版本 +metadata: # 元数据 + name: service # 资源名称 + namespace: dev # 命名空间 +spec: # 描述 + selector: # 标签选择器,用于确定当前service代理哪些pod + app: nginx + type: # Service类型,指定service的访问方式 + clusterIP: # 虚拟服务的ip地址 + sessionAffinity: # session亲和性,支持ClientIP、None两个选项 + ports: # 端口信息 + - protocol: TCP + port: 3017 # service端口 + targetPort: 5003 # pod端口 + nodePort: 31122 # 主机端口 +``` + +- ClusterIP:默认值,它是Kubernetes系统自动分配的虚拟IP,只能在集群内部访问 +- NodePort:将Service通过指定的Node上的端口暴露给外部,通过此方法,就可以在集群外部访问服务 +- LoadBalancer:使用外接负载均衡器完成到服务的负载分发,注意此模式需要外部云环境支持 +- ExternalName: 把集群外部的服务引入集群内部,直接使用 + +## 三:Service使用 + +### 1. 实验环境准备 + +在使用service之前,首先利用Deployment创建出3个pod,注意要为pod设置app=nginx-pod的标签 + +创建deployment.yaml,内容如下: + +```yaml +apiVersion: apps/v1 +kind: Deployment +metadata: + name: pc-deployment + namespace: dev +spec: + replicas: 3 + selector: + matchLabels: + app: nginx-pod + template: + metadata: + labels: + app: nginx-pod + spec: + containers: + - name: nginx + image: nginx:1.17.1 + ports: + - containerPort: 80 +``` + +```bash +[root@master ~]# kubectl create -f deployment.yaml +deployment.apps/pc-deployment created + +# 查看pod详情 +[root@master ~]# kubectl get pods -n dev -o wide --show-labels +NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES LABELS +pc-deployment-6756f95949-6slx9 1/1 Running 0 101s 10.244.1.2 node1 app=nginx-pod,pod-template-hash=6756f95949 +pc-deployment-6756f95949-hjkfw 1/1 Running 0 101s 10.244.2.2 node2 app=nginx-pod,pod-template-hash=6756f95949 +pc-deployment-6756f95949-jjzvd 1/1 Running 0 101s 10.244.2.3 node2 app=nginx-pod,pod-template-hash=6756f95949 + +# 为了方便后面的测试,修改下三台nginx的index.html页面(三台修改的IP地址不一致) +# kubectl exec -it pc-deployment-6756f95949-6slx9 -n dev /bin/sh +# echo "10.244.1.2" > /usr/share/nginx/html/index.html + +#修改完毕之后,访问测试 +[root@master ~]# curl 10.244.1.2 +10.244.1.2 +[root@master ~]# curl 10.244.2.2 +10.244.2.2 +[root@master ~]# curl 10.244.2.3 +10.244.2.3 +``` + +### 2. ClusterIP 类型的 Service + +创建service-clusterip.yaml文件 + +```yaml +apiVersion: v1 +kind: Service +metadata: + name: service-clusterip + namespace: dev +spec: + selector: + app: nginx-pod + clusterIP: 10.97.97.97 + type: ClusterIP + ports: + - port: 80 + targetPort: 80 +``` + +```bash +# 创建service +[root@master ~]# kubectl create -f service-clusterip.yaml +service/service-clusterip created + +# 查看service +[root@master ~]# kubectl get svc -n dev -o wide +NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE SELECTOR +service-clusterip ClusterIP 10.97.97.97 80/TCP 10s app=nginx-pod + +# 查看service的详细信息 +# 在这里有一个Endpoints列表,里面就是当前service可以负载到的服务入口 +[root@master ~]# kubectl describe svc service-clusterip -n dev +Name: service-clusterip +Namespace: dev +Labels: +Annotations: +Selector: app=nginx-pod +Type: ClusterIP +IP Family Policy: SingleStack +IP Families: IPv4 +IP: 10.97.97.97 +IPs: 10.97.97.97 +Port: 80/TCP +TargetPort: 80/TCP +Endpoints: 10.244.1.2:80,10.244.2.2:80,10.244.2.3:80 +Session Affinity: None +Events: + +# 查看ipvs的映射规则 +[root@master ~]# ipvsadm -Ln +IP Virtual Server version 1.2.1 (size=4096) +Prot LocalAddress:Port Scheduler Flags + -> RemoteAddress:Port Forward Weight ActiveConn InActConn +TCP 10.97.97.97:80 rr + -> 10.244.1.2:80 Masq 1 0 0 + -> 10.244.2.2:80 Masq 1 0 0 + -> 10.244.2.3:80 Masq 1 0 0 + +# 访问10.97.97.97:80观察效果 +[root@master ~]# curl 10.97.97.97:80 +10.244.2.3 +``` + +### 3. Endpoint + +Endpoint是kubernetes中的一个资源对象,存储在etcd中,用来记录一个service对应的所有pod的访问地址,它是根据service配置文件中selector描述产生的。 + +一个Service由一组Pod组成,这些Pod通过Endpoints暴露出来,Endpoints是实现实际服务的端点集合。换句话说,service和pod之间的联系是通过endpoints实现的。 + +![](http://182.92.143.66:40072/directlink/img/kubernetes/images-202505080025.png) + +**负载分发策略** + +对Service的访问被分发到了后端的Pod上去,目前kubernetes提供了两种负载分发策略: + +- 如果不定义,默认使用kube-proxy的策略,比如随机、轮询 + +- 基于客户端地址的会话保持模式,即来自同一个客户端发起的所有请求都会转发到固定的一个Pod上 + + 此模式可以使在spec中添加sessionAffinity:ClientIP选项 + +```bash +# 查看ipvs的映射规则【rr 轮询】 +[root@master ~]# ipvsadm -Ln +IP Virtual Server version 1.2.1 (size=4096) +Prot LocalAddress:Port Scheduler Flags + -> RemoteAddress:Port Forward Weight ActiveConn InActConn +TCP 10.97.97.97:80 rr + -> 10.244.1.2:80 Masq 1 0 0 + -> 10.244.2.2:80 Masq 1 0 0 + -> 10.244.2.3:80 Masq 1 0 0 + +# 循环访问测试 +[root@master ~]# while true;do curl 10.97.97.97:80; sleep 5; done; +10.244.2.2 +10.244.1.2 +10.244.2.3 +10.244.2.2 +10.244.1.2 + +# 修改分发策略----sessionAffinity:ClientIP +[root@master ~]# kubectl edit service service-clusterip -n dev +service/service-clusterip edited + +# 查看ipvs规则【persistent 代表持久】 +[root@master ~]# ipvsadm -Ln +IP Virtual Server version 1.2.1 (size=4096) +Prot LocalAddress:Port Scheduler Flags + -> RemoteAddress:Port Forward Weight ActiveConn InActConn +TCP 10.97.97.97:80 rr persistent 10800 + -> 10.244.1.2:80 Masq 1 0 0 + -> 10.244.2.2:80 Masq 1 0 0 + -> 10.244.2.3:80 Masq 1 0 0 + +# 循环访问测试 +[root@master ~]# while true;do curl 10.97.97.97; sleep 5; done; +10.244.2.3 +10.244.2.3 +10.244.2.3 +10.244.2.3 + +# 删除service +[root@master ~]# kubectl delete -f service-clusterip.yaml +service "service-clusterip" deleted +``` + +### 4. HeadLiness类型的 Service + +在某些场景中,开发人员可能不想使用Service提供的负载均衡功能,而希望自己来控制负载均衡策略,针对这种情况,kubernetes提供了HeadLiness Service,这类Service不会分配Cluster IP,如果想要访问service,只能通过service的域名进行查询。 + +创建service-headliness.yaml + +```yaml +apiVersion: v1 +kind: Service +metadata: + name: service-headliness + namespace: dev +spec: + selector: + app: nginx-pod + clusterIP: None + type: ClusterIP + ports: + - port: 80 + targetPort: 80 +``` + +```bash +# 创建service +[root@master ~]# kubectl create -f service-headliness.yaml +service/service-headliness created + +# 获取service, 发现CLUSTER-IP未分配 +[root@master ~]# kubectl get svc service-headliness -n dev -o wide +NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE SELECTOR +service-headliness ClusterIP None 80/TCP 6s app=nginx-pod + +# 查看service详情 +[root@master ~]# kubectl describe svc service-headliness -n dev +Name: service-headliness +Namespace: dev +Labels: +Annotations: +Selector: app=nginx-pod +Type: ClusterIP +IP Family Policy: SingleStack +IP Families: IPv4 +IP: None +IPs: None +Port: 80/TCP +TargetPort: 80/TCP +Endpoints: 10.244.1.2:80,10.244.2.2:80,10.244.2.3:80 +Session Affinity: None +Events: + +# 查看域名的解析情况 +[root@master ~]# kubectl exec -it pc-deployment-6756f95949-6slx9 -n dev /bin/sh +kubectl exec [POD] [COMMAND] is DEPRECATED and will be removed in a future version. Use kubectl exec [POD] -- [COMMAND] instead. +# cat /etc/resolv.conf +nameserver 10.96.0.10 +search dev.svc.cluster.local svc.cluster.local cluster.local + +[root@master ~]# dig @10.96.0.10 service-headliness.dev.svc.cluster.local +service-headliness.dev.svc.cluster.local. 30 IN A 10.244.2.3 +service-headliness.dev.svc.cluster.local. 30 IN A 10.244.1.2 +service-headliness.dev.svc.cluster.local. 30 IN A 10.244.2.2 +``` + +### 5. NodePort类型的 Service + +在之前的样例中,创建的Service的ip地址只有集群内部才可以访问,如果希望将Service暴露给集群外部使用,那么就要使用到另外一种类型的Service,称为NodePort类型。NodePort的工作原理其实就是将service的端口映射到Node的一个端口上,然后就可以通过NodeIp:NodePort来访问service了。 + +![](http://182.92.143.66:40072/directlink/img/kubernetes/images-202505080026.png) + +创建service-nodeport.yaml + +```yaml +apiVersion: v1 +kind: Service +metadata: + name: service-nodeport + namespace: dev +spec: + selector: + app: nginx-pod + type: NodePort + ports: + - port: 80 + nodePort: 30002 + targetPort: 80 +``` + +```bash +# 创建service +[root@master ~]# kubectl create -f service-nodeport.yaml +service/service-nodeport created + +# 查看service +[root@master ~]# kubectl get svc -n dev -o wide +NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE SELECTOR +service-nodeport NodePort 10.104.5.98 80:30002/TCP 15s app=nginx-pod +``` + +### 6. LoadBalancer 类型的 Service + +LoadBalancer和NodePort很相似,目的都是向外部暴露一个端口,区别在于LoadBalancer会在集群的外部再来做一个负载均衡设备,而这个设备需要外部环境支持的,外部服务发送到这个设备上的请求,会被设备负载之后转发到集群中。 + +![](http://182.92.143.66:40072/directlink/img/kubernetes/images-202505080027.png) + +### 7. ExternalName 类型的 Service + +ExternalName类型的Service用于引入集群外部的服务,它通过externalName属性指定外部一个服务的地址,然后在集群内部访问此service就可以访问到外部的服务了。 + +![](http://182.92.143.66:40072/directlink/img/kubernetes/images-202505080028.png) + +创建service-externalname.yaml + +```yaml +apiVersion: v1 +kind: Service +metadata: + name: service-externalname + namespace: dev +spec: + type: ExternalName + externalName: www.baidu.com +``` + +```bash +# 创建service +[root@master ~]# kubectl create -f service-externalname.yaml +service/service-externalname created + +# 域名解析 +[root@master ~]# dig @10.96.0.10 service-externalname.dev.svc.cluster.local +www.baidu.com. 5 IN CNAME www.a.shifen.com. +www.a.shifen.com. 5 IN A 39.156.70.46 +www.a.shifen.com. 5 IN A 39.156.70.239 +``` + +## 四:Ingress介绍 + +在前面课程中已经提到,Service对集群之外暴露服务的主要方式有两种:NotePort和LoadBalancer,但是这两种方式,都有一定的缺点: + +- NodePort方式的缺点是会占用很多集群机器的端口,那么当集群服务变多的时候,这个缺点就愈发明显 +- LB方式的缺点是每个service需要一个LB,浪费、麻烦,并且需要kubernetes之外设备的支持 + +基于这种现状,kubernetes提供了Ingress资源对象,Ingress只需要一个NodePort或者一个LB就可以满足暴露多个Service的需求。工作机制大致如下图表示: + +![](http://182.92.143.66:40072/directlink/img/kubernetes/images-202505080029.png) + +实际上,Ingress相当于一个7层的负载均衡器,是kubernetes对反向代理的一个抽象,它的工作原理类似于Nginx,可以理解成在Ingress里建立诸多映射规则,Ingress Controller通过监听这些配置规则并转化成Nginx的反向代理配置 , 然后对外部提供服务。在这里有两个核心概念: + +- ingress:kubernetes中的一个对象,作用是定义请求如何转发到service的规则 +- ingress controller:具体实现反向代理及负载均衡的程序,对ingress定义的规则进行解析,根据配置的规则来实现请求转发,实现方式有很多,比如Nginx, Contour, Haproxy等等 + +Ingress(以Nginx为例)的工作原理如下: + +1. 用户编写Ingress规则,说明哪个域名对应kubernetes集群中的哪个Service +2. Ingress控制器动态感知Ingress服务规则的变化,然后生成一段对应的Nginx反向代理配置 +3. Ingress控制器会将生成的Nginx配置写入到一个运行着的Nginx服务中,并动态更新 +4. 到此为止,其实真正在工作的就是一个Nginx了,内部配置了用户定义的请求转发规则 + +![](http://182.92.143.66:40072/directlink/img/kubernetes/images-202505080030.png) + +## 五:Ingress使用 + +### 1. 环境准备搭建 ingress 环境 + +```bash + +``` + +### 2. 准备 service 和 pod + +为了后面的实验比较方便,创建如下图所示的模型 + +![](http://182.92.143.66:40072/directlink/img/kubernetes/images-202505080031.png) + +创建tomcat-nginx.yaml + +```yaml + +``` + +```bash + +``` + +### 3. Http 代理 + +创建ingress-http.yaml + +```yaml + +``` + +```bash + +``` + +### 4. Https 代理 + +创建证书 + +```bash + +``` + +创建ingress-https.yaml + +```yaml + +``` + +```bash + +``` +