minikube 安装 Kubernetes Dashboard 并集成 Heapster
风起于青萍之末 2018-01-19
目录
- Kubernetes Dashboard 介绍
- 环境、软件准备
- Kubernetes Dashboard 安装
- Heapster 插件安装
- 简单演示使用 Dashboard
1、Kubernetes Dashboard 介绍
Kubernetes Dashboard 它是官方提供的用户管理 Kubernetes 集群可视化工具。通过它我们可以直观的看到集群各资源、工作负载、服务发现与负载均衡以及配置存储等信息。同时也可以安装其他插件来图形化展示各资源使用率信息，它还在持续更新中，相信以后会有更加丰富的功能提供给我们。
2、环境、软件准备
这里安装环境同上一篇 minikube 本地部署运行 kubernetes 实例详解，在该环境中我们已经用 minikube 本地部署并运行 kubernetes 实例，这里在集成一下 Dashboard 监控系统，可以通过浏览器直观的看到集群各资源、工作负载、服务发现与负载均衡以及配置存储等信息。最后我们在 Dashboard 集成 Heapster插件，用来图形化展示各资源 CPU 使用率以及内存使用率信息。
3、Kubernetes Dashboard 安装
默认安装完了 minikube，我们会发现他会自动安装 Dashboard，但是我们通过 minikube dashboard 命令并不能在浏览器上打开 Dashboard 网页。这是啥原因呢？
$ kubectl get pods --all-namespaces NAMESPACE NAME READY STATUS RESTARTS AGE ... kube-system kube-addon-manager-minikube 0/1 ContainerCreating 1 10s kube-system kube-dns-910330662-653vt 0/3 ContainerCreating 1 15s kube-system kubernetes-dashboard-9k5vl 0/1 ContainerCreating 1 15s ...
在通过命令，我们发现 kube-dns 和 kubernetes-dashboard 并没有启动成功，最后通过查看下日志信息 minikube logs 或 kubectl logs -f pods/kubernetes-dashboard-9k5vl -n kube-system kubectl logs -f pods/kube-dns-910330662-653vt -n kube-system，我们发现这几个服务依赖的 images 没有拉取下来，又被墙了。。。 解决方案就是搭梯子或找替代 image。
替代各依赖的 images docker pull wymr/kubernetes-dashboard-amd64-v1.6.3:v1.6.3 docker tag wymr/kubernetes-dashboard-amd64-v1.6.3:v1.6.3 gcr.io/google_containers/kubernetes-dashboard-amd64:v1.6.3 docker pull googlecontainer/kube-addon-manager:v6.4-beta.2 docker tag googlecontainer/kube-addon-manager:v6.4-beta.2 gcr.io/google-containers/kube-addon-manager:v6.4-beta.2 docker pull zhaoqing/k8s-dns-dnsmasq-nanny-amd64:1.14.4 docker tag zhaoqing/k8s-dns-dnsmasq-nanny-amd64:1.14.4 gcr.io/google_containers/k8s-dns-dnsmasq-nanny-amd64:1.14.4 docker pull zhaoqing/k8s-dns-kube-dns-amd64:1.14.4 docker tag zhaoqing/k8s-dns-kube-dns-amd64:1.14.4 gcr.io/google_containers/k8s-dns-kube-dns-amd64:1.14.4 docker pull zhaoqing/k8s-dns-sidecar-amd64:1.14.4 docker tag zhaoqing/k8s-dns-sidecar-amd64:1.14.4 gcr.io/google_containers/k8s-dns-sidecar-amd64:1.14.4
好了，通过替换上边几个依赖的镜像之后，稍等一会，我们就会发现服务都正常启动起来了。
$ kubectl get pods -n kube-system NAME READY STATUS RESTARTS AGE kube-addon-manager-minikube 1/1 Running 1 1d kube-dns-910330662-653vt 3/3 Running 1 1d kubernetes-dashboard-9k5vl 1/1 Running 1 1d
此时我们通过 minikube dashboard 或者 minikube dashboard --url 浏览器访问 dashboard 地址，就可以正常打开监控页面了。
4、Heapster 插件安装
上边默认安装后的 Kubernetes Dashboard，是无法图形化展现集群度量指标信息的，此时我们可以通过插件 Heapser，图形化展示集群的信息，这样监控页面就更加直观明了。
首先我们去 GitHub 下载 Heapster 最新稳定版代码到本地指定目录，然后通过 yaml 文件创建并启动各个服务。这里我们选择 InfluxDB 作为后端数据存储，Grafana 作为图形化展示。
$ cd /Users/wanyang3/docker/kubernetes/ $ git clone https://github.com/kubernetes/heapster.git $ ls -l deploy/kube-config/influxdb/ total 24 -rw-r--r-- 1 wanyang3 staff 2291 10 19 14:49 grafana.yaml -rw-r--r-- 1 wanyang3 staff 1162 10 20 15:01 heapster.yaml -rw-r--r-- 1 wanyang3 staff 974 10 19 14:49 influxdb.yaml
这里要注意一下，这三个 yaml 文件分别对应 heapster、influxdb 和 grafana，他们都分别需要依赖对应的 images，由于网络的问题，要么搭梯子或者替换镜像。
依赖镜像入下： gcr.io/google_containers/heapster-amd64:v1.4.0 gcr.io/google_containers/heapster-influxdb-amd64:v1.3.3 gcr.io/google_containers/heapster-grafana-amd64:v4.4.3 替换镜像如下： docker pull wanghkkk/heapster-amd64-v1.4.0:v1.4.0 docker pull wanghkkk/heapster-influxdb-amd64-v1.3.3:v1.3.3 docker pull wanghkkk/heapster-grafana-amd64-v4.4.3:v4.4.3
可对应上边 yaml 文件分别修改 image 为以上对应镜像，也可以 docker tag ... 改成对应镜像名。修完完毕之后，可以通过命令创建 pod 了。
$ kubectl create -f deploy/kube-config/influxdb/ delpoyment "heapster" created service "heapster" created deployment "monitoring-influxdb" created service "monitoring-influxdb" created deployment "monitoring-grafana" created service "monitoring-grafana" created $ kubectl get pods -n kube-system NAME READY STATUS RESTARTS AGE heapster-3848557544-1548b 1/1 Running 0 1d kube-addon-manager-minikube 1/1 Running 0 1d kube-dns-910330662-653vt 3/3 Running 0 1d kubernetes-dashboard-9k5vl 1/1 Running 0 1d monitoring-grafana-2175968514-7tl3w 1/1 Running 0 1d monitoring-influxdb-1957622127-x28mz 1/1 Running 0 1d
好了，Heapster 插件已经启动完毕了，如果一切正常的话，稍等几分钟(也不一定哈，我的就等了差不多20分钟才出来。。。)，采集数据需要些时间，再次刷新 dashboard，就能看到集群度量指标信息将以图形化方式展现出来。
但是，如果你等了很长时间，Dashboard 还是更以前一样，没有任何变化的话，那很有可能是服务并没有正确运行起来，我们可以通过查看日志来排查原因。
$kubectl logs -f pod/monitoring-grafana-2175968514-7tl3w -n kube-system $kubectl logs -f pod/monitoring-influxdb-1957622127-x28mz -n kube-system $kubectl logs -f pod/heapster-3848557544-1548b -n kube-system
通过日志可以发现，在 heapster-3848557544-1548b 这个 pod 的日志中，发现有错误：
... Failed to list *api.Node: Get https://kubernetes.default/api/v1/nodes?resourceVersion=0: x509: certificate is valid for server, not kubernetes.default ...
通过 heapster.yaml 文件可以看到，
command:
- /heapster
- --source=kubernetes:https://kubernetes.default
- --sink=influxdb:http://monitoring-influxdb.kube-system.svc:8086默认连接 kubernetes 的数据源地址为 https://kubernetes.default 后端存储数据服务为 http://monitoring-influxdb.kube-system.svc:8086，但是这里出现了由于认证问题获取 kubernetes 服务失败的情况。
解决方法有两种：
1、通过参考 Github Heapster 配置数据源文档 Heapster source-configuration，修改配置数据源为 --source=kubernetes:http://<address-of-kubernetes-master>:<http-port>?inClusterConfig=false，采用 insecure-port 的方式连接，因为 kube-apiserver 针对 insecure-port 接入的请求没有任何限制机制。
2、通过命令获取 kubernetes ClusterIP，直接使用 ClusterIP 也是可以的。
$ kubectl get service
NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE
kubernetes ClusterIP 10.0.0.1 <none> 443/TCP 1d
...
修改 heapster.yaml
command:
- /heapster
#- --source=kubernetes:https://kubernetes.default
- --source=kubernetes:https://10.0.0.1
- --sink=influxdb:http://monitoring-influxdb.kube-system.svc:8086以上两种方式修改配置完成后，使用 kubectl apply -f deploy/kube-config/influxdb/heapster.yaml 重新 apply 一下该 pod。再次稍等几分钟，再次刷新 dashboard，就能看到了。
5、简单演示使用 Dashboard
通过 kubernetes dashboard 我们除了可以直观的查看各种资源信息，日志信息，查看工作负荷信息，监控 CPU 以及内存资源使用率等之外，我们还可以创建部署容器应用，删除各种资源，编辑更新资源文件等等操作。下边就演示下如何在 dashboard 上创建一个容器应用部署，并且编辑更新该部署，最后删除部署信息。
5.1 创建容器应用部署
浏览器打开 kubernetes dashboard 的 Web UI 页面，点击右上角 “+ 创建”，进入创建应用页面，这里有两种方式创建应用，一种是通过页面填写应用详情，二种是上传 YAML 或 JSON 文件的方式。为了方便，我们使用第二种方式，上传本地写好的一个 redis.yaml 文件，点击上传即可。
redis.yaml 文件
apiVersion: extensions/v1beta1
kind: Deployment
metadata:
name: hello-redis
namespace: my-kube
spec:
replicas: 2
template:
metadata:
labels:
group: hello-scm
my-kube: hello-redis
k8s-app: redis
spec:
containers:
- name: redis
image: redis:latest
---
apiVersion: v1
kind: Service
metadata:
labels:
group: hello-scm
kubernetes.io/cluster-service: 'true'
kubernetes.io/name: hello-redis
name: hello-redis
namespace: my-kube
spec:
ports:
- port: 6379
targetPort: 6379
selector:
k8s-app: redis说明一下，这里我创建了一个 Deployment 名为 hello-redis，并归属到 my-kube 的命名空间下，并且指定初始副本数为 2，使用镜像 redis:latest，同时创建了一个 Service 名为 hello-redis，开放 6379 端口，并分别给他们打上对应的 tag 标签。
从上图可以看到已经创建好了 hello-redis 部署，以及初始化的2个副本容器组。
5.2 编辑更新该部署
现在我们将 hello-redis 副本容器组扩大到 4 个，点击左侧 “工作负荷 —》 部署”，右侧会列出当前节点下所有的部署，点击 hello-redis 进入到部署页点击右上角 “编辑”，弹出 Yaml 文件编辑弹框，修改 replicas: 4，点击 “更新” 即可。也可以在部署列表中 hello-reids 记录最后边操作栏，点击 “查看/编辑 YAML”，弹出框修改。
稍等一会，去 hello-redis 副本集中查看，副本数就变成 4 个了。
5.3 删除部署信息
点击左侧 “工作负荷 —》 部署”，右侧会列出当前节点下所有的部署，点击 hello-redis，进入到部署页点击右上角 “删除”，弹出框点击 “删除” 即可。也可以在部署列表中 hello-reids 记录最后边操作栏，点击 “删除”，弹出框点击 “删除”。
好了，Kubernetes Dashboard 先介绍这么多，后期使用中在慢慢学习研究吧。
参考资料
