IsanaYashiro 2020-02-18
单机部署:官方建议硬件要求为 4C/16G 以上
1.1:获取软件包
访问:https://bk.tencent.com/download/
1.2:系统环境设置
官方建议:要求 CentOS-7.0 以上版本,推荐 CentOS-7.5
安装一些常用命令
[ ~]# yum -y install vim lrzsz net-tools ntp wget
1.2.1:关闭 seLinux
[ ~]# setenforce 0 #修改配置文件 [ ~]# sed -ri ‘s/SELINUX=enforcing/SELINUX=disabled/‘ /etc/selinux/config
1.2.2:重启系统
[ ~]# reboot
1.2.3:安装 rsync
# 检查是否有rsync命令,如果有返回rsync路径,可以跳过后面的命令 [ ~]# which rsync # 安装rsync [ ~]# yum -y install rsync
1.2.4:关闭防火墙
# 检查默认防火墙状态, 如果返回not running,可以跳过后面的命令 [ ~]# firewall-cmd --state #停止并禁用firewalld: [ ~]# systemctl stop firewalld # 停止firewalld [ ~]# systemctl disable firewalld # 禁用firewall开机启动
1.2.5:调整最大文件打开数
# 检查当前root账号下的max open files值 [ ~]# ulimit -n #如果为默认的1024,建议通过修改配置文件调整为102400或更大。 [ ~]# vim /etc/security/limits.d/99-nofile.conf root soft nofile 102400 root hard nofile 102400 这里使用的单独的配置文件覆盖/etc/security/limits.conf默认值的方式,请根据系统环境自行调整。 修改后,重新使用root登录检查是否生效 [ ~]# su [ ~]# ulimit -n
1.2.6:时间同步
服务器后台时间不同步会对时间敏感的服务带来不可预见的后果。务必在安装和使用蓝鲸时保证时间同步。
# 检查每台机器当前时间和时区是否一致,若相互之间差别大于3s(考虑批量执行时的时差),建议校时。 [ ~]# yum -y install ntp [ ~]# date -R # 查看和ntp server的时间差异(需要外网访问,如果内网有ntpd服务器,自行替换域名为该服务的地址) [ ~]# ntpdate -d cn.pool.ntp.org #如果输出的最后一行offset大于1s建议校时 #和ntp服务器同步时间 [ ~]# ntpdate cn.pool.ntp.org
1.2.7:检查是否存在全局 HTTP 代理
蓝鲸服务器之间会有的 http 请求,如果存在 http 代理,且未能正确代理这些请求,会发生不可预见的错误。
#检查http_proxy https_proxy变量是否设置,若为空可以跳过后面的操作 [ ~]# echo "$http_proxy" "$https_proxy" 对于本机配置http_proxy变量的方式,请依次查找文件/etc/profile、/etc/bashrc、$HOME/.bashrc等是否有设置。
1.2.8:关闭 NetworkManager
#查看NetworkManager状态 [ ~]# systemctl status NetworkManager.service #关闭NetworkManager [ ~]# systemctl stop NetworkManager.service #将NetworkManager 服务设置开机不启动 [ ~]# systemctl disable NetworkManager.service
1.3:配置 YUM 源
1.3.1:获取 BASE 源
#备份默认源 [ ~]# mv /etc/yum.repos.d/CentOS-Base.repo /etc/yum.repos.d/CentOS-Base.repo.backup #获取网络源 [ ~]# wget -O /etc/yum.repos.d/CentOS-Base.repo http://mirrors.cloud.tencent.com/repo/centos7_base.repo
1.3.2:获取 EPEL 源
[ ~]# wget -O /etc/yum.repos.d/epel.repo http://mirrors.cloud.tencent.com/repo/epel-7.repo #更新缓存 [ ~]# yum clean all [ ~]# yum makecache
1.4:获取证书
https://bk.tencent.com/download_ssl/
通过命令得到本机的 Mac 地址,然后复制到上面网址中进行下载证书文件
2、安装前准备
2.1:解压程序包
#上传包至服务器并解压程序包到/data目录下 [ ~]# mkdir /data [ ~]# tar -xf bkce_src-5.0.4.tar.gz -C /data/ #解压后/data目录下有2个目录install 和 src目录 #解压ssl证书文件 [ ~]# tar -xf ssl_certificates.tar.gz -C /data/src/cert/
2.2:修改配置文件
2.2.1:install.conf
install.config 是模块和服务器对应关系的配置文件,描述在哪些机器上安装哪些模块。 每行两列,第一列是 IP 地址;第二列是以英文逗号分隔的模块名称。
[ ~]# cd /data/install/ [ install]# cp install.config.3IP.sample install.config [ install]# vim install.config 注意:此处云服务器写公网ip [ install]# curl ip.sb [ install]# vim globals.env 下面的域名根据实际情况进行修改为自己的 export BK_DOMAIN="bk.cloud.tencent.com" # 蓝鲸根域名(不含主机名) export PAAS_FQDN="yppaas.$BK_DOMAIN" # PAAS 完整域名 export CMDB_FQDN="ypcmdb.$BK_DOMAIN" # CMDB 完整域名 export JOB_FQDN="ypjob.$BK_DOMAIN" # JOB 完整域名 PAAS_ADMIN_PASS为`BWvQEaYO`修改
其余默认即可
2.2.3:pip.conf
[ ~]# mkdir -p /data/src/.pip/ [ ~]# vim /data/src/.pip/pip.conf [global] index-url = ![img](file:///C:\Users\LFL\AppData\Local\Temp\%$ACOF(TYDYECOKVDYB.png)https://pypi.tuna.tsinghua.edu.cn/simple [ ~]# curl -I http://mirrors.cloud.tencent.com/pypi/simple
2.3:配置免密登入
[ ~]# cd /data/install/ [ install]# bash configure_ssh_without_pass # 根据提示输入各主机的 root 密码完成免密登陆配置
2.4:安装前检查环境
[ ~]# cd /data/install/ [ install]# bash precheck.sh
正常如图下所示
3、开始安装
3.1:执行安装
[ ~]# mkdir /usr/local/blueking [ ~]# cd /data/install/ [ install]# ./install_minibk -y …… <<check_networkmanager>> has been checked successfully... SKIP <<check_firewalld>> has been checked successfully... SKIP where do you want to install blueking products. enter a absolute path [/data/bkce]:直接回车确定 …… enter a absolute path [/data/bkce]: /usr/local/blueking #输入安装的位置 directory /usr/local/blueking exists, are you sure to install blueking suite to /usr/local/blueking (yes/no)? yes
解决方案:
官方给出
[ ~]# source /data/install/utils.fc
[ ~]# cd /data/install
[ install]# ./bkcec status all
[ install]# ./bkcec stop gse
[root install]# ./bkcec install gse 1
[ install]# ./bkcec initdata gse
再次执行安装
[ install]# ./install_minibk -y
4、访问页面
windows:修改 hosts 文件进行域名解析
C:\Windows\System32\drivers\etc\hosts
192.168.66.35 localhost.localdomain
192.168.66.35 yppaas.bk.com
192.168.66.35 ypcmdb.bk.com
192.168.66.35 ypjob.bk.com
192.168.66.35 rbtnode1
5、网络管理部署
5.1:下载插件包
下载部署第三方的网络管理平台
插件包地址https://bk.tencent.com/download_sdk/
5.2:解压安装
#先执行下环境变量文件 [ ~]# source /data/install/globals.env #上传插件包进行解压安装 [ ~]# tar xf bknetwork.tgz -C /data/src/ [ ~]# tar xf /data/src/bknetwork/bknetwork-3.6.1.tgz -C /data/src/ [ ~]# rsync -a /data/src/bknetwork/install/ /data/install/
5.3:根据实际情况修改域名
根据实际情况修改中控机/data/install/third/globals_bknetwork.env 网络管理域名等信息
5.4:部署网络管理
[ ~]# cd /data/install/ [ install]# ./bkco_install bknetwork
5.5:win 系统添加域名解析
windows:修改 hosts 文件进行域名解析
C:\Windows\System32\drivers\etc\hosts
192.168.66.35 bknetwork.bk.com
5.6:访问页面
6、部署 CICD 插件
6.1:下载插件包和脚本
https://bk.tencent.com/download_sdk/
6.2:解压安装
[ ~]# tar -xf bkce_cicdkit-1.0.0.tgz -C /data [ ~]# tar -xf install_ce-cicdkit_fix-1.0.2.tar -C /data
注意:安装 CICDKit 的机器可用配置不能低于 4C8G,系统版本不能低于 CentOS7.0,建议单独一台机器部署
6.3:修改配置
install.config 新增 cicdkit 及其依赖的 mysql5.7 的配置
[ install]# vim install.config
192.168.66.36 mysql57,cicdkit
6.4:安装 CICDKit 后台
#先刷新一下环境变量 [ install]# source globals.env [ install]# source /data/install/third/globals_cicdkit.env #设置免密,拷贝秘钥: [ install]# ssh-copy-id #执行数据拷贝至cicd服务器 [ install]# ./bkcec sync all #安装CICDKit [ install]# ./bkco_install cicdkit [ ~]# source /data/install/utils.fc [ install]# echo $CICDKIT_FQDN cicdkit.bk.com [ install]# vim /etc/hosts 10.18.198.92 cicdkit.bk.com #重启进程 [ install]# ./bkcec stop cicdkit self [ install]# ./bkcec start cicdkit self
6.5:部署 cicdkit-SaaS
#下载 cicdkit-SaaS 包
https://bk.tencent.com/s-mart/application/159/detail
从 PaaS 页面中进入开发者中心进行部署
6.6:访问页面
7、服务器重启后的操作
如果已经部署过 SaaS,那么手动拉起。
[ ~]# cd /data/install/
[ install]# ./bkcec start saas-o # 正式环境
[ install]# ./bkcec start saas-t # 测试环境
#检查所有服务启动状态,全为RUNNING为正常,如有EXIT则手动拉起
[ install]# ./bkcec status all
#手动拉起某个服务,例如
[ install]# ./bkcec start bknetwork
[ install]# ./bkcec status bknetwork
8、离线安装 Agent
8.1:离线准备
下载好 ISO 镜像文件,地址如下,此 iso 镜像已经包含了安装 agent 所需的软件
https://bk.tencent.com/s-mart/community/question/466
挂载到每台机器上:
mkdir -p /mnt/centos7 mount /dev/sr0 /mnt/centos7
8.2:配置离线 repo
Vim /etc/yum.repos.d/offline-centos7.repo [offline-centos7] name=Bk repo baseurl=file:///mnt/centos7 enabled=1 gpgcheck=0
8.3:更新缓存
yum clean all yum makecache yum repolist
8.4:在节点配置中添加 Agent 即可
9、常见问题总结
9.1:zookpeer 启动失败
检查日志存在脏数据,日志路径 [ ~]# rm -rf /安装目录/public/zk/data/version-2/ [ ~]# rm -rf /安装目录/public/zk/datalog/version-2/ [ ~]# cd /data/install [ install]#./bkcec start zk [ install]#./bkcec status zk 检查日志存在脏数据,日志路径 [ ~]# rm -rf /安装目录/public/zk/data/version-2/ [ ~]# rm -rf /安装目录/public/zk/datalog/version-2/ [ ~]# cd /data/install [ install]#./bkcec start zk [ install]#./bkcec status zk
9.2:GSE 启动失败
重启gse [ ~]# cd /data/install [ install]#./bkcec stop gse 1 [ install]#./bkcec initdata gse [ install]#./bkcec start gse [ install]#./bkcec status gse
9.3: 服务器的gse服务时而正常时而不正常
日志显示为无法连接redis主机,但是redis服务正常,根本原因是将redis和gse放入到同一台服务器中安装
9.4:重启服务后访问 SaaS 应用都报 502
原因:重启服务后有残余进程
解决方案:在开发者中心将这些应用重新部署
9.5:redis密码修改不能有特殊字符,如果有特殊字符,会导致gse_dba服务起不来,以及cmdb服务不能全部running
参考官网网址:http://docs.bk.tencent.com/bkce_maintain_faq/component/redis.html修改回正常密码,问题解决
9.6:部署蓝鲸平台的过程中遇到报错add rabbitmq user admin failed
目录下/etc/rabbitmq下运行命令chmod 755 *
9.7:卸载蓝鲸agent 不成功,提示:组件调用异常,
服务器安装好了之后,业务分配到其他地方, 想要卸载不成功,需要重新将主机分配到蓝鲸业务中去, 并重装agent
9.8:蓝鲸服务器重启之后,访问所有app出现访问不了的情况,paas_agent未显示running状态
运行命令:
查看日志/data/bkce/logs/paas_agent/agent.log
./bkcec stop nginx
./bkcec start nginx
./bkcec stop appt
./bkcec start appt
./bkcec stop appo
./bkcec start appo
之后重新上下架uam ,在重新上下架app ,问题得到解决。
9.9:bkdata服务器detect_cron提示状态不正常
原因:crontab定时计划任务中的格式不规范,里面有很多@号,将@号删除,并执行下面命令问题解决
workon monitor
supervisorctl -c /data/bkce/etc/supervisor-bkdata-monitor.conf restart detect_cron
9.10:配置自动化app部署失败,日志显示报错找不到pip源
在appt及appo服务器上分别执行以下操作,提前在在线pip环境中安装pip包
pip download django-celery==3.1.16,然后上传到/data/bkce/paas_agent/support-files/pkgs/目录下;
确认是否对应/data/bkcd/pass_agent/apps/projects/cc-automation/code/cc-automation/requirements.txt中的依赖包版本信息;
在app的虚拟环境下安装依赖包:
cd /data/bkce/paas_agent/apps/Envs/cc-automation/bin
source activate
pip insall –r /data/bkce/pass_agent/apps/projects/cc-automation/code/cc-automation/requirements.txt --no-index --find-links=file:///data/bkce/ paas_agent/support-files/pkgs/
pip list
deactivate
10、如何给一个 SaaS 应用加白名单
官方文档:https://bk.tencent.com/s-mart/community/question/569
11、手动卸载各节点 Agent
登入到各个管控节点服务器,然后执行下面的操作
停gse_agent:
[ ~]# /usr/local/gse/agent/bin/gsectl stop
停采集器:
[ ~]# cd /usr/local/gse/plugins/bin/ && ./stop.sh basereport
删除GSE相关目录
[ ~]# rm -rf /usr/local/gse/ /var/log/gse/ /var/run/gse/ /var/lib/gse/