利用 Chef 在 Red Hat Enterprise Linux 上自动化部署 Mariadb

83173052 2016-12-01

简介

Chef

Chef 提供了一套自动化安装和配置软件的工具。它允许开发者以模块化的方式（cookbook）来定义软件的安装和配置流程（recipe），以及流程中的可定制参数（attribute）。当需要在特定的环境中创建软件服务时，用户指定模块名称以及相应的参数值，Chef 会负责在目标环境中执行预定义的安装和配置流程。

使用 Chef 需要安装 Chef Server 以及 Chef Development Kit（ChefDK）。Chef Server 负责保存开发者提供的软件安装和配置流程定义，并在目标机器上执行。ChefDK 则是开发者用来定义软件安装和配置流程的工具。

Mariadb Galera Cluster

Mariadb Galera Cluster 是 Mariadb 提供的一种同步多主节点的集群模式。这种模式与传统的 Maraidb Replication 功能的区别主要在于：

  • Galera Cluster 中的所有节点都在提供数据库服务。而 Replication 模式下只有一个主节点在提供数据库服务，其余的 Slave 节点虽然与主节点进行数据同步，但在其成为主节点之前并不提供数据库服务。
  • Galera Cluster 下的数据库操作都是同步的，也就是当一个事务结束时，所有节点上都已经包含了这一事务所做的修改。换言之，在任何一个时刻，集群中每个节点上的数据都是同步的。而在传统的 Replication 模式下，主从节点的数据同步是独立于修改数据的事务，同步通常存在一定的时间延迟。

部署准备

准备工作主要包括：

  • 准备至少三台机器并安装 RHEL（Red Hat Enterprise Linux）操作系统。这里的机器可以是物理机也可以是虚拟机。本文所使用的 RHEL 版本为 7.0，若使用 6.x 及以下版本，所使用的命令会略有不同。可以到Redhat 官网下载安装介质。
  • 下载 Mariadb Galera Cluster 的安装介质。推荐使用 Mariadb10.1 以上的版本，因为从这一版本开始，Galera Cluster 已经被包含在 Mariadb Server 的安装介质中，而在以前的版本中则是作为独立的安装包下载的。可以从Mariadb 官网下载。
  • 在一台机器上安装 Chef Server 以及 ChefDK，建议使用 Chef Server 12.6 和 ChefDK 0.14 及以上版本，安装介质可以从Chef 官网下载。
  • 在 Chef Server 所在的机器上配置 yum 源以及 HTTP Server。这主要是针对在无法访问 Internet 的环境下，能利用自己设立的 yum 源方便的安装软件。HTTP Server 可以使用 RHEL 自带的 Apache HTTP Server，或其他同类软件。

自动安装流程

本文所描述的自动安装流程的目标是在至少两台机器上安装 Mariadb Galera Cluster，主要包含如下几个步骤：

  1. 添加 Chef Server 上提供的 yum 源并安装 Mariadb。
  2. 开启 Cluster 节点之间的互相通信，主要是在操作系统上配置域名解析以及开放相应的防火墙端口。
  3. 开启 Galera Cluster。
  4. 修改操作系统上的 Mariadb 服务启动方式。注意虽然 Galera Cluster 里所有节点都可以同时提供数据库服务，但依照它们被加入 Cluster 的时间顺序，第一个节点的启动方式和其余节点有所不同。

详细实现

首先创建一个名为 mariadb-galera-cluster 的 cookbook 和名为 test.json 的 environment 文件，如清单 1 所示。创建 cookbook 会在当前目录下生成一个同名的目录，后续定义的大部分文件都放在这个目录下。environment 文件将包含所有针对当前环境的参数值，例如当前环境下节点的 IP 地址和域名。创建完成后的目录结构如清单 2 所示。

清单 1. 创建 cookbook 和 environment

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
knife cookbook create mariadb-galera-cluster
cat environments/test.json <<EOF
{
  "name": "test",
  "description": "",
  "cookbook_versions": {
 
  },
  "json_class": "Chef::Environment",
  "chef_type": "environment",
  "default_attributes": {
 
  },
  "override_attributes": {
 
  }
}
EOF

清单 2. 目录结构

1
2
3
4
5
6
7
8
9
10
11
..
environments/
    test.json
cookbooks/
    mariadb-galera-cluster/
        recipes/
            default.rb
        templates/
            default/
        attributes/
            default.rb

安装 Mariadb

利用在 Chef Server 机器上配置的 yum 源来安装 Mariadb，需要在目标机器的/etc/yum.repos.d 目录下加入相应的配置文件。将该配置文件的内容预先定义在 mariadb-galera-cluster/templates/default/chef_server.repo.erb 中，如清单 2 所示。同时，在 mariadb-galera-cluster/recipes/default.rb 中定义这一部分的安装流程，如清单 3 所示。配置好 yum 源后，即可通过 yum 命令安装预先下载好的 Mariadb 安装介质。

安装完成后，可以执行一些基本的数据库初始化任务，例如设置 root 用户的密码和权限，这些任务可以定义在一个 sql 文件中。另外也可以通过编辑/etc/my.cnf 对 Mariadb 进行一些基本的配置。全部完成后重启 Mariadb 的服务。

清单 3. templates/default/chef_server.repo.erb，定义 yum 配置

1
2
3
4
5
6
[chef_server_repo]
name=chef_server_repo
baseurl=http://chefserver:80/yum_repo
enabled=1
gpgcheck=0
sslverify=0

清单 4. recipes/default.rb，安装 Mariadb

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
template "/etc/yum.repos.d" do
        source "chef_server.repo.erb"
        owner 'root'
        mode 0755
        action :create
end
 
...
execute "Install Mariadb" do
        command "yum clean metadata && yum -y install mariadb-server"
end
...
bash "Config database settings..." do
        cwd "#{CWD}"
        user "root"
        group "root"
        code <<-EOF
       printf "\n[mysqld]\nlower_case_table_names=1" >> /etc/my.cnf
        systemctl enable mariadb.service
        systemctl start mariadb.service
        mysql < init.sql
        systemctl restart mariadb.service
        EOF
end

开启 Cluster 节点的相互通信

要使得 Mariadb Galera Cluster 的节点能够进行数据同步，各节点之间必须能够互相通信。这需要各节点能够解析彼此的域名并能访问相应的网络端口。因为 cluster 中节点的域名和 IP 地址是因具体环境而异的，因此将这些信息定义在 environment 文件里。

清单 5. environments/test.json，定义 cluster 成员

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
{
  "name": "test",
  "description": "",
  "cookbook_versions": {
    },
  "json_class": "Chef::Environment",
  "chef_type": "environment",
  "default_attributes": {
    "mariadb-galera-cluster": {
        "cluster": {
                "members": {
                        "nodeA": "10.0.0.11",
                        "nodeB": "10.0.0.12"
                },
                "master": "nodeA"
        }
}
}

清单 6. recipes/default.rb，域名解析和开启端口

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
node['mariadbp4']['cluster']['members'].each_pair do |name, ip|
        bash "Resolve #{name} to #{ip}." do
                user "root"
                group "root"
                code <<-EOF
                name=#{name}
                echo "#{ip} ${name%%.*} $name" >> /etc/hosts
                EOF
                not_if "[ #{name} == `hostname -s` ]"
        end
end
 
bash "Open ports on OS firewall"
    user "root"
    group "root"
    code <<-EOF
    firewall-cmd --zone=public --add-service=mariadb --permanent
    firewall-cmd --zone=public --add-port=3306/tcp --permanent
    firewall-cmd --zone=public --add-port=4567/tcp --permanent
    firewall-cmd --zone=public --add-port=4568/tcp --permanent
    firewall-cmd --zone=public --add-port=4444/tcp --permanent
    firewall-cmd --zone=public --add-port=4567/udp --permanent
    firewall-cmd --reload
     EOF
end

配置 Mariadb Galera Cluster

在 Mariadb 中开启 Galera Cluster 需要修改相应的配置文件，通常是/etc/my.cnf.d/server.cnf。这里将所需配置预先定义为 template，然后用它覆盖原来的配置文件，如清单 7、清单 8 所示。

清单 7. templates/default/server.cnf.erb，Mariadb 配置文件

1
2
3
4
5
6
7
8
[galera]
wsrep_on=ON
wsrep_provider=/usr/lib64/galera/libgalera_smm.so
wsrep_cluster_address=gcomm://<%= @node.mariadbp4.cluster.members.keys.join(',') %>
binlog_format=row
default_storage_engine=InnoDB
innodb_autoinc_lock_mode=2
bind-address=0.0.0.0

清单 8. recipes/default.rb，修改 Mariadb 配置文件

1
2
3
4
5
6
7
template "/etc/my.cnf.d/server.cnf" do
        source "server.cnf.erb"
        owner "root"
        mode 0644
        action :create
        not_if "grep '^wsrep_on=ON' /etc/my.cnf.d/server.cnf"
end

修改操作系统服务

在 RHEL7 的中，操作系统服务是通过 systemd 来管理的，因为 Mariadb Galera Cluster 需要修改启动 Mariadb 时的参数，因此需要对 systemd 启动 Mariadb 时所使用的命令进行修改。因为 Mariadb Galera Cluster 对第一个启动的节点（又称为 master 节点）需要采用特定的启动命令，因此这里准备两份 systemd 的配置文件，如清单 9、清单 10 所示。在 recipe 中，首先判断当前节点是否 master 节点，然后用相应的配置文件作为当前节点的 systemd 的 Mariadb 服务启动配置文件。最后重启 Mariadb 服务。

清单 9. templates/default/systemd.master.conf.erb，master 节点的配置文件

1
2
3
[Service]
ExecStart=
ExecStart=/usr/sbin/mysqld --wsrep-new-cluster

清单 10. templates/default/systemd.master.conf.erb，slave 节点的配置文件

1
2
3
[Service]
ExecStart=
ExecStart=/usr/sbin/mysqld --wsrep_cluster_address=gcomm://<%= node.mariadbp4.cluster.master =%>

清单 11. recipes/default.rb，修改 systemd 配置文件

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
master=node['mariadbp4']['cluster']['master']
bash "Add cluster conf for mariadb service in systemd and restart service..." do
        cwd "/etc/systemd/system"
        user "root"
        code <<-EOF
        if [ ! -d "$service_name.d" ]; then
                mkdir "mariadb.service.d"
        fi
 
        if [ `hostname -s` == #{master} ]; then
                mv /tmp/master.conf mariadb.service.d/cluster.conf
        else
                mv /tmp/slave.conf mariadb.service.d/cluster.conf
        fi
        systemctl daemon-reload
        systemctl restart $service_name
        EOF
        not_if "[[ -f mysql.service.d/cluster.conf || -f mariadb.service.d/cluster.conf ]]"
end

安装

首先将上面所定义部署流程上传到 Chef Server，包括 cookbook 和 environment。然后告诉 Chef Server 在目标机器上执行相应的部署流程，如清单 12 所示。这里 10.0.0.11 和 10.0.0.12 为组成 Cluster 的两台机器的 IP，注意执行命令时请确保当前目录为 mariadb-galera-cluster 的上级目录，

清单 12. 安装 Mariadb Galera Cluster 所需命令

1
2
3
4
knife cookbook upload -a -o .
knife environment from file environments/test.json
knife bootstrap 10.0.0.11 -x root -P password -r "recipe[mariadb-galera-cluster]" -E test
knife bootstrap 10.0.0.12 -x root -P password -r "recipe[mariadb-galera-cluster]" -E test

验证

要验证 Mariadb Galera Cluster 的运行状况，可以通过执行如清单 13 所示的命令来实现。如果一切正常，可以看到如图 1 所示的结果。

清单 13. 查看 Mariadb Galera Cluster 的运行情况

1
2
mysql --user=root --password=xxx
show status like 'wsrep_%'

图 1. Mariadb Galera Cluster 的运行状态

利用 Chef 在 Red Hat Enterprise Linux 上自动化部署 Mariadb

小结

在企业级的应用中，数据库的高可用性是不可或缺的，而 Mariadb Galera Cluster 作为 Mariadb 自带的 Cluster 功能，从功能上可以满足用户的这一要求。而本文所描述的自动化部署步骤，可以快速的帮助用户在多个节点上部署 Mariadb Galera Cluster，极大的节省了创建 Mariadb Galera Cluster 所需的时间。

参考资源

83173052

83173052

相关推荐

给技术经理的Kubernetes采用指南

你可能经常在公司听说Kubernetes，这项源自于Google的容器编排技术现在非常火，似乎不论是Devops还是CTO，不论他们是否完全理解这项技术，他们都在谈论它。有人寄希望于Kubernetes可以帮助他解决所有问题，但是事实并非如此。在这篇文章中

tanzhe0 / 0评论 2020-01-13

5款管理OpenStack服务器的开源工具

OpenStack是一个开源平台，可让你构建在商用硬件上运行的基础架构即服务云。OpenStack背后的技术由一系列项目组成，这些项目为云基础架构解决方案提供了各种组件。它可以处理数据中心内的大量存储和网络资源，既可以作为单独的云，也可以作为外部的公有云。

lichunliang / 0评论 2019-11-11

5款管理OpenStack服务器的开源工具

OpenStack是一个开源平台，可让你构建在商用硬件上运行的基础架构即服务云。OpenStack背后的技术由一系列项目组成，这些项目为云基础架构解决方案提供了各种组件。它可以处理数据中心内的大量存储和网络资源，既可以作为单独的云，也可以作为外部的公有云。

小新没有蜡笔 / 0评论 2019-11-11

运维利器rshell，功能强大似Ansible/Puppet/Chef，配置简单如Putty！

背景在多主机运维场景下，最核心最常用的操作就是批量远程执行命令、上传和下载文件，通常大家会想到Ansible、Puppet、Chef等自动化工具，但是又都对工具自身的部署配置抓狂，又对Putty的功能太过简单而失望。

sxjinmingjie / 0评论 2019-06-30

[转载]有“容”乃大：Docker容器，十万网店轻松托管

　Shopify是一家提供电商网店解决方案的公司，目前服务的网店数有10万家以上。网站主要的框架是RubyonRails，1700个内核和6TBRAM，每秒可以响应8000个用户请求。为了更易扩展和管理业务，Shopify开始使用Docker和CoreOS

Alexf / 0评论 2015-10-09

五个小技巧，快速创建Docker镜像

最终的目标是实现Docker镜像离线一键部署。为了避免供应商锁定，通常需要选择是否用Docker支持部署，最好两种场景都实施部署持续集成。默认情况下，使用自定义Docker镜像来测试。首先我们希望Docker镜像尽可能地小，镜像交付就会很快速。

lnkToKing / 0评论 2019-06-21

以应用为中心，自动化运维工具Chef发布一系列更新

Chef宣布了一系列旨在让企业超越以基础设施为中心的配置管理的新更新。发布了Chef Automate 2.0，Chef Application Automation和Chef Compliance Automation。根据Chef最近的一份报告，应用程

88113854 / 0评论 2018-05-23

以Chef和Ansible为例快速入门服务器配置

在 Chef、Ansible 或 Puppet 出现之前，很多运营团队使用 Bash 来配置服务器。例如，如果想在运行 Ubuntu 的 Amazon EC2 实例上安装 Nginx，可以使用以下脚本：。据我所知，所有主流的配置工具都使用了基于安全传输层的

tvk / 0评论 2018-09-27

Ansible 快速上手

最近纠结于在 Puppet、Chef、SaltStack、Ansible 等一干配置管理工具中如何选择。考虑到一旦开始没有选好，以后更改又是一堆麻烦事，所以就稍微有些慎重。Puppet 和 SaltStack 我曾用过，但不是十分符合预期，所以先行排除。充

onepiecedn / 0评论 2013-11-02

开发运维领域取得长足进展的10家厂商

由于企业组织日益使用开发运维来加快开发和部署应用程序的速度，开发运维工具市场预计会急剧增长。据来自Technavio的市场研究数字显示，全球开发运维解决方案市场的年复合增长率将达到19%，这种状况将一直持续到2020年。但是又有哪些厂商在真正帮助公司拥抱开

TaoTaoFu / 0评论 2016-10-18

面向开发运维的10款开源工具

因为开发运维本身就在发展壮大，而开源是这种开发方法的一种自然选择。自开发运维首次提出来之后，它的人气就急剧飙升。实际上，RightScale公司所做的一项调查就发现，74%的组织和81%的企业表示自己在使用开发运维。其中许多工具使部署或管理基础设施的过程实

zerogg / 0评论 2016-10-18

以Chef和Ansible为例快速入门服务器配置

服务器配置在开始介绍现代化的工具之前，我们来看看最基本且经过实战考验的服务器配置工具：shell脚本。在Chef、Ansible或Puppet出现之前，很多运营团队使用Bash来配置服务器。例如，如果想在运行Ubuntu的Amazon EC2实例上安装Ng

amorfait / 0评论 2018-10-16

帮助Linux管理员简化任务并实现自动化的七大工具

我们在本文中介绍了使日常任务实现自动化，从而为Linux管理员简化工作的几款工具。Puppet是一款开源工具，旨在为系统管理员大大简化自动化和报告工作。它基本上是款配置管理软件，有助于配置和维护企业网络中的服务器及其他系统。Chef是另一款可供Linux系

piaotiejun / 0评论 2017-02-18

帮助Linux管理员简化任务并实现自动化的七大工具

Puppet是一款开源工具，旨在为系统管理员大大简化自动化和报告工作。它基本上是款配置管理软件，有助于配置和维护企业网络中的服务器及其他系统。系统管理员通常每天要花大量时间重复做同样的任务。他们总是想要使这些任务实现自动化，以便有更多的时间来处理其他项目或

thone00 / 0评论 2017-02-17

使用 Vagrant 搭建本地开发环境教程

你在本地搭建了一个开发环境，可能是为 php 准备的，你在这个本地的开发环境上面做了一个项目，当你把它迁移到真正的服务器上的时候，你发现了一些问题。这很可能是因为你的本地开发环境与服务器的生产环境之间是有区别的。慢慢地，你又想试一下 node ，因为它跟

肉面飞龙 / 0评论 2015-09-15

DevOps在云中如何演变

Puppet和Chef这样的工具帮助人们在云上使用DevOps成为可能，但是当涉及到管理和分析云应用时，仍然会有障碍。但是随着多年来人们对分布式计算兴趣的日益增加，以及易于部署和重用的软件组件化，催生了一种新的模型。这种在开发和运维之间的沟通，加上促进这种

tuiyun / 0评论 2015-03-02

Perl文本处理模块用法指导

Perl的主要目标之一是解析文本。这里主要讨论用于文本解析的CPAN模块，并展示了如何在程序中方便地使用它们。通过使用一些正确的工具，可以使分析代码注释、改编现有记载文法和许多其它任务变得容易。考虑到实际编程，给出了每个任务的示例。$niw变量在启动时设置

MysunshineSy / 0评论 2010-07-21

Ironfan在大数据集群部署、配置管理中的应用

Ironfan就是在Serengeti中负责集群软件安装配置管理的组件。Ironfan基于Chef的框架和API提供了简单易用的自动化部署和管理集群的命令行工具。Ironfan支持部署Zookeeper,Hadoop和HBase集群，也可以编写新的cook

mangguoyang / 0评论 2013-12-10

企业云：明确需求更合适

随着云计算技术的发展，早期的企业使用者明白了：一种类型并不能适应所有的情况。像AWS这样的服务很好地说明了这些。Amazon可以在较少人力和基础设施的情况下，交付出更多的计算并创造收益;一个简单的商业命题，不是吗?但对大公司而言，实际并没有那么简单明了。毕

hanningxue / 0评论 2011-09-30