MySQLデータベースのMHA高可用性クラスタ


MHAの概要
日本DeNA社youshimaton(現在Facebook社)は、MySQLの高可用性環境でのフェイルオーバーと主従向上に優れた高可用性ソフトウェアを開発しています.
MHAの組成
MHA Manager(管理ノード)MHAノード(データノード)
MHAの特徴
自動フェイルオーバー中、MHAはダウンタイムのメインサーバーからバイナリログを保存しようとしたが、データの紛失を最大限に保証するためにMySQL 5.5の半同期レプリケーションを使用することで、データ損失のリスクを大幅に低減できる
実験構想.
1、MHAアーキテクチャ
(1)データベースの設置(2)一主二従(3)MHAの構築
2、故障シミュレーション
(1)マスタ無効化(2)候補マスタがマスタとなる(3)ライブラリ2からマスタへ候補マスタを向ける
導入環境
1、実験環境
サーバーの役割
IPアドレス
サービスパッケージ
master
192.168.142.130
mha4mysql-node
slave1
192.168.142.131
mha4mysql-node
slave2
192.168.142.132
mha4mysql-node
manager
192.168.142.133
Textmha4mysql-manager、 mha4mysql-node
2、実験要求
このケースでは、MHAでMySQLデータベースを監視し、障害時に自動的に切り替え、業務に影響を与えないようにする必要があります.
3、実験構想
(1)MySQLデータベースのインストール(2)MySQLの構成(3)MHAソフトウェアのインストール(4)パスワード認証なしの構成(5)MySQL MHA高可用性の構成(6)アナログマスターフェイルオーバー
ステップ1:3台のMySQLノードにそれぞれデータベースをインストールする
(MySOLバージョンは5.6.36、cmakeバージョンは2.8.6)
1、コンパイル依存環境のインストール
yum install -y install ncurses-devel gcc gcc-c++ perl-Module-Install

2、リモートマウント
mkdir /abc
mount.cifs //192.168.1421/mha /abc/

3、gmakeコンパイルソフトのインストール
cd /abc/mha/
tar zxvf cmake-2.8.6.tar.gz -C /opt/

cd /opt/cmake-2.8.6/
./configure
gmake && gmake install

4、MySQLデータベースのインストール
cd /abc/mha/
tar zxvf mysql-5.6.36.tar.gz -C /opt/

cd /opt/mysql-5.6.36/
cmake -DCMAKE_INSTALL_PREFIX=/usr/local/mysql \
-DDEFAULT_CHARSET=utf8 \
-DDEFAULT_COLLATION=utf8_general_ci \
-DWITH_EXTRA_CHARSETS=all \
-DSYSCONFDIR=/etc

make && make install

cp support-files/my-default.cnf /etc/my.cnf
cp support-files/mysql.server /etc/rc.d/init.d/mysqld

chmod +x /etc/rc.d/init.d/mysqld
chkconfig --add mysqld
echo "PATH=$PATH:/usr/local/mysql/bin" >> /etc/profile
source /etc/profile

useradd -M -s /sbin/nologin mysql
chown -R mysql.mysql /usr/local/mysql

/usr/local/mysql/scripts/mysql_install_db \
--basedir=/usr/local/mysql \
--datadir=/usr/local/mysql/data \
--user=mysql

5、マスターのメインプロファイル/etc/myを変更する.cnfファイル、3台のサーバのserver-idは同じではありません
vim /etc/my.cnf
[mysqld]
server-id = 1
log_bin = master-bin
log-slave-updates = true

ステップ2:サーバ1からの構成
mysqlのプライマリプロファイルの変更
# /etc/my.cnf           。
[mysqld]
server-id = 2
log_bin = master-bin
relay-log = relay-log-bin
relay-log-index = slave-relay-bin.index

ステップ3:サーバ2からの構成
1.mysqlのプライマリプロファイルを変更する:/etc/my.cnf
vim /etc/my.cnf
[mysql]
server-id = 3
log_bin = master-bin
relay-log = relay-log-bin
relay-log-index = slave-relay-bin.index

2.master、slave 1、slave 2にそれぞれ2つのソフト接続をする
ln -s /usr/local/mysql/bin/mysql /usr/sbin/
ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/

3.master、slave 1、slave 2でmysqlを起動し、オープン状況を表示
#  mysql
/usr/local/mysql/bin/mysqld_safe --user=mysql &

#        
netstat -ntap | grep 3306

#          
systemctl stop firewalld.service 
setenforce 0

ステップ4:MySQLのプライマリとセカンダリの構成
1.mysqマスターは構成が比較的簡単であることに注意しなければならないのは、すべてのデータベースノードで2人のユーザーを許可することであり、1つはライブラリからユーザーmyslaveを同期して使用することであり、もう1つはmanagerがユーザーmhaを監視することである.
grant replication slave on *.* to 'myslave'@'192.168.142.%' identified by '123';
grant all privileges on *.* to 'mha'@'192.168.142.%' identified by 'manager';
flush privileges;

2.次の3つの授権は理論的に追加する必要はありませんが、実例実験環境ではMHAでmysqlの主従者が間違っていることを確認し、2つの従属者がホスト名で主ライブラリに接続できないことを報告するので、すべてのデータベースに次の授権を加えます.
grant all privileges on *.* to 'mha'@'master' identified by 'manager';
grant all privileges on *.* to 'mha'@'slave1' identified by 'manager';
grant all privileges on *.* to 'mha'@'slave2' identified by 'manager';

#     
flush privileges;

3.masterホストでバイナリファイルと同期ポイントを表示する
mysql> show master status;
+-------------------+----------+--------------+------------------+-------------------+
| File              | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |
+-------------------+----------+--------------+------------------+-------------------+
| master-bin.000001 |     1292 |              |                  |                   |
+-------------------+----------+--------------+------------------+-------------------+

4.slave 1、slave 2でそれぞれ同期を実行
change master to master_host='192.168.142.130',master_user='myslave',master_password='123',master_log_file='masterbin.000001',master_log_pos=1292;
start slave;
#  slave

5.IOとSQLのスレッドを表示するのはyesが同期正常を表す
show slave status\G;

             Slave_IO_Running: Yes
            Slave_SQL_Running: Yes
#             

#           
set global read_only=1;

#     
flush privileges;

ステップ5:MHAソフトウェアのインストール(すべてのサーバにMHA依存環境をインストールし、まずepelソースをインストールする)
#          
systemctl stop firewalld.service 
setenforce 0

#  MHA     
yum install epel-release --nogpgcheck -y
yum install -y perl-DBD-MySQL \
perl-Config-Tiny \
perl-Log-Dispatch \
perl-Parallel-ForkManager \
perl-ExtUtils-CBuilder \
perl-ExtUtils-MakeMaker \
perl-CPAN

#  node(         node)
tar zxvf /abc/rpm/MHA/mha4mysql-node-0.57.tar.gz
cd mha4mysql-node-0.57/
perl Makefile.PL
make && make install

ステップ6:MHA-managerにmanagerコンポーネントをインストールします(注意:nodeコンポーネントをインストールしてからmanagerコンポーネントをインストールすることができます)
tar zxvf /abc/rpm/MHA/mha4mysql-manager-0.57.tar.gz
cd mha4mysql-manager-0.57/
perl Makefile.PL 
make
make install

manager     /usr/local/bin        :

masterha_conf_host           
#        server  

masterha_stop                   
#  manager

masterha_manager            
#  manager  

masterha_check_repl         
#  mysql    

masterha_master_monitor 
#  master    

masterha_check_ssh          
#  MHA SSH    

masterha_master_switch    
#      (      )

masterha_check_status      
#    MHA    

node      /usr/local/bin        (       MHA Manager     ,       )

apply_diff_relay_logs             
#                         slave

filter_mysqlbinlog             
#      ROLLBACK  (MHA         )

purge_relay_logs            
#      (    SQL  )

save_binary_logs            
#     master      

ステップ7:パスワードなし検証の構成
(1)manager上ですべてのデータベースノードに構成されたパスワードレス認証
#        ,        
ssh-keygen -t rsa         
ssh-copy-id 192.168.142.130
ssh-copy-id 192.168.142.131
ssh-copy-id 192.168.142.132

(2)master上でデータベースノードslave 1とslave 2に構成されたパスワードなし検証
ssh-keygen -t rsa
ssh-copy-id 192.168.142.131
ssh-copy-id 192.168.142.132

(3)slave 1上でデータベースノードmasterとslave 2に構成されたパスワードレス認証
ssh-keygen -t rsa
ssh-copy-id 192.168.142.130
ssh-copy-id 192.168.142.132

(4)slave 2上でデータベースノードmasterとslave 1に構成されたパスワードレス認証
ssh-keygen -t rsa
ssh-copy-id 192.168.142.130
ssh-copy-id 192.168.142.131

ステップ8:MHAの構成
1.managerノードで/usr/local/binディレクトリに関連スクリプトをコピー
cp -ra /root/mha4mysql-manager-0.57/samples/scripts /usr/local/bin
#           

#      
ll /usr/local/bin/scripts/

-rwxr-xr-x. 1 1001 1001  3648 May 31  2015 master_ip_failover            #     VIP     
-rwxr-xr-x. 1 1001 1001  9870 May 31  2015 master_ip_online_change      #     VIP   
-rwxr-xr-x. 1 1001 1001 11867 May 31  2015 power_manager           #            
-rwxr-xr-x. 1 1001 1001  1360 May 31  2015 send_report             #             

2.上記の自動切替時のVIP管理スクリプトを/usr/local/binディレクトリにコピーし、ここではスクリプトを使用してVIPを管理する
cp /usr/local/bin/scripts/master_ip_failover /usr/local/bin

3.master_を書き直すip_failoverスクリプト:(既存のコンテンツを削除し、下記に直接書き込む)
vim /usr/local/bin/master_ip_failover 

#!/usr/bin/env perl
use strict;
use warnings FATAL => 'all';

use Getopt::Long;

my (
$command, $ssh_user, $orig_master_host, $orig_master_ip,
$orig_master_port, $new_master_host, $new_master_ip, $new_master_port
);

#      
my $vip = '192.168.142.200';
my $brdc = '192.168.142.255';
my $ifdev = 'ens33';
my $key = '1';
my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip";
my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down";
my $exit_code = 0;
#my $ssh_start_vip = "/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label $ifdev:$key;/usr/sbin/arping -q -A -c 1 -I $ifdev $vip;iptables -F;";
#my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
GetOptions(
'command=s' => \$command,
'ssh_user=s' => \$ssh_user,
'orig_master_host=s' => \$orig_master_host,
'orig_master_ip=s' => \$orig_master_ip,
'orig_master_port=i' => \$orig_master_port,
'new_master_host=s' => \$new_master_host,
'new_master_ip=s' => \$new_master_ip,
'new_master_port=i' => \$new_master_port,
);

exit &main();

sub main {

print "

IN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===

"; if ( $command eq "stop" || $command eq "stopssh" ) { my $exit_code = 1; eval { print "Disabling the VIP on old master: $orig_master_host
"; &stop_vip(); $exit_code = 0; }; if ($@) { warn "Got Error: $@
"; exit $exit_code; } exit $exit_code; } elsif ( $command eq "start" ) { my $exit_code = 10; eval { print "Enabling the VIP - $vip on the new master - $new_master_host
"; &start_vip(); $exit_code = 0; }; if ($@) { warn $@; exit $exit_code; } exit $exit_code; } elsif ( $command eq "status" ) { print "Checking the Status of the script.. OK
"; exit 0; } else { &usage(); exit 1; } } sub start_vip() { `ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`; } #A simple system call that disable the VIP on the old_master sub stop_vip() { `ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`; } sub usage { print "Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port
"; }

4.MHAソフトウェアディレクトリを作成し、プロファイルをコピーする
mkdir /etc/masterha
cp /root/mha4mysql-manager-0.57/samples/conf/app1.cnf /etc/masterha
vim /etc/masterha/app1.cnf 

[server default]
#manager    
manager_log=/var/log/masterha/app1/manager.log     

#manager  
manager_workdir=/var/log/masterha/app1

#master  binlog   ,       master    bilog   
master_binlog_dir=/usr/local/mysql/data

#    failover       。          
master_ip_failover_script=/usr/local/bin/master_ip_failover

#             
master_ip_online_change_script=/usr/local/bin/master_ip_online_change

#                   
password=manager
remote_workdir=/tmp

#        
repl_password=123

#         
repl_user=myslave

#              
reporl_script=/usr/local/send_report
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.45.130 -s 192.168.45.134

#              
shutdown_script=""

#  ssh      
ssh_user=root

#      
user=mha

[server1]
hostname=192.168.142.
port=3306

[server2]
candidate_master=1
check_repl_delay=0
hostname=192.168.142.
port=3306

[server3]
hostname=192.168.142.
port=3306

5.ssh無パスワード認証のテスト
masterha_check_ssh -conf=/etc/masterha/app1.cnf
masterha_check_repl -conf=/etc/masterha/app1.cnf

#  :        master       IP
/sbin/ifconfig ens33:1 192.168.142.200/24

6.MHAを起動する
nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &

7.MHAステータスを確認すると、現在のmasterがmysql 1ノードであることがわかります
masterha_check_status --conf=/etc/masterha/app1.cnf

8.MHAログを見ると、現在のmasterが192.168.142.1130であることもわかります.
cat /var/log/masterha/app1/manager.log 

ステップ9:障害シミュレーション
1、監視観察ログ記録の起動
tailf /var/log/masterha/app1/manager.log

2、住所の変化を見る
pkill -9 mysql        
#  mysql        

VIP      manager    MHA     ,VIP      slave1 

#      vip    
ifconfig

ens33: flags=4163  mtu 1500
        inet 192.168.142.131  netmask 255.255.255.0  broadcast 192.168.142.255
        inet6 fe80::b81a:9df:a960:45ac  prefixlen 64  scopeid 0x20
        ether 00:0c:29:97:8e:66  txqueuelen 1000  (Ethernet)
        RX packets 1687418  bytes 1157627305 (1.0 GiB)
        RX errors 0  dropped 0  overruns 0  frame 0
        TX packets 1376468  bytes 170996461 (163.0 MiB)
        TX errors 0  dropped 0 overruns 0  carrier 0  collisions 0

ens33:1: flags=4163  mtu 1500
        inet 192.168.142.200  netmask 255.255.255.0  broadcast 192.168.142.255
        ether 00:0c:29:97:8e:66  txqueuelen 1000  (Ethernet)

3、mha-managerで別の新しい端末を開き、直接yumにmysqlをインストールする
 yum install mysql -y

# slave1     ,   mha-manager          :
grant all on *.* to 'root'@'%' identified by 'abc123';

# mh-manager     :
 mysql -h 192.168.142.200 -uroot -p
Enter password:             
#    

(1)      school,     info,        

MySQL [(none)]> show databases;
+--------------------+
| Database           |
+--------------------+
| information_schema |
| mysql              |
| performance_schema |
| test               |
+--------------------+
4 rows in set (0.00 sec)

MySQL [(none)]> create database school;
Query OK, 1 row affected (0.00 sec)

MySQL [(none)]> use school;
Database changed
MySQL [school]> create table info (id int);
Query OK, 0 rows affected (0.01 sec)

(2)      slave1        ,     

mysql> show databases;
+--------------------+
| Database           |
+--------------------+
| information_schema |
| mysql              |
| performance_schema |
| school             |
| test               |
+--------------------+

(3)  slave1 slave2        ,   slave2        

mysql> show databases;
+--------------------+
| Database           |
+--------------------+
| information_schema |
| mysql              |
| performance_schema |
| school             |
| test               |
+--------------------+