你的位置:首页 > 数据库

[数据库]mysql高可用之LVS + KEEPALIVE + MYSQL

1.架构图

 

 

注意

(一)   Mysql需要把bind-address的配置去掉,否则无法实现虚拟ip访问

(二)   关闭所有linux防火墙:/sbin/iptables –F(可能没用)

(三)   重启networking:sudo /etc/init.d/networking restart(可能没用)

 

 

2. 架构

Mysql:

master<=slave

10.24.6.5:3306(system   !System)<=10.24.6.6:3306(system          !System) 

LB

10.24.6.4 Master

10.24.6.7 BACKUP

VIP:

10.24.6.2

 

 

3.LVS负载均衡配置

3.1. Lvs模块检测

Ipvs 具体实现是由ipvsadm 这个程序来完成,因此判断一个系统是否具备ipvs 功能,只需要察看ipvsadm 程序是否被安装。察看ipvsadm 程序最简单的办法就是在任意路径执行命令ipvsadm。表6-1 为安装ipvsadm 及未安装ipvsadm 的输出对比。

 

执行 ipvsadm 后的输出

未安装ipvsadm

bash: /sbin/ipvsadm: 没有那个文件或目录

安装ipvsadm

IP Virtual Server version 1.2.1 (size=4096)

Prot LocalAddress:Port Scheduler Flags

  ->RemoteAddress:Port           Forward Weight ActiveConn InActConn

 

表6-1 ipvsadm 输出对比


 

 

a)         通过系统命令比较简单:apt-get install ipvsadm

b)        检验ipvsadm 是否被正确安装

                                    i.              执行ipvsadm,看是否有表6-1 第2 栏的输出。

                                  ii.              检查当前加载的内核模块,看是否存在ip_vs 模块。

 

modprobe -l |grep ipvs 

或lsmod | grep ip_vs

 

Ubuntu9.10已经用了2.6的内核,所以不需要再编译内核了

 

 

 

3.2.配置

LVS默认不需要配置

 

4.KeepAlived高可用配置

4.1. 安装

 

 

 

4.2. MASTER配置(/etc/keepalived/keepalived.conf)

global_defs {

    router_id HaMySQL_1

}

vrrp_instance VI_MYSQL {

    state MASTER

    interface eth0

    virtual_router_id 51

    priority 100

    advert_int 1

    authentication {

        auth_type PASS

        auth_pass 1111

    }

    virtual_ipaddress {

        10.24.6.2

    }

}

virtual_server 10.24.6.2 3306 {

    delay_loop 6

    lb_algo wrr

    lb_kind DR

    persistence_timeout 60

    protocol TCP

    real_server 10.24.6.5 3306 {

        weight 3

        TCP_CHECK {

        connect_timeout 3

        nb_get_retry 3

        delay_before_retry 3

        connect_port 3306

        }

    }

    real_server 10.24.6.6 3306 {

        weight 3

        TCP_CHECK {

        connect_timeout 3

        nb_get_retry 3

        delay_before_retry 3

        connect_port 3306

        }

}

}

4.3. SLAVE配置(/etc/keepalived/keepalived.conf)

global_defs {

    router_id HaMySQL_1

}

vrrp_instance VI_MYSQL {

    state BACKUP

    interface eth0

    virtual_router_id 51

    priority 50

    advert_int 1

    authentication {

        auth_type PASS

        auth_pass 1111

    }

    virtual_ipaddress {

        10.24.6.2

    }

}

virtual_server 10.24.6.2 3306 {

    delay_loop 6

    lb_algo wrr

    lb_kind DR

    persistence_timeout 60

    protocol TCP

    real_server 10.24.6.5 3306 {

        weight 3

        TCP_CHECK {

        connect_timeout 3

        nb_get_retry 3

        delay_before_retry 3

        connect_port 3306

        }

    }

    real_server 10.24.6.6 3306 {

        weight 3

        TCP_CHECK {

        connect_timeout 3

        nb_get_retry 3

        delay_before_retry 3

        connect_port 3306

        }

    }

}

 

 

4.4. 日志

Ubuntu下面是/var/log/syslog

All daemon messages are logged through the Linux syslog. If you start Keepalived with the “dump

configuration data” option, you should see in your /var/log/messages (on Debian this may be

/var/log/daemon.log depending on your syslog configuration) something like this :

 

 

4.5. 负载均衡服务的启用和验证

Lvs 客户端的启用和验证在前面的有过详细的说明,此处略过。前面我们也提过,keepalived 启动过程不会检查配置文件的语法,因此在启动keepalived 以前,需要人工对/etc/keepalived/keepalived.conf 文件做全面的语法检查。一个比较容易犯的错误就是把花括号“}”写漏了,不成对!当lvs 客户端都正常启动并且配置文件经检查无误后(当然有错误也无妨,随时可以修改嘛!),执行命令 /usr/local/keepalived/sbin/keepalived –D ,然后我们查看系统进程,看是否是3 个keepalived 进程。如果配置文件的路径不是/etc/keepalived/keepalived.conf 则需要在启动时用选项-f 指定。

最能反映keepalived 启动情况的地方当属系统日志。手动执行启动操作后,使用命令 tail –f /var/log/syslog 滚动查看输出,就能详细了解其运行情况。图6-3 为某个lvs 环境的keepalived 启动输出:

另外一个反映keepalived 正常运行状态的地方是网络接口vip 的启用。通过执行ip add 即可看见vip 已经被绑定在制定的网络接口(注意:ifconfig 不能显示 vip)。需要注意的是,BACKUP 的vip 暂时不绑定。如下图所示:

4.6. Vip验证

Master

 

Slave

 

4.7. IPVSADM验证

Master

 

Clave

 

 

4.8. 测试验证

 

实体mysql

 

 

Vip mysql

 

 

 

4.9. 高可用测试结果

LB:

10.24.6.4 Master关闭以后,10.24.6.7 BACKUP启用接管

MYSQL:

10.24.6.5:3306

10.24.6.6:3306

任意一个mysql异常之后,可连接到其他mysql

 

 

 

5. 遇到问题

5.1. Mysql连接不上(错误码111)分析

1.Mysql连接vip

 

2.Mysql连接vip的抓包情况

 

通过抓包可知,10.24.6.2:3306是可以连上的,它有回包,只不过回包的状态为R

 

3.TCP连接出现RST的情况分析:

  @1端口未打开

  @2请求超时

  @3提前关闭

  @4在一个已关闭的socket上收到数据

4.在结合mysql返回值为111可以知道应该是mysql服务提前关闭了,

Google了下mysql111的解决办法:

QT链接Mysql的时候出现QSqlError(2003, "QMYSQL: Unable to connect", "Can't connect to MySQL server on '172.18.186.244' (111)")错误,google之后发现是mysql为了安全,对hostname进行了绑定。

解决办法:修改/etc/mysql/my.cnf(不同Linux发行版位置可能不同,我用的是Ubuntu 11.04,windows是my.ini文件),里面有一句:bind-address = 127.0.0.1用#注释掉,重启mysql服务就OK了。

原文地址:http://stackoverflow.com/questions/1420839/cant-connect-to-mysql-server-error-111

5. 解决方案(去掉bind-address):

修改在10.24.6.5的mysql配置:

 

 

修改在10.24.6.6的mysql配置:

 


6. 总结

  • 主mysql和从mysql可以同时存在服务
  • Keepalive从可用的服务列表里面选择一个服务访问
  • 主mysql和从mysql随机选择
  • 适合做负载均衡,主从备份
  • share nothing架构