CentOS6.5环境使用keepalived实现nginx服务的高可用性及配置详解

keepalived基础概念
   Keepalived是一个基于VRRP协议来实现的WEB服务高可用方案,可以利用其来避免单点故障。一个WEB服务至少会有2台服务器运行Keepalived,一台为主服务器(MASTER),一台为备份服务器(BACKUP),但是对外表现为一个虚拟IP,主服务器会发送特定的消息给备份服务器,当备份服务器收不到这个消息的时候,即主服务器宕机的时候,备份服务器就会接管虚拟IP,继续提供服务,从而保证了高可用性。


   keepalived最初的诞生就是为ipvs提供高可用性的,它可以自己调用ipvs来生成规则,并且可以自动实现把用户设定好的ip地址转移动别的节点上去的,还可以实现后端服务器的健康状态检测,说白了就是对vrrp的实现而已,那vrrp是什么呢:它叫虚拟冗余路由协议;vrrp可以把两个网关虚拟成一个网关来使用,当一个网关不可以用了,另一个会取而代之,keepalived其实就是linux操作系统上实现vrrp的,keepalived就是这样来实现vip地址转移的,也是实现的地址的高可用性;


   在VRRP协议中,有两组重要的概念:VRRP路由器和虚拟路由器,主控路由器和备份路由器。 VRRP路由器是指运行VRRP的路由器,是物理实体,虚拟路由器是指VRRP协议创建的,是逻辑概念。一组VRRP路由器协同工作,共同构成一台虚拟路由器。该虚拟路由器对外表现为一个具有唯一固定IP地址和MAC地址的逻辑路由器。处于同一个VRRP组中的路由器具有两种互斥的角色:主控路由器和备份路由器,一个VRRP组中有且只有一台处于主控角色的路由器,可以有一个或者多个处于备份角色的路由器。VRRP协议使用选择策略从路由器组中选出一台作为主控,负责ARP相应和转发IP数据包,组中的其它路由器作为备份的角色处于待命状态。当由于某种原因主控路由器发生故障时,备份路由器能在几秒钟的时延后升级为主路由器。由于此切换非常迅速而且不用改变IP地址和MAC地址,故对终端使用者系统是透明的。


keepalived的核心组成:
   1、vrrp(Virtual Redundancy Router Protocol)的实现,虚拟冗余路由协议,它可以把两个或多个网关虚拟成一个网关来使用,就是在两个或多个路由之前用一种协协议,让两个或多个路由通过选举不决定哪个是活动的路由,当活动的不再提供服务了,另一个将取而代之.
   2、virtual server虚拟服务器
   3、vrrp_script


keepalived配置文件分为三段:
   第一段:Global configuration全局配置段;
       Global definitions    全局定义;
       Static route    静态路由;


   第二段:VRRP configuration配置段;
       VRRP synchronization groups同步组,假如在一个节点上配置两个IP要把VIP同时转移出去,也就是说这两个VIP要同步工作,定义成一个组,而后当也一个资源来转移;
       VRRP instances实例,定义虚拟路由器的;要实现虚拟路由转移时要转移IP地址;


   第三段:LVS configuration配置段;
       virtual server groups,虚拟路由服务器组,把多个路由定义在一起同时使用;
       virtual servers虚拟服务器,一般都是单独定义的;

环境准备:

CentOS6.5环境使用keepalived实现nginx服务的高可用性及配置详解

ansible server:192.168.8.40
node2.chinasoft.com:192.168.8.39
node4.chinasoft.com:192.168.8.42


在ansible服务器中定义keepalived组
# vim /etc/ansible/hosts
[keepalived]
node2.chinasoft.com
node4.chinasoft.com


在两个节点node2和node4上安装nginx软件:
# ansible keepalived -m yum -a "name=nginx state=present"


编辑默认主页,将Welcome信息改为各自节点的hostname:
# vim /usr/share/nginx/html/index.html


keepalived的实现过程:

第一步:安装配置keepalived程序


# ansible keepalived -m yum -a "name=keepalived state=present"

# cd /etc/keepalived/
# vim keepalived.conf
! Configuration File for keepalived
global_defs {   #全局定义
   notification_email {     #定义邮件通知
     [email protected]     #定义收件人,一行一个,有多少个就可以写多少行
   }
   notification_email_from [email protected]    #以什么人的身份发邮件,就是发件人
   smtp_server 127.0.0.1    #指定发邮件的服务器
   smtp_connect_timeout 30  #连接邮件服务器超时时长
   router_id LVS_DEVEL      #路由ID
}
vrrp_script chk_mantaince_down {    #手动定义检测机制
    #判断/etc/keepalived/这个路径下是否存在down文件,如果存在即退出为1,否则退出为0
    script "[[ -f /etc/keepalived/down ]] && exit 1 || exit 0"
    interval 1  #每隔多久发送一次检测信息,单位为秒
    weight -6   #如果上面的判断有down文件即权后重-6,只要减后的权重大于master的就可以
}
vrrp_instance VI_1 {    #定义vrrp实例
    state MASTER        #定义该节点为主节点,一个节点定义了master,另一台或其实的就要定义成backup;
    interface eth0      #通告经过哪个接口进行
    virtual_router_id 88#虚拟路由ID号,不能大于255的
    priority 100        #定义初始优先级,定义主的优先级要高于BACKUP的
    advert_int 1        #通告几个
    authentication {    #定义认证
        auth_type PASS  #定义认证机制,pass是明文认证
        auth_pass 1111  #认证密码
    }
    virtual_ipaddress { #虚拟地址,VIP地址
        192.168.8.77   #可以定义得很详细,<IPADDR>/<MASK> brd <IPADDR> dev <STRING> scope <SCOPE> label <LABEL>,可以用man keepalived.conf查看相关的详细说明的;
    }
    track_script {  #在vrrp实现中要追踪到上面定义的检测脚本
        chk_haproxy
        chk_mantaince_down  #调用上面定义好的检测
    }
    # 调用编写好的通知脚本
    notify_master "/etc/keepalived/notify.sh master"
    notify_backup "/etc/keepalived/notify.sh backup"
    notify_fault "/etc/keepalived/notify.sh fault"
}




将配置文件发送一份到node4中,并修改vrrp_instance VI_1 部分的
state 为BACKUP
priority 优先级为 99

# scp keepalived.conf node4.chinasoft.com:/etc/keepalived/


vrrp_instance VI_1 {    #定义vrrp实例
    state BACKUP        #定义该节点为主节点,一个节点定义了master,另一台或其实的就要定义成backup;
    interface eth0      #通告经过哪个接口进行
    virtual_router_id 88#虚拟路由ID号,不能大于255的
    priority 99        #定义初始优先级,定义主的优先级要高于BACKUP的
    advert_int 1        #通告几个

CentOS6.5环境使用keepalived实现nginx服务的高可用性及配置详解

重启keepalived服务
# ansible keepalived -a "service keepalived restart"
可以看到VIP虚拟地址被node2MASTER获取,在node2的/etc/keepalived目录下创建文件down,可以看到虚拟IP就转移到了node4上
将node2中的down文件删除可以看到VIP又回到了node2MASTER中,访问http://192.168.8.77虚拟IP可以看到nginx服务在node2上

CentOS6.5环境使用keepalived实现nginx服务的高可用性及配置详解

CentOS6.5环境使用keepalived实现nginx服务的高可用性及配置详解

CentOS6.5环境使用keepalived实现nginx服务的高可用性及配置详解

第二步:编写通告脚本

node2和node4都需要编写,当某一节点发生VIP地址转移时就会发邮件通知管理员,在/etc/keepalived/目录下创建一个脚本文件,然后再在脚本文件中调用这个脚本就可以了,上面配置文件中已经有调用脚本内容了:

# vim /etc/keepalived/notify.sh

#!/bin/bash
# Author:Tanxw.com <[email protected]>
# Description: An example of notify script
#
vip=192.168.8.77   # 定义VIP地址
contact='[email protected]'    # 这定义收件人
# 获取当前主机的IP地址
currentIP=`ifconfig eth0 | awk '/inet addr/{print $2}' | awk -F: '{print $2}'`
notify() {  # 定义通告方法
    # 定义一个发件的主体内容
    mailbody="`date '+%F %H:%M:%S'`: vrrp transition, `hostname`($currentIP) changed to be $1"
    # 定义发件的主题
    mailsubject="$currentIP to be $1: $vip floating"
    # 用mail命令把邮件发送出去
    echo $mailbody | mail -s "$mailsubject" $contact
}
case "$1" in    # 判断传进来的三个参数是什么,调用notify方法
    master)
        notify master
        exit 0;;
    backup)
        notify backup
        exit 0;;
    fault)
        notify fault
        exit 0;;
    *)
        echo "Usage: `basename $0` {master|backup|fault}"
        exit 1;;
esac


第三步:配置LVS的集群服务

把下面代码加入到各节点的/etc/keepalived/keepalived.conf配置文件中即可,默认的配置文件中也有示例:

virtual_server 192.168.8.77 80 {   # 定义一个虚拟服务 VIP PORT
    delay_loop 6    # 大概延迟几个周期再去做服务检测的
    lb_algo rr      # 定义调度方法
    lb_kind DR      # LVS的模型,NET也可以
    nat_mask 255.255.255.0        # 掩码
    persistence_timeout 0       # 持久时间
    protocol TCP                # 协议,默认也是TCP
    real_server 192.168.8.39 80 {    # 定义真正的real_server   ip port
        weight 1        # 定义权重
        HTTP_GET {      # 请求方法
            url {       # 声明检测哪个URL
              path /
              status_code 200
            }
            connect_timeout 3   # 连接超时时间
            nb_get_retry 3      # 至少尝试几次
            delay_before_retry 3# 在每次尝试时要等上几秒钟
        }
    }
    real_server 192.168.8.42 80 {    # 定义真正的real_server   ip port
        weight 1        # 定义权重
        HTTP_GET {      # 请求方法
            url {       # 声明检测哪个URL
              path /
              status_code 200
            }
            connect_timeout 3   # 连接超时时间
            nb_get_retry 3      # 至少尝试几次
            delay_before_retry 3# 在每次尝试时要等上几秒钟
        }
    }
}




在各节点上安装ipvsadm工具
# ansible keepalived -m yum -a "name=ipvsadm state=present"
通过ipvsadm命令可以看到集群节点已经启动了
即使没安装有ipvsadm,只要配置有keepalived的lvs,启动服务后就会自动生成LVS规则,但是如果没安装有ipvsadm就查看不了规则了

# ipvsadm -L -n
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
  -> RemoteAddress:Port           Forward Weight ActiveConn InActConn
[[email protected] keepalived]# ipvsadm -L -n
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
  -> RemoteAddress:Port           Forward Weight ActiveConn InActConn
TCP  192.168.8.77:80 rr
  -> 192.168.8.39:80              Local   1      0          0         
  -> 192.168.8.42:80              Route   1      0          0         
[[email protected] keepalived]# ip addr
1: lo: <LOOPBACK,UP,LOWER_UP> mtu 16436 qdisc noqueue state UNKNOWN 
    link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
    inet 127.0.0.1/8 scope host lo
    inet6 ::1/128 scope host 
       valid_lft forever preferred_lft forever
2: eth0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
    link/ether 00:0c:29:55:2e:82 brd ff:ff:ff:ff:ff:ff
    inet 192.168.8.39/24 brd 192.168.8.255 scope global eth0
    inet 192.168.8.77/32 scope global eth0
    inet6 fe80::20c:29ff:fe55:2e82/64 scope link 
       valid_lft forever preferred_lft forever


CentOS6.5环境使用keepalived实现nginx服务的高可用性及配置详解

第四步:两个节点都配置有MASTER/BACKUP

定义两个实例,一个定义为MASTER,另一个定义为BACKUP就可以了,分别配置不同的VIP,node2上配置了MASTER的VIP为192.168.8.77,BACKUP的VIP为192.168.8.78;node4为上配置了MASTER的VIP为192.168.8.78,BACKUP的VIP为192.168.8.77。



# 这段代码在node2的节点上加,同样加为vrrp实例就可以了
vrrp_instance VI_2 {
    state BACKUP
    interface eth0
    virtual_router_id 33
    priority 99
    advert_int 1
    authentication {
        auth_type PASS
        auth_pass 1111
    }
    virtual_ipaddress {
        192.168.8.78
    }
    track_script {
        chk_mantaince_down
#       chk_nginx
    }
    notify_master "/etc/keepalived/notify.sh master"
    notify_backup "/etc/keepalived/notify.sh backup"
    notify_fault "/etc/keepalived/notify.sh fault"
}
# 下面这段代码加到node4节点的配置文件上就可以了,就是需要改一个master和权重
vrrp_instance VI_2 {
    state MASTER
    interface eth0
    virtual_router_id 33
    priority 100
    advert_int 1
    authentication {
        auth_type PASS
        auth_pass 1111
    }
    virtual_ipaddress {
        192.168.8.78
    }
    track_script {
        chk_mantaince_down
#       chk_nginx
    }
    notify_master "/etc/keepalived/notify.sh master"
    notify_backup "/etc/keepalived/notify.sh backup"
    notify_fault "/etc/keepalived/notify.sh fault"
}


再次重启keepalived服务
# ansible keepalived -a "service keepalived restart"


CentOS6.5环境使用keepalived实现nginx服务的高可用性及配置详解

CentOS6.5环境使用keepalived实现nginx服务的高可用性及配置详解

CentOS6.5环境使用keepalived实现nginx服务的高可用性及配置详解


结束:
   keepalived的vrrp的大概实现出来了,不管是LVS还是高可用VIP地址的自动转移,还是服务的高用,都需要认真的配置好,更有需要写好很多的脚本,服务才会更高效,更高可用。

;

Popular Programs