# wget
#wget
#tar zxvf libnl-1.1.tar.gz
#cd libnl-1.1
#vi lib/route/link/vlan.c
在:
/** @cond SKIP */
#define VLAN_HAS_ID             (1<<0)
#define VLAN_HAS_FLAGS          (1<<1)
#define VLAN_HAS_INGRESS_QOS    (1<<2)
#define VLAN_HAS_EGRESS_QOS     (1<<3)
下添加如下内容:
#ifndef VLAN_FLAG_REORDER_HDR
#define VLAN_FLAG_REORDER_HDR 0x01
#endif
#sed -i "/^#include.*<stdlib.h>/a\#include <limits.h>" include/netlink-local.h &&
CC="gcc ${BUILD64}" ./configure --prefix=/usr \
    --libdir=/usr/lib64
#make
#make install
#chmod 755 /usr/lib64/libnl.so.1.1
 
#yum install ipvsadm
#ln -s /usr/src/kernels/2.6.18-308.el5-x86_64 /usr/src/linux
#tar zxvf keepalived-1.2.2.tar.gz
# cd keepalived-1.2.2
#./configure --sysconf=/etc
#make
#make install
遇到的错误:
make[2]: *** [ip_vs_nl_policy.o] Error 1
make[2]: Leaving directory `/root/keepalived-1.2.2/keepalived/libipvs-2.6'
make[1]: *** [all] Error 1
make[1]: Leaving directory `/root/keepalived-1.2.2/keepalived'
make: *** [all] Error 2
解决方法:
vi keepalived/libipvs-2.6/ip_vs.h
找到下面一行:
#include <linux/types.h> /* For __beXX types in userland */
把他放到下面一行的下面:
#include <sys/types.h>
我想我说明白了,这是最新版本的问题,如果用keepalived-1.2.1则不会出现这个问题了,我用的是keepalived-1.2.2宝贝
# ln -s /usr/local/sbin/keepalived /sbin/
 
--------------------------------------------------------------------------------------------------------------
配置文件讲解:
#全局定义部分
global_defs {
   notification_email {       #设置报警邮件地址,可以设置多个,每行一个。注意
       #开启邮件报警,需要开启本机的sendmail服务。
   }
   notification_email_from  #设置邮件的发送地址
   smtp_server 127.0.0.1 #设置smtp server地址
   smtp_connect_timeout 30 #设置连接smtp server的超时时间
   router_id LVS_1 #表示运行keepalived服务器的一个标识。发邮件时显示在邮件主题
}                               #中的信息
 
#vrrp实例定义部分:
vrrp_instance VI_1 {
    state MASTER #指定keepalived的角色,MASTER表示主机是主服务器,BACKUP表示备用服务器。
    interface eth0 #指定HA监测网略的接口
    virtual_router_id 51 #虚拟路由标识,这个标识是一个数字,同一个vrrp实例使用唯一的标识,即同一个vrrp_instance下,MASTER和BACKUP必须一致的。
    priority 100 #定义优先级,数字越大,优先级越高。在同一个vrrp_instance中,MASTER必须BACKUP大。
    advert_int 1 #设定MASTER和BACKUP负载均衡器之间同步检查的时间间隔,单位是秒。
    authentication { #设定验证类型和密码
        auth_type PASS #设置验证类型,主要有PASS和AH两种
        auth_pass 1111 # 设置验证密码,在同一个vrrp_instance下,MASTER和BACKUP必须使用相同的密码才能正常通信。
    }
    virtual_ipaddress { #设置虚拟IP地址,可以设置多个虚拟IP地址,每行一个
        192.168.2.88
        192.168.2.89
    }
}
 
#虚拟服务器定义部分:
virtual_server 192.168.2.88 80 { #设置虚拟服务器,需要指定虚拟IP地址和服务端口,IP与端口之间用空格隔开
    delay_loop 6 #设置运行情况检查时间,单位是秒
    lb_algo wlc #设置负载调度算法
    lb_kind DR #设置LVS实现负载均衡的机制
    nat_mask 255.255.255.0 
    protocol TCP #指定转发协议类型,有TCP和UDP两种。
    persistence_timeout 600 #会话保持时间,单位是秒。这个选项对动态网页是非常有用的,为集群系统中的session共享提供了一个很好的解决方案。有了这个会话保持功能,用户的 请求会被一直分发到某个服务节点,直到超过这个会话的保持时间。需要注意的是这个会话保持时间是最大无响应超时时间,也就是说也就是说,用户在操作动态页 面时,如果在600s内没有执行任何操作,那么接下来的操作会被分发到另外的节点,但是如果用户一直在操作动态页面,则不受600s的限制。
   
    real_server 192.168.2.80 80 { #配置服务节点1,需要指定real server的真实IP和端口
        weight 1 #服务节点的权重
        HTTP_GET { #Realserver的状态检测部分
            url {
              path /control/HappyIndex
              status_code 200 #Can only specify a HTTP status_code
            }
            connect_timeout 5
            nb_get_retry 3
            delay_before_retry 3
        }
    }
    real_server 192.168.2.81 80 { #配置服务节点2
        weight 1
        HTTP_GET {
            url {
              path /control/HappyIndex
              status_code 200
            }
            connect_timeout 5
            nb_get_retry 3
            delay_before_retry 3
        }
    }
}
##2car走另一个virtual server
virtual_server 192.168.2.89 80 {
    delay_loop 6
    lb_algo wlc
    lb_kind DR
    nat_mask 255.255.255.0
    protocol TCP
    persistence_timeout 600
    real_server 192.168.2.85 80 {
        weight 1
        HTTP_GET {
            url {
              path /control/HappyIndex
              status_code 200
            }
        connect_timeout 5
        nb_get_retry 3
        delay_before_retry 3
        }
    }
    real_server 192.168.2.203 80 {
        weight 1
        HTTP_GET {
            url {
              path /control/HappyIndex
              status_code 200
            }
        connect_timeout 5
        nb_get_retry 3
        delay_before_retry 3
        }
}
 
vrrp_instance VI_2 {
    state SLAVE
    interface eth0
    virtual_router_id 52
    priority 50
    advert_int 1
    authentication {
        auth_type PASS
        auth_pass 1111
    }
    virtual_ipaddress {
       192.168.2.90
    }
}
virtual_server 192.168.2.90 6666 {
    delay_loop 6
    lb_algo wlc
    lb_kind DR
    nat_mask 255.255.255.0
    protocol TCP
    persistence_timeout 600
   
    real_server 192.168.2.98 6666 {
        weight 1
        TCP_CHECK {
           connect_port 6666
           connect_timeout 5
        }
    }
    real_server 192.168.2.202 6666 {
        weight 1
        TCP_CHECK {
           connect_port 6666
           connect_timeout 5
        }
    }
}
virtual_server 192.168.2.90 8888 {
    delay_loop 6
    lb_algo wlc
    lb_kind DR
    nat_mask 255.255.255.0
    protocol TCP
    persistence_timeout 600
   
    real_server 192.168.2.98 8888 {
        weight 1
        TCP_CHECK {
           connect_port 8888
           connect_timeout 5
        }
    }
    real_server 192.168.2.202 8888 {
        weight 1
        TCP_CHECK {
           connect_port 8888
           connect_timeout 5
        }
    }
}
 
########################################################################
此keepalived为互相主备。
另一台DR配置,将其MASTER的配置文件拷贝过去,修改如下几项的值:
1:router_id  改为:LVS_2
2:vrrp VI_1中state 改为:BACKUP
             priority 改为:50
  vrrp VI_2中state 改为:MASTER
             priority 改为:100
#########################################################################
在LVS的DR和TUN模式下,用户的访问请求到达Real Server后,是直接返回给用户的,不再经过前段的Director Server,因此需要在每个Real Server上增加虚拟的VIP地址,这样数据才能直接返回给用户。增加VIP的方式可以通过脚本实现。创建文件/etc/init.d/lvsrs ,脚本内容如下:
# more /etc/init.d/lvsrs
#!/bin/bash
#description : Start Real Server
VIP=192.168.2.88
. /etc/rc.d/init.d/functions
case "$1" in
    start)
  echo " Start LVS of Real Server "
  /sbin/ifconfig lo:0 $VIP netmask 255.255.255.255 up
  echo "1" >/proc/sys/net/ipv4/conf/lo/arp_ignore
  echo "2" >/proc/sys/net/ipv4/conf/lo/arp_announce
  echo "1" >/proc/sys/net/ipv4/conf/all/arp_ignore
  echo "2" >/proc/sys/net/ipv4/conf/all/arp_announce
  ;;
    stop)
  /sbin/ifconfig lo:0 down
  echo "close LVS Director server"
  echo "0" >/proc/sys/net/ipv4/conf/lo/arp_ignore
  echo "0" >/proc/sys/net/ipv4/conf/lo/arp_announce
  echo "0" >/proc/sys/net/ipv4/conf/all/arp_ignore
  echo "0" >/proc/sys/net/ipv4/conf/all/arp_announce
  ;;
   *)
  echo "Usage: $0 {start|stop}"
  exit 1
esac
##其中需说明:VIP根据每台不同Real Server的VIP不同改变即可。
#########################################################################
启动Keepalived+LVS集群系统:
在主备Director Server上分贝启动Keepalived服务,执行如下:
#/etc/init.d/keepalived start
接着在各Real Server上执行:
#/etc/init.d/lvsrs start
####################################################################
看下最后的结果:
#ipvsadm
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
  -> RemoteAddress:Port           Forward Weight ActiveConn InActConn
TCP  192.168.2.88:http wlc persistent 600
  -> 192.168.2.81:http            Route   1      0          0        
  -> 192.168.2.80:http            Route   1      0          0        
TCP  192.168.2.89:http wlc persistent 600
  -> 192.168.2.203:http           Route   1      0          0        
  -> 192.168.2.85:http            Route   1      0          0        
TCP  192.168.2.90:6666 wlc persistent 600
  -> esx02.jiuxing.com:6666       Route   1      0          0        
  -> 192.168.2.98:6666            Route   1      0          0        
TCP  192.168.2.90:ddi-tcp-1 wlc persistent 600
  -> esx02.jiuxing.com:ddi-tcp-1  Route   1      0          0        
  -> 192.168.2.98:ddi-tcp-1       Route   1      0          0 
###################################################################