# wget
#wget
#tar zxvf libnl-1.1.tar.gz
#cd libnl-1.1
#vi lib/route/link/vlan.c
在:
/** @cond SKIP */ #define VLAN_HAS_ID (1<<0) #define VLAN_HAS_FLAGS (1<<1) #define VLAN_HAS_INGRESS_QOS (1<<2) #define VLAN_HAS_EGRESS_QOS (1<<3)
下添加如下内容:
#ifndef VLAN_FLAG_REORDER_HDR #define VLAN_FLAG_REORDER_HDR 0x01 #endif
#sed -i "/^#include.*<stdlib.h>/a\#include <limits.h>" include/netlink-local.h && CC="gcc ${BUILD64}" ./configure --prefix=/usr \ --libdir=/usr/lib64
#make
#make install
#chmod 755 /usr/lib64/libnl.so.1.1
#yum install ipvsadm
#ln -s /usr/src/kernels/2.6.18-308.el5-x86_64 /usr/src/linux
#tar zxvf keepalived-1.2.2.tar.gz
# cd keepalived-1.2.2
#./configure --sysconf=/etc
#make
#make install
遇到的错误:
make[2]: *** [ip_vs_nl_policy.o] Error 1 make[2]: Leaving directory `/root/keepalived-1.2.2/keepalived/libipvs-2.6' make[1]: *** [all] Error 1 make[1]: Leaving directory `/root/keepalived-1.2.2/keepalived' make: *** [all] Error 2
解决方法:
vi keepalived/libipvs-2.6/ip_vs.h 找到下面一行: #include <linux/types.h> /* For __beXX types in userland */ 把他放到下面一行的下面: #include <sys/types.h> 我想我说明白了,这是最新版本的问题,如果用keepalived-1.2.1则不会出现这个问题了,我用的是keepalived-1.2.2宝贝
# ln -s /usr/local/sbin/keepalived /sbin/
--------------------------------------------------------------------------------------------------------------
配置文件讲解:
#全局定义部分
global_defs { notification_email { #设置报警邮件地址,可以设置多个,每行一个。注意 #开启邮件报警,需要开启本机的sendmail服务。 } notification_email_from #设置邮件的发送地址 smtp_server 127.0.0.1 #设置smtp server地址 smtp_connect_timeout 30 #设置连接smtp server的超时时间 router_id LVS_1 #表示运行keepalived服务器的一个标识。发邮件时显示在邮件主题 } #中的信息
#vrrp实例定义部分:
vrrp_instance VI_1 { state MASTER #指定keepalived的角色,MASTER表示主机是主服务器,BACKUP表示备用服务器。 interface eth0 #指定HA监测网略的接口 virtual_router_id 51 #虚拟路由标识,这个标识是一个数字,同一个vrrp实例使用唯一的标识,即同一个vrrp_instance下,MASTER和BACKUP必须一致的。 priority 100 #定义优先级,数字越大,优先级越高。在同一个vrrp_instance中,MASTER必须BACKUP大。 advert_int 1 #设定MASTER和BACKUP负载均衡器之间同步检查的时间间隔,单位是秒。 authentication { #设定验证类型和密码 auth_type PASS #设置验证类型,主要有PASS和AH两种 auth_pass 1111 # 设置验证密码,在同一个vrrp_instance下,MASTER和BACKUP必须使用相同的密码才能正常通信。 } virtual_ipaddress { #设置虚拟IP地址,可以设置多个虚拟IP地址,每行一个 192.168.2.88 192.168.2.89 } }
#虚拟服务器定义部分:
virtual_server 192.168.2.88 80 { #设置虚拟服务器,需要指定虚拟IP地址和服务端口,IP与端口之间用空格隔开 delay_loop 6 #设置运行情况检查时间,单位是秒 lb_algo wlc #设置负载调度算法 lb_kind DR #设置LVS实现负载均衡的机制 nat_mask 255.255.255.0 protocol TCP #指定转发协议类型,有TCP和UDP两种。 persistence_timeout 600 #会话保持时间,单位是秒。这个选项对动态网页是非常有用的,为集群系统中的session共享提供了一个很好的解决方案。有了这个会话保持功能,用户的 请求会被一直分发到某个服务节点,直到超过这个会话的保持时间。需要注意的是这个会话保持时间是最大无响应超时时间,也就是说也就是说,用户在操作动态页 面时,如果在600s内没有执行任何操作,那么接下来的操作会被分发到另外的节点,但是如果用户一直在操作动态页面,则不受600s的限制。
real_server 192.168.2.80 80 { #配置服务节点1,需要指定real server的真实IP和端口 weight 1 #服务节点的权重 HTTP_GET { #Realserver的状态检测部分 url { path /control/HappyIndex status_code 200 #Can only specify a HTTP status_code } connect_timeout 5 nb_get_retry 3 delay_before_retry 3 } } real_server 192.168.2.81 80 { #配置服务节点2 weight 1 HTTP_GET { url { path /control/HappyIndex status_code 200 } connect_timeout 5 nb_get_retry 3 delay_before_retry 3 } } }
##2car走另一个virtual server
virtual_server 192.168.2.89 80 { delay_loop 6 lb_algo wlc lb_kind DR nat_mask 255.255.255.0 protocol TCP persistence_timeout 600 real_server 192.168.2.85 80 { weight 1 HTTP_GET { url { path /control/HappyIndex status_code 200 } connect_timeout 5 nb_get_retry 3 delay_before_retry 3 } } real_server 192.168.2.203 80 { weight 1 HTTP_GET { url { path /control/HappyIndex status_code 200 } connect_timeout 5 nb_get_retry 3 delay_before_retry 3 } }
vrrp_instance VI_2 { state SLAVE interface eth0 virtual_router_id 52 priority 50 advert_int 1 authentication { auth_type PASS auth_pass 1111 } virtual_ipaddress { 192.168.2.90 } } virtual_server 192.168.2.90 6666 { delay_loop 6 lb_algo wlc lb_kind DR nat_mask 255.255.255.0 protocol TCP persistence_timeout 600 real_server 192.168.2.98 6666 { weight 1 TCP_CHECK { connect_port 6666 connect_timeout 5 } } real_server 192.168.2.202 6666 { weight 1 TCP_CHECK { connect_port 6666 connect_timeout 5 } } } virtual_server 192.168.2.90 8888 { delay_loop 6 lb_algo wlc lb_kind DR nat_mask 255.255.255.0 protocol TCP persistence_timeout 600 real_server 192.168.2.98 8888 { weight 1 TCP_CHECK { connect_port 8888 connect_timeout 5 } } real_server 192.168.2.202 8888 { weight 1 TCP_CHECK { connect_port 8888 connect_timeout 5 } } }
########################################################################
此keepalived为互相主备。
另一台DR配置,将其MASTER的配置文件拷贝过去,修改如下几项的值:
1:router_id 改为:LVS_2
2:vrrp VI_1中state 改为:BACKUP
priority 改为:50
vrrp VI_2中state 改为:MASTER
priority 改为:100
#########################################################################
在LVS的DR和TUN模式下,用户的访问请求到达Real Server后,是直接返回给用户的,不再经过前段的Director Server,因此需要在每个Real Server上增加虚拟的VIP地址,这样数据才能直接返回给用户。增加VIP的方式可以通过脚本实现。创建文件/etc/init.d/lvsrs ,脚本内容如下:
# more /etc/init.d/lvsrs
#!/bin/bash #description : Start Real Server VIP=192.168.2.88 . /etc/rc.d/init.d/functions case "$1" in start) echo " Start LVS of Real Server " /sbin/ifconfig lo:0 $VIP netmask 255.255.255.255 up echo "1" >/proc/sys/net/ipv4/conf/lo/arp_ignore echo "2" >/proc/sys/net/ipv4/conf/lo/arp_announce echo "1" >/proc/sys/net/ipv4/conf/all/arp_ignore echo "2" >/proc/sys/net/ipv4/conf/all/arp_announce ;; stop) /sbin/ifconfig lo:0 down echo "close LVS Director server" echo "0" >/proc/sys/net/ipv4/conf/lo/arp_ignore echo "0" >/proc/sys/net/ipv4/conf/lo/arp_announce echo "0" >/proc/sys/net/ipv4/conf/all/arp_ignore echo "0" >/proc/sys/net/ipv4/conf/all/arp_announce ;; *) echo "Usage: $0 {start|stop}" exit 1 esac
##其中需说明:VIP根据每台不同Real Server的VIP不同改变即可。
#########################################################################
启动Keepalived+LVS集群系统:
在主备Director Server上分贝启动Keepalived服务,执行如下:
#/etc/init.d/keepalived start
接着在各Real Server上执行:
#/etc/init.d/lvsrs start
####################################################################
看下最后的结果:
#ipvsadm
IP Virtual Server version 1.2.1 (size=4096) Prot LocalAddress:Port Scheduler Flags -> RemoteAddress:Port Forward Weight ActiveConn InActConn TCP 192.168.2.88:http wlc persistent 600 -> 192.168.2.81:http Route 1 0 0 -> 192.168.2.80:http Route 1 0 0 TCP 192.168.2.89:http wlc persistent 600 -> 192.168.2.203:http Route 1 0 0 -> 192.168.2.85:http Route 1 0 0 TCP 192.168.2.90:6666 wlc persistent 600 -> esx02.jiuxing.com:6666 Route 1 0 0 -> 192.168.2.98:6666 Route 1 0 0 TCP 192.168.2.90:ddi-tcp-1 wlc persistent 600 -> esx02.jiuxing.com:ddi-tcp-1 Route 1 0 0 -> 192.168.2.98:ddi-tcp-1 Route 1 0 0
###################################################################