 |
|
heartbeat 를 이용하여 고가용성(High Availability ) 서비스 구현하기
글쓴이 : 문태준 (2003년 01월 07일 오후 05:14) 읽은수: 11,763 [ 파일 시스템   ]
|
==================================================================
heartbeat 를 이용하여 고가용성(High Availability ) 서비스 구현하기
==================================================================
작성일 : 2003. 1. 7
작성자 : 문태준 (http://tunelinux.pe.kr http://database.sarang.net)
==================================================================
0. 들어가며
고가용성이란 하나의 노드에 문제가 생긴 경우 다른 노드에서 서비스나 기능을 대신 제공하는 것을 말한다. 예를 들어 방화벽이 한대만 있을 경우 방화벽 서버에서 문제가 생긴 경우에는 그 뒤에 있는 모든 서비스가 중지될 수 있다. 또한 Linux Virtual Server(LVS)를 이용하여 로드밸런싱을 하는 경우 앞단의 로드밸런서에 문제가 생기면 실제 서버에는 문제가 없다고 하더라도 모든 서비스가 중단된다. 이런 경우를 위하여 가용성을 높이기 위한 시스템 구성이 필요한 것이다. 공개소스로서 이러한 기능을 구현하고 있는 것이 High-Availability Linux Project 이다. LVS를 이용하여 여러대의 서버를 이용하여 부하분산을 한다면 heartbeat 등의 프로그램을 이용하여 로드밸런서를 active-standby 형태로 구성하는 것이다.
http://www.linux-ha.org/
이 프로젝트를 이용하여 고가용성의 서비스를 세팅하는 방법에 대하여 설명한다.
환경은 다음과 같다고 가정한다.
가상 ip : 10.10.120.61
node 1 : 10.10.120.62 (primary)
node 2 : 10.10.120.63 (backup)
구성 서비스 : httpd (웹서비스)
외부에서는 10.10.120.61(가상ip) 로 인터넷 접속을 하면 primary로 연결이 된다. 만약 primary에 문제가 생기면 backup 에서 fake라는 프로그램을 이용하여 가상 ip를 설정하여 웹서비스를 대치하게 되고 primary가 정상으로 돌아오면 다시 primary에서 가상 ip를 가져간다.
웹설정은 미리 되어있다고 가정을 하겠다.
1. heatbeat 설치
www.linux-ha.org 에서 소스나 rpm을 다운받는다.
http://www.linux-ha.org/download/
여기서 heartbeat package를 보면 소스, RPM, SRPM으로 되어있다.
heartbeat-0.4.9.2-tar.gz
heartbeat-0.4.9.2-1.i386.rpm
heartbeat-stonith-0.4.9.2-1.i386.rpm
heartbeat-ldirectord-0.4.9.2-1.i386.rpm
heartbeat-0.4.9.2-1.src.rpm
# tar xvfz heartbeat-0.4.9.2-tar.gz
# cd heartbeat-0.4.9.2
# make install
소스에서 make install을 하면 컴파일과 함께 자동으로 설치가 된다. 설치는 간편한 편이다. make rpm 을 하면 rpm과 소스 rpm을 생성한다(레드햇의 경우 /usr/src/redhat 디렉토리) rpm은 세가지로 구성되며 heartbeat-stonith 프로그램의 경우는 ucd-snmp 패키지를 필요로 한다. 물론 위에서 rpm을 받아 설치할 수도 있다.
위에서 heartbeat 패키지말고 나머지 두가지 패키지는 아래의 내용을 참고한다. stonith 모듈은 아직 정확하게 무엇을 하는 것인지 모르겠고 ldirectord는 리얼 서버의 각 서비스를 모니터링하는 대몬 프로그램이다.
# rpm -qpi heartbeat-stonith-0.4.9.2-1.i386.rpm
The STONITH module (a.k.a. STOMITH) provides an extensible interface
for remotely powering down a node in the cluster. The idea is quite simple:
When the software running on one machine wants to make sure another
machine in the cluster is not using a resource, pull the plug on the other
machine. It's simple and reliable, albeit admittedly brutal.
# rpm -qpi heartbeat-ldirectord-0.4.9.2-1.i386.rpm
ldirectord is a stand-alone daemon to monitor services of real
for virtual services provided by The Linux Virtual Server
(http://www.linuxvirtualserver.org/). It is simple to install
and works with the heartbeat code (http://www.linux-ha.org/).
2. heartbeat 설정
heartbeat 프로그램은 세가지 설정파일을 사용한다. 소스의 doc 디렉토리에 있는 예제 파일을 복사하여 수정해서 사용하면 된다.
cp 소스디렉토리/doc/ha.cf /etc/ha.d/
cp 소스디렉토리/doc/haresources /etc/ha.d/
cp 소스디렉토리/doc/authkey /etc/ha.d/
ha.cf는 primary/backup 서버간에 필요한 기본 설정파일이며 haresources 는 노드간에 공유할 자원과 스크립트를 지정한다. authkeys는 노드간의 인증방법을 지정한다. 아래에서는 필요한 몇가지만 알아보겠다. 두대의 노드에 똑같이 설정을 하면 된다.
- ha.cf
keepalive 2 -> 두노드간에 얼마나 자주 heartbeat를 주고받을 것인가. 2초
deadtime 10 -> 호스트가 죽었다가 판단하는 시간. 10초가 지나면 failover를 시작한다.
udpport 694 -> UPD heartbeat 패킷을 보낼 포트
udp eth0 -> heartbeat를 보낼 인터페이스
node linux1 -> node는 클러스터로 묶일 시스템을 지정한다.
node linux2
만약 serial 케이블을 이용하는 경우에는 아래의 설정또한 필요하다. 여기서는 eth0을 통하여 694 udp 포트로 primary와 backup간에 2초에 한번씩 heartbeat 신호를 주고받고 만약 10초동안 반응이 없다면 backup으로 서비스를 넘긴다고 설정한 것이다.
serial /dev/ttyS0
node에서는 이름이 정확해야 하는데 uname -n 명령을 이용하여 나온 이름을 이용하면 된다.
위에서는 eth0을 이용하였지만 성능을 생각하면 별도의 이더넷 인터페이스를 더 장착하고 별도의 네트워크를 할당하여 서비스하는 쪽과 트래픽을 분리시키는 것이 좋을 것이다.
- haresources
클러스터간에 공유할 자원을 지정한다. 여기에서 위의 10.10.120.61이라는 가상 IP를 지정하고 클러스터의 자원과 관련한 스크립트가 들어간다. 여기서는 아파치 스크립터가 될 것이다. 여기서 가상 ip(10.10.120.61)는 절대로 다른 서버의 ip로 사용하면 안된다. 두대의 노드간에 가상 ip를 이용하여 서비스를 수행하기 때문이다.
linux1 10.10.120.61 httpd
node-name resource1 resource2 ... resourceN 형태로 구성이 된다. linux1이 지정되어 있으면 linux1 노드가 primary 노드라는 것을 의미하며 backup(linux2)에도 동일하게 설정을 해야 한다.(linux2 10.10.120.61 httpd 이런 형태로 하지 말라는 것이다)
- authkeys
노드간의 인증방법을 지정하며 세가지 인증 알고리즘이 있는데 crc<md5<sha1 순으로 보안에 강하지만 더 많은 프로세스 파워를 요구한다.
auth <number>
<number> <authmethod> [<authkey>]
이와 같은 형태로 구성을 한다. 아래는 md5를 이용하였다.
auth 1
1 md5 Hello!
authkeys를 설정하고나서 반드시 chmod 600 authkeys 를 실행해야 한다. 보안문제때문에 root만이 읽을 수 있어야 한다.
# cat ha.cf
logfacility local0
keepalive 2
deadtime 5
initdead 60
udpport 694
udp eth0
node linux1
node linux2
# cat haresources
linux1 10.10.120.61 httpd
# cat authkeys
auth 1
1 md5 Hello!
3. heartbeat 가동하기
haresources 에서 지정한 httpd 라는 스크립트를 /etc/ha.d/resource.d 디렉토리에 두어야 한다. 관리상의 편의를 위하여 /etc/rc.d/init.d/(redhat), /etc/init.d/httpd를 심볼릭 링크하면 편리할 것이다.
# ln -s /etc/rc.d/init.d/httpd /etc/ha.d/resource.d/httpd
두대의 노드에 위와 같은 설정을 동일하게 한다. 그러고나서 heartbeat 프로그램을 실행한다.
# /etc/rc.d/init.d/heartbeat start
가급적 primary 먼저 실행하고나서 backup을 실행하는 것이 좋을 것이다.
ha.cf 파일에서 별도의 로그파일을 지정하지 않았다면 /var/log/messages 파일에 로그가 남는다. 프로그램을 실행하고 중지해보면서 로그를 관찰하여보자. 그리고 primary 노드의 네트웍을 내리거나 heartbeat 프로그램을 내려서 backup으로 서비스가 넘어가는지 확인하여 본다. 이또한 로그를 보면 관련 기록이 남는다.
다음은 linux1에서 관찰한 로그이다.
# /etc/rc.d/init.d/heartbeat stop
Jan 6 23:33:23 linux1 heartbeat[3744]: info: Heartbeat shutdown in progress. (3744)
Jan 6 23:33:23 linux1 heartbeat[4262]: info: Giving up all HA resources.
Jan 6 23:33:23 linux1 heartbeat: info: Releasing resource group: linux1 10.10.120.61 httpd
Jan 6 23:33:23 linux1 heartbeat: info: Running /etc/ha.d/resource.d/httpd stop
Jan 6 23:33:26 linux1 httpd: httpd shutdown succeeded
Jan 6 23:33:26 linux1 heartbeat: info: Running /etc/ha.d/resource.d/IPaddr 10.10.120.61 stop
Jan 6 23:33:27 linux1 heartbeat: info: IP Address 10.10.120.61 released
Jan 6 23:33:27 linux1 heartbeat[4262]: info: All HA resources relinquished.
Jan 6 23:33:28 linux1 heartbeat[3741]: info: Heartbeat shutdown complete.
# /etc/rc.d/init.d/heartbeat start
Jan 6 23:34:50 linux1 heartbeat[4422]: info: **************************
Jan 6 23:34:50 linux1 heartbeat[4422]: info: Configuration validated. Starting heartbeat 0.4.9.2
Jan 6 23:34:50 linux1 heartbeat[4423]: info: heartbeat: version 0.4.9.2
Jan 6 23:34:50 linux1 heartbeat[4423]: info: Heartbeat generation: 10
Jan 6 23:34:50 linux1 heartbeat[4423]: notice: UDP heartbeat started on port 694 interface eth0
Jan 6 23:34:50 linux1 heartbeat[4427]: info: Local status now set to: 'up'
Jan 6 23:34:50 linux1 heartbeat[4427]: info: Heartbeat restart on node linux1
Jan 6 23:34:50 linux1 heartbeat[4427]: info: Link linux1:eth0 up.
Jan 6 23:34:50 linux1 heartbeat: info: Running /etc/ha.d/rc.d/ifstat ifstat
Jan 6 23:34:52 linux1 heartbeat[4427]: info: Local status now set to: 'active'
Jan 6 23:34:52 linux1 heartbeat[4427]: info: Heartbeat restart on node linux2
Jan 6 23:34:52 linux1 heartbeat[4427]: info: Link linux2:eth0 up.
Jan 6 23:34:52 linux1 heartbeat[4427]: info: Node linux2: status active
Jan 6 23:34:52 linux1 heartbeat: info: Running /etc/ha.d/rc.d/status status
Jan 6 23:34:52 linux1 heartbeat: info: Running /etc/ha.d/rc.d/ifstat ifstat
Jan 6 23:34:52 linux1 heartbeat: info: Running /etc/ha.d/resource.d/IPaddr 10.10.120.61 status
Jan 6 23:34:53 linux1 heartbeat[4433]: info: Resource acquisition completed.
Jan 6 23:34:53 linux1 heartbeat: info: Running /etc/ha.d/rc.d/ip-request ip-request
Jan 6 23:34:56 linux1 heartbeat: info: Running /etc/ha.d/rc.d/ip-request-resp ip-request-resp
Jan 6 23:34:56 linux1 heartbeat: received ip-request-resp 10.10.120.61 OK
Jan 6 23:34:56 linux1 heartbeat: info: Acquiring resource group: linux1 10.10.120.61 httpd
Jan 6 23:34:56 linux1 heartbeat: info: Running /etc/ha.d/resource.d/IPaddr 10.10.120.61 start
Jan 6 23:34:57 linux1 heartbeat: info: ifconfig eth0:0 10.10.120.61 netmask 255.255.0.0^Ibroadcast 10.10.255.255
Jan 6 23:34:57 linux1 heartbeat: info: Sending Gratuitous Arp for 10.10.120.61 on eth0:0 [eth0]
Jan 6 23:34:57 linux1 heartbeat: info: Running /etc/ha.d/resource.d/httpd start
Jan 6 23:34:59 linux1 httpd: httpd startup succeeded
Jan 6 23:35:03 linux1 heartbeat: info: Running /etc/ha.d/resource.d/IPaddr 10.10.120.61 status
다음은 linux1에서 network를 내렸을 경우 linux2의 로그 기록이다.
Jan 6 23:38:29 linux2 heartbeat[2372]: WARN: node linux1: is dead
Jan 6 23:38:29 linux2 heartbeat[2372]: info: Link linux1:eth0 dead.
Jan 6 23:38:30 linux2 heartbeat: info: Running /etc/ha.d/rc.d/ifstat ifstat
Jan 6 23:38:30 linux2 heartbeat: info: Running /etc/ha.d/rc.d/status status
Jan 6 23:38:30 linux2 heartbeat: info: Taking over resource group 10.10.120.61
Jan 6 23:38:30 linux2 heartbeat: info: Acquiring resource group: linux1 10.10.120.61 httpd
Jan 6 23:38:30 linux2 heartbeat: info: Running /etc/ha.d/resource.d/IPaddr 10.10.120.61 start
Jan 6 23:38:31 linux2 heartbeat: info: ifconfig eth0:0 10.10.120.61 netmask 255.255.0.0^Ibroadcast 10.10.255.255
Jan 6 23:38:31 linux2 heartbeat: info: Sending Gratuitous Arp for 10.10.120.61 on eth0:0 [eth0]
Jan 6 23:38:31 linux2 heartbeat: info: Running /etc/ha.d/resource.d/httpd start
Jan 6 23:38:32 linux2 httpd: httpd startup succeeded
Jan 6 23:38:32 linux2 heartbeat: info: mach_down takeover complete.
생각보다는 간단하게 설정을 할 수 있다.
4. 참고자료
소스밑의 doc디렉토리에 몇가지 문서가 있다. GettingStarted.html 을 가장 먼저 읽어보면 된다. 위 세가지 설정파일에 대하여 자세한 사용방법이 나온다. 다른 html 파일도 읽어보면 도움이 될 것이다.
High-Availability Linux Project
http://www.linux-ha.org/
Linux Virtual Server Project
http://www.linuxvirtualserver.org
고가용성 LDAP 구축하기
http://www-1.ibm.com/servers/esdd/articles/linux_clust/index.html
High-Availability File Server with heartbeat
http://www.samag.com/documents/s=1146/sam0109c/0109c.htm
위의 두가지 내용은 실제 예를 들고 있으므로 많은 참고가 될 것이다.
High Availability Firewall on Linux for iSeries
http://tunelinux.pe.kr/zboard/view.php?id=info&no=5
IBM의 자료인데 출처를 모르겠다. 찾다가 포기했다.
LVS 관련하여서는 2000년도에 번역하였던 내용이 http://tunelinux.pe.kr/virtual/에 있다. 큰틀의 내용은 변함이 없지만 관련자료나 링크등은 많이 보강이 되었으므로 참고하길 바란다.
관련 링크
|
|
< 산술확장에서 놓치기 쉬운부분 | CVS 에서 SSH 이용 및 리모트시스템에서 각 계정별로 관리되도록 하는 방법. >
|
|
|
Login
|
현재 접속중인 등록 사용자는 0명, 익명 사용자는 25명 입니다.
전체 등록 사용자: 1,666명
|
|
|
분류 : 파일 시스템
|
최근글
가장 많이 읽은 글
- 레드햇 9.0에서 Apache2, MySQL4, PHP4, Tomcat5 연동하기[7] (13)
뜨거운 감자
- 레드햇 9.0에서 Apache2, MySQL4, PHP4, Tomcat5 연동하기[7] (13)
|
|
|
