安装Ganglia监控Hadoop与HBase

ASP站长网在运维Hadoop的时候，经常会遇到一些性能问题。而性能问题，是无法简单通过web页面和log分析出来的。需要很多方面的指标。而Ganglia就是比较实用个监控工具之一。
 
部署Ganglia，百度一下，很多人已经分享很多。结合众人的经验。并加入自己安装过程中遇到的问题，整理出本文。
 
1. 准备了2台机器
 
Server
192.168.0.11(gmetad,web,gmond-master)
Client
192.168.0.12(gmond)
 
2. Server端需要安装的软件包
 
epel包的安装：yum install -y epel-release(解决不能yum安装某些安装包的问题)
gmetad的安装：yum install -y ganglia-gmetad ganglia-devel
gmond的安装：yum install -y ganglia-gmond ganglia-gmond-python
rrdtool的安装：yum install -y rrdtool rrdtool-devel
httpd服务器的安装：yum install -y httpd
ganglia-web及php安装：yum install -y ganglia-web php
其他依赖包的安装：yum install -y apr-devel zlib-devel libconfuse-devel expat-devel pcre-devel
3. 被监测节点需要安装的软件包
 
epel包的安装：yum install -y epel-release(解决不能yum安装某些安装包的问题)
gmond的安装：yum install -y ganglia-gmond ganglia-gmond-python
4. 安装目录说明
 
ganglia配置文件目录：/etc/ganglia
rrd数据库存放目录：/var/lib/ganglia/rrds
httpd主站点目录：/var/www/html
ganglia-web安装目录：/usr/share/ganglia
ganglia-web配置目录：/etc/httpd/conf.d/ganglia.conf
5. 关闭SELINUX
 
vi /etc/selinux/config
把SELINUX=enforcing改成SELINUX=disable；
需要重启机器。
 
6. 关闭防火墙
 
# chkconfig iptables off
# chkconfig iptables --list
iptables        0:off  1:off  2:off  3:off  4:off  5:off  6:off
 
7. 配置/etc/ganglia/gmetad.conf
 
修改data_source，改成：
 
data_source "testcluster” 192.168.0.11:8650 #gmetad采集数据的目标gmond地址和端口(tcp_accept_channel)
 
8. 配置gmond
 
/etc/ganglia/gmond.conf，修改以下内容(这个gmond节点作为收集节点，这个节点可以是多个，最后需要在gmetad.conf上进行配置)：
 
cluster {
name = "testcluster" #设置集群的名称
#owner = "unspecified"
latlong = "unspecified"
url = "unspecified"
}
#发送到目标gmond的地址和端口（单播）
udp_send_channel {
host=192.168.0.11
port = 8649
ttl = 1
}
#接收udp的端口
udp_recv_channel {
port = 8649
}
#gmetad如果过来收集数据请求的端口
tcp_accept_channel {
port = 8650
gzip_output = no
}
 
9. 配置web
 
软连接方式
 
>ln -s /usr/share/ganglia /var/www/ganglia
 
也可以将/usr/share/ganglia的内容直接复制到/var/www/ganglia
 
10. 修改/etc/httpd/conf.d/ganglia.conf，改成：
 
Alias /ganglia /usr/share/ganglia
<Location /ganglia>
Order deny,allow
Allow from all
</Location>
 
11. 启动服务
 
#service gmetad start
#service gmond start
#service httpd restart
 
至此，Ganglia的server端已经部署完成。
 
配置客户端：
 
12. 客户端只要配置gmond即可(需要先安装yum -y install ganglia-gmond ganglia-gmond-python)
 
/etc/ganglia/gmond.conf，修改以下内容(这个gmond节点作为收集节点，这个节点可以是多个，最后需要在gmetad.conf上进行配置)：
 
cluster {
name = "testcluster" #设置集群的名称
#owner = "unspecified"
latlong = "unspecified"
url = "unspecified"
}
#发送到目标gmond的地址和端口（单播）
udp_send_channel {
host=192.168.248.130
port = 8649
ttl = 1
}
#接收udp的端口
udp_recv_channel {
port = 8649
}
#gmetad如果过来收集数据请求的端口
tcp_accept_channel {
port = 8650
gzip_output = no
}
 
13. 配置HDFS、YARN集成Ganglia
 
修改hadoop-metrics2.properties
 
# for Ganglia 3.1 support
*.sink.ganglia.class=org.apache.hadoop.metrics2.sink.ganglia.GangliaSink31
*.sink.ganglia.period=10
# default for supportsparse is false
*.sink.ganglia.supportsparse=true
*.sink.ganglia.slope=jvm.metrics.gcCount=zero,jvm.metrics.memHeapUsedM=both
*.sink.ganglia.dmax=jvm.metrics.threadsBlocked=70,jvm.metrics.memHeapUsedM=40
namenode.sink.ganglia.servers=192.168.0.11:8649 # host请参考gmond.conf中的定义
datanode.sink.ganglia.servers=192.168.0.11:8649
resourcemanager.sink.ganglia.servers=192.168.0.11:8649
nodemanager.sink.ganglia.servers=192.168.0.11:8649
mrappmaster.sink.ganglia.servers=192.168.0.11:8649
jobhistoryserver.sink.ganglia.servers=192.168.0.11:8649