Ganglia的配置，用于监测系统和Hadoop性能

一、介绍

Ganglia 监控套件包括三个主要部分：gmond，gmetad，和网页接口，通常被称为ganglia- web。

gmond 是一个守护进程，他运行在每一个需要监测的节点上，收集监测统计，发送和接受在同一个组播或单播通道上的统计信息。

gme tad 也是一个守护进程，他定期检查gmonds ，从那里拉取数据，并将他们的指标存储在RRD存储引擎中。它可以查询多个集群并聚合指标。RRD也被用于生成用户界面的web前端。

ganglia- web 顾名思义，他应该安装在有gmetad运行的机器上，以便读取RRD文件。

一般来说一个集群的每台机器上都需要安装gmond，只要负责展示web界面的机器安装了gmetad即可。

二、安装

1.apt-get install ganglia-monitor ganglia-webfrontend

弹出的对话框选择Yes即可

可以看到安装ganglia-webfrontend是包括gmetad和rrdtool等的。

2.链接到web服务器

安装ganglia-webfrontend的时候就已经安装了Apache Web Server，Ganglia-webfrontend默认安装的位置是/usr/share/ganglia-webfront，现在还不能通过浏览器访问Ganglia监控界面，需要执行以下命令将将ganglia的文件链接到apache的默认目录下。

ln -s /usr/share/ganglia-webfront /var/www/ganglia

3.复制 Ganglia webfrontend Apache 配置，使用下面的命令来正确的位置：

cp /etc/ganglia-webfrontend/apache.conf /etc/apache2/sites-enabled/ganglia.conf

三、配置

1.配置gmond.conf

作下面的变化：

/* If a cluster attribute is specified, then all gmond hosts are wrapped inside* of a tag. If you do not specify a cluster tag, then all will* NOT be wrapped inside of a tag. */cluster {name = "unspecified"owner = "unspecified"latlong = "unspecified"url = "unspecified"}

修改为：

cluster {name = "my cluster"//自己设置的集群名owner = "root"latlong = "unspecified"url = "unspecified"}

/* Feel free to specify as many udp_send_channels as you like. Gmondused to only support having a single channel */udp_send_channel {mcast_join = 239.2.11.71port = 8649ttl = 1}

修改为：

/* Feel free to specify as many udp_send_channels as you like. Gmondused to only support having a single channel */udp_send_channel {# mcast_join = 239.2.11.71//注释掉，多播host = 192.168.10.128//改为主机的IPport = 8649ttl = 1}

/* You can specify as many udp_recv_channels as you like as well. */udp_recv_channel {mcast_join = 239.2.11.71port = 8649bind = 239.2.11.71}

修改为：

/* You can specify as many udp_recv_channels as you like as well. */udp_recv_channel {# mcast_join = 239.2.11.71port = 8649#bind = 239.2.11.71}

2.配置gmetad.conf

Vim /etc/ganglia/gmetad.conf

data_source "my cluster" localhost

修改为：

data_source "my cluster" 192.168.10.128:8649

3.需要重启服务：

/etc/init.d/ganglia-monitor restart/etc/init.d/gmetad restart/etc/init.d/apache2 restart

如果遇到apache2 无法重启的情况

vim /etc/apache2/apache2.conf

最后加入一句 ServerName localhost:80即可。

4.现在你可以使用以下命令访问gnglia webinterface：

http://192.168.10.128/ganglia/

四、监测Hadoop集群性能

1.Master节点按上面的方法做，并在gmetad.conf中加入所有机器的IP地址。slave节点只需要安装ganglia-monitor并配置gmond.conf即可。

2.在所有机器上配置hadoop-metrics.properties

修改Hadoop的配置文件/etc/hadoop/hadoop-metrics.properties，根据文件中的说明，修改五处：

dfs.class=org.apache.hadoop.metrics.ganglia.GangliaContext31dfs.period=30dfs.servers=192.168.10.128:8649mapred.class=org.apache.hadoop.metrics.ganglia.GangliaContext31mapred.period=30mapred.servers=192.168.10.128:8649jvm.class=org.apache.hadoop.metrics.ganglia.GangliaContext31jvm.period=30jvm.servers=192.168.10.128:8649rpc.class=org.apache.hadoop.metrics.ganglia.GangliaContext31rpc.period=10rpc.servers=192.68.10.128:8649ugi.class=org.apache.hadoop.metrics.ganglia.GangliaContext31ugi.period=10ugi.servers=192.168.10.128:8649

3.在所有机器上配置hadoop-metrics2.properties

在最后加上

*.sink.ganglia.class=org.apache.hadoop.metrics2.sink.ganglia.GangliaSink31*.sink.ganglia.period=10*.sink.ganglia.slope=jvm.metrics.gcCount=zero,jvm.metrics.memHeapUsedM=both*.sink.ganglia.dmax=jvm.metrics.threadsBlocked=70,jvm.metrics.memHeapUsedM=40namenode.sink.ganglia.servers=192.168.10.128:8649resourcemanager.sink.ganglia.servers=192.168.10.128:8649datanode.sink.ganglia.servers=192.168.10.128:8649nodemanager.sink.ganglia.servers=192.168.10.128:8649maptask.sink.ganglia.servers=192.168.10.128:8649reducetask.sink.ganglia.servers=192.168.10.128:8649

（后六行根据自己Hadoop情况配置）

也可以在一台机器上配置后传到其他机器上。