本章介紹了分布式環(huán)境中Hadoop多節(jié)點(diǎn)集群的設(shè)置。

由于整個(gè)集群無(wú)法演示，我們將使用三個(gè)系統(tǒng)（一個(gè)主節(jié)點(diǎn)和兩個(gè)從節(jié)點(diǎn)）解釋Hadoop集群環(huán)境;下面給出他們的IP地址。

• Hadoop Master：192.168.1.15（hadoop-master）
• Hadoop Slave：192.168.1.16（hadoop-slave-1）
• Hadoop Slave：192.168.1.17（hadoop-slave-2）

按照以下步驟進(jìn)行Hadoop多節(jié)點(diǎn)群集設(shè)置。

安裝Java

Java是Hadoop的主要先決條件。首先，您應(yīng)該使用“java -version”驗(yàn)證系統(tǒng)中是否存在java。 java版本命令的語(yǔ)法如下。

$ java -version

如果一切正常，它會(huì)給你以下輸出。

java version "1.7.0_71" 
Java(TM) SE Runtime Environment (build 1.7.0_71-b13) 
Java HotSpot(TM) Client VM (build 25.0-b02, mixed mode)

如果系統(tǒng)中沒(méi)有安裝java，請(qǐng)按照給定的步驟安裝java。

步驟1

通過(guò)訪問(wèn)以下鏈接下載java（JDK - X64.tar.gz）http://www.oracle.com/technetwork/java/javase/downloads/jdk7-downloads-1880260.html

然后 jdk-7u71-linux-x64.tar.gz 將下載到您的系統(tǒng)。

第2步

通常你會(huì)在下載文件夾中找到下載的java文件。使用以下命令驗(yàn)證它并解壓縮jdk-7u71-linux-x64.gz文件。

$ cd Downloads/
$ ls
jdk-7u71-Linux-x64.gz
$ tar zxf jdk-7u71-Linux-x64.gz
$ ls
jdk1.7.0_71 jdk-7u71-Linux-x64.gz

第3步

要使java可用于所有用戶(hù)，您必須將其移動(dòng)到位置“/ usr / local /”。打開(kāi)根目錄，然后鍵入以下命令。

$ su
password:
# mv jdk1.7.0_71 /usr/local/
# exit

第4步

要設(shè)置PATH和JAVA_HOME變量，請(qǐng)將以下命令添加到?/.bashrc文件。

export JAVA_HOME=/usr/local/jdk1.7.0_71
export PATH=PATH:$JAVA_HOME/bin

現(xiàn)在如上所述從終端驗(yàn)證java -version命令。按照上述過(guò)程并在所有集群節(jié)點(diǎn)中安裝java。

創(chuàng)建用戶(hù)帳戶(hù)

在主系統(tǒng)和從系統(tǒng)上創(chuàng)建系統(tǒng)用戶(hù)帳戶(hù)以使用Hadoop安裝。

# useradd hadoop 
# passwd hadoop

映射節(jié)點(diǎn)

您必須在所有節(jié)點(diǎn)上的/ etc / folder中編輯hosts文件，指定每個(gè)系統(tǒng)的IP地址，后跟其主機(jī)名。

# vi /etc/hosts
enter the following lines in the /etc/hosts file.
192.168.1.109 hadoop-master 
192.168.1.145 hadoop-slave-1 
192.168.56.1 hadoop-slave-2

配置基于Key的登錄

在每個(gè)節(jié)點(diǎn)中設(shè)置ssh，以便它們可以彼此通信，而不需要提示輸入密碼。

# su hadoop 
$ ssh-keygen -t rsa 
$ ssh-copy-id -i ~/.ssh/id_rsa.pub tutorialspoint@hadoop-master 
$ ssh-copy-id -i ~/.ssh/id_rsa.pub hadoop_tp1@hadoop-slave-1 
$ ssh-copy-id -i ~/.ssh/id_rsa.pub hadoop_tp2@hadoop-slave-2 
$ chmod 0600 ~/.ssh/authorized_keys 
$ exit

Hadoop安裝

在主服務(wù)器中，使用以下命令下載并安裝Hadoop。

# mkdir /opt/hadoop 
# cd /opt/hadoop/ 
# wget http://apache.mesi.com.ar/hadoop/common/hadoop-1.2.1/hadoop-1.2.0.tar.gz 
# tar -xzf hadoop-1.2.0.tar.gz 
# mv hadoop-1.2.0 hadoop
# chown -R hadoop /opt/hadoop 
# cd /opt/hadoop/hadoop/

Hadoop配置

您必須通過(guò)進(jìn)行以下更改來(lái)配置Hadoop服務(wù)器。

core-site.xml

打開(kāi)core-site.xml文件并進(jìn)行編輯，如下所示。

<configuration>
   <property> 
      <name>fs.default.name</name> 
      <value>hdfs://hadoop-master:9000/</value> 
   </property> 
   <property> 
      <name>dfs.permissions</name> 
      <value>false</value> 
   </property> 
</configuration>

hdfs-site.xml

打開(kāi)hdfs-site.xml文件并進(jìn)行編輯，如下所示。

<configuration>
   <property> 
      <name>dfs.data.dir</name> 
      <value>/opt/hadoop/hadoop/dfs/name/data</value> 
      <final>true</final> 
   </property> 

   <property> 
      <name>dfs.name.dir</name> 
      <value>/opt/hadoop/hadoop/dfs/name</value> 
      <final>true</final> 
   </property> 

   <property> 
      <name>dfs.replication</name> 
      <value>1</value> 
   </property> 
</configuration>

mapred-site.xml中

打開(kāi)mapred-site.xml文件并進(jìn)行編輯，如下所示。

<configuration>
   <property> 
      <name>mapred.job.tracker</name> 
      <value>hadoop-master:9001</value> 
   </property> 
</configuration>

hadoop-env.sh

打開(kāi)hadoop-env.sh文件并編輯JAVA_HOME，HADOOP_CONF_DIR和HADOOP_OPTS，如下所示。

注意：根據(jù)系統(tǒng)配置設(shè)置JAVA_HOME。

export JAVA_HOME=/opt/jdk1.7.0_17 export HADOOP_OPTS=-Djava.net.preferIPv4Stack=true export HADOOP_CONF_DIR=/opt/hadoop/hadoop/conf

在從屬服務(wù)器 Slave上安裝Hadoop

按照給定的命令在所有從屬服務(wù)器 Slave上安裝Hadoop。

# su hadoop 
$ cd /opt/hadoop 
$ scp -r hadoop hadoop-slave-1:/opt/hadoop 
$ scp -r hadoop hadoop-slave-2:/opt/hadoop

在主服務(wù)器上配置Hadoop

打開(kāi)主服務(wù)器并按照給定的命令配置它。

# su hadoop 
$ cd /opt/hadoop/hadoop

配置主節(jié)點(diǎn)

$ vi etc/hadoop/masters
hadoop-master

配置從節(jié)點(diǎn)

$ vi etc/hadoop/slaves
hadoop-slave-1 
hadoop-slave-2

格式命名Hadoop Master上的節(jié)點(diǎn)

# su hadoop 
$ cd /opt/hadoop/hadoop 
$ bin/hadoop namenode –format

11/10/14 10:58:07 INFO namenode.NameNode: STARTUP_MSG: /************************************************************ 
STARTUP_MSG: Starting NameNode 
STARTUP_MSG: host = hadoop-master/192.168.1.109 
STARTUP_MSG: args = [-format] 
STARTUP_MSG: version = 1.2.0 
STARTUP_MSG: build = https://svn.apache.org/repos/asf/hadoop/common/branches/branch-1.2 -r 1479473; compiled by 'hortonfo' on Mon May 6 06:59:37 UTC 2013 
STARTUP_MSG: java = 1.7.0_71 ************************************************************/ 11/10/14 10:58:08 INFO util.GSet: Computing capacity for map BlocksMap editlog=/opt/hadoop/hadoop/dfs/name/current/edits
………………………………………………….
………………………………………………….
…………………………………………………. 11/10/14 10:58:08 INFO common.Storage: Storage directory /opt/hadoop/hadoop/dfs/name has been successfully formatted. 11/10/14 10:58:08 INFO namenode.NameNode: 
SHUTDOWN_MSG: /************************************************************ SHUTDOWN_MSG: Shutting down NameNode at hadoop-master/192.168.1.15 ************************************************************/

啟動(dòng)Hadoop服務(wù)

以下命令用于啟動(dòng)Hadoop-Master上的所有Hadoop服務(wù)。

$ cd $HADOOP_HOME/sbin
$ start-all.sh

在Hadoop集群中添加新的DataNode

下面給出了將新節(jié)點(diǎn)添加到Hadoop集群時(shí)需要遵循的步驟。

網(wǎng)絡(luò)配置

通過(guò)一些適當(dāng)?shù)木W(wǎng)絡(luò)配置向現(xiàn)有Hadoop集群添加新節(jié)點(diǎn)。假設(shè)以下網(wǎng)絡(luò)配置。

對(duì)于新節(jié)點(diǎn)配置：

IP address : 192.168.1.103 
netmask : 255.255.255.0
hostname : slave3.in

添加用戶(hù)和SSH訪問(wèn)

添加用戶(hù)

在新節(jié)點(diǎn)上，通過(guò)使用以下命令將“hadoop”用戶(hù)和Hadoop用戶(hù)的密碼添加到“hadoop123”或任何您想要的密碼。

useradd hadoop
passwd hadoop

設(shè)置從主機(jī)到新從屬機(jī)的密碼關(guān)聯(lián)性低。

在主站上執(zhí)行以下操作

mkdir -p $HOME/.ssh 
chmod 700 $HOME/.ssh 
ssh-keygen -t rsa -P '' -f $HOME/.ssh/id_rsa 
cat $HOME/.ssh/id_rsa.pub >> $HOME/.ssh/authorized_keys 
chmod 644 $HOME/.ssh/authorized_keys
Copy the public key to new slave node in hadoop user $HOME directory
scp $HOME/.ssh/id_rsa.pub hadoop@192.168.1.103:/home/hadoop/

在從站上執(zhí)行以下操作

登錄到hadoop。如果沒(méi)有，登錄到hadoop用戶(hù)。

su hadoop ssh -X hadoop@192.168.1.103

將公共密鑰的內(nèi)容復(fù)制到文件“$ HOME / .ssh / authorized_keys”中，然后通過(guò)執(zhí)行以下命令更改其權(quán)限。

cd $HOME
mkdir -p $HOME/.ssh 
chmod 700 $HOME/.ssh
cat id_rsa.pub >>$HOME/.ssh/authorized_keys 
chmod 644 $HOME/.ssh/authorized_keys

檢查主機(jī)的ssh登錄。現(xiàn)在檢查是否可以ssh到新節(jié)點(diǎn)沒(méi)有主密碼。

ssh hadoop@192.168.1.103 or hadoop@slave3

設(shè)置新節(jié)點(diǎn)的主機(jī)名

您可以在文件/etc /sysconfig /network中設(shè)置主機(jī)名

On new slave3 machine
NETWORKING=yes 
HOSTNAME=slave3.in

要使更改生效，請(qǐng)重新啟動(dòng)計(jì)算機(jī)或運(yùn)行hostname命令到具有相應(yīng)主機(jī)名的新計(jì)算機(jī)（重新啟動(dòng)是一個(gè)好的選項(xiàng)）。

在slave3節(jié)點(diǎn)機(jī)器上：

主機(jī)名 slave3.in

使用以下行在集群的所有計(jì)算機(jī)上更新/etc/hosts：

192.168.1.102 slave3.in slave3

現(xiàn)在嘗試用主機(jī)名ping機(jī)器，以檢查它是否正在解析到IP。

在新節(jié)點(diǎn)機(jī)器上：

ping master.in

在新節(jié)點(diǎn)上啟動(dòng)DataNode

使用$HADOOP_HOME / bin / hadoop-daemon.sh script手動(dòng)啟動(dòng)datanode守護(hù)程序。它將自動(dòng)聯(lián)系主節(jié)點(diǎn)（NameNode）并加入集群。我們還應(yīng)該將新節(jié)點(diǎn)添加到主服務(wù)器中的conf / slaves文件?；谀_本的命令將識(shí)別新節(jié)點(diǎn)。

登錄新節(jié)點(diǎn)

su hadoop or ssh -X hadoop@192.168.1.103

使用以下命令在新添加的從屬節(jié)點(diǎn)上啟動(dòng)HDFS

./bin/hadoop-daemon.sh start datanode

在新節(jié)點(diǎn)上檢查jps命令的輸出。它看起來(lái)如下。

$ jps
7141 DataNode
10312 Jps

從Hadoop集群中刪除DataNode

我們可以在運(yùn)行時(shí)從群集中刪除節(jié)點(diǎn)，而不會(huì)有任何數(shù)據(jù)丟失。 HDFS提供了一個(gè)停用功能，確保安全地執(zhí)行刪除節(jié)點(diǎn)。要使用它，請(qǐng)按照下面的步驟：

第1步：登錄master

登錄到安裝了Hadoop的主機(jī)用戶(hù)。

$ su hadoop

第2步：更改集群配置

必須在啟動(dòng)集群之前配置排除文件。將名為dfs.hosts.exclude的鍵添加到我們的$HADOOP_HOME/etc/hadoop/hdfs-site.xml文件中。與此鍵相關(guān)的值提供了NameNode本地文件系統(tǒng)上文件的完整路徑，該文件包含不允許連接到HDFS的計(jì)算機(jī)列表。

例如，將這些行添加到etc/hadoop/hdfs-site.xml文件。

<property> 
   <name>dfs.hosts.exclude</name> 
   <value>/home/hadoop/hadoop-1.2.1/hdfs_exclude.txt</value> 
   <description>DFS exclude</description> 
</property>

第3步：確定要停用的主機(jī)

要停用的每臺(tái)計(jì)算機(jī)都應(yīng)添加到由hdfs_exclude.txt標(biāo)識(shí)的文件中，每行一個(gè)域名。這將阻止他們連接到NameNode。如果要?jiǎng)h除DataNode2，“/home/hadoop/hadoop-1.2.1/hdfs_exclude.txt”文件的內(nèi)容如下所示。

slave2.in

第4步：步驟4：強(qiáng)制配置重新加載

運(yùn)行命令“$ HADOOP_HOME/bin/hadoop dfsadmin -refreshNodes”，不帶引號(hào)。

$ $HADOOP_HOME/bin/hadoop dfsadmin -refreshNodes

這將強(qiáng)制NameNode重新讀取其配置，包括新更新的“excludes”文件。它將在一段時(shí)間內(nèi)停止節(jié)點(diǎn)，從而允許將每個(gè)節(jié)點(diǎn)的塊的時(shí)間復(fù)制到被調(diào)度為保持活動(dòng)的機(jī)器上。

在slave2.in上，檢查jps命令輸出。一段時(shí)間后，您將看到DataNode進(jìn)程被自動(dòng)關(guān)閉。

第5步：關(guān)閉節(jié)點(diǎn)

在停用過(guò)程完成后，停用的硬件可以安全關(guān)閉進(jìn)行維護(hù)。運(yùn)行report命令dfsadmin以檢查停用的狀態(tài)。以下命令將描述退役節(jié)點(diǎn)和連接到集群的節(jié)點(diǎn)的狀態(tài)。

$ $HADOOP_HOME/bin/hadoop dfsadmin -report

第6步：編輯再次排除文件

一旦計(jì)算機(jī)已停用，它們可以從“excludees”文件中刪除。再次運(yùn)行“$ HADOOP_HOME / bin / hadoop dfsadmin -refreshNodes”會(huì)將excludees文件讀回NameNode;允許DataNodes在維護(hù)完成后重新加入群集，或者在群集中再次需要額外的容量等。

特別注意：如果遵循上述過(guò)程，并且tasktracker進(jìn)程仍在節(jié)點(diǎn)上運(yùn)行，則需要關(guān)閉它。一種方法是斷開(kāi)機(jī)器，就像我們?cè)谏厦娴牟襟E。

tasktracker可以在任何時(shí)間點(diǎn)通過(guò)以下命令即時(shí)運(yùn)行/關(guān)閉。Master將自動(dòng)識(shí)別過(guò)程，并宣布為死亡。沒(méi)有必要遵循相同的過(guò)程來(lái)刪除tasktracker，因?yàn)樗cDataNode相比并不重要。DataNode包含要安全刪除的數(shù)據(jù)，而不會(huì)有任何數(shù)據(jù)丟失。

tasktracker可以在任何時(shí)間點(diǎn)通過(guò)以下命令即時(shí)運(yùn)行/關(guān)閉。

$ $HADOOP_HOME/bin/hadoop-daemon.sh stop tasktracker $HADOOP_HOME/bin/hadoop-daemon.sh start tasktracker