【Hadoop】Hadoop 2.9.2 HA取付

63064 ワード

Hadoop

文書ディレクトリ

一、準備

二、変更構成

三、配布

四、起動

環境:Ubuntu 16.04
Hadoopバージョン:2.9.2

一、準備

1.1、すべてのノード修正/etc/hosts

192.168.11.72 master
192.168.11.73 node1
192.168.11.74 node2
192.168.11.75 node3
192.168.11.76 node4

1.2、すべてのノードにJDKをインストールする
1.対応するjdkバージョンのダウンロード
2./usr/local/libに解凍し、tar-zxvf jdk-xxx.tar.gz -C/usr/local/lib
3.システム環境変数を設定し、/etc/profileファイルを編集し、ファイルの末尾に以下のように追加します.

export JAVA_HOME=/usr/local/lib/jdk1.8.0_181
export JRE_HOME=$JAVA_HOME/jre
export CLASSPATH=.:$CLASSPATH:$JAVA_HOME/lib:$JRE_HOME/lib
export PATH=$PATH:$JAVA_HOME/bin:$JRE_HOME/bin

4.source/etc/profileコマンドは、さっき設定した情報を有効にします.
5.java-versionが正常にインストールされたかどうかを確認する
1.3、口座の作成

sudo useradd -m bigdata -s /bin/bash //    
sudo passwd bigdata  //    
sudo  adduser bigdata sudo   //sudo

1.4、秘密保護ssh

#  master 
sudo apt-get install openssh-server
ssh-keygen -t rsa         
cat $HOME/.ssh/id_rsa.pub >> $HOME/.ssh/authorized_keys

scp $HOME/.ssh/id_rsa.pub  [email protected]:.ssh/
scp $HOME/.ssh/id_rsa.pub  [email protected]:.ssh/

#  node1,node2 
cat $HOME/.ssh/id_rsa.pub >> $HOME/.ssh/authorized_keys

二、構成の変更

ダウンロードhadoop-2.9.2.tar.gz、解凍、構成の変更:
hadoop/etc/hadoop/hadoop-env.sh

vi $HADOOP_HOME/etc/hadoop/hadoop-env.sh

export JAVA_HOME=/usr/local/lib/jdk1.8.0_181

EXport JAVA_をHOME=${JAVA_HOME}正しいパスに変更
hadoop/etc/hadoop/core-site.xml

<configuration>
    <property>
        <name>fs.defaultFSname>
        <value>hdfs://bigdata-ha/value>
    property>

    <property>
        <name>hadoop.tmp.dirname>
        <value>/home/bigdata/data/hadoopdata/value>
    property>

    <property>
        <name>ha.zookeeper.quorumname>
        <value>intellif-bigdata-node1:2181,intellif-bigdata-node2:2181,intellif-bigdata-node3:2181value>
    property>

    <property>
        <name>ha.zookeeper.session-timeout.msname>
        <value>5000value>
        <description>msdescription>
    property>
configuration>

hadoop/etc/hadoop/hdfs-site.xml

<configuration>

    <property>
        <name>dfs.replicationname>
        <value>3value>
    property>

    
    <property>
        <name>dfs.namenode.name.dirname>
        <value>/home/bigdata/data/hadoopdata/dfs/namevalue>
    property>
    <property>
        <name>dfs.datanode.data.dirname>
        <value>/home/bigdata/data/hadoopdata/dfs/datavalue>
    property>

    
    <property>
        <name>dfs.nameservicesname>
        <value>bigdata-havalue>
    property>

    
    <property>
        <name>dfs.ha.namenodes.bigdata-haname>
        <value>nn1,nn2value>
    property>
    
    <property>
        
        <name>dfs.namenode.rpc-address.bigdata-ha.nn1name>
        <value>intellif-bigdata-master:9000value>
    property>
    <property>
        
        <name>dfs.namenode.rpc-address.bigdata-ha.nn2name>
        <value>intellif-bigdata-node1:9000value>
    property>
    
    <property>
        
        <name>dfs.namenode.http-address.bigdata-ha.nn1name>
        <value>intellif-bigdata-master:50070value>
    property>
    <property>
        
        <name>dfs.namenode.http-address.bigdata-ha.nn2name>
        <value>intellif-bigdata-node1:50070value>
    property>
    
    <property>
        <name>dfs.namenode.shared.edits.dirname>
        <value>qjournal://intellif-bigdata-master:8485;intellif-bigdata-node1:8485;intellif-bigdata-node2:8485/bigdata-havalue>
    property>
    
    <property>
        <name>dfs.journalnode.edits.dirname>
        <value>/home/bigdata/data/journaldatavalue>
    property>
    
    <property>
        <name>dfs.ha.automatic-failover.enabledname>
        <value>truevalue>
    property>
    
    <property>
        <name>dfs.client.failover.proxy.provider.bigdata-haname>
        <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvidervalue>
    property>
    
    <property>
        <name>dfs.ha.fencing.methodsname>
        <value>
            sshfence
            shell(/bin/true)
        value>
    property>
    
    <property>
        <name>dfs.ha.fencing.ssh.private-key-filesname>
        <value>/home/bigdata/.ssh/id_rsavalue>
    property>
    
    <property>
        <name>dfs.ha.fencing.ssh.connect-timeoutname>
        <value>30000value>
    property>

    <property>
        <name>ha.failover-controller.cli-check.rpc-timeout.msname>
        <value>60000value>
    property>
configuration>

hadoop/etc/hadoop/yarn-site.xml

<configuration>

    
    <property>
        <name>yarn.resourcemanager.ha.enabledname>
        <value>truevalue>
    property>
    
    <property>
        <name>yarn.resourcemanager.cluster-idname>
        <value>yarn-clustervalue>
    property>
    
    <property>
        <name>yarn.resourcemanager.ha.rm-idsname>
        <value>rm1,rm2value>
    property>
    
    <property>
        
        <name>yarn.resourcemanager.hostname.rm1name>
        <value>intellif-bigdata-mastervalue>
    property>
    <property>
        
        <name>yarn.resourcemanager.hostname.rm2name>
        <value>intellif-bigdata-node2value>
    property>
    
    <property>
        <name>yarn.resourcemanager.zk-addressname>
        <value>intellif-bigdata-node1:2181,intellif-bigdata-node2:2181,intellif-bigdata-node3:2181value>
    property>

    <property>
        <name>yarn.nodemanager.aux-servicesname>
        <value>mapreduce_shufflevalue>
    property>
    <property>
        <name>yarn.log-aggregation-enablename>
        <value>truevalue>
    property>
    <property>
        <name>yarn.log-aggregation.retain-secondsname>
        <value>106800value>
    property>
    <property>
        <name>yarn.log.server.urlname>
        <value>http://intellif-bigdata-master:19888/jobhistory/logsvalue>
    property>

    
    <property>
        <name>yarn.resourcemanager.recovery.enabledname>
        <value>truevalue>
    property>
    
    <property>
        <name>yarn.resourcemanager.store.classname>
        <value>org.apache.hadoop.yarn.server.resourcemanager.recovery.ZKRMStateStorevalue>
    property>

    <property>
        
        <name>yarn.resourcemanager.address.rm1name>
        <value>intellif-bigdata-master:8032value>
    property>
    <property>
        
        <name>yarn.resourcemanager.scheduler.address.rm1name>
        <value>intellif-bigdata-master:8030value>
    property>
    <property>
        
        <name>yarn.resourcemanager.webapp.address.rm1name>
        <value>intellif-bigdata-master:8088value>
    property>
    <property>
        
        <name>yarn.resourcemanager.resource-tracker.address.rm1name>
        <value>intellif-bigdata-master:8031value>
    property>
    <property>
        
        <name>yarn.resourcemanager.admin.address.rm1name>
        <value>intellif-bigdata-master:8033value>
    property>
    <property>
        <name>yarn.resourcemanager.ha.admin.address.rm1name>
        <value>intellif-bigdata-master:23142value>
    property>

    <property>
        <name>yarn.resourcemanager.address.rm2name>
        <value>intellif-bigdata-node2:8032value>
    property>
    <property>
        <name>yarn.resourcemanager.scheduler.address.rm2name>
        <value>intellif-bigdata-node2:8030value>
    property>
    <property>
        <name>yarn.resourcemanager.webapp.address.rm2name>
        <value>intellif-bigdata-node2:8088value>
    property>
    <property>
        <name>yarn.resourcemanager.resource-tracker.address.rm2name>
        <value>intellif-bigdata-node2:8031value>
    property>
    <property>
        <name>yarn.resourcemanager.admin.address.rm2name>
        <value>intellif-bigdata-node2:8033value>
    property>
    <property>
        <name>yarn.resourcemanager.ha.admin.address.rm2name>
        <value>intellif-bigdata-node2:23142value>
    property>
    
    <property>
        <name>yarn.scheduler.maximum-allocation-mbname>
        <value>30720value>
    property>
    <property>
        <name>yarn.nodemanager.resource.memory-mbname>
        <value>30720value>
    property>

    <property>
        <name>yarn.nodemanager.pmem-check-enabledname>
        <value>falsevalue>
    property>
    <property>
        <name>yarn.nodemanager.vmem-check-enabledname>
        <value>falsevalue>
    property>
    <property>
        
        <name>yarn.scheduler.capacity.maximum-am-resource-percentname>
       <value>0.6value>
    property>
configuration>

hadoop/etc/hadoop/mapred-site.xml

<configuration>
    
    <property>
        <name>mapreduce.framework.namename>
        <value>yarnvalue>
    property>

    
    <property>
        <name>mapreduce.jobhistory.addressname>
        <value>intellif-bigdata-master:10020value>
        <description>MapReduce JobHistory Server IPC host:portdescription>
    property>

    
    <property>
        <name>mapreduce.jobhistory.webapp.addressname>
        <value>intellif-bigdata-master:19888value>
        <description>MapReduce JobHistory Server Web UI host:portdescription>

    property>
    <property>
        <name>mapred.compress.map.outputname>
        <value>truevalue>
    property>
configuration>

hadoop/etc/hadoop/slaves

intellif-bigdata-node1
intellif-bigdata-node2
intellif-bigdata-node3

環境変数~/.bashrc

HADOOP_HOME=/home/bigdata/hadoop
export HADOOP_INSTALL=$HADOOP_HOME
export HADOOP_MAPRED_HOME=$HADOOP_HOME
export HADOOP_COMMON_HOME=$HADOOP_HOME
export HADOOP_HDFS_HOME=$HADOOP_HOME
export YARN_HOME=$HADOOP_HOME
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
export HADOOP_OPTS="-Djava.library.path=$HADOOP_HOME/lib:$HADOOP_COMMON_LIB_NATIVE_DIR"
export PATH=$PATH:$HADOOP_HOME/sbin:$HADOOP_HOME/bin

source ~/.bashrc

三、配布

すべてのhadoopフォルダを他のノード**にコピー

scp -r hadoop bigdata@intellif-bigdata-node1:/home/bigdata/
scp -r hadoop bigdata@intellif-bigdata-node2:/home/bigdata/
scp -r hadoop bigdata@intellif-bigdata-node3:/home/bigdata/

すべてのノードにHadoop環境変数を設定し、masterの前にすでに構成されています.ここでは他のノードだけを配置すればいいです.

HADOOP_HOME=/home/bigdata/hadoop
export HADOOP_INSTALL=$HADOOP_HOME
export HADOOP_MAPRED_HOME=$HADOOP_HOME
export HADOOP_COMMON_HOME=$HADOOP_HOME
export HADOOP_HDFS_HOME=$HADOOP_HOME
export YARN_HOME=$HADOOP_HOME
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
export HADOOP_OPTS="-Djava.library.path=$HADOOP_HOME/lib:$HADOOP_COMMON_LIB_NATIVE_DIR"
export PATH=$PATH:$HADOOP_HOME/sbin:$HADOOP_HOME/bin

source ~/.bashrc

四、起動

zookeeperの起動
起動journal(各マシンで実行)

cd /home/bigdata/data
rm -rf hadoopdata
hadoop-daemon.sh stop journalnode
hadoop-daemon.sh start journalnode

マスターの~/hadoopディレクトリに入り、次の操作を実行してnamenodeをフォーマットします.

hdfs namenode -format

namenodeをフォーマットし、サービスを最初に開始する前に実行した操作で、後で実行する必要はありません.
メタデータを別のnamenodeにコピー

cd /home/bigdata/data/hadoopdata/dfs
scp -r name/ bigdata@intellif-bigdata-node1:$PWD

ZKのフォーマット(マスターで実行)

hdfs zkfc -formatZK

hdfsの起動

start-dfs.sh

クラスタのステータスを表示するには、次の手順に従います.

hadoop dfsadmin -report

namenode failoverの表示

hdfs haadmin -failover nn1 nn2

起動yarn

start-yarn.sh

pathを使ったアニメーションで円のprogressViewを作ってみた

coderunnerにswift追加