CDH5.12.0インストールの導入
準備する
1.オフライン配置
2.計画
ノードMySQL Parcelソースファイルcmサービスプロセスビッグデータコンポーネント
3.ダウンロードソース
CM http://archive.cloudera.com/cm5/cm/5/cloudera-manager-centos7-cm5.12.0_x86_64.tar.gz Parcel http://archive.cloudera.com/cdh5/parcels/5.12.0/CDH-5.12.0-1.cdh5.12.0.p0.29-el7.parcel http://archive.cloudera.com/cdh5/parcels/5.12.0/CDH-5.12.0-1.cdh5.12.0.p0.29-el7.parcel.sha1 http://archive.cloudera.com/cdh5/parcels/5.12.0/manifest.json
JDK
MySQL
MySQL jdbc jar
二取付
4.すべてのノードファイアウォールを閉じ、ルールをクリア
5.すべてのノードのselinuxを閉じる
6.クロック同期
7.JDK配備
8.mysqlの配備
9.CDHメタデータベースとユーザー、amonサービスの作成
10.hadoop 001プライマリノード配置mysql jdbc jar
三、CDH配置
1.オフライン配置cm agentおよびagent
1.1すべてのノードのディレクトリ作成および解凍
1.2すべてのノードがagent構成を変更し、serverのノードhadoop 001を指す
1.3プライマリノードserverの構成の変更
1.4すべてのノードによるユーザーの作成
1.5ディレクトリユーザーおよびユーザーグループの変更
2.hadoop 001ノードオフラインparcelソースの配置
2.1オフラインparcelソースの配備
2.2ディレクトリ変更ユーザーおよびユーザーグループ
3.すべてのノードはソフト接続インストールディレクトリ、ユーザー、ユーザーグループ権限を作成する
4.hadoop 001ノードserverの起動
4.1 serverの起動
4.2アリクラウドポートの開放
4.3 http://hadoop001:7180ログインadmin/admin
5.すべてのノード起動agent
あとはページ操作ポイント
13サーバ構成の変更
13.1./proc/sys/vm/swappinessを最大10に設定することをお勧めします.
13.2.透明な大画面圧縮を有効にすると、パフォーマンスに大きな問題が発生する可能性があります.この設定を無効にすることをお勧めします.
1.オフライン配置
MySQL
CM
Parcel
2.計画
ノードMySQL Parcelソースファイルcmサービスプロセスビッグデータコンポーネント
3.ダウンロードソース
CM http://archive.cloudera.com/cm5/cm/5/cloudera-manager-centos7-cm5.12.0_x86_64.tar.gz Parcel http://archive.cloudera.com/cdh5/parcels/5.12.0/CDH-5.12.0-1.cdh5.12.0.p0.29-el7.parcel http://archive.cloudera.com/cdh5/parcels/5.12.0/CDH-5.12.0-1.cdh5.12.0.p0.29-el7.parcel.sha1 http://archive.cloudera.com/cdh5/parcels/5.12.0/manifest.json
JDK
MySQL
MySQL jdbc jar
二取付
echo "172.19.2.20 hadoop001">> /etc/hosts
echo "172.19.2.18 hadoop002">> /etc/hosts
echo "172.19.2.19 hadoop003">> /etc/hosts
4.すべてのノードファイアウォールを閉じ、ルールをクリア
systemctl stop firewalld
systemctl disable firewalld
iptables -F
5.すべてのノードのselinuxを閉じる
vi /etc/selinux/config
SELINUX=enforcing SELINUX=disabled
6.クロック同期
date
timedatectl
timedatectl --help
timedatectl list-timezones
timedatectl set-timezone Asia/Shanghai
6.2
ntp
yum install -y ntp
hadoop001 ntp
vi /etc/ntp.conf
server 0.asia.pool.ntp.org
server 1.asia.pool.ntp.org
server 2.asia.pool.ntp.org
server 3.asia.pool.ntp.org
,
server 127.127.1.0 iburst local clock
restrict 172.19.2.0 mask 255.255.255.0 nomodify notrap
ntpd
systemctl start ntpd
systemctl status ntpd
ntpq -p
ntpd
systemctl stop ntpd
systemctl disable ntpd
/usr/sbin/ntpdate hadoop001
hadoop001
crontab -e
00 00 * * * /usr/sbin/ntpdate hadoop001
7.JDK配備
scp -r jdk-8u144-linux-x64.tar.gz root@hadoop002:/
scp -r jdk-8u144-linux-x64.tar.gz root@hadoop003:/
mkdir /usr/java
tar -zxvf jdk-8u144-linux-x64.tar.gz -C /usr/java
,
chown -R root:root /usr/java/jdk1.8.0_144
vi /etc/profile
export JAVA_HOME=/usr/java/jdk1.8.0_144
export PATH=${JAVA_HOME}/bin:${PATH}
source /etc/profile
which java
8.mysqlの配備
9.CDHメタデータベースとユーザー、amonサービスの作成
create database cmf DEFAULT CHARACTER SET utf8;
create database amon DEFAULT CHARACTER SET utf8;
grant all on cmf.* TO 'cmf'@'%' IDENTIFIED BY 'root';
grant all on amon.* TO 'amon'@'%' IDENTIFIED BY 'root';
flush privileges;
10.hadoop 001プライマリノード配置mysql jdbc jar
mkdir -p /usr/share/java/
cp mysql-connector-java.jar /usr/share/java/
三、CDH配置
1.オフライン配置cm agentおよびagent
1.1すべてのノードのディレクトリ作成および解凍
scp -r cloudera-manager-centos7-cm5.12.0_x86_64.tar.gz root@hadoop002:/
scp -r cloudera-manager-centos7-cm5.12.0_x86_64.tar.gz root@hadoop003:/
mkdir /opt/cloudera-manager
tar -zxvf cloudera-manager-centos7-cm5.12.0_x86_64.tar.gz -C /opt/cloudera-manager/
1.2すべてのノードがagent構成を変更し、serverのノードhadoop 001を指す
sed -i "s/server_host=localhost/server_host=hadoop001/g" /opt/cloudera-manager/cm-5.12.0/etc/cloudera-scm-agent/config.ini
1.3プライマリノードserverの構成の変更
vi /opt/cloudera-manager/cm-5.12.0/etc/cloudera-scm-server/db.properties
com.cloudera.cmf.db.type=mysql
com.cloudera.cmf.db.host=hadoop001
com.cloudera.cmf.db.name=cmf
com.cloudera.cmf.db.user=cmf
com.cloudera.cmf.db.password=root
com.cloudera.cmf.db.setupType=EXTERNAL
1.4すべてのノードによるユーザーの作成
useradd --system --home=/opt/cloudera-manager/cm-5.12.0/run/cloudera-scm-server/ --no-create-home --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm
1.5ディレクトリユーザーおよびユーザーグループの変更
chown -R cloudera-scm:cloudera-scm /opt/cloudera-manager
2.hadoop 001ノードオフラインparcelソースの配置
2.1オフラインparcelソースの配備
mkdir -p /opt/cloudera/parcel-repo
cp CDH-5.12.0-1.cdh5.12.0.p0.29-el7.parcel /opt/cloudera/parcel-repo/
ll
parcel cp
sha1 -> sha
2.2ディレクトリ変更ユーザーおよびユーザーグループ
chown -R cloudera-scm:cloudera-scm /opt/cloudera/
3.すべてのノードはソフト接続インストールディレクトリ、ユーザー、ユーザーグループ権限を作成する
mkdir -p /opt/cloudera/parcels
chown -R cloudera-scm:cloudera-scm /opt/cloudera/
4.hadoop 001ノードserverの起動
4.1 serverの起動
/opt/cloudera-manager/cm-5.12.0/etc/init.d/cloudera-scm-server start
4.2アリクラウドポートの開放
4.3 http://hadoop001:7180ログインadmin/admin
5.すべてのノード起動agent
/opt/cloudera-manager/cm-5.12.0/etc/init.d/cloudera-scm-agent start
あとはページ操作ポイント
13サーバ構成の変更
13.1./proc/sys/vm/swappinessを最大10に設定することをお勧めします.
swappiness ;
swappiness=0: , swap ;
swappiness=100: swap , swap ;
, swap, swappiness。
:
sysctl vm.swappiness=10
:
cat << EOF >> /etc/sysctl.conf
vi /etc/sysctl.conf
# Adjust swappiness value
vm.swappiness=10
EOF
13.2.透明な大画面圧縮を有効にすると、パフォーマンスに大きな問題が発生する可能性があります.この設定を無効にすることをお勧めします.
:
echo never > /sys/kernel/mm/transparent_hugepage/defrag
echo never > /sys/kernel/mm/transparent_hugepage/enabled
:
cat << EOF >> /etc/rc.d/rc.local
vi /etc/rc.d/rc.local
# Disable transparent_hugepage
echo never > /sys/kernel/mm/transparent_hugepage/defrag
echo never > /sys/kernel/mm/transparent_hugepage/enabled
EOF
# centos7.x , "/etc/rc.d/rc.local"
chmod +x /etc/rc.d/rc.local