hadoopはwebHDFSサービスとテストを開きます

1511 ワード

WebHDFSの考え方は、GET、PUT、POST、DELETEなどのHTTP操作に基づいている.OPEN、GETFILESTTATUS、LISTSTATUSのような操作はHTTP GETを使用し、その他のCREAT、MKDIRS、RENAME、SETPERMISSIONはHTTP PUTタイプに依存する.APPEND操作はHTTP POSTタイプに基づくが、DELETEはHTTP DELETEを用いる.
オープンソースログシステムfluentdを構成する過程で、fluentdはwebHDFSとHDFSを利用して通信を行い、構成は長い間通じていなかったが、hadoop 0.20.2はwebHDFSをサポートしていないことが分かった.したがって、本明細書のhadoopバージョンは、hadoop-1.2.1です.
WebHDFSサービス(hadoop 1.2.1バージョン)を構成するのは簡単です.ファイルは1つだけです.
<property>
<name>dfs.webhdfs.enabled</name>
<value>true</value>
</property>


<property>
<name>dfs.support.broken.append</name>
<value>true</value>
</property>

wKioL1R-r0zT7PIcAAJKc6n56Kw085.jpg
hadoopサービスを再起動します.
stop-all.そしてstart-all.sh
namenodeサーバのログファイルを表示すると、下に行くとwebHDFSが起動します.
wKiom1R-sy_BWnmcAAi9duDb3LM985.jpg
Webが通信できるかどうかをテストします.
curl -i 'http://172.16.41.151:50070/webhdfs/v1/?op=LISTSTATUS'
wKiom1R-s5WgMJ2QAAHU3JU2f-M697.jpg
関連アクションコマンドは、公式ドキュメントを参照してください.
http://hadoop.apache.org/docs/r1.0.4/webhdfs.html