HadoopのRandomTextWriter説明
2317 ワード
必要:
mockのデータが必要で、データに基づいてテストや分析を行い、RandomTextWriterは需要を満たすことができますが、MRv 1とMRv 2のパラメータはよく一致していません.
詳細:
MRv1:
実行時に-Dを介して入力するには、他にもいくつかのパラメータがあります.
MRv2:
実行時に-Dを介して入力するには、他にもいくつかのパラメータがあります.
mockのデータが必要で、データに基づいてテストや分析を行い、RandomTextWriterは需要を満たすことができますが、MRv 1とMRv 2のパラメータはよく一致していません.
詳細:
MRv1:
<config>
<property>
<name>test.randomtextwrite.min_words_key</name>
<value>5</value>
</property>
<property>
<name>test.randomtextwrite.max_words_key</name>
<value>10</value>
</property>
<property>
<name>test.randomtextwrite.min_words_value</name>
<value>20</value>
</property>
<property>
<name>test.randomtextwrite.max_words_value</name>
<value>100</value>
</property>
<property>
<name>test.randomtextwrite.total_bytes</name>
<value>1099511627776</value>
</property>
</config>
実行時に-Dを介して入力するには、他にもいくつかのパラメータがあります.
test.randomtextwrite.maps_per_host
test.randomtextwrite.bytes_per_map
MRv2:
<config>
<property>
<name>mapreduce.randomtextwriter.minwordskey</name>
<value>5</value>
</property>
<property>
<name>mapreduce.randomtextwriter.maxwordskey</name>
<value>10</value>
</property>
<property>
<name>mapreduce.randomtextwriter.minwordsvalue</name>
<value>20</value>
</property>
<property>
<name>mapreduce.randomtextwriter.maxwordsvalue</name>
<value>100</value>
</property>
<property>
<name>mapreduce.randomtextwriter.totalbytes</name>
<value>1099511627776</value>
</property>
</config>
実行時に-Dを介して入力するには、他にもいくつかのパラメータがあります.
mapreduce.randomtextwriter.bytespermap
mapreduce.randomtextwriter.mapsperhost