[深さ学習]Seq 2 seqモデル作成時のコメント
1.深さ学習モデルを作成する場合
2.研修用Sampleの作成
3.モデルの作成
_basic_rnn_seq2seq()
にDropoutが設定され、最終結果を計算するための演算のいくつかの新しい行が漏れてしまう.学習時にDroputを0.5に設定し、LSTMcellを作成します.with tf.compat.v1.variable_scope('LSTMCell'):
cells = []
for i in range(self.NUM_STACK_LAYERS):
with tf.compat.v1.variable_scope('RNN_{}'.format(i)):
cell = tf.contrib.rnn.LSTMCell(self.HIDDEN_DIM)
cell = tf.contrib.rnn.DropoutWrapper(cell, output_keep_prob=1.0 - self.DROPOUT)
cells.append(cell)
cell = tf.contrib.rnn.MultiRNNCell(cells)
feed_dict = {rnn_model['enc_inp'][t]: batch_input[:, t] for t in range(input_seq_len)}
feed_dict.update({rnn_model['target_seq'][t]: batch_output[:, t] for t in range(output_seq_len)})
_, loss_t = sess.run([rnn_model['train_op'], rnn_model['loss']], feed_dict)
4.モデルのテスト
_basic_rnn_seq2seq
のスーパーパラメータFeed PreviousオプションはTrue、Droputを0に調整します.Reference
この問題について([深さ学習]Seq 2 seqモデル作成時のコメント), 我々は、より多くの情報をここで見つけました https://velog.io/@hugingstar/딥러닝-Seq2seq-모델-만들면서-메모テキストは自由に共有またはコピーできます。ただし、このドキュメントのURLは参考URLとして残しておいてください。
Collection and Share based on the CC Protocol