【TensorFlow】tf.nn.softmax_cross_entropy_with_logitsの使い方
3333 ワード
lossを計算するとき、最も一般的な一言はtfです.nn.softmax_cross_entropy_with_logits、ではどうやって作ったのでしょうか?
まず、lossは世代価値、つまり私たちが最小化する値であることを明らかにします.
まず、lossは世代価値、つまり私たちが最小化する値であることを明らかにします.
tf.nn.softmax_cross_entropy_with_logits(logits, labels, name=None)
nameパラメータを除去してこの操作のnameを指定する方法に関する合計2つのパラメータ:
logits: , batch , [batchsize,num_classes], , num_classes
labels: ,
:
softmax, , , num_classes
サイズのベクトル([Y 1,Y 2,Y 3...]そのうちY 1,Y 2,Y 3...クラスに する をそれぞれ す)softmax :
? ,
softmax [Y1,Y2,Y3...] , :
i ( mnist , 3, [0,0,0,1,0,0,0,0,0,0], 4 1, 0)
softmax [Y1,Y2,Y3...]
のi の の , , ( ), , loss
!!! , , , tf.reduce_sum , , , loss, tf.reduce_mean , !
,
import tensorflow as tf
#our NN's output
logits=tf.constant([[1.0,2.0,3.0],[1.0,2.0,3.0],[1.0,2.0,3.0]])
#step1:do softmax
y=tf.nn.softmax(logits)
#true label
y_=tf.constant([[0.0,0.0,1.0],[0.0,0.0,1.0],[0.0,0.0,1.0]])
#step2:do cross_entropy
cross_entropy = -tf.reduce_sum(y_*tf.log(y))
#do cross_entropy just one step
cross_entropy2=tf.reduce_sum(tf.nn.softmax_cross_entropy_with_logits(logits, y_))#dont forget tf.reduce_sum()!!
with tf.Session() as sess:
softmax=sess.run(y)
c_e = sess.run(cross_entropy)
c_e2 = sess.run(cross_entropy2)
print("step1:softmax result=")
print(softmax)
print("step2:cross_entropy result=")
print(c_e)
print("Function(softmax_cross_entropy_with_logits) result=")
print(c_e2)
は のとおりです.
step1:softmax result=
[[ 0.09003057 0.24472848 0.66524094]
[ 0.09003057 0.24472848 0.66524094]
[ 0.09003057 0.24472848 0.66524094]]
step2:cross_entropy result=
1.22282
Function(softmax_cross_entropy_with_logits) result=
1.2228
に さんはe^1/(e^1+e^2+e^3)が0.09003057かどうかを してみて、 かに じです!!これも されています