tensorflow2.0モデリングチュートリアル共通アクションセット3-Modelカスタムモデルのトレーニングとパラメータチューニングloss gradient optimizer

推奨:【tensorflow 2.0最新モデリングチュートリアル】tensorflow 2.0チュートリアル共通アクションセット1-Layerカスタムレイヤの設計
共通アクションセット2-Modelカスタムモデルの設計
常用操作集合シリーズ3-Modelカスタムモデルのトレーニングとパラメータチューニングloss gradient optimizer常用操作集合シリーズ4-損失関数正規化解決モデル過適合
前編完了でtensorflow 2.0モデリングチュートリアルシリーズ2カスタムモデルの設計後、トレーニングデータを入力してトレーニングします.これは、トレーニング中に最も重要な損失関数、勾配の低下、パラメータ調整に関連します.tf 2.0バージョンでは、最も重要な図の計算方法with tape.GradientTape()as tapeは、プロセス全体を設計することができます.
1損失関数loss_fn表現:

loss_fn=tf.keras.losses.categorical_crossentropy(from_logits=True)

2オプティマイザの選択

optimizer=tf.keras.optimizers.SGD(learning_rate=1e-3)

3勾配計算:

#     ：
tape.gradient(loss,model.trainable_weights)

4パラメータのチューニング: