[キャンプAI技術を導く]2週目Day 3

4153 ワード
U stage Boost camp AI技術 テキストリンク

今日の勉強内容


1. Load & Save Model


2. Monitoring tools for PyTorch


1. Load & Save Model


  • 学習モデルには多くの時間がかかり,学習中にWeightなどを格納する必要がある.
  • model.save()を使用すると、モデルのすべての形状を保存するか、パラメータのみを保存できます.
  • model.state_dictには、モデルのパラメータ情報が存在する.
    • import torch
  ...
  ...
# 모델의 파라미터를 Save
torch.save(model.state_dict(), os.path.join(PATH, "model.pt")

# 동일한 모델의 형태에서 파라미터만을 Load
new_model  = Model()
new_model.load_statae_dict(torch.load(os.path.join(PATH, "model.pt")))

# 모델의 구조와 파라미터를 모두 Save
torch.save(model, os.path.join(PATH, "model.pt")

# 모델의 구조와 파라미터를 모두 Load
new_model2 = torch.load(os.path.join(PATH, "model.pt")

  • 学習中に結果を保存して最適なモデルを最終的に選択

  • 測定値を継続的にチェックして格納し、一定数のAccまたはAccが改善されていない場合に学習を停止→自動的に学習を停止する

    • Transfer Learning

  • の他のデータセットによって予め学習されたモデルをプリトレーニングモデルと呼ぶ.
  • は通常、高容量データセットのモデルであるため、性能は良好である
    • である.
  • プリトレーニングモードでは、一部を変更することによって学習を実行することを転送学習と呼ぶ.
  • Transfer Learningを行う場合,モデル層の一部を凍結し,学習する方法をFreezingと呼ぶ.

    • 2. Monitoring tools for PyTorch


    TensorBoard VS Weight & Biases(WandB)

  • TensorBoard

    ソース:https://www.tensorflow.org/tensorboard?hl=ko
  • TensorFlowプロジェクトで作成されたビジュアル化ツール.
  • 学習グラフ、測定、学習結果などの可視化をサポートします.
  • TFだけでなく、PyTorchの連動もサポートされています.
  • スカラー、グラフィック、ヒストグラム、画像、メッシュなどの機能を備えています.
  • Weight & Biases
    ソース:https://wandb.ai/site
    これは
  • 機械学習実験をサポートするための一般的なツールである.
  • コラボレーション、コードバージョン、実験結果記録などを提供します.
  • は最近、MLOPSの代表的なツールとして使用されている.
    • LinuxサーバコマンドラインモードインストールMatlab 2014 a
    ブロック:何ブロックですか?