[TIL]微分


💗きょう習ったこと


scipyの微分を利用して

from scipy.misc import derivative
def f(x):
    return x**3 + x**2
derivative(f, 1.0, dx=1e-6)
📎 docs.scipy

sigmoid関数


📎 Sigmoid関数微分の定理:数学の定理
📎 Sigmoid信号微分関数の導関数:numpy実装

傾斜降下法用語


反復:計算、繰返し計算機プログラム
モデルでデータ全体を学習するために必要なバッチ数.
レイアウトごとにパラメータの更新が行われるため、レイアウトの数=パラメータの更新回数
epoch:すべてのデータがモデルを通過する回数
1 epochは学習データセット全体がニューラルネットワークを通過することを示す
過剰なepochリスク
📎 チルトダウン法による資料整理

モデルを回転させると、結果値が変化します。


->seedを使用して開始点を決定する
random.randn()の設定時にランダムに起動
データの解析時にもランダムにデータが抽出されるのでseedを指定する必要があります

🤷‍♀️わかりません。


scipy導関数を用いた偏微分


scipy.misc.マルチパラメータ関数の導関数-スタックオーバーフロー
def f(p1, p2):
  return (np.exp(1)*p1 - p2)**2 + 50*p2
2つの変数を持つ関数を宣言します.
この助けでderivative(f,?,dx=1e-5)を救いたいのですが、2つの変数がありますか?何が入っているか分からない