Boostcamper's TIL (3)


2021/08/04


学習の内容


AI Math


統計学の基礎


統計的モデリングは適当な仮定の下で確率分布を推定する.種々の確率分布において,どの確率分布を用いてモデリングを行うかは重要な選択である可能性がある.
しかし、一部のデータだけで募集団の分布を知ることはできない.従って分布を近似的に推定するしかない.
親数(パラメータ)メソッド-データが特定の確率分布に従うと仮定し、分布を決定します.
非パラメータメソッド-特定の確率分布を仮定するのではなく、データに基づいてモデルの構造と親の数を柔軟に変更します(親ではないことを意味しません).
確率分布の仮定法は,データの全体形状(ヒストグラム,取値範囲)によって実現できる.
ex)ヴァンヌーイ、カテゴリ、β、γ、正規、ラプラス、...
最大可能度推定(MLE)
与えられた確率分布をどのように仮定しても,理論的に最も可能なパラメータを推定できる.この点を理解するためには,まず可能度関数を理解する.
可能度(優度)-確率分布のモジュール数は、ある確率変数のテーブルセット値と一致する程度を表し、与えられたテーブルセット値のモジュール数の可能度は、そのモジュール数の分布に基づいて与えられた観測値の確率を与えなければならない.

確率変数Xが親θ の確率分布Pθ(X)P_{\theta}(X)Pθ(X)、Xが特定の値xで表される場合.θ\thetaθの可能性関数L(θ∣x)\mathcal{L}(\theta\mid x)L(θ∣xが定義されています.(母獣)θ\thetaθ変数としての関数)
L(θ∣x)=P1,θ(X1=x1)P2,θ(X2=x2)⋯Pn,θ(Xn=xn)\mathcal{L}(\theta\mid x)=P_{1,\theta}\left(X_{1}=x_{1}\right) P_{2,\theta}\left(X_{2}=x_{2}\right)\cdots P_{n,\theta}\left(X_{n}=x_{n}\right)L(θ∣x)=P1,θ​(X1​=x1​)P2,θ​(X2​=x2​)⋯Pn,θ​(Xn​=xn​)
データが独立して抽出された場合、ログ可能な関数があります.
log⁡L(θ∣x)=∑ilog⁡Pi,θ(Xi=xi)\log\mathcal{L}(\theta\mid x)=\sum_{i}\log P_{i,\theta}\left(X_{i}=x_{i}\right)logL(θ∣x)=∑i​logPi,θ​(Xi​=xi​)
データが多くなるとコンピュータで可能度を計算することは不可能ですが、データが独立している場合はログを使用して乗算をログの加算に変換できるので、コンピュータで演算することができます.
また,傾斜降下法を用いて可能度を最適化する場合,演算量をO(N 2)O/left(N^{2}right)O(N 2)からO(N)O/left(N右)O(N)に減少させることができる.

基礎統計学


なぜベズ統計学を知っているのですか?
新しいデータが中間に追加されると、情報を更新する必要がある場合があります.このときベイズ定理を用いることができ,まず조건부확률という概念が必要である.
じょうけんかくりつP(A|B) = P(A∩B)/P(B)イベントBが既に発生している場合、Aが発生する確率(A|B)=>「AがBを与える」
ベッツの定理は,この条件付き確率を用いて新しいデータを更新する方法を教えてくれた.
ベッツの定理
P(B|A)=P(A屈曲B)/P(A);P(A屈曲B)=P(A|B)P(B).P(B|A) = P(B)P(A|B)/P(A) P(B|A):死後確率(観察データ後確率)P(B):事前確率P(A|B):可能度P(A):Evence(データ自体の分布)
このように整理した式により,計算민감도(Recall)오탐율정밀도(Precision)の問題を解くことができる.
その結果,bayes定理により,新しいデータが入ると,前に計算した死後確率を予備確率に代入し,更新後の死後確率を算出することができる.

CNNベース


コードコメント

  • 三項演算子
    Pythonでは、3つの演算子が他の言語で使用されている3つの演算子とは少し異なる感じがします.
  • #python
    a = "일반요금" if age >= 19 else "학생요금"
    # 만약 나이(age)가 19세 이상이면 a ="일반요금"
    # 그렇지 않으면 a ="학생요금"
    //java
    String a = (age >=) 19 ? "일반요금" : "학생요금";

    の最後の部分


    Reference


    https://ko.wikipedia.org/wiki/%EA%B0%80%EB%8A%A5%EB%8F%84可能な導関数