確率論


集合論

  確率論に入る前に集合論を少し。
  あまり数学的な厳密性にこだわらない。必要最低限にとどめたい。
  最終的に、機械学習・深層学習につなげたいだけなので。。。

命題とは

集合論の最初にこういったことを学ぶみたい。まあ、学者先生の厳密性ということでしょう。
一応ここにしめしておく。
数学を 学ぶ上で最も 基本的である論理学の基本
・「それが真 (true) であるか偽 (false) であるかがはっきりとしている事柄」を命題という

集合とは

・簡単に言えば「ものの集まり」
・「ものの集まり」が ”すべて集合” ではない。
 例)「大きい数の集まり」「お金持ちの集まり」などはその基準が明確でなく、集合とは言えない。

集合の記述の仕方

集合の記述の仕方は実は複数パターンある。

記述パターン1:内包的記法

「x に関する 命題 P(x) が真と なる ような x の集まり」
     $\{x | P(x)\}$
といった記述になる。
かっこでくくって、縦棒の前が要素。縦棒の後ろが命題
例)
「 100 以上の整数の集まり 」は {x | x ∈ Z かつ x ≥ 100}

記述パターン2:外延的記法

要素を列挙して定義できる
     $\{x_1,x_2,x_3\}$
例)
「10以下の素数全体の集合」は
$\{n|nは素数,n≦10\}$
と記述できるし(こっちは記述パターン1)
    $\{1,3,5,7\}$
とも記述できる(こっちは記述パターン2)

集合の種類

要素

部分集合

・B を A の部分集合
   B ⊂ A ま たは A ⊃ B と 書く 。
   B ⊂ A であり 、 かつある x ∈ A があっ て x 6∈ B
   である と き B を A の真部分集合と いい B ( A ま たは A ) B と 書く 。

集合論で使う記号

・・・対象 x が集合 E のであることを x $\in$ E 。対象 x が集合 E に属する要素ともいう。
$\cap$     共通部分
⊂    部分集合
$\cup$     和集合
$\emptyset$     空集合・・・標本点を1つも含まない集合のこと。
$A^c$    A の補集合

$\in$     元(要素)集合に対する帰属関係・・・これだけ要素と集合の話

詳細は以下
https://ja.wikipedia.org/wiki/%E6%95%B0%E5%AD%A6%E8%A8%98%E5%8F%B7%E3%81%AE%E8%A1%A8

写像

集合論のあとは写像の話が出てくる。まあ、当たり前と言えば当たり前か。。。

2つの集合の各々の要素間の関係を示す。
Aの各元に対しBの元が1つ定まっている対応のこと。
$f:AB$

確率論

公理論的確率(測度論的確率)

ここでは、数学的確率(古典的確率、事象論)・統計的確率(頻度論)についてはいまさらなので述べない。
知りたきゃここ 姉妹ブログ
https://strongerthansword.hatenablog.com/entry/2020/08/16/171218
*測度論の測度とは・・・面積、体積を示す。
*測度論とは・・・面積、体積をどのように求めるかを述べている。
*面積・・・積分を使うが、積分論では「リーマン積分(みんな習うやつ)」「ルベーグ積分」がある
*

確率論の基礎概念

確率論の前提

・確率論の文脈で扱えるのは、「」
・確率論で扱えるは以下の2つの前提を満たす場合である。
【前提1】起こりうる結果が何が起こるか分かっている・・・知識は十分
【前提2】どの結果が起こるのかだけが事前に分からない

例)サイコロを投げると1~6までが出ることは分かっている

確率論で扱うことが出来ない世界
何が起こるか皆目見当がつかない
事前の知識がない状態では確率論は無力である
例)未知の生命体に遭遇する確率は?
例)洞窟の中で財宝を発見する確率は?

試行

・[取り澄ました表現・固い表現]明確に定義された実験や観察の単一の実行
・一定の条件下で繰り返し行うことが出来る
・結果が偶然に支配される実験や観測のこと
例)「サイコロを投げる」という行為・・・確かに結果は偶然に左右されるよなぁ!

標本空間 $\Omega$

・ある試行で起こりうる結果からなる集合
・空集合でない集合で起こりうる結果全体集合。・・・標本空間っていうのは集合です!!
・$\Omega$ の元 ω それぞれには起こりやすさの割合が備わっていることを仮定する。 
例)6面体のサイコロでいうと$\{1,2,3,4,5,6\}$の集合のこと。
【特徴】標本空間は、無限集合有限集合両方ありうる
例)有限集合・・・サイコロ$\  $$\Omega=\{1,2,3,4,5,6\}$
例)無限集合・・・車の寿命$\Omega=[0,\infty)$

事象

・標本空間の部分集合のうち確率をもつもの・・・事象も集合です!!
・「試行」の結果
・「試行」によって起こる事柄
・標本空間のうち、我々が
例)サイコロの目が奇数である。$A=\{1,3,5\}$

事象は起こったとは・・・試行の結果、事象Eの中の標本点ωが発生すること

例)式で書くと ω$\in$E

空事象・・・標本点を1つも含まない事象。これ以上細かく分解しようがない事象。
根元事象・・・1つの標本点からなる事象
余事象
排反事象(disjoint)・・・2つの事象が同時に起こらない。

[定義] A$\cap$B=$\emptyset$・・・AとBは互いに排反である
つまり、片っ方が起こると、排反と分かっていると、他方は強制的に起こらなくなる。
例1)サイコロの目を以下の事象A,Bとする。同時に発生することがないので互いに排反である。
  事象A:{1,3,5}(奇数の目が出る事象)
  事象B:{2,4,6}(偶数の目が出る事象)
例2)物理と数学の単位を取れるかどうか。
  互いに排反だとこれは困る。物理の単位が取れると数学は問答無用で単位が取れなくなる。
  これは良くない例です。

確率空間

確率論の基礎

「同時確率」「条件付き確率」「乗法定理」「加法定理」「ベイズの定理」
・同時確率     $P(A \cap B)$
・条件付き確率   $P(A \vert B)$

乗法定理[同時確率を求める]・・・2つの事象が同時に起こる確率は、1つひとつの確率の掛け合わせ

同時確率は各々の確率の積になる

加法定理・・・条件がいくつかに分けられた場合の確率計算

集合論と確率論のクロスロード

$E\subset \Omega$
$F\subset \Omega$

集合論   確率論    数式 読み方
和集合 和事象 E$\cup$F union
積集合 積事象 E$\cap$F intersection
差集合 差事象 E-F difference
全体集合 全事象 $\Omega$
空集合 空事象 $\emptyset$
補集合    余事象     $E^c$ complement

これらより、集合論と確率論は非常に近い関係にあることが分かる!!

・集合の面積を求めよ => 確率論である 測度論を使うのはこれが理由
・集合の体積を求めよ => 確率論である 測度論を使うのはこれが理由

・$\Omega$の面積を1とする。事象Eの確率は「1のうちの何割の面積を占めているのか?」と同じ
・$\omega\in\Omega$は常に成立する。事象$\Omega$は必ず起こる。
・E$\cap$F = $\emptyset$  起こりえない事象を$\emptyset$で表す
・$E^c$ = $\Omega-E$

事象の確率

いよいよ確率が出た!!
事象Eの確率は。。。。P(E) で表す。
つまりカッコの中は、集合で表します。
例)サイコロの偶数の出る目の確率は。。。P({2,4,6})
前にも述べたけど、集合は{}で表すんだなぁ!!

確率の条件

公理1.<<非負性>>  P(E)$\geq$ 0
公理2.<<完全加法性>>P($\Omega$) = 1 必ず起こる事象に関しては1と定義する!
公理3.$E_i \cap E_j = \emptyset$(i $\neq$ j)である事象列に対して

P(\cup_{i=1}^\infty E_i)=\sum_{i=1}^\infty P(E_i)

加算無限個の和集合 加算無限個の実数の和
おのおの無限個の和なので「完全加法性」と呼ぶ
おのおの有限個の和だとすれば「有限加法性」と呼ぶ

実数値集合関数

通常確率は、実数で表される。したがって、実数値集合関数とも呼ばれる。
集合Eが与えられたときに、実数P(E)がマッピング(写像)された。
P:E$\rightarrow$P(E)

参考

TEX
http://www27.cs.kobe-u.ac.jp/~masa-n/misc/cmc/j-kiso2001/iabasic/jlshort/node34.html