尤度関数

尤度関数（ゆうど関数）とは、ある確率的な事象の試行結果からどの前提条件が尤もらしい（もっともらしい）かを推測する関数のことです。

不明な前提条件Bを適当な条件bで確定させた際に、Aが起こる条件付き確率は、P(A | B=b)と表現できます。

このとき、尤度関数は、bを変数として、L(b | A)と表します。そして、L(b | A)は、以下のように定義されます。αは、0より大きい任意の定数です。

L(b | A)=α P(A | B=b)

αを掛けているのは、尤度関数の出力が確率ではないことを示すためです。よって、表記が似ていますが、L(b | A)は、条件付き確率ではありません。

尤度関数の実例

例えば、ボタンを押すと、ある確率で○か△が画面に表示される事象があったとします。このとき、○の確率をpとすると、△の確率は1-pとなります。

1回目も2回目も○である事象をAとした場合、尤度関数は、L(x | A)=α P(A | p=x)=α x^[2]]になります。

x=1のとき、この尤度関数は最大となり、p=1が尤もらしいということになります。つまり、何回ボタンを押しても○が表示されるのが尤もらしいということです。

1回目が○で2回目が△である事象をBとした場合、尤度関数は、L(x | B)=α P(B | p=x)=α x(1-x)になります。

x=0.5のとき、この尤度関数は最大となり、p=0.5が尤もらしいということになります。つまり、○が表示される確率が50%、△が表示される確率が50%が尤もらしいということです。

母数の尤度関数

前提条件となるある母数をθ、連続型確率変数をxとして、確率密度関数fff(x | θ)となるある確率的な事象があったとします。

このとき、n回試行して、vec[x]]=(x_[[1]], x_[[2]],…, x_[n]])が得られたとき、尤度関数L(θ | vec[x]])は、総乗を利用して、以下のように表します。

導出方法

確率密度関数fff(x)において、Δxを無限小とした場合、x_[i]]±Δxの区間の確率は、定積分を利用して、となります。

このとき、となる定数aが存在します。

よって、x_[[1]], x_[[2]],…, x_[n]]の同時確率は、以下のように表せます。

母数θを前提条件とした場合、以下のように表せます。

よって、vec[x]]=(x_[[1]], x_[[2]],…, x_[n]])とすれば、尤度関数L(θ | vec[x]])は、以下になります。

a^[n]]は定数であり、尤度関数は、最大値を求めたりなど、相対的に評価できれば良いので、a^[n]]=1とします。

導出できました。