最尤推定

最尤推定とは、尤度関数が最大となる引数を求めて、一番もっともな前提条件を推定することです。最尤推定によって求めた前提条件を最尤推定量(一番もっともな推定量)と言います。

例えば、前提条件θを引数とした尤度関数L(θ)があったとします。

このとき、微分して、L' (θ)=0となるθのうち、L(θ)が最大になるθが最尤推定量です。

尤度方程式

尤度関数L(θ)は、自然対数を利用して、flog_[e]] L(θ)としても最尤推定量は変わりません。

よって、flog_[e]] L(θ)を微分した以下の方程式を使って、最尤推定することも可能です。

この方程式のことを尤度方程式と呼びます。

尤度関数の計算の主体は総乗のような掛け算の連なりなので、尤度方程式を利用すると、対数の変形式であるflog_[[e]](bc)=flog_[[e]]b+flog_[[e]]cを利用して、総乗を総和に変形できます。

これにより、各項に対して対数の微分を行う形となり、微分が楽に行えます。

前提条件が複数ある場合

複数の前提条件をθ=(θ_[[1]], θ_[[2]], …, θ_[[n]])とした場合、θ_[i]]の尤度方程式は、偏微分を利用して、以下のように表せます。

すべてのθ_[i]]で最尤推定量を求めることにより、θの最尤推定量が求まります。