Maximum likelihood módszer

A maximum likelihood módszer (magyarul: legnagyobb valószínűség) a matematikai statisztika egyik leggyakrabban használt becslési eljárása mérési eredmények, minták kiértékelésére.

A maximum likelihood módszer célja, hogy adott mérési értékekhez az ismeretlen paramétereknek olyan becslését adja meg, amely mellett az adott érték a legnagyobb valószínűséggel következik be. Az eljárás a likelihood-függvény maximalizálásával történik.

Definíció

A maximum likelihood becslés azokban az esetekben használatos, amikor az egyes mérési eredmények olyan véletlen eseményekként interpretálhatóak, amelyek egy vagy több ismeretlen paramétertől függenek. Mivel a vizsgált értékek kizárólagosan az ismeretlen paraméter(ek)től függenek, előállíthatók ezen paraméter vagy paraméterek függvényeként. A mérést, becslést végző kutató ezt a paramétert határozza meg, így maximalizálja a mért minta által követett valószínűséget.

A maximum likelihood módszer egy $X$ valószínűségi változóból indul ki, amelynek a sűrűség- vagy tömegfüggvénye $f$ és $q$ paramétertől függ.

Véletlenszerű mintavételezéskor, $n$ független és azonos feltételek között végzett mintavétel esetén, a sűrűség- vagy tömegfüggvény a következő formula szerint faktorizálható:

$f(x_{1},x_{2},...,x_{n};q)=\prod _{i=1}^{n}{f_{X}}_{i}(x_{i};q)$

Amíg rögzített $q$ paraméter esetén a sűrűségfüggvény tetszőleges $x_{1},\ldots ,x_{n}$ értékkel határozható meg, fordítva járunk el, és rögzített $x_{1},\ldots ,x_{n}$ értékekre a sűrűségfüggvényt mint a $q$ paraméter függvényét tekintjük. Ezt nevezzük likelihood-függvénynek:

$L(q)=\prod _{i=1}^{n}{f_{X}}_{i}(x_{i};q)$

A becslés a likelihood-függvény maximumának a megkeresése, azaz egy szélsőérték-feladat. A számítások egyszerűsítése céljából a gyakorlatban nem az eredeti likelihood-függvényt használjuk, hanem annak a természetes alapú logaritmusát. Mivel a $ln$ függvény szigorúan monoton növekvő függvény, a szélsőérték helye nem változik, és egy összeggel egyszerűbb számolni, mint egy szorzattal. Ezt a függvényt gyakran nevezik loglikelihood-függvénynek:

$\ell (q)=\ln \left(\prod _{i=1}^{n}{f_{X}}_{i}(x_{i};q)\right)=\sum _{i=1}^{n}\ln f_{X_{i}}(x_{i};q)$

Példa

A normális eloszlás ${\mathcal {N}}(\mu ,\sigma ^{2})$ sűrűségfüggvénye $\mu$ várható értékkel és $\sigma ^{2}$ szórásnégyzettel a következő:

$f\left(x;\mu ,\sigma ^{2}\right)={\frac {1}{\sqrt {2\pi \sigma ^{2}}}}\exp {\left(-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}\right)}.$

Tekintsük az $x_{1},\ldots ,x_{n}$ független mérési eredményeket, amelyek a feltételezés szerint ismeretlen $m$ várható értékkel és $s^{2}$ ismeretlen szórásnégyzettel ${\mathcal {N}}(m,s^{2})$ normális eloszlást követnek. A következő likelihood-függvénnyel kell számolnunk: $q=(m,s)$.

$L(m,s^{2})=\prod _{i=1}^{n}f\left(x_{i};m,s^{2}\right)=\left({\frac {1}{2\pi s^{2}}}\right)^{n/2}\exp \left(-{\frac {\sum _{i=1}^{n}(x_{i}-m)^{2}}{2s^{2}}}\right)$

a loglikelihood-függvény pedig:

$\log(L(m,s^{2}))=-{\tfrac {n}{2}}\log(2\pi s^{2})-{\frac {\sum _{i=1}^{n}(x_{i}-m)^{2}}{2s^{2}}}.$

Források

• Jánossy, Lajos (1965). A valószínűségelmélet alapjai és néhány alkalmazása (1. ed.). Budapest: Tankönyvkiadó Vállalat. 206. o. {{cite book}}: Cite has empty unknown parameters: |month=, |chapterurl= és |origdate= (súgó)
• Tómács, Tibor (2012). Matematikai statisztika (PDF) (1. ed.). Eger: Eszterházy Károly Főiskola Matematikai és Informatikai Intézet. 133. o. 2013. március 9. dátummal az eredeti (PDF) címről archiválva. Hozzáférés: 2013. május 17. {{cite book}}: Cite has empty unknown parameters: |month=, |chapterurl= és |origdate= (súgó); Unknown parameter |archívdátum= ignored (súgó); Unknown parameter |archívurl= ignored (súgó)