Estimarea probabilității maxime

Estimarea maximă a probabilității (VLE) este un model general pentru estimarea parametrilor unei distribuții de probabilitate care depinde de observațiile din eșantion.

Cu alte cuvinte, EMV maximizează probabilitatea parametrilor funcțiilor de densitate care depind de distribuția probabilității și de observațiile din eșantion.

Când vorbim despre estimarea maximă a probabilității, trebuie să vorbim despre funcţie probabilitate maximă. Matematic, dat un eșantion x = (x₁,…, X_n) și parametri, θ = (θ₁, …, Θⁿ) atunci,

Nu vă panicați! Acest simbol înseamnă același lucru cu însumarea sumelor. În acest caz, multiplicarea tuturor funcțiilor de densitate depinde de observațiile eșantionului (x_eu) și parametrii θ.

Cu cât valoarea lui L (θ | x) este mai mare, adică valoarea funcției de maximă probabilitate, cu atât vor fi mai probabili parametrii pe bază de eșantion.

Funcția logaritmică a EMV

Pentru a găsi estimările de maximă probabilitate, trebuie să diferențiem (derivăm) produsele funcțiilor de densitate și acesta nu este cel mai confortabil mod de a o face.

Când întâlnim funcții complicate, ceea ce putem face este o transformare monotonă. Cu alte cuvinte, ar fi ca și cum ai vrea să atragi Europa pe o scară reală. Ar trebui să-l micșorăm, astfel încât să se potrivească pe o foaie de hârtie.

În acest caz, facem transformarea monotonă folosind logaritmi naturali, deoarece acestea sunt funcții monotonice și în creștere. Matematic,

Proprietățile logaritmilor ne permit să exprimăm multiplicarea de mai sus ca suma logaritmilor naturali aplicați funcțiilor de densitate.

Deci transformarea monotonă prin logaritmi este pur și simplu o „schimbare de scară” la numere mai mici.

Valoarea estimată a parametrilor care maximizează probabilitatea parametrilor funcției de maximă probabilitate cu logaritmi este echivalentă cu valoarea estimată a parametrilor care maximizează probabilitatea parametrilor funcției inițiale de maximă probabilitate.

Deci, ne vom ocupa întotdeauna de modificarea monotonă a funcției de maximă probabilitate, având în vedere ușurința mai mare a calculelor.

Curiozitate

Oricât de complex și de ciudat ar părea EMV, îl aplicăm continuu fără să ne dăm seama.

Cand?

În toate estimările parametrilor unei regresii liniare sub ipoteze clasice. Mai cunoscut sub numele de Ordinary Least Squares (OLS).

Cu alte cuvinte, atunci când aplicăm OLS, aplicăm EMV implicit, deoarece ambele sunt echivalente din punct de vedere al consistenței.

Aplicație

Ca și alte metode, EMV se bazează pe iterație. Adică repetarea unei anumite operații de câte ori este necesar pentru a găsi valoarea maximă sau minimă a unei funcții. Acest proces poate fi supus restricțiilor asupra valorilor finale ale parametrilor. De exemplu, că rezultatul este mai mare sau egal cu zero sau că suma a doi parametri trebuie să fie mai mică decât unul.

Modelul GARCH simetric și diferitele sale extensii aplică EMV pentru a găsi valoarea estimată a parametrilor care maximizează probabilitatea parametrilor funcțiilor de densitate.