Als Jeffreys’ a-priori-Verteilung bezeichnet man in der In bayesschen Statistik eine A-priori-Verteilung (eine Wahrscheinlichkeitsverteilung, welche unabhängig von Messdaten als gegeben angenommen wird). Sie ist nach Sir Harold Jeffreys benannt und zeichnet sich gegenüber anderen a-priori-Verteilungen dadurch aus, dass sie gegenüber einer Reparametrisierung der Modellparameter invariant ist. Aufgrund dieser Invarianz wird die Jeffreys’ a-priori-Verteilung auch als nichtinformativ bezeichnet.
Die Wahrscheinlichkeitsdichtefunktion der Jeffreys’ a-priori-Verteilung ist proportional zur Quadratwurzel der Determinante der Fisher-Information:
Motivation Bearbeiten
Das Problem ergibt sich aus dem Bayesschen Satz, in dem die a-posteriori-Verteilung als proportional zum Produkt von Likelihood und a-priori-Verteilung gegeben ist, wobei die Daten darstellt, und Modellparameter (etwa Mittelwert und Standardabweichung einer Normalverteilung). Typischerweise ist die Likelihood, also die Wahrscheinlichkeitsverteilung der Daten, sofern ein Modellparameterwert gegeben ist, bestimmbar. Um jedoch eine Wahrscheinlichkeitsverteilung der Modellparameter gegeben den Messdaten D zu erhalten, ist auch eine datenunabhängige a-priori-Wahrscheinlichkeitsverteilung notwendig.
Lange Zeit lehnten die Orthodoxie der Statistik die Bayessche Statistik ab, da die Wahl einer geeigneten a-priori-Verteilung zu beliebig erschien Insbesondere störte, dass die Verfahren zur Wahl einer a-priori-Verteilung zu anderen Verteilungen führte, je nachdem, wie die Modelle parametrisiert waren. Jeffreys nahm diesen Kritikpunkt auf und erhob ihn zur Randbedingung bei der Suche nach einem Verfahren zur Wahl von a-priori-Verteilungsfunktionen.
Ansatz Bearbeiten
Gegeben sei eine monotone Transformation , welche jedem Modellparameter einen alternativen Modellparameter zuordnet, wird als Invarianzbedingung gefordert, dass die Wahrscheinlichkeitsfunktionen der a-priori-Verteilungen für --Paare gleich sind.
Da es sich bei um eine monotone Transformation handelt, kann daraus ein Zusammenhang zwischen den Wahrscheinlichkeitsdichtefunktionen beider Parameterräume hergestellt werden. Das gesuchte Verfahren zur Findung einer a-priori-Wahrscheinlichkeitsfunktion muss also dem folgenden Zusammenhang genügen:
Es lässt sich zeigen, dass die Fisher-Informationen für die Parametrisierung mit und mit , einen direkten Zusammenhang haben
somit kann durch die Wahl einer a-priori-Verteilung tatsächlich gefolgert werden, dass sich aus der Fisher-Information unter Reparametrierung invariante a priori-Verteilungen finden lassen
und sofern die a-priori-Verteilungen normierbar sind, sind sie auch echt gleich.
Einzelnachweise Bearbeiten
- Torsten Becker, et al.: Stochastische Risikomodellierung und statistische Methoden. Springer Spektrum, 2016. S. 330.
- Jaynes, E. T.: Prior Probabilities. In: IEEE Trans. on Systems Science and Cybernetics. 4. Jahrgang, Nr. 3, 1968, S. 227–241, doi:10.1109/TSSC.1968.300117 (wustl.edu [PDF]).