Das Neyman-Pearson-Lemma, auch Fundamentallemma von Neyman-Pearson oder Fundamentallemma der mathematischen Statistik genannt, ist ein zentraler Satz der Testtheorie und somit auch der mathematischen Statistik, der eine Optimalitätsaussage über die Konstruktion eines Hypothesentests macht. Gegenstand des Neyman-Pearson-Lemmas ist das denkbar einfachste Szenario eines Hypothesentests, das auch Neyman-Pearson-Test genannt wird: Dabei ist sowohl die Nullhypothese als auch die Alternativhypothese einfach, d. h., sie entsprechen jeweils einer einzelnen Wahrscheinlichkeitsverteilung, deren zugehörige Wahrscheinlichkeitsdichten nachfolgend mit und bezeichnet werden. Dann, so die Aussage des Neyman-Pearson-Lemmas, erhält man den besten Test durch eine Entscheidung, bei der die Nullhypothese verworfen wird, wenn der Likelihood-Quotient einen bestimmten Wert unterschreitet.
Das Lemma ist nach Jerzy Neyman und Egon Pearson benannt, die es 1933 bewiesen haben.
Situation Bearbeiten
Gesucht ist ein möglichst „guter“ Hypothesentest, der mit hoher Zuverlässigkeit eine Entscheidung zwischen Null- und Alternativhypothese herbeiführen soll. Dabei wird vorausgesetzt, dass Null- und Alternativhypothese jeweils genau einer für die Beobachtungsergebnisse geltenden Wahrscheinlichkeitsverteilung entsprechen. Unter dieser Voraussetzung kann für jede Festlegung eines Verwerfungsbereichs die Wahrscheinlichkeit einer falschen Testentscheidung exakt berechnet werden: Im Detail handelt es sich um die beiden Wahrscheinlichkeiten für einen Fehler erster Art und einen Fehler zweiter Art. Daher können bei einer durch das Signifikanzniveau vorgegebenen Obergrenze für einen Fehler erster Art die theoretisch denkbaren Testentscheidungen besonders einfach in qualitativer Hinsicht untereinander verglichen werden.
Formale Beschreibung der Situation Bearbeiten
Beobachtet werden Realisierungen eines reellen Zufallsvektors mit Dimension mit Werten in dem Messraum . Unbekannt ist die exakte Verteilung von . Getestet werden soll die Nullhypothese „“ gegen die Alternative „“ für zwei Wahrscheinlichkeitsmaße über dem gegebenen Messraum. Die Maße und besitzen Dichten bzw. bzgl. des Lebesgue-Maßes, d. h., sie sind stetige Verteilungen auf .
Charakterisiert wird ein Entscheidungsverfahren jetzt durch die Festlegung eines Verwerfungsbereichs , mit dessen Hilfe man die Nullhypothese genau dann verwirft, wenn die beobachtete Realisierung von in liegt. Dieser Test darf ein vorgegebenes Niveau nicht überschreiten,
d. h., die Wahrscheinlichkeit für ein fälschliches Verwerfen der Nullhypothese, der sog. Fehler 1. Art, darf nicht größer als sein. Unter allen Tests, die dieses Niveau einhalten, nennt man denjenigen den stärksten Test, der die sog. Teststärke maximiert, sprich einen minimalen Fehler 2. Art,
die Wahrscheinlichkeit für ein fälschliches Nichtverwerfen der Nullhypothese, besitzt.
Formulierung Bearbeiten
Das Neyman-Pearson-Lemma Bearbeiten
Unter der obigen Situation betrachtet man für eine Realisierung von den erweiterten Likelihood-Quotienten
Der Fall wird nur der Vollständigkeit halber definiert, da er mit keiner positiven Wahrscheinlichkeit eintritt.
Jetzt ist ein Test der Hypothese „“ gegen die Alternative „“ zu einem gegebenen Niveau genau dann optimal (stärkster Test), wenn ein existiert, sodass sein Verwerfungsbereich die Forderungen
- sowie
- für fast sicher alle und
- für fast sicher alle
erfüllt. Die fast sicheren Eigenschaften aus 2. und 3. beziehen sich hierbei auf das Wahrscheinlichkeitsmaß , d. h. sie müssen fast sicher bzgl. und eintreten.
Erfüllt ein Verwerfungsbereich die Forderungen 1.–3., nennt man diesen auch einen Neyman-Pearson-Bereich. In diskreten Modellen existiert solch ein Verwerfungsbereich nur zu bestimmten Niveaus , um ein vorgegebenes Niveau komplett auszuschöpfen muss gegebenenfalls auf randomisierte Tests zurückgegriffen werden.
Sonderfälle Bearbeiten
Durch das obige Lemma nicht betrachtet wurden wenigstens die folgenden Sonderfälle:
- Der Verwerfungsbereich ist der stärkste Test zum Testniveau , d. h. der Test weist keinen Fehler 1. Art auf. Der entsprechende Testparameter ist .
- Der Verwerfungsbereich ist der stärkste Test zum Niveau , denn er besitzt die Teststärke , d. h. der Test weist keinen Fehler 2. Art auf. Der entsprechende Testparameter ist .
Literatur Bearbeiten
- Jörg Bewersdorff: Statistik – wie und warum sie funktioniert. Ein mathematisches Lesebuch. Vieweg+Teubner Verlag, 2011, ISBN 978-3-8348-1753-2, S. 196–201, doi:10.1007/978-3-8348-8264-6.
- Edward J. Dudewicz, Satya N. Mishra: Modern Mathematical Statistics. John Wiley & Sons., 1988.
- Jerzy Neyman, Egon Pearson: On the Problem of the Most Efficient Tests of Statistical Hypotheses. In: Philosophical Transactions of the Royal Society of London. Series A, Containing Papers of a Mathematical or Physical Character. 231. Jahrgang, 1933, S. 289–337, doi:10.1098/rsta.1933.0009 (jstor.org).
Einzelnachweise Bearbeiten
- Neyman-Pearson lemma. In: Michiel Hazewinkel (Hrsg.): Encyclopedia of Mathematics. Springer-Verlag und EMS Press, Berlin 2002, ISBN 1-55608-010-7 (englisch, encyclopediaofmath.org).