Median Regression Die Methode der kleinsten absoluten Abweichungen auch stellt ein robustes Schätzverfahren dar um unbek

Median-Regression

Die Methode der kleinsten absoluten Abweichungen, auch Median-Regression, stellt ein robustes Schätzverfahren dar, um unbekannte Parameter einer linearen Regression zu schätzen. Solch ein Schätzer wird Kleinste-Absolute-Abweichungen-Schätzer (engl. least absolute deviations estimator, LAD) genannt. Bei dieser Methode wird die Summe der absoluten Abweichungen minimiert, im Unterschied zur Methode der kleinsten Quadrate, bei der die Summe der quadrierten Abweichungen minimiert wird. Die Median-Regression ist ein Spezialfall der Quantilsregression, bei der im Allgemeinen die Beträge der positiven und negativen Abweichungen unterschiedlich gewichtet werden; bei Gleichgewichtung ergibt sich die Median-Regression.

Geschichte Bearbeiten

Die Methode der kleinsten absoluten Abweichungen ist historisch gesehen älter als die Methode der kleinsten Quadrate. Sie wurde zuerst um 1760 von Rugjer Josip Bošković (1711–1787) vorgeschlagen. In moderner Terminologie wird dieser Ansatz als Median-Regression bezeichnet, da in einem stochastischen Regressionsmodell das Resultat der Minimierung zu einem Schätzer für den Median der abhängigen Variablen bei gegebenen Werten der unabhängigen Variablen führt. Die Median-Regression ist ein Spezialfall der Quantilsregression, wobei der Median das bei der Quantilsregression verwendete Quantil ist.

Verfahren Bearbeiten

Statt die Summe der quadrierten Abweichung zu minimieren, wird die Summe der absoluten Abweichungen

bzgl. minimiert. Dabei bezeichnet die Anzahl der Beobachtungen und die Anzahl der Regressionskoeffizienten, die im -Vektor zusammengefasst sind. Die Werte des Regressanden (der erklärten Variablen) sind und die -Vektoren für enthalten die Werte der Regressoren (der erklärenden Variablen). Im Fall für liegt eine Regression mit Absolutglied vor.

Eine Minimalstelle , d. h. ein Vektor

ist ein geschätzter Parametervektor.

Das Minimierungsproblem kann als Aufgabe der linearen Programmierung formuliert werden und bspw. mit dem Simplex-Verfahren gelöst werden.

Beispiel und einfachster Spezialfall Bearbeiten

Der einfachste Spezialfall ergibt sich für , und einen konstanten Regressor mit für . Die Minimierung von bzgl. für fixierte y-Werte, d. h. die Anwendung der Methode der kleinsten Quadrate, führt dann zur Minimalstelle

d. h. zum arithmetischen Mittelwert der y-Werte. Die Minimierung von bzgl. für fixierte y-Werte führt dazu, dass jeder Median der y-Werte eine Minimalstelle ist, also

erfüllt. Ein Median ist in diesem Zusammenhang jede Stelle , für die zugleich

gilt. Beispielsweise ist für und jeder Wert im Intervall ein Median. Im Unterschied zur Methode der kleinsten Quadrate ist bei der Minimierung der absoluten Abstände die Eindeutigkeit der Minimalstelle nicht garantiert.

Literatur Bearbeiten

Ludwig Fahrmeir, Thomas Kneib, Stefan Lang, Brian D. Marx: Regression – Models, Methods and Applications. Springer, Berlin / Heidelberg 2013, ISBN 978-3-642-34332-2, doi:10.1007/978-3-642-34333-9 (E-Book-ISBN 978-3-642-34333-9).

Einzelnachweise Bearbeiten

↑ Ludwig Fahrmeir et al.: Regression: Models, Methods and Applications. 2013, S. 105.
Ludwig Fahrmeir et al.: Regression: Models, Methods and Applications. 2013, Kapitel 10: Quantile Regression.

wikipedia, wiki, deutsches, deutschland, buch, bücher, bibliothek artikel lesen, herunterladen kostenlos kostenloser herunterladen, MP3, Video, MP4, 3GP, JPG, JPEG, GIF, PNG, Bild, Musik, Lied, Film, Buch, Spiel, Spiele

Veröffentlichungsdatum: November 29, 2023, 17:42 pm

Die Methode der kleinsten absoluten Abweichungen auch Median Regression stellt ein robustes Schatzverfahren dar um unbekannte Parameter einer linearen Regression zu schatzen Solch ein Schatzer wird Kleinste Absolute Abweichungen Schatzer engl least absolute deviations estimator LAD genannt Bei dieser Methode wird die Summe der absoluten Abweichungen minimiert im Unterschied zur Methode der kleinsten Quadrate bei der die Summe der quadrierten Abweichungen minimiert wird Die Median Regression ist ein Spezialfall der Quantilsregression bei der im Allgemeinen die Betrage der positiven und negativen Abweichungen unterschiedlich gewichtet werden bei Gleichgewichtung ergibt sich die Median Regression Inhaltsverzeichnis 1 Geschichte 2 Verfahren 3 Beispiel und einfachster Spezialfall 4 Literatur 5 EinzelnachweiseGeschichte BearbeitenDie Methode der kleinsten absoluten Abweichungen ist historisch gesehen alter als die Methode der kleinsten Quadrate Sie wurde zuerst um 1760 von Rugjer Josip Boskovic 1711 1787 vorgeschlagen 1 In moderner Terminologie wird dieser Ansatz als Median Regression bezeichnet da in einem stochastischen Regressionsmodell das Resultat der Minimierung zu einem Schatzer fur den Median der abhangigen Variablen bei gegebenen Werten der unabhangigen Variablen fuhrt 1 Die Median Regression ist ein Spezialfall der Quantilsregression 2 wobei der Median das bei der Quantilsregression verwendete Quantil ist Verfahren BearbeitenSiehe auch Empirische Risikominimierung Statt die Summe der quadrierten Abweichung zu minimieren wird die Summe der absoluten Abweichungen i 1 n y i x i b displaystyle sum i 1 n left y i mathbf x i top boldsymbol beta right nbsp bzgl b R K displaystyle boldsymbol beta in mathbb R K nbsp minimiert Dabei bezeichnet n displaystyle n nbsp die Anzahl der Beobachtungen und K displaystyle K nbsp die Anzahl der Regressionskoeffizienten die im K 1 displaystyle K times 1 nbsp Vektor b b 1 b K displaystyle boldsymbol beta beta 1 ldots beta K top nbsp zusammengefasst sind Die Werte des Regressanden der erklarten Variablen sind y 1 y n displaystyle y 1 dots y n nbsp und die K 1 displaystyle K times 1 nbsp Vektoren x i x i 1 x i K displaystyle mathbf x i x i1 dots x iK top nbsp fur i 1 n displaystyle i 1 dots n nbsp enthalten die Werte der Regressoren der erklarenden Variablen Im Fall x i 1 1 displaystyle x i1 1 nbsp fur i 1 n displaystyle i 1 dots n nbsp liegt eine Regression mit Absolutglied vor Eine Minimalstelle b displaystyle hat boldsymbol beta nbsp d h ein Vektor b arg min b i 1 n y i x i b displaystyle hat boldsymbol beta arg min boldsymbol beta sum i 1 n left y i mathbf x i top boldsymbol beta right nbsp ist ein geschatzter Parametervektor Das Minimierungsproblem kann als Aufgabe der linearen Programmierung formuliert werden und bspw mit dem Simplex Verfahren gelost werden Beispiel und einfachster Spezialfall BearbeitenDer einfachste Spezialfall ergibt sich fur K 1 displaystyle K 1 nbsp 8 b 1 displaystyle theta beta 1 nbsp und einen konstanten Regressor mit x i 1 1 displaystyle x i1 1 nbsp fur i 1 n displaystyle i 1 dots n nbsp Die Minimierung von i 1 n y i 8 2 displaystyle sum i 1 n y i theta 2 nbsp bzgl 8 displaystyle theta nbsp fur fixierte y Werte d h die Anwendung der Methode der kleinsten Quadrate fuhrt dann zur Minimalstelle y arg min 8 R t 1 n y i 8 2 displaystyle bar y arg min theta in mathbb R sum t 1 n y i theta 2 nbsp d h zum arithmetischen Mittelwert der y Werte Die Minimierung von i 1 n y i 8 displaystyle sum i 1 n y i theta nbsp bzgl 8 displaystyle theta nbsp fur fixierte y Werte fuhrt dazu dass jeder Median y displaystyle tilde y nbsp der y Werte eine Minimalstelle ist also y arg min 8 R i 1 n y i 8 displaystyle tilde y arg min theta in mathbb R sum i 1 n y i theta nbsp erfullt Ein Median ist in diesem Zusammenhang jede Stelle y R displaystyle tilde y in mathbb R nbsp fur die zugleich i 1 n y i y n 1 2 und i 1 n y i y n 1 2 displaystyle frac i in 1 dots n mid y i geq tilde y n geq 1 2 quad text und quad frac i in 1 dots n mid y i leq tilde y n geq 1 2 nbsp gilt Beispielsweise ist fur n 4 displaystyle n 4 nbsp und y 1 1 y 2 2 y 3 3 y 4 4 displaystyle y 1 1 y 2 2 y 3 3 y 4 4 nbsp jeder Wert im Intervall 2 3 displaystyle 2 3 nbsp ein Median Im Unterschied zur Methode der kleinsten Quadrate ist bei der Minimierung der absoluten Abstande die Eindeutigkeit der Minimalstelle nicht garantiert Literatur BearbeitenLudwig Fahrmeir Thomas Kneib Stefan Lang Brian D Marx Regression Models Methods and Applications Springer Berlin Heidelberg 2013 ISBN 978 3 642 34332 2 doi 10 1007 978 3 642 34333 9 E Book ISBN 978 3 642 34333 9 Einzelnachweise Bearbeiten a b Ludwig Fahrmeir et al Regression Models Methods and Applications 2013 S 105 Ludwig Fahrmeir et al Regression Models Methods and Applications 2013 Kapitel 10 Quantile Regression Abgerufen von https de wikipedia org w index php title Median Regression amp oldid 234161220