Schätzgütemaße für kardinale Insolvenzprognosen

Während ordinale Insolvenzprognosen lediglich eine Reihung von Unternehmen entsprechend den erwarteten Ausfallwahrscheinlichkeiten vornehmen, ordnen kardinale Insolvenzprognosen jedem Unternehmen explizit eine Ausfallwahrscheinlichkeit zu.

Fundamentale Kriterien für die Bewertung von Insolvenzprognosen

Da sich Ausfallwahrscheinlichkeiten auch als Reihungskriterium interpretieren lassen, können kardinale Insolvenzprognosen hinsichtlich aller Gütekriterien bewertet werden, die auch für ordinale Insolvenzprognosen anwendbar sind:

• Auflösung (resolution) misst, wie stark differenziert die realisierten Ausfallquoten bezogen auf die unterschiedlichen Ratingklassen sind. Minimale Auflösung ist dann gegeben, wenn für alle Ratingklassen die gleichen realisierten Ausfallquoten zu verzeichnen sind. Maximale Auflösung ist dann gegeben, wenn in den einzelnen Ratingklassen 0 %- oder 100 %-Ausfallquoten auftreten,
• Trennfähigkeit (discrimination) misst, wie stark sich die Prognosen bei tatsächlich ausgefallenen/ tatsächlich nicht ausgefallenen Unternehmen unterscheiden.

Zusätzlich können aber auch Kriterien geprüft werden, bei denen die ex-ante Angabe von Ausfallwahrscheinlichkeiten zwingend erforderlich ist:

• Kalibrierung misst für Gruppen von Prognosen (Ratingklassen), wie gut die prognostizierten Ausfallwahrscheinlichkeiten mit den realisierten Ausfallquoten übereinstimmen,
• systematische Verzerrung (unconditional bias): gibt an, wie stark sich die durchschnittliche prognostizierte Ausfallwahrscheinlichkeit von der tatsächlichen Ausfallquote unterscheidet,
• Feinheit (refinement) misst, wie stark differenziert die Ausfallprognosen sind. Minimale Feinheit ist dann gegeben, wenn stets eine identische Ausfallwahrscheinlichkeit prognostiziert wird; maximale Feinheit ist dann gegeben, wenn nur 0 %- oder 100 %-Prognosen abgegeben werden.

Kennzahlen die simultan von allen oder einigen dieser Eigenschaften kardinaler Insolvenzprognosen determiniert werden, werden im Folgenden als Maße für die Präzision (accuracy) eines Verfahrens bezeichnet. Kennzahlen, welche die Präzision eines Prognoseverfahrens ins Verhältnis zur Präzision eines bestimmten Referenzverfahrens setzen, werden als Maße der Relativen Präzision (auch skill scores oder relative accuracy) bezeichnet.

Kennzahlen zur Messung der Kalibrierung von Insolvenzprognosen

Kennzahlen die nur einzelne der oben aufgeführten Aspekte kardinaler Insolvenzprognosen messen, insbesondere den Aspekt der Kalibrierung, sind beispielsweise der Gruppierte Brier-Score oder der Rommelfanger-Index.

Gruppierter Brier-Score

Der Gruppierte Brier-Score ist wie folgt definiert

Formel 1:

Anmerkung: Eine naheliegende Alternative zur Gleichgewichtung der ratingklassenspezifischen quadrierten Differenzen der prognostizierten und realisierten Ausfallquoten bei der Ermittlung des Scores besteht in der Berücksichtigung der relativen Belegungsstärken der einzelnen Ratingklassen:

Formel 1b:

Trotz des ähnlichen Aufbaus unterscheiden sich der gruppierte Brier-Score und der Brier-Score, der im Folgenden vorgestellt wird, grundlegend. Im Gegensatz zum Brier-Score (siehe unten) wird der gruppierte Brier-Score nur von der Güte der Kalibrierung eines Ratingverfahrens beeinflusst – nicht jedoch von allen anderen Kriterien kardinaler Schätzgütemaße.

Rommelfanger-Index

Der Rommelfanger-Index ist wie folgt definiert:

Formel 2:

Anmerkung: Es wird keine Aussage darüber getroffen, wie die „geeigneten Gewichte“ beschaffen sein müssen. Weitere Kritikpunkte an dieser Kenngröße, neben der ausschließlichen Fokussierung auf den Aspekt der Kalibrierung, sind die Abhängigkeit von irrelevanten Größen (Struktur der Lernstichprobe) und die Setzung von Anreizen zu systematischen Fehlprognose: da in den Klassen 1 … g-1 nur zu hohe und in der Klasse g nur zu niedrige Ausfallwahrscheinlichkeiten „bestraft“ werden, besteht ein Anreiz, alle Prognosen systematisch zu hoch (Ratingklasse 1 … g-1) bzw. zu niedrig (Ratingklasse g) anzusetzen.

Weitere Kennzahlen zur Messung der Kalibrierung von Insolvenzprognosen

Weitere Kenngrößen, die ausschließlich die Korrektheit der Kalibrierung einzelner oder aller Ratingklassen überprüfen, sind Teststatistiken des Binomialtests, des χ²-Tests oder des Normalverteilungstests.

Universelle Schätzgütemaße für kardinale Insolvenzprognosen

Grundlegender Aufbau universeller Schätzgütemaße für kardinale Insolvenzprognosen

Die beiden im Folgenden vorgestellten Präzisionsmaße kardinaler Insolvenzprognosen basieren auf einem einheitlichen Grundprinzip: sie vergleichen die individuellen prognostizierten Ausfallwahrscheinlichkeiten mit den realisierten Ausfallergebnissen (mit falls Schuldner i ausgefallen/ nicht ausgefallen ist) und belegen die dabei auftretenden Differenzen mit unterschiedlichen „Strafen“. Auf diese Weise werden sie von allen der oben aufgeführten fundamentalen Kriterien für die Bewertung von Ausfallprognosen beeinflusst – und nicht nur von einzelnen dieser Maße.

Im Gegensatz zu kategorialen Insolvenzprognosenverfahren, die nur die Extremprognosen „Ausfall“ vs. „Nichtausfall“ erlauben, ist bei stochastischen Ausfallprognosen (kardinalen Ausfallprognosen) zunächst fraglich, warum Abweichungen der individuellen Prognosen (Ausfallwahrscheinlichkeiten) und Ausfallrealisierung als Fehler „bestraft“ werden sollten. Schließlich können die Prognosen beliebige Werte zwischen 0 % und 100 % annehmen, während die Ausfallrealisierungen nur die Extremenwerte 1 („Ausfall“) oder 0 („Nichtausfall“) annehmen können. Selbst wenn die prognostizierten Ausfallwahrscheinlichkeiten „richtig“ sind, d. h. korrekt kalibriert sind, wenn also beispielsweise 5 % aller Unternehmen ausfallen, bei denen das Verfahren eine Ausfallwahrscheinlichkeit von 5 % vorhergesagt hat und 10 % aller Unternehmen ausfallen, bei denen das Verfahren eine Ausfallwahrscheinlichkeit von 10 % vorhergesagt hat usw., werden die Verfahren „bestraft“, d. h. erhalten nicht die bestmögliche Ausprägung. „Bestraft“ wird in diesen Fällen jedoch die nicht perfekte Trennschärfe der Verfahren: ein Verfahren, das bei allen deutschen Unternehmen im Jahr 2003 eine Insolvenzwahrscheinlichkeit von 1,35 % vorausgesagt hätte, wäre zwar perfekt kalibriert gewesen, hätte aber eine hohe „Strafe“ für seine nicht-trennscharfen Prognosen erhalten. Ein Verfahren hingegen, das bei 1,35 % dieser Unternehmen eine Insolvenzwahrscheinlichkeit von 100 % und bei den restlichen 98,65 % eine Ausfallwahrscheinlichkeit von 0 % vorhergesagt und mit diesen Prognosen auch immer recht gehabt hätte, hätte die bestmögliche Bewertung erhalten.

Zwei übliche Präzisionsmaße für die Bewertung kardinaler Insolvenzprognosen, die sich nur hinsichtlich der konkreten Ausprägung ihrer „Straffunktionen“ unterscheiden, sind die bedingte Informationsentropie und der Brier-Score.

Bedingte Informationsentropie

Die bedingte Informationsentropie (CIE, conditional information entropy) basiert auf einer logarithmischen „Straffunktion“. Die Entropie stellt ein aus der Thermodynamik entlehntes Konzept dar, welches das Ausmaß an Unordnung eines Systems messen soll. Im Kontext von Insolvenzprognosen soll die bedingte Informationsentropie das Ausmaß an Unsicherheit quantifizieren, das mit der mit einem Ratingmodell ermittelten Ausfallwahrscheinlichkeitenverteilung eines Portfolios von Unternehmen verbunden ist.

Formel 3:

Formel 4:

Formel 4b:

Formel 5:

Formel 6:

Brier-Score

Im Gegensatz zur bedingten Informationsentropie (CIE) basiert der Brier-Score auf einer quadratischen Funktion, mit der Abweichungen der prognostizierten Ausfallwahrscheinlichkeiten von den Ausfallrealisationen „bestraft“ werden. Er ist wie folgt definiert:

Formel 7:

Formel 8:

Formel 8b:

Formel 9: mit

Formel 10:

Die „Straffunktionen“ der bedingten Informationsentropie und des Brier-Scores sind als willkürlich in dem Sinne anzusehen, als dass sie nicht Bezug auf die letztendlich interessierenden (und möglicherweise differierenden) Nutzengrößen der Anwender des Prognoseverfahrens nehmen. Die Kenngrößen zeigen jedoch ein „plausibles“ Verhalten, so dass eine Korrelation mit den Nutzengrößen der potentiellen Anwender der Prognosen zumindest vermutet werden kann: Beide Scores „belohnen“ richtig kalibrierte und trennfähige Prognosen – und durch Umformungen der resultierenden Scorewerte lassen sich auch Bezüge zu den anderen Gütekriterien für kardinale Insolvenzprognosen, wie Auflösung, Feinheit, systematische Verzerrung, herstellen.

Dekomposition des Brier-Scores in die Komponenten Varianz, Kalibrierung und Auflösung

Umweltabhängigkeit kardinaler Schätzgütemaße

Aus der in obiger Abbildung dargestellten Dekomposition des Brier-Scores wird jedoch eine problematische Eigenschaft des Brier-Scores (und anderer kardinaler Gütemaße) ersichtlich: die Abhängigkeit von der durchschnittlichen Ausfallrate der Grundgesamtheit. Je größer die Varianz der Umgebung (PD·(1-PD)) ist, desto größer (=schlechter) ist der Brier-Score, den ein Verfahren in der jeweiligen Umgebung erzielt. Um diese unerwünschte Umweltabhängigkeit kardinaler Gütemaße zu vermeiden, wird die Verwendung von Skillmaßen vorgeschlagen, die den ermittelten Gütewert in Relation zur Güte von naiven Prognosen in der gleichen Umgebung betrachten.

Unerwünscht ist diese Abhängigkeit, weil sie den Performancevergleich unterschiedlicher Verfahren beeinträchtigt, wenn die Leistungsfähigkeit der Verfahren auf Grundgesamtheiten mit unterschiedlichen durchschnittlichen Ausfallhäufigkeiten gemessen werden. Empirisch und (modell-)theoretisch lässt sich jedoch zeigen, dass auch Skill-Scores umweltabhängig sind – während der Brier-Score (für PD_i<50 %) mit zunehmenden Ausfallwahrscheinlichkeiten immer „schlechter“ wird, werden die zugehörigen Skillscores aber paradoxerweise immer „besser“. Schätzgütemaße für ordinale Insolvenzprognosen weisen diesen Nachteil nicht auf.

Vereinzelt werden obige Gütemaße auch unter der Fiktion einer richtigen Kalibrierung verwendet, d. h. ex-post wird PD_i,prog = PD_i,tat für alle i gesetzt. Die Formeln 4b und 8b vereinfachen sich dann zu:

Formel 4c:

Formel 8c:

Formel 8d:

Die so erhaltenen Gütemaße sind dann unempfindlich gegenüber möglichen Fehlkalibrierungen (oder gar fehlenden Kalibrierungen, wie im Fall ordinaler Insolvenzprognosen) – der mittlere Term („Kalibrierung“) in obiger Abbildung entfällt – und sie messen somit lediglich die Varianz der Umwelt und die Auflösung der Prognosen. Für portfolioübergreifende Vergleich sind sie aber aufgrund der Abhängigkeit von der durchschnittlichen Ausfallrate ungeeignet. Beim Vergleich verschiedener Prognoseverfahren auf Basis identischer Portfolios sind sie zwar nicht informativer als die üblichen Schätzgütemaße für ordinale Insolvenzprognosen wie Area under the ROC curve und Accuracy Ratio, sie können aber als zusätzliches Kriterium herangezogen werden, speziell im Fall von einander schneidenden ROC-Kurven. Deuten beim direkten Vergleich zweier Prognoseverfahren alle Indikatoren auf die Überlegenheit des gleichen Verfahrens, so wird der Entscheidungsträger – wenn er sich für dieses Verfahren entscheidet, in seiner Sicherheit bestärkt, das richtige Verfahren gewählt zu haben. Geben die verschiedenen Indikatoren widersprüchliche Signale, ist anzunehmen, dass der Entscheidungsträger zumindest keinen „großen Fehler“ macht, wenn er sich für ein beliebiges der beiden Verfahren entscheidet. Alternativ kann er dann auch sekundäre Entscheidungskriterien heranziehen wie die Kosten der Prognoseerstellung oder die Transparenz und Nachvollziehbarkeit der Prognoseverfahren.

Literatur

• Basler Ausschuss: siehe Basler Ausschuss für Bankenaufsicht
• Studies on the Validation of Internal Rating Systems. (PDF; 491 kB) Working Paper No. 14, 24. Oktober 2005, überarbeitete Version, 05/2005, Basler Ausschuss für Bankenaufsicht
• M. Bemmann: Verbesserung der Vergleichbarkeit von Schätzgüteergebnissen von Insolvenzprognosestudien. In: Dresden Discussion Paper Series in Economics, 08/2005, ideas.repec.org (8. November 2006) und papers.ssrn.com abgerufen 27. November 2006
• G. W. Brier: Verification of forecasts expressed in terms of probability. In: Monthly Weather Review, 78, 1950, S. 1–3
• B. Cangemi, A. de Servigny, C. Friedman: Standard & Poor’s Credit Risk Tracker for Private Firms. (PDF) Technical Document, 2003; abgerufen 6. November 2006
• DVFA – Validierungsstandards. Deutsche Vereinigung für Finanzanalyse, Kommission Rating Standards, Arbeitskreis 2 „Validierung“. In: Finanz Betrieb, 09/2004, S. 596–601
• DVFA: siehe Deutsche Vereinigung für Finanzanalyse
• H. Frerichs, M. Wahrenburg: Evaluating internal credit rating systems depending on bank size”, Working Paper Series: Finance and Accounting. Johann Wolfgang Goethe-Universität, Frankfurt am Main, No. 115. 09/2003, ideas.repec.org; abgerufen 14. November 2006
• J. Grunert, L. Norden, M. Weber: The role of non-financial factors in internal credit ratings. In: Journal of Banking and Finance, Band 29, 2005, S. 509–531
• D. Gujarati: Essentials of Econometrics. 2. Auflage. Irwin/McGraw-Hill, 1999
• S. C. Keenan: Predicting Default Rates: A Forecasting Model for Moody’s Issuer-Based Default Rates. (PDF) Moody’s Investors Service, Special Comment, Report # 47729, 08/1999; abgerufen 6. November 2006
• S. C. Keenan, J. R. Sobehart: Performance Measures for Credit Risk Models. (PDF) In: Moody’s Investors Service, Research Report # 1-10-10-99, 1999; abgerufen 6. November 2006
• W. Krämer: Die Bewertung und der Vergleich von Kreditausfall-Prognosen. In: Kredit und Kapital, Band 36 (3), 2003, S. 395–410
• W. Krämer, A. Güttler: (PDF) Universität Dortmund, Technical Report-Reihe des SFB 475, Nr. 23, 2003; abgerufen 6. November 2006
• J. E. Matheson, R. L. Winkler: Scoring rules for continuous probability distributions. In: Management Sciences, Band 22, 1976, No. 10
• A. H. Murphy, R. L. Winkler: Diagnostic verification of probability forecasts. In: International Journal of Forecasting, Band 7, 1992, S. 435–455
• OENB: siehe Österreichische Nationalbank
• Ratingmodelle und -validierung, Leitfadenreihe zum Kreditrisiko. (PDF) 2. Januar 2016, Österreichische Nationalbank, Wien 2004
• H. Scheule: Prognose von Kreditausfallrisiken. zugelassene Dissertation, Universität Regensburg, 2003. Uhlenbruch Verlag, Bad Soden/Ts., 2003
• Claude Elwood Shannon: A Mathematical Theory of Communication. In: Bell System Technical Journal, Band 27, 1948, S. 379–423, 623–656, reprinted in Mobile Computing and Communications Review, Band 5 (I), 2001, S. 3–55
• J. R. Sobehart, S. C. Keenan, R. M. Stein: Benchmarking Quantitative Default Risk Models: A Validation Methodology. (PDF) In: Moody’s Investors Service, Rating Methodology, Report # 53621, 03/2000; abgerufen 2. Januar 2016
• S&P: siehe Standard and Poor’s
• S&P Quarterly Default Update & Rating Transitions. Standard and Poor’s. The McGraw Hills Companies, 10/2004
• R. L. Winkler: Evaluating Probabilities: Asymmetric Scoring Rules, in Management Science, Band 40, 1994, No. 11, S. 1395–1405

Einzelnachweise

1. Dieser Artikel basiert auf Bemmann (2005).
2. Siehe Murphy, Winkler (1992, S. 440) für die formalen Definitionen der im Folgenden vorgestellten Gütekriterien resolution, discrimination, calibration, refinement, unconditional bias, accuracy und skill.
3. Auch die unter Schätzgütemaße für ordinale Insolvenzprognosen behandelten Kenngrößen Accuracy Ratio und Area under the ROC curve werden von der Auflösung und Trennfähigkeit der Prognosen beeinflusst.
4. siehe Murphy, Winkler (1992, S. 440)
5. Siehe beispielsweise Frerichs, Wahrenburg (2003, S. 16, eigene Notation). In einer Simulationsstudie finden die Autoren, dass der gruppierte Brier-Score nicht als Validierungskenngröße für Ratingsysteme geeignet ist, da er nicht in der Lage ist, „unterlegene“ Ratingsysteme zuverlässig zu identifizieren.
6. DVFA (2004, S. 600, eigene Notation)
7. siehe DVFA (2004, S. 599)
8. Studies on the Validation of Internal Rating Systems. (PDF; 491 kB) Working Paper No. 14, 24. Oktober 2005, überarbeitete Version, 05/2005, Basler Ausschuss für Bankenaufsicht, S. 47 ff.
9. siehe auch Krämer (2003, S. 396f.)
10. Siehe Sobehart, Keenan, Stein (2000, S. 14). Siehe Shannon (1948, S. 11f.) für eine axiomatische Rechtfertigung für die Verwendung logarithmischer „Straffunktionen“ – allerdings ist das letzte dieser Axiome im Fall von Unternehmensinsolvenzen mit nur zwei möglichen Ausprägungen „Ausfall“ vs. „Nicht-Ausfall“ nicht sinnvoll anwendbar. Siehe ferner Matheson, Winkler (1976), Keenan, Sobehart (1999, S. 9), und Studies on the Validation of Internal Rating Systems. (PDF; 491 kB) Working Paper No. 14, 24. Oktober 2005, überarbeitete Version, 05/2005, Basler Ausschuss für Bankenaufsicht, S. 44, für Formel F 27 (eigene Notation).
11. siehe Krämer, Güttler (2003, S. 12)
12. siehe Keenan, Sobehart (1999, S. 10)
13. Sobehart, Keenan, Stein (2000, S. 14): “The CIER compares the amount of ‘uncertainty’ regarding default in the case where we have no model (a state of more uncertainty about the possible outcomes) to the amount of ‘uncertainty’ left over after we have introduced a model (presumably, a state of less ignorance).”
14. Angesichts der im Zeitverlauf sehr volatilen Ausfallraten bei Unternehmen, ist die Prognose der künftigen PD keineswegs trivial. Siehe hierzu beispielsweise Keenan (1999) oder S&P Quarterly Default Update & Rating Transitions. Standard and Poor’s. The McGraw Hills Companies, 10/2004, S. 3.
15. siehe Basler Ausschuss (2005, S. 30)
16. siehe Cangemi, Servigny, Friedman (2003, S. 40)
17. siehe Scheule (2003, S. 51)
18. Für die Definition des Brier-Scores siehe Brier (1950, S. 1), Murphy, Winkler (1992, S. 439, Formel 7), Krämer, Güttler (2003, S. 11), Frerichs, Wahrenburg (2003, S. 14), Ratingmodelle und -validierung, Leitfadenreihe zum Kreditrisiko. (PDF) 2. Januar 2016, Österreichische Nationalbank, Wien 2004, S. 123 ff., Grunert, Norden, Weber (2005, S. 517)
19. siehe Gujarati (1999, S. 170ff.)
20. Diese Aussage ist nicht trivial. Wird als Straffunktion beispielsweise verwendet, so führt für und für zu geringeren erwarteten Strafen als , siehe Bemmann (2005, Anhang II). Siehe ebenda für den Beweis der Anreizkompatibilität des Brier-Scores und der bedingten Informationsentropie. Bereits Brier (1950, S. 2) führt die Anreizkompatibilität als einen Vorteil des Brier-Scores an.
21. Beide Schätzgütemaße erreichen ihre günstigsten Ausprägungen, wenn ein Verfahren stets Ausfallwahrscheinlichkeiten von 0 % oder 100 % prognostiziert und die Prognosen auch eintreffen.
22. siehe Murphy, Winkler (1992)
23. siehe Bemmann (2005, Anhang III)
24. siehe Krämer (2003, S. 406) oder Winkler (1994, S. 1397): “The development of so called 'skill-scores’ has been motivated by the desire to produce average scores that reflect the relative ability of forecaster rather than some combination of the forecaster’s ability to and the situation’s difficulty. These skill scores attempt to neutralize the contribution of the situation by comparing a forecaster’s average score to the average score that an unsophisticated forecasting scheme would have obtained for the same set of forecasting situations.”
25. siehe Winkler (1994, S. 1401f.) und Bemmann (2005, Anhang III)
26. siehe Bemmann (2003, Anhang)
27. siehe Krämer, Güttler (2003, S. 12)