www.wikidata.de-de.nina.az

Maschinelles Lernen ML ist ein Oberbegriff für die künstliche Generierung von Wissen aus Erfahrung Ein künstliches Syste

Maschinelles Lernen

Maschinelles Lernen (ML) ist ein Oberbegriff für die „künstliche“ Generierung von Wissen aus Erfahrung: Ein künstliches System lernt aus Beispielen und kann diese nach Beendigung der Lernphase verallgemeinern. Dazu bauen Algorithmen beim maschinellen Lernen ein statistisches Modell auf, das auf Trainingsdaten beruht und welches gegen die Testdaten getestet wird. Das heißt, es werden nicht einfach die Beispiele auswendig gelernt (siehe Überanpassung), sondern Muster und Gesetzmäßigkeiten in den Lerndaten erkannt. So kann das System auch unbekannte Daten beurteilen (Lerntransfer) oder aber am Lernen unbekannter Daten scheitern (Überanpassung; englisch overfitting). Aus dem weiten Spektrum möglicher Anwendungen seien hier genannt: automatisierte Diagnose­verfahren, Erkennung von Kreditkartenbetrug, Aktienmarkt­analysen, Klassifikation von Nukleotidsequenzen, Sprach- und Texterkennung sowie autonome Systeme.

Das Thema ist eng verwandt mit „Knowledge Discovery in Databases“ und „Data-Mining“, bei dem es jedoch vorwiegend um das Finden von neuen Mustern und Gesetzmäßigkeiten geht. Viele Algorithmen können für beide Zwecke verwendet werden. Methoden der „Knowledge Discovery in Databases“ können genutzt werden, um Lerndaten für „maschinelles Lernen“ zu produzieren oder vorzuverarbeiten. Im Gegenzug dazu finden Algorithmen aus dem maschinellen Lernen beim Data-Mining Anwendung. Zu unterscheiden ist der Begriff zudem von dem Begriff „Deep Learning“, welches nur eine mögliche Lernvariante mittels künstlicher neuronaler Netze darstellt.

Das Schließen von Daten auf (hypothetische) Modelle wird als Statistische Inferenz bezeichnet.

Symbolische und nicht-symbolische Ansätze Bearbeiten

Beim maschinellen Lernen spielen Art und Mächtigkeit der Wissensrepräsentation eine wichtige Rolle. Man unterscheidet zwischen symbolischen Ansätzen, in denen das Wissen – sowohl die Beispiele als auch die induzierten Regeln – explizit repräsentiert ist, und nicht-symbolischen Ansätzen, wie neuronalen Netzen, denen zwar ein berechenbares Verhalten „antrainiert“ wird, die jedoch keinen Einblick in die erlernten Lösungswege erlauben; hier ist Wissen implizit repräsentiert.

Bei den symbolischen Ansätzen werden aussagenlogische und prädikatenlogische Systeme unterschieden. Vertreter der ersteren sind ID3 und sein Nachfolger C4.5. Letztere werden im Bereich der induktiven logischen Programmierung entwickelt.

Algorithmische Ansätze Bearbeiten

Die praktische Umsetzung geschieht mittels Algorithmen. Verschiedene Algorithmen aus dem Bereich des maschinellen Lernens lassen sich grob in drei Gruppen einteilen: überwachtes Lernen (englisch supervised learning), unüberwachtes Lernen (englisch unsupervised learning) und bestärkendes Lernen (engl. reinforcement learning).

Überwachtes Lernen Bearbeiten

Der Algorithmus lernt eine Funktion aus gegebenen Paaren von Ein- und Ausgaben. Dabei stellt während des Lernens ein „Lehrer“ den korrekten Funktionswert zu einer Eingabe bereit. Ziel beim überwachten Lernen ist, dass dem Netz nach mehreren Rechengängen mit unterschiedlichen Ein- und Ausgaben die Fähigkeit antrainiert wird, Assoziationen herzustellen. Ein Teilgebiet des überwachten Lernens ist die automatische Klassifizierung. Ein Anwendungsbeispiel wäre die Handschrifterkennung.

Es lassen sich noch einige Unterkategorien für Überwachtes Lernen identifizieren, die in der Literatur häufiger erwähnt werden:

  • Teilüberwachtes Lernen (englisch semi-supervised learning) Nur für einen Teil der Eingaben sind die dazugehörigen Ausgaben bekannt.
  • Aktives Lernen (englisch active learning) Der Algorithmus hat die Möglichkeit, für einen Teil der Eingaben die korrekten Ausgaben zu erfragen. Dabei muss der Algorithmus die Fragen bestimmen, welche einen hohen Informationsgewinn versprechen, um die Anzahl der Fragen möglichst klein zu halten.
  • Selbständiges Lernen (englisch self-training) Dieser Algorithmus kann in zwei wesentliche Komponenten eingeteilt werden. Die erste Algorithmuskomponente (Lehrer) leitet aus einem bestehenden gelabelten Datensatz weitere Datensätze mit Pseudolabeln her. Die zweite Algorithmuskomponente lernt nun aus dem erweiterten gelabelten Datensatz und wendet gefundene Muster für ihr eigenes Modell an.

Unüberwachtes Lernen Bearbeiten

Der Algorithmus erzeugt für eine gegebene Menge von Eingaben ein statistisches Modell, das die Eingaben beschreibt und erkannte Kategorien und Zusammenhänge enthält und somit Vorhersagen ermöglicht. Dabei gibt es Clustering-Verfahren, die die Daten in mehrere Kategorien einteilen, die sich durch charakteristische Muster voneinander unterscheiden. Das Netz erstellt somit selbständig Klassifikatoren, nach denen es die Eingabemuster einteilt. Ein wichtiger Algorithmus in diesem Zusammenhang ist der EM-Algorithmus, der iterativ die Parameter eines Modells so festlegt, dass es die gesehenen Daten optimal erklärt. Er legt dabei das Vorhandensein nicht beobachtbarer Kategorien zugrunde und schätzt abwechselnd die Zugehörigkeit der Daten zu einer der Kategorien und die Parameter, die die Kategorien ausmachen. Eine Anwendung des EM-Algorithmus findet sich beispielsweise in den Hidden Markov Models (HMMs). Andere Methoden des unüberwachten Lernens, z. B. Hauptkomponentenanalyse, verzichten auf die Kategorisierung. Sie zielen darauf ab, die beobachteten Daten in eine einfachere Repräsentation zu übersetzen, die sie trotz drastisch reduzierter Information möglichst genau wiedergibt.

Des Weiteren unterscheidet man zwischen Batch-Lernen, bei dem alle Eingabe/Ausgabe-Paare gleichzeitig vorhanden sind, und kontinuierlichem (sequentiellem) Lernen, bei dem sich die Struktur des Netzes zeitlich versetzt entwickelt.

Außerdem unterscheidet man zwischen Off-line-Lernen, bei dem alle Daten gespeichert sind und somit wiederholbar zugreifbar sind, und On-line-Lernen, bei dem die Daten nach einmaligem Ausführen und Anpassen der Gewichte verloren gehen. Batch Training ist immer off-line, On-line-Training ist immer inkrementell. Inkrementelles Lernen kann jedoch on-line oder off-line erfolgen.

Bestärkendes Lernen Bearbeiten

Beim bestärkenden Lernen entwickeln Agenten selbständig eine Strategie, um erhaltene Belohnungen zu maximieren. Aufgrund seiner Allgemeingültigkeit wird dieses Gebiet auch in vielen anderen Disziplinen untersucht, z. B. in der Spieltheorie, der Kontrolltheorie, dem Operations Research, der Informationstheorie, der simulationsbasierten Optimierung, den Multiagentensystemen, der Schwarmintelligenz, der Statistik und den genetischen Algorithmen. Beim maschinellen Lernen wird die Umgebung normalerweise als Markov-Entscheidungsprozess (MDP) dargestellt. Viele Algorithmen des Verstärkungslernens verwenden Techniken der dynamischen Programmierung. Verstärkungslernalgorithmen setzen keine Kenntnis eines exakten mathematischen Modells des MDP voraus und werden eingesetzt, wenn exakte Modelle nicht durchführbar sind. Verstärkungslernalgorithmen werden in autonomen Fahrzeugen oder beim Lernen eines Spiels gegen einen menschlichen Gegner eingesetzt.

Automatisches Maschinelles Lernen Bearbeiten

Automatisches maschinelles Lernen automatisiert viele Schritte des maschinellen Lernens.

Siehe auch Bearbeiten

Commons: Maschinelles Lernen – Sammlung von Bildern, Videos und Audiodateien

Literatur Bearbeiten

  • Andreas C. Müller, Sarah Guido: Einführung in Machine Learning mit Python. O’Reilly-Verlag, Heidelberg 2017, ISBN 978-3-96009-049-6.
  • Christopher M. Bishop: Pattern Recognition and Machine Learning. Information Science and Statistics. Springer-Verlag, Berlin 2008, ISBN 978-0-387-31073-2.
  • David J. C. MacKay: Information Theory, Inference and Learning Algorithms. Cambridge University Press, Cambridge 2003, ISBN 978-0-521-64298-9 (Online).
  • Trevor Hastie, Robert Tibshirani, Jerome Friedman: The Elements of Statistical Learning. Data Mining, Inference, and Prediction. 2. Auflage. Springer-Verlag, 2008, ISBN 978-0-387-84857-0 (stanford.edu [PDF]).
  • Thomas Mitchell: Machine Learning. Mcgraw-Hill, London 1997, ISBN 978-0-07-115467-3.
  • D. Michie, D. J. Spiegelhalter: Machine Learning, Neural and Statistical Classification. In: Ellis Horwood Series in Artificial Intelligence. E. Horwood Verlag, New York 1994, ISBN 978-0-13-106360-0.
  • Richard O. Duda, Peter E. Hart, David G. Stork: Pattern Classification. Wiley, New York 2001, ISBN 978-0-471-05669-0.
  • David Barber: Bayesian Reasoning and Machine Learning. Cambridge University Press, Cambridge 2012, ISBN 978-0-521-51814-7.
  • Arthur L. Samuel (1959): Some studies in machine learning using the game of checkers. IBM J Res Dev 3:210–229. doi:10.1147/rd.33.0210.
  • Alexander L. Fradkov: Early History of Machine Learning. IFAC-PapersOnLine, Volume 53, Issue 2, 2020, Pages 1385-1390, doi:10.1016/j.ifacol.2020.12.1888.

Weblinks Bearbeiten

Einzelnachweise Bearbeiten

  1. Tobias Reitmaier: Aktives Lernen für Klassifikationsprobleme unter der Nutzung von Strukturinformationen. kassel university press, Kassel 2015, ISBN 978-3-86219-999-0, S. 1 (Google books).
  2. Lillian Pierson: Data Science für Dummies. 1. Auflage. Wiley-VCH Verlag, Weinheim 2016, ISBN 978-3-527-80675-1, S. 105 f. (Google books).
  3. Pat Langley: The changing science of machine learning. In: Machine Learning. Band 82, Nr. 3, 18. Februar 2011, S. 275–279, doi:10.1007/s10994-011-5242-y.
  4. ftp://ftp.sas.com/pub/neural/FAQ.html#questions
  5. Ralf Mikut: Data Mining in der Medizin und Medizintechnik. KIT Scientific Publishing, 2008, ISBN 978-3-86644-253-5, S. 34 (Google books).
  6. Paul Fischer: Algorithmisches Lernen. Springer-Verlag, 2013, ISBN 978-3-663-11956-2, S. 6–7 (Google books).
  7. Self-training with Noisy Student improves ImageNet classification. In: Arxiv. Abgerufen am 20. Dezember 2019 (englisch).
  8. ftp://ftp.sas.com/pub/neural/FAQ2.html#A_styles
  9. Richard S. Sutton: Reinforcement learning : an introduction. Second edition Auflage. Cambridge, Massachusetts 2018, ISBN 978-0-262-03924-6.
  10. Machine Learning: Definition, Algorithmen, Methoden und Beispiele. 11. August 2020, abgerufen am 31. Januar 2022.
  11. Marco Wiering, Martijn van Otterlo: Reinforcement learning : state-of-the-art. Springer, Berlin 2012, ISBN 978-3-642-27645-3.
wikipedia, wiki, deutsches, deutschland, buch, bücher, bibliothek artikel lesen, herunterladen kostenlos kostenloser herunterladen, MP3, Video, MP4, 3GP, JPG, JPEG, GIF, PNG, Bild, Musik, Lied, Film, Buch, Spiel, Spiele
Veröffentlichungsdatum:
Maschinelles Lernen ML ist ein Oberbegriff fur die kunstliche Generierung von Wissen aus Erfahrung Ein kunstliches System lernt aus Beispielen und kann diese nach Beendigung der Lernphase verallgemeinern Dazu bauen Algorithmen beim maschinellen Lernen ein statistisches Modell auf das auf Trainingsdaten beruht und welches gegen die Testdaten getestet wird Das heisst es werden nicht einfach die Beispiele auswendig gelernt siehe Uberanpassung sondern Muster und Gesetzmassigkeiten in den Lerndaten erkannt So kann das System auch unbekannte Daten beurteilen Lerntransfer oder aber am Lernen unbekannter Daten scheitern Uberanpassung englisch overfitting 1 2 Aus dem weiten Spektrum moglicher Anwendungen seien hier genannt automatisierte Diagnose verfahren Erkennung von Kreditkartenbetrug Aktienmarkt analysen Klassifikation von Nukleotidsequenzen Sprach und Texterkennung sowie autonome Systeme Das Thema ist eng verwandt mit Knowledge Discovery in Databases und Data Mining bei dem es jedoch vorwiegend um das Finden von neuen Mustern und Gesetzmassigkeiten geht Viele Algorithmen konnen fur beide Zwecke verwendet werden Methoden der Knowledge Discovery in Databases konnen genutzt werden um Lerndaten fur maschinelles Lernen zu produzieren oder vorzuverarbeiten Im Gegenzug dazu finden Algorithmen aus dem maschinellen Lernen beim Data Mining Anwendung Zu unterscheiden ist der Begriff zudem von dem Begriff Deep Learning welches nur eine mogliche Lernvariante mittels kunstlicher neuronaler Netze darstellt Das Schliessen von Daten auf hypothetische Modelle wird als Statistische Inferenz bezeichnet Inhaltsverzeichnis 1 Symbolische und nicht symbolische Ansatze 2 Algorithmische Ansatze 2 1 Uberwachtes Lernen 2 2 Unuberwachtes Lernen 2 3 Bestarkendes Lernen 3 Automatisches Maschinelles Lernen 4 Siehe auch 5 Literatur 6 Weblinks 7 EinzelnachweiseSymbolische und nicht symbolische Ansatze BearbeitenBeim maschinellen Lernen spielen Art und Machtigkeit der Wissensreprasentation eine wichtige Rolle Man unterscheidet zwischen symbolischen Ansatzen in denen das Wissen sowohl die Beispiele als auch die induzierten Regeln explizit reprasentiert ist und nicht symbolischen Ansatzen wie neuronalen Netzen denen zwar ein berechenbares Verhalten antrainiert wird die jedoch keinen Einblick in die erlernten Losungswege erlauben hier ist Wissen implizit reprasentiert 3 Bei den symbolischen Ansatzen werden aussagenlogische und pradikatenlogische Systeme unterschieden Vertreter der ersteren sind ID3 und sein Nachfolger C4 5 Letztere werden im Bereich der induktiven logischen Programmierung entwickelt Algorithmische Ansatze BearbeitenDie praktische Umsetzung geschieht mittels Algorithmen Verschiedene Algorithmen aus dem Bereich des maschinellen Lernens lassen sich grob in drei Gruppen einteilen 4 uberwachtes Lernen englisch supervised learning unuberwachtes Lernen englisch unsupervised learning und bestarkendes Lernen engl reinforcement learning Uberwachtes Lernen Bearbeiten Hauptartikel Uberwachtes Lernen Der Algorithmus lernt eine Funktion aus gegebenen Paaren von Ein und Ausgaben Dabei stellt wahrend des Lernens ein Lehrer den korrekten Funktionswert zu einer Eingabe bereit Ziel beim uberwachten Lernen ist dass dem Netz nach mehreren Rechengangen mit unterschiedlichen Ein und Ausgaben die Fahigkeit antrainiert wird Assoziationen herzustellen Ein Teilgebiet des uberwachten Lernens ist die automatische Klassifizierung Ein Anwendungsbeispiel ware die Handschrifterkennung Es lassen sich noch einige Unterkategorien fur Uberwachtes Lernen identifizieren die in der Literatur haufiger erwahnt werden Teiluberwachtes Lernen englisch semi supervised learning Nur fur einen Teil der Eingaben sind die dazugehorigen Ausgaben bekannt 5 Aktives Lernen englisch active learning Der Algorithmus hat die Moglichkeit fur einen Teil der Eingaben die korrekten Ausgaben zu erfragen Dabei muss der Algorithmus die Fragen bestimmen welche einen hohen Informationsgewinn versprechen um die Anzahl der Fragen moglichst klein zu halten 6 Selbstandiges Lernen englisch self training Dieser Algorithmus kann in zwei wesentliche Komponenten eingeteilt werden Die erste Algorithmuskomponente Lehrer leitet aus einem bestehenden gelabelten Datensatz weitere Datensatze mit Pseudolabeln her Die zweite Algorithmuskomponente lernt nun aus dem erweiterten gelabelten Datensatz und wendet gefundene Muster fur ihr eigenes Modell an 7 Unuberwachtes Lernen Bearbeiten Hauptartikel Unuberwachtes Lernen Der Algorithmus erzeugt fur eine gegebene Menge von Eingaben ein statistisches Modell das die Eingaben beschreibt und erkannte Kategorien und Zusammenhange enthalt und somit Vorhersagen ermoglicht Dabei gibt es Clustering Verfahren die die Daten in mehrere Kategorien einteilen die sich durch charakteristische Muster voneinander unterscheiden Das Netz erstellt somit selbstandig Klassifikatoren nach denen es die Eingabemuster einteilt Ein wichtiger Algorithmus in diesem Zusammenhang ist der EM Algorithmus der iterativ die Parameter eines Modells so festlegt dass es die gesehenen Daten optimal erklart Er legt dabei das Vorhandensein nicht beobachtbarer Kategorien zugrunde und schatzt abwechselnd die Zugehorigkeit der Daten zu einer der Kategorien und die Parameter die die Kategorien ausmachen Eine Anwendung des EM Algorithmus findet sich beispielsweise in den Hidden Markov Models HMMs Andere Methoden des unuberwachten Lernens z B Hauptkomponentenanalyse verzichten auf die Kategorisierung Sie zielen darauf ab die beobachteten Daten in eine einfachere Reprasentation zu ubersetzen die sie trotz drastisch reduzierter Information moglichst genau wiedergibt Des Weiteren unterscheidet man zwischen Batch Lernen bei dem alle Eingabe Ausgabe Paare gleichzeitig vorhanden sind und kontinuierlichem sequentiellem Lernen bei dem sich die Struktur des Netzes zeitlich versetzt entwickelt Ausserdem unterscheidet man zwischen Off line Lernen bei dem alle Daten gespeichert sind und somit wiederholbar zugreifbar sind und On line Lernen bei dem die Daten nach einmaligem Ausfuhren und Anpassen der Gewichte verloren gehen Batch Training ist immer off line On line Training ist immer inkrementell Inkrementelles Lernen kann jedoch on line oder off line erfolgen 8 Bestarkendes Lernen Bearbeiten Hauptartikel Bestarkendes Lernen Beim bestarkenden Lernen entwickeln Agenten selbstandig eine Strategie um erhaltene Belohnungen zu maximieren 9 10 Aufgrund seiner Allgemeingultigkeit wird dieses Gebiet auch in vielen anderen Disziplinen untersucht z B in der Spieltheorie der Kontrolltheorie dem Operations Research der Informationstheorie der simulationsbasierten Optimierung den Multiagentensystemen der Schwarmintelligenz der Statistik und den genetischen Algorithmen Beim maschinellen Lernen wird die Umgebung normalerweise als Markov Entscheidungsprozess MDP dargestellt Viele Algorithmen des Verstarkungslernens verwenden Techniken der dynamischen Programmierung 11 Verstarkungslernalgorithmen setzen keine Kenntnis eines exakten mathematischen Modells des MDP voraus und werden eingesetzt wenn exakte Modelle nicht durchfuhrbar sind Verstarkungslernalgorithmen werden in autonomen Fahrzeugen oder beim Lernen eines Spiels gegen einen menschlichen Gegner eingesetzt Automatisches Maschinelles Lernen Bearbeiten Hauptartikel Automatisiertes maschinelles Lernen Automatisches maschinelles Lernen automatisiert viele Schritte des maschinellen Lernens Siehe auch Bearbeiten nbsp Commons Maschinelles Lernen Sammlung von Bildern Videos und Audiodateien Foderales Lernen Empirische RisikominimierungLiteratur BearbeitenAndreas C Muller Sarah Guido Einfuhrung in Machine Learning mit Python O Reilly Verlag Heidelberg 2017 ISBN 978 3 96009 049 6 Christopher M Bishop Pattern Recognition and Machine Learning Information Science and Statistics Springer Verlag Berlin 2008 ISBN 978 0 387 31073 2 David J C MacKay Information Theory Inference and Learning Algorithms Cambridge University Press Cambridge 2003 ISBN 978 0 521 64298 9 Online Trevor Hastie Robert Tibshirani Jerome Friedman The Elements of Statistical Learning Data Mining Inference and Prediction 2 Auflage Springer Verlag 2008 ISBN 978 0 387 84857 0 stanford edu PDF Thomas Mitchell Machine Learning Mcgraw Hill London 1997 ISBN 978 0 07 115467 3 D Michie D J Spiegelhalter Machine Learning Neural and Statistical Classification In Ellis Horwood Series in Artificial Intelligence E Horwood Verlag New York 1994 ISBN 978 0 13 106360 0 Richard O Duda Peter E Hart David G Stork Pattern Classification Wiley New York 2001 ISBN 978 0 471 05669 0 David Barber Bayesian Reasoning and Machine Learning Cambridge University Press Cambridge 2012 ISBN 978 0 521 51814 7 Arthur L Samuel 1959 Some studies in machine learning using the game of checkers IBM J Res Dev 3 210 229 doi 10 1147 rd 33 0210 Alexander L Fradkov Early History of Machine Learning IFAC PapersOnLine Volume 53 Issue 2 2020 Pages 1385 1390 doi 10 1016 j ifacol 2020 12 1888 Weblinks BearbeitenMachine Learning Crash Course In developers google com Abgerufen am 6 November 2018 englisch Heinrich Vasce Machine Learning Grundlagen In Computerwoche 13 Juli 2017 abgerufen am 16 Januar 2019 golem de Miroslav Stimac So steigen Entwickler in Machine Learning ein 12 November 2018 Introduction to Machine Learning englisch Maschinen lernen ohne Verstand ans Ziel Wissenschaftsfeature Deutschlandfunk 10 April 2016 Audio ManuskriptEinzelnachweise Bearbeiten Tobias Reitmaier Aktives Lernen fur Klassifikationsprobleme unter der Nutzung von Strukturinformationen kassel university press Kassel 2015 ISBN 978 3 86219 999 0 S 1 Google books Lillian Pierson Data Science fur Dummies 1 Auflage Wiley VCH Verlag Weinheim 2016 ISBN 978 3 527 80675 1 S 105 f Google books Pat Langley The changing science of machine learning In Machine Learning Band 82 Nr 3 18 Februar 2011 S 275 279 doi 10 1007 s10994 011 5242 y ftp ftp sas com pub neural FAQ html questions Ralf Mikut Data Mining in der Medizin und Medizintechnik KIT Scientific Publishing 2008 ISBN 978 3 86644 253 5 S 34 Google books Paul Fischer Algorithmisches Lernen Springer Verlag 2013 ISBN 978 3 663 11956 2 S 6 7 Google books Self training with Noisy Student improves ImageNet classification In Arxiv Abgerufen am 20 Dezember 2019 englisch ftp ftp sas com pub neural FAQ2 html A styles Richard S Sutton Reinforcement learning an introduction Second edition Auflage Cambridge Massachusetts 2018 ISBN 978 0 262 03924 6 Machine Learning Definition Algorithmen Methoden und Beispiele 11 August 2020 abgerufen am 31 Januar 2022 Marco Wiering Martijn van Otterlo Reinforcement learning state of the art Springer Berlin 2012 ISBN 978 3 642 27645 3 Normdaten Sachbegriff GND 4193754 5 lobid OGND AKS Abgerufen von https de wikipedia org w index php title Maschinelles Lernen amp oldid 237456042