www.wikidata.de-de.nina.az

Kolmogorow Sinai Entropie Die ist eine Invariante maßerhaltender Abbildungen im mathematischen Teilgebiet der dynamische

Kolmogorow-Sinai-Entropie

Die Kolmogorow-Sinai-Entropie ist eine Invariante maßerhaltender Abbildungen im mathematischen Teilgebiet der dynamischen Systeme. Sie verallgemeinert den aus der Wahrscheinlichkeitstheorie (und ursprünglich der Thermodynamik) bekannten Entropie-Begriff. Die Entropie soll messen, wie viel Information man mit jedem neuen Schritt des dynamischen Systems erhält. Ihre Definition geht auf Andrei Kolmogorow zurück, aber erst Jakow Sinai gelang Ende der 1950er Jahre der Nachweis der Nichttrivialität dieser Invariante. Unter anderem dafür erhielt Sinai 2014 den Abelpreis.

Intuitiv misst die Kolmogorow-Sinai-Entropie die Chaotizität dynamischer Systeme. Sie ist trivial, d. h., ihr Wert ist Null, für nicht-chaotische Abbildungen wie zum Beispiel Drehungen.

Sie wird auch als maßtheoretische Entropie oder metrische Entropie oder abgekürzt als KS-Entropie bezeichnet.

Definition Bearbeiten

Es sei ein Wahrscheinlichkeitsraum und eine maßerhaltende Abbildung.

Bekanntlich wird in der Wahrscheinlichkeitstheorie die Entropie einer Partition (d. h. einer disjunkten Zerlegung ) definiert durch

Die Entropie von bzgl. der Partition ist dann definiert als

wobei

(Die Existenz des Grenzwertes ist die Aussage des Satzes von Shannon-MacMillan.)

Schließlich ist die Kolmogorow-Sinai-Entropie der maßerhaltenden Abbildung definiert als das Supremum von über alle Partitionen :

Erzeugende Partitionen (Satz von Sinai) Bearbeiten

Der Satz von Sinai besagt, dass man die Kolmogorow-Sinai-Entropie effektiv berechnen kann, mittels erzeugender Partitionen.

Definition: Eine erzeugende Partition eines maßerhaltenden dynamischen Systems ist eine endliche Zerlegung , so dass die kleinste σ-Algebra ist, die alle () enthält.

Satz (Sinai): Wenn erzeugende Partition eines maßerhaltenden dynamischen Systems ist, dann ist

Beispiele Bearbeiten

  • Für eine Drehung des Kreises (oder allgemeiner des n-dimensionalen Torus) ist die Entropie trivial:

Definition in der Stochastik und Statistik Bearbeiten

In der Stochastik sowie in der hoch-dimensionalen Statistik wird der Begriff in leicht abgewandelter Form verwendet.

Sei metrischer Raum, und mit notieren wir den offenen -Ball mit Zentrum . Wir definieren die Überdeckungsnummer einer -Überdeckungen (oder eines -Netz) als

Die metrische Entropie ist dann der Logarithmus der Überdeckungsnummer

Literatur Bearbeiten

  • P. Billingsley: Ergodic Theory and Information. J. Wiley, 1965.
  • I.P. Cornfeld, S.F. Fomin, Ya.G. Sinai: Ergodic Theory. Springer, 1981.
  • A.N. Kolmogorov: New Metric Invariant of Transitive Dynamical Systems and Endomorphisms of Lebesgue Spaces. In: Doklady of Russian Academy of Sciences. 119, Nr. 5, 1958 S. 861–864.
  • A.N. Kolmogorov: Entropy per unit time as a metric invariant of automorphism. In: Doklady of Russian Academy of Sciences. 124, 1959, S. 754–755.
  • E. Lindenstrauss, Y. Peres, W. Schlag: Bernoulli convolutions and intermediate values for entropy of K-partitions. In: J. Anal. Math. 87, 2002, S. 337–367.
  • W. Parry: Entropy and Generators in Ergodic Theory. W.A. Benjamin, Inc., New York/Amsterdam 1969.
  • Ya.G. Sinai: On the Notion of Entropy of a Dynamical System. In: Doklady of Russian Academy of Sciences. 124, 1959, S. 768–771.
  • P. Walters: An Introduction to Ergodic Theory. Springer, New York/Berlin, 1969-

Weblinks Bearbeiten

Einzelnachweise Bearbeiten

  1. Katok-Hasselblatt: Introduction to the modern theory of dynamical systems. ( = Encyclopedia of Mathematics and its Applications. 54). Cambridge University Press, Cambridge, 1995, ISBN 0-521-34187-6, Abschnitt 4.4
  2. Sinai: On the concept of entropy for a dynamic system. In: Dokl. Akad. Nauk SSSR. 124, 1959 (russisch).
  3. Blei, Ron, Fuchang Gao, and Wenbo V. Li. “Metric Entropy of High Dimensional Distributions.” Proceedings of the American Mathematical Society 135, no. 12 (2007): 4009–18. http://www.jstor.org/stable/20535040.
wikipedia, wiki, deutsches, deutschland, buch, bücher, bibliothek artikel lesen, herunterladen kostenlos kostenloser herunterladen, MP3, Video, MP4, 3GP, JPG, JPEG, GIF, PNG, Bild, Musik, Lied, Film, Buch, Spiel, Spiele
Veröffentlichungsdatum:
Die Kolmogorow Sinai Entropie ist eine Invariante masserhaltender Abbildungen im mathematischen Teilgebiet der dynamischen Systeme Sie verallgemeinert den aus der Wahrscheinlichkeitstheorie und ursprunglich der Thermodynamik bekannten Entropie Begriff Die Entropie soll messen wie viel Information man mit jedem neuen Schritt des dynamischen Systems erhalt Ihre Definition geht auf Andrei Kolmogorow zuruck aber erst Jakow Sinai gelang Ende der 1950er Jahre der Nachweis der Nichttrivialitat dieser Invariante Unter anderem dafur erhielt Sinai 2014 den Abelpreis Intuitiv misst die Kolmogorow Sinai Entropie die Chaotizitat dynamischer Systeme Sie ist trivial d h ihr Wert ist Null fur nicht chaotische Abbildungen wie zum Beispiel Drehungen Sie wird auch als masstheoretische Entropie oder metrische Entropie oder abgekurzt als KS Entropie bezeichnet Inhaltsverzeichnis 1 Definition 2 Erzeugende Partitionen Satz von Sinai 3 Beispiele 4 Definition in der Stochastik und Statistik 5 Literatur 6 Weblinks 7 EinzelnachweiseDefinition BearbeitenEs sei X S P displaystyle X Sigma P nbsp ein Wahrscheinlichkeitsraum und f X X displaystyle f colon X to X nbsp eine masserhaltende Abbildung Bekanntlich wird in der Wahrscheinlichkeitstheorie die Entropie einer Partition Q displaystyle Q nbsp d h einer disjunkten Zerlegung X Q 1 Q r displaystyle X Q 1 cup ldots cup Q r nbsp definiert durch H Q i 1 r P Q i log P Q i displaystyle H Q sum i 1 r P Q i log P Q i nbsp Die Entropie von f displaystyle f nbsp bzgl der Partition Q displaystyle Q nbsp ist dann definiert als h f Q lim N 1 N H n 0 N f n Q displaystyle h f Q lim N rightarrow infty frac 1 N H left bigvee n 0 N f n Q right nbsp wobei n 0 N f n Q Q i 0 f 1 Q i 1 f N Q i N mit i ℓ 1 k ℓ 0 N P Q i 0 f 1 Q i 1 f N Q i N gt 0 displaystyle bigvee n 0 N f n Q left Q i 0 cap f 1 Q i 1 cap cdots cap f N Q i N text mit i ell 1 ldots k ell 0 ldots N P left Q i 0 cap f 1 Q i 1 cap cdots cap f N Q i N right gt 0 right nbsp Die Existenz des Grenzwertes ist die Aussage des Satzes von Shannon MacMillan Schliesslich ist die Kolmogorow Sinai Entropie der masserhaltenden Abbildung f displaystyle f nbsp definiert als das Supremum von h f Q displaystyle h f Q nbsp uber alle Partitionen Q displaystyle Q nbsp h f sup Q h f Q displaystyle h f sup Q h f Q nbsp Erzeugende Partitionen Satz von Sinai BearbeitenDer Satz von Sinai besagt dass man die Kolmogorow Sinai Entropie effektiv berechnen kann mittels erzeugender Partitionen Definition Eine erzeugende Partition eines masserhaltenden dynamischen Systems X S P f displaystyle X Sigma P f nbsp ist eine endliche Zerlegung X Q 1 Q r displaystyle X Q 1 cup ldots cup Q r nbsp so dass S displaystyle Sigma nbsp die kleinste s Algebra ist die alle f n Q i displaystyle f n Q i nbsp n Z i 1 r displaystyle n in mathbb Z i in left 1 ldots r right nbsp enthalt Satz Sinai Wenn Q displaystyle Q nbsp erzeugende Partition eines masserhaltenden dynamischen Systems X S P f displaystyle X Sigma P f nbsp ist dann ist h f h f Q displaystyle h f h f Q nbsp Beispiele BearbeitenFur eine Drehung des Kreises oder allgemeiner des n dimensionalen Torus ist die Entropie trivial 1 h f 0 displaystyle h f 0 nbsp Fur die durch eine ganzzahlige unimodulare Matrix A G L n Z displaystyle A in GL n mathbb Z nbsp definierte Selbstabbildung f T n T n displaystyle f colon T n to T n nbsp des n dimensionalen Torus T n R n Z n displaystyle T n mathbb R n mathbb Z n nbsp isth f l i gt 1 log l i displaystyle h f sum mid lambda i mid gt 1 log mid lambda i mid nbsp wobei l 1 l n displaystyle lambda 1 ldots lambda n nbsp die Eigenwerte von A displaystyle A nbsp ggf entsprechend ihrer Vielfachheit gezahlt sind Dies wurde 1959 von Sinai bewiesen und war das erste Beispiel einer Abbildung nichttrivialer Entropie 2 Definition in der Stochastik und Statistik BearbeitenIn der Stochastik sowie in der hoch dimensionalen Statistik wird der Begriff in leicht abgewandelter Form verwendet Sei X d displaystyle X d nbsp metrischer Raum d gt 0 displaystyle delta gt 0 nbsp und mit B r t displaystyle B r t nbsp notieren wir den offenen r displaystyle r nbsp Ball mit Zentrum t displaystyle t nbsp Wir definieren die Uberdeckungsnummer einer d displaystyle delta nbsp Uberdeckungen oder eines d displaystyle delta nbsp Netz als N d X d inf n t 1 t n X so dass X k 1 n B d t k displaystyle N delta X d inf n exists t 1 dots t n in X text so dass X subset bigcup limits k 1 n B delta t k nbsp Die metrische Entropie ist dann der Logarithmus der Uberdeckungsnummer 3 H d X log N d X d displaystyle H delta X log N delta X d nbsp Literatur BearbeitenP Billingsley Ergodic Theory and Information J Wiley 1965 I P Cornfeld S F Fomin Ya G Sinai Ergodic Theory Springer 1981 A N Kolmogorov New Metric Invariant of Transitive Dynamical Systems and Endomorphisms of Lebesgue Spaces In Doklady of Russian Academy of Sciences 119 Nr 5 1958 S 861 864 A N Kolmogorov Entropy per unit time as a metric invariant of automorphism In Doklady of Russian Academy of Sciences 124 1959 S 754 755 E Lindenstrauss Y Peres W Schlag Bernoulli convolutions and intermediate values for entropy of K partitions In J Anal Math 87 2002 S 337 367 W Parry Entropy and Generators in Ergodic Theory W A Benjamin Inc New York Amsterdam 1969 Ya G Sinai On the Notion of Entropy of a Dynamical System In Doklady of Russian Academy of Sciences 124 1959 S 768 771 P Walters An Introduction to Ergodic Theory Springer New York Berlin 1969 Weblinks BearbeitenThe entropy of a dynamical System Popularwissenschaftliche Darstellung aus Anlass des Abelpreises fur Sinai Sinai Kolmogorov Sinai entropy Scholarpedia Einzelnachweise Bearbeiten Katok Hasselblatt Introduction to the modern theory of dynamical systems Encyclopedia of Mathematics and its Applications 54 Cambridge University Press Cambridge 1995 ISBN 0 521 34187 6 Abschnitt 4 4 Sinai On the concept of entropy for a dynamic system In Dokl Akad Nauk SSSR 124 1959 russisch Blei Ron Fuchang Gao and Wenbo V Li Metric Entropy of High Dimensional Distributions Proceedings of the American Mathematical Society 135 no 12 2007 4009 18 http www jstor org stable 20535040 Abgerufen von https de wikipedia org w index php title Kolmogorow Sinai Entropie amp oldid 231773415