www.wikidata.de-de.nina.az

Shannon Einheit Shannon abgekürzt Sh ist die nach dem amerikanischen Mathematiker und Begründer der Informationstheorie

Shannon (Einheit)

Shannon (abgekürzt Sh) ist die nach dem amerikanischen Mathematiker und Begründer der Informationstheorie Claude Elwood Shannon benannte Einheit für den Informationsgehalt einer Nachricht. Die Einheit Shannon ist identisch mit der in der Realität häufiger verwendeten Einheit Bit (großgeschrieben – im Gegensatz zu bit, das ein binäres Symbol bezeichnet).

Definition Bearbeiten

Ein Shannon (1 Sh) ist eine Einheit für das Maß an Information in einer Nachricht. Dabei wird die Nachricht durch eine Zeichenmenge sowie durch die Wahrscheinlichkeiten pi, mit denen die einzelnen Zeichen in der Nachricht auftauchen, beschrieben. Eine solche Nachricht besitzt nach Definition den folgenden, in Shannon gemessenen, Informationsgehalt von

Die Einheit Sh ergibt sich aus der von Claude Shannon begründeten Informationstheorie und entspricht der Entropie der betreffenden Nachrichtenquelle und in der Biometrie dem Shannon-Index einer Population unterschiedlicher Spezies.

Beispiele Bearbeiten

  • Das einfachste Beispiel: Eine einmalige Nachricht aus dem Zeichenvorrat , wobei beide Zeichen mit der Wahrscheinlichkeit von je 0,5 auftreten, hat den Informationsgehalt .
  • Wenn der Zeichenvorrat aus zehn Zeichen, etwa besteht, wobei wieder alle Zeichen mit gleicher Wahrscheinlichkeit auftreten, dann beträgt der Informationsgehalt . Das kann man so interpretieren, dass man auf jeden Fall mit einer 4-bit-Kodierung auskommt, um solche Nachrichten zu übertragen (dies wird etwa durch den BCD-Code realisiert), dass dabei aber noch Redundanz vorhanden ist. Beim BCD-Code äußert sich diese Redundanz so, dass von den 16 unterschiedlichen Zeichen, die mit diesem Code dargestellt werden können, nur 10 wirklich auftreten.

Normung Bearbeiten

Begriffsfestlegungen zu Einheiten des Entscheidungsgehalts in der Informationstheorie findet man in den internationalen Normen IEC 60027-3 und ISO 2382-16. Dort ist neben der auf dem Logarithmus zur Basis 2 beruhenden Einheit Shannon noch das auf dem Zehner-Logarithmus beruhende Hartley (Einheitenzeichen: Hart) und die auf dem natürlichen Logarithmus beruhende natürliche Informationseinheit (Einheitenzeichen: nat) erklärt.

„Der Versuch der International Organization for Standardization (ISO) 1975 die Einheit Bit durch die Shannon-Einheit zu ersetzen, […] war rückblickend betrachtet nicht sehr erfolgreich.“

– Walter Umstätter

Literatur Bearbeiten

  • Johann Blieberger, Bernd Burgstaller, Gerhard Helge Schildt: Informatik – Grundlagen. 4. Auflage, Springer Verlag, Wien 2002, ISBN 978-3-211-83710-8.

Weblinks Bearbeiten

Einzelnachweise Bearbeiten

  1. Nachrichten für Dokumentation 49 (4), 1998, S. 221–224.
wikipedia, wiki, deutsches, deutschland, buch, bücher, bibliothek artikel lesen, herunterladen kostenlos kostenloser herunterladen, MP3, Video, MP4, 3GP, JPG, JPEG, GIF, PNG, Bild, Musik, Lied, Film, Buch, Spiel, Spiele
Veröffentlichungsdatum:
Shannon abgekurzt Sh ist die nach dem amerikanischen Mathematiker und Begrunder der Informationstheorie Claude Elwood Shannon benannte Einheit fur den Informationsgehalt einer Nachricht Die Einheit Shannon ist identisch mit der in der Realitat haufiger verwendeten Einheit Bit grossgeschrieben im Gegensatz zu bit das ein binares Symbol bezeichnet Inhaltsverzeichnis 1 Definition 2 Beispiele 3 Normung 4 Literatur 5 Weblinks 6 EinzelnachweiseDefinition BearbeitenEin Shannon 1 Sh ist eine Einheit fur das Mass an Information in einer Nachricht Dabei wird die Nachricht durch eine Zeichenmenge Z z 1 z 2 z S displaystyle Z z 1 z 2 dots z S nbsp sowie durch die Wahrscheinlichkeiten pi mit denen die einzelnen Zeichen in der Nachricht auftauchen beschrieben Eine solche Nachricht besitzt nach Definition den folgenden in Shannon gemessenen Informationsgehalt von H i p i log 2 p i Sh displaystyle mathrm H sum i p i cdot log 2 p i text Sh nbsp Die Einheit Sh ergibt sich aus der von Claude Shannon begrundeten Informationstheorie und entspricht der Entropie der betreffenden Nachrichtenquelle und in der Biometrie dem Shannon Index einer Population unterschiedlicher Spezies Beispiele BearbeitenDas einfachste Beispiel Eine einmalige Nachricht aus dem Zeichenvorrat Z 0 1 displaystyle Z 0 1 nbsp wobei beide Zeichen mit der Wahrscheinlichkeit von je 0 5 auftreten hat den Informationsgehalt 1 2 log 2 1 2 1 2 log 2 1 2 log 2 1 2 log 2 2 1 Sh displaystyle frac 1 2 log 2 left frac 1 2 right frac 1 2 log 2 left frac 1 2 right log 2 left frac 1 2 right log 2 2 1 text Sh nbsp Wenn der Zeichenvorrat aus zehn Zeichen etwa 0 1 2 3 4 5 6 7 8 9 displaystyle 0 1 2 3 4 5 6 7 8 9 nbsp besteht wobei wieder alle Zeichen mit gleicher Wahrscheinlichkeit auftreten dann betragt der Informationsgehalt log 2 1 10 log 2 10 3 322 S h displaystyle textstyle log 2 left frac 1 10 right log 2 10 approx 3 322 mathrm Sh nbsp Das kann man so interpretieren dass man auf jeden Fall mit einer 4 bit Kodierung auskommt um solche Nachrichten zu ubertragen dies wird etwa durch den BCD Code realisiert dass dabei aber noch Redundanz vorhanden ist Beim BCD Code aussert sich diese Redundanz so dass von den 16 unterschiedlichen Zeichen die mit diesem Code dargestellt werden konnen nur 10 wirklich auftreten Normung BearbeitenBegriffsfestlegungen zu Einheiten des Entscheidungsgehalts in der Informationstheorie findet man in den internationalen Normen IEC 60027 3 und ISO 2382 16 Dort ist neben der auf dem Logarithmus zur Basis 2 beruhenden Einheit Shannon noch das auf dem Zehner Logarithmus beruhende Hartley Einheitenzeichen Hart und die auf dem naturlichen Logarithmus beruhende naturliche Informationseinheit Einheitenzeichen nat erklart Der Versuch der International Organization for Standardization ISO 1975 die Einheit Bit durch die Shannon Einheit zu ersetzen war ruckblickend betrachtet nicht sehr erfolgreich Walter Umstatter 1 Literatur BearbeitenJohann Blieberger Bernd Burgstaller Gerhard Helge Schildt Informatik Grundlagen 4 Auflage Springer Verlag Wien 2002 ISBN 978 3 211 83710 8 Weblinks BearbeitenRoland Brackmann Shannons Theorie 28 April 2005 abgerufen am 26 Februar 2018 PDF 160 kB Information Entropie Kodierungstheorem von Shannon 21 April 2008 abgerufen am 26 Februar 2018 PDF 243 kB R G Spallek Rechnerarchitektur I Informationsdarstellung 2004 abgerufen am 26 Februar 2018 PDF 117 kB Einzelnachweise Bearbeiten Nachrichten fur Dokumentation 49 4 1998 S 221 224 Abgerufen von https de wikipedia org w index php title Shannon Einheit amp oldid 230483130