next Up back Inhalt
Next: Die Kerntheorien der kybernetisch-informationstheoretischen Up: Die zugrundeliegenden Theorien des Previous: Kybernetik

Informationstheorie

Der Begriff der Information spielt in allen Kommunikationsprozessen, sei es zwischen Menschen, zwischen anderen Organismen oder zwischen Maschinen, eine zentrale Rolle: ``Information, die formulierte Unterrichtung nicht nur von Menschen, sondern auch von anderen Organismen oder technischen Einrichtungen über Sachverhalte.''[Brockhaus]


Die Information wird ``heute [...] neben der Materie und der Energie vielfach als eine dritte Grundgröße angesehen ...'' ([Brockhaus], S. 657). Damit kann der Begriff der Information nicht auf andere Größen zurückgeführt werden, er ist ein fundamentaler Baustein jedes Kommunikationsprozeßes. Eine strenge, quantitative Untersuchung der Informationsübertragung ist im Rahmen der Informationstheorie möglich:


``Informationstheorie, von C. Shannon 1948 begründete mathematische Theorie, die sich mit der strukturellen und quantitativen Erfassung und mit den (statistischen) Gesetzmäßigkeiten der Übermittlung und Verarbeitung von Nachrichten und den in ihnen enthaltenen Informationen befaßt.''[Brockhaus]


Die Informationstheorie war die erste Theorie, die es erlaubte, den Begriff mathematisch zu fassen und so eine quantitative Untersuchung von Informationsübertragung und Informationsverarbeitung zu ermöglichen.
Der von Shannon eingeführte Informationsbegriff ist ein Maß für die syntaktische Information eines Signals, der semantische Aspekt wird ausdrücklich nicht berücksichtigt. Der Informationsgehalt eines Signals resultiert allein daraus, daß ein Signal aus der Menge aller möglichen Signale realisiert worden ist: ``Frequently the messages have meaning; that is they refer to or are entities. These semantic aspects of communication are irrelevant to the engineering problem. The significant aspects is that the actual message is one selected from a set of possible messages.''([Shannon], S. 3)


Um Shannon´s Informationsbegriff ein wenig zu verdeutlichen, möchte ich an einem einfachen Beispiel beschreiben, in welchem Sinne er ihn benutzt. Betrachten wir die samstägliche Ziehung der Lottozahlen. Hierbei wird zweifellos Information übertragen. Wenn ich das Ergebnis der zwölften Ziehung im deutschen Lottoblock erfahre, weiß ich, welche der möglichen Zahlenfolgen in dieser Ziehung realisiert wurde, welche sechs der neunundvierzig möglichen Zahlen gezogen wurde. Dies ist unzweifelhaft eine Übertragung von Information.
Stellen wir uns nun einmal kurz vor, daß bei der Lottoziehung nicht neunundvierzig Kugeln in der Trommel wären, sondern lediglich sechs Kugeln, die mit den Zahlen von 1 bis 6 beschriftet sind. Wenn aus diesen sechs Kugeln nun wieder sechs ``Richtige'' gezogen werden, dann ist völlig klar, welche Zahlen es sind, es sind die Zahlen 1,2,3,4,5,6. Durch diese Ziehung wird keinerlei Information übertragen, denn ich weiß schon vorher, welches Ergebnis vorliegen wird. Die Realisierung der Zahlen von 1 bis 6 steht mit einer hundertprozentigen Sicherheit (besser: Wahrscheinlichkeit) fest. In diesem Sinne ist die übertragene Information ein Maß für die Unsicherheit bei einem solchen Experiment.siehe
Eine andere Möglichkeit, auf den gleichen Informationsbegriff zu kommen, besteht darin zu betrachten, wieviel Freiheit man bei der Wahl eines zu übertragenden Signals hat. Habe ich beispielsweise die Möglichkeit, aus einem von fünfundzwanzig verschiedenen Kuchen ein Stück zu wählen, so wird durch meine Wahl mehr Information offenbart, als wenn ich nur einen Kuchen zur Wahl habe. Information kann also auch als ein Maß für die Wahlfreiheit verstanden werden. ``..., information is a measure of one`s freedom of choice when one selects a message.''([Shannon], S. 100)


Shannon formuliert einige Mindestforderungen an einen Ausdruck, der die syntaktische Information eines Signals messen soll, und zeigt dann, daß es genau eine mathematische Größe gibt, die dies erfüllt. Auch, wenn über die möglichen Signale keine genauen Kenntnisse vorliegen, gelingt es der Informationstheorie, allgemeingültige Aussage über Informationsverluste bei Übertragungen oder Zusammenhänge zwischen Informationsfluß und der Kapazität eines Übertragungskanals herzustellen.


Ich möchte noch einmal darauf hinweisen, daß die Informationstheorie nur den syntaktischen Informationsgehalt eines Signals betrachtet: ``In fact, two messages, one of which is heavily loaded with meaning and the other of which is pure nonsens, can be exactly equivalent, from the present viewpoint, as regards information.'', ([Shannon], S. 99). Dies scheint mir besonders im Hinblick auf die Anwendung im Rahmen eines didaktischen Modells als ganz wesentlich.


next Up back Inhalt
Next: Die Kerntheorien der kybernetisch-informationstheoretischen Up: Die zugrundeliegenden Theorien des Previous: Kybernetik


Startpage
Sam Sep 23 13:12:24 CEST 2000