Grenzen der Kanalkapazität nach Shannon und Architekturen der KI-gestützten semantischen Kommunikation (Semantic Communication)

Shannon-Gesetz

Die heutige Kommunikation hat sich auf der Grundlage des Shannon-Gesetzes (Shannon's Law) entwickelt. Dieses ist eine Theorie zur Bestimmung der Grenzen der Netzwerkkommunikation, und die Bemühungen zielten darauf ab, das Maximum der Kanalkapazität der weiter unten angeführten Formel zu erhöhen. Beispielsweise gibt es Technologien wie MIMO (Multiple Input Multiple Output). Diese Technologien sind Teil der Bestrebungen, auf der Grundlage der Shannon-Theorie eine höhere Kanalkapazität zu erreichen.

Das Shannon-Gesetz wird durch die folgende Formel zur Berechnung der Kanalkapazität ausgedrückt.

Diese bezeichnen jeweils Kanalkapazität (Channel Capacity), Bandbreite (Bandwidth) und Signal-Rausch-Verhältnis (Signal-to-Noise Ratio). Vereinfacht ausgedrückt ergibt sich die maximale Kommunikationsgeschwindigkeit (C), indem man den Gesamtumfang der physikalischen Frequenzressourcen, die das System nutzen kann (B), mit der Effizienz (log₂(1 + S/N)) multipliziert, die angibt, wie viele Bit an Information pro Hertz dieser Ressource je nach Signalqualität (S/N) übertragen werden können.

Nach dem Erscheinen dieses Gesetzes zur Berechnung der Kanalkapazität begann die Kommunikationsindustrie, sich intensiv um die Steigerung der Kanalkapazität zu bemühen. Auf diese Weise erfolgten die Innovationen in der Kommunikation über etwa 70 Jahre hinweg größtenteils durch die Verbesserung der Kanalkapazität.

In der heutigen Zeit haben sich die Verarbeitungsressourcen jedoch enorm weiterentwickelt. Die Kommunikation hat sich von der Übertragung von Text zur Übertragung von Raumvektoren entwickelt. Die zuverlässige Übertragung all dieser Daten in Teilen stößt zunehmend an Grenzen. Beispielsweise können die Daten, die autonome Fahrzeuge erzeugen, an einem Tag mehrere Terabyte erreichen, und es ist nahezu unmöglich, dies mit den heutigen Kommunikationsnetzen zu bewältigen. Allein durch die Verlegung weiterer Leitungen und die Aufstellung weiterer Antennen lässt sich das Problem nicht mehr lösen, da man an wirtschaftliche und physikalische Grenzen stößt.

So wurde ein Paradigma erforscht, das sich vom bisherigen Paradigma der präzisen Übertragung sämtlicher Bits löst und durch die Einführung von Intelligenz in die Kommunikation ausschließlich die Übertragung von Kontext anstrebt. (*Das Konzept selbst existiert seit Jahrzehnten.) Dies ist eine Entwicklung, die auf den jüngsten starken Fortschritten bei intelligenten Modellen und auf der Notwendigkeit beruht, weit größere Datenmengen zu kommunizieren.

Diese Form der Kommunikation, die Bedeutungen austauscht, wird als Semantic Communication bezeichnet.

Semantische Kommunikation (Semantic Communication)

Die semantische Kommunikation zielt darauf ab, dass statt der bisherigen vollständigen Übertragung der Daten nur noch die zentrale Bedeutung, also der Kontext, übertragen wird.

Dieses Problem wurde bereits im Kommunikationsmodell von Shannon und Weaver aufgeworfen, die die Reife der Kommunikation in drei Ebenen unterteilten.

1. Technisches Problem: Wie genau können Symbole (Symbol) übertragen werden? (Dies ist das Kerngebiet ihrer Theorie.)
2. Semantisches Problem: Wie genau vermittelt das übertragene Symbol die beabsichtigte „Bedeutung“?
3. Effektivitätsproblem: Wie wirksam beeinflusst die übermittelte Bedeutung das Verhalten des Empfängers?

Bisher hat die Entwicklung der Kommunikation das technische Problem weitgehend gelöst, und nun besteht die Aufgabe darin, das semantische und das Effektivitätsproblem zu bearbeiten.

Der Unterschied zwischen der Reifestufe 1 und den Stufen 2 und 3 (semantische Kommunikation) wird typischerweise anhand des Beispiels eines brennenden Hauses veranschaulicht.

Ein Haus brennt.

Im gegenwärtigen Kommunikationsparadigma wird diese Szene Stück für Stück digitalisiert und als Foto übertragen.

In der semantischen Kommunikation wird nicht alles übertragen, wie etwa „Aus den Fenstern steigt schwarzer Rauch und Flammen sind zu sehen“, sondern nur die zentrale „Bedeutung“: „Brand ausgebrochen, sofortiger Einsatz erforderlich“. Dabei werden unnötige Informationen bewusst weggelassen, und das Ziel besteht darin, beim Empfänger eine bestimmte Handlung (den Einsatz) auszulösen.

Bei einer Ende-zu-Ende-Kommunikation innerhalb derselben Kategorie, hier der Feuerwehr, mit gemeinsamer Wissensbasis, lässt sich das für die Lageerfassung erforderliche Datenvolumen dadurch erheblich reduzieren.

Die zentrale Kodierungs- und Dekodierungslogik der semantischen Kommunikation ist zwar ein Kommunikationsparadigma, arbeitet jedoch auf der Anwendungsschicht. Auf der Sendeseite werden die gegebenen Daten mithilfe eines semantischen Encoders in semantische Daten umgewandelt, und auf der Empfangsseite werden diese mithilfe eines semantischen Decoders in eine Form gebracht, die die nachgelagerte Quelle verwenden kann. Beide werden voraussichtlich die Form von Inferenzmodellen oder Ähnlichem mit derselben Wissensbasis annehmen, wodurch die Kommunikation der Semantik ohne die Übertragung großer Datenmengen möglich wird.

Selbstverständlich wird dies auf der Vollständigkeit des bestehenden Kommunikationsparadigmas gewährleistet. Zuerst muss das Symbol technisch korrekt übertragen werden können, und dieser Reifegrad ist bereits erreicht. Die zentrale Herausforderung besteht nun darin, wie gut das übertragene Symbol die Semantik der Information vermittelt und interpretiert; dieser Bereich steht erst am Anfang der Forschung.

Allerdings birgt ein auf semantischem Kontext beruhendes Kommunikationssystem im Unterschied zu den herkömmlichen syntaktischen Kommunikationssystemen ein erhebliches Problempotenzial, da es die Zuverlässigkeit (reliability) von KI und ähnlichen Verfahren abhängig macht. Selbst bei identischer Knowledge Base können im Black-Box-Bereich des Modells unterschiedliche Interpretationen entstehen.

Nachwort

Für 6G (6. Generation der Mobilkommunikation) heißt es, dass semantische Kommunikation angewendet werden soll, um ein intelligentes Internetsystem zu schaffen. Es bleibt jedoch fraglich, warum ein auf der Anwendungsschicht arbeitendes Paradigma zum Forschungsgegenstand der Mobilfunkbetreiber werden soll. Nach meiner Einschätzung besteht die Rolle der Mobilfunkbetreiber darin, die Reifestufe 1 zu gewährleisten, also dass Symbole und Bits technisch korrekt übertragen werden, während der Zeitpunkt, zu dem die semantische Kommunikation wirkt, bereits im Bereich der Anwendungsprogramme liegt.

Andererseits existiert die Frage, ob es in der Kommunikationstechnik, die Zuverlässigkeit als grundlegenden Wert voraussetzen muss, überhaupt ein neues Paradigma geben kann. Auch ich habe diese Zweifel und vertrete persönlich eine eher skeptische Position.

Dennoch schreibe ich diesen Text, weil ich meine, dass sich der nächste Paradigmenwechsel der Mobilkommunikation auf recht interessante Weise entwickelt. Die Einführung von Satelliteninternet zur Erweiterung der Kanalkapazität ist durch das Aufkommen von Projekten wie Project Kuiper und Starlink praktisch bereits eine ausgemachte Sache, und der Versuch, die durch das Shannon-Gesetz gesetzten Grenzen auf neue Weise zu durchbrechen, war durchaus bemerkenswert.