GoSuda

Shannons kanalkapacitetsgrænse og arkitekturen for AI-baseret semantisk kommunikation (Semantic Communication)

By yoonhyunwoo views ...

Shannons lov

Den moderne telekommunikation har udviklet sig på grundlag af Shannons lov (Shannon's Law). Den er en teori til bestemmelse af grænserne for netværkskommunikation, og de forsøg, der er gjort for at øge den maksimale kanalkapacitet i den formel, der præsenteres nedenfor, har været af denne karakter. Et eksempel er teknologier såsom MIMO (Multiple Input Multiple Output). Disse teknologier er et led i bestræbelserne på at opnå højere kanalkapacitet på grundlag af Shannons teori.

Shannons lov udtrykkes med følgende formel til beregning af kanalkapacitet.

equation

Disse betegner henholdsvis kanalkapacitet (Channel Capacity), båndbredde (Bandwidth) og signal-til-støj-forhold (Signal-to-Noise Ratio). Udtrykt med enkle ord er maksimal kommunikationshastighed (C) det samlede mål af de fysiske frekvensressourcer (B), som systemet kan anvende, multipliceret med effektiviteten (log₂(1 + S/N)), som angiver, hvor mange bit information der kan overføres pr. 1 Hz af denne ressource afhængigt af signalkvaliteten (S/N).

Med fremkomsten af loven, der beregner kanalkapacitet, begyndte telekommunikationsbranchen at investere kraft i at øge kanalkapaciteten. Således har innovationen inden for telekommunikation i omkring 70 år hovedsageligt fundet sted gennem forbedringer af kanalkapaciteten.

Men i nutiden har processorressourcerne udviklet sig så meget, at kommunikation er gået fra at sende tekst til at sende rumlige vektorer. Det er begyndt at blive svært at transmittere alle disse data pålideligt ved at opdele dem. For eksempel kan de data, som selvkørende biler genererer, nå op på flere terabyte om dagen, og det er næsten umuligt at håndtere dem med de nuværende kommunikationsnetværk. Det vil nå økonomiske og fysiske grænser at løse problemet blot ved at lægge flere kabler og opstille flere antenner.

Herefter er der begyndt at blive undersøgt et paradigme, der bevæger sig væk fra det eksisterende paradigme, som sigter mod præcis transmission af alle bit, og i stedet kun stræber efter transmission af kontekst ved at indføre intelligens i kommunikationen. (*Konceptet i sig selv har eksisteret i årtier.) Dette er en forandring, der er drevet af den seneste stærke udvikling af intelligensmodeller og af behovet for kommunikation af endnu større datamængder.

Dette kaldes kommunikation, der udveksler betydning, og derfor kaldes den Semantic Communication.

Semantisk kommunikation (Semantic communication)

Hvor semantisk kommunikation tidligere transmitterede hele dataene, har den nu som mål kun at transmittere den centrale betydning, dvs. konteksten, der er indeholdt i dem.

Dette problem er allerede blevet rejst i Shannon og Weavers kommunikationsmodel, hvor de opdelte kommunikationens modenhed i tre niveauer.

  1. Teknisk problem: Hvor nøjagtigt kan et symbol (Symbol) transmitteres? (Dette er kerneområdet i deres egen teori.)
  2. Semantisk problem: Hvor nøjagtigt udtrykker det transmitterede symbol den ønskede "betydning"?
  3. Effektivitetsproblem: Hvor effektivt påvirker den formidlede betydning modtagerens handling?

Indtil nu har udviklingen af kommunikation stort set løst det tekniske problem, og nu er opgaven at oversætte de semantiske og effektivitetsmæssige problemer.

Forskellen mellem modenhedsniveau 1 og niveau 2 og 3 (semantisk kommunikation) illustreres typisk med eksemplet med et brændende hus.

Et hus brænder.

I det nuværende kommunikationsparadigme digitaliseres denne scene ét efter ét, og sendes som et billede.

I semantisk kommunikation sendes i stedet kun den centrale "betydning", altså "Brand, øjeblikkelig udrykning nødvendig", i stedet for at sende alle data, som "sort røg stiger op fra vinduet og ildflammer ses". Denne metode udelader bevidst unødvendig information og har til formål at få modtageren til at udføre en bestemt handling (udrykning).

Hvis der er en fælles vidensbase inden for kategorien brandvæsen i en ende-til-ende-kommunikation, kan den mængde data, der skal transmitteres for at vurdere situationen, reduceres markant.

Den centrale kodnings-/dekodningslogik i semantisk kommunikation er en kommunikationsparadigme, men den opererer oven på applikationslaget. På afsendersiden omdannes de givne data til semantiske data via en semantisk encoder, og på modtagersiden bearbejdes de via en semantisk decoder til en form, som den efterfølgende kilde kan anvende. Begge vil blive til former som inferensmodeller, der har den samme vidensbase, og gennem dette bliver det muligt at udveksle semantikken uden at transmittere store datamængder.

Det er naturligvis garanteret oven på den fuldkomne udvikling af det eksisterende kommunikationsparadigme. For det første skal symboler kunne transmitteres korrekt på det tekniske plan, og dette modenhedsniveau er allerede opnået. Det centrale spørgsmål er nu, hvor godt de transmitterede symboler formidler og fortolker informationens semantik, og dette er netop begyndt at blive undersøgt.

Imidlertid har kommunikationssystemer, der bygger på denne semantiske kontekst, en meget stor risiko for problemer, fordi de, i modsætning til traditionelle syntaktiske kommunikationssystemer, er afhængige af AI og lignende for pålidelighed (reliability). Selv med samme Knowledge Based kan der opstå forskellige fortolkninger inde i modellens black box.

Efterskrift

Det siges, at 6G (sjette generation af mobilkommunikation) vil anvende semantisk kommunikation og blive til et intelligent internetsystem, men der er spørgsmålstegn ved, hvorfor et paradigme, der opererer oven på applikationslaget, skal være en forskningsopgave for mobiloperatører. Ifølge min intuition har mobiloperatørerne den rolle at sikre modenhedsniveau 1, hvor symboler og bit transmitteres korrekt på det tekniske plan, og tidspunktet, hvor semantisk kommunikation fungerer, hører allerede til applikationsområdet.

På den anden side findes der også en tvivl om, hvorvidt der kan opstå et nyt paradigme inden for kommunikationsteknologi, hvor pålidelighed skal være den grundlæggende værdi. Jeg deler selv denne tvivl og har personligt en lidt negativ holdning.

Alligevel skriver jeg denne tekst, fordi jeg mener, at det næste paradigme inden for mobilkommunikation udvikler sig på en ret interessant måde. At satellitinternet indføres for at udvide kanalkapaciteten er i praksis en given kendsgerning med fremkomsten af Project Kuiper, Starlink og andre, og forsøget på at bryde igennem de grænser, der var bundet af Shannons lov, på en ny måde var ganske fascinerende.