GoSuda

Shannons kanalkapasitetsgrense og arkitekturen for KI-basert semantisk kommunikasjon (Semantic Communication)

By yoonhyunwoo views ...

Shannons lov

Dagens kommunikasjon har utviklet seg på grunnlag av Shannons lov (Shannon's Law). Dette er en teori som fastsetter grensene for nettverkskommunikasjon, og de forsøkene som har blitt gjort på å øke den maksimale kanalkapasiteten gitt av formelen nedenfor. For eksempel finnes teknologier som MIMO (Multiple Input Multiple Output). Disse teknologiene er et ledd i innsatsen for å oppnå høyere kanalkapasitet, basert på Shannons teori.

Shannons lov uttrykkes med følgende formel for beregning av kanalkapasitet.

equation

Disse representerer henholdsvis kanalkapasitet (Channel Capacity), båndbredde (Bandwidth) og signal-til-støyforhold (Signal-to-Noise Ratio). Forklart med enkle ord er maksimal overføringshastighet (C) lik den totale mengden fysiske frekvensressurser (B) som systemet kan benytte, multiplisert med effektiviteten (log₂(1 + S/N)), som angir hvor mange bit med informasjon som kan overføres per 1 Hz av denne ressursen, avhengig av signalkvaliteten (S/N).

Med fremveksten av loven som beregner kanalkapasitet begynte telekommunikasjonsbransjen å satse på å øke kanalkapasiteten. I omtrent 70 år har dermed telekommunikasjonens innovasjoner i hovedsak skjedd gjennom forbedringer av kanalkapasiteten.

Men i dagens samfunn har prosessorressursene utviklet seg enormt. Kommunikasjonen har gått fra å sende tekst til å sende romlige vektorer. Det har begynt å oppstå grenser for å overføre alle disse dataene pålitelig ved å dele dem opp. For eksempel kan dataene som genereres av selvkjørende biler nå mmange terabyte per dag, og det er nesten umulig å håndtere dette med dagens kommunikasjonsnett. Det blir økonomiske og fysiske grenser for å løse problemet ved ganske enkelt å legge flere kabler og plassere flere antenner.

Dermed har man begynt å forske på et paradigme som, i stedet for det tradisjonelle paradigmet om å overføre alle bit nøyaktig, tar sikte på kun å overføre kontekst ved å innføre intelligens i kommunikasjonen. (*Konseptet i seg selv har eksistert i flere tiår.) Dette er en endring som følger av de sterke fremskrittene innen intelligente modeller den siste tiden og behovet for kommunikasjon av enda større datamengder.

Dette kalles Semantic Communication, fordi det er kommunikasjon som utveksler mening.

Semantisk kommunikasjon (Semantic communication)

Der tidligere hele datamengden ble overført i semantisk kommunikasjon, er målet nå kun å overføre den essensielle meningen, altså konteksten, som ligger i dataene.

Dette problemet ble allerede reist i Shannon og Weavers kommunikasjonsmodell, og de delte kommunikasjonens modenhet inn i tre nivåer.

  1. Teknisk problem: Hvor nøyaktig kan symboler (Symbol) overføres? (Dette er kjerneområdet i deres teori.)
  2. Semantisk problem: Hvor nøyaktig formidler de overførte symbolene den ønskede «meningen»?
  3. Effektivitetsproblem: Hvor effektivt påvirker den formidlede meningen mottakerens handlinger?

Så langt har utviklingen av kommunikasjon i stor grad løst det tekniske problemet, og nå er oppgaven å løse de semantiske og effektivitetsrelaterte problemene.

Forskjellen mellom modenhetsnivå 1 og nivåene 2 og 3 (semantisk kommunikasjon) illustreres typisk med eksempelet om et brennende hus.

Et hus brenner.

I dagens kommunikasjonsparadigme blir denne scenen digitalisert bit for bit og overført som et bilde.

I semantisk kommunikasjon, i stedet for å sende alle data slik som «svart røyk kommer fra vinduet og flammer er synlige», overføres kun den essensielle «meningen»: «Brann, øyeblikkelig utrykning nødvendig». Dette utelater bevisst unødvendig informasjon og har som mål å få mottakeren til å utføre en bestemt handling (utrykning).

Dersom sender og mottaker deler samme kunnskapsbase innen brannvesen, kan den nødvendige datamengden for å forstå situasjonen reduseres betydelig i ende-til-ende-kommunikasjon.

Kjernelogikken for koding og dekoding i denne semantiske kommunikasjonen er et kommunikasjonsparadigme, men den opererer over applikasjonslaget. På sendersiden omformer en semantisk koder de gitte dataene til semantiske data, og på mottakersiden bearbeider en semantisk dekoder dem til en form som kan brukes av kilden lenger ned i kjeden. Begge vil få form av inferensmodeller eller lignende som har samme kunnskapsbase, og dermed blir det mulig å utveksle semantikk uten overføring av store datamengder.

Naturligvis er dette garantert på grunnlag av fullføringen av det eksisterende kommunikasjonsparadigmet. Først må symboler kunne overføres nøyaktig på et teknisk nivå, og dette modenhetsnivået er allerede oppnådd. Nå er hovedutfordringen hvor godt de overførte symbolene formidler og tolker informasjonens semantikk, og forskningen på dette har nettopp begynt.

Men et kommunikasjonssystem basert på slike semantiske kontekster er svært utsatt for problemer, fordi det, i motsetning til det tradisjonelle syntaktiske kommunikasjonssystemet, er avhengig av KI og lignende for pålitelighet (reliability). Selv med samme kunnskapsbase kan det oppstå ulike tolkninger fra modellens svarte boks.

Etterord

Det sies at 6G (sjette generasjon mobilkommunikasjon) vil ta i bruk semantisk kommunikasjon og bli et intelligent internettsystem, men det er spørsmål ved hvorfor et paradigme som opererer over applikasjonslaget blir en forskningsoppgave for mobiloperatører. Etter min intuisjon er operatørenes rolle å sikre modenhetsnivå 1, altså at symboler og bit overføres teknisk korrekt, og at det tidspunktet da semantisk kommunikasjon fungerer allerede hører til applikasjonsområdet.

På den annen side finnes det også en tvil om det i det hele tatt kan oppstå et nytt paradigme innen kommunikasjonsteknologi, der pålitelighet må ligge til grunn som en grunnleggende verdi. Jeg deler selv denne tvilen og har en personlig, litt negativ holdning.

Likevel skriver jeg dette fordi jeg mener at neste paradigme innen mobilkommunikasjon utvikler seg på en ganske interessant måte. At satellittinternett innføres for å utvide kanalkapasiteten er praktisk talt en etablert kjensgjerning med Project Kuiper, Starlink og lignende, og forsøkene på å bryte gjennom grensene Shannons lov har satt på en ny måte har vært ganske oppsiktsvekkende.