Limites de capacité de canal de Shannon et architecture de communication sémantique (Semantic Communication) fondée sur l'IA

Loi de Shannon

Les communications d'aujourd'hui se sont développées sur la base de la loi de Shannon (Shannon's Law). Il s'agit d'une théorie qui détermine les limites de la communication en réseau, et les tentatives visant à augmenter la capacité maximale du canal, exprimée par la formule présentée ci-après, en ont été l'aboutissement. Par exemple, des technologies telles que le MIMO (Multiple Input Multiple Output) existent. Ces technologies relèvent de l'effort visant à atteindre une capacité de canal plus élevée sur la base de la théorie de Shannon.

La loi de Shannon s'exprime par la formule suivante, qui permet de calculer la capacité du canal.

Ces termes désignent respectivement la capacité du canal (Channel Capacity), la bande passante (Bandwidth) et le rapport signal sur bruit (Signal-to-Noise Ratio). Pour l'exprimer simplement en mots, le débit maximal de communication (C) correspond à la quantité totale de ressources fréquentielles physiques (B) dont dispose le système, multipliée par l'efficacité (log₂(1 + S/N)), c'est-à-dire le nombre de bits d'information que chaque hertz de cette ressource peut transporter en fonction de la qualité du signal (S/N).

Lorsque la loi permettant de calculer la capacité du canal a été introduite, l'industrie des télécommunications a commencé à consacrer des efforts considérables à l'augmentation de cette capacité. Ainsi, pendant environ soixante-dix ans, l'innovation dans le domaine des communications a principalement consisté en l'amélioration de la capacité du canal.

Cependant, à l'époque actuelle, les ressources de traitement ont connu un développement considérable. La communication, qui consistait autrefois à transmettre du texte, en est venue à transmettre des vecteurs spatiaux. Il est devenu difficile de transmettre de manière fiable l'ensemble de ces données en les fragmentant. Par exemple, les données générées par un véhicule autonome peuvent atteindre plusieurs téraoctets par jour, et il est pratiquement impossible de les acheminer avec les réseaux de communication actuels. Se contenter d'installer davantage de câbles et de disposer davantage d'antennes ne suffit plus, car on atteint les limites économiques et physiques.

C'est ainsi que, en s'écartant du paradigme traditionnel qui vise à transmettre avec précision l'ensemble des bits, un paradigme visant à ne transmettre que le contexte, en introduisant l'intelligence dans la communication, a commencé à être étudié. (*Le concept lui-même existe depuis plusieurs dizaines d'années.) Et cette évolution résulte du puissant développement récent des modèles d'intelligence artificielle et du besoin de communiquer des données toujours plus volumineuses.

Il s'agit d'une communication qui échange du sens, c'est pourquoi on l'appelle Semantic Communication.

Communication sémantique (Semantic communication)

Alors que, auparavant, la communication sémantique transmettait l'intégralité des données, elle vise désormais à ne transmettre que leur signification essentielle, c'est-à-dire le contexte.

Ce problème a déjà été soulevé dans le modèle de communication de Shannon et Weaver, qui ont divisé la maturité de la communication en trois niveaux.

1. Problème technique : avec quelle précision peut-on transmettre les symboles ? (C'est le domaine central de ma théorie.)
2. Problème sémantique : avec quelle précision les symboles transmis véhiculent-ils la « signification » souhaitée ?
3. Problème d'efficacité : dans quelle mesure la signification transmise influence-t-elle efficacement le comportement du destinataire ?

Jusqu'à présent, le développement des communications a presque entièrement résolu le problème technique, et sa tâche consiste désormais à traiter les problèmes sémantique et d'efficacité.

La différence entre le niveau de maturité 1 et les niveaux 2 et 3 (communication sémantique) s'illustre couramment par l'exemple de la maison en feu.

Une maison est en train de brûler.

Dans le paradigme actuel des communications, cette scène est numérisée point par point, puis transmise sous forme de photographie.

Dans la communication sémantique, au lieu de transmettre toutes les données comme « De la fumée noire s'échappe de la fenêtre et des flammes sont visibles », seule la « signification » essentielle, « Incendie déclaré, intervention immédiate requise », est transmise. Cette approche omet audacieusement les informations superflues et vise à conduire le destinataire à accomplir une action précise (l'intervention).

Si les deux extrémités de la communication partagent la même base de connaissances dans le domaine des services d'incendie, la quantité de données nécessaire pour appréhender la situation peut être considérablement réduite.

Le principe central de l'encodage/décodage de la communication sémantique relève du paradigme de communication, mais il fonctionne au-dessus de la couche applicative. Du côté de l'émetteur, un encodeur sémantique transforme les données données en données sémantiques ; du côté du récepteur, un décodeur sémantique les traite sous une forme que la source en aval peut utiliser. Ces deux éléments prendront vraisemblablement la forme de modèles d'inférence possédant la même base de connaissances, ce qui permet d'échanger la sémantique sans transmettre de grandes quantités de données.

Naturellement, cela repose sur le niveau de maturité des paradigmes de communication existants. Il faut d'abord pouvoir transmettre les symboles avec précision sur le plan technique, et ce niveau de maturité est déjà atteint. Désormais, la question principale est de savoir dans quelle mesure les symboles transmis véhiculent et interprètent correctement la sémantique de l'information, et ce domaine vient tout juste de commencer à faire l'objet de recherches.

Cependant, les systèmes de communication fondés sur ce contexte sémantique, contrairement aux systèmes syntaxiques traditionnels, reposent sur l'IA pour assurer la fiabilité (reliability), ce qui rend très probable l'apparition de problèmes. Même si les bases de connaissances sont identiques, des interprétations différentes peuvent émerger de la zone en boîte noire du modèle.

Postface

On affirme que la 6G (sixième génération de communications mobiles) appliquera cette communication sémantique pour devenir un système Internet intelligent, mais je m'interroge sur les raisons pour lesquelles un paradigme fonctionnant au-dessus de la couche applicative devient un objet de recherche pour les opérateurs de télécommunications. Selon mon intuition, le rôle des opérateurs consiste à garantir le niveau de maturité 1, où les symboles et les bits sont transmis avec précision sur le plan technique, tandis que le moment où la communication sémantique fonctionne relève déjà du domaine des applications.

D'un autre côté, il existe aussi un doute quant à la possibilité d'un nouveau paradigme dans les technologies de communication, où la fiabilité doit constituer la valeur fondamentale. Je partage moi-même ce doute, et personnellement, j'adopte une position plutôt négative.

Néanmoins, si j'écris ce texte, c'est parce que je pense que le prochain paradigme de la communication mobile évolue de manière assez intéressante. L'introduction de l'Internet par satellite pour étendre la capacité du canal est pratiquement un fait acquis grâce à l'émergence de Project Kuiper, Starlink et d'autres projets, et la tentative de dépasser, par une nouvelle voie, les limites imposées par la loi de Shannon m'a paru assez remarquable.