Предел пропускной способности канала Шеннона и структура семантической связи (Semantic Communication) на основе ИИ

Закон Шеннона

Современная связь развивалась на основе закона Шеннона (Shannon's Law). Это теория, определяющая предельные возможности сетевой связи, и попытки повысить максимальную пропускную способность канала по приведённой ниже формуле стали основой развития. Например, существуют такие технологии, как MIMO (Multiple Input Multiple Output). Эти технологии являются частью усилий по достижению более высокой пропускной способности канала на основе теории Шеннона.

Закон Шеннона выражается следующей формулой для расчёта пропускной способности канала.

Здесь обозначены соответственно пропускная способность канала (Channel Capacity), полоса пропускания (Bandwidth) и отношение сигнал/шум (Signal-to-Noise Ratio). Если выразить это простыми словами, максимальная скорость передачи (C) равна произведению общего объёма физического частотного ресурса, доступного системе (B), на эффективность (log₂(1 + S/N)), которая показывает, сколько бит информации может быть передано на 1 Гц этого ресурса в зависимости от качества сигнала (S/N).

С появлением закона, позволяющего вычислять пропускную способность канала, индустрия связи начала прилагать усилия к её увеличению. Так на протяжении примерно 70 лет инновации в связи в основном достигались за счёт улучшения пропускной способности канала.

Однако в современную эпоху ресурсы обработки данных значительно выросли. Связь прошла путь от передачи текста до передачи пространственных векторов. Надёжная передача всех этих данных с разбиением на части начала сталкиваться с ограничениями. Например, данные, генерируемые беспилотным автомобилем, могут достигать нескольких терабайт в день, и выдержать их с помощью современных сетей связи практически невозможно. Простое прокладывание большего количества линий и установка большего числа антенн упирается в экономические и физические ограничения.

Так, вместо парадигмы точной передачи всех битов начала исследоваться парадигма, направленная на передачу только контекста, за счёт внедрения интеллекта в процесс связи (*сама концепция существует уже несколько десятилетий). Это изменение обусловлено недавним мощным развитием моделей интеллекта и возросшей потребностью в передаче больших объёмов данных.

Такая связь, передающая смысл, называется Semantic Communication.

Семантическая связь (Semantic communication)

Семантическая связь ставит целью передавать не все данные целиком, как это делалось прежде, а только их ключевой смысл, то есть контекст.

Эта проблема была поставлена уже в модели связи Шеннона и Уивера, которые разделили зрелость связи на три уровня.

Техническая проблема: насколько точно можно передать символ (Symbol)? (Это основная область моей теории.)
Семантическая проблема: насколько точно переданный символ передаёт желаемый «смысл»?
Проблема эффективности: насколько эффективно переданный смысл влияет на действия получателя?

До сих пор развитие связи в основном решило техническую проблему, а теперь ставится задача перевода семантической проблемы и проблемы эффективности.

Различие между первым уровнем зрелости и вторым и третьим уровнями (семантической связью) наглядно показывается на примере горящего дома.

Какой-то дом горит.

В современной парадигме связи эта сцена оцифровывается по каждой детали и передаётся в виде фотографии.

В семантической связи вместо того, чтобы передавать все данные, например, «из окна идёт чёрный дым и видны языки пламени», передаётся только ключевой «смысл»: «Возгорание, требуется немедленный выезд». Такой способ нацелен на то, чтобы смело опускать ненужную информацию и побуждать получателя к определённым действиям (выезду).

Если отправитель и получатель находятся в одной сквозной связи и обладают одной и той же базой знаний в области пожаротушения, то объём данных, необходимых для понимания ситуации, можно значительно сократить.

Ключевая логика кодирования и декодирования семантической связи относится к парадигме связи, но работает поверх прикладного уровня. На стороне отправителя семантический кодер преобразует заданные данные в семантические данные, а на стороне получателя семантический декодер обрабатывает их в форму, которую может использовать нижележащий источник. Оба будут представлять собой модели вывода или подобные им, имеющие одну и ту же базу знаний, и благодаря этому станет возможен обмен семантикой без передачи больших объёмов данных.

Разумеется, это обеспечивается на основе завершённости существующей парадигмы связи. Сначала необходимо, чтобы символы технически передавались точно, и этот уровень зрелости уже достигнут. Теперь главной задачей стало то, насколько хорошо переданные символы передают и интерпретируют семантику информации, и исследования в этой области только начинаются.

Однако системы связи, основанные на таком семантическом контексте, в отличие от традиционных синтаксических систем связи, опираются на ИИ для обеспечения надёжности (reliability), поэтому вероятность возникновения проблем очень велика. Даже при одинаковой Knowledge Based модель может выдавать различные интерпретации из своей «чёрной коробки».

Заключение

Предполагается, что в 6G (шестом поколении мобильной связи) такая семантическая связь будет применена и станет интеллектуальной интернет-системой, однако вызывает вопросы, почему парадигма, работающая поверх прикладного уровня, становится предметом исследований мобильных операторов. По моему мнению, роль мобильных операторов заключается в обеспечении первого уровня зрелости, при котором символы и биты передаются технически точно, а момент работы семантической связи уже относится к области прикладных программ.

С другой стороны, есть вопрос и о том, возможна ли новая парадигма в технологиях связи, где надёжность должна лежать в основе. Я сам разделяю эти сомнения и лично занимаю несколько скептическую позицию.

Тем не менее я пишу эту статью, потому что считаю, что следующая парадигма мобильной связи развивается в довольно интересной форме. Внедрение спутникового интернета для расширения пропускной способности канала, фактически предрешённое появлением Project Kuiper, Starlink и других проектов, и попытки преодолеть ограничения, связанные с законом Шеннона, в новой форме показались мне весьма любопытными.