С помощью многоуровневых сигналов. Проблема квантования

Как мы уже знаем (см. разд. 1 и Прил. 3), много десятилетий инженеры стремились повысить скорость передачи телеграфных сообщений самыми разными методами, в том числе и за счёт использования многоуровневой телеграфии. Т. Эдисон и Дж. Прескотт в 1984 г. изобрели четырёхуровневый телеграф, а Г. Найквист в 1924 г. рассматривал многоуровневую телеграфию теоретически. Однако технически многоуровневую телеграфию удалось реализовать только в 1990-х годах: в радиосистемах с многопозиционной амплитудной манипуляцией M-ASK. При этом модуляция M-ASK может рассматриваться как частный случай квадратурной амплитудной модуляции QAM: модуляция QAM с одномерным сигнальным созвездием.

Так мы возвращаемся (на более высоком уровне развития технических средств телекоммуникаций) к проблематике многоуровневой телеграфии, которая привела к созданию прикладной теории информации (см. разд. 1).

Рассмотрим задачу оценивания количества знаковой информации, которую может передать статическая система ССПИ многоуровневой телеграфии, использующая канал КПДС с известным уровнем аддитивных помех в канале КПДС.

Если некоторая непрерывная физическая величина (например, напряжение u постоянного тока) используется для передачи с помощью статического канала КПДС дискретной информации, то возникает вопрос о количестве необходимых уровней и расстояниях между ними (количество «чётко различимых уровней» Г. Найквиста и К. Шеннона – см. разд. 1): проблема квантованияс минимальной потерей информации.

Пусть уровни передаваемых сигналов «многоуровневого телеграфа» могут лежать в пределах от – U _т до + U _т, а погрешности определения этих уровней с помощью цифро-аналогового преобразователя (ЦАП), работающего по правилу k = [ u /Δ u + 1/2 ], имеют равномерное распределение в пределах от – W до + W (W < U _т, см. рис. 14).

p (u)

2 W

U ₁ U ₂ U_k U_N

– U Δ u 0 + U u

Рис. 14. Распределение уровней U_k и помех p _п(u)

в системе ССПИ

Разобьём промежуток (– U _т, + U _т) на N уровней с интервалом (величиной кванта) Δ u так, чтобы N = 1 + 2 U _т /Δ u. Если избыточность источника ДИС предварительно снята (соответствующим кодированием первичных знаков некоторыми символами v_k), то все эти N уровней, соответствующие поступающим на ЦАП N символам v_k (k = 1, 2, …, N ), будут равновероятными.

Как показано в разд. 10, большую роль в статистической и в информационной теориях радиосистем имеет энергетический параметр Q, называемый «отношением сигнал / помеха». В бинарной системе ССПИ он определяется как Q = U ²/σ _n ².

В многоуровневом телеграфе следует предварительно определить среднюю мощность сигнала . Если N – чётное число (см. рис. 14), то N = 2 M и

= ,

или = .

Но = (L + 1) (2 L + 1) (2 L + 3)/3. Поэтому

= (M – 1 + 1) (2 M – 2 + 1) (2 M – 2 + 3)/3 = M (2 M + 1) (2 M – 1)/3.

Значит, = Δ u ² (2 M + 1) (2 M – 1)/12.

Если учесть, что Δ u = 2 U _т /(N – 1), то есть = ,

то окончательно получим: = .

Если N – нечётное, то есть N = 2 M + 1, то = Δ u ² M (M + 1)/3 и при Δ u = 2 U _т /(N – 1): = .

Итак, при любом значении N средняя мощность сигнала определяется

выражением

= . (12.1)

При N = 2 (обычный двухполярный телеграф или двухуровневая фазовая манипуляция 0º/180º – см. разд. 10) величина = 3 U _т²/3 = U _т², что очевидно.

При N >> 1 величина ≈ U _т²/3, что соответствует равновероятному закону распределения бесконечного числа уровней U_k и пределах (– U _т, + U _т) и что следует из вычисления дисперсии случайной величины α, равномерно распределённой на произвольном числовом промежутке длиной 2 U _т (см. разд. 11).

Дисперсия же помехи, равномерно распределённой на промежутке (– W, + W), равна: σ _n ² = W ²/3. Значит, в многоуровневом телеграфе отношение

сигнал/помеха есть: Q = , или Q = , где Z ≡ U _т / W.

Если выполняется неравенство Δ u > 2 W, то передача сообщений с помощью преобразователя ЦАП («многоуровневая телеграфия») будет абсолютно надёжной (P_jj = 1, χ(Π) = 1). При этом среднее количество информации , приходящееся на один передаваемый символ v_k (k = 1, 2, …, N ), будет равно = log N = log (1 + 2 U _т /Δ u) (бит / символ).

Максимальное значение N ₀ = 1 + U _т / W соответствует величине кванта Δ u = 2 W.

При уменьшении величины кванта Δ u от Δ u = 2 U _т до Δ u = 2 W количество уровней N = 1 + 2 U _т /Δ u увеличивается от N = 2 до N = 1 + U _т / W = N ₀, а средняя информативность символа будет увеличиваться

от = log 2 = 1 до = log (1 + U _т / W ) = log N ₀ (бит / символ).

Если же величина кванта Δ u будет менее 2 W, то количество уровней N = 1 + 2 U _т /Δ u будет больше величины N ₀, но эти уровни сигналов на выходном преобразователе ЦАП канала КПДС будут «перепутываться» и будет происходить частичная потеря знаковой информации относительно максимально возможной при данном значении отношения Z = U _т / W, то есть относительно величины

ℰ = = log N ₀ = log (1 + U _т / W ) = log (1 + Z ) = ,

так как 1 + Q = 1 + Z ² (1 + Z + 1)/(1 + Z – 1) = 1 + 2 Z + Z ² = (1 + Z )².

Среднее количество информации на один входной символ, которое получается на выходе канала КПДС при данных значениях величин U _т, Δ u и W, с учётом равенства P_j = 1/ N, определяется по формуле (7.4):

= log , (12.2)

а коэффициент надёжности

χ(N, Q) = /log N, (12.3)

где n = (N – 1)/2 = U _т /Δ u, а P_jk – элементы переходной матрицы канала КПДС.

Если W < Δ u ≤ 2 W, то будут «перепутываться» только соседние уровни (см. рис. 14) – и матрица Π = || P_jk || будет трёхдиагональной. В этом случае:

P_{j j} = = ; P_{j , j +1} = P_{j – 1, j} = ,

кроме j = – n и j = n, при которых

P ₁₁ = P_NN = , P ₁₂ = P_{N –1, N} = .

Если обозначить величину P_{j j} = Δ u /(2 W ) через p ₀, то

p ₀ = Δ u /(2 W ), P_{j , j +1} = P _{1, j –1} = (1 – p ₀)/2,

и матрица Π будет иметь вид

Π = .

Результаты расчётов по формулам (12.1) и (12.2) для канала КПДС с переходной матрицей Π приведены на рис. 15 (сплошные линии).

При N >> 1 из формулы (12.1) приближённо получаем:

= (1 – p ₀)/2 + p ₀ + (1 – p ₀)/2 = 1;

≈ =

= log N + p ₀ log p ₀ + (1 – p ₀) log (1 – p ₀) + p ₀ – 1,

а число уровней N = 1 + 2 U _т /Δ u.

Если W < 2 Δ u < 2 W, то матрица Π = || P_jk || будет пятидиагональной и т. д.

При Δ u = 2 W = 2 σ _n ≈ 3,47 σ _n имеем:

p ₀ = Δ u /(2 W ) = 1, N = N ₀, ℰ(Π) = = = log (1 + Z ) = log N ₀.

При Δ u < 2 W ( p ₀ ≤ 1) величина зависит от отношения сигнал/помеха Q = Z ² (N ₀ + 1)/ (N ₀ – 1). Общая зависимость удельной информативности (бит / символ) многоуровневого телеграфа (или канала КПДС с цифро-аналоговым преобразованием) от количества уровней N = 1 + 2 Z _т приведена на рис. 15. а (при значениях Z = 2, 4 и 8) сплошными линиями. Величину = ≡ ℰ(Q) мы назвали (см. разд. 9) удельной информационной ёмкостью статического канала КПДС.

На рис. 16 приведена зависимость информационной ёмкости ℰ(Q) – спло-шная кривая – и оптимального количества уровней N ₀(Q) – пунктир – статического канала КПДС от отношения сигнал/помеха Q при уровнях { U_k } , равномерно распределённых в пределах от U ₁= – U _т до = + U _т, и равномерном распределении помех – в пределах от – W до + W:

ℰ(Q) = ; N ₀(Q) = .

Поскольку количество уровней не может быть менее двух, то при Q < 3 следует воспользоваться формулой (9.3) p = (W – U )/ W = 1 – U / W = 1 – :

= 1 + log + (1 – ) log (1 – ).

χ

0,5

Z = 2 4

0

0 2 4 N ₀ 6 8 10 N = 1 + 2 U /Δ u

б )

бит

символ

4

log N

3

ℰ

2

1 4

Z = 2

0

0 2 4 N ₀ 6 8 10 N = 1 + 2 U /Δ u

а )

Рис. 15. Зависимость (а) удельной информативности

и (б) коэффициента надёжности : системы ССПИ

от количества уровней N = 1 + 2 U ₀/Δ u

Значит, если задано максимально допустимое значение модуля напряжения U _т на входе статического канала КПДС и уровень W равномерно распределённых помех в канале, то при нечётном значении величины [ U ₀/ W ], где [ x ] – целая часть величины x, то есть [ x ] – максимальное целое число, не превышающее значения x, то количество «чётко различимых уровней» (термин Найквиста и Шеннона) составляет N = [ 1 + U _т / W ] + 1. Если элементарные сообщения источника ДИС закодированы таким образом, что полученный вторичный источник ДИСвыдаёт символы “1” и “0” независимо друг от друга и с равной вероятностью, то информационный поток “единиц” и “нолей” следует объединять в блоки размера m = [ log [ 1 + U _т / W ]] + 1.

ℰ N ₀

бит

символ

4 20 ℰ (Q)

N ₀ (Q)

3 15 3 1 2

2 10

1

0

1 3 10 30 100 300 Q

Рис. 16. Зависимость информационной ёмкости (сплошная линия)

и оптимального количества уровней (пунктир) от величины Q

Таким образом, для передачи максимального удельного количества синтактической (дискретной) информации по аналоговому статическому каналу КПДС с равномерно распределёнными помехами нужно провести следующие операции.

1. Сообщение S_i ⁽ⁿ⁾ = (u_{i 1}, u_{i 2}, …, u_il …, u_in) длины n необходимо закодировать двоичными символами (например “1” и “0”) таким образом, чтобы в любом i -м сообщении S_i ⁽ⁿ⁾ символы “1” и “0” появлялись независимо и равновероятно (снять избыточность данного источника ДИС – см. разд. 5).

2. Исходя из допустимого на входе канала КПДС значения U _т и уровня W равномерно распределённых помех в канале определить число уровней кванто-

вания N ₀ = [ 1 + U _т / W ] при чётном n и N ₀ = [ 1 + U _т / W ] + 1 – при нечётном n.

3. Разбить поток символов “1” и “0” на последовательно идущие блоки b_k длиной m = [ log N ₀ ] + 1.

4. Каждому блоку приписать значение уровня .

5. Подавать эти уровни напряжения (с помощью преобразователя ЦАП) на вход аналогового статического канала КПДС поблочно.

В этом случае реализуется удельная ёмкость канала КПДС

ℰ(Q) = при N ₀(Q) = , (12.4)

где Q – отношение сигнал/помеха: Q = U _т² (N ₀ + 1)/[ W (N ₀ – 1)].

Рассмотрим более реалистический вариант «многоуровневого телеграфа». Пусть помехи в канале КПДС распределены по гауссовскому закону с дисперсией D_n = σ _n ². Тогда в двухуровневой телеграфии даже при большом отношении сигнал/помеха Q = U ₀²/ D_n величина _вых(2, Q) составляет не один бит-на-знак, а величину _вых(2, Q) = χ(2, Q) = 1 + p log p + (1 – p) log (1 – p), где p = = (см. формулы (9.3), (10.1) и рис. 11).

При N > 2 для оценки величины _вых(N, Q), где Q = U _т² (N + 1)/[3 (N – 1) σ _n ²], воспользуемся формулой (12.2), в которой N = 2 M, а при k ≠ 1 и k ≠ N элемент P_{j k} переходной матрицы Π есть (см. рис. 17):

P_{j k} = ,

или P_{j k} = , (12.5)

где Φ(z) – интеграл вероятности; Φ(z) = .

При k = 1 или k = N:

P_{j k} = . (12.6)

Результаты численных расчётов по формулам (12.6), (12.5) и (12.2) зависимости _вых(Q) при N = 2, 4, 8 и 16 приведены на рис. 18.

p _п (u)

P_jk

U ₁ U ₂ U_j U_k U_N

– U Δ u 0 + U u

Рис. 17. Распределение уровней U_k и гауссовских помех p _п(u)

в статической системе ССПИ

Кривая 1 соответствует предельной ёмкости канала КПДС _вых(Q) при N → ∞, которая и определяет, по существу, информационную ёмкость ℰ(Q) аналогового канала связи с ограниченной пиковой мощностью. Для проведения сравнения и аппроксимации на рис. 18 кривой 2 представлена зависимость информационной ёмкости ℰ_Ш(Q) от отношения сигнал/помеха Q аналогового канала связи при ограниченной средней мощности – пунктир: ℰ_Ш(Q) (формула Шеннона, которую мы упоминали в разд. 1 и которую выведем в разд. 13).

При больших значениях Q (Q ≈ 1000) величина ℰ_Ш(Q) на 0,23 (бит / сим-вол) больше, чем величина, даваемая зависимостью ℰ(Q), которую, следовательно, можно аппроксимировать функцией ℰ(Q) .

Имея серию результатов расчёта величины _вых(Q) при различных значениях N, можно построить аппроксимацию зависимости _вых(Q) как поверхности над плоскостью { Q, N }. Для наглядности эту поверхность _вых(Q, N ) при квазинепрерывном N можно представить её сечениями при значениях _вых = = 1, 2, 3 и т. д. (бит / символ) – по аналогии с рельефом местности на топографи-

_вых

бит

символ

4 21 16

3 8

2 4

1 N = 2

0

1 3 10 30 100 300 Q

Рис. 18. Зависимости величины _вых от отношения сигнал/помеха Q

при различных значениях количества уровней N

ческих картах (см. рис. 19). А уже по аппроксимации _вых(Q, N ) для квазинепрерывного N можно делать разнообразные практические выводы.

Например. Для конечных значений N < ∞ и при заданной величине U _т: чем больше будет величина кванта Δ u = 2 U _т /(N – 1), тем меньше будет число уровней квантования (телеграфной линии) N, но тем меньше будет величина

_вых. Получается задача на оптимизацию величины кванта Δ u, и для выбора оптимального значения Δ u ₀ следует задаться соответствующим критерием; например «ёмкость/стоимость».

Чтобы довести рассматриваемый пример до конкретных числовых результатов, нужно при каждом значении _вых = , , … построить зависимость величины приведённого кванта q ₀ ≡ Δ u /σ _n от величин Q и N.

Для каждой кривой N (Q)| _{I = 1, 2, 3, …} можно построить связанную с ней зави-

Nq ₀ = Δ u/ σ _n

40 8 I = 1 2 3

30 6

20 4 q ₀ (Q)| _{I = 1} q ₀ (Q)| _{I = 2} q ₀ (Q)| _{I = 3}

10 2

0

1 3 10 30 100 300 Q

Рис. 19. Рельеф функции _вых (N, Q) и выбор

оптимального количества уровней N ₀ многоуровневого телеграфа

симость величины приведённого кванта q ₀ ≡ Δ u /σ _n от значения Q:

U = Δ u (N – 1)/2; Q = .

Значит, q ₀ = .

На рис. 19 эти зависимости q ₀(Q) показаны пунктиром.

Так, согласно рис. 18, при = 1: N = 4, Q = 4,2; q ₀ = 1,9; N = 8, Q = 3,8; q ₀ = 0,85; N = 16, Q = 3,3; q ₀ = 0,395; при = 2: N = 8, Q = 24; q ₀ = 2,4; N = 16, Q = 21; q ₀ = 0,99 и т. д.

Если значение q ₀ выбрать, например, таким образом, чтобы гауссовская плотность вероятности аддитивных помех была бы эквивалентна равномерной плотности p _р(x) со значением p _р(0) = p_n (0), то для нахождения величины Δ u по-

лучаем равенство: Δ u ₀ p_n (0) = = 1.

Значит, , а P_{j j} ≈ 0,788 при j ≠ 1 и j ≠ N. Величину _вых

при значении назовём практической информационной ёмкостью многоуровневого телеграфа и обозначим через ℰ_пр(Q).

Результаты расчётов зависимостей от отношения сигнал/помеха Q вели-

чины практической информационной ёмкости ℰ_пр и соответствующей ей оптимального количества уровней квантования N ₀ при Δ u ₀ = 2,5 σ _n (процесс нахождения N ₀ показан стрелками на рис. 19) приведены на рис. 20.

ℰ_пр N ₀

бит

символ

4 40 31

3 30 2

2 20 ℰ (Q)| _{N = 2}

1 10 N = 2

0

1 3 10 30 100 300 Q

Рис. 20. Зависимости от отношения сигнал/помеха Q

величины ℰ_пр и количества уровней N ₀

Кривая 1 показывает зависимость от отношения сигнал/помеха Q величины ℰ_пр для рассматриваемого канала КПДС, а кривая 2 – соответствующее величине ℰ_пр количество уровней N ₀.

Для проведения сравнения и аппроксимации на рис. 20 также приведена зависимость информационной ёмкости аналогового статического канала связи

ℰ_Ш(Q), соответствующая формуле Шеннона (кривая 3).

Как видим, при больших значениях Q (Q >> 8) значение ℰ_пр одномерного

цифрового канала КПДС («многоуровневого телеграфа») на 0,45 (бит / символ) меньше, чем ёмкость аналогового канала с ограниченной средней мощностью

ℰ_Ш. Поэтому зависимость _вых(Q) при Δ u ₀ = 2,5 σ _n можно аппроксимировать функцией: ℰ_пр(Q) ≡ при аппроксимации опти-

мального количества уровней квантования кривой ≈ .

Поскольку количество уровней в телеграфе не может быть меньше, чем

два, то при Q ≤ 3 величина ℰ_пр(Q) определяется формулой (9.3) – см. рис. 11. На

рис. 20 показаны полные зависимости величин ℰ_пр и N ₀ от отношения сигнал/помеха Q, а на рис. 21 приведена полная зависимость от величины Q коэф-

фициента информационной надёжности χ = ℰ_пр /log N ₀ системы передачи дис-

кретных сообщений при использовании многоуровневой симметричной амплитудной манипуляции M-ASK. Пунктиром на рис. 20 показана информационная ёмкость двухуровневого телеграфа (N = 2).

χ

1

0

1 3 10 30 100 300 Q

Рис. 21. Зависимость коэффициента информационной надёжности χ

системы передачи сообщений с симметричной модуляцией M-ASK

от величины Q

Вопросы для самопроверки

1. Каким образом вычисляется средняя мощность многоуровневого сигнала?

2. Каким образом вычисляется информационная ёмкость канала электросвязи с ограниченной пиковой мощностью при аддитивных равномерно распределённых помехах в канале?

3. Какова зависимость информационной ёмкости и оптимального количества уровней канала электросвязи с ограниченной пиковой мощностью от величины отношения сигнал/шум в канале в случае гауссовского шума?

4. Какова методика вычисления теоретической и практической информационной ёмкости, а также оптимального количества уровней и коэффициента информационной надёжности канала электросвязи с ограниченной пиковой мощностью в канале?