Программная модель помехоустойчивого кодирования

    Доказано, что расстояние между нулевым  кодовым словом и одним из кодовых  слов, входящих в порождающую матрицу (строки порождающей матрицы линейного  блочного кода сами являются кодовыми словами, по определению), равно d_min. Но расстояние от любого кодового слова до нулевого равно весу Хемминга этого слова. Тогда d_min  равно минимальному весу Хемминга  для всех строк порождающей матрицы кода .

    Если  при передаче кодового слова по каналу связи в нем произошла одиночная ошибка, то расстояние Хемминга между переданным словом U и принятым вектором  r будет равно единице. Если при этом одно кодовое слово не перешло в другое (а при d_min > 1 и при одиночной ошибке это невозможно), то ошибка будет обнаружена при декодировании.

    В общем случае если блочный код  имеет минимальное расстояние d_min, то он может обнаруживать любые сочетания ошибок при их числе, меньшем или равном d_min - 1, поскольку никакое сочетание ошибок при их числе, меньшем, чем d_min - 1, не может перевести одно кодовое слово в другое.

    Но  ошибки могут иметь кратность  и большую, чем d_min- 1, и тогда они останутся необнаруженными.

    При этом среднюю вероятность необнаруживаемой ошибки можно определить следующим  образом.

    Пусть вероятность ошибки в канале связи равна P_ош. Тогда вероятность того, что при передаче последовательности длины n  в ней произойдет одна ошибка, равна

                          Р₁ = n P_ош × ( 1- Р_ош)^n-1,                                                      (1.36)

соответственно, вероятность l-кратной ошибки  - 

                P_l =C_n^l P_ош^l × ( 1- P_ош)^n-l,                                                       (1.37)

где  C_n^l   -  число возможных комбинаций из  n  символов кодовой последо-вательности по  l  ошибок.

      По каналу связи передаются кодовые слова с различными весами Хемминга. Положим, что a_i — число слов с весом i в данном коде (всего слов в коде длиной n  -  ).

      А теперь определим, что такое необнаруживаемая ошибка. Обнаружение ошибки производится путем вычисления синдрома принятой последовательности. Если принятая последовательность не является кодовым словом ( тогда синдром не равен нулю), то считается, что ошибка есть. Если же синдром равен нулю, то полагаем, что ошибки нет (принятая последовательность является кодовым словом). Но тем ли, которое передавалось?  Или же в результате действия ошибок переданное кодовое слово перешло в другое кодовое слово данного кода:

                                       r  = U  + е =  V,                                                       (1.38)

то  есть сумма  переданного кодового слова U и вектора ошибки е даст новое кодовое слово V ? В этом случае, естественно, ошибка обнаружена быть не может.[16]

      Но из определения  двоичного линейного кода следует, что если сумма кодового слова и некоторого вектора  е  есть кодовое слово, то  вектор е также представляет собой кодовое слово. Следовательно, необнаруживаемые ошибки будут возникать тогда, когда сочетания ошибок будут образовывать кодовые слова.

      Вероятность того, что вектор е совпадает с кодовым словом, имеющим вес i , равна

                                    P_i = P_ошⁱ × (1- Р_ош)^n-i .                                                    (1.39)

Тогда полная вероятность возникновения  необнаруживаемой ошибки

                       .                                                (1.40)

      Пример: рассматриваемый нами (7,4)-код содержит по семь кодовых слов с весами w = 3 и w = 4 и одно кодовое слово с весом w = 7, тогда

                (1.41)

или,  при Р_ош = 10 ^-3, Р(Е) @ 7 × 10 ^-9.

      Другими словами, если  по  каналу  передается информация со скоростью V = 1кбит/с и в канале в среднем каждую секунду будет происходить искажение одного символа, то в среднем семь принятых слов на 10⁹ переданных будут проходить через декодер без обнаружения ошибки (одна необнаруживаемая ошибка за  270 часов).

      Таким образом, использование  даже такого простого кода  позволяет  на несколько порядков снизить вероятность  необнаруживаемых ошибок.

    Теперь  предположим, что линейный блочный  код используется для исправления  ошибок. Чем определяются его возможности  по исправлению?

    Рассмотрим  пример, приведенный на рис. 1.9. Пусть  U и V представляют пару кодовых слов кода с кодовым расстоянием d , равным минимальному — d _min для данного кода.

      Рис. 1.9

    Предположим, передано кодовое слово U, в канале произошла одиночная ошибка  и принят вектор а (не принадлежащий коду).

    Если  декодирование производится оптимальным способом, то есть по методу максимального правдоподобия, то в качестве оценки U^* нужно выбрать ближайшее к а кодовое слово.

    Таковым в данном случае будет U, следовательно, ошибка будет устранена.

    Представим  теперь, что произошло две ошибки и принят вектор b.

Тогда при декодировании по максимуму правдоподобия в качестве оценки будет выбрано ближайшее к b кодовое слово, и им будет  V. Произойдет ошибка декодирования.

    Продолжив рассуждения для d_min = 4, d_min = 5 и т.д., нетрудно сделать вывод, что ошибки будут устранены, если их кратность l не превышает величины

          l< INT (( dmin – 1 )/2) ,           (1.41)

где  INT (X) — целая часть Х.

    Так, используемый нами в качестве примера  (7,4)-код имеет d_min = 3 и, следовательно,  позволяет исправлять лишь одиночные ошибки:

                          l = INT (( d_min – 1 )/2)=INT((3-1)/2)=1 .                             (1.42)

    Таким образом, возможности линейных блочных кодов по обнаружению и исправлению ошибок определяются их минимальным кодовым расстоянием. Чем больше  d_min, тем большее число ошибок в принятой последовательности можно исправить.

      А теперь определим  вероятность того, что возникшая  в процессе передачи ошибка не будет все  же  исправлена при  декодировании.

    Пусть, как и ранее, вероятность ошибки в канале будет равна Р_ош. Ошибки, возникающие в различных позициях кода, считаем независимыми.

    Вероятность того, что принятый вектор r будет иметь какие-нибудь (одиночные, двукратные, трехкратные и т.д.) ошибки, можно определить как

                       Р_ош     =  P₁  + P₂  + P₃  +... + P_n  ,                                             (1.43)

Где Р₁—вероятность того, что в r присутствует одиночная ошибка;  
Р₂—вероятность того, что ошибка двойная и т.д.;  
Р_n  — вероятность того, что все n символов искажены.

    Определим вероятность ошибок заданной кратности:

Р₁ = Вер{ошибка в 1-й позиции ИЛИ ошибка во 2-й позиции ..ИЛИ в n-й позиции} = = Р_ош(1- Р_ош)^n-1 + Р_ош(1- Р_ош)^n-1 +...Р_ош(1- Р_ош)^n-1 =  п × Р_ош(1- Р_ош)^n-;         (1.44)

Р₂ = Вер{ошибка в 1-й И во 2-й позиции ИЛИ ошибка во 2-й И в 3-й позиции…} =

  = P²_ош(1-Р_ош)^n-2 +...Р²_ош(1- Р_ош) ^n-2 = Р²_ош(1- Р_ош) ^n-2.                              (1.45)

      Аналогичным образом

                   Р₃ = Р³_ош(1- Р_ош)^n-3   и т.д.                                                       (1.46)

    Декодер, как мы показали, исправляет все  ошибки, кратность которых не превышает

                        ,                                              (1.47)

то  есть все ошибки кратности J £ l   будут исправлены.[15]

    Тогда ошибки декодирования - это ошибки с  кратностью, большей кратности исправляемых ошибок  l, и их вероятность

      .                                     (1.48)

Для (7,4)-кода Хемминга минимальное расстояние d_min = 3, т.е. l = 1. Следовательно, ошибки кратности 2  и более исправлены не будут и

         .                                (1.49)

Если  Р_ош<< 1, можно считать (1- Р_ош) » 1 и, кроме того, Р³_ош<< Р²_ош. Тогда

             .                                          (1.50)

    Так, например, при вероятности ошибки в канале Р_ош = 10 ^-3 вероятность неисправления ошибки Р(N) » 2 ×10 ^-5, то есть  при такой вероятности ошибок в канале кодирование (7.4)-кодом позволяет снизить вероятность оставшихся неисправленными ошибок примерно в пятьдесят раз.