Корректирующая способность кода
Для того, чтобы дать наглядное, геометрическое толкование процедуры различения сигналов, введем понятие расстояния Хэмминга.
Расстояние Хэмминга, определяется как число позиций, в которых кодовые символы двух слов отличаются друг от друга.
Данная характеристика показывает, насколько удалены сигналы друг от друга, что играет определяющую роль в теории информации в целом. Чем больше расстояние между сигналами, тем меньше вероятность перепутывания переносимой ими информации.
Для расстояния Хэмминга выполняются следующие три аксиомы:
симметрии - ;
неотрицательности - , причем если
, то
;
неравенства треугольника - .
Наряду с расстоянием Хэмминга широко используется такая характеристика, как вес Хэмминга. Весом Хэмминга вектора
называется число его ненулевых компонент. Очевидно, что
и
, где под суммированием векторов понимается покомпонентное сложение.
Пример 1.4.1.
Для двух двоичных векторов и
расстояние Хэмминга
, поскольку символы, стоящие на второй, третьей и пятой позиций различаются, а на первой и четвертой - совпадают. В свою очередь вес Хэмминга для указанных векторов составляет величину
и
.
Теорема 1.4.1.
Код исправляет любые ошибки кратности и менее в том и только в том случае, если кодовое расстояние удовлетворяет неравенству
. (*)
Доказательство:
Достаточность: Пусть имеется код с кодовым расстоянием
. Предположим, что произошла ошибка кратности
, и что найдутся два кодовых вектора
и
такие, что
,
а значит, не позволяющие исправить ошибку кратности . Однако, как следует из аксиом расстояния,
,
что противоречит условию теоремы. Следовательно, неравенство (*) определяет достаточное условие исправление ошибок кратности и менее.
Необходимость: С другой стороны, если , то обязательно возникнет ситуация, при которой произойдет неверное декодирование. Например, если
, то существует такой вектор наблюдения
, для которого
, и, следовательно, наблюдается неопределенность в принятии решения. Таким образом, условие (*) является необходимым.