Характеристики каналов передачи информации с помехами

Рисунок 5.5 - Структура канала передаи информации с помехами

Выходной алфавит символов источника сообщений:

Количество информации, приходящееся в среднем на один символ источника:

где p_i – вероятность появления символа a_i на выходе источника.

Среднее количество информации, выдаваемое источником в единицу времени – информационная производительность:

где - среднее число символов, выдаваемое источником в единицу времени.

Алфавиты символов канала связи:

Матрица переходных вероятностей:

Среднее количество информации на один входной и на один выходной символ канала:

Информация, которую несет выход канала о входе:

где H_y(X) - ненадежность канала, H_x(Y) - энтропия шума.

Скорость передачи информации по каналу:

где -среднее число символов, передаваемое по каналу в единицу времени.

Пропускная способность канала:

где {p} - множество всех возможных распределений вероятностей входного алфавита символов канала

- max p характеристики канала.