 |
 |
 |
 |
|
 |
 |
С этой задачей тесно связано обобщение задачи, о которой говорилось по поводу уравнения (3.091).
Сколько информации в рассматриваемом случае приобретается нами об одних только переменных х1, ...,
x
n–m
? Здесь априорная плотность вероятности этих переменных равна
,
(3.14)
а ненормированная плотность вероятности после фиксации величин у
*
будет
(3.141)
где
?
берется по всем мн
ожествам значений (x
n–m+1,
…, x
n
), соответствующим данному множеству
значений у
*
. Основываясь на этом, нетрудно записать решение нашей задачи, хотя оно и будет
несколько громоздким. Если мы примем множество (x1, …, x
n–m
) за обобщенное сообщение, множество
(x
n–m+1,
…, x
n
) – за [c.126] обобщенный шум. а величины у
*
– за обобщенное искаженное сообщение, то
получим, очевидно, решение обобщенной задачи выражения (3.091).
Таким образом, мы имеем по крайней мере формальное решение обобщения упомянутой уже задачи о
сигнале и шуме. Некоторое множество наблюдений зависит произвольным образом от некоторого
множества сообщений и шумов с известным совместным распределением. Мы хотим установить,
сколько информации об одних только сообщениях дают эти наблюдения. Это центральная проблема
техники связи. Решение ее позволит нам оценивать различные системы связи, например системы с
амплитудной, частотной или фазовой модуляцией, в отношении их эффективности в передаче
информации. Это техническая задача, не подлежащая здесь подробному обсуждению; уместно, однако,
сделать некоторые замечания.
Во-первых, можно показать, что если пользоваться данным здесь определением информации, то при
случайных помехах в эфире с равномерно распределенной по частоте мощностью и для сообщения,
ограниченного определенным диапазоном частот и определенной отдачей мощности на этом диапазоне,
не существует более эффективного способа передачи информации, чем амплитудная модуляция, хотя
другие способы могут быть столь же эффективны. Во-вторых, переданная этим способом информация
не обязательно имеет такую форму, которая наиболее приемлема для слуха или для другого данного
рецептора. В этом случае специфические свойства уха и других рецепторов должны быть учтены при
помощи теории, весьма сходной с только что изложенной. Вообще эффективное использование
амплитудной модуляции или какого-либо другого вида модуляции должно быть дополнено
применением соответствующих декодирующих устройств для преобразования принятой информации в
такую форму, которая может быть хорошо воспринята рецепторами человека или же механическими
рецепторами. Первоначальное сообщение тоже должно кодироваться, чтобы оно занимало возможно
меньше места при передаче. Эта задача была разрешена, по крайней мере частично, когда Белловские
телефонные лаборатории разработали систему “вокодер”, а д-р К. Шеннон из этих лабораторий [c.127]
представил в весьма удовлетворительном виде соответствующую общую теорию. Так обстоит дело с
определением и методикой измерения информации. Теперь рассмотрим, каким способом информация
может быть представлена в однородной во времени форме. Заметим, что большинство телефонных
устройств и других приборов связи в действительности не предполагает определенного начала отсчета
во времени. В самом деле, только одна операция как будто противоречит этому, но и здесь
противоречие лишь кажущееся. Мы имеем в виду модуляцию. В ее наиболее простом виде она состоит
в преобразовании сообщения f(t) в сообщение вида f(t)sin(at+b). Однако, если мы будет рассматривать
множитель sin(at+b) как добавочное сообщение, вводимое в аппаратуру, то, очевидно, случай
модуляции подойдет под наше общее утверждение. Добавочное сообщение, которое мы называем
переносчиком, ничего не прибавляет к скорости передачи информации системой. Вся содержащаяся в
нем информация посылается в произвольно короткий промежуток времени, и затем больше ничего
нового не передается.
