Численное значение информационной емкости легко истолковывается. Если информационная емкость выражена в двоичных единицах, то ее значение указывает на число выборов из двух возможностей, достаточное для определения того конкретного состояния, в котором находится накопитель.
Поясним это на примере рис. 27. В этом случае информационная емкость будет равна
С — 4 дв. ед.
Это число показывает, сколько ответов «да» или «нет» достаточно получить, чтобы полностью определить изображение. Пусть, например, требуется определить изображение, обозначенное номером 9, и разрешено задавать только такие вопросы, на которые могут последовать ответы «да» или «нет». Вначале ситуация достаточно неопределенная: с равной вероятностью может быть задумано любое из 16 возможных четырехэлементных двухградационных изображений. Разобьем все 16 возможных состояний накопителя на две равные группы (0—7 и 8—15).
На первый вопрос: «Находится ли это изображение в первой группе?» — последует ответ «нет». Это сообщение уменьшает неопределенность: искомое изображение оказывается во второй группе, где всего 8 возможных изображений. В свою очередь разбивают эту группу на две, по 4 в каждой, и повторяют вопрос. Каждый ответ, каждый последующий выбор уменьшают неопределенность. Очевидно, достаточно четырех ответов («нет», «да», «да», «нет»), чтобы указать, какое из 16 возможных изображений имеется в виду.
Такой же результат получится, если обходить в определенном порядке элементы изображения и о каждом спрашивать: «Он белый?». И в этом случае понадобится четыре раза произвести выбор из двух возможностей, чтобы указать на требующееся изображение. Эту последовательность выборов можно иллюстрировать с помощью так называемого «кодового дерева» (рис. 28). Ответ «нет» на первый вопрос обозначает, что определяемое изображение находится в ветви с цифрой I. Произведя второй выбор, получим ответ «да», что соответствует ветви с цифрой 0 на следующем этаже. После четырех выборов получим последовательность 1001, как раз и обозначающую число 9 в двоичном исчислении.
Рис. 28. «Кодовое дерево».
Развитая Хартли идея последовательных выборов из заданного числа различимых состояний лежит в основе теории информации. Различимые состояния, из которых производится выбор, обычно называют символами, а полный набор символов — алфавитом (последнее по аналогии со случаем, когда информация записывается в виде буквенного текста). В случае, показанном на рис. 26, символами являлись яркости элементов, а алфавит был составлен из четырех символов (белое, серое, темно-серое и черное).
Определенная Хартли информационная емкость является количественной характеристикой способности физической системы быть носителем информации. Однако при этом ничего не говорится об информации, действительно там содержащейся. Информационная емкость является как бы характеристикой пустого накопителя, который может переводиться в определенное число различных состояний, например, быть использованным для записи определенного числа различных изображений. Во многих случаях, особенно при оценке «производительности» таких систем связи, как фототелеграф и телевидение, ограничиваются этой характеристикой. Тариф на фототелеграммы определяется величиной, пропорциональной информационной емкости, предоставленной отправителю, — площадью телеграфного бланка — и не зависит от того, как использована им эта площадь.
Информационная емкость указывает лишь на предельные возможности носителя информации. Наша следующая задача будет состоять в выяснении действительного количества информации, имеющейся в сообщении, в частности информации, содержащейся в изображениях.