Количество информации. Единицы измерения информации.

Тема 4.

1. Перечислить основные единицы измерения количества информации и соотношения между ними.

Бит, байт, килобайт, мегабайт, гигобайт.

1 байт = 8 бит

1 Кбайт (килобайт) = 1024 байт

1 Мбайт (мегабайт) = 1024 Кбайт

1 Гбайт (гигабайт) = 1024 Мбайт2. Определить понятия «глубина сообщения» и «длина сообщения».

Глубина сообщения q – количество различных элементов (символов, знаков), принятых для представления сообщений. В каждый момент времени реализуется только один какой-либо элемент.

Длина сообщения n – количество позиций, необходимых и достаточных для представления сообщений заданной величины.

3. Как оценивается количество информации по Хартли?

Мера Хартли: I = log ₂ N = n log ₂ q.

4. Как оценивается количество информации по Шеннону?

I = -

5. Заполнить пропуски числами:

1, 5 Кбайт= 1536 байт= 12288 бит

4 Кбайт= 4096 байт= 32768 бит

2 Кбайт= 2048 байт=16384 бит

6. На странице должно быть 30 строк по 60 символов в каждой. Определить информационный объем 1 страницы и сколько листов бумаги потребуется для распечатки текстового файла размером 50 Кбайт.

30 ∙ 60 = 1800 байт - информационный объем одной страницы, 50Кбайт = 50 ∙ 1024 = 51200 байт, 51200: 1800 = 28, 4(4), следовательно потребуется 29 листов.

7. Сообщение занимает 3 страницы по 25 строк. В каждой строке записано по 60 символов. Сколько символов в использованном алфавите, если все сообщение содержит 1125 байтов?

3 * 25 * 60 = 4500; Сообщение занимает 1125 байт, посчитаем, сколько байт занимает каждый символ: 1125 / 4500 = 0.25; Т.к. символ занимает 0.25 байт, одним байтом можно закодировать 4 символа. Байт состоит из 8 бит. 8 / 4 = 2 (количество битов чтобы закодировать каждый символ) Двумя битами можно закодировать 4 символа, значит, в алфавите может быть до четырех символов.

8. Сообщение о том, что Петя живет на 10 этаже, несет 4 бита информации. Сколько этажей в доме?

N = 2i, i = 4 бита,

24 =16 этажей

9. Сообщение о том, что Петя живет во втором подъезде, несет 3 бита информации. Сколько подъездов в доме?

N = 2i, i = 3 бита,

23 = 8 подъездов в доме

10. На книжном стеллаже 16 полок. Книга может быть поставлена на любую из них. Сколько информации содержит сообщение о том, где находится книга?

2I =16 этажей, I = 4 бита информации содержит сообщение

11. В алфавите некоторого языка три буквы «А», «Б» и «В». Все слова на этом языке состоят из 5 букв. Каков словарный запас этого языка, т.е. сколько слов он содержит?

Если мощность алфавита N, а максимальное количество букв в слове, записанном с помощью этого алфавита, — m, то максимально возможное количество слов определяется по формуле L = Nm.

L = 3⁵, следовательно, L = 243.

12. Информационное сообщение объемом 1, 5 килобайта содержит 3072 символа. Сколько символов содержит алфавит, при помощи которого было записано это сообщение?

1, 5 Кбайта = 1, 5*1024*8 = 12288 бит

12288/3072 = 4 бита — информационный вес одного символа

Мощность алфавита равна 24=16 символов

Ответ: 16 символов

13. В корзине лежат 14 черных и 2 белых шара. Сколько информации несет сообщение о том, что из корзины достали белый шар?

1) N = 2 + 14 = 16 – шаров всего;

2) 2/16 = ј - вероятность доставания белого шара;

3) H = log2 (1/ ј) = log2 (1/ 0.125) = 3 бита.

Ответ: 3 бита.

14. В корзине лежат белые и черные шары. Белых четыре штуки. Сообщение о том, что достали белый шар, несет 3 бита информации. Сколько всего шаров в корзине?

H = log2 (1/ ј)

3 = log2 (1/ ј), j = 0.125

0.125 = 4/x, x = 32

Ответ: 32 шара.

15. Из кошелька с восьмью монетами взяли наугад одну монету. Она оказалась достоинством в 1 рубль. И это событие содержит 2 бита информации. Сколько в кошельке рублевых монет?

N=8 штук

H=2 бит

k-?

k=N*j, H=log² (1 / j)

j=0.25, k = 2

Ответ: 2 рублевые монеты

16. К остановке подходят автобусы с разными номерами. Сообщение о том, что подошел автобус №1, несет 5 бит информации. Вероятность появления на остановке автобуса №2 в два раза меньше, чем вероятность появления автобуса №1. Сколько бит информации несет сообщение о появлении автобуса №2?

H = log² (1/j)

log2 (1/j) = 5

1/j = 25

1/j = 32

j = 1/32 вероятность появления автобуса №1

Вероятность появления автобуса №2: j = 1/32: 2 = 1/64

H = log²(1/1/64) = log²64

H = 6 бит

6 бит информации несет сообщение о появлении автобуса №2.