Условия всех задач из категории B4

Клода Шеннона называют «отцом теории информации». Разработанная им теория дала инженерам-разработчикам систем передачи данных возможность определения ёмкости коммуникационного канала. Часть теории, изучающей передачу информации, не занимается значением (семантикой) передаваемого сообщения, однако дополняющая часть теории информации обращает внимание на содержимое через сжатие с потерями субъекта сообщения, используя критерий точности.

Разработанные Шенноном в 40-х годах основы теории информации в последующие годы были существенно дополнены и расширены работами Н. Винера, В. А. Котельникова и А. Н. Колмогорова.

Давайте рассмотрим какое-либо событие, например, мы подбрасываем монету (как известно, монета имеет две стороны - "орел" и "решка"). Обозначим количество равновероятных результатов через N.
То есть:

• событие - подбрасывание монеты;

• результат - выпадение либо "орла" либо "решки".

Следовательно, N = 2, так как монета имеет две стороны.

Чтобы определить количество информации i, содержащееся в сообщении о том, что произошло одно из N равновероятных событий, потребуется составить и решить показательное уравнение:

2ⁱ = N

У новичков сразу должен возникнуть вопрос, а почему степень имеет основание равное 2, а например не 3 или 19?
Ответ: мы измеряем количество информации в битах, а бит поддерживает только два значения - ноль и единица.

Количество информации – мера уменьшения неопределенности какого-либо явления.

Единицы измерения информации:

• бит;

• байт,

• килобайт;

• мегабайт;

• гигабайт;

• терабайт.

причем существует однозначная взаимная связь между единицами измерения информации:

Существует три конститутивных способа измерения информации:

1. алфавитный подход;

2. содержательный подход;

3. вероятностный подход.

Последовательность – совокупность элементов некоторого множества. Каждый элемент множества характеризуется неким натуральным числом (индексом). Для каждого элемента множества можно получить следующий элемент данного множества.

Нередко примеры из данной категории насыщены различными последовательностями, строящимися по некому алгоритму. В подобных задачах, в первую очередь, нужно понять принцип построения таких последовательностей, а затем, сделать правильное логическое умозаключение.

Для успешного решения задач из данной категории вы должны:

1. попытаться применить к заданным величинам формулу Хартли, так как, именно она, как правило, идеально подходит для вычисления количества передаваемой информации;

2. суметь воспользоваться одним из методов измерения информации.

Дано:
световое табло состоит из светящихся элементов, каждый из которых может гореть одним из четырех различных цветов.

Найти:
сколько различных сигналов можно передать при помощи табло, состоящего из пяти таких элементов (при условии, что все элементы должны гореть)?

Дано:
некоторое сигнальное устройство за одну секунду передает один из трех специальных сигналов.

Найти:
какое количество различных сообщений можно передать при помощи этого устройства за пять секунд?

Дано:
некоторый алфавит содержит три различных символа.

Вопрос:
сколько слов длиной ровно в четыре символа можно составить из данного алфавита (символы в слове могут повторяться)?

Дано:
квадратное световое табло 2 · 2 состоит из светящихся элементов, каждый из которых может гореть одним из четырех различных цветов.

Вопрос:
сколько различных сигналов можно передать при помощи табло при условии, что все элементы должны светиться?