Презентация по информатике Формула Шеннона (11 класс по учебнику Полякова К.Ю. (углубленный уровень) )

Количество информации Формула Шеннона

Рассмотрим задачу В корзине лежат 16 мячей разного цвета: 4 желтых, 4 красных и 8 синих. Определить полную информацию, содержащуюся в сообщении из корзины извлечён один мяч. Разновероятные события

Благодаря этой рекламе сайт может продолжать свое существование, спасибо за просмотр.

Формула Шеннона Формулу для вычисления количества информации для событий с различными вероятностями предложил Клод Шеннон в 1948 г. I – количество информации n – количество возможных событий pi – вероятности отдельных событий (3)

При этом каждое отдельное слагаемое этой формулы рассматривают как частную информацию, получаемую от отдельного сообщения. (4) Задача. В корзине лежат 16 мячей разного цвета: 4 желтых, 4 красных и 8 синих. Какое количество информации в частных сообщениях о том, что достали жёлтый мяч, достали красный мяч, достали синий мяч. Решение. Система, состояние которой выясняется, имеет три возможных состояния: х1-достали жёлтый мяч, х2- достали красный мяч, х3- достали синий мяч. Вероятности этих состояний: p1=4/16=1/4, p2=4/16=1/4, p3=8/16=1/2. В задаче требуется найти частную информацию от сообщений, поэтому применим формулу (4). Iх1=-log2(1/4)=2(бита), Iх2=-log2(1/4)=2(бита), Iх3=-log2(1/2)=1(бит) Ответ. I1=2 бита, I2=2 бита, I3=1 бит. (2)

Задача. В корзине лежат 16 мячей разного цвета: 4 желтых, 4 красных и 8 синих. Определить полную информацию, содержащуюся в сообщении «из корзины извлечён один мяч». Решение. Система, состояние которой выясняется, имеет три возможных состояния: х1-достали жёлтый мяч, х2- достали красный мяч, х3- достали синий мяч. Вероятности этих состояний: p1=4/16=1/4, p2=4/16=1/4, p3=8/16=1/2. В задаче требуется найти полную информацию от сообщений, поэтому применим формулу (3). Ix=-(1/4*log2(1/4)+1/4*log2(1/4)+1/2*log2(1/2))=1,5(бита) Ответ. Ix=1,5 бита.

Реши задачи Задача 1. В корзине лежат 20 яблок, 10 груш и 10 слив.  Сколько бит информации несёт частное сообщение о том, что выбранный из корзины фрукт - яблоко? Задача 2. В корзине лежат 20 яблок, 10 груш и 10 слив.  Сколько бит информации несёт полное сообщение о том, что из корзины извлечён один фрукт?