Энтропия

border="0" />0,72 бита.

Пусть теперь α1 и α2 — предсказания погоды на 15 июня и на 15 октября. Опыты α1 и α2 также имеют по два исхода: А (предсказание дождя) и Энтропия (предсказание сухой погоды); при этом пары опытов (α1, β1) и (α2,β2) ха­рактеризуются следующими таблицами условных вероят­ностей:


Пара (α1, β1)

Энтропия


Энтропия


Энтропия

Энтропия

0,6 0,4 0,2 0,8

Пара (α2,β2)

Энтропия


Энтропия


Энтропия

Энтропия

0,9 0,1 0,5 0,5

(Энтропия). Эти таблицы позволяют определить также и неизвестные нам вероятности р1(А) и р1(Энтропия),р2(А) и р2(Энтропия) исходов А и Энтропия опытов α1 и α2. По формуле полной ве­роятности имеем для опыта β1

0,4=р(В)= р1(А) Энтропия+ р1(Энтропия)Энтропия=0,6· р1(А) +0,2· р1(Энтропия)

и для опыта β2

0,8 = р (В)= р2(А) Энтропия+ р2(Энтропия)Энтропия=0,9· р2(А)+0,5· р2(Энтропия).

Так как р1(Энтропия)= 1 — р1(А), р2(Энтропия)= 1 — р2(А), то от­сюда получаем

р1(А)= р1(Энтропия)= 0,5, р2(А) = 0,75, р2(Энтропия) = 0,25.

Подсчитаем теперь энтропии НА(β1), Энтропия(в битах):

НА(β1)= -0,6• log 0,6 - 0,4 • log 0,4 Энтропия 0,97,

Энтропия= - 0,2• log 0,2 – 0,8• log0,8 Энтропия0,72

и

Энтропия= - 0,9 • log 0,9 - 0,1• log 0,1Энтропия 0,47,

Энтропия = - 0,5 • log 0,5 - 0,5• log 0,5= 1.

Следовательно,

Энтропия р1(А) НА(β1)+ р1(Энтропия)ЭнтропияЭнтропия0,84,

Энтропия р2(А) Энтропия+ р2(Энтропия)ЭнтропияЭнтропия0,60.

Таким образом, информация, содержа­щаяся в прогнозе погоды на 15 июня (опыт α1) о реальной погоде в этот день (об опыте β2), равна

I (α1, β1) = Н(β1) - ЭнтропияЭнтропия0,97 -0,84 = 0,13 бит,

что несколько больше, чем информация о реальной погоде 15 октября (об опыте β2), содержащаяся в прогнозе погоды на этот день (в опыте α2):

I (α2, β2) = Н(β2) - ЭнтропияЭнтропия0,72 — 0,60 = 0,12 бит.

Этот результат позволяет считать прогноз погоды па 15 нюня более ценным, чем прогноз на 15 октября, не­смотря на то, что последний прогноз чаще оказы­вается правильным: действительно, в силу формулы полной вероятности, для прогноза погоды на 15 нюня вероятность оказаться правильным равна

р1(А) Энтропия+ р1(Энтропия)Энтропия= 0,5• 0,6 + 0,5• 0,8 = 0,7,

в то время как для прогноза погоды на 15 октября эта ве­роятность равна

р2(А) Энтропия+ р2(Энтропия)Энтропия= 0,75 • 0,9 + 0,25 • 0,5 = 0,8.

Заключение


Энтропия как физическая переменная первично возникла из задач описания тепловых процессов. Впоследствии она стала широко использоваться во всех областях науки.

Информация - это знание, которое используется для развития, совершенствования системы и её взаимодействий с окружающей средой.

Информация сама развивается вслед за развитием системы. Новые формы, принципы, подсистемы, взаимосвязи и отношения вызывают изменения в информации, ее содержании, формах получения, переработки, передачи и использования. Благодаря потокам информации система осуществляет целесообразное взаимодействие с окружающей средой, т.е. управляет или управляема. Своевременная и оперативная информация может позволить стабилизировать систему, адаптироваться, восстанавливаться при нарушениях структуры и/или подсистем. От степени информированности системы, от взаимодействия системы и среды зависит развитие и устойчивость системы.

В современном мире все большее значение в управлении организацией отдается прогнозированию. Любая организация в процессе своей деятельности сталкивается с различными рисками, которые в большей или меньшей степени влияют на ее состояние. Многочислелны примеры ситуаций, связанных с социаль­ными, технологическими, экономическими, политическими, эколо­гическими и другими рисками. Именно в таких ситуациях обычно и необходимо прогнозирование. Известны различные виды критериев, используемых в теории принятия решений в условиях неопределен­ности (риска). Из-за противоречивости решений, получаемых по различным критериям, очевидна необходимость применения энтропии.

Список используемой литературы


Дмитриев В.Н. Прикладная теория информации. М: Высшая школа,1989.

Колмогоров А.Н. Теория информации и теория алгоритмов.М:Наука,1987.

Колмогоров А.Н. Три подхода к определению понятия “количество информации” // Проблемы передачи информации. 1965. Т.1. №1.

Поплавский Р.П. Депон Максвелла и соотношения между информацией и энтропией // УФН. 1979. Т. 128. Вып. 1.

Хартли Р. Передача информации// Теория информации и ее приложения. М.: Физматгиз. 1959.

Шамбадаль П. Развитие и приложения понятия энтропии . М.: Наука, 1967 .

Яглом А.М., Яглом И.М. Вероятность и информация. М.: Наука, 1973.

Если Вам нужна помощь с академической работой (курсовая, контрольная, диплом, реферат и т.д.), обратитесь к нашим специалистам. Более 90000 специалистов готовы Вам помочь.
Бесплатные корректировки и доработки. Бесплатная оценка стоимости работы.

Поможем написать работу на аналогичную тему

Получить выполненную работу или консультацию специалиста по вашему учебному проекту
Нужна помощь в написании работы?
Мы - биржа профессиональных авторов (преподавателей и доцентов вузов). Пишем статьи РИНЦ, ВАК, Scopus. Помогаем в публикации. Правки вносим бесплатно.

Похожие рефераты: