n Н(a) = S р(Ai) ln р(Ai) i В непрерывном варианте, если случайная величина x и плотность её распределения ¦(x): + ? H(x) = ¦(x) ln ¦(x) dx ? При допущении равновероятностных исходов: Н(a) = ln р(Ai), или Н(a) = log2 р(Ai) в битах/
Однако, для сложных систем, структура, функции и существенные факторы которых изменяются быстро, как правило, статистических данных недостаточно. Проведение статистических экспериментов в уникальных системах вообще невозможно. Для таких случаев придётся провести расчёты по приближенным условным энтропиям и вероятностям, найденным по теоретическим или косвенным методам. 7. Определение условных вероятностей и энтропий системы относительно выполнения целевых критериев по влияющим на систему факторам. В качестве влияющих факторов необходимо учесть все вещественные, энергетические и информационные воздействия, от которых зависит цель системы. В первом этапе моделирования допускается независимость действия отдельных факторов. В случае сильного взаимного влияния друг на друга, вводят ещё дополнительный фактор по влиянию интеракции двух факторов. Теоретически надо было бы определить зависимость статистической кривой распределения условной вероятности целевого критерия от статистической кривой распре деления каждого фактора. Однако практически достигается достаточная достоверность и при оценке зависимостей средних вероятностей Р (А / В). Часто при решении управленческих задач или при разработке прогнозов не хватает опытных и статистических данных. Кроме того, редко известны характер кривых распределения, особенно для внешних факторов, которые могут быть элементами других систем. Все это затрудняет точное определение Р (А / В). Тем не менее, часто имеются отрывочные опытные данные или данные наблюдения, теоретические гипотезы или априорные литературные сведения, что позволяет предположить вероятность достижения цели. Часто можно сделать полезные выводы по априорным данным, если под влиянием конкретного фактора цель вообще не может достигнута или вероятность её недопустимо мала. Иногда полезно также провести дополнительные опыты или наблюдения по методу Байеса или другими методами увеличивать точность оценки вероятностей.
8. Расчёт обобщённой энтропии (ОЭ) системы на основе данных условных энтропий, влияющих на систему факторов. Расчёты производят по формулам, для равновероятных исходов:
n ОЭ(В/х) = е ki log2 P(B/xi) i = 1 В обще случае неравного распределения вероятности n
ОЭ(В/хi) = е ki . P(B/xi) . log2P(B/xi) i = 1 здесь: P вероятность достижения цели, B критерий достижения цели, xi средние значения отдельных факторов (индексы 1 n), k коэффициент рассеяния информации, 1 n перечень отдельных факторов, влияющих на систему. Коэффициент рассеяния информации k всегда больше 1. Он применяется, если имеются дополнительные технологические, организационные или конфликтные условия, которые обуславливают дальнейшее повышение энтропии (в промежуточных этапах). При допущении их отсутствия принимается k = 1. В формуле предполагается аддитивность всех условных энтропий по факторам, которая соблюдалась бы в случае независимости влияния всех факторов на систему. В большинстве случаев влияние одного фактора зависит от влияния других факторов и это (в необходимых случаях) следует учесть путём введения дополнительного фактора (условной энтропии). Во многих случаях условие аддитивности даёт достаточную точность. Во всяком случае она для энтропии (lg2P) соблюдается значительно полнее, чем для условных вероятностей.