Энтропия. 
Круговой процесс. 
Цикл Карно

При исследовании систем существенное значение имеют вероятностные характеристики их структуры и функции, неопределённость и ОЭ. Часто важную информацию дают условные вероятности достижения цели. Для неживых систем в качестве критериев принимают целесообразность, назначение или вероятность сохранения целостности структуры. ОЭ и ОНГ являются функция ми состояния системы. Информация является функцией процесса (связи) между двумя или больше системами, при которой хотя бы у одной системы ОНГ увеличивается (ОЭ уменьшается). В качестве исходных предпосылок для определения количества информации и энтропии систем можно применять классические положения теорий информации и вероятности [2325]. Для характеристики динамических (или кинетических) процессов необходимо дополнительно учитывать механизмы Марковских случайных и эргодических многостадийных процессов. Иззапереплетения, совмещения многих систем возникают проблемы многоцельности и взаимозависимости условных вероятностей и энтропий. Однако, при практической работе со сложными системами применение известных методов теории информации связано со многими трудностями.

Теория информации рассматривает информацию и энтропию как скалярные величины, которые могут передаваться по каналам связи. В общем случае, как информация, так и ОЭ или ОНГ являются многомерными (векторными) величинами. Они зависят от условных вероятностей и условно независимых факторов в многомерном пространстве состояния системы.

Измерение информации бесконечно многомерного реального пространства невозможно. Для моделирования её необходимо выяснить существенные факторы и отбросить несущественные размерности.

Для расчёта энтропии сложных систем необходимы данные о многих условных вероятностях, определение которых представляет трудности и отсутствуют методы для их теоретической оценки.

Достоверность расчётов информации и ОЭ зависит от эффективного установления цели и составления модели. Для оценки эффективности последних отсутствуют надёжные критерии и необходимо применение эвристических методов. Осложнение от многомерности и многофакторности систем можно преодолеть путём перехода к определению их обобщённой энтропии. ОЭ представляет собой сумму проекций средних условных энтропий относительно исполнения целевого критерия при условии действия отдельных влияющих на систему факторов. При этом факторы можно рассматривать в качестве от дельных координат или систем со статистическим распределением исходов. Условные энтропии проектируются на общую ось целевого критерия.