8

      Формула энтропии Больцмана (S_B): S_B = k_B ln(W), где k_B – постоянная Больцмана, определяющая связь между температурой и энергией, а W – это количество микросостояний, соответствующих данному макросостоянию. Гиббс обобщил формулу для энтропии, определив ее в терминах вероятности того, что система будет находиться в микросостоянии (p_i) вместо общего количества эквивалентных микросостояний (W). Энтропия Гиббса определяется как: S_G = – Σ_i p_i ln (p_i). Обратите внимание на то, что энтропии Больцмана и Гиббса являются эквивалентными (S_G = S_B), когда p_i = 1/N для всех i.

      Это означает, что формула Гиббса сводится к формуле Больцмана для системы в состоянии теплового равновесия, поскольку в данном случае все микросостояния равновероятны. Формула Шеннона для энтропии информации: H = – ∑_i p_i log₂ (p_i), где p_i – это вероятность