谁能给我解释一下信源熵的计算公式:

问题描述:

谁能给我解释一下信源熵的计算公式:
H(x)=E[I(xi)]=E[log2 1/p(xi)]=-ξp(xi)log2 p(xi)(i=1,2,..n)
俺高职文化
请尽可能的细一些

熵是用来衡量事物内部无序的总量.计算公式为ξp(xi)log2 p(xi)(i=1,2,..n) 其中这里的ξ是数学中的求和符号,p(xi)表示xi在整个分布中出现的概率,2其实log的下标,