熵只是一个术语,它所描述的是任何一个指定的物体或物理系统中分子运动的无序程度一个物理系统中任何自发的变化,都朝着使熵增加的方向发展,而最后的平衡状态,则对应于熵的最大可能值.
信息论中的单位大三学的忘了你可以参看<信息论基础>一书