别担心,信息虽然是不确定的,但还是有办法将它们进行量化的。人们根据信息的概念,可以归纳出信息是有以下的几个特点的:
1. 消息发生的概率P(x)越大,信息量越小;反之,发生的概率越小,信息量就越大。可见,信息量(我们用I来表示)和消息发生的概率是相反的关系。
2. 当概率为1时,百分百发生的事,地球人都知道,所以信息量为0。
3. 当一个消息是由多个独立的小消息组成时,那么这个消息所含信息量应等于各小消息所含信息量的和
别担心,信息虽然是不确定的,但还是有办法将它们进行量化的。人们根据信息的概念,可以归纳出信息是有以下的几个特点的:
1. 消息发生的概率P(x)越大,信息量越小;反之,发生的概率越小,信息量就越大。可见,信息量(我们用I来表示)和消息发生的概率是相反的关系。
2. 当概率为1时,百分百发生的事,地球人都知道,所以信息量为0。
3. 当一个消息是由多个独立的小消息组成时,那么这个消息所含信息量应等于各小消息所含信息量的和