漫游猫认证
信息熵是信息论中的一个度量,用于量化消息或事件的不确定性。
它衡量在不了解消息或事件具体内容的情况下,接收到的信息量。信息熵值越高,不确定性越大,即接收到的信息越少;值越低,不确定性越小,即接收到的信息越多。信息熵的单位通常为比特或香农(Sh),以纪念信息论之父克劳德·香农。