信息论中的概念，由香农提出，用以衡量信息的不确定性或随机性，熵值越高表示信息越混乱，单位通常为比特