資訊理論中的概念，由香農提出，用以衡量資訊的不確定性或隨機性，熵值越高表示資訊越混亂，單位通常為比特