確率分布の「乱雑さ」を表す指標。
確率変数が持つ情報の量を表す尺度ともいえる。