条件付き平均情報量

条件付き平均情報量（条件付きエントロピー）は、ある情報Xを知ったときに、別の情報Yに関する不確かさがどれだけ減少するかを示す尺度である。

この自然言語モデルでは、単語の並びにおける条件付き平均情報量を計算し、文の構造を解析している。

通信路容量の計算において、条件付き平均情報量は重要なパラメータとなる。