エントロピー符号

エントロピー符号とは、符号化する情報の出現確率に応じた長さのビット列が割り当てられた符号のことです。

エントロピー符号では、出現確率が高い情報は短いビット数で、出現確率が低い情報は長いビット数で符号化されます。

これにより、全体としての符号の平均長を短くすることができます。

なお、エントロピー符号は、可変長符号の一種です。