visual-learning

情報量とデータ圧縮 インタラクティブ可視化

エントロピー・ハフマン・相互情報量・LZ77・算術符号など情報量と圧縮を動かして学ぶ。

visual-learning シリーズ:全分野は シリーズ一覧 からたどれます。

POC 一覧

情報量とデータ圧縮

ランレングス:連続を回数で潰す

白黒ビット列をクリックトグルで編集すると連続部分が(値,回数)に置換され圧縮後長が変化

開く →
情報量とデータ圧縮

エントロピー:偏るほど縮められる

記号の確率分布バーをスライダーで動かすとシャノンエントロピーが即再計算

開く →
情報量とデータ圧縮

ハフマン符号:頻度で木を組む

文字頻度を入力し『最小2頻度を併合』をステップ実行で進めると木が下から育ち、頻度に反比例した…

開く →
情報量とデータ圧縮

量子化:ビット数を削ると失われる

量子化ビット数のスライダーで波形が階段状デジタル値に粗くなり、量子化誤差(非可逆損失)が増え…

開く →
情報量とデータ圧縮

LZ77:過去を辞書として参照する

入力文字列に対しスライド窓から既出パターンを探し(距離,長さ)に置換していく過程をステップ実…

開く →
情報量とデータ圧縮

相互情報量:どれだけ分かるか

2変数の同時分布グリッドをクリック編集すると相互情報量が再計算

開く →
情報量とデータ圧縮

算術符号:区間を刻んで1点に

入力文字列と記号確率を編集でき、[0,1)区間を入れ子で狭めて最終区間内の1小数で全体を表す…

開く →