拡散モデル(ノイズ付加と段階的ノイズ除去)

きれいなデータに少しずつノイズを足して壊し(前方拡散)、逆向きに 1 ステップずつ「ノイズ除去」して構造を立ち上げる(逆拡散)様子を体感します。

20
20 / 20
0.12
対象データ
現在の段階 t
信号の残り √ᾱₜ
ノイズの割合 √(1−ᾱₜ)
復元の粗さ(残差 RMS)
現在の状態 xₜ(ノイズあり)
スケジュール ᾱₜ(信号がどれだけ残るか)
拡散モデルは、画像などのデータを「少しずつノイズで壊す前方過程」と「その逆を学習してノイズから生成する逆過程」の 2 段階で考えます。
前方過程は xₜ = √ᾱₜ · x₀ + √(1−ᾱₜ) · ε(ε は標準正規ノイズ)。ステップ t が進むほど ᾱₜ は 0 に近づき、データはほぼ純粋なノイズになります。
逆過程ではモデルが「混ざったノイズ ε」を推定し、1 ステップずつ取り除いて x₀ に近い構造を立ち上げます。
スライダーで前方のノイズ量を変えてデータが崩れる様子を、ボタンで逆向きに 1 ステップずつ復元される様子を確かめましょう。総ステップ数 T が少ないほど復元は粗く、多いほど滑らかになります。

いま何が起きている?

ここがポイント