多層パーセプトロン

隠れ層を増やすと決定境界が曲げられるようになる ── h = σ(Wx + b) を重ねて表現力が変わる様子を学習アニメーションで体感します。

多層パーセプトロン(MLP)は、入力に 重み付き和 Wx + b を計算し、活性化関数 σ で曲げる処理を何段も重ねたモデルです。
隠れ層が 0 個(=単純パーセプトロン)なら引けるのは直線の境界だけ。XOR や円・スパイラルのように直線で分けられないデータは失敗します。
隠れ層やニューロンを増やすと、複数の直線を組み合わせて曲がった境界を作れるようになります。学習ボタンで境界が変形していく様子を見てみましょう。
2
6
0.080
学習ステップ
0
損失 (交差エントロピー)
正答率
構成(層×幅)
ネットワーク構造(2入力 → 隠れ層 → 1出力)
決定境界(背景の色=モデルの予測, ●=学習データ)

いま何が起きている?

ここがポイント