ランダムフォレスト（多数決）
多数のブートストラップ木を多数決。単一木より滑らかで過学習に強い。
25
4
140
12
木の本数
—
訓練精度
—
OOB 誤差
—
背景＝決定領域（赤クラス／青クラス）。色が薄いほど票が割れた=自信のない領域。●＝訓練データ。
ランダムフォレストは、たくさんの「決定木」を少しずつ違うデータと特徴で育て、その多数決で分類する手法（バギング系アンサンブル）です。
各木は元データから復元抽出（ブートストラップ）した標本で学習し、さらに分割のたびに特徴の一部だけを候補にします。これで木どうしの相関が下がり、多数決の効果が高まります。
「単一木」に切り替えるとギザギザの過学習した境界に、「フォレスト」では多数決で滑らかな境界になることを比べてみましょう。
各木は元データから復元抽出（ブートストラップ）した標本で学習し、さらに分割のたびに特徴の一部だけを候補にします。これで木どうしの相関が下がり、多数決の効果が高まります。
「単一木」に切り替えるとギザギザの過学習した境界に、「フォレスト」では多数決で滑らかな境界になることを比べてみましょう。
いま何が起きている？
ここがポイント
- 1 本の木は高分散 ── 深い決定木はデータの細部に反応してギザギザに過学習する。
- 多数決（バギング）で分散が減る ── 多くの木の平均をとると境界が滑らかになり汎化が上がる。
- データと特徴を変えて相関を下げる ── ブートストラップ標本＋分割ごとの特徴ランダム化で木を多様化する。
- 少数の木でも効果が見える ── 数本〜十数本でも単一木よりはっきり滑らかになる。T を動かして確かめよう。
- OOB 誤差で過学習なしに性能を推定 ── 各木の学習に使われなかった点（約 37%）で精度を測れる。