重回帰分析(2 説明変数の回帰平面)
2 つの説明変数 x₁, x₂ から y を予測する ŷ = b₀ + b₁x₁ + b₂x₂ を、3D 風の散布点と回帰「平面」で体感します。
0.00
1.00
0.50
「点を追加」でランダムな観測点が増え、「最小二乗で自動フィット」を押すと残差²の総和を最小にする平面の係数が計算されてスライダーに反映されます。
残差² の総和 SSE
—
決定係数 R²
—
調整済み R²
—
データ数 n
—
平面の傾き(偏回帰係数の向き)— ベクトル先端をドラッグして b₁・b₂ を変更
3D 散布図と回帰平面(x₁ – x₂ – y 空間)
重回帰分析は、複数の説明変数(ここでは x₁ と x₂)から目的変数 y を予測するモデルです。
予測式は
各点から平面まで縦に下ろした差が残差。残差を 2 乗して全部足した
予測式は
ŷ = b₀ + b₁x₁ + b₂x₂。これは 3 次元空間の中の 1 枚の平面を表します。
b₁ は「x₂ を一定にしたまま x₁ を 1 増やしたときの ŷ の変化」=偏回帰係数で、平面の x₁ 方向の傾きです(b₂ も同様)。各点から平面まで縦に下ろした差が残差。残差を 2 乗して全部足した
SSE = Σ(yᵢ − ŷᵢ)² を最小にする係数を選ぶのが最小二乗法です。
いま何が起きている?
ここがポイント
- 回帰式は平面 ── 説明変数が 2 つだと予測値 ŷ は 3 次元空間の 1 枚の平面になる。
- 偏回帰係数 b₁, b₂ は平面の傾き ── 他方を一定にしたとき、その変数を 1 増やすと ŷ がいくつ動くか。
- 最小二乗解が SSE を最小化 ── 手で傾けるより、正規方程式で解いた平面のほうが残差²の総和が必ず小さい(または等しい)。
- 調整済み R² ── 説明変数を増やすと R² は必ず上がるが、調整済み R² は変数の数 k を罰則として割り引くので過剰なあてはめを見抜ける。