visual-learning
古典機械学習 インタラクティブ可視化
ニューラルネット以前の「定番の機械学習」を、点を動かして決定境界やクラスタの変化で体感できる POC 集。 kNN・SVM・カーネル・決定木・森・DBSCAN・GMM/EM・バイアスバリアンスを扱います。
visual-learning シリーズ：ニューラルネットは
ディープラーニング、回帰・PCA・k-means は
統計・確率 側にあり、本分野は非ニューラルの分類・クラスタリング・評価に焦点を当てます。全分野は シリーズ一覧 から。
分類器の決定境界
分類
k近傍法（k で決定境界が変わる）
2D点群をkNNで分類。kが小さいと過学習、大きいと滑らか。境界を可視化。
開く →
ベイズナイーブベイズ（確率で分類）
ガウス分布の各クラス尤度と事前確率から事後確率を計算、境界は密度の交点。
開く →
SVMサポートベクターマシン（マージン最大化）
マージン最大化と分離超平面。サポートベクトルだけが境界を決める。
開く →
カーネルカーネル法（非線形を分離する）
同心円データを z=x²+y² で持ち上げると線形分離可。RBFカーネルの直観。
開く →
木とアンサンブル
決定木
決定木（軸平行の分割）
Gini不純度を最小化する軸平行分割を再帰。深さで過学習が見える。
開く →
アンサンブルランダムフォレスト（多数決）
バギング：T本の木の投票で境界が滑らかに。単一木と比較できる。
開く →
クラスタリング
クラスタ
DBSCAN（密度ベース）
eps と minPts で密度クラスタ。クラスタ数を指定せず、ノイズを検出。
開く →
EM混合ガウスとEM（ソフト割り当て）
E:責任度を計算→M:平均/共分散/重みを更新。楕円クラスタにソフト割当。
開く →