機械学習概要 確認テスト

教師あり学習は、説明変数と正解データ（目的変数）の関係を学んで予測や分類をします（決定木・ランダムフォレストなど）。教師なし学習は正解データを使わず、クラスター分析や主成分分析のようにデータの構造を見つけます。

復習する：機械学習概要

max_depth の初期値は None で、深さに制限がありません。深すぎると分岐の図が見にくくなり、学習データに過度に当てはまる過学習を起こすおそれがあるので、深さを制限することがあります。

復習する：決定木

ランダムフォレストは、少しずつ違う決定木をたくさん作って結果をまとめる、アンサンブル学習（バギング）の手法です。前の木の誤りを直すように木を順番に足していくのは、XGBoost や LightGBM のような勾配ブースティング木の考え方です。

復習する：ランダムフォレスト

k近傍法は、近くにあるk個のデータのクラスを見て多数決で分類します。レッスンでは学習データ75個に対してkを50にすると、ほとんどのデータを参考にすることになり、正解率が大きく下がりました。クラスターの数を指定するのはk-means法です。

復習する：k近傍法（k-nn）

k-means法ではクラスター数をあらかじめ指定します。誤差平方和はクラスター数を増やすほど下がり続けるので「いちばん小さい数」では決められず、下がり方がほとんど止まるあたりが目安になります。

復習する：クラスター分析

どちらも教師なし学習の手法で、ワインのデータではどちらでもフェノール類が大きく効く軸が見つかりました。変数を集約して次元圧縮したいときは主成分分析、変数の根本にある共通因子を探りたいときは因子分析を使うとよいでしょう。

復習する：因子分析