# 次元の呪いとは！？対策/対処法と共にわかりやすく解説！ > 当サイト【スタビジ】の本記事では次元の呪いについて解説してきます。次元の呪いとは、高次元になればなるほど機械学習による回帰・分類が上手くいかない現象を指します。今回は次元の呪いとその解決方法について解説していきます。 - URL: https://toukei-lab.com/curse_of_dimension - 公開: 2023.11.15 / 更新: 2025.08.19 - サイト: スタビジ（https://toukei-lab.com） :::talk{who="umatan"} 当サイト【スタビジ】の本記事では次元の呪いについて解説していきます。次元の呪いとは、高次元になればなるほど機械学習による回帰・分類が上手くいかない現象を指します。つまり高次元であると必要な出た量が指数関数的に増加することを意味しています。今回は次元の呪いとその解決方法について解説していきます。 ::: こんにちは！ スタビジ編集部です！ 今回は次元の呪いについて解説していきます！ 次元の呪いとは「データが高次元になるにつれて、機械学習における回帰・分類の汎化性能が低下する現象」です。 次元の呪いによって計算量が膨大に増加するので、必ずしも高次元データが良いとは限らないことが考えられますね！ :::talk{who="umatan" side="right"} 高次元になるほど次元の呪いは避けられないので、これを解消する方法もいくつかあるんだ！例えば次元そのものを減らす[次元削減](/dimensionality-reduction)、必要な特徴量をだけ抜き出す特徴量抽出などがあるので覚えておこう！！ ::: この記事では、次元呪いとその解決方法について解説していきます！ :::point **・次元の呪いについて解説！** **・次元の呪いの解決方法について解説！** ::: 以下のYoutube動画でも解説していますので合わせてチェックしてみてください！ ::youtube{#y9zNUo-sgcg} ## 次元の呪いについて解説！ ![Stories](/wp-content/uploads/2021/05/Warning-rafiki-min-1024x1024.png) 何故高次元になるほど、機械学習モデルの精度が低下するのでしょうか？簡単な例から見てみましょう！ ![次元の呪い　例](/wp-content/uploads/2023/11/186-1024x576.jpg) 例として書店に行ったとき、どの本を買いたいかを考えたとします。 この時、本を選ぶ基準というのは様々です。 例えば「ジャンル」で考えればSF・ホラー・純文学…などで考えると5種類ぐらいあると考えます。 この特徴量「ジャンル」だけ見れば5通りの中から1つ選ぶだけなので簡単そうですね！ しかしジャンルだけでなく、作者やページ数、評価といった特徴量を考えると何千通りの中から1つ選ぶことになります。 これを繰り返していくと指数関数的に情報量が多くなることが考えられますね！これを「次元の呪い」と呼びます。 情報量が指数関数的に増加することでどういった問題が発生するのでしょうか？ 高次元ということは必然的にデータ量を多くなってしまうので計算量が膨大になることが考えられます。 そして不必要な情報も混じっている可能性が高いです。 したがって次元の呪いの問題点は「計算時間は膨大になりつつ、適切な評価ができているかわからないこと」と考えられます！（ビジネスでは致命的になりますね…） ### 数学的な観点から考えた次元の呪い 次元の呪いを数学的な観点から考えてみると、見え方が少し変わります。 数学的な観点から考えた次元の呪いとは「高次元になると、データが空間の外側に分布してしまう現象」と表せます。 例として、半径rの球体の上に十分に小さい厚さεの薄皮があると考えましょう。 ![次元の呪い](/wp-content/uploads/2023/11/24c843eb4712f02b55b729d1fa3a4828-1024x576.jpg) この時、半径がrのd次元球体の体積は以下の通りになります。Γ()はガンマ関数を表しています！ $V_{r}=\frac{π^{d/2}r^{d}}{Γ(d/2)+1}$ 次に半径r+εの超球の体積は以下の通りになります！先ほどの式とほぼ一緒ですね。 $V_{r+ε}=\frac{π^{d/2}(r+ε)^{d}}{Γ(d/2)+1}$ この時、これらの球体の体積の比はどうなるかというと…？ $\frac{V_{r}}{V_{r+ε}}=(1+\frac{ε}{r})^{-d}$ つまり次元数dを無限に増加させると、この体積の比は0に近づくことが考えられますね！ したがって薄皮の厚さεの部分の体積と、その内部の半径rのd次元球体の比を考えたとき、表面の体積の割合がほとんど1になり、内部の体積は0になってしまいます！ したがってd次元空間の次元数が大きくなると、体積が0の領域にはデータが生起されないと考えられます。 つまり原点付近のデータがほぼ発生しないことと同じです。 そう考えると空間の外側にデータが分布することになりますね！ ## 次元の呪いの解決方法について解説！ ![Server](/wp-content/uploads/2021/01/Server-bro-e1617430284211-1024x708.png) 次は次元の呪いを解決する方法を解説します！ ### 次元削減 次元削減をすることで高次元データの次元を削減しつつ、なるべく情報量のロスを抑えることが考えられます。 次元削減の方法はいくつかありますが、代表的な手法は[主成分分析（PCA)](/pca)でしょう。主成分分析とは複数の変数をいくつかの変数に合成する手法です。こちらの記事をぜひ参考にしてみてください！ ### 特徴量選択 特徴量選択をすることで、有用な特徴量のみを選択しつつ次元を削減する方法が考えられます。 特徴量選択の基準として、[ランダムフォレスト](/%e3%83%a9%e3%83%b3%e3%83%80%e3%83%a0%e3%83%95%e3%82%a9%e3%83%ac%e3%82%b9%e3%83%88)・[XGBoost](/xgboost)で使われる特徴量重要度が考えられます。 また[Lasso回帰](/%e7%b7%9a%e5%bd%a2%e5%9b%9e%e5%b8%b0%e3%83%bblasso%e3%83%bbridge%e3%82%92%e5%ae%9f%e8%a3%85%e3%81%97%e3%81%a6%e3%81%bf%e3%82%88%e3%81%86%ef%bc%81)によって、不要な特徴量の係数を0にすることも挙げられます。これらの記事もぜひ見てくださいね！ ## 次元の呪いについて検証してPythonで主成分分析を使って次元削減に挑戦！ 次元の呪いの影響について実際にシミュレーションデータを発生させて確認してみましょう！ ここでは2値分類の1000サンプルのデータセットを作成します。 次元数は5, 10, 20, 50, 100で検証してみましょう！ コードは以下のようになります。 次元数を上げると分類精度はどうなるでしょう・・・？ ```python from sklearn.datasets import make_classification from sklearn.model_selection import train_test_split from sklearn.linear_model import LogisticRegression from sklearn.decomposition import PCA from sklearn.metrics import accuracy_score import numpy as np # Parameters n_samples = 1000 n_features_list = [5, 10, 20, 50, 100] n_classes = 2 # Function to generate data, train model and calculate accuracy def test_dimensionality(n_features): # Generate synthetic data X, y = make_classification(n_samples=n_samples, n_features=n_features, n_classes=n_classes, random_state=0) # Split the data into training and test sets X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=0) # Train a logistic regression model model = LogisticRegression(solver='liblinear', random_state=0) model.fit(X_train, y_train) # Predict and calculate accuracy y_pred = model.predict(X_test) accuracy = accuracy_score(y_test, y_pred) return accuracy # Test for different number of features accuracies = {n_features: test_dimensionality(n_features) for n_features in n_features_list} print(accuracies) ``` :::box {5: 0.9566666666666667, 10: 0.95, 20: 0.9633333333333334, 50: 0.9533333333333334, 100: 0.8866666666666667} ::: 次元数5\~50までは分類精度はそれほど変わりませんが、次元数が100になり大きく分類精度が下がっていることが分かります。※シンプルな[ロジスティック回帰](/%E3%83%AD%E3%82%B8%E3%82%B9%E3%83%86%E3%82%A3%E3%83%83%E3%82%AF%E5%9B%9E%E5%B8%B0)で分類しています それでは、この問題を解消するために100次元のデータセットに主成分分析を適用させてみましょう！ ```python # Test PCA for 100 dimensional data X, y = make_classification(n_samples=n_samples, n_features=100, n_classes=n_classes, random_state=0) X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=0) # Apply PCA pca = PCA(n_components=2) X_train_pca = pca.fit_transform(X_train) X_test_pca = pca.transform(X_test) # Train and test logistic regression on PCA-transformed data model_pca = LogisticRegression(solver='liblinear', random_state=0) model_pca.fit(X_train_pca, y_train) y_pred_pca = model_pca.predict(X_test_pca) accuracy_pca = accuracy_score(y_test, y_pred_pca) print(accuracy_pca) ``` 結果は、0.93となりました！ PCAを適用させて次元圧縮することで精度が改善していることが分かりますね！ ## 次元の呪い　まとめ ![Happy](/wp-content/uploads/2020/08/Celebration-amico-min-e1618926172675-1024x932.png) ここまでご覧いただきありがとうございました！ 本記事では、**次元の呪い**についてまとめました！ このようなデータサイエンスの力を身に付けるためにはスタビジの記事やスクールを活用すると良いでしょう。 当メディアでは、データサイエンティストの経験を詰め込んだデータサイエンス特化のスクール[「スタアカ（スタビジアカデミー）」](https://toukei-lab.com/achademy/)を運営していますので、興味のある方はぜひチェックしてみてください！ ### AIデータサイエンス特化スクール「スタアカ」 ![スタアカ（スタビジアカデミー）のトップページ](/wp-content/uploads/2026/10/achademy-top.jpg)
【価格】 ライトプラン：1,280円/月（全コースが受講し放題）
プレミアムプラン：129,800円（通常149,800円・買い切り）
【オススメ度】
【サポート体制】
【受講形式】 オンライン形式
【学習範囲】 統計学・機械学習・ディープラーニングを網羅的に学ぶ
生成AI（LLM・RAG・プロンプトエンジニアリング）を学ぶ
SQLとPythonを組み合わせて実データを使った様々なワークを行う
実践的なビジネスフレームワークを学ぶ
マーケティングの実行プラン策定
データサイエンティストとしての経験をふまえてエッセンスを詰め込んだのがこちらのスタビジアカデミー、略して「[スタアカ](https://toukei-lab.com/achademy/)」！！ 当メディアが運営するスクールです。 月額1,280円のライトプランで、統計学から機械学習・生成AIまで全コースが受講し放題です！ プレミアムプランでは、24時間以内の質問対応と現役データサイエンティストとの1on1（30分×4回）を実施します！ カリキュラム自体は、他のスクールと比較して圧倒的に良い自信があるのでぜひ受講してみてください！ 他のスクールのカリキュラムはPythonでの機械学習実装だけに焦点が当たっているものが多く、実務に即した内容になっていないものが多いです。 そんな課題感に対して、実務で使うことの多いSQLや機械学習のビジネス導入プロセスの理解なども合わせて学べるボリューム満点のコースになっています！ Pythonが初めての人でも学べるようなカリキュラムにしておりますので是非チェックしてみてください！ ウォルマートのデータを使って商品の予測分析をしたり、実務で使うことの多いGoogleプロダクトのBigQueryを使って投球分析をしたり、データサイエンティストに必要なビジネス・マーケティングの基礎を学んでマーケティングプランを作ってもらったりする盛りだくさんの内容になってます！ :::box **・BigQuery上でSQL、Google Colab上でPythonを使い野球の投球分析**\ **・世界最大手小売企業のウォルマートの実データを用いた需要予測**\ **・ビジネス・マーケティングの基礎を学んで実際の企業を題材にしたマーケティングプランの策定**\ **・生成AIのAPIを使ってチャットボットやAIエージェントを作る** ::: ::button[スタアカの受講はこちら]{href="https://toukei-lab.com/achademy/" note="＼今すぐ試す／"} データサイエンスに関する記事はこちら！ データサイエンスを勉強できるスクールやサイトは、ぜひこちらを参考にしてみてください！