特長選択は、モデルのトレーニングのための最も関連性の高い変数を識別することを含む、監督された学習の重要なステップです。 適切な機能選択は、モデルの精度を改善し、過度の縮小、計算コストを削減することができます。 この記事では、機能を選択するために使用される一般的なテクニックと、指示された学習モデルを高める方法について説明します。

一般的な機能選択技術

複数の方法は、監視学習の機能を選定するために使われます。これらの技術は、フィルタ、ラッパー、組み込み方式に広く分類することができます。各アプローチは、その利点を持ち、さまざまな種類のデータセットや問題に適しています。

フィルター方法

フィルターメソッドは統計的な対策に基づいて機能の関連性を評価します。それらは高速でスケーラブルで、それらを高次元データに適したようにします。一般的なフィルタ技術は次のとおりです。

  • []Correlation係数:[は、機能とターゲット変数間の線形関係を測定します。
  • Chi-Square Test:[] 分類機能とターゲット間の独立性を強調する。
  • [] 基本情報:[]] は、機能とターゲット間で共有された情報量を定量化します。

Wrapper メソッド

Wrapper メソッドは、トレーニングモデルによる機能のサブセットを評価し、最適なパフォーマンスを得られる組み合わせを選択することで評価します。 これらのメソッドはより正確で、計算的に集中的に集中します。 以下に例を示します。

  • Forward Selection:]] は、機能なしで始まり、パフォーマンス改善に基づいて1つずつ追加します。
  • []後方排除:[]]]は、すべての機能から始まり、より重要なものの反復を繰り返します。
  • ] 再帰的特徴の排除:[ 再帰的にモデルを訓練し、最も弱い機能を排除します。

組込み方法

組み込み方式は、モデルのトレーニングプロセスの一部として機能選択を組み込む。それらは効率的で、多くの場合、良い結果をもたらす。例:

  • [] ラスソ回帰:[ いくつかの係数をゼロに縮小するためにL1正規化を使用して、効果的に機能を選択.
  • [Decision Trees:[]] 分割時に情報ゲインに基づいて機能を選択
  • [正規モデル:[]]]]モデルフィッティングで関連する機能を選択するためのペナルティを組み合わせます。