神経ネットワークが、ノイズやアウターなど、トレーニングデータをよく学習したときに、影響が高まり、新しいデータに一般化する能力が低下します。 障害のオーバーフィットは、兆候を特定し、未発表のデータでモデルのパフォーマンスを向上させるために技術を適用する関与します。

過度の利益の兆候

一般的な指標には、検証精度が大幅に低下するのと、高いトレーニング精度が組み込まれています。さらに、検証ロス高原の減少や増加が続いています。

オーバーフィッティングを緩和するためのテクニック

複数の方法は、ニューラルネットワークの過度の影響を低減するのに役立ちます。

  • 正規化:]]] 複雑なモデルを、L1やL2正規化などのディスクリートする損失関数にペナルティを追加します。
  • ドロップアウト:] は、トレーニング中に神経をランダムに無効化して、共同適応を防ぐことができます。
  • ]アーリーストッピング:[]]] バリデーションのパフォーマンスが低下し、トレーニングを停止します。
  • データ拡張:]]は、変換によるトレーニングデータの多様性を高めます。
  • モデルの複雑性を削減:[]]は、よりシンプルなアーキテクチャを使用して、より少ないパラメータで。

計算とメトリック

検証損失や精度などの監視メトリックは、過度の特定に役立ちます。トレーニングと検証の精度の違いなどの計算は、過度の不適切なサイズを定量化できます。クロスバリデーションは、より堅牢なモデルの汎用性を推定します。