ディープラーニングモデルが、ノイズやアウターなど、トレーニングデータを学習する際、さらには、新しいデータに一般化する能力を低下させる効果が高まります。 効果的なモデルの構築には、過度の特定と予防が不可欠です。

過度の利益を理解する

モデルがトレーニングデータの詳細を過度にキャプチャしたときに、オーバーフィッティングが起こり、トレーニングデータの精度が向上しますが、未処理のデータに対するパフォーマンスが低下します。データセットのサイズに相対的に複雑なモデルが原因です。

過度の利益を検知する計算

トレーニングと検証の精度と損失の違いを監視すると、過度の影響が検出されます。重要なギャップは、過度の影響を示しています。一般的な計算には、次のものが含まれます。

  • : トレーニングロス]: トレーニングセットのエラー。
  • [] バリデーションロス[]: バリデーションセットのエラー。
  • []Difference]:訓練と検証メトリック間のギャップ。

予防措置

戦略の実装は、モデルの汎用性を向上し、改善することができます。 一般的な対策は次のとおりです。

  • [正規化]:L1やL2などの技法は、モデルの重みにペナルティを追加します。
  • Dropout]: トレーニング中に神経をランダムに非活性化させ、共産を防ぎます。
  • []アーリーストッピング[]]:検証パフォーマンスが改善を停止したときにトレーニングを停止します。
  • データ拡張]:変換でトレーニングデータを拡張します。
  • [モデルの簡素化[]]:レイヤーやパラメータを減少させることでモデルの複雑性を削減します。