正規化技術は、モデルが基礎パターンの代わりにノイズを学習したときに、過度のフィットを防ぐための機械学習で不可欠です。効果的な正規化手法を導入することで、モデルの一般化と、未発表のデータに対する性能が向上します。

L1 レギュレーション(ラッソ)

L1正規化は、係数の倍率の絶対値と等しいペナルティを追加します。 これは、スパラシリティを効果的に減らし、機能選択とより単純なモデルにつながることができます。

L2正規化(リッジ)

L2正規化は、係数の平方にペナルティ比例を追加します。それは、大規模な重量を捨て、訓練データの変動に敏感なモデルにつながります。

ドロップアウト

ドロップアウトは、主に神経系ネットワークで用いられる技術で、トレーニング中にランダムに選択されたニューロンが無視されます。これにより、神経系が多すぎるため、過度の働きやモデルの堅牢性を低下させ、改善します。

早期停止

早期停止には、トレーニング中に設定された検証でモデルのパフォーマンスを監視することが含まれます。 パフォーマンスが低下し始めると、モデルがトレーニングデータに過度に及ぼすのを防ぐトレーニングストップ。

練習の正規化

正規化技術を適用するには、正規化強度などのハイパーパラメータを調整する必要があります。 断続は、最適な値、バランスモデルの複雑さとパフォーマンスを決定するのに役立ちます。