Overfit زمانی اتفاق می افتد که یک مدل یادگیری ماشینی اطلاعات آموزشی را به خوبی یاد می گیرد، از جمله سر و صدا و غیرکلامی، که توانایی آن را برای تعمیم به داده های جدید کاهش می دهد، برای ایجاد مدل های قوی که به خوبی در مجموعه داده های دیده نشده انجام می شود، ضروری است.

درک Overfit

Overfit زمانی اتفاق می افتد که یک مدل نسبت به مقدار داده های موجود بسیار پیچیده باشد.این صدا را در داده های آموزشی به جای الگوی زیر نشان می دهد که منجر به دقت بالا در داده های آموزشی اما عملکرد ضعیف در داده های تست می شود.

تکنیک های جلوگیری از Overfit

چندین روش می تواند برای کاهش بیش از حد در مدل های یادگیری ماشین به کار گرفته شود:

  • اعتبار سنجی: [FLT 1] تقسیم داده ها به آموزش و مجموعه های اعتباری برای تنظیم پارامترهای مدل.
  • بازگشت به جرم: [FLT 1] اضافه کردن مجازات برای پیچیدگی، مانند L1 یا L2 منظم سازی.
  • [[۱] [۱۰]: [[۱۰]] [[۱۰]]] مدل های ساده سازی مانند درختان تصمیم گیری با حذف شاخه هایی که قدرت را فراهم نمی کنند.
  • توقف: آموزش های مناسب در هنگام عملکرد در داده های اعتباری شروع به کاهش می کند.
  • Dropout: به طور تصادفی در طول آموزش در شبکه های عصبی، نورون ها را فعال می کند.

نمونه های عملی

پیاده سازی این تکنیک ها می تواند به طور قابل توجهی تعمیم مدل را بهبود بخشد، به عنوان مثال، استفاده از منظم سازی در رگرسیون خطی، ضریب را کاهش می دهد، جلوگیری از مدل از سر و صدا مناسب با استفاده از قطره در شبکه های عصبی کمک می کند تا از وابستگی به نورون های خاص، ترویج یادگیری بهتر جلوگیری شود.

انتخاب ترکیب مناسب تکنیک ها بستگی به داده ها و نوع مدل دارد. ارزیابی منظم در مورد داده های اعتباری برای شناسایی استراتژی های بیش از حد و تنظیم بر اساس آن ضروری است.