منظم سازی یک تکنیک است که در یادگیری نظارت شده برای جلوگیری از بیش از حد با اضافه کردن مجازات به پیچیدگی مدل استفاده می شود، آن کمک می کند تا تعمیم مدل به داده های ناشناخته بهبود یابد و عملکرد پیش بینی شده آن را افزایش دهد.

درک منظم

منظم کردن عملکرد از دست دادن را در طول آموزش با استفاده از یک اصطلاح مجازات اصلاح می کند، انواع مشترک شامل L1 مرتب سازی (Lasso) و L2 منظم سازی (Ridge) می شود.این روش ها کنترل بزرگی پارامترهای مدل، تشویق مدل های ساده تر.

محاسبه های منظم

در یادگیری تحت نظارت، عملکرد منظم از دست دادن را می توان به عنوان:

از دست دادن اصلی + λ × منظم سازی

در جایی که λ (lambda) پارامتر منظم سازی است که قدرت منظم سازی را تعیین می کند، به عنوان مثال، در ریج رگرسیون، اصطلاح منظم سازی خلاصه ضریب مربع است:

[[ویرایش] [۱] [۱۰] [۱] [۱۰] [۱] [۲] [۱] [۲] [۲] [۱] [۱] [۱۰] [۱] [۱] [۲] [۱] [۲] [۱] [۱] [۲] [۱] [۲] [۱] [۱] [۱] [۲] [۲] [۱] [۲] [۲] [۱] [۲] [۲] [۲] [۲] [۲] [۱] [۱] [۲] [۲] [۱] [۲] [۲] [۲] [۲] [۲] [۲] [۱] [۱] [۱] [۲] [۱] [۲] [۱] [۲] [۲] [۱] [۱] [۱] [۱] [۱] [۲] [۲] [۲] [۲] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۲] [۲] [۲] [۱] [۱] [۲] [۲] [۲] [۲] [۱]

بهترین روش ها برای منظم سازی

  • یک پارامتر منظم مناسب (λ) را از طریق ولتاژ متقابل انتخاب کنید.
  • با مقادیر کوچک λ شروع کنید و به تدریج افزایش به مشاهده اثرات بر عملکرد مدل.
  • استفاده از L1 منظم سازی زمانی که انتخاب ویژگی مورد نظر است.
  • ترکیب منظم با مقیاس پذیری ویژگی برای نتایج بهتر.
  • نظارت بر آموزش و خطاهای اعتباری برای جلوگیری از کمپوش یا بیش از حد.