تکنیک های منظم سازی در یادگیری ماشین برای بهبود تعمیم مدل با جلوگیری از بیش از حد استفاده می شود، آنها محدودیت ها یا مجازات ها را به فرآیند آموزش مدل اضافه می کنند که به مدل کمک می کند تا بهتر در داده های ناشناخته عمل کند. درک اینکه چگونه این تکنیک ها بر عملکرد مدل تاثیر می گذارند برای توسعه مدل های قوی ضروری است.

انواع تکنیک های منظم سازی

روش های منظم سازی مشترک شامل L1، L2 و Dropout است که هر تکنیک بر مدل به طور متفاوتی تاثیر می گذارد و می تواند بر اساس مشکلات و ویژگی های داده انتخاب شود.

محاسبه اثر بر تعمیم

اثر منظم سازی بر تعمیم مدل را می توان از طریق معیارهای اعتباری ارزیابی کرد. مقایسه آموزش و خطاهای اعتبار سنجی کمک می کند تا تعیین کند که آیا منظم سازی توانایی مدل برای تعمیم دادن را بهبود می بخشد.

یک رویکرد شامل مدل های آموزشی با و بدون مرتب سازی، سپس ارزیابی عملکرد آنها بر روی یک مجموعه آزمایشی جداگانه است. تفاوت در خطا نشان دهنده تاثیر تکنیک منظم سازی است.

روش های محاسباتی عملی

ارزیابی متقابل یک روش مشترک برای برآورد اثر منظم سازی است.این شامل تقسیم داده ها به زیرمجموعه های متعدد، مدل های آموزشی و اندازه گیری عملکرد آنها در سراسر این زیر مجموعه ها است.

متریک هایی مانند دقت، دقت، یادآوری یا به این معنی که خطای مربعی می تواند برای تعیین تغییرات عملکردی مورد استفاده قرار گیرد.

  • مدل های قطار با نقاط قوت مختلف منظم
  • بررسی داده های اعتبارسنجی
  • استفاده از تعادل متقابل برای اطمینان از قوی بودن
  • مقایسه معیارهای با مدل های پایه