توابع از دست دادن در یادگیری تحت نظارت ضروری هستند زیرا تفاوت بین خروجی های پیش بینی شده و برچسب های واقعی را اندازه گیری می کنند.آنها فرایند آموزش را با ارائه یک متریک برای بهینه سازی توابع از دست دادن مختلف استفاده می شود بسته به نوع از مشکلات و ویژگی های داده.

خطای Squared Error (MSE)

خطای Squared معمولا برای کارهای رگرسیون استفاده می شود، به طور متوسط مربع تفاوت بین مقادیر پیش بینی شده و واقعی را محاسبه می کند.

[[ویرایش] [۱] [۱۰] [۱] [۱۰] [۱] [۱۰]] [۱] [۱۰] [۱] [۱۰] [۱۰]] [۳] [۳] [۳] [۳] [۳] [۱۰] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [[[[[۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳]

در جایی که از آن بهره مند می شود، به اندازه ی کافی از آن بهره مند می شود و به همین دلیل است که در آن، به صورت صحیحی از آن استفاده می شود و در این صورت، تعداد نمونه ها به شدت بیشتر از آن، به سرعت مدل را تشویق می کند تا انحراف های قابل توجهی را به حداقل برساند.

از دست دادن Cross-Entropy Loss

از دست دادن Cross-entropy در درجه اول برای وظایف طبقه بندی استفاده می شود، تفاوت بین توزیع احتمالی پیش بینی شده و توزیع واقعی برای طبقه بندی باینری، فرمول این است:

[[ویرایش] [۱] [۱۰] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۲] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۲] [۱] [۱] [۱] [۲] [۲] [۱] [۲] [۲] [۱] [۲] [۱] [۱] [۱] [۲] [۲] [۲] [۲] [۲] [۲] [۲] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۲] [۱] [۲] [۲] [۱] [۲] [۱] [۱] [۱] [۲] [۲] [۲] [۲] [۲] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۲] [۲] [۱] [۱] [۱] [۱] [۲] [۱] [۱]

در جایی که y برچسب واقعی (0 یا 1) است و ⁇ احتمال پیش بینی شده کلاس مثبت است، این تابع از دست دادن پیش بینی های نادرست را به شدت هنگامی که مدل مطمئن اما اشتباه است، مجازات می کند.

مقایسه و استفاده

MSE برای متغیرهای خروجی مداوم مناسب است، در حالی که Cross-entropy ایده آل برای داده های کاتالیک است.انتخاب عملکرد مناسب به نوع مشکل و ماهیت خروجی بستگی دارد.

  • مشکلات بازگشت
  • مشکلات طبقه بندی
  • ملاحظات همگرایی مدل
  • مدیریت خارج از