Sự đều đặn là một kỹ thuật được sử dụng trong giám sát việc học để ngăn chặn việc học tập để ngăn chặn sự quá mức bằng cách thêm một hình phạt vào độ phức tạp của mô hình. nó giúp cải thiện tổng quát hóa của mô hình để dữ liệu không nhìn thấy và nâng cao hiệu suất dự đoán của nó.

Hiểu được sự đều đặn

Việc thường xuyên chỉnh sửa chức năng mất trong khi luyện tập bao gồm một thuật ngữ phạt. Loại thông thường bao gồm L1 đều đặn hóa (Laso) và L2 đều đặn hóa (phần trăm). Những phương pháp này điều khiển các tham số kiểu mẫu, khuyến khích mô hình đơn giản hơn.

Tính toán đều đặn

Trong giám sát việc học, chức năng mất tích được thường xuyên diễn đạt như:

Lss = Original Loss + × khiêng tục lệ

Trong đó Gập tắt (lambda) là tham số thường xuyên xác định sức mạnh của sự đều đặn hóa. Ví dụ, trong Ridge reprocation, thuật ngữ thường xuyên hóa là tổng số của các hệ số bình phương:

[Cấp lánh]^2

Những thực hành tốt nhất để đều đặn hóa

  • Chọn một tham số chuẩn nhất định (Graition) thông qua mat- valized.
  • Bắt đầu với giá trị GH nhỏ và dần dần tăng để quan sát ảnh hưởng trên hiệu suất mô hình.
  • Dùng L1 đều đặn hóa khi cần chọn tính năng.
  • Kết hợp đều đặn với tính năng tăng trưởng để có kết quả tốt hơn.
  • Theo dõi việc đào tạo và các lỗi hợp lệ để tránh không phù hợp hoặc quá hợp.