Siêu chuẩn là thiết lập quan trọng trong giám sát học thuật toán mà ảnh hưởng đến hiệu suất mô hình. Chọn đúng và tính toán của các tham số này có thể cải thiện đáng kể độ chính xác và hiệu quả. Bài này cung cấp hướng dẫn về cách chọn và tính toán siêu chuẩn.

Hiểu siêu bình phương

Các máy gia tốc là cấu hình bên ngoài đặt trước khi đào tạo một mô hình. không giống như các tham số mô hình học được trong quá trình đào tạo, siêu bình thường tự điều khiển quá trình học tập.

Phương pháp chọn đa thức

Một số chiến lược đã có trong việc chọn phép tương đối:

  • Tìm kiếm: Hệ thống khám phá một tập hợp giá trị siêu đơn giản đã xác định trước.
  • Tìm kiếm: ngẫu nhiên mẫu siêu nhỏ trong phạm vi đã xác định.
  • Bayesian Optimization:) Dùng mô hình xác suất để tìm hiệu quả tối ưu hyperparamters.
  • Phụ nữ khởi động: điều chỉnh phép cộng dựa trên kinh nghiệm và quan sát hiệu suất.

Tính toán siêu bình phương

Một số phép tương đối có thể được tính dựa trên đặc điểm dữ liệu:

  • Tốc độ lắp ráp: thường được đặt qua các thí nghiệm, nhưng có thể được tỷ lệ so với kích cỡ của bộ dữ liệu.
  • Number of Eprachs: quyết định bằng cách kiểm tra hiệu suất hợp lệ để ngăn chặn sự vượt quá chuẩn.
  • Tham số tái phân tách: Người được chọn dựa trên sự xuyên qua-valid để cân bằng thành kiến và biến đổi.

Kết luận

Chọn siêu máy tính hiệu quả bao gồm hiểu vai trò của họ, sử dụng phương pháp tìm kiếm có hệ thống và tính toán chúng dựa trên các tính chất dữ liệu. chỉnh sửa đúng cách cải tiến hiệu suất mô hình và tổng quát hóa.