Chọn tính năng là bước quan trọng trong việc giám sát việc học mà bao gồm việc xác định các biến thích hợp nhất cho đào tạo mô hình. Tính năng đúng có thể cải thiện độ chính xác mô hình, giảm chi phí tính toán. Bài này khám phá các kỹ thuật thông dụng dùng để chọn các tính năng và làm thế nào chúng tăng độ giám sát mô hình học tập.

Công nghệ chọn tính năng chung

Một số phương pháp được dùng để chọn tính năng trong việc học giám sát. Những kỹ thuật này có thể được phân loại rộng thành bộ lọc, bọc và các phương pháp nhúng. Mỗi phương pháp có lợi và thích hợp với nhiều kiểu dữ liệu và vấn đề khác nhau.

Phương pháp lọc

Phương pháp lọc đánh giá sự liên quan của tính năng dựa trên các phép đo thống kê. Chúng nhanh và có thể mở rộng, khiến chúng phù hợp với dữ liệu cao.

  • Hợp nhất [FLT: 1] đo mối quan hệ tuyến tính giữa các tính năng và biến đích.
  • Thử nghiệm Chi-Square:) xác định độc lập giữa tính năng phân loại và mục tiêu.
  • Thông tin IT:) Ghi chú số thông tin được chia sẻ giữa các tính năng và mục tiêu.

Phương pháp gói gọn

Phương pháp gói gọn đánh giá các bộ tính năng bằng cách đào tạo mô hình và chọn tổ hợp để tạo ra hiệu quả tốt nhất. những phương pháp này chính xác hơn nhưng rất chuyên sâu về tính toán. Ví dụ:

  • Chọn về phía trước: bắt đầu với không có tính năng và thêm một cái vào một lúc dựa trên sự cải tiến hiệu suất.
  • Bắt đầu với tất cả các tính năng và loại bỏ những tính năng ít quan trọng nhất.
  • Từ chối quyền ưu tiên: ) Các mô hình huấn luyện đệ quy và loại bỏ các tính năng yếu nhất.

Phương pháp nhúng

Những phương pháp nhúng trong việc kết hợp sự lựa chọn như một phần của quá trình huấn luyện mô hình, hiệu quả và thường mang lại kết quả tốt.

  • Sự xâm nhập Lasso: dùng L1 đều đặn để thu nhỏ một số hệ số về số không, chọn hữu hiệu các tính năng.
  • Cây giảm giá: [FLT: 1] Tất nhiên chọn những tính năng dựa trên thông tin thu thập trong lúc chia.
  • Mô hình đã được tái phân cách:[FLT: 1] kết hợp các hình phạt với mô hình thích hợp để chọn các tính năng thích hợp.