Các vấn đề phân loại bao gồm phân loại điểm dữ liệu vào lớp đã định sẵn. Để tăng độ chính xác của các mô hình này, hiểu các chức năng chi phí và ranh giới quyết định là thiết yếu. Các khái niệm giúp thiết kế các thuật toán để dự đoán chính xác.

Hàm lớp

Các chức năng đo lường mức độ phân loại tốt của một mô hình phân loại dự đoán đúng lớp học, họ đưa ra một hình phạt cho dự đoán sai, hướng dẫn mô hình để cải thiện độ chính xác của nó trong quá trình đào tạo.

Thu nhỏ chức năng chi phí trong quá trình đào tạo giúp mô hình học các tham số tối ưu. Một chi phí thấp hơn cho thấy hiệu suất tốt hơn trên dữ liệu đào tạo.

Hạn chế quyết định

Giới hạn quyết định là một đường thẳng hoặc bề mặt phân chia các lớp khác nhau trong không gian tính năng. Nó xác định các điểm dữ liệu mới được phân loại dựa trên tính năng của chúng.

Trong những trường hợp đơn giản, ranh giới có thể là một đường thẳng (xem xét tuyến tính).

Mối quan hệ giữa hàm giá trị và giới hạn quyết định

Sự lựa chọn hàm chi phí ảnh hưởng đến cách định hình giới hạn quyết định. Chẳng hạn, sử dụng một sự mất phần trăm trong một hỗ trợ máy véc tơ khuyến khích ranh giới tối đa giữa các lớp học.

Phân loại hiệu quả phụ thuộc vào việc chọn hàm thích hợp và hiểu cách chúng tác động đến ranh giới quyết định. Điều này đảm bảo mô hình tổng quát hóa tốt dữ liệu không nhìn thấy.