Οι λειτουργίες απώλειας είναι απαραίτητες στην εποπτευόμενη μάθηση καθώς μετρούν τη διαφορά μεταξύ των προβλεπόμενων αποτελεσμάτων και των πραγματικών ετικετών. Καθοδηγούν τη διαδικασία κατάρτισης παρέχοντας μια μετρική για τη βελτιστοποίηση.

Μέσος τετραγωνικός σφάλμα (MSE)

Το μέσο τετραγωνικό σφάλμα χρησιμοποιείται συνήθως για εργασίες παλινδρόμησης. Υπολογίζει το μέσο όρο των τετραγωνικών των διαφορών μεταξύ των προβλεπόμενων και των πραγματικών τιμών. Ο τύπος είναι:

MSE = (1/n) Σ (yi - ⁇ i]2]]

όπου yi είναι η πραγματική τιμή, ⁇ i είναι η προβλεπόμενη τιμή, και n είναι ο αριθμός των δειγμάτων. MSE τιμωρεί μεγαλύτερα σφάλματα πιο σοβαρά, ενθαρρύνοντας το μοντέλο να ελαχιστοποιήσει σημαντικές αποκλίσεις.

Διασταύρωση Απώλεια

Η απώλεια διατροπίας χρησιμοποιείται κυρίως για εργασίες ταξινόμησης. Μετράει την ανομοιομορφία μεταξύ της προβλεπόμενης κατανομής πιθανοτήτων και της πραγματικής κατανομής. Για δυαδική ταξινόμηση, ο τύπος είναι:

Cross-Entropy = - [y log( ⁇ ) + (1 - y) log(1 - ⁇ ) ][[LFT:1]]

όπου y είναι η πραγματική ετικέτα (0 ή 1), και ⁇ είναι η προβλεπόμενη πιθανότητα της θετικής κατηγορίας. Αυτή η λειτουργία απώλειας τιμωρεί λανθασμένες προβλέψεις πιο σοβαρά όταν το μοντέλο είναι σίγουρος αλλά λάθος.

Σύγκριση και χρήση

Η MSE είναι κατάλληλη για συνεχείς μεταβλητές εξόδου, ενώ η διατροπία είναι ιδανική για κατηγοριοποιημένα δεδομένα. Η επιλογή της κατάλληλης λειτουργίας απώλειας εξαρτάται από τον τύπο προβλήματος και τη φύση της εξόδου.

  • Προβλήματα οπισθοδρόμησης
  • Προβλήματα ταξινόμησης
  • Υπόδειγμα για τη σύγκλιση
  • Χειρισμός των υπερβάσεων