Розрахунок функцій втрати в супервізіальному навчанні: від Mse до Хрест-конструктор

Функції втрати є важливими в надвізовому навчанні, оскільки вони вимірюють різницю між передбачуваними виходами та фактичними етикетками. Вони керують процесом навчання, забезпечуючи метричну для оптимізації. Різні функції втрати використовуються в залежності від типу проблеми та характеристик даних.

Меанна Квадратна помилка (MSE)

Помилка Mean Squared зазвичай використовується для регресивних завдань. Вона розраховує середню частину квадратів відмінностей між прогнозованими і фактичними значеннями. Формула:

]MSE = (1/n) Σ (y_i]] - ^_i)2]]

де y_i] є істинним значенням, ^_i] є передбачуваним значенням, а n є числом зразків. MSE пеналізує більші помилки, збільшуючи модель, щоб мінімізувати значні відхилення.

Спадщина-Ентропія

В першу чергу використовується для задач класифікації. Вона вимірює неоднозначність між передбачуваним розподілом ймовірностей і справжнім розподілом. Для бінарної класифікації формула:

Cross-Entropy = - [ журнал(2) + (1 - y) журнал(1 - ^) ]

де я є істинною етикеткою (0 або 1), і ^ є передбачуваною ймовірністю позитивного класу. Ця функція втрати припиняє неправильне прогнозування, більш сильно, коли модель впевнена, але неправильна.

Порівняння та використання

MSE підходить для безперервних змінних вихідних, при цьому поперечно-непрохідний ідеально підходить для категоричних даних. Вибір відповідної функції втрати залежить від типу проблеми і характеру виходу.

• Проблеми репресіону
• Проблеми класифікації
• Модель конвергенції
• Обробка зовнішніх пристроїв