Вибір функції - це процес, який використовується в машинному навчанні для визначення найбільш відповідних змінних для навчання моделі. Він допомагає поліпшити продуктивність моделі, зменшити навантаження і зменшити обчислювальні витрати. Ця стаття обговорює загальні методи і надає практичні приклади для ілюстрації їх застосування.

Фільтри

Методи фільтра оцінювати актуальність функцій на основі статистичних заходів. Вони швидко і підходять для високовимірних даних. Загальні методи включають коефіцієнти кореляції, тести на чишах, взаємовідносну інформацію.

Наприклад, за допомогою кореляції, функції з високою кореляцією до змінної цілі вибираються, при цьому з низьким співвідношенням відкидаються. Цей метод простий, але може з'явитися з взаємодією між особливостями.

Методи обгортання

Методи обгортання оцінювати підмножини функцій шляхом підготовки моделі та вибору комбінації, що дає найкращий результат. Вони більш точні, але інтенсивно обчислюються.

Методики включають усунення рекурсивних функцій (RFE) і переднього відбору. Наприклад, RFE неодноразово тренує модель, знімає найменш важливі функції, і дотримується підмножини до досягнення оптимальної продуктивності.

Вбудовані методи

Вбудовуються методи, які виконують функцію підбір під час процесу підготовки моделі. Вони включають в себе методику регулярної роботи, які прикривають менш важливі функції.

Приклади включають в себе Lasso (L1) і алгоритми на основі дерева, такі як випадкові ліси, які забезпечують важливі показники. Ці методи балансу точність і ефективність.

Практичний приклад

Надаючи вам дані з різними особливостями прогнозування цін на будинок. Використовуючи метод фільтра, ви можете вибрати функції з найвищим співвідношенням ціни. Потім наносите RFE для рефування підмножини з методом обгортки. Нарешті, переведіть модель з вбудованими значеннями значними балами, щоб завершити вибір.