A seleção de recursos e a engenharia são etapas essenciais na aprendizagem supervisionada. Eles ajudam a melhorar o desempenho do modelo, reduzir o excesso de ajuste e diminuir o tempo de treinamento.

Técnicas de Seleção de Característica

A seleção de recursos envolve a escolha dos recursos mais relevantes do conjunto de dados. As técnicas comuns incluem métodos de filtro, métodos de envoltório e métodos incorporados.

Métodos de Filtro

Os métodos de filtro avaliam características baseadas em medidas estatísticas, como correlação, qui-quadrado ou informação mútua, que são computacionalmente eficientes e adequadas para dados de alta dimensão.

Métodos de Embrulho

Os métodos de wrapper selecionam recursos através de modelos de treinamento em diferentes subconjuntos e avaliam seu desempenho. As técnicas incluem eliminação recursiva de recursos e seleção para frente/para trás.

Métodos Incorporados

Métodos incorporados incorporam a seleção de recursos durante o treinamento de modelos. Exemplos incluem técnicas de regularização como Lasso e medidas de importância baseadas em árvores de decisão.

Estratégias de Engenharia de Recursos

A engenharia de recursos transforma dados brutos em recursos significativos que aprimoram a aprendizagem de modelos. Inclui criar novos recursos, codificar variáveis categóricas e escalar dados numéricos.

Criando novas funcionalidades

Gerar novas funcionalidades pode envolver combinações matemáticas, agregações ou transformações específicas de domínio. Estes podem revelar padrões ocultos nos dados.

Codificação de Variáveis Categóricas

A conversão de dados categóricos em formato numérico é crucial. Os métodos comuns incluem codificação com um só aceso, codificação de etiquetas e codificação de destino.

Escalar Dados Numéricos

O escalonamento garante que as características estão em escalas comparáveis, o que beneficia muitos algoritmos. As técnicas incluem escalamento min-max e padronização.