Compreender a Matemática por trás do T-sne para Visualizar Dados de Alta Dimensão

t-SNE (T-Distributed Stochastic Neighbor Embedding) é uma técnica popular para visualizar dados de alta dimensão em duas ou três dimensões. Ajuda a revelar padrões e clusters que não são facilmente observáveis nos dados originais. Compreender os princípios matemáticos por trás do t-SNE pode melhorar sua aplicação e interpretação.

Conceitos Principais do T-SNE

O t-SNE converte os dados de alta dimensão em uma distribuição de probabilidade que reflete suas semelhanças. Ele busca então uma incorporação de baixa dimensão que preserva essas semelhanças o mais próximo possível. O processo envolve duas etapas principais: computação em pares semelhanças e minimizando uma divergência entre distribuições.

Fundações Matemáticas

No espaço de alta dimensão, a semelhança entre dois pontos é modelada usando uma distribuição Gaussiana. A probabilidade de que o ponto j é um vizinho do ponto i é dada por:

p_j'i = frac{exp(- ^x_i - x_]j[ ^2 / 2sigma i^2)}{sum {k neq i} exp(-- □x_i[ - x[_]k[ ^2 / 2sigma i^2)}

Isto define uma distribuição de probabilidade sobre os vizinhos para cada ponto. A probabilidade conjunta p_ij é simétrica como:

p_ij = frac{p_j'i + p_i'j}{2N}

onde N é o número total de pontos. No espaço de baixa dimensão, as semelhanças são modeladas usando a distribuição t de um estudante com um grau de liberdade:

q_ij = frac{(1 + .y_i - y_]j^2)^{-1}}{sum {k neq l} (1 + . . .y_]k[ - y_l[^2)^{-1}

Processo de otimização

O objetivo é encontrar pontos de baixa dimensão y_i que minimizam a divergência Kullback-Leibler entre as distribuições de alta e baixa dimensão:

KL( P

Isto é conseguido através da descida de gradientes, ajustando as posições dos pontos no espaço de baixa dimensão para reduzir a divergência. Os gradientes são calculados com base nas diferenças entre p_ij] e q_ij[[].

Conclusão

Compreender a base matemática do t-SNE envolve compreender como as semelhanças são modeladas e como a otimização alinha essas semelhanças entre dimensões. Esta base ajuda na ajuste de parâmetros e interpretação de visualizações de forma eficaz.