Begrijpen van de Wiskunde achter T-sne voor Visualiseren van High-dimensionale Gegevens

T-SNE (t-gedistribueerde Stochastische buurman Embedding) is een populaire techniek voor het visualiseren van hoogdimensionale gegevens in twee of drie dimensies. Het helpt onthullen patronen en clusters die niet gemakkelijk waarneembaar zijn in de oorspronkelijke gegevens. Het begrijpen van de wiskundige principes achter t-SNE kan de toepassing en interpretatie ervan verbeteren.

Kernbegrippen van t-SNE

T-SNE zet hoogdimensionale datapunten om in een kansverdeling die hun overeenkomsten weerspiegelt. Het zoekt dan naar een laagdimensionale inbedding die deze overeenkomsten zo dicht mogelijk bij elkaar houdt. Het proces omvat twee belangrijke stappen: het berekenen van paarsgewijze overeenkomsten en het minimaliseren van een divergentie tussen distributies.

Wiskundige stichtingen

In de hoogdimensionale ruimte wordt de overeenkomst tussen twee punten gemodelleerd met behulp van een Gaussiaanse verdeling. De kans dat punt [j een buur van punt i] wordt gegeven door:

p_j

Dit definieert een kansverdeling over buren voor elk punt. De gezamenlijke waarschijnlijkheid p_ij wordt gesymetriiseerd als:

p_ij = frac{p[_j

waarbij N het totale aantal punten is. In de laagdimensionale ruimte worden overeenkomsten gemodelleerd met behulp van de t-distributie van een student met één graad van vrijheid:

q_ij = frac{(1 +

Optimalisatieproces

Het doel is om lage-dimensionale punten y_i te vinden die de divergentie tussen de hoge en lage-dimensionale verdelingen minimaliseren:

KL(P

Dit wordt bereikt door de hellingsdaling, waarbij de positie van de punten in de laagdimensionale ruimte wordt aangepast om divergentie te verminderen.De gradiënten worden berekend op basis van de verschillen tussen p_ij en q_ij.

Conclusie

Het begrijpen van de wiskundige basis van t-SNE houdt in hoe overeenkomsten gemodelleerd worden en hoe de optimalisatie deze overeenkomsten tussen dimensies uitlijnt. Deze basis helpt bij het af stemmen van parameters en het effectief interpreteren van visualisaties.