t-SNE (t-Distributed Stochastic Neighbor Embed) este o tehnică populară pentru vizualizarea datelor de înaltă dimensiune în două sau trei dimensiuni. Aceasta ajută la dezvăluirea de modele și clustere care nu sunt ușor de observat în datele originale. Înțelegerea principiilor matematice din spatele t-SNE poate îmbunătăți aplicarea și interpretarea sa.

Concepte centrale ale t-SNE

t-SNE transformă datele în dimensiuni înalte într-o distribuție de probabilitate care reflectă asemănările lor. Apoi caută o înglobare de dimensiuni mici care păstrează aceste asemănări cât mai aproape posibil. Procesul implică două etape principale: similitudinile în perechi de calcul și minimizarea unei divergențe între distribuții.

Fundaţii matematice

În spațiul înalt-dimensional, similitudinea dintre două puncte este modelată folosind o distribuție gaussiană. Probabilitatea ca punctul j este un vecin de la punctul i este dată de:

[j

Aceasta defineşte o distribuţie a probabilităţilor asupra vecinilor pentru fiecare punct. Probabilitatea articulară pij este simetrizată ca:

[ij = frac{pj

unde N este numărul total de puncte. În spațiul cu dimensiuni mici, asemănările sunt modelate folosind distribuția t a unui student cu un singur grad de libertate:

q[ij = frac{(1 +

Procesul de optimizare

Scopul este de a găsi puncte low-dimensionale yi care minimizează divergența Kullback-Leibler între distribuțiile high- și cele de dimensiuni mici:

KL [P

Acest lucru se realizează prin coborâre în gradient, reglând pozițiile punctelor din spațiul cu dimensiuni mici pentru a reduce divergența. Declivitățile sunt calculate pe baza diferențelor pij și qij.

Concluzie

Înțelegerea bazei matematice a t-SNE implică înțelegerea modului în care similitudinile sunt modelate și modul în care optimizarea aliniază aceste similitudini în dimensiuni. Această fundație ajută la reglarea parametrilor și interpretarea vizuală în mod eficient.