Pag-unawa sa mga Matematika sa Likod ng T-sne para sa pag-unawa ng High-dimensiyonal na Data

Ang t-SNE (t-Distributed Stochostic Dother Embeding) ay isang popular na pamamaraan para sa pag-espesye ng mataas na-dimensional na datos sa dalawa o tatlong dimensiyon. Tumutulong ito sa pagsisiwalat ng mga dibuho at kumpol na hindi madaling makita sa orihinal na datos.Ang pag-unawa sa mga prinsipyong matematikal sa likod ng t-SNE ay maaaring mapahusay ang aplikasyon at interpretasyon nito.

Mga Konklusibo ng t-SNE

Ang t-SNE ay nag-ebolb ng mataas na-dimensional data ay tumuturo sa isang distribusyon ng probabilidad na sumasalamin sa kanilang mga pagkakatulad. Pagkatapos ito ay naghahanap ng isang mababang-dimensional na embed na nag-iingat sa mga pagkakatulad na ito hangga't maaari. Ang proseso ay kinasasangkutan ng dalawang pangunahing hakbang: ang pagkokokodigo ng mga pagkakatulad ng pares at pagbabawas ng isang diberhensiya sa pagitan ng mga distribusyon.

Mathematical Foundations

Sa espasyong mataas na-dimensiyonal, ang pagkakatulad sa pagitan ng dalawang puntos ay namodelo gamit ang isang pamamahaging Gaussian.j] ay isang kapitbahayan ng puntos [[] Ang[[ ay ibinigay ni:

p_[ = frac ⁇ xp(- ⁇ /- ⁇ /_i - x_j[[2][2 / 2°S 2][2][2][T][T][2][T][2:[2][2][T][T][T.[2][2][T.[2][T.

Ito ay nagbibigay kahulugan sa distribusyon ng probabilidad sa mga kapitbahay para sa bawat punto. Ang pinagsamang probabilidad na p_[ ay symmetrized bilang:

p_[ = fractoryp_{[j ⁇ i} + p[ _{[ni ⁇ j[}[2 ⁇ ]] ⁇ 2 ⁇ N ⁇

kung saan N ang kabuuang bilang ng puntos. Sa mababang-dimensiyonal na espasyo, ang mga pagkakatulad ay namodelo gamit ang t-publish ng isang Student na may isang antas ng kalayaan:

q_[ = fractrix(1 + ⁇ [_i - ⁇ ] - ⁇ _j[[2][ [im ⁇ -1 ⁇ sm ⁇ k ⁇ nə/ ⁇ / ⁇ [ ⁇ ][[[T:[T][T][2][2][2][2][2][2][T][2][T][2][T][2][T][[T][T][2][[[2][2][[[[[[[T][[[[[[[[T]]]].

Proseso ng Optimisasyon

Ang tunguhin ay hanapin ang mga mababang-dimensiyonal na punto y[_i na nagpapaliit sa Kullback-Leibler diversion sa pagitan ng mataas-at mababang-dimensiyonal na distribusyon:

KL(Pivity Q) = sum ixi neq jutrip p _[ log fractrip _[[[[T] ⁇ q[[_[[[[[[5]][[T]

Ito ay nakakamit sa pamamagitan ng spiral descent, pag-aangkop ng mga posisyon ng mga puntos sa mababang-dimensional na espasyo upang mabawasan ang diverseence.[2] Ang mga groove ay computed batay sa mga pagkakaiba sa pagitan p_j at [[[[[[[_{[[[[[[5][[T][[[T][[T][[[T][[[[T][[T][[T][[[[[T][[[[[T][T][[[[[[[[[[[T][[[[[[[[T]]]]]]][[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[T]]]]]]]]]]}