كيفية حساب كلمة تجسد التشابه في تجهيز اللغات الطبيعية
Table of Contents
وتستخدم درجات التشابه في الكلمات في تجهيز اللغات الطبيعية لقياس مدى تشابه كلمتين أو عبارتيهما على أساس تمثيلهما في ناقلات الأمراض، وتساعد هذه النقاط في مهام مثل التحليلات الرئوية واسترجاع المعلومات والترجمة الآلية.
فهم العابد
الكلمات المزخرفة هي عبارة عن كلمات ناقلات عن الكلمات المتولدة عن الخوارزميات مثل الورد2فيك، غلوف، أو فيستيكست، وكل كلمة ترسم على مساحة عالية الأبعاد حيث توضع كلمات مماثلة في موقع أقرب معا.
حساب التشابه
إن أكثر الطرق شيوعاً لحساب التشابه بين كلمة سفينتين هي استخدام التماثل بين الكون، وهذا يقيّم كون الزاوية بين ناقلين، مما يشير إلى مدى تشابه اتجاهاتهما.
الخطوات المتخذة لحساب التشابه بين الكوكايين
- الحصول على تمثيل ناقلات الكلمات.
- قم بحساب المنتج النقطي للناقلين
- احسب حجم كل ناقل (نخب)
- فتش المنتج النقطي من خلال منتج الجسامات
والصيغة التي تُستخدم في تماثل الكون هي:
Cosine Similarity = (A · B)/( ⁇ A ⁇ * ⁇ B ⁇ )]
ترجمة :
وتتراوح درجات التشابه بين 1 و1. ويشير الرقم المقارب إلى درجة التماثل العالية، ولا يشير أي تشابه، و1 إلى معاني مختلفة.