حل مشاكل الإفراط في الملاءمة: تكييف التقنيات مع أمثلة العالم الحقيقي

ويحدث التفويض عندما يتعلم نموذج التعلم الآلي بيانات التدريب بشكل جيد جدا، بما في ذلك الضوضاء والمخارج، مما يقلل من أداءه بشأن البيانات الجديدة، وتساعد أساليب التكييف على منع الإفراط في التأقلم بإضافة قيود إلى النموذج، وتعزيز البساطة، وتحسين التعميم.

فهم تسوية الأوضاع

ويدخل نظام تسوية الوضع شروطاً إضافية لوظيفة الخسارة أثناء التدريب، وهذه الشروط تعاقب على النماذج المعقدة، وتشجع على إيجاد حلول أبسط من المرجح أن تكون أكثر فأكثر، وتشمل أساليب النظام الموحد الموحَّدة تنظيماً لام-1 ولام-2.

تقنيات التوحيد الموحد

• L1 تسوية (Lasso): ] Adds the absolute value of coefficients to the loss function, promoting sparsity.
• L2 تسوية (ريدج): ] يضيف القيمة المربعة للمعاملات، ويشجع على زيادة الوزن.
• Dropout:] Randomly deactivns neurons during training in neural networks to prevent co-adaptation.
• Early stopping:] stops training when performance on validation data begins to decline.

أمثلة على العالم الحقيقي

وفي مهام التعرف على الصور، يساعد تطبيق نظام التسرب على الشبكات العصبية على تعميم الصور غير المرئية بشكل أفضل، وبالنسبة لنماذج الانحدار الخطي التي تنبئ بأسعار الإسكان، فإن تسوية L2 تقلل من مغبة التفوق بتقلص المعاملات الكبيرة، مما يؤدي إلى التنبؤات الأكثر موثوقية.

وفي مجال تجهيز اللغات الطبيعية، يُستخدم التوقف المبكر لمنع الإفراط في الاستفادة أثناء تدريب نماذج اللغات، وضمان أداء هذه النماذج بشكل جيد في البيانات النصية الجديدة، وهذه التقنيات أساسية في مجالات مختلفة لتحسين قوة النماذج ودقتها.