فالتركة والتنظير هما التقنيات المستخدمة في التعلم الآلي لتحسين الأداء النموذجي من خلال منع الإفراط في الملاءمة، ويحدث الإفراط في الفائدة عندما يتعلم نموذج ما الضوضاء في بيانات التدريب، مما يقلل من قدرته على تعميم البيانات الجديدة، ويستلزم تنفيذ هذه الاستراتيجيات إجراء حسابات محددة وأفضل الممارسات.

فهم التسرب

فالتركة تعطل بشكل عشوائي جزء من الأعصاب أثناء التدريب، مما يساعد على منع الشبكة من الاعتماد على مسارات محددة بدرجة مفرطة، ويحدد معدل التسرب النسبة المئوية للخصائص العصبية التي تعطل في كل مرة.

وتتراوح معدلات التسرب من 0.2 إلى 0.5، مثلاً، معدل التسرب الذي يبلغ 0.3 في المائة من الأعصاب يُطفى خلال كل خطوة تدريبية، مما يشجع الشبكة على تطوير سمات أكثر قوة.

التنفيذ

ويضيف نظام تسوية الخسائر عقوبة إلى وظيفة الخسارة لتثبيط النماذج المعقدة، وأكثرها شيوعاً هو تسوية الوضع القانوني بالنسبة لثاني أكسيد الكربون، الذي يعاقب على الأوزان الكبيرة، ويحسب مصطلح تسوية الوضع على أنه:

Loss = Original Loss + Д ⁇ ⁇ ⁇ / / (w]2]]]

() حيث (((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((

استراتيجيات منع الإفراط في الاستفادة

ويمكن أن يؤدي الجمع بين التسرب والتنظير إلى الحد من المبالغة في الملاءمة، وتشمل الاستراتيجيات الأخرى التوقف المبكر، وزيادة البيانات، والتجاوزات، ويساعد الرصد المنتظم لأداء التحقق على تحديد معايير التسوية المثلى.

  • التسرب من استخدامه مع معدلات تتراوح بين 0.2 و 0.5
  • تطبيق نظام L2 مع باحث كهرباء زهاء 0.01
  • تنفيذ وقف مبكر أثناء التدريب
  • بيانات التدريب على تعزيز التنوع