مدل های مبتنی بر انرژی (EBMs) یک کلاس از مدل های شبکه عصبی هستند که یک تابع انرژی را برای نشان دادن سازگاری بین ورودی ها و خروجی ها تعریف می کنند. این مدل ها در وظایف مختلف یادگیری ماشین، از جمله مدل سازی عمومی و یادگیری بدون نظارت استفاده می شوند. این مقاله مفاهیم بنیادی، محاسبات ریاضی و کاربردهای عملی EBM را در شبکه های عصبی بررسی می کند.

مفاهیم بنیادی مدل های مبتنی بر انرژی

EBMs یک ارزش انرژی اسکالر را به هر پیکربندی متغیرهای ورودی و خروجی اختصاص می دهد.هدف این است که یک تابع انرژی را یاد بگیرید که در آن تنظیمات صحیح یا مطلوب دارای انرژی پایین هستند، در حالی که افراد نادرست انرژی بالایی دارند، بر خلاف مدل های احتمالات سنتی، EBM ها به طور واضح توزیع احتمال را مدل نمی کنند، بلکه بر کاهش انرژی تمرکز می کنند.

محاسبه ریاضی در EBMs

هسته EBM تابع انرژی آن است، که معمولا به عنوان E(x، y) مشخص می شود، که x ورودی است و y خروجی است.در طول آموزش، مدل پارامترهای را تنظیم می کند تا انرژی تنظیمات صحیح را به حداقل برساند و آن را برای موارد نادرست به حداکثر برساند. تابع از دست دادن اغلب شامل تفاوت های متضاد یا سایر روش های تقریبی برای برآورد گرادیان به طور موثر است.

محاسبات شامل محاسبه گرادیان تابع انرژی با توجه به پارامترهای مدل است که هدایت فرآیند بهینه سازی را هدایت می کند. روش های نمونه گیری مانند مارکوف زنجیره مونت کارلو (MCMC) برای تقریبی توزیع تنظیمات در طول آموزش استفاده می شود.

استفاده از موارد واقعی EBMs

مدل های مبتنی بر انرژی در حوزه های مختلف اعمال می شوند، از جمله:

  • نسل پیری: EBMها می توانند تصاویر واقع بینانه را با نمونه گیری پیکربندی کم انرژی تولید کنند.
  • [FLT1] [FLT 1] [FLT 1] [و] امتیازهای بالا انرژی نشان دهنده ناهنجاری یا غیر قابل پخش در داده ها است.
  • آموزش اجباری: EBMs کمک به مدل سازی پویایی محیط زیست و پاداش توابع.
  • پردازش زبان طبیعی: برای کارهایی مانند مدل سازی زبان و درک معنایی استفاده می شود.