اطلاعات متقابل یک معیار آماری است که برای ارزیابی وابستگی بین دو متغیر مورد استفاده قرار می گیرد.در انتخاب ویژگی ها، به شناسایی ویژگی هایی که دارای بیشترین اطلاعات در مورد متغیر هدف هستند، کمک می کند.این روش به طور گسترده ای در یادگیری ماشین برای بهبود عملکرد مدل با انتخاب ویژگی های آموزنده استفاده می شود.

اطلاعات متقابل چیست؟

اطلاعات متقابل مقدار اطلاعات به دست آمده در مورد یک متغیر تصادفی را از طریق دیگری اندازه گیری می کند.این کاهش عدم اطمینان از یک متغیر با توجه به دانش دیگر را اندازه گیری می کند. A ارزش اطلاعات متقابل بالاتر نشان دهنده وابستگی قوی تر بین متغیرها است.

محاسبه اطلاعات متقابل

این محاسبه شامل توزیع های احتمالی متغیرهای است. فرمول بر اساس توزیع احتمال مشترک و توزیع های احتمال فردی متغیرهای است.

(مأموری: صغیره، صغیره، صغیره، صیاب، صیاب، صیاب، صیاب، صیاب، صیاب، صیاب، صیاب، صیاب، صیاب، صیاب، صیاب، صیاب، صیاب، صیحه، ص ⁇ )

کجا:

  • [[۱] [۱۰] [۱۰] [۱۰] [۱۰] [۱۰] [۱]] [۱۰] [۱]] احتمال مشترک x و Y است.
  • [[۱] [۱۰] [۱۰] [۱] [۱۰] [۱] [۱۰]] [[۳]]] [۱۰] [۳]] [۱۰] [۱]] [۱] [۱] [۱۰] [۳]] [۱۰] [۱] [۳] [۱] [۱۰] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۳] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۲] [۱] [۱] [۱] [۲] [۱] [۳] [۱] [۱] [۱] [۱] [۳] [۱] [۱] [۳] [۳] [۱] [۱] [۳] [۱۰] [۱] [۱۰] [۳] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱۰] [۱۰] [۱] [۱] [۱] [۱] [۱] [۲] [۱] [۱

درخواست در انتخاب ویژگی

در انتخاب ویژگی، اطلاعات متقابل کمک می کند تا تعیین کند که کدام ویژگی ها بیشتر مربوط به متغیر هدف هستند.ویژگی هایی که امتیازات اطلاعات متقابل بالاتری دارند، آموزنده تر به نظر می رسند و برای آموزش مدل اولویت بندی شده اند.این فرآیند باعث کاهش ابعاد و بهبود بهره وری مدل می شود.

روش های مشترک شامل محاسبه اطلاعات متقابل بین هر ویژگی و هدف، سپس انتخاب ویژگی های برتر بر اساس نمرات است.این رویکرد به ویژه برای رسیدگی به داده های با ابعاد بالا مفید است.