Table of Contents
সক্রিয়করণের প্রক্রিয়া অত্যন্ত গুরুত্বপূর্ণ উপাদান হলো নিউরাল নেটওয়ার্কের সক্রিয়তা । তারা নির্ধারণ করে যে একটি নিউরোক্রাল উপাদান সক্রিয় করা হবে কি না, নেটওয়ার্ক এর জটিল বিন্যাস শেখার ক্ষমতাকে প্রভাবিত করবে কি না। এই প্রবন্ধটি সক্রিয়করণের পেছনের তত্ত্বকে আবিষ্কার করে, কিভাবে যন্ত্র মডেলে তাদের প্রয়োগ করা যায় এবং এর প্রয়োগের জন্য তাদের ব্যবহারিক প্রয়োগ করা যায়।
সক্রিয়করণ ফাংশনের নিরাপত
সক্রিয়করণ প্রক্রিয়াটি নিউরাল নেটওয়ার্কের মধ্যে বিদ্যমান নয় এমনতা দিয়ে শুরু হয়, তারা তাদের মডেল তৈরি করতে সক্ষম হয় তথ্য সম্পর্ক তৈরি করতে পারে। এই কার্যাবলী ছাড়া নেটওয়ার্ক সাধারণ সাইডবার মডেলের মতো আচরণ করবে, তাদের ক্ষমতার সীমা কমিয়ে দেবে। সাধারণ সক্রিয়করণ ফাংশান ফাংশান ফাংশনের মধ্যে রয়েছে সিগালয়েড, ট্যান, রেহ, রেড এবং নরমক্সক্সক্স।
সক্রিয়করণ সংক্রান্ত গবেষণা
সক্রিয়করণ ফাংশনের আউটপুট গণনা করার সঙ্গে একটি নিউরনের মাধ্যমে গাণিতিক সূত্রের ব্যবহার করা হয় । উদাহরণস্বরূপ, রে- আই- ও ফাংশন আউটপুট আউটপুটের সাহায্যে আউটপুট পরীক্ষা করা হয় যদি এটি ইতিবাচক এবং শূণ্যের মধ্যবর্তী থাকে । সি- জি- আই (1) ফাংশন 0 থেকে ১, এবং ১/২) মান পরিবর্তন করে ।
গুণ/ ভাগ
সঠিক সক্রিয়করণ কার্যক্রম বেছে নেওয়া হচ্ছে নিউরাল নেটওয়ার্কের দক্ষতা ও সঠিকতার উপর প্রশিক্ষণ এবং সঠিকতা বেছে নেওয়া। ReLU এর গভীর নেটওয়ার্কে এর সরল এবং কার্যকারিতার কারণে ব্যাপকভাবে ব্যবহৃত হয়। তবে সিমোয়েডের মত ফাংশনগুলো হয়ত অদৃশ্য হয়ে যাওয়ার মত বিষয়, যেমন যেমন শ্বাসরোধের গতি, গতি, প্রভাব ইত্যাদির ওপর প্রভাব ফেলতে পারে।