সক্রিয়করণের প্রক্রিয়া অত্যন্ত গুরুত্বপূর্ণ, যার মাধ্যমে মৌলিক পদার্থের সঙ্গে যুক্ত না থাকার ফলে মডেল সক্রিয়তা জটিল বিন্যাস সম্বন্ধে জানতে সক্ষম হয় । সঠিক সক্রিয়করণ ফাংশনটি একটি মডেলের দক্ষতা ও অনুশীলনের উপর উল্লেখযোগ্য প্রভাব ফেলতে পারে । এই প্রবন্ধটি তথ্য সংক্রান্ত বিভিন্ন সিদ্ধান্তের জন্য সহায়তার ক্ষেত্রে সাহায্য করার জন্য একটি সাধারণ প্রক্রিয়া সরবরাহ করে ।

কমন ডিস্টার্ব ফাংশান

বিভিন্ন সক্রিয়করণ ক্রিয়ার মধ্যে দিয়ে বেশ কিছু ক্রিয়াশীল ক্রিয়া ব্যবহার করা হয়, প্রতিটি নিউরাল নেটওয়ার্কে, প্রত্যেক আলাদা বৈশিষ্ট্যের সঙ্গে । নির্দিষ্ট কাজের জন্য তাদের নির্দিষ্ট কাজের জন্য সর্বোত্তম ফাংশন নির্বাচন করতে এটি ব্যবহার করা হয় ।

কর্মক্ষমতার জন্য চিহ্নিত পরিমাপ-ব্যবস্থা

সক্রিয়করণ সংক্রান্ত কাজের কী- সমূহ:

  • [[F] GROD[0] gradeding প্রবাহ:[FLT] ব্যাক- এন্ডের মান কত ভালোভাবে নির্ধারণ করে
  • [[F] আউটপুটের সংখ্যা:[FLT], [FLT] সক্রিয় [FLT] সক্রিয়করণের ক্ষেত্রে সক্রিয়করণের ক্ষমতা বিভিন্ন তথ্য বিতরণের ক্ষেত্রে সক্রিয় মান প্রভাবিত করে ।
  • [[[F] cont.0] সমন্বয় ক্ষমতা:[FLT] প্রশিক্ষণ গতি ও রিসোর্সের গতিকে প্রভাবিত করে ।

পরিবাহক

নীচে তাদের সম্পত্তির উপর ভিত্তি করে জনপ্রিয় সক্রিয়করণের ফাংশনের একটি তুলনা করা হল:

  • [[[F]R][FLT] নেতিবাচক ইনপুটের জন্য আউটপুট] এবং চিত্রের মান শূণ্য । এটির মধ্যে একটির ইতিবাচক মান রয়েছে, যা এটি গভীর নেটওয়ার্কের জন্য কার্যকর করে ।
  • [[F] SIOV:] SILid:[FLT[FLT] ০ থেকে ১.১ এর মধ্যে আউটপুট উৎ‍স প্রসারিত হয়, যা বড় ইনপুটের মাত্রা কমিয়ে দেয়।
  • [[[F]] টেন্ট:[FLT] [FLT] ১:১] ১ থেকে ১.১ এর মধ্যে আউটপুট একই রকম কিন্তু কিছু ক্ষেত্রে তা সীমা অতিক্রম করে, কিছু ক্ষেত্রে সমন্বয়সাধন করা যায় ।
  • [[F] LAYL] ReLUU:[FLT] নেতিবাচক ইনপুটের জন্য একটি ছোট গ্রেডিয়েন্ট অনুমোদন করে, "রেলোএলU" সমস্যা কমিয়ে দেয়।

ডানদিকে সক্রিয়করণ ফাংশন নির্বাচন করা হচ্ছে

নির্বাচন নির্ভর করে নির্দিষ্ট অ্যাপ্লিকেশন এবং মডেল স্থাপত্যের ওপর । সুনির্দিষ্ট বিশ্লেষণ নির্দেশ করে যে, রেলিইউ এবং এর অবস্থানের ধরন সাধারণত দ্রুত প্রশিক্ষণ এবং আরো উন্নত গ্রেডিয়েন্ট ব্যবস্থা করে । সিগালিদ এবং কাটানহ স্তরগুলো নির্ভর করে হতে পারে নির্দিষ্ট সময়ের জন্য উপযুক্ত হতে পারে ।