Việc bỏ phiếu thường xuyên là một kỹ thuật được sử dụng trong mạng thần kinh để ngăn chặn sự quá mức nó bao gồm việc ngẫu nhiên làm giảm một nhóm nhỏ các tế bào thần kinh trong quá trình đào tạo giúp mô hình tổng quát hóa tốt hơn các dữ liệu không nhìn thấy được bài này giải thích làm thế nào bỏ cuộc được thực hiện, cách tính toán được thực hiện và tác động của nó lên hiệu suất mạng thần kinh

Hiểu sự đều đặn bỏ cuộc

Việc thả ra hoạt động bằng cách ngẫu nhiên đặt một tỷ lệ kết xuất nơ ron thành 0 trong mỗi quá trình huấn luyện. Điều này ngăn ngừa các tế bào thần kinh trở nên quá phụ thuộc vào các tính năng đặc trưng và khuyến khích mạng phát triển các biểu hiện mạnh hơn. Tốc độ bỏ ra quyết định phần tử của tế bào thần kinh không hoạt động.

Tính toán bao gồm việc bỏ học

Trong quá trình huấn luyện, mỗi nơ ron được duy trì với xác suất p . Kết quả của một nơ ron i sau khi bỏ ra được tính như:

) ) ] * x i ) [FLT: 7) [FLT: 7) [FLT: 7) [FLT: 7) [FLT: 7)]]]]

r ) ) ) là một biến ngẫu nhiên [FLT: biến để được 1 (được giữ lại) và 0 (bbbbật). Trong khi suy luận, cân [FL:6] [FL:6] [FL: 7] [FL: 7] để giải thích cho việc thả ra trong quá trình đào tạo.

Hiệu ứng khi mạng thần kinh bị đô hộ

Việc bỏ học tăng khả năng của mô hình để tổng quát hóa bằng cách giảm sự phù hợp nó buộc mạng lưới phải học các biểu tượng thừa, làm cho nó kiên cường hơn với tiếng ồn và các biến thể trong dữ liệu kết quả là các mô hình với sự bỏ cuộc thường hoạt động tốt hơn trên các thiết lập hợp lệ và các bộ dữ liệu thử nghiệm.

  • Giảm sự phụ thuộc vào các nơ-ron nhất định
  • Khuyến khích học hỏi kỹ lưỡng
  • Giảm độ quá hợp
  • Sửa độ chính xác thử ra