Các mạng thần kinh là công cụ mạnh mẽ để giải quyết các vấn đề phức tạp, nhưng chúng cũng có thể quá trình đào tạo dữ liệu, giảm khả năng tổng quát hóa thành dữ liệu mới. kỹ thuật thống kê giúp điều khiển sự phức tạp mô hình và cải thiện hiệu suất trên dữ liệu vô hình. bài báo này khám phá các phương pháp thông thường được sử dụng trong việc đào tạo mạng thần kinh.

Bỏ học

Bỏ học là một kỹ thuật mà các nơ-ron được chọn ngẫu nhiên bị bỏ qua trong quá trình đào tạo. Nó ngăn ngừa các nơ-ron tự hợp tác và khuyến khích mạng phát triển các tính năng mạnh hơn. Trong khi thử nghiệm, tất cả các nơ-ron được sử dụng, nhưng các kết quả xuất của chúng được cân bằng để tính toán việc bỏ ra trong quá trình đào tạo.

Giảm cân

Phân rã cân nặng thêm hình phạt vào hàm mất cân dựa trên kích thước của khối lượng. Điều này làm giảm cân lớn, có thể dẫn đến quá nhiều cân.

Sự thẩm vấn dữ liệu

Tăng cường dữ liệu tăng sự đa dạng của dữ liệu đào tạo bằng cách áp dụng các biến đổi như quay, dịch, hoặc phóng đại. Điều này giúp mô hình học thêm tính năng tổng quát và giảm phù hợp, đặc biệt trong công việc phát âm và chức năng phát âm.

Dừng lại sớm

Việc dừng lại sớm đòi hỏi phải giám sát hiệu suất của mô hình trong một bộ hợp lệ trong quá trình huấn luyện. ngăn chặn việc cải thiện, ngăn chặn mô hình không cho phù hợp với dữ liệu đào tạo.

Tóm tắt các kỹ thuật viên đều đặn

  • Nhảy ra: ngẫu nhiên bỏ qua các tế bào thần kinh trong quá trình huấn luyện.
  • Trích dẫn: Ghi đè nặng để ngăn chặn sự quá sức.
  • Phụ đề: Mở rộng dữ liệu đào tạo bằng sự biến đổi.
  • Dừng lại ) Dừng đào tạo khi hiệu suất hợp lệ.