Table of Contents
Sự mở lùi là một thuật toán cơ bản được dùng để đào tạo mạng thần kinh sâu sắc. Nó giúp điều chỉnh trọng lượng của mạng để giảm thiểu lỗi. Hướng dẫn này cung cấp một tiến trình từng bước một để thực hiện sự hỗ trợ lại một cách hiệu quả.
Hiểu được những điều cơ bản
Sự mở lùi bao gồm tính gradient của hàm mất theo mỗi trọng lượng trong mạng. Quá trình này sử dụng quy tắc toán học để truyền các lỗi ngược từ lớp xuất ra đến lớp nhập.
Bước 1: Khởi động lớp dày
Bắt đầu ngẫu nhiên bằng việc khởi tạo các khối lượng và thành kiến của mạng thần kinh. khởi đầu đúng đắn có thể cải thiện hiệu quả đào tạo và hội tụ.
Bước 2: Đi trước
Dữ liệu nhập được truyền qua mạng để tạo ra dự đoán. Trong giai đoạn này, kích hoạt được tính toán ở mỗi lớp bằng trọng lượng và thành kiến hiện tại.
Bước 3: Tính toán mất mát
Sự khác biệt giữa đầu ra dự đoán và đích đích thực được đo bằng cách sử dụng một chức năng mất mát, như là có nghĩa là bình phương lỗi hoặc xuyên tuyến.
Bước 4: Qua trái
Tính toán độ dốc của sự mất mát đối với mỗi trọng lượng bằng cách truyền tải lỗi ngược lại qua mạng. Tính toán đạo hàm ở mỗi lớp.
Bước 5: Cập nhật Hình nặng
Điều chỉnh trọng lượng và thành kiến bằng cách sử dụng các dốc và một tỷ lệ học tập. Bước này giảm thiểu chức năng mất mát và cải thiện hiệu suất mạng.
- Khởi tạo tạ
- Thực hiện thẻ trước
- Tính mất mát
- Tính dải màu qua việc hỗ trợ
- Cập nhật tạ