Tính năng tăng trưởng là bước quan trọng trong việc huấn luyện mạng thần kinh. nó bao gồm điều chỉnh phạm vi các tính năng đầu vào để cải thiện hiệu suất mô hình và tốc độ hội tụ. hiểu được các nền tảng toán học giúp áp dụng các kỹ thuật tăng trưởng đúng cho các kịch bản khác nhau.

Nền tảng toán học về sự cân nhắc tính chất

Các phương pháp tăng cường tính năng thay đổi dữ liệu để đảm bảo rằng mỗi tính năng đóng góp ngang nhau cho quá trình học tập. kĩ thuật thông thường bao gồm tăng cường Min-max và tiêu chuẩn hóa.

x tọa độ = (x- min(x) / (xx(x) - min(x) )

Mặt khác, tiêu chuẩn hóa các tính năng xung quanh ý nghĩa của các đơn vị:

x BAR = (x - ) / )

Ảnh hưởng đến việc huấn luyện mạng thần kinh

Tính năng đúng có thể cải thiện đáng kể quá trình huấn luyện, giúp hội tụ nhanh hơn bằng cách ngăn chặn những tính năng lớn hơn trong việc kiểm soát các bản cập nhật. Hơn nữa, các tính năng có tỉ lệ thì có thể dẫn đến các dốc thăng bằng hơn, giảm nguy cơ biến mất hoặc phát nổ.

Mạng thần kinh với chức năng kích hoạt như sgmoid hoặc tanh đặc biệt nhạy cảm với các cấp độ đặc biệt. Scaling đảm bảo rằng đầu vào đó là trong các vùng hoạt động của các chức năng này, tăng hiệu suất học tập.

Những sự suy xét thực tế

Khi áp dụng tỷ lệ tính năng, điều quan trọng là chỉ cần gắn tỉ lệ này vào dữ liệu đào tạo rồi áp dụng cùng một sự chuyển đổi để hợp lệ hoá và kiểm tra dữ liệu. Điều này ngăn chặn việc rò rỉ dữ liệu và đảm bảo sự tăng vọt nhất định trên các bộ dữ liệu.

  • Sử dụng tỷ lệ Min-max cho tính năng bị ràng buộc.
  • Áp dụng chuẩn hóa cho dữ liệu phân phối thông thường.
  • Luôn chỉ khớp với người theo thang máy trong dữ liệu đào tạo.
  • Dữ liệu quy mô sau khi có tiến triển.