Sự hình dung hóa cây cối trong việc học hỏi máy móc hiện đại

Cây quyết định vẫn là nền tảng của việc học máy có thể giải thích được, được đánh giá cao cho cấu trúc trực quan và dễ giải thích của chúng. tuy nhiên, bất kỳ nhà khoa học dữ liệu nào đã đào tạo một cây trên dữ liệu thực tế nhanh chóng gặp nghịch lý: trong khi một cây nông đơn giản là một cây lớn, hoàn toàn phát triển trở thành một rối loạn không thể giải thích được của các nhánh. mà không có hình ảnh hóa hữu hiệu nhất có thể trở thành một hộp đen. Bài báo này mở rộng trên lý do tại sao cấu trúc hình ảnh không chỉ là một tốt đẹp để có thực hành là một thực hành quan trọng, có giá trị, giáo dục, và bảo trì giao tiếp.

Tại sao hình dung về cây quyết định?

Comment

Việc hình dung một cây cho phép các bác sĩ xác minh rằng sự chia cắt của mô hình có ý nghĩa với kiến thức về miền.

Chẩn đoán quá phù hợp với dữ liệu

Một cuộc kiểm tra thị giác có thể cho thấy những vết nứt rõ rệt (v. d., “tuổi 32 và tuổi cao hơn 33 độ tuổi) cho thấy một cái cây có tính năng như“ xác định được nhận diện rõ ràng khi có sự rò rỉ dữ liệu rõ ràng một cách dễ dàng, một vấn đề được phát hiện khi cây được vẽ theo đồ họa.

Xây dựng lòng tin với những người không theo giáo lý

Những yêu cầu về sự cân bằng (v.g., GDPR) và giá trị cổ phần của doanh nghiệp yêu cầu làm cho mô hình không thể thương lượng được. một sơ đồ cây có thể được chú thích tốt cho một nhân viên cho vay hoặc một bác sĩ để giải thích tại sao một dự đoán nào đó được thực hiện, thường hiệu quả hơn là một danh sách giá trị chia sẻ.

Phương pháp hình dung cây quyết định: Từ tĩnh đến tương tác

Biểu đồ cây tĩnh, có đồ thị và học chữ cái

Cách tiếp cận cổ điển này dùng qua chức năng của chữ thập [FLT: 1] [FLT:] của chức năng học tập [FLT: 1]. Tính năng này tạo ra một đồ thị theo định dạng DOT có thể được làm thành dạng PNG, PDF, hay SVG. Kết quả là mỗi nút với điều kiện tách, Gini hoặc entropy, số lượng mẫu và phân phối cấp. Đối với cây nhỏ hơn 10 cấp, điều này là hiệu quả. Tuy nhiên, ngoài biểu đồ trở nên không thể kiểm soát được.

Cách sử dụng ví dụ:

from sklearn.tree import export_graphviz
import graphviz
dot_data = export_graphviz(clf, out_file=None,
 feature_names=X.columns,
 class_names=iris.target_names,
 filled=True, rounded=True,
 special_characters=True)
graph = graphviz.Source(dot_data)
graph.render("iris_tree")

Tài liệu hướng dẫn graphviz cung cấp đầy đủ các tùy chọn tham số bao gồm việc nút tô màu theo lớp.

Hình ảnh hoá tăng cường với dtreeviz

Đối với cây phong phú hơn, đã sẵn sàng, thư viện dtreeviz (bởi Terrence Parr) cung cấp những cải tiến đáng kể trên các đồ thị vô định. Nó hiển thị biểu đồ phân phối dữ liệu tại mỗi nút chia, biên giới quyết định màu sắc, và lớp lá hỏng. Tính năng giúp giải thích rất nhiều bằng cách hiển thị không chỉ quy tắc quyết định mà còn cả dữ liệu hỗ trợ nó.

[FLT: 0]dtreeviz trên GitHub ) bao gồm những ví dụ về hồi quy và phân loại cây, với các tùy chọn để phóng to, lưu dạng là SVG, và màu tự chọn.

Cây tương tác với đồ thị và D3.js

Để khám phá, việc hình dung về cây tương tác cho phép người dùng sụp đổ/ mở rộng chi tiết, hay tìm kiếm thông tin về các chi tiết và bộ lọc. Một cách tiếp cận chuyên dụng hơn hoặc [FL:] đồ thị cây [FL: 1] hoặc [FL:5] để làm cho hệ thống định vị có thể hoạt động theo chiều hướng D3.j.

Các hình khác: Đường dẫn cây quyết định là quy tắc

Đôi khi một biểu đồ đầy đủ không phải là lý tưởng. Thay vào đó, đại diện các đường dẫn quyết định như một tập hợp các quy tắc IF-THEN có thể dễ đọc hơn, đặc biệt là cho cây nông. Các thư mục như [FLT: 6) tạo một cây có văn bản dễ dàng dán vào tài liệu hoặc sử dụng trong môi trường không có hỗ trợ.

Lợi ích của việc hình dung hữu hiệu trong việc thực hành

Khả năng giải thích tương thích với những người bị chẩn đoán

Một bản đồ hình ảnh rõ ràng của cây trực tiếp hiển thị tính năng nào chi phối các tách sớm hơn - ý thức tầm quan trọng của chúng - và làm thế nào ranh giới quyết định phát triển. Điều này đặc biệt hữu ích khi so sánh rừng ngẫu nhiên hoặc nâng cấp nền tảng người học: hình ảnh hóa một cây duy nhất từ một dấu ngoặc có thể làm nổi bật các mẫu đại diện.

Phát hiện lỗi mô hình và phát hiện Bias

Nếu một cây bị chia cắt “cơ quan gần rễ, và dữ liệu về việc huấn luyện ở những vùng khác thì rất không cân bằng.

Giá trị giáo dục cho mọi cấp bậc

Trong các thiết lập học thuật, việc hình dung cây biến các khái niệm toán học trừu tượng thành hình ảnh cụ thể.

Những thử thách trong việc hình dung cây lớn và làm thế nào để đánh bại chúng

Kích cỡ và giới hạn khả năng co dãn

Một cây với độ sâu 20 và hàng ngàn nút không thể được tạo thành một hình ảnh có thể đọc được.

  • Chạy: Dùng khả năng cắt giảm chi phí (ccp alpha) trong vô hướng học để giảm kích cỡ cây trước khi hình dung. Một cây mận thường giữ lại những nhánh quan trọng nhất trong khi có thể nhìn thấy được.
  • Chương trình dưới: Hãy hình dung một cây phụ từ gốc xuống độ sâu giới hạn (v. d., 4 cấp) và lưu ý rằng có những đường sâu hơn.
  • Xem Aggregate: Thay vì vẽ cây đầy đủ, hãy dùng các biểu đồ đặc trưng quan trọng của thanh hoặc một phần của các âm mưu tùy thuộc để truyền đạt hành vi của mô hình.

Thông tin quá tải

Ngay cả một cây có kích thước vừa phải cũng có thể có hàng chục nút, và hãy chọn cách thể hiện điều gì là đúng.

  • Chỉ hiển thị tiêu chuẩn chia phần lớn và phân loại, loại bỏ các giá trị mẫu và các giá trị ô uế.
  • Nhóm người dự đoán sẽ lập tức xem xét các vùng quyết định.
  • Sử dụng kích cỡ nút tỷ lệ với số mẫu để nhấn mạnh các tiểu dân số quan trọng.

Các thực hành tốt nhất cho việc hình dung cây đang sản xuất

  1. Luôn luôn gồm các tên tính năng và nhãn hạng. không đọc được các chất phụ tùng thô.
  2. Dùng và một bản đồ màu để chuyển tải sự phân phối lớp tại mỗi nút.
  3. Đặt trong xuất khẩu ) ngay cả khi cây sâu hơn.
  4. Lưu dạng véc tơ [SVG/PDF] cho khả năng xác thực trong báo cáo.
  5. Hãy nhớ rằng cấu trúc cây đã được giải thích rõ ràng là không thể thay thế nó, không thay thế nó.
  6. Hãy xem xét khán giả. Một nhà khoa học dữ liệu có thể đánh giá cao các giá trị hoàn toàn ô uế; một người bán trái phiếu có thể chỉ cần hai phần trên.

Cấp cao: Hình dung đường dẫn đến quyết định — Không chỉ riêng cây

Đối với mỗi lời tiên đoán, việc theo dõi đường đi của quyết định qua một cây có thể bổ sung nhiều thông tin hơn toàn bộ cấu trúc cây. Một đường dẫn là một danh sách ngắn của những quyết định (dấu ngưỡng > dẫn đến lá. Có thể hình dung đường dẫn này là một đường đi ngang hoặc một danh sách đạn. Các đường dẫn như [FLT: 9] (để phân tích) phân tích một lời tiên đoán từ mỗi sự đóng góp.

Ví dụ: Đồ thị quyết định chia sẻ cho mẫu cây

Trong khi các giá trị sluP là một sự bất khả thi, cho các mô hình cây [FLT: 10] trực tiếp sử dụng cấu trúc cây. Một sơ đồ chia sẻ cho thấy làm thế nào giá trị (hoặc xác suất) tích lũy khi chúng ta di chuyển xuống cây, với các tính năng thêm vào một. Đây là một hình ảnh hóa của đường cây, không phải là toàn bộ cây, nhưng nó giữ lợi thế dễ hiểu của việc hiển thị các chuỗi chính xác.

Kết luận

Hình dung cấu trúc cây vẫn còn là một trong những cách hiệu quả nhất để kết nối khoảng cách giữa sự phức tạp mô hình và sự hiểu biết của con người. từ biểu đồ đồ đồ đồ vật tĩnh cho đến đồ thị tương tác D3.js cây, các công cụ hiện có ngày nay giúp tạo ra hình ảnh minh họa phục vụ nhiều mục đích: gỡ lỗi, tính xác thực, giáo dục và giao tiếp. mấu chốt là chọn đúng trình độ chi tiết cho khán giả và bổ sung biểu đồ với các kỹ thuật khác dễ hiểu khi cần thiết. đầu tư vào hình ảnh rõ ràng, suy nghĩ về cây, dữ liệu, không chỉ cải thiện mô hình, mà còn ẩn giấu những khuyết mà còn ẩn giấu trong danh sách các lỗi mà sẽ không thể hiện trong danh sách các thiết lập.