Einführung: Warum Deep Learning für die Bildklassifikation?

Die Bildklassifizierung – die Aufgabe, einem Bild aus einem vordefinierten Satz von Kategorien ein Label zuzuweisen – ist zu einem Eckpfeiler des modernen Computer-Vision geworden. Von der medizinischen Diagnose bis zum autonomen Fahren treibt eine genaue Klassifizierung unzählige reale Anwendungen an. Deep Learning, insbesondere konvolutionale neuronale Netze (CNNs), hat die Klassifizierungsgenauigkeit dramatisch verbessert und die Leistung von Benchmark-Datensätzen auf menschlicher Ebene oft übertroffen. Das Erstellen und Trainieren tiefer Modelle erfordert jedoch erhebliche Daten, Rechenressourcen und Fachwissen. Hier tritt die Deep Learning Toolbox von MATLAB ins Bild und bietet eine integrierte Umgebung, die die Eintrittsbarriere senkt und gleichzeitig die Flexibilität bietet, die für fortschrittliche Forschungs- und Produktionssysteme erforderlich ist.

MATLAB ist seit langem ein Favorit unter Ingenieuren und Wissenschaftlern für numerisches Computing und Prototyping. Die Deep Learning Toolbox erweitert diese Fähigkeit um vorgefertigte Schichten, Trainingsfunktionen und nahtlose Hardwarebeschleunigung. Ob Sie ein Student sind, der neuronale Netzwerke erforscht, oder ein Profi, der einen Echtzeit-Klassifikator einsetzt, die Toolbox bietet einen strukturierten Workflow, der Datenvorbereitung, Modelldesign, Training, Auswertung und Bereitstellung umfasst.

Übersicht über die Deep Learning Toolbox

Die Deep Learning Toolbox (früher Neuronale Netzwerk Toolbox) bietet eine umfassende Reihe von Funktionen und Apps zum Entwerfen, Trainieren und Simulieren von tiefen neuronalen Netzwerken.

  • Convolutional Neural Networks (CNNs) für Bild- und räumliche Daten.
  • Recurrent Neural Networks (RNNs) und LSTMs für Sequenz- und Zeitreihendaten.
  • Transformernetzwerke für die Verarbeitung natürlicher Sprache und Vision-Aufgaben.
  • Generative Adversarial Networks (GANs) zur Bilderzeugung.

Die Toolbox integriert sich in das breitere MATLAB-Ökosystem, einschließlich der Bildverarbeitungs-Toolbox, der Computer Vision Toolbox und der Parallel Computing Toolbox, was End-to-End-Lösungen ermöglicht.

  • Vortrainierte Modelle wie AlexNet, VGG-16/19, GoogLeNet, ResNet, Inception und EfficientNet, die zum Transferlernen oder zur Feature-Extraktion verwendet werden können.
  • Datenvergrößerung durch das Objekt, das On-the-Fly Transformationen wie Rotation, Skalierung, Übersetzung und Reflexion ermöglicht, um Trainingssätze künstlich zu vergrößern und Überanpassungen zu reduzieren.
  • Automatische Differenzierung und GPU-Unterstützung mit Parallel Computing Toolbox und MATLABs eingebautem für schnelleres Training.
  • Visualisierungstools wie und , um Schichtarchitekturen, Aktivierungskarten und Trainingsfortschritt zu inspizieren.
  • Bereitstellungsoptionen, einschließlich Codegenerierung, Export nach TensorFlow oder ONNX und direkte Integration mit eingebetteter Hardware über MATLAB Coder.

Verständnis von Convolutional Neural Networks für die Bildklassifikation

Im Kern der meisten Bildklassifizierungssysteme liegt ein CNN. Diese Netzwerke lernen hierarchische Merkmale: frühe Schichten erkennen Kanten und Texturen, mittlere Schichten erkennen Formen und Teile und tiefere Schichten identifizieren Objekte. Die Deep Learning Toolbox von MATLAB implementiert alle Standard-Schichttypen - convolution2dLayer, maxPooling2dLayer, fullConnectedLayer, SoftmaxLayer und ClassificationLayer -, wodurch es einfach ist, benutzerdefinierte Architekturen zusammenzustellen. Die Toolbox unterstützt auch moderne Innovationen wie Batch-Normalisierung, Dropout und Restverbindungen.

Warum MATLAB für CNN Design verwenden?

Im Vergleich zu Frameworks wie TensorFlow oder PyTorch bietet MATLAB mehrere einzigartige Vorteile:

  • Interaktive Umgebung: Die -App ermöglicht das Drag-and-Drop-Aufbauen von Netzwerken, was ideal für Anfänger oder Rapid Prototyping ist.
  • Integriertes Debugging: Sie können durch Trainings-Iterationen gehen und Aktivierungen auf jeder Ebene überprüfen, was die Modelldiagnose vereinfacht.
  • Memory Efficiency: MATLAB verarbeitet automatisch den GPU-Speicher und vermeidet häufige Out-of-Memory-Fehler, die die manuelle Codierung plagen.
  • Ingebaute metrische Tracker: Das Training protokolliert automatisch Genauigkeits-, Verlust- und Validierungsmetriken, die in Echtzeit aufgezeichnet werden können.

Datenaufbereitung: Die Grundlage eines erfolgreichen Klassifikators

Egal wie ausgereift das Modell ist, schlechte Daten führen zu schlechter Leistung. MATLAB bietet mehrere Dienstprogramme, um Bilddatensätze effizient zu verwalten.

Verwendung von

Die -Funktion ist der Standardweg, um große Sammlungen von Bildern zu laden. Sie kennzeichnet automatisch Bilder basierend auf Ordnernamen, unterstützt die Aufteilung in Trainings-, Validierungs- und Testsätze und kann Bilder von der Festplatte in Batches lesen, um einen Speicherüberlauf zu vermeiden.

imds = imageDatastore('path/to/images', 'IncludeSubfolders', true, 'LabelSource', 'foldernames');
[imdsTrain, imdsValidation, imdsTest] = splitEachLabel(imds, 0.7, 0.15, 'randomized');

Datenvergrößerung mit

Um die Generalisierung zu verbessern, insbesondere bei begrenzten Daten, können Sie während des Trainings zufällige Transformationen anwenden. MATLABs unterstützt:

  • Zufällige Rotation (0-360 Grad)
  • Random horizontal/vertikale Reflexionen
  • Random Skalierung und Translation
  • Scher- und Kontrasteinstellungen

Diese Transformationen werden on-the-fly angewendet, was bedeutet, dass das Modell in jeder Epoche ein etwas anderes Bild sieht, ohne mehrere Kopien auf der Festplatte zu speichern, was die Überanpassung erheblich reduziert und die Robustheit verbessert.

Umgang mit unausgewogenen Datensätzen

Reale Datensätze haben oft ungleiche Klassenverteilungen. MATLAB bietet gewichtete Klassifizierungsschichten () und kann Klassengewichte automatisch aus den Trainingssatzfrequenzen berechnen. Alternativ können Sie Minderheitenklassen mit einem benutzerdefinierten Datenspeicher oder der -Eigenschaft der Trainingsoption übersampeln.

Transfer Learning: Beschleunigen der Entwicklung mit vortrainierten Modellen

Ein Deep CNN von Grund auf in einem kleinen Datensatz zu trainieren ist selten praktisch. Transfer Learning nutzt ein Modell, das in einem großen Datensatz vortrainiert ist (z.B. ImageNet) und es für eine neue Aufgabe feinabstimmt. MATLAB macht diesen Prozess außergewöhnlich einfach.

Laden eines vortrainierten Netzwerks

Verwenden Sie oder , usw. Diese Funktionen laden das Modell automatisch herunter, wenn es nicht bereits auf der Festplatte vorhanden ist.

Ändern des Netzwerks für eine benutzerdefinierte Aufgabe

Die letzten Schichten eines vortrainierten Netzwerks sind für die ImageNet-Klassifizierung mit 1000 Klassen konzipiert. Um es an Ihre Klassenanzahl anzupassen (sagen wir, 5), ersetzen Sie die vollständig verbundene Schicht und die Klassifizierungsschicht:

lgraph = layerGraph(net);
newLayers = [
 fullyConnectedLayer(numClasses, 'Name', 'fc_new', 'WeightLearnRateFactor', 10, 'BiasLearnRateFactor', 10)
 softmaxLayer('Name', 'softmax_new')
 classificationLayer('Name', 'classoutput_new')
];
lgraph = replaceLayer(lgraph, 'fc1000', newLayers(1));
lgraph = replaceLayer(lgraph, 'fc1000_softmax', newLayers(2));
lgraph = replaceLayer(lgraph, 'ClassificationLayer_fc1000', newLayers(3));

Feintuning vs. Feature Extraction

Zwei gemeinsame Strategien:

  • Feature extraction: Einfrieren der frühen Schichten (setzen Sie ihre Lernrate auf 0) und trainieren Sie nur die neuen Klassifizierungsschichten.
  • Feintuning: Trainieren Sie alle Ebenen mit einer kleinen Lernrate. Besser, wenn der neue Datensatz größer oder deutlich anders ist als ImageNet. MATLAB ermöglicht es Ihnen, Faktoren für die Lernrate pro Schicht festzulegen (wie oben gezeigt), um zu steuern, wie viel jede Ebene sich anpasst.

Praktische Tipps zum Transfer Learning in MATLAB

  • Stellen Sie die Größe der Bilder immer auf die vom vortrainierten Netzwerk erwartete Größe ein (z. B. 224x224 für ResNet).
  • Verwenden Sie Validierungsdaten, um Überanpassungen zu überwachen; wenn die Validierungsgenauigkeit frühzeitig auftritt, reduzieren Sie die Anzahl der Trainingsepochen.
  • Leichtere Modelle wie MobileNet sind schneller, aber weniger genau; tiefere Modelle wie ResNet-152 bieten eine höhere Genauigkeit zu Rechenkosten.

Training des Klassifikators: Optionen, Hyperparameter und Überwachung

Sobald das Netzwerk definiert und die Daten vorbereitet sind, rufen Sie mit dem Datenspeicher, dem Schichtdiagramm und den Schulungsoptionen auf.

Konfiguration von Schulungsoptionen

Mit der Funktion können Sie praktisch jeden Aspekt des Trainings kontrollieren:

  • Solver: 'sgdm' (stochastische Gradientenabfahrt mit Impuls), 'adam' oder 'rmsprop'. Adam konvergiert oft schneller für die Feinabstimmung.
  • InitialLearnRate: Typischerweise 1e-4 für Feinabstimmung, 1e-3 für Training von Grund auf.
  • MiniBatchSize: Abhängig vom GPU-Speicher; gemeinsame Werte sind 32, 64 oder 128.
  • MaxEpochs: Anzahl der vollständigen Durchläufe durch die Trainingsdaten. Beginnen Sie mit 10-20 für die Feinabstimmung.
  • ValidationData: Stellen Sie einen Validierungsdatenspeicher bereit, um die Leistung jeder Epoche zu überwachen.
  • ValidationFrequency: Wie viele Iterationen zwischen Validierungsprüfungen.
  • Inszenierungen: 'Trainingsfortschritt', um Live-Plots von Genauigkeit und Verlust zu sehen.
  • LearnRateSchedule: Lass die Lernrate nach einer bestimmten Anzahl von Epochen fallen (z.B. 'stückweise').
  • L2Regularisierung: Gewichtsabnahme, um Überanpassungen zu verhindern (Standard 1e-4).

Überwachung der Fortschritte bei der Ausbildung

Das Trainingsplot von MATLAB zeigt sowohl die Trainings- als auch die Validierungsgenauigkeit/-verlust im Laufe der Zeit. Wenn die Validierungsgenauigkeit nicht mehr verbessert wird, während die Trainingsgenauigkeit fortgesetzt wird, ist das Modell überanpassungsfähig - denken Sie daran, Dropout hinzuzufügen, die Netzwerkgröße zu reduzieren oder eine stärkere Erweiterung zu verwenden. Die Toolbox protokolliert auch Trainingsinformationen in einer Struktur von , die später analysiert werden kann.

Frühzeitiges Stoppen und Checkpointing

Wenn Sie nicht direkt integriert sind, können Sie das vorzeitige Abbrechen mit der Eigenschaft der Trainingsoptionen implementieren.

Bewertung der Modellleistung

Nach dem Training müssen Sie überprüfen, ob das Modell gut auf unsichtbare Daten verallgemeinert. MATLAB bietet mehrere Auswertungstools.

Klassifizieren von Testbildern

YPred = classify(net, imdsTest);
YTest = imdsTest.Labels;
accuracy = sum(YPred == YTest) / numel(YTest);

Verwirrungsmatrix und pro-Klassen-Metriken

Verwenden Sie , um zu visualisieren, wo das Modell Fehler macht.

confMat = confusionmat(YTest, YPred);

Berechnen Sie dann Metriken manuell oder verwenden Sie die Ausgabe von mit der Option , um Vorhersagewerte für die ROC-Analyse zu erhalten.

ROC und AUC

Für binäre Klassifikation oder Eins-gegen-alle-Szenarien können Sie Empfänger-Betriebskennlinien (ROC) mit zeichnen.

Deployment: Das Modell in die Produktion bringen

Die Stärke von MATLAB geht über das Prototyping hinaus – es bietet mehrere Wege, um geschulte Modelle in reale Anwendungen zu implementieren.

Export in andere Frameworks

  • TensorFlow/Keras: Verwenden Sie , um in das ONNX-Format zu exportieren und dann in TensorFlow zu konvertieren.
  • PyTorch: Ähnlicher ONNX-Exportpfad.

MATLAB Coder und GPU Coder

Generieren Sie eigenständigen C/C++-Code aus Ihrem geschulten Netzwerk mit MATLAB Coder. Dieser ist ideal für die Einbettung von Klassifikatoren in Desktop- oder Embedded-Systeme, ohne dass eine MATLAB-Laufzeit erforderlich ist. GPU Coder generiert CUDA-Code für NVIDIA-GPUs, was eine Echtzeit-Inferenz am Rand ermöglicht.

MATLAB Compiler und Produktionsserver

Verpacken Sie den Klassifikator als eigenständige ausführbare Datei oder als freigegebene Bibliothek. MATLAB Production Server ermöglicht es Ihnen, Modelle als RESTful APIs bereitzustellen, die von Webanwendungen, mobilen Apps oder Unternehmenssoftware verwendet werden können.

Bereitstellung von Embedded Hardware

Mit der Deep Learning Toolbox-Unterstützung für ARM Cortex-A und NVIDIA Jetson können Sie optimierte Netzwerke direkt in eingebettete Systeme bereitstellen. Die Funktion kann hardwareoptimierten Code generieren, der in ressourcenbeschränkte Umgebungen passt.

Real-World-Anwendungen und Fallstudien

Ingenieure und Forscher haben die Deep Learning Toolbox von MATLAB für die Bildklassifizierung in zahlreichen Bereichen verwendet:

  • Medizinische Bildgebung: Klassifizieren von Röntgenaufnahmen der Brust für die Erkennung von Lungenentzündung, retinale Fundusbilder für die Bewertung der diabetischen Retinopathie und histopathologische Dias für die Krebsdiagnose.
  • Autonomes Fahren: Erkennen von Verkehrszeichen, Fußgängern und Fahrspurmarkierungen mithilfe von Mobilfunknetzen, die auf eingebetteten Systemen des Fahrzeugs bereitgestellt werden.
  • Landwirtschaft: Pflanzenkrankheiten anhand von Blattbildern identifizieren, Früchte nach Reife sortieren.
  • Manufacturing: Visuelle Inspektion auf Defekte an Montagelinien, oft mit Echtzeit-Inferenz mit GPU-Coder.
  • Sicherheit: Gesichtserkennung und Objekterkennung in Überwachungsmaterial.

Konkrete Beispiele finden Sie unter MATLABs offiziellem Transfer-Lern-Tutorial und diesem Artikel über Deep Learning in der medizinischen Bildgebung.

Vergleich von MATLAB mit anderen Deep Learning Frameworks

MATLAB ist zwar nicht Open Source, aber seine Toolchain bietet eine beispiellose Integration für Ingenieure, die bereits im MATLAB-Ökosystem arbeiten. Für Teams, die kostenlose Open-Source-Lösungen benötigen, sind TensorFlow oder PyTorch möglicherweise vorzuziehen.

  • Benutzerfreundlichkeit: Keine Notwendigkeit, Python-Umgebungen, Versionskonflikte oder Abhängigkeitshölle zu verwalten.
  • Simulink-Integration: Für die Modellierung auf Systemebene können Sie Deep-Learning-Blöcke in größere Simulationen integrieren.
  • Inbau von Signal- und Bildverarbeitung: Vorverarbeitungsschritte können in derselben Sprache geschrieben werden, ohne zusätzliche Bibliotheken zu importieren.

Für Projekte, bei denen die Zusammenarbeit mit Nicht-MATLAB-Benutzern von entscheidender Bedeutung ist, sorgt der Export nach ONNX für Interoperabilität. Erfahren Sie hier mehr über den ONNX-Export.

Häufige Fallstricke und wie man sie vermeidet

  • Input size mismatch: Überprüfen Sie immer, ob die Eingabeschicht mit der Größe Ihrer Bilder übereinstimmt.
  • Overfitting: Erhöhen Sie die Augmentation, fügen Sie Dropout-Layer hinzu, reduzieren Sie die Netzwerkkapazität oder verwenden Sie eine stärkere Regularisierung.
  • Langsames Training: Stellen Sie sicher, dass Sie eine kompatible GPU haben und dass MATLAB sie verwendet (überprüfen Sie mit ).
  • Memory Errors: Reduzieren Sie die Mini-Batch-Größe oder verwenden Sie -Arrays für Out-of-Memory-Datasets.
  • Klassenungleichgewicht ignorieren: Überprüfen Sie immer die Verteilung der Etiketten; verwenden Sie gewichteten Verlust oder Überabtastung.

Fortgeschrittene Themen: Custom Training Loops und Forschung

Für Forscher, die den neuesten Stand der Technik vorantreiben, unterstützt MATLAB benutzerdefinierte Trainingsschleifen mit Objekten und automatischer Differenzierung. Sie können neuartige Schichten, Verlustfunktionen oder Trainingsverfahren implementieren (z. B. Meta-Learning, gegnerisches Training). Die Dokumentation zu benutzerdefinierten Trainingsschleifen bietet Beispiele.

Schlussfolgerung

Die Deep Learning Toolbox von MATLAB bietet eine leistungsstarke, benutzerfreundliche Umgebung zur Bewältigung von Bildklassifizierungsproblemen. Vom einfachen Transferlernen bis hin zu benutzerdefinierten Architekturen vereinfacht die Toolbox jeden Schritt und behält gleichzeitig die für fortschrittliche Anwendungen erforderliche Flexibilität bei. Die Integration in das breitere MATLAB-Ökosystem - kombiniert mit mehreren Bereitstellungsoptionen - macht sie zu einer hervorragenden Wahl sowohl für die akademische Forschung als auch für die industrielle Bereitstellung. Durch die Befolgung des in diesem Artikel beschriebenen strukturierten Workflows können Sie das volle Potenzial von Deep Learning für Ihre Bildklassifizierungsprojekte nutzen.