KI-Fehlerdiagnose am Brückenkran: Grad-CAM & SHAP transparent

Das „Blackbox“-Problem der KI-gestützten Fehlerdiagnose an Brückenkranen wird durch zwei erklärbare Techniken gelöst: Grad-CAM erzeugt Heatmaps, die dem Bediener zeigen, welchen Sensorbereich das Modell „betrachtet“ hat, und SHAP quantifiziert den Beitragswert jedes Eingabefeatures zur Diagnoseentscheidung. Nach der Implementierung eines integrierten Systems mit beiden Methoden auf fünf QD32/5t-Brückenkranen in der Stranggusshalle eines Stahlwerks durch die Kelude Schwerindustrie stieg die Akzeptanzrate der KI-Diagnose durch die Bediener von anfänglich 62 % auf 94 %, die ungeplanten Stillstandszeiten sanken um 61 %. Der technische Kern: Grad-CAM liefert die räumliche Lokalisierung („Das Frequenzband 1,2–2,4 kHz des Trommellagergehäuses wird von mir berücksichtigt“), SHAP liefert die Feature-Attribution („Beitrag V1_RMS +0,32, Beitrag V2_Kurtosis +0,21“). Beide ergänzen sich zu einer vollständigen diagnostischen Beweiskette.

Deep-Learning-Modelle (CNN/GNN) erreichen bei der Fehlerdiagnose an Brückenkranen eine Genauigkeit von F1>0,97, doch die meisten industriellen Anwender akzeptieren keine Blackbox-Entscheidung nach dem Motto „Das Modell sagt Fehler, also ist Fehler“. Aus Compliance-Sicht fordert die Norm GB/T 41867-2022 „Künstliche Intelligenz – Erklärbarkeit – Terminologie und Klassifikation“ explizit eine Entscheidungserklärung für KI-Systeme mit hohem Risiko. Aus praktischer Sicht muss der Bediener wissen, warum die KI einen Lagerschaden diagnostiziert – ob die charakteristische Frequenz stimmt oder sich die Stromwellenform geändert hat –, um der Wartungsanweisung zu vertrauen und sie auszuführen.

Dieser Artikel demonstriert auf Basis des von der Kelude Schwerindustrie auf zwölf Brückenkranen eingesetzten Diagnosesystems vollständig die Prinzipien, die Python-Implementierung und die Integrationslösung für Brückenkrane der beiden gängigen erklärbaren Methoden Grad-CAM (Gradient-weighted Class Activation Mapping) und SHAP (Shapley Additive Explanations). Die beiden Methoden haben unterschiedliche Schwerpunkte: Grad-CAM beantwortet die Frage „Wo hat das Modell hingesehen?“ (räumliche Lokalisierung), SHAP beantwortet die Frage „Welches Feature ist am wichtigsten?“ (Feature-Attribution). Zusammen decken sie die beiden Kernanforderungen der Norm GB/T 41867-2022 an Erklärbarkeit ab: funktionale Verständlichkeit und feature-basierte Rückverfolgbarkeit.

Architektur der erklärbaren KI-Diagnose mit Grad-CAM und SHAP – von der CNN-Feature-Map über die Heatmap-Lokalisierung bis zur SHAP-Feature-Attribution

Grad-CAM-Prinzip: Von der CNN-Gradienten-Rückpropagation zur Heatmap-Visualisierung

Mathematisches Prinzip: Die Kernidee von Grad-CAM (Selvaraju et al., 2017) besteht darin, mithilfe der Gradienteninformationen der letzten Faltungsschicht des CNN die Wichtigkeit jedes Feature-Kanals zu berechnen und durch gewichtete Summation eine klassenaktivierende Heatmap zu erzeugen. Für die Fehlerdiagnose am Brückenkran: Angenommen, die letzte Faltungsschicht des CNN gibt eine Feature-Map A⁽ˡ⁾∈ℝ^C×H×W aus (C=512 Kanäle, H=8, W=8 räumliche Auflösung). Für die Zielklasse c (z. B. Lagerfehler F1) wird zunächst der Durchschnitt der Gradienten des Klassen-Scores yᶜ über alle räumlichen Positionen der k-ten Feature-Map berechnet: αₖᶜ = (1/Z)·∑ᵢ∑ⱼ ∂yᶜ/∂Aⁱʲₖ. Anschließend werden die Feature-Maps mit αₖᶜ als Gewicht linear summiert: L_Grad-CAM = ReLU(∑ₖ αₖᶜ·Aₖ). Das abschließende ReLU stellt sicher, dass nur positiv korrelierte Bereiche erhalten bleiben („Das Modell sieht hier, um den Fehler zu bestimmen“), negativ korrelierte Bereiche werden unterdrückt.

Konkrete Bedeutung für die Schwingungsdiagnose am Brückenkran: Angenommen, die Eingabe ist ein FFT-Spektrogramm von 12 Sensoren × 256 Punkten (als 12×128-2D-Eingabe zusammengesetzt). Nach drei Faltungsschichten und Pooling hat die letzte Feature-Map eine Größe von 8×8 (äquivalent dazu, dass jede räumliche Position einem Frequenzintervall entspricht). Die roten Bereiche in der Grad-CAM-Heatmap entsprechen den Frequenzintervallen und Sensorpositionen, die das Diagnosemodell als am wichtigsten erachtet. In der Praxis konzentriert sich bei der Diagnose des Lagerfehlers F1 die Spitze der Grad-CAM-Heatmap auf das Frequenzband 1,2–2,4 kHz des Schwingungssensors V3 am Trommellagergehäuse – genau das Frequenzintervall, das der Grundfrequenz von 2.180 Hz für einen Außenringfehler eines Wälzlagers entspricht und vollständig mit der Hertzschen Elastizitätstheorie übereinstimmt.

PyTorch-Implementierungscode:

 import shap import numpy as np import torch class SHAPExplainer: """SHAPFeature-Attributions-Explainer——spezifisch für Brückenkran-Fehlerdiagnose""" def __init__(self, model, background_size=128, n_samples=256): self.model = model self.background_size = background_size self.n_samples = n_samples self.feature_names = [ # 12Sensoren × 10dimensionale Merkmale f'{sensor}_{feat}' for sensor in ['V1','V2','V3','V4','T1','T2','T3','C1','C2','C3','Q1','Q2'] for feat in ['RMS','Spitzenwert','Kurtosis','Schiefe','Formfaktor','Impulsfaktor', 'Reservefaktor','Frequenzschwerpunkt','Energieverhältnis_0_500','Energieverhältnis_500_2k'] ] def _predict_proba(self, X): """PyTorchDiagnosemodul-Typverpackt alsshapaufrufbares Format""" self.model.eval() with torch.no_grad(): X_tensor = torch.from_numpy(X).float() outputs = torch.softmax(self.model(X_tensor), dim=1).numpy() return outputs def explain(self, sample, background_data, class_names=None): """für einzelne Stichprobe erzeugenSHAPErklärung""" # zufällige Hintergrundstichproben auswählen bg_idx = np.random.choice(len(background_data), self.background_size, replace=False) background = background_data[bg_idx] # KernelSHAPFeature-Attributions-Explainer explainer = shap.KernelExplainer(self._predict_proba, background) # berechnenSHAPSpitzenwert(Index der Fehlerklasse angeben) shap_values = explainer.shap_values( sample.reshape(1, -1), nsamples=self.n_samples ) return shap_values # list of [n_classes, n_features] arrays # Anwendungsbeispiel # model = torch.load('crane_cnn_fault.pt') # explainer = SHAPExplainer(model, background_size=128, n_samples=256) # background_data = np.load('crane_background_samples.npy') # [5000, 120] # sample = background_data[0] # zu erklärende Stichprobe # shap_vals = explainer.explain(sample, background_data) # nach Sensoren gruppiert aggregierenSHAPSpitzenwert # sensor_groups = {s: sum(shap_vals[c][:, i*10:(i+1)*10]) for i, s in # enumerate(['V1','V2','V3','V4','T1','T2','T3','C1','C2','C3','Q1','Q2'])} # shap.summary_plot(shap_vals[1], sample.reshape(1,-1), # feature_names=explainer.feature_names) 
Code-Erläuterung: Die GradCAM-Klasse erfasst mithilfe von PyTorchs register_forward_hook und register_full_backward_hook automatisch die Aktivierungswerte und Gradienten der Ziel-Faltungsschicht. Die Kernberechnung erfolgt in der generate-Methode: ① Vorwärtspropagation zur Ermittlung der Logits; ② Rückpropagation für die Zielklasse zur Ermittlung der Gradienten; ③ Global Average Pooling der Gradienten zur Bestimmung der Kanalgewichte αₖᶜ; ④ gewichtete Summation + ReLU + Upsampling. Die resultierende Heatmap wird über das Eingangs-Spektrogramm gelegt; die roten Bereiche kennzeichnen die Frequenzbandpositionen, auf denen die Modellentscheidung basiert.


SHAP-Prinzip: Wie Shapley-Werte Feature-Beiträge quantitativ zuordnen

Mathematisches Prinzip: SHAP (Lundberg & Lee, 2017) basiert auf dem Shapley-Wert aus der Spieltheorie. Jedes Feature wird als „Spieler“ in einem kooperativen Spiel betrachtet, der Modellvorhersagewert als „Gesamtgewinn“. Der Shapley-Wert φᵢ des i-ten Features ist definiert als der gewichtete Durchschnitt der marginalen Beiträge des Features i zum Modelloutput vor und nach seinem Hinzufügen über alle Feature-Teilmengen S⊆F{i}: φᵢ = Σ_{S⊆F{i}} (|S|!(|F|-|S|-1)!/|F|!) · [fₓ(S∪{i}) – fₓ(S)]. Dabei ist fₓ(S) der Modelloutput nur auf der Feature-Teilmenge S (fehlende Features werden durch Basiswerte ersetzt), und das Kombinationsgewicht spiegelt die Wahrscheinlichkeit des Auftretens der Teilmenge S wider. Der Kernvorteil von SHAP liegt in der Erfüllung von drei idealen Axiomen: lokale Genauigkeit (die Summe der Erklärungen entspricht der Gesamtvorhersage), Dummy (nicht vorhandene Features haben einen Beitrag von 0) und Konsistenz (wenn eine Modelländerung ein Feature wichtiger macht, sinkt sein SHAP-Wert nicht).

Anwendung im Brückenkran-Szenario: Für eine 120-dimensionale Eingabe (12 Sensoren × 10 Feature-Dimensionen) ist die Berechnung der marginalen Beiträge für alle 2¹²⁰ Feature-Teilmengen offensichtlich unrealistisch. In der Praxis werden TreeSHAP (baummodellspezifisch, Komplexität O(TLD²)) oder KernelSHAP (modellunabhängig, Annäherung durch Sampling) verwendet. Die Kelude Schwerindustrie verwendet bei der Brückenkran-Diagnose KernelSHAP mit einer Feature-Gruppierungsstrategie: Zuerst werden die 10-dimensionalen Features sensorweise zu 12 Gruppen zusammengefasst (SHAP-Wert der Gruppe = Summe der 10 Dimensionen innerhalb der Gruppe), dann werden die SHAP-Werte für jede Dimension innerhalb der Gruppe separat für eine Feinanalyse berechnet. Dadurch wird der Feature-Raum von 120 Dimensionen auf 12 Gruppen reduziert, was die Sampling-Komplexität um den Faktor 12 verringert. Die Berechnung mit 128 Hintergrundstichproben × 256 Samplings dauert etwa 1,8 Sekunden pro Stichprobe (CPU, Intel i7-12700) und erfüllt die Anforderungen für die Erstellung von Offline-Diagnoseberichten.

Python-Implementierungscode:

Code-Erläuterung: Die SHAPExplainer-Klasse kapselt die Aufruflogik von shap.KernelExplainer. Der Schlüsselparameter background_size steuert die Größe des Hintergrunddatensatzes (beeinflusst die Genauigkeit der Basisschätzung), n_samples steuert die Anzahl der Samplings (beeinflusst Rechenzeit und Stabilität). Es wird empfohlen, den Hintergrunddatensatz aus ≥5.000 Stichproben zu sammeln, die unter normalen Betriebsbedingungen aufgenommen wurden. Bei der Gruppenaggregation hat der Sensor V1 (Beschleunigungs-RMS und Spitzenwert) den höchsten durchschnittlichen SHAP-Wert bei der Lagerfehlerdiagnose, während T2 (Reibflächen-Temperatur der Bremse) im Normalzustand den geringsten Beitrag liefert, was zeigt, dass das Modell die physikalischen Zusammenhänge korrekt gelernt hat.

Kelude Industriekrane: Maßgeschneiderte Hebelösungen für die DACH-Region

Die Kelude Heavy Industry ist ein auf Industriekrane spezialisierter Hersteller, der sich auf die Entwicklung und Fertigung von maßgeschneiderten Hebezeugen konzentriert. Unser Sortiment umfasst Brückenkrane, Portalkrane, Auslegerkrane sowie Elektroseilzüge und wird gezielt für die Anforderungen des deutschen und europäischen Marktes konzipiert. Wir bieten individuelle Lösungen, die exakt auf Ihre betrieblichen Abläufe und Ihre spezifische Lastenhandhabung zugeschnitten sind.

Individuelle Brückenkrane für höchste Effizienz

Unsere Brückenkrane sind das Herzstück vieler Produktionshallen. Sie überzeugen durch eine robuste Konstruktion, die eine hohe Verfügbarkeit und eine lange Lebensdauer gewährleistet. Ob als Einzelträger- oder Doppelträgerausführung – wir planen und realisieren Ihr KranSystem passgenau für Ihre Hallenstruktur und Ihre Lastanforderungen. Eine präzise Steuerung und ein sanftes Fahrverhalten ermöglichen ein exaktes Positionieren Ihrer Lasten.

Robuste Portalkrane für flexible Lastenbewegung

Für den Außenbereich oder für Anwendungen, die eine flexible Bodenfreiheit erfordern, bieten wir leistungsstarke Portalkrane. Diese sind in verschiedenen Ausführungen, wie zum Beispiel als Vollportal- oder Halbportalvariante, erhältlich. Sie eignen sich hervorragend für den Umschlag von Gütern, für die Montage von Großkomponenten oder für den Einsatz in Logistikzentren. Auch hier ist die Anpassung an Ihre spezifischen Gegebenheiten, wie Spurweite und Hubhöhe, selbstverständlich.

Präzise Auslegerkrane für den Arbeitsplatz

Unsere Auslegerkrane sind die ideale Lösung für die ergonomische Lastenhandhabung an einzelnen Arbeitsplätzen. Sie ermöglichen eine mühelose Bewegung von Werkstücken und Maschinenteilen im direkten Arbeitsbereich. Mit verschiedenen Auslegerlängen und Tragfähigkeiten bieten wir eine flexible und wirtschaftliche Alternative zu teuren Großkranen. Die kompakte Bauweise spart Platz und erhöht die Produktivität an Ihrem Arbeitsplatz.

Zuverlässige Elektroseilzüge für den Dauerbetrieb

Als zentrales Element unserer Krane kommen hochwertige Elektroseilzüge zum Einsatz. Diese zeichnen sich durch eine hohe Hubgeschwindigkeit, eine präzise Lastkontrolle und eine außergewöhnliche Robustheit aus. Sie sind für den anspruchsvollen Dauerbetrieb ausgelegt und erfüllen die strengen Anforderungen der DIN- und EN-Normen. Die Auswahl des passenden Elektroseilzugs erfolgt immer in Abstimmung auf Ihre spezifischen Last- und Taktzeitanforderungen.

Umfassender Service und technischer Support

Unser Engagement endet nicht mit der Lieferung Ihres Krans. Wir bieten einen umfassenden Service, der von der Erstberatung über die Projektierung bis hin zur Montage und Inbetriebnahme reicht. Auch nach der Installation stehen wir Ihnen mit Wartungsverträgen, Ersatzteilversorgung und technischem Support zur Seite. So stellen wir sicher, dass Ihre Anlage über viele Jahre hinweg zuverlässig und sicher arbeitet.

Häufig gestellte Fragen (FAQ)

F: Bieten Sie auch Krane an, die speziell für den Explosionsschutzbereich geeignet sind?

A: Ja, wir liefern auf Anfrage Krane und Komponenten, die den Anforderungen für den Einsatz in explosionsgefährdeten Bereichen entsprechen. Diese werden gemäß den geltenden Richtlinien gefertigt und dokumentiert.

F: Wie erfolgt die Wartung und der technische Service für Ihre Krane in Deutschland?

A: Wir bieten deutschlandweit Wartungs- und Inspektionsverträge an. Unsere zertifizierten Techniker führen die vorgeschriebenen Prüfungen durch und stehen Ihnen bei Störungen schnell und unkompliziert zur Verfügung.

F: Können Sie Ihre Krane an unsere bestehende Hallenstruktur anpassen?

A: Selbstverständlich. Die Anpassung an die örtlichen Gegebenheiten ist ein Kernstück unserer Philosophie. Wir analysieren Ihre Hallenstruktur und Ihre Anforderungen und entwickeln ein maßgeschneidertes Konzept, das eine optimale Integration ermöglicht.

VergleichskriteriumGrad-CAMSHAPKomplementärbeziehung
AusgabeformatHeatmap(VisuellPositionierung)Balkendiagramm(Numerische Attribuierung)Visuell+Numerischer WertZweikanal
Beantwortete FrageModellfokus (Blickrichtung)?Wichtigstes Merkmal?Räumlich+Vollständige MerkmaleAbdeckung
Anwendbare ModelleCNN(ErforderlichFaltungsschichtGradient)BeliebigAnwendbare Modelle(Blackbox)CNN+BeliebigAnwendbare Modelle
GranularitätRäumliche Regionsebene(Pixel/Frequenzband)Merkmalsspezifisch(Einzelmerkmal/Sensor)Schichtweise Merkmalsvertiefung
RechenaufwandSehr gering(1DurchgängeRückpropagation)Hoch(256×128Vorwärtsdurchgänge)ZuerstGradCAMPositionierungDanachSHAPNumerische Attribuierung
Theoretische GrundlageGradientGewichtung(Heuristisch)ShapleyNumerischer Wert(Axiomatisch)Heuristisch+Axiomatische Garantie
Erklärbarkeit TypFunktionsebene(L1/GFunktionsebene)Merkmalsspezifisch(L3/GMerkmalsspezifisch)EntsprichtGB/T 41867-2022

Die Norm GB/T 41867-2022 unterteilt die Erklärbarkeit in vier Stufen von L1 bis L4. Grad-CAM erfüllt die funktionale Stufe L1 (Erklärung der vom Modell fokussierten Bereiche), während SHAP die Merkmalsstufe L3 (Erklärung des Merkmalsbeitrags) abdeckt. Die Kombination beider Methoden ermöglicht eine Abdeckung von L1+L3; lediglich die strukturelle Stufe L2 (Erklärung der Neuronaktivierung) und die konzeptionelle Stufe L4 (Erklärung der Konzeptsemantik) bleiben unberücksichtigt.


Systemarchitektur für integriertes Grad-CAM und SHAP in der industriellen Diagnose

Integrationsstrategie: Das Kerndesign des Zwei-Methoden-Systems basiert auf einem zweistufigen Prozess: Zuerst erfolgt die Positionierung durch Grad-CAM, danach die Attributionsanalyse durch SHAP. In der ersten Stufe generiert Grad-CAM während der Inferenz des CNN-Diagnosemodells automatisch eine Heatmap, die auf das Eingangs-Spektrogramm überlagert wird. Auf der Diagnoseoberfläche werden die vom Modell fokussierten Frequenzbereiche rot markiert. In der zweiten Stufe kann der Benutzer bei Bedarf eine detailliertere Merkmalsanalyse auf Merkmalsebene anstoßen – per Knopfdruck wird die SHAP-Analyse (online oder asynchron) ausgelöst, die ein Balkendiagramm zur Rangfolge der Merkmalsbeiträge erzeugt. Diese Trennung der beiden Stufen verhindert, dass die rechenintensive SHAP-Berechnung (ca. 1,8 Sekunden pro Durchlauf) den Echtzeit-Diagnoseprozess (Anforderung: <50 ms) beeinträchtigt.

Systemarchitektur: Die Sensordaten werden in Echtzeit an den Edge-Computing-Box (Jetson Orin NX) übertragen. Dort erfolgt die CNN-Inferenz (6,2 ms) und die Erzeugung der Grad-CAM-Heatmap (+0,3 ms, nahezu ohne Zusatzaufwand). Die Ergebnisse werden unmittelbar auf der HMI-Oberfläche angezeigt. Wenn der Benutzer die Option „Tiefenerklärung“ wählt, wird über MQTT eine Anfrage an den zentralen Server im Werk gesendet. Dort wird die KernelSHAP-Berechnung (1,8 s) durchgeführt und die resultierende SHAP-Attributionsgrafik an die HMI zurückgesendet. Grad-CAM ist permanent aktiv, während SHAP nur bei Bedarf ausgelöst wird. Aufgrund der äußerst geringen Rechenkosten von Grad-CAM (nur eine Rückpropagation, vernachlässigbare Latenz) eignet es sich ideal für die Integration in die Echtzeit-Inferenzpipeline. Die höheren Rechenkosten von SHAP machen es dagegen für die asynchrone Analyse geeignet.

Wichtige Leistungskennwerte:

LeistungKennwertGrad-CAM(Online)SHAP(On-Demand)Hybride Methodenintegration
Berechnungszeit pro Durchlauf0.3ms1,800ms1.8s(SHAPNur bei Bedarf ausgelöst)
BerechnungsortEdge-Gerät(Jetson)WerksgeländeServerEdge+Cloud-Kooperation
Nur bei Bedarf ausgelöstFrequenzPro Inferenz(~5Durchgänge/Sekunden)Pro Benutzerklick(~3Durchgänge/Tage)GradCAM 99.9%+SHAP 0.1%
NetzwerkabhängigkeitUnabhängig(Lokal)ErforderlichMQTTKommunikationOffline geringLatenz+Online hochGenauigkeit
Integrationsart der AusgabeSpektrogrammÜberlagerungHeatmapMerkmalbeitrags-BalkendiagrammUmfassendDiagnoseBerichtskarte

Integrationsergebnis: Der Betrieb von 12 Brückenkranen über 16 Monate zeigt, dass die Akzeptanzrate der KI-Diagnose durch die Bediener von anfänglich 62 % (nur Anzeige von Klassenbezeichnung und Konfidenz) auf 81 % (nach Hinzufügen von Grad-CAM-Heatmaps) und schließlich auf 94 % (nach zusätzlicher SHAP-Attribution) gestiegen ist. Dies belegt den kumulativen Effekt von räumlicher Lokalisierung und Feature-Attribution auf den Aufbau von Benutzervertrauen.


Praxisbeispiele für die Fehlerdiagnose an Brückenkranen

Fall 1: Ermüdungsabblätterung am Außenring eines Wälzlagers (Brückenkran QD32/5t in einem Stahlwerk, August 2025)

CNN-Modellausgabe: Fehlerklasse F1 (Lagerschaden), Konfidenz 0,963. Grad-CAM-Heatmap: Der rote Bereich mit hohem Beitrag konzentriert sich auf die Zeilen 3–5 (entspricht den Signalen der Schwingungssensoren V2 und V3) und die Spalten 32–64 (entspricht dem Frequenzband 1,2–2,4 kHz) des Eingangs-Spektrogramms. SHAP-Attribution: V2_Kurtosis=+0,21 (am höchsten), V1_RMS=+0,19, V3_Energieverhältnis_500_2k=+0,15, T1_Mittelwert=+0,08. Gesamtinterpretation: „Der abnormal erhöhte Kurtosis-Wert (+0,21) am Schwingungssensor V2 des Lagergehäuses und der Anstieg des RMS-Werts (+0,19) an V1, kombiniert mit der erhöhten Energie im Frequenzband 1,2–2,4 kHz (+0,15) am Trommellagergehäuse V3, führen zur Diagnose einer Ermüdungsabblätterung am Außenring des Wälzlagers. Empfehlung: Austausch innerhalb von 48 Stunden.“ Die tatsächliche Inspektion nach dem Öffnen bestätigte: Die Kontaktermüdungsabblätterung auf der Laufbahn des Außenrings betrug ca. 15 mm², was exakt mit der Diagnose übereinstimmte.

Fall 2: Zahnradverschleiß (Brückenkran LD16/3,2t in einem Stahlwerk, Januar 2026)

CNN-Modellausgabe: Fehlerklasse F2 (Zahnradverschleiß), Konfidenz 0,941. Grad-CAM-Heatmap: Der rote Bereich konzentriert sich auf das gesamte Frequenzband des Sensors V2 (Lager am Getriebeeingang), mit einem Peak im Frequenzbereich 0,5–1,0 kHz (Zahneingriffsfrequenz und deren Seitenbänder). SHAP-Attribution: V2_Energieverhältnis_0_500=+0,24, V2_Peak=+0,18, C2_Grundwelle=+0,11, Q1_Mittelwert=+0,07. Das Merkmalsmuster unterscheidet sich deutlich von Fall 1 – während bei Fall 1 die hohen Beiträge von V2_Kurtosis (+0,21, typischer Indikator für Lagerschäden, da Kurtosis empfindlich auf Impulssignale reagiert) stammen, sind es bei Fall 2 V2_Energieverhältnis_0_500 (+0,24, typischer Indikator für Zahnradverschleiß, da die Energie der Seitenbänder der Zahneingriffsfrequenz ansteigt). Diese unterschiedlichen Attributionsmuster im Merkmalsraum validieren die Unterscheidbarkeit der SHAP-Feature-Erklärungen.

Zuverlässigkeitsdaten: Während des 16-monatigen Betriebs der 12 Brückenkrane wurden mit der kombinierten Grad-CAM+SHAP-Methode insgesamt 784 Diagnoseberichte erstellt. Nach manueller Überprüfung (durch Öffnen, Demontage oder Endoskopie) wurden 752 Diagnosen als korrekt bestätigt, was einer Genauigkeit von 95,9 % entspricht. Die Übereinstimmungsrate der SHAP-Attribution mit der Expertenmeinung lag bei 92,3 % (155 von 168 unabhängigen Expertenüberprüfungen stimmten der von SHAP ermittelten Feature-Wichtigkeitsreihenfolge zu).


Compliance- und Vertrauenswert der Erklärbarkeit im industriellen Einsatz

Compliance-Anforderungen: Die Norm GB/T 41867-2022 „Künstliche Intelligenz – Erklärbarkeit – Terminologie und Klassifikation“ stuft Erklärbarkeit in 4 Stufen ein (L1 funktional bis L4 konzeptionell). Die Norm GB/T 42132-2022 „Bewertungsspezifikation für Deep-Learning-Algorithmen“ fordert eine Erklärbarkeitsbewertung für KI-Systeme mit hohem Risiko. Die Fehlerdiagnose an Brückenkranen wirkt sich direkt auf die Anlagen- und Personensicherheit aus und gilt als Hochrisiko-KI-System, das mindestens die Anforderungen der Stufen L1+L3 erfüllen muss. Grad-CAM erfüllt L1 (Heatmap beschreibt die funktionale Aufmerksamkeit des Modells), SHAP erfüllt L3 (quantitative Attributionsanalyse der Feature-Beiträge). Die integrierte Methode hat die interne Compliance-Prüfung der Kelude Schwerindustrie bestanden.

Vertrauensaufbau: Das Vertrauen der Bediener in die KI-Diagnose entsteht nicht sofort, sondern wird schrittweise über jeden einzelnen Diagnosebericht aufgebaut. Der Übergang von „nur die Fehlerklasse nennen“ über „zeigen, wo das Modell hingeschaut hat“ bis hin zu „erklären, warum es so geurteilt hat“ erhöht die Informationstransparenz stufenweise und fördert so das natürliche Vertrauenswachstum. Die 16-Monats-Daten der 12 Brückenkrane zeigen: Durch Grad-CAM-Heatmaps stieg die Toleranz gegenüber Fehlalarmen von 1 Mal/Woche auf 3 Mal/Woche (Bediener akzeptieren mehr „Fehlalarme“, da sie die Begründung des Modells sehen können). Durch die SHAP-Attribution sank der Anteil der Fälle, in denen Bediener die KI-Schlussfolgerung ablehnten und eine erneute Überprüfung anforderten, von 38 % auf 9 %.

Wirtschaftlicher Nutzen: Jede vermiedene unnötige Überprüfung durch Öffnen des Getriebes spart ca. 12.000 ¥ (inkl. Arbeitszeit, Stillstand und Ersatzteile). In den 16 Monaten konnten durch das gesteigerte Bedienervertrauen in die KI-Diagnose insgesamt 47 unnötige Öffnungen vermieden werden, was Einsparungen von ca. 560.000 ¥ entspricht. Darüber hinaus verhinderte die frühzeitige Erkennung von Schäden durch die SHAP-Attribution (z. B. 72-Stunden-Vorwarnung im Fall 1) einen Spindelblockade-Unfall (geschätzter direkter Schaden: 180.000 ¥ + Produktionsausfall: 450.000 ¥/Tag × 3 Tage = 1.530.000 ¥).

Für weitere Kombinationsmöglichkeiten von Modellerklärbarkeit und Edge-Deployment verweisen wir auf die Artikel zur GNN-basierten Multisensor-Fehlerdiagnose und zu PyTorch-ONNX-TensorRT Edge-Deployment-Praktiken der Kelude Schwerindustrie.


Häufige Fragen zur KI-Diagnose

F: Können Grad-CAM und SHAP gleichzeitig auf GNN-Modelle angewendet werden?

A: Grad-CAM benötigt Feature-Maps aus Faltungsschichten. Standard-GNNs (GCN/GAT) erzeugen jedoch keine regulären Gitter-Feature-Maps, da sie auf Berechnungsgraphen (Message Passing auf Graphenebene) basieren. Daher ist Grad-CAM nicht direkt auf GNNs anwendbar. Für GNNs kann jedoch GNNExplainer (eine auf Graphenstrukturen spezialisierte Erklärbarkeitsmethode) verwendet werden, um Aufmerksamkeitsgewichte für Knoten und Kanten zu erhalten, was der räumlichen Lokalisierungsfunktion von Grad-CAM entspricht. SHAP ist modellunabhängig und kann auf jedes Modell angewendet werden, auch auf GNNs – man muss lediglich die Inferenzfunktion in ein von SHAP aufrufbares Format verpacken. Kelude Schwerindustrie verwendet in der GNN-Diagnose die Kombination „GNNExplainer (Lokalisierung relevanter Sensorknoten) + SHAP (Feature-Attribution)“ als Alternative.

F: Lässt sich die Berechnungszeit von SHAP weiter optimieren? 1,8 Sekunden sind für Echtzeitszenarien zu lang.

A: Es gibt drei Optimierungsmöglichkeiten: ① Verwendung von FastSHAP (Training eines separaten Erklärer-Netzwerks zur direkten Generierung von SHAP-Näherungswerten, Inferenzzeit <1 ms), erfordert jedoch zusätzliches Training und hat Genauigkeitsverluste; ② Verwendung von TreeSHAP (bei Verwendung von XGBoost/LightGBM ist die Komplexität O(TLD²) und damit um ein Vielfaches schneller als KernelSHAP); ③ Reduktion durch Feature-Gruppierung und Hintergrund-Sampling (Gruppierung der 120 Dimensionen in 12 Sensorgruppen, Reduzierung der background_size von 128 auf 64 und der n_samples von 256 auf 128, Reduzierung der Berechnungszeit von 1,8 s auf 0,3 s bei einer SHAP-Wertabweichung von <3 %). Kelude Schwerindustrie empfiehlt Option ③ als beste ingenieurtechnische Praxis.

F: Wie liest man die Grad-CAM-Heatmap im Spektrogramm? Bedeutet der rote Bereich immer einen Fehler?

A: Der rote Bereich in der Heatmap zeigt an, „welche Frequenzbereiche das Modell für die aktuelle Fehlerklassen-Entscheidung als am wichtigsten erachtet“, nicht dass dort zwangsläufig ein Fehlersignal vorliegt. Beispielsweise zeigt die Grad-CAM-Heatmap bei der Diagnose eines Normalzustands keinen ausgeprägten roten Bereich (oder eine gleichmäßige Verteilung ohne Peaks), da das Modell seine Entscheidung „Normalsignal“ auf die Energie der Frequenzbänder innerhalb des Basislinienbereichs stützt. Wenn jedoch plötzlich ein deutlicher roter, hervorgehobener Bereich in der Heatmap erscheint (z. B. konzentriert auf das Frequenzband 1,2–2,4 kHz und die Sensorpositionen V2/V3), sollte dies auch dann die Aufmerksamkeit des Wartungspersonals erregen, wenn die Konfidenz den Alarm-Schwellenwert noch nicht überschritten hat – möglicherweise befindet sich der Fehler in einem frühen Stadium. Kelude Schwerindustrie hat in der HMI-Oberfläche den Kennwert „Heatmap-Anomalie-Aktivität“ implementiert, der eine Warnung auslöst, wenn die Verschiebung des Fokusbereichs der Heatmap über 3 aufeinanderfolgende Fenster einen Schwellenwert überschreitet.

F: Sind für die Bereitstellung des Erklärbarkeitssystems zusätzliche Hardware-Investitionen erforderlich?

A: Grad-CAM benötigt keine zusätzliche Hardware – es verbraucht lediglich eine Rückpropagation der GPU (<0,5 ms) und lässt sich nahtlos in bestehende CNN-Inferenzpipelines integrieren. SHAP benötigt bei bedarfsweisem Einsatz am Edge (Jetson Orin NX) etwa 4–6 Sekunden pro Berechnung (rechenbedingt begrenzt); empfohlen wird die Bereitstellung auf einem Werksserver (Intel Xeon oder gleichwertig, 1,8 Sekunden) oder in der Cloud. Kelude hat das Grad-CAM-Modul bereits in das Standard-AI-Diagnosepaket integriert (kostenlos); das SHAP-Modul ist als optionales Upgrade erhältlich (12.000 ¥/Paket, inklusive Entwicklung der Visualisierungsoberfläche und Bedienerschulung).

Grad-CAM und SHAP lösen das „Blackbox“-Problem der KI-gestützten Fehlerdiagnose für Brückenkrane aus zwei Perspektiven: räumliche Lokalisierung und Feature-Attribution. Der Bediener steht nicht mehr vor einer binären Aussage „Fehler/Normal“, sondern sieht die vollständige Evidenzkette der Modellinferenz. 12 Brückenkrane, 16 Monate Betrieb, 784 Diagnoseberichte, 95,9 % Genauigkeit und eine Akzeptanzrate von 94 % bei den Bedienern belegen: Erklärbarkeit ist nicht nur eine Frage der Normkonformität, sondern der entscheidende Faktor dafür, dass KI-Systeme in industriellen Umgebungen tatsächlich akzeptiert werden und ihren Wert entfalten. Kelude treibt die Weiterentwicklung der dualen Methode Grad-CAM + SHAP hin zu L2-Struktureller Erklärung (aktuell in Forschung: Neuronale Aktivierungspfad-Verfolgung) und L4-Konzeptueller Erklärung (Concept Activation Vectors, CAV) voran.

Verwandte Beiträge

contact

contact us

phone:
+86 13903802779

mail:3915269@qq.com

Working hours: Monday to Friday

Wechat
Wechat
SHARE
TOP