KI-Fehlerdiagnose am Kran: Sicherheitsalarm ohne Erklärung
📋 Kernzusammenfassung
Eine KI meldet einen Alarm, kann aber nicht erklären, warum. Das Wartungspersonal traut der Meldung nicht und handelt nicht – das ist das größte Vertrauenshindernis bei industriellen KI-Lösungen. Feature-Attribution, Regelabgleich und Mensch-Maschine-Kooperation machen aus einem KI-Alarm eine nachvollziehbare Empfehlung mit Begründung. Anhand eines Fallbeispiels „Niemand glaubt dem Alarm“ zeigt dieser Artikel die Nachvollziehbarkeits-Logik und den Umsetzungspfad auf.
Das KI-Überwachungssystem eines Brückenkrans meldet eine Störung: Der Hubmotor zeigt einen abnormalen Übertemperatur-Trend. Doch der Wartungstechniker vor Ort stellt fest, dass die Temperatur noch weit vom Schwellenwert entfernt ist und der Strom normal ist. Seine erste Reaktion: „Die KI meldet schon wieder einen Fehlalarm.“ Also quittiert er die Warnung.
Drei Tage später kommt es tatsächlich zu einer Überhitzung des Motors. Die spätere Datenanalyse zeigt: Die KI hatte bereits drei Tage zuvor eine kombinierte Anomalie aus Strom und Vibration erkannt – nur konnte sie nicht erklären, warum. Also glaubte ihr niemand.
Das ist der heikelste Punkt industrieller KI: Das Modell kann warnen, aber die Grundlage der Warnung nicht erläutern. Damit ist die Warnung wertlos. Im Folgenden wird aufgezeigt, wie diese „Vertrauenskrise“ gelöst werden kann.
Ein Alarm ohne Erklärung: KI meldet, aber niemand vertraut
Das Typische an diesem Fall: Es liegt nicht an einer ungenauen Berechnung, sondern an der fehlenden Erklärung. Die KI hat die frühe Anomalie zwar erkannt, aber ihre Entscheidungsgrundlage liegt in den Parametern des Modells verborgen. Das Wartungspersonal sieht nur eine Warnung ohne nachvollziehbaren Grund.
Industrieumgebungen unterscheiden sich grundlegend vom Internet. Bei einer falschen KI-Empfehlung im Internet wischt der Nutzer einfach weiter. In der Industrie hingegen führt ein falscher oder unklarer KI-Alarm entweder dazu, dass er ignoriert wird – oder schlimmer noch, zu Fehlentscheidungen. Erklärbarkeit ist in der Industrie kein Bonus, sondern die Grundvoraussetzung dafür, dass KI vertrauenswürdig ist und eingesetzt werden kann.
Der Kern des Problems: Die KI liefert ein „Ergebnis“, aber keine „Ergebnis plus Begründung“. Damit ihr vertraut wird, muss jeder Alarm die Frage beantworten: „Warum sagst du das?“
Die Logik der Fehlersuche: Der Begründung eines KI-Alarms auf den Grund gehen
Bei einem unklaren KI-Alarm muss die Untersuchungslogik zu den Daten selbst zurückführen. Der erste Schritt: Die Rohdaten zum Alarmzeitpunkt abrufen und prüfen, welcher Parameter oder welche Parameter das Modell ausgelöst haben.
Im zweiten Schritt wird mittels Feature-Attribution der Beitrag der einzelnen Parameter zum Alarm aufgeschlüsselt. Methoden wie SHAP berechnen, wie stark jeder Parameter zu diesem Alarm beigetragen hat. So lässt sich feststellen: „Es war hauptsächlich die Kombination aus Vibration und Strom, nicht die Übertemperatur.“ ISO 24621 „KI-Fehlerdiagnose für Krane“ verlangt, dass die Diagnosegrundlage rückverfolgbar dokumentiert wird.
Im dritten Schritt dient der Regelabgleich zur Kreuzvalidierung. Der KI-Alarm wird mit Schwellenwerten und Erfahrungsregeln abgeglichen, um zu prüfen, ob die erkannte Anomalie auf eine erklärbare Regel zurückgeführt werden kann – zum Beispiel: „Stromschwankungen kombiniert mit erhöhter Vibration deuten typischerweise auf frühen Lager-Verschleiß hin.“
Wenn diese Logikkette durchlaufen ist, wird aus einem „grundlosen“ Alarm ein „begründeter“ Alarm. Bei Kelude Schwerindustrie sind Feature-Attribution und Regelabgleich Standardbestandteil der KI-Alarmausgabe.
Lösungen für Erklärbarkeit: Feature-Attribution, Regelabgleich, Mensch-Maschine-Kooperation
Die erste Lösung ist die Feature-Attribution. Werkzeuge wie SHAP oder LIME schlüsseln den Beitrag jedes einzelnen Parameters für jeden Alarm auf. Der Alarm wird so mit einer Erklärung geliefert, welcher Parameter die Hauptursache war. Dies ist der direkteste Schritt, um aus einer Blackbox eine Graubox zu machen.
Die zweite Lösung ist der Regelabgleich. Der KI-Alarm wird automatisch mit Schwellenwerten und Expertenregeln abgeglichen und liefert den Nachweis: „Diese Anomalie entspricht der bekannten Regel X.“ Regeln sind erklärbar. Wenn der KI-Alarm auf eine Regel zurückgeführt wird, wird er für den Menschen verständlich.
Die dritte Lösung ist die Mensch-Maschine-Kooperation. Die Rolle der KI wird von „automatischer Entscheidung“ zu „Empfehlung mit Begründung“ geändert. Die endgültige Entscheidung und das Handeln obliegen weiterhin dem Menschen. Die KI liefert Alarm, Begründung und Empfehlung, der Mensch entscheidet. Das erhält die Frühwarnfähigkeit der KI und wahrt gleichzeitig die Prinzipien der Erklärbarkeit und Verantwortlichkeit. Bei Kelude Schwerindustrie werden die drei Lösungen nach Schweregrad des Alarms gestaffelt; bei Alarmen mit hohem Risiko ist die Mensch-Maschine-Kooperation verpflichtend.
Vom einzelnen Alarm zum erklärbaren System
Ein einzelner erklärbarer Alarm reicht nicht aus – er muss zu einem System ausgebaut werden. Der erste Schritt: Feature-Attribution und Regelabgleich werden zum Standardoutput für jeden Alarm. Jeder Alarm wird automatisch mit seiner Begründung geliefert.
Im zweiten Schritt werden Alarm und Begründung gemeinsam dokumentiert. Das Wartungspersonal kann bei einem Alarm die Begründung nachvollziehen und bei der späteren Analyse prüfen, warum der Alarm damals ausgelöst wurde. So wird der Alarm prüfbar. GB/T 28264-2017 „Sicherheitsüberwachungs- und Managementsystem für Hebezeuge“ fordert die Rückverfolgbarkeit von Betriebsdaten.
Im dritten Schritt werden die dokumentierten Daten für die Optimierung genutzt. Die gesammelten Alarme und die tatsächlichen Behandlungsergebnisse werden genutzt, um das Modell zu trainieren, sich selbst besser zu erklären – ein positiver Kreislauf. Kelude Schwerindustrie betrachtet „Alarm mit Begründung, Begründung rückverfolgbar“ als grundlegende Anforderung an ihr KI-Alarmsystem.
Übersicht: Erklärbarkeitslösungen und ihre Einsatzbereiche
| Lösungsansatz | Gelöste Problemstellung | Implementierungsaufwand | Einsatzbereiche |
|---|---|---|---|
| Feature-Attribution | Aufschlüsselung des AlarmbeitragsParameter | mittel | alleAIAlarm-Serienausstattung |
| Regelabgleich | Alarmzuordnung auf bekannte Regeln | niedrig | Szenario mit vollständiger Regelbasis |
| Mensch-Maschine-Kollaboration | AIEmpfehlungMenschliche Entscheidung | niedrig | Entscheidungsszenario mit Verantwortungsübernahme |
Schnellreferenz der Normenklauseln zur Erklärbarkeit
| Norm | Klauselkernpunkte | undErklärbarkeitBeziehung zu |
|---|---|---|
| ISO 24621 | KranKI-FehlerdiagnoseRahmenwerk | DiagnoseNachweisdokumentation |
| GB/T 28264 — Sicherheitsüberwachungs- und Managementsystem | SicherheitsüberwachungNachweisdokumentationAnforderungen | Alarmdatenrückverfolgbar |
| Vorschrift TSG 51 — Sicherheitstechnische Sondervorschrift für Sonderausrüstung-2023 | SicherheitsverriegelungÜberwachungAnforderungen | Sicherheitsmaßnahmen unabhängig vonAIEntscheidungsfindung |
Häufige Fragen zur Erklärbarkeit von KI
F: Wo beginne ich, wenn ein KI-Alarm keine klare Ursache nennt?
A: Zuerst die Rohdaten zum Alarmzeitpunkt prüfen und feststellen, welcher Parameter das Modell ausgelöst hat. Anschließend per Feature-Attribution den Alarmbeitrag auf die einzelnen Parameter aufschlüsseln, um zu sehen, welcher Parameter hauptsächlich abweicht. Abschließend die Ergebnisse mit bekannten Regeln abgleichen, um den KI-Alarm auf nachvollziehbare Regeln zurückzuführen. In drei Schritten wird aus einem scheinbar grundlosen Alarm ein fundierter Befund. Nicht vorschnell von einem Fehlalarm ausgehen – zuerst die Daten auswerten.
F: Woran erkenne ich, ob ein KI-Alarm echt oder falsch ist?
A: Entscheidend ist, ob der Alarm eine nachvollziehbare Grundlage hat und ob diese belastbar ist. Alarme mit Feature-Attribution, die sich auf bekannte Regeln zurückführen lassen und durch mehrere Parameter gestützt werden, sind vertrauenswürdig. Alarme ohne klare Begründung oder mit isolierten Einzelparameter-Abweichungen sind kritisch zu hinterfragen. Die endgültige Bewertung obliegt dem Menschen – der KI-Alarm ist lediglich eine begründete Empfehlung. Kern ist es, jedem Alarm ein „Warum“ beizufügen, damit echte Alarme erkannt und Fehlalarme herausgefiltert werden können.
F: Warum muss industrielle KI erklärbar sein?
A: Weil industrielle Entscheidungen Verantwortung tragen. Wenn das Wartungspersonal einen Alarm nicht nachvollziehen kann, wird es weder handeln noch melden – der Alarm wird ignoriert und die Frühwarnung der KI verpufft. Nur wenn ein Alarm eine nachvollziehbare und rückverfolgbare Grundlage hat, kann der Mensch seine Echtheit beurteilen und die Empfehlung annehmen. Erklärbarkeit ist keine technische Spielerei, sondern die Grundvoraussetzung dafür, dass industrielle KI Vertrauen gewinnt und in der Praxis ankommt.
Die Grundlage für Erklärbarkeit ist die KI-gestützte Diagnose selbst. Die Vorgehensweise bei der Fehlerdiagnose orientiert sich an den Methoden aus Anlagengesundheitsmanagement mit PHM: Big-Data- und ML-gestützte vorausschauende Wartung für Brückenkrane in der Ingenieurpraxis.
KI-Alarme werden nur dann akzeptiert, wenn sie ihre Gründe offenlegen. Kelude macht Feature-Attribution und Regelabgleich zum Standard für jeden Alarm – so ist jede Frühwarnung mit einer nachvollziehbaren Begründung und rückverfolgbarer Basis versehen. Die Blackbox wird zu einer Empfehlung, die das Wartungspersonal aktiv übernehmen kann.
