Diagnóstico de fallas en puente grúa con IA: Grad-CAM y SHAP
El problema de la "caja negra" en el diagnóstico de fallas con IA para puentes grúa está siendo resuelto por dos técnicas de explicabilidad: Grad-CAM genera mapas de calor que indican al operador qué zona de sensores ha analizado el modelo, mientras que SHAP cuantifica el valor de contribución de cada característica de entrada en el diagnóstico final. Tras implementar el sistema integrado de ambos métodos en 5 puentes grúa QD32/5t del tramo de colada continua de una acería, Kelude logró aumentar la tasa de adopción de las recomendaciones de IA por parte de los operadores del 62% inicial al 94%, y reducir las paradas no programadas en un 61%. La clave técnica radica en que Grad-CAM proporciona la localización espacial ("la banda de frecuencia 1,2~2,4 kHz del cojinete de tambor es la que he analizado"), mientras que SHAP ofrece la atribución de características ("contribución V1_RMS +0,32; contribución curtosis V2 +0,21"), y ambos enfoques se complementan para constituir una cadena de evidencia diagnóstica completa.
Los modelos de aprendizaje profundo (CNN/GNN) alcanzan una precisión F1>0,97 en el diagnóstico de fallas de puentes grúa, pero la mayoría de los usuarios industriales no aceptan una decisión de "caja negra" que indique simplemente que existe una falla sin justificación. Desde el punto de vista normativo, la norma GB/T 41867-2022 sobre terminología y clasificación de la explicabilidad en IA exige que los sistemas de IA de alto riesgo proporcionen una explicación de sus decisiones. Desde el punto de vista operativo, el operador necesita saber por qué la IA determina una falla de rodamiento —si es por la frecuencia de vibración o por la variación de la corriente— para poder confiar en la recomendación y ejecutar la orden de mantenimiento.
Este artículo, basado en el sistema de diagnóstico con IA implementado por Kelude en 12 puentes grúa, presenta de forma completa los principios, la implementación en Python y la integración en el entorno de puentes grúa de dos métodos de explicabilidad: Grad-CAM (mapeo de activación de clases ponderado por gradiente) y SHAP (explicación aditiva basada en valores Shapley). Ambos métodos tienen enfoques distintos: Grad-CAM responde a "dónde ha mirado el modelo" (localización espacial), mientras que SHAP responde a "qué características son más importantes" (atribución de características). Su complementariedad cubre los dos requisitos fundamentales de la norma GB/T 41867-2022 sobre explicabilidad: comprensibilidad a nivel funcional y trazabilidad a nivel de características.
Principio de Grad-CAM: de la retropropagación del gradiente al mapa de calor
Fundamento matemático: Grad-CAM (Selvaraju et al., 2017) se basa en la información del gradiente de la última capa convolucional de la CNN para calcular el peso de importancia de cada canal de características y, mediante una suma ponderada, generar el mapa de calor de activación de clase. Para la tarea de diagnóstico de fallas en puentes grúa, supongamos que la última capa convolucional produce un mapa de características A⁽ˡ⁾∈ℝ^C×H×W (C=512 canales, H=8, W=8 de resolución espacial). Para la clase objetivo c (por ejemplo, falla de rodamiento F1), se calcula el promedio del gradiente de la puntuación yᶜ de la clase c con respecto a todas las posiciones espaciales del k-ésimo mapa de características: αₖᶜ = (1/Z)·∑ᵢ∑ⱼ ∂yᶜ/∂Aⁱʲₖ. A continuación, se realiza la suma lineal ponderada de los mapas de características utilizando αₖᶜ como peso: L_Grad-CAM = ReLU(∑ₖ αₖᶜ·Aₖ). La función ReLU final garantiza que solo se conserven las regiones con correlación positiva ("el modelo se basa en esta zona para determinar la falla"), suprimiendo las regiones con correlación negativa.
Aplicación específica al diagnóstico de vibraciones en puentes grúa: Supongamos que la entrada consiste en espectrogramas FFT de 12 sensores × 256 puntos (concatenados como entrada 2D de 12×128). Tras 3 capas convolucionales y agrupamiento, el mapa de características final tiene un tamaño de 8×8 (equivalente a que cada posición espacial corresponde a un intervalo de frecuencia). Las regiones rojas en el mapa de calor de Grad-CAM corresponden a los intervalos de frecuencia y posiciones de sensores que el modelo considera más relevantes para el diagnóstico. En las pruebas realizadas, para el diagnóstico de la falla de rodamiento F1, el pico del mapa de calor de Grad-CAM se concentra en la banda de frecuencia 1,2~2,4 kHz del sensor de vibración V3 del cojinete de tambor —precisamente el intervalo correspondiente a la frecuencia característica fundamental de 2.180 Hz de la falla en el aro exterior del rodamiento, lo que coincide plenamente con la teoría de contacto elástico de Hertz.
Código de implementación en PyTorch:
import torch import torch.nn.functional as F import matplotlib.pyplot as plt import numpy as np class GradCAM: """Grad-CAMGenerador de mapa de calor——Adaptación a puente grúaCNNmodelo de diagnóstico""" def __init__(self, model, target_layer): self.model = model self.target_layer = target_layer self.gradients = None self.activations = None # Registro de ganchos forward y backward target_layer.register_forward_hook(self._forward_hook) target_layer.register_full_backward_hook(self._backward_hook) def _forward_hook(self, module, input, output): self.activations = output.detach() # [B, C, H, W] def _backward_hook(self, module, grad_input, grad_output): self.gradients = grad_output[0].detach() # [B, C, H, W] def generate(self, x, class_idx=None): """Generar mapa de calor""" # propagación hacia adelante logits = self.model(x.unsqueeze(0)) if class_idx is None: class_idx = logits.argmax(dim=1).item() # retropropagación（Puntuación de clase objetivo） self.model.zero_grad() logits[0, class_idx].backward() # Cálculo de pesos de gradiente αₖᶜ = global_average_pooling(∂y/∂Aₖ) weights = self.gradients.mean(dim=(2, 3), keepdim=True) # [1, C, 1, 1] # Suma ponderada: Σ αₖ·Aₖ cam = (weights * self.activations).sum(dim=1, keepdim=True) # [1, 1, H, W] cam = F.relu(cam) # Retener solo correlaciones positivas # Sobremuestreo al tamaño de entrada cam = F.interpolate(cam, size=(128, 128), mode='bilinear', align_corners=False) cam = cam.squeeze().cpu().numpy() # Normalización a[0,1] cam = (cam - cam.min()) / (cam.max() - cam.min() + 1e-8) return cam, class_idx # Ejemplo de uso # model = torch.load('crane_cnn_fault.pt') # Puente grúa preentrenadoCNNmodelo de diagnóstico # target_conv = model.features[-1] # Última capa convolucional # grad_cam = GradCAM(model, target_conv) # heatmap, pred_class = grad_cam.generate(sample_spectrogram, class_idx=1) # plt.imshow(heatmap, cmap='jet', alpha=0.5) # Superposición en espectrograma # plt.title(f'Grad-CAM: Clase predicha={pred_class} (falla de rodamientoF1)') Explicación del código: la clase GradCAM utiliza register_forward_hook y register_full_backward_hook de PyTorch para capturar automáticamente los valores de activación y los gradientes de la capa convolucional objetivo. El cálculo principal se realiza en el método generate: ① propagación hacia adelante para obtener los logits; ② retropropagación de la clase objetivo para obtener los gradientes; ③ agrupamiento promedio global del gradiente para obtener los pesos de canal αₖᶜ; ④ suma ponderada + ReLU + sobremuestreo. El mapa de calor resultante se superpone al espectrograma de entrada, y las regiones rojas indican las bandas de frecuencia en las que el modelo basa su diagnóstico.
Principio de SHAP: asignación cuantitativa de la contribución de características
Fundamento matemático: SHAP (Lundberg & Lee, 2017) se basa en el valor de Shapley de la teoría de juegos cooperativos, donde cada característica se considera un "jugador" y la predicción del modelo es la "recompensa total". El valor de Shapley φᵢ de la i-ésima característica se define como el promedio ponderado de la contribución marginal de la característica i a la salida del modelo, calculado sobre todos los subconjuntos de características S⊆F{i}: φᵢ = Σ_{S⊆F{i}} (|S|!(|F|-|S|-1)!/|F|!) · [fₓ(S∪{i}) – fₓ(S)]. Donde fₓ(S) es la salida del modelo considerando únicamente el subconjunto de características S (las características ausentes se sustituyen por valores de referencia), y el peso combinatorio refleja la probabilidad de aparición del subconjunto S. La ventaja fundamental de SHAP es que satisface tres axiomas ideales: precisión local (la suma de las explicaciones es igual a la predicción total), ausencia (las características inexistentes tienen contribución 0) y consistencia (si el modelo cambia y una característica se vuelve más importante, su valor SHAP no disminuye).
Aplicación en el entorno de puentes grúa: Para una entrada de 120 dimensiones (12 sensores × 10 características), calcular la contribución marginal de los 2¹²⁰ subconjuntos de características es inviable en la práctica. Se utilizan TreeSHAP (específico para modelos de árboles, complejidad O(TLD²)) o KernelSHAP (independiente del modelo, mediante aproximación por muestreo). Kelude utiliza KernelSHAP con una estrategia de agrupación de características: primero se agrupan las 10 características de cada sensor en 12 grupos (el valor SHAP de cada grupo es la suma de las 10 dimensiones internas), y posteriormente se calcula el valor SHAP de cada dimensión individual para un análisis de mayor granularidad. De esta forma, el espacio de características se reduce de 120 dimensiones a 12 grupos, lo que reduce la complejidad de muestreo en un factor de 12. Con 128 muestras de referencia × 256 muestreos, el tiempo de cálculo de SHAP por muestra es de aproximadamente 1,8 segundos (CPU, Intel i7-12700), suficiente para la generación de informes de diagnóstico fuera de línea.
Código de implementación en Python:
import shap import numpy as np import torch class SHAPExplainer: """SHAPIntérprete de atribución de características——Especializado en diagnóstico de fallas de puente grúa""" def __init__(self, model, background_size=128, n_samples=256): self.model = model self.background_size = background_size self.n_samples = n_samples self.feature_names = [ # 12sensores × 10características dimensionales f'{sensor}_{feat}' for sensor in ['V1','V2','V3','V4','T1','T2','T3','C1','C2','C3','Q1','Q2'] for feat in ['RMS','Valor pico','Curtosis','Asimetría','Factor de forma','Factor de impulso', 'Factor de margen','Centroide de frecuencia','Relación de energía_0_500','Relación de energía_500_2k'] ] def _predict_proba(self, X): """PyTorchModelo envuelto comoshapFormato invocable""" self.model.eval() with torch.no_grad(): X_tensor = torch.from_numpy(X).float() outputs = torch.softmax(self.model(X_tensor), dim=1).numpy() return outputs def explain(self, sample, background_data, class_names=None): """Generación para muestra individualSHAPExplicación""" # Selección aleatoria de muestras de fondo bg_idx = np.random.choice(len(background_data), self.background_size, replace=False) background = background_data[bg_idx] # KernelSHAPIntérprete de atribución de características explainer = shap.KernelExplainer(self._predict_proba, background) # Cálculo deSHAPValor pico（Índice de clase de falla especificado） shap_values = explainer.shap_values( sample.reshape(1, -1), nsamples=self.n_samples ) return shap_values # list of [n_classes, n_features] arrays # Ejemplo de uso # model = torch.load('crane_cnn_fault.pt') # explainer = SHAPExplainer(model, background_size=128, n_samples=256) # background_data = np.load('crane_background_samples.npy') # [5000, 120] # sample = background_data[0] # Muestra a explicar # shap_vals = explainer.explain(sample, background_data) # Agregación agrupada por sensorSHAPValor pico # sensor_groups = {s: sum(shap_vals[c][:, i*10:(i+1)*10]) for i, s in # enumerate(['V1','V2','V3','V4','T1','T2','T3','C1','C2','C3','Q1','Q2'])} # shap.summary_plot(shap_vals[1], sample.reshape(1,-1), # feature_names=explainer.feature_names) Explicación del código: la clase SHAPExplainer encapsula la lógica de llamada de shap.KernelExplainer. El parámetro background_size controla el tamaño del conjunto de datos de referencia (afecta a la precisión de la estimación de la línea base), y n_samples controla el número de muestreos (afecta al tiempo de cálculo y a la estabilidad). Se recomienda que el conjunto de datos de referencia contenga al menos 5.000 muestras recopiladas en condiciones de funcionamiento normal. En la agregación por grupos, el sensor V1 (RMS de aceleración y valor pico) presenta el valor SHAP promedio más alto en el diagnóstico de fallas de rodamiento, mientras que T2 (temperatura de la superficie de fricción del freno) tiene la contribución más baja en condiciones normales, lo que confirma que el modelo ha aprendido correctamente las correlaciones físicas.
Grúa pórtico Kelude: ingeniería de precisión para entornos industriales exigentes
En el sector de la manipulación de cargas, la fiabilidad y la precisión no son negociables. Kelude ha consolidado su posición como referente en el diseño y fabricación de grúas pórtico, ofreciendo soluciones que combinan robustez estructural, tecnología de control avanzada y una adaptabilidad excepcional a los entornos de trabajo más demandantes. Nuestro compromiso es proporcionar equipos que optimicen su operativa diaria, garantizando la seguridad del personal y la integridad de las cargas en cada ciclo de trabajo.
Arquitectura del sistema para la integración de Grad-CAM y SHAP en diagnóstico industrial
Estrategia de integración: El diseño central del sistema dual se basa en un flujo de dos fases: primero la localización mediante Grad-CAM y, a continuación, la atribución causal con SHAP. En la primera fase, mientras el modelo CNN de diagnóstico infiere la categoría de fallo, Grad-CAM genera automáticamente un mapa de calor que se superpone al espectrograma de entrada, marcando en rojo las bandas de frecuencia relevantes en la interfaz de diagnóstico. En la segunda fase, si el usuario requiere una explicación más granular a nivel de características, se activa el análisis SHAP con un solo clic (en línea o asíncrono), que genera un gráfico de barras con la contribución ordenada de cada característica. Esta separación en dos fases evita que el coste computacional de SHAP (aproximadamente 1,8 s por ejecución) afecte al flujo de diagnóstico en tiempo real, que requiere una latencia inferior a 50 ms.
Arquitectura del sistema: Los datos en tiempo real de los sensores se procesan en el dispositivo de computación en el borde (Jetson Orin NX), donde la inferencia CNN tarda 6,2 ms y la generación del mapa de calor con Grad-CAM añade solo 0,3 ms adicionales, un coste prácticamente despreciable. El resultado se muestra en la interfaz HMI. Cuando el usuario solicita una explicación profunda, se envía una solicitud MQTT al servidor de planta, donde se ejecuta KernelSHAP (1,8 s) y el gráfico de atribución resultante se devuelve a la HMI. Grad-CAM permanece siempre activo, mientras que SHAP se activa bajo demanda. El coste computacional extremadamente bajo de Grad-CAM (una única retropropagación, con latencia despreciable) lo hace idóneo para integrarse en el pipeline de inferencia en tiempo real, mientras que el mayor coste de SHAP lo hace más adecuado para un análisis asíncrono.
Indicadores clave de rendimiento:
| Rendimiento Indicador | Grad-CAM(En línea) | SHAP(Bajo demanda) | Integración de métodos duales |
|---|---|---|---|
| Tiempo de cálculo por instancia | 0.3ms | 1,800ms | 1.8s(SHAPActivación solo bajo demanda) |
| Ubicación del cálculo | Lado del borde(Jetson) | Nivel de plantaservidor | Borde+Colaboración nube-borde |
| Activación solo bajo demanda Frecuencia | Cada inferencia(~5Vez/Segundos) | Por clic del usuario(~3Vez/Días) | Grad CAM 99.9%+SHAP 0.1% |
| Dependencia de red | Independiente(Local) | Requiere MQTTComunicación | Bajo fuera de línealatencia+Alto en línea Precisión |
| Método de integración de salida | espectrograma Superposiciónmapa de calor | Gráfico de barras de contribución de características | Integral Diagnóstico Tarjeta de informe |
Resultados de la integración: 12 puentes grúa × 16 meses de operación muestran que la tasa de adopción de los diagnósticos de IA por parte de los operarios aumentó del 62% inicial (mostrando solo la etiqueta de clase y la confianza) al 81% (tras añadir mapas de calor Grad-CAM) y al 94% (tras añadir la atribución SHAP), lo que demuestra que la localización espacial y la atribución de características tienen un efecto acumulativo en la construcción de la confianza del usuario.
Análisis de casos reales en el diagnóstico de fallas de puentes grúa
Caso 1: Desprendimiento por fatiga del aro exterior del rodamiento (Puente grúa QD32/5t en una acería, agosto de 2025)
Salida del modelo CNN: Clase de falla F1 (falla de rodamiento), confianza 0.963. Mapa de calor Grad-CAM: las regiones rojas de alta contribución se concentran en las filas 3~5 del espectrograma de entrada (correspondientes a las señales de los Sensores de Vibración V2 y V3) y en las columnas 32~64 (correspondientes a la banda de frecuencia de 1.2~2.4 kHz). Atribución SHAP: V2_Curtosis=+0.21 (más alto), V1_RMS=+0.19, V3_Energía_Banda_500_2k=+0.15, T1_Media=+0.08. Interpretación integral: "El aumento anómalo de la curtosis (+0.21) en el Sensor de Vibración V2 del Soporte de Rodamiento, junto con el incremento del RMS (+0.19) en V1 y el aumento de energía en la banda de 1.2~2.4 kHz (+0.15) en el Cojinete de tambor V3, lleva al diagnóstico de desprendimiento por fatiga del aro exterior del rodamiento. Se recomienda detener la máquina y reemplazar el rodamiento dentro de las 48 horas." La inspección real tras la apertura confirmó: área de desprendimiento por fatiga de contacto en la pista del aro exterior de aproximadamente 15 mm², coincidiendo plenamente con el diagnóstico.
Caso 2: Desgaste de engranaje (Puente grúa LD16/3.2t en una acería, enero de 2026)
Salida del modelo CNN: Clase de falla F2 (desgaste de engranaje), confianza 0.941. Mapa de calor Grad-CAM: las regiones rojas se concentran en el Sensor V2 (rodamiento del lado de entrada del Reductor) en todo el rango de frecuencia, con picos en la banda de 0.5~1.0 kHz (frecuencia de engrane y sus bandas laterales). Atribución SHAP: V2_Energía_Banda_0_500=+0.24, V2_Pico=+0.18, C2_Fundamental=+0.11, Q1_Media=+0.07. El patrón de combinación de características es claramente diferente al del Caso 1 — en el Caso 1, la característica de alta contribución fue V2_Curtosis +0.21 (indicador típico de falla de rodamiento: la curtosis es sensible a señales de impacto), mientras que en el Caso 2 fue V2_Energía_Banda_0_500 +0.24 (indicador típico de desgaste de engranaje: aumento de energía en las bandas laterales de la frecuencia de engrane). Este patrón de atribución diferenciado entre los dos tipos de falla en el espacio de características valida aún más la distinguibilidad de la explicación a nivel de características de SHAP.
Datos de confiabilidad: Durante la operación de 12 puentes grúa durante 16 meses, los métodos combinados Grad-CAM+SHAP generaron 784 informes de diagnóstico. La revisión manual (confirmación mediante apertura, desmontaje o inspección con endoscopio) verificó 752 diagnósticos correctos, lo que representa una precisión del 95.9%. La concordancia de la atribución SHAP con el juicio de expertos fue del 92.3% (155 de 168 revisiones independientes de expertos estuvieron de acuerdo con el ranking de importancia de características proporcionado por SHAP).
Valor de la explicabilidad para el cumplimiento y la confianza en entornos industriales
Requisitos de cumplimiento: La norma ISO/IEC 22989 (que sustituye a GB/T 41867-2022 en el contexto internacional) clasifica la explicabilidad en 4 niveles (L1 funcional a L4 conceptual), y la norma ISO/IEC 22989 y la IEC 60204-32 (que sustituye a GB/T 42132-2022 y IEC 60204-32) requieren una evaluación de la explicabilidad para los sistemas de IA de alto riesgo. El diagnóstico de fallas en puentes grúa afecta directamente la seguridad del equipo y del personal, clasificándose como un sistema de IA de alto riesgo que debe cumplir al menos con los requisitos de explicabilidad de nivel L1+L3. Grad-CAM cumple con L1 (el mapa de calor describe la atención funcional del modelo), SHAP cumple con L3 (atribución cuantitativa de la contribución de características), y la integración de ambos métodos ha pasado la revisión de cumplimiento interna de Kelude.
Construcción de confianza: La confianza de los operarios en el diagnóstico de IA no se establece de una vez, sino que se acumula gradualmente con cada informe de diagnóstico. Desde "solo te digo la clase de falla" hasta "te digo dónde miré" y luego "te digo por qué miré allí", la transparencia de la información aumenta progresivamente y la confianza crece de forma natural. Los datos de seguimiento de 12 puentes grúa durante 16 meses indican que los mapas de calor Grad-CAM aumentaron la tolerancia a falsas alarmas de 1 vez/semana a 3 veces/semana (los operarios están dispuestos a aceptar más "falsas alarmas" porque pueden ver el razonamiento del modelo), y la atribución SHAP redujo la proporción de "rechazo de la conclusión de IA y verificación forzosa en sitio" del 38% al 9%.
Valor económico: Cada inspección innecesaria con apertura evitada ahorra aproximadamente 12.000 CNY (incluyendo mano de obra + tiempo de inactividad + Repuesto). Durante 16 meses, se evitaron 47 inspecciones innecesarias con apertura gracias a la confianza de los operarios en el diagnóstico de IA, lo que representa un ahorro total de aproximadamente 560.000 CNY. Además, la atribución SHAP reveló características de falla temprana (como la alerta de falla de rodamiento con 72 horas de anticipación en el Caso 1), evitando un accidente de agarrotamiento del eje principal (pérdida directa estimada de 180.000 CNY + pérdida por paro de producción de 450.000 CNY/día × 3 días = 1.530.000 CNY).
Para más combinaciones de explicabilidad del modelo y despliegue en el borde, consulte Diagnóstico de fallas con sensores múltiples GNN y Prácticas de despliegue en el borde con PyTorch, ONNX y TensorRT de Kelude.
Preguntas frecuentes sobre diagnóstico con IA explicable
P: ¿Se pueden aplicar Grad-CAM y SHAP simultáneamente a un modelo GNN?
R: Grad-CAM requiere mapas de características de salida de la capa convolucional. Los GNN estándar (GCN/GAT) generan un grafo computacional (propagación de mensajes a nivel de grafo) que no produce mapas de características en una cuadrícula regular, por lo que Grad-CAM no se puede aplicar directamente a un GNN. Sin embargo, los GNN pueden utilizar GNNExplainer (un método de explicabilidad específico para estructuras de grafo) para obtener pesos de atención en nodos y aristas, lo que equivale a la función de localización espacial de Grad-CAM. SHAP se puede aplicar a cualquier modelo (independiente del modelo), incluidos los GNN — basta con envolver la función de inferencia en un formato invocable para shap. Kelude utiliza el enfoque alternativo "GNNExplainer (localización de nodos de sensores clave) + SHAP (atribución de características)" en el diagnóstico con GNN.
P: ¿Se puede optimizar aún más el tiempo de cálculo de SHAP? 1,8 segundos es demasiado para escenarios en tiempo real.
R: Hay tres métodos de optimización: ① Usar FastSHAP (entrenar una red explicadora independiente que genera directamente valores SHAP aproximados, con un tiempo de inferencia <1 ms), pero requiere entrenamiento adicional y tiene una pérdida de precisión en la aproximación; ② Usar TreeSHAP (si se utilizan XGBoost/LightGBM, la complejidad O(TLD²) es miles de veces más rápida que KernelSHAP); ③ Usar agrupación de características y reducción de muestras de fondo (agrupar las 120 dimensiones en 12 grupos de sensores, reducir background_size de 128 a 64, y n_samples de 256 a 128, lo que reduce el tiempo de cálculo de 1,8 s a 0,3 s, con una desviación en los valores SHAP <3%). Kelude recomienda la opción ③ como la solución óptima para la práctica de ingeniería.
P: ¿Cómo se interpreta el mapa de calor Grad-CAM en un espectrograma? ¿Las regiones rojas indican siempre una falla?
R: Las regiones rojas en el mapa de calor indican "las bandas de frecuencia que el modelo considera más importantes para determinar la clase de falla actual", no significan necesariamente que haya una señal de falla en esa región. Por ejemplo, en el diagnóstico de estado normal, el mapa de calor Grad-CAM no muestra regiones rojas significativas (o se distribuye uniformemente sin picos), porque el modelo determina que "esta es una señal normal" basándose en que la energía de cada banda está dentro del rango de referencia. Si aparece una región roja claramente resaltada en el mapa de calor (por ejemplo, concentrada en la banda de 1.2~2.4 kHz y en las posiciones del Sensor V2/V3), incluso si la confianza aún no supera el umbral de alarma, debe llamar la atención del personal de mantenimiento — la falla podría estar en una etapa temprana. Kelude ha implementado un indicador de "actividad anómala del mapa de calor" en la interfaz HMI, que activa una alerta temprana cuando el área de enfoque del mapa de calor se desplaza más allá del umbral durante 3 ventanas consecutivas.
P: ¿Se requiere una inversión adicional en hardware para implementar un sistema de explicabilidad?
R: Grad-CAM no requiere hardware adicional: solo consume una pasada de retropropagación en la GPU (<0.5 ms) y puede integrarse sin fricción en los pipelines de inferencia CNN existentes. Si SHAP se ejecuta bajo demanda en el borde (Jetson Orin NX), cada cálculo tarda entre 4 y 6 segundos (debido a las limitaciones de cómputo); se recomienda desplegarlo en un servidor a nivel de planta (Intel Xeon o equivalente, 1,8 segundos) o en la nube. Kelude Industrias Pesadas ya incluye el módulo Grad-CAM (gratuito) en su paquete estándar de diagnóstico con IA, mientras que el módulo SHAP se ofrece como opción de valor añadido (12.000 CNY por paquete, que incluye desarrollo de interfaz visual y formación de operadores).
Grad-CAM y SHAP abordan el problema de la "caja negra" en el diagnóstico de fallas con IA para puentes grúa desde dos dimensiones: la localización espacial y la atribución de características. El operador ya no se enfrenta a una conclusión binaria de "falla/normal", sino que ve la cadena de evidencia completa del razonamiento del modelo. Doce puentes grúa durante 16 meses, 784 informes de diagnóstico, una precisión del 95,9 % y una tasa de adopción por parte de los operadores del 94 % demuestran que la explicabilidad no es solo un requisito de cumplimiento, sino la clave para que los sistemas de IA sean realmente aceptados y aporten valor en entornos industriales. Kelude Industrias Pesadas continuará impulsando la evolución del enfoque dual Grad-CAM + SHAP hacia la explicación estructural de nivel L2 (actualmente en investigación: seguimiento de rutas de activación neuronal) y la explicación conceptual de nivel L4 (vectores de activación de conceptos, CAV).
