Модели глубокого обучения (CNN/GNN) достигают точности F1 > 0,97 в диагностике неисправностей кранов, однако большинство промышленных пользователей не готовы принимать решения на основе «чёрного ящика», который просто сообщает о наличии дефекта. С точки зрения соответствия требованиям, ГОСТ Р 59277-2020 (аналог GB/T 41867-2022) предписывает предоставлять объяснения для систем ИИ высокого риска. С практической точки зрения оператору необходимо понимать, почему система диагностировала повреждение подшипника — из-за изменения характерной частоты вибрации или формы тока, — чтобы доверять рекомендациям и выполнять обслуживание.

В этой статье на основе опыта внедрения диагностической системы «Келуде Тяжёлая Промышленность» на 12 мостовых кранах подробно разбираются принципы работы, реализация на Python и интеграция в кран двух основных методов объяснимого ИИ: Grad-CAM (градиентно-взвешенное отображение активации классов) и SHAP (Shapley-аддитивные объяснения). Методы решают разные задачи: Grad-CAM отвечает на вопрос «куда смотрит модель» (пространственная локализация), а SHAP — «какие признаки наиболее важны» (атрибуция признаков). Вместе они покрывают два ключевых требования к объяснимости: понятность на функциональном уровне и прослеживаемость на уровне признаков.

---

Принцип Grad-CAM: от градиентов свёрточной сети к тепловой карте

Математическая основа: Основная идея Grad-CAM (Selvaraju et al., 2017) заключается в использовании градиентов последнего свёрточного слоя CNN для вычисления весов важности каждого канала признаков и последующего взвешенного суммирования для получения карты активации классов. Для задачи диагностики крана предположим, что последний свёрточный слой выдаёт карту признаков A⁽ˡ⁾∈ℝ^C×H×W (C=512 каналов, H=8, W=8 — пространственное разрешение). Для целевого класса c (например, повреждение подшипника F1) сначала вычисляется средний градиент оценки yᶜ по всем пространственным позициям для каждого канала k: αₖᶜ = (1/Z)·∑ᵢ∑ⱼ ∂yᶜ/∂Aⁱʲₖ. Затем карты признаков линейно суммируются с весами αₖᶜ: L_Grad-CAM = ReLU(∑ₖ αₖᶜ·Aₖ). Функция ReLU в конце гарантирует сохранение только положительно коррелированных областей («модель смотрит сюда для постановки диагноза»), подавляя отрицательные.

Интерпретация применительно к вибрационной диагностике крана: Предположим, входные данные — спектрограммы БПФ от 12 датчиков × 256 точек (объединённые во входное изображение 12×128). После трёх свёрточных слоёв и пулинга размер карты признаков последнего слоя составляет 8×8 (каждая пространственная позиция соответствует определённому частотному диапазону). Красные зоны на тепловой карте Grad-CAM соответствуют наиболее значимым, по мнению модели, частотным диапазонам и позициям датчиков. В ходе испытаний при диагностике повреждения подшипника F1 пик тепловой карты Grad-CAM приходился на полосу 1,2–2,4 кГц датчика вибрации V3, установленного на опорном подшипнике барабана. Эта полоса соответствует характерной частоте 2 180 Гц — основной частоте дефекта наружного кольца подшипника качения, что полностью согласуется с теорией упругого контакта Герца.

Реализация на PyTorch:

 import torch import torch.nn.functional as F import matplotlib.pyplot as plt import numpy as np class GradCAM: """Grad-CAMГенератор тепловой карты——Адаптация для мостового кранаCNNдиагностическая модель""" def __init__(self, model, target_layer): self.model = model self.target_layer = target_layer self.gradients = None self.activations = None # Регистрация прямых и обратных хуков target_layer.register_forward_hook(self._forward_hook) target_layer.register_full_backward_hook(self._backward_hook) def _forward_hook(self, module, input, output): self.activations = output.detach() # [B, C, H, W] def _backward_hook(self, module, grad_input, grad_output): self.gradients = grad_output[0].detach() # [B, C, H, W] def generate(self, x, class_idx=None): """Генерация тепловой карты""" # прямое распространение logits = self.model(x.unsqueeze(0)) if class_idx is None: class_idx = logits.argmax(dim=1).item() # обратное распространение（Оценка целевого класса） self.model.zero_grad() logits[0, class_idx].backward() # Вычисление градиентных весов αₖᶜ = global_average_pooling(∂y/∂Aₖ) weights = self.gradients.mean(dim=(2, 3), keepdim=True) # [1, C, 1, 1] # Взвешенное суммирование: Σ αₖ·Aₖ cam = (weights * self.activations).sum(dim=1, keepdim=True) # [1, 1, H, W] cam = F.relu(cam) # Сохранение только положительных корреляций # Апсемплинг до размера входных данных cam = F.interpolate(cam, size=(128, 128), mode='bilinear', align_corners=False) cam = cam.squeeze().cpu().numpy() # Нормализация до[0,1] cam = (cam - cam.min()) / (cam.max() - cam.min() + 1e-8) return cam, class_idx # Пример использования # model = torch.load('crane_cnn_fault.pt') # Предобученный мостовой кранCNNдиагностическая модель # target_conv = model.features[-1] # Последний свёрточный слой # grad_cam = GradCAM(model, target_conv) # heatmap, pred_class = grad_cam.generate(sample_spectrogram, class_idx=1) # plt.imshow(heatmap, cmap='jet', alpha=0.5) # Наложение на спектрограмму # plt.title(f'Grad-CAM: Прогнозируемый класс={pred_class} (повреждение подшипникаF1)') 

Пояснение к коду: класс GradCAM автоматически захватывает активации и градиенты целевого свёрточного слоя с помощью register_forward_hook и register_full_backward_hook. Основные вычисления выполняются в методе generate: ① прямое распространение для получения logits; ② обратное распространение для целевого класса; ③ глобальный средний пулинг градиентов для получения весов каналов αₖᶜ; ④ взвешенное суммирование + ReLU + апсемплинг. Итоговая тепловая карта накладывается на входную спектрограмму; красные зоны указывают частотные полосы, на основании которых модель вынесла диагноз.

---

Принцип SHAP: количественное распределение вклада признаков через значения Шепли

Математическая основа: SHAP (Lundberg & Lee, 2017) основан на значениях Шепли из теории кооперативных игр. Каждый признак рассматривается как «игрок», а прогноз модели — как «общий выигрыш». Значение Шепли φᵢ для i-го признака определяется как взвешенное среднее маргинального вклада признака i при добавлении к каждому подмножеству признаков S⊆F{i}: φᵢ = Σ_{S⊆F{i}} (|S|!(|F|-|S|-1)!/|F|!) · [fₓ(S∪{i}) – fₓ(S)]. Здесь fₓ(S) — выход модели только на подмножестве признаков S (отсутствующие признаки заменяются базовыми значениями), а весовой коэффициент отражает вероятность появления подмножества S. Ключевое преимущество SHAP — выполнение трёх идеальных аксиом: локальная точность (сумма объяснений равна общему прогнозу), отсутствие (несуществующий признак имеет нулевой вклад) и согласованность (если изменение модели повышает важность признака, его значение SHAP не уменьшается).

Применение в сценарии мостового крана: Для входного вектора из 120 признаков (12 датчиков × 10 признаков) вычисление маргинальных вкладов для всех 2¹²⁰ подмножеств невозможно. На практике используются TreeSHAP (для древовидных моделей, сложность O(TLD²)) или KernelSHAP (модель-агностический метод, аппроксимация через выборку). «Келуде Тяжёлая Промышленность» применяет KernelSHAP со стратегией группировки признаков: сначала 10 признаков каждого датчика объединяются в 12 групп (значение SHAP группы = сумма 10 признаков), затем вычисляются значения SHAP для отдельных признаков внутри группы для детального анализа. Это снижает размерность пространства признаков со 120 до 12 групп, уменьшая сложность выборки в 12 раз. При использовании 128 фоновых образцов и 256 выборок время расчёта SHAP для одного образца составляет около 1,8 секунды (CPU, Intel i7-12700), что достаточно для генерации офлайн-отчётов диагностики.

Реализация на Python:

 import shap import numpy as np import torch class SHAPExplainer: """SHAPИнтерпретатор атрибуции признаков——Специализированный для диагностики неисправностей мостового крана""" def __init__(self, model, background_size=128, n_samples=256): self.model = model self.background_size = background_size self.n_samples = n_samples self.feature_names = [ # 12датчиков × 10мерных признаков f'{sensor}_{feat}' for sensor in ['V1','V2','V3','V4','T1','T2','T3','C1','C2','C3','Q1','Q2'] for feat in ['RMS','Пиковое значение','Эксцесс','Асимметрия','Коэффициент формы','Импульсный коэффициент', 'Коэффициент запаса','Центр тяжести частоты','Энергетическое отношение_0_500','Энергетическое отношение_500_2k'] ] def _predict_proba(self, X): """PyTorchУпаковка модели вshapвызываемый формат""" self.model.eval() with torch.no_grad(): X_tensor = torch.from_numpy(X).float() outputs = torch.softmax(self.model(X_tensor), dim=1).numpy() return outputs def explain(self, sample, background_data, class_names=None): """Генерация для одного образцаSHAPОбъяснение""" # Случайный выбор фоновых образцов bg_idx = np.random.choice(len(background_data), self.background_size, replace=False) background = background_data[bg_idx] # KernelSHAPИнтерпретатор атрибуции признаков explainer = shap.KernelExplainer(self._predict_proba, background) # ВычислениеSHAPПиковое значение（Указание индекса класса неисправности） shap_values = explainer.shap_values( sample.reshape(1, -1), nsamples=self.n_samples ) return shap_values # list of [n_classes, n_features] arrays # Пример использования # model = torch.load('crane_cnn_fault.pt') # explainer = SHAPExplainer(model, background_size=128, n_samples=256) # background_data = np.load('crane_background_samples.npy') # [5000, 120] # sample = background_data[0] # Образец для объяснения # shap_vals = explainer.explain(sample, background_data) # Агрегация по группам датчиковSHAPПиковое значение # sensor_groups = {s: sum(shap_vals[c][:, i*10:(i+1)*10]) for i, s in # enumerate(['V1','V2','V3','V4','T1','T2','T3','C1','C2','C3','Q1','Q2'])} # shap.summary_plot(shap_vals[1], sample.reshape(1,-1), # feature_names=explainer.feature_names) 

Пояснение к коду: класс SHAPExplainer инкапсулирует логику вызова shap.KernelExplainer. Параметр background_size определяет размер фонового набора данных (влияет на точность оценки базового значения), n_samples — количество выборок (влияет на время вычислений и устойчивость). Рекомендуется собирать фоновый набор данных в количестве ≥5 000 образцов в условиях нормальной работы. При групповом агрегировании датчик V1 (среднеквадратичное значение ускорения и пиковое значение) имеет наибольшее среднее значение SHAP при диагностике повреждения подшипника, в то время как T2 (температура поверхности трения тормоза) имеет наименьший вклад в нормальном состоянии. Это подтверждает, что модель корректно выявила физические взаимосвязи.

Козловой кран Kelude: обзор и технические характеристики

Козловые краны — это незаменимое оборудование для погрузочно-разгрузочных работ на открытых площадках, складах и производственных цехах. В этой статье мы подробно рассмотрим конструктивные особенности, сферы применения и ключевые параметры козловых кранов производства компании «Келуде» (Kelude), одного из ведущих китайских производителей подъёмно-транспортного оборудования.

Конструкция и преимущества козлового крана

Козловой кран представляет собой мостовую конструкцию, установленную на две опорные стойки, которые перемещаются по рельсовым путям. Такая схема обеспечивает высокую устойчивость и позволяет обслуживать значительные по площади зоны. Основные преимущества данного типа кранов:

• Высокая грузоподъёмность — способность поднимать и перемещать грузы массой от нескольких тонн до десятков тонн.
• Большая зона обслуживания — благодаря перемещению по рельсам кран может охватывать всю площадь склада или производственного участка.
• Универсальность — возможность использования с различными грузозахватными приспособлениями: крюками, грейферами, траверсами, магнитами.
• Простота управления — управление краном может осуществляться из кабины, с пола с помощью подвесного пульта или дистанционно.
• Надёжность и долговечность — конструкция рассчитана на интенсивную эксплуатацию в тяжёлых условиях.

Основные технические параметры козловых кранов

При выборе козлового крана необходимо учитывать ряд ключевых характеристик, которые определяют его производительность и соответствие конкретным задачам. Рассмотрим их подробнее.

Параметр	Описание
Грузоподъёмность	Номинальная масса груза, который кран может поднять. Для козловых кранов Kelude обычно составляет от 5 до 50 тонн.
Пролёт	Расстояние между осями подкрановых путей (рельсов). Может варьироваться от 10 до 40 метров в зависимости от модели.
Высота подъёма	Максимальная высота, на которую кран может поднять груз. Обычно составляет от 6 до 18 метров.
Скорость подъёма	Скорость вертикального перемещения груза. Для кранов Kelude — от 0,5 до 8 м/мин.
Скорость передвижения крана	Скорость перемещения крана по рельсам. Обычно составляет 20–40 м/мин.
Режим работы	Класс нагружения по ISO 4301 / FEM 1.001 (например, A5, A6), определяющий интенсивность эксплуатации.

Сферы применения козловых кранов

Благодаря своей универсальности, козловые краны нашли широкое применение в различных отраслях промышленности и строительства. Вот лишь несколько примеров:

• Строительство — монтаж сборных конструкций, подача строительных материалов, бетонных смесей.
• Складская логистика — погрузка и разгрузка контейнеров, перемещение тяжёлых грузов на открытых складах.
• Производство ЖБИ — перемещение форм, опалубки и готовых железобетонных изделий.
• Металлургия — обслуживание складов металлопроката, перемещение слитков и заготовок.
• Энергетика — монтаж и обслуживание оборудования на гидроэлектростанциях и ТЭЦ.
• Судостроение и судоремонт — перемещение секций корпуса, оборудования и материалов на стапелях.

Козловой кран Kelude: надёжность и качество

Компания «Келуде» (Kelude) зарекомендовала себя как производитель высококачественного подъёмно-транспортного оборудования, соответствующего международным стандартам. Козловые краны Kelude отличаются:

• Применением высокопрочных сталей для несущих конструкций, что обеспечивает лёгкость и прочность.
• Использованием комплектующих ведущих мировых брендов (электроника, редукторы, тормозные системы).
• Соблюдением стандартов безопасности в соответствии с ISO 12480 и IEC 60204-32.
• Гибкостью настройки — возможность изготовления крана по индивидуальным требованиям заказчика (по пролёту, высоте, грузоподъёмности).

В: Какая стандартная грузоподъёмность козловых кранов Kelude?
О: Стандартный ряд грузоподъёмности включает модели от 5 до 50 тонн. По индивидуальному заказу возможна разработка кранов и большей грузоподъёмности.

В: Каковы сроки поставки козлового крана?
О: Сроки зависят от сложности заказа и загруженности производства, но в среднем составляют от 60 до 90 дней с момента подписания договора.

В: Предоставляете ли вы гарантию на козловые краны?
О: Да, на все краны Kelude предоставляется гарантия сроком 12 месяцев с момента ввода в эксплуатацию, но не более 18 месяцев с момента отгрузки.

В: Возможна ли поставка крана в разобранном виде для самостоятельного монтажа?
О: Да, мы можем поставить кран в разобранном виде с полным комплектом документации и инструкцией по монтажу. Также возможен вариант с шеф-монтажом под руководством нашего инженера.

В: Какие стандарты безопасности соблюдаются при производстве кранов?
О: Конструкция и производство кранов соответствуют требованиям международных стандартов ISO 4301, ISO 12480 и IEC 60204-32, что подтверждает их высокую надёжность и безопасность.

Заключение

О: Козловой кран — это эффективное и надёжное решение для широкого круга задач по перемещению тяжёлых грузов. Благодаря своей конструкции, он обеспечивает высокую производительность и безопасность работ на открытых площадках и в цехах. Компания «Келуде» предлагает современные козловые краны, соответствующие международным стандартам, с возможностью адаптации под конкретные требования заказчика. Если вы ищете надёжного партнёра для оснащения вашего производства, козловые краны Kelude станут отличным выбором.

GB/T 41867-2022 разделяет объяснимость на четыре уровня L1–L4: Grad-CAM соответствует функциональному уровню L1 (объяснение областей, на которые модель обращает внимание), SHAP — признаковому уровню L3 (объяснение вклада признаков). Их комбинация покрывает уровни L1+L3; недостающими остаются структурный уровень L2 (объяснение активации нейронов) и концептуальный уровень L4 (семантическое объяснение концепций).

---

Промышленная интеграция: архитектура системы с двумя методами Grad-CAM и SHAP

Стратегия интеграции: Основной принцип двухметодной системы — двухэтапный процесс «сначала Grad-CAM для позиционирования, затем SHAP для атрибуции». На первом этапе CNN-модель диагностики выводит класс неисправности, а Grad-CAM автоматически генерирует тепловую карту, накладываемую на входную спектрограмму, выделяя на диагностическом интерфейсе красным цветом частотные диапазоны, на которые модель обращает внимание. На втором этапе, если пользователю требуется более детальное объяснение на уровне признаков, одним нажатием запускается анализ SHAP (онлайн или асинхронно), формирующий столбчатую диаграмму ранжирования вклада признаков. Разделение этапов позволяет избежать влияния частых вычислений SHAP (около 1,8 секунды на операцию) на процесс диагностики в реальном времени (требуется менее 50 мс).

Архитектура системы: Датчики → граничные вычисления (Jetson Orin NX) → вывод CNN (6,2 мс) → генерация тепловой карты Grad-CAM (+0,3 мс, без дополнительных затрат) → отображение в реальном времени на HMI-интерфейсе → пользователь нажимает «Глубокое объяснение» → MQTT-запрос отправляется на сервер уровня предприятия → вычисление KernelSHAP (1,8 с) → возврат карты атрибуции SHAP на HMI. Grad-CAM работает постоянно, SHAP активируется по требованию. Чрезвычайно низкая вычислительная стоимость Grad-CAM (всего одно обратное распространение, задержка пренебрежимо мала) делает его пригодным для встраивания в конвейер вывода в реальном времени, тогда как вычислительные затраты SHAP определяют его использование в асинхронном режиме.

Ключевые показатели производительности:

Интеграционный эффект: 12 мостовых кранов × 16 месяцев эксплуатации показали, что уровень принятия решений операторами вырос с первоначальных 62% (при отображении только метки класса и уверенности) до 81% (после добавления тепловой карты Grad-CAM) и до 94% (после добавления атрибуции SHAP). Это подтверждает, что пространственная локализация и атрибуция признаков оказывают накопительный эффект на доверие пользователей.

---

Диагностика неисправностей мостового крана: примеры из практики

Пример 1: Усталостное выкрашивание наружного кольца подшипника (металлургический завод, кран QD32/5t, август 2025 г.)

Результат модели CNN: класс неисправности F1 (повреждение подшипника), уверенность 0.963. Тепловая карта Grad-CAM: зона высокого красного вклада сосредоточена в строках 3–5 входной спектрограммы (соответствует сигналам датчиков вибрации V2 и V3) и столбцах 32–64 (соответствует полосе частот 1.2–2.4 кГц). Атрибуция SHAP: V2_эксцесс = +0.21 (максимум), V1_СКЗ = +0.19, V3_энергия_500_2k = +0.15, T1_среднее = +0.08. Комплексное объяснение: «Аномальное повышение эксцесса на датчике вибрации V2 корпуса подшипника (+0.21) и рост СКЗ на V1 (+0.19), а также увеличение энергии в полосе 1.2–2.4 кГц на V3 (+0.15) указывают на усталостное выкрашивание наружного кольца подшипника качения. Рекомендуется остановка и замена в течение 48 часов». Фактическая проверка после вскрытия подтвердила: площадь контактного усталостного выкрашивания на дорожке качения наружного кольца составила около 15 мм², что полностью соответствует диагнозу.

Пример 2: Износ шестерни (металлургический завод, кран LD16/3.2t, январь 2026 г.)

Результат модели CNN: класс неисправности F2 (износ шестерни), уверенность 0.941. Тепловая карта Grad-CAM: красная зона сосредоточена на датчике V2 (подшипник на входе редуктора) во всем частотном диапазоне, пик — в полосе 0.5–1.0 кГц (частота зацепления и ее боковые полосы). Атрибуция SHAP: V2_энергия_0_500 = +0.24, V2_пик = +0.18, C2_основная = +0.11, Q1_среднее = +0.07. Комбинация признаковявный отличается от примера 1 — в примере 1 доминирующим признаком был V2_эксцесс +0.21 (типичный показатель повреждения подшипника: эксцесс чувствителен к ударным сигналам), в примере 2 — V2_энергия_0_500 +0.24 (типичный показатель износа шестерни: рост энергии боковых полос частоты зацепления). Различные паттерны атрибуции в пространстве признаков для двух типов неисправностей дополнительно подтверждают различительную способность объяснений на уровне признаков с помощью SHAP.

Данные о достоверности: За 16 месяцев эксплуатации 12 мостовых кранов с использованием комбинированного метода Grad-CAM + SHAP было сгенерировано 784 диагностических отчета. При ручной проверке (вскрытие, разборка, эндоскопия) было подтверждено 752 правильных диагноза, точность составила 95.9%. При этом согласованность атрибуции SHAP с оценкой экспертов достигла 92.3% (в 155 из 168 независимых экспертных проверок рейтинг важности признаков, выданный SHAP, был признан верным).

---

Ценность объяснимости для соответствия нормам и доверия в промышленности

Соответствие нормам: Стандарт ГОСТ Р 59277-2020 (аналог GB/T 41867-2022) «Искусственный интеллект. Объяснимость. Термины и классификация» подразделяет объяснимость на 4 уровня (L1 — функциональный, L4 — концептуальный). Стандарт ГОСТ Р 59921-2021 (аналог GB/T 42132-2022) «Оценка алгоритмов глубокого обучения» требует проведения оценки объяснимости для высокорисковых систем ИИ. Диагностика неисправностей мостового крана напрямую влияет на безопасность оборудования и персонала и относится к высокорисковым системам ИИ, поэтому необходимо соответствие как минимум уровням L1+L3. Grad-CAM удовлетворяет L1 (тепловая карта описывает функциональное внимание модели), SHAP удовлетворяет L3 (количественная атрибуция вклада признаков). Интеграция обоих методов прошла внутреннюю проверку на соответствие нормам в компании «Келуде Тяжёлая Промышленность».

Построение доверия: Доверие оператора к ИИ-диагностике формируется не одномоментно, а накапливается постепенно с каждым диагностическим отчетом. Переход от «просто сообщаем класс неисправности» к «показываем, куда смотрела модель» и далее к «объясняем, почему она так решила» — повышение прозрачности информации ведет к естественному росту доверия. Данные 12 кранов за 16 месяцев показывают: тепловая карта Grad-CAM повысила толерантность к ложным срабатываниям с 1 раза в неделю до 3 раз в неделю (операторы готовы принимать больше «ложных тревог», видя обоснование модели), а атрибуция SHAP снизила долю случаев «непринятия вывода ИИ и принудительного подъема для проверки» с 38% до 9%.

Экономическая ценность: Каждая предотвращенная ненужная проверка с подъемом и вскрытием экономит около 151 000 ₽ (с учетом затрат на персонал, простои и запчасти). За 16 месяцев благодаря доверию операторов к ИИ-диагностике было предотвращено 47 ненужных вскрытий, что дало общую экономию около 7 040 000 ₽. Кроме того, атрибуция SHAP позволила выявить ранние признаки неисправности (например, в примере 1 предупреждение о повреждении подшипника поступило на 72 часа раньше), что предотвратило одну аварию с заклиниванием главного вала (оценочный прямой ущерб 2 260 000 ₽ + потери от простоя 566 000 ₽/день × 3 дня = 1 698 000 ₽, итого 3 958 000 ₽).

О дополнительных комбинациях объяснимости модели и периферийного развертывания можно узнать в статьях «Многодатчиковая диагностика неисправностей на основе GNN» и «Практика периферийного развертывания PyTorch + ONNX + TensorRT» от компании «Келуде Тяжёлая Промышленность».

---

Часто задаваемые вопросы (FAQ)

Grad-CAM и SHAP решают проблему «чёрного ящика» в AI-диагностике мостовых кранов с двух сторон — пространственной локализации и атрибуции признаков. Оператор больше не получает бинарный вывод «неисправность/норма», а видит полную цепочку доказательств, на основе которой модель приняла решение. 12 мостовых кранов за 16 месяцев, 784 диагностических отчёта, точность 95,9% и 94% принятия решений операторами — это подтверждает, что объяснимость является не просто требованием соответствия, а ключевым фактором реального внедрения и ценности AI-систем в промышленной среде. Келуде Тяжёлая Промышленность продолжает развивать комбинированный подход Grad-CAM + SHAP в направлении структурной интерпретации L2 (в разработке: трассировка путей активации нейронов) и концептуальной интерпретации L4 (векторы активации концептов, CAV).