Полуконтролируемое обучение для данных крана без разметки
📋 Основное резюме
Обучение с частичным привлечением учителя решает самую затратную проблему внедрения ИИ в краностроении — разметку данных. Модель обнаружения дефектов требует огромного количества размеченных образцов, однако ручная разметка каждого обрыва проволоки каната или пористости сварного шва обходится крайне дорого. Обучение с частичным привлечением учителя использует лишь небольшую часть размеченных данных в сочетании с большим массивом неразмеченных, позволяя модели самостоятельно выявлять структурные закономерности в неразмеченных образцах и снижая зависимость от ручной аннотации. В статье рассматриваются три основных подхода — самообучение, регуляризация согласованности и FixMatch, разбираются практические предпосылки их применения, такие как шум псевдометок и распределительные допущения, а также отмечается, что данное направление в краностроении находится на ранней стадии верификации, и предельная точность определяется фактическими условиями эксплуатации.
На одном из заводов по производству кранов запустили проект обнаружения дефектов. Бригада разметчиков вручную обводила дефекты на экране — за неделю удалось разметить лишь несколько тысяч изображений, тогда как для стабильной работы модели в полевых условиях требуется от десятков до сотен тысяч размеченных образцов. Ранее опубликованный на портале набор данных по разметке дефектов достиг объёма 500 000 изображений — за этой цифрой стоят месяцы монотонного труда разметчиков.
Ещё более реалистичная картина: кран ежедневно генерирует непрерывный поток изображений, данных о вибрации и токе, и подавляющее большинство этих данных — «сырые», без каких-либо меток. Если обучать модель только на нескольких тысячах размеченных изображений, она не сможет охватить всё разнообразие условий эксплуатации. Если же ждать, пока десятки тысяч изображений будут размечены вручную, проект просто не уложится в сроки сдачи. Задача обучения с частичным привлечением учителя — задействовать этот массив данных, который «невыгодно размечать вручную».
Какую задачу решает обучение с частичным привлечением учителя: разметка — самый дорогой этап внедрения ИИ в краностроении
В задачах компьютерного зрения верхняя граница возможностей модели определяется двумя переменными: объёмом данных и качеством меток. Логика обучения с полным привлечением учителя проста: сколько размеченных образцов — столько и обучающих сигналов получит модель. Как только разметка останавливается, останавливается и обучение. Для обнаружения дефектов в кранах это реальная проблема.
Возьмём, к примеру, обнаружение обрывов проволок каната. Ранее опубликованная на портале модель достигала точности распознавания 97,3% на определённом наборе данных — но лишь благодаря тому, что за ней стоял массив обучающих образцов с разметкой каждой проволоки и каждого места обрыва. А набор данных по разметке дефектов объёмом 500 000 изображений означает, что трудозатраты на разметку значительно превышают затраты на само обучение модели.
Обучение с частичным привлечением учителя меняет эту предпосылку. Его входные данные состоят из двух частей: небольшой выборки размеченных образцов и большого массива неразмеченных. Модель сначала формирует базовую способность к распознаванию на размеченных данных, затем переносит эту способность на неразмеченные данные, извлекая дополнительные обучающие сигналы из структуры их распределения. Строго говоря, это не «отказ от разметки», а снижение предельных издержек на неё.
Здесь важно обозначить одну инженерную границу: неразмеченные данные имеют ценность только при соблюдении определённых распределительных допущений, в противном случае они привносят не сигнал, а шум. ГОСТ Р 28264 «Системы мониторинга и управления безопасностью грузоподъёмных машин» устанавливает нормативные требования к сбору, передаче и хранению данных мониторинга — это и есть фундамент для обучения с частичным привлечением учителя. Опыт Келуде в управлении данными показывает: сначала необходимо обеспечить единообразие методов сбора, и только затем можно говорить о том, сможет ли модель извлечь пользу из неразмеченных данных.
Принципиальные различия трёх подходов: самообучение, регуляризация согласованности и FixMatch
Семейство методов обучения с частичным привлечением учителя довольно обширно, но в инженерной практике чаще всего обсуждаются три категории: самообучение, регуляризация согласованности и гибридные методы с усилением данных, сочетающие оба подхода.
Идея самообучения наиболее проста. Сначала на размеченных образцах обучается исходная модель, затем эта модель делает прогнозы для неразмеченных образцов. Прогнозы с достаточно высокой уверенностью принимаются в качестве «псевдометок» и вместе с исходной разметкой используются для повторного обучения модели — и так по циклу. Преимущество — простота реализации и независимость от архитектуры модели. Недостаток — ранние ошибки модели могут усиливаться через псевдометки, приводя к накоплению погрешностей.
Представителем регуляризации согласованности является Mean Teacher. Система поддерживает две модели одинаковой архитектуры — «ученика» и «учителя». Веса модели-учителя получаются экспоненциальным скользящим средним от исторических весов модели-ученика. В процессе обучения один и тот же неразмеченный образец подвергается двум различным возмущениям, и от обеих моделей требуется выдавать близкие выходные результаты. Такое ограничение инвариантности к возмущениям позволяет модели формировать гладкую решающую границу даже там, где метки отсутствуют.
FixMatch, в свою очередь, комбинирует псевдометки со слабым и сильным усилением данных: сначала к неразмеченному образцу применяется слабое усиление, модель генерирует псевдометку, затем к тому же образцу применяется сильное усиление, и требуется, чтобы усиленная версия также соответствовала этой псевдометке. Псевдометка используется только в том случае, если уверенность модели превышает заданный порог. Эта комбинация показывает впечатляющие результаты на эталонных наборах данных по классификации изображений, однако для задач обнаружения дефектов, где целевые объекты значительно меньше, выбор интенсивности усиления требует осторожности.
Диагностика неисправностей с помощью ИИ в краностроении — новое направление. Появление таких стандартов, как ISO 24621:2022 «Диагностика неисправностей кранов с помощью ИИ», свидетельствует о том, что отрасль пытается встроить возможности ИИ в нормативные рамки. Вопрос о том, как методы обучения с частичным привлечением учителя сочетаются с требованиями таких стандартов к прослеживаемости данных и воспроизводимости выводов, — один из ключевых при практическом внедрении.
Сводная матрица параметров трёх методов
| Метод | основной механизм | Нетразмеченные данныеПрименение | ПсевдоразметкашумЧувствительность | Обучениеустойчивость | применимые условия эксплуатации |
|---|---|---|---|---|---|
| Самообучение Self-training | Итеративная подпитка псевдоразметкой | Прогноз модели как псевдоразметка | Высокая（Ошибки накапливаются） | Средняя（ТребуетсяпорогКонтроль） | аннотацияКрайне мало и классы четкие |
| Регуляризация согласованности Mean Teacher | Учитель-ученикEMA | Выходы при возмущениях должны совпадать | Низкая（Сглаживание возмущений） | Относительно высокая（EMAСтабильный） | Последовательность изображений имонтажная площадкашумБольшой |
| Смешанное усиление FixMatch | Слабое усиление задает метки, сильное — изучает признаки | Двухветвевая схема с сильным и слабым усилением | Низкая（Порог уверенности） | Относительно высокая | Изображения и зрелые методы усиления |
| Графовая полуконтролируемая Graph-based | Распространение по графу сходства выборок | Диффузия меток по отношениям сходства | Средняя（Зависит от качества построения графа） | Средняя | структурированиеДанные и связи четкие |
| Генеративная полуконтролируемая | Генеративная модель дополняет выборку | Генерация псевдообразцов для расширения | Средняя | Средняя | При крайнем дефиците выборокрежим работы |
Шум псевдоразметки, допущения о распределении данных и применимые условия эксплуатации трёх методов
Ни один из трёх методов не имеет абсолютного преимущества. Ключевые переменные при выборе — две: совпадает ли распределение неразмеченных данных с размеченными, и насколько задача терпима к ошибкам псевдоразметки.
Если неразмеченные данные получены с того же оборудования и в том же режиме работы, дрейф распределения незначителен, и самообучение со строгим порогом уверенности даёт результат. Если данные с площадки зашумлены, а режимы работы разнородны, устойчивость к шуму, обеспечиваемая согласующей регуляризацией, более ценна. Для задач с изображениями, где методы аугментации данных отработаны, гибридные подходы типа FixMatch обычно дают более заметный выигрыш.
С другой стороны, если допущение о распределении нарушено, полуконтролируемое обучение может навредить сильнее, чем его отсутствие. Типичный сценарий: в неразмеченные данные попадают режимы работы кранов разной грузоподъёмности, с разными механизмами и даже от разных производителей, тогда как размеченные данные покрывают лишь один узкий класс. В этом случае структурные закономерности, которые модель «извлекает» из неразмеченных данных, на самом деле являются межобъектовыми помехами.
Рекомендация Келуде Тяжёлая Промышленность в ряде проектов неизменна: сначала проверьте согласованность распределений, затем выбирайте метод. Приведённый ниже чек-лист — это восемь пунктов, которые рекомендуется проверить перед внедрением полуконтролируемого обучения.
📋
Базовый уровень
Сначала запустите полностью контролируемый базовый вариант, подтвердите минимальное качество разметки
🔍
Допущение о распределении
Проверьте, что неразмеченные и размеченные данные имеют одинаковое распределение
📊
Порог псевдоразметки
Установите порог уверенности, чтобы предотвратить накопление ошибок
🧪
Аугментация данных
Согласование стратегий сильной и слабой аугментации с характеристиками дефектов
🛡
Мониторинг шума
Непрерывный мониторинг уровня загрязнения псевдоразметки
🔄
Инкрементальное обновление
Регулярное переобучение на новых образцах режимов работы
📏
Замкнутый цикл оценки
Сравнение с полностью контролируемым обучением на независимом размеченном тестовом наборе
👥
Ручная проверка
Низкоуверенные образцы передаются на ручную проверку
Стоит ли экономия на стоимости аннотации при полуконтролируемом обучении: реальный расчёт
Самый прямой способ оценить целесообразность полуконтролируемого обучения — свести три фактора в одну таблицу: объём размеченных данных, стоимость аннотации и потолок точности. Полностью контролируемое обучение даёт максимальную точность, но требует полной разметки. Полуконтролируемое обучение позволяет достичь сопоставимой точности с частью разметки, но ценой двух дополнительных рисков: допущения о распределении и шума псевдоразметки.
Важно подчеркнуть: полуконтролируемое обучение экономит в основном на «повторяющейся» аннотации, а не на всей разметке. Первоначальный высококачественный размеченный набор остаётся фундаментом — он определяет верхнюю границу качества псевдоразметки. Это также объясняет, почему полуконтролируемое обучение в краностроении пока находится на ранней стадии проверки: там, где база данных ещё не выровнена, никакой самый продвинутый метод не заработает. При планировании AI-стратегии для клиентов Келуде Тяжёлая Промышленность всегда ставит управление данными на первое место, опережая выбор полуконтролируемого метода.
Данные сервисной службы Келуде Тяжёлая Промышленность показывают: реальным сдерживающим фактором для проектов чаще оказывается не разница в несколько пунктов точности модели, а незамкнутый инженерный цикл разметки, очистки и обратного включения данных. Правильный расчёт этих затрат важнее, чем выбор конкретного полуконтролируемого фреймворка.
Сравнение стоимости аннотации при различных схемах обучения
| Схема обучения | размеченные данныеЗависит от качества построения графа | Относительностоимость аннотации | ТочностьОриентир потолка |
|---|---|---|---|
| Полное обучение（Полный объеманнотация） | Десятки-сотни тысяч изображений | 100%（Базовый уровень） | Максимальный потолок，ПодверженаннотацияОграничен качеством |
| Графовая полуконтролируемая（Около 30%аннотация） | Небольшой объеманнотацияПлюс большой объем безаннотация | ЗначительноОпускание | Приближается к полному обучению，На основережим работыВ качестве 기준 |
| Самоконтролируемое（Нольаннотация） | Только безразмеченные данные | Минимальный | Эффективно на этапе представлений，Нанисходящий поток требуется небольшой объеманнотация |
| активное обучениеПлюс полуконтролируемое | Инкрементально по требованиюаннотация | Средний | Стабильнее при равном бюджете，Требуется человек в контуре |
📖 Похожие материалы: Разметка данных о дефектах кранов: как разметили 500 000 образцов | Полный обзор ИИ-визуального контроля кранов
Часто задаваемые вопросы
В: Насколько точность полуконтролируемого обучения уступает полному контролю?
О: Конкретной цифры нет — разница зависит от объёма размеченных данных, качества неразмеченных данных и согласованности распределений. При достаточном объёме и высоком качестве разметки полный контроль остаётся самым надёжным базовым вариантом. При нехватке разметки полуконтролируемый подход при том же бюджете аннотирования обычно заметно выигрывает у обучения только на малом объёме размеченных данных. Для задач обнаружения дефектов кранов полный контроль пока остаётся основным методом в промышленности, полуконтроль чаще находится на стадии проверки, а верхняя граница точности определяется реальным режимом работы. Келуде Тяжёлая Промышленность при оценке использует независимый тестовый набор для корректного сравнения и не опирается напрямую на цифры из публикаций.
В: Стоит ли внедрять полуконтролируемое обучение для обнаружения дефектов крана и как это определить?
О: Сначала проверьте два условия: совпадает ли распределение неразмеченных данных с размеченными, и составляет ли стоимость аннотации основную часть бюджета проекта. Если на объекте накоплен большой объём неразмеченных исходных изображений, данных по вибрации или току в том же режиме работы, а команда разметки может покрыть лишь малую их часть, полуконтролируемый подход имеет смысл попробовать. Если же объём данных сам по себе ограничен и распределение заметно смещено, сначала надёжнее выстроить сбор и очистку данных, чем форсировать полуконтроль.
В: Как распознать и устранить накопление ошибок в псевдоразметке при полуконтролируемом обучении?
О: Типичный признак — точность на наборе валидации сначала растёт, а затем падает, либо стабильно ошибочные предсказания по отдельным классам. В первую очередь ужесточите порог уверенности для псевдоразметки и возвращайте в обучение только образцы с высокой уверенностью. Затем проверьте, не разрушают ли сильные и слабые аугментации ключевые признаки дефекта. При необходимости извлеките ошибочные образцы, проведите ручную проверку и верните их в размеченный набор. Уровень загрязнения псевдоразметки нужно постоянно мониторить, а не полагаться на результат после завершения обучения.
