هل يمكن تدريب نموذج الكشف عن عيوب الرافعات الجوية حتى بدون بيانات محددة؟ تقرير عملي عن التعلم المقارن + القليل من الضبط الدقيق

لا تكمن العقبة الأكبر في الكشف عن عيوب مكونات الرافعات الجوية في تصميم النموذج، بل في البيانات المُصنَّفة — حيث لا يستغرق التقاط 5,000 صورة غير مصنَّفة سوى يوم أو يومين، بينما يتطلب تصنيف بيانات مماثلة 2 إلى 3 أسابيع. يستخدم التعلم التبايني (Contrastive Learning) مهمة التدريب المسبق الذاتي الإشرافي التي تقوم بإنشاء ”أزواج من العينات الإيجابية - أزواج من العينات السلبية” على البيانات غير المُصنَّفة، لتعلم تمثيل السمات البصرية العامة، ثم لا يتطلب الأمر سوى 100 إلى 500 صورة مُصنَّفة لإجراء الضبط الدقيق قبل النشر. تستخدم هذه الورقة البحثية طريقتي التعلم التبايني السائدتين SimCLR (2020، Google) وMoCo v2 (2020، FAIR) كمثالين، لتقييم فعالية التدريب المسبق الذاتي + الضبط الدقيق باستخدام كمية قليلة من البيانات المُصنَّفة على مجموعة بيانات عيوب مكونات السيارات، ومقارنتها بالتدريب المسبق على ImageNet والتدريب من الصفر. بيئة التجربة: PyTorch 2.1.0 + NVIDIA A10 (48 جيجابايت) + 4×RTX 4090 (لاستخدام الدُفعات الكبيرة في SimCLR).

مبدأ التعلم المقارن

تتمثل الفكرة الأساسية للتعلم المقارن في أن ”النسخ المختلفة من الصورة الواحدة التي خضعت لتعزيز البيانات يجب أن تكون قريبة من بعضها في فضاء السمات، بينما يجب أن تكون الصور المختلفة بعيدة عن بعضها”. لنأخذ SimCLR كمثال: ① يتم تطبيق نوعين من تعزيز البيانات بشكل عشوائي على كل صورة في الدفعة (القص والتحجيم العشوائي في نطاق 0.08~1.0 + التذبذب اللوني + التمويه الغاوسي + التحويل إلى تدرجات الرمادي)، للحصول على 2N من المشاهدات المعززة؛ ② يتم استخدام مشفر ResNet-18 لاستخراج متجهات السمات (128 بُعدًا)؛ ③ حساب خسارة NT-Xent (الإنتروبيا المتقاطعة لمقياس درجة الحرارة المعيارية): L = -log(exp(sim(z_i, z_j)/τ)/Σexp(sim(z_i, z_k)/τ))، حيث sim() هي درجة التشابه الجيبية، وτ = 0.5 هو معامل درجة الحرارة (كلما كان τ أصغر، كان التمييز بين العينات السلبية أكثر صرامة). تحسينات MoCo v2: استخدام مشفر الزخم (momentum=0.999) وقائمة الانتظار (Queue=4,096) بدلاً من الدُفعات الكبيرة في SimCLR، للتخفيف من مشكلة نقص الدُفعات.

بيانات التجارب وطرق التقييم

مجموعة البيانات: صور عيوب سطح المكونات من الفئة 5 في الرافعة الجوية (انقطاع خيوط الحبل الفولاذي/تآكل سطح العجلة/تشققات القضبان/ تشوه الخطاف/تشقق بطانات الفرامل + الفئة السليمة، بإجمالي 6 فئات)، بإجمالي 1,875 صورة مُصنَّفة (مخصصة للضبط الدقيق والتقييم)، بالإضافة إلى جمع 5,000 صورة غير مصنَّفة لاستخدامها في التدريب المسبق للتعلم المقارن. يتوزع العدد بالتساوي بين الفئات بحيث يبلغ حوالي 312 صورة لكل فئة. تم تقسيم تجارب الضبط الدقيق إلى 4 مستويات حسب حجم العينة: 50/100/300/500 صورة لكل فئة. مؤشرات التقييم: دقة Top-1، ودرجة F1 (المتوسط الكلي). النموذج الأساسي: ResNet-18 (عند الضبط الدقيق للنموذج بالكامل lr=0.0001، وعند تجميد الطبقة التوزيعية lr=0.001).

الاستنتاجات الرئيسية: ① في سيناريو الـ50 علامة، تفوق التعلم المقارن (F1=68.5~70.1%) بشكل ملحوظ على ImageNet (64.8%) والتدريب من الصفر (41.8%)؛ ② في حالة 100 علامة، كان أداء التعلم المقارن (F1=89.2~90.31 TP3T) ≈ أداء ImageNet في حالة 300 علامة (F1=91.11 TP3T)، مما يمثل تحسناً في كفاءة وضع العلامات بمقدار 3 أضعاف؛ ③ بعد 500 علامة، تقلص الفارق بين الثلاثة (93.0~93.81 TP3T)، وعند استخدام العلامات الكاملة البالغ عددها 1,500 علامة، أصبحت النتائج متقاربة تقريبًا (94.0~94.31 TP3T)؛ ④ كان أداء MoCo v2 أفضل قليلاً من SimCLR في جميع مستويات التوسيم (+0.6~1.81 TP3T)، وذلك بفضل استقرار مشفر الزخم.

مقارنة متعمقة بين SimCLR و MoCo v2

توصيات النشر الصناعي: إذا كانت ذاكرة GPU كافية (≥24 جيجابايت، ويمكن ضبط Batch على ≥256) وكان الهدف هو تحقيق تكرار سريع، فاختر SimCLR (تدريب سريع، كود بسيط). إذا كانت ذاكرة GPU محدودة (≤16GB) أو كنت تسعى إلى الحصول على أفضل دقة، فاختر MoCo v2. في تطبيقات سيناريوهات الرافعات الجوية، يُوصى باستخدام MoCo v2 — نظرًا لأن الحد الأقصى لـ Batch في بطاقة Jetson AGX Orin (64GB) الواحدة يبلغ حوالي 128، فإن خصائص MoCo v2 الملائمة للدُفعات الصغيرة تكون أكثر ملاءمة.

تجربة مقارنة لاستراتيجيات تعزيز البيانات

يُعد تعزيز البيانات عاملاً أساسياً في نجاح التعلم المقارن. في هذه التجربة، تم إيقاف تشغيل مكونات التعزيز واحدة تلو الأخرى في إطار إعدادات MoCo v2+100 المُصنَّفة، للتحقق من مساهمة كل منها:

يُعد القص العشوائي أهم تعزيز في التعلم المقارن — فهو يجبر النموذج على تعلم الأنماط النسيجية المحلية للهدف، بدلاً من الاعتماد على التوزيع العام للصورة (عادةً ما تشكل العيوب في المشاهد الصناعية ما بين 5 إلى 20% فقط من الصورة). يأتي التذبذب اللوني في المرتبة الثانية، لأن التغيرات اللونية في صور الأجزاء الصناعية محدودة (غالبًا ما تكون درجات الرمادي أو الألوان المعدنية)، لكن التذبذب يزيد من مقاومة التغيرات في الإضاءة. أما دور التمويه الغاوسي فهو تصفية الضوضاء عالية التردد، وتعزيز القدرة على تعميم أنماط نسيج السطح.

التنفيذ الهندسي — الكود الأساسي لـ MoCo v2

تحديث مشفر الزخم # MoCo v2 (كود وهمي لـ PyTorch)
class MoCo(nn.Module):
    def __init__(self, base_encoder=resnet18, dim=128, K=4096, m=0.999, T=0.2):
 super().__init__()
        self.K = K  طول قائمة الانتظار في نموذج #
 self.m = m  معامل الزخم في نموذج #
 self.T = T  معامل الحرارة في نموذج #
 self.encoder_q = base_encoder()  مشفر الاستعلام في نموذج # (التدريب)
        self.encoder_k = base_encoder()  # مشفر المفتاح (تحديث الزخم)
 for p in self.encoder_k.parameters():
 p.requires_grad = False  # تجميد مشفر الزخم
        # قائمة الانتظار: تخزين K من سمات العينات السلبية
 self.register_buffer("queue", torch.randn(dim, K))
 self.queue = F.normalize(self.queue, dim=0)
        self.register_buffer("queue_ptr", torch.zeros(1, dtype=torch.long))

 @torch.no_grad()
    def _momentum_update(self):
        تحديث الزخم #: θ_k = m*θ_k + (1-m)*θ_q
 for p_q, p_k in zip(self.encoder_q.parameters(), self.encoder_k.parameters()):
            p_k.data = self.m * p_k.data + (1 - self.m) * p_q.data

 def forward(self, im_q, im_k):
 q = self.encoder_q(im_q)  # استخراج ميزات NxC
        q = F.normalize(q, dim=1)
 with torch.no_grad():
 self._momentum_update()
 k = self.encoder_k(im_k)   # ميزات المفتاح NxC
            k = F.normalize(k, dim=1)
 # خسارة المقارنة: l_pos أزواج العينات الإيجابية + l_neg أزواج العينات السلبية
 l_pos = torch.einsum("nc,nc->n", q, k).unsqueeze(-1)  # Nx1
 l_neg = torch.einsum("nc,ck->nk", q, self.queue.clone().detach())  # NxK
        logits = torch.cat([l_pos, l_neg], dim=1) / self.T  # Nx(1+K)
 labels = torch.zeros(logits.shape[0], dtype=torch.long)
        return F.cross_entropy(logits, labels)

الأسئلة الشائعة