كيف تمنع هلوسة الذكاء الاصطناعي في صيانة الرافعات؟

ثقةُ الخبراء القدامى في صيانة الرافعات بالنماذج اللغوية الكبيرة هي بالضبط أخطر ما فيها. فكلما كانت إجابات النموذج أكثر سلاسة وثقة، زاد احتمال أن يكون يختلق بندًا في المعيار غير موجود أصلًا. إنه لا يتردد، ولا يقول "لست متأكدًا"، بل يقدّم إجابة منسّقة الشكل، واثقة النبرة، لكنها لا تصمد أمام أي تحقق.

لهذه الظاهرة اسم متخصص: "الهلوسة". وهي ليست مجرد "خطأ عرضي" من النموذج، بل عيب بنيوي في النماذج التوليدية: فما يفعله النموذج من البداية إلى النهاية هو توقع الكلمة التالية الأكثر احتمالًا، وليس التحقق من وجود حقيقة معينة. عندما يُسأل: "كيف أصلح ضوضاء غير طبيعية في مخفض السرعة بالرافعة؟" فإنه يستطيع تركيب عملية صيانة تبدو مقنعة، لكنه لا يعرف حقيقةً ما إذا كانت كل خطوة فيها صحيحة أم لا.

في سياق صيانة الرافعات، لا يكمن ضرر الهلوسة في "الإحراج"، بل في "التسبب في مشاكل". بند غير موجود في المعيار يُدرج في قائمة الفحص، أو إجراءات صيانة مختلقة ينفذها مبتدئ، أو بيانات كشف وهمية تُستخدم لاتخاذ قرار إيقاف التشغيل — أيٌّ من هذه يمكن أن يتحول إلى حادث سلامة. لذا فالسؤال ليس "هل نستخدم النماذج اللغوية الكبيرة أم لا"، بل "كيف نُبقيها داخل حدود الحقائق". لقد وقعت كيلود للصناعات الثقيلة في هذا الفخ في عدة مشاريع صيانة، وجعلت الوقاية من الهلوسة الخطوة الأولى في أي تطبيق ذكاء اصطناعي.

أشكال الهلوسة: اختلاق بنود المعيار، ونسج إجراءات صيانة، وتوليد بيانات كشف وهمية

النمط الأول النموذجي للهلوسة هو اختلاق بنود غير موجودة في المعيار.

عندما يُسأل النموذج "على أي معيار تستند؟" قد يقدّم رقمًا وتسمية صحيحي الشكل تمامًا لكنهما غير موجودين في الواقع. إنه يعرف الشكل الذي تبدو عليه أرقام المعايير، فيولّد رقمًا على نمط "GB/T رقم-سنة"، ويكتب نص البند بإتقان. وإذا لم يرجع فني الصيانة إلى النص الأصلي حرفيًا، فمن السهل أن ينخدع.

النمط الثاني النموذجي هو نسج إجراءات صيانة تبدو منطقية.

يستطيع النموذج أن يربط "الفك، الكشف، الاستبدال، إعادة التركيب" في تسلسل منطقي، لكن المعايير الرئيسية في المنتصف قد تكون من "تخيله" — مثل عزم الربط لمسمار معين، أو قيمة ضبط فجوة معينة. هذه الأرقام لا تأتي من أي دليل، بل من تركيبات إحصائية لجمل متشابهة في بيانات التدريب.

النمط الثالث النموذجي هو توليد بيانات كشف واستنتاجات وهمية.

عندما تسأل: "ماذا تشير بيانات الاهتزاز هذه؟" قد يولّد النموذج تحليلًا بأرقام ورسوم بيانية، مدعيًا "السعة تتجاوز الحد المسموح، يُنصح بإيقاف التشغيل". هذه الأرقام لا تمت بصلة للبيانات الأصلية، لكنها تبدو موثوقة بسبب تنسيقها السليم. هذا النوع من الهلوسة هو الأخطر، لأنه يقود مباشرة إلى قرارات صيانة خاطئة.

إجراء التشخيص للكشف عن الهلوسة: تتبّع المصدر، التحقق المتبادل، والتحقق من منطقية الأرقام

الكشف عن الهلوسة لا يحتاج إلى أمور غيبية، بل يعتمد على سلسلة إجراءات تحقق قابلة للتكرار. لقد راكمت كيلود للصناعات الثقيلة قائمة تحقق متقاطعة في قاعدة المعرفة الداخلية، ويمكن للعاملين في الميدان تنفيذها خطوة بخطوة، وجوهرها ثلاثة إجراءات.

الخطوة الأولى: تتبّع المصدر.

لكل رقم معيار، ولكل معامل، ولكل استنتاج يقدّمه النموذج، يجب السؤال: "ما مصدر هذا؟" فقط ما يمكن ربطه ببند محدد في قاعدة المعرفة يدخل الجولة التالية؛ وما لا يمكن تحديد مصدره، أو كان مصدره غامضًا، يُعلَّم فورًا كمشبوه.

الخطوة الثانية: التحقق المتبادل.

قارن إجابة النموذج بندًا ببند مع دليل الصيانة، وسجلّات المعدات، وأوامر العمل السابقة. هل المعاملات متطابقة؟ هل الطراز متطابق؟ هل إجراءات التشغيل متوافقة مع الواقع؟ أيّ تباين يُشير إلى أن النموذج "يتخيل". هذه الخطوة توقف الغالبية العظمى من الهلوسات التي تخلط بين الأمور.

الخطوة الثالثة: التحقق من منطقية الأرقام.

بعد الحصول على قيمة من النموذج، اسأل أولًا: "هل هذا الرقم منطقي؟" قيمة عزم دوران تخالف البديهية، أو قيمة حمولة تتجاوز النطاق المقنن للمعدة، حتى لو كان تنسيقها سليمًا، يجب رفضها فورًا. التحقق من المنطقية لا يهدف إلى الدقة المتناهية، بل إلى استبعاد الأخطاء الأكثر فداحة أولًا.

جدول المقارنة: تشخيص الهلوسة والتعامل معها

الجذور الحقيقية للهلوسة في النماذج الكبيرة: التوليد الاحتمالي وغياب القيود الواقعية

لمنع الهلوسة، يجب أولاً فهم سبب حدوثها. مخرجات النماذج الكبيرة هي في جوهرها توليد احتمالي — فعند توليد كل كلمة، يعتمد النموذج على جميع الكلمات السابقة ليختار "التوزيع الأكثر احتمالاً للكلمة التالية" ويأخذ عينة منها. لا يمتلك النموذج قاعدة بيانات واقعية مستقلة للتحقق منها، ولا يفهم دلالات "الصواب" و"الخطأ"، بل يفهم فقط "في هذا السياق، هذا هو التسلسل الأكثر سلاسة للمتابعة".

وهذا يفسر لماذا تكون الهلوسة غالباً "مثالية نحوياً، ومنطقية في الأسلوب، وخاطئة في المحتوى": السلاسة هي هدف تدريب النموذج، أما الحقيقة فليست كذلك. عندما يظهر نوع معين من المحتوى بكثرة في بيانات التدريب، يتعلم النموذج صيغته؛ ولكن عندما يُطلب منه توليد إجابة محددة وفريدة وقابلة للتحقق، فإن صحة الصيغة لا تعني صحة المحتوى.

أما الجذر الثاني، فهو غياب القيود الصارمة على الحقائق.

دليل الصيانة الحقيقي، كل خطوة فيه تقابل مكونات ومعاملات موجودة فعلياً؛ بينما ذاكرة النموذج هي تكثيف إحصائي لبيانات التدريب، وقد يمزج معلومات من معدات وظروف تشغيل مختلفة معاً، مولّداً كياناً هجيناً غير موجود في الواقع. هذا "الخلط" هو في جوهره فشل في الاسترجاع، وليس كذباً متعمداً من النموذج.

أما الجذر الثالث فهو تقادم المعرفة.

بعد اكتمال تدريب النموذج، تتجمد معرفته. المعايير تُعدَّل واللوائح تُحدَّث، لكن النموذج لا يعرف ذلك تلقائياً. عندما يُسأل عن معيار جديد، قد يستعين بذاكرته عن معيار قديم، أو حتى يجمع شظايا من ذاكرته ليكوّن "معياراً جديداً" لم يكن موجوداً من قبل.

نظام الوقاية من الهلوسة: التوليد المعزز بالاسترجاع وقيود قاعدة المعرفة والحدود

الطبقة الأولى لمنع الهلوسة هي التوليد المعزز بالاسترجاع، المعروف اختصاراً بـ RAG.

بدلاً من ترك النموذج "يستذكر" من العدم، من الأفضل أن يبحث أولاً. أسلوب التوليد المعزز بالاسترجاع هو: قبل توليد الإجابة، يتم استرجاع البنود ذات الصلة من قاعدة معرفة المؤسسة — نصوص المعايير، أدلة الصيانة، سجلات الأعمال السابقة — ثم تُغذّى هذه البنود مع السؤال إلى النموذج، مع طلب "الاعتماد حصرياً على المواد المقدمة للإجابة". بهذه الطريقة، تحصل الإجابة على نقطة تثبيت واقعية، وتتقلص مساحة الاختلاق لدى النموذج بشكل كبير.

تجربة كيلود للصناعات الثقيلة في الممارسة العملية: فعالية RAG تعتمد على جودة قاعدة المعرفة. بنود المعايير والمعاملات في قاعدة المعرفة يجب أن تكون موثوقة وسارية وقابلة للتتبع. GB/T 28264 — نظام مراقبة وإدارة السلامة لآلات الرفع يضع متطلبات تنظيمية لجمع ومراقبة بيانات المراقبة، وهذا هو الأساس المهم لقاعدة بيانات المعرفة؛ بينما لائحة TSG 51-2023 — لوائح الإشراف الفني للسلامة لآلات الرفع هي المصدر الموثوق لقاعدة معرفة الصيانة. أي رقم معيار يُستشهد به يجب أن يكون قابلاً للتحديد في قاعدته الأصلية، وإلا يُعتبر هلوسة.

الطبقة الثانية هي قيود قاعدة المعرفة.

الأسلوب مباشر: يُسمح للنموذج فقط بالاستشهاد بالبنود الموجودة فعلياً في قاعدة المعرفة، ويُمنع من "الارتجال". كل رقم معيار وكل معامل يظهر في الإجابة يجب أن يكون قابلاً للربط ببند محدد في قاعدة المعرفة. كتابة هذا القيد في التعليمات النصية غير كافية، بل يجب أيضاً فرض تحقق صارم على مستوى النظام — أرقام المعايير في مخرجات النموذج تُفحص تلقائياً وتُقارن، وإذا لم يُعثر عليها يُحظر الإخراج ويُعلَّم.

الطبقة الثالثة هي الحدود.

هذه هي الأهم: النموذج الكبير لا يشارك في قرار السلامة. يمكنه تلخيص المواد، وتوليد مسودات التقارير، وشرح البنود، لكن القرارات المتعلقة بإيقاف التشغيل أو عدمه، واستبدال المكونات أو عدمه، والسماح بمواصلة العمل أو عدمه، يجب أن يتخذها الإنسان. حصر دور الذكاء الاصطناعي في "المساعدة" وليس "القرار" هو الطريقة الأكثر فعالية لاحتواء مخاطر الهلوسة على المستوى المؤسسي.

الطبقة الرابعة هي المراجعة اليدوية.

أي محتوى يولّده النموذج ويُعتزم استخدامه في التشغيل العملي، يجب أن يمر بمراجعة من قبل موظفين مؤهلين. محور المراجعة ليس "هل النص سلس عند القراءة"، بل "هل كل رقم معيار يمكن التحقق منه، وهل كل معامل يطابق الدليل، وهل كل استنتاج مدعوم ببيانات أصلية". تجربة كيلود للصناعات الثقيلة: تصميم المراجعة كإجراء ثابت أكثر موثوقية من الاعتماد على المسؤولية الفردية.

مرجع سريع لبنود المعايير في قاعدة المعرفة المضادة للهلوسة

📖 قراءات ذات صلة: ما الذي يمكن أن يقدمه الذكاء الاصطناعي فعليًا في صيانة الرافعات؟ سيناريوهات عملية وحدود القدرة  |  إدارة صحة المعدات PHM: الممارسة الهندسية للصيانة التنبؤية للرافعات العلوية بالبيانات الضخمة وتقنيات التعلم الآلي

الأسئلة الشائعة