إنذارات الذكاء الاصطناعي الوهمية في الرافعات: الحل

تخيل هذا السيناريو في ساعة متأخرة من الليل: في غرفة مراقبة نوبات العمل لرافعة علوية في أحد مصانع الصلب، يصدر المساعد الذكي إنذارًا: "بلغ تآكل بطانة فرامل الرفع الرئيسي الحد الأقصى للإعدام، يُنصح بإيقاف التشغيل فورًا واستبدال البطانة"، مع الإشارة إلى "معيار" يدّعي أن أحد بنوده ينص على ألا يقل سمك البطانة المتبقي عن 40% من السمك الأصلي. يلتزم المشغل بالتعليمات ويوقف التشغيل ويقوم بالتفكيك الليلي، ليكتشف أن سمك البطانة لا يزال 62%، وهو بعيد جدًا عن حد الإعدام، فتتوقف خط الإنتاج بالكامل ست ساعات دون داعٍ.

أول ما يخطر ببال المشغل هو الشك في تلف المستشعر، فيراجع منحنيات الاهتزاز ودرجة الحرارة التاريخية بدقة، لكن البيانات طبيعية تمامًا. ثم يبحث عن "المعيار المُشار إليه"، فيقلب صفحات مواصفات التصميم ومعايير مراقبة السلامة ذات الصلة، ولا يجد البند الذي استشهد به الذكاء الاصطناعي إطلاقًا — فقد استشهد بحكم غير موجود، لكنه كتب رقم المعيار والأرقام وحتى "نطاق التطبيق" بأسلوب مقنع تمامًا. والأكثر إشكالًا أن الذكاء الاصطناعي صاغ العبارة بثقة تامة وهيكل متكامل، مما يجعل من الصعب على المشغل العادي كشف الزيف في حينه.

جذر المشكلة لا يكمن في المستشعر ولا في قاعدة البيانات، بل في طريقة عمل النموذج اللغوي الكبير نفسه: فهو يولد النص باختيار الكلمة التالية كلمةً كلمةً بناءً على الاحتمالات، ساعيًا إلى "سلاسة تشبه الواقع" في التعبير، وليس إلى "مطابقة الحقيقة" في التحقق. وعندما لا تتضمن بيانات التدريب نص معيار معين، فإنه لا يقول "لا أعرف"، بل يستخدم أكثر الأنماط اللغوية ترجيحًا "ليكمل" البند المفقود. وهنا يكمن الخطر الأكبر في البيئات الصناعية — ذكاء اصطناعي يدّعي المعرفة وهو لا يعرف، أخطر من ذكاء اصطناعي يعترف بجهله.

إنذار مقنع لكنه مختلق بالكامل: كيف تتحول الهلوسة من إنذار خاطئ إلى قرار خاطئ

السيناريو أعلاه ليس حالة استثنائية، بل هو نموذج نموذجي للهلوسة في البيئات الصناعية. وخطورتها لا تكمن في "الإجابة الخاطئة" بحد ذاتها، بل في "الإجابة الخاطئة المقنعة". فالعقل البشري لديه ميل راسخ: كلما كانت الإجابة محملة بأرقام محددة وأرقام معايير ومصطلحات فنية، زاد احتمال قبولها كحقيقة موثوقة. والنماذج اللغوية الكبيرة بارعة تحديدًا في حشو مخرجاتها بهذه الإشارات "الموحية بالسلطة"، حتى لو كانت مختلقة بالكامل.

من هذا المنطلق، يمكن تشبيه ضرر الهلوسة بسلسلة تضخيم من ثلاث مراحل.

المرحلة الأولى، إنذار خاطئ: يولد النموذج استنتاجًا خاطئًا يبدو احترافيًا، قد يكون قيمة حدية قياسية مختلقة أو تشخيصًا خاطئًا للسبب.

المرحلة الثانية، حكم خاطئ: يثق المشغل الميداني بالاستنتاج لأنه "يبدو مقنعًا"، فيتخطى التحقق ويعتمد مخرجات النموذج كأساس مباشر للحكم.

المرحلة الثالثة، قرار خاطئ: بناءً على الحكم الخاطئ، يتم تنفيذ إيقاف التشغيل أو التفكيك أو استبدال القطع، مما يهدر وقت العمل ووقت التوقف، وقد يؤدي حتى إلى تفويت الخطر الحقيقي والتسبب في حادث.

لاحظت كيلود للصناعات الثقيلة في دراساتها الميدانية نمطًا متكررًا: ثقة المشغلين في الذكاء الاصطناعي تتناسب طرديًا مع كثافة "الأرقام المحددة" في مخرجاته. وهذا تحديدًا ما يجب الحذر منه — لأن الهلوسة تتقن التزييف في موضعين: "الأرقام المحددة" و"بنود المعايير".

لماذا يختلق الذكاء الاصطناعي بثقة: غياب آلية الاحتمالات وضبط الحقائق معًا

لفهم سبب صعوبة "الوقاية" من الهلوسة، يجب أولًا فهم آلية توليد النموذج. فهو في جوهره نموذج احتمالي: بالنظر إلى النص السابق، يحسب الكلمة التالية الأكثر ترجيحًا، ثم يولدها كلمةً كلمةً. هذه الآلية بارعة بطبيعتها في إنتاج نصوص سلسة ومترابطة ومطابقة للأنماط اللغوية، لكنها لا تتضمن أي خطوة للتحقق من "هل هذه الجملة صحيحة في الواقع؟".

بعبارة أخرى، ما يفعله النموذج هو "المنطق اللغوي"، وليس "الصحة الواقعية". وعندما يُسأل عن بند معيار غير موجود في بيانات تدريبه، فإنه لا يعيد "غير موجود"، بل يجمع "رقم المعيار + المصطلح + قيمة حدية تبدو معقولة" بناءً على الأنماط اللغوية التي تعلمها. وكلما كان المحتوى المُجمّع أكثر تخصصًا وتحديدًا، زادت صعوبة كشفه.

وهذا هو السبب الذي جعل معايير مثل ISO 24621:2022 لتشخيص الأعطال بالذكاء الاصطناعي في الرافعات تؤكد بشكل خاص على أن تشخيص الأعطال يجب أن يكون "قابلًا للتتبع": فالاستنتاج التشخيصي السليم يجب أن يكون قابلاً للإرجاع إلى بيانات استشعار محددة وأساس حكم واضح، وليس مجرد ادعاء لا يمكن التحقق منه. والمخرجات الافتراضية للنماذج اللغوية الكبيرة تفتقر تحديدًا إلى هذه "سلسلة الإرجاع"، وهذا ما يفسر لماذا يؤدي ربطها مباشرة بقرارات الإنذار إلى مشاكل.

يلخص مهندسو كيلود للصناعات الثقيلة هذه الظاهرة بـ"هلوسة السلاسة": كلما كانت المخرجات أكثر سلاسة، زادت قدرتها على إخفاء نقص الحقائق. والبيئة الصناعية تتطلب العكس تمامًا — فالأفضل أن تكون الإجابة "غير مؤكدة، تحتاج تحققًا" بدلًا من استنتاج خاطئ مقنع.

أكثر ثلاثة أنواع شيوعًا من الهلوسة الصناعية: اختلاق المعايير والخطوات والبيانات وكيف يضر كل منها

في سياق صيانة الرافعات وتشغيلها، تظهر الهلوسة بثلاثة أشكال رئيسية، ولكل شكل مسار ضرر مختلف.

النوع الأول، اختلاق بنود المعايير. وهو الأخطر. قد يستشهد الذكاء الاصطناعي برقم معيار غير موجود، أو يرفق معيارًا حقيقيًا بقيمة حدية خاطئة. فإذا اعتمد المشغلون عليه في إيقاف التشغيل أو السماح بالتشغيل، فإنهم بذلك يتركون "معيارًا" مختلقًا يتخذ القرار بدلًا من المعيار الحقيقي.

النوع الثاني، اختلاق إجراءات الإصلاح. غالبًا ما تولد النماذج الكبيرة إجراءات صيانة "تبدو مكتملة"، لكنها قد تحذف خطوات إلزامية للسلامة مثل فصل التيار، وتفريغ الضغط، وعزل الطاقة. فإذا اختل ترتيب الخطوات أو اكتمالها، فإن الخطر المباشر يهدد سلامة العاملين.

النوع الثالث، اختلاق بيانات القياس. قد يعطي الذكاء الاصطناعي قيمة اهتزاز أو قراءة حرارة لم يلتقطها أي مستشعر إطلاقًا، ويبني عليها حكمًا مثل "تدهور المحمل" أو "اهتراء الترس". هذه البيانات المختلقة تجعل تقييم الحالة مبنيًا على أساس هش، وبالتالي يفقد قرار الاستبدال أساسه الصحيح.

الجدول التالي يلخص ضرر الأنواع الثلاثة من الهلوسة ونقاط الوقاية منها في مقارنة واحدة:

من التصحيح الموضعي إلى الحماية المنهجية: إطار وقائي لتطبيق الذكاء الاصطناعي الموثوق

بما أن الهلوسة تنبع من آلية التوليد نفسها، فإن الاعتماد على "جعل النموذج لا يخطئ" ليس واقعيًا. النهج الصحيح للتطبيقات الصناعية هو نقل خط الدفاع من "التصحيح بعد الوقوع" إلى "الحماية المنهجية"، بحيث لا تتاح للذكاء الاصطناعي فرصة إيصال الهلوسة إلى مرحلة اتخاذ القرار.

الخط الأساسي الأول هو إلزام مخرجات الذكاء الاصطناعي بالارتباط بمصادر الحقائق. أي بند معيار، أو حد أقصى، أو بيانات قياس يتم الاستشهاد بها في الإنذارات، يجب أن يكون مصدرها قابلاً للتتبع في قاعدة المعايير وسجلات المستشعرات؛ وما لا يمكن تتبعه لا يدخل في مسار المعالجة. هذا المطلب يتوافق مع ما تؤكده GB/T 28264 — نظام مراقبة وإدارة السلامة لآلات الرفع من أن "معاملات مراقبة السلامة يجب أن يكون لها سجلات حقيقية" — فاستنتاجات الذكاء الاصطناعي لا يمكن أن توجد بمعزل عن بيانات المراقبة الحقيقية.

الخط الأساسي الثاني هو تحديد حدود القدرة للذكاء الاصطناعي: يمكنه التنبيه والتلخيص والبحث، لكنه لا يتخذ نيابةً عن الإنسان قرارات مثل الإيقاف أو السماح بالتشغيل أو استبدال المكونات. الطلبات التي تتجاوز هذه الحدود يجب أن يرفضها النموذج بوضوح أو يحيلها إلى المراجعة اليدوية، بدلاً من "الإجابة القسرية".

الخط الأساسي الثالث هو المراجعة اليدوية وتدقيق السجلات. تلتزم كيلود للصناعات الثقيلة في ممارساتها الميدانية بمبدأ ثابت: أي مخرجات ذكاء اصطناعي تؤثر على تقييم حالة المعدات يجب أن تخضع للمراجعة اليدوية، مع توثيق المخرجات الأصلية للذكاء الاصطناعي والأسانيد المستشهد بها ونتائج المراجعة معًا. وبهذه الطريقة، حتى لو تجاوزت هلوسة معينة خطي الدفاع الأولين، يمكن اعتراضها في المراجعة وتتبعها في التدقيق.

توصية كيلود للصناعات الثقيلة هي: بدلاً من السعي إلى "جعل الذكاء الاصطناعي لا يخطئ أبدًا"، من الأفضل افتراض أن "الذكاء الاصطناعي قد يخطئ في أي وقت"، مع إحكام السيطرة على البوابات الثلاث: المراجعة، والتوثيق، وتحديد الحدود. الهلوسة لا يمكن استئصالها، لكن يمكن إبقاؤها خارج نطاق اتخاذ القرار.

📖 قراءات ذات صلة: ما الذي يمكن أن يقدمه الذكاء الاصطناعي فعليًا في صيانة الرافعات؟ سيناريوهات عملية وحدود القدرة | إدارة صحة المعدات PHM: الممارسة الهندسية للصيانة التنبؤية للرافعة العلوية بالاعتماد على البيانات الضخمة والتعلم الآلي

الأسئلة الشائعة