يغير الذكاء الاصطناعي أساس الثقة في الأتمتة الصناعية
أصبح الذكاء الاصطناعي يندمج بصورة متزايدة في أنظمة الأتمتة الصناعية. فمن الصيانة التنبؤية ومراقبة الأصول إلى تحسين الإنذارات ودعم القرارات التشغيلية، يساعد الذكاء الاصطناعي المهندسين على معالجة البيانات الصناعية المعقدة بسرعة تفوق ما تتيحه الأساليب التقليدية.
ومع ذلك، يغير إدخال الذكاء الاصطناعي أيضًا مفهوم الثقة في الأتمتة. إذ تعتمد أنظمة التحكم التقليدية على سلوك حتمي: ينتج عن إدخال محدد مخرج يمكن التنبؤ به. أما الأنظمة القائمة على الذكاء الاصطناعي فتعمل بشكل مختلف، لأن أداءها يعتمد على جودة البيانات، وتهيئة النموذج، والظروف البيئية، وعمليات التعلم المستمر.
من وجهة نظري، لا يكمن التحدي الأكبر في مدى قدرة الذكاء الاصطناعي على تحسين الأداء الصناعي. بل يتمثل التحدي الحقيقي في قدرة الصناعات على إثبات أن القرارات المدفوعة بالذكاء الاصطناعي تظل آمنة وقابلة للتفسير والتحكم طوال دورة الحياة التشغيلية بأكملها.
يُدخل الذكاء الاصطناعي مخاطر جديدة تتجاوز أمن التقنيات التشغيلية التقليدي
ركز الأمن السيبراني الصناعي تقليديًا على حماية وحدات التحكم المنطقية القابلة للبرمجة (PLC)، ومنصات أنظمة التحكم الموزعة (DCS)، وأنظمة التحكم الإشرافي والحصول على البيانات (SCADA)، وواجهات الإنسان والآلة (HMI)، ومحطات الهندسة، وشبكات الاتصالات الصناعية. ولا تزال أساليب الحماية هذه أساسية، لكن الذكاء الاصطناعي يضيف مجالات أخرى تتطلب الاهتمام.
تعتمد الأتمتة المدعومة بالذكاء الاصطناعي على مكونات مساندة متعددة، تشمل أنظمة جمع البيانات، وبيئات التدريب، ومكتبات النماذج، ومنصات الحوسبة الطرفية، والخدمات السحابية، وآليات تحديث البرمجيات. وينشئ كل مكون نقطة فشل محتملة.
فعلى سبيل المثال، قد يُصدر نظام ذكاء اصطناعي للصيانة التنبؤية توصيات غير صحيحة إذا كانت البيانات التاريخية للمعدات غير مكتملة. وقد يقدم نموذج لتحسين العمليات مخرجات مضللة إذا أصبحت معلومات المستشعرات غير دقيقة. وفي بعض الحالات، قد تظل وحدة التحكم الصناعية نفسها آمنة، بينما تؤثر التوصيات التي ينشئها الذكاء الاصطناعي سلبًا في القرارات التشغيلية.
يمثل هذا تحولًا في منهجية التفكير بشأن الأمن السيبراني الصناعي: فلم تعد حماية نظام التحكم وحده كافية. إذ يجب أن تصبح طبقة الذكاء التي تؤثر في القرارات جزءًا من بنية الأمان أيضًا.
لا يمكن لاختبارات الأمان التقليدية التحقق من سلوك الذكاء الاصطناعي بشكل كامل
تُعد تقييمات أمن التقنيات التشغيلية التقليدية فعّالة في تحديد الثغرات المتعلقة بتقسيم الشبكات، والمصادقة، والتحكم في الوصول، وبروتوكولات الاتصال، وتهيئة الأنظمة.
ومع ذلك، تطرح أنظمة الذكاء الاصطناعي أنواعًا مختلفة من المخاطر. فقد يعمل النموذج بشكل صحيح أثناء الاختبارات المخبرية، لكنه ينتج نتائج غير متوقعة بعد نشره بسبب تغير ظروف العملية، أو ظهور أنماط تشغيل جديدة، أو تدهور أداء المستشعرات، أو تعديل مصادر البيانات.
غالبًا ما تختلف إخفاقات الذكاء الاصطناعي عن الهجمات السيبرانية التقليدية. وقد تظهر على النحو التالي:
- توصيات صيانة غير صحيحة
- تصنيف خاطئ للإنذارات
- قرارات سيئة لتحسين العمليات
- انخفاض أداء المعدات
- إرشادات غير صحيحة للمشغلين
قد لا تؤدي هذه الإخفاقات إلى إطلاق إنذارات أمنية تقليدية، لكنها قد تظل تؤثر في كفاءة الإنتاج، وتوافر المعدات، وهوامش السلامة، والامتثال التنظيمي.
لذلك، يجب ألا يقتصر التحقق من الذكاء الاصطناعي على الحماية من تهديدات الأمن السيبراني، بل يجب أن يراعي أيضًا السلوك التشغيلي في ظل ظروف صناعية واقعية.
استخدام ISA/IEC 62443 إطارًا لدمج أمن الذكاء الاصطناعي
توفر سلسلة معايير ISA/IEC 62443 أساسًا قويًا لدمج تقنيات الذكاء الاصطناعي في بيئات الأتمتة الصناعية.
رغم تطويرها في الأصل للأمن السيبراني لأنظمة التحكم الصناعية، تظل مفاهيمها وثيقة الصلة بالأنظمة المدعومة بالذكاء الاصطناعي. ويمكن لمبادئ تقييم المخاطر، والمناطق الأمنية، ومسارات الاتصال، وممارسات التطوير الآمن، وإدارة دورة الحياة أن تساعد المنظمات في تحديد موضع مكونات الذكاء الاصطناعي ضمن بنية صناعية.
عناصر مرتبطة بالذكاء الاصطناعي مثل:
- مسارات البيانات
- أنظمة تخزين النماذج
- محركات الاستدلال
- آليات تحديث الموردين
- واجهات المشغلين
ينبغي اعتبارها جزءًا من نظام الأتمتة والتحكم الصناعي عندما تؤثر في القرارات التشغيلية.
من وجهة نظري، لا ينبغي التعامل مع الذكاء الاصطناعي باعتباره تطبيقًا برمجيًا خارجيًا مُلحقًا بنظام أتمتة. فعندما يؤثر الذكاء الاصطناعي في قرارات الإنتاج، يصبح مكونًا تشغيليًا وينبغي أن يتبع مبادئ الأمن وإدارة دورة الحياة نفسها المطبقة على التقنيات الصناعية الأخرى.
يتطلب التحقق من الذكاء الاصطناعي أدلة مستمرة، وليس اختبارًا لمرة واحدة
عادةً ما تُتحقق أنظمة الأتمتة التقليدية قبل بدء التشغيل، ثم تُصان من خلال تعديلات خاضعة للرقابة. وتتطلب أنظمة الذكاء الاصطناعي نهجًا أكثر استمرارية للتحقق، لأن أداءها يعتمد على البيانات وبيئات التشغيل المتغيرة.
ينبغي أن تتضمن عملية التحقق الأمني الكاملة للذكاء الاصطناعي عدة مجالات:
التحقق من البنية
تحتاج المنظمات إلى تأكيد مكونات الذكاء الاصطناعي، وتدفقات البيانات، وأذونات الوصول، وقنوات التحديث، وتبعيات الموردين ضمن البنية الأمنية الصناعية.
التحقق من الأداء التشغيلي
يجب اختبار وظائف الذكاء الاصطناعي في ظل ظروف تشغيل واقعية للتحقق من أن التوصيات تظل دقيقة ومفهومة للمشغلين.
الاختبار العدائي
ينبغي أن يختبر التقييم ما إذا كانت المدخلات المتلاعب بها، أو البيانات التالفة، أو حالات التشغيل غير الطبيعية، أو مكونات البرامج المخترقة، قادرة على التأثير في سلوك الذكاء الاصطناعي.
المراقبة المستمرة للنشر
بعد التنفيذ، ينبغي للمنظمات مراقبة:
- تغيّرات أداء النموذج
- تدهور جودة البيانات
- تحديثات البرامج
- تعديلات التهيئة
- سلوك غير متوقع للذكاء الاصطناعي
لا يمكن ترسيخ الثقة بالذكاء الاصطناعي أثناء التطوير فقط، بل يجب الحفاظ عليها طوال دورة حياته التشغيلية.
يظل الإشراف البشري ضروريًا في العمليات القائمة على الذكاء الاصطناعي
من المفاهيم الخاطئة الشائعة أن زيادة قدرات الذكاء الاصطناعي تعني تلقائيًا تقليل مشاركة البشر. وفي البيئات الصناعية، يخلق هذا النهج مخاطر غير ضرورية.
يوفّر المشغّلون البشريون فهمًا للسياق قد لا تمتلكه أنظمة الذكاء الاصطناعي. فهم يتعرفون على ظروف المنشأة غير المعتادة وقيود الصيانة وأولويات الإنتاج واعتبارات السلامة التي قد لا تكون موجودة في مجموعات البيانات التاريخية.
ينبغي أن تتطلب المستويات المختلفة لاستخدام الذكاء الاصطناعي مستويات مختلفة من التحكم:
- يمكن للأنظمة الاستشارية تقديم توصيات بعد موافقة المشغّل.
- يمكن للأنظمة الإشرافية التأثير في العمليات ضمن حدود محددة مسبقًا.
- تتطلب الأنظمة الذاتية تحققًا أقوى وآليات للتدخل واستراتيجيات للرجوع الآمن.
في التطبيقات المرتبطة بالسلامة، يجب أن يحتفظ المشغّلون دائمًا بالقدرة على مراجعة الإجراءات التي يولدها الذكاء الاصطناعي أو الاعتراض عليها أو تجاوزها أو تعطيلها عند الضرورة.
يجب تطوير العمليات الصناعية الذاتية خطوةً بخطوة
لا ينبغي اعتبار العمليات الصناعية الذاتية بالكامل مجرد ترقية برمجية. فهي تمثل نقلًا تدريجيًا للسلطة التشغيلية من البشر إلى الأنظمة الذكية.
ينبغي أن يمر مسار التطوير العملي بعدة مراحل:
- يقدّم الذكاء الاصطناعي التحليلات والتوصيات.
- يساعد الذكاء الاصطناعي المشغّلين من خلال دعم اتخاذ القرار.
- يتحكم الذكاء الاصطناعي في وظائف محدودة ضمن حدود صارمة.
- يدير الذكاء الاصطناعي عمليات محددة باستخدام آليات سلامة موثّقة.
تتطلب كل مرحلة أدلة على أن النظام يعمل بشكل موثوق ضمن ظروف التشغيل المحددة.
لن يعتمد مستقبل الذكاء الاصطناعي الصناعي على خوارزميات أكثر قوة فحسب، بل سيعتمد على قدرة المصنّعين ومتكاملي الأنظمة ومالكي الأصول على إثبات أن أنظمة الذكاء الاصطناعي آمنة ومتوقعة وقابلة للصيانة وخاضعة للمساءلة.
بناء نموذج ثقة قابل للإثبات للذكاء الاصطناعي الصناعي
يمتلك الذكاء الاصطناعي إمكانات كبيرة لتحسين الأتمتة الصناعية، لكن لا يمكن بناء الثقة من خلال ادعاءات الأداء وحدها.
يتطلب نظام ذكاء اصطناعي صناعي جدير بالثقة مزيجًا من:
- بنية آمنة
- جودة بيانات موثّقة
- مراقبة مستمرة
- أساليب تحقق قوية
- مسؤولية بشرية واضحة
- آليات فعّالة للرجوع الآمن
لقد أمضى القطاع الصناعي عقودًا في بناء الثقة بالأنظمة المنطقية القابلة للبرمجة (PLC) ومنصات أنظمة التحكم الموزعة (DCS) وأنظمة السلامة وشبكات الأتمتة، من خلال الانضباط الهندسي والاختبارات الصارمة. ويجب أن يتبع الذكاء الاصطناعي المسار نفسه.
يجب ألا يكون الهدف استبدال الخبرة البشرية بالذكاء الاصطناعي. بل يجب أن يكون الهدف الجمع بين قدرات الذكاء الاصطناعي ومبادئ الهندسة الصناعية لإنشاء أنظمة أتمتة أكثر أمانًا وكفاءة ومرونة.
