هوش مصنوعی در حال تغییر بنیان اعتماد در اتوماسیون صنعتی است
هوش مصنوعی بهطور فزایندهای با سامانههای اتوماسیون صنعتی یکپارچه میشود. از نگهداری پیشبینانه و پایش داراییها گرفته تا بهینهسازی هشدارها و پشتیبانی از تصمیمگیری عملیاتی، هوش مصنوعی به مهندسان کمک میکند دادههای پیچیده صنعتی را سریعتر از روشهای سنتی پردازش کنند.
بااینحال، ورود هوش مصنوعی تعریف اعتماد در اتوماسیون را نیز تغییر میدهد. سامانههای کنترل متعارف بر رفتار قطعی مبتنی هستند: ورودی مشخص، خروجی قابل پیشبینی تولید میکند. سامانههای مبتنی بر هوش مصنوعی متفاوت عمل میکنند، زیرا عملکردشان به کیفیت داده، پیکربندی مدل، شرایط محیطی و فرایندهای یادگیری مستمر وابسته است.
از دیدگاه من، بزرگترین چالش این نیست که آیا هوش مصنوعی میتواند عملکرد صنعتی را بهبود دهد یا نه. چالش واقعی این است که آیا صنایع میتوانند ثابت کنند تصمیمهای مبتنی بر هوش مصنوعی در سراسر چرخه عمر عملیاتی، ایمن، قابل توضیح و قابل کنترل باقی میمانند.
هوش مصنوعی فراتر از امنیت سنتی فناوری عملیاتی، خطرات جدیدی ایجاد میکند
امنیت سایبری صنعتی بهطور سنتی بر حفاظت از PLCها، سکوهای DCS، سامانههای SCADA، HMIها، ایستگاههای مهندسی و شبکههای ارتباطی صنعتی تمرکز داشته است. این روشهای حفاظتی همچنان بنیادی هستند، اما هوش مصنوعی حوزههای بیشتری را ایجاد میکند که نیازمند توجه هستند.
اتوماسیون مبتنی بر هوش مصنوعی به چندین مؤلفه پشتیبان، از جمله سامانههای گردآوری داده، محیطهای آموزش، کتابخانههای مدل، سکوهای رایانش لبه، خدمات ابری و سازوکارهای بهروزرسانی نرمافزار، متکی است. هر مؤلفه یک نقطه بالقوه خرابی ایجاد میکند.
برای مثال، اگر دادههای تاریخی تجهیزات ناقص باشند، یک سامانه هوش مصنوعی برای نگهداری پیشبینانه ممکن است توصیههای نادرستی ارائه دهد. اگر اطلاعات حسگرها نادقیق شود، یک مدل بهینهسازی فرایند ممکن است خروجی گمراهکنندهای ارائه کند. در برخی موارد، خود کنترلکننده صنعتی ممکن است همچنان ایمن باقی بماند، درحالیکه توصیههای تولیدشده توسط هوش مصنوعی بر تصمیمهای عملیاتی تأثیر منفی بگذارند.
این موضوع نشاندهنده تغییری در نگرش به امنیت سایبری صنعتی است: دیگر حفاظت از سامانه کنترل بهتنهایی کافی نیست. لایه هوشمندی که بر تصمیمها تأثیر میگذارد نیز باید به بخشی از معماری امنیتی تبدیل شود.
آزمونهای سنتی امنیت نمیتوانند رفتار هوش مصنوعی را بهطور کامل اعتبارسنجی کنند
ارزیابیهای سنتی امنیت فناوری عملیاتی (OT) برای شناسایی آسیبپذیریهای مرتبط با تفکیک شبکه، احراز هویت، کنترل دسترسی، پروتکلهای ارتباطی و پیکربندی سامانه مؤثر هستند.
بااینحال، سامانههای هوش مصنوعی انواع متفاوتی از خطرات را ایجاد میکنند. یک مدل ممکن است در آزمایشهای آزمایشگاهی بهدرستی کار کند، اما پس از استقرار، بهدلیل تغییر شرایط فرایند، الگوهای جدید بهرهبرداری، فرسودهشدن حسگرها یا تغییر منابع داده، نتایج غیرمنتظرهای تولید کند.
خرابیهای هوش مصنوعی اغلب با حملات سایبری سنتی تفاوت دارند. این خرابیها ممکن است به شکلهای زیر ظاهر شوند:
- توصیههای نادرست برای تعمیر و نگهداری
- طبقهبندی نادرست هشدارها
- تصمیمهای نامناسب برای بهینهسازی فرایند
- کاهش عملکرد تجهیزات
- راهنمایی نادرست اپراتور
این خرابیها ممکن است هشدارهای امنیتی متعارف را فعال نکنند، اما همچنان میتوانند بر بهرهوری تولید، دسترسپذیری تجهیزات، حاشیههای ایمنی و انطباق با الزامات مقرراتی تأثیر بگذارند.
بنابراین، اعتبارسنجی هوش مصنوعی باید نهتنها حفاظت در برابر تهدیدهای سایبری، بلکه رفتار عملیاتی در شرایط واقعی صنعتی را نیز در نظر بگیرد.
استفاده از ISA/IEC 62443 بهعنوان چارچوبی برای یکپارچهسازی امنیت هوش مصنوعی
مجموعه استانداردهای ISA/IEC 62443 بنیان قدرتمندی برای یکپارچهسازی فناوریهای هوش مصنوعی در محیطهای اتوماسیون صنعتی فراهم میکند.
اگرچه این استاندارد در اصل برای امنیت سایبری سامانههای کنترل صنعتی تدوین شده است، مفاهیم آن همچنان برای سامانههای مجهز به هوش مصنوعی کاربرد زیادی دارند. ارزیابی ریسک، مناطق امنیتی، مسیرهای ارتباطی، رویههای توسعه امن و اصول مدیریت چرخه عمر میتوانند به سازمانها کمک کنند جایگاه مؤلفههای هوش مصنوعی را در یک معماری صنعتی مشخص کنند.
عناصر مرتبط با هوش مصنوعی مانند:
- خطوط لوله داده
- سامانههای ذخیرهسازی مدل
- موتورهای استنتاج
- سازوکارهای بهروزرسانی تأمینکننده
- رابطهای اپراتور
هنگامی که بر تصمیمهای عملیاتی تأثیر میگذارند، باید بخشی از سامانه اتوماسیون و کنترل صنعتی در نظر گرفته شوند.
از دیدگاه من، نباید با هوش مصنوعی مانند یک برنامه نرمافزاری خارجی برخورد کرد که به سامانه اتوماسیون متصل شده است. هنگامی که هوش مصنوعی بر تصمیمهای تولید تأثیر میگذارد، به یک مؤلفه عملیاتی تبدیل میشود و باید از همان اصول امنیتی و مدیریت چرخه عمر سایر فناوریهای صنعتی پیروی کند.
اعتبارسنجی هوش مصنوعی به شواهد مستمر نیاز دارد، نه آزمون یکباره
سامانههای سنتی اتوماسیون معمولاً پیش از راهاندازی اعتبارسنجی میشوند و سپس از طریق تغییرات کنترلشده نگهداری میشوند. سامانههای هوش مصنوعی به رویکردی پیوستهتر برای اعتبارسنجی نیاز دارند، زیرا عملکردشان به دادهها و محیطهای عملیاتی در حال تغییر وابسته است.
یک فرایند کامل اعتبارسنجی امنیت هوش مصنوعی باید چندین حوزه را دربرگیرد:
راستیآزمایی معماری
سازمانها باید مؤلفههای هوش مصنوعی، جریانهای داده، مجوزهای دسترسی، کانالهای بهروزرسانی و وابستگیهای تأمینکنندگان را در ساختار امنیت صنعتی تأیید کنند.
اعتبارسنجی عملکرد عملیاتی
عملکردهای هوش مصنوعی باید در شرایط عملیاتی واقعگرایانه آزموده شوند تا اطمینان حاصل شود توصیهها برای اپراتورها همچنان دقیق و قابلدرک هستند.
آزمون خصمانه
آزمونها باید بررسی کنند که آیا ورودیهای دستکاریشده، دادههای خراب، وضعیتهای عملیاتی غیرعادی یا مؤلفههای نرمافزاری بهخطرافتاده میتوانند بر رفتار هوش مصنوعی تأثیر بگذارند.
پایش استقرار پیوسته
پس از پیادهسازی، سازمانها باید موارد زیر را پایش کنند:
- تغییرات عملکرد مدل
- کاهش کیفیت دادهها
- بهروزرسانیهای نرمافزاری
- تغییرات پیکربندی
- رفتار غیرمنتظره هوش مصنوعی
اعتماد به هوش مصنوعی را نمیتوان فقط در مرحله توسعه ایجاد کرد. این اعتماد باید در سراسر چرخه عمر عملیاتی حفظ شود.
نظارت انسانی در عملیات مبتنی بر هوش مصنوعی همچنان ضروری است
یکی از برداشتهای نادرست رایج این است که قابلیت بیشتر هوش مصنوعی بهطور خودکار به معنای دخالت کمتر انسان است. در محیطهای صنعتی، این رویکرد خطر غیرضروری ایجاد میکند.
اپراتورهای انسانی درکی زمینهای ارائه میدهند که سامانههای هوش مصنوعی ممکن است نداشته باشند. آنها شرایط غیرعادی واحد صنعتی، محدودیتهای نگهداری، اولویتهای تولید و ملاحظات ایمنی را که ممکن است در مجموعهدادههای تاریخی وجود نداشته باشند، تشخیص میدهند.
سطوح مختلف استفاده از هوش مصنوعی باید به سطوح متفاوتی از کنترل نیاز داشته باشند:
- سامانههای مشاورهای میتوانند با تأیید اپراتور توصیه ارائه دهند.
- سامانههای نظارتی میتوانند عملیات را در محدودههای ازپیشتعریفشده تحت تأثیر قرار دهند.
- سامانههای خودمختار به اعتبارسنجی قویتر، سازوکارهای مداخله و راهبردهای بازگشت به حالت پشتیبان نیاز دارند.
در کاربردهای مرتبط با ایمنی، اپراتورها باید همیشه بتوانند در صورت لزوم اقدامات ایجادشده توسط هوش مصنوعی را بررسی، به چالش بکشند، لغو کنند یا غیرفعال سازند.
عملیات صنعتی خودمختار باید گامبهگام توسعه یابد
عملیات صنعتی کاملاً خودمختار نباید یک ارتقای ساده نرمافزاری در نظر گرفته شود. این عملیات نشاندهنده انتقال تدریجی اختیار عملیاتی از انسانها به سامانههای هوشمند است.
یک مسیر توسعه عملی باید چندین مرحله را طی کند:
- هوش مصنوعی تحلیل و توصیه ارائه میدهد.
- هوش مصنوعی با ارائه پشتیبانی تصمیمگیری به اپراتورها کمک میکند.
- هوش مصنوعی عملکردهای محدودی را در چارچوب مرزهای سختگیرانه کنترل میکند.
- هوش مصنوعی فرایندهای منتخب را با سازوکارهای ایمنی تأییدشده مدیریت میکند.
هر مرحله به شواهدی نیاز دارد که نشان دهد سامانه در شرایط عملیاتی تعریفشده، بهطور قابلاعتماد عمل میکند.
آینده هوش مصنوعی صنعتی فقط به الگوریتمهای قدرتمندتر وابسته نخواهد بود. این آینده به این بستگی دارد که تولیدکنندگان، یکپارچهسازان سامانه و مالکان داراییها بتوانند نشان دهند سامانههای هوش مصنوعی امن، قابلپیشبینی، قابلنگهداری و پاسخگو هستند.
ایجاد مدل قابلدفاع اعتماد برای هوش مصنوعی صنعتی
هوش مصنوعی ظرفیت چشمگیری برای بهبود خودکارسازی صنعتی دارد، اما اعتماد را نمیتوان تنها با ادعاهای مربوط به عملکرد ایجاد کرد.
یک سامانه هوش مصنوعی صنعتی قابلاعتماد به ترکیبی از موارد زیر نیاز دارد:
- معماری امن
- کیفیت تأییدشده دادهها
- پایش مستمر
- روشهای اعتبارسنجی قدرتمند
- مسئولیتپذیری روشن انسانی
- سازوکارهای مؤثر بازگشت به حالت پشتیبان
بخش صنعتی دههها صرف ایجاد اعتماد به PLCها، سکوهای DCS، سامانههای ایمنی و شبکههای خودکارسازی از طریق انضباط مهندسی و آزمونهای دقیق کرده است. هوش مصنوعی نیز باید همین مسیر را طی کند.
هدف نباید جایگزین کردن تخصص انسانی با هوش مصنوعی باشد. هدف باید ترکیب قابلیتهای هوش مصنوعی با اصول مهندسی صنعتی برای ایجاد سامانههای خودکارسازی ایمنتر، کارآمدتر و تابآورتر باشد.
