AI Mengubah Asas Kepercayaan terhadap Automasi Industri
Kecerdasan buatan semakin banyak diintegrasikan ke dalam sistem automasi industri. Daripada penyelenggaraan ramalan dan pemantauan aset kepada pengoptimuman penggera serta sokongan keputusan operasi, AI membantu jurutera memproses data industri yang kompleks dengan lebih pantas berbanding kaedah tradisional.
Walau bagaimanapun, pengenalan AI turut mengubah takrif kepercayaan dalam automasi. Sistem kawalan konvensional berasaskan tingkah laku deterministik: input yang ditentukan menghasilkan output yang boleh diramal. Sistem berasaskan AI beroperasi secara berbeza kerana prestasinya bergantung pada kualiti data, konfigurasi model, keadaan persekitaran dan proses pembelajaran berterusan.
Pada pandangan saya, cabaran terbesar bukanlah sama ada AI boleh meningkatkan prestasi industri. Cabaran sebenar ialah sama ada industri boleh membuktikan bahawa keputusan dipacu AI kekal selamat, boleh dijelaskan dan boleh dikawal sepanjang keseluruhan kitar hayat operasi.
AI Memperkenalkan Risiko Baharu Melangkaui Keselamatan OT Tradisional
Keselamatan siber industri secara tradisinya tertumpu pada perlindungan PLC, platform DCS, sistem SCADA, HMI, stesen kejuruteraan dan rangkaian komunikasi industri. Kaedah perlindungan ini kekal asas, tetapi AI memperkenalkan bidang tambahan yang memerlukan perhatian.
Automasi berdaya AI bergantung pada pelbagai komponen sokongan, termasuk sistem pengumpulan data, persekitaran latihan, pustaka model, platform pengkomputeran pinggir, perkhidmatan awan dan mekanisme kemas kini perisian. Setiap komponen mewujudkan titik kegagalan yang berpotensi.
Sebagai contoh, sistem penyelenggaraan ramalan berasaskan AI mungkin menghasilkan pengesyoran yang salah jika data sejarah peralatan tidak lengkap. Model pengoptimuman proses mungkin memberikan output yang mengelirukan jika maklumat sensor menjadi tidak tepat. Dalam sesetengah kes, pengawal industri itu sendiri mungkin kekal selamat sementara pengesyoran yang dijana AI mempengaruhi keputusan operasi secara negatif.
Hal ini mewakili perubahan dalam pemikiran keselamatan siber industri: melindungi sistem kawalan sahaja tidak lagi mencukupi. Lapisan kecerdasan yang mempengaruhi keputusan juga mesti menjadi sebahagian daripada seni bina keselamatan.
Ujian Keselamatan Tradisional Tidak Dapat Mengesahkan Tingkah Laku AI Sepenuhnya
Penilaian keselamatan OT tradisional berkesan untuk mengenal pasti kerentanan yang berkaitan dengan pembahagian rangkaian, pengesahan, kawalan akses, protokol komunikasi dan konfigurasi sistem.
Walau bagaimanapun, sistem AI memperkenalkan pelbagai jenis risiko. Model mungkin berfungsi dengan betul semasa ujian makmal tetapi menghasilkan keputusan yang tidak dijangka selepas digunakan akibat perubahan keadaan proses, corak operasi baharu, sensor yang merosot atau sumber data yang diubah suai.
Kegagalan AI sering berbeza daripada serangan siber tradisional. Kegagalan ini mungkin muncul sebagai:
- Pengesyoran penyelenggaraan yang tidak betul
- Pengelasan amaran yang salah
- Keputusan pengoptimuman proses yang lemah
- Prestasi peralatan yang berkurangan
- Panduan operator yang tidak betul
Kegagalan ini mungkin tidak mencetuskan amaran keselamatan konvensional, tetapi masih boleh menjejaskan kecekapan pengeluaran, ketersediaan peralatan, margin keselamatan dan pematuhan peraturan.
Oleh itu, pengesahan AI mesti mempertimbangkan bukan sahaja perlindungan keselamatan siber, tetapi juga tingkah laku operasi dalam keadaan industri sebenar.
Menggunakan ISA/IEC 62443 sebagai Rangka Kerja untuk Integrasi Keselamatan AI
Siri piawaian ISA/IEC 62443 menyediakan asas yang kukuh untuk mengintegrasikan teknologi AI ke dalam persekitaran automasi industri.
Walaupun pada asalnya dibangunkan untuk keselamatan siber sistem kawalan industri, konsepnya kekal sangat relevan untuk sistem yang didayakan AI. Penilaian risiko, zon keselamatan, laluan komunikasi, amalan pembangunan selamat dan prinsip pengurusan kitar hayat dapat membantu organisasi menentukan kedudukan komponen AI dalam seni bina industri.
Elemen berkaitan AI seperti:
- Saluran paip data
- Sistem penyimpanan model
- Enjin inferens
- Mekanisme kemas kini pembekal
- Antara muka operator
hendaklah dianggap sebahagian daripada sistem automasi dan kawalan industri apabila mempengaruhi keputusan operasi.
Pada pandangan saya, AI tidak sepatutnya dianggap sebagai aplikasi perisian luaran yang dipasang pada sistem automasi. Setelah AI mempengaruhi keputusan pengeluaran, ia menjadi komponen operasi dan hendaklah mengikuti prinsip keselamatan serta pengurusan kitar hayat yang sama seperti teknologi industri lain.
Pengesahan AI Memerlukan Bukti Berterusan, Bukan Pengujian Sekali Sahaja
Sistem automasi tradisional biasanya disahkan sebelum pentauliahan dan kemudiannya diselenggara melalui pengubahsuaian terkawal. Sistem AI memerlukan pendekatan pengesahan yang lebih berterusan kerana prestasinya bergantung pada data dan persekitaran operasi yang berubah.
Proses pengesahan keselamatan AI yang lengkap hendaklah merangkumi beberapa bidang:
Pengesahan Seni Bina
Organisasi perlu mengesahkan komponen AI, aliran data, kebenaran akses, saluran kemas kini dan kebergantungan pembekal dalam struktur keselamatan industri.
Pengesahan Prestasi Operasi
Fungsi AI mesti diuji dalam keadaan operasi yang realistik untuk mengesahkan bahawa pengesyoran kekal tepat dan mudah difahami oleh operator.
Pengujian Adversarial
Pengujian hendaklah meneliti sama ada input yang dimanipulasi, data yang rosak, keadaan operasi yang tidak normal atau komponen perisian yang telah terjejas boleh mempengaruhi tingkah laku AI.
Pemantauan Penerapan Berterusan
Selepas pelaksanaan, organisasi hendaklah memantau:
- Perubahan prestasi model
- Kemerosotan kualiti data
- Kemas kini perisian
- Pengubahsuaian konfigurasi
- Tingkah laku AI yang tidak dijangka
Kepercayaan terhadap AI tidak boleh diwujudkan hanya semasa pembangunan. Kepercayaan itu mesti dikekalkan sepanjang kitar hayat operasi.
Pengawasan Manusia Kekal Penting dalam Operasi Berasaskan AI
Satu salah faham yang lazim ialah keupayaan AI yang lebih tinggi secara automatik bermakna penglibatan manusia yang lebih rendah. Dalam persekitaran industri, pendekatan ini mewujudkan risiko yang tidak perlu.
Pengendali manusia memberikan pemahaman kontekstual yang mungkin tidak dimiliki oleh sistem AI. Mereka mengenal pasti keadaan loji yang luar biasa, batasan penyelenggaraan, keutamaan pengeluaran dan pertimbangan keselamatan yang mungkin tiada dalam set data sejarah.
Tahap penggunaan AI yang berbeza harus memerlukan tahap kawalan yang berbeza:
- Sistem nasihat boleh memberikan cadangan dengan kelulusan pengendali.
- Sistem penyeliaan boleh mempengaruhi operasi dalam had yang telah ditetapkan.
- Sistem autonomi memerlukan pengesahan yang lebih kukuh, mekanisme campur tangan dan strategi sandaran.
Untuk aplikasi berkaitan keselamatan, pengendali mesti sentiasa mempunyai keupayaan untuk menyemak, mencabar, mengatasi atau menyahdayakan tindakan yang dijana AI apabila perlu.
Operasi Industri Autonomi Mesti Dibangunkan Secara Berperingkat
Operasi industri yang autonomi sepenuhnya tidak seharusnya dianggap sebagai peningkatan perisian yang mudah. Operasi ini mewakili pemindahan kuasa operasi secara beransur-ansur daripada manusia kepada sistem pintar.
Laluan pembangunan yang praktikal harus melalui beberapa peringkat:
- AI menyediakan analisis dan cadangan.
- AI membantu pengendali melalui sokongan membuat keputusan.
- AI mengawal fungsi terhad dalam sempadan yang ketat.
- AI mengurus proses terpilih dengan mekanisme keselamatan yang disahkan.
Setiap peringkat memerlukan bukti bahawa sistem berfungsi dengan boleh dipercayai dalam keadaan operasi yang ditetapkan.
Masa depan AI industri tidak hanya bergantung pada algoritma yang lebih berkuasa. Ia bergantung pada keupayaan pengilang, penyepadu sistem dan pemilik aset untuk menunjukkan bahawa sistem AI adalah selamat, boleh diramal, mudah diselenggara dan bertanggungjawab.
Membina Model Kepercayaan yang Boleh Dipertahankan untuk AI Industri
AI mempunyai potensi besar untuk meningkatkan automasi industri, tetapi kepercayaan tidak boleh dibina melalui dakwaan prestasi semata-mata.
Sistem AI industri yang boleh dipercayai memerlukan gabungan:
- Seni bina yang selamat
- Kualiti data yang disahkan
- Pemantauan berterusan
- Kaedah pengesahan yang kukuh
- Tanggungjawab manusia yang jelas
- Mekanisme sandaran yang berkesan
Sektor industri telah menghabiskan masa berdekad-dekad untuk membina keyakinan terhadap PLC, platform DCS, sistem keselamatan dan rangkaian automasi melalui disiplin kejuruteraan serta ujian yang ketat. AI mesti mengikuti laluan yang sama.
Matlamatnya bukan untuk menggantikan kepakaran manusia dengan kecerdasan buatan. Matlamatnya ialah menggabungkan keupayaan AI dengan prinsip kejuruteraan industri untuk mencipta sistem automasi yang lebih selamat, cekap dan berdaya tahan.
