Veštačka inteligencija menja osnovu poverenja u industrijsku automatizaciju
Veštačka inteligencija se sve više integriše u sisteme industrijske automatizacije. Od prediktivnog održavanja i nadzora imovine do optimizacije alarma i podrške operativnom odlučivanju, veštačka inteligencija pomaže inženjerima da obrađuju složene industrijske podatke brže nego što to tradicionalne metode omogućavaju.
Međutim, uvođenje veštačke inteligencije menja i definiciju poverenja u automatizaciji. Konvencionalni kontrolni sistemi zasnivaju se na determinističkom ponašanju: definisan ulaz proizvodi predvidiv izlaz. Sistemi zasnovani na veštačkoj inteligenciji funkcionišu drugačije jer njihove performanse zavise od kvaliteta podataka, konfiguracije modela, uslova okruženja i procesa kontinuiranog učenja.
Po mom mišljenju, najveći izazov nije pitanje da li veštačka inteligencija može da poboljša industrijske performanse. Pravi izazov je da li industrije mogu da dokažu da odluke zasnovane na veštačkoj inteligenciji ostaju bezbedne, objašnjive i podložne kontroli tokom čitavog operativnog životnog ciklusa.
Veštačka inteligencija uvodi nove rizike izvan tradicionalne OT bezbednosti
Industrijska sajber-bezbednost tradicionalno je usmerena na zaštitu PLC-ova, DCS platformi, SCADA sistema, HMI uređaja, inženjerskih stanica i industrijskih komunikacionih mreža. Ove metode zaštite i dalje su od suštinskog značaja, ali veštačka inteligencija uvodi dodatne oblasti kojima treba posvetiti pažnju.
Automatizacija zasnovana na veštačkoj inteligenciji oslanja se na više pomoćnih komponenti, uključujući sisteme za prikupljanje podataka, okruženja za obuku, biblioteke modela, platforme za računarstvo na ivici mreže, usluge u oblaku i mehanizme za ažuriranje softvera. Svaka komponenta predstavlja potencijalnu tačku otkaza.
Na primer, sistem veštačke inteligencije za prediktivno održavanje može generisati netačne preporuke ako su istorijski podaci o opremi nepotpuni. Model za optimizaciju procesa može pružiti obmanjujući rezultat ako informacije sa senzora postanu netačne. U nekim slučajevima, sam industrijski kontroler može ostati bezbedan, dok preporuke generisane veštačkom inteligencijom negativno utiču na operativne odluke.
Ovo predstavlja promenu u načinu razmišljanja o industrijskoj sajber-bezbednosti: više nije dovoljno zaštititi samo kontrolni sistem. Sloj inteligencije koji utiče na odluke takođe mora postati deo bezbednosne arhitekture.
Tradicionalno testiranje bezbednosti ne može u potpunosti da proveri ponašanje veštačke inteligencije
Tradicionalne procene OT bezbednosti efikasne su za identifikovanje ranjivosti povezanih sa segmentacijom mreže, autentifikacijom, kontrolom pristupa, komunikacionim protokolima i konfiguracijom sistema.
Međutim, sistemi veštačke inteligencije uvode različite vrste rizika. Model može ispravno funkcionisati tokom laboratorijskog testiranja, ali nakon puštanja u rad davati neočekivane rezultate zbog promena uslova procesa, novih obrazaca rada, degradiranih senzora ili izmenjenih izvora podataka.
Kvarovi veštačke inteligencije često se razlikuju od tradicionalnih sajbernapada. Mogu se ispoljiti kao:
- Pogrešne preporuke za održavanje
- Pogrešno klasifikovani alarmi
- Loše odluke o optimizaciji procesa
- Smanjene performanse opreme
- Pogrešne smernice za operatere
Ovi kvarovi možda neće aktivirati uobičajene bezbednosne alarme, ali i dalje mogu uticati na efikasnost proizvodnje, dostupnost opreme, bezbednosne margine i usklađenost sa propisima.
Stoga validacija veštačke inteligencije mora da uzme u obzir ne samo zaštitu sajberbezbednosti već i operativno ponašanje u realnim industrijskim uslovima.
Korišćenje standarda ISA/IEC 62443 kao okvira za integraciju bezbednosti veštačke inteligencije
Serija standarda ISA/IEC 62443 pruža snažnu osnovu za integraciju tehnologija veštačke inteligencije u industrijska okruženja automatizacije.
Iako je prvobitno razvijen za sajberbezbednost industrijskih upravljačkih sistema, njegovi koncepti su i dalje veoma primenljivi na sisteme sa veštačkom inteligencijom. Procena rizika, bezbednosne zone, komunikacioni putevi, bezbedne razvojne prakse i principi upravljanja životnim ciklusom mogu pomoći organizacijama da odrede gde komponente veštačke inteligencije pripadaju u okviru industrijske arhitekture.
Elementi povezani sa veštačkom inteligencijom, kao što su:
- Tokovi podataka
- Sistemi za skladištenje modela
- Mašine za zaključivanje
- Mehanizmi za ažuriranje dobavljača
- Interfejsi za operatere
treba smatrati delom industrijskog sistema automatizacije i upravljanja kada utiču na operativne odluke.
Smatram da veštačku inteligenciju ne treba tretirati kao eksternu softversku aplikaciju priključenu na sistem automatizacije. Kada veštačka inteligencija utiče na odluke u proizvodnji, ona postaje operativna komponenta i treba da sledi iste principe bezbednosti i upravljanja životnim ciklusom kao i druge industrijske tehnologije.
Validacija veštačke inteligencije zahteva kontinuirane dokaze, a ne jednokratno testiranje
Tradicionalni sistemi automatizacije obično se validiraju pre puštanja u rad, a zatim održavaju kroz kontrolisane izmene. Sistemi veštačke inteligencije zahtevaju kontinuiraniji pristup validaciji jer njihove performanse zavise od promenljivih podataka i radnih okruženja.
Potpun proces validacije bezbednosti veštačke inteligencije treba da obuhvati nekoliko oblasti:
Verifikacija arhitekture
Organizacije treba da potvrde komponente veštačke inteligencije, tokove podataka, dozvole pristupa, kanale za ažuriranje i zavisnosti od dobavljača u okviru strukture industrijske bezbednosti.
Validacija operativnih performansi
Funkcije veštačke inteligencije moraju biti testirane u realističnim radnim uslovima kako bi se proverilo da preporuke ostaju tačne i razumljive operaterima.
Adverzno testiranje
Testiranjem treba ispitati da li manipulisani ulazi, oštećeni podaci, neuobičajena radna stanja ili kompromitovane softverske komponente mogu uticati na ponašanje veštačke inteligencije.
Kontinuirano praćenje implementacije
Nakon implementacije, organizacije treba da prate:
- Promene performansi modela
- Pogoršanje kvaliteta podataka
- Ažuriranja softvera
- Izmene konfiguracije
- Neočekivano ponašanje veštačke inteligencije
Poverenje u veštačku inteligenciju ne može da se uspostavi samo tokom razvoja. Ono se mora održavati tokom čitavog operativnog životnog ciklusa.
Ljudski nadzor ostaje ključan u operacijama zasnovanim na veštačkoj inteligenciji
Jedno često pogrešno shvatanje jeste da veća sposobnost veštačke inteligencije automatski znači manje ljudskog angažovanja. U industrijskim okruženjima, takav pristup stvara nepotreban rizik.
Ljudski operateri pružaju kontekstualno razumevanje koje sistemi veštačke inteligencije možda nemaju. Oni prepoznaju neuobičajene uslove u postrojenju, ograničenja održavanja, proizvodne prioritete i bezbednosne aspekte koji možda ne postoje u istorijskim skupovima podataka.
Različiti nivoi upotrebe veštačke inteligencije trebalo bi da zahtevaju različite nivoe kontrole:
- Savetodavni sistemi mogu da daju preporuke uz odobrenje operatera.
- Nadzorni sistemi mogu da utiču na rad u okviru unapred definisanih ograničenja.
- Autonomni sistemi zahtevaju strožu validaciju, mehanizme za intervenciju i strategije za povratak na rezervni režim.
Kod primena povezanih sa bezbednošću, operateri uvek moraju imati mogućnost da pregledaju, ospore, ponište ili onemoguće radnje koje je generisala veštačka inteligencija kada je to potrebno.
Autonomne industrijske operacije moraju da se razvijaju korak po korak
Potpuno autonomne industrijske operacije ne treba posmatrati kao jednostavnu nadogradnju softvera. One predstavljaju postepen prenos operativnih ovlašćenja sa ljudi na inteligentne sisteme.
Praktičan razvojni put trebalo bi da se odvija kroz nekoliko faza:
- Veštačka inteligencija pruža analize i preporuke.
- Veštačka inteligencija pomaže operaterima pružanjem podrške pri donošenju odluka.
- Veštačka inteligencija upravlja ograničenim funkcijama u okviru strogo definisanih granica.
- Veštačka inteligencija upravlja odabranim procesima uz proverene bezbednosne mehanizme.
Svaka faza zahteva dokaze da sistem pouzdano funkcioniše u okviru definisanih radnih uslova.
Budućnost industrijske veštačke inteligencije neće zavisiti samo od moćnijih algoritama. Zavisiće od toga da li proizvođači, sistem-integratori i vlasnici postrojenja mogu da dokažu da su sistemi veštačke inteligencije bezbedni, predvidivi, laki za održavanje i odgovorni.
Izgradnja pouzdanog modela poverenja za industrijsku veštačku inteligenciju
Veštačka inteligencija ima značajan potencijal da unapredi industrijsku automatizaciju, ali poverenje se ne može izgraditi samo tvrdnjama o performansama.
Pouzdan industrijski sistem veštačke inteligencije zahteva kombinaciju sledećeg:
- Bezbedna arhitektura
- Proveren kvalitet podataka
- Kontinuirano nadgledanje
- Pouzdane metode validacije
- Jasna ljudska odgovornost
- Delotvorni mehanizmi za povratak na rezervni režim
Industrijski sektor je decenijama gradio poverenje u PLC-ove, DCS platforme, bezbednosne sisteme i mreže automatizacije kroz inženjersku disciplinu i rigorozna testiranja. Veštačka inteligencija mora da sledi isti put.
Cilj ne treba da bude zamena ljudske stručnosti veštačkom inteligencijom. Cilj treba da bude kombinovanje mogućnosti veštačke inteligencije sa principima industrijskog inženjerstva radi stvaranja bezbednijih, efikasnijih i otpornijih sistema automatizacije.
