Umjetna inteligencija mijenja temelje povjerenja u industrijsku automatizaciju
Umjetna inteligencija sve se više integrira u industrijske sustave automatizacije. Od prediktivnog održavanja i nadzora imovine do optimizacije alarma i potpore operativnom odlučivanju, umjetna inteligencija pomaže inženjerima brže obrađivati složene industrijske podatke nego što to omogućuju tradicionalne metode.
Međutim, uvođenje umjetne inteligencije također mijenja definiciju povjerenja u automatizaciji. Konvencionalni upravljački sustavi temelje se na determinističkom ponašanju: definirani ulaz proizvodi predvidljiv izlaz. Sustavi temeljeni na umjetnoj inteligenciji funkcioniraju drugačije jer njihova izvedba ovisi o kvaliteti podataka, konfiguraciji modela, uvjetima okruženja i procesima kontinuiranog učenja.
Po mom mišljenju, najveći izazov nije pitanje može li umjetna inteligencija poboljšati industrijske performanse. Pravi je izazov mogu li industrije dokazati da odluke koje donosi umjetna inteligencija ostaju sigurne, objašnjive i podložne kontroli tijekom cijelog operativnog životnog ciklusa.
Umjetna inteligencija uvodi nove rizike izvan tradicionalne sigurnosti OT sustava
Industrijska kibernetička sigurnost tradicionalno je usmjerena na zaštitu PLC-ova, DCS platformi, SCADA sustava, HMI-ja, inženjerskih stanica i industrijskih komunikacijskih mreža. Ove metode zaštite i dalje su temeljne, ali umjetna inteligencija uvodi dodatna područja kojima je potrebno posvetiti pozornost.
Automatizacija omogućena umjetnom inteligencijom oslanja se na više pomoćnih komponenti, uključujući sustave za prikupljanje podataka, okruženja za obuku, biblioteke modela, platforme za računalstvo na rubu mreže, usluge u oblaku i mehanizme za ažuriranje softvera. Svaka komponenta predstavlja potencijalnu točku kvara.
Na primjer, sustav umjetne inteligencije za prediktivno održavanje može generirati netočne preporuke ako su povijesni podaci o opremi nepotpuni. Model za optimizaciju procesa može davati obmanjujuće rezultate ako podaci senzora postanu netočni. U nekim slučajevima sam industrijski upravljač može ostati siguran, dok preporuke koje generira umjetna inteligencija negativno utječu na operativne odluke.
To predstavlja promjenu u načinu razmišljanja o industrijskoj kibernetičkoj sigurnosti: više nije dovoljno štititi samo upravljački sustav. Sloj inteligencije koji utječe na odluke također mora postati dio sigurnosne arhitekture.
Tradicionalnim sigurnosnim testiranjem nije moguće u potpunosti provjeriti ponašanje umjetne inteligencije
Tradicionalne procjene sigurnosti OT sustava učinkovite su u prepoznavanju ranjivosti povezanih s mrežnom segmentacijom, autentifikacijom, kontrolom pristupa, komunikacijskim protokolima i konfiguracijom sustava.
Međutim, sustavi umjetne inteligencije uvode različite vrste rizika. Model može ispravno funkcionirati tijekom laboratorijskog testiranja, ali nakon uvođenja u rad davati neočekivane rezultate zbog promjenjivih procesnih uvjeta, novih obrazaca rada, degradiranih senzora ili izmijenjenih izvora podataka.
Kvarovi umjetne inteligencije često se razlikuju od tradicionalnih kibernetičkih napada. Mogu se pojaviti kao:
- Neispravne preporuke za održavanje
- Pogrešno klasificirani alarmi
- Loše odluke o optimizaciji procesa
- Smanjene performanse opreme
- Neispravne upute operaterima
Ovi kvarovi možda neće aktivirati uobičajena sigurnosna upozorenja, ali i dalje mogu utjecati na učinkovitost proizvodnje, dostupnost opreme, sigurnosne margine i usklađenost s propisima.
Stoga provjera umjetne inteligencije mora uzeti u obzir ne samo zaštitu od kibernetičkih prijetnji nego i operativno ponašanje u stvarnim industrijskim uvjetima.
Upotreba norme ISA/IEC 62443 kao okvira za integraciju sigurnosti umjetne inteligencije
Serija normi ISA/IEC 62443 pruža čvrst temelj za integraciju tehnologija umjetne inteligencije u industrijska okruženja automatizacije.
Iako je izvorno razvijen za kibernetičku sigurnost industrijskih upravljačkih sustava, njegovi su koncepti i dalje vrlo primjenjivi na sustave s umjetnom inteligencijom. Procjena rizika, sigurnosne zone, komunikacijski putevi, sigurne razvojne prakse i načela upravljanja životnim ciklusom mogu pomoći organizacijama da definiraju mjesto komponenti umjetne inteligencije unutar industrijske arhitekture.
Elementi povezani s umjetnom inteligencijom, kao što su:
- Podatkovni cjevovodi
- Sustavi za pohranu modela
- Mehanizmi za zaključivanje
- Mehanizmi za ažuriranje dobavljača
- Sučelja za operatere
trebali bi se smatrati dijelom industrijskog sustava automatizacije i upravljanja kada utječu na operativne odluke.
Smatram da se umjetna inteligencija ne bi trebala tretirati kao vanjska softverska aplikacija priključena na sustav automatizacije. Kada umjetna inteligencija utječe na proizvodne odluke, postaje operativna komponenta te treba slijediti ista načela sigurnosti i upravljanja životnim ciklusom kao i druge industrijske tehnologije.
Provjera umjetne inteligencije zahtijeva kontinuirane dokaze, a ne jednokratno testiranje
Tradicionalni sustavi automatizacije obično se provjeravaju prije puštanja u rad, a zatim održavaju kroz kontrolirane izmjene. Sustavi umjetne inteligencije zahtijevaju kontinuiraniji pristup provjeri jer njihove performanse ovise o promjenjivim podacima i operativnim okruženjima.
Potpuni postupak provjere sigurnosti umjetne inteligencije trebao bi obuhvaćati nekoliko područja:
Provjera arhitekture
Organizacije trebaju potvrditi komponente umjetne inteligencije, tokove podataka, dopuštenja pristupa, kanale za ažuriranje i ovisnosti o dobavljačima unutar strukture industrijske sigurnosti.
Provjera operativnih performansi
Funkcije umjetne inteligencije moraju se testirati u realističnim radnim uvjetima kako bi se provjerilo da preporuke ostaju točne i razumljive operaterima.
Protivničko testiranje
Testiranjem treba ispitati mogu li manipulirani ulazi, oštećeni podaci, abnormalna radna stanja ili kompromitirane softverske komponente utjecati na ponašanje umjetne inteligencije.
Kontinuirano praćenje implementacije
Nakon implementacije organizacije trebaju pratiti:
- Promjene performansi modela
- Pogoršanje kvalitete podataka
- Ažuriranja softvera
- Izmjene konfiguracije
- Neočekivano ponašanje umjetne inteligencije
Povjerenje u umjetnu inteligenciju ne može se uspostaviti samo tijekom razvoja. Mora se održavati tijekom cijelog operativnog životnog ciklusa.
Ljudski nadzor ostaje ključan u operacijama temeljenima na umjetnoj inteligenciji
Jedna od čestih zabluda jest da veća sposobnost umjetne inteligencije automatski znači manju uključenost ljudi. U industrijskim okruženjima takav pristup stvara nepotreban rizik.
Ljudski operateri pružaju kontekstualno razumijevanje koje sustavi umjetne inteligencije možda nemaju. Prepoznaju neuobičajene uvjete u postrojenju, ograničenja održavanja, proizvodne prioritete i sigurnosne aspekte koji možda ne postoje u povijesnim skupovima podataka.
Različite razine upotrebe umjetne inteligencije trebale bi zahtijevati različite razine nadzora:
- Savjetodavni sustavi mogu davati preporuke uz odobrenje operatera.
- Nadzorni sustavi mogu utjecati na rad unutar unaprijed definiranih ograničenja.
- Autonomni sustavi zahtijevaju strožu validaciju, mehanizme intervencije i strategije povratka na rezervni način rada.
Za sigurnosno važne primjene operateri uvijek moraju imati mogućnost pregleda, osporavanja, nadjačavanja ili onemogućavanja radnji koje je generirala umjetna inteligencija kada je to potrebno.
Autonomne industrijske operacije moraju se razvijati korak po korak
Potpuno autonomne industrijske operacije ne bi se trebale smatrati jednostavnom softverskom nadogradnjom. One predstavljaju postupan prijenos operativnih ovlasti s ljudi na inteligentne sustave.
Praktičan razvojni put trebao bi prolaziti kroz nekoliko faza:
- Umjetna inteligencija pruža analize i preporuke.
- Umjetna inteligencija pomaže operaterima podrškom pri donošenju odluka.
- Umjetna inteligencija upravlja ograničenim funkcijama unutar strogo definiranih granica.
- Umjetna inteligencija upravlja odabranim procesima uz provjerene sigurnosne mehanizme.
Svaka faza zahtijeva dokaze da sustav pouzdano radi unutar definiranih radnih uvjeta.
Budućnost industrijske umjetne inteligencije neće ovisiti samo o snažnijim algoritmima. Ovisit će o tome mogu li proizvođači, sistemski integratori i vlasnici imovine dokazati da su sustavi umjetne inteligencije sigurni, predvidljivi, lako održivi i odgovorni.
Izgradnja utemeljenog modela povjerenja za industrijsku umjetnu inteligenciju
Umjetna inteligencija ima velik potencijal za unapređenje industrijske automatizacije, ali povjerenje se ne može izgraditi samo tvrdnjama o performansama.
Pouzdan industrijski sustav umjetne inteligencije zahtijeva kombinaciju:
- Sigurna arhitektura
- Provjerena kvaliteta podataka
- Kontinuirani nadzor
- Pouzdane metode validacije
- Jasna ljudska odgovornost
- Učinkoviti mehanizmi za povratak na rezervni način rada
Industrijski sektor desetljećima gradi povjerenje u PLC-ove, DCS platforme, sigurnosne sustave i automatizacijske mreže kroz inženjersku disciplinu i rigorozna testiranja. Umjetna inteligencija mora slijediti isti put.
Cilj ne bi trebao biti zamijeniti ljudsko stručnost umjetnom inteligencijom. Cilj bi trebao biti kombinirati mogućnosti umjetne inteligencije s načelima industrijskog inženjerstva kako bi se stvorili sigurniji, učinkovitiji i otporniji automatizacijski sustavi.
