ИИ меняет основу доверия к промышленной автоматизации
Искусственный интеллект всё активнее интегрируется в системы промышленной автоматизации. От прогнозного технического обслуживания и мониторинга активов до оптимизации аварийных сигналов и поддержки эксплуатационных решений — ИИ помогает инженерам обрабатывать сложные промышленные данные быстрее, чем позволяют традиционные методы.
Однако внедрение ИИ также меняет само понятие доверия к автоматизации. Обычные системы управления основаны на детерминированном поведении: определённому входному сигналу соответствует предсказуемый выходной сигнал. Системы на основе ИИ работают иначе, поскольку их эффективность зависит от качества данных, конфигурации модели, условий окружающей среды и процессов непрерывного обучения.
На мой взгляд, главная проблема заключается не в том, может ли ИИ повысить эффективность промышленности. Настоящий вызов — доказать, что решения на основе ИИ остаются безопасными, объяснимыми и управляемыми на протяжении всего жизненного цикла эксплуатации.
ИИ создаёт новые риски, выходящие за рамки традиционной безопасности OT
Традиционно промышленная кибербезопасность была сосредоточена на защите ПЛК, платформ DCS, систем SCADA, человеко-машинных интерфейсов, инженерных станций и промышленных сетей связи. Эти методы защиты по-прежнему имеют основополагающее значение, однако ИИ добавляет новые области, требующие внимания.
Автоматизация на основе ИИ опирается на множество вспомогательных компонентов, включая системы сбора данных, среды обучения, библиотеки моделей, периферийные вычислительные платформы, облачные сервисы и механизмы обновления программного обеспечения. Каждый компонент создаёт потенциальную точку отказа.
Например, система прогнозного технического обслуживания на основе ИИ может формировать неверные рекомендации, если исторические данные об оборудовании неполны. Модель оптимизации процесса может выдавать вводящие в заблуждение результаты, если данные датчиков становятся неточными. В некоторых случаях сам промышленный контроллер может оставаться защищённым, в то время как рекомендации, сгенерированные ИИ, негативно влияют на принятие эксплуатационных решений.
Это означает изменение подхода к промышленной кибербезопасности: одной защиты системы управления уже недостаточно. Интеллектуальный уровень, влияющий на принятие решений, также должен стать частью архитектуры безопасности.
Традиционное тестирование безопасности не позволяет полностью проверить поведение ИИ
Традиционные оценки безопасности OT эффективно выявляют уязвимости, связанные с сегментацией сети, аутентификацией, контролем доступа, протоколами связи и конфигурацией системы.
Однако системы ИИ создают различные типы рисков. Модель может корректно работать во время лабораторных испытаний, но после внедрения выдавать неожиданные результаты из-за изменения условий процесса, появления новых режимов эксплуатации, ухудшения состояния датчиков или изменения источников данных.
Сбои ИИ часто отличаются от традиционных кибератак. Они могут проявляться следующим образом:
- Некорректные рекомендации по техническому обслуживанию
- Неправильная классификация аварийных сигналов
- Неудачные решения по оптимизации процессов
- Снижение производительности оборудования
- Некорректные указания оператору
Такие сбои могут не вызывать обычных предупреждений системы безопасности, но при этом влиять на эффективность производства, доступность оборудования, запасы безопасности и соблюдение нормативных требований.
Поэтому при проверке ИИ необходимо учитывать не только защиту от киберугроз, но и эксплуатационное поведение в реальных промышленных условиях.
Использование ISA/IEC 62443 как основы интеграции безопасности ИИ
Серия стандартов ISA/IEC 62443 предоставляет надёжную основу для интеграции технологий ИИ в промышленные среды автоматизации.
Хотя изначально эта серия стандартов была разработана для кибербезопасности систем промышленного управления, её концепции по-прежнему имеют высокую применимость к системам с поддержкой ИИ. Оценка рисков, зоны безопасности, пути передачи данных, безопасные методы разработки и принципы управления жизненным циклом могут помочь организациям определить место компонентов ИИ в промышленной архитектуре.
Элементы, связанные с ИИ, такие как:
- Конвейеры обработки данных
- Системы хранения моделей
- Механизмы логического вывода
- Механизмы обновления поставщика
- Интерфейсы операторов
следует считать частью системы промышленной автоматизации и управления, если они влияют на эксплуатационные решения.
Я считаю, что ИИ не следует рассматривать как внешнее программное приложение, подключённое к системе автоматизации. Как только ИИ начинает влиять на производственные решения, он становится эксплуатационным компонентом и должен подчиняться тем же принципам безопасности и управления жизненным циклом, что и другие промышленные технологии.
Для проверки ИИ необходимы непрерывные подтверждения, а не разовое тестирование
Традиционные системы автоматизации обычно проверяют до ввода в эксплуатацию, а затем обслуживают посредством контролируемых изменений. Для систем ИИ требуется более непрерывный подход к проверке, поскольку их производительность зависит от изменяющихся данных и рабочих условий.
Полный процесс проверки безопасности ИИ должен охватывать несколько областей:
Проверка архитектуры
Организации должны подтвердить наличие компонентов ИИ, потоков данных, разрешений доступа, каналов обновления и зависимостей от поставщиков в структуре промышленной безопасности.
Проверка эксплуатационной производительности
Функции ИИ необходимо тестировать в реалистичных рабочих условиях, чтобы убедиться, что рекомендации остаются точными и понятными для операторов.
Тестирование на устойчивость к атакам
Тестирование должно проверять, могут ли изменённые входные данные, повреждённые данные, аномальные рабочие состояния или скомпрометированные программные компоненты влиять на поведение ИИ.
Непрерывный мониторинг развертывания
После внедрения организации должны отслеживать:
- Изменения производительности модели
- Ухудшение качества данных
- Обновления программного обеспечения
- Изменения конфигурации
- Неожиданное поведение ИИ
Доверие к ИИ нельзя сформировать только на этапе разработки. Его необходимо поддерживать на протяжении всего жизненного цикла эксплуатации.
Человеческий контроль остаётся необходимым в операциях на основе ИИ
Распространённое заблуждение заключается в том, что более высокие возможности ИИ автоматически означают меньшее участие человека. В промышленной среде такой подход создаёт неоправданный риск.
Операторы-люди обеспечивают контекстное понимание, которым системы ИИ могут не обладать. Они распознают необычные условия на производственном объекте, ограничения технического обслуживания, производственные приоритеты и аспекты безопасности, которые могут отсутствовать в исторических наборах данных.
Разные уровни использования ИИ должны требовать разных уровней контроля:
- Консультативные системы могут предоставлять рекомендации с одобрения оператора.
- Системы диспетчерского управления могут влиять на операции в заранее определённых пределах.
- Автономные системы требуют более строгой валидации, механизмов вмешательства и стратегий резервного переключения.
В приложениях, связанных с безопасностью, операторы всегда должны иметь возможность проверить, оспорить, переопределить или отключить действия, сгенерированные ИИ, когда это необходимо.
Автономные промышленные операции должны развиваться поэтапно
Полностью автономные промышленные операции не следует рассматривать как простое обновление программного обеспечения. Они означают постепенную передачу оперативных полномочий от людей интеллектуальным системам.
Практический путь развития должен проходить через несколько этапов:
- ИИ предоставляет анализ и рекомендации.
- ИИ помогает операторам, предоставляя поддержку принятия решений.
- ИИ управляет ограниченными функциями в условиях строгих ограничений.
- ИИ управляет отдельными процессами с проверенными механизмами безопасности.
На каждом этапе необходимы доказательства того, что система надёжно работает в заданных условиях эксплуатации.
Будущее промышленного ИИ будет зависеть не только от более мощных алгоритмов. Оно будет зависеть от того, смогут ли производители, системные интеграторы и владельцы активов доказать, что системы ИИ безопасны, предсказуемы, удобны в обслуживании и подотчётны.
Формирование обоснованной модели доверия к промышленному ИИ
ИИ обладает значительным потенциалом для совершенствования промышленной автоматизации, но доверие нельзя сформировать одними заявлениями о производительности.
Надёжная промышленная система ИИ требует сочетания следующих компонентов:
- Безопасная архитектура
- Проверенное качество данных
- Непрерывный мониторинг
- Надёжные методы валидации
- Чёткая ответственность человека
- Эффективные механизмы резервного переключения
Промышленный сектор десятилетиями формировал доверие к ПЛК, платформам DCS, системам безопасности и сетям автоматизации благодаря инженерной дисциплине и тщательному тестированию. ИИ должен пройти тот же путь.
Целью не должно быть замещение человеческой экспертизы искусственным интеллектом. Цель — объединить возможности ИИ с принципами промышленной инженерии, чтобы создавать более безопасные, эффективные и устойчивые системы автоматизации.
