KR20230090915A

KR20230090915A - Artificial Neural Network를 이용한 closed-loop 선형 모델 gain update 방법

Info

Publication number: KR20230090915A
Application number: KR1020210180101A
Authority: KR
Inventors: 김원호; 김범석; 이건의; 구유경
Original assignee: 주식회사 인포트롤테크놀러지
Priority date: 2021-12-15
Filing date: 2021-12-15
Publication date: 2023-06-22

Abstract

본 발명은 ANN을 이용하여 MPC의 closed-loop model의 gain을 update 하는 방법에 관한 것으로, 더욱 상세하게는 model에 의한 예측 결과가 실제 운전 결과와 큰 차이가 나는 경우 동일한 MPC 구조를 갖는 임의의 model에 대해 가상의 input과 gain을 이용하여 training data를 생성하고 이 data를 input node로 입력하는 기본적인 ANN을 준비하며, 이러한 ANN의 결과에 대해 knowledge transfer를 적용하여 update된 공정 모델의 gain을 구하는 방법을 포함한다.

Description

Artificial Neural Network를 이용한 closed-loop 선형 모델 gain update 방법 {Method for closed-loop linear model gain closed-loop update using artificial neural network}

본 발명은 Model predictive control (MPC)에 적용된 제어모델이 초기에 설정한 모델과 차이가 발생하였을 때 arificial nerual network (ANN)를 이용하여 별도의 plant test 없이 모델 gain을 update하는 방법에 관한 것이다.

공정모델의 closed-loop model identification 에 관한 연구는 과거에 많이 진행되었다. 일반적으로 off-line model identification에서 사용하고 있는 최적화 기법을 이용하고 있다. model identification 위한 다양한 방법들이 존재한다. 뉴턴의 제2법칙, 키르히호프의 전류/전압의 법칙 등과 같은 물리적 법칙을 기반으로 model을 구하는 white box 기법, 시스템의 입력과 출력에 해당하는 신호를 측정하여 얻은 데이터에 대하여 동적 맞춤을 통해 주로 차분 방정식의 형태로 model을 구하는 black box 기법, white box와 black box 기법을 혼합하여 사용하는 gray box 기법이 존재한다. 또한, 주파수 응답 분석은 통해 다양한 주파수 입력에 대한 출력의 입출력간 크기비와 phase를 분석하여 model을 구할 수 있으며, 일정 기간 동안의 데이터를 분석하여 무작위 입력에 대해 나오는 출력값이 실제 데이터와 유사하게 나올 수있도록 시간 영역에서 분석하는 방법이 존재한다.

하지만 해당 방법들은 공정 모델이 실제 모델과 일치하지 않을 경우 수동으로 조정이 필요하며 전문가에 의한 판단이 필요하기에 실제 현장에서는 이러한 방법을 적용하기 어려운 문제점이 있다.

Model Predictive Control (MPC)에 사용되는 공정모델 (Process model)은 일반적으로 First-order plus dead time (FOPDT) model과 같은 선형모델을 plant test를 통해서 구한다. 하지만 MPC에 적용된 제어모델은 시간이 지나면서 공정상의 변화나 원 부재료의 차이 등으로 인하여 점차 초기에 설정한 모델과 차이가 발생하여 제어 성능이 저하된다.

제어성능이 저하되면 일반적으로 제어전문가가 plant test를 다시 진행하여 제어모델을 수정하거나 MPC tuning을 적용한다. 하지만 제어모델 수정의 경우 시간과 경비가 많이 필요하고, 실제 기업 현장에서는 이에 따른 유지보수 예산을 설정하는 등 경우에 따라서 추가적인 업무절차를 진행해야 하므로, 많은 경우 제어성능이 저하되면 이를 사용하지 않는 경우가 많이 있다. MPC tuning 방법을 적용하여 제어 반응속도를 늦추어 model-plant mismatch을 어느 정도 해결할 수 있다. 하지만 이 경우에도 제어 성능 저하라는 문제가 발생하며 이런 경우 기존에 투자했던 MPC 효과를 포기하는 결과를 가져온다.

공정산업에 적용되는 MPC 제어 모델의 파라미터는 크게 model gain, dynamics, 그리고 dead time 으로 구분할 수 있다. 여기서 제어 성능에 가장 큰 영향을 미치는 것이 model gain 이다. 본 발명에서는 model에 의한 예측 결과가 실제 운전 결과와 큰 차이가 나는 경우 Artificial Neural Network (ANN)를 이용하여 별도의 plant test 없이 제어 model gain 을 update 하는 방법을 제시하였다.

ANN을 이용한 model gain update 는 동일한 MPC MV/CV/DV 구조를 갖는 임의의 dynamic model과 dead time system에 대해서 off-line simulation을 통한 충분한 data를 생성한다. 생성된 data를 이용하여 ANN training을 실행하여 ANN 기본 model을 준비한다. 이러한 ANN model, 즉 ANN parameter 들은 knowledge transfer을 적용하여 model update를 하려는 대상 MPC model에 대해서 비교적 작은 횟수의 off-line simulation을 수행하여 최종 ANN updated model을 구할 수 있다. update된 model은 MPC 에 적용된다. 이와 같은 방법으로 ANN model을 update 할 시 비교적 적은 off-line simulation data를 통해서도 training이 가능하므로 MPC가 running 중에도 현장 상황에 따라 짧은 시간에 적용할 수 있다.

본 발명을 통해 ANN을 사용하여 MPC에 사용되는 공정모델의 gain을 update 한다. ANN 적용 시 가상의 input과 dynamic simulator를 사용하여 off-line 테스트를 통해 ANN training을 진행하므로 실제 공정의 운전을 멈추거나 영향을 주지 않으며 빠르게 model의 gain을 구하여 model과 실제 공정의 차이로 인해 저하된 MPC의 성능을 회복하고 그 성능을 유지할 수 있는 효과를 제시한다.

도 1은 closed-loop process model update 구성도.
도 2는 ANN을 이용한 model update module 구성도.
도 3은 PRBS input과 output 관계를 나타낸 그래프.
도 4는 ANN의 전체 시스템 구성도.
도 5는 neural network 구조를 나타낸 구성도.

도 1은 closed-loop process model의 update 과정에 대한 도면이다. MPC가 가동중인 상태에서 model 예측 결과(model output, y_m)와 실제 운전 결과(측정 output, y_p)의 차이를 비교하여 일정 시간 동안 지속적인 편차를 보일 경우 model의 update가 필요하다고 판단한다. model update module을 통해 model의 gain을 update하고 이를 MPC 프로그램 (HIECON)에 적용한다.

도 2는 model update module에 대해 설명하기 위한 도면이다. model의 gain을 update하기 위해 우선 가상의 PRBS (Pseudo Random Binary Sequence)을 각 input 변수에 생성한다. 이를 무작위의 gain을 적용한 model을 이용한 dynamic simulator에 적용하여 ANN training data를 생성한다.

[ANN training data 생성]

ANN을 통한 AI model을 훈련시키기 위해서는 각 label (여기서는 model gain) 에 따른 다양한 input 과 이에따른 output 의 충분한 data가 있어야 한다. 이러한 data는 현장 운전 data로 부터는 얻을 수가 없는데, 이는 data를 취득 할 당시의 실제 공정 model을 모르기 때문이다. 본 발명에서는 이러한 충분한 훈련 data를 기 설정된 제어모델을 기준으로 다양한 다른 label 과 input 조건에서 output을 simulation을 통해서 구축한다. ANN training data를 생성하는 구체적인 방법은 다음과 같다.

Neural network를 통해서 model gain을 update 하기위한 neural netwotk model을 수립하기 위해서는 주어진 각 model gain 에 대해서 다양한 input과 이에 따른 ouptut data를 생성하여야 한다. MPC에서 사용하는 제어모델 형태는 Laplace domain에서 Single Input Single Output (SISO) 의 경우 일반적으로 다음과 같이 표시된다.

수학식 1

상기 모델은 일반적인 stable process의 경우를 표시한 경우이며, integrating process인 경우 분모에 s가 추가된다. 많은 경우 MPC 제어모델은 상기에서 보는 것과 같이 2차 모델까지가 많이 사용되며 3차 이상의 모델은 더 많은 plant test data를 요구하고 아주 특별한 경우를 제외하고 공정제어에 큰 성능개선을 기대하기 어려우므로 실제 운전에서는 거의 사용되지 않는다.

상기 모델에 대해서 Finite impulse sequence (h_i) 를 사용하여 input-output 관계식을 표현하면 다음과 같다.

수학식 2

여기서, y = output, u = input, k = 현재 시간, c = future step, N = Stable process에서 FIR 이 0.5% 이하가 되는 step 수 이다. 상기 관계식에 따라 다음과 같은 조건에서 simulation을 통해서 ANN training data를 생성한다.

1) process gain은 400% 까지 변경될 수 있으며, 매 25% 간격으로 simulation 한다.

2) model dynamics 는 동일하다.

3) input은 rate of change 제한조건 하에서 random 하게 변경한다.

4) 상기 parameter N (dead time 제외)은 40으로 한다.

5) input과 output은 각 [0, 100] 사이로 normalized 한다.

6) input rate of change는 5로 한다.

상기 각 model G의 process gain에 대해서 PRBS 형태의 input에 대한 simulation 을 진행하여 u값과 y값을 얻는다. 도 3은 PRBS input에 대해서 output을 표시한 그림이다. Region 2에서 output은 region 1과 region 2의 input에만 영향을 받는다.

이러한 이유로 ANN training data 구성은 각 주어진 model gain 에 따라 input 은 [0, 2*(N+dead time)]과 output은 [N+dead time, 2*(N + dead time)]의 data를 수집한다. 그리고 이러한 Input, output이 ANN의 input node 를 구성한다.

Single-Input Single-Output (SISO)의 경우 각 model gain 에 대해서 data 구조는 다음과 같다.

Multi-Input Multi-Output (MIMO)의 경우 다음과 같이 Multi-Input Single-Output으로 분리하여 data를 생성한다.

수학식 3

이와 같은 training에 대해 상기 각 model G의 process gain에 대해서 PRBS 형태의 input에 대한 simulation을 진행하여 u값과 y값을 얻을 수 있으며 u, y값을 정규화하여 training data를 구성한다.

[ANN 구성]

전체적인 시스템은 도 4와 같이 구성한다. model update에 적용되는 ANN의 기본 구성은 다음과 같다.

Simulation 모듈

Stable linear FIR model은 MISO (Multi-Input Single Output) 의 경우 다음과 같은 형태를 갖는다.

수학식 4

상기 식에서 각각 y(k+c)는 현재 시간에서 c step 이후의 model 예측값, h_j는 FIR (Finite Impulse Response sequence), u(k-i)는 현재시간 에서 i step 이전의 input variable, b_k는 bias를 의미한다. FIR sequence h_j는 model dynamics와 dead time 이 일정한 조건에서 model gain에 따라 결정된다.

ANN에 입력 데이터로 활용할 기본 training dataset은 시뮬레이션 모듈에서 임의의 model dynamics와 dead time에 대해서, 임의의 model gain에 대해서 off-line simulation을 통하여 수집한다. 기본 data training set은 model gain에 따라 분류하며, 구간별 input data(u)와 output data(y)를 저장한다. 이 때, 기본 data training set은 현장 적용 전 knowledge transfer를 적용하기 위한 기본 data이므로 model gain을 최대 400% 정도까지 변화시켜 data를 수집한다.

인공신경망(ANN)

ANN은 Tensorflow dense NN을 적용하며, 도 5와 같이 하나의 입력층, 5개 미만의 은닉층, 하나의 출력층으로 구성된다.

입력층에는 시뮬레이션을 통해 얻은 input-output 데이터를 사용한다. 입력층 노드 수의 경우 Input 데이터의 개수(80*P)와 Output 데이터의 개수(40)를 더한 총 (80*P+40)개의 노드로 구성된다.

은닉층 초기값은 5개 미만으로 설정하고 training하면서 tuning하여 최적의 개수를 찾는다. 역전파(back-propagation) 학습 알고리즘이 사용되었다.

출력층에서 model gain을 구하고자 하는 현장의 input-output 데이터를 사용한다. 1개의 output으로 목표 현장 데이터의 model gain 값을 예측한다. Output function은 hyperbolic tangent를 적용하고 min/max는 ±100% 로 하고 결과에 따라 변경한다.

ANN의 입력 레이어의 각 노드에 model gain별 구간별 input 데이터(u)와 output 데이터(y)가 할당되고, 은닉층을 거쳐 출력 레이어의 model gain 노드에 예측 값이 산출된다.

Model gain update를 위한 ANN은 MIMO system의 경우 MISO system으로 분리하여 적용한다. 이는 MIMO system에서 모델 update를 진행할 경우 AI 시스템이 지나치게 커지게 되고 필연적으로 training 시간이 많이 요구되기 때문이다.

[Training]

SISO 모델의 경우, ANN을 Training 시킬 때 input data(u)와 output data(y)를 훈련 데이터로 사용한다. 이를 수식으로 나타내면 다음과 같다.

[u(0), u(1), ... u(80), y(40+deadtime), y(41+deadtime), ... y(80+deadtime)]

MISO 모델의 경우, input 변수만큼 입력층의 노드 수가 증가한다. 전체 input 변수의 개수가 p일 때, 이를 수식으로 나타내면 다음과 같다.

[u_1(0), u_1(1), …, u_1(80), u_2(0), u_2(1), …, u_2(80), …, u_p(0), u_p(1), …, u_p(80), y(41+deadtime), y(42+deadtime), …, y(80+deadtime)]

ANN이 고르게 형성될 수 있도록 데이터 전처리를 통해 정규화를 적용한다.

초기 batch size는 128, epochs는 100으로 설정하여 training 하며 이후 training을 진행하며 정확도와 수행 시간을 고려하여 최적의 batch size와 epochs 수를 구한다.

[Knowledge transfer]

가상의 dynamics와 gain을 갖는 MISO system과 training 정보를 이용하여 기본 ANN을 구성하고 이 기본 ANN 구조에 신규 model update 대상 시스템을 추가하여 ANN model을 training 한다. 이 경우 ANN 기본구조의 AI weighting parameters는 고정한다. 이런 방법을 적용하여 신규 시스템 training을 적은 data를 이용하여 ANN model을 training 시킬 수 있다.

Claims

MPC에 적용된 closed-loop model의 gain을 예측하는 방법에 있어서 시뮬레이션을 통한 다양한 model gain에 대한 입출력 데이터를 가진 ANN(Artificial Neural Network) 학습 데이터를 생성하는 단계; 및
학습 데이터를 입력받아 ANN에서 학습을 수행하는 단계; 및
gain을 예측하기 위해, 학습된 ANN에 현장의 실제 입출력 데이터를 테스트 데이터로 입력하고, 상기 ANN을 통한 연산을 수행하여 model gain 값을 예측하는 단계;를 포함하고,
상기 학습 데이터는 공정의 입력데이터와 출력데이터를 포함하여 구성되되, 시간 구간에 따른 정보를 포함하는 것을 특징으로 하는 closed-loop model의 gain을 예측하는 방법.
제 1항에 있어서,
상기 학습데이터를 생성하는 단계는
기 설정된 제어모델을 기준으로 다양한 다른 label(model gain) 과 PRBS input(입력데이터), output(출력데이터) 값을 시뮬레이션을 통해 구축하는 단계; 및
입출력데이터를 model gain으로 라벨링하고 ANN 입력 양식에 맞게 학습데이터를 가공하는 단계; 를 포함하는 것을 특징으로 하는 closed-loop model의 gain을 예측하는 방법.
제 1항에 있어서,
상기 ANN은 입력 레이어, 히든 레이어, 출력 레이어를 포함하여 구성되되, 연산 동작 시, 상기 입력 레이어의 각 노드에는 PRBS input과 무작위 model gain에 대한 model의 output이 입력되며 output function으로 hyperbolic tangent가 적용되는 것을 특징으로 하는 closed-loop model의 gain을 예측하는 방법.
제 1항에 있어서,
가상의 모델의 input, output 값을 입력 node로 가지는 기본 ANN을 구성하고 해당 ANN에 신규 data를 적용하여 ANN model을 training하고 closed-loop model의 gain을 예측하는 방법.