WO2022145642A1 - 변압기의 고장 진단 장치 및 이를 이용한 고장 진단 방법 - Google Patents

변압기의 고장 진단 장치 및 이를 이용한 고장 진단 방법 Download PDF

Info

Publication number
WO2022145642A1
WO2022145642A1 PCT/KR2021/013531 KR2021013531W WO2022145642A1 WO 2022145642 A1 WO2022145642 A1 WO 2022145642A1 KR 2021013531 W KR2021013531 W KR 2021013531W WO 2022145642 A1 WO2022145642 A1 WO 2022145642A1
Authority
WO
WIPO (PCT)
Prior art keywords
data
learning
gas
transformer
oil analysis
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/KR2021/013531
Other languages
English (en)
French (fr)
Inventor
김선의
윤병동
조수호
박종민
김원곤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SNU R&DB Foundation
Original Assignee
Seoul National University R&DB Foundation
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seoul National University R&DB Foundation filed Critical Seoul National University R&DB Foundation
Priority to US18/260,090 priority Critical patent/US12631615B2/en
Publication of WO2022145642A1 publication Critical patent/WO2022145642A1/ko
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N33/00—Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
    • G01N33/26—Oils; Viscous liquids; Paints; Inks
    • G01N33/28—Oils, i.e. hydrocarbon liquids
    • G01N33/2835—Specific substances contained in the oils or fuels
    • G01N33/2841—Gas in oils, e.g. hydrogen in insulating oils
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N33/00—Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
    • G01N33/26—Oils; Viscous liquids; Paints; Inks
    • G01N33/28—Oils, i.e. hydrocarbon liquids
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0499—Feedforward networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/0895—Weakly supervised learning, e.g. semi-supervised or self-supervised learning
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/09—Supervised learning
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/096—Transfer learning
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/0985—Hyperparameter optimisation; Meta-learning; Learning-to-learn
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01F—MAGNETS; INDUCTANCES; TRANSFORMERS; SELECTION OF MATERIALS FOR THEIR MAGNETIC PROPERTIES
    • H01F27/00—Details of transformers or inductances, in general
    • H01F27/08—Cooling; Ventilating
    • H01F27/10—Liquid cooling
    • H01F27/12—Oil cooling
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01F—MAGNETS; INDUCTANCES; TRANSFORMERS; SELECTION OF MATERIALS FOR THEIR MAGNETIC PROPERTIES
    • H01F27/00—Details of transformers or inductances, in general
    • H01F27/40—Structural association with built-in electric component, e.g. fuse

Definitions

  • the present invention relates to a failure diagnosis apparatus for a transformer and a failure diagnosis method using the same, and more particularly, to a failure diagnosis apparatus for a transformer using gas-in-oil analysis data and a failure diagnosis method using the same.
  • an input transformer installed in a substation or a power company is one of the power supply systems, and as demand and capacity of power continue to increase, it is one of the very important components of the power supply system, and high reliability maintenance is required.
  • the fault diagnosis method of the input transformer shows somewhat unreliable low diagnostic performance when there is only a large amount of unlabeled data and sparse labeled data.
  • the fault diagnosis method of the input transformer shows somewhat unreliable low diagnostic performance when there is only a large amount of unlabeled data and sparse labeled data.
  • there are efforts to solve unsupervised data with unsupervised learning while using deep learning methods but there are still many limitations and challenges. Rather than creating, it focuses on improving the accuracy of deep learning models using existing methods.
  • An object of the present invention is to provide an apparatus for diagnosing a failure of a transformer that combines a rule-based learning method and a deep learning-based learning method based on artificial intelligence, and a failure diagnosis method using the same.
  • a transformer fault diagnosis apparatus includes a data scaling unit for scaling gas-in-oil analysis data obtained from the transformer, and converting non-labeled data among the scaled gas-in-oil analysis data into temporary label data to obtain and a pre-learning unit for pre-learning on the non-label data and the provisional label data among the scaled gas-in-oil analysis data, and the pre-learning unit through the transfer of parameters optimized by the pre-learning to cover data It is characterized in that it comprises a re-learning unit for performing re-learning for.
  • the data scaling unit comprises a data logger for logging the gas-in-oil analysis data and a data normalization unit for normalizing the logged gas-in-oil analysis data.
  • the provisional label data acquisition unit includes a transformer state classification unit that classifies the normal state and the failure state of the transformer using non-label data among the scaled gas-in-oil analysis data, and selects three combustible gases for each
  • a gas composition ratio deriving unit for deriving a gas composition ratio from the concentration of combustible gas, and applying the derived gas composition ratio to the Duval triangle method to convert unlabeled data among the scaled gas-in-oil analysis data into tentative label data conversion
  • It comprises a pre-learning preparation unit for preparing the non-label data and the provisional label data among the scaled gas-in-oil analysis data and the scaled gas-in-oil analysis data.
  • the three combustible gases are , , characterized by being.
  • the pre-learning unit is a loss function of the deep neural network A loss function definition unit defining ) and the second term ( ) to control the hyperparameter It characterized in that it comprises a hyper-parameter selection unit for selecting , and a first optimum parameter acquisition unit for obtaining an optimal parameter by using a backpropagation method to optimize the loss function.
  • the loss function is the tentative label data obtained through the Duval triangle method. and the tentative label data estimated in the last layer among the hidden layers of the deep neural network. It is characterized in that it represents the difference between them.
  • the loss function is the unlabeled data of the scaled gas-in-oil analysis data and estimated gas-in-oil analysis data in the last layer among the hidden layers of the deep neural network. It is characterized in that it represents the difference between them.
  • the re-learning unit performs a re-learning preparation unit for preparing the learning of the marker data, a hidden layer fixing unit for fixing some hidden layers of the deep neural network, and only the last hidden layer except for the fixed hidden layer. It characterized in that it comprises a hidden layer learning unit and a second optimal parameter acquisition unit to obtain an optimal parameter using the backpropagation method to optimize the loss function.
  • the hidden layer fixing part is characterized in that it fixes the remaining hidden layers except for the last hidden layer.
  • a method for diagnosing a failure of a transformer comprises the steps of: scaling gas-in-oil analysis data obtained from the transformer; Step, performing pre-learning on the non-label data and the provisional label data among the scaled gas-in-oil analysis data, and re-learning on the labeled data through the transfer of parameters optimized by performing the pre-learning It is characterized in that it comprises a step.
  • scaling the gas-in-oil analysis data comprises logging the gas-in-oil analysis data and normalizing the logged gas-in-oil analysis data.
  • the step of obtaining by converting the non-labeled data of the scaled gas-in-oil analysis data into provisional label data includes the normal state and the failure state of the transformer by using the unlabeled data among the scaled gas-in-oil analysis data.
  • Classifying, selecting three combustible gases and deriving a gas composition ratio from the concentration of each combustible gas, and applying the derived gas composition ratio to the Duval triangle method to non-label data among the scaled gas-in-oil analysis data Converting to tentative label data and preparing the non-label data and the provisional label data among the scaled gas-in-oil analysis data.
  • the three combustible gases are , , characterized by being.
  • the step of performing pre-learning on the unlabeled data and the tentatively labeled data among the scaled gas-in-oil analysis data is a loss function of a deep neural network. defining the first term in the right term of the loss function ( ) and the second term ( ) to control the hyperparameter and obtaining optimal parameters using a backpropagation method to optimize the loss function.
  • the tentative label data obtained through the Duval triangle method is the tentative label data obtained through the Duval triangle method. and the tentative label data estimated in the last layer among the hidden layers of the deep neural network. It is characterized in that it represents the difference between them.
  • the loss function is the unlabeled data of the scaled gas-in-oil analysis data and estimated gas-in-oil analysis data in the last layer among the hidden layers of the deep neural network. It is characterized in that it represents the difference between them.
  • the re-learning on the marker data through the transfer of parameters optimized by performing the prior learning includes preparing for the learning of the marker data, and fixing some hidden layers of the deep neural network. It is characterized in that it comprises the steps of: performing learning only on the last hidden layer except for the fixed hidden layer, and obtaining an optimal parameter using a backpropagation method to optimize the loss function.
  • the fixing of some hidden layers of the deep neural network it is characterized in that the remaining hidden layers except for the last hidden layer are fixed.
  • the accuracy of the deep learning-based learning method can be improved without developing difficult and complex models because the knowledge of experts can be fused through the rule-based learning method rather than relying only on the deep learning-based learning method based on artificial intelligence. can do.
  • 1 is a diagram illustrating a fault diagnosis method using the Duval triangle method.
  • FIG. 2 is a diagram illustrating an apparatus for diagnosing a failure of a transformer according to an embodiment of the present invention.
  • FIG. 3 is a view showing the overall fault diagnosis method of a transformer according to an embodiment of the present invention.
  • FIG. 4 is a diagram illustrating a process of converting scaled gas-in-oil analysis data into tentative label data using the Duval triangle method.
  • FIG. 5 is a flowchart illustrating a method for diagnosing a failure of a transformer according to an embodiment of the present invention.
  • FIG. 6 is a diagram illustrating a comparison between the diagnosis accuracy of a conventional method for diagnosing a failure of a transformer and a method for diagnosing a failure of a transformer according to an embodiment of the present invention.
  • 1 is a diagram illustrating a fault diagnosis method using the Duval triangle method.
  • rule-based learning is a method of deriving a result value for a given input, and refers to a method of learning and predicting according to a firm rule.
  • the rule-based learning can be made based on a handcrafted feature made through an expert's physical knowledge and experience using the above-described gas-in-oil analysis (DGA) data.
  • DGA gas-in-oil analysis
  • fault identification of a transformer is exemplarily identified as Partial Discharge (PD), low level Discharge of low-energy arcing (D1), Discharge of high-energy arcing (D2), Low-level thermal failure (T1, temperature below 300°C), moderate thermal failure Seven types of faults (T2, temperature >300°C and below 700°C), high-level thermal faults (T3, temperature >700°C), and Thermal and discharge faults (DT) have.
  • PD Partial Discharge
  • D1 low level Discharge of low-energy arcing
  • D2 Discharge of high-energy arcing
  • T3 Low-level thermal failure
  • T3, temperature >700°C high-level thermal faults
  • DT Thermal and discharge faults
  • the artificial intelligence-based (Al-based) learning method includes a deep-learning-based learning method, and in the transformer failure diagnosis method of the deep learning-based learning method, the deep neural network (Deep Neural Network, DNN) can be used.
  • DNN Deep Neural Network
  • a deep neural network consists of a plurality of nodes and an activation function correlating an input response and an output response within the node. It may mean a neural network with layers. Preferably, as the depth in which the hidden layers are stacked in the deep neural network (DNN) is, the input response and the output response can extract higher-order features.
  • a sample of training data in a deep neural network is may appear as
  • p represents the number of samples of gas-in-oil analysis data
  • the one-hot encoding method means converting text (characters) into meaningful numbers (or vectors) for deep learning in a deep learning-based learning method.
  • the activation function f may be a softmax function, and as shown in Equation 2 below, parameter (Illustratively, the gas-in-oil analysis data activated using W and b as in Equation 2 below) and linearized with is a hidden unit can be converted to
  • W is a weight indicating the direction or shape of the linear boundary
  • b may indicate a bias vector indicating the intercept of the linear boundary.
  • Equation 3 is one of the hidden layers of a deep neural network (DNN). It may mean a softmax function placed on the last layer, and in Equation 2 above silver One-hot encoded vector containing the probability information of can be converted to At this time, in Equation 3 may mean an encoded vector value in the last hidden layer when the deep neural network (DNN) has N hidden layers.
  • DNN deep neural network
  • Equation 3 can be expressed as in Equation 4 below.
  • Equation 6 optimal parameters may be obtained using a backpropagation method as shown in Equation 6 below.
  • the backpropagation method may be performed by a Mini-Batch Gradient Descent Algorithm (MGD).
  • MMD Mini-Batch Gradient Descent Algorithm
  • Equation 6 is the optimized parameter, may mean a learning rate.
  • DNN deep neural network
  • the deep neural network can relate the input gas-in-oil analysis data and output information.
  • the deep learning method including the deep neural network (DNN) described above, it works well under the general assumption that training data and test data are extracted from the same distribution, but in an actual transformer failure diagnosis environment From a data collection point of view, there is a problem in that the deep learning method does not work well due to a very insufficient failure data or labeled data due to a huge maintenance cost.
  • DNN deep neural network
  • transfer learning can be used, and transfer learning can be applied even in a situation where given data is not enough, so it has recently been in the spotlight in the field related to fault diagnosis of transformers.
  • the transfer learning means transmitting information (eg, optimized parameters, etc.) obtained from unlabeled data, which is source data, to labeled data, which is target data.
  • information eg, optimized parameters, etc.
  • the learning model in the non-marker data may be defined as a pre-trained model
  • the learning model in the cover data may be defined as a re-trained model.
  • transfer learning can greatly improve fault diagnosis performance in a target domain including the mark data by reusing a pre-trained model, and can be completely frozen or partially fixed according to the size of the mark data. (partial freezing), fine-tuning, and selective parameter freezing, etc., and preferably, when the amount of the unlabeled data is very large compared to the labeled data, the complete fixation method is mainly used can be
  • FIG. 2 is a view showing the apparatus 100 for diagnosing a failure of a transformer according to an embodiment of the present invention
  • FIG. 3 is a view showing the overall method for diagnosing a failure of a transformer according to an embodiment of the present invention.
  • the failure diagnosis apparatus 100 includes a data scaling unit 10 , a temporary cover data acquisition unit 20 , a dictionary learning unit 30 , and a re-learning unit 40 .
  • the data scaling unit 10 and the provisional mark data acquisition unit 20 may perform a fault diagnosis of a transformer according to a rule-based learning method, and the pre-learning unit 30 and the re-learning unit ( 40) can perform a fault diagnosis of a transformer according to an artificial intelligence-based learning method.
  • the data scaling unit 10 may scale gas-in-oil analysis data obtained from a transformer.
  • the gas-in-oil analysis data includes the above-described unlabeled data and labeled data
  • the gas-in-oil analysis data obtained from the transformer in FIG. 3 is It can be expressed as
  • the scaled (scale-converted) gas-in-oil analysis data is can be expressed as
  • the data scaling unit 10 may include a data logger 12 and a data normalization unit 14 .
  • the data logger 12 may log the gas-in-oil analysis data as shown in FIG. 3 .
  • the physical unit of gas-in-oil analysis data may be ppm. Logging the gas-in-oil analysis data through the data logger 12 minimizes overshooting of the gas-in-oil analysis data when a transformer malfunction occurs. it is for
  • the data normalization unit 14 may normalize the logged gas-in-oil analysis data (exemplarily normalized within the range of [0, 1]).
  • Equation 7 The logarithmic and normalization process of the gas-in-oil analysis data through the data scaling unit 10 may be exemplarily represented by Equation 7 below.
  • Equation 7 below shows a process of logging and normalizing non-labeled data among gas-in-oil analysis data by way of example.
  • gas-in-oil analysis data scaled using the Duval triangle method is gas-in-oil analysis data scaled using the Duval triangle method. It is a diagram showing the process of converting into pseudo label data. Preferably, the process of converting non-label data among scaled gas-in-oil analysis data into tentative data may be performed through shallow supervision learning of the Duval triangle method.
  • the provisional label data acquisition unit 20 converts non-label data among gas-in-oil analysis data scaled using the Duval triangle method into pseudo label data to obtain it. .
  • the provisional cover data obtaining unit 20 may include a transformer state classifying unit 22 , a gas composition ratio deriving unit 24 , a temporary cover data obtaining unit 26 , and a pre-learning preparation unit 28 . .
  • the transformer state classification unit 22 may classify the normal state and the failure state of the transformer using unmarked data among gas-in-oil analysis data scaled according to a rule-based learning method.
  • the normal state and the fault state of the transformer may be classified based on the normal threshold value of each combustible gas shown in Table 1 below.
  • the gas composition ratio derivation unit 24 as shown in Equation 1 above, three types of combustible gases , , by selecting , ,
  • the gas composition ratio can be derived from the concentration of .
  • the provisional label data conversion unit 26 applies the derived sample data of the gas composition ratio to the Duval triangle method as shown in FIGS. 1 and 3 to convert the unlabeled data among the scaled gas-in-oil analysis data to the provisional label data. (pseudo label data) can be converted.
  • tentative marker data converted through the Duval triangle method may be obtained as [1,0,0,0,0].
  • the pre-learning preparation unit 28 is to be used as training data to be learned by the above-described pre-learning unit 30 as shown in FIGS. 3 and 4 .
  • Wow can prepare At this time, the Wow
  • Each of the scaled gas-in-oil analysis data may mean unlabeled data and corresponding tentatively labeled data.
  • the dictionary learning unit 30 is an auxiliary unsupervised-based A deep neural network (DNN) can be pre-trained through a regularization process. At this time, the learning process performed through the pre-learning unit 30 is a loss function in supervised learning. It can be considered to update the parameters to minimize .
  • DNN deep neural network
  • the dictionary learning unit 30 may include a loss function definition unit 32 , a hyper parameter selection unit 34 , and a first optimal parameter acquisition unit 36 .
  • the loss function definition unit 32 may define the loss function shown in Equation 5 by transforming it as in Equation 8 below. At this time, may be a loss function considered in the process of learning the deep neural network (DNN), and may be defined as in Equation 8 below.
  • DNN deep neural network
  • Equation 8 is the provisional cover data obtained through the Duval triangle method in supervised learning through the provisional cover data acquisition unit 20 and the estimated tentative marker data in the last layer among the hidden layers of a deep neural network (DNN). It may be a loss function representing the difference between the two.
  • DNN deep neural network
  • Is Wow It means a hyper parameter, which is a weight between the values, and may preferably have a value between 0 and 1.
  • the first term in the right term of Equation 8 may be included for the purpose of supervised learning like the loss function in Equation 5, but in the case of the second term, the input value X (unmarked among gas-in-oil analysis data) data) can mean re-learning. Accordingly, the dictionary learning unit 30 erroneously obtained the provisional cover data obtained by the provisional cover data obtaining unit 20 . Even when using , this can be supplemented by re-learning the input value X (non-labeled data among gas-in-oil analysis data).
  • the hyperparameter selection unit 34 the first term in the right term of Equation (8) ( ) and the second term ( ) to control the hyperparameter can be selected.
  • the first optimal parameter obtaining unit 36 may obtain optimal parameters by using a backpropagation method as shown in Equation 9 below to optimize Equation (8).
  • Equation 9 and can be respectively expressed as in Equation 10 below.
  • the re-learning unit 40 may perform re-learning through parameter transfer of a deep neural network (DNN) on the data previously learned in the pre-learning unit 30 .
  • DNN deep neural network
  • the re-learning unit 40 includes a re-learning preparation unit 41 , a hidden layer fixing unit 42 , a hidden layer learning unit 43 , a second optimal parameter obtaining unit 44 , and a verification unit 45 .
  • a re-learning preparation unit 41 a hidden layer fixing unit 42 , a hidden layer learning unit 43 , a second optimal parameter obtaining unit 44 , and a verification unit 45 .
  • the re-learning preparation unit 41, the cover data Wow can prepare for the study of
  • Each of the scaled gas-in-oil analysis data may mean a value indicating a mark data and an actual failure state corresponding thereto.
  • the hidden layer fixing unit 42 may freeze some hidden layers of the deep neural network (DNN).
  • DNN deep neural network
  • the hidden layer fixing unit 42 it is assumed that the amount of cover data is much less than the amount of unmarked data, and transfer learning may be performed according to a complete fixation method. In this case, parameters in all other hidden layers except for the last hidden layer may be frozen through the hidden layer fixing unit 42 .
  • the parameter fixed by the hidden layer fixing unit 42 may be a parameter optimized through unsupervised learning among the parameters optimized through the pre-learning unit 30 .
  • the hidden layer fixing unit 42 is as shown in Equation 11 below.
  • the remaining hidden layers except for the last hidden layer may be fixed, and the parameter regarding the last hidden layer that is not fixed may be a parameter optimized through supervised learning among parameters optimized through the pre-learning unit 30 .
  • Equation 11 m denotes the N-th hidden layer, and N denotes the total number of hidden layers.
  • the hidden layer learning unit 43 may perform learning according to Equation (8) described above, but not learn the fixed hidden layer, and may perform learning (re-learning) only on the last hidden layer.
  • the second optimal parameter acquisition unit 44 may acquire the optimal parameter by optimizing the parameters in supervised learning again using Equations 8 to 10 described above.
  • the loss function in Equation 8 above is and can be composed of
  • the verification unit 45 includes the mark data ( , ) can be tested to verify its accuracy.
  • FIG. 5 is a flowchart illustrating a method for diagnosing a failure of a transformer according to an embodiment of the present invention.
  • a method for diagnosing a transformer failure is as follows.
  • gas-in-oil analysis data obtained from the transformer is scaled (step S1).
  • the step S1 includes logging the gas-in-oil analysis data and normalizing the logged gas-in-oil analysis data, and the step S1 may be performed by the above-described data scaling unit 10 .
  • step S1 the gas-in-oil analysis data scaled in step S1 heavy unlabeled data tentative cover data converted to and obtained (step S2).
  • the step S2 is a step of classifying a normal state and a failure state of the transformer using non-mark data among the scaled gas-in-oil analysis data, and three combustible gases are selected to derive a gas composition ratio from the concentration of each combustible gas applying the derived gas composition ratio to the Duval triangle method to convert unlabeled data among the scaled gas-in-oil analysis data into tentative label data and unlabeled data among the scaled gas-in-oil analysis data and tentative cover data and preparing, step S2 may be performed by the aforementioned provisional cover data acquisition unit 20 .
  • the three combustible gases selected by the provisional label data acquisition unit 20 are , , can be
  • pre-learning is performed on the unlabeled data and the tentatively labeled data among the scaled gas-in-oil analysis data (step S3).
  • the step S3 is a loss function of a deep neural network (DNN). and the first term in the right term of the loss function ( ) and the second term ( ) to control the hyperparameter and obtaining an optimal parameter by using a backpropagation method to optimize the loss function, and step S3 may be performed by the aforementioned dictionary learning unit 30 .
  • DNN deep neural network
  • the step of performing the pre-learning may be performed a plurality of times (eg, 200 times).
  • step S4 the cover data ( Wow ), fixing some hidden layers of the deep neural network (DNN), performing training only on the last hidden layer excluding the fixed hidden layers, and using the backpropagation method to optimize the loss function to obtain an optimal parameter, and step S4 may be performed by the above-described re-learning unit 40 .
  • all other hidden layers except for the last hidden layer may be fixed, and the step of performing the re-learning may be performed a plurality of times (eg, 20 times). have.
  • FIG. 6 is a diagram illustrating a comparison between the diagnosis accuracy of a conventional method for diagnosing a failure of a transformer and a method for diagnosing a failure of a transformer according to an embodiment of the present invention.
  • the accuracy of the transformer failure diagnosis compared to the conventional transformer failure diagnosis method in relation to the amount of labeled training data in the transformer failure diagnosis method according to the embodiment of the present invention The results can be confirmed in a table by summarizing the results.
  • the first learning approach shows the case of supervised learning in which only the data with the label is designated
  • the second learning approach learns both the labeled data and the non-labeled data.
  • the third learning perspective shows a rule-based knowledge learning method of a transformer using a rule-based method and an AI-based method.
  • L-SVM means a linear support vector machine
  • R-SVM means a support vector machine having a radial basis function
  • KNN denotes a K-nearest neighbors algorithm
  • 1-NN denotes a neural network having one hidden layer
  • DeA denotes a deep autoencoder
  • the diagnosis method using a deep neural network (DNN) from the third learning perspective of FIG. 6 is , , and BDD.
  • “Non” means that auxiliary unsupervised learning through the aforementioned dictionary learning unit 30 is not performed
  • “Aux” indicates that auxiliary unsupervised learning is performed through the dictionary learning unit 30 . it means.
  • "PF” means that parameter freezing is performed through the re-learning unit 40 described above
  • "FT” means that fine tuning is performed
  • BDD is a Duval triangle.
  • a method for diagnosing a failure of a transformer according to an embodiment of the present invention by combining a method and a deep neural network method (bridging duval's triangle method and deep neural network) is described.
  • the transformer failure diagnosis method (BDD) according to the embodiment of the present invention combining the rule-based method and the deep learning-based method as in the embodiment of the present invention is a different diagnosis method regardless of the amount of labeled learning data It can be seen that the highest fault diagnosis accuracy is achieved compared to
  • the highest fault diagnosis accuracy (95.4%) can be achieved the fastest compared to other diagnosis methods even when only 30% of the learning data with the mark is present. .

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Chemical & Material Sciences (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Biophysics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Biomedical Technology (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Power Engineering (AREA)
  • Chemical Kinetics & Catalysis (AREA)
  • Oil, Petroleum & Natural Gas (AREA)
  • Food Science & Technology (AREA)
  • Medicinal Chemistry (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • General Chemical & Material Sciences (AREA)
  • Housings And Mounting Of Transformers (AREA)
  • Combustion & Propulsion (AREA)

Abstract

본 발명은 룰 기반 학습 방법과 인공 지능에 기반한 딥 러닝 기반 학습 방법을 조합하는 변압기의 고장 진단 장치 및 이를 이용한 고장 진단 방법을 제공한다. 본 발명의 일 실시예에 따른 변압기의 고장 진단 장치는, 변압기로부터 획득되는 유중 가스 분석 데이터를 스케일링하는 데이터 스케일링부와, 상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터를 가표지 데이터로 변환하여 획득하는 가표지 데이터 획득부와, 상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터 및 상기 가표지 데이터에 대해 사전 학습을 수행하는 사전 학습부 및 상기 사전 학습 수행에 의해 최적화된 파라미터의 전이를 통해 표지 데이터에 대해 재 학습을 수행하는 재 학습부를 포함하는 것을 특징으로 한다.

Description

변압기의 고장 진단 장치 및 이를 이용한 고장 진단 방법
본 발명은 변압기의 고장 진단 장치 및 이를 이용한 고장 진단 방법에 관한 것으로서, 상세하게는 유중 가스 분석 데이터를 이용하는 변압기의 고장 진단 장치 및 이를 이용한 고장 진단 방법에 관한 것이다.
일반적으로, 변전소나 전력회사 등에 설치되는 유입 변압기는 전력공급 시스템 중 하나이며, 전력의 수요와 용량이 계속 증가함에 따라 전력공급 시스템의 매우 중요한 구성 요소 중 하나이고, 높은 신뢰성 유지가 요구된다.
이러한 유입 변압기는 운전 중에 열화 등으로 전기적 또는 기계적인 성능이 저하되어 이상이 발생하는 경우가 있는데, 이러한 현상을 사전에 감지하여 적절한 조치를 취하지 않으면 중대한 사고가 발생할 수 있으며, 전력 손실 뿐만 아니라 심각한 경제적 사회적 혼란을 초래할 수 있다.
유입 변압기 내부에 절연파괴, 국부과열 등의 이상현상이 발생하면, 반드시 열 발생을 수반하며, 이러한 열 발생원에 접촉한 절연유, 절연지, 프레스 보드 등의 절연재료가 열의 영향을 받아 화학반응에 의해 분해되어 가스들이 발생한다. 이 때, 대부분의 가스들은 절연유에 용해되며, 유입 변압기의 절연유를 채취하여 가스를 추출 및 분석하면 유입 변압기의 내부에 발생한 결함 및 그 정도를 진단할 수 있다.
이러한 유중 가스 분석(Dissolved Gas Analysis, DGA)을 이용한 유입 변압기의 진단 방법은 매우 복잡한 절차와 노력을 필요로 하지만, 유입 변압기 내부의 결함 진단으로서의 적중률이 높기 때문에 전세계적으로 널리 이용되고 있다.
최근 상기 유중 가스 분석을 사용하여 유입 변압기의 고장 모드를 진단하는데 딥 러닝(Deep-Learning) 방식이 연구되고 있다. 이와 같은 연구는 이상적으로 학습 가능한 데이터 세트가 많은 비 지도학습(Unsupervised Learning)을 추가하여 기존의 얕은 학습(Shallow learning) 방식보다 더 정확한 성능을 발휘할 수 있다.
하지만 상기 딥 러닝 방식을 이용하는 경우, 상기 유입 변압기의 고장 진단 방법은 방대한 양의 비표지 데이터(Unlabeled Data) 및 희박한 표지 데이터(labeled Data)만 있는 경우에는 다소 신뢰할 수 없는 낮은 진단 성능을 보이고 있다. 이러한 문제를 개선하기 위하여 딥 러닝 방식을 이용하면서 비표지 데이터를 비 지도학습으로 해결하려는 노력이 있지만 여전히 많은 한계와 도전할 부분이 있으며, 이러한 문제를 해결하기 위해 딥 러닝 분야에서는 최근 어렵고 복잡한 모델을 만들기보다는 기존의 방식을 사용하여 딥 러닝 모델의 정확도를 개선하는데 초점을 맞추고 있다.
본 발명은 룰 기반 학습 방법과 인공 지능에 기반한 딥 러닝 기반 학습 방법을 조합하는 변압기의 고장 진단 장치 및 이를 이용한 고장 진단 방법을 제공하는데 그 목적이 있다.
본 발명의 일 실시예에 따른 변압기의 고장 진단 장치는, 변압기로부터 획득되는 유중 가스 분석 데이터를 스케일링하는 데이터 스케일링부와, 상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터를 가표지 데이터로 변환하여 획득하는 가표지 데이터 획득부와, 상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터 및 상기 가표지 데이터에 대해 사전 학습을 수행하는 사전 학습부 및 상기 사전 학습 수행에 의해 최적화된 파라미터의 전이를 통해 표지 데이터에 대해 재 학습을 수행하는 재 학습부를 포함하는 것을 특징으로 한다.
바람직하게는, 상기 데이터 스케일링부는 상기 유중 가스 분석 데이터를 로그화하는 데이터 로그화부 및 상기 로그화된 유중 가스 분석 데이터를 정규화하는 데이터 정규화부를 포함하는 것을 특징으로 한다.
바람직하게는, 상기 가표지 데이터 획득부는 상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터를 이용하여 상기 변압기의 정상 상태와 고장 상태를 분류하는 변압기 상태 분류부와, 세 개의 가연성 가스를 선택하여 각각의 가연성 가스의 농도로부터 가스 조성비를 도출하는 가스 조성비 도출부와, 상기 도출된 가스 조성비를 듀발 삼각형 방법에 적용하여 상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터를 가표지 데이터로 변환하는 가표지 데이터 변환부 및 상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터 및 상기 가표지 데이터를 준비하는 사전 학습 준비부를 포함하는 것을 특징으로 한다.
바람직하게는, 상기 세 개의 가연성 가스는,
Figure PCTKR2021013531-appb-I000001
,
Figure PCTKR2021013531-appb-I000002
,
Figure PCTKR2021013531-appb-I000003
인 것을 특징으로 한다.
바람직하게는, 상기 사전 학습부는 딥 뉴럴 네트워크의 손실함수
Figure PCTKR2021013531-appb-I000004
를 정의하는 손실함수 정의부와, 상기 손실함수의 우측항에서의 첫 번째 항(
Figure PCTKR2021013531-appb-I000005
)과 두 번째 항(
Figure PCTKR2021013531-appb-I000006
)을 조절하는 하이퍼 파라미터
Figure PCTKR2021013531-appb-I000007
를 선택하는 하이퍼 파라미터 선택부 및 상기 손실함수를 최적화하도록 역전파 방법을 사용하여 최적의 파라미터를 획득하는 제 1 최적 파라미터 획득부를 포함하는 것을 특징으로 한다.
바람직하게는, 상기 손실함수에서
Figure PCTKR2021013531-appb-I000008
는 듀발 삼각형 방법을 통해 획득된 가표지 데이터
Figure PCTKR2021013531-appb-I000009
와 상기 딥 뉴럴 네트워크의 은닉층 중 마지막 층에서의 추정된 가표지 데이터
Figure PCTKR2021013531-appb-I000010
간의 차이를 나타내는 것을 특징으로 한다.
바람직하게는, 상기 손실함수에서
Figure PCTKR2021013531-appb-I000011
는 상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터
Figure PCTKR2021013531-appb-I000012
와 상기 딥 뉴럴 네트워크의 은닉층 중 마지막 층에서의 추정된 유중 가스 분석 데이터
Figure PCTKR2021013531-appb-I000013
간의 차이를 나타내는 것을 특징으로 한다.
바람직하게는, 상기 재 학습부는 상기 표지 데이터의 학습을 준비하는 재 학습 준비부와, 상기 딥 뉴럴 네트워크의 일부 은닉층을 고정하는 은닉층 고정부와, 상기 고정된 은닉층을 제외한 마지막 은닉층에 대해서만 학습을 수행하는 은닉층 학습부 및 상기 손실함수를 최적화하도록 역전파 방법을 사용하여 최적의 파라미터를 획득하는 제 2 최적 파라미터 획득부를 포함하는 것을 특징으로 한다.
바람직하게는, 상기 은닉층 고정부는 상기 마지막 은닉층을 제외한 나머지 은닉층을 고정시키는 것을 특징으로 한다.
본 발명의 일 실시예에 따른 변압기의 고장 진단 방법은, 상기 변압기로부터 획득되는 유중 가스 분석 데이터를 스케일링하는 단계와, 상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터를 가표지 데이터로 변환하여 획득하는 단계와, 상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터 및 상기 가표지 데이터에 대해 사전 학습을 수행하는 단계 및 상기 사전 학습 수행에 의해 최적화된 파라미터의 전이를 통해 표지 데이터에 대해 재 학습을 수행하는 단계를 포함하는 것을 특징으로 한다.
바람직하게는, 상기 유중 가스 분석 데이터를 스케일링하는 단계는, 상기 유중 가스 분석 데이터를 로그화하는 단계 및 상기 로그화된 유중 가스 분석 데이터를 정규화하는 단계를 포함하는 것을 특징으로 한다.
바람직하게는, 상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터를 가표지 데이터로 변환하여 획득하는 단계는, 상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터를 이용하여 상기 변압기의 정상 상태와 고장 상태를 분류하는 단계와, 세 개의 가연성 가스를 선택하여 각각의 가연성 가스의 농도로부터 가스 조성비를 도출하는 단계와, 상기 도출된 가스 조성비를 듀발 삼각형 방법에 적용하여 상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터를 가표지 데이터로 변환하는 단계 및 상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터 및 상기 가표지 데이터를 준비하는 단계를 포함하는 것을 특징으로 한다.
바람직하게는, 상기 세 개의 가연성 가스는,
Figure PCTKR2021013531-appb-I000014
,
Figure PCTKR2021013531-appb-I000015
,
Figure PCTKR2021013531-appb-I000016
인 것을 특징으로 한다.
바람직하게는, 상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터 및 상기 가표지 데이터에 대해 사전 학습을 수행하는 단계는, 딥 뉴럴 네트워크의 손실함수
Figure PCTKR2021013531-appb-I000017
를 정의하는 단계와, 상기 손실함수의 우측항에서의 첫 번째 항(
Figure PCTKR2021013531-appb-I000018
)과 두 번째 항(
Figure PCTKR2021013531-appb-I000019
)을 조절하는 하이퍼 파라미터
Figure PCTKR2021013531-appb-I000020
를 선택하는 단계 및 상기 손실함수를 최적화하도록 역전파 방법을 사용하여 최적의 파라미터를 획득하는 단계를 포함하는 것을 특징으로 한다.
바람직하게는, 상기 손실함수에서,
Figure PCTKR2021013531-appb-I000021
는 듀발 삼각형 방법을 통해 획득된 가표지 데이터
Figure PCTKR2021013531-appb-I000022
와 상기 딥 뉴럴 네트워크의 은닉층 중 마지막 층에서의 추정된 가표지 데이터
Figure PCTKR2021013531-appb-I000023
간의 차이를 나타내는 것을 특징으로 한다.
바람직하게는, 상기 손실함수에서,
Figure PCTKR2021013531-appb-I000024
는 상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터
Figure PCTKR2021013531-appb-I000025
와 상기 딥 뉴럴 네트워크의 은닉층 중 마지막 층에서의 추정된 유중 가스 분석 데이터
Figure PCTKR2021013531-appb-I000026
간의 차이를 나타내는 것을 특징으로 한다.
바람직하게는, 상기 사전 학습 수행에 의해 최적화된 파라미터의 전이를 통해 표지 데이터에 대해 재 학습을 수행하는 단계는, 상기 표지 데이터의 학습을 준비하는 단계와, 상기 딥 뉴럴 네트워크의 일부 은닉층을 고정하는 단계와, 상기 고정된 은닉층을 제외한 마지막 은닉층에 대해서만 학습을 수행하는 단계 및 상기 손실함수를 최적화하도록 역전파 방법을 사용하여 최적의 파라미터를 획득하는 단계를 포함하는 것을 특징으로 한다.
바람직하게는, 상기 딥 뉴럴 네트워크의 일부 은닉층을 고정하는 단계에서, 상기 마지막 은닉층을 제외한 나머지 은닉층을 고정시키는 것을 특징으로 한다.
본 발명의 실시예에 따르면, 표지 데이터가 없는 데이터의 고장 상태를 진단하는 룰 기반 학습 방법의 장점과 인공 지능에 기반한 딥 러닝 기반 학습 방법의 장점을 융합함으로써, 다수의 유중 가스 분석 데이터가 있으나 소수의 표지 데이터 밖에 없는 상황에서도 변압기의 고장 진단을 정확하게 수행할 수 있다.
또한, 변압기의 고장 진단시 인공 지능에 기반한 딥 러닝 기반 학습 방법에만 의존하지 않고 룰 기반 학습 방법을 통해 전문가의 지식을 융합할 수 있으므로 어렵고 복잡한 모델을 개발하지 않고도 딥 러닝 기반 학습 방법의 정확도를 개선할 수 있다.
도 1은 듀발 삼각형 방법을 이용한 고장 진단 방법을 나타낸 도면이다.
도 2는 본 발명의 일 실시예에 따른 변압기의 고장 진단 장치를 나타낸 도면이다.
도 3은 본 발명의 일 실시예에 따른 변압기의 고장 진단 방법을 전체적으로 나타낸 도면이다.
도 4는 듀발 삼각형 방법을 이용하여 스케일링된 유중 가스 분석 데이터를 가표지 데이터로 변환하는 과정을 나타낸 도면이다.
도 5는 본 발명의 일 실시예에 따른 변압기의 고장 진단 방법을 나타낸 흐름도이다.
도 6은 종래의 변압기의 고장 진단 방법과 본 발명의 일 실시예에 따른 변압기의 고장 진단 방법의 진단 정확도를 비교하여 나타낸 도면이다.
이하, 본 발명의 바람직한 실시예를 첨부된 도면들을 참조하여 상세히 설명한다. 우선 각 도면의 구성 요소들에 참조 부호를 부가함에 있어서, 동일한 구성 요소들에 대해서는 비록 다른 도면상에 표시되더라도 가능한 한 동일한 부호를 가지도록 하고 있음에 유의해야 한다. 또한, 본 발명을 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명은 생략한다. 또한, 이하에서 본 발명의 바람직한 실시예를 설명할 것이나, 본 발명의 기술적 사상은 이에 한정하거나 제한되지 않고 당업자에 의해 변형되어 다양하게 실시될 수 있음은 물론이다.
도 1은 듀발 삼각형 방법을 이용한 고장 진단 방법을 나타낸 도면이다.
유중 가스 분석(DGA) 데이터를 이용한 유입식 변압기의 고장 유형(예시적으로, 열, 전기 및 부분 방전 등)을 진단하는 변압기의 고장 진단 방법은 크게 룰 기반 학습(Rule-Based Learning) 방법과 인공 지능 기반 학습(Al-Based Learning) 방법의 두 가지 방법으로 구분될 수 있다.
먼저 룰 기반 학습이란 주어진 입력에 대해서 결과값을 도출하는 방법으로서, 확고한 규칙(rule)에 따라 학습 및 예측을 하는 방법을 의미한다. 또한 룰 기반 학습은 전술한 유중 가스 분석(DGA) 데이터를 활용하여 전문가의 물리적 지식과 경험을 통해 이루어진 특징(handcrafted feature)을 기반으로 이루어질 수 있다.
도 1을 참조하면, 룰 기반 학습 방법 중 하나인 듀발 삼각형(Duval's Triangle) 방법에서는 세 가지 가연성 가스인
Figure PCTKR2021013531-appb-I000027
,
Figure PCTKR2021013531-appb-I000028
,
Figure PCTKR2021013531-appb-I000029
의 농도로부터 가스 조성비(gas ratio)를 도출할 수 있다.
이 때, 세 가지 가연성 가스인
Figure PCTKR2021013531-appb-I000030
,
Figure PCTKR2021013531-appb-I000031
,
Figure PCTKR2021013531-appb-I000032
의 농도로부터 도출되는 각각의 가스 조성비는 하기 수학식 1과 같이 표현할 수 있다.
Figure PCTKR2021013531-appb-M000001
상기 듀발 삼각형 방법에서는 상기 수학식 1을 통해 도출된 가스 조성비(예 : R1, R2, R3)를 이용하여 예시적으로 변압기의 고장 유형(Fault identification)을 부분 방전(Partial Discharge, PD), 낮은 수준의 전기적 고장(Discharge of low-energy arcing, D1), 높은 수준의 전기적 고장(Discharge of high-energy arcing, D2), 낮은 수준의 열적 고장(T1, 온도 300℃ 미만의 경우), 중간 수준의 열적 고장(T2, 온도 300℃ 초과 700℃ 미만의 경우), 높은 수준의 열적 고장(T3, 온도 700℃ 초과의 경우) 및 전기적 고장과 열적 고장(Thermal and discharge faults, DT)의 7가지로 나타낼 수 있다.
전술한 바와 같은 고장 유형을 기반으로 한 고장 진단 결과는 도 1에 도시된 바와 같이 상기 수학식 1을 통해 도출된 가스 조성비(R1, R2, R3)의 측면에서 듀발 삼각형의 좌표평면에 직관적으로 묘사될 수 있다.
그러나, 이와 같은 듀발 삼각형 방법의 경우 사람의 경험에 기반한 특징(features based on human experience)을 이용한 것으로서, 충분한 수학적 공식(mathematical formulation)과 통계적 접근법(statistical approach)에 근거한 인공 지능 기반 학습의 고장 진단 능력보다는 떨어질 수 있다.
상세하게는, 도 1에 나타낸 듀발 삼각형 방법의 경우 학습 데이터(training data) 또는 최적화 프로세스에 대한 요구가 없기 때문에 계산 작업이 많이 요구되지 않으며, 표지가 지정되지 않은(unlabeled) 유중 가스 분석 데이터의 오류 상태를 용이하게 식별할 수 있는 장점이 있다. 그러나, 듀발 삼각형 방법의 경우 수학적 공식이 다수 결여되어 있으며, 전체적인 모델에 있어서 사람의 경험적 방법을 기반으로 하므로 인공 지능 기반 학습 방법에 비해 상대적으로 정확도가 낮고 불완전한 진단 결과를 나타낼 수 있다.
한편, 인공 지능 기반(Al-based) 학습 방법은 딥 러닝(deep-larning) 기반 학습 방법을 포함하며, 딥 러닝 기반 학습 방법의 변압기의 고장 진단 방법에서는 예시적으로 딥 뉴럴 네트워크(Deep Neural Network, DNN)를 이용할 수 있다.
딥 뉴럴 네트워크(DNN)는 복수의 노드(node) 및 노드 내에서 입력 반응(input response) 및 출력 반응(output response)을 연관짓는 활성화 함수(activation function)로 구성되는 여러 개의 층이 쌓인 은닉층(hidden layer)이 있는 신경망(neural network)을 의미할 수 있다. 바람직하게는, 상기 딥 뉴럴 네트워크(DNN)에서 은닉층들이 쌓인 깊이가 깊을수록 상기 입력 반응과 출력 반응은 좀 더 고차원적인 특징을 추출할 수 있다.
딥 뉴럴 네트워크(DNN)에서 학습 데이터(training data)의 샘플(sample)은
Figure PCTKR2021013531-appb-I000033
와 같이 나타날 수 있다. 이 때, p는 유중 가스 분석 데이터의 샘플 수를 나타내며,
Figure PCTKR2021013531-appb-I000034
은 입력 유중 가스 분석 데이터(입력 반응)를 나타내고,
Figure PCTKR2021013531-appb-I000035
은 상기 딥 뉴럴 네트워크(DNN)가 학습할 수 있도록 원-핫 인코딩(one-hot encoded)된 정보(출력 반응)를 나타낼 수 있다. 이 때, 상기 원-핫 인코딩 방법은 딥 러닝 기반 학습 방법에서 딥 러닝을 위해 텍스트(문자)를 유의미한 숫자(또는 벡터)로 변환하는 것을 의미한다.
활성화 함수(f)는 소프트맥스 함수(softmax function)일 수 있으며, 하기 수학식 2와 같이 상기
Figure PCTKR2021013531-appb-I000036
를 파라미터
Figure PCTKR2021013531-appb-I000037
(예시적으로 하기 수학식 2에서와 같이 W와 b를 포함)를 이용하여 활성화된 유중 가스 분석 데이터인
Figure PCTKR2021013531-appb-I000038
으로 선형화하고, 선형화된
Figure PCTKR2021013531-appb-I000039
을 은닉 유닛(hidden unit)인
Figure PCTKR2021013531-appb-I000040
으로 변환할 수 있다.
Figure PCTKR2021013531-appb-M000002
상기 수학식 2에서 W는 선형 경계의 방향성 또는 형태를 나타내는 가중치이며, b는 선형 경계의 절편을 나타내는 바이어스 벡터(bias vector)를 의미할 수 있다.
한편, 딥 뉴럴 네트워크(DNN)에서는 하기 수학식 3과 같이
Figure PCTKR2021013531-appb-I000041
와
Figure PCTKR2021013531-appb-I000042
가 서로 연관될 수 있다.
Figure PCTKR2021013531-appb-M000003
상기 수학식 3에서
Figure PCTKR2021013531-appb-I000043
은 딥 뉴럴 네트워크(DNN)의 은닉층 중 마지막 층에 놓이는 소프트맥스 함수(softmax function)를 의미할 수 있으며, 상기 수학식 2에서의
Figure PCTKR2021013531-appb-I000044
은
Figure PCTKR2021013531-appb-I000045
의 확률 정보를 포함하는 원-핫 인코딩된 벡터
Figure PCTKR2021013531-appb-I000046
로 변환될 수 있다. 이 때, 상기 수학식 3에서
Figure PCTKR2021013531-appb-I000047
은 딥 뉴럴 네트워크(DNN)가 N개의 은닉층을 가질 때 마지막 은닉층에서의 인코딩된 벡터 값을 의미할 수 있다.
한편, 상기 수학식 3에서
Figure PCTKR2021013531-appb-I000048
은 하기 수학식 4와 같이 나타날 수 있다.
Figure PCTKR2021013531-appb-M000004
Figure PCTKR2021013531-appb-I000049
과
Figure PCTKR2021013531-appb-I000050
을 연관짓기 위하여 파라미터
Figure PCTKR2021013531-appb-I000051
는, 손실함수(loss function)를 최소화함으로써 최적화될 필요가 있는데, 이러한 손실함수는 하기 수학식 5와 같이 나타날 수 있다.
Figure PCTKR2021013531-appb-M000005
상기 수학식 5에서 손실함수 L은,
Figure PCTKR2021013531-appb-I000052
와
Figure PCTKR2021013531-appb-I000053
간의 차이를 의미할 수 있다.
또한, 수학식 5를 최적화하기 위해 하기 수학식 6과 같이 역전파(Backpropagation) 방법을 사용하여 최적의 파라미터들을 획득할 수 있다. 바람직하게는 상기 역전파 방법은 MGD 알고리즘(Mini-Batch Gradient Descent Algorithm)에 의해 수행될 수 있다.
Figure PCTKR2021013531-appb-M000006
상기 수학식 6에서,
Figure PCTKR2021013531-appb-I000054
은 최적화된 파라미터를 의미하며,
Figure PCTKR2021013531-appb-I000055
은 학습률(learning rate)을 의미할 수 있다. 또한,
Figure PCTKR2021013531-appb-I000056
은 딥 뉴럴 네트워크(DNN)의 은닉층 중 마지막 은닉층에서의 파라미터를 의미할 수 있다.
이와 같은 과정을 통해 딥 뉴럴 네트워크(DNN)에서는 입력 유중 가스 분석 데이터와 출력 정보를 연관지을 수 있다.
그러나, 전술한 딥 뉴럴 네트워크(DNN)를 포함하는 딥 러닝 방식의 경우 학습 데이터(training data)와 테스트 데이터(test data)가 동일한 분포에서 추출된다는 일반적인 가정하에서 잘 작동하나, 실제 변압기 고장 진단 환경에서는 데이터 수집 관점에서 막대한 유지 보수 비용으로 인해 고장 데이터 또는 표지 데이터(labeled data)가 매우 부족하여 딥 러닝 방식이 잘 작동하지 않는 문제가 있다.
이러한 문제를 해결하기 위하여 전이 학습(transfer learning)을 이용할 수 있으며, 전이 학습은 주어진 데이터가 충분하지 않은 상황에서도 적용할 수 있어 변압기의 고장 진단 관련 분야에서 최근 각광받고 있다.
바람직하게는, 상기 전이 학습은 소스 데이터(source data)인 비표지 데이터(unlabeled data)로부터 얻은 정보(예를 들어 최적화된 파라미터 등)를 타겟 데이터(target data)인 표지 데이터로 전송하는 것을 의미할 수 있다. 이 때, 상기 비표지 데이터에서의 학습 모델을 사전 학습(Pre-trained) 모델, 상기 표지 데이터에서의 학습 모델을 재 학습(re-trained) 모델이라고 정의할 수 있다.
또한, 전이 학습은 사전 학습된 모델을 재사용하여 상기 표지 데이터가 포함된 타겟 도메인(target domain)에서 고장 진단 성능을 크게 향상시킬 수 있으며, 상기 표지 데이터의 크기에 따라 완전 고정(freezing), 부분 고정(partial freezing), 미세 조정(fine-tuning) 및 선택적 파라미터 고정 방법(selective parameter freezing) 등이 있고, 바람직하게는 상기 비표지 데이터의 양이 상기 표지 데이터에 비해 매우 많을 경우 주로 완전 고정 방식이 이용될 수 있다.
이하에서는, 전술한 룰 기반 학습 방법과 인공 지능 기반 학습 방법을 조합하여 변압기의 고장 진단을 수행하는 것에 대해 상세히 설명하도록 한다.
도 2는 본 발명의 일 실시예에 따른 변압기의 고장 진단 장치(100)를 나타낸 도면이고, 도 3은 본 발명의 일 실시예에 따른 변압기의 고장 진단 방법을 전체적으로 나타낸 도면이다.
도 2를 참조하면, 고장 진단 장치(100)는 데이터 스케일링부(10), 가표지 데이터 획득부(20), 사전 학습부(30) 및 재 학습부(40)를 포함한다.
본 발명의 실시예에서, 데이터 스케일링부(10) 및 가표지 데이터 획득부(20)는 룰 기반 학습 방법에 따라 변압기의 고장 진단을 수행할 수 있으며, 사전 학습부(30) 및 재 학습부(40)는 인공 지능 기반 학습 방법에 따라 변압기의 고장 진단을 수행할 수 있다.
도 2 및 도 3을 참조하면 데이터 스케일링부(10)는, 변압기로부터 획득되는 유중 가스 분석 데이터를 스케일링(scaling)할 수 있다. 바람직하게는 유중 가스 분석 데이터는 전술한 비표지 데이터와 표지 데이터를 포함하며, 도 3에서 변압기로부터 획득되는 유중 가스 분석 데이터는
Figure PCTKR2021013531-appb-I000057
와 같이 표기될 수 있고, 스케일링된(스케일 변환된) 유중 가스 분석 데이터는
Figure PCTKR2021013531-appb-I000058
와 같이 표기될 수 있다.
바람직하게는, 데이터 스케일링부(10)는 데이터 로그화부(12) 및 데이터 정규화부(14)로 구성될 수 있다.
먼저 데이터 로그화부(12)는 도 3에 도시된 바와 같이 유중 가스 분석 데이터를 로그(log)화할 수 있다. 일반적으로 유중 가스 분석 데이터의 물리적 단위는 ppm일 수 있는데, 데이터 로그화부(12)를 통해 유중 가스 분석 데이터를 로그화하는 것은 변압기의 고장 발생시 유중 가스 분석 데이터의 값이 튀는(overshooting) 것을 최소화하기 위함이다.
다음으로 데이터 정규화부(14)는, 상기 로그화된 유중 가스 분석 데이터를 정규화할 수 있다(예시적으로 [0, 1]의 범위 내에서 정규화할 수 있다).
이에 따라, 사전 학습부(30) 및 재 학습부(40)에 의해 이루어지는 인공 지능 기반 학습시 파라미터의 최적화가 안정적으로 이루어질 수 있으며, 인공 지능 기반 학습에 의한 연산이 빠르게 이루어질 수 있다.
상기 데이터 스케일링부(10)를 통한 유중 가스 분석 데이터의 로그화 및 정규화 과정은 예시적으로 하기 수학식 7과 같이 나타낼 수 있다. 하기 수학식 7은 예시적으로 유중 가스 분석 데이터 중 비표지 데이터를 로그화 및 정규화하는 과정을 나타낸 것이다.
Figure PCTKR2021013531-appb-M000007
도 4는 듀발 삼각형 방법을 이용하여 스케일링된 유중 가스 분석 데이터
Figure PCTKR2021013531-appb-I000059
를 가표지 데이터(pseudo label data)로 변환하는 과정을 나타낸 도면이다. 바람직하게는, 스케일링된 유중 가스 분석 데이터 중 비표지 데이터가 가표지 데이터로 변환되는 과정은 듀발 삼각형 방법의 얕은 지도 학습(shallow supervision learning)을 통해 이루어질 수 있다.
도 2 내지 도 4를 참조하면, 가표지 데이터 획득부(20)는 듀발 삼각형 방법을 이용하여 스케일링된 유중 가스 분석 데이터 중 비표지 데이터를 가표지 데이터(pseudo label data)로 변환하여 획득할 수 있다.
바람직하게는, 가표지 데이터 획득부(20)는 변압기 상태 분류부(22), 가스 조성비 도출부(24), 가표지 데이터 획득부(26) 및 사전 학습 준비부(28)로 구성될 수 있다.
먼저, 변압기 상태 분류부(22)는, 룰 기반 학습 방법에 따라 스케일링된 유중 가스 분석 데이터 중 비표지 데이터를 이용하여 변압기의 정상 상태와 고장 상태를 분류(classification)할 수 있다.
이 때, 변압기의 정상 상태와 고장 상태는 하기 표 1에 나타난 각 가연성 가스의 정상 기준값(normal threshold)을 기반으로 분류될 수 있다.
가스
Figure PCTKR2021013531-appb-I000060
Figure PCTKR2021013531-appb-I000061
Figure PCTKR2021013531-appb-I000062
Figure PCTKR2021013531-appb-I000063
Figure PCTKR2021013531-appb-I000064
기준값(ppm) 60~150 3~50 60~280 50~90 40~110
다음으로, 가스 조성비 도출부(24)는, 전술한 수학식 1과 같이 세 가지 가연성 가스
Figure PCTKR2021013531-appb-I000065
,
Figure PCTKR2021013531-appb-I000066
,
Figure PCTKR2021013531-appb-I000067
를 선택하여
Figure PCTKR2021013531-appb-I000068
,
Figure PCTKR2021013531-appb-I000069
,
Figure PCTKR2021013531-appb-I000070
의 농도로부터 가스 조성비를 도출할 수 있다.
다음으로, 가표지 데이터 변환부(26)는, 도출된 가스 조성비의 샘플 데이터를 도 1 및 도 3에 나타난 바와 같이 듀발 삼각형 방법에 적용하여 스케일링된 유중 가스 분석 데이터 중 비표지 데이터를 가표지 데이터(pseudo label data)로 변환할 수 있다. 예시적으로 듀발 삼각형 방법을 통해 변환된 가표지 데이터는 [1,0,0,0,0]과 같이 획득될 수 있다.
마지막으로, 사전 학습 준비부(28)는, 도 3 및 도 4에 나타난 바와 같이 전술한 사전 학습부(30)가 학습할 학습 데이터(training data)로 이용될
Figure PCTKR2021013531-appb-I000071
와
Figure PCTKR2021013531-appb-I000072
를 준비할 수 있다. 이 때, 상기
Figure PCTKR2021013531-appb-I000073
와
Figure PCTKR2021013531-appb-I000074
는 각각 스케일링된 유중 가스 분석 데이터 중 비표지 데이터 및 이에 대응되는 가표지 데이터를 의미할 수 있다.
도 2 및 도 3을 참조하면, 사전 학습부(30)는 보조적인 비지도 기반(auxiliary unsupervised-based)의 정규화(regularization) 과정을 통해 딥 뉴럴 네트워크(DNN)를 사전 학습할 수 있다. 이 때, 사전 학습부(30)를 통해 이루어지는 학습 과정은 지도 학습(supervised learning)에서의 손실함수
Figure PCTKR2021013531-appb-I000075
를 최소화할 수 있도록 파라미터를 업데이트하는 것으로 간주될 수 있다.
바람직하게는, 사전 학습부(30)는 손실함수 정의부(32), 하이퍼 파라미터 선택부(34) 및 제 1 최적 파라미터 획득부(36)로 구성될 수 있다.
먼저, 손실함수 정의부(32)는, 전술한 수학식 5에 나타낸 손실함수를 하기 수학식 8과 같이 변환하여 정의할 수 있다. 이 때,
Figure PCTKR2021013531-appb-I000076
는 상기 딥 뉴럴 네트워크(DNN)를 학습하는 과정에서 고려되는 손실함수일 수 있으며, 하기 수학식 8과 같이 정의될 수 있다.
Figure PCTKR2021013531-appb-M000008
이 때, 상기 수학식 8에서
Figure PCTKR2021013531-appb-I000077
는 가표지 데이터 획득부(20)를 통한 지도 학습에서 듀발 삼각형 방법을 통해 획득된 가표지 데이터
Figure PCTKR2021013531-appb-I000078
와 딥 뉴럴 네트워크(DNN)의 은닉층 중 마지막 층에서의 추정된(estimated) 가표지 데이터
Figure PCTKR2021013531-appb-I000079
간의 차이를 나타내는 손실함수일 수 있다.
또한,
Figure PCTKR2021013531-appb-I000080
는 비 지도 학습(unsupervised learning)에서 스케일링된 유중 가스 분석 데이터 중 비표지 데이터
Figure PCTKR2021013531-appb-I000081
와 딥 뉴럴 네트워크(DNN)의 은닉층 중 마지막 층에서의 추정된(estimated) 유중 가스 분석 데이터
Figure PCTKR2021013531-appb-I000082
간의 차이를 나타내는 손실함수일 수 있다. 바람직하게는,
Figure PCTKR2021013531-appb-I000083
은 지도 학습(supervised learning)의 과적합(overfitting) 문제를 최소화하기 위한 정규화(regularization) 과정으로서 수행될 수 있다.
또한,
Figure PCTKR2021013531-appb-I000084
는
Figure PCTKR2021013531-appb-I000085
와
Figure PCTKR2021013531-appb-I000086
사이의 가중치인, 하이퍼 파라미터(hyper parameter)를 의미하며, 바람직하게는 0 ~ 1 사이의 값으로 이루어질 수 있다.
상기 수학식 8의 우측항에서 첫 번째 항은 수학식 5에서의 손실함수와 마찬가지로 지도 학습(supervised learning)의 목적으로서 포함될 수 있으나, 두 번째 항의 경우에는 입력값 X(유중 가스 분석 데이터 중 비표지 데이터)를 재 학습하는 것을 의미할 수 있다. 이에 따라 사전 학습부(30)는 가표지 데이터 획득부(20)에서 잘못 획득된 가표지 데이터
Figure PCTKR2021013531-appb-I000087
를 이용하는 경우에도 입력값 X(유중 가스 분석 데이터 중 비표지 데이터)의 재 학습을 통해 이를 보완할 수 있다.
다음으로, 하이퍼 파라미터 선택부(34)는, 상기 수학식 8의 우측항에서의 첫 번째 항(
Figure PCTKR2021013531-appb-I000088
)과 두 번째 항(
Figure PCTKR2021013531-appb-I000089
)을 조절하는 하이퍼 파라미터
Figure PCTKR2021013531-appb-I000090
를 선택할 수 있다.
마지막으로, 제 1 최적 파라미터 획득부(36)는, 상기 수학식 8을 최적화하기 위해 하기 수학식 9와 같이 역전파 방법을 사용하여 최적의 파라미터들을 획득할 수 있다.
Figure PCTKR2021013531-appb-M000009
상기 수학식 9에서,
Figure PCTKR2021013531-appb-I000091
및
Figure PCTKR2021013531-appb-I000092
은 각각 하기 수학식 10과 같이 나타낼 수 있다.
Figure PCTKR2021013531-appb-M000010
도 2 및 도 3을 참조하면, 재 학습부(40)는 사전 학습부(30)에서 사전 학습된 데이터에 대해 딥 뉴럴 네트워크(DNN)의 파라미터 전이(parameter transfer)를 통해 재 학습을 수행할 수 있다.
바람직하게는, 재 학습부(40)는 재 학습 준비부(41), 은닉층 고정부(42), 은닉층 학습부(43), 제 2 최적 파라미터 획득부(44) 및 검증부(45)로 구성될 수 있다.
먼저 재 학습 준비부(41)는, 표지 데이터
Figure PCTKR2021013531-appb-I000093
와
Figure PCTKR2021013531-appb-I000094
의 학습을 준비할 수 있다.
바람직하게는,
Figure PCTKR2021013531-appb-I000095
와
Figure PCTKR2021013531-appb-I000096
는 각각 스케일링된 유중 가스 분석 데이터 중 표지 데이터 및 이에 대응되는 실제 고장 상태를 나타내는 값을 의미할 수 있다.
다음으로, 은닉층 고정부(42)는, 딥 뉴럴 네트워크(DNN)의 일부 은닉층을 고정(freezing)할 수 있다.
전술한 바와 같이 전이 학습은 비표지 데이터의 양이 표지 데이터에 비해 매우 많을 경우 완전 고정 방식이 이용될 수 있다.
상기 은닉층 고정부(42)에서는 표지 데이터의 양이 비표지 데이터의 양보다 매우 적다고 가정하고, 완전 고정 방식에 따라 전이 학습을 수행할 수 있다. 이 경우, 은닉층 고정부(42)를 통해 마지막 은닉층을 제외한 나머지 모든 은닉층에서의 파라미터가 고정될(frozen) 수 있다.
이 때, 은닉층 고정부(42)에 의해 고정되는 파라미터는 상기 사전 학습부(30)를 통해 최적화된 파라미터 중 비 지도 학습을 통해 최적화된 파라미터일 수 있다.
은닉층 고정부(42)는 하기 수학식 11과 같이 마지막 은닉층을 제외한 나머지 은닉층을 고정시킬 수 있으며, 고정되지 않는 마지막 은닉층에 관한 파라미터는 상기 사전 학습부(30)를 통해 최적화된 파라미터 중 지도 학습을 통해 최적화된 파라미터일 수 있다.
Figure PCTKR2021013531-appb-M000011
상기 수학식 11에서, m은 N번째 은닉층을 나타내며, N은 전체 은닉층의 수를 의미한다.
다음으로, 은닉층 학습부(43)는, 전술한 수학식 8에 따라 학습을 수행하되 고정된 은닉층은 학습하지 않고, 마지막 은닉층에 대해서만 학습(재 학습)을 수행할 수 있다.
다음으로, 제 2 최적 파라미터 획득부(44)는 전술한 수학식 8 내지 10을 다시 이용하여 지도 학습(supervised learning)에서의 파라미터들을 다시 최적화함에 따라 최적의 파라미터를 획득할 수 있다. 이 때, 전술한 수학식 8에서의 손실함수 는
Figure PCTKR2021013531-appb-I000097
및
Figure PCTKR2021013531-appb-I000098
로 구성될 수 있다.
마지막으로, 검증부(45)는 전술한 방법을 통해 도출된 학습 모델에 표지 데이터(
Figure PCTKR2021013531-appb-I000099
,
Figure PCTKR2021013531-appb-I000100
)를 가지고 테스트하여 그 정확도를 검증할 수 있다.
도 5는 본 발명의 일 실시예에 따른 변압기의 고장 진단 방법을 나타낸 흐름도이다.
도 5를 참조하면, 본 발명의 일 실시예에 따른 변압기 고장 진단 방법은 아래와 같다.
먼저, 변압기로부터 획득되는 유중 가스 분석 데이터
Figure PCTKR2021013531-appb-I000101
를 스케일링 한다(S1 단계).
상기 S1 단계는, 유중 가스 분석 데이터를 로그화하는 단계 및 로그화된 유중 가스 분석 데이터를 정규화하는 단계를 포함하며, S1 단계는 전술한 데이터 스케일링부(10)에 의해 수행될 수 있다.
다음으로, 상기 S1 단계에서 스케일링된 유중 가스 분석 데이터
Figure PCTKR2021013531-appb-I000102
중 비표지 데이터
Figure PCTKR2021013531-appb-I000103
를 가표지 데이터
Figure PCTKR2021013531-appb-I000104
로 변환하여 획득한다(S2 단계).
상기 S2 단계는, 스케일링된 유중 가스 분석 데이터 중 비표지 데이터를 이용하여 상기 변압기의 정상 상태와 고장 상태를 분류하는 단계와, 세 개의 가연성 가스를 선택하여 각각의 가연성 가스의 농도로부터 가스 조성비를 도출하는 단계와, 도출된 가스 조성비를 듀발 삼각형 방법에 적용하여 상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터를 가표지 데이터로 변환하는 단계 및 스케일링된 유중 가스 분석 데이터 중 비표지 데이터
Figure PCTKR2021013531-appb-I000105
및 가표지 데이터
Figure PCTKR2021013531-appb-I000106
를 준비하는 단계를 포함하며, S2 단계는 전술한 가표지 데이터 획득부(20)에 의해 수행될 수 있다. 바람직하게는, 가표지 데이터 획득부(20)에 의해 선택되는 세 개의 가연성 가스는
Figure PCTKR2021013531-appb-I000107
,
Figure PCTKR2021013531-appb-I000108
,
Figure PCTKR2021013531-appb-I000109
일 수 있다.
다음으로, 스케일링된 유중 가스 분석 데이터 중 비표지 데이터 및 가표지 데이터에 대해 사전 학습을 수행한다(S3 단계).
상기 S3 단계는, 딥 뉴럴 네트워크(DNN)의 손실함수
Figure PCTKR2021013531-appb-I000110
를 정의하는 단계와, 손실함수의 우측항에서의 첫 번째 항(
Figure PCTKR2021013531-appb-I000111
)과 두 번째 항(
Figure PCTKR2021013531-appb-I000112
)을 조절하는 하이퍼 파라미터
Figure PCTKR2021013531-appb-I000113
를 선택하는 단계 및 손실함수를 최적화하도록 역전파 방법을 사용하여 최적의 파라미터를 획득하는 단계를 포함하며, S3 단계는 전술한 사전 학습부(30)에 의해 수행될 수 있다.
바람직하게는, 상기 사전 학습을 수행하는 단계는 복수 회(예 : 200회) 수행될 수 있다.
마지막으로, 사전 학습 수행에 의해 최적화된 파라미터의 전이를 통해 표지 데이터에 대해 재 학습을 수행한다(S4 단계).
상기 S4 단계는, 표지 데이터(
Figure PCTKR2021013531-appb-I000114
와
Figure PCTKR2021013531-appb-I000115
)의 학습을 준비하는 단계와, 딥 뉴럴 네트워크(DNN)의 일부 은닉층을 고정하는 단계와, 고정된 은닉층을 제외하고 마지막 은닉층에 대해서만 학습을 수행하는 단계 및 손실함수를 최적화하도록 역전파 방법을 사용하여 최적의 파라미터를 획득하는 단계를 포함하며, S4 단계는 전술한 재 학습부(40)에 의해 수행될 수 있다.
이 때, 딥 뉴럴 네트워크(DNN)의 일부 은닉층을 고정하는 단계에서, 마지막 은닉층을 제외한 나머지 은닉층은 모두 고정될 수 있으며, 상기 재 학습을 수행하는 단계는 복수 회(예 : 20회) 수행될 수 있다.
도 6은 종래의 변압기의 고장 진단 방법과 본 발명의 일 실시예에 따른 변압기의 고장 진단 방법의 진단 정확도를 비교하여 나타낸 도면이다.
도 6을 참조하면, 본 발명의 실시예에 따른 변압기의 고장 진단 방법을 표지가 지정된(labeled) 학습 데이터(training data)의 양과 관련하여 종래의 변압기의 고장 진단 방법과 비교한 변압기 고장 진단의 정확도 결과를 요약하여 나타낸 결과를 표로 확인할 수 있다.
이 때, 도 6에서 첫 번째 학습 관점(learning approach)은 표지가 지정된 데이터로만 학습하는 지도 학습(supervised learning)의 경우를 나타내며, 두 번째 학습 관점은 표지가 지정된 표지 데이터와 비표지 데이터를 모두 학습하는 반지도 학습(semi-supervised learning)의 경우를 나타내고, 세 번째 학습 관점은 룰 기반 방법과 인공지능 기반 방법을 이용하는 변압기의 고장 진단 방법(rule-based knowledge learning)을 나타낸다.
또한, 도 6에서 L-SVM은 선형 서포트 벡터 머신(linear support vector machine)을 의미하고, R-SVM은 방사형 기저 함수(radial basis function)를 가지는 서포트 벡터 머신(support vector machine)을 의미하며, KNN은 K-최근접 이웃 알고리즘(K-nearest neighbors algorithm)을 의미하고, 1-NN은 하나의 은닉층을 가지는 뉴럴 네트워크(neural network)를 의미하며, DeA는 딥 오토인코더(deep autoencoder)를 의미한다. 전술한, L-SVM, R-SVM, KNN, 1-NN 및 DeA은 대표적인 인공지능 기반 분석 방법이므로 이에 대한 자세한 설명은 생략하도록 한다.
한편, 도 6의 세 번째 학습 관점에서 딥 뉴럴 네트워크(DNN)를 이용한 진단 방법은
Figure PCTKR2021013531-appb-I000116
,
Figure PCTKR2021013531-appb-I000117
,
Figure PCTKR2021013531-appb-I000118
및 BDD로 나타날 수 있다. 이 때, "Non"은 전술한 사전 학습부(30)를 통한 보조적인 비 지도 학습이 이루어지지 않는 것을 의미하며, "Aux"는 사전 학습부(30)를 통한 보조적인 비 지도 학습이 이루어지는 것을 의미한다. 또한, "PF"는 전술한 재 학습부(40)를 통한 파라미터 고정(parameter freezing)이 이루어지는 것을 의미하며, "FT"는 미세 조정(fine tuning)이 이루어지는 것을 의미하고, "BDD"는 듀발 삼각형 방법과 딥 뉴럴 네트워크 방법을 조합(bridging duval's triangle method and deep neural network)하는 본 발명의 실시예에 따른 변압기의 고장 진단 방법을 나타낸다.
도 6을 참조하면, 모든 진단 방법에서 표지가 지정된 학습 데이터의 양이 증가함에 따라 변압기의 고장 진단 정확도가 증가하는 것을 확인할 수 있다.
이 때, 본 발명의 실시예와 같이 룰 기반 방법과 딥 러닝 기반 방법을 조합한 본 발명의 실시예에 따른 변압기의 고장 진단 방법(BDD)이 표지가 지정된 학습 데이터의 양에 관계없이 다른 진단 방법에 비해 가장 높은 고장 진단 정확도를 달성하는 것을 확인할 수 있다.
특히, 본 발명의 실시예에 따른 변압기의 고장 진단 방법의 경우 희박한 표지 데이터(labeled data)가 존재하는 조건에서도 가장 높은 고장 진단 성능을 달성하였음을 확인할 수 있다.
예시적으로, 본 발명의 실시예에 따른 변압기의 고장 진단 방법의 경우 표지가 지정된 학습 데이터가 5%만 존재하는 경우에도 다른 진단 방법에 비해 가장 높은 고장 진단 정확도(86.4%)를 달성하는 것을 확인할 수 있다.
또한, 본 발명의 실시예에 따른 변압기의 고장 진단 방법의 경우 표지가 지정된 학습 데이터가 30%만 존재하는 경우에도 다른 진단 방법에 비해 가장 높은 고장 진단 정확도(95.4%)를 가장 빠르게 달성할 수 있다.
본 발명의 실시예에 따르면, 표지 데이터가 없는 데이터의 고장 상태를 진단하는 룰 기반 학습 방법의 장점과 인공 지능에 기반한 딥 러닝 기반 학습 방법의 장점을 융합함으로써, 다수의 유중 가스 분석 데이터가 있으나 소수의 표지 데이터 밖에 없는 상황에서도 변압기의 고장 진단을 정확하게 수행할 수 있다.
또한, 변압기의 고장 진단시 인공 지능에 기반한 딥 러닝 기반 학습 방법에만 의존하지 않고 룰 기반 학습 방법을 통해 전문가의 지식을 융합할 수 있으므로 어렵고 복잡한 모델을 개발하지 않고도 딥 러닝 기반 학습 방법의 정확도를 개선할 수 있다.
이상의 설명은 본 발명의 기술 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 본질적인 특성에서 벗어나지 않는 범위 내에서 다양한 수정, 변경 및 치환이 가능할 것이다. 따라서, 본 발명에 개시된 실시예 및 첨부된 도면들은 본 발명의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시예 및 첨부된 도면에 의하여 본 발명의 기술 사상의 범위가 한정되는 것은 아니다. 본 발명의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술 사상은 본 발명의 권리범위에 포함되는 것으로 해석되어야 할 것이다.

Claims (18)

  1. 변압기의 고장 진단 장치에 있어서,
    상기 변압기로부터 획득되는 유중 가스 분석 데이터를 스케일링하는 데이터 스케일링부;
    상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터를 가표지 데이터로 변환하여 획득하는 가표지 데이터 획득부;
    상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터 및 상기 가표지 데이터에 대해 사전 학습을 수행하는 사전 학습부; 및
    상기 사전 학습 수행에 의해 최적화된 파라미터의 전이를 통해 표지 데이터에 대해 재 학습을 수행하는 재 학습부;를 포함하는 것을 특징으로 하는 변압기의 고장 진단 장치.
  2. 제 1항에 있어서,
    상기 데이터 스케일링부는,
    상기 유중 가스 분석 데이터를 로그화하는 데이터 로그화부 및
    상기 로그화된 유중 가스 분석 데이터를 정규화하는 데이터 정규화부를 포함하는 것을 특징으로 하는 변압기의 고장 진단 장치.
  3. 제 1항에 있어서,
    상기 가표지 데이터 획득부는,
    상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터를 이용하여 상기 변압기의 정상 상태와 고장 상태를 분류하는 변압기 상태 분류부와,
    세 개의 가연성 가스를 선택하여 각각의 가연성 가스의 농도로부터 가스 조성비를 도출하는 가스 조성비 도출부와,
    상기 도출된 가스 조성비를 듀발 삼각형 방법에 적용하여 상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터를 가표지 데이터로 변환하는 가표지 데이터 변환부 및
    상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터 및 상기 가표지 데이터를 준비하는 사전 학습 준비부를 포함하는 것을 특징으로 하는 변압기의 고장 진단 장치.
  4. 제 3항에 있어서,
    상기 세 개의 가연성 가스는,
    Figure PCTKR2021013531-appb-I000119
    ,
    Figure PCTKR2021013531-appb-I000120
    ,
    Figure PCTKR2021013531-appb-I000121
    인 것을 특징으로 하는 변압기의 고장 진단 장치.
  5. 제 1항에 있어서,
    상기 사전 학습부는,
    딥 뉴럴 네트워크의 손실함수
    Figure PCTKR2021013531-appb-I000122
    를 정의하는 손실함수 정의부와,
    상기 손실함수의 우측항에서의 첫 번째 항(
    Figure PCTKR2021013531-appb-I000123
    )과 두 번째 항(
    Figure PCTKR2021013531-appb-I000124
    )을 조절하는 하이퍼 파라미터
    Figure PCTKR2021013531-appb-I000125
    를 선택하는 하이퍼 파라미터 선택부 및
    상기 손실함수를 최적화하도록 역전파 방법을 사용하여 최적의 파라미터를 획득하는 제 1 최적 파라미터 획득부를 포함하는 것을 특징으로 하는 변압기의 고장 진단 장치.
  6. 제 5항에 있어서,
    상기 손실함수에서,
    Figure PCTKR2021013531-appb-I000126
    는 듀발 삼각형 방법을 통해 획득된 가표지 데이터
    Figure PCTKR2021013531-appb-I000127
    와 상기 딥 뉴럴 네트워크의 은닉층 중 마지막 층에서의 추정된 가표지 데이터
    Figure PCTKR2021013531-appb-I000128
    간의 차이를 나타내는 것을 특징으로 하는 변압기의 고장 진단 장치.
  7. 제 5항에 있어서,
    상기 손실함수에서,
    Figure PCTKR2021013531-appb-I000129
    는 상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터
    Figure PCTKR2021013531-appb-I000130
    와 상기 딥 뉴럴 네트워크의 은닉층 중 마지막 층에서의 추정된 유중 가스 분석 데이터
    Figure PCTKR2021013531-appb-I000131
    간의 차이를 나타내는 것을 특징으로 하는 변압기의 고장 진단 장치.
  8. 제 5항에 있어서,
    상기 재 학습부는,
    상기 표지 데이터의 학습을 준비하는 재 학습 준비부와,
    상기 딥 뉴럴 네트워크의 일부 은닉층을 고정하는 은닉층 고정부와,
    상기 고정된 은닉층을 제외한 마지막 은닉층에 대해서만 학습을 수행하는 은닉층 학습부 및
    상기 손실함수를 최적화하도록 역전파 방법을 사용하여 최적의 파라미터를 획득하는 제 2 최적 파라미터 획득부를 포함하는 것을 특징으로 하는 변압기의 고장 진단 장치.
  9. 제 8항에 있어서,
    상기 은닉층 고정부는,
    상기 마지막 은닉층을 제외한 나머지 은닉층을 고정시키는 것을 특징으로 하는 변압기의 고장 진단 장치.
  10. 변압기의 고장 진단 방법에 있어서,
    상기 변압기로부터 획득되는 유중 가스 분석 데이터를 스케일링하는 단계;
    상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터를 가표지 데이터로 변환하여 획득하는 단계;
    상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터 및 상기 가표지 데이터에 대해 사전 학습을 수행하는 단계; 및
    상기 사전 학습 수행에 의해 최적화된 파라미터의 전이를 통해 표지 데이터에 대해 재 학습을 수행하는 단계;를 포함하는 것을 특징으로 하는 변압기의 고장 진단 방법.
  11. 제 10항에 있어서,
    상기 유중 가스 분석 데이터를 스케일링하는 단계는,
    상기 유중 가스 분석 데이터를 로그화하는 단계 및
    상기 로그화된 유중 가스 분석 데이터를 정규화하는 단계를 포함하는 것을 특징으로 하는 변압기의 고장 진단 방법.
  12. 제 10항에 있어서,
    상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터를 가표지 데이터로 변환하여 획득하는 단계는,
    상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터를 이용하여 상기 변압기의 정상 상태와 고장 상태를 분류하는 단계와,
    세 개의 가연성 가스를 선택하여 각각의 가연성 가스의 농도로부터 가스 조성비를 도출하는 단계와,
    상기 도출된 가스 조성비를 듀발 삼각형 방법에 적용하여 상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터를 가표지 데이터로 변환하는 단계 및
    상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터 및 상기 가표지 데이터를 준비하는 단계를 포함하는 것을 특징으로 하는 변압기의 고장 진단 방법.
  13. 제 12항에 있어서,
    상기 세 개의 가연성 가스는,
    Figure PCTKR2021013531-appb-I000132
    ,
    Figure PCTKR2021013531-appb-I000133
    ,
    Figure PCTKR2021013531-appb-I000134
    인 것을 특징으로 하는 변압기의 고장 진단 방법.
  14. 제 10항에 있어서,
    상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터 및 상기 가표지 데이터에 대해 사전 학습을 수행하는 단계는,
    딥 뉴럴 네트워크의 손실함수
    Figure PCTKR2021013531-appb-I000135
    를 정의하는 단계와,
    상기 손실함수의 우측항에서의 첫 번째 항(
    Figure PCTKR2021013531-appb-I000136
    )과 두 번째 항(
    Figure PCTKR2021013531-appb-I000137
    )을 조절하는 하이퍼 파라미터
    Figure PCTKR2021013531-appb-I000138
    를 선택하는 단계 및
    상기 손실함수를 최적화하도록 역전파 방법을 사용하여 최적의 파라미터를 획득하는 단계를 포함하는 것을 특징으로 하는 변압기의 고장 진단 방법.
  15. 제 14항에 있어서,
    상기 손실함수에서,
    Figure PCTKR2021013531-appb-I000139
    는 듀발 삼각형 방법을 통해 획득된 가표지 데이터
    Figure PCTKR2021013531-appb-I000140
    와 상기 딥 뉴럴 네트워크의 은닉층 중 마지막 층에서의 추정된 가표지 데이터
    Figure PCTKR2021013531-appb-I000141
    간의 차이를 나타내는 것을 특징으로 하는 변압기의 고장 진단 방법.
  16. 제 14항에 있어서,
    상기 손실함수에서,
    Figure PCTKR2021013531-appb-I000142
    는 상기 스케일링된 유중 가스 분석 데이터 중 비표지 데이터
    Figure PCTKR2021013531-appb-I000143
    와 상기 딥 뉴럴 네트워크의 은닉층 중 마지막 층에서의 추정된 유중 가스 분석 데이터
    Figure PCTKR2021013531-appb-I000144
    간의 차이를 나타내는 것을 특징으로 하는 변압기의 고장 진단 방법.
  17. 제 14항에 있어서,
    상기 사전 학습 수행에 의해 최적화된 파라미터의 전이를 통해 표지 데이터에 대해 재 학습을 수행하는 단계는,
    상기 표지 데이터의 학습을 준비하는 단계와,
    상기 딥 뉴럴 네트워크의 일부 은닉층을 고정하는 단계와,
    상기 고정된 은닉층을 제외한 마지막 은닉층에 대해서만 학습을 수행하는 단계 및
    상기 손실함수를 최적화하도록 역전파 방법을 사용하여 최적의 파라미터를 획득하는 단계를 포함하는 것을 특징으로 하는 변압기의 고장 진단 방법.
  18. 제 17항에 있어서,
    상기 딥 뉴럴 네트워크의 일부 은닉층을 고정하는 단계에서,
    상기 마지막 은닉층을 제외한 나머지 은닉층을 고정시키는 것을 특징으로 하는 변압기의 고장 진단 방법.
PCT/KR2021/013531 2020-12-30 2021-10-01 변압기의 고장 진단 장치 및 이를 이용한 고장 진단 방법 Ceased WO2022145642A1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US18/260,090 US12631615B2 (en) 2020-12-30 2021-10-01 Transformer malfunction diagnosis device and malfunction diagnosis method using same

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
KR10-2020-0187981 2020-12-30
KR20200187981 2020-12-30
KR1020210124138A KR102354342B1 (ko) 2020-12-30 2021-09-16 변압기의 고장 진단 장치 및 이를 이용한 고장 진단 방법
KR10-2021-0124138 2021-09-16

Publications (1)

Publication Number Publication Date
WO2022145642A1 true WO2022145642A1 (ko) 2022-07-07

Family

ID=80050458

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2021/013531 Ceased WO2022145642A1 (ko) 2020-12-30 2021-10-01 변압기의 고장 진단 장치 및 이를 이용한 고장 진단 방법

Country Status (2)

Country Link
KR (1) KR102354342B1 (ko)
WO (1) WO2022145642A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115358353A (zh) * 2022-10-20 2022-11-18 众芯汉创（北京）科技有限公司 一种多源融合的变压器故障诊断方法

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102695415B1 (ko) * 2022-02-10 2024-08-16 울산대학교 산학협력단 인공지능 기반의 엔진 이상을 실시간으로 진단하는 방법 및 장치

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8751421B2 (en) * 2010-07-16 2014-06-10 The Trustees Of Columbia University In The City Of New York Machine learning for power grid
CN106596900A (zh) * 2016-12-13 2017-04-26 贵州电网有限责任公司电力科学研究院 一种基于改进图的半监督分类的变压器故障诊断方法
KR20190034963A (ko) * 2017-09-25 2019-04-03 한국전력공사 전력용 변압기의 결함을 판별하기 위한 유중가스 패턴 분석 장치 및 방법
KR102128460B1 (ko) * 2018-10-05 2020-06-30 한국전력공사 변압기의 이상 탐지 방법

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101842831B1 (ko) * 2017-05-10 2018-05-14 울산대학교 산학협력단 기계학습 알고리즘을 이용한 변압기 유중가스 분석방법 및 장치
KR20200014129A (ko) 2018-07-31 2020-02-10 오토시맨틱스 주식회사 딥러닝을 이용한 변압기 진단 방법

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8751421B2 (en) * 2010-07-16 2014-06-10 The Trustees Of Columbia University In The City Of New York Machine learning for power grid
CN106596900A (zh) * 2016-12-13 2017-04-26 贵州电网有限责任公司电力科学研究院 一种基于改进图的半监督分类的变压器故障诊断方法
KR20190034963A (ko) * 2017-09-25 2019-04-03 한국전력공사 전력용 변압기의 결함을 판별하기 위한 유중가스 패턴 분석 장치 및 방법
KR102128460B1 (ko) * 2018-10-05 2020-06-30 한국전력공사 변압기의 이상 탐지 방법

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
KIM SUNUWE; JO SOO-HO; KIM WONGON; PARK JONGMIN; JEONG JINGYO; HAN YEONGMIN; KIM DAEIL; YOUN BYENG DONG: "A Semi-Supervised Autoencoder With an Auxiliary Task (SAAT) for Power Transformer Fault Diagnosis Using Dissolved Gas Analysis", IEEE ACCESS, vol. 8, 29 September 2020 (2020-09-29), USA , pages 178295 - 178310, XP011813049, DOI: 10.1109/ACCESS.2020.3027830 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115358353A (zh) * 2022-10-20 2022-11-18 众芯汉创（北京）科技有限公司 一种多源融合的变压器故障诊断方法

Also Published As

Publication number Publication date
KR102354342B1 (ko) 2022-01-21
US20240053323A1 (en) 2024-02-15

Similar Documents

Publication Publication Date Title
Zaki et al. Deep‐learning–based method for faults classification of PV system
Wilson et al. Deep learning-aided cyber-attack detection in power transmission systems
WO2023014007A1 (ko) 화합물 정보 추출을 위한 장치 및 방법
WO2020196985A1 (ko) 비디오 행동 인식 및 행동 구간 탐지 장치 및 방법
WO2022265458A1 (ko) 이차전지 저전압 불량 예측 장치 및 방법, 상기 장치를 포함하는 전지 제어 시스템
WO2017010778A1 (ko) 대형 운용 시스템의 상태 기반 예방정비 장치 및 방법
WO2010041836A2 (en) Method of detecting skin-colored area using variable skin color model
WO2022114653A1 (ko) 데이터 경계 도출 시스템 및 방법
KR102695753B1 (ko) 태양광 발전의 고장 검출 및 진단 시스템 및 방법
CN113899987A (zh) 基于深度金字塔卷积神经网络的电网故障诊断方法
CN117347052A (zh) 一种基于多尺度多源域自适应轴承故障诊断方法
CN117172753A (zh) 一种基于移动互联网的智慧水电站巡检系统及方法
KR102354342B1 (ko) 변압기의 고장 진단 장치 및 이를 이용한 고장 진단 방법
WO2024014724A1 (ko) 뇌영상으로부터 뇌성별 및 뇌연령을 예측하는 방법 및 장치
WO2025127387A1 (ko) 가스절연 개폐장치의 부분방전 결함 검출 모델 생성 시스템, 결함 검출 장치 및 결함 검출 방법
WO2026054389A1 (ko) 태양광발전 전력예측용 인공지능 모델생성방법, 인공지능 모델을 사용하는 태양광발전 전력예측시스템, 및 인공지능 모델을 사용하는 태양광발전장치 고장진단시스템
WO2020071618A1 (ko) 엔트로피 기반 신경망 부분학습 방법 및 시스템
CN119416133B (zh) 考虑多源量测数据质量的配电台区违规用电智能识别方法
Murillo-Soto et al. Photovoltaic array fault detection algorithm based on least significant difference test
WO2025037825A1 (ko) 데이터 분석 장치 및 그것의 동작 방법
WO2025042101A1 (ko) 태양광 패널의 발전량 예측·고장진단을 위한 장치
CN118396404A (zh) 一种浮法玻璃生产过程故障监测与根源诊断方法及装置
Dong et al. Deep learning based multiple sensors monitoring and abnormal discovery for satellite power system
CN115392295A (zh) 一种基于增量学习框架的轴承故障预测方法
WO2025037720A1 (ko) 데이터 셋에 대한 오라벨링의 제거 또는 재라벨링을 수행 하는 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21915440

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 21915440

Country of ref document: EP

Kind code of ref document: A1