KR20200033822A - Apparatus and Method for Detecting/Analyzing Defect of Windturbine Blade - Google Patents

Apparatus and Method for Detecting/Analyzing Defect of Windturbine Blade Download PDF

Info

Publication number
KR20200033822A
KR20200033822A KR1020200033718A KR20200033718A KR20200033822A KR 20200033822 A KR20200033822 A KR 20200033822A KR 1020200033718 A KR1020200033718 A KR 1020200033718A KR 20200033718 A KR20200033718 A KR 20200033718A KR 20200033822 A KR20200033822 A KR 20200033822A
Authority
KR
South Korea
Prior art keywords
defect
image
blade
pixel
wind power
Prior art date
Application number
KR1020200033718A
Other languages
Korean (ko)
Other versions
KR102386221B1 (en
Inventor
조성욱
최재혁
Original Assignee
(주)니어스랩
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1020180030398A external-priority patent/KR20190108832A/en
Application filed by (주)니어스랩 filed Critical (주)니어스랩
Priority to KR1020200033718A priority Critical patent/KR102386221B1/en
Publication of KR20200033822A publication Critical patent/KR20200033822A/en
Application granted granted Critical
Publication of KR102386221B1 publication Critical patent/KR102386221B1/en

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64CAEROPLANES; HELICOPTERS
    • B64C39/00Aircraft not otherwise provided for
    • B64C39/02Aircraft not otherwise provided for characterised by special use
    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F03MACHINES OR ENGINES FOR LIQUIDS; WIND, SPRING, OR WEIGHT MOTORS; PRODUCING MECHANICAL POWER OR A REACTIVE PROPULSIVE THRUST, NOT OTHERWISE PROVIDED FOR
    • F03DWIND MOTORS
    • F03D17/00Monitoring or testing of wind motors, e.g. diagnostics
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N2021/1765Method using an image detector and processing of image signal
    • G01N2021/177Detector of the video camera type
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8887Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges based on image processing techniques

Landscapes

  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Pathology (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Immunology (AREA)
  • Health & Medical Sciences (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Sustainable Development (AREA)
  • Sustainable Energy (AREA)
  • Combustion & Propulsion (AREA)
  • Mechanical Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Wind Motors (AREA)
  • Image Analysis (AREA)

Abstract

The present invention provides an apparatus and a method for recognizing/analyzing a defect of a blade of a wind power generator. According to an embodiment of the present invention, the method for recognizing and analyzing a defect of a wind power generator from a photographed image of an unmanned aerial vehicle by using deep learning comprises: a receiving process of receiving an image of the wind power generator photographed from the unmanned aerial vehicle; a blade detection process of detecting an image including a blade area of the wind power generator from the image of the wind power generator; a defect detection process of determining whether a defect exists in pixel units from the detected blade area image; and a defect analysis process of analyzing a property of a defect of a detection image in pixel units with a recognized defect from the blade area image.

Description

풍력 발전기 블레이드 결함 인식/분석 장치 및 방법{Apparatus and Method for Detecting/Analyzing Defect of Windturbine Blade}Apparatus and Method for Detecting / Analyzing Defect of Windturbine Blade

본 발명은 결함 인식/분석 장치 및 방법에 관한 것으로, 더욱 상세하게는 풍력 발전기 블레이드를 촬영한 이미지를 분석하여 결함을 검출하고 그에 대해 분석하는 장치 및 방법에 관한 것이다.The present invention relates to a defect recognition / analysis apparatus and method, and more particularly, to an apparatus and method for detecting and analyzing a defect by analyzing an image of a wind power generator blade.

이 부분에 기술된 내용은 단순히 본 실시예에 대한 배경 정보를 제공할 뿐 종래기술을 구성하는 것은 아니다. The contents described in this section merely provide background information for this embodiment, and do not constitute a prior art.

풍력 발전기는 바람의 에너지를 전기에너지로 바꿔주는 장치로서, 풍력 발전기의 날개를 회전시켜 이때 생긴 날개의 회전력으로 전기를 생산한다. 통상적으로, 풍력 발전기는 수십m의 높이를 가지며, 개중에는 100 미터(m)를 넘는 것도 존재한다. 또한 그것의 블레이드도 보통 수십 미터(m)의 크기를 갖는다.A wind power generator is a device that converts wind energy into electrical energy, and rotates the wings of the wind power generator to produce electricity with the rotational force of the wings. Typically, wind power generators have a height of several tens of meters, some of which exceed 100 meters (m). Also, its blades are usually several tens of meters (m) in size.

이와 같이, 풍력 발전기 블레이드의 거대한 크기 때문에, 시설물 관리자가 일일이 풍력 발전기 혹은 블레이드에 올라가 직접 결함, 특히, 풍력 발전기의 각 블레이드에 발생한 다양한 종류의 결함을 검사하는 것은 많은 위험과 불편이 따랐다. 풍력 발전기는 강한 바람이 지속적으로 부는 환경에 설치되기 때문에, 풍력 발전기 관리자는 높은 고도에서 강한 바람에 직면한 채로 작업을 수행하여야 하여, 관리자에게 많은 위험이 존재하였다. 또한, 풍력발전기 블레이드 이미지를 확보했다고 해도, 그것의 결함을 판별하는 것은 오직 숙련자의 오랜 경험에 의존해서만 이루어졌기 때문에, 숙련자의 신체적/정신적 상황에 따라 그것의 결과값이 크게 달라지는 단점이 있다.As such, due to the huge size of the wind turbine blades, it was a lot of risk and inconvenience for facility managers to climb the wind generators or blades and inspect the defects directly, especially the various types of defects in each blade of the wind generator. Since the wind power generator is installed in an environment in which strong wind is constantly blowing, the wind power generator manager must perform the work while facing the strong wind at a high altitude, so there is a lot of danger to the manager. In addition, even if the blade image of the wind power generator is secured, it is disadvantageous in that its result is significantly different depending on the physical / mental situation of the skilled person, since the determination of the defect is made only based on the expert's long experience.

따라서 안전하면서도 신속하게 풍력 발전기 블레이드 결함 존재여부를 분석하는 방법에 대한 수요가 존재한다.Therefore, there is a need for a method of safely and quickly analyzing the presence or absence of blade defects in a wind power generator.

본 발명의 일 실시예는, 딥러닝(deep learning)을 이용하여 무인비행장치를 통해 촬영한 이미지로부터 풍력 발전기 블레이드의 결함의 존재 여부부를 인식하고, 나아가 인식된 결함의 성질을 분석하는 결함 분석 장치 및 방법을 제공하는 데 일 목적이 있다.One embodiment of the present invention, using a deep learning (deep learning) from the image photographed through the unmanned flight apparatus recognizes the presence or absence of defects in the blade of the wind power generator, and furthermore a defect analysis device for analyzing the properties of the recognized defects And to provide a method.

본 발명의 일실시예에 따른 무인 비행장치(Unmanned Aerial Vehicle)의 촬영 이미지로부터 딥러닝을 이용하여 풍력 발전기의 결함 인식 및 분석 방법은, 상기 무인 비행장치로부터 촬영된 상기 풍력 발전기의 이미지를 수신하는 수신과정; 상기 풍력 발전기의 이미지로부터 상기 풍력 발전기의 블레이드(Blade) 영역이 포함된 이미지를 검출하는 블레이드 검출과정; 상기 검출된 블레이드 영역 이미지로부터 결함 존재 여부를 픽셀 단위로 판단하여 검출하는 결함 검출과정; 및 상기 블레이드 영역 이미지로부터 결함이 인식된 픽셀 단위의 검출 이미지의 결함의 성질을 분석하는 결함 분석과정을 포함하여 이루어진다.Defect recognition and analysis method of a wind generator using deep learning from a photographed image of an unmanned aerial vehicle according to an embodiment of the present invention, receiving an image of the wind generator photographed from the unmanned aerial vehicle Receiving process; A blade detection process of detecting an image including a blade region of the wind generator from the image of the wind generator; A defect detection process of determining whether a defect exists from the detected blade region image in units of pixels and detecting the defect; And a defect analysis process of analyzing a defect property of a pixel-based detection image in which a defect is recognized from the blade region image.

본 발명의 일실시예에 따르면, 상기 블레이드 영역 이미지로부터 결함이 인식된 픽셀 단위의 검출 이미지와 결함이 인식되지 않은 픽셀 단위의 검출 이미지는 각각 별개의 폴더에 저장하는 단계를 더 포함하여 이루어지는 것을 특징으로 한다.According to an embodiment of the present invention, it is characterized in that it further comprises the step of storing the detected image in the pixel unit where the defect is recognized and the detected image in the pixel unit where the defect is not recognized, respectively, from the blade region image. Is done.

본 발명의 일실시예에 따르면, 상기 분석된 픽셀 단위의 검출 이미지는 결함 성질에 따라 결함 종류와 결함 정도에 따라 분류하고, 분류된 이미지는 별개의 폴더에 저장하는 단계를 더 포함하여 이루어지는 것을 특징으로 한다.According to an embodiment of the present invention, the analyzed pixel-based detection image is classified according to the defect type and the defect level according to the defect property, and the classified image is further comprised of storing in a separate folder. Is done.

본 발명의 일실시예에 따르면, 상기 폴더에 저장되는 픽셀 단위 이미지 데이터는, 상기 수신된 풍력 발전기의 이미지 기반으로 해당 픽셀의 위치 데이터도 포함되는 것을 특징으로 한다.According to an embodiment of the present invention, the pixel unit image data stored in the folder is also characterized in that location data of the corresponding pixel is also included based on the received image of the wind generator.

본 발명의 일실시예에 따르면, 상기 결함 검출과정은, 상기 검출된 블레이드 영역이 포함된 이미지를 픽셀 단위로, 블레이드 영역 아닌 픽셀, 블레이드 영역이나 결함이 없는 픽셀 및 블레이드 영역이고 결함이 있는 픽셀로 구분하고, 서로 다른 컬러로 표시하는 것을 특징으로 한다.According to an embodiment of the present invention, the defect detection process, the pixel containing the detected blade area in units of pixels, a non-blade area pixel, a blade area or a defect-free pixel and a blade area and a defective pixel It is characterized by distinguishing and displaying in different colors.

본 발명의 일실시예에 따르면, 상기 블레이드 검출과정, 결함 검출과정 및 결함 분석과정은, 상기 딥러닝 기술의 컨볼루션 신경망 알고리즘을 이용하되 각 과정에서 서로 다른 기법을 이용하는 것을 특징으로 한다.According to one embodiment of the present invention, the blade detection process, the defect detection process and the defect analysis process are characterized by using a convolutional neural network algorithm of the deep learning technique, but using different techniques in each process.

본 발명의 일실시예에 따른 무인 비행장치(Unmanned Aerial Vehicle)의 촬영 이미지로부터 딥러닝을 이용하여 풍력 발전기의 결함 인식 및 분석 장치는, 상기 무인 비행장치로부터 촬영된 상기 풍력 발전기의 이미지를 수신하는 통신부; 상기 풍력 발전기의 이미지로부터 상기 풍력 발전기의 블레이드(Blade) 영역이 포함된 이미지를 검출하는 블레이드 검출부; 상기 검출된 블레이드 영역 이미지로부터 결함 존재 여부를 픽셀 단위로 판단하여 검출하는 결함 검출부; 및 상기 블레이드 영역 이미지로부터 결함이 인식된 픽셀 단위의 검출 이미지의 결함의 성질을 분석하는 결함 분석부를 포함한다.Defect recognition and analysis device of a wind power generator using deep learning from a photographed image of an unmanned aerial vehicle according to an embodiment of the present invention, receiving an image of the wind generator photographed from the unmanned aerial vehicle Communication department; A blade detector configured to detect an image including a blade region of the wind generator from the image of the wind generator; A defect detection unit for determining whether a defect exists from the detected blade region image in units of pixels and detecting the defect; And a defect analysis unit analyzing a defect property of a pixel-based detection image in which a defect is recognized from the blade region image.

본 발명의 일실시예에 따르면, 상기 블레이드 영역 이미지로부터 결함이 인식된 픽셀 단위의 검출 이미지와 결함이 인식되지 않은 픽셀 단위의 검출 이미지는 각각 별개의 폴더에 저장하는 데이터베이스를 더 포함하는 것을 특징으로 한다.According to an embodiment of the present invention, it is characterized in that the detected image in the pixel unit where the defect is recognized from the blade region image and the detected image in the pixel unit where the defect is not recognized further include a database that is stored in a separate folder. do.

본 발명의 일실시예에 따르면, 상기 데이터베이스는, 상기 분석된 픽셀 단위의 검출 이미지는 결함 성질에 따라 결함 종류와 결함 정도에 따라 분류하고, 분류된 이미지는 별개의 폴더에 저장하는 것을 특징으로 한다.According to an embodiment of the present invention, the database is characterized in that the detected pixel-by-pixel detection images are classified according to defect types and defect levels according to defect properties, and the classified images are stored in separate folders. .

본 발명의 일실시예에 따르면, 상기 데이터베이스는, 상기 폴더에 저장되는 픽셀 단위 이미지 데이터로, 상기 수신된 풍력 발전기의 이미지 기반으로 해당 픽셀의 위치 데이터도 포함하는 것을 특징으로 한다.According to an embodiment of the present invention, the database is characterized in that it includes pixel-based image data stored in the folder, and also includes location data of a corresponding pixel based on the image of the received wind power generator.

본 발명의 일실시예에 따르면, 상기 결함 검출부는, 상기 검출된 블레이드 영역이 포함된 이미지를 픽셀 단위로, 블레이드 영역 아닌 픽셀, 블레이드 영역이나 결함이 없는 픽셀 및 블레이드 영역이고 결함이 있는 픽셀로 구분하고, 서로 다른 컬러로 표시하는 것을 특징으로 한다.According to an embodiment of the present invention, the defect detection unit divides an image including the detected blade region into pixels, not a blade region, a blade region or a defect-free pixel, and a blade region and a defective pixel. And, it characterized in that the display in different colors.

본 발명의 일실시예에 따르면, 상기 블레이드 검출부, 결함 검출부 및 결함 분석부는, 상기 딥러닝 기술의 컨볼루션 신경망 알고리즘을 이용하되 각 과정에서 서로 다른 기법을 이용하는 것을 특징으로 한다.According to an embodiment of the present invention, the blade detection unit, the defect detection unit and the defect analysis unit are characterized by using a convolutional neural network algorithm of the deep learning technique, but using different techniques in each process.

이상에서 설명한 바와 같이, 본 발명의 일 측면에 따르면, 딥러닝(deep learning)을 이용하여 무인비행장치를 통해 촬영한 이미지로부터 풍력 발전기 블레이드의 결함의 존재 여부를 인식하고, 나아가 인식된 결함의 성질까지 안전하고 신속하게 분석할 수 있는 장점이 있다.As described above, according to an aspect of the present invention, deep learning is used to recognize the presence or absence of a defect in a wind turbine blade from an image photographed through an unmanned aerial vehicle, and furthermore, the property of the recognized defect. It has the advantage of being able to analyze safely and quickly.

도 1은 본 발명의 일 실시예에 따른 풍력발전기 결함 분석 시스템의 구성도이다.
도 2는 본 발명의 일 실시예에 따른 풍력발전기 결함 분석장치의 구성도이다.
도 3은 본 발명의 일 실시예에 따른 무인 비행장치의 구성도이다.
도 4는 본 발명의 일 실시예에 따른 풍력 발전기의 결함 인식/분석 방법을 도시한 순서도이다.
도 5는 본 발명의 일 실시예에 따른 풍력 발전기 블레이드의 상세 결함 인식/분석 방법을 설명하기 위해 도시한 순서도이다.
도 6은 본 발명의 일실시예와 관련하여 이미지 스티칭 기법을 설명하기 위해 도시한 순서도이다.
1 is a configuration diagram of a wind turbine defect analysis system according to an embodiment of the present invention.
2 is a block diagram of an apparatus for analyzing a defect in a wind power generator according to an embodiment of the present invention.
3 is a configuration diagram of an unmanned aerial vehicle according to an embodiment of the present invention.
Figure 4 is a flow chart showing a defect recognition / analysis method of a wind power generator according to an embodiment of the present invention.
5 is a flowchart illustrating a detailed defect recognition / analysis method of a wind power generator blade according to an embodiment of the present invention.
6 is a flowchart illustrating an image stitching technique in connection with an embodiment of the present invention.

본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시 예를 가질 수 있는 바, 특정 실시 예들을 도면에 예시하고 상세하게 설명하고자 한다. 그러나 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 각 도면을 설명하면서 유사한 참조부호를 유사한 구성요소에 대해 사용하였다.The present invention can be applied to various changes and can have various embodiments, and specific embodiments will be illustrated in the drawings and described in detail. However, this is not intended to limit the present invention to a specific embodiment, it should be understood to include all modifications, equivalents, and substitutes included in the spirit and scope of the present invention. In describing each drawing, similar reference numerals are used for similar components.

제1, 제2, A, B 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.Terms such as first, second, A, and B can be used to describe various components, but the components should not be limited by the terms. The terms are used only for the purpose of distinguishing one component from other components. For example, the first component may be referred to as a second component without departing from the scope of the present invention, and similarly, the second component may be referred to as a first component. The term and / or includes a combination of a plurality of related described items or any one of a plurality of related described items.

어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에서, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.When an element is said to be "connected" or "connected" to another component, it is understood that other components may be directly connected to or connected to the other component, but may exist in the middle. It should be. On the other hand, when a component is said to be "directly connected" or "directly connected" to another component, it should be understood that no other component exists in the middle.

본 출원에서 사용한 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서 "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.Terms used in the present application are only used to describe specific embodiments, and are not intended to limit the present invention. Singular expressions include plural expressions unless the context clearly indicates otherwise. It should be understood that terms such as “include” or “have” in the present application do not preclude the existence or addition possibility of features, numbers, steps, operations, components, parts, or combinations thereof described in the specification. .

다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해서 일반적으로 이해되는 것과 동일한 의미를 가지고 있다.Unless otherwise defined, all terms used herein, including technical or scientific terms, have the same meaning as commonly understood by a person skilled in the art to which the present invention pertains.

일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.Terms such as those defined in a commonly used dictionary should be interpreted as having meanings consistent with meanings in the context of related technologies, and should not be interpreted as ideal or excessively formal meanings unless explicitly defined in the present application. Does not.

본 명세서에서는 무인비행장치(Unmanned Aerial Vehicle)를 통해 대상체 또는 상기 대상체의 일부를 촬영하여 획득되는 대상체의 이미지 데이터로부터 상기 대상체의 결함 판단에 관하여 설명한다. 이하에서 상기 대상체는 시설물로서 풍력 발전기를 그리고 상기 대상체의 일부는 상기 풍력 발전기의 블레이드(blade)를 예로 하여 설명하나, 본 발명의 권리범위가 반드시 이에 한정되는 것은 아니다. 한편, 상기에서 결함이라 함은 손상, 파괴 등 다양한 용어로 정의 가능하며, 이러한 결함은 대상체의 해당 기술분야의 결함 인식에 따라 또한 다양하게 정의될 수도 있다. 통상 결함이라 함은 대상체의 기능 요소와 관련하여 문제가 될 수 있는 모든 사항을 의미하나, 반드시 이에 한정되는 것은 아니며 비기능 요소도 포함될 수 있다. 다시 말해, 상기 결함은 결함이 없는 완전한 상태가 아닌 모든 상태를 포괄하는 의미로 사용될 수 있다.In this specification, a defect determination of the object is described from image data of an object obtained by photographing an object or a part of the object through an unmanned aerial vehicle. Hereinafter, the object is described as an example of a wind generator as a facility and a part of the object as an example of a blade (blade) of the wind generator, but the scope of the present invention is not necessarily limited thereto. Meanwhile, the defect may be defined in various terms such as damage or destruction, and the defect may also be variously defined according to the subject's recognition of a defect in the corresponding technical field. Normally, a defect refers to all matters that may be a problem in relation to a functional element of an object, but is not limited thereto, and a non-functional element may also be included. In other words, the defect can be used in a sense that encompasses all states that are not complete without defects.

한편, 본 명세서에서 특별히 구분하지 않고 단지 풍력발전기라고 명명하여 설명하는 경우라도 문맥의 의미에 따라 그 의미는 풍력발전기 전체 또는 일부를 나타낼 수 있으며 특히, 상기 풍력발전기의 일부는 풍력발전기의 블레이드일 수 있다.On the other hand, even though it is not specifically classified in this specification and is simply named and described as a wind power generator, the meaning may indicate all or part of the wind power generator according to the meaning of the context. In particular, a part of the wind power generator may be a blade of the wind power generator. have.

도 1은 본 발명의 일 실시예에 따른 풍력발전기 결함 분석 시스템(100)의 구성도이다.1 is a configuration diagram of a wind turbine defect analysis system 100 according to an embodiment of the present invention.

도 1을 참조하면, 본 발명의 일 실시예에 따른 풍력발전기 결함 분석 시스템(100)은 풍력발전기 결함 분석장치(110) 및 무인 비행장치(120)를 포함한다.Referring to FIG. 1, a wind turbine defect analysis system 100 according to an embodiment of the present invention includes a wind turbine defect analysis device 110 and an unmanned aerial vehicle 120.

결함 분석장치(110)는 무인 비행장치(120)로부터 풍력 발전기(130)의 이미지를 획득하여, 획득한 이미지로부터 풍력 발전기 또는 풍력 발전기의 블레이드상의 결함 존재 여부를 인식하고 결함이 인식된 경우 해당 결함의 성질을 분석한다. 여기서, 상기 결함의 성질이라 함은 예컨대, 결함의 종류 내지 타입, 결함의 정도 등 중 적어도 하나를 포함하는 의미이다. 결함 분석장치(110)는 기 설정된 개수 이상의 풍력 발전기의 이미지를 저장하고, 저장된 이미지를 예를 들어, 딥러닝(deep learning) 기술을 이용하여 학습할 수 있다. 풍력 발전기가 존재하는 이미지, 풍력 발전기가 존재하지 않는 이미지, 풍력 발전기의 블레이드에 결함이 존재하는 이미지, 풍력 발전기의 블레이드에 결함이 존재하지 않는 이미지 등 다양한 종류의 풍력 발전기에 관한 이미지가 결함 분석장치(110)에 저장되어 상기 딥러닝을 통한 학습에 이용될 수 있다. 한편, 상기 저장은, 상기 결함 분석장치(110) 내부뿐만 아니라 상기 결함 분석장치(110)와 연결된 외부 저장매체를 통하여 이루어질 수도 있다. 종래에 따르면, 풍력 발전기 관리자가 풍력 발전기 내 결함을 육안으로 직접 검사하고 분석하거나, 풍력 발전기의 이미지를 이용해 결함을 분석하더라도 수많은, 촬영된 이미지를 풍력 발전기 관리자가 일일이 결함의 존재 여부를 분석했었다. 그러나 본 발명에 따른 결함 분석장치(110)는 딥러닝 기법을 이용하여 수신한 풍력 발전기(130)의 이미지로부터 스스로 단시간 내에 쉽고 간편하게 풍력 발전기(130)의 결함을 검사 인식하고 분석할 수 있다. 상기 딥러닝을 통한 결함 인식 및 분석에 대해서는 후술하고 여기서 상세한 설명은 생략한다.The defect analysis device 110 acquires an image of the wind power generator 130 from the unmanned aerial vehicle 120, recognizes whether there is a defect on the blade of the wind power generator or the wind power generator from the obtained image, and if the defect is recognized, the corresponding fault Analyze the properties of. Here, the property of the defect is meant to include at least one of, for example, the type or type of defect, the degree of defect, and the like. The defect analysis device 110 may store an image of a wind generator having a predetermined number or more, and learn the stored image using, for example, a deep learning technique. Image of various types of wind generators, such as images with wind generators, images without wind generators, images with flaws in the blades of the wind generators, images with no defects in the blades of the wind generators, etc. It can be stored in (110) and used for learning through the deep learning. Meanwhile, the storage may be performed not only inside the defect analysis device 110 but also through an external storage medium connected to the defect analysis device 110. According to the related art, even if the wind power generator manager directly inspects and analyzes the defects in the wind power generator, or analyzes the defects using the image of the wind power generator, the wind power generator manager has analyzed the presence of the defects in numerous photographed images. However, the defect analysis apparatus 110 according to the present invention can inspect and analyze defects of the wind power generator 130 easily and easily in a short time by itself from an image of the wind power generator 130 received using a deep learning technique. Defect recognition and analysis through the deep learning will be described later and detailed description thereof will be omitted.

무인 비행장치(120)는 조종 입력 신호에 따라 이동하며, 풍력 발전기(130)를 촬영하여 풍력 발전기(130)의 결함 인식 및 분석을 위한 데이터를 수집하는 장치이다. 무인 비행장치(120)는 조종 입력 신호에 따라 풍력 발전기(130) 주위를 비행하며 풍력 발전기(130)를 촬영하고, 촬영된 이미지 데이터를 결함 분석장치(110)로 전송한다. 전술한 바와 같이, 풍력 발전기(130)는 거대한 크기를 갖기 때문에, 하나의 이미지 만으로 풍력 발전기(130) 내 모든 결함이 분석될 수 없다. 따라서 무인 비행장치(120)는 풍력 발전기(130)와 일정한 거리를 유지하면서 수 많은 이미지로 풍력 발전기(130)를 촬영함으로써, 정확히 풍력 발전기(130) 내 모든 결함이 분석될 수 있도록 한다. 무인 비행장치(120)는 특히, 풍력 발전기(130)의 블레이드의 움직임 즉, 정적 또는 동적 움직임에 맞추어 비행하면서 상기 풍력 발전기(130)의 블레이드에 대한 이미지 데이터를 획득하여 결함 분석장치(110)로 전송할 수 있다.The unmanned aerial vehicle 120 is a device that moves according to a steering input signal and collects data for fault recognition and analysis of the wind power generator 130 by photographing the wind power generator 130. The unmanned aerial vehicle 120 flies around the wind power generator 130 according to the control input signal, photographs the wind power generator 130, and transmits the captured image data to the defect analysis device 110. As described above, since the wind power generator 130 has a huge size, all defects in the wind power generator 130 cannot be analyzed with only one image. Therefore, the unmanned aerial vehicle 120 photographs the wind power generator 130 with a large number of images while maintaining a certain distance from the wind power generator 130, so that all defects in the wind power generator 130 can be accurately analyzed. In particular, the unmanned aerial vehicle 120 acquires image data for the blades of the wind power generator 130 while flying in response to the movement of the blades of the wind power generator 130, that is, static or dynamic motions, to the defect analysis device 110. Can transmit.

도 2는 본 발명의 일 실시예에 따른 풍력발전기 결함 분석장치(110)의 구성도이다.2 is a configuration diagram of a defect generator 110 for a wind power generator according to an embodiment of the present invention.

도 2를 참조하면, 본 발명의 일 실시예에 따른 풍력 발전기 결함 분석장치(110)는 통신부(210), 블레이드 검출부(220), 결함 검출부(230), 결함 분석부(240), 제어부(250) 및 데이터베이스(260)를 포함한다.Referring to FIG. 2, the wind power generator defect analysis device 110 according to an embodiment of the present invention includes a communication unit 210, a blade detection unit 220, a defect detection unit 230, a defect analysis unit 240, and a control unit 250 ) And the database 260.

통신부(210)는 무인 비행장치(120)와 데이터 커뮤니케이션을 통하여 다양한 신호를 주고 받을 수 있으며 특히, 상기 무인 비행장치(120)에 의해 촬영된 풍력 발전기(130)의 이미지 데이터를 상기 무인 비행장치(120)로부터 수신한다.The communication unit 210 may exchange and transmit various signals through data communication with the unmanned flying device 120, and in particular, may transmit the image data of the wind power generator 130 photographed by the unmanned flying device 120 to the unmanned flying device ( 120).

블레이드 검출부(220)는 수신한 풍력 발전기(130)의 이미지 데이터로부터 결함 인식/분석의 대상이 되는 대상물 즉, 풍력 발전기의 블레이드 영역의 이미지 데이터를 검출한다. 이는 풍력 발전기(130) 내 결함이 주로 지속적으로 움직이는 블레이드에서 발생하기 때문이다. 따라서 블레이드 검출부(220)는 수신한 이미지 데이터 내에서 블레이드 영역이 포함된 이미지 데이터를 추출하고, 상기 추출된 이미지 데이터로부터 블레이드 영역의 이미지 데이터만을 검출한다. 전술한 바와 같이, 수 많은 풍력 발전기(130)에 대한 이미지를 대상으로 하면 연산 시간이 많이 소요되고 자원의 낭비가 심하기 때문에 효율적인 결함 인식/분석을 위해 선행되는 것이다. 다시 말해, 블레이드 검출부(220)는 먼저 수신되는 각 이미지 내에서 블레이드 영역이 포함된 이미지를 판단하고, 블레이드 영역이 존재한 이미지로부터 상기 블레이드 영역만을 검출한다. 블레이드 검출부(220)는 데이터베이스(260)에 저장된, 수 많은 풍력 발전기의 이미지를 이용하여 블레이드에 관한 딥러닝을 수행한다. 데이터베이스(260) 내 저장된 블레이드가 존재하는 이미지 및 블레이드가 존재하지 않는 이미지를 이용하여, 블레이드 검출부(220)는 자체적으로 딥러닝을 수행하여, 이미지 내 블레이드의 존부를 판단한다. 이때, 블레이드 검출부(220)는 딥러닝 의 방법으로 컨볼루션 신경망(CNN, Convolution Neural Network)의 SSD(Single-shot Multibox Detection)를 이용할 수 있다. 블레이드 검출부(220)는 풍력 발전기(130)의 이미지를 영역별로 분류하여, 블레이드가 존재하는 관심영역(ROI: Region of Interest)을 검출한다. 이처럼, 블레이드 검출부(220)는 영역별로 SSD 방법을 이용하여 분류함으로써, 신속하게 블레이드가 존재하는 관심영역을 검출할 수 있다.The blade detection unit 220 detects the target object of defect recognition / analysis, that is, the image data of the blade region of the wind power generator, from the received image data of the wind power generator 130. This is because the defects in the wind power generator 130 mainly occur in the continuously moving blade. Accordingly, the blade detection unit 220 extracts image data including the blade region from the received image data, and detects only the image data of the blade region from the extracted image data. As described above, when targeting an image for a large number of wind power generators 130, it takes a lot of computation time and wastes a lot of resources, so it is preceded for efficient defect recognition / analysis. In other words, the blade detection unit 220 first determines an image including a blade region in each image received, and detects only the blade region from the image in which the blade region is present. The blade detection unit 220 performs deep learning on the blade using images of a number of wind power generators stored in the database 260. Using the image in which the blade stored in the database 260 exists and the image in which the blade does not exist, the blade detection unit 220 performs deep learning on its own to determine the presence or absence of the blade in the image. In this case, the blade detection unit 220 may use a single-shot multibox detection (SSD) of a convolutional neural network (CNN) as a method of deep learning. The blade detector 220 classifies the image of the wind power generator 130 into regions, and detects a region of interest (ROI) in which the blade is present. As described above, the blade detection unit 220 may quickly detect the region of interest where the blade is present, by classifying each region using an SSD method.

결함 검출부(230)는 블레이드 검출부(220)에 의해 검출된 관심영역 내에서 결함으로 판단되는 부분이 존재하는지를 검출한다. 결함 검출부(230)는 데이터베이스(260)에 저장된, 수 많은 풍력 발전기의 이미지 중 블레이드 이미지를 이용하여 블레이드, 특히, 블레이드의 표면과 관련하여 딥러닝을 수행한다. 데이터베이스(260) 내 저장된 블레이드에 결함이 존재하는 이미지 및 블레이드에 결함이 존재하지 않는 이미지를 이용하여, 결함 검출부(230)는 자체적으로 딥러닝을 수행한다. 이때, 결함 검출부(230)는 딥러닝 방법으로 컨볼루션 신경망(Convolution Neural Network)의 의미론적 분할(Semantic Segmentation) 방법을 이용할 수 있다. 결함 검출부(230)는 의미론적 분할을 이용하여, 픽셀 단위로 판단하여 결함으로 판단할 수 있는 부분인지 또는 아닌지를 판단한다. 의미론적 분할은 픽셀 단위로 각각 판단하기 때문에, 영역별로 검출하는 SSD 등의 방법에 비해 정확도는 상대적으로 높다. 결함 검출부(230)는 검출된 관심영역들에 대해 의미론적 분할을 이용하여, 각 픽셀 단위로 결함으로 판단할 수 있는 부분이 존재하는지를 검출하여 결함으로 판단할 수 있는 부분이 존재하는 관심영역들만을 검출한다.The defect detection unit 230 detects whether a portion determined as a defect exists in the region of interest detected by the blade detection unit 220. The defect detection unit 230 performs deep learning with respect to a blade, particularly a surface of a blade, using a blade image among images of a number of wind power generators stored in the database 260. The defect detection unit 230 performs deep learning on its own by using an image in which the defect exists in the blade stored in the database 260 and an image in which the defect does not exist in the blade. In this case, the defect detector 230 may use a semantic segmentation method of a convolutional neural network as a deep learning method. The defect detection unit 230 determines whether the portion can be determined as a defect by determining the pixel unit by using semantic division. Since semantic segmentation is determined on a pixel-by-pixel basis, accuracy is relatively high compared to methods such as SSDs that are detected for each area. The defect detection unit 230 detects whether a portion that can be determined as a defect exists in each pixel unit by using semantic division of the detected regions of interest, and only the regions of interest where a portion that can be determined as a defect exists To detect.

결함 검출부(230)는 결함으로 판단되는 부분이 존재하는지를 검출함에 있어, 관심영역을 동적으로 변화시키며 검출할 수 있다. 결함 검출부(230)는 블레이드 검출부(220)에 의해 검출된 관심영역(블레이드 전체) 내에서, 결함이 존재하는 것으로 판단되는 일정 영역을 관심영역으로 좁힌 후, 좁아진 관심영역 내에서 딥러닝을 수행하여 결함으로 판단되는 부분이 존재하는지를 검출할 수 있다. 시설물의 크기에 따라, 결함 검출부(230)는 블레이드 검출부(220)에 의해 검출된 관심영역(블레이드 전체)으로부터 관심영역의 범위를 좁히는 단계를 복수 회 수행할 수 있으며, 관심영역의 범위를 점점 좁혀감으로써, 보다 정확히 결함으로 판단되는 부분을 검출할 수 있다.The defect detection unit 230 may detect a region of interest by dynamically changing a region to be detected as a defect. The defect detection unit 230 narrows a region of interest determined to exist as a region of interest within the region of interest (the entire blade) detected by the blade detection unit 220, and then performs deep learning within the narrowed region of interest. It is possible to detect whether a portion judged to be defective exists. Depending on the size of the facility, the defect detection unit 230 may perform a step of narrowing the range of the region of interest from the region of interest (the entire blade) detected by the blade detection unit 220, and gradually narrowing the region of interest By winding, it is possible to more accurately detect a portion determined to be a defect.

결함 분석부(240)는 결함 검출부(230)로부터 검출된 관심영역들을 상세히 분석하여 결함의 종류 또는 결함이 어느 정도인지를 분석한다. 데이터베이스(260) 내 저장된 블레이드에 결함이 존재하는 이미지 및 블레이드에 결함이 존재하지 않는 이미지를 이용하여, 결함 분석부(240)도 마찬가지로 자체적으로 딥러닝을 수행한다. 이때, 결함 분석부(240)는 딥러닝 방법으로 컨볼루션 신경망(Convolution Neural Network)의 다중 레이블 분류(Multi-Label Classification) 방법을 이용할 수 있다. 이에 따라, 결함 분석부(240)는 결함 검출부(230)에 의해 검출된 (결함으로 판단할 수 있는) 부분이 실제 결함인지 여부를 판단한다. 또한, 결함 분석부(240)는 결함으로 판단되는 경우, 어떠한 종류의 결함인지, 결함으로 인해 파손된 정도가 어느 정도인지 등 결함의 성질을 분석한다. 최종적으로, 결함 분석부(240)는 블레이드에 결함이 존재하는지, 존재한다면 어떠한 종류의 결함으로 인해 어느 정도만큼 파손되었는지 등을 분석한다.The defect analysis unit 240 analyzes the regions of interest detected by the defect detection unit 230 in detail to analyze the type of defect or how much the defect is. The defect analysis unit 240 performs deep learning by itself using the image in which the defect exists in the blade stored in the database 260 and the image in which the defect does not exist in the blade. At this time, the defect analysis unit 240 may use a multi-label classification method of a convolutional neural network as a deep learning method. Accordingly, the defect analysis unit 240 determines whether the portion (which can be determined as a defect) detected by the defect detection unit 230 is an actual defect. In addition, when it is determined that the defect is a defect, the defect analysis unit 240 analyzes the property of the defect, such as what kind of defect it is and how much it is damaged due to the defect. Finally, the defect analysis unit 240 analyzes whether there is a defect in the blade, if so, what kind of defect, and to what extent.

제어부(250)는 각 구성의 동작을 제어한다. 통신부(210)가 풍력 발전기(130)의 이미지들을 수신하는 경우, 제어부(250)는 각 구성(220 내지 240)을 제어하여, 블레이드에 결함이 존재하는지를 분석하도록 한다.The control unit 250 controls the operation of each component. When the communication unit 210 receives the images of the wind power generator 130, the control unit 250 controls each configuration 220 to 240 to analyze whether a defect exists in the blade.

또한, 결함 분석부(240)가 최종적으로 결함을 분석한 경우, 제어부(250)는 결함이 존재하는 풍력 발전기(130)의 이미지를 블레이드 검출부(220), 결함 검출부(230) 또는 결함 분석부(240)가 분석한 결과와 대응시켜 데이터베이스(260)에 저장한다. 이에 따라, 블레이드 검출부(220), 결함 검출부(230) 및 결함 분석부(240)가 데이터베이스(260)에 저장된 해당 자료를 이용하여 보다 정확히 블레이드나 결함을 검출하거나 분석할 수 있도록 한다. 즉, 제어부(250)는 지속적으로 수신한 이미지와 검사 결과를 데이터베이스(260)에 저장하도록 제어하여, 데이터베이스(260)가 빅데이터를 형성할 수 있도록 하여, 각 구성(220 내지 240)의 딥러닝 학습 및 추론성능을 향상시킨다.In addition, when the defect analysis unit 240 finally analyzes the defect, the control unit 250 displays an image of the wind generator 130 in which the defect exists, the blade detection unit 220, the defect detection unit 230, or the defect analysis unit ( 240) is stored in the database 260 in correspondence with the analyzed result. Accordingly, the blade detection unit 220, the defect detection unit 230 and the defect analysis unit 240 can use the corresponding data stored in the database 260 to more accurately detect or analyze the blade or defect. That is, the control unit 250 controls to continuously store the received images and inspection results in the database 260 so that the database 260 can form big data, and deep learning of each component 220 to 240 is performed. Improve learning and reasoning performance.

데이터베이스(260)는 기 수신된 또는 제어부(250)에 의해 저장되는 풍력 발전기(230) 이미지들을 저장한다. 데이터베이스(260)는 풍력 발전기, 특히, 블레이드가 존재하는 이미지, 블레이드가 존재하지 않는 이미지, 블레이드에 결함이 존재하는 이미지 및 블레이드에 결함이 존재하지 않는 이미지 등 풍력 발전기에 대한 수 많은 이미지를 저장한다. 데이터베이스(260)는 각 종류의 이미지를 기 설정된 비율로 저장한다. 예를 들어, 각 종류의 이미지(블레이드의 존부 및 블레이드에 결함의 존부가 상이한 이미지들)를 동등한 비율로 구비할 수도 있고, 블레이드가 존재하는 이미지를 블레이드가 존재하지 않는 이미지보다 상대적으로 더 많은 비율로 또한 블레이드가 존재하는 경우 블레이드에 결함이 존재하는 이미지를 결함이 존재하지 않는 이미지보다 상대적으로 더 많은 비율로 저장할 수도 있다. 이와 같이, 데이터베이스(260)는 각 종류의 이미지를 기 설정된 비율로 저장함으로써, 각 구성(220 내지 240)의 딥러닝 학습 및 추론성능을 월등히 향상시킨다.The database 260 stores images of the wind generator 230 that has been previously received or stored by the control unit 250. The database 260 stores a number of images for wind generators, especially images with blades, images without blades, images with blade defects and images without blade defects. . The database 260 stores each type of image at a preset rate. For example, each type of image (images with different blades and blades with different defects) may be provided in equal proportions, and the image with the blades is relatively larger than the image without the blades. In addition, when a blade is present, an image in which the defect is present in the blade may be stored at a relatively higher rate than an image in which the defect is not present. As described above, the database 260 stores each type of images at a predetermined rate, thereby significantly improving deep learning and inference performance of each component 220 to 240.

도 3은 본 발명의 일 실시예에 따른 무인 비행장치의 구성도이다.3 is a configuration diagram of an unmanned aerial vehicle according to an embodiment of the present invention.

도 3을 참조하면, 본 발명의 일 실시예에 따른 무인 비행장치(120)는 통신부(310), 제어부(320), 날개부(330) 및 영상 촬영부(340)를 포함한다.Referring to FIG. 3, the unmanned aerial vehicle 120 according to an embodiment of the present invention includes a communication unit 310, a control unit 320, a wing unit 330, and an image photographing unit 340.

통신부(310)는 조종장치(미도시)로부터 무인 비행장치(120)에 대한 조종 입력 신호 수신하여 비행 제어부(320)로 전달한다. 또한, 통신부(310)는 영상 촬영부(340)가 촬영한 풍력 발전기의 이미지 데이터를 결함 분석장치(110)로 전송한다.The communication unit 310 receives a control input signal for the unmanned flight device 120 from a control device (not shown) and transmits it to the flight control unit 320. In addition, the communication unit 310 transmits the image data of the wind generator taken by the image photographing unit 340 to the defect analysis device 110.

제어부(320)는 수신한 조종 입력 신호에 따라 비행하도록 날개부(330)를 제어한다. 또한, 제어부(320)는 영상 촬영부(340)를 제어하여 풍력 발전기를 촬영하도록 제어한다.The control unit 320 controls the wing unit 330 to fly according to the received steering input signal. In addition, the control unit 320 controls the image capturing unit 340 so as to photograph the wind power generator.

날개부(330)는 회전력을 발생시키는 로터(Rotor) 및 회전력을 추진력으로 변환하는 프로펠러를 포함하여, 무인 비행장치(120)가 비행할 수 있도록 한다. 날개부(330)는 제어부(320)의 제어에 따라, 무인 비행장치(120)의 비행 방향 또는 무인 비행장치(120)의 고도를 변경한다.The wing part 330 includes a rotor that generates rotational force and a propeller that converts the rotational force to propulsion, so that the unmanned aerial vehicle 120 can fly. The wing part 330 changes the flight direction of the unmanned flying device 120 or the altitude of the unmanned flying device 120 under the control of the control unit 320.

영상 촬영부(340)는 제어부(320)의 제어에 따라, 풍력 발전기(130) 를 촬영한다.The image photographing unit 340 photographs the wind power generator 130 under the control of the control unit 320.

도 4는 본 발명의 일 실시예에 따른 풍력 발전기의 결함 인식/분석 방법을 도시한 순서도이다. Figure 4 is a flow chart showing a defect recognition / analysis method of a wind power generator according to an embodiment of the present invention.

결함 분석장치(110)는 무인 비행장치(120)로부터 풍력 발전기(130)의 이미지 데이터를 수신한다(S410).The defect analysis device 110 receives image data of the wind power generator 130 from the unmanned flight device 120 (S410).

결함 분석장치(110)는 수신된 풍력 발전기(130)의 이미지 데이터로부터 풍력 발전기(130)의 블레이드 영역만을 추출한다(S420).The defect analysis device 110 extracts only the blade region of the wind power generator 130 from the received image data of the wind power generator 130 (S420).

결함 분석장치(110)는 블레이드 영역 내에서 결함으로 판단되는 부분을 검출한다(S430).The defect analysis device 110 detects a portion determined to be a defect in the blade area (S430).

결함 분석장치(110)는 검출된 부분이 실제 결함인지 여부 및 결함의 성질을 분석한다(S440).The defect analysis device 110 analyzes whether the detected portion is an actual defect and the nature of the defect (S440).

이하 딥러닝 기법을 이용하여 결함 분석장치(110)에서 풍력발전기의 결함 인식/분석 방법을 더욱 상세하게 설명한다.Hereinafter, the defect recognition / analysis method of the wind power generator in the defect analysis apparatus 110 using a deep learning technique will be described in more detail.

도 5는 본 발명의 일 실시예에 따른 풍력 발전기 블레이드의 상세 결함 인식/분석 방법을 설명하기 위해 도시한 순서도이고, 도 6은 본 발명의 일실시예와 관련하여 이미지 스티칭 기법을 설명하기 위해 도시한 순서도이다.5 is a flowchart illustrating a detailed defect recognition / analysis method of a wind turbine blade according to an embodiment of the present invention, and FIG. 6 is a diagram illustrating an image stitching technique in connection with an embodiment of the present invention It is a flowchart.

본 발명에 따른 풍력 발전기의 블레이드 결함 인식/분석 방법은 딥러닝 기법에 기초하여 크게 3단계로 수행되는데, 먼저 입력되는 이미지로부터 블레이드 영역 이미지에 해당하는 ROI(Region of Interest) 영역 이미지를 추출하는 단계, 상기 추출된 ROI 영역 이미지로부터 픽셀 단위로 결함 영역을 인식하고 구분하여 저장하는 단계, 마지막으로 인식된 결함 영역의 성질을 분석하고 구분하여 저장하는 단계를 포함하고, 상기 딥러닝 프레임워크의 한 사이클(cycle)을 형성한다. 한편, 상기 각 단계를 수행하는 딥러닝 기법은 상이할 수 있다.The blade defect recognition / analysis method of the wind power generator according to the present invention is largely performed in three stages based on a deep learning technique, first extracting a region of interest (ROI) region image corresponding to the blade region image from the input image. , Recognizing and storing the defective area in units of pixels from the extracted ROI area image, and finally storing and analyzing the properties of the recognized defective area, and storing the segmented area. (cycle). On the other hand, deep learning techniques for performing the above steps may be different.

도 2와 5를 참조하면, 블레이드 검출부(220)는 통신부(210)를 통해 무인 비행장치(120)에서 풍력 발전기(130)를 촬영한 이미지를 수신한다(S510).2 and 5, the blade detection unit 220 receives an image of the wind power generator 130 from the unmanned aerial vehicle 120 through the communication unit 210 (S510).

블레이드 검출부(220)는 수신된 풍력 발전기(130) 이미지로부터 블레이드 영역을 인식한다(S520). 이때, 상기 수신 이미지로부터 블레이드 영역을 관심영역(ROI)로 인식하는 딥러닝 기술은 예를 들어, CNN(Convolution Neural Network) 알고리즘의 SSD 기법이 이용될 수 있다. 이때, 본 발명과 관련하여 상기 CNN 알고리즘이나 SSD 기법에 대하여 기 공지된 내용을 참조하고 별도 상세 설명은 생략하고, 본 명세서에서는 본 발명과 관련하여 필요한 내용만을 기술한다. The blade detection unit 220 recognizes the blade area from the received wind generator 130 image (S520). In this case, a deep learning technique that recognizes a blade region as a region of interest (ROI) from the received image may be, for example, an SSD technique of a Convolution Neural Network (CNN) algorithm. At this time, the CNN algorithm or SSD technique is referred to in the context of the present invention, and the detailed description is omitted, and only the necessary contents are described in the present specification.

다시 말해, 블레이드 검출부(220)는 수신되는 풍력 발전기 이미지(예컨대, 1장의 이미지)로부터 배경 영역과 블레이드 영역을 분리한다. 이때, 상기 분리되는 블레이드 영역의 사이즈는 일반 고정형 슬라이드 윈도우에 기반하지 않기 때문에 매번 달라질 수 있다. 관련하여, 상기 SSD 기법은 주로 객체 검출을 위한 모델로서 공지된 모델을 수정하여 학습시키고 적용함으로써 임베디드 환경에서 고속(예컨대, 15Hz) 실행이 가능하도록 한다. 따라서, 본 발명의 일실시예에 따른 딥러닝 CNN의 SSD 기법에 따라 수신된 풍력 발전기의 이미지로부터 S520 단계의 결과물로 풍력 발전기의 블레이드 영역만이 ROI로 검출될 수 있다.In other words, the blade detector 220 separates the background region and the blade region from the received wind generator image (eg, one image). At this time, the size of the separated blade area may be changed each time because it is not based on a general fixed slide window. In relation to this, the SSD technique mainly enables a high-speed (eg, 15 Hz) execution in an embedded environment by modifying, learning, and applying a known model as a model for object detection. Accordingly, only the blade region of the wind generator can be detected as an ROI as a result of step S520 from the image of the wind generator received according to the SSD technique of the deep learning CNN according to an embodiment of the present invention.

다음으로, 결함 검출부(230)는 상기 블레이드 검출부(220)에서 검출된 ROI 즉, 블레이드 영역 이미지 데이터를 수신하여 블레이드 표면의 결함 즉, 정상/비정상 여부를 인식한다(S530,S540). 여기서, 상기 수신된 블레이드 영역 이미지 데이터로부터 블레이드 표면의 결함 여부 판단을 위한 딥러닝 기술은 전술한 객체 검출에 특화된 SSD 기법이 아닌 예컨대, CNN 알고리즘의 의미론적 분할(Semantic segmentation, Segnet) 기법이 이용될 수 있다. 이때, 역시 본 발명과 관련하여 상기 의미론적 분할 기법에 대하여 기공지된 내용을 참조하고 별도 상세 설명은 생략하고, 본 명세서에서는 본 발명과 관련하여 필요한 내용만을 기술한다. 다시 말해, 결함 검출부(230)는 ROI 즉, 블레이드 영역 이미지 데이터를 이용하여 픽셀 단위로 결함 유무를 판단하고 이를 표시할 수 있다. 이때, 상기 결함 유무에 따른 표시와 관련하여 예를 들어, 블레이드 영역 이미지 데이터의 픽셀 단위로, 블레이드 영역이 아닌 픽셀은 검정색, 블레이드 영역에 해당하나 결함이 없는 픽셀은 녹색, 그리고 블레이드 영역에 해당하나 결함이 있는 픽셀은 빨간색과 같이 표시할 수 있다. 상기 픽셀에 대한 표시 컬러는 일실시예일 뿐 이에 한정되는 것은 아니다. 결국 상기 S540 단계 판단 결과로 ROI 영역으로부터 픽셀 단위로 결함 여부가 인식 판단된 이미지 데이터와 해당 픽셀의 위치 데이터가 된다. 후자의 해당 픽셀의 위치 데이터는 예컨대, S520 단계의 출력 또는 S530 단계의 입력 이미지 기반일 수 있다.Next, the defect detection unit 230 receives the ROI, that is, the blade area image data, detected by the blade detection unit 220 to recognize defects on the blade surface, that is, normal / abnormality (S530, S540). Here, the deep learning technique for determining whether the blade surface is defective from the received blade region image data is not an SSD technique specialized for object detection described above, but, for example, a semantic segmentation (Segnet) technique of the CNN algorithm may be used. You can. At this time, the previously published contents of the semantic segmentation technique are also referred to in connection with the present invention, and a detailed description is omitted, and only necessary contents are described in this specification. In other words, the defect detection unit 230 may determine the presence or absence of defects in units of pixels using the ROI, that is, the blade region image data, and display the defects. At this time, in relation to the display according to the presence or absence of the defect, for example, in units of pixels of the blade area image data, pixels other than the blade area correspond to black, blade areas, but pixels without defects correspond to green and blade areas. Defective pixels can be marked as red. The display color for the pixel is only an example, and is not limited thereto. As a result, as a result of the determination of step S540, the image data of whether the defect is recognized in the pixel unit from the ROI area becomes the location data of the pixel. The latter location data of the corresponding pixel may be based on, for example, the output of step S520 or the input image of step S530.

상기 S540 단계의 픽셀 단위의 결함 인식 여부 판단 결과, 결함이 없는 픽셀 단위의 표시 데이터는 상태 정상 폴더에 이미지 저장되고(S550), 결함이 있는 픽셀 단위의 표시 데이터는 상태 비정상 폴더에 이미지 저장된다(S560). 상기와 같이, S550 단계와 S560 단계에서 블레이드 영역 이미지로부터 픽셀 단위의 결함 여부 인식된 이미지가 구분하여 폴더별로 저장되되, 각 폴더에 저장되는 픽셀 단위의 이미지 데이터는 상기 픽셀 위치 데이터에 기반하여 해당 폴더 내에서도 다시 구분되어 저장될 수 있다.As a result of determining whether the defect is recognized in the pixel unit in step S540, the display data in the pixel unit without defects is stored in the normal image folder (S550), and the display data in the defective pixel unit is stored in the image abnormal folder ( S560). As described above, in step S550 and step S560, images recognized for pixel defects from the blade area images are classified and stored in folders, and the image data in pixel units stored in each folder is a corresponding folder based on the pixel location data. It can also be stored separately within.

마지막으로, 결함 분석부(240)는 결함 인식된 픽셀 단위의 이미지 데이터로부터 인식된 결함의 성질 즉, 결함의 종류와 정도를 판별하고 분류하여 분류된 픽셀 단위의 이미지를 상태 손상 결함 폴더에 저장한다(S570,S580). 이때, 상기 결함 인식된 픽셀 단위의 이미지 데이터는 상기 상태 비정상 폴더로부터 수신할 수도 있다. 또한, 상기 상태 결함 폴더는 상기 상태 비정상 폴더 내에 존재할 수도 있다. 한편, 상기 결함 성질 판단 및 분류와 관련하여, 딥러닝 기술은 CNN 알고리즘의 다중 레이블 분류 기법이 이용될 수 있다. 이때, 또한 상기 다중 레이블 분류 기법과 관련하여 기공지된 내용을 참조하고 별도 상세 설명은 생략하나, 본 명세서에서 본 발명과 관련하여 필요한 내용을 기술하면 다음과 같다. 다시 말해, 결함 분석부(240)는 픽셀 단위의 이미지를 일정한 크기의 이미지로 잘라내고, 해당 이미지 자체를 이용하여 결함의 종류와 정도를 인식한다. 이를 객체 인식이라고 하는데 이렇게 인식된 결과의 위치는 최초 수신된 풍력 발전기 이미지 상에 픽셀 위치 기준으로 표시되어 분류되고 상기 상태 결함 폴더에 저장된다. 상기에서 구분되는 결함의 종류와 정도는 미리 정의된 설정에 따라 달라질 수 있으며 일 예로 결함의 종류는 15개, 결함의 정도는 5로 분류되도록 미리 설정할 수 있다.Finally, the defect analysis unit 240 determines and classifies the properties of the defects, that is, the type and degree of the defects, from the image data of the pixel units in which the defects are recognized, and stores the classified pixel-level images in a state-damaged defect folder. (S570, S580). At this time, the image data in units of pixels recognized as the defects may be received from the abnormal state folder. Also, the status defect folder may exist in the status abnormal folder. On the other hand, with regard to the determination and classification of the defect property, a multi-label classification method of the CNN algorithm may be used as a deep learning technique. At this time, in addition, reference is made to the multi-label classification technique, and a detailed description is omitted, but description of necessary contents in connection with the present invention is as follows. In other words, the defect analysis unit 240 cuts an image of a pixel unit into an image of a certain size, and recognizes the type and degree of the defect using the image itself. This is called object recognition, and the location of the recognized result is displayed and classified based on the pixel location on the initially received wind power generator image, and stored in the status defect folder. The type and degree of defects classified in the above may be changed according to predefined settings. For example, the type of defects may be set to 15, and the degree of defects to be classified as 5.

정리하면, 본 발명에서는 딥러닝 기술을 이용하여 무인 비행장치(120)로부터 획득된 시설물(풍력 발전기)의 이미지로부터 먼저 결함 판단 대상이 되는 블레이드 영역을 구분 인식하고, 이렇게 구분 인식된 블레이드 영역 이미지를 다시 픽셀 단위로 결함을 판단하고 각각을 폴더별로 별도 저장한다.In summary, according to the present invention, a deep learning technology is used to first recognize and recognize a blade area that is a target of defect determination from an image of a facility (wind power generator) obtained from an unmanned aerial vehicle 120, and the blade area image thus recognized is recognized. The defects are again determined in units of pixels, and each is separately stored for each folder.

한편, 도 6을 참조하면, 스티칭 기반의 피사체 즉, 대상물의 촬영 결과를 보정할 수 있다.Meanwhile, referring to FIG. 6, a stitching-based subject, that is, a photographing result of an object may be corrected.

다시 말해, 피사체 촬영 결과물(연속된 사진)을 수신하여(S610), 이에 대해 이미지 스티칭(image stiching)을 수행한다(S620).In other words, an object photographing result (continuous picture) is received (S610), and image stiching is performed (S620).

이렇게 이미지 스티칭이 수행된 피사체 이미지에 대하여 상태 변수 기반으로 스티칭 결과를 보정한다(S630). 상기 스티칭 결과 보정시, 연속된 이미지 촬영 당시의 GPS 위치, 자세 등이 상기 상태 변수의 하나로 참조될 수 있다.The stitching result is corrected based on the state variable with respect to the subject image on which the image stitching is performed (S630). When correcting the stitching result, GPS position and posture at the time of continuous image shooting may be referred to as one of the state variables.

한편, 상기 상태 변수 기반으로 스티칭 결과 보정된 전체 피사체 촬영 결과 이미지가 상기 도 5의 S510 단계의 입력되는 풍력 발전기의 촬영 이미지 데이터로 활용될 수 있다.Meanwhile, the entire subject photographing result image corrected as a result of stitching based on the state variable may be used as photographed image data of the wind turbine input in step S510 of FIG. 5.

상기에서 이미지 스티칭 기술과 관련하여 기공지된 내용을 참조하고, 상세 설명은 생략한다.In the above, reference is made to the published information related to the image stitching technique, and detailed description is omitted.

전술한 도 5의 각 단계에서 수행되는 딥러닝 기술의 기법은 예컨대, 본 발명의 일실시예로서 이용되며 그에 한정되는 것은 아니다. 다시 말해, 본 발명과 관련하여, 향후 기술 발전에 따라 해당 단계에서 적용된 기법이 대체되거나 참조될 수 있다.The technique of the deep learning technique performed in each step of FIG. 5 described above is used, for example, as an embodiment of the present invention, but is not limited thereto. In other words, with respect to the present invention, techniques applied at this stage may be replaced or referred to in accordance with future technological developments.

도 4 내지 6에서는 각 과정을 순차적으로 실행하는 것으로 기재하고 있으나, 이는 본 발명의 일 실시예의 기술 사상을 예시적으로 설명한 것에 불과한 것이다. 다시 말해, 본 발명의 일 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 일 실시예의 본질적인 특성에서 벗어나지 않는 범위에서 도 4 내지 6에 기재된 순서를 변경하여 실행하거나 각 과정 중 하나 이상의 과정을 병렬적으로 실행하는 것으로 다양하게 수정 및 변형하여 적용 가능할 것이므로, 도 4 내지 6은 시계열적인 순서로 한정되는 것은 아니다.4 to 6, it is described that each process is executed sequentially, but this is merely illustrative of the technical idea of an embodiment of the present invention. In other words, a person having ordinary skill in the art to which one embodiment of the present invention pertains may execute or change one or more of the processes described in FIGS. 4 to 6 without departing from the essential characteristics of one embodiment of the present invention. 4 to 6 are not limited to time-series order, as various modifications and variations can be applied to the process in parallel.

한편, 도 4 내지 6에 도시된 과정들은 컴퓨터로 읽을 수 있는 기록매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 기록매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 즉, 컴퓨터가 읽을 수 있는 기록매체는 마그네틱 저장매체(예를 들면, 롬, 플로피 디스크, 하드디스크 등), 광학적 판독 매체(예를 들면, 시디롬, 디브이디 등) 및 캐리어 웨이브(예를 들면, 인터넷을 통한 전송)와 같은 저장매체를 포함한다. 또한 컴퓨터가 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수 있다.Meanwhile, the processes shown in FIGS. 4 to 6 can be implemented as computer readable codes on a computer readable recording medium. The computer-readable recording medium includes all kinds of recording devices in which data readable by a computer system is stored. That is, the computer readable recording medium includes magnetic storage media (eg, ROM, floppy disk, hard disk, etc.), optical reading media (eg, CD-ROM, DVD, etc.) and carrier waves (eg, the Internet). Storage). The computer-readable recording medium can also be distributed over network coupled computer systems so that the computer readable code is stored and executed in a distributed fashion.

이상의 설명은 본 실시예의 기술 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 실시예의 본질적인 특성에서 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능할 것이다. 따라서, 본 실시예들은 본 실시예의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시예에 의하여 본 실시예의 기술 사상의 범위가 한정되는 것은 아니다. 본 실시예의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술 사상은 본 실시예의 권리범위에 포함되는 것으로 해석되어야 할 것이다.The above description is merely illustrative of the technical idea of the present embodiment, and those skilled in the art to which this embodiment belongs may be capable of various modifications and variations without departing from the essential characteristics of the present embodiment. Therefore, the present embodiments are not intended to limit the technical spirit of the present embodiment, but to explain, and the scope of the technical spirit of the present embodiment is not limited by these embodiments. The protection scope of the present embodiment should be interpreted by the claims below, and all technical spirits within the equivalent range should be interpreted as being included in the scope of the present embodiment.

100: 결함 분석 시스템
110: 결함 분석장치
120: 무인 비행장치
130: 풍력 발전기
210, 310: 통신부
220: 블레이드 검출부
230: 결함 검출부
240: 결함 분석부
250, 320: 제어부
260: 데이터베이스
330: 날개부
340: 영상 촬영부
100: defect analysis system
110: defect analysis device
120: unmanned aerial vehicle
130: wind power generator
210, 310: communication unit
220: blade detection unit
230: defect detection unit
240: defect analysis unit
250, 320: control unit
260: database
330: wing
340: video recording unit

Claims (12)

무인 비행장치(Unmanned Aerial Vehicle)의 촬영 이미지로부터 딥러닝을 이용하여 풍력 발전기의 결함 인식 및 분석 방법에 있어서,
상기 무인 비행장치로부터 촬영된 상기 풍력 발전기의 이미지를 수신하는 수신과정;
상기 풍력 발전기의 이미지로부터 상기 풍력 발전기의 블레이드(Blade) 영역이 포함된 이미지를 검출하는 블레이드 검출과정;
상기 검출된 블레이드 영역 이미지로부터 결함 존재 여부를 픽셀 단위로 판단하여 검출하는 결함 검출과정; 및
상기 블레이드 영역 이미지로부터 결함이 인식된 픽셀 단위의 검출 이미지의 결함의 성질을 분석하는 결함 분석과정;
을 포함하여 이루어지는 풍력 발전기 결함 인식 및 분석 방법.
In a method for recognizing and analyzing a defect in a wind power generator using deep learning from a photographed image of an unmanned aerial vehicle,
A receiving process for receiving an image of the wind generator taken from the unmanned aerial vehicle;
A blade detection process of detecting an image including a blade region of the wind generator from the image of the wind generator;
A defect detection process of determining whether a defect exists from the detected blade region image in units of pixels and detecting the defect; And
A defect analysis process of analyzing a defect property of a pixel-based detection image in which a defect is recognized from the blade region image;
Wind turbine defect recognition and analysis method comprising a.
제1항에 있어서,
상기 블레이드 영역 이미지로부터 결함이 인식된 픽셀 단위의 검출 이미지와 결함이 인식되지 않은 픽셀 단위의 검출 이미지는 각각 별개의 폴더에 저장하는 단계를 더 포함하여 이루어지는 것을 특징으로 하는 풍력 발전기 결함 인식 및 분석 방법.
According to claim 1,
A method for recognizing and analyzing a defect in a wind power generator, comprising the step of storing the detected pixel-based detected image and the detected defective pixel-based detected image in separate folders, respectively, from the blade area image. .
제2항에 있어서,
상기 분석된 픽셀 단위의 검출 이미지는 결함 성질에 따라 결함 종류와 결함 정도에 따라 분류하고, 분류된 이미지는 별개의 폴더에 저장하는 단계를 더 포함하여 이루어지는 것을 특징으로 하는 풍력 발전기 결함 인식 및 분석 방법.
According to claim 2,
The analyzed pixel unit detection image is classified according to the defect type and the defect level according to the defect property, and the classified image is further included in the step of storing in a separate folder. .
제2항 또는 제3항에 있어서,
상기 폴더에 저장되는 픽셀 단위 이미지 데이터는,
상기 수신된 풍력 발전기의 이미지 기반으로 해당 픽셀의 위치 데이터도 포함되는 것을 특징으로 하는 것을 특징으로 하는 풍력 발전기 결함 인식 및 분석 방법.
The method of claim 2 or 3,
The pixel unit image data stored in the folder,
Method for recognizing and analyzing a defect in a wind generator, characterized in that location data of a corresponding pixel is also included based on the image of the received wind generator.
제1항에 있어서,
상기 결함 검출과정은,
상기 검출된 블레이드 영역이 포함된 이미지를 픽셀 단위로, 블레이드 영역 아닌 픽셀, 블레이드 영역이나 결함이 없는 픽셀 및 블레이드 영역이고 결함이 있는 픽셀로 구분하고, 서로 다른 컬러로 표시하는 것을 특징으로 하는 풍력 발전기 결함 인식 및 분석 방법.
According to claim 1,
The defect detection process,
Wind power generator characterized in that the image containing the detected blade area is divided into pixels, a non-blade area, a non-blade area or a defect-free pixel and a blade area and a defective pixel, and displayed in different colors. Defect recognition and analysis methods.
제1항에 있어서,
상기 블레이드 검출과정, 결함 검출과정 및 결함 분석과정은,
상기 딥러닝 기술의 컨볼루션 신경망 알고리즘을 이용하되 각 과정에서 서로 다른 기법을 이용하는 것을 특징으로 하는 풍력 발전기 결함 인식 및 분석 방법.
According to claim 1,
The blade detection process, defect detection process and defect analysis process,
Wind turbine fault recognition and analysis method, characterized by using a convolutional neural network algorithm of the deep learning technology, but using a different technique in each process.
무인 비행장치(Unmanned Aerial Vehicle)의 촬영 이미지로부터 딥러닝을 이용하여 풍력 발전기의 결함 인식 및 분석 장치에 있어서,
상기 무인 비행장치로부터 촬영된 상기 풍력 발전기의 이미지를 수신하는 통신부;
상기 풍력 발전기의 이미지로부터 상기 풍력 발전기의 블레이드(Blade) 영역이 포함된 이미지를 검출하는 블레이드 검출부;
상기 검출된 블레이드 영역 이미지로부터 결함 존재 여부를 픽셀 단위로 판단하여 검출하는 결함 검출부; 및
상기 블레이드 영역 이미지로부터 결함이 인식된 픽셀 단위의 검출 이미지의 결함의 성질을 분석하는 결함 분석부;
를 포함하는 풍력 발전기 결함 인식 및 분석 장치.
In the apparatus for recognizing and analyzing a defect in a wind power generator using deep learning from a photographed image of an unmanned aerial vehicle,
A communication unit that receives an image of the wind power generator photographed from the unmanned aerial vehicle;
A blade detector configured to detect an image including a blade region of the wind generator from the image of the wind generator;
A defect detection unit for determining whether a defect exists from the detected blade region image in units of pixels and detecting the defect; And
A defect analysis unit analyzing a defect property of a pixel-based detection image in which a defect is recognized from the blade region image;
Wind power generator fault recognition and analysis device comprising a.
제7항에 있어서,
상기 블레이드 영역 이미지로부터 결함이 인식된 픽셀 단위의 검출 이미지와 결함이 인식되지 않은 픽셀 단위의 검출 이미지는 각각 별개의 폴더에 저장하는 데이터베이스를 더 포함하는 것을 특징으로 하는 풍력 발전기 결함 인식 및 분석 장치.
The method of claim 7,
The apparatus for detecting and analyzing a defect in a wind power generator, further comprising a database for storing a detection unit of a pixel unit in which a defect is recognized from a blade region image and a detection unit of a pixel unit in which a defect is not recognized in a separate folder.
제8항에 있어서,
상기 데이터베이스는,
상기 분석된 픽셀 단위의 검출 이미지는 결함 성질에 따라 결함 종류와 결함 정도에 따라 분류하고, 분류된 이미지는 별개의 폴더에 저장하는 것을 특징으로 하는 풍력 발전기 결함 인식 및 분석 장치.
The method of claim 8,
The database,
Wind power generator defect recognition and analysis device, characterized in that the detected pixel-by-pixel detection images are classified according to defect types and defect levels according to defect properties, and the classified images are stored in separate folders.
제8항 또는 제9항에 있어서,
상기 데이터베이스는,
상기 폴더에 저장되는 픽셀 단위 이미지 데이터로,
상기 수신된 풍력 발전기의 이미지 기반으로 해당 픽셀의 위치 데이터도 포함하는 것을 특징으로 하는 것을 특징으로 하는 풍력 발전기 결함 인식 및 분석 장치.
The method of claim 8 or 9,
The database,
The pixel-by-pixel image data stored in the folder,
Wind power generator defect recognition and analysis device, characterized in that it also comprises the location data of the pixel based on the image of the received wind generator.
제1항에 있어서,
상기 결함 검출부는,
상기 검출된 블레이드 영역이 포함된 이미지를 픽셀 단위로, 블레이드 영역 아닌 픽셀, 블레이드 영역이나 결함이 없는 픽셀 및 블레이드 영역이고 결함이 있는 픽셀로 구분하고, 서로 다른 컬러로 표시하는 것을 특징으로 하는 풍력 발전기 결함 인식 및 분석 장치.
According to claim 1,
The defect detection unit,
Wind power generator characterized in that the image containing the detected blade area is divided into pixels, a non-blade area, a non-blade area or a defect-free pixel and a blade area and a defective pixel, and displayed in different colors. Defect recognition and analysis device.
제1항에 있어서,
상기 블레이드 검출부, 결함 검출부 및 결함 분석부는,
상기 딥러닝 기술의 컨볼루션 신경망 알고리즘을 이용하되 각 과정에서 서로 다른 기법을 이용하는 것을 특징으로 하는 풍력 발전기 결함 인식 및 분석 장치.
According to claim 1,
The blade detection unit, the defect detection unit and the defect analysis unit,
A wind power generator fault recognition and analysis apparatus using the convolutional neural network algorithm of the deep learning technology, but using different techniques in each process.
KR1020200033718A 2018-03-15 2020-03-19 Apparatus and Method for Detecting/Analyzing Defect of Windturbine Blade KR102386221B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020200033718A KR102386221B1 (en) 2018-03-15 2020-03-19 Apparatus and Method for Detecting/Analyzing Defect of Windturbine Blade

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020180030398A KR20190108832A (en) 2018-03-15 2018-03-15 Apparatus and Method for Detecting/Analyzing Defect of Windturbine Blade
KR1020200033718A KR102386221B1 (en) 2018-03-15 2020-03-19 Apparatus and Method for Detecting/Analyzing Defect of Windturbine Blade

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
KR1020180030398A Division KR20190108832A (en) 2018-03-15 2018-03-15 Apparatus and Method for Detecting/Analyzing Defect of Windturbine Blade

Publications (2)

Publication Number Publication Date
KR20200033822A true KR20200033822A (en) 2020-03-30
KR102386221B1 KR102386221B1 (en) 2022-04-13

Family

ID=81214932

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200033718A KR102386221B1 (en) 2018-03-15 2020-03-19 Apparatus and Method for Detecting/Analyzing Defect of Windturbine Blade

Country Status (1)

Country Link
KR (1) KR102386221B1 (en)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112360699A (en) * 2020-10-22 2021-02-12 华能大理风力发电有限公司 Intelligent inspection and diagnosis analysis method for blades of full-automatic wind generating set
CN113610749A (en) * 2021-04-21 2021-11-05 北京智慧空间科技有限责任公司 Fan blade defect detection method based on neural network
CN113759960A (en) * 2021-07-26 2021-12-07 青海黄河风力发电有限责任公司 Unmanned aerial vehicle-based fan blade and tower barrel inspection identification system and method
CN113836646A (en) * 2020-06-04 2021-12-24 北京国电思达科技有限公司 Fan blade defect intelligent analysis method and system based on deep learning
KR102374840B1 (en) 2020-10-20 2022-03-15 두산중공업 주식회사 Defect image generation method for deep learning and system therefor
CN114905379A (en) * 2022-06-07 2022-08-16 众芯汉创(北京)科技有限公司 Intelligent repairing device for local defects of wind power generation blade
CN114937027A (en) * 2022-06-20 2022-08-23 创新奇智(上海)科技有限公司 Fan blade defect detection method and device, electronic equipment and storage medium
KR102453446B1 (en) * 2021-12-01 2022-10-17 (주)니어스랩 System for checking defect and method thereof
KR102465045B1 (en) 2021-09-14 2022-11-09 주식회사 파워인스 Non-destructive inspection system and method based on artificial intelligence mdoel for turbine blades
CN115564740A (en) * 2022-10-17 2023-01-03 风脉能源(武汉)股份有限公司 Fan blade defect positioning method and system
WO2023101059A1 (en) * 2021-12-02 2023-06-08 (주)니어스랩 Inspection system for wind power generator and inspection method therefor
KR102588141B1 (en) * 2022-10-13 2023-10-12 주식회사 승화기술 Deep learning based exterior inspection method using dron image

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011226791A (en) * 2010-04-15 2011-11-10 Toppan Printing Co Ltd Automatic defect inspection device
KR101324035B1 (en) * 2012-07-25 2013-11-01 삼성중공업 주식회사 Windmill and method of removing foreign substance from windmill blade
KR20150101861A (en) * 2014-02-27 2015-09-04 목포대학교산학협력단 Apparatus for Monitoring the Blade of Wind Power Generator using Quadcopter
KR20180020724A (en) * 2016-08-19 2018-02-28 주식회사 케이티 Pyramid history map generating method for calculating feature map in deep learning based on convolution neural network and feature map generating method

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011226791A (en) * 2010-04-15 2011-11-10 Toppan Printing Co Ltd Automatic defect inspection device
KR101324035B1 (en) * 2012-07-25 2013-11-01 삼성중공업 주식회사 Windmill and method of removing foreign substance from windmill blade
KR20150101861A (en) * 2014-02-27 2015-09-04 목포대학교산학협력단 Apparatus for Monitoring the Blade of Wind Power Generator using Quadcopter
KR20180020724A (en) * 2016-08-19 2018-02-28 주식회사 케이티 Pyramid history map generating method for calculating feature map in deep learning based on convolution neural network and feature map generating method

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113836646A (en) * 2020-06-04 2021-12-24 北京国电思达科技有限公司 Fan blade defect intelligent analysis method and system based on deep learning
KR102374840B1 (en) 2020-10-20 2022-03-15 두산중공업 주식회사 Defect image generation method for deep learning and system therefor
CN112360699A (en) * 2020-10-22 2021-02-12 华能大理风力发电有限公司 Intelligent inspection and diagnosis analysis method for blades of full-automatic wind generating set
CN113610749A (en) * 2021-04-21 2021-11-05 北京智慧空间科技有限责任公司 Fan blade defect detection method based on neural network
CN113610749B (en) * 2021-04-21 2024-04-19 北京智慧空间科技有限责任公司 Fan blade defect detection method based on neural network
CN113759960A (en) * 2021-07-26 2021-12-07 青海黄河风力发电有限责任公司 Unmanned aerial vehicle-based fan blade and tower barrel inspection identification system and method
KR102465045B1 (en) 2021-09-14 2022-11-09 주식회사 파워인스 Non-destructive inspection system and method based on artificial intelligence mdoel for turbine blades
KR102453446B1 (en) * 2021-12-01 2022-10-17 (주)니어스랩 System for checking defect and method thereof
WO2023101059A1 (en) * 2021-12-02 2023-06-08 (주)니어스랩 Inspection system for wind power generator and inspection method therefor
CN114905379B (en) * 2022-06-07 2023-09-19 众芯汉创(北京)科技有限公司 Wind power generation blade local defect intelligent repairing device
CN114905379A (en) * 2022-06-07 2022-08-16 众芯汉创(北京)科技有限公司 Intelligent repairing device for local defects of wind power generation blade
CN114937027A (en) * 2022-06-20 2022-08-23 创新奇智(上海)科技有限公司 Fan blade defect detection method and device, electronic equipment and storage medium
CN114937027B (en) * 2022-06-20 2024-03-15 创新奇智(上海)科技有限公司 Fan blade defect detection method and device, electronic equipment and storage medium
KR102588141B1 (en) * 2022-10-13 2023-10-12 주식회사 승화기술 Deep learning based exterior inspection method using dron image
CN115564740A (en) * 2022-10-17 2023-01-03 风脉能源(武汉)股份有限公司 Fan blade defect positioning method and system

Also Published As

Publication number Publication date
KR102386221B1 (en) 2022-04-13

Similar Documents

Publication Publication Date Title
KR102386221B1 (en) Apparatus and Method for Detecting/Analyzing Defect of Windturbine Blade
Reis et al. Real-time flying object detection with YOLOv8
Sadykova et al. IN-YOLO: Real-time detection of outdoor high voltage insulators using UAV imaging
KR20190108832A (en) Apparatus and Method for Detecting/Analyzing Defect of Windturbine Blade
CN108022235B (en) Method for identifying defects of key components of high-voltage transmission iron tower
US9911055B2 (en) Method and system for detection and classification of license plates
Wang et al. Insulator identification from aerial images using support vector machine with background suppression
EP3690714B1 (en) Method for acquiring sample images for inspecting label among auto-labeled images to be used for learning of neural network and sample image acquiring device using the same
CN112380952A (en) Power equipment infrared image real-time detection and identification method based on artificial intelligence
CN110084165B (en) Intelligent identification and early warning method for abnormal events in open scene of power field based on edge calculation
CN108090906B (en) Cervical image processing method and device based on region nomination
Sheikh et al. Traffic sign detection and classification using colour feature and neural network
CN112906463A (en) Image-based fire detection method, device, equipment and storage medium
CN111368690A (en) Deep learning-based video image ship detection method and system under influence of sea waves
CN110659550A (en) Traffic sign recognition method, traffic sign recognition device, computer equipment and storage medium
CN110751270A (en) Unmanned aerial vehicle wire fault detection method, system and equipment
US11423262B2 (en) Automatically filtering out objects based on user preferences
Messmer et al. Gaining scale invariance in uav bird’s eye view object detection by adaptive resizing
Raja et al. Blur the eyes of uav: Effective attacks on uav-based infrastructure inspection
Farahnakian et al. Visible and infrared image fusion framework based on RetinaNet for marine environment
CN116052206A (en) Bird identification method and system integrating visual saliency
Choodowicz et al. Hybrid algorithm for the detection and recognition of railway signs
KR102171597B1 (en) Apparatus and Method for Detecting/Analyzing a Blade of a Wind Turbine
Lee et al. Learning fluid flow visualizations from in-flight images with tufts
Henriksson et al. Understanding the impact of edge cases from occluded pedestrians for ML systems

Legal Events

Date Code Title Description
A107 Divisional application of patent
E902 Notification of reason for refusal
AMND Amendment
E601 Decision to refuse application
X091 Application refused [patent]
AMND Amendment
X701 Decision to grant (after re-examination)