JP2022176822A - Structure display device and structure display method - Google Patents

Structure display device and structure display method Download PDF

Info

Publication number
JP2022176822A
JP2022176822A JP2021083459A JP2021083459A JP2022176822A JP 2022176822 A JP2022176822 A JP 2022176822A JP 2021083459 A JP2021083459 A JP 2021083459A JP 2021083459 A JP2021083459 A JP 2021083459A JP 2022176822 A JP2022176822 A JP 2022176822A
Authority
JP
Japan
Prior art keywords
information
display device
screen
display
divided images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2021083459A
Other languages
Japanese (ja)
Other versions
JP7022858B1 (en
Inventor
昭義 小村
Akiyoshi Komura
幸弘 白濱
Yukihiro SHIRAHAMA
誠 恒川
Makoto Tsunekawa
浩一郎 高橋
Koichiro Takahashi
昇三 宮部
Shozo Miyabe
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Power Solutions Co Ltd
Original Assignee
Hitachi Power Solutions Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Power Solutions Co Ltd filed Critical Hitachi Power Solutions Co Ltd
Priority to JP2021083459A priority Critical patent/JP7022858B1/en
Application granted granted Critical
Publication of JP7022858B1 publication Critical patent/JP7022858B1/en
Priority to TW111117460A priority patent/TW202301210A/en
Priority to PCT/JP2022/020457 priority patent/WO2022244753A1/en
Publication of JP2022176822A publication Critical patent/JP2022176822A/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F03MACHINES OR ENGINES FOR LIQUIDS; WIND, SPRING, OR WEIGHT MOTORS; PRODUCING MECHANICAL POWER OR A REACTIVE PROPULSIVE THRUST, NOT OTHERWISE PROVIDED FOR
    • F03DWIND MOTORS
    • F03D80/00Details, components or accessories not provided for in groups F03D1/00 - F03D17/00
    • F03D80/50Maintenance or repair
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02EREDUCTION OF GREENHOUSE GAS [GHG] EMISSIONS, RELATED TO ENERGY GENERATION, TRANSMISSION OR DISTRIBUTION
    • Y02E10/00Energy generation through renewable energy sources
    • Y02E10/70Wind energy
    • Y02E10/72Wind turbines with rotation axis in wind direction

Landscapes

  • Engineering & Computer Science (AREA)
  • Chemical & Material Sciences (AREA)
  • Signal Processing (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Sustainable Development (AREA)
  • Sustainable Energy (AREA)
  • Multimedia (AREA)
  • Combustion & Propulsion (AREA)
  • Mechanical Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Wind Motors (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Testing Of Devices, Machine Parts, Or Other Structures Thereof (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)

Abstract

To efficiently create management information that is useful for displaying an image captured in such a manner that a structure is divided into plural pieces.SOLUTION: A structure display device 100 being the structure display device 100 that displays a division image 33 captured in such a manner that a structure is divided by a plurality of imaging ranges comprises: a storage unit 30 which applies identification information 31 to each division image 33 and associates one or more pieces of management information 32 with the identification information 31 for management; and a control unit 20 which receives input of an extraction condition for the identification information 31 or in which the identification information 31 and the management information 32 are combined and extracts the division image 33 matching the extraction condition from the storage unit 30 to display the image on a display unit 40.SELECTED DRAWING: Figure 1

Description

本発明は、構造物表示装置、および、構造物表示方法に関わる。 The present invention relates to a structure display device and a structure display method.

特許文献1は、風力発電設備の点検報告書の作成業務を効率よく行うことが可能な報告書作成装置を開示する。また、特許文献1の段落0079には、以下の記載がある。
「風力発電設備点検システム1において、報告書作成装置6は、無人飛行体2に取り付けられたカメラ3により風力発電設備4に近接させて撮影された画像を取得し、無人飛行体2の飛行記録データから飛行位置情報を取得し、画像と飛行位置情報とを対応付けた収集データ73を生成する。また、損傷等の観察対象を含む画像が選択されると、選択された画像に対応付けられた飛行位置情報に基づき、損傷(観察対象)の位置情報である観察対象位置を求め、少なくとも画像と該画像に含まれる損傷(観察対象)の観察対象位置の情報とを含む点検報告書75を作成して、出力する。」
Patent Literature 1 discloses a report creation device capable of efficiently creating an inspection report for wind power generation equipment. Further, paragraph 0079 of Patent Document 1 includes the following description.
"In the wind power generation facility inspection system 1, the report creation device 6 acquires an image captured by the camera 3 attached to the unmanned aircraft 2 in close proximity to the wind power generation facility 4, and records the flight record of the unmanned aircraft 2. The flight position information is acquired from the data, and the image and the flight position information are associated to generate collected data 73. Further, when an image including an observation target such as damage is selected, it is associated with the selected image. Based on the obtained flight position information, the observation target position, which is the position information of the damage (observation target), is obtained, and an inspection report 75 containing at least the image and information on the observation target position of the damage (observation target) included in the image is generated. Create and print."

特開2018-181235号公報JP 2018-181235 A

風力発電設備(サイト)を点検する工程では、風車のブレードに近づいて撮影し、その撮影画像から損傷箇所を検査する。各サイトには、多くの風車が稼働しているので、撮影画像の枚数が多く、その整理および報告書作成に時間を要している。
そのため、多くの撮影画像を整理し、ブレードの状態を効率的に把握させるための表示に活用することが求められる。
In the process of inspecting the wind power generation facility (site), the blades of the wind turbine are approached and photographed, and the damaged portion is inspected from the photographed image. Since many windmills are in operation at each site, there are many images taken, and it takes time to organize them and create reports.
Therefore, it is required to organize a large number of photographed images and utilize them for display for efficiently grasping the state of the blade.

特許文献1には、報告書作成装置が、時刻情報に基づいて画像と無人飛行体の飛行位置とを対応付けた収集データを作成する旨が記載されている。この収集データには、ブレード番号、ブレード面、画像ID、画像の撮影位置(飛行位置)、撮影時刻、ルートからの距離(観察対象位置)、損傷番号(損傷ID)等のデータ項目を有する。 Patent Literature 1 describes that a report creation device creates collected data in which an image and a flight position of an unmanned air vehicle are associated with each other based on time information. This collected data includes data items such as blade number, blade surface, image ID, image capturing position (flight position), capturing time, distance from the route (observation target position), damage number (damage ID), and the like.

しかし、特許文献1の収集データは、点検報告書にそのまま文字情報として記載されることを目的として生成されている。一方、点検者の点検に役立つような所望の撮影画像を表示画面に表示させるために有効な管理情報は、作成されていない。例えば、撮影時刻の順に画像を一覧表示するだけでは、着目する画像がブレード全体のどの部分の画像かを把握できない。 However, the collected data of Patent Literature 1 is generated for the purpose of being written as character information in the inspection report as it is. On the other hand, effective management information for displaying a desired photographed image on a display screen that is useful for inspection by an inspector has not been created. For example, it is not possible to grasp which part of the entire blade the image of interest is by simply displaying a list of images in order of photographing time.

そこで、本発明は、構造物を複数枚に分割して撮影した画像を表示するために役立つ管理情報を、効率的に作成することを主な課題とする。 Accordingly, a main object of the present invention is to efficiently create management information useful for displaying images obtained by dividing a structure into a plurality of images.

上記の課題を解決するため、本発明の構造物表示装置は以下の特徴を有する。
本発明は、構造物を複数の撮影範囲で分割して撮影した分割画像を表示する構造物表示装置であって、
それぞれの前記分割画像に識別情報を付与するとともに、前記識別情報に1つ以上の管理情報を対応付けて管理する記憶部と、
前記識別情報または前記識別情報と前記管理情報とを組み合わせた抽出条件の入力を受け、前記抽出条件に合致する前記分割画像を前記記憶部から抽出して表示部に表示する制御部とを有することを特徴とする。
その他の手段は、後記する。
In order to solve the above problems, the structure display device of the present invention has the following features.
The present invention is a structure display device for displaying divided images obtained by dividing a structure into a plurality of photographing ranges,
a storage unit that assigns identification information to each of the divided images and manages the identification information in association with one or more pieces of management information;
a control unit that receives an input of the identification information or an extraction condition combining the identification information and the management information, extracts the divided image that matches the extraction condition from the storage unit, and displays the split image on a display unit; characterized by
Other means will be described later.

本発明によれば、構造物を複数枚に分割して撮影した画像を表示するために役立つ管理情報を、効率的に作成することができる。 According to the present invention, it is possible to efficiently create management information useful for displaying images obtained by dividing a structure into a plurality of images.

本実施形態に関する構造物表示装置を示す構成図である。It is a block diagram which shows the structure display apparatus regarding this embodiment. 本実施形態に関する図1の構造物表示装置内でメッセージ交換される内容の説明図である。FIG. 2 is an explanatory diagram of the content of messages exchanged within the structure display device of FIG. 1 relating to the present embodiment; 本実施形態に関するデータベースの更新手順を示すフローチャートである。It is a flowchart which shows the update procedure of the database regarding this embodiment. 本実施形態に関する分割画像の表示手順を示すフローチャートである。4 is a flow chart showing a procedure for displaying divided images according to the embodiment; 本実施形態に関する点検対象となる風車を示す立体図である。FIG. 3 is a three-dimensional view showing a wind turbine to be inspected according to the present embodiment; 本実施形態に関するブレードを中心に定義する座標系を示す立体図である。FIG. 3 is a three-dimensional view showing a coordinate system defined around a blade according to the embodiment; 本実施形態に関するブレードのR軸に沿った無人飛行体の飛行ルートの移動を示す立体図である。FIG. 3 is a three-dimensional view showing movement of the flight route of the unmanned air vehicle along the R-axis of the blade according to the present embodiment; 本実施形態に関する図7のR断面図である。FIG. 8 is a cross-sectional view taken along line R of FIG. 7 relating to the present embodiment; 本実施形態に関する図8のR断面図の変形例である。It is a modification of R sectional drawing of FIG. 8 regarding this embodiment. 本実施形態に関するらせん状の飛行ルートを示す立体図である。FIG. 3 is a three-dimensional view showing a spiral flight route according to the present embodiment; 本実施形態に関する構造情報を示すテーブルである。It is a table which shows the structure information regarding this embodiment. 本実施形態に関する撮影情報を示すテーブルである。4 is a table showing shooting information related to the present embodiment; 本実施形態に関する点検情報を示すテーブルである。It is a table which shows the inspection information regarding this embodiment. 本実施形態に関する順序情報を示すテーブルである。It is a table which shows the order information regarding this embodiment. 本実施形態に関する第1の表示画面図である。It is a 1st display screen figure regarding this embodiment. 本実施形態に関する第2の表示画面図である。It is a 2nd display screen figure regarding this embodiment. 本実施形態に関する第3の表示画面図である。It is a 3rd display screen figure regarding this embodiment. 本実施形態に関する図1の構造物表示装置の変形例を示す構成図である。It is a block diagram which shows the modification of the structure display apparatus of FIG. 1 regarding this embodiment. 本実施形態に関する第4の表示画面図である。It is a 4th display screen figure regarding this embodiment. 本実施形態に関する点検結果として正常であるか異常であるか区別した場合の表示画面図である。FIG. 10 is a display screen diagram when distinguishing between normal and abnormal inspection results according to the present embodiment.

以下、本発明の一実施形態を、図面を用いて説明する。 An embodiment of the present invention will be described below with reference to the drawings.

図1は、構造物表示装置100を示す構成図である。
構造物表示装置100は、入力部10と、制御部20と、記憶部30と、表示部40とを有する。
記憶部30には、識別情報31と、管理情報32と、分割画像33とが格納される。表示部40は、識別情報31と、管理情報32とを参照して、構造物の分割画像33を表示する。管理情報32は、管理者から入力される情報であり、例えば、以下の情報である。
・構造情報32a(サイト情報と号機情報とを含む設置条件など)は、図11で後記する。
・撮影情報32b(撮影日時など)は、図12で後記する。
・点検情報32c(損傷レベル、損傷個所など)は、図13で後記する。
・順序情報32d(撮影順序など)は、図14で後記する。
FIG. 1 is a configuration diagram showing a structure display device 100. As shown in FIG.
The structure display device 100 has an input unit 10 , a control unit 20 , a storage unit 30 and a display unit 40 .
The storage unit 30 stores identification information 31 , management information 32 and divided images 33 . The display unit 40 refers to the identification information 31 and the management information 32 and displays a divided image 33 of the structure. The management information 32 is information input by the administrator, and includes, for example, the following information.
The structural information 32a (installation conditions including site information and machine number information, etc.) will be described later with reference to FIG.
The shooting information 32b (shooting date and time, etc.) will be described later with reference to FIG.
- Inspection information 32c (damage level, damaged location, etc.) will be described later in FIG.
The order information 32d (shooting order, etc.) will be described later with reference to FIG.

以下、構造物表示装置100が表示対象とする構造物として、無人飛行体により空撮される風車70のブレード73(図5)を例示するが、構造物はブレード73に限られない。多数の構造物が設置されており、かつ、その構造物が同一形状であれば、構造物表示装置100の表示対象とすることができる。例えば、液化天然ガスを保存するガスタンクでも、表示対象として利用可能である。 Hereinafter, blades 73 ( FIG. 5 ) of a windmill 70 captured by an unmanned flying vehicle are exemplified as a structure to be displayed by the structure display device 100 , but the structure is not limited to the blades 73 . If a large number of structures are installed and the structures have the same shape, they can be displayed by the structure display device 100 . For example, even a gas tank that stores liquefied natural gas can be used as a display object.

入力部10は、ルール入力部11と、分割画像入力部12とを有する。
分割画像入力部12は、分割画像33とその識別情報31との入力を受け付ける。分割画像33とは、1枚のブレード73を複数の撮影範囲(撮影位置、撮影面)に分割して撮影された個々の画像である。識別情報31とは、一つの画像情報(分割画像33の情報)に対して一対一に決まる情報であり、例えば、画像情報に連番で付与される。
The input section 10 has a rule input section 11 and a divided image input section 12 .
The divided image input unit 12 receives input of the divided image 33 and its identification information 31 . The divided images 33 are individual images captured by dividing one blade 73 into a plurality of imaging ranges (imaging positions, imaging planes). The identification information 31 is information determined on a one-to-one basis with respect to one piece of image information (information of the divided image 33), and for example, is assigned a serial number to the image information.

ルール入力部11は、管理情報32と、抽出条件と、画面表示ルールとの入力を受け付ける。
抽出条件とは、記憶部30に格納された分割画像33の集合から、今回の表示対象となる分割画像33を抽出するための条件である。画面表示ルールとは、表示部40へブレード73を表示させる際のルールである。
なお、構造物表示装置100が備える入力部10を用いる代わりに、構造物表示装置100とネットワークを介して接続される外部装置から、構造物表示装置100は、抽出条件などの各種の入力情報を取得してもよい。
The rule input unit 11 receives inputs of management information 32, extraction conditions, and screen display rules.
The extraction condition is a condition for extracting the split image 33 to be displayed this time from the set of split images 33 stored in the storage unit 30 . The screen display rule is a rule for displaying the blade 73 on the display unit 40 .
Instead of using the input unit 10 included in the structure display device 100, the structure display device 100 receives various input information such as extraction conditions from an external device connected to the structure display device 100 via a network. may be obtained.

制御部20は、抽出部21と、データベース更新部22と、ルール設定部23と、表示制御部24とを有する。
抽出部21は、記憶部30から分割画像33を抽出する。
データベース更新部22は、記憶部30に格納されたデータベースを更新する。
ルール設定部23は、表示部40へブレード73を表示させる際の画面表示ルールを設定する。
表示制御部24は、画面表示ルールに基づき、ブレード73の分割画像33などの表示部40への表示内容を制御する。
The control unit 20 has an extraction unit 21 , a database update unit 22 , a rule setting unit 23 and a display control unit 24 .
The extraction unit 21 extracts the divided image 33 from the storage unit 30 .
The database updating section 22 updates the database stored in the storage section 30 .
The rule setting unit 23 sets screen display rules for displaying the blade 73 on the display unit 40 .
The display control unit 24 controls display contents on the display unit 40, such as the split image 33 of the blade 73, based on screen display rules.

図2は、図1の構造物表示装置100内でメッセージ交換される内容の説明図である。以下、図3および図4のフローチャートに沿って、メッセージM1~M7の内容を明らかにする。 FIG. 2 is an explanatory diagram of the content of messages exchanged within the structure display device 100 of FIG. The contents of the messages M1 to M7 will be clarified below along the flow charts of FIGS. 3 and 4. FIG.

図3は、データベースの更新手順を示すフローチャートである。
分割画像入力部12は、分割画像33とその撮影日時とを制御部20へ送信する(メッセージM1)。データベース更新部22は、分割画像33を含むメッセージM1を受信する(S11)。
ルール設定部23は、メッセージM1の分割画像33に対応する識別情報31および管理情報32を、ルール入力部11からメッセージM2として受信する(S12)。メッセージM2の管理情報32とは、例えば、図11の構造情報32a(サイト名、号機番号、ブレードNo.、撮影面)である。
FIG. 3 is a flow chart showing the procedure for updating the database.
The divided image input unit 12 transmits the divided image 33 and its shooting date and time to the control unit 20 (message M1). The database updating unit 22 receives the message M1 including the divided image 33 (S11).
The rule setting unit 23 receives the identification information 31 and the management information 32 corresponding to the divided image 33 of the message M1 from the rule input unit 11 as the message M2 (S12). The management information 32 of the message M2 is, for example, the structural information 32a (site name, device number, blade number, imaging plane) in FIG.

データベース更新部22は、メッセージM1の分割画像33および撮影日時と、メッセージM2の識別情報31および管理情報32とを対応付ける(S13)。そして、データベース更新部22は、S13で対応付けた情報を含むメッセージM3を記憶部30に通知することで、データベースの更新を行う(S14)。 The database update unit 22 associates the divided image 33 and the shooting date and time of the message M1 with the identification information 31 and the management information 32 of the message M2 (S13). Then, the database updating unit 22 updates the database by notifying the storage unit 30 of the message M3 including the information associated in S13 (S14).

なお、S14の更新処理には、記憶部30に格納された構造情報32aに対して、識別情報31を追記する処理が含まれる。
例えば、Aサイトの1号機に設けられたブレードNo.1の撮影面aについて、撮影された10枚の分割画像33に該当する識別情報31を、構造情報32aに纏めて追記する。
また、1つのサイトあたり、5台の風車があり、1台の風車に3枚のブレードがあり、1つのブレードあたり4方向の撮影面からそれぞれ10分割して撮影する場合には、5×3×4×10=600枚の分割画像33が撮影される。その場合、識別情報31の個数は、600通りとなる。
Note that the updating process of S14 includes a process of adding the identification information 31 to the structure information 32a stored in the storage unit 30. FIG.
For example, the identification information 31 corresponding to the 10 divided images 33 photographed for the photographing surface a of blade No. 1 provided in machine No. 1 of the A site is collectively added to the structure information 32a.
Also, if there are 5 wind turbines per site, 3 blades per wind turbine, and each blade is divided into 10 sections from the 4 directions, 5 x 3 ×4×10=600 divided images 33 are taken. In that case, there are 600 pieces of identification information 31 .

図4は、分割画像の表示手順を示すフローチャートである。
ルール設定部23は、記憶部30に格納されている分割画像33の集合から、今回の表示対象となる分割画像33を抽出するための抽出条件を、ルール入力部11からメッセージM4として受け付ける。抽出条件には、以下のいずれかの内容が含まれる。
・表示対象の識別情報31が単独で指定されている。
・表示対象の識別情報31に加え、絞り込み条件(AND条件)となる管理情報32(例えば、サイト名、号機番号)が指定されている。なお、管理情報32の選択は、例えばプルダウンメニューに候補を表示し、ユーザから候補のいずれかを選択する入力方法が例示される。
・表示対象の管理情報32が単独で指定されている。
FIG. 4 is a flow chart showing the procedure for displaying divided images.
The rule setting unit 23 receives, from the set of divided images 33 stored in the storage unit 30, an extraction condition for extracting the divided image 33 to be displayed this time from the rule input unit 11 as a message M4. The extraction conditions include any of the following.
- The identification information 31 to be displayed is specified alone.
- In addition to the identification information 31 to be displayed, management information 32 (for example, site name, unit number) as a narrowing condition (AND condition) is specified. Selection of the management information 32 is exemplified by an input method in which candidates are displayed in a pull-down menu and the user selects one of the candidates.
- The management information 32 to be displayed is specified independently.

例えば、制御部20は、以下の抽出条件を管理情報32から指定する。
・管理情報32の構造情報32aから、「サイト名=Aサイト」、「号機番号=1号機」、「ブレードNo.=No.1」の指定
・管理情報32の撮影情報32bから、「撮影日時=2017年6月10日」の指定
ルール設定部23は、指定された抽出条件を検索キーにして、記憶部30から該当する識別情報31(の分割画像33)を読み出すよう、抽出部21へ抽出条件を送信する。
For example, the control unit 20 designates the following extraction conditions from the management information 32.
・From the structure information 32a of the management information 32, specify “Site name=A site”, “Unit No.=1 machine”, and “Blade No.=No.1” ・From the shooting information 32b of the management information 32, =June 10, 2017” The rule setting unit 23 instructs the extraction unit 21 to read out (the divided image 33 of) the corresponding identification information 31 from the storage unit 30 using the specified extraction condition as a search key. Send extraction conditions.

抽出部21は、抽出条件をメッセージM5として記憶部30に通知することで、抽出条件に合致する分割画像33をメッセージM6として抽出する(S21)。なお、メッセージM5には、抽出条件の識別情報31だけでなく、順序情報32dも組み合わせて指定してもよい。
表示制御部24は、抽出部21からメッセージM6として受信した分割画像33を表示画像とする画面を生成する(S22)。そして、表示制御部24は、ルール入力部11から別途入力された画面表示ルールに従い、抽出された分割画像33を表示部40にメッセージM7として表示させる。
The extraction unit 21 notifies the storage unit 30 of the extraction condition as a message M5, and extracts the divided image 33 that meets the extraction condition as a message M6 (S21). Note that the message M5 may be specified by combining not only the identification information 31 of the extraction condition but also the order information 32d.
The display control unit 24 generates a screen using the divided image 33 received as the message M6 from the extraction unit 21 as a display image (S22). Then, the display control unit 24 causes the display unit 40 to display the extracted divided image 33 as a message M7 according to the screen display rule separately input from the rule input unit 11 .

以上、図2~図4を参照して構造物表示装置100の処理の概要を説明した。以下では、抽出条件の管理情報32や、画面表示ルールに従った表示画面の詳細などを説明する。まず、識別情報31や管理情報32に含まれる撮影面を明らかにするために、点検対象となる風車70の形状を説明する。 The outline of the processing of the structure display device 100 has been described above with reference to FIGS. In the following, the management information 32 of the extraction conditions and the details of the display screen according to the screen display rule will be described. First, the shape of the windmill 70 to be inspected will be described in order to clarify the photographing surface included in the identification information 31 and the management information 32. FIG.

図5は、点検対象となる風車70を示す立体図である。風車70は、タワー71上に設けられたナセル72と、ナセル72に固定されたブレード73で構成されている。各ブレード73は風力を受けて回転方向θに沿って回転し、この回転力を用いて発電が行われる。
また、以下の説明のために、ナセル72の根本からブレード73の先端に向かうブレード73の長手方向に沿ったR軸を定義する。
FIG. 5 is a three-dimensional view showing a wind turbine 70 to be inspected. The windmill 70 is composed of a nacelle 72 provided on a tower 71 and blades 73 fixed to the nacelle 72 . Each blade 73 receives the wind force and rotates along the rotation direction θ, and this rotational force is used to generate power.
Also, for the purpose of the following description, an R-axis is defined along the longitudinal direction of the blade 73 from the root of the nacelle 72 to the tip of the blade 73 .

図6は、ブレード73を中心に定義する座標系を示す立体図である。
「R軸」は、図5で説明したようにブレード73の長手方向に沿った軸である。回転方向θがどの方向を向いていても(上空向きでも、水平向きでも、地面向きでも)、R軸は回転方向θに追従して定義される。
「R断面」とは、R軸に垂直な平面であり、便宜上その1軸をX軸とし、もう1軸をY軸とする。
FIG. 6 is a three-dimensional diagram showing a coordinate system defined around the blade 73. As shown in FIG.
The “R-axis” is the axis along the longitudinal direction of the blade 73 as explained in FIG. The R-axis is defined so as to follow the rotation direction θ regardless of which direction the rotation direction θ is directed (upward, horizontal, or ground).
The “R cross section” is a plane perpendicular to the R axis, and for the sake of convenience, one axis thereof is the X axis and the other axis is the Y axis.

「撮影面」とは、ブレード73をR断面のどの方向から撮影するかを規定する。
例えば、図6では、Y軸プラス方向に画角を向けてブレード73を撮影する撮影面aと、X軸マイナス方向に画角を向けてブレード73を撮影する撮影面bと、X軸プラス方向の撮影面c(撮影面a,bの背後に隠れたので図示省略)と、Y軸マイナス方向の撮影面d(撮影面a,bの背後に隠れたので図示省略)とで、合計4面の撮影面を例示した。
なお、ブレード周囲の撮影面は、図6に示すように4つ設けても良いし、5つなどの4つに限定せずに設けても良い。いずれにしても、ブレード73を複数方向から撮影することで、未撮影の箇所が発生しないようにする。
The “image plane” defines from which direction of the R section the blade 73 is imaged.
For example, in FIG. 6, an imaging plane a for imaging the blade 73 with the angle of view directed in the positive Y-axis direction, an imaging plane b for imaging the blade 73 with the angle of view directed in the negative X-axis direction, and an imaging plane b for imaging the blade 73 with the angle of view directed in the negative X-axis direction. A total of 4 planes: the shooting plane c (not shown because it was hidden behind the shooting planes a and b) and the shooting plane d in the negative direction of the Y axis (not shown because it was hidden behind the shooting planes a and b) is shown as an example of the shooting surface of
Incidentally, the imaging planes around the blade may be provided four as shown in FIG. 6, or may be provided without being limited to four such as five. In any case, by photographing the blade 73 from a plurality of directions, it is possible to prevent occurrence of unphotographed portions.

図7は、ブレード73のR軸に沿った無人飛行体の飛行ルート(往動時のF1,復動時のF2)の移動を示す立体図である。ナセル72の近傍まで移動した無人飛行体は、ブレード73の第1端部であるナセル72近傍の基準位置(r=1)に移動する。この基準位置が飛行ルートF1の始点である。
なお、1枚の分割画像33に対して、2つの情報(No.1,r=1など)が付加される。まず、第1付加情報(No.1,No.2,…No.20)は、その撮影位置で撮影される画像ごとにユニークな識別情報31である。つまり、識別情報31は画像の撮影順序に従って採番された情報ともいえる。
FIG. 7 is a three-dimensional view showing movement of the flight route of the unmanned air vehicle (F1 during forward movement, F2 during return movement) along the R-axis of the blade 73. As shown in FIG. The unmanned flying object that has moved to the vicinity of the nacelle 72 moves to a reference position (r=1) near the nacelle 72 that is the first end of the blade 73 . This reference position is the starting point of the flight route F1.
Two pieces of information (No. 1, r=1, etc.) are added to one divided image 33 . First, the first additional information (No. 1, No. 2, . . . No. 20) is identification information 31 that is unique for each image shot at that shooting position. In other words, it can be said that the identification information 31 is information numbered according to the order in which images are captured.

一方、第2付加情報(r=1,2,…10)は、ブレード73の第1端部(r=1)から対向する第2端部(r=10)までのR軸に沿った撮影位置の特定情報である。rの値が小さいほどナセル72近傍側の位置を示し、rの値が大きいほどブレード73の先端側の位置を示す。
つまり、同じ撮影位置r=1であっても、飛行ルートF1に従い撮影面aを撮影するときには識別情報31(No.1)が付され、飛行ルートF2に従い撮影面bを撮影するときには識別情報31(No.20)が付される。
On the other hand, the second additional information (r=1, 2, . This is position specific information. A smaller value of r indicates a position closer to the nacelle 72 , and a larger value of r indicates a position closer to the tip of the blade 73 .
That is, even at the same shooting position r=1, the identification information 31 (No. 1) is added when shooting the shooting plane a along the flight route F1, and the identification information 31 (No. 1) is added when shooting the shooting plane b along the flight route F2. (No.20) is attached.

これにより、ブレードごとの撮影位置情報を分割画像33に付与することで、ドローンが往復動した場合にも、ブレード全体を正しく画面表示できる。例えば、撮影位置r=1が同じである2つの画像(識別情報31=No.1とNo.20)を並べて表示するなど、点検に適した表示をしやすく分割画像33を管理できる。 As a result, by adding the shooting position information for each blade to the split image 33, even when the drone reciprocates, the entire blade can be correctly displayed on the screen. For example, two images (identification information 31=No. 1 and No. 20) with the same shooting position r=1 are displayed side by side.

ブレード73の先端に到達した無人飛行体は、今まで撮影していた撮影面aとは別の撮影面bに対して、復動時の飛行ルートF2に沿って同様に撮影を開始する。つまり、無人飛行体は、基準位置に遠い第2端部(ブレード73先端のNo.11)から第1端部(ナセル72の根本のNo.20)へ戻る方向に移動するとともに、所定の等間隔で撮影する。 The unmanned air vehicle that has reached the tip of the blade 73 similarly starts photographing along the return flight route F2 on the photographing surface b, which is different from the photographing surface a that has been photographed so far. That is, the unmanned flying object moves in a direction returning from the second end (No. 11 at the tip of the blade 73) far from the reference position to the first end (No. 20 at the base of the nacelle 72), and Take pictures at intervals.

図8は、図7のR断面図である。
ブレード73の回転方向θ(点Pu,P0,Pdを通過する直線)に対して、ブレード断面(点Px,P0,Pyを通過する直線)が垂直に位置しており、無人飛行体は、回転方向θと対称な位置(点P1とP2とが線対称、点P3とP4とが線対称)からブレードを撮影する。
8 is a cross-sectional view taken along the line R in FIG. 7. FIG.
The blade section (a straight line passing through points Px, P0, and Py) is positioned perpendicular to the rotation direction θ (a straight line passing through points Pu, P0, and Pd) of the blade 73, and the unmanned air vehicle rotates The blade is photographed from a position symmetrical with the direction θ (points P1 and P2 are line symmetric, points P3 and P4 are line symmetric).

図7の説明では、第1端部(r=1)から第2端部(r=10)まで移動中に、同じ撮影面aを撮影し続ける飛行ルートF1を例示した。一方、図8では、同じR軸の撮影位置(例えばr=3)について、ブレード73の周囲をR断面に沿って旋回することで、4回の撮影で4方向の撮影面の画像を取得するらせん状の飛行ルートF(立体図は図10で後記)を示す。つまり、撮影面aを撮影する位置P1→撮影面bを撮影する位置P2→撮影面cを撮影する位置P3→撮影面dを撮影する位置P4の順に、撮影が行われる。 In the description of FIG. 7, the flight route F1 is illustrated in which the same imaging plane a is continuously photographed while moving from the first end (r=1) to the second end (r=10). On the other hand, in FIG. 8, for the same R-axis imaging position (for example, r=3), by turning around the blade 73 along the R cross-section, images of imaging planes in four directions are acquired by imaging four times. A spiral flight route F (a three-dimensional view will be described later in FIG. 10) is shown. That is, photographing is performed in the order of position P1 for photographing surface a→position P2 for photographing surface b→position P3 for photographing surface c→position P4 for photographing surface d.

R断面図では、ブレード73は表面と裏面とを有する流線形の板形状として近似される。よって、無人飛行体は、ブレード73の表面を位置P1,P2で撮影し、ブレード73の裏面を位置P3,P4で撮影することで、両面を撮影できる。
なお、ブレード73の表面を位置P1,P2で撮影する代わりに、位置Puで撮影してもよい。同様に、ブレード73の裏面を位置P3,P4で撮影する代わりに、位置Pdで撮影してもよい。これにより、撮影回数を4回から2回に削減できる。
In the R sectional view, the blade 73 is approximated as a streamlined plate having a front surface and a back surface. Therefore, the unmanned flying object can photograph both surfaces by photographing the front surface of the blade 73 at positions P1 and P2 and photographing the rear surface of the blade 73 at positions P3 and P4.
Note that the surface of the blade 73 may be photographed at the position Pu instead of at the positions P1 and P2. Similarly, instead of photographing the back surface of the blade 73 at positions P3 and P4, it may be photographed at position Pd. As a result, the number of shots can be reduced from four to two.

しかし、位置Puに無人飛行体を移動させてしまうと、その位置Puはブレード73の軌道上(回転方向θの直線上)なので、ブレード73の位置が現在のP0から位置Puに回転してしまうと、無人飛行体と衝突することが懸念される。
通常、点検作業時はブレード73の回転方向θを油圧ブレーキで固定することで、ブレード73が回転しないようにできる。しかし、油圧ブレーキの給電が電源消失時に断たれてしまうと、ブレード73の意図しない回転を抑止できない場合もある。
However, if the unmanned flying object is moved to the position Pu, the position Pu is on the trajectory of the blade 73 (on a straight line in the rotation direction θ), so the position of the blade 73 will rotate from the current position P0 to the position Pu. And there is concern that it will collide with an unmanned aerial vehicle.
Normally, the blade 73 can be prevented from rotating by fixing the rotation direction θ of the blade 73 with a hydraulic brake during inspection work. However, if power supply to the hydraulic brake is interrupted when power is lost, unintended rotation of the blade 73 may not be suppressed.

そこで、図8では、ブレード73の円周方向θ(点Pu,P0,Pdを通過する線)と、R断面図のブレード73面の長手方向(点Px,P0,Pyを通過する線)とが90°で直交しているとすると、その直交に対して約45°になるように撮影位置P1,P2,P3,P4を設定した。換言すると、制御装置21は、無人飛行体の移動範囲(撮影位置)をブレード73の回転方向θの範囲外に設定した。
これにより、仮にブレード73の現在位置がP0から、PuやPdに移動してしまっても、ブレード73の撮影位置での衝突を回避できる。
Therefore, in FIG. 8, the circumferential direction θ of the blade 73 (a line passing through points Pu, P0, and Pd) and the longitudinal direction of the surface of the blade 73 in the R cross-sectional view (a line passing through points Px, P0, and Py) are perpendicular to each other at 90°, the imaging positions P1, P2, P3, and P4 are set so as to be about 45° from the perpendicular. In other words, the control device 21 sets the movement range (shooting position) of the unmanned flying object outside the range of the rotational direction θ of the blade 73 .
As a result, even if the current position of the blade 73 moves from P0 to Pu or Pd, collision of the blade 73 at the photographing position can be avoided.

図9は、図8のR断面図の変形例である。
図9では、ブレード73の回転方向θに対して、ブレード断面が垂直からずれて位置している。また、無人飛行体は、回転方向θに対して非対称な位置からブレードを撮影する。
そのため、風車70の監視員は、ブレード73のナセル72に対する固定角度(点Px,P0,Pyを通過する線)を、図8の通常稼働時(回転方向θに直交)から少し右下がりになるように、点検前にずらしておく。そして、無人飛行体は、ブレード73の表面を位置P5で撮影し、ブレード73の裏面を位置P6で撮影する。
これにより、点検前後でブレード73の角度を調節する手間は発生してしまうが、無人飛行体とブレード73との撮影位置での衝突を回避でき、かつ、撮影枚数も4枚から2枚に削減できる。
FIG. 9 is a modification of the R cross-sectional view of FIG.
In FIG. 9, the cross section of the blade 73 is shifted from perpendicular to the rotation direction θ of the blade 73 . Also, the unmanned flying object photographs the blade from a position asymmetric with respect to the rotation direction θ.
Therefore, the observer of the wind turbine 70 sets the fixed angle of the blades 73 with respect to the nacelle 72 (the line passing through the points Px, P0, and Py) from the time of normal operation (perpendicular to the rotation direction θ) in FIG. so that it is shifted before inspection. Then, the unmanned flying object photographs the front surface of the blade 73 at the position P5 and the rear surface of the blade 73 at the position P6.
As a result, although it takes time to adjust the angle of the blade 73 before and after inspection, it is possible to avoid collision between the unmanned flying object and the blade 73 at the shooting position, and reduce the number of shots from four to two. can.

図10は、らせん状の飛行ルートFを示す立体図である。
無人飛行体は、ブレード73の周囲をらせん状に旋回しながら、ナセル72の根本からブレード73の先端までR軸を徐々に進行する飛行ルートFを移動してもよい。図8で説明したように、同じ撮影位置(r=3など)では、位置P1,P2,P3,P4の合計4回の撮影で4方向の撮影面の画像を取得する。
以上、図7~図10を参照して、R軸に沿って往復する飛行ルートと、R軸の周囲をらせん状に進行する飛行ルートとを説明した。以下、図11~図14を参照して、管理情報32を説明する。
FIG. 10 is a three-dimensional view showing a spiral flight route F. FIG.
The unmanned air vehicle may traverse a flight route F gradually progressing along the R-axis from the root of the nacelle 72 to the tip of the blade 73 while spiraling around the blade 73 . As described with reference to FIG. 8, at the same imaging position (r=3, etc.), images of imaging planes in four directions are obtained by imaging a total of four times at positions P1, P2, P3, and P4.
As above, the flight route that reciprocates along the R-axis and the flight route that spirals around the R-axis have been described with reference to FIGS. The management information 32 will be described below with reference to FIGS. 11 to 14. FIG.

図11は、構造情報32aを示すテーブルである。構造情報32aには、サイト名、号機番号、ブレード番号、撮影面と識別情報31が対応付けて記録されている。
例えば、ある風力発電所Xの敷地内には、5台の風車が存在し、その1台の風車ごとに3枚のブレードが備えられている。この場合の構造情報32aでは、サイト名=風力発電所X、号機番号=1号機~5号機、ブレード番号=1~3である。
データベース更新部22は、データベースの更新処理(図3のS14)において、例えば、Aサイトの1号機に設けられてブレードNo.1の撮影面aについて、撮影された10枚の分割画像33の識別情報31(00001~00010)を、構造情報32aの識別情報列にまとめて追記する。
FIG. 11 is a table showing the structure information 32a. In the structure information 32a, the site name, machine number, blade number, photographing surface and identification information 31 are recorded in association with each other.
For example, on the premises of a certain wind power plant X, there are five windmills, each of which has three blades. In the structure information 32a in this case, the site name=wind farm X, unit number=1 to 5, and blade number=1 to 3.
In the database updating process (S14 in FIG. 3), the database updating unit 22 identifies ten divided images 33 captured for the imaging plane a of blade No. 1 provided in the first machine of the A site, for example. The information 31 (00001 to 00010) is collectively added to the identification information string of the structure information 32a.

図12は、撮影情報32bを示すテーブルである。撮影情報32bは、分割画像33ごとに付与する識別情報31と、図3のS11で入力された撮影日時とを対応付ける情報である。
図13は、点検情報32cを示すテーブルである。
点検情報32cは、識別情報31ごとに、その分割画像33に表示されている損傷の種類、損傷レベル、および、損傷個所を対応付ける情報である。
FIG. 12 is a table showing the shooting information 32b. The shooting information 32b is information that associates the identification information 31 assigned to each divided image 33 with the shooting date and time input in S11 of FIG.
FIG. 13 is a table showing inspection information 32c.
The inspection information 32c is information that associates, for each identification information 31, the type of damage, the level of damage, and the location of damage displayed in the divided image 33 thereof.

図14は、順序情報32dを示すテーブルである。
順序情報32dは、撮影面と、撮影順序(図7ではNo.1~No.20)と、撮影位置(図7ではr=1~r=10)とを対応付ける情報である。これにより、図7の飛行ルート(往動時のF1,復動時のF2)のように、ブレードの撮影面によって、同じ撮影位置でも飛行ルートの方向により撮影順序が異なる場合でも、撮影面a,bで同じ撮影位置の分割画像33を抽出し、正しい撮影順序で構造物を表示できる。
FIG. 14 is a table showing the order information 32d.
The order information 32d is information that associates the imaging surface, the imaging order (No. 1 to No. 20 in FIG. 7), and the imaging position (r=1 to r=10 in FIG. 7). As a result, as shown in the flight route in FIG. 7 (F1 for forward movement, F2 for backward movement), even if the imaging plane of the blade is the same, even if the imaging order differs depending on the direction of the flight route, even if the imaging position is the same, the imaging plane a , b, the divided images 33 at the same photographing position can be extracted, and the structure can be displayed in the correct photographing order.

以下、図15からは表示画面を説明する。
図15は、第1の表示画面図である。
画面200の抽出条件201では、管理情報32として、Aサイトにおける1号機のブレードNo.1を撮影日時「2017年6月10日」で撮影した画像集合が、表示対象として指定されている。この抽出条件201も画面200の内部に表示される。
画面200の画面表示ルールでは、画像集合の表示レイアウトとして以下が指定されている。X軸は横軸であり、Y軸は縦軸である。
・X軸:撮影面(X軸の表示間隔:15mm)
・Y軸:撮影位置(Y軸の表示間隔:0mm)
The display screen will be described below with reference to FIG.
FIG. 15 is a diagram of the first display screen.
In the extraction condition 201 of the screen 200, as the management information 32, a set of images of blade No. 1 of machine No. 1 at site A taken at the shooting date and time "June 10, 2017" is specified as a display target. This extraction condition 201 is also displayed inside the screen 200 .
In the screen display rule of the screen 200, the following is specified as the display layout of the image set. The X-axis is the horizontal axis and the Y-axis is the vertical axis.
・X-axis: Shooting plane (X-axis display interval: 15mm)
・Y-axis: Shooting position (Y-axis display interval: 0mm)

このような画面表示ルールにより、表示部40は、抽出条件に合致するブレードNo.1の分割画像33を4つの撮影面に分けて、1つの画面200内に表示させる。つまり、表示部40は、画面200内のX軸方向にそれぞれの撮影面a~dの分割画像33を並べ、Y軸方向にブレード73の撮影位置(r=1,2,…10)ごとに分割した分割画像33を並べる。このようにX軸およびY軸に沿って規則的に分割画像33を並べるために、順序情報32dが参照される(図16以降も同様)。
この画面200を閲覧した点検者は、ブレード全体の損傷度合いを容易に把握できる。
According to such a screen display rule, the display unit 40 divides the split image 33 of blade No. 1 that meets the extraction condition into four imaging planes and displays them in one screen 200 . That is, the display unit 40 arranges the divided images 33 of the imaging planes a to d in the X-axis direction in the screen 200, and arranges the divided images 33 in the Y-axis direction for each imaging position (r=1, 2, . . . , 10) of the blade 73. The divided divided images 33 are arranged. In order to arrange the divided images 33 regularly along the X-axis and the Y-axis in this way, the order information 32d is referred to (the same applies to FIG. 16 and subsequent figures).
An inspector viewing this screen 200 can easily grasp the degree of damage to the entire blade.

図16は、第2の表示画面図である。
画面210の抽出条件211は、管理情報32として、各サイトにおける1号機のブレードNo.1の撮影位置r=1を撮影日時「2017年6月10日」で撮影した画像集合が、表示対象として指定されている。
画面210の画面表示ルールでは、画像集合の表示レイアウトとして、以下が指定されている。
・X軸:撮影面(X軸の表示間隔:15mm)
・Y軸:サイト(Y軸の表示間隔:10mm)
このような画面表示ルールにより、表示部40は、サイトごとに同じ撮影位置の画像情報を1つの画面内に分割して画面210に表示させている。これにより、風車の立地とブレード損傷状況の関係を、点検者が容易に確認できる。
FIG. 16 is a diagram of the second display screen.
The extraction condition 211 on the screen 210 is that, as the management information 32, a set of images taken at the shooting position r=1 of blade No. 1 of Unit 1 at each site at the shooting date and time "June 10, 2017" is displayed. specified.
The screen display rule of the screen 210 specifies the following as the display layout of the image set.
・X-axis: Shooting plane (X-axis display interval: 15mm)
・Y-axis: Sight (Y-axis display interval: 10mm)
According to such a screen display rule, the display unit 40 divides the image information of the same shooting position for each site into one screen and displays it on the screen 210 . As a result, the inspector can easily confirm the relationship between the location of the wind turbine and the state of damage to the blades.

図17は、第3の表示画面図である。
画面220の抽出条件221は、管理情報32として、サイトAにおける1号機のブレードNo.1を撮影面aで撮影した画像集合が、表示対象として指定されている。
画面220の画面表示ルールでは、画像集合の表示レイアウトとして、以下が指定されている。
・X軸:撮影日時(X軸の表示間隔:15mm)
・Y軸:撮影位置(Y軸の表示間隔:0mm)
FIG. 17 is a diagram of a third display screen.
In the extraction condition 221 of the screen 220, as the management information 32, a set of images of blade No. 1 of the first machine at the site A photographed on the photographing surface a is specified as a display target.
The screen display rule of the screen 220 specifies the following as the display layout of the image set.
・X-axis: Shooting date and time (X-axis display interval: 15mm)
・Y-axis: Shooting position (Y-axis display interval: 0mm)

このような画面表示ルールにより、表示部40は、Aサイトの1号機におけるブレードNo.1について、撮影日時が互いに異なる撮影面aの画像情報を1つの画面220内に分割して表示させる。これにより、2019/6/10までは損傷が発生していないが、2020/6/10には損傷が発生したなどのブレード損傷状況の過程を、点検者が容易に確認できる。
また、表示部40は、強調表示された損傷部223を有する分割画像33に対して、レベル2の損傷度合いなどの損傷の説明情報222を併せて表示してもよい。これにより、点検者は、損傷の影響を把握できる。
According to such a screen display rule, the display unit 40 divides and displays the image information of the imaging surface a having different imaging dates and times for the blade No. 1 in the first machine of the A site in one screen 220 . As a result, the inspector can easily confirm the process of blade damage, such as damage not occurring until June 10, 2019, but damage occurring on June 10, 2020.
Further, the display unit 40 may also display the damage description information 222 such as the degree of damage at level 2 together with the divided image 33 having the damaged portion 223 highlighted. This allows the inspector to grasp the effects of the damage.

図18は、図1の構造物表示装置100の変形例を示す構成図である。
図18の構造物表示装置100は、図1の構造物表示装置100に損傷判定部25を追加した。
損傷判定部25は、入力された分割画像33について損傷の有無や損傷の内容を判定し、その判定結果を点検情報32cに書き出す。そのため、損傷判定部25は、事前に記憶部30に登録されている構造物の正常画像(正常状態を示す基準画像)と、入力された分割画像33とを比較する。
この比較結果により、損傷判定部25は、損傷種類と損傷レベルと損傷部とを判定する。損傷部は、例えばナセル72の中心部からの距離(撮影位置r=1,2,…など)により特定する。
FIG. 18 is a configuration diagram showing a modification of the structure display device 100 of FIG.
A structure display device 100 in FIG. 18 has a damage determination unit 25 added to the structure display device 100 in FIG.
The damage determination unit 25 determines the presence or absence of damage and the details of the damage with respect to the input divided image 33, and writes the determination result in the inspection information 32c. Therefore, the damage determination unit 25 compares the input divided image 33 with a normal image of the structure registered in advance in the storage unit 30 (a reference image indicating a normal state).
Based on this comparison result, the damage determination unit 25 determines the type of damage, the level of damage, and the damaged portion. The damaged portion is specified, for example, by the distance from the center of the nacelle 72 (imaging position r=1, 2, . . . , etc.).

図19は、第4の表示画面図である。
画面230の抽出条件231は、管理情報32として、サイトAにおける1号機のブレードNo.1を撮影面aで撮影した画像集合が、表示対象として指定されている。
画面220の画面表示ルールでは、画像集合の表示レイアウトとして、以下が指定されている。
・X軸:正常画像・撮像画像(X軸の表示間隔:50mm)
・Y軸:撮影位置(Y軸の表示間隔:0mm)
FIG. 19 is a diagram of a fourth display screen.
The extraction condition 231 on the screen 230 designates, as the management information 32, a collection of images of the blade No. 1 of the first machine at the site A photographed on the photographing surface a as a display target.
The screen display rule of the screen 220 specifies the following as the display layout of the image set.
・X-axis: Normal image ・Captured image (X-axis display interval: 50mm)
・Y-axis: Shooting position (Y-axis display interval: 0mm)

このような画面表示ルールにより、表示部40は、Aサイトの1号機におけるブレードNo.1について、撮影面aの画像情報および正常画像を1つの画面内に分割して表示させる。これにより、同じ撮影面の画像情報および正常画像を比較して表示させることで、点検者がブレードの損傷状態を容易に確認することができる。
また、表示部40は、強調表示された損傷部233を有する分割画像33に対して、レベル2の損傷度合いなどの損傷の説明情報232を併せて表示してもよい。これにより、点検者は、損傷の影響を把握できる。
According to such a screen display rule, the display unit 40 divides and displays the image information of the imaging surface a and the normal image for blade No. 1 in machine No. 1 at the A site within one screen. As a result, the inspector can easily check the damage state of the blade by comparing and displaying the image information and the normal image of the same imaging surface.
In addition, the display unit 40 may also display damage description information 232 such as the degree of damage at level 2 together with the divided image 33 having the damaged portion 233 highlighted. This allows the inspector to grasp the effects of the damage.

図20は、点検結果として正常であるか異常であるか区別した場合の表示画面図である。 FIG. 20 is a display screen diagram for distinguishing between normal and abnormal inspection results.

表示制御部24は、画面240内の第1表示241として、同じブレード73の同じ撮影位置を異なる時刻で撮影した画像情報を横に並べて表示する。各表示画像の下には、2018/4/1などの撮影日と、診断処理の結果(正常の診断結果または異常の診断結果)、異常の場合の損傷度合いとが表示される。
なお、損傷判定部25は、以下の手順のような機械学習やAIなどの手法で、画面240に表示する診断結果や損傷度合いを評価してもよい。
(手順1)損傷判定部25は、過去の画像情報(分割画像33)と、教師データとしての診断結果や損傷度合い(例えば、100%評価や5段階評価など)との組み合わせをあらかじめ判定器に機械学習しておく。
(手順2)損傷判定部25は、今回の判定対象となる分割画像33を受け、判定器に入力することにより、その分割画像33に対応する診断結果や損傷度合いを評価する。
ここでは、2018/4/1には正常であったブレード73が、2018/10/1には軽度の損傷241aが発生し、2019/4/1には重度の損傷241bへと損傷度合いが進行している。
The display control unit 24 displays, as a first display 241 in the screen 240, image information of the same imaging position of the same blade 73 taken at different times side by side. Under each display image, the shooting date such as April 1, 2018, the result of diagnostic processing (normal diagnostic result or abnormal diagnostic result), and the degree of damage in the case of abnormality are displayed.
In addition, the damage determination unit 25 may evaluate the diagnosis result and the degree of damage displayed on the screen 240 by a technique such as machine learning or AI as in the following procedure.
(Procedure 1) The damage determination unit 25 preliminarily stores a combination of past image information (divided image 33), diagnosis results and degree of damage (e.g., 100% evaluation, 5-level evaluation, etc.) as teacher data in a determination device. machine learning.
(Procedure 2) The damage determination unit 25 receives the divided image 33 to be determined this time, and inputs the divided image 33 to the determiner to evaluate the diagnosis result and the degree of damage corresponding to the divided image 33 .
Here, the blade 73, which was normal on April 1, 2018, suffered minor damage 241a on October 1, 2018, and progressed to severe damage 241b on April 1, 2019. is doing.

そのため、データベース更新部22は、診断結果として異常とした画像情報について同じ撮影位置のものを時系列で記憶部30に記憶し、その時系列で記憶した同じ撮影位置の分割画像33を比較することで損傷状態の進行度合いを算出することができる。例えば、1年前の損傷状態が30%、現在の損傷状態が50%の場合、1年度の損傷状態は70%と予測することができる。損傷状態の進行度合いの評価手法としてここでは線形近似の例を示したが、その他の関数近似、機械学習やAIなどの手法を用いても良い。 Therefore, the database update unit 22 stores the image information of the same imaging position in the storage unit 30 in chronological order for the image information determined as abnormal as the diagnosis result, and compares the divided images 33 of the same imaging position stored in the time series. The degree of progress of the damage state can be calculated. For example, if the damage state one year ago was 30% and the current damage state is 50%, the damage state in one year can be predicted to be 70%. Although an example of linear approximation is shown here as a method for evaluating the degree of progress of the damage state, other methods such as function approximation, machine learning, and AI may be used.

表示制御部24は、画面240内の第2表示242として、異なるブレード73の対応する撮影位置(例えばr=5)を同じ時刻に撮影した画像情報を横に並べて表示する。
ここでは、Aサイト1号機の損傷242aと、XサイトN号機の損傷242bとで、同様の損傷が発見されている。このように、第1表示241または第2表示242により、ブレード全体のうちの損傷箇所を容易に把握できる。
The display control unit 24 displays, as a second display 242 in the screen 240, image information obtained by photographing corresponding photographing positions (for example, r=5) of different blades 73 at the same time side by side.
Here, similar damage is found in the damage 242a of the A site Unit 1 and the damage 242b of the X site N unit. Thus, the first display 241 or the second display 242 makes it possible to easily grasp the damaged portion of the entire blade.

10 入力部
11 ルール入力部
12 分割画像入力部
20 制御部
21 抽出部
22 データベース更新部
23 ルール設定部
24 表示制御部
25 損傷判定部
30 記憶部
31 識別情報
32 管理情報
32a 構造情報
32b 撮影情報
32c 点検情報
32d 順序情報
33 分割画像
40 表示部
70 風車(風力発電設備)
71 タワー
72 ナセル
73 ブレード
100 構造物表示装置
REFERENCE SIGNS LIST 10 input unit 11 rule input unit 12 divided image input unit 20 control unit 21 extraction unit 22 database update unit 23 rule setting unit 24 display control unit 25 damage determination unit 30 storage unit 31 identification information 32 management information 32a structure information 32b imaging information 32c Inspection information 32d Order information 33 Split image 40 Display unit 70 Windmill (wind power generation equipment)
71 tower 72 nacelle 73 blade 100 structure display device

上記の課題を解決するため、本発明の構造物表示装置は以下の特徴を有する。
本発明は、構造物を複数の撮影範囲で分割して撮影した分割画像を表示する構造物表示装置であって、
それぞれの前記分割画像に識別情報を付与するとともに、前記識別情報に1つ以上の管理情報を対応付けて管理する記憶部と、
前記識別情報または前記識別情報と前記管理情報とを組み合わせた抽出条件の入力を受け、前記抽出条件に合致する前記分割画像を前記記憶部から抽出する抽出処理を実行し、その抽出処理の結果を表示部に表示する制御部とを有しており、
前記抽出処理は、
前記抽出条件に前記管理情報が含まれない場合には、前記抽出条件の前記識別情報に対応する前記分割画像を抽出し、
前記抽出条件に前記管理情報が含まれる場合には、前記抽出条件の前記識別情報および前記抽出条件の前記管理情報の双方に合致する前記分割画像を抽出することを特徴とする。
その他の手段は、後記する。
In order to solve the above problems, the structure display device of the present invention has the following features.
The present invention is a structure display device for displaying divided images obtained by dividing a structure into a plurality of photographing ranges,
a storage unit that assigns identification information to each of the divided images and manages the identification information in association with one or more pieces of management information;
receiving an input of the identification information or an extraction condition combining the identification information and the management information, executing extraction processing for extracting the divided image that matches the extraction condition from the storage unit, and displaying the result of the extraction processing; and a control unit for displaying on the display unit ,
The extraction process includes
extracting the divided image corresponding to the identification information of the extraction condition when the management information is not included in the extraction condition;
When the management information is included in the extraction conditions, the divided images that match both the identification information of the extraction conditions and the management information of the extraction conditions are extracted.
Other means will be described later.

Claims (15)

構造物を複数の撮影範囲で分割して撮影した分割画像を表示する構造物表示装置であって、
それぞれの前記分割画像に識別情報を付与するとともに、前記識別情報に1つ以上の管理情報を対応付けて管理する記憶部と、
前記識別情報または前記識別情報と前記管理情報とを組み合わせた抽出条件の入力を受け、前記抽出条件に合致する前記分割画像を前記記憶部から抽出して表示部に表示する制御部とを有することを特徴とする
構造物表示装置。
A structure display device for displaying divided images obtained by dividing a structure into a plurality of imaging ranges,
a storage unit that assigns identification information to each of the divided images and manages the identification information in association with one or more pieces of management information;
a control unit that receives an input of the identification information or an extraction condition combining the identification information and the management information, extracts the divided image that matches the extraction condition from the storage unit, and displays the split image on a display unit; A structure display device characterized by:
前記制御部は、
前記抽出条件に前記管理情報が含まれない場合には、前記抽出条件の前記識別情報に対応する前記分割画像を抽出し、
前記抽出条件に前記管理情報が含まれる場合には、前記抽出条件の前記識別情報および前記抽出条件の前記管理情報の双方に合致する前記分割画像を抽出することを特徴とする
請求項1に記載の構造物表示装置。
The control unit
extracting the divided image corresponding to the identification information of the extraction condition when the management information is not included in the extraction condition;
2. The method according to claim 1, wherein when the management information is included in the extraction condition, the divided images that match both the identification information of the extraction condition and the management information of the extraction condition are extracted. structure display device.
前記管理情報には、前記分割画像の撮影順序および撮影位置を示す順序情報が含まれることを特徴とする
請求項2に記載の構造物表示装置。
3. The structure display device according to claim 2, wherein the management information includes order information indicating an imaging order and an imaging position of the divided images.
前記管理情報は、前記構造物およびその構造物を撮像するときの撮影面を特定するための構造情報が含まれることを特徴とする
請求項3に記載の構造物表示装置。
4. The structure display device according to claim 3, wherein the management information includes structural information for specifying the structure and a photographing plane for photographing the structure.
前記制御部は、
前記抽出条件で指定された前記構造情報に合致する前記分割画像の集合を抽出し、
抽出した前記分割画像を表示画面に配置するための画面表示ルールを受け、抽出した前記分割画像を前記順序情報に従い前記画面表示ルールに沿って並べた表示画面とすることを特徴とする
請求項4に記載の構造物表示装置。
The control unit
extracting a set of divided images that match the structural information specified by the extraction condition;
4. A screen display rule for arranging the extracted divided images on a display screen is received, and the extracted divided images are arranged on the display screen according to the screen display rule according to the order information. The structure display device according to .
前記構造物は風力発電設備のブレードであって、前記分割画像は前記ブレードを複数の撮影面から撮影した画像であり、
前記制御部は、
前記抽出条件で指定された前記構造情報として、特定の前記風力発電設備が有する特定の前記ブレードに合致する前記分割画像の集合を抽出し、
抽出した前記分割画像を前記順序情報の撮影位置ごと、および、撮影面ごとに表示画面に配置するための前記画面表示ルールを受け、抽出した前記分割画像を前記画面表示ルールに沿って並べた表示画面とすることを特徴とする
請求項5に記載の構造物表示装置。
The structure is a blade of a wind power generation facility, and the divided images are images of the blade taken from a plurality of imaging planes,
The control unit
extracting a set of the divided images that match the specific blades of the specific wind power generation equipment as the structural information specified by the extraction condition;
Display of arranging the extracted divided images according to the screen display rule for arranging the extracted divided images on the display screen for each shooting position and for each shooting surface of the order information according to the screen display rule. The structure display device according to claim 5, wherein the structure display device is a screen.
前記構造物は風力発電設備のブレードであって、前記分割画像は前記ブレードを複数の撮影面から撮影した画像であり、
前記制御部は、
前記抽出条件で指定された前記構造情報として、前記各風力発電設備が有する特定の前記ブレードに合致する前記分割画像の集合を抽出し、
抽出した前記分割画像を前記風力発電設備ごと、および、撮影面ごとに表示画面に配置するための前記画面表示ルールを受け、抽出した前記分割画像を前記画面表示ルールに沿って並べた表示画面とすることを特徴とする
請求項5に記載の構造物表示装置。
The structure is a blade of a wind power generation facility, and the divided images are images of the blade taken from a plurality of imaging planes,
The control unit
extracting, as the structural information specified by the extraction condition, a set of divided images that match the specific blades of each of the wind power generation facilities;
a display screen in which the extracted split images are arranged in accordance with the screen display rule for arranging the extracted split images on the display screen for each wind power generation facility and for each shooting surface; The structure display device according to claim 5, characterized in that:
前記構造物は風力発電設備のブレードであって、
前記制御部は、
前記抽出条件で指定された前記構造情報として、特定の前記風力発電設備が有する特定の前記ブレードに合致する前記分割画像の集合を抽出し、
抽出した前記分割画像を前記順序情報の撮影位置ごと、および、撮影日時ごとに表示画面に配置するための前記画面表示ルールを受け、抽出した前記分割画像を前記画面表示ルールに沿って並べた表示画面とすることを特徴とする
請求項5に記載の構造物表示装置。
The structure is a blade of a wind power plant,
The control unit
extracting a set of the divided images that match the specific blades of the specific wind power generation equipment as the structural information specified by the extraction condition;
Display of arranging the extracted divided images in accordance with the screen display rule for arranging the extracted divided images on the display screen for each photographing position of the order information and for each photographing date and time. The structure display device according to claim 5, wherein the structure display device is a screen.
前記構造物は風力発電設備のブレードであって、前記記憶部には前記ブレードの正常状態を示す基準画像が記憶されており、
前記制御部は、
抽出した前記分割画像と前記基準画像とを前記順序情報の同じ撮影位置ごとに並べて表示画面に配置するための前記画面表示ルールを受け、抽出した前記分割画像を前記画面表示ルールに沿って並べた表示画面とすることを特徴とする
請求項5に記載の構造物表示装置。
The structure is a blade of a wind power generation facility, and the storage unit stores a reference image showing a normal state of the blade,
The control unit
receiving the screen display rule for arranging the extracted divided image and the reference image on a display screen by arranging the extracted divided images and the reference image for each photographing position having the same sequence information, and arranging the extracted divided images according to the screen display rule; The structure display device according to claim 5, wherein the structure display device is a display screen.
前記構造物は風力発電設備のブレードであって、
前記制御部は、
過去の画像情報と損傷度合いとを用いた機械学習に基づき、前記分割画像の損傷度合いを評価して前記記憶部に記憶し、前記順序情報の同じ撮影位置ごとに並べて表示画面に配置するための前記画面表示ルールを受け、抽出した前記分割画像および前記損傷度合いを前記画面表示ルールに沿って並べた表示画面とすることを特徴とする
請求項5に記載の構造物表示装置。
The structure is a blade of a wind power plant,
The control unit
Based on machine learning using past image information and the degree of damage, the degree of damage of the divided images is evaluated, stored in the storage unit, and arranged on the display screen for each shooting position with the same order information. 6. The structure display device according to claim 5, wherein the display screen is arranged in accordance with the screen display rule and the divided images and the degree of damage extracted in accordance with the screen display rule.
前記構造物は風力発電設備のブレードであって、
前記制御部は、
診断結果として異常とした前記分割画像について同じ撮影位置のものを時系列で前記記憶部に記憶し、前記時系列で記憶した同じ撮影位置の前記分割画像を比較することで損傷状態の進行度合いを算出することを特徴とする
請求項5に記載の構造物表示装置。
The structure is a blade of a wind power plant,
The control unit
For the divided images determined to be abnormal as a result of diagnosis, the divided images at the same photographing position are stored in the storage unit in time series, and the divided images at the same photographing position stored in time series are compared to determine the degree of progress of the damage state. The structure display device according to claim 5, wherein the calculation is performed.
前記制御部は、前記表示画面において損傷部を強調表示することを特徴とする
請求項6ないし請求項11のいずれか1項に記載の構造物表示装置。
The structure display device according to any one of claims 6 to 11, wherein the control section highlights the damaged portion on the display screen.
前記制御部は、前記構造物表示装置が備える入力部、または、前記構造物表示装置とネットワークを介して接続される外部装置から前記抽出条件を取得することを特徴とする
請求項1に記載の構造物表示装置。
2. The method according to claim 1, wherein the control unit acquires the extraction condition from an input unit included in the structure display device or an external device connected to the structure display device via a network. Structure display device.
前記制御部は、前記分割画像およびその撮影日時の入力を受けるとともに、その前記分割画像の前記識別情報および前記管理情報の入力を受け、それらの入力された情報を対応付けて前記記憶部に格納することを特徴とする
請求項1に記載の構造物表示装置。
The control unit receives input of the divided image and its shooting date and time, receives input of the identification information of the divided image and the management information, and stores the input information in association with each other in the storage unit. The structure display device according to claim 1, characterized in that:
構造物を複数の撮影範囲で分割して撮影した分割画像を表示する構造物表示装置は、記憶部と、制御部とを有しており、
前記記憶部には、それぞれの前記分割画像に識別情報を付与するとともに、前記識別情報に1つ以上の管理情報を対応付けて管理されており、
前記制御部は、前記識別情報または前記識別情報と前記管理情報とを組み合わせた抽出条件の入力を受け、前記抽出条件に合致する前記分割画像を前記記憶部から抽出して表示部に表示することを特徴とする
構造物表示方法。
A structure display device for displaying divided images obtained by dividing a structure into a plurality of imaging ranges includes a storage unit and a control unit,
The storage unit assigns identification information to each of the divided images, and manages the identification information in association with one or more pieces of management information,
The control unit receives an input of the identification information or an extraction condition combining the identification information and the management information, extracts the divided image that matches the extraction condition from the storage unit, and displays the divided image on the display unit. A structure display method characterized by:
JP2021083459A 2021-05-17 2021-05-17 Structure display device and structure display method Active JP7022858B1 (en)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2021083459A JP7022858B1 (en) 2021-05-17 2021-05-17 Structure display device and structure display method
TW111117460A TW202301210A (en) 2021-05-17 2022-05-10 Construction display device and construction display method
PCT/JP2022/020457 WO2022244753A1 (en) 2021-05-17 2022-05-17 Construction display device and construction display method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021083459A JP7022858B1 (en) 2021-05-17 2021-05-17 Structure display device and structure display method

Publications (2)

Publication Number Publication Date
JP7022858B1 JP7022858B1 (en) 2022-02-18
JP2022176822A true JP2022176822A (en) 2022-11-30

Family

ID=81073870

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021083459A Active JP7022858B1 (en) 2021-05-17 2021-05-17 Structure display device and structure display method

Country Status (3)

Country Link
JP (1) JP7022858B1 (en)
TW (1) TW202301210A (en)
WO (1) WO2022244753A1 (en)

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160017866A1 (en) * 2014-07-18 2016-01-21 General Electric Company Wind tower and wind farm inspections via unmanned aircraft systems
JP2017090145A (en) * 2015-11-06 2017-05-25 株式会社日立製作所 Windmill blade deformation measurement device, and windmill blade deformation evaluation system
WO2017130700A1 (en) * 2016-01-26 2017-08-03 富士フイルム株式会社 Photography assistance device and photography assistance method
JP2018021491A (en) * 2016-08-02 2018-02-08 株式会社日立製作所 System and flight route generating method
US20180149138A1 (en) * 2016-11-30 2018-05-31 Dji Technology, Inc. Aerial inspection in a movable object environment
WO2019021729A1 (en) * 2017-07-25 2019-01-31 富士フイルム株式会社 Damage diagram generation method, damage diagram generation device, damage diagram generation system, and recording medium
JP2020512629A (en) * 2017-03-13 2020-04-23 ゼネラル・エレクトリック・カンパニイ System and method for integrating flight path and field motion data
JP2020091240A (en) * 2018-12-07 2020-06-11 コスモエンジニアリング株式会社 Intra-blade down conductor conduction inspection method for wind power generation device
JP2020118141A (en) * 2019-01-28 2020-08-06 株式会社日立製作所 Blade inspection system of wind power generator, wind power generation system, remote integrated monitor system of wind farm
JP2020180563A (en) * 2019-04-24 2020-11-05 株式会社日立製作所 Wind power generation system and method for maintaining wind power generation device

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018102367A1 (en) * 2016-11-29 2018-06-07 Sharkninja Operating Llc Direction controlled gearbox for appliance

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160017866A1 (en) * 2014-07-18 2016-01-21 General Electric Company Wind tower and wind farm inspections via unmanned aircraft systems
JP2017090145A (en) * 2015-11-06 2017-05-25 株式会社日立製作所 Windmill blade deformation measurement device, and windmill blade deformation evaluation system
WO2017130700A1 (en) * 2016-01-26 2017-08-03 富士フイルム株式会社 Photography assistance device and photography assistance method
JP2018021491A (en) * 2016-08-02 2018-02-08 株式会社日立製作所 System and flight route generating method
US20180149138A1 (en) * 2016-11-30 2018-05-31 Dji Technology, Inc. Aerial inspection in a movable object environment
JP2020512629A (en) * 2017-03-13 2020-04-23 ゼネラル・エレクトリック・カンパニイ System and method for integrating flight path and field motion data
WO2019021729A1 (en) * 2017-07-25 2019-01-31 富士フイルム株式会社 Damage diagram generation method, damage diagram generation device, damage diagram generation system, and recording medium
JP2020091240A (en) * 2018-12-07 2020-06-11 コスモエンジニアリング株式会社 Intra-blade down conductor conduction inspection method for wind power generation device
JP2020118141A (en) * 2019-01-28 2020-08-06 株式会社日立製作所 Blade inspection system of wind power generator, wind power generation system, remote integrated monitor system of wind farm
JP2020180563A (en) * 2019-04-24 2020-11-05 株式会社日立製作所 Wind power generation system and method for maintaining wind power generation device

Also Published As

Publication number Publication date
WO2022244753A1 (en) 2022-11-24
TW202301210A (en) 2023-01-01
JP7022858B1 (en) 2022-02-18

Similar Documents

Publication Publication Date Title
JP2018181235A (en) Report generator, wind power generation equipment inspection system, program, and method for generating inspection report of wind power generation equipment
EP1655695B1 (en) Remote maintenance system, monitoring center computer used for the same, monitoring system and method of communication for maintenance
CN102439394A (en) Method and system for the remote inspection of a structure
WO2018207173A1 (en) System and method for construction 3d modeling and analysis
CN108508851B (en) Method and apparatus for establishing path to perform automatic verification of assembly condition of structure
JP2020520012A (en) Intelligent, automated review of industrial asset integrity data
CN113610749B (en) Fan blade defect detection method based on neural network
CN112432641B (en) Transformer substation operation ticket execution method based on point cloud digital twinning technology
CN111651621B (en) Bullet information management system and terminal
CN113296537B (en) Electric power unmanned aerial vehicle inspection method and system based on electric power pole tower model matching
CN108087208A (en) Wind generator set blade follower method and device based on unmanned plane
WO2022244753A1 (en) Construction display device and construction display method
US10488349B2 (en) Automated borescope insertion system
KR101476909B1 (en) Real-time Process Monitoring System using Block Image
JP2010009479A (en) Remote visual inspection support system, and remote visual inspection support computer program
WO2022244752A1 (en) Monitoring system and monitoring method
CN114047779A (en) Defect tracking method and system based on unmanned aerial vehicle inspection
Yin Design of Flight Training Evaluation System Based on Flight Parameters Data
JP2022111752A (en) Information processing device, information processing program
CN113190019A (en) Virtual simulation-based inspection robot task point arrangement method and system
JP7473143B1 (en) Wind power generation equipment maintenance support system and maintenance support method
CN116644967B (en) Aircraft maintenance process risk management and control method and device based on photo watermarking technology
US11933690B2 (en) Inspecting an interior of a gas turbine engine apparatus
US20240177877A1 (en) Process For Aiding The Detection Of Migrating Bodies Within A Fuel Assembly
US20230221709A1 (en) System and method for manufacturing and maintenance

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210517

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20210517

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210817

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211013

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220111

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220207

R150 Certificate of patent or registration of utility model

Ref document number: 7022858

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150