JP6454579B2 - Aerial image processing system and aerial image processing method - Google Patents

Aerial image processing system and aerial image processing method Download PDF

Info

Publication number
JP6454579B2
JP6454579B2 JP2015065720A JP2015065720A JP6454579B2 JP 6454579 B2 JP6454579 B2 JP 6454579B2 JP 2015065720 A JP2015065720 A JP 2015065720A JP 2015065720 A JP2015065720 A JP 2015065720A JP 6454579 B2 JP6454579 B2 JP 6454579B2
Authority
JP
Japan
Prior art keywords
image data
aerial image
solar panel
image processing
aerial
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015065720A
Other languages
Japanese (ja)
Other versions
JP2016186682A (en
Inventor
勲 若林
勲 若林
亜沙美 岡田
亜沙美 岡田
美智子 小川
美智子 小川
拓雄 森口
拓雄 森口
慧 江原
慧 江原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SOHGO SECURITY SERVICES CO.,LTD.
Original Assignee
SOHGO SECURITY SERVICES CO.,LTD.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SOHGO SECURITY SERVICES CO.,LTD. filed Critical SOHGO SECURITY SERVICES CO.,LTD.
Priority to JP2015065720A priority Critical patent/JP6454579B2/en
Publication of JP2016186682A publication Critical patent/JP2016186682A/en
Application granted granted Critical
Publication of JP6454579B2 publication Critical patent/JP6454579B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02EREDUCTION OF GREENHOUSE GAS [GHG] EMISSIONS, RELATED TO ENERGY GENERATION, TRANSMISSION OR DISTRIBUTION
    • Y02E10/00Energy generation through renewable energy sources
    • Y02E10/50Photovoltaic [PV] energy

Landscapes

  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Photovoltaic Devices (AREA)

Description

この発明は、太陽光で発電を行うための各パネル(以下、「ソーラーパネル」と言う)により形成されるソーラーパネル出力1メガワット以上の大規模な太陽光発電システム(以下、「メガソーラー」と言う)を空撮した空撮画像データを画像処理する空撮画像処理システム及び空撮画像処理方法に関する。   The present invention relates to a large-scale photovoltaic power generation system (hereinafter referred to as “mega solar”) having a solar panel output of 1 megawatt or more formed by each panel for generating power with sunlight (hereinafter referred to as “solar panel”). The present invention relates to an aerial image processing system and an aerial image processing method for performing image processing on aerial image data obtained by aerial imaging.

近年、エネルギーを取り巻く情勢の変化に伴って再生可能エネルギーへの関心が高まりつつあり、また、再生可能エネルギーの固定価格買取制度での採算性の確保が見込めることから、メガソーラーの建設が加速している。   In recent years, the interest in renewable energy has been increasing along with the changes in the situation surrounding energy, and the construction of mega solar has accelerated because it is expected to secure profitability under the feed-in tariff system for renewable energy. ing.

ここで、雷などの自然災害が発生すると、メガソーラーを形成する各ソーラーパネルの劣化が一気に進み、早期点検が必要になる。従来は、各ソーラーパネルを人手で一枚一枚点検していたが、メガソーラーには膨大な数のソーラーパネルが設置されているため、全てのソーラーパネルを人手で点検したのでは、人的負荷が過大となる。   Here, when a natural disaster such as lightning occurs, the deterioration of each solar panel forming the mega solar progresses at a stretch, and early inspection is necessary. In the past, each solar panel was manually inspected one by one, but since a huge number of solar panels are installed in mega solar, all solar panels were manually inspected. The load is excessive.

このため、メガソーラーを形成する各ソーラーパネルの異常な発電状態を自動的に検出する技術が知られている。例えば、特許文献1には、ソーラーパネルを形成する複数の太陽電池モジュール(セル)を直列に接続した太陽電池ストリングを複数持ち、太陽電池ストリングの各々の電力出力端に逆流防止用ダイオードを接続した太陽電池発電システムの異常検出装置において、逆流防止用ダイオードに流れる電流を測定するための測定手段を含み、測定手段が逆流防止用ダイオードの両端より電力を供給されるよう構成する技術が開示されている。   For this reason, a technique for automatically detecting an abnormal power generation state of each solar panel forming the mega solar is known. For example, Patent Document 1 has a plurality of solar cell strings in which a plurality of solar cell modules (cells) forming a solar panel are connected in series, and a backflow prevention diode is connected to each power output terminal of the solar cell string. In a solar cell power generation system abnormality detection device, a technique is disclosed that includes a measurement means for measuring a current flowing in a backflow prevention diode, and that the measurement means is configured to be supplied with power from both ends of the backflow prevention diode. Yes.

特開2010−263027号公報JP 2010-263027 A

しかしながら、かかる特許文献1のものは、電気回路を用いて各ソーラーパネルの異常な発電状態を検出するものであるため、この検出結果だけでは有効な保守点検を行うことができない。例えば、あるソーラーパネルの上に一時的に異物(例えば、草の葉)が載り、これに起因して電流量が低下した場合であっても、該ソーラーパネルの異常な発電状態が検出されてしまい、このソーラーパネルを保守の対象とすべきか否かを特定できない。   However, since the thing of this patent document 1 detects the abnormal electric power generation state of each solar panel using an electric circuit, effective maintenance inspection cannot be performed only by this detection result. For example, even if a foreign object (eg, a grass leaf) is temporarily placed on a solar panel and the amount of current is reduced due to this, an abnormal power generation state of the solar panel is detected. Therefore, it is not possible to specify whether or not this solar panel should be subject to maintenance.

このため、ドローンと呼ばれる小型無人飛行機(以下、単に「飛行体」と言う)によりメガソーラーの画像データを空撮し、空撮した画像データを用いて保守の対象となるソーラーパネルを特定する方策が考えられる。具体的には、メガソーラーを形成する各ソーラーパネル上の異常の有無を検知できる程度の高度で飛行体を飛行させ、この飛行体により撮像された空撮画像データを用いて異常の有無を検出することになる。   For this reason, a method to take aerial image of mega solar image data with a small unmanned aerial vehicle called drone (hereinafter simply referred to as “aircraft”) and identify the solar panel to be maintained using the aerial image data. Can be considered. Specifically, the flying object is made to fly at an altitude that can detect the presence or absence of abnormalities on each solar panel that forms the mega solar, and the presence or absence of abnormalities is detected using aerial image data captured by this flying object. Will do.

ところが、各ソーラーパネル上の異常を検知できる程度の高度で飛行体を飛行させた場合には、各ソーラーパネル上の異常の有無を検知することができたとしても、異常を検知したソーラーパネルが所在する位置を特定できないという問題がある。メガソーラーは、その外観が同一の膨大な数のソーラーパネルから形成されているからである。一方、ソーラーパネルの位置を特定できる程度の高い高度で飛行体を飛行させたのでは、各ソーラーパネル上の異常の有無を検知することが難しくなる。このように、空撮によって各ソーラーパネル上の異常の有無を検知する点と、ソーラーパネルが所在する位置を特定する点は、ある意味でトレードオフの関係にあり、それゆえに空撮によるメガソーラーの点検が普及していないのが実情である。   However, when flying an aircraft at an altitude that can detect anomalies on each solar panel, even if the presence of anomalies on each solar panel can be detected, There is a problem that the location can not be specified. This is because the mega solar is formed from a large number of solar panels having the same appearance. On the other hand, if the flying object is caused to fly at a high altitude that can identify the position of the solar panel, it becomes difficult to detect the presence or absence of an abnormality on each solar panel. In this way, there is a trade-off relationship between the point of detecting the presence or absence of abnormality on each solar panel by aerial photography and the point of specifying the location where the solar panel is located. The actual situation is that inspections are not widespread.

これらのことから、飛行体による空撮によってメガソーラーを形成する各ソーラーパネル上の異常の有無を検知する場合に、いかにして各ソーラーパネルが所在する位置を特定するかが重要な課題となっている。   Therefore, when detecting the presence or absence of abnormalities on each solar panel that forms a mega solar by aerial photography with a flying object, how to identify the location of each solar panel is an important issue. ing.

本発明は、上記の従来技術の課題を解消するためになされたものであって、飛行体による空撮によってメガソーラーを形成する各ソーラーパネル上の異常の有無を検知する場合に、各ソーラーパネルが所在する位置を効率良く特定することができる空撮画像処理システム及び空撮画像処理方法を提供することを目的とする。   The present invention has been made to solve the above-described problems of the prior art, and each solar panel is used to detect the presence or absence of abnormality on each solar panel forming a mega solar by aerial photography using a flying object. It is an object of the present invention to provide an aerial image processing system and an aerial image processing method capable of efficiently specifying the position where the camera is located.

上述した課題を解決し、目的を達成するため、請求項1に記載の発明は、メガソーラーの上空を飛行しつつ、該メガソーラーの一部を形成する複数のソーラーパネルを含む映像データを空撮する撮像装置を搭載した飛行体と、前記飛行体の撮像装置により空撮された映像データに含まれる空撮画像データを画像処理する空撮画像処理装置とを含む空撮画像処理システムであって、前記空撮画像処理装置は、隣り合う空撮画像データ間に共通のソーラーパネルが含まれるよう前記映像データから複数の空撮画像データを切り出す切出手段と、前記切出手段により切り出された隣り合う空撮画像データに共通して存在する特徴点を抽出する特徴点抽出手段と、前記特徴点抽出手段により抽出された特徴点に基づいて、前記切出手段により切り出された隣り合う空撮画像データにそれぞれ所在する共通のソーラーパネルを特定する特定手段と、前記特定手段により特定された共通のソーラーパネルに基づいて、前記切出手段により切り出された複数の空撮画像データに含まれる各ソーラーパネルのそれぞれに該ソーラーパネルを一意に識別する識別情報を付与する識別情報付与手段とを備えたことを特徴とする。   In order to solve the above-described problems and achieve the object, the invention described in claim 1 is a method of flying video data including a plurality of solar panels forming part of the mega solar while flying over the mega solar. An aerial image processing system comprising: an air vehicle equipped with an imaging device for taking an image; and an aerial image processing device for performing image processing on aerial image data included in video data taken by the aerial vehicle. The aerial image processing apparatus is cut out by the cutting unit and a cutting unit that cuts out a plurality of aerial image data from the video data so that a common solar panel is included between adjacent aerial image data. A feature point extraction unit that extracts feature points that are present in common in the adjacent aerial image data, and the cutout unit extracts the feature points based on the feature points extracted by the feature point extraction unit. Identification means for specifying a common solar panel located in each adjacent aerial image data, and a plurality of aerial images cut out by the cutting means based on the common solar panel specified by the specifying means It is characterized by comprising identification information giving means for giving identification information for uniquely identifying each solar panel included in the data.

また、請求項2に記載の発明は、請求項1に記載の発明において、前記撮像装置は、赤外光の映像データと可視光の映像データとをそれぞれ撮像し、前記切出手段は、前記赤外光の映像データから複数の赤外光の空撮画像データを切り出すとともに、前記可視光の映像データから複数の可視光の空撮画像データを切り出し、前記特徴点抽出手段は、前記赤外光の空撮画像データと前記可視光の空撮画像データのうち少なくとも一方から特徴点を抽出し、前記特定手段は、前記赤外光の空撮画像データ間又は前記可視光の空撮画像データ間で共通のソーラーパネルを特定し、前記識別情報付与手段は、前記特定手段により特定された共通のソーラーパネルに基づいて、前記複数の赤外光の空撮画像データに含まれる各ソーラーパネルのそれぞれに該ソーラーパネルを一意に識別する識別情報を付与するとともに、前記複数の可視光の空撮画像データに含まれる各ソーラーパネルのそれぞれに該ソーラーパネルを一意に識別する識別情報を付与することを特徴とする。   According to a second aspect of the present invention, in the first aspect of the present invention, the imaging device images infrared light image data and visible light image data, respectively, and the cutting means A plurality of infrared aerial image data is cut out from the infrared light video data, and a plurality of visible aerial image data is cut out from the visible light video data. A feature point is extracted from at least one of the aerial image data of light and the aerial image data of visible light, and the specifying unit includes the aerial image data of visible light or between the aerial image data of infrared light. A common solar panel is identified among the solar panels included in the aerial image data of the plurality of infrared light based on the common solar panel identified by the identification unit. Each The identification information for uniquely identifying the solar panel is given, and the identification information for uniquely identifying the solar panel is given to each of the solar panels included in the plurality of aerial image data of visible light And

また、請求項3に記載の発明は、請求項2に記載の発明において、前記特徴点抽出手段は、前記赤外光の空撮画像データにおける輝度の分布から前記特徴点を抽出することを特徴とする。   The invention according to claim 3 is the invention according to claim 2, wherein the feature point extracting means extracts the feature points from a luminance distribution in the aerial image data of the infrared light. And

また、請求項4に記載の発明は、請求項1、2又は3に記載の発明において、前記ソーラーパネルの近傍に設置された標識部材をさらに備え、前記特徴点抽出手段は、前記空撮画像データに含まれる標識部材の像を用いて前記特徴点を抽出することを特徴とする。   The invention according to claim 4 is the invention according to claim 1, 2 or 3, further comprising a marker member installed in the vicinity of the solar panel, wherein the feature point extracting means is the aerial image. The feature point is extracted using an image of a marker member included in the data.

また、請求項5に記載の発明は、請求項1〜4のいずれか一つに記載の発明において、前記切出手段は、前記飛行体の飛行速度、前記飛行体の飛行高度及び前記撮像装置の画角に基づいて、前記映像データから前記空撮画像データを切り出す間隔を算定することを特徴とする。   According to a fifth aspect of the present invention, in the invention according to any one of the first to fourth aspects, the cutting means includes a flying speed of the flying object, a flying altitude of the flying object, and the imaging device. The interval at which the aerial image data is cut out from the video data is calculated based on the angle of view.

また、請求項6に記載の発明は、請求項1〜5のいずれか一つに記載の発明において、前記特定手段は、1の空撮画像データに含まれる複数のソーラーパネルの位置関係を判別し、前記識別情報付与手段は、前記共通のソーラーパネルと、前記空撮画像データに含まれる複数のソーラーパネルの位置関係とに基づいて前記複数の空撮画像データに含まれる各ソーラーパネルの位置関係を判別し、各ソーラーパネルに前記識別情報を付与することを特徴とする。   The invention according to claim 6 is the invention according to any one of claims 1 to 5, wherein the specifying means determines a positional relationship among a plurality of solar panels included in one aerial image data. The identification information providing means includes a position of each solar panel included in the plurality of aerial image data based on the common solar panel and a positional relationship between the plurality of solar panels included in the aerial image data. The relationship is determined and the identification information is given to each solar panel.

また、請求項7に記載の発明は、メガソーラーの上空を飛行しつつ、該メガソーラーの一部を形成する複数のソーラーパネルを含む映像データを空撮する撮像装置を搭載した飛行体と、前記飛行体の撮像装置により空撮された映像データに含まれる空撮画像データを画像処理する空撮画像処理装置とを含む空撮画像処理システムによる空撮画像処理方法であって、隣り合う空撮画像データ間に共通のソーラーパネルが含まれるよう前記映像データから複数の空撮画像データを切り出す切出ステップと、前記切出ステップにより切り出された隣り合う空撮画像データに共通して存在する特徴点を抽出する特徴点抽出ステップと、前記特徴点抽出ステップにより抽出された特徴点に基づいて、前記切出ステップにより切り出された隣り合う空撮画像データにそれぞれ所在する共通のソーラーパネルを特定する特定ステップと、前記特定ステップにより特定された共通のソーラーパネルに基づいて、前記切出ステップにより切り出された複数の空撮画像データに含まれる各ソーラーパネルのそれぞれに該ソーラーパネルを一意に識別する識別情報を付与する識別情報付与ステップとを含むことを特徴とする。   The invention according to claim 7 is a vehicle equipped with an imaging device for aerial imaging of video data including a plurality of solar panels forming part of the mega solar while flying over the mega solar, An aerial image processing method by an aerial image processing system including an aerial image processing apparatus that performs image processing on aerial image data included in video data captured aerial by the imaging device of the flying object, A cut-out step of cutting out a plurality of aerial image data from the video data so that a common solar panel is included between the captured image data, and adjacent aerial image data cut out by the cut-out step. A feature point extracting step for extracting feature points, and adjacent aerial images cut out by the cutout step based on the feature points extracted by the feature point extraction step A specific step of identifying a common solar panel located in each of the data, and each solar included in the plurality of aerial image data cut out by the cutting step based on the common solar panel specified by the specifying step An identification information providing step for providing identification information for uniquely identifying each solar panel to each of the panels.

本発明によれば、飛行体がメガソーラーの上空を飛行しつつ該メガソーラーの一部を形成する複数のソーラーパネルを空撮した映像データを用い、隣り合う空撮画像データ間に共通のソーラーパネルが含まれるよう映像データから複数の空撮画像データを切り出し、隣り合う空撮画像データに共通して存在する特徴点を抽出し、隣り合う空撮画像データにそれぞれ所在する共通のソーラーパネルを特徴点に基づいて特定し、共通のソーラーパネルに基づいて複数の空撮画像データに含まれる各ソーラーパネルのそれぞれに該ソーラーパネルを一意に識別する識別情報を付与するので、飛行体による空撮によってメガソーラーを形成する各ソーラーパネル上の異常の有無を検知する場合に、各ソーラーパネルが所在する位置を効率良く特定することができる。   According to the present invention, an image of a plurality of solar panels forming part of the mega solar while the flying object flies over the mega solar is used, and a solar common to adjacent aerial image data is used. Cut out multiple aerial image data from video data to include panels, extract feature points that are common to adjacent aerial image data, and install a common solar panel located in each adjacent aerial image data Since identification information that uniquely identifies the solar panel is assigned to each of the solar panels included in the plurality of aerial image data based on the common solar panel based on the characteristic points, When detecting the presence or absence of abnormality on each solar panel that forms a mega solar by using, to efficiently identify the location where each solar panel is located Door can be.

図1は、実施例に係る空撮画像処理についての説明図である。FIG. 1 is an explanatory diagram of aerial image processing according to the embodiment. 図2は、空撮画像処理システムのシステム構成を示す構成図である。FIG. 2 is a configuration diagram showing a system configuration of the aerial image processing system. 図3は、空撮画像処理装置の記憶部が記憶するデータの説明図である。FIG. 3 is an explanatory diagram of data stored in the storage unit of the aerial image processing apparatus. 図4は、切出部による画像データの切出し間隔についての説明図である。FIG. 4 is an explanatory diagram of the image data extraction interval by the extraction unit. 図5は、切出部による画像データの切出処理を示すフローチャートである。FIG. 5 is a flowchart showing image data extraction processing by the extraction unit. 図6は、画像データのつなぎ合わせにかかる処理手順を示すフローチャートである。FIG. 6 is a flowchart showing a processing procedure for joining image data. 図7は、赤外光と可視光の画像データにおける特徴の相互利用についての説明図である。FIG. 7 is an explanatory diagram of mutual use of features in infrared light and visible light image data. 図8は、識別情報の付与の具体例についての説明図である。FIG. 8 is an explanatory diagram of a specific example of giving identification information. 図9は、標識部材の設置についての説明図である。FIG. 9 is an explanatory diagram regarding the installation of the marker member.

以下に、添付図面を参照して、本発明に係る空撮画像処理システム及び空撮画像処理方法の好適な実施例を詳細に説明する。   Exemplary embodiments of an aerial image processing system and an aerial image processing method according to the present invention will be described below in detail with reference to the accompanying drawings.

図1は、実施例に係る空撮画像処理についての説明図である。実施例に係る空撮画像処理システムは、飛行体によりメガソーラーの画像データを空撮し、空撮した画像データを用いて保守の対象となるソーラーパネルを特定する。   FIG. 1 is an explanatory diagram of aerial image processing according to the embodiment. The aerial image processing system according to the embodiment aerially captures mega solar image data using a flying object, and identifies a solar panel to be maintained using the aerial image data.

具体的には、図1(a)に示すように、飛行体30がメガソーラーの上空を飛行しつつ、該メガソーラーの一部を形成する複数のソーラーパネル40を含む映像データを空撮する。このとき、飛行体30は、ソーラーパネル40における異常の有無を検知できる程度の高度で飛行する。   Specifically, as shown in FIG. 1A, the flying object 30 flies over the mega solar and aerial images of video data including a plurality of solar panels 40 forming a part of the mega solar are taken. . At this time, the flying body 30 flies at an altitude that can detect the presence or absence of abnormality in the solar panel 40.

そして、飛行体30により撮像された映像データから複数の画像データを切り出す。このとき、映像データの1フレーム分を1つの画像データとして切り出す。また、切り出した複数の映像データのうち、時系列において隣り合う画像データ間に共通のソーラーパネルの像が含まれるように切り出しを行なう。   Then, a plurality of image data is cut out from the video data captured by the flying object 30. At this time, one frame of video data is cut out as one image data. Moreover, it cuts out so that the image of a common solar panel may be included between the image data adjacent in time series among several cut-out video data.

さらに、隣り合う画像データ間に共通して存在する特徴点を抽出し、抽出した特徴点によりソーラーパネルの対応付けを行なって、映像データに含まれるソーラーパネルを一意に識別する識別情報を付与する。   Furthermore, feature points that exist in common between adjacent image data are extracted, solar panels are associated with the extracted feature points, and identification information for uniquely identifying the solar panels included in the video data is given. .

図1(b)は、映像データから切り出された3つの画像データF1〜F3を示している。ここで、映像データは、赤外光の映像データであり、画像データF1〜F3は赤外光の画像データである。   FIG. 1B shows three image data F1 to F3 cut out from the video data. Here, the video data is infrared video data, and the image data F1 to F3 are infrared light image data.

ソーラーパネル40は、可視光の画像データでは同一の外観であっても、赤外光の画像データでは輝度に差が生ずる場合がある。例えば、ソーラーパネル40の性能のばらつきにより出力が異なる場合には、出力の差によりソーラーパネル40の温度に差が生じ、この温度差が赤外光の画像データでは輝度差として現れる。同様に、保守の対象とすべきソーラーパネル40についても、その動作状態の異常が温度に現れ、赤外光の画像データにおける輝度差となる。図1(b)の画像データF1〜F3では、ソーラーパネル40の輝度の違いを網掛けによって示している。   Even if the solar panel 40 has the same appearance in the visible light image data, there may be a difference in luminance in the infrared light image data. For example, when the output differs due to variations in the performance of the solar panel 40, a difference occurs in the temperature of the solar panel 40 due to the difference in output, and this temperature difference appears as a luminance difference in the image data of infrared light. Similarly, for the solar panel 40 to be maintained, an abnormality in its operating state appears in the temperature, resulting in a luminance difference in the image data of infrared light. In the image data F <b> 1 to F <b> 3 in FIG. 1B, the difference in luminance of the solar panel 40 is indicated by shading.

本実施例に係る空撮画像処理システムは、赤外光の画像データにおけるソーラーパネル40の輝度の分布パターンを特徴として利用し、時系列において隣り合う画像データ間で共通する特徴を重ね合わせることで、複数の画像データをつなぎ合わせる。図1(c)では、ソーラーパネル40の輝度の分布パターンが一致するように画像データF1〜F3をつなぎ合わせた状態を示している。   The aerial image processing system according to the present embodiment uses the distribution pattern of the brightness of the solar panel 40 in the infrared image data as a feature, and superimposes the features common to the adjacent image data in time series. Connect multiple image data. FIG. 1C shows a state in which the image data F1 to F3 are connected so that the luminance distribution patterns of the solar panel 40 match.

このように、飛行体30により撮像したメガソーラーの映像データから複数の画像データを切り出し、隣り合う画像データに共通して存在する特徴を抽出し、抽出した特徴に基づいて画像データをつなぎ合わせることで、メガソーラーに含まれる複数のソーラーパネル40の位置関係を判別し、各ソーラーパネル40を一意に識別する識別情報を付与することができる。   In this way, a plurality of image data is cut out from the mega solar video data captured by the flying object 30, features that exist in common in adjacent image data are extracted, and the image data is connected based on the extracted features. Thus, the positional relationship of the plurality of solar panels 40 included in the mega solar can be determined, and identification information for uniquely identifying each solar panel 40 can be given.

そして、このように各ソーラーパネルを一意に識別する識別情報を付与すれば、メガソーラーを形成する各ソーラーパネル上の異常の有無を検知する場合に、各ソーラーパネルが所在する位置を効率良く特定することができる。   And by providing identification information that uniquely identifies each solar panel in this way, when detecting the presence or absence of abnormality on each solar panel forming a mega solar, the location where each solar panel is located can be identified efficiently can do.

次に、空撮画像処理システムの構成について説明する。図2は、空撮画像処理システムのシステム構成を示す構成図である。図2に示すように、空撮画像処理システムは、飛行体30と空撮画像処理装置10とを有する。   Next, the configuration of the aerial image processing system will be described. FIG. 2 is a configuration diagram showing a system configuration of the aerial image processing system. As shown in FIG. 2, the aerial image processing system includes a flying object 30 and an aerial image processing apparatus 10.

飛行体30は、撮像ユニット31、GPS(Global Positioning System)ユニット32、無線通信部33、複数の回転翼34、記憶部35及び制御部36を有する。   The flying object 30 includes an imaging unit 31, a GPS (Global Positioning System) unit 32, a wireless communication unit 33, a plurality of rotor blades 34, a storage unit 35, and a control unit 36.

撮像ユニット31は、赤外光カメラと可視光カメラとを有する。赤外光カメラと可視光カメラとは、同一の範囲を同時に撮像する。赤外光カメラにより撮像された赤外光の映像データと、可視光カメラにより撮像された可視光の映像データとは、それぞれ制御部36に出力される。   The imaging unit 31 includes an infrared light camera and a visible light camera. The infrared light camera and the visible light camera simultaneously image the same range. The infrared light image data captured by the infrared light camera and the visible light image data captured by the visible light camera are each output to the control unit 36.

GPSユニット32は、複数のGPS衛星から信号を受信して自装置の位置を特定するユニットである。無線通信部33は、空撮画像処理装置10と無線通信するためのインタフェース部である。複数の回転翼34は、制御部36からの制御を受けて個別に回転し、飛行体30の姿勢制御及び移動を実現する。   The GPS unit 32 is a unit that receives signals from a plurality of GPS satellites and identifies the position of the device itself. The wireless communication unit 33 is an interface unit for performing wireless communication with the aerial image processing apparatus 10. The plurality of rotor blades 34 are individually rotated under the control of the control unit 36 to realize attitude control and movement of the flying object 30.

記憶部35は、ハードディスク装置や不揮発性メモリ等の記憶デバイスであり、飛行履歴データ35a、赤外映像データ35b及び可視映像データ35cを記憶する。飛行履歴データ35aは、飛行体30の飛行の履歴を時刻とともに記録したデータであり、各時刻における位置情報、飛行高度、飛行方向、飛行速度が示されている。赤外映像データ35bは、撮像ユニット31の赤外光カメラにより撮像された赤外光の映像データである。可視映像データ35cは、撮像ユニット31の可視光カメラにより撮像された可視光の映像データである。   The storage unit 35 is a storage device such as a hard disk device or a nonvolatile memory, and stores flight history data 35a, infrared video data 35b, and visible video data 35c. The flight history data 35a is data in which a flight history of the flying object 30 is recorded together with time, and position information, flight altitude, flight direction, and flight speed at each time are indicated. The infrared video data 35b is video data of infrared light captured by the infrared camera of the imaging unit 31. The visible video data 35 c is visible light video data captured by the visible light camera of the imaging unit 31.

制御部36は、飛行体30を全体制御する制御部であり、飛行制御部36a及び撮像制御部36bを有する。飛行制御部36aは、予め設定された飛行経路とGPSユニット32が出力する位置情報とを用いて複数の回転翼34を制御することで、飛行を制御する。   The control unit 36 is a control unit that controls the entire aircraft 30 and includes a flight control unit 36a and an imaging control unit 36b. The flight control unit 36 a controls the flight by controlling the plurality of rotor blades 34 using a preset flight path and position information output from the GPS unit 32.

撮像制御部36bは、撮像ユニット31にソーラーパネル40を撮像させ、得られた赤外映像データ35b及び可視映像データ35cを飛行履歴データ35aと対応付けて記憶部35に格納する。また、撮像制御部36bは、飛行履歴データ35a、赤外映像データ35b及び可視映像データ35cを空撮画像処理装置10に送信する。飛行履歴データ35a、赤外映像データ35b及び可視映像データ35cの空撮画像処理装置10への送信は、飛行中にリアルタイムで行ってもよいし、飛行の終了後に一括して行ってもよい。   The imaging control unit 36b causes the imaging unit 31 to image the solar panel 40, and stores the obtained infrared video data 35b and visible video data 35c in the storage unit 35 in association with the flight history data 35a. In addition, the imaging control unit 36b transmits the flight history data 35a, the infrared video data 35b, and the visible video data 35c to the aerial image processing apparatus 10. The flight history data 35a, the infrared video data 35b, and the visible video data 35c may be transmitted to the aerial image processing apparatus 10 in real time during the flight or collectively after the flight is completed.

空撮画像処理装置10は、表示部11、入力部12、無線通信部13、記憶部15及び制御部16を有する。表示部11は、液晶パネルやディスプレイ装置等である。入力部12は、キーボードやマウス等である。無線通信部13は、飛行体30と無線通信するためのインタフェース部である。   The aerial image processing apparatus 10 includes a display unit 11, an input unit 12, a wireless communication unit 13, a storage unit 15, and a control unit 16. The display unit 11 is a liquid crystal panel, a display device, or the like. The input unit 12 is a keyboard, a mouse, or the like. The wireless communication unit 13 is an interface unit for performing wireless communication with the flying object 30.

記憶部15は、ハードディスク装置や不揮発性メモリ等の記憶デバイスであり、パネル設置データ15a、赤外画像合成データ15b及び可視画像合成データ15cを記憶する。パネル設置データ15aは、ソーラーパネル40の設置位置や該ソーラーパネル40の製造に係る情報を示すデータである。   The storage unit 15 is a storage device such as a hard disk device or a nonvolatile memory, and stores panel installation data 15a, infrared image synthesis data 15b, and visible image synthesis data 15c. The panel installation data 15a is data indicating information regarding the installation position of the solar panel 40 and the manufacture of the solar panel 40.

赤外画像合成データ15bは、赤外映像データ35bから切り出された画像データをつなぎ合わせ、各ソーラーパネル40に識別情報を付与したデータである。可視画像合成データ15cは、可視映像データ35cから切り出された画像データをつなぎ合わせ、各ソーラーパネル40に識別情報を付与したデータである。   The infrared image synthesis data 15b is data obtained by connecting image data cut out from the infrared video data 35b and adding identification information to each solar panel 40. The visible image synthesis data 15c is data in which image data cut out from the visible video data 35c is connected and identification information is given to each solar panel 40.

制御部16は、空撮画像処理装置10を全体制御する制御部であり、切出部16a、特徴抽出部16b、共通パネル特定部16c、識別情報付与部16d及び異常検知部16eを有する。実際には、これらの機能部に対応するプログラムを図示しないROMや不揮発性メモリに記憶しておき、これらのプログラムをCPU(Central Processing Unit)にロードして実行することにより、切出部16a、特徴抽出部16b、共通パネル特定部16c、識別情報付与部16d及び異常検知部16eにそれぞれ対応するプロセスを実行させることになる。   The control unit 16 is a control unit that controls the aerial image processing apparatus 10 as a whole, and includes a cutout unit 16a, a feature extraction unit 16b, a common panel specifying unit 16c, an identification information adding unit 16d, and an abnormality detection unit 16e. Actually, programs corresponding to these functional units are stored in a ROM or a non-volatile memory (not shown), and these programs are loaded into a CPU (Central Processing Unit) and executed, whereby the cutting unit 16a, Processes corresponding to the feature extraction unit 16b, the common panel specification unit 16c, the identification information addition unit 16d, and the abnormality detection unit 16e are executed.

切出部16aは、飛行体30から飛行履歴データ35a、赤外映像データ35b及び可視映像データ35cを取得し、それぞれから画像データを切り出す処理部である。切出部16aは、既に説明したように、映像データの1フレーム分を1つの画像データとして切り出す。また、切り出した複数の映像データのうち、時系列において隣り合う画像データ間に共通のソーラーパネルの像が含まれるように切り出しを行なう。具体的には、飛行履歴データ35aを参照して飛行体30の飛行高度及び飛行速度を取得し、時系列において隣り合う画像データが所定の比率で重なるように画像データの切出し間隔を決定する。   The cutout unit 16a is a processing unit that acquires the flight history data 35a, the infrared video data 35b, and the visible video data 35c from the flying object 30, and cuts out image data from each. As described above, the cutting unit 16a cuts out one frame of video data as one image data. Moreover, it cuts out so that the image of a common solar panel may be included between the image data adjacent in time series among several cut-out video data. Specifically, the flight altitude and the flight speed of the flying object 30 are acquired with reference to the flight history data 35a, and the image data cut-out interval is determined so that adjacent image data overlap with each other in a time series.

特徴抽出部16bは、隣り合う画像データに共通して存在する特徴を抽出する処理部である。赤外光の画像データでは、ソーラーパネル40の輝度の分布パターンを特徴として利用することができる。可視光の画像データでは、ソーラーパネル40の周囲の物品などを特徴として利用することができる。赤外光や可視光の画像データからの特徴の抽出については、任意のアルゴリズムを用いればよい。   The feature extraction unit 16b is a processing unit that extracts features that exist in common in adjacent image data. In infrared image data, the luminance distribution pattern of the solar panel 40 can be used as a feature. In the visible light image data, articles around the solar panel 40 can be used as features. An arbitrary algorithm may be used for extracting features from infrared light or visible light image data.

共通パネル特定部16cは、特徴抽出部16bにより抽出された特徴に基づいて、隣り合う画像データにそれぞれ所在する共通のソーラーパネル40を特定する処理部である。具体的には、共通パネル特定部16cは、それぞれの画像データに対して画像処理を行なってソーラーパネル40を認識し、それぞれの画像データ内でのソーラーパネル40の位置関係を判別する。そして、画像データ間に共通して存在する特徴から画像データ間の対応関係を決定し、画像データ間の対応関係と、画像データ内のソーラーパネル40の位置関係から、共通のソーラーパネル40を特定する。   The common panel specifying unit 16c is a processing unit that specifies the common solar panels 40 located in adjacent image data based on the features extracted by the feature extracting unit 16b. Specifically, the common panel specifying unit 16c performs image processing on each image data to recognize the solar panel 40, and determines the positional relationship of the solar panel 40 in each image data. Then, the correspondence between the image data is determined from the features that exist in common between the image data, and the common solar panel 40 is identified from the correspondence between the image data and the positional relationship of the solar panels 40 in the image data. To do.

ソーラーパネル40を認識する画像処理としては、例えば、エッジを抽出し、直線を検出し、直線により囲まれた領域を検出し、該領域の大きさが所定の範囲内である場合にソーラーパネル40であると認識すればよい。   Image processing for recognizing the solar panel 40 includes, for example, extracting an edge, detecting a straight line, detecting a region surrounded by the straight line, and detecting the solar panel 40 when the size of the region is within a predetermined range. What is necessary is just to recognize that it is.

識別情報付与部16dは、共通パネル特定部16cにより特定された共通のソーラーパネル40に基づいて複数の画像データをつなぎ合わせ、各ソーラーパネル40に識別情報を付与して合成画像データを生成し、記憶部15に格納する。なお、赤外映像データ35bからは赤外画像合成データ15bを、可視映像データ35cからは可視画像合成データ15cをそれぞれ生成する。また、複数の画像データをつなぎ合わせる場合には、共通のソーラーパネル40の形状やサイズなどが一致するよう必要に応じて画像変換を行なう。   The identification information adding unit 16d connects a plurality of image data based on the common solar panel 40 specified by the common panel specifying unit 16c, generates identification image data by adding identification information to each solar panel 40, and Store in the storage unit 15. Note that infrared image synthesis data 15b is generated from the infrared video data 35b, and visible image synthesis data 15c is generated from the visible video data 35c. When a plurality of image data are connected, image conversion is performed as necessary so that the shape and size of the common solar panel 40 match.

異常検知部16eは、赤外画像合成データ15b及び可視画像合成データ15cを用いて異常の検知を行なう処理部である。赤外画像合成データ15bからは、温度の異常を検知できる。例えば、ソーラーパネル40の温度が高すぎる場合には、該ソーラーパネル40上の異物などにより不適切な抵抗成分が生じていることが示される。また、ソーラーパネル40の温度が低すぎる場合には、該ソーラーパネル40が正常に動作していないことが示される。可視画像合成データ15cからは、ソーラーパネル40の物理的な破損や汚れ、異物などを検知できる。   The abnormality detection unit 16e is a processing unit that detects an abnormality using the infrared image composite data 15b and the visible image composite data 15c. A temperature abnormality can be detected from the infrared image synthesis data 15b. For example, when the temperature of the solar panel 40 is too high, it is indicated that an inappropriate resistance component is generated due to foreign matters on the solar panel 40. Further, when the temperature of the solar panel 40 is too low, it is indicated that the solar panel 40 is not operating normally. From the visible image composite data 15c, physical damage, dirt, foreign matter, etc. of the solar panel 40 can be detected.

さらに、赤外画像合成データ15bと可視画像合成データ15cを対応付けることで、異常についての分析が可能である。例えば、赤外画像合成データ15bにより異常な高温が検知され、可視画像合成データ15cにより異物が検知されれば、異物によりソーラーパネル40の温度が上昇したと分析可能である。異常検知部16eは、異常の検知と分析の結果を表示部11等に出力する。なお、赤外画像合成データ15bと可視画像合成データ15cの一方のみで異常が検知されたソーラーパネル40であっても、対応する他方の画像データを合わせて出力することが望ましい。   Further, by analyzing the infrared image composite data 15b and the visible image composite data 15c, an abnormality can be analyzed. For example, if an abnormally high temperature is detected from the infrared image composite data 15b and a foreign object is detected from the visible image composite data 15c, it can be analyzed that the temperature of the solar panel 40 has increased due to the foreign object. The abnormality detection unit 16e outputs the results of abnormality detection and analysis to the display unit 11 and the like. Even if the solar panel 40 has an abnormality detected in only one of the infrared image composite data 15b and the visible image composite data 15c, it is desirable to output the other corresponding image data together.

次に、空撮画像処理装置10の記憶部15が記憶するデータについて説明する。図3は、空撮画像処理装置10の記憶部15が記憶するデータの説明図である。図3(a)に示すパネル設置データ15aは、ソーラーパネル40の識別情報であるソーラーパネルIDに対し、設置位置、設置日、製造者、型番、製造日などを対応付けている。設置位置は、該ソーラーパネル40が設置された地点を特定する。地点の特定には、例えば緯度経度を用いればよい。   Next, data stored in the storage unit 15 of the aerial image processing apparatus 10 will be described. FIG. 3 is an explanatory diagram of data stored in the storage unit 15 of the aerial image processing apparatus 10. In the panel installation data 15a shown in FIG. 3A, an installation position, an installation date, a manufacturer, a model number, a manufacturing date, and the like are associated with a solar panel ID that is identification information of the solar panel 40. The installation position specifies a point where the solar panel 40 is installed. For example, latitude and longitude may be used for specifying the point.

図3(a)ではパネル設置データ15aは、ソーラーパネル「P0001」であるソーラーパネル40の設置位置が「35.670986,139.745882」であり、設置日が「20130610」であり、製造者が「malso」であり、型番が「slp−07」であり、製造年月が「20130202」であることを示している。   In FIG. 3A, the panel installation data 15a indicates that the installation position of the solar panel 40 that is the solar panel “P0001” is “35.670986, 139.7745882”, the installation date is “20133061”, and the manufacturer It is “malso”, the model number is “slp-07”, and the manufacturing date is “20130202”.

図3(b)に示す赤外画像合成データ15bは、赤外映像データ35bから切り出された画像データをつなぎ合わせ、各ソーラーパネル40に識別情報を付与したデータである。この赤外画像合成データ15bは、メガソーラーを形成する各ソーラーパネル40の位置関係を示すとともに、各ソーラーパネル40に識別情報として番号(1〜69)を付している。   The infrared image synthesis data 15b shown in FIG. 3B is data in which image data cut out from the infrared video data 35b is connected and identification information is given to each solar panel 40. The infrared image composition data 15b indicates the positional relationship of the solar panels 40 forming the mega solar, and numbers (1 to 69) are assigned to the solar panels 40 as identification information.

図3(c)に示す可視画像合成データ15cは、可視映像データ35cから切り出された画像データをつなぎ合わせ、各ソーラーパネル40に識別情報を付与したデータである。この可視画像合成データ15cは、メガソーラーを形成する各ソーラーパネル40の位置関係を示すとともに、各ソーラーパネル40に識別情報として番号(1〜69)を付している。   The visible image composite data 15c shown in FIG. 3C is data in which image data cut out from the visible video data 35c is connected and identification information is given to each solar panel 40. The visible image composition data 15c indicates the positional relationship of the solar panels 40 forming the mega solar, and numbers (1-69) are assigned to the solar panels 40 as identification information.

次に、切出部16aによる画像データの切出し間隔について説明する。図4は、切出部16aによる画像データの切出し間隔についての説明図である。図4に示すように、ソーラーパネル40から飛行体30までの高度である飛行高度をh、飛行速度をv、撮像ユニット31の画角をθとすると、時刻t1の画像データと時刻t2の画像データとの重なり率がRとなる切出し間隔T(t2−t1)は、

Figure 0006454579
となる。 Next, the image data cut-out interval by the cut-out unit 16a will be described. FIG. 4 is an explanatory diagram of the image data extraction interval by the extraction unit 16a. As shown in FIG. 4, assuming that the flight altitude from the solar panel 40 to the flying object 30 is h, the flight speed is v, and the angle of view of the imaging unit 31 is θ, the image data at time t1 and the image at time t2. The extraction interval T (t2−t1) at which the overlapping ratio with the data is R is
Figure 0006454579
It becomes.

切出部16aは、飛行履歴データ35aに示された飛行体30の飛行高度及び飛行速度に基づいて、重なり率がRとなる切出し間隔Tを算出する。そして、±thを誤差範囲として、T±thの間隔で画像データの切出しを行なう。   The cutout unit 16a calculates a cutout interval T at which the overlapping rate is R based on the flight altitude and the flight speed of the flying object 30 indicated in the flight history data 35a. Then, image data is cut out at intervals of T ± th, with ± th as an error range.

図5は、切出部16aによる画像データの切出処理を示すフローチャートである。図5のフローチャートは、映像データからn番目の画像データFnを切り出す際の処理手順を示しており、(n−1)番目の画像データを切り出した後に開始される。なお、(n−1)番目の画像データが撮像された時刻をt(n−1)とする。   FIG. 5 is a flowchart showing image data extraction processing by the extraction unit 16a. The flowchart of FIG. 5 shows a processing procedure when the nth image data Fn is cut out from the video data, and is started after the (n−1) th image data is cut out. Note that the time when the (n−1) -th image data is captured is t (n−1).

切出部16aは、まず、次のフレームを読み込む(ステップS101)。このとき、読み込んだフレームの撮像時刻がtnである。切出部16aは、tn−t(n−1)とT+thとを比較する(ステップS102)。   The cutout unit 16a first reads the next frame (step S101). At this time, the imaging time of the read frame is tn. The cutout unit 16a compares tn−t (n−1) with T + th (step S102).

tn−t(n−1)≦T+thであれば(ステップS102;No)、切出部16aは、tn−t(n−1)とT−thとを比較する(ステップS103)。   If tn−t (n−1) ≦ T + th (step S102; No), the cutout unit 16a compares tn−t (n−1) with T−th (step S103).

tn−t(n−1)≦T−thであれば(ステップS103;No)、(n−1)番目の画像データを切り出してから十分な時間が経過していないので、ステップS101に移行して次のフレームを読み込む。   If tn−t (n−1) ≦ T−th (Step S103; No), since sufficient time has not elapsed since the (n−1) th image data is cut out, the process proceeds to Step S101. Read the next frame.

tn−t(n−1)>T−thであれば(ステップS103;Yes)、切出部16aは、現在のフレームの画像の状態が良好であるか否かを判定する(ステップS104)。現在のフレームの画像状態が良好でなければ(ステップS104;No)、切出部16aは、ステップS101に移行して次のフレームを読み込む。   If tn-t (n-1)> T-th (step S103; Yes), the cutout unit 16a determines whether or not the state of the image of the current frame is good (step S104). If the image state of the current frame is not good (step S104; No), the cutout unit 16a moves to step S101 and reads the next frame.

現在のフレームの画像状態が良好であれば(ステップS104;Yes)、切出部16aは、現在のフレームを画像データFnとしてサンプリングする(ステップS105)。そして、nをインクリメントし(ステップS106)、処理を終了する。   If the image state of the current frame is good (step S104; Yes), the cutout unit 16a samples the current frame as the image data Fn (step S105). Then, n is incremented (step S106), and the process ends.

なお、tn−t(n−1)>T+thであれば(ステップS102;Yes)、良好な画像データが得られないままT+thを超過しているので、画像データFnのサンプリングを行なわず、nをインクリメントして(ステップS106)、処理を終了する。この場合には、次の処理でのt(n−1)はt(n−2)+Tを用いる。   If tn−t (n−1)> T + th (step S102; Yes), since T + th is exceeded without obtaining good image data, n is not sampled without sampling the image data Fn. Increment (step S106), the process is terminated. In this case, t (n-2) + T is used as t (n-1) in the next process.

次に、画像データのつなぎ合わせについて説明する。図6は、画像データのつなぎ合わせにかかる処理手順を示すフローチャートである。まず、特徴抽出部16bは、同一の映像データから切り出した複数の画像データから1つの画像データを取得し、ベース画像データとする(ステップS201)。そして、特徴抽出部16bは、ベース画像データの特徴を抽出する(ステップS202)。   Next, image data stitching will be described. FIG. 6 is a flowchart showing a processing procedure for joining image data. First, the feature extraction unit 16b acquires one piece of image data from a plurality of pieces of image data cut out from the same video data, and sets it as base image data (step S201). Then, the feature extraction unit 16b extracts the features of the base image data (Step S202).

その後、特徴抽出部16bは、ベース画像データに隣接する画像データを追加する画像データとして取得し(ステップS203)、追加する画像データの特徴を抽出する(ステップS204)。   Thereafter, the feature extraction unit 16b acquires the image data adjacent to the base image data as image data to be added (step S203), and extracts the features of the image data to be added (step S204).

共通パネル特定部16cは、ベース画像データの特徴と追加する画像データの特徴とを対応付ける(ステップS205)。識別情報付与部16dは、追加する画像データの形状やサイズをベース画像データに合わせて変換(ステップS206)し、ベース画像データに追加する画像データを重ね合わせてベース画像データを更新する(ステップS207)。   The common panel specifying unit 16c associates the characteristics of the base image data with the characteristics of the image data to be added (step S205). The identification information adding unit 16d converts the shape and size of the image data to be added according to the base image data (step S206), and updates the base image data by superimposing the image data to be added to the base image data (step S207). ).

その後、識別情報付与部16dは、他に追加する画像データが残っているか否かを判定し、追加する画像データが残っていれば(ステップS208;Yes)、ステップS203に移行する。そして、全ての画像データの処理が終了したならば(ステップS208;No)、ベース画像データの各ソーラーパネルに識別情報を付与し、合成画像データとして出力して(ステップS209)、処理を終了する。   Thereafter, the identification information adding unit 16d determines whether or not other image data to be added remains, and if there is image data to be added remaining (step S208; Yes), the process proceeds to step S203. Then, when the processing of all the image data is completed (step S208; No), identification information is given to each solar panel of the base image data and output as composite image data (step S209), and the processing ends. .

次に、特徴の利用についてさらに説明する。既に説明したように、赤外映像データ35bからは赤外光の画像データを切り出して赤外画像合成データ15bを生成し、可視映像データ35cからは可視光の画像データを切り出して可視画像合成データ15cを生成する。ここで、赤外光の画像データ間を対応付ける際に用いる特徴は、赤外光の画像データ自体の特徴に限らない。可視光の画像データ間の対応関係が特定できれば、同一の時刻に撮像された赤外光の画像データ間の対応関係も特定できるのである。同様に、赤外光の画像データ間の対応関係が特定できれば、同一の時刻に撮像された可視光の画像データ間の対応関係も特定できる。   Next, the use of features will be further described. As described above, infrared image data is cut out from the infrared video data 35b to generate infrared image synthesis data 15b, and visible light image data is cut out from the visible video data 35c to form visible image synthesis data. 15c is generated. Here, the feature used when associating the infrared light image data is not limited to the feature of the infrared light image data itself. If the correspondence between the visible light image data can be specified, the correspondence between the infrared light image data captured at the same time can also be specified. Similarly, if the correspondence between infrared image data can be identified, the correspondence between visible light image data captured at the same time can also be identified.

図7は、赤外光と可視光の画像データにおける特徴の相互利用についての説明図である。図7(a)では、時刻t1に赤外光の画像データF1aと、可視光の画像データF1bとが撮像されている。また、時刻t2に赤外光の画像データF2aと、可視光の画像データF2bとが撮像されている。そして、時刻t3に赤外光の画像データF3aと、可視光の画像データF3bとが撮像されている。   FIG. 7 is an explanatory diagram of mutual use of features in infrared light and visible light image data. In FIG. 7A, infrared image data F1a and visible light image data F1b are captured at time t1. In addition, infrared light image data F2a and visible light image data F2b are captured at time t2. At time t3, infrared light image data F3a and visible light image data F3b are captured.

赤外光の画像データF1aと赤外光の画像データF2aとの間には、特徴として利用可能な輝度の分布パターンが存在する。一方、赤外光の画像データF2aと赤外光の画像データF3aとの間には、特徴として利用可能な輝度の分布パターンが存在しない。   Between the infrared light image data F1a and the infrared light image data F2a, there is a luminance distribution pattern that can be used as a feature. On the other hand, there is no luminance distribution pattern that can be used as a feature between the infrared light image data F2a and the infrared light image data F3a.

また、可視光の画像データF1bと可視光の画像データF2bとの間には、特徴として利用可能な物品の像等は存在しない。一方、可視光の画像データF2bと可視光の画像データF3bとの間には、特徴として利用可能な樹木の像が存在する。   Further, there is no image of an article that can be used as a feature between the visible light image data F1b and the visible light image data F2b. On the other hand, there is an image of a tree that can be used as a feature between the visible light image data F2b and the visible light image data F3b.

そこで、時刻t1に撮像した画像データ(F1a,F1b)と時刻t2に撮像した画像データ(F2a,F2b)とは赤外光の画像データ間(F1a、F2a)の特徴によって対応付ける。そして、時刻t2に撮像した画像データ(F2a,F2b)と時刻t3に撮像した画像データ(F3a,F3b)とは可視光の画像データ間(F1b、F2b)の特徴によって対応付ける。   Therefore, the image data (F1a, F1b) imaged at time t1 and the image data (F2a, F2b) imaged at time t2 are associated with each other by the feature between the infrared light image data (F1a, F2a). Then, the image data (F2a, F2b) imaged at time t2 and the image data (F3a, F3b) imaged at time t3 are associated with each other by the characteristic between the visible light image data (F1b, F2b).

図7(b)に示す赤外画像合成データLFaは、かかる特徴の相互利用を行なって赤外光の画像データF1a〜F3aから生成した合成画像データである。また、図7(b)に示す可視画像合成データLFbは、かかる特徴の相互利用を行なって可視の画像データF1b〜F3bから生成した合成画像データである。   The infrared image composite data LFa shown in FIG. 7B is composite image data generated from the infrared light image data F1a to F3a through mutual use of such features. Further, the visible image composite data LFb shown in FIG. 7B is composite image data generated from the visible image data F1b to F3b by performing mutual use of such features.

次に、識別情報の付与の具体例について説明する。図8は、識別情報の付与の具体例についての説明図である。まず、共通パネル特定部16cは、それぞれの画像データに対して画像処理を行なってソーラーパネルを認識し、画像データ内で一意な識別番号を付与するナンバリングを行なう。   Next, a specific example of giving identification information will be described. FIG. 8 is an explanatory diagram of a specific example of giving identification information. First, the common panel specifying unit 16c performs image processing on each image data to recognize the solar panel, and performs numbering that assigns a unique identification number in the image data.

この結果、図8(a)に示した例では、画像データF1a内のソーラーパネルには「1」〜「34」の識別番号が付与され、画像データF2a内のソーラーパネルには「1」〜「36」の識別番号が付与されている。   As a result, in the example shown in FIG. 8A, identification numbers “1” to “34” are assigned to the solar panels in the image data F1a, and “1” to “1” are assigned to the solar panels in the image data F2a. An identification number “36” is assigned.

さらに、共通パネル特定部16cは、それぞれの画像データ内でのソーラーパネルの位置関係を判別する。図8(b)に示した例では、それぞれの画像データについて、上下左右に隣接するソーラーパネル間に接続関係を持たせたリンク構造を形成することで、ソーラーパネルの位置関係を示している。   Further, the common panel specifying unit 16c determines the positional relationship of the solar panels in each image data. In the example shown in FIG. 8B, the positional relationship of the solar panels is shown by forming a link structure having a connection relationship between the solar panels adjacent vertically and horizontally for each image data.

その後、共通パネル特定部16cは、画像データ間に共通して存在する特徴から画像データ間の対応関係を決定し、画像データ間の対応関係と、画像データ内のソーラーパネルの位置関係から、共通のソーラーパネルを特定する。   After that, the common panel specifying unit 16c determines the correspondence between the image data from the features that exist in common between the image data, and the common panel specifying unit 16c determines the common relationship from the correspondence between the image data and the positional relationship of the solar panels in the image data. Identify solar panels.

図8(a)及び図8(b)に示した例では、画像データF1aにおいて識別番号「22」が付与されたソーラーパネルと、画像データF2aにおいて識別番号「19」が付与されたソーラーパネルとが共通のソーラーパネルである。   In the example shown in FIG. 8A and FIG. 8B, the solar panel assigned the identification number “22” in the image data F1a, and the solar panel given the identification number “19” in the image data F2a Is a common solar panel.

識別情報付与部16dは、共通パネル特定部16cにより特定された共通のソーラーパネルを基準として、図8(c)に示すように、画像データF1aのリンク構造と画像データF2aのリンク構造とを接続する。その後、各ソーラーパネルに識別番号を振り直すリナンバリングを行なう。   The identification information adding unit 16d connects the link structure of the image data F1a and the link structure of the image data F2a as shown in FIG. 8C with reference to the common solar panel specified by the common panel specifying unit 16c. To do. After that, renumbering is performed to reassign the identification number to each solar panel.

このように、識別番号の振り直しを行なうことにより、複数の画像データに亘って一意な識別情報を付与することができる。図8(d)に示した例では、「1」〜「54」の識別番号が付与されている。   In this way, by reassigning the identification number, it is possible to give unique identification information over a plurality of image data. In the example shown in FIG. 8D, identification numbers “1” to “54” are assigned.

これまでの説明では、ソーラーパネルの輝度の分布パターンや、ソーラーパネルの周囲の物品などを特徴として利用する場合について説明を行なったが、予め特徴として利用可能な標識部材を設置することとしてもよい。   In the description so far, the distribution pattern of the brightness of the solar panel and the case of using an article around the solar panel as a feature have been described. However, a sign member that can be used as a feature may be installed in advance. .

図9は、標識部材の設置についての説明図である。図9に示す標識部材In1〜In3は、例えば、適切な間隔でソーラーパネル40の枠に固定し、飛行体30がソーラーパネル40を撮像した場合に常にいずれかの標識部材が映像データに映るようにする。   FIG. 9 is an explanatory diagram regarding the installation of the marker member. The sign members In1 to In3 shown in FIG. 9 are fixed to the frame of the solar panel 40 at appropriate intervals, for example, so that when the flying object 30 images the solar panel 40, any sign member is always reflected in the video data. To.

また、標識部材In1〜In3は、可視光で識別可能に色や形状を設定するとともに、赤外光で所定の輝度分布パターンをなすように発熱状態を設定することが好ましい。さらに、複数の標識部材In1〜In3は、個別に色、形状、発熱状態を異ならせる。   In addition, it is preferable that the marking members In1 to In3 are set in color and shape so that they can be identified with visible light, and set in a heat generation state so as to form a predetermined luminance distribution pattern with infrared light. Further, the plurality of labeling members In1 to In3 individually have different colors, shapes, and heat generation states.

このように標識部材In1〜In3を適切に配置すれば、映像データから確実に特徴を抽出し、画像データのつなぎ合わせを精度良く行なうことが可能となる。   As described above, when the labeling members In1 to In3 are appropriately arranged, it is possible to reliably extract the features from the video data and to join the image data with high accuracy.

上述してきたように、本実施例に係る点検対象特定システムは、飛行体30により撮像したメガソーラーの映像データから複数の画像データを切り出し、隣り合う画像データに共通して存在する特徴を抽出し、抽出した特徴に基づいて画像データをつなぎ合わせることで、メガソーラーに含まれる複数のソーラーパネル40の位置関係を判別し、各ソーラーパネル40を一意に識別する識別情報を付与することができる。このため、メガソーラーを形成する各ソーラーパネル上の異常の有無を検知する場合に、各ソーラーパネルが所在する位置を効率良く特定することができる。   As described above, the inspection target specifying system according to the present embodiment extracts a plurality of image data from mega solar image data captured by the flying object 30, and extracts features that are commonly present in adjacent image data. By connecting the image data based on the extracted features, the positional relationship of the plurality of solar panels 40 included in the mega solar can be determined, and identification information for uniquely identifying each solar panel 40 can be given. For this reason, when detecting the presence or absence of abnormality on each solar panel forming the mega solar, the position where each solar panel is located can be efficiently identified.

なお、本実施例に図示した各構成は機能概略的なものであり、必ずしも物理的に図示の構成をされていることを要しない。すなわち、各装置の分散・統合の形態は図示のものに限られず、その全部または一部を各種の負荷や使用状況等に応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。   Note that each configuration illustrated in the present embodiment is functionally schematic and does not necessarily need to be physically configured as illustrated. That is, the form of distribution / integration of each device is not limited to the one shown in the figure, and all or a part thereof may be functionally or physically distributed / integrated in an arbitrary unit according to various loads or usage conditions. Can be configured.

本発明に係る空撮画像処理システム及び空撮画像処理方法は、飛行体による空撮によってメガソーラーを形成する各ソーラーパネル上の異常の有無を検知する場合に、各ソーラーパネルが所在する位置を効率良く特定する場合に適している。   In the aerial image processing system and the aerial image processing method according to the present invention, when detecting the presence or absence of an abnormality on each solar panel forming a mega solar by aerial photography by a flying object, the position where each solar panel is located is determined. Suitable for efficient identification.

10 空撮画像処理装置
11 表示部
12 入力部
13、33 無線通信部
15、35 記憶部
15a パネル設置データ
15b 赤外画像合成データ
15c 可視画像合成データ
16、36 制御部
16a 切出部
16b 特徴抽出部
16c 共通パネル特定部
16d 識別情報付与部
16e 異常検知部
30 飛行体
31 撮像ユニット
32 GPSユニット
34 回転翼
35a 飛行履歴データ
35b 赤外映像データ
35c 可視映像データ
36a 飛行制御部
36b 撮像制御部
40 ソーラーパネル
DESCRIPTION OF SYMBOLS 10 Aerial image processing apparatus 11 Display part 12 Input part 13, 33 Wireless communication part 15, 35 Storage part 15a Panel installation data 15b Infrared image synthetic | combination data 15c Visible image synthetic | combination data 16, 36 Control part 16a Cutout part 16b Feature extraction Unit 16c common panel specifying unit 16d identification information adding unit 16e abnormality detection unit 30 flying body 31 imaging unit 32 GPS unit 34 rotor blade 35a flight history data 35b infrared video data 35c visible video data 36a flight control unit 36b imaging control unit 40 solar panel

Claims (7)

メガソーラーの上空を飛行しつつ、該メガソーラーの一部を形成する複数のソーラーパネルを含む映像データを空撮する撮像装置を搭載した飛行体と、前記飛行体の撮像装置により空撮された映像データに含まれる空撮画像データを画像処理する空撮画像処理装置とを含む空撮画像処理システムであって、
前記空撮画像処理装置は、
隣り合う空撮画像データ間に共通のソーラーパネルが含まれるよう前記映像データから複数の空撮画像データを切り出す切出手段と、
前記切出手段により切り出された隣り合う空撮画像データに共通して存在する特徴点を抽出する特徴点抽出手段と、
前記特徴点抽出手段により抽出された特徴点に基づいて、前記切出手段により切り出された隣り合う空撮画像データにそれぞれ所在する共通のソーラーパネルを特定する特定手段と、
前記特定手段により特定された共通のソーラーパネルに基づいて、前記切出手段により切り出された複数の空撮画像データに含まれる各ソーラーパネルのそれぞれに該ソーラーパネルを一意に識別する識別情報を付与する識別情報付与手段と
を備えたことを特徴とする空撮画像処理システム。
A flying object equipped with an imaging device for aerial imaging of video data including a plurality of solar panels forming part of the mega solar while flying over the mega solar, and the aerial imaged by the imaging device of the flying object An aerial image processing system including an aerial image processing device that performs image processing on aerial image data included in video data,
The aerial image processing apparatus includes:
Cutting means for cutting out a plurality of aerial image data from the video data so that a common solar panel is included between adjacent aerial image data;
Feature point extracting means for extracting feature points existing in common in the aerial image data cut out by the cutting means;
Based on the feature points extracted by the feature point extraction means, a specification means for specifying a common solar panel located in each adjacent aerial image data cut out by the cut-out means,
Based on the common solar panel specified by the specifying means, identification information for uniquely identifying the solar panel is assigned to each of the solar panels included in the plurality of aerial image data cut by the cutting means An aerial image processing system, comprising: an identification information providing unit.
前記撮像装置は、赤外光の映像データと可視光の映像データとをそれぞれ撮像し、
前記切出手段は、前記赤外光の映像データから複数の赤外光の空撮画像データを切り出すとともに、前記可視光の映像データから複数の可視光の空撮画像データを切り出し、
前記特徴点抽出手段は、前記赤外光の空撮画像データと前記可視光の空撮画像データのうち少なくとも一方から特徴点を抽出し、
前記特定手段は、前記赤外光の空撮画像データ間又は前記可視光の空撮画像データ間で共通のソーラーパネルを特定し、
前記識別情報付与手段は、前記特定手段により特定された共通のソーラーパネルに基づいて、前記複数の赤外光の空撮画像データに含まれる各ソーラーパネルのそれぞれに該ソーラーパネルを一意に識別する識別情報を付与するとともに、前記複数の可視光の空撮画像データに含まれる各ソーラーパネルのそれぞれに該ソーラーパネルを一意に識別する識別情報を付与する
ことを特徴とする請求項1に記載の空撮画像処理システム。
The imaging device captures infrared image data and visible image data, respectively.
The cutting means cuts out a plurality of infrared light aerial image data from the infrared light video data, and cuts out a plurality of visible light aerial image data from the visible light video data,
The feature point extracting means extracts feature points from at least one of the infrared image data of the infrared light and the aerial image data of the visible light,
The specifying means specifies a common solar panel between the aerial image data of the infrared light or between the aerial image data of the visible light,
The identification information adding unit uniquely identifies each solar panel included in the aerial image data of the plurality of infrared light based on the common solar panel specified by the specifying unit. The identification information is uniquely given to each of each solar panel included in the aerial image data of the plurality of visible lights, and identification information for uniquely identifying the solar panel is given. Aerial image processing system.
前記特徴点抽出手段は、前記赤外光の空撮画像データにおける輝度の分布から前記特徴点を抽出することを特徴とする請求項2に記載の空撮画像処理システム。   The aerial image processing system according to claim 2, wherein the feature point extracting unit extracts the feature points from a luminance distribution in the aerial image data of the infrared light. 前記ソーラーパネルの近傍に設置された標識部材をさらに備え、
前記特徴点抽出手段は、前記空撮画像データに含まれる標識部材の像を用いて前記特徴点を抽出することを特徴とする請求項1、2又は3に記載の空撮画像処理システム。
It further comprises a marker member installed in the vicinity of the solar panel,
The aerial image processing system according to claim 1, wherein the feature point extraction unit extracts the feature points using an image of a marker member included in the aerial image data.
前記切出手段は、前記飛行体の飛行速度、前記飛行体の飛行高度及び前記撮像装置の画角に基づいて、前記映像データから前記空撮画像データを切り出す間隔を算定することを特徴とする請求項1〜4のいずれか一つに記載の空撮画像処理システム。   The cutout means calculates an interval for cutting out the aerial image data from the video data based on a flight speed of the flying object, a flight altitude of the flying object, and an angle of view of the imaging device. The aerial image processing system according to claim 1. 前記特定手段は、1の空撮画像データに含まれる複数のソーラーパネルの位置関係を判別し、
前記識別情報付与手段は、前記共通のソーラーパネルと、前記空撮画像データに含まれる複数のソーラーパネルの位置関係とに基づいて前記複数の空撮画像データに含まれる各ソーラーパネルの位置関係を判別し、各ソーラーパネルに前記識別情報を付与する
ことを特徴とする請求項1〜5のいずれか一つに記載の空撮画像処理システム。
The specifying means determines the positional relationship of a plurality of solar panels included in one aerial image data,
The identification information providing means determines the positional relationship of each solar panel included in the plurality of aerial image data based on the common solar panel and the positional relationship between the plurality of solar panels included in the aerial image data. It discriminate | determines and provides the said identification information to each solar panel. The aerial image processing system as described in any one of Claims 1-5 characterized by the above-mentioned.
メガソーラーの上空を飛行しつつ、該メガソーラーの一部を形成する複数のソーラーパネルを含む映像データを空撮する撮像装置を搭載した飛行体と、前記飛行体の撮像装置により空撮された映像データに含まれる空撮画像データを画像処理する空撮画像処理装置とを含む空撮画像処理システムによる空撮画像処理方法であって、
隣り合う空撮画像データ間に共通のソーラーパネルが含まれるよう前記映像データから複数の空撮画像データを切り出す切出ステップと、
前記切出ステップにより切り出された隣り合う空撮画像データに共通して存在する特徴点を抽出する特徴点抽出ステップと、
前記特徴点抽出ステップにより抽出された特徴点に基づいて、前記切出ステップにより切り出された隣り合う空撮画像データにそれぞれ所在する共通のソーラーパネルを特定する特定ステップと、
前記特定ステップにより特定された共通のソーラーパネルに基づいて、前記切出ステップにより切り出された複数の空撮画像データに含まれる各ソーラーパネルのそれぞれに該ソーラーパネルを一意に識別する識別情報を付与する識別情報付与ステップと
を含むことを特徴とする空撮画像処理方法。
A flying object equipped with an imaging device for aerial imaging of video data including a plurality of solar panels forming a part of the mega solar while flying over the mega solar, and an aerial image taken by the imaging device of the flying object An aerial image processing method by an aerial image processing system including an aerial image processing device that performs image processing on aerial image data included in video data,
Cutting out a plurality of aerial image data from the video data so that a common solar panel is included between adjacent aerial image data;
A feature point extracting step for extracting a feature point that exists in common in the adjacent aerial image data cut out by the cutting step;
Based on the feature points extracted by the feature point extraction step, a specific step of specifying a common solar panel located in each adjacent aerial image data cut out by the cutout step;
Based on the common solar panel specified by the specifying step, identification information for uniquely identifying the solar panel is assigned to each of the solar panels included in the plurality of aerial image data extracted by the cutting step An aerial image processing method comprising: an identification information adding step.
JP2015065720A 2015-03-27 2015-03-27 Aerial image processing system and aerial image processing method Active JP6454579B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015065720A JP6454579B2 (en) 2015-03-27 2015-03-27 Aerial image processing system and aerial image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015065720A JP6454579B2 (en) 2015-03-27 2015-03-27 Aerial image processing system and aerial image processing method

Publications (2)

Publication Number Publication Date
JP2016186682A JP2016186682A (en) 2016-10-27
JP6454579B2 true JP6454579B2 (en) 2019-01-16

Family

ID=57203254

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015065720A Active JP6454579B2 (en) 2015-03-27 2015-03-27 Aerial image processing system and aerial image processing method

Country Status (1)

Country Link
JP (1) JP6454579B2 (en)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6625786B2 (en) * 2017-02-28 2019-12-25 株式会社オプティム Anomaly detection system, anomaly detection method and program
JP6362750B1 (en) * 2017-09-13 2018-07-25 株式会社エネルギア・コミュニケーションズ Abnormal point detection system
KR101967638B1 (en) * 2017-11-30 2019-04-10 (주) 포에버정보 Photovoltaic power generation module management system using drones
JP6337226B1 (en) * 2018-03-02 2018-06-06 株式会社エネルギア・コミュニケーションズ Abnormal point detection system
JP6414721B1 (en) * 2018-03-30 2018-10-31 株式会社スマートエナジーサービス Solar cell module monitoring method and solar cell module monitoring system
KR101943342B1 (en) * 2018-08-29 2019-01-29 (주)메타파스 Management system and method for solar panel using drone
KR101998241B1 (en) * 2019-01-07 2019-07-10 주식회사 아이온커뮤니케이션즈 System for detecting defect of solar panel by using big-data
JP7303658B2 (en) * 2019-04-24 2023-07-05 株式会社トプコン Method for processing infrared photographic images, apparatus for processing infrared photographic images, and program for processing infrared photographic images
JP2021012157A (en) * 2019-07-09 2021-02-04 株式会社エムアールサポート Mark, ortho-image creation method and ortho-image creation system
KR102217549B1 (en) * 2020-09-04 2021-02-19 주식회사 엠지아이티 Method and system for soar photovoltaic power station monitoring

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5197642B2 (en) * 2010-01-13 2013-05-15 株式会社東芝 Solar power system
JP5947634B2 (en) * 2012-06-25 2016-07-06 株式会社トプコン Aerial photography imaging method and aerial photography imaging system
JP6155091B2 (en) * 2013-05-17 2017-06-28 株式会社日立製作所 Mosaic image generation apparatus, generation method, and mosaic image generation program

Also Published As

Publication number Publication date
JP2016186682A (en) 2016-10-27

Similar Documents

Publication Publication Date Title
JP6454579B2 (en) Aerial image processing system and aerial image processing method
US11840334B2 (en) Solar panel inspection by unmanned aerial vehicle
Grimaccia et al. Survey on PV modules’ common faults after an O&M flight extensive campaign over different plants in Italy
Aghaei et al. Innovative automated control system for PV fields inspection and remote control
JP2016178769A (en) Inspection target identification system and inspection target identification method
JP7045030B2 (en) Inspection system, inspection method, server equipment, and program
CN107111313B (en) Inspection of solar panels with unmanned aerial vehicles
Gallardo-Saavedra et al. Image resolution influence in aerial thermographic inspections of photovoltaic plants
CN108370233B (en) Method and equipment for detecting photovoltaic panel and unmanned aerial vehicle
CN109743019B (en) System and method for hot spot temperature prediction and hot spot positioning based on meteorological factors
Buerhop et al. Infrared imaging of photovoltaic modules: a review of the state of the art and future challenges facing gigawatt photovoltaic power stations
KR20210001342A (en) A system and appratus for managing a solar panel using an unmaned aerial vehicle
US10418935B2 (en) Apparatus and method for analyzing power generation
HIGUCHI et al. Failure detection of solar panels using thermographic images captured by drone
Buerhop et al. aIR-PV-check: A quality inspection of PV-power plants without operation interruption
CN109818574A (en) System and method based on the detection of unmanned plane aerial photography technology photovoltaic solar panel hot spot
KR20180046177A (en) Method for detecting solar energy module being overheat by using drone and GIS
KR101985019B1 (en) Method for detecting solar energy module being overheat by using drone and GIS
JP6280846B2 (en) Inspection method for solar cell module
WO2019054075A1 (en) Abnormal portion detection system
Gallardo-Saavedra et al. Aerial thermographic inspection of photovoltaic plants: analysis and selection of the equipment
Park et al. Precise Inspection Method of Solar Photovoltaic Panel Using Optical and Thermal Infrared Sensor Image Taken by Drones
CN116205381A (en) Photovoltaic energy storage management method and related equipment
Kim et al. Automatic detection of malfunctioning photovoltaic modules using unmanned aerial vehicle thermal infrared images
Anweiler et al. Unmanned aerial vehicles for environmental monitoring with special reference to heat loss

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171225

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181122

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181211

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181217

R150 Certificate of patent or registration of utility model

Ref document number: 6454579

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250