JP2018152737A - 無人飛行撮影装置 - Google Patents

無人飛行撮影装置 Download PDF

Info

Publication number
JP2018152737A
JP2018152737A JP2017047883A JP2017047883A JP2018152737A JP 2018152737 A JP2018152737 A JP 2018152737A JP 2017047883 A JP2017047883 A JP 2017047883A JP 2017047883 A JP2017047883 A JP 2017047883A JP 2018152737 A JP2018152737 A JP 2018152737A
Authority
JP
Japan
Prior art keywords
image data
unit
imaging
flight
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017047883A
Other languages
English (en)
Other versions
JP6619761B2 (ja
Inventor
松岡 秀樹
Hideki Matsuoka
秀樹 松岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yanmar Co Ltd
Original Assignee
Yanmar Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yanmar Co Ltd filed Critical Yanmar Co Ltd
Priority to JP2017047883A priority Critical patent/JP6619761B2/ja
Publication of JP2018152737A publication Critical patent/JP2018152737A/ja
Application granted granted Critical
Publication of JP6619761B2 publication Critical patent/JP6619761B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)

Abstract

【課題】無人飛行撮影装置において、撮影して得られたデータに欠落等の異常があるか否かが早期に分かるようにする。【解決手段】マルチコプター40は、飛行体と、マルチスペクトルカメラ2と、画像データ記憶部15と、データ異常判定部18と、報知部19と、を備える。飛行体は、無人で飛行する。マルチスペクトルカメラ2は、飛行体に搭載され、撮影対象物のうち複数箇所を撮影する。画像データ記憶部15は、飛行体に搭載され、マルチスペクトルカメラ2で撮影して得られた画像データを記憶する。データ異常判定部18は、画像データ記憶部15に記憶された画像データを参照して、無効な画像データが含まれている場合、又は必要な画像データが欠落している場合に、画像データに異常があると判定する。報知部19は、画像データに異常があるとデータ異常判定部18により判定された場合に、その旨を報知する。【選択図】図2

Description

本発明は、飛行しながら調査対象物を撮影する無人飛行撮影装置に関する。
この種の無人飛行撮影装置は、例えば特許文献1に開示されている。特許文献1の無人飛行撮影装置(無人ヘリコプタ)は、撮像装置と、キャプチャ装置と、映像送信装置と、を備えた構成となっている。この撮像装置は、空中から、調査対象物である圃場の画像を撮影する。キャプチャ装置は、撮像装置で撮影された映像から所望の静止画を切り出して保存する。映像送信装置は、撮像装置で撮影された映像を基地局側に送信する。
この特許文献1では、撮像装置で撮影して得られたデータをキャプチャ装置に保存するだけではなく、撮影して得られた映像の保存状況等の情報を、無線LANの通信規格を利用して、基地局側の装置に供給することが可能となっている。特許文献1では、この構成により、常時基地局において計測データの保存状況を確認できる、としている。
特開2011−254711号公報
しかし、無線LANは、比較的近距離での通信にしか用いることができないのが現状である。例えば圃場が広大であって、圃場を空中から撮影する無人ヘリコプタが基地局の位置から大きく離れると、無線通信が途切れてしまうことが考えられる。このように、特許文献1に記載の構成では、結局は、無人ヘリコプタの着陸後に、ヘリコプタ側に保存されたデータを何らかの方法で外部のコンピュータに読み出し、データに欠落等の異常が無いか等の確認をしなければ、データを実質的に漏れなく取得できているか否かを知ることができなかった。
データが完全ではなかったことが判明した場合、再飛行して撮り直しをすることが考えられるが、元の撮影から時間が経過していると、状況が変化しているために全データを撮り直す必要が生じる場合等があって、多くの手間が掛かることとなる。そのため、データに欠落等の異常があるか否かが早期に分かるようにすることが望まれていた。
本発明は以上の事情に鑑みてされたものであり、その目的は、無人飛行撮影装置において、撮影して得られたデータに欠落等の異常があるか否かが早期に分かるようにすることにある。
課題を解決するための手段及び効果
本発明の解決しようとする課題は以上の如くであり、次にこの課題を解決するための手段とその効果を説明する。
本発明の観点によれば、以下の構成の無人飛行撮影装置が提供される。即ち、この無人飛行撮影装置は、飛行体と、撮影装置と、画像データ記憶部と、画像データ異常判定部と、報知部と、を備える。前記飛行体は、無人で飛行する。前記撮影装置は、前記飛行体に搭載され、撮影対象物のうち複数箇所を撮影する。前記画像データ記憶部は、前記飛行体に搭載され、前記撮影装置で撮影して得られた画像データを記憶する。前記画像データ異常判定部は、前記画像データ記憶部に記憶された前記画像データを参照して、無効な画像データが含まれている場合、又は必要な画像データが欠落している場合に、画像データに異常があると判定する。前記報知部は、前記画像データに異常があると前記画像データ異常判定部により判定された場合に、その旨を報知する。
これにより、無人飛行撮影装置の側で、撮影装置で撮影して得られた画像データを参照し、無効な画像データが含まれているか、或いは必要な画像データが欠落しているかを判定し、それらの何れかに該当する場合にその旨を報知するので、撮影のやり直しが必要な場合に、オペレータ又は周囲の監視者が早期にそれを知って機動的に対応することができる。また、画像データの異常を、例えば調査対象物の全体を分析するために別の装置にて画像データを結合する前の段階で検知することができるので、撮影により収集した画像データの完全性を容易に確保することができる。
前記の無人飛行撮影装置においては、前記報知部は、前記画像データに異常がある旨を、全部の撮影対象物の撮影を終えたとき、複数のうち1つの撮影対象物の撮影を終えたとき、又は現在の撮影対象物を撮影中に報知することが好ましい。
これにより、撮影のやり直しが必要な場合に実質的にその場で知ることができるので、概ね同じ条件で直ちに再撮影を行うことができる。
前記の無人飛行撮影装置においては、以下の構成とすることが好ましい。即ち、この無人飛行撮影装置は、位置情報取得部と、飛行予定領域記憶部と、再撮影領域取得部と、を備える。前記位置情報取得部は、前記飛行体の位置情報を取得する。前記飛行予定領域記憶部は、撮影対象物に対応する、前記飛行体の飛行予定の領域の位置情報を記憶する。前記再撮影領域取得部は、前記画像データに異常があると前記画像データ異常判定部により判定された場合に、撮影対象物の再撮影が必要な領域を取得する。前記画像データ記憶部は、撮影時の前記飛行体の位置情報と対応付けて各々の前記画像データを記憶する。前記再撮影領域取得部は、前記飛行予定領域記憶部から読み出した前記飛行予定の領域の位置情報と、前記画像データ異常判定部で異常がないと判定された画像データに対応付けられた位置情報と、に基づいて、再撮影が必要な領域の位置情報を取得する。
これにより、撮影のやり直しが必要な領域を自動的に取得することができるので、再撮影の作業効率を向上することができる。
前記の無人飛行撮影装置においては、以下の構成とすることが好ましい。即ち、この無人飛行撮影装置は、遠隔操作端末と、再撮影領域情報送信部と、を更に備える。前記遠隔操作端末は、オペレータが前記飛行体を遠隔操作するために使用される。前記再撮影領域情報送信部は、前記再撮影領域取得部で取得した前記領域の情報を前記遠隔操作端末に表示させるための信号を送信する。
これにより、飛行体を遠隔操作しているオペレータが、手元の遠隔操作端末を参照することにより、飛行・撮影をやり直す必要がある領域を容易に知ることができ、再撮影を円滑に行うことができる。
前記の無人飛行撮影装置においては、前記再撮影領域取得部で取得した前記領域において撮影対象物を撮影するために前記飛行体を飛行させる飛行経路を生成する飛行経路生成部を備えることが好ましい。
これにより、飛行経路生成部で生成された飛行経路に沿って飛行体を飛行させて再撮影を行うことにより、実質的に欠落している画像データを容易に補うことができる。
前記の無人飛行撮影装置においては、前記飛行経路生成部で生成された飛行経路に沿って前記飛行体を自律飛行させる自律飛行制御部を更に備えることが好ましい。
これにより、無人飛行撮影装置を自律的に飛行させて撮影のやり直しを行わせることができるため、オペレータの作業負担が軽減される。
本発明の第1実施形態に係るマルチコプターの全体的な構成を示す模式図。 マルチコプターの主要な電気的構成を示すブロック図。 マルチコプターにおいて、撮影して得られた画像データに欠落等の異常がある場合にその旨を知らせるために行われる処理を示すフローチャート。 第3実施形態に係るマルチコプターの主要な電気的構成を示すブロック図。 第3実施形態のマルチコプターにおいて、データの補足のための撮影が必要な領域を示す情報であって、無線通信端末のディスプレイに表示される表示内容の例を示す図。 第3実施形態のマルチコプターにおいて、必要な画像データの補足のために再飛行させる飛行経路の生成例を示す図。
<第1実施形態>
次に、図面を参照して本発明の実施の形態を説明する。図1は、本発明の第1実施形態に係るマルチコプター40の全体的な構成を示す模式図である。図2は、マルチコプター40の主要な電気的構成を示すブロック図である。
図1に示すマルチコプター(無人飛行撮影装置)40は、情報収集用の撮像装置を搭載し、オペレータが無線通信端末(遠隔操作端末)41を用いて遠隔操作することが可能なものである。本実施形態のマルチコプター40は、主たる構成として、飛行体1と、マルチスペクトルカメラ(撮影装置)2と、ジンバル装置3と、バッテリー4と、測位用アンテナ8と、制御部10と、を備えている。
飛行体1は、マルチコプター本体(機体)であり、複数のプロペラ(回転翼、翼)5を有する。また、飛行体1は、プロペラ5を駆動するための電動機(例えば、電動モータ)6を備えている。電動機6を適宜に駆動することにより、複数のプロペラ5のそれぞれの回転数を制御し、プロペラ5の回転によって得られる揚力をマルチコプター40の重力との関係で変更することで、マルチコプター40の上昇・下降のほか、ホバリングや水平飛行を実現することができる。
マルチスペクトルカメラ2は、例えば2バンド(可視赤外光及び近赤外光)の画像を同時に撮像することができるデジタルカメラとして構成されている。このマルチスペクトルカメラ2は、ジンバル装置3に支持された状態で、飛行体1の下部に取り付けられている。このマルチスペクトルカメラ2により、農作物が栽培されている圃場(撮影対象物)70を上空から撮像して画像データを得ることができる。マルチスペクトルカメラ2による撮影は、オペレータが無線通信端末41を操作することにより遠隔で行うことができる。
ジンバル装置3は、マルチスペクトルカメラ2のレンズが常に鉛直下向きとなるように、当該マルチスペクトルカメラ2を支持するものである。ジンバル装置3は、飛行体1の姿勢にかかわらずマルチスペクトルカメラ2の撮像光軸の向きが常にほぼ一定に保たれるように動作する。これにより、マルチスペクトルカメラ2を用いて、圃場70を上空から平面的に撮像することができる。
バッテリー4は、プロペラ5を回転させるために電動機6に供給する電力や、飛行体1に搭載される様々な電子機器に供給する電力を、蓄えることができる蓄電装置である。バッテリー4は着脱可能に構成されており、バッテリー4の蓄電量が少なくなった場合は、充電済みの他のバッテリーに手作業で交換することができる。
測位用アンテナ8は、GNSS等の衛星測位システムに基づいて自ら(飛行体1)の位置情報を取得するために用いられるアンテナである。取得された飛行体1の位置情報は無線通信端末41に送信され、オペレータが確認できるようにするために、マルチコプター40の現在位置が、無線通信端末41が備える図略のディスプレイに表示される。また、飛行体1の位置情報は、マルチスペクトルカメラ2による撮影時の位置の記録のために用いられる。
無線通信端末41は、上昇、下降、左右移動、旋回等をマルチコプター40に指示するための操作レバーを備えるほか、圃場70の撮影をマルチコプター40に指示するための撮影ボタンを備える。また、無線通信端末41はタッチパネル付きのディスプレイを備えており、オペレータは、このディスプレイに表示された情報(例えば、マルチコプター40の現在位置に関する情報等)を参照して確認することができる。
このような構成のマルチコプター40は、オペレータが無線通信端末41を操作することにより、プロペラ5を用いて飛行しながら圃場70をマルチスペクトルカメラ2で撮像し、静止画の画像データ(データ)を取得することができる。通常、圃場70の全域を1枚の画像データでカバーするように撮影することは飛行高度の観点等から困難であるため、オペレータは、マルチコプター40が水平に飛行して位置を変えながら圃場70の撮影を繰り返すように無線通信端末41を操作する。また、別の観点から言えば、圃場70の全域を1枚の画像データでカバーするように撮影すると、圃場70を小さくしか撮影できず、画像の精度が下がってしまうこともあって、通常、オペレータは、圃場70の複数枚の画像データに分割して撮影する。こうして収集された多数の画像データは、マルチコプター40がステーションに帰還したときに、マルチコプター40から図示しない管理コンピュータに転送される。
マルチコプター40が収集した画像データは、圃場70に関する詳細な分析のために用いられる。具体的には、管理コンピュータに格納された画像データが別の解析用コンピュータに送られ、撮影時の位置情報に基づいて多数の画像データを結合することにより圃場70の全体を表す1枚の画像データに変換された後、圃場70における作物71の生育状態のバラツキを表す生育分布画像が生成される。これにより、圃場70内での作物71の生育状態のバラツキ等を視覚的に評価することができる。なお、マルチスペクトルカメラ2で撮像されたデータは、生育分布画像を生成する目的に用いられるほか、他の様々な用途に用いることもできる。
マルチコプター40は、収集すべき全ての画像データの撮影が終了した場合、バッテリー4の蓄電量が残り少なくなった場合、画像データを記憶するメモリの残り容量が少なくなった場合等に、オペレータの操作によってステーションに帰還する。マルチコプター40がステーションに着陸すると、前記管理コンピュータへの画像データの転送、バッテリー4の交換等が行われる。
以下では、マルチコプター40の電気的構成について、図2を参照して説明する。図2は、マルチコプター40の主要な電気的構成を示すブロック図である。
本実施形態のマルチコプター40は、飛行体1の飛行・着陸・離陸や、マルチスペクトルカメラ2での撮影のタイミング等を、総合的に制御するための制御部10を備えている。制御部10に対して、システムバス31を通じて、マルチスペクトルカメラ2、無線通信部11、飛行制御部12、位置情報算出部(位置情報取得部)14、画像データ記憶部15、データ転送部16、飛行予定領域記憶部17、データ異常判定部(画像データ異常判定部)18、及び報知部19等が電気的に接続されている。
制御部10は、コンピュータとして構成されており、CPU、ROM、RAM等を備える。また、前記ROMには、マルチコプター40を、例えば飛行体1の位置情報、画像データ記憶部15に記憶される画像データの内容等に応じて適宜に動作させるためのプログラム等が記憶されている。このソフトウェアとハードウェアの協働により、制御部10を、システムバス31に接続された各部を制御するための指令部として機能させることが可能である。
無線通信部11は、ユーザが操作する無線通信端末41からの信号を近距離無線通信用アンテナ32を介して受信し、信号処理した後に、制御部10に入力する。また、無線通信部11は、制御部10から無線通信端末41に送信する信号を信号処理した後に、近距離無線通信用アンテナ32を介して無線通信端末41に送信する。なお、本実施形態において、無線通信部11と無線通信端末41との間で行われる無線通信は、例えば2.4GHz帯の周波数帯を利用した近距離無線通信を利用することができるが、これに限るものではなく、他の通信規格による無線通信が行われてもよい。
飛行制御部12は、電動機6の駆動状態を制御することにより、複数のプロペラ5を適宜に回転させて、飛行体1の上昇、下降、及び水平移動等を行わせる。
位置情報算出部14は、測位用アンテナ8で受信された測位衛星システムからの測位信号に基づいて、飛行体1の位置情報を、例えば緯度・経度情報として算出するものである。
画像データ記憶部15は、マルチスペクトルカメラ2で撮影して得られた画像データをファイルとして記憶するメモリである。画像データ記憶部15は、カメラ撮影時において位置情報算出部14から取得した飛行体1の位置情報を、画像データと対応付けて記録する。本実施形態では、各画像データのファイルに緯度及び経度の情報をメタ情報として記述することで位置情報の対応付けを実現しているが、対応付けの方法はこれに限定されない。
データ転送部16は、マルチコプター40が地上のステーションに帰還したときに、画像データ記憶部15に記憶された画像データを前記管理コンピュータに転送する処理を行うものである。
飛行予定領域記憶部17は、撮影対象の圃場70に対応する、飛行体1が飛行を予定する領域(飛行予定領域)の位置情報を記憶するものである。本実施形態では、オペレータが無線通信端末41を操作することにより、飛行予定領域の位置情報を飛行予定領域記憶部17に記憶させることが可能となっている。具体的には、本実施形態では、無線通信端末41のディスプレイに当該無線通信端末41の周辺の地図又は空中写真を表示させた状態で、オペレータが圃場70の角(頂点)に相当する複数の点をタッチパネルに触れて指定することで、多角形状の領域を飛行予定領域として指定することができる。指定された飛行予定領域は、飛行予定領域記憶部17に記憶される。
データ異常判定部18は、画像データ記憶部15に記憶された画像データを参照して、無効な画像データが含まれている場合、又は必要な画像データが欠落している場合の何れかに該当するか否かを判断するものである。この判断の結果、上記の2つの場合のうち少なくとも何れかに該当する場合には、データ異常判定部18は、画像データに異常があると判定する。
データ異常判定部18は、1つの圃場70について画像データの取得作業が終わると、画像データの異常の有無の判定を行う。なお、実際の調査では、1回の飛行で1つの圃場70の画像データを取得する場合もあれば、互いに物理的に離れた複数の圃場70の画像データを1回の飛行で取得する場合もある。1回の飛行で複数の圃場70の画像データを取得する場合、撮影は1つの圃場70ずつ順番に行うとともに、データ異常判定部18は、撮影を予定する複数の圃場70のそれぞれについて撮影が終わる毎に、当該圃場70について取得した画像データの中に異常があるか否かの判断を行う。ただし、データ異常判定部18の判断は、複数の圃場70の全部について撮影により画像データを取得した後に行われてもよい。
報知部19は、画像データ記憶部15に記憶された画像データに異常があるとデータ異常判定部18により判定された場合に、その旨を報知するものである。具体的には、本実施形態の報知部19は、飛行体1に取り付けられた報知ランプ9(図1を参照)を点灯させるための信号を当該報知ランプ9に送る。これにより、画像データに異常がある場合には報知ランプ9が点灯するので、無線通信端末41を用いてマルチコプター40を操作するオペレータや、これを見守る周辺の作業者が、その圃場70について撮り直しを行う必要があることを早期に知ることができる。
以下では、本実施形態において、圃場70の撮影結果の異常をオペレータ等に知らせるために制御部10により行われる処理について、図3を参照して詳細に説明する。図3は、マルチコプター40において、撮影して得られた画像データに欠落等の異常がある場合にその旨を知らせるために行われる処理を示すフローチャートである。
初めに、制御部10は、今回の撮影対象である1つの圃場70のひととおりの撮影が終わったか否かを判断する(ステップS101)。具体的には、制御部10は、マルチコプター40の位置が、直前には圃場70の領域内にあったのが、現在は圃場70の領域外に至っており、かつ、その状態が所定時間以上続いていれば、圃場70の撮影が終了し、そうでなければ撮影の途中であると判断する。なお、マルチコプター40が圃場70の領域内にあるか否かは、位置情報算出部14で取得したマルチコプター40の位置と、飛行予定領域記憶部17に記憶されている飛行予定領域の情報と、に基づいて判定することができる。
ステップS101での判断の結果、圃場70の撮影が途中である場合には(ステップS101、No)、圃場70の撮影が完了するまで待機する。
ステップS101での判断の結果、圃場70の撮影が終了している場合(ステップS101、Yes)、データ異常判定部18は、撮影で得られた多数の画像データの中に無効な画像データが含まれているか否かを判定する。
画像データの無効判定の方法としては様々であるが、例えば、ファイルサイズがゼロである場合や、所定の画像ファイルフォーマットで記録されていない場合は、ファイルが壊れているために無効であると判定することができる。また、ある画像データにおいて極端な輝度の画素が画像の広範囲に現れている場合は、レンズに土等が付着していたり、ハレーションが写り込んだりしているため、無効であると判定することが考えられる。更に、緑色の作物71が大部分を占めるはずの圃場70を撮像しているのに、画像データにおいて緑色の画素の割合が画像の中で極端に低い場合には、無効であると判定することができる。更に言えば、マルチコプター40の振動による大きな加速度等に起因して画像データが壊れてしまったり、或いは画像が大きくブレてしまっている場合にも、画像データを無効であると判定することができる。
データ異常判定部18が、画像データに無効な画像データが含まれていると判定したら(ステップS102、Yes)、報知部19は、信号を送ることにより報知ランプ9を点灯させる(ステップS103)。
ステップS102での判断の結果、画像データに無効な画像データが含まれていなかった場合(ステップS102、No)、続いてデータ異常判定部18は、画像データが欠落しているか否かを判定する(ステップS104)。
前述したとおり、画像データは、全体として1つの圃場70の全域をカバーするように取得されている必要がある。これを考慮して、本実施形態のデータ異常判定部18は、当該圃場70を撮影した全ての画像データについて、それぞれの画像データに対応付けられている位置情報に基づいて、マルチスペクトルカメラ2の一回の撮影で画像データに写る範囲(撮影範囲)に相当する矩形を仮想的に圃場70に配置する。そして、データ異常判定部18は、全ての矩形を配置した後、圃場70の中で何れの矩形によってもカバーされていない部分があった場合に、データが欠落していると判定する。
画像データが欠落していると判定された場合(ステップS104、Yes)、報知部19は報知ランプ9を点灯させるための信号を報知ランプ9に送り、当該報知ランプ9が点灯する(ステップS103)。
報知ランプ9の点灯に気付いたオペレータは、異常の詳細を把握するために、マルチコプター40をステーションに帰還させるように無線通信端末41を操作する。マルチコプター40は、オペレータの指示に従って飛行し(ステップS105)、ステーションに着陸する。オペレータは、圃場70のどの位置を撮影した画像が無効であるのか、また、圃場70のどの部分を撮影できていないのか等を調べた後、ランプによる報知のリセット作業を行い、必要であればバッテリー4を交換して、再撮影のためにマルチコプター40を当該圃場70へ再び向かわせる。
一方、ステップS104での判断の結果、画像データの欠落がなかった場合(ステップS104、No)、この圃場70に関しては必要な画像データが全て揃っていると考えられるので、報知ランプ9は点灯させず、オペレータの操作に従って飛行を継続する(ステップS105)。そして、例えば次の圃場の撮影に移行した場合、ステップS101に戻る。
ここで、仮に、マルチコプター40で取得した画像データ(撮影結果)に異常があることが長時間経過後に判明すると、状況が変化しているために撮り直す意味が無くなってしまったり、或いは調査の質を著しく低下させたりすることがあった。また、後日に改めて全領域を撮影し直すことになった場合も、当初の作業が無駄になるので、オペレータ等の作業負担が相当大きくなっていた。この点、本実施形態では、1つの圃場70の撮影を終えたときに、これを区切りにして、記憶された画像データに異常がないかが判定され、異常があった場合には報知ランプ9により直ちに報知される。よって、撮り直しの作業をその場で素早く行うことができ、作業負担を大幅に軽減することができる。
以上に説明したように、本実施形態のマルチコプター40は、飛行体1と、マルチスペクトルカメラ2と、画像データ記憶部15と、データ異常判定部18と、報知部19と、を備える。飛行体1は、無人で飛行する。マルチスペクトルカメラ2は、飛行体1に搭載され、撮影対象の圃場のうち複数箇所を撮影する。画像データ記憶部15は、飛行体1に搭載され、マルチスペクトルカメラ2で撮影して得られた画像データを記憶する。データ異常判定部18は、画像データ記憶部15に記憶された画像データを参照して、無効な画像データが含まれている場合、又は必要な画像データが欠落している場合に、画像データに異常があると判定する。報知部19は、画像データに異常があるとデータ異常判定部18により判定された場合に、その旨を報知する(図4のステップS103)。
これにより、飛行体1の側で、マルチスペクトルカメラ2で撮影して得られた画像データを参照し、無効な画像データが含まれているか、或いは必要な画像データが欠落しているかを判定し、それらの何れかに該当する場合にその旨を報知することができる。従って、圃場70の撮影のやり直しが必要な場合に、オペレータ又は飛行体1の周囲の監視者が早期にそれを知って機動的に対応することができる。また、画像データ記憶部15の異常を、例えば圃場70全体を分析するために別の装置にて画像データを結合する前の段階で検知することができるので、撮影により収集した画像データの完全性を容易に確保することができる。
また、本実施形態のマルチコプター40では、報知部19は、画像データに異常がある場合に、その旨を、複数のうち1つの圃場70の撮影を終えたときに報知する。
これにより、圃場70の撮影のやり直しが必要な場合に実質的にその場で知ることができるので、圃場70の撮影を、概ね同じ条件で直ちにやり直すことができる。
<第2実施形態>
次に、第2実施形態に係るマルチコプターについて説明する。なお、本実施形態の説明においては、前述の実施形態と同一又は類似の部材には図面に同一の符号を付し、説明を省略する場合がある。
本実施形態のマルチコプターは、今回の撮影対象である圃場70の撮影がひととおり終わるよりも前に、当該圃場70の撮影結果に異常があるか否かが判定される点で、第1実施形態とは異なっている。
以下、詳細に説明する。本実施形態では、圃場70を撮影して1つの画像データが生成される毎に、当該画像データについて無効かどうかの判定がデータ異常判定部18により行われる。この判定は、第1実施形態(図3のステップS102)で説明したものと同様に行うことができる。
また、本実施形態では、圃場70の全域をカバーするように撮影するための多数の撮影予定位置と、撮影を行う撮影予定位置の順番とが、予めオペレータにより指定されて、マルチコプター40側に記憶されている。この撮影予定位置は、例えば圃場70が矩形状である場合は、所定の間隔でm×nのマトリクス状に並べて配置することが考えられるが、これに限られない。オペレータは、無線通信端末41を操作することによりマルチコプター40を飛行させて、指定した順番どおりに撮影を進めていく。
データ異常判定部18は、マルチスペクトルカメラ2が圃場70を撮影して1つの画像データが生成される毎に、当該画像データに対応付けられている位置情報を読み出して、当該位置情報と、予め記憶している撮影予定位置と、の位置ズレを計算する。そして、このズレが所定値以上であれば、データ異常判定部18は画像データの欠落があると判定する。
データ異常判定部18により画像データの無効又は欠落があると判定された場合、報知ランプ9が点灯する。
本実施形態では、第1実施形態とは異なり、1つの圃場70の撮影をしている途中においても、画像データの異常をオペレータ等に知らせることができる。従って、例えば、直前の撮影により得られた画像データを差し替える形で即座に再撮影したり、圃場の撮影を途中で止めて直ちに始めからやり直したりする対応をとることが容易になる。
以上に説明したように、本変形例のマルチコプターでは、報知部19は、画像データに異常がある場合に、その旨を、現在の撮影対象の圃場70を撮影中に報知する。
これにより、圃場70の撮影のやり直しが必要な場合に、ひととおりの圃場70の撮影を終えるまでもなく、その場ですぐに知ることができるので、圃場の再撮影等をより柔軟に行うことができる。
<第3実施形態>
次に、第3実施形態に係るマルチコプター60について、図4を参照して説明する。図4は、第3実施形態に係るマルチコプター60の主要な電気的構成を示すブロック図である。なお、本実施形態の説明においては、前述の実施形態と同一又は類似の部材には図面に同一の符号を付し、説明を省略する場合がある。
第3実施形態に係るマルチコプター60は、第1実施形態で示した電気的構成に加えて、再撮影領域取得部21、再撮影領域情報送信部22、飛行経路生成部24、及び自律飛行制御部25等を備えている点で、第1実施形態とは異なっている。
また、本実施形態のマルチコプター60は、マニュアルで飛行させるだけではなく、必要に応じて自律的に飛行(以下、「自律飛行」と称する場合がある。)させることもできるように構成されている。
以下では、本実施形態に特有の構成について、図4を参照して説明する。
再撮影領域取得部21は、画像データに異常があるとデータ異常判定部18により判定された場合に、圃場70の再撮影(撮影のやり直し)が必要な領域を取得(特定)するものである。再撮影領域取得部21は、飛行予定領域記憶部17から読み出した飛行予定の領域の位置情報と、データ異常判定部18で無効でないと判定された画像データに対応付けられた位置情報と、を対比することにより、圃場70の再撮影が必要な領域の位置等を取得する。
具体的には、再撮影領域取得部21は、当該圃場70を撮影した全ての画像データのうち、無効でないと判定されたデータについて、それぞれの画像データに対応付けられている位置情報に基づいて、マルチスペクトルカメラ2の1回の撮影範囲に相当する矩形を仮想的に圃場70(飛行予定領域)に配置する。そして、再撮影領域取得部21は、全ての矩形を配置した後、圃場70の中で何れの矩形によってもカバーされていない部分があった場合に、当該部分を、撮影のやり直しが必要な領域であると判定する。
再撮影領域情報送信部22は、再撮影領域取得部21で取得された再撮影領域(撮影のやり直しが必要な領域)に関する情報を無線通信端末41に表示させるための表示用データを作成し、無線通信部11及び近距離無線通信用アンテナ32を介して無線通信端末41に送信するものである。
図5には、再撮影領域情報送信部22で作成された表示用データに基づいて、再撮影領域に関する情報が無線通信端末41のディスプレイに表示された様子が示されている。図5に示すように、ディスプレイには、画像データが無効であったり、画像データそのものがなかったり、あるいは飛行体1が風で流されて撮影位置のズレが生じる等して、再撮影が必要になった領域がグラフィカルに表示されている。
飛行経路生成部24は、マルチコプター60に、再撮影領域取得部21で取得された再撮影領域を取りこぼしなく飛行させるための飛行経路を生成するものである。本実施形態の飛行経路生成部24は、1回の撮像で画像データに写る圃場70の範囲も考慮して、再撮影が必要な領域の上空を効率良く飛行できる飛行経路を、計算により生成する。図6には、飛行経路生成部24が生成する飛行経路の例が示されている。
自律飛行制御部25は、飛行経路生成部24で生成された飛行経路に沿って、マルチコプター60を自律的に飛行させるものである。オペレータが無線通信端末41を操作することにより自律飛行の開始を指示した場合、自律飛行制御部25は、制御部10に代わって、飛行制御部12等を制御する。これにより、飛行経路生成部24で生成された飛行経路に沿って自動でマルチコプター60を飛行させ、再撮影を行うことができる。なお、再撮影のための飛行は、マルチコプター60がステーションに帰還する前に行ってもよいし、いったんステーションに帰還してバッテリー4を交換してから行ってもよい。
以上に説明したように、本実施形態のマルチコプター60は、位置情報算出部14と、飛行予定領域記憶部17と、再撮影領域取得部21と、を備える。位置情報算出部14は、飛行体1の位置情報を取得する。飛行予定領域記憶部17は、撮影対象の圃場70に対応する、飛行体1の飛行予定の領域の位置情報を記憶する。再撮影領域取得部21は、画像データに異常があるとデータ異常判定部18により判定された場合に、圃場70の再撮影が必要な領域を取得する。画像データ記憶部15は、撮影時の飛行体1の位置情報と対応付けて各々の画像データを記憶する。再撮影領域取得部21は、飛行予定領域記憶部17から読み出した前記飛行予定の領域の位置情報と、データ異常判定部18で異常がないと判定された画像データに対応付けられた位置情報と、に基づいて、圃場70の再撮影が必要な領域の位置情報を取得する。
これにより、撮影のやり直しが必要な領域を自動的に取得することができるので、再撮影の作業効率を向上することができる。
また、本実施形態のマルチコプター60は、無線通信端末(遠隔操作端末)41と、再撮影領域情報送信部22と、を更に備える。無線通信端末41は、オペレータが飛行体1を遠隔操作するためのものである。再撮影領域情報送信部22は、再撮影領域取得部21で取得した前記領域の情報を無線通信端末41に表示させるための信号を送信する(図5の表示例を参照)。
これにより、飛行体1を遠隔操作しているオペレータが、手元の無線通信端末41のディスプレイを参照することにより、飛行・撮影をやり直す必要がある領域を容易に知ることができ、圃場70の撮影のやり直しを円滑に行える。
また、本実施形態のマルチコプター60は、再撮影領域取得部21で取得した前記領域(図5のハッチングの領域を参照)において撮影対象の圃場70を撮影するために飛行体1を飛行させる飛行経路(図6の矢印を参照)を生成する飛行経路生成部24を備える。
これにより、飛行経路生成部24で生成された飛行経路に沿って飛行体1を飛行させて再撮影を行うことで、実質的に欠落している画像データを容易に補うことができる。
また、本実施形態のマルチコプター60は、飛行経路生成部24で生成された飛行経路(図6の矢印を参照)に沿って飛行体1を自律飛行させる自律飛行制御部25を更に備える。
これにより、マルチコプター60を自律的に飛行させて撮影のやり直しを行わせることができるため、オペレータの作業負担が軽減される。
以上に本発明の好適な実施の形態を説明したが、上記の構成は例えば以下のように変更することができる。
上記の実施形態では、画像データ記憶部15に記憶された画像データに欠落等の異常がある場合には、報知ランプ9を点灯することにより報知することしたが、これに限るものではなく、例えばこれに代えて、音等により報知することとしてもよい。また、異常の報知は、無線通信端末41においてランプを点灯させること等により行われてもよい。
上記の実施形態では、データ異常判定部18による画像データに異常があるか否かの判定、及び、報知部19による報知は、1つの圃場70の撮影を終えたとき、又は現在の撮影対象の圃場70を撮影中に行われるものとしたが、必ずしもこれに限るものではない。例えば、撮影のための飛行を終えてマルチコプター40がステーションに着陸したときに、データ異常判定部18による判定、及び報知部19による報知が行われるものとしてもよい。その場合も、その日中に圃場70の撮影のやり直しを行える可能性が高いので、従来のように後日に再飛行して全データの撮り直しをするほどの手間は掛からず、作業負担を軽減できるということができる。
第1実施形態及び第2実施形態のマルチコプター40は、オペレータが手動で操縦する構成に代えて、測位により得られた位置情報を利用して、予め定められた経路に沿って自律的に無人飛行及び撮影を行う構成に変更することもできる。第3実施形態のマルチコプター60においても、再撮影だけでなく最初の撮影を自律飛行により行うことができる。
第3実施形態のマルチコプター60において、オペレータが図5等のディスプレイの表示を参考にして、再撮影を手動操作で行うように変更することもできる。この場合、飛行経路生成部24によって生成された飛行経路を無線通信端末41のディスプレイに表示するように構成すると、利便性が向上するために好ましい。
1 飛行体
2 マルチスペクトルカメラ(撮影装置)
9 報知ランプ
15 画像データ記憶部
18 データ異常判定部(画像データ異常判定部)
19 報知部
40 マルチコプター(無人飛行撮影装置)

Claims (6)

  1. 無人で飛行する飛行体と、
    前記飛行体に搭載され、撮影対象物のうち複数箇所を撮影する撮影装置と、
    前記飛行体に搭載され、前記撮影装置で撮影して得られた画像データを記憶する画像データ記憶部と、
    前記画像データ記憶部に記憶された前記画像データを参照して、無効な画像データが含まれている場合、又は必要な画像データが欠落している場合に、画像データに異常があると判定する画像データ異常判定部と、
    前記画像データに異常があると前記画像データ異常判定部により判定された場合に、その旨を報知する報知部と、
    を備えることを特徴とする無人飛行撮影装置。
  2. 請求項1に記載の無人飛行撮影装置であって、
    前記報知部は、前記画像データに異常がある旨を、全部の撮影対象物の撮影を終えたとき、複数のうち1つの撮影対象物の撮影を終えたとき、又は現在の撮影対象物を撮影中に報知することを特徴とする無人飛行撮影装置。
  3. 請求項1又は2に記載の無人飛行撮影装置であって、
    前記飛行体の位置情報を取得する位置情報取得部と、
    撮影対象物に対応する、前記飛行体の飛行予定の領域の位置情報を記憶する飛行予定領域記憶部と、
    前記画像データに異常があると前記画像データ異常判定部により判定された場合に、撮影対象物の再撮影が必要な領域を取得する再撮影領域取得部と、
    を備え、
    前記画像データ記憶部は、撮影時の前記飛行体の位置情報と対応付けて各々の前記画像データを記憶し、
    前記再撮影領域取得部は、前記飛行予定領域記憶部から読み出した前記飛行予定の領域の位置情報と、前記画像データ異常判定部で異常がないと判定された画像データに対応付けられた位置情報と、に基づいて、再撮影が必要な領域の位置情報を取得することを特徴とする無人飛行撮影装置。
  4. 請求項3に記載の無人飛行撮影装置であって、
    オペレータが前記飛行体を遠隔操作するために使用される遠隔操作端末と、
    前記再撮影領域取得部で取得した前記領域の情報を前記遠隔操作端末に表示させるための信号を送信する再撮影領域情報送信部と、
    を更に備えることを特徴とする無人飛行撮影装置。
  5. 請求項3又は4に記載の無人飛行撮影装置であって、
    前記再撮影領域取得部で取得した前記領域において撮影対象物を撮影するために前記飛行体を飛行させる飛行経路を生成する飛行経路生成部を備えることを特徴とする無人飛行撮影装置。
  6. 請求項5に記載の無人飛行撮影装置であって、
    前記飛行経路生成部で生成された飛行経路に沿って前記飛行体を自律飛行させる自律飛行制御部を更に備えることを特徴とする無人飛行撮影装置。
JP2017047883A 2017-03-13 2017-03-13 無人飛行撮影装置 Active JP6619761B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017047883A JP6619761B2 (ja) 2017-03-13 2017-03-13 無人飛行撮影装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017047883A JP6619761B2 (ja) 2017-03-13 2017-03-13 無人飛行撮影装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2019207207A Division JP6833005B2 (ja) 2019-11-15 2019-11-15 無人飛行撮影装置

Publications (2)

Publication Number Publication Date
JP2018152737A true JP2018152737A (ja) 2018-09-27
JP6619761B2 JP6619761B2 (ja) 2019-12-11

Family

ID=63679584

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017047883A Active JP6619761B2 (ja) 2017-03-13 2017-03-13 無人飛行撮影装置

Country Status (1)

Country Link
JP (1) JP6619761B2 (ja)

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020004029A1 (ja) * 2018-06-26 2020-01-02 ソニー株式会社 制御装置および方法、並びにプログラム
JPWO2018163571A1 (ja) * 2017-03-10 2020-01-09 ソニー株式会社 情報処理装置、情報処理方法および情報処理プログラム
WO2020008973A1 (ja) * 2018-07-03 2020-01-09 富士フイルム株式会社 撮影計画提示装置および方法
JPWO2020179168A1 (ja) * 2019-03-05 2020-09-10
WO2020189506A1 (ja) * 2019-03-18 2020-09-24 株式会社ナイルワークス ドローン、ドローンの制御方法、および、ドローンの制御プログラム
CN111953892A (zh) * 2019-05-16 2020-11-17 阿尔派株式会社 无人飞行器、检查方法及检查程序
JP2020191523A (ja) * 2019-05-21 2020-11-26 アルパイン株式会社 無人移動体
CN113406014A (zh) * 2021-05-25 2021-09-17 青岛欧森海事技术服务有限公司 一种基于多光谱成像设备的溢油监测系统及方法
WO2021255940A1 (ja) * 2020-06-19 2021-12-23 株式会社ナイルワークス 作物の生育診断を行うドローンと、そのカメラシステム
CN114324193A (zh) * 2022-01-10 2022-04-12 浙江大学华南工业技术研究院 基于uav-ppk技术的作物养分原位监测系统及方法
WO2022137866A1 (ja) * 2020-12-24 2022-06-30 ソニーグループ株式会社 情報処理装置、情報処理方法、プログラムおよび移動装置
WO2023089984A1 (ja) * 2021-11-19 2023-05-25 富士フイルム株式会社 移動体、移動体撮影システム及び移動体撮影方法
WO2023234079A1 (ja) * 2022-06-01 2023-12-07 コニカミノルタ株式会社 データ処理装置、データ処理システム、データ処理方法及びプログラム
JP7486805B2 (ja) 2020-09-16 2024-05-20 国立研究開発法人農業・食品産業技術総合研究機構 情報処理装置、システム、情報処理方法、及びプログラム
US12010426B2 (en) 2018-06-26 2024-06-11 Sony Corporation Control device and method

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017015704A (ja) * 2015-06-30 2017-01-19 パロット ドローンズ ドローンに搭載されて土地をマッピングするように適合されたカメラユニット、およびカメラユニットによる画像撮像管理方法
JP2017034444A (ja) * 2015-07-31 2017-02-09 オリンパス株式会社 撮像装置および撮像方法
WO2018163571A1 (ja) * 2017-03-10 2018-09-13 ソニー株式会社 情報処理装置、情報処理方法および情報処理プログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017015704A (ja) * 2015-06-30 2017-01-19 パロット ドローンズ ドローンに搭載されて土地をマッピングするように適合されたカメラユニット、およびカメラユニットによる画像撮像管理方法
JP2017034444A (ja) * 2015-07-31 2017-02-09 オリンパス株式会社 撮像装置および撮像方法
WO2018163571A1 (ja) * 2017-03-10 2018-09-13 ソニー株式会社 情報処理装置、情報処理方法および情報処理プログラム

Cited By (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7136079B2 (ja) 2017-03-10 2022-09-13 ソニーグループ株式会社 情報処理装置、情報処理方法および情報処理プログラム
JPWO2018163571A1 (ja) * 2017-03-10 2020-01-09 ソニー株式会社 情報処理装置、情報処理方法および情報処理プログラム
JP7310811B2 (ja) 2018-06-26 2023-07-19 ソニーグループ株式会社 制御装置および方法、並びにプログラム
WO2020004029A1 (ja) * 2018-06-26 2020-01-02 ソニー株式会社 制御装置および方法、並びにプログラム
JPWO2020004029A1 (ja) * 2018-06-26 2021-08-05 ソニーグループ株式会社 制御装置および方法、並びにプログラム
US12010426B2 (en) 2018-06-26 2024-06-11 Sony Corporation Control device and method
WO2020008973A1 (ja) * 2018-07-03 2020-01-09 富士フイルム株式会社 撮影計画提示装置および方法
US11895396B2 (en) 2018-07-03 2024-02-06 Fujifilm Corporation Imaging plan presentation apparatus and method for updating and re-generating an imaging plan
JPWO2020008973A1 (ja) * 2018-07-03 2021-09-09 富士フイルム株式会社 撮影計画提示装置および方法
US11528411B2 (en) 2018-07-03 2022-12-13 Fujifilm Corporation Imaging plan presentation apparatus and method for updating and re-generating an imaging plan
WO2020179168A1 (ja) * 2019-03-05 2020-09-10 株式会社日立国際電気 監視システム
JPWO2020179168A1 (ja) * 2019-03-05 2020-09-10
JP7213333B2 (ja) 2019-03-05 2023-01-26 株式会社日立国際電気 監視システム
JPWO2020189506A1 (ja) * 2019-03-18 2020-09-24
WO2020189506A1 (ja) * 2019-03-18 2020-09-24 株式会社ナイルワークス ドローン、ドローンの制御方法、および、ドローンの制御プログラム
JP7045122B2 (ja) 2019-03-18 2022-03-31 株式会社ナイルワークス ドローン、ドローンの制御方法、および、ドローンの制御プログラム
CN111953892A (zh) * 2019-05-16 2020-11-17 阿尔派株式会社 无人飞行器、检查方法及检查程序
JP7305263B2 (ja) 2019-05-16 2023-07-10 アルパイン株式会社 無人航空機、点検方法および点検プログラム
CN111953892B (zh) * 2019-05-16 2024-01-26 阿尔派株式会社 无人飞行器、检查方法
JP2020185941A (ja) * 2019-05-16 2020-11-19 アルパイン株式会社 無人航空機、点検方法および点検プログラム
JP7362203B2 (ja) 2019-05-21 2023-10-17 アルパイン株式会社 無人移動体
JP2020191523A (ja) * 2019-05-21 2020-11-26 アルパイン株式会社 無人移動体
WO2021255940A1 (ja) * 2020-06-19 2021-12-23 株式会社ナイルワークス 作物の生育診断を行うドローンと、そのカメラシステム
JP7486805B2 (ja) 2020-09-16 2024-05-20 国立研究開発法人農業・食品産業技術総合研究機構 情報処理装置、システム、情報処理方法、及びプログラム
WO2022137866A1 (ja) * 2020-12-24 2022-06-30 ソニーグループ株式会社 情報処理装置、情報処理方法、プログラムおよび移動装置
CN113406014A (zh) * 2021-05-25 2021-09-17 青岛欧森海事技术服务有限公司 一种基于多光谱成像设备的溢油监测系统及方法
WO2023089984A1 (ja) * 2021-11-19 2023-05-25 富士フイルム株式会社 移動体、移動体撮影システム及び移動体撮影方法
CN114324193A (zh) * 2022-01-10 2022-04-12 浙江大学华南工业技术研究院 基于uav-ppk技术的作物养分原位监测系统及方法
WO2023234079A1 (ja) * 2022-06-01 2023-12-07 コニカミノルタ株式会社 データ処理装置、データ処理システム、データ処理方法及びプログラム

Also Published As

Publication number Publication date
JP6619761B2 (ja) 2019-12-11

Similar Documents

Publication Publication Date Title
JP6619761B2 (ja) 無人飛行撮影装置
CN108496130B (zh) 飞行控制方法、设备、控制终端及其控制方法、无人机
JP5947634B2 (ja) 航空写真撮像方法及び航空写真撮像システム
US11644839B2 (en) Systems and methods for generating a real-time map using a movable object
JP7152836B2 (ja) 無人飛行体のアクションプラン作成システム、方法及びプログラム
JP6337226B1 (ja) 異常箇所検出システム
WO2020083114A1 (zh) 航拍相机的图像处理方法、图像处理系统及无人机
JP2010006089A (ja) ライフライン等の施設の被災、損傷、劣化状況の空撮装置
CN203872277U (zh) 变电站巡视系统
JP6578113B2 (ja) 飛行ロボット制御システム及び飛行ロボット
US20220262263A1 (en) Unmanned aerial vehicle search and rescue systems and methods
CN104062980A (zh) 一种无人机机载全景监测系统
JP2018070010A (ja) 無人航空機制御システム、その制御方法、及びプログラム
JP2019053446A (ja) 異常箇所検出システム
JP2017011469A (ja) 撮影装置、撮影方法、およびプログラム
CN112969977A (zh) 抓捕辅助方法、地面指挥平台、无人机、系统及存储介质
JP2018070011A (ja) 無人航空機制御システム、その制御方法、及びプログラム
JP2018154185A (ja) 情報収集用無人飛行装置
US20210352208A1 (en) Photographing system, photographed-portion setting apparatus, photographing apparatus, and photographing method
CN212850809U (zh) 一种无人机工程图像实时上传与分区展示系统
JP6833005B2 (ja) 無人飛行撮影装置
JP6555226B2 (ja) 無人航空機制御システム、その制御方法、及びプログラム
JP7274978B2 (ja) 飛行体の支援システム
CN114727028B (zh) 图像曝光方法及装置、无人机
CN108490971A (zh) 无人机作业平台

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181221

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190731

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190806

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191004

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191016

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191115

R150 Certificate of patent or registration of utility model

Ref document number: 6619761

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350