JP2020185941A - 無人航空機、点検方法および点検プログラム - Google Patents

無人航空機、点検方法および点検プログラム Download PDF

Info

Publication number
JP2020185941A
JP2020185941A JP2019092851A JP2019092851A JP2020185941A JP 2020185941 A JP2020185941 A JP 2020185941A JP 2019092851 A JP2019092851 A JP 2019092851A JP 2019092851 A JP2019092851 A JP 2019092851A JP 2020185941 A JP2020185941 A JP 2020185941A
Authority
JP
Japan
Prior art keywords
shooting
photographing
camera
angle
failure information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019092851A
Other languages
English (en)
Other versions
JP7305263B2 (ja
Inventor
陽介 舘
Yosuke Tachi
陽介 舘
謙一郎 藤田
Kenichiro Fujita
謙一郎 藤田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alpine Electronics Inc
Original Assignee
Alpine Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alpine Electronics Inc filed Critical Alpine Electronics Inc
Priority to JP2019092851A priority Critical patent/JP7305263B2/ja
Priority to US16/860,524 priority patent/US11430101B2/en
Priority to CN202010410540.2A priority patent/CN111953892B/zh
Publication of JP2020185941A publication Critical patent/JP2020185941A/ja
Application granted granted Critical
Publication of JP7305263B2 publication Critical patent/JP7305263B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64CAEROPLANES; HELICOPTERS
    • B64C39/00Aircraft not otherwise provided for
    • B64C39/02Aircraft not otherwise provided for characterised by special use
    • B64C39/024Aircraft not otherwise provided for characterised by special use of the remote controlled vehicle type, i.e. RPV
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64DEQUIPMENT FOR FITTING IN OR TO AIRCRAFT; FLIGHT SUITS; PARACHUTES; ARRANGEMENT OR MOUNTING OF POWER PLANTS OR PROPULSION TRANSMISSIONS IN AIRCRAFT
    • B64D47/00Equipment not otherwise provided for
    • B64D47/08Arrangements of cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U10/00Type of UAV
    • B64U10/10Rotorcrafts
    • B64U10/13Flying platforms
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U20/00Constructional aspects of UAVs
    • B64U20/80Arrangement of on-board electronics, e.g. avionics systems or wiring
    • B64U20/87Mounting of imaging devices, e.g. mounting of gimbals
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2101/00UAVs specially adapted for particular uses or applications
    • B64U2101/30UAVs specially adapted for particular uses or applications for imaging, photography or videography
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2201/00UAVs characterised by their flight controls
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2201/00UAVs characterised by their flight controls
    • B64U2201/10UAVs characterised by their flight controls autonomous, i.e. by navigating independently from ground or air stations, e.g. by using inertial navigation systems [INS]
    • B64U2201/104UAVs characterised by their flight controls autonomous, i.e. by navigating independently from ground or air stations, e.g. by using inertial navigation systems [INS] using satellite radio beacon positioning systems, e.g. GPS
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10032Satellite or aerial image; Remote sensing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30181Earth observation
    • G06T2207/30184Infrastructure
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Mechanical Engineering (AREA)
  • Remote Sensing (AREA)
  • Quality & Reliability (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
  • Electric Cable Installation (AREA)

Abstract

【課題】 点検対象物の再撮影の必要の有無を容易に認識することができる無人航空機を提供する。【解決手段】 本発明の無人航空機100は、点検対象物を撮影する撮影カメラ140と、点検対象物の相対位置を検出する物体検出部130と、物体検出部130により検出された相対位置に基づき撮影カメラ130の撮影方向の角度を調整するカメラ角度調整部150と、点検対象物を撮影しているときに、撮影カメラの映像フレームから点検対象物が逸脱したか否かを判定する判定手段と、点検対象物が映像フレームから逸脱したと判定されたとき、当該判定結果を含む撮影失敗情報を記憶する記憶手段とを有する。【選択図】 図4

Description

本発明は、遠隔操作あるいは自律式の無人航空機に関し、特に、点検対象物の撮影機能を備えたドローンに関する。
例えば鉄塔に架設された送電線の表面などの点検は、作業者が双眼鏡を使って送電線の表面を直接目視したり、ヘリコプターから目視したり、鉄塔に登った人が電線を伝って確認したり、自走機を利用するなどして行っている。このような高所の構造物の点検に空撮機能を備えたドローンを接近させ、カメラで点検箇所を撮影し、作業者が点検箇所を目視するのと変わらない映像を得ることができれば、点検に要するコストを大幅に削減することが可能となる。また、決められた飛行ルートを決められた速度で飛行して離陸地点まで自動で戻り着陸するように機体を制御する自律制御技術の開発が進められ、実用化されつつある。
特許文献1の空撮方法では、図1に示すように、自立制御により飛行するA/Cヘリ1は、予め設定された飛行ルートに従い、出発地点である地上局2を離陸した後、鉄塔Aの上方の(a)ポイントまで飛行し、次に、鉄塔Bの上方の(b)ポイントまで高架電線Wに沿って平行に飛行し、この間、高架電線Wがカメラの撮影領域の中心に位置するように高架電線Wを追尾しながら高架電線Wの映像を連続的に記録する。また、飛行中に高架電線Wまでの距離を測定し、測定された距離に応じてカメラのズーム倍率を調整することでカメラフレーム内に十分な大きさに拡大された高精細な高架電線Wの映像を記録できるようにしている。
特開2006−027448号公報
近年では、ドローンのような小型無人飛行機を使った架空地線・電線の点検システムの開発、実用化が進められている。ドローンには、点検対象物までの距離および角度を検出する物体検出センサ(例えば、LiDAR)が搭載され、ドローンは、物体検出センサの検出結果に基づき機体と点検対象物との位置関係が一定に保たれるように自律飛行することで、点検対象物を追尾しつつ点検対象物への接触が防止される。また、ドローンには、点検対象物を撮像するカメラがジンバルを介して搭載される。ジンバルは、カメラの向きを3次元方向で微調整することができるアクチュエータであり、ジンバルは、ドローンの姿勢が変化しても常にカメラがドローンの鉛直方向を撮像するように、物体検出センサの検出結果を利用してカメラの角度を制御する。その結果、撮像フレームの中央に点検対象物が撮像されるように撮像が制御される。
ドローンによる点検撮影実行時、強風などの要因により機体の姿勢や位置が急に変わることがある。このとき、ジンバルは、機体の姿勢変化を吸収するように動作する。図2(A)は、機体10と高架電線Wを側方から模式的に表す図であり、高架電線Wの真上を飛行中に横から風Kが吹くと、機体10は風の方に機体を傾け、高架電線Wの真上の飛行位置を維持しようとする。このとき、ジンバルは、高架電線Wが撮像範囲Sに入るようにカメラの角度を制御する。
また、図2(B)は、機体10と高架電線Wを上方から模式的に表した図であり、風Kが吹くなどして、機体10が高架電線Wから離れるように横方向Pに流されてしまう場合がある。この場合にも、機体10が高架電線Wの方向Qに向かうように飛行制御され、ジンバルも、これらの影響を抑えるようにカメラの角度を制御する。しかしながら、最終的にドローンの急激な姿勢変化を吸収しきれない場合には、図3に示すように、高架電線Wが撮影範囲Sから逸脱する、いわゆるフレームアウトが生じてしまう。高架電線Wがフレームアウトしたか否かは、ドローンの帰還後に、カメラで撮影された映像データを再生しこれを視認しなければ分からない。このため、現地で、撮影された映像データを再生してチェックする必要があり、こうした作業は、非常に煩雑である。
本発明は、上記従来の課題を解決し、点検対象物の再撮影の必要の有無を容易に認識することができる無人航空機、点検方法および点検プログラムを提供することを目的とする。
本発明に係る無人航空機は、対象物を撮影する撮影手段と、対象物の相対位置を検出する検出手段と、前記検出手段により検出された相対位置に基づき前記撮影手段による撮影方向の角度を制御する角度制御手段と、前記撮影手段により対象物を撮影しているときに、前記撮影手段の撮影範囲から対象物が逸脱したか否かを判定する判定手段と、前記判定手段により対象物が撮影範囲から逸脱したと判定されたとき、当該判定結果を含む撮影失敗情報を記憶する記憶手段とを有する。
ある実施態様では、前記判定手段は、前記撮影手段の撮影方向と前記検出手段の相対位置とに基づき対象物が撮影範囲を逸脱したか否かを判定する。ある実施態様では、前記撮影手段の撮影方向は、前記撮影手段の撮影カメラの画角と前記角度制御手段により制御される角度とに基づき決定される。ある実施態様では、前記判定手段は、一定時間以上、対象物が撮影範囲から逸脱したか否かを判定する。ある実施態様では、前記撮影手段が1秒間にn個の映像フレームを生成するとき、前記判定手段は、m(mは、nよりも小さい自然数)個以上の映像フレームにおいて対象物が映像フレームから逸脱するか否かを判定する。ある実施態様では、前記判定手段は、映像フレームの予め決められた領域から対象物が逸脱したか否かを判定する。ある実施態様では、無人飛行機はさらに、前記検出手段により検出された相対位置に基づき対象物を追従するように飛行を制御する飛行制御手段を含む。ある実施態様では、無人飛行機はさらに、前記記憶手段に記憶された撮影失敗情報を出力する出力手段を含む。ある実施態様では、前記飛行制御手段は、前記撮影失敗情報が記憶されている場合に、前記撮影失敗情報に基づき対象物を再撮影するために飛行を制御する。ある実施態様では、前記飛行制御手段は、前記撮影失敗情報が記憶された場合に、飛行を中止する。ある実施態様では、前記検出手段は、対象物にレーザー光を照射し、その反射光を測定することで対象物までの距離および角度を測定する。
本発明に係る対象物の点検方法は、撮影カメラおよび対象物の相対位置を検出するセンサを備えた無人飛行機によるものであって、前記撮影カメラにより対象物を撮影中に、前記センサで検出された対象物の相対位置と、撮影カメラの画角とから撮影カメラが対象物を捉えたか否かを判定するステップと、撮影カメラが対象物を捉えていないと判定した場合には、当該判定結果を含む撮影失敗情報を記憶するステップとを含む。
ある実施態様では、点検方法はさらに、前記撮影失敗情報を出力するステップを含む。ある実施態様では、点検方法はさらに、前記撮影失敗情報に基づき撮影失敗箇所を再撮影するために飛行を制御するステップを含む。ある実施態様では、点検方法はさらに、前記撮影失敗情報が記憶された場合には、飛行を中止するステップを含む。ある実施態様では、前記判定するステップは、撮影カメラの角度調整機構が搭載されている場合には、角度調整機構により調整された角度と、撮影カメラの画角と、センサにより検出された対象物の相対位置とから、撮影カメラが対象物を捉えたか否かを判定する。
本発明の対象物の点検プログラムは、撮影カメラおよび対象物の相対位置を検出するセンサを備えた無人飛行機が実行するものであって、前記撮影カメラにより対象物を撮影中に、前記センサで検出された対象物の相対位置と、撮影カメラの画角とから撮影カメラが対象物を捉えたか否かを判定するステップと、撮影カメラが対象物を捉えていないと判定した場合には、当該判定結果を含む撮影失敗情報を記憶するステップとを含む。
本発明によれば、対象物の撮影中に、対象物が撮影範囲を逸脱したか否かを判定し、逸脱した場合にはその判定結果を記憶するようにしたので、ユーザーは、撮影された対象物の映像を再生しそれを確認する作業を行うことなく再撮影の必要の有無を認識することができる。
従来の高架電線等を空撮する無人飛行機の例を説明する図である。 図2(A)は、機体と高架電線とを側方から模式的に表した図であり、図2(B)は、機体と高架電線とを上方から模式的に表した図であり、風等により機体の姿勢が変化する様子を説明している。 従来の無人飛行機による空撮において点検対象物がフレームから逸脱した例を説明する図である。 本発明の無人飛行機の電気的な構成を示すブロック図である。 本発明の実施例に係る撮影制御プログラムの機能的な構成を示すブロック図である。 映像フレームと撮影される高架電線との関係を説明する図である。 本発明の実施例におけるフレームアウトの定義を説明する図である。 本発明の実施例に係る撮影判定部の判定方法の一例を説明する図である。 本発明の実施例に係る点検対象物の撮影制御の動作を説明するフローである。 本発明の第2の実施例に係る点検対象物の撮影制御の動作を説明するフローである。
次に、本発明の実施の形態について説明する。本発明の無人飛行機は、人間が目視により点検することが難しい、鉄塔に架設された送電線等の点検や土砂崩れなどの自然災害現場の点検などに用いられる。無人飛行機の構成は特に限定されないが、例えば、ドローン、ヘリコプター、飛行船等である。
以下の実施例では、無人飛行機により高架電線を点検する例を説明する。本実施例の無人飛行機(ドローン)は、機体本体に、点検対象物である高架電線を撮影するための撮影カメラを搭載する。撮影カメラは、ジンバルのような角度調整アクチュエータを介して機体本体に取り付けられる。角度調整アクチュエータは、例えば、X軸、Y軸、Z軸の自由度3で撮影カメラの角度を調整することが可能である。無人飛行機は、例えば、図1に示すように鉄塔に高架された電線Wをその上方から鉛直方向に撮影し、その撮影された映像データが高架電線Wの点検に供される。
図4は、本実施例に係る無人飛行機の電気的な構成を示すブロック図である。本実施例に係る無人飛行機100は、GPS受信部110、自立航法センサ120、物体検出部130、撮影カメラ140、カメラ角度調整部150、ロータ駆動部160、記憶部170、出力部180、外部接続部190および制御部200を含んで構成される。但し、上記構成は一例であり、必ずしもこれに限定されるものではない。
GPS受信部110は、GPS衛星から発せられるGPS信号を受信し、無人飛行機100の緯度、経度を含む絶対位置を検出する。無人飛行機100は、予め用意された飛行情報に従い自律飛行することが可能である。飛行情報は、例えば、図1に示すように、出発地点である地上局2、鉄塔Aの(a)ポイント、鉄塔Bの(b)ポイント、帰還地点である地上局2を飛行する飛行ルート(緯度、経度の位置情報を含む)、飛行速度、飛行高度などを含む。無人飛行機100は、GPS受信部110で検出された位置情報を利用して飛行ルートを追従するように飛行する。
自立航法センサ120は、無人飛行機100が自立航法するために必要なセンサ、例えば、方位センサや高度センサを含む。自立航法センサ120のセンサ出力は、飛行情報に従い自律飛行するときの飛行制御に利用される。
物体検出部130は、点検対象物までの相対的距離および角度を検出する。物体検出部130は、例えば、LiDAR(Laser Imaging Detection and Ranging)を用いて構成される。LiDARは、パルス状に発光するレーザーを360度の方位で照射し、そのレーザー照射に対する反射光を測定することで、物体までの距離および角度を検出する。本実施例では、無人飛行機100から高架電線Wまでの距離および角度を検出する。なお、物体検出部130は、LiDARに限定されず、これ以外にも複数のステレオカメラを用いて物体までの距離および角度を検出するものであってもよい。無人飛行機100は、物体検出部130の検出結果に基づき、点検対象物である高架電線Wと一定の距離および角度を保つように高架電線Wを追尾する。
撮影カメラ140は、上記したように、機体本体の下部に角度調整アクチュエータを介して取り付けられる。撮影カメラ140は、点検対象物である高架電線Wの動画を撮像し、例えば、1秒間に24個の映像フレーム(静止画)を生成する。さらに撮影カメラ140は、ズーム機能を備え、映像フレーム内に一定の大きさの高架電線Wが撮像されるように、その倍率が調整される。
カメラ角度調整部150は、制御部200からの角度調整信号に応答して角度調整アクチュエータを駆動し、撮影カメラ140の角度を調整する。制御部200は、自立航法センサ120や物体検出部130の検出結果に基づき撮影カメラ140の撮像方向(撮影カメラのレンズの光軸)が鉛直方向となる角度を算出し、その算出結果に基づき角度調整信号を生成する。
ロータ駆動部160は、制御部200からの駆動信号に基づきプロペラ等に接続されたロータを回転させる。制御部200は、GPS受信部110、自立航法センサ120および物体検出部130により検出された情報や飛行情報に基づき無人飛行機100が飛行ルートに沿って自律飛行するための駆動信号を生成する。
記憶部170は、無人飛行機100を動作させるために必要な種々の情報を記憶する。記憶部170は、例えば、予め用意された飛行情報を記憶したり、制御部200が実行するためのプログラムやソフトウエアを記憶したり、撮影カメラ140で撮像された点検対象物の映像データを記憶する。さらに本実施例では、記憶部170には、撮影カメラ140による点検対象物の撮像が失敗したことを示す撮影失敗情報が記憶される。撮影失敗情報は、撮影カメラ140により撮影された映像データを再生することなく、点検対象物の再撮影が必要であることをユーザーに知らせることができる。
出力部180は、記憶部170に記憶された情報を読出し、これを外部に出力する。出力部180の構成は特に限定されないが、例えば、出力部180は、記憶部170の映像データを表示する表示部を備えることができ、あるいは外部接続部190を介して接続された外部装置に、有線または無線により記憶部170から読み出した情報を出力することができる。
外部接続部190は、無人飛行機100を有線または無線により外部装置と接続することを可能にする。外部装置は、例えば、コンピュータ装置であり、外部接続部190を介して無人飛行機100を制御することが可能であり、例えば、外部装置は、予め用意された飛行情報を記憶部170に書込んだり、点検対象物を撮影した映像データを記憶部170から読み出したり、あるいは制御部200に対してユーザーからの指示を与えることができる。
制御部200は、無人飛行機100の各部を制御する。ある実施態様では、制御部200は、ROM/RAMを含むマイクロコントローラ、マイクロプロセッサ、画像処理プロセッサ等を含み、記憶部170あるいはROM/RAMに格納されたプログラムやソフトウエアを実行することで無人飛行機100の自律飛行や点検対象物の撮影を制御する。
自律飛行制御プログラムは、GPS受信部110で検出された絶対位置(緯度、経度、高度)や自立航法センサ120で検出された方位や高度等に基づき、予め用意された飛行ルートを無人飛行機100が飛行するように制御する。この飛行ルートは、概ね高架電線Wに沿うルートである。さらに自律飛行制御プログラムは、物体検出部130により検出された高架電線Wの相対的な距離および角度に基づき高架電線Wと一定の距離を保ちながら高架電線Wを追尾するように無人飛行機100の飛行を制御する。
無人飛行機100が高架電線Wに沿って飛行を続ける間、撮影制御プログラムは、高架電線Wが撮影されるように撮影カメラ140を制御し、かつ撮影カメラ140により撮影された映像データを記憶部170に格納する。本実施例の撮影制御プログラムの詳細な構成を図5に示す。同図に示すように、撮影制御プログラム210は、カメラ角度算出部220、カメラ動作制御部230、撮影判定部240、撮影失敗情報記憶部250および映像データ記憶部260を含んで構成される。
カメラ角度算出部220は、撮影カメラ140の映像フレーム内に高架電線Wが捉えられるようにするため、物体検出部130からの検出結果に基づき撮影カメラ140の撮影方向の角度を算出する。カメラ角度算出部220は、撮影方向の角度を算出すると、その算出結果を表す角度調整信号をカメラ角度調整部150に提供し、カメラ角度調整部150は、角度調整信号に基づき角度調整アクチュエータを駆動し、撮像カメラ140の撮影方向を調整する。本実施例では、カメラ角度算出部220は、撮像カメラ140の撮影方向(光軸)が鉛直方向になるように角度を算出し、これにより、撮像カメラ140は、高架電線Wを真上から空撮する。
また、撮影カメラ140のズームは、予め決められ倍率に設定され、自律飛行制御プログラムにより無人飛行機100と高架電線Wとの間の相対距離が一定になるように飛行が制御される。これらの設定により、撮影カメラ140の映像フレームにより撮影される現実空間の範囲(縦方向および横方向の実空間の距離)が決定され、つまり、映像フレームに映される高架電線Wの大きさが決定される。好ましくは、図6(A)に示すように、映像フレームF内に、ユーザーによって点検可能な大きさで高架電線Wが映される。
図6(A)において、映像フレームFの長手方向が飛行方向と略平行であるとき、カメラ角度算出部220は、物体検出部130で検出された高架電線Wの相対角度に基づき、映像フレームFの略中央に高架電線Wが捉えられるようにカメラの角度を算出する。また、図6(B)に示すように、無人飛行機100が風の影響を受けて、図2(A)に示すように機体の姿勢が変化したり、図2(B)に示すように高架電線Wから離れたとき、映像フレームFに映される高架電線Wが中央から縁部にシフトするが、この場合、カメラ角度算出部220は、物体検出部130で検出された高架電線Wの相対角度の変化量に基づき、高架電線Wが中央の方向Qに移動するように、カメラの角度を算出する。
カメラ動作制御部230は、撮影カメラ140の撮影開始および終了等を制御する。具体的には、飛行ルートに沿って無人飛行機100が飛行を開始し高架電線Wに接近し、撮影開始地点に到達すると、カメラ動作制御部230は、撮影カメラ140による撮影を開始させ、無人飛行機100が飛行ルートに従って高架電線Wに沿って飛行し、撮影終了地点に到達すると、撮影カメラ140による撮影を終了させる。カメラ動作制御部230は、上記以外にも撮影カメラの撮像条件、例えば、倍率等を制御することも可能である。
撮影判定部240は、撮影カメラ140による高架電線Wの撮影が行われている期間中、撮影カメラ140の映像フレームに高架電線Wが適切に撮影されているか否かを判定する。撮影中に、強風などの影響を受けて無人飛行機100の姿勢が急に変化したり(図2(A)を参照)、あるいは飛行ルートを一時的に逸脱したとき(図2(B)を参照)、角度調整アクチュエータによる撮影カメラ140の角度制御が間に合わないと、図7(A)に示すように、映像フレームFから高架電線Wがフレームアウトすることがある。撮影判定部240は、こうした高架電線Wがフレームアウトしたか否かを、物体検出部130で検出された高架電線Wの相対位置と、角度調整アクチュエータの現在の制御された角度と、撮影カメラに設定されている画角から判定する。
図8は、撮影判定部240による判定方法を説明する図である。無人飛行機100の飛行方向は、高架電線Wの延在する方向と概ね平行であるとする。この状態で、無人飛行機100の鉛直方向の基準線Gに対する高架電線Wの相対角度θwは、物体検出部130により検出される。また、撮影カメラ140の画角θcは、ズームの倍率から決定される既知の値であり、画角θcは、図7(A)に示す映像フレームFの大きさを規定する。基準線Gに対する角度調整アクチュエータの現在の角度がθaであるとき(角度θaは、撮影カメラ140の撮影レンズの光軸方向に等しい)、画角θcは、角度θaによってオフセットされた角度の方向を撮影する。撮影判定部240は、θaによりオフセットされた画角θcの撮影範囲に、高架電線Wの角度θwが含まれるか否かを判定し、両者の差が一定以上である場合には、高架電線Wが撮影されていない、すなわち映像フレームFから高架電線Wがフレームアウトしたと判定する。
また、映像フレームFの外縁に高架電線Wが撮影された場合には、高架電線Wの一部が欠損したり、あるいは光学歪みにより画像が不鮮明になるおそれがある。このため、図7(B)に示すように、映像フレームFの外周に一定のマージンMを設け、マージンMの内側に高架電線Wが撮影されるか否かを判定するようにしてもよい。この場合には、マージンMを規定する画角θc’(θc’<θc)を設定する。
さらに撮影カメラ140は、1秒間に複数の映像フレームを生成(例えば、1秒間に24の映像フレームを生成)するため、もし、非常に短い時間で高架電線Wのフレームアウトが生じた場合には、前後の映像フレームによりフレームアウトした期間の高架電線Wを補間することが可能である。従って、撮影判定部240は、フレームアウトが一定期間生じた場合に、高架電線Wが適切に撮影されていないと判定する。例えば、1秒間に24の映像フレームが生成される場合、12枚の映像フレームにおいてフレームアウトが生じた場合に高架電線Wが適切に撮影されていないと判定する。
撮影失敗情報記憶部250は、撮影判定部240により高架電線Wが適切に撮影されていないと判定された場合には、撮影中に高架電線Wの撮影に失敗が生じたことを表す撮影失敗情報を記憶部170に記憶する。撮影失敗情報はさらに、撮影を失敗した箇所や撮影を失敗した時間を含むことができる。撮影失敗箇所は、GPS受信部110で検出された位置情報(緯度、経度)を含み、撮影失敗時間は、撮影開始時刻を基準にフレームアウトが発生した時刻およびフレームアウトが継続した時間を含むことができる。撮影失敗情報が記憶されたとき、出力部180は、撮影失敗情報が記憶されていることを示す情報を出力することが可能である。例えば、LEDライトを点灯させることで撮影失敗情報が記憶されていることをユーザーに知らせるようにしてもよい。
映像データ記憶部260は、撮影カメラ140が動作されている期間中に撮影された映像データを記憶部170に記憶する。
次に、本実施例の無人飛行機100の点検対象物の撮影動作について図9のフローを参照して説明する。先ず、外部接続部190を介して外部コンピュータ装置が接続され、コンピュータ装置から無人飛行機100に飛行ルートを含む飛行情報が入力され(S100)、これが記憶部170または制御部200のRAMに格納される。制御部200の自律飛行制御プログラムは、入力された飛行情報に従い高架電線Wの点検のために無人飛行機の自律飛行を開始する(S110)。
無人飛行機100は、物体検出部130で検出された高架電線Wまでの相対距離および角度に基づき高架電線Wと一定の距離を保ちながら高架電線Wに沿って自律飛行をし、その間、高架電線Wの撮影が行われる。すなわち、カメラ動作制御部230は、無人飛行機100が高架電線Wの撮影開始位置に到達すると、撮影カメラ140を起動し、高架電線Wの撮影を開始する(S120)。
撮影期間中、カメラ角度算出部220は、物体検出部130で検出された高架電線Wまでの距離および角度に基づき撮影カメラ140の撮影方向の角度を算出し、算出結果に基づき角度調整信号を角度調整アクチュエータに出力し、角度調整アクチュエータが撮影カメラ140の角度を調整する(S130)。また、撮影期間中、撮影カメラ140によって撮影された高架電線Wの映像データは、映像データ記憶部260によって記憶部170に順次記憶される(S140)。また、撮影判定部240によって、高架電線Wが映像フレームFからフレームアウトしたか否かが判定され(S150)、フレームアウトが生じたと判定された場合には、撮影失敗したことを示す撮影失敗情報が撮影失敗情報記憶部250によって記憶部170に記憶される(S160)。
撮影期間中、ステップS130〜S160までの処理が繰り返され、自律飛行制御プログラムは、飛行ルートに基づき点検対象物の撮影終了地点まで到達すると、カメラ動作制御部230は撮影カメラ140の撮影を停止し(S170)、無人飛行機100がスタート地点に帰還される(S180)。
その後、ユーザーは、無人飛行機100の記憶部170に撮影失敗情報が記憶されているか否かを確認することで、高架電線Wの撮影中に高架電線Wを撮影することができなかった事象があることを知ることができる。また、出力部180は、ランプ等を点灯させることで、撮影失敗情報が記憶されていることを容易にユーザーに知らせるようにしてもよい。これにより、ユーザーは、従来のように、撮影カメラ140により撮影された映像データを再生し、再生した映像からフレームアウトの有無をチェックする必要がないため、煩雑な作業を行うことなく、点検対象物である高架電線Wの再撮影の必要性の有無を即座に判断することができる。
また、撮影失敗情報に撮影が失敗した位置情報を含ませることで、ユーザーは、再撮影すべき場所を含む飛行ルートを作成し、無人飛行機100にフレームアウトした撮影失敗区間のみを撮影させることができる。これにより、点検対象物の撮影の効率化を図ることができる。
次に、本発明の第2の実施例について説明する。第2の実施例では、撮影判定部240により高架電線Wがフレームアウトしたと判定された場合には、自律飛行制御プログラムは、その判定結果に基づき撮影失敗区間の再撮影を自動で行うことを可能にする。図10に、第2の実施例の動作フローを示す。
図9に示すステップS100〜S160までの処理は、同じであるが、自律飛行制御プログラムは、飛行ルートに基づき点検対象物の撮影終了地点まで到達すると、撮影失敗情報が記憶されているか否かを確認し(S200)、撮影失敗情報が記憶されている場合には、撮影失敗情報に記憶されている撮影失敗区間への自律飛行を開始し、カメラ動作制御部230に撮影失敗区間の再撮影を指示する。これに応答してカメラ動作制御部230は、撮影失敗区間を再撮影し(S210)、再撮影された高架電線Wの映像データが映像データ記憶部260によって記憶部170に記憶される。カメラ動作制御部230は、再撮影が終了すると、撮影カメラ140を停止し(S220)、無人飛行機100は、飛行ルートに従いスタート地点に帰還する(S230)。
このように本実施例によれば、高架電線Wの撮影に失敗した場合には、撮影に失敗した区間の高架電線Wの再撮影を自動で行うことで、高架電線Wの点検作業の更なる効率化を図ることができる。
次に本発明の第3の実施例について説明する。第3の実施例では、撮影期間中に、高架電線Wのフレームアウトが判定された場合には、自律飛行制御プログラムは、高架電線Wの撮影を停止し、無人飛行機100をスタート地点に帰還させる。フレームアウトが生じるということは、撮影環境が良好でないことを意味し、撮影環境が良好でない状態で高架電線の撮影を継続してもフレームアウトが引き続き発生すること可能性がある。そのような場合には、撮影を中止して別な日時に再撮影を行うことが、結果的に作業効率を向上させることができる。
そこで、第3の実施例では、1回または複数回のフレームアウトが生じた場合には、撮影環境が適当でないと見做し、撮影を中止するため無人飛行機をスタート地点に帰還させる。その後、別な日時に、撮影失敗情報に含まれる撮影失敗地点から高架電線Wの再撮影を行う。
上記実施例では、説明を容易にするため、図7(A)、(B)等に示すように、映像フレームFの短手方向において撮影カメラ140の撮影方向を調整する例を示したが、実際には、無人飛行機の飛行方向が高架電線Wの方向とズレが生じている場合には、撮像カメラ140の撮影方向は、映像フレームの長手方向においても調整され得る。つまり、角度調整アクチュエータは、映像フレームFの短手方向および長手方向の自由度2でカメラの角度を調整することが可能である。この場合、フレームアウトしたか否かは、映像フレームの短手方向および長手方向において判定するようにしてもよい。
また、上記実施例では、点検対象物として高架電線を例示したが、これは一例であり、本発明は、他の高層建造物や自然災害地などの点検にも適用することができる。さらに本実施例は、撮影カメラが角度調整アクチュエータを介して機体本体に取り付けられる例を示したが、撮影カメラそのものが電子的または光学的な撮影方向の角度調整機能を備えている場合には、角度調整アクチュエータは必ずしも必須ではない。
以上、本発明の好ましい実施の形態について詳述したが、本発明は、特定の実施形態に限定されるものではなく、特許請求の範囲に記載された発明の要旨の範囲において、種々の変形、変更が可能である。
100:無人飛行機 110:GPS受信部
120:自立航法センサ 130:物体検出部
140:撮影カメラ 150:カメラ角度調整部
160:ロータ駆動部 170:記憶部
180:出力部 190:外部接続部190
200:制御部

Claims (20)

  1. 対象物を撮影する撮影手段と、
    対象物の相対位置を検出する検出手段と、
    前記検出手段により検出された相対位置に基づき前記撮影手段による撮影方向の角度を制御する角度制御手段と、
    前記撮影手段により対象物を撮影しているときに、前記撮影手段の撮影範囲から対象物が逸脱したか否かを判定する判定手段と、
    前記判定手段により対象物が撮影範囲から逸脱したと判定されたとき、当該判定結果を含む撮影失敗情報を記憶する記憶手段と、
    を有する無人飛行機。
  2. 前記判定手段は、前記撮影手段の撮影方向と前記検出手段の相対位置とに基づき対象物が撮影範囲を逸脱したか否かを判定する、請求項1に記載の無人航空機。
  3. 前記撮影手段の撮影方向は、前記撮影手段の撮影カメラの画角と前記角度制御手段により制御される角度とに基づき決定される、請求項2に記載の無人飛行機。
  4. 前記判定手段は、一定時間以上、対象物が撮影範囲から逸脱したか否かを判定する、請求項1ないし3いずれか1つに記載の無人飛行機。
  5. 前記撮影手段が1秒間にn個の映像フレームを生成するとき、前記判定手段は、m(mは、nよりも小さい自然数)個以上の映像フレームにおいて対象物が映像フレームから逸脱するか否かを判定する、請求項1ないし4いずれか1つに記載の無人飛行機。
  6. 前記判定手段は、映像フレームの予め決められた領域から対象物が逸脱したか否かを判定する、請求項5に記載の無人飛行機。
  7. 無人飛行機はさらに、前記検出手段により検出された相対位置に基づき対象物を追従するように飛行を制御する飛行制御手段を含む、請求項1ないし6いずれか1つに記載の無人飛行機。
  8. 無人飛行機はさらに、前記記憶手段に記憶された撮影失敗情報を出力する出力手段を含む、請求項1ないし7いずれか1つに記載の無人飛行機。
  9. 前記飛行制御手段は、前記撮影失敗情報が記憶されている場合に、前記撮影失敗情報に基づき対象物を再撮影するために飛行を制御する、請求項7に記載の無人飛行機。
  10. 前記飛行制御手段は、前記撮影失敗情報が記憶された場合に、飛行を中止する、請求項7に記載の無人飛行機。
  11. 前記検出手段は、対象物にレーザー光を照射し、その反射光を測定することで対象物までの距離および角度を測定する、請求項1に記載の無人飛行機。
  12. 撮影カメラおよび対象物の相対位置を検出するセンサを備えた無人飛行機による対象物の点検方法であって、
    前記撮影カメラにより対象物を撮影中に、前記センサで検出された対象物の相対位置と、撮影カメラの画角とから撮影カメラが対象物を捉えたか否かを判定するステップと、
    撮影カメラが対象物を捉えていないと判定した場合には、当該判定結果を含む撮影失敗情報を記憶するステップとを含む、点検方法。
  13. 点検方法はさらに、前記撮影失敗情報を出力するステップを含む、請求項12に記載の点検方法。
  14. 点検方法はさらに、前記撮影失敗情報に基づき撮影失敗箇所を再撮影するために飛行を制御するステップを含む、請求項12または13に記載の点検方法。
  15. 点検方法はさらに、前記撮影失敗情報が記憶された場合には、飛行を中止するステップを含む、請求項12に記載の点検方法。
  16. 前記判定するステップは、撮影カメラの角度調整機構が搭載されている場合には、角度調整機構により調整された角度と、撮影カメラの画角と、センサにより検出された対象物の相対位置とから、撮影カメラが対象物を捉えたか否かを判定する、請求項12に記載の点検方法。
  17. 撮影カメラおよび対象物の相対位置を検出するセンサを備えた無人飛行機が実行する対象物の点検プログラムであって、
    前記撮影カメラにより対象物を撮影中に、前記センサで検出された対象物の相対位置と、撮影カメラの画角とから撮影カメラが対象物を捉えたか否かを判定するステップと、
    撮影カメラが対象物を捉えていないと判定した場合には、当該判定結果を含む撮影失敗情報を記憶するステップとを含む、点検プログラム。
  18. 点検プログラムはさらに、前記撮影失敗情報を出力するステップを含む、請求項17に記載の点検プログラム。
  19. 点検プログラムはさらに、前記撮影失敗情報に基づき撮影失敗箇所を再撮影するために飛行を制御するステップを含む、請求項12または13に記載の点検プログラム。
  20. 点検プログラムはさらに、前記撮影失敗情報が記憶された場合には、飛行を中止するステップを含む、請求項12に記載の点検プログラム。
JP2019092851A 2019-05-16 2019-05-16 無人航空機、点検方法および点検プログラム Active JP7305263B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019092851A JP7305263B2 (ja) 2019-05-16 2019-05-16 無人航空機、点検方法および点検プログラム
US16/860,524 US11430101B2 (en) 2019-05-16 2020-04-28 Unmanned aerial vehicle, inspection method, and storage medium
CN202010410540.2A CN111953892B (zh) 2019-05-16 2020-05-15 无人飞行器、检查方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019092851A JP7305263B2 (ja) 2019-05-16 2019-05-16 無人航空機、点検方法および点検プログラム

Publications (2)

Publication Number Publication Date
JP2020185941A true JP2020185941A (ja) 2020-11-19
JP7305263B2 JP7305263B2 (ja) 2023-07-10

Family

ID=73222606

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019092851A Active JP7305263B2 (ja) 2019-05-16 2019-05-16 無人航空機、点検方法および点検プログラム

Country Status (3)

Country Link
US (1) US11430101B2 (ja)
JP (1) JP7305263B2 (ja)
CN (1) CN111953892B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7436403B2 (ja) 2021-01-28 2024-02-21 株式会社日立製作所 計測システム

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105867361A (zh) * 2016-04-18 2016-08-17 深圳市道通智能航空技术有限公司 一种飞行方向控制方法、装置及其无人机
US11657373B2 (en) * 2020-08-21 2023-05-23 Accenture Global Solutions Limited System and method for identifying structural asset features and damage
US11631184B2 (en) * 2020-09-18 2023-04-18 Spirit Aerosystems, Inc. Feature inspection system

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006027448A (ja) * 2004-07-16 2006-02-02 Chugoku Electric Power Co Inc:The 無人飛行体を利用した空撮方法及びその装置
JP2014177162A (ja) * 2013-03-14 2014-09-25 Secom Co Ltd 撮影システム
WO2018163571A1 (ja) * 2017-03-10 2018-09-13 ソニー株式会社 情報処理装置、情報処理方法および情報処理プログラム
JP2018152737A (ja) * 2017-03-13 2018-09-27 ヤンマー株式会社 無人飛行撮影装置

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5187035B2 (ja) * 2008-07-02 2013-04-24 株式会社ニコン 撮像装置および画像処理装置、並びに画像処理プログラム
US9774797B2 (en) * 2014-04-18 2017-09-26 Flir Systems, Inc. Multi-sensor monitoring systems and methods
CN205017413U (zh) * 2015-09-01 2016-02-03 杨珊珊 基于无人飞行器的拍摄装置
CN106598063B (zh) * 2015-10-14 2021-10-26 松下电器(美国)知识产权公司 无人飞行器及飞行控制方法
CN105578034A (zh) * 2015-12-10 2016-05-11 深圳市道通智能航空技术有限公司 一种对目标进行跟踪拍摄的控制方法、控制装置及系统
US10230889B2 (en) * 2015-12-24 2019-03-12 Panasonic Intellectual Property Corporation Of America Unmanned aerial vehicle and control method
JP6687488B2 (ja) * 2015-12-24 2020-04-22 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 無人飛行体及びその制御方法
US9753461B1 (en) * 2016-04-07 2017-09-05 Google Inc. Autonomous aerial cable inspection system
US20210073692A1 (en) * 2016-06-12 2021-03-11 Green Grid Inc. Method and system for utility infrastructure condition monitoring, detection and response
CN107765709B (zh) * 2016-08-22 2021-12-31 广州亿航智能技术有限公司 基于飞行器实现自拍的方法及装置
JP2018114807A (ja) * 2017-01-17 2018-07-26 中国電力株式会社 無人飛行体及び飛行システム
WO2018198317A1 (ja) * 2017-04-28 2018-11-01 株式会社オプティム 無人飛行体による空撮システム、方法及びプログラム
SG11202011112QA (en) * 2017-11-08 2020-12-30 Prohibition X Pte Ltd Surveillance with an unmanned aerial vehicle
US11531050B2 (en) * 2019-12-20 2022-12-20 Dish Network L.L.C. Methods, systems, and apparatus for low-power, wireless, power line fault detection

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006027448A (ja) * 2004-07-16 2006-02-02 Chugoku Electric Power Co Inc:The 無人飛行体を利用した空撮方法及びその装置
JP2014177162A (ja) * 2013-03-14 2014-09-25 Secom Co Ltd 撮影システム
WO2018163571A1 (ja) * 2017-03-10 2018-09-13 ソニー株式会社 情報処理装置、情報処理方法および情報処理プログラム
JP2018152737A (ja) * 2017-03-13 2018-09-27 ヤンマー株式会社 無人飛行撮影装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7436403B2 (ja) 2021-01-28 2024-02-21 株式会社日立製作所 計測システム

Also Published As

Publication number Publication date
CN111953892B (zh) 2024-01-26
JP7305263B2 (ja) 2023-07-10
US11430101B2 (en) 2022-08-30
CN111953892A (zh) 2020-11-17
US20200364848A1 (en) 2020-11-19

Similar Documents

Publication Publication Date Title
JP7305263B2 (ja) 無人航空機、点検方法および点検プログラム
JP6326237B2 (ja) 測定システム
JP6601554B2 (ja) 無人航空機、無人航空機制御システム、飛行制御方法およびコンピュータプログラム
JP6055274B2 (ja) 航空写真測定方法及び航空写真測定システム
JP6122591B2 (ja) 写真測量用カメラ及び航空写真装置
JP5618840B2 (ja) 飛行体の飛行制御システム
JP5775632B2 (ja) 飛行体の飛行制御システム
JP2006027448A (ja) 無人飛行体を利用した空撮方法及びその装置
CN109665099B (zh) 无人航空器以及架线摄影方法
JPWO2016059877A1 (ja) 制御装置、制御方法および飛行体デバイス
JP2014062789A (ja) 写真計測用カメラ及び航空写真装置
JP2006027331A (ja) 無人飛行体を利用した航空映像情報の収集方法
JP7362203B2 (ja) 無人移動体
JP7011908B2 (ja) 光学情報処理装置、光学情報処理方法および光学情報処理用プログラム
JP6577083B2 (ja) 測定システム
WO2019230604A1 (ja) 検査システム
WO2019183809A1 (zh) 控制方法与装置、云台系统、无人机和计算机可读存储介质
JP7428461B2 (ja) 無人航空機システムおよび飛行制御方法
US20210229810A1 (en) Information processing device, flight control method, and flight control system
JP2021096865A (ja) 情報処理装置、飛行制御指示方法、プログラム、及び記録媒体
JP6681101B2 (ja) 検査システム
JP2022023592A (ja) 測量システム、測量方法および測量用プログラム
JP2005289127A (ja) 飛行装置の姿勢位置制御システムおよび姿勢位置制御装置
JP2019219874A (ja) 自律移動撮影制御システムおよび自律移動体
JP2018138922A (ja) 測定システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220329

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230111

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230112

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230307

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230627

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230627

R150 Certificate of patent or registration of utility model

Ref document number: 7305263

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150