JP6988197B2 - 制御装置、飛行体、および制御プログラム - Google Patents

制御装置、飛行体、および制御プログラム Download PDF

Info

Publication number
JP6988197B2
JP6988197B2 JP2017125606A JP2017125606A JP6988197B2 JP 6988197 B2 JP6988197 B2 JP 6988197B2 JP 2017125606 A JP2017125606 A JP 2017125606A JP 2017125606 A JP2017125606 A JP 2017125606A JP 6988197 B2 JP6988197 B2 JP 6988197B2
Authority
JP
Japan
Prior art keywords
projection
projection position
image
unit
captured
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017125606A
Other languages
English (en)
Other versions
JP2019008676A (ja
Inventor
皓正 高塚
一希 笠井
正寛 小原
慶之 谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp filed Critical Omron Corp
Priority to JP2017125606A priority Critical patent/JP6988197B2/ja
Priority to PCT/JP2018/006001 priority patent/WO2019003492A1/ja
Priority to TW107106440A priority patent/TWI693959B/zh
Publication of JP2019008676A publication Critical patent/JP2019008676A/ja
Application granted granted Critical
Publication of JP6988197B2 publication Critical patent/JP6988197B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/10Simultaneous control of position or course in three dimensions
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0094Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots involving pointing a payload, e.g. camera, weapon, sensor, towards a fixed or moving target
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64CAEROPLANES; HELICOPTERS
    • B64C13/00Control systems or transmitting systems for actuating flying-control surfaces, lift-increasing flaps, air brakes, or spoilers
    • B64C13/02Initiating means
    • B64C13/16Initiating means actuated automatically, e.g. responsive to gust detectors
    • B64C13/18Initiating means actuated automatically, e.g. responsive to gust detectors using automatic pilot
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64DEQUIPMENT FOR FITTING IN OR TO AIRCRAFT; FLIGHT SUITS; PARACHUTES; ARRANGEMENT OR MOUNTING OF POWER PLANTS OR PROPULSION TRANSMISSIONS IN AIRCRAFT
    • B64D47/00Equipment not otherwise provided for
    • B64D47/02Arrangements or adaptations of signal or lighting devices
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U10/00Type of UAV
    • B64U10/10Rotorcrafts
    • B64U10/13Flying platforms
    • B64U10/14Flying platforms with four distinct rotor axes, e.g. quadcopters
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B21/00Projectors or projection-type viewers; Accessories therefor
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09FDISPLAYING; ADVERTISING; SIGNS; LABELS OR NAME-PLATES; SEALS
    • G09F21/00Mobile visual advertising
    • G09F21/06Mobile visual advertising by aeroplanes, airships, balloons, or kites
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2101/00UAVs specially adapted for particular uses or applications
    • B64U2101/30UAVs specially adapted for particular uses or applications for imaging, photography or videography

Landscapes

  • Engineering & Computer Science (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Remote Sensing (AREA)
  • Automation & Control Theory (AREA)
  • Mechanical Engineering (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Accounting & Taxation (AREA)
  • Marketing (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Projection Apparatus (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Transforming Electric Information Into Light Information (AREA)

Description

本発明は、制御装置、飛行体、および制御プログラムに関する。
従来、投影部を備えた移動体により、画像を投影する技術が知られている。特許文献1には、無人航空機に搭載したプロジェクタを用いて、情報を提示する技術が開示されている。
特開2017−76084号公報(2017年4月20日公開)
しかしながら、上述のような従来技術では、移動体に備えられた投影部により、目標となる位置へ画像を投影することは容易ではなかった。
そこで本発明の一態様は、目標となる位置へ好適に画像を投影することを目的とする。
上記の課題を解決するために、本発明の態様1に係る制御装置は、投影部を備えている移動体を制御する制御装置であって、前記投影部が投影した投影像を含む撮像画像を取得する撮像画像取得部と、前記撮像画像を参照して、前記移動体の位置、前記移動体の姿勢、および前記投影部の方向のうち少なくとも1つを制御する投影制御部と
を備えていることを特徴とする。
上記の構成によれば、目標となる位置へ好適に画像を投影する制御装置を実現することができる。
また、本発明の態様2に係る制御装置において、前記投影制御部は、前記撮像画像から、前記投影像の投影位置と目標投影位置とを抽出し、前記移動体が投影する投影位置が前記目標投影位置となるように、前記移動体が投影する投影位置を制御してもよい。
上記の構成によれば、移動体が投影する投影位置が目標投影位置となるように画像を投影する制御装置を実現することができる。
また、本発明の態様3に係る制御装置において、前記投影制御部は、現在の前記投影像の投影位置と目標投影位置との差を算出することにより、投影位置の補正量を決定してもよい。
上記の構成によれば、移動体が投影する投影位置が目標投影位置となるように画像を投影する制御装置を実現することができる。
また、本発明の態様4に係る制御装置において、前記投影制御部は、前記撮像画像から、現在の前記投影像の投影位置を示す第一の特徴点、および目標投影位置を示す第二の特徴点をそれぞれ抽出し、第一の特徴点と第二の特徴点との位置の差を算出することにより、前記補正量を決定してもよい。
上記の構成によれば、現在の投影位置から第一の特徴点と、目標投影位置の第二の特徴点との差を算出して補正量を求めることにより、より精度よく画像を投影する制御装置を実現することができる。
また、本発明の態様5に係る制御装置は、同一の撮像装置によって互いに異なる時刻に撮像された複数の撮像画像を参照して前記移動体が投影する投影位置を制御してもよい。
上記の構成によれば、投影像の経時変化から、投影位置の補正量を算出することができる。
また、本発明の態様6に係る制御装置は、前記移動体の位置又は姿勢を制御することにより、前記移動体が投影する投影位置を制御してもよい。
上記の構成によれば、制御装置は、移動体の位置又は姿勢を制御することにより、投影位置を制御することができる。
また、本発明の態様7に係る制御装置は、前記投影部の投影方向を制御することにより、前記移動体が投影する投影位置を制御してもよい。
上記の構成によれば、制御装置は、投影部の投影方向を制御することにより、投影位置を制御することができる。
また、本発明の態様8に係る制御装置において、前記撮像画像取得部は、前記撮像画像として、前記移動体が備える撮像装置によって撮像された撮像画像を取得してもよい。
上記の構成によれば、制御装置は、移動体が備える撮像装置が撮像した撮像画像を用いて、投影位置を制御することができる。
また、本発明の態様9に係る制御装置において、前記撮像画像取得部は、前記撮像画像として、前記移動体以外が備える撮像装置によって撮像された撮像画像を取得してもよい。
上記の構成によれば、制御装置は、移動体以外が備える撮像装置が撮像した撮像画像を用いて、投影位置を制御することができる。
また、本発明の態様10に係る制御装置は、前記移動体として飛行体を制御してもよい。
上記の構成によれば、移動体として飛行体を用いて、目標となる位置へ画像を投影する制御装置を実現することができる。
また、本発明の態様11に係る制御装置において、前記投影部により投影される画像には、作業者による作業を補助するための情報が含まれていてもよい。
上記の構成によれば、正確な位置で作業者に作業を補助するための情報を提示する制御装置を実現することが可能となる。
また、本発明の態様12に係る飛行体は、投影部を備えている飛行体であって、前記投影部が投影した投影像を含む撮像画像を取得する撮像画像取得部と、前記撮像画像を参照して、前記飛行体の位置、前記飛行体の姿勢、および前記投影部の方向のうち少なくとも1つを制御する投影制御部とを備えている。
上記の構成によれば、飛行体の位置、飛行体の姿勢、および投影部の方向のうち少なくとも1つを制御して、目標となる位置へ画像を投影する飛行体を実現することができる。
また、本発明の態様13に係る制御プログラムは、本発明の一態様に係る制御装置としてコンピュータを機能させるための制御プログラムであって、前記撮像画像取得部、および前記投影制御部としてコンピュータを機能させるための制御プログラムである。
上記の構成によれば、上記態様1と同様の効果を奏することができる。
本発明の一態様によれば、目標となる位置へ好適に画像を投影する制御装置を実現することができる。
本発明の実施形態1に係る無人航空機の概略構成を示す図である。 本発明の実施形態1に係る無人航空機の概略構成を示すブロック図である。 本発明の実施形態1に係る投影位置補正処理の流れを示すシーケンス図である。 本発明の実施形態1に係る投影位置補正の例1を示す図である。 本発明の実施形態1に係る投影位置補正の例2を示す図である。 本発明の実施形態2に係る投影システムの概略構成を示すブロック図である。 本発明の実施形態2に係る投影位置補正処理の流れを示すシーケンス図である。
以下、図面に基づいて本発明の実施の形態を詳細に説明する。ただし、本実施形態に記載されている構成は、特に特定的な記載がない限り、この発明の範囲をそれのみに限定する趣旨ではなく、単なる説明例に過ぎない。また説明の便宜上、各実施形態に示した部材と同一の機能を有する部材については、同一の符号を付し、適宜その説明を省略する。
〔実施形態1〕
(無人航空機1の構成)
図1は、本発明の実施形態1に係る無人航空機1(移動体、飛行体)の概要を示す図である。なお、移動体は無人航空機1に限定されず、用途に応じて飛行体ではない自走式等のロボットとすることもできる。
無人航空機1を含む飛行体を用いて投影を行う場合、一般的に、目標となる位置へ投影することが難しい。しかしながら、本実施形態に係る制御装置10によれば、飛行体を用いても、目標となる位置へ画像を投影することが可能である。
図1に示すように、無人航空機1は、ブレード2a〜2d、カメラ7(撮像装置)、およびプロジェクタ3(投影部)を備える。なお、図1には図示していないが、ブレード2a〜2dを駆動させるモータが無人航空機1の内部に存在し、無人航空機1の飛行を制御している。
プロジェクタ3は、画像8を投影する。なお、以下単に「画像」といった場合、プロジェクタ3が投影する画像を指すものとする。画像8は、作業者による作業を補助するための情報を含むでもよい。作業を補助するための情報とは、例えば、本実施形態においては倉庫内において作業者が対象物を円滑にピッキングできるように補助する画像である。プロジェクタ3が指定の位置へ正確に画像8を投影することにより、画像8を介して、作業者に倉庫内での対象物の位置を正確に提示することが可能である。
なお、プロジェクタ3は、人間である作業者への指示だけでなく、他の装置や作業用ロボット等への指示を含む情報を投影してもよい。その場合、プロジェクタ3が投影する情報には、当該他の装置や他の作業用ロボットに対する指示を光学的情報として含ませる構成とすればよい。
プロジェクタ3が投影する情報は、光を用いた情報、換言すれば光により伝達される情報であれば特に限定されない。また、用いる光の波長は特に限定されない。例えば、当該光は、可視領域外の光であってもよいし、赤外線や紫外線等であってもよい。ただし、人間である作業者に対する指示をプロジェクタ3が投影する情報に含める場合、当該光は可視光領域を含むことが好ましい。
本実施形態において、カメラ7は、光学的な検出素子であり、例えば、可視光領域で撮像を行う。しかしながら、カメラ7が撮像する波長領域は特に限定されるものではなく、カメラ7は、プロジェクタ3が情報を投影するために用いる光を検出できればよく、可視領域外の光を検出してもよい。
(無人航空機1の構成)
図2を参照して、無人航空機1の構成について説明する。図2は、無人航空機1の構成を示すブロック図である。図2に示すように、無人航空機1は、ブレード2a〜2d、プロジェクタ3(投影部)、モータ4a〜4d、制御装置10、投影情報取得部14、および撮像装置18を備えている。制御装置10は、投影情報記憶部13、撮像画像取得部16、および投影制御部6を備えている。投影制御部6は、撮像画像処理部11、補正量算出部17、飛行体制御部12、およびプロジェクタ制御部25を備えている。
本実施形態においては、無人航空機1は、投影情報取得部14により、投影する画像8についての情報である投影情報を、外部の装置等から取得する。一例として、投影情報は、画像8の投影位置を指定する投影位置指定情報も含んでいるが、これは本実施形態を限定するものではなく、投影情報取得部14は、投影位置指定情報を他の装置等から別途取得する構成としてもよい。ここで、投影位置指定情報とは、当該投影画像を投影する投影位置を指定する情報である。制御装置10は、投影位置指定情報を参照して、無人航空機1の位置及び投影方向を制御する。
また、投影情報は、無人航空機1の状況に合わせて、時間と共に変化する情報であり得る。
投影情報取得部14は取得した投影情報を投影情報記憶部13に供給する。投影情報記憶部13は、投影情報を記憶する。
撮像画像処理部11は、投影情報記憶部13から取得した投影情報を、プロジェクタ3(投影部)に供給する。プロジェクタ3は、画像8を投影する。
カメラ7(撮像装置)は、画像8の投影像を含む画像を、撮像画像として取得する。以下、「撮像画像」といった場合、カメラ7により撮像された画像を指すものとする。なお、カメラ7の撮像方向及びプロジェクタ3の投影方向如何によっては、「撮像画像」には、プロジェクタ3が投影した画像の投影像が全く映っていない場合もあり得る。
撮像装置18は、撮像画像を制御装置10の撮像画像取得部16に供給する。撮像画像取得部16は、カメラ7から取得した撮像画像を、投影制御部6の撮像画像処理部11に供給する。撮像画像処理部11は、投影情報を参照し、撮像画像から、画像8の現在の投影位置および目標投影位置を抽出する。ここで、目標投影位置とは、投影位置指定情報によって指定される投影位置である。撮像画像処理部11による投影位置の具体的な抽出処理については、後述する。なお、一例としての制御において、無人航空機1を、倉庫内の地図を参照して、大まかな位置まで移動させ、そのうえで、撮像画像から目標投影位置を抽出する。このような制御では、当該大まかな位置まで移動する前には、撮像画像中に目標投影位置が含まれておらず、当該大まかな位置まで移動した後に、撮像画像中に目標投影位置が含まれることになる。
撮像画像処理部11は、撮像画像から抽出した現在の投影位置および目標投影位置を、補正量算出部17に供給する。補正量算出部17は、現在の投影位置と目標投影位置との差を算出し、投影位置の補正量を算出する。具体的な補正量の算出処理については、後述する。なお、現在の投影位置および目標投影位置の「差」とは、現在の投影位置を目標投影位置へと移動するためのずれの大きさ及び方向を指す。
補正量算出部17は、算出した補正量を、飛行体制御部12およびプロジェクタ制御部25に供給する。飛行体制御部12は、補正量を参照して、モータ4a〜4dを制御することによりブレード2a〜2dの駆動を制御して無人航空機1の位置又は姿勢を制御する。また、プロジェクタ制御部25は、プロジェクタ3の投影方向を制御することにより、画像8の投影位置を制御する。なお、移動体の「姿勢」を制御するとは、移動体を、目標とする投影方向に向けることを指し、飛行体ではない自走式等のロボットを、目標とする投影方向に向けることも含む。
このように、プロジェクタ3の投影方向の制御は、無人航空機1の位置や姿勢を移動させずにプロジェクタ3自体の投影方向のみを制御することによりなされてもよく、逆にプロジェクタ3自体の、無人航空機1に対する相対的な投影方向を変化させずに無人航空機1の位置又は姿勢を制御することによってもよい。なお、プロジェクタ3自体の相対的な投影方向を変化さない構成の場合、プロジェクタ制御部25は、投影制御部6の必須の構成ではない。
飛行体制御部12およびプロジェクタ制御部25は、無人航空機の性能、投影位置および投影姿勢保持の容易性等を考慮して、無人航空機1およびプロジェクタ3の制御方法を決定する。
図3を参照して、無人航空機1による投影位置補正処理の流れについて説明する。図3は、投影位置補正処理の流れを示すフローチャートである。
(ステップS004)
まず、ステップS004において、無人航空機1に備えられたプロジェクタ3が、撮像画像処理部11から供給された投影情報に基づき、画像8を投影する。
(ステップS006)
続いて、ステップS006において、カメラ7が、ステップS004において投影された画像8の投影像を含む画像を、撮像画像として取得する。カメラ7は、撮像画像を、撮像画像取得部16に供給する。
(ステップS008)
続いて、ステップS008において、撮像画像取得部16は、カメラ7が取得した撮像画像を取得する。撮像画像取得部16は、取得した撮像画像を、撮像画像処理部11へ供給する。
(ステップS010)
続いて、ステップS010において、撮像画像処理部11は、撮像画像中から、現在の投影位置および目標投影位置を抽出する。撮像画像処理部11は、現在の投影位置および目標投影位置を、補正量算出部17に供給する。撮像画像処理部11による投影位置の具体的な抽出処理については後述する。
(ステップS012)
続いて、ステップS012において、補正量算出部17は、現在の投影位置および目標投影位置の差を算出する。
(ステップS014)
続いて、ステップS014において、補正量算出部17は、現在の投影位置および目標投影位置の差が一定値以内であるかを判断する。
補正量算出部17は、現在の投影位置および目標投影位置の差が一定値以内であれば、目標投影位置への投影ができたものと判断し、投影位置補正処理は終了する。現在の投影位置および目標投影位置の差が一定値より大きければ、続いてステップS016の処理を行う。なお、上記「一定値」は、制御装置10が用いられる用途に応じて設定すればよい。一例として、補正量算出部17が、撮像画像中の1ピクセルを「一定値」として補正量を算出する構成が考えられる。
(ステップS016)
続いて、ステップS016において、補正量算出部17は、現在の投影位置と目標投影位置との差を最小化するよう投影位置の補正量を算出する。なお、差を「最小化」するとは、必ずしも現在の投影位置と目標投影位置とが完全一致することに限定されるものではない。現在の投影位置と目標投影位置との差が、ステップS014の説明において記載した「一定値」以内となるように投影できれば、投影制御部6は、十分精度よく投影ができたものと判断する。
(ステップS018)
続いて、ステップS018において、補正量算出部17は、ステップS016において求めた補正量を、飛行体制御部12およびプロジェクタ制御部25に供給する。
(ステップS020)
続いて、ステップS020において、飛行体制御部12は、補正量算出部17から供給された補正量を参照して、モータ4a〜4dを制御することにより、投影位置を目標投影位置に近づけるよう投影位置を制御する。プロジェクタ制御部25は、補正量算出部17から供給された補正量を参照して、プロジェクタ3の投影方向を制御することにより、投影位置を目標投影位置に近づけるよう投影位置を制御する。無人航空機1およびプロジェクタ3の制御については上述したためここでは説明を省略する。
続いて、ステップS004に戻り、位置補正後の投影位置から再度投影を行う。続いて、ステップS006〜S014の各処理を順番に行う。ステップS014において、現在の投影位置および目標投影位置の差が一定値以内であれば、投影制御部6は、目標投影位置への投影ができたものと判断し、投影位置補正処理を終了させる。現在の投影位置および目標投影位置の差が一定値より大きければ、投影制御部6は、ステップS016〜S020の各処理を順番に行い、もう一度ステップS004に戻り処理を行う。
ステップS004〜S020の処理を繰り返す回数は特に限定されず、現在の投影位置および目標投影位置の差が一定値以内となるまで行うことができる。また、位置補正後に無人航空機1の位置がずれた場合も、再度S004〜S020の処理を繰り返すことで位置補正を行うことができる。
また、上記の説明ではステップS004においてカメラ7が一枚の撮像画像を取得し、一枚の撮像画像を参照して、補正量算出部17が補正量を算出する処理について説明したが、カメラ7は互いに異なる時刻に複数の撮像画像を取得してもよい。この場合、補正量算出部17は、投影位置や投影方向を変化させつつ、同一のカメラ7により互いに異なる時刻に撮像された複数の撮像画像中における投影像の投影位置を参照し、投影位置の経時変化を抽出することにより、補正量を算出することができる。より具体的には、例えば、補正量算出部17は、投影方向や投影位置を変化させつつ撮像された複数の撮像画像と参照し、当該複数の撮像画像における投影像の投影位置と目標投影位置との相対位置関係及びその時間変化を解析することによって、補正の方向及び大きさを算出することができる。このように、無人航空機1を回転または並進させてみて、投影位置がずれる方向及びずれの大きさを抽出することにより、補正の方向及び大きさを算出することができる。
(投影位置補正の例1)
図4は、投影制御部6による投影位置補正の例1を説明するための図である。本例では、プロジェクタ3が、画像として、一つの点を投影している場合を例に挙げる。カメラ7は、当該点としての現在の投影位置20を含む撮像画像を取得する。撮像画像処理部11は、カメラ7から供給された撮像画像から、現在の投影位置20を第1の特徴点として抽出し、目標投影位置21を第2の特徴点として抽出し、投影のための目印22a〜22dも特徴点として抽出する。ここで、投影のための目印とは、投影位置20の世界座標系における値を特定するために参照される1又は複数の目印のことをいう。投影のための目印は、一例として目標投影位置付近に配置されている
ここでは、説明を単純化するために、投影のための目印22a〜22dが全て同一平面状に存在し、かつあらかじめ座標が判明しているものと仮定するが、これは本実施形態における補正量算出処理を限定するものではない。また、投影は平面に対して行い、現在の投影位置20および目標投影位置21も、投影のための目印22a〜22dと同一平面上にあるものとするが、これも本実施形態における補正量算出処理を限定するものではない。
補正量算出部17は、投影のための目印22a〜22dの座標を利用して点の現在の投影位置20の実座標(x,y,z)の具体的な値を特定する。なお、目標投影位置21の実座標(x’,y’,z’)の具体的な値は、投影制御部6により、投影位置指定情報を参照することによってあらかじめ定められている。補正量算出部17は、(x,y,z)の具体的な値を特定した後、例えば後述する算出例1または2の方法に従って、補正量を算出する。
また、本実施形態においては、説明を単純化するために、投影位置の補正は、無人航空機1の並進運動または回転運動によるものとするが、これは本実施形態を限定するものではない。
なお、投影位置補正の方法は上記の例に限定されない。他の方法として、例えば、補正量算出部17は、画像処理または3Dセンサでの計測結果から、直接補正量を計測するような方法を用いて、補正量を算出する方法が挙げられる。
(算出例1:回転運動を考えず、並進量ΔTのみを求める方法)
図4において説明した条件において補正量算出部17が補正量を算出する算出例の一つを説明する。
以下の説明において、カメラ座標とプロジェクタ座標は、キャリブレーション済みであり、これら2つの座標間の関係(一方の座標をどのように変換すれば他方の座標となるのか)は既知であるとする。なお、カメラ座標系とは、カメラ7のCCD又はレンズの位置を原点とし、カメラ7の光軸方向をZ軸として、右手系又は左手系によりX軸Y軸を設定した座標系である。プロジェクタ座標系とは、プロジェクタ3のミラー又は光源の位置を原点とし、プロジェクタ3の光軸方向をZ軸として、右手系又は左手系によりX軸Y軸を設定した座標系である。また、世界座標系とは、無人航空機1が移動する空間内に設けた座標であり、本実施形態においては、無人航空機1が移動する倉庫内に設けた三次元の座標系である。
以下では、カメラ座標からプロジェクタ座標への変換行列を、RpcおよびTpcと表現する。ここで、変換行列Rpcは回転を表現しており、変換行列Tpcは並進を表現している。同様に、世界座標系からカメラ座標系への変換行列を、RcwおよびTcwと表現する。ここで、変換行列Rcwは回転を表現しており、変換行列Tcwは並進を表現している。
上記のような表記法を用いた場合、補正量算出部17は、世界座標(x,y,z)を、下記の式1を用いることにより、プロジェクタ座標(x,y,z)に変換することができる。
Figure 0006988197
補正量算出部17は、上記式1を用いて、世界座標系における目標投影位置の座標(x’,y’,z’)と現在の投影位置の座標(x,y,z)とを、プロジェクタ座標系における目標投影位置の座標(x,y,z)、プロジェクタ座標系における現在の投影位置の座標(x,y,z)に変換する。
続いて、補正量算出部17は、プロジェクタ座標系における目標投影位置の座標(x,y,z)および、プロジェクタ座標系における現在の投影位置の座標(x,y,z)を、下記の式2に代入することによって、変換行列RおよびTを決定する。ここで、変換行列Rは回転を表現しており、Tは並進を表現している。
Figure 0006988197
一般的に、式2の条件を満たすRおよびTは複数存在するが、本算出例においては、無人航空機1の回転運動を考慮せずに、並進量ΔTのみを求める。換言すれば、本例では、補正量算出部17は、Rを単位行列に設定し、補正量T=ΔTのみを算出する。補正量算出部17によって算出された補正量ΔTは飛行体制御部12に供給され、飛行体制御部12は当該補正量の示す補正量だけ無人航空機を並進運動させることにより、目標投影位置に投影を行うことができる。
(算出例2:並進運動を考えず、回転量Rのみを求める方法)
次に補正量の算出例2として、無人航空機1の並進運動を考えず、回転量Rのみを求める方法について説明する。
まず算出例1と同様に、世界座標系における目標投影位置の座標(x’,y’,z’)と現在の投影位置の座標(x,y,z)とを、プロジェクタ座標系における目標投影位置の座標(x,y,z)およびプロジェクタ座標系における現在の投影位置の座標(x,y,z)に変換し、算出例1と同様に式2に代入する。
本算出例においては、Tを0とし、無人航空機1の並進運動を考えないものとする。プロジェクタ座標系における2つの投影位置のベクトル(x,y,z)と(x,y,z)との間の角度、および無人航空機1の回転運動の回転軸は、下記の式3および式4を用いて求めることができる。
Figure 0006988197
Figure 0006988197
補正量算出部17は、式3及び式4を用いて求めた回転軸と回転角度とを、ロドリゲスの回転公式に当てはめることにより、補正量R=ΔRを算出する。
補正量算出部17によって算出された補正量ΔRは飛行体制御部12に供給され、飛行体制御部12は当該補正量の示す補正量だけ無人航空機を回転運動させることにより、目標投影位置に投影を行うことができる。
(投影位置補正の例2)
図5は、投影位置補正の例2を説明するための図である。図5(a)は、プロジェクタ3が、投影する画像24である。図5(b)は、カメラ7が撮像した撮像画像の例であり、点の現在の投影位置20および目標投影位置21を含む。
カメラ7は、点の現在の投影位置20を含む撮像画像を取得する。撮像画像処理部11は、カメラ7から供給された撮像画像から、画像24の現在の投影位置20中の特徴点23a〜23d(第一の特徴点)、および投影のための目印(第二の特徴点)22a〜22dを抽出する。
撮像画像処理部11は、特徴点23a〜23dのそれぞれを目印22a〜22dのそれぞれに対応づける。より具体的には、補正量算出部17は、対応する点の組から、ホモグラフィ行列を求め、求めたホモグラフィ行列をZhangの方法等を用いて、回転行列R(=ΔR)と並進行列T(=ΔT)とに分解する。これにより、補正量算出部17は補正量ΔRおよびΔTを求めることができる。なお、カメラ座標からプロジェクタ座標への変換は、上述した式1を用いて行えばよい。
〔実施形態2〕
以下、実施形態2について、図6を参照して、詳細に説明する。以下の説明では、上記実施形態において既に説明した部材については同じ参照符号を付して説明を省略し、上記実施形態とは異なる点について説明を行う。
(制御システムの構成)
図6は、実施形態2に係る投影システム5の概略構成を示すブロック図である。本実施形態においては、投影システム5は、無人航空機1およびサーバ60を備えている。
無人航空機1は、ブレード2a〜2d、プロジェクタ3、モータ4a〜4d、制御装置10、投影情報取得部14、補正量受信部9を備えている。制御装置10は、投影情報記憶部13、撮像画像処理部11a、飛行体制御部12、およびプロジェクタ制御部25を備えている。なお、プロジェクタ3は、制御装置10の必須の構成ではない。
サーバ60は、投影制御部6a、カメラ7、撮像画像取得部16、および補正量送信部19を備えている。投影制御部6aは、撮像画像処理部11b、および補正量算出部17を備えている。
本実施形態においては、無人航空機1に備えられたプロジェクタ3が投影した画像を、サーバ60に備えられたカメラ7が撮像し、サーバ60において、実施形態1において説明した投影位置の抽出処理、補正量算出処理を行い、算出された補正量が、サーバ60から無人航空機1に送信される構成となっている。
図7を参照して、本実施形態に係る投影システム5による投影位置補正処理の流れについて説明する。図7は、投影位置補正処理の流れを示すシーケンス図である。なお、以下では、ステップS004〜S020を、一回のみ行う例について説明したが、本実施形態はこれに限定されるものではない。実施形態1において説明したように、目標投影位置と現在の投影位置との差が一定以内となるまで、複数回ステップS004〜S020を繰り返してもよい。
(ステップS004)
実施形態1同様、無人航空機1に備えられたプロジェクタ3が、画像8を投影する。
(ステップS006)
続いて、サーバ60に備えられたカメラ7が、ステップS004において投影された画像8の投影像を含む画像を、撮像画像として取得する。カメラ7は、撮像画像を、撮像画像取得部16に供給する。
(ステップS008)
続いて、ステップS008において、サーバ60に備えられた撮像画像取得部16は、カメラ7が取得した撮像画像を取得する。撮像画像取得部16は、取得した撮像画像を、撮像画像処理部11へ供給する。
(ステップS010)
続いて、ステップS010において、撮像画像処理部11は、撮像画像中から、現在の投影位置および目標投影位置を抽出する。撮像画像処理部11は、現在の投影位置および目標投影位置を、補正量算出部17に供給する。撮像画像処理部11による投影位置の具体的な抽出処理は、実施形態1と同様である。
(ステップS012)
続いて、ステップS012において、補正量算出部17は、現在の投影位置および目標投影位置の差を算出する。
(ステップS016)
続いて、ステップS016において、補正量算出部17は、現在の投影位置と目標投影位置との差を最小化するよう投影位置の補正量を算出する。ステップS016の具体的な内容は、実施形態1と同様である。
(ステップS018)
続いて、ステップS018において、補正量算出部17は、ステップS016において求めた補正量を、補正量送信部19に送る。補正量送信部19は、補正量を無人航空機1の補正量受信部9に送る。
(ステップS019)
補正量受信部9は、補正量送信部19から補正量を受け取り、飛行体制御部12およびプロジェクタ制御部25に供給する。
(ステップS020)
続いて、ステップS020において、飛行体制御部12は、補正量を参照して、モータ4a〜4dを制御することにより、投影位置を目標投影位置に近づけるよう投影位置を制御する。プロジェクタ制御部25は、補正量を参照して、プロジェクタ3を制御することにより、投影位置を目標投影位置に近づけるよう、飛行体1およびプロジェクタ3を制御する。飛行体1およびプロジェクタ3の制御については実施形態1と同様である。
本実施形態においては、カメラ7が無人航空機1以外に設けられている。より具体的には、カメラ7がサーバ60側に備えられている。このため、エリア毎に一つのサーバ60を設け、該エリア内の複数の無人航空機の投影位置補正を、一つのサーバ60により行う構成とすることも可能である。また、本実施形態では、投影位置抽出処理、および補正量算出処理がサーバ60において行われるため、制御装置10を比較的簡易な構成によって実現できる。
〔ソフトウェアによる実現例〕
制御装置10の制御ブロックは、集積回路(ICチップ)等に形成された論理回路(ハードウェア)によって実現してもよいし、ソフトウェアによって実現してもよい。
後者の場合、制御装置10は、各機能を実現するソフトウェアであるプログラムの命令を実行するコンピュータを備えている。このコンピュータは、例えば1つ以上のプロセッサを備えていると共に、上記プログラムを記憶したコンピュータ読み取り可能な記録媒体を備えている。そして、上記コンピュータにおいて、上記プロセッサが上記プログラムを上記記録媒体から読み取って実行することにより、本発明の目的が達成される。上記プロセッサとしては、例えばCPU(Central Processing Unit)を用いることができる。上記記録媒体としては、「一時的でない有形の媒体」、例えば、ROM(Read Only Memory)等の他、テープ、ディスク、カード、半導体メモリ、プログラマブルな論理回路などを用いることができる。また、上記プログラムを展開するRAM(Random Access Memory)などをさらに備えていてもよい。また、上記プログラムは、該プログラムを伝送可能な任意の伝送媒体(通信ネットワークや放送波等)を介して上記コンピュータに供給されてもよい。なお、本発明の一態様は、上記プログラムが電子的な伝送によって具現化された、搬送波に埋め込まれたデータ信号の形態でも実現され得る。
本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
1 無人航空機(移動体)
3 プロジェクタ(投影部)
6、6a 投影制御部
7 カメラ(投影装置)
8 画像
10 制御装置
11 撮像画像処理部
12 飛行体制御部
17 補正量算出部
16 画像取得部
25 プロジェクタ制御部

Claims (12)

  1. 投影部を備えている移動体を制御する制御装置であって、
    前記投影部が投影した投影像を含む撮像画像を取得する撮像画像取得部と、
    前記撮像画像を参照して、前記移動体の位置、前記移動体の姿勢、および前記投影部の方向のうち少なくとも1つを制御する投影制御部と
    を備え
    同一の撮像装置によって互いに異なる時刻に撮像された複数の撮像画像中における投影像の各々の投影位置を参照して前記移動体が投影する投影位置を制御する
    ことを特徴とする制御装置。
  2. 前記投影制御部は、前記撮像画像から、前記投影像の投影位置と目標投影位置とを抽出し、前記移動体が投影する投影位置が前記目標投影位置となるように、前記移動体が投影する投影位置を制御することを特徴とする請求項1に記載の制御装置。
  3. 前記投影制御部は、現在の前記投影像の投影位置と目標投影位置との差を算出することにより、投影位置の補正量を決定することを特徴とする請求項2に記載の制御装置。
  4. 前記投影制御部は、前記撮像画像から、現在の前記投影像の投影位置を示す第一の特徴点、および目標投影位置を示す第二の特徴点をそれぞれ抽出し、第一の特徴点と第二の特徴点との位置の差を算出することにより、前記補正量を決定することを特徴とする請求項3に記載の制御装置。
  5. 前記移動体の位置又は姿勢を制御することにより、前記移動体が投影する投影位置を制御することを特徴とする請求項1からのいずれか1項に記載の制御装置。
  6. 前記投影部の投影方向を制御することにより、前記移動体が投影する投影位置を制御することを特徴とする請求項1からのいずれか1項に記載の制御装置。
  7. 前記撮像画像取得部は、前記撮像画像として、前記移動体が備える撮像装置によって撮像された撮像画像を取得することを特徴とする請求項1からのいずれか1項に記載の制御装置。
  8. 前記撮像画像取得部は、前記撮像画像として、前記移動体以外が備える撮像装置によって撮像された撮像画像を取得することを特徴とする請求項1からのいずれか1項に記載の制御装置。
  9. 前記移動体として飛行体を制御することを特徴とする請求項1からのいずれか1項に記載の制御装置。
  10. 前記投影部により投影される画像には、作業者による作業を補助するための情報が含まれていることを特徴とする請求項1からのいずれか1項に記載の制御装置。
  11. 投影部を備えている飛行体であって、
    前記投影部が投影した投影像を含む撮像画像を取得する撮像画像取得部と、
    前記撮像画像を参照して、前記飛行体の位置、前記飛行体の姿勢、および前記投影部の方向のうち少なくとも1つを制御する投影制御部と
    を備え
    同一の撮像装置によって互いに異なる時刻に撮像された複数の撮像画像中における投影像の各々の投影位置を参照して前記飛行体が投影する投影位置を制御する
    制御装置を備えていることを特徴とする飛行体。
  12. 請求項1から10のいずれか1項に記載の制御装置としてコンピュータを機能させるための制御プログラムであって、前記撮像画像取得部、前記投影制御部、および前記同一の撮像装置によって互いに異なる時刻に撮像された複数の撮像画像中における投影像の各々の投影位置を参照して前記移動体が投影する投影位置を制御する装置としてコンピュータを機能させるための制御プログラム。
JP2017125606A 2017-06-27 2017-06-27 制御装置、飛行体、および制御プログラム Active JP6988197B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2017125606A JP6988197B2 (ja) 2017-06-27 2017-06-27 制御装置、飛行体、および制御プログラム
PCT/JP2018/006001 WO2019003492A1 (ja) 2017-06-27 2018-02-20 制御装置、飛行体、および制御プログラム
TW107106440A TWI693959B (zh) 2017-06-27 2018-02-26 控制裝置、飛行體以及記錄媒體

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017125606A JP6988197B2 (ja) 2017-06-27 2017-06-27 制御装置、飛行体、および制御プログラム

Publications (2)

Publication Number Publication Date
JP2019008676A JP2019008676A (ja) 2019-01-17
JP6988197B2 true JP6988197B2 (ja) 2022-01-05

Family

ID=64742067

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017125606A Active JP6988197B2 (ja) 2017-06-27 2017-06-27 制御装置、飛行体、および制御プログラム

Country Status (3)

Country Link
JP (1) JP6988197B2 (ja)
TW (1) TWI693959B (ja)
WO (1) WO2019003492A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020152143A (ja) * 2019-03-18 2020-09-24 株式会社リコー 飛行体
WO2020240918A1 (ja) * 2019-05-28 2020-12-03 三菱電機株式会社 作業支援システム、作業支援方法およびプログラム
JP7406082B2 (ja) * 2019-12-16 2023-12-27 日亜化学工業株式会社 遠隔操作型移動体、及び、遠隔操作型移動体に搭載された投影装置の冷却方法
JP2021154808A (ja) * 2020-03-26 2021-10-07 セイコーエプソン株式会社 無人航空機
CN112379680B (zh) * 2020-10-10 2022-12-13 中国运载火箭技术研究院 一种飞行器姿态角控制方法、控制装置及存储介质
US11443518B2 (en) 2020-11-30 2022-09-13 At&T Intellectual Property I, L.P. Uncrewed aerial vehicle shared environment privacy and security
US11797896B2 (en) 2020-11-30 2023-10-24 At&T Intellectual Property I, L.P. Autonomous aerial vehicle assisted viewing location selection for event venue
US11726475B2 (en) 2020-11-30 2023-08-15 At&T Intellectual Property I, L.P. Autonomous aerial vehicle airspace claiming and announcing
WO2023127500A1 (ja) * 2021-12-27 2023-07-06 富士フイルム株式会社 制御装置、制御方法、及び制御プログラム

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4196880B2 (ja) * 2004-05-24 2008-12-17 セイコーエプソン株式会社 自動移動型空中浮遊映像表示装置
JP2014179698A (ja) * 2013-03-13 2014-09-25 Ricoh Co Ltd プロジェクタ及びプロジェクタの制御方法、並びに、その制御方法のプログラム及びそのプログラムを記録した記録媒体
JP6330371B2 (ja) * 2014-03-03 2018-05-30 セイコーエプソン株式会社 画像投影装置及び画像投影方法

Also Published As

Publication number Publication date
TWI693959B (zh) 2020-05-21
TW201904643A (zh) 2019-02-01
WO2019003492A1 (ja) 2019-01-03
JP2019008676A (ja) 2019-01-17

Similar Documents

Publication Publication Date Title
JP6988197B2 (ja) 制御装置、飛行体、および制御プログラム
US10234278B2 (en) Aerial device having a three-dimensional measurement device
US11070793B2 (en) Machine vision system calibration
US10681269B2 (en) Computer-readable recording medium, information processing method, and information processing apparatus
CN104154875B (zh) 基于两轴旋转平台的三维数据获取系统及获取方法
JP5134784B2 (ja) 空中写真測量方法
CN110782496A (zh) 标定方法、装置、航拍设备和存储介质
WO2017042907A1 (ja) 航法装置および測量システム
JP2006252473A (ja) 障害物検出装置、キャリブレーション装置、キャリブレーション方法およびキャリブレーションプログラム
KR20200064542A (ko) 드론을 이용한 지상기준점 측량장치 및 그 방법
CN111612794A (zh) 基于多2d视觉的零部件高精度三维位姿估计方法及系统
JP7527546B2 (ja) 人間関節を用いた無人航空機上のカメラの校正
JP4132068B2 (ja) 画像処理装置及び三次元計測装置並びに画像処理装置用プログラム
CN109978954A (zh) 基于箱体的雷达和相机联合标定的方法和装置
WO2024093635A1 (zh) 相机位姿估计方法、装置及计算机可读存储介质
JP2009175012A (ja) 計測装置および計測方法
US20210156710A1 (en) Map processing method, device, and computer-readable storage medium
JP7008736B2 (ja) 画像キャプチャ方法および画像キャプチャ装置
CN116952229A (zh) 无人机定位方法、装置、系统和存储介质
CN113252066A (zh) 里程计设备参数的标定方法及装置、存储介质、电子装置
KR102503308B1 (ko) 무인항공기의 도로차선 추종장치 및 그 방법
EP3529977B1 (en) A bundle adjustment system
EP3943979A1 (en) Indoor device localization
CN115147495A (zh) 一种针对车载系统的标定方法、装置以及系统
KR102576449B1 (ko) 3차원 모델에 대한 영상 정합 장치 및 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200309

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210511

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210528

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211102

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211115

R150 Certificate of patent or registration of utility model

Ref document number: 6988197

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150