JP6260803B2 - Imaging system, moving body, imaging method, and program - Google Patents

Imaging system, moving body, imaging method, and program Download PDF

Info

Publication number
JP6260803B2
JP6260803B2 JP2016103313A JP2016103313A JP6260803B2 JP 6260803 B2 JP6260803 B2 JP 6260803B2 JP 2016103313 A JP2016103313 A JP 2016103313A JP 2016103313 A JP2016103313 A JP 2016103313A JP 6260803 B2 JP6260803 B2 JP 6260803B2
Authority
JP
Japan
Prior art keywords
imaging
unit
subject
imaging unit
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016103313A
Other languages
Japanese (ja)
Other versions
JP2017212531A (en
Inventor
三田 英明
英明 三田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SZ DJI Technology Co Ltd
Original Assignee
SZ DJI Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SZ DJI Technology Co Ltd filed Critical SZ DJI Technology Co Ltd
Priority to JP2016103313A priority Critical patent/JP6260803B2/en
Publication of JP2017212531A publication Critical patent/JP2017212531A/en
Application granted granted Critical
Publication of JP6260803B2 publication Critical patent/JP6260803B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)

Description

本発明は、撮像システム、移動体、撮像方法、及びプログラムに関する。   The present invention relates to an imaging system, a moving body, an imaging method, and a program.

特許文献1には、移動体に搭載されたカメラと、カメラを保持する安定化装置とを備える被写体追尾装置が開示されている。安定化装置は、カメラが被写体を連続的に撮像する間、カメラの向きを制御する。
特許文献1 特開2008−244893号公報
Patent Document 1 discloses a subject tracking device that includes a camera mounted on a moving body and a stabilization device that holds the camera. The stabilization device controls the orientation of the camera while the camera continuously captures the subject.
Japanese Patent Application Laid-Open No. 2008-244893

移動体に搭載された撮像装置の撮像範囲に所望の被写体をより確実に含めることが望まれている。   It is desired to more reliably include a desired subject in an imaging range of an imaging device mounted on a moving body.

一態様において、撮像システムは、第1撮像部と、第2撮像部と、第1撮像部によって撮像された第1の画像に基づいて、第2撮像部が搭載された移動体の移動を制御する第1の制御部と、第1撮像部によって撮像された画像に基づいて、被写体を特定する特定部と、特定部が特定した被写体が第2撮像部の撮像範囲に含まれるように制御する第2の制御部とを備える。   In one aspect, the imaging system controls the movement of the moving body on which the second imaging unit is mounted based on the first imaging unit, the second imaging unit, and the first image captured by the first imaging unit. Based on the image captured by the first control unit, the image captured by the first imaging unit, control is performed so that the subject specified by the subject and the subject specified by the specification unit are included in the imaging range of the second imaging unit. A second control unit.

第1撮像部は、第1レンズ装置を有してよい。第2撮像部は、第1レンズ装置より望遠である第2レンズ装置を有してよい。   The first imaging unit may include a first lens device. The second imaging unit may include a second lens device that is more telephoto than the first lens device.

第2レンズ装置は、第1レンズ装置より画角が狭くてよい。   The second lens device may have a narrower angle of view than the first lens device.

第2レンズ装置は、第1レンズ装置より焦点距離が長くてよい。   The second lens device may have a longer focal length than the first lens device.

第2レンズ装置は、画角を変更可能でよい。特定部は、第2レンズ装置の画角が予め定められた値未満の場合、第1撮像部によって撮像された画像に基づいて、被写体を特定してよい。   The second lens device may be capable of changing the angle of view. The specifying unit may specify the subject based on the image captured by the first imaging unit when the angle of view of the second lens device is less than a predetermined value.

第1撮像部の撮像範囲は、第2撮像部の撮像範囲より広くてよい。   The imaging range of the first imaging unit may be wider than the imaging range of the second imaging unit.

撮像システムは、第1の画像に基づいて、被写体の立体情報を取得する取得部を備えてよい。第1の制御部は、立体情報に基づいて、移動体の移動を制御してよい。   The imaging system may include an acquisition unit that acquires stereoscopic information of the subject based on the first image. The first control unit may control the movement of the moving body based on the three-dimensional information.

撮像システムは、複数の第1撮像部を備えてよい。特定部は、複数の第1撮像部のうちの少なくとも1つによって撮像された画像に基づいて、被写体を特定してよい。   The imaging system may include a plurality of first imaging units. The identifying unit may identify the subject based on an image captured by at least one of the plurality of first imaging units.

撮像システムは、複数の第1撮像部を保持する第1の保持部を備えてよい。撮像システムは、第2撮像部を保持し、第2撮像部の撮像方向を変更可能な第2の保持部を備えてよい。撮像システムは、複数の第1撮像部のうち、第2撮像部の撮像方向により近い撮像方向の第1撮像部を選択する選択部を備えてよい。特定部は、選択部が選択した第1撮像部によって撮像された画像に基づいて、目標となる被写体を特定してよい。   The imaging system may include a first holding unit that holds a plurality of first imaging units. The imaging system may include a second holding unit that holds the second imaging unit and can change the imaging direction of the second imaging unit. The imaging system may include a selection unit that selects a first imaging unit having an imaging direction closer to the imaging direction of the second imaging unit among the plurality of first imaging units. The specifying unit may specify a target subject based on an image captured by the first imaging unit selected by the selection unit.

特定部は、第2撮像部によって撮像された画像にさらに基づいて、目標となる被写体を特定してよい。   The specifying unit may specify a target subject based further on the image captured by the second imaging unit.

特定部は、第1の画像に基づいて特定された被写体と、第2の画像に基づいて特定された被写体とのうち一方を、予め定められた基準に従って、被写体として特定してよい。   The specifying unit may specify one of the subject specified based on the first image and the subject specified based on the second image as a subject according to a predetermined criterion.

撮像システムは、第1の画像に基づいて、特定部が特定した被写体までの距離を取得する取得部を備えてよい。撮像システムは、取得部が取得した被写体までの距離に基づいて、第2撮像部の焦点距離を調整する調整部を備えてよい。   The imaging system may include an acquisition unit that acquires the distance to the subject specified by the specifying unit based on the first image. The imaging system may include an adjustment unit that adjusts the focal length of the second imaging unit based on the distance to the subject acquired by the acquisition unit.

制御部は、第2撮像部の画角を制御することにより、特定部が特定した被写体が第2撮像部の撮像範囲に含まれるように制御してよい。   The control unit may control the angle of view of the second imaging unit so that the subject specified by the specifying unit is included in the imaging range of the second imaging unit.

制御部は、第2撮像部の向きを制御することにより、特定部が特定した被写体が第2撮像部の撮像範囲に含まれるように制御してよい。   The control unit may control the subject specified by the specifying unit to be included in the imaging range of the second imaging unit by controlling the orientation of the second imaging unit.

一態様において、移動体は、撮像システムを備えて移動する。   In one aspect, the moving body moves with an imaging system.

制御部は、移動体の位置を制御することにより、特定部が特定した被写体が第2撮像部の撮像範囲に含まれるように制御してよい。   The control unit may control the subject specified by the specifying unit to be included in the imaging range of the second imaging unit by controlling the position of the moving body.

一態様において、撮像方法は、第1撮像部によって撮像された第1の画像に基づいて、第2撮像部が搭載された移動体の移動を制御する段階と、第1の画像に基づいて、被写体を特定する段階と、特定された被写体が第2撮像部の撮像範囲に含まれるように制御する段階とを備える。   In one aspect, the imaging method includes a step of controlling the movement of the moving body on which the second imaging unit is mounted based on the first image captured by the first imaging unit, and the first image, The step of specifying the subject and the step of controlling the specified subject to be included in the imaging range of the second imaging unit are provided.

第1撮像部は、第1レンズ装置を有してよい。第2撮像部は、第1レンズ装置より望遠である第2レンズ装置を有してよい。被写体を特定する段階は、第2レンズ装置の画角が予め定められた値以上の場合、第1撮像部によって撮像された動画に基づいて、被写体を特定する段階を含んでよい。被写体を特定する段階は、第2レンズ装置の画角が予め定められた値未満の場合、第2撮像部によって撮像された動画に基づいて、被写体を特定する段階を含んでよい。   The first imaging unit may include a first lens device. The second imaging unit may include a second lens device that is more telephoto than the first lens device. The step of specifying the subject may include the step of specifying the subject based on the moving image captured by the first imaging unit when the angle of view of the second lens device is greater than or equal to a predetermined value. The step of specifying the subject may include the step of specifying the subject based on the moving image captured by the second imaging unit when the angle of view of the second lens device is less than a predetermined value.

撮像方法は、第1の画像に基づいて、特定された被写体までの距離を取得する段階を備えてよい。撮像方法は、取得された被写体までの距離に基づいて、第2撮像部の焦点距離を調整する段階を備えてよい。   The imaging method may include a step of acquiring a distance to the identified subject based on the first image. The imaging method may include a step of adjusting the focal length of the second imaging unit based on the acquired distance to the subject.

一態様において、プログラムは、撮像方法をコンピュータに実行させる。   In one aspect, a program causes a computer to execute an imaging method.

上記の発明の概要は、本発明の特徴の全てを列挙したものではない。これらの特徴群のサブコンビネーションも発明となりうる。   The above summary of the present invention does not enumerate all of the features of the present invention. A sub-combination of these feature groups can also be an invention.

UAVの外観の一例を示す図である。It is a figure which shows an example of the external appearance of UAV. UAVの機能ブロックの一例を示す図である。It is a figure which shows an example of the functional block of UAV. UAV制御部の機能ブロックの一例を示す図である。It is a figure which shows an example of the functional block of a UAV control part. 複数の撮像装置の複数の撮像範囲の位置関係の一例を示す図である。It is a figure which shows an example of the positional relationship of the several imaging range of a several imaging device. 複数の撮像装置の複数の撮像範囲の位置関係の一例を示す図である。It is a figure which shows an example of the positional relationship of the several imaging range of a several imaging device. 複数の撮像装置の複数の撮像範囲の位置関係の一例を示す図である。It is a figure which shows an example of the positional relationship of the several imaging range of a several imaging device. UAVによる被写体の追尾の手順の一例を示す図である。It is a figure which shows an example of the procedure of the tracking of the to-be-photographed object by UAV. UAVによる被写体の追尾の手順の他の例を示す図である。It is a figure which shows the other example of the procedure of the tracking of the to-be-photographed object by UAV.

以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。   Hereinafter, the present invention will be described through embodiments of the invention, but the following embodiments do not limit the invention according to the claims. Not all combinations of features described in the embodiments are essential for the solution of the invention.

特許請求の範囲、明細書、図面、及び要約書には、著作権による保護の対象となる事項が含まれる。著作権者は、これらの書類の何人による複製に対しても、特許庁のファイルまたはレコードに表示される通りであれば異議を唱えない。ただし、それ以外の場合、一切の著作権を留保する。   The claims, the description, the drawings, and the abstract include matters subject to copyright protection. The copyright owner will not object to any number of copies of these documents as they appear in the JPO file or record. However, in other cases, all copyrights are reserved.

図1は、無人航空機(UAV)100の外観の一例を示す。UAV100は、UAV本体102、ジンバル200、撮像装置220、及び複数の撮像装置230を備える。UAV100は、撮像システムを備えて移動する移動体の一例である。移動体とは、UAVの他、空中を移動する他の航空機、地上を移動する車両、水上を移動する船舶等を含む概念である。   FIG. 1 shows an example of the appearance of an unmanned aerial vehicle (UAV) 100. The UAV 100 includes a UAV main body 102, a gimbal 200, an imaging device 220, and a plurality of imaging devices 230. The UAV 100 is an example of a moving body that moves with an imaging system. The moving body is a concept including, in addition to UAV, other aircraft that moves in the air, vehicles that move on the ground, ships that move on the water, and the like.

UAV本体102は、複数の回転翼を備える。UAV本体102は、複数の回転翼の回転を制御することでUAV100を飛行させる。UAV本体102は、例えば、4つの回転翼を用いてUAV100を飛行させる。回転翼の数は、4つには限定されない。また、UAV100は、回転翼を有さない固定翼機でもよい。   The UAV main body 102 includes a plurality of rotor blades. The UAV main body 102 flies the UAV 100 by controlling the rotation of a plurality of rotor blades. For example, the UAV main body 102 causes the UAV 100 to fly using four rotary wings. The number of rotor blades is not limited to four. Further, the UAV 100 may be a fixed wing aircraft that does not have a rotating wing.

撮像装置220は、所望の撮像範囲に含まれる被写体を撮像する撮像用のカメラである。複数の撮像装置230は、UAV100の飛行を制御するためにUAV100の周囲を撮像するセンシング用のカメラである。2つの撮像装置230が、UAV100の機首である正面に設けられてよい。さらに他の2つの撮像装置230が、UAV100の底面に設けられてよい。正面側の2つの撮像装置230はペアとなり、いわゆるステレオカメラとして機能してよい。底面側の2つの撮像装置230もペアとなり、ステレオカメラとして機能してよい。複数の撮像装置230により撮像された画像に基づいて、UAV100の周囲の3次元空間データが生成されてよい。UAV100が備える撮像装置230の数は4つには限定されない。UAV100は、少なくとも1つの撮像装置230を備えていればよい。UAV100は、UAV100の機首、機尾、側面、底面、及び天井面のそれぞれに少なくとも1つの撮像装置230を備えてもよい。撮像装置230で設定できる画角は、撮像装置220で設定できる画角より広くてよい。撮像装置230は、単焦点レンズ又は魚眼レンズを有してもよい。UAV本体102は、第1の保持部の一例である。   The imaging device 220 is an imaging camera that images a subject included in a desired imaging range. The plurality of imaging devices 230 are sensing cameras that image the surroundings of the UAV 100 in order to control the flight of the UAV 100. Two imaging devices 230 may be provided on the front surface that is the nose of the UAV 100. Two other imaging devices 230 may be provided on the bottom surface of the UAV 100. The two imaging devices 230 on the front side may be paired and function as a so-called stereo camera. The two imaging devices 230 on the bottom side may also be paired and function as a stereo camera. Three-dimensional spatial data around the UAV 100 may be generated based on images captured by the plurality of imaging devices 230. The number of imaging devices 230 included in the UAV 100 is not limited to four. The UAV 100 only needs to include at least one imaging device 230. The UAV 100 may include at least one imaging device 230 on each of the nose, the tail, the side surface, the bottom surface, and the ceiling surface of the UAV 100. The angle of view that can be set by the imaging device 230 may be wider than the angle of view that can be set by the imaging device 220. The imaging device 230 may have a single focus lens or a fisheye lens. The UAV main body 102 is an example of a first holding unit.

図2は、UAV100の機能ブロックの一例を示す。UAV100は、UAV制御部110、通信インタフェース150、メモリ160、ジンバル200、回転翼機構210、撮像装置220、及び撮像装置230を備える。通信インタフェース150は、外部の送信機と通信する。通信インタフェース150は、遠隔の送信機からUAV制御部110に対する各種の命令を受信する。メモリ160は、UAV制御部110がジンバル200、回転翼機構210、撮像装置220、及び撮像装置230を制御するのに必要なプログラム等を格納する。メモリ160は、コンピュータ読み取り可能な記録媒体でよく、SRAM、DRAM、EPROM、EEPROM、及びUSBメモリ等のフラッシュメモリの少なくとも1つを含んでよい。メモリ160は、UAV100の筐体に設けられてよい。UAV100の筐体から取り外し可能に設けられてよい。   FIG. 2 shows an example of functional blocks of the UAV 100. The UAV 100 includes a UAV control unit 110, a communication interface 150, a memory 160, a gimbal 200, a rotary blade mechanism 210, an imaging device 220, and an imaging device 230. The communication interface 150 communicates with an external transmitter. The communication interface 150 receives various commands for the UAV control unit 110 from a remote transmitter. The memory 160 stores a program and the like necessary for the UAV control unit 110 to control the gimbal 200, the rotary blade mechanism 210, the imaging device 220, and the imaging device 230. The memory 160 may be a computer-readable recording medium and may include at least one of flash memory such as SRAM, DRAM, EPROM, EEPROM, and USB memory. The memory 160 may be provided in the housing of the UAV 100. It may be provided so as to be removable from the housing of the UAV 100.

ジンバル200は、少なくとも1つの軸を中心に撮像装置220を回転可能に支持する。ジンバル200は、ヨー軸、ピッチ軸、及びロール軸を中心に撮像装置220を回転可能に支持してよい。ジンバル200は、ヨー軸、ピッチ軸、及びロール軸の少なくとも1つを中心に撮像装置220を回転させることで、撮像装置220の撮像方向を変更してよい。回転翼機構210は、複数の回転翼と、複数の回転翼を回転させる複数の駆動モータとを有する。ジンバル200は、第2の保持部の一例である。   The gimbal 200 supports the imaging device 220 rotatably about at least one axis. The gimbal 200 may support the imaging device 220 rotatably about the yaw axis, pitch axis, and roll axis. The gimbal 200 may change the imaging direction of the imaging device 220 by rotating the imaging device 220 about at least one of the yaw axis, the pitch axis, and the roll axis. The rotary blade mechanism 210 includes a plurality of rotary blades and a plurality of drive motors that rotate the plurality of rotary blades. The gimbal 200 is an example of a second holding unit.

撮像装置220は、所望の撮像範囲の被写体を撮像して画像データを生成する。撮像装置220の画像データは、撮像装置220が有するメモリ、又はメモリ160に格納される。レンズ装置222は、1又は複数のレンズを含む。レンズ装置222は、1又は複数のレンズを光軸に沿って移動させることにより、ズーム動作及びフォーカス動作を実行する。レンズ装置222は、ズーム動作により画角を変更できる。   The imaging device 220 captures a subject within a desired imaging range and generates image data. The image data of the imaging device 220 is stored in the memory included in the imaging device 220 or the memory 160. The lens device 222 includes one or a plurality of lenses. The lens device 222 performs a zoom operation and a focus operation by moving one or more lenses along the optical axis. The lens device 222 can change the angle of view by a zoom operation.

撮像装置230は、UAV100の周囲を撮像して画像データを生成する。撮像装置230の画像データは、メモリ160に格納される。撮像装置220は、レンズ装置222を備える。撮像装置230は、レンズ装置232を備える。レンズ装置232は、1又は複数のレンズを含む。レンズ装置232は、1又は複数のレンズを光軸に沿って移動させることにより、ズーム動作及びフォーカス動作を実行してもよい。レンズ装置222は、レンズ装置232より望遠でよい。レンズ装置222は、レンズ装置232より画角が狭くてよい。レンズ装置222は、レンズ装置232より焦点距離が長くてよい。撮像装置230の撮像範囲は、撮像装置220の撮像範囲より広くてよい。   The imaging device 230 captures the surroundings of the UAV 100 and generates image data. Image data of the imaging device 230 is stored in the memory 160. The imaging device 220 includes a lens device 222. The imaging device 230 includes a lens device 232. The lens device 232 includes one or more lenses. The lens device 232 may execute the zoom operation and the focus operation by moving one or more lenses along the optical axis. The lens device 222 may be telephoto than the lens device 232. The lens device 222 may have a narrower angle of view than the lens device 232. The lens device 222 may have a longer focal length than the lens device 232. The imaging range of the imaging device 230 may be wider than the imaging range of the imaging device 220.

UAV制御部110は、メモリ160に格納されたプログラムに従ってUAV100の飛行及び撮像を制御する。UAV制御部110は、CPU又はMPU等のマイクロプロセッサ、MCU等のマイクロコントローラ等により構成されてよい。UAV制御部110は、通信インタフェース150を介して遠隔の送信機から受信した命令に従って、UAV100の飛行及び撮像を制御する。UAV制御部110は、飛行制御及び撮像制御のためのプログラムをメモリ160から読み出して実行することにより、撮像システムとして機能する。UAV制御部110、撮像装置220及び撮像装置230は、撮像システムの一例である。撮像システムは、ジンバル200等の他の構成を含んでもよい。   The UAV control unit 110 controls the flight and imaging of the UAV 100 according to a program stored in the memory 160. The UAV control unit 110 may be configured by a microprocessor such as a CPU or MPU, a microcontroller such as an MCU, or the like. The UAV control unit 110 controls flight and imaging of the UAV 100 according to a command received from a remote transmitter via the communication interface 150. The UAV control unit 110 functions as an imaging system by reading a program for flight control and imaging control from the memory 160 and executing the program. The UAV control unit 110, the imaging device 220, and the imaging device 230 are an example of an imaging system. The imaging system may include other configurations such as a gimbal 200.

図3は、UAV制御部110の機能ブロックの一例を示す。UAV制御部110は、立体情報取得部111、移動制御部112、被写体特定部114、撮像範囲制御部116、撮像選択部118、被写体距離取得部120、及び焦点距離調整部122を備える。UAV制御部110が備える各部は、ハードウェア、ファームウェア、及びソフトウェアのいずれかで構成されてよい。   FIG. 3 shows an example of functional blocks of the UAV control unit 110. The UAV control unit 110 includes a stereoscopic information acquisition unit 111, a movement control unit 112, a subject specifying unit 114, an imaging range control unit 116, an imaging selection unit 118, a subject distance acquisition unit 120, and a focal length adjustment unit 122. Each unit included in the UAV control unit 110 may be configured by any one of hardware, firmware, and software.

立体情報取得部111は、複数の撮像装置230によって撮像された画像に基づいて、撮像対象の立体情報を取得する。立体情報取得部111は、複数の撮像装置230により撮像された複数の画像に基づいてUAV100の周囲の3次元空間データを生成してよい。立体情報取得部111は、第1の取得部の一例である。   The three-dimensional information acquisition unit 111 acquires three-dimensional information of an imaging target based on images captured by a plurality of imaging devices 230. The three-dimensional information acquisition unit 111 may generate three-dimensional spatial data around the UAV 100 based on a plurality of images captured by the plurality of imaging devices 230. The three-dimensional information acquisition unit 111 is an example of a first acquisition unit.

移動制御部112は、撮像装置230によって撮像された画像に基づいて、UAV100の移動を制御する。移動制御部112は、立体情報取得部111により取得された立体情報に基づいてUAV100の移動を制御してよい。移動制御部112は、立体情報を解析することで、UAV100の周囲の環境を特定してよい。移動制御部112は、UAV100の周囲の環境に基づいて、障害物を回避させるようにUAV100の飛行を制御してよい。移動制御部112は、立体情報取得部111により生成された3次元空間データに基づいて飛行を制御してよい。移動制御部112は、第1の制御部の一例である。   The movement control unit 112 controls the movement of the UAV 100 based on the image captured by the imaging device 230. The movement control unit 112 may control the movement of the UAV 100 based on the stereoscopic information acquired by the stereoscopic information acquisition unit 111. The movement control unit 112 may specify the environment around the UAV 100 by analyzing the three-dimensional information. The movement control unit 112 may control the flight of the UAV 100 so as to avoid an obstacle based on the environment around the UAV 100. The movement control unit 112 may control the flight based on the three-dimensional space data generated by the three-dimensional information acquisition unit 111. The movement control unit 112 is an example of a first control unit.

被写体特定部114は、複数の撮像装置230の少なくとも1つによって撮像された画像に基づいて、目標となる被写体を特定する。被写体特定部114は、撮像選択部118が選択した撮像装置230によって撮像された画像に基づいて、目標となる被写体を特定してよい。被写体特定部114は、特定部の一例である。撮像選択部118は、複数の撮像装置230のうち、撮像装置220の撮像方向により近い撮像方向の撮像装置230を選択してよい。撮像選択部118は、選択部の一例である。   The subject specifying unit 114 specifies a target subject based on an image captured by at least one of the plurality of imaging devices 230. The subject specifying unit 114 may specify a target subject based on an image captured by the imaging device 230 selected by the imaging selection unit 118. The subject specifying unit 114 is an example of a specifying unit. The imaging selection unit 118 may select an imaging device 230 having an imaging direction closer to the imaging direction of the imaging device 220 among the plurality of imaging devices 230. The imaging selection unit 118 is an example of a selection unit.

被写体特定部114は、撮像装置220によって撮像された画像にさらに基づいて、目標となる被写体を特定してよい。被写体特定部114は、撮像装置220の画角が予め定められた値未満の場合、撮像装置230によって撮像された画像に基づいて、目標となる被写体を特定してよい。画像とは、静止画又は動画像を含む概念である。被写体特定部114は、撮像装置230によって撮像された画像に基づいて特定された被写体と、撮像装置220によって撮像された画像に基づいて特定された被写体とのうち一方を、予め定められた基準に従って、目標となる被写体として特定してよい。被写体特定部114は、撮像装置230の画像により特定された被写体の信頼度と、撮像装置220の画像により特定された被写体の信頼度とを比較してよい。被写体特定部114は、より信頼度の高い被写体を目標の被写体として特定してよい。被写体の信頼度は、被写体の確からしさを示す指標である。被写体特定部114は、予め定められた基準画像に含まれる被写体と、撮像された画像に含まれる被写体との類似度を導出することで、信頼度を導出してよい。被写体特定部114は、いわゆる顔認証システムを利用して被写体の信頼度を導出してよい。   The subject specifying unit 114 may specify a target subject based further on the image captured by the imaging device 220. The subject specifying unit 114 may specify a target subject based on an image captured by the imaging device 230 when the angle of view of the imaging device 220 is less than a predetermined value. An image is a concept including a still image or a moving image. The subject specifying unit 114 selects one of the subject specified based on the image captured by the imaging device 230 and the subject specified based on the image captured by the imaging device 220 according to a predetermined criterion. The target subject may be specified. The subject specifying unit 114 may compare the reliability of the subject specified by the image of the imaging device 230 with the reliability of the subject specified by the image of the imaging device 220. The subject specifying unit 114 may specify a subject with higher reliability as a target subject. The reliability of the subject is an index indicating the certainty of the subject. The subject specifying unit 114 may derive the reliability by deriving the similarity between the subject included in the predetermined reference image and the subject included in the captured image. The subject specifying unit 114 may derive the reliability of the subject using a so-called face authentication system.

撮像範囲制御部116は、被写体特定部114が特定した被写体が撮像装置220の撮像範囲に含まれるように制御する。撮像範囲制御部116は、撮像装置220の画角を制御することにより、被写体特定部114が特定した被写体が撮像装置220の撮像範囲に含まれるように制御してよい。撮像範囲制御部116は、撮像装置220の向きを制御することにより、被写体特定部114が特定した被写体が撮像装置220の撮像範囲に含まれるように制御してよい。撮像範囲制御部116は、ジンバル200を制御して撮像装置220の向きを制御してよい。撮像範囲制御部116は、UAV100の位置を制御することにより、被写体特定部114が特定した被写体が撮像装置220の撮像範囲に含まれるように制御してよい。撮像範囲制御部116は、第2の制御部の一例である。   The imaging range control unit 116 performs control so that the subject specified by the subject specifying unit 114 is included in the imaging range of the imaging device 220. The imaging range control unit 116 may control the subject specified by the subject specifying unit 114 to be included in the imaging range of the imaging device 220 by controlling the angle of view of the imaging device 220. The imaging range control unit 116 may control the subject specified by the subject specifying unit 114 to be included in the imaging range of the imaging device 220 by controlling the orientation of the imaging device 220. The imaging range control unit 116 may control the direction of the imaging device 220 by controlling the gimbal 200. The imaging range control unit 116 may control the subject specified by the subject specifying unit 114 to be included in the imaging range of the imaging device 220 by controlling the position of the UAV 100. The imaging range control unit 116 is an example of a second control unit.

被写体距離取得部120は、撮像装置230によって撮像された画像に基づいて、被写体特定部114が特定した被写体までの距離を取得する。被写体距離取得部120は、第2の取得部の一例である。移動制御部112は、複数の撮像装置230によって撮像された複数の画像に基づいて、例えば三角測距方式で被写体までの距離を取得してよい。焦点距離調整部122は、被写体距離取得部120が取得した被写体までの距離に基づいて、撮像装置220の焦点距離を調整する。焦点距離調整部122は、被写体距離取得部120が取得した被写体までの距離に基づいて、レンズ装置222に対してフォーカス調整するよう指示する。焦点距離調整部122は、調整部の一例である。   The subject distance acquisition unit 120 acquires the distance to the subject specified by the subject specification unit 114 based on the image captured by the imaging device 230. The subject distance acquisition unit 120 is an example of a second acquisition unit. The movement control unit 112 may acquire the distance to the subject based on a plurality of images captured by the plurality of imaging devices 230 using, for example, a triangulation method. The focal length adjustment unit 122 adjusts the focal length of the imaging device 220 based on the distance to the subject acquired by the subject distance acquisition unit 120. The focal length adjustment unit 122 instructs the lens device 222 to perform focus adjustment based on the distance to the subject acquired by the subject distance acquisition unit 120. The focal length adjustment unit 122 is an example of an adjustment unit.

被写体特定部114は、撮像装置220及び撮像装置230の少なくとも一方の画像を利用して被写体を特定する。これにより、例えば、UAV100が特定の被写体を追尾する場合に、特定の被写体を見失いにくくできる。撮像装置230は、UAV100の飛行を制御するために利用されるセンシング用のカメラでよい。したがって、被写体の追尾を補強するために、UAV100に新たなカメラを設ける必要がない。   The subject specifying unit 114 specifies a subject using at least one image of the imaging device 220 and the imaging device 230. Thereby, for example, when the UAV 100 tracks a specific subject, it is difficult to lose sight of the specific subject. The imaging device 230 may be a sensing camera that is used to control the flight of the UAV 100. Therefore, it is not necessary to provide a new camera in the UAV 100 in order to reinforce tracking of the subject.

センシング用のカメラは、例えば、UAV100の周囲の障害物を検出するために用いられる。したがって、センシング用のカメラは、UAV100の周囲の比較的広い領域を撮像できることが好ましい。センシング用のカメラの画角は撮像用のカメラの画角より広いほうが好ましい。よって、センシング用のカメラの撮像範囲に目標の被写体が含まれる確率は、撮像用のカメラの撮像範囲に目標の被写体が含まれる確率より高い。撮像装置220は、撮像用のカメラであり、例えば、被写体がより大きく写るように画角を狭くする場合がある。画角が狭いと被写体が撮像範囲に含まれにくくなる。そこで、撮像装置220の画像による被写体の追尾と並行して、撮像装置230の画像による被写体の追尾を実行する。これにより、たとえUAV100が撮像装置220の画像により被写体を途中で追尾できなくなっても、撮像装置230の画像により被写体を継続的に追尾できる。   The sensing camera is used to detect an obstacle around the UAV 100, for example. Therefore, it is preferable that the sensing camera can capture a relatively wide area around the UAV 100. The field angle of the sensing camera is preferably wider than the field angle of the imaging camera. Therefore, the probability that the target subject is included in the imaging range of the sensing camera is higher than the probability that the target subject is included in the imaging range of the imaging camera. The imaging device 220 is a camera for imaging, and for example, there are cases where the angle of view is narrowed so that the subject is shown larger. If the angle of view is narrow, the subject is less likely to be included in the imaging range. Accordingly, the tracking of the subject by the image of the imaging device 230 is executed in parallel with the tracking of the subject by the image of the imaging device 220. Thereby, even if the UAV 100 cannot track the subject in the middle of the image of the imaging device 220, the subject can be continuously tracked by the image of the imaging device 230.

図4、図5、及び図6は、複数の撮像装置の複数の撮像範囲の位置関係の一例を示す図である。撮像範囲12、14、16、及び18は、それぞれ撮像装置230の撮像範囲である。撮像範囲12、14、16、及び18の位置関係は、一例であり、任意の位置関係であってよい。   4, 5, and 6 are diagrams illustrating an example of a positional relationship between a plurality of imaging ranges of a plurality of imaging devices. The imaging ranges 12, 14, 16, and 18 are imaging ranges of the imaging device 230, respectively. The positional relationship between the imaging ranges 12, 14, 16, and 18 is an example, and may be an arbitrary positional relationship.

撮像範囲10は、撮像装置220の撮像範囲である。図4に示すように、撮像装置220の撮像範囲の外に目標となる被写体30が存在する。この場合、被写体特定部114が、撮像装置220の画像のみで被写体30を特定しようとしても、撮像装置220の撮像範囲に被写体30がいないので、被写体30を特定できない。被写体特定部114は、撮像範囲12又は撮像範囲14を有する撮像装置230によって撮像された画像から被写体30を特定できる。被写体特定部114が撮像装置230の画像により被写体30を特定した後、撮像範囲制御部116が、ジンバル200を制御することで、撮像装置220の撮像方向を調整する。これにより、撮像範囲制御部116は、撮像装置220の撮像範囲10を撮像範囲10'に変更してよい。撮像範囲制御部116は、図5に示すように、レンズ装置222を制御することで撮像装置220の画角を広くしてよい。これにより、撮像範囲制御部116は、撮像装置220の撮像範囲10を撮像範囲10'に変更してよい。撮像範囲制御部116は、図6に示すように、回転翼機構210を制御してUAV100の位置を変更してよい。これにより、撮像範囲制御部116は、撮像装置220の撮像範囲10を撮像範囲10'に変更してよい。これらの制御により、被写体特定部114は、再び撮像装置220の画像により被写体を特定できる。   The imaging range 10 is an imaging range of the imaging device 220. As shown in FIG. 4, the target subject 30 exists outside the imaging range of the imaging device 220. In this case, even if the subject specifying unit 114 attempts to specify the subject 30 only with the image of the imaging device 220, the subject 30 cannot be specified because the subject 30 is not in the imaging range of the imaging device 220. The subject identifying unit 114 can identify the subject 30 from the image captured by the imaging device 230 having the imaging range 12 or the imaging range 14. After the subject specifying unit 114 specifies the subject 30 based on the image of the imaging device 230, the imaging range control unit 116 controls the gimbal 200 to adjust the imaging direction of the imaging device 220. Thereby, the imaging range control unit 116 may change the imaging range 10 of the imaging device 220 to the imaging range 10 ′. As shown in FIG. 5, the imaging range control unit 116 may control the lens device 222 to widen the angle of view of the imaging device 220. Thereby, the imaging range control unit 116 may change the imaging range 10 of the imaging device 220 to the imaging range 10 ′. The imaging range control unit 116 may change the position of the UAV 100 by controlling the rotary blade mechanism 210 as shown in FIG. Thereby, the imaging range control unit 116 may change the imaging range 10 of the imaging device 220 to the imaging range 10 ′. Through these controls, the subject specifying unit 114 can specify the subject again from the image of the imaging device 220.

図7は、UAV100による被写体の追尾の手順の一例を示す図である。当該手順は、例えば、撮像装置220により撮像された動画をUAV100を操作するユーザの送信機に提供しているときに実行されてよい。   FIG. 7 is a diagram illustrating an example of a procedure for tracking a subject by the UAV 100. The procedure may be executed when, for example, a moving image captured by the imaging device 220 is provided to a transmitter of a user who operates the UAV 100.

被写体特定部114は、撮像装置220により撮像されている画像内で目標となる被写体の指定を受け付ける(S100)。被写体特定部114は、例えば撮像装置220により撮像されている動画を観察しているユーザから、目標となる被写体の指定を送信機を介して受け付けてよい。ユーザは、送信機を介して撮像装置230の画角、焦点距離、撮像方向などの撮像条件を随時変更できる。被写体特定部114は、指定された被写体を撮像装置220により撮像された画像から特定して、被写体を追尾する(S102)。被写体特定部114は、撮像装置220の画角が予め定められた値未満か否かを判定する(S104)。撮像装置220の画角が予め定められた値以上であれば、被写体特定部114は、撮像装置230による被写体の追尾は不要と判断して、撮像装置220による追尾のみを継続する。一方、撮像装置220の画角が予め定められた値未満であれば、撮像装置220による被写体の追尾が途中でできなくなる可能性があると判断して、被写体特定部114は、撮像装置220及び230による被写体の追尾を並行して試みる。   The subject specifying unit 114 accepts designation of a target subject in the image captured by the imaging device 220 (S100). The subject specifying unit 114 may accept designation of a target subject via a transmitter from, for example, a user observing a moving image captured by the imaging device 220. The user can change imaging conditions such as an angle of view, a focal length, and an imaging direction of the imaging device 230 at any time via the transmitter. The subject identifying unit 114 identifies the designated subject from the image captured by the imaging device 220 and tracks the subject (S102). The subject specifying unit 114 determines whether the angle of view of the imaging device 220 is less than a predetermined value (S104). If the angle of view of the imaging device 220 is greater than or equal to a predetermined value, the subject specifying unit 114 determines that tracking of the subject by the imaging device 230 is unnecessary, and continues only tracking by the imaging device 220. On the other hand, if the angle of view of the imaging device 220 is less than a predetermined value, the subject specifying unit 114 determines that there is a possibility that tracking of the subject by the imaging device 220 may not be possible, and the subject specifying unit 114 At the same time, tracking of the subject by 230 is attempted.

撮像選択部118は、撮像装置220の撮像方向に基づいて、複数の撮像装置230の中から被写体の追尾に最適な撮像装置230を選択する(S106)。撮像選択部118は、撮像装置220の撮像方向に近い撮像方向の撮像装置230を選択する。撮像選択部118は、ジンバル200に対する撮像装置220の姿勢に基づいて、撮像装置220の撮像方向を特定してよい。撮像選択部118は、ジンバル200のピッチ軸及びヨー軸の基準回転角度からの回転角度に基づいて、撮像装置220の撮像方向を特定してよい。被写体特定部114は、選択された撮像装置230の画像から目標となる被写体を特定して、被写体をさらに追尾する(S108)。   Based on the imaging direction of the imaging device 220, the imaging selection unit 118 selects the imaging device 230 that is optimal for tracking the subject from the plurality of imaging devices 230 (S106). The imaging selection unit 118 selects the imaging device 230 having an imaging direction close to the imaging direction of the imaging device 220. The imaging selection unit 118 may specify the imaging direction of the imaging device 220 based on the attitude of the imaging device 220 with respect to the gimbal 200. The imaging selection unit 118 may specify the imaging direction of the imaging device 220 based on the rotation angle from the reference rotation angle of the pitch axis and yaw axis of the gimbal 200. The subject specifying unit 114 specifies a target subject from the image of the selected imaging device 230, and further tracks the subject (S108).

被写体特定部114は、撮像装置220の画像により被写体の追尾ができているか否かを判定する(S110)。追尾ができていれば、被写体特定部114は、撮像装置220の画像による被写体の追尾を継続する。被写体特定部114が、撮像装置220の画像による被写体の追尾をできていない場合、被写体特定部114は、選択された撮像装置230の画像による被写体の追尾ができているか否かを判定する(S112)。   The subject specifying unit 114 determines whether or not the subject is tracked based on the image of the imaging device 220 (S110). If tracking has been completed, the subject specifying unit 114 continues tracking the subject using the image of the imaging device 220. When the subject specifying unit 114 has not been able to track the subject by the image of the imaging device 220, the subject specifying unit 114 determines whether or not the subject has been tracked by the image of the selected imaging device 230 (S112). ).

被写体の追尾ができている場合、撮像範囲制御部116は、撮像装置230の画像に基づいて、被写体の位置を取得する。被写体距離取得部120は、撮像装置230の画像に基づいて被写体までの距離を取得する(S114)。撮像範囲制御部116及び焦点距離調整部122は、被写体の位置及び被写体までの距離に基づいて、撮像装置220の撮像条件を調整する(S116)。撮像範囲制御部116は、被写体の位置に基づいて、撮像装置230の画角、撮像方向、又はUAV100の位置を制御して、撮像範囲を調整する。焦点距離調整部122は、被写体までの距離に基づいて撮像装置220の焦点距離を調整する。撮像装置220の撮像条件が調整された後、被写体特定部114は、再び撮像装置220の画像による被写体の追尾を継続する。   When the subject is tracked, the imaging range control unit 116 acquires the position of the subject based on the image of the imaging device 230. The subject distance acquisition unit 120 acquires the distance to the subject based on the image of the imaging device 230 (S114). The imaging range control unit 116 and the focal length adjustment unit 122 adjust the imaging conditions of the imaging device 220 based on the position of the subject and the distance to the subject (S116). The imaging range control unit 116 adjusts the imaging range by controlling the angle of view, the imaging direction, or the position of the UAV 100 based on the position of the subject. The focal length adjustment unit 122 adjusts the focal length of the imaging device 220 based on the distance to the subject. After the imaging condition of the imaging device 220 is adjusted, the subject specifying unit 114 continues tracking the subject using the image of the imaging device 220 again.

被写体特定部114が、撮像装置220及び撮像装置230による画像により被写体の追尾ができない場合には、被写体の追尾ができないことをユーザに通知する(S118)。ユーザは、その通知を受けて、UAV100を移動したり、撮像装置230の撮像範囲を調整したりして、被写体を探す。   If the subject identification unit 114 cannot track the subject from the images of the imaging device 220 and the imaging device 230, the subject identification unit 114 notifies the user that the subject cannot be tracked (S118). Upon receiving the notification, the user searches the subject by moving the UAV 100 or adjusting the imaging range of the imaging device 230.

以上の通り、撮像装置220及び撮像装置230の少なくとも一方の画像を用いて被写体を追尾することで、UAV100による被写体の追尾をより確実にできる。また、撮像装置220の画角が比較的広い場合、撮像装置230による被写体の追尾を実行しないので、UAV制御部110の処理の負担を低減できる。   As described above, by tracking the subject using at least one image of the imaging device 220 and the imaging device 230, tracking of the subject by the UAV 100 can be more reliably performed. Also, when the imaging device 220 has a relatively wide angle of view, the subject tracking by the imaging device 230 is not executed, so the processing burden on the UAV control unit 110 can be reduced.

図8は、UAV100による被写体の追尾の手順の他の例を示す図である。当該手順は、図7に示す手順と同様に、例えば、撮像装置220により撮像された動画をUAV100のユーザの送信機に提供しているときに実行されてよい。   FIG. 8 is a diagram illustrating another example of the subject tracking procedure performed by the UAV 100. Similar to the procedure illustrated in FIG. 7, the procedure may be executed when, for example, a moving image captured by the imaging device 220 is provided to the transmitter of the user of the UAV 100.

被写体特定部114は、撮像装置220により撮像されている画像内で目標となる被写体の指定を受け付ける(S200)。被写体特定部114は、指定された被写体を撮像装置220により撮像された画像から特定して、被写体を追尾する(S202)。撮像選択部118は、撮像装置220の撮像方向に基づいて、複数の撮像装置230の中から被写体の追尾に最適な撮像装置230を選択する(S204)。被写体特定部114は、選択された撮像装置230の画像から目標となる被写体を特定して、被写体をさらに追尾する(S206)。   The subject specifying unit 114 receives designation of a target subject in the image captured by the imaging device 220 (S200). The subject identifying unit 114 identifies the designated subject from the image captured by the imaging device 220 and tracks the subject (S202). Based on the imaging direction of the imaging device 220, the imaging selection unit 118 selects the imaging device 230 that is optimal for tracking the subject from the plurality of imaging devices 230 (S204). The subject specifying unit 114 specifies a target subject from the image of the selected imaging device 230, and further tracks the subject (S206).

被写体特定部114は、撮像装置220の画像内の被写体、及び撮像装置230の画像内の被写体のそれぞれの信頼度を算出する(S208)。被写体特定部114は、撮像装置220の信頼度が、撮像装置230の信頼度以上か否かを判定する(S210)。撮像装置220の信頼度がより高ければ、被写体特定部114は、撮像装置220の画像により被写体の追尾ができているかどうかを判定する(S212)。被写体特定部114は、撮像装置230の被写体の信頼度が基準値以上か否かにより、撮像装置220の画像により被写体の追尾ができているかどうかを判定してよい。撮像装置220の画像により被写体の追尾ができていれば、被写体特定部114は、撮像装置220の画像による被写体の追尾を継続する。   The subject specifying unit 114 calculates the reliability of each of the subject in the image of the imaging device 220 and the subject in the image of the imaging device 230 (S208). The subject specifying unit 114 determines whether or not the reliability of the imaging device 220 is equal to or higher than the reliability of the imaging device 230 (S210). If the reliability of the imaging device 220 is higher, the subject specifying unit 114 determines whether or not the subject is tracked by the image of the imaging device 220 (S212). The subject specifying unit 114 may determine whether or not the subject is tracked by the image of the imaging device 220 based on whether or not the reliability of the subject of the imaging device 230 is equal to or higher than a reference value. If the subject is tracked by the image of the imaging device 220, the subject specifying unit 114 continues tracking the subject by the image of the imaging device 220.

撮像装置220の信頼度が撮像装置230の信頼度より低い場合、撮像範囲制御部116は、撮像装置230の画像に基づいて、被写体の位置を取得する。被写体距離取得部120は、撮像装置230の画像に基づいて被写体までの距離を取得する(S214)。撮像範囲制御部116及び焦点距離調整部122は、被写体の位置及び被写体までの距離に基づいて、撮像装置220の撮像条件を調整する(S216)。撮像範囲制御部116は、被写体の位置に基づいて、撮像装置230の画角、撮像方向、又はUAV100の位置を制御して、撮像範囲を調整する。焦点距離調整部122は、被写体までの距離に基づいて撮像装置220の焦点距離を調整する。撮像装置220の撮像条件が調整された後、被写体特定部114は、撮像装置220の画像により被写体の追尾ができているかどうかを判定する(S212)。   When the reliability of the imaging device 220 is lower than the reliability of the imaging device 230, the imaging range control unit 116 acquires the position of the subject based on the image of the imaging device 230. The subject distance acquisition unit 120 acquires the distance to the subject based on the image of the imaging device 230 (S214). The imaging range control unit 116 and the focal length adjustment unit 122 adjust the imaging condition of the imaging device 220 based on the position of the subject and the distance to the subject (S216). The imaging range control unit 116 adjusts the imaging range by controlling the angle of view, the imaging direction, or the position of the UAV 100 based on the position of the subject. The focal length adjustment unit 122 adjusts the focal length of the imaging device 220 based on the distance to the subject. After the imaging conditions of the imaging device 220 are adjusted, the subject specifying unit 114 determines whether or not the subject has been tracked based on the image of the imaging device 220 (S212).

被写体特定部114は、撮像装置220の画像により被写体の追尾ができていれば、撮像装置220の画像による被写体の追尾を継続する。一方、撮像装置220の画像により被写体の追尾ができない場合には、被写体の追尾ができないことをユーザに通知する(S218)。ユーザは、その通知を受けて、UAV100を移動したり、撮像装置230の撮像範囲を調整したりして、被写体を探す。   If the subject has been tracked by the image of the imaging device 220, the subject specifying unit 114 continues tracking the subject by the image of the imaging device 220. On the other hand, when the subject cannot be tracked by the image of the imaging device 220, the user is notified that the subject cannot be tracked (S218). Upon receiving the notification, the user searches the subject by moving the UAV 100 or adjusting the imaging range of the imaging device 230.

以上の通り、撮像装置220の画像により特定された被写体の信頼度が撮像装置230の被写体より低い場合に、撮像装置230の画像に基づいて撮像装置220の撮像条件を調整できる。よって、撮像装置220の画像により誤って特定された被写体をUAV100が追尾し続けることを抑制できる。   As described above, when the reliability of the subject specified by the image of the imaging device 220 is lower than that of the subject of the imaging device 230, the imaging condition of the imaging device 220 can be adjusted based on the image of the imaging device 230. Therefore, it is possible to suppress the UAV 100 from continuously tracking the subject that is erroneously specified by the image of the imaging device 220.

上記の実施形態に示される複数の段階の少なくとも1つの段階は、ハードウェア、又は関連するハードウェアに命令するプログラムによって実装されてよい。プログラムは、コンピュータ可読記録媒体に格納されてよい。記録媒体は、ROM、磁気ディスク、及び光ディスクの少なくとも1つを含んでよい。   At least one of the steps shown in the above embodiments may be implemented by hardware or a program instructing related hardware. The program may be stored in a computer readable recording medium. The recording medium may include at least one of a ROM, a magnetic disk, and an optical disk.

以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。   As mentioned above, although this invention was demonstrated using embodiment, the technical scope of this invention is not limited to the range as described in the said embodiment. It will be apparent to those skilled in the art that various modifications or improvements can be added to the above-described embodiment. It is apparent from the scope of the claims that the embodiments added with such changes or improvements can be included in the technical scope of the present invention.

特許請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現可能である。特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。   The order of execution of each process such as operations, procedures, steps, and stages in the apparatus, system, program, and method shown in the claims, the description, and the drawings is particularly “before” or “prior to”. ”And the like, and can be realized in any order unless the output of the previous process is used in the subsequent process. Regarding the operation flow in the claims, the description, and the drawings, even if it is described using “first”, “next”, etc. for convenience, it means that it is essential to carry out in this order. It is not a thing.

100 UAV
102 UAV本体
110 UAV制御部
111 立体情報取得部
112 移動制御部
114 被写体特定部
116 撮像範囲制御部
118 撮像選択部
120 被写体距離取得部
122 焦点距離調整部
150 通信インタフェース
160 メモリ
200 ジンバル
210 回転翼機構
220 撮像装置
222 レンズ装置
230 撮像装置
232 レンズ装置
100 UAV
102 UAV main body 110 UAV control unit 111 Three-dimensional information acquisition unit 112 Movement control unit 114 Subject specification unit 116 Imaging range control unit 118 Imaging selection unit 120 Subject distance acquisition unit 122 Focal length adjustment unit 150 Communication interface 160 Memory 200 Gimbal 210 Rotary blade mechanism 220 Imaging Device 222 Lens Device 230 Imaging Device 232 Lens Device

Claims (24)

移動体に搭載された第1撮像部と、
前記移動体に搭載された第2撮像部と、
前記第1撮像部によって撮像された第1の画像に基づいて、前記移動体の移動を制御する第1の制御部と、
前記第1の画像に基づいて、被写体を特定する特定部と、
前記特定部が特定した被写体が前記第2撮像部の撮像範囲に含まれるように制御する第2の制御部と
を備え
前記特定部は、前記第2撮像部の画角が予め定められた値以上の場合、前記第2撮像部のみによって撮像された画像に基づいて、前記被写体を特定する、撮像システム。
A first imaging unit mounted on a moving body ;
A second imaging unit mounted on the moving body ;
A first control unit based on the first image captured, controls the movement of the movable body by the first image pickup unit,
A specifying unit for specifying a subject based on the first image;
A second control unit that controls the subject specified by the specifying unit to be included in an imaging range of the second imaging unit ;
The specifying unit specifies the subject based on an image picked up only by the second image pickup unit when an angle of view of the second image pickup unit is equal to or larger than a predetermined value .
前記第1撮像部は、第1レンズ装置を有し、
前記第2撮像部は、前記第1レンズ装置より望遠である第2レンズ装置を有する、請求項1に記載の撮像システム。
The first imaging unit includes a first lens device,
The imaging system according to claim 1, wherein the second imaging unit includes a second lens device that is more telephoto than the first lens device.
前記第2レンズ装置は、前記第1レンズ装置より画角が狭い、請求項2に記載の撮像システム。   The imaging system according to claim 2, wherein the second lens device has a narrower angle of view than the first lens device. 前記第2レンズ装置は、前記第1レンズ装置より焦点距離が長い、請求項2又は3に記載の撮像システム。   The imaging system according to claim 2 or 3, wherein the second lens device has a longer focal length than the first lens device. 移動体に搭載された第1撮像部と、
前記移動体に搭載された第2撮像部と、
前記第1撮像部によって撮像された第1の画像に基づいて、前記第2撮像部が搭載された移動体の移動を制御する第1の制御部と、
前記第1の画像に基づいて、被写体を特定する特定部と、
前記特定部が特定した被写体が前記第2撮像部の撮像範囲に含まれるように制御する第2の制御部と
を備え、
前記第1撮像部は、第1レンズ装置を有し、
前記第2撮像部は、前記第1レンズ装置より望遠である第2レンズ装置を有し、
前記第2レンズ装置は、画角を変更可能であり、
前記特定部は、
前記第2レンズ装置の画角が予め定められた値未満の場合、前記第1撮像部によって撮像された画像に基づいて、被写体を特定する撮像システム。
A first imaging unit mounted on a moving body;
A second imaging unit mounted on the moving body;
A first control unit that controls movement of a moving body on which the second imaging unit is mounted based on a first image captured by the first imaging unit;
A specifying unit for specifying a subject based on the first image;
A second control unit for controlling the subject specified by the specifying unit to be included in an imaging range of the second imaging unit;
With
The first imaging unit includes a first lens device,
The second imaging unit includes a second lens device that is more telephoto than the first lens device,
The second lens device can change the angle of view;
The specific part is:
Wherein when the angle of view is below a predetermined value of the second lens unit, based on the image captured by the first image pickup unit, to identify the object, the imaging system.
前記第1撮像部の撮像範囲は、前記第2撮像部の撮像範囲より広い、請求項1から5のいずれか一項に記載の撮像システム。   The imaging system according to any one of claims 1 to 5, wherein an imaging range of the first imaging unit is wider than an imaging range of the second imaging unit. 前記第1の画像に基づいて、被写体の立体情報を取得する第1の取得部と、
前記第1の制御部は、前記立体情報に基づいて、前記移動体の移動を制御する、請求項1から6のいずれか一項に記載の撮像システム。
A first acquisition unit that acquires stereoscopic information of a subject based on the first image;
The imaging system according to any one of claims 1 to 6, wherein the first control unit controls movement of the moving body based on the three-dimensional information.
複数の前記第1撮像部
を備え、
前記特定部は、前記複数の第1撮像部のうちの少なくとも1つによって撮像された画像に基づいて、被写体を特定する、請求項1から7のいずれか一項に記載の撮像システム。
A plurality of the first imaging units;
The imaging system according to claim 1, wherein the specifying unit specifies a subject based on an image captured by at least one of the plurality of first imaging units.
移動体に搭載された第1撮像部と、
前記移動体に搭載された第2撮像部と、
前記第1撮像部によって撮像された第1の画像に基づいて、前記第2撮像部が搭載された移動体の移動を制御する第1の制御部と、
前記第1の画像に基づいて、被写体を特定する特定部と、
前記特定部が特定した被写体が前記第2撮像部の撮像範囲に含まれるように制御する第2の制御部と
を備え、
複数の前記第1撮像部を保持する第1の保持部と、
前記第2撮像部を保持し、前記第2撮像部の撮像方向を変更可能な第2の保持部と、
前記複数の第1撮像部のうち、他の第1撮像部より前記第2撮像部の撮像方向に近い撮像方向の前記第1撮像部を選択する選択部と
をさらに備え、
前記特定部は、前記選択部が選択した前記第1撮像部によって撮像された画像に基づいて、被写体を特定する撮像システム。
A first imaging unit mounted on a moving body;
A second imaging unit mounted on the moving body;
A first control unit that controls movement of a moving body on which the second imaging unit is mounted based on a first image captured by the first imaging unit;
A specifying unit for specifying a subject based on the first image;
A second control unit for controlling the subject specified by the specifying unit to be included in an imaging range of the second imaging unit;
With
A first holding unit for holding a plurality of the first imaging units;
A second holding unit that holds the second imaging unit and can change an imaging direction of the second imaging unit;
A selection unit that selects the first imaging unit in the imaging direction closer to the imaging direction of the second imaging unit than the other first imaging units among the plurality of first imaging units;
The specifying unit, based on the image captured by the first image pickup unit the selection unit selects and identifies the subject, an imaging system.
移動体に搭載された第1撮像部と、
前記移動体に搭載された第2撮像部と、
前記第1撮像部によって撮像された第1の画像に基づいて、前記第2撮像部が搭載された移動体の移動を制御する第1の制御部と、
前記第1の画像に基づいて、被写体を特定する特定部と、
前記特定部が特定した被写体が前記第2撮像部の撮像範囲に含まれるように制御する第2の制御部と
を備え、
前記特定部は、前記第2撮像部によって撮像された第2の画像にさらに基づいて、被写体を特定するの撮像システム。
A first imaging unit mounted on a moving body;
A second imaging unit mounted on the moving body;
A first control unit that controls movement of a moving body on which the second imaging unit is mounted based on a first image captured by the first imaging unit;
A specifying unit for specifying a subject based on the first image;
A second control unit for controlling the subject specified by the specifying unit to be included in an imaging range of the second imaging unit;
With
The specifying unit further based on the second image captured by the second image pickup unit, to identify the object, the imaging system.
移動体に搭載された第1撮像部と、
前記移動体に搭載された第2撮像部と、
前記第1撮像部によって撮像された第1の画像に基づいて、前記第2撮像部が搭載された移動体の移動を制御する第1の制御部と、
前記第1の画像に基づいて、被写体を特定する特定部と、
前記特定部が特定した被写体が前記第2撮像部の撮像範囲に含まれるように制御する第2の制御部と
を備え、
前記特定部は、前記第1の画像に基づいて特定された被写体と、前記第2撮像部によって撮像された第2の画像に基づいて特定された被写体とのうち一方を、予め定められた基準に従って、被写体として特定する撮像システム。
A first imaging unit mounted on a moving body;
A second imaging unit mounted on the moving body;
A first control unit that controls movement of a moving body on which the second imaging unit is mounted based on a first image captured by the first imaging unit;
A specifying unit for specifying a subject based on the first image;
A second control unit for controlling the subject specified by the specifying unit to be included in an imaging range of the second imaging unit;
With
The specifying unit is configured to determine one of a subject specified based on the first image and a subject specified based on the second image captured by the second imaging unit, based on a predetermined reference. accordingly specified as an object, an imaging system.
前記第1の画像に基づいて、前記特定部が特定した被写体までの距離を取得する第2の取得部と、
前記第2の取得部が取得した被写体までの距離に基づいて、前記第2撮像部の焦点距離を調整する調整部と
をさらに備える、請求項1から11のいずれか一項に記載の撮像システム。
A second acquisition unit that acquires a distance to the subject specified by the specifying unit based on the first image;
The imaging system according to any one of claims 1 to 11, further comprising an adjustment unit that adjusts a focal length of the second imaging unit based on a distance to the subject acquired by the second acquisition unit. .
前記第2の制御部は、前記第2撮像部の画角を制御することにより、前記特定部が特定した被写体が前記第2撮像部の撮像範囲に含まれるように制御する、請求項1から12のいずれか一項に記載の撮像システム。   The second control unit controls the angle of view of the second imaging unit so that the subject specified by the specifying unit is included in the imaging range of the second imaging unit. The imaging system according to claim 12. 前記第2の制御部は、前記第2撮像部の向きを制御することにより、前記特定部が特定した被写体が前記第2撮像部の撮像範囲に含まれるように制御する、請求項1から13のいずれか一項に記載の撮像システム。   The second control unit controls the orientation of the second imaging unit so that the subject specified by the specifying unit is included in the imaging range of the second imaging unit. The imaging system according to any one of the above. 請求項1から14のいずれか一項に記載の撮像システムを備えて移動する移動体。   A moving body that moves with the imaging system according to claim 1. 前記第2の制御部は、前記移動体の位置を制御することにより、前記特定部が特定した被写体が前記第2撮像部の撮像範囲に含まれるように制御する、請求項15に記載の移動体。   The movement according to claim 15, wherein the second control unit controls the subject specified by the specifying unit to be included in an imaging range of the second imaging unit by controlling a position of the moving body. body. 移動体に搭載された第1撮像部によって撮像された第1の画像に基づいて、第2撮像部が搭載された前記移動体の移動を制御する段階と、
前記第1の画像に基づいて、被写体を特定する段階と、
特定された被写体が前記第2撮像部の撮像範囲に含まれるように制御する段階と
を備え
前記第1撮像部は、第1レンズ装置を有し、
前記第2撮像部は、第2レンズ装置を有し、
前記被写体を特定する段階は、
前記第2レンズ装置の画角が予め定められた値以上の場合、前記第2撮像部のみによって撮像された画像に基づいて、被写体を特定する段階と、
前記第2レンズ装置の画角が前記予め定められた値未満の場合、前記第1撮像部によって撮像された画像に基づいて、被写体を特定する段階と
を含む、撮像方法。
Based on the first image captured by the first imaging unit mounted on the mobile body, comprising: a second imaging unit for controlling the movement of the moving body mounted,
Identifying a subject based on the first image;
Controlling the identified subject to be included in the imaging range of the second imaging unit ,
The first imaging unit includes a first lens device,
The second imaging unit includes a second lens device,
The step of identifying the subject includes
When the angle of view of the second lens device is greater than or equal to a predetermined value, identifying a subject based on an image captured only by the second imaging unit;
When the angle of view of the second lens device is less than the predetermined value, identifying a subject based on an image captured by the first imaging unit;
An imaging method including:
前記第2レンズ装置は、前記第1レンズ装置より望遠である請求項17に記載の撮像方法。 The second lens unit is a telephoto than the first lens unit, an imaging method according to claim 17. 移動体に搭載された第1撮像部によって撮像された第1の画像に基づいて、第2撮像部が搭載された前記移動体の移動を制御する段階と、Controlling the movement of the moving body on which the second imaging unit is mounted based on the first image captured by the first imaging unit mounted on the moving body;
前記第1の画像に基づいて、被写体を特定する段階と、  Identifying a subject based on the first image;
特定された被写体が前記第2撮像部の撮像範囲に含まれるように制御する段階と  Controlling the identified subject to be included in the imaging range of the second imaging unit;
を備え、With
前記第1撮像部は、第1レンズ装置を有し、  The first imaging unit includes a first lens device,
前記第2撮像部は、前記第1レンズ装置より望遠である第2レンズ装置を有し、  The second imaging unit includes a second lens device that is more telephoto than the first lens device,
前記被写体を特定する段階は、  The step of identifying the subject includes
前記第2レンズ装置の画角が予め定められた値以上の場合、前記第2撮像部によって撮像された画像に基づいて、被写体を特定する段階と、  When the angle of view of the second lens device is greater than or equal to a predetermined value, identifying a subject based on an image captured by the second imaging unit;
前記第2レンズ装置の画角が前記予め定められた値未満の場合、前記第1撮像部によって撮像された画像に基づいて、被写体を特定する段階と  When the angle of view of the second lens device is less than the predetermined value, identifying a subject based on an image captured by the first imaging unit;
を含む、撮像方法。An imaging method including:
前記第1の画像に基づいて、特定された前記被写体までの距離を取得する段階と、
取得された前記被写体までの距離に基づいて、前記第2撮像部の焦点距離を調整する段階と
をさらに備える、請求項17から19のいずれか一項に記載の撮像方法。
Obtaining a distance to the identified subject based on the first image;
The imaging method according to claim 17, further comprising: adjusting a focal length of the second imaging unit based on the acquired distance to the subject.
移動体に搭載された複数の第1撮像部のうちの少なくとも1つによって撮像された第1の画像に基づいて、撮影方向を前記移動体に対して変更可能な第2撮像部が搭載された前記移動体の移動を制御する段階と、Based on a first image captured by at least one of a plurality of first imaging units mounted on a moving body, a second imaging unit capable of changing the shooting direction with respect to the moving body is mounted. Controlling the movement of the moving body;
前記複数の第1撮像部のうち、他の第1撮像部より前記第2撮像部の撮像方向に近い撮像方向の第1撮像部を選択する段階と、  Selecting a first imaging unit in an imaging direction closer to the imaging direction of the second imaging unit than the other first imaging units among the plurality of first imaging units;
選択された前記第1撮像部により撮像された前記第1の画像に基づいて、被写体を特定する段階と、  Identifying a subject based on the first image captured by the selected first imaging unit;
特定された被写体が前記第2撮像部の撮像範囲に含まれるように制御する段階と  Controlling the identified subject to be included in the imaging range of the second imaging unit;
を備える、撮像方法。An imaging method comprising:
移動体に搭載された第1撮像部によって撮像された第1の画像に基づいて、第2撮像部が搭載された前記移動体の移動を制御する段階と、Controlling the movement of the moving body on which the second imaging unit is mounted based on the first image captured by the first imaging unit mounted on the moving body;
前記第1の画像に基づいて、被写体を特定する段階と、  Identifying a subject based on the first image;
特定された被写体が前記第2撮像部の撮像範囲に含まれるように制御する段階と  Controlling the identified subject to be included in the imaging range of the second imaging unit;
を備え、With
前記被写体を特定する段階は、前記第2撮像部によって撮像された第2の画像にさらに基づいて、被写体を特定する段階を含む、撮像方法。  The step of specifying the subject includes the step of specifying the subject further based on the second image picked up by the second image pickup unit.
移動体に搭載された第1撮像部によって撮像された第1の画像に基づいて、第2撮像部が搭載された前記移動体の移動を制御する段階と、Controlling the movement of the moving body on which the second imaging unit is mounted based on the first image captured by the first imaging unit mounted on the moving body;
前記第1の画像に基づいて、被写体を特定する段階と、  Identifying a subject based on the first image;
特定された被写体が前記第2撮像部の撮像範囲に含まれるように制御する段階と  Controlling the identified subject to be included in the imaging range of the second imaging unit;
を備え、With
前記被写体を特定する段階は、前記第1の画像に基づいて特定された被写体と、前記第2撮像部によって撮像された第2の画像に基づいて特定された被写体とのうち一方を、予め定められた基準に従って、被写体として特定する段階を含む、撮像方法。  In the step of specifying the subject, one of a subject specified based on the first image and a subject specified based on the second image captured by the second imaging unit is predetermined. An imaging method including a step of specifying as a subject according to a set standard.
請求項17から23のいずれか一項に記載の撮像方法をコンピュータに実行させるためのプログラム。 Program for executing the imaging method according to the computer in any one of claims 17 23.
JP2016103313A 2016-05-24 2016-05-24 Imaging system, moving body, imaging method, and program Active JP6260803B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016103313A JP6260803B2 (en) 2016-05-24 2016-05-24 Imaging system, moving body, imaging method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016103313A JP6260803B2 (en) 2016-05-24 2016-05-24 Imaging system, moving body, imaging method, and program

Publications (2)

Publication Number Publication Date
JP2017212531A JP2017212531A (en) 2017-11-30
JP6260803B2 true JP6260803B2 (en) 2018-01-17

Family

ID=60476884

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016103313A Active JP6260803B2 (en) 2016-05-24 2016-05-24 Imaging system, moving body, imaging method, and program

Country Status (1)

Country Link
JP (1) JP6260803B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019189381A1 (en) * 2018-03-30 2019-10-03 株式会社ニコン Moving body, control device, and control program

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0845000A (en) * 1994-07-28 1996-02-16 Fuji Heavy Ind Ltd Vehicle-to-vehicle distance controller
JPH09322053A (en) * 1996-05-24 1997-12-12 Nippon Hoso Kyokai <Nhk> Image pickup method for object in automatic image pickup camera system
JP2001359083A (en) * 2000-06-13 2001-12-26 Minolta Co Ltd Imaging unit mounted on mobile body
JP2004040514A (en) * 2002-07-04 2004-02-05 Nippon Hoso Kyokai <Nhk> Automatic tracking/imaging device and method
JP2005260778A (en) * 2004-03-15 2005-09-22 Yamamoto System Design:Kk Monitoring camera
JP2010233043A (en) * 2009-03-27 2010-10-14 Hitachi Maxell Ltd Image pickup device and method of imaging
JP2011109630A (en) * 2009-11-20 2011-06-02 Advas Co Ltd Universal head for camera apparatus

Also Published As

Publication number Publication date
JP2017212531A (en) 2017-11-30

Similar Documents

Publication Publication Date Title
US10860039B2 (en) Obstacle avoidance method and apparatus and unmanned aerial vehicle
CN107329490B (en) Unmanned aerial vehicle obstacle avoidance method and unmanned aerial vehicle
WO2018185939A1 (en) Imaging control device, imaging device, imaging system, mobile body, imaging control method and program
US20190258255A1 (en) Control device, imaging system, movable object, control method, and program
WO2020011230A1 (en) Control device, movable body, control method, and program
JP6733106B2 (en) DETERMINING DEVICE, MOVING BODY, DETERMINING METHOD, AND PROGRAM
JP2017212528A (en) Imaging system, imaging control method, imaging control system, mobile body, control method, and program
JP6265576B1 (en) Imaging control apparatus, shadow position specifying apparatus, imaging system, moving object, imaging control method, shadow position specifying method, and program
CN111213365A (en) Shooting control method and controller
WO2019206076A1 (en) Control device, camera, moving body, control method and program
JP6260803B2 (en) Imaging system, moving body, imaging method, and program
JP6790318B2 (en) Unmanned aerial vehicles, control methods, and programs
JP6515423B2 (en) CONTROL DEVICE, MOBILE OBJECT, CONTROL METHOD, AND PROGRAM
WO2018185940A1 (en) Imaging control device, imaging device, imaging system, mobile body, imaging control method and program
WO2022000211A1 (en) Photography system control method, device, movable platform, and storage medium
JP6641574B1 (en) Determination device, moving object, determination method, and program
JP6696092B2 (en) Control device, moving body, control method, and program
US20200130862A1 (en) Control apparatus, camera apparatus, flying object, control method and program
JP2020181028A (en) Controller, imaging apparatus, mobile body, method for control, and program
JP7003357B2 (en) Control device, image pickup device, moving object, control method, and program
JP6896963B1 (en) Control devices, imaging devices, moving objects, control methods, and programs
WO2021249245A1 (en) Device, camera device, camera system, and movable member
US20220030166A1 (en) Imaging apparatus and control method
JP6413170B1 (en) Determination apparatus, imaging apparatus, imaging system, moving object, determination method, and program
WO2020088397A1 (en) Position estimation apparatus, position estimation method, program, and recording medium

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170911

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171114

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171128

R150 Certificate of patent or registration of utility model

Ref document number: 6260803

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250