JP2018133749A - 被操縦体、移動装置、撮像装置、移動制御方法、移動補助方法、移動制御プログラムおよび移動補助プログラム - Google Patents
被操縦体、移動装置、撮像装置、移動制御方法、移動補助方法、移動制御プログラムおよび移動補助プログラム Download PDFInfo
- Publication number
- JP2018133749A JP2018133749A JP2017027316A JP2017027316A JP2018133749A JP 2018133749 A JP2018133749 A JP 2018133749A JP 2017027316 A JP2017027316 A JP 2017027316A JP 2017027316 A JP2017027316 A JP 2017027316A JP 2018133749 A JP2018133749 A JP 2018133749A
- Authority
- JP
- Japan
- Prior art keywords
- imaging
- movement
- unit
- imaging device
- subject
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 314
- 230000033001 locomotion Effects 0.000 title claims abstract description 154
- 238000000034 method Methods 0.000 title claims abstract description 60
- 230000008859 change Effects 0.000 claims abstract description 103
- 238000012545 processing Methods 0.000 claims abstract description 82
- 238000001514 detection method Methods 0.000 claims description 51
- 238000009966 trimming Methods 0.000 claims description 22
- 230000005540 biological transmission Effects 0.000 claims description 6
- 230000004044 response Effects 0.000 claims description 2
- 230000006854 communication Effects 0.000 description 70
- 238000004891 communication Methods 0.000 description 70
- 230000008569 process Effects 0.000 description 40
- 230000003287 optical effect Effects 0.000 description 32
- 238000010586 diagram Methods 0.000 description 28
- 239000000203 mixture Substances 0.000 description 26
- 238000004364 calculation method Methods 0.000 description 13
- 230000005484 gravity Effects 0.000 description 12
- 230000006870 function Effects 0.000 description 10
- 238000013459 approach Methods 0.000 description 9
- 238000003780 insertion Methods 0.000 description 8
- 230000037431 insertion Effects 0.000 description 8
- 238000010801 machine learning Methods 0.000 description 6
- 238000013473 artificial intelligence Methods 0.000 description 5
- 238000012937 correction Methods 0.000 description 5
- 238000013135 deep learning Methods 0.000 description 5
- 238000000926 separation method Methods 0.000 description 5
- 230000007246 mechanism Effects 0.000 description 4
- 238000005452 bending Methods 0.000 description 3
- 239000012141 concentrate Substances 0.000 description 3
- 238000005401 electroluminescence Methods 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 239000003381 stabilizer Substances 0.000 description 2
- 230000001174 ascending effect Effects 0.000 description 1
- 230000007175 bidirectional communication Effects 0.000 description 1
- 239000002775 capsule Substances 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 229920001940 conductive polymer Polymers 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000009432 framing Methods 0.000 description 1
- 229910052736 halogen Inorganic materials 0.000 description 1
- 150000002367 halogens Chemical class 0.000 description 1
- 230000001678 irradiating effect Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 239000000047 product Substances 0.000 description 1
- 238000011946 reduction process Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000006641 stabilisation Effects 0.000 description 1
- 238000011105 stabilization Methods 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 229910052724 xenon Inorganic materials 0.000 description 1
- FHNFHKCVQCLJFQ-UHFFFAOYSA-N xenon atom Chemical compound [Xe] FHNFHKCVQCLJFQ-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64U—UNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
- B64U20/00—Constructional aspects of UAVs
- B64U20/80—Arrangement of on-board electronics, e.g. avionics systems or wiring
- B64U20/87—Mounting of imaging devices, e.g. mounting of gimbals
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64C—AEROPLANES; HELICOPTERS
- B64C13/00—Control systems or transmitting systems for actuating flying-control surfaces, lift-increasing flaps, air brakes, or spoilers
- B64C13/02—Initiating means
- B64C13/16—Initiating means actuated automatically, e.g. responsive to gust detectors
- B64C13/18—Initiating means actuated automatically, e.g. responsive to gust detectors using automatic pilot
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64U—UNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
- B64U10/00—Type of UAV
- B64U10/10—Rotorcrafts
- B64U10/13—Flying platforms
- B64U10/14—Flying platforms with four distinct rotor axes, e.g. quadcopters
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Aviation & Aerospace Engineering (AREA)
- Automation & Control Theory (AREA)
- Microelectronics & Electronic Packaging (AREA)
- Mechanical Engineering (AREA)
- Remote Sensing (AREA)
- Studio Devices (AREA)
- Closed-Circuit Television Systems (AREA)
Abstract
【課題】撮影時の移動経路が定まっていない状況下でも適切な処理を行うことができる被操縦体、移動装置、撮像装置、移動制御方法、移動補助方法、移動制御プログラムおよび移動補助プログラムを提供する。【解決手段】予め指定された撮影対象物と撮像装置との相対的な関係の変化に応じて移動可能であるか否かを判定するために必要な情報を検出し、その情報を用いて相対的な関係の変化に応じた移動が可能であるか否かを判定し、判定結果に応じた制御を行う。【選択図】図1
Description
本発明は、被操縦体、移動装置、撮像装置、移動制御方法、移動補助方法、移動制御プログラムおよび移動補助プログラムに関する。
従来、無人飛行体にカメラを装備して空撮を行う技術が知られている(例えば、特許文献1を参照)。この技術では、無人飛行体が所定の飛行ルートを飛行中に機体と撮影対象物との距離を測定し、その結果からカメラのズーム倍率を決定して撮影対象物を撮影する。
特許文献1に記載の技術では、高架送電線の撮影を想定しているため、飛行ルートは予め設定されている。このため、例えば撮影対象物が動く場合のように、撮影時の移動経路が定まっていない状況下で移動、撮影等の処理を適切に行うことができなかった。
本発明は、上記に鑑みてなされたものであって、撮影時の移動経路が定まっていない状況下でも適切な処理を行うことができる被操縦体、移動装置、撮像装置、移動制御方法、移動補助方法、移動制御プログラムおよび移動補助プログラムを提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明に係る被操縦体は、被写体を撮像して画像データを生成する撮像装置、および前記撮像装置と通信可能であり、前記撮像装置を保持して前記撮像装置とともに移動可能な移動装置を備えた被操縦体であって、予め指定された撮影対象物と前記撮像装置との相対的な関係の変化に応じて移動可能であるか否かを判定するために必要な情報を検出し、前記情報を用いて前記相対的な関係の変化に応じた移動が可能であるか否かを判定し、判定結果に応じた制御を行う被操縦体制御部を備えたことを特徴とする。
本発明に係る移動装置は、被写体を撮像して画像データを生成する撮像装置と通信可能であり、前記撮像装置を保持して前記撮像装置とともに移動可能な移動装置であって、予め指定された撮影対象物と前記撮像装置との相対的な関係の変化に応じて移動可能であるか否かを判定し、判定結果に応じた制御を行う第1制御部を備えたことを特徴とする。
本発明に係る撮像装置は、移動装置と通信可能であるとともに前記移動装置に保持されてなり、被写体を撮像して画像データを生成する撮像装置であって、予め指定された撮影対象物と前記撮像装置との相対的な関係の変化に応じて移動可能であるか否かを前記移動装置が判定するために必要な情報を検出し、検出した情報を前記移動装置に送信する第2制御部を備えたことを特徴とする。
本発明に係る移動制御方法は、被写体を撮像して画像データを生成する撮像装置と通信可能であり、前記撮像装置を保持して前記撮像装置とともに移動可能な移動装置が行う移動制御方法であって、予め指定された撮影対象物と前記撮像装置との相対的な関係の変化に応じて移動可能であるか否かを判定する判定ステップと、前記判定ステップにおける判定結果を記録部から読み出して前記判定結果に応じた制御を行う制御ステップと、を有することを特徴とする。
本発明に係る移動補助方法は、移動装置と通信可能であるとともに前記移動装置に保持されてなり、被写体を撮像して画像データを生成する撮像装置が行う移動補助方法であって、予め指定された撮影対象物と前記撮像装置との相対的な関係の変化に応じて移動可能であるか否かを前記移動装置が判定するために必要な情報を検出する検出ステップと、前記検出ステップが検出した情報を記録部から読み出して前記移動装置に送信する送信ステップと、を有することを特徴とする。
本発明に係る移動制御プログラムは、被写体を撮像して画像データを生成する撮像装置と通信可能であり、前記撮像装置を保持して前記撮像装置とともに移動可能な移動装置に、予め指定された撮影対象物と前記撮像装置との相対的な関係の変化に応じて移動可能であるか否かを判定する判定ステップと、前記判定ステップにおける判定結果を記録部から読み出して前記判定結果に応じた制御を行う制御ステップと、を実行させることを特徴とする。
本発明に係る移動補助プログラムは、移動装置と通信可能であるとともに前記移動装置に保持されてなり、被写体を撮像して画像データを生成する撮像装置に、予め指定された撮影対象物と前記撮像装置との相対的な関係の変化に応じて移動可能であるか否かを前記移動装置が判定するために必要な情報を検出する検出ステップと、前記検出ステップが検出した情報を記録部から読み出して前記移動装置に送信する送信ステップと、を実行させることを特徴とする。
本発明によれば、撮影時の移動経路が定まっていない状況下でも適切な処理を行うことができる。
以下に、添付図面を参照して、本発明を実施するための形態(以下、「実施の形態」という)を説明する。本発明の実施の形態に係る撮像システムは、撮像装置が移動装置に装着された被操縦体を備える。被操縦体は、予め指定された撮影対象物と撮像装置との相対的な関係の変化に応じて移動可能であるか否かを判定するために必要な情報を検出し、その情報を用いて相対的な関係の変化に応じた移動が可能であるか否かを判定し、判定結果に応じた制御を行う。以下、被操縦体を構成する移動装置が無人航空機(実施の形態1)および内視鏡(実施の形態2)である場合を例示して説明するが、これらはあくまでも一例に過ぎず、移動装置として自走可能なロボットを適用することも可能である。
(実施の形態1)
本発明の実施の形態1は、移動装置が無人航空機である。撮像装置は無人航空機に装着されている。移動装置は、操作装置と通信可能に無線接続されており、操作装置の指示に応じて駆動するとともに、撮像装置に対する指示信号を受信して撮像装置に送信する。被操縦体はロックオン機能を具備しており、撮影対象物の動きを追尾することが可能であるか否かを逐次判定しながら撮影対象物を追尾する。
本発明の実施の形態1は、移動装置が無人航空機である。撮像装置は無人航空機に装着されている。移動装置は、操作装置と通信可能に無線接続されており、操作装置の指示に応じて駆動するとともに、撮像装置に対する指示信号を受信して撮像装置に送信する。被操縦体はロックオン機能を具備しており、撮影対象物の動きを追尾することが可能であるか否かを逐次判定しながら撮影対象物を追尾する。
図1は、本発明の実施の形態1に係る撮像システムの概略構成を示す模式図である。図2は、本実施の形態1に係る撮像システムの機能構成を示すブロック図である。図1および図2に示す撮像システム1は、撮像機能を有するとともに飛行により移動可能な被操縦体2と、被操縦体2における撮像および移動を操縦する操作装置3とを備える。
被操縦体2は、移動装置4と、移動装置4に着脱自在に取り付けられる撮像装置5とを有する。なお、スタビライザー、振動補正機構(例えば、ジンバル)およびリグ等を介して撮像装置5を移動装置4に取り付けてもよい。移動装置4と撮像装置5は、USB(Universal Serial Bus)等のケーブル6によって双方向に通信可能に接続される。また、移動装置4と操作装置3は、所定の周波数帯域の無線通信を行うことが可能である。なお、本実施の形態1では、移動装置4と撮像装置5とをケーブル6によって接続した構成としたが、これに限定されることなく、無線通信可能な構成を採用してもよい。また、移動装置4と撮像装置5との位置関係を固定してもよいし、移動装置4に対する撮像装置5の姿勢を変化させることが可能な構成としてもよい。
被操縦体2は、予め指定された撮影対象物と撮像装置5との相対的な関係の変化に応じて移動可能であるか否かを判定するために必要な情報を検出し、検出した情報を用いて相対的な関係の変化に応じた移動が可能であるか否かを判定し、判定結果に応じた制御を行う被操縦体制御部21を備える。被操縦体制御部21は、CPU(Central Processing Unit)等を用いて構成され、操作装置3から送信される各種指示信号等に応じて被操縦体2の制御を行う。被操縦体制御部21は、後述する移動装置4の第1制御部49と撮像装置5の第2制御部56とを含む。被操縦体制御部21は、専用の回路やプログラムが連携して特定のシーケンス制御で各種制御を行う回路部であり、必要に応じて、人工知能の回路部も含んでおり、ビッグデータを用いた深層学習や機械学習等の結果を利用した制御を行うことも可能である(この点は、操作装置3の第3制御部36も同様である)。以下の説明においては、専用の回路やプログラムが連携して特定のシーケンス制御で各種制御を行う回路部で、必要に応じて、人工知能の回路部も含み、深層学習や機械学習等の結果を利用した制御を行う制御部の一部の構成や回路などを、機能別で分けた形で分類している。なお、第1制御部49および第2制御部56の個々の機能の中には、他方の制御部が具備してよいものもある。
移動装置4の機能構成を説明する。移動装置4は、予め指定された撮影対象物と撮像装置5との相対的な関係の変化に応じて移動可能であるか否かを判定し、判定結果に応じた制御を行う。移動装置4は、無人航空機(UAV:Unmanned Aerial Vehicle)であり、4枚のロータ4aを有する回転翼無人機のドローンとして構成されている。なお、ロータ4aの数は4枚に限定されず、その他の数としてもよい。また、移動装置4は回転翼無人機のドローンに限られず、固定翼無人機のドローン等、その他の無人航空機によって構成してもよい。さらに、移動装置4は、無線によって操縦可能であり、かつ自走可能な装置であればよく、例えば自走式ロボット、自動車、模型自動車、船舶などでもよい。
移動装置4は、推進部41と、電源42と、空間情報取得部43と、位置方位検出部44と、高度姿勢検出部45と、第1記録部46と、第1通信部47と、第2通信部48と、第1制御部49と、を備える。
推進部41は、第1制御部49の制御のもと、複数枚(図1の例では、4枚)のロータ4aおよび各ロータ4aを駆動するための複数のモータ(図示せず)を用いて構成され、移動装置4を飛行させる。
電源42は、電池と昇圧回路等を用いて構成される。電源42は、移動装置4の各部に対して所定の電圧を供給する。
空間情報取得部43は、レーザレーダ等を用いて構成される。空間情報取得部43は、パルスレーザ光を移動装置4から放射状に照射し、反射したパルスレーザ光の帰還時間を計測することによって、移動装置4の周囲にある物体(各照射点の方向、各照射点までの距離)に関する空間情報を取得し、取得した結果を第1制御部49へ出力する。なお、空間情報取得部43は、レーザの代わりに超音波を照射することによって空間情報を取得してもよい。空間情報取得部43は、非接触型の近接センサをさらに有していてもよい。
位置方位検出部44は、GPS(Global Positioning System)受信機や磁気方位センサ等を用いて構成される。位置方位検出部44は、移動装置4の現在位置に関する現在位置情報、および予め定められた基準方位(例えば、北)に対する移動装置4の機首方向(機首が向く方向)のなす角度(方位)に関する方位情報を検出し、この検出結果を第1制御部49へ出力する。
高度姿勢検出部45は、気圧センサ、ジャイロセンサ(角速度センサ)および傾きセンサ(加速度センサ)等を用いて構成される。高度姿勢検出部45は、撮像装置5の高度に関する高度情報、撮像装置5の傾斜角(4枚のロータ4aが水平面内に位置する基準姿勢に対する傾斜角)に関する傾斜角度情報および移動装置4の回転角(4枚のロータ4aの中心位置を通る鉛直線を中心とする回転角)に関する回転角度情報を検出し、この検出結果を第1制御部49へ出力する。
第1記録部46は、FlashメモリやSDRAM(Synchronous Dynamic Random Access Memory)等の記録媒体を用いて構成される。第1記録部46は、移動装置4を駆動するための各種プログラムを記録するとともに、処理中の情報を一時的に記録する。
第1通信部47は、所定の通信モジュールを用いて構成される。第1通信部47は、第1制御部49の制御のもと、移動装置4の飛行動作を遠隔制御する操作装置3との間で無線通信を行う。また、第1通信部47は、第1制御部49の制御のもと、撮像装置5から入力された情報を操作装置3へ送信する。
第2通信部48は、通信モジュールを用いて構成される。第2通信部48は、第1制御部49の制御のもと、ケーブル6を介して撮像装置5との間で通信を行う。
第1制御部49は、予め指定された撮影対象物と撮像装置5との相対的な関係の変化に応じて移動可能であるか否かを判定し、判定結果に応じた制御を行う。第1制御部49は、CPU等を用いて構成され、第1通信部47を介して入力された操作装置3からの指示信号、第2通信部48を介して入力された撮像装置5からのデータに応じて、推進部41の動作(移動装置4の飛行動作)ならびに撮像装置5および操作装置3との通信を制御する。
第1制御部49は、電源判定部491と、移動判定部492と、姿勢判定部493と、推進制御部494と、方向制御部495と、第1通信制御部496と、を有する。
電源判定部491は、電源42の残量(電力残量)を検出し、この検出結果に基づいて、移動装置4が可能な飛行時間や飛行距離を判定する。
移動判定部492は、空間情報取得部43が取得した空間情報、位置方位検出部44が検出した現在位置情報および方位情報、高度姿勢検出部45が検出した高度情報、ならびに電源判定部491が判定した飛行時間の情報等に基づいて、移動装置4の移動距離を判定する。なお、移動判定部492の機能は、撮像装置5の第2制御部56が有してもよい。
姿勢判定部493は、高度姿勢検出部45が検出した傾斜角度情報および回転角度情報に基づいて、撮像装置5の姿勢を判定する。
推進制御部494は、電源判定部491、移動判定部492および姿勢判定部493の判定結果に基づいて、移動装置4を推進させる。具体的には、推進制御部494は、4枚のロータ4aの回転数を独立に制御することによって、移動装置4を上昇、前進、静止、後退および下降させる。例えば、推進制御部494は、移動装置4の移動方向を前後(移動装置4の機首方向が前)または左右(移動装置4の機首方向に見て左右)に変更する。
方向制御部495は、電源判定部491、移動判定部492および姿勢判定部493それぞれの判定結果に基づいて、移動装置4を回転させる。具体的には、方向制御部495は、4枚のロータ4aの回転数を独立に制御することにより、移動装置4を回転させる。
第1通信制御部496は、第1通信部47および第2通信部48の通信を制御する。具体的には、第1通信制御部496は、第2通信部48を介して撮像装置5から入力された情報を、第1通信部47を介して操作装置3へ送信する。また、第1通信制御部496は、第1通信部47を介して操作装置3から入力された操作情報を含む情報(以下、「移動装置情報」という)を、第2通信部48を介して撮像装置5へ送信する。ここで、移動装置情報とは、移動装置4の現在位置、操作装置3から送信された移動装置4の移動を制御する制御信号に関する制御情報(操作情報)、および移動装置4の移動方向、移動装置4の高度および移動装置4の状態(例えば、通常移動、帰還移動、電池残量)である。
次に、撮像装置5の構成について説明する。撮像装置5は、予め指定された撮影対象物と自身との相対的な関係の変化に応じて移動可能であるか否かを移動装置4が判定するために必要な情報を検出し、検出した情報を移動装置4に送信する。撮像装置5は、移動装置4の機首方向に撮影方向を合わせた状態で、移動装置4に対して移動不能に固定されている。撮像装置5は、静止画撮影および動画撮影を行うことが可能である。なお、撮像装置5を、移動装置4に対して回転可能な回転機構を介して移動装置4に固定してもよい。また、撮像装置5を、スタビライザー、振動補正機構(例えば、ジンバル)およびリグ等を介して移動装置4に固定してもよい。
次に、撮像装置5の機能構成を説明する。撮像装置5は、撮像部51と、仰角方位検出部52と、第3通信部54と、第2記録部55と、第2制御部56と、を備える。
撮像部51は、第2制御部56の制御のもと、撮影対象物である被写体を撮像して画像データを生成する。撮像部51は、光学系511と、撮像素子512と、を有する。
光学系511は、フォーカスレンズ、ズームレンズ、シャッタおよび絞りを有する。光学系511は、被写体像を撮像素子512の受光面に結像する。光学系511は、第2制御部56の制御のもと、ズーム倍率、ピント位置、絞り値およびシャッタスピード等の各撮影パラメータを変更する。
撮像素子512は、光学系511が結像した被写体像を受光して光電変換を行うことによって画像データを生成し、この画像データを第2制御部56へ出力する。撮像素子512は、CCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)等を用いて構成される。また、撮像素子512は、画像データを生成する画素が2次元マトリックス状に配置されてなる。なお、撮像素子512に被写体の距離を検出するための位相差画素をさらに設けてもよいし、上述した画像データ生成用の画素を位相差画素として利用してもよい。
仰角方位検出部52は、方位センサ、3軸の加速度センサ、ジャイロセンサおよび磁気方位センサを用いて構成される。仰角方位検出部52は、水平面に対する撮像装置5(光学系511の光軸)の傾斜角(仰角)に関する仰角情報、及び予め定められた基準方位(例えば、北)に対する撮像装置5の撮影方向のなす角度(方位)に関する方位情報を検出し、この検出結果を第2制御部56へ出力する。
音声入力部53は、外部の音を集音して音声データを生成するマイクロフォン等を用いて構成される。
第3通信部54は、第2制御部56の制御のもと、ケーブル6を介して移動装置4と通信を行う。
第2記録部55は、Flashメモリ、SDRAMおよびメモリカード等を用いて構成される。第2記録部55は、撮像部51が生成した画像データを記録する画像データ記録部551と、撮像装置5が実行する各種プログラムを記録するプログラム記録部552と、を有する。
第2制御部56は、予め指定された撮影対象物と自身との相対的な関係の変化に応じて移動可能であるか否かを移動装置4が判定するために必要な情報を検出し、検出した情報を移動装置4に送信する。第2制御部56は、CPU等を用いて構成される。第2通信部48を介して移動装置4から受信した操作装置3の指示信号に応じて、撮像部51の撮影を制御するとともに、撮像部51が生成した画像データを移動装置4へ送信する。この場合において、第2制御部56は、画像データをそのまま送信する代わりに、時間的または画素的に間引きしたデータ(リサイズ処理した画像データ)や、圧縮した画像データ(縮小した画像データや圧縮処理した画像データ)を送信してもよい。また、第2制御部56は、画像データに対して視認性を上げる処理(例えば、コントラスト強調処理や露出値低下処理)を施してから送信してもよいし、画像を解析した結果(後述する被写体検出部562が抽出する画像の特徴量)を送信してもよい。
第2制御部56は、画像処理部561と、被写体検出部562と、追尾処理部563と、距離算出部564と、トリミング部565と、第2通信制御部566と、撮影制御部567と、を有する。
画像処理部561は、撮像部51が生成した画像データに対して、所定の画像処理を行う。具体的には、画像処理部561は、画像データに対して、ゲインアップ処理、ホワイトバランス処理、階調処理および同時化処理等を行う。
被写体検出部562は、画像処理部561が画像処理を施した画像の特徴量を抽出することによってその画像データに含まれる被写体を検出する。被写体としては、予め指定された撮影対象物や、撮影対象物との間に存在する物体(障害物)等が挙げられる。具体的には、被写体検出部562は、画像データにおける画素ごとの輝度値や代表画素の前フレームからの移動量などに基づいて、被写体の顔、顔の位置、大きさ、向き、被写体の性別などの情報を検出する。被写体検出部562は、必要に応じて、人工知能の回路部も含むことによって、ビッグデータを用いた深層学習や機械学習等の結果を利用した検出を行ってもよい。なお、ユーザの画面上のタッチ指定や、音声指定などを参考にして検出を行ってもよい。このような場合、特定の被写体像とすべき被写体像の指定入力した、ということもできる。ここでは、判定した結果は、画像データの一部となるが、画像データ自体を判定結果としてデータとして記録したり、色分布や輪郭や大きさなどをデータ化してもよく、画像の特徴量を記録したりしてもよい。また、こうした特徴から、深層学習や機械学習等を行い、ユーザが撮りたい対象物情報を人工知能が類推できるようなシステムを構築してもよい。これにより、よく撮影される画像を教師画像とした学習を行うことが可能となる。
追尾処理部563は、予め設定される被写体に対して被写体検出部562が検出した情報に基づいて、その被写体を画像中で追尾する。この際、追尾処理部563は、例えば被写体検出部562が検出した情報に基づいて、パターンマッチング処理を行うことにより、被写体を追尾する。追尾処理部563も被写体検出部562と同様、必要に応じて、人工知能の回路部も含むことによって、ビッグデータを用いた深層学習や機械学習等の結果を利用した検出を行ってもよい。
距離算出部564は、撮像部51が生成した時間的に前後する2つの画像データのコントラスト変化または撮像素子512に設けられた位相差画素による位相差情報などに基づいて、撮像装置5から被写体までの距離を算出する。距離算出部564は、被写体の大きさを判定し、フレーム間の被写体の大きさの変化に基づいて被写体までの距離を算出してもよい。また、距離算出部564は、移動装置4の空間情報取得部43が取得した空間情報を用いて被写体までの距離を算出してもよい。被写体までの距離の情報は、光学系511のピント合わせに使える他、移動装置4と被写体、移動装置4と対象物までの距離情報として、移動装置4を操縦するユーザにとっても重要な情報となる。なお、撮像装置5から被写体までの距離に関する情報に基づいて、ユーザ100が操作装置3を操作することによって、ホヴァリングなど静止制御を指定する操作を行ってもよいし、移動装置4の第1制御部49が同様の静止制御を自動で行ってもよい。被写体までの距離情報は、例えば距離を変えながら所定の順番で被写体を撮影する場合や、距離を一定にして様々な角度から被写体を撮影する場合などにも有効活用することができる。また、撮像装置5が正確な3D情報を取得する撮影を行う場合などにも距離情報を活用することができる。
なお、被写体検出部562、追尾処理部563および距離算出部564の機能は、移動装置4の第1制御部49が有してもよい。
トリミング部565は、画像処理部561が画像処理を施した画像データに対して、トリミング処理を行うことによって、トリミング画像データやサムネイル画像データを生成する。
第2通信制御部566は、第3通信部54の通信制御を行う。具体的には、第2通信制御部566は、第3通信部54を介して、操作装置3の表示部33において表示可能な情報を移動装置4へ送信する。
撮影制御部567は、撮像部51の撮影を制御する。具体的には、撮影制御部567は、第3通信部54を介して移動装置4から撮影を指示する指示信号を受信した場合、撮像部51に指示信号に応じた撮影を実行させる。本実施の形態1において、撮像装置5は、動画撮影および静止画撮影を実行することが可能である。
次に、操作装置3の機能構成を説明する。操作装置3は、第4通信部31と、操作入力部32と、表示部33と、音声出力部34と、第3記録部35と、第3制御部36と、を備える。
第4通信部31は、通信モジュールを用いて構成される。第4通信部31は、第3制御部36の制御のもと、移動装置4の第1通信部47と無線通信を行うことによって、操作入力部32が入力を受け付けた指示信号を送信する一方、撮像装置5が撮像した画像データ等を受信して、第3制御部36へ出力する。
操作入力部32は、ユーザによる操作を受け付けるボタン、スイッチ、十字キー等を用いて構成され、ユーザによる操作に応じた指示信号の入力を受け付け、この指示信号を第3制御部36へ出力する。操作入力部32は、表示部33に重ねて設けられ、外部からの物体の接触位置に応じた信号の入力を受け付けるタッチパネルを有する。操作入力部32がマイクロフォン等の音声入力部をさらに有し、ユーザの音声入力に応じた指示信号の入力を受け付けるようにしてもよい。
表示部33は、第3制御部36の制御のもと、移動装置4に関する各種情報を表示する。表示部33は、液晶や有機EL(Electro Luminescence)等の表示パネル等を用いて構成される。表示部33は、第3制御部36の制御のもと、撮像装置5が生成した画像データに対応する画像および撮像装置5に関する各種情報を表示する。
音声出力部34は、音声を出力するスピーカ等を用いて構成され、撮像装置5が撮像した動画等のデータに対応して収録される音を出力する。
図3は、操作装置3の外観構成を模式的に示す図である。同図に示す操作装置3は、表面に表示部33と操作入力部32が設けられている。操作入力部32は、左右に配置された左スティック32aおよび右スティック32b、ならびにタッチパネル32cを有する。
図4は、通常操縦モードにおける操作装置3の操作入力部32の操作割り当てを模式的に示す図である。左レバーの前後への移動は、それぞれ前後への移動に対応している。左スティック32aの左右への移動は、それぞれ左右の回転に対応している。右スティック32bの前後への移動は上昇および下降にそれぞれ対応している。右スティック32bの左右への移動は、左右のドリーにそれぞれ対応している。なお、タッチパネル32c上でユーザが所望の操作を選択した後、その操作に対応するスティック操作を行うようにしてもよい。この場合には、タッチパネル32cでの選択入力後、表示部33がスティック操作の割り当てを図示するようにすればより好ましい。また、全ての操作をタッチパネル32c上で行うことができるようにしてもよい。
第3記録部35は、操作装置3に関する各種プログラムを記録する。第3記録部35は、FlashメモリやSDRAMを用いて構成される。
第3制御部36は、CPUを用いて構成され、操作装置3の各部を制御する。第3制御部36は、被操縦体2の動作モードを制御するモード制御部361と、第4通信部31と移動装置4の第1通信部47との通信を制御する第3通信制御部362と、表示部33の表示を制御する第1表示制御部363と、を有する。
モード制御部361は、被操縦体2の動作モードとして、通常操縦モードおよびロックオンモードを設定可能である。このうち、通常操縦モードは、操作装置3が入力を受け付ける操作信号に基づいて被操縦体2が動作するモードである。
ロックオンモードは、ロックオン対象となる被写体を追尾するモードである。ロックオンモードでは、ロックオン対象の被写体が画面内の同じ位置であり、かつロックオン対象の被写体までの距離が同じ状態を維持するように追尾処理を行う。
ロックオンモードには、通常ロックオンモードと角度ロックオンモードの2種類がある。通常ロックオンモードは、被写体を画角内にとらえ続ける際、図5に示すように、画面内における被写体200の向きは問わないモードである。これに対し、角度ロックオンモードは、図6に示すように、画面内における被写体200の向きも同じ状態を維持するように追尾処理を行うモードである。したがって、例えばロックオン対象の被写体が人である場合、通常ロックオンモードではその人の顔の向きが変わることがある一方、角度ロックオンモードではその人の顔の向きは変わらない。
通常操縦モードからロックオンモードへ移行する際には、図7に示すように、まずユーザは表示部33の画面でロックオン対象とする被写体200をタッチする。この後、表示部33は、図8に示すように、通常ロックオンモードアイコン33a、角度ロックオンモードアイコン33b、および戻るボタン33cを表示する。これらのアイコンまたはボタンが表示されている領域がタッチされると、操作装置3のモード制御部361は、各アイコンまたはボタンに応じた処理を行う。具体的には、モード制御部361は、タッチされたアイコンに相当するロックオンモードを設定するか、または戻るボタン33cにより通常操縦モードを再設定する処理を行う。
動作モードが通常ロックオンモードに設定された場合、操作入力部32の操作入力はすべて無効となる。動作モードが角度ロックオンモードに設定された場合、操作入力部32の操作入力は、例えば左スティック32aの前進および後退の指示入力を除いて無効となる。なお、動作モードが通常ロックオンモードに設定された場合、通常操縦モードと比較して、左スティック32aの前進および後退の指示のみを無効化してもよい。
ロックオンモードでは、さらに構図調整モードを設定することが可能である。構図調整モードは、操作装置3が表示部33に表示される画像に対する構図調整用の指示信号のみ入力を受け付け、移動装置4の移動に関する指示信号の入力を受け付けないモードである。構図調整モードに設定されている場合、ユーザは移動装置4の操縦に気を取られることなく、構図の調整に専念することができる。
図9は、構図調整モード設定時の表示部33における表示例を示す図である。表示部33は、戻るボタン33c、撮影アイコン33d、ズームアイコン33e、ISOアイコン33f、絞りアイコン33g、シャッタ速アイコン33h、露出補正アイコン33iを表示する。戻るボタン33cがタッチされた場合、表示部33は図8に示す表示に戻る。撮影アイコン33dがタッチされた場合、操作装置3は移動装置4に対して撮像装置5における撮影を指示する信号を送信する。ズームアイコン33e、ISOアイコン33f、絞りアイコン33g、シャッタ速アイコン33h、露出補正アイコン33iのいずれかがタッチされた場合、操作装置3はタッチされたアイコンに対応するパラメータの変更を受け付け可能な状態に遷移する。
図10は、構図調整モード設定時の操作入力部32における操作割り当ての一例を模式的に示す図である。左スティック32aの前後への移動は、機体の左右方向を回転中心とする回転(ピッチ)による角度変更にそれぞれ対応している。また、左スティック32aの左右への移動は、機体の前後方向を回転中心とする回転(ロール)による角度変更にそれぞれ対応している。右スティック32bの前方向および後方向は、ズームアイコン33e、ISOアイコン33f、絞りアイコン33g、シャッタ速アイコン33h、露出補正アイコン33iのうち選択されたパラメータのアップおよびダウンにそれぞれ対応している。右スティック32bの左方向は左スライド、右方向は右スライドにそれぞれ対応している。なお、ズームアップ/ダウン操作はタッチパネルにおけるピンチアウト/ピンチインによってそれぞれ入力を受け付けるようにしてもよい。また、左右のスライド操作(ドリー)はタッチパネルにおける左右のスライドによってそれぞれ入力を受け付けるようにしてもよい。
なお、操作装置3は、レバー付の構成を有していなくてもよい。例えば、スマートフォン等の携帯端末を操作装置3として実現してもよい。また、ユーザによる操作信号の入力は、音声入力により実現してもよいし、操作装置3の本体の向きを変えたり操作装置3の本体を振ったりすることによって実現してもよい。
以下、撮像システム1が実行する処理の概要について、各装置の処理に分けて説明する。まず、操作装置3が行う処理の概要について、図11に示すフローチャートを参照して説明する。操作装置3の電源が投入された場合(ステップS101:Yes)、モード制御部361は動作モードを通常操縦モードに設定する(ステップS102)。操作装置3の電源が投入されない場合(ステップS101:No)、操作装置3はステップS101を繰り返す。
続いて、第3通信制御部362は、移動装置4との通信を確立する(ステップS103)。その後、第1表示制御部363は、移動装置4から画像データを受信し、受信した画像データに対応する画像の表示部33での表示を開始する(ステップS104)。なお、操作装置3は、移動装置4との通信確立後に、画像データ以外にも必要なデータの送受信を行う。
この後、操作装置3は、操作入力部32がモード変更の指示信号の入力を受け付けたか否かに応じて異なる処理を行う。まず、操作入力部32がモード変更の指示信号の入力を受け付けない場合(ステップS105:No)を説明する。この場合、操作入力部32が操作信号の入力を受け付けたとき(ステップS106:Yes)、その操作信号に応じた通常制御信号を移動装置4へ送信する(ステップS107)。ここでいう通常制御信号には、撮像装置5に対して静止画または動画の撮影を指示する信号、移動装置4の電源を供給する電池残量の情報を要求する信号、移動装置4の飛行を操縦する信号などが含まれる。ステップS107の後、およびステップS106において操作入力部32が操作信号の入力を受け付けない場合(ステップS106:No)、操作装置3はステップS108へ移行する。
ステップS108において、操作装置3の電源が切断された場合(ステップS108:Yes)、操作装置3は処理を終了する。一方、操作装置3の電源が切断されない場合(ステップS108:No)、動作モードが通常操縦モードであれば(ステップS109:Yes)、操作装置3はステップS105に戻る。ステップS109において、動作モードが通常操作モードでなければ(ステップS109:No)、操作装置3はステップS102に戻る。
次に、ステップS105において、操作入力部32がモード変更の指示信号の入力を受け付けた場合(ステップS105:Yes)を説明する。ここでの動作モードの変更は、通常ロックオンモードおよび角度ロックオンモードのいずれかの動作モードへの変更である。いずれのモードの場合にも、ロックオン対象の被写体を指定する必要がある。ロックオン対象の被写体を指定する信号の入力は、例えば表示部33の画面上に設けられたタッチパネル(操作入力部32の一部)がロックオン対象とする被写体のタッチを検知し、その被写体の位置に基づく入力信号を受け付けることによって実現される。操作入力部32がモード変更の指示信号の入力を受け付けた場合、モード制御部361は動作モードの設定を通常ロックオンモードまたは角度ロックオンモードに変更し、通常または角度ロックオンモードへの変更を指示するモード変更信号およびロックオン対象の被写体の位置情報を移動装置4に送信する(ステップS110)。
続いて、操作入力部32が通常ロックオンモードおよび角度ロックオンモードの一方を他方に変更する指示信号の入力を受け付けた場合(ステップS111:Yes)、モード制御部361は動作モードの設定を他方のロックオンモードに変更し、通常または角度ロックオンモードへの変更を指示するモード変更信号およびロックオン対象の被写体の位置情報を移動装置4に送信する(ステップS112)。
この後、操作入力部32が通常または角度ロックオンモードを終了する信号の入力を受け付けた場合(ステップS113:Yes)、操作装置3はステップS108へ移行する。ステップS108において電源が切断されない場合(ステップS108:No)、動作モードは通常操縦モードではないので(ステップS109:No)、操作装置3はステップS102へ戻る。ステップS102において、モード制御部361は動作モードを通常操縦モードに設定する。
なお、動作モードが通常ロックオンモードや角度ロックオンモードに設定されている場合に、撮像装置5に静止画または動画の撮影を行わせることができるようにしてもよい。
ステップS111において、操作入力部32が通常ロックオンモードおよび角度ロックオンモードの一方から他方に変更する指示信号の入力を受け付けない場合(ステップS111:No)、操作装置3はステップS113へ移行する。
ステップS113において、通常または角度ロックオンモードを終了する信号の入力を受け付けない場合(ステップS113:No)、操作装置3はステップS114へ移行する。ステップS114において、操作入力部32が構図調整モードへの変更の指示信号の入力を受け付けた場合(ステップS114:Yes)、モード制御部361は動作モードの設定を構図調整モードに変更する(ステップS115)。
この後、操作入力部32がズーム操作信号の入力を受け付けた場合(ステップS116:Yes)、第3通信制御部362は移動装置4との間でズーム制御通信を行う(ステップS117)。操作入力部32がズーム操作信号の入力を受け付けない場合(ステップS116:No)、操作装置3はステップS118へ移行する。
ステップS118において、操作入力部32がスライド操作の入力を受け付けた場合(ステップS118:Yes)、第3通信制御部362は移動装置4との間でスライド制御通信を行う(ステップS119)。一方、操作入力部32がスライド操作の入力を受け付けない場合(ステップS118:No)、操作装置3はステップS120へ移行する。
ステップS120において、操作入力部32が角度変更操作の入力を受け付けた場合(ステップS120:Yes)、第3通信制御部362は移動装置4との間で角度変更制御通信を行う(ステップS121)。一方、操作入力部32が角度変更操作の入力を受け付けない場合(ステップS120:No)、操作装置3はステップS122へ移行する。
ステップS122において、操作入力部32が露出変更操作の入力を受け付けた場合(ステップS122:Yes)、第3通信制御部362は移動装置4との間で露出変更制御通信を行う(ステップS123)。一方、操作入力部32が露出変更操作の入力を受け付けない場合(ステップS122:No)、操作装置3はステップS124へ移行する。
ステップS124において、操作入力部32がピント変更操作の入力を受け付けた場合(ステップS124:Yes)、第3通信制御部362は移動装置4との間でピント変更制御通信を行う(ステップS125)。一方、操作入力部32がピント変更操作の入力を受け付けない場合(ステップS124:No)、操作装置3はステップS126へ移行する。
ステップS126において、操作入力部32が撮影操作の入力を受け付けた場合(ステップS126:Yes)、第3通信制御部362は移動装置4との間で撮影制御通信を行う(ステップS127)。操作入力部32が撮影操作の入力を受け付けない場合(ステップS126:No)、操作装置3はステップS128へ移行する。
ステップS128において、操作入力部32が構図調整モードを終了する信号の入力を受け付けた場合(ステップS128:Yes)、操作装置3はステップS108に戻る。ステップS108において電源が切断されない場合(ステップS108:No)、動作モードは通常操縦モードではないので(ステップS109:No)、操作装置3はステップS102へ戻る。ステップS102において、モード制御部361は動作モードを通常操縦モードに設定する。
ステップS128において、操作入力部32が構図調整モードを終了する信号の入力を受け付けない場合(ステップS128:No)、操作装置3はステップS116に戻る。
ステップS114において、操作入力部32が構図調整モードに変更する指示信号の入力を受け付けない場合(ステップS114:No)、操作装置3はステップS111に戻る。
次に、移動装置4が行う処理の概要について説明する。移動装置4は、予め指定された撮影対象物と撮像装置5との相対的な関係の変化に応じて移動可能であるか否かを判定し、判定結果を第1記録部46から読み出して判定結果に応じた制御を行う。このような移動制御処理を含む移動装置4の詳細な処理について、図12Aおよび図12Bに示すフローチャートを参照して説明する。
まず、図12Aを参照してステップS201〜S209の処理を説明する。移動装置4の電源が投入された場合(ステップS201:Yes)、第1通信制御部496は撮像装置5および操作装置3との通信を確立する(ステップS202)。ステップS201において移動装置4の電源が投入されない場合(ステップS201:No)、移動装置4はステップS201を繰り返す。
続いて、第1通信制御部496は、撮像装置5からの画像データの受信および操作装置3への画像データの送信を開始する(ステップS203)。この後、移動装置4は撮像装置5から所定の間隔で画像データを受信し、操作装置3にその画像データを送信する。なお、移動装置4は、撮像装置5および操作装置3との通信確立後に、画像データ以外にも必要なデータの送受信を行う。
ステップS203の後、移動装置4が操作装置3から通常制御信号を受信した場合(ステップS204:Yes)、第1制御部49は通常制御信号に応じた処理を行う(ステップS205)。ここでいう通常制御信号に応じた処理とは、例えば撮像装置5に対する静止画撮影の開始指示信号、動画撮影の開始または終了指示信号の送信、撮像装置5から受信した画像データの操作装置3への送信、および移動装置4の電池残量の確認等である。この後、移動装置4はステップS206へ移行する。
ステップS204において、移動装置4が通常制御信号を受信しない場合(ステップS204:No)、移動装置4はステップS206へ移行する。
ステップS206において、移動装置4が通常または角度ロックオンモードへのモード変更信号およびロックオン対象の被写体の位置情報を受信した場合(ステップS206:Yes)、第1制御部49はロックオンの基準位置を第1記録部16に記憶させ(ステップS207)、ロックオン対象の被写体の追尾を指示する信号およびロックオン対象の被写体の位置情報を撮像装置5へ送信する(ステップS208)。ステップS206において、移動装置4が通常または角度ロックオンモードへのモード変更信号およびロックオン対象の被写体の位置情報を受信しない場合(ステップS206:No)、移動装置4は後述するステップS224へ移行する。
ステップS208の後、移動装置4は被写体追尾制御を実行する(ステップS209)。図13は、移動装置4が行う被写体追尾制御処理の概要を示すフローチャートである。まず、移動装置4は、撮像装置5によって算出されたロックオン対象である被写体までの距離、被写体の基準位置からのずれ量、および障害物がある場合の障害物までの距離を撮像装置5から取得する(ステップS301)。ここでいう「基準位置」とは、初期設定では画面の中心であり、スライド操作が行われた場合には、その中心がスライドした位置である。また、ここでいう「ずれ量」とは、3次元的なずれ量である。撮像装置5による被写体および障害物までの距離の検出、ならびにずれ量の算出については、撮像装置5の処理を説明する際に詳述する。
ステップS301の後、移動判定部492は、取得したずれ量に基づいて、被写体の位置および大きさを維持するための移動装置4の移動距離を算出する(ステップS302)。この際、移動判定部492は、図14に示すように、画面と直交する方向の移動距離ΔLを、被写体200までの距離L、被写体200が動く前の被写体のサイズをa、被写体200が動いた後の被写体のサイズをbとして、ΔL={(a/b)−1}Lにより算出する。ここで、移動距離ΔLは被写体200に対して近づく方向を正の値としている。換言すれば、被写体200が動いて画面上で小さくなった場合には移動距離が正となり、被写体200が動いて画面上で大きくなった場合には移動距離が負となる。なお、画面と平行な方向の移動距離を同様に算出してもよい。
続いて、移動判定部492は、移動経路上に障害物がある場合(ステップS303:Yes)、移動装置4の移動距離が障害物までの距離未満であれば(ステップS304:Yes)、移動装置4の移動が可能であると判定する(ステップS305)。移動判定部492は、移動経路上に障害物がない場合(ステップS303:No)も、移動装置4の移動が可能であると判定する(ステップS305)。
この後、推進制御部494は、撮像装置5が被写体を画角内にとらえ続けることができるよう、ステップS302で算出した移動距離にしたがって被写体の動きに追従して推進部41を駆動させる移動追従制御を行う(ステップS306)。この後、移動装置4はステップS308へ移行する。
ステップS304において、移動装置4の移動距離が障害物までの距離以上であれば(ステップS304:No)、移動判定部492は、移動装置4の移動が不可能であると判定する(ステップS307)。この後、移動装置4はステップS308へ移行する。
ステップS308において、移動装置4が角度ロックオンモードに設定されている場合(ステップS308:Yes)、第1制御部49は撮影方向追従制御を行う(ステップS309)。図15は、移動装置4が行う撮影方向追従制御の処理の概要を示すフローチャートである。角度ロックオンモードに設定されている場合、撮像装置5からは被写体の方向の変化が送られてくる。このときの撮像装置5の処理については後述する。移動装置4が撮像装置5からロックオン対象の被写体の方向が変化したことを示す情報を取得した場合(ステップS401:Yes)、移動判定部492は、その情報に基づいて移動装置4の移動の可否を判定する(ステップS402)。移動判定部492は、例えば被写体の顔を球と近似するモデルを採用し、その球の中心を回転中心として回転中心からの距離を一定に保ちながら基準の角度への移動装置4の回転の可否を判定する。
移動判定部492が移動可能であると判定した場合(ステップS403:Yes)、方向制御部495は撮像方向の変更を開始する(ステップS404)。例えば、顔を球で近似するモデルを採用した場合、方向制御部495はその球の中心を回転中心として回転中心からの距離を一定に保ちながらステップS402で算出した角度だけ移動装置4の回転を行う。なお、撮像装置5の移動装置4に対する姿勢を変更可能な場合、移動装置4は自身の姿勢を保ったまま移動するとともに、撮像装置5の移動装置4に対する姿勢を変化させることによって撮像方向を変更させるようにしてもよい。この場合の移動装置4の移動と撮像装置5の姿勢変化は同時に行ってもよいし、移動装置4の移動後に撮像装置5の姿勢を変化させてもよい。
ステップS404の後、移動装置4の撮像方向を変更している最中に被写体のロスト情報を撮像装置5から受信した場合(ステップS405:Yes)、方向制御部495は移動装置4の回転動作を中止する制御を行い(ステップS406)、ロスト情報を操作装置3に送信する(ステップS407)。ここで「被写体をロストした場合」には、被写体の一部が画像内から消えている場合、換言すれば「被写体をロストしそうな場合」も含まれる。ステップS407の後、移動装置4は撮影方向追従制御を終了してメインルーチンへ戻る。
ステップS405において、移動装置4の撮像方向を変更している最中に被写体のロスト情報を撮像装置5から受信しない場合(ステップS405:No)において、撮像方向の変更が終了したとき(ステップS408:Yes)、移動装置4は撮影方向追従制御を終了してメインルーチンへ戻る。ステップS408において撮像方向の変更が終了していないとき(ステップS408:No)、移動装置4はステップS405へ戻る。
ステップS401において、移動装置4が撮像装置5からロックオン対象の被写体の方向が変化した情報を取得しない場合(ステップS401:No)、およびステップS403において移動判定部492が移動可能ではないと判定した場合(ステップS403:No)、移動装置4は撮影方向追従制御を終了してメインルーチンへ戻る。
ステップS308において、移動装置4が角度ロックオンモードに設定されていない場合(ステップS308:No)、移動装置4は被写体追尾制御を終了してメインルーチンへ戻る。
以上説明したステップS209の後の処理について、図12Bを参照して説明する。第1制御部49は、構図調整モードへの変更を指示する制御信号の受信の有無を判定する(ステップS210)。まず、構図調整制御信号を受信した場合(ステップS210:Yes)を説明する。この場合において、ズーム操作信号を受信したとき(ステップS211:Yes)、第1制御部49はズーム制御を行う(ステップS212)。
図16は、移動装置4が行うズーム制御の処理の概要を示すフローチャートである。ズーム処理を行う前提として、電源判定部491がバッテリーの残量を所定値以上(例えばフル充電値の50%以上)であることを判定した上で、処理を行うものとする。まず、第1制御部49は撮像装置5にズーム制御指示信号を送信する(ステップS501)。
この後、撮像装置5から移動要求を受信した場合(ステップS502:Yes)、移動判定部492は移動可否判定を行う(ステップS503)。移動要求は、撮像装置5が光学ズームを行うことができないと判定した場合に撮像装置5から送られてくる。移動判定部492は、操作装置3から受信したズーム操作信号に応じた分のズームアップまたはズームダウンに相当する移動が可能であるか否かを判定する。具体的には、移動判定部492は、図17に示すように、画面と直交する方向の移動距離ΔL’を、被写体までの距離L、撮像装置5の移動前の被写体のサイズをc、撮像装置5の移動後の被写体のサイズをdとして、ΔL’={1−(c/d)}Lにより算出する。算出した移動距離ΔL’に基づく移動可否判定は、図13で説明したステップS303〜S307と同様である。なお、ここでも画面と平行な方向の移動距離を同様に算出してもよい。
ステップS503における判定の結果、移動判定部492が移動可能であると判定した場合(ステップS504:Yes)、推進制御部494は、推進部41を駆動して移動装置4の移動制御を行う(ステップS505)。ここで推進制御部494は、例えば移動方向に障害物が存在する場合、その障害物の手前の所定位置まで移動装置4を移動させる制御を行う。
続いて、移動装置4が移動している最中に被写体のロスト情報を撮像装置5から受信した場合(ステップS506:Yes)、推進制御部494は移動装置4の移動を中止する制御を行い(ステップS507)、ロスト情報を操作装置3に送信する(ステップS508)。ここでの「被写体をロストした場合」も、被写体の一部が画像内から消えるような場合、すなわち「被写体をロストしそうな場合」も含まれる。ステップS508の後、移動装置4はズーム制御を終了してメインルーチンへ戻る。
ステップS506において移動装置4が移動している最中に被写体のロスト情報を撮像装置5から受信しない場合(ステップS506:No)、移動が終了したとき(ステップS509:Yes)、第1制御部49は撮像装置5に移動終了の情報を送信する(ステップS510)。その後、移動装置4はズーム制御を終了してメインルーチンへ戻る。ステップS509において移動が終了していないとき(ステップS509:No)、移動装置4はステップS506へ戻る。
ステップS502において撮像装置5から移動要求を受信しない場合(ステップS502:No)、およびステップS504において判定結果が移動不可能である場合(ステップS504:No)、移動装置4はメインルーチンへ戻る。
再び図12Bのフローチャートに戻って説明を続ける。ステップS211においてズーム操作信号を受信しない場合(ステップS211:No)を説明する。この場合において、第1制御部49がスライド操作信号を受信したとき(ステップS213:Yes)、第1制御部49はスライド制御を行う(ステップS214)。
図18は、移動装置4が行うスライド制御の処理の概要を示すフローチャートである。まず、移動判定部492は、移動装置4がスライド動作が可能であるか否かを判定する(ステップS601)。スライド動作が可能である場合(ステップS601:Yes)、推進制御部494はスライド動作を開始する(ステップS602)。第1制御部49は、スライド動作を開始すると、スライド動作に関する情報を撮像装置5への送信も開始する。ここでいう「スライド動作に関する情報」には、例えばスライドの量や方向に関する情報が含まれる。
ステップS602の後、移動装置4がスライド動作中に撮像装置5から被写体のロスト情報を受信した場合(ステップS603:Yes)、推進制御部494は移動装置4のスライド動作を中止する制御を行い(ステップS604)、ロスト情報を操作装置3に送信する(ステップS605)。ここでも、「被写体をロストした場合」には、被写体の一部が画像内から消えるような場合、すなわち「被写体をロストしそうな場合」も含まれる。ステップS605の後、移動装置4はメインルーチンへ戻る。
ステップS603において移動装置4の移動中に被写体をロストしない場合(ステップS603:No)、移動装置4の移動が終了したとき(ステップS606:Yes)、第1制御部49は、スライド動作によって変化した後の基準位置を第1記録部16に記憶させ(ステップS607)、その基準位置を撮像装置5へ送信する(ステップS608)。この後、移動装置4はスライド制御を終了してメインルーチンへ戻る。ステップS606において移動装置4の移動が終了していないとき(ステップS606:No)、移動装置4はステップS603へ戻る。
ステップS601において、移動判定部492が移動装置4のスライド動作を不可能であると判定した場合(ステップS601:No)、第1制御部49は撮像装置5へ画像のトリミングを要求する信号を送信する(ステップS609)。この際、第1制御部49は、要求信号とともにスライド量に関する情報を撮像装置5に送信する。
この後、移動装置4は、撮像装置5からトリミング画像データまたはエラー情報を受信する(ステップS610)。エラー情報は、撮像装置5によってトリミングが不可能と判断された場合に撮像装置5から送られてくる情報である。
移動装置4は、撮像装置5から受信したトリミング画像データまたはエラー情報を操作装置3に送信する(ステップS611)。この後、移動装置4はスライド制御を終了してメインルーチンに戻る。
図12Bのフローチャートに戻って説明を続ける。ステップS213において、第1制御部49がスライド操作信号を受信しないとき(ステップS213:No)を説明する。この場合において、第1制御部49が角度変更操作信号を受信したとき(ステップS215:Yes)、方向制御部495は角度変更制御を行う(ステップS216)。角度変更制御を行う際、方向制御部495は処理が実行可能であるか否かを判定し、実行可能である場合に移動装置4の移動と傾斜角度(姿勢)の変更を実行する。なお、移動装置4の移動と角度変更とを同時に実行する代わりに、移動装置4を移動した後に移動装置4の角度を変更させるようにしてもよい。
ステップS215において、第1制御部49が角度変更操作信号を受信しないとき(ステップS215:No)を説明する。この場合において、第1制御部49がピント変更操作信号を受信したとき(ステップS217:Yes)、第1制御部49はピント変更を指示する制御信号を撮像装置5に送信する(ステップS218)。
ステップS217において、第1制御部49がピント変更操作信号を受信しない場合(ステップS217:No)を説明する。この場合において、第1制御部49が露出変更操作信号を受信したとき(ステップS219:Yes)、第1制御部49は露出変更を指示する制御信号を撮像装置5へ送信する(ステップS220)。
ステップS219において、第1制御部49が露出変更操作信号を受信しない場合(ステップS219:No)を説明する。この場合において、第1制御部49が撮影操作信号を受信したとき(ステップS221:Yes)、第1制御部49は撮影を指示する制御信号を撮像装置5へ送信する(ステップS222)。
ステップS221において、第1制御部49が撮影操作信号を受信しない場合(ステップS221:No)、移動装置4はステップS223へ移行する。ステップS223において、第1制御部49が構図調整モードの終了信号を操作装置3から受信した場合(ステップS223:Yes)、移動装置4の電源が切断されたとき(ステップS224:Yes)、移動装置4は処理を終了する。ステップS224において移動装置4の電源が切断されない場合(ステップS224:No)、移動装置4はステップS204に戻る。一方、第1制御部49が構図調整モード終了信号を受信しない場合(ステップS223:No)、移動装置4はステップS209に戻る。
ステップS210において、構図調整モードへの変更を指示する制御信号を受信しない場合(ステップS210:No)を説明する。この場合において、動作モードが構図調整モードであるとき(ステップS225:Yes)、移動装置4はステップS211へ移行する。
ステップS225において動作モードが構図調整モードでない場合(ステップS225:No)において、第1制御部49が操作装置3からロックオンモードの終了信号を受信したとき(ステップS226:Yes)、移動装置4は撮像装置5へロックオンモードの終了信号を送信し(ステップS227)、ステップS224へ移行する。一方、第1制御部49が操作装置3からロックオンモードの終了信号を受信しないとき(ステップS226:No)、移動装置4はステップS209に戻る。
以上説明した処理のうち、構図調整モードの処理に相当するステップS211〜S222の処理は、並行して行うことも可能である。
次に、撮像装置5が行う処理の概要について説明する。撮像装置5は、予め指定された撮影対象物と撮像装置5との相対的な関係の変化に応じて移動可能であるか否かを移動装置4が判定するために必要な情報を検出し、検出した情報を第2記録部55から読み出して移動装置4に送信することにより、移動装置4の処理を補助する。このような移動補助処理を含む撮像装置5の詳細な処理について、図19Aおよび図19Bに示すフローチャートを参照して説明する。
まず、図19Aを参照してステップS701〜S703の処理を説明する。撮像装置5の電源が投入された場合(ステップS701:Yes)、撮影制御部567は撮像を開始する制御を行う(ステップS702)。ステップS701において撮像装置5の電源が投入されない場合(ステップS701:No)、撮像装置5はステップS701を繰り返す。
ステップS702の後、第2通信制御部566は、移動装置4との通信を確立する(ステップS703)。続いて、第2通信制御部566は、画像処理部561が生成した画像データの移動装置4への送信を開始する(ステップS704)。
続いて、移動装置4から通常制御信号を受信した場合(ステップS705:Yes)、第2制御部56は信号に応じた通常制御を行う(ステップS706)。ここでいう通常制御には、静止画または動画撮影、撮像装置5の電池残量に関する情報の移動装置4への送信等が含まれる。ステップS705において、移動装置4から通常制御信号を受信しない場合(ステップS705:No)、撮像装置5は後述するステップS707へ移行する。
ステップS707において、移動装置4からロックオン対象の被写体の追尾を指示する信号およびロックオン対象の被写体の位置情報を受信した場合(ステップS707:Yes)、被写体検出部562はロックオン対象の被写体の検出を開始する(ステップS708)。被写体検出部562は、例えば被写体の色、形、およびパターン等に基づいて被写体を検出する。ステップS707において、移動装置4からロックオン対象の被写体の追尾を指示する信号およびロックオン対象の被写体の位置情報を受信しない場合(ステップS707:No)、撮像装置5はステップS705に戻る。
ステップS708で被写体検出部562が被写体検出を開始してから、ロックオン対象の被写体をロストした場合(ステップS709:Yes)を説明する。この場合、第2制御部56は、移動装置4へロスト情報を送信する(ステップS710)。ここで「被写体をロストした場合」には、被写体の一部が画像内から消えている場合、換言すれば「被写体をロストしそうな場合」も含まれる。
この後、移動装置4からロックオンモードの終了信号を受信した場合(ステップS711:Yes)、被写体検出部562はロックオン対象の被写体検出を終了する(ステップS712)。ステップS711において、移動装置4からロックオンモードの終了信号を受信しない場合(ステップS711:No)、撮像装置5はステップS709に戻る。
ステップS712の後、撮像装置5の電源が切断されたとき(ステップS713:Yes)、撮像装置5は処理を終了する。ステップS713において撮像装置5の電源が切断されない場合(ステップS713:No)、撮像装置5はステップS705に戻る。
ステップS709において、ロックオン対象の被写体をロストしていない場合(ステップS709:No)に行うステップS714以降の処理について、図19Bを参照して説明する。まず、動作モードが角度ロックオンモードに設定されてなく、通常ロックオンモードに設定されている場合(ステップS714:Yes)、距離算出部564は、ロックオン対象である被写体までの距離を算出するとともに、動きベクトル等を用いて2次元平面内の移動を求めることによって基準位置からの3次元的なずれ量を算出する(ステップS715)。この後、撮像装置5は、ステップS715の演算結果を移動装置4に送信する(ステップS716)。
ステップS714において、動作モードが角度ロックオンモードに設定されている場合(ステップS714:No)、被写体検出部562は被写体の向きを検出する(ステップS717)。この後、撮像装置5はステップS715へ移行する。この場合、撮像装置5は、ステップS716において、被写体の向きも移動装置4に送信する。
ステップS717の後、被写体検出部562が被写体との間に障害物を検出した場合(ステップS718:Yes)、距離算出部564は障害物までの距離を算出する(ステップS719)。その後、撮像装置5は、障害物までの距離を移動装置4へ送信する(ステップS720)。ステップS720の後、およびステップS718において被写体検出部562が被写体との間に障害物を検出しない場合(ステップS718:No)、撮像装置5はステップS721へ移行する。
ステップS721において、撮像装置5が構図調整モードへの変更を指示する信号を受信した場合(ステップS721:Yes)、撮像装置5はステップS722へ移行する。一方、撮像装置5が構図調整モードへの変更を指示する信号を受信しない場合(ステップS721:No)、撮像装置5はステップS711へ移行する。
ステップS722において、移動装置4からズーム制御信号を受信した場合(ステップS722:Yes)、撮影制御部567はズーム制御を行う(ステップS723)。ステップS722において、移動装置4からズーム制御信号を受信しない場合(ステップS722:No)、撮像装置5は後述するステップS724へ移行する。
撮像装置5が行うズーム制御の処理の概要について、図20に示すフローチャートを参照して説明する。まず、撮影制御部567は、第2記録部55を参照して、ズーム指示量に基づく被操縦体2の重心変化を算出する(ステップS801)。
被操縦体2の重心変化が所定の閾値以下である場合(ステップS802:No)、ズームの影響も少ないので、バランスを崩す心配もない。そこで、撮影制御部567は、光学ズームが可能であるか否かを判定する(ステップS803)。ここで、重心変化以外の量を用いてステップS802の判定を行ってもよい。具体的には、例えば被操縦体2の浮力を得るための機構の動き量、被操縦体2がバランスを取るためのジャイロセンサ等の出力に換算した値、または光軸方向の重さの位置変化などで換算した値に対して閾値を定め、その閾値以下である場合にステップS803を行うようにしてもよい。また、被操縦体2の全体の長さに対する撮像装置5の光軸方向における被操縦体2の重心移動量の割合に対して閾値(例えば10%)を定め、この閾値以下である場合にステップS803を行うようにしてもよい。なお、ここでは単純な閾値による判定を説明したが、複数のパラメータを用いて撮影制御部567が重心変化の有無を判定するようにしてもよい。光学ズームが可能である場合(ステップS803:Yes)、撮影制御部567は、光学系511に対して光学ズーム制御を行う(ステップS804)。光学ズームが可能であるか否かは、例えばレンズの種類、性質や要求される画質などの条件に基づいて判定される。なお、光学ズーム時は、その旨を表す信号をズーム制御前に移動装置4に伝え、移動装置4が不測の状態変動に備えた安定化動作などを行うようにしてもよい。このような撮像装置5の処理は、ステップS802またはS803の処理中に行ってもよいし、別処理で行ってもよい。また、被操縦体2の重心変化を用いて飛行や浮遊の観点での判定を行う代わりに、風速センサを設けることによって風の影響に基づく判定を行ったり、振動センサを設けて被操縦体2における振動の影響に基づく判定を行ったりしてもよく、これらの影響に基づく判定を上述した判定と併用して総合的に判定してもよい。例えば、風速が強く風の影響で対象物近づきにくい場合にはズームを行うという判定を併用してもよい。
この後、撮影制御部567が、撮像装置5からの情報により要求ズーム位置まで移動が完了したと判定した場合(ステップS805:Yes)、撮影制御部567はズーム制御を終了する。一方、撮影制御部567が、要求ズーム位置まで移動が完了していないと判定した場合(ステップS805:No)、撮影制御部567は要求ズーム位置まで電子ズームを行う(ステップS806)。その後、撮影制御部567はズーム制御を終了する。
ステップS803で光学ズームが可能でない場合(ステップS803:No)、撮像装置5はステップS806へ移行する。
次に、ステップS801で算出された被操縦体2の重心変化が閾値より大きい場合(ステップS802:Yes)を説明する。この場合、撮影制御部567は、被写体のフレーム間の動き量と所定の閾値との大小を判定する(ステップS807)。被写体の動き量が閾値以上である(動き大である)場合(ステップS807:Yes)、被写体のズーム速度と被写体への接近速度との大小関係に応じた処理を行う。具体的には、被写体像のズームによる拡大速度が接近による拡大速度より大きい場合(ステップS808:Yes)、撮像装置5が光学ズームおよび電子ズームを実行可能であれば(ステップS809:Yes)、ステップS804へ移行して光学ズーム制御を行う。被操縦体2の重心移動が大きいと判定した場合に光学ズーム等を行うのは、被操縦体2が体勢を崩しつつも安全な移動が可能な場合があるからである。このように撮像装置5は、判定時の周囲の環境、被操縦体2の安定性や移動装置4の性能情報から光学ズーム等の実行可否を総合的に判断してもよい。ここでも、被操縦体2の重心変化を用いて飛行や浮遊の観点での判定を行う代わりに、風や被操縦体2における振動の影響に基づく判定を行ってもよいし、これらの影響に基づく判定を上述した判定と併用して総合的に判定してもよい。例えば、風速が強く風の影響で対象物近づきにくい場合にはズームを行うという判定を併用してもよい。また、被操縦体2の振動の影響が大きい場合には、ズームで望遠にして拡大するのではなく、対象物に近づいて拡大する方がぶれやフレーミングで有利になる場合があるので、ステップS809の処理に風の影響や被操縦体2の振動の影響に基づく判断を加えてもよい。これに対して、ステップS807において被写体の動き量が閾値より小さい(動きが小である)場合(ステップS807:No)、被写体が逃げたりすることはないとみなして、撮像装置5は後述するステップS810へ移行する。被写体の動き量は、特に撮影レンズの光軸方向がピントに効くということに鑑みて、被写体までの距離の変化や被写体像の大きさ変化などに基づいて判定してもよい。なお、ここでは説明を簡略化して、発明の特徴をわかりやすくするために、いくつかの分岐を用いて処理の概要を説明したが、これらの分岐における各種判定処理は、さらに様々な変数を用いることにより、光学的、機械的、電気的な撮像装置5の制御と、移動装置4の移動制御のバランスを取る、あるいは最適化をするような判定処理となるように制御するのが好ましい。なお、「光学ズーム」と記載した箇所を「ピント位置移動による重心変化」などに置き換える応用も可能である。この場合において、重心変化の影響が撮影や移動制御に影響を及ぼすときには、ピントではなく被操縦体2の移動により、フォーカス位置に合わせるような制御を行ってもよい。
被写体像のズームによる拡大速度が接近による拡大速度より大きく(ステップS808:Yes)、かつ撮像装置5が光学ズームまたは電子ズームを実行可能でない(ステップS809:No)場合、および被写体像のズームによる拡大速度が接近による拡大速度以下である場合(ステップS808:No)、被写体検出部562は画像内の障害物の検出を行い(ステップS810)、移動装置4に対して障害物の検出結果と移動要求を送信する(ステップS811)。この移動要求は、障害物の手前までの移動要求である。ここでも、風や被操縦体2における振動の影響に基づく判定を行ってもよいし、これらの影響に基づく判定を上述した判定と併用して総合的に判定してもよい。被写体の動きは画像の時間変化によって検出できるが、被写体が実際には動いていなくても画像等で予測できる場合があり、そうした結果を利用してもよい。どのような対象物がどのような動きをした時に、その後どう動くかなどについては、画像変化の機械学習を行うことによって判定することもできる。ここでは、撮像装置5の特徴を説明しているが、この撮像装置5と通信する移動装置4または撮像装置5と移動装置4を含む被操縦体2としての特徴もある。すなわち、撮像装置5と通信可能であり、撮像装置5を保持して撮像装置5とともに移動可能な移動装置4を備えた被操縦体2が、予め指定された撮影対象物と撮像装置5との相対的な関係の変化に応じて移動可能であるか否かを判定するためには、撮像装置5の重心など変化や、対象物の敏捷性などの動き、それらの変化や動きの予測、被操縦体2の性能、被操縦体2の周囲の環境などの情報が必要となってくる。被操縦体2の被操縦体制御部21が、それらの情報を検出し、検出した情報を用いて撮影対象物と撮像装置5との相対的な関係の変化に応じた移動が可能であるか否かを判定し、判定結果に応じた制御を行うことは、本実施の形態1の特徴の一つである。
続いて、被写体検出部562が被写体をロストした場合(ステップS812:Yes)、撮像装置5はロスト情報を移動装置4へ送信する(ステップS813)。この後、撮像装置5はズーム制御を終了してメインルーチンへ戻る。
ステップS812において被写体検出部562が被写体をロストしない場合(ステップS812:No)、撮像装置5が移動装置4から移動終了の報知を受信したとき(ステップS814:Yes)、撮像装置5はズーム制御を終了してメインルーチンへ戻る。ステップS814において、撮像装置5が移動装置4から移動終了の報知を受信しないとき(ステップS814:No)、撮像装置5はステップS812へ戻る。
再び図19Bを参照して説明を続ける。ステップS723の後、スライド情報を移動装置4から受信した場合(ステップS724:Yes)、追尾処理部563はロスト判定を行う(ステップS725)。被写体をロストしていない場合(ステップS725:No)において、スライド後の基準位置を受信したとき(ステップS726:Yes)、第2制御部56は基準位置の情報を第2記録部55に書き込んで記憶させる(ステップS727)。
ステップS725において被写体をロストした場合(ステップS725:Yes)、第2制御部56は移動装置4へロスト情報を送信する(ステップS728)。
ステップS727またはS728の後、移動装置4からピント変更操作信号を受信した場合(ステップS729:Yes)、撮影制御部567は光学系511を動作させてピント変更処理を行う(ステップS730)。ステップS730の後、およびステップS729で移動装置4からピント変更操作信号を受信しない場合(ステップS729:No)、撮像装置5はステップS731へ移行する。
ステップS731において、移動装置4から露出変更操作信号を受信した場合(ステップS731:Yes)、撮影制御部567は露出を変更する処理を行う(ステップS732)。ステップS732の後、およびステップS731で移動装置4から露出変更操作信号を受信しない場合(ステップS731:No)、撮像装置5はステップS733へ移行する。
ステップS733において、移動装置4から撮影操作信号を受信した場合(ステップS733:Yes)、撮影制御部567は撮影操作信号に応じた撮影を行わせる(ステップS734)。ステップS734の後、およびステップS733において移動装置4から撮影操作信号を受信しない場合(ステップS733:No)、撮像装置5はステップS711へ移行する。
ステップS724においてスライド情報を移動装置4から受信しない場合(ステップS724:No)を説明する。この場合において、トリミング要求を受信したとき(ステップS735:Yes)、トリミング部565はトリミングが可能であるか否かを判定する(ステップS736)。ここでの判定は、ロックオン対象の被写体の基準位置をスライドした場合に撮像画像の中に移動によって当所表示されていなかった部分の画像を補うことが可能な余白部分の有無に基づいて判定を行う。判定の結果、トリミングを行うことが可能である場合(ステップS736:Yes)、トリミング部565はトリミングを行い(ステップS737)、トリミング画像のデータを移動装置4に送信する(ステップS738)。一方、判定の結果、トリミングを行うことができない場合(ステップS736:No)、第2制御部56はエラー情報を移動装置4に送信する(ステップS739)。ステップS738またはS739の後、撮像装置5はステップS729へ移行する。
ステップS735において、トリミング要求を受信しないとき(ステップS735:No)、撮像装置5はステップS729へ移行する。
なお、以上の説明では撮像装置5が移動装置4に対して角度を変更しないものとして説明をしたが、撮像装置5が移動装置4に対して角度を変更可能な構成としてもよい。その場合には、移動装置4から角度変更指示信号を受信して移動装置4に対する角度を変更する制御を行えばよい。
以上説明した本発明の実施の形態1によれば、移動装置が予め指定された撮影対象物と撮像装置との相対的な関係の変化に応じて移動可能であるか否かを判定し、判定結果に応じた制御を行う一方、撮像装置が撮影対象物と撮像装置との相対的な関係の変化に応じて移動可能であるか否かを移動装置が判定するために必要な情報を検出して移動装置に送信するため、撮影時の移動経路が定まっていない状況下でも適切な処理を行うことができる。
また、本実施の形態1によれば、構図調整モードを設定した場合、ユーザは操縦は撮像システムに任せて構図の調整に専念することができる。したがって、被写体を追尾する環境下においても、ユーザが追尾のための処理に気を取られることなく、撮影に集中することが可能となる。
(実施の形態2)
本発明の実施の形態2は、被操縦体が内視鏡である。移動装置は内視鏡の先端を伸縮させるものであり、その内部に撮像装置を保持している。移動装置は操作装置と通信可能に無線接続されており、操作装置の指示にしたがって駆動するとともに、撮像装置に対する指示信号を受信して撮像装置に送信する。被操縦体はロックオン機能を具備しており、被操縦体(内視鏡)が被検体の内部に挿入されて検査が行われる際に撮影対象物(被写体)が撮像装置に対して動いた場合、その動きを追尾することが可能であるか否かを逐次判定しながら撮影対象物を追尾する。この追尾を行う際、移動装置は撮影対象物の大きさを変えないようにするために、必要に応じて被写体に対する接近または離反動作を行う。
本発明の実施の形態2は、被操縦体が内視鏡である。移動装置は内視鏡の先端を伸縮させるものであり、その内部に撮像装置を保持している。移動装置は操作装置と通信可能に無線接続されており、操作装置の指示にしたがって駆動するとともに、撮像装置に対する指示信号を受信して撮像装置に送信する。被操縦体はロックオン機能を具備しており、被操縦体(内視鏡)が被検体の内部に挿入されて検査が行われる際に撮影対象物(被写体)が撮像装置に対して動いた場合、その動きを追尾することが可能であるか否かを逐次判定しながら撮影対象物を追尾する。この追尾を行う際、移動装置は撮影対象物の大きさを変えないようにするために、必要に応じて被写体に対する接近または離反動作を行う。
図21は、本発明の実施の形態2に係る撮像システムの概略構成を示す図である。図22は、本実施の形態2に係る撮像システムの機能構成を示すブロック図である。図21および図22に示す撮像システム1Aは、撮影対象物である被検体の体内に挿入されて被検体の内部を撮像する内視鏡2Aと、内視鏡2Aの操作指示信号の入力を受け付ける操作装置3Aと、内視鏡2Aと通信可能に接続され、撮像システム1Aを統括して制御するプロセッサ6Aと、内視鏡2Aが撮像した画像を表示する表示装置7Aと、を備える。
内視鏡2Aは、可撓性を有する細長形状をなして被検体の体腔内に挿入される挿入部21Aと、挿入部21Aの基端側に接続され、各種の操作信号の入力を受け付ける操作部22Aと、操作部22Aから挿入部21Aが延びる方向と異なる方向に延び、プロセッサ6Aに接続する各種ケーブルを内蔵するユニバーサルコード23Aと、を備える。
挿入部21Aは、移動装置4Aおよび撮像装置5Aを内蔵する先端部24Aと、先端部24Aの基端側に接続され、可撓性を有する長尺状の可撓管部25Aと、を有する。先端部24Aは、静電アクチュエータ、導電性高分子アクチュエータまたは超音波モータ等のいずれかを用いて構成され、湾曲やクランク曲げ等を行うことが可能な柔軟構造を有している。
移動装置4Aおよび撮像装置5Aは、実施の形態1で説明した移動装置4および撮像装置5とそれぞれ同様の構成を有する。このため、内視鏡2Aは被操縦体としての機能を有する。以下、移動装置4Aおよび撮像装置5Aにおいて移動装置4および撮像装置5とそれぞれ対応する構成要素には、移動装置4および撮像装置5の構成要素の末尾にAを付して記載する。例えば、移動装置4Aが有する推進部の符号は「41A」となる。
移動装置4Aは、挿入部21Aの先端から進退可能な筒状をなして挿入部21Aに取り付けられており、筒状内部に撮像装置5Aを保持している。推進部41Aは、操作装置3Aから送られてくる操作指示信号に応じて挿入部21Aの先端で移動装置4Aを進退するアクチュエータを用いて構成されている。
プロセッサ6Aは、内視鏡2Aが撮像した画像データを取得して画像処理を行う画像処理部61Aと、内視鏡2Aの挿入部21Aの先端から被検体へ照射する照明光を発生する光源部62Aと、プロセッサ6A自身を含む撮像システム1A全体を統括して制御する制御部63Aとを有する。
画像処理部61Aおよび制御部63Aは、例えばCPU、FPGA(Field Programmable Gate Array)およびASIC(Application Specific Integrated Circuit)等のうち一つまたは複数を用いて構成される。
光源部62Aは、内視鏡2Aの挿入部21Aの先端から被検体(被写体)に向けて照射する照明光を出力する。光源部62Aは、例えばLED(Light Emitting Diode)、レーザー光源、キセノンランプ、ハロゲンランプ等のいずれかを用いて構成される。プロセッサ6Aは、撮像システム1A全体を統括して制御する。
表示装置7Aは、プロセッサ6Aが画像処理を施した撮像信号に対応する画像を表示する。また、表示装置7Aは、撮像システム1Aに関する各種情報を表示する。表示装置7Aは、液晶や有機EL等の表示パネル等を用いて構成される。
なお、移動装置4Aの第1制御部49Aおよび撮像装置5Aの第2制御部56Aの機能をプロセッサ6Aが具備してもよい。また、操作装置3Aの機能を内視鏡2Aの操作部22Aが具備してもよい。
以上の構成を有する撮像システム1Aにおいて、操作装置3A、移動装置4Aおよび撮像装置5Aが行う処理の概要は、実施の形態1とほぼ同様である。以下では、本実施の形態2において特有のスライド制御処理の概要について説明する。
まず、図23に示すフローチャートを参照して、内視鏡2Aの移動装置4Aが行うスライド制御の処理の概要を説明する。ステップS901〜S908は、実施の形態1で説明したスライド制御におけるステップS601〜608(図18を参照)に順次対応している。なお、ステップS901における移動装置4Aのスライド可能性判定は、例えば空間情報取得部43Aがスライド方向における被検体の内臓の壁面の有無を検出した結果に基づいて行われる。
ステップS909以降の処理について説明する。ステップS909において、移動判定部492Aは被写体像の大きさがスライド前後で変化したか否かを判定する(ステップS909)。図24は、被写体像の大きさが変化した場合の内視鏡先端部と被写体との関係を模式的に示す図である。図24に示すように、スライド量が大きい場合には、破線で示す移動前の先端部24Aからクランク曲げで被写体300に対してΔd程度遠ざかった状態となる。このため、図25に示すように、移動後の被写体像300bは、移動前の被写体像300aよりも小さくなる。判定の結果、被写体像の大きさが変化した場合(ステップS909:Yes)、移動判定部492Aは、被写体像の大きさの変化に応じて、スライド前の大きさへ戻すための被写体への接近または離反が可能であるか否かを判定する(ステップS910)。ここでの判定は、空間情報取得部43が取得した情報等に基づいて行われる。なお、ステップS909において、移動判定部492Aが、被写体像の大きさが変化していないと判定した場合(ステップS909:No)、移動装置4Aはメインルーチンへ戻る。
ステップS910において、移動判定部492Aが、被写体への接近または離反が可能であると判定した場合(ステップS910:Yes)、推進制御部494Aは推進部41Aに接近または離反動作を行わせる(ステップS911)。図26は、図24に示す状況から移動装置4Aが前進して被写体300に接近した状況を模式的に示す図である。この状況において、撮像装置5Aは、図27に示すように、移動前の被写体像300aとほぼ同じ大きさの被写体像300cを撮像する。ステップS911の後、移動装置4Aはメインルーチンへ戻る。
ステップS910において、被写体への接近または離反が不可能であると判定した場合(ステップS910:No)、第1制御部49Aは、撮像装置5Aに対してズーム指示の信号を送信する(ステップS912)。
この後、撮像装置5Aからズーム失敗を示すエラー情報を受信した場合(ステップS913:Yes)、第1制御部49Aは操作装置3Aにエラー情報を送信する(ステップS914)。この後、移動装置4Aはスライド制御処理を終了する。ステップS913において、撮像装置5Aからエラー情報を受信しない場合(ステップS913:No)、移動装置4Aはスライド制御処理を終了する。
ステップS901において、第1制御部49Aが移動装置4Aのスライドを不可能であると判定した場合(ステップS901:No)に続けて行うステップS915〜S917の処理は、実施の形態1の移動装置4のスライド制御で説明したステップS609〜S611(図18を参照)に順次対応している。ステップS917の後、移動装置4Aはスライド制御処理を終了する。
次に、図28に示すフローチャートを参照して、内視鏡2Aの撮像装置5Aが行うスライド制御の処理の概要を説明する。ステップS1001〜S1005の処理は、実施の形態1で説明したステップS724〜S728(図19Bを参照)に順次対応している。
ステップS1004の後に行うステップS1006以降の処理を説明する。移動装置4Aからズーム指示信号を受信した場合(ステップS1006:Yes)、撮影制御部567Aは光学ズームによって要求ズーム位置までのズームが可能であるか否かを判定する(ステップS1007)。光学ズームによる要求ズーム位置までのズームが可能である場合(ステップS1007:Yes)、撮影制御部567Aは、光学系511Aに対して光学ズーム制御を行う(ステップS1008)。その後、撮像装置5Aはズーム制御処理を終了する。
光学ズームによる要求ズーム位置までのズームが不可能である場合(ステップS1007:No)、撮影制御部567Aは電子ズームによって要求ズーム位置までのズームが可能であるか否かを判定する(ステップS1009)。電子ズームによる要求ズーム位置までのズームが可能である場合(ステップS1009:Yes)、撮影制御部567Aは、要求ズーム位置まで電子ズームを行う(ステップS1010)。その後、撮像装置5Aはズーム制御処理を終了する。
ステップS1009において、電子ズームによる要求ズーム位置までのズームが不可能である場合(ステップS1009:No)、撮像装置5Aはエラー情報を移動装置4Aへ送信する(ステップS1011)。その後、撮像装置5Aはスライド制御を終了する。
ステップS1001において、移動装置4Aからスライド情報を受信しない場合(ステップS1001:No)に行うステップS1012〜S1015の処理は、実施の形態1で説明したステップS735〜S738の処理に順次対応している。ステップS1015の後、撮像装置5Aはスライド制御を終了する。なお、ステップS1013において、トリミングを行うことができない場合(ステップS1013:No)、撮像装置5AはステップS1011へ移行してエラー情報を移動装置4Aに送信する。
以上説明した本発明の実施の形態2によれば、実施の形態1と同様に、撮影時の移動経路が定まっていない状況下でも適切な処理を行うことができる。
また、本実施の形態2によれば、ユーザはスライド操作を行うだけで装置側で画角が自動的に調整されるため、被検体の観察を違和感なく行うことができる。
ここまで、本発明を実施するための形態を説明してきたが、本発明は上述した実施の形態によってのみ限定されるべきものではない。例えば、移動装置として無人航空機や内視鏡を例示したが、自走可能なロボット、工業用内視鏡、カプセル内視鏡などにも適用することが可能である。また、顕微鏡の撮像装置を保持する鏡筒部分を移動装置としてもよい。
本明細書におけるフローチャートの説明では、「まず」、「この後」、「続いて」等の表現を用いてステップ間の処理の前後関係を明示していたが、上述した実施の形態を実施するために必要な処理の順序は、それらの表現によって一意的に定められるわけではない。すなわち、本明細書で記載したフローチャートにおける処理の順序は、矛盾のない範囲で変更することができる。
また、本明細書においてフローチャートを用いて説明した処理のアルゴリズムは、プログラムとして記述することが可能である。このようなプログラムは、コンピュータ内部の記録部が記録してもよいし、コンピュータ読み取り可能な記録媒体に記録してもよい。プログラムの記録部または記録媒体への記録は、コンピュータまたは記録媒体を製品として出荷する際に行ってもよいし、通信ネットワークを介したダウンロードにより行ってもよい。
このように、本発明は、ここでは記載していない様々な実施の形態を含みうるものであり、特許請求の範囲によって特定される技術的思想の範囲内で種々の設計変更等を行うことが可能である。
1、1A・・・撮像システム;2・・・被操縦体;2A・・・内視鏡;3、3A・・・操作装置;4、4A・・・移動装置;5、5A・・・撮像装置;21・・・被操縦体制御部;36・・・第3制御部;49・・・第1制御部;56・・・第2制御部;492・・・移動判定部;562・・・被写体検出部;563・・・追尾処理部;564・・・距離算出部;565・・・トリミング部
Claims (15)
- 被写体を撮像して画像データを生成する撮像装置、および前記撮像装置と通信可能であり、前記撮像装置を保持して前記撮像装置とともに移動可能な移動装置を備えた被操縦体であって、
予め指定された撮影対象物と前記撮像装置との相対的な関係の変化に応じて移動可能であるか否かを判定するために必要な情報を検出し、前記情報を用いて前記相対的な関係の変化に応じた移動が可能であるか否かを判定し、判定結果に応じた制御を行う被操縦体制御部を備えたことを特徴とする被操縦体。 - 被写体を撮像して画像データを生成する撮像装置と通信可能であり、前記撮像装置を保持して前記撮像装置とともに移動可能な移動装置であって、
予め指定された撮影対象物と前記撮像装置との相対的な関係の変化に応じて移動可能であるか否かを判定し、判定結果に応じた制御を行う第1制御部を備えたことを特徴とする移動装置。 - 前記相対的な関係は、前記撮影対象物と前記撮像装置との距離であり、
前記第1制御部は、
前記距離の変化によって生じる前記撮像装置が撮像した前記撮影対象物のサイズの変化に基づいて、前記距離を維持するための当該移動装置の移動距離を算出する移動判定部を有し、
前記移動距離を用いて前記撮影対象物を追尾する制御を行うことを特徴とする請求項2に記載の移動装置。 - 前記移動判定部は、
当該移動装置の移動経路上に障害物がある場合には、前記移動距離と前記障害物までの距離との大小関係に応じて移動の可否を判定することを特徴とする請求項3に記載の移動装置。 - 前記相対的な関係は、前記撮像装置に対する前記撮影対象物の向きであり、
前記第1制御部は、
前記向きが変化した場合に当該移動装置の移動の可否を判定する移動判定部を有し、
当該移動装置が移動可能である場合、前記向きを維持するように前記撮像装置における撮像方向を変更する制御を行うことを特徴とする請求項2に記載の移動装置。 - 当該移動装置の操作指示信号の入力を受け付ける操作装置と通信可能であり、
前記第1制御部は、
前記操作装置から前記撮像装置のズーム操作信号を受信した場合、ズーム制御指示信号を前記撮像装置に送信し、
前記移動判定部は、
前記ズーム制御指示信号を送信後に前記撮像装置から移動要求を受信した場合、前記ズーム操作信号に応じた分の移動が可能であるか否かを判定することを特徴とする請求項3〜5のいずれか一項に記載の移動装置。 - 当該移動装置の操作指示信号の入力を受け付ける操作装置と通信可能であり、
前記移動判定部は、
前記操作装置からスライド操作信号を受信した場合、前記スライド操作信号に応じたスライドが可能であるか否かを判定し、
前記第1制御部は、
スライドが可能である場合にはスライド動作を開始させる制御を行う一方、スライドが可能でない場合には前記撮像装置に対してスライド情報および前記画像データのトリミング要求を送信することを特徴とする請求項3〜6のいずれか一項に記載の移動装置。 - 移動装置と通信可能であるとともに前記移動装置に保持されてなり、被写体を撮像して画像データを生成する撮像装置であって、
予め指定された撮影対象物と前記撮像装置との相対的な関係の変化に応じて移動可能であるか否かを前記移動装置が判定するために必要な情報を検出し、検出した情報を前記移動装置に送信する第2制御部を備えたことを特徴とする撮像装置。 - 前記第2制御部は、
被写体としての前記撮影対象物を前記画像データから検出する被写体検出部と、
前記被写体検出部が検出した前記撮影対象物を異なる複数の画像データ間で追尾する追尾処理部と、
前記画像データを用いて当該撮像装置と前記撮影対象物との距離を算出するとともに前記撮影対象物の基準位置からのずれ量を算出する距離算出部と、
を有することを特徴とする請求項8に記載の撮像装置。 - 前記第2制御部は、
前記移動装置から受信したズーム指示信号に応じてズーム可能であるか否かを判定し、ズーム可能である場合にはズーム制御を行う一方、ズーム可能でない場合には前記移動装置に移動要求を送信する撮影制御部を有することを特徴とする請求項8または9に記載の撮像装置。 - 前記第2制御部は、
前記移動装置からトリミング要求およびスライド情報を受信した場合、前記トリミング要求およびスライド情報に基づいて前記画像データのトリミングが可能であるか否かを判定し、トリミングが可能であると判定した場合には前記スライド情報に基づいてトリミング画像のデータを生成するトリミング部を有することを特徴とする請求項8〜10のいずれか一項に記載の撮像装置。 - 被写体を撮像して画像データを生成する撮像装置と通信可能であり、前記撮像装置を保持して前記撮像装置とともに移動可能な移動装置が行う移動制御方法であって、
予め指定された撮影対象物と前記撮像装置との相対的な関係の変化に応じて移動可能であるか否かを判定する判定ステップと、
前記判定ステップにおける判定結果を記録部から読み出して前記判定結果に応じた制御を行う制御ステップと、
を有することを特徴とする移動制御方法。 - 移動装置と通信可能であるとともに前記移動装置に保持されてなり、被写体を撮像して画像データを生成する撮像装置が行う移動補助方法であって、
予め指定された撮影対象物と前記撮像装置との相対的な関係の変化に応じて移動可能であるか否かを前記移動装置が判定するために必要な情報を検出する検出ステップと、
前記検出ステップが検出した情報を記録部から読み出して前記移動装置に送信する送信ステップと、
を有することを特徴とする移動補助方法。 - 被写体を撮像して画像データを生成する撮像装置と通信可能であり、前記撮像装置を保持して前記撮像装置とともに移動可能な移動装置に、
予め指定された撮影対象物と前記撮像装置との相対的な関係の変化に応じて移動可能であるか否かを判定する判定ステップと、
前記判定ステップにおける判定結果を記録部から読み出して前記判定結果に応じた制御を行う制御ステップと、
を実行させることを特徴とする移動制御プログラム。 - 移動装置と通信可能であるとともに前記移動装置に保持されてなり、被写体を撮像して画像データを生成する撮像装置に、
予め指定された撮影対象物と前記撮像装置との相対的な関係の変化に応じて移動可能であるか否かを前記移動装置が判定するために必要な情報を検出する検出ステップと、
前記検出ステップが検出した情報を記録部から読み出して前記移動装置に送信する送信ステップと、
を実行させることを特徴とする移動補助プログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017027316A JP2018133749A (ja) | 2017-02-16 | 2017-02-16 | 被操縦体、移動装置、撮像装置、移動制御方法、移動補助方法、移動制御プログラムおよび移動補助プログラム |
PCT/JP2018/003690 WO2018150917A1 (ja) | 2017-02-16 | 2018-02-02 | 被操縦体、移動装置、撮像装置、移動制御方法、移動補助方法、移動制御プログラムおよび移動補助プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017027316A JP2018133749A (ja) | 2017-02-16 | 2017-02-16 | 被操縦体、移動装置、撮像装置、移動制御方法、移動補助方法、移動制御プログラムおよび移動補助プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018133749A true JP2018133749A (ja) | 2018-08-23 |
Family
ID=63169390
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017027316A Pending JP2018133749A (ja) | 2017-02-16 | 2017-02-16 | 被操縦体、移動装置、撮像装置、移動制御方法、移動補助方法、移動制御プログラムおよび移動補助プログラム |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP2018133749A (ja) |
WO (1) | WO2018150917A1 (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020045598A1 (ja) * | 2018-08-31 | 2020-03-05 | ソニーセミコンダクタソリューションズ株式会社 | 電子機器及び固体撮像装置 |
JP2020102817A (ja) * | 2018-12-25 | 2020-07-02 | 凸版印刷株式会社 | 監視対象識別装置、監視対象識別システム、および、監視対象識別方法 |
WO2020170604A1 (ja) * | 2019-02-21 | 2020-08-27 | ソニー株式会社 | 情報処理装置、情報処理方法、プログラム |
WO2020255729A1 (ja) * | 2019-06-18 | 2020-12-24 | Necソリューションイノベータ株式会社 | 操縦支援装置、操縦支援方法、及びコンピュータ読み取り可能な記録媒体 |
WO2021079778A1 (ja) * | 2019-10-24 | 2021-04-29 | ソニー株式会社 | 移動体、情報処理方法、プログラム及び情報処理システム |
JP2021084478A (ja) * | 2019-11-26 | 2021-06-03 | 弘幸 中西 | 無人飛行体 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6473266B1 (ja) * | 2018-11-12 | 2019-02-20 | 弘幸 中西 | カプセル内視鏡 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6469962B2 (ja) * | 2014-04-21 | 2019-02-13 | 薫 渡部 | 監視システム及び監視方法 |
JP6696118B2 (ja) * | 2015-04-28 | 2020-05-20 | 株式会社ニコン | 電子機器 |
JP6711565B2 (ja) * | 2015-07-07 | 2020-06-17 | キヤノン株式会社 | 通信装置、その制御方法、プログラム |
-
2017
- 2017-02-16 JP JP2017027316A patent/JP2018133749A/ja active Pending
-
2018
- 2018-02-02 WO PCT/JP2018/003690 patent/WO2018150917A1/ja active Application Filing
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11889177B2 (en) | 2018-08-31 | 2024-01-30 | Sony Semiconductor Solutions Corporation | Electronic device and solid-state imaging device |
WO2020045598A1 (ja) * | 2018-08-31 | 2020-03-05 | ソニーセミコンダクタソリューションズ株式会社 | 電子機器及び固体撮像装置 |
EP3846442A4 (en) * | 2018-08-31 | 2021-09-15 | Sony Semiconductor Solutions Corporation | ELECTRONIC APPARATUS AND IMAGE CAPTURING SOLID STATE DEVICE |
JPWO2020045598A1 (ja) * | 2018-08-31 | 2021-09-24 | ソニーセミコンダクタソリューションズ株式会社 | 電子機器及び固体撮像装置 |
JP7386792B2 (ja) | 2018-08-31 | 2023-11-27 | ソニーセミコンダクタソリューションズ株式会社 | 電子機器及び固体撮像装置 |
JP2020102817A (ja) * | 2018-12-25 | 2020-07-02 | 凸版印刷株式会社 | 監視対象識別装置、監視対象識別システム、および、監視対象識別方法 |
WO2020170604A1 (ja) * | 2019-02-21 | 2020-08-27 | ソニー株式会社 | 情報処理装置、情報処理方法、プログラム |
JP7491297B2 (ja) | 2019-02-21 | 2024-05-28 | ソニーグループ株式会社 | 情報処理装置、情報処理方法、プログラム |
WO2020255729A1 (ja) * | 2019-06-18 | 2020-12-24 | Necソリューションイノベータ株式会社 | 操縦支援装置、操縦支援方法、及びコンピュータ読み取り可能な記録媒体 |
JPWO2020255729A1 (ja) * | 2019-06-18 | 2020-12-24 | ||
JP7231283B2 (ja) | 2019-06-18 | 2023-03-01 | Necソリューションイノベータ株式会社 | 操縦支援装置、操縦支援方法、及びプログラム |
WO2021079778A1 (ja) * | 2019-10-24 | 2021-04-29 | ソニー株式会社 | 移動体、情報処理方法、プログラム及び情報処理システム |
JP2021084478A (ja) * | 2019-11-26 | 2021-06-03 | 弘幸 中西 | 無人飛行体 |
JP7219204B2 (ja) | 2019-11-26 | 2023-02-07 | 弘幸 中西 | 無人飛行体 |
Also Published As
Publication number | Publication date |
---|---|
WO2018150917A1 (ja) | 2018-08-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2018150917A1 (ja) | 被操縦体、移動装置、撮像装置、移動制御方法、移動補助方法、移動制御プログラムおよび移動補助プログラム | |
US11649052B2 (en) | System and method for providing autonomous photography and videography | |
US10447912B2 (en) | Systems, methods, and devices for setting camera parameters | |
US20220374010A1 (en) | User Interaction Paradigms For A Flying Digital Assistant | |
EP3071482B1 (en) | Uav panoramic imaging | |
JP2014062789A (ja) | 写真計測用カメラ及び航空写真装置 | |
CN107205111B (zh) | 摄像装置、移动装置、摄像系统、摄像方法和记录介质 | |
US10356294B2 (en) | Photographing device, moving body for photographing, and photographing control apparatus for moving body | |
CN111356954B (zh) | 控制装置、移动体、控制方法以及程序 | |
WO2020172800A1 (zh) | 可移动平台的巡检控制方法和可移动平台 | |
JP7391053B2 (ja) | 情報処理装置、情報処理方法およびプログラム | |
CN111417836A (zh) | 环境取得系统 | |
WO2021217371A1 (zh) | 可移动平台的控制方法和装置 | |
WO2019183789A1 (zh) | 无人机的控制方法、装置和无人机 | |
WO2020062089A1 (zh) | 磁传感器校准方法以及可移动平台 | |
JP6910785B2 (ja) | 移動撮像装置およびその制御方法、ならびに撮像装置およびその制御方法、無人機、プログラム、記憶媒体 | |
WO2021168821A1 (zh) | 可移动平台的控制方法和设备 | |
JP2021113005A (ja) | 無人航空機システムおよび飛行制御方法 | |
JP2017112438A (ja) | 撮像システムおよびその制御方法、通信装置、移動撮像装置、プログラム | |
JP2020068426A (ja) | カメラ装置、画像処理装置、およびミラー可動機構 | |
CN106060357B (zh) | 成像设备、无人机及机器人 | |
CN111357271B (zh) | 控制装置、移动体、控制方法 | |
CN111373735A (zh) | 拍摄控制方法、可移动平台与存储介质 | |
WO2021059684A1 (ja) | 情報処理システム、情報処理方法、情報処理プログラム | |
WO2021217372A1 (zh) | 可移动平台的控制方法和设备 |