JP6696094B2 - 移動体、制御方法、及びプログラム - Google Patents

Description

本発明は、制御装置、撮像装置、移動体、制御方法、及びプログラムに関する。

特許文献１には、被写体の移動経路、移動速度、ある時刻に予想される被写体位置と、被写体までの距離に基づいて、レンズ合焦駆動部を制御して撮影レンズの合焦駆動を行わせることが記載されている。
特許文献１ 特開平１０−１４２４８６号公報

特許文献１に記載された予測測距装置によれば、被写体に加えて、撮像装置が移動する場合については想定していない。

本発明の一態様に係る制御装置は、撮像装置と撮像装置により撮像される目標物との第１時点における位置関係、撮像装置の第１時点の速度及び移動方向、並びに目標物の第１時点の速度及び移動方向に基づいて、第１時点より後の第２時点の撮像装置から目標物までの距離を導出する導出部を備えてよい。制御装置は、第２時点の距離に基づいて撮像装置のフォーカスレンズの位置を制御する第１制御部を備えてよい。

導出部は、位置関係として、撮像装置と目標物との間の距離、及び撮像装置から目標物への方向を特定してよい。

導出部は、位置関係に基づいて、予め設定された３次元の座標系上の第１時点の撮像装置の位置及び目標物の位置を特定してよい。導出部は、座標系上の第１時点の撮像装置の位置、目標物の位置、撮像装置の第１時点の速度及び移動方向、並びに目標物の第１時点の速度及び移動方向に基づいて、座標系上の第２時点の撮像装置の位置及び目標物の位置を特定してよい。導出部は、第２時点の撮像装置の位置及び目標物の位置に基づいて、第２時点の距離を導出してよい。

導出部は、目標物の第１時点の移動方向に基づいて座標系を設定してよい。

導出部は、目標物の移動方向に沿って座標系の第１軸を設定してよい。

導出部は、目標物の第１時点の位置を座標系の原点に設定してよい。

導出部は、撮像装置により撮像された画像に基づいて目標物が車両と判断した場合、車両の上下方向に沿った座標系の第２軸方向の目標物の移動がないと仮定して、座標系上の第２時点の撮像装置の位置及び目標物の位置を特定してよい。

導出部は、撮像装置により撮像された画像に基づいて目標物が車両であり、車両が直線道路を走行している判断した場合、車両の上下方向に沿った座標系の第２軸方向の目標物の移動、及び車両の横方向に沿った座標系の第３軸方向の目標物の移動がないと仮定して、座標系上の第２時点の撮像装置の位置及び目標物の位置を特定してよい。

本発明の一態様に係る撮像装置は、上記制御装置を備えてよい。撮像装置は、フォーカスレンズを備えてよい。撮像装置は、イメージセンサを備えてよい。

本発明の一態様に係る移動体は、撮像装置を搭載して移動する移動体でよい。

制御装置は、合焦距離の単位距離あたりのフォーカスレンズの位置の変化量が予め定められた閾値以下となる予め定められた距離範囲に、撮像装置から目標物までの距離が収まるように、移動体の移動を制御する第２制御部を備えてよい。

制御装置は、フォーカスレンズの位置を変化させて、合焦状態となる被写体までの距離とフォーカスレンズの位置とを複数取得して、取得された複数の距離と複数のフォーカスレンズの位置とに基づいて、フォーカスレンズの位置と合焦距離との関係を導出して、関係に基づいて予め定められた距離範囲を決定する決定部を備えてよい。

本発明の一態様に係る制御方法は、撮像装置と撮像装置により撮像される目標物との第１時点における位置関係、撮像装置の第１時点の速度及び移動方向、並びに目標物の第１時点の速度及び移動方向に基づいて、第１時点より後の第２時点の撮像装置から目標物までの距離を導出する段階を備えてよい。制御方法は、第２時点の距離に基づいて撮像装置のフォーカスレンズの位置を制御する段階を備えてよい。

本発明の一態様に係るプログラムは、上記制御装置として、コンピュータを機能させるためのプログラムでよい。

本発明の一態様によれば、目標物及び撮像装置が移動する場合でも目標物への合焦状態をより確実に維持できる。

なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。

無人航空機及び遠隔操作装置の外観の一例を示す図である。 無人航空機の機能ブロックの一例を示す図である。 無人航空機で目標物を追尾するようすを示す図である。 無人航空機と目標物との位置関係を示す座標系の一例を示す図である。 無人航空機と目標物との位置関係を示す座標系の一例を示す図である。 合焦距離とフォーカスレンズの位置との関係の一例を示す図である。 合焦安定範囲の特定方法について説明するための図である。 合焦安定範囲の特定方法について説明するための図である。 合焦安定範囲の特定方法について説明するための図である。 合焦安定範囲の決定手順の一例を示すフローチャートである。 ハードウェア構成の一例を示す図である。

以下、発明の実施の形態を通じて本発明を説明するが、以下の実施の形態は特許請求の範囲に係る発明を限定するものではない。また、実施の形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。以下の実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。

特許請求の範囲、明細書、図面、及び要約書には、著作権による保護の対象となる事項が含まれる。著作権者は、これらの書類の何人による複製に対しても、特許庁のファイルまたはレコードに表示される通りであれば異議を唱えない。ただし、それ以外の場合、一切の著作権を留保する。

本発明の様々な実施形態は、フローチャート及びブロック図を参照して記載されてよく、ここにおいてブロックは、（１）操作が実行されるプロセスの段階または（２）操作を実行する役割を持つ装置の「部」を表わしてよい。特定の段階及び「部」が、プログラマブル回路、及び／またはプロセッサによって実装されてよい。専用回路は、デジタル及び／またはアナログハードウェア回路を含んでよい。集積回路（ＩＣ）及び／またはディスクリート回路を含んでよい。プログラマブル回路は、再構成可能なハードウェア回路を含んでよい。再構成可能なハードウェア回路は、論理ＡＮＤ、論理ＯＲ、論理ＸＯＲ、論理ＮＡＮＤ、論理ＮＯＲ、及び他の論理操作、フリップフロップ、レジスタ、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、プログラマブルロジックアレイ（ＰＬＡ）等のようなメモリ要素等を含んでよい。

コンピュータ可読媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよい。その結果、そこに格納される命令を有するコンピュータ可読媒体は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読媒体のより具体的な例としては、フロッピー（登録商標）ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ（ＲＡＭ）、リードオンリメモリ（ＲＯＭ）、消去可能プログラマブルリードオンリメモリ（ＥＰＲＯＭまたはフラッシュメモリ）、電気的消去可能プログラマブルリードオンリメモリ（ＥＥＰＲＯＭ）、静的ランダムアクセスメモリ（ＳＲＡＭ）、コンパクトディスクリードオンリメモリ（ＣＤ-ＲＯＭ）、デジタル多用途ディスク（ＤＶＤ）、ブルーレイ（ＲＴＭ）ディスク、メモリスティック、集積回路カード等が含まれてよい。

コンピュータ可読命令は、１または複数のプログラミング言語の任意の組み合わせで記述されたソースコードまたはオブジェクトコードの何れかを含んでよい。ソースコードまたはオブジェクトコードは、従来の手続型プログラミング言語を含む。従来の手続型プログラミング言語は、アセンブラ命令、命令セットアーキテクチャ（ＩＳＡ）命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、またはＳｍａｌｌｔａｌｋ（登録商標）、ＪＡＶＡ（登録商標）、Ｃ＋＋等のようなオブジェクト指向プログラミング言語、及び「Ｃ」プログラミング言語または同様のプログラミング言語でよい。コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサまたはプログラマブル回路に対し、ローカルにまたはローカルエリアネットワーク（ＬＡＮ）、インターネット等のようなワイドエリアネットワーク（ＷＡＮ）を介して提供されてよい。プロセッサまたはプログラマブル回路は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく、コンピュータ可読命令を実行してよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。

図１は、無人航空機（ＵＡＶ）１０及び遠隔操作装置３００の外観の一例を示す。ＵＡＶ１０は、ＵＡＶ本体２０、ジンバル５０、複数の撮像装置６０、及び撮像装置１００を備える。ジンバル５０、及び撮像装置１００は、撮像システムの一例である。ＵＡＶ１０は、移動体の一例である。移動体とは、空中を移動する飛行体、地上を移動する車両、水上を移動する船舶等を含む概念である。空中を移動する飛行体とは、ＵＡＶの他、空中を移動する他の航空機、飛行船、ヘリコプター等を含む概念である。

ＵＡＶ本体２０は、複数の回転翼を備える。複数の回転翼は、推進部の一例である。ＵＡＶ本体２０は、複数の回転翼の回転を制御することでＵＡＶ１０を飛行させる。ＵＡＶ本体２０は、例えば、４つの回転翼を用いてＵＡＶ１０を飛行させる。回転翼の数は、４つには限定されない。また、ＵＡＶ１０は、回転翼を有さない固定翼機でもよい。

撮像装置１００は、所望の撮像範囲に含まれるオブジェクトを撮像する撮像用のカメラである。ジンバル５０は、撮像装置１００を回転可能に支持する。ジンバル５０は、支持機構の一例である。例えば、ジンバル５０は、撮像装置１００を、アクチュエータを用いてピッチ軸で回転可能に支持する。ジンバル５０は、撮像装置１００を、アクチュエータを用いて更にロール軸及びヨー軸のそれぞれを中心に回転可能に支持する。ジンバル５０は、ヨー軸、ピッチ軸、及びロール軸の少なくとも１つを中心に撮像装置１００を回転させることで、撮像装置１００の姿勢を変更してよい。

複数の撮像装置６０は、ＵＡＶ１０の飛行を制御するためにＵＡＶ１０の周囲を撮像するセンシング用のカメラである。２つの撮像装置６０が、ＵＡＶ１０の機首である正面に設けられてよい。更に他の２つの撮像装置６０が、ＵＡＶ１０の底面に設けられてよい。正面側の２つの撮像装置６０はペアとなり、いわゆるステレオカメラとして機能してよい。底面側の２つの撮像装置６０もペアとなり、ステレオカメラとして機能してよい。撮像装置６０は、撮像装置６０の撮像範囲に含まれるオブジェクトの存在、及びオブジェクトまでの距離を計測してよい。撮像装置６０は、撮像装置１００の撮像方向に存在するオブジェクトを計測する計測装置の一例である。計測装置は、撮像装置１００の撮像方向に存在するオブジェクトを計測する赤外線センサ、超音波センサなどの他のセンサでもよい。複数の撮像装置６０により撮像された画像に基づいて、ＵＡＶ１０の周囲の３次元空間データが生成されてよい。ＵＡＶ１０が備える撮像装置６０の数は４つには限定されない。ＵＡＶ１０は、少なくとも１つの撮像装置６０を備えていればよい。ＵＡＶ１０は、ＵＡＶ１０の機首、機尾、側面、底面、及び天井面のそれぞれに少なくとも１つの撮像装置６０を備えてもよい。撮像装置６０で設定できる画角は、撮像装置１００で設定できる画角より広くてよい。撮像装置６０は、単焦点レンズまたは魚眼レンズを有してもよい。

遠隔操作装置３００は、ＵＡＶ１０と通信して、ＵＡＶ１０を遠隔操作する。遠隔操作装置３００は、ＵＡＶ１０と無線で通信してよい。遠隔操作装置３００は、ＵＡＶ１０に上昇、下降、加速、減速、前進、後進、回転などのＵＡＶ１０の移動に関する各種命令を示す指示情報を送信する。指示情報は、例えば、ＵＡＶ１０の高度を上昇させる指示情報を含む。指示情報は、ＵＡＶ１０が位置すべき高度を示してよい。ＵＡＶ１０は、遠隔操作装置３００から受信した指示情報により示される高度に位置するように移動する。指示情報は、ＵＡＶ１０を上昇させる上昇命令を含んでよい。ＵＡＶ１０は、上昇命令を受け付けている間、上昇する。ＵＡＶ１０は、上昇命令を受け付けても、ＵＡＶ１０の高度が上限高度に達している場合には、上昇を制限してよい。

図２は、ＵＡＶ１０の機能ブロックの一例を示す。ＵＡＶ１０は、ＵＡＶ制御部３０、メモリ３２、通信インタフェース３６、推進部４０、ＧＰＳ受信機４１、慣性計測装置４２、磁気コンパス４３、気圧高度計４４、温度センサ４５、湿度センサ４６、ジンバル５０、撮像装置６０及び撮像装置１００を備える。

通信インタフェース３６は、遠隔操作装置３００などの他の装置と通信する。通信インタフェース３６は、遠隔操作装置３００からＵＡＶ制御部３０に対する各種の命令を含む指示情報を受信してよい。メモリ３２は、ＵＡＶ制御部３０が、推進部４０、ＧＰＳ受信機４１、慣性計測装置（ＩＭＵ）４２、磁気コンパス４３、気圧高度計４４、温度センサ４５、湿度センサ４６、ジンバル５０、撮像装置６０、及び撮像装置１００を制御するのに必要なプログラム等を格納する。メモリ３２は、コンピュータ読み取り可能な記録媒体でよく、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、及びＵＳＢメモリ等のフラッシュメモリの少なくとも１つを含んでよい。メモリ３２は、ＵＡＶ本体２０の内部に設けられてよい。ＵＡＶ本体２０から取り外し可能に設けられてよい。

ＵＡＶ制御部３０は、メモリ３２に格納されたプログラムに従ってＵＡＶ１０の飛行及び撮像を制御する。ＵＡＶ制御部３０は、ＣＰＵまたはＭＰＵ等のマイクロプロセッサ、ＭＣＵ等のマイクロコントローラ等により構成されてよい。ＵＡＶ制御部３０は、通信インタフェース３６を介して遠隔操作装置３００から受信した命令に従って、ＵＡＶ１０の飛行及び撮像を制御する。推進部４０は、ＵＡＶ１０を推進させる。推進部４０は、複数の回転翼と、複数の回転翼を回転させる複数の駆動モータとを有する。推進部４０は、ＵＡＶ制御部３０からの命令に従って複数の駆動モータを介して複数の回転翼を回転させて、ＵＡＶ１０を飛行させる。

ＧＰＳ受信機４１は、複数のＧＰＳ衛星から発信された時刻を示す複数の信号を受信する。ＧＰＳ受信機４１は、受信された複数の信号に基づいてＧＰＳ受信機４１の位置（緯度及び経度）、つまりＵＡＶ１０の位置（緯度及び経度）を算出する。ＩＭＵ４２は、ＵＡＶ１０の姿勢を検出する。ＩＭＵ４２は、ＵＡＶ１０の姿勢として、ＵＡＶ１０の前後、左右、及び上下の３軸方向の加速度と、ピッチ、ロール、及びヨーの３軸方向の角速度とを検出する。磁気コンパス４３は、ＵＡＶ１０の機首の方位を検出する。気圧高度計４４は、ＵＡＶ１０が飛行する高度を検出する。気圧高度計４４は、ＵＡＶ１０の周囲の気圧を検出し、検出された気圧を高度に換算して、高度を検出する。温度センサ４５は、ＵＡＶ１０の周囲の温度を検出する。湿度センサ４６は、ＵＡＶ１０の周囲の湿度を検出する。

撮像装置１００は、撮像部１０２及びレンズ部２００を備える。レンズ部２００は、レンズ装置の一例である。撮像部１０２は、イメージセンサ１２０、撮像制御部１１０、及びメモリ１３０を有する。イメージセンサ１２０は、ＣＣＤまたはＣＭＯＳにより構成されてよい。イメージセンサ１２０は、複数のレンズ２１０を介して結像された光学像を撮像し、撮像された画像データを撮像制御部１１０に出力する。撮像制御部１１０は、ＣＰＵまたはＭＰＵなどのマイクロプロセッサ、ＭＣＵなどのマイクロコントローラなどにより構成されてよい。撮像制御部１１０は、ＵＡＶ制御部３０からの撮像装置１００の動作命令に応じて、撮像装置１００を制御してよい。メモリ１３０は、コンピュータ可読可能な記録媒体でよく、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、及びＵＳＢメモリなどのフラッシュメモリの少なくとも１つを含んでよい。メモリ１３０は、撮像制御部１１０がイメージセンサ１２０などを制御するのに必要なプログラム等を格納する。メモリ１３０は、撮像装置１００の筐体の内部に設けられてよい。メモリ１３０は、撮像装置１００の筐体から取り外し可能に設けられてよい。

レンズ部２００は、複数のレンズ２１０、複数のレンズ駆動部２１２、及びレンズ制御部２２０を有する。複数のレンズ２１０は、ズームレンズ、バリフォーカルレンズ、及びフォーカスレンズとして機能してよい。複数のレンズ２１０の少なくとも一部または全部は、光軸に沿って移動可能に配置される。レンズ部２００は、撮像部１０２に対して着脱可能に設けられる交換レンズでよい。レンズ駆動部２１２は、カム環などの機構部材を介して、複数のレンズ２１０の少なくとも一部または全部を光軸に沿って移動させる。レンズ駆動部２１２は、アクチュエータを含んでよい。アクチュエータは、ステッピングモータを含んでよい。レンズ制御部２２０は、撮像部１０２からのレンズ制御命令に従って、レンズ駆動部２１２を駆動して、機構部材を介して１または複数のレンズ２１０を光軸方向に沿って移動させる。レンズ制御命令は、例えば、ズーム制御命令、及びフォーカス制御命令である。

レンズ部２００は、メモリ２２２、位置センサ２１４をさらに有する。レンズ制御部２２０は、撮像部１０２からのレンズ動作命令に応じてレンズ駆動部２１２を介して、レンズ２１０の光軸方向への移動を制御する。レンズ制御部２２０は、撮像部１０２からのレンズ動作命令に応じてレンズ駆動部２１２を介して、レンズ２１０の光軸方向への移動を制御する。レンズ２１０の一部または全部は、光軸に沿って移動する。レンズ制御部２２０は、レンズ２１０の少なくとも１つを光軸に沿って移動させることで、ズーム動作及びフォーカス動作の少なくとも一方を実行する。位置センサ２１４は、レンズ２１０の位置を検出する。位置センサ２１４は、現在のズーム位置またはフォーカス位置を検出してよい。

レンズ駆動部２１２は、振れ補正機構を含んでよい。レンズ制御部２２０は、振れ補正機構を介して、レンズ２１０を光軸に沿った方向、または光軸に垂直な方向に移動させることで、振れ補正を実行してよい。レンズ駆動部２１２は、ステッピングモータにより振れ補正機構を駆動して、振れ補正を実行してよい。なお、振れ補正機構は、ステッピングモータにより駆動されて、イメージセンサ１２０を光軸に方向に沿った方向、または光軸に垂直な方向に移動させることで、振れ補正を実行してよい。

メモリ２２２は、レンズ駆動部２１２を介して移動する複数のレンズ２１０の制御値を記憶する。メモリ２２２は、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、及びＵＳＢメモリなどのフラッシュメモリの少なくとも１つを含んでよい。

以上のように構成されたＵＡＶ１０において、動体である目標物を追尾しながら、目標物と撮像装置１００との間の距離を予測する。撮像装置１００は、予測された距離に基づいて、フォーカスレンズの位置を制御して、目標物に合焦させる。

例えば、ＵＡＶ１０は、図３に示すような道路６００を走行する車両を目標物５００として追尾しながら、撮像装置１００に目標物５００を撮像させる。

撮像制御部１１０は、導出部１１２、及び合焦制御部１１４を有する。導出部１１２は、撮像装置１００と撮像装置１００により撮像される目標物５００との第１時点における位置関係、撮像装置１００の第１時点の速度及び移動方向、並びに目標物５００の第１時点の速度及び移動方向に基づいて、第１時点より後の第２時点の撮像装置１００から目標物５００までの距離を導出する。導出部１１２は、撮像装置１００と撮像装置１００により撮像される目標物５００との現時点における位置関係、撮像装置１００の現時点の速度及び移動方向、並びに目標物５００の現時点の速度及び移動方向に基づいて、現時点より予め定められた時間（例えば、５秒後）後の時点の撮像装置１００から目標物５００までの距離を予測的に導出する。合焦制御部１１４は、第２時点の距離に基づいて撮像装置１００のフォーカスレンズの位置を制御する。合焦制御部１１４は、第２時点で、導出部１１２により導出された距離に焦点が合うようにフォーカスレンズの位置を制御する。

導出部１１２は、位置関係として、第１時点での撮像装置１００と目標物５００との間の距離、及び第１時点での撮像装置１００から目標物５００への方向を特定する。導出部１１２は、合焦制御部１１４により実行された、撮像装置１００により撮像された複数の画像に基づくコントラストオートフォーカス（コントラストＡＦ）、または位相差ＡＦの結果から、第１時点での撮像装置１００と目標物５００との間の距離を特定してよい。導出部１１２は、撮像装置１００が備える測距センサにより測距された結果から、撮像装置１００から目標物５００までの距離を特定してよい。導出部１１２は、ＧＰＳ受信機４１で受信された複数の信号に基づいて特定されたＵＡＶ１０の位置情報、ジンバル５０の駆動命令に基づいて特定されるジンバル５０のＵＡＶ１０に対する方向、及び撮像装置１００に撮像された画像に基づいて、第１時点での撮像装置１００から目標物５００への方向を特定してよい。

導出部１１２は、ＧＰＳ受信機４１からのＵＡＶ１０の位置情報及び気圧高度計４４からの高度情報と、目標物５００が備えるＧＰＳ受信機からの目標物５００の位置情報及び高度情報とを、位置関係として特定してよい。

導出部１１２は、位置関係に基づいて、予め設定された３次元の座標系上の第１時点の撮像装置１００の位置及び目標物５００の位置を特定してよい。導出部１１２は、座標系上の第１時点の撮像装置１００の位置、目標物５００の位置、撮像装置１００の第１時点の速度及び移動方向、並びに目標物５００の第１時点の速度及び移動方向に基づいて、座標系上の第２時点の撮像装置１００の位置及び目標物５００の位置を特定してよい。導出部１１２は、第２時点の撮像装置１００の位置及び目標物５００の位置に基づいて、第２時点の距離を導出してよい。

導出部１１２は、目標物５００の第１時点の移動方向に基づいて座標系を設定してよい。導出部１１２は、目標物５００の移動方向に沿って座標系の第１軸を設定してよい。導出部１１２は、目標物５００の第１時点の位置を座標系の原点に設定してよい。

導出部１１２は、例えば、図４に示すように、目標物５００の移動ベクトル５１０の方向に沿って座標系のＸ軸を設定してよい。導出部１１２は、撮像装置１００により撮像された複数の画像から特定されたオプティカルフローに基づいて、目標物５００の移動ベクトル５１０を特定してよい。導出部１１２は、撮像装置１００により撮像された複数の画像から特定されたオプティカルフローに基づいて、目標物５００の移動ベクトル５１０を特定してよい。導出部１１２は、座標系において、ＵＡＶ１０の移動ベクトル５２０を設定してよい。導出部１１２は、遠隔操作装置３００から送信されるＵＡＶ１０の操作命令に基づいて、ＵＡＶ１０の移動ベクトル５２０を特定してよい。導出部１１２は、撮像装置１００により撮像された複数の画像から特定されたオプティカルフロー、及び遠隔操作装置３００から送信されるＵＡＶ１０の操作命令に基づいて、目標物５００の移動ベクトル５１０を特定してよい。

導出部１１２は、座標系上における目標物５００の座標点（ｘ_ｏ（０），ｙ_ｏ（０），ｚ_ｏ（０））及びＵＡＶ１０の座標点（ｘ_ｄ（０），ｙ_ｄ（０），ｚ_ｄ（０））から次式に従って、第１時点の撮像装置１００と目標物５００との間の距離を示すＤｉｓｔａｎｃｅ（０）を特定してよい。

導出部１１２は、例えば、図５に示すように、座標系上における第１時点の目標物５００の座標点（ｘ_ｏ（０），ｙ_ｏ（０），ｚ_ｏ（０））と、ＵＡＶ１０の座標点（ｘ_ｄ（０），ｙ_ｄ（０），ｚ_ｄ（０））と、第１時点の目標物５００の移動ベクトル５１０と、ＵＡＶ１０の移動ベクトル５２０とに基づいて、座標系上の第２時点の撮像装置１００の座標点（ｘ_ｏ（１），ｙ_ｏ（１），ｚ_ｏ（１））と、ＵＡＶ１０の座標点（ｘ_ｄ（１），ｙ_ｄ（１），ｚ_ｄ（１））とを特定してよい。さらに、導出部１１２は、座標系上の第２時点の撮像装置１００の座標点（ｘ_ｏ（１），ｙ_ｏ（１），ｚ_ｏ（１））及びＵＡＶ１０の座標点（ｘ_ｄ（１），ｙ_ｄ（１），ｚ_ｄ（１））から次式に従って、第２時点の撮像装置１００と目標物５００との間の距離を示すＤｉｓｔａｎｃｅ（１）を特定してよい。

導出部１１２は、定期的に目標物５００の移動方向を特定して、目標物５００の移動方向に従った座標系を定期的に更新してよい。導出部１１２は、座標系を更新しながら、座標系上の目標物５００及びＵＡＶ１０の座標点を更新する。

導出部１１２は、撮像装置１００により撮像された画像に基づいて目標物５００が車両と判断した場合、車両の上下方向に沿った座標系のＺ軸方向の目標物５００の移動がないと仮定して、座標系上の第２時点の撮像装置１００の位置及び目標物５００の位置を特定してよい。車両の上下方向は、車両の移動方向に垂直な方向でよい。導出部１１２は、撮像装置１００により撮像された画像に基づいて目標物５００が車両と判断した場合、車両の上下方向に沿った座標系のＺ軸方向の目標物５００の移動がないと仮定して、座標系上の第２時点の撮像装置１００の座標点（ｘ_ｏ（１），ｙ_ｏ（１），ｚ_ｏ（１））と、ＵＡＶ１０の座標点（ｘ_ｄ（１），ｙ_ｄ（１），ｚ_ｄ（１））とを特定してよい。

導出部１１２は、撮像装置１００により撮像された画像に基づいて目標物５００が車両であり、車両が直線道路を走行していると判断した場合、車両の上下方向に沿った座標系のＺ軸方向の目標物５００の移動、及び車両の横方向（左右方向）に沿った座標系のＹ軸方向の目標物５００の移動がないと仮定して、座標系上の第２時点の撮像装置１００の位置及び目標物５００の位置を特定してよい。

導出部１１２は、撮像装置１００により撮像された画像を用いたパターン認識により、目標物５００が車両であると判断してよい。導出部１１２は、ユーザから予め設定された目標物の種類に基づいて、目標物５００が車両であると判断してよい。導出部１１２は、撮像装置１００により撮像された画像を用いたパターン認識により、車両が直線道路を走行しているかどうかを判断してよい。導出部１１２は、通信インタフェース３６を介して取得された車両のＧＰＳ情報、及び地図情報に基づいて、車両が直線道路を走行しているかどうかを判断してよい。

導出部１１２は、撮像装置１００により撮像された画像を用いたパターン認識により、目標物５００の移動方向を特定してよい。導出部１１２は、合焦制御部１１４による主要被写体検出の結果を基づいて目標物５００の移動方向を特定してよい。導出部１１２は、撮像装置１００のパンニング情報に基づいて目標物５００の移動方向を特定してよい。導出部１１２は、ジンバル５０の駆動命令に基づいて撮像装置１００のパンニング情報を特定し、目標物５００の移動方向を特定してよい。導出部１１２は、測距センサまたはステレオカメラにより測定された目標物５００までの距離、及びＵＡＶ１０の移動方向に基づいて、目標物５００の移動方向を特定してよい。導出部１１２は、合焦制御部１１４によるコントラストＡＦ、位相差ＡＦから特定される目標物５００までの距離、ＵＡＶ１０の移動方向に基づいて、目標物５００の移動方向を特定してよい。

以上の通り、本実施形態に係るＵＡＶ１０によれば、ＵＡＶ１０が飛行中に、動体である目標物５００までの距離を予測しながら、その予測された距離に従ってフォーカスレンズの位置を制御する。これにより、ＵＡＶ１０に搭載された撮像装置１００は、目標物５００への合焦状態を維持できる。

図６は、フォーカスレンズの位置と、合焦距離との関係の一例を示す。合焦距離は、フォーカスレンズの位置に対して、予め定められた合焦状態を得られる被写体までの距離を示す。合焦距離は、フォーカスレンズの位置に対して、コントラスト値が予め定められた閾値以上となる被写体までの距離を示す。図６に示す通り、撮像装置１００から被写体までの距離が短いと、距離の変化に対するフォーカスレンズの位置の変化の割合が大きくなる。すなわち、撮像装置１００と目標物５００との間の距離が短いと、距離の変化に対してフォーカスレンズの位置の変化の割合が大きい。したがって、撮像装置１００と目標物５００との間の距離が短いと、フォーカスレンズの移動が間に合わず、撮像装置１００は、適切な合焦状態を維持しながら、目標物５００の追尾ができない場合がある。

そこで、ＵＡＶ制御部３０は、合焦距離の単位距離あたりのフォーカスレンズの位置の変化量が予め定められた閾値以下となる予め定められた距離範囲である合焦安定範囲に、撮像装置１００から目標物５００までの距離が収まるように、ＵＡＶ１０の移動を制御してよい。合焦安定範囲は、予め実験またはシミュレーションにより定められてよい。

合焦安定範囲は、フォーカスレンズの光学特性に依存する。つまり、合焦安定範囲は、レンズ部２００の種類に依存する。撮像部１０２に装着されるレンズ部２００が交換レンズであれば、交換レンズの種類によって、合焦安定範囲は変化する。そこで、撮像部１０２に装着されているレンズ部２００が交換レンズであれば、ＵＡＶ１０が飛行を開始する前または目標物の追尾を開始する前に、フォーカスレンズを駆動させて、フォーカスレンズの位置と、合焦距離との関係を特定して、装着された交換レンズに対する合焦安定範囲を設定してもよい。

図７は、合焦安定範囲の特定方法について説明するための図である。図７において、ｆは、焦点距離を示す。Ｘ_１は、焦点面Ｆから物体までの距離を示す。Ｘ_２は、ａは、前側主平面から物体までの距離を示す。Ｘ_２は、デフォーカス量に相当する。ｂは、後側主平面からイメージセンサ１２０に結像された像までの距離を示す。Ｈｄは、前側主平面と後側主平面との間の距離を示す。Ｄは、物体からイメージセンサ１２０の撮像面までの距離、すなわち被写体距離を示す。

ニュートンのレンズ公式により、Ｘ_１・Ｘ_２＝ｆ^２である。Ｘ_１＝Ｄ−２・ｆ−Ｈｄとした場合、Ｘ_２＝ｆ^２／Ｘ_１＝ｆ^２／（Ｄ−２・ｆ−Ｈｄ）となる。この式からデフォーカス量は特定される。

撮像制御部１１０は、合焦安定範囲を決定するために決定部１１６を有してよい。決定部１１６は、フォーカスレンズの位置を変化させて、合焦状態となる被写体までの距離とフォーカスレンズの位置とを複数取得して、取得された複数の距離と複数のフォーカスレンズの位置とに基づいて、フォーカスレンズの位置と合焦距離との関係を導出して、その関係に基づいて予め定められた距離範囲である合焦安定範囲を決定する。

決定部１１６は、複数の合焦距離のそれぞれに対応するフォーカスレンズの位置を特定し、その結果から、フォーカスレンズの位置と合焦距離との関係を示す曲線を特定してよい。決定部１１６は、例えば、図８に示すように、５ｍ及び２０ｍの合焦距離におけるフォーカスレンズの位置をそれぞれ特定する。決定部１１６は、それらの２点から、図９に示すようなフォーカスレンズの位置と合焦距離との関係を示す曲線７００を特定し、その曲線７００から、合焦距離の単位距離あたりのフォーカスレンズの位置の変化量が予め定められた閾値以下となる合焦安定範囲を決定してよい。

図１０は、合焦安定範囲の決定手順の一例を示すフローチャートである。動体の追尾を実行する場合、決定部１１６は、撮像部１０２に装着されているレンズ部２００がすでに合焦安定範囲が登録されている交換レンズかどうかを判定する（Ｓ１００）。登録済でない交換レンズが撮像部１０２に装着されている場合、決定部１１６は、ＵＡＶ１０が飛行中に測距センサにより被写体までの距離を取得して、その距離に対応するフォーカスレンズの位置を特定することで、キャリブレーションを実行する（Ｓ１０２）。決定部１１６は、キャリブレーションにより特定されたフォーカスレンズの位置と合焦距離との関係に基づいて合焦安定範囲を決定する（Ｓ１０４）。決定部１１６は、登録または決定された合焦安定範囲をＵＡＶ制御部３０に通知する。ＵＡＶ制御部３０は、合焦安定範囲に被写体までの距離が収まるように、ＵＡＶ１０の飛行を制御する（Ｓ１０６）。

以上、本実施形態によれば、目標物５００に加えて、撮像装置１００が移動する場合でも、目標物への合焦状態を維持できる。また、撮像装置１００から目標物５００までの距離が、フォーカスレンズの位置と合焦距離との関係に基づく合焦安定範囲に収まるように、ＵＡＶ１０の飛行を制御する。これにより、フォーカスレンズの移動が間に合わず、撮像装置１００が、適切な合焦状態を維持しながら、目標物５００の追尾できなくなることを防止できる。

図１１は、本発明の複数の態様が全体的または部分的に具現化されてよいコンピュータ１２００の一例を示す。コンピュータ１２００にインストールされたプログラムは、コンピュータ１２００に、本発明の実施形態に係る装置に関連付けられるオペレーションまたは当該装置の１または複数の「部」として機能させることができる。または、当該プログラムは、コンピュータ１２００に当該オペレーションまたは当該１または複数の「部」を実行させることができる。当該プログラムは、コンピュータ１２００に、本発明の実施形態に係るプロセスまたは当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ１２００に、本明細書に記載のフローチャート及びブロック図のブロックのうちのいくつかまたはすべてに関連付けられた特定のオペレーションを実行させるべく、ＣＰＵ１２１２によって実行されてよい。

本実施形態によるコンピュータ１２００は、ＣＰＵ１２１２、及びＲＡＭ１２１４を含み、それらはホストコントローラ１２１０によって相互に接続されている。コンピュータ１２００はまた、通信インタフェース１２２２、入力／出力ユニットを含み、それらは入力／出力コントローラ１２２０を介してホストコントローラ１２１０に接続されている。コンピュータ１２００はまた、ＲＯＭ１２３０を含む。ＣＰＵ１２１２は、ＲＯＭ１２３０及びＲＡＭ１２１４内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。

通信インタフェース１２２２は、ネットワークを介して他の電子デバイスと通信する。ハードディスクドライブが、コンピュータ１２００内のＣＰＵ１２１２によって使用されるプログラム及びデータを格納してよい。ＲＯＭ１２３０はその中に、アクティブ化時にコンピュータ１２００によって実行されるブートプログラム等、及び／またはコンピュータ１２００のハードウェアに依存するプログラムを格納する。プログラムが、ＣＲ−ＲＯＭ、ＵＳＢメモリまたはＩＣカードのようなコンピュータ可読記録媒体またはネットワークを介して提供される。プログラムは、コンピュータ可読記録媒体の例でもあるＲＡＭ１２１４、またはＲＯＭ１２３０にインストールされ、ＣＰＵ１２１２によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ１２００に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置または方法が、コンピュータ１２００の使用に従い情報のオペレーションまたは処理を実現することによって構成されてよい。

例えば、通信がコンピュータ１２００及び外部デバイス間で実行される場合、ＣＰＵ１２１２は、ＲＡＭ１２１４にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース１２２２に対し、通信処理を命令してよい。通信インタフェース１２２２は、ＣＰＵ１２１２の制御の下、ＲＡＭ１２１４、またはＵＳＢメモリのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、またはネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。

また、ＣＰＵ１２１２は、ＵＳＢメモリ等のような外部記録媒体に格納されたファイルまたはデータベースの全部または必要な部分がＲＡＭ１２１４に読み取られるようにし、ＲＡＭ１２１４上のデータに対し様々なタイプの処理を実行してよい。ＣＰＵ１２１２は次に、処理されたデータを外部記録媒体にライトバックしてよい。

様々なタイプのプログラム、データ、テーブル、及びデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。ＣＰＵ１２１２は、ＲＡＭ１２１４から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索／置換等を含む、様々なタイプの処理を実行してよく、結果をＲＡＭ１２１４に対しライトバックする。また、ＣＰＵ１２１２は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第２の属性の属性値に関連付けられた第１の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、ＣＰＵ１２１２は、第１の属性の属性値が指定される、条件に一致するエントリを当該複数のエントリの中から検索し、当該エントリ内に格納された第２の属性の属性値を読み取り、それにより予め定められた条件を満たす第１の属性に関連付けられた第２の属性の属性値を取得してよい。

上で説明したプログラムまたはソフトウェアモジュールは、コンピュータ１２００上またはコンピュータ１２００近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワークまたはインターネットに接続されたサーバーシステム内に提供されるハードディスクまたはＲＡＭのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ１２００に提供する。

特許請求の範囲、明細書、及び図面中において示した装置、システム、プログラム、及び方法における動作、手順、ステップ、及び段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、及び図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。

以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。

１０ ＵＡＶ
２０ ＵＡＶ本体
３０ ＵＡＶ制御部
３２ メモリ
３６ 通信インタフェース
４０ 推進部
４１ ＧＰＳ受信機
４２ 慣性計測装置
４３ 磁気コンパス
４４ 気圧高度計
４５ 温度センサ
４６ 湿度センサ
５０ ジンバル
６０ 撮像装置
１００ 撮像装置
１０２ 撮像部
１１０ 撮像制御部
１１２ 導出部
１１４ 合焦制御部
１１６ 決定部
１２０ イメージセンサ
１３０ メモリ
２００ レンズ部
２１０ レンズ
２１２ レンズ駆動部
２１４ 位置センサ
２２０ レンズ制御部
２２２ メモリ
３００ 遠隔操作装置
５００ 目標物
１２００ コンピュータ
１２１０ ホストコントローラ
１２１２ ＣＰＵ
１２１４ ＲＡＭ
１２２０ 入力／出力コントローラ
１２２２ 通信インタフェース
１２３０ ＲＯＭ

Claims (11)

1. フォーカスレンズとイメージセンサとを有する撮像装置を搭載して移動する移動体であって、
   前記撮像装置と前記撮像装置により撮像される目標物との第１時点における位置関係、前記撮像装置の前記第１時点の速度及び移動方向、並びに前記目標物の前記第１時点の速度及び移動方向に基づいて、前記第１時点より後の第２時点の前記撮像装置から前記目標物までの距離を導出する導出部と、
   前記第２時点の前記距離に基づいて前記フォーカスレンズの位置を制御する第１制御部と、
   合焦距離の単位距離あたりの前記フォーカスレンズの位置の変化量が予め定められた閾値以下となる予め定められた距離範囲に、前記撮像装置から前記目標物までの距離が収まるように、前記移動体の移動を制御する第２制御部とを備える移動体。
2. 前記導出部は、前記位置関係として、前記撮像装置と前記目標物との間の距離、及び前記撮像装置から前記目標物への方向を特定する、請求項１に記載の移動体。
3. 前記導出部は、
   前記位置関係に基づいて、予め設定された３次元の座標系上の前記第１時点の前記撮像装置の位置及び前記目標物の位置を特定し、
   前記座標系上の前記第１時点の前記撮像装置の位置、前記目標物の位置、前記撮像装置の前記第１時点の速度及び移動方向、並びに前記目標物の前記第１時点の速度及び移動方向に基づいて、前記座標系上の前記第２時点の前記撮像装置の位置及び前記目標物の位置を特定し、
   前記第２時点の前記撮像装置の位置及び前記目標物の位置に基づいて、前記第２時点の前記距離を導出する、請求項１または２に記載の移動体。
4. 前記導出部は、前記目標物の前記第１時点の移動方向に基づいて前記座標系を設定する、請求項３に記載の移動体。
5. 前記導出部は、前記目標物の移動方向に沿って前記座標系の第１軸を設定する、請求項４に記載の移動体。
6. 前記導出部は、前記目標物の前記第１時点の位置を前記座標系の原点に設定する、請求項４または５に記載の移動体。
7. 前記導出部は、前記撮像装置により撮像された画像に基づいて前記目標物が車両と判断した場合、前記車両の上下方向に沿った前記座標系の第２軸方向の前記目標物の移動がないと仮定して、前記座標系上の前記第２時点の前記撮像装置の位置及び前記目標物の位置を特定する、請求項５に記載の移動体。
8. 前記導出部は、前記撮像装置により撮像された画像に基づいて前記目標物が車両であり、前記車両が直線道路を走行している判断した場合、前記車両の上下方向に沿った前記座標系の第２軸方向の前記目標物の移動、及び前記車両の横方向に沿った前記座標系の第３軸方向の前記目標物の移動がないと仮定して、前記座標系上の前記第２時点の前記撮像装置の位置及び前記目標物の位置を特定する、請求項５に記載の移動体。
9. 前記フォーカスレンズの位置を変化させて、合焦状態となる被写体までの距離と前記フォーカスレンズの位置とを複数取得して、取得された複数の前記距離と複数の前記フォーカスレンズの位置とに基づいて、前記フォーカスレンズの位置と合焦距離との関係を導出して、前記関係に基づいて前記予め定められた距離範囲を決定する決定部をさらに備える、請求項１から８の何れか１つに記載の移動体。
10. フォーカスレンズとイメージセンサとを有する撮像装置を搭載して移動する移動体を制御する制御方法であって、
    前記撮像装置と前記撮像装置により撮像される目標物との第１時点における位置関係、前記撮像装置の前記第１時点の速度及び移動方向、並びに前記目標物の前記第１時点の速度及び移動方向に基づいて、前記第１時点より後の第２時点の前記撮像装置から前記目標物までの距離を導出する段階と、
    前記第２時点の前記距離に基づいて前記フォーカスレンズの位置を制御する段階と、
    合焦距離の単位距離あたりの前記フォーカスレンズの位置の変化量が予め定められた閾値以下となる予め定められた距離範囲に、前記撮像装置から前記目標物までの距離が収まるように、前記移動体の移動を制御する段階と
    を備える制御方法。
11. 請求項１から９の何れか１つに記載の移動体として、コンピュータを機能させるためのプログラム。

Images