JP7019895B2 - 装置、撮像装置、撮像システム、移動体、方法、及びプログラム - Google Patents

Description

本発明は、装置、撮像装置、撮像システム、移動体、方法、及びプログラムに関する。

特許文献１には、ＤＦＤ法による距離算出の原理が記載されている。
［先行技術文献］
［特許文献］
［特許文献１］ 特開２０１３－２４２６１７号公報

本発明の一態様に係る装置は、撮像装置が備える光学系の焦点位置を異ならせて撮像することにより得られた複数の画像データと光学系のぼけ特性情報とに基づいて、撮像対象の距離情報を取得するように構成された回路を備える。回路は、撮像装置の撮像面における特定の象限に対応する光学系のぼけ特性情報を記憶するように構成されている。回路は、他の象限に対応する撮像対象の距離情報を取得する場合に、特定の象限における光学系のぼけ特性情報と複数の画像データのそれぞれにおける他の象限に対応する画像情報との一方に対して象限の変換処理を行い、変換処理によって得られた情報と、特定の象限における光学系のぼけ特性情報と他の象限に対応する画像情報との他方の情報とに基づいて、他の象限に対応する撮像対象の距離情報を取得するように構成されている。

回路は、他の象限に対応する撮像対象の距離情報を取得する場合に、複数の画像データのそれぞれにおける他の象限に対応する画像情報に対して特定の象限への変換処理を行い、特定の象限への変換処理によって得られた画像情報と、特定の象限における光学系のぼけ特性情報とに基づいて、他の象限に対応する撮像対象の距離情報を取得するように構成されていてよい。

回路は、他の象限に対応する撮像対象の距離情報を取得する場合に、特定の象限における光学系のぼけ特性情報に対して他の象限への変換処理を行い、他の象限への変換処理によって得られたぼけ特性情報と、他の象限に対応する画像情報とに基づいて、他の象限に対応する撮像対象の距離情報を取得するように構成されていてよい。

光学系のぼけ特性情報は点拡がり関数であってよい。回路は、特定の象限に含まれる複数の点における光学系の点拡がり関数を記憶するように構成されていてよい。

特定の象限は、光学系の光軸に対応する点を原点とし互いに直交する第１座標軸及び第２座標軸によって分けられる４個の象限のうち、第１座標軸の座標値及び第２座標軸の座標値が正となる領域である第１象限を含んでよい。回路は、第１座標軸の座標値が負であり第２座標軸の座標値が正である第２象限に対応する画像情報を第２座標軸について線対称に変換することによって、第１象限への変換処理を行ように構成されていてよい。回路は、第１座標軸の座標値が負であり第２座標軸の座標値が負である第３象限に対応する画像情報を原点について点対称に変換することによって、第１象限への変換処理を行ように構成されていてよい。回路は、第１座標軸の座標値が正であり第２座標軸の座標値が負である第４象限に対応する画像情報を、第１座標軸について線対称に変換することにより、第１象限への変換処理を行うように構成されていてよい。

光学系のぼけ特性情報は点拡がり関数であってよい。回路は、第１象限内の１以上の点における光学系の点拡がり関数と、第１座標軸上の１以上の点における光学系の点拡がり関数と、第２座標軸上の１以上の点における光学系の点拡がり関数とを記憶するように構成されていてよい。

回路は、第１象限内の第１領域及び第２領域のそれぞれにおける光学系のぼけ特性情報を記憶するように構成されていてよい。回路は、第１象限の画像情報と、第１領域における光学系のぼけ特性情報及び第２領域における光学系のぼけ特性情報の補間処理によって生成されたぼけ特性情報に基づいて、第１領域及び第２領域の間における撮像対象の距離情報を取得するように構成されていてよい。回路は、第２象限の画像情報を第２座標軸について線対称に変換することによって得られた画像情報と、第１領域における光学系のぼけ特性情報及び第２領域における光学系のぼけ特性情報の補間処理によって生成されたぼけ特性情報に基づいて、第２象限における第１領域及び第２領域の間の領域に対応する撮像対象の距離情報を取得するように構成されていてよい。回路は、第３象限の画像情報を原点について点対称に変換することによって得られた画像情報と、第１領域における光学系のぼけ特性情報及び第２領域における光学系のぼけ特性情報の補間処理によって生成されたぼけ特性情報に基づいて、第３象限における第１領域及び第２領域の間の領域に対応する撮像対象の距離情報を取得するように構成されていてよい。回路は、第４象限の画像情報を第１座標軸について線対称に変換することによって得られた画像情報と、第１領域における光学系のぼけ特性情報及び第２領域における光学系のぼけ特性情報の補間処理によって生成されたぼけ特性情報に基づいて、第４象限における第１領域及び第２領域の間の領域に対応する撮像対象の距離情報を取得するように構成されていてよい。

回路は、撮像対象の距離情報に基づいて、光学系の焦点調節を行うように構成されていてよい。

本発明の一態様に係る撮像装置は、上記の装置と、撮像面を備えるイメージセンサとを備える。

本発明の一態様に係る撮像システムは、上記の撮像装置と、撮像装置の姿勢を制御可能に支持する支持機構とを備える。

本発明の一態様に係る移動体は、上記の撮像装置を搭載して移動する移動体であってよい。

本発明の一態様に係る方法は、撮像装置が備える光学系の焦点位置を異ならせて撮像することにより得られた複数の画像データと光学系のぼけ特性情報とに基づいて、撮像対象の距離情報を取得する段階を備える。撮像対象の距離情報を取得する段階は、撮像装置の撮像面における特定の象限に対応する光学系のぼけ特性情報を記憶する段階を備える。撮像対象の距離情報を取得する段階は、他の象限に対応する撮像対象の距離情報を取得する場合に、特定の象限における光学系のぼけ特性情報と複数の画像データのそれぞれにおける他の象限に対応する画像情報との一方に対して象限の変換処理を行う段階を備える。撮像対象の距離情報を取得する段階は、変換処理によって得られた情報と、特定の象限における光学系のぼけ特性情報と他の象限に対応する画像情報との他方の情報とに基づいて、他の象限に対応する撮像対象の距離情報を取得する段階を備える。

本発明の一態様に係るプログラムは、上記の方法をコンピュータに実行させるためのプログラムであってよい。

本発明の一態様によれば、ぼけ特性情報の記憶容量を削減することができる。

なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。

本実施形態に係る撮像装置１００の外観斜視図の一例を示す図である。 本実施形態に係る撮像装置１００の機能ブロックを示す図である。 画像のぼけ量（Ｃｏｓｔ）とフォーカスレンズの位置との関係を示す曲線の一例を示す。 ＢＤＡＦ方式における距離算出手順の一例を示すフローチャートである。 被写体距離の算出手順を示す。 画像領域に設定されるＲＯＩ（Ｒｅｇｉｏｎ ｏｆ Ｉｎｔｅｒｅｓｔ、関心領域）の位置を模式的に示す。 試験被写体７００を用いて算出したデフォーカス量の検出誤差のグラフを示す。 試験被写体８００を用いて算出したデフォーカス量の検出誤差のグラフを示す。 試験被写体９００を用いて算出したデフォーカス量の検出誤差のグラフを示す。 各ＲＯＩの位置に対する口径食形状の計算結果を示す。 口径食の観察結果を、口径色形状の計算結果とともに示す。 試験被写体７００を用いて、ＲＯＩ毎のＰＳＦデータを適用してＤＦＤ演算を行うことによって算出したデフォーカス量の検出誤差を示す。 試験被写体８００を用いて、ＲＯＩ毎のＰＳＦデータを適用してＤＦＤ演算を行うことによって算出したデフォーカス量の検出誤差を示す。 試験被写体９００を用いて、ＲＯＩ毎のＰＳＦデータを適用してＤＦＤ演算を行うことによって算出したデフォーカス量の検出誤差を示す。 撮像制御部１１０が予め記憶するＰＳＦデータを示す。 象限変換を模式的に示す。 撮像制御部１１０が実行する合焦制御の処理手順を示すフローチャートである。 無人航空機（ＵＡＶ）の一例を示す。 本発明の複数の態様が全体的または部分的に具現化されてよいコンピュータ１２００の一例を示す。

以下、発明の実施の形態を通じて本発明を説明するが、以下の実施の形態は特許請求の範囲に係る発明を限定するものではない。また、実施の形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。以下の実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。

特許請求の範囲、明細書、図面、及び要約書には、著作権による保護の対象となる事項が含まれる。著作権者は、これらの書類の何人による複製に対しても、特許庁のファイルまたはレコードに表示される通りであれば異議を唱えない。ただし、それ以外の場合、一切の著作権を留保する。

本発明の様々な実施形態は、フローチャート及びブロック図を参照して記載されてよく、ここにおいてブロックは、（１）操作が実行されるプロセスの段階または（２）操作を実行する役割を持つ装置の「部」を表わしてよい。特定の段階及び「部」が、プログラマブル回路、及び／またはプロセッサによって実装されてよい。専用回路は、デジタル及び／またはアナログハードウェア回路を含んでよい。集積回路（ＩＣ）及び／またはディスクリート回路を含んでよい。プログラマブル回路は、再構成可能なハードウェア回路を含んでよい。再構成可能なハードウェア回路は、論理ＡＮＤ、論理ＯＲ、論理ＸＯＲ、論理ＮＡＮＤ、論理ＮＯＲ、及び他の論理操作、フリップフロップ、レジスタ、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、プログラマブルロジックアレイ（ＰＬＡ）等の様なメモリ要素等を含んでよい。

コンピュータ可読媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよい。その結果、そこに格納される命令を有するコンピュータ可読媒体は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読媒体のより具体的な例としては、フロッピー（登録商標）ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ（ＲＡＭ）、リードオンリメモリ（ＲＯＭ）、消去可能プログラマブルリードオンリメモリ（ＥＰＲＯＭまたはフラッシュメモリ）、電気的消去可能プログラマブルリードオンリメモリ（ＥＥＰＲＯＭ）、静的ランダムアクセスメモリ（ＳＲＡＭ）、コンパクトディスクリードオンリメモリ（ＣＤ-ＲＯＭ）、デジタル多用途ディスク（ＤＶＤ）、ブルーレイ（登録商標）ディスク、メモリスティック、集積回路カード等が含まれてよい。

コンピュータ可読命令は、１または複数のプログラミング言語の任意の組み合わせで記述されたソースコードまたはオブジェクトコードの何れかを含んでよい。ソースコードまたはオブジェクトコードは、従来の手続型プログラミング言語を含む。従来の手続型プログラミング言語は、アセンブラ命令、命令セットアーキテクチャ（ＩＳＡ）命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、またはＳｍａｌｌｔａｌｋ（登録商標）、ＪＡＶＡ（登録商標）、Ｃ＋＋等のようなオブジェクト指向プログラミング言語、及び「Ｃ」プログラミング言語または同様のプログラミング言語でよい。コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサまたはプログラマブル回路に対し、ローカルにまたはローカルエリアネットワーク（ＬＡＮ）、インターネット等のようなワイドエリアネットワーク（ＷＡＮ）を介して提供されてよい。プロセッサまたはプログラマブル回路は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく、コンピュータ可読命令を実行してよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。

図１は、本実施形態に係る撮像装置１００の外観斜視図の一例を示す図である。図２は、本実施形態に係る撮像装置１００の機能ブロックを示す図である。

撮像装置１００は、撮像部１０２、レンズ部２００を備える。撮像部１０２は、イメージセンサ１２０、撮像制御部１１０、メモリ１３０、指示部１６２、及び表示部１６０を有する。

イメージセンサ１２０は、ＣＣＤまたはＣＭＯＳにより構成されてよい。イメージセンサ１２０は、レンズ部２００が有するレンズ２１０を介して光を受光する。イメージセンサ１２０は、レンズ２１０を介して結像された光学像の画像データを撮像制御部１１０に出力する。

撮像制御部１１０は、ＣＰＵまたはＭＰＵなどのマイクロプロセッサ、ＭＣＵなどのマイクロコントローラなどにより構成されてよい。メモリ１３０は、コンピュータ可読可能な記録媒体でよく、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、及びＵＳＢメモリなどのフラッシュメモリの少なくとも１つを含んでよい。撮像制御部１１０は回路に対応する。メモリ１３０は、撮像制御部１１０がイメージセンサ１２０などを制御するのに必要なプログラム等を格納する。メモリ１３０は、撮像装置１００の筐体の内部に設けられてよい。メモリ１３０は、撮像装置１００の筐体から取り外し可能に設けられてよい。

指示部１６２は、撮像装置１００に対する指示をユーザから受け付けるユーザインタフェースである。表示部１６０は、イメージセンサ１２０により撮像され、撮像制御部１１０により処理された画像、撮像装置１００の各種設定情報などを表示する。表示部１６０は、タッチパネルで構成されてよい。

撮像制御部１１０は、レンズ部２００及びイメージセンサ１２０を制御する。例えば、撮像制御部１１０は、レンズ２１０の焦点の位置や焦点距離を制御する。撮像制御部１１０は、ユーザからの指示を示す情報に基づいて、レンズ部２００が備えるレンズ制御部２２０に制御命令を出力することにより、レンズ部２００を制御する。

レンズ部２００は、１以上のレンズ２１０、レンズ駆動部２１２、レンズ制御部２２０、及びメモリ２２２を有する。本実施形態において１以上のレンズ２１０のことを「レンズ２１０」と総称する。レンズ２１０は、フォーカスレンズ及びズームレンズを含んでよい。レンズ２１０が含むレンズのうちの少なくとも一部または全部は、レンズ２１０の光軸に沿って移動可能に配置される。レンズ部２００は、撮像部１０２に対して着脱可能に設けられる交換レンズであってよい。

レンズ駆動部２１２は、レンズ２１０のうちの少なくとも一部または全部を、レンズ２１０の光軸に沿って移動させる。レンズ制御部２２０は、撮像部１０２からのレンズ制御命令に従って、レンズ駆動部２１２を駆動して、レンズ２１０全体又はレンズ２１０が含むズームレンズやフォーカスレンズを光軸方向に沿って移動させることで、ズーム動作やフォーカス動作の少なくとも一方を実行する。レンズ制御命令は、例えば、ズーム制御命令、及びフォーカス制御命令等である。

レンズ駆動部２１２は、複数のレンズ２１０の少なくとも一部または全部を光軸方向に移動させるボイスコイルモータ（ＶＣＭ）を含んでよい。レンズ駆動部２１２は、ＤＣモータ、コアレスモータ、または超音波モータ等の電動機を含んでよい。レンズ駆動部２１２は、電動機からの動力をカム環、ガイド軸等の機構部材を介して複数のレンズ２１０の少なくとも一部または全部に伝達して、レンズ２１０の少なくとも一部または全部を光軸に沿って移動させてよい。

メモリ２２２は、レンズ駆動部２１２を介して移動するフォーカスレンズやズームレンズ用の制御値を記憶する。メモリ２２２は、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、及びＵＳＢメモリなどのフラッシュメモリの少なくとも１つを含んでよい。

撮像制御部１１０は、指示部１６２等を通じて取得したユーザの指示を示す情報に基づいて、イメージセンサ１２０に制御命令を出力することにより、イメージセンサ１２０に撮像動作の制御を含む制御を実行する。撮像制御部１１０は、イメージセンサ１２０により撮像された画像を取得する。撮像制御部１１０は、イメージセンサ１２０から取得した画像に画像処理を施してメモリ１３０に格納する。

本実施形態における撮像制御部１１０の動作を説明する。撮像制御部１１０は、撮像装置１００が備えるレンズ２１０の焦点位置を異ならせて撮像することにより得られた複数の画像データとレンズ２１０のぼけ特性情報とに基づいて、撮像対象の距離情報を取得する。具体的には、撮像制御部１１０は、撮像装置１００の撮像面における特定の象限に対応するレンズ２１０のぼけ特性情報を記憶する。撮像制御部１１０は、他の象限に対応する撮像対象の距離情報を取得する場合に、特定の象限におけるレンズ２１０のぼけ特性情報と複数の画像データのそれぞれにおける他の象限に対応する画像情報との一方に対して象限の変換処理を行い、変換処理によって得られた情報と、特定の象限におけるレンズ２１０のぼけ特性情報と他の象限に対応する画像情報との他方の情報とに基づいて、他の象限に対応する撮像対象の距離情報を取得する。撮像制御部１１０は、撮像対象の距離情報に基づいて、レンズ２１０の焦点調節を行う。

例えば、撮像制御部１１０は、他の象限に対応する撮像対象の距離情報を取得する場合に、複数の画像データのそれぞれにおける他の象限に対応する画像情報に対して特定の象限への変換処理を行い、特定の象限への変換処理によって得られた画像情報と、特定の象限におけるレンズ２１０のぼけ特性情報とに基づいて、他の象限に対応する撮像対象の距離情報を取得する。

撮像制御部１１０は、他の象限に対応する撮像対象の距離情報を取得する場合に、特定の象限におけるレンズ２１０のぼけ特性情報に対して他の象限への変換処理を行い、他の象限への変換処理によって得られたぼけ特性情報と、他の象限に対応する画像情報とに基づいて、他の象限に対応する撮像対象の距離情報を取得してもよい。

レンズ２１０のぼけ特性情報は、例えば点拡がり関数である。撮像制御部１１０は、特定の象限に含まれる複数の点におけるレンズ２１０の点拡がり関数を記憶するように構成されている。例えば、撮像制御部１１０は、内部に不揮発性記憶媒体を有しており、特定の象限に含まれる複数の点におけるレンズ２１０の点拡がり関数を記憶する。なお、撮像制御部１１０は、第１象限内の１以上の点におけるレンズ２１０の点拡がり関数と、第１座標軸上の１以上の点におけるレンズ２１０の点拡がり関数と、第２座標軸上の１以上の点におけるレンズ２１０の点拡がり関数とを記憶してよい。

特定の象限は、レンズ２１０の光軸に対応する点を原点とし互いに直交する第１座標軸及び第２座標軸によって分けられる４個の象限のうち、第１座標軸の座標値及び第２座標軸の座標値が正となる領域である第１象限を含んでよい。撮像制御部１１０は、第１座標軸の座標値が負であり第２座標軸の座標値が正である第２象限に対応する画像情報を第２座標軸について線対称に変換することによって、第１象限への変換処理を行う。撮像制御部１１０は、第１座標軸の座標値が負であり第２座標軸の座標値が負である第３象限に対応する画像情報を原点について点対称に変換することによって、第１象限への変換処理を行う。撮像制御部１１０は、第１座標軸の座標値が正であり第２座標軸の座標値が負である第４象限に対応する画像情報を、第１座標軸について線対称に変換することにより、第１象限への変換処理を行う。

撮像制御部１１０は、第１象限内の第１領域及び第２領域のそれぞれにおけるレンズ２１０のぼけ特性情報を記憶している。撮像制御部１１０は、第１象限の画像情報と、第１領域におけるレンズ２１０のぼけ特性情報及び第２領域におけるレンズ２１０のぼけ特性情報の補間処理によって生成されたぼけ特性情報に基づいて、第１領域及び第２領域の間における撮像対象の距離情報を取得する。撮像制御部１１０は、第２象限の画像情報を第２座標軸について線対称に変換することによって得られた画像情報と、第１領域におけるレンズ２１０のぼけ特性情報及び第２領域におけるレンズ２１０のぼけ特性情報の補間処理によって生成されたぼけ特性情報に基づいて、第２象限における第１領域及び第２領域の間の領域に対応する撮像対象の距離情報を取得する。撮像制御部１１０は、第３象限の画像情報を原点について点対称に変換することによって得られた画像情報と、第１領域におけるレンズ２１０のぼけ特性情報及び第２領域におけるレンズ２１０のぼけ特性情報の補間処理によって生成されたぼけ特性情報に基づいて、第３象限における第１領域及び第２領域の間の領域に対応する撮像対象の距離情報を取得する。撮像制御部１１０は、第４象限の画像情報を第１座標軸について線対称に変換することによって得られた画像情報と、第１領域におけるレンズ２１０のぼけ特性情報及び第２領域におけるレンズ２１０のぼけ特性情報の補間処理によって生成されたぼけ特性情報に基づいて、第４象限における第１領域及び第２領域の間の領域に対応する撮像対象の距離情報を取得する。

ここで、撮像装置１００が実行するＡＦ方式について説明する。撮像装置１００は、ＡＦ処理を実行するために、レンズ２１０から被写体までの距離（被写体距離）を決定する。被写体距離を決定するための方式として、フォーカスレンズを移動させることによって、フォーカスレンズとイメージセンサ１２０の受光面との位置関係が異なる状態で撮像された複数の画像のぼけ量に基づいて決定する方式がある。ここで、この方式を用いたＡＦを、ぼけ検出オートフォーカス（Ｂｏｋｅｈ Ｄｅｔｅｃｔｉｏｎ Ａｕｔｏ Ｆｏｕｃｕｓ：ＢＤＡＦ）方式と称する。具体的には、ＢＤＡＦでは、ＤＦＤ（Ｄｅｐｔｈ Ｆｒｏｍ Ｄｅｆｏｃｕｓ）演算を行ってＡＦを行う。

例えば、画像のぼけ量は、ガウシアン関数を用いて次式（１）で表すことができる。すなわち、ある特定のフォーカスレンズ位置で取得した画像に式（１）を適用することでぼけ量の分布を計算することができる。式（１）において、ｘは、水平方向における画素位置を示す。σは、標準偏差値を示す。

図３は、式（１）を用いて計算したＣｏｓｔとフォーカスレンズの位置との関係を示す曲線の一例を示す。フォーカスレンズを例えば異なる２つの位置に動かすことでぼけ量の分布を計算し、この２点を通る曲線を描いたのが図３である。Ｃ１は、フォーカスレンズがｘ１に位置するときに得られた画像のＣｏｓｔである。Ｃ２は、フォーカスレンズがｘ２に位置するときに得られた画像のＣｏｓｔである。Ｃ１及びＣ２からレンズ２１０の光学特性を考慮して定められる曲線５００の極小点５０２に対応するレンズ位置ｘ０にフォーカスレンズを合わせることで、被写体に焦点を合わせることができる。

図４は、ＢＤＡＦ方式における距離算出手順の一例を示すフローチャートである。撮像制御部１１０は、レンズ２１０とイメージセンサ１２０の撮像面とが第１位置関係にある状態で、第１画像を撮像してメモリ１３０に格納する。撮像制御部１１０は、レンズ２１０を光軸方向に移動させることで、レンズ２１０と撮像面とが第２位置関係にある状態にして、撮像装置１００で第２画像を撮像してメモリ１３０に格納する（Ｓ２０１）。例えば、撮像制御部１１０は、フォーカスレンズを光軸方向に移動させることで、レンズ２１０と撮像面との位置関係を第１位置関係から第２位置関係に変更する。レンズの移動量は、例えば、１０μｍ程度でよい。

次いで、撮像制御部１１０は、第１画像を複数の領域に分割する（Ｓ２０２）。撮像制御部１１０は、第１画像内の画素ごとに特徴量を算出して、類似する特徴量を有する画素群を一つの領域として第１画像を複数の領域に分割してよい。撮像制御部１１０は、第１画像のうちＡＦ処理枠に設定されている範囲の画素群を複数の領域に分割してもよい。撮像制御部１１０は、第２画像を、第１画像の複数の領域に対応する複数の領域に分割する。撮像制御部１１０は、第１画像の複数の領域のそれぞれのぼけ量と、第２画像の複数の領域のそれぞれのぼけ量とに基づいて、複数の領域ごとに複数の領域のそれぞれに含まれるオブジェクトに対応する被写体までの距離を算出する（Ｓ２０３）。

なお、レンズ２１０とイメージセンサ１２０の撮像面との位置関係を変える方法は、レンズ２１０が備えるフォーカスレンズを移動させる方法に限られない。例えば、撮像制御部１１０は、レンズ２１０の全体を光軸方向に移動させてよい。撮像制御部１１０は、イメージセンサ１２０の撮像面を光軸方向に移動させてよい。撮像制御部１１０は、レンズ２１０が備える少なくとも一部のレンズ及びイメージセンサ１２０の撮像面の双方を光軸方向に移動させてよい。撮像制御部１１０は、レンズ２１０の焦点とイメージセンサ１２０の撮像面の相対的な位置関係を光学的に変えるための任意の方法を用いてよい。

図５を参照して被写体距離の算出手順についてさらに説明する。レンズＬの主点から被写体５１０（物面）までの距離をＡ、レンズＬの主点から被写体５１０からの光束が結像する位置（像面）までの距離をＢ、レンズＬの焦点距離をＦとする。この場合、距離Ａ、距離Ｂ、及び焦点距離Ｆの関係は、レンズの公式から次式（２）で表すことができる。

焦点距離ＦはレンズＬが備える各レンズの位置から定まる。したがって、被写体５１０からの光束が結像する距離Ｂが特定できれば、式（２）を用いて、レンズＬの主点から被写体５１０までの距離Ａを特定することができる。

ここで、レンズＬと撮像面との位置関係を、イメージセンサの撮像面をレンズＬ側に移動させることによって変えたとする。図５に示すように、レンズＬの主点から距離Ｄ１の位置やレンズＬの主点から距離Ｄ２の位置に撮像面があるとすると、撮像面上に投影された被写体５１０の像にはぼけが生じる。撮像面上に投影された被写体５１０の像のぼけの大きさ（錯乱円５１２及び５１４）から被写体５１０が結像する位置を算出することで、距離Ｂを特定し、さらに距離Ａを特定することができる。つまり、ぼけの大きさ（ぼけ量）が撮像面と結像位置とに比例することを考慮して、ぼけの量の差から結像位置を特定できる。

ここで、撮像面から距離Ｄ１の位置の像Ｉ_１及び撮像面から距離Ｄ２の位置の像Ｉ_２のそれぞれの画像はぼけている。像Ｉ_１について、点像分布関数（Ｐｏｉｎｔ Ｓｐｒｅａｄ Ｆｕｎｃｔｉｏｎ）をＰＳＦ_１、被写体像をＩ_ｄ１とすると、像Ｉ_１は、畳み込み演算により次式（３）で表すことができる。

像Ｉ_２もＰＳＦ_２による畳み込み演算によって同様に表される。被写体像のフーリエ変換をｆとして、点像分布関数ＰＳＦ_１及びＰＳＦ_２をフーリエ変換した光学伝達関数（Ｏｐｔｉｃａｌ Ｔｒａｎｓｆｅｒ Ｆｕｎｃｔｉｏｎ）をＯＴＦ_１及びＯＴＦ_２として、次式（４）のように比をとる。

式（４）に示す値Ｃは、レンズＬの主点から距離Ｄ１の位置の像及びレンズＬの主点から距離Ｄ２の位置の像のそれぞれのぼけ量の変化量、つまり、値Ｃは、レンズＬの主点から距離Ｄ１の位置の像とレンズＬの主点から距離Ｄ２の位置の像のぼけ量との差に相当する。

図５において、撮像面をレンズＬ側に移動させることによって、レンズＬと撮像面との位置関係を変えた場合について説明した。フォーカスレンズを撮像面に対して移動させることによって、レンズＬの焦点の位置と撮像面との位置関係を変えることによっても、ぼけ量に違いが生じる。本実施形態では、主にフォーカスレンズを撮像面に対して移動させることによってぼけ量が異なる画像を取得し、取得した画像に基づいてＤＦＤ演算を行ってデフォーカス量を表すＤＦＤ演算値を取得して、ＤＦＤ演算値に基づいて被写体に合焦するためのフォーカスレンズの位置の目標値を算出するものとする。

図６は、画像領域に設定されるＲＯＩ（Ｒｅｇｉｏｎ ｏｆ Ｉｎｔｅｒｅｓｔ、関心領域）の位置を模式的に示す。図６に示す画像領域６００は、撮像装置１００により撮像される画像の全領域を示す。図６の例では、画像領域６００に１５個のＲＯＩ００～ＲＯＩ１４が設定されている。

図７から図９に、試験被写体を用いてＤＦＤ演算によって算出したデフォーカス量の検出誤差を示す。図７は、試験被写体７００を用いて算出したデフォーカス量の検出誤差のグラフを示す。試験被写体７００は垂直方向に延伸する複数のバー状のパターンである。図８は、試験被写体８００を用いて算出したデフォーカス量の検出誤差のグラフを示す。試験被写体８００は水平方向に延伸する複数のバー状のパターンである。図９は、試験被写体９００を用いて算出したデフォーカス量の検出誤差のグラフを示す。試験被写体９００は水平方向及び垂直方向成分を持つ混合パターンである。

図７から図９に示す各グラフの横軸はデフォーカス量であり、縦軸は、ＤＦＤ演算によって算出されたデフォーカス量の誤差である。縦軸及び横軸の単位はｆδである。なお、図７から図９のそれぞれには１５個のグラフが示されている。これらの１５個のグラフは、図６に示す１５個のＲＯＩと一対一に対応する。これらの１５個のグラフは、紙面に向かって見た場合に、図６に示す１５個のＲＯＩのうちの対応するＲＯＩと同じ並びで配置されている。

なお、ＤＦＤ演算において、全てのＲＯＩについて同一のＰＳＦを用いてデフォーカス量を算出した。具体的には、光軸に対応する位置のＲＯＩ０７の円形状のＰＳＦを用いてデフォーカス量を算出した。

図７から図９のグラフから分かるように、光軸に対応するＲＯＩについては、どの試験パターンでも検出誤差が小さい。しかし、光軸から離れた位置のＲＯＩ（以後、「周辺ＲＯＩ」と呼ぶ）については、被写体のパターンによって誤差の大小が異なる。これは、被写体パターンが変わると、周辺ＲＯＩではＤＦＤ演算結果が変わることを意味する。そのため、仮に各ＲＯＩに対応する校正値を用いてＤＦＤ演算の演算結果を較正したとしても、被写体によって検出精度が低くなる可能性があることを意味する。

図１０は、各ＲＯＩの位置に対する口径食（vignetting）の形状の計算結果を示す。図１０には、各ＲＯＩに対応づけて２つのサークルが示されている。この２つのサークルは、光学系の径等によって制約される範囲を示す。２つサークルの重なり部分がＰＳＦ形状となる。

図１１は、ＲＯＩ０５における口径食の観察結果１１００を、口径食形状の計算結果とともに示す。図１１に示されるように、口径色の観察結果１１００は計算結果とほぼ一致する。一般に、口径食は、像高が高くなるにつれてシフトする複数の円状の重なりとなることが予測される。図１０の計算結果から、この予測どおり、像高が高くなるにつれて２つの円がシフトしていく様子が分かる。

図１２、図１３及び図１４は、それぞれ試験被写体７００、８００及び９００を用いて、図１０に示すＲＯＩ毎のＰＳＦデータを適用してＤＦＤ演算を行うことによって算出したデフォーカス量の検出誤差を示す。図１２から図１４に示す各グラフの横軸はデフォーカス量であり、縦軸はＤＦＤ演算によって算出されたデフォーカス量の誤差である。縦軸及び横軸の単位はｆδである。

図１２から図１４から分かるように、周辺ＲＯＩにおいても、被写体パターンによらず、ＤＦＤ演算の検出誤差を小さい。このことから、図７から図９に示したように周辺ＲＯＩでのＤＦＤ演算の検出誤差が被写体パターンによって違いが生じた主な原因は、図１０に関連して説明したようなＰＳＦの違いにあるということができる。

そこで、撮像制御部１１０は、画像領域毎に異なるＰＳＦを適用してＤＦＤ演算を行う。ＤＦＤ演算に用いるＰＳＦは、デフォーカス量に対応する多数のＰＳＦデータを記憶する必要がある。例えば、－１００ｆδから＋１００ｆδの範囲のデフォーカス量のＰＳＦを用いる場合、レンズ駆動の間隔を２ｆδとすると、１０１個のＰＳＦデータを用いる必要がある。したがって、画像領域全体についてＰＳＦデータを持つことは記憶容量の点で現実的とはいえない。そこで、例えば画像領域全体で１５個のＲＯＩのＰＳＦデータを記憶しておき、ＲＯＩの間の座標については、近隣のＲＯＩのＰＳＦデータを補間してＤＦＤ演算を行う方法を採用する。１５個のＲＯＩのＰＳＦを記憶する場合でも、１５×１０１＝１５１５個のＰＳＦデータを記憶する必要があるため、ＤＦＤ演算を高精度化するためにＲＯＩの数を増やすと、ＰＳＦデータを記憶するための不揮発性記憶媒体の記憶容量を圧迫する要因となる。

一般に、ＰＳＦの形状は概ね光軸を中心として対称性を持つ。一方、イメージセンサには、一般に水平方向及び垂直方向に一定間隔で画素が配置されている。よって、例えば５１２×５１２画素のＲＯＩに対するＰＳＦは光軸中心からの長さ（像高）が同じであっても、対角像高、水平像高及び垂直像高によってＰＳＦの形状が異なることになる。

図１５は、撮像制御部１１０がＰＳＦデータを記憶する範囲を模式的に示す。図１５に示されるように、撮像制御部１１０は、口径食を考慮したＰＳＦデータを不揮発性記憶媒体に記憶している。撮像制御部１１０は、第１象限に対応する１５個のＰＳＦデータを不揮発性記憶媒体に記憶している。撮像制御部１１０は、第２象限、第３象限及び第４象限に対応するＰＳＦデータを不揮発性記憶媒体に記憶していない。

より具体的には、撮像制御部１１０は、第１象限内のＰＳＦデータと、第１象限に接するＸ軸上のＰＳＦデータと、第１象限に接するＹ軸上のＰＳＦデータとを不揮発性記憶媒体に記憶する。第１象限の撮像対象についてＤＦＤ演算を行う場合は、不揮発性記憶媒体に記憶されている第１象限に対応するＰＳＦデータと、第１象限に対応する画像情報とを用いて、ＤＦＤ演算を行う。他の象限の撮像対象についてＤＦＤ演算を行う場合は、他の象限の画像情報に第１象限への象限変換を施してから、第１象限のＰＳＦデータを用いてＤＦＤ演算を行う。

図１６は、象限変換を模式的に示す。撮像制御部１１０は、第２象限の撮像対象についてＤＦＤ演算を行う場合は、第２象限の画像情報１６２０を第１象限への象限変換を行うことによって得られた画像情報１６２２と第１象限に対応するＰＳＦデータとを用いて、ＤＦＤ演算を行う。具体的には、撮像制御部１１０は、第２象限の画像情報１６２０をＹ軸について線対称に変換することによって、第１象限への変換処理を行う。すなわち、撮像制御部１１０は、第２象限の画像情報１６２０をＹ軸について水平方向に反転させることによって第１象限への変換処理を行う。

また、第３象限の撮像対象についてＤＦＤ演算を行う場合、撮像制御部１１０は、第３象限の画像情報１６３０を第１象限への象限変換を行うことによって得られた画像情報１６３２と第１象限に対応するＰＳＦデータとを用いて、ＤＦＤ演算を行う。具体的には、撮像制御部１１０は、第３象限の画像情報１６３０を原点について点対称に変換することによって、第１象限への変換処理を行う。すなわち、撮像制御部１１０は、第３象限の画像情報１６３０を原点まわりに１８０度回転させることによって、第１象限への変換処理を行う。

また、第４象限の撮像対象についてＤＦＤ演算を行う場合は、第４象限の画像情報１６４０を第１象限への象限変換を行うことによって得られた画像情報１６４２と第１象限に対応するＰＳＦデータとを用いて、ＤＦＤ演算を行う。具体的には、撮像制御部１１０は、第４象限の画像情報１６４０をＸ軸について線対称に変換することによって、第１象限への変換処理を行う。すなわち、撮像制御部１１０は、第４象限の画像情報１６４０をＸ軸について垂直方向に反転させることによって第１象限への変換処理を行う。

本実施形態によれば、撮像制御部１１０は、垂直像高及び水平像高が保持されるように、第２象限、第３象限及び第４象限に画像情報の象限変換を行う。これにより、撮像制御部１１０は、第２象限、第３象限及び第４象限のＰＳＦデータを保持する必要がない。図１５に示されるように、撮像制御部１１０は、第１象限に対応するＰＳＦデータとして、１５個のＰＳＦデータを記憶する。これにより、例えば図６に示すように全画像領域で１５個のＲＯＩを設定する場合に比べて、周辺ＲＯＩのＰＳＦを補間演算によってより正しく取得することが可能になる。そのため、ＤＦＤ演算の検出精度を高めることができる。仮に同程度の検出精度を得るために全象限のＰＳＦデータを記憶すると、４５個のＰＳＦデータを記憶する必要が生じる。よって、本実施形態によれば、ＰＳＦデータの記憶容量を１／３に削減することができる。

図１７は、撮像制御部１１０が実行する合焦制御の処理手順を示すフローチャートである。撮像制御部１１０は、合焦制御を行うためのアルゴリズムにより実装される合焦制御処理１７００と、ＤＦＤ演算を行うためのアルゴリズムにより実装されるＤＦＤ処理１７５０とを並行して実行する。

なお、焦点調節の対象となる領域は、ユーザによって指定された領域であってよい。焦点調節の対象となる領域は、撮像制御部１１０が顔検出等の画像解析によって主被写体が検出された領域であってよい。焦点調節の対象となる領域は、撮像制御部１１０が画像解析等によって主被写体が検出された複数の領域であってもよい。本実施形態においては、焦点調節の対象となる領域を特定する方法は特に限定されない。

合焦制御処理１７００において、撮像制御部１１０は、現在のレンズ位置でイメージセンサ１２０に撮像させて、第１画像の画像データを取得する（Ｓ１７０２）。

撮像制御部１１０は、ＤＦＤ処理１７５０において、第１画像の画像データについて、第２象限、第３象限及び第４象限の画像情報を必要に応じて象限変換処理を行う（Ｓ１７５２）。例えば、撮像制御部１１０は、焦点調節の対象となる領域が第２象限、第３象限及び第４象限のいずれかに含まれる場合に、焦点調節の対象となる領域を含む象限の画像情報を象限変換する。

Ｓ１７５４において、撮像制御部１１０は、第１画像について、Ｓ１７５２の象限変換処理を経た画像情報に対して、第１象限のＰＳＦデータを用いてコンボリューション演算を行う。撮像制御部１１０は、デフォーカス量毎にコンボリューション演算を行い、デフォーカス量毎にコンボリューション演算の結果をメモリに保持する。なお、撮像制御部１１０は、焦点調節の対象となる領域の位置に応じて、近隣ＰＳＦデータを用いて補間処理を行うことによって焦点調節の対象となる領域に対応するＰＳＦデータを生成して、コンボリューション演算を行ってよい。デコンボリューション演算は、ハードウェアにより実装されていることが望ましいが、ソフトウェアで実装されていてもよい。

合焦制御処理１７００において、撮像制御部１１０は、レンズ２１０のフォーカスレンズの位置を予め定められた移動量だけ移動させ（Ｓ１７０４）、イメージセンサ１２０に撮像させて、第２画像の画像データを取得する（Ｓ１７０６）。撮像制御部１１０は、ＤＦＤ処理１７５０において、第２画像の画像データについて、第２象限、第３象限及び第４象限の画像情報を必要に応じて象限変換処理を行い（Ｓ１７５２）、第２画像について、Ｓ１７５２の象限変換処理を経た画像情報に対して、第１象限のＰＳＦデータを用いてコンボリューション演算を行う（Ｓ１７５４）。

続いて、Ｓ１７５６において、撮像制御部１１０は、第１画像及び第２画像のコンボリューション演算の結果を用いてコスト関数によりコストを演算することによって、コスト関数を最小化するデフォーカス量を算出し、第１画像と第２画像とのデフォーカス量に基づいてレンズ移動量を算出する。

撮像制御部１１０は、合焦制御処理１７００において、レンズ２１０のフォーカスレンズの位置を予め定められた移動量だけ移動させ（Ｓ１７０８）、イメージセンサ１２０に撮像させて、第３画像の画像データを取得する（Ｓ１７１０）。

撮像制御部１１０は、ＤＦＤ処理１７５０において、Ｓ１７５２と同様に、第３画像の画像データについて、第２象限、第３象限及び第４象限の画像情報を必要に応じて象限変換する（Ｓ１７６２）。撮像制御部１１０は、第３画像について、Ｓ１７６２の象限変換処理を経た画像情報に対して第１象限のＰＳＦデータを用いてコンボリューション演算を行う（Ｓ１７６４）。Ｓ１７６６において、撮像制御部１１０は、第２画像及び第３画像のコンボリューション演算の結果を用いてコスト関数によりコストを演算することによって、コスト関数を最小化するデフォーカス量を算出する。Ｓ１７６６で算出したデフォーカス量に基づいて、撮像対象に対して合焦状態にあるか否かを判断できる。

撮像制御部１１０は、Ｓ１７６８において、Ｓ１７６６の演算結果に基づいて、撮像対象に対して合焦状態にあるか否かを判断する。合焦状態にあると判断した場合、合焦制御を終了する。

Ｓ１７６８の判断において合焦状態にないと判断した場合、デフォーカス量に基づいてレンズ移動量を算出し（Ｓ１７７０）、合焦制御処理１７００のＳ１７０８に処理を移動する。以後、フローチャートに従って、合焦状態となるまで、ＤＦＤ処理１７５０とフォーカスレンズの移動を繰り返す。なお、ＤＦＤ処理１７５０においては、新たな画像が撮像される毎に、最新の２つの画像に対するコンボリューション演算結果を用いて、Ｓ１７６６及びＳ１７６８の処理を行う。また、ＤＦＤ処理１７５０において、ＤＦＤ演算の信頼性評価値を算出して、信頼性評価値が予め定められた値より小さい場合には、ＤＦＤに基づく合焦制御を停止して、コントラストＡＦ等の他の合焦制御方式に切り替えてもよい。なお、撮像制御部１１０は、ＤＦＤ演算の信頼性評価値を画像内の被写体のぼけ量に基づいて算出してよい。撮像制御部１１０は、例えば、式（１）で表される画像のぼけ量に基づいて、ＤＦＤ演算の信頼性評価値を算出してよい。撮像制御部１１０は、ぼけ量が小さいほど信頼性評価値を高くしてよい。また、信頼性評価値が小さい場合でも、フォーカスレンズの位置を変えなくても複数の画像でＤＦＤ演算を行うことによりＤＦＤ演算の精度が高まる場合がある。そのため、信頼性評価値が予め定められた値より小さい場合には、フォーカスレンズの位置を変えずに複数の画像でＤＦＤ演算を行うことによって、ＤＦＤに基づく合焦制御を継続してもよい。

なお、図１５から図１７においては、第１象限以外の象限の画像情報に対して第１象限への象限変換を行い、象限変換により得られた画像情報と第１象限のＰＳＦデータを用いてＤＦＤ演算を行う形態を説明した。しかし、第１象限のＰＳＦデータに対して第２象限への象限変換を行い、象限変換されたＰＳＦデータと第２象限の画像情報を用いてＤＦＤ演算を行ってもよい。同様に、第１象限のＰＳＦデータに対して第３象限への象限変換を行い、象限変換されたＰＳＦデータと第３象限の画像情報を用いてＤＦＤ演算を行ってもよく、第１象限のＰＳＦデータに対して第４象限への象限変換を行い、象限変換されたＰＳＦデータと第４象限の画像情報を用いてＤＦＤ演算を行ってもよい。

以上に説明したように、撮像装置１００によれば、特定の象限に対応するＰＳＦデータを用いて、画像領域全体での合焦制御を行うことが可能となる。そのため、ＰＳＦデータの記憶容量を削減することができる。また、ＤＦＤ演算の精度を保持することができる。また、画像領域全体での合焦制御を行うことができる。

上記のような撮像装置１００は、移動体に搭載されてもよい。撮像装置１００は、図１８に示すような、無人航空機（ＵＡＶ）に搭載されてもよい。ＵＡＶ１０は、ＵＡＶ本体２０、ジンバル５０、複数の撮像装置６０、及び撮像装置１００を備えてよい。ジンバル５０、及び撮像装置１００は、撮像システムの一例である。ＵＡＶ１０は、推進部により推進される移動体の一例である。移動体とは、ＵＡＶの他、空中を移動する他の航空機などの飛行体、地上を移動する車両、水上を移動する船舶等を含む概念である。

ＵＡＶ本体２０は、複数の回転翼を備える。複数の回転翼は、推進部の一例である。ＵＡＶ本体２０は、複数の回転翼の回転を制御することでＵＡＶ１０を飛行させる。ＵＡＶ本体２０は、例えば、４つの回転翼を用いてＵＡＶ１０を飛行させる。回転翼の数は、４つには限定されない。また、ＵＡＶ１０は、回転翼を有さない固定翼機でもよい。

撮像装置１００は、所望の撮像範囲に含まれる被写体を撮像する撮像用のカメラである。ジンバル５０は、撮像装置１００を回転可能に支持する。ジンバル５０は、支持機構の一例である。例えば、ジンバル５０は、撮像装置１００を、アクチュエータを用いてピッチ軸で回転可能に支持する。ジンバル５０は、撮像装置１００を、アクチュエータを用いて更にロール軸及びヨー軸のそれぞれを中心に回転可能に支持する。ジンバル５０は、ヨー軸、ピッチ軸、及びロール軸の少なくとも１つを中心に撮像装置１００を回転させることで、撮像装置１００の姿勢を変更してよい。

複数の撮像装置６０は、ＵＡＶ１０の飛行を制御するためにＵＡＶ１０の周囲を撮像するセンシング用のカメラである。２つの撮像装置６０が、ＵＡＶ１０の機首である正面に設けられてよい。更に他の２つの撮像装置６０が、ＵＡＶ１０の底面に設けられてよい。正面側の２つの撮像装置６０はペアとなり、いわゆるステレオカメラとして機能してよい。底面側の２つの撮像装置６０もペアとなり、ステレオカメラとして機能してよい。複数の撮像装置６０により撮像された画像に基づいて、ＵＡＶ１０の周囲の３次元空間データが生成されてよい。ＵＡＶ１０が備える撮像装置６０の数は４つには限定されない。ＵＡＶ１０は、少なくとも１つの撮像装置６０を備えていればよい。ＵＡＶ１０は、ＵＡＶ１０の機首、機尾、側面、底面、及び天井面のそれぞれに少なくとも１つの撮像装置６０を備えてもよい。撮像装置６０で設定できる画角は、撮像装置１００で設定できる画角より広くてよい。撮像装置６０は、単焦点レンズまたは魚眼レンズを有してもよい。

遠隔操作装置３００は、ＵＡＶ１０と通信して、ＵＡＶ１０を遠隔操作する。遠隔操作装置３００は、ＵＡＶ１０と無線で通信してよい。遠隔操作装置３００は、ＵＡＶ１０に上昇、下降、加速、減速、前進、後進、回転などのＵＡＶ１０の移動に関する各種命令を示す指示情報を送信する。指示情報は、例えば、ＵＡＶ１０の高度を上昇させる指示情報を含む。指示情報は、ＵＡＶ１０が位置すべき高度を示してよい。ＵＡＶ１０は、遠隔操作装置３００から受信した指示情報により示される高度に位置するように移動する。指示情報は、ＵＡＶ１０を上昇させる上昇命令を含んでよい。ＵＡＶ１０は、上昇命令を受け付けている間、上昇する。ＵＡＶ１０は、上昇命令を受け付けても、ＵＡＶ１０の高度が上限高度に達している場合には、上昇を制限してよい。

図１９は、本発明の複数の態様が全体的または部分的に具現化されてよいコンピュータ１２００の一例を示す。コンピュータ１２００にインストールされたプログラムは、コンピュータ１２００に、本発明の実施形態に係る装置に関連付けられるオペレーションまたは当該装置の１または複数の「部」として機能させることができる。例えば、コンピュータ１２００にインストールされたプログラムは、コンピュータ１２００に、撮像制御部１１０として機能させることができる。または、当該プログラムは、コンピュータ１２００に当該オペレーションまたは当該１または複数の「部」の機能を実行させることができる。当該プログラムは、コンピュータ１２００に、本発明の実施形態に係るプロセスまたは当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ１２００に、本明細書に記載のフローチャート及びブロック図のブロックのうちのいくつかまたはすべてに関連付けられた特定のオペレーションを実行させるべく、ＣＰＵ１２１２によって実行されてよい。

本実施形態によるコンピュータ１２００は、ＣＰＵ１２１２、及びＲＡＭ１２１４を含み、それらはホストコントローラ１２１０によって相互に接続されている。コンピュータ１２００はまた、通信インタフェース１２２２、入力／出力ユニットを含み、それらは入力／出力コントローラ１２２０を介してホストコントローラ１２１０に接続されている。コンピュータ１２００はまた、ＲＯＭ１２３０を含む。ＣＰＵ１２１２は、ＲＯＭ１２３０及びＲＡＭ１２１４内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。

通信インタフェース１２２２は、ネットワークを介して他の電子デバイスと通信する。ハードディスクドライブが、コンピュータ１２００内のＣＰＵ１２１２によって使用されるプログラム及びデータを格納してよい。ＲＯＭ１２３０はその中に、アクティブ化時にコンピュータ１２００によって実行されるブートプログラム等、及び／またはコンピュータ１２００のハードウェアに依存するプログラムを格納する。プログラムが、ＣＲ－ＲＯＭ、ＵＳＢメモリまたはＩＣカードのようなコンピュータ可読記録媒体またはネットワークを介して提供される。プログラムは、コンピュータ可読記録媒体の例でもあるＲＡＭ１２１４、またはＲＯＭ１２３０にインストールされ、ＣＰＵ１２１２によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ１２００に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置または方法が、コンピュータ１２００の使用に従い情報のオペレーションまたは処理を実現することによって構成されてよい。

例えば、通信がコンピュータ１２００及び外部デバイス間で実行される場合、ＣＰＵ１２１２は、ＲＡＭ１２１４にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース１２２２に対し、通信処理を命令してよい。通信インタフェース１２２２は、ＣＰＵ１２１２の制御の下、ＲＡＭ１２１４、またはＵＳＢメモリのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、またはネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。

また、ＣＰＵ１２１２は、ＵＳＢメモリ等のような外部記録媒体に格納されたファイルまたはデータベースの全部または必要な部分がＲＡＭ１２１４に読み取られるようにし、ＲＡＭ１２１４上のデータに対し様々なタイプの処理を実行してよい。ＣＰＵ１２１２は次に、処理されたデータを外部記録媒体にライトバックしてよい。

様々なタイプのプログラム、データ、テーブル、及びデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。ＣＰＵ１２１２は、ＲＡＭ１２１４から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索／置換等を含む、様々なタイプの処理を実行してよく、結果をＲＡＭ１２１４に対しライトバックする。また、ＣＰＵ１２１２は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第２の属性の属性値に関連付けられた第１の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、ＣＰＵ１２１２は、第１の属性の属性値が指定される、条件に一致するエントリを当該複数のエントリの中から検索し、当該エントリ内に格納された第２の属性の属性値を読み取り、それにより予め定められた条件を満たす第１の属性に関連付けられた第２の属性の属性値を取得してよい。

上で説明したプログラムまたはソフトウェアモジュールは、コンピュータ１２００上またはコンピュータ１２００近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワークまたはインターネットに接続されたサーバーシステム内に提供されるハードディスクまたはＲＡＭのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ１２００に提供する。

以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。

特許請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。

１０ ＵＡＶ
２０ ＵＡＶ本体
５０ ジンバル
６０ 撮像装置
１００ 撮像装置
１０２ 撮像部
１１０ 撮像制御部
１２０ イメージセンサ
１３０ メモリ
１６０ 表示部
１６２ 指示部
２００ レンズ部
２１０ レンズ
２１２ レンズ駆動部
２２０ レンズ制御部
２２２ メモリ
３００ 遠隔操作装置
６００ 画像領域
７００、８００、９００
１６２０、１６２２、１６３０、１６３２、１６４０、１６４２ 画像情報
１７００ 合焦制御処理
１７５０ ＤＦＤ処理
１２００ コンピュータ
１２１０ ホストコントローラ
１２１２ ＣＰＵ
１２１４ ＲＡＭ
１２２０ 入力／出力コントローラ
１２２２ 通信インタフェース
１２３０ ＲＯＭ

Claims (13)

1. 撮像装置が備える光学系の焦点位置を異ならせて撮像することにより得られた複数の画像データと前記光学系のぼけ特性情報とに基づいて、撮像対象の距離情報を取得するように構成された回路
   を備え、
   前記回路は、前記撮像装置の撮像面における特定の象限に対応する前記光学系のぼけ特性情報を記憶するように構成され、他の象限に対応する撮像対象の距離情報を取得する場合に、前記複数の画像データのそれぞれにおける前記他の象限に対応する画像情報に対して前記特定の象限への変換処理を行い、前記特定の象限への変換処理によって得られた画像情報と、前記特定の象限における前記光学系のぼけ特性情報とに基づいて、前記他の象限に対応する撮像対象の距離情報を取得するように構成されている
   装置。
2. 撮像装置が備える光学系の焦点位置を異ならせて撮像することにより得られた複数の画像データと前記光学系のぼけ特性情報とに基づいて、撮像対象の距離情報を取得するように構成された回路
   を備え、
   前記回路は、前記撮像装置の撮像面における特定の象限に対応する前記光学系のぼけ特性情報を記憶するように構成され、他の象限に対応する撮像対象の距離情報を取得する場合に、前記特定の象限における前記光学系のぼけ特性情報と前記複数の画像データのそれぞれにおける前記他の象限に対応する画像情報との一方に対して象限の変換処理を行い、前記変換処理によって得られた情報と、前記特定の象限における前記光学系のぼけ特性情報と前記他の象限に対応する画像情報との他方の情報とに基づいて、前記他の象限に対応する撮像対象の距離情報を取得するように構成されており、
   前記特定の象限は、前記光学系の光軸に対応する点を原点とし互いに直交する第１座標軸及び第２座標軸によって分けられる４個の象限のうち、前記第１座標軸の座標値及び前記第２座標軸の座標値が正となる領域である第１象限を含み、
   前記回路は、
   前記第１座標軸の座標値が負であり前記第２座標軸の座標値が正である第２象限に対応する画像情報を前記第２座標軸について線対称に変換することによって、前記第１象限への変換処理を行い、
   前記第１座標軸の座標値が負であり前記第２座標軸の座標値が負である第３象限に対応する画像情報を原点について点対称に変換することによって、前記第１象限への変換処理を行い、
   前記第１座標軸の座標値が正であり前記第２座標軸の座標値が負である第４象限に対応する画像情報を、前記第１座標軸について線対称に変換することにより、前記第１象限への変換処理を行うように構成されている
   装置。
3. 前記回路は、前記他の象限に対応する撮像対象の距離情報を取得する場合において前記特定の象限における前記光学系のぼけ特性情報に対して象限の変換処理を行う場合、前記特定の象限における前記光学系のぼけ特性情報に対して前記他の象限への変換処理を行い、前記他の象限への変換処理によって得られたぼけ特性情報と、前記他の象限に対応する画像情報とに基づいて、前記他の象限に対応する撮像対象の距離情報を取得するように構成されている
   請求項２に記載の装置。
4. 前記光学系のぼけ特性情報は点拡がり関数であり、
   前記回路は、前記特定の象限に含まれる複数の点における前記光学系の点拡がり関数を記憶するように構成されている
   請求項１から３のいずれか一項に記載の装置。
5. 前記光学系のぼけ特性情報は点拡がり関数であり、
   前記回路は、前記第１象限内の１以上の点における前記光学系の点拡がり関数と、前記第１座標軸上の１以上の点における前記光学系の点拡がり関数と、第２座標軸上の１以上の点における前記光学系の点拡がり関数とを記憶するように構成されている
   請求項２又は３に記載の装置。
6. 前記回路は、
   前記第１象限内の第１領域及び第２領域のそれぞれにおける前記光学系のぼけ特性情報を記憶しており、
   前記第１象限の画像情報と、前記第１領域における前記光学系のぼけ特性情報及び前記第２領域における前記光学系のぼけ特性情報の補間処理によって生成されたぼけ特性情報に基づいて、前記第１領域及び前記第２領域の間における撮像対象の距離情報を取得し、
   前記第２象限の画像情報を前記第２座標軸について線対称に変換することによって得られた画像情報と、前記第１領域における前記光学系のぼけ特性情報及び前記第２領域における前記光学系のぼけ特性情報の補間処理によって生成されたぼけ特性情報に基づいて、前記第２象限における前記第１領域及び前記第２領域の間の領域に対応する撮像対象の距離情報を取得し、
   前記第３象限の画像情報を前記原点について点対称に変換することによって得られた画像情報と、前記第１領域における前記光学系のぼけ特性情報及び前記第２領域における前記光学系のぼけ特性情報の補間処理によって生成されたぼけ特性情報に基づいて、前記第３象限における前記第１領域及び前記第２領域の間の領域に対応する撮像対象の距離情報を取得し、
   前記第４象限の画像情報を前記第１座標軸について線対称に変換することによって得られた画像情報と、前記第１領域における前記光学系のぼけ特性情報及び前記第２領域における前記光学系のぼけ特性情報の補間処理によって生成されたぼけ特性情報に基づいて、前記第４象限における前記第１領域及び前記第２領域の間の領域に対応する撮像対象の距離情報を取得するように構成されている
   請求項２又は３に記載の装置。
7. 前記回路は、前記撮像対象の距離情報に基づいて、前記光学系の焦点調節を行うように構成されている
   請求項１から６のいずれか一項に記載の装置。
8. 請求項１から７のいずれか一項に記載の装置と、
   前記撮像面を備えるイメージセンサと
   を備える撮像装置。
9. 請求項８に記載の撮像装置と、
   前記撮像装置の姿勢を制御可能に支持する支持機構と
   を備える撮像システム。
10. 請求項８に記載の撮像装置を搭載して移動する移動体。
11. 光学系を備える撮像装置の撮像面における特定の象限に対応する前記光学系のぼけ特性情報を記憶する段階と、
    前記光学系の焦点位置を異ならせて撮像することにより得られた複数の画像データと前記光学系のぼけ特性情報とに基づいて、撮像対象の距離情報を取得する段階と
    を備え、
    前記撮像対象の距離情報を取得する段階は、
    前記撮像面における他の象限に対応する撮像対象の距離情報を取得する場合に、前記複数の画像データのそれぞれにおける前記他の象限に対応する画像情報に対して前記特定の象限への変換処理を行う段階と、
    前記特定の象限への変換処理によって得られた画像情報と、前記特定の象限における前記光学系のぼけ特性情報とに基づいて、前記他の象限に対応する撮像対象の距離情報を取得する段階と
    を備える方法。
12. 光学系を備える撮像装置の撮像面における特定の象限に対応する前記光学系のぼけ特性情報を記憶する段階と、
    前記光学系の焦点位置を異ならせて撮像することにより得られた複数の画像データと前記光学系のぼけ特性情報とに基づいて、撮像対象の距離情報を取得する段階と
    を備え、
    前記撮像対象の距離情報を取得する段階は、
    前記撮像面における他の象限に対応する撮像対象の距離情報を取得する場合に、前記特定の象限における前記光学系のぼけ特性情報と前記複数の画像データのそれぞれにおける前記他の象限に対応する画像情報との一方に対して象限の変換処理を行う段階と、
    前記変換処理によって得られた情報と、前記特定の象限における前記光学系のぼけ特性情報と前記他の象限に対応する画像情報との他方の情報とに基づいて、前記他の象限に対応する撮像対象の距離情報を取得する段階と
    を備え、
    前記特定の象限は、前記光学系の光軸に対応する点を原点とし互いに直交する第１座標軸及び第２座標軸によって分けられる４個の象限のうち、前記第１座標軸の座標値及び前記第２座標軸の座標値が正となる領域である第１象限を含み、
    前記象限の変換処理を行う段階は、
    前記第１座標軸の座標値が負であり前記第２座標軸の座標値が正である第２象限に対応する画像情報を前記第２座標軸について線対称に変換することによって、前記第１象限への変換処理を行う段階と、
    前記第１座標軸の座標値が負であり前記第２座標軸の座標値が負である第３象限に対応する画像情報を原点について点対称に変換することによって、前記第１象限への変換処理を行う段階と、
    前記第１座標軸の座標値が正であり前記第２座標軸の座標値が負である第４象限に対応する画像情報を、前記第１座標軸について線対称に変換することにより、前記第１象限への変換処理を行う段階と
    を備える方法。
13. 請求項１１又は１２に記載の方法をコンピュータに実行させるためのプログラム。

Images