JP6880380B2 - 画像処理装置、画像処理方法、及びプログラム - Google Patents

Description

本発明は、画像処理装置、画像処理方法、及びプログラムに関する。

特許文献１には、２つのセンシング装置によりセンシングで得られる測定値に基づいて、検査対象物の正規化植生指標を算出することが記載されている。
［先行技術文献］
［特許文献］
［特許文献１］ 国際公開第２０１７／２２１７５６号公報

複数の撮像装置により撮像される画像に基づいて正規化植生指標などの指標を算出する場合に、画像間の位置合わせの処理の負荷を抑制させることが望まれている。

本発明に係る画像処理装置は、予め定められた位置関係で配置された第１撮像装置及び第２撮像装置により撮像されたそれぞれの画像を処理する画像処理装置でよい。画像処理装置は、第１撮像装置の第１光軸と第２撮像装置の第２光軸との間のズレに関するズレ情報と、第１撮像装置及び第２撮像装置の高度を示す高度情報とを取得するように構成される回路を備えてよい。回路は、第１撮像装置により撮像された第１画像と、第２撮像装置により撮像された第２画像とを取得するように構成されてよい。回路は、ズレ情報及び高度情報に基づいて、第１画像と第２画像とを位置合わせするように構成されてよい。

ズレ情報は、第１光軸と第２光軸との成す角度を示す情報を含んでよい。

ズレ情報は、第１撮像装置の第１撮像面と第１光軸との第１交点と、第２撮像装置の第２撮像面と第２光軸との第２交点との間の距離を示す情報を含んでよい。

ズレ情報は、高度と、第１画像と第２画像との間の位置のズレ量との関係を示す情報を含んでよい。

ズレ情報は、予め定められた高度に対する第１画像と第２画像との間の位置のズレ量を示す情報を含んでよい。

第１撮像装置及び第２撮像装置は、移動体に搭載されてよい。

第１撮像装置及び第２撮像装置は、第１撮像装置及び第２撮像装置の姿勢を調整可能に支持する支持機構を介して移動体に搭載されてよい。

回路は、第１撮像装置及び第２撮像装置の姿勢状態を示す姿勢情報をさらに取得するように構成されてよい。回路は、姿勢情報にさらに基づいて、第１画像と第２画像とを位置合わせするように構成されてよい。

移動体は、飛行体でよい。

第１撮像装置及び第２撮像装置は、第１撮像装置及び第２撮像装置の姿勢を調整可能に支持する支持機構を介して移動体に搭載されてよい。回路は、第１撮像装置及び第２撮像装置の姿勢状態を示す姿勢情報を取得するように構成されてよい。回路は、姿勢情報に基づいて、第１撮像装置及び第２撮像装置の撮像方向と鉛直下向きの方向との成す角度が予め定められた角度以下であるか判断するように構成されてよい。回路は、角度が予め定められた角度以下である場合、ズレ情報及び高度情報に基づいて、第１画像と第２画像とを位置合わせするように構成されたよい。回路は、角度が予め定められた角度より大きい場合、ズレ情報、高度情報、及び姿勢情報に基づいて、第１画像と第２画像とを位置合わせするように構成されてよい。

第１撮像装置は、第１波長帯域の画像を撮像してよい。第２撮像装置は、第２波長帯域の画像を撮像してよい。

第１波長帯域は、近赤外領域の波長帯域でよい。第２波長帯域は、赤色領域、緑色領域、またはレッドエッジ領域の波長帯域でよい。

本発明の一態様に係る画像処理装置は、予め定められた位置関係で配置された第１撮像装置及び第２撮像装置により撮像されたそれぞれの画像を処理する画像処理装置でよい。画像処理装置は、第１撮像装置の第１光軸と第２撮像装置の第２光軸との間のズレに関するズレ情報と、第１撮像装置及び第２撮像装置により撮像される被写体までの距離を示す距離情報とを取得するように構成される回路を備えてよい。回路は、第１撮像装置により撮像された被写体を含む第１画像と、第２撮像装置により撮像された被写体を含む第２画像とを取得するように構成されてよい。回路は、ズレ情報及び距離情報に基づいて、第１画像と第２画像とを位置合わせするように構成されてよい。

第１撮像装置は、第１波長帯域の画像を撮像してよい。第２撮像装置は、第２波長帯域の画像を撮像してよい。

第１波長帯域は、近赤外領域の波長帯域でよい。第２波長帯域は、赤色領域、緑色領域、またはレッドエッジ領域の波長帯域でよい。

ズレ情報は、第１光軸と第２光軸との成す角度を示す情報を含んでよい。

ズレ情報は、第１撮像装置の第１撮像面と第１光軸との第１交点と、第２撮像装置の第２撮像面と第２光軸との第２交点との間の距離を示す情報を含んでよい。

ズレ情報は、被写体までの距離と、第１画像と第２画像との間の位置ズレ量との関係を示す情報を含んでよい。

本発明の一態様に係る画像処理方法は、予め定められた位置関係で配置された第１撮像装置及び第２撮像装置により撮像されたそれぞれの画像を処理する画像処理方法でよい。画像処理方法は、第１撮像装置の第１光軸と第２撮像装置の第２光軸との間のズレに関するズレ情報と、第１撮像装置及び第２撮像装置の高度を示す高度情報とを取得する段階を備えてよい。画像処理方法は、第１撮像装置により撮像された第１画像と、第２撮像装置により撮像された第２画像とを取得する段階を備えてよい。画像処理方法は、ズレ情報及び高度情報に基づいて、第１画像と第２画像とを位置合わせする段階を備えてよい。

本発明の一態様に係る画像処理方法は、予め定められた位置関係で配置された第１撮像装置及び第２撮像装置により撮像されたそれぞれの画像を処理する画像処理方法でよい。画像処理方法は、第１撮像装置の第１光軸と第２撮像装置の第２光軸との間のズレに関するズレ情報と、第１撮像装置及び第２撮像装置により撮像される被写体までの距離を示す距離情報とを取得する段階を備えてよい。画像処理方法は、第１撮像装置により撮像された被写体を含む第１画像と、第２撮像装置により撮像された被写体を含む第２画像とを取得する段階を備えてよい。画像処理方法は、ズレ情報及び距離情報に基づいて、第１画像と第２画像とを位置合わせする段階を備えてよい。

本発明の一態様に係るプログラムは、上記画像処理装置としてコンピュータを機能させるためのプログラムでよい。

本発明の一態様によれば、画像間の位置合わせの処理の負荷を抑制させることができる。

なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。

無人航空機（ＵＡＶ）及び遠隔操作装置の外観の一例を示す図である。 ＵＡＶに搭載される撮像システムの外観の一例を示す図である。 ＵＡＶの機能ブロックの一例を示す図である。 撮像システムの機能ブロックの一例を示す図である。 ＵＡＶに搭載された撮像システムが撮像する様子の一例を示す図である。 光軸のズレ量の一例を示す図である。 画像同士の位置合わせについて説明するための図である。 ＵＡＶに搭載された撮像システムが撮像する様子の一例を示す図である。 画像処理プロセッサによる画像の位置合わせ処理の手順の一例を示すフローチャートである。 ＵＡＶに搭載される撮像システムの外観の他の一例を示す図である。 ハードウェア構成の一例を示す図である。

以下、発明の実施の形態を通じて本発明を説明するが、以下の実施の形態は特許請求の範囲に係る発明を限定するものではない。また、実施の形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。以下の実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。

特許請求の範囲、明細書、図面、及び要約書には、著作権による保護の対象となる事項が含まれる。著作権者は、これらの書類の何人による複製に対しても、特許庁のファイルまたはレコードに表示される通りであれば異議を唱えない。ただし、それ以外の場合、一切の著作権を留保する。

本発明の様々な実施形態は、フローチャート及びブロック図を参照して記載されてよく、ここにおいてブロックは、（１）操作が実行されるプロセスの段階または（２）操作を実行する役割を持つ装置の「部」を表わしてよい。特定の段階及び「部」が、プログラマブル回路、及び／またはプロセッサによって実装されてよい。専用回路は、デジタル及び／またはアナログハードウェア回路を含んでよい。集積回路（ＩＣ）及び／またはディスクリート回路を含んでよい。プログラマブル回路は、再構成可能なハードウェア回路を含んでよい。再構成可能なハードウェア回路は、論理ＡＮＤ、論理ＯＲ、論理ＸＯＲ、論理ＮＡＮＤ、論理ＮＯＲ、及び他の論理操作、フリップフロップ、レジスタ、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、プログラマブルロジックアレイ（ＰＬＡ）等のようなメモリ要素等を含んでよい。

コンピュータ可読媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよい。その結果、そこに格納される命令を有するコンピュータ可読媒体は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読媒体のより具体的な例としては、フロッピー（登録商標）ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ（ＲＡＭ）、リードオンリメモリ（ＲＯＭ）、消去可能プログラマブルリードオンリメモリ（ＥＰＲＯＭまたはフラッシュメモリ）、電気的消去可能プログラマブルリードオンリメモリ（ＥＥＰＲＯＭ）、静的ランダムアクセスメモリ（ＳＲＡＭ）、コンパクトディスクリードオンリメモリ（ＣＤ-ＲＯＭ）、デジタル多用途ディスク（ＤＶＤ）、ブルーレイ（ＲＴＭ）ディスク、メモリスティック、集積回路カード等が含まれてよい。

コンピュータ可読命令は、１または複数のプログラミング言語の任意の組み合わせで記述されたソースコードまたはオブジェクトコードの何れかを含んでよい。ソースコードまたはオブジェクトコードは、従来の手続型プログラミング言語を含む。従来の手続型プログラミング言語は、アセンブラ命令、命令セットアーキテクチャ（ＩＳＡ）命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、またはＳｍａｌｌｔａｌｋ（登録商標）、ＪＡＶＡ（登録商標）、Ｃ＋＋等のようなオブジェクト指向プログラミング言語、及び「Ｃ」プログラミング言語または同様のプログラミング言語でよい。コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサまたはプログラマブル回路に対し、ローカルにまたはローカルエリアネットワーク（ＬＡＮ）、インターネット等のようなワイドエリアネットワーク（ＷＡＮ）を介して提供されてよい。プロセッサまたはプログラマブル回路は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく、コンピュータ可読命令を実行してよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。

図１は、無人航空機（ＵＡＶ）１０及び遠隔操作装置３００の外観の一例を示す。ＵＡＶ１０は、ＵＡＶ本体２０、ジンバル５０、複数の撮像装置６０、及び撮像システム１００を備える。ジンバル５０、及び撮像システム１００は、撮像システムの一例である。ＵＡＶ１０は、移動体の一例である。移動体とは、空中を移動する飛行体、地上を移動する車両、水上を移動する船舶等を含む概念である。空中を移動する飛行体とは、ＵＡＶの他、空中を移動する他の航空機、飛行船、ヘリコプター等を含む概念である。

ＵＡＶ本体２０は、複数の回転翼を備える。複数の回転翼は、推進部の一例である。ＵＡＶ本体２０は、複数の回転翼の回転を制御することでＵＡＶ１０を飛行させる。ＵＡＶ本体２０は、例えば、４つの回転翼を用いてＵＡＶ１０を飛行させる。回転翼の数は、４つには限定されない。また、ＵＡＶ１０は、回転翼を有さない固定翼機でもよい。

撮像システム１００は、所望の撮像範囲に含まれるオブジェクトを複数の波長帯域ごとに撮像する撮像用のマルチスペクトルカメラである。ジンバル５０は、撮像システム１００を回転可能に支持する。ジンバル５０は、支持機構の一例である。例えば、ジンバル５０は、撮像システム１００を、アクチュエータを用いてピッチ軸で回転可能に支持する。ジンバル５０は、撮像システム１００を、アクチュエータを用いて更にロール軸及びヨー軸のそれぞれを中心に回転可能に支持する。ジンバル５０は、ヨー軸、ピッチ軸、及びロール軸の少なくとも１つを中心に撮像システム１００を回転させることで、撮像システム１００の姿勢を変更してよい。

複数の撮像装置６０は、ＵＡＶ１０の飛行を制御するためにＵＡＶ１０の周囲を撮像するセンシング用のカメラである。２つの撮像装置６０が、ＵＡＶ１０の機首である正面に設けられてよい。更に他の２つの撮像装置６０が、ＵＡＶ１０の底面に設けられてよい。正面側の２つの撮像装置６０はペアとなり、いわゆるステレオカメラとして機能してよい。底面側の２つの撮像装置６０もペアとなり、ステレオカメラとして機能してよい。撮像装置６０は、撮像装置６０の撮像範囲に含まれるオブジェクトの存在、及びオブジェクトまでの距離を計測してよい。撮像装置６０は、撮像システム１００の撮像方向に存在するオブジェクトを計測する計測装置の一例である。計測装置は、撮像システム１００の撮像方向に存在するオブジェクトを計測する赤外線センサ、超音波センサなどの他のセンサでもよい。複数の撮像装置６０により撮像された画像に基づいて、ＵＡＶ１０の周囲の３次元空間データが生成されてよい。ＵＡＶ１０が備える撮像装置６０の数は４つには限定されない。ＵＡＶ１０は、少なくとも１つの撮像装置６０を備えていればよい。ＵＡＶ１０は、ＵＡＶ１０の機首、機尾、側面、底面、及び天井面のそれぞれに少なくとも１つの撮像装置６０を備えてもよい。撮像装置６０で設定できる画角は、撮像システム１００で設定できる画角より広くてよい。撮像装置６０は、単焦点レンズまたは魚眼レンズを有してもよい。

遠隔操作装置３００は、ＵＡＶ１０と通信して、ＵＡＶ１０を遠隔操作する。遠隔操作装置３００は、ＵＡＶ１０と無線で通信してよい。遠隔操作装置３００は、ＵＡＶ１０に上昇、下降、加速、減速、前進、後進、回転などのＵＡＶ１０の移動に関する各種命令を示す指示情報を送信する。指示情報は、例えば、ＵＡＶ１０の高度を上昇させる指示情報を含む。指示情報は、ＵＡＶ１０が位置すべき高度を示してよい。ＵＡＶ１０は、遠隔操作装置３００から受信した指示情報により示される高度に位置するように移動する。指示情報は、ＵＡＶ１０を上昇させる上昇命令を含んでよい。ＵＡＶ１０は、上昇命令を受け付けている間、上昇する。ＵＡＶ１０は、上昇命令を受け付けても、ＵＡＶ１０の高度が上限高度に達している場合には、上昇を制限してよい。

図２は、ＵＡＶ１０に搭載される撮像システム１００の外観の一例を示す図である。撮像システム１００は、予め定められた複数の波長帯域ごとの画像データを撮像するマルチスペクトルカメラである。撮像システム１００は、Ｒ用撮像装置１１０、Ｇ用撮像装置１２０、Ｂ用撮像装置１３０、ＲＥ用撮像装置１４０、及びＮＩＲ用撮像装置１５０を備える。撮像システム１００は、Ｒ用撮像装置１１０、Ｇ用撮像装置１２０、Ｂ用撮像装置１３０、ＲＥ用撮像装置１４０、及びＮＩＲ用撮像装置１５０により撮像されたそれぞれの画像データをマルチスペクトル画像として記録することができる。マルチスペクトル画像は、例えば、農作物の健康状態及び活力についての予測をするために用いられてよい。

図３は、ＵＡＶ１０の機能ブロックの一例を示す。ＵＡＶ１０は、ＵＡＶ制御部３０、メモリ３２、通信インタフェース３６、推進部４０、ＧＰＳ受信機４１、慣性計測装置４２、磁気コンパス４３、気圧高度計４４、温度センサ４５、湿度センサ４６、ジンバル５０、撮像装置６０及び撮像システム１００を備える。

通信インタフェース３６は、遠隔操作装置３００などの他の装置と通信する。通信インタフェース３６は、遠隔操作装置３００からＵＡＶ制御部３０に対する各種の命令を含む指示情報を受信してよい。メモリ３２は、ＵＡＶ制御部３０が、推進部４０、ＧＰＳ受信機４１、慣性計測装置（ＩＭＵ）４２、磁気コンパス４３、気圧高度計４４、温度センサ４５、湿度センサ４６、ジンバル５０、撮像装置６０、及び撮像システム１００を制御するのに必要なプログラム等を格納する。メモリ３２は、コンピュータ読み取り可能な記録媒体でよく、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、及びＵＳＢメモリ等のフラッシュメモリの少なくとも１つを含んでよい。メモリ３２は、ＵＡＶ本体２０の内部に設けられてよい。ＵＡＶ本体２０から取り外し可能に設けられてよい。

ＵＡＶ制御部３０は、メモリ３２に格納されたプログラムに従ってＵＡＶ１０の飛行及び撮像を制御する。ＵＡＶ制御部３０は、ＣＰＵまたはＭＰＵ等のマイクロプロセッサ、ＭＣＵ等のマイクロコントローラ等により構成されてよい。ＵＡＶ制御部３０は、通信インタフェース３６を介して遠隔操作装置３００から受信した命令に従って、ＵＡＶ１０の飛行及び撮像を制御する。推進部４０は、ＵＡＶ１０を推進させる。推進部４０は、複数の回転翼と、複数の回転翼を回転させる複数の駆動モータとを有する。推進部４０は、ＵＡＶ制御部３０からの命令に従って複数の駆動モータを介して複数の回転翼を回転させて、ＵＡＶ１０を飛行させる。

ＧＰＳ受信機４１は、複数のＧＰＳ衛星から発信された時刻を示す複数の信号を受信する。ＧＰＳ受信機４１は、受信された複数の信号に基づいてＧＰＳ受信機４１の位置（緯度、経度、及び高度）、つまりＵＡＶ１０の位置（緯度、経度、及び高度）を算出する。ＩＭＵ４２は、ＵＡＶ１０の姿勢を検出する。ＩＭＵ４２は、ＵＡＶ１０の姿勢として、ＵＡＶ１０の前後、左右、及び上下の３軸方向の加速度と、ピッチ、ロール、及びヨーの３軸方向の角速度とを検出する。磁気コンパス４３は、ＵＡＶ１０の機首の方位を検出する。気圧高度計４４は、ＵＡＶ１０が飛行する高度を検出する。気圧高度計４４は、ＵＡＶ１０の周囲の気圧を検出し、検出された気圧を高度に換算して、高度を検出する。温度センサ４５は、ＵＡＶ１０の周囲の温度を検出する。湿度センサ４６は、ＵＡＶ１０の周囲の湿度を検出する。

図４は、撮像システム１００の機能ブロックの一例を示す。撮像システム１００は、Ｒ用撮像装置１１０、Ｇ用撮像装置１２０、Ｂ用撮像装置１３０、ＲＥ用撮像装置１４０、及びＮＩＲ用撮像装置１５０を備える。撮像システム１００は、画像処理プロセッサ１８０、送信部１９０、及びメモリ１９２を備える。

Ｒ用撮像装置１１０は、Ｒ用イメージセンサ１１２、及び光学系１１４を有する。Ｒ用イメージセンサ１１２は、光学系１１４により結像された像を撮像する。Ｒ用イメージセンサ１１２は、赤色領域の波長帯域の光を透過するフィルタを有し、赤色領域の波長帯域の画像信号であるＲ画像信号を出力する。赤色領域の波長帯域は、例えば、６２０ｎｍ〜７５０ｎｍである。赤色領域の波長帯域は、赤色領域の特定の波長帯域でよく、例えば、６６３ｎｍ〜６７３ｎｍでよい。

Ｇ用撮像装置１２０は、Ｇ用イメージセンサ１２２、及び光学系１２４を有する。Ｇ用イメージセンサ１２２は、光学系１２４により結像された像を撮像する。Ｇ用イメージセンサ１２２は、緑色領域の波長帯域の光を透過するフィルタを有し、緑色領域の波長帯域の画像信号であるＧ画像信号を出力する。緑色領域の波長帯域は、例えば、５００ｎｍ〜５７０ｎｍである。緑色領域の波長帯域は、緑色領域の特定の波長帯域でよく、例えば、５５０ｎｍ〜５７０ｎｍでよい。

Ｂ用撮像装置１３０は、Ｂ用イメージセンサ１３２、及び光学系１３４を有する。Ｂ用イメージセンサ１３２は、光学系１３４により結像された像を撮像する。Ｂ用イメージセンサ１３２は、青色領域の波長帯域の光を透過するフィルタを有し、青色領域の波長帯域の画像信号であるＢ画像信号を出力する。青色領域の波長帯域は、例えば、４５０ｎｍ〜５００ｎｍである。青色領域の波長帯域は、青色領域の特定の波長帯域でよく、例えば、４６５ｎｍ〜４８５ｎｍでよい。

ＲＥ用撮像装置１４０は、ＲＥ用イメージセンサ１４２、及び光学系１４４を有する。ＲＥ用イメージセンサ１４２は、光学系１４４により結像された像を撮像する。ＲＥ用イメージセンサ１４２は、レッドエッジ領域の波長帯域の光を透過するフィルタを有し、レッドエッジ領域の波長帯域の画像信号であるＲＥ画像信号を出力する。レッドエッジ領域の波長帯域は、例えば、７０５ｎｍ〜７４５ｎｍである。レッドエッジ領域の波長帯域は、７１２ｎｍ〜７２２ｎｍでよい。

ＮＩＲ用撮像装置１５０は、ＮＩＲ用イメージセンサ１５２、及び光学系１５４を有する。ＮＩＲ用イメージセンサ１５２は、光学系１５４により結像された像を撮像する。ＮＩＲ用イメージセンサ１５２は、近赤外領域の波長帯域の光を透過するフィルタを有し、近赤外領域の波長帯域の画像信号であるＮＩＲ画像信号を出力する。近赤外領域の波長帯域は、例えば、８００ｎｍ〜２５００ｎｍである。近赤外領域の波長帯域は、８００ｎｍから９００ｎｍでよい。

画像処理プロセッサ１８０は、Ｒ用撮像装置１１０、Ｇ用撮像装置１２０、Ｂ用撮像装置１３０、ＲＥ用撮像装置１４０、及びＮＩＲ用撮像装置１５０から出力されるそれぞれの画像信号に対して予め定められた画像処理を施す。画像処理プロセッサ１８０は、回路の一例である。画像処理プロセッサ１８０は、ＣＰＵまたはＭＰＵ等のマイクロプロセッサ、ＭＣＵ等のマイクロコントローラ等により構成されてよい。

画像処理プロセッサ１８０は、いずれかのイメージセンサから出力された画像信号に基づいて、植物の状態を示す指標を算出する。画像処理プロセッサ１８０は、例えば、Ｒ画像信号及びＮＩＲ画像信号に基づいて、正規化植生指標（ＮＤＶＩ）を算出してよい。ＮＤＶＩは、植物が多く存在するほど高い値を示す。ＮＤＶＩは、葉が多い植物ほど高い値を示す。ＮＤＶＩは、活性度の高い植物ほど高い値を示す。

ここで、ＮＤＶＩは、以下の式で表される。

ＩＲは、近赤外線領域の反射率、Ｒは、可視領域の赤色の反射率を示す。

画像処理プロセッサ１８０は、例えば、Ｇ画像信号及びＮＩＲ画像信号に基づいて、ｇＮＤＶＩ（Ｇｒｅｅｎ Ｎｏｒｍａｌｉｚｅｄ Ｄｉｆｆｅｒｅｎｃｅ Ｖｅｇｅｔａｔｉｏｎ Ｉｎｄｅｘ）を算出してよい。ｇＮＤＶＩは、以下の式で表される。

ここで、Ｇは、可視領域の青色の反射率を示す。

画像処理プロセッサ１８０は、Ｒ画像信号及びＮＩＲ画像信号に基づいて、ＳＡＶＩ（Ｓｏｌｉｄ Ａｄｊｕｓｔｅｄ Ｖｅｇｅｔａｔｉｏｎ Ｉｎｄｅｘ）を算出してよい。ＳＡＶＩは、以下の式で表される。

ＳＡＶＩは、土壌の反射率の違いを考慮した指標である。土壌の反射率の違いを考慮する点で、ＮＤＶＩと異なる。Ｌは、植生が小さい場合には、１、大きい場合には、０．２５である。

画像処理プロセッサ１８０は、ＮＩＲ画像信号及びＲＥ画像信号に基づいて、ＮＤＲＥ（Ｎｏｒｍａｌｉｚｅｄ Ｄｉｆｆｅｒｅｎｃｅ Ｒｅｄ ｅｄｇｅ Ｉｎｄｅｘ）を算出してよい。ＮＤＲＥは、以下の式で表される。

ここで、ＮＩＲは、近赤外線の反射率、ＲＥは、レッドエッジの反射率を示す。ＮＤＲＥを用いることで、植生分布をより深く分析することができる。例えば、杉、及び檜の違いを分析することができる。

画像処理プロセッサ１８０は、ズレ量算出部１７０、ズレ補正部１７２、及び画像生成部１７４を有する。画像生成部１７４は、各イメージセンサから出力された画像信号の中から、予め定められた条件に従って、いずれかのイメージセンサから出力された画像信号を選択する。

画像生成部１７４は、Ｒ画像信号、Ｇ画像信号、及びＢ画像信号を選択してよい。画像生成部１７４は、Ｒ画像信号、Ｇ画像信号、及びＢ画像信号に基づいて、表示用の画像データを生成する。

画像生成部１７４は、Ｒ画像信号、及びＮＩＲ画像信号を選択してよい。画像生成部１７４は、Ｒ画像信号、及びＮＩＲ画像信号に基づいて、ＮＤＶＩを示す画像データを生成する。

画像生成部１７４は、Ｒ画像信号、及びＮＩＲ画像信号を選択してよい。画像生成部１７４は、Ｒ画像信号、及びＮＩＲ画像信号に基づいてｇＮＤＶＩを示す画像データを生成する。

送信部１９０は、表示用の画像データ、ＮＤＶＩを示す画像データ及びｇＮＤＶＩを示す画像データを表示装置に送信してよい。送信部１９０は、例えば、遠隔操作装置３００に表示用の画像データを送信してよい。遠隔操作装置３００は、表示部に表示用の画像データ、ＮＤＶＩを示す画像データ、またはｇＮＤＶＩを示す画像データをライブビューの画像として表示してよい。

画像生成部１７４は、Ｒ画像信号、Ｇ画像信号、Ｂ画像信号、ＲＥ画像信号、及びＮＩＲ画像信号に基づいて、予め定められた記録形式に従って記録用の画像データを生成してよい。画像生成部１７４は、Ｒ画像信号、Ｇ画像信号、Ｂ画像信号、ＲＥ画像信号、及びＮＩＲ画像信号から、ＲＡＷ形式に従って記録用の画像データとしてＲＡＷデータを生成してよい。画像生成部１７４は、Ｒ画像信号、Ｇ画像信号、Ｂ画像信号、ＲＥ画像信号、及びＮＩＲ画像信号のそれぞれを間引き処理せずにフル画素の記録用の画像データを生成してよい。画像生成部１７４は、記録用の画像データをメモリ１９２に格納してよい。メモリ１９２は、コンピュータ可読可能な記録媒体でよく、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、及びＵＳＢメモリなどのフラッシュメモリの少なくとも１つを含んでよい。メモリ１９２は、撮像システム１００の筐体の内部に設けられてよい。メモリ１９２は、撮像システム１００の筐体から取り外し可能に設けられてよい。

上記のように構成された撮像システム１００のそれぞれの撮像装置の光軸は、異なる位置にある。したがって、画像生成部１７４が、複数の画像信号から複数の画像データを合成した画像データを生成するためには、それぞれの画像信号から生成される画像データ同士を位置合わせする必要がある。

それぞれの撮像装置の光軸が水平であれば、光軸間の距離に相当する画素数を考慮して、それぞれの画像データの位置合わせを行えばよい。しかしながら、製造工程において、それぞれの撮像装置の光軸が水平ではない状態にズレることがある。

例えば、図５に示すように、ＵＡＶ１０が飛行しながら、撮像方向が鉛直下向きの状態で、それぞれの撮像装置が画像を撮像する。

ここで、Ｒ用撮像装置１１０などの第１撮像装置の光軸５０１及びＮＩＲ用撮像装置１５０またはＲＥ用撮像装置１４０などの第２撮像装置の光軸５０２が基準軸５００に対してそれぞれ傾いている。このような場合、撮像システム１００から被写体までの距離に応じて、第１撮像装置により撮像される第１画像と、第２撮像装置により撮像される第２画像との間の位置のズレ量が変化する。すなわち、撮像システム１００から被写体までの距離に応じて、第１撮像装置により撮像される第１画像と、第２撮像装置により撮像される第２画像との間の画素のズレ量が変化する。

そこで、画像処理プロセッサ１８０は、第１撮像装置及び第２撮像装置から被写体までの距離に応じて、第１撮像装置により撮像される第１画像と、第２撮像装置により撮像される第２画像との間の画素のズレを補正する。例えば、ＵＡＶ１０が飛行しながら、撮像方向が鉛直下向きの状態で、地面の植物などを撮像する場合、第１撮像装置及び第２撮像装置の高度ｈを、第１撮像装置及び第２撮像装置から被写体までの距離とみなすことができる。そこで、画像処理プロセッサ１８０は、第１撮像装置及び第２撮像装置の高度ｈに応じて、第１撮像装置により撮像される第１画像と、第２撮像装置により撮像される第２画像との間の画素のズレを補正する。画像処理プロセッサ１８０は、補正後の第１画像と第２画像とを合成させた画像を生成して、遠隔操作装置３００の表示部に表示させる。例えば、第１画像がＲ画像で、第２画像がＮＩＲ画像の場合、画像処理プロセッサ１８０は、補正後の第１画像及び第２画像のそれぞれの画素毎にＮＤＶＩを算出して、ＮＤＶＩの値を画素値として示す画像を生成して、遠隔操作装置３００の表示部に表示させる。

画像処理プロセッサ１８０は、光軸のズレに伴う画像間の位置ズレを補正すべく、ズレ量算出部１７０、及びズレ補正部１７２を含む。ズレ量算出部１７０は、第１撮像装置の第１光軸５０１と第２撮像装置の第２光軸５０２との間のズレに関するズレ情報と、第１撮像装置及び第２撮像装置の高度ｈを示す高度情報とを取得する。

ズレ情報は、第１光軸５０１と第２光軸５０２との成す角度を示す情報を含んでよい。ズレ情報は、第１光軸５０１と第２光軸５０２との成す角度として、第１光軸５０１と基準軸５００との成す角度（θ１ｘ，θ１ｙ）と、第２光軸５０２と基準軸５００との成す角度（θ２ｘ，θ２ｙ）とを示す情報を含んでよい。θ１ｘ及びθ２ｘは、図５における紙面に平行な平面に投影した第１光軸５０１及び第２光軸５０２のそれぞれと基準軸５００との成す角度を示す。θ１ｙ及びθ２ｙは、図５における紙面に垂直で、かつ基準軸５００を含む平面に投影した第１光軸５０１及び第２光軸５０２のそれぞれと基準軸５００との成す角度を示す。ＮＤＶＩを示す画像を生成する場合、ズレ情報は、図６に示すように、Ｒ用撮像装置１１０のｘ方向及びｙ方向の光軸と基準軸との成す角度、及びＮＩＲ用撮像装置１５０のｘ方向及びｙ方向の光軸と基準軸との成す角度を示す情報を含んでよい。

ズレ情報は、第１撮像装置と第２撮像装置との間の距離を示す情報を含んでよい。第１撮像装置の第１撮像面と第１光軸５０１との第１交点と、第２撮像装置の第２撮像面と第２光軸５０２との第２交点との間の距離ａを示す情報を含んでよい。ズレ情報は、第１撮像面と第２撮像面との間のズレ量を示す情報を含んでよい。ズレ情報は、高度と、第１画像と第２画像との間の位置のズレ量との関係を示す情報を含んでよい。ズレ情報は、垂直方向（ｘ方向）及び水平方向（ｙ方向）のそれぞれについて、予め定められたＸＹ座標系において画像を移動させるべき高度に応じた画素数を示してよい。

ズレ情報は、垂直方向（ｘ方向）及び水平方向（ｙ方向）のそれぞれについての画素数と高度との関係を示す情報を含んでよい。ズレ情報は、垂直方向（ｘ方向）及び水平方向（ｙ方向）のそれぞれについての画素数と被写体までの距離との関係を示す情報を含んでよい。

ズレ情報は、予め定められた高度に対する第１画像と第２画像との間の位置のズレ量を示す情報を含んでよい。ズレ情報は、垂直方向（ｘ方向）及び水平方向（ｙ方向）のそれぞれについて、予め定められた高度に対してＸＹ座標系において画像を移動させるべき画素数を示す情報を含んでよい。ズレ情報は、予め定められた被写体までの距離における第１画像と第２画像との間の位置のズレ量を示す情報を含んでよい。

ズレ量算出部１７０は、ズレ情報をメモリ３２などのメモリから取得してよい。ズレ量算出部１７０は、ＧＰＳ受信機４１または気圧高度計４４などから、高度情報を取得してよい。ズレ量算出部１７０は、ＵＡＶ１０の高度を示す高度情報を、それぞれの撮像装置の高度を示す高度情報として、取得してよい。ＵＡＶ１０が予め定められた高度を飛行するように設定されている場合には、ズレ量算出部１７０は、ＵＡＶ１０の制御情報からＵＡＶ１０の高度を示す高度情報を取得してもよい。

ズレ量算出部１７０は、ズレ情報及び高度情報に基づいて、ＸＹ座標系においてそれぞれの画像を移動させるべき方向及び画素数をズレ量として算出してよい。第１画像のズレ情報が、第１光軸５０１と基準軸５００との成す角度（θ１ｘ，θ１ｙ）を示す場合、ズレ量算出部１７０は、第１画像のｘ方向の移動量ｄｉｆｆ１ｘを、ｈ×ｔａｎ（θ１ｘ）、第１画像のｙ方向の移動量ｄｉｆｆ１ｙをｈ×ｔａｎ（θ１ｙ）として、算出してよい。ズレ量算出部１７０は、第１撮像装置の第１撮像面と第１光軸５０１との第１交点と基準軸５００との間のｘ方向およびｙ方向の距離をそれぞれの方向の移動量に加算して、第１画像のｘ方向の移動量（画素数）及び第１画像のｙ方向の移動量（画素数）を算出してよい。同様に、第２画像のズレ情報が、第２光軸５０２と基準軸５００との成す角度（θ２ｘ，θ２ｙ）を示す場合、ズレ量算出部１７０は、第２画像のｘ方向の移動量ｄｉｆｆ２ｘを、ｈ×ｔａｎ（θ２ｘ）、第２画像のｙ方向の移動量ｄｉｆｆ２ｙをｈ×ｔａｎ（θ２ｙ）として、算出してよい。ズレ量算出部１７０は、第２撮像装置の第２撮像面と第２光軸５０２との第２交点と基準軸５００との間のｘ方向およびｙ方向の距離をそれぞれの方向の移動量に加算して、第２画像のｘ方向の移動量（画素数）及び第１画像のｙ方向の移動量（画素数）を算出してよい。

ズレ補正部１７２は、ズレ量算出部１７０により算出されたズレ量に従って、それぞれの画像を移動させて、ＸＹ座標系上で画像同士の位置合わせを行う。画像生成部１７４は、位置合わせされた画像同士を重ね合わせて１つの画像を生成してよい。画像生成部１７４は、位置合わせされた画像同士を合成して１つの画像を生成してよい。

例えば、ズレ補正部１７２は、図７に示すように、第１画像のｘ方向の移動量ｄｉｆｆ１ｘ（画素数）及び第１画像のｙ方向の移動量ｄｉｆｆ１ｙ（画素数）だけ、第１画像６０１を移動させる。ズレ補正部１７２は、第２画像６０３のｘ方向の移動量ｄｉｆｆ２ｘ（画素数）及び第２画像６０３のｙ方向の移動量ｄｉｆｆ２ｙ（画素数）だけ、第２画像６０３を移動させることで、ＸＹ座標系上で第１画像及び第２画像の位置合わせを行ってよい。画像生成部１７４は、位置合わせされた第１画像６０２及び第２画像６０４を合成して、合成画像６０５を生成してよい。画像生成部１７４は、位置合わせされた第１画像６０２及び第２画像６０４のそれぞれの画素毎の画素値に基づいてＮＤＶＩなどの指標値を算出し、それぞれの指標値を画素値とする画像を合成画像６０５として生成してよい。画像生成部１７４は、位置合わせされた第１画像６０２及び第２画像６０４のうち、重畳する部分のみを合成画像６０５として切り出してよい。画像生成部１７４は、切り出された合成画像６０５の周囲に予め定められた画像を追加することで、予め定められたサイズの画像を生成してよい。画像生成部１７４は、切り出された合成画像６０５を、予め定められたサイズの画像に拡大することで、画像を生成してよい。

ところで、撮像システム１００の撮像方向は、鉛直下向きでない場合もある。鉛直下向きでない場合、高度を被写体までの距離とみなすと、位置合わせの精度が低下する可能性がある。

例えば、図８に示すように、鉛直下向きを示す軸５１０と撮像システム１００の基準軸５００との成す角度がθｇとなる方向が、撮像システム１００の撮像方向になる場合もある。このような場合に、高度ｈを被写体までの距離とみなして、ズレ量算出部１７０が、ズレ量を算出すると、画像同士の位置合わせの精度が低下する可能性がある。

そこで、ズレ量算出部１７０は、高度ｈに基づいて被写体までの距離Ｔを、ｈ／ｃｏｓ（θｇ）により算出してよい。

ズレ量算出部１７０は、ジンバル５０から撮像システム１００の姿勢を示す姿勢情報を取得してよい。ズレ量算出部１７０は、撮像装置１００の姿勢情報として、撮像システム１００の撮像方向を示す情報を取得してよい。ズレ量算出部１７０は、撮像装置１００の姿勢情報として、鉛直下向きを示す軸と、撮像システム１００の基準軸との成す角度θｇを示す情報を取得してよい。ズレ量算出部１７０は、角度θｇと、高度ｈとに基づいて、被写体までの距離Ｔを算出してよい。例えば、第１画像のズレ情報が、第１光軸５０１と基準軸５００との成す角度（θ１ｘ，θ１ｙ）を示す場合、ズレ量算出部１７０は、第１画像のｘ方向の移動量ｄｉｆｆ１ｘを、Ｔ×ｔａｎ（θ１ｘ）、第１画像のｙ方向の移動量ｄｉｆｆ１ｙをＴ×ｔａｎ（θ１ｙ）として、算出してよい。同様に、第２画像のズレ情報が、第２光軸５０２と基準軸５００との成す角度（θ２ｘ，θ２ｙ）を示す場合、ズレ量算出部１７０は、第２画像のｘ方向の移動量ｄｉｆｆ２ｘを、Ｔ×ｔａｎ（θ２ｘ）、第２画像のｙ方向の移動量ｄｉｆｆ２ｙをＴ×ｔａｎ（θ２ｙ）として、算出してよい。

ズレ量算出部１７０は、撮像システム１００から被写体までの距離を示す距離情報を取得して、距離情報とズレ情報とに基づいてズレ量を算出してよい。ズレ量算出部１７０は、撮像システム１００の撮像方向と鉛直下向きの方向との成す角度が予め定められた角度以下、例えば、１０度以下、または５度以下の状態の場合、高度を被写体の距離とみなして、ズレ量を算出してよい。ズレ量算出部１７０は、撮像システム１００の撮像方向と鉛直下向きの方向との成す角度が予め定められた角度より大きい場合には、高度情報と、姿勢情報とに基づいて、被写体までの距離を算出して、その被写体までの距離に基づいて、それぞれの画像のズレ量を算出してよい。ズレ量算出部１７０は、測距センサを介して被写体までの距離を示す距離情報を取得してもよい。

図９は、画像処理プロセッサ１８０による画像の位置合わせ処理の手順の一例を示すフローチャートである。

ズレ量算出部１７０は、ズレ情報、高度情報、及び姿勢情報を取得する（Ｓ１００）。ズレ量算出部１７０は、ズレ情報、高度情報、及び姿勢情報に基づいて画像のズレ量を算出する（Ｓ１０２）。ズレ量算出部１７０は、姿勢情報に基づいて、撮像システム１００の撮像方向と鉛直下向きの方向との間の成す角度θｇを算出する。ズレ量算出部１７０は、高度情報に示される高度ｈと、撮像システム１００の撮像方向と鉛直下向きの方向との間の成す角度θｇとに基づいて、ｈ／ｃｏｓ（θｇ）により、被写体までの距離を算出してよい。ズレ量算出部１７０は、角度θｇが予め定められた閾値以下であれば、高度ｈを被写体までの距離と決定してよい。ズレ量算出部１７０は、撮像システム１００が備える加速度センサまたは加速度センサからの撮像システム１００の姿勢情報に基づいて、撮像システム１００の撮像方向が鉛直下向きかどうかを判断してよい。

ズレ量算出部１７０は、ズレ情報と、被写体までの距離とに基づいて、第１撮像装置により撮像される第１画像のズレ量と、第２撮像装置により撮像される第２画像のズレ量とを算出してよい。第１画像のズレ情報が、第１光軸５０１と基準軸５００との成す角度（θ１ｘ，θ１ｙ）を示す場合、ズレ量算出部１７０は、第１画像のｘ方向の移動量ｄｉｆｆ１ｘをＴ×ｔａｎ（θ１ｘ）、第１画像のｙ方向の移動量ｄｉｆｆ１ｙをＴ×ｔａｎ（θ１ｙ）として、算出してよい。同様に、第２画像のズレ情報が、第２光軸５０２と基準軸５００との成す角度（θ２ｘ，θ２ｙ）を示す場合、ズレ量算出部１７０は、第２画像のｘ方向の移動量ｄｉｆｆ２ｘをＴ×ｔａｎ（θ２ｘ）、第２画像のｙ方向の移動量ｄｉｆｆ２ｙをＴ×ｔａｎ（θ２ｙ）として、算出してよい。

ズレ補正部１７２は、第１撮像装置により撮像された第１画像、及び第２撮像装置により撮像された第２画像を取得する（Ｓ１０４）。ズレ補正部１７２は、ズレ量に基づいて、ＸＹ座標系において第１画像及び第２画像を位置合わせする（Ｓ１０６）。ズレ補正部１７２は、ＸＹ座標系上で、第１画像をｘ方向にｄｉｆｆ１ｘ、ｙ方向にｄｉｆｆ１ｙだけ移動させることで、ＸＹ座標系上の第１画像の位置を補正し、ＸＹ座標系上で第２画像をｘ方向にｄｉｆｆ２ｘ、ｙ方向にｄｉｆｆ２ｙだけ移動させることで、ＸＹ座標系上の第２画像の位置を補正して、第１画像及び第２画像を位置合わせする。

画像生成部１７４は、位置合わせされた第１画像及び第２画像を合成して、表示画像を生成する（Ｓ１０８）。ＮＤＶＩの値を画素値として示すＮＤＶＩ画像を生成する場合、画像生成部１７４は、Ｒ画像である第１画像及びＩＲ画像である第２画像のそれぞれの画素ごとに、ＮＤＶＩを算出し、ＮＤＶＩ画像を表示画像として生成してよい。さらに、画像生成部１７４は、Ｒ画像、Ｇ画像、及びＢ画像を位置合わせして、ＲＧＢ画像を生成してよい。画像生成部１７４は、ＮＤＶＩ画像とＲＧＢ画像とを重畳させた重畳画像を表示画像として生成してもよい。

画像生成部１７４は、遠隔操作装置３００の表示部などに表示画像を送信する（Ｓ１１０）。表示部は、ＵＡＶ１０に搭載された撮像システム１００で撮像された画像から生成されたＮＤＶＩ画像をリアルタイムに表示できる。画像生成部１７４は、表示画像をメモリ１９２などに記憶させてよい。

画像処理プロセッサ１８０が、画像同士の位置合わせをパターンマッチングで行うことも考えられる。しかし、パターンマッチングで行う場合、画像処理プロセッサ１８０の処理能力を高くする必要がある。しかしながら、省電力化、軽量化、及びコスト削減などの観点から、ＵＡＶ１０に搭載される画像処理プロセッサ１８０の処理能力を高めることは好ましくない場合がある。

また、異なる波長帯域の画像同士、例えば、ＩＲ画像またはＲＥ画像と、Ｒ画像またはＧ画像とのパターンマッチングを精度よく行うことは、ＲＧＢ画像同士などの同一の波長帯域の画像同士のパターンマッチングに比べて容易ではない。

本実施形態によれば、撮像システム１００の高度、または被写体までの距離に基づいて、画像のズレ量を算出して、画像同士の位置合わせを行うことができる。したがって、異なる波長帯域の画像同士の位置合わせもパターマンチングよりも容易に行うことができる。

図１０は、ＵＡＶ１０に搭載される撮像システム１００の外観の他の一例を示す図である。撮像システム１００は、Ｇ用撮像装置１２０、Ｂ用撮像装置１３０、ＲＥ用撮像装置１４０、及びＮＩＲ用撮像装置１５０に加えて、ＲＧＢ用撮像装置１６０を備える点で、図２に示す撮像システム１００と異なる。ＲＧＢ用撮像装置１６０は、通常のカメラと同様でよく、光学系と、イメージセンサを有する。イメージセンサは、ベイヤ配列で配置された、赤色領域の波長帯域の光を透過するフィルタ、緑色領域の波長帯域の光を透過するフィルタ、及び青色領域の波長帯域の光を透過するフィルタを有してよい。ＲＧＢ用撮像装置１６０は、ＲＧＢ画像を出力してよい。赤色領域の波長帯域は、例えば、６２０ｎｍ〜７５０ｎｍでよい。緑色領域の波長帯域は、例えば、５００ｎｍ〜５７０ｎｍでよい。青色領域の波長帯域は、例えば、４５０ｎｍ〜５００ｎｍである。説明を簡単にするために、第１撮像装置と第２撮像装置の２つの撮像装置を例として説明した。しかしながら、実施形態で説明したように、撮像装置は２つに限られない。撮像装置が３つ以上でも同様に基準軸と光軸のずれ量を計算して画像の位置合わせを行うことができる。撮像装置は、Ｒ用撮像装置１１０、Ｇ用撮像装置１２０、Ｂ用撮像装置１３０、ＲＥ用撮像装置１４０、ＮＩＲ用撮像装置１５０、及びＲＧＢ用撮像装置１６０である。すなわち、第１画像がＲ画像で、第２画像がＮＩＲ画像とした。しかしながら、第１画像がＧ画像で、第２画像がＲＧＢ画像としてもよい。

図１１は、本発明の複数の態様が全体的または部分的に具現化されてよいコンピュータ１２００の一例を示す。コンピュータ１２００にインストールされたプログラムは、コンピュータ１２００に、本発明の実施形態に係る装置に関連付けられるオペレーションまたは当該装置の１または複数の「部」として機能させることができる。または、当該プログラムは、コンピュータ１２００に当該オペレーションまたは当該１または複数の「部」を実行させることができる。当該プログラムは、コンピュータ１２００に、本発明の実施形態に係るプロセスまたは当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ１２００に、本明細書に記載のフローチャート及びブロック図のブロックのうちのいくつかまたはすべてに関連付けられた特定のオペレーションを実行させるべく、ＣＰＵ１２１２によって実行されてよい。

本実施形態によるコンピュータ１２００は、ＣＰＵ１２１２、及びＲＡＭ１２１４を含み、それらはホストコントローラ１２１０によって相互に接続されている。コンピュータ１２００はまた、通信インタフェース１２２２、入力／出力ユニットを含み、それらは入力／出力コントローラ１２２０を介してホストコントローラ１２１０に接続されている。コンピュータ１２００はまた、ＲＯＭ１２３０を含む。ＣＰＵ１２１２は、ＲＯＭ１２３０及びＲＡＭ１２１４内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。

通信インタフェース１２２２は、ネットワークを介して他の電子デバイスと通信する。ハードディスクドライブが、コンピュータ１２００内のＣＰＵ１２１２によって使用されるプログラム及びデータを格納してよい。ＲＯＭ１２３０はその中に、アクティブ化時にコンピュータ１２００によって実行されるブートプログラム等、及び／またはコンピュータ１２００のハードウェアに依存するプログラムを格納する。プログラムが、ＣＲ−ＲＯＭ、ＵＳＢメモリまたはＩＣカードのようなコンピュータ可読記録媒体またはネットワークを介して提供される。プログラムは、コンピュータ可読記録媒体の例でもあるＲＡＭ１２１４、またはＲＯＭ１２３０にインストールされ、ＣＰＵ１２１２によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ１２００に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置または方法が、コンピュータ１２００の使用に従い情報のオペレーションまたは処理を実現することによって構成されてよい。

例えば、通信がコンピュータ１２００及び外部デバイス間で実行される場合、ＣＰＵ１２１２は、ＲＡＭ１２１４にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース１２２２に対し、通信処理を命令してよい。通信インタフェース１２２２は、ＣＰＵ１２１２の制御の下、ＲＡＭ１２１４、またはＵＳＢメモリのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、またはネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。

また、ＣＰＵ１２１２は、ＵＳＢメモリ等のような外部記録媒体に格納されたファイルまたはデータベースの全部または必要な部分がＲＡＭ１２１４に読み取られるようにし、ＲＡＭ１２１４上のデータに対し様々なタイプの処理を実行してよい。ＣＰＵ１２１２は次に、処理されたデータを外部記録媒体にライトバックしてよい。

様々なタイプのプログラム、データ、テーブル、及びデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。ＣＰＵ１２１２は、ＲＡＭ１２１４から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索／置換等を含む、様々なタイプの処理を実行してよく、結果をＲＡＭ１２１４に対しライトバックする。また、ＣＰＵ１２１２は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第２の属性の属性値に関連付けられた第１の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、ＣＰＵ１２１２は、第１の属性の属性値が指定される、条件に一致するエントリを当該複数のエントリの中から検索し、当該エントリ内に格納された第２の属性の属性値を読み取り、それにより予め定められた条件を満たす第１の属性に関連付けられた第２の属性の属性値を取得してよい。

上で説明したプログラムまたはソフトウェアモジュールは、コンピュータ１２００上またはコンピュータ１２００近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワークまたはインターネットに接続されたサーバーシステム内に提供されるハードディスクまたはＲＡＭのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ１２００に提供する。

特許請求の範囲、明細書、及び図面中において示した装置、システム、プログラム、及び方法における動作、手順、ステップ、及び段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、及び図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。

以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。

１０ ＵＡＶ
２０ ＵＡＶ本体
３０ ＵＡＶ制御部
３２ メモリ
３６ 通信インタフェース
４０ 推進部
４１ ＧＰＳ受信機
４２ 慣性計測装置
４３ 磁気コンパス
４４ 気圧高度計
４５ 温度センサ
４６ 湿度センサ
５０ ジンバル
６０ 撮像装置
１００ 撮像システム
１１０ Ｒ用撮像装置
１１２ Ｒ用イメージセンサ
１１４ 光学系
１２０ Ｇ用撮像装置
１２２ Ｇ用イメージセンサ
１２４ 光学系
１３０ Ｂ用撮像装置
１３２ Ｂ用イメージセンサ
１３４ 光学系
１４０ ＲＥ用撮像装置
１４２ ＲＥ用イメージセンサ
１４４ 光学系
１５０ ＮＩＲ用撮像装置
１５２ ＮＩＲ用イメージセンサ
１５４ 光学系
１６０ ＲＧＢ用撮像装置
１７０ ズレ量算出部
１７２ ズレ補正部
１７４ 画像生成部
１８０ 画像処理プロセッサ
１９０ 送信部
１９２ メモリ
３００ 遠隔操作装置
１２００ コンピュータ
１２１０ ホストコントローラ
１２１２ ＣＰＵ
１２１４ ＲＡＭ
１２２０ 入力／出力コントローラ
１２２２ 通信インタフェース
１２３０ ＲＯＭ

Claims (20)

1. 予め定められた位置関係で配置された第１撮像装置及び第２撮像装置により撮像されたそれぞれの画像を処理する画像処理装置であって、
   前記第１撮像装置の第１光軸と前記第２撮像装置の第２光軸との間のズレに関するズレ情報と、前記第１撮像装置及び前記第２撮像装置の高度を示す高度情報とを取得し、
   前記第１撮像装置により撮像された第１画像と、前記第２撮像装置により撮像された第２画像とを取得し、
   前記ズレ情報及び前記高度情報に基づいて、前記第１画像と前記第２画像とを位置合わせするように構成される回路を備え、
   前記回路は、
   前記第１光軸と基準軸との成す角度と、前記高度情報に示される高度とに基づいて算出された前記第１画像の第１移動量に、前記第１撮像装置の第１撮像面と前記第１光軸との第１交点と前記基準軸との間の距離を加算することで前記第１画像の第１ズレ量を算出し、
   前記第２光軸と基準軸との成す角度と、前記高度情報に示される高度とに基づいて算出された前記第２画像の第２移動量に、前記第２撮像装置の第２撮像面と前記第２光軸との第２交点と前記基準軸との間の距離を加算することで前記第２画像の第２ズレ量を算出し、
   前記第１ズレ量、及び前記第２ズレ量に基づいて、前記第１画像と前記第２画像とを位置合わせするように構成される、画像処理装置。
2. 前記ズレ情報は、前記第１光軸と前記第２光軸との成す角度を示す情報を含む、請求項１に記載の画像処理装置。
3. 前記ズレ情報は、前記第１撮像装置の第１撮像面と前記第１光軸との第１交点と、前記第２撮像装置の第２撮像面と前記第２光軸との第２交点との間の距離を示す情報を含む、請求項２に記載の画像処理装置。
4. 前記ズレ情報は、高度と、前記第１画像と前記第２画像との間の位置のズレ量との関係を示す情報を含む、請求項１から３の何れか１つに記載の画像処理装置。
5. 前記ズレ情報は、予め定められた高度に対する前記第１画像と前記第２画像との間の位置のズレ量を示す情報を含む、請求項１から４の何れか１つに記載の画像処理装置。
6. 前記第１撮像装置及び前記第２撮像装置は、移動体に搭載される、請求項１から５の何れか１つに記載の画像処理装置。
7. 前記第１撮像装置及び前記第２撮像装置は、前記第１撮像装置及び前記第２撮像装置の姿勢を調整可能に支持する支持機構を介して前記移動体に搭載され、
   前記回路は、前記第１撮像装置及び前記第２撮像装置の姿勢状態を示す姿勢情報をさらに取得し、
   前記姿勢情報にさらに基づいて、前記第１画像と前記第２画像とを位置合わせするように構成される、請求項６に記載の画像処理装置。
8. 前記移動体は、飛行体である、請求項６または７に記載の画像処理装置。
9. 前記第１撮像装置及び前記第２撮像装置は、前記第１撮像装置及び前記第２撮像装置の姿勢を調整可能に支持する支持機構を介して前記移動体に搭載され、
   前記回路は、
   前記第１撮像装置及び前記第２撮像装置の姿勢状態を示す姿勢情報を取得し、
   前記姿勢情報に基づいて、前記第１撮像装置及び前記第２撮像装置の撮像方向と鉛直下向きの方向との成す角度が予め定められた角度以下であるか判断し、
   前記角度が予め定められた角度以下である場合、前記ズレ情報及び前記高度情報に基づいて、前記第１画像と前記第２画像とを位置合わせし、
   前記角度が予め定められた角度より大きい場合、前記ズレ情報、前記高度情報、及び前記姿勢情報に基づいて、前記第１画像と前記第２画像とを位置合わせするように構成される、請求項６から８の何れか１つに記載の画像処理装置。
10. 前記第１撮像装置は、第１波長帯域の画像を撮像し、
    前記第２撮像装置は、第２波長帯域の画像を撮像する、請求項１から９の何れか１つに記載の画像処理装置。
11. 前記第１波長帯域は、近赤外領域の波長帯域であり、
    前記第２波長帯域は、赤色領域、緑色領域、またはレッドエッジ領域の波長帯域である、請求項１０に記載の画像処理装置。
12. 予め定められた位置関係で配置された第１撮像装置及び第２撮像装置により撮像されたそれぞれの画像を処理する画像処理装置であって、
    前記第１撮像装置の第１光軸と前記第２撮像装置の第２光軸との間のズレに関するズレ情報と、前記第１撮像装置及び前記第２撮像装置により撮像される被写体までの距離を示す距離情報とを取得し、
    前記第１撮像装置により撮像された前記被写体を含む第１画像と、前記第２撮像装置により撮像された前記被写体を含む第２画像とを取得し、
    前記ズレ情報及び前記距離情報に基づいて、前記第１画像と前記第２画像とを位置合わせするように構成される回路を備え、
    前記回路は、
    前記第１光軸と基準軸との成す角度と、前記距離情報に示される被写体までの距離とに基づいて算出された前記第１画像の第１移動量に、前記第１撮像装置の第１撮像面と前記第１光軸との第１交点と前記基準軸との間の距離を加算することで前記第１画像の第１ズレ量を算出し、
    前記第２光軸と基準軸との成す角度と、前記距離情報に示される被写体までの距離とに基づいて算出された前記第２画像の第２移動量に、前記第２撮像装置の第２撮像面と前記第２光軸との第２交点と前記基準軸との間の距離を加算することで前記第２画像の第２ズレ量を算出し、
    前記第１ズレ量、及び前記第２ズレ量に基づいて、前記第１画像と前記第２画像とを位置合わせするように構成される、画像処理装置。
13. 前記第１撮像装置は、第１波長帯域の画像を撮像し、
    前記第２撮像装置は、第２波長帯域の画像を撮像する、請求項１２に記載の画像処理装置。
14. 前記第１波長帯域は、近赤外領域の波長帯域であり、
    前記第２波長帯域は、赤色領域、緑色領域、またはレッドエッジ領域の波長帯域である、請求項１３に記載の画像処理装置。
15. 前記ズレ情報は、前記第１光軸と前記第２光軸との成す角度を示す情報を含む、請求項１２から１４の何れか１つに記載の画像処理装置。
16. 前記ズレ情報は、前記第１撮像装置の第１撮像面と前記第１光軸との第１交点と、前記第２撮像装置の第２撮像面と前記第２光軸との第２交点との間の距離を示す情報を含む、請求項１２から１５の何れか１つに記載の画像処理装置。
17. 前記ズレ情報は、被写体までの距離と、前記第１画像と前記第２画像との間の位置ズレ量との関係を示す情報を含む、請求項１２から１６の何れか１つに記載の画像処理装置。
18. 予め定められた位置関係で配置された第１撮像装置及び第２撮像装置により撮像されたそれぞれの画像を処理する画像処理方法であって、
    前記第１撮像装置の第１光軸と前記第２撮像装置の第２光軸との間のズレに関するズレ情報と、前記第１撮像装置及び前記第２撮像装置の高度を示す高度情報とを取得する段階と、
    前記第１撮像装置により撮像された第１画像と、前記第２撮像装置により撮像された第２画像とを取得する段階と、
    前記ズレ情報及び前記高度情報に基づいて、前記第１画像と前記第２画像とを位置合わせする段階と
    を備え、
    前記位置合わせする段階は、
    前記第１光軸と基準軸との成す角度と、前記高度情報に示される高度とに基づいて算出された前記第１画像の第１移動量に、前記第１撮像装置の第１撮像面と前記第１光軸との第１交点と前記基準軸との間の距離を加算することで前記第１画像の第１ズレ量を算出する段階と、
    前記第２光軸と基準軸との成す角度と、前記高度情報に示される高度とに基づいて算出された前記第２画像の第２移動量に、前記第２撮像装置の第２撮像面と前記第２光軸との第２交点と前記基準軸との間の距離を加算することで前記第２画像の第２ズレ量を算出する段階と、
    前記第１ズレ量、及び前記第２ズレ量に基づいて、前記第１画像と前記第２画像とを位置合わせする段階と
    を含む、画像処理方法。
19. 予め定められた位置関係で配置された第１撮像装置及び第２撮像装置により撮像されたそれぞれの画像を処理する画像処理方法であって、
    前記第１撮像装置の第１光軸と前記第２撮像装置の第２光軸との間のズレに関するズレ情報と、前記第１撮像装置及び前記第２撮像装置により撮像される被写体までの距離を示す距離情報とを取得する段階と、
    前記第１撮像装置により撮像された前記被写体を含む第１画像と、前記第２撮像装置により撮像された前記被写体を含む第２画像とを取得する段階と、
    前記ズレ情報及び前記距離情報に基づいて、前記第１画像と前記第２画像とを位置合わせする段階と
    を備え、
    前記位置合わせする段階は、
    前記第１光軸と基準軸との成す角度と、前記距離情報に示される被写体までの距離とに基づいて算出された前記第１画像の第１移動量に、前記第１撮像装置の第１撮像面と前記第１光軸との第１交点と前記基準軸との間の距離を加算することで前記第１画像の第１ズレ量を算出する段階と、
    前記第２光軸と基準軸との成す角度と、前記距離情報に示される被写体までの距離とに基づいて算出された前記第２画像の第２移動量に、前記第２撮像装置の第２撮像面と前記第２光軸との第２交点と前記基準軸との間の距離を加算することで前記第２画像の第２ズレ量を算出する段階と、
    前記第１ズレ量、及び前記第２ズレ量に基づいて、前記第１画像と前記第２画像とを位置合わせする段階とを含む、画像処理方法。
20. 請求項１から１７の何れか１つに記載の画像処理装置としてコンピュータを機能させるためのプログラム。

Images