JP2021057684A - 画像処理装置、撮像装置、移動体、画像処理方法、及びプログラム - Google Patents

Abstract

【課題】撮像装置に対して相対的に動く被写体を撮像した画像に、適切な強度で高周波成分を強調する画像処理を施すこと。【解決手段】画像処理装置は、撮像装置が位置又は撮像方向を変えながら撮像した画像に高周波数成分を強調する画像処理を施す。画像処理装置は、撮像装置が備える撮像レンズの像面領域毎の結像性能の高さを示す情報を取得し、画像から画像領域毎のコントラストの高さを示す情報を取得し、撮像装置に対する被写体の画像領域毎の動き速度を特定し、像面領域毎の結像性能の高さ及び画像領域毎のコントラストの高さに基づいて、画像領域毎の指標値を算出し、画像領域毎の指標値及び画像領域毎の動き速度に基づいて画像領域毎に画像処理の強度を決定し、前記画像領域毎に決定した強度で前記画像処理を実行するように構成された回路を備える。【選択図】図１０

Description

本発明は、画像処理装置、撮像装置、移動体、画像処理方法、及びプログラムに関する。

特許文献１には、コントラスト感を向上させるエンハンサ（画質改善装置）が開示されている。
［先行技術文献］
［特許文献］
［特許文献１］ 特開２０１０−２８１７８号公報

例えば撮像装置が位置又は撮像方向を変えながら撮影した場合に、撮像装置に対する被写体の相対的な動き速度が高い画像領域と被写体の相対的な動き速度が低い画像領域とを含む画像が得られる場合がある。このように被写体の動きがある画像には、適切な強度で高周波成分を強調する画像処理を行うことが望まれる。

本発明の一態様に係る画像処理装置は、撮像装置が位置又は撮像方向を変えながら撮像した画像に高周波数成分を強調する画像処理を施す。画像処理装置は、撮像装置が備える撮像レンズの像面領域毎の結像性能の高さを示す情報を取得する。画像処理装置は、画像から画像領域毎のコントラストの高さを示す情報を取得する。画像処理装置は、撮像装置に対する被写体の画像領域毎の動き速度を特定する。画像処理装置は、像面領域毎の結像性能の高さ及び画像領域毎のコントラストの高さに基づいて、画像領域毎の指標値を算出する。画像処理装置は、画像領域毎の指標値及び画像領域毎の動き速度に基づいて画像領域毎に画像処理の強度を決定し、画像領域毎に決定した強度で画像処理を実行する。

レンズの像面領域毎の結像性能の高さを示す情報は、レンズの像高毎のＭＴＦを示す情報に基づいてよい。

回路は、結像性能の高さが高いほど指標値を高く算出し、コントラストが高いほど指標値を高く算出するように構成されてよい。

回路は、画像領域における指標値が高く動き速度が高いほど、画像領域に施す画像処理の強度を弱くするように構成されてよい。

回路は、画像領域における指標値が基準値より高い場合に、画像領域における動き速度が高いほど、画像処理の強度を弱くするように構成されてよい。

回路は、画像領域における指標値が基準値より低い場合に、画像領域における動き速度が低いほど、画像処理の強度を強くするように構成されてよい。

回路は、画像領域における動き速度が基準値より高い場合に、画像領域における指標値が高いほど、画像処理の強度を弱くするように構成されてよい。

回路は、画像領域における動き速度が基準値より低い場合に、画像領域における指標値が低いほど、画像処理の強度を強くするように構成されてよい。

回路は、撮像装置の向きが変化する場合に、画像を用いて特定した被写体の動き速度及び撮像装置の向きの変化速度に基づいて、次のタイミングで撮像される画像における被写体の動き速度を画像領域毎に特定し、画像領域毎の指標値及び特定した動き速度に基づいて、次のタイミングで撮像される画像に適用する画像処理の強度を決定するように構成されてよい。

回路は、撮像装置の移動速度が変化する場合に、画像を用いて特定した被写体の動き速度及び撮像装置の移動速度の変化量に基づいて、次のタイミングで撮像される画像における被写体の動き速度を画像領域毎に特定し、画像領域毎の指標値及び特定した動き速度に基づいて、次のタイミングで撮像される画像に適用する画像処理の強度を決定するように構成されてよい。

本発明の一態様に係る撮像装置は、イメージセンサと、上記の画像処理装置と備える。

本発明の一態様に係る移動体は、上記撮像装置を備えて移動する移動体でよい。

本発明の一態様に係る画像処理方法は、撮像装置が位置又は撮像方向を変えながら撮像した画像に高周波数成分を強調する画像処理を施す。画像処理方法は、撮像装置が備える撮像レンズの像面領域毎の結像性能の高さを示す情報を取得する段階を備える。画像処理方法は、画像から画像領域毎のコントラストの高さを示す情報を取得する段階を備える。画像処理方法は、撮像装置に対する被写体の画像領域毎の動き速度を特定する段階を備える。画像処理方法は、像面領域毎の結像性能の高さ及び画像領域毎のコントラストの高さに基づいて、画像領域毎の指標値を算出する段階を備える。画像処理方法は、画像領域毎の指標値及び画像領域毎の動き速度に基づいて画像領域毎に画像処理の強度を決定し、画像領域毎に決定した強度で画像処理を実行する段階を備える。

本発明の一態様に係るプログラムは、撮像装置が位置又は撮像方向を変えながら撮像した画像に高周波数成分を強調する画像処理をコンピュータに実行させる。プログラムは、撮像装置が備える撮像レンズの像面領域毎の結像性能の高さを示す情報を取得する手順をコンピュータに実行させる。プログラムは、画像から画像領域毎のコントラストの高さを示す情報を取得する手順をコンピュータに実行させる。プログラムは、撮像装置に対する被写体の画像領域毎の動き速度を特定する手順をコンピュータに実行させる。プログラムは、像面領域毎の結像性能の高さ及び画像領域毎のコントラストの高さに基づいて、画像領域毎の指標値を算出する手順をコンピュータに実行させる。プログラムは、画像領域毎の指標値及び画像領域毎の動き速度に基づいて画像領域毎に画像処理の強度を決定し、画像領域毎に決定した強度で画像処理を実行する手順をコンピュータに実行させる。

本発明の一態様によれば、撮像装置に対して相対的に動く被写体を撮像した画像に適切な強度で高周波成分を強調する画像処理を施すことができる。

なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。

無人航空機（ＵＡＶ）１０及び遠隔操作装置３００の外観の一例を示す。 ＵＡＶ１０の機能ブロックの一例を示す。 レンズ２１０のＭＴＦ（Ｍｏｄｕｌａｔｉｏｎ ＴｒａｎＳｆｅｒ Ｆｕｎｃｔｉｏｎ）の像高依存性の一部を示す。 ＭＴＦマップを示す。 コントラストマップを示す。 コントラスト指標値マップを示す。 相対速度マップを示す。 エンハンスフィルタのゲイン情報の一例である。 エンハンスフィルタの周波数特性を模式的に示す。 撮像制御部１１０が実行する処理の手順を示すフローチャートである。 本発明の複数の態様が全体的または部分的に具現化されてよいコンピュータ１２００の一例を示す。

以下、発明の実施の形態を通じて本発明を説明するが、以下の実施の形態は特許請求の範囲に係る発明を限定するものではない。また、実施の形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。以下の実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。

特許請求の範囲、明細書、図面、及び要約書には、著作権による保護の対象となる事項が含まれる。著作権者は、これらの書類の何人による複製に対しても、特許庁のファイルまたはレコードに表示される通りであれば異議を唱えない。ただし、それ以外の場合、一切の著作権を留保する。

本発明の様々な実施形態は、フローチャート及びブロック図を参照して記載されてよく、ここにおいてブロックは、（１）操作が実行されるプロセスの段階または（２）操作を実行する役割を持つ装置の「部」を表わしてよい。特定の段階及び「部」が、プログラマブル回路、及び／またはプロセッサによって実装されてよい。専用回路は、デジタル及び／またはアナログハードウェア回路を含んでよい。集積回路（ＩＣ）及び／またはディスクリート回路を含んでよい。プログラマブル回路は、再構成可能なハードウェア回路を含んでよい。再構成可能なハードウェア回路は、論理ＡＮＤ、論理ＯＲ、論理ＸＯＲ、論理ＮＡＮＤ、論理ＮＯＲ、及び他の論理操作、フリップフロップ、レジスタ、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、プログラマブルロジックアレイ（ＰＬＡ）等のようなメモリ要素等を含んでよい。

コンピュータ可読媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよい。その結果、そこに格納される命令を有するコンピュータ可読媒体は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読媒体のより具体的な例としては、フロッピー（登録商標）ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ（ＲＡＭ）、リードオンリメモリ（ＲＯＭ）、消去可能プログラマブルリードオンリメモリ（ＥＰＲＯＭまたはフラッシュメモリ）、電気的消去可能プログラマブルリードオンリメモリ（ＥＥＰＲＯＭ）、静的ランダムアクセスメモリ（ＳＲＡＭ）、コンパクトディスクリードオンリメモリ（ＣＤ-ＲＯＭ）、デジタル多用途ディスク（ＤＶＤ）、ブルーレイ（ＲＴＭ）ディスク、メモリスティック、集積回路カード等が含まれてよい。

コンピュータ可読命令は、１または複数のプログラミング言語の任意の組み合わせで記述されたソースコードまたはオブジェクトコードの何れかを含んでよい。ソースコードまたはオブジェクトコードは、従来の手続型プログラミング言語を含む。従来の手続型プログラミング言語は、アセンブラ命令、命令セットアーキテクチャ（ＩＳＡ）命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、またはＳｍａｌｌｔａｌｋ（登録商標）、ＪＡＶＡ（登録商標）、Ｃ＋＋等のようなオブジェクト指向プログラミング言語、及び「Ｃ」プログラミング言語または同様のプログラミング言語でよい。コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサまたはプログラマブル回路に対し、ローカルにまたはローカルエリアネットワーク（ＬＡＮ）、インターネット等のようなワイドエリアネットワーク（ＷＡＮ）を介して提供されてよい。プロセッサまたはプログラマブル回路は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく、コンピュータ可読命令を実行してよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。

図１は、無人航空機（ＵＡＶ）１０及び遠隔操作装置３００の外観の一例を示す。ＵＡＶ１０は、ＵＡＶ本体２０、ジンバル５０、複数の撮像装置６０、及び撮像装置１００を備える。ジンバル５０及び撮像装置１００は、撮像システムの一例である。ＵＡＶ１０は、移動体とは、空中を移動する飛行体、地上を移動する車両、水上を移動する船舶等を含む概念である。空中を移動する飛行体とは、ＵＡＶの他、空中を移動する他の航空機、飛行船、ヘリコプター等を含む概念である。

ＵＡＶ本体２０は、複数の回転翼を備える。複数の回転翼は、推進部の一例である。ＵＡＶ本体２０は、複数の回転翼の回転を制御することでＵＡＶ１０を飛行させる。ＵＡＶ本体２０は、例えば、４つの回転翼を用いてＵＡＶ１０を飛行させる。回転翼の数は、４つには限定されない。また、ＵＡＶ１０は、回転翼を有さない固定翼機でもよい。

撮像装置１００は、所望の撮像範囲に含まれる被写体を撮像する撮像用のカメラである。ジンバル５０は、撮像装置１００を回転可能に支持する。ジンバル５０は、支持機構の一例である。例えば、ジンバル５０は、撮像装置１００を、アクチュエータを用いてピッチ軸で回転可能に支持する。ジンバル５０は、撮像装置１００を、アクチュエータを用いて更にロール軸及びヨー軸のそれぞれを中心に回転可能に支持する。ジンバル５０は、ヨー軸、ピッチ軸、及びロール軸の少なくとも１つを中心に撮像装置１００を回転させることで、撮像装置１００の姿勢を変更してよい。

複数の撮像装置６０は、ＵＡＶ１０の飛行を制御するためにＵＡＶ１０の周囲を撮像するセンシング用のカメラである。２つの撮像装置６０が、ＵＡＶ１０の機首である正面に設けられてよい。更に他の２つの撮像装置６０が、ＵＡＶ１０の底面に設けられてよい。正面側の２つの撮像装置６０はペアとなり、いわゆるステレオカメラとして機能してよい。底面側の２つの撮像装置６０もペアとなり、ステレオカメラとして機能してよい。複数の撮像装置６０により撮像された画像に基づいて、ＵＡＶ１０の周囲の３次元空間データが生成されてよい。ＵＡＶ１０が備える撮像装置６０の数は４つには限定されない。ＵＡＶ１０は、少なくとも１つの撮像装置６０を備えていればよい。ＵＡＶ１０は、ＵＡＶ１０の機首、機尾、側面、底面、及び天井面のそれぞれに少なくとも１つの撮像装置６０を備えてもよい。撮像装置６０で設定できる画角は、撮像装置１００で設定できる画角より広くてよい。撮像装置６０は、単焦点レンズまたは魚眼レンズを有してもよい。

遠隔操作装置３００は、ＵＡＶ１０と通信して、ＵＡＶ１０を遠隔操作する。遠隔操作装置３００は、ＵＡＶ１０と無線で通信してよい。遠隔操作装置３００は、ＵＡＶ１０に上昇、下降、加速、減速、前進、後進、回転などのＵＡＶ１０の移動に関する各種命令を示す指示情報を送信する。指示情報は、例えば、ＵＡＶ１０の高度を上昇させる指示情報を含む。指示情報は、ＵＡＶ１０が位置すべき高度を示してよい。ＵＡＶ１０は、遠隔操作装置３００から受信した指示情報により示される高度に位置するように移動する。指示情報は、ＵＡＶ１０を上昇させる上昇命令を含んでよい。ＵＡＶ１０は、上昇命令を受け付けている間、上昇する。ＵＡＶ１０は、上昇命令を受け付けても、ＵＡＶ１０の高度が上限高度に達している場合には、上昇を制限してよい。

図２は、ＵＡＶ１０の機能ブロックの一例を示す。ＵＡＶ１０は、ＵＡＶ制御部３０、メモリ３７、通信インタフェース３６、推進部４０、ＧＰＳ受信機４１、慣性計測装置４２、磁気コンパス４３、気圧高度計４４、温度センサ４５、湿度センサ４６、ジンバル５０、撮像装置６０、及び撮像装置１００を備える。

通信インタフェース３６は、遠隔操作装置３００などの他の装置と通信する。通信インタフェース３６は、遠隔操作装置３００からＵＡＶ制御部３０に対する各種の命令を含む指示情報を受信してよい。メモリ３７は、ＵＡＶ制御部３０が、推進部４０、ＧＰＳ受信機４１、慣性計測装置（ＩＭＵ）４２、磁気コンパス４３、気圧高度計４４、温度センサ４５、湿度センサ４６、ジンバル５０、撮像装置６０、及び撮像装置１００を制御するのに必要なプログラム等を格納する。メモリ３７は、コンピュータ読み取り可能な記録媒体でよく、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、ＵＳＢメモリ、及びソリッドステートドライブ（ＳＳＤ）等のフラッシュメモリの少なくとも１つを含んでよい。メモリ３７は、ＵＡＶ本体２０の内部に設けられてよい。ＵＡＶ本体２０から取り外し可能に設けられてよい。

ＵＡＶ制御部３０は、メモリ３７に格納されたプログラムに従ってＵＡＶ１０の飛行及び撮像を制御する。ＵＡＶ制御部３０は、ＣＰＵまたはＭＰＵ等のマイクロプロセッサ、ＭＣＵ等のマイクロコントローラ等により構成されてよい。ＵＡＶ制御部３０は、通信インタフェース３６を介して遠隔操作装置３００から受信した命令に従って、ＵＡＶ１０の飛行及び撮像を制御する。推進部４０は、ＵＡＶ１０を推進させる。推進部４０は、複数の回転翼と、複数の回転翼を回転させる複数の駆動モータとを有する。推進部４０は、ＵＡＶ制御部３０からの命令に従って複数の駆動モータを介して複数の回転翼を回転させて、ＵＡＶ１０を飛行させる。

ＧＰＳ受信機４１は、複数のＧＰＳ衛星から発信された時刻を示す複数の信号を受信する。ＧＰＳ受信機４１は、受信された複数の信号に基づいてＧＰＳ受信機４１の位置（緯度及び経度）、つまりＵＡＶ１０の位置（緯度及び経度）を算出する。ＩＭＵ４２は、ＵＡＶ１０の姿勢を検出する。ＩＭＵ４２は、ＵＡＶ１０の姿勢として、ＵＡＶ１０の前後、左右、及び上下の３軸方向の加速度と、ピッチ、ロール、及びヨーの３軸方向の角速度とを検出する。磁気コンパス４３は、ＵＡＶ１０の機首の方位を検出する。気圧高度計４４は、ＵＡＶ１０が飛行する高度を検出する。気圧高度計４４は、ＵＡＶ１０の周囲の気圧を検出し、検出された気圧を高度に換算して、高度を検出する。温度センサ４５は、ＵＡＶ１０の周囲の温度を検出する。湿度センサ４６は、ＵＡＶ１０の周囲の湿度を検出する。

撮像装置１００は、撮像部１０２及びレンズ部２００を備える。レンズ部２００は、レンズ装置の一例である。撮像部１０２は、イメージセンサ１２０、撮像制御部１１０、メモリ１３０、及び測距センサ１４０を有する。イメージセンサ１２０は、ＣＣＤまたはＣＭＯＳにより構成されてよい。イメージセンサ１２０は、複数のレンズ２１０を介して結像された光学像を撮像し、撮像された画像を撮像制御部１１０に出力する。撮像制御部１１０は、ＣＰＵまたはＭＰＵなどのマイクロプロセッサ、ＭＣＵなどのマイクロコントローラなどにより構成されてよい。撮像制御部１１０は、ＵＡＶ制御部３０からの撮像装置１００の動作命令に応じて、撮像装置１００を制御してよい。撮像制御部１１０は、回路の一例である。メモリ１３０は、コンピュータ可読可能な記録媒体でよく、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、ＵＳＢメモリ、及びソリッドステートドライブ（ＳＳＤ）などのフラッシュメモリの少なくとも１つを含んでよい。メモリ１３０は、撮像制御部１１０がイメージセンサ１２０などを制御するのに必要なプログラム等を格納する。メモリ１３０は、撮像装置１００の筐体の内部に設けられてよい。メモリ１３０は、撮像装置１００の筐体から取り外し可能に設けられてよい。

測距センサ１４０は、被写体までの距離を測距する。測距センサ１４０は、赤外線センサ、超音波センサ、ステレオカメラ、ＴＯＦ（Ｔｉｍｅ Ｏｆ Ｆｌｉｇｈｔ）センサなどでよい。

レンズ部２００は、複数のレンズ２１０、複数のレンズ駆動部２１２、及びレンズ制御部２２０を有する。複数のレンズ２１０は、ズームレンズ、バリフォーカルレンズ、及びフォーカスレンズとして機能してよい。複数のレンズ２１０の少なくとも一部または全部は、光軸に沿って移動可能に配置される。レンズ部２００は、撮像部１０２に対して着脱可能に設けられる交換レンズでよい。レンズ駆動部２１２は、カム環などの機構部材を介して、複数のレンズ２１０の少なくとも一部または全部を光軸に沿って移動させる。レンズ駆動部２１２は、アクチュエータを含んでよい。アクチュエータは、ステッピングモータを含んでよい。レンズ制御部２２０は、撮像部１０２からのレンズ制御命令に従って、レンズ駆動部２１２を駆動して、機構部材を介して１または複数のレンズ２１０を光軸方向に沿って移動させる。レンズ制御命令は、例えば、ズーム制御命令、及びフォーカス制御命令である。

レンズ部２００は、メモリ２２２、位置センサ２１４をさらに有する。レンズ制御部２２０は、撮像部１０２からのレンズ動作命令に応じてレンズ駆動部２１２を介して、レンズ２１０の光軸方向への移動を制御する。レンズ制御部２２０は、撮像部１０２からのレンズ動作命令に応じてレンズ駆動部２１２を介して、レンズ２１０の光軸方向への移動を制御する。レンズ２１０の一部または全部は、光軸に沿って移動する。レンズ制御部２２０は、レンズ２１０の少なくとも１つを光軸に沿って移動させることで、ズーム動作及びフォーカス動作の少なくとも一方を実行する。位置センサ２１４は、レンズ２１０の位置を検出する。位置センサ２１４は、現在のズーム位置またはフォーカス位置を検出してよい。

レンズ駆動部２１２は、振れ補正機構を含んでよい。レンズ制御部２２０は、振れ補正機構を介して、レンズ２１０を光軸に沿った方向、または光軸に垂直な方向に移動させることで、振れ補正を実行してよい。レンズ駆動部２１２は、ステッピングモータにより振れ補正機構を駆動して、振れ補正を実行してよい。なお、振れ補正機構は、ステッピングモータにより駆動されて、イメージセンサ１２０を光軸に方向に沿った方向、または光軸に垂直な方向に移動させることで、振れ補正を実行してよい。

メモリ２２２は、レンズ駆動部２１２を介して移動する複数のレンズ２１０の制御値を記憶する。メモリ２２２は、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、及びＵＳＢメモリなどのフラッシュメモリの少なくとも１つを含んでよい。

撮像装置１００が備える画像処理機能について説明する。画像処理機能は、撮像制御部１１０が担う。撮像制御部１１０は、イメージセンサ１２０から出力される画像に、エンハンスフィルタを適用することによってエンハンス処理を行う。エンハンス処理は、エッジ強調処理等や鮮鋭化処理などのような、画像の高周波領域の空間周波数成分を強調する処理の一例である。撮像制御部１１０は、イメージセンサ１２０から順次に出力される画像に、それぞれエンハンス処理を含む画像処理を施すことによって記録用の映像データを生成して、メモリ１３０に記録する。本実施形態では、主として、ＵＡＶ１０が飛行しながら撮影する場合や、ジンバル５０で撮像装置１００の向きを変えながら撮影する場合に、撮像制御部１１０が実行するエンハンス処理を説明する。

撮像制御部１１０は、撮像装置１００が備えるレンズ２１０の像面領域毎の結像性能の高さを示す情報を取得する。レンズの像面領域毎の結像性能の高さを示す情報は、前記レンズの像高毎のＭＴＦを示す情報に基づく情報であってよい。

撮像制御部１１０は、画像から画像領域毎のコントラストの高さを示す情報を取得する。撮像制御部１１０は、撮像装置１００に対する被写体の画像領域毎の動き速度を特定する。撮像制御部１１０は、像面領域毎の結像性能の高さ及び前記画像領域毎のコントラストの高さに基づいて、画像領域毎の指標値を算出する。指標値は、コントラストの高さを示す指標値であってよい。撮像制御部１１０は、画像領域毎の指標値及び画像領域毎の動き速度に基づいて画像領域毎にエンハンス処理の強度を決定し、画像領域毎に決定した強度でエンハンス処理を実行する。

撮像制御部１１０は、結像性能の高さが高いほど前記指標値を高く算出し、コントラストが高いほど指標値を高く算出する。例えば、撮像制御部１１０は、結像性能の高さを示す値と、コントラストの高さを示す値との積により、指標値を算出してよい。

撮像制御部１１０は、画像領域における指標値が高く動き速度が高いほど、画像領域に施すエンハンス処理の強度を弱くしてよい。例えば、撮像制御部１１０は、画像領域における指標値が基準値より高い場合に、画像領域における前記動き速度が高いほど、エンハンス処理の強度を弱くしてよい。撮像制御部１１０は、画像領域における指標値が基準値より低い場合に、画像領域における前記動き速度が低いほど、エンハンス処理の強度を強くしてよい。

撮像制御部１１０は、画像領域における動き速度が基準値より高い場合に、画像領域における前記指標値が高いほど、エンハンス処理の強度を弱くしてよい。撮像制御部１１０は、画像領域における動き速度が基準値より低い場合に、画像領域における指標値が低いほど、エンハンス処理の強度を強くしてよい。

撮像制御部１１０は、撮像装置１００の向きが変化する場合に、画像を用いて特定した被写体の動き速度及び撮像装置１００の向きの変化速度に基づいて、次のタイミングで撮像される画像における被写体の動き速度を画像領域毎に特定し、画像領域毎の指標値及び特定した動き速度に基づいて、次のタイミングで撮像される画像に適用するエンハンス処理の強度を決定する。

撮像制御部１１０は、撮像装置１００の移動速度が変化する場合に、画像を用いて特定した被写体の動き速度及び撮像装置１００の移動速度の変化量に基づいて、次のタイミングで撮像される画像における被写体の動き速度を画像領域毎に特定し、画像領域毎の指標値及び特定した動き速度に基づいて、次のタイミングで撮像される画像に適用するエンハンス処理の強度を決定してよい。

図３は、レンズ２１０のＭＴＦ（Ｍｏｄｕｌａｔｉｏｎ ＴｒａｎＳｆｅｒ Ｆｕｎｃｔｉｏｎ）の像高依存性の一部を示す。図３のグラフの横軸は像高を表し、縦軸はコントラストを表す。グラフ３１０は、Ｆ値（絞り値）が２．８の場合のＭＴＦを表す。グラフ３２０は、Ｆ値が１１の場合のＭＴＦを表す。これらのグラフは、予め定められた特定の空間周波数におけるＭＴＦを示す。

図４は、ＭＴＦマップを示す。ＭＴＦマップは、図３に示す像高データに基づいて生成される情報である。図４は、画像全体を４行６列の画像領域に分割した場合のＭＴＦマップである。なお、本実施形態では、分かり易く説明することを目的として、画像全体を４行６列の画像領域に分割する場合を例示する。しかし、画像全体を任意の数の画像領域に分割する形態を採用し得る。また、画像領域の形状は、正方形や矩形に限らず、任意の形状を有してよい。

ＭＴＦマップは、各画像領域に対応づけられたＭＴＦのコントラスト値を含む。上述したように、ＭＴＦはＦ値によって変化する。そのため、ＭＴＦマップは、Ｆ値毎に生成される。メモリ１３０は、Ｆ値に対応づけてＭＴＦマップを記憶する。撮像制御部１１０は、現在のレンズ２１０のＦ値に対応づけられるＭＴＦマップをメモリ１３０から読み出す。

図５は、コントラストマップを示す。コントラストマップは、イメージセンサ１２０から取得した画像から検出された画像領域毎のコントラスト値を示す情報である。図５は、画像全体を４行６列の画像領域に分割した場合のコントラストマップを示す。コントラストマップは、各画像領域に対応づけられたコントラスト値を含む。撮像制御部１１０は、画像内の各画像領域の画像からコントラスト値を検出することによって、コントラストマップを生成する。

図６は、コントラスト指標値マップを示す。コントラスト指標値マップは、ＭＴＦマップ及びコントラストマップに基づいて生成される。コントラスト指標値マップは、画像領域毎のコントラスト指標値を示す。撮像制御部１１０は、画像領域のそれぞれおけるＭＴＦマップのコントラスト値とコントラストマップのコントラスト値との積を、コントラスト指標値として算出する。

なお、撮像制御部１１０は、生成したコントラスト指標値マップのコントラスト指標値の大きさに基づいて、各画像領域のコントラスト指標値を５レベルに分類する。例えば、撮像制御部１１０は、算出されたコントラスト指標値の最小値から最大値までの範囲を５個の範囲に分割する。撮像制御部１１０は、コントラスト指標値の高い順に、５個の範囲にレベル「５」からレベル「１」を割り当てる。撮像制御部１１０は、算出されたコントラスト指標値の平均値がレベル「３」の範囲に含まれるように、コントラスト指標値の５個の範囲を決定してよい。

図７は、相対速度マップを示す。相対速度マップは、撮像画像の画像領域毎に決定された被写体との相対速度を示す情報である。図６は、画像全体を４行６列の画像領域に分割した場合の相対速度マップを示す。相対速度マップは、各画像領域に相対速度を対応づける。なお、図７では、速度が高い順に、「高」、「中」、「低」で相対速度を表している。

撮像制御部１１０は、撮像画像から検出したオプティカルフローから検出した相対速度と、ＵＡＶ１０の移動速度と、ジンバル５０による撮像装置１００の撮像方向の回転速度とに基づいて、相対速度の高さを特定する。なお、ＵＡＶ１０の移動速度は、ＵＡＶ１０の並進速度、ＵＡＶ１０の上昇速度、ＵＡＶ１０の下降速度、及びＵＡＶ１０の全体の姿勢変化速度を含む。ＵＡＶ１０の移動速度及びジンバル５０の撮像方向の回転速度は、遠隔操作装置３００から受信した指示情報によって示される操作量に基づいて算出される。

一例として、ＵＡＶ１０が細い林道に沿って低空を飛行しながら画像を連続的に取得して動画撮影を行う場合を考える。ＵＡＶ１０の進行方向左側に木々が存在し、進行方向右側に平地が広がっているとする。また、撮像装置１００の撮像方向は、ＵＡＶ１０の進行方向に一致していると仮定する。

ここで、撮影中にＵＡＶ１０が右旋回する場合、左側の画像領域の被写体は、右側の画像領域の被写体より回転中心の外側に位置しているため、右側の画像領域の被写体より相対速度は高くなる。撮像制御部１１０は、現在までに取得した画像から検出したオプティカルフローに基づいて、現在の被写体の相対速度を画像領域毎に検出する。ＵＡＶ１０が旋回する場合、撮像制御部１１０は、予測されるＵＡＶ１０の旋回速度に基づいて、現在の画像に写っている被写体が次のタイミングで取得される画像のどの画像領域に位置するかを特定する。

また、撮像制御部１１０は、現在の被写体の相対速度と、予測されるＵＡＶ１０の旋回速度とに基づいて、次のタイミングで取得される画像の各画像領域の相対速度を予測して、次のタイミングで取得される画像における相対速度マップを生成する。そして、撮像制御部１１０は、次のタイミングで取得される画像における相対速度マップ及びコントラスト指標値マップに基づいて、次のタイミングで取得する画像に適用するエンハンスフィルタのゲインを決定する。

なお、撮像制御部１１０は、予測されるＵＡＶ１０の旋回速度と、現在の画像から特定した各画像領域の被写体のコントラスト情報と、ＭＴＦマップとに基づいて、次のタイミングで取得する画像におけるコントラスト指標値マップを生成する。なお、現在の画像から特定した各画像領域の被写体のコントラスト情報は、現在の画像におけるコントラストマップであってよく、現在の画像におけるコントラストマップ及びＭＴＦマップから特定される被写体そのもののコントラストであってよい。そして、撮像制御部１１０は、次のタイミングで取得される画像における相対速度マップ及びコントラスト指標値マップに基づいて、次のタイミングで取得する画像に適用するエンハンスフィルタのゲインを決定してよい。

図８は、エンハンスフィルタのゲイン情報の一例である。ゲイン情報は、コントラスト指標値のレベルと相対速度との組み合わせに、エンハンスフィルタのゲイン係数とを対応づける情報である。図３の例では、コントラスト指標値のレベル「５」と相対速度「高」との組み合わせには、ゲイン係数「０．５」が対応づけられる。ゲイン情報は、メモリ１３０に格納される。撮像制御部１１０は、メモリ１３０に格納されたゲイン情報を参照して、コントラスト指標値及び相対速度の組み合わせに対応づけられたゲイン係数を取得する。

ゲイン係数はエンハンス処理の強度を表す。ゲイン係数が大きいほど、強いエンハンス処理が行われる。ゲイン係数は、例えば、撮像制御部１１０が実行するエンハンス処理に用いるデフォルトのエンハンスフィルタの強度を補正する補正値であってよい。例えば、ゲイン係数「１」は、デフォルトのエンハンスフィルタを用いることを意味し、ゲイン係数「０．５」は、デフォルトのエンハンスフィルタの強度の１／２の強度のエンハンスフィルタを用いることを意味してよい。

例えば、相対速度が「高」の場合、コントラスト指標値が高いほど、低いゲイン係数が適用され得る。相対速度が「低」の場合、コントラスト指標値が低いほど、高いゲイン係数が適用され得る。コントラスト指標値がレベル「４」又は「５」の場合、相対速度が高いほど、低いゲイン係数が適用され得る。コントラスト指標値がレベル「１」や「２」の場合、相対速度が低いほど、高いゲイン係数が適用され得る。

具体的には、図８に示すゲイン情報の例では、コントラスト指標値のレベル「５」と相対速度「高」とに、最も低いゲイン係数が対応づけられている。そのため、撮像制御部１１０は、相対速度が高く、コントラスト指標値が高い画像領域には、弱いエンハンス処理を適用することになる。そのため、エッジが目立たないようにすることができる。これにより、動きのある画像領域のエッジが著しく強調されることを抑制することができる。なお、相対速度が高く、コントラスト指標値が低い画像領域にはデフォルトの強度のエンハンス処理が適用され得るが、元々のコントラスト指標値が低いため、エンハンス処理をしてもエッジが目立つようなことはない。このように、図８に示すゲイン情報に基づいてエンハンス処理の強度を画像領域毎に調整することよって、エンハンス処理によって動き感が失われた画像になることを抑制することができる。

図９は、エンハンスフィルタの周波数特性を模式的に示す。図９のグラフの横軸は空間周波数であり、縦軸は輝度ゲインである。図９のグラフのゲインカーブ９００は、撮像画像のエンハンス処理に用いられるデフォルトのエンハンスフィルタの空間周波数特性を表す。

撮像制御部１１０は、コントラスト指標値及び相対速度から決定したゲイン係数に基づいてゲインカーブ９００を補正して、エンハンス処理を実行する。例えば、コントラスト指標値及び相対速度から決定したゲイン係数をＣとすると、撮像制御部１１０は、ピークゲインがＣ×Ｇ０の周波数特性を持つエンハンスフィルタを用いて、エンハンス処理を実行する。

図１０は、撮像制御部１１０が実行する処理の手順を示すフローチャートである。本フローチャートの処理は、撮像装置１００による動画撮影を開始する場合に開始される。

Ｓ１０００において、撮像制御部１１０は、初期処理の一部として、ＭＴＦマップをメモリ１３０から取得する。また、撮像制御部１１０は、エンハンス処理に用いるエンハンスフィルタとして、デフォルトのエンハンスフィルタを設定する。Ｓ１００２において、撮像制御部１１０は、イメージセンサ１２０から画像を取得する。

Ｓ１００４において、撮像制御部１１０は、イメージセンサ１２０から取得した画像の画像処理を実行する。画像処理には、上述したエンハンス処理が含まれる。撮像制御部１１０は、現在設定されているエンハンスフィルタを用いてエンハンス処理を実行する。

Ｓ１００６において、撮像制御部１１０は、画像領域毎にコントラストを取得して、コントラストマップを生成する。Ｓ１００８において、撮像制御部１１０は、ＭＴＦマップ及びコントラストマップに基づいて、コントラスト指標値マップを生成する。

Ｓ１０１０において、撮像制御部１１０は、イメージセンサ１２０から過去に取得した複数の画像からオプティカルフローを検出して、画像内の被写体の速度を取得する。

Ｓ１０１２において、撮像制御部１１０は、ＵＡＶ１０の操作信号及びジンバル５０の操作信号の少なくとも一方を受け付けたか否かを判断する。ＵＡＶ１０の操作信号及びジンバル５０の操作信号は、遠隔操作装置３００から受信した指示情報に基づいて生成される。ＵＡＶ１０の操作信号は、ＵＡＶ１０の加速量、減速量、姿勢制御量、上昇量、下降量等を示す。ジンバル５０の操作信号は、ＵＡＶ１０のヨー軸まわりの回転量及びピッチ軸まわりの回転量を示す。

ＵＡＶ１０の操作信号を受け付けた場合、Ｓ１０１４において、撮像制御部１１０は、ＵＡＶ１０の速度を計算する。ジンバル５０の操作信号を受け付けた場合、Ｓ１０１６において、ジンバル５０の回転速度を計算する。Ｓ１０１４及びＳ１０１６の処理を実行すると、Ｓ１０１８に進む。なお、ＵＡＶ１０の操作信号及びジンバル５０の操作信号を受け付けていない場合、Ｓ１０１４及びＳ１０１６の処理を行わずにＳ１０１８に進む。

Ｓ１０１８において、撮像制御部１１０は、相対速度マップを生成する。具体的には、撮像制御部１１０は、ＵＡＶ１０の操作信号及びジンバル５０の操作信号のいずれも受け付けていない場合には、Ｓ１０１０においてオプティカルフローから取得した被写体の速度に基づいて、相対速度マップを生成する。ＵＡＶ１０の操作信号を受け付けた場合には、撮像制御部１１０は、オプティカルフローから取得した被写体の速度及びＵＡＶ１０の将来の速度に基づいて、次のタイミングで取得する画像における相対速度マップを生成する。ジンバル５０の操作信号を受け付けた場合には、撮像制御部１１０は、オプティカルフローから取得した被写体の速度及びジンバル５０の将来の回転速度に基づいて、次のタイミングで取得する画像における相対速度マップを生成する。ＵＡＶ１０の操作信号及びジンバル５０の操作信号を受け付けた場合には、撮像制御部１１０は、オプティカルフローから取得した被写体の速度、ＵＡＶ１０の将来の速度、及びジンバル５０の将来の回転速度に基づいて、次のタイミングで取得する画像における相対速度マップを生成する。

Ｓ１０２０において、コントラスト指標値マップ及び相対速度マップに基づいて、次のタイミングで取得する画像の各画像領域におけるエンハンスフィルタのゲイン係数を決定する。Ｓ１０２２において、Ｓ１０２０で決定したゲイン係数に基づいて、次のタイミングで取得する画像に適用するエンハンスフィルタを設定する。

Ｓ１０２４において、動画撮影を終了するか否かを判断する。例えば、撮像制御部１１０は、動画撮影の終了を指示する操作信号を受け付けた場合に、動画撮影を終了すると判断する。撮像制御部１１０は、動画撮影を終了しないと判断した場合、Ｓ１００２に処理を進める。撮像制御部１１０は、動画撮影を終了すると判断した場合、本フローチャートの処理を終了する。

以上に説明したように、撮像制御部１１０は、ＵＡＶ１０の飛行状態及び撮像装置が搭載されたジンバル５０の姿勢によって、エンハンス処理の強度を画像領域毎に調整する。例えば、撮像制御部１１０は、コントラストが高い画像領域の相対速度が高くなることが予測される場合には、エンハンス処理の強度を低くする。これにより、動きがある被写体が自然に見える映像を生成することが可能になる。

なお、図８等に関連して説明したゲイン情報は、動きのある被写体像のエッジが極端に強調されないようにするためのゲイン情報の一例である。ゲイン情報は、画像処理の目的に応じて適宜に設定してよい。例えば、特殊効果を目的として、動きのある被写体像のエッジをより強調するゲイン情報を設定してもよい。

なお、上記の実施形態では、移動体の一例としてＵＡＶ１０に搭載された撮像装置１００により撮影された画像に適用される処理を説明した。しかし、撮像装置１００は、ＵＡＶ１０等の移動体に搭載されなくてもよい。例えば、ユーザが撮像装置１００を手に持って撮像装置１００を回転又は移動させながら撮像装置１００に撮像させた画像に、上述した処理を適用してよい。なお、ユーザが手持ちジンバル、支持棒等を介して撮像装置１００を持ち、手持ちジンバル、支持棒等を介して撮像装置１００を回転又は移動させながら撮像装置１００に撮像させた画像に、上述した処理を適用してよい。

図１１は、本発明の複数の態様が全体的または部分的に具現化されてよいコンピュータ１２００の一例を示す。コンピュータ１２００にインストールされたプログラムは、コンピュータ１２００に、本発明の実施形態に係る装置に関連付けられるオペレーションまたは当該装置の１または複数の「部」として機能させることができる。または、当該プログラムは、コンピュータ１２００に当該オペレーションまたは当該１または複数の「部」を実行させることができる。当該プログラムは、コンピュータ１２００に、本発明の実施形態に係るプロセスまたは当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ１２００に、本明細書に記載のフローチャート及びブロック図のブロックのうちのいくつかまたはすべてに関連付けられた特定のオペレーションを実行させるべく、ＣＰＵ１２１２によって実行されてよい。

本実施形態によるコンピュータ１２００は、ＣＰＵ１２１２、及びＲＡＭ１２１４を含み、それらはホストコントローラ１２１０によって相互に接続されている。コンピュータ１２００はまた、通信インタフェース１２２２、入力／出力ユニットを含み、それらは入力／出力コントローラ１２２０を介してホストコントローラ１２１０に接続されている。コンピュータ１２００はまた、ＲＯＭ１２３０を含む。ＣＰＵ１２１２は、ＲＯＭ１２３０及びＲＡＭ１２１４内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。

通信インタフェース１２２２は、ネットワークを介して他の電子デバイスと通信する。ハードディスクドライブが、コンピュータ１２００内のＣＰＵ１２１２によって使用されるプログラム及びデータを格納してよい。ＲＯＭ１２３０はその中に、アクティブ化時にコンピュータ１２００によって実行されるブートプログラム等、及び／またはコンピュータ１２００のハードウェアに依存するプログラムを格納する。プログラムが、ＣＲ−ＲＯＭ、ＵＳＢメモリまたはＩＣカードのようなコンピュータ可読記録媒体またはネットワークを介して提供される。プログラムは、コンピュータ可読記録媒体の例でもあるＲＡＭ１２１４、またはＲＯＭ１２３０にインストールされ、ＣＰＵ１２１２によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ１２００に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置または方法が、コンピュータ１２００の使用に従い情報のオペレーションまたは処理を実現することによって構成されてよい。

例えば、通信がコンピュータ１２００及び外部デバイス間で実行される場合、ＣＰＵ１２１２は、ＲＡＭ１２１４にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース１２２２に対し、通信処理を命令してよい。通信インタフェース１２２２は、ＣＰＵ１２１２の制御の下、ＲＡＭ１２１４、またはＵＳＢメモリのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、またはネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。

また、ＣＰＵ１２１２は、ＵＳＢメモリ等のような外部記録媒体に格納されたファイルまたはデータベースの全部または必要な部分がＲＡＭ１２１４に読み取られるようにし、ＲＡＭ１２１４上のデータに対し様々なタイプの処理を実行してよい。ＣＰＵ１２１２は次に、処理されたデータを外部記録媒体にライトバックしてよい。

様々なタイプのプログラム、データ、テーブル、及びデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。ＣＰＵ１２１２は、ＲＡＭ１２１４から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索／置換等を含む、様々なタイプの処理を実行してよく、結果をＲＡＭ１２１４に対しライトバックする。また、ＣＰＵ１２１２は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第２の属性の属性値に関連付けられた第１の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、ＣＰＵ１２１２は、第１の属性の属性値が指定される、条件に一致するエントリを当該複数のエントリの中から検索し、当該エントリ内に格納された第２の属性の属性値を読み取り、それにより予め定められた条件を満たす第１の属性に関連付けられた第２の属性の属性値を取得してよい。

上で説明したプログラムまたはソフトウェアモジュールは、コンピュータ１２００上またはコンピュータ１２００近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワークまたはインターネットに接続されたサーバーシステム内に提供されるハードディスクまたはＲＡＭのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ１２００に提供する。

特許請求の範囲、明細書、及び図面中において示した装置、システム、プログラム、及び方法における動作、手順、ステップ、及び段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、及び図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。

以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。

１０ ＵＡＶ
２０ ＵＡＶ本体
３０ ＵＡＶ制御部
３６ 通信インタフェース
３７ メモリ
４０ 推進部
４１ ＧＰＳ受信機
４２ 慣性計測装置
４３ 磁気コンパス
４４ 気圧高度計
４５ 温度センサ
４６ 湿度センサ
５０ ジンバル
６０ 撮像装置
１００ 撮像装置
１０２ 撮像部
１１０ 撮像制御部
１２０ イメージセンサ
１３０ メモリ
１４０ 測距センサ
２００ レンズ部
２１０ レンズ
２１２ レンズ駆動部
２１４ 位置センサ
２２０ レンズ制御部
２２２ メモリ
３００ 遠隔操作装置
３１０、３２０ グラフ
９００ ゲインカーブ
１２００ コンピュータ
１２１０ ホストコントローラ
１２１２ ＣＰＵ
１２１４ ＲＡＭ
１２２０ 入力／出力コントローラ
１２２２ 通信インタフェース
１２３０ ＲＯＭ

Claims (14)

1. 撮像装置が位置又は撮像方向を変えながら撮像した画像に高周波数成分を強調する画像処理を施す画像処理装置であって、
   前記撮像装置が備える撮像レンズの像面領域毎の結像性能の高さを示す情報を取得し、
   前記画像から画像領域毎のコントラストの高さを示す情報を取得し、
   前記撮像装置に対する被写体の画像領域毎の動き速度を特定し、
   前記像面領域毎の結像性能の高さ及び前記画像領域毎のコントラストの高さに基づいて、画像領域毎の指標値を算出し、
   前記画像領域毎の指標値及び前記画像領域毎の動き速度に基づいて前記画像領域毎に前記画像処理の強度を決定し、前記画像領域毎に決定した強度で前記画像処理を実行する
   ように構成された回路を備える画像処理装置。
2. 前記撮像レンズの像面領域毎の結像性能の高さを示す情報は、前記撮像レンズの像高毎のＭＴＦを示す情報に基づく
   請求項１に記載の画像処理装置。
3. 前記回路は、前記結像性能の高さが高いほど前記指標値を高く算出し、前記コントラストが高いほど前記指標値を高く算出するように構成される
   請求項１又は２に記載の画像処理装置。
4. 前記回路は、前記画像領域における前記指標値が高く前記動き速度が高いほど、前記画像領域に施す前記画像処理の強度を弱くするように構成される
   請求項３に記載の画像処理装置。
5. 前記回路は、前記画像領域における前記指標値が基準値より高い場合に、前記画像領域における前記動き速度が高いほど、前記画像処理の強度を弱くするように構成される
   請求項３に記載の画像処理装置。
6. 前記回路は、前記画像領域における前記指標値が基準値より低い場合に、前記画像領域における前記動き速度が低いほど、前記画像処理の強度を強くするように構成される
   請求項３に記載の画像処理装置。
7. 前記回路は、前記画像領域における前記動き速度が基準値より高い場合に、前記画像領域における前記指標値が高いほど、前記画像処理の強度を弱くするように構成される
   請求項３に記載の画像処理装置。
8. 前記回路は、前記画像領域における前記動き速度が基準値より低い場合に、前記画像領域における前記指標値が低いほど、前記画像処理の強度を強くするように構成される
   請求項３に記載の画像処理装置。
9. 前記回路は、前記撮像装置の向きが変化する場合に、前記画像を用いて特定した被写体の動き速度及び前記撮像装置の向きの変化速度に基づいて、次のタイミングで撮像される画像における被写体の動き速度を前記画像領域毎に特定し、前記画像領域毎の指標値及び前記特定した動き速度に基づいて、前記次のタイミングで撮像される画像に適用する前記画像処理の強度を決定するように構成される
   請求項１又は２に記載の画像処理装置。
10. 前記回路は、前記撮像装置の移動速度が変化する場合に、前記画像を用いて特定した被写体の動き速度及び前記撮像装置の移動速度の変化量に基づいて、次のタイミングで撮像される画像における被写体の動き速度を前記画像領域毎に特定し、前記画像領域毎の指標値及び前記特定した動き速度に基づいて、前記次のタイミングで撮像される画像に適用する前記画像処理の強度を決定するように構成される
    請求項１又は２に記載の画像処理装置。
11. イメージセンサと、
    請求項１又は２に記載の画像処理装置と
    を備える撮像装置。
12. 請求項１１に記載の撮像装置を備えて移動する移動体。
13. 撮像装置が位置又は撮像方向を変えながら撮像した画像に高周波数成分を強調する画像処理を施す画像処理方法であって、
    前記撮像装置が備える撮像レンズの像面領域毎の結像性能の高さを示す情報を取得する段階と、
    前記画像から画像領域毎のコントラストの高さを示す情報を取得する段階と、
    前記撮像装置に対する被写体の画像領域毎の動き速度を特定する段階と、
    前記像面領域毎の結像性能の高さ及び前記画像領域毎のコントラストの高さに基づいて、画像領域毎の指標値を算出する段階と、
    前記画像領域毎の指標値及び前記画像領域毎の動き速度に基づいて前記画像領域毎に前記画像処理の強度を決定し、前記画像領域毎に決定した強度で前記画像処理を実行する段階と
    を備える画像処理方法。
14. 撮像装置が位置又は撮像方向を変えながら撮像した画像に高周波数成分を強調する画像処理をコンピュータに実行させるためのプログラムであって、
    前記撮像装置が備える撮像レンズの像面領域毎の結像性能の高さを示す情報を取得する手順と、
    前記画像から画像領域毎のコントラストの高さを示す情報を取得する手順と、
    前記撮像装置に対する被写体の画像領域毎の動き速度を特定する手順と、
    前記像面領域毎の結像性能の高さ及び前記画像領域毎のコントラストの高さに基づいて、画像領域毎の指標値を算出する手順と、
    前記画像領域毎の指標値及び前記画像領域毎の動き速度に基づいて前記画像領域毎に前記画像処理の強度を決定し、前記画像領域毎に決定した強度で前記画像処理を実行する手順と
    を前記コンピュータに実行させるプログラム。

Images