JP7170609B2 - 画像処理装置、測距装置、方法及びプログラム - Google Patents

Description

本発明の実施形態は、画像処理装置、測距装置、方法及びプログラムに関する。

一般的に、被写体までの距離を取得するために、２つの撮像装置（カメラ）やステレオカメラ（複眼のカメラ）で撮像された画像を用いることが知られていたが、近年では、１つの撮像装置（単眼のカメラ）で撮像された画像を用いて被写体までの距離を取得する技術が開示されている。

しかしながら、１つの撮像装置で撮像された画像から距離を取得する場合には、当該取得される距離の精度を向上させる必要がある。

Marcela Cavalho、外４名、"Deep Depth from Defocus: how can defocus blur improve 3D estimation using dense neural networks?"、［online］、［令和１年８月２６日検索］、インターネット<URL: https://arxiv.org/abs/1809.01567> P.Trouve et al., Passive depth estimation using chromatic aberration and a depth from defocus approach, Applied Optics, vol. 52, no. 29, pp. 7152-7163, 2013

そこで、本発明が解決しようとする課題は、画像から取得される距離の精度を向上させることが可能な画像処理装置、測距装置、方法及びプログラムを提供することにある。

実施形態に係る画像処理装置は、第１格納手段と、画像取得手段と、距離取得手段と、第２格納手段と、特定手段とを具備する。前記第１格納手段は、第１光学系の収差の影響を受けた第１画像に生じる、当該第１画像中の被写体までの距離に応じて非線形に変化するぼけを学習することによって生成された統計モデルを格納する。前記画像取得手段は、第２光学系の収差の影響を受けた第２画像を取得する。前記距離取得手段は、前記第２光学系に用いられたレンズに応じた統計モデルに前記取得された第２画像を入力し、当該第２画像中の被写体までの距離を示す距離情報を取得する。前記第２格納手段は、前記第１光学系に用いられるレンズの各々に応じた前記統計モデル毎に、当該レンズを用いた第１光学系の収差の影響を受けた第３画像に生じるぼけであって、当該第３画像中の被写体までの距離及び当該第３画像中の位置に依存するぼけの分布を表す第１収差マップを格納する。前記特定手段は、前記第２光学系の収差の影響を受けた第４画像に生じているぼけに基づいて前記第２格納手段に格納されている第１収差マップを特定する。前記距離取得手段は、前記特定された第１収差マップに応じた統計モデルに前記第２画像を入力し、当該第２画像中の被写体までの距離を示す距離情報を取得する。前記第４画像は、予め定められたテストパターンを撮像することによって得られる画像を含む。前記特定手段は、前記第４画像に生じているぼけに基づいて推定される第２収差マップを、前記第２格納手段に格納されている第１収差マップの各々と照合することによって、当該第２収差マップと類似する第１収差マップを特定する。

実施形態に係る画像処理装置を含む測距システムの構成の一例を示す図。 画像処理装置のシステム構成の一例を示す図。 測距システムの動作の概要を説明するための図。 単レンズを用いた場合における被写体までの距離と色収差により画像に生じるぼけとの関係性を示す図。 色消しレンズを用いた場合における被写体までの距離と色収差により画像に生じるぼけとの関係性を示す図。 撮像装置の光学系に備えられている絞り機構の開口部の大きさとＰＳＦ形状との関係性を示す図。 各チャンネルの画像に生じるＰＳＦ形状の一例を示す図。 各チャンネルの画像に生じるＰＳＦ形状の別の例を示す図。 画像中の各位置に生じるＰＳＦ形状の一例を示す図。 レンズの種別に応じたＰＳＦ形状の位置依存性について具体的に説明するための図。 ＰＳＦ形状の非線形性と絞り機構の開口部の形状との関係を表す図。 距離情報を取得する動作の概要を示す図。 撮像画像から距離を推定する第１方式を説明するための図。 第１方式において統計モデルに入力される情報の一例を示す図。 撮像画像から距離を推定する第２方式を説明するための図。 第２方式において統計モデルに入力される情報の一例を示す図。 撮像画像から距離を推定する第３方式を説明するための図。 統計モデルの学習方法の一例を示す図。 画像から推定される被写体までの距離について具体的に説明するための図。 統計モデルを生成する処理の処理手順の一例を示すフローチャート。 撮像画像から距離情報を取得する際の画像処理装置の処理手順の一例を示すフローチャート。 距離取得処理の処理手順の一例を示すフローチャート。 距離情報を取得することができない場合の対策として実行される処理の処理手順の一例を示すフローチャート。 本実施形態の変形例の概要を説明するための図。 統計モデルの学習方法の一例を示す図。 画像処理装置の処理手順の一例を示すフローチャート。 測距装置を含む移動体の機能構成の一例を示す図。 移動体が自動車である場合について説明するための図。 移動体がドローンである場合について説明するための図。 移動体が自立型の移動ロボットである場合について説明するための図。 移動体がロボットアームである場合について説明するための図。

以下、図面を参照して、実施形態について説明する。
図１は、本実施形態に係る画像処理装置を含む測距システムの構成の一例を示す。図１に示す測距システム１は、画像を撮像し、当該撮像された画像を用いて撮像地点から被写体までの距離を取得（測定）するために使用される。

図１に示すように、測距システム１は、撮像装置２及び画像処理装置３を備える。本実施形態においては、測距システム１が別個の装置である撮像装置２及び画像処理装置３を備えているものとして説明するが、当該測距システム１は、撮像装置２が撮像部として機能し、画像処理装置３が画像処理部として機能する１つの装置（以下、測距装置と表記）として実現されていてもよい。測距システム１の場合には、例えばデジタルカメラ等を撮像装置２として用い、パーソナルコンピュータ、スマートフォンまたはタブレットコンピュータ等を画像処理装置３として用いることができる。一方、測距装置１の場合には、デジタルカメラ、スマートフォン及びタブレットコンピュータ等を当該測距装置１として用いることができる。

撮像装置２は、各種画像を撮像するために用いられる。撮像装置２は、レンズ２１とイメージセンサ２２とを備える。レンズ２１及びイメージセンサ２２は、撮像装置２の光学系（単眼カメラ）に相当する。また、本実施形態において、レンズ２１は、当該レンズ２１の位置を調整することによりピント位置を制御するための機構及びレンズ駆動回路等、撮像装置２の光学系に取り込まれる光の量（入光量）を調節するための開口部を有する絞り機構及び絞り制御回路等、及び当該レンズ２１に関する情報（以下、レンズ情報と表記）を予め保持しているメモリ等（図示せず）が搭載される制御回路等とともにレンズユニットを構成する。

また、本実施形態において、撮像装置２はレンズ２１（レンズユニット）を手動で他のレンズに交換可能に構成されており、ユーザは、例えば標準レンズ、望遠レンズ及び広角レンズ等の複数の種別のレンズのうちの１つを撮像装置２に装着して用いることができるものとする。なお、レンズを交換した場合には、焦点距離やＦ値（絞り値）が変わり、撮像装置２において用いられるレンズに応じた画像を撮像することができる。

本実施形態において、焦点距離とは、レンズから、当該レンズに対して平行に光が入射したときに当該光が収束する位置までの距離をいう。また、Ｆ値とは、絞り機構に応じて撮像装置２に取り込まれる光の量を数値化したものである。なお、Ｆ値は、値が小さくなるにつれて、撮像装置２に取り込まれる光の量が多くなる（つまり、開口部の大きさが大きくなる）ことを示す。

レンズ２１には、被写体で反射した光が入射する。レンズ２１に入射した光は、レンズ２１を透過する。レンズ２１を透過した光は、イメージセンサ２２に到達し、当該イメージセンサ２２によって受光（検出）される。イメージセンサ２２は、受光した光を電気信号に変換（光電変換）することによって、複数の画素から構成される画像を生成する。

なお、イメージセンサ２２は、例えばＣＣＤ（Charge Coupled Device）イメージセンサ及びＣＭＯＳ（Complementary Metal Oxide Semiconductor）イメージセンサ等により実現される。イメージセンサ２２は、例えば赤色（Ｒ）の波長帯域の光を検出する第１センサ（Ｒセンサ）２２１、緑色（Ｇ）の波長帯域の光を検出する第２センサ（Ｇセンサ）２２２及び青色（Ｂ）の波長帯域の光を検出するセンサ（Ｂセンサ）２２３を含む。イメージセンサ２２は、第１～第３センサ２２１～２２３により対応する波長帯域の光を受光して、各波長帯域（色成分）に対応するセンサ画像（Ｒ画像、Ｇ画像及びＢ画像）を生成することができる。すなわち、撮像装置２によって撮像される画像はカラー画像（ＲＧＢ画像）であり、当該画像にはＲ画像、Ｇ画像及びＢ画像が含まれる。

なお、本実施形態においてはイメージセンサ２２が第１～第３センサ２２１～２２３を含むものとして説明するが、イメージセンサ２２は、第１～第３センサ２２１～２２３のうちの少なくとも１つを含むように構成されていればよい。また、イメージセンサ２２は、第１～第３センサ２２１～２２３に代えて、例えばモノクロ画像を生成するためのセンサを含むように構成されていてもよい。

本実施形態においてレンズ２１を透過した光に基づいて生成された画像は、光学系（に含まれるレンズ２１）の収差の影響を受けた画像であり、当該収差により生じるぼけを含む。なお、画像に生じるぼけの詳細については後述する。

画像処理装置３は、機能構成として、統計モデル格納部３１、収差マップ格納部３２、レンズ情報取得部３３、統計モデル選定部３４、表示処理部３５、測距領域選定部３６、画像取得部３７、距離取得部３８及び出力部３９を含む。

統計モデル格納部３１には、被写体までの距離を撮像装置２によって撮像された画像から取得するために用いられる統計モデルが格納されている。統計モデル格納部３１に格納されている統計モデルは、上記した光学系の収差の影響を受けた画像に生じる、当該画像中の被写体までの距離に応じて非線形に変化するぼけを学習することによって生成されている。詳細については後述するが、統計モデル格納部３１には、複数の統計モデルが格納されているものとする。

なお、統計モデルは、例えばニューラルネットワークまたはランダムフォレスト等の既知の様々な機械学習のアルゴリズムを適用して生成することができるものとする。また、本実施形態において適用可能なニューラルネットワークには、例えば畳み込みニューラルネットワーク（ＣＮＮ：Convolutional Neural Network）、全結合ニューラルネットワーク及び再帰型ニューラルネットワーク等が含まれていてもよい。

収差マップ格納部３２には、光学系の収差を受けた画像に生じるぼけであって、当該画像中の被写体までの距離及び当該画像中の位置に依存するぼけの分布を表すマップ形式の情報（以下、収差マップと表記）が格納される。換言すれば、収差マップとは、収差によって生じる画像中のぼけ（つまり、光学系の収差）の距離依存性と位置依存性とを示す情報である。なお、収差マップ格納部３２には、上記した統計モデル格納部３１に格納されている統計モデル毎に収差マップが格納されている（つまり、収差マップは統計モデルに紐づけられている）。

レンズ情報取得部３３は、上記した撮像装置２の光学系に用いられるレンズ２１に関するレンズ情報を取得する。このレンズ情報は、上記したようにレンズユニットのメモリに保持されており、当該レンズユニットから取得される。なお、レンズ情報には、レンズ２１の焦点距離、Ｆ値、ピント位置等が含まれる。

統計モデル選定部３４は、例えばレンズ情報取得部３３によって取得されたレンズ情報に基づいて、統計モデル格納部３１に格納されている複数の統計モデルの中から適切な統計モデルを選定する。なお、統計モデル選定部３４は、収差マップ格納部３２に格納されている収差マップを用いて統計モデルを選定してもよい。

表示処理部３５は、プレビュー表示として、上記した撮像装置２によって連続的に撮像された複数の画像を順次表示する。

測距領域選定部３６は、表示処理部３５によって表示されている画像（つまり、撮像装置２によって撮像された画像）中の領域を選定する。なお、本実施形態においては、測距領域選定部３６によって選定された領域に含まれる被写体までの距離（情報）が取得される。また、測距領域選定部３６によって選定される領域は、例えばユーザの操作等に基づいて決定される。

すなわち、本実施形態において上記したプレビュー表示とは、距離を取得する対象となる被写体等をユーザが確認するために事前に画像を表示することをいう。

画像取得部３７は、表示処理部３５によって表示されている画像中の領域が測距領域選定部３６によって選定された場合に、当該画像を取得する。

距離取得部３８は、画像取得部３７によって取得された画像（測距領域選定部３６によって選定された領域）中の被写体までの距離を示す距離情報を取得する。この場合、距離取得部３８は、後述するように画像取得部３７によって取得された画像を統計モデル選定部３４によって選定された統計モデルに入力することによって距離情報を取得する。

出力部３９は、距離取得部３８によって取得された距離情報を出力する。なお、距離情報は、例えば表示処理部３５を介して表示されてもよいし、画像処理装置３の外部に出力されても構わない。

図２は、図１に示す画像処理装置３のシステム構成の一例を示す。図２に示すように、画像処理装置３は、ＣＰＵ３０１、不揮発性メモリ３０２、ＲＡＭ３０３、通信デバイス３０４、入力デバイス３０５及び表示デバイス３０６等を備える。また、画像処理装置３は、ＣＰＵ３０１、不揮発性メモリ３０２、ＲＡＭ３０３、通信デバイス３０４、入力デバイス３０５及び表示デバイス３０６を相互に接続するバス３０７を有する。

ＣＰＵ３０１は、画像処理装置３内の様々なコンポーネントの動作を制御するためのプロセッサである。ＣＰＵ３０１は、単一のプロセッサであってもよいし、複数のプロセッサで構成されていてもよい。ＣＰＵ３０１は、不揮発性メモリ３０２からＲＡＭ３０３にロードされる様々なプログラムを実行する。これらプログラムは、オペレーティングシステム（ＯＳ）や様々なアプリケーションプログラムを含む。アプリケーションプログラムは、撮像装置２によって撮像された画像を用いて当該撮像装置２から当該画像中の被写体までの距離を取得するための画像処理プログラム３０３Ａを含む。

不揮発性メモリ３０２は、補助記憶装置として用いられる記憶媒体である。ＲＡＭ３０３は、主記憶装置として用いられる記憶媒体である。図２においては不揮発性メモリ３０２及びＲＡＭ３０３のみが示されているが、画像処理装置３は、例えばＨＤＤ（Hard Disk Drive）及びＳＳＤ（Solid State Drive）等の他の記憶装置を備えていてもよい。

なお、本実施形態において、図１に示す統計モデル格納部３１及び収差マップ格納部３２は、例えば不揮発性メモリ３０２または他の記憶装置等によって実現される。

また、本実施形態において、図１に示すレンズ情報取得部３３、統計モデル選定部３４、表示処理部３５、測距領域選定部３６、画像取得部３７、距離取得部３８及び出力部３９の一部または全ては、ＣＰＵ３０１（つまり、画像処理装置３のコンピュータ）に画像処理プログラム３０３Ａを実行させること、すなわち、ソフトウェアによって実現されるものとする。この画像処理プログラム３０３Ａは、コンピュータ読み取り可能な記憶媒体に格納して頒布されてもよいし、ネットワークを通じて画像処理装置３にダウンロードされてもよい。なお、これらの各部３３～３９の一部または全ては、ＩＣ（Integrated Circuit）等のハードウェアによって実現されてもよいし、ソフトウェア及びハードウェアの組み合わせによって実現されてもよい。

通信デバイス３０４は、有線通信または無線通信を実行するように構成されたデバイスである。通信デバイス３０４は、ネットワークを介した外部機器との通信等を実行する。この外部機器には、撮像装置２が含まれる。この場合、画像処理装置３は、通信デバイス３０４を介して、撮像装置２から画像を受信する。

入力デバイス３０５は、例えばマウスまたはキーボード等を含む。表示デバイス３０６は、例えば液晶ディスプレイ（ＬＣＤ：Liquid Crystal Display）等を含む。なお、入力デバイス３０５及び表示デバイス３０６は、例えばタッチスクリーンディスプレイのように一体として構成されていてもよい。

次に、図３を参照して、本実施形態における測距システム１の動作の概要について説明する。

測距システム１において、撮像装置２（イメージセンサ２２）は、上記したように光学系（レンズ２１）の収差の影響を受けた画像を生成する。

画像処理装置３は、撮像装置２によって生成された画像を取得し、当該画像を統計モデル格納部３１に格納されている統計モデル（統計モデル選定部３４によって選定された統計モデル）に入力する。

画像処理装置３（距離取得部３８）は、画像が入力された統計モデルから出力される当該画像中の被写体までの距離を示す距離情報を取得する。

このように本実施形態においては、統計モデルを用いて、撮像装置２によって撮像された画像から距離情報を取得することができる。

ここで、本実施形態において、撮像装置２によって撮像された画像には、上記したように当該撮像装置２の光学系の収差（レンズ収差）に起因するぼけが生じている。

以下、撮像装置２によって撮像された画像に生じるぼけについて説明する。まず、撮像装置２の光学系の収差に起因するぼけのうち、色収差について説明する。

図４は、被写体までの距離と色収差により画像に生じるぼけとの関係性について示している。以下の説明では、撮像装置２においてピントが合う位置をピント位置と称する。

収差のあるレンズ２１を透過する際の光の屈折率は波長帯域毎に異なるため、例えば被写体の位置がピント位置からずれているような場合には、各波長帯域の光が１点に集まらず異なった点に到達する。これが画像上で色収差（ぼけ）として現れる。

図４の上段は、撮像装置２（イメージセンサ２２）に対する被写体の位置がピント位置よりも遠い（つまり、被写体の位置がピント位置よりも奥にある）場合を示している。

この場合、赤色の波長帯域の光４０１に関しては、イメージセンサ２２（第１センサ２２１）において比較的小さいぼけｂ_Ｒを含む画像が生成される。一方、青色の波長帯域の光４０２に関しては、イメージセンサ２２（第３センサ２２３）において比較的大きいぼけｂ_Ｂを含む画像が生成される。なお、緑色の波長帯域の光４０３に関しては、ぼけｂ_Ｒとぼけｂ_Ｂとの中間の大きさのぼけを含む画像が生成される。したがって、このような被写体の位置がピント位置よりも遠い状態で撮像された画像においては、当該画像中の被写体の外側に青色のぼけが観察される。

一方、図４の下段は、撮像装置２（イメージセンサ２２）に対する被写体の位置がピント位置よりも近い（つまり、被写体の位置がピント位置よりも手前にある）場合を示している。

この場合、赤色の波長帯域の光４０１に関しては、イメージセンサ２２（第１センサ２２１）において比較的大きいぼけｂ_Ｒを含む画像が生成される。一方、青色の波長帯域の光４０２に関しては、イメージセンサ２２（第３センサ２２３）において比較的小さいぼけｂ_Ｂを含む画像が生成される。なお、緑色の波長帯域の光４０３に関しては、ぼけｂ_Ｒとぼけｂ_Ｂとの中間の大きさのぼけを含む画像が生成される。したがって、このような被写体の位置がピント位置よりも近い状態で撮像された画像においては、当該画像中の被写体の外側に赤色のぼけが観察される。

ここで、図４はレンズ２１が単純な単レンズの例を示しているが、一般的に、撮像装置２においては、例えば色収差補正が施されたレンズ（以下、色消しレンズと表記）が用いられる場合がある。なお、色消しレンズとは、低分散の凸レンズと高分散の凹レンズを組み合わせたレンズであり、色収差を補正するレンズとして最もレンズ枚数が少ないレンズである。

図５は、レンズ２１として上記した色消しレンズを用いた場合における被写体までの距離と色収差により画像に生じるぼけとの関係性を示している。色消しレンズにおいては青色の波長と赤色の波長の焦点位置を揃える設計がされているが、色収差は完全には除去することができない。このため、被写体の位置がピント位置よりも遠い場合には図５の上段に示すように緑色のぼけが発生し、被写体の位置がピント位置よりも近い場合には図５の下段に示すように紫色のぼけが発生する。

なお、図４及び図５の中段は、撮像装置２（イメージセンサ２２）に対する被写体の位置とピント位置とが一致している場合を示している。この場合には、イメージセンサ２２（第１～第３センサ２２１～２２３）においてぼけの少ない画像が生成される。

ここで、撮像装置２の光学系（レンズユニット）には上記したように絞り機構が備えられているが、当該撮像装置２によって撮像された画像に生じるぼけの形状は、当該絞り機構の開口部の大きさによっても異なる。なお、ぼけの形状は、ＰＳＦ（Point Spread Function）形状と称され、点光源が撮像されたときに生じる光の拡散分布を示している。

図６の上段は、焦点距離が５０ｍｍのレンズを用いた撮像装置２（の光学系）においてピント位置を１５００ｍｍ、Ｆ値（絞り）をＦ１．８とした場合に当該撮像装置２によって撮像された画像の中央部に生じるＰＳＦ形状を、被写体の位置が撮像装置２から近い順に左から示している。図６の下段は、焦点距離が５０ｍｍのレンズを用いた撮像装置２（の光学系）においてピント位置を１５００ｍｍ、Ｆ値（絞り）をＦ４とした場合に当該撮像装置２によって撮像された画像に生じるＰＳＦ形状を、被写体の位置が撮像装置２から近い順に左から示している。なお、図６の上段及び下段の中央は、被写体の位置がピント位置と一致している場合のＰＳＦ形状を示している。

図６の上段及び下段の対応する位置に示されているＰＳＦ形状は撮像装置２に対する被写体の位置が同一である場合のＰＳＦ形状であるが、当該被写体の位置が同一である場合であっても、上段のＰＳＦ形状（Ｆ値をＦ１．８として撮像した画像に生じるＰＳＦ形状）と下段のＰＳＦ形状（Ｆ値をＦ４として撮像した画像に生じるＰＳＦ形状）とでは形状が異なっている。

更に、図６の最も左側のＰＳＦ形状と最も右側のＰＳＦ形状に示すように、例えば被写体の位置からピント位置までの距離が同程度である場合であっても、当該被写体の位置がピント位置よりも近い場合と当該被写体の位置がピント位置よりも遠い場合とで、ＰＳＦ形状が異なっている。

なお、上記したように絞り機構の開口部の大きさや撮像装置２に対する被写体の位置に応じてＰＳＦ形状が異なる現象は、各チャンネル（ＲＧＢ、Ｒ画像、Ｇ画像及びＢ画像）においても同様に生じる。図７は、焦点距離が５０ｍｍのレンズを用いた撮像装置２においてピント位置を１５００ｍｍ、Ｆ値をＦ１．８とした場合に当該撮像装置２によって撮像された各チャンネルの画像に生じるＰＳＦ形状を、被写体の位置がピント位置よりも近い（手前にある）場合と被写体の位置がピント位置よりも遠い（奥にある）場合とに分けて示している。図８は、焦点距離が５０ｍｍのレンズを用いた撮像装置２においてピント位置を１５００ｍｍ、Ｆ値をＦ４とした場合に当該撮像装置２によって撮像された各チャンネルの画像に生じるＰＳＦ形状を、被写体の位置がピント位置よりも近い場合と被写体の位置がピント位置よりも遠い場合とに分けて示している。

更に、撮像装置２によって撮像された画像に生じるＰＳＦ形状は、当該画像中の位置によっても異なる。

図９の上段は、焦点距離が５０ｍｍのレンズを用いた撮像装置２においてピント位置を１５００ｍｍ、Ｆ値をＦ１．８とした場合に当該撮像装置２によって撮像された画像中の各位置に生じるＰＳＦ形状を、被写体の位置がピント位置よりも近い場合と被写体の位置がピント位置よりも遠い場合とに分けて示している。

図９の中段は、焦点距離が５０ｍｍのレンズを用いた撮像装置２においてピント位置を１５００ｍｍ、Ｆ値をＦ４とした場合に当該撮像装置２によって撮像された画像中の各位置に生じるＰＳＦ形状を、被写体の位置がピント位置よりも近い場合と被写体の位置がピント位置よりも遠い場合とに分けて示している。

図９の上段及び中段に示すように、撮像装置２によって撮像された画像の端部近傍（特に、左上等の角部近傍）においては、例えば画像中央付近に位置するＰＳＦ形状とは異なるＰＳＦ形状を観察することができる。

また、図９の下段は、焦点距離が１０５ｍｍのレンズを用いた撮像装置２においてピント位置を１５００ｍｍ、Ｆ値をＦ４とした場合に当該撮像装置２によって撮像された画像中の各位置に生じるＰＳＦ形状を、被写体の位置がピント位置よりも近い場合と被写体の位置がピント位置よりも遠い場合とに分けて示している。

上記した図９の上段及び中段は同一のレンズを用いて撮像された画像に生じるＰＳＦ形状を示しているが、図９の下段に示すように、焦点距離が異なるレンズを用いた場合には当該レンズに応じた異なるＰＳＦ形状（図９の上段及び中段とは異なるＰＳＦ形状）が観察される。

次に、図１０を参照して、上記した撮像装置２の光学系に用いるレンズの種別に応じたＰＳＦ形状（レンズの収差）の位置依存性について具体的に説明する。図１０は、焦点距離が異なる複数のレンズの各々を用いて撮像された画像の中央付近（画面中央）及び端部付近（画面端）に生じるＰＳＦ形状を、被写体の位置がピント位置よりも近い場合と被写体の位置がピント位置よりも遠い場合とに分けて示している。

図１０に示すように、画像の中央付近に生じるＰＳＦ形状は、レンズの種別が異なる場合であっても概ね円形で同一であるが、画像の端部付近に生じるＰＳＦ形状は、画像の中央付近に生じるＰＳＦ形状と異なる形状を有し、かつ、レンズの種別に応じてそれぞれ特性（特徴）が異なる。なお、上記した図５において説明した被写体の位置がピント位置よりも近い場合にはＰＳＦのふち付近に紫色のぼけが発生し、被写体の位置がピント位置よりも遠い場合にはＰＳＦのふち付近に緑色のぼけが発生する点については、レンズの種別が異なる場合であっても共通している。

また、図１０においては、焦点距離が５０ｍｍのレンズに関しては２つの例（＃１及び＃２）が示されているが、これは、焦点距離が５０ｍｍで同一であるが、レンズの製造元が異なる（つまり、異なる製品である）ことを示している。焦点距離が８５ｍｍのレンズについても同様である。

ここで、本実施形態においては、画像に生じるぼけを学習することによって生成された統計モデルを用いて距離情報を取得するが、上記したようにレンズの種別によって特に画像の端部近傍のＰＳＦ形状が大きく異なることから、当該レンズの種別を考慮することなく生成された１つの統計モデルを用いて距離情報を取得する構成では、画像から取得される距離の精度が低下する場合がある。

このため、本実施形態においては、上記した画像中の被写体までの距離（つまり、撮像装置２に対する被写体の位置）に応じて非線形に変化するぼけに着目して撮像装置２の光学系に用いられるレンズ毎に生成された統計モデルを用いて、被写体までの距離を当該撮像装置２によって撮像された画像から取得するものとする。

本実施形態において、被写体までの距離に応じて非線形に変化するぼけには、上記した図４及び図５において説明した撮像装置２の光学系の色収差により生じるぼけ、図６～図８において説明した撮像装置２の光学系に取り込まれる光の量を調節する絞り機構の開口部の大きさ（つまり、Ｆ値）に応じて生じるぼけ、図９及び図１０において説明した撮像装置２によって撮像された画像中の位置に応じて変化するぼけ等が含まれる。

なお、ＰＳＦ形状は、絞り機構の開口部の形状によっても異なる。ここで、図１１は、ＰＳＦ形状の非線形性（非対称性）と絞り機構の開口部の形状との関係を表している。上記したＰＳＦ形状の非線形性は、絞り機構の開口部の形状が円以外の場合に生じやすい。特に、ＰＳＦ形状の非線形性は、開口部の形状が奇数角形、或いはイメージセンサ２２の水平または垂直軸に対して非対象に配置された偶数角形の場合により生じやすい。

また、上記した図９においては、画像中の被写体までの距離及び当該画像中の位置に依存するＰＳＦ形状（つまり、距離依存性及び位置依存性を有するぼけ）を画像上に表しているが、当該画像の各々は、上記した収差マップ格納部３２に格納されている収差マップに相当する。すなわち、本実施形態において、収差マップ格納部３２には、レンズの焦点距離やＦ値（つまり、レンズの種別やレンズ情報）に応じた複数の収差マップが格納されている。なお、収差マップ格納部３２に格納されている収差マップの各々には、当該収差マップによって示される距離依存性及び位置依存性を有するぼけを生じさせるレンズに応じた統計モデル（つまり、当該距離依存性及び位置依存性を有するぼけを学習した統計モデル）が紐づけられている。

図１２は、本実施形態において距離情報を取得する動作の概要を示す。以下の説明においては、距離情報（被写体までの距離）を取得するために撮像装置２によって撮像された画像を撮像画像と称する。

図１２に示す撮像画像５０１に生じるぼけ（ぼけ情報）５０２は、被写体５０３までの距離に関する物理的な手掛かりとなる。具体的には、ぼけの色、ＰＳＦのサイズ及び形状が、被写体５０３までの距離に関する手がかりとなる。

本実施形態に係る画像処理装置３（距離取得部３８）においては、このような物理的な手掛かりである撮像画像５０１に生じるぼけ５０２を統計モデルで分析（解析）することによって被写体５０３までの距離５０４を推定する。

以下、本実施形態において統計モデルによって撮像画像から距離を推定する方式の一例について説明する。ここでは、第１～第３方式について説明する。

まず、図１３を参照して、第１方式について説明する。第１方式において、距離取得部３８は、撮像画像５０１から局所領域（画像パッチ）５０１ａを抽出する。

この場合、例えば撮像画像５０１の全領域をマトリクス状に分割し、当該分割後の部分領域を局所領域５０１ａとして順次抽出するようにしてもよいし、撮像画像５０１を認識して、被写体（像）が検出された領域を網羅するように局所領域５０１ａを抽出するようにしてもよい。また、局所領域５０１ａは、他の局所領域５０１ａとの間で一部がオーバーラップしていてもよい。

距離取得部３８は、抽出された局所領域５０１ａ毎に、当該局所領域５０１ａに関する情報（撮像画像５０１の情報）を統計モデルへ入力することによって、当該局所領域５０１ａ中の被写体までの距離５０４を推定する。

このように局所領域５０１ａに関する情報が入力される統計モデルは、当該局所領域５０１ａを構成する画素毎に距離を推定する。

ここで、例えば特定の画素が第１局所領域５０１ａ及び第２局所領域５０１ａの両方に属する（つまり、第１局所領域５０１ａ及び第２局所領域５０１ａとの間で当該画素を含む領域がオーバーラップしている）場合、当該画素が第１局所領域５０１ａに属するものとして推定された距離と、当該画素が第２局所領域５０１ａに属するものとして推定された距離とでは異なる場合がある。

このため、例えば上記したように一部がオーバーラップする複数の局所領域５０１ａが抽出されている場合、当該複数の局所領域５０１ａがオーバーラップしている領域を構成する画素の距離は、例えば当該オーバーラップしている一方の局所領域５０１ａの一部の領域（画素）について推定された距離と他方の局所領域５０１ａの一部の領域（画素）について推定された距離との平均値としてもよい。また、一部がオーバーラップする３以上の局所領域５０１ａが抽出されている場合、当該３以上の局所領域５０１ａがオーバーラップしている領域を構成する画素の距離は、当該オーバーラップしている３以上の局所領域５０１ａの一部の領域毎に推定された距離による多数決で決定されてもよい。

図１４は、上記した第１方式において統計モデルに入力される局所領域５０１ａに関する情報の一例を示す。

距離取得部３８は、撮像画像５０１に含まれるＲ画像、Ｇ画像及びＢ画像のそれぞれについて、当該撮像画像５０１から抽出された局所領域５０１ａの勾配データ（Ｒ画像の勾配データ、Ｇ画像の勾配データ及びＢ画像の勾配データ）を生成する。このように距離取得部３８によって生成された勾配データが統計モデルに入力される。

なお、勾配データは、各画素と当該画素に隣接する画素との画素値の差分（差分値）を示す。例えば、局所領域５０１ａがｎ画素（Ｘ軸方向）×ｍ画素（Ｙ軸方向）の矩形領域として抽出される場合、当該局所領域５０１ａ内の各画素について算出した例えば右隣の画素との差分値をｎ行×ｍ列のマトリクス状に配置した勾配データが生成される。

統計モデルは、Ｒ画像の勾配データと、Ｇ画像の勾配データと、Ｂ画像の勾配データとを用いて、当該各画像に生じているぼけから距離を推定する。図１４においてはＲ画像、Ｇ画像及びＢ画像の各々の勾配データが統計モデルに入力される場合について示しているが、撮像画像５０１（ＲＧＢ画像）の勾配データが統計モデルに入力される構成であってもよい。

次に、図１５を参照して、第２方式について説明する。第２方式においては、第１方式における局所領域５０１ａに関する情報として、当該局所領域（画像パッチ）５０１ａ毎の勾配データ及び撮像画像５０１における当該局所領域５０１ａの位置情報が統計モデルに入力される。

位置情報５０１ｂは、例えば局所領域５０１ａの中心点を示すものであってもよいし、左上辺等の予め定められた一辺を示すものであってもよい。また、位置情報５０１ｂとして、局所領域（画像パッチ）５０１ａを構成する画素それぞれの撮像画像５０１上での位置情報を用いてもよい。

上記したように位置情報５０１ｂを更に統計モデルに入力することで、例えばレンズ２１の中心部を透過する光によって結像された被写体像のぼけと、当該レンズ２１の端部を透過する光によって結像された被写体像のぼけとの間の差異を考慮して距離を推定することができる。

つまり、この第２方式によれば、ぼけ、距離及び画像上の位置の相関に基づいて撮像画像５０１から距離をより確実に推定することができる。

図１６は、上記した第２方式において統計モデルに入力される局所領域５０１ａに関する情報の一例を示す。

例えばｎ画素（Ｘ軸方向）×ｍ画素（Ｙ軸方向）の矩形領域が局所領域５０１ａとして抽出される場合、距離取得部３８は、当該局所領域５０１ａの例えば中心点に対応する撮像画像５０１上のＸ座標値（Ｘ座標データ）と、当該局所領域５０１ａの例えば中心点に対応する撮像画像５０１上のＹ座標値（Ｙ座標データ）とを取得する。

第２方式においては、このように距離取得部３８によって取得されたＸ座標データ及びＹ座標データが、上記したＲ画像、Ｇ画像及びＢ画像の勾配データとともに、統計モデルに入力される。

更に、図１７を参照して、第３方式について説明する。第３方式においては、上記した第１方式及び第２方式のような撮像画像５０１からの局所領域（画像パッチ）５０１ａの抽出は行われない。第３方式において、距離取得部３８は、撮像画像５０１の全領域に関する情報（Ｒ画像、Ｇ画像及びＢ画像の勾配データ）を統計モデルに入力する。

局所領域５０１ａ毎に距離５０４を推定する第１方式及び第２方式と比較して、第３方式は、統計モデルによる推定の不確実性が高くなる可能性があるが、距離取得部３８の負荷を軽減することができる。

以下の説明においては、上記した第１～第３方式において統計モデルに入力される情報を、便宜的に画像に関する情報と称する。

図１８は、本実施形態における統計モデルの学習方法の一例を示す。ここでは、撮像装置２によって撮像された画像を用いた統計モデルの学習について説明するが、当該統計モデルの学習は、例えば撮像装置２の光学系と同様の光学系を有する他のデバイス（カメラ等）によって撮像された画像を用いて行われてもよい。

なお、上記の説明では距離情報を取得するために撮像装置２によって撮像された画像を撮像画像としたが、本実施形態において、距離に応じて非線形に変化するぼけを統計モデルが学習するための画像については便宜的に学習用画像と称する。

上記した図１３を参照して説明した第１方式、図１５を参照して説明した第２方式、図１７を参照して説明した第３方式のいずれの方式を用いる場合においても、統計モデルの学習は、基本的に、学習用画像６０１に関する情報を統計モデルに入力し、当該統計モデルによって推定された距離（距離情報）６０２と正解値６０３との誤差を当該統計モデルにフィードバックすることによって行われる。なお、フィードバックとは、誤差が減少するように統計モデルのパラメータ（例えば、重み係数）を更新することをいう。

上記した撮像画像から距離を推定する方式として第１方式が適用される場合には、統計モデルの学習時においても、学習用画像６０１から抽出された局所領域（画像パッチ）毎に、当該局所領域に関する情報（勾配データ）が統計モデルに入力され、当該統計モデルによって各局所領域内の各画素の距離６０２が推定される。このように推定された距離６０２と正解値６０３とが比較されることによって得られる誤差が、統計モデルにフィードバックされる。

同様に、撮像画像から距離を推定する方式として第２方式が適用される場合には、統計モデルの学習時においても、学習用画像６０１から抽出された局所領域（画像パッチ）毎に、当該局所領域に関する情報として勾配データ及び位置情報が統計モデルに入力され、当該統計モデルによって各局所領域内の各画素の距離６０２が推定される。このように推定された距離６０２と正解値６０３とが比較されることによって得られる誤差が、統計モデルにフィードバックされる。

また、撮像画像から距離を推定する方式として第３方式が適用される場合には、統計モデルの学習時においても、学習用画像６０１の全領域に関する情報（勾配データ）が一括して統計モデルに入力され、当該統計モデルによって当該学習用画像６０１内の各画素の距離６０２が推定される。このように推定された距離６０２と正解値６０３とが比較されることによって得られる誤差が、統計モデルにフィードバックされる。

本実施形態における統計モデルは、例えばピント位置を固定した状態で撮像装置２から被写体までの距離を変化させながら撮像される画像を用いた学習が繰り返し実行されることによって生成される。また、１つのピント位置についての学習が完了した場合には、他のピント位置についても同様に学習を実行することによって、より精度の高い統計モデルを生成することができる。

ここで、図１９を参照して、画像（撮像画像または学習用画像）から推定される被写体までの距離について具体的に説明する。

図１９においては、被写体がピント位置よりも近い（手前にある）場合に生じるぼけのサイズをＸ軸上においてマイナスの値で示し、被写体がピント位置よりも遠い（奥にある）場合に生じるぼけのサイズをＸ軸上においてプラスの値で示している。つまり、図１９においては、ぼけの色及びサイズを正負の値で示している。

図１９においては、被写体の位置がピント位置よりも近い場合及び被写体の位置がピント位置よりも遠い場合のいずれの場合においても、被写体がピント位置から離れるほど、ぼけのサイズ（ピクセル）の絶対値が大きくなることが示されている。

図１９に示す例では、画像を撮像した光学系におけるピント位置が約１５００ｍｍである場合を想定している。この場合、例えば約－４．８ピクセルのぼけは光学系から約１０００ｍｍの距離に対応し、０ピクセルのぼけは光学系から１５００ｍｍの距離に対応し、約４．８ピクセルのぼけは光学系から約７５０ｍｍの距離に対応する。

ここでは、便宜的に、ぼけのサイズ（ピクセル）をＸ軸上に示す場合について説明したが、上記した図６～図１０において説明したように、画像に生じるぼけの形状（ＰＳＦ形状）についても、当該被写体がピント位置よりも近い場合と当該被写体がピント位置よりも遠い場合とで異なるし、画像中の位置によっても異なる。このため、図１９においてＸ軸上に示す値は、実際には当該ぼけの形状（ＰＳＦ形状）を反映した値である。

なお、統計モデルの学習時に、学習用画像に関する情報が統計モデルに入力される場合には、当該学習用画像が撮像された際の被写体までの実際の距離に対応する、ぼけの色、サイズ及び形状を正負で示す値（以下、ぼけ値と表記）が正解値として用いられる。このような学習が行われた統計モデルによれば、画像中の被写体までの距離としては、上記したぼけ値が出力される。

例えば図１９の線分ｄ１によって示されるように被写体までの距離とぼけの色、サイズ及び形状とは相関があるため、距離を推定することと、ぼけの色、サイズ及び形状を推定することとは同義である。

なお、統計モデルに直接的に距離を推定させる場合と比較して、当該統計モデルにぼけの色、サイズ及び形状を推定させる場合の方が、統計モデルによる推定の精度を高めることができる。この場合、例えばｎ画素（Ｘ軸方向）×ｍ画素（Ｙ軸方向）の局所領域毎に当該局所領域に関する情報が統計モデルに入力される場合、当該統計モデルは、その局所領域を構成する各画素について推定したぼけの色、サイズ及び形状（を示すぼけ値）をｎ行×ｍ列に配列した距離を出力するものとする。

また、統計モデルの学習においては、画像処理装置３において取得（推定）可能な距離の下限値（手前）から上限値（奥）まで極力細かい粒度で被写体を各距離で撮像した学習用画像を用意し、これらの学習用画像に関する情報を統計モデルに入力する。統計モデルの学習において用いられる正解値としては、このような学習用画像が撮像されたときの被写体までの距離に対応するぼけの色、サイズ及び形状を示すぼけ値を用いる。なお、統計モデルの学習には、被写体が異なる様々な学習用画像が用意されることが好ましい。

次に、図２０に示すフローチャートを参照して、本実施形態に係る画像処理装置３において用いられる統計モデルを生成する処理の処理手順の一例について説明する。なお、図２０に示す処理は、例えば画像処理装置３において実行されてもよいし、他の装置等において実行されてもよい。

まず、予め用意された学習用画像に関する情報が統計モデルに入力される（ステップＳ１）。この学習用画像は、例えば撮像装置２に備えられるレンズ２１を透過した光に基づいてイメージセンサ２２によって生成された画像であって、撮像装置２の光学系（レンズ２１）の収差の影響を受けた画像である。具体的には、学習用画像には、上記した図４～図１０において説明した被写体までの距離に応じて非線形に変化するぼけが生じている。

なお、学習用画像に生じるぼけと相関がある当該学習用画像を撮像した光学系の情報（例えば、焦点距離、Ｆ値、ピント位置等）については、図２０に示す処理を実行する画像処理装置３または他の装置等において把握されているものとする。

撮像画像から距離を推定する方式として上記した第１方式が適用される場合には、学習用画像に関する情報として、当該学習用画像の局所領域毎に、Ｒ画像、Ｇ画像及びＢ画像の勾配データが統計モデルに入力される。

撮像画像から距離を推定する方式として上記した第２方式が適用される場合には、学習用画像に関する情報として、学習用画像の局所領域毎に、Ｒ画像、Ｇ画像及びＢ画像の勾配データと当該局所領域の学習用画像上における位置情報とが統計モデルに入力される。

撮像画像から距離を推定する方式として上記した第３方式が適用される場合には、学習用画像に関する情報として、当該学習用画像の全領域分のＲ画像、Ｇ画像及びＢ画像の勾配データが統計モデルに入力される。

なお、本実施形態においてはＲ画像、Ｇ画像及びＢ画像の勾配データが統計モデルに入力されるものとして説明するが、上記した学習用画像に生じるぼけの形状（ＰＳＦ形状）の観点から距離を推定する場合には、Ｒ画像、Ｇ画像及びＢ画像の勾配データのうちの少なくとも１つの勾配データが統計モデルに入力されればよい。一方、色収差により学習用画像に生じるぼけの色及びサイズの観点から距離を推定する場合には、Ｒ画像、Ｇ画像及びＢ画像の勾配データのうちの少なくとも２つの勾配データが統計モデルに入力されればよい。

統計モデルに対して学習用画像に関する情報が入力されると、統計モデルによって、被写体までの距離が推定される（ステップＳ２）。この場合、統計モデルにより、学習用画像に生じているぼけが当該学習用画像から抽出され、当該ぼけに応じた距離が推定される。

ステップＳ２において推定された距離は、学習用画像の撮像時に得られている正解値と比較される（ステップＳ３）。

ステップＳ３における比較結果（誤差）は、統計モデルにフィードバックされる（ステップＳ４）。これにより、統計モデルにおいては、誤差が減少するようにパラメータが更新される（つまり、学習用画像に生じているぼけが学習される）。

上記した図２０に示す処理が学習用画像毎に繰り返し実行されることによって、当該学習用画像中の被写体までの距離に応じて非線形に変化するぼけ（の距離依存性及び位置依存性）を学習した統計モデルが生成される。このように生成された統計モデルは、画像処理装置３に含まれる統計モデル格納部３１に格納される。

ここでは１つの統計モデルの学習について説明したが、本実施形態においては、上記したように撮像装置２の光学系に用いられるレンズ毎に統計モデルが用意される。ここで、例えば撮像装置２が第１レンズ及び第２レンズを用いることができるものとすると、第１レンズに応じた統計モデルは、当該第１レンズを用いた撮像装置２によって撮像される画像（学習用画像）を用いた学習を繰り返すことによって生成される。一方、第２レンズに応じた統計モデルは、当該第２レンズを用いた撮像装置２によって撮像される画像（学習用画像）を用いた学習を繰り返すことによって生成される。他のレンズについても同様である。すなわち、本実施形態においては、撮像装置２の光学系に用いられるレンズを交換しながら学習を繰り返すことによって、当該レンズの各々に応じた統計モデルを生成することができる。

なお、ここでは複数のレンズを交換しながら撮像された画像を学習用画像として利用する場合について説明したが、本実施形態において、収差マップ格納部３２には各レンズの焦点距離、Ｆ値、ピント位置に応じた距離依存性及び位置依存性を示す複数の収差マップが格納されている。この複数の収差マップは複数のレンズの各々を用いて撮像された画像に生じるぼけの分布を表すものであるため、所定の画像にこれらの収差マップが畳み込まれた画像（カラー画像）を学習用画像として利用して、各レンズに応じた統計モデルの学習を行うことも可能である。このような構成によれば、学習用画像を収集する手間を軽減することが可能となる。

次に、図２１に示すフローチャートを参照して、撮像画像から距離情報を取得する際の画像処理装置３の処理手順の一例について説明する。なお、以下の説明においては、撮像画像を撮像する撮像装置２の光学系に用いられているレンズ２１（つまり、撮像装置２に装着されているレンズ２１）を対象レンズ２１と称する。

まず、撮像装置２（イメージセンサ２２）は、被写体を連続的に撮像することによって当該被写体を含む複数の撮像画像を生成する。なお、撮像装置２のピント位置が固定された場合、対象レンズ２１を透過した光は被写体までの距離に応じて異なる点拡がり関数（ＰＳＦ）または点像分布関数の応答形状を有し、このような光をイメージセンサ２２で検出することによって、撮像装置２の光学系（対象レンズ２１）の収差の影響を受けた撮像画像が生成される。

表示処理部３５は、上記したように撮像装置２において生成された複数の撮像画像を例えば表示デバイスに順次表示することによって、プレビュー表示を行う（ステップＳ１１）。

次に、測距領域選定部３６は、プレビュー表示が行われている撮像画像中の距離情報を取得する領域（位置）を選定する（ステップＳ１２）。

なお、ステップＳ１２の処理は、例えば画像処理装置３に対するユーザの操作に応じて実行される。具体的には、測距領域選定部３６は、例えば画像処理装置３に備えられている入力デバイス（マウス、キーボード及びタッチスクリーンディスプレイ等）に対するユーザの操作に応じて選択された撮像画像中の領域（以下、測距領域と表記）を選定することができる。

また、デジタルカメラ等の測距装置１の場合には、当該測距装置１に設けられている物理的なボタン（例えば、メニューボタン及びシャッターボタン等）に対するユーザの操作に応じて測距領域を選定してもよいし、当該測距装置１に設けられているタッチスクリーンディスプレイ（プレビュー表示）に対するユーザの操作に応じて測距領域を選定してもよい。更に、測距装置１（デジタルカメラ）が特定の被写体にピントを合わせるオートフォーカス（ＡＦ）機能を有する場合には、当該オートフォーカス機能によって抽出される被写体を含む領域が自動的に測距領域として選定されてもよい。なお、測距領域は、撮像画像に対して実行される他の画像処理等に応じて選定されてもよい。

また、ステップＳ１２において選定される測距領域は、１つであってもよいし、複数であってもよい。また、測距領域は、撮像画像中の一部の領域であってもよいし、撮像画像の全部の領域であってもよい。測距領域が撮像画像中の一部の領域である場合、当該測距領域の形状は、例えば矩形または円形等であればよい。

ステップＳ１２の処理が実行された場合、測距領域選定部３６は、選定された測距領域の情報として、測距領域の数及び当該測距領域の位置等を取得する。なお、測距領域の位置は、例えば測距領域の中心点に対応する撮像画像上のＸ座標値及びＹ座標値等で表されればよい。

次に、画像取得部３７は、ステップＳ１２において測距領域が選定された撮像画像を取得する（ステップＳ１３）。

ステップＳ１３の処理が実行されると、ステップＳ１２において選定された測距領域（選択エリア）の情報及び当該ステップＳ１３において取得された撮像画像に基づいて距離取得処理を実行する（ステップＳ１４）。なお、距離取得処理においては、測距領域中の被写体までの距離を示す距離情報が取得される。

ステップＳ１４の処理が実行されると、出力部３９は、当該ステップＳ１４の処理において取得された距離情報を出力する（ステップＳ１５）。この場合、出力部３９は、距離情報を、ステップＳ１３において取得された撮像画像中の測距領域と位置的に対応づけて配置したマップ形式の画像データ（距離情報によって示される距離を画素値とする画素から構成される画像データ）として出力することができる。なお、距離情報は、単に数値等として出力されてもよいし、他の形式で出力されてもよい。

次に、図２２に示すフローチャートを参照して、上記した距離取得処理（図２１に示すステップＳ１４の処理）の処理手順の一例について説明する。

ここで、上記したようにレンズユニットに備えられるメモリには、当該対象レンズ２１に関するレンズ情報が予め保持されている。このレンズ情報は、対象レンズ２１の仕様値（カタログ値）に相当し、例えば当該対象レンズ２１の焦点距離やＦ値等を含む。また、レンズ情報には、現在のピント位置等の情報が含まれていてもよい。

距離取得処理において、レンズ情報取得部３３は、上記したレンズ情報をレンズユニットから取得する（ステップＳ２１）。

ここで、画像処理装置３には、例えば図２１に示す処理が前回実行された際に撮像装置２の光学系に用いられていたレンズに関するレンズ情報が保持されているものとする。

これにより、統計モデル選定部３４は、ステップＳ２１において取得されたレンズ情報及び画像処理装置３に保持されているレンズ情報に基づいて、対象レンズ２１のレンズ情報（つまり、焦点距離、Ｆ値、ピント位置）が変更されているか否かを判定する（ステップＳ２２）。レンズ情報として少なくとも焦点距離、Ｆ値、ピント位置のいずれか１つ、またはその組み合わせが取得できる場合、このようなレンズ情報として取得される情報に基づいて対象レンズ２１のレンズ情報が変更されているか否かを判定しても良い。

対象レンズ２１のレンズ情報が変更されていると判定された場合（ステップＳ２２のＹＥＳ）、統計モデル選定部３４は、ステップＳ２１において取得されたレンズ情報（対象レンズ２１のカタログ値）を使用して統計モデルを選定するか否かを判定する（ステップＳ２３）。なお、レンズ情報を使用して統計モデルを選定する場合には統計モデル選定部３４の処理量を低減させることができる一方で、当該レンズ情報の信頼性によっては適切な統計モデルが選定されない可能性もある。このため、レンズ情報を使用して統計モデルを選定するか否かについては、例えばユーザによって予め設定されているものとする。

上記したユーザによる設定に基づいてレンズ情報を使用して統計モデルを選定しないと判定された場合（ステップＳ２３のＮＯ）、統計モデル選定部３４は、対象レンズ２１を用いた撮像装置２によって撮像された画像（以下、サンプル画像と表記）から当該対象レンズ２１の収差マップ（ＰＳＦ形状）を推定する（ステップＳ２４）。

ここで、ステップＳ２４において用いられるサンプル画像は、例えば白点画像や白黒ストライプ等のテストパターンを撮像することによって得られる画像（テストパターン画像）であるものとする。統計モデル選定部３４は、このようなサンプル画像の各位置に生じているぼけ（ＰＳＦ形状）を抽出することによって対象レンズ２１の収差マップを推定する。サンプル画像は、例えばレンズユニットに備えられるメモリに保持されていてもよいし、撮像装置２によって撮像されて画像処理装置３に保持されていてもよい。

なお、ステップＳ２４においては、サンプル画像全体の収差マップを推定するようにしてもよいし、当該サンプル画像の一部の領域の収差マップを推定するようにしてもよい。また、サンプル画像の一部の領域の収差マップを推定する場合、当該一部の領域は、図２１に示すステップＳ１２において選定された測定領域であってもよいし、特徴的な形状のぼけが生じるサンプル画像の端部近傍の領域であってもよい。

次に、統計モデル選定部３４は、ステップＳ２４において推定された対象レンズ２１の収差マップを、収差マップ格納部３２に格納されている収差マップの各々と照合する（ステップＳ２５）。ステップＳ２５において、統計モデル選定部３４は、対象レンズ２１の収差マップと収差マップ格納部３２に格納されている収差マップの各々との類似度を算出し、当該類似度が高い収差マップを特定する。

なお、上記したステップＳ２４及びＳ２５の処理が実行されることによって収差マップが特定されるが、収差マップは、例えば撮像装置２の光学系（対象レンズ２１）の収差を受けた第１サンプル画像（ぼけが生じている画像）と、撮像装置２に取り込まれる光の量を少なくする（つまり、開口部の大きさを小さくする）ことによって得られる収差の影響が少ない第２サンプル画像（ぼけが生じていない画像）とを用いて特定されてもよい。具体的には、第１サンプル画像（デフォーカスした画像）と、第２サンプル画像に対して収差マップ格納部３２に格納されている収差マップの各々を畳み込むことによって生成される画像との類似度を算出し、当該類似度が高い画像の生成に用いられた収差マップ（当該画像に畳み込まれた収差マップ）を特定するようにしてもよい。

ここで、収差マップ格納部３２に格納されている収差マップの各々は、上記したように統計モデルに紐づけられている。このため、統計モデル選定部３４は、統計モデル格納部３１に格納されている複数の統計モデルの中から、上記したように特定された収差マップに紐づけられている統計モデルを選定する（ステップＳ２６）。ステップＳ２６において選定された統計モデルは、対象レンズ２１を用いた撮像装置２によって撮像された撮像画像に対して高い精度で距離を推定可能な統計モデルに相当し、対象レンズ２１（のレンズ情報（焦点距離、Ｆ値、ピント位置等））に応じた統計モデルとして画像処理装置３において設定される。

ステップＳ２６の処理が実行されると、距離取得部３８は、図２１に示すステップＳ１３において取得された撮像画像中の測距領域に関する情報（勾配データ）を、ステップＳ２６において選定された統計モデルに入力する（ステップＳ２７）。

ステップＳ２７の処理が実行されると、統計モデルにおいて測距領域中の被写体までの距離が推定され、当該統計モデルは、当該推定された距離を出力する。なお、被写体までの距離は、測距領域（撮像画像）を構成する画素毎に推定されて出力される。これにより、距離取得部３８は、統計モデルから出力された距離を示す距離情報を取得する（ステップＳ２８）。

なお、ステップＳ２６において選定された統計モデル（つまり、対象レンズ２１に応じた統計モデルとして画像処理部３において設定された統計モデル）は、当該対象レンズ２１型のレンズに変更されない限り、図２２の処理が実行される度に用いられる。

すなわち、上記したステップＳ２２において対象レンズ２１のレンズ情報が変更されていないと判定された場合（ステップＳ２２のＮＯ）、既に設定されている統計モデル（つまり、図２１及び図２２の処理が前回実行されることによって選定された統計モデル）を用いてステップＳ２７及びＳ２８の処理が実行されればよい。

一方、ステップＳ２３においてレンズ情報を使用して統計モデルを選定すると判定された場合（ステップＳ２３のＹＥＳ）、統計モデル選定部３４は、統計モデル格納部３１に格納されている複数の統計モデルの中から、当該レンズ情報（に含まれる焦点距離、Ｆ値、ピント位置等）に基づいて特定されるレンズ（つまり、対象レンズ２１）に応じた統計モデルを選定する（ステップＳ２６）。このステップＳ２６の処理が実行された後は、上記したステップＳ２７及びＳ２８の処理が実行されればよい。

なお、図２１に示すステップＳ１２において複数の測距領域が選定されている場合、図２２に示すステップＳ２７及びＳ２８の処理は、当該測距領域毎に実行される。これにより、複数の測距領域の各々に含まれる被写体までの距離を示す距離情報を取得することができる。また、例えば複数の測距領域が異なる撮像画像から選定されている場合には、図２１に示すステップＳ１３以降の処理が当該撮像画像毎に実行されればよい。

また、図２２に示す例では、レンズ情報を使用して統計モデルを選定する場合にはステップＳ２６の処理が実行されるものとして説明したが、例えば当該レンズ情報（焦点距離、Ｆ値、現在のピント位置）から光線追跡を行い、対象レンズ２１を用いた撮像装置２によって撮像される画像に生じるぼけ（ＰＳＦ形状）をシミュレーションすることができる場合がある。このような場合には、このシミュレーション結果に基づいて推定される収差マップを用いてステップＳ２５に相当する処理を実行することによって統計モデルを選定してもよい。

また、図２２に示す例では、ステップＳ２３においてレンズ情報を使用して統計モデルを選定しないと判定された場合にステップＳ２４及びＳ２５の処理が実行されるものとして説明したが、例えば当該レンズ情報を取得することができないような場合にもステップＳ２４及びＳ２５が実行されればよい。

また、例えばステップＳ２３においてレンズ情報を使用して統計モデルを選定すると判定された場合であっても、ステップＳ２１において取得されたレンズ情報に合致する統計モデルが無い場合ある。このような場合には、ステップＳ２４、ステップＳ２５の処理を実行し、最も類似度が高い収差マップに紐づけられている統計モデルを選定するようにしてもよい。

更に、対象レンズ２１の製造元（レンズメーカー）から対象レンズ２１の収差マップに相当する収差情報を取得することができる場合がある。この場合には、この収差情報を用いてステップＳ２５に相当する処理を実行することによって統計モデルを選定してもよい。

また、ユーザが手動で焦点距離、Ｆ値、ピント位置を設定し、この設定値を用いてステップＳ２６が実行されてもよい。

上記したように本実施形態においては、光学系（第１光学系）の収差の影響を受けた学習用画像（第１画像）に生じる、当該学習用画像中の被写体までの距離に応じて非線形に変化するぼけを学習することによって生成された統計モデルを、当該光学系に用いられるレンズ毎に統計モデル格納部３１に格納しておき、光学系（第２光学系）の収差を受けた撮像画像（第２画像）が取得された場合に、当該撮像画像が撮像された際の光学系に用いられた対象レンズ２１に応じた統計モデルに当該撮像画像を入力し、当該撮像画像中の被写体までの距離を示す距離情報を取得する。

なお、本実施形態において、画像中の被写体までの距離に応じて非線形に変化するぼけには、例えば光学系の色収差により生じるぼけ及び当該光学系に取り込まれる光の量を調節する絞り機構の開口部の大きさまたは形状に応じて生じるぼけのうちの少なくとも一方が含まれる。また、画像中の被写体までの距離に応じて非線形に変化するぼけは、当該画像中の位置に応じて更に変化するぼけを含んでいてもよい。なお、本実施形態においては光学系の収差として主に色収差について説明したが、本実施形態において用いられる統計モデルは、他の収差により生じるぼけを学習する（つまり、他の収差により生じるぼけに基づいて距離を推定する）ものであってもよい。本実施形態においては例えばモノクロ画像に生じるような単色収差でも距離を推定可能であるが、色収差があるカラー画像の場合には距離の推定精度を向上させることができる。

すなわち、本実施形態においては、画像に生じるぼけが距離依存性及び位置依存性を有し、かつ、当該ぼけが撮像装置２の光学系に用いられるレンズ（の種別）に応じて異なる点に着目し、撮像画像を撮像した撮像装置２（の光学系）に用いられる対象レンズ２１に応じた統計モデルを用いて当該撮像画像中の被写体までの距離を示す距離情報を取得する構成により、当該距離の精度（推定精度）を向上させることができる。

更に、本実施形態においては、対象レンズ２１に関するレンズ情報を取得し、当該レンズ情報に基づいて特定されるレンズ（対象レンズ２１）に応じた統計モデルを、統計モデル格納部３１に格納されている複数の統計モデルの中から選定する。なお、このレンズ情報はレンズユニット（メモリ）から取得可能である。このような構成によれば、対象レンズ２１に応じた適切な統計モデルを用いて距離情報を取得することができる。また、このようにレンズ情報を使用する構成の場合には、統計モデルを選定する際の処理量を低減することができる。

一方、レンズ情報を使用しない場合には、撮像装置２の光学系の収差の影響を受けたサンプル画像（第４画像）に生じているぼけに基づいて収差マップ格納部３２に格納されている収差マップを特定し、当該収差マップに応じた統計モデル（つまり、当該収差マップに紐づけられている統計マップ）を用いて距離情報を取得するものとする。

具体的には、サンプル画像は例えばテストパターン画像を含み、当該テストパターン画像に生じているぼけに基づいて推定された収差マップ（第２収差マップ）を収差マップ格納部３２に格納されている収差マップ（第１収差マップ）の各々と照合することによって、当該推定された収差マップ（第２収差マップ）と類似する収差マップ（第１収差マップ）を特定する。

このような構成によれば、レンズ情報を使用する構成と比較して処理量は増加するが、単にレンズ情報を使用して統計モデルを選定する場合よりも、撮像装置２によって実際に撮像されたサンプル画像に基づいてより適切な統計モデルを選定することができる可能性がある。

なお、撮像装置２の光学系の収差の影響を受けた第１サンプル画像（第４画像）と、当該第１サンプル画像よりも当該光学系の収差の影響が少ない第２サンプル画像（第５画像）に対して収差マップ格納部３２に格納されている収差マップの各々を畳み込むことによって生成される画像（第６画像）とを比較することによって、当該第１サンプル画像と類似する画像に畳み込まれている収差マップを特定する構成としてもよい。

また、上記したように収差マップを特定する際には、サンプル画像全体に生じているぼけを用いてもよいし、サンプル画像の一部の領域に生じているぼけを用いてもよい。換言すれば、サンプル画像全体に生じているぼけに着目して収差マップを特定してもよいし、サンプル画像の一部の領域に生じているぼけのみに着目して収差マップを特定してもよい。サンプル画像全体に生じているぼけを用いた場合にはより適切な収差マップを特定することが可能であるが、サンプル画像の一部の領域に生じているぼけを用いた場合には収差マップを特定する際の処理量を低減することができる。また、この場合におけるサンプル画像の一部の領域は、例えば選定された測距領域に対応する位置の領域であってもよいし、より対象レンズ２１に応じた特徴的な形状のぼけが生じる画像の端部近傍の領域であってもよい。

更に、本実施形態においては、撮像装置２によって撮像された撮像画像を順次表示するプレビュー表示を行い、当該表示されている撮像画像中の測距領域を選定し、当該選定された測距領域中の被写体までの距離情報を取得する。

なお、この測距領域は、例えばシャッターボタン等の撮像装置２（または測距装置１）に物理的に設けられているボタンに対するユーザの操作に基づいて選定されてもよいし、タッチスクリーンディスプレイに表示された撮像画像に対するユーザの操作（例えば、測距領域の位置をタッチする操作）に基づいて選定されてもよい。更に、測距領域は、例えばオートフォーカス機能等に基づく所定の画像処理によって抽出される被写体を含む領域であってもよい。

このような構成によれば、ユーザが意図する被写体までの距離を示す距離情報を取得することができるとともに、測距領域が撮像画像中の一部の領域である場合には、撮像画像全体に含まれる全ての被写体までの距離を示す距離情報を取得する必要がないため、画像処理装置３の処理量を低減することができる。なお、測距領域を撮像画像全体（の領域）とした場合には、当該撮像画像に含まれる全ての被写体までの距離を示す距離情報を取得することができる。

ここで、本実施形態においては、撮像装置２によって撮像された撮像画像に生じているぼけに基づいて被写体までの距離を示す距離情報が取得されるが、当該ぼけのサイズが例えば１０ピクセル以上であるような場合には、距離情報を取得することができない場合がある。

このため、上記したぼけのサイズに応じて距離情報を取得することができない場合の対策として、例えば距離取得部３８は、図２３に示す処理を実行するものとする。具体的には、距離取得部３８は、撮像画像の測距領域に生じているぼけのサイズが許容範囲内であるか否かを判定する（ステップＳ３１）。このステップＳ３１においては、測距領域に生じているぼけのサイズが予め定められた値（例えば、１０ピクセル）以上である場合には、当該ぼけのサイズが許容範囲内にないと判定する。一方、測距領域に生じているぼけのサイズが予め定められた値未満である場合には、当該ぼけのサイズが許容範囲内にあると判定する。

ぼけのサイズが許容範囲内にないと判定された場合（ステップＳ３１のＮＯ）、距離取得部３８は、撮像画像（測距領域）の解像度を縮小する（ステップＳ３２）。このように撮像画像の解像度を縮小した（低下させた）場合には、当該撮像画像の測距領域に生じているぼけのサイズ（ピクセル数）を許容範囲内に収まるように小さくすることができる。

ステップＳ３２の処理が実行された場合には、当該ステップＳ３２において解像度が縮小された後の撮像画像を用いて図２２に示すステップＳ２７の処理が実行される。

一方、ぼけのサイズが許容範囲内にあると判定された場合（ステップＳ３１のＹＥＳ）、ステップＳ３２の処理は実行されない。

ここでは、撮像画像の測距領域に生じているぼけのサイズが予め定められた値以上である場合にステップＳ３２の処理が実行されるものとして説明したが、例えば撮像画像（測距領域）においてエッジの抽出ができない場合には、ぼけのサイズが大きいと推定して、ステップＳ３２の処理が実行されるようにしてもよい。

上記した図２３の処理は、図２１に示すステップＳ１３の処理が実行された後、図２２に示すステップＳ２７の処理が実行されるまでの間であれば、任意のタイミングで実行されればよい。

なお、本実施形態においては、撮像装置２の光学系に用いられるレンズ毎に統計モデルを生成（用意）しておくものとして説明したが、統計モデル格納部３１には、例えば複数のレンズに対して１つの統計モデル（例えば、複数のレンズの各々を用いて撮像された画像を学習した統計モデル）が生成されていてもよい。

ここで、例えば画像全体のぼけ情報とセマンティック情報とを用いて学習した統計モデルを用いて距離を推定するようなものがあるが、この場合には、細かいぼけ情報を利用することができず、更には、環境にロバスト性を持たせる（すなわち、様々な撮像画像から高精度で距離を推定可能とする）ために膨大な学習データが必要となる。

これに対して、本実施形態においては、統計モデルが画像に生じるぼけのみを学習する構成であるため、上記したようなぼけ情報とセマンティック情報とを用いて学習する場合と比較して、撮像画像から距離（距離情報）を取得する際のロバスト性を向上させる（つまり、高いロバスト性を実現する）ことができる。

また、単眼カメラを用いて距離を推定するために当該カメラの開口部にフィルタを設ける（つまり、カメラのレンズに細工を施す）ような構成があるが、このような構成においては当該フィルタによって光の透過率が低下し、カラーバランスが偏りやすい。更に、フィルタ等の部品数の増加によってコストが高くなる。

これに対して、本実施形態においては、光の透過率の低下及びカラーバランスの偏りを生じることはなく、更には、コストが高くなることもない。

また、本実施形態において、統計モデルが画像から抽出された局所領域毎にぼけを学習する場合には、撮像画像から高い精度の距離を推定可能な統計モデルを生成することができる。この場合、撮像画像から抽出された局所領域に関する情報を統計モデルに入力することによって、当該局所領域毎に、当該局所領域内の被写体までの距離を示す距離情報を取得することができる。

なお、局所領域に関する情報には、例えば当該局所領域を構成する各画素と隣接する画素との画素値の差分を示す情報が含まれるが、他の情報が局所領域に関する情報として用いられてもよい。

具体的には、局所領域に関する情報として、画像における当該局所領域の位置情報を更に統計モデルに入力してもよい。このような構成によれば、局所領域の位置を考慮した、より精度の高い距離情報を取得することができる。なお、この位置情報は、例えば撮像画像上における局所領域の中心点の座標を示す情報であるが、他の情報であってもよい。

ここでは統計モデルが画像から抽出された局所領域毎にぼけを学習する場合について説明したが、統計モデルが学習用画像の全領域分のぼけを一括して学習し、撮像画像の全領域分のぼけを入力して距離を推定する構成とした場合には、画像処理装置３（距離取得部３８）の演算負荷を低減することが可能となる。

なお、本実施形態における統計モデルは、例えばニューラルネットワークまたはランダムフォレストであるものとして説明したが、他のアルゴリズムが適用されたものであってもよい。

次に、本実施形態の変形例に係る画像処理装置３について説明する。以下の説明においては、上述した本実施形態の説明において用いた図面と同様の部分には同一参照符号を付してその詳しい説明を省略するものとし、当該本実施形態と異なる点についてのみ主に説明する。

まず、図２４を参照して、本変形例の概要を説明する。図２４に示すように、本変形例においては、統計モデルが撮像画像５０１に関する情報から距離５０４を推定する際に、その推定の不確実性の度合い（以下、不確実度と表記）７０１を画素毎に算出し、当該不確実度７０１を距離５０４とともに出力する。この不確実度７０１の算出方法は、特定の方法に限定されず、既知の様々な方法を適用することができる。

本変形例において、距離取得部３８は、統計モデルから出力される不確実度を調べ、当該不確実度が閾値以上であった場合には、例えば取得された距離情報（つまり、不確実度が閾値以上の距離を示す距離情報）を破棄する。なお、例えば距離情報は当該距離情報によって示される距離が推定された画素に対応する位置に配置されて出力される（つまり、マップ形式で出力される）が、距離情報を破棄する場合は、統計モデルによって推定された距離（距離情報）が無効であることを示す値を、当該距離が推定された画素に対応する位置に配置するものとする。

また、距離取得部３８は、特定の画素について推定された距離に対する不確実度が閾値以上である場合、当該距離を、当該画素の周辺の画素について推定された距離（不確実度が閾値未満である距離）を用いて補正することも可能である。この補正においては、例えば周辺の画素について推定された距離の平均値を補正値としてもよいし、当該距離による多数決で補正値を決定してもよい。

図２５は、本変形例における統計モデルの学習方法の一例を示す。図２５に示すように、統計モデルが不確実度を出力する本変形例においても、基本的には、学習用画像６０１に関する情報を統計モデルに入力し、統計モデルによって推定された距離６０２と正解値６０３との誤差を統計モデルにフィードバックする。ただし、学習用画像６０１に関する情報が入力された統計モデルにおいては、上記したように推定された距離６０２に対する不確実度７０２が算出される。このため、本変形例においては、距離６０２と正解値６０３との誤差を不確実度７０２の二乗で割り算した誤差をフィードバックするものとする。この場合、不確実度７０２を無限大とした際には誤差がゼロになるため、不確実度７０２の二乗をペナルティとして誤差に加算するものとする。

本変形例においては、上記したように距離６０２と正解値６０３との誤差を不確実度７０２で補正した値が減少するように統計モデルのパラメータ（例えば、重み係数）が更新される。

ここで、例えば統計モデルにより推定された距離６０２と正解値６０３との誤差がない一方で、不確実度７０２が高い場合、当該距離６０２は偶然に推定された可能性があると推測することができる。この場合には、距離６０２（正解値６０３）の学習が不足していることを認識することができる。

本変形例では、統計モデルにより算出される不確実度を用いることによって、このような学習の偏りを減少させることができる。

なお、上記した図２５において説明した学習方法は、統計モデル格納部３１に格納されている統計モデルの各々に対して適用される。

以下、本変形例に係る画像処理装置３の動作について説明する。なお、本変形例に係る画像処理装置３において用いられる統計モデルを生成する処理については、上記した不確実度で補正した誤差を用いる点以外は上述した図２０に示す処理と同様であるため、その詳しい説明を省略する。

ここでは、撮像画像から距離情報を取得する際の画像処理装置３の処理手順について説明する。本変形例においては、上述した図２１に示す処理と同様の処理が実行されるが、当該図２１に示すステップＳ１４の処理（距離取得処理）が異なる。

図２６に示すフローチャートを参照して、本変形に係る画像処理装置３において実行される距離取得処理の処理手順の一例について説明する。

まず、上述した図２２に示すステップＳ２１～Ｓ２７の処理に相当するステップＳ４１～Ｓ４７の処理が実行される。

本変形例においては、ステップＳ４７の処理が実行されると、統計モデルによって、被写体までの距離が推定されるとともに、当該距離に対する不確実度（不確実性の度合い）が算出される。なお、被写体までの距離及び不確実度は、撮像画像（測距領域）を構成する画素毎に統計モデルから出力される。

これにより、距離取得部３８は、統計モデルから出力された距離を示す距離情報及び不確実度を撮像画像中の測距領域を構成する画素毎に取得する（ステップＳ４８）。

次に、ステップＳ４８において取得された距離情報（つまり、画素毎の距離情報）の各々についてステップＳ４９及びＳ５０の処理が実行される。以下の説明においては、ステップＳ４９及びＳ５０の処理の対象となる距離情報を対象距離情報とし、当該対象距離情報によって示される距離に対する不確実度を対象不確実度とする。更に、統計モデルにおいて対象距離情報によって示される距離が推定（出力）された撮像画像中の測距領域を構成する画素を対象画素とする。

この場合、距離取得部３８は、対象不確実度が閾値以上であるか否かを判定する（ステップＳ４９）。

対象不確実度が閾値以上であると判定された場合（ステップＳ４９のＹＥＳ）、距離取得部３８は、ステップＳ４８において取得された画素毎の距離情報のうち、撮像画像において対象画素の周辺に位置する画素（以下、周辺画素と表記）について推定された距離を示す距離情報であって、当該距離情報によって示される距離に対する不確実度が閾値未満である距離情報を特定する。ここで特定される距離情報は、複数であってもよいし、１つであってもよい。距離取得部３８は、特定された距離情報によって示される距離を用いて、対象距離情報によって示される距離を補正する（ステップＳ５０）。周辺画素について推定された距離を示す距離情報の中に、不確実度が閾値未満である距離情報が存在しない場合には、対象距離情報によって示される距離は例えば予め定めた不定値に設定される。

なお、複数の距離情報が特定された場合、対象距離情報によって示される距離は、当該複数の距離情報の各々によって示される距離（つまり、周辺画素について推定された距離）の平均値等に補正されてもよいし、当該複数の距離情報によって示される距離による多数決に基づいて補正されてもよい。また、１つの距離情報が特定された場合、対象距離情報によって示される距離は、当該１つの距離情報によって示される距離に基づいて補正されればよい。

一方、対象不確実度が閾値以上でない（つまり、閾値未満である）と判定された場合（ステップＳ４９のＮＯ）、ステップＳ５０の処理は実行されない。

次に、ステップＳ４８において取得された全ての距離情報について上記したステップＳ４９及びＳ５０の処理が実行されたか否かが判定される（ステップＳ５１）。

全ての距離情報について処理が実行されていないと判定された場合（ステップＳ５１のＮＯ）、ステップＳ４９に戻って処理が繰り返される。この場合、ステップＳ４９及びＳ５０の処理が実行されていない距離情報を対象距離情報として処理が実行される。

一方、全ての距離情報について処理が実行されたと判定された場合（ステップＳ５１のＹＥＳ）、図２６に示す距離取得処理は終了される。

なお、図２６に示す例においては、周辺画素について推定された距離を用いて不確実度が閾値以上である距離を補正するものとして説明したが、当該不確実度が閾値以上である距離を示す距離情報は、破棄されて、出力部３９によって出力されないようにしてもよい。

上記したように本変形例においては、統計モデルから算出される不確実度を利用することによって、当該不確実度が閾値以上の距離（つまり、不確実性の度合いが高く、誤って推定された可能性が高い距離）がそのまま使用されること等を防止することができる。

（応用例）
以下、前述した実施形態及び変形例のような構成を有する測距システム１が適用される応用例について説明する。ここでは、便宜的に、測距システム１が図１に示す撮像装置２に相当する撮像部、画像処理装置３に相当する画像処理部を備える１つの装置（測距装置）として実現されている場合について説明する。以下の図面においては、測距装置１が撮像部２及び画像処理部３を備えるものとして説明する。

図２７は、測距装置１が組み込まれている移動体８００の機能構成の一例を示す。移動体８００は、例えば自動運転機能を有する自動車、無人航空機、自立型の移動ロボット等として実現され得る。無人航空機は、人が乗ることができない飛行機、回転翼航空機、滑空機、飛行船であって、遠隔操作または自動操縦により飛行させることができるものであり、例えばドローン（マルチコプター）、ラジコン機、農薬散布用ヘリコプター等を含む。自立型の移動ロボットは、無人搬送車（ＡＧＶ：Automated Guided Vehicle）のような移動ロボット、床を掃除するための掃除ロボット、来場者に各種案内を行うコミュニケーションロボット等を含む。移動体８００には、ロボット本体が移動するものだけでなく、ロボットアームのような、ロボットの一部分を移動または回転させるような駆動機構を有する産業用ロボット等も含まれる。

図２７に示すように、移動体８００は、例えば測距装置１と制御信号生成部８０１と駆動機構８０２とを有する。測距装置１は、例えば撮像部２が移動体８００またはその一部分の進行方向の被写体を撮像することができるように設置される。

図２８に示すように、移動体８００が自動車８００Ａである場合、測距装置１は、前方を撮像するいわゆるフロントカメラとして設置される。なお、測距装置１は、バック時に後方を撮像するいわゆるリアカメラとして設置されてもよい。また、フロントカメラ及びリアカメラとして複数の測距装置１が設置されてもよい。更に、測距装置１は、いわゆるドライブレコーダーとしての機能を兼ねて設置されるものであってもよい。すなわち、測距装置１は録画機器であってもよい。

図２９は、移動体８００がドローン８００Ｂである場合の例を示す。ドローン８００Ｂは、駆動機構８０２に相当するドローン本体８１１と４つのプロペラ部８１２～８１５とを備える。各プロペラ部８１２～８１５は、プロペラとモータとを有する。モータの駆動がプロペラに伝達されることによって、当該プロペラが回転し、その回転による揚力によってドローン８００Ｂが浮上する。ドローン本体８１１の例えば下部には、測距装置１が搭載されている。

また、図３０は、移動体８００が自立型の移動ロボット８００Ｃである場合の例を示す。移動ロボット８００Ｃの下部には、駆動機構８０２に相当する、モータや車輪等を含む動力部８２１が設けられている。動力部８２１は、モータの回転数や車輪の向きを制御する。移動ロボット８００Ｃは、モータの駆動が伝達されることによって、路面または床面に設置する車輪が回転し、当該車輪の向きが制御されることにより任意の方向に移動することができる。図３０に示す例では、測距装置１は、例えば撮像部２が人型の移動ロボット８００Ｃの前方を撮像するように、当該移動ロボット８００Ｃの頭部に設置されている。なお、測距装置１は、移動ロボット８００Ｃの後方や左右を撮像するように設置されてもよいし、複数の方位を撮像するように複数設置されてもよい。また、センサ等を搭載するためのスペースが少ない小型ロボットに測距装置１を設けて、自己位置、姿勢及び被写体の位置を推定することにより、デッドレコニングを行うこともできる。

なお、図３１に示すように移動体８００がロボットアーム８００Ｄであり、当該ロボットアーム８００Ｄの一部分の移動及び回転を制御する場合には、測距装置１は、当該ロボットアーム８００Ｄの先端等に設置されてもよい。この場合、測距装置１に備えられる撮像部２によってロボットアーム８００Ｄで把持される物体が撮像され、画像処理部３は、ロボットアーム８００Ｄが把持しようとする物体までの距離を推定することができる。これにより、ロボットアーム８００Ｄにおいて、物体の正確な把持動作を行うことができる。

制御信号生成部８０１は、測距装置１（画像処理部３）から出力される被写体までの距離を示す距離情報に基づいて駆動機構８０２を制御するための制御信号を出力する。駆動機構８０２は、制御信号生成部８０１から出力される制御信号により、移動体８００または当該移動体８００の一部分を駆動する。駆動機構８０２は、例えば移動体８００または当該移動体８００の一部分の移動、回転、加速、減速、推力（揚力）の加減、進行方向の転換、通常運転モードと自動運転モード（衝突回避モード）との切り替え及びエアバッグ等の安全装置の作動のうちの少なくとも１つを行う。駆動機構８０２は、例えば被写体までの距離が閾値未満である場合に、移動、回転、加速、推力（揚力）の加減、物体に近寄る方向への方向転換及び自動運転モード（衝突回避モード）から通常運転モードへの切り替えのうちの少なくとも１つを行ってもよい。

なお、図２８に示す自動車８００Ａの駆動機構８０２は、例えばタイヤである。図２９に示すドローン８００Ｂの駆動機構８０２は、例えばプロペラである。図３０に示す移動ロボット８００Ｃの駆動機構８０２は、例えば脚部である。図３１に示すロボットアーム８００Ｄの駆動機構８０２は、例えば測距装置１が設けられた先端を支持する支持部である。

移動体８００は、測距装置１から出力された被写体までの距離に関する情報（距離情報）が入力されるスピーカやディスプレイを更に備えていてもよい。このスピーカやディスプレイは、測距装置１と有線または無線で接続されており、被写体までの距離に関する音声または画像を出力するように構成されている。更に、移動体８００は、測距装置１から出力された被写体までの距離に関する情報が入力され、例えば被写体までの距離に応じて点灯及び消灯することができる発光部を有していてもよい。

また、例えば移動体８００がドローン８００Ｂである場合においては、上空から、地図（物体の三次元形状）の作成、ビルや地形の構造調査、ひび割れや電線破断等の点検等が行われる際に、撮像部２が対象を撮像した画像を取得し、被写体までの距離が閾値以上であるか否かを判定する。制御信号生成部８０１は、この判定結果に基づいて、点検対象との距離が一定になるようにドローン８００Ｂの推力を制御するための制御信号を生成する。ここで、推力には揚力も含まれるものとする。駆動機構８０２がこの制御信号に基づいてドローン８００Ｂを動作させることにより、当該ドローン８００Ｂを点検対象に対して平行して飛行させることができる。移動体８００が監視用のドローンである場合、監視対象の物体との距離を一定に保つようにドローンの推力を制御するための制御信号を生成してもよい。

なお、移動体８００（例えば、ドローン８００Ｂ）が各種インフラストラクチャー（以下、単にインフラと表記）の保守点検等に用いられる場合には、当該インフラにおけるひび割れ箇所または錆が発生している箇所等を含む補修が必要な箇所（以下、補修箇所と表記）の画像を撮像部２で撮像することによって、当該補修箇所までの距離を得ることができる。この場合、補修箇所までの距離を利用することによって画像から当該補修箇所のサイズを算出することが可能である。これによれば、例えばインフラ全体を表すマップ上に補修箇所を表示することによって、当該インフラの保守点検者に補修箇所を認識させることができる。また、補修箇所のサイズを事前に保守点検者に伝えておくことは、円滑な補修作業を実施するためにも有用である。

また、ドローン８００Ｂの飛行時に、撮像部２が地面方向を撮像した画像を取得し、地面との距離が閾値以上であるか否かを判定する。制御信号生成部８０１は、この判定結果に基づいて地面からの高さが指定された高さになるようにドローン８００Ｂの推力を制御するための制御信号を生成する。駆動機構８０２がこの制御信号に基づいてドローン８００Ｂを動作させることにより、当該ドローン８００Ｂを指定された高さで飛行させることができる。ドローン８００Ｂが農薬散布用ドローンであれば、このようにドローン８００Ｂの地面からの高さを一定に保つことで、農薬を均等に散布しやすくなる。

また、移動体８００が自動車８００Ａまたはドローン８００Ｂである場合、自動車８００Ａの連隊走行やドローン８００Ｂの連携飛行時に、撮像部２が前方の自動車や周囲のドローンを撮像し、当該自動車やドローンまでの距離が閾値以上であるか否かを判定する。制御信号生成部８０１は、この判定結果に基づいて、前方の自動車や周囲のドローンとの距離が一定になるように、自動車８００Ａの速度やドローン８００Ｂの推力を制御するための制御信号を生成する。駆動機構８０２がこの制御信号に基づいて自動車８００Ａやドローン８００Ｂを動作させることにより、自動車８００Ａの連隊走行やドローン８００Ｂの連携飛行を容易に行うことができる。

更に、移動体８００が自動車８００Ａである場合、自動車８００Ａのドライバーが閾値を設定（変更）することができるように、ユーザインタフェースを介してドライバーの指示を受理可能な構成としてもよい。これにより、ドライバーが好む車間距離で自動車８００Ａを走行させるようなことができる。また、前方の自動車との安全な車間距離を保つために、自動車８００Ａの速度に応じて閾値を変化させてもよい。安全な車間距離は、自動車８００Ａの速度によって異なる。そこで、自動車８００Ａの速度が速いほど閾値を大きく（長く）設定することができる。

また、移動体８００が自動車８００Ａである場合には、進行方向の所定の距離を閾値に設定しておき、当該閾値の手前に物体が表れた際にブレーキを作動させるまたはエアバッグ等の安全装置を作動させる制御信号を生成するようにしてもよい。この場合、自動ブレーキやエアバッグ等の安全装置が駆動機構８０２に設けられる。

以上述べた少なくとも１つの実施形態によれば、画像から取得される距離の精度を向上させることが可能な画像処理装置、測距装置、方法及びプログラムを提供することができる。

また、本実施形態及び本変形例に記載された様々な機能の各々は、回路（処理回路）によって実現されてもよい。処理回路の例には、中央処理装置（ＣＰＵ）のような、プログラムされたプロセッサが含まれる。このプロセッサは、メモリに格納されたコンピュータプログラム（命令群）を実行することによって、記載された機能それぞれを実行する。このプロセッサは、電気回路を含むマイクロプロセッサであってもよい。処理回路の例には、デジタル信号プロセッサ（ＤＳＰ）、特定用途向け集積回路（ＡＳＩＣ）、マイクロコントローラ、コントローラ、他の電気回路部品も含まれる。本実施形態に記載されたＣＰＵ以外の他のコンポーネントの各々もまた処理回路によって実現されてもよい。

また、本実施形態の各種処理はコンピュータプログラムによって実現することができるため、このコンピュータプログラムを格納したコンピュータ読み取り可能な記憶媒体を通じてこのコンピュータプログラウをコンピュータにインストールして実行するだけで、本実施形態と同様の効果を容易に実現することができる。

本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。

１…測距システム（測距装置）、２…撮像装置（撮像部）、３…画像処理装置（画像処理部）、２１…レンズ、２２…イメージセンサ、３１…統計モデル格納部（第１格納手段）、３２…収差マップ格納部（第２格納手段）、３３…レンズ情報取得部、３４…統計モデル選定部、３５…表示処理部、３６…測距領域選定部、３７…画像取得部、３８…距離取得部、３９…出力部、２２１…第１センサ、２２２…第２センサ、２２３…第３センサ、３０１…ＣＰＵ、３０２…不揮発性メモリ、３０３…ＲＡＭ、３０３Ａ…画像処理プログラム、３０４…通信デバイス、３０５…入力デバイス、３０６…表示デバイス、３０７…バス。

Claims (16)

1. 第１光学系の収差の影響を受けた第１画像に生じる、当該第１画像中の被写体までの距離に応じて非線形に変化するぼけを学習することによって生成された統計モデルを格納する第１格納手段と、
   第２光学系の収差の影響を受けた第２画像を取得する画像取得手段と、
   前記第２光学系に用いられたレンズに応じた統計モデルに前記取得された第２画像を入力し、当該第２画像中の被写体までの距離を示す距離情報を取得する距離取得手段と、
   前記第１光学系に用いられるレンズの各々に応じた前記統計モデル毎に、当該レンズを用いた第１光学系の収差の影響を受けた第３画像に生じるぼけであって、当該第３画像中の被写体までの距離及び当該第３画像中の位置に依存するぼけの分布を表す第１収差マップを格納する第２格納手段と、
   前記第２光学系の収差の影響を受けた第４画像に生じているぼけに基づいて前記第２格納手段に格納されている第１収差マップを特定する特定手段と
   を具備し、
   前記距離取得手段は、前記特定された第１収差マップに応じた統計モデルに前記第２画像を入力し、当該第２画像中の被写体までの距離を示す距離情報を取得し、
   前記第４画像は、予め定められたテストパターンを撮像することによって得られる画像を含み、
   前記特定手段は、前記第４画像に生じているぼけに基づいて推定される第２収差マップを、前記第２格納手段に格納されている第１収差マップの各々と照合することによって、当該第２収差マップと類似する第１収差マップを特定する
   画像処理装置。
2. 第１光学系の収差の影響を受けた第１画像に生じる、当該第１画像中の被写体までの距離に応じて非線形に変化するぼけを学習することによって生成された統計モデルを格納する第１格納手段と、
   第２光学系の収差の影響を受けた第２画像を取得する画像取得手段と、
   前記第２光学系に用いられたレンズに応じた統計モデルに前記取得された第２画像を入力し、当該第２画像中の被写体までの距離を示す距離情報を取得する距離取得手段と、
   前記第１光学系に用いられるレンズの各々に応じた前記統計モデル毎に、当該レンズを用いた第１光学系の収差の影響を受けた第３画像に生じるぼけであって、当該第３画像中の被写体までの距離及び当該第３画像中の位置に依存するぼけの分布を表す第１収差マップを格納する第２格納手段と、
   前記第２光学系の収差の影響を受けた第４画像に生じているぼけに基づいて前記第２格納手段に格納されている第１収差マップを特定する特定手段と
   を具備し、
   前記距離取得手段は、前記特定された第１収差マップに応じた統計モデルに前記第２画像を入力し、当該第２画像中の被写体までの距離を示す距離情報を取得し、
   前記特定手段は、前記第４画像と、当該第４画像よりも前記第２光学系の収差の影響が少ない第５画像に対して前記第２格納手段に格納されている第１収差マップの各々を畳み込むことによって生成される第６画像とを比較することによって、当該第４画像と類似する第６画像に畳み込まれている第１収差マップを特定する
   画像処理装置。
3. 前記第１画像中の被写体までの距離に応じて非線形に変化するぼけは、当該第１画像中の位置に応じて更に変化するぼけを含む請求項１または２記載の画像処理装置。
4. 前記第２画像中の距離情報を取得する領域を選定する領域選定手段を更に具備し、
   前記距離取得手段は、前記選定された領域中の被写体までの距離を示す距離情報を取得する
   請求項１または２記載の画像処理装置。
5. 前記第１格納手段は、前記統計モデルを、前記第１光学系に用いられるレンズ毎に格納する
   請求項１または２記載の画像処理装置。
6. 前記領域選定手段は、ユーザの操作に基づいて前記領域を選定する請求項４記載の画像処理装置。
7. 前記領域選定手段は、前記第２画像中の特定の被写体を含む領域を選定する請求項４記載の画像処理装置。
8. 前記特定手段は、前記第４画像全体に生じているぼけまたは当該第４画像中の一部の領域に生じているぼけに基づいて第１収差マップを特定する請求項１または２記載の画像処理装置。
9. 前記第４画像中の一部の領域に生じているぼけは、当該第４画像の端部近傍の領域に生じているぼけを含む請求項８記載の画像処理装置。
10. 前記第２画像を表示する表示手段と、
    ユーザの操作に応じて前記表示された第２画像中の領域を選定する領域選定手段と
    を更に具備し、
    前記距離取得手段は、前記第２光学系に用いられたレンズに応じた統計モデルに前記選定された領域に関する情報を入力し、当該領域中の被写体までの距離を示す距離情報を取得する
    請求項１または２記載の画像処理装置。
11. 画像を撮像する撮像手段と、
    前記撮像手段の第１光学系の収差の影響を受けた第１画像に生じる、当該第１画像中の被写体までの距離に応じて非線形に変化するぼけを学習することによって生成された統計モデルを格納する第１格納手段と、
    前記撮像手段の第２光学系の収差の影響を受けた第２画像を取得する画像取得手段と、
    前記第２光学系に用いられたレンズに応じた統計モデルに前記取得された第２画像を入力し、当該第２画像中の被写体までの距離を示す距離情報を取得する距離取得手段と、
    前記第１光学系に用いられるレンズの各々に応じた前記統計モデル毎に、当該レンズを用いた第１光学系の収差の影響を受けた第３画像に生じるぼけであって、当該第３画像中の被写体までの距離及び当該第３画像中の位置に依存するぼけの分布を表す第１収差マップを格納する第２格納手段と、
    前記第２光学系の収差の影響を受けた第４画像に生じているぼけに基づいて前記第２格納手段に格納されている第１収差マップを特定する特定手段と
    を具備し、
    前記距離取得手段は、前記特定された第１収差マップに応じた統計モデルに前記第２画像を入力し、当該第２画像中の被写体までの距離を示す距離情報を取得し、
    前記第４画像は、予め定められたテストパターンを撮像することによって得られる画像を含み、
    前記特定手段は、前記第４画像に生じているぼけに基づいて推定される第２収差マップを、前記第２格納手段に格納されている第１収差マップの各々と照合することによって、当該第２収差マップと類似する第１収差マップを特定する
    測距装置。
12. 画像を撮像する撮像手段と、
    前記撮像手段の第１光学系の収差の影響を受けた第１画像に生じる、当該第１画像中の被写体までの距離に応じて非線形に変化するぼけを学習することによって生成された統計モデルを格納する第１格納手段と、
    前記撮像手段の第２光学系の収差の影響を受けた第２画像を取得する画像取得手段と、
    前記第２光学系に用いられたレンズに応じた統計モデルに前記取得された第２画像を入力し、当該第２画像中の被写体までの距離を示す距離情報を取得する距離取得手段と、
    前記第１光学系に用いられるレンズの各々に応じた前記統計モデル毎に、当該レンズを用いた第１光学系の収差の影響を受けた第３画像に生じるぼけであって、当該第３画像中の被写体までの距離及び当該第３画像中の位置に依存するぼけの分布を表す第１収差マップを格納する第２格納手段と、
    前記第２光学系の収差の影響を受けた第４画像に生じているぼけに基づいて前記第２格納手段に格納されている第１収差マップを特定する特定手段と
    を具備し、
    前記距離取得手段は、前記特定された第１収差マップに応じた統計モデルに前記第２画像を入力し、当該第２画像中の被写体までの距離を示す距離情報を取得し、
    前記特定手段は、前記第４画像と、当該第４画像よりも前記第２光学系の収差の影響が少ない第５画像に対して前記第２格納手段に格納されている第１収差マップの各々を畳み込むことによって生成される第６画像とを比較することによって、当該第４画像と類似する第６画像に畳み込まれている第１収差マップを特定する
    測距装置。
13. 第１光学系の収差の影響を受けた第１画像に生じる、当該第１画像中の被写体までの距離に応じて非線形に変化するぼけを学習することによって生成された統計モデルを格納する第１格納手段及び前記第１光学系に用いられるレンズの各々に応じた前記統計モデル毎に、当該レンズを用いた第１光学系の収差の影響を受けた第３画像に生じるぼけであって、当該第３画像中の被写体までの距離及び当該第３画像中の位置に依存するぼけの分布を表す第１収差マップを格納する第２格納手段を備える画像処理装置が実行する方法であって、
    第２光学系の収差の影響を受けた第２画像を取得するステップと、
    前記第２光学系にも散られたレンズに応じた統計モデルに前記取得された第２画像を入力し、当該第２画像中の被写体までの距離を示す距離情報を取得するステップと、
    前記第２光学系の収差の影響を受けた第４画像に生じているぼけに基づいて前記第２格納手段に格納されている第１収差マップを特定するステップと
    を具備し、
    前記距離情報を取得するステップは、前記特定された第１収差マップに応じた統計モデルに前記第２画像を入力し、当該第２画像中の被写体までの距離を示す距離情報を取得するステップを含み、
    前記第４画像は、予め定められたテストパターンを撮像することによって得られる画像を含み、
    前記特定するステップは、前記第４画像に生じているぼけに基づいて推定される第２収差マップを、前記第２格納手段に格納されている第１収差マップの各々と照合することによって、当該第２収差マップと類似する第１収差マップを特定するステップを含む
    方法。
14. 第１光学系の収差の影響を受けた第１画像に生じる、当該第１画像中の被写体までの距離に応じて非線形に変化するぼけを学習することによって生成された統計モデルを格納する第１格納手段及び前記第１光学系に用いられるレンズの各々に応じた前記統計モデル毎に、当該レンズを用いた第１光学系の収差の影響を受けた第３画像に生じるぼけであって、当該第３画像中の被写体までの距離及び当該第３画像中の位置に依存するぼけの分布を表す第１収差マップを格納する第２格納手段を備える画像処理装置が実行する方法であって、
    第２光学系の収差の影響を受けた第２画像を取得するステップと、
    前記第２光学系にも散られたレンズに応じた統計モデルに前記取得された第２画像を入力し、当該第２画像中の被写体までの距離を示す距離情報を取得するステップと、
    前記第２光学系の収差の影響を受けた第４画像に生じているぼけに基づいて前記第２格納手段に格納されている第１収差マップを特定するステップと
    を具備し、
    前記距離情報を取得するステップは、前記特定された第１収差マップに応じた統計モデルに前記第２画像を入力し、当該第２画像中の被写体までの距離を示す距離情報を取得するステップを含み、
    前記特定するステップは、前記第４画像と、当該第４画像よりも前記第２光学系の収差の影響が少ない第５画像に対して前記第２格納手段に格納されている第１収差マップの各々を畳み込むことによって生成される第６画像とを比較することによって、当該第４画像と類似する第６画像に畳み込まれている第１収差マップを特定するステップを含む
    方法。
15. 第１光学系の収差の影響を受けた第１画像に生じる、当該第１画像中の被写体までの距離に応じて非線形に変化するぼけを学習することによって生成された統計モデルを格納する第１格納手段及び前記第１光学系に用いられるレンズの各々に応じた前記統計モデル毎に、当該レンズを用いた第１光学系の収差の影響を受けた第３画像に生じるぼけであって、当該第３画像中の被写体までの距離及び当該第３画像中の位置に依存するぼけの分布を表す第１収差マップを格納する第２格納手段を備える画像処理装置のコンピュータによって実行されるプログラムであって、
    前記コンピュータに、
    第２光学系の収差の影響を受けた第２画像を取得するステップと、
    前記第２光学系に用いられたレンズに応じた統計モデルに前記取得された第２画像を入力し、当該第２画像中の被写体までの距離を示す距離情報を取得するステップと、
    前記第２光学系の収差の影響を受けた第４画像に生じているぼけに基づいて前記第２格納手段に格納されている第１収差マップを特定するステップと
    を実行させ、
    前記距離情報を取得するステップは、前記特定された第１収差マップに応じた統計モデルに前記第２画像を入力し、当該第２画像中の被写体までの距離を示す距離情報を取得するステップを含み、
    前記第４画像は、予め定められたテストパターンを撮像することによって得られる画像を含み、
    前記特定するステップは、前記第４画像に生じているぼけに基づいて推定される第２収差マップを、前記第２格納手段に格納されている第１収差マップの各々と照合することによって、当該第２収差マップと類似する第１収差マップを特定するステップを含む
    プログラム。
16. 第１光学系の収差の影響を受けた第１画像に生じる、当該第１画像中の被写体までの距離に応じて非線形に変化するぼけを学習することによって生成された統計モデルを格納する第１格納手段及び前記第１光学系に用いられるレンズの各々に応じた前記統計モデル毎に、当該レンズを用いた第１光学系の収差の影響を受けた第３画像に生じるぼけであって、当該第３画像中の被写体までの距離及び当該第３画像中の位置に依存するぼけの分布を表す第１収差マップを格納する第２格納手段を備える画像処理装置のコンピュータによって実行されるプログラムであって、
    前記コンピュータに、
    第２光学系の収差の影響を受けた第２画像を取得するステップと、
    前記第２光学系に用いられたレンズに応じた統計モデルに前記取得された第２画像を入力し、当該第２画像中の被写体までの距離を示す距離情報を取得するステップと、
    前記第２光学系の収差の影響を受けた第４画像に生じているぼけに基づいて前記第２格納手段に格納されている第１収差マップを特定するステップと
    を実行させ、
    前記距離情報を取得するステップは、前記特定された第１収差マップに応じた統計モデルに前記第２画像を入力し、当該第２画像中の被写体までの距離を示す距離情報を取得するステップを含み、
    前記特定するステップは、前記第４画像と、当該第４画像よりも前記第２光学系の収差の影響が少ない第５画像に対して前記第２格納手段に格納されている第１収差マップの各々を畳み込むことによって生成される第６画像とを比較することによって、当該第４画像と類似する第６画像に畳み込まれている第１収差マップを特定するステップを含む
    プログラム。

Images