JP2018046372A - 撮像装置、システム、プログラム - Google Patents
撮像装置、システム、プログラム Download PDFInfo
- Publication number
- JP2018046372A JP2018046372A JP2016178886A JP2016178886A JP2018046372A JP 2018046372 A JP2018046372 A JP 2018046372A JP 2016178886 A JP2016178886 A JP 2016178886A JP 2016178886 A JP2016178886 A JP 2016178886A JP 2018046372 A JP2018046372 A JP 2018046372A
- Authority
- JP
- Japan
- Prior art keywords
- distance
- luminance value
- image
- polarization
- filter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Measurement Of Optical Distance (AREA)
- Focusing (AREA)
- Blocking Light For Cameras (AREA)
- Automatic Focus Adjustment (AREA)
- Studio Devices (AREA)
Abstract
【課題】光量の低下が抑制された輝度値を処理する撮像装置を提供すること。【解決手段】偏光方向が異なる少なくとも2つの偏光領域を有する偏光部8と、前記偏光部を通過した被写体の光を輝度値に変換する素子26と、偏光方向が異なる前記偏光領域を通過した光の前記輝度値をそれぞれ取得する輝度値取得部61と、各偏光領域を通過した前記輝度値のずれに関する情報を取得する輝度処理部60と、を有する。【選択図】図1
Description
本発明は、撮像装置、システム及びプログラムに関する。
ステレオカメラによる距離計測が知られているが、距離計測を1つのカメラ(単眼カメラ)で行うことが従来から望まれていた。このような要請に対し単眼カメラの1枚の画像のピントを利用して距離情報を取得する技術が考案されている(例えば、非特許文献1参照。)。
非特許文献1には、左右非対称のフィルタを用いるとピントがぼけにくく、距離によるぼけ方の違いを区別しやすいことを利用して、カメラの撮像レンズに左右非対称に光を透過させるフィルタを装着して被写体を撮像し、ピントのぼけを解析することで距離を算出する技術が開示されている。
しかしながら、非特許文献1に記載された技術では、撮像素子に到達する光の量が低下し画像が暗くなるなどの問題がある。すなわち、非特許文献1に記載された技術では、決まったパターン状に孔部が配置されたフィルタが撮像レンズに装着されているため、遮光される光量を低減することが困難である。
本発明は、上記課題に鑑み、光量の低下が抑制された輝度値を処理する撮像装置を提供することを目的とする。
本発明は、偏光方向が異なる少なくとも2つの偏光領域を有する偏光部と、前記偏光部を通過した被写体の光を光電変換する素子と、偏光方向が異なる前記偏光領域を通過した光の前記輝度値をそれぞれ取得する輝度値取得部と、各偏光領域を通過した前記輝度値のずれに関する情報を取得する輝度処理部と、を有する。
光量の低下が抑制された輝度値を処理する撮像装置を提供することを目的とする。
以下、本発明を実施するための形態について図面を参照しながら説明する。
図1は、本実施例の撮像装置100が有する偏光フィルタを説明する図である。本実施例の撮像装置100は、撮像素子に到達する光が2つの偏光フィルタを通過する。第1の偏光フィルタ8は例えば絞りに装着され、第2の偏光フィルタ9は例えば撮像素子26の撮像レンズ側に装着される。
撮像レンズ23を通過した光の一部は第1の偏光フィルタ8のA領域を通過し、他の一部は第1の偏光フィルタ8のB領域を通過する。A領域は偏光を垂直方向に揃え、B領域は偏光を水平方向に揃える。
一方、第2の偏光フィルタ9には、格子状にA領域とB領域が交互に配置されている。第2の偏光フィルタ9は第1の偏光フィルタ8のA領域を通過した光とB領域を通過した光をそれぞれ別々に、撮像素子に受光させる。第1の偏光フィルタ8のA領域を通過した光は第2の偏光フィルタ9のB領域を通過できないので、第2の偏光フィルタ9のA領域に到達した光のみが撮像素子で光電変換される。同様に、第1の偏光フィルタ8のB領域を通過した光は第2の偏光フィルタ9のA領域を通過できないので、第2の偏光フィルタ9のB領域に到達した光のみが撮像素子で光電変換される。
撮像レンズ23から被写体までの距離が、被写体の像がちょうど撮像素子26上で結像する距離である場合、A領域を通過した光とB領域を通過した光は1点に収束する。撮像レンズ23から被写体の距離が、被写体の像が撮像素子26上で結像する距離でない場合、A領域を通過した光とB領域を通過した光は1点に収束せず、撮像レンズ23から被写体までの距離に応じたピントのずれを生じさせる。
このように、ピントのずれ量が被写体の距離情報を持っているため、本実施例ではこの現象を利用してA領域と通過した光とB領域を通過した光のピントのずれ量を解析し距離情報を取得する。
<用語について>
偏光とは、光が一定の方向にだけ振動する現象をいう。偏光方向とは光の振動の方向をいう。
偏光とは、光が一定の方向にだけ振動する現象をいう。偏光方向とは光の振動の方向をいう。
光電変換とは、光を電気信号に変換することをいう。光電変換により、光の強さは光電変換する素子の解像度に応じた輝度値として扱われる。光の強さと輝度値の大きさには相関があることが好ましい。
輝度値のずれに関する情報とは、輝度値のずれを算出したり、推定したり、検出することが可能な情報をいう。本実施形態では、例えば、ブロックマッチングにより得られるずれや、ピントのずれを改善するために決定されるフィルタをいう。
<構成例>
図2は、撮像装置100の概略斜視図の一例である。撮像装置100は、CCD(Charge Coupled Device)やCMOS(Complementary MOS)などの光電変換素子(半導体素子)を使って光(被写体の像)を電気信号に変換し、デジタルデータとしてフラッシュメモリなどの記憶媒体に記憶する。一般には、静止画を撮像するデジタルスチルカメラ、動画を撮像するデジタルビデオカメラなどと呼ばれる。静止画と動画の両方を撮像できる撮像装置100も多いため、呼称はどちらでもよい。また、監視カメラなどのように撮像機能に、更に装置に専用の機能が追加された装置も含む。
図2は、撮像装置100の概略斜視図の一例である。撮像装置100は、CCD(Charge Coupled Device)やCMOS(Complementary MOS)などの光電変換素子(半導体素子)を使って光(被写体の像)を電気信号に変換し、デジタルデータとしてフラッシュメモリなどの記憶媒体に記憶する。一般には、静止画を撮像するデジタルスチルカメラ、動画を撮像するデジタルビデオカメラなどと呼ばれる。静止画と動画の両方を撮像できる撮像装置100も多いため、呼称はどちらでもよい。また、監視カメラなどのように撮像機能に、更に装置に専用の機能が追加された装置も含む。
また、本実施例の撮像装置100は情報処理装置に内蔵されていてもよいし、外付けされていてもよい。撮像装置100を内蔵したり外付けしたりする情報処理装置としては、スマートフォン、携帯電話、タブレット端末、PC(Personal Computer)、PDA(Personal Digital Assistant)、ドローン、複合機(例えば、プリンター、スキャナ及びFAX等の1つ以上を備える)、プロジェクタ、電子黒板、テレビ会議端末、デジタルサイネージ、などがある。ただし、これらには限られず、各種の情報処理装置が内蔵したり外付けしたりできる。
また、撮像装置100は、赤外光など可視光以外の波長や可視光の特定の波長の光に強い感度を有するフィルタや撮像素子を有していてよい。
<ハードウェア構成例>
図3は、撮像装置100のハードウェア構成図の一例を示す。撮像装置100は、撮像レンズ23、メカシャッタ24、モータドライバ25、撮像素子26、信号処理IC32、操作部44、ROM45、SDRAM27及びマイク46等を有している。
図3は、撮像装置100のハードウェア構成図の一例を示す。撮像装置100は、撮像レンズ23、メカシャッタ24、モータドライバ25、撮像素子26、信号処理IC32、操作部44、ROM45、SDRAM27及びマイク46等を有している。
操作部44は、各種のボタンやメニュー画面を表示するタッチパネル付きの液晶ディスプレイ及びシャッターボタンを含む種々のハードボタンを有する。ROM45には、OS(オペレーティングシステム)や撮像装置100を制御するプログラムが記憶されている。プログラムは、撮像素子26や信号処理IC32等の初期化、カメラの鏡胴の繰りだし処理、及び、メモリーカード47の初期化等を行ったり、ユーザ操作に応じて各部を制御する処理などを行ったりする。
SDRAM27は、画像データを一時的に記憶する高速な揮発性のメモリであり、図示するフォーマット(RAW−RGB、YUV、JPEG、OSD)の画像データが記憶される。最終的な画像データは、メモリーカード47又はNVRAM42に記憶される。また、USB I/FからPCに接続し、メモリーカード47等からPCに画像データを送信することもできる。
モータドライバ25は、CPU39がプログラムを実行することで制御され、撮像レンズ23及びメカシャッタ24を光軸方向に移動して焦点合わせ(AF)したり、光学ズームしたりするために使用される。撮像装置100は設定された露光時間毎に撮像素子から電荷を読み出す電子シャッタを備えるが、メカシャッタ24は電子シャッタとは別に、露光時間外に撮像素子に到達する光を遮断する。
メカシャッタの開口部の撮像素子側には第1の偏光フィルタ8が配置されている。第1の偏光フィルタ8については後述する。
撮像素子26は、第2の偏光フィルタ9、受光センサ28、TG(タイミングジェネレータ)31、及び、A/D変換器29を有する。第2の偏光フィルタ9は受光センサ28の撮像レンズ23側に配置されている。第2の偏光フィルタ9については後述する。
受光センサ28はCCDやCMOSなどの光電変換素子である。受光センサ28は、CDS(画像ノイズ除去用相関二重サンプリング部)やAGC(利得調整部)を有している。TG31は、クロック信号から垂直同期信号VD、水平同期信号HDを生成しセンサI/F33に供給する。
撮像装置100が起動した状態では、撮像レンズ23、第1の偏光フィルタ8及び第2の偏光フィルタ9を通して受光センサ28に入射した光が、電気に変換されてA/D変換器29に送られる。A/D変換器29は、入力されたアナログ信号を12bitなどの所定の階調のデジタルデータに変換する。デジタル信号に変換された信号は、デジタル信号処理IC内のセンサI/F33部に取り込まれる。
信号処理IC32は、センサI/F33、メモリコントローラ34、YUV変換部37、圧縮伸張部38、CPU39、表示出力制御部35、リサイズ処理部36、メディアI/F41、NVRAM42、及び、音声処理部43を有する。
センサI/F33は垂直同期信号VD、水平同期信号HDによりA/D変換されたデジタルの画像データの転送タイミングを決定する。この時点の画像データはデジタルのRGB信号である。
また、センサI/F33は、ブロック内に取り込まれたRGB信号より、画面の合焦度合いを示すAF(オートフォーカス)評価値と、被写体7の輝度値を検出したAE(Automatic Exposure:自動露光)評価値と、被写体7の色や光源色を検出したAWB(オートホワイトバランス)評価値を算出する。それらの評価値は、評価値データとしてCPU39に読み出されて、AE、AF、AWBのそれぞれの処理に利用される。
AF評価値は、例えば高周波成分抽出フィルタの出力積分値や、近接画素の輝度差の積分値によって作成される。合焦状態にあるときは、被写体7のエッジ部分がはっきりとしているため、高周波成分が一番高くなる。撮像装置100がAFに設定されAFによる合焦検出動作時は、CPU39は各フォーカスレンズ位置におけるAF評価値を取得して、その極大になる点を合焦位置とすることでAFによる合焦位置を取得する。しかしながら、本実施例ではピントのずれ量が検出されるためAF制御が使用されなくてもよい。
AE評価値とAWB評価値は、RGB信号のRGBそれぞれの積分値から作成される。例えば画面を1024エリアに等分割(水平32分割、垂直32分割)し、それぞれのエリアのRGB積分値を算出する。CPU39はセンサI/F33からRGB積分値を読み出し、それぞれのエリアの輝度を算出して、輝度分布から適正な露光時間を決定する(AE)。また、CPU39は、各エリアのRGBの分布から被写体の色や光源色を判断し、光源の色に合わせたAWBの制御値を決定する。このAEとAWBの処理は、操作部44のディスプレイに映像を出力している間、連続的に行われている。被写体7が撮像された場合、AF評価値、AE評価値及びAWB評価値は画像データと共にファイルに記憶される。
AF完了後に撮像素子26から出力されセンサI/F33が取り込んだRGB信号は、メモリコントローラ34によりSDRAM(フレームメモリという場合もある)に格納される。図ではこのRGB信号が「RAW−RGB」で示されている。
メモリコントローラ34は、RGB信号をSDRAM27から読み出し、YUV変換部37に送出する。YUV変換部37は、RGB信号をYUV信号に変換しメモリコントローラ34に送出するので、メモリコントローラ34は、YUV信号をSDRAM27に記憶する。図ではこのYUV信号が「YUV」で示されている。YUV信号に変換するのは、RGB信号よりも容量を小さくできるためと、ディスプレイに出力するためのビデオ信号への変換が容易になるためである。このYUV信号はメモリコントローラ34に読み出されて、表示出力制御部35を介してディスプレイへ送られて表示が行われる。なお、RGB信号やYUV信号を区別しない場合、単に画像データという。
リサイズ処理部36は、デジタルズームのための処理部で、YUV信号の画像データを補間処理により拡大/縮小する。ユーザがデジタルズームの操作を行うと、YUV信号から必要な部分を切り出し、画像サイズを変更する。
なお、撮像装置100は、ユーザが動画の撮像を選択した場合、一連のYUV信号を映像としてメモリーカード47に記憶することができる。動画の記録フォーマットは例えば、AVI(Open DML Motion JPEG フォーマット準拠)やMPEGなどに準拠したフォーマットである。これらのフォーマットに圧縮する場合は、圧縮伸張部38が圧縮する。
静止画の撮像時には、CPU39はシャッターボタンが全押しされたことを操作部44から検知して撮像素子26に通知することで、静止画の撮像時のRGB信号が信号処理IC32に出力される。ディスプレイへの表示と同様に、YUV変換部37がRGB信号をYUV信号に変換し、SDRAM27に記憶する。メモリコントローラ34はYUV変換された画像データを圧縮伸張部38に送出する。圧縮伸張部38は送られたYUV信号を圧縮し、メモリコントローラ34がSDRAM27に書き戻す。圧縮のフォーマットは種々あるが、図ではJPEGで示されている。
CPU39は後述する処理をRGB信号又はJPEG信号などに行い、画素ごと毎又は画素ブロックごとに距離情報を算出する。距離情報が配置された画像データを距離画像という。CPU39は距離画像を画像データに対応付けてメモリコントローラ34に記憶させる。メモリコントローラ34は圧縮された画像データと距離画像を読み出し、フラッシュメモリの等の内蔵するNVRAM42に記憶したり、又は、メディアI/F41にメモリーカード47に記憶させたりする。
静止画の画像データの記録フォーマットとして、Exif形式が知られている。Exifは画像データと撮像条件などの情報を1つのファイルの中に記述できるフォーマットである。これを利用して、ファイルの中に距離情報が含まれていてもよい。
なお、本実施例ではRGB信号を取得可能な撮像装置を記載しているが、これに限られない。例えば、距離情報の取得を行うのみであればRGB信号は不要であるので、偏光フィルタを通過した輝度信号のみを取得できる構成であれば良い。
なお、マイク46は音声を集音する装置であり、例えば動画の撮像時にマイク46が集音した音声は電気信号に変換され音声処理部43に出力される。音声処理部43はWAVE、PCMなどの音声コーデックのフォーマットに音声を圧縮してAVIファイルに動画と共に記憶する。
なお、本実施例では撮像装置100の被写界深度は浅い方がよい。被写界深度とはピントがあっているように見える距離の範囲をいう。被写界深度を浅くするには、絞りを開き(F値が小さい)、撮像レンズ23の焦点距離を長くし、被写体との距離は近い方が有利になる。ただし、本実施例の被写界深度は、撮像装置100が距離を検出する上で最適になるように設計されればよい。
<機能について>
図4は、撮像装置100が有する機能を説明する機能ブロック図の一例である。撮像装置100がピントのずれ量を解析する機能を画像処理部60が提供するものとする。画像処理部60は、画像データに画像処理を行うものであり、輝度値取得部61、画像補間部62、ずれ量算出部63及び距離変換部64を有する。
図4は、撮像装置100が有する機能を説明する機能ブロック図の一例である。撮像装置100がピントのずれ量を解析する機能を画像処理部60が提供するものとする。画像処理部60は、画像データに画像処理を行うものであり、輝度値取得部61、画像補間部62、ずれ量算出部63及び距離変換部64を有する。
画像処理部60が有するこれら各機能部は、図3に示された各構成要素のいずれかが、ROM45からSDRAMに展開されたプログラム40に従うCPU39からの命令により動作することで実現される機能又は手段である。あるいは、画像処理部60が有する各機能がLSIやICなどの論理回路で構築されていてもよい。
また、画像処理部60は、ROM45、NVRAM42、又はSDRAM27に記憶されるルックアップテーブル71を有している。ルックアップテーブル71は、ピントのずれ量を距離に変換するためのテーブルである。
輝度値取得部61は、1枚の画像データから偏光画像Aと偏光画像Bをそれぞれ取得する。上記のように1枚の画像データには、格子状にA領域とB領域が配置されているので、A領域だけの画像とB領域だけの画像を画像データから取得する。これにより、偏光方向が異なる光のピントのずれ量を算出可能になる。A領域の画像をA偏光画像、B領域の画像をB偏光画像という。
画像補間部62は、A偏光画像とB偏光画像をそれぞれ補間する。A偏光画像はB領域の画素が格子状に抜け落ちており、B偏光画像はA領域の画素が格子状に抜け落ちている。このため、画像補間部62は格子状に抜け落ちた画素を周囲の画素で補間する。
ずれ量算出部63は、A偏光画像とB偏光画像を比較して、A偏光画像とB偏光画像のピントのずれ量を算出する。このピントのずれ量が距離の情報を含んでいる。
距離変換部64は、ピントのずれ量を距離に変換する。ピントのずれ量と、オフセット値の関係は予め実験的又は計算的にルックアップテーブル71の形式で求められている。更に、ピントのずれ量がゼロの場合の距離は既知であるので、この距離にオフセット値を加えることで被写体7までの距離を算出できる。
<被写体7までの距離とピントのずれ>
図5は、被写体7までの距離とピントのずれを説明する図の一例である。なお、図5は、撮像レンズ23、第1の偏光フィルタ8、第2の偏光フィルタ9及び撮像素子26を、撮像装置100の上方から見た図になっている。
図5は、被写体7までの距離とピントのずれを説明する図の一例である。なお、図5は、撮像レンズ23、第1の偏光フィルタ8、第2の偏光フィルタ9及び撮像素子26を、撮像装置100の上方から見た図になっている。
図5(a)では、被写体7の像は撮像レンズ23の全体を通過して撮像素子26上に結像している。つまり、被写体7の像が撮像素子26上に結像する、撮像レンズ23からの距離に被写体7が存在している。被写体7の光の約半分は第1の偏光フィルタ8のA領域を通過し、残りの約半分はB領域を通過する。偏光方向によって焦点距離は変わらないので、どちらの領域を通過しても被写体7の像は撮像素子26上の1点で結像する。このように、撮像素子26上の各点に、A領域を通過した光とB領域を通過した光が共に到達する。
図5(b)は、図5(a)よりも被写体7が遠方に移動した場合の結像位置を示している。被写体7が遠方にあるため結像位置が撮像素子26よりも前方になる。このため、撮像素子26上では、A領域を通過した光とB領域を通過した光が広がりをもって受光される。この広がりがピントのずれであるので、A領域を通過して撮像された被写体7と、B領域を通過して撮像された被写体7とを検出できれば、ピントのずれ量を検出できる。なお、ピントがずれることで画像がぼける。ずれとは光が1点に収束する位置からの乖離であり、ぼけとは画像の不鮮明さをいう。このため、ピントのずれとぼけを明確に区別しなくてもよい。
なお、A領域を通過した光とB領域を通過した光は非対称である。これは、A領域と通過した光とB領域を通過した光で光路長が異なるためである。換言すると、ピントのずれ方は撮像レンズ23から被写体7までの距離が同じでも、A領域とB領域で異なる。このため、距離によるピントのずれ量を区別しやすい。
図5(b)を見ると明らかなように、仮に被写体7が撮像レンズ23から更に遠方に移動したと仮定すると、結像位置は撮像素子26の更に前方に移動する。このことは、撮像素子26上で、A領域を通過した被写体7の像とB領域を通過した被写体7の像がより大きく広がることを意味する。すなわち、ピントのずれ量が大きくなる。
図5(c)は、図5(a)よりも被写体7が撮像レンズ23の近くに移動した場合の結像位置を示している。被写体7が近傍にあるため結像位置が撮像素子26よりも後方になる。このため、撮像素子26上では、A領域を通過した光とB領域を通過した光が広がりをもって受光される。この広がりがピントのずれであるので、A領域を通過して撮像された被写体7と、B領域を通過して撮像された被写体7とを検出できれば、ピントのずれ量を検出できる。
図5(c)を見ると明らかなように、仮に被写体7が撮像レンズ23に更に接近したと仮定すると、結像位置は撮像素子26の更に後方に移動する。このことは、撮像素子26上で、A領域を通過した被写体7の像とB領域を通過した被写体7の像がより大きく広がることを意味する。すなわち、ピントのずれ量が大きくなる。
一方、図5(c)と図5(b)を比較すると、A領域を通過した光とB領域を通過した光の撮像素子26上における位置が左右反転している。これは、図5(c)では撮像素子26よりも後方で結像するための当然の結果であるが、撮像素子26上でA領域とB領域が左右どちらにずれているかによって、被写体7が図5(a)の位置よりも遠方に存在するか(図5(b))、又は、近傍に存在するか(図5(c))を判別できる。
<第1の偏光フィルタ8と第2の偏光フィルタ9の偏光方向>
図6は、第1の偏光フィルタ8と第2の偏光フィルタ9の偏光方向を説明する図の一例である。第1の偏光フィルタ8のA領域の偏光方向と第2の偏光フィルタのA領域の偏光方向とが一致し、第1の偏光フィルタ8のB領域の偏光方向と第2の偏光フィルタのB領域の偏光方向とが一致していればよい。なお、第1の偏光フィルタ8のA領域(B領域)を通過した光が第2の偏光フィルタ9のA領域(B領域)で受光できる程度であれば、完全に一致することまでは要求されない。
図6は、第1の偏光フィルタ8と第2の偏光フィルタ9の偏光方向を説明する図の一例である。第1の偏光フィルタ8のA領域の偏光方向と第2の偏光フィルタのA領域の偏光方向とが一致し、第1の偏光フィルタ8のB領域の偏光方向と第2の偏光フィルタのB領域の偏光方向とが一致していればよい。なお、第1の偏光フィルタ8のA領域(B領域)を通過した光が第2の偏光フィルタ9のA領域(B領域)で受光できる程度であれば、完全に一致することまでは要求されない。
図6(a)の第1の偏光フィルタ8と第2の偏光フィルタ9の偏光方向は図1と同様であり、水平方向の左右にA領域とB領域が配置されている。なお、A領域とB領域は左右が逆でもよい。また、第2の偏光フィルタ9では、A領域の偏光方向が垂直方向であり、B領域の偏光方向が水平方向である。図示するように、第2の偏光フィルタ9は偏光方向が異なる複数の偏光透過領域を有している。
このように、第1の偏光フィルタ8でA領域とB領域が左右に(水平に)並んで配置されることで、ピントのずれ量は水平方向にのみ生じるので、画像処理部60の処理負荷を低減できる。つまり、後述するブロックマッチングの探索方向を水平方向のみに制限できる。
図6(b)では、第1の偏光フィルタ8の上下にA領域とB領域が配置されている。第2の偏光フィルタ9におけるA領域とB領域の配置は図6(a)と同様である。第1の偏光フィルタ8でA領域とB領域が垂直に(上下に)並んで配置されることで、ピントのずれ量は垂直方向にのみ生じるので、画像処理部60の処理負荷を低減できる。
図6(c)では、第1の偏光フィルタ8でA領域とB領域が左右に(水平に)並んで配置されているが、偏光方向が斜めになっている。また、第2の偏光フィルタ9でA領域とB領域が格子状であるのは図6(a)(b)と同様であるが、偏光方向が斜めである。なお、第1の偏光フィルタ8のA領域の偏光方向と第2の偏光フィルタ9のA領域の偏光方向は一致しており、第1の偏光フィルタ8のB領域の偏光方向と第2の偏光フィルタ9のB領域の偏光方向は一致している。
偏光方向が斜めでもピントのずれ量は水平方向にのみ生じるので、画像処理部60の処理負荷を低減できる。
図6(d)では、第1の偏光フィルタ8でA領域とB領域が斜めに配置されている。偏光方向はそれぞれ垂直方向と水平方向である。第2の偏光フィルタ9におけるA領域とB領域の配置は図6(a)と同様である。
図6(d)のように、第1の偏光フィルタ8でA領域とB領域が斜めに配置される場合、ピントのずれ量も斜めに生じる。すなわち、水平にも垂直にもピントがずれる。このため、画像処理部60はピントのずれ量の検出を垂直方向と水平方向の両方で行う必要があり、画像処理部60の処理負荷が高くなるおそれがある。しかしながら、図6(d)のような第1の偏光フィルタ8が撮像装置100に搭載されてもよい。
<動作手順について>
図7は、画像処理部60が距離情報を取得する手順を示すフローチャート図の一例である。図7の手順は、例えばユーザの操作によりスタートする。ユーザの操作の一例としては、撮像操作(シャッターボタンの押下)があるが、予め被写体が撮像されていてもよい。図7では、ステップS10で被写体が撮像され、第1の偏光フィルタ8と第2の偏光フィルタ9を通過した画像データが生成されたものとする。
図7は、画像処理部60が距離情報を取得する手順を示すフローチャート図の一例である。図7の手順は、例えばユーザの操作によりスタートする。ユーザの操作の一例としては、撮像操作(シャッターボタンの押下)があるが、予め被写体が撮像されていてもよい。図7では、ステップS10で被写体が撮像され、第1の偏光フィルタ8と第2の偏光フィルタ9を通過した画像データが生成されたものとする。
以下、各ステップを順番に説明する。
<<S20 偏光画像の取得>>
図8を用いて偏光画像の取得について説明する。図8(a)は第2の偏光フィルタ9が装着された撮像素子26の正面図である。図8(a)では撮像素子26の1画素に第2の偏光フィルタ9のA領域又はB領域が対応している。したがって、画素が交互にA領域又はB領域に対応する。
図8を用いて偏光画像の取得について説明する。図8(a)は第2の偏光フィルタ9が装着された撮像素子26の正面図である。図8(a)では撮像素子26の1画素に第2の偏光フィルタ9のA領域又はB領域が対応している。したがって、画素が交互にA領域又はB領域に対応する。
輝度値取得部61は画素がA領域とB領域のどちらに対応するかが設定されたテーブルを有しており、このテーブルにしたがって、画像データからA偏光画像75とB偏光画像76を取得する。あるいは、水平方向・垂直方向の画素の番号が奇数番号か偶数番号かによって、A領域とB領域のどちらに対応するかが決定される。この場合はテーブルを使用せず、輝度値取得部61は奇数番の画素をA偏光画像75、偶数番の画素をB偏光画像76のように振り分けることができる。
図8(b)も第2の偏光フィルタ9が装着された撮像素子26の正面図であるが、図8(b)では撮像素子26の複数画素に第2の偏光フィルタ9の1つのA領域又はB領域が対応している。このような場合は、例えば左上コーナを原点としてA領域とB領域の画素位置が(X,Y)のような座標で指定される。この場合、1つのA領域とB領域のコーナの座標が登録されたテーブルを輝度値取得部61が有している。例えば、A領域であるA1のマスの座標は(0,0)、A2のマスの座標は(XA2、YA2)、B領域であるB1のマスの座標は(XB1、YB1)、B2のマスの座標は(XB2、YB2)である。A領域とB領域の幅と高さの画素数は固定であるため、A領域とB領域のコーナの座標が分かれば各A領域と各領域を特定できる。
輝度値取得部61は、テーブルを参照してA領域の画素範囲を画像データから取得してA偏光画像75を生成し、B領域の画素範囲を画像データから取得してB偏光画像76を生成する。
<<S30 偏光画像の補間>>
輝度値取得部61が取得したA偏光画像75とB偏光画像76は格子状に画素が欠落しているので、画像補間部62は画像を補間して画素の欠落のないA偏光画像75とB偏光画像76をそれぞれ生成する。
輝度値取得部61が取得したA偏光画像75とB偏光画像76は格子状に画素が欠落しているので、画像補間部62は画像を補間して画素の欠落のないA偏光画像75とB偏光画像76をそれぞれ生成する。
図9は画像の補間を説明する図の一例である。図9(a)はA偏光画像75の補間を説明し、図9(b)はB偏光画像76の補間を説明するが、補間方法は同じでよい。画像の補間方法には、種々の方法があり、本実施例の画像に適切な方法が選択される。例えば、ニアレストネイバーという方法では、欠落した画素に最も近い画素の輝度値(画素値)を欠落した画素の輝度に設定する。図9(a)では、欠落した画素とそうでない画素の距離は上下左右で同じなので、例えば、欠落した画素の左側に隣接した画素の輝度を設定すればよい。
また、バイリニア補間という方法では、欠落した画素の周辺の4画素を使って、輝度値を直線的に補間する。図9(a)では、欠落した画素の上下左右の4画素の平均が、欠落した画素の輝度値として算出される。
また、バイキュビック補間という方法では、欠落した画素の周辺の16画素を使って、輝度値を三次式で補間する。
<<S40 ピントのずれ量の算出>>
図10(a)は、ピントのずれ量の算出を説明する図の一例である。図10(a)では、横軸がA偏光画像75とB偏光画像76の水平位置を示し、縦軸が輝度を示す。A偏光画像75の輝度値をBA、B領域の輝度値をBBとする。なお、図10のA偏光画像75とB偏光画像76の水平方向の幅は同じ被写体7が撮像されている範囲(例えば数画素から数十画素)である。
図10(a)は、ピントのずれ量の算出を説明する図の一例である。図10(a)では、横軸がA偏光画像75とB偏光画像76の水平位置を示し、縦軸が輝度を示す。A偏光画像75の輝度値をBA、B領域の輝度値をBBとする。なお、図10のA偏光画像75とB偏光画像76の水平方向の幅は同じ被写体7が撮像されている範囲(例えば数画素から数十画素)である。
A偏光画像75とB偏光画像76で同じ被写体7が撮像されている場合、輝度値BAとBBは同じである。したがって、輝度値BAとBBが一致するように、B偏光画像76をA偏光画像75に対し水平方向に移動した場合の移動量がピントのずれ量Δになる。A偏光画像75をB偏光画像76に対し水平方向に移動してもよい。
具体的には、例えばA偏光画像75を局所的に、B偏光画像76にマッチングさせて、符号付きのズレ量をサブピックセル精度で算出する。まず、整数ピクセルのピントのずれ量の算出を説明する。図10(b)は、ずれ量の整数ピクセルの算出方法を説明する図の一例である。
(i)ずれ量算出部63は、例えばA偏光画像75の左上のコーナから順番に注目画素(x,y)を決定する。
(ii)ずれ量算出部63は、注目画素 (x,y)の近傍画素(例えば、注目画素を中心とする5×5〜11×11などのウィンドウ。これらには限られない)において、A偏光画像75の各画素の輝度値とB偏光画像76の各画素の輝度値を比較する処理を行う。具体的には、A領域のウィンドウpの各画素、ウィンドウpと同じ位置のB偏光画像76のウィンドウqの各画素、に対し画素毎に輝度の差を算出して合計する(又は差の二乗を合計する)。したがって、輝度の差の合計が小さいほどマッチングコストが小さい。
(iii) ずれ量算出部63は、座標(x、y)を基点にB偏光画像76のウィンドウqを水平方向に1画素分移動させ、同様に、A偏光画像75のウィンドウpとの輝度の差の合計を算出する。
(iv) ずれ量算出部63は、B偏光画像76のウィンドウqを1画素ずつ水平方向に移動させ輝度の差の合計を算出することを繰り返す。そして、予め定められた水平方向の探索範囲D内で(本実施例では一例として例えば64画素)、マッチングコストが最小(輝度の差の合計が最小)となった時の、B偏光画像76のウィンドウqの水平方向の移動量がピントのずれ量の整数ピクセル値となる。
なお、ウィンドウp、qにおける画素毎の輝度値の差の合計はSAD(Sum of Absolute Differences)、輝度値の差の二乗の合計はSSD(Sum of Squared Differences)と呼ばれる。
図11は、探索範囲内のマッチングコストの算出結果を示す図の一例である。探索範囲Dを64ピクセルとする。0〜64ピクセルの範囲で視差を求める場合、ウィンドウqの実際の移動範囲は「-2〜66」となる。すなわち、探索範囲Dの最も左の画素よりも2ピクセル左に余分に探索され、探索範囲Dの最も右の画素よりも2ピクセル右に余分に探索される。
この±2ピクセルのマージンは、サブピクセルの算出方法の1つである高次多項式推定の算出で必要な、最小のマッチングコストを持つ探索位置を中心に合計5点のマッチングコストを確保するためである。
なお、高次多項式推定でなくパラボラフィッティングでサブピクセル値を演算する場合、±1のマージンでよい。
水平方向に指定された探索範囲内(-2<d<66)において、探索位置(水平位置)毎にマッチングコストC(x,y,d)が算出される。x、yはマッチングコストが演算された基準画像の座標、dが整数ピクセル値、Cがマッチングコストである。ウィンドウpとqが類似しているほどマッチングコストC(x,y,d)の値は小さくなる。
最も小さいマッチングコストを持つ探索位置をA偏光画像75に対するB偏光画像76の整数ピクセル値dとする。図11ではピントのずれ量の整数ピクセル値は16である。この整数ピクセル値dと、その近傍の5点(又は3点)のマッチングコストのデータから、ずれ量算出部63はサブピクセルのずれ量を演算する。
続いて、図12を用いてピントのずれ量のサブピクセル値の算出について説明する。図12は、最小のマッチングコストの探索位置を中心とする近傍5点のマッチングコストを示す。したがって、図12では、探索位置14、15、16、17、及び、18の5点のマッチングコストが示されている。ずれ量算出部63は、3点(パラボラフィッティング)又は5点(高次多項式推定)をそれぞれ用いてサブピクセル視差を演算する。
図12は、パラボラフィッティングによるサブピクセル値の演算結果の一例を示す図である。パラボラフィッティングにより得られた二次曲線が最小値を取るサブピクセル値sは、探索位置16のマッチングコストをR(0), 探索位置15のマッチングコストをR(-1)、探索位置17のマッチングコストをR(1)とすると、式(1)から求められる。
<<S50 ずれ量の距離への変換>>
以上のようにして、ずれ量算出部63がピントのずれ量を算出した場合、距離変換部64はピントのずれ量を距離に変換する。図5(a)にて説明したように、被写体7が撮像レンズ23に対してピントがぴったり合う距離に存在する場合は、A偏光画像75とB偏光画像76の間にずれはない。すなわち、ずれ量算出部63が算出するずれ量はゼロである。また、ピントがあっている距離から被写体7が移動されると、A偏光画像75とB偏光画像76の間にずれが生じる。また、被写体7の移動方向(撮像レンズ23に近づけるか、遠ざけるか)により、ずれ量の符号が変わる。
以上のようにして、ずれ量算出部63がピントのずれ量を算出した場合、距離変換部64はピントのずれ量を距離に変換する。図5(a)にて説明したように、被写体7が撮像レンズ23に対してピントがぴったり合う距離に存在する場合は、A偏光画像75とB偏光画像76の間にずれはない。すなわち、ずれ量算出部63が算出するずれ量はゼロである。また、ピントがあっている距離から被写体7が移動されると、A偏光画像75とB偏光画像76の間にずれが生じる。また、被写体7の移動方向(撮像レンズ23に近づけるか、遠ざけるか)により、ずれ量の符号が変わる。
図13は、オフセット値とピントのずれ量の対応を模式的に示す図の一例である。図13では、横軸がピントの合っている距離から被写体7が移動した量であり、縦軸がピントのずれ量である。オフセット値に対するずれ量は単調減少関数になる。オフセット値は、ピントが合っている距離からのどのくらいずれた距離に被写体7があるかを示す。メーカの開発者等が予めオフセット値とピントのずれ量の関係を実験的に求めれば、ピントのずれ量とオフセット値が対応付けられたルックアップテーブル71を作成できる。
距離変換部64は、ずれ量算出部63が算出したずれ量に基づいてルックアップテーブルを参照し、ずれ量に対応付けられたオフセット値を取得する。撮像レンズ23から被写体7までの距離は、ピントが合っている距離とオフセット値の合計である。
なお、ルックアップテーブルにないずれ量をルックアップテーブルで参照する場合、距離変換部64は直線などでルックアップテーブルを補間する。あるいは、ルックアップテーブルを回帰曲線で近似して、目的のずれ量に対応するオフセット値を算出してもよい。
ピントが合っている距離は、簡単に求めるのであれば、撮像レンズ23の焦点距離f、撮像レンズ23から被写体7までの距離a、撮像レンズ23から撮像素子26までの距離bを使って下式から求めることができる。距離aが、ピントが合っている距離である。
1/a + 1/b=1/f
あるいは、ピントが合っている距離を開発者等が実験的に求めることもできる。例えば、距離を変えて被写体7を撮像し、各画像データからエッジ強度を求める。最もエッジ強度が大きい距離が、ピントが合っている距離である。
1/a + 1/b=1/f
あるいは、ピントが合っている距離を開発者等が実験的に求めることもできる。例えば、距離を変えて被写体7を撮像し、各画像データからエッジ強度を求める。最もエッジ強度が大きい距離が、ピントが合っている距離である。
図13のオフセット値とピントのずれ量の対応は計算により求めることもできる。最も簡便な方法は、市販の光学的シミュレータを利用することである。例えば、Code5(非特許文献2参照。)やLightTools(非特許文献3参照。)等を利用できる。光学的シミュレータはパラメータが入力されるとA領域を通過した光の光路とB領域を通過した光の光路を算出するソフトウェアである。光路が分かるので、被写体との各距離に対してズレ量を算出することができる。光学的シミュレータに入力されるパラメータは、被写体からレンズまでの距離a、レンズから撮像素子までの距離b、焦点距離f、高さhなどである。この他、撮像レンズ23の仕様(直径、Fナンバー、収差等)を入力することで、より正確なピントのずれ量を検出可能になる。
<まとめ>
以上説明したように、本実施例の撮像装置は、撮像レンズに入射した光を第1の偏光フィルタ8で偏光方向が異なる2つの光に偏光し、2つの光が被写体までの距離によって異なる非対称のピントのずれを生じさせることを利用して、被写体までの距離を算出できる。
以上説明したように、本実施例の撮像装置は、撮像レンズに入射した光を第1の偏光フィルタ8で偏光方向が異なる2つの光に偏光し、2つの光が被写体までの距離によって異なる非対称のピントのずれを生じさせることを利用して、被写体までの距離を算出できる。
例えば、左右に異なる2色で分割されたカラーフィルタを撮像レンズに装着する方法では、単色で無い被写体やカラーフィルタにより遮断される色のみの被写体に対する距離の検出精度が低下する。これに対し、偏光フィルタを使用する方法では、偏光フィルタの光の透過率は波長に関係がなく、距離算出の処理も色に依存しない。したがって、色鮮やかな対象物に対して距離計測の精度を高める事ができる。
実施例1ではピントのずれ量を距離に変換したが、本実施例ではフィルタを使用して距離を推定する撮像装置100について説明する。
図14は、撮像装置100が有する機能を説明する機能ブロック図の一例である。図14の説明において、図4において同一の符号を付した構成要素は同様の機能を果たすので、主に本実施例の主要な構成要素についてのみ説明する場合がある。本実施例の撮像装置100は、輝度値取得部61、画像補間部62、フィルタ処理部65、相関情報検出部66、距離推定部67、及び、画像補正部68を有する。また、画像処理部60は、ROM45、NVRAM42、又はSDRAM27に記憶されるフィルタDB(Data Base)72を有している。
フィルタ処理部65は、被写体7との距離に対応付けて用意されたA偏光画像75とB偏光画像76のそれぞれのフィルタをA偏光画像75とB偏光画像76に適用する。フィルタDB72にはこれらのフィルタが予め記憶されている。後述するようにこのフィルタは距離に応じてピントのずれを改善するフィルタである。ずれを改善することでぼけも改善される。
相関情報検出部66は、フィルタ処理されたA偏光画像75とB偏光画像76を距離ごとに比較して、マッチングコスト(相関情報)を算出する。距離推定部67は、マッチングコストが最も小さい距離に被写体7が存在すると推定する。
画像補正部68は、距離推定部67が推定した距離のフィルタをA偏光画像75とB偏光画像76にそれぞれ適用することで、A偏光画像75を距離に関係なく焦点(ピント)があったA偏光画像75に補正し、B偏光画像76を距離に関係なく焦点(ピント)があったB偏光画像76に補正する。
<動作手順>
図15は、画像処理部60が距離情報を取得する手順を示すフローチャート図の一例である。図15の説明においては主に図7との違いを説明する。ステップS10〜S30の手順は図7と同様である。以下、各ステップを順番に説明する。
図15は、画像処理部60が距離情報を取得する手順を示すフローチャート図の一例である。図15の説明においては主に図7との違いを説明する。ステップS10〜S30の手順は図7と同様である。以下、各ステップを順番に説明する。
<<S40 A偏光画像とB偏光画像へのフィルタの適用>>
図16は、被写体7までの距離と、A偏光画像75とB偏光画像76の関係を模式的に説明する図の一例である。A偏光画像75は距離に対して特徴的なピントのずれを生じさせ、B偏光画像76は距離に対して特徴的なピントのずれを生じさせる。すなわち、距離と第1の偏光フィルタ8のA領域を通過するかB領域を通過するかによって、どのようにピントのずれ(ぼけ)が画像に生じるかは決まっている。あくまでイメージ的に説明するが、例えば、距離L1ではA偏光画像75が左にずれ、B偏光画像76が右にずれる傾向があり、エッジが明瞭でなくなるようにぼける。距離L3ではA偏光画像75が右にずれ、B偏光画像76が左にずれる傾向があり、エッジが二重になるようにぼける。距離L2はこの中間のぼけ方である。距離L1〜L3をフィルタ距離という。
図16は、被写体7までの距離と、A偏光画像75とB偏光画像76の関係を模式的に説明する図の一例である。A偏光画像75は距離に対して特徴的なピントのずれを生じさせ、B偏光画像76は距離に対して特徴的なピントのずれを生じさせる。すなわち、距離と第1の偏光フィルタ8のA領域を通過するかB領域を通過するかによって、どのようにピントのずれ(ぼけ)が画像に生じるかは決まっている。あくまでイメージ的に説明するが、例えば、距離L1ではA偏光画像75が左にずれ、B偏光画像76が右にずれる傾向があり、エッジが明瞭でなくなるようにぼける。距離L3ではA偏光画像75が右にずれ、B偏光画像76が左にずれる傾向があり、エッジが二重になるようにぼける。距離L2はこの中間のぼけ方である。距離L1〜L3をフィルタ距離という。
すると、フィルタ距離Li(iは距離に与えられた番号)とA偏光画像75、フィルタ距離LiとB偏光画像76の組み合わせごとに、開発者等が実験などを行うことで、ピントのずれを可能な限り低減するフィルタを予め用意することができる。本実施例ではこのフィルタが予め用意されフィルタDB72に記憶されている。
例えば、フィルタ距離L1のA偏光画像75のピントのずれを低減するフィルタをF_L1_A、フィルタ距離L1のB偏光画像76のピントのずれを低減するフィルタをF_L1_B、距離L2のA偏光画像75のピントのずれを低減するフィルタをF_L2_A、フィルタ距離L2のB偏光画像76のピントのずれを低減するフィルタをF_L2_B、フィルタ距離L3のA偏光画像75のピントのずれを低減するフィルタをF_L3_A、フィルタ距離L3のB偏光画像76のピントのずれを低減するフィルタをF_L3_B、とする。
フィルタ処理部65は、図17に示すように、A偏光画像75とB領域画像のそれぞれに距離ごとに作成されているフィルタを適用する。図17は、A偏光画像75とB領域画像への各フィルタの適用を説明する図の一例である。A偏光画像75に、フィルタF_L1_A、F_L2_A、F_L3_Aを適用し、B偏光画像76に、フィルタF_L1_B、F_L2_B、F_L3_Bを適用する。
<<S50 A偏光画像とB偏光画像のマッチングコストを距離ごとに算出>>
相関情報検出部66は、
・フィルタF_L1_Aが適用されたA偏光画像75とフィルタF_L1_Bが適用されたB偏光画像76、
・フィルタF_L2_Aが適用されたA偏光画像75とフィルタF_L2_Bが適用されたB偏光画像76、
・フィルタF_L3_Aが適用されたA偏光画像75とフィルタF_L3_Bが適用されたB偏光画像76、をそれぞれ比較する。
相関情報検出部66は、
・フィルタF_L1_Aが適用されたA偏光画像75とフィルタF_L1_Bが適用されたB偏光画像76、
・フィルタF_L2_Aが適用されたA偏光画像75とフィルタF_L2_Bが適用されたB偏光画像76、
・フィルタF_L3_Aが適用されたA偏光画像75とフィルタF_L3_Bが適用されたB偏光画像76、をそれぞれ比較する。
被写体がフィルタ距離L1で撮像されているのであれば、フィルタF_L1_Aが適用されたA偏光画像75とフィルタF_L1_Bが適用されたB偏光画像76のマッチングコストが小さくなるはずである(フィルタにより画像が補正されるためピントのずれ(ぼけ)が可能な限り低減され、同じ像が得られる。)。
被写体がフィルタ距離L2で撮像されているのであれば、フィルタF_L2_Aが適用されたA偏光画像75とフィルタF_L2_Bが適用されたB偏光画像76のマッチングコストが小さくなるはずである。被写体がフィルタ距離L3で撮像されているのであれば、フィルタF_L3_Aが適用されたA偏光画像75とフィルタF_L3_Bが適用されたB偏光画像76のマッチングコストが小さくなるはずである。
このように、フィルタ距離LiとA偏光画像75、フィルタ距離LiとB偏光画像76の組み合わせごとに用意されたフィルタが適用されたA偏光画像75とB偏光画像76を比較すれば、最もマッチングコストが小さいフィルタ距離が被写体7との距離を表す。マッチングコストを計算し、マッチングコストが最も小さいところが、マッチング率の最も高いところとなる。なお、マッチングコストはSADやSSDで求めればよい。マッチングコストが小さいところに着目する代わりに、マッチング率(類似度:例えば、定数からマッチングコストを引いたもの)を計算して、マッチング率が高いところに着目しても良い。マッチング率の算出方法として正規化相関(NCC=Normalized Cross Correlation)を使ってもよい。マッチング率の算出も、画素ごと又は画素ブロックごとに求めることができる。
<<S60 距離の推定>>
距離推定部67は、マッチングコストが一番小さくなるフィルタ距離Liを使って、そのまま撮像レンズ23と被写体7までの距離を決定してもよい。また、マッチングコストが一番小さくなるフィルタ距離Liの前後のフィルタ距離Liのマッチングコストも使って、一番マッチングコストが小さい距離を数学的に算出してもよい。
距離推定部67は、マッチングコストが一番小さくなるフィルタ距離Liを使って、そのまま撮像レンズ23と被写体7までの距離を決定してもよい。また、マッチングコストが一番小さくなるフィルタ距離Liの前後のフィルタ距離Liのマッチングコストも使って、一番マッチングコストが小さい距離を数学的に算出してもよい。
図18は、マッチングコストが最も小さい距離の算出を説明する図の一例である。図18では横軸がフィルタ距離、縦軸がマッチングコストである。図18では5つのフィルタ距離L1〜L5のマッチングコストが示されている。マッチングコストが極小値(最小値)を有すると仮定すると二次式で5つの点で回帰する最小二乗法により、5つの点を近似する曲線を求めることができる。
図18ではフィルタ距離Lminで曲線が最小値を取っている。このフィルタ距離Lminを撮像レンズ23と被写体7までの距離とすることで、より高精度に距離を求めることができる。したがって、本実施例のように距離を求めた場合、実施例1で行われたずれ量の距離への変換が不要になる。
<<S70 画像補正>>
フィルタが施されたA偏光画像75とB偏光画像76の比較で、フィルタ距離が求められた場合、各フィルタ距離のフィルタでA偏光画像75とB偏光画像76を補正すれば、ピントのずれ(ぼけ)が改善された鮮明な画像が得られる。マッチングコストの算出が画素ごと又は画素ブロックごとに求められているので、画素ごと又は画素ブロックごとに最適なフィルタに切り替えてA偏光画像75とB偏光画像76に適用する。
フィルタが施されたA偏光画像75とB偏光画像76の比較で、フィルタ距離が求められた場合、各フィルタ距離のフィルタでA偏光画像75とB偏光画像76を補正すれば、ピントのずれ(ぼけ)が改善された鮮明な画像が得られる。マッチングコストの算出が画素ごと又は画素ブロックごとに求められているので、画素ごと又は画素ブロックごとに最適なフィルタに切り替えてA偏光画像75とB偏光画像76に適用する。
画像補正部68は、距離推定部67から最もマッチングコストが小さいフィルタ距離を取得し、このフィルタ距離のフィルタをA偏光画像75とB偏光画像76に施す。これにより、撮像レンズ23までの距離が異なることで生じていたピントのずれ(ぼけ)を可能な限り解消し被写界深度が大きい画像が得られる。
なお、フィルタの選択に距離情報はなくてもよい。つまり、マッチングコストが最も小さいフィルタを選択できればよいのであり、マッチングコストが最も小さいとして選択されたフィルタがどの距離に対応して作成されているかの情報はなくてもよい。
<距離を利用したシステム>
被写体7との距離を取得できれば距離を利用して何らかの処理を行ったり、各種の制御を行ったりするシステムが構築される。
被写体7との距離を取得できれば距離を利用して何らかの処理を行ったり、各種の制御を行ったりするシステムが構築される。
図19はシステム構成例の一例を示す。図19のシステム300は通信可能な撮像装置100と処理装置200を有する。撮像装置100は被写体との距離情報(距離画像)を処理装置200に送信する。処理装置200は取得した距離に応じた処理を行う。例えば、被写体の三次元情報を復元することができる。
また、例えば車両を制御することができる。この場合、撮像装置100は画像認識により先行車を認識する。また、この先行車との距離が明らかなので、先行車との距離に応じて処理装置200が車間制御することができる。例えば、ACC(Adaptive Cruise Control)やPCS(プリクラッシュセーフティシステム)などである。先行車だけでなく、歩行者やガードレールなどの障害物との距離に応じて、操舵したり制動したりするなどの制御もできる。
また、例えば、FA(ファクトリーオートメーション)において、撮像装置100が対象との距離を検出して、処理装置200が部品を最適な位置に配置するシステムがある。FAの一例としては、ロボットピッキング(robot picking)、デパレタイジング(depalletizing)、高さや距離の計測を使用した自動制御(距離や高さを自動的に合わせるシステム)、非接触の対象物寸法測定、検査(高さ・距離によりOK/NG判定)などがある。また、奥行きの寸法が規定どおりか否かを、処理装置200が距離によって判断する品質管理などのシステムの実現可能である。この他、距離を検出する事例では好適に適用できる。
また、ドローンなどの移動体に搭載された場合、ドローンからみた被写体7の距離を検出できるので、自身の高度、追跡物までの距離、目的地までの到達時間等を検出できる。
<その他の適用例>
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
例えば、本実施形態では、撮像装置100が距離の検出を行ったが、撮像装置100が撮像した画像データに対し、任意の情報処理装置が距離を検出したり、画像を補正したりしてもよい。例えば、撮像装置100とネットワークを介して接続された情報処理装置が画像データを取得して、距離を検出したり画像補正したりする。
また、第1の偏光フィルタ8は撮像レンズの手前にあってもよい。第1の偏光フィルタ8と第2の偏光フィルタ9は偏光方向が90度異なる2つ領域を有すると説明したが、偏光方向が異なる3つ以上の領域を有していてもよい。
また、図4、図14などの構成例は、撮像装置100の処理の理解を容易にするために、主な機能に応じて分割したものである。処理単位の分割の仕方や名称によって本願発明が制限されることはない。また、撮像装置100の処理は、処理内容に応じて更に多くの処理単位に分割することもできる。また、1つの処理単位が更に多くの処理を含むように分割することもできる。
なお、第1の偏光フィルタ8は偏光部の一例であり、A領域は第1の偏光領域の一例であり、B領域は第2の偏光領域の一例であり、A偏光画像は第1の輝度値の一例であり、B偏光画像は第2の輝度値の一例であり、画像処理部60は輝度処理部の一例である。
8 第1の偏光フィルタ
9 第2の偏光フィルタ
23 撮像レンズ
60 画像処理部
61 輝度値取得部
62 画像補間部
63 ずれ量算出部
64 距離変換部
65 フィルタ処理部
66 相関情報検出部
67 距離推定部
68 画像補正部
100 撮像装置
9 第2の偏光フィルタ
23 撮像レンズ
60 画像処理部
61 輝度値取得部
62 画像補間部
63 ずれ量算出部
64 距離変換部
65 フィルタ処理部
66 相関情報検出部
67 距離推定部
68 画像補正部
100 撮像装置
Vedavalli Krishnan、″Image and Depth from a Conventional Camera with a Coded Aperture -2007″、[online]、[平成28年8月2日検索]、インターネット〈URL:http://inst.eecs.berkeley.edu/~ee225b/sp14/StudentPresentations/ee225b-Depth%20and%20Image%20retrieval%20presentation.pdf〉
http://www.cybernet.co.jp/codev/
http://www.cybernet.co.jp/lighttools/
Claims (9)
- 偏光方向が異なる少なくとも2つの偏光領域を有する偏光部と、
前記偏光部を通過した被写体の光を輝度値に変換する素子と、
偏光方向が異なる前記偏光領域を通過した光の前記輝度値をそれぞれ取得する輝度値取得部と、
各偏光領域を通過した前記輝度値のずれに関する情報を取得する輝度処理部と、
を有する撮像装置。 - レンズを有し、
前記偏光部は、前記レンズの開口部に配置される偏光フィルタであり、
前記素子は、前記偏光フィルタを通過した偏光方向の異なる光のそれぞれに対応する複数の偏光透過領域を有する請求項1に記載の撮像装置。 - 前記輝度値取得部が取得した第1の偏光領域を通過した第1の輝度値と、第2の偏光領域を通過した第2の輝度値のずれ量を算出するずれ量算出部と、
前記ずれ量を前記被写体との距離に変換する距離変換部と、
を有する請求項1又は2に記載の撮像装置。 - 前記輝度値取得部が取得した第1の偏光領域を通過した第1の輝度値に、前記第1の輝度値と前記被写体との距離に応じて作成されているフィルタを適用し、
第2の偏光領域を通過した第2の輝度値に、前記第2の輝度値と前記被写体との距離に応じて作成されているフィルタを適用するフィルタ処理部と、
同じ距離のフィルタが適用された前記第1の輝度値と前記第2の輝度値との相関情報を検出する相関情報検出部と、
前記相関情報に基づいて前記被写体との距離を推定する距離推定部と、
を有する請求項1に記載の撮像装置。 - 前記第1の輝度値に適用される前記フィルタは、前記被写体との距離に応じて前記第1の輝度値のぼけが改善されるように作成されており、
前記第2の輝度値に適用される前記フィルタは、前記被写体との距離に応じて前記第2の輝度値のぼけが改善される用に作成されている請求項4に記載の撮像装置。 - 前記距離推定部が推定した距離に対応する前記フィルタを、前記輝度値取得部が取得した前記第1の輝度値、又は、前記第2の輝度値に適用する画像補正部を有する請求項4又は5に記載の撮像装置。
- 前記距離変換部は、前記ずれ量と前記距離のオフセット値が対応付けられたずれ距離情報から、前記ずれ量算出部が算出した前記ずれ量に対応付けられた前記オフセット値を読み取り、
前記被写体との焦点が合う前記距離に前記オフセット値を加えることで前記被写体との前記距離を取得する請求項3に記載の撮像装置。 - 偏光方向が異なる少なくとも2つの偏光領域を有する偏光部と、
前記偏光部を通過した被写体の光を輝度値に変換する素子と、
偏光方向が異なる前記偏光領域を通過した光の前記輝度値をそれぞれ取得する輝度値取得部と、
各偏光領域を通過した前記輝度値のずれに関する情報を取得する輝度処理部と、を有する撮像装置と、
前記輝度処理部が処理した結果を利用して処理を行う処理装置と、
を有するシステム。 - 情報処理装置を、
偏光方向が異なる少なくとも2つの偏光領域を有する偏光部と、前記偏光部を通過した被写体の光を輝度値に変換する素子と、を有する撮像装置から、偏光方向が異なる前記偏光領域を通過した光の前記輝度値をそれぞれ取得する輝度値取得部と、
各偏光領域を通過した前記輝度値のずれに関する情報を取得する輝度処理部、
として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016178886A JP2018046372A (ja) | 2016-09-13 | 2016-09-13 | 撮像装置、システム、プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016178886A JP2018046372A (ja) | 2016-09-13 | 2016-09-13 | 撮像装置、システム、プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018046372A true JP2018046372A (ja) | 2018-03-22 |
Family
ID=61695253
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016178886A Pending JP2018046372A (ja) | 2016-09-13 | 2016-09-13 | 撮像装置、システム、プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2018046372A (ja) |
-
2016
- 2016-09-13 JP JP2016178886A patent/JP2018046372A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6157242B2 (ja) | 画像処理装置及び画像処理方法 | |
US20050128323A1 (en) | Image photographing device and method | |
JP2005210217A (ja) | ステレオカメラ | |
US8774551B2 (en) | Image processing apparatus and image processing method for reducing noise | |
US20180182075A1 (en) | Image processing apparatus, image capturing apparatus, method of image processing, and storage medium | |
US11831979B2 (en) | Image pickup apparatus, an image processing method and a non-transitory computer-readable medium for displaying a plurality of images different in in-focus position | |
KR20170006201A (ko) | 촬영 장치 및 그 동작 방법 | |
JP6786311B2 (ja) | 画像処理装置、画像処理方法、コンピュータプログラムおよび記憶媒体 | |
TWI451184B (zh) | 焦距調整方法與相關影像擷取裝置 | |
WO2018196854A1 (zh) | 一种拍照方法、拍照装置及移动终端 | |
JP6748847B2 (ja) | 撮像装置 | |
JP2015177510A (ja) | カメラシステム、画像処理方法及びプログラム | |
US9710897B2 (en) | Image processing apparatus, image processing method, and recording medium | |
JP6961423B2 (ja) | 画像処理装置、撮像装置、画像処理装置の制御方法、プログラムおよび記録媒体 | |
JP6245847B2 (ja) | 画像処理装置および画像処理方法 | |
JP2018046372A (ja) | 撮像装置、システム、プログラム | |
JP2020160773A (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
KR101756274B1 (ko) | 감시용 카메라 및 감시용 카메라의 동작 방법 | |
CN113079313B (zh) | 图像处理装置、图像拾取装置、图像处理方法及存储介质 | |
JP7262940B2 (ja) | 画像処理装置、撮像装置、画像処理装置の制御方法およびプログラム | |
JP6818734B2 (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
JP6953594B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラムおよび記録媒体 | |
JP7458769B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラムおよび記録媒体 | |
JP2014110624A (ja) | 画像処理装置、画像処理方法及びプログラム | |
US11616902B2 (en) | Apparatus to perform alignment to images, image processing method to perform alignment to images, and computer readable non-transitory memory to perform alignment to images |