JP5460473B2 - 撮像装置および撮像方法 - Google Patents

撮像装置および撮像方法 Download PDF

Info

Publication number
JP5460473B2
JP5460473B2 JP2010133212A JP2010133212A JP5460473B2 JP 5460473 B2 JP5460473 B2 JP 5460473B2 JP 2010133212 A JP2010133212 A JP 2010133212A JP 2010133212 A JP2010133212 A JP 2010133212A JP 5460473 B2 JP5460473 B2 JP 5460473B2
Authority
JP
Japan
Prior art keywords
imaging
pixel
light beam
image
color
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010133212A
Other languages
English (en)
Other versions
JP2011259310A (ja
Inventor
勝 金澤
裕一 日下部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Japan Broadcasting Corp filed Critical Japan Broadcasting Corp
Priority to JP2010133212A priority Critical patent/JP5460473B2/ja
Publication of JP2011259310A publication Critical patent/JP2011259310A/ja
Application granted granted Critical
Publication of JP5460473B2 publication Critical patent/JP5460473B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)

Description

本発明は、撮像装置および撮像方法に関する。
単板式のデジタルカメラに搭載される撮像素子は、ベイヤ(Bayer)配列の色フィルタを有するものが多い。このベイヤ配列とは、単板撮像素子でカラー画像を得るためのRGB(赤色・緑色・青色)三原色フィルタの配置を指すものである。具体的には、ベイヤ配列は、画素ごとの色フィルタの配列であり、RフィルタおよびGフィルタを水平方向に交互に配置した第1のラインと、GフィルタおよびBフィルタを水平方向に交互に配置した第2のラインとを、Gフィルタの配置が市松模様状となるように垂直方向に交互に配置したものである。各色フィルタは画素に対応しているため、ベイヤ配列の色フィルタを備える単板撮像素子は、一画素あたり一色の画素値(撮像色値)を得る。よって、単板撮像素子は、各画素で撮像されない色の画素値(非撮像色値)を、周辺画素において撮像された当該色の画素値に基づいて生成することにより、各画素で三色の画素値を得る。この処理をデモザイキング(Demosaicing)処理という。
従来、撮像画像(RAWデータとも呼ばれる)のデモザイキング処理により得られたカラー画像には、非撮像色値の補間誤差によって偽色が発生することが知られており、このような偽色の発生を低減するデモザイキング処理技術が提案されている(例えば、特許文献1および特許文献2参照)。
特開2009−27537号公報 特開2010−41251号公報
しかしながら、特許文献1および特許文献2に記載されたデモザイキング処理技術は、相関量を求めたり信頼度を判定したりする処理等によって撮像していない色値を推定することにより偽色を改善する方式であるため、被写体像のパターン(模様)によってはその推定値に大きな誤差が生じるおそれがあった。
そこで、本発明は上記問題を解決するためになされたものであり、補間誤差を低減して偽色による画質劣化の程度を低く抑えることのできる撮像装置および撮像方法を提供することを目的とする。
[1]上記の課題を解決するため、本発明の一態様である撮像装置は、被写体から到来する光束を集光するレンズ光学系と、画素ごとの撮像色値に基づく撮像データを出力する撮像素子と、前記撮像素子の画素配列におけるそれぞれの画素に対応する色フィルタと、前記レンズ光学系によって集光された光束が前記撮像素子の撮像面の第1の位置に結像する状態と前記光束が前記第1の位置に対して前記撮像面の面方向に所定画素分変位した第2の位置に結像する状態とのいずれかとなるように、前記撮像面における結像位置を変更する結像位置変更部と、前記撮像素子から供給される、前記撮像面の前記第1の位置に結像した光束の第1の撮像データと前記第2の位置に結像した光束の第2の撮像データとに基づいて、画素ごとに、前記画素に対応する前記色フィルタの色以外の非撮像色値を、前記第1の撮像データと前記第2の撮像データとにおける前記画素に対して前記変位分の範囲内にある画素の撮像色値に基づき計算するデモザイキング処理部と、を備えることを特徴とする。
このように構成したことにより、本発明の一態様である撮像装置は、画素ずれを生じさせた被写体像を撮像することにより得られる第1および第2の撮像データに基づいてモザイキング処理を行うが、これら第1および第2の撮像データは画素ずれが生じる方向において画素が重複するため、非撮像色値の計算精度を高めることができる。
[2]上記[1]記載の撮像装置において、前記撮像素子は、ベイヤ配列による三原色フィルタを有し、前記結像位置変更部は、前記レンズ光学系によって集光された光束が前記撮像素子の前記撮像面の第1の位置に結像する状態と前記光束が前記第1の位置に対して前記撮像面の水平方向および垂直方向またはいずれか一方向に2画素分未満に変位した第2の位置に結像する状態とのいずれかとなるように、前記撮像面における結像位置を変更することを特徴とする。
[3]上記[1]記載の撮像装置において、前記結像位置変更部は、前記レンズ光学系によって集光された光束が前記撮像素子の前記撮像面の第1の位置に結像する状態と前記光束が前記第1の位置に対して前記撮像面の面方向に所定画素分変位した第2の位置および前記第1の位置の両位置に結像する状態とのいずれかとなるように、前記撮像面における結像位置を変更し、前記デモザイキング処理部は、前記撮像素子から供給される、前記撮像面の前記第1の位置および前記第2の位置に結像した光束の第1の撮像データと前記第1の位置に結像した光束の第2の撮像データとに基づいて、画素ごとに、前記画素に対応する前記色フィルタの色以外の非撮像色値を、前記第1の撮像データと前記第2の撮像データとにおける前記画素に対して前記変位分の範囲内にある画素の撮像色値に基づき計算することを特徴とする。
[4]上記の課題を解決するため、本発明の一態様である撮像方法は、被写体から到来する光束をレンズ光学系が集光し、撮像面の画素配列におけるそれぞれの画素に対応する色フィルタを設けた撮像素子が、前記レンズ光学系によって集光された光束を前記撮像面の第1の位置に結像させた状態で撮像して第1の撮像データを出力し、前記光束を前記第1の位置に対して前記撮像面の面方向に所定画素分変位した第2の位置に結像させた状態で撮像して第2の撮像データを出力し、前記撮像素子が出力した前記第1の撮像データと前記第2の撮像データとに基づいて、画素ごとに、前記画素に対応する前記色フィルタの色以外の非撮像色値を、前記第1の撮像データと前記第2の撮像データとにおける前記画素に対して前記変位分の範囲内にある画素の撮像色値に基づき計算することを特徴とする。
本発明によれば、補間誤差を低減して偽色による画質劣化の程度を低く抑えることができる。
本発明の実施形態の参考例である撮像装置の機能構成を示すブロック図である。 同参考例における、ウォブリング光学素子の内部構成を示すブロック図である。 同参考例における、ウォブリング光学素子の各部における偏光状態と光路とを模式的に示す図である。 同参考例において、タイミング制御部が生成する撮像信号と切換信号との動作タイミングを示す概略のタイミングチャートである。 同参考例において、二つの撮像素子それぞれに設けられる色フィルタを模式的に示す図である。 同参考例において、ウォブリング光学素子と撮像素子との受光状態を模式的に示す図である。 同参考例において、ウォブリングによって隣接する画素同士の重複関係を示す図である。 同参考例において、第1の被写体サンプルを撮像する場合の、ウォブリング光学素子と撮像素子との受光状態を模式的に示す図である。 同参考例において、第2の被写体サンプルを撮像する場合の、ウォブリング光学素子と撮像素子との受光状態を模式的に示す図である。 本発明の第1実施形態である撮像装置の機能構成を示すブロック図である。 同実施形態において、タイミング制御部が生成する撮像信号および切換信号の動作タイミングを示す概略のタイミングチャートである。 同実施形態における、撮像素子に設けられるRGB三原色フィルタを模式的に示す図である。 本発明の第2実施形態である撮像装置の機能構成を示すブロック図である。 同実施形態における、ウォブリング光学素子の内部構成を示すブロック図である。 同実施形態において、ウォブリング光学素子の各部における偏光状態と光路とを模式的に示す図である。 同実施形態において、タイミング制御部が生成する撮像信号および切換信号の動作タイミングを示す概略のタイミングチャートである。 同実施形態の変形例である撮像装置の機能構成を示すブロック図である。
以下、本発明を実施するための形態について、図面を参照して詳細に説明する。
[実施の形態の参考例]
まず、本発明の実施形態の参考例である撮像装置について説明する。この参考例は、後述する実施形態における説明を簡潔なものとし、これによって理解容易なものとするためのものである。本参考例である撮像装置は、緑色フィルタのみを有する第1の単板撮像素子と、赤色フィルタおよび青色フィルタを有する第2の単板撮像素子とを備えてカラー静止画を撮像するカメラ装置である。そして、この撮像装置は、第1の単板撮像素子が撮像して得る一つの撮像画像と、第2の単板撮像素子が2回撮像することにより得る画素ずれの生じた二つの撮像画像とに基づいて、モザイキング処理を行って一つのカラー静止画を生成するものである。
図1は、本参考例である撮像装置の機能構成を示すブロック図である。同図に示すように、撮像装置100は、レンズ光学系10と、光束分離部20と、ウォブリング光学素子(結像位置変更部)30と、撮像素子(第1の単板撮像素子)40Gと、撮像素子(第2の単板撮像素子)40RBと、記憶部50と、タイミング制御部60と、デモザイキング処理部70とを備える。同図において、破線(長破線および短破線)で表した矢印は、光束の進路の概略を示すものであり、実線で表した矢印は、電気信号の経路を示すものである。
図1に示すように、レンズ光学系10は、被写体から到来する光束を集光し、その光束を撮像素子40Gおよび撮像素子40RBそれぞれの撮像面に結像させる単一のレンズまたはレンズ群である。
光束分離部20は、レンズ光学系10から到来する光束を2系統の光路に分離するビームスプリッタであり、例えばキューブビームスプリッタやハーフミラーである。光束分離部20を透過した光束Jはウォブリング光学素子30に供給される一方、光束分離部20のビームスプリット面で反射した光束Kは撮像素子40Gに供給される。
ウォブリング光学素子30は、タイミング制御部60から供給される切換信号Tの信号レベル(2値)に応じて、光束Jをその光路を変更しないか所定方向に所定距離だけ変更するかして、光束Lとして出力する光路変更部である。所定方向とは、撮像素子40RBの撮像面において画素ずらしを行う方向である。また、所定距離とは、撮像素子40RBの撮像面における2画素未満に相当する距離であり、好ましくは0.5画素分に相当する距離である。本参考例では、所定距離が0.5画素分に相当する距離である場合について説明する。
撮像素子40Gは、撮像面の全画素を含む領域に緑色フィルタを設けた撮像素子であり、例えばCMOSイメージセンサまたはCCDイメージセンサである。撮像装置100の1回の撮影操作にしたがって、撮像素子40Gは、タイミング制御部60から供給される撮像信号S1に基づいて光束Kを1回撮像し、その撮像データGrを記憶部50に供給する。
撮像素子40RBは、撮像面に赤色フィルタのラインと青色フィルタのラインとを交互に設けた単板撮像素子であり、例えばCMOSイメージセンサまたはCCDイメージセンサである。撮像素子40RBは、タイミング制御部60から供給される撮像信号S2に基づいて光束Lを2回撮像し、それら撮像データRBrを記憶部50に供給する。ただし、撮像素子40RBが撮像する第1回目の撮像は、光束Lの光路が変更されず画素ずれのない状態(第1の位置)での撮像であり、この撮像時のフレームを第1フレームと呼ぶ。また、撮像素子40RBが撮像する第2回目の撮像は、光束Lの光路がウォブリング光学素子30により変更されて画素ずれがある状態(第2の位置)での撮像であり、この撮像時のフレームを第2フレームと呼ぶ。画素ずれの方向は、フィルタラインの方向に直交する方向であるが、詳しくは後述する。
記憶部50は、データの書き込みおよび読出しが可能なメモリである。記憶部50には、撮像素子40Gによって撮像データGrが、また撮像素子40RBによって第1フレームの撮像データRBr(第1の撮像データ)と第2フレームの撮像データRBr(第2の撮像データ)とが書き込まれて記憶される。また、記憶部50からは、これら記憶されたデータが、デモザイキング処理部70によって撮像データRGBrとして読み出される。
タイミング制御部60は、撮像装置100が備える不図示の制御部の制御に基づいて、各種タイミング信号を生成して各処理部に供給する。具体的には、タイミング制御部60は、例えば、切換信号Tを生成してウォブリング光学素子30に供給し、また撮像信号S1を生成して撮像素子40Gに供給し、また撮像信号S2を生成して撮像素子40RBに供給する。
デモザイキング処理部70は、記憶部50から撮像データRGBrを読み込み、撮像されていない色の画素値(非撮像色値)を生成してカラー画像データRGBを生成し出力する。
次に、ウォブリング光学素子30の内部構成について説明する。図2は、ウォブリング光学素子30の内部構成を示すブロック図である。同図に示すように、ウォブリング光学素子30は、偏光子31と、光位相変調素子32と、複屈折光学素子33とを含んで構成される。同図において、破線で表した矢印は、光束の進路の概略を示すものであり、実線で表した矢印は、電気信号の経路を示すものである。
偏光子31は、非偏光である光束Jを直線偏光に変換する直線偏光子であり、本参考例では、偏光子31は、光束Jを鉛直方向に振動する直線偏光に変換する。
光位相変調素子32は、タイミング制御部60から供給される切換信号Tの信号レベルに応じて、偏光子31を通過した直線偏光を位相変調しないか位相変調するかして出力する光学素子である。具体的には、光位相変調素子32は、切換信号Tがローレベル(“OFF”)のときは、偏光子31を通過した直線偏光を、その偏光状態を変更せずにそのまま出力する。また、光位相変調素子32は、切換信号Tがハイレベル(“ON”)のときは、偏光子31を通過した直線偏光を、その偏光状態を当該直線偏光の振動方向に直交する方向(つまり、水平方向)に振動する偏光状態に変更して出力する。
複屈折光学素子33は、複屈折特性を有する複屈折媒体を含んで形成される光学素子である。複屈折特性は、光線が複屈折媒体を通過する際に、光線の偏光状態に応じて2種類の方向に進む性質のことである。複屈折光学素子33に光線が入射されると、複屈折媒体の光学軸に対して垂直方向に振動する光線(常光線)は複屈折媒体中を直進し、水平方向に振動する光線(異常光線)は複屈折媒体中を屈折して斜め方向に進行する。複屈折媒体としては、水晶、方解石、ルチル、液晶等が適用可能である。
複屈折光学素子33出力端の媒体結晶表面上における常光線の射出光軸に対する異常光線の射出光軸のずれ量(光路変位量)は、複屈折媒体の射出光軸方向の厚みを変えることによって変化する。また、光路変更方向は、常光線を回転軸とした場合の複屈折光学素子33の回転角度を変化させることによって変化する。本参考例では、光路変更方向が撮像素子40RBの撮像面上で画素ずらしを行う方向(つまり、色フィルタのラインに直交する方向)となるように、また、光路変位量が0.5画素分の画素ずらし量になるようにウォブリング光学素子30を設ける。
図3は、ウォブリング光学素子30の各部における偏光状態と光路とを模式的に示す図である。同図(a)は、切換信号Tが“OFF”状態であるときのウォブリング光学素子30の状態を示し、同図(b)は、切換信号Tが“ON”状態であるときのウォブリング光学素子30の状態を示す。同図において、破線で表した矢印は、光束の進路の概略を示すものであり、実線で表した矢印は、電気信号の経路を示すものである。
図3(a)において、ウォブリング光学素子30に非偏光である光束Jを入射すると、偏光子31は、光束Jを鉛直方向に振動する直線偏光に変換する。そして、タイミング制御部60から供給される切換信号Tが“OFF”状態であるとき、光位相変調素子32は、偏光子31を通過して鉛直方向に振動する直線偏光を位相変調せずに透過させる。つまり、光位相変調素子32は、鉛直方向に振動する直線偏光をその偏光状態のまま透過させる。次に、複屈折光学素子33は、光位相変調素子32から供給される鉛直方向に振動する直線偏光を常光線として複屈折媒体内を直進させて、光路変位量が“0”(ゼロ)である光束Lを出力する。
また、図3(b)において、ウォブリング光学素子30に非偏光である光束Jを入射すると、偏光子31は、光束Jを鉛直方向に振動する直線偏光に変換する。そして、タイミング制御部60から供給される切換信号Tが“ON”状態であるとき、光位相変調素子32は、偏光子31を通過して鉛直方向に振動する直線偏光を水平方向に振動する直線偏光に位相変調して透過させる。次に、複屈折光学素子33は、光位相変調素子32から供給される水平方向に振動する直線偏光を異常光線として複屈折媒体内を斜め方向に進行させて、光路変位量のある光束Lを出力する。
つまり、切換信号Tが“ON”状態であるときの光位相変調素子32の偏光特性を数値化したミュラー行列M(ボールド体)は式(1)となる。なお、“(ボールド体)”という記載は、その直前の文字がボールド体で表されることを示し、当該文字が行列またはベクトルであることを意味する。
Figure 0005460473
切換信号Tが“ON”状態であるとき、光位相変調素子32に鉛直方向に振動する直線偏光、言い換えると偏光方位角が90度である直線偏光が入射されると、位相変調後のストークスベクトルS(ボールド体)’(ダッシュ)は式(2)となる。すなわち、切換信号Tが“ON”状態であるとき、光位相変調素子32に鉛直方向に振動する直線偏光が入射されると、水平方向に振動する直線偏光、言い換えると偏光方位角が0度である直線偏光が出力される。
Figure 0005460473
次に、タイミング制御部60が生成する出力信号の動作タイミングについて説明する。図4は、タイミング制御部60が生成する撮像信号S1と撮像信号S2と切換信号Tとの動作タイミングを示す概略のタイミングチャートである。同図は、撮像装置100の1回の撮影操作にしたがって、タイミング制御部60が生成する信号のタイミングを示したものである。具体的には、撮像装置100の撮影操作にしたがって、タイミング制御部60は、撮像信号S1と撮像信号S2とに一定期間ハイレベルとなるパルスを発生する。このとき、タイミング制御部60は、切換信号Tをローレベル(“OFF”)に保持する。次に、タイミング制御部60は、切換信号Tをハイレベル(“ON”)に変化させた後、撮像信号S2に一定期間ハイレベルとなるパルスを発生する。そして、タイミング制御部60は、撮像信号S2の第2回目のパルスを発生させた後に切換信号Tをローレベル(“OFF”)に変化させる。
すなわち、撮像装置100の1回の撮影操作にしたがって、タイミング制御部60は、撮像素子40Gに1回の撮像指示を与えるとともに、撮像素子40RBに切換信号Tの信号レベルの異なる2回の撮像指示を与える。撮像素子40RBに供給される第1回目の撮像指示によって撮像されるフレームは第1フレームであり、第2回目の撮像指示によって撮像されるフレームは第2フレームである。前述したとおり、切換信号Tがローレベル(“OFF”)であるときは、撮像素子40RBに結像されている光束Lは画素ずれがない状態であり、切換信号Tがハイレベル(“ON”)であるときは、撮像素子40RBに結像されている光束Lは0.5画素分の画素ずれが生じている状態である。よって、図4の動作タイミングにより、撮像素子40RBは、画素ずれのない第1フレームの撮像画像と画素ずれが生じている第2フレームの撮像画像とを撮像する。
なお、撮像信号S1のパルスは、撮像信号S2の2回のパルスのうちいずれかに同期するタイミングであってもよいし、厳密には撮像信号S1のパルスの立ち上りタイミングが撮像信号S2のパルスの立ち上がりタイミングに一致しなくてもよい。
図5は、撮像素子40Gおよび撮像素子40RBそれぞれに設けられる色フィルタを模式的に示す図である。同図(a)は撮像素子40Gの撮像面に設けられる色フィルタを表すものであり、同図(b)は撮像素子40RBの撮像面に設けられる色フィルタを表すものである。同図(a)に示すように、撮像素子40Gの撮像面上には、全画素に対応して緑色フィルタ5Gが設けられている。また、同図(b)に示すように、撮像素子40RBの撮像面上には、X軸方向(水平方向)に一画素分の幅でありY軸方向(鉛直方向)に沿うライン状の赤色フィルタ5Rおよび青色フィルタ5BがX軸方向に交互に配列されている。前述したとおり、同図(b)における画素ずらしの方向はX軸方向である。
次に、本参考例である撮像装置100の動作について説明する。撮像装置100の撮影操作にしたがって、制御部がタイミング制御部60に撮像開始の指示を与えると、タイミング制御部60は、図4のタイミングチャートに示すように、切換信号Tをローレベル(“OFF”)に保持したまま、撮像信号S1と撮像信号S2とに一定期間ハイレベルとなるパルスを発生する。つまり、タイミング制御部60は、撮像素子40Gに光束Kの撮像指示を与えるとともに、撮像素子40RBに光束Lの撮像指示を与える。
撮像素子40Gは、撮像信号S1がハイレベルである期間に、光束分離部20から到来する光束Kを撮像し、その撮像データGrを記憶部50に記憶させる。
一方、ウォブリング光学素子30は、タイミング制御部60からローレベル(“OFF”)である切換信号Tの供給を受けるとともに光束分離部20から到来する光束Jを受光し、その光束Jをその光路を変更せずに光束Lとして透過出力する。そして、撮像素子40RBは、撮像信号S2がハイレベルである期間に、ウォブリング光学素子30から到来する光束Lを撮像し、第1フレームの撮像データRBrとして記憶部50に記憶させる。
次に、タイミング制御部60は、切換信号Tをハイレベル(“ON”)に変化させた後、撮像信号S2に一定期間ハイレベルとなるパルスを発生する。つまり、タイミング制御部60は、ウォブリング光学素子30に光路の切換指示を与えた後、撮像素子40RBに光束Lの撮像指示を与える。
ウォブリング光学素子30は、タイミング制御部60からハイレベル(“ON”)である切換信号Tの供給を受けるとともに光束分離部20から到来する光束Jを受光すると、その光束Jの光路を変更し光束Lとして透過出力する。そして、撮像素子40RBは、撮像信号S2がハイレベルである期間に、ウォブリング光学素子30から到来する光束Lを撮像し、第2フレームの撮像データRBrとして記憶部50に記憶させる。
次に、タイミング制御部60は、撮像信号S2の2回目のパルスを発生させた後に切換信号Tをローレベル(“OFF”)に変化させる。
ここで、ウォブリング光学素子30と撮像素子40RBとの受光状態について説明する。図6は、ウォブリング光学素子30と撮像素子40RBとの受光状態を模式的に示す図である。同図(a)および(b)は、撮像素子40RBの色フィルタにおけるY軸方向から見たウォブリング光学素子30と撮像素子40RBとの断面を表している。同図(a)は、切換信号Tがローレベル(“OFF”)であるときの第1フレームの受光状態を表したものであり、同図(b)は、切換信号Tがハイレベル(“ON”)であるときの第2フレームの受光状態を表したものである。同図(a)に示すように、切換信号Tがローレベル(“OFF”)であるときは、ウォブリング光学素子30は、光束Jからの光路変位量が“0”(ゼロ)である光束Lを出力し、撮像素子40RBは、光束Lを画素ずれのない状態で撮像する。一方、同図(b)に示すように、切換信号Tがハイレベル(“ON”)であるときは、ウォブリング光学素子30は、光束Jからの光路変位量が0.5画素分の距離である光束Lを出力し、撮像素子40RBは、0.5画素分の画素ずれのある光束Lを撮像する。
次に、撮像素子40RBの撮像面でのY軸上任意の位置におけるX軸方向の画素の並びと、この画素の並び位置と同位置である撮像素子40Gの撮像面での画素の並びとに着目し、デモザイキング処理部70による一次元のデモザイキング処理について説明する。記憶部50に記憶された第1フレームの撮像データRBrと第2フレームの撮像データRBrとにおけるある1ラインの一次元の画素値をf(n)(n=0,1,2,・・・)とすると、画素の位置を表すnの内訳は次のとおりである。
n=0,2, 4,・・・ : 第1フレームの画素に対応する位置
n=0,4, 8,・・・ : 第1フレームにおける赤色フィルタに対応する画素の位置
n=2,6,10,・・・ : 第1フレームにおける青色フィルタに対応する画素の位置
n=1,3, 5,・・・ : 第2フレームの画素に対応する位置
n=1,5, 9,・・・ : 第2フレームにおける赤色フィルタに対応する画素の位置
n=3,7,11,・・・ : 第2フレームにおける青色フィルタに対応する画素の位置
すなわち、f(n)は、一次元において単一フレームの赤色フィルタまたは青色フィルタに対応する画素の解像度の2倍の解像度を有している。
デモザイキング処理部70が記憶部50から読み込むf(n)に基づきデモザイキング処理を行って生成するカラー撮像データRGBの画素値を、f(n),f(n),f(n)とする。f(n)は赤色の画素値であり、f(n)は緑色の画素値であり、f(n)は青色の画素値である。デモザイキング処理部70は、デモザイキング処理の初期段階では、表1の撮像データを得る。なお、表1は、画素の位置がn=0,1,2,・・・,11である画素値を示したものである。
Figure 0005460473
デモザイキング処理部70は、表1における空欄部分の画素値を推定して求めるものである。次に、デモザイキング処理部70が、表1における空欄部分の画素値を求める方法について、画素の位置がn=2である場合について説明する。
まず、デモザイキング処理部70は、表1におけるf(n)を確定した画素値(撮像色値)として記憶する。よって、デモザイキング処理部70は表2の撮像データを得る。
Figure 0005460473
表2において、空欄に相当するf(2)は、隣接するf(1)の影響を受ける。これは、第2フレームの画素値であるf(1)の画素位置は、第1フレームの画素値であるf(2)の画素位置に対して0.5画素分だけ重複するようにずれているためである。ここで、仮想的にf(n)が二つの画素値f(n)およびf(n)からなるとすると、f(1)およびf(2)は、図7に示すように表される。同図に示すように、f(2)は隣接するf(1)の半画素であるため、デモザイキング処理部70は、f(2)を下記の式(3)で近似する。
Figure 0005460473
一方、f(2)には下記の式(4)の制限がある。
Figure 0005460473
よって、式(3)および式(4)より、f(2)のとり得る画素値の範囲は、下記の式(5)である。
Figure 0005460473
本参考例では、近傍画素において色味が変化しないことを前提として、デモザイキング処理部70が非撮像色値を推定する。本参考例では、デモザイキング処理部70は、色味である赤みC(n)、緑みC(n)、および青みC(n)を下記の式(6)により計算する。式(6)は、当該画素の色値と、当該画素の近傍画素の画素値から内挿する値との差分値に基づき、その差分値が正値として大きいほど当該画素の色の色味であり、その差分値が負値として大きいほど当該画素の色の逆の色味であり、またその差分値が“0”(ゼロ)に近いほど色味がないことを意味する。
Figure 0005460473
式(6)において、例えば、C(n)を例とすると、f(n)は当該画素位置における実際の赤色の画素値であり、[f(n)]は近傍画素の画素値から内挿した値である。C(n),C(n),C(n)のいずれとも、最大値は1.0であり、最小値は−1.0である。
例えば、表2において、画素(n=2)においては、緑色および青色の画素値は既知であり、これらは色味の変化がないとの前提であるため、デモザイキング処理部70は、f(2)がf(2)とf(2)との平均値に等しいと推定する。すなわち、画素(n=1)における内挿の値および赤みは式(7)で示される。
Figure 0005460473
式(7)による赤みC(1)が隣接する画素(n=2)においても類似色であるとの前提に基づいて、デモザイキング処理部70はf(2)を計算する。前述したとおり、C(1)は最大値が1.0(このとき、f(1)が大きい)であり、最小値が−1.0(このとき、f(1)が小さい)である。また、C(1)が0である場合は無彩色であり、このときf(2)はf(2)とf(2)との平均値である。なお、以下の説明において、f(n)とf(n)との平均値を、fG/B(n)と表記する。
ここで、fG/B(n)と式(5)とに基づいて下記の式(8)に示すように場合分けを行う。
Figure 0005460473
式(8)を表2に適用するために一般化したf(n)の式は下記の式(9)となる。
Figure 0005460473
また、これと同様に一般化したf(n)の式は下記の式(10)となる。
Figure 0005460473
また、C(n),C(n)の内挿は帯域を半分にする低域通過型の補間であり、デモザイキング処理部70は、内挿された値であるC’(n),C’(n),C’(n)を、例えば下記の式(11)により計算する。
Figure 0005460473
すなわち、デモザイキング処理部70は、撮像色値を有する画素に対して、隣接する画素の非撮像色値に色味があるか否かを判定し、色味があると判定した場合は、どのような系統の色味であるかを推定するものである。
次に、本参考例における偽色の改善効果について説明する。図8は、第1の被写体サンプルを撮像する場合の、ウォブリング光学素子30と撮像素子40RBとの受光状態を模式的に示す図である。同図(a)および(b)は、撮像素子40RBの色フィルタにおけるY軸方向から見たウォブリング光学素子30と撮像素子40RBとの断面を表している。第1の被写体サンプルは、Y軸方向に沿う赤色ラインと青色ラインとが交互に設けられた縞模様である。そして、第1の被写体サンプルの縞模様のピッチと色フィルタの赤色ラインおよび青色ラインのピッチとは、色が同相となる位相関係を有して一致する。
本参考例である撮像装置100がウォブリング光学素子30を設けていない場合、撮像装置100が出力する撮像画像は、赤色値=1、青色値=1、緑色値=0の画像処理結果であるマゼンタ色となる。
本参考例において、図8(a)は、切換信号Tがローレベル(“OFF”)であるときの第1フレームの受光状態を表したものであり、同図(b)は、切換信号Tがハイレベル(“ON”)であるときの第2フレームの受光状態を表したものである。同図(a)に示すように、切換信号Tがローレベル(“OFF”)であるときは、ウォブリング光学素子30は、光束Jからの光路変位量が“0”(ゼロ)である光束Lを出力し、撮像素子40RBは、光束Lを画素ずれのない状態で撮像する。つまり、f(n)はn=0,4,8,・・・、f(n)はn=2,6,10,・・・に対応する。一方、同図(b)に示すように、切換信号Tがハイレベル(“ON”)であるときは、ウォブリング光学素子30は、光束Jからの光路変位量が0.5画素分の距離である光束Lを出力し、撮像素子40RBは、0.5画素分の変位量がある光束Lを撮像する。つまり、f(n)はn=1,5,9,・・・、f(n)はn=3,7,11,・・・に対応する。
図8の撮像状態においてデモザイキング処理部70が得る撮像データの確定値および色味は表3となる。なお、表3において、f(n)は全て“0”(ゼロ)であるため記載を省略する。
Figure 0005460473
また、表3の確定値および色味に基づいてデモザイキング処理部70が計算する内挿の値であるC’(n),C’(n)と画素値の推定値とは表4である。この表4によれば、撮像装置100は、縞模様のピッチと色フィルタの赤色ラインおよび青色ラインのピッチとが同相となる位置関係では大きな偽色のない撮像画像データを出力している。
Figure 0005460473
また、図9は、第2の被写体サンプルを撮像する場合の、ウォブリング光学素子30と撮像素子40RBとの受光状態を模式的に示す図である。同図において、第2の被写体サンプルは、Y軸方向に沿う赤色ラインと青色ラインとが交互に設けられた縞模様である。そして、第2の被写体サンプルの縞模様のピッチと色フィルタの赤色ラインおよび青色ラインのピッチとは、色が逆相となる位相関係を有して一致する。
本参考例である撮像装置100がウォブリング光学素子30を設けていない場合、撮像装置100が出力する撮像画像は、赤色値=0、青色値=0、緑色値=0の画像処理結果である黒色となる。第2の被写体サンプルは、図8の場合と同様にマゼンタ色が生ずべき被写体であるため、その黒色が偽色である。
本参考例では、図9の撮像状態においてデモザイキング処理部70が得る撮像データの確定値および色味は表5となる。なお、表3において、f(n)は全て“0”(ゼロ)であるため記載を省略する。
Figure 0005460473
また、表5の確定値および色味に基づいてデモザイキング処理部70が計算する内挿の値であるC’(n),C’(n)と画素値の推定値とは表6である。この表6によれば、撮像装置100は、偽色(黒色)を大幅に改善して撮像画像データを出力している。
Figure 0005460473
すなわち、本参考例である撮像装置100は、デモザイキング処理部70による補間誤差を少なくし、偽色による画質劣化の程度を低く抑えることができる。
[第1の実施の形態]
次に、上述した参考例を踏まえ、本発明の第1実施形態である撮像装置について説明する。本実施形態である撮像装置は、ベイヤ配列の色フィルタを有する単板撮像素子を備えてカラー静止画を撮像するカメラ装置である。そして、この撮像装置は、画素ずれを生じさせた被写体像を2回撮像することにより得られる二つの撮像画像に基づいて、モザイキング処理を行って一つのカラー静止画を生成するものである。
なお、本実施形態の説明において、参考例と同一の構成については同一の符号を付してその説明を省略する。
図10は、本実施形態である撮像装置の機能構成を示すブロック図である。同図に示すように、撮像装置100aは、レンズ光学系10と、ウォブリング光学素子30と、撮像素子40と、記憶部50と、タイミング制御部60aと、デモザイキング処理部70とを備える。同図において、破線および破線で表した矢印は、光束の進路の概略を示すものであり、実線で表した矢印は、電気信号の経路を示すものである。
撮像素子40は、撮像面にベイヤ配列のRGB三原色フィルタ(Rフィルタ、Gフィルタ、Bフィルタ)を設けた単板撮像素子であり、例えばCMOSイメージセンサまたはCCDイメージセンサである。
撮像素子40は、タイミング制御部60aから供給される撮像信号Sに基づいて光束Lを2回撮像し、それら撮像データRGBrを記憶部50に供給する。ただし、撮像素子40が撮像する第1回目の撮像は、光束Lの光路が変更されず画素ずれのない状態での撮像であり、この撮像時のフレームを第1フレームと呼ぶ。また、撮像素子40が撮像する第2回目の撮像は、光束Lの光路が変更されて画素ずれがある状態での撮像であり、この撮像時のフレームを第2フレームと呼ぶ。
タイミング制御部60aは、撮像装置100aが備える不図示の制御部の制御に基づいて、各種タイミング信号を生成して各処理部に供給する。具体的には、タイミング制御部60aは、例えば、切換信号Tを生成してウォブリング光学素子30に供給し、また撮像信号Sを生成して撮像素子40に供給する。
次に、タイミング制御部60aが生成する出力信号の動作タイミングについて説明する。図11は、タイミング制御部60aが生成する撮像信号Sおよび切換信号Tの動作タイミングを示す概略のタイミングチャートである。同図は、撮像装置100aの1回の撮影操作にしたがって、タイミング制御部60aが生成する信号のタイミングを示したものである。具体的には、撮像装置100aの撮影操作にしたがって、タイミング制御部60aは、撮像信号Sに一定期間ハイレベルとなるパルスを発生する。このとき、タイミング制御部60aは、切換信号Tをローレベル(“OFF”)に保持する。次に、タイミング制御部60aは、切換信号Tをハイレベル(“ON”)に変化させた後、撮像信号Sに一定期間ハイレベルとなるパルスを発生する。そして、タイミング制御部60aは、撮像信号Sの第2回目のパルスを発生させた後に切換信号Tをローレベル(“OFF”)に変化させる。
すなわち、撮像装置100aの1回の撮影操作にしたがって、タイミング制御部60aは、撮像素子40に対して、切換信号Tの信号レベルの異なる2回の撮像指示を与える。撮像素子40に供給される第1回目の撮像指示によって撮像されるフレームは第1フレームであり、第2回目の撮像指示によって撮像されるフレームは第2フレームである。前述したとおり、切換信号Tがローレベル(“OFF”)であるときは、撮像素子40に結像されている光束Lは画素ずれがない状態であり、切換信号Tがハイレベル(“ON”)であるときは、撮像素子40に結像されている光束Lは0.5画素分の画素ずれが生じている状態である。よって、図11の動作タイミングにより、撮像素子40は、画素ずれのない第1フレームの画像と画素ずれが生じている第2フレームの画像とを撮像する。
図12は、撮像素子40に設けられるRGB三原色フィルタを模式的に示す図である。同図に示すように、撮像素子40の撮像面上には、RフィルタおよびGフィルタをX軸方向に交互に配置した第1のラインと、GフィルタおよびBフィルタをX軸方向(水平方向)に交互に配置した第2のラインとが、Gフィルタの配置が市松模様状となるようにY軸方向(鉛直方向)に交互に配置されている。本実施形態における画素ずらしの方向はX軸方向である。
次に、第1実施形態である撮像装置100aの動作について説明する。撮像装置100aの撮影操作にしたがって、制御部がタイミング制御部60aに撮像開始の指示を与えると、タイミング制御部60aは、図11のタイミングチャートに示すように、切換信号Tをローレベル(“OFF”)に保持したまま、撮像信号Sに一定期間ハイレベルとなるパルスを発生する。
ウォブリング光学素子30は、タイミング制御部60aからローレベル(“OFF”)である切換信号Tの供給を受けるとともにレンズ光学系10から到来する光束Jを受光し、その光束Jをその光路を変更せずに光束Lとして透過出力する。そして、撮像素子40は、撮像信号Sがハイレベルである期間に、ウォブリング光学素子30から到来する光束Lを撮像し、第1フレームの撮像データRGBrとして記憶部50に記憶させる。
次に、タイミング制御部60aは、切換信号Tをハイレベル(“ON”)に変化させた後、撮像信号Sに一定期間ハイレベルとなるパルスを発生する。つまり、タイミング制御部60aは、ウォブリング光学素子30に光路の切換指示を与えた後、撮像素子40に光束Lの撮像指示を与える。
ウォブリング光学素子30は、タイミング制御部60aからハイレベル(“ON”)である切換信号Tの供給を受けるとともにレンズ光学系10から到来する光束Jを受光すると、その光束Jの光路を変更し光束Lとして透過出力する。そして、撮像素子40は、撮像信号Sがハイレベルである期間に、ウォブリング光学素子30から到来する光束Lを撮像し、第2フレームの撮像データRGBrとして記憶部50に記憶させる。第2フレームでの画素の位置は、図12においてX軸方向に0.5画素ずれた位置である。
次に、タイミング制御部60aは、撮像信号Sの2回目のパルスを発生させた後に切換信号Tをローレベル(“OFF”)に変化させる。
次に、デモザイキング処理部70のデモザイキング処理について説明する。デモザイキング処理部70が記憶部50から読み込む第1フレームおよび第2フレームの撮像データRGBrに基づきデモザイキング処理を行って生成するカラー撮像データRGBの画素値を、f(m,n),f(m,n),f(m,n) (m=0,1,2,・・・,n=0,1,2,・・・)とすると、画素の位置を表すm,nの内訳は次のとおりである。
m=偶数 : 第1フレームの画素に対応する位置
m=奇数 : 第2フレームの画素に対応する位置
m=4h ,4h+1、n=偶数 : 赤色の画素値f(m,n)の位置
m=4h+2,4h+3、n=偶数 : 緑色の画素値f(m,n)の位置
m=4h ,4h+1、n=奇数 : 緑色の画素値f(m,n)の位置
m=4h+2,4h+3、n=奇数 : 青色の画素値f(m,n)の位置
h=0,1,2,3,・・・
デモザイキング処理部70は、デモザイキング処理の初期段階では、表7および表8の撮像データを得る。表7は第1フレームの撮像データを表し、表8は第2フレームの撮像データを表す。なお、表7および表8ともに、撮像データの部分データを表している。
Figure 0005460473
Figure 0005460473
本実施形態におけるデモザイキング処理部70は、参考例における式(9)および式(10)を二次元に展開した下記の式(12)および式(13)を計算する。
Figure 0005460473
Figure 0005460473
デモザイキング処理部70が式(12)および式(13)を計算した結果を前記の表7および表8の空欄部分に代入して得られる表を下記の表9に示す。
Figure 0005460473
表9によれば、いずれの画素においても二色の画素値が得られているため、デモザイキング処理部70は、参考例と同様に内挿を行って画素値の推定を行うことができる。
本実施形態である撮像装置100aは、1回の撮影操作にしたがって、ウォブリング光学素子30によりウォブリングされた光束Lを2回撮像し、二つの撮像画像に基づいて非撮像色値の色味の存否を判定し、当該色味が存在すると判定した場合にどのような系統の色成分であるかを推定するようにした。これにより、本実施形態である撮像装置100aは、偽色の推定誤差を少なくして偽色による画質劣化の程度を低く抑えることができる。
なお、本実施形態では画素ずらしの方向を図12におけるX軸方向としたが、画素ずらしの方向をY軸方向としてもよい。
[第1の実施の形態の変形例]
次に、前述した参考例を踏まえ、第1実施形態の変形例である撮像装置について説明する。第1実施形態における撮像装置100aは、第1フレームに対して第2フレームをX軸方向に0.5画素分の距離をずらして撮像するものであったが、第1実施形態の変形例における撮像装置は、第1フレームに対して第2フレームをX軸方向およびY軸方向それぞれに0.5画素分の距離をずらして撮像するものである。
本変形例における撮像装置の構成は、第1実施形態における撮像装置100aの構成と同一である。よって、本変形例における撮像装置を撮像装置100aとして説明する。
本変形例における撮像装置100aでは、ウォブリング光学素子30は、光路変更方向と光路変位量とを、撮像素子40の撮像面上で画素ずらしを行う方向(つまり、RGB三原色フィルタにおけるX軸方向を基準としてY軸方向に45度の方向)と、X軸方向およびY軸方向それぞれに0.5画素分の画素ずらし量とに合うように設ける。
本変形例における撮像装置100aの他の構成については、第1実施形態における撮像装置100aの構成と同一であるため、当該他の構成についての説明を省略する。
また、本変形例における撮像装置100aの動作概要については、第1実施形態における撮像装置100aの動作と同一であるため、本変形例における撮像装置100aの動作概要の説明を省略する。
次に、デモザイキング処理部70のデモザイキング処理について説明する。本変形例において、画素の位置を表すm,nの内訳は次のとおりである。
m=偶数、n=偶数 : 第1フレームの画素に対応する位置
m=奇数、n=奇数 : 第2フレームの画素に対応する位置
m=4h 、n=4k : 赤色の画素値f(m,n)の位置
m=4h+1、n=4k+1 : 赤色の画素値f(m,n)の位置
m=4h+2、n=4k : 緑色の画素値f(m,n)の位置
m=4h+3、n=4k+1 : 緑色の画素値f(m,n)の位置
m=4h 、n=4k+2 : 緑色の画素値f(m,n)の位置
m=4h+1、n=4k+3 : 緑色の画素値f(m,n)の位置
m=4h+2、n=4k+2 : 青色の画素値f(m,n)の位置
m=4h+3、n=4k+3 : 青色の画素値f(m,n)の位置
h=0,1,2,・・・、k=0,1,2,・・・
デモザイキング処理部70は、デモザイキング処理の初期段階では、表10および表11の撮像データを得る。表10は第1フレームの撮像データを表し、表11は第2フレームの撮像データを表す。なお、表10および表11ともに、撮像データの部分データを表している。
Figure 0005460473
Figure 0005460473
例えば、表10において、画素(m=1,n=1)における赤みC(1,1)および内挿の値[f(1,1)]は、前記の式(7)に基づくと下記の式(14)のように表される。
Figure 0005460473
参考例における式(9)に対応して、本変形例のデモザイキング処理部70は下記の式(15)を計算する。なお、式(15)中に示される分数の分母が“4”であるのは、画素の重複の割合が1/4であるためである。
Figure 0005460473
また、参考例における式(10)に対応して、本変形例のデモザイキング処理部70は下記の式(16)を計算する。なお、式(16)中に示される分数の分母が“4”であるのは、画素の重複の割合が1/4であるためである。
Figure 0005460473
また、f(m,n)は、下記の式(17)のように表される。
Figure 0005460473
前記の第1の被写体サンプルを撮像した場合に、デモザイキング処理部70がデモザイキング処理の初期段階で得る画素値と、当該画素におけるC(m,n),C(m,n),C(m,n)とを表12に示す。なお、表12中では、C(m,n),C(m,n),C(m,n)をそれぞれCR,CG,CBと略記する。また、下線が付されるデータは、デモザイキング処理部70によって計算されるデータであることを示している。
Figure 0005460473
また、前記の第2の被写体サンプルを撮像した場合に、デモザイキング処理部70がデモザイキング処理の初期段階で得る画素値と、当該画素におけるC(m,n),C(m,n),C(m,n)とを表13に示す。なお、表13中でも、C(m,n),C(m,n),C(m,n)をそれぞれCR,CG,CBと略記する。また、下線が付されるデータは、デモザイキング処理部70によって計算されるデータであることを示している。
Figure 0005460473
表12に対応して、デモザイキング処理部70が、前記の式(15)から式(17)までを計算することによって得る撮像データを表14に示す。
Figure 0005460473
また、表13に対応して、デモザイキング処理部70が、前記の式(15)から式(17)までを計算することによって得る撮像データを表15に示す。
Figure 0005460473
表14および表15によれば、本変形例である撮像装置100aは、第1および第2の被写体サンプルを撮像して得た撮像画像においても、偽色による画質劣化の程度を低く抑えることができる。
[第2の実施の形態]
本発明の第2実施形態である撮像装置について説明する。前述した第1実施形態における撮像装置100aは、ウォブリング光学素子30によってウォブリングされた光束Lを撮像することによって色味の存否を判定し、当該色味が存在すると判定した場合にどのような系統の色成分であるかを推定するものであった。本発明の第2実施形態である撮像装置は、ウォブリング光学素子を低域通過型フィルタとして用いてぼけた画像を撮像し、偽色の成分を削減するものである。
なお、本実施形態の説明において、参考例または第1実施形態と同一の構成については同一の符号を付してその説明を省略する。
図13は、本実施形態である撮像装置の機能構成を示すブロック図である。同図に示すように、撮像装置200は、レンズ光学系10と、ウォブリング光学素子(結像位置変更部)30aと、撮像素子40と、記憶部50と、タイミング制御部60aと、デモザイキング処理部70とを備える。同図において、破線および破線で表した矢印は、光束の進路の概略を示すものであり、実線で表した矢印は、電気信号の経路を示すものである。
ウォブリング光学素子30aは、タイミング制御部60aから供給される切換信号Tの信号レベル(2値)に応じて、光束Jを光学的な低域通過型フィルタを介さずに透過させるか低域通過型フィルタを介して透過させるかして、光束Lとして出力する光学フィルタ部である。
撮像素子40は、第1実施形態における撮像素子40と同一のものである。ただし、本実施形態における撮像素子40が撮像する第1回目の撮像は、低域通過型フィルタを通した状態(第1および第2の位置)での撮像であり、この撮像時のフレームを第1フレームと呼ぶ。また、撮像素子40が撮像する第2回目の撮像は、低域通過型フィルタを通さない状態(第1の位置)での撮像であり、この撮像時のフレームを第2フレームと呼ぶ。
次に、ウォブリング光学素子30aの内部構成について説明する。図14は、ウォブリング光学素子30aの内部構成を示すブロック図である。同図に示すように、ウォブリング光学素子30aは、偏光子31と、光位相変調素子32aと、複屈折光学素子33とを含んで構成される。同図において、破線で表した矢印は、光束の進路の概略を示すものであり、実線で表した矢印は、電気信号の経路を示すものである。
光位相変調素子32aは、タイミング制御部60aから供給される切換信号Tの信号レベルに応じて、偏光子31を通過した直線偏光を位相変調するか位相変調しないかして出力する光学素子である。具体的には、光位相変調素子32は、切換信号Tがハイレベル(“ON”)のときは、偏光子31を通過した直線偏光を、例えば右円偏光に変更して出力する。また、光位相変調素子32aは、切換信号Tがローレベル(“OFF”)のときは、偏光子31を通過した直線偏光を、その偏光状態を変更せずにそのまま出力する。
複屈折光学素子33は、参考例における複屈折光学素子33と同一のものである。ただし、切換信号Tがハイレベル(“ON”)であるときに本実施形態の複屈折光学素子33に入射される光線は右円偏光であるため、光線は、その鉛直方向成分が複屈折媒体中を直進し、水平方向成分が複屈折媒体中を屈折して斜め方向に進行する。つまり、本実施形態においては、切換信号Tがハイレベル(“ON”)であるときに複屈折光学素子33から射出される光線は、入射光の直進光の成分と屈折光の成分とを含んでいる。
図15は、ウォブリング光学素子30aの各部における偏光状態と光路とを模式的に示す図である。同図(a)は、切換信号Tが“ON”状態であるときのウォブリング光学素子30aの状態を示し、同図(b)は、切換信号Tが“OFF”状態であるときのウォブリング光学素子30aの状態を示す。同図において、破線で表した矢印は、光束の進路の概略を示すものであり、実線で表した矢印は、電気信号の経路を示すものである。
図15(a)において、ウォブリング光学素子30aに非偏光である光束Jを入射すると、偏光子31は、光束Jを鉛直方向に振動する直線偏光に変換する。そして、タイミング制御部60aから供給される切換信号Tが“ON”状態であるとき、光位相変調素子32aは、偏光子31を通過した鉛直方向に振動する直線偏光を右円偏光に位相変調して透過させる。次に、複屈折光学素子33は、光位相変調素子32aから供給される右円偏光のうち、鉛直方向成分を位相変調せずに透過させて光路変位量が“0”(ゼロ)である光束を出力するとともに、水平方向成分を異常光線として複屈折媒体内を斜め方向に進行させて光路変位量のある光束を出力する。これら両光束が光束Lである。
また、図15(b)において、ウォブリング光学素子30aに非偏光である光束Jを入射すると、偏光子31は、光束Jを鉛直方向に振動する直線偏光に変換する。そして、タイミング制御部60aから供給される切換信号Tが“OFF”状態であるとき、光位相変調素子32aは、偏光子31を通過した鉛直方向に振動する直線偏光を位相変調せずに透過させる。つまり、光位相変調素子32aは、鉛直方向に振動する直線偏光をその偏光状態のまま透過させる。次に、複屈折光学素子33は、光位相変調素子32aから供給される鉛直方向に振動する直線偏光を常光線として複屈折媒体内を直進させて、光路変位量が“0”(ゼロ)である光束Lを出力する。
つまり、切換信号Tが“ON”状態であるときの光位相変調素子32aの偏光特性を数値化したミュラー行列M(ボールド体)は式(18)となる。
Figure 0005460473
切換信号Tが“ON”状態であるとき、光位相変調素子32aに鉛直方向に振動する直線偏光、言い換えると偏光方位角が90度である直線偏光が入射されると、位相変調後のストークスベクトルS(ボールド体)’(ダッシュ)は式(19)となる。すなわち、切換信号Tが“ON”状態であるとき、光位相変調素子32aに鉛直方向に振動する直線偏光が入射されると右円偏光が出力される。
Figure 0005460473
次に、タイミング制御部60aが生成する出力信号の動作タイミングについて説明する。図16は、タイミング制御部60aが生成する撮像信号Sおよび切換信号Tの動作タイミングを示す概略のタイミングチャートである。同図は、撮像装置200の1回の撮影操作にしたがって、タイミング制御部60aが生成する信号のタイミングを示したものである。具体的には、撮像装置200の撮影操作にしたがって、タイミング制御部60aは、切換信号Tをハイレベル(“ON”)に変化させた後、撮像信号Sに一定期間ハイレベルとなるパルスを発生する。次に、タイミング制御部60aは、切換信号Tをローレベル(“OFF”)に変化させた後、撮像信号Sに一定期間ハイレベルとなる2回目のパルスを発生する。
すなわち、撮像装置200の1回の撮影操作にしたがって、タイミング制御部60aは、撮像素子40に対して、切換信号Tの信号レベルの異なる2回の撮像指示を与える。撮像素子40に供給される第1回目の撮像指示によって撮像されるフレームは第1フレームであり、第2回目の撮像指示によって撮像されるフレームは第2フレームである。前述したとおり、切換信号Tがハイレベル(“ON”)であるときは、撮像素子40に結像されている光束Lは低域通過型フィルタを通した状態のものであり、切換信号Tがローレベル(“OFF”)であるときは、撮像素子40に結像されている光束Lは低域通過型フィルタを通していない状態のものである。よって、図16の動作タイミングにより、撮像素子40は、光学的にぼけのある状態の第1フレームの画像と、ぼけがない状態の第2フレームの画像とを撮像する。
次に、第2実施形態である撮像装置200の動作について説明する。撮像装置200の撮影操作にしたがって、制御部がタイミング制御部60aに撮像開始の指示を与えると、タイミング制御部60aは、図16のタイミングチャートに示すように、切換信号Tをハイレベル(“ON”)に変化させた後、撮像信号Sに一定期間ハイレベルとなるパルスを発生する。
ウォブリング光学素子30aは、タイミング制御部60aからハイレベル(“ON”)である切換信号Tの供給を受けるとともにレンズ光学系10から到来する光束Jを受光し、その光束Jを低域通過型フィルタを介し光束Lとして透過出力する。そして、撮像素子40は、撮像信号Sがハイレベルである期間に、ウォブリング光学素子30aから到来する光束Lを撮像し、第1フレームの撮像データRGBr(第1の撮像データ)として記憶部50に記憶させる。
次に、タイミング制御部60aは、切換信号Tをローレベル(“OFF”)に変化させた後、撮像信号Sに一定期間ハイレベルとなるパルスを発生する。つまり、タイミング制御部60aは、ウォブリング光学素子30aに低域通過型フィルタを解除する切換指示を与えた後、撮像素子40に光束Lの撮像指示を与える。
ウォブリング光学素子30aは、タイミング制御部60aからローレベル(“OFF”)である切換信号Tの供給を受けるとともにレンズ光学系10から到来する光束Jを受光すると、その光束Jを低域通過型フィルタを介さずに透過出力する。そして、撮像素子40は、撮像信号Sがハイレベルである期間に、ウォブリング光学素子30aから到来する光束Lを撮像し、第2フレームの撮像データRGBr(第2の撮像データ)として記憶部50に記憶させる。
次に、デモザイキング処理部70のデモザイキング処理について説明する。この説明において、デモザイキング処理部70が記憶部50から読み込む撮像データRGBrにおいて、第1フレームの撮像データRGBrの画素値をg(n,m),g(n,m),g(n,m) (m=0,1,2,・・・,n=0,1,2,・・・)と表記し、第2フレームの撮像データRGBrの画素値をf(n,m),f(n,m),f(n,m)と表記する。画素位置は(n,m)で示される。g(n,m),g(n,m),g(n,m)およびf(n,m),f(n,m),f(n,m)ともに、画素単位ではベイヤ配列によるサンプリングとなるため各画素は、青色、緑色、または青色いずれかの値しか有しないが、第2フレームの画像値であるf(n,m),f(n,m),f(n,m)は像がぼけているため、いずれの画素位置(n,m)においてもg(n,m),g(n,m),g(n,m)は赤色、緑色、および青色の全色についての値を有する。
すなわち、画素位置(n,m)においてf(n,m)が画素値を有している場合のf(n,m)およびf(n,m)は、下記の式(20)として表される。
Figure 0005460473
また、画素位置(n,m)においてf(n,m)が画素値を有している場合のf(n,m)およびf(n,m)は、下記の式(21)として表される。
Figure 0005460473
また、画素位置(n,m)においてf(n,m)が画素値を有している場合のf(n,m)およびf(n,m)は、下記の式(22)として表される。
Figure 0005460473
デモザイキング処理部70は、式(20)から式(22)までの計算を全画素について行う。ただし、式(20)から式(22)において、g(n,m),g(n,m),g(n,m)が“0”(ゼロ)である場合は、f(n,m),f(n,m),f(n,m)が不定となる。そこで、デモザイキング処理部70は、この不定状態を発生させないために、例えば、RGB三原色フィルタの純度を下げて赤色、緑色、および青色を混色させる。この純度を下げた状態での撮像データを、g’(n,m),g’(n,m),g’(n,m),f’(n,m),f’(n,m),f’(n,m)と表記する。混色の割合をAとすると、f’(n,m),f’(n,m),f’(n,m)は下記の式(23)として表される。
Figure 0005460473
式(23)の条件において、式(20)から式(22)までは、下記の式(24)から式(26)までとして表される。
Figure 0005460473
Figure 0005460473
Figure 0005460473
また、式(23)に基づくと、f’(n,m),f’(n,m),f’(n,m)とf(n,m),f(n,m),f(n,m)との関係は、下記の式(27)として表される。
Figure 0005460473
よって、f(n,m),f(n,m),f(n,m)は、下記の式(28)として表される。
Figure 0005460473
また、g’(n,m),g’(n,m),g’(n,m)は、混色の割合Aを用いると下記の式(29)として表される。
Figure 0005460473
つまり、例えば混色の割合AをA=0.2とすると、g’(n,m)=g’(n,m)=0.4あり、g’(n,m)=0.2である。
前記の第1の被写体サンプルを撮像した場合に、デモザイキング処理部70が得るべき撮像データを表16に示す。
Figure 0005460473
また、前記の第2の被写体サンプルを撮像した場合に、デモザイキング処理部70が得るべき撮像データを表17に示す。
Figure 0005460473
デモザイキング処理部70が、式(24)および式(29)に基づいて表16の撮像データを計算した結果を表18に示す。
Figure 0005460473
また、デモザイキング処理部70が、式(24)および式(29)に基づいて表17の撮像データを計算した結果を表19に示す。
Figure 0005460473
デモザイキング処理部70が、表18の撮像データを式(28)に基づいてf(n,m),f(n,m),f(n,m)に変換した結果を表20に示す。
Figure 0005460473
すなわち、撮像装置200は、第1の被写体サンプルを撮像した場合の偽色を表20に示すように大幅に改善することができる。
また、デモザイキング処理部70が、表19の撮像データを式(28)に基づいてf(n,m),f(n,m),f(n,m)に変換した結果を表21に示す。
Figure 0005460473
すなわち、撮像装置200は、第2の被写体サンプルを撮像した場合の偽色を表21に示すように大幅に改善することができる。
表20と表21とでは、平均レベルが異なる。そこで、デモザイキング処理部70は、ベイヤ配列の最小単位である2×2画素単位で画素値の平均レベルを計算して式(24)に適用することによって、被写体によって生じる平均レベル値のばらつきを低減する。具体的には、デモザイキング処理部70は、下記の式(30)が成立するように未知の値を計算する。
Figure 0005460473
赤色の画素を例にした場合、f’(2h,2k)が既知であるときは、f’(2h,2k+1),f’(2h+1,2k),f’(2h+1,2k+1)を計算すればよい。よって、デモザイキング処理部70は、式(24)から式(26)までの計算結果に基づいて下記の式(31)から式(33)までの計算を行う。
Figure 0005460473
Figure 0005460473
Figure 0005460473
デモザイキング処理部70が、表18の撮像データを式(31)から式(33)の計算によって補正した結果を表22に示す。
Figure 0005460473
また、デモザイキング処理部70が、表19の撮像データを式(31)から式(33)の計算によって補正した結果を表23に示す。
Figure 0005460473
次に、デモザイキング処理部70が、表20の撮像データを式(31)から式(33)の計算によって補正した結果を表24に示す。
Figure 0005460473
また、デモザイキング処理部70が、表21の撮像データを式(31)から式(33)の計算によって補正した結果を表25に示す。
Figure 0005460473
表24および表25それぞれにおいて、2×2画素ブロックにおけるf(n,m)の平均値とf(n,m)の平均値とは略等しく、青みや赤みを帯びた偽色となっていない。よって、撮像装置200は、第1および第2の被写体サンプルを撮像した場合の偽色を大幅に改善することができる。
本実施形態である撮像装置200は、1回の撮影操作にしたがって、ウォブリング光学素子30aにより低域通過型フィルタを通した場合と通さない場合との光束Lを2回撮像し、二つの撮像画像に基づいて偽色の成分を削減するようにした。これにより、本実施形態である撮像装置200は、偽色の誤差を少なくして偽色による画質劣化の程度を低く抑えることができる。
[第2の実施の形態の変形例]
上述した第2実施形態の撮像装置200は、ウォブリング光学素子を低域通過型フィルタとして用いてぼけた像を撮像素子40の撮像面に結像させて撮像するものであった。第2実施形態の変形例である撮像装置は、レンズ光学系10からの光束Jを互いに画素ずれがある2系統の光路に分離することによって撮像素子40の撮像面にぼけた像を結像させるものである。
なお、本実施形態の説明において、参考例または第2実施形態と同一の構成については同一の符号を付してその説明を省略する。
図17は、本変形例である撮像装置の機能構成を示すブロック図である。同図に示すように、撮像装置200aは、第2実施形態である撮像装置200に対して、ウォブリング光学素子30aの代わりに、参考例で用いたウォブリング光学素子30と、ハーフミラー21,22と、ミラー23,24とを備える。
ハーフミラー21は、レンズ光学系10で集光された光束Jの照射を受けて、光束Jの一部の光束を透過させてハーフミラー22に供給する一方、光束Jの前記一部を除く光束を反射させてミラー23に供給する。ハーフミラー22は、ハーフミラー21から到来する光束を透過させて撮像素子40の撮像面上に結像させる(図17における長破線の経路)。ミラー23は、ハーフミラー21から到来する光束を反射させてウォブリング光学素子30に供給する。ウォブリング光学素子30は、参考例に示したように、タイミング制御部60aから供給される切換信号Tがハイレベル(“ON”)であるときに、入射光の光路を変更して出力する。ミラー24は、ウォブリング光学素子30から到来する光束を反射させてハーフミラー22に供給する。そして、ハーフミラー22は、ミラー24から到来する光束を反射させて撮像素子40の撮像面上に結像させる(同図における短破線の経路)。
つまり、切換信号Tがハイレベル(“ON”)であるときは、直進進行した光束とウォブリング光学素子30内部を屈折した光束との両方が撮像素子40に供給される一方、切換信号Tがオフレベル(“OFF”)であるときは、直進した光束とウォブリング光学素子30内部を直進した光束との両方(つまり、位相差がないか略無視できる。)が撮像素子40に供給される。
撮像装置200aにおける他の構成は第2実施形態と同一であるため、その説明を省略する。また、撮像装置200aのデモザイキング処理部70の動作は、第2実施形態と同一であるため、その説明も省略する。
なお、上述した参考例および実施形態は、カラー静止画を得る撮像装置100,100a,200,200aであったが、第1フレームおよび第2フレームのペアの撮像を繰り返す処理を行うことによって、偽色を改善したカラー動画を得ることのできるビデオカメラ装置に適用可能である。
以上、本発明の実施形態について図面を参照して詳述したが、具体的な構成はこの実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の設計等も含まれる。
10 レンズ光学系
20 光束分離部
21,22 ハーフミラー
23,24 ミラー
30,30a ウォブリング光学素子(結像位置変更部)
31 偏光子
32,32a 光位相変調素子
33 複屈折光学素子
40,40G,40RB 撮像素子
50 記憶部
60,60a タイミング制御部
70 デモザイキング処理部
100,100a,200,200a 撮像装置

Claims (4)

  1. 被写体から到来する光束を集光するレンズ光学系と、
    画素ごとの撮像色値に基づく撮像データを出力する撮像素子と、
    前記撮像素子の画素配列におけるそれぞれの画素に対応する色フィルタと、
    前記レンズ光学系によって集光された光束が前記撮像素子の撮像面の第1の位置に結像する状態と前記光束が前記第1の位置に対して前記撮像面の面方向に所定画素分変位した第2の位置に結像する状態とのいずれかとなるように、前記撮像面における結像位置を変更する結像位置変更部と、
    前記撮像素子から供給される、前記撮像面の前記第1の位置に結像した光束の第1の撮像データと前記第2の位置に結像した光束の第2の撮像データとに基づいて、画素ごとに、前記画素に対応する前記色フィルタの色以外の非撮像色値を、前記第1の撮像データと前記第2の撮像データとにおける前記画素に対して前記変位分の範囲内にある画素の撮像色値に基づき計算するデモザイキング処理部と、
    を備えることを特徴とする撮像装置。
  2. 前記撮像素子は、ベイヤ配列による三原色フィルタを有し、
    前記結像位置変更部は、前記レンズ光学系によって集光された光束が前記撮像素子の前記撮像面の第1の位置に結像する状態と前記光束が前記第1の位置に対して前記撮像面の水平方向および垂直方向またはいずれか一方向に2画素分未満に変位した第2の位置に結像する状態とのいずれかとなるように、前記撮像面における結像位置を変更する
    ことを特徴とする請求項1記載の撮像装置。
  3. 前記結像位置変更部は、前記レンズ光学系によって集光された光束が前記撮像素子の前記撮像面の第1の位置に結像する状態と前記光束が前記第1の位置に対して前記撮像面の面方向に所定画素分変位した第2の位置および前記第1の位置の両位置に結像する状態とのいずれかとなるように、前記撮像面における結像位置を変更し、
    前記デモザイキング処理部は、前記撮像素子から供給される、前記撮像面の前記第1の位置および前記第2の位置に結像した光束の第1の撮像データと前記第1の位置に結像した光束の第2の撮像データとに基づいて、画素ごとに、前記画素に対応する前記色フィルタの色以外の非撮像色値を、前記第1の撮像データと前記第2の撮像データとにおける前記画素に対して前記変位分の範囲内にある画素の撮像色値に基づき計算することを特徴とする請求項1記載の撮像装置。
  4. 被写体から到来する光束をレンズ光学系が集光し、
    撮像面の画素配列におけるそれぞれの画素に対応する色フィルタを設けた撮像素子が、前記レンズ光学系によって集光された光束を前記撮像面の第1の位置に結像させた状態で撮像して第1の撮像データを出力し、前記光束を前記第1の位置に対して前記撮像面の面方向に所定画素分変位した第2の位置に結像させた状態で撮像して第2の撮像データを出力し、
    前記撮像素子が出力した前記第1の撮像データと前記第2の撮像データとに基づいて、画素ごとに、前記画素に対応する前記色フィルタの色以外の非撮像色値を、前記第1の撮像データと前記第2の撮像データとにおける前記画素に対して前記変位分の範囲内にある画素の撮像色値に基づき計算する
    ことを特徴とする撮像方法。
JP2010133212A 2010-06-10 2010-06-10 撮像装置および撮像方法 Expired - Fee Related JP5460473B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010133212A JP5460473B2 (ja) 2010-06-10 2010-06-10 撮像装置および撮像方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010133212A JP5460473B2 (ja) 2010-06-10 2010-06-10 撮像装置および撮像方法

Publications (2)

Publication Number Publication Date
JP2011259310A JP2011259310A (ja) 2011-12-22
JP5460473B2 true JP5460473B2 (ja) 2014-04-02

Family

ID=45474970

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010133212A Expired - Fee Related JP5460473B2 (ja) 2010-06-10 2010-06-10 撮像装置および撮像方法

Country Status (1)

Country Link
JP (1) JP5460473B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6146006B2 (ja) * 2012-12-25 2017-06-14 株式会社リコー 撮像装置及びステレオカメラ

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3223103B2 (ja) * 1996-03-25 2001-10-29 シャープ株式会社 撮像装置
JPH10304235A (ja) * 1997-04-30 1998-11-13 Ricoh Co Ltd 撮像装置
JP2002247454A (ja) * 2001-02-16 2002-08-30 Rikogaku Shinkokai 撮像方法、撮像装置、及び表示装置
JP3926575B2 (ja) * 2001-03-21 2007-06-06 三菱電機株式会社 撮像装置

Also Published As

Publication number Publication date
JP2011259310A (ja) 2011-12-22

Similar Documents

Publication Publication Date Title
US9247227B2 (en) Correction of the stereoscopic effect of multiple images for stereoscope view
US9055181B2 (en) Solid-state imaging device, image processing apparatus, and a camera module having an image synthesizer configured to synthesize color information
JP5701785B2 (ja) カメラモジュール
JP5901935B2 (ja) 固体撮像装置及びカメラモジュール
US8593531B2 (en) Imaging device, image processing method, and computer program
US7742087B2 (en) Image pickup device
WO2017159027A1 (ja) 撮像制御装置、および撮像制御方法、ならびに撮像装置
JP2001268582A (ja) 固体撮像装置および信号処理方法
JP5927570B2 (ja) 3次元撮像装置、光透過部、画像処理装置、およびプログラム
JP5460473B2 (ja) 撮像装置および撮像方法
JP5549566B2 (ja) ステレオ撮影装置
JP2015046777A (ja) 撮像装置および撮像装置の制御方法
JP5673186B2 (ja) 撮像装置及び撮像装置の補間処理方法
JP2006135823A (ja) 画像処理装置、撮像装置および画像処理プログラム
JP2007049301A (ja) 画像処理装置及び画像処理方法
JP2013172218A (ja) 撮像装置、画像処理方法およびプログラム
JP2006303774A (ja) 撮像装置
JP2010109798A (ja) 撮像装置
JP2010010958A (ja) マルチバンド画像撮像方法および装置
JP2001169301A (ja) 多板式撮像装置および画像データ処理用記録媒体
JP2000023172A (ja) 撮像装置
JP4077956B2 (ja) 撮像装置及び撮像方法
JP2008042391A (ja) 画像処理装置および画像処理方法
JP2006074360A (ja) 撮像装置及び信号処理方法
JP6570122B2 (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121226

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131118

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131217

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140114

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees