この種の撮像素子を搭載する撮像装置においては、図6に示すように、露光期間中に撮像対象の被写体が高輝度のもの(以下、高輝度被写体という)から輝度が略0に近い低輝度のもの(以下、低輝度被写体という)に変化すると、得られる画像に色ずれが発生するという問題があった。図6は、撮像素子の或る画素に注目した場合に(この画素を注目画素という)、該注目画素に対して相対的に被写体が矢印の方向に移動することにより、該注目画素の撮像対象が露光期間中に高輝度被写体から低輝度被写体に変化する状態を示した図である。以下、前記問題点について詳細に説明する。なお、前記問題点を説明するにあたり、以下の点(1)〜(7)を前提とする。
(1)前記撮像素子は、透過させる光の波長帯域(色)が互いに異なる複数のカラーフィルタが配設されたものであり、色ごとに画素の感度が異なること。
(2)前記注目画素が、第1の色のカラーフィルタが配設された画素(以下、第1色画素という)である場合と、第2の色のカラーフィルタが配設された画素(以下、第2色画素という)である場合とを想定すること。
(3)第1色画素は、第2色画素より感度が高いこと。
(4)前記露光期間の露光時間は比較的長い時間であること。
(5)以下に使用する「画素値」とは、画素から出力される画素信号の出力値だけでなく、光電変換動作により画素内部で生成されている電荷に相当する信号値を含むこと。
(6)高輝度被写体及び低輝度被写体の各々は、全域に亘って一様な輝度を有していること。
(7)前記高輝度被写体として、高輝度に分類される被写体の中でも輝度が高い側の被写体(以下、第1高輝度被写体という)と輝度が低い側の被写体(以下、第2高輝度被写体という)とを想定し、第1高輝度被写体と第2高輝度被写体とは同色であること。
図7は、前述のように、露光期間中に注目画素の撮像対象が高輝度被写体から低輝度被写体に変化した場合において、該注目画素が露光を開始(時刻T=0)してから経過した時間(タイミング)Tに対する入射光量(瞬時値)の変化を示す図であり、タイミングT=T1で、注目画素の撮像対象が高輝度被写体から低輝度被写体に変化し、経過時間T=T2で露光を終了したことを示している。なお、前記タイミングT1を明暗変化タイミングという。
また、図7のグラフA1は,前記高輝度被写体のうち第1高輝度被写体の場合における入射光量(瞬時値)の変化を表すグラフであり、このグラフが示すように、前記露光を開始してから明暗変化タイミングT1までの期間は、一定の入射光量L1が注目画素に入射し、前記明暗変化タイミングT1で前記入射光量LがL1から略0に瞬間的に低下し、前記明暗変化タイミングT1から露光が完了する露光完了タイミングT2までの期間は、前記入射光量Lが略0となる状態が継続する。また、グラフA2は,前記高輝度被写体のうち第2高輝度被写体の場合における入射光量(瞬時値)の変化を表すグラフであり、露光を開始してから前記明暗変化タイミングT1までの期間で受光する光の入射光量LがL2(<L1)となる以外は前記第1高輝度被写体の場合と略同様である。
次に、第1色画素及び第2色画素における、前記経過時間Tに対する画素値の変化について説明する。図8のグラフG2,B2は、前記高輝度被写体が前記第2高輝度被写体である場合の、前記経過時間Tに対する第1色画素及び第2色画素の画素値の変化を示すグラフであり、図9のグラフG3,B3は、前記高輝度被写体が前記第1高輝度被写体である場合の、前記経過時間Tに対する第1色画素及び第2色画素の画素値の変化を示すグラフである。
図8,図9に示すように、前記撮像素子の各画素は、前述したように、入射光量の積算値が或る基準光量より少ないときには、受光開始からの入射光量の積算値に比例した画素値を生成する光電変換動作を行う線形変換特性と、前記基準光量以上であるときには、前記入射光量(瞬時値)を対数圧縮した画素値を生成する光電変換動作を行う対数変換特性とを有する。図8,図9に示す「S1」は、前記入射光量の積算値が前記基準光量となったときに画素により生成される画素信号の画素値(以下、閾値S1という)を示し、図8,図9のグラフおいて、この画素値S1より小さい領域を線形変換領域(Lin領域)といい、前記画素値SがS1以上の領域を対数変換領域(Log領域)というものとする。
図8に示すように、前記露光期間のうち前記高輝度被写体を撮像している期間は、第1色画素及び第2色画素とも、露光時間に比例して画素値が略一定の割合で増加する。また、第1色画素は第2色画素より感度が高いので、第1色画素より第2色画素の方が画素値の増加率が大きくなる。したがって、第1色画素の画素値の変化を表すグラフは、図8のグラフG2となり、第2色画素の画素値の変化を表すグラフは、図8のグラフB2となる。
また、図8に示すように、前記高輝度被写体が前記第2高輝度被写体である場合、第1色画素及び第2色画素の両方とも画素値の増加率が比較的小さく、各画素値が前記閾値S1を超える前に前記明暗変化タイミングT1を迎える。この明暗変化タイミングT1の時点における第1色画素の画素値をS2、第2色画素の画素値をS3とすると、第1色画素及び第2色画素の両方とも前記タイミングT1以降の入射光量は略0となるため、露光完了タイミングT2まで略一定の画素値S2,S3を維持する(図8のグラフG2,B2のうち平坦部分)。すなわち、露光期間中、前記注目画素は線形変換領域でのみ動作し、注目画素が第1色画素である場合には、露光完了後に出力される画素信号の画素値はS2となり、前記注目画素が第2色画素である場合には、露光完了後に出力される画素信号の画素値はS3となる。
一方、前記高輝度被写体が前記第1高輝度被写体である場合、図9に示すように、前記露光期間のうち高輝度被写体を撮像している期間は、第1色画素及び第2色画素とも、露光時間に比例して画素値が略一定の増加率で増加する。また、第1色画素は第2色画素より感度が高いので、第1色画素より第2色画素の方が画素値の増加率が大きくなる。したがって、第1色画素の画素値の変化を表すグラフは、図9のグラフG3となり、第2色画素の画素値の変化を表すグラフは、図9のグラフB3となる。
また、図9に示すように、前記高輝度被写体が前記第1高輝度被写体である場合、第1色画素及び第2色画素の両方とも、前記高輝度被写体が前記第2高輝度被写体である場合に比して画素値の上昇率が大きい。ただし、第2色画素については、各画素値が前記閾値S1を超える前に前記明暗変化タイミングT1を迎える。この明暗変化タイミングT1の時点における第2色画素の画素値をS3’とすると、前記タイミングT1以降の入射光量は略0となるため、露光完了タイミングT2まで略一定の画素値S3’を維持する。すなわち、露光期間中、前記注目画素としての第2色画素は線形変換領域でのみ動作する。
一方、第1色画素については、明暗変化タイミングT1を迎える手前のタイミングTsで画素値が前記閾値S1に達する。したがって、このタイミングTsから明暗変化タイミングT1までの期間、注目画素としての第1色画素は対数変換動作を実行する。すなわち、該第1色画素は、入射光量の対数値を画素値として生成する。その結果、図9のグラフG3のように、前記タイミングTsで画素値が瞬間的に大きくなり(このときの画素値をS2’とする)、前記明暗変化タイミングT1までの間、入射光量が一定であるから画素値S2’が維持される。
ここで、次のような問題が生じる。すなわち、前記対数変換領域では、前述したように前記入射光量の対数値を生成する領域であるため、入射光量が略0となる前記明暗変化タイミングT1の時点で画素値はS2’から低下する。その際、第1色画素には前記閾値S1分に相当する電荷を蓄積しているため、画素値S1まで低下することとなり、その変化は瞬間的なものとなる。そして、露光完了後に第1色画素から出力される画素信号の画素値はS1となる。このように、第1色画素から出力される画素信号の画素値がS2’とはならずにS1となることで、生成される画像に色ずれが生じる。
すなわち、第2色画素については、前記高輝度被写体が第1高輝度被写体である場合に得られる画素信号の画素値S3’と、前記高輝度被写体が第2高輝度被写体である場合に得られる画素信号の画素値S3との比(S3’/S3)が、図7に示す入射光量L1,L2の比(L1/L2)に一致する。
一方、第1色画素については、露光完了後に出力されるべき画素信号の画素値は本来ならば、前記タイミングTsから明暗変化タイミングT1までの期間も、前記対数変換動作ではなく線形変換動作を行ったものと仮定した場合に、前記明暗変化タイミングT1の時点で得られる画素値S2”(図9参照)である。画素値S2”が、前記タイミングTsから明暗変化タイミングT1までの期間で行われた光電変換動作が反映された画素値であるからである。また、前記高輝度被写体が前記第2高輝度被写体である場合にこの第1色画素から得られる本来の画素値S2”と、前記高輝度被写体が第2高輝度被写体である場合に第1色画素から得られる画素信号の画素値S2との比(S2”/S2)が、図7に示す入射光量L1,L2の比(L1/L2)に一致する。
そして、前記各画素値S2,S2”,S3,S3’に着目すると、S2”/S2=S3’/S3=L1/L2が成立し、この式から、S2/S3=S2”/S3’が導出される。ここで、第1色画素の出力信号の画素値と第2色画素の出力信号の画素値との比に基づいてホワイトバランスをとる場合、S2/S3=S2”/S3’となることから、前記高輝度被写体は、第1高輝度被写体であっても第2高輝度被写体であっても同色で表されることが分かる。
ところが、前記高輝度被写体が第1高輝度被写体である場合に実際に第1色画素から得られる画素信号の画素値は、前記タイミングTsから前記明暗変化タイミングT1までの光電変換動作が反映されていない画素値S1(≠S2’)となる。したがって、この画素値S1と前記高輝度被写体が第1高輝度被写体である場合に第2色画素から得られる画素信号の画素値S3’との比S1/S3’は、前記高輝度被写体が第2高輝度被写体である場合に第1色画素及び第2色画素からそれぞれ得られる画素信号の画素値S2,S3の比S2/S3とは不一致となる。すなわち、前記高輝度被写体が第1高輝度被写体であるか第2高輝度被写体であるかによって、該高輝度被写体が異なる色として表されることとなり、ここに前述の色ずれが生じることとなる。
本発明は、上述した問題点を解決するためになされたものであり、前記色ずれを抑制することのできる撮像装置を提供することを目的とする。
請求項1に記載の発明は、露光開始からの撮像素子の露光量の積算値に比例した出力値の出力信号を出力する線形変換特性と受光している前記撮像素子の露光量を対数圧縮した出力値の出力信号を出力する対数変換特性とを有し、前記露光量の積算値に係る閾値を境界として、前記積算値が閾値を超えると、線形変換動作から対数変換動作に切り替わる撮像素子と、予め定められた露光時間の画像を得る場合に、該露光時間を複数の時間に分割し、前記撮像素子に、分割した各分割時間単位で光電変換動作を行わせてそれぞれ得られた各出力信号を出力させる撮像制御部と、前記各出力信号のうち前記対数変換動作により得られた出力信号を、前記線形変換動作により得られる場合の出力信号に変換する出力信号変換部と、前記各分割時間単位の光電変換動作のうち前記線形変換動作で得られた出力信号及び前記出力信号変換部による変換処理後の出力信号を加算して画像信号を生成する画像加算部とを備える撮像装置である。
露光量の積算値が前記閾値より小さいときには前記第1の線形変換動作を行い、前記積算値が前記閾値以上のときには前記対数変換動作を行う場合において、仮に前記予め定められた露光時間の光電変換動作を撮像素子に行わせると、前述したように、前記線形変換動作から対数変換動作に切り替わった後に、例えば露光期間中に被写体が高輝度被写体から低輝度被写体に変化することで、対数変換動作から再び前記線形変換動作に切り替わる場合がある。この場合、前記対数変換動作によって得られる出力値が、撮像素子から出力される出力信号に反映されなくなることがある。
本発明によれば、予め定められた露光時間の画像を得る場合に、該露光時間を複数の時間に分割し、前記撮像素子に、分割した各分割時間単位で光電変換動作を行わせてそれぞれ得られた各出力信号を出力させるようにしたので、対数変換動作から再び前記線形変換動作に切り替わる前に、前記各分割時間単位の光電変換動作を終わらせることが可能となり、これにより、前記対数変換動作によって得られる出力値が、撮像素子から出力される出力信号に反映される。
そして、前記対数変換動作により得られた出力信号を、前記線形変換動作により得られる出力信号に変換し、前記出力信号変換部による変換処理後の出力信号からなる各画像を加算するようにしたので、撮像した被写体の輝度を忠実に表現しつつ、画像の色ずれの発生を抑制することが可能となる。
請求項2に記載の発明は、請求項1に記載の撮像装置において、前記撮像素子は、透過させる光の波長帯域が互いに異なる複数のカラーフィルタが配設されたカラー撮像素子である。
画素に配設されたカラーフィルタの種類に応じて、線形変換動作と対数変換動作との切り替わりタイミングが異なることにより、対数変換動作から前記線形変換動作への切り替わりが発生する画素と発生しない画素とが生じる。これらの画素から得られる出力信号の比が被写体の色を決定するパラメータとなる場合に、前記光電変換動作の切り替わりの発生の有無に応じて各画素の出力信号の比が変化し、これにより色ずれが発生する。
このように透過させる光の波長帯域が互いに異なる複数のカラーフィルタが配設されたカラー撮像素子に対して、請求項1に記載の発明を適用することにより、対数変換動作から前記線形変換動作への切り替わりの発生を抑制することができるため、前記出力信号の比が一定となり、前述のような色ずれを防止又は抑制することができる。
本発明によれば、線形変換特性と対数変換特性とを有し、露光量の積算値に係る閾値を境界として前記線形変換動作と前記対数変換動作とが切り替わる撮像素子を備えた撮像装置において、色ずれの発生を防止又は抑制することができる。
本発明に係る撮像装置の実施形態について説明する。図1は、本発明に係る撮像装置の構成例を示すブロック図である。
図1に示すように、撮像装置1は、撮影光学系2と、撮像素子3と、A/D変換部4と、画像処理部5と、操作部6と、制御部7とを備えて構成されている。
撮影光学系2は、詳細な図示は行っていないが、撮影倍率(焦点距離)を変更するためのズームレンズと、焦点位置を調節するためのフォーカスレンズと、撮像素子3へ入射される光量を調節するための絞りとが、鏡胴内において光軸方向に保持されてなり、被写体の光像を取り込んで該光像を撮像素子3に結像するものである。
撮像素子3は、複数の画素がマトリックス状に2次元配列され、各画素に分光特性の異なる例えばR(赤),G(緑),B(青)のカラーフィルタが1:2:1の比率で配設されてなるカラーエリアセンサである。撮像素子3における1画素の構成例及びその動作例として、例えば特開2006−50544号公報に開示されている構成及び動作が挙げられる。図2に、撮像素子3における1画素の構成例を示す。
図2に示すように、画素8は、P型層9とN型埋込層10とを備えて構成される埋込型フォトダイオードPDと、埋込型フォトダイオードPDが構成される領域に隣接する領域の表面に絶縁膜11を介して構成されたゲート電極12を備える転送ゲートTGと、転送ゲートTGが構成された領域と隣接する領域に形成されたN型浮遊拡散層FDと、埋込型フォトダイオードPDが構成される領域と転送ゲートTGと反対側で隣接する領域の表面に絶縁膜13を介して構成されたゲート電極14を備える制御ゲートCGと、制御ゲートCGが構成された領域に隣接する領域に形成されたN型浮遊拡散層FD1とを備え、埋込型フォトダイオードPDを中心として、転送ゲートTGと制御ゲートCGとが対称な位置に形成されるとともに、N型浮遊拡散層FD,FD1が対称な位置に形成されている。
埋込型フォトダイオードPDは、N型埋込層10と高濃度のP型層9とが積層されてなる。また、N型埋込層10とN型浮遊拡散層FDと転送ゲートTGとによってNチャネルのMOSトランジスタTr1が構成される。埋込型フォトダイオードPDを画素8内に構成することで、埋込型フォトダイオードPDを構成するP型層9の表面における電位が、埋込型フォトダイオードPD周囲のP型層より成るチャンネルストッパ層と同一の電位に固定される。
また、画素8は、NチャネルのMOSトランジスタTr2〜Tr5を有する。MOSトランジスタTr2は、ソース端子がN型浮遊拡散層FDに接続されるとともにドレイン端子に直流電圧VPDが印加される。MOSトランジスタTr3は、ゲート端子がMOSトランジスタTr2のソースに接続されるとともにドレイン端子に直流電圧VPDが印加される。MOSトランジスタTr4は、ドレイン端子がMOSトランジスタTr3のソース端子に接続されるとともにソース端子に出力信号線15が接続されている。MOSトランジスタTr5は、N型浮遊拡散層FD1と埋込型フォトダイオードPDのN型埋込層10と制御ゲートCGとによって構成されている。
そして、MOSトランジスタTr2,Tr4のゲート及び転送ゲートTGには、信号φTX、φRS、φVそれぞれが付与される。また、N型浮遊拡散層FD1に直流電圧VPDが印加されるとともに、制御ゲートCGに直流電圧VPDよりも低い直流電圧VMが常に印加される。この直流電圧VMの印加により、画素8による光電変換動作は、入射光量の積算値が所定値となるまで、露光開始からの入射光量の積算値に比例した画素値の画素信号を生成する線形変換動作を行い、入射光量の積算値が所定値(前述の閾値S1)を超えると、入射光量を対数圧縮した画素値とした画素信号を生成する対数変換動作に切り換わる。
図1に戻り、A/D変換部4は、撮像素子3から出力されたアナログのR,G,Bの画素信号を、複数のビット(例えば10ビット)からなるデジタルの画素信号(以下、画素データ)にそれぞれ変換するものである。画像処理部5は、A/D変換部4から出力された画素データに対して後述する画像処理を行うものである。
操作部6は、撮像素子3による露光動作のタイミングを指示するためのシャッターボタン、静止画や動画を撮影する撮影モードや記録済みの画像を再生する再生モード等、撮像装置1に搭載されたモードや機能を択一的に選択するダイヤルやボタン、撮影条件(絞り値、シャッタースピード、フラッシュ発光の有無等)の設定等の指示を入力するためのダイヤルやボタン等を含むものであり、これらの操作情報を制御部7に出力する。
制御部7は、操作部6から出力される操作情報にしたがって、撮像素子3、A/D変換部4及び画像処理部5の動作を互いに関連付けて制御するものであり、機能的に、撮像制御部71を備える。
撮像制御部71は、撮像素子3の撮像動作を制御するものであり、本実施形態では、被写体の画像を得るために算出された撮像素子3の露光時間TLが、予め定められた露光時間についての閾値より大きいとき、該露光時間TLを所定数nで分割し、この分割した各時間を露光時間とする撮像動作を、前記所定数nと同じ数の回数だけ撮像素子3に行わせる。すなわち、撮像制御部71は、露光時間が(1/n)×TLの撮像動作を撮像素子3の各画素に連続してn回行わせる。
例えばn=3とし、図9に示す撮像動作と同じ露光時間T2で被写体の画像を得ることを想定するとき、図3に示すように、撮像制御部71は、まず、前記露光時間T2を3等分する。そして、撮像制御部71は、撮像素子3に露光動作を開始させてからT2×(1/3)が経過したタイミングT3までの期間(以下、この期間を第1露光期間という)露光動作を行った後、各画素から画素信号を読み出す。次に、撮像制御部71は、再び撮像素子3に露光動作を開始させ、さらにT2×(1/3)が経過したタイミングT4までの期間(以下、この期間を第2露光期間という)露光動作を行った後、画素から画素信号を読み出し、再び撮像素子3に撮像動作を開始させ、さらにT2×(1/3)が経過したタイミングT2までの期間(以下、この期間を第3露光期間という)露光動作を行った後、画素から画素信号を読み出す。
図3は、このような動作を行った場合に前記第1色画素の一例としてのG(緑)のカラーフィルタが配設されたG画素と前記第2色画素の一例としてのB(青)のカラーフィルタが配設されたB画素の光電変換動作を示すものである。なお、図3は、第2露光期間中に前記明暗変化タイミングT1が発生した場合を示している。
図3のグラフB4〜B6に示すように、B画素は、露光が完了するまで図9に示す閾値と同じ閾値S1を超えることなく線形変換動作のみを行う。そして、B画素からは、第1露光期間における露光動作によって画素値S5の画素信号が得られる。また、B画素は、第2露光期間においては、その途中で明暗変化タイミングT1を迎えるため、タイミングT3からタイミングT1までは画素値が増加して該タイミングT1で画素値がS7となり、それ以降は、画素への入射光量が略0となるため画素値の増加率が略0となり前記画素値S7が維持される。したがって、この場合、第2露光期間における露光動作によって画素値S7の画素信号が得られる。また、B画素は、第3露光期間においては、低輝度被写体を撮像した状態であり画素への入射光量が略0となるため、第3露光期間における露光動作によって得られる画素信号の画素値は略0となる。
一方、G画素は、第1露光期間においてはタイミングTsまでは線形変換動作を行い、タイミングTsで画素値が前記閾値S1に達し、該タイミングTsから前記タイミングT3まで対数変換動作を行う。ここで、明暗変化タイミングT1を迎える前に第1露光期間が終了するため、対数変換動作時に得られる画素値S4の画素信号がそのまま第1露光期間の露光動作で生成された画素信号としてG画素から出力される。
また、G画素は、第2露光期間においては、撮像素子3は再び線形変換動作を行い、画素値が前記閾値S1に達する前に前記明暗変化タイミングT1を迎えるため、画素値はタイミングT1まで露光時間に比例して増加して該タイミングT1で画素値がS6となり、それ以降は、画素への入射光量が略0となるため前記画素値S6が維持される。したがって、この場合、第2露光期間における露光動作によって画素値S6の画素信号が得られる。また、G画素は、第3露光期間においては、低輝度被写体を撮像した状態であり画素への入射光量が略0となるため、第3露光期間における露光動作によって得られる画素信号の画素値は略0となる。
図4は、画像処理部5の電気的な構成を示すブロック図である。図4に示すように、画像処理部5は、光電変換特性変換部51と、画像加算部52と、第1メモリ部53と、画素レート変換部54と、第2メモリ部55とを備えて構成されている。
光電変換特性変換部51は、A/D変換部4から出力された画素データのうち、対数変換動作が行われた露光期間に得られた画素データを対象として、該画素データが生成された露光期間に前記対数変換動作ではなく線形変換動作が行われたものと仮定した場合に得られる画素データに変換する処理を行うものである。
図5は、露光時間がt1,t2(t1<t2)である場合における被写体の輝度(明るさ)と画素から得られる画素データの画素値との関係を示すグラフである。なお、図5中の画素値S1は、図3に示す閾値S1に相当するものである。図5の実線で示すように、線形変換領域では被写体の輝度に比例して画素値が増加する。また、図5の点線で示すように、対数変換領域でも被写体の輝度に比例して画素値が増加するものの、その画素値の増加率は、線形変換領域における画素値の増加率より小さくなる。また、図5から判るように、露光時間が長いほど線形変換領域における画素値の増加率は大きくなり、対数変換領域における画素値の増加率は露光時間に依存しないため同一である。
光電変換特性変換部51は、点線で示す対数変換領域における被写体輝度と画素値との関係を、矢印で示すように、線形変換領域における被写体輝度と画素値との関係と同一の関係式で表されるような変換処理を行う。具体的には、同一の被写体輝度(明るさ)に対し、対数変換動作で得られる画素データの画素値と、線形変換動作を行ったものと仮定した場合に得られる画素データの画素値との関係(図5のグラフで示す関係)がLUT(Look Up Table)として光電変換特性変換部51に格納されており、光電変換特性変換部51は、対数変換動作により得られた画素データの画素値を、前記LUTを用いて、線形変換動作を行ったものと仮定した場合に得られる画素データの画素値に変換する。
例えば、図5に示すように、露光時間t1の場合において、対数変換動作により得られた画素データの画素値がSbであったとき、光電変換特性変換部51は、この画素値Sbを、線形変換動作を行ったものと仮定した場合に得られる画素データの画素値Scに変換する。換言すると、光電変換特性変換部51は、対数変換領域におけるグラフを、線形変換動作時における被写体輝度と画素値との関係を表すグラフの延長線に変換し、対数変換動作により得られた前記画素値Sbでの被写体輝度に対応する前記延長線上の点が示す画素値を導出する。なお、図5には、被写体の輝度(明るさ)と画素データの画素値との関係を2つの露光時間についてのみ示しているが、多数の露光時間についての関係が予め設定され、それらの関係がテーブル化されていてもよい。
撮像素子3に図3に示す露光動作を行わせた場合、G画素が第1露光期間に対数変換動作を行っているので、光電変換特性変換部51は、G画素が第1露光期間で生成した画素値S4の画素データを変換対象の画素データとする。この変換により得られる画素値は、図3に示すように、第1露光期間における線形変換動作を示す露光時間と画素値との関係を示すグラフG4の延長線(点線部分)上のうち、該第1露光期間の終了タイミングT3に対応する画素値S4’となる。
画像加算部52は、各画素について、各露光期間で得られた画素データを(光電変換特性変換部51により変換処理が施された場合には、その変換処理後の画素データを加算対象として)加算するものである。第1メモリ部53は、画像加算部52による加算処理の対象の画素データを一時的に保持するものである。
撮像素子3に図3に示す露光動作を行わせた場合、まず、画像加算部52は、第1露光期間で得られた画素データを第1メモリ部53に格納し、第2露光期間で得られた画素データが画像加算部52に入力されると、この画素データと現時点で前記第1メモリ部53に格納されている画素データとを加算した上で再度第1メモリ部53に格納し、さらに、第3露光期間で得られた画素データが画像加算部52に入力されると、この画素データと現時点で前記第1メモリ部53に格納されている画像データとを加算し、この加算処理により生成される加算画像を後述する画素レート変換部54に出力する。
このような動作により、B画素については、第1露光期間の露光動作で得られた画素データの画素値がS5、第2露光期間の露光動作で得られた画素データの画素値がS7、第3露光期間の露光動作で得られた画素データの画素値が0であるから、画像加算部52により、最終的に当該B画素の画素データとして、画素値(S5+S7)を有する画素データが生成される。また、G画素については、第1露光期間の露光動作で得られた画素データの画素値がS4’、第2露光期間の露光動作で得られた画素データの画素値がS6、第3露光期間の露光動作で得られた画素データの画素値が0であるから、画像加算部52により、最終的に当該G画素の画素データとして、画素値(S4’+S6)を有する画素データが生成される。
画素レート変換部54は、被写体の画像を得るために算出された撮像素子3の露光時間TLを前述のように分割した場合における画素からの画素信号の読み出し速度を、前記露光時間TLの分割を行わずに該露光時間TLの露光動作を行った場合における画素からの画素信号の読み出し速度に一致させる必要がある場合に、第2メモリ部55に画像加算部52から出力された加算画像を一時的に保持させて、前記両読み出し速度が一致するようなタイミングで前記第2メモリ部55から加算画像を読み出して外部(例えば画像を記録する記録部など)に出力する。
このように、本実施形態によれば、前記第1〜第3露光期間でG画素及びB画素からそれぞれ得られた画素データの画素値は、各画素が線形変換動作のみを行ったものと仮定した場合の画素値となる。よって、高輝度被写体が第1高輝度被写体である場合に、B画素から得られる画素データの画素値(S5+S7)と、G画素から得られる画素データの画素値(S4’+S6)との比(S4’+S6)/(S5+S7)は、図8で示す高輝度被写体が第2高輝度被写体である場合に、B画素から得られる画素データの画素値S3と、G画素から得られる画素データの画素値S2との比S2/S3と略一致することとなる。
したがって、前述したようにG画素の出力信号の画素値とB画素の出力信号の画素値との比に基づいてホワイトバランスをとる場合、高輝度被写体が第1高輝度被写体である場合も第2高輝度被写体である場合も同一色として表されることとなる。これにより、被写体の輝度を忠実に表現しつつ、従来のような色ずれが生じるのを回避することができる。
本件は、前記各実施形態に代えて、或いは前記各実施形態に加えて次の変形形態も採用可能である。
[1]前記実施形態では、G(緑)のカラーフィルタが配設された画素と、B(青)のカラーフィルタが配設された画素とに注目して説明を行ったが、注目する画素は、これらに限られない。R(赤)、G(緑)、B(青)のカラーフィルタが配設された撮像素子の場合、R(赤)のカラーフィルタが配設された画素は、B(青)のカラーフィルタが配設された画素と略同様の光電変換動作を行う。また、C(シアン)、M(マゼンタ)、Y(イエロー)の撮像素子が搭載された撮像装置にも本発明は適用可能である。
[2]被写体の画像を得るために算出された撮像素子3の露光時間TLが、予め定められた露光時間についての閾値より大きいとき(露光時間が比較的長いとき)に、該露光時間TLを分割するようにしたが、この形態に限られるものではない。
[3]前記実施形態では、撮像素子の画素が、線形変換動作及び対数変換動作を行う場合について説明したが、これに限らず、線形変換動作から対数変換動作に除々に切り替わる動作を行う場合にも本発明は適用可能である。
[4]第1露光期間中に前記明暗変化タイミングT1が発生した場合には、第1露光期間の光電変換動作で得られた画素信号について、図9で説明したような問題点と同様の問題、すなわち画素値S4の画素信号が出力されるべきであるのに実際の画素信号の画素値がS1となり、画素値の誤差が発生するという問題が生じるものの、本件のように複数の露光期間に分けて光電変換動作を行うことで、各光電変換動作で得られた画素信号の画素値の加算値に対する前記画素値の誤差の割合を小さくすることができるから、色ずれは従来の場合よりも小さくなる。