JP2011166422A - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP2011166422A
JP2011166422A JP2010026476A JP2010026476A JP2011166422A JP 2011166422 A JP2011166422 A JP 2011166422A JP 2010026476 A JP2010026476 A JP 2010026476A JP 2010026476 A JP2010026476 A JP 2010026476A JP 2011166422 A JP2011166422 A JP 2011166422A
Authority
JP
Japan
Prior art keywords
pixel
defective
pixels
defective pixel
image signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010026476A
Other languages
English (en)
Other versions
JP5446955B2 (ja
Inventor
Wataru Sugawara
渉 菅原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2010026476A priority Critical patent/JP5446955B2/ja
Publication of JP2011166422A publication Critical patent/JP2011166422A/ja
Application granted granted Critical
Publication of JP5446955B2 publication Critical patent/JP5446955B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

【課題】撮像素子の欠陥による欠陥画素を高精度に補正できる撮像装置及び撮像方法を提供すること。
【解決手段】画素列を有する撮像素子と、前記画素列が有する欠陥画素の位置を予め記憶する欠陥画素記憶手段と、前記欠陥画素を補正する欠陥画素補正手段とを備え、前記画素列は、0,1,…,N+1番目の順で所定の方向に配列されてなる画素を有し、前記欠陥画素記憶手段は、前記画素列のうち1〜N番目の画素を欠陥画素とし、前記画素列のうち0番目の画素及びN+1番目の画素を非欠陥画素として、これらを特定欠陥画素パターンとして記憶し、前記欠陥画素補正手段は、1〜M番目の欠陥画素の画像信号を0番目の非欠陥画素の画像信号で補正し、M+1〜N番目の欠陥画素の画像信号をN+1番目の非欠陥画素の画像信号で補正することを特徴とする。但し、Nは3以上の整数、Mは1以上N−1以下の整数である。
【選択図】図12

Description

本発明は、撮像装置および撮像方法に関し、特に、欠陥画素補正機能を有するデジタルスチルカメラ等の撮像装置およびその撮像方法に関するものである。
デジタルスチルカメラに使用される撮像素子、例えばCCD(charge coupled device)では、半導体の製造工程において全ての画素が完全に同一性能で製造されるわけではなく、欠陥画素も製造されてしまう。この欠陥画素としては、例えば、通常よりレベルが低い信号を出力する黒点欠陥画素や、通常よりレベルが高い信号を出力する輝点欠陥画素がある。
しかしながら、製品の歩留まりの観点から、欠陥画素が所定の個数以下である場合には、良品のCCDとしてデジタルスチルカメラ等の商品に使用されることが一般的である。
そこで、欠陥画素を備えるCCDを使用するデジタルスチルカメラでは、その欠陥画素のCCD上の縦横座標(アドレス)等の欠陥画素データが、予め当該デジタルスチルカメラに設けられた欠陥画素補正部の記憶部に格納される。この記憶部に格納された欠陥画素データは、撮影時において欠陥画素補正部に参照される。そして、この欠陥画素データのアドレスに位置する画素データが、隣接する同じカラーフィルタの画素データ(画像信号)で補間ないし置換され、欠陥画素補正処理がなされる。
また、前述の黒点欠陥画素や輝点欠陥画素とは別に、暗電流特性が悪い欠陥画素(温度キズ)も存在する。この暗電流特性が悪い欠陥画素とは、通常の1秒程度の露光時間では問題とならないが、露光時間が長くなるに従い暗電流の増加が大きくなる欠陥画素であり、これが画像データに重畳されることで輝点となってしまう。例えば、夜景撮影における長時間露光での撮影で、点々の星状にあらわれるノイズがこの暗電流特性が悪い欠陥画素であり、輝点として画像上にあらわれる。このように、暗電流特性が悪い欠陥画素は常に欠陥画素としてあらわれるものではないので、露光時間等の撮影パラメータによって補正対象とする画素(およびその数)を変更する必要があるため、撮影パラメータに応じた欠陥画素を記憶・格納して補正に用いる。
すなわち欠陥画素は、欠陥画素を予め記憶・格納し、この記憶・格納された欠陥画素に対して撮影毎に同一の処理を行う、或いは撮影パラメータに応じた所定の処理を行うことで、予め把握した欠陥画素を周辺の画素の画像信号で補正することができる(静的欠陥画素補正)。
ところで、欠陥画素には上述の暗電流特性が悪い欠陥画素の例のように、動的に変化する温度欠陥画素が存在する。このような動的に変化する温度欠陥画素に対しては、撮影毎に得られた画像信号の情報(輝度値等)から所定の閾値に基づき各画素を自動判定し、欠陥画素と判定された画素を、当該欠陥画素の周辺の画素の画像信号で補正することができる(動的欠陥画素補正)。
しかしながら、これらの静的欠陥画素補正や動的欠陥画素補正を用いた場合、欠陥画素として記憶・格納された画素、或いは自動判定に基づき欠陥画素とされた画素の周辺も同様に欠陥画素である場合(例えば連続する欠陥画素のような場合)は、補正が正しく行われないという問題があった。
かかる問題に対して例えば特許文献1では、連続する欠陥画素を補正するべく、静的欠陥画素補正を用いて連続する欠陥画素の一部を補正して孤立点(非連続の欠陥画素)とし、次いで、動的欠陥画素補正をすることで、全ての欠陥画素を適正に補正する技術が開示されている。特許文献1によれば、動的欠陥画素補正のみ、あるいは静的欠陥画素補正のみでは充分な補正ができないようなパターンの欠陥画素であっても、これらの双方を用いることにより補正可能としている。
ところが、かかる技術をもってしても、横4連続以上の欠陥画素や、横3連×縦2連続の欠陥画素など、特定のパターンの欠陥画素は充分に補正をすることができないという問題があり、さらなる欠陥画素補正の高精度化が求められている。また、かかる技術では孤立点とした後の補正には動的欠陥画素補正を用いていることから、例えば横3連続の欠陥画素を補正する場合、中心の欠陥画素は補間による補正が行われることが必然であることなどにより良好な解像度が得られない場合があるため、さらなる欠陥画素補正の高精度化が求められている。
本発明は、以上の従来技術における問題に鑑みてなされたものであり、撮像素子の欠陥による欠陥画素を高精度に補正でき、特に3連続あるいは4連続以上の欠陥画素を高精度に補正することができる撮像装置、及び撮像方法を提供することを目的とする。
しかして、上記課題を解決するために本発明に係る撮像装置及び撮像方法は、具体的には下記(1)〜(14)に記載の技術的特徴を有する。
(1):画素列を有する撮像素子と、前記画素列が有する欠陥画素の位置を予め記憶する欠陥画素記憶手段と、前記欠陥画素を補正する欠陥画素補正手段と、を備え、前記画素列は、少なくとも、0番目,1番目,・・・,N−1番目,N番目,N+1番目の順で所定の方向に配列されてなる画素を有し、前記欠陥画素記憶手段は、前記画素列のうち1乃至N番目の画素を欠陥画素とし、前記画素列のうち0番目の画素及びN+1番目の画素を非欠陥画素として、これらを特定欠陥画素パターンとして記憶し、前記欠陥画素補正手段は、前記特定欠陥画素パターンに対して、1乃至N番目のうち1乃至M番目の欠陥画素の欠陥画素の画像信号を前記0番目の非欠陥画素の画像信号で補正し、M+1乃至N番目の欠陥画素の画像信号を前記N+1番目の非欠陥画素の画像信号で補正することを特徴とする撮像装置である。
ただし、Nは3以上の整数であり、Mは1以上N−1以下の整数である。
(2):前記欠陥画素補正手段は、m番目の画素及びm+1番目の欠陥画素を補正対象画素として登録する補正対象画素登録部を有し、且つ、前記m番目の欠陥画素の画像信号をm−1番目の画素の画像信号で補正し、前記m+1番目の欠陥画素の画像信号をm+2番目の画素の画像信号で補正することを特徴とする上記(1)に記載の撮像装置である。
ただし、m=1,2,・・・,N−1である。
(3):前記補正対象画素登録部は、1乃至N番目の欠陥画素において、0番目の非欠陥画素の画像信号またはN+1番目の非欠陥画素の画像信号で補正されていない欠陥画素の中で、当該補正されていない欠陥画素の配列方向両端それぞれに配置されてなる2連続の欠陥画素を補正対象画素として登録し、前記欠陥画素補正手段は、一方の端部に配置されてなる2連続の欠陥画素を補正すると同時に、他方の端部に配置されてなる2連続の欠陥画素を補正することを特徴とする上記(2)に記載の撮像装置である。
(4):前記欠陥画素補正手段は1番目の画素の画像信号から順にM番目の画素の画像信号まで繰り返して補正すると共に、N番目の画素の画像信号から順にM+1番目の画素の画像信号まで繰り返して補正することを特徴とする上記(1)乃至(3)のいずれか1項に記載の撮像装置である。
(5):前記欠陥画素補正手段は、前記画素列の画像信号のうち、前記特定欠陥画素パターンの画像信号を切り出して画像ブロックとし、該画像ブロックに対して補正を行うことを特徴とする上記(1)乃至(4)のいずれか1項に記載の撮像装置である。
(6):前記撮像素子は、複数の画素列を有し、前記欠陥画素補正手段は、前記特定欠陥画素パターンを有する画素列に隣接する他の画素列を参照して前記Mを決定することを特徴とする上記(1)乃至(5)のいずれか1項に記載の撮像装置である。
(7):周辺の画素と比較して輝度値の差が所定の閾値以上であり、単一画素からなる非連続の孤立点を検出し、該孤立点を当該孤立点の周辺の画素で補間して補正を行う動的欠陥画素補正手段をさらに備えることを特徴とする上記(1)乃至(6)のいずれか1項に記載の撮像装置である。
(8):撮像素子を備える撮像装置を用いた撮像方法であって、前記撮像素子は、画素列を有し、該画素列は、少なくとも、0番目,1番目,・・・,N−1番目,N番目,N+1番目の順で所定の方向に配列されてなる画素を含み、前記画素列が有する欠陥画素の位置を予め記憶する欠陥画素記憶工程と、前記欠陥画素を補正する欠陥画素補正工程と、を備え、前記欠陥画素記憶工程は、前記画素列のうち1乃至N番目の画素を欠陥画素とし、前記画素列のうち0番目の画素及びN+1番目の画素を非欠陥画素として、これらを特定欠陥画素パターンとして記憶し、前記欠陥画素補正工程は、前記特定欠陥画素パターンに対して、1乃至N番目の欠陥画素のうち1乃至M番目の欠陥画素の画像信号を前記0番目の非欠陥画素の画像信号で補正し、M+1乃至N番目の欠陥画素の画像信号を前記N+1番目の非欠陥画素の画像信号で補正することを特徴とする撮像方法である。
ただし、Nは3以上の整数であり、Mは1以上N−1以下の整数である。
(9):前記欠陥画素補正工程は、m番目の画素及びm+1番目の欠陥画素を補正対象画素として登録する補正対象画素登録ステップと、前記m番目の欠陥画素の画像信号をm−1番目の画素の画像信号で補正し、前記m+1番目の欠陥画素の画像信号をm+2番目の画素の画像信号で補正する対象画素補正ステップと、を有することを特徴とする上記(8)に記載の撮像方法である。
ただし、m=1,2,・・・,N−1である。
(10):前記補正対象画素登録ステップは、1乃至N番目の欠陥画素において、0番目の非欠陥画素の画像信号またはN+1番目の非欠陥画素の画像信号で補正されていない欠陥画素の中で、当該補正されていない欠陥画素の配列方向両端それぞれに配置されてなる2連続の欠陥画素を補正対象画素として登録し、前記対象画素補正ステップは、一方の端部に配置されてなる2連続の欠陥画素を補正すると同時に、他方の端部に配置されてなる2連続の欠陥画素を補正することを特徴とする上記(9)に記載の撮像方法である。
(11):前記欠陥画素補正工程は、1番目の画素の画像信号から順にM番目の画素の画像信号まで繰り返して補正すると共に、N番目の画素の画像信号から順にM+1番目の画素の画像信号まで繰り返して補正することを特徴とする上記(8)乃至(10)のいずれか1項に記載の撮像方法である。
(12):前記欠陥画素補正工程は、前記画素列の画像信号のうち、前記特定欠陥画素パターンの画像信号を切り出して画像ブロックとし、該画像ブロックに対して補正を行うことを特徴とする上記(8)乃至(11)のいずれか1項に記載の撮像方法である。
(13):前記撮像素子は、複数の画素列を有し、前記欠陥画素補正工程は、前記特定欠陥画素パターンを有する画素列に隣接する他の画素列を参照して前記Mを決定することを特徴とする上記(8)乃至(12)のいずれか1項に記載の撮像方法である。
(14):周辺の画素と比較して輝度値の差が所定の閾値以上であり、単一画素からなる非連続の孤立点を検出し、該孤立点を当該孤立点の周辺の画素で補間して補正を行う動的欠陥画素補正工程をさらに備えることを特徴とする上記(8)乃至(13)のいずれか1項に記載の撮像方法である。
本発明によれば、撮像素子の欠陥による欠陥画素を高精度に補正できる撮像装置、及び撮像方法を提供することができる。
本発明に係る撮像装置の一実施の形態としてのデジタルスチルカメラを示す説明図であり、(a)は正面図であり、(b)は上面図であり、(c)は背面図である。 図1のデジタルスチルカメラのシステム構成の概要を示すブロック図である。 単一の欠陥画素における静的欠陥画素補正の一例を説明するための説明図である。 水平方向に2連続した欠陥画素における静的欠陥画素補正の一例を説明するための説明図である。 水平方向に3連続した欠陥画素における静的欠陥画素補正の一例を説明するための説明図である。 水平方向に3連続した欠陥画素における静的欠陥画素補正のその他の一例を説明するための説明図である。 水平方向に4連続した欠陥画素における静的欠陥画素補正の一例を説明するための説明図である。 水平方向に4連続した欠陥画素における静的欠陥画素補正のその他の一例を説明するための説明図である。 水平方向に4連続した欠陥画素における静的欠陥画素補正のさらにその他の一例を説明するための説明図である。 水平方向に5連続した欠陥画素における静的欠陥画素補正の一例を説明するための説明図である。 水平方向に5連続した欠陥画素における静的欠陥画素補正のその他の一例を説明するための説明図である。 連続欠陥画素の補正のフローチャートである。 3連続した欠陥画素を補正する際に全画素データを用いた場合の処理フローを示す説明図である。 3連続した欠陥画素を補正する際に切り出した画素ブロックを用いた場合の処理フローを示す説明図である。
本発明に係る撮像装置は、画素列を有する撮像素子と、前記画素列が有する欠陥画素の位置を予め記憶する欠陥画素記憶手段と、前記欠陥画素を補正する欠陥画素補正手段と、を備え、前記画素列は、少なくとも、0番目,1番目,・・・,N−1番目,N番目,N+1番目の順で所定の方向に配列されてなる画素を有し、前記欠陥画素記憶手段は、前記画素列のうち1乃至N番目の画素を欠陥画素とし、前記画素列のうち0番目の画素及びN+1番目の画素を非欠陥画素として、これらを特定欠陥画素パターンとして記憶し、前記欠陥画素補正手段は、前記特定欠陥画素パターンに対して、1乃至N番目のうち1乃至M番目の欠陥画素の欠陥画素の画像信号を前記0番目の非欠陥画素の画像信号で補正し、M+1乃至N番目の欠陥画素の画像信号を前記N+1番目の非欠陥画素の画像信号で補正することを特徴とする。
ただし、Nは3以上の整数であり、Mは1以上N−1以下の整数である。
また本発明に係る撮像方法は、撮像素子を備える撮像装置を用い、前記撮像素子は、画素列を有し、該画素列は、少なくとも、0番目,1番目,・・・,N−1番目,N番目,N+1番目の順で所定の方向に配列されてなる画素を含み、前記画素列が有する欠陥画素の位置を予め記憶する欠陥画素記憶工程と、前記欠陥画素を補正する欠陥画素補正工程と、を備え、前記欠陥画素記憶工程は、前記画素列のうち1乃至N番目の画素を欠陥画素とし、前記画素列のうち0番目の画素及びN+1番目の画素を非欠陥画素として、これらを特定欠陥画素パターンとして記憶し、前記欠陥画素補正工程は、前記特定欠陥画素パターンに対して、1乃至N番目の欠陥画素のうち1乃至M番目の欠陥画素の画像信号を前記0番目の非欠陥画素の画像信号で補正し、M+1乃至N番目の欠陥画素の画像信号を前記N+1番目の非欠陥画素の画像信号で補正することを特徴とする。
ただし、Nは3以上の整数であり、Mは1以上N−1以下の整数である。
次に、本発明に係る撮像装置及び撮像方法についてさらに詳細に説明する。
尚、以下に述べる実施の形態は、本発明の好適な実施の形態であるから技術的に好ましい種々の限定が付されているが、本発明の範囲は以下の説明において本発明を限定する旨の記載がない限り、これらの態様に限られるものではない。
《第1の実施の形態》
先ず、本発明における欠陥画素の補正に関する処理及び構成を説明するに先立ち、本発明に係る撮像装置の一実施の形態としてのデジタルスチルカメラの構成について以下に図面を参照して詳細に説明する。
<デジタルスチルカメラ>
図1は、本発明に係る撮像装置の一実施の形態としてのデジタルスチルカメラ(以下、「デジタルカメラ1」という)を示す説明図であり、(a)は正面図であり、(b)は上面図であり、(c)は背面図である。図2は、図1のデジタルカメラ1のシステム構成の概要を示すブロック図である。
(デジタルカメラの外観構成)
本実施の形態のデジタルカメラ1では、図1に示すように、上面側に、レリーズボタン(シャッタボタン)2、電源ボタン3、撮影・再生切替ダイアル4が設けられ、正面(前面)側に、撮影レンズ系5を有する鏡胴ユニット6、ストロボ発光部(フラッシュ)7、光学ファインダ8が設けられている。
また、デジタルカメラ1では、背面側に、液晶モニタ(LCD)9、前記光学ファインダ8の接眼レンズ部8a、広角側ズーム(W)スイッチ10、望遠側ズーム(T)スイッチ11、メニュー(MENU)ボタン12、確定ボタン(OKボタン)13等が設けられている。このデジタルカメラ1の側面内部には、撮影した画像データを保存するためのメモリカード14(図2参照)を収納するメモリカード収納部15が設けられている。なお、本発明に係る撮像装置の外観は、必ずしも本実施の形態に限定されるものではなく、他の外観を備えていてもよい。
(デジタルカメラのシステム構成)
デジタルカメラ1は、図2に示すように、鏡胴ユニット6の撮影レンズ系5を通して入射される被写体画像が受光面上に結像する固体撮像素子としてのCCD(charge coupled device)20、CCD20から出力される電気信号(アナログRGB画像信号)をデジタル信号に処理するアナログフロントエンド部21(以下、「AFE部21」という)、AFE部21から出力されるデジタル信号を処理する信号処理部22、データを一時的に格納するSDRAM23、制御プログラム等が記憶されたROM24、鏡胴ユニット6を駆動するモータドライバ25、後述する制御部28が適宜データを格納および読み出すことが可能とされたメモリとしてのRAM44等を備えている。
撮影レンズ系5は、ズームレンズやフォーカスレンズ等を有する。鏡胴ユニット6は、撮影レンズ系5、絞りユニット26、メカシャッタユニット27を有し、その撮影レンズ系5、絞りユニット26、メカシャッタユニット27の各駆動ユニットは、モータドライバ25によって駆動される。モータドライバ25は、信号処理部22の制御部(CPU)28からの駆動信号により駆動制御される。
CCD20は、結像された被写体像を電気信号(画像データ、画像信号)に変換して出力する固体撮像素子である。このCCD20は、受光面全体が画素(ピクセル)と呼ばれる格子状の領域(以下、画素20aともいう)に分割されていて、デジタルデータである画素データの集合で構成される画像データを、電気信号として出力する。CCD20では、分割された各領域(画素)にベイヤー配列を構成するように色フィルタ(RGB、CYM等)が設けられており、本実施の形態では、ベイヤー配列のRGB原色フィルタ(以下、「RGBフィルタ」という)が配置されている。このため、CCD20は、各画素20aからRGB3原色に対応した電気信号(アナログRGB画像信号)を出力する。なお、CCD20は、固体撮像素子としてのCMOS型イメージセンサ等で構成することもできる。
AFE部21は、CCD20を駆動するTG(タイミング信号発生部)30、CCD20から出力される電気信号(アナログRGB画像信号)をサンプリングするCDS(相関2重サンプリング部)31、CDS31にてサンプリングされた信号のゲインを調整するAGC(アナログ利得制御部)32、AGC32でゲイン調整された信号をデジタル信号(以下、「RAW−RGBデータ」という)に変換するA/D変換部33を有する。
信号処理部22は、CCDインターフェース(以下、「CCDI/F」という)34と、メモリコントローラ35と、YUV変換部36と、リサイズ処理部37と、表示出力制御部38と、データ圧縮部39と、メディアインターフェース(以下、「メディアI/F」という)40と、欠陥画素補正部42と、制御部(CPU)28と、を有する。
CCDI/F34は、AFE部21のTG30へ画面水平同期信号(HD)と画面垂直同期信号(VD)の出力を行い、これらの同期信号に合わせて、AFE部21のA/D変換部33から出力されるRAW−RGBデータを取り込む。メモリコントローラ35は、SDRAM23を制御する。YUV変換部36は、CCDI/F34にて取り込んだRAW−RGBデータを、表示や記録が可能なYUV形式の画像データに変換する。リサイズ処理部37は、表示や記録される画像データのサイズに合わせて画像サイズを変更する。表示出力制御部38は、画像データの表示出力を制御する。データ圧縮部39は、画像データをJPEG形式等で記録させるべくデータの変換を行う。メディアI/F40は、画像データをメモリカード14へ書き込み、またはメモリカード14に書き込まれた画像データを読み出す。欠陥画素補正部42は、CCD20にて取得された画像データ(画像信号)が、信号処理部22内を伝播する過程において、欠陥画素の補正を行うものである。この欠陥画素の補正については、後に詳述する。制御部28は、操作部41からの操作入力情報等に応じて、ROM24に記憶された制御プログラムに基づいてデジタルカメラ1全体のシステム制御等を行う。
操作部41は、デジタルカメラ1の外観表面に設けられているレリーズボタン2、電源ボタン3、撮影・再生切替ダイアル4、広角側ズームスイッチ10、望遠側ズームスイッチ11、メニューボタン12、確定ボタン13等(図1参照)であり、撮影者の操作に応じた所定の動作指示信号が制御部28に入力される。
SDRAM23には、CCDI/F34に取り込まれたRAW−RGBデータが保存されるとともに、YUV変換部36で変換処理されたYUVデータ(YUV形式の画像データ)が保存され、加えて、データ圧縮部39で圧縮処理されたJPEG形成などの画像データが保存される。なお、このYUVデータとは、輝度データ(Y)と、輝度データと青色(B)成分データの差分である色差(U)と、輝度データと赤色(R)成分データの差分である色差(V)の情報で色を表現する形式である。
(デジタルカメラのモニタリング動作、静止画撮影動作)
次に、前記したデジタルカメラ1のモニタリング動作と静止画撮影動作について説明する。このデジタルカメラ1は、静止画撮影モード時には、以下に説明するようなモニタリング動作を実行しながら静止画撮影動作が行われる。
先ず、撮影者が電源ボタン3をONし、撮影・再生切替ダイアル4を撮影モードに設定することで、デジタルカメラ1が記録モードで起動する。制御部28は、電源ボタン3がONされて、撮影・再生切替ダイアル4が撮影モードに設定されたことを検知すると、モータドライバ25に制御信号を出力して、鏡胴ユニット6を撮影可能位置に移動させ、かつ、CCD20、AFE部21、信号処理部22、SDRAM23、ROM24、液晶モニタ9等を起動させる。
そして、鏡胴ユニット6の撮影レンズ系5が被写体に向けられることにより、撮影レンズ系5を通して入射される被写体画像がCCD20の各画素の受光面上に結像する。次いで、CCD20から出力される被写体画像に応じた電気信号(アナログRGB画像信号)は、CDS31、AGC32を介してA/D変換部33に入力され、A/D変換部33により12ビット(bit)のRAW−RGBデータに変換される。
このRAW−RGBデータは、信号処理部22のCCDI/F34に取り込まれてメモリコントローラ35を介してSDRAM23に保存される。そして、SDRAM23から読み出されたRAW−RGBデータは、YUV変換部36でYUVデータ(YUV信号)に変換された後に、メモリコントローラ35を介してSDRAM23にYUVデータとして保存される。
そして、SDRAM23からメモリコントローラ35を介して読み出されるYUVデータは、表示出力制御部38を介して液晶モニタ(LCD)9へ送られ、液晶モニタ(LCD)9において撮影画像が表示される。その液晶モニタ(LCD)9に撮影画像を表示しているモニタリング時においては、CCDI/F34による画素数の間引き処理により1/30秒の時間で1フレームが読み出されている。このため、AFE部21および信号処理部22は、制御部28の制御下で画像生成手段として機能する。
なお、このモニタリング動作時は、電子ファインダとして機能する液晶モニタ(LCD)9に撮影画像が表示されているだけで、まだレリーズボタン2が押圧(半押も含む)操作されていない状態である。
この撮影画像の液晶モニタ(LCD)9への表示によって、撮影者は、静止画を撮影するための構図の確認等を行うことができる。なお、デジタルカメラ1では、表示出力制御部38からTVビデオ信号として出力して、ビデオケーブルを介して図示しない外部のTV(テレビ)に撮影画像を表示することもできる。
撮影はシャッタボタン2の押下によって行なわれる。撮影に先立ち画角を調整する必要があるときは、撮影者は広角側ズームスイッチ10、望遠側ズームスイッチ11を操作し、撮影レンズ系5が備えるズームレンズをズーミングさせて画角を調整する。
シャッタボタン2が半押しされると、CPU28はAE/AF処理を実施し、絞り値とシャッタスピードを決定し、これに従い絞りユニット26、メカシャッタユニット27が制御され適正な露光量が得られる。
この後、撮影者はシャッタボタン2を押し切ると、CPU28は、撮影、記録処理を開始する。すなわち、CPU28は絞りユニット26、メカシャッタユニット27を制御してCCD20の露光時間を制御することにより、CCD20を露光する。
CCD20から出力された画像信号は、上述したモニタリング動作の際と同様の処理により、YUVデータとしてSDRAM23に格納される。(このとき、欠陥画素補正部42は、CCD20にて取得された画像データが、信号処理部22内を伝播する過程において、欠陥画素の補正を行う。この詳細については後述する)
SDRAM23に格納されたYUVデータは、データ圧縮部39により、所定の圧縮フォーマット(たとえばJPEG形式)に従って圧縮された後、再びSDRAM23に格納され、所定の画像記録フォーマットの画像ファイルとされたのち、メモリカード14に記録され、撮像動作を終了する。
また、以上のようにしてメモリカード14に記録された画像は、LCD9で再生表示させることができる。
(欠陥画素補正)
次に、本発明における欠陥画素の補正に関する処理及び構成を説明する。
・欠陥画素
デジタルカメラ1に使用される撮像素子としてのCCD20には、通常よりレベルが低い信号を出力する黒点欠陥画素や、通常よりレベルが高い信号を出力する輝点欠陥画素がある。また、黒点欠陥画素や輝点欠陥画素とは別に、暗電流特性が悪い欠陥画素(温度キズ)も存在する。これらの欠陥画素は、一般的に300万画素の撮像素子に対して60個程度であり、個々の不良画素のアドレスを当該デジタルカメラ1に記憶しておくことができる。
本発明では、黒点欠陥画、素輝点欠陥画素、暗電流特性が悪い欠陥画素、等の撮像素子(CCD)20を起因として欠陥が生じる画素を、欠陥画素と称する。また本発明では、この欠陥画素以外の画素(正常な画素)を非欠陥画素と称する。
・欠陥画素検出/記憶方法(欠陥画素記憶手段)
欠陥画素を備えるCCDを使用するデジタルスチルカメラでは、その欠陥画素のCCD上の縦横座標(アドレス、位置)等の欠陥画素データが、予め当該デジタルスチルカメラに設けられた欠陥画素補正部42の記憶部43に欠陥画素記憶手段によって格納される。この記憶部43に格納された欠陥画素データは、撮影時において欠陥画素補正部42に参照される。
〔黒点欠陥画素・輝点欠陥画素の記憶〕
常温で発生する欠陥画素(黒点欠陥画素・輝点欠陥画素)の検出/記憶は、例えば以下の方法で行うことができる。
8bit(256階調)で表現されるYUVデータにおいて、AEの評価値(輝度値)が128程度となる画像全体で均一な被写体(例えばライトボックスを被写体として、デジタルカメラ1側で露光時間やISO感度を調整することでAE評価値を制御する)を撮影した画像から行う。画像を構成する全画素の輝度値について、所定の黒点閾値を下回る画素を黒点欠陥画素、(黒点閾値とは別の)所定の輝点閾値を上回る画素値を持つ画素を輝点欠陥画素と判定する。そして、画像全体から検出された欠陥画素(黒点欠陥画素・輝点欠陥画素)が欠陥画素記憶手段によって記憶部43に記憶される。
〔暗電流特性が悪い欠陥画素の記憶〕
また、暗電流特性が悪い欠陥画素(温度キズ)の検出/記憶は、例えば以下の方法で行うことができる。
遮光して撮影した真黒画像に対して行う。特定の閾値を上回る画素値を持つ画素を欠陥画素と判定する。そして、画像全体から検出された欠陥画素(暗電流特性が悪い欠陥画素)が欠陥画素記憶手段によって記憶部43に記憶される。
・特定欠陥画素パターン
そして本発明では、連続した欠陥画素を補正することができるものであり、特に、詳細を後述する欠陥画素補正手段により3連続以上あるいは4連続以上の連続した欠陥画素を補正することができる。
ここで本発明では、所定の方向に画素が配列されてなる画素列において、欠陥画素がN連続してなり、その両端に隣接した画素が非欠陥画素であるもの(N+2個の画素のパターン)を、特定欠陥画素パターンとする。ただし、Nは3以上の整数であり、特に従来の欠陥画素補正では適正な補正が行われない4以上の整数であっても構わない。
換言すると、特定欠陥画素パターンとは、3連続以上の欠陥画像が非欠陥画像に挟まれた状態で配列されてなる、画素列の一部または全部におけるパターンである。
なお、画素列は、本実施の形態では図示の例において水平方向に配列してなるものであるが、本発明はかかる形態に限られるものではなく、任意の方向に配列してなる形態であっても良い。説明を簡略化するために水平方向のみの例について述べるが、例えば垂直方向に配列した画素列であっても、本実施の形態と同様の技術的思想により本発明の効果を奏するべく実施できることは言うまでもない。
ところで、前述した欠陥画素の検出/記憶において、欠陥画素の記憶の際に必要となるのは画像上(あるいはCCD20上)の欠陥画素の位置(欠陥画素データにおけるアドレス)情報である。つまり、撮影された画像中の座標であるので、欠陥画素を検出した時点でその位置座標は既知であるから、検出された各々の欠陥画素について、互いにその位置座標を比較することで、それが連続欠陥画素であるか、また連続欠陥画素であった場合、それが何連続の連続欠陥画素であるかの情報を知ることができる。
従って、欠陥画素記憶手段により記憶された欠陥画素データにおけるアドレスを参照することで、特定欠陥画素パターンを判定することができる。
・欠陥画素補正(静的欠陥画素補正)
次いで、記憶部43に記憶された欠陥画素データのアドレスに位置する画素データ(画像信号)が、隣接する同じカラーフィルタの画素データ(画像信号)で補正されることで欠陥画素補正処理がなされる。
すなわち欠陥画素は、欠陥画素を予め記憶・格納し、この記憶・格納された欠陥画素に対して撮影毎に詳細を後述する欠陥画素補正手段により、同一の処理を行う、或いは撮影パラメータに応じた所定の処理を行うことで、予め把握された欠陥画素の画像信号を周辺の画素の画像信号で補正することができる(静的欠陥画素補正)。
・静的欠陥画素補正の具体例(欠陥画素補正手段)
RGBまたはYUV形式の入力画像信号に対して、欠陥画素補正手段により静的欠陥画素補正を繰り返し行うことで3連続以上の連続した欠陥画素は補正することができる。
〔単一の欠陥画素、2連続した欠陥画素(従来における静的欠陥画素補正)〕
図3に単一の欠陥画素における静的欠陥画素補正の一例を説明するための説明図を示す。また、図4に水平方向に2連続した欠陥画素における静的欠陥画素補正の一例を説明するための説明図を示す。
静的欠陥画素の補正は、単一の欠陥画素N1の補正の場合、水平方向に隣接した非欠陥画素(正常な画素)N0,N2を参照画素として画像信号を補間または置換することで行う(図3;但し、図示の例は補間である)。
また、水平方向に2連続する欠陥画素N1,N2の補正の場合、水平方向に隣接した非欠陥画素(正常な画素)N0,N3を参照画素として、画像信号を置換することで行う(図4)。
なお、水平方向に非欠陥画素と欠陥画素とが連続した場合における静的欠陥画素補正について述べたが、これは単なる一例であり水平方向に限られるものではない。即ち、任意の方向に非欠陥画素と欠陥画素とが連続した場合においても同様の手法により静的欠陥画素補正を行うことができる。なお、以下に示す3連続以上の欠陥画素の例においても同様である。
図3に示す例では、単一の欠陥画素N1に対して、両隣の非欠陥画素N0,N2が配置されてなるので、これらの画像信号の補間により単一の欠陥画素N1を補間して補正しても良く、あるいは両隣の非欠陥画素N0,N2のうちの一方の画像信号を置換することにより補正しても良い。
図4に示す例では、2連続する欠陥画素N1,N2に対して、これを挟む位置に非欠陥画素N0,N3が配置されてなるので、2連続する欠陥画素N1,N2のそれぞれが隣接する非欠陥画素N0,N3のうちの一方の画像信号を置換することにより補正する。(欠陥画素N1には非欠陥画素N0の画像信号を、欠陥画素N2には非欠陥画素N3の画像信号を置換する。)
このとき、置換による補正に換えて補間による補正を行った場合、例えば欠陥画素N1は、非欠陥画素N0と欠陥画素N2との補間による補正が行われるため、好ましくない。
〔3連続した欠陥画素〕
図5に水平方向に3連続した欠陥画素における静的欠陥画素補正の一例を説明するための説明図を示す。
例えば、図5では、従来における静的欠陥画素補正では可能な2連続した欠陥画素の補正、従来における静的欠陥画素補正では不可能な3連続した欠陥画素の補正を考える。
先ず、最初の補正処理時に、左側の2連続した欠陥画素(N1,N2)を補正対象画素登録部により登録(補正対象画素と)する。すると、欠陥画素N1はその左に隣接する非欠陥画素N0の画像信号で置換され、欠陥画素N2は欠陥画素N3の画像信号で置換される(step5−1)。
次に、2回目の補正処理時に、残る2連続欠陥画素を補正対象画素登録部により登録(補正対象画素と)する。すると、欠陥画素N2(既に欠陥画素N3で置換されている)はその左に隣接する画素(非欠陥画素N0で補正された欠陥画素N1)の画像信号で置換され、欠陥画素N3はその右に隣接する非欠陥画素N4の画像信号で置換される(step5−2)。
このように、同色3連続した欠陥画素(N1〜N3)に対して、2連続の欠陥画素補正処理(置換)を2回行うことによって、3連続した欠陥画素の補正を実現する。
一方、図6に水平方向に3連続した欠陥画素における静的欠陥画素補正のその他の一例を説明するための説明図を示す。
同じ3連続した欠陥画素の補正でも、図6の順番で補正対象画素を登録する方法もあり、補正結果も異なるので、結果の解像度を意識してどちらかの補正手法を選ぶこともできる。
この補正対象画素を登録する順番は、N0〜N4の欠陥画素を備える画素列に対して図5,図6に示す方向における上下に配置されてなる別の画素列の輝度値を参照して選択することが好ましく、選択の如何により静的画像欠陥補正処理後の画像の解像度が変化する。
〔4連続した欠陥画素〕
次に、図7に水平方向に4連続した欠陥画素における静的欠陥画素補正の一例を説明するための説明図を示す。
図7では、先ず、4連続した欠陥画素(N1,N2,N3,N4)のうち、左側の2つの欠陥画素(N1,N2)を補正対象画素登録部により登録(補正対象画素と)する。
すると、第1の欠陥画素補正処理によって、欠陥画素N1はその左に隣接する非欠陥画素N0の画像信号で置換され、欠陥画素N2は欠陥画素N3の画像信号で置換される(step7−1)。
第1の欠陥画素補正処理後には3連続の欠陥画素(N2,N3,N4)が残る。残った3連続した欠陥画素(N2,N3,N4)については、前述の3連続した欠陥画素の補正方法を適応すれば良い(step7−2,step7−3)。
また、図8に水平方向に4連続した欠陥画素における静的欠陥画素補正のその他の一例を説明するための説明図を示す。さらに、図9に水平方向に4連続した欠陥画素における静的欠陥画素補正のさらにその他の一例を説明するための説明図を示す。
図7と比較するとわかるように、4連続した欠陥画素を補正する際、補正対象画素登録部により登録する補正対象画素の順番を変えることによって、補正結果を変えることができる。
図7に示す例では、欠陥画素N1〜N3が非欠陥画素N0で置換され、欠陥画素N4が非欠陥画素N5で置換されてなるのに対して、図8に示す例では、欠陥画素N1が非欠陥画素N0で置換され、欠陥画素N2〜N4が非欠陥画素N5で置換されてなり、図9に示す例では、欠陥画素N1、N2が非欠陥画素N0で置換され、欠陥画素N3、N4が非欠陥画素N5で置換されてなる。
図7及び図8に示す例では補正された欠陥画素N1〜N4のうち、正常な画素(非欠陥画素N0,N5)での置き換えの割合が左右アンバランス(3:1あるいは1:3)なのに対して、図9に示す例ではバランスよく補正されている(2:2)。
連続した欠陥画素の補正時に、各ステップで登録する欠陥画素の順番を制御することで、補正後の画像の解像度をある程度調整することも可能である。解像度には輝度値を参照することが好ましいことは、上述した3連続した欠陥画素における静的欠陥画素補正処理の場合と同様である。
〔5連続した欠陥画素〕
次に、図10に水平方向に5連続した欠陥画素における静的欠陥画素補正の一例を説明するための説明図を示す。
図10では、先ず、5連続した欠陥画素(N1,N2,N3,N4,N5)のうち、左側の2つの欠陥画素(N1,N2)を補正対象画素登録部により登録(補正対象画素と)する。
すると、第1の欠陥画素補正処理によって、欠陥画素N1はその左に隣接する非欠陥画素N0の画像信号で置換され、欠陥画素N2は欠陥画素N3の画像信号で置換される(step10−1)。
第1の欠陥画素補正処理後には4連続の欠陥画素(N2,N3,N4,N5)が残る。残った4連続した欠陥画素(N2,N3,N4,N5)については、前述の4連続した欠陥画素の補正方法を適応すれば良い(step10−2,step10−3,step10−4)。
また、図11に水平方向に5連続した欠陥画素における静的欠陥画素補正のその他の一例を説明するための説明図を示す。
5連続(あるいは5連続以上の場合も同様)の欠陥画素の場合は、第1の欠陥画素補正時に、5連続の欠陥画素の左側の2連続した欠陥画素(N1,N2)と右側の2連続した欠陥画素(N4,N5)とのいずれも一括して補正対象画素登録部により登録(補正対象画素と)することができる(図11 step11−1)。
すると、第1の欠陥画素補正処理によって、欠陥画素N1はその左に隣接する非欠陥画素N0の画像信号で置換され、欠陥画素N2は欠陥画素N3の画像信号で置換されると共に、欠陥画素N5はその右に隣接する非欠陥画素N6の画像信号で置換され、欠陥画素N4は欠陥画素N3の画像信号で置換される(step11−1)。この結果、3連続した欠陥画素(N2,N3,N4)が残る。残った3連続した欠陥画素(N2,N3,N4)については、前述の3連続した欠陥画素の補正方法を適応すれば良い(step11−2,step11−3)。
図10に示した例と比べて、1ステップ少ない処理で5連続した欠陥画素(N1,N2,N3,N4,N5)の補正が可能である。
また、5連続した欠陥画素の場合も、3連続した欠陥画素の補正、4連続した欠陥画素の補正と同様に、登録の順番を変えることによって補正結果の解像度を制御することができる。
〔N連続した欠陥画素〕
また、同様の処理の繰り返しで6連続以上の連続欠陥画素の補正も可能である。
即ち、N連続した欠陥画素と一般化した場合について以下に述べる。ただし、Nは3以上の整数であり、従来の欠陥画素補正では適正な補正が行われない4以上の整数であっても良い。
撮像素子(CCD20)は、所定の方向に配列されてなる画素を有する画素列を複数有してなる。このとき画素列は0番目,1番目,・・・,N−1番目,N番目,N+1番目の順で配列されてなる画素を有し、0番目とN+1番目の画素が欠陥画素ではない非欠陥画素(正常な画素)であり、1乃至N番目の画素はいずれも欠陥画素である。
欠陥画素記憶手段は、画素列のうち1乃至N番目の画素をいずれも欠陥画素であると記憶し、画素列のうち0番目とN+1番目の画素は非欠陥画素として記憶している(欠陥画素とは記憶していない)。換言すると、これら欠陥画素及び非欠陥画素を、上述した特定欠陥画素パターンとして記憶してなる。
欠陥画素補正手段は、欠陥画素を補正するものであり、特定欠陥画素パターンの補正も可能とするものである。このとき、特定欠陥画素パターンが存在しない場合、特定欠陥画素パターンに対する補正(繰り返し置換を行う静的欠陥画素補正処理)は行わない。
そして欠陥画素補正手段は、特定欠陥画素パターンに対して、1乃至N番目の欠陥画素のうち1乃至M番目の欠陥画素の画像信号を0番目の非欠陥画素の画像信号で補正し、M+1乃至N番目の欠陥画素の画像信号をN+1番目の非欠陥画素の画像信号で補正する。ただし、Nは3以上の整数であり、Mは1以上N−1以下の整数である。また、Nは4以上であっても良い。
欠陥画素補正手段についてより詳しくは、m番目の画素及びm+1番目の欠陥画素を補正対象画素として登録する補正対象画素登録部を有し、且つ、m番目の画素の画像信号をm−1番目の画素の画像信号で補正し、m+1番目の画素の画像信号をm+2番目の画素の画像信号で補正する。ただし、m=1,2,・・・,N−1である。
即ち、Mは1以上N−1以下の整数の中のいずれかであるに対して、mは1乃至N−1の整数の全てを表すものである。従って、欠陥画素補正手段は、m=1の場合,m=2の場合,…,m=Mの場合,…,m=N−1の場合何れについても補正を行うものである。
このとき、本発明の効果を奏するべく、mは1から順に1ずつ増やしながら補正処理を行うと共に、N−1から順に1ずつ減らしながら補正処理を行うものであることは言うまでもない。従って、補正対象画素として登録した2連続の欠陥画素のいずれも欠陥画素で置換する処理は行われず、また、非欠陥画素を補正対象画素として登録する処理も行われない。
換言すると、このとき欠陥画素補正手段は、1番目の画素から順にM番目の画素まで繰り返して補正すると共に、N番目の画素から順にM+1番目の画素まで繰り返して補正する。
また、例えば1番目の欠陥画素と2番目の欠陥画素とを補正対象画素として登録すると共に、N番目の欠陥画素とN−1番目の欠陥画素とを補正対象画素として登録し、1stepで同時に静的欠陥画素補正処理を行うこととしても良い。即ち本発明は、1〜N番目の欠陥画素の補正の際に、置換による補正を行っていない欠陥画素(非欠陥画素による置換が行われていない欠陥画素)に対して、両端にある2連続の欠陥画素をそれぞれ補正対象画素として登録して、同時に置換補正することを妨げるものではない。ただし、4連続した欠陥画素に対する静的欠陥画素補正の場合、両端にある2連続の欠陥画素をそれぞれ補正対象画素として登録すると、補正対象画素同士が隣り合うことになり、補正対象画素同士の画像信号を置換することとなるため好ましくない。換言すると、5連続以上の欠陥画素に対しては、両端にある2連続の欠陥画素をそれぞれ補正対象画素として登録して、同時に置換補正してもよく、補正の処理速度が向上する。
なお、両端にある2連続の欠陥画素をそれぞれ補正対象画素として登録することで補正の処理速度は向上するが、解像度に関しては前述のごとく登録の順番を変えることによって補正結果の解像度を制御することができるものであるため、補正の処理速度向上と解像度向上とが一致するとは限らない。つまり解像度の向上は、特定欠陥画素パターンを備える画素列の配列方向に平行な画素列であり、隣り合うものの輝度値を参照して、適宜登録の順番を変えて、前記した(M:N−M)の比率を制御することで可能となる。
・静的欠陥画素補正処理のフロー
図12に連続欠陥画素の補正のフローチャートを示す。
説明を簡単にするために、4連続した欠陥画素を補正する場合を考える。
先ず、検出時(欠陥画素パターン判定時)に保持(記憶)していた連続欠陥画素の連続数、ここでは「4連続」を取得する(S1)。次に、登録(補正)する座標(補正対象画素の位置)を取得する(S2)。前述した通り、登録する座標の順番により補正後の画像の解像度を制御できるので、ここでは目的とする補正結果に基づいて補正対象画素登録部により登録する座標を取得する。そして、取得した登録座標に基づき補正対象画素を補正し(S3)、S1で取得した連続数に基づき、連続欠陥画素中の全ての欠陥画素が補正されたかを判定する(4連続した欠陥画素の補正は、図7,図8及び図9に示すように、最低でも3ステップの補正処理が必要となる)(S4)。補正が完了していない場合は、登録座標を変えて補正を行うという処理を、全ての欠陥画素が補正されるまで行う。
・動的欠陥画素補正
なお、本実施の形態では上述した静的欠陥画素補正に加えて、動的欠陥画素補正を備えるものとしても良い。
暗電流特性が悪い欠陥画素の補正については次のように動的に検出/登録(記憶)した後、補正する方法もある。
RGBまたはYUV形式の入力画像信号に対して、周辺の輝度値と比較して、レベルが高い、もしくは低い非連続で単一の画素(以下、孤立点とも称する。)を検出し、水平方向と垂直方向にそれぞれ隣接する画素を参照画素とし、これらの輝度値から補間をして補正を行う。
孤立点の検出は、周辺画素との輝度値の差について、所定の閾値を超えるか否かで判断される。閾値の設定は可能であり、例えば閾値を低くすることによって欠陥画素の影響で発生した孤立点を可能な限り検出することができるが、過補正による画質の低下などが懸念される。また、補正時は周辺の画素を参照して行うため、孤立点の補正のために参照する隣接する画素中に孤立点が多数存在した場合、補正が不可能になるといった問題がある。
一方、閾値を高くすることによって過補正による画質の低下を防ぐことができるが、欠陥画素の影響で発生した孤立点を充分に検出することができずに、補正不足による画質の低下などが懸念される。
したがって、最終的に孤立点の検出の閾値をどの程度に設定するかは慎重に決定する必要がある。
《第2の実施の形態》
次に、本発明に係る撮像装置の第2の実施の形態について説明する。なお、以下に述べる特定欠陥画素パターンに対する補正の要否を判定する形態以外は上述した第1の実施の形態と説明が重複するため省略する。
連続欠陥画素の発生は、高ISO感度や長秒時撮影時など欠陥画素が発生し易い撮影条件で起き易い。
一方、前述した特定欠陥画素パターンに対する補正(連続欠陥画素の補正)は通常より欠陥画素補正処理を多く実行(繰り返し実行)するので、その分処理時間が余分に必要となる(10M画像で約70ms)。
ここで、特定欠陥画素パターンに対する補正は静的欠陥画素補正で行う。前述した通り、欠陥画素の撮像素子(CCD)20上の縦横座標を予め撮像装置(デジタルスチルカメラ)内の記憶領域(記憶部)に格納しておく必要がある。この時、連続欠陥画素(特に、特定欠陥画素パターン)が発生し易い、高ISO・長秒時撮影などで撮影した画像から欠陥画素を検出し、欠陥画素の座標(位置)を撮像装置内の記憶領域に登録する際、同時に特定欠陥画素パターンに対する補正が必要か否かの情報も保持しておく。(撮像素子20によっては特定欠陥画素パターンが発生しないものもあるはずであるため。)
特定欠陥画素パターンに対する補正の処理には通常時に比べて約70ms余分な時間を要するため、補正時は特定欠陥画素パターンに対する補正の要否情報と撮影条件(ISO感度や長秒時設定)を参照し、特定欠陥画素パターンに対する補正処理の有無を切り替える。
即ち、撮影条件(ISO感度や長秒時設定)を参照し、特定欠陥画素パターンの判定を行い、特定欠陥画素パターンがないと判定した場合、特定欠陥画素パターンに対する補正(繰り返し置換を行う静的欠陥画素補正処理)は行わないものとする。
《第3の実施の形態》
次に、本発明に係る撮像装置の第3の実施の形態について説明する。なお、以下に述べる特定欠陥画素パターンに対する補正における画像ブロックの切り出しにかかる形態以外は上述した第1の実施の形態と説明が重複するため省略する。
図13は3連続した欠陥画素を補正する際に全画素データを用いた場合の処理フローを示す説明図である。
これまで、特定欠陥画素パターンに対する補正には同一画像に対して複数回の静的欠陥画素補正処理を行う形態について述べたが、かかる形態で懸念されるのが処理時間である。欠陥画素補正部に2枚分の画像データを入力することを考えた場合、3連続した欠陥画素を補正する際は、補正しないときと比較して単純に約2倍の処理時間が必要となることが容易に考えられる(図13)。
一方、特定欠陥画素パターン(連続する欠陥画素とその補正のために参照する非欠陥画素を含む)の画像ブロックを画像データ全体から切り出し、切り出した画像ブロックを1つの画像として、欠陥画素補正部への入力とした場合を考える。欠陥画素補正部が補正を行うのに必要な処理時間は、欠陥画素補正部への入力画像データのサイズによるので、全画像データを入力とした場合と比べると、画像ブロックを入力とした場合の処理時間はほとんど問題にならないレベルだと言える。図14は3連続した欠陥画素を補正する際に切り出した画素ブロックを用いた場合の処理フローを示す説明図である。
ところで、静的欠陥画素補正の手法では、単一欠陥画素の補正は水平方向に隣接した正常な画素を参照画素として補間または置換することで行う(図3)。また、水平に2連続した欠陥画素の補正も水平方向の隣接画素を参照画素として、置換することで行う(図4)。また、補正に用いる参照画素は水平方向に隣接する画素のみなので、垂直方向に連続する欠陥画素は考慮する必要がない。
以上のことから、水平方向の特定欠陥画素パターンの補正は、補正対象の連続欠陥画素と補正のための参照画素(非欠陥画素)を含む、高さ1の画像ブロックの入力画像データがあれば必要十分である。したがって、これまで特定欠陥画素パターンの補正について全画像データに対して複数回の静的欠陥画素補正処理を施す場合について述べたが、特定欠陥画素パターン補正の1回目以降の補正処理時は、連続欠陥画素を含む高さ1の画像ブロック(特定欠陥画素パターン)のみを静的欠陥画素補正処理部の入力とすればよい。連続した欠陥画素の数、メモリアクセス時間にも依存するが、処理時間はほとんど必要としない(10Mサイズで約70ms必要なので、例えば画像ブロックサイズ1×12で約1×10−4ms)。(図14)
本実施の形態の場合、補正処理に時間を要しないため、連写撮影においても対応可能である。
1 デジタルスチルカメラ
21 アナログフロントエンド部
22 信号処理部
23 SDRAM
24 ROM
28 制御部
42 欠陥画素補正部
43 記憶部
44 RAM
特開2009−130553号公報

Claims (14)

  1. 画素列を有する撮像素子と、
    前記画素列が有する欠陥画素の位置を予め記憶する欠陥画素記憶手段と、
    前記欠陥画素を補正する欠陥画素補正手段と、を備え、
    前記画素列は、少なくとも、0番目,1番目,・・・,N−1番目,N番目,N+1番目の順で所定の方向に配列されてなる画素を有し、
    前記欠陥画素記憶手段は、前記画素列のうち1乃至N番目の画素を欠陥画素とし、前記画素列のうち0番目の画素及びN+1番目の画素を非欠陥画素として、これらを特定欠陥画素パターンとして記憶し、
    前記欠陥画素補正手段は、前記特定欠陥画素パターンに対して、1乃至N番目の欠陥画素のうち1乃至M番目の欠陥画素の画像信号を前記0番目の非欠陥画素の画像信号で補正し、M+1乃至N番目の欠陥画素の画像信号を前記N+1番目の非欠陥画素の画像信号で補正することを特徴とする撮像装置。
    ただし、Nは3以上の整数であり、Mは1以上N−1以下の整数である。
  2. 前記欠陥画素補正手段は、m番目の画素及びm+1番目の欠陥画素を補正対象画素として登録する補正対象画素登録部を有し、且つ、前記m番目の欠陥画素の画像信号をm−1番目の画素の画像信号で補正し、前記m+1番目の欠陥画素の画像信号をm+2番目の画素の画像信号で補正することを特徴とする請求項1に記載の撮像装置。
    ただし、m=1,2,・・・,N−1である。
  3. 前記補正対象画素登録部は、1乃至N番目の欠陥画素において、0番目の非欠陥画素の画像信号またはN+1番目の非欠陥画素の画像信号で補正されていない欠陥画素の中で、当該補正されていない欠陥画素の配列方向両端それぞれに配置されてなる2連続の欠陥画素を補正対象画素として登録し、
    前記欠陥画素補正手段は、一方の端部に配置されてなる2連続の欠陥画素を補正すると同時に、他方の端部に配置されてなる2連続の欠陥画素を補正することを特徴とする請求項2に記載の撮像装置。
  4. 前記欠陥画素補正手段は1番目の画素の画像信号から順にM番目の画素の画像信号まで繰り返して補正すると共に、N番目の画素の画像信号から順にM+1番目の画素の画像信号まで繰り返して補正することを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
  5. 前記欠陥画素補正手段は、前記画素列の画像信号のうち、前記特定欠陥画素パターンの画像信号を切り出して画像ブロックとし、該画像ブロックに対して補正を行うことを特徴とする請求項1乃至4のいずれか1項に記載の撮像装置。
  6. 前記撮像素子は、複数の画素列を有し、
    前記欠陥画素補正手段は、前記特定欠陥画素パターンを有する画素列に隣接する他の画素列を参照して前記Mを決定することを特徴とする請求項1乃至5のいずれか1項に記載の撮像装置。
  7. 周辺の画素と比較して輝度値の差が所定の閾値以上であり、単一画素からなる非連続の孤立点を検出し、該孤立点を当該孤立点の周辺の画素で補間して補正を行う動的欠陥画素補正手段をさらに備えることを特徴とする請求項1乃至6のいずれか1項に記載の撮像装置。
  8. 撮像素子を備える撮像装置を用いた撮像方法であって、
    前記撮像素子は、画素列を有し、
    該画素列は、少なくとも、0番目,1番目,・・・,N−1番目,N番目,N+1番目の順で所定の方向に配列されてなる画素を含み、
    前記画素列が有する欠陥画素の位置を予め記憶する欠陥画素記憶工程と、
    前記欠陥画素を補正する欠陥画素補正工程と、を備え、
    前記欠陥画素記憶工程は、前記画素列のうち1乃至N番目の画素を欠陥画素とし、前記画素列のうち0番目の画素及びN+1番目の画素を非欠陥画素として、これらを特定欠陥画素パターンとして記憶し、
    前記欠陥画素補正工程は、前記特定欠陥画素パターンに対して、1乃至N番目の欠陥画素のうち1乃至M番目の欠陥画素の画像信号を前記0番目の非欠陥画素の画像信号で補正し、M+1乃至N番目の欠陥画素の画像信号を前記N+1番目の非欠陥画素の画像信号で補正することを特徴とする撮像方法。
    ただし、Nは3以上の整数であり、Mは1以上N−1以下の整数である。
  9. 前記欠陥画素補正工程は、m番目の画素及びm+1番目の欠陥画素を補正対象画素として登録する補正対象画素登録ステップと、前記m番目の欠陥画素の画像信号をm−1番目の画素の画像信号で補正し、前記m+1番目の欠陥画素の画像信号をm+2番目の画素の画像信号で補正する対象画素補正ステップと、を有することを特徴とする請求項8に記載の撮像方法。
    ただし、m=1,2,・・・,N−1である。
  10. 前記補正対象画素登録ステップは、1乃至N番目の欠陥画素において、0番目の非欠陥画素の画像信号またはN+1番目の非欠陥画素の画像信号で補正されていない欠陥画素の中で、当該補正されていない欠陥画素の配列方向両端それぞれに配置されてなる2連続の欠陥画素を補正対象画素として登録し、
    前記対象画素補正ステップは、一方の端部に配置されてなる2連続の欠陥画素を補正すると同時に、他方の端部に配置されてなる2連続の欠陥画素を補正することを特徴とする請求項9に記載の撮像方法。
  11. 前記欠陥画素補正工程は、1番目の画素の画像信号から順にM番目の画素の画像信号まで繰り返して補正すると共に、N番目の画素の画像信号から順にM+1番目の画素の画像信号まで繰り返して補正することを特徴とする請求項8乃至10のいずれか1項に記載の撮像方法。
  12. 前記欠陥画素補正工程は、前記画素列の画像信号のうち、前記特定欠陥画素パターンの画像信号を切り出して画像ブロックとし、該画像ブロックに対して補正を行うことを特徴とする請求項8乃至11のいずれか1項に記載の撮像方法。
  13. 前記撮像素子は、複数の画素列を有し、
    前記欠陥画素補正工程は、前記特定欠陥画素パターンを有する画素列に隣接する他の画素列を参照して前記Mを決定することを特徴とする請求項8乃至12のいずれか1項に記載の撮像装置。
  14. 周辺の画素と比較して輝度値の差が所定の閾値以上であり、単一画素からなる非連続の孤立点を検出し、該孤立点を当該孤立点の周辺の画素で補間して補正を行う動的欠陥画素補正工程をさらに備えることを特徴とする請求項8乃至13のいずれか1項に記載の撮像装置。
JP2010026476A 2010-02-09 2010-02-09 撮像装置 Expired - Fee Related JP5446955B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010026476A JP5446955B2 (ja) 2010-02-09 2010-02-09 撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010026476A JP5446955B2 (ja) 2010-02-09 2010-02-09 撮像装置

Publications (2)

Publication Number Publication Date
JP2011166422A true JP2011166422A (ja) 2011-08-25
JP5446955B2 JP5446955B2 (ja) 2014-03-19

Family

ID=44596588

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010026476A Expired - Fee Related JP5446955B2 (ja) 2010-02-09 2010-02-09 撮像装置

Country Status (1)

Country Link
JP (1) JP5446955B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012070319A (ja) * 2010-09-27 2012-04-05 Mitsubishi Electric Corp 画像処理方法、画像処理装置及び画像処理プログラム
JP2016019108A (ja) * 2014-07-07 2016-02-01 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、及びプログラム
JP2017005571A (ja) * 2015-06-12 2017-01-05 リコーイメージング株式会社 撮影装置
JP2023038659A (ja) * 2021-09-07 2023-03-17 キヤノン株式会社 画像処理装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05236358A (ja) * 1991-11-26 1993-09-10 Toshiba Corp 固体撮像装置
JP2004015191A (ja) * 2002-06-04 2004-01-15 Fuji Photo Film Co Ltd 固体撮像素子の欠陥補正装置及び方法
JP2009076964A (ja) * 2007-09-18 2009-04-09 Victor Co Of Japan Ltd 画像センサの欠陥補正回路
JP2009260470A (ja) * 2008-04-14 2009-11-05 Seiko Epson Corp 撮像装置用欠陥画素補正方法及び装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05236358A (ja) * 1991-11-26 1993-09-10 Toshiba Corp 固体撮像装置
JP2004015191A (ja) * 2002-06-04 2004-01-15 Fuji Photo Film Co Ltd 固体撮像素子の欠陥補正装置及び方法
JP2009076964A (ja) * 2007-09-18 2009-04-09 Victor Co Of Japan Ltd 画像センサの欠陥補正回路
JP2009260470A (ja) * 2008-04-14 2009-11-05 Seiko Epson Corp 撮像装置用欠陥画素補正方法及び装置

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012070319A (ja) * 2010-09-27 2012-04-05 Mitsubishi Electric Corp 画像処理方法、画像処理装置及び画像処理プログラム
JP2016019108A (ja) * 2014-07-07 2016-02-01 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、及びプログラム
JP2017005571A (ja) * 2015-06-12 2017-01-05 リコーイメージング株式会社 撮影装置
JP2023038659A (ja) * 2021-09-07 2023-03-17 キヤノン株式会社 画像処理装置
JP7419307B2 (ja) 2021-09-07 2024-01-22 キヤノン株式会社 画像処理装置

Also Published As

Publication number Publication date
JP5446955B2 (ja) 2014-03-19

Similar Documents

Publication Publication Date Title
JP4887275B2 (ja) 撮像装置及びそのシャッタ駆動モード選択方法
JP5123137B2 (ja) 撮像装置および撮像方法
JP2010062640A (ja) 撮像装置、撮像装置の制御方法及びプログラム
JP2010074813A (ja) 撮像装置および撮像方法
JPWO2012117616A1 (ja) 撮像装置及び欠陥画素補正方法
JP2005328421A (ja) 撮像装置および撮像方法
JP5446955B2 (ja) 撮像装置
JP2007274504A (ja) デジタルカメラ
JP5829122B2 (ja) 撮像装置および評価値生成装置
JP2010130238A (ja) 欠陥補正回路及びそれを備えた撮像装置
JP2010103700A (ja) 撮像装置および撮像方法
JP4616794B2 (ja) 画像データのノイズ低減装置およびその制御方法
JP5091781B2 (ja) 撮像装置および撮像方法
JP5299159B2 (ja) 撮像装置およびプログラム
JP2007020045A (ja) 電子カメラ
JP5397048B2 (ja) デジタルカメラ、及びその撮影感度設定方法とプログラム
JP2010056817A (ja) 撮像装置
JP2007228269A (ja) 画像信号処理装置及び方法
JP2008283477A (ja) 画像処理装置及び画像処理方法
US12058439B2 (en) Electronic device and control method thereof
US11202015B2 (en) Control apparatus and control method
WO2015182021A1 (ja) 撮像制御装置、撮像装置および撮像制御方法
JP5038005B2 (ja) 撮像装置及び画像処理方法
JP2010217808A (ja) 画像処理装置、画像処理方法、電子カメラおよび画像処理プログラム
JP5008122B2 (ja) 固体撮像素子の欠陥画素補正方法および欠陥画素補正装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121107

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130528

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130604

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130802

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131203

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131216

R151 Written notification of patent or utility model registration

Ref document number: 5446955

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees