JP4104495B2 - データ処理装置、画像処理装置およびカメラ - Google Patents
データ処理装置、画像処理装置およびカメラ Download PDFInfo
- Publication number
- JP4104495B2 JP4104495B2 JP2003174061A JP2003174061A JP4104495B2 JP 4104495 B2 JP4104495 B2 JP 4104495B2 JP 2003174061 A JP2003174061 A JP 2003174061A JP 2003174061 A JP2003174061 A JP 2003174061A JP 4104495 B2 JP4104495 B2 JP 4104495B2
- Authority
- JP
- Japan
- Prior art keywords
- interpolation
- pattern
- pixel
- data
- image signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000012545 processing Methods 0.000 title claims description 188
- 238000000034 method Methods 0.000 claims description 57
- 238000004364 calculation method Methods 0.000 claims description 30
- 230000002093 peripheral effect Effects 0.000 claims description 21
- 238000003384 imaging method Methods 0.000 claims description 17
- 230000000875 corresponding effect Effects 0.000 description 24
- 238000010586 diagram Methods 0.000 description 17
- 238000003672 processing method Methods 0.000 description 7
- 239000003086 colorant Substances 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 4
- 230000001965 increasing effect Effects 0.000 description 3
- 230000001629 suppression Effects 0.000 description 3
- 230000002596 correlated effect Effects 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 102100033126 Phosphatidate cytidylyltransferase 2 Human genes 0.000 description 1
- 101710178746 Phosphatidate cytidylyltransferase 2 Proteins 0.000 description 1
- 230000004397 blinking Effects 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4007—Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4015—Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Color Television Image Signal Generators (AREA)
- Image Processing (AREA)
Description
【発明の属する技術分野】
本発明は、固体撮像素子を利用したカメラ、ビデオカメラおよびデジタルカメラなどに用いられ、各画素毎のイメージ信号に欠落している色信号を補間処理するカメラ信号処理装置などのデータ処理装置および、これを用いた画像処理装置、これが用いられ、固体撮像素子を利用したカメラ、カメラ付き携帯電話装置、ビデオカメラおよびデジタルカメラなどのカメラに関する。
【0002】
【従来の技術】
従来、固体撮像素子を利用した単板式のカメラ、ビデオカメラおよびデジタルカメラ(以下、カメラと総称する)においては、固体撮像素子の各画素部に、カラーフィルタが離散的に配置されている。
【0003】
このカラーフィルタは、例えばR(赤)G(緑)B(青)の3種類の色(三原色)からなっており、RGBのフィルタが各画素部毎に1色ずつ配置されている。画素部に配置された色フィルタ以外の色に対して、その色信号を演算によって求めることにより、あたかもそこに連続的に3種類の色フィルタが配置されているかのように、空間的(この場合には2次元)なデータの連続性を確保することができる。このような演算処理により、空間的なデータの連続性を求めることを補間処理という。
【0004】
以下に、この補間処理について具体的に説明する。
【0005】
図8は、従来の一般的なカラーフィルタにおける各色の配置例を示す図である。
【0006】
一般に、カラーフィルタにおいては、図8に示すように、Gフィルタが市松配列、RフィルタおよびBフィルタが線順次モザイク配列に配置されたベイヤ配列と言われる配置方法が用いられる。
【0007】
このように、各画素部に対してカラーフィルタがベイヤ配列で配列された固体撮像素子から得られるデジタル化されたイメージ信号には、それぞれの画素に対応するイメージ信号として、一つの色データしか得られない。したがって、各画素部毎にRGB全ての色データを示すフルカラーのイメージ信号を得るためには、各画素において存在しない色データについて、その色のフィルタが配置されている他の画素のイメージ信号から補間処理を行うことにより生成する必要がある。
【0008】
このような補間処理においては、G画素と、それ以外のR画素およびB画素とを、それぞれ2種類の方法を用いて補間する方法が用いられている。
【0009】
図9(a)および図9(b)はそれぞれ、従来の補間処理方法について説明するための図である。ここでは、Gのフィルタが配置されている画素をGとして示している。また、RおよびBのフィルタは対象位置に配置されているため、ここではRおよびBのフィルタが配置されている画素をそれぞれPおよびQとして示して説明を行う。
【0010】
例えば、図9(a)に示すように、補間処理の対象画素を中央部分のG33とすると、その画素のRおよびB(PおよびQ)のデータを補間処理により求める必要がある。ここで、Gの画素と隣接する画素は、Rの画素である場合とBの画素である場合との2種類の場合が存在する。
【0011】
このG33に対して補間処理した後のPおよびQのデータをそれぞれ、P33およびQ33とする。P33およびQ33は、G33の周辺に隣接するPおよびQの画素のデータを用いて補間処理が行われるため、一般に、
G33=G33
P33=(P32+P34)/2
Q33=(Q23+Q43)/2
によってデータが算出される。
【0012】
次に、図9(b)に示すように、補間処理の対象画素をQ33とすると、その画素のGおよびPのデータを補間処理により求める必要がある。ここで、Qの画素と隣接する画素は、Gの画素である場合とPの画素である場合との2種類の場合が存在する。
【0013】
このQ33を補間処理した後のGおよびPのデータをそれぞれ、G33およびP33とする。G33およびP33は、Q33の周辺に隣接するGおよびPの画素のデータを用いて補間処理が行われるため、一般に、
G33=(G23+G32+G34+G43)/4
P33=(P22+P24+P42+P44)/4
Q33=Q33
によってデータが算出される。
【0014】
しかしながら、上述した一般的な補間方法では、詳細に後述するが、画像破綻が発生したり、エッジ部分の解像度が劣化したりするという問題がある。
【0015】
以下に、この問題について、図10(a)に示すような縦の格子模様の被写体を撮像した場合を一例として説明する。
【0016】
図10(a)に示すG11〜G15のラインは、輝度が高いラインであり、一般的に白表示となる。また、Q21〜Q25のラインは、輝度が低いラインであり、一般的に黒表示となる。
【0017】
図10(b)は、図10(a)に示す縦の格子模様(ストライプ模様)の被写体を撮像した場合における各画素のイメージ信号の値を示しており、白の部分が100、黒の部分が0として示されている。
【0018】
補間処理の対象画素をG33とすると、上記補間処理の式から、
G33=100
P33=(P32+P34)/2=100
Q33=(Q23+Q43)/2=0
となる。
【0019】
これと同様に、全ての画素について、上記式により補間処理を行った結果を図10(c)〜(e)に示している。図10(c)には補間処理後のGの値、図10(d)には補間処理後のPの値、図10(e)には補間処理後のQの値が示されている。
【0020】
図10(c)に示すように、補間されたGのデータは、格子模様(ストライプ模様)を表しておらず、画像が破綻している、また、図10(e)に示すように、補間されたQのデータは、格子模様(ストライプ模様)を表しておらず、エッジが無くなっていることから、画像が破綻している。
【0021】
このような補間処理による画像破綻を解決する方法として、例えば特許文献1には、水平方向および垂直方向の輝度値の差から階調値を求め、この階調値を予め定められた閾値と比較し、その比較結果に応じて補間処理を行う方法が開示されている。
【0022】
以下に、特許文献1に開示されている補間方法について、図11(a)に示すような横の格子模様(ストライプ模様)の被写体を撮像した場合を一例として説明する。
【0023】
図11(a)に示すG11〜G51、G13〜G53およびG15〜G55の各ラインは、輝度が低いラインであり、一般的に黒表示となる。また、P12〜P52およびP14〜P54の各ラインは、輝度が高いラインであり、一般的に白表示となる。
【0024】
図11(b)は、図11(a)に示す横の格子模様の被写体を撮像した場合における各画素のイメージ信号の値を示しており、白の部分が100、黒の部分が0として示されている。
【0025】
この特許文献1によると、図11(a)に示す画素Q23を補間処理の対象とした場合に、色データのG23およびP23は、下記の式(数1)により求められる。
【0026】
【数1】
【0027】
上記式(数1)において、Adapは特許文献1より下記の式(数2)に示すような条件判断により求められる。なお、以下では、図11(a)の画素G23に対応した計算式としている。また、下記の式(数2)において、Thresholdは予め定められた閾値、Gdiff−horは水平方向の輝度値の差、Gdiff−verは垂直方向の輝度値の差を示している。
【0028】
【数2】
【0029】
【特許文献1】
特開平7−59098号公報
【0030】
【発明が解決しようとする課題】
しかしながら、上記特許文献1に開示されている補間処理方法を用いても、画像の破綻が生じることがある。
【0031】
例えば、図11(b)に示すデータ値から、上記式(数1)および上記式(数2)を用いてデータG23を求めると、
Gdiff−hor=Gdiff−ver=0
となり、閾値Thresholdの値に関わらず、
G23=AdapG23=|G13+G33+G22+G24}/4=50
となる。また、データG43も同様に求められ、G43=50となる。
【0032】
特許文献1によると、データG13、G33およびG35はそれぞれの画素のデータから生成されるため、G13=G33=G35=0となる。
【0033】
以上により、データG13〜G35の1水平ライン分のデータは、図11(c)に示すようなものとなる。
【0034】
この図11(c)によれば、本来は黒(または白)を示す図11(a)のようなデータに対して補間処理を行うことにより偽信号が生じて、水平ライン上で輝度の差が生じている。これは、あたかも白黒もしくは強弱のパターンが繰り返されているように見えるジッパーノイズと言われるノイズが生じて、画像が破綻していることを示している。
【0035】
また、この特許文献1の補間処理方法では、水平方向および垂直方向の輝度値の差と閾値とを比較している。この方法では、イメージ信号にノイズなどが生じない場合には有効であるが、ノイズなどの影響により水平方向および垂直方向の輝度値の差が閾値付近で変動する場合には、時系列的に補間処理の計算方法が変化することによりデータの変動が生じ、補間処理の対象画素が時系列的に点滅して表示されるという不具合が生じるおそれがある。
【0036】
本発明は、上記従来の問題を解決するもので、複数種類の色フィルタが各画素に離散的に配置された固体撮像素子から得られるデジタル化されたイメージ信号を補間処理する際に、ノイズなどの影響を受けず、画像破綻を防止することができるカメラ信号処理装置などのデータ処理装置および、これを用いた画像処理装置、これを用いたカメラを提供することを目的とする。
【0037】
【課題を解決するための手段】
本発明のデータ処理装置は、複数種類の色フィルタが各画素部に離散的に配置された固体撮像素子から得られるイメージ信号をデータ処理するデータ処理装置であって、各画素のイメージ信号で欠落している色信号を、補間対象画素およびその周辺画素のイメージ信号のうち少なくとも該周辺画素のイメージ信号を用いて補間処理により生成する補間処理手段と、該イメージ信号の均一性および勾配性を表す複数の補間パターンが格納された補間パターン格納手段とを有し、該補間パターン格納手段には、補間対象画素が主として輝度を構成する画素である場合と、該補間対象画素が主として輝度を構成しない画素である場合とで、それぞれ補間パターンが格納されており、該補間処理手段は、該補間対象画素およびその周辺画素のイメージ信号の均一性および勾配性に応じて該補間対象画素およびその周辺画素のイメージ信号のデータ値パターンに近似している補間パターンを、該補間パターン格納手段の各補間パターンから選択し、この選択した補間パターンに対応した補間処理を行うものであり、そのことにより上記目的が達成される。
【0038】
本発明のデータ処理装置は、複数種類の色フィルタが各画素部に離散的に配置された固体撮像素子から得られるイメージ信号をデータ処理するデータ処理装置であって、各画素のイメージ信号で欠落している色信号を、補間対象画素およびその周辺画素のイメージ信号のうち少なくとも該周辺画素のイメージ信号を用いて補間処理により生成する補間処理手段を有し、該補間処理手段は、該補間対象画素およびその周辺画素のイメージ信号の均一性および勾配性に応じて該補間対象画素およびその周辺画素のイメージ信号のデータ値パターンに近似している補間パターンを求め、かつ該補間対象画素が主として輝度を構成する画素である場合と、該補間対象画素が主として輝度を構成しない画素である場合とで、それぞれ補間パターンを選択し、この求めかつ選択した補間パターンに対応した補間処理を行うものであり、そのことにより上記目的が達成される。
【0039】
さらに、好ましくは、本発明のデータ処理装置において、補間パターン格納手段に格納されている各補間パターンにはそれぞれ識別情報が付されており、前記補間処理手段は、該補間パターン格納手段に、前記選択した補間パターンの識別情報を格納する。
【0040】
さらに、好ましくは、本発明のデータ処理装置における補間処理手段は、前記補間対象画素およびその周辺画素のイメージ信号から、各補間パターンとの近似度を表す方向性データを算出し、該方向性データが最小となる補間パターンを選択する。
【0042】
さらに、好ましくは、本発明のデータ処理装置において、前記イメージ信号の均一性および勾配性を表す複数の補間パターンが格納された補間パターン格納手段をさらに有し、該補間パターン格納手段には、補間対象画素が主として輝度を構成する画素である場合と、該補間対象画素が主として輝度を構成しない画素である場合とで、前記それぞれ補間パターンが格納されている。
【0043】
さらに、好ましくは、本発明のデータ処理装置における補間パターン格納手段には、各補間パターンとして、所定のデータ値の画素が水平に並んでいるパターン、垂直に並んでいるパターン、右上方向に傾斜しているパターン、右下方向に傾斜しているパターン、左上角部に集まっているパターン、右上角部に集まっているパターン、左下角部に集まっているパターンおよび右下角部に集まっているパターンがそれぞれ格納されている。
【0044】
さらに、好ましくは、本発明のデータ処理装置における補間処理手段は、前記補間対象画素およびその周辺画素のイメージ信号のデータ値パターンに近似している補間パターンが該補間パターン格納手段内に格納されていない場合には、所定の計算式により補間処理を行う。
【0045】
さらに、好ましくは、本発明のデータ処理装置における補間処理手段は、前記補間パターン格納手段に補間対象画素およびその周辺画素のイメージ信号のデータ値パターンに近似している補間パターンが二つ以上格納されている場合には、該その周辺画素で選択された補間パターンに応じて、該二つ以上の補間パターンから一つを選択する。
【0046】
さらに、好ましくは、本発明のデータ処理装置における補間処理手段は、求められた補間パターンに対応する計算式により補間処理を行う。
【0047】
本発明の画像処理装置は、請求項1〜10の何れかに記載のデータ処理装置と、該データ処理装置によって求められた補間パターンに対応した画像処理を行う画像処理手段とを有しており、そのことにより上記目的が達成される。
【0048】
本発明のカメラは、固体撮像素子からイメージ信号が入力されて前記補間処理および画像処理を行ってカメラ用の画像データを得ており、そのことにより上記目的が達成される。
【0050】
上記構成により、以下に、本発明の作用について説明する。
【0051】
RGB(三原色)などの複数種類の色フィルタが離散的に配置(例えばベイヤ配列)された固体撮像素子から得られるデジタル化されたイメージ信号(画素信号)において、ある色のフィルタが設けられていない画素部に対して、あたかも全ての画素部毎に連続的に各色のフィルタが配置されているように、その欠落している色のデータ(信号)を補間処理によって求めることができる。例えば、固体撮像素子の画素数が1000画素である場合、各画素のデータはRGBのいずれかのイメージ信号であるが、補間処理の結果、RGBそれぞれに対して、1000個のデータ(信号)が得られ、3000個の色信号が得られることになる。これによって、空間的な(この場合には2次元)データの連続性を確保することができる。
【0052】
本発明にあっては、この補間処理において、補間対象画素およびその周辺画素のイメージ信号の均一性および勾配性に応じて補間対象画素およびその周辺画素のイメージ信号のデータ値パターンに近似している補間パターンを求め、この求められた補間パターンに対応した補間処理を行う。このように、イメージ信号の均一性および勾配性を考慮して補間処理を行うため、従来の補間処理方法のような画像破綻を防ぐことができる。また、閾値を用いて補間処理を行う特許文献1の従来技術のように、ノイズなどの影響により補間処理の計算に変化が生じ、イメージ信号の変動が生じることを防ぐことができる。
【0053】
補間パターンは、イメージ信号の均一性および勾配性を考慮したものであり、例えばデータ値が小さい画素が水平に並んでいるパターン、垂直に並んでいるパターン、右下方向に傾斜しているパターン、右上方向に傾斜しているパターン、左上角部に集まっているパターン、および右下角部に集まっているパターンなど、複数の補間パターンを補間パターン格納手段に用意しておき、各補間パターンに対して、その補間パターンとの近似度を表す方向性データを算出し、方向性データが最小となる補間パターンを選択することができる。
【0054】
その補間パターン上に画素が配置されているものとして、補間対象画素およびその周辺画素のイメージ信号、またはその周辺画素のイメージ信号を用いて、それぞれの補間パターンに応じた計算式により補間処理を行う。この処理を、全ての画素に対して順次行う。
【0055】
また、補間対象画素およびその周辺画素のイメージ信号のデータ値パターンに近似している補間パターンが補間パターン格納手段に存在しない場合には、予め決められた所定の計算式により補間処理を行うことによって、均一性および勾配性に応じて最適な補間パターンを求めることができない場合であっても、より正確な補間処理を行うことができる。
【0056】
また、補間対象画素およびその周辺画素のイメージ信号のデータ値パターンに近似している補間パターンが補間パターン格納手段に2種類以上存在する場合には、その周辺画素にて選択された補間パターンに基づいて、2種類以上の補間パターンのうち何れかを選択することができる。このように、その周辺画素の補間パターンを考慮することによって、ノイズなどの影響によりイメージ信号のデータが時系列的に変化しても、補間処理によって算出されるイメージ信号の変動が生じることを防ぐことができる。
【0057】
また、画像のエッジ部分では輝度の変化が大きくなり、色の変化は比較的小さいため、補間対象画素がG画素のように主として輝度を構成する画素である場合にはデータの変化が大きく、補間対象画素がR画素やB画素のように主として輝度を構成しない画素である場合にはデータの変化が少ない。よって、それぞれの場合に分けて補間処理を行うことにより、最適な補間処理を行うことができる。
【0058】
さらに、補間処理以降に行われるエッジ強調処理や偽色抑圧処理などのデジタル画像信号処理に対しても、補間対象の画素およびその周辺画素のイメージ信号の均一性および勾配性に応じて求められた補間パターンに対応して画像処理を行うことによって、良好なイメージ信号を生成することができる。
【0059】
【発明の実施の形態】
以下に、本発明のデータ処理装置の実施形態を用いた画像処理装置をカメラ(カメラシステム)に適用した場合について図面を参照しながら説明する。
【0060】
図1は、本発明のカメラの一実施形態における要部構成を示すブロック図である。なお、図1中の実線矢印はイメージ信号の流れを示し、点線矢印は制御信号の流れを示している。
【0061】
図1において、このカメラ100は、固体撮像素子1と、CDS(相関二重サンプリング回路)2と、AGC(自動利得制御回路)3と、A/D(アナログ/デジタル)変換回路4と、カメラ信号処理装置である画像処理装置としてのDSP(デジタルシグナルプロセッサ)5と、TG(タイミング信号発生回路)6とを有している。
【0062】
固体撮像素子1は、光電変換を行うフォトダイオードを有し、それぞれのフォトダイオードには、図8で示したようなベイヤ配列と言われる配列方式により、R、G、B(三原色)のカラーフィルタが離散的に配置されている。このフォトダイオードに入射された光信号は、光電変換されて電気信号として出力される。
【0063】
CDS2およびAGC3は、固体撮像素子1から出力された信号を、相関二重サンプリング処理と、自動利得制御処理を行う。
【0064】
A/D変換回路4は、イメージ信号として、アナログ信号からデジタル信号に変換される。
【0065】
DSP5は、A/D変換回路4からのデジタル信号を、詳細に後述する画像処理を行う。
【0066】
TG6は、上記電気信号を転送するためのタイミング信号を生成・駆動するための回路である。
【0067】
DSP5は、5ライン分のラインメモリ7と、補間処理部8と、補間パターン格納メモリ9と、画像信号処理部10と、I/F部11とを有している。これらのラインメモリ7、補間処理部8および補間パターン格納メモリ9によりデータ処理装置12が構成されている。
【0068】
ラインメモリ7は、DSP5に入力されたイメージ信号の5ライン分のデータを保持して、順次、補間処理部8に供給する。
【0069】
補間処理部8は、ラインメモリ7に入力されたイメージ信号から、補間パターン格納メモリ9に格納されている補間パターンのデータを必要に応じて用いて、補間対象画素およびその周辺画素のイメージ信号の均一性および勾配性に応じた補間処理を行い、その補間処理後のイメージ信号を画像信号処理部10に転送する。
【0070】
補間パターン格納メモリ9は、予め複数の補間パターンを格納している。補間処理部8による補間処理時に、補間パターン格納メモリ9から選択された補間パターンの番号は、補間パターンの識別情報として、補間パターン格納メモリ9内に格納される。
【0071】
画像信号処理部10は、イメージ信号を処理する周知のブロックであるため、ここではその詳細な説明を省略するが、一般的には、固体撮像素子1の露出を調整するための自動露出制御処理、イメージ信号の白レベルを調整する自動ホワイトバランス制御処理、エッジ信号を強調するエッジ強調処理、エッジ部で発生する偽色を除去する偽色抑圧処理などの各種画像処理が行われる。
【0072】
I/F部11は、画像信号処理部10で好適に処理されたイメージ信号が入力され、外部回路とのイメージ信号の同期転送を行う。
【0073】
以下に、補間処理部8で行われる補間処理について、図2に示すフローチャートおよび、図3〜図6を用いて詳細に説明する。
【0074】
図3は、ラインメモリ7に格納されたイメージ信号について、水平方向および垂直方向にそれぞれ5画素分を切り出し、補間対象画素を中心位置G33に配置したイメージ図である。図3(a)は、補間対象の画素部に配置されたフィルタ色がGである場合のイメージ図であり、図3(b)は、補間対象の画素部に配置されたフィルタ色がRまたはBである場合のイメージ図である。なお、ここでは、ベイヤ配列では、RおよびBのフィルタは対象位置に配置されるため、図3(b)ではPおよびQとして置き換えて示している。
【0075】
通常、画像のエッジ部分では輝度の変化が大きくなり、色の変化は比較的小さくなることが知られている。例えば、エッジ部分では、輝度を主として構成するイメージ信号であるG画素はデータの変化が大きく、反対に、輝度を主として構成しない画素であって主に色成分を構成する画素であるR画素およびB画素はデータの変化が少ないことになる。
【0076】
これらから、補間処理部8は、図2のステップS1において、G画素と、R画素またはB画素とに場合分けして、それぞれに最適な補間処理を行う。
【0077】
まず、G画素の補間処理について説明する。
【0078】
図2のステップS2では、ステップS1において対象画素がG画素である場合に、対象画素のG画素とその周辺領域の画素のイメージ信号の均一性および勾配性を求める。イメージ信号の均一性および勾配性を求めるためには、その均一性および勾配性を数値化する必要があり、その数値化されたデータを方向性データという。
【0079】
本実施形態では、図4(1)〜図4(8)に示すような各補間パターンを補間パターン格納メモリ9に用意し、それぞれ、後述する計算式により、方向性データGv(x)を求める。これによって、補間パターンと同じ数の方向性データが算出される。これらの方向性データは、それぞれの補間パターンとの近似度を表しており、その方向性データの数値が小さい場合に、対象画素のG画素とその周辺領域の画素のイメージ信号のデータ値のパターンと補間パターンとが近似していると判定される。
【0080】
例えば、図4(1)は、輝度が低い部分が右上方向に傾斜している補間パターンを示している。図4(1)に示す補間パターンは、均一性が無く、勾配性は右上傾斜となっている。この補間パターンにイメージ信号のデータ値のパターンが近似している場合には、画像データはこの右上傾斜線上に存在していることになる。したがって、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンがこの補間パターンにどれくらい近似しているかを数値化した方向性データGv(1)は、補間対象の画素であるG33に対して、残りの画素G51、G42、G24およびG15との値の差分を取り、その平均値を求めることによって算出することができる。よって、方向性データGv(1)は、
Gv(1)= (|G33 − G51| + |G33 − G42|+|G33 − G24|+ |G33 − G15|) / 4
によって求められる。ここで、補間対象の画素およびその周辺領域の画素のイメージ信号がこの補間パターン上にある場合には、これらの差分は全てゼロとなるので、この方向性データGv(1)の値が小さいほど、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンが図4(1)に示す補間パターンに近似していることになる。
【0081】
また、図4(2)は、輝度が低い部分が水平方向に並んでいる補間パターンを示している。この図4(2)に示す補間パターンは、均一性が無く、勾配性は水平傾斜となっている。また、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンがこの補間パターンにどれくらい近似しているかを数値化した方向性データGv(2)は、
Gv(2) = (|G33 − G13| + |G33 − G53|)/2
によって求められる。この方向性データGv(2)の値が小さいほど、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンが図4(2)に示す補間パターンに近似していることになる。
【0082】
また、図4(3)は、輝度が低い部分が右下方向に傾斜している補間パターンを示している。図4(3)に示す補間パターンは、均一性が無く、勾配性は右下傾斜となっている。また、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンがこの補間パターンにどれくらい近似しているかを数値化した方向性データGv(3)は、
Gv(3) = (|G33 − G11| + |G33 − G22|+|G33 − G44|+ |G33 − G55|) / 4
によって求められる。この方向性データGv(3)の値が小さいほど、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンが図4(3)に示す補間パターンに近似していることになる。
【0083】
また、図4(4)は、輝度が低い部分が垂直方向に並んでいる補間パターンを示している。図4(4)に示す補間パターンは、均一性が無く、勾配性は垂直傾斜となっている。また、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンがこの補間パターンにどれくらい近似しているかを数値化した方向性データGv(4)は、
Gv(4) = (|G33 − G31|+ |G33 − G35|)/2
によって求められる。この方向性データGv(4)の値が小さいほど、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンが図4(4)に示す補間パターンに近似していることになる。
【0084】
また、図4(5)は、輝度が低い部分が左上に集中している補間パターンを示している。図4(5)に示す補間パターンは、均一性は左上、勾配性は角部となっている。また、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンがこの補間パターンにどれくらい近似しているかを数値化した方向性データGv(5)は、
Gv(5) = (|G33 − G11|+ |G33 − G31|+|G33 − G22|+ |G33 − G13|) / 4
によって求められる。この方向性データGv(5)の値が小さいほど、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンが図4(5)に示す補間パターンに近似していることになる。
【0085】
また、図4(6)は、輝度が低い部分が右上に集中している補間パターンを示している。この図4(6)に示す補間パターンは、均一性は右上、勾配性は角部となっている。また、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンがこの補間パターンにどれくらい近似しているかを数値化した方向性データGv(6)は、
Gv(6) = (|G33 − G31|+ |G33 − G42|+|G33 − G51|+ |G33 − G53|) / 4
によって求められる。この方向性データGv(6)の値が小さいほど、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンが図4(6)に示す補間パターンに近似していることになる。
【0086】
また、図4(7)は、輝度が低い部分が左下に集中している補間パターンを示している。この図4(7)に示す補間パターンは、均一性は左下、勾配性は角部となっている。また、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンがこの補間パターンにどれくらい近似しているかを数値化した方向性データGv(7)は、
Gv(7) = (|G33 − G13|+ |G33 − G24|+|G33 − G15|+ |G33 − G35|) / 4
によって求められる。この方向性データGv(7)の値が小さいほど、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンが図4(7)に示す補間パターンに近似していることになる。
さらに、図4(8)は、輝度が低い部分が右下に集中している補間パターンを示している。この図4(8)に示す補間パターンは、均一性は右下、勾配性は角部となっている。また、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンがこの補間パターンにどれくらい近似しているかを数値化した方向性データGv(8)は、
Gv(8) = (|G33 − G35|+ |G33 − G44|+|G33 − G53|+ |G33 − G55|) / 4
によって求められる。この方向性データGv(8)の値が小さいほど、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンが図4(8)に示す補間パターンに近似していることになる。
【0087】
なお、上記方向性データの計算式において、イメージ信号のデータは2個の場合と4個の場合とがあるが、いずれも、その補間パターン上に存在する全ての画素数に対応している。
【0088】
このような方向性データGv(1)〜Gv(8)の値が最も小さいものが、補間パターン格納メモリ9に用意されている補間パターンに近似していることになる。ここで、方向性データの( )内の数値を補間パターン番号と言い、その補間パターンをGn33ということにする。
【0089】
次に、図2に示すステップS3では、上記方向性データGv(1)〜Gv(8)を用いて、補間対象の画素およびその周辺の画素のイメージ信号から、方向性データが最小となる補間パターンを求める。
【0090】
例えば、図5(a)に示すような2本の横縞模様を撮像した場合において、図5(b)に示すようなイメージ信号のデータ値が得られた場合に、画素G33を補間対象の画素として、Gv(1)〜Gv(8)を求めると、
Gv(1)=(100+100+100+ 0)/4=75
Gv(2)=(0 + 0)/2=0
Gv(3)=(100+100+100+0)/4=75
Gv(4)=(100+0)/2=50
Gv(5)=(100+100+100+0)/4=75
Gv(6)=(100+100+100+0)/4=75
Gv(7)=(100+0+0+0)/4=25
Gv(8)=(100+0+0+0)/4=25
となる。
【0091】
この例では、最小値に対応した方向性データはGv(2)であり、方向性データが最小値となる補間パターンは一つである。
【0092】
次に、図2のステップS4では、方向性データが最小値となる補間パターンが一つであるか否かを判定し、一つである場合(はい)にはステップS5の処理に進み、二つ以上である場合(いいえ)にはステップS6の処理に進む。
【0093】
ステップS5において、例えば最小値がGv(2)である場合には、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンが図4(2)に示す補間パターンに近似していることが分かる。この場合には、補間処理部8は、その補間対象画素の補間パターンの番号Gn33=2として、補間パターン格納メモリ9に格納する。
【0094】
ステップS7では、補間処理部8は、それぞれの補間パターンに対応した補間処理を行う。この補間処理において求められる色データを、それぞれ、Go、PoおよびQoとすると、それぞれの補間パターンに対応して、補間パターン格納メモリ9などに予め用意された補間計算式を用いて、それらの色データを求めることができる。
【0095】
以下に、それぞれ、Gv(1)〜Gv(8)の補間パターンに適した補間計算式の一例を示す。
【0096】
補間パターン番号1:(Gv(1)が最小)
Go=(G15+G24×2+G33×2+G42×2+G51)/8
Po=(P14+P34+P32+P52)/4
Qo=(Q23+Q25+Q43+Q41)/4
補間パターン番号2:(Gv(2)が最小)
Go=(G13+G33×2+G53)/4
Po=(P12+P14+P32×2+P34×2+P52+P54)/8
Qo=(Q23+Q43)/2
補間パターン番号3:(Gv(3)が最小)
Go=(G11+G22×2+G33×2+G44×2+G55)/8
Po=(P12+P34+P32+P54)/4
Qo=(Q21+Q23+Q43+Q45)/4
補間パターン番号4:(Gv(4)が最小)
Go=(G31+G33×2+G35)/4
Po=(P32+P34)/2
Qo=(Q21+Q41+Q23×2+Q43×2+Q25+Q45)/8
補間パターン番号5:(Gv(5)が最小)
Go=(G11+G13+G22+G31+G33×4)/8
Po=(P12+P32)/2
Qo=(Q21+Q23)/2
補間パターン番号6:(Gv(6)が最小)
Go=(G31+G42+G53+G51+G33×4)/8
Po=(P32+P52)/2
Qo=(Q41+Q43)/2
補間パターン番号7:(Gv(7)が最小)
Go=(G13+G15+G24+G35+G33×4)/8
Po=(P14+P34)/2
Qo=(Q23+Q25)/2
補間パターン番号8:(Gv(8)が最小)
Go=(G35+G44+G53+G55+G33×4)/8
Po=(P34+P54)/2
Qo=(Q43+Q45)/2
以上のような計算式を用いて補間処理を行うことによって、好適な色データを算出することができる。
【0097】
なお、上記補間計算式では、Go、PoおよびQoを算出するためにイメージ信号の平均値を求めているが、その場合に、いずれも2のべき乗の数の平均値を求めている。これは、2のべき乗の数であれば、ビットシフトで演算が簡単になるため、計算器(ハードウェア)の構成が簡単になり、計算速度も高速化することができるからである。また、データの数が2のべき乗になるように加算平均を行う際に、単純平均ではなく、特定の画素に対して重み付けを行っている。これは、補間対象の画素に近い画素部からのデータをより多く採用することによって、より正確なデータを得ることができるからである。
【0098】
ここで、上記図2のステップS4の処理について説明する。方向性データが最小値となる補間パターンは、常に一つとは限らない。例えば、図5(a)に示すような横縞模様を撮像した場合、そのイメージ信号のデータ値は図5(b)に示すようなものになるが、ノイズなどの影響により、図5(c)に示すようにG31が「0」となった場合には、Gv(1)〜Gv(8)は、以下のような計算結果となる。
【0099】
Gv(1)=(100+100+100+0)/4=75
Gv(2)=(0+0)/2=0
Gv(3)=(100+100+100+0)/4=75
Gv(4)=(0+0)/2=0
Gv(5)=(100+100+100+0)/4=75
Gv(6)=(100+100+100+0)/4=75
Gv(7)=(100+0+0+0)/4=25
Gv(8)=(100+0+0+0)/4=25
これらの計算結果によれば、方向性データが最小値となる補間パターンは、Gv(2)およびGv(4)の二つとなる。
【0100】
このように、方向性データが最小値となる補間パターンおよび補間パターン番号を求める方法では、上記計算結果に示すように、好適な補間パターンが二つ以上求められるおそれがあり、どちらの補間パターンを用いた補間計算式が最適であるかを判別することができない。
【0101】
そこで、本実施形態では、図2のステップS6において、方向性データが最小値となる補間パターンが二つ以上あった場合には、すでに最適な補間パターンが決定されている周辺画素の補間パターンとの相関を考慮する。これは、撮像された画像では、当該画素と周辺画素とでイメージ信号のデータ値の相関関係が高いためである。
【0102】
図5(c)において、左上の画素から右方向に、次に下方向に処理が行われて、Q01、G11、・・・、Q41、G51、G02、P12、・・・、Q45、G55の順に補間処理が行われているものとする。
【0103】
現在の補間対象画素がG33である場合に、上記順序で補間処理が行われている場合には、画素G13、G22およびG31は既に補間処理が行われており、補間パターン番号が補間パターン格納メモリ9に格納されている。
【0104】
図5(c)に示す画素G13、G22、G31のそれぞれについて、格納された補間パターン番号をGn13、Gn22、Gn31とする。この場合、図5(a)に示すような2本線の横縞模様を撮像したことから、Gn13およびGn22=2であり、Gn31≠4であることは明らかである。したがって、Gv(2)が周辺画素の補間パターンと相関があるものと判断する。即ち、最小パターンの一つ=周辺G画素の補間パタ−ンならば、補間パタ−ン=周辺G画素補間パタ−ンの一つであると判断する。この場合に、ステップS7で「それぞれのパターンに対応した補間処理」を行う。即ち、最適な補間パターン番号G33=2として、Gv(2)の補間パターンに適した補間計算式を用いて補間処理を行う。
【0105】
これによって、ノイズの影響により、図5(b)に示すデータが図5(c)に示すようになったとしても、画素G33の補間処理をノイズの影響を受けずに行って、正確な色データを算出することが可能となる。
【0106】
しかしながら、図5(d)に示すような撮像条件の場合には、方向性データGv(1)〜Gv(8)は全て同じ値であり、周辺の画素の補間パターンとの相関は得られない。このような場合には、ステップS6において判定不能と判断しする。即ち、「最小パターン=周辺G画素の補間パターン」が一つも存在しないならば、「補間パタ−ン=判定不可能」と判断する。「判定不可能」であると判断されると、ステップS7で「それぞれのパターンに対応した補間処理」を行う。即ち、予め補間パターン格納メモリ9に用意されている判定不能の場合に応じた補間計算式を用いて補間処理を行う。
【0107】
以下に、判定不能時の補間計算式の一例を示す。
【0108】
判定不能:
Go=(G22+G24+G42+G44+G33×4)/8
Po=(P32+P34)/2
Qo=(Q23+Q43)/2
このようにして求められた補間パターン番号または判定不能を表す番号をGn33として、補間パターン格納メモリ9に格納し、周辺の画素の補間処理時に補間パターンの相関を検証するために用いることができる。
【0109】
以上のステップS1〜S7の処理により、輝度を主として構成するイメージ信号であるG信号における最適な補間処理を実現することができる。
【0110】
次に、R画素およびB画素の補間処理について説明する。
【0111】
なお、R画素を補間対象の画素としたときのB画素の配置と、B画素を補間対象の画素としたときのR画素の配置とは同様であるため、以下では、補間対象の画素をP、それ以外の画素であってG画素以外の画素をQとして説明する。
【0112】
P画素およびQ画素に対する好適な補間パターンを求めるために、図2のステップS8の処理では、まず、周辺のG画素に対して求められた補間パターンの相関について検証する。
【0113】
通常、解像度の変化はエッジ部分で起こるが、これは輝度(=白黒)が大きく変化するものであり、色信号の変化としては殆ど目立たない。したがって、この部分では、輝度を構成するG画素のデータを処理すればよく、R画素やB画素を補間処理すると、本来白黒であるはずの部分に色信号がついてしまうことになる。よって、R画素およびB画素(P画素およびQ画素)の補間処理を行う際には、G画素の補間パターンについて、周辺の画素との相関を調べる必要がある。
【0114】
本実施形態では、図2のステップS8において、補間対象のP画素の周辺にあるG画素に対して求められた補間パターン番号がそれぞれ同じ場合には、補間対象のP画素についても、最適な補間パターンとして、周辺G画素の補間パターンに準じた番号を使用する。
【0115】
ステップS8の処理で、周辺G画素同士の補間パターン番号が同じであれば、ステップS14の処理において補間対象P画素の補間パターンを周辺G画素の補間パターンとする。例えば、補間対象のP画素の補間パターン番号をPn33とすると、左上の画素から右方向に、次に下方向に順次補間処理が行われる場合に、周辺G画素の補間パターン番号としてGn32およびGn23を用いる。ステップS8の処理において、Gn23=Gn32であれば、図2のステップS14において、補間パターンをPn33=Gn23とする。
【0116】
次に、図2のステップS8の処理において、補間対象のP画素の周辺G画素同士の補間パターン番号が異なる場合(いいえ)には、ステップS9の処理において、補間対象のP画素とその周辺領域の画素のイメージ信号の均一性および勾配性を求めるために数値化された方向性データを求める。
【0117】
本実施形態では、図6(1)〜図6(8)に示すような補間パターンを補間パターン格納メモリ9に用意し、それぞれ、後述する計算式により、方向性データPv(x)を求める。
【0118】
これによって、補間パターンと同じ数値の方向性データが算出される。これらの方向性データは、それぞれの補間パターンとの近似度を表しており、その方向性データの数値が小さい場合に、対象画素のG画素とその周辺領域の画素のイメージ信号のデータ値のパターンと補間パターンとが近似していると判定される。P画素の補間処理においては、周辺G画素との相関を考慮することから、補間パターンとしてG画素で用意した補間パターンと同様のパターンを用意し、補間パターン番号も同様に設定している。
【0119】
例えば、図6(1)は、図4(1)と同様に、輝度が低い部分が右上方向に傾斜している補間パターンを示している。図6(1)に示す補間パターンは、均一性が無く、勾配性は右上傾斜となっている。この補間パターンにイメージ信号のデータ値のパターンが近似している場合には、画像データはこの右上傾斜線上に存在していることになる。したがって、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンがこの補間パターンにどれくらい近似しているかを数値化した方向性データPv(1)は、補間対象の画素であるP33に対して、残りの画素P51およびP15との値の差分を取り、その平均値を求めることによって算出することができる。よって、方向性データPv(1)は、
Pv(1)= (|P33 −P51| + |P33 − P15|) / 2
によって求められる。
【0120】
ここで、補間対象の画素およびその周辺領域の画素のイメージ信号がこの補間パターン上にある場合には、これらの差分は全てゼロとなるので、この方向性データPv(1)の値が小さいほど、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンが図6(1)に示す補間パターンに近似していることになる。
【0121】
また、図6(2)は、図4(2)と同様に、輝度が低い部分が水平方向に並んでいる補間パターンを示している。図6(2)に示す補間パターンは、均一性が無く、勾配性は水平傾斜となっている。また、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンがこの補間パターンにどれくらい近似しているかを数値化した方向性データPv(2)は、
Pv(2) = (|P33 − P13| + |P33 − P53|)/2
によって求められる。この方向性データPv(2)の値が小さいほど、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンが図6(2)に示す補間パターンに近似していることになる。
【0122】
また、図6(3)は、図4(3)と同様に、輝度が低い部分が右下方向に傾斜している補間パターンを示している。図6(3)に示す補間パターンは、均一性が無く、勾配性は右下傾斜となっている。また、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンがこの補間パターンにどれくらい近似しているかを数値化した方向性データPv(3)は、
Pv(3) = (|P33 − P11| + |P33 − P55|) /2
によって求められる。この方向性データPv(3)の値が小さいほど、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンが図6(3)に示す補間パターンに近似していることになる。
【0123】
また、図6(4)は、図4(4)と同様に、輝度が低い部分が縦方向に並んでいる補間パターンを示している。この図6(4)に示す補間パターンは、均一性が無く、勾配性は垂直傾斜となっている。また、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンがこの補間パターンにどれくらい近似しているかを数値化した方向性データPv(4)は、
Pv(4) = (|P33 − P31|+ |P33 − P35|)/2
によって求められる。この方向性データPv(4)の値が小さいほど、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンが図6(4)に示す補間パターンに近似していることになる。
【0124】
また、図6(5)は、図4(5)と同様に、輝度の低い部分が左上に集中している補間パターンを示している。図6(5)に示す補間パターンは、均一性は左上、勾配性は角部となっている。また、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンがこの補間パターンにどれくらい近似しているかを数値化した方向性データPv(5)は、
Pv(5) = (|P33 − P11|+ |P33 − P31|+|P33 − P13|) /3
によって求められる。この方向性データPv(5)の値が小さいほど、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンが図6(5)に示す補間パターンに近似していることになる。
【0125】
また、図6(6)は、図4(6)と同様に、輝度が低い部分が右上に集中している補間パターンを示している。図6(6)に示す補間パターンは、均一性は右上、勾配性は角部となっている。また、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンがこの補間パターンにどれくらい近似しているかを数値化した方向性データPv(6)は、
Pv(6) = (|P33 − P31|+ |P33 − P51|+|P33 − P53|) /3
によって求められる。この方向性データPv(6)の値が小さいほど、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンが図6(6)に示す補間パターンに近似していることになる。
【0126】
また、図6(7)は、図4(7)と同様に、輝度が低い部分が左下に集中している補間パターンを示している。この図6(7)に示す補間パターンは、均一性は左下、勾配性は角部となっている。また、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンがこの補間パターンにどれくらい近似しているかを数値化した方向性データPv(7)は、
Pv(7) = (|P33 − P13|+ |P33 − P15|+|P33 − P35|) /3
によって求められる。この方向性データPv(7)の値が小さいほど、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンが図6(7)に示す補間パターンに近似していることになる。
【0127】
さらに、図6(8)は、図4(8)と同様に、輝度が低い部分が右下に集中している補間パターンを示している。図6(8)に示す補間パターンは、均一性は右下、勾配性は角部となっている。また、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンがこの補間パターンにどれくらい近似しているかを数値化した方向性データPv(8)は、
Pv(8) = (|P33 − P35|+ |P33 − P53|+|P33 − P55|) /3
によって求められる。この方向性データPv(8)の値が小さいほど、補間対象の画素とその周辺領域の画素のイメージ信号のデータ値のパターンが図6(8)に示す補間パターンに近似していることになる。
【0128】
なお、上記方向性データの計算式において、イメージ信号のデータは2個の場合と3個の場合とがあるが、いずれも、その補間パターン上に存在する全ての画素数に対応している。
【0129】
上記方向性データPv(1)〜Pv(8)の値が小さいものが、補間パターン格納メモリ9に用意されている補間パターンに近似していることになる。ここで、方向性データの( )内の数値を補間パターン番号と称し、その補間パターンをPn33と称する。
【0130】
図2に示すステップS10では、G画素の補間処理と同様に、上記方向性データPv(1)〜Pv(8)を用いて、補間対象の画素およびその周辺の画素のイメージ信号から、方向性データが最小となる補間パターンを求める。
【0131】
そして、図2に示すステップS11では、方向性データが最小値となる補間パターンが1つであるか否かを判定し、一つである場合にはステップS12に進み、二つ以上である場合にはステップS13の処理に進む。
【0132】
図2に示すステップS12では、ステップS11において方向性データが最小となる補間パターンが1つであるため、その補間パターン番号を補間対象画素の補間パターンの番号Pn33として、補間パターン格納メモリ9に格納する。
【0133】
また、図2のステップS12において、方向性データが最小となる補間パターンが二つ(2種類)以上あった場合には、ステップS13において、すでに最適な補間パターンが決定されている周辺画素の補間パターンとの相関を考慮する。左上の画素から右方向に、次に下方向に補間処理が行われている場合に、現在の補間対象画素がP33であれば、既に補間処理が行われて補間パターン番号(識別情報)が補間パターン格納メモリ9に格納されている画素G23およびG32の補間パターン番号Gn23およびGn32と、方向性データPv(x)が最小となる二つ以上の補間パターンの一つが一致する場合には、その補間パターン番号をPn33として補間パターン格納メモリ9に格納する。P、Q画素ではなくG画素を考慮する理由は、G画素の方がP、Q画素よりもパターン検出に適しているからである。
【0134】
また、方向性データが最小となる2つ以上の補間パターンのいずれも、周辺画素の補間パターンと一致しない場合には、ステップS13において判定不能とし、予め補間パターン格納メモリ9に用意されている判定不能の場合に応じた補間計算式を用いて補間処理を行う。
【0135】
図2に示すステップS15では、それぞれの補間パターンに対応した補間処理を行う。補間処理において求められる色データを、それぞれ、Go、PoおよびQoとすると、それぞれの補間パターンに対応して、予め用意された補間計算式を用いて、それらの色データを求めることができる。
【0136】
以下に、それぞれ、Pv(1)〜Pv(8)の補間パターンに適した補間計算式の一例を示す。
【0137】
補間パターン番号1:(Pv(1)が最小)
Go=(G14+G25+G23×2+G34×2+G32×2+G43×2+G41+G52)/12
Po=(P15+P33×2+P51)/4
Qo=(Q42+Q24)/2
補間パターン番号2:(Pv(2)が最小)
Go=(G23+G43)/2
Po=(P13+P33×2+P53)/4
Qo=(Q22+Q24+Q42+Q44)/4
補間パターン番号3:(Pv(3)が最小)
Go=(G12+G21+G23×2+G32×2+G34×2+G43×2+G45+G54)/12
Po=(P11+P33×2+P55)/4
Qo=(Q22+Q44)/2
補間パターン番号4:(Pv(4)が最小)
Go=(G32+G34)/2
Po=(P31+P33×2+P35)/4
Qo=(Q22+Q24+Q42+Q44)/4
補間パターン番号5:(Pv(5)が最小)
Go=(G12+G21+G23×2+G32×2)/6
Po=(P11+P13+P31+P33×3)/6
Qo=Q22
補間パターン番号6:(Pv(6)が最小)
Go=(G41+G52+G32×2+G43×2)/6
Po=(P31+P51+P53+P33×3)/6
Qo=Q42
補間パターン番号7:(Pv(7)が最小)
Go=(G14+G25+G23×2+G34×2)/6
Po=(P15+P35+P13+P33×3)/6
Qo=Q24
補間パターン番号8:(Pv(8)が最小)
Go=(G54+G45+G34×2+G43×2)/6
Po=(P55+P35+P53+P33×3)/6
Qo=Q44
判定不能時:
Go=(G23+G32+G34+G43)/4
Po=P33
Qo=(Q22+Q24+Q42+Q44)/4
以上のような計算式を用いて補間処理を行うことによって、好適な色データを算出することができる。
【0138】
以上により、輝度を主として構成するイメージ信号であるG信号、並びに輝度を構成しないイメージ信号であるR信号およびB信号における最適な補間処理を実現することができる。
【0139】
このようにして求められた補間パターン番号または判定不能を表す番号を、補間パターン格納メモリ9に格納しておき、補間処理以降に画像信号処理部10によって行われるデジタル画像信号処理時に、それぞれの補間パターンに対応して信号処理を行うことによって、好適な信号処理を行うことが可能である。
【0140】
以下では、その一例として、補間パターン格納メモリ9に格納されている補間パターン番号を用いて、図7(a)に示すような画像パターンに対してエッジ強調処理を行う場合について、簡単に説明する。
【0141】
図7(b)は、図7(a)に示す画像のイメージ信号値を示す図であり、白の部分を100、黒の部分を40としている。通常のエッジ強調処理では、図7(c)に示すようなラプラシアンフィルタと称されるフィルタを通した後、元の信号にその値を加算する処理が行われる。
【0142】
図7(d)は、図7(b)に示す画像(データ)を、図7(c)に示すフィルタを通した後に1/8積算し、元の画像に加算することによりエッジ強調処理を行った結果の数値を表す図である。
【0143】
図7(e)は、図7(d)において横方向に並ぶ画素G13、Q13、G33、Q43およびG53の数値をグラフ化したものであり、図7(f)は、図7(d)において左上から斜め方向に並ぶ画素G11、G22、G33、G44およびG55の数値をグラフ化したものである。
【0144】
図7(e)によれば、この方法により信号がエッジ強調処理されているが、図7(f)によれば、画素G33の信号はマイナス側に強調されているものの、画素G22の信号は全く強調処理されていない。
【0145】
本実施形態では、それぞれの画素の補間パターン番号が補間パターン格納メモリ9に格納されており、例えば図7(a)に示す画像の場合には、図4(1)に示すような補間パターンの番号が補間パターン格納メモリ9に格納されている。
【0146】
そこで、図4(1)の補間パターンに対応するフィルタとして、図7(g)に示すフィルタを用いて、画素G22のデータを、図7(g)に示すフィルタを通した後に1/4積算し、元の画像に加算することによりエッジ強調処理を行う。その結果の数値を図7(h)に示す。この図7(h)によれば、それぞれの補間パターンに応じて、エッジ強調処理が好適に処理されていることは明らかである。また、これと同様に、補間パターンに対応するフィルタを用いて、偽色処理など、補間パターンに対応した他のデジタル信号処理を行うこともできる。
【0147】
以上により、本実施形態によれば、複数の補間パターンを補間パターン格納メモリ9に用意しておき、補間処理部8によって、補間対象画素およびその周辺画素のイメージ信号の均一性および勾配性に応じて補間対象画素およびその周辺画素のイメージ信号のデータ値パターンに近似している補間パターンを求め、その求めた補間パターン上に補間対象画素が配置されているものとして、その補間パターンに対応した計算式を用いて補間処理を行う。これによって、イメージ信号の均一性および勾配性を考慮して補間処理を行うことができるので、ノイズなどの影響を受けず、従来の補間方法で生じるような画像破綻を防ぐことができる。
【0148】
なお、本実施形態では、補間パターンとして8種類(判定不能も含めると9種類)を用意しているが、補間パターン格納メモリ9などの回路規模を小さくするために、パターン数を変更することも当然可能である。例えば、本願発明者らが実験を行ったところ、上記8種類の補間パターンのうち、図4(1)および図6(1)に示す水平傾斜、図4(2)および図6(2)に示す垂直傾斜、図4(3)および図6(3)に示す右下傾斜、図4(4)および図6(4)に示す右上傾斜のパターンが殆どの場合(90%程度)を占めていた。よって、コストパフォーマンスを考慮すると、4種類の補間パターンによってイメージ信号の均一性および勾配性を表すようにしてもよい。また、例えば、バーコードリーダ用途など、1次元の画像を用いるシステムにおいては、図4(4)および図6(4)に示す補間パターンのみを使用することも可能である。また、回路規模や演算性能が十分備わっているシステムにおいては、ラインメモリ7を大きくして、補間パターン数をさらに増やすことにより、高度なパターンによる好適な補間処理を行うことも可能となる。
【0149】
また、本実施形態では、それぞれの補間パターンに応じた補間処理を行うために、簡略な計算式を用いている。しかしながら、本発明は、イメージ信号の均一性および勾配性に応じて補間対象の画素およびその周辺領域の画素のパターンに近似している補間パターンを求め、その補間パターンに応じた補間処理を行うことを特徴としているため、各補間パターンに対する補間計算方法については、最適なものを適宜設定することができるものとする。
【0150】
本発明では、補間対象の画素およびその周辺領域の画素の均一性および勾配性から最適な補間パターンを求めて、その補間パターンと周辺の画素の補間パターンとを有効に用いて、補間処理方法を決定することを特徴としている。よって、その補間パターン、補間パターン数、補間パターン番号、補間計算方法、補間対象の画素の補間パターンの活用方法、周辺の画素の補間パターンの活用方法、補間パターンを用いた補間処理以降のデジタル画像信号処理について、適宜変更を行っても、本発明の範囲に含まれるものである。
【0151】
【発明の効果】
以上説明したように、本発明によれば、RGBなどの複数種類の色フィルタが離散的に配置された固体撮像素子から得られるイメージ信号をデータ処理するデータ処理装置において、補間処理を行う際に、補間対象画素およびその周辺画素のイメージ信号の均一性および勾配性に応じて補間対象画素およびその周辺画素のイメージ信号のデータ値パターンに近似している補間パターンを求め、その求められた補間パターンに対応した補間処理を行う。このように、イメージ信号の均一性および勾配性を考慮して補間処理を行うため、従来の補間方法のような画像破綻を防ぐことができる。また、ノイズなどの画像外の信号が存在しても、特許文献1のようなイメージ信号の変動を防いで良好なエッジを表現し、解像度の劣化を防ぐことができる。
【0152】
さらに、補間処理以降に行われるエッジ強調処理や偽色抑圧処理などのデジタル画像信号処理に対しても、補間対象画素およびその周辺画素のイメージ信号の均一性および勾配性に応じて求められた補間パターンに対応して処理を行うことによって、良好なイメージ信号を生成することができる。
【図面の簡単な説明】
【図1】本発明のカメラの実施形態における要部構成を示すブロック図である。
【図2】図1の補間処理部による補間処理の処理手順について説明するためのフローチャートである。
【図3】(a)および(b)はそれぞれ、図1のラインメモリに格納されたイメージ信号のイメージ図である。
【図4】(1)〜(8)はそれぞれ、G画素に対する補間パターンの例を示す図である。
【図5】(a)〜(d)はそれぞれ、本発明の補間処理において、補間パターンを決定する方法について説明するための図である。
【図6】(1)〜(8)はそれぞれ、P画素に対する補間パターンの例を示す図である。
【図7】(a)〜(h)はそれぞれ、本発明の画像処理としてエッジ強調処理について説明するための図である。
【図8】従来のベイヤ配列のカラーフィルタにおける各色の配置を示す図である。
【図9】(a)および(b)はそれぞれ、従来の補間処理方法について説明するための図である。
【図10】(a)〜(e)はそれぞれ、従来の補間方法の問題を説明するための図である。
【図11】(a)〜(c)はそれぞれ、従来の他の補間処理方法の問題を説明するための図である。
【符号の説明】
1 固体撮像素子
2 CDS
3 AGC
4 A/D
5 DSP
6 TG
7 ラインメモリ
8 補間処理部
9 補間パターン格納メモリ
10 画像信号処理部
11 I/F部
12 データ処理装置
100 カメラ
Claims (11)
- 複数種類の色フィルタが各画素部に離散的に配置された固体撮像素子から得られるイメージ信号をデータ処理するデータ処理装置であって、
各画素のイメージ信号で欠落している色信号を、補間対象画素およびその周辺画素のイメージ信号のうち少なくとも該周辺画素のイメージ信号を用いて補間処理により生成する補間処理手段と、該イメージ信号の均一性および勾配性を表す複数の補間パターンが格納された補間パターン格納手段とを有し、
該補間パターン格納手段には、補間対象画素が主として輝度を構成する画素である場合と、該補間対象画素が主として輝度を構成しない画素である場合とで、それぞれ補間パターンが格納されており、
該補間処理手段は、該補間対象画素およびその周辺画素のイメージ信号の均一性および勾配性に応じて該補間対象画素およびその周辺画素のイメージ信号のデータ値パターンに近似している補間パターンを、該補間パターン格納手段の各補間パターンから選択し、この選択した補間パターンに対応した補間処理を行うデータ処理装置。 - 複数種類の色フィルタが各画素部に離散的に配置された固体撮像素子から得られるイメージ信号をデータ処理するデータ処理装置であって、
各画素のイメージ信号で欠落している色信号を、補間対象画素およびその周辺画素のイメージ信号のうち少なくとも該周辺画素のイメージ信号を用いて補間処理により生成する補間処理手段を有し、
該補間処理手段は、該補間対象画素およびその周辺画素のイメージ信号の均一性および勾配性に応じて該補間対象画素およびその周辺画素のイメージ信号のデータ値パターンに近似している補間パターンを求め、かつ該補間対象画素が主として輝度を構成する画素である場合と、該補間対象画素が主として輝度を構成しない画素である場合とで、それぞれ補間パターンを選択し、この求めかつ選択した補間パターンに対応した補間処理を行うデータ処理装置。 - 前記補間パターン格納手段に格納されている各補間パターンにはそれぞれ識別情報が付されており、前記補間処理手段は、該補間パターン格納手段に、前記選択した補間パターンの識別情報を格納する請求項1に記載のデータ処理装置。
- 前記補間処理手段は、前記補間対象画素およびその周辺画素のイメージ信号から、各補間パターンとの近似度を表す方向性データを算出し、該方向性データが最小となる補間パターンを選択する請求項1〜3のいずれかに記載のデータ処理装置。
- 前記イメージ信号の均一性および勾配性を表す複数の補間パターンが格納された補間パターン格納手段をさらに有し、
該補間パターン格納手段には、補間対象画素が主として輝度を構成する画素である場合と、該補間対象画素が主として輝度を構成しない画素である場合とで、前記それぞれ補間パターンが格納されている請求項2に記載のデータ処理装置。 - 前記補間パターン格納手段には、各補間パターンとして、所定のデータ値の画素が水平に並んでいるパターン、垂直に並んでいるパターン、右上方向に傾斜しているパターン、右下方向に傾斜しているパターン、左上角部に集まっているパターン、右上角部に集まっているパターン、左下角部に集まっているパターンおよび右下角部に集まっているパターンがそれぞれ格納されている請求項1に記載のデータ処理装置。
- 前記補間処理手段は、前記補間対象画素およびその周辺画素のイメージ信号のデータ値パターンに近似している補間パターンが前記補間パターン格納手段内に格納されていない場合には、所定の計算式により補間処理を行う請求項1に記載のデータ処理装置。
- 前記補間処理手段は、前記補間パターン格納手段に補間対象画素およびその周辺画素のイメージ信号のデータ値パターンに近似している補間パターンが二つ以上格納されている場合には、該その周辺画素で選択された補間パターンに応じて、該二つ以上の補間パターンから一つを選択する請求項1に記載のデータ処理装置。
- 前記補間処理手段は、求められた補間パターンに対応する計算式により補間処理を行う請求項1または2に記載のデータ処理装置。
- 請求項1〜9の何れかに記載のデータ処理装置と、該データ処理装置によって求められた補間パターンに対応した画像処理を行う画像処理手段とを有する画像処理装置。
- 固体撮像素子からイメージ信号が入力されて前記補間処理および画像処理を行ってカメラ用の画像データを得る請求項10に記載の画像処理装置を備えたカメラ。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003174061A JP4104495B2 (ja) | 2003-06-18 | 2003-06-18 | データ処理装置、画像処理装置およびカメラ |
US10/869,819 US7415170B2 (en) | 2003-06-18 | 2004-06-15 | Data processing apparatus, image processing apparatus, camera, and data processing method |
EP04014263A EP1489556A3 (en) | 2003-06-18 | 2004-06-17 | Data processing apparatus, image processing apparatus, camera and data processing method |
CNB200410059386XA CN1290343C (zh) | 2003-06-18 | 2004-06-18 | 数据处理设备、图像处理设备、相机和数据处理方法 |
KR1020040045714A KR100627706B1 (ko) | 2003-06-18 | 2004-06-18 | 데이터처리장치, 화상처리장치, 카메라 및 데이터처리방법 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003174061A JP4104495B2 (ja) | 2003-06-18 | 2003-06-18 | データ処理装置、画像処理装置およびカメラ |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005012479A JP2005012479A (ja) | 2005-01-13 |
JP4104495B2 true JP4104495B2 (ja) | 2008-06-18 |
Family
ID=33410966
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003174061A Expired - Fee Related JP4104495B2 (ja) | 2003-06-18 | 2003-06-18 | データ処理装置、画像処理装置およびカメラ |
Country Status (5)
Country | Link |
---|---|
US (1) | US7415170B2 (ja) |
EP (1) | EP1489556A3 (ja) |
JP (1) | JP4104495B2 (ja) |
KR (1) | KR100627706B1 (ja) |
CN (1) | CN1290343C (ja) |
Families Citing this family (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7948604B2 (en) * | 2002-12-10 | 2011-05-24 | Nikon Corporation | Exposure apparatus and method for producing device |
JP3899118B2 (ja) * | 2004-02-19 | 2007-03-28 | オリンパス株式会社 | 撮像システム、画像処理プログラム |
US7551214B2 (en) * | 2005-12-01 | 2009-06-23 | Megachips Lsi Solutions Inc. | Pixel interpolation method |
KR100784162B1 (ko) * | 2005-12-29 | 2007-12-11 | 엠텍비젼 주식회사 | 격자 노이즈 제거를 이용한 컬러 보간 장치 |
JP4771539B2 (ja) * | 2006-07-26 | 2011-09-14 | キヤノン株式会社 | 画像処理装置及びその制御方法及びプログラム |
KR100840568B1 (ko) * | 2006-11-17 | 2008-06-23 | 주식회사 대우일렉트로닉스 | 선택적 필터링을 이용한 차등 보간 방법 및 장치 |
KR100903817B1 (ko) * | 2006-11-28 | 2009-06-25 | 한양대학교 산학협력단 | 새로운 거리 가중치를 이용한 적응적 선형 보간 방법,지역적 패턴을 고려한 적응적 선형 보간 방법, 패턴가중치를 이용한 적응적 선형 보간 방법 |
US7825965B2 (en) * | 2007-09-07 | 2010-11-02 | Seiko Epson Corporation | Method and apparatus for interpolating missing colors in a color filter array |
US20090092338A1 (en) * | 2007-10-05 | 2009-04-09 | Jeffrey Matthew Achong | Method And Apparatus For Determining The Direction of Color Dependency Interpolating In Order To Generate Missing Colors In A Color Filter Array |
US7995840B2 (en) * | 2008-03-28 | 2011-08-09 | Seiko Epson Corporation | Image processing apparatus, image processing method, and program for attaining image processing |
KR20090120991A (ko) * | 2008-05-21 | 2009-11-25 | 엘지이노텍 주식회사 | 자동 화이트 밸런스 영역 설정 방법 |
JP5251316B2 (ja) * | 2008-07-10 | 2013-07-31 | 日本電気株式会社 | 画像補正装置、画像補正方法および画像補正プログラム |
JP5191407B2 (ja) * | 2009-01-20 | 2013-05-08 | 三洋電機株式会社 | 画像処理装置 |
JP5640370B2 (ja) * | 2009-12-18 | 2014-12-17 | ソニー株式会社 | 画像処理装置,画像処理方法及び撮像装置 |
WO2014045525A1 (ja) * | 2012-09-24 | 2014-03-27 | ソニー株式会社 | 画像処理装置、画像処理プログラム及び画像処理方法 |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2619354B2 (ja) * | 1985-03-25 | 1997-06-11 | 株式会社日立製作所 | 固体撮像装置 |
US5148497A (en) * | 1990-02-14 | 1992-09-15 | Massachusetts Institute Of Technology | Fractal-based image compression and interpolation |
JP3092024B2 (ja) * | 1991-12-09 | 2000-09-25 | 松下電器産業株式会社 | 画像処理方法 |
US5382976A (en) | 1993-06-30 | 1995-01-17 | Eastman Kodak Company | Apparatus and method for adaptively interpolating a full color image utilizing luminance gradients |
JP3662949B2 (ja) | 1993-12-29 | 2005-06-22 | 三洋電機株式会社 | 信号補間方法 |
US5629734A (en) * | 1995-03-17 | 1997-05-13 | Eastman Kodak Company | Adaptive color plan interpolation in single sensor color electronic camera |
US5652621A (en) | 1996-02-23 | 1997-07-29 | Eastman Kodak Company | Adaptive color plane interpolation in single sensor color electronic camera |
JP3503372B2 (ja) | 1996-11-26 | 2004-03-02 | ミノルタ株式会社 | 画素補間装置及びその画素補間方法 |
JP3946866B2 (ja) | 1997-07-31 | 2007-07-18 | 富士フイルム株式会社 | 画像信号処理装置及びプログラムを記録した媒体 |
US6563537B1 (en) | 1997-07-31 | 2003-05-13 | Fuji Photo Film Co., Ltd. | Image signal interpolation |
US6366694B1 (en) * | 1998-03-26 | 2002-04-02 | Intel Corporation | Integrated color interpolation and color space conversion algorithm from 8-bit Bayer pattern RGB color space to 24-bit CIE XYZ color space |
JP2000102024A (ja) | 1998-09-25 | 2000-04-07 | Sony Corp | 画像信号処理装置 |
JP2001169301A (ja) | 1999-12-03 | 2001-06-22 | Nikon Corp | 多板式撮像装置および画像データ処理用記録媒体 |
JP4253095B2 (ja) | 1999-12-15 | 2009-04-08 | 富士フイルム株式会社 | 画像データ・フィルタリング装置および方法 |
JP2002112276A (ja) | 2000-09-29 | 2002-04-12 | Toshiba Corp | カラー固体撮像装置 |
-
2003
- 2003-06-18 JP JP2003174061A patent/JP4104495B2/ja not_active Expired - Fee Related
-
2004
- 2004-06-15 US US10/869,819 patent/US7415170B2/en not_active Expired - Fee Related
- 2004-06-17 EP EP04014263A patent/EP1489556A3/en not_active Withdrawn
- 2004-06-18 CN CNB200410059386XA patent/CN1290343C/zh not_active Expired - Fee Related
- 2004-06-18 KR KR1020040045714A patent/KR100627706B1/ko not_active IP Right Cessation
Also Published As
Publication number | Publication date |
---|---|
EP1489556A3 (en) | 2005-02-16 |
KR20040111184A (ko) | 2004-12-31 |
CN1574973A (zh) | 2005-02-02 |
CN1290343C (zh) | 2006-12-13 |
US20050007470A1 (en) | 2005-01-13 |
KR100627706B1 (ko) | 2006-09-25 |
JP2005012479A (ja) | 2005-01-13 |
EP1489556A2 (en) | 2004-12-22 |
US7415170B2 (en) | 2008-08-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7015961B2 (en) | Digital image system and method for combining demosaicing and bad pixel correction | |
TWI516132B (zh) | An image processing apparatus, an image processing method, and a program | |
US8131067B2 (en) | Image processing apparatus, image processing method, and computer-readable media for attaining image processing | |
JP5016255B2 (ja) | ノイズ低減装置ならびにその制御方法およびその制御プログラムならびに撮像装置およびディジタル・カメラ | |
JP4104495B2 (ja) | データ処理装置、画像処理装置およびカメラ | |
US7236191B2 (en) | Method and system for image processing with pixel interpolation using second order gradients | |
JP5541718B2 (ja) | 撮像装置及びその欠陥画素検出方法 | |
US8515210B2 (en) | Image processing method and image processing device | |
JP4194336B2 (ja) | 半導体集積回路、欠陥画素補正方法、及び画像プロセッサ | |
KR100652408B1 (ko) | 베이어 패턴의 디지털 컬러 영상 신호를 처리하는 방법 및장치 | |
US8248496B2 (en) | Image processing apparatus, image processing method, and image sensor | |
JP2004153823A (ja) | 局部線形回帰法を用いた画像処理システム | |
JP5041886B2 (ja) | 画像処理装置、画像処理プログラム、画像処理方法 | |
US9332199B2 (en) | Imaging device, image processing device, and image processing method | |
JP2013066157A (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
JP4982897B2 (ja) | 画像処理装置 | |
KR20060078646A (ko) | 디지털 촬영장치의 색상 보간법 | |
US20040160521A1 (en) | Image processing device | |
JP2006180210A (ja) | 撮像装置および方法、並びにプログラム | |
JP4133908B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理プログラムを格納した記憶媒体 | |
JP5036524B2 (ja) | 画像処理装置、画像処理方法、プログラムおよび撮像装置 | |
JP5109911B2 (ja) | 撮像装置および補間処理方法 | |
JP4122082B2 (ja) | 信号処理装置およびその処理方法 | |
CN111885281A (zh) | 图像处理 | |
JP2016019245A (ja) | 画像処理装置および画像処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050810 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070926 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20071002 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20071129 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20071221 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080220 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20080306 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080325 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080325 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110404 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120404 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120404 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130404 Year of fee payment: 5 |
|
LAPS | Cancellation because of no payment of annual fees |