JP2005167874A - 固体撮像素子及び画像信号処理装置 - Google Patents
固体撮像素子及び画像信号処理装置 Download PDFInfo
- Publication number
- JP2005167874A JP2005167874A JP2003406970A JP2003406970A JP2005167874A JP 2005167874 A JP2005167874 A JP 2005167874A JP 2003406970 A JP2003406970 A JP 2003406970A JP 2003406970 A JP2003406970 A JP 2003406970A JP 2005167874 A JP2005167874 A JP 2005167874A
- Authority
- JP
- Japan
- Prior art keywords
- color
- column
- row
- partial
- image signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 63
- 238000003384 imaging method Methods 0.000 title claims abstract description 61
- 239000007787 solid Substances 0.000 title abstract 2
- 238000005070 sampling Methods 0.000 claims abstract description 40
- 239000002131 composite material Substances 0.000 claims abstract description 25
- 238000012546 transfer Methods 0.000 claims description 40
- 230000035945 sensitivity Effects 0.000 claims description 20
- 239000011159 matrix material Substances 0.000 claims description 19
- 230000015572 biosynthetic process Effects 0.000 claims description 18
- 238000003786 synthesis reaction Methods 0.000 claims description 18
- 230000002194 synthesizing effect Effects 0.000 claims description 16
- 239000003086 colorant Substances 0.000 abstract description 13
- 230000002542 deteriorative effect Effects 0.000 abstract description 2
- 239000000284 extract Substances 0.000 abstract description 2
- 238000000034 method Methods 0.000 description 12
- 238000000926 separation method Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 9
- 230000014509 gene expression Effects 0.000 description 5
- 238000002156 mixing Methods 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000009825 accumulation Methods 0.000 description 2
- 239000003990 capacitor Substances 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000003672 processing method Methods 0.000 description 2
- 239000000758 substrate Substances 0.000 description 2
- 206010034960 Photophobia Diseases 0.000 description 1
- 239000000654 additive Substances 0.000 description 1
- 230000000996 additive effect Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000020169 heat generation Effects 0.000 description 1
- 208000013469 light sensitivity Diseases 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Color Television Image Signal Generators (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Solid State Image Pick-Up Elements (AREA)
Abstract
【課題】 モザイクフィルタを装着したCCDイメージセンサにて複数行加算された合成信号から色成分を分離する場合に、垂直解像度が劣化する。
【解決手段】 イメージセンサに装着するカラーフィルタを、奇数列にG,Bが交互に配列され、偶数列にR,Gが交互に配列され、かつ隣接する奇数列同士、偶数列同士で互いの配列周期が列方向に1画素ずれる配列とする。画像信号処理装置は、イメージセンサにて3行ずつ加算された合成画像信号の同一行(第a行)上で2列ずれたデータD(a,b)、D(a,b+2)を抽出する。D(a,b)は2画素分の色Cx、1画素分の色Cy、D(a,b+2)は1画素分の色Cx、2画素分の色Cyを成分とする。サンプリング点P(a,b)での色成分値〈Cx〉〈Cy〉を〈Cx〉=〔2D(a,b)−D(a,b+2)〕/3、〈Cy〉=〔2D(a,b+2)−D(a,b)〕/3により求める。
【選択図】 図2
【解決手段】 イメージセンサに装着するカラーフィルタを、奇数列にG,Bが交互に配列され、偶数列にR,Gが交互に配列され、かつ隣接する奇数列同士、偶数列同士で互いの配列周期が列方向に1画素ずれる配列とする。画像信号処理装置は、イメージセンサにて3行ずつ加算された合成画像信号の同一行(第a行)上で2列ずれたデータD(a,b)、D(a,b+2)を抽出する。D(a,b)は2画素分の色Cx、1画素分の色Cy、D(a,b+2)は1画素分の色Cx、2画素分の色Cyを成分とする。サンプリング点P(a,b)での色成分値〈Cx〉〈Cy〉を〈Cx〉=〔2D(a,b)−D(a,b+2)〕/3、〈Cy〉=〔2D(a,b+2)−D(a,b)〕/3により求める。
【選択図】 図2
Description
本発明は、色感度特性の異なる画素がモザイク状に配列された固体撮像素子及び当該固体撮像素子の出力画像信号を処理する画像信号処理装置に関し、特に、複数行の加算合成により列方向に圧縮された画像を得る際に用いられ、加算合成にて色が混合された画像信号に基づいて、色成分毎の画像信号を生成する技術に関する。
デジタルカメラやその他のカメラ機能付きの携帯端末等において、搭載される固体撮像素子の画素数の向上が進んでいる。それらの機器は、撮像しようとする画像を表示部にてプレビューする機能を備えている。また、静止画の撮影だけでなく動画撮影もできるものもある。
プレビュー動作や動画撮影においては、比較的短時間のフレームレートで繰り返して画像を処理し表示したり記録することが要求される。しかし、高解像度のCCDイメージセンサから各画素の情報を高いフレームレートで読み出すことは、特に水平シフトレジスタの転送クロック周波数が高くなり、水平シフトレジスタでの転送効率の劣化や発熱及び消費電力の増大といった問題を生じるため容易ではない。
一方、固体撮像素子の画素数は、プレビュー用のモニタの画素数に比べて格段に多い。そのため、メモリ等の記録媒体に画像を記録する際には、固体撮像素子の画素数に応じた高解像度の画像を撮影するが、プレビュー時にはプレビューモニタの画素数に応じた低解像度での撮影で十分である場合がある。また、動画像は人間の視覚特性上、静止画ほどの解像度を必要とせず、むしろ記録データ量を抑制する意味でも静止画に比べて低解像度での撮影が選択される場合もある。
そのため、従来より、プレビュー時の撮影や動画撮影において、CCDイメージセンサの撮像部に蓄積された情報電荷を、飛び飛びの行についてだけ読み出したり、複数行を加算合成して読み出すことにより、列方向(垂直方向)に解像度を低下させた画像信号を出力させることとして、1画面当たりの水平転送回数を抑制することが行われている。
さて、ベイヤー型フィルタのように複数色が列方向に配列されたカラーフィルタを備えたCCDイメージセンサにおいて、複数行の情報電荷を列方向に加算合成して読み出す場合、互いに異なる色感度特性を有する画素の情報電荷が混合される。すなわち、CCDイメージセンサからは、複数の色成分が混ざり合った画像信号が出力されることになる。
図5は、ベイヤー型カラーフィルタの配列を示す模式図である。このベイヤー型フィルタにおいて複数行を加算合成して得られた画像信号から各色成分を分離する方法として、従来提案されているものを説明する。図5では説明の便宜上、行番号αを水平シフトレジスタ(水平転送部)寄りから、また列番号βを水平転送部の出力端側から順に付している。図5に示すベイヤー配列のカラーフィルタは例えば、R(赤)、G(緑)、B(青)の3色からなり、行番号α及び列番号βで指定される受光画素の色(色感度特性)C(α,β)は、例えば、次のように定められる。
C(2λ−1,2μ−1)=B
C(2λ ,2μ )=R
C(2λ−1,2μ )=C(2λ ,2μ−1)=G
(但し、λ,μは自然数) …(1)
C(2λ ,2μ )=R
C(2λ−1,2μ )=C(2λ ,2μ−1)=G
(但し、λ,μは自然数) …(1)
この撮像部の各画素に対応して蓄積された情報電荷の複数行の加算合成は、例えば、水平シフトレジスタで構成される水平転送部にて行うことができる。撮像部にて得られた情報電荷はインターライン転送型CCDイメージセンサでは撮像部の垂直シフトレジスタから、またフレーム転送型CCDイメージセンサでは蓄積部の垂直シフトレジスタから行単位で順次、水平転送部にライン転送される。このライン転送を水平シフトレジスタの駆動を停止させたまま複数回行うことで、水平シフトレジスタに複数行の情報電荷が累積加算され、複数行の加算合成が実現される。このとき、水平シフトレジスタの各ビットには、列方向に連続する複数画素からの情報電荷を合成した電荷が蓄積されており、水平シフトレジスタを水平転送駆動すると、その合成された情報電荷に応じた信号が1行の画像信号(合成画像信号)として出力部から出力される。
(1)式で定義されるフィルタ配列では、行列配置された受光画素の奇数列は、B,G,B,G,…というように、G及びBからなる画素セットが繰り返して配置される。一方、偶数列は、G,R,G,R,…というように、R及びGからなる画素セットが繰り返して配置される。そのため、複数行を加算合成した情報電荷には、R及びG、又はG及びBの成分が含まれる。それらを分離可能とするために、加算合成する行数は奇数行、例えば3行に設定される。その場合、CCDイメージセンサから出力される第a行の合成画像信号(a≧1)は、撮像部の第(3a−2)〜3a行の情報電荷が合成されて生成されたものとなる。ここで、加算行数を奇数とすることにより、CCDイメージセンサから出力される第a行及び第(a+1)行の合成画像信号のうち、同じ列に対応する信号値は、同じ色種類が混合され、かつその混合比が互いに相違するものとなる。CCDイメージセンサからの出力画像信号を受けた信号処理回路はこれを利用して、色分離処理を行う。
以下、CCDイメージセンサの撮像部の第α行第β列の画素に対応する信号値を、当該画素の色R,G,Bそれぞれに対応させて記号R(α,β)、G(α,β)、B(α,β)で表し、またCCDイメージセンサから出力される第a行の出力画像信号において撮像部第b列に対応する画像信号値を記号D(a,b)で表す。
(1)式で表される図5のカラーフィルタの配列では、3行加算合成して得られる画像信号値には、色混合割合が異なる次の4種類が存在する。
D(2λ-1,2μ-1)=B(6λ-5,2μ-1)+G(6λ-4,2μ-1)+B(6λ-3,2μ-1) …(2)
D(2λ ,2μ-1)=G(6λ-2,2μ-1)+B(6λ-1,2μ-1)+G(6λ ,2μ-1) …(3)
D(2λ-1,2μ )=G(6λ-5,2μ )+R(6λ-4,2μ )+G(6λ-3,2μ ) …(4)
D(2λ ,2μ )=R(6λ-2,2μ )+G(6λ-1,2μ )+R(6λ ,2μ ) …(5)
(ここでλ、μは自然数)
D(2λ ,2μ-1)=G(6λ-2,2μ-1)+B(6λ-1,2μ-1)+G(6λ ,2μ-1) …(3)
D(2λ-1,2μ )=G(6λ-5,2μ )+R(6λ-4,2μ )+G(6λ-3,2μ ) …(4)
D(2λ ,2μ )=R(6λ-2,2μ )+G(6λ-1,2μ )+R(6λ ,2μ ) …(5)
(ここでλ、μは自然数)
信号処理回路は、プレビュー時や動画撮影時には、(2)〜(5)式で与えられる混色の信号値に基づいて、R,G,B各色成分毎に分離された画像信号を生成する。この生成される画像信号は、複数行の加算合成をしない通常動作時より解像度が低く、画像内に設定されるサンプリング点の垂直方向の配列周期は、CCDイメージセンサでの加算合成される行数に応じたものとなる。すなわち、ここではサンプリング点は垂直方向に関して3行毎に1つ配置される。
信号処理回路は、奇数列については(2)(3)式を用い、また偶数列については(4)(5)式を用い、それぞれ列方向に連続する6画素にて得られた情報電荷に基づいて、その6画素からなる画素領域の位置に対応したサンプリング点での色成分信号値を求める。
この色分離処理の具体例として、奇数列上の連続6画素からなる画素領域に対する処理を説明する。(2)(3)式の表現に合わせて、処理対象の画素領域を第(2μ−1)列の第(6λ−5)〜6λ行に位置する6画素からなる領域とする。信号処理回路は処理対象の画素領域を代表するサンプリング点P(2λ−1,2μ−1)でのG信号値〈G〉(≡〈G(2λ−1,2μ−1)〉)とB信号値〈B〉(≡〈B(2λ−1,2μ−1)〉)とを求める。このとき、当該画素領域内でのG、Bそれぞれの値を一定値〈G〉,〈B〉とみなす近似の下では、(2)(3)式は、
D(2λ−1,2μ−1)= 〈G〉+2〈B〉 …(6)
D(2λ ,2μ−1)=2〈G〉+ 〈B〉 …(7)
となる。これらより、当該画素領域のサンプリング点での信号値〈G〉,〈B〉は、
〈G〉=〔2D(2λ ,2μ−1)−D(2λ−1,2μ−1)〕/3 …(8)
〈B〉=〔2D(2λ−1,2μ−1)−D(2λ ,2μ−1)〕/3 …(9)
によって与えられる。信号処理回路は(8)(9)式を計算して〈G〉,〈B〉を求める。
D(2λ−1,2μ−1)= 〈G〉+2〈B〉 …(6)
D(2λ ,2μ−1)=2〈G〉+ 〈B〉 …(7)
となる。これらより、当該画素領域のサンプリング点での信号値〈G〉,〈B〉は、
〈G〉=〔2D(2λ ,2μ−1)−D(2λ−1,2μ−1)〕/3 …(8)
〈B〉=〔2D(2λ−1,2μ−1)−D(2λ ,2μ−1)〕/3 …(9)
によって与えられる。信号処理回路は(8)(9)式を計算して〈G〉,〈B〉を求める。
偶数列(第2μ列)の第(6λ−5)〜6λ行に位置する6画素からなる画素領域に対するサンプリング点P(2λ−1,2μ)でのR,Gそれぞれの信号値〈R〉,〈G〉は、(4)(5)式に基づいて同様にして決定される。このようにして、合成画像信号の第(2λ−1)行と第2λ行とから列毎に信号値の組〈G〉及び〈B〉、又は〈R〉及び〈G〉が求められる。
また同様に、合成画像信号の第2λ行と第(2λ+1)行とからも列毎に信号値の組〈G〉及び〈B〉、又は〈R〉及び〈G〉が求められる。このように色分離処理に用いる2行からなる合成画像信号の組を1行ずつずらして当該色分離処理を行うことにより、合成画像信号と同等行数の色成分信号が得られる。
上述のようにCCDイメージセンサにおいて複数行(n行)を加算合成して読み出すことにより、フレームレートを上げることができるが、モザイク配列のカラーフィルタを搭載したCCDイメージセンサでは一般に、合成画像信号から色成分信号を分離する必要が生じる。
従来技術は、合成画像信号を2行用い、それぞれの同じ列位置に対応する信号値に基づいて1つのサンプリング点での色成分信号を求める。つまり、1つのサンプリング点での色成分信号は、列方向に連続する2n個の画素(2n行×1列の画素領域)の情報電荷の影響を受ける。そのため、垂直方向(列方向)の解像度と水平方向(行方向)の解像度との違いが大きくなったり、加算合成される行数以上に垂直方向の解像度が劣化するおそれがあるという問題があった。
本発明は上記問題点を解決することを目的とし、複数行を加算合成して読み出された合成画像信号から色成分信号を分離する場合に、垂直方向の解像度を良好に保ち、また垂直方向及び水平方向の解像度を近づけた良好な画像が得られる固体撮像素子及び画像信号処理装置を提供することを目的とする。
本発明に係る固体撮像素子においては、各受光画素列のうち列方向の加算合成処理の対象となる所定行範囲に位置する部分列それぞれについて、当該部分列を含み互いに行方向に所定の位置関係にあるL個(L≧2)の前記部分列Fj(1≦j≦L)からなる部分列セットを有し、前記部分列セットに含まれる前記部分列の個数Lが、当該部分列セットに含まれる前記受光画素の色感度特性の種類数に基づいて定められ、前記部分列Fj内に含まれ前記色感度特性が第kの色(1≦k≦L)に対応した前記受光画素の数wjkを第j行第k列の成分として構成した行列は、正則行列であることを特徴とする。
本固体撮像素子が加算合成処理において受光画素アレイの第αs〜αe行(αs<αe)の情報電荷を加算合成するように用いられる場合、この行範囲の各列、すなわち長さ(αe−αs+1)個の画素列それぞれが部分列である。部分列セットは当該行範囲に存在する部分列からなる組であり、各部分列毎に定義される。受光画素アレイの色感度特性の種類数をρとする。ρは例えば固体撮像素子に装着されるカラーフィルタの色種類数に応じて定まる。カラーフィルタは多くの場合、例えばRGBのように3色で構成され、その場合にはρ=3である。しかし、本発明では2種類以上の任意の色数に適用可能であり、よってρは2以上の整数である。或る部分列が色感度特性に関しρ種類、つまり全ての色種類の受光画素を含んでいる場合、当該部分列に対する部分列セットを構成する部分列の個数Lはρである。一方、ある部分列がρより少ない色数ρ’の受光画素であっても、Lはρ’より大きな値となり得る。Lは部分列セットを構成する部分列のうちの最大の色数に合わされるからである。部分列セットを構成するL個の部分列Fjは、各部分列Fjの色感度特性毎の受光画素数wjk(kは色種別に対応したインデックスである)を第j行第k列の成分とするL行L列の正方行列が正則行列であるという条件(条件I)と、構成要素の部分列が互いに行方向に所定の位置関係にあるという条件(条件II)とを満たす。換言すれば、受光画素アレイの所定行範囲(第αs〜αe行)での異なる色感度特性を有する受光画素の配列を定める際に、各部分列に対して条件I及び条件IIを満たす部分列セットが存在するように配慮がなされる。条件Iは当該正方行列に逆行列が存在することと同義であり、当該条件により、下記(10)式の連立一次方程式が解けることが保証される。条件IIは水平方向の解像度を保証するためのものである。受光画素アレイ上での部分列セットの行方向の幅は、当該部分列セットに基づいて得られる色成分毎の画像信号の水平方向の解像度に影響を与える。部分列セットを構成する部分列Fjを互いに行方向に所定の位置関係にあるとすることで、部分列セットの幅をいずれの部分列に対しても同等とすることができ、水平方向の各点での解像度を一様とすることができる。また部分列セットの幅は水平方向の許容解像度に応じて定められる。また垂直方向の解像度は部分列の長さに応じて定まるので、部分列セットの幅を部分列の長さに応じて定めて、垂直方向及び水平方向それぞれの解像度の均等化することができる。
本発明に係る画像信号処理装置は、上記固体撮像素子における複数行数の前記所定行範囲内の各行を列方向に加算合成した混色の画像信号を入力され、当該画像信号に基づいて各色成分毎の画像信号を生成するものであって、前記加算合成により得られた前記画像信号に基づき、前記部分列セットを構成する前記部分列Fj(1≦j≦L)それぞれについて合成信号値Sjを取得し、
で表される連立一次方程式を満たすCk(1≦k≦L)を、前記受光画素アレイ内での前記部分列セットの位置に応じたサンプリング点での前記第kの色の画像信号値として算出する色成分算出部を有することを特徴とする。
他の本発明に係る固体撮像素子においては、受光画素アレイの第(2n−1)列及び第(2n+1)列(n≧1)は、それぞれ色感度特性が第1の色に対応した受光画素と第2の色に対応した受光画素とが交互に配列され、かつ前記色感度特性の配列周期が互いに列方向に1画素ずれており、前記受光画素アレイの第2n列及び第(2n+2)列は、それぞれ前記色感度特性が第1の色に対応した前記受光画素と第3の色に対応した前記受光画素とが交互に配列され、かつ前記色感度特性の配列周期が互いに列方向に1画素ずれていることを特徴とする。
他の本発明に係る画像信号処理装置は、上記固体撮像素子における奇数行数の所定行範囲内の各行を列方向に加算合成した混色の画像信号を入力され、当該画像信号に基づいて各色成分毎の画像信号を生成する画像信号処理装置であって、前記加算合成により得られた前記画像信号に基づき、前記受光画素アレイの第(2n−1)列(n≧1)の前記所定行範囲に位置する部分列FO1についての合成信号SO1、第(2n+1)列の前記所定行範囲に位置する部分列FO2についての合成信号SO2、第2n列の前記所定行範囲に位置する部分列FE1についての合成信号SE1、及び第(2n+2)列の前記所定行範囲に位置する部分列FE2についての合成信号SE2を取得し、
(1)前記部分列FO1及び前記部分列FO2に含まれる前記第1の色に対応する前記受光画素の数をそれぞれwO11、wO21、前記第2の色に対応する前記受光画素の数をそれぞれwO12、wO22として、
で表される連立一次方程式を満たすCOk(kは1又は2)をそれぞれ、前記受光画素アレイ内での前記部分列FO1及び前記部分列FO2の位置に応じたサンプリング点での第kの色の画像信号値として算出すること、及び、
(2)前記部分列FE1及び前記部分列FE2に含まれる前記第1の色に対応する前記受光画素の数をそれぞれwE11、wE21、前記第3の色に対応する前記受光画素の数をそれぞれwE13、wE23として、
で表される連立一次方程式を満たすCEk(kは1又は3)をそれぞれ、前記受光画素アレイ内での前記部分列FE1及び前記部分列FE2の位置に応じたサンプリング点での第kの色の画像信号値として算出することを行う色成分算出部を有することを特徴とする。
(1)前記部分列FO1及び前記部分列FO2に含まれる前記第1の色に対応する前記受光画素の数をそれぞれwO11、wO21、前記第2の色に対応する前記受光画素の数をそれぞれwO12、wO22として、
(2)前記部分列FE1及び前記部分列FE2に含まれる前記第1の色に対応する前記受光画素の数をそれぞれwE11、wE21、前記第3の色に対応する前記受光画素の数をそれぞれwE13、wE23として、
以下、本発明の実施の形態(以下実施形態という)について、図面に基づいて説明する。
[実施形態1]
図1は、本発明に係るCCDイメージセンサを用いた撮像装置の概略構成を示すブロック図である。この撮像装置は、CCDイメージセンサ20、クロック発生回路22、タイミング制御回路24、アナログ信号処理回路26、A/D変換回路28及びデジタル信号処理回路30を備えている。また図示しないメカニカルシャッタを撮像部20iの前面に備える。
図1は、本発明に係るCCDイメージセンサを用いた撮像装置の概略構成を示すブロック図である。この撮像装置は、CCDイメージセンサ20、クロック発生回路22、タイミング制御回路24、アナログ信号処理回路26、A/D変換回路28及びデジタル信号処理回路30を備えている。また図示しないメカニカルシャッタを撮像部20iの前面に備える。
CCDイメージセンサ20はここではフレーム転送型のものであり、半導体基板表面に形成された撮像部20i、蓄積部20s、水平転送部20h及び出力部20dを備える。イメージセンサ20は、例えば、撮像部20iの全セルを用いて高解像度の静止画を撮影する用途に用いられる。一方、それほど解像度を要しないプレビュー画面への表示や動画撮影の用途にも用いられる。
撮像部20iには入射光量に応じた電荷(情報電荷)を発生するセル(画素)が複数、行列配置される。撮像部20iにはカラーフィルタが装着され、これにより各セルに色感度特性が付与される。撮像部20iに行列配置されたセルの各列は垂直CCDシフトレジスタを構成する。この撮像部20iの垂直CCDシフトレジスタは基板上に行方向に複数本渡されたゲート電極を備え、これらゲート電極に印加される3相クロックφiによって、撮像部20iでの情報電荷の蓄積及び垂直転送が制御される。
蓄積部20sは遮光膜で覆われ、光の入射による電荷発生を防止される。蓄積部20sは、行方向に複数配列された垂直CCDシフトレジスタを備える。蓄積部20sの垂直CCDシフトレジスタは、撮像部20iの垂直CCDシフトレジスタそれぞれに対応して設けられる。撮像部20iと蓄積部20sとの互いに対応する垂直CCDシフトレジスタはチャネルが連続し、両シフトレジスタを同期させて駆動することにより、撮像部20iで蓄積された情報電荷を蓄積部20sへ転送することができる。ちなみに、蓄積部20sの垂直CCDシフトレジスタは、後述する理由から撮像部20iの行数の少なくとも1/3に応じたビット数を有する。蓄積部20sの垂直CCDシフトレジスタは撮像部20iと同様、行方向に渡されたゲート電極を複数本備え、これらゲート電極に印加される3相クロックφsによって、蓄積部20sでの情報電荷の蓄積及び垂直転送が制御される。
設定された露光時間が経過すると、撮像部20iに蓄積された情報電荷は、蓄積部20sを経由して水平転送部20hに垂直転送される。水平転送部20hはその複数本のゲート電極に印加される水平転送クロックφhに応じて、蓄積部20sからライン転送された情報電荷を順次、出力部20dに転送する。出力部20dは、電気的に独立した容量及びその電位変化を取り出すアンプからなり、水平転送部20hから出力される情報電荷を1ビット単位で容量に受けて電圧値に変換し、時系列の画像信号として出力する。
イメージセンサ20により静止画を撮影する際には、メカニカルシャッタを開閉動作することによって露光時間が調節されると共に、蓄積された情報電荷が撮像部20iの垂直CCDシフトレジスタ内を転送される際に、メカニカルシャッタは閉じられスミアの発生を防止する。クロック発生回路22は、メカニカルシャッタを閉じると、φi及びφsを同期させて駆動し、撮像部20iに蓄積された情報電荷を1行ずつ水平転送部20hに垂直転送する。水平転送部20hにライン転送された情報電荷は、クロック発生回路22が発生する水平転送クロックφhにより順次、出力部20dに排出される。
一方、プレビュー時や動画撮影時には静止画撮影時に比べ高いフレームレートが必要とされるため、メカニカルシャッタを用いると開閉動作が頻繁となり消費電力が増加する。そこで、この場合にはメカニカルシャッタを開放状態に維持したまま、クロック発生回路22は露光期間が終了すると撮像部20iから蓄積部20sへのフレーム転送を行う。高フレームレートでの撮影を可能とするために、プレビュー時や動画撮影時にはクロック発生回路22は、複数行を加算合成して読み出すようにイメージセンサ20を駆動する。これにより水平転送部20hの駆動回数が減るので、フレームレートの向上が図られる。複数行の加算合成は、撮像部20iから蓄積部20sへの転送時に行われる。本実施形態では3行の情報電荷を加算して1行の情報電荷とする動作が行われる。その動作では撮像部20iから蓄積部20sへ3行分の情報電荷が垂直転送される間、蓄積部20sの駆動を停止させ、それら3行分の情報電荷を撮像部20iに隣接する蓄積部20sの1行に蓄積させる。すなわち、クロック発生回路22はクロックφiを3サイクル駆動するとφsを1サイクル駆動させ、これにより、撮像部20iの3行分が蓄積部20sに移る際に合成され、3行の合成が完了する毎に蓄積部20sの各行に保持される合成された情報電荷が1行ずつ垂直転送される。合成された情報電荷は蓄積部20sから水平転送部20hにライン転送され、クロック発生回路22が発生する水平転送クロックφhにより順次、水平転送部20hから出力部20dに排出される。
蓄積部20sはメカニカルシャッタを使用しないプレビュー時及び動画撮影時において、撮像部20iからフレーム転送される情報電荷を一時的に保持するために設けられている。つまり、メカニカルシャッタを使用する静止画撮影時においては蓄積部20sは特に必要ではなく、また上述のようにプレビュー時及び動画撮影時には、蓄積部20sへの転送時に3行の情報電荷が加算合成され1行とされるので、蓄積部20sを構成する垂直シフトレジスタの最小のビット数は、撮像部20iを構成する垂直シフトレジスタのビット数の1/3とすることができる。
なお、タイミング制御回路24は垂直同期信号VD及び水平同期信号HDに基づいて、撮像装置各部に対する各種のタイミング信号を生成する。クロック発生回路22はタイミング制御回路24から供給されるタイミング信号に基づいて、φi,φs,φh等の各種クロックを生成する。
アナログ信号処理回路26は、CCDイメージセンサ20から出力される画像信号Y0(t)を取り込んで、サンプルホールド、ゲイン調整等の各種のアナログ信号処理を施す。A/D変換回路28は、アナログ信号処理の施された画像信号Y1(t)を取り込み、1画素毎にデジタル信号に変換して画像データD1(n)として出力する。
デジタル信号処理回路30は画像データD1(n)から輝度データや色データを生成し、その他、生成したデータに対して輪郭補正やガンマ補正等の処理も施し、画像データD2(n)を出力する。デジタル信号処理回路30は、補間処理を行う補間処理部32を有している。モザイク配列のカラーフィルタでは、同じ色は受光画素アレイの中に離散配置される。そのため、同じ色に対応する画像データD1(n)は、2次元配置されたサンプリング点のうち行方向、列方向に間隔を置いた点で得られる。補間処理部32は、離散的な点で定義された同じ色のD1(n)に基づいて補間処理を行い、間に位置するサンプリング点での当該色の画像データを生成する。この処理を各色について行うことにより、デジタル信号処理回路30から出力される画像データD2(n)においては、各サンプリング点にて各色の成分値が定義される。
またデジタル信号処理回路30は、色成分算出部34を有している。上述のプレビュー又は動画撮影では3行加算合成を行う結果、イメージセンサ20からは複数の色が混ざった画像信号が出力される。色成分算出部34は、複数の色成分が混合された画像データD1(n)から各色成分信号を分離する演算処理を行う。その処理については後述する。
静止画撮影における当該補間処理について述べる。静止画撮影では、撮像部20iで得られた各行の情報電荷はそのまま1行単位で水平転送部20hに転送され、水平転送部20hの各ビットにはそれぞれ撮像部20iの1画素分の情報電荷が蓄積される。水平転送部20hを水平転送駆動することにより、出力部20dから各画素の情報電荷に応じた画像信号が出力される。すなわち、静止画撮影時の画像データD1(n)は撮像部20iの1画素の情報電荷により定まり、これは、D1(n)がカラーフィルタの構成色のいずれか1色の成分のみからなることを意味する。よって、静止画撮影においては、基本的に単色成分であるD1(n)に直接、補間処理を施して、各サンプリング点での各色の成分値を定めることができる。すなわち、静止画撮影における処理では色成分算出部34は用いられない。
一方、プレビュー時又は動画撮影時においては、上述のように、列方向に並ぶ3画素の情報電荷が加算合成されて出力部20dから読み出される。モザイク配列のカラーフィルタでは列方向に並ぶ3画素は通常、複数色の画素を含むので、画像データD1(n)は複数色成分からなる。そのため、デジタル信号処理回路30は、まず、色成分算出部34により、D1(n)に含まれる色成分を算出し、しかる後、その色成分信号に対して補間処理部32により補間処理を行う。
以下、本撮像装置における色成分算出部34の処理を説明する。イメージセンサ20は撮像部20iに図2に示す配列のカラーフィルタを有し、色成分算出部34はこの配列のカラーフィルタに対応した処理を行う。図2に示すフィルタにおいて、行番号αは撮像部20iの蓄積部20s(又は水平転送部20h)寄りの行から、また列番号βは出力部20d寄りの列から順に付す。図2に示すカラーフィルタは例えば、RGBの3色からなり、受光画素アレイの各奇数列にG,Bが交互に配列され、かつ隣り合う2つの奇数列はG,Bの配列周期が互いに列方向に1画素ずれている。また受光画素アレイの各偶数列にR,Gが交互に配列され、かつ隣り合う2つの偶数列はR,Gが互いに列方向に1画素ずれて配列される。この配列は、行番号α及び列番号βで指定される受光画素PX(α,β)の色(色感度特性)C(α,β)として、次式で表される。
C(2λ-1,4μ-3)=C(2λ ,4μ-1)=B
C(2λ-1,4μ )=C(2λ ,4μ-2)=R
C(2λ-1,4μ-2)=C(2λ-1,4μ-1)=C(2λ ,4μ-3)=C(2λ ,4μ )=G
(但し、λ,μは自然数) …(13)
C(2λ-1,4μ )=C(2λ ,4μ-2)=R
C(2λ-1,4μ-2)=C(2λ-1,4μ-1)=C(2λ ,4μ-3)=C(2λ ,4μ )=G
(但し、λ,μは自然数) …(13)
このカラーフィルタを装着されたCCDイメージセンサ20は、プレビュー時又は動画撮影時に上述の3行加算合成動作を行う。その結果、CCDイメージセンサ20から出力される第a行の合成画像信号(a≧1)は、撮像部20iの第(3a−2)〜3a行の情報電荷が合成されたものとなる。
以下、撮像部20iの画素PX(α,β)に対応する信号値を、当該画素の色R,G,Bそれぞれに対応させて記号R(α,β)、G(α,β)、B(α,β)で表し、またCCDイメージセンサから出力される第a行の出力画像信号において撮像部第b列に対応する画像信号値を記号D(a,b)で表す。
イメージセンサ20において3行加算合成して得られる画像信号のうち奇数行出力には、色混合割合が異なる次の4種類の画像信号値Dが存在する。これらが出力順に従って画像データD1(n)として抽出され、デジタル信号処理回路30に入力される。
D(2λ-1,4μ-3)=B(6λ-5,4μ-3)+G(6λ-4,4μ-3)+B(6λ-3,4μ-3) …(14)
D(2λ-1,4μ-2)=G(6λ-5,4μ-2)+R(6λ-4,4μ-2)+G(6λ-3,4μ-2) …(15)
D(2λ-1,4μ-1)=G(6λ-5,4μ-1)+B(6λ-4,4μ-1)+G(6λ-3,4μ-1) …(16)
D(2λ-1,4μ )=R(6λ-5,4μ )+G(6λ-4,4μ )+R(6λ-3,4μ ) …(17)
(λ、μは自然数)
D(2λ-1,4μ-2)=G(6λ-5,4μ-2)+R(6λ-4,4μ-2)+G(6λ-3,4μ-2) …(15)
D(2λ-1,4μ-1)=G(6λ-5,4μ-1)+B(6λ-4,4μ-1)+G(6λ-3,4μ-1) …(16)
D(2λ-1,4μ )=R(6λ-5,4μ )+G(6λ-4,4μ )+R(6λ-3,4μ ) …(17)
(λ、μは自然数)
また、3行加算合成して得られる偶数行出力には、色混合割合が異なる次の4種類の画像信号値Dが存在し、これらが出力順に従って画像データD1(n)として抽出され、デジタル信号処理回路30に入力される。
D(2λ ,4μ-3)=G(6λ-2,4μ-3)+B(6λ-1,4μ-3)+G(6λ ,4μ-3) …(18)
D(2λ ,4μ-2)=R(6λ-2,4μ-2)+G(6λ-1,4μ-2)+R(6λ ,4μ-2) …(19)
D(2λ ,4μ-1)=B(6λ-2,4μ-1)+G(6λ-1,4μ-1)+B(6λ ,4μ-1) …(20)
D(2λ ,4μ )=G(6λ-2,4μ )+R(6λ-1,4μ )+G(6λ ,4μ ) …(21)
(λ、μは自然数)
D(2λ ,4μ-2)=R(6λ-2,4μ-2)+G(6λ-1,4μ-2)+R(6λ ,4μ-2) …(19)
D(2λ ,4μ-1)=B(6λ-2,4μ-1)+G(6λ-1,4μ-1)+B(6λ ,4μ-1) …(20)
D(2λ ,4μ )=G(6λ-2,4μ )+R(6λ-1,4μ )+G(6λ ,4μ ) …(21)
(λ、μは自然数)
デジタル信号処理回路30に入力されたD1(n)は色成分算出部34に渡される。色成分算出部34は、画像データD1(n)のうち、間に1列置いた2つのデータ(D(a,b)及びD(a,b+2)とする)を組み合わせ、それら2つのデータに合成されている6画素からなる画素領域Rの位置に応じたサンプリング点P(a,b)での色成分信号値を求める。(14)〜(21)式から理解されるように、D(a,b)及びD(a,b+2)はそれぞれ同じ2種類の色成分(Cx、Cyと表す)からなる。色成分算出部34は、画素領域R内での色Cx、Cyの値を空間的に一定の値〈Cx〉,〈Cy〉で代表させ、それら〈Cx〉,〈Cy〉を画素領域Rの色成分信号値として算出する。その計算式は、次のように表される。
〈Cx〉=〔2D(a,b)−D(a,b+2)〕/3 …(22)
〈Cy〉=〔2D(a,b+2)−D(a,b)〕/3 …(23)
〈Cy〉=〔2D(a,b+2)−D(a,b)〕/3 …(23)
ここで、奇数出力行(すなわちa=2λ−1)の処理において、
(i)b=4μ−3に対応するデータの組に対し、〈Cx〉、〈Cy〉はそれぞれ〈B〉、〈G〉を与え、
(ii)b=4μ−2に対応するデータの組に対し、〈Cx〉、〈Cy〉はそれぞれ〈G〉、〈R〉を与え、
(iii)b=4μ−1に対応するデータの組に対し、〈Cx〉、〈Cy〉はそれぞれ〈G〉、〈B〉を与え、
(iv)b=4μに対応するデータの組に対し、〈Cx〉、〈Cy〉はそれぞれ〈R〉、〈G〉を与える。
(i)b=4μ−3に対応するデータの組に対し、〈Cx〉、〈Cy〉はそれぞれ〈B〉、〈G〉を与え、
(ii)b=4μ−2に対応するデータの組に対し、〈Cx〉、〈Cy〉はそれぞれ〈G〉、〈R〉を与え、
(iii)b=4μ−1に対応するデータの組に対し、〈Cx〉、〈Cy〉はそれぞれ〈G〉、〈B〉を与え、
(iv)b=4μに対応するデータの組に対し、〈Cx〉、〈Cy〉はそれぞれ〈R〉、〈G〉を与える。
また、偶数出力行(すなわちa=2λ)の処理においては、
(v)b=4μ−3に対応するデータの組に対し、〈Cx〉、〈Cy〉はそれぞれ〈G〉、〈B〉を与え、
(vi)b=4μ−2に対応するデータの組に対し、〈Cx〉、〈Cy〉はそれぞれ〈R〉、〈G〉を与え、
(vii)b=4μ−1に対応するデータの組に対し、〈Cx〉、〈Cy〉はそれぞれ〈B〉、〈G〉を与え、
(viii)b=4μに対応するデータの組に対し、〈Cx〉、〈Cy〉はそれぞれ〈G〉、〈R〉を与える。
(v)b=4μ−3に対応するデータの組に対し、〈Cx〉、〈Cy〉はそれぞれ〈G〉、〈B〉を与え、
(vi)b=4μ−2に対応するデータの組に対し、〈Cx〉、〈Cy〉はそれぞれ〈R〉、〈G〉を与え、
(vii)b=4μ−1に対応するデータの組に対し、〈Cx〉、〈Cy〉はそれぞれ〈B〉、〈G〉を与え、
(viii)b=4μに対応するデータの組に対し、〈Cx〉、〈Cy〉はそれぞれ〈G〉、〈R〉を与える。
(22)(23)式は、例えば、上記(i)の場合に関しては、(14)(16)式にて右辺の各画素のG信号値、B信号値を代表値〈G〉、〈B〉に置き換えた次式から導かれる。ちなみに、次式は(11)式に相当する。
D(2λ−1,4μ−3)= 〈G〉+2〈B〉 …(24)
D(2λ−1,4μ−1)=2〈G〉+ 〈B〉 …(25)
D(2λ−1,4μ−1)=2〈G〉+ 〈B〉 …(25)
ここで(24)(25)式は〈G〉、〈B〉についての連立一次方程式であり、(22)(23)式はその解である。
残りの(ii)〜(viii)の場合も同様であり、(14)〜(21)式で表されるデータ値のうち、それぞれの場合におけるD(a,b)、D(a,b+2)に対応する2つの式から(22)(23)式が得られる。
さて、上述したように、複数行を加算合成して読み出す動作は、プレビュー時や動画撮影時にフレームレートを確保するために用いられる。加算される行数は、プレビュー画面表示部の解像度や動画像に要求される解像度等の面からの条件や、所要フレームレートより課される条件に基づいて、基本的には、垂直解像度が必要以上に低下しないように定められる。
一方、本実施形態及び従来技術での行加算合成された画像データから色成分を分離する処理では、合成された画像データが複数個組み合わされ、それらデータに対応する画素領域R内で平滑化された各色成分値が算出される。この色分離処理での平滑化は、行加算合成とは別の解像度低下要因である。例えば、色分離処理に用いる複数のデータを合成画像信号の複数行から取得すると、画素領域Rの垂直方向のサイズが加算行数より拡大する。そのため、この場合には、分離処理にて得られた色成分信号により形成される画像の垂直解像度は、行加算合成による低下以上に劣化する。
これに対し、本発明では、合成画像信号の同じ行に属するデータD(a,b)、D(a,b+2)を用いてサンプリング点P(a,b)での色成分信号が算出される。つまり本発明の画素領域Rの垂直方向のサイズ、範囲は加算される行に一致している。そのため、色分離処理を行っても、画像の垂直解像度は行加算合成による低下以上には劣化しない。また、画素領域Rの垂直方向のサイズと水平方向のサイズとが同程度になることにより、垂直方向と水平方向の解像度の均衡化が図られる。
なお、合成画像信号の複数行からデータを取得する処理方法では、先にイメージセンサ20から出力される合成画像信号を記憶するラインメモリが必要となる。これに対し、本実施形態の処理方法では、合成画像信号として直近に得られた画像データD(a,b+2)と同一行にて2画素先行する画像データD(a,b)とが処理に用いられる。よって、本実施形態では基本的には、直近に得られた画像データD(a,b+2)に組み合わされる画像データD(a,b)を記憶する1画素分のレジスタと、次に得られる画像データD(a,b+3)に組み合わされる画像データD(a,b+1)を記憶する1画素分のレジスタとがあれば上述の色分離処理を行うことができる。
上述のように色成分算出部34により奇数列の各サンプリング点P(a,2η−1)に対し〈G〉(≡〈G〉2η−1)及び〈B〉(≡〈B〉2η−1)が求められ、偶数列の各サンプリング点P(a,2η)に対し〈R〉(≡〈R〉2η)及び〈G〉(≡〈G〉2η)が求められる。この色成分算出部34の出力は補間処理部32に渡される。
補間処理部32は、水平方向に補間処理を行って、各サンプリング点に欠けている種類の色成分値を求める。その結果、各サンプリング点に対しRGBそれぞれの色成分値が求まる。ここでは補間処理として、各サンプリング点にて水平方向に(1,2,1)フィルタリング処理を行う。当該フィルタリング処理は、次式で表される。ここで《R》ξ,《G》ξ,《B》ξはサンプリング点P(a,ξ)での処理結果のRGB値、Rζ,Gζ,Bζ(ζ=ξ−1,ξ,ξ+1)は色成分算出部34によってサンプリング点P(a,ζ)に対し求められたRGB成分値である。
《R》ξ=(Rξ−1+2Rξ+Rξ+1)/2 …(26)
《B》ξ=(Bξ−1+2Bξ+Bξ+1)/2 …(27)
《G》ξ=(Gξ−1+2Gξ+Gξ+1)/4 …(28)
《B》ξ=(Bξ−1+2Bξ+Bξ+1)/2 …(27)
《G》ξ=(Gξ−1+2Gξ+Gξ+1)/4 …(28)
ここで、G成分についてはGξ−1=〈G〉ξ−1、Gξ=〈G〉ξ、Gξ+1=〈G〉ξ+1である。一方、RB成分については、ξが奇数の場合には、Rξ−1=〈R〉ξ−1、Rξ+1=〈R〉ξ+1、Bξ=〈B〉ξ、Rξ=Bξ−1=Bξ+1=0であり、ξが偶数の場合には、Bξ−1=〈B〉ξ−1、Bξ+1=〈B〉ξ+1、Rξ=〈R〉ξ、Bξ=Rξ−1=Rξ+1=0である。よって、補間処理部32は、奇数列のサンプリング点に対し、
《R》ξ=(〈R〉ξ−1+ 〈R〉ξ+1)/2 …(29)
《B》ξ= 〈B〉ξ …(30)
《G》ξ=(〈G〉ξ−1+2〈G〉ξ+〈G〉ξ+1)/4 …(31)
を出力し、偶数列のサンプリング点に対して、
《R》ξ= 〈R〉ξ …(32)
《B》ξ=(〈B〉ξ−1+ 〈B〉ξ+1)/2 …(33)
《G》ξ=(〈G〉ξ−1+2〈G〉ξ+〈G〉ξ+1)/4 …(34)
を出力する。
《R》ξ=(〈R〉ξ−1+ 〈R〉ξ+1)/2 …(29)
《B》ξ= 〈B〉ξ …(30)
《G》ξ=(〈G〉ξ−1+2〈G〉ξ+〈G〉ξ+1)/4 …(31)
を出力し、偶数列のサンプリング点に対して、
《R》ξ= 〈R〉ξ …(32)
《B》ξ=(〈B〉ξ−1+ 〈B〉ξ+1)/2 …(33)
《G》ξ=(〈G〉ξ−1+2〈G〉ξ+〈G〉ξ+1)/4 …(34)
を出力する。
デジタル信号処理回路30は補間処理部32の出力を用い、必要に応じてさらに信号処理を行って画像データD2(n)を生成して出力する。
なお、上述の構成では、図2に示すカラーフィルタの配列に対し、3行の加算合成を行う場合を説明したが、一般に5行以上の奇数行を加算合成した場合についてもその合成画像信号を同様にして色分離することができる。
[実施形態2]
上記第1の実施形態では、行加算により得られた第a行の合成画像信号の2つのサンプリング点P(a,b1),P(a,b2)でのデータ値D(a,b1),D(a,b2)から色成分が分離される。ここで、データ値D(a,b1),D(a,b2)はそれぞれ同じ2種類の色成分Cx,Cyからなり、D(a,b1)はCxの画素2個とCyの画素1個とを合成され、D(a,b2)はCxの画素1個とCyの画素2個とを合成されている。各画素の信号値を代表値〈Cx〉,〈Cy〉に置き換えると、〈Cx〉,〈Cy〉を元とする2元連立一次方程式、
D(a,b1)=2〈Cx〉+ 〈Cy〉 …(35)
D(a,b2)= 〈Cx〉+2〈Cy〉 …(36)
が得られる。この解として、(22)(23)式に相当する次式が得られる。
〈Cx〉=〔2D(a,b1)−D(a,b2)〕/3 …(37)
〈Cy〉=〔2D(a,b2)−D(a,b1)〕/3 …(38)
上記第1の実施形態では、行加算により得られた第a行の合成画像信号の2つのサンプリング点P(a,b1),P(a,b2)でのデータ値D(a,b1),D(a,b2)から色成分が分離される。ここで、データ値D(a,b1),D(a,b2)はそれぞれ同じ2種類の色成分Cx,Cyからなり、D(a,b1)はCxの画素2個とCyの画素1個とを合成され、D(a,b2)はCxの画素1個とCyの画素2個とを合成されている。各画素の信号値を代表値〈Cx〉,〈Cy〉に置き換えると、〈Cx〉,〈Cy〉を元とする2元連立一次方程式、
D(a,b1)=2〈Cx〉+ 〈Cy〉 …(35)
D(a,b2)= 〈Cx〉+2〈Cy〉 …(36)
が得られる。この解として、(22)(23)式に相当する次式が得られる。
〈Cx〉=〔2D(a,b1)−D(a,b2)〕/3 …(37)
〈Cy〉=〔2D(a,b2)−D(a,b1)〕/3 …(38)
この第1の実施形態での色分離処理から理解されることを一般的に述べると次のようになる。第a行の合成画像信号の複数のサンプリング点から得られるデータに基づいて、L種類の色成分を求めるためには、L個のサンプリング点P(a,bj)(1≦j≦L)のデータ値D(a,bj)を取得する。そして、それらL個のデータ値それぞれについて、当該データ値に含まれる各画素の信号成分を当該画素の色に対応した代表値〈Ck〉(1≦k≦L)に置換してL個の式
を得る。(39)式は〈Ck〉を元とするL元連立一次方程式を構成し、その解が、L個のデータ値D(a,bj)を構成する画素群からなる画素領域Rに対応したサンプリング点での色成分信号を与える。
連立方程式(39)が解を持つ必要十分条件は、(39)式右辺の係数に現れる受光画素数wjkを第j行第k列の成分とするL行L列の行列が正則行列であることである(条件I)。この条件が満たされれば、画素領域Rに対応する色成分信号が求められる。
また画素領域Rの行方向のサイズが小さい程、基本的に水平解像度は良好となる。そこで、条件Iを満たすL個のデータD(a,bj)は、互いに近接する位置関係にあるサンプリング点P(a,bj)から得られることが要求される(条件II)。
本実施形態のCCDイメージセンサは、加算される複数行からなる各行セット毎に、行方向に複数設定される各画素領域Rそれぞれが上記条件I、IIを満たすように定められたカラーフィルタを備える。
ここで、CCDイメージセンサ及び撮像装置の基本的な構成は上記第1の実施形態と共通であり、以下、同様の構成要素は同じ符号で表すと共に図1を援用する。
図3は、本発明の第2の実施形態に係る第1のカラーフィルタ配列を示す模式図である。この図において行番号α、列番号βは図2のカラーフィルタと同様に付される。このカラーフィルタを装着されたCCDイメージセンサ20において、プレビューや動画撮影を行う場合、撮像部20iに蓄積された情報電荷は3行ずつ加算合成され、出力部20dからは合成画像信号が出力される。ここで、撮像部20iの第(3a−2)〜3a行が加算されて第a行の合成画像信号が生成される。
この合成画像信号から生成された画像データD1(n)は色成分算出部34に渡される。色成分算出部34は、画像データD1(n)のうち、間に1列置いた2つのデータD(a,b)及びD(a,b+2)を組み合わせる。それら2つのデータはそれぞれ共通の2種類の色成分Cx,Cy(R及びG、又はG及びB)からなり、(39)式として次の2元連立方程式を与える。
D(a,b )=2〈Cx〉+ 〈Cy〉 …(40)
D(a,b+2)= 〈Cx〉+2〈Cy〉 …(41)
D(a,b+2)= 〈Cx〉+2〈Cy〉 …(41)
(40)(41)式を(35)(36)式と比較すれば明らかなように、図3のカラーフィルタから得られる2つのデータD(a,b)及びD(a,b+2)に基づいて、対応する画素領域R(サンプリング点P(a,b))でのCx及びCyの成分信号値〈Cx〉,〈Cy〉を求めることができる。ちなみに、(40)(41)式の右辺各項の係数よりw11=w22=2,w12=w21=1であり、それらwjkを第j行第k列の成分とする2行2列の行列は、その行列式の値が0でないことから、正則であることが確かめられる。
図4は、本発明の第2の実施形態に係る第2のカラーフィルタ配列を示す模式図である。この図において行番号α、列番号βは上記各カラーフィルタと同様に付されている。このカラーフィルタの配列は、行番号α及び列番号βで指定される受光画素PX(α,β)の色C(α,β)として、次式で表される。
C(2λ ,6μ-2)=C(2λ-1,6μ-5)=C(4λ-3,6μ-3)=C(4λ ,6μ)=B
C(2λ ,6μ-4)=C(2λ-1,6μ-1)=C(4λ-1,6μ-3)=C(4λ-2,6μ)=R
C(2λ ,2μ-1)=C(2λ-1,2μ )=G
(但し、λ,μは自然数) …(42)
C(2λ ,6μ-4)=C(2λ-1,6μ-1)=C(4λ-1,6μ-3)=C(4λ-2,6μ)=R
C(2λ ,2μ-1)=C(2λ-1,2μ )=G
(但し、λ,μは自然数) …(42)
このカラーフィルタを装着されたCCDイメージセンサ20において、プレビューや動画撮影を行う場合、撮像部20iに蓄積された情報電荷は、例えば5行ずつ加算合成され、出力部20dからは合成画像信号が出力される。例えば、撮像部20iの第(5a−4)〜5a行が加算されて第a行の合成画像信号が生成される。
色成分算出部34は、サンプリング点P(a,b)での色成分信号を求めるために、この合成画像信号から生成された第a行の画像データD1(n)のうち、連続する3つのデータD(a,b),D(a,b+1),D(a,b+2)(b≧1)を組み合わせる。例えば、サンプリング点P(a,1)、すなわちb=1の場合、当該3つのデータは(39)式に対応する次の3元連立方程式を与える。
D(a,b )= 2〈G〉+3〈B〉 …(43)
D(a,b+1)=2〈R〉+3〈G〉 …(44)
D(a,b+2)= 〈R〉+2〈G〉+2〈B〉 …(45)
D(a,b+1)=2〈R〉+3〈G〉 …(44)
D(a,b+2)= 〈R〉+2〈G〉+2〈B〉 …(45)
(43)〜(45)式の右辺各項の係数で構成される3行3列の行列(係数行列)は、その行列式の値が0でないことから正則であり、この3元連立方程式は解を有する。色成分算出部34はこの連立方程式の解〈R〉,〈G〉,〈B〉を求め、それらをサンプリング点P(a,b)での色成分信号として出力する。
データD(a,b),D(a,b+1),D(a,b+2)に基づいて得られる3元連立方程式の形はaの値に応じて周期的(周期4)に変化し、またbの値に応じて周期的(周期6)に変化するが、いずれのa,bの組に対する方程式も、それに対応する係数行列が正則となる。よって、色成分算出部34は、各bの値での3つのデータ値に基づいて、対応する各サンプリング点P(a,b)でのRGB各色の色成分信号を求めることができる。
20 イメージセンサ、20i 撮像部、20s 蓄積部、20h 水平転送部、20d 出力部、22 クロック発生回路、24 タイミング制御回路、26 アナログ信号処理回路、28 A/D変換回路、30 デジタル信号処理回路、32 補間処理部、34 色成分算出部。
Claims (4)
- 色感度特性の異なる複数の受光画素が行列配置された受光画素アレイと、前記受光画素の列にて生成された複数の情報電荷パケットを列毎にそれぞれ垂直転送する複数の垂直シフトレジスタと、前記複数の垂直シフトレジスタから1行ずつ転送される複数の前記情報電荷パケットを水平転送して出力する水平シフトレジスタとを有した固体撮像素子において、
各受光画素列のうち列方向の加算合成処理の対象となる所定行範囲に位置する部分列それぞれについて、当該部分列を含み互いに行方向に所定の位置関係にあるL個(L≧2)の前記部分列Fj(1≦j≦L)からなる部分列セットを有し、
前記部分列セットに含まれる前記部分列の個数Lは、当該部分列セットに含まれる前記受光画素の前記色感度特性の種類数に基づいて定められ、
前記部分列Fj内に含まれ前記色感度特性が第kの色(1≦k≦L)に対応した前記受光画素の数wjkを第j行第k列の成分として構成した行列は、正則行列であること、
を特徴とする固体撮像素子。 - 色感度特性の異なる複数の受光画素が行列配置された受光画素アレイと、前記受光画素の列にて生成された複数の情報電荷パケットを列毎にそれぞれ垂直転送する複数の垂直シフトレジスタと、前記複数の垂直シフトレジスタから1行ずつ転送される複数の前記情報電荷パケットを水平転送して出力する水平シフトレジスタとを有した固体撮像素子において、
前記受光画素アレイの第(2n−1)列及び第(2n+1)列(n≧1)は、それぞれ前記色感度特性が第1の色に対応した前記受光画素と第2の色に対応した前記受光画素とが交互に配列され、かつ前記色感度特性の配列周期が互いに列方向に1画素ずれており、
前記受光画素アレイの第2n列及び第(2n+2)列は、それぞれ前記色感度特性が第1の色に対応した前記受光画素と第3の色に対応した前記受光画素とが交互に配列され、かつ前記色感度特性の配列周期が互いに列方向に1画素ずれていること、
を特徴とする固体撮像素子。 - 請求項2に記載の固体撮像素子における奇数行数の所定行範囲内の各行を列方向に加算合成した混色の画像信号を入力され、当該画像信号に基づいて各色成分毎の画像信号を生成する画像信号処理装置であって、
前記加算合成により得られた前記画像信号に基づき、前記受光画素アレイの第(2n−1)列(n≧1)の前記所定行範囲に位置する部分列FO1についての合成信号SO1、第(2n+1)列の前記所定行範囲に位置する部分列FO2についての合成信号SO2、第2n列の前記所定行範囲に位置する部分列FE1についての合成信号SE1、及び第(2n+2)列の前記所定行範囲に位置する部分列FE2についての合成信号SE2を取得し、
前記部分列FO1及び前記部分列FO2に含まれる前記第1の色に対応する前記受光画素の数をそれぞれwO11、wO21、前記第2の色に対応する前記受光画素の数をそれぞれwO12、wO22として、
前記部分列FE1及び前記部分列FE2に含まれる前記第1の色に対応する前記受光画素の数をそれぞれwE11、wE21、前記第3の色に対応する前記受光画素の数をそれぞれwE13、wE23として、
を特徴とする画像信号処理装置。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003406970A JP2005167874A (ja) | 2003-12-05 | 2003-12-05 | 固体撮像素子及び画像信号処理装置 |
US10/990,449 US20050122413A1 (en) | 2003-12-05 | 2004-11-18 | Solid-state image pickup device and image signal processor |
CNA2004101000113A CN1625268A (zh) | 2003-12-05 | 2004-11-30 | 固体摄像元件和图像信号处理装置 |
TW093137138A TWI246854B (en) | 2003-12-05 | 2004-12-02 | Solid image sensing device and image signal processing device |
KR1020040100788A KR100611701B1 (ko) | 2003-12-05 | 2004-12-03 | 고체 촬상 소자 및 화상 신호 처리 장치 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003406970A JP2005167874A (ja) | 2003-12-05 | 2003-12-05 | 固体撮像素子及び画像信号処理装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2005167874A true JP2005167874A (ja) | 2005-06-23 |
Family
ID=34631741
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003406970A Pending JP2005167874A (ja) | 2003-12-05 | 2003-12-05 | 固体撮像素子及び画像信号処理装置 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20050122413A1 (ja) |
JP (1) | JP2005167874A (ja) |
KR (1) | KR100611701B1 (ja) |
CN (1) | CN1625268A (ja) |
TW (1) | TWI246854B (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103905802A (zh) * | 2014-04-21 | 2014-07-02 | 浙江宇视科技有限公司 | 一种基于p模式色彩滤镜阵列的去马赛克方法及装置 |
Families Citing this family (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060119724A1 (en) * | 2004-12-02 | 2006-06-08 | Fuji Photo Film Co., Ltd. | Imaging device, signal processing method on solid-state imaging element, digital camera and controlling method therefor and color image data generating method |
JP4688766B2 (ja) * | 2006-09-21 | 2011-05-25 | パナソニック株式会社 | 固体撮像装置、その駆動方法およびカメラ |
JP4966035B2 (ja) * | 2007-01-26 | 2012-07-04 | 株式会社東芝 | 固体撮像装置 |
JP2008244738A (ja) * | 2007-03-27 | 2008-10-09 | Fujifilm Corp | 撮像装置および撮像素子の駆動制御方法 |
DE102007059536B4 (de) * | 2007-12-11 | 2019-06-27 | Robert Bosch Gmbh | Verfahren zum Betrieb einer Sensoranordnung und Sensoranordnung |
JP4835719B2 (ja) * | 2008-05-22 | 2011-12-14 | ソニー株式会社 | 固体撮像装置及び電子機器 |
US8537256B2 (en) * | 2009-10-07 | 2013-09-17 | Panasonic Corporation | Image pickup device and solid-state image pickup element |
JP2011253963A (ja) * | 2010-06-02 | 2011-12-15 | Sony Corp | 固体撮像素子の製造方法、固体撮像素子、撮像装置 |
JP5503458B2 (ja) * | 2010-08-24 | 2014-05-28 | パナソニック株式会社 | 固体撮像素子および撮像装置 |
US8488055B2 (en) * | 2010-09-30 | 2013-07-16 | Apple Inc. | Flash synchronization using image sensor interface timing signal |
DE112013003422B4 (de) * | 2012-07-06 | 2017-09-07 | Fujifilm Corporation | Farbbildaufnahmeelement und Bildaufnahmevorrichtung |
CN103872065B (zh) * | 2014-03-10 | 2016-09-21 | 北京空间机电研究所 | 垂直电荷转移成像探测器像元合并方法 |
CN104568368B (zh) * | 2014-12-30 | 2017-09-19 | 北京林业大学 | 风沙地表蚀积动态监测装置 |
CN105611258A (zh) * | 2015-12-18 | 2016-05-25 | 广东欧珀移动通信有限公司 | 图像传感器的成像方法、成像装置和电子装置 |
CN107728311A (zh) * | 2017-10-11 | 2018-02-23 | 重庆秉为科技有限公司 | 一种户外电润湿显示结构 |
CN113709372B (zh) * | 2021-08-27 | 2024-01-23 | 维沃移动通信(杭州)有限公司 | 图像生成方法和电子设备 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4437112A (en) * | 1980-02-15 | 1984-03-13 | Canon Kabushiki Kaisha | Solid-state color imaging apparatus |
JPS59204804A (ja) * | 1983-05-09 | 1984-11-20 | Canon Inc | カラ−フイルタ− |
JP3010899B2 (ja) * | 1992-03-18 | 2000-02-21 | ソニー株式会社 | 固体撮像装置及び固体イメージセンサの駆動制御方法 |
JPH07162874A (ja) * | 1993-12-06 | 1995-06-23 | Nec Corp | 単板式高感度カラーカメラ装置 |
JPH08317291A (ja) * | 1995-05-17 | 1996-11-29 | Hitachi Denshi Ltd | 電子内視鏡装置 |
JP4329128B2 (ja) * | 1996-07-12 | 2009-09-09 | ソニー株式会社 | 固体撮像装置、固体撮像装置の駆動方法およびカメラ |
JPH10136244A (ja) * | 1996-11-01 | 1998-05-22 | Olympus Optical Co Ltd | 電子的撮像装置 |
JP2003092763A (ja) | 2001-09-18 | 2003-03-28 | Sharp Corp | 単板式カラービデオカメラ |
JP3956719B2 (ja) * | 2002-02-26 | 2007-08-08 | 日本ビクター株式会社 | 撮像装置 |
US6744666B1 (en) * | 2002-09-12 | 2004-06-01 | Advanced Micro Devices, Inc. | Method and system to minimize page programming time for flash memory devices |
JP2006237737A (ja) * | 2005-02-22 | 2006-09-07 | Sanyo Electric Co Ltd | カラーフィルタアレイ及び固体撮像素子 |
-
2003
- 2003-12-05 JP JP2003406970A patent/JP2005167874A/ja active Pending
-
2004
- 2004-11-18 US US10/990,449 patent/US20050122413A1/en not_active Abandoned
- 2004-11-30 CN CNA2004101000113A patent/CN1625268A/zh active Pending
- 2004-12-02 TW TW093137138A patent/TWI246854B/zh not_active IP Right Cessation
- 2004-12-03 KR KR1020040100788A patent/KR100611701B1/ko not_active IP Right Cessation
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103905802A (zh) * | 2014-04-21 | 2014-07-02 | 浙江宇视科技有限公司 | 一种基于p模式色彩滤镜阵列的去马赛克方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
TW200527910A (en) | 2005-08-16 |
US20050122413A1 (en) | 2005-06-09 |
CN1625268A (zh) | 2005-06-08 |
TWI246854B (en) | 2006-01-01 |
KR100611701B1 (ko) | 2006-08-11 |
KR20050054836A (ko) | 2005-06-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US6765616B1 (en) | Electric camera | |
US7948543B2 (en) | Imaging apparatus provided with image scaling function and image data thinning-out readout function | |
JP2005167874A (ja) | 固体撮像素子及び画像信号処理装置 | |
US6377304B1 (en) | Solid-state image-pickup devices exhibiting faster video-frame processing rates, and associated methods | |
JP3970185B2 (ja) | 固体撮像素子及びデジタルカメラ | |
US7336305B2 (en) | Solid-state image capturing device, smear correcting method thereof and digital still camera using the same | |
JP4137442B2 (ja) | 固体撮像装置とそのスミア電荷除去方法並びにデジタルスチルカメラ | |
WO2006009721A1 (en) | Image sensor for still or video photography | |
JP3902525B2 (ja) | 画像信号処理装置 | |
JP4078741B2 (ja) | 固体撮像装置およびその駆動方法並びにカメラシステム | |
US7701498B2 (en) | Solid-state image pickup device, drive method therefor and camera | |
KR100525690B1 (ko) | 촬상 장치 | |
JP4284282B2 (ja) | 撮像装置及び固体撮像素子 | |
JPH08242410A (ja) | 電子カメラの順次走査センサからインタレースされた画像を作成する電子カメラ | |
JP2004153705A (ja) | 増幅型固体撮像装置及びそれを用いた撮像システム | |
US20030146996A1 (en) | Imaging apparatus | |
JPH10191364A (ja) | 撮像装置 | |
JP2003092764A (ja) | 画像信号処理装置 | |
JP4468052B2 (ja) | 撮像装置及び撮像装置の制御方法 | |
JP4022682B2 (ja) | 撮像装置及び画像出力方法 | |
JP2004215249A (ja) | 固体撮像装置及びその駆動方法、並びにカメラ | |
JP2000261817A (ja) | 撮像装置 | |
JP2004222130A (ja) | 固体撮像装置 | |
JP2000224600A (ja) | 撮像装置 | |
JPH07162874A (ja) | 単板式高感度カラーカメラ装置 |