<本技術を適用したディジタルカメラの一実施の形態>
図1は、本技術を適用したディジタルカメラの一実施の形態の構成例を示すブロック図である。
なお、ディジタルカメラは、静止画、及び、動画のいずれも撮像することができる。
図1において、ディジタルカメラは、光学系1、イメージセンサ2、メモリ3、信号処理部4、出力部5、及び、制御部6を有する。
光学系1は、例えば、図示せぬズームレンズや、フォーカスレンズ、絞り等を有し、外部からの光を、イメージセンサ2に入射させる。
イメージセンサ2は、例えば、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサであり、光学系1からの入射光を受光し、光電変換を行って、光学系1からの入射光に対応する画像データを出力する。
メモリ3は、イメージセンサ2が出力する画像データを一時記憶する。
信号処理部4は、メモリ3に記憶された画像データを用いた信号処理としての、例えば、ノイズの除去や、ホワイトバランスの調整等の処理を行い、出力部5に供給する。
出力部5は、信号処理部4からの画像データを出力する。
すなわち、出力部5は、例えば、液晶等で構成されるディスプレイ(図示せず)を有し、信号処理部4からの画像データに対応する画像を、いわゆるスルー画として表示する。
また、出力部5は、例えば、半導体メモリや、磁気ディスク、光ディスク等の記録媒体を駆動するドライバ(図示せず)を有し、信号処理部4からの画像データを記録媒体に記録する。
制御部6は、ユーザの操作等に従い、ディジタルカメラを構成する各ブロックを制御する。
以上のように構成されるディジタルカメラでは、イメージセンサ2が、光学系1からの入射光を受光し、その入射光に応じて、画像データを出力する。
イメージセンサ2が出力する画像データは、メモリ3に供給されて記憶される。メモリ3に記憶された画像データについては、信号処理部4による信号処理が施され、その結果得られる画像データが、出力部5に供給されて出力される。
<イメージセンサ2の構成例>
図2は、図1のイメージセンサ2の構成例を示すブロック図である。
図2において、イメージセンサ2は、画素アクセス部11、カラムI/F(Interface)部12、信号処理部13、及び、タイミング制御部14を有する。
画素アクセス部11は、光電変換を行う画素を内蔵し、その画素にアクセスして、画像データとなる画素値を取得して出力する。
すなわち、画素アクセス部11は、画素アレイ部21、行制御部22、カラム処理部23N及び23S、並びに、列制御部24N及び24Sを有する。
画素アレイ部21は、光電変換によって電気信号を出力する複数の画素を有する2個以上の共有画素が2次元に規則的に配列されて構成される。
画素アレイ部21は、行制御部22の制御にしたがって、画素アレイ部21を構成する画素から電気信号を読み出し、カラム処理部23N及び23Sに供給する。
行制御部22は、画素アレイ部21の共有画素が有する画素から電気信号を読み出すためのアクセス制御を行う。
カラム処理部23N及び23Sは、画素アレイ部21から供給される電気信号(電圧)のAD変換等の処理を行い、その結果得られるディジタル信号を、画素値として、カラムI/F部12に供給する。
列制御部24Nは、カラム処理部23Nの処理によって得られた画素値を、カラムI/F部12に供給(出力)するための制御である列制御を行う。
列制御部24Sは、カラム処理部23Sの処理によって得られた画素値を、カラムI/F部12に供給するための列制御を行う。
カラムI/F部12は、ラインメモリを内蔵し、画素アクセス部11(のカラム処理部23N及び23S)からの画素値を一時記憶することで、その画素値を受け取るインターフェースとして機能する。
信号処理部13は、カラムI/F部12に記憶された画素値を用いて、画素の並べ替えや、画素重心の補正、その他の必要な信号処理を行って、イメージセンサ2の外部(例えば、メモリ3(図1))に出力する。
タイミング制御部14は、イメージセンサ2を構成する各ブロックの動作のタイミングを制御するタイミング信号を生成し、必要なブロックに供給する。
図3は、図1のイメージセンサ2の構成例を示す斜視図である。
イメージセンサ2は、1つのベアチップで構成することもできるし、上下に積層される2つのベアチップで構成することもできる。
図3は、イメージセンサ2を、上下に積層される2つのベアチップにより構成する場合の、その2つのベアチップの概要の構成例を示す斜視図である。
図3では、上下に積層される2つのベアチップのうちの上側に積層される上チップ31に、画素アレイ部21、及び、行制御部22が形成されている。
さらに、図3では、2つのベアチップのうちの下側に積層される下チップ32に、カラムI/F部12、信号処理部13、タイミング制御部14、カラム処理部23N及び23Sを含むカラム処理部23、並びに、列制御部24N及び24Sを含む列制御部24が形成されている。
イメージセンサ2は、以上のような上チップ31と下チップ32とを積層することにより、積層型イメージセンサとして構成することができる。
<画素アクセス部11の詳細構成例>
図4は、図2の画素アクセス部11の詳細な構成例を示すブロック図である。
図2で説明したように、画素アクセス部11は、画素アレイ部21、行制御部22、カラム処理部23N及び23S、並びに、列制御部24N及び24Sを有する。
画素アレイ部21は、2個以上の共有画素41が2次元に規則的に配列されて構成される。
ここで、共有画素41は、光電変換によって電気信号を出力する複数の画素を有するが、詳細については、後述する。
また、図4では、画素アレイ部21において、共有画素41は、行列状に配列されているが、共有画素41は、その他、例えば、偶数行の共有画素41が、奇数行の共有画素41に対して、共有画素41どうしの水平方向の間隔の1/2だけずれた位置になるように配列することができる。
画素アレイ部21では、共有画素41の1列に対して、複数としての、例えば、2本の列信号線42N及び42Sが、列方向(上下方向)に配線されている。
図4では、列信号線42Nは、共有画素41の列の左側に配線され、奇数行の共有画素41と接続されている。また、列信号線42Sは、共有画素41の列の右側に配線され、偶数行の共有画素41と接続されている。
さらに、列信号線42N及び42Sの一端側としての上側には、カラム処理部23Nが設けられており、他端側としての下側には、カラム処理部23Sが設けられている。
そして、列信号線42Nは、上側(North側)のカラム処理部23Nに接続されており、列信号線42Sは、下側(South側)のカラム処理部23Sに接続されている。
したがって、図4では、奇数行の共有画素41から読み出された電気信号は、列信号線42Nを介して、カラム処理部23Nに供給される。また、偶数行の共有画素41から読み出された電気信号は、列信号線42Sを介して、カラム処理部23Sに供給される。
以上のように、奇数行の共有画素41と接続されている列信号線42Nは、カラム処理部23Nに接続され、偶数行の共有画素41と接続されている列信号線42Sは、カラム処理部23Sに接続されているので、画素アクセス部11では、例えば、ある奇数行RNの各列の共有画素41と、その奇数行の次の行としての偶数行RSの各列の共有画素41とから、電気信号を同時に読み出して処理することができる。
すなわち、ある奇数行RNの各列の共有画素41から読み出された電気信号については、列信号線42Nを介して、カラム処理部23Nに供給して処理することができる。
また、奇数行RNの次の行の偶数行RSの各列の共有画素41から読み出された電気信号については、列信号線42Sを介して、カラム処理部23Sに供給して処理することができる。
以上のように、カラム処理部23N及び23Sでは、奇数行RN及び偶数行RSの2行の各列の共有画素41から同時に読み出された電気信号を処理することができる。
画素アレイ部21では、共有画素41の各行に対して、行信号線43A又は43Bが、行方向(左右方向)に配線されている。
行信号線43Aは、奇数行に配線されており、行制御部22は、行信号線43Aに制御信号を供給する(流す)ことで、奇数行の共有画素41に対するアクセス制御を行う。
行信号線43Bは、偶数行に配線されており、行制御部22は、行信号線43Bに制御信号を供給することで、偶数行の共有画素41に対するアクセス制御を行う。
行信号線43Aと43Bとは、いわば別系統の信号線であり、行制御部22は、別系統の信号線である行信号線43Aと43Bとには、異なる制御信号を供給することができる。
これにより、行制御部22は、電気信号が同時に読み出される奇数行RN及び偶数行RSの2行の共有画素41に対し、奇数行RNと偶数行RSとで、異なるアクセス制御を行うことができる。
カラム処理部23Nは、DAC(Digital Analog Converter)51Nと、画素アレイ部21を構成する共有画素41の列数と同一の数のADC(AD Converter)52Nとを有する。
DAC51Nは、DA変換を行うことにより、例えば、ランプ(ramp)信号のような一定の傾きで、所定の初期値から所定の最終値までレベルが変化する期間を有するアナログの参照信号を生成し、ADC52Nに供給する。
いま、共有画素41の列数をXで表すこととすると、X個のADC52Nのうちのx番目(x=1,2,...,X)のADC52Nは、x列目の列信号線42Nに接続されており、したがって、x番目のADC52Nには、x列目の共有画素41から読み出された電気信号が、x列目の列信号線42Nを介して供給される。
x番目のADC52Nは、x列目の共有画素41から、x列目の列信号線42Nを介して供給される電気信号と、DAC51Nから供給される参照信号とを比較し、それらの電気信号と参照信号とのレベルが一致するまでの、参照信号のレベルの変化に要する時間をカウントすることで、電気信号のAD変換等を行う。
そして、ADC52Nは、列制御部24Nの制御に従い、AD変換等の結果得られるディジタルの電気信号である画素値を、カラムI/F部12(図2)に出力する。
カラム処理部23Sは、DAC51Sと、画素アレイ部21を構成する共有画素41の列数Xと同一の数であるX個のADC52Sとを有する。
DAC51Sは、DAC51Nと同様に、参照信号を生成し、ADC52Sに供給する。
X個のADC52Sのうちのx番目のADC52Sは、x列目の列信号線42Sに接続されており、したがって、x番目のADC52Sには、x列目の共有画素41から読み出された電気信号が、x列目の列信号線42Sを介して供給される。
x番目のADC52Sは、ADC52Nと同様に、x列目の共有画素41から、x列目の列信号線42Nを介して供給される電気信号のAD変換等を、DAC51Nから供給される参照信号を用いて行う。
そして、ADC52Sは、列制御部24Sの制御に従い、AD変換等の結果得られるディジタルの電気信号である画素値を、カラムI/F部12(図2)に出力する。
なお、DAC51Nと51Sとは、1個のDACで兼用することができる。
<共有画素41の構成例>
図5は、共有画素41の構成例を示す回路図である。
図5の共有画素41は、複数としての、例えば、8個の画素と、FET(Field Effect Transistor)63,64、及び、65とを有する。
画素は、PD(Photo Diode)61とFET62とを有し、光電変換によって電気信号を出力する。
PD61は、光電変換素子の一例であり、入射光を受光して、その入射光に対応する電荷を蓄積することにより、光電変換を行う。
PD61のアノードはグランド(ground)に接続され(接地され)、PD61のカソードは、FET62のソースに接続されている。
FET62は、PD61に蓄積された電荷を、PD61からFDに転送するためのトランジスタ(Tr)であり、以下、転送Tr62ともいう。
転送Tr62のソースは、PD61のカソードに接続され、転送Tr62のドレインは、FDを介して、FET64のゲートに接続されている。
また、転送Tr62のゲートは、行制御線43A又は43Bに接続されており、転送Tr62のゲートには、行制御線43A又は43Bを介して、転送パルスTRG(#11,#12,#21,#22,#31,#32,#41,#42)が供給される。
ここで、行制御部22(図4)が、行制御線43A又は43Bを介して、共有画素41を駆動(アクセス制御)するために、行制御線43A又は43Bに流す制御信号には、転送パルスTRGの他、後述するリセットパルスRST、及び、選択パルスSELがある。
また、FDは、FET63のソースとFET64のゲートとの接続点に形成された領域であり、FDでは、そこに供給された電荷が、コンデンサの如く電圧に変換される。
図5では、簡略化のため、8個の画素が、1個のFDを共有するように、共有画素41が図示されているが、例えば、共有画素41には、2個のFDを形成し、その2個のFDのうちの1個のFDを、4画素で共有するとともに、他の1個のFDを、残りの4画素で共有することができる。
FET63は、FDに蓄積された電荷(電圧(電位))をリセットするためのトランジスタであり、以下、リセットTr63ともいう。
リセットTr63のドレインは、電源Vddに接続され、ソースは、FDに接続されている。
また、リセットTr63のゲートは、行制御線43A又は43Bに接続されており、リセットTr63のゲートには、行制御線43A又は43Bを介して、リセットパルスRSTが供給される。
FET64は、FDの電圧を増幅するためのトランジスタであり、以下、増幅Tr64ともいう。
増幅Tr64のゲートは、FDに接続され、増幅Tr64のドレインは、電源Vddに接続されている。また、増幅Tr64のソースは、FET65のドレインに接続されている。
FET65は、列信号線42N又は42Sへの電気信号(電圧)の出力を選択するためのFETであり、以下、選択Tr65ともいう。
選択Tr65のソースは、列信号線42N又は42Sに接続されている。
また、選択Tr65のゲートは、行制御線43A又は43Bに接続されており、選択Tr65のゲートには、行制御線43A又は43Bを介して、選択パルスSELが供給される。
なお、選択Tr65のソースに接続されている列信号線42N及び42Sには、図示せぬ電流源が接続されており、この電流源と、増幅Tr64、及び、選択Tr65とは、SF(Source Follower)の回路を構成している。したがって、FDは、SFの回路を介して、列信号線42N又は42Sに接続されている。
ここで、共有画素41は、選択Tr65なしで構成することができる。
また、図5の構成において、8個の画素を、1個の画素だけにした構成は、単位画素と呼ばれる。
以上のように構成される共有画素41では、PD61は、そこに入射する光を受光し、光電変換を行うことにより、受光した入射光の光量に応じた電荷の蓄積を開始する。なお、ここでは、説明を簡単にするために、選択パルスSELはHレベルになっており、選択Tr65はオン状態であることとする。
PD61での電荷の蓄積が開始されてから、所定の時間(露光時間)が経過すると、行制御部22(図4)は、転送パルスTRGを、一時的に、(L(Low)レベルから)H(High)レベルにする。
転送パルスTRGが一時的にHレベルになることにより、転送Tr62は、一時的に、オン状態になる。
転送Tr62がオン状態になると、PD61に蓄積された電荷は、転送Tr62を介して、FDに転送されて蓄積される。
行制御部22は、転送パルスTRGを一時的にHレベルにする前に、リセットパルスRSTを、一時的に、Hレベルにし、これにより、リセットTr63を、一時的に、オン状態にする。
リセットTr63がオン状態になることにより、FDは、リセットTr63を介して、電源Vddに接続され、FDにある電荷は、リセットTr63を介して、電源Vddに掃き出されてリセットされる。
ここで、以上のように、FDが、電源Vddに接続され、FDにある電荷がリセットされることを、共有画素41のリセットともいう。
FDの電荷のリセット後、行制御部22は、上述のように、転送パルスTRGを、一時的に、Hレベルにし、これにより、転送Tr62は、一時的に、オン状態になる。
転送Tr62がオン状態になることにより、PD61に蓄積された電荷は、転送Tr62を介して、リセット後のFDに転送されて蓄積される。
そして、FDに蓄積された電荷に対応する電圧(電位)が、増幅Tr64及び選択Tr65を介して、信号線電圧(電気信号)として、列信号線42N又は42S上に出力される。
列信号線42N又は42Sに接続されているADC52N又は52S(図4)では、共有画素41のリセットが行われた直後の信号線電圧であるリセットレベルがAD変換される。
さらに、ADC52N又は52Sでは、転送Tr62が一時的にオン状態になった後の信号線電圧(PD61に蓄積され、FDに転送された電荷に対応する電圧)である信号レベル(リセットレベルと、画素値となるレベルとを含む)がAD変換される。
そして、ADC52N又は52Sでは、リセットレベルのAD変換結果と、信号レベルのAD変換結果との差分を、画素値として求めるCDS(Correlated Double Sampling)が行われ、そのCDSの結果得られる電気信号が、画素値として、カラムI/F部12(図2)に出力される。
以上のようにして、共有画素41の1個の画素から画素値が読み出される。
行制御部22は、8個の画素について、例えば、転送Tr62を順番にオン状態にすることで、8個の画素から、順番に、画素値を読み出す。
ここで、以下では、説明を簡単にするため、共有画素41(の画素)からの、画素値となる電気信号である画素信号の読み出しには、CDSは、考慮しないこととする。
なお、図5において、リセットTr63、増幅Tr64、選択Tr65、及び、FDが、画素から画素信号を読み出す読み出し部を構成する。
図5の共有画素41では、8個の画素で、読み出し部が共有されているが、共有画素41を構成する画素の数は、8個に限定されるものではなく、2個や4個等の任意の個数を採用することができる。
図6は、共有画素41を構成する画素の配置の例を示す図である。
図6Aは、4個の画素を有する共有画素41の画素の配置の例を示す図である。
共有画素41が4個の画素を有する場合、その4個の画素は、例えば、図6Aに示すように、横×縦(行方向×列方向)が2×2画素になるように配置することができる。
図6Bは、8個の画素を有する共有画素41の画素の配置の例を示す図である。
共有画素41が8個の画素を有する場合、その8個の画素は、例えば、図6Bに示すように、横×縦が2×4画素になるように配置することができる。
<2×2画素の共有画素41>
図7は、2×2画素の共有画素41(2×2画素に配置されている4画素を有する共有画素41)において、カラーフィルタのパターンとして、ベイヤ(BAYER)配列を採用した場合の、共有画素41の画素の配置の例を示す図である。
図7において、共有画素41が有する2×2画素のうちの、左上の画素は、R(Red)成分の光を受光するR画素として機能し、右上の画素は、G成分の光を受光するGr画素として機能する。また、左下の画素は、G成分の光を受光するGb画素として機能し、右下の画素は、B(Blue)成分の光を受光するB画素として機能する。
図8は、図7に示した2×2画素の共有画素41からの画素信号の読み出しの例を説明する図である。
ここで、1行の共有画素41の並びを、共有画素ラインともいい、1行の画素の並びを、画素ラインともいう。
本実施の形態では、1共有画素ラインを構成する共有画素41の数は、共有画素41の列数Xに等しい。また、1画素ラインを構成する画素の数は、共有画素41が、2×2画素で構成される場合には、共有画素41の列数Xの2倍に等しい。
また、奇数番目の共有画素ラインを、奇数共有画素ラインともいい、偶数番目の共有画素ラインを、偶数共有画素ラインともいう。
さらに、以下では、ADC52N及び52S(図4)は、いずれも、1画素ラインの期間に、2回のAD変換を行うことができる速度で動作することとする。ADC52N及び52Sで行われる1回目のAD変換を、第1フェーズともいい、2回目のAD変換を、第2フェーズともいう。
なお、図8は、連続する2列の共有画素41からの画素信号の読み出しの様子を示しているが、他の列の共有画素41からも、同様にして、画素信号の読み出しが行われる。また、図8において、横軸は、1画素ラインの期間ごとの時間を表す。以上の点、後述する図でも、同様である。
図8において、N番目の第N画素ライン(N Line)の期間の第1フェーズでは、奇数共有画素ラインRNの共有画素41の左上のR画素から、図中、白抜きで示すように、画素信号が読み出され、列信号線42Nを介して、カラム処理部23N(のADC52N)に供給されてAD変換される。
さらに、第N画素ラインの期間の第1フェーズでは、奇数共有画素ラインRNの次の偶数共有画素ラインRSの共有画素41の左上のR画素から、画素信号が読み出され、列信号線42Sを介して、カラム処理部23S(のADC52S)に供給されてAD変換される。
図4で説明したように、画素アレイ部21は、共有画素41の1列に対して、2本の列信号線42N及び42Sが配線されているので、奇数共有画素ラインRNと、その次の偶数共有画素ラインRSとの2つの共有画素ライン(の各列)から、同時に、画素信号を読み出すことができる。
その後、第N画素ラインの期間の第2フェーズにおいて、奇数共有画素ラインRNの共有画素41の右上のGr画素から、画素信号が読み出され、列信号線42Nを介して、カラム処理部23Nに供給されてAD変換される。
さらに、第N画素ラインの期間の第2フェーズでは、偶数共有画素ラインRSの共有画素41の右上のGr画素から、画素信号が読み出され、列信号線42Sを介して、カラム処理部23Sに供給されてAD変換される。
次の第N+1画素ラインの期間の第1フェーズでは、奇数共有画素ラインRNの共有画素41の左下のGb画素から、画素信号が読み出され、列信号線42Nを介して、カラム処理部23Nに供給されてAD変換される。
同時に、偶数共有画素ラインRSの共有画素41の左下のGb画素から、画素信号が読み出され、列信号線42Sを介して、カラム処理部23Sに供給されてAD変換される。
その後の第N+1画素ラインの期間の第2フェーズでは、奇数共有画素ラインRNの共有画素41の右下のB画素から、画素信号が読み出され、列信号線42Nを介して、カラム処理部23Nに供給されてAD変換される。
同時に、偶数共有画素ラインRSの共有画素41の右下のB画素から、画素信号が読み出され、列信号線42Sを介して、カラム処理部23Sに供給されてAD変換される。
以上のようにして、2画素ラインの期間に、2画素ラインよりも多い2共有画素ラインの画素のすべてから、画素信号を読み出すことができる。
したがって、以下、同様にして、奇数共有画素ラインRN及び偶数共有画素ラインRSの2共有画素ライン以外の共有画素ラインの共有画素41からの画素信号の読み出しを、2共有画素ラインの単位で、順番に行うことにより、イメージセンサ2では、所定のフレームレートで、すべての共有画素41のすべての画素から、画素信号を読み出す通常撮像を行うことができる。
ところで、イメージセンサ2では、画素信号の読み出し(画素信号の、カラム処理部23N及び23Sへの供給)を、画素ラインを間引いて行うことにより、所定のフレームレートよりも高速なフレームレートでの撮像である高速撮像を行うことができる。
画素ラインを間引く方法としては、例えば、一部の画素ラインを読み飛ばす(画素信号を読み出さない)方法がある。
図8では、8画素ライン(4共有画素ライン)につき、4画素ライン(2共有画素ライン)の割合で画素ラインを読み飛ばす1/2読み飛ばしを行うことで、画素ラインを1/2に間引く1/2間引きが行われている。
すなわち、図8では、奇数共有画素ラインRN、及び、偶数共有画素ラインRSの2共有画素ラインの共有画素41(の4画素)から、画素信号が読み出された後、その後に続く奇数共有画素ラインRN+1、及び、偶数共有画素ラインRS+1の2共有画素ラインの共有画素41(の4画素)の画素信号が読み飛ばされている。
そして、次の奇数共有画素ラインRN+2、及び、偶数共有画素ラインRS+2の2共有画素ラインの共有画素41から、画素信号が読み出され、その後に続く奇数共有画素ラインRN+3、及び、偶数共有画素ラインRS+3の2共有画素ラインの共有画素41の画素信号が読み飛ばされている。
以下、同様にして、画素信号を読み出すことで、1/2間引きを行うことができる。
1/2間引きでの画素信号の読み出しによれば、通常撮像時のフレームレートの2倍のフレームレートでの高速撮像を行うことができる。
図9は、図8の1/2間引きでの画素信号の読み出しで得られる画素値の画素重心(画素値を有する画素の位置)を示す図である。
図8の1/2間引きでの画素信号の読み出しでは、上述したように、2共有画素ラインの共有画素41から、画素信号が読み出され、その後に続く2共有画素ラインの共有画素41の画素信号が読み飛ばされることが繰り返される。
この場合、共有画素41のある位置posの画素から読み出された画素信号から得られる画素値は、その位置posを画素重心とする画素の画素値になるので、1フレームの画像は、2共有画素ラインおきに、2共有画素ライン分の画素値が存在する、共有画素ラインが1/2に間引かれた画像、すなわち、4画素ラインおきに、4画素ライン分の画素値が存在する、画素ラインが1/2に間引かれた画像(通常撮像で画素信号を読み出す画素ラインの数Vの1/2の数V/2の画素ラインの画像)になる。
したがって、図8の1/2間引きでの画素信号の読み出しで得られる画像では、画素値を有する画素ラインの間隔(画素値が得られる画素の垂直方向の間隔)(以下、画素値のサンプリング間隔ともいう)は、図9に示すように、等間隔ではなく、0画素ラインである場合と、4画素ラインである場合とがある。
以上のように、画素値のサンプリング間隔が、0画素ラインと4画素ラインのように、大きく異なる場合には、特に、高周波数成分を有する画像については、モアレや偽色が発生し、画質が低下することがある。
なお、図9において、丸印を付した数字は、1画素ラインの期間での画素信号の読み出し順を表す。また、黒丸印は、第1フェーズで画素信号がAD変換される画素を表し、黒く塗りつぶしたひし形は、第2フェーズで画素信号がAD変換される画素を表す。以下の図でも、同様である。
ところで、図8の1/2間引きでの画素信号の読み出しでは、例えば、奇数共有画素ラインRNと、その次の偶数共有画素ラインRSとの2つの共有画素ラインから、同時に、画素信号を読み出すにあたり、共有画素41の同一の位置の画素から、画素信号が読み出されている。
すなわち、例えば、第N画素ラインの期間の第1フェーズでは、奇数共有画素ラインRNと、その次の偶数共有画素ラインRSとの2つの共有画素ラインから、同時に、画素信号が読み出されるが、その画素信号の読み出しの対象の画素(以下、読み出し対象画素ともいう)は、奇数共有画素ラインRN、及び、偶数共有画素ラインRSのいずれについても、共有画素41の左上のR画素である。
以上のように、2つの共有画素ラインから、同時に、画素信号を読み出すにあたり、読み出し対象画素が、2つの共有画素ラインの共有画素41の同一の位置の画素である場合には、画素信号を間引いて読み出したときに、図9で説明したように、画素値のサンプリング間隔が大きく異なる画像が得られる。
ところで、図4で説明したように、行信号線43Aと43Bとは、別系統の信号線であり、行制御部22は、行信号線43Aと43Bとには、異なる制御信号を供給することで、画素信号(電気信号)が同時に読み出される2行(2共有画素ライン)の共有画素41に対し、奇数行(奇数共有画素ライン)RNと偶数行(偶数共有画素ライン)RSとで、異なるアクセス制御を行うことができる。
したがって、行制御部22では、例えば、奇数共有画素ラインRNと、その次の偶数共有画素ラインRSとの2つの共有画素ラインから、同時に、画素信号を読み出すにあたり、その2つの共有画素ラインそれぞれについて、共有画素41の別個の位置の画素から、画素信号を読み出すアクセス制御(以下、個別アクセス制御ともいう)を行うことができる。
図10は、個別アクセス制御による、2×2画素の共有画素41からの、1/2間引きでの画素信号の読み出しの例を説明する図である。
個別アクセス制御によれば、2×2画素の共有画素41について、1/2間引きでの画素信号の読み出しは、以下のように行うことができる。
すなわち、図10において、第N画素ライン(N Line)の期間の第1フェーズでは、奇数共有画素ラインRNの共有画素41の左上のR画素から、図中、白抜きで示すように、画素信号が読み出され、列信号線42Nを介して、カラム処理部23Nに供給されてAD変換される。
さらに、第N画素ラインの期間の第1フェーズでは、奇数共有画素ラインRNの次の偶数共有画素ラインRSの共有画素41の、左上ではなく、左下のGb画素から、画素信号が読み出され、列信号線42Sを介して、カラム処理部23Sに供給されてAD変換される。
以上のように、第N画素ラインの期間の第1フェーズでは、奇数共有画素ラインRNと、その次の偶数共有画素ラインRSとの2つの共有画素ラインから、同時に、画素信号が読み出されるが、個別アクセス制御によれば、奇数共有画素ラインRNの共有画素41については、左上のR画素から、画素信号を読み出し、偶数共有画素ラインRSの共有画素41については、左上とは異なる位置の左下のGb画素から、画素信号を読み出すことができる。
その後、第N画素ラインの期間の第2フェーズにおいて、奇数共有画素ラインRNの共有画素41の右上のGr画素から、画素信号が読み出され、列信号線42Nを介して、カラム処理部23Nに供給されてAD変換される。
さらに、第N画素ラインの期間の第2フェーズでは、偶数共有画素ラインRSの共有画素41の、右上ではなく、右下のB画素から、画素信号が読み出され、列信号線42Sを介して、カラム処理部23Sに供給されてAD変換される。
以上のように、第N画素ラインの期間の第2フェーズでは、奇数共有画素ラインRNと、その次の偶数共有画素ラインRSとの2つの共有画素ラインから、同時に、画素信号が読み出されるが、個別アクセス制御によれば、奇数共有画素ラインRNの共有画素41については、右上のGr画素から、画素信号を読み出し、偶数共有画素ラインRSの共有画素41については、右上とは異なる位置の右下のB画素から、画素信号を読み出すことができる。
ここで、2×2画素の共有画素41の並びの共有画素ラインは、2画素ラインであるから、画素信号が同時に読み出される奇数共有画素ラインRNと偶数共有画素ラインRSとの2つの共有画素ラインは、4画素ラインである。
第N画素ラインの期間では、上述のようにして、2つの共有画素ラインである4画素ラインのうちの、(上から)1番目及び4番目の画素ラインの画素を、読み出し対象画素として、その読み出し対象画素の画素信号が読み出され、残りの2番目及び3番目の画素ラインの画素の画素信号は、読み飛ばされる。
次の第N+1画素ラインの期間の第1フェーズでは、偶数共有画素ラインRSの次の奇数共有画素ラインRN+1の共有画素41の左上のR画素から、画素信号が読み出され、列信号線42Nを介して、カラム処理部23Nに供給されてAD変換される。
同時に、奇数共有画素ラインRN+1の次の偶数共有画素ラインRS+1の共有画素41の左下のGb画素から、画素信号が読み出され、列信号線42Sを介して、カラム処理部23Sに供給されてAD変換される。
その後の第N+1画素ラインの期間の第2フェーズでは、奇数共有画素ラインRN+1の共有画素41の右上のGr画素から、画素信号が読み出され、列信号線42Nを介して、カラム処理部23Nに供給されてAD変換される。
同時に、偶数共有画素ラインRS+1の共有画素41の右下のB画素から、画素信号が読み出され、列信号線42Sを介して、カラム処理部23Sに供給されてAD変換される。
以上のように、第N+1画素ラインの期間の第1フェーズでは、奇数共有画素ラインRN+1の共有画素41の左上のR画素から、画素信号が読み出されるのと同時に、偶数共有画素ラインRS+1の共有画素41の左下のGb画素から、画素信号が読み出される。
そして、第N+1画素ラインの期間の第2フェーズでは、奇数共有画素ラインRN+1の共有画素41の右上のGr画素から、画素信号が読み出されるのと同時に、偶数共有画素ラインRS+1の共有画素41の右下のB画素から、画素信号が読み出される。
すなわち、第N+1画素ラインの期間では、第N画素ラインの場合と同様に、2つの共有画素ラインである4画素ラインのうちの、1番目及び4番目の画素ラインの画素を、読み出し対象画素として、その読み出し対象画素の画素信号が読み出され、残りの2番目及び3番目の画素ラインの画素の画素信号は、読み飛ばされる。
以下、同様に、2つの共有画素ラインである4画素ラインのうちの、1番目及び4番目の画素ラインの画素の画素信号を読み出すとともに、残りの2番目及び3番目の画素ラインの画素の画素信号を読み飛ばす1/2読み飛ばしが繰り返し行われることで、1/2間引きでの画素信号の読み出しが行われ、これにより、通常撮像時のフレームレートの2倍のフレームレートでの高速撮像を行うことができる。
図11は、図10の1/2間引きでの画素信号の読み出しで得られる画素値の画素重心を示す図である。
図10の1/2間引きでの画素信号の読み出しでは、上述したように、2つの共有画素ラインである4画素ラインのうちの、1番目及び4番目の画素ラインの画素の画素信号を読み出すとともに、残りの2番目及び3番目の画素ラインの画素の画素信号を読み飛ばす1/2読み飛ばしが繰り返される。
この場合、共有画素41のある位置posの画素から読み出された画素信号から得られる画素値は、その位置posを画素重心とする画素の画素値になるので、1フレームの画像は、2共有画素ラインである4画素ラインごとに、その4画素ラインのうちの1番目及び4番目の2つの画素ラインの画素値が存在する、画素ラインが1/2に間引かれた画像になる。
したがって、図10の1/2間引きでの画素信号の読み出しで得られる画像では、画素値のサンプリング間隔(画素値を有する画素ラインの間隔)は、図11に示すように、0画素ラインである場合と、2画素ラインである場合とがあり、図9の場合に比較して、等間隔に(近く)なる。
その結果、図9の場合に比較して、モアレや偽色の発生に起因する画質の低下を抑制することができる。
以上のように、共有画素41を採用するイメージセンサ2において、2つの共有画素ラインの共有画素41から、同時に、画素信号を読み出すにあたり、行制御部22において、その2つの共有画素ラインそれぞれについて、共有画素41の別個の位置の画素から、画素信号を読み出す個別アクセス制御を行う場合には、そのような個別アクセス制御を行わない場合、すなわち、2つの共有画素ラインの共有画素41の同一の位置の画素から、画素信号を読み出すアクセス制御(以下、同一アクセス制御ともいう)を行う場合に比較して、画質の低下を抑制しつつ、高速撮像を行うことができる。
<2×4画素の共有画素41>
図12は、2×4画素の共有画素41(2×4画素に配置されている8画素を有する共有画素41)において、カラーフィルタのパターンとして、ベイヤ配列を採用した場合の、共有画素41の画素の配置の例を示す図である。
ここで、共有画素41が有する2×4画素の上からi番目で左からj番目の画素の位置を、位置(i,j)と表すとともに、位置(i,j)の画素を、画素#(i,j)と表すこととする。
図12において、共有画素41が有する2×4画素のうちの画素#(1,1)及び#(3,1)は、R成分の光を受光するR画素として機能し、画素#(1,2)及び#(3,2)は、G成分の光を受光するGr画素として機能する。また、画素#(2,1)及び#(4,1)は、G成分の光を受光するGb画素として機能し、画素#(2,2)及び#(4,2)は、B成分の光を受光するB画素として機能する。
図13は、図12に示した2×4画素の共有画素41からの、間引きなしでの画素信号の読み出しの例を説明する図である。
ここで、本実施の形態では、2×4画素の共有画素41については、1画素ラインを構成する画素の数は、共有画素41が、2×2画素で構成される場合と同様に、共有画素41の列数Xの2倍に等しい。
間引きなしでの画素信号の読み出しでは、行制御部22では、例えば、個別アクセス制御を行わずに、2つの共有画素ラインの共有画素41の同一の位置の画素から、画素信号を読み出す同一アクセス制御が行われる。
すなわち、図13において、第N画素ライン(N Line)の期間の第1フェーズでは、奇数共有画素ラインRNの共有画素41の位置(1,1)のR画素から、図中、白抜きで示すように、画素信号が読み出され、列信号線42Nを介して、カラム処理部23Nに供給されてAD変換される。
さらに、第N画素ラインの期間の第1フェーズでは、奇数共有画素ラインRNの次の偶数共有画素ラインRSの共有画素41の位置(1,1)のR画素から、画素信号が読み出され、列信号線42Sを介して、カラム処理部23Sに供給されてAD変換される。
以上のように、奇数共有画素ラインRNと、その次の偶数共有画素ラインRSとの2つの共有画素ラインそれぞれの共有画素41の位置(1,1)のR画素から、画素信号が、同時に読み出される。
その後、第N画素ラインの期間の第2フェーズにおいて、奇数共有画素ラインRNの共有画素41の位置(1,2)のGr画素から、画素信号が読み出され、列信号線42Nを介して、カラム処理部23Nに供給されてAD変換される。
さらに、第N画素ラインの期間の第2フェーズでは、偶数共有画素ラインRSの共有画素41の位置(1,2)のGr画素から、画素信号が読み出され、列信号線42Sを介して、カラム処理部23Sに供給されてAD変換される。
次の第N+1画素ラインの期間の第1フェーズでは、奇数共有画素ラインRNの共有画素41の位置(2,1)のGb画素から、画素信号が読み出され、列信号線42Nを介して、カラム処理部23Nに供給されてAD変換される。
同時に、偶数共有画素ラインRSの共有画素41の位置(2,1)のGb画素から、画素信号が読み出され、列信号線42Sを介して、カラム処理部23Sに供給されてAD変換される。
その後の第N+1画素ラインの期間の第2フェーズでは、奇数共有画素ラインRNの共有画素41の位置(2,2)のB画素から、画素信号が読み出され、列信号線42Nを介して、カラム処理部23Nに供給されてAD変換される。
同時に、偶数共有画素ラインRSの共有画素41の位置(2,2)のB画素から、画素信号が読み出され、列信号線42Sを介して、カラム処理部23Sに供給されてAD変換される。
次の第N+2画素ラインの期間の第1フェーズでは、奇数共有画素ラインRNの共有画素41の位置(3,1)のR画素から、画素信号が読み出され、列信号線42Nを介して、カラム処理部23Nに供給されてAD変換される。
同時に、偶数共有画素ラインRSの共有画素41の位置(3,1)のR画素から、画素信号が読み出され、列信号線42Sを介して、カラム処理部23Sに供給されてAD変換される。
その後の第N+2画素ラインの期間の第2フェーズでは、奇数共有画素ラインRNの共有画素41の位置(3,2)のGr画素から、画素信号が読み出され、列信号線42Nを介して、カラム処理部23Nに供給されてAD変換される。
同時に、偶数共有画素ラインRSの共有画素41の位置(3,2)のGr画素から、画素信号が読み出され、列信号線42Sを介して、カラム処理部23Sに供給されてAD変換される。
次の第N+3画素ラインの期間の第1フェーズでは、奇数共有画素ラインRNの共有画素41の位置(4,1)のGb画素から、画素信号が読み出され、列信号線42Nを介して、カラム処理部23Nに供給されてAD変換される。
同時に、偶数共有画素ラインRSの共有画素41の位置(4,1)のGb画素から、画素信号が読み出され、列信号線42Sを介して、カラム処理部23Sに供給されてAD変換される。
その後の第N+3画素ラインの期間の第2フェーズでは、奇数共有画素ラインRNの共有画素41の位置(4,2)のB画素から、画素信号が読み出され、列信号線42Nを介して、カラム処理部23Nに供給されてAD変換される。
同時に、偶数共有画素ラインRSの共有画素41の位置(4,2)のB画素から、画素信号が読み出され、列信号線42Sを介して、カラム処理部23Sに供給されてAD変換される。
以上のように、4画素ラインの期間に、4画素ラインよりも多い2共有画素ラインの画素のすべてから、画素信号を読み出すことが、奇数共有画素ラインRN及び偶数共有画素ラインRSの2共有画素ライン以外の共有画素ラインについても、2共有画素ラインの単位で、順番に行われることで、イメージセンサ2では、所定のフレームレートで、すべての共有画素41のすべての画素から、画素信号を読み出す通常撮像を行うことができる。
図14は、同一アクセス制御による、2×4画素の共有画素41からの、1/4間引きでの画素信号の読み出しの例を説明する図である。
ここで、画素ラインを間引く方法としては、図8ないし図11で説明した、(一部の)画素ラインを読み飛ばす方法の他、2画素ライン等の複数の画素ラインを加算することにより1画素ラインに変換するライン加算を行う方法がある。
画素ラインを間引くライン加算を行う方法としては、FD加算を利用する方法がある。
FD加算は、行制御部22のアクセス制御によって、共有画素41を構成する2×4画素のうちの、異なる画素ラインの2個(以上)の画素から、画素信号を、同時に読み出すことで行うことができる。
すなわち、共有画素41を構成する2個(以上)の画素から、画素信号を、同時に読み出す場合には、共有画素41を構成する2個の画素(図5)の転送Tr62が、同時にオン状態にされ、その2個の画素のPD61に蓄積された電荷が、いずれも、FDに転送されて蓄積される。
この場合、FDでは、転送Tr62が同時にオン状態にされた2個の画素のPD61に蓄積された電荷が加算され、その電荷に対して、列信号線42N又は42S上に読み出される画素信号は、2個の画素それぞれから単独で読み出される画素信号を加算した加算信号と等価の信号になる。
以上のように、共有画素41を構成する2個の画素の転送Tr62が、同時にオン状態にされる場合には、その2個の画素それぞれから単独で読み出される画素信号が、いわば、FDで加算されるFD加算が行われ、そのFD加算により得られる加算信号としての画素信号が、共有画素41から読み出される。
ここで、M画素ラインを1画素ラインに加算するライン加算を、Mライン加算ともいう。
FD加算によって、例えば、2ライン加算を行うことにより、画素ラインを1/2に間引く1/2間引きを行うことができる。
図14では、1/2読み飛ばしと、2ライン加算とを行うことで、画素ラインを1/4に間引く1/4間引きが行われている。
すなわち、図14では、第N画素ラインの期間の第1フェーズにおいて、奇数共有画素ラインRNの共有画素41から、図中、白抜きで示すように、位置(1,1)と(3,1)のR画素の画素信号をFD加算した加算信号としての画素信号が読み出され、列信号線42Nを介して、カラム処理部23Nに供給されてAD変換される。
さらに、第N画素ラインの期間の第1フェーズでは、奇数共有画素ラインRNの次の偶数共有画素ラインRSの共有画素41の位置(1,1)と(3,1)のR画素の画素信号をFD加算した加算信号としての画素信号が読み出され、列信号線42Sを介して、カラム処理部23Sに供給されてAD変換される。
その後、第N画素ラインの期間の第2フェーズにおいて、奇数共有画素ラインRNの共有画素41の位置(1,2)と(3,2)のGr画素の画素信号をFD加算した加算信号としての画素信号が読み出され、列信号線42Nを介して、カラム処理部23Nに供給されてAD変換される。
さらに、第N画素ラインの期間の第2フェーズでは、偶数共有画素ラインRSの共有画素41の位置(1,2)と(3,2)のGr画素の画素信号をFD加算した加算信号としての画素信号が読み出され、列信号線42Sを介して、カラム処理部23Sに供給されてAD変換される。
次の第N+1画素ラインの期間の第1フェーズでは、奇数共有画素ラインRNの共有画素41の位置(2,1)と(4,1)のGb画素の画素信号をFD加算した加算信号としての画素信号が読み出され、列信号線42Nを介して、カラム処理部23Nに供給されてAD変換される。
同時に、偶数共有画素ラインRSの共有画素41の位置(2,1)と(4,1)のGb画素の画素信号をFD加算した加算信号としての画素信号が読み出され、列信号線42Sを介して、カラム処理部23Sに供給されてAD変換される。
その後の第N+1画素ラインの期間の第2フェーズでは、奇数共有画素ラインRNの共有画素41の位置(2,2)と(4,2)のB画素の画素信号をFD加算した加算信号としての画素信号が読み出され、列信号線42Nを介して、カラム処理部23Nに供給されてAD変換される。
同時に、偶数共有画素ラインRSの共有画素41の位置(2,2)と(4,2)のB画素の画素信号をFD加算した加算信号としての画素信号が読み出され、列信号線42Sを介して、カラム処理部23Sに供給されてAD変換される。
以上のように、2×4画素を有する共有画素41について、同一の色成分どうしの画素の画素信号をFD加算して読み出すことにより、2ライン加算が行われ、2×4画素を有する共有画素41の並びで構成される1共有画素ラインである4画素ラインは、1/2に間引かれて、2画素ラインになる。
ここで、図14において、"FD"の文字は、白抜きで示す2個の画素の画素信号が、FD加算されて読み出されることを表している。後述する図でも、同様である。
奇数共有画素ラインRN、及び、偶数共有画素ラインRSの2共有画素ラインの共有画素41から、2ライン加算によって、画素信号が読み出された後、その後に続く奇数共有画素ラインRN+1、及び、偶数共有画素ラインRS+1の2共有画素ラインの共有画素41(の2×4画素)については、画素信号が読み飛ばされる。
以上のように、2共有画素ラインについて、画素信号を読み出した後、次の2共有画素ラインについては、画素信号を読み飛ばす1/2読み飛ばしを行うことで、2共有画素ラインと、次の2共有画素ラインとの合計で、4共有画素ラインである16画素ラインは、1/2に間引かれて、8画素ラインになる。
そして、次の奇数共有画素ラインRN+2、及び、偶数共有画素ラインRS+2の2共有画素ラインについては、上述の場合と同様にして、2ライン加算が行われ、その後に続く奇数共有画素ラインRN+3、及び、偶数共有画素ラインRS+3の2共有画素ラインについては、画素信号を読み飛ばす1/2読み飛ばしが行われる。
以下、同様にして、画素信号の2ライン加算と1/2読み飛ばしとが行われることで、1/4間引きが行われる。
1/4間引きでの画素信号の読み出しによれば、通常撮像時のフレームレートの4倍のフレームレートでの高速撮像を行うことができる。
図15は、図14の同一アクセス制御による1/4間引きでの画素信号の読み出しで得られる画素値の画素重心を示す図である。
図14の1/4間引きでの画素信号の読み出しでは、上述したように、2共有画素ラインについて、2ライン加算が行われ、その後に続く2共有画素ラインについて、画素信号の読み飛ばしが行われることが繰り返される。
図14の2ライン加算では、その2ライン加算の結果の画素信号(加算信号)から得られる画素値の画素重心は、2ライン加算としてのFD加算の対象となった2個の画素の間の位置になり、信号処理部13(図2)では、例えば、2ライン加算の結果の画素信号から得られる画素値の画素重心を、その2ライン加算としてのFD加算の対象となった2個の画素の間の位置に補正する画素重心の補正が行われる。
したがって、図14の1/4間引きでの画素信号の読み出しで得られる1フレームの画像は、図15に示すように、1共有画素ラインである4画素ラインの2番目と3番目の画素ライン、及び、その次の1共有画素ラインである4画素ラインの2番目と3番目の画素ラインに画素値が存在し、その後の2共有画素ラインである8画素ラインには画素値が存在しない状態を繰り返す画像になる。
その結果、図14の1/4間引きでの画素信号の読み出しで得られる画像では、画素値のサンプリング間隔(画素値を有する画素ラインの間隔)は、図15に示すように、等間隔ではなく、0画素ラインである場合、2画素ラインである場合、及び、9画素ラインである場合がある。
画素値のサンプリング間隔が、0画素ライン、2画素ライン、及び、9画素ラインのように、大きく異なる場合には、上述したように、モアレや偽色が発生し、画質が低下することがある。
以上のように、同一アクセス制御では、高速撮像のための間引きにおいて、モアレや偽色に起因する画質の低下が生じるが、個別アクセス制御によれば、そのような画質の低下を低減することができる。
図16は、個別アクセス制御による、2×4画素の共有画素41からの、1/4間引きでの画素信号の読み出しの例を説明する図である。
個別アクセス制御によれば、2×4画素の共有画素41について、1/4間引きでの画素信号の読み出しは、以下のような1/2読み飛ばしと2ライン加算とによって行うことができる。
すなわち、図16において、第N画素ラインの期間の第1フェーズでは、奇数共有画素ラインRNの共有画素41の位置(1,1)と(3,1)のR画素の画素信号をFD加算した加算信号としての画素信号が読み出され、列信号線42Nを介して、カラム処理部23Nに供給されてAD変換される。
さらに、第N画素ラインの期間の第1フェーズでは、奇数共有画素ラインRNの次の偶数共有画素ラインRSの共有画素41の、位置(1,1)と(3,1)とは異なる位置(2,1)と(4,1)のGb画素の画素信号をFD加算した加算信号としての画素信号が読み出され、列信号線42Sを介して、カラム処理部23Sに供給されてAD変換される。
以上のように、第N画素ラインの期間の第1フェーズでは、奇数共有画素ラインRNと、その次の偶数共有画素ラインRSとの2つの共有画素ラインから、同時に、画素信号が読み出されるが、個別アクセス制御によれば、奇数共有画素ラインRNの共有画素41については、位置(1,1)と(3,1)のR画素の画素信号がFD加算されて読み出され、偶数共有画素ラインRSの共有画素41については、位置(1,1)と(3,1)とは異なる位置(2,1)と(4,1)のGb画素の画素信号がFD加算されて読み出される。
その後、第N画素ラインの期間の第2フェーズにおいて、奇数共有画素ラインRNの共有画素41の位置(1,2)と(3,2)のGr画素の画素信号をFD加算した加算信号としての画素信号が読み出され、列信号線42Nを介して、カラム処理部23Nに供給されてAD変換される。
さらに、第N画素ラインの期間の第2フェーズでは、偶数共有画素ラインRSの共有画素41の、位置(1,2)と(3,2)とは異なる位置(2,2)と(4,2)のB画素の画素信号をFD加算した加算信号としての画素信号が読み出され、列信号線42Sを介して、カラム処理部23Sに供給されてAD変換される。
以上のように、第N画素ラインの期間の第2フェーズでは、奇数共有画素ラインRNと、その次の偶数共有画素ラインRSとの2つの共有画素ラインから、同時に、画素信号が読み出されるが、個別アクセス制御によれば、奇数共有画素ラインRNの共有画素41については、位置(1,2)と(3,2)のGr画素の画素信号がFD加算されて読み出され、偶数共有画素ラインRSの共有画素41については、位置(1,2)と(3,2)とは異なる位置(2,2)と(4,2)のB画素の画素信号がFD加算されて読み出される。
ここで、2×4画素の共有画素41の並びの共有画素ラインは、4画素ラインであるから、画素信号が同時に読み出される奇数共有画素ラインRNと偶数共有画素ラインRSとの2つの共有画素ラインは、8画素ラインである。
第N画素ラインの期間では、上述のようにして、2つの共有画素ラインである8画素ラインのうちの、(上から)1番目及び3番目の画素ライン(奇数共有画素ラインRNの1番目及び3番目の画素ライン)の画素であるR画素とGr画素を、読み出し対象画素として、その読み出し対象画素の画素信号がFD加算されて読み出される。
さらに、第N画素ラインの期間では、2つの共有画素ラインである8画素ラインのうちの、6番目及び8番目の画素ライン(偶数共有画素ラインRSの2番目及び4番目の画素ライン)の画素であるGb画素とB画素を、読み出し対象画素として、その読み出し対象画素の画素信号がFD加算されて読み出される。
以上のように、2つの共有画素ラインである8画素ラインのうちの、1番目及び3番目の画素ラインの2ライン加算と、6番目及び8番目の画素ラインの2ライン加算とが行われる。
また、第N画素ラインの期間では、2つの共有画素ラインである8画素ラインのうちの、残りの画素ラインである2番目及び4番目、並びに、5番目及び7番目の画素ライン(奇数共有画素ラインRNの2番目及び4番目の画素ライン、並びに、偶数共有画素ラインRSの1番目及び3番目の画素ライン)の画素については、画素信号は読み出されずに、読み飛ばされる。
すなわち、2つの共有画素ラインである8画素ラインのうちの、2ライン加算が行われない2番目及び4番目、並びに、5番目及び7番目の画素ラインについては、読み飛ばしが行われる。
したがって、第N画素ラインの期間では、2つの共有画素ラインである8画素ラインのうちの半分(1/2)の4画素ラインを読み飛ばす1/2読み飛ばしと、残りの4画素ラインを対象とした2ライン加算とが行われ、元の8画素ラインが2画素ラインに間引かれる1/4間引きが行われる。
その後の第N+1ラインの期間では、偶数共有画素ラインRSの次の2つの共有画素ラインである奇数共有画素ラインRN+1、及び、偶数共有画素ラインRS+1について、第Nラインの期間と同様の画素信号の読み出しが行われる。
その結果、第N+1ラインの期間では、やはり、2つの共有画素ラインである8画素ラインのうちの、1番目及び3番目の画素ライン、並びに、6番目及び8番目の画素ライン(奇数共有画素ラインRN+1の1番目及び3番目の画素ライン、並びに、偶数共有画素ラインRS+1の2番目及び4番目の画素ライン)の画素については、画素信号がFD加算されて読み出される。そして、残りの2番目及び4番目、並びに、5番目及び7番目の画素ライン(奇数共有画素ラインRN+1の2番目及び4番目の画素ライン、並びに、偶数共有画素ラインRS+1の1番目及び3番目の画素ライン)の画素については、画素信号は読み出されずに、読み飛ばされる。
以下、同様に、以降の共有画素ラインについて、1/4間引きでの画素信号の読み出しを行うことで、通常撮像時のフレームレートの4倍のフレームレートでの高速撮像を行うことができる。
図17は、図16の1/4間引きでの画素信号の読み出しで得られる画素値の画素重心を示す図である。
図16の1/4間引きでの画素信号の読み出しでは、上述したように、2共有画素ラインの単位で、2ライン加算と1/2読み飛ばしとが繰り返される。
図16の2ライン加算では、その2ライン加算の結果の画素信号(加算信号)から得られる画素値の画素重心は、2ライン加算としてのFD加算の対象となった2個の画素の間の位置になり、信号処理部13(図2)では、2ライン加算の結果の画素信号から得られる画素値の画素重心を、その2ライン加算としてのFD加算の対象となった2個の画素の間の位置に補正する画素重心の補正が行われる。
したがって、図16の1/4間引きでの画素信号の読み出しで得られる1フレームの画像は、図17に示すように、1共有画素ラインである4画素ラインの2番目の画素ラインに画素値が存在し、他の3画素ラインに画素値が存在しない状態と、その後の1共有画素ラインである4画素ラインの3番目の画素ラインに画素値が存在し、他の3画素ラインに画素視が存在しない状態とを繰り返す画像になる。
その結果、図16の1/4間引きでの画素信号の読み出しで得られる画像では、画素値のサンプリング間隔(画素値を有する画素ラインの間隔)は、図17に示すように、2画素ラインである場合と、4画素ラインである場合とがあり、図15の場合に比較して、等間隔に(近く)なる。
その結果、図15の場合に比較して、モアレや偽色の発生に起因する画質の低下を抑制することができる。
以上のように、共有画素41を採用するイメージセンサ2において、2つの共有画素ラインの共有画素41から、同時に、画素信号を読み出すにあたり、その2つの共有画素ラインについては、共有画素41の別個の位置の画素から、画素信号を読み出す個別アクセス制御を行うので、そのような個別アクセス制御を行わない場合、すなわち、例えば、2つの共有画素ラインの共有画素41の同一の位置の画素から、画素信号を読み出す同一アクセス制御を行う場合(図14及び図15)に比較して、画質の低下を抑制しつつ、高速撮像を行うことができる。
すなわち、個別アクセス制御によれば、画素値のサンプリング間隔(画素値を有する画素の垂直方向の間隔)を、なるべく等間隔にするFD加算が行われるように、共有画素41が有する画素から画素信号を読み出すアクセス制御を行うことができ、これにより、共有画素41を採用するイメージセンサ2において、画質の低下を抑制しつつ、高速撮像を行うことができる。
<個別アクセス制御>
図18は、行制御部22による個別アクセス制御を説明するフローチャートである。
行制御部22は、ステップS11において、画素信号を同時に読み出すことができる(同時にアクセス可能な)2共有画素ラインのうちの奇数共有画素ラインの共有画素41に対して、行信号線43Aを介して制御信号を供給するとともに、偶数共有画素ラインの共有画素41に対して、行信号線43Aとは別系統の行信号線43Bを介して制御信号を供給することにより、異なるアクセス制御としての個別アクセス制御を行う。
かかる個別アクセス制御によれば、画素信号が同時に読み出される奇数共有画素ラインと偶数共有画素ラインとで、共有画素41の異なる位置の画素から、画素信号を読み出すことができる。
その結果、例えば、画素値のサンプリング間隔を、なるべく等間隔(略等間隔)にするFD加算が行われるように、共有画素41が有する画素から画素信号を読み出すアクセス制御を行うことができ、これにより、共有画素41を採用するイメージセンサ2において、画質の低下を抑制しつつ、高速撮像を行うことができる。
<SF加算>
図19は、SF(Source Follower)加算を説明する図である。
ここで、ライン加算を行う方法としては、FD加算の他、SF加算を利用する方法がある。
図5で説明したように、共有画素41の選択Tr65のソースに接続されている列信号線42N(及び42S)には、図示せぬ電流源が接続されており、この電流源と、増幅Tr64、及び、選択Tr65とは、SFの回路を構成している。
SF加算は、SFの回路の電流源が接続されている列信号線42N(又は42S)上で行われる加算である。
図19に示すように、例えば、各奇数共有画素ラインの、ある列Cに注目した場合、各奇数共有画素ラインの列Cの共有画素41は、同一の列信号線42Nに接続されているが、行制御部22(図4)において、列Cの共有画素41のうちの、複数の異なる奇数共有画素ライン(行)の、同一の列信号線42Nに接続されている複数の共有画素41としての、例えば、奇数共有画素ラインRNの共有画素41と、奇数共有画素ラインRN+1の共有画素41との2個の共有画素41から、画素信号を同時に読み出すアクセス制御を行うことで、その2個の共有画素41から読み出された画素信号を、列信号線42N上で加算するSF加算を行い、その列信号線42Nが接続されているカラム処理部23Nに供給することができる。
すなわち、例えば、行制御部22において、奇数共有画素ラインRNの共有画素41から、位置(1,1)と(3,1)のR画素の画素信号をFD加算した加算信号としての画素信号を読み出し、列信号線42N上に出力するのと同時に、奇数共有画素ラインRNの次の奇数共有画素ラインRN+1の共有画素41から、位置(1,1)と(3,1)のR画素の画素信号をFD加算した加算信号としての画素信号を読み出し、列信号線42N上に出力するアクセス制御を行うことで、奇数共有画素ラインRNの共有画素41の位置(1,1)と(3,1)のR画素の画素信号をFD加算して得られる画素信号と、奇数共有画素ラインRN+1の共有画素41の位置(1,1)と(3,1)のR画素の画素信号をFD加算して得られる画素信号とは、列信号線42N上でSF加算される。
そして、列信号線42N上のSF加算で得られる加算信号としての画素信号は、列信号線42Nに接続されているカラム処理部23Nに供給される。
奇数共有画素ラインRN及びRN+1のR画素以外のGr画素、Gb画素、及び、B画素、奇数共有画素ラインRN及びRN+1以外の奇数ラインのペア、さらには、偶数共有画素ラインについても、同様のアクセス制御を行うことで、FD加算による2ライン加算と、SF加算による2ライン加算とが行われ、1/4間引きでの画素信号の読み出しを行うことができる。
また、図16及び図17で説明した、1/2読み飛ばし、及び、FD加算による2ライン加算に加え、上述のようなSF加算による2ライン加算を行うことで、1/8間引きでの画素信号の読み出しを行うことができ、この場合、画質の低下を抑制しつつ、通常撮像時のフレームレートの8倍のフレームレートでの高速撮像を行うことができる。
なお、前述の特許文献1には、単位画素で構成され、AD変換を行うカラム処理部に並列に接続された複数のキャパシタと、その複数のキャパシタの中から、列信号線に接続するキャパシタを選択するスイッチとが設けられているイメージセンサが記載されている。
特許文献1に記載のイメージセンサでは、スイッチによって、列信号線に接続するキャパシタを切り替えることで、異なる2行の単位画素から同時に読み出された画素信号が、列信号線に接続されたキャパシタを介してカラム処理部に供給されるときに重み付け加算される容量加算が行われる。
個別アクセス制御は、以上のような容量加算を行うイメージセンサにも適用することができ、したがって、図4の個別アクセス制御を行うイメージセンサの構成としては、容量加算を行う構成を採用することができる。
図4の個別アクセス制御を行うイメージセンサの構成として、容量加算を行う構成を採用した場合には、行制御部22は、異なる複数の共有画素ライン(行)の共有画素41から画素信号を同時に読み出すアクセス制御を行うことで、複数の共有画素ラインの共有画素41から同時に読み出された画素信号を列信号線に接続されたキャパシタを介して、カラム処理部に供給する。これにより、複数の共有画素ラインの共有画素41から同時に読み出された画素信号は、容量加算によって重み付け加算されて、カラム処理部に供給される。
<画素アクセス部11の他の詳細構成例>
図20は、図2の画素アクセス部11の他の詳細な構成例を示すブロック図である。
なお、図中、図4の場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。
図20の画素アクセス部11は、画素アレイ部21、カラム処理部23N及び23S、並びに、列制御部24N及び24Sを有する点で、図4の場合と共通する。
さらに、図20の画素アクセス部11は、画素アレイ部21が、複数の共有画素41を有し、カラム処理部23Nが、DAC51N、及び、共有画素41の列数Xと同一のX個のADC52Nを有するとともに、カラム処理部23Sが、DAC51S、及び、X個のADC52Sを有する点で、図4の場合と共通する。
また、図20の画素アクセス部11は、列信号線42N及び42Sが設けられている点で、図4の場合と共通する。
但し、図20の画素アクセス部11は、行制御部22に代えて、行制御部72が設けられているとともに、行信号線43A及び43Bに代えて、行信号線73A1及び73A2、並びに、73B1及び73B2が設けられている点で、図4の場合と相違する。
行信号線73A1及び73A2は、行信号線43Aと同様に、奇数行(奇数共有画素ライン)に配線されており、行制御部72は、行信号線73A1及び73A2に制御信号を供給する(流す)ことで、奇数行の共有画素41に対するアクセス制御を行う。
行信号線73B1及び73B2は、行信号線43Bと同様に、偶数行(偶数共有画素ライン)に配線されており、行制御部72は、行信号線73B1及び73B2に制御信号を供給することで、偶数行の共有画素41に対するアクセス制御を行う。
但し、行信号線73A1は、奇数行の共有画素41のうちの、奇数列の共有画素41にのみ接続され、行信号線73A2は、奇数行の共有画素41のうちの、偶数列の共有画素41にのみ接続されている。
また、行信号線73B1は、偶数行の共有画素41のうちの、奇数列の共有画素41にのみ接続され、行信号線73B2は、偶数行の共有画素41のうちの、偶数列の共有画素41にのみ接続されている。
行信号線73A1及び73A2、並びに、73B1及び73B2は、それぞれ、別系統の信号線であり、行制御部72は、別系統の信号線である行信号線73A1及び73A2、並びに、73B1及び73B2のそれぞれには、異なる制御信号を供給することができる。
これにより、行制御部72は、画素信号(電気信号)が同時に読み出される奇数行及び偶数行の2行の共有画素41に対し、奇数行と偶数行とで、異なるアクセス制御を行うことができる他、さらに、1行の1の列と他の列でも、すなわち、奇数列と偶数列とでも、異なるアクセス制御を行うことができる。
この場合、同一の行の共有画素41について、奇数列と偶数列とで、異なる位置の画素から、画素信号を読み出すことができ、間引きの方法、すなわち、例えば、画素ラインを読み飛ばすパターンや、ライン加算を行う対象について、自由度を向上させることができる。
この場合、画素信号を間引いて得られる画像の画素値のサンプリング間隔(画素値を有する画素ラインの間隔)を、より等間隔に近づけ、モアレの発生等に起因する画質の低下を、より抑制することが可能となる。
<イメージセンサ2の他の構成例>
図21は、図1のイメージセンサ2の他の構成例を示すブロック図である。
なお、図中、図2の場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。
図21のイメージセンサ2は、画素アクセス部11、カラムI/F部12、信号処理部13、及び、タイミング制御部14を有する点で、図2の場合と共通する。
さらに、図21のイメージセンサ2は、画素アクセス部11が、画素アレイ部21、及び、行制御部22を有する点で、図2の場合と共通する。
但し、図21のイメージセンサ2は、画素アクセス部11において、2つのカラム処理部23N及び23Sに代えて、1つのカラム処理部81が設けられているとともに、2つの列制御部24N及び24Sに代えて、1つの列制御部82が設けられている点で、図2の場合と相違する。
すなわち、図2のイメージセンサ2では、列信号線42N及び42S(図4)の一端側としての上側に、カラム処理部23N及び列制御部24Nが設けられているとともに、他端側としての下側に、カラム処理部23S及び列制御部24Sが設けられているが、図21のイメージセンサ2では、列信号線42N及び42Sの一端側としての上側にだけ、カラム処理部81及び列制御部82が設けられている。
カラム処理部81は、カラム処理部23N及び23Sと同様に、画素アレイ部21から供給される画素信号のAD変換等を行い、その結果得られるディジタル信号を、画素値として、カラムI/F部12に供給する。
列制御部82は、列制御部24N及び24Sと同様に、カラム処理部81がAD変換等によって得た画素値を、カラムI/F部12に供給するための制御である列制御を行う。
なお、カラム処理部81は、カラム処理部23N及び23S(図4)と同様に、図示せぬDACとADCとを有する。
但し、カラム処理部23Nは(カラム処理部23Sも同様)、共有画素41の列数Xと同一のX個のADC52N(図4)を有するが、カラム処理部81は、複数行の各列の共有画素41から同時に読み出される画素信号をAD変換するADC(AD変換部)として、共有画素41の列数Xに、画素信号が同時に読み出される複数行を乗算した乗算値だけの数のADCを有する。
すなわち、本実施の形態では、画素信号が同時に読み出される共有画素41の行数(共有画素ラインのライン数)は、2行であるため、カラム処理部81は、2X個のADCを有する。
ここで、画素信号をAD変換するカラム処理部を1個だけ有する構成を、シングルカラム構成というとともに、カラム処理部を複数個に分けた構成を、マルチカラム構成ということとすると、図2のイメージセンサ2は、マルチカラム構成のイメージセンサであり、図21のイメージセンサ2は、シングルカラム構成のイメージセンサである。
上述のように、2個のカラム処理部23N及び23Sを有するマルチカラム構成の図2のイメージセンサ2では、カラム処理部23N(カラム処理部23Sも同様)は、X個のADC52Nを有するが、1個のカラム処理部81を有するシングルカラム構成の図21のイメージセンサ2では、カラム処理部81は、2X個のADCを有する。
したがって、マルチカラム構成の図2のイメージセンサ2では、2個のカラム処理部23N及び23Sを有するので、1個のカラム処理部81を有するシングルカラム構成の図21のイメージセンサ2に比較して、回路面積が大になることがあるが、カラム処理部23N及び23Sが有するADC52N及び52Sの数が、それぞれX個であるため、2X個のADCを有するシングルカラム構成の図21のイメージセンサ2に比較して、ADC52Nどうしの間やADC52Sどうしの間に余裕があり、設計が容易である。
一方、シングルカラム構成の図21のイメージセンサ2では、カラム処理部81が2X個のADCを有するので、それぞれがX個のADC52N及び52Sを有するカラム処理部23N及び23Sで構成されるマルチカラム構成の図2のイメージセンサ2に比較して、カラム処理部81が有するADCどうしの間に余裕がなく、設計がシビアになるが、画素信号のAD変換を行うカラム処理部がカラム処理部81の1個だけなので、2個のカラム処理部23N及び23Sを有するマルチカラム構成の図2のイメージセンサ2に比較して、回路面積を小にすることができる。
なお、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
例えば、本実施の形態では、共有画素41が、2×2画素や2×4画素で構成される場合について説明したが、共有画素41の構成としては、2×2画素や2×4画素の構成以外の構成を採用することができる。
また、本実施の形態では、カラーフィルタのパターンとして、ベイヤ配列を採用したが、カラーフィルタのパターンは、ベイヤ配列に限定されるものではない。
さらに、本実施の形態では、2行の共有画素ラインの共有画素41から、画素信号を同時に読み出すこととしたが、本技術は、3行以上のL行の共有画素ラインの共有画素41から、画素信号を同時に読み出す場合に適用することができる。
この場合、画素アクセス部11では、共有画素41の1列に対して、L本の列信号線が必要となる。さらに、画素信号を同時に読み出すL行の共有画素ラインの各行ごとに、異なるアクセス制御(個別アクセス制御)を行う場合には、R系統の別系統の行信号線が必要となる。
また、本技術は、ディジタルカメラの他、PC(Personal Computer)や、携帯電話機、タブレット端末、スマートフォン、ウェアラブルカメラ、その他の画像を撮像する機能を搭載することができるあらゆる電子機器に適用することができる。
さらに、本明細書に記載された効果はあくまで例示であって限定されるものではなく、他の効果があってもよい。