JP2018082259A - 固体撮像素子、信号処理回路、及び、電子機器 - Google Patents
固体撮像素子、信号処理回路、及び、電子機器 Download PDFInfo
- Publication number
- JP2018082259A JP2018082259A JP2016222164A JP2016222164A JP2018082259A JP 2018082259 A JP2018082259 A JP 2018082259A JP 2016222164 A JP2016222164 A JP 2016222164A JP 2016222164 A JP2016222164 A JP 2016222164A JP 2018082259 A JP2018082259 A JP 2018082259A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- signal
- pixels
- color
- solid
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/133—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing panchromatic light, e.g. filters passing white light
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
- H04N23/13—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with multiple sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/135—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/40—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Color Television Image Signal Generators (AREA)
Abstract
【課題】感度向上のために、複数色の画素の分光特性を包含する分光特性を有する画素を用いた場合であっても、色解像度の低下を最小限に抑えることができるようにする。【解決手段】本開示の固体撮像素子は、異なる分光特性を有する複数の画素が配置され、当該複数の画素の内の1つ以上の画素が、その他の画素の2つ以上の分光特性を包含した分光特性を有する画素アレイ部と、画素アレイ部内の2つ以上の分光特性を有する画素の信号を輝度信号の生成に使用する際に、その包含された分光特性を有する画素の1つ以上の画素の信号を輝度信号に合成する信号処理部と、を備える。【選択図】 図7
Description
本開示は、固体撮像素子、信号処理回路、及び、電子機器に関する。
CCD(Charge Coupled Device)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどの固体撮像素子では、解像性能の向上のために画素数が多くなる反面、画素サイズが徐々に小さくなってきている。しかし、画素サイズがある程度小さくなると、1画素当たりの感度特性が低下するため、必要な感度を得ることが難しくなる。
そこで、赤色光を受光する赤画素(R画素)、緑色光を受光する緑画素(G画素)、及び、青色光を受光する青画素(B画素)の組み合わせに、可視光領域全体の光を受光する白画素(W画素)を加えることにより、感度の向上を図っている(例えば、特許文献1参照)。
白画素(W画素)を用いた固体撮像素子は、感度が高い上に、輝度解像度も高い。その反面、白画素が受光する光には、全ての波長領域の信号が含まれているため、色解像度が低下するという問題がある。この色解像度の低下の問題は、白画素を用いた固体撮像素子に限られるものではなく、感度向上のために、複数色の画素の分光特性を包含する分光特性を有する画素を用いた固体撮像素子全般に言えることである。
本開示は、感度向上のために、複数色の画素の分光特性を包含する分光特性を有する画素を用いた場合であっても、色解像度の低下を最小限に抑えることができる固体撮像素子、信号処理回路、及び、電子機器を提供することを目的とする。
上記の目的を達成するための本開示の固体撮像素子は、
異なる分光特性を有する複数の画素が配置され、当該複数の画素の内の1つ以上の画素が、その他の画素の2つ以上の分光特性を包含した分光特性を有する画素アレイ部と、
画素アレイ部内の2つ以上の分光特性を有する画素の信号を輝度信号の生成に使用する際に、その包含された分光特性を有する画素の1つ以上の画素の信号を輝度信号に合成する信号処理部と、
を備える。また、上記の目的を達成するための本開示の電子機器は、上記の構成の固体撮像素子を有する。
異なる分光特性を有する複数の画素が配置され、当該複数の画素の内の1つ以上の画素が、その他の画素の2つ以上の分光特性を包含した分光特性を有する画素アレイ部と、
画素アレイ部内の2つ以上の分光特性を有する画素の信号を輝度信号の生成に使用する際に、その包含された分光特性を有する画素の1つ以上の画素の信号を輝度信号に合成する信号処理部と、
を備える。また、上記の目的を達成するための本開示の電子機器は、上記の構成の固体撮像素子を有する。
また、上記の目的を達成するための本開示の信号処理回路は、
異なる分光特性を有する複数の画素が配置され、当該複数の画素の内の1つ以上の画素が、その他の画素の2つ以上の分光特性を包含した分光特性を有する画素アレイ部を備える固体撮像素子の信号処理回路であって、
画素アレイ部内の2つ以上の分光特性を有する画素の信号を処理して輝度信号を生成する際に、1つ以上の画素の分光特性に包含された分光特性を有する1つ以上の画素の信号を輝度信号に合成する。
異なる分光特性を有する複数の画素が配置され、当該複数の画素の内の1つ以上の画素が、その他の画素の2つ以上の分光特性を包含した分光特性を有する画素アレイ部を備える固体撮像素子の信号処理回路であって、
画素アレイ部内の2つ以上の分光特性を有する画素の信号を処理して輝度信号を生成する際に、1つ以上の画素の分光特性に包含された分光特性を有する1つ以上の画素の信号を輝度信号に合成する。
また、上記の目的を達成するための本開示の他の信号処理回路は、
第1色の画素が配置されて成る第1の固体撮像素子の出力信号、及び、第2色の画素が配置されて成る第2の固体撮像素子の出力信号を処理する信号処理回路であって、
輝度信号を生成する際に、第1の固体撮像素子から出力される第1色の画素の信号と、第2の固体撮像素子から出力される第2色の画素の信号とを合成する。
第1色の画素が配置されて成る第1の固体撮像素子の出力信号、及び、第2色の画素が配置されて成る第2の固体撮像素子の出力信号を処理する信号処理回路であって、
輝度信号を生成する際に、第1の固体撮像素子から出力される第1色の画素の信号と、第2の固体撮像素子から出力される第2色の画素の信号とを合成する。
本開示によれば、感度向上のために、複数色の画素の分光特性を包含する分光特性を有する画素を用いた場合であっても、色解像度の低下を最小限に抑えることができる。
尚、ここに記載された効果に必ずしも限定されるものではなく、本明細書中に記載されたいずれかの効果であってもよい。また、本明細書に記載された効果はあくまで例示であって、これに限定されるものではなく、また付加的な効果があってもよい。
以下、本開示の技術を実施するための形態(以下、「実施形態」と記述する)について図面を用いて詳細に説明する。本開示の技術は実施形態に限定されるものではない。以下の説明において、同一要素又は同一機能を有する要素には同一符号を用いることとし、重複する説明は省略する。尚、説明は以下の順序で行う。
1.本開示の固体撮像素子、信号処理回路、及び、電子機器、全般に関する説明
2.本開示の技術が適用される固体撮像素子
2−1.基本的なシステム構成
2−2.色解像度について
3.本開示の実施形態
3−1.実施例1(固体撮像素子が1つの場合の例)
3−2.実施例2(固体撮像素子が2つの場合の例)
4.電子機器
5.本開示がとることができる構成
1.本開示の固体撮像素子、信号処理回路、及び、電子機器、全般に関する説明
2.本開示の技術が適用される固体撮像素子
2−1.基本的なシステム構成
2−2.色解像度について
3.本開示の実施形態
3−1.実施例1(固体撮像素子が1つの場合の例)
3−2.実施例2(固体撮像素子が2つの場合の例)
4.電子機器
5.本開示がとることができる構成
<本開示の固体撮像素子、信号処理回路、及び、電子機器、全般に関する説明>
本開示の固体撮像素子、信号処理回路、及び、電子機器にあっては、画素アレイ部について、第1色の画素及び第2色の画素を少なくとも含む構成とすることができる。そして、信号処理部について、輝度系の信号処理では、第1色の画素の信号と第2色の画素の信号とを合成する構成とすることができる。また、信号処理部について、アルファ値を用いて第1色の画素の信号と第2色の画素の信号とをアルファブレンド処理する構成とすることができる。
本開示の固体撮像素子、信号処理回路、及び、電子機器にあっては、画素アレイ部について、第1色の画素及び第2色の画素を少なくとも含む構成とすることができる。そして、信号処理部について、輝度系の信号処理では、第1色の画素の信号と第2色の画素の信号とを合成する構成とすることができる。また、信号処理部について、アルファ値を用いて第1色の画素の信号と第2色の画素の信号とをアルファブレンド処理する構成とすることができる。
上述した好ましい構成を含む本開示の固体撮像素子、信号処理回路、及び、電子機器にあっては、第1色の画素については、画素アレイ部内で最も画素数が多い(又は、サンプリングレートが高い)、可視光領域全体の光を受光する白画素であることが好ましい。また、第2色の画素については、白画素の次に画素数が多い(又は、サンプリングレートが高い)緑色光を受光する緑画素であることが好ましい。
また、上述した好ましい構成を含む本開示の固体撮像素子、信号処理回路、及び、電子機器にあっては、第2色の画素について、波長方向に4種類(4色)以上の波長分解能を持つマルチスペクトルの画素配列の内1つ以上の画素である構成とすることができる。
更に、上述した好ましい構成を含む本開示の固体撮像素子、信号処理回路、及び、電子機器にあっては、信号処理部について、画素値が不連続に変化しているエッジ方向の判定を行う方向判定部を有し、当該判定部の判定結果に基づいて輝度信号に合成する信号の割合を決定する構成とすることができる。
更に、上述した好ましい構成を含む本開示の固体撮像素子、信号処理回路、及び、電子機器にあっては、信号処理部について、輝度系の信号処理では、輝度信号に対する合成処理後にモザイク処理を行う構成とすることができる。
更に、上述した好ましい構成を含む本開示の固体撮像素子、信号処理回路、及び、電子機器にあっては、画素アレイ部について、赤色光を受光する赤画素、緑色光を受光する緑画素、及び、青色光を受光する青画素を含む構成とすることができる。そして、信号処理部について、クロマ系の信号処理では、赤画素、緑画素及び青画素の各信号に基づくモザイク処理を行う構成とすることができる。
更に、上述した好ましい構成を含む本開示の固体撮像素子、信号処理回路、及び、電子機器にあっては、信号処理部について、クロマ系の信号処理では、モザイク処理後にノイズ除去処理を行う構成とすることができる。更に、信号処理部について、輝度系の信号とクロマ系の信号とを合成処理する構成とすることができる。
<本開示の技術が適用される固体撮像素子>
本開示の技術が適用される固体撮像素子について、図1を用いて説明する。図1は、本開示の技術が適用される固体撮像素子の基本的な構成を示すシステム構成図である。ここでは、本適用例に係る固体撮像素子として、X−Yアドレス方式の固体撮像素子の一種であるCMOSイメージセンサを例に挙げて説明することとする。但し、CMOSイメージセンサへの適用に限られるものではなく、例えばCCDイメージセンサに適用することも可能である。
本開示の技術が適用される固体撮像素子について、図1を用いて説明する。図1は、本開示の技術が適用される固体撮像素子の基本的な構成を示すシステム構成図である。ここでは、本適用例に係る固体撮像素子として、X−Yアドレス方式の固体撮像素子の一種であるCMOSイメージセンサを例に挙げて説明することとする。但し、CMOSイメージセンサへの適用に限られるものではなく、例えばCCDイメージセンサに適用することも可能である。
[基本的なシステム構成]
本適用例に係る固体撮像素子10は、図示せぬ半導体基板(半導体チップ)上に形成された画素アレイ部11と、当該画素アレイ部11と同じ半導体基板上に集積された周辺回路部とを有する構成となっている。周辺回路部は、例えば、垂直駆動部12、カラム処理部13、水平駆動部14、及び、システム制御部15から構成されている。
本適用例に係る固体撮像素子10は、図示せぬ半導体基板(半導体チップ)上に形成された画素アレイ部11と、当該画素アレイ部11と同じ半導体基板上に集積された周辺回路部とを有する構成となっている。周辺回路部は、例えば、垂直駆動部12、カラム処理部13、水平駆動部14、及び、システム制御部15から構成されている。
固体撮像素子10は更に、信号処理部18及びデータ格納部19を備えている。信号処理部18及びデータ格納部19については、固体撮像素子10と同じ基板上に搭載しても構わないし、固体撮像素子10とは別の基板上に配置するようにしても構わない。また、信号処理部18及びデータ格納部19の各処理については、固体撮像素子10とは別の基板に設けられる外部信号処理部、例えば、DSP(Digital Signal Processor)回路やソフトウェアによる処理でも構わない。
画素アレイ部11は、光電変換を行うことで、受光した入射光の光量に応じた光電荷を生成し、かつ、蓄積する光電変換部を含む画素20が行方向及び列方向に、即ち、行列状に2次元配置された構成となっている。ここで、行方向とは画素行の画素(単位画素)の配列方向(即ち、水平方向)を言い、列方向とは画素列の画素の配列方向(即ち、垂直方向)を言う。
画素アレイ部11において、行列状の画素配列に対して、画素行毎に画素駆動線16(161〜16m)が行方向に沿って配線され、画素列毎に垂直信号線17(171〜17n)が列方向に沿って配線されている。画素駆動線16は、画素20を駆動する際に、垂直駆動部12から出力される駆動信号を伝送する。図1では、画素駆動線16について1本の配線として示しているが、1本に限られるものではない。画素駆動線16の一端は、垂直駆動部12の各行に対応した出力端に接続されている。
垂直駆動部12は、シフトレジスタやアドレスデコーダなどによって構成され、画素アレイ部11の各画素20を全画素同時あるいは行単位等で駆動する。すなわち、垂直駆動部12は、当該垂直駆動部12を制御するシステム制御部15と共に、画素アレイ部11の各画素20を駆動する駆動部を構成している。この垂直駆動部12はその具体的な構成については図示を省略するが、一般的に、読出し走査系と掃出し走査系の2つの走査系を有する構成となっている。
読出し走査系は、画素20から信号を読み出すために、画素アレイ部11の画素20を行単位で順に選択走査する。画素20から読み出される信号はアナログ信号である。掃出し走査系は、読出し走査系によって読出し走査が行われる読出し行に対し、その読出し走査よりもシャッタスピードの時間分だけ先行して掃出し走査を行う。
この掃出し走査系による掃出し走査により、読出し行の画素20の光電変換部から不要な電荷が掃き出されることによって当該光電変換部がリセットされる。そして、この掃出し走査系による不要電荷の掃き出す(リセットする)ことにより、所謂電子シャッタ動作が行われる。ここで、電子シャッタ動作とは、光電変換部の光電荷を捨てて、新たに露光を開始する(光電荷の蓄積を開始する)動作のことを言う。
読出し走査系による読出し動作によって読み出される信号は、その直前の読出し動作または電子シャッタ動作以降に受光した光量に対応するものである。そして、直前の読出し動作による読出しタイミングまたは電子シャッタ動作による掃出しタイミングから、今回の読出し動作による読出しタイミングまでの期間が、画素20における光電荷の露光期間となる。
垂直駆動部12によって選択走査された画素行の各画素20から出力される信号は、画素列毎に垂直信号線17の各々を通してカラム処理部13に入力される。カラム処理部13は、画素アレイ部11の画素列毎に、選択行の各画素20から垂直信号線17を通して出力される信号に対して所定の信号処理を行うとともに、信号処理後の画素信号を一時的に保持する。
具体的には、カラム処理部13は、信号処理として少なくとも、ノイズ除去処理、例えばCDS(Correlated Double Sampling;相関二重サンプリング)処理や、DDS(Double Data Sampling)処理を行う。例えば、CDS処理により、リセットノイズや画素20内の増幅トランジスタの閾値ばらつき等の画素固有の固定パターンノイズが除去される。カラム処理部13にノイズ除去処理以外に、例えば、AD(アナログ−デジタル)変換機能を持たせ、アナログの画素信号をデジタル信号に変換して出力することも可能である。
水平駆動部14は、シフトレジスタやアドレスデコーダなどによって構成され、カラム処理部13の画素列に対応する単位回路を順番に選択する。この水平駆動部14による選択走査により、カラム処理部13において単位回路毎に信号処理された画素信号が順番に出力される。
システム制御部15は、各種のタイミング信号を生成するタイミングジェネレータなどによって構成され、当該タイミングジェネレータで生成された各種のタイミングを基に、垂直駆動部12、カラム処理部13、及び、水平駆動部14などの駆動制御を行う。
信号処理部18は、少なくとも演算処理機能を有し、カラム処理部13から出力される画素信号に対して演算処理等の種々の信号処理を行う。信号処理部18は、本開示の信号処理回路の一例であり、その詳細については後述する。データ格納部19は、信号処理部18での信号処理に当たって、その処理に必要なデータを一時的に格納する。
尚、上記のシステム構成は、一例であって、これに限られるものではない。例えば、データ格納部19をカラム処理部13の後段に配置し、カラム処理部13から出力される画素信号を、データ格納部19を経由して信号処理部18に供給するシステム構成であってもよい。あるいは又、画素アレイ部11の列毎あるいは複数の列毎にAD変換するAD変換機能をカラム処理部13に持たせるとともに、当該カラム処理部13に対してデータ格納部19及び信号処理部18を並列的に設けるシステム構成であってもよい。
本開示の技術が適用される固体撮像素子10は、その構造として、カラム処理部13、信号処理部18、データ格納部19等の構成要素を画素アレイ部11と共に、同一の半導体基板上に搭載する、所謂、平置構造を採ることができる。あるいは又、カラム処理部13、信号処理部18、データ格納部19等の構成要素を、画素アレイ部11が搭載された半導体基板と異なる、他の1つ以上の半導体基板に分散して搭載し、これらの半導体基板を積層した、所謂、積層構造を採ることができる。
また、画素構造として、裏面照射型の画素構造を採ることができるし、表面照射型の画素構造を採ることができる。ここで、「裏面照射型の画素構造」とは、半導体基板の配線層が形成される側の面を基板表面とするとき、その反対側の面、即ち基板裏面側(半導体基板の裏側)から入射光を取り込む(光が照射される)画素構造を言う。逆に、「表面照射型の画素構造」とは、基板表面側から入射光を取り込む(光が照射される)画素構造を言う。
[色解像度について]
ここで、固体撮像素子において、光の三原色である「赤、緑、青」の基本色の強さを表現する色解像度について考える。可視光領域全体の光を受光する白画素(W画素)を用いた固体撮像素子は、感度が高く、輝度解像度も高い反面、白画素が受光する光には、全ての波長領域の信号が含まれているために、色解像度が低いという問題がある。この点について、以下に具体例を挙げて説明する。一例として、図2Aに示すように、Gの帯とMg(マゼンタ)の帯とが交互に並んだ被写体を撮像する場合を考える。ここでは、Gの被写体とMgの被写体とは輝度レベルが同じであるとする。
ここで、固体撮像素子において、光の三原色である「赤、緑、青」の基本色の強さを表現する色解像度について考える。可視光領域全体の光を受光する白画素(W画素)を用いた固体撮像素子は、感度が高く、輝度解像度も高い反面、白画素が受光する光には、全ての波長領域の信号が含まれているために、色解像度が低いという問題がある。この点について、以下に具体例を挙げて説明する。一例として、図2Aに示すように、Gの帯とMg(マゼンタ)の帯とが交互に並んだ被写体を撮像する場合を考える。ここでは、Gの被写体とMgの被写体とは輝度レベルが同じであるとする。
まず、画素(カラーフィルタ)のカラー配列が、図2Bの左側に示すRGBベイヤー配列の場合について考える。RGBベイヤー配列は、R画素、B画素及び2つのG(Gr,Gb)画素の4画素を単位とする配列パターンを基本としている。ここで、R画素は、赤色カラーフィルタ層を有することによって赤色光を受光する画素である。G画素は、緑色カラーフィルタ層を有することによって緑色光を受光する画素である。B画素は、青色カラーフィルタ層を有することによって青色光を受光する画素である。Gr画素はR画素を含む画素行のG画素を意味し、Gb画素はB画素を含む画素行のG画素を意味している。
このRGBベイヤー配列の場合、図3Aに示すように、Gの被写体に対してG画素が大きな出力値を示す。例えば、G画素の出力が500LSB@10bitとなり、混色を無視するものとすると、R画素及びB画素の出力が0LSB@10bitとなる。そして、Mgの被写体に対しては、G画素の出力が0LSB@10bitとなり、R画素及びB画素の出力が500LSB@10bitとなる。このように、Gの被写体とMgの被写体とで、G画素、R画素及びB画素の各出力が異なるために実際の被写体を再現できる。
次に、図2Bの右側に示す全画素がW画素(モノクロ)の場合について考える。全画素がW画素の配列の場合、図3Bに示すように、Gの被写体、Mgの被写体共に、W画素の出力が例えば600LSB@10bitとなる。この場合、一面同じ被写体に見えるために、Gの被写体とMgの被写体との境界が見えないという問題が生じる。ここでは、Gの被写体とMgの被写体のW画素から見た輝度値が全く同じとした場合であるが、輝度値が同じでなくてもある程度近くなると、全ての画素がW画素の固体撮像素子では、解像度が下がっていき、同じになると原理的に解像しなくなる。よって、色解像度の低下は、色の組み合わせに関係なく、どのような色の組み合わせであっても、輝度値が同じ又は近くなると起こり得る現象である。
色解像度について、種々の分光特性を用いて更に詳しく説明する。図4Aは、WRGBのカラー配列の場合の分光特性の一例を示し、図4Bは、Ye(イエロー)RGBのカラー配列の場合の分光特性の一例を示し、図4Cは、W+マルチスペクトルのカラー配列の場合の分光特性の一例を示している。図5Aは、RGB+マルチスペクトルのカラー配列の場合の分光特性の一例を示し、図5Bは、RGB+Mgのカラー配列の場合の分光特性の一例を示している。ここで、マルチスペクトルとは、波長方向に4種類(4色)以上の波長分解能を持つペクトルを言う。
図4Aに示すWRGBのカラー配列の場合、W画素の分光特性は、R画素、G画素及びB画素の各分光特性を包含する形になっている。この場合、W画素から見たRGBの各色の被写体の輝度値が同じ又は近くなってしまった場合には、RGBの各色の区別ができなくなり、解像しなくなる。RGBの各色が混ざっている場合も同様に、W画素から見た輝度値が同じ又は近くなってしまった被写体は解像しなくなる。
図4Bに示すYeRGBのカラー配列の場合、Ye(イエロー)画素の分光特性は、R画素及びG画素の各分光特性を包含する形になっている。この場合、Ye画素から見たRGの各色の被写体の輝度値が同じ又は近くなってしまった場合には、RGの各色の区別ができなくなり、解像しなくなる。RGの各色が混ざっている場合も同様に、Ye画素から見た輝度値が同じ又は近くなってしまった被写体は解像しなくなる。
図4Cに示すW+マルチスペクトルのカラー配列の場合、W画素の分光特性は、a画素〜g画素の各分光特性を包含する形になっている。ここで、a〜gは任意の色を意味している。この場合、W画素から見たa〜gの各色の内、2つ以上の色の被写体の輝度値が同じ又は近くなってしまった場合には、輝度値が同じ又は近くなってしまった各色の被写体の区別ができなくなり、解像しなくなる。a〜gの各色が混ざっている場合も同様に、W画素から見た輝度値が同じ又は近くなってしまった被写体は解像しなくなる。
図5Aに示すRGB+マルチスペクトルのカラー配列の場合、B画素の分光特性は、a画素及びb画素の各分光特性を包含する形になっており、G画素の分光特性は、c画素及びd画素の各分光特性を包含する形になっており、R画素の分光特性は、e画素、f画素及びg画素の各分光特性を包含する形になっている。この場合、B画素から見たabの各色の被写体の輝度値が同じ又は近くなってしまった場合、G画素から見たcdの各色の被写体の輝度値が同じ又は近くなってしまった場合、R画素から見たefgの各の色の被写体の輝度値が同じ又は近くなってしまった場合、それらの被写体は解像しなくなる。
図5Bに示すRGB+Mgのカラー配列の場合、Mg(マゼンタ)画素の分光特性は、B画素及びR画素の各分光特性を包含する形になっている。この場合、Mg画素から見たBRの各色の被写体の輝度値が同じ又は近くなってしまった場合には、BRの各色の区別ができなくなり、解像しなくなる。BRの各色が混ざっている場合も同様に、Mg画素から見た輝度値が同じ又は近くなってしまった被写体は解像しなくなる。
ここでは図示しないが、RGB+Cy(シアン)のカラー配列の場合も同様である。この場合、Cy(シアン)画素から見たBGの各色の被写体の輝度値が同じ又は近くなってしまった場合には、BGの各色の区別ができなくなり解像しなくなる。BGの各色が混ざっている場合も同様に、Cy画素から見た輝度値が同じ又は近くなってしまった被写体は解像しなくなる。
以上のように、複数の分光特性を持つカラー配列のフィルタが存在し、その内の1つ以上の分光特性がその他2つ以上の分光特性を包含する場合、2つ以上の分光特性を包含している画素は、その包含している色同士の輝度値が同じ又は近くなってしまうと区別ができなくなり、解像できなくなる(色解像度の低下)。
ここで、分光特性を「包含する」という意味の定義について、図6A及び図6Bを用いて説明する。
図6Aに示すように、例えばYe画素の分光特性が、2つの分光特性(本例では、G画素及びR画素の各分光特性)のピーク値を含んでいる場合を「包含する」と定義する。また、図6Bに示すように、ピーク値を含んでいないが、分光特性の波形の面積の例えば半分以上包含している場合を「包含する」と定義する。勿論、2つの分光特性の波形の内、一方の分光特性のピーク値と、他方の分光特性の波形の例えば半分以上の面積を包含する場合も「包含する」と定義する。3つ以上の分光特性の波形の場合も同様で、ピーク値、もしくは例えば半分以上の面積を包含していれば、「包含する」と定義する。
<本開示の実施形態>
本開示の実施形態では、色解像度の劣化を最小限に抑えるために、固体撮像素子10の画素アレイ部11の各画素として、異なる分光特性を有する複数の画素が配置され、当該複数の画素の内の1つ以上の画素が、その他の画素の2つ以上の分光特性を包含した分光特性を有することを前提とする。
本開示の実施形態では、色解像度の劣化を最小限に抑えるために、固体撮像素子10の画素アレイ部11の各画素として、異なる分光特性を有する複数の画素が配置され、当該複数の画素の内の1つ以上の画素が、その他の画素の2つ以上の分光特性を包含した分光特性を有することを前提とする。
ここで、理解を容易にするために、図4Aに示すWRGBのカラー配列の場合を例に挙げて具体的に説明する。WRGBのカラー配列の場合、複数の画素の内の1つ以上の画素がW画素となり、その他の画素の2つ以上の分光特性がR画素、G画素及びB画素の各分光特性ということになる。すなわち、図4Aから明らかなように、W画素が、その他の画素の2つ以上の分光特性、即ち、R画素、G画素及びB画素の各分光特性を包含した分光特性を有していることになる。
また、図5Aに示すRGB+マルチスペクトルのカラー配列の場合を例に採ると、1つ以上の画素が、R画素、G画素及びB画素の3つの画素となる。そして、図5Aから明らかなように、B画素がa画素及びb画素の2つの画素の分光特性を包含した分光特性を有し、G画素がc画素及びd画素の2つの画素の分光特性を包含した分光特性を有し、R画素がe画素、f画素及びg画素の3つの画素の分光特性を包含した分光特性を有していることになる。
上記のカラー配列のカラーフィルタを有する画素アレイ部11を備える固体撮像素子10において、図1に示す信号処理部18は、画素アレイ部11内の2つ以上の分光特性を有する画素の信号を処理して輝度信号を生成する処理を行う。このとき、信号処理部18は、その包含された分光特性を有する画素の1つ以上の画素の信号を輝度信号に合成するようにする。
図4Aに示すWRGBのカラー配列の場合を例に採ると、W画素を第1色の画素とし、当該W画素の分光特性に含まれる分光特性を有するG画素を第2色の画素とし、W画素及びG画素の各信号を合成して輝度信号(高域信号)を生成することになる。このように、W画素と当該W画素の分光特性に含まれる分光特性を有するG画素を輝度系の信号の生成に使うことによって分光特性が改善するため、感度向上のためにW画素を用いた場合であっても、色解像度の低下を最小限に抑えることができる。
ここでは、一例として、第1色の画素としてW画素を用い、第2色の画素としてG画素を用いるとしたが、これらの色の組み合わせに限定されるものではない。
上記の構成の信号処理部18が、本開示の実施形態に係る信号処理回路ということになり、また、当該信号処理部18を備える固体撮像素子10が、本開示の実施形態に係る固体撮像素子ということになる。尚、本実施形態では、上記の構成の本実施形態に係る信号処理回路(信号処理部18)を固体撮像素子10の内部に備える構成としているが、固体撮像素子10の外部に備える構成とすることも可能である。
以下に、本実施形態に係る信号処理回路について具体的に説明する。本実施形態に係る信号処理回路に入力される信号としては、一例として、WRGBの各画素が配列されて成る1つの固体撮像素子から与えられる場合と、RGBの各画素が配列されて成る固体撮像素子及びW画素のみが配列されて成るモノクロの固体撮像素子の2つの固体撮像素子から与えられる場合とがある。前者を実施例1に係る信号処理回路として、後者を実施例2に係る信号処理回路として以下に具体的に説明する。
[実施例1]
実施例1は、入力センサである固体撮像素子が1つの場合の例である。実施例1に係る信号処理回路18Aの構成の一例を図7に示す。ここでは、一例として、画素のカラー配列が、図8Aに示すWRGBのカラー配列を例示する。
実施例1は、入力センサである固体撮像素子が1つの場合の例である。実施例1に係る信号処理回路18Aの構成の一例を図7に示す。ここでは、一例として、画素のカラー配列が、図8Aに示すWRGBのカラー配列を例示する。
実施例1に係る信号処理回路18Aには、WRGBの各画素が配列されて成る1つの固体撮像素子10から撮像信号が入力される。尚、この形態は、信号処理回路18Aが固体撮像素子10の外部に配置される場合である。信号処理回路18Aが固体撮像素子10の内部に配置される場合には、RGBWの各画素が配列されて成る画素アレイ部11から、カラム処理部13(図1参照)を経由して撮像信号が入力されることになる。
実施例1に係る信号処理回路18Aは、高域系である輝度系、及び、低域系であるクロマ系を有する。ここで、輝度系の信号として、画素アレイ部11内で最も画素数の多いW画素の信号、及び、次に画素数が多いG画素の各信号を使うこととする。また、クロマ系の信号として、色再現を可能にする3種類以上の画素、具体的にはG画素、R画素及びB画素の各信号を使うこととする。
輝度系には、画素数が多い(サンプリング周波数が高い)色の画素と、次に画素数が多く、色解像度(波長分解能)を有する画素の両者が必要である。そこで、輝度系の信号処理では、画素アレイ部11内で最も画素数が多い(又は、サンプリングレートが高い)W画素を第1色の画素として使い、W画素の次に画素数が多い(又は、サンプリングレートが高い)G画素を第2色の画素として使う。そして、W画素の信号とG画素の信号とを所定の割合で合成する。W画素は最も感度が高く、G画素はW画素の次に感度が高い画素である。
WRGBの各画素のカラー配列としては、図8Aに示すカラー配列(その1)以外に、図8B、図9A、及び、図9Bに示す種類のカラー配列(その2、その3、その4)を例示することができる。また、WRGBのカラー配列の以外にも、図10Aに示すWRBのカラー配列や、図10Bに示すWRGのカラー配列や、図10Cに示すWYeMgCyのカラー配列などを例示することができる。
図10Aに示すWRBのカラー配列の場合には、仮想のG画素を作成し(G=W−R−B)、その仮想のG画素を第2色の輝度系(高域系)としてもよい。図10Bに示すWRGのカラー配列についても、第2色の画素としてB画素を使用する場合は、同様に仮想のB画素を作成し(B=W−G−R)、その仮想のB画素を第2色の画素として使用としてもよい。
画素のカラー配列としては、上記のカラー配列以外にも、次のようなカラー配列を例示することができる。
図11A、図11B、図12A、及び、図12Bに示すカラー配列は、YeRGBのカラー配列(その1、その2、その3、その4)の例であり、配列違いである。このYeRGBのカラー配列の場合は、例えば最も感度の高いYe画素を、W画素の代わりに第1色の画素として使う。その場合、Ye画素の分光特性は、G画素の分光特性を包含するので(図4B参照)、Ye画素の出力がR色とG色の被写体で輝度値が同じ又は近い場合に解像度が低下する。従って、輝度系(又は、高域系)の処理に、G画素の信号又はR画素の信号、もしくはその両方の画素の信号を第2色の画素の信号として使用するとよい。
図13Aに示すカラー配列は、YeRBのカラー配列の例である。YeRBのカラー配列において、G画素の信号を使用する場合は、仮想のG画素を作成し(G=Ye−R)、その仮想のG画素を第2色の輝度系としてもよい。図13Bに示すカラー配列は、WRGBのカラー配列で、W画素のサイズが他の画素と異なる例である。ここでは、W画素のサイズが他の画素と異なる場合を示したが、W画素に限定されるものではなく、RGB画素の一つもしくは2つ以上の画素サイズが他の画素と異なってもよい。
図14Aに示すカラー配列は、W画素+マルチスペクトルのカラー配列の例であり、図14Bに示すカラー配列は、RGB+マルチスペクトルのカラー配列の例である。ここでは、一例として、a,b,c,d,e,f,g,hの8色のマルチスペクトルを例示しているが、色数、波長方向の分解能、画素の配置はこれらに限定されるものではなく、波長方向に4色以上の分解能を持つものをマルチスペクトルのカラー配列であればよい。第2色の画素の選択については、基本的に、上記の例と同様である。
図15Aに示すカラー配列は、WRGB+一部マルチスペクトルのカラー配列の例であり、図15Bに示すカラー配列は、RGB+一部マルチスペクトルのカラー配列の例である。これらのカラー配列は、WRGBの各画素もしくはRGBの各画素の画素周期よりも少ない周期でマルチスペクトルの各画素が配置されている例である。但し、これは一例であって、その周期は特に限定されるものではなく、その色数、波長方向の分解能、画素の配置についてもこれらに限定されるものではない。
マルチスペクトルのカラー配列の固体撮像素子(所謂、マルチスペクトルセンサ)は、カラー画像を合成する場合もあるが、それぞれの分光特性毎の単色画像として画像を生成する場合が多い。その場合、第2色としては、その画像の分光特性にあった1つ以上の色画素を、マルチスペクトルのカラー配列の画素から選択するようにする。異なった色を選択した場合には、偽色やアーティファクトを発生させる原因になる可能性がある。
例えば、図4Cに示すW+マルチスペクトルのカラー配列において、c色の分光から単色画像を作成する場合には、第1色の画素にW画素を選択し、第2色の画素にc色の画素を選択することが望ましい。図5Aに示すRGB+マルチスペクトルのカラー配列において、c色の分光から単色画像を作成する場合には、第1色の画素にG画素を選択し、第2色の画素にc色の画素を選択することが望ましい。
実施例1に係る信号処理回路18Aについて、以下に具体的に説明する。図7に示すように、実施例1に係る信号処理回路18Aは、輝度系として、方向判定部31、ブレンド処理部32、及び、モザイク処理部33を有し、クロマ系として、モザイク処理部34及びノイズ除去処理部35を有する構成となっている。
方向判定部31は、画素値が不連続に変化しているエッジ方向の判定を行う。より具体的には、方向判定部31は、図16に示すように、輝度系のW画素及びG画素において、各画素値に基づいて、画素値がどれだけ近いかを表す類似度を縦、横、斜め方向でみることによってエッジ方向の判定を行う。この方向判定については、必ずしも、縦、横、斜めの全ての方向で行う必要はない。但し、全ての方向で方向判定を行った方が判定精度を上げることができる。ここで、方向判定の手法としては、例えば、SSD(Sum of Squared Difference)を用いて類似度(又は、相似度)を判定することによって行う手法を用いることができる。但し、SSDを用いる手法は一例であって、SSDを用いる手法に限定されるものではない。
ブレンド処理部32は、方向判定部31の判定結果に基づいて信号の合成の割合を決定し、その割合でW画素の信号とG画素の信号とを、アルファ値αを用いてブレンド処理する。具体的には、まず、図16に示すW画素及びG画素の縦、横、斜めの8水準の方向判定結果において、いずれかのW画素の判定結果が選択された場合は、輝度信号としてW画素の信号を使用し、G画素の信号は使用しない。
また、方向判定結果において、いずれかのG画素の判定結果が選択された場合は、輝度信号としてG画素の信号を使用する。このとき、次式(1)に基づいて、W画素の信号をアルファブレンドして輝度信号として使用する。
輝度信号=α×(Gの画素信号)+(1−α)×(Wの画素信号)
輝度信号=α×(Gの画素信号)+(1−α)×(Wの画素信号)
ここで、アルファ値αの決定方法について説明する。図17に示すように、SN比と色解像度とはトレードオフ関係にある。すなわち、G画素の信号の値の割合を増やしてアルファ値αを大きくすると色解像度は改善するが、SN比は悪化していく。逆に、W画素の信号の割合を増やしてアルファ値αを小さくするとSN比は改善するが、色解像度は悪化する。
よって、アルファ値αを決定するに当たっては、SN比と色解像度との関係を実際の画像で確認しながら、アルファ値αを適宜調整して決定することが好ましい。例えば、色解像度を最優先したい場合はα=1に設定したり、SN比も考慮したい場合は例えばα=0.5などに設定する。また、これらの値は画像内のあるブロック毎、更には、シーンやゲインなど画像の種類によって変化させることが望ましい。
モザイク処理部33は、ブレンド処理部32でのブレンド処理後の輝度信号に対して空間的な画質調整であるモザイク処理を行う。W画素、G画素の各信号に対してそれぞれモザイク処理を施し、その後、方向判定してブレンド処理することも可能であるが、先にモザイク処理を行うと補間処理が入るため、方向判定の精度が下がってしまう。このような理由から、ブレンド処理後の輝度信号に対してモザイク処理を行うことが望ましい。
クロマ系(域成分)の信号処理において、モザイク処理部34は、B画素・R画素・G画素の各信号に基づくモザイク処理を行う。クロマ系の処理では色再現を行うので、光の3原色の原理に基づき、最低3種類以上の画素が必要である。ここでは、WRGBのカラー配列を例に挙げたので、B画素・R画素・G画素の3つの画素としているが、他には補色系でWYeMgCyのカラー配列の場合は、Ye画素、Mg画素、C画素の各信号に基づいて処理を行うようにする。
また、WRB(又は、WGB)のカラー配列の場合は、W画素(W画素)、R画素(G画素)、B画素(B画素)を用いて、仮想のG画素(R画素)=W画素(W画素)−R画素(G画素)−B画素(B画素)を作り、色再現を行うようにする。また、YeRGBの場合には、Ye画素をW画素の代わりとして使う。また、マルチスペクトルのカラー配列の場合には、任意の3種類以上の画素を用いて色再現を行うようにする。
ノイズ除去処理部35は、モザイク処理部34でのモザイク処理後の信号に対してノイズ除去処理を行う。色画素は、輝度系に使う画素に比べて一般的に感度が低く、SN比が悪いためノイズ除去処理を行うことが望ましい。
最後に、合成処理部36は、輝度系で処理した輝度信号と、クロマ系で処理したクロマ信号とを合成して、高域〜低域まで含んだ画像信号として出力する。尚、図7では、例えばRGBベイヤー配列の画像信号として出力するとしているが、これに限定されるものではなく、YUV色空間の出力やRGB色空間の出力などであってもよい。要は、後段側の回路に合わせた出力であればよく、何かに限定されるものではない。
上述したように、例えば、第1色の画素としてW画素を用い、第2色の画素としてG画素を用いる場合において、画像処理時に、エッジ方向の判定処理にW画素及びG画素を用い、G画素の判定結果が最も強いときは、輝度信号にG画素の信号を使うようにする。また、そのとき、SN比が劣化することから、W画素とG画素の輝度信号をアルファブレンドできるようにして、SN比と色解像度のトレードオフを確認しながら、アルファブレンドのアルファ値αを設定するようにする。これにより、感度向上のためにW画素を用いた場合であっても、色解像度の低下を最小限に抑えつつ、SN比の劣化を抑制することができる。
以下に、方向判定部31及びブレンド処理部32における方向判定及びブレンド比決定の具体的な処理の一例について、図18のフローチャートを用いて説明する。
方向判定部31は、G画素の方向判定を全ての方向について行い(ステップS11)、次いで、G画素の最も強い方向を決定し(ステップS12)、しかる後、W画素について例えば横方向の方向判定を行う(ステップS13)。次に、方向判定部31は、W画素の横方向の判定結果がG画素の最も強い方向の判定結果よりも強いか否かを判断し(ステップS14)、W画素の横方向の判定結果の方が強いと判定した場合(S14のYES)、輝度信号としてW画素の信号のみを使用するブレンド処理部32の処理に移行する(ステップS15)。
ステップS14において、G画素の最も強い方向の判定結果の方が、W画素の横方向の判定結果よりも強いと判定した場合(S14のNO)、方向判定部31は、W画素の縦方向の方向判定を行い(ステップS16)、次いで、W画素の縦方向の判定結果がG画素の最も強い方向の判定結果よりも強いか否かを判断する(ステップS17)。この判断処理において、W画素の横方向の判定結果の方が強いと判定した場合(S17のYES)、ステップS15に移行し、輝度信号としてW画素の信号のみを使用する。
ステップS17において、G画素の最も強い方向の判定結果の方が、W画素の横方向の判定結果よりも強いと判定した場合(S17のNO)、方向判定部31は、W画素の斜め方向の方向判定を行い(ステップS18)、次いで、W画素の斜め方向の判定結果がG画素の最も強い方向の判定結果よりも強いか否かを判断する(ステップS19)。この判断処理において、W画素の斜め方向の判定結果の方が強いと判定した場合(S19のYES)、ステップS15に移行し、G画素の最も強い方向の判定結果の方が強いと判定した場合(S19のNO)、輝度信号としてG画素の信号を使用し、W画素の信号をアルファブレンドするブレンド処理部32の処理に移行する(ステップS20)。
上述したように、方向判定部31の判定処理において、G画素の方向判定を全て先に行い最も強い方向を決定した後、W画素について例えば横方向の方向判定を行ってGの判定結果と比較してW画素が強ければその時点で判定処理を終了する。そして、G画素が強ければ、次にW画素の斜め方向の判定結果と比較し、W画素が強ければその時点で判定処理を終了、という具合に順に方向判定を行うことにより、無駄な計算をしなくてもよくなるため、計算速度の向上及び消費電力の抑制を図ることができる。
[実施例2]
実施例2は、入力センサである固体撮像素子が2つの場合の例である。実施例2に係る信号処理回路18Bの構成の一例を図19示す。2つの固体撮像素子10A,10Bは、図20に示すように、一方がモノクロ(全画素がW画素)の画素配列、他方がRGBベイヤー配列の組み合わせとなっている。この例では、W画素が第1色の画素となり、G画素が第2色の画素となる。
実施例2は、入力センサである固体撮像素子が2つの場合の例である。実施例2に係る信号処理回路18Bの構成の一例を図19示す。2つの固体撮像素子10A,10Bは、図20に示すように、一方がモノクロ(全画素がW画素)の画素配列、他方がRGBベイヤー配列の組み合わせとなっている。この例では、W画素が第1色の画素となり、G画素が第2色の画素となる。
この組み合わせは一例であって、これに限られるものではない。例えば、図21に示すように、一方がモノクロの画素配列、他方がWRGBのカラー配列の組み合わせであってもよいし、図22に示すように、一方がモノクロの画素配列、他方がマルチスペクトルのカラー配列の組み合わせであってもよい。いずれも、基本的には、実施例1で例示したカラー配列の画素配置を2つに分割したものである。但し、2つの固体撮像素子10A,10B間で、画素サイズや画素数は異なっていてもよい点で、実施例1の場合と大きく異なっている。
実施例2に係る信号処理回路18Bは、2つの固体撮像素子10A,10Bの各撮像信号が合成されて入力される点で、1つの固体撮像素子10の撮像信号が入力される実施例1に係る信号処理回路18Aと相違しており、個々の構成要素の処理等については全く同じである。従って、ここでは、個々の構成要素、即ち、輝度系の方向判定部31、ブレンド処理部32、及び、モザイク処理部33、ならびに、クロマ系のモザイク処理部34及びノイズ除去処理部35の処理の詳細についての説明は省略する。
実施例2に係る信号処理回路18Bの個々の構成要素の処理等について、実施例1に係る信号処理回路18Aと同じであることから、実施例2に係る信号処理回路18Bによって得られる作用、効果も、実施例1に係る信号処理回路18Aと同じである。すなわち、実施例2に係る信号処理回路18Bによれば、感度向上のためにW画素を用いた場合であっても、色解像度の低下を最小限に抑えつつ、SN比の劣化を抑制することができる。
2つの固体撮像素子10A,10Bの画素配列の組み合わせとしては、モノクロの画素配列とRGBベイヤー配列との組み合わせ、モノクロの画素配列とWRGBのカラー配列との組み合わせ、モノクロの画素配列とマルチスペクトルのカラー配列との組み合わせに限られるものではない。例えば、RGBベイヤー配列とマルチスペクトルのカラー配列との組み合わせであってもよいし、赤外線や紫外線を受光可能な画素との組み合わせであってもよい。
尚、上記の実施例1及び実施例2では、一例として、輝度系(又は、高域系)の第1色の画素としてW画素を用い、第2色の画素としてG画素を用いるとしたが、これらの色の組み合わせに限定されるものではない。すなわち、異なる分光特性を有する複数の画素の内の1つ以上の画素が、その他の画素の2つ以上の分光特性を包含した分光特性を有する場合において、輝度信号を生成する際に、1つ以上の画素の分光特性に包含された分光特性を有する1つ以上の画素の信号を輝度信号に合成することとする。
<本開示の電子機器>
上述した実施形態に係る固体撮像素子は、デジタルスチルカメラやビデオカメラ等の撮像装置や、携帯電話機などの撮像機能を有する携帯端末装置や、画像読取部に固体撮像素子を用いる複写機などの電子機器全般において、その撮像部(画像取込部)として用いることができる。尚、固体撮像素子はワンチップとして形成された形態であってもよいし、撮像部と、信号処理部または光学系とがまとめてパッケージングされた撮像機能を有するモジュール状の形態であってもよい。電子機器に搭載される上記モジュール状の形態、即ち、カメラモジュールを撮像装置とする場合もある。
上述した実施形態に係る固体撮像素子は、デジタルスチルカメラやビデオカメラ等の撮像装置や、携帯電話機などの撮像機能を有する携帯端末装置や、画像読取部に固体撮像素子を用いる複写機などの電子機器全般において、その撮像部(画像取込部)として用いることができる。尚、固体撮像素子はワンチップとして形成された形態であってもよいし、撮像部と、信号処理部または光学系とがまとめてパッケージングされた撮像機能を有するモジュール状の形態であってもよい。電子機器に搭載される上記モジュール状の形態、即ち、カメラモジュールを撮像装置とする場合もある。
[撮像装置]
図23は、本開示の電子機器の一例である撮像装置の構成を示すブロック図である。図23に示すように、本例に係る撮像装置100は、レンズ群等を含む撮像光学系101、撮像部102、DSP回路103、フレームメモリ104、表示装置105、記録装置106、操作系107、及び、電源系108等を有している。そして、DSP回路103、フレームメモリ104、表示装置105、記録装置106、操作系107、及び、電源系108がバスライン109を介して相互に接続された構成となっている。
図23は、本開示の電子機器の一例である撮像装置の構成を示すブロック図である。図23に示すように、本例に係る撮像装置100は、レンズ群等を含む撮像光学系101、撮像部102、DSP回路103、フレームメモリ104、表示装置105、記録装置106、操作系107、及び、電源系108等を有している。そして、DSP回路103、フレームメモリ104、表示装置105、記録装置106、操作系107、及び、電源系108がバスライン109を介して相互に接続された構成となっている。
撮像光学系101は、被写体からの入射光(像光)を取り込んで撮像部102の撮像面上に結像する。撮像部102は、光学系101によって撮像面上に結像された入射光の光量を画素単位で電気信号に変換して画素信号として出力する。DSP回路103は、一般的なカメラ信号処理、例えば、ホワイトバランス処理、デモザイク処理、ガンマ補正処理などを行う。
フレームメモリ104は、DSP回路103での信号処理の過程で適宜データの格納に用いられる。表示装置105は、液晶表示装置や有機EL(electro luminescence)表示装置等のパネル型表示装置から成り、撮像部102で撮像された動画または静止画を表示する。記録装置106は、撮像部102で撮像された動画または静止画を、可搬型の半導体メモリや、光ディスク、HDD(Hard Disk Drive)等の記録媒体に記録する。
操作系107は、ユーザによる操作の下に、本撮像装置100が持つ様々な機能について操作指令を発する。電源系108は、DSP回路103、フレームメモリ104、表示装置105、記録装置106、及び、操作系107の動作電源となる各種の電源を、これら供給対象に対して適宜供給する。
上記の構成の撮像装置100において、撮像部102として、先述した実施形態に係る固体撮像素子を用いることができる。先述した実施形態に係る固体撮像素子は、全ての波長領域の信号を受光する白画素を用いた場合であっても、色解像度の劣化を最小限に抑えることができる。従って、撮像部102として、先述した実施形態に係る固体撮像素子を用いることで、白画素を加えて感度の向上を図った場合であっても、色解像度に優れた撮像画像を得ることができる。
<本開示がとることができる構成>
尚、本開示は、以下のような構成をとることができる。
[1]異なる分光特性を有する複数の画素が配置され、当該複数の画素の内の1つ以上の画素が、その他の画素の2つ以上の分光特性を包含した分光特性を有する画素アレイ部と、
画素アレイ部内の2つ以上の分光特性を有する画素の信号を輝度信号の生成に使用する際に、その包含された分光特性を有する画素の1つ以上の画素の信号を輝度信号に合成する信号処理部と、
を備える固体撮像素子。
[2]画素アレイ部は、第1色の画素及び第2色の画素を少なくとも含んでおり、
信号処理部は、輝度系の信号処理では、第1色の画素の信号と第2色の画素の信号とを合成する、
上記[1]に記載の固体撮像素子。
[3]信号処理部は、アルファ値を用いて第1色の画素の信号と第2色の画素の信号とをアルファブレンド処理する、
上記[2]に記載の固体撮像素子。
[4]第1色の画素は、可視光領域全体の光を受光する白画素である、
上記[2]又は[3]に記載の固体撮像素子。
[5]第2色の画素は、緑色光を受光する緑画素である、
上記[2]又は[3]に記載の固体撮像素子。
[6]第2色の画素は、マルチスペクトルの画素配列の内1つ以上の画素である、
上記[2]又は[3]に記載の固体撮像素子。
[7]信号処理部は、画素値が不連続に変化しているエッジ方向の判定を行う方向判定部を有し、
判定部の判定結果に基づいて輝度信号に合成する信号の割合を決定する、
上記[1]から[6]のいずれかに記載の固体撮像素子。
[8]信号処理部は、輝度系の信号処理では、輝度信号に対する合成処理後にモザイク処理を行う、
上記[1]から[7]のいずれかに記載の固体撮像素子。
[9]画素アレイ部は、赤色光を受光する赤画素、緑色光を受光する緑画素、及び、青色光を受光する青画素を含んでおり、
信号処理部は、クロマ系の信号処理では、赤画素、緑画素及び青画素の各信号に基づくモザイク処理を行う、
上記[1]から[8]のいずれかに記載の固体撮像素子。
[10]信号処理部は、クロマ系の信号処理では、モザイク処理後にノイズ除去処理を行う、
上記[9]に記載の固体撮像素子。
[11]信号処理部は、輝度系の信号とクロマ系の信号とを合成処理する、
上記[8]から[10]のいずれかに記載の固体撮像素子。
[12]異なる分光特性を有する複数の画素が配置され、当該複数の画素の内の1つ以上の画素が、その他の画素の2つ以上の分光特性を包含した分光特性を有する画素アレイ部を備える固体撮像素子の信号処理回路であって、
画素アレイ部内の2つ以上の分光特性を有する画素の信号を処理して輝度信号を生成する際に、1つ以上の画素の分光特性に包含された分光特性を有する1つ以上の画素の信号を輝度信号に合成する、
信号処理回路。
[13]画素アレイ部は、第1色の画素及び第2色の画素を少なくとも含んでおり、
輝度系の信号処理では、第1色の画素の信号と第2色の画素の信号とを合成する、
上記[12]に記載の信号処理回路。
[14]アルファ値を用いて第1色の画素の信号と第2色の画素の信号とをアルファブレンド処理する、
上記[13]に記載の信号処理回路。
[15]第1色の画素は、可視光領域全体の光を受光する白画素である、
上記[13]又は[14]に記載の信号処理回路。
[16]第2色の画素は、緑色光を受光する緑画素である、
上記[13]又は[14]に記載の信号処理回路。
[17]第2色の画素は、マルチスペクトルの画素配列の内1つ以上の画素である、
上記[13]又は[14]に記載の信号処理回路。
[18]画素値が不連続に変化しているエッジ方向を判定し、その結果に基づいて輝度信号に合成する信号の割合を決定する、
上記[12]から[17]のいずれかに記載の固体撮像素子。
[19]第1色の画素が配置されて成る第1の固体撮像素子の出力信号、及び、第2色の画素が配置されて成る第2の固体撮像素子の出力信号を処理する信号処理回路であって、
輝度信号を生成する際に、第1の固体撮像素子から出力される第1色の画素の信号と、第2の固体撮像素子から出力される第2色の画素の信号とを合成する、
信号処理回路。
[20]異なる分光特性を有する複数の画素が配置され、当該複数の画素の内の1つ以上の画素が、その他の画素の2つ以上の分光特性を包含した分光特性を有する画素アレイ部と、
画素アレイ部内の2つ以上の分光特性を有する画素の信号を輝度信号の生成に使用する際に、その包含された分光特性を有する画素の1つ以上の画素の信号を輝度信号に合成する信号処理部と、
を備える固体撮像素子を有する、
電子機器。
尚、本開示は、以下のような構成をとることができる。
[1]異なる分光特性を有する複数の画素が配置され、当該複数の画素の内の1つ以上の画素が、その他の画素の2つ以上の分光特性を包含した分光特性を有する画素アレイ部と、
画素アレイ部内の2つ以上の分光特性を有する画素の信号を輝度信号の生成に使用する際に、その包含された分光特性を有する画素の1つ以上の画素の信号を輝度信号に合成する信号処理部と、
を備える固体撮像素子。
[2]画素アレイ部は、第1色の画素及び第2色の画素を少なくとも含んでおり、
信号処理部は、輝度系の信号処理では、第1色の画素の信号と第2色の画素の信号とを合成する、
上記[1]に記載の固体撮像素子。
[3]信号処理部は、アルファ値を用いて第1色の画素の信号と第2色の画素の信号とをアルファブレンド処理する、
上記[2]に記載の固体撮像素子。
[4]第1色の画素は、可視光領域全体の光を受光する白画素である、
上記[2]又は[3]に記載の固体撮像素子。
[5]第2色の画素は、緑色光を受光する緑画素である、
上記[2]又は[3]に記載の固体撮像素子。
[6]第2色の画素は、マルチスペクトルの画素配列の内1つ以上の画素である、
上記[2]又は[3]に記載の固体撮像素子。
[7]信号処理部は、画素値が不連続に変化しているエッジ方向の判定を行う方向判定部を有し、
判定部の判定結果に基づいて輝度信号に合成する信号の割合を決定する、
上記[1]から[6]のいずれかに記載の固体撮像素子。
[8]信号処理部は、輝度系の信号処理では、輝度信号に対する合成処理後にモザイク処理を行う、
上記[1]から[7]のいずれかに記載の固体撮像素子。
[9]画素アレイ部は、赤色光を受光する赤画素、緑色光を受光する緑画素、及び、青色光を受光する青画素を含んでおり、
信号処理部は、クロマ系の信号処理では、赤画素、緑画素及び青画素の各信号に基づくモザイク処理を行う、
上記[1]から[8]のいずれかに記載の固体撮像素子。
[10]信号処理部は、クロマ系の信号処理では、モザイク処理後にノイズ除去処理を行う、
上記[9]に記載の固体撮像素子。
[11]信号処理部は、輝度系の信号とクロマ系の信号とを合成処理する、
上記[8]から[10]のいずれかに記載の固体撮像素子。
[12]異なる分光特性を有する複数の画素が配置され、当該複数の画素の内の1つ以上の画素が、その他の画素の2つ以上の分光特性を包含した分光特性を有する画素アレイ部を備える固体撮像素子の信号処理回路であって、
画素アレイ部内の2つ以上の分光特性を有する画素の信号を処理して輝度信号を生成する際に、1つ以上の画素の分光特性に包含された分光特性を有する1つ以上の画素の信号を輝度信号に合成する、
信号処理回路。
[13]画素アレイ部は、第1色の画素及び第2色の画素を少なくとも含んでおり、
輝度系の信号処理では、第1色の画素の信号と第2色の画素の信号とを合成する、
上記[12]に記載の信号処理回路。
[14]アルファ値を用いて第1色の画素の信号と第2色の画素の信号とをアルファブレンド処理する、
上記[13]に記載の信号処理回路。
[15]第1色の画素は、可視光領域全体の光を受光する白画素である、
上記[13]又は[14]に記載の信号処理回路。
[16]第2色の画素は、緑色光を受光する緑画素である、
上記[13]又は[14]に記載の信号処理回路。
[17]第2色の画素は、マルチスペクトルの画素配列の内1つ以上の画素である、
上記[13]又は[14]に記載の信号処理回路。
[18]画素値が不連続に変化しているエッジ方向を判定し、その結果に基づいて輝度信号に合成する信号の割合を決定する、
上記[12]から[17]のいずれかに記載の固体撮像素子。
[19]第1色の画素が配置されて成る第1の固体撮像素子の出力信号、及び、第2色の画素が配置されて成る第2の固体撮像素子の出力信号を処理する信号処理回路であって、
輝度信号を生成する際に、第1の固体撮像素子から出力される第1色の画素の信号と、第2の固体撮像素子から出力される第2色の画素の信号とを合成する、
信号処理回路。
[20]異なる分光特性を有する複数の画素が配置され、当該複数の画素の内の1つ以上の画素が、その他の画素の2つ以上の分光特性を包含した分光特性を有する画素アレイ部と、
画素アレイ部内の2つ以上の分光特性を有する画素の信号を輝度信号の生成に使用する際に、その包含された分光特性を有する画素の1つ以上の画素の信号を輝度信号に合成する信号処理部と、
を備える固体撮像素子を有する、
電子機器。
10,10A,10B・・・固体撮像素子、11・・・画素アレイ部、12・・・垂直駆動部、13・・・カラム処理部、14・・・垂直駆動部、15・・・システム制御部、16(161〜16m)・・・画素駆動線、17(171〜17n)・・・垂直信号線、18・・・信号処理部、18A・・・実施例1に係る信号処理回路、18B・・・実施例2に係る信号処理回路、19・・・データ格納部、20・・・画素(単位画素)、31・・・方向判定部、32・・・ブレンド処理部、33,34・・・モザイク処理部、35・・・ノイズ除去処理部、36・・・合成処理部
Claims (20)
- 異なる分光特性を有する複数の画素が配置され、当該複数の画素の内の1つ以上の画素が、その他の画素の2つ以上の分光特性を包含した分光特性を有する画素アレイ部と、
画素アレイ部内の2つ以上の分光特性を有する画素の信号を輝度信号の生成に使用する際に、その包含された分光特性を有する画素の1つ以上の画素の信号を輝度信号に合成する信号処理部と、
を備える固体撮像素子。 - 画素アレイ部は、第1色の画素及び第2色の画素を少なくとも含んでおり、
信号処理部は、輝度系の信号処理では、第1色の画素の信号と第2色の画素の信号とを合成する、
請求項1に記載の固体撮像素子。 - 信号処理部は、アルファ値を用いて第1色の画素の信号と第2色の画素の信号とをアルファブレンド処理する、
請求項2に記載の固体撮像素子。 - 第1色の画素は、可視光領域全体の光を受光する白画素である、
請求項2に記載の固体撮像素子。 - 第2色の画素は、緑色光を受光する緑画素である、
請求項2に記載の固体撮像素子。 - 第2色の画素は、マルチスペクトルの画素配列の内1つ以上の画素である、
請求項2に記載の固体撮像素子。 - 信号処理部は、画素値が不連続に変化しているエッジ方向の判定を行う方向判定部を有し、
判定部の判定結果に基づいて輝度信号に合成する信号の割合を決定する、
請求項1に記載の固体撮像素子。 - 信号処理部は、輝度系の信号処理では、輝度信号に対する合成処理後にモザイク処理を行う、
請求項1に記載の固体撮像素子。 - 画素アレイ部は、赤色光を受光する赤画素、緑色光を受光する緑画素、及び、青色光を受光する青画素を含んでおり、
信号処理部は、クロマ系の信号処理では、赤画素、緑画素及び青画素の各信号に基づくモザイク処理を行う、
請求項1に記載の固体撮像素子。 - 信号処理部は、クロマ系の信号処理では、モザイク処理後にノイズ除去処理を行う、
請求項9に記載の固体撮像素子。 - 信号処理部は、輝度系の信号とクロマ系の信号とを合成処理する、
請求項8に記載の固体撮像素子。 - 異なる分光特性を有する複数の画素が配置され、当該複数の画素の内の1つ以上の画素が、その他の画素の2つ以上の分光特性を包含した分光特性を有する画素アレイ部を備える固体撮像素子の信号処理回路であって、
画素アレイ部内の2つ以上の分光特性を有する画素の信号を輝度信号の生成に使用する際に、その包含された分光特性を有する画素の1つ以上の画素の信号を輝度信号に合成する、
信号処理回路。 - 画素アレイ部は、第1色の画素及び第2色の画素を少なくとも含んでおり、
輝度系の信号処理では、第1色の画素の信号と第2色の画素の信号とを合成する、
請求項12に記載の信号処理回路。 - アルファ値を用いて第1色の画素の信号と第2色の画素の信号とをアルファブレンド処理する、
請求項13に記載の信号処理回路。 - 第1色の画素は、可視光領域全体の光を受光する白画素である、
請求項13に記載の信号処理回路。 - 第2色の画素は、緑色光を受光する緑画素である、
請求項13に記載の信号処理回路。 - 第2色の画素は、マルチスペクトルの画素配列の内1つ以上の画素である、
請求項13に記載の信号処理回路。 - 画素値が不連続に変化しているエッジ方向を判定し、その結果に基づいて輝度信号に合成する信号の割合を決定する、
請求項12に記載の固体撮像素子。 - 第1色の画素が配置されて成る第1の固体撮像素子の出力信号、及び、第2色の画素が配置されて成る第2の固体撮像素子の出力信号を処理する信号処理回路であって、
輝度信号を生成する際に、第1の固体撮像素子から出力される第1色の画素の信号と、第2の固体撮像素子から出力される第2色の画素の信号とを合成する、
信号処理回路。 - 異なる分光特性を有する複数の画素が配置され、当該複数の画素の内の1つ以上の画素が、その他の画素の2つ以上の分光特性を包含した分光特性を有する画素アレイ部と、
画素アレイ部内の2つ以上の分光特性を有する画素の信号を輝度信号の生成に使用する際に、その包含された分光特性を有する画素の1つ以上の画素の信号を輝度信号に合成する信号処理部と、
を備える固体撮像素子を有する、
電子機器。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016222164A JP2018082259A (ja) | 2016-11-15 | 2016-11-15 | 固体撮像素子、信号処理回路、及び、電子機器 |
US16/330,646 US11356624B2 (en) | 2016-11-15 | 2017-09-15 | Solid-state imaging element, signal processing circuit, and electronic equipment |
PCT/JP2017/033525 WO2018092400A1 (ja) | 2016-11-15 | 2017-09-15 | 固体撮像素子、信号処理回路、及び、電子機器 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016222164A JP2018082259A (ja) | 2016-11-15 | 2016-11-15 | 固体撮像素子、信号処理回路、及び、電子機器 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018082259A true JP2018082259A (ja) | 2018-05-24 |
Family
ID=62145528
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016222164A Pending JP2018082259A (ja) | 2016-11-15 | 2016-11-15 | 固体撮像素子、信号処理回路、及び、電子機器 |
Country Status (3)
Country | Link |
---|---|
US (1) | US11356624B2 (ja) |
JP (1) | JP2018082259A (ja) |
WO (1) | WO2018092400A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022202277A1 (ja) * | 2021-03-25 | 2022-09-29 | ソニーセミコンダクタソリューションズ株式会社 | 固体撮像装置、電子機器及び固体撮像装置の制御方法 |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2022122682A (ja) * | 2021-02-10 | 2022-08-23 | キヤノン株式会社 | 画像符号化装置及びその制御方法及びプログラム |
US20220303515A1 (en) * | 2021-03-17 | 2022-09-22 | Mediatek Inc. | High Sensitivity Color Image Generation Using Hybrid Sensor |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004282452A (ja) | 2003-03-17 | 2004-10-07 | Hitachi Kokusai Electric Inc | テレビジョンカメラ装置 |
JP2008306379A (ja) | 2007-06-06 | 2008-12-18 | Toshiba Corp | 固体撮像素子 |
JP4626706B2 (ja) * | 2008-12-08 | 2011-02-09 | ソニー株式会社 | 固体撮像装置、固体撮像装置の信号処理方法および撮像装置 |
TWI422020B (zh) | 2008-12-08 | 2014-01-01 | Sony Corp | 固態成像裝置 |
JP2016054227A (ja) | 2014-09-03 | 2016-04-14 | ソニー株式会社 | 固体撮像素子、および撮像装置、並びに電子機器 |
-
2016
- 2016-11-15 JP JP2016222164A patent/JP2018082259A/ja active Pending
-
2017
- 2017-09-15 US US16/330,646 patent/US11356624B2/en active Active
- 2017-09-15 WO PCT/JP2017/033525 patent/WO2018092400A1/ja active Application Filing
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022202277A1 (ja) * | 2021-03-25 | 2022-09-29 | ソニーセミコンダクタソリューションズ株式会社 | 固体撮像装置、電子機器及び固体撮像装置の制御方法 |
Also Published As
Publication number | Publication date |
---|---|
US11356624B2 (en) | 2022-06-07 |
WO2018092400A1 (ja) | 2018-05-24 |
US20210281778A1 (en) | 2021-09-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8310573B2 (en) | Solid-state imaging device, signal processing method thereof and image capturing apparatus | |
US9736447B2 (en) | Solid-state imaging device, method for processing signal of solid-state imaging device, and imaging apparatus | |
TWI504256B (zh) | 固態成像裝置,其訊號處理方法,及電子設備 | |
JP4683121B2 (ja) | 固体撮像装置、固体撮像装置の信号処理方法および撮像装置 | |
JP6229652B2 (ja) | 撮像装置および撮像方法、電子機器、並びにプログラム | |
JP4626706B2 (ja) | 固体撮像装置、固体撮像装置の信号処理方法および撮像装置 | |
AU2011220758A1 (en) | Increasing the resolution of color sub-pixel arrays | |
US8730355B2 (en) | Image signal processing device, imaging device, image signal processing method and program | |
JP6622481B2 (ja) | 撮像装置、撮像システム、撮像装置の信号処理方法、信号処理方法 | |
JP4905279B2 (ja) | 撮像回路および撮像装置 | |
WO2018092400A1 (ja) | 固体撮像素子、信号処理回路、及び、電子機器 | |
JP2019161577A (ja) | 撮像装置、画素補正処理回路、及び、画素補正処理方法 | |
JP5884847B2 (ja) | 固体撮像装置、固体撮像装置の信号処理方法および撮像装置 | |
JP5212536B2 (ja) | 固体撮像装置、固体撮像装置の信号処理方法および撮像装置 | |
JP5141757B2 (ja) | 撮像装置、撮像及び信号処理方法 | |
JP2016025626A (ja) | 撮像素子、撮像方法、撮像装置 | |
JP2012253727A (ja) | 固体撮像装置及びカメラモジュール |