JP6418785B2 - 撮像素子、その制御方法、および制御プログラム、並びに信号処理装置 - Google Patents

撮像素子、その制御方法、および制御プログラム、並びに信号処理装置 Download PDF

Info

Publication number
JP6418785B2
JP6418785B2 JP2014105213A JP2014105213A JP6418785B2 JP 6418785 B2 JP6418785 B2 JP 6418785B2 JP 2014105213 A JP2014105213 A JP 2014105213A JP 2014105213 A JP2014105213 A JP 2014105213A JP 6418785 B2 JP6418785 B2 JP 6418785B2
Authority
JP
Japan
Prior art keywords
pixel
pixels
unit
sensitivity
shading correction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014105213A
Other languages
English (en)
Other versions
JP2015220716A (ja
Inventor
尚幸 中川原
尚幸 中川原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2014105213A priority Critical patent/JP6418785B2/ja
Priority to US14/712,224 priority patent/US10027907B2/en
Priority to CN201510262428.8A priority patent/CN105100601B/zh
Publication of JP2015220716A publication Critical patent/JP2015220716A/ja
Application granted granted Critical
Publication of JP6418785B2 publication Critical patent/JP6418785B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/581Control of the dynamic range involving two or more exposures acquired simultaneously
    • H04N25/585Control of the dynamic range involving two or more exposures acquired simultaneously with pixels having different sensitivities within the sensor, e.g. fast or slow pixels or pixels having different sizes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/507Depth or shape recovery from shading
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2101/00Still video cameras

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Image Processing (AREA)

Description

本発明は、CCD又はCMOSイメージセンサなどの撮像素子、その制御方法、および制御プログラム、並びに信号処理装置に関し、特に、受光部の面積が互いに異なる2つ以上の画素の出力を合成して1単位画素の出力とする撮像素子に関する。
従来、ダイナミックレンジを拡大するため、受光部の面積が互いに異なる2つ以上の画素の出力を合成して1単位画素の出力とする撮像素子が知られている(特許文献1参照)。
図11は、従来の撮像素子の一例についてその画素配置を説明するための図である。
図11においては、受光部の面積が互いに異なる2つの画素が1単位画素を構成しており、これら1単位画素が2次元マトリックス状に複数配列されている。1単位画素1103は高感度画素1101および低感度画素1102を備えており、ここでは、高感度画素1101および低感度画素1102の出力を合成又は選択することによってダイナミックレンジの拡大を図っている。
一方、デジタルカメラなどの撮像装置においては、撮像光学系の周辺減光および撮像素子の感度の不均一性などに起因して撮像素子の出力にシェーディングが生じることが知られている。このようなシェーディングの発生を防止するため、画像全体が一様な明るさとなるようにシェーディング補正を行うことがある。例えば、一様な輝度分布を有する均一輝度面を撮影して得た画像を、目標とする出力(つまり、画像)に変換する変換特性を予め求めて、撮影の際には当該変換特性に応じて撮影の結果得られた画像をシェーディング補正している。
特開2010−283573号公報
ところで、図11に示す撮像素子においては、高感度画素の重心位置と低感度画素の重心位置とが異なる。このため、精度よくシェーディング補正を行うためには、高感度画素および低感度画素の各々において、その重心位置におけるシェーディング補正データが必要となる。従って、シェーディング補正ためのデータ量が膨大となってしまい、メモリ容量を大きくしなければならないばかりか、処理負荷が増大する。
そこで、本発明の目的は、シェーディング補正のためのデータ量を少なくしても精度よくシェーディング補正を行うことのできる撮像素子、その制御方法、および制御プログラム、並びに信号処理装置を提供することにある。
上記の目的を達成するため、本発明による撮像素子は、複数の単位画素領域が2次元マトリックス状に配列された撮像素子であって、前記単位画素領域の各々は互いに感度及び形状が異なる第1の画素と第2の画素とを有し、複数の前記第1の画素は前記第2の画素の周辺部に配置され、前記単位画素領域において互いに感度が異なる複数の前記第1の画素の全てを合成した重心位置と前記第2の画素の重心位置が略一致するように前記第1の画素及び前記第2の画素が配置されていることを特徴とする。
本発明による制御方法は、複数の単位画素領域が2次元マトリックス状に配列された撮像素子の制御方法であって、前記単位画素領域の各々は互いに感度及び形状が異なる第1の画素と第2の画素とを有し、複数の前記第1の画素は前記第2の画素の周辺部に配置され、前記単位画素領域において互いに感度が異なる複数の前記第1の画素の全てを合成した重心位置と前記第2の画素の重心位置が略一致するように前記第1の画素及び前記第2の画素が配置されており、前記単位画素領域において互いに感度が異なる画素の出力である画素信号をそれぞれ、予め設定された共通のシェーディング補正データに応じて補正する補正ステップを有することを特徴とする。
本発明による制御プログラムは、複数の単位画素領域が2次元マトリックス状に配列された撮像素子で用いられる制御プログラムであって、前記単位画素領域の各々は互いに感度及び形状が異なる第1の画素と第2の画素とを有し、複数の前記第1の画素は前記第2の画素の周辺部に配置され、前記単位画素領域において互いに感度が異なる複数の前記第1の画素の全てを合成した重心位置と前記第2の画素の重心位置が略一致するように前記第1の画素及び前記第2の画素が配置されており、コンピュータに、前記単位画素領域において互いに感度が異なる画素の出力である画素信号をそれぞれ、予め設定された共通のシェーディング補正データに応じて補正する補正ステップを実行させることを特徴とする。
本発明による信号処理装置は、複数の単位画素領域が2次元マトリックス状に配列された撮像素子の出力である画素信号を処理する信号処理装置であって、前記単位画素領域の各々は互いに感度及び形状が異なる第1の画素と第2の画素とを有し、複数の前記第1の画素は前記第2の画素の周辺部に配置され、前記単位画素領域において互いに感度が異なる複数の前記第1の画素の全てを合成した重心位置と前記第2の画素の重心位置が略一致するように前記第1の画素及び前記第2の画素が配置されており、前記単位画素領域において互いに感度が異なる画素の出力である画素信号をそれぞれ、予め設定された共通のシェーディング補正データに応じて補正する補正手段を有することを特徴とする。
本発明によれば、単位画素領域において互いに感度が異なる画素の重心位置が略一致するように画素を配置するようにしたので、共通のシェーディング補正データを用いて画素信号の各々をシェーディング補正することができる。この結果、シェーディング補正データのデータ量を少なくしても精度よくシェーディング補正を行うことができる。
本発明の実施の形態による撮像素子の第1の例についてその画素配置を説明するための図である。 図1に示す撮像素子の一例として9行×6列の単位画素を有する撮像素子を示す図である。 本発明の実施の形態による撮像素子に備えられる信号処理回路の一例を説明するためのブロック図であり、(a)は図2に示す撮像素子に備えられる信号処理回路の一例を示すブロック図、(b)は図11に備えられる信号処理回路の一例を示すブロック図である。 図3(a)に示すシェーディング補正回路で用いられるシェーディング補正データの一例を示す図である。 図3(a)に示す合成回路の動作を説明するための図であり、(a)は合成前における受光面(センサー面)照度と撮像素子(センサー)出力との関係を示す図、(b)は合成後における受光面(センサー面)照度と撮像素子(センサー)出力との関係を示す図である。 本発明を適用していない撮像素子の例について画素配置を説明するための図である。 本発明の実施の形態による撮像素子についてその画素配置の第2の例を説明するための図である。 本発明の実施の形態による撮像素子の第3の例についてその画素配置を説明するための図である。 本発明の実施の形態による撮像素子の第4の例についてその画素配置を説明するための図である。 本発明の実施の形態による撮像素子の第5の例についてその画素配置を説明するための図である。 従来の撮像素子の一例について画素配置を説明するための図である。
以下に、本発明の実施の形態による撮像素子の一例について図面を参照して説明する。
図1は、本発明の実施の形態による撮像素子の第1の例についてその画素配置を説明するための図である。
図示の撮像素子は、例えば、CCD又はCMOSイメージセンサであり、例えば、デジタルカメラなどの撮像装置で用いられる。この撮像素子においては、受光部の面積が互いに異なる高感度画素101および102と低感度画素103とが1単位画素領域(以下単に単位画素又は1単位画素と呼ぶ)104を構成している。つまり、互いに感度が異なる高感度画素101および102と低感度画素103とが単位画素104に配置されている。そして、複数の1単位画素104が2次元マトリックス状に配列されている。
図示のように、高感度画素101および102は同一面積の開口(つまり、受光部)を有し、1単位画素104の周辺部に配置されている。一方、低感度画素103は1単位画素104の中央部に配置されている。
つまり、図1に示す例では、1単位画素104において高感度画素101および102の重心位置(高感度画素101と高感度画素102とを合わせた重心位置)と低感度画素103の重心位置とが略一致するように、高感度画素101および102と低感度画素103を配置する。
図2は、図1に示す撮像素子の一例として9行×6列の単位画素を有する撮像素子を示す図である。
図2に示す例では、9行×6列の合計54の単位画素104を有する撮像素子が示されており、ここでは、単位画素104にはそれぞれ行番号および列番号を示すインデックスが付されている。
図3は、本発明の実施の形態による撮像素子に備えられる信号処理回路の一例を説明するためのブロック図である。そして、図3(a)は図2に示す撮像素子に備えられる信号処理回路の一例を示すブロック図であり、図3(b)は図11に備えられる信号処理回路の一例を示すブロック図である。なお、図示の例では、1単位画素における処理が示されている。
ここでは、本発明の実施の形態による撮像素子に備えられる信号処理回路(以下単に処理回路と呼ぶ)の動作を説明するために、従来の撮像素子に備えられる処理回路について説明する。
従来の処理回路は、A/D変換器307および308を備えており、A/D変換器307および308は、それぞれ黒丸で示す信号電荷読み出しゲートで高感度画素1101および低感度画素1102に接続されている。そして、A/D変換器307は高感度画素1101から読み出された画素信号(以下高感度画素信号と呼ぶ)をA/D変換して高感度画素デジタル信号とする。同様にして、A/D変換器308は高感度画素1102から読み出された画素信号(以下低高感度画素信号と呼ぶ)をA/D変換して低感度画素デジタル信号とする。
これら高感度画素デジタル信号および低感度画素デジタル信号はシェーディング補正回路309に与えられる。シェーディング補正回路309は、予め設定された高感度画素に対応するシェーディング補正データである高感度シェーディング補正データに応じて高感度画素デジタル信号を補正して、補正後の高感度画素デジタル信号を得る。同様にして、シェーディング補正回路309は、予め設定された低感度画素に対応するシェーディング補正データである低感度シェーディング補正データに応じて低感度画素デジタル信号を補正して、補正後の低感度画素デジタル信号を得る。
合成回路310は補正後の高感度画素デジタル信号および低感度デジタル信号を合成処理して、合成後のデジタル信号を単位画素出力として出力する。
上述のように、図3(b)に示す処理回路においては、シェーディング補正回路309には、高感度シェーディング補正データおよび低感度シェーディング補正データを設定する必要がある。このため、不可避的にメモリ容量が増大するばかりでなく、シェーディング補正回路309による処理負荷が増大してしまう。
一方、図3(a)に示す処理回路は、A/D変換器301〜303、高感度画素加算回路304、シェーディング補正回路305、および合成回路306を有している。
図3(a)に示す例においては、高感度画素101および102と低感度画素103に備えられたフォトダイオードには信号電荷読み出しゲート(黒丸で示す)が設けられている。さらに、列毎および開口毎にA/D変換器(カラムA/D変換器)301、302、および303が備えられている。
A/D変換器302は高感度画素101から読み出された画素信号(以下第1の高感度画素信号と呼ぶ)をA/D変換して第1の高感度画素デジタル信号とする。同様にして、A/D変換器301は高感度画素102から読み出された画素信号(以下第2の高感度画素信号と呼ぶ)をA/D変換して第2の高感度画素デジタル信号とする。また、A/D変換器303は低感度画素103から読み出された低感度画素信号をA/D変換して低感度画素デジタル信号とする。
第1および第2の高感度画素デジタル信号は高感度画素加算回路304に与えられる。高感度画素加算回路304は、第1および第2の高感度画素デジタル信号をデジタル加算して、加算後の高感度画素デジタル信号をシェーディング補正回路305に送る。
シェーディング補正回路305には加算後の高感度画素デジタル信号および低感度画素デジタル信号が与えられる。シェーディング補正回路305は加算後の高感度画素デジタル信号および低感度画素デジタル信号について、次のようにして共通のシェーディング補正データを用いてシェーディング補正を行う。
図4は、図3(a)に示すシェーディング補正回路305で用いられるシェーディング補正データの一例を示す図である。
シェーディング補正回路305には、例えば、図4に示すシェーディング補正データが設定されている。図示のシェーディング補正データは、図2に示す撮像素子が用いられる撮像光学系による周辺減光の度合を示している。そして、シェーディング補正回路305は、このシェーディング補正データに基づいてシェーディング補正を行う。
図4に示すシェーディング補正データを生成する際には、所定の均一輝度面を撮影した際に最も明るい画素を”0”とする。そして、シェーディング補正データは当該最も明るい画素(基準画素)を基準として基準画素に対する対象の画素の光量落ちをカウント数で示している。ここで、カウントは、基準画素に対して受光量が2倍であると”+8”とし、基準画素に対して受光量が半分である”−8”として、シェーディング補正データにおいては対数的に表記される。
例えば、図2に示す単位画素(0,0)に係るシェーディング補正データは19カウント(count)であり(図4参照)、最も明るい画素である単位画素(4,2)と比べると、単位画素(0,0)は、カウント=19であるので、単位画素(4.2)に対して(1/2)^(19/8)(つまり、(1/2)(19/8))の光量を受光することになる。よって、単位画素(0,0)については、高感度画素101および102の出力と低感度画素103の出力に2^(19/8)(つまり、2(19/8))を乗算すればよいことになる。そして、他の単位画素についても同様にしてシェーディング補正を行えばよい。
合成回路306は、予め設定された判定レベルに応じて、使用可能な感度のシェーディング補正後の高感度画素デジタル信号および低感度画素デジタル信号のいずれかを選択して、その感度比を補正して出力する。
図5は、図3(a)に示す合成回路306の動作を説明するための図である。そして、図5(a)は合成前における受光面(センサー面)照度と撮像素子(センサー)出力との関係を示す図であり、図5(b)は合成後における受光面(センサー面)照度と撮像素子(センサー)出力との関係を示す図である。
図5(a)を参照すると、合成回路36には判定レベルとして合成閾値Mthが設定されている。センサー面照度が低い場合には、高感度画素の出力に対応するシェーディング補正後の高感度画素デジタル信号を用い、センサー面照度が高い場合には、低感度画素の出力に対応するシェーディング補正後の低感度画素デジタル信号を用いればダイナミックレンジをカバーすることができる。
つまり、合成回路36は、加算後の高感度画素デジタル信号(基準画素信号)に応じて、シェーディング補正後の高感度画素デジタル信号(図5(a)に示す高感度画素出力)および低感度画素デジタル信号(図5(a)に示す低感度画素出力)のいずれかを選択する。ここでは、合成回路306は、図5(a)に示す高感度画素出力(つまり、レベル)が合成閾値Mthより低いと高感度画素出力を用いる。
一方、高感度画素出力が合成閾値Mth以上(合成閾値以上)であると、つまり、飽和付近の場合には、合成回路306は低感度画素出力を用いる。ここで、低感度画素出力を用いる場合には、高感度画素出力との感度比を補正する必要がある。例えば、高感度画素の感度が低感度画素の感度の256倍であるとすると、低感度画素出力を256倍すれば感度比を補正することができる。
これによって、合成回路306は、図5(b)に示すように、単位画素出力を生成することになり、これによって、単位画素出力におけるダイナミックレンジを広くすることができる。
このようにして、本発明の第1の実施形態では、共通のシェーディング補正データを用いることでシェーディング補正のためのデータ量を少なくして、精度よくシェーディング補正を行うことができる。
続いて、本発明の実施の形態による撮像素子の第2の例についてその画素配置を説明するための図である。
ここでは、本発明の実施の形態による撮像素子の第2の例について説明する前に、その理解を容易にするため、まず本発明を適用していない撮像素子について説明する。
図6は、本発明を適用していない撮像素子の例についてその画素配置を説明するための図である。
図6においては、受光部の面積が互いに異なる3つの画素が1単位画素を構成しており、これら1単位画素が2次元マトリックス状に複数配列されている。1単位画素601は高感度画素602、中感度画素603、および低感度画素604を備えており、ここでは、高感度画素602、中感度画素603、および低感度画素604の出力を合成又は選択することによってダイナミックレンジの拡大を図っている。
図6に示す撮像素子においても、高感度画素602の重心位置、中感度画素603の重心位置、および低感度画素604の重心位置が異なる。このため、精度よくシェーディング補正を行うためには、高感度画素602、中感度画素603、および低感度画素604の各々において、その重心位置におけるシェーディング補正データが必要となる。このため、シェーディング補正ためのデータ量が膨大となってしまい、メモリ容量を大きくしなければならないばかりか、処理負荷が増大する。
図7は、本発明の実施の形態による撮像素子の第2の例についてその画素配置の一例を説明するための図である。
図示の撮像素子は、受光部の面積が互いに異なる高感度画素702および703、中感度画素704および705、および低感度画素706が1単位画素701を構成している。そして、複数の1単位画素701が2次元マトリックス状に配列されている。
図示のように、高感度画素702および703は同一面積の開口(つまり、受光部)を有し、1単位画素701の周辺部に配置されている。また、中感度画素704および705はそれぞれ高感度画素702および703の内側に配置されている。そして、低感度画素706は1単位画素104の中央部に配置されている。
つまり、図7に示す例では、1単位画素701において高感度画素、中感度画素、低感度画素の重心位置が略一致するように、高感度画素702および703、中感度画素704および705、および低感度画素706を配置する。このとき、高感度画素702および703の重心位置(高感度画素702、703を合わせた重心位置)、中感度画素704および705の重心位置(中感度画素704、705を合わせた重心位置)、および低感度画素706の重心位置が略一致する。
図7に示す例においては、その処理回路は、単位画素を構成する画素毎にA/D変換器を備えるとともに、中感度画素704および705の出力を加算する中感度画素加算回路を備えることになる。そして、シェーディング補正回路は、図4に関連して説明したようにして、高感度画素出力、中感度画素出力、および低感度画素出力についてシェーディング補正データに応じてシェーディング補正を行う。
さらに、この処理回路では、第1の合成閾値Mth1および第2の合成閾値Mth2(Mth1<Mth2)を備えて、合成回路は、シェーディング補正後の高感度出力が第1の合成閾値Mth1よりも低い場合には、シェーディング補正後の高感度画素出力を用いる。また、合成回路は、シェーディング補正後の高感度出力が第1の合成閾値Mth2以上で、かつ第2の合成閾値Mth2よりも低い場合には、シェーディング補正後の中高感度画素出力を用いる。そして、合成回路は、シェーディング補正後の高感度出力が第2の合成閾値Mth以上の場合には、シェーディング補正後の低高感度画素出力を用いる。
この際に、図5で説明したように、合成回路は、中感度出力又は低感度画素出力を用いる場合には、高感度画素出力との感度比を補正する。
図8は、本発明の実施の形態による撮像素子の第3の例についてその画素配置を説明するための図である。
ここでは、低感度画素803と中感度画素802との重心位置の差が無視できるほど小さい場合の例が示されている。この場合には、中感度画素を2つ備える必要はなく、1単位画素801において高感度画素702および703の重心位置、中感度画素802の重心位置、および低感度画素803の重心位置が略一致するように、高感度画素702および703、中感度画素802、および低感度画素706を配置すればよい。
このようにして、互いに感度が異なる4つ以上の画素によって単位画素が構成される場合においても、感度が異なる画素の重心位置が略一致するように、画素を配置すればよい。
図8に示す例においても、その処理回路は、単位画素を構成する画素毎にA/D変換器を備える。そして、シェーディング補正回路は、図4に関連して説明したようにして、高感度画素出力、中感度画素出力、および低感度画素出力についてシェーディング補正データに応じてシェーディング補正を行う。
さらに、この処理回路では、第1の合成閾値Mth1および第2の合成閾値Mth2(Mth1<Mth2)を備えて、合成回路は、シェーディング補正後の高感度出力が第1の合成閾値Mth1よりも低い場合には、シェーディング補正後の高感度画素出力を用いる。また、合成回路は、シェーディング補正後の高感度出力が第1の合成閾値Mth2以上で、かつ第2の合成閾値Mth2よりも低い場合には、シェーディング補正後の中高感度画素出力を用いる。そして、合成回路は、シェーディング補正後の高感度出力が第2の合成閾値Mth以上の場合には、シェーディング補正後の低高感度画素出力を用いる。この際に、図5で説明したように、合成回路は、中感度出力又は低感度画素出力を用いる場合には、高感度画素出力との感度比を補正する。
図9は、本発明の実施の形態による撮像素子の第4の例についてその画素配置を説明するための図である。
図示の撮像素子は、受光部の面積が互いに異なる高感度画素902および低感度画素903および904が1単位画素901を構成している。そして、複数の1単位画素901が2次元マトリックス状に配列されている。
図示のように、低感度画素903および904は同一面積の開口(つまり、受光部)を有し、1単位画素901の隅に配置されている。また、高感度画素902は低感度画素903および904を除く領域に配置されている。
図9に示す例においても、1単位画素901において高感度画素902の重心位置と低感度画素903および904の重心位置(低感度画素903と低感度画素904とを合わせた重心位置)とが略一致するように、高感度画素902と低感度画素903および904とを配置する。
この際、処理回路は、高感度画素加算回路の代わりに、低感度画素903および904の出力(A/D変換後)を加算する低感度画素加算回路を備えることになる。なお、シェーディング補正回路および合成回路の動作については前述の説明と同様であるので、ここでは説明を省略する。
図10は、本発明の実施の形態による撮像素子の第5の例についてその画素配置を説明するための図である。
図示の撮像素子は、受光部の面積が互いに異なる高感度画素1002、中感度画素1003および1004、および低感度画素1005および1006が1単位画素1001を構成している。そして、複数の1単位画素1001が2次元マトリックス状に配列されている。
図示のように、中間感度画素1003および1004は同一面積の開口(つまり、受光部)を有し、同様に、低間感度画素1005および1006は同一面積の開口を有している。低感度画素1005および1006は1単位画素701の隅に配置され、中感度画素1003および1104は低感度画素1005および1006を除く領域において、単位画素1001の周辺部に配置されている。そして、高感度画素1002は単位画素1001の中央部に配置されている。
図10に示す例においても、単位画素1001において、高感度画素1002の重心位置、中感度画素1003および1004の重心位置、および低感度画素1005および1006の重心位置が略一致するように、高感度画素1002、中感度画素1003および1004、および低感度画素1005および1106を配置する。
この際、処理回路は、高感度画素加算回路の代わりに、中感度画素1003および1004の出力(A/D変換後)を加算する中感度画素加算回路と低感度画素1005および1006の出力(A/D変換後)を加算する低感度画素加算回路を備えることになる。なお、シェーディング補正回路および合成回路の動作については前述の説明と同様であるので、ここでは説明を省略する。
このように、本発明の実施の形態では、受光部の面積が互いに異なる少なくとも2つの画素を有する単位画素が配列する配置した撮像素子において、シェーディング補正の際に用いられるシェーディング補正データのデータ量を増やすことなくシェーディング補正を行うことができる。
なお、上記の実施形態では、撮像素子に備えられる信号処理回路においてシェーディング補正処理や合成処理を行う例を説明したが、シェーディング補正処理や合成処理を撮像素子に備えられた信号処理回路で行わない構成でもよい。例えば、撮像素子に対して撮像装置に備えられる信号処理回路でシェーディング補正処理や合成処理を行うように、撮像素子の出力が入力される信号処理装置でシェーディング補正処理や合成処理を行ってもよい。
以上、本発明について実施の形態に基づいて説明したが、本発明は、これらの実施の形態に限定されるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。
例えば、上記の実施の形態の機能を制御方法として、この制御方法を撮像素子に実行させるようにすればよい。また、上述の実施の形態の機能を有するプログラムを制御プログラムとして、当該制御プログラムをコンピュータに実行させるようにしてもよい。なお、制御プログラムは、例えば、コンピュータに読み取り可能な記録媒体に記録される。
また、本発明は、以下の処理を実行することによっても実現される。つまり、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種の記録媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPUなど)がプログラムを読み出して実行する処理である。
101,102 高感度画素
103 低感度画素
104 単位画素
301,302,303 A/D変換器
304 高感度画素加算回路
305 シェーディング補正回路
306 合成回路
704,705 中感度画素

Claims (14)

  1. 複数の単位画素領域が2次元マトリックス状に配列された撮像素子であって、
    前記単位画素領域の各々は互いに感度及び形状が異なる第1の画素と第2の画素とを有し、
    複数の前記第1の画素は前記第2の画素の周辺部に配置され、
    前記単位画素領域において互いに感度が異なる複数の前記第1の画素の全てを合成した重心位置と前記第2の画素の重心位置が略一致するように前記第1の画素及び前記第2の画素が配置されていることを特徴とする撮像素子。
  2. 前記単位画素領域において互いに感度が異なる画素の出力である画素信号をそれぞれ、予め設定された共通のシェーディング補正データに応じて補正する補正手段を有することを特徴とする請求項1に記載の撮像素子。
  3. 前記シェーディング補正データは、前記撮像素子を備えるカメラで所定の均一輝度面を撮影した際に最も明るい画素信号が得られた画素を基準画素として、当該基準画素と他の画素とにおける光量に応じて生成されることを特徴とする請求項2に記載の撮像素子。
  4. 前記補正手段によってシェーディング補正された後の前記画素信号を受けて、当該画素信号を合成して前記単位画素領域の出力とする合成手段を有することを特徴とする請求項2又は3に記載の撮像素子。
  5. 前記合成手段は前記画素信号の一つを基準画素信号として、当該基準画素信号のレベルが予め設定された合成閾値よりも低いと、前記基準画素信号を前記単位画素領域の出力とし、前記基準画素信号が前記合成閾値以上であると、前記基準画素信号を除く他の画素信号を前記単位画素領域の出力とすることを特徴とする請求項4に記載の撮像素子。
  6. 前記合成手段は、前記他の画素信号を前記単位画素の出力とする際、前記基準画素信号と前記他の画素信号とに応じて前記他の画素信号の感度を補正することを特徴とする請求項5に記載の撮像素子。
  7. 前記基準画素信号は前記感度が最も高い画素の出力であることを特徴とする請求項5又は6に記載の撮像素子。
  8. 互いに感度が異なる画素のうち少なくとも一つを複数、前記単位画素領域に配置して、互いに感度が異なる画素の重心位置を略一致させることを特徴とする請求項1〜7のいずれか1項に記載の撮像素子。
  9. 前記第1の画素および前記第2の画素と感度が異なる第3の画素を備え、
    前記単位画素領域において前記第1の画素と前記第2の画素の間に前記第3の画素を配置して前記重心位置を略一致させることを特徴とする請求項1〜7のいずれか1項に記載の撮像素子。
  10. 前記第1の画素および前記第2の画素と感度が異なる第3の画素を備え、
    前記第3の画素の周辺に前記第1の画素を配置して前記重心位置を略一致させることを特徴とする請求項1〜7のいずれか1項に記載の撮像素子。
  11. 互いに感度が異なる画素のうち少なくとも一つを複数、前記単位画素領域に配置して、互いに感度が異なる画素の重心位置を略一致させており、
    前記単位画素領域に備えられた複数の同一の感度の画素の出力である画素信号をA/D変換した後に加算し、前記補正手段に与える加算手段を有することを特徴とする請求項2〜7のいずれか1項に記載の撮像素子。
  12. 複数の単位画素領域が2次元マトリックス状に配列された撮像素子の制御方法であって、
    前記単位画素領域の各々は互いに感度及び形状が異なる第1の画素と第2の画素とを有し、複数の前記第1の画素は前記第2の画素の周辺部に配置され、前記単位画素領域において互いに感度が異なる複数の前記第1の画素の全てを合成した重心位置と前記第2の画素の重心位置が略一致するように前記第1の画素及び前記第2の画素が配置されており、
    前記単位画素領域において互いに感度が異なる画素の出力である画素信号をそれぞれ、予め設定された共通のシェーディング補正データに応じて補正する補正ステップを有することを特徴とする制御方法。
  13. 複数の単位画素領域が2次元マトリックス状に配列された撮像素子で用いられる制御プログラムであって、
    前記単位画素領域の各々は互いに感度及び形状が異なる第1の画素と第2の画素とを有し、複数の前記第1の画素は前記第2の画素の周辺部に配置され、前記単位画素領域において互いに感度が異なる複数の前記第1の画素の全てを合成した重心位置と前記第2の画素の重心位置が略一致するように前記第1の画素及び前記第2の画素が配置されており、
    コンピュータに、
    前記単位画素領域において互いに感度が異なる画素の出力である画素信号をそれぞれ、予め設定された共通のシェーディング補正データに応じて補正する補正ステップを実行させることを特徴とする制御プログラム。
  14. 複数の単位画素領域が2次元マトリックス状に配列された撮像素子の出力である画素信号を処理する信号処理装置であって、
    前記単位画素領域の各々は互いに感度及び形状が異なる第1の画素と第2の画素とを有し、複数の前記第1の画素は前記第2の画素の周辺部に配置され、前記単位画素領域において互いに感度が異なる複数の前記第1の画素の全てを合成した重心位置と前記第2の画素の重心位置が略一致するように前記第1の画素及び前記第2の画素が配置されており、
    前記単位画素領域において互いに感度が異なる画素の出力である画素信号をそれぞれ、予め設定された共通のシェーディング補正データに応じて補正する補正手段を有することを特徴とする信号処理装置。
JP2014105213A 2014-05-21 2014-05-21 撮像素子、その制御方法、および制御プログラム、並びに信号処理装置 Active JP6418785B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2014105213A JP6418785B2 (ja) 2014-05-21 2014-05-21 撮像素子、その制御方法、および制御プログラム、並びに信号処理装置
US14/712,224 US10027907B2 (en) 2014-05-21 2015-05-14 Image pickup device having unit pixels arranged in two-dimensional matrix form each of which has pixels of different sensitivities, control method therefor, storage medium storing control program therefor, and signal processing device for image pickup device
CN201510262428.8A CN105100601B (zh) 2014-05-21 2015-05-21 摄像装置及其控制方法和信号处理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014105213A JP6418785B2 (ja) 2014-05-21 2014-05-21 撮像素子、その制御方法、および制御プログラム、並びに信号処理装置

Publications (2)

Publication Number Publication Date
JP2015220716A JP2015220716A (ja) 2015-12-07
JP6418785B2 true JP6418785B2 (ja) 2018-11-07

Family

ID=54556979

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014105213A Active JP6418785B2 (ja) 2014-05-21 2014-05-21 撮像素子、その制御方法、および制御プログラム、並びに信号処理装置

Country Status (3)

Country Link
US (1) US10027907B2 (ja)
JP (1) JP6418785B2 (ja)
CN (1) CN105100601B (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017051722A1 (ja) * 2015-09-24 2017-03-30 ソニー株式会社 固体撮像素子及び電子機器
US10666881B2 (en) * 2015-09-24 2020-05-26 Sony Semiconductor Solutions Corporation Solid-state image sensor and electronic device
US10998357B2 (en) * 2016-03-29 2021-05-04 Sony Corporation Solid-state imaging device having pixels with high and low sensitivity photoelectric conversion units, and electronic device including the same
CN109792495B (zh) * 2017-02-28 2022-04-01 松下知识产权经营株式会社 摄像系统及摄像方法
CN107147851B (zh) * 2017-05-31 2019-12-31 Oppo广东移动通信有限公司 照片处理方法、装置、计算机可读存储介质及电子设备
US10593712B2 (en) * 2017-08-23 2020-03-17 Semiconductor Components Industries, Llc Image sensors with high dynamic range and infrared imaging toroidal pixels
JP2020198470A (ja) * 2019-05-30 2020-12-10 ソニーセミコンダクタソリューションズ株式会社 画像認識装置および画像認識方法
CN114930804A (zh) * 2020-02-14 2022-08-19 索尼集团公司 摄像装置和车辆控制系统
JP7397727B2 (ja) 2020-03-17 2023-12-13 日本放送協会 イメージセンサ

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6137100A (en) * 1998-06-08 2000-10-24 Photobit Corporation CMOS image sensor with different pixel sizes for different colors
US6956605B1 (en) * 1998-08-05 2005-10-18 Canon Kabushiki Kaisha Image pickup apparatus
GB2345217A (en) * 1998-12-23 2000-06-28 Nokia Mobile Phones Ltd Colour video image sensor
US7274383B1 (en) * 2000-07-28 2007-09-25 Clairvoyante, Inc Arrangement of color pixels for full color imaging devices with simplified addressing
JP4034614B2 (ja) * 2002-08-06 2008-01-16 富士フイルム株式会社 固体撮像装置
US6867549B2 (en) * 2002-12-10 2005-03-15 Eastman Kodak Company Color OLED display having repeated patterns of colored light emitting elements
SE525665C2 (sv) * 2003-05-08 2005-03-29 Forskarpatent I Syd Ab Matris av pixlar samt elektronisk bildanordning innefattande nämnda matris av pixlar
JP2005051695A (ja) * 2003-07-31 2005-02-24 Fuji Photo Film Co Ltd 画像合成方法及び固体撮像装置並びにデジタルカメラ
JP2006238410A (ja) * 2005-01-31 2006-09-07 Fuji Photo Film Co Ltd 撮像装置
CN102017147B (zh) * 2007-04-18 2014-01-29 因维萨热技术公司 用于光电装置的材料、系统和方法
JP4881833B2 (ja) 2007-10-29 2012-02-22 富士フイルム株式会社 カラー画像撮像用固体撮像素子
JP5040960B2 (ja) 2009-06-04 2012-10-03 株式会社ニコン 電子カメラ
JP2011029810A (ja) * 2009-07-23 2011-02-10 Sony Ericsson Mobile Communications Ab 撮像装置、撮像方法、撮像制御プログラム、及び携帯端末装置
JP5513623B2 (ja) * 2010-08-24 2014-06-04 富士フイルム株式会社 固体撮像装置
JP2012195921A (ja) * 2011-02-28 2012-10-11 Sony Corp 固体撮像素子およびカメラシステム
JP2013021660A (ja) 2011-07-14 2013-01-31 Sony Corp 画像処理装置、撮像装置、および画像処理方法、並びにプログラム
JP2013055500A (ja) 2011-09-02 2013-03-21 Sony Corp 固体撮像素子およびカメラシステム
JP5646421B2 (ja) 2011-09-22 2014-12-24 株式会社東芝 固体撮像装置および固体撮像システム
JP2013106151A (ja) * 2011-11-11 2013-05-30 Canon Inc 画像処理装置及び画像処理方法
JP5988744B2 (ja) * 2012-07-18 2016-09-07 キヤノン株式会社 撮像装置、その制御方法、および制御プログラム
US9172892B2 (en) * 2012-09-14 2015-10-27 Semiconductor Components Industries, Llc Imaging systems with image pixels having varying light collecting areas
JP2014075767A (ja) * 2012-10-05 2014-04-24 Canon Inc 固体撮像装置
JP6417809B2 (ja) * 2014-03-05 2018-11-07 ソニー株式会社 撮像装置
US9369681B1 (en) * 2014-11-25 2016-06-14 Omnivision Technologies, Inc. RGBC color filter array patterns to minimize color aliasing

Also Published As

Publication number Publication date
US10027907B2 (en) 2018-07-17
CN105100601B (zh) 2019-04-12
US20150341577A1 (en) 2015-11-26
CN105100601A (zh) 2015-11-25
JP2015220716A (ja) 2015-12-07

Similar Documents

Publication Publication Date Title
JP6418785B2 (ja) 撮像素子、その制御方法、および制御プログラム、並びに信号処理装置
US9838625B2 (en) Image processing apparatus and control method for image processing apparatus for controlling correction of a black level in a combined image signal
WO2012114819A1 (ja) 撮像装置、および撮像装置制御方法、並びにプログラム
JP6312487B2 (ja) 画像処理装置及びその制御方法、並びに、プログラム
US10638072B2 (en) Control apparatus, image pickup apparatus, and control method for performing noise correction of imaging signal
JP2017118197A (ja) 画像処理装置、画像処理方法、および撮像装置
US9667882B2 (en) Image processing apparatus, image-pickup apparatus, image processing method, non-transitory computer-readable storage medium for generating synthesized image data
US11515344B2 (en) Image sensor, image capturing apparatus and image processing apparatus
JP5526287B2 (ja) 撮像装置及び撮像方法
JP2014086889A (ja) 固体撮像装置
JP5248368B2 (ja) 画像処理装置
JP5503522B2 (ja) 撮像装置、撮像装置の制御方法
US10171782B2 (en) Image sensor and method of generating restoration image
US11431924B2 (en) Image capturing apparatus and control method thereof
US11546565B2 (en) Image sensing device and operating method thereof
JP5172283B2 (ja) ステレオ画像処理装置、ステレオ画像処理方法およびプログラム
US20160373658A1 (en) Image forming method, image forming apparatus, and image forming program
JP2021110885A5 (ja)
JP5588729B2 (ja) 画像信号処理装置
US8885072B2 (en) Solid-state imaging device, imaging method, and camera module
JP2006115275A (ja) 撮像装置
JP2014120795A (ja) 光電変換装置、光電変換システム、光電変換装置の駆動方法、光電変換システムの駆動方法
JP2018151422A (ja) 焦点検出装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170512

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180416

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180515

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180704

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180911

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181009

R151 Written notification of patent or utility model registration

Ref document number: 6418785

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151