JP6731725B2 - 固体撮像装置およびその駆動方法、電子機器 - Google Patents

固体撮像装置およびその駆動方法、電子機器 Download PDF

Info

Publication number
JP6731725B2
JP6731725B2 JP2015253286A JP2015253286A JP6731725B2 JP 6731725 B2 JP6731725 B2 JP 6731725B2 JP 2015253286 A JP2015253286 A JP 2015253286A JP 2015253286 A JP2015253286 A JP 2015253286A JP 6731725 B2 JP6731725 B2 JP 6731725B2
Authority
JP
Japan
Prior art keywords
signal
threshold value
high gain
central
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015253286A
Other languages
English (en)
Other versions
JP2019054302A (ja
Inventor
高根 靖雄
靖雄 高根
Original Assignee
ブリルニクス インク
ブリルニクス インク
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ブリルニクス インク, ブリルニクス インク filed Critical ブリルニクス インク
Priority to JP2015253286A priority Critical patent/JP6731725B2/ja
Priority to CN201680074824.0A priority patent/CN108432238B/zh
Priority to PCT/JP2016/088654 priority patent/WO2017111154A1/ja
Priority to US16/065,351 priority patent/US10735676B2/en
Publication of JP2019054302A publication Critical patent/JP2019054302A/ja
Application granted granted Critical
Publication of JP6731725B2 publication Critical patent/JP6731725B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/46Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by combining or binning pixels
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)
  • Solid State Image Pick-Up Elements (AREA)

Description

本発明は、固体撮像装置およびその駆動方法、電子機器に関するものである。
光を検出して電荷を発生させる光電変換素子を用いた固体撮像装置(イメージセンサ)として、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサが実用に供されている。
CMOSイメージセンサは、デジタルカメラ、ビデオカメラ、監視カメラ、医療用内視鏡、パーソナルコンピュータ(PC)、携帯電話等の携帯端末装置(モバイル機器)等の各種電子機器の一部として広く適用されている。
CMOSイメージセンサは、画素毎にフォトダイオード(光電変換素子)および浮遊拡散層(FD:Floating Diffusion、フローティングディフュージョン)を有するFDアンプを持ち合わせており、その読み出しは、画素アレイの中のある一行を選択し、それらを同時に列(カラム)方向へと読み出すような列並列出力型が主流である。
ところで、特性向上のため、高ダイナミックレンジ(HDR:High Dynamic Range)を持つ高画質の固体撮像装置(CMOSイメージセンサ)を実現する方法が種々提案されている。
従来、固体撮像装置において、ダイナミックレンジを高める(拡大させる)方法としては、たとえば、イメージセンサの同一の画素から蓄積時間の異なる2種類の信号を読み出し、この2種類の信号を組み合わせて、ダイナミックレンジを拡大させる方法や、高感度の画素でダイナミックレンジの小さい信号と、低感度でダイナミックレンジを拡大した信号を組み合わせてダイナミックレンジを拡大させる方法などが知られている。
たとえば特許文献1には、短い露光時間による高照度側に対応した撮像と長い露光時間による低照度に対応した撮像の異なる2回以上の露光時間に分割する高ダイナミックレンジ化技術が開示されている。
また、特許文献1には、フローティングディフュージョンの容量を可変とした高ダイナミックレンジ化技術が開示されている。
また、特許文献2には、フォトダイオードPDに高感度低照度側の小容量C1のフローティングディフュージョンと低感度高照度側の大容量C2のフローティングディフュージョンを接続して、低照度側の出力OUT1と高照度側出力OUT2をそれぞれ出力することで高ダイナミックレンジ化する技術が開示されている。
これらの信号の合成方法は時間的に見ると、複数のフレームに亘っている方式のものや、1フレーム内で複数種類のダイナミックレンジの異なる信号が出力される方式のもの等がある。
特許第3984814号 特許第3592106号
ところで、いずれの方法においても、組み合わせようとする(合成しようとする)複数の信号は、組み合わせ(信号の切り替え)を行う信号値の近傍において、それぞれ入射光量(照度)に対する出力電圧の直線性がほぼ同等に保たれている必要がある。
各々の信号はダイナミックレンジ(Dレンジ)を拡大するために光量(照度)に対するゲインが異なるように設計されるため、主としてアナログデジタルコンバータ(ADC)でデジタル変換後のデジタル信号処理回路でゲインを補正し、直線性(あるいは傾き)が同じに保たれるようにしている。
しかし、固体撮像装置の個体単位でのばらつき、あるいは1個体の中での画素間のばらつき等が存在するため、ばらつきの中心値のパラメータを基に補正した数値で、各々の信号を切り替えたとしても、そのレベルの近傍においての直線性(リニアリティ)が必ずしも保証されない場合がある。
このように補正精度が低い(ばらついている)場合、スムーズな切り替えが不能となり、その不連続点がノイズとなってしまい、いわゆるトーンジャンプ等の画像劣化の要因になるという不利益がある。
本発明は、個体ばらつき等にかかわりなく組み合わせようとする複数の信号のスムーズな切り替えが可能で、画像劣化を抑止しつつ高ダイナミックレンジ化を実現でき、ひいては高画質化を実現することが可能な固体撮像装置およびその駆動方法、電子機器を提供することにある。
本発明の第1の観点は、複数の読み出し信号を合成してダイナミックレンジを拡大可能な固体撮像装置であって、前記複数の読み出し信号の合成をする際に、前記複数の読み出し信号のうちの少なくとも一つの読み出し信号と閾値との比較結果に応じて合成に必要となる信号を少なくとも一つ選択し、合成処理に選択した信号を適用してダイナミックレンジが拡大された合成信号を生成する信号処理部を有し、前記信号処理部は、前記閾値を動的に変更可能である。
本発明の第2の観点は、複数の読み出し信号を合成してダイナミックレンジを拡大可能な固体撮像装置の駆動方法であって、前記複数の読み出し信号の合成をする際に、前記複数の読み出し信号のうちの少なくとも一つの読み出し信号と閾値とを比較する比較工程と、比較結果に応じて合成に必要となる信号を少なくとも一つ選択する選択工程と、合成処理に選択した信号を適用してダイナミックレンジが拡大された合成信号を生成する生成工程と、を有し、前記閾値を動的に変更して前記比較工程、前記選択工程、および前記生成工程の処理を行う。
本発明の第3の観点の電子機器は、複数の読み出し信号を合成してダイナミックレンジを拡大可能な固体撮像装置と、前記固体撮像装置に被写体像を結像する光学系と、を有し、前記固体撮像装置は、前記複数の読み出し信号の合成をする際に、前記複数の読み出し信号のうちの少なくとも一つの読み出し信号と閾値との比較結果に応じて合成に必要となる信号を少なくとも一つ選択し、合成処理に選択した信号を適用してダイナミックレンジが拡大された合成信号を生成する信号処理部を含み、前記信号処理部は、前記閾値を動的に変更可能である。
本発明によれば、個体ばらつき等にかかわりなく組み合わせようとする複数の信号のスムーズな切り替えが可能で、画像劣化を抑止しつつ高ダイナミックレンジ化を実現でき、ひいては高画質化を実現することができる。
本発明の第1の実施形態に係る固体撮像装置の信号処理系の全体の構成例を示すブロックである。 本第1の実施形態に係るピクセルアレイ部における低利得信号と高利得信号を生成可能なピクセル(画素)の構成例を示す図である。 本発明の第1の実施形態に係る信号処理部の構成例を示す図である。 高利得信号と低利得信号を合成し、ハイダイナミックレンジ信号とする合成方法を具体的に説明するための図である。 低利得信号と高利得信号を4ステップで段階的にスムーズに合成する場合の、信号レベル、中心閾値、各結合位置(点)、動的に設定される閾値の関係を模式的に示す図である。 本第1の実施形態に係る信号処理部における合成処理の一例を説明するためのフローチャートである。 本発明の第2の実施形態に係る信号処理部の構成例を示す図である。 図7の乱数発生部の具体的な構成例を示す図である。 高利得信号と中利得信号と低利得信号の3つの信号を、傾きを等しくしつつ合成する処理を説明するための図である。 短い露光時間による高照度側に対応した撮像と長い露光時間による低照度に対応した撮像の異なる2回以上の露光時間に分割する高ダイナミックレンジ化技術の一例を示す図である。 フレーム単位でダイナミックレンジを高める例を説明するための図である。 本発明の実施形態に係る固体撮像装置が適用される電子機器の構成の一例を示す図である。
以下、本発明の実施形態を図面に関連付けて説明する。
(第1の実施形態)
図1は、本発明の第1の実施形態に係る固体撮像装置の信号処理系の全体の構成例を示すブロックである。
本実施形態において、固体撮像装置10は,ピクセル(画素)から読み出された複数(2または3以上)の読み出し信号を合成してダイナミックレンジを拡大可能に構成され、たとえばCMOSイメージセンサにより構成される。
図1の固体撮像装置10は、レジスタコントローラ(Register Controller)20、タイミングコントローラ(Timing Controller)30、ピクセル(画素)アレイ (Pixel Array)部40、アナログゲイン(Analog Gain)部50、アナログデジタルコンバータ(ADC : Analog Digital Converter)部60、信号処理部としての機能を含むデジタルシグナルプロセッサ(DSP : Digital Signal Processor)部70、スケーラブル低電圧信号伝送(SLVS : Scalable Low Voltage Signaling)インタフェース部80、およびクロックジェネレータ(Clock Generator)90を主構成要素として有している。
固体撮像装置10において、レジスタコントローラ20、タイミングコントローラ30、アナログゲイン部50、ADC部60、DSP7部0、およびSLVSインタフェース部80が、信号の授受を行うためのバスBSにより接続されている。
また、クロックジェネレータ90により生成されたシステムクロックCLKが、レジスタコントローラ20、タイミングコントローラ30、アナログゲイン部50、ADC部60、DSP部70、およびSLVSインタフェース部80に供給される。
レジスタコントローラ20は、図示しないCPU、DSP等の外部制御装置と通信し、動作モードの設定や各種制御パラメータが書き込まれる記憶部として機能する。
タイミングコントローラ30は、各種動作モードに合わせてピクセル(画素)データを読み出す制御パルスS30を生成し、ピクセルアレイ部40の読み出し制御を行う。
ピクセルアレイ部40は、フォトダイオード(光電変換素子)と画素内アンプとを含む複数のピクセルがN行×M列の2次元の行列状(マトリクス状)に配列されている。
タイミングコントローラ30による制御パルスS30に従って、ピクセルアレイ部40の光電変換素子を含むピクセル群から読み出された読み出し信号は、アナログゲイン部50で所定のゲインをもって増幅され、ADC部60にてデジタル信号に変換され、 後で詳述するような信号処理部として機能するDSP部70に入力される。
なお、ADC部60の出力段には、たとえばカラムメモリ(Column Memory)が配置される。
DSP部70では、入力されたデジタル信号に対して相関二重サンプリング(CDS:Correlated Double Sampling)、黒補正、デジタルゲイン等の画像信号処理が施された後、SLVSインタフェース部80において出力型式(図1ではSLVS)に適合させて出力される。
本実施形態においては、ピクセルアレイ部40の光電変換素子を含むピクセル群から読み出された読み出し信号は、図1に示すように、光電変換利得の異なる複数種類(本例では2種類)の高利得信号(HCG : High conversion gain )と低利得信号(LCG : Low conversion gain)の2系統の信号が読み出される。
そして、DSP部70の信号処理部710にて2つの信号を合成してダイナミックレンジが拡大されたハイダイナミックレンジ信号を生成する。
なお、読み出し信号が2系統存在するが、後で説明するように、信号の読み出しに関する部分(たとえば信号線)を1系統として時分割で処理することが可能である。
高利得信号HCGは光電変換素子部からの高利得出力信号であるが、その分低利得信号LCGに比べて少ない入射光量で飽和する。低利得信号LCGは低利得出力信号であるため、飽和に達する入射光量に余裕があり、高利得信号HCGに比較して大きい。
そこで、DSP部70の信号処理部710では、低利得信号LCGと高利得信号HCGの傾きを等しくするとともに、高利得信号HCGが飽和する手前すなわち直線性が保たれている領域(非飽和領域)において、この2種類の信号を合成することでダイナミックレンジを高めた信号である合成信号を取得する。
この高利得信号HCGと低利得信号LCGの合成処理を行うDSP部70の信号処理部710は、基本的に以下に示す特徴的な構成、機能を有する。具体的な合成処理については、後で詳述する。
本実施形態の信号処理部710は、複数の読み出し信号(この例では、高利得信号HCGと低利得信号LCG)を合成してダイナミックレンジを拡大可能に構成されている。
信号処理部710は、合成すべき複数の読み出し信号、たとえば高利得信号HCGと低利得信号LCGの傾きを等しくする。
信号処理部710は、複数の読み出し信号の合成をする際に、複数の読み出し信号のうちの少なくとも一つの読み出し信号(高利得信号HCG、低利得信号LCG)と閾値(Joint Thresh)との比較結果に応じて合成に必要となる信号を少なくとも一つ選択し、合成処理に選択した信号を適用してダイナミックレンジが拡大された合成信号を生成する。
そして、本実施形態の信号処理部710は、閾値を動的に変更可能に構成されている。
信号処理部710は、閾値として、あらかじめ設定された基準閾値(中心閾値) Joint Thresh(以下、J Tresh)と、基準閾値J Threshと所定のステップ値stepα(αは自然数)とを比較演算(たとえば加算、減算)することで決定した新たな閾値(J Thresh ± stepα)と、を合成処理に適用する。
なお、あらかじめ設定された基準閾値(中心閾値) J Threshは、たとえば記憶部としてのレジスタ(REG)に書き換え可能に書き込まれる。
信号処理部710は、たとえば複数の読み出し信号のうち基準とする読み出し信号(たとえば高利得信号HCG)と対応する閾値(J Thresh、J Thresh±stepα)との比較結果に応じて、合成対象の複数の読み出し信号(高利得信号HCGおよび低利得信号LCG)を重み付け処理する重み付け処理部を有している。
重み付け処理部は、閾値に挟まれた領域の信号レベルにおいては、この領域に割り当てられた重み付け値に従って重み付け平均値を算出し、重み付け平均値をその領域の合成信号として出力する。
また、信号処理部710の重み付け処理部は、記複数の読み出し信号を加算平均する加算平均処理機能を含んで構成される。
加算平均処理機能は、閾値に挟まれた領域の信号レベルにある各々の信号は、加算平均された値をもって1つの出力とする。
以下に、低利得信号LCGと高利得信号HCGを生成可能なピクセルPXLの構成例を説明した後、DSP部70の信号処理部710における構成例および低利得信号LCGと高利得信号HCGの具体的な合成処理について説明する。
(ピクセルアレイ部40におけるピクセルPXLの構成例)
図2は、本第1の実施形態に係るピクセルアレイ部40における低利得信号LCGと高利得信号HCGを生成可能なピクセルPXLの構成例を示す図である。
図2のピクセルPXLは、フォトダイオードPD、フォトダイオードPDのカソード側に接続される、寄生容量もしくは付加容量によって形成される容量C11、並びにフォトダイオードPDおよび容量C11〜C13をリセットするリセットトランジスタRST−Trを有する。
フォトダイオードPDは、入射光量に応じた量の信号電荷(ここでは電子)を発生し、蓄積する。
以下、信号電荷は電子であり、各トランジスタがn型トランジスタである場合について説明するが、信号電荷がホールであったり、各トランジスタがp型トランジスタであっても構わない。
ピクセルPXLは、容量C11に接続される転送スイッチとしての転送トランジスタTG11−Tr、フォトダイオードPDおよび容量C11から転送される電荷を蓄積する容量C12、選択スイッチとしての選択トランジスタSEL11−Tr、およびゲートが容量C12に接続されるソースフォロワトランジスタSF11−Trを有する。
また、ピクセルPXLは、容量C11に接続される転送スイッチとしての転送トランジスタTG12−Tr、フォトダイオードPDおよび容量C11から転送される電荷を蓄積する容量C13、選択スイッチとしての選択トランジスタSEL12−Tr、およびゲートが容量C13に接続されるソースフォロワトランジスタSF12−Trを有する。
なお、ピクセルPXLのリセットトランジスタRST−Tr、転送トランジスタTG11−Tr,TG12−Tr、選択トランジスタSEL11−Tr,SEL12−Trのゲートには、タイミングコントローラ30で生成された制御パルスS30がそれぞれ供給されて、オン、オフ制御が行われる。
このように、図2のピクセルPXLは、フォトダイオードPDおよび容量C11に蓄積された電荷は2系統の出力系out1,out2を介して出力されるように構成されている。
図2の例では、出力系out1に低利得信号LCGが出力され、出力系out2に高利得信号HCGが出力される。
そして、図2の構成においては、たとえば出力系out1と出力系out2はワイヤードオアされ、各列(カラム)で2系統の高利得信号HCGと低利得信号LCGは共通の信号線(垂直信号線)LSGNに時分割で出力される。
次に、図2のピクセルPXLの動作を説明する。
フォトダイオードPD、寄生容量もしくは付加容量によって形成される容量C11の電位はリセットトランジスタRST−Trによってリセット電位Vr(図2の例ではVDD)にリセットされる。
蓄積期間にフォトダイオードPDに光が入射すると、発生した光電荷はフォトダイオードPDおよび容量C11に蓄積される。
この状態で、転送スイッチとしての転送トランジスタTG11−Trもしくは転送スイッチとしての転送トランジスタTG12−Trをオンすることで容量C12もしくは容量C13の電位は発生した光電荷に応じて変化する。
ここで容量C12および容量C13はそれぞれソースフォロワトランジスタSF11−Tr、SF12−Trのゲート電極の寄生容量が支配的である。
選択トランジスタSEL11−Tr,SEL12−Trは行選択スイッチであり、2次元アレイ状に配列されているピクセルPXLのある行を選択するためのスイッチである。選択トランジスタSEL11−Tr,SEL12−Trは電源VDDに接続されている。
出力系out1と出力系out2は、信号線LSGNを介して図には示していない定電流源に接続されており、ソースフォロワトランジスタSF11−Tr、SF12−Trとともに、ソースフォロワアンプを形成している。
選択トランジスタSEL11−Tr,SEL12−TrもソースフォロワトランジスタSF11−Tr、SF12−Trと同様に定電流源とでソースフォロワアンプを形成しており、トランジスタTG11−TrとトランジスタSEL11−Trを選択するか、トランジスタTG12−TrとトランジスタSEL12−Trを選択することで、いずれかのソースフォロワアンプを選択することができる。
これにより、2系統の高利得信号HCGと低利得信号LCGは共通の信号線(垂直信号線)LSGNに時分割で出力される。
読み出しの容量C12、C13を場合によって選べることの利点は,撮影条件によって、ダイナミックレンジ(DR:D−range)を選択できることにある。
(DSP部70における低利得信号LCGと高利得信号HCGの具体的な合成処理)
次に、DSP部70の信号処理部710における構成例および低利得信号LCGと高利得信号HCGの具体的な合成処理について説明する。
以下の説明においては、光電変換素子を含むピクセルPXLから読み出される複数の読み出し信号は、少なくとも一組の、低利得信号LCGと、低利得信号LCGに比べて少ない入射光量で飽和する高利得信号HCGと、を含むものとする。
図3は、本発明の第1の実施形態に係る信号処理部の構成例を示す図である。
図3の信号処理部710は、乗算器711,712、および重み付け処理部としての機能を有する合成処理部713を有する。
乗算器711は、飽和する前に直線性を有する低利得信号LCGの傾きを、同じく飽和する前に直線性を有する高利得信号HCGの傾きと等しくするために、入力される低利得信号LCGに、ゲイン比K(=HCG/LCG)を掛け合わせ、その結果を合成処理部713に供給する。
乗算器712は、高利得信号HCGの傾きを微調整するために、入力される高利得信号HCGに、ゲイン比1.0を掛け合わせ、その結果を合成処理部713に供給する。
なお、乗算器712は、微調整のために配置されており、必ずしも必要ではなく、なくてもよい。
合成処理部713は、傾きが等しくなるように調整された低利得信号LCGと高利得信号HCGを受けて、高利得信号HCGが飽和する手前であって直線性が保たれている非飽和領域ANSATで、合成処理により低利得信号LCGと高利得信号HCGを合成する。
合成処理部713は、重み付け処理部として機能し、たとえば複数の低利得信号LCGと高利得信号HCGのうち基準とする高利得信号HCGと対応する閾値(J Thresh、J Thresh±stepα)との比較結果に応じて、合成対象の高利得信号HCGおよび低利得信号LCGを重み付け処理する重み付け処理部としての機能を有している。
合成処理部713は、重み付け処理部として、閾値に挟まれた領域の信号レベルにおいては、この領域に割り当てられた重み付け値に従って重み付け平均値を算出し、重み付け平均値をその領域の合成信号として出力する機能を有する。
また、合成処理部713は、重み付け処理部として、低利得信号LCGと高利得信号HCGを加算平均する加算平均処理機能を含んで構成される。
加算平均処理機能は、閾値に挟まれた領域の信号レベルにある各々の信号は、加算平均された値をもって1つの出力とする。
以上の構成を有する信号処理部710は、ピクセルアレイ部40のマトリクス配列の各列(カラム)に対応して複数配置される。
以上、本実施形態に係る信号処理部710の基本的なブロック構成について説明した。
次に、本実施形態に係る信号処理部710によって2つの特性の異なる高利得信号HCGと低利得信号LCGを合成し、ハイダイナミックレンジ信号とする合成方法をより具体的に図解して説明する。
図4(A)〜(C)は、高利得信号HCGと低利得信号LCGを合成し、ハイダイナミックレンジ信号とする合成方法を具体的に説明するための図である。
図4(A)は高利得信号HCGと低利得信号LCGの傾きを同じとなるように調整する処理概要を示している。
図4(B)は高利得信号HCGが飽和する手前であって直線性が保たれている非飽和領域ANSATにおいて、合成処理により高利得信号HCGと低利得信号LCGを4ステップで段階的にスムーズに合成することを示している。
図4(C)は高利得信号HCGと低利得信号LCGを4ステップで段階的にスムーズに合成する場合の、中心閾値J Thresh、各結合位置(点)jp0〜jp3、動的に設定される閾値(J Thresh−step2)、(J Thresh−step1)、(J Thresh+step1)、(J Thresh+step2)、重み付け値の関係を模式的に図解して示している。
図5は高利得信号HCGと低利得信号LCGを4ステップで段階的にスムーズに合成する場合の、信号レベル、中心閾値J Thresh、各結合位置(点)jp0〜jp3、動的に設定される閾値(J Thresh−step2)、(J Thresh−step1)、(J Thresh+step1)、(J Thresh+step2)、閾値間の領域の関係を模式的に示している。
図4において、高利得信号HCGと低利得信号LCGは前述の2系統の信号に相当する。ここで、図2で示したように高利得信号HCGと低利得信号LCGはいずれもデジタル信号である。
前述したように、高利得信号HCGは光電変換素子部からの高利得出力信号であるが、その分低利得信号LCGに比べて少ない入射光量で飽和する。低利得信号LCGは低利得出力信号であるため、飽和に達する入射光量に余裕があり、高利得信号HCGに比較して大きい。
そこで、DSP部70の信号処理部710では、低利得信号LCGと高利得信号HCGの傾きを等しくするとともに、高利得信号HCGが飽和する手前すなわち直線性が保たれている非飽和領域ANSATでこの2種類の信号を合成することでダイナミックレンジ(DR)を高めた信号が得られる。
信号処理部710の合成処理部713は、たとえば高利得信号HCGを基準として合成処理を行うことが可能である。
合成処理部713は、たとえば図4(C)および図5に示すように、非飽和領域ANSATの中心部位置JC(Joint Center)に、基準閾値を中心閾値J Threshとして設定する。
合成処理部713は、たとえば図4(C)および図5に示すように、中心閾値J Threshが設定された中心部位置JCから合成信号を高利得信号HCGと結合すべき高利得信号最端部側結合位置jp(joint point)0の間に、高利得信号最端部側結合位置jp0を含む二つの高利得側結合位置jp0、jp1を設定するとともに、中心部位置JCから高利得信号最端部に向かって徐々に大きくなる、設定した高利得側結合位置jp1、jp0に対応する高利得側ステップ値(−)step1,(−)step2(step2>step1)を設定する。
合成処理部713は、たとえば図4(C)および図5に示すように、中心閾値J Threshが設定された中心部位置JCから合成信号を低利得信号LCGと結合すべき低利得信号最端部側結合位置jp3の間に、低利得信号最端部側結合位置jp3を含む二つの低利得側結合位置jp3、jp2を設定するとともに、中心部位置JCから低利得信号最端部に向かって徐々に大きくなる、設定した低利得側結合位置jp2、jp3に対応する低利得側ステップ値step1,step2(step2>step1)を設定する。
そして、合成処理部713は、たとえば図4(C)および図5に示すように、中心閾値J Threshから設定した高利得側ステップ値step2,step1を減算して対応する高利得側結合位置jp0,jp1の新たな閾値(J Thresh−step2)、(J Thresh−step1)として設定する。合成処理部713は、新たな閾値を適用して高利得側結合位置jp0,jp1における閾値(J Thresh−step2)、(J Thresh−step1)と高利得信号HCGとの比較結果に応じて合成処理を行う。
同様に、合成処理部713は、たとえば図4(C)および図5に示すように、中心閾値J Threshに設定した低利得側ステップ値step1,step2を加算して対応する低利得側結合位置jp2,jp3の新たな閾値(J Thresh+step1)、(J Thresh+step2)として設定する。合成処理部713は、新たな閾値を適用して低利得側結合位置jp2、jp3における閾値(J Thresh+step1)、(J Thresh+step2)と高利得信号HCGとの比較結果に応じて合成処理を行う。
合成処理部713は、合成処理に係る比較処理において、高利得側結合位置jp0、jp1の閾値(J Thresh−step2)、(J Thresh−step1)、または、低利得側結合位置jp2、jp3の閾値(J Thresh+step1)、(J Thresh+step2)と高利得信号HCGとの比較により選択された値に挟まれた領域A01,A12,A23の信号レベルにおいては、領域A01,A12,A23に割り当てられた重み付け値WV01,WV12,WV23に従って重み付け平均値AVW01、AVW12,AVW23を算出し、重み付け平均値をその領域の合成信号(合成データ)data dhdrとして出力する。
たとえば、高利得側結合位置jp0の閾値(J Thresh−step2)と隣接の高利得側結合位置jp1の閾値(J Thresh−step1)に挟まれた領域A01においては、低利得信号LCGに「1」で高利得信号HCGに「3」の重み付け値(LCG:HCG=1:3)WV01が割り当てられる。
高利得側結合位置jp1の閾値(J Thresh−step1)と隣接の低利得側結合位置jp2の閾値(J Thresh+step1)に挟まれた領域A12においては、低利得信号LCGに「1」で高利得信号HCGに「1」の重み付け値(LCG:HCG=1:1)WV12が割り当てられる。
低利得側結合位置jp2の閾値(J Thresh+step1)と隣接の低利得側結合位置jp3の閾値(J Thresh+step2)に挟まれた領域A23においては、低利得信号LCGに「3」で高利得信号HCGに「1」の重み付け値(LCG:HCG=3:1)WV23が割り当てられる。
合成処理部713は、高利得信号最端部側結合位置jp0の閾値(J Thresh−step2)と高利得信号HCG(data hcg)との比較の結果、高利得信号HCGのレベルが閾値(J Thresh−step2)より小さい場合は、高利得信号HCG(data hcg)を合成信号(合成データ)data dhdrとして適用する。
合成処理部713は、低利得信号最端部側結合位置jp3の閾値(J Thresh+step2)と高利得信号HCG(data hcg)との比較の結果、高利得信号HCGのレベルが閾値(J Thresh+step2)より大きい場合は、低利得信号LCG(data lcg)を合成信号(合成データ)data dhdrとして適用する。
以上、信号処理部710における合成処理部713の構成および機能について説明した。
ここで、合成処理部における高利得信号HCGと低利得信号LCGの具体的な合成処理の一例を説明する。
図6は、本実施形態に係る信号処理部710における合成処理の一例を説明するためのフローチャートである。
今、高利得信号HCGを基準に合成する場合を考えると、下記のように表現できる。
(数1)
data_hcg = data_hcg_in + hcg_offset
低利得信号LCGは、高利得信号HCGと傾きが同じになるようにデジタル利得を掛けて変換した場合次のように表現できる。
(数2)
data_lcg = (data_lcg_in + lcg_offset ) × K
ここで、KはHCG/LCGのゲイン比を示す。
この2信号を合成するにあたり、次の条件設定に沿って演算を行う。
(数3)
if ( data_hcg < ( j_thresh - step2 ) )
data_dhd= data_hcg ;
if ( data_hcg < ( j_thresh - step1 ) )
data_dhdr = ( data_hcg ×3 + data_lcg ) / 4 ;
if ( data_hcg < ( j_thresh + step1 ) )
data_dhdr = ( data_hcg + data_lcg ) / 2 ;
if ( data_hcg < ( j_thresh + step2 ) )
data_dhdr = ( data_hcg + data_lcg × 3) / 4 ;
if ( data_hcg > ( j_thresh + step2 ) )
data_dhdr = data_lcg ;
この合成処理部713の合成に係る演算処理について図6に関連付けて説明する。
合成処理部713は、たとえば、まず、高利得信号最端部側結合位置jp0の閾値(J Thresh−step2)と高利得信号HCG(data hcg)とを比較し(工程PR1)、高利得信号HCGのレベルが閾値(J Thresh−step2)より小さいか否かを判定する(工程PR2)。
合成処理部713は、工程PR2において、高利得信号HCG(data hcg)のレベルが閾値(J Thresh−step2)より小さいと判定すると、高利得信号HCG(data hcg)を合成信号(合成データ)data dhdrとして適用する(工程PR3)。
合成処理部713は、工程PR2において、高利得信号HCG(data hcg)のレベルが閾値(J Thresh−step2)より大きいと判定すると、高利得側結合位置jp1の閾値(J Thresh−step1)と高利得信号HCG(data hcg)とを比較し(工程PR4)、高利得信号HCG(data hcg)のレベルが閾値(J Thresh−step1)より小さいか否かを判定する(工程PR5)。
合成処理部713は、工程PR5において、高利得信号HCG(data hcg)のレベルが閾値(J Thresh−step1)より小さいと判定すると、次の処理を行う(工程PR6、PR7)。
合成処理部713は、高利得側結合位置jp0の閾値(J Thresh−step2)と隣接の高利得側結合位置jp1の閾値(J Thresh−step1)に挟まれた領域A01に割り当てられた重み付け値(LCG:HCG=1:3)WV01に従って高利得信号HCGと低利得信号LCGの重み付け平均値AVW01を次式により算出し(工程PR6)、重み付け平均値AVW01をその領域の合成信号(合成データ)data dhdrとして適用する(工程PR7)。
(数4)
AVW01= ( data_hcg ×3 + data_lcg ) / 4
合成処理部713は、工程PR5において、高利得信号HCG(data hcg)のレベルが閾値(J Thresh−step1)より大きいと判定すると、低利得側結合位置jp2の閾値(J Thresh+step1)と高利得信号HCG(data hcg)とを比較し(工程PR8)、高利得信号HCG(data hcg)のレベルが閾値(J Thresh+step1)より小さいか否かを判定する(工程PR9)。
合成処理部713は、工程PR9において、高利得信号HCG(data hcg)のレベルが閾値(J Thresh+step1)より小さいと判定すると、次の処理を行う(工程PR10、PR11)。
合成処理部713は、高利得側結合位置jp1の閾値(J Thresh−step1)と隣接の低利得側結合位置jp2の閾値(J Thresh+step1)に挟まれた領域A12に割り当てられた重み付け値(LCG:HCG=1:1)WV12に従って高利得信号HCGと低利得信号LCGの重み付け平均値AVW12を次式により算出し(工程PR10)、重み付け平均値AVW12をその領域の合成信号(合成データ)data dhdrとして適用する(工程PR11)。
(数5)
AVW12= ( data_hcg + data_lcg ) / 2
合成処理部713は、工程PR9において、高利得信号HCG(data hcg)のレベルが閾値(J Thresh+step1)より大きいと判定すると、低利得信号最端部側結合位置jp3の閾値(J Thresh+step2)と高利得信号HCG(data hcg)とを比較し(工程PR12)、高利得信号HCG(data hcg)のレベルが閾値(J Thresh+step2)より小さいか否かを判定する(工程PR13)。
合成処理部713は、工程PR13において、高利得信号HCG(data hcg)のレベルが閾値(J Thresh+step2)より小さいと判定すると、次の処理を行う(工程PR14、PR15)。
合成処理部713は、低利得側結合位置jp2の閾値(J Thresh+step1)と隣接の低利得側結合位置jp3の閾値(J Thresh+step2)に挟まれた領域A23に割り当てられた重み付け値(LCG:HCG=3:1)WV23に従って高利得信号HCGと低利得信号LCGの重み付け平均値AVW23を次式により算出し(工程PR14)、重み付け平均値AVW23をその領域の合成信号(合成データ)data dhdrとして適用する(工程PR15)。
(数6)
AVW23= ( data_hcg + data_lcg × 3) / 4
合成処理部713は、工程PR13において、高利得信号HCG(data hcg)のレベルが閾値(J Thresh+step2)より小さくなく、大きいと判定すると(工程PR16)、低利得信号LCG(data lcg)を合成信号(合成データ)data dhdrとして適用する(工程PR17)。
以上説明したように、本第1の実施形態の固体撮像装置10の信号処理部710は、複数の読み出し信号、たとえば高利得信号HCGと低利得信号LCGを合成してダイナミックレンジを拡大可能に構成されている。
信号処理部710は、合成すべき複数の読み出し信号、たとえば低利得信号LCGと高利得信号HCGの傾きを等しくする。
信号処理部710は、複数の読み出し信号の合成をする際に、複数の読み出し信号のうちの少なくとも一つの読み出し信号(高利得信号HCG、低利得信号LCG)と閾値(Joint Thresh)との比較結果に応じて合成に必要となる信号を少なくとも一つ選択し、合成処理に選択した信号を適用してダイナミックレンジが拡大された合成信号を生成する。
そして、本第1の実施形態の信号処理部710は、閾値を動的に変更可能に構成され、閾値として、あらかじめ設定された基準閾値(中心閾値)J Threshと、基準閾値J Threshと所定のステップ値stepα(αは自然数)とを比較演算(たとえば加算、減算)することで決定した新たな閾値(J Thresh ± stepα)と、を合成処理に適用する。
したがって、本第1の実施形態によれば、固体撮像装置の個体単位でのばらつき、あるいは1個体の中でのピクセル(画素)間のばらつき等が存在する場合であっても、組み合わせようとする(合成しようとする)複数の信号のスムーズな切り替えが可能で、不連続点を削減でき、ひいてはノイズを削減でき、ノイズの少ない高品質かつ高ダイナミックな画像信号を生成することが可能となる。
また、個体ばらつきを吸収することが可能となるため、製品の歩留まりを向上させることが可能となる。
すなわち、本第1の実施形態によれば、個体ばらつき等にかかわりなく組み合わせようとする複数の信号のスムーズな切り替えが可能で、画像劣化を抑止しつつ高ダイナミックレンジ化を実現でき、ひいては高画質化を実現することが可能となる。
また、本第1の実施形態の信号処理部710は、たとえば複数の読み出し信号のうち基準とする読み出し信号(たとえば高利得信号HCG)と対応する閾値(J Thresh、J Thresh±stepα)との比較結果に応じて、合成対象の複数の読み出し信号(高利得信号HCGおよび低利得信号LCG)を重み付け処理する重み付け処理部としての機能を含む合成処理部713を有している。
重み付け処理部を含む合成処理部713は、閾値に挟まれた領域の信号レベルにおいては、この領域に割り当てられた重み付け値に従って重み付け平均値を算出し、重み付け平均値をその領域の合成信号として出力する。
また、重み付け処理部は、記複数の読み出し信号を加算平均する加算平均処理機能を含んで構成される。
加算平均処理機能は、閾値に挟まれた領域の信号レベルにある各々の信号は、加算平均された値をもって1つの出力とする。
したがって、本第1の実施形態によれば、組み合わせようとする(合成しようとする)複数の信号のよりスムーズな切り替えが可能で、不連続点を確実に削減でき、ひいてはノイズを削減でき、さらにノイズの少ない高品質かつ高ダイナミックな画像信号を生成することが可能となる。
(第2の実施形態)
図7は、本発明の第2の実施形態に係る信号処理部の構成例を示す図である。
図8は、図7の乱数発生部の具体的な構成例を示す図である。
本第2の実施形態に係る図7の信号処理部710Aが第1の実施形態に係る図3の信号処理部710と異なる点は、乱数発生部714が設けられ、合成処理部713Aは、乱数rnd(clk)を閾値J Threshと加算あるいは減算して閾値を設定することにある。
ここで、clkは、ピクセル(画素)データの転送クロックと同じ周波数であり、乱数はピクセル(画素)単位で変化する。
合成処理部713Aは,たとえば複数の閾値の平均値を基準閾値J Threshに相当する中心閾値として設置可能で、中心閾値は初期の中心閾値J Threshに乱数発生部714で発生された乱数rnd(clk)を加算することで新たに算出された値を第2の中心閾値(J Thresh+rnd(clk))とし、第2の中心閾値をもとに合成に必要となる信号の選択処理を行う。
乱数発生部714は、たとえば図8に示すように、排他的論理和ゲートEXOR1〜EXOR3を含む線形帰還シフトレジスタLFSRにより形成される。図8は16ビットの場合の一例として示されている。
第2の実施形態の合成処理部713Aで第1の実施形態の数3に対応する2信号を合成するにあたり、次の条件設定に沿って演算を行う。
(数7)
if ( data_hcg < ( j_thresh + rnd(clk) - step2 ) )
data_dhd= data_hcg ;
if ( data_hcg < ( j_thresh + rnd(clk) - step1 ) )
data_dhdr = ( data_hcg ×3 + data_lcg ) / 4 ;
if ( data_hcg < ( j_thresh + rnd(clk) + step1 ) )
data_dhdr = ( data_hcg + data_lcg ) / 2 ;
if ( data_hcg < ( j_thresh + rnd(clk) + step2 ) )
data_dhdr = ( data_hcg + data_lcg × 3) / 4 ;
if ( data_hcg > ( j_thresh + rnd(clk) + step2 ) )
data_dhdr = data_lcg ;
すなわち、この演算処理は、初期の中心閾値J Threshに乱数発生部714で発生された乱数rnd(clk)を加算することで新たに算出された値が第2の中心閾値(J Thresh+rnd(clk))として適用される他は、上記数3および図6の処理と同様の処理が行われる。
したがって、ここでは、詳細な説明は省略する。
本第2の実施形態によれば、上述した第1の実施形態と同様の効果を得ることができる。
すなわち、本第2の実施形態によれば、固体撮像装置の個体単位でのばらつき、あるいは1個体の中での画素間のばらつき等が存在する場合であっても、組み合わせようとする(合成しようとする)複数の信号のスムーズな切り替えが可能で、不連続点を削減でき、ひいてはノイズを削減でき、ノイズの少ない高品質かつ高ダイナミックな画像信号を生成することが可能となる。
また、個体ばらつきを吸収することが可能となるため、製品の歩留まりを向上させることが可能となる。
(応用例)
上述した実施形態においては、複数の読み出し信号の例として、2つの高利得信号HCGと低利得信号LCGを合成してダイナミックレンジを拡大する場合について説明したが、本発明は,3つあるいは4以上の特性の異なる信号を、傾きを等しくしつつ合成する場合にも適用することが可能である。
図9は、高利得信号HCGと中利得信号MCGと低利得信号LCGの3つの信号を、傾きを等しくしつつ合成する処理を説明するための図である。
図9の例は、高利得と低利得の中間の中利得信号MCGが合成対象に追加されている。
この場合、高利得信号HCGが飽和する手前であって直線性が保たれている非飽和領域ANSAT1において、前述した実施形態の合成処理と同様の処理により中利得信号MCGと高利得信号HCGが段階的にスムーズに合成される。このときの傾きを調整するためのゲイン比はHCG/MCGである。
非飽和領域ANSAT1における合成処理では、中利得信号MCGが前述した実施形態の合成処理の低利得信号と同様の信号として扱われる。
同様に、中利得信号MCGが飽和する手前であって直線性が保たれている非飽和領域ANSAT2において、前述した実施形態の合成処理と同様の処理により中利得信号MCGと低利得信号LCGが段階的にスムーズに合成される。このときの傾きを調整するためのゲイン比はMCG/LCGである。
非飽和領域ANSAT2における合成処理では、中利得信号MCGが前述した実施形態の合成処理の高利得信号と同様の信号として扱われる。
この場合も、上述した第1および第2の実施形態と同様の効果を得ることができる。
(変形例)
図10は、短い露光時間による高照度側に対応した撮像と長い露光時間による低照度に対応した撮像の異なる2回以上の露光時間に分割する高ダイナミックレンジ化技術の一例を示す図である。
上述した実施形態においては、ピクセルPXLの構成自体に、選択トランジスタSEL−TrおよびソースフォロワトランジスタSF−Trを2系統設けて、複数の読み出し信号である2つの高利得信号HCGと低利得信号LCGを生成するように構成されている場合を例に説明したが、本発明は、このような構成に限定されない。
たとえばピクセルPXLの構成自体に、選択トランジスタSEL−TrおよびソースフォロワトランジスタSF−Trを1系統のみ設けて、図10に示すように、短い露光時間による高照度側に対応した撮像と長い露光時間による低照度に対応した撮像の異なる2回以上の露光時間に分割する高ダイナミックレンジ化技術を採用することも可能である。
ピクセル(画素)の読み出し動作においては、タイミングコントローラ等の制御の下、図10に示すように、シャッタースキャンSSCNが行われ、その後、読み出しスキャンRSCNが行われるが、図10の例は、シャッタースキャンSSCNが行われ、その後、読み出しスキャンRSCNが行われるまでの露光期間Tint0,Tint1を2つ設け、時間に差を持たせている。
この場合も、上述した第1および第2の実施形態と同様の効果を得ることができる。
図11は、フレーム単位でダイナミックレンジを高める例を説明するための図である。
また、上述した実施形態では、ピクセル単位でダイナミックレンジを高める例を説明したが、本発明は、図11に示すように、フレーム単位でダイナミックレンジを高める場合にも適用可能である。
この場合も、上述した第1および第2の実施形態と同様の効果を得ることができる。
以上説明した固体撮像装置10は、デジタルカメラやビデオカメラ、携帯端末、あるいは監視用カメラ、医療用内視鏡用カメラなどの電子機器に、撮像デバイスとして適用することができる。
図12は、本発明の実施形態に係る固体撮像装置が適用されるカメラシステムを搭載した電子機器の構成の一例を示す図である。
本電子機器100は、図12に示すように、本実施形態に係る固体撮像装置10が適用可能なCMOSイメージセンサ110を有する。
さらに、電子機器100は、このCMOSイメージセンサ110の画素領域に入射光を導く(被写体像を結像する)光学系(レンズ等)120を有する。
電子機器100は、CMOSイメージセンサ110の出力信号を処理する信号処理回路(PRC)130を有する。
信号処理回路130は、CMOSイメージセンサ110の出力信号に対して所定の信号処理を施す。
信号処理回路130で処理された画像信号は、液晶ディスプレイ等からなるモニタに動画として映し出し、あるいはプリンタに出力することも可能であり、またメモリカード等の記録媒体に直接記録する等、種々の態様が可能である。
上述したように、CMOSイメージセンサ110として、前述した固体撮像装置10を搭載することで、高性能、小型、低コストのカメラシステムを提供することが可能となる。
そして、カメラの設置の要件に実装サイズ、接続可能ケーブル本数、ケーブル長さ、設置高さなどの制約がある用途に使われる、たとえば、監視用カメラ、医療用内視鏡用カメラなどの電子機器を実現することができる。
10・・・固体撮像装置、20・・・レジスタコントローラ、30・・・タイミングコントローラ、40・・・ピクセル(画素)アレイ部、50・・・アナログゲイン部、60・・・アナログデジタルコンバータ(ADC)、70・・・デジタルシグナルプロセッサ(DSP)、710,710A・・・信号処理部、711,712・・・乗算器、713,713A・・・合成処理部、714・・・乱数発生部、80・・・スケーラブル低電圧信号伝送(SLVS)インタフェース部、90・・・クロックジェネレータ、100・・・電子機器、110・・・CMOSイメージセンサ、120・・・光学系、130・・・信号処理回路(PRC)。

Claims (15)

  1. 複数の読み出し信号を合成してダイナミックレンジを拡大可能な固体撮像装置であって、
    前記複数の読み出し信号の合成をする際に、前記複数の読み出し信号のうちの少なくとも一つの読み出し信号と動的に変更可能な閾値との比較結果に応じて合成に必要となる信号を少なくとも一つ選択し、合成処理に選択した信号を適用してダイナミックレンジが拡大された合成信号を生成する信号処理部を有し、
    前記複数の読み出し信号は、
    異なる入射光量で飽和する第1信号と第2信号と、を含み、
    前記信号処理部は、
    前記第1信号が飽和する手前であって直線性が保たれている非飽和領域で、前記合成処理により前記第2信号と前記第1信号を合成し、当該合成に際し、
    あらかじめ設定した基準閾値を前記非飽和領域の中心部位置に中心閾値として設定し、
    前記中心閾値が設定された中心部位置から第1信号最端部および第2信号最端部の少なくとも一方に向かって徐々に大きくなる、設定した結合すべき結合位置に対応するステップ値を設定し、
    前記基準閾値としての中心閾値と設定したステップ値とを比較演算することで対応する結合位置の新たな閾値として設定し、当該新たな閾値を適用して前記結合位置における閾値と前記第1信号または第2信号との比較結果に応じて前記合成処理を行う
    固体撮像装置。
  2. 前記信号処理部は、
    前記複数の読み出し信号を重み付け処理する重み付け処理部を含み、
    重み付けするための更なる新たな閾値を有し、
    前記重み付け処理部は、
    前記閾値に挟まれた領域の信号レベルにおいては、当該領域に割り当てられた重み付け値に従って重み付け平均値を算出し、当該重み付け平均値を当該領域の合成信号として出力する
    請求項1記載の固体撮像装置。
  3. 複数の閾値を有し、
    前記重み付け処理部は、
    前記複数の読み出し信号を加算平均する加算平均処理機能を含み、
    前記加算平均処理機能は、
    前記閾値に挟まれた領域の信号レベルにある各々の信号は、加算平均された値をもって1つの出力とする
    請求項2記載の固体撮像装置。
  4. 前記信号処理部は、
    乱数発生部を含み、
    複数の閾値の平均値を前記基準閾値に相当する中心閾値として設置可能で、
    前記中心閾値は初期の中心閾値に前記乱数発生部で発生された乱数を加算することで新たに算出された値を第2の中心閾値とし、当該第2の中心閾値をもとに前記合成に必要となる信号の選択処理を行う
    請求項1から3のいずれか一に記載の固体撮像装置。
  5. 書き換え可能な記憶部を含み、
    前記基準閾値は前記記憶部に書き込まれている
    請求項1から4のいずれか一に記載の固体撮像装置。
  6. 前記信号処理部を複数有する
    請求項1から5のいずれか一に記載の固体撮像装置。
  7. 光電変換素子を含む画素から読み出される前記複数の読み出し信号は、少なくとも一組の、
    低利得信号と、
    当該低利得信号に比べて少ない入射光量で飽和する高利得信号と、を含み、
    前記信号処理部は、
    前記低利得信号と前記高利得信号の傾きを等しくするとともに、前記高利得信号が飽和する手前であって直線性が保たれている非飽和領域で、前記合成処理により前記低利得信号と前記高利得信号を合成する
    請求項1から6のいずれか一に記載の固体撮像装置。
  8. 前記信号処理部は、
    前記低利得信号と前記高利得信号の少なくとも一方を基準として前記合成処理を行う
    請求項7記載の固体撮像装置。
  9. 前記信号処理部は、
    前記高利得信号を基準として前記合成処理を行い、
    前記閾値として、
    あらかじめ設定した基準閾値と、
    前記基準閾値と所定のステップ値とを比較演算することで決定した少なくとも一つの新たな閾値と、を前記合成処理に適用することが可能であり、
    前記非飽和領域の中心部位置に、前記基準閾値を中心閾値として設定し、
    前記中心閾値の設定位置から合成信号を前記高利得信号と結合すべき高利得信号最端部側結合位置の間に、当該高利得信号最端部側結合位置を含む少なくとも二つの高利得側結合位置を設定するとともに、中心部位置から高利得信号最端部に向かって徐々に大きくなる、設定した前記高利得側結合位置に対応する高利得側ステップ値を設定し、
    前記中心閾値から設定した前記高利得側ステップ値を減算して対応する前記高利得側結合位置の新たな閾値として設定し、当該新たな閾値を適用して前記高利得側結合位置における閾値と前記高利得信号との比較結果に応じて前記合成処理を行う
    請求項7または8記載の固体撮像装置。
  10. 前記信号処理部は、
    前記高利得信号を基準として前記合成処理を行い、
    前記閾値として、
    あらかじめ設定した基準閾値と、
    前記基準閾値と所定のステップ値とを比較演算することで決定した少なくとも一つの新たな閾値と、を前記合成処理に適用することが可能であり、
    前記非飽和領域の中心部位置に、前記基準閾値を中心閾値として設定し、
    前記中心閾値の設定位置から合成信号を前記低利得信号と結合すべき低利得信号最端部側結合位置の間に、当該低利得信号最端部側結合位置を含む少なくとも二つの低利得側結合位置を設定するとともに、中心部位置から低利得信号最端部に向かって徐々に大きくなる、設定した前記低利得側結合位置に対応する低利得側ステップ値を設定し、
    前記中心閾値に設定した前記低利得側ステップ値を加算して対応する前記低利得側結合位置の新たな閾値として設定し、当該新たな閾値を適用して前記低利得側結合位置における閾値と前記高利得信号との比較結果に応じて前記合成処理を行う
    請求項7または8記載の固体撮像装置。
  11. 前記信号処理部は、
    前記高利得信号を基準として前記合成処理を行い、
    前記閾値として、
    あらかじめ設定した基準閾値と、
    前記基準閾値と所定のステップ値とを比較演算することで決定した少なくとも一つの新たな閾値と、を前記合成処理に適用することが可能であり、
    前記非飽和領域の中心部位置に、前記基準閾値を中心閾値として設定し、
    前記中心閾値の設定位置から合成信号を前記高利得信号と結合すべき高利得信号最端部側結合位置の間に、当該高利得信号最端部側結合位置を含む少なくとも二つの高利得側結合位置を設定するとともに、中心部位置から高利得信号最端部に向かって徐々に大きくなる、設定した前記高利得側結合位置に対応する高利得側ステップ値を設定し、
    前記中心閾値の設定位置から合成信号を前記低利得信号と結合すべき低利得信号最端部側結合位置の間に、当該低利得信号最端部側結合位置を含む少なくとも二つの低利得側結合位置を設定するとともに、中心部位置から低利得信号最端部に向かって徐々に大きくなる、設定した前記低利得側結合位置に対応する低利得側ステップ値を設定し、
    前記中心閾値から設定した前記高利得側ステップ値を減算して対応する前記高利得側結合位置の新たな閾値として設定し、当該新たな閾値を適用して前記高利得側結合位置における閾値と前記高利得信号との比較結果に応じて前記合成処理を行い、
    前記中心閾値に設定した前記低利得側ステップ値を加算して対応する前記低利得側結合位置の新たな閾値として設定し、当該新たな閾値を適用して前記低利得側結合位置における閾値と前記高利得信号との比較結果に応じて前記合成処理を行う
    請求項7または8記載の固体撮像装置。
  12. 前記信号処理部は、
    前記高利得側結合位置または低利得側結合位置の閾値と前記高利得信号との比較により選択された前記閾値に挟まれた領域の信号レベルにおいては、当該領域に割り当てられた重み付け値に従って重み付け平均値を算出し、当該重み付け平均値を当該領域の合成信号として出力する
    請求項11記載の固体撮像装置。
  13. 前記信号処理部は、
    前記高利得信号最端部側結合位置の閾値と前記高利得信号との比較の結果、閾値の方が大きい場合は前記高利得信号を合成信号として適用し、
    前記低利得信号最端部側結合位置の閾値と前記高利得信号との比較の結果、閾値の方が小さい場合は前記低利得信号を合成信号として適用する
    請求項11または12記載の固体撮像装置。
  14. 数の読み出し信号の合成をする際に、前記複数の読み出し信号のうちの少なくとも一つの読み出し信号と閾値とを比較する比較工程と、
    比較結果に応じて合成に必要となる信号を少なくとも一つ選択する選択工程と、
    合成処理に選択した信号を適用してダイナミックレンジが拡大された合成信号を生成する生成工程と、を有し、
    前記閾値を動的に変更して前記比較工程、前記選択工程、および前記生成工程の処理を行い、複数の読み出し信号を合成してダイナミックレンジを拡大可能な固体撮像装置の駆動方法であって、
    前記複数の読み出し信号は、
    異なる入射光量で飽和する第1信号と第2信号と、を含み、
    前記比較工程、前記選択工程、および前記生成工程の処理において、
    前記第1信号が飽和する手前であって直線性が保たれている非飽和領域で、前記合成処理により前記第2信号と前記第1信号を合成し、当該合成に際し、
    あらかじめ設定した基準閾値を前記非飽和領域の中心部位置に中心閾値として設定し、
    前記中心閾値が設定された中心部位置から第1信号最端部および第2信号最端部の少なくとも一方に向かって徐々に大きくなる、設定した結合すべき結合位置に対応するステップ値を設定し、
    前記基準閾値としての中心閾値と設定したステップ値とを比較演算することで対応する結合位置の新たな閾値として設定し、当該新たな閾値を適用して前記結合位置における閾値と前記第1信号または第2信号との比較結果に応じて前記合成処理を行う
    固体撮像装置の駆動方法。
  15. 複数の読み出し信号を合成してダイナミックレンジを拡大可能な固体撮像装置と、
    前記固体撮像装置に被写体像を結像する光学系と、を有し、
    前記固体撮像装置は、
    前記複数の読み出し信号の合成をする際に、前記複数の読み出し信号のうちの少なくとも一つの読み出し信号と動的に変更可能な閾値との比較結果に応じて合成に必要となる信号を少なくとも一つ選択し、合成処理に選択した信号を適用してダイナミックレンジが拡大された合成信号を生成する信号処理部を有し、
    前記複数の読み出し信号は、
    異なる入射光量で飽和する第1信号と第2信号と、を含み、
    前記信号処理部は、
    前記第1信号が飽和する手前であって直線性が保たれている非飽和領域で、前記合成処理により前記第2信号と前記第1信号を合成し、当該合成に際し、
    あらかじめ設定した基準閾値を前記非飽和領域の中心部位置に中心閾値として設定し、
    前記中心閾値が設定された中心部位置から第1信号最端部および第2信号最端部の少なくとも一方に向かって徐々に大きくなる、設定した結合すべき結合位置に対応するステップ値を設定し、
    前記基準閾値としての中心閾値と設定したステップ値とを比較演算することで対応する結合位置の新たな閾値として設定し、当該新たな閾値を適用して前記結合位置における閾値と前記第1信号または第2信号との比較結果に応じて前記合成処理を行う
    電子機器。
JP2015253286A 2015-12-25 2015-12-25 固体撮像装置およびその駆動方法、電子機器 Active JP6731725B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2015253286A JP6731725B2 (ja) 2015-12-25 2015-12-25 固体撮像装置およびその駆動方法、電子機器
CN201680074824.0A CN108432238B (zh) 2015-12-25 2016-12-26 固体摄像装置、固体摄像装置的驱动方法以及电子设备
PCT/JP2016/088654 WO2017111154A1 (ja) 2015-12-25 2016-12-26 固体撮像装置、固体撮像装置の駆動方法、および電子機器
US16/065,351 US10735676B2 (en) 2015-12-25 2016-12-26 Solid-state imaging device, method for driving solid-state imaging device and electronic apparatus for extending a dynamic range

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015253286A JP6731725B2 (ja) 2015-12-25 2015-12-25 固体撮像装置およびその駆動方法、電子機器

Publications (2)

Publication Number Publication Date
JP2019054302A JP2019054302A (ja) 2019-04-04
JP6731725B2 true JP6731725B2 (ja) 2020-07-29

Family

ID=59090577

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015253286A Active JP6731725B2 (ja) 2015-12-25 2015-12-25 固体撮像装置およびその駆動方法、電子機器

Country Status (4)

Country Link
US (1) US10735676B2 (ja)
JP (1) JP6731725B2 (ja)
CN (1) CN108432238B (ja)
WO (1) WO2017111154A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10432879B2 (en) * 2018-01-16 2019-10-01 Omnivision Technologies, Inc. Dual conversion gain high dynamic range image sensor readout circuit memory storage structure
KR20210109769A (ko) * 2020-02-28 2021-09-07 삼성전자주식회사 이미지 센서, 이를 포함하는 이미지 처리 시스템 및 이의 구동 방법
KR20220033298A (ko) 2020-09-09 2022-03-16 삼성전자주식회사 이미지 센서
US11889219B2 (en) 2021-11-15 2024-01-30 Samsung Electronics Co., Ltd. Analog-to-digital converting circuit for optimizing power consumption of dual conversion gain operation, operation method thereof, and image sensor including the same
US12063447B2 (en) * 2021-11-25 2024-08-13 Samsung Electronics Co., Ltd. Analog-to-digital converting circuit for optimizing dual conversion gain operation and operation method thereof

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3592106B2 (ja) 1998-11-27 2004-11-24 キヤノン株式会社 固体撮像装置およびカメラ
JP3984814B2 (ja) 2001-10-29 2007-10-03 キヤノン株式会社 撮像素子、その撮像素子を用いた放射線撮像装置及びそれを用いた放射線撮像システム
JP4290066B2 (ja) * 2004-05-20 2009-07-01 キヤノン株式会社 固体撮像装置および撮像システム
JP4127411B1 (ja) * 2007-04-13 2008-07-30 キヤノン株式会社 画像処理装置及び方法
JP4893569B2 (ja) * 2007-09-28 2012-03-07 ソニー株式会社 撮像装置、撮像制御方法及び撮像制御プログラム
JP5609788B2 (ja) * 2011-06-23 2014-10-22 株式会社Jvcケンウッド 画像処理装置及び画像処理方法
EP2538661B1 (en) * 2011-06-23 2014-07-16 JVC KENWOOD Corporation Image processing apparatus and image processing method

Also Published As

Publication number Publication date
JP2019054302A (ja) 2019-04-04
CN108432238A (zh) 2018-08-21
CN108432238B (zh) 2020-11-24
WO2017111154A1 (ja) 2017-06-29
US20190020832A1 (en) 2019-01-17
US10735676B2 (en) 2020-08-04

Similar Documents

Publication Publication Date Title
JP6731725B2 (ja) 固体撮像装置およびその駆動方法、電子機器
TWI394448B (zh) 固態成像裝置,成像裝置及固態成像裝置之驅動方法
KR101473275B1 (ko) 이미지 센서, 전자 기기, 및 전자 기기의 구동 방법
JP5106052B2 (ja) 固体撮像素子、撮像システム、及び固体撮像素子の駆動方法
JP4958602B2 (ja) 撮像装置及びその画像合成方法
US9036052B2 (en) Image pickup apparatus that uses pixels different in sensitivity, method of controlling the same, and storage medium
JP2013066145A (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP2006333035A (ja) 固体撮像装置、固体撮像装置の駆動方法および撮像装置
US20130021510A1 (en) Image pickup apparatus capable of changing operation condition of image sensing device and control method therefor
JP2015109503A (ja) イメージセンサおよびイメージセンサの動作方法、撮像装置、電子機器、並びにプログラム
JP6762806B2 (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP5487845B2 (ja) 撮像素子、駆動制御方法、並びにプログラム
JP2013183380A (ja) 撮像素子、撮像素子の駆動方法及び撮像システム
WO2017115744A1 (ja) 固体撮像装置、固体撮像装置の駆動方法、および電子機器
KR20140107212A (ko) 고체 촬상 소자 및 그 구동 방법, 카메라 시스템
JP2018093301A (ja) 撮像素子及び撮像素子の制御方法
JP6733159B2 (ja) 撮像素子、及び撮像装置
JP6545013B2 (ja) 画像形成方法、画像形成装置、および画像形成プログラム
JP4840992B2 (ja) 光電変換装置及びその制御方法並びに撮像装置
JP2007135073A (ja) 固体撮像装置
US10623642B2 (en) Image capturing apparatus and control method thereof with change, in exposure period for generating frame, of conversion efficiency
JP6967173B1 (ja) 撮像素子及び撮像装置
WO2017119331A1 (ja) 固体撮像装置、固体撮像装置の駆動方法、および電子機器
JP2008091437A (ja) 固体撮像装置
JP2024115947A (ja) 撮像装置及びその制御方法、画像処理装置、プログラム及び記憶媒体

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20160728

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161007

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181221

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190731

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190731

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20190920

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20190920

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191113

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200110

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200610

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200707

R150 Certificate of patent or registration of utility model

Ref document number: 6731725

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250