JPWO2017141847A1 - 固体撮像装置および撮像装置 - Google Patents

固体撮像装置および撮像装置 Download PDF

Info

Publication number
JPWO2017141847A1
JPWO2017141847A1 JP2018500093A JP2018500093A JPWO2017141847A1 JP WO2017141847 A1 JPWO2017141847 A1 JP WO2017141847A1 JP 2018500093 A JP2018500093 A JP 2018500093A JP 2018500093 A JP2018500093 A JP 2018500093A JP WO2017141847 A1 JPWO2017141847 A1 JP WO2017141847A1
Authority
JP
Japan
Prior art keywords
pixel
exposure
imaging device
gain
time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018500093A
Other languages
English (en)
Other versions
JP6937736B2 (ja
Inventor
生熊 誠
誠 生熊
孝廣 室島
孝廣 室島
崇泰 鬼頭
崇泰 鬼頭
裕之 網川
裕之 網川
阿部 哲也
哲也 阿部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Publication of JPWO2017141847A1 publication Critical patent/JPWO2017141847A1/ja
Application granted granted Critical
Publication of JP6937736B2 publication Critical patent/JP6937736B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/62Detection or reduction of noise due to excess charges produced by the exposure, e.g. smear, blooming, ghost image, crosstalk or leakage between pixels
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B26/00Optical devices or arrangements for the control of light using movable or deformable optical elements
    • G02B26/08Optical devices or arrangements for the control of light using movable or deformable optical elements for controlling the direction of light
    • G02B26/10Scanning systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/581Control of the dynamic range involving two or more exposures acquired simultaneously
    • H04N25/585Control of the dynamic range involving two or more exposures acquired simultaneously with pixels having different sensitivities within the sensor, e.g. fast or slow pixels or pixels having different sizes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/587Control of the dynamic range involving two or more exposures acquired sequentially, e.g. using the combination of odd and even image fields
    • H04N25/589Control of the dynamic range involving two or more exposures acquired sequentially, e.g. using the combination of odd and even image fields with different integration times, e.g. short and long exposures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/59Control of the dynamic range by controlling the amount of charge storable in the pixel, e.g. modification of the charge conversion ratio of the floating node capacitance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

固体撮像装置(1)は、複数の画素(3)の各々に、長時間露光させて第一ゲインで電荷を電圧に変換させることにより第一画素信号を出力させ、短時間露光させて第一ゲインより小さい第二ゲインで電荷を電圧に変換させることにより第二画素信号を出力させる制御部(20)と、第一画素信号及び第二画素信号のうち一方の画素信号を、複数の画素(3)の行毎に対応付けて記憶する第2メモリ(80)と、第一画素信号及び第二画素信号のうち他方の画素信号と、第2メモリ(80)に記憶された一方の画素信号とを行毎に対応付けて用いて、入射光の光量に対する増幅後の傾きが第一画素信号と線形になるように第二画素信号を増幅し、第一画素信号と増幅後の第二画素信号とを合成するWDR合成回路(70)とを備える。

Description

本開示は、固体撮像装置および撮像装置に関する。
従来、列並列型AD変換器搭載のCMOS(Complementary Metal Oxide Semiconductor)固体撮像装置では、ダイナミックレンジを拡大するために、例えば、特許文献1に示すような方法が提案されている。特許文献1の方法は、露光時間が長い信号と露光時間の短い信号とを合成することにより、ダイナミックレンジを拡大している。
特開2007−124400号公報
しかしながら、この特許文献1によれば、ダイナミックレンジを拡大することはできるものの、ダーク時の高画質化を図るための技術形態は開示されていない。このため、ダーク時の高画質化とダイナミックレンジの拡大とを両立することができないという問題を有する。
この問題に対して、本開示は、ダーク時の高画質化とダイナミックレンジの拡大とを両立する固体撮像装置および撮像装置を提供する。
上記課題を解決するため本開示における固体撮像装置は、行列状に配置された複数の画素を有する固体撮像装置であって、前記複数の画素の各々は、入射光を光電変換する光電変換部と、光電変換によって生成された電荷を蓄積し、蓄積した電荷を所定のゲインで電圧に変換させる電荷蓄積部とを有し、前記固体撮像装置は、さらに、前記複数の画素の各々に、第一露光モードで露光させて第一ゲインで電荷を電圧に変換させることにより第一画素信号を出力させ、露光時間が前記第一露光モードより短い第二露光モードで露光させて前記第一ゲインより小さい第二ゲインで電荷を電圧に変換させることにより第二画素信号を出力させる制御部と、前記第一画素信号及び前記第二画素信号のうち一方の画素信号を、前記複数の画素の行毎に対応付けて記憶する記憶部と、前記第一画素信号及び前記第二画素信号のうち他方の画素信号と、前記記憶部に記憶された前記一方の画素信号とを行毎に対応付けて用いて、前記入射光の光量に対する増幅後の傾きが前記第一画素信号と線形になるように前記第二画素信号を増幅し、前記第一画素信号と増幅後の前記第二画素信号とを合成する信号処理部とを備えることを特徴とする。
本開示の固体撮像装置および撮像装置によれば、ダーク時の高画質化とダイナミックレンジの拡大とを両立することができる。
図1Aは、実施の形態に係る固体撮像装置の構成例を示すブロック図である。 図1Bは、実施の形態に係る固体撮像装置の他の構成例を示すブロック図である。 図2Aは、画素の構成を示す回路図である。 図2Bは、画素の動作を示すタイミングチャートである。 図3は、固体撮像装置の複数フレーム期間の動作例を示すタイミングチャートである。 図4は、固体撮像装置の1/2水平走査期間の動作例を示すタイミングチャートである。 図5は、固体撮像装置の電子シャッター動作および読み出し動作を示すタイミングチャートである。 図6は、ワイドダイナミックレンジの合成方法を概念的に示す図である。 図7は、長時間露光の画像と短時間露光の画像とを合成して、1つの画像を得る処理を概念的に示す図である。 図8Aは、実施の形態1の変形例1に係る画素の構成を示す回路図である。 図8Bは、画素の動作を示すタイミングチャートである。 図9は、実施の形態1の変形例2に係る固体撮像装置の電子シャッター動作および読み出し動作を示すタイミングチャートである。 図10Aは、実施の形態2に係る固体撮像装置の構成例を示すブロック図である。 図10Bは、実施の形態2に係る固体撮像装置の他の構成例を示すブロック図である。 図11は、画素アレイ部の一部の配列を示す図である。 図12は、実施の形態2に係る固体撮像装置の電子シャッター動作および読み出し動作を示すタイミングチャートである。 図13は、長時間露光の画像と短時間露光の画像とを合成して、1つの画像を得る処理を概念的に示す図である。 図14は、画素アレイ部の変形例の一部の配列を示す図である。 図15は、実施の形態1に係る固体撮像装置を備えたカメラの構成の一例を示すブロック図である。
(本開示に至った経緯)
本発明者らは、ダイナミックレンジを拡大する方法としては、従来の固体撮像装置に開示された方法とは別に、画素内でFD変換ゲイン(すなわち、FD(Floating Diffusion)での電荷電圧変換ゲイン)を切替える技術があることに気付いた。
このような方法によれば、例えば明時においては、FD変換ゲインを低く設定することにより、フォトダイオードの電荷が飽和レベルに達した状態においてもFD部の電圧が飽和しないようにしている。つまり、明るい被写体に対しては、FD変換ゲインを低くすることにより、被写体に応じた階調を正確に再現して白とびのない画像の出力を可能にする(ダイナミックレンジの拡大)。
一方、例えばダーク時においては、FD変換ゲインを高く設定することにより、画素増幅トランジスタやアナログ回路で発生するノイズに対して受光量に応じた電圧(画素信号)が大きくなるようにしている。つまり、暗い被写体に対しては、FD変換ゲインを高くすることにより、SN(Signal to Noise ratio)の高い高画質の画像の出力を可能にしている。
そこで、本発明者らは、露光時間の長い信号と露光時間の短い信号とを合成してダイナミックレンジを拡大する方法に、FD変換ゲインを切り替える方法を組み合わせることにより、ダーク時の高画質化とダイナミックレンジの拡大とを両立する固体撮像装置等を想到するに至った。
以下、本開示を実施するための形態に係る固体撮像装置を、図面を参照しながら説明する。
但し、必要以上に詳細な説明は省略する場合がある。
例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。なお、添付図面および以下の説明は当業者が本開示を十分に理解するためのものであって、これらによって請求の範囲に記載の主題を限定することを意図するものではない。つまり、以下の実施の形態は、いずれも本発明の一具体例を示すものであり、数値、形状、構成要素、構成要素の配置位置および接続形態、処理の順序などは、一例であり、本発明を限定するものではない。
(実施の形態1)
まず、本実施の形態における固体撮像装置の概要について説明する。
本実施の形態における固体撮像装置は、画素内でFD変換ゲインを切替える技術を備え、ワイドダイナミック動作での長時間露光時にはFD変換ゲインを高くしてノイズを良くし、短時間露光時にはFD変換ゲインを低くしてダイナミックレンジを拡大する固体撮像装置について説明する。これにより、固体撮像装置は、ダーク時の高画質化とダイナミックレンジの拡大とを両立する。
[1.固体撮像装置の構成]
図1Aは、本実施の形態に係る固体撮像装置1の構成例を示すブロック図である。同図に示すように、固体撮像装置1は、画素アレイ部10、水平走査回路12、垂直走査回路14、複数の垂直信号線19、制御部20、カラム処理部26、参照信号生成部27、出力回路28、複数のロード電流源30、WDR合成回路70および第2メモリ(一例として、ラインメモリ)80を備える。また、固体撮像装置1には、外部からマスタークロック信号の入力を受けるMCLK端子、外部との間でコマンドまたはデータを送受信するためのDATA端子、外部へ映像データを送信するためのD1端子等、および、これら以外にも電源電圧、グラウンド電圧が供給される端子類が設けられている。
画素アレイ部10は、行列状に配置された複数の画素3(単位セルとも称する)を有する。複数の画素3は、図1Aではn行m列(nおよびmは自然数)に配置されている。画素3の詳細については後述するが、画素ゲイン(FD変換ゲイン)を切り替える機能を有し、制御部20の制御に基づき、露光時間に応じてFD変換ゲインを切り替える。
水平走査回路12は、カラム処理部26を構成する複数のカラムAD回路25内のメモリ256(第1メモリ)を順に走査することにより、AD変換された画素信号を水平信号線18を介してWDR(ワイドダイナミックレンジ)合成回路70または第2メモリ80に出力する。
垂直走査回路14は、画素アレイ部10内の画素3の行毎に設けられた水平走査線群15(行制御線群とも呼ぶ)を行単位に走査する。これにより、垂直走査回路14は、画素3を行単位に選択し、選択した行に属する画素3から画素信号をm本の垂直信号線19に同時に出力させる。水平走査線群15は、画素3の行と同数設けられる。図1Aでは、n個の水平走査線群15(図1AではV1、V2、・・・、Vn)が設けられている。水平走査線群15のそれぞれは、リセット制御信号φRSを印加するリセット制御線、読み出し制御信号φTRを印加する読み出し制御線、選択制御信号φSELを印加する選択制御線、および、FD変換ゲイン制御信号φGCを印加するFD変換ゲイン制御線を含む。
垂直信号線19は、画素アレイ部10内の画素3の列毎に設けられ、選択された画素行に属する画素3からの画素信号をカラム処理部26に伝達する。画素アレイ部10には、H0〜Hmのm本の垂直信号線19が配置されている。なお、垂直信号線19のうちの下流側の部分、つまりカラム処理部26を構成するカラムAD回路25のマイナス入力端子に接続される部分をADC入力線40と呼ぶ。つまり、画素アレイ部10とカラム処理部26との間には、ADIN0〜ADINmのm本のADC入力線40が配置されている。
制御部20は、種々の制御信号群を生成することにより、固体撮像装置1の全体を制御する。種々の制御信号群には、制御信号CN1、CN2、CN5、CN8、CN10およびカウントクロックCK0が含まれる。例えば、制御部20は、固体撮像装置1の外部のDSP(Digital Signal Processor)45から、端子5aを介してマスタークロックMCLKを受け取り、種々の内部クロックを生成し水平走査回路12や垂直走査回路14などを制御する。また、例えば、制御部20は、DSP45と、端子5bを介して各種のデータを受け取り、このデータに基づき、種々の制御信号群を生成する。なお、DSP45は固体撮像装置1に内蔵されても良い。
カラム処理部26は、列毎に設けられたカラムAD回路25を備える。各カラムAD回路25は、垂直信号線19からの画素信号をAD変換する。
カラムAD回路25は、電圧比較器252、カウンタ部254、およびメモリ256を備える。
電圧比較器252は、垂直信号線19から伝達されたアナログの画素信号と、参照信号生成部27で生成される、三角波を含む参照信号RAMPとを比較し、例えば、前者が後者より大きくなった時に比較結果を示す出力信号を反転する。
カウンタ部254は、参照信号RAMP中の三角波の変化開始から電圧比較器252の出力信号が反転するまでの時間をカウントする。反転するまでの時間は、アナログ画素信号の値に応じて定まるので、カウント値はデジタル化された画素信号の値になる。
メモリ256は、カウンタ部254のカウント値つまりデジタルの画素信号を保持する。
参照信号生成部27は、三角波を含む参照信号RAMPを生成し、各カラムAD回路25内の電圧比較器252のプラス入力端子に参照信号RAMPを出力する。
WDR合成回路70は、互いに露光時間の異なるデジタルの画素信号であって、水平信号線18を介して入力されたデジタルの画素信号と、第2メモリ80に保持されたデジタルの画素信号とを取得する。そして、取得した2つの画素信号を合成して、合成後の画素信号を、出力信号線17を介して出力回路28に出力する。なお、WDR合成回路70の詳細については後述する。
第2メモリ80は、水平信号線18を介して入力されたデジタルの画素信号を、画素アレイ部10の行毎に対応付けて記憶する記憶部である。
出力回路28は、WDR合成回路70から出力された画素信号を固体撮像装置1の外部出力に適した信号に変換して、映像データ端子D1に出力する。
ロード電流源30は、垂直信号線19毎に設けられ、垂直信号線19に負荷電流を供給する負荷回路である。つまり、ロード電流源30は、選択された画素3内の増幅トランジスタに垂直信号線19を介して負荷電流を供給し、当該増幅トランジスタと共にソースフォロア回路を形成する。
このような固体撮像装置1は、例えば、1つの半導体チップに形成される。なお、固体撮像装置1は、複数の半導体チップ(例えば、2つの半導体チップ)に形成されてもよい。図1Bは、このような固体撮像装置1の構成例を示すブロック図である。図1Bに示すように、本実施の形態に係る固体撮像装置1は、少なくとも複数の画素3が第1の半導体チップ101に形成され、少なくとも第2メモリ80とWDR合成回路70が第1の半導体チップ101と別の半導体チップである第2の半導体チップ102に形成されるようにしてもよい。
[2.画素の構成および動作概要]
次に、FDゲイン切替機能を有する画素3の構成、および、動作の概要について、図2Aおよび図2Bを用いて説明する。
図2Aは、画素3の構成を示す回路図である。図2Bは、画素3の動作を示すタイミングチャートである。
図2Aに示すように、各画素3は、受光素子(光電変換部)であるフォトダイオードPDと、読み出しトランジスタT10と、浮遊拡散層FDと、リセットトランジスタT11と、増幅トランジスタT12と、選択トランジスタT13と、ゲイン制御スイッチ素子SW10と、付加容量Cfd2とを有する。
フォトダイオードPDは、入射光を光電変換する光電変換部であり、受光量(入射光)に応じた電荷を生成する。
読み出しトランジスタT10は、読み出し制御線を介して印加される読み出し制御信号φTRによって制御され、フォトダイオードPDで生成された信号を読み出す(すなわち転送する)スイッチ素子である。
浮遊拡散層FDは、光電変換によって生成された電荷を蓄積し、蓄積した電荷を所定のゲインで電圧に変換させる電荷蓄積部である。具体的には、浮遊拡散層FDは、読み出しトランジスタT10によって読み出された電荷を一時的に保持する。
リセットトランジスタT11は、浮遊拡散層FDの電圧を電源電圧にリセットするリセットスイッチ素子であり、一端が浮遊拡散層FDに接続され、他端に電源配線51が接続される。リセットトランジスタT11は、リセット制御線を介して印加されるリセット制御信号φRSによって制御される。
増幅トランジスタT12は、浮遊拡散層FDに保持された電荷に対応する電圧を増幅し、当該増幅した信号を画素信号として選択トランジスタT13を介して垂直信号線19に出力するトランジスタである。
選択トランジスタT13は、選択制御線を介して印加される選択制御信号φSELによって制御され、増幅トランジスタT12の画素信号を垂直信号線19に出力するか否かを選択するトランジスタである。
ゲイン制御スイッチ素子SW10は、浮遊拡散層FDに接続され、FD変換ゲイン制御線を介して印加されるFD変換ゲイン制御信号φGCによって導通状態(オン状態)と非導通状態(オフ状態)とが切り替えられる、例えばトランジスタである。本実施の形態では、ゲイン制御スイッチ素子SW10は、FD変換ゲイン制御信号φGCがHighのときにオン状態となり、Lowのときにオフ状態となる。
付加容量Cfd2は、ゲイン制御スイッチ素子SW10を介して浮遊拡散層FDに接続される容量である。
このように構成された画素3では、図2Bに示すような動作によって、画素信号を垂直信号線19に出力する。なお、図2Bに示す動作の詳細については、図4の説明と併せて後述するため、ここでは、画素3内でFD変換ゲインを切り替える動作について主に説明する。
画素3における電荷から電圧への変換ゲイン(画素ゲイン)は、浮遊拡散層FDの容量の逆数に比例し、FD変換ゲインと称される。つまり、FD変換ゲインは、FD変換ゲイン制御信号φGCの極性によってゲイン制御スイッチ素子SW10のオン状態とオフ状態とが切り替わることにより、切り替えられる。具体的には、図2Bに示すように、読み出し時(図中の時刻t16)にφGC=Lowのときは、ゲイン制御スイッチ素子SW10がオフ状態となることにより浮遊拡散層FDの容量がCfdとなる。よって、このとき、FD変換ゲインは高くなる。一方、読み出し時にφGC=Highのときは、ゲイン制御スイッチ素子SW10がオン状態となることにより浮遊拡散層FDの容量がCfd+Cfd2となる。よって、このとき、FD変換ゲインは低くなる。
言い換えると、制御部20は、ゲイン制御スイッチ素子SW10をオフ状態とすることにより、第一ゲイン(GH)で電荷を電圧に変換させ、ゲイン制御スイッチ素子SW10をオン状態とすることにより、第二ゲイン(GL、ただしGL<GH)で電荷を電圧に変換させる。具体的には、制御部20によって画素アレイ部10を走査する垂直走査回路14は、FD変換ゲインが低い場合、選択制御信号φSELをHighレベルとする期間、FD変換ゲイン制御信号φGCをHighレベルとする。一方、垂直走査回路14は、FD変換ゲインが高い場合、上記の期間、FD変換ゲイン制御信号φGCをLowレベルとする。
[3.固体撮像装置の動作]
以上のように構成された実施の形態1における固体撮像装置1について、以下その動作を説明する。
図3は、固体撮像装置1の複数フレーム期間の動作例を示すタイミングチャートである。同図では、第kフレームから第k+2フレームまでの参照信号RAMPの波形を模式的に表している。1フレームは、n行m列の画素3からなる画素アレイ部10の第1行から第n行に対応するn個の水平走査期間(同図中の1/2Hの期間)からなる。
図4は、固体撮像装置1の1/2水平走査期間の動作例を示すタイミングチャートである。
1/2水平走査期間のそれぞれにおいて参照信号RAMPは、図3および図4に示すようにダウンカウント期間およびアップカウント期間のそれぞれにおいて三角波となる。ただし、好適には、長時間露光時には参照信号RAMPの傾斜を緩くしてアナログゲインを高めてノイズを良くして、短時間露光時には参照信号RAMPの傾斜を急にしてアナログゲインを低くしてダイナミックレンジを十分に確保する。
ダウンカウント期間は、増幅トランジスタT12から出力されるリセット成分Vrstのレベルを示すリセット用の画素信号をAD変換するための期間である。ダウンカウント期間の開始(三角波の変化開始)から電圧比較器252の出力が反転するまでの時間がカウンタ部254によりダウンカウントされる。このカウント値はアナログのリセット成分VrstのAD変換結果そのものである。
アップカウント期間は、増幅トランジスタT12から出力される、データ成分(信号成分Vsig+リセット成分Vrst)のレベルを示すデータ用の画素信号をAD変換するための期間である。アップカウント期間の開始(三角波の変化開始)から電圧比較器252の出力が反転するまでの時間がカウンタ部254によりアップカウントされる。このアップカウントは、アナログのデータ成分(Vsig+Vrst)をデジタル値に変換する。このアップカウントは、リセット成分Vrstを示すダウンカウント値を初期値とするので、アップカウント期間の終了時のカウント値は、データ成分(Vsig+Vrst)からリセット成分Vrstを減算するCDS(Correlated Double Sampling:相関二重検出)の結果を表す。つまり、アップカウント期間の終了時のカウント値は、信号成分Vsigそのものとなる。このように、カラムAD回路25は、誤差となる各列のクロックスキューやカウンタディレイ等のばらつきを排除して、真の信号成分Vsigのみを取り出す、つまり、デジタルCDSを行う。
その後、1/2水平走査期間に露光時間の頃なる画素の信号を同様なシーケンスで読み出す動作を行い、1水平走査期間の画像が得られる。
このような1/2水平走査期間の動作、そして、1水平走査期間の動作をn行に対して順次行うことにより1フレームの画像が得られる。
なお、例えば、露光時間の異なる画像の枚数をn枚とすれば、1/n水平走査期間ごとに露光時間の頃なる画素の信号を同様なシーケンスで読み出す動作を行い、この動作をn回行うことにより、1水平走査期間の画像が得られることになる。
ここで、固体撮像装置1のCDSの動作について、図4を参照して説明する。
まず、1回目の読み出しのため、制御部20は、カウンタ部254のカウント値を設定された初期値にリセットさせるとともに、カウンタ部254をダウンカウントモードに設定する。ここで、カウント値の初期値は“0”であっても、任意の値であってもよいものとする。
次に、時刻t4において、垂直走査回路14は、選択制御線に印加するφSELをHighレベルとし、画素3の選択トランジスタT13をオン状態とする。これにより、選択された画素行Vxが選択されることになる。
また、時刻t4において、垂直走査回路14は、読み出し制御線に印加するφTRをLowレベルとし読み出しトランジスタT10をオフとした状態で、リセット制御線に印加するφRSをHighレベルとしリセットトランジスタT11をオン状態とする。これにより、各画素3の浮遊拡散層FDの電圧が電源電圧にリセットされる。
次に、一定時間が過ぎてから浮遊拡散層FDの電圧がリセットされた時刻t5において、垂直走査回路14は、リセット制御信号φRSをLowレベルとしリセットトランジスタT11をオフ状態とする。
このとき、各画素3の浮遊拡散層FDの電圧が増幅トランジスタT12によって増幅され、リセット成分Vrstが垂直信号線19を介して読み出される。このリセット成分Vrstには、電源電圧からの電源変動成分が重畳されている。リセット成分Vrstのダウンカウント時には、制御部20は、参照信号生成部27に対して、参照信号RAMPを生成するための制御信号CN4を供給する。これを受けて、参照信号生成部27は、電圧比較器252の一方の入力端子(+)への比較電圧として、ランプ状に時間変化させた三角波を有する参照信号RAMPを出力する。
電圧比較器252は、時刻t10〜時刻t14において、参照信号RAMPの電圧と、各列のADC入力線40(ADINx)により伝達されるリセット成分(Vrst)を示す電圧とを比較する。
また、電圧比較器252の入力端子(+)への参照信号RAMPの三角波の変化開始(時刻t10)と同時に、1回目のカウント動作として、設定された初期値からダウンカウントを開始する。具体的には、電圧比較器252における比較時間を、列ごとに配置されたカウンタ部254で計測するために、参照信号生成部27から発せられるランプ波形電圧に同期して(時刻t10)、制御部20からカウンタ部254のクロック端子にカウントクロックCK0を入力し、1回目のカウント動作として、設定された初期値からダウンカウントを開始する。
また、電圧比較器252は、時刻t10〜時刻t14において、参照信号生成部27からの参照信号RAMPとADC入力線40により伝達されるVx行のリセット成分の電圧(Vrst)とを比較し、双方の電圧が同じになったときに、電圧比較器252の出力をHレベルからLレベルへ反転させる(時刻t12)。つまり、リセット成分Vrstに応じた電圧と参照信号RAMPを比較して、リセット成分Vrstの大きさに対応した時間軸方向の大きさをカウントクロックCK0でカウント(計数)することで、リセット成分Vrstの大きさに対応したカウント値を得る。言い換えれば、カウンタ部254は、参照信号RAMP中の三角波形の変化の開始時点をカウンタ部254のダウンカウント開始時点として、電圧比較器252の出力が反転するまでダウンカウントすることにより、リセット成分Vrstの大きさに対応したカウント値を得る。
また、制御部20は、所定のダウンカウント期間を経過すると(時刻t14)、電圧比較器252への制御データの供給と、カウンタ部254へのカウントクロックCK0の供給とを停止する。これにより、電圧比較器252は、参照信号RAMPの三角波生成を停止する。
この1回目の読み出し時は、選択されたVx行の画素信号電圧におけるリセット成分Vrstを電圧比較器252で検知してカウント動作を行っているので、画素3のリセット成分Vrstを読み出していることになる。
このように、カラムAD回路25は、垂直信号線19の出力信号を、CDSにより読み取る(時刻t14)。
なお、電源変動成分がマイナスであってもリセット成分Vrstを検出できるように参照信号のオフセット値(時刻t10)を設定してもよい。
次に、画素信号のリセット成分のAD変換が終了すると、続いて2回目の画素信号の読み出し動作を開始する。また、2回目の読み出し時には、リセット成分Vrstに加えて、画素3ごとの入射光量に応じた信号成分Vsigを読み出す動作を行う。1回目の読み出しと異なる点は、カウンタ部254をアップカウントモードに設定する点である。
具体的には、時刻t16において、垂直走査回路14は、読み出し制御信号φTRをHighレベルとし読み出しトランジスタT10をオン状態とする。これにより、フォトダイオードPDに蓄積された全ての光電荷は、浮遊拡散層FDに伝達される。その後、垂直走査回路14は、読み出し制御信号φTRをLowレベルとし読み出しトランジスタT10をオフ状態とする。
そして、増幅トランジスタT12のデータ成分(Vrst+Vsig)が垂直信号線19を介して読み出される。
このときも上記1回目の読み出し時と同様に、電源電圧の電源変動成分が垂直信号線19に重畳される。この状態で、カウンタ部254はアップカウントする。
このアップカウント時には、参照信号生成部27によりランプ状となるように階段状に時間変化させた参照信号RAMPが、各列のADC入力線40を介して電圧比較器252の一方の入力端子(+)に入力され、選択された画素行Vxの画素信号成分の電圧との比較を電圧比較器252にて行う。
このとき、電圧比較器252の一方の入力端子(+)への参照信号RAMPの入力と同時に、電圧比較器252における比較時間を、カウンタ部254を利用して計測するために、参照信号生成部27から発せられるランプ波形電圧に同期して(時刻t20)、カウンタ部254は、2回目のカウント動作として、ダウンカウントが停止したカウント値から、アップカウントを開始する。
また、電圧比較器252は、上記双方の電圧が同じになったときに、コンパレータ出力をHレベルからLレベルへ反転させる(時刻t23)。
このように、カラムAD回路25は、垂直信号線19の出力信号をCDSにより読み取る(時刻t24)。
つまり、時刻t20〜時刻t24では、データ成分(Vrst+Vsig)に応じた電圧信号と参照信号RAMPとを比較して、信号成分Vsigの大きさに対応した時間軸方向の大きさをカウントクロックCK0でカウント(計数)することで、信号成分Vsigの大きさに対応したカウント値を得ることができる。言い換えれば、カウンタ部254は、参照信号RAMP中の三角波の変化の開始時点をカウンタ部254のアップカウント開始時点として、電圧比較器252の出力が反転するまでアップカウントすることにより、データ成分(Vrst+Vsig)の大きさに対応したカウント値を得る。
このように、デジタルCDSにより、例えば、カウンタ部254の設定を、リセット成分(Vrst)を読み出すときにはダウンカウント、データ成分(VRSt+Vsig)を読み出すときにはアップカウントとする。これにより、カウンタ部254内で自動的に減算が行われ、信号成分Vsigに相当するカウント値を得ることができる。
AD変換されたデータ(信号成分Vsig)はメモリ256に保持される。つまり、カウンタ部254の動作前(時刻t3)に、制御部20からのメモリ転送指示パルスである制御信号CN8に基づき、前行のVx−1のカウント結果がメモリ256に転送される。
以上より、カラムAD回路25は全ての画素行Vxの画素読み出し時に対してデジタルCDSを実行する。
つまり、本実施の形態に係る固体撮像装置1では、図4に示すように各画素行Vxの画素3の読み出しを行う1/2水平走査期間は、AD変換するダウンカウント期間とアップカウント期間とで構成される。
[4.電子シャッターと読み出し走査]
次に図5を用いて、実施の形態1における電子シャッターと読み出し走査について説明する。図5は、実施の形態1に係る固体撮像装置1の電子シャッター動作および読み出し動作を示すタイミングチャートである。
なお、同図には、ダーク時における電子シャッター動作が示されている。具体的には、固体撮像装置1は、ダーク時には、長時間露光で画素3が飽和しない範囲で露光時間を最大限に長くする。図5では簡易的に画素アレイ部10の行数を0行〜9行の合計10行として示しており、長時間露光の露光時間を6Hとして、短時間露光の露光時間を2Hとしている。
長時間露光のシャッター動作は、0行目に対しては期間t4で実施して、1行目に対しては期間t5で実施して、というように行順次に行い、9行目に対しては期間t3で実施する。つまり、長時間露光のシャッター動作は、露光時間が所定期間(ここでは6H)となるように、長時間露光の読み出し動作の当該所定期間前のタイミングで実施する。
長時間露光の読み出し動作は、φGC=LowとしてFD変換ゲインをGHとした状態で実施する。具体的には、長時間露光の露光時間を6Hとした場合は、0行目に対しては期間t0で実施して、1行目に対しては期間t1で実施して、というように行順次に行い、9行目に対しては期間t9で実施する。
短時間露光のシャッター動作は、0行目に対しては期間t8で実施して、1行目に対しては期間t9で実施して、というように行順次に行い、9行目に対しては期間t7で実施する。つまり、短時間露光のシャッター動作は、露光時間が所定期間(ここでは2H)となるように、短時間露光の読み出し動作の当該所定期間前のタイミングで実施する。
短時間露光の読み出し動作は、φGC=HighとしてFD変換ゲインをGLとした状態で実施する。具体的には、短時間露光の露光時間を2Hとした場合は、0行目に対しては期間t3で実施して、1行目に対しては期間t4で実施して、というように行順次に行い、9行目に対しては期間t2で実施する。
これら長時間露光の読み出し動作と短時間露光の読み出し動作とは、次のように1水平走査期間の間に実施される。具体的には、本実施の形態では、1水平走査期間の前半に長時間露光の読み出し動作が実施され、1水平走査期間の後半に短時間露光の読み出し動作が実施される。
例えば、期間t0では、長時間露光の0行目のデータをFD変換ゲインをGHとした状態で1/2水平走査期間で読み出し、続けて、短時間露光の7行目のデータをFD変換ゲインをGLとした状態で1/2水平走査期間で読み出す。期間t1以降、このような長時間露光の読み出し動作と短時間露光の読み出し動作とを行順次に行う。最後に、期間t9では、長時間露光の9行目のデータをFD変換ゲインをGHとした状態で1/2水平走査期間で読み出し、続けて、短時間露光の6行目のデータをFD変換ゲインをGLとした状態で1/2水平走査期間で読み出す。
このようにして、1垂直走査期間の動作が完了する。つまり、各画素3は、1垂直走査期間の間に、長時間露光のデータ(第一画素信号)および短時間露光のデータ(第二画素信号)の各々が読み出されることになる。
このような電子シャッターの動作および読み出し走査は、制御部20の制御に基づいて垂直走査回路14が画素アレイ部10を走査することによる。すなわち、制御部20は、画素3に、長時間露光時にはFD変換ゲインを高くさせ、短時間露光時にはFD変換ゲインを低くさせる。具体的には、制御部20は、複数の画素3の各々に、長時間露光(第一露光モードで露光)させてGH(第一ゲイン)で電荷を電圧に変換させることにより長時間露光のデータ(第一画素信号)を出力させる。また、制御部20は、複数の画素3の各々に、短時間露光(露光時間が第一露光モードより短い第二露光モードで露光)させてGL(第二ゲイン、ただしGL<GH)で電荷を電圧に変換させることにより短時間露光のデータ(第二画素信号)を出力させる。
このようにして出力された長時間露光のデータおよび短時間露光のデータは、WDR合成回路70によって合成される(いわゆるワイドダイナミックレンジ合成)。そこで、以下、WDR合成回路70に関する事項について、詳細に説明する。
[5.ワイドダイナミックレンジの合成方法]
図6は、図5の期間t3における、ワイドダイナミックレンジの合成方法を概念的に示す図である。この期間t3においては、図5に示すように、0行目では短時間露光のデータの読み出し動作を行い、2行目では短時間露光のシャッター動作を行っている。また、3行目では長時間露光のデータの読み出し動作を行い、9行目では長時間露光のシャッター動作を行っている。
また、第2メモリ80には、この期間t3においては、期間t0〜t3までの間に読み出した0行目〜3行目までの長時間露光のデータが格納されている。
WDR合成回路70は、図6に示すように、ゲイン調整回路71と合成回路72とを有し、次のように動作する。まず、ゲイン調整回路71において、短時間露光のデータと長時間露光のデータとが線形的につながるように増幅する。そして、合成回路72において、長時間露光のデータと短時間露光のデータとを合成する処理を行う。その後に、WDR合成回路70はホワイトバランスの処理を行う。
このように、WDR合成回路70は、長時間露光のデータ(第一画素信号)および短時間露光のデータ(第二画素信号)を用いて信号処理する信号処理部である。具体的には、WDR合成回路70は、長時間露光のデータおよび短時間露光のデータのうち短時間露光のデータ(他方の画素信号)と、第2メモリ80(記憶部)に記憶された長時間露光のデータ(一方の画素信号)とを行毎に対応付けて用いる。そして、WDR合成回路70は、入射光の光量に対する増幅後の傾きが長時間露光のデータと線形になるように短時間露光のデータを増幅し、長時間露光のデータと増幅後の短時間露光のデータとを合成する。
具体的には、WDR合成回路70は、GL(第二ゲイン、すなわち短時間露光時のFD変換ゲイン)に対するGH(第一ゲイン、すなわち長時間露光時のFD変換ゲイン)のゲイン比GH/GL、および、短時間露光に対する長時間露光の露光時間比(第二露光モードに対する第一露光モードの露光時間比)に対応する増幅率で、短時間露光のデータを増幅する。
このように構成された本実施の形態に係る固体撮像装置1は、FD変換ゲインを切り替えずに露光時間の異なる複数の画像を合成する従来の固体撮像装置に比べて、ダーク時の高画質化とダイナミックレンジの拡大とを両立することができる。このことの理解を容易にするために、図7を用いて、従来の固体撮像装置(図中の比較例)と比べながら説明する。
図7は、長時間露光の画像と短時間露光の画像とを合成して、1つの画像を得る処理を概念的に示す図である。
ここでは、長時間露光の露光時間をEL、短時間露光の露光時間をES、高いFD変換ゲイン(長時間露光時のFD変換ゲイン)をGH(第一ゲイン)、低いFD変換ゲイン(短時間露光時のFD変換ゲイン)をGL(第二ゲイン)としている。
また、ダーク時から明時まで、長時間露光と短時間露光との露光時間の比率は同一としている。つまり、ダーク時は、比率を維持した状態で、画素3が飽和しない範囲で長時間露光の露光時間を最大限に長くする。一方、明時は、比率を維持した状態で、画素3が飽和しない範囲で短時間露光の露光時間を最大限に長く設定している。
従来の固体撮像装置では、ダイナミックレンジを拡大するために、短時間露光の出力レベルを、短時間露光に対する長時間露光の露光時間比だけ増幅(Gain1=EL/ES)させる。そして、長時間露光で画素飽和する光量L1以上を、増幅後の短時間露光の出力レベルで線形補正することにより、短時間露光の画像と長時間露光の画像とを合成する。
これに対して、本実施の形態に係る固体撮像装置1では、長時間露光の読み出し時には、FD変換ゲインを高くしている。具体的には、長時間露光の読み出し時は短時間露光の読み出し時に比べて、FD変換ゲインを増幅(Gain2=GH/GL)している。このため、ダイナミックレンジを拡大するために、短時間露光の出力レベルを、短時間露光に対する長時間露光の露光時間比およびこのときのFDゲイン比だけ増幅(Gain1×Gain2)させる。そして、長時間露光で画素飽和する光量L2以上を、増幅後の短時間露光の出力レベルで線形補正することにより、短時間露光の画像と長時間露光の画像とを合成する。
これにより、本実施の形態に係る固体撮像装置1によれば、従来の固体撮像装置と同様に、フォトダイオードPDの受光量が多い場合、すなわち明るい被写体に対応する場合であっても、飽和していない短時間露光のデータを用いて画像を生成できる。つまり、飽和レベルに達していないデータを用いて画像を生成するため、正確な階調表現を得ることができる。よって、ダイナミックレンジを拡大することができる。
一方、本実施の形態に係る固体撮像装置1によれば、従来の固体撮像装置に比べ、フォトダイオードPDの受光量が少ない場合、すなわち暗い被写体に対応する場合、FD変換ゲインを高くしていることにより、SNの高い高画質の画像を生成することができる。よって、高画質化を図ることができる。また、この場合、FD変換ゲインを高くしていることにより、受光量に対する分解能を向上させることができる。つまり、高精細な階調表現を得ることができる。
したがって、本実施の形態に係る固体撮像装置1によれば、明るい部分と暗い部分とが混在するような被写体を撮影した場合、各画素3に対応する出力信号として、次のような信号を用いて、1つの画像を生成する。すなわち、複数の画素3のうち明るい部分に対応する画素3については、増幅後の短時間露光の画像データを用いる。一方、複数の画素3のうち暗い部分に対応する画素3については、長時間露光の画像データを用いる。これにより、明るい部分と暗い部分とが混在するような被写体を撮影しても、明るい部分での白とびの発生を抑制しつつ、暗い部分の画質が良好な画像を得ることができる。
つまり、本実施の形態に係る固体撮像装置1によれば、複数の画素3の各々に、長時間露光させて第一ゲイン(GH)で電荷を電圧に変換させることにより長時間露光のデータを出力させ、短時間露光させて第二ゲイン(GL、ただしGL<GH)で電荷を電圧に変換させることにより短時間露光のデータを出力させる。そして、WDR合成回路70は、入射光の光量に対する増幅後の傾きが長時間露光のデータと線形になるように短時間露光のデータを増幅し、長時間露光のデータと増幅後の短時間露光のデータとを合成する。
これにより、ダーク時の高画質化とダイナミックレンジの拡大とを両立することができる。
(実施の形態1の変形例1)
なお、FDゲイン切替機能を有する画素は、実施の形態1で説明した構成に限らない。
図8Aは、実施の形態1の変形例1に係る画素3Aの構成を示す回路図である。図8Bは、画素3Aの動作を示すタイミングチャートである。
これらの図に示す画素3Aの構成および動作は、図2Aに示す画素3に比べて、ゲイン制御スイッチ素子SW10および付加容量Cfd2に関する事項が異なる。
具体的には、ゲイン制御スイッチ素子SW10は、リセットトランジスタT11を介して浮遊拡散層FDに接続される。
付加容量Cfd2は、リセットトランジスタT11とゲイン制御スイッチ素子SW10との間のノードに接続される。
このように構成された画素3Aであっても、実施の形態1の画素3と同様に、FD変換ゲインを切り替えることができる。
つまり、FD変換ゲインは、リセット制御信号φRSの極性によってリセットトランジスタT11のオン状態とオフ状態とが切り替わることにより、切り替えられる。具体的には、図8Bに示すように、読み出し時(図中の時刻t16)にφRS=Lowのときは、リセットトランジスタT11がオフしていることにより浮遊拡散層FDの容量がCfdとなるため、FD変換ゲインが高くなる。逆に、読み出し時にφRS=Highのときは、リセットトランジスタT11がオン状態となることにより浮遊拡散層FDの容量がCfd+Cfd2となるため、FD変換ゲインが低くなる。
言い換えると、制御部20は、リセットトランジスタT11をオフ状態とすることにより、浮遊拡散層FDに第一ゲイン(GH)で電荷を電圧に変換させる。一方、制御部20は、リセットトランジスタT11をオン状態かつゲイン制御スイッチ素子SW10をオフ状態とすることにより、第二ゲイン(GL、ただしGL<GH)で電荷を電圧に変換させる。
(実施の形態1の変形例2)
なお、長時間露光の露光時間および短時間露光の露光時間は、実施の形態1で説明した時間に限らない。例えば、明時の場合には、実施の形態1で説明した時間よりも短くてもかまわない。
以下、図9を用いて、実施の形態1の変形例2における電子シャッターと読み出し走査について説明する。図9は、実施の形態1の変形例2に係る固体撮像装置の電子シャッター動作および読み出し動作を示すタイミングチャートである。
なお、同図には、明時における電子シャッター動作が示されている。具体的には、固体撮像装置は、明時には、短時間露光で画素3が飽和しない範囲で露光時間を最大限に長くし、長時間露光の露光時間は実施の形態1で説明したダーク時の長時間露光と短時間露光の比率と同様になるように決定している。つまり、制御部20は、短時間露光(第二露光モード)に対する長時間露光(第一露光モード)の露光時間の比率を維持しつつ、照度が低くなるほど露光時間を長くする。図9では、長時間露光の露光時間を3Hとして、短時間露光の露光時間を1Hとしている。
長時間露光のシャッター動作は、0行目に対しては期間t7で実施して、1行目に対しては期間t8で実施して、というように行順次に行い、9行目に対しては期間t6で実施する。
長時間露光の読み出し動作は、φGC=LowとしてFD変換ゲインをGHとした状態で実施する。具体的には、長時間露光の露光時間を3Hとした場合は、0行目に対しては期間t0で実施して、1行目に対しては期間t1で実施して、というように行順次に行い、9行目に対しては期間t9で実施する。
短時間露光のシャッター動作は、0行目に対しては期間t2で実施して、1行目に対しては期間t3で実施して、というように行順次に行い、9行目に対しては期間t1で実施する。
短時間露光の読み出し動作は、φGC=HighとしてとしてFD変換ゲインをGLとした状態で実施する。具体的には、短時間露光の露光時間を2Hとした場合は、0行目に対しては期間t3で実施して、1行目に対しては期間t4で実施して、というように行順次に行い、9行目に対しては期間t2で実施する。
次にこれら長時間露光の読み出し動作と短時間露光の読み出し動作とは、上記実施の形態1と同様に、1水平走査期間の前半に長時間露光の読み出し動作が実施され、1水平走査期間の後半に短時間露光の読み出し動作が実施される。
このように動作する固体撮像装置であっても、実施の形態1の固体撮像装置1と同様に、長時間露光時にはFD変換ゲインを高くすることにより高画質化を図り、短時間露光時にはFD変換ゲインを低くすることによりダイナミックレンジを拡大することが可能となる。これにより、上記変形例1および2に係る固体撮像装置は、ダーク時の高画質化とダイナミックレンジの拡大とを両立することができる。
(実施の形態2)
実施の形態1の変形例2において、明時では、短時間露光は画素が飽和しない範囲で露光時間を最大限に長く設定し、長時間露光は図5のダーク時の長時間露光と短時間露光の比率と同様になるように決定している(図9参照)。
実施の形態2においては、さらに、実施の形態1およびその変形例2に比べて、感度が低い画素に対して、短時間露光および長時間露光ともに、ショットノイズを良くするために、画素が飽和しない範囲で露光時間を最大限に長く設定することを特徴とする。
図10Aは、本実施の形態に係る固体撮像装置2の構成例を示すブロック図である。同図に示す固体撮像装置2は、実施の形態1に係る固体撮像装置1に比べて、ベイヤー配列された画素アレイ部210を備える。
なお、DSP45は固体撮像装置2に内蔵されても良い。
また、固体撮像装置2は、複数の半導体チップ(例えば、2つの半導体チップ)に形成されてもよい。図10Bは、このような固体撮像装置2の構成例を示すブロック図である。図10Bに示すように、本実施の形態に係る固体撮像装置2は、少なくとも複数の画素3が第1の半導体チップ101に形成され、少なくとも第2メモリ80とWDR合成回路70が第1の半導体チップ101と別の半導体チップである第2の半導体チップ102に形成されるようにしてもよい。
図11は、画素アレイ部210の一部の配列を示す図である。同図に示すように、画素アレイ部210では、高感度のGb画素およびGr画素(以下、画素Aと称する)と低感度のR画素およびB画素(以下、画素Bと称する)とが水平方向に交互に配置されている。つまり、画素アレイ部210を構成する複数の画素は、同一行に隣り合って配置され、第一感度の画素A(第一画素)と、第一感度より感度が低い第二感度の画素B(第二画素)とを含む。
本実施の形態では、感度が異なる画素Aと画素Bが水平方向で隣接して配置されて、各々独立に、シャッターと読み出し走査が行えるとする。つまり、水平走査線群15は、画素Aおよび画素Bに独立に設けられている。また、このとき、図10Aに示すとおりに画素Aと画素Bの信号を、同時にAD変換できるとする。
[電子シャッターと読み出し走査]
次に図12を用いて、実施の形態2における電子シャッターと読み出し走査について説明する。図12は、実施の形態2に係る固体撮像装置2の電子シャッター動作および読み出し動作を示すタイミングチャートである。
なお、同図には、明時における電子シャッター動作が示されている。具体的には、固体撮像装置2は、明時には、感度が異なる画素Aおよび画素Bの各々に対して独立して、短時間露光は画素が飽和しない範囲で露光時間を最大限に長く設定する。そして、長時間露光の露光時間は、ダーク時の長時間露光および短時間露光の比率と同様になるように決定している。
例えば、異なる感度の画素Aおよび画素Bの感度比がGain3=SA/SB=2倍として、この画素Bおよび画素Aの露光時間比は等しくGain3=2倍になるように設定している。ここでは、画素Aの長時間露光の露光時間を3Hとして、短時間露光の露光時間を1Hとしている。画素Bの長時間露光の露光時間を6Hとして、短時間露光の露光時間を2Hとしている。
長時間露光のシャッター動作は、A画素について、0行目に対しては期間t7で実施して、1行目に対しては期間t8で実施して、というように行順次に行い、9行目に対しては期間t6で実施する。また、B画素について、0行目に対しては期間t4で実施して、1行目に対しては期間t5で実施して、というように行順次に行い、9行目に対しては期間t3で実施する。
長時間露光の読み出し動作は、φGC=LowとしてFD変換ゲインをGHとした状態で実施する。具体的には、A画素について、長時間露光の露光時間を3Hとした場合は、0行目に対しては期間t0で実施して、1行目に対しては期間t1で実施して、というように行順次に行い、9行目に対しては期間t9で実施する。また、B画素について、長時間露光の露光時間を6Hとした場合は、0行目に対しては期間t0で実施して、1行目に対しては期間t1で実施して、というように行順次に行い、9行目に対しては期間t9で実施する。
短時間露光のシャッター動作は、A画素について、0行目に対しては期間t2で実施して、1行目に対しては期間t3で実施して、というように行順次に行い、9行目に対しては期間t1で実施する。また、B画素について、0行目に対しては期間t1で実施して、1行目に対しては期間t2で実施して、というように行順次に行い、9行目に対しては期間t0で実施する。
短時間露光の読み出し動作は、φGC=HighとしてFD変換ゲインをGLとした状態で実施する。具体的には、A画素について、短時間露光の露光時間を2Hとした場合は、0行目に対しては期間t3で実施して、1行目に対しては期間t4で実施して、というように行順次に行い、9行目に対しては期間t2で実施する。また、B画素について、短時間露光の露光時間を1Hとした場合は、0行目に対しては期間t3で実施して、1行目に対しては期間t4で実施して、というように行順次に行い、9行目に対しては期間t2で実施する。
これら長時間露光の読み出し動作と短時間露光の読み出し動作とは、実施の形態1と同様に、1水平走査期間の前半に長時間露光の読み出し動作が実施され、1水平走査期間の後半に短時間露光の読み出し動作が実施される。このようにして、1垂直走査期間の動作が完了する。
このような電子シャッターの動作および読み出し走査は、制御部20の制御に基づいて垂直走査回路14が画素アレイ部210を走査することによる。すなわち、制御部20は、実施の形態1と同様、画素3に、長時間露光時にはFD変換ゲインを高くさせ、短時間露光時にはFD変換ゲインを低くさせる。
また、制御部20は、長時間露光(第一露光モード)および短時間露光(第二露光モード)の各々において、画素A(第一画素)より画素B(第二画素)を長時間露光する。
具体的には、制御部20は、長時間露光および短時間露光の各々において、画素Aの露光時間と画素Bに対する画素Aの感度の比率である感度比Gain3(本実施の形態ではGain3=2)とを乗じた時間で、画素Bを露光させる。例えば、制御部20は、長時間露光では、画素Aの露光時間3HにGain3を乗じた6Hの露光時間で画素Bを露光させる。また、短時間露光では、画素Aの露光時間1HにGain3を乗じた2Hの露光時間で画素Bを露光させる。
このようにして出力された長時間露光のデータおよび短時間露光のデータは、実施の形態1と同様に、WDR合成回路70によって合成される(いわゆるワイドダイナミックレンジ合成)。そこで、以下、WDR合成回路70に関する事項について、詳細に説明する。
[ワイドダイナミックレンジの合成方法]
図13は、実施の形態2において、長時間露光の画像と短時間露光の画像とを合成して、1つの画像を得る処理を概念的に示す図である。同図には、実施の形態2の比較例についても示されている。
比較例の固体撮像装置では、感度の違いによる画質ムラを補正するために、長時間露光データおよび短時間露光データの各々について画素Aと画素Bの感度比Gain3を乗じている。
これに対して、本実施の形態に係る固体撮像装置1では、長時間露光の読み出し時には、FD変換ゲインを高くしている。さらに、感度の低い画素Bの信号レベルを感度の高い画素Aの信号レベルと同等になるように、画素Bの露光時間を(Gain3=SA/SB)倍に増幅する。このため、ダイナミックレンジを拡大するために、短時間露光の出力レベルを、実施の形態1の場合よりもさらに感度比だけ増幅(Gain1×Gain2×Gain3)させる。そして、長時間露光で画素飽和する光量L2以上を、増幅後の短時間露光の出力レベルで線形補正することにより、短時間露光の画像と長時間露光の画像とを合成する。
これにより、本実施の形態に係る固体撮像装置2によれば、感度の異なる画素Aと画素Bとが隣り合って配置される構成であっても、実施の形態1と同様の効果を奏することができる。つまり、ダーク時の高画質化とダイナミックレンジの拡大とを両立することができる。
また、上述したように、本実施の形態に係る固体撮像装置2によれば、ショットノイズを良くするために、感度が低い画素Bに対して、短時間露光および長時間露光ともに、画素Bが飽和しない範囲で露光時間を最大限に長く設定する。つまり、制御部20は、長時間露光(第一露光モード)および短時間露光(第二露光モード)における露光時間の合計値が1垂直走査期間以下となり、かつ、長時間露光(第一露光モード)および短時間露光(第二露光モード)の各々において飽和しないような最長時間で、画素B(第二画素)を露光させる。
なお、明時からダーク時に移行する過程においては、感度が低く露光時間の長い画素Bは、長時間露光と短時間露光の合計した露光時間が1垂直同期信号期間(1V)(すなわち、1垂直走査期間)を超えないように露光時間が最大で一定に制御される。一方、感度が高く露光時間の短い画素Aは、長時間露光と短時間露光の比率を維持しながら長くなり、同じく、合計した露光時間が1垂直同期信号期間(1V)を超えないように制御される。そして、ダーク時においては、感度の高い画素Aと感度の低い画素Bともに、長時間露光と短時間露光の合計した露光時間が同一で1垂直同期信号期間(1V)を超えないように設定される。
すなわち、制御部20は、画素A(第一画素)を、長時間露光(第一露光モード)および短時間露光(第二露光モード)における露光時間の合計値が1垂直走査期間以下となるように露光させる。また、当該合計値と感度の比率(Gain3)とを乗じた時間が1垂直走査期間以下の場合、画素B(第二画素)を当該時間で露光させ、当該時間が1垂直走査期間を超える場合、画素Bを1垂直走査期間以下の所定の時間で露光させる。
また、ワイドダイナミックレンジの長時間露光と短時間露光の比率の設定方法としては、この境界部のつなぎ部分にあたる照度において(図13ではL2)、合成した際にショットノイズに起因したSNが問題ないように条件を決めている。また、この長時間露光と短時間露光の比率は、合成方法を簡易化するために、本実施の形態では一定であると説明したが、可変であっても構わない。
また、画素アレイ部は上記の例に限らず、例えば図14に示すような構成であってもかまわない。図14は、画素アレイ部210Aの変形例の一部の配列を示す図である。同図に示す画素アレイ部210Aは、図11に示す画素アレイ部210に比べて、Gr画素がIR(赤外)画素になっている。
ここで、G画素とB画素とでは感度がG画素>B画素となっており、R画素とIR画素とでは感度がR画素>IR画素となっている。つまり、画素アレイ部210Aでも、画素アレイ部210と同様に、高感度の画素A(ここでは、G画素およびR画素)と低感度の画素B(ここでは、B画素およびIR画素)とが水平方向に交互に配置されている。
このような画素アレイ部210Aを備える固体撮像装置であっても、上記実施の形態2と同様の効果を奏することができる。つまり、ダーク時の高画質化とダイナミックレンジの拡大とを両立することができる。
(その他の実施の形態)
なお、上記の各実施の形態でおよびその変形例に係る固体撮像装置は、カメラ(撮像装置)に用いられる。
図15は、実施の形態1に係る固体撮像装置1を備えたカメラ(撮像装置)の構成の一例を示すブロック図である。同図のカメラ(撮像装置)は、固体撮像装置1と、レンズ61と、信号処理回路63と、システムコントローラ64とを備える。
上記構成によれば、ダーク時の高画質化とダイナミックレンジの拡大とが両立されたカメラ(撮像装置)を提供することが可能となる。
また、上記説明した固体撮像装置において、画素3は半導体基板の表面、すなわち、トランジスタのゲート端子および配線が形成された面と同じ面側に形成されているが、画素3が半導体基板の裏面、すなわちトランジスタのゲート端子および配線が形成された面に対して裏面側に形成される、いわゆる、裏面照射型イメージセンサ(裏面照射型固体撮像装置)の構造を用いてもよい。
また、上記説明では、画素3は、長時間露光と短時間露光の2つの露光モードで動作したが、露光時間の異なる3つ以上の露光モードで動作してもかまわない。また、このとき、露光時間が長いほどFD変換ゲインが大きくなるようにしてもかまわない。
また、上記実施の形態に係る制御部20などは典型的には集積回路であるLSIとして実現されてもよい。制御部20などの各処理部は個別に1チップ化されてもよいし、一部又は全てを含むように1チップ化されてもよい。
また、固体撮像装置1において、画素3内の受光素子としてフォトダイオード(空乏型p−n接合フォトダイオード)PDを用いたが、それに限定されるものではなく、その他の受光素子(一例として、フォトゲート下の電界が誘起した空乏領域)であってもよい。
また、集積回路化はLSIに限るものではなく、専用回路又は汎用プロセッサで実現してもよい。LSI製造後にプログラムすることが可能なFPGA(Field Programmable Gate Array)、又はLSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
以上、例示的な各実施の形態について説明したが、本願の請求の範囲は、これらの実施の形態に限定されるものではない。添付の請求の範囲に記載された主題の新規な教示および利点から逸脱することなく、上記各実施の形態においてさまざまな変形を施してもよく、上記各実施の形態の構成要素を任意に組み合わせて他の実施の形態を得てもよいことを、当業者であれば容易に理解するであろう。したがって、そのような変形例や他の実施の形態も本開示に含まれる。
本開示は、ダーク時の高画質化とダイナミックレンジの拡大とを両立することができ、例えば、CMOS固体撮像装置、デジタルスチルカメラ、ムービーカメラ、カメラ付き携帯電話機、監視カメラ、車載カメラおよび医療用カメラ等、様々なカメラシステムに適用できる。
1、2 固体撮像装置
3、3A 画素
5a、5b 端子
10、210、210A 画素アレイ部
12 水平走査回路
14 垂直走査回路
15 水平走査線群
17 出力信号線
18 水平信号線
19 垂直信号線
20 制御部
25 カラムAD回路
26 カラム処理部
27 参照信号生成部
28 出力回路
30 ロード電流源
40 ADC入力線
51 電源配線
61 レンズ
63 信号処理回路
64 システムコントローラ
70 WDR合成回路
71 ゲイン調整回路
72 合成回路
80 第2メモリ
101 第1の半導体チップ
102 第2の半導体チップ
252 電圧比較器
254 カウンタ部
256 メモリ

Claims (11)

  1. 行列状に配置された複数の画素を有する固体撮像装置であって、
    前記複数の画素の各々は、
    入射光を光電変換する光電変換部と、
    光電変換によって生成された電荷を蓄積し、蓄積した電荷を所定のゲインで電圧に変換させる電荷蓄積部とを有し、
    前記固体撮像装置は、さらに、
    前記複数の画素の各々に、第一露光モードで露光させて第一ゲインで電荷を電圧に変換させることにより第一画素信号を出力させ、露光時間が前記第一露光モードより短い第二露光モードで露光させて前記第一ゲインより小さい第二ゲインで電荷を電圧に変換させることにより第二画素信号を出力させる制御部と、
    前記第一画素信号及び前記第二画素信号のうち一方の画素信号を、前記複数の画素の行毎に対応付けて記憶する記憶部と、
    前記第一画素信号及び前記第二画素信号のうち他方の画素信号と、前記記憶部に記憶された前記一方の画素信号とを行毎に対応付けて用いて、前記入射光の光量に対する増幅後の傾きが前記第一画素信号と線形になるように前記第二画素信号を増幅し、前記第一画素信号と増幅後の前記第二画素信号とを合成する信号処理部とを備える
    固体撮像装置。
  2. 前記信号処理部は、前記第二ゲインに対する前記第一ゲインのゲイン比、及び、第二露光モードに対する前記第一露光モードの露光時間比に対応する増幅率で、前記第二画素信号を増幅する
    請求項1に記載の固体撮像装置。
  3. 前記複数の画素は、同一行に隣り合って配置され、第一感度の第一画素と、前記第一感度より感度が低い第二感度の第二画素とを含み、
    前記制御部は、前記第一露光モード及び前記第二露光モードの各々において、前記第一画素より前記第二画素を長時間露光する
    請求項1または2に記載の固体撮像装置。
  4. 前記制御部は、前記第一露光モード及び前記第二露光モードの各々において、前記第一画素の露光時間と前記第二画素に対する前記第一画素の感度の比率とを乗じた時間で、前記第二画素を露光させる
    請求項3に記載の固体撮像装置。
  5. 前記制御部は、
    前記第一画素を、前記第一露光モード及び前記第二露光モードにおける露光時間の合計値が1垂直走査期間以下となるように露光させ、
    前記合計値と前記感度の比率とを乗じた時間が1垂直走査期間以下の場合、前記第二画素を当該時間で露光させ、当該時間が1垂直走査期間を超える場合、前記第二画素を1垂直走査期間以下の所定の時間で露光させる
    請求項4に記載の固体撮像装置。
  6. 前記制御部は、前記第一露光モード及び前記第二露光モードにおける露光時間の合計値が1垂直走査期間以下となり、かつ、前記第一露光モード及び前記第二露光モードの各々において飽和しないような最長時間で、前記第二画素を露光させる
    請求項3に記載の固体撮像装置。
  7. 前記制御部は、第二露光モードに対する前記第一露光モードの露光時間の比率を維持しつつ、照度が低くなるほど露光時間を長くする
    請求項1〜6のいずれか1項に記載の固体撮像装置。
  8. 前記複数の画素の各々は、
    前記電荷蓄積部に接続されるゲイン制御スイッチ素子と、
    前記ゲイン制御スイッチ素子を介して前記電荷蓄積部に接続される容量とを備え、
    前記制御部は、前記ゲイン制御スイッチ素子を非導通状態とすることにより、前記第一ゲインで電荷を電圧に変換させ、前記ゲイン制御スイッチ素子を導通状態とすることにより、前記第二ゲインで電荷を電圧に変換させる
    請求項1〜7のいずれか1項に記載の固体撮像装置。
  9. 前記複数の画素の各々は、
    前記電荷蓄積部の電圧を電源電圧にリセットするリセットスイッチ素子と、
    前記リセットスイッチ素子を介して前記電荷蓄積部に接続されるゲイン制御スイッチ素子と、
    前記リセットスイッチ素子と前記ゲイン制御スイッチ素子との間のノードに接続される容量とを備え、
    前記制御部は、前記リセットスイッチ素子を非導通状態とすることにより、前記電荷蓄積部に前記第一ゲインで電圧に変換させ、前記リセットスイッチ素子を導通状態かつ前記ゲイン制御スイッチ素子を非導通状態とすることにより、前記第二ゲインで電荷を電圧に変換させる
    請求項1〜7のいずれか1項に記載の固体撮像装置。
  10. 少なくとも前記複数の画素は第1の半導体チップに形成され、
    少なくとも前記記憶部と前記信号処理部は第2の半導体チップに形成される
    請求項1〜9のいずれか1項に記載の固体撮像装置。
  11. 請求項1〜10のいずれか1項に記載の固体撮像装置を備える撮像装置。
JP2018500093A 2016-02-15 2017-02-13 固体撮像装置および撮像装置 Active JP6937736B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016026398 2016-02-15
JP2016026398 2016-02-15
PCT/JP2017/005057 WO2017141847A1 (ja) 2016-02-15 2017-02-13 固体撮像装置および撮像装置

Publications (2)

Publication Number Publication Date
JPWO2017141847A1 true JPWO2017141847A1 (ja) 2018-12-06
JP6937736B2 JP6937736B2 (ja) 2021-09-22

Family

ID=59625808

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018500093A Active JP6937736B2 (ja) 2016-02-15 2017-02-13 固体撮像装置および撮像装置

Country Status (4)

Country Link
US (1) US10785430B2 (ja)
JP (1) JP6937736B2 (ja)
CN (1) CN108605105B (ja)
WO (1) WO2017141847A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6797568B2 (ja) * 2016-06-10 2020-12-09 キヤノン株式会社 撮像装置、撮像システム
CN111164964B (zh) * 2017-10-27 2022-08-16 索尼半导体解决方案公司 摄像装置和摄像方法
US11363221B2 (en) * 2018-06-08 2022-06-14 Facebook Technologies, Llc Image sensor post processing
US10721412B2 (en) * 2018-12-24 2020-07-21 Gopro, Inc. Generating long exposure images for high dynamic range processing
JP2021010075A (ja) 2019-06-28 2021-01-28 キヤノン株式会社 光電変換装置、光電変換システム、および移動体
CN112511772B (zh) * 2020-10-28 2024-06-04 深圳奥辰光电科技有限公司 一种图像传感器、增强图像传感器线性的方法及深度相机
US11956557B1 (en) 2022-10-17 2024-04-09 BAE Systems Imaging Solutions Inc. Pixel architecture with high dynamic range

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007124400A (ja) * 2005-10-28 2007-05-17 Toshiba Corp 固体撮像装置
JP2013009105A (ja) * 2011-06-23 2013-01-10 Jvc Kenwood Corp 画像処理装置及び画像処理方法
JP2015180005A (ja) * 2014-03-19 2015-10-08 キヤノン株式会社 固体撮像素子およびその駆動方法、並びに撮像装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070035649A1 (en) * 2005-08-10 2007-02-15 Micron Technology, Inc. Image pixel reset through dual conversion gain gate
JP4289377B2 (ja) * 2006-08-21 2009-07-01 ソニー株式会社 物理量検出装置及び撮像装置
US7940311B2 (en) * 2007-10-03 2011-05-10 Nokia Corporation Multi-exposure pattern for enhancing dynamic range of images
JP5286927B2 (ja) * 2008-05-19 2013-09-11 ソニー株式会社 画像合成装置、撮像装置、画像合成方法、およびプログラム
US8766157B2 (en) * 2010-09-02 2014-07-01 Sri International High dynamic range CMOS pixel and method of operating same
US9402039B2 (en) * 2014-01-10 2016-07-26 Omnivision Technologies, Inc. Dual conversion gain high dynamic range sensor
US9491442B2 (en) * 2014-04-28 2016-11-08 Samsung Electronics Co., Ltd. Image processing device and mobile computing device having the same
JP6393083B2 (ja) * 2014-05-27 2018-09-19 キヤノン株式会社 撮像素子及びその制御方法、及び撮像装置
US9467633B2 (en) * 2015-02-27 2016-10-11 Semiconductor Components Industries, Llc High dynamic range imaging systems having differential photodiode exposures
US10257448B1 (en) * 2015-08-18 2019-04-09 Sri International Extended dynamic range imaging sensor and operating mode of the same
JP2017055248A (ja) * 2015-09-09 2017-03-16 ルネサスエレクトロニクス株式会社 撮像素子

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007124400A (ja) * 2005-10-28 2007-05-17 Toshiba Corp 固体撮像装置
JP2013009105A (ja) * 2011-06-23 2013-01-10 Jvc Kenwood Corp 画像処理装置及び画像処理方法
JP2015180005A (ja) * 2014-03-19 2015-10-08 キヤノン株式会社 固体撮像素子およびその駆動方法、並びに撮像装置

Also Published As

Publication number Publication date
US10785430B2 (en) 2020-09-22
WO2017141847A1 (ja) 2017-08-24
CN108605105A (zh) 2018-09-28
CN108605105B (zh) 2021-01-12
US20180376083A1 (en) 2018-12-27
JP6937736B2 (ja) 2021-09-22

Similar Documents

Publication Publication Date Title
JP6937736B2 (ja) 固体撮像装置および撮像装置
US7244921B2 (en) Solid-state imaging device, driving method therefor, and imaging apparatus
JP4973115B2 (ja) 固体撮像装置、固体撮像装置の駆動方法および撮像装置
JP6735582B2 (ja) 撮像素子およびその駆動方法、および撮像装置
JP4862473B2 (ja) 固体撮像装置、固体撮像装置の駆動方法および撮像装置
JP5223953B2 (ja) 固体撮像装置、固体撮像装置の駆動方法および撮像装置
JP2009177749A (ja) 固体撮像装置
JP2011166726A (ja) Cmosイメージセンサー
JP2008252195A (ja) Cmos固体撮像装置
JP2010154372A (ja) 固体撮像装置、デジタルカメラ及びad変換方法
JP2010004146A (ja) 固体撮像素子およびカメラシステム
JP2014143498A (ja) 固体撮像装置
JP2015023391A (ja) 固体撮像装置
WO2018012068A1 (ja) 固体撮像装置、固体撮像装置の駆動方法、及び、電子機器
JP6362511B2 (ja) 撮像装置及びその制御方法
KR20120122165A (ko) 광역 동적범위를 가지는 이미지 센서, 그 화소 회로 및 구동 방법
JP2013121093A (ja) 撮像装置
JP2006217421A (ja) 固体撮像装置
JP2007243731A (ja) シフトレジスタ、固体撮像素子及び制御方法
JP7339779B2 (ja) 撮像装置
KR20140107212A (ko) 고체 촬상 소자 및 그 구동 방법, 카메라 시스템
JP2020178163A (ja) 撮像装置および撮像装置の制御方法
JP2010178197A (ja) 固体撮像装置の駆動方法、固体撮像装置およびカメラ
JP2009044458A (ja) 固体撮像装置
JP2010226679A (ja) 固体撮像装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180717

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191211

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20200217

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20200520

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210224

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210325

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210817

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210831

R150 Certificate of patent or registration of utility model

Ref document number: 6937736

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250