JP7828163B2 - 光電変換装置、画像処理方法、撮像システム、移動体、及び機器 - Google Patents

光電変換装置、画像処理方法、撮像システム、移動体、及び機器

Info

Publication number
JP7828163B2
JP7828163B2 JP2021198679A JP2021198679A JP7828163B2 JP 7828163 B2 JP7828163 B2 JP 7828163B2 JP 2021198679 A JP2021198679 A JP 2021198679A JP 2021198679 A JP2021198679 A JP 2021198679A JP 7828163 B2 JP7828163 B2 JP 7828163B2
Authority
JP
Japan
Prior art keywords
photoelectric conversion
conversion device
unit
correction
correction component
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021198679A
Other languages
English (en)
Other versions
JP2023084483A5 (ja
JP2023084483A (ja
Inventor
純平 芦田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2021198679A priority Critical patent/JP7828163B2/ja
Priority to US18/057,870 priority patent/US12262155B2/en
Publication of JP2023084483A publication Critical patent/JP2023084483A/ja
Publication of JP2023084483A5 publication Critical patent/JP2023084483A5/ja
Application granted granted Critical
Publication of JP7828163B2 publication Critical patent/JP7828163B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/63Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current
    • H04N25/633Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current by using optical black pixels
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/646Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/42Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by switching between different modes of operation using different resolutions or aspect ratios, e.g. switching between interlaced and non-interlaced mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/67Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
    • H04N25/671Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

本発明は、光電変換装置、画像処理方法、撮像システム、移動体、及び機器に関する。
近年、デジタルスチルカメラ、ビデオカメラ、あるいは携帯電話等に搭載される光電変換装置の開発が行われている。例えば、光電変換装置として、CMOS(Complementary Metal Oxide Semiconductor)センサが広く知られている。
CMOSセンサにおいて、行方向及び列方向にマトリクス状に複数の画素が配置された画素のある行が選択され、選択された行の全画素の画素信号が同時に読み出される。CMOSセンサでは、読み出された画像信号にオフセットが含まれることが知られている。特許文献1、特許文献2には、オプティカルブラック(以下、「OB」と称する)領域の画素信号を用いて、有効画素の画素信号のオフセットを補正する回路が記載されている。しかしながら、近年のCMOSセンサの高画質化などに伴い、行数及び垂直信号線の数が増大しており、特許文献1、2に記載された構成において高精度な補正処理を行うことは困難である。
特開2009-005329号公報 特開2013-106186号公報
本発明は、高精度な補正処理を実行可能な光電変換装置、画像処理方法、光電変換システム、移動体、及び機器を提供することを目的とする。
本明細書の一開示における光電変換装置は、行列状に配置された複数の画素を含む画素部と、第1の領域における前記画素を第1の方法で駆動し、第2の領域における前記画素を第2の方法で駆動する駆動部と、前記第1の領域及び前記第2の領域から読み出された画素値に基づき補正値を演算する演算部と、前記補正値に基づき、入射光に応じた画素値のオフセットを補正する補正部とを備え、前記演算部は、前記第1の領域から読み出された第1の画素値に基づき複数の第1の補正成分のそれぞれの初期値を算出し、前記第2の領域から読み出された第2の画素値及び所定の第2の補正成分に基づき、前記複数の第1の補正成分のそれぞれを更新し、更新された前記第1の補正成分及び前記第2の補正成分を用いて前記補正値を算出する。
本明細書の他の開示における画像処理方法は、画像データの第1の領域における第1のデータに基づき第1の補正成分を算出するステップと、前記画像データの第2の領域における第2のデータと前記第1の補正成分を用いて第2の補正成分を算出するステップと、前記第2のデータと前記第2の補正成分を用いて第1の補正成分を更新するステップと、更新された前記第1の補正成分と前記第2の補正値を用いて、前記第2のデータを補正するステップとを含む。
本発明によれば、高精度な補正処理を実行可能な光電変換装置、画像処理方法、光電変換システムを提供することができる。
第1実施形態に係る光電変換装置のブロック図である。 第1実施形態に係る画素の等価回路図である。 第1実施形態に係る画素部を示す図である。 第1実施形態に係る画素部を示す図である。 第1実施形態に係る駆動部による画素部の駆動を示す図である。 第1実施形態に係る駆動部による画素部の駆動を示す図である。 第1実施形態に係る駆動部による画素部の駆動を示す図である。 第1実施形態に係る演算部における信号処理部のブロック図である。 第1実施形態に係るOBクランプ演算部のブロック図である。 第1実施形態に係る第1処理部及び第2処理部のブロック図である。 第1実施形態に係る第1処理部及び第2処理部のブロック図である。 第1実施形態に係る第1処理部及び第2処理部のブロック図である。 第1実施形態に係る第1処理部及び第2処理部のブロック図である。 第2実施形態に係る光電変換システムの構成例を示す図である。 第2実施形態に係る補正演算のフローチャートである。 第2実施形態に係る曲線近似の例を示す図である。 第3実施形態に係る撮像システムの概略構成を示すブロック図である。 第4実施形態に係る撮像システム及び移動体の構成例を示す図である。 第5実施形態に係る機器の概略構成を示すブロック図である。
以下、図面を用いて本発明に係る実施形態を説明する。なお、上述した各実施形態は、矛盾が生じない限り任意に組み合わせることができる。また、以下に述べる各実施形態では、光電変換装置の一例として、撮像装置を中心に説明する。ただし、各実施形態は、撮像装置に限られるものではなく、光電変換装置の他の例にも適用可能である。例えば、測距装置(焦点検出やTOF(Time Of Flight)を用いた距離測定等の装置)、測光装置(入射光量の測定等の装置)などがある。
[第1実施形態]
(全体構成)
図1を参照して、本実施形態に係る光電変換装置10の回路構成について説明する。光電変換装置10は、例えばCMOSイメージセンサであって、画素部11、駆動部12、読み出し部14、信号処理部15、タイミングジェネレータ(TG)16を有する。
画素部11は2次元アレイ状に配列された複数の画素110を備え、それぞれの画素110は受光量に応じた信号電荷を生成及び蓄積する光電変換部を備える。なお、本明細書において、行方向とは図面における水平方向を示し、列方向とは図面において垂直方向を示すものとする。画素110上にはマイクロレンズ、カラーフィルタが配置され得る。カラーフィルタは例えば赤(R)、青(B)、緑(Gr、Gb)の原色フィルタであって、ベイヤー配列に従って各画素110に設けられている。一部の画素110はOB画素(オプティカル・ブラック画素)として遮光されている。また、画素部11には、垂直信号線VLに接続されていないNULL画素が設けられ得る。さらに、画素部11は、焦点検出用の画素信号を出力する焦点検出画素が配された測距行と、画像を生成するための画素信号を出力する撮像画素が配された複数の撮像行とを含み得る。垂直信号線VLは画素110の列毎に設けられ、同一列の複数の画素110は共通の垂直信号線VLに画素信号を出力する。画素部11は、垂直信号線VLに接続されていないNULL画素を含み得る。図示されていないが、垂直信号線VLのそれぞれには定電流回路が接続され、定電流回路は画素110の負荷回路として機能する。
駆動部12は、シフトレジスタ、ゲート回路、バッファ回路などから構成され、垂直同期信号、水平同期信号、クロック信号などに基づき制御信号を画素110に出力し、行毎に画素110を駆動する。本実施形態において、駆動部12は、画素部11を1水平走査期間に4行ずつ順番に選択する垂直走査を実行可能である。選択された4行の画素110は、垂直信号線VLを介して読み出し部14によって読み出される。以後の説明において、同時に読み出し可能な4行分の垂直信号線VLを垂直信号線VL1~VL4と称する。1水平走査期間(以下、「1H」と称することがある)毎に、垂直信号線VL1~VL4から画素信号が読み出され、OB補正値の算出処理が実行される。
読み出し部14は、垂直信号線VLを介して画素110から画素信号を読み出し可能であって、増幅回路、ADC(Analog to Digital Converter)回路、列メモリ、水平走査回路などを含む。読み出し部14は、複数行、例えば4行の垂直信号線VLから同時に画素信号を読み出し、デジタルのデータ(画素値)として出力可能である。
信号処理部15は読み出し部から出力された画素データにおいて、OBクランプ、デジタルゲイン、デジタル相関二重サンプリング、デジタルオフセット、リニアリティ補正などのデジタル信号処理を行う。本実施形態において、信号処理部15は、1水平走査期間に4行分の画素信号に対してCDS(Correlated Double Sampling)処理、OBクランプなどのデジタル信号処理を実行可能である。また、信号処理部15はLVDS(Low Voltage Differential Signaling)方式のシリアル出力回路を備え、信号処理されたデジタル信号を高速、低消費電力にて光電変換装置の外部へと出力する。
(画素部)
図2は本実施形態に係る画素110の構成例を示す図である。複数の画素110は図1に示した通り、複数の行及び複数の列に渡って行列状に配されている。画素110は、例えば、光電変換部111、転送トランジスタ112、フローティングディフュージョン(FD)113、増幅トランジスタ114、選択トランジスタ115、リセットトランジスタ116を含み得る。
光電変換部111は例えばフォトダイオードから構成され、光電変換部111のアノードは接地ノード(GND)に接続され、カソードは転送トランジスタ112のソースに接続されている。転送トランジスタ112のドレインは、リセットトランジスタ116のソース、増幅トランジスタ114のゲートに接続されている。転送トランジスタ112のドレイン、リセットトランジスタ116のソース、増幅トランジスタ114のゲートの接続ノードは、いわゆるフローティングディフュージョン(FD)113である。FD113は容量成分を含み、電荷保持部及び電荷電圧変換部として機能する。リセットトランジスタ116のドレイン、増幅トランジスタ114のドレインは、電源ノード(電圧VDD)に接続されている。増幅トランジスタ114のソースは、選択トランジスタ115のドレインに接続されている。選択トランジスタ115のソースは、垂直信号線VLに接続されている。なお、トランジスタのソースとドレインの呼称は、トランジスタの導電型、用途等に応じて異なることがあり、ソースとドレインとは逆に称されることもある。
各行の行選択線は、転送トランジスタ112のゲートに接続された信号線、リセットトランジスタ116のゲートに接続された信号線、選択トランジスタ115のゲートに接続された信号線を含む。転送トランジスタ112のゲートに接続された信号線には、駆動部12から制御信号PTXが供給される。リセットトランジスタ116のゲートに接続された信号線には、駆動部12から制御信号PRESが供給される。選択トランジスタ115のゲートに接続された信号線には、駆動部12から制御信号PSELが供給される。各トランジスタがN型トランジスタで構成される場合、トランジスタはハイレベルの制御信号によってオンとなり、ローレベルの制御信号によってオフとなる。
画素部11に光が入射すると、各画素110の光電変換部111は、入射光を光量に応じた電荷に変換(光電変換)するとともに、生じた電荷を蓄積する。転送トランジスタ112はオンとなることにより、光電変換部111の電荷をFD113に転送する。FD113は、光電変換部111から転送された電荷を保持する。光電変換部111から転送された電荷はFD113の容量成分によって電圧に変換される。
増幅トランジスタ114のドレインには電圧VDDが供給され、ソースには選択トランジスタ115を介して電流源118からバイアス電流が供給される。増幅トランジスタ114はゲートを入力ノードとする増幅部(ソースフォロワ回路)を構成する。これにより増幅トランジスタ114は、FD113の電圧に基づく信号を、選択トランジスタ115を介して垂直信号線VLに出力する。リセットトランジスタ116は、オンとなることによりFD113を電圧VDDに応じた電圧にリセットする。
画素110の転送トランジスタ112、リセットトランジスタ116、選択トランジスタ115は、駆動部12から供給される制御信号PTX,PRES,PSELにより、行単位で制御される。画素110の通常読み出しについて説明する。蓄積期間(後述するシャッター走査から読み出し走査までの間)以外は、画素110はリセットされる。シャッター走査において、リセットトランジスタ116によるリセットが解除されると、光電変換部111は電荷の蓄積を開始する。次に、所定の蓄積時間後、読み出し走査が行われる。読み出し走査において、当該行が選択され、FD113のリセットレベルの画素信号(N信号)が読み出される。その後、光電変換部111の電荷をFD113に転送して、電荷に基づく画素信号(S信号)が読み出される。その後、光電変換部111及びFD113はリセットされる。信号処理部15でS信号とN信号との差を計算(CDS処理)する事により、光電変換部111に蓄積された電荷に基づく画素信号が得られる。
図3A、図3Bは本実施形態に係る画素部を示す図である。図3Aに示される画素部11は開口領域11a、OB領域11b、11cを備え、図3Bに示される画素部11は開口領域11a、OB領域11b、11c、11dを備えている。開口領域11aは遮光されていない画素110を含み、入射光に応じた画素信号を出力可能である。OB領域11b、11c、11dは、遮光された画素110、または垂直信号線VLに接続されていないNULL画素を含み、オフセット補正などのために用いられる。図3A、図3Bにおいて、OB領域11bは開口領域11aの上の行に配置され、OB領域11cは開口領域11aの左の列に位置している。また、図3Bにおいて、OB領域11dは開口領域11aの下の行に位置している。なお、OB領域の位置は図3A、図3Bに限定されず、開口領域11aの右の列に設けられてもよい。
後述するように、本実施形態における光電変換装置は、複数行の画素110を複数回連続して読み出す巡回読み出しと、巡回読み出し以外の通常読み出しとを実行可能である。巡回読み出しは、例えば図3Aに示されるように、OB領域11bの2分割された上側の行において実行されてもよく、図3Bに示されるように開口領域11aの下に設けられたOB領域11dにおいて実行されてもよい。いずれの場合においても、典型的には巡回読み出しの後に通常読み出しが実行され得る。
(駆動部)
本実施形態における駆動部12はシャッター駆動及びOB値算出などのために画素部11において様々な駆動を実現可能である。
図4A、図4B、図4Cは本実施形態に係る駆動部12による画素部11の駆動を示す図である。図中、横軸は時間、縦軸は画素装置の行方向(垂直方向)を示している。ハッチングが付された矩形はシャッター走査を表し、白い矩形は読み出し走査を表している。読み出し走査における矩形内の数字は垂直信号線VL1~VL4に対応している。
図4Aは本実施形態に係る駆動部12による画素部11の駆動を示す図であって、シャッター駆動を示している。時刻t101において、駆動部12は第1行~第4行の制御信号PTX、PRESをハイレベルとすることによりシャッター走査を行い、画素110の光電変換部111、FD113の電荷を電圧VDDにリセットする。続いて、駆動部12は第1行~第4行の制御信号PTX、PRESをハイレベルからローレベルとし、光電変換部111は入射光に応じた電荷の蓄積を開始する。時刻t102において、駆動部12は第5行~第8行の制御信号PTX、PRESをハイレベルとし、画素110の光電変換部111、FD113の電荷を電圧VDDにリセットする。続いて、駆動部12は制御信号PTX、PRESをハイレベルからローレベルとし、光電変換部111は入射光に応じた電荷の蓄積を開始する。同様に、時刻t103以後において、駆動部12は4行毎にシャッター走査を行う。
シャッター走査から所定の蓄積時間(露光時間)後の時刻t111~t112において、駆動部12は第1行~第4行の読み出し走査を行う。すなわち、駆動部12は第1行から第4行の制御信号PSELをハイレベルとし、選択トランジスタ115をオンにする。これにより、画素110からリセット時のN信号が垂直信号線VL1~VL4に出力される。続いて、駆動部12は第1行~第4行の制御信号PTXをハイレベルとし、転送トランジスタ112をオンとする。これにより、光電変換部111に蓄積された電荷がFD113に転送される。FD113の電圧は転送された電荷に応じて低下し、S信号が増幅トランジスタ114のソースから選択トランジスタ115を介して垂直信号線VL1~VL4にそれぞれ出力される。すなわち、第1行~第4行の画素110の画素信号が同時に垂直信号線VL1~VL4を介して読み出される。
時刻t112~t113において、駆動部12は第5行~第8行の制御信号PSELをハイレベルにした後に制御信号PTXをハイレベルとする。これにより、第5行~第8行の画素110から画素信号が順に垂直信号線VL1~VL4に出力される。このようにして、画素部11において、4行毎に読み出し走査が行われる。読み出し走査の矩形内の数字は垂直信号線VL1~VL4に対応している。すなわち、第1行、第5行、第9行、・・・、第(4×N-3)行の画素110は垂直信号線VL1を介して読み出され、第2行、第6行、第10、・・・、第(4×N-2)行の画素110は垂直信号線VL2を介して読み出される。また、第3行、第7行、第11行、・・・、第(4×N-1)行の画素110は垂直信号線VL3を介して読み出され、第4行、第8行、第12行、・・・、第(4×N)行の画素110は垂直信号線VL4を介して読み出される。
なお、駆動部12は通常読み出しの駆動だけでなく様々な駆動を行ってもよく、例えば、NULL画素の読み出しを行ってもよい。また、駆動部12は、N信号を読み出した後に転送トランジスタがオフの状態でS信号を読み出すN-N読み出しの駆動を行ってもよい。さらに、駆動部12は、所定の領域を繰り返し読み出す巡回読み出しの駆動を行い得る。
図4Bは本実施形態に係る駆動部12による画素部11の駆動を示す図であって、巡回読み出しの駆動を示している。図3A、図3Bに示されるように、巡回読み出しはOB領域11bまたはOB領域11dにおいて行われ得る。
時刻t201~t202において、駆動部12は第1行~第4行の選択トランジスタ115、転送トランジスタ112を順にオンとし、画素110からN信号及びS信号の画素信号を垂直信号線VL1~VL4に出力させる。同様に、時刻t202~t203において、駆動部12は第5行~第8行の画素110から画素信号を垂直信号線VL1~VL4に出力させ、時刻t203~t204において、駆動部12は第9行~第12行の画素110から画素信号を垂直信号線VL1~VL4に出力させる。時刻t204~205において、駆動部12は再び第1行~第4行の画素110から画素信号を垂直信号線VL1~VL4に出力させ、時刻t205~t206において、駆動部12は第5行~第8行の画素110から画素信号を垂直信号線VL1~VL4に出力させる。以下、同様に、第1行~第12行の画素110において、4行毎に読み出し走査が繰り返し行われる。
上述の巡回読み出しにおいては、必ずしもシャッター走査は行われなくてもよく、この場合、読み出し走査の周期が蓄積時間に相当する。なお、読み出し走査と読み出し走査の間にシャッター走査が行われてもよいが、読み出し走査の周期が蓄積時間の上限になる。このように蓄積時間の制約はあるが、巡回読み出しは、小さな領域から短い時間に多くののデータを取得することが可能である。
図4Cは本実施形態に係る駆動部12による画素部11の駆動を示す図であって、巡回読み出し後に通常読み出しを行う駆動を示している。
以後の本実施形態の説明においては、OB領域11bの一部が巡回読み出しされた後に、通常読み出しがなされるものとする。通常読み出しは、OB領域11bにおいて巡回読み出しがなされなかった残りの領域、OB領域11c、開口領域11aなどにおいて実行され得る。なお、図3Aに示すように、OB領域11bの上側の領域が巡回読み出しに割り当てられ、OB領域11bの下側の領域が通常読み出しに割り当てられても良い。また、図3Bに示すように、開口領域11aの下に位置するOB領域11dが巡回読み出しに割り当てられ、開口領域11aの上に位置するOB領域11bが通常読み出しに割り当てられても良い。開口領域11aにおいて巡回読み出しがなされる場合には、N-N読み出しがなされることが好ましい。いずれの場合であっても、巡回読み出しの後に通常読み出しが行われ得る。
以下の説明においては、巡回読み出しは、例えばOB領域11bのうちの12行において行われるものとする。3水平走査期間分の読み出しが8回繰り返され、24水平走査期間分の巡回読み出しデータが得られる。なお、巡回読み出しされたデータは事前データまたは基準データと称されることもあり、通常読み出しされたデータは本データと称されることもある。
巡回読み出し期間T1において、OB領域11bのうちの12行における4行毎の巡回読み出しが行われる。すなわち、時刻t301~t302において、駆動部12は第1行~第4行の読み出し走査を行い、画素110からN信号及びS信号の画素信号を垂直信号線VL1~VL4に出力させる。同様に、駆動部12は第5行~第8行の読み出し走査(時刻t302~t303)、第9行~第12行の読み出し走査(時刻t303~t304)、第1行~第4行の読み出し走査(時刻t304~t305)を行う。さらに、時刻t305~t306において、駆動部12は第5行~第8行の読み出し走査を行うとともに、開口領域11aの第13行~第16行におけるシャッター走査を行う。以下、同様に巡回読み出しに続いて、シャッター走査が行われる。巡回読み出し時における画素信号は後述する第1補正成分の初期値として用いられる。
巡回読み出し期間T1後の通常読み出し期間T2において、OB領域11bにおいて巡回読み出しがなされなかった残りの領域、OB領域11c、開口領域11aにおける4行毎の通常読み出しが行われる。時刻t310~t311において、駆動部12は第13行~第16行の画素110からN信号及びS信号の画素信号を垂直信号線VL1~VL4に出力させる。同様に、時刻t311~t312において、駆動部12は第17行~第20行の画素110から画素信号を垂直信号線VL1~VL4に出力させる。期間T20(時刻t310~t312)における画素信号は、後述するように、信号処理部15のフィルタ部の初期値として用いられる。時刻t312以後の期間T21において、信号処理部15は、通常読み出し時における画素信号を用いて、垂直位置に依存する第2補正成分を求める。また、信号処理部15は、画素信号及び第2補正成分を用いて第1補正成分を順次、更新し続ける。詳細については後述する。
(信号処理部)
図5は本実施形態に係る信号処理部15のブロック図である。信号処理部15はベイヤー配列された色画素110の色ごとの演算部15R、15B、15Gr、15Gbを含む。すなわち、信号処理部15は、R画素110の信号を処理する演算部15Rと、B画素110の信号を処理する演算部15Bと、Gr画素110の信号を処理する演算部15Grと、Gb画素110の信号を処理する演算部15Gbとを備える。演算部15Rは、垂直信号線VL1、VL3を介して読み出されるR画素110の信号を処理し、演算部15Bは、垂直信号線VL2、VL4を介して読み出されるB画素110の信号を処理する。また、演算部15Grは垂直信号線VL1、VL3を介して読み出されるGr画素110の信号を処理し、演算部15Gbは垂直信号線VL2、VL4を介して読み出されるGb画素110の信号を処理する。
演算部15Rは、CDS演算部151R、152R、メモリ部153R、OBクランプ演算部150R、データ出力部154Rを含む。CDS演算部151R、152Rは読み出し部14内の列メモリから、垂直信号線VL1を介して読み出されたS信号及びN信号の差分を演算し、メモリ部153Rへ出力する。すなわち、CDS演算部151RはR画素110から垂直信号線VL1を介して読み出されたS信号R_VL1SとN信号R_VL1Nとの差分を演算する。同様に、CDS演算部152RはR画素110から垂直信号線VL3を介して読み出されたS信号R_VL3SとN信号R_VL3Nとの差分を演算する。
メモリ部153Rは、垂直信号線VL1、VL3を介して読み出されたR画素110の2行分(1水平走査期間)のデータを保持可能である。メモリ部153Rは、1/2水平走査期間ごとに、垂直信号線VL1のデータと垂直信号線VL3のデータとを交互にOBクランプ演算部150Rへ出力する。このとき、メモリ部153Rは、各データが読み出された垂直信号線VLを示す識別子(垂直信号線識別子)をデータに付加する。OBクランプ演算部150Rは、主にOB領域11bのデータを用いてOB値を算出し、開口領域11aのデータからOB値を減算することにより、OBクランプ機能(OB値補正機能)を実現する。OB値には暗電流、回路依存の成分などが含まれており、OB値は垂直信号線VLごとに異なる値、すなわち垂直線差を含んでいる。このため、OBクランプ演算部150Rは、垂直信号線VL1のOB値と垂直信号線VL3のOB値をそれぞれ別に算出している。OBクランプ演算部150Rは、OBクランプされたデータをデータ出力部154Rに出力する。データ出力部154Rは入力されたデータを所定のフォーマットに変換し、装置外へ出力する。
他の演算部15B、15Gr、15Gbも演算部15Rと同様に構成されている。すなわち、演算部15Bは垂直信号線VL2、VL4から読み出されたB画素110のデータのCDS処理、OBクランプを実行可能である。また、演算部Grは垂直信号線VL1、VL3から読み出されたGr画素110のデータのCDS処理、OBクランプを実行し、演算部15Gbは垂直信号線VL2、VL4から読み出されたGb画素110のデータのCDS処理、OBクランプを実行可能である。このようにして、演算部15R、15B、15Gr、15Gbは色画素110の色ごとのOB補正値の算出、OBクランプを実行することができる。
(OBクランプ演算部)
図6は演算部15RにおけるOBクランプ演算部150Rのブロック図である。他のOBクランプ演算部150B、150Gr、150Gbも同様に構成されているため、以下、OBクランプ演算部150Rについて説明する。図6に示されるように、OBクランプ演算部150Rは、キズ補正部1501、平均部1502、第1処理部1503、第2処理部1504、減算部1505、制御部1506を含む。OBクランプ演算部150Rに入力されたデータにおいてOB値算出が行われる場合には、当該データはキズ補正部1501へ入力される。また、OBクランプ演算部150Rに入力されたデータにおいてOBクランプが行われる場合には、当該データは減算部1505へ入力される。
キズ補正部1501は、所定の値、あるいは第2処理部1504によって算出されたOB値を基準値として、キズ補正処理を行う。具体的には、キズ補正部1501は、基準値に所定の演算を実行することによりOB値の正常範囲を求め、正常範囲外のデータをキズデータとして判定する。キズデータと判定されたデータは、基準値に置き替えられ、若しくは削除される。これにより、正常範囲外のデータがOB値算出に影響するのを回避することができる。
平均部1502は、1/2水平走査期間、すなわち垂直信号線VLごとの1水平走査期間にわたってデータの積算値をデータ数で除算し、平均値を算出する。第1処理部1503は、平均部1502によって算出された平均値、及び第2処理部1504によって算出された第2補正成分を用いて、垂直信号線VLごとに第1補正成分を算出する。第2処理部1504は、平均部1502によって算出された平均値、及び第1処理部1503によって算出された第1補正成分を用いて、第2補正成分を算出する。また、第2処理部1504は、第1補正成分と第2補正成分とからOB値を算出し、減算部1505及びキズ補正部1501へOB値を出力する。
減算部1505は、入力されたデータからOB値を減算し、OBクランプを行う。制御部1506は、OBクランプ演算部150R全体の動作を制御する。例えば、制御部1506は、入力されたデータがOB値算出の対象となる領域のデータであるか否かを判定する。さらに、制御部1506は、第1処理部1503及び第2処理部1504の動作モードの切り替えなどを制御する。
図7A、図7B、図7C、図7Dは本実施形態に係る第1処理部1503、第2処理部1504のブロック図である。図7Aは第1処理部1503、第2処理部1504の全体構成を示し、図7B、図7C、図Dにおいて、実線で示されたブロックは動作状態であることを表し、破線で示されたブロックは非動作状態であることを表している。
第1処理部1503は、減算部1530、フィルタ部1531、フィルタ部1532、平均値算出部1533、マルチプレクサ1534、1535を備える。マルチプレクサ1534、1535は複数のスイッチ回路を備え、信号処理部15の動作状態に応じてそれぞれのスイッチ回路を切り替える。第1処理部1503は、図6の平均部1502から出力された平均値R、Rにおいて所定の信号処理を行い、垂直信号線VLに依存する第1補正成分Vaを算出する。第2処理部1504は、減算部1540、フィルタ部1541、加算部1542を備え、第1補正成分Vaを用いて、垂直位置に応じた第2補正成分Vbを更新する。加算部1542は、第1補正成分Vaと第2補正成分Vbとの加算値をOB値として出力する。
上述の構成において、同等の機能が奏される限り、各部はハードウェア構成を共有しても良い。例えば、フィルタ部1531、1532は交互に動作するため、フィルタ部1531、1532は共通の回路によって構成されても良い。
図7Bは、本実施形態に係る第1処理部1503、第2処理部1504のブロック図であって、図4Cの巡回読み出し期間T1(時刻t301~t310)における動作状態を示している。フィルタ部1531は、図6の平均部1502からの平均値のデータRの積算値を水平走査期間数で除算した平均値Vaを算出する。すなわち、フィルタ部1531は同期間における垂直信号線VL1のデータRの平均値Vaを算出する。同様に、フィルタ部1532は同期間における垂直信号線VL3のデータRの平均値Vaを算出する。このようにして、フィルタ部1531、1532は巡回読み出しされたデータR、Rに基づき、垂直信号線VLごとの平均値Va、Vaを算出する。さらに、平均値算出部1533は、平均値Vaおよび平均値Vaの平均値Vaを算出する。平均値Vaは、巡回読み出し期間の全垂直信号線VLのデータの平均値を表している。算出された平均値Va、Va、Vaは後述する第1補正成分の初期値として、垂直信号線識別子に応じて分類され、フィルタ部1531、フィルタ部1532、平均値算出部1533に保持される。巡回読み出しの終了時(時刻t310)において、フィルタ部1531、1532、平均値算出部1533に保持されている第1補正成分Va、Va、Vaはそれぞれ以下の式で表される。
上述の式1~式3において、「R1,k」、「R3,k」は、第k水平走査期間における垂直信号線VL1、VL3の巡回読み出し時のデータR、Rを示している。「N1」は巡回読み出しの水平走査期間数を示し、「k」は第1~第N1のうちの第kの水平走査期間を示している。
一般に、垂直線差は蓄積時間には依存しないため、第1補正成分Vaと第1補正成分Vaとの差は垂直線差に相当する。1水平走査期間毎の巡回読み出し時のデータR、RをさらにN1の水平走査期間において平均化することにより、データR、Rに含まれるランダムノイズが低減される。なお、初期値としての第1補正成分Va、Va、Vaはそれぞれの対象領域(垂直信号線VL)の代表値であればよく、例えば中央値などでもよい。
図7Cは、本実施形態に係る第1処理部1503、第2処理部1504のブロック図であって、図4Cの通常読み出し期間T20(時刻t310~t312)における動作状態を示している。上述したように、期間T20には、通常読み出し期間T2の最初のいくつかの水平走査期間の通常読み出し時のデータS1、S3が含まれている。期間T20におけるデータS1、S3は、フィルタ部1541の初期値の算出に用いられる。平均部1502によって平均化されたデータS1、S3は第2処理部1504に入力される。また、平均値算出部1533において算出された第1補正成分Vaは第2処理部1504へ出力され、減算部1540はデータS1、S3と第1補正成分Vaとの差分を算出する。フィルタ部1541は、当該差分の積算値を水平走査期間数N2で除算した平均値Vbを求める。平均値Vbは後述する第2補正成分Vbの初期値として用いられる。通常読み出しの最初の期間T20が終わった時点(時刻t312)において、フィルタ部1541に保持されている第2補正成分Vbは式4で表される。
上述の式4において、「N2」は、期間T20における水平走査期間数を表し、「S1,k」、「S3,k」は、通常読み出し領域の第k水平走査期間における垂直信号線VL1、VL3の通常読み出し時のデータS、Sを表している。データS、Sの和から式3によって算出された第1補正成分Vaを減算することにより、巡回読み出し時のデータR、Rと通常読み出し時のデータS、Sのレベル差(DC差)が低減される。これにより、後述する平滑化処理の連続性を確保し、急激な値の変化を抑えることが可能となる。なお、データR、RとデータS、Sとのレベル差は主に蓄積時間の違いに起因している。
図7Dは、本実施形態に係る第1処理部1503、第2処理部1504のブロック図であって、図4Cの通常読み出し期間T21(時刻t312以後)における動作状態を示している。期間T21においては、第N2水平走査期間以後の通常読み出しが行われる。減算部1530は、平均部1502から出力されたデータS、Sと、第2補正成分Vbとの差分に基づき、第1補正成分Va、Vaを順次更新する。算出された差分は、垂直信号線識別子に応じて分類され、フィルタ部1531またはフィルタ部1532へ入力される。フィルタ部1531、1532は、入力された差分とフィルタ部1531、1532に保持された現在までの演算結果とを用いて平滑化処理(ローパスフィルタ処理)を行う。平滑化処理は、例えば以下の1次IIR(Infinite Impulse Response)処理によって実行され得る。
Va1,N={Va1,(N-1)×A1+(S1,N-Vb(N-1))×(1-A1)} (式5)
Va3,N={Va3,(N-1)×A1+(S3,N-Vb(N-1))×(1-A1)} (式6)
上述の式5、式6において、「A1」は、1次IIR処理の減衰係数を示し、0<A1<1の範囲の値である。また、「Va1,N」、「Va3,N」は、垂直信号線VL1、VL3のそれぞれの第Nの水平走査期間において更新された第1補正成分Vaを表し、「Vb(N-1)」は第(N-1)の水平走査期間における第2補正成分Vbを表している。すなわち、垂直信号線VLごとの第1補正成分Vaは、垂直位置に依存する第2補正成分Vb及びデータSを用いて更新される。
なお、減算部1530は必須ではなく、入力されたデータ「S1,N」、「S3,N」がフィルタ部1531、1532へ入力されてもよい。但し、画像に急峻な垂直シェーディングがある場合には、減算部1530が設けられることが好ましい。以下、理由を詳述する。式5、式6の演算結果の更新は1水平走査期間ごとに1回のみ行われる。このため、画像に急峻な垂直シェーディングがある場合、垂直シェーディングを平滑化するには、比較的に大きな減衰係数A1が必要となる。すなわち、急峻な垂直シェーディングに追従するためには、ローパスフィルタのカットオフ周波数を高く設定する必要がある。一方、ノイズの影響を回避するためには、高感度撮影時などにおいて小さい減衰係数A1が望ましい。このため、減衰係数A1は相反する要因間のトレードオフによって定められ得る。減算部1530が設けられている場合には、データS、Sから第2補正成分Vbが減算されるため、急峻な垂直シェーディングの影響は低減され得る。フィルタ部1541の演算結果の更新は1水平走査期間に2回行われるため、フィルタ部1531、1532に比べて急峻な垂直シェーディングへの追従を容易に行うことができる。このように、減算部1530は、垂直シェーディングが大きい場合に特に有効である。
減算部1540は、入力されたデータS、Sと第1補正成分Va、Vaとのそれぞれの差分を算出する。第1補正成分Va、Vaは垂直線差を含むため、第1補正成分Va、Vaが減算された差分において、垂直線差は低減され、または含まれない。減算部1540による差分はフィルタ部1541へ入力される。垂直信号線VL1のデータSと垂直信号線VL3のデータSは1/2の水平走査期間ごとにフィルタ部1541に交互に入力される。フィルタ部1541は、入力された差分と、フィルタ部1541に保持された演算結果とを用いて平滑化処理を行う。平滑化処理は、例えば以下の1次IIR処理によって実施され得る。
Vb={VbN-(1/ ×A2+(Si,N-Vai,N)×(1-A2)} (式7)
上述の式7において、「i」は垂直信号線の識別番号を示している。「A2」は、1次IIR処理の減衰係数を示し、0<A2<1の範囲の値である。「Vb」は第N水平走査期間の第2補正成分を表している。第2補正成分Vbは、垂直位置に応じて異なり得るが、垂直信号線VL1、VL3に共通の値である。式7において、垂直信号線VL1のデータSに対しては、フィルタ部1531の演算結果である第1補正成分Vaが参照され、垂直信号線VL3のデータSに対しては、フィルタ部1532の演算結果である第1補正成分Vaが参照される。第2補正成分Vbは、垂直信号線VLに依存せず垂直信号線VL1、VL3に共通である。このため、垂直信号線VL1のデータSから求められた第2補正成分Vbが垂直信号線VL3の第2補正成分Vbに対して参照され、垂直信号線VL3のデータSから求められた第2補正成分Vbが垂直信号線VL1の第2補正成分Vbに参照され得る。式7における「VbN-(1/ 」は、1/2の水平走査期間前の第2補正成分Vbから次の第2補正成分Vbが求められることを表している。垂直方向のシェーディングが存在していたとしても、フィルタ部1532は、垂直シェーディングに追従しながらノイズを低減した第2補正成分Vbを出力することができる。
加算部1542は、それぞれ更新された第1補正成分Va及び第2補正成分Vbを加算し、加算値をOB値(オフセット値)として出力する。OBクランプ演算部150の減算部1505は開口領域11aにおける画素データからOB値を減算することにより、垂直線差、及び垂直方向のシェーディングなどを低減したOB値補正を実現することが可能となる。
以上述べたように、本実施形態における光電変換装置は、OB値を第1補正成分と第2補正成分とに分解し、第2補正成分を用いて第1補正成分を順次、更新している。まず、巡回読み出し時のデータRから垂直線差を含む複数の第1補正成分Vaが求められる。複数の垂直信号線VLのそれぞれの第1補正成分Vaは、複数の第1補正成分に共通の第2補正成分、及び通常読み出し時のデータSを用いて順次、更新される。このため、本実施形態によれば、多くのOB領域を設けることなく、高精度のOB補正を実現することが可能となる。
特に、本実施形態における光電変換装置は、通常読み出し時のデータSから第1補正成分Vaを減算し、垂直信号線VLに依存しない第2補正成分Vbを求めている。このため、第2補正成分Vbを算出する際に垂直信号線VLごとに分離して補正値を求める必要がなく、少ないデータ及びOB領域で高精度のOB補正が可能となる。
また、第1補正成分Vaの初期値は、巡回読み出しによってより少ない領域のデータRから算出され得る。ノイズ量に応じて巡回読み出しの繰り返し数を設定することにより、小さい領域から高精度に垂直線差を求めることができる。
ここで、本実施形態の効果について他の構成と比較しながら説明する。一般に、OB値は、水平位置に依存する成分、垂直位置に依存する成分、位置に依存しない成分を含む。本実施形態におけるOBクランプは、垂直位置依存の成分と位置非依存の成分との補正を対象とし、水平位置非依存の成分については別の構成によって補正されてもよい。垂直位置に依存する成分及び位置に依存しない成分は、それぞれ垂直信号線VLに依存する成分とそれ以外の暗電流などの成分とを含む。ここで、垂直位置に依存する成分のうち、垂直信号線に依存する成分は小さいものと仮定する。
OB補正の他の方法としては、行ごとのデータを求め、垂直信号線ごとに独立に垂直方向のデータを平滑化することにより、OB値を求めることが考えられる。この方法においては、ランダムノイズを低減するために垂直信号線の数に応じて大きなOB領域が必要になる。また、サンプリング間隔が広がり、垂直シェーディングへの追従が困難になる。
一方、本実施形態においては、上述したように、OB値は第1補正成分Vaと第2補正成分Vbとに分解され、第2補正成分Vbを用いて第1補正成分Vaが順次、更新される。このため、第2補正成分Vbを算出する際に垂直信号線VLごとに分離して補正値を求める必要がなく、また、垂直信号線VLの数に応じた多くのOB領域を設ける必要もない。また、通常読み出し時のデータSにおいて、第1補正成分Vaは順次、更新されるため、第1補正成分Vaは垂直シェーディングに追従することができる。従って、本実施形態によれば、多くのOB領域を要することなく、高精度にOB値を求めることが可能となる。
なお、上述の説明において、垂直信号線VLの数を4として説明したが、垂直信号線VLの数は2以上の任意の数であり得る。また、第1補正成分Vaは、垂直信号線VLごとに分類(算出)されているが、他の回路要素のグループ毎に分類されてもよい。例えば、フローティングディフュージョンが複数の画素で共有されている場合、フローティングディフュージョンに電荷を転送する画素の順序に応じて、OB値に差が生じ得る。この場合、フローティングディフュージョンFDを使う画素の順序に応じて、第1補正成分Vaが分類されても良い。また、画素が複数の光電変換部を備える測距用の画素である場合、画素の駆動方法に応じて第1補正成分Vaが分類されてもよい。例えば、A像、B像、A+B像のそれぞれの読み出し方法ごとに、第1補正成分Vaが分類されても良い。さらに、A像が間欠的に読み出される場合、A像を読み出す行か否かに応じて第1補正成分Vaが分類されても良い。また、複数の分類が組み合わされても良い。分類の数が多いほど、高精度にOB値を求める効果が高まる。
さらに、フィルタ部1531、1532、1541は1次IIRとして説明したが、2次IIRなど他のIIR、またはFIR(Finite Impulse Response)などでも良い。
また、巡回読み出しにおいて、さらにN-N読み出し、NULL読み出しが組み合わされても良い。もしくは、通常読み出しにおいて垂直走査が間引きされ、すべての行が読み出されてない場合、読み出されない行がOB値の算出のために用いられても良い。なお、OB値の算出に用いられる画素110が開口領域11aに含まれる場合、N-N読み出しが望ましい。このように様々な読み出し方法を用いて、垂直線差などのOB値を求めることができる。
巡回読み出しの巡回数(水平走査期間数N1)は任意に設定され得る。巡回数は多いほど、第1補正成分Vaの初期値に含まれるノイズが低減される。一方、消費電力、フレームレートの観点からは、巡回数は少ないことが好ましい。巡回数は複数の要因におけるトレードオフによって定められ得る。例えば、垂直走査のモード、ISO感度、温度などに応じて、巡回数が動的に変更されてもよい。
第1補正成分Vaの分類のために垂直信号線識別子が用いられたが、垂直信号線識別子は1/2の水平走査期間ごとに切り替わる。このため、垂直信号線識別子は必須ではなく、水平走査のタイミングから垂直信号線が判別されても良い。
[第2実施形態]
続いて、本実施形態における光電変換システムを説明する。第1実施形態では、光電変換装置内においてOBクランプ演算が行われていたが、本実施形態では光電変換装置外でOBクランプ演算が行われ得る。
図8は、本実施形態における光電変換システムの構成例を示す。光電変換システムは、光電変換装置10、演算装置80を含む。演算装置80は、通信線20を介して光電変換装置10からデータを受け取り、コンピュータプログラムを実行することにより所定の補正演算を実行可能である。通信線20は有線、無線を問わず、また、公衆無線通信、近距離無線通信であってもよい。演算装置80は、第1実施形態におけるOBクランプ演算部150の機能を実行可能であって、OBクランプ演算部150に入力されるデータを受信する。演算装置80は、巡回読み出しデータ及び通常読み出しデータを含む1フレームのデータを演算装置80内のメモリに格納し、演算処理においてメモリに格納されたデータを繰り返し参照することができる。なお、演算装置80はスタンドアロンのパーソナルコンピュータであっても良く、エッジ端末、あるいはクラウド上のサーバなどでも良い。
図9は本実施形態における演算装置80の動作を表すフローチャートである。ステップS101において、演算装置80は、メモリに格納された1フレームのデータの第1領域から垂直信号線ごとに第1補正成分Vaを算出する。ここで、第1領域はOB領域11bなどに対応するデータ領域であり得る。演算装置80は、巡回読み出し時のデータRを垂直信号線VLごとに分類し、分類されたデータRのそれぞれの平均値を算出する。平均値の算出方法は第1実施形態の式1及び式2と同様である。ここで算出された平均値は第1補正成分Vaの初期値として用いられる。
ステップS102において、演算装置80は1フレームのデータの補正値算出領域である第2領域において、行ごとに平均値Sを算出する。なお、ステップS101とステップS102のそれぞれの処理は独立しているため、ステップS102の処理がステップS101の処理に先立って実行されてもよい。
ステップS103において、演算装置80はステップS102で算出された平均値Sから垂直信号線VLの第1補正成分Vaを減算した差分を算出する。
ステップS104において、演算装置80はステップS103で算出された差分値を垂直方向に曲線近似する。図10は本実施形態に係る曲線近似の例を示す図である。図10において、横軸は差分を示し、縦軸は垂直位置(画像のY座標)を示している。各点は、行ごとの差分に対応し、実線は差分を関数近似した曲線を示している。このように、曲線近似によって垂直方向のシェーディング成分に対応した補正値を得ることができる。曲線は例えばY座標に対する多項式によって近似されても良く、あるいはスプライン曲線などの任意の関数によって近似されても良い。このようにして求められた曲線は、垂直位置Nによって異なる値を有する第2補正成分Vbとなる。
ステップS105において、演算装置80はステップS102で算出された各行の平均値Sから、ステップS104における第2補正成分Vbを減算した差分を算出する。
ステップS106において、演算装置80はステップS105における差分に対して、ステップS104と同様に曲線近似を行う。曲線は垂直信号線VLごとに求められる。演算装置80は得られた曲線を第1補正成分Vaとして更新する。
ステップS107において、演算装置80は更新が収束しているか判断する。すなわち、演算装置80は、ステップS104、S106における更新処理において、更新前の第1補正成分Va及び第2補正成分Vbと更新後の第1補正成分Va及び第2補正成分Vbとの差分をそれぞれ算出し、差分が所定値以下であるか否かを判断する。更新が収束していない場合、すなわち差分が所定値を超えている場合(ステップS107でNO)、演算装置80はステップS103~S107の処理を繰り返す。更新が収束している場合、すなわち差分が所定値以下である場合(ステップS107でYES)、演算装置80はステップS108の処理を実行する。演算装置80は、差分が収束するまで、ステップS103~ステップS107の処理を繰り返し、第1補正成分Va及び第2補正成分Vbを更新し続ける。これにより、第1補正成分Va及び第2補正成分Vbの誤差が低減される。
ステップS108においては、演算装置80はステップS104における第2補正成分Vb及びステップS106における第1補正成分Vaを加算したOB値を算出する。演算装置80は開口領域11aにおける画素データからOB値を減算し、高精度のOB補正を実行することが可能となる。
以上により、演算装置80における補正演算が行われる。本実施形態においては、データが繰り返し参照されるため、比較的に大きなメモリが必要になるが、高精度な補正が可能となる。
なお、本実施形態では、垂直方向のシェーディングに対応するため、垂直方向の曲線を求めたが、水平方向のシェーディングを含めて対応するため、垂直方向、水平方向、画素値の3次元空間において曲面近似がなされても良い。
[第3実施形態]
本実施形態における撮像システムを説明する。図11は、本実施形態に係る撮像システムの概略構成を示すブロック図である。図11に例示した撮像システム200は、撮像装置201、被写体の光学像を撮像装置201に結像させるレンズ202、レンズ202を通過する光量を可変にするための絞り204、レンズ202の保護のためのバリア206を有する。レンズ202、絞り204は、撮像装置201に光を集光する光学系である。撮像装置201は、第1または実施形態説明した光電変換装置10であって、レンズ202により結像された光学像を画像データに変換する。
撮像システム200は、また、撮像装置201より出力される出力信号の処理を行う信号処理部208を有する。信号処理部208は、撮像装置201が出力するデジタル信号から画像データの生成を行う。また、信号処理部208は必要に応じて各種の補正、圧縮を行って画像データを出力する動作を行う。撮像装置201は、信号処理部208で処理されるデジタル信号を生成するAD変換部を備え得る。AD変換部は、撮像装置201の光電変換部が形成された半導体層(半導体基板)に形成されていてもよいし、撮像装置201の光電変換部が形成された半導体層とは別の半導体基板に形成されていてもよい。また、信号処理部208が撮像装置201と同一の半導体基板に形成されていてもよい。
撮像システム200は、更に、画像データを一時的に記憶するためのメモリ部210、外部コンピュータ等と通信するための外部インターフェース部(外部I/F部)212を有する。更に撮像システム200は、撮像データの記録又は読み出しを行うための半導体メモリ等の記録媒体214、記録媒体214に記録又は読み出しを行うための記録媒体制御インターフェース部(記録媒体制御I/F部)216を有する。なお、記録媒体214は、撮像システム200に内蔵されていてもよく、着脱可能であってもよい。
更に撮像システム200は、各種演算とデジタルスチルカメラ全体を制御する全体制御・演算部218、撮像装置201と信号処理部208に各種タイミング信号を出力するタイミング発生部220を有する。ここで、タイミング信号などは外部から入力されてもよく、撮像システム200は少なくとも撮像装置201と、撮像装置201から出力された出力信号を処理する信号処理部208とを有すればよい。
撮像装置201は、撮像信号を信号処理部208に出力する。信号処理部208は、撮像装置201から出力される撮像信号に対して所定の信号処理を実施し、画像データを出力する。信号処理部208は、撮像信号を用いて、画像を生成する。
このように、本実施形態によれば、第1乃至第5実施形態による光電変換装置10を適用した撮像システムを実現することができる。
[第4実施形態]
本実施形態における撮像システム及び移動体について説明する。図12は、本実施形態に係る撮像システム及び移動体の構成を示す図である。
図12(a)は、車載カメラに関する撮像システムの一例を示したものである。撮像システム300は、撮像装置310を有する。撮像装置310は、上記第1乃至第6実施形態のいずれかに記載の光電変換装置10である。撮像システム300は、撮像装置310により取得された複数の画像データに対し、画像処理を行う画像処理部312と、撮像システム300により取得された複数の画像データから視差(視差画像の位相差)の算出を行う視差取得部314を有する。また、撮像システム300は、算出された視差に基づいて対象物までの距離を算出する距離取得部316と、算出された距離に基づいて衝突可能性があるか否かを判定する衝突判定部318と、を有する。ここで、視差取得部314や距離取得部316は、対象物までの距離情報を取得する距離情報取得手段の一例である。すなわち、距離情報とは、視差、デフォーカス量、対象物までの距離等に関する情報である。衝突判定部318はこれらの距離情報のいずれかを用いて、衝突可能性を判定してもよい。距離情報取得手段は、専用に設計されたハードウェアによって実現されてもよいし、ソフトウェアモジュールによって実現されてもよい。また、FPGA(Field Programmable Gate Array)やASIC(Application Specific Integrated circuit)等によって実現されてもよいし、これらの組合せによって実現されてもよい。
撮像システム300は車両情報取得装置320と接続されており、車速、ヨーレート、舵角などの車両情報を取得することができる。また、撮像システム300は、衝突判定部318での判定結果に基づいて、車両に対して制動力を発生させる制御信号を出力する制御手段である制御ECU330が接続されている。また、撮像システム300は、衝突判定部318での判定結果に基づいて、ドライバーへ警報を発する警報装置340とも接続されている。例えば、衝突判定部318の判定結果として衝突可能性が高い場合、制御ECU330はブレーキをかける、アクセルを戻す、エンジン出力を抑制するなどして衝突を回避、被害を軽減する車両制御を行う。警報装置340は音等の警報を鳴らす、カーナビゲーションシステムなどの画面に警報情報を表示する、シートベルトやステアリングに振動を与えるなどしてユーザに警告を行う。
本実施形態では、車両の周囲、例えば前方又は後方を撮像システム300で撮像する。図12(b)は、車両前方(撮像範囲350)を撮像する場合の撮像システムを示す。車両情報取得装置320が、撮像システム300ないしは撮像装置310に指示を送る。このような構成により、測距の精度をより向上させることができる。
上記では、他の車両と衝突しないように制御する例を説明したが、他の車両に追従して自動運転する制御や、車線からはみ出さないように自動運転する制御などにも適用可能である。更に、撮像システムは、自車両等の車両に限らず、例えば、船舶、航空機あるいは産業用ロボットなどの移動体(移動装置)に適用することができる。加えて、移動体に限らず、高度道路交通システム(ITS)等、広く物体認識を利用する機器に適用することができる。
[第5実施形態]
本実施形態における機器について説明する。図13は、本実施形態に係る機器の概略構成を示すブロック図である。
図13は、光電変換装置APRを含む機器EQPを示す模式図である。光電変換装置APRは、第1実施形態の光電変換装置10の機能を備える。光電変換装置APRの全部又は一部が、半導体デバイスICである。本例の光電変換装置APRは、例えば、イメージセンサやAF(Auto Focus)センサ、測光センサ、測距センサとして用いることができる。半導体デバイスICは、光電変換部を含む画素回路PXCが行列状に配列された画素エリアPXを有する。半導体デバイスICは画素エリアPXの周囲に周辺エリアPRを有することができる。周辺エリアPRには画素回路以外の回路を配置することができる。
光電変換装置APRは、複数の光電変換部が設けられた第1半導体チップと、周辺回路が設けられた第2半導体チップとを積層した構造(チップ積層構造)を有していてもよい。第2半導体チップにおける周辺回路は、ぞれぞれ、第1半導体チップの画素列に対応した列回路とすることができる。また、第2半導体チップにおける周辺回路は、それぞれ、第1半導体チップの画素あるいは画素ブロックに対応したマトリクス回路とすることもできる。第1半導体チップと第2半導体チップとの接続は、貫通電極(TSV)、銅等の導電体の直接接合によるチップ間配線、チップ間のマイクロバンプによる接続、ワイヤボンディングによる接続などを採用することができる。
光電変換装置APRは、半導体デバイスICの他に、半導体デバイスICを収容するパッケージPKGを含みうる。パッケージPKGは、半導体デバイスICが固定された基体と、半導体デバイスICに対向するガラス等の蓋体と、基体に設けられた端子と半導体デバイスICに設けられた端子とを接続するボンディングワイヤやバンプ等の接続部材と、を含みうる。
機器EQPは、光学装置OPT、制御装置CTRL、処理装置PRCS、表示装置DSPL、記憶装置MMRY、機械装置MCHNのうちの少なくともいずれかを更に備えうる。光学装置OPTは、光電変換装置としての光電変換装置APRに対応するものであり、例えばレンズやシャッター、ミラーである。制御装置CTRLは、光電変換装置APRを制御するものであり、例えばASICなどの半導体デバイスである。処理装置PRCSは、光電変換装置APRから出力された信号を処理するものであり、AFE(アナログフロントエンド)あるいはDFE(デジタルフロントエンド)を構成する。処理装置PRCSは、CPU(中央処理装置)やASIC(特定用途向け集積回路)などの半導体デバイスである。表示装置DSPLは、光電変換装置APRで得られた情報(画像)を表示する、EL表示装置や液晶表示装置である。記憶装置MMRYは、光電変換装置APRで得られた情報(画像)を記憶する、磁気デバイスや半導体デバイスである。記憶装置MMRYは、SRAMやDRAMなどの揮発性メモリ、或いは、フラッシュメモリやハードディスクドライブなどの不揮発性メモリである。機械装置MCHNは、モーターやエンジン等の可動部あるいは推進部を有する。機器EQPでは、光電変換装置APRから出力された信号を表示装置DSPLに表示したり、機器EQPが備える通信装置(不図示)によって外部に送信したりする。そのために、機器EQPは、光電変換装置APRが有する記憶回路部や演算回路部とは別に、記憶装置MMRYや処理装置PRCSを更に備えることが好ましい。
図13に示した機器EQPは、撮影機能を有する情報端末(例えばスマートフォンやウエアラブル端末)やカメラ(例えばレンズ交換式カメラ、コンパクトカメラ、ビデオカメラ、監視カメラ)などの電子機器でありうる。カメラにおける機械装置MCHNはズーミングや合焦、シャッター動作のために光学装置OPTの部品を駆動することができる。また、機器EQPは、車両や船舶、飛行体などの輸送機器(移動体)でありうる。また、機器EQPは、内視鏡やCTスキャナーなどの医療機器でありうる。また、機器EQPは、内視鏡やCTスキャナーなどの医療機器でありうる。
輸送機器における機械装置MCHNは移動装置として用いられうる。輸送機器としての機器EQPは、光電変換装置APRを輸送するものや、撮影機能により運転(操縦)の補助及び/又は自動化を行うものに好適である。運転(操縦)の補助及び/又は自動化のための処理装置PRCSは、光電変換装置APRで得られた情報に基づいて移動装置としての機械装置MCHNを操作するための処理を行うことができる。
本実施形態による光電変換装置APRは、その設計者、製造者、販売者、購入者及び/又は使用者に、高い価値を提供することができる。そのため、光電変換装置APRを機器EQPに搭載すれば、機器EQPの価値も高めることができる。よって、機器EQPの製造、販売を行う上で、本実施形態の光電変換装置APRの機器EQPへの搭載を決定することは、機器EQPの価値を高める上で有利である。
[他の実施形態]
本発明は、上述の実施形態に限らず種々の変形が可能である。例えば、いずれかの実施形態の一部の構成を他の実施形態に追加した例、他の実施形態の一部の構成と置換した例も、本発明の実施形態である。
なお、上述の実施形態は、いずれも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならない。すなわち、本発明はその技術思想、またはその主要な特徴から逸脱することなく、様々な形で実施することができる。
10 光電変換装置
11 画素部
11a 開口領域
11b~11d OB領域
110 画素
12 駆動部
14 読み出し部
15 信号処理部
151、152 CDS部
153 メモリ
150 OBクランプ部
1503 第1処理部
1504 第2処理部

Claims (19)

  1. 行列状に配置された複数の画素を含む画素部と、
    第1の領域における前記画素を第1の方法で駆動し、第2の領域における前記画素を第2の方法で駆動する駆動部と、
    前記第1の領域及び前記第2の領域から読み出された画素値に基づき補正値を演算する演算部と、
    前記補正値に基づき、入射光に応じた画素値のオフセットを補正する補正部とを備え、
    前記演算部は、
    前記第1の領域から読み出された第1の画素値に基づき複数の第1の補正成分のそれぞれの初期値を算出し、
    前記第2の領域から読み出された第2の画素値及び所定の第2の補正成分に基づき、前記複数の第1の補正成分のそれぞれを更新し、
    更新された前記第1の補正成分及び前記第2の補正成分を用いて前記補正値を算出することを特徴とする光電変換装置。
  2. 前記第2の補正成分は、前記第2の画素値と、前記複数の第1の補正成分のうちの1つとから算出されることを特徴とする請求項1に記載の光電変換装置。
  3. 前記第2の補正成分は、前記第2の画素値と前記複数の第1の補正成分のうちの1つとの差分から算出されることを特徴とする請求項1または2に記載の光電変換装置。
  4. 前記複数の第1の補正成分は、複数の前記第1の画素値の代表値であることを特徴とする請求項1乃至3のいずれか1項に記載の光電変換装置。
  5. 前記複数の第1の補正成分は、複数の前記第1の画素値の平均値であることを特徴とする請求項1乃至4のいずれか1項に記載の光電変換装置。
  6. 前記画素部の列に対応して設けられた複数の信号線を備え、
    前記第1の補正成分は、前記信号線ごとに算出され、
    前記第2の補正成分は、前記複数の前記信号線に共通であって、前記画素部の行に応じた値であることを特徴とする請求項1乃至5のいずれか1項に記載の光電変換装置。
  7. 前記画素は複数の色画素を含み、
    前記第1の補正成分は、さらに前記色画素の色ごとに算出されることを特徴とする請求項6に記載の光電変換装置。
  8. 前記画素は第1の光電変換部及び第2の光電変換部を備え、
    前記第1の補正成分は、さらに前記第1の光電変換部及び前記第2の光電変換部のそれぞれの電荷の読み出し方法ごとに算出されることを特徴とする請求項6または7に記載の光電変換装置。
  9. 前記第1の方法及び前記第2の方法は蓄積時間において異なることを特徴とする請求項1に記載の光電変換装置。
  10. 前記第1の方法は、所定の領域を繰り返し読み出す巡回読み出しであることを特徴とする請求項1乃至9のいずれか1項に記載の光電変換装置。
  11. ISO感度、温度、前記駆動部による駆動方法の少なくともいずれかによって前記巡回読み出しの回数を変更することを特徴とする請求項10に記載の光電変換装置。
  12. 前記信号線の識別子が「i」、前記第2の画素値が「S」、前記第1の補正成分が「Va」、前記第2の補正成分が「Vb」でそれぞれ表される場合、
    第iの前記信号線の第Nの水平走査期間における前記第1の補正成分(Vai,N)は、前記第2の画素値と前記第2の補正成分との差分(Si,N-Vb(N-1))に基づき、水平走査期間ごとに算出されることを特徴とする請求項6に記載の光電変換装置。
  13. IIR(Infinite Impulse Response)処理の係数A1が0<A1<1である場合、前記第1の補正成分(Vai,N)は、
    Vai,N={Vai,(N-1)×A1+(Si,N-Vb(N-1))×(1-A1)}
    の式に従い算出されることを特徴とする請求項12に記載の光電変換装置。
  14. 第Nの水平走査期間における前記第2の補正成分(Vb)は、前記第2の画素値と前記第1の補正成分との差分(Si,N-Vai,N)に基づき算出されることを特徴とする請求項12または13に記載の光電変換装置。
  15. IIR(Infinite Impulse Response)処理の係数Aが0<A<1である場合、前記第2の補正成分(Vb)は、
    Vb={V /2)×A2+(Si,N-Vai,N)×(1-A2)}
    の式に従い算出されること特徴とする請求項12乃至14のいずれか1項に記載の光電変換装置。
  16. 前記第1の領域における水平走査期間数が「N1」、前記第1の画素値が「R」、第1~第N1のうちの第kの水平走査期間が「k」で表される場合、前記第1の補正成分(Va)の前記初期値は、
    の式に従い算出されることを特徴とする請求項12乃至15のいずれか1項に記載の光電変換装置。
  17. 請求項1乃至16のいずれか1項に記載の光電変換装置と、
    前記光電変換装置から出力される信号を処理する信号処理部と
    を有することを特徴とする撮像システム。
  18. 移動体であって、
    請求項1乃至16のいずれか1項に記載の光電変換装置と、
    前記光電変換装置からの信号に基づく視差画像から、対象物までの距離情報を取得する距離情報取得手段と、
    前記距離情報に基づいて前記移動体を制御する制御手段と
    を有することを特徴とする移動体。
  19. 請求項1乃至16のいずれか1項に記載の光電変換装置と、
    前記光電変換装置に対応する光学装置、
    前記光電変換装置を制御する制御装置、
    前記光電変換装置から出力された信号を処理する処理装置、
    前記光電変換装置で得られた情報に基づいて制御される機械装置、
    前記光電変換装置で得られた情報を表示する表示装置、及び、
    前記光電変換装置で得られた情報を記憶する記憶装置、の少なくともいずれかと
    を備えることを特徴とする機器。
JP2021198679A 2021-12-07 2021-12-07 光電変換装置、画像処理方法、撮像システム、移動体、及び機器 Active JP7828163B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2021198679A JP7828163B2 (ja) 2021-12-07 2021-12-07 光電変換装置、画像処理方法、撮像システム、移動体、及び機器
US18/057,870 US12262155B2 (en) 2021-12-07 2022-11-22 Photoelectric conversion device, image processing method, imaging system, mobile body, and equipment

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021198679A JP7828163B2 (ja) 2021-12-07 2021-12-07 光電変換装置、画像処理方法、撮像システム、移動体、及び機器

Publications (3)

Publication Number Publication Date
JP2023084483A JP2023084483A (ja) 2023-06-19
JP2023084483A5 JP2023084483A5 (ja) 2024-12-16
JP7828163B2 true JP7828163B2 (ja) 2026-03-11

Family

ID=86607151

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021198679A Active JP7828163B2 (ja) 2021-12-07 2021-12-07 光電変換装置、画像処理方法、撮像システム、移動体、及び機器

Country Status (2)

Country Link
US (1) US12262155B2 (ja)
JP (1) JP7828163B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2024040915A (ja) 2022-09-13 2024-03-26 キヤノン株式会社 光電変換装置、光電変換システム、機器および移動体

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007300179A (ja) 2006-04-27 2007-11-15 Fujitsu Ltd 画像処理方法及び画像処理回路
JP2009005329A (ja) 2007-05-21 2009-01-08 Canon Inc 撮像装置及びその処理方法
JP2010068056A (ja) 2008-09-08 2010-03-25 Sony Corp 撮像装置、黒レベルの調整方法およびプログラム
US20190238770A1 (en) 2018-02-01 2019-08-01 Sony Semiconductor Solutions Corporation Hybrid calibration method for row and column noise correction

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013027513A1 (ja) 2011-08-19 2013-02-28 富士フイルム株式会社 撮像装置及びシェーディング補正方法
JP2013106186A (ja) 2011-11-14 2013-05-30 Canon Inc 撮像装置
JP6346479B2 (ja) * 2013-05-16 2018-06-20 キヤノン株式会社 撮像装置、撮像装置の制御方法及びプログラム
JP2015082732A (ja) * 2013-10-22 2015-04-27 株式会社東芝 固体撮像装置
JP6494214B2 (ja) * 2014-08-11 2019-04-03 キヤノン株式会社 固体撮像装置、撮像システム及び固体撮像装置の駆動方法
JP6319140B2 (ja) 2015-03-03 2018-05-09 株式会社Jvcケンウッド 画像処理装置
US9961255B2 (en) * 2016-02-09 2018-05-01 Canon Kabushiki Kaisha Image capturing apparatus, control method thereof, and storage medium
JP6739404B2 (ja) * 2017-06-29 2020-08-12 ルネサスエレクトロニクス株式会社 撮像素子
JP2020145555A (ja) 2019-03-05 2020-09-10 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
US11237270B2 (en) * 2019-06-20 2022-02-01 Cilag Gmbh International Hyperspectral, fluorescence, and laser mapping imaging with fixed pattern noise cancellation
JP7417560B2 (ja) 2021-06-17 2024-01-18 キヤノン株式会社 光電変換装置、光電変換システム、輸送機器および信号処理装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007300179A (ja) 2006-04-27 2007-11-15 Fujitsu Ltd 画像処理方法及び画像処理回路
JP2009005329A (ja) 2007-05-21 2009-01-08 Canon Inc 撮像装置及びその処理方法
JP2010068056A (ja) 2008-09-08 2010-03-25 Sony Corp 撮像装置、黒レベルの調整方法およびプログラム
US20190238770A1 (en) 2018-02-01 2019-08-01 Sony Semiconductor Solutions Corporation Hybrid calibration method for row and column noise correction

Also Published As

Publication number Publication date
JP2023084483A (ja) 2023-06-19
US20230179751A1 (en) 2023-06-08
US12262155B2 (en) 2025-03-25

Similar Documents

Publication Publication Date Title
JP7171649B2 (ja) 撮像装置および撮像システム
US11843880B2 (en) Photoelectric conversion device
JP6664259B2 (ja) 撮像装置、撮像システム、および、移動体
JP7814955B2 (ja) 光電変換装置及びその駆動方法
US12363463B2 (en) Photoelectric conversion device and method of driving photoelectric conversion device
US12108179B2 (en) Photoelectric conversion device and imaging system
JP7828163B2 (ja) 光電変換装置、画像処理方法、撮像システム、移動体、及び機器
JP7680860B2 (ja) 光電変換装置及び撮像システム
US20240284076A1 (en) Photoelectric conversion device, photoelectric conversion system, movable object and equipment
JP7551558B2 (ja) 信号処理装置
JP2024073687A (ja) 光電変換装置及び撮像システム
JP7598399B2 (ja) 信号処理装置及び光電変換装置
US12284453B2 (en) Photoelectric conversion device, imaging system, movable object, equipment, signal processing device and signal processing method
US12483810B2 (en) Photoelectric conversion device, photoelectric conversion system, movable object and equipment
US20250267379A1 (en) Photoelectric conversion device
US20250365522A1 (en) Photoelectric conversion device and photoelectric conversion system
US12369414B2 (en) Photoelectric conversion device
US20250184633A1 (en) Photoelectric conversion device and signal processing device
US20260025602A1 (en) Photoelectric conversion apparatus, imaging apparatus, and equipment
CN117041750A (zh) 光电转换装置、成像系统、移动体、装备、信号处理装置和信号处理方法
JP2025162300A (ja) 光電変換装置、機器
JP2026023659A (ja) 光電変換装置、光電変換システム、機器、光電変換装置の信号処理方法
WO2025126662A1 (ja) 光電変換装置、光電変換システム、移動体及び機器
JP2023042083A (ja) 光電変換装置
JP2025038583A (ja) 光電変換装置、機器、および信号処理方法

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20220630

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20241206

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20241206

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20250912

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20251002

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20251127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20260129

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20260227