JP2021166377A - 光電変換装置、撮像システム、移動体 - Google Patents

光電変換装置、撮像システム、移動体 Download PDF

Info

Publication number
JP2021166377A
JP2021166377A JP2021002274A JP2021002274A JP2021166377A JP 2021166377 A JP2021166377 A JP 2021166377A JP 2021002274 A JP2021002274 A JP 2021002274A JP 2021002274 A JP2021002274 A JP 2021002274A JP 2021166377 A JP2021166377 A JP 2021166377A
Authority
JP
Japan
Prior art keywords
pixel
signal
pixels
photoelectric conversion
processing circuit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2021002274A
Other languages
English (en)
Other versions
JP7225271B2 (ja
Inventor
穂高 草野
Hodaka Kusano
和男 山崎
Kazuo Yamazaki
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to CN202110340430.8A priority Critical patent/CN113497905B/zh
Priority to US17/218,330 priority patent/US11641530B2/en
Publication of JP2021166377A publication Critical patent/JP2021166377A/ja
Application granted granted Critical
Publication of JP7225271B2 publication Critical patent/JP7225271B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)

Abstract

【課題】新規のノイズ低減処理を行う光電変換装置を提供する。【解決手段】光電変換装置は、それぞれが複数行および複数列に渡って配された複数の有効画素および複数の遮光画素と、複数の垂直出力線と、信号処理回路とを備え、前記複数の遮光画素のうち第1の行の遮光画素である第1の遮光画素から前記複数の垂直出力線のうちの第1の垂直出力線に画素信号が出力されている期間に、前記複数の遮光画素のうちの第2の行の遮光画素である第2の遮光画素から前記複数の垂直出力線のうちの第2の垂直出力線に画素信号が出力され、前記信号処理回路は、前記第1の遮光画素の前記画素信号と前記第2の遮光画素の前記画素信号とをフィルタ処理して得られる補正信号を用いて、前記有効画素から出力される有効画素信号を補正する。【選択図】図1

Description

本発明は、光電変換装置、撮像システム、移動体に関する。
近年、デジタルスチルカメラ、ビデオカメラ、あるいは携帯電話等に搭載される光電変換装置の開発が行われている。例えば、光電変換装置として、CCD(Charge Coupled Devices)センサやCMOS(Complementary Metal Oxide Semiconductor)センサが広く知られている。CMOSセンサは、CCDセンサと比較して、低消費電力、高速読み出し、システムオンチップ化可能といった特長を備えているため注目度が高まっている。
CMOSセンサは、フローティングディフュージョンアンプ等による増幅回路を画素ごとに備えている。画素信号を読み出す際は、行方向及び列方向にマトリクス状に配置された画素アレイ部の中のある1行を選択し、その選択された1行に位置する全画素の画素信号を同時に読み出す方式が多く用いられている。
このため、CMOSセンサでは、構成上、横1ラインに一様のオフセット性ノイズ(以下、横縞ノイズと呼ぶ)が発生する問題がある。これに対して、従来の撮像装置では、イメージセンサにおける遮光画素でのオプティカルブラック(以下、OBと呼ぶ)信号を用いて、横縞ノイズの補正を行うものがあった。
特許文献1には、OB領域の複数の水平ラインの画素信号の平均値を用いて、有効画素の画素信号をクランプ(補正)するクランプ回路と、水平ラインごとに画素信号の平均値を演算して有効画素の画素信号をクランプするクランプ回路の記載がある。そして、OB領域を用いて横縞ノイズを検出する検出ブロックの記載がある。ここでは、検出ブロックが線キズを検出したか否かに応じて、2種類のクランプ回路を切り替えて、クランプ(ライン平均クランプ)によって横縞ノイズの影響を低減している。
特開2013−106186号公報
しかしながら、特許文献1におけるノイズの低減処理は検討が充分では無い。横縞ノイズが画面全体に発生した場合には、常に、水平ラインごとの平均値を演算する必要がある。
本発明は、より好適にノイズを低減した光電変換装置を提供する。
本発明の1つの態様は、
それぞれが複数行および複数列に渡って配された複数の有効画素および複数の遮光画素と、複数の垂直出力線と、信号処理回路とを備え、
前記複数の遮光画素のうちの第1の行の遮光画素である第1の遮光画素から前記複数の垂直出力線のうちの第1の垂直出力線に画素信号が出力されている期間に、前記複数の遮光画素のうちの第2の行の遮光画素である第2の遮光画素から前記複数の垂直出力線のう
ちの第2の垂直出力線に画素信号が出力され、
前記信号処理回路は、前記第1の遮光画素の前記画素信号と前記第2の遮光画素の前記画素信号とをフィルタ処理して得られる補正信号を用いて、前記有効画素から出力される有効画素信号を補正することを特徴とする光電変換装置である。
本発明によれば、より好適にノイズを低減した光電変換装置を提供することができる。
実施形態1に係る光電変換装置の回路構成を示す図である。 実施形態1に係る画素信号の読み出し処理のフローチャートである。 実施形態1に係る信号処理回路の処理を説明する図である。 実施形態2に係る信号処理回路の処理を説明する図である。 実施形態3に係る信号処理回路の処理を説明する図である。 実施形態3に係る信号処理回路の処理を説明する図である。 実施形態4に係る信号処理回路の処理を説明する図である。 実施形態4に係る信号処理回路の処理を説明する図である。 実施形態3に係る信号処理回路の処理のフローチャートである。 実施形態4に係る信号処理回路の処理のフローチャートである。 実施形態5に係るカメラシステムの構成図である。 実施形態6に係る撮像システムの構成例を表す図である。 実施形態7に係る撮像システムおよび移動体の構成例を表す図である。
以下、図面を用いて本発明に係る実施形態を説明する。なお、上述した各実施形態は、矛盾が生じない限り任意に組み合わせることができる。また、以下に述べる各実施形態では、光電変換装置の一例として、撮像装置を中心に説明する。ただし、各実施形態は、撮像装置に限られるものではなく、光電変換装置の他の例にも適用可能である。例えば、測距装置(焦点検出やTOF(Time Of Flight)を用いた距離測定等の装置)、測光装置(入射光量の測定等の装置)などがある。
<実施形態1>
[光電変換装置の構成]
図1を参照して、実施形態1に係る光電変換装置10(光電変換装置)の回路構成について説明する。図1は、実施形態1に係る光電変換装置10の回路構成を示す。光電変換装置10は、画素領域100、垂直出力線VL1〜VL4、水平読み出し回路106−1〜106−8、信号処理回路107−1,107−2、列読み出し回路110−1,110−2を有する。
画素領域100は、8列×8行のマトリクス状の(2次元的に画素が配列された;複数列および複数行の画素からなる)画素アレイを有する。画素領域100は、遮光画素領域101および有効画素領域102(開口画素領域)を有する。遮光画素領域101と有効画素領域102は、それぞれ4列×8行の画素によって構成されている。以下では、遮光画素領域101が有する画素をOB(オプティカルブラック)画素または遮光画素と呼び、有効画素領域102が有する画素を有効画素(開口画素)と呼ぶ。また、OB画素の信号(遮光画素信号)の平均値などを経た信号を用いて、有効画素の信号(有効画素信号)を補正することを「クランプ(OBクランプ)」と呼ぶ。なお、上述した画素領域100、遮光画素領域101、有効画素領域102における画素の配列(画素の数)は、上述した限りではなく、画素領域100における同一の行に有効画素およびOB画素が存在すれば任意の数の画素の2次元的な配列であってもよい。
また、画素領域100は、ベイヤー配列のカラーフィルタを有している。図1において、Rはレッド画素を示し、GrおよびGbはグリーン画素を示し、Bはブルー画素を示している。また、図1では、8列×8行のマトリクスに応じて、画素R11〜B44まで画素配置に応じた番号が付してある。
垂直出力線VL1〜VL4は、画素配列の1列ごとに配置されている。全ての列に対応する垂直出力線VL1〜VL4によって、画素領域100の全ての列の画素から信号を取得する(読み出す)ことができる。
列読み出し回路110−1,110−2は、垂直出力線VL1〜VL4によって取得された(読み出された)信号を読み出す。列読み出し回路110−1,110−2は、垂直出力線VL1〜VL4の電流源や、列ゲインアンプ、列AD、列メモリなどの回路を含む。なお、本実施形態では、垂直出力線1本ごとに対応した、列読み出し回路110−1,110−2における列回路一列分をそれぞれ、列読み出し部103−1〜103−32としている。
水平読み出し回路106−1〜106−8は、列読み出し回路110−1,110−2が読み出した信号を、画素の列ごとに読み出す。このように、光電変換装置10は、水平読み出し回路106−1〜106−8までの8組を有している。以下では、8組の水平読み出し回路106−1〜106−8をそれぞれ、チャンネル1ch〜8chと呼ぶ。本実施形態では、垂直出力線VL1〜VL4が読み出した画素信号それぞれは、2つのチャンネルに分割される。
信号処理回路107−1,107−2は、水平読み出し回路106−1〜106−8により読み出された信号を処理する。信号処理回路107−1,107−2には、チャンネルごとに信号処理をする処理回路104−1〜104−8と、複数のチャンネルについて共通の処理を行う処理回路105−1,105−2が含まれる。
[画素の信号の読み出し方法]
次に、画素の信号を水平読み出し回路106−1〜106−8が読み出すまでの読み出し方法について、図1の回路構成図および図2のフローチャートを用いて説明する。
(S1001)
画素R11〜B24までの8列×4行の32画素の信号(画素信号)がそれぞれ、同時に垂直出力線VL1〜VL4によって読み出される(取得される)。本実施形態では、1行目の画素(画素R11〜Gr14)の画素信号が垂直出力線VL2によって読み出され、2行目の画素(画素Gb11〜B14)の画素信号が垂直出力線VL1によって読み出される。同様に、3行目の画素(画素R21〜Gr24)の画素信号が垂直出力線VL4によって読み出され、4行目の画素(画素Gb21〜B24)の画素信号が垂直出力線VL3によって読み出される。なお、画素R11〜B24までの32画素の信号は、それぞれ対応する垂直出力線に同一のタイミングで(同一の期間において)読み出されるように制御されている。例えば、1行目の画素の画素信号が垂直出力線VL2によって読み出されている期間に、3行目の画素の画素信号が垂直出力線VL4によって読み出される。
(S1002)
垂直出力線VL1〜VL4に読み出された32画素分の画素信号は、列読み出し回路110−1に16画素分が読み出されて、列読み出し回路110−2に16画素分が読み出される。本実施形態では、垂直出力線VL1,VL3によって読み出された画素信号が列読み出し回路110−2に読み出され、垂直出力線VL2,VL4によって読み出された
画素信号が列読み出し回路110−1に読み出される。なお、列読み出し回路110−1,110−2による画素信号の読み出しも、32画素分がほぼ同時に(同一の期間において)行われるように制御されている。
(S1003)
列読み出し回路110−1,110−2は、読み出した画素信号に対して、信号増幅やAD変換処理などのアナログ処理を行う。このとき、信号増幅やAD変換処理は、上下に分かれた32画素分の画素信号についてほぼ同一のタイミングで(同一の期間において)行われるように制御される。
なお、光電変換装置10による画素信号の読み出し方式によっては、マルチサンプリングや列ごとにオフセットをつける動作を行うなどの読み出しを行い、ランダムノイズや固定パターンノイズを低減させる方法が存在する。これらの方法では、都合上、タイミング制御をずらす駆動例もある。しかしながら、S1003において32画素分の画素信号に対するアナログ処理の同時性は、次の32画素(画素R31〜B44)分の画素信号の読み出しまでのタイミングに比べると、十分に同時性が高いといえる。
(S1004)
32画素分の画素信号は、列読み出し回路110−1,110−2が有する列メモリに同時に(同一の期間において)一時保存される。
(S1005)
水平読み出し回路106−1〜106−8によって、8画素ごとに画素信号が順次読み出される。本実施形態では、列読み出し回路110−1によってアナログ処理された画素信号が水平読み出し回路106−1,106−3,106−5,106−7により読み出される。一方、列読み出し回路110−2によってアナログ処理された画素信号が水平読み出し回路106−2,106−4,106−6,106−8により読み出される。
S1005の処理が終了した後、S1001〜S1005と同様の処理が、次の4行8列の画素R31〜B44の32画素について行われる。
ここで、S1003において信号増幅やAD変換処理などのアナログ処理を行う際などに、電源やGND(グラウンド;アース)の変動に起因したノイズ(横縞ノイズ)が発生する。この横縞ノイズは、画素からの画素信号の読み出しから列メモリでの一時保存までのタイミングが同時であれば、原理的に各画素の画素信号において同じレベルのノイズ量である。
従って、本実施形態に係る読み出し方法を用いる場合には、画素R11〜B24までの8列×4行についての画素信号は同一の或る横縞ノイズを有しており、画素R31〜B44までの8列×4行についての画素信号は同一の他の横縞ノイズを有する。
これらの横縞ノイズを除去するために、同一の行に存在するOB画素の画素信号の平均値を求めて、有効画素の画素信号と当該平均値との差分を取る方法がある。しかしながら、OB画素の画素信号の平均値を取得する際には、OB画素ごとに独立したランダムノイズの影響を受ける。このため、電源やGNDの変動に起因した横縞ノイズのみをOB画素から抽出するためには、多くのOB画素の画素信号を平均してランダムノイズの影響を低減することが望ましい。
一般的に、電源やGNDの変動に起因した横縞ノイズは、画素に起因するランダムノイズに比べて非常に小さい。しかしながら、横縞ノイズは、ランダムノイズと違い横線に見
えるため、ノイズレベルが小さくても画質への影響が大きい。
例えば、平均化した画像信号での横縞ノイズの推定誤差を、平均化する前のOB画素の画素信号における横縞ノイズの推定誤差の1/10にするためには、同一の行に存在する多くのOB画素を用いて平均化する必要があった。本実施形態では、OB画素は一行あたり4画素であるが、推定誤差を十分に小さくするための平均化に必要な画素数は、一般的には50〜100画素程度である。従って、一行あたり4画素の画素数では、横縞ノイズを除去するのに十分な画素数ではない。しかしながら、水平方向のOB画素を増やすことは、コストアップや高速化の妨げなどにつながり現実的ではない場合がある。
[信号処理回路の処理]
図3を参照して、本実施形態に係る信号処理回路107−1,107−2による、有効画素の画素信号(有効画素信号)から横縞ノイズ成分を除去するためのクランプ処理について詳細に説明する。図3は、信号処理回路107−1の処理の一部を説明する図である。なお、信号処理回路107−2の処理については、信号処理回路107−1の処理と同様であるため省略する。
なお、図3では、信号処理回路107−1に入力される画素信号の信号値を「〜v」と記しており、例えば、画素R23の画素信号の信号値を「R23v」と記している。また、クランプ処理後の画素信号の信号値を「〜out」と記しており、例えば、画素Gr23の画素信号のクランプ処理後の信号値を「Gr23out」と記している。
信号処理回路107−1は、水平読み出し回路106−1,106−3,106−5,106−7から画素信号が入力され、画素信号に対してデジタル信号処理を行う回路である。信号処理回路107−1は、デジタルのS−N動作やデジタルOBクランプの減算処理、黒レベルオフセット付加処理などを行う。
本実施形態において、信号処理回路107−1は、チャンネルごとに信号を処理する処理回路104−1,104−3,104−5,104−7と、4つのチャンネルについて共通の処理を行う処理回路105−1とを有する。ここで、図3の処理回路104−1,104−3,105−5,107−7と処理回路105−1に記載の式について説明する。図3の各処理回路に記載された上段の式は、画素R11〜Gr14,R21〜Gr24から画素信号が読み出された時刻における処理を表し、下段の式は、画素R31〜Gr34,R41〜Gr44から画素信号が読み出された時刻における処理を表している。
処理回路104−1には、水平読み出し回路106−1から画素信号が入力され、処理回路104−3には、水平読み出し回路106−3から画素信号が入力される。同様に、処理回路104−5には、水平読み出し回路106−5から画素信号が入力され、処理回路104−7には、水平読み出し回路106−7から画素信号が入力される。また、処理回路105−1には、水平読み出し回路106−1,106−3,106−5,106−7の全てから画素信号が入力される。
処理回路105−1は、チャンネル間の共通の値として、4つのチャンネルのOB画素の画素信号を平均化して(フィルタ処理をして)クランプ値CLMPを求める。クランプ値CLMPは、同時に読み出す行単位で算出される。本実施形態に係るクランプ値CLMPは、タイミングごとの横縞ノイズ成分を示す信号値(補正信号)である。図3にて、同時に読み出されるOB画素R11〜Gr12,R21〜Gr22の画素信号の平均値がクランプ値CLMP1であり、次のタイミングで読み出されるOB画素R31〜Gr32,R41〜Gr42の画素信号の平均値がクランプ値CLMP2である。例えば、クランプ値CLMP1は、OB画素の画素信号の信号値R11v,Gr11v,R12v,Gr1
2v,R21v,Gr21v,R22v,Gr22vを平均化した値である。なお、処理回路105−1は、クランプ値CLMPを、処理回路104−1,104−3,104−5,104−7のそれぞれに出力する。
処理回路104−1,104−3,104−5,104−7はそれぞれ、クランプ値CLMPを、自身に入力された有効画素の画素信号から減算する処理(クランプ処理)を行う。例えば、処理回路104−1には、水平読み出し回路106−1から有効画素R13,R14の画素信号の信号値R13v,R14vが入力され、処理回路105−1からクランプ値CLMP1が入力される。このため、処理回路104−1は、画素信号の信号値R13v,R14vからそれぞれクランプ値CLMP1を減算することによって、クランプ処理後の画素信号の信号値R13out,R14outを取得する。
ここで、本実施形態では、複数の行の画素の画素信号が同時に読み出されれば、これらの画像信号における横縞ノイズが、電源やGNDの変動に起因したノイズ成分と同じノイズレベルであることに着目している。このため、異なる垂直出力線に対応する画素(異なる行の画素)であっても平均化処理に用いることができるので、多くの画素の画素信号から平均値を取得することができる。従って、水平方向にOB画素が多く存在しない場合にも、OB画素の画素信号の平均化におけるランダムノイズの影響を圧縮することができる。つまり、有効画素の画素信号から、精度高く横縞ノイズを除去することができる。
例えば、垂直出力線が4線で、OB画素が100列である場合、上下に2線ずつ読み出しを分けたとしても200画素の画素信号の平均を取得することができる。この場合、ランダムノイズの影響による、平均した画素信号における横縞ノイズの推定誤差を、平均化しない場合の横縞ノイズの推定誤差の1/√200すなわち約1/14程度に抑えることができる。
また、本実施形態では、垂直出力線が画素1列あたり4本の例を示したが、2本以上であれば同様効果を得ることができる。なお、画素1列あたりの垂直出力線の数は同時に読み出せる行の数を示すので、垂直出力線は8本や12本など、本数が多いほどより効果が高い。また、垂直出力線VL1〜VL4は、本実施形態のように、OB画素と同数の有効画素との画素信号を同一のタイミングで取得することが望ましい。しかし、垂直出力線VL1〜VL4が、複数の行に渡って存在する複数のOB画素の複数の画素信号と、当該複数の行の少なくともいずれかの有効画素の画素信号とを同一のタイミングで取得すれば、当該有効画素のクランプ処理は可能である。
また、信号処理回路107−1,107−2の2つに分けて信号処理を行っているが、全画素まとめて1つの信号処理回路が信号処理を行ってもよい。さらに、本実施形態では、平均化(フィルタ処理)に関して単純平均を用いているが、例えば、メディアン値を用いたり、キズ画素の画素信号を除いて平均化を行ったり、フィルタを用いた重みづけの平均値を用いても、本実施形態の効果は得ることができる。
<実施形態2>
複数の垂直出力線間において、画素領域内のレイアウトの制約上、配線容量が異なることが多い。また、同じ垂直出力線であっても、R画素に接続されるものとGr画素に接続されるものとでは特性が異なる。このような垂直出力線または色ごとの特性の違いの補正のために、チャンネルごとにOB画素の画素信号の平均値を取得し、この平均値を有効画素の画素信号から減算することで、チャンネルごとの差異(オフセット)を補正するクランプ処理を行うことがある。
このようなチャンネルごとのノイズを除去するクランプ処理と、実施形態1に示した横
縞ノイズを除去するクランプ処理とは、組み合わせることが可能である。そこで、本実施形態では、このような2つのクランプ処理を行う光電変換装置10について説明する。なお、「横縞ノイズを除去するクランプ処理」と「チャンネルごとのノイズを除去するクランプ処理」とを区別するために、以下では、「チャンネルごとのノイズを除去するクランプ処理」を「オフセット補正」と記す。
図4は、本実施形態に係る信号処理回路107−1の処理を説明する図である。なお、信号処理回路107−2の処理は、信号処理回路107−1の処理と同様であるため詳細な説明は省略する。信号処理回路107−1は、実施形態1と同様に、処理回路104−1,104−3,104−5,104−7と、処理回路105−1を有する。信号処理回路107−2は、処理回路104−2,104−4,104−6,104−8と、処理回路105−2を有する。また、本実施形態では、処理回路104−1〜104−8はそれぞれ、対応する回路200−1〜200−8のいずれかを有する。
回路200−1,200−3,200−5,200−7は、チャンネルごとにOB画素の画素信号の平均をクランプ値(補正値)として算出する回路である。ここでは、チャンネルごと(もしくは垂直出力線ごと)に異なるクランプ値を有効画素の画素信号から除去することが目的であるので、同一チャンネルで読み出される有効画素の画素信号について、同一のクランプ値が算出される。なお、「実施形態1に係るクランプ値」と本実施形態に係る「チャンネルごとのクランプ値」とを区別するために、以下では「チャンネルごとのクランプ値」を「オフセットレベル」と記し、「実施形態1に係るクランプ値」を「クランプ値」と記す。
本実施形態では、このオフセットレベルを、CLMP_CH1(0)〜CLMP_CH7(2)のいずれかで記す。ここで、オフセットレベルCLMP_CHi(t)において、「t」は画素信号が画素から読み出されたタイミング(時刻)を示し、「i」はチャンネルを示す。例えば、タイミングt1で読み出された画像信号であって、処理回路104−3がチャンネル3ch(水平読み出し回路106−3)から取得した画素信号についての、オフセットレベルはCLMP_CH3(1)と記される。
図4の回路200−1,200−3,200−5,200−7と処理回路105−1に記載の式について説明する。図4の各処理回路および回路の上段の式は、画素R11〜Gr14,R21〜Gr24から画素信号が読み出された時刻t=1における処理を表している。下段の式は、画素R31〜Gr34,R41〜Gr44から画素信号が読み出された時刻t=2における処理を表している。
(信号処理回路の処理)
以下、信号処理回路107−1の処理について、画素R11〜Gr14,R21〜Gr24の画素信号が信号処理回路107−1に入力された場合について説明する。
まず、処理回路105−1は、実施形態1と同様にクランプ値CLMP1(補正信号)を算出して、処理回路104−1,104−3,104−5,104−7に出力する。なお、クランプ値CLMP2も実施形態1と同様に算出することができる。
次に、回路200−1,200−3,200−5,200−7は、信号処理回路107−1に入力された各チャンネルのOB画素の画素信号の平均値から、前(直前)のオフセットレベルを減算した値を求め、この減算後の値を減衰させる(小さくする)。そして、回路200−1,200−3,200−5,200−7は、減衰させた値を当該前のオフセットレベルに加算して、当該加算した値を新たなオフセットレベルとして算出する。ここで、本実施形態では、減衰量を2−nとしている。nは0より大きい数字であり、例え
ば、n=5であれば、減衰量は2−5=1/32である。このため、回路200−1,200−3,200−5,200−7は、各チャンネルのOB画素の画素信号の平均値と前のオフセットレベルとの差分を1/32に減衰させて、前のオフセットレベルと当該減衰させた値との和を求める。このとき、nは自然数であると、処理回路の構成を簡易化することができる。
具体的に、オフセットレベルCLMP_CH1(1)を算出する例を説明する。まず、回路200−1は、OB画素R11,R12の信号値R11v,R12vの平均値から直前のオフセットレベルであるCLMP_CH1(0)を減算した値を算出し、当該減算した値に2−nを乗算した値を算出する。そして、回路200−1は、この乗算した値をCLMP_CH1(0)に加算した値をCLMP_CH1(1)とする。つまり、CLMP_CH1(1)は、CLMP_CH1(0)を31/32倍した値と、(R11v+R12v)/2を1/32倍した値とを加算した値である。
例えば、或る時刻をtとし、その1つ前の時刻をt−1とし、その1つ前の時刻をt−2として定義して、時刻tでのチャンネルichのOB画素の画素信号の信号値の平均値をAve(t)とし、減衰量をαとする。すると、CLMP_CHi(t)=Ave(t)×α+Ave(t−1)×α(1−α)+Ave(t−2)×α(1−α)+Ave(t−3)×α(1−α)+・・・が成立する。つまり、複数の時刻の或るチャンネルのOB画素の画素信号の平均値を、時刻ごとに重みづけして合成したもの(合成値)を、当該チャンネルの有効画素の画素信号に用いるオフセットレベルとしている。ここで、重みは、現在の時刻に近いほど大きな重みである。このような処理が行われることによって、オフセットレベルは、横縞ノイズが十分に除去されて、チャンネルごとのノイズ(ランダムノイズ)成分のみを有することができる。
最後に、処理回路104−1,104−3,104−5,104−7は、処理回路105−1から取得したクランプ値CLMP1と、回路200−1,200−3,200−5,200−7が算出した新たなオフセットレベルを、対象の画素信号から減算する。例えば、処理回路104−1は、有効画素R13について、信号値R13vから、クランプ値CLMP1とオフセットレベルCLMP_CH1(1)を減算することで、補正後の画素信号の信号値R13outを取得する。
本実施形態では、このように、新たなオフセットレベルの算出にあたり、直前のオフセットレベルに対して加算する追従量を一定量減衰させている。このため、新たなオフセットレベルは、横縞ノイズが十分に除去されて、チャンネルごとのノイズ(ランダムノイズ)成分のみを有する信号値にされる。このような、オフセットレベルを用いることによれば、オフセット補正によって、有効画素におけるOB画素のチャンネルごとのノイズの影響を低減させることができる。チャンネルごとのノイズ成分は、読み出しのタイミングによらず同じチャンネルであれば、どの行でも同じ成分を有するので、複数の読み出しタイミングを利用して、有効画素におけるランダムノイズの影響の低減を実現している。
このように、回路200−1,200−3,200−5,200−7が、チャンネルごとのノイズ成分を抽出しており、処理回路105−1が同時に読み出すタイミングごとの横縞ノイズを抽出している。そして、これらを有効画素の画素信号から減算することによって、チャンネルごとのノイズ成分と、読み出すタイミングごとの横縞ノイズ成分の両方を除去することができる。つまり、有効画素の画素信号から、実施形態1よりも多くのノイズを除去することができる。
なお、チャンネルごとのノイズ成分の抽出とタイミングごとの横縞ノイズの抽出とは、互いに独立の成分の抽出であるため、どちらの処理を先に行ってもよい。
<実施形態3>
近年、画素データの読み出し速度をさらに高速化するため、垂直出力線数の多線化技術が注目されている。これは垂直出力線数を増やすことによって、一度に読み出すデータ数を増やし、1フレーム当たりの読み出し回数を減らす技術である。
しかし、垂直出力線の多線化技術と実施形態2を併用した場合、チャンネルごと(もしくは垂直出力線ごと)に異なるクランプ値を補正することはできるが、垂直シェーディング成分を補正することが難しいという課題がある。本実施形態に係る垂直シェーディング成分とは、垂直方向(行方向)に連続的に変化していく黒レベルのことを指す。この垂直シェーディング成分は、例えば電源インピーダンス等の違いによって発生するものである。
実施形態2に係るオフセットレベルは、同時読み出し行単位でしか更新されないため、垂直出力線の多線化技術によって同時読み出し行数が増えるに連れて、行単位あたりの補正値の更新頻度が下がってしまう。例えば、2行同時読み出しの場合は2行に1回補正値が更新されるが、10行同時読み出しの場合は10行に1回しか補正値が更新されない。そのため、垂直出力線を多線化するに連れて、垂直シェーディング成分の補正精度が低下してしまう。
そこで、本実施形態では、光電変換装置10は、チャンネルごとのクランプ値であるオフセットレベルを算出した後に、さらに行ごとのクランプ値を算出し、これら2つの補正値を用いて補正する。このことによって、チャンネルごとのノイズ成分の除去と行ごとのノイズ成分の除去との両立を実現する。
なお、「チャンネルごとのクランプ値(補正信号)」である「オフセットレベル」と、「行ごとのクランプ値」とを区別するために、以下では「行ごとのクランプ値」を「シェーディングレベル」と記す。
本実施形態では、光電変換装置10において、図1の信号処理回路107−1を信号処理回路107−3に、信号処理回路107−2を信号処理回路107−4に、それぞれ置き換えた装置を説明する。図5Aは、本実施形態に係る信号処理回路107−3の処理を説明する図である。なお、信号処理回路107−4の処理は、信号処理回路107−3の処理と同様であるため詳細な説明は省略する。信号処理回路107−3は、処理回路104−9,104−11,104−13,104−15と、処理回路105−3を有する。また、本実施形態では、処理回路104−9,104−11,104−13,104−15はそれぞれ実施形態2と同様に、対応する回路200−1,200−3,200−5,200−7のいずれかを有する。
回路200−1,200−3,200−5,200−7は実施形態2と同様、チャンネルごとにOB画素の画素信号の平均をクランプ値(補正値)として算出する回路である。本実施形態においても実施形態2と同様に、この補正値をオフセットレベルCLMP_CHi(t)と記す。
本実施形態では、各チャンネルのOB画素の画素信号の平均値をAVE_R[1]〜AVE_R[4],AVE_Gr[1]〜AVE_Gr[4]のいずれかで記す。また、シェーディングレベルをCLMP3[0]〜CLMP3[4],CLMP4[0]〜CLMP[4]のいずれかで記す。ここでAVE_R[y],AVE_Gr[y],CLMP3[y],CLMP4[y]において、「y」は色ごとの行番号(垂直座標)を表す。
図5Bは、処理回路105−3において実行される処理を式によって表す。図5Bに記載の式について説明する。図5Bの処理回路105−3に記載の、上段の4つの式は、画素R11〜Gr14,R21〜Gr24から画素信号が読み出された時刻t=1における処理を表している。下段の4つの式は、画素R31〜Gr34,R41〜Gr44から画素信号が読み出された時刻t=2における処理を表している。
[信号処理回路の処理]
以下、信号処理回路107−3の処理について、画素R11〜Gr14,R21〜Gr24の画素信号が信号処理回路107−3に入力された場合について、図5A、図5Bおよび図7を用いて説明する。図7は、信号処理回路の処理を示すフローチャートである。
(S2001)
まず、回路200−1,200−3,200−5,200−7は、実施形態2と同様にオフセットレベルを算出して、処理回路105−3に出力する。
(S2002)
次に、図5Bに示すように、処理回路105−3は、信号処理回路107−3に入力された各チャンネルのOB画素の画素信号の平均値から、回路200−1,200−3,200−5,200−7から出力されたオフセットレベルを減算する。処理回路105−3は、さらに、各チャンネルのOB画素の画素信号の平均値からオフセットレベル(第1の合成値)を減算した値(補正信号)に対して、前(直前)のシェーディングレベルを減算した値を求め、この減算後の値を減衰させる(小さくする)。そして、処理回路105−3は、減衰させた値を当該前のシェーディングレベルに加算して、当該加算した値を新たなシェーディングレベル(第2の合成値)として算出する。
(S2003)
最後に、処理回路104−9,104−11,104−13,104−15は、処理回路105−3が算出したシェーディングレベルと、回路200−1,200−3,200−5,200−7が算出したオフセットレベルを用いて、対象の画素信号を補正する。
具体的に、シェーディングレベルCLMP3[2]を算出し、有効画素R23を補正する例を説明する。
まず、図5Bに示すように、処理回路105−3は、OB画素R11,R12の信号値R11v,R12vの平均値AVE_R[1]から、回路200−1で算出したオフセットレベルCLMP_CH1(1)を減算する。そして、処理回路105−3は、平均値AVE_R[1]からオフセットレベルCLMP_CH1(1)を減算した値に対して前行のシェーディングレベルであるCLMP3[0]を減算した値を算出し、当該減算した値に2−nを乗算した値を算出する。
次に、処理回路105−3は、この乗算した値をシェーディングレベルCLMP3[0]に加算した値をシェーディングレベルCLMP3[1]とする。次に、処理回路105−3は、OB画素R21,R22の信号値R21v,R22vの平均値AVE_R[2]から、回路200−1で算出したオフセットレベルCLMP_CH3(1)を減算する。次に、処理回路105−3は、平均値AVE_R[2]からオフセットレベルCLMP_CH3(1)を減算した値に対して前行のシェーディングレベルであるCLMP3[1]を減算した値を算出し、当該減算した値に2−nを乗算した値を算出する。そして、この乗算した値をシェーディングレベルCLMP3[1]に加算した値(合成した値;合成値)をシェーディングレベルCLMP3[2]とする。つまり、処理回路105−3は、オフセットレベルCLMP_CH1(1)とオフセットレベルCLMP_CH3(1)との
少なくとも2つのチャンネルのオフセットレベルを用いたフィルタ処理により、シェーディングレベルCLMP3[2]を算出する。
最後に、処理回路104−11は、有効画素23について、信号値R23vから、オフセットレベルCLMP_CH3(1)とシェーディングレベルCLMP3[2]を減算することで、補正後の画素信号の信号値R23outを取得する。
このように、オフセットレベルを算出した後に、シェーディングレベルを算出し、これら2つの補正値を用いて補正することによって、チャンネルごとのノイズ成分の除去と行ごとのノイズ成分の除去との両立を実現している。
また、本実施形態では、垂直出力線が画素1列あたり4本の例を示したが、2本以上であれば同様効果を得ることができる。なお、画素1列あたりの垂直出力線の数は同時に読み出せる行の数を示すので、垂直出力線は8本や12本など、本数が多いほどより効果が高い。
<実施形態4>
実施形態3では、算出したオフセットレベルの中に行ごとのクランプ値も一部含んでしまうため、オフセットレベルとシェーディングレベルを完全には分離することができない。
そこで、本実施形態では、オフセットレベルを算出する前に、OB画素の画素信号の平均値から前行のシェーディングレベルを減算する処理を加えることによって、オフセットレベルとシェーディングレベルを精度よく分離する。
本実施形態では、光電変換装置10において、図1の信号処理回路107−1を信号処理回路107−5に、信号処理回路107−2を信号処理回路107−6に、それぞれ置き換えた装置を説明する。図6Aは、本実施形態に係る信号処理回路107−5の処理を説明する図である。なお、信号処理回路107−6の処理は、信号処理回路107−5の処理と同様であるため詳細な説明は省略する。信号処理回路107−5は、処理回路104−17,104−19,104−21,104−23と、処理回路105−5を有する。また、本実施形態では、処理回路104−17,104−19,104−21,104−23は、対応する回路200−9,200−11,200−13,200−15と、回路300−1,300−3,300−5,300−7のいずれかを有する。
本実施形態では、OB画素の画素信号の平均値から前行(過去)の垂直シェ―ディングレベルを減算した値を、DATA_R[1]〜DATA_R[4],DATA_Gr[1]〜DATA_Gr[4]のいずれで記す。ここで、DATA_R[y],DATA_Gr[y]において、「y」は色ごとの行番号(垂直座標)を表す。
図6Bは、回路300−1,300−3,300−5,300−7と回路200−9,200−11,200−13,200−15と処理回路105−5のそれぞれにおいて実行される処理を式によって表している。図6Bに記載の式について説明する。図6Bの回路300−1,300−3,300−5,300−7と回路200−9,200−11,200−13,200−15に記載の、上段の式は、画素R11〜Gr14,R21〜Gr24から画素信号が読み出された時刻t=1における処理を表している。下段の式は、画素R31〜Gr34,R41〜Gr44から画素信号が読み出された時刻t=2における処理を表している。図6Bの処理回路105−3に記載の、上段の4つの式は、画素R11〜Gr14,R21〜Gr24から画素信号が読み出された時刻t=1における処理を表している。下段の4つの式は、画素R31〜Gr34,R41〜Gr44から画素信
号が読み出された時刻t=2における処理を表している。
[信号処理回路の処理]
以下、信号処理回路107−5の処理について、画素R11〜Gr14,R21〜Gr24の画素信号が信号処理回路107−5に入力された場合について、図6A、図6B、図8を用いて説明する。図8は、信号処理回路の処理を示すフローチャートである。
(S3001)
まず、図6Bに示すように、回路300−1,300−3,300−5,300−7は、信号処理回路107−5に入力された各チャンネルのOB画素の画素信号の平均値から、前行(過去)のシェーディングレベルを減算した値を出力する。
(S3002)
次に、図6Bに示すように、回路200−9,200−11,200−13,200−15は、回路300−1,300−3,300−5,300−7から出力された値を用いてオフセットレベルを算出して、処理回路105−5に出力する。
(S3003)
次に、図6Bに示すように、処理回路105−5は、回路300−1,300−3,300−5,300−7から出力された値から、回路200−9,200−11,200−13,200−15から出力されたオフセットレベルを減算する。その後、処理回路105−5は、さらに、オフセットレベルを減算した値に対して、前(直前)のシェーディングレベルを減算した値を求め、この減算後の値を減衰させる(小さくする)。そして、回路105−5は、減衰させた値を当該前のシェーディングレベルに加算して、当該加算した値を新たなシェーディングレベルとして算出する。
(S3004)
処理回路104−17,104−19,104−21,104−23は、処理回路105−5が算出したシェーディングレベルと、回路200−9,200−11,200−13,200−15が算出したオフセットレベルを用いて、対象の画素信号を補正する。
具体的に、シェーディングレベルCLMP3[2]を算出し、有効画素R23を補正する例を、説明する。
回路300−1は、OB画素R11,R12の信号値R11v,R12vの平均値AVE_R[1]から、前行のシェ―ディングレベルであるCLMP3[0]を減算し、DATA_R[1]を算出する。同様に、回路300−3は、OB画素R21,R22の信号値R21v,R22vの平均値AVE_R[2]から、前行のシェ―ディングレベルであるCLMP3[1]を減算しDATA_R[2]を算出する。
次に、回路200−9は、回路300−1で算出したDATA_R[1]から、直前のオフセットレベルであるCLMP_CH1(0)を減算した値を算出し、当該減算した値に2−nを乗算した値を算出する。そして、この乗算した値をCLMP_CH1(0)に加算した値をCLMP_CH1(1)とする。同様に、回路200−11は、回路300−3で算出したDATA_R[2]から、直前のオフセットレベルであるCLMP_CH3(0)を減算した値を算出し、当該減算した値に2−nを乗算した値を算出する。そして、この乗算した値をCLMP_CH3(0)に加算した値をCLMP_CH3(1)とする。
次に、処理回路105−5は、回路300−1が算出したDATA_R[1]から、回
路200−9で算出したオフセットレベルCLMP_CH1(1)と、前行のシェーディングレベルであるCLMP3[0]を減算した値を算出する。その後、処理回路105−5は、当該減算した値に2−nを乗算した値を算出する。そして、この乗算した値をCLMP3[0]に加算した値をCLMP3[1]とする。さらに、処理回路105−5は、回路300−3が算出したDATA_R[2]から、回路200−11で算出したオフセットレベルCLMP_CH3(1)と、前行のシェーディングレベルであるCLMP3[1]を減算した値を算出する。その後、処理回路105−5は、当該減算した値に2−nを乗算した値を算出する。そして、処理回路105−5は、この乗算した値をCLMP3[1]に加算した値をCLMP3[2]とする。
最後に、処理回路104−19は、有効画素R23について、信号値R23vから、オフセットレベルCLMP_CH3(1)とシェーディングレベルCLMP3[2]を減算することで、補正後の画素信号の信号値R23outを取得する。
このように、オフセットレベルを算出する前に前行のシェーディングレベルを減算することによって、オフセットレベルとシェーディングレベルを精度よく分離して補正することができる。
また、本実施形態では、垂直出力線が画素1列あたり4本の例を示したが、2本以上であれば同様効果を得ることができる。なお、画素1列あたりの垂直出力線の数は同時に読み出せる行の数を示すので、垂直出力線は8本や12本など、本数が多いほどより効果が高い。
また、本実施形態では、シェーディングレベルを色ごとに分けて算出する例を示したが、同じ行番号(垂直座標)の画素であれば、色ごとに分けずにシェーディングレベルを算出してもよい。
<実施形態5>
図9は、実施形態5に係るカメラシステムの構成例であり、実施形態1で説明した光電変換装置10をデジタルカメラに組み込んだシステムである。デジタルカメラは、光電変換装置10、バリア801、レンズ802、絞り803、センサ805、信号処理装置807、処理部808、メモリ部809を有する。デジタルカメラは、外部I/F回路810、タイミング発生部811、全体制御部812、記録媒体I/F部813、記録媒体814を有する。また、デジタルカメラは、外部コンピュータ815と接続される。
光電変換装置10は、固体撮像素子804とA/D変換器806とデジタル信号処理装置821が同一チップ上に形成されている。ここで、実施形態1に係る列読み出し回路110−1,110−2がA/D変換器806に相当し、実施形態1に係る信号処理回路107−1,107−2がデジタル信号処理装置821に相当する。
バリア801は、レンズ802のプロテクトとメインスイッチとを兼ねる。レンズ802は、被写体の光学像を固体撮像素子804に結像する。絞り803は、レンズ802を通過した光量を調整する。
固体撮像素子804は、レンズで結像された被写体を画像信号として取り込む。センサ805は、焦点検出装置(AFセンサ)と色温度センサである。A/D変換器806は、固体撮像素子804から出力された信号をアナログデジタル変換する。
信号処理装置807は、AD変換されたデジタル信号や焦点検出信号を信号処理する。処理部808は、信号処理装置807から出力された画像データに対して各種の補正を行
い、データを圧縮する。
メモリ部809は、画像データを一時記憶する。外部I/F回路810は、外部コンピュータ815と通信するためのインターフェイス回路である。
タイミング発生部811は、処理部808等に各種タイミング信号を出力する。全体制御部812は、各種演算とカメラ全体を制御する。記録媒体I/F部813は、記録媒体814と通信するためのインターフェイスである。記録媒体814は、記録、または読み出しを行うための半導体メモリ等の着脱可能な記録媒体である。
[デジタルカメラの動作]
次に、上記のデジタルカメラの撮影時の動作について説明する。バリア801がオープンにされるとメイン電源がオンにされ、コントロール系の電源がオンにされる。さらに、A/D変換器806等の撮像系回路の電源がオンされる。
次いで、センサ805(焦点検出装置)から出力された信号に基づき、全体制御部812は位相差検出により被写体までの距離を演算する。
その後、全体制御部812は、レンズ802が駆動されて合焦しているか否かを判定し、合焦していないと判定された場合には、レンズ802を駆動してオートフォーカス制御を行う。また、全体制御部812は、合焦していると判定した場合には、本露光を始める。
露光が終了すると、固体撮像素子804から出力された画像信号は、A/D変換器806によってアナログデジタル変換され、処理部808を介して全体制御部812によりメモリ部809に書き込まれる。
その後、メモリ部809に蓄積されたデータは全体制御部812の制御により記録媒体I/F回路810を介して着脱可能な記録媒体814に記録される。また、全体制御部812は、外部I/F回路810を介して、外部コンピュータ815にデータを出力してもよい。
なお、実施形態2では、光電変換装置10内に用いられた信号処理回路107−1,107―2において、チャンネルごとのノイズ成分と、タイミングごとの横縞ノイズの抽出を行っている。一方、本実施形態のようなカメラシステム(デジタルカメラ)を用いた場合には、例えばチャンネルごとのノイズ成分を光電変換装置10が抽出し、読み出すタイミングごとの横縞ノイズ成分を信号処理装置807が抽出することもできる。この場合には、実施形態2に係る処理回路105−1に相当する装置を信号処理装置807が搭載する。
また、光電変換装置における信号処理回路は、実施形態1に係る信号処理回路107−1,107―2のように二か所、もしくは、それ以上に配置される場合がある。このため、タイミングごとの横縞ノイズの抽出を行う際に、同時に読み出す全てのOB画素の画素信号の平均値を取得することが難しいことも考えられる。つまり、実施形態1に係る光電変換装置10の構成では、信号処理回路が2つに分かれているため、8画素分のOB画素の画素信号しか平均値の取得に使えない。
一方、本実施形態に係るカメラシステムを構成すれば、信号処理装置807が、タイミングごとの全てのOB画素の画素信号を平均化することによって横縞ノイズの抽出を行うことができる。従って、本実施形態によれば、より多くのOB画素の画素信号の平均値を
取得することができるため、横縞ノイズの除去がより精度高く可能になる。
<実施形態6>
本発明の実施形態6による撮像システムについて、図10を用いて説明する。図10は、本実施形態による撮像システムの概略構成を示すブロック図である。
上記実施形態1〜実施形態4で述べた光電変換装置10(光電変換装置)は、種々の撮像システムに適用可能である。適用可能な撮像システムとしては、特に限定されるものではないが、例えば、デジタルスチルカメラ、デジタルカムコーダ、監視カメラ、複写機、ファックス、携帯電話、車載カメラ、観測衛星、医療用カメラなどの各種の機器が挙げられる。また、レンズなどの光学系と光電変換装置とを備えるカメラモジュールも、撮像システムに含まれる。図10にはこれらのうちの一例として、デジタルスチルカメラのブロック図を例示している。
撮像システム500は、図10に示す、光電変換装置501、撮像光学系502、CPU510、レンズ制御部512、撮像装置制御部514、画像処理部516、絞りシャッタ制御部518、表示部520、操作スイッチ522、記録媒体524を備える。
撮像光学系502は、被写体の光学像を形成するための光学系であり、レンズ群、絞り504等を含む。絞り504は、その開口径を調節することで撮影時の光量調節を行なう機能を備えるほか、静止画撮影時には露光秒時調節用シャッタとしての機能も備える。レンズ群及び絞り504は、光軸方向に沿って進退可能に保持されており、これらの連動した動作によって変倍機能(ズーム機能)や焦点調節機能を実現する。撮像光学系502は、撮像システムに一体化されていてもよいし、撮像システムへの装着が可能な撮像レンズでもよい。
撮像光学系502の像空間には、その撮像面が位置するように光電変換装置501が配置されている。光電変換装置501は、実施形態1〜実施形態4で説明した光電変換装置10であり、CMOSセンサ(画素部)とその周辺回路(周辺回路領域)とを含んで構成される。光電変換装置501は、複数の光電変換部を有する画素が2次元配置され、これらの画素に対してカラーフィルタが配置されることで、2次元単板カラーセンサを構成している。光電変換装置501は、撮像光学系502により結像された被写体像を光電変換し、画像信号や焦点検出信号として出力する。
レンズ制御部512は、撮像光学系502のレンズ群の進退駆動を制御して変倍操作や焦点調節を行うためのものであり、その機能を実現するように構成された回路や処理装置により構成されている。絞りシャッタ制御部518は、絞り504の開口径を変化して(絞り値を可変として)撮影光量を調節するためのものであり、その機能を実現するように構成された回路や処理装置により構成される。
CPU510は、カメラ本体の種々の制御を司るカメラ内の制御装置であり、演算部、ROM、RAM、A/Dコンバータ、D/Aコンバータ、通信インターフェイス回路等を含む。CPU510は、ROM等に記憶されたコンピュータプログラムに従ってカメラ内の各部の動作を制御し、撮像光学系502の焦点状態の検出(焦点検出)を含むAF、撮像、画像処理、記録等の一連の撮影動作を実行する。CPU510は、信号処理部でもある。
撮像装置制御部514は、光電変換装置501の動作を制御するとともに、光電変換装置501から出力された信号をA/D変換してCPU510に送信するためのものであり、それら機能を実現するように構成された回路や制御装置により構成される。A/D変換
機能は、光電変換装置501が備えていてもかまわない。画像処理部516は、A/D変換された信号に対してγ変換やカラー補間等の画像処理を行って画像信号を生成するためのものであり、その機能を実現するように構成された回路や制御装置により構成される。表示部520は、液晶表示装置(LCD)等の表示装置であり、カメラの撮影モードに関する情報、撮影前のプレビュー画像、撮影後の確認用画像、焦点検出時の合焦状態等を表示する。操作スイッチ522は、電源スイッチ、レリーズ(撮影トリガ)スイッチ、ズーム操作スイッチ、撮影モード選択スイッチ等で構成される。記録媒体524は、撮影済み画像等を記録するためのものであり、撮像システムに内蔵されたものでもよいし、メモリカード等の着脱可能なものでもよい。
このようにして、実施形態1〜実施形態4による光電変換装置10(光電変換装置)を適用した撮像システム500を構成することにより、高性能の撮像システムを実現することができる。
<実施形態7>
本発明の実施形態7による撮像システム及び移動体について、図11(A)及び図11(B)を用いて説明する。図11(A)及び図11(B)は、本実施形態による撮像システム及び移動体の構成を示す図である。
図11(A)は、車載カメラに関する撮像システム600の一例を示したものである。撮像システム600は、光電変換装置610を有する。光電変換装置610は、上述の実施形態1〜実施形態2に記載の光電変換装置10(光電変換装置)のいずれかである。撮像システム600は、光電変換装置610により取得された複数の画像データに対し、画像処理を行う処理装置である画像処理部612を有する。撮像システム600は、光電変換装置610により取得された複数の画像データから視差(視差画像の位相差)の算出を行う処理装置である視差取得部614を有する。また、撮像システム600は、算出された視差に基づいて対象物までの距離を算出する処理装置である距離取得部616と、算出された距離に基づいて衝突可能性があるか否かを判定する処理装置である衝突判定部618と、を有する。ここで、視差取得部614や距離取得部616は、対象物までの距離情報等の情報を取得する情報取得手段の一例である。すなわち、距離情報とは、視差、デフォーカス量、対象物までの距離等に関する情報である。衝突判定部618はこれらの距離情報のいずれかを用いて、衝突可能性を判定してもよい。上述した各種の処理装置は、専用に設計されたハードウェアによって実現されてもよいし、ソフトウェアモジュールに基づいて演算を行う汎用のハードウェアによって実現されてもよい。また、処理装置は、FPGA(Field Programmable Gate Array)、ASIC(Application Specific Integrated Circuit)等によって実現されてもよい。または処理装置は、これらの組合せによって実現されてもよい。
撮像システム600は、車両情報取得装置620と接続されており、車速、ヨーレート、舵角などの車両情報を取得することができる。また、撮像システム600は、衝突判定部618での判定結果に基づいて、車両に対して制動力を発生させる制御信号を出力する制御装置である制御ECU630が接続されている。すなわち、制御ECU630は、距離情報に基づいて移動体を制御する移動体制御手段の一例である。また、撮像システム600は、衝突判定部618での判定結果に基づいて、ドライバーへ警報を発する警報装置640とも接続されている。例えば、衝突判定部618の判定結果として衝突可能性が高い場合、制御ECU630はブレーキをかける、アクセルを戻す、エンジン出力を抑制するなどして衝突を回避、被害を軽減する車両制御を行う。警報装置640は音等の警報を鳴らす、カーナビゲーションシステムなどの画面に警報情報を表示する、シートベルトやステアリングに振動を与えるなどしてユーザに警告を行う。
本実施形態では、車両の周囲、例えば前方又は後方を撮像システム600で撮像する。図11(B)に、車両前方(撮像範囲650)を撮像する場合の撮像システム600を示した。車両情報取得装置620は、撮像システム600を動作させ撮像を実行させるように指示を送る。上述の実施形態1〜実施形態4の光電変換装置10(光電変換装置)を光電変換装置610として用いることにより、本実施形態の撮像システム600は、測距の精度をより向上させることができる。
以上の説明では、他の車両と衝突しないように制御する例を述べたが、他の車両に追従して自動運転する制御、車線からはみ出さないように自動運転する制御等にも適用可能である。更に、撮像システムは、自動車等の車両に限らず、例えば、船舶、航空機あるいは産業用ロボットなどの移動体(輸送機器)に適用することができる。移動体(輸送機器)における移動装置はエンジン、モーター、車輪、プロペラなどの各種の移動手段である。加えて、移動体に限らず、高度道路交通システム(ITS)等、広く物体認識を利用する機器に適用することができる。
10:光電変換装置、VL1〜VL4:垂直出力線、107:信号処理回路

Claims (12)

  1. それぞれが複数行および複数列に渡って配された複数の有効画素および複数の遮光画素と、複数の垂直出力線と、信号処理回路とを備え、
    前記複数の遮光画素のうちの第1の行の遮光画素である第1の遮光画素から前記複数の垂直出力線のうちの第1の垂直出力線に画素信号が出力されている期間に、前記複数の遮光画素のうちの第2の行の遮光画素である第2の遮光画素から前記複数の垂直出力線のうちの第2の垂直出力線に画素信号が出力され、
    前記信号処理回路は、前記第1の遮光画素の前記画素信号と前記第2の遮光画素の前記画素信号とをフィルタ処理して得られる補正信号を用いて、前記有効画素から出力される有効画素信号を補正することを特徴とする光電変換装置。
  2. 前記信号処理回路は、
    前記第1の遮光画素の前記画素信号を含む前記第1の行の複数の遮光画素の画素信号に基づき得られる第1の補正信号と、前記第2の遮光画素の前記画素信号を含む前記第2の行の複数の遮光画素の画素信号に基づき得られる第2の補正信号を算出し、
    前記第1の補正信号と前記第2の補正信号とをフィルタ処理して得られる補正信号を用いて、前記有効画素から出力される有効画素信号を補正する、
    ことを特徴とする請求項1に記載の光電変換装置。
  3. 前記信号処理回路は、前記第1の遮光画素の前記画素信号と前記第2の遮光画素の前記画素信号とをフィルタ処理して得られる補正信号を、前記有効画素信号から減算することによって前記有効画素信号を補正する、
    ことを特徴とする請求項1または2に記載の光電変換装置。
  4. 前記信号処理回路は、さらに、前記第1の垂直出力線に出力された複数の遮光画素の画素信号をフィルタ処理して得られる補正信号を用いて、前記第1の垂直出力線に出力された前記有効画素信号を補正する、
    ことを特徴とする請求項1から3のいずれか1項に記載の光電変換装置。
  5. 前記第1の垂直出力線に出力された複数の画素信号のそれぞれは、さらに複数のチャンネルに分割されて前記信号処理回路に出力され、
    前記信号処理回路は、1つのチャンネルの複数の遮光画素の画素信号をフィルタ処理して得られる補正信号を用いて、当該チャンネルの前記有効画素信号を補正する、
    ことを特徴とする請求項4に記載の光電変換装置。
  6. 前記信号処理回路は、1つのチャンネルの複数の遮光画素の画素信号をフィルタ処理して得られる補正信号と、過去に当該1つのチャンネルの複数の遮光画素の画素信号をフィルタ処理して得られた補正信号とを重みづけして得られる第1の合成値を用いて、当該チャンネルの前記有効画素信号を補正する、
    ことを特徴とする請求項5に記載の光電変換装置。
  7. 前記信号処理回路は、1つのチャンネルの複数の遮光画素の画素信号をフィルタ処理して得られる補正信号から、前記第1の合成値を減算して得られる第3の補正信号と、過去に算出された前記第3の補正信号とを重み付して得られる第2の合成値を用いて、当該チャンネルの前記有効画素信号を補正する、
    ことを特徴とする請求項6に記載の光電変換装置。
  8. 前記信号処理回路は、前記第1の合成値を算出する前に、1つのチャンネルの複数の遮光画素の画素信号をフィルタ処理して得られる補正信号から、過去に算出された前記第2
    の合成値を減算する、
    ことを特徴とする請求項7に記載の光電変換装置。
  9. 画素信号を保存するメモリを含む、列読み出し回路をさらに有し、
    前記列読み出し回路は、前記第1の垂直出力線から前記第1の行の画素の画素信号を読み出している期間に、前記第2の垂直出力線から前記第2の行の画素の画素信号を読み出し、前記第1の行の画素の画素信号を前記メモリに保存する期間に、前記第2の行の画素の画素信号を前記メモリに保存する、
    ことを特徴とする請求項1から8のいずれか1項に記載の光電変換装置。
  10. 前記列読み出し回路は、前記第1の行および前記第2の行の画素の画素信号に対して、信号増幅またはAD変換処理を行った後に、信号増幅またはAD変換処理が行われた当該画素信号を前記メモリに保存する、
    ことを特徴とする請求項9に記載の光電変換装置。
  11. 請求項1から10のいずれか1項に記載の光電変換装置と、
    前記光電変換装置から出力される信号を処理する処理装置と、
    を有することを特徴とする撮像システム。
  12. 移動体であって、
    請求項1から10のいずれか1項に記載の光電変換装置と、
    移動装置と、
    前記光電変換装置から出力される信号から情報を取得する処理装置と、
    前記情報に基づいて前記移動装置を制御する制御装置と、
    を有することを特徴とする移動体。
JP2021002274A 2020-04-01 2021-01-08 光電変換装置、撮像システム、移動体 Active JP7225271B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202110340430.8A CN113497905B (zh) 2020-04-01 2021-03-30 光电转换设备、成像系统和移动物体
US17/218,330 US11641530B2 (en) 2020-04-01 2021-03-31 Photoelectric conversion device, imaging system, and moving body with pixel signal correction

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020066197 2020-04-01
JP2020066197 2020-04-01

Publications (2)

Publication Number Publication Date
JP2021166377A true JP2021166377A (ja) 2021-10-14
JP7225271B2 JP7225271B2 (ja) 2023-02-20

Family

ID=78022285

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021002274A Active JP7225271B2 (ja) 2020-04-01 2021-01-08 光電変換装置、撮像システム、移動体

Country Status (1)

Country Link
JP (1) JP7225271B2 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008288816A (ja) * 2007-05-16 2008-11-27 Sharp Corp 固体撮像装置および電子情報機器
JP2014207631A (ja) * 2013-04-16 2014-10-30 ソニー株式会社 固体撮像装置およびその信号処理方法、並びに電子機器
JP2016201660A (ja) * 2015-04-09 2016-12-01 キヤノン株式会社 撮像装置及び画像処理方法
JP2018101966A (ja) * 2016-12-22 2018-06-28 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、電子機器、および、固体撮像素子の制御方法
JP2020017916A (ja) * 2018-07-27 2020-01-30 ソニーセミコンダクタソリューションズ株式会社 撮像装置、及び、撮像装置の駆動方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008288816A (ja) * 2007-05-16 2008-11-27 Sharp Corp 固体撮像装置および電子情報機器
JP2014207631A (ja) * 2013-04-16 2014-10-30 ソニー株式会社 固体撮像装置およびその信号処理方法、並びに電子機器
JP2016201660A (ja) * 2015-04-09 2016-12-01 キヤノン株式会社 撮像装置及び画像処理方法
JP2018101966A (ja) * 2016-12-22 2018-06-28 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、電子機器、および、固体撮像素子の制御方法
JP2020017916A (ja) * 2018-07-27 2020-01-30 ソニーセミコンダクタソリューションズ株式会社 撮像装置、及び、撮像装置の駆動方法

Also Published As

Publication number Publication date
JP7225271B2 (ja) 2023-02-20

Similar Documents

Publication Publication Date Title
JP7091080B2 (ja) 装置、システム、および移動体
JP6736539B2 (ja) 撮像装置及びその駆動方法
US10110835B2 (en) Imaging apparatus, imaging system, and moving object
US10979647B2 (en) Imaging device and imaging system
US10249678B2 (en) Imaging device, method of driving imaging device, and imaging system
US20210360180A1 (en) Imaging device and imaging system
US11843010B2 (en) Imaging apparatus having switching drive modes, imaging system, and mobile object
CN111512627A (zh) 成像装置、成像系统以及成像装置的驱动方法
JP7066392B2 (ja) 撮像装置
JP7225271B2 (ja) 光電変換装置、撮像システム、移動体
US10965896B2 (en) Photoelectric conversion device, moving body, and signal processing device
US20210375975A1 (en) Photoelectric conversion device, photoelectric conversion system, moving body, and signal processing method
CN113497905B (zh) 光电转换设备、成像系统和移动物体
JP7077029B2 (ja) 光電変換装置、撮像システム、移動体
JP2021097382A (ja) 撮像装置及び撮像システム
US11025849B2 (en) Photoelectric conversion apparatus, signal processing circuit, image capturing system, and moving object
US20220408036A1 (en) Photoelectric conversion apparatus, photoelectric conversion system, transport apparatus, and signal processing apparatus
US11792529B2 (en) Imaging apparatus, method of driving imaging apparatus, imaging system and mobile body
JP7374630B2 (ja) 撮像装置及びその駆動方法
US20230179751A1 (en) Photoelectric conversion device, image processing method, imaging system, mobile body, and equipment
JP2022051408A (ja) 光電変換装置、光電変換システム及び移動体
JP2019153985A (ja) 撮像装置
JP2020170784A (ja) 光電変換装置
JP2021166369A (ja) 撮像装置および撮像装置の駆動方法
JP2020022142A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220126

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221223

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230110

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230208

R151 Written notification of patent or utility model registration

Ref document number: 7225271

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151