JP2019205057A - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP2019205057A
JP2019205057A JP2018098792A JP2018098792A JP2019205057A JP 2019205057 A JP2019205057 A JP 2019205057A JP 2018098792 A JP2018098792 A JP 2018098792A JP 2018098792 A JP2018098792 A JP 2018098792A JP 2019205057 A JP2019205057 A JP 2019205057A
Authority
JP
Japan
Prior art keywords
temperature
unit
information
image
output
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018098792A
Other languages
English (en)
Inventor
崇規 渡邉
Takanori Watanabe
崇規 渡邉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Stanley Electric Co Ltd
Original Assignee
Stanley Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Stanley Electric Co Ltd filed Critical Stanley Electric Co Ltd
Priority to JP2018098792A priority Critical patent/JP2019205057A/ja
Publication of JP2019205057A publication Critical patent/JP2019205057A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

【課題】画素の温度を精度良く検出することができる撮像装置を提供する。【解決手段】温度に依存する第1特性を持つ第1素子を含む画素回路部を複数有する撮像素子と、前記第1素子の前記第1特性に応じた前記画素回路部からの出力情報を検出する出力情報検出部と、前記出力情報検出部により検出された前記出力情報に基づいて、前記温度に関する状況を検出する温度状況検出部と、を備える撮像装置。【選択図】図1

Description

本発明は、撮像装置に関する。
撮像素子を用いて画像を撮像する撮像装置が知られている。撮像装置は、例えば、カメラと呼ばれることもある。
撮像素子は温度に依存する特性(説明の便宜上、「温度特性」ともいう。)を有する場合があり、撮像素子の温度特性について補正が行われることがある。
例えば、カメラのセット上で撮像素子の温度特性を補正するために、事前に実験で温度と特性との関係式を取得しておき、そして、製品上で温度情報をモニタして、検出された温度と関係式との相関から、当該温度に対応する補正係数を適用する補正手法がある。
このような補正手法において、カメラのセット上で撮像素子の温度を取得する温度取得手法として、主に3つの手法が知られている。これら3つの温度取得手法を、第1の温度取得手法〜第3の温度取得手法と呼んで説明する。
第1の温度取得手法では、基板上の撮像素子の近傍にチップ温度計を配置して、当該チップ温度計により温度を検出して取得する。
第2の温度取得手法では、撮像素子内に温度計回路を実装して、当該温度計回路により温度を検出して取得する。
第3の温度取得手法では、画素の遮光部における画素暗電流の出力を温度検知に使用することで、温度を取得する。ここで、画素暗電流は、画素部で発生する光量依存のない電流であり、温度に依存する特性を有する。なお、画素の遮光部は、黒レベルを取得するために、画素部をメタル等で遮光した領域であり、オプティカルブラック領域(OPB領域)と呼ばれることもある。
第1の温度取得手法および第2の温度取得手法では、温度の絶対値を取得することが可能であるが、実際に補正するデータを有する画素部からチップ温度計が離れているため、検出された温度と補正対象との温度差が生じる傾向が高い。
第1の温度取得手法では、基板の熱抵抗により、検出される温度と撮像素子との温度差が生じやすい構成になるため、例えば、急激な温度変化などには追従することができない場合がある。また、第1の温度取得手法では、このように温度測定精度が低下するといった性能の低下以外に、部品点数が増加してコストが増加する場合がある。
第2の温度取得手法では、撮像素子と同じ半導体チップ内に温度計回路を実装する方法であることから、 第1の温度取得手法と比較して、検出される温度と撮像素子との温度差は発生しないが、画素部以外での温度データを取得するため、検出される温度と画素部との温度差が発生する場合がある。また、第2の温度取得手法では、このように温度測定精度が低下するといった性能の低下以外に、チップサイズが増加してコストが増加する場合がある。なお、このような性能の低下あるいはコストの増加の程度は、例えば、第2の温度取得手法の方が、第1の温度取得手法よりも小さい。
第3の温度取得手法では、画素で発生する暗電流に基づいて撮像素子の温度情報を取得することで、画素の温度情報を取得することが可能であるが、遮光部を使用するため、取得される温度情報が少なく、画素のバラつきに依存しやすい場合がある。
ここで、遮光部の領域は、開口画素領域と比べて、画素数が少ない。また、遮光部は、画素の四辺にあることが多く、面内依存を受けやすい場合が多い。
第3の温度取得手法では、このように温度測定精度が低下するといった性能の低下があり得る。
特開2012−30004号公報
上述のように、撮像装置では、撮像素子により撮像される画像の特性が温度に依存して変化する場合があった。ここで、画像の特性としては、画像の精度に関わる特性であり、例えば、画像の色、明るさ、あるいは、階調などのうちの1以上である。
本発明は、このような事情を考慮してなされたもので、画素の温度を精度良く検出することができる撮像装置を提供することを課題とする。
上記の課題を解決するために、本発明の一態様は、温度に依存する第1特性を持つ第1素子を含む画素回路部を複数有する撮像素子と、前記第1素子の前記第1特性に応じた前記画素回路部からの出力情報を検出する出力情報検出部と、前記出力情報検出部により検出された前記出力情報に基づいて、前記温度に関する状況を検出する温度状況検出部と、を備える撮像装置である。
本発明の一態様は、撮像装置において、前記温度に関する状況を検出するために用いられる前記画素回路部を選択する制御を行う画素選択制御部を備える、構成であってもよい。
本発明の一態様は、撮像装置において、前記画素選択制御部により行われる制御により選択される前記画素回路部における撮像機能をオフにする撮像機能制御部を備える、構成であってもよい。
本発明の一態様は、撮像装置において、複数のサブフレームを含む1フレームに含まれる1以上の前記サブフレームにおいて、前記温度に関する状況を検出するために用いられる前記出力情報の検出を行う、構成であってもよい。
本発明の一態様は、撮像装置において、前記撮像素子により撮像された画像について、前記温度状況検出部により検出された前記温度に関する状況に基づいて温度に関する補正を行う、構成であってもよい。
本発明によれば、撮像装置において、画素の温度を精度良く検出することができる。
本発明の一実施形態に係る撮像装置の概略的な構成を示す図である。 本発明の一実施形態に係る撮像回路部の構成を示す図である。 本発明の一実施形態に係る画素回路部の構成を示す図である。 本発明の一実施形態に係る撮像回路部の温度特性を説明するための図である。 本発明の一実施形態に係る撮像装置により行われる処理のタイミングの一例を示す図である。 本発明の一実施形態に係る撮像装置により行われる処理の手順の一例を示す図である。 背景技術に係る温度と距離情報との関係の一例を示す図である。 背景技術に係るセンサの検出温度と撮像素子の温度との関係の一例を示す図である。 背景技術に係るセンサの検出温度と補正後の距離情報との関係の一例を示す図である。 本発明の一実施形態に係る撮像装置が適用された自動車の概略的な構成を示す図である。 本発明の一実施形態に係る撮像装置が適用された自動車の前側部分を示す図である。
以下、図面を参照し、本発明の実施形態について説明する。
[撮像装置]
図1は、本発明の一実施形態に係る撮像装置1の概略的な構成を示す図である。
撮像装置1は、入力部21と、出力部22と、撮像素子23と、撮像素子制御部24と、画像処理部25を備える。
撮像素子23は、撮像回路部41を備える。
撮像素子制御部24は、出力情報検出部61と、温度状況検出部62と、対応情報記憶部63と、画素選択制御部64と、撮像機能制御部65と、バイアス部制御部66を備える。
画像処理部25は、撮像画像取得部81と、撮像画像補正部82を備える。
ここで、図1に示される撮像装置1の構成は、機能に着目した構成例であり、実際の装置の構成は様々なものであってもよい。
また、本実施形態では、撮像装置1が撮像素子制御部24および画像処理部25を備える構成を示すが、他の構成例として、撮像装置1が撮像素子制御部24あるいは画像処理部25の一方または両方のうちの所定の機能部を備えない構成が用いられてもよい。
例えば、撮像装置1は、複数の筐体を有してもよい。
一例として、撮像装置1は、撮像素子23と、外部から撮像素子23への信号を入力する入力部21と、撮像素子23から外部への信号を出力する出力部22を備える筐体を有する構成であってもよく、撮像素子制御部24を備える筐体を有する構成であってもよく、画像処理部25を備える筐体を有する構成であってもよい。
また、例えば、撮像装置1と、他の1個以上の装置と、を備える撮像システムが構成されてもよい。
また、例えば、撮像素子制御部24と画像処理部25とが一体化されてもよい。
図1に示される撮像装置1の概略を説明する。
入力部21は、撮像装置1の外部から信号を入力する。入力部21により入力される信号は、任意の信号であってもよく、例えば、撮像素子23と撮像素子制御部24と画像処理部25のうちの1以上に入力される信号であってもよい。また、入力部21により入力される信号は、例えば、制御のための信号であってもよい。
出力部22は、撮像装置1の外部へ信号を出力する。出力部22により出力される信号は、任意の信号であってもよく、例えば、撮像素子23と撮像素子制御部24と画像処理部25のうちの1以上から出力される信号であってもよい。また、出力部22により出力される信号は、例えば、制御のための信号であってもよい。
撮像素子23は、画像を撮像する素子を有する。
撮像回路部41は、複数の画素に対応した回路を備え、画像を撮像する。
なお、図1の例では、撮像素子23が撮像回路部41を含むイメージを示してあるが、例えば、撮像素子23が撮像回路部41以外の構成部を備えてもよく、あるいは、撮像素子23が撮像回路部41と同等であってもよい。
撮像素子制御部24は、撮像素子23に関する制御を行う。
出力情報検出部61は、撮像回路部41から出力される情報(出力情報)を検出する。なお、本実施形態では、当該出力情報として、電圧(電圧の情報)が用いられる場合を示すが、他の例として、電流(電流の情報)が用いられてもよい。例えば、当該電圧は出力部D1の電圧を検出することで取得され、また、当該電流は出力部D1から出力される電流を検出することで取得される。
温度状況検出部62は、出力情報検出部61により検出された出力情報に基づいて、温度の状況を検出する。
対応情報記憶部63は、出力情報検出部61により検出される出力情報と温度の状況とを対応付ける情報(説明の便宜上、「対応情報」ともいう。)を記憶する。
本実施形態では、温度状況検出部62は、対応情報記憶部63に記憶された対応情報を参照して、当該対応情報および出力情報検出部61により検出された出力情報に基づいて、温度の状況を検出する。
ここで、温度状況検出部62は、例えば、出力情報あるいは対応情報の一方または両方について、補間を行ってもよい。
画素選択制御部64は、撮像回路部41に含まれる複数の画素のうちの全部または一部を選択する制御を行う。
撮像機能制御部65は、撮像回路部41に含まれる撮像機能のオンとオフの制御を行う。ここで、撮像機能は、画像を撮像する機能である。本実施形態では、撮像機能がオンである状態は、画像を撮像する動作が可能である状態を表し、一方、撮像機能がオフである状態は、画像を撮像する動作が不可である状態を表す。
バイアス部制御部66は、撮像回路部41に含まれるバイアス部の制御を行う。
画像処理部25は、撮像素子23において撮像された画像の処理を行う。
撮像画像取得部81は、撮像回路部41により撮像された画像(撮像画像)を取得する。
撮像画像補正部82は、撮像画像取得部81により取得された撮像画像について補正を行う。本実施形態では、撮像画像補正部82は、当該撮像画像について、温度に関する補正を行う。さらに、撮像画像補正部82は、当該撮像画像について、温度以外の情報に関する補正を行ってもよい。
[撮像回路部]
図2は、本発明の一実施形態に係る撮像回路部41の構成を示す図である。撮像回路部41は、例えば、所定の基板に形成され、半導体チップとして構成されてもよい。
なお、回路(全体の回路、あるいは、全体のなかの一部を見たときの回路部分)においては、電圧あるいは電流が信号線などにより伝えられることで、当該電圧あるいは当該電流に応じた情報が伝えられる。そして、当該回路からの出力は、例えば、電圧あるいは電流として検出される。例えば、このような電圧あるいは電流を信号として捉えると、当該信号が信号線などにより伝送されることで、当該信号に応じた情報が伝送されて、当該信号(当該信号に応じた情報)が出力等されると捉えられる。
また、接地される部位は、例えば、0Vの接地部に接続されてもよく、あるいは、0V以外の所定の定電圧の接地部に接続されてもよい。
撮像回路部41は、画素部111と、垂直信号線駆動部112と、カラム出力アナログバッファ部113と、センサ出力アナログバッファ部114と、画素選択部131と、水平転送部132と、バイアス部133を備える。
画素選択部131は、2以上の整数値であるn個の入力部A1〜Anを備える。ここで、nは、任意の数値であってもよい。
水平転送部132は、2以上の整数値であるm個の入力部B1〜Bmを備える。ここで、mは、任意の数値であってもよい。
バイアス部133は、2個の入力部C1〜C2を備える。
センサ出力アナログバッファ部114は、1個の出力部D1を備える。
画素部111は、(n×m)個の画素回路部Z(ij)をマトリックス状に備える。ここで、iは行(図2の例において、縦方向の並び)を表しており1〜nの整数値を表しており、jは列(図2の例において、横方向の並び)を表しており1〜mの整数値を表している。
例えば、画素回路部Z(11)は1行1列目の回路部を表しており、画素回路部Z(n1)はn行1列目の回路部を表しており、画素回路部Z(1m)は1行m列目の回路部を表しており、画素回路部Z(nm)はn行m列目の回路部を表している。
それぞれの画素回路部Z(ij)は、1個の画素に相当する回路部である。
なお、n=1の構成も可能であり、m=1の構成も可能であるが、本実施形態では、説明の便宜上、nおよびmの両方が2以上である場合を示す。
垂直信号線駆動部112は、それぞれの列ごとに、n個の画素回路部Z(ij)からの出力が接続される信号線(説明の便宜上、「垂直信号線」ともいう。)の出力のオンとオフを切り替える。
1列目については、n個の画素回路部Z(11)〜Z(n、1)の出力をまとめる垂直信号線に、トランジスタ211−1の一端と、スイッチ213−1の一端とが接続されている。トランジスタ211−1の他端は接地されている。カラム出力アナログバッファ部113に続く信号線があり、コンデンサ212−1の一端と当該信号線とが接続されている。コンデンサ212−1の他端は接地されている。スイッチ232−1の他端は、カラム出力アナログバッファ部113に続く信号線に対して、当該信号線と接続された状態と、当該信号線に接続されない状態(開放された状態)とで、切り替えられることが可能である。
2列目〜m列目についても、1列目と同様な構成を有している。つまり、j列目について、トランジスタ211−j、コンデンサ212−j、スイッチ213−jを備える。
なお、それぞれのトランジスタ211−jは、例えば、電界効果トランジスタ(FET:Field Effect Transistor)であってもよい。
垂直信号線駆動部112では、j列目について、スイッチ213−jとカラム出力アナログバッファ部113に続く信号線とが接続された状態において、水平信号線にかかる電圧および電流を当該信号線に伝える。
一方、垂直信号線駆動部112では、j列目について、スイッチ213−jとカラム出力アナログバッファ部113に続く信号線とが接続されない状態においては、水平信号線にかかる電圧および電流を当該信号線に伝えない。
カラム出力アナログバッファ部113は、それぞれの列ごとに、垂直信号線駆動部112から伝えられる出力のオンとオフを切り替える。
1列目については、垂直信号線駆動部112からの信号線に、バッファ231−1が接続されており、当該バッファ231−1とスイッチ232−1の一端とが接続されている。センサ出力アナログバッファ部114に続く信号線があり、スイッチ232−1の他端は、当該信号線と接続された状態と、当該信号線に接続されない状態(開放された状態)とで、切り替えられることが可能である。
2列目〜m列目についても、1列目と同様な構成を有している。つまり、j列目について、バッファ231−j、スイッチ232−jを備える。
カラム出力アナログバッファ部113では、j列目について、スイッチ232−jとセンサ出力アナログバッファ部114に続く信号線とが接続された状態において、水平信号線にかかる電圧および電流を当該信号線に伝える。
一方、カラム出力アナログバッファ部113では、j列目について、スイッチ232−jとセンサ出力アナログバッファ部114に続く信号線とが接続されない状態においては、水平信号線にかかる電圧および電流を当該信号線に伝えない。
センサ出力アナログバッファ部114は、カラム出力アナログバッファ部113からの出力を伝える信号線に、バッファ251を備える。
センサ出力アナログバッファ部114では、バッファ251を介して、カラム出力アナログバッファ部113からの出力を出力部D1から出力する。
画素選択部131は、それぞれの行ごとに、画素回路部Z(ij)の制御を行う。
本実施形態では、画素選択部131は、それぞれの入力部A1〜Anにより外部から入力された信号に基づいて、それぞれの行ごとに、画素回路部Z(ij)の制御を行う。それぞれの入力部A1〜Anは、それぞれの行に対応している。
具体的には、画素選択部131は、i行目に対応した入力部Aiにより入力された信号に基づいて、i行目にあるm個の画素回路部Z(i1)〜Z(im)の制御を行う。これにより、例えば、それぞれの行ごとに、画素回路部Z(ij)からの出力を垂直信号線に伝えるか否かが制御され、すなわち、垂直信号線に出力を伝える画素回路部Z(ij)が選択される。
なお、画素選択部131は、例えば、それぞれの入力部A1〜Anごとに、それぞれの入力部A1〜Anにより入力された信号を伝送する信号線にバッファ(図示せず)を備えてもよい。
水平転送部132は、それぞれの列ごとに、スイッチ232−1〜232−mの状態を切り替える。
本実施形態では、水平転送部132は、それぞれの入力部B1〜Bmにより外部から入力された信号に基づいて、それぞれの列ごとに、スイッチ232−1〜232−mの状態を切り替える。それぞれの入力部B1〜Bmは、それぞれの列に対応している。これにより、例えば、それぞれの列ごとに、カラム出力アナログバッファ部113からの出力をセンサ出力アナログバッファ部114に伝えるか否かが制御され、すなわち、センサ出力アナログバッファ部114に出力を伝える画素回路部Z(ij)が選択される。
ここで、本実施形態では、画素選択部131による行ごとの画素選択と、水平転送部132による列ごとの画素選択と、の組み合わせにより、画素ごとに所望の画素を選択することができ、すなわち、センサ出力アナログバッファ部114に出力を伝える画素回路部Z(ij)が選択される。
バイアス部133は、それぞれの列ごとに、垂直信号線駆動部112およびカラム出力アナログバッファ部113の制御を行う。
バイアス部133は、例えば、それぞれのトランジスタ211−1〜211−mのバイアスを制御する。本実施形態では、バイアス部133は、すべてのトランジスタ211−1〜211−mに同じバイアス電圧を印加するように制御する。
また、バイアス部133は、例えば、それぞれの列ごとに、スイッチ213−1〜213−mの状態を切り替える。これにより、例えば、それぞれの列ごとに、垂直信号線駆動部112からの出力をカラム出力アナログバッファ部113に伝えるか否かが制御され、すなわち、カラム出力アナログバッファ部113に出力を伝える画素回路部Z(ij)が選択される。
ここで、本実施形態では、スイッチ232−1〜232−mによりそれぞれの列ごとに画素回路部Z(ij)を選択することが可能であるため、例えば、垂直信号線駆動部112のスイッチ213−1〜213−mは備えられなくてもよく、垂直信号線からの出力が常にカラム出力アナログバッファ部113に伝えられる構成であってもよい。
入力部C1は、垂直信号線駆動部112を制御するための信号を外部からバイアス部133に入力する。バイアス部133は、入力部C1から入力された信号に基づいて、垂直信号線駆動部112の制御を行う。
入力部C2は、カラム出力アナログバッファ部113を制御するための信号を外部からバイアス部133に入力する。バイアス部133は、入力部C2から入力された信号に基づいて、カラム出力アナログバッファ部113の制御を行う。
なお、図2の例では、バイアス部133は、カラム出力アナログバッファ部113の制御を行わないが、任意の制御を行ってもよい。
センサ出力アナログバッファ部114では、画素選択部131による行ごとの画素選択と水平転送部132による列ごとの画素選択との組み合わせにより選択された画素回路部Z(ij)からの出力が、バッファ251に加えられる。そして、当該バッファ251からの出力情報が、出力部D1により外部に出力される。
[画素回路部]
図3は、本発明の一実施形態に係る画素回路部Z(11)の構成を示す図である。
ここで、本実施形態では、すべての画素回路部Z(ij)の構成および動作は同様であり、1個の画素回路部Z(11)を例として説明する。
画素回路部Z(11)は、4個のトランジスタ311〜314と、1個のフォトダイオード(PD:Photodiode)331と、拡散容量(FD:Floating Diffusion)の機能を有する1個のコンデンサ332と、垂直信号線351を備える。ここで、他の例として、垂直信号線351は、画素回路部Z(11)に含まれずに、画素回路部Z(11)とは別体であると捉えられてもよい。
なお、それぞれのトランジスタ311〜314は、例えば、電界効果トランジスタ(FET)であってもよい。また、本実施形態では、コンデンサ332は、フローティングディフュージョンの寄生容量を示しており、容量素子部品としては存在しない。他の例として、コンデンサ332として、容量素子部品が用いられてもよい。
フォトダイオード331の一端と、トランジスタ311のソースおよびドレインの一端とが接続されている。当該トランジスタ311の他端と、トランジスタ313のゲートとが接続されている。当該フォトダイオード331の他端が接地されている。
トランジスタ312のソースおよびドレインの一端と、トランジスタ311とトランジスタ313とを接続する信号線とが接続されている。
当該トランジスタ312の他端と、当該トランジスタ313のドレインが、それぞれ、定電圧Vddが印加された信号線と接続されている。
コンデンサ332として、容量素子部品が用いられる場合、コンデンサ332の一端と、当該トランジスタ311と当該トランジスタ313とを接続する信号線とが接続され、また、当該コンデンサ332の他端が接地される。本実施形態では、寄生容量によって、これと等価な回路が構成されている。
当該トランジスタ313のソースと、トランジスタ314のソースおよびドレインの一端とが接続されている。当該トランジスタ314の他端と、垂直信号線351とが接続されている。
なお、垂直信号線351は、同一の列にあるn個の画素回路部Z(ij)について共通となっている。
フォトダイオード331は、光検出器の機能を有しており、外部から入力された光のパワーに応じた大きさを持つ電荷を発生する。
本実施形態では、1個のフォトダイオード331は、1個の画素に対応している。そして、(n×m)個の画素に対応した(m×n)個のフォトダイオード331で発生した電荷により、(n×m)個の画素を有する1画像フレーム分の撮像画像が得られる。
画素選択部131は、トランジスタ311のゲートに所定の制御信号(例えば、制御電圧)を供給することで、当該トランジスタ311のソースとドレインとの間が導通された状態と導通されない状態(例えば、当該トランジスタ311のソースとドレインとの間に電荷が転送される状態と電荷が転送されない状態)とを切り替える。当該トランジスタ311のソースとドレインとの間が導通された状態では、フォトダイオード331で発生した電荷がトランジスタ311を介して転送され得る。フォトダイオード331で発生した電荷が転送されると、コンデンサ332にかかる電圧が当該電荷に応じた電圧となる。一方、当該トランジスタ311のソースとドレインとの間が導通されない状態では、フォトダイオード331で発生した電荷が転送されない。
このように、画素選択部131は、トランジスタ311を制御することで、フォトダイオード331で発生した電荷を、コンデンサ332にかかる電圧として読み出すか否かを制御する。
本実施形態では、画素選択部131からトランジスタ311のゲートに供給する制御信号は、同一の行にあるm個の画素回路部Z(ij)について共通となっている。
画素選択部131は、トランジスタ312のゲートに所定の制御信号(例えば、制御電圧)を供給することで、当該トランジスタ312のソースとドレインとの間が導通された状態と導通されない状態(例えば、当該トランジスタ312のソースとドレインとの間に電流が流れる状態と電流が流れない状態)とを切り替える。当該トランジスタ312のソースとドレインとの間が導通された状態では、コンデンサ332にかかる電圧が定電圧Vddとなり、このような固定的な電位によりリセットされる。リセットされた状態では、フォトダイオード331で発生した電荷は、定電圧Vddの方に抜けて、トランジスタ313のゲートには影響を与えない。
一方、当該トランジスタ312のソースとドレインとの間が導通されない状態では、コンデンサ332にかかる電圧が維持される。
このように、画素選択部131は、トランジスタ312を制御することで、トランジスタ313のゲートに印加される電圧をリセットするか否かを制御する。
本実施形態では、画素選択部131からトランジスタ312のゲートに供給する制御信号は、同一の行にあるm個の画素回路部Z(ij)について共通となっている。
トランジスタ313は、ソースフォロアアンプとして機能する。
本実施形態では、トランジスタ313において、ドレインに定電圧Vddが印加されており、ゲートに印加された電圧に応じた電圧が、当該トランジスタ313のソースからトランジスタ314に加えられる。当該電圧は、フォトダイオード331で発生した電荷に応じた大きさを持つ。
トランジスタ313は、増幅用に用いられている。
ここで、本実施形態では、トランジスタ313のゲートに印加される電圧に応じて、当該トランジスタ313のソースとドレインとの間が導通された状態と導通されない状態(例えば、当該トランジスタ313のソースとドレインとの間に電流が流れる状態と電流が流れない状態)とが切り替えられる。
画素選択部131は、トランジスタ314のゲートに所定の制御信号(例えば、制御電圧)を供給することで、当該トランジスタ314のソースとドレインとの間が導通された状態と導通されない状態(例えば、当該トランジスタ314のソースとドレインとの間に電流が流れる状態と電流が流れない状態)とを切り替える。当該トランジスタ314のソースとドレインとの間が導通されない状態では、トランジスタ313にかかる電圧に応じた電圧が垂直信号線351に加えられる。一方、当該トランジスタ314のソースとドレインとの間に電流が導通されない状態では、トランジスタ313にかかる電圧に応じた電圧が垂直信号線351に加えられない。
このように、画素選択部131は、トランジスタ314を制御することで、画素回路部Z(11)からの出力を垂直信号線に加えるか否かを制御する。当該出力は、例えば、電圧あるいは電流である。
本実施形態では、画素選択部131からトランジスタ314のゲートに供給する制御信号は、同一の行にあるm個の画素回路部Z(ij)について共通となっている。
なお、本実施形態では、トランジスタ311〜314のそれぞれについて、ソースとドレインとの間が導通された状態をオンの状態と呼び、ソースとドレインとの間が導通されない状態をオフの状態と呼ぶ。
[撮像素子制御部による撮像素子の制御]
出力情報検出部61は、センサ出力アナログバッファ部114の出力部D1から出力される出力情報を検出する。
ここで、例えば、撮像機能がオンである状態にある画素回路部Z(ij)から出力された出力情報は、当該画素回路部Z(ij)により撮像された画素の情報を含み、主に、画像情報の取得に使用され得るが、温度の補正に使用されてもよい。一方、例えば、撮像機能がオフである状態にある画素回路部Z(ij)から出力された出力情報は、当該画素回路部Z(ij)により撮像された画素の情報を含まず、温度の補正に使用され得る。
温度状況検出部62は、出力情報検出部61により検出された出力情報、および対応情報記憶部63により記憶された対応情報に基づいて、温度の状況を検出する。具体的には、対応情報は出力情報と温度の状況とを対応付けており、温度状況検出部62は、当該対応情報において検出された出力情報に対応付けられた温度の状況を検出する。
ここで、温度状況検出部62は、撮像機能がオフである状態にある画素回路部Z(ij)から出力された出力情報に基づいて温度の状況を検出することが好ましい一例であるが、他の例として、撮像機能がオンである状態にある画素回路部Z(ij)から出力された出力情報に基づいて温度の状況を検出してもよい。
画素選択制御部64は、画素回路部Z(ij)のトランジスタ314を制御するための制御信号を画素選択部131のそれぞれの入力部A1〜Anに入力することで、垂直信号線に電圧を伝える画素回路部Z(ij)を選択し、かつ、カラム出力アナログバッファ部113のスイッチ232−1〜232−mを制御するための制御信号を水平転送部132のそれぞれの入力部B1〜Bmに入力することで、センサ出力アナログバッファ部114に電圧を伝える画素回路部Z(ij)を選択する。これらにより、(n×m)個の画素回路部Z(ij)について、行ごとの選択、および、列ごとの選択が行われ、結果として、画素ごとの選択が行われる。
それぞれの列の垂直信号線には、当該それぞれの列にあるn個の画素回路部Z(ij)のうちで選択された画素回路部Z(ij)からの出力が加えられる。
なお、画素選択制御部64は、いずれの画素回路部Z(ij)も選択しないときがあってもよい。
また、本実施形態では、画素選択制御部64は、画素回路部Z(ij)のトランジスタ312を制御するための制御信号についても、画素選択部131のそれぞれの入力部A1〜Anに入力する。
また、画素選択制御部64は、画素回路部Z(ij)のトランジスタ312を制御するための制御信号を画素選択部131のそれぞれの入力部A1〜Anに入力することで、温度に関する情報を検出する対象とする画素回路部Z(ij)について、温度に関する情報を検出している間は、リセットされた状態、つまり、トランジスタ312がオン(ソースとドレインとの間が導通された状態)となって、トランジスタ313のゲートに定電圧Vddに応じた電圧が印加された状態を維持する。本実施形態では、この場合、トランジスタ313のソースとドレインとの間が導通された状態(オンの状態)になるとする。
ここで、温度測定が行われずに撮像が行われるモード(説明の便宜上、「撮像モード」という。)と、温度測定が行われるモード(説明の便宜上、「温度測定モード」という。)とを切り替えることが可能な構成が用いられてもよい。この構成では、撮像モードにおいてトランジスタ312はオフ(ソースとドレインとの間が導通されない状態)に制御され、温度測定モードにおいてトランジスタ312はオンに制御される。この構成では、撮像モードにおいて画素回路部Z(ij)を用いて画像の撮像が行われ、温度測定モードにおいて画素回路部Z(ij)を用いて温度に関する情報の測定(本実施形態では、出力情報に基づく温度の状況の検出)が行われる。
撮像機能制御部65は、画素回路部Z(ij)のトランジスタ311を制御するための制御信号を画素選択部131のそれぞれの入力部A1〜Anに入力することで、それぞれの行ごとに、画素回路部Z(ij)の撮像機能がオンである状態と当該撮像機能がオフである状態とを切り替える。
ここで、撮像機能がオフである状態では、画素回路部Z(ij)において、フォトダイオード331の温度依存成分およびコンデンサ332の温度依存成分の影響がトランジスタ313のソース電圧に発生しない状態となり、これにより、当該ソース電圧の温度依存成分の特性が強調され、感度の高い温度の情報を取得することが可能となる。つまり、画素ごとの撮像情報を取得するフォトダイオード331の影響を切り離した状態で、温度特性を持つソースフォロアアンプ(トランジスタ313)の当該温度特性を強調することができ、これにより、温度に関する情報を精度良く取得することができる。
一方、撮像機能がオンである状態では、画素回路部Z(ij)において、フォトダイオード331の温度依存成分およびコンデンサ332の温度依存成分の影響がトランジスタ313のソース電圧に発生する状態となる。このように、撮像機能がオンである状態では、当該ソース電圧の温度依存成分以外に、フォトダイオード331の温度依存成分およびコンデンサ332の温度依存成分の影響が発生するが、実用上で有効であれば、当該ソース電圧に応じた出力情報に基づいて、温度の状況の検出が行われてもよい。
一例として、撮像モードでは、撮像機能がオンに制御されて、通常の撮像の動作が行われて、撮像画像が取得される。
一例として、温度測定モードでは、撮像機能がオフに制御される点およびトランジスタ312がオンに制御される点以外は、通常の撮像と同様な動作が行われることで、温度に関する情報が測定される。
他の例として、撮像機能がオンに制御される温度測定モードでは、トランジスタ312がオンに制御される点以外は、通常の撮像と同様な動作が行われることで、温度に関する情報が測定される。
なお、トランジスタ311がオフに制御された状態では、トランジスタ313のソース電圧が安定化する。一方、トランジスタ311がスイッチ駆動される状態では、消費電流が大きくなる。
バイアス部制御部66は、バイアス部133のそれぞれの入力部C1、C2に入力される制御信号を制御することで、垂直信号線駆動部112およびカラム出力アナログバッファ部113を制御する。
撮像画像取得部81は、出力情報検出部61により検出された出力情報に基づいて、撮像回路部41により撮像された画像(撮像画像)を取得する。
ここで、撮像画像取得部81は、撮像機能がオンである状態にある画素回路部Z(ij)からの出力情報に基づいて撮像画像を取得する。
[画素回路部の温度特性]
図4は、本発明の一実施形態に係る撮像回路部41の温度特性を説明するための図である。
図4には、図3に示される画素回路部Z(11)を有する図2に示される撮像回路部41の一部の概略的な構成を示してあり、説明を簡易化するために、当該一部以外は図示を省略してある。
また、図4には、バイアス部133に含まれるトランジスタ411と、接続部431を示してある。当該接続部431は、例えば、2個の入力部C1、C2のうちの一方である。なお、トランジスタ411は、例えば、電界効果トランジスタ(FET)であってもよい。
また、図4には、撮像回路部41の外部の回路として、電源451と、抵抗452を示してある。
ここで、電源451の電圧をVinと表し、抵抗452の抵抗値をRと表し、外部から接続部431に入力される電流をIinと表し、トランジスタ411のゲート電圧をVbと表す。なお、図4の例では、トランジスタ411のゲートとドレインとが接続されており、ゲート電圧とドレイン電圧とが同じ電圧になっている。
また、トランジスタ411(トランジスタM1と示してある。)について、ゲート幅をW1と表し、ゲート長をL1と表し、閾値電圧をVth1と表し、電子移動度をu1と表し、ゲート酸化膜容量をCox1と表す。
また、トランジスタ211−1(トランジスタM2と示してある。)について、ゲート幅をW2と表し、ゲート長をL2と表し、閾値電圧をVth2と表し、電子移動度をu2と表し、ゲート酸化膜容量をCox2と表す。
また、画素回路部Z(11)のトランジスタ313(トランジスタMsfと示してある。)について、ゲート幅をWsfと表し、ゲート長をLsfと表し、閾値電圧をVthsfと表し、電子移動度をusfと表し、ゲート酸化膜容量をCoxsfと表す。
また、画素回路部Z(11)のトランジスタ313について、ソースとドレインとの間を流れる電流をIsfと表し、ソースの電圧をVsfと表し、ゲートの電圧をVgsfと表す。
ここで、トランジスタ313のソースの電圧Vsfは、ソースフォロアアンプとして使用されるトランジスタ313の出力電圧となる。
本例では、電源451の電圧Vinおよび抵抗452の抵抗値は、固定的に設定されていることを想定している。
トランジスタ411に関し、式(1)が成り立つ。
トランジスタ211−1に関し、式(2)が成り立つ。なお、ここでは、u1=u2、Cox1=Cox2、Vth1=Vth2を想定している。
トランジスタ313に関し、式(3)が成り立つ。
なお、式(1)〜式(3)において、「・」は乗算を表し、また、sqrtは平方根のルートを表す。
[数1]
Iin=(Vin−Vb)/R
=(1/2)・u1・Cox1・(W1/L1)・(Vb−Vth1)
・・(1)
[数2]
Isf=(1/2)・u2・Cox2・(W2/L2)・(Vb−Vth2)
=Iin・(W2/L2)/(W1/L1)
・・(2)
[数3]
Vsf=Vgsf−Vthsf
−sqrt[(2・Isf)/{usf・Coxsf・(Wsf/Lsf)}]
・・(3)
ここで、本実施形態では、温度に依存して変化し得るパラメータは、Iin、Isf、Vsf、Vb、u1、u2、usf、Vth1、VtH2、Vthsfである。このうち、例えば、Vthsfの温度依存性が大きい場合がある。
一般に、ソースフォロアアンプの出力は、温度に対して、線形に近い依存性を持つことが知られている。
このため、例えば、ソースフォロアアンプとして使用されるトランジスタ313について、ソースとドレインとの間を流れる電流Isf、あるいは、ソースの電圧Vsfに基づいて、温度の状況を検出することが可能である。本実施形態では、センサ出力アナログバッファ部114の出力部D1からの出力は電流Isfあるいは電圧Vsfを反映し得るため、当該出力に基づいて温度の状況を検出することが可能である。当該出力は、例えば、電流あるいは電圧として検出されてもよい。
ソースフォロアアンプとして使用されるトランジスタ313では、ドレインに定電圧Vddが印加された状態において、温度に依存する特性が反映された出力がソースから伝えられる。
ここで、本実施形態では、トランジスタ313における電流Isfあるいは電圧Vsfの情報だけでは、温度の絶対値を導出することができない場合を示す。本実施形態では、トランジスタ313における電流Isfあるいは電圧Vsfの情報は、電流Isfあるいは電圧Vsfと温度との関係の傾きを再現するが、絶対値を再現しない。このため、本実施形態では、例えば、電流Isfあるいは電圧Vsfと温度との関係について1個以上の基準点があらかじめ設定されることで、電流Isfあるいは電圧Vsfの情報と当該基準点の情報に基づいて温度の絶対値が特定され得る。
一例として、対応情報記憶部63は、対応情報以外に、あらかじめ基準点の情報を記憶していてもよく、また、温度状況検出部62は、出力情報検出部61による検出結果、対応情報、および基準点の情報に基づいて、温度の状況として、温度の絶対値を検出してもよい。
他の例として、基準点の情報が用いられずに、温度状況検出部62は、出力情報検出部61による検出結果、および対応情報に基づいて、温度の状況として、温度の相対値を検出してもよい。
なお、本例では、基準点の情報を、対応情報以外の情報として捉えたが、他の例として、基準点の情報が対応情報に含まれていると捉えられてもよく、例えば、基準点の情報が一体化された対応情報が用いられてもよい。
ここで、基準点の数としては、例えば、1個であってもよく、あるいは、2個以上であってもよい。
一例として、2個以上の異なる電流Isfあるいは電圧Vsfにおける補正係数を2個以上の基準点の情報として測定して、これら2個以上の基準点の情報に基づいて、電流Isfあるいは電圧Vsfに対する補正係数の関数を求めることが、あらかじめ行われてもよい。この場合、例えば、対応情報に当該関数の情報が含められ、出力情報検出部により検出された出力情報に基づく値(例えば、電流Isfあるいは電圧Vsfに応じた値)を当該関数に代入することで補正係数を求めることが可能である。
なお、本実施形態では、トランジスタ313のソースから出力部D1までの回路における温度依存性は、例えば、トランジスタ313における温度依存性と比べて、小さいとみなすことができる。
また、本実施形態では、トランジスタ313のソースから出力部D1までの回路は、例えば、画素回路部Z(ij)からの出力を所定数倍する機能を有している。当該所定数倍は、例えば、1倍であってもよい。
[温度の状況の検出に使用される画素の選択]
本実施形態では、画素選択制御部64は、(n×m)個の画素回路部Z(ij)のうちから、温度の状況の検出に使用される画素回路部Z(ij)を選択することが可能である。
一例として、画素選択制御部64は、すべての画素回路部Z(ij)を温度の状況の検出に使用するように選択することが可能である。この場合、例えば、撮像素子23の画素部111の開口領域のすべての画素について温度に関する情報を取得することが可能であり、すなわち、画素の数と同数の温度に関する情報を取得することが可能である。
このようにすべての画素について温度に関する情報が取得される場合、例えば、すべての画素について撮像画像に関する情報(いわゆる画素情報)が取得される場合と同様に、各行ごとに1個ずつの各列ごとの画素について順番に温度に関する情報を取得する処理を複数の行について順番に行う走査処理が行われてもよい。1枚の画像フレームに含まれるすべての画素について走査(つまり、1周期の走査)が行われるごとに、1枚の画像フレームに含まれる温度に関する情報が取得される。
他の例として、画素選択制御部64は、(n×m)個未満である一部の画素回路部Z(ij)を温度の状況の検出に使用するように選択することが可能である。当該一部の画素回路部Z(ij)の数は、例えば、1個であってもよく、あるいは、2個以上で(n×m)個未満の値であってもよい。
具体例として、画素選択制御部64は、1画素ごとに画素回路部Z(ij)を選択してもよく、1行ごとに画素回路部Z(ij)を選択してもよく、1列ごとに画素回路部Z(ij)を選択してもよく、あるいは、所定の箇所の2個以上の画素回路部Z(ij)を選択してもよい。
ここで、所定の箇所の2個以上の画素回路部Z(ij)における当該所定の箇所としては、任意の箇所であってもよく、例えば、(n×m)のマトリックスのうち、上半分、下半分、左半分、右半分、あるいは、外側の4つの辺、4つの角に対応した4隅、などであってもよい。なお、ここでいう半分としては、厳密に半分にできない場合には、およそ半分であってもよい。
また、2個以上の画素回路部Z(ij)が選択される場合には、例えば、これら2個以上の画素回路部Z(ij)について取得される温度に関する情報について、平均化が行われて、平均化の結果に基づいて温度の状況が検出されてもよく、この場合、平均化によって温度に関する情報のバラツキを低減することが可能である。
[処理のタイミング]
図5は、本発明の一実施形態に係る撮像装置1により行われる処理のタイミングの一例を示す図である。
本例では、撮像画像に基づいて、撮像装置1と物体(図示せず)との距離を検出するTOF(Time Of Flight)の処理が行われる場合を示す。
図5において、横軸は時刻を表している。
図5の例では、撮像素子制御部24および画像処理部25は、所定のフレームF1、F2のタイミングにしたがって、処理を行う。
なお、図5の例では、連続した2個のフレームF1、F2を示してあるが、その前後においても、同様なフレーム(図示せず)が続いている。
それぞれのフレームF1、F2の構成は同様であるため、1個のフレームF1を例として説明する。
1個のフレームF1は、6個のサブフレームG0〜G5を含んでいる。6個のサブフレームG0〜G5は、1個のフレームF1の時間幅を6個に等分割した時間幅を有する。
本例では、説明の便宜上、6個のサブフレームG0〜G5を、0番目のサブフレームG0〜5番目のサブフレームG5と呼んで説明する。
0番目のサブフレームG0〜3番目のサブフレームG3のそれぞれでは、撮像素子23の撮像機能をオンにして、撮像画像取得部81により距離情報画像を取得する。当該距離情報画像は、撮像画像の一例であり、撮像装置1と物体との距離の情報を含む画像である。それぞれの距離情報画像は、(n×m)個の画素を有する画像フレームの画像である。
4番目のサブフレームG4の時間帯では、撮像画像補正部82により、0番目のサブフレームG0〜3番目のサブフレームG3において取得された4個の画像フレームの画像を平均化する処理と、平均化された画像について温度に関する補正(説明の便宜上、「温度補正」ともいう。)以外の所定の補正を行う処理を実行する。本例では、説明の便宜上、当該補正が行われた画像を補正情報画像と呼ぶ。
ここで、本例では、複数枚の画像フレームの画像を平均化することで、画像の精度を高めているが、他の例として、1枚の画像フレームの画像が用いられてもよい。また、複数枚の画像フレームの画像が平均化される場合、平均化される画像フレームの数は2以上の任意の値であってもよい。
また、温度補正以外の所定の補正としては、任意の補正が用いられてもよく、例えば、TOFのセンサのオフセット成分の補正が用いられてもよい。画像のオフセット成分の補正としては、例えば、様々な補正が行われてもよく、公知の補正が行われてもよい。
また、温度補正以外の所定の補正は、行われなくてもよい。
5番目のサブフレームG5の時間帯では、撮像素子23の撮像機能をオフにして、出力情報検出部61により撮像回路部41からの出力情報を検出する。また、出力情報検出部61により検出された出力情報に基づいて、温度状況検出部62により、温度の状況を検出する。そして、撮像画像補正部82により、温度状況検出部62により検出された温度の状況に基づいて、補正情報画像について、温度補正を行う。当該温度補正により、画像の精度が高められる。
これにより、それぞれのフレームF1、F2ごとに、温度補正などの補正が行われた1個の画像フレームの画像が得られる。
本例では、それぞれのサブフレームG0〜G5における画像フレームの画像としては、(n×m)のすべての画素の情報を含む画像が用いられている。
例えば、サブフレームG5では、撮像回路部41が有するすべての画素について、画像を撮像せずに、温度に関する情報を検出する動作が駆動されている。これにより、サブフレームG5では、撮像画像の代わりに、すべての画素のそれぞれに対応した温度に関する情報を有する画像(温度情報画像)が取得される。つまり、温度情報画像では、それぞれの画素に対応した情報が、温度に関する情報となっている。
なお、他の例として、それぞれのサブフレームG0〜G5における画像フレームの画像として、(n×m)の画素のうちの一部の情報が間引きあるいは平均などされた画像が用いられてもよい。
本例では、複数のフレームF1、F2のそれぞれごとに、つまり、毎フレームごとに、温度補正が行われた画像フレームの画像が得られるため、例えば、急な温度変化などが発生するような場合においても、そのような変化に追従して補正された画像を取得することが可能である。
なお、複数の画素について、行の数nおよび列の数mとしては、それぞれ任意の値が用いられてもよく、一例として、n=128、m=128が用いられてもよい。
ここで、撮像素子制御部24では、例えば、(n×m)個の画素について温度に関する情報が得られる場合に、出力情報検出部61あるいは温度状況検出部62により、一部の画素について温度に関する情報を間引いて温度補正に使用しない制御を行ってもよく、逆に言えば、一部の特定の画素について得られた温度に関する情報を温度補正に使用する制御を行ってもよい。
一例として、撮像素子制御部24では、(n×m)個の画素のうちの一部について温度に関する情報を取得して温度に関する補正係数を演算し、また、画像処理部25では、(n×m)個の画素のうちの他の一部について画像の情報(画素情報)を取得することで、総じて、通常の撮像時の読み出し処理と同様な処理によって、画像の情報の読み出しと温度に関する情報の読み出しとの両方を行うことが可能である。ここで、当該一部と当該他の一部とは、例えば、両者を合わせて(n×m)個の画素のすべてを網羅してもよく、あるいは、両者を合わせて(n×m)個の画素よりも少なくてもよい。
また、撮像装置1では、画像処理部25における画像の取得処理と、撮像素子制御部24における温度の状況の検出処理および画像処理部25における画像の補正処理と、が同時並行に行われてもよい。
一例として、出力部D1から出力される出力情報が、同時並行に、撮像素子制御部24および画像処理部25のそれぞれにより取得されてもよい。
他の例として、撮像装置1は、出力部D1から出力される出力情報の出力先を撮像素子制御部24と画像処理部25とで切り替えるスイッチ(図示せず)と、当該スイッチの切り替えを制御する機能部と、を備えてもよく、所定のタイミングで出力部D1から出力される出力情報の出力先を撮像素子制御部24と画像処理部25とで切り替えるように制御することで、当該出力情報を撮像素子制御部24と画像処理部25とに適切に振り分けることが行われてもよい。当該スイッチは、例えば、出力部D1からの出力情報を伝送する経路を2つの経路(説明の便宜上、「分岐経路」という。)に分岐して、それぞれの分岐経路を撮像素子制御部24と画像処理部25とのそれぞれの入力端に接続する構成を有してもよい。
また、撮像装置1では、撮像素子制御部24における温度の状況の検出処理と、画像処理部25における画像の補正処理と、が異なる時間帯に行われてもよい。
一例として、所定の長さの期間を前後する2個の時間帯に分割して、前の方の時間帯で温度の状況の検出処理が行われ、後の方の時間帯で温度の状況の検出結果に基づいて画像について温度補正を行う処理が行われてもよい。
具体例として、撮像装置1が低フレームレートの処理に適用される場合には、高速の撮像処理を行い、余った時間(撮像処理が行われない時間)に出力情報を取得する処理(温度に関する情報を取得する処理)を行う、構成が用いられてもよい。
また、温度補正が行われる対象の画像が取得されるタイミングと、当該温度補正で使用される温度係数を求めるために使用される温度に関する情報が取得されるタイミングとしては、例えば、いずれが先であってもよく、あるいは、同時(または、ほぼ同時)であってもよい。通常は、両者のタイミングが近い方が、温度補正の精度が高いと考えられるが、両者のタイミングは任意に設定されてもよい。
[処理の手順の一例]
図6は、本発明の一実施形態に係る撮像装置1により行われる処理の手順の一例を示す図である。
なお、図6の例は、図5の例とは、必ずしもタイミングが同じではない。
(ステップS1)
出力情報検出部61により、撮像回路部41からの出力情報を検出する。そして、ステップS2の処理へ移行する。
このとき、例えば、画素選択制御部64により、出力情報を検出する対象とする画素回路部Z(ij)が選択されている。また、このとき、例えば、出力情報を検出する対象とする画素回路部Z(ij)について、撮像機能制御部65により、撮像機能がオフに制御されていてもよい。
(ステップS2)
温度状況検出部62により、出力情報検出部61により検出された出力情報および対応情報記憶部63に記憶された対応情報に基づいて、撮像回路部41における温度の状況を検出する。そして、ステップS3の処理へ移行する。
(ステップS3)
撮像画像取得部81により、撮像回路部41により撮像された画像(撮像画像)を取得する。そして、ステップS4の処理へ移行する。
ここで、他の例として、撮像画像を取得する処理は、ステップS1の処理よりも前に行われてもよく、あるいは、ステップS1の処理とステップS2の処理との間で行われてもよい。
また、例えば、撮像機能がオンである状態で、出力情報検出部61により温度補正のための出力情報を検出する処理と、撮像画像取得部81により撮像画像を取得する処理と、の両方が並行に行われてもよい。
(ステップS4)
撮像画像補正部82により、撮像画像取得部81により取得された撮像画像について補正を行う。そして、本フローの処理を終了する。
ここで、撮像画像についての補正は、例えば、温度補正を含んでおり、温度補正以外の補正を含んでもよい。
また、温度補正と他の補正との両方が行われる場合、例えば、温度補正と他の補正との処理の順序としては、任意の順序が用いられてもよい。
なお、図6に示される処理の手順は一例であり、他の様々な処理の手順が用いられてもよく、例えば、図5の例に示されるような処理の手順が用いられてもよい。
[背景技術に係る課題および本実施形態に係る効果の具体例]
図7〜図9を参照して、背景技術に係る課題の具体例を示す。本実施形態では、このような課題を解決することができるという効果が得られる。
ここでは、TOFの処理により撮像画像から距離の情報(距離情報)が取得される場合を例として説明する。
図7は、背景技術に係る温度と距離情報との関係の一例を示す図である。
図7に示されるグラフにおいて、横軸は温度を表しており、縦軸は距離情報を表している。図7の例では、温度としては、背景技術に係る温度のセンサにより検出される撮像素子の温度(説明の便宜上、「検出温度」ともいう。)Tsと、当該撮像素子の実際の温度Tpとが等しいと想定している。
本例では、背景技術に係る温度取得手法として、基板上の撮像素子の近傍に配置されたチップ温度計により温度を検出して取得する第1の温度取得手法が用いられている。この場合、当該チップ温度計が、温度のセンサとして用いられている。
図7に示されるグラフでは、撮像装置と物体との距離が一定である場合について、撮像画像から取得された距離情報の特性1011と、一定の距離を示す特性1012を示してある。ここで、特性1012は実際の距離を表しており、特性1011は測定された距離を表している。
特性1011は、温度に依存しており、特性1012に対して誤差を有している。例えば、温度がT1(T1は温度を表す値)である場合、特性1011に対して差分1031を加算する補正を行うと、特性1021となる。また、例えば、温度がT2(T2は温度を表す値)である場合、特性1011に対して差分1032を減算する補正を行うと、特性1021となる。
図7の例では、Tp=Tsである定常状態において、温度補正の補正係数を求めることが行われている。このとき、実際の温度Tpに対して、一意に補正前の距離情報は決まり、各温度について、補正係数を設定することができる。そして、設定された補正係数を適用することで、温度に依存しない距離情報の特性1012を生成することができる。
しかしながら、Tp=Tsである定常状態が確保されないときには、一意の補正係数が決まらない場合がある。実際の動作では、Tp=Tsである定常状態が常に確保されることはなく、例えば、急激な温度の変化、あるいは、局所的な温度の変化などが発生し、Tp=Tsが成り立たないことが生じ得る。
図8は、背景技術に係るセンサの検出温度と撮像素子の温度との関係の一例を示す図である。
図8に示されるグラフにおいて、横軸はセンサの検出温度Tsを表しており、縦軸は実際の撮像素子の温度Tpを表している。そして、緩やかな温度変化が発生する場合、つまり、Tp=Tsである定常状態が確保されると想定される場合における特性1111を示してある。また、急激な温度変化などが発生する場合、つまり、Tp=Tsである定常状態が確保されないと想定される場合における特性1131を示してある。
図8の例では、検出温度Tsを用いて温度係数を生成した場合には、検出温度Tsと実際の温度Tpとの誤差があることから、温度係数の精度が劣化することがあった。
図9は、背景技術に係るセンサの検出温度と補正後の距離情報との関係の一例を示す図である。
図9に示されるグラフにおいて、横軸はセンサの検出温度Tsを表しており、縦軸は補正後の距離情報を表している。図9に示される補正後の距離情報は、図8の例における補正係数を用いて補正された距離情報である。特性1211は、図8の例における特性1111に対応しており、また、特性1231は、図8の例における特性1131に対応している。
このため、緩やかな温度変化が発生する場合、つまり、Tp=Tsである定常状態が確保されると想定される場合における特性1211は、正確な距離を表す。
一方、急激な温度変化などが発生する場合、つまり、Tp=Tsである定常状態が確保されないと想定される場合における特性1231では、誤差を有する。このような補正係数の誤差が発生する要因の一つとして、温度のセンサと撮像素子との間の熱抵抗によって生じる温度差の影響が予想される。つまり、センサが配置された基板の温度が緩やかに変化する状態では撮像素子の温度Tpと当該センサによる検出温度Tsとはほぼ一致しているが、急激な温度変化が生じると、撮像素子の温度Tpに対して検出温度Tsに遅延が発生し、これにより、同一の検出温度Tsであっても、補正前の距離情報が一意に決まらないことが発生すると予想される。
ここで、TOFの処理を行う撮像装置では、例えば、当該撮像装置の出荷前に、当該撮像装置の筐体の温度情報(温度Ts)と各温度における補正前の距離情報を測定し、温度補正の補正係数を生成する工程がある。
しかしながら、Tp=Tsである定常状態が確保されない場合もあり、このような場合には、補正係数に誤差が発生し、誤差を有する補正係数を用いて補正された距離情報にも誤差が発生してしまう。つまり、温度の検出精度が良好ではなく、距離情報の補正精度も良好ではなかった。
このような背景技術における課題に対して、本実施形態に係る撮像装置1では、撮像素子23に関して温度の状況の検出精度が良好であり、温度補正の精度が良好であり、温度の状況の検出結果に基づいて距離情報の補正を行う場合には距離情報の補正精度が良好である。
なお、本実施形態に係る撮像装置1を実施して実験したところ、温度の状況の検出精度が良好であり、温度補正の精度が良好であり、距離情報の補正精度が良好であることが確認された。
[撮像装置を備えた車両]
本実施形態に係る撮像装置1は、一例として、車両(乗り物)に備えられてもよい。車両としては、例えば、自動車があり、また、自動車以外の車両として、自動二輪車、自転車、超小型モビリティ、パーソナルモビリティなどがあり、また、これらに限られない。
また、撮像装置1は、車両以外のものに適用されてもよい。
図10は、本発明の一実施形態に係る撮像装置1が適用された自動車601の概略的な構成を示す図である。
自動車601は、左側の前照灯(左側前照灯部610L)と、右側の前照灯(右側前照灯部610R)と、左側の尾灯(左側尾灯部611L)と、右側の尾灯(右側尾灯部611R)と、左側のサイドミラー(左側サイドミラー613L)と、右側のサイドミラー(右側サイドミラー613R)と、フロントウインドウ615と、リアウインドウ616を備える。
また、自動車601は、前方の車外検出部(前方車外検出部621)と、制御装置630を備える。
左側前照灯部610Lは、自動車601の前方の左側に配置されている。
右側前照灯部610Rは、自動車601の前方の右側に配置されている。
左側尾灯部611Lは、自動車601の後方の左側に配置されている。
右側尾灯部611Rは、自動車601の後方の右側に配置されている。
ここで、本実施形態では、自動車601の構成部のうちの一部を示してあるが、例えば、それに加えて、一般の自動車が通常備える他の構成部など、任意の構成部を備えてもよい。
また、前方車外検出部621と、制御装置630のうちの一部または全部は、自動車601の外観では見えずに、自動車601の内部に備えられてもよい。
また、前方車外検出部621に、画像処理を行って車両を検出する車両検出部を備えてもよい。
図11は、本発明の一実施形態に係る撮像装置1が適用された自動車601の前側部分を示す図である。
左側前照灯部610Lは、左側の前照灯ユニット612Lを備えている。左側の前照灯ユニット612Lは、自動車601の前端部の左側端部に配置されている。
右側前照灯部610Rは、右側の前照灯ユニット612Rを備えている。右側の前照灯ユニット612Rは、自動車601の前端部の右側端部に配置されている。
左側の前照灯ユニット612Lと右側の前照灯ユニット612Rの上側には、自動車601のエンジンルームを開閉するフード650の前端部が配置されている。左側の前照灯ユニット612Lと右側の前照灯ユニット612Rとは、自動車601の車幅方向において対称(図11において、左右対称)に構成されている。
左側の前照灯ユニット612Lは、左側の前照灯ユニット612Lの車幅方向の外側部分を構成する左側前照灯614Lを含む。
右側の前照灯ユニット612Rは、右側の前照灯ユニット612Rの車幅方向の外側部分を構成する右側前照灯614Rを含む。
左側前照灯614Lと右側前照灯614Rは、光源(図示せず)を有しており、当該光源によって、自動車601の前方を照射する。
このような光源は、例えば、ハイビーム用の光源として構成されていてもよく、あるいは、ロービーム用およびハイビーム用の光源として構成されていてもよい。つまり、左側前照灯614Lと右側前照灯614Rは、主として自動車601の前方の路面領域を照射するロービームと、ロービームによって照射される領域よりも上側の領域を照射するハイビームとのいずれかに切り替え可能に構成されてもよい。このような光源として、例えば、発光ダイオード(LED:Light Emitting Diode)、ハロゲンランプ、ディスチャージランプ、レーザーなどが用いられてもよい。
また、光源は、例えば、デイタイムランニングライト(DRL:Daytime Running Light)の光源であってもよい。
ここで、前方車外検出部621は、例えば、本実施形態に係る撮像装置1を備えてもよい。前方車外検出部621は、本実施形態に係る撮像装置1を備える場合、撮像装置1により、自動車601の前方の車外の画像を撮像し、必要に応じて、撮像画像について温度などに関する補正を行う。
また、前方車外検出部621は、例えば、TOFの処理を行う機能を備えてもよく、この場合、撮像装置1により得られた補正後の撮像画像に基づいて、距離情報を取得する。なお、例えば、撮像画像に対して補正を行った後に距離情報を取得する態様と、撮像画像から距離情報を取得した後に当該距離情報に対して補正を行う態様としては、いずれの態様が用いられてもよい。
また、TOFの処理を行う機能は、例えば、撮像装置1に備えられてもよく、あるいは、他のところに備えられてもよい。
[実施形態のまとめ]
以上のように、本実施形態に係る撮像装置1では、画素の温度を精度良く検出することができる。
本実施形態に係る撮像装置1では、例えば、第1の温度取得手法あるいは第2の温度取得手法と比べて、実際に撮像に使用される画素領域にある特定の素子(ソースフォロアアンプ)について温度に関する情報を取得するため、撮像素子23の実温度に近い温度に関する情報を取得することができ、これにより、撮像素子23の実温度に近い温度係数を特定することが可能である。
本実施形態に係る撮像装置1では、例えば、第3の温度取得手法と比べて、温度特性を持つ特定の素子(ソースフォロアアンプ)について温度に関する情報を取得するため、温度に関する情報の精度を高めることが期待される。
また、本実施形態に係る撮像装置1では、例えば、第3の温度取得手法と比べて、複数の画素について温度に関する情報を取得して、当該情報の平均化などを行うことが可能であるため、画素ごとにおける温度に関する情報のバラツキを低減することが可能であり、つまり、このようなバラツキに対する耐性が強い。
本実施形態に係る撮像装置1では、画像フレームの全域における(n×m)個の画素について温度に関する情報を取得することが可能であり、例えば、画像フレームの全域における温度の状況、あるいは、画像フレームのうちの一部における温度の状況といったように、様々なパターンの補正係数を生成することが可能であり、応用範囲が広い。
ここで、撮像回路部41の回路構成としては、様々な回路構成が用いられてもよく、例えば、様々なCMOS(Complementary Metal Oxide Semiconductor)イメージセンサの回路構成が用いられてもよい。
また、本実施形態では、撮像装置1をTOFの処理に適用した場合を示したが、撮像装置1は他の様々な処理に適用されてもよい。
<構成例>
一構成例として、撮像装置(本実施形態では、撮像装置1)では、温度に依存する第1特性(温度特性)を持つ第1素子(本実施形態では、ソースフォロアアンプとして使用されるトランジスタ313)を含む画素回路部(本実施形態では、画素回路部Z(ij))を複数有する撮像素子(本実施形態では、撮像素子23)と、第1素子の第1特性に応じた画素回路部からの出力情報(例えば、電圧の情報、あるいは、電流の情報)を検出する出力情報検出部(本実施形態では、出力情報検出部61)と、出力情報検出部により検出された出力情報に基づいて、温度に関する状況を検出する温度状況検出部(本実施形態では、温度状況検出部62)と、を備える。
一構成例として、撮像装置において、温度に関する状況を検出するために用いられる画素回路部を選択する制御を行う画素選択制御部(本実施形態では、画素選択制御部64)を備える。
一構成例として、撮像装置において、画素選択制御部により行われる制御により選択される画素回路部における撮像機能をオフにする撮像機能制御部(本実施形態では、撮像機能制御部65)を備える。
一構成例として、撮像装置において、複数のサブフレーム(本実施形態では、サブフレームG0〜G5)を含む1フレーム(本実施形態では、フレームF1、F2)に含まれる1以上の当該サブフレームにおいて、温度に関する状況を検出するために用いられる出力情報の検出を行う。
一構成例として、撮像装置において、撮像素子により撮像された画像について、温度状況検出部により検出された温度に関する状況に基づいて温度に関する補正を行う。
以上に示した実施形態に係る装置(例えば、撮像装置1、制御装置630など)の機能の一部または全部を実現するためのプログラムをコンピュータ読み取り可能な記録媒体(記憶媒体)に記録(記憶)して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、処理を行ってもよい。
なお、ここでいう「コンピュータシステム」とは、オペレーティング・システム(OS:Operating System)あるいは周辺機器等のハードウェアを含むものであってもよい。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM(Read Only Memory)、フラッシュメモリ等の書き込み可能な不揮発性メモリ、DVD(Digital Versatile Disc)等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。
さらに、「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークあるいは電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(例えばDRAM(Dynamic Random Access Memory))のように、一定時間プログラムを保持しているものも含むものとする。
また、上記のプログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)あるいは電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。
また、上記のプログラムは、前述した機能の一部を実現するためのものであってもよい。さらに、上記のプログラムは、前述した機能をコンピュータシステムに既に記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であってもよい。
以上、本発明の実施形態について図面を参照して詳述したが、具体的な構成はこの実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の設計変更等も含まれる。
1…撮像装置、21…入力部、22…出力部、23…撮像素子、24…撮像素子制御部、25…画像処理部、41…撮像回路部、61…出力情報検出部、62…温度状況検出部、63…対応情報記憶部、64…画素選択制御部、65…撮像機能制御部、66…バイアス部制御部、81…撮像画像取得部、82…撮像画像補正部、111…画素部、112…垂直信号線駆動部、113…カラム出力アナログバッファ部、114…センサ出力アナログバッファ部、131…画素選択部、132…水平転送部、133…バイアス部、211−1〜211−m、311〜314、411…トランジスタ、212−1〜212−m、332…コンデンサ、213−1〜213−m、232−1〜232−m…スイッチ、231−1〜231−m、251…バッファ、331…フォトダイオード、351…垂直信号線、431…接続部、451…電源、601…自動車、610L…左側前照灯部、610R…右側前照灯部、611L…左側尾灯部、611R…右側尾灯部、612L、612R…前照灯ユニット、613L…左側サイドミラー、613R…右側サイドミラー、614L…左側前照灯、614R…右側前照灯、615…フロントウインドウ、616…リアウインドウ、621…前方車外検出部、630…制御装置、650…フード、1011、1012、1111、1131、1211、1231…特性、1031、1032…差分、A1〜An、B1〜Bm、C1〜C2…入力部、D1…出力部、F1〜F2…フレーム、G0〜G5…サブフレーム、Z(ij)…画素回路部

Claims (5)

  1. 温度に依存する第1特性を持つ第1素子を含む画素回路部を複数有する撮像素子と、
    前記第1素子の前記第1特性に応じた前記画素回路部からの出力情報を検出する出力情報検出部と、
    前記出力情報検出部により検出された前記出力情報に基づいて、前記温度に関する状況を検出する温度状況検出部と、
    を備える撮像装置。
  2. 前記温度に関する状況を検出するために用いられる前記画素回路部を選択する制御を行う画素選択制御部を備える、
    請求項1に記載の撮像装置。
  3. 前記画素選択制御部により行われる制御により選択される前記画素回路部における撮像機能をオフにする撮像機能制御部を備える、
    請求項2に記載の撮像装置。
  4. 複数のサブフレームを含む1フレームに含まれる1以上の前記サブフレームにおいて、前記温度に関する状況を検出するために用いられる前記出力情報の検出を行う、
    請求項1から請求項3のいずれか1項に記載の撮像装置。
  5. 前記撮像素子により撮像された画像について、前記温度状況検出部により検出された前記温度に関する状況に基づいて温度に関する補正を行う、
    請求項1から請求項4のいずれか1項に記載の撮像装置。
JP2018098792A 2018-05-23 2018-05-23 撮像装置 Pending JP2019205057A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018098792A JP2019205057A (ja) 2018-05-23 2018-05-23 撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018098792A JP2019205057A (ja) 2018-05-23 2018-05-23 撮像装置

Publications (1)

Publication Number Publication Date
JP2019205057A true JP2019205057A (ja) 2019-11-28

Family

ID=68727436

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018098792A Pending JP2019205057A (ja) 2018-05-23 2018-05-23 撮像装置

Country Status (1)

Country Link
JP (1) JP2019205057A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021130392A (ja) * 2020-02-20 2021-09-09 三菱電機株式会社 車載カメラ装置および車載カメラ部品温度推定方法
JP2021189171A (ja) * 2020-06-02 2021-12-13 三菱電機株式会社 赤外線撮像装置
JP6991371B1 (ja) * 2020-06-02 2022-01-14 三菱電機株式会社 赤外線撮像装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021130392A (ja) * 2020-02-20 2021-09-09 三菱電機株式会社 車載カメラ装置および車載カメラ部品温度推定方法
JP2021189171A (ja) * 2020-06-02 2021-12-13 三菱電機株式会社 赤外線撮像装置
JP6991371B1 (ja) * 2020-06-02 2022-01-14 三菱電機株式会社 赤外線撮像装置
JP7271604B2 (ja) 2020-06-02 2023-05-11 三菱電機株式会社 赤外線撮像装置

Similar Documents

Publication Publication Date Title
JP5171158B2 (ja) 固体撮像装置及び距離画像測定装置
US7361899B2 (en) Infrared sensor, infrared camera, method of driving infrared sensor, and method of driving infrared camera
JP2019205057A (ja) 撮像装置
US10531033B2 (en) Solid state imaging device
US20110304696A1 (en) Time-of-flight imager
US11470275B2 (en) Photoelectric conversion device, photoelectric conversion system and moving body
US7994466B2 (en) Bolometer-type infrared imaging apparatus including a one or two dimensional sensor array semiconductor device
JP4893042B2 (ja) 撮像装置
US11070753B2 (en) Imaging device and method of driving imaging device
JP7471871B2 (ja) 電子デバイス、システム及び電子デバイスの制御方法
JP2018056881A (ja) 撮像制御装置、撮像制御方法、プログラムおよびそれを記録した記録媒体
US20130187028A1 (en) Imagers having variable gain and related structures and methods
US10425600B2 (en) Solid state imaging device
JP7054823B2 (ja) 投光撮像装置および投光撮像方法
JPWO2007066762A1 (ja) 固体撮像装置
US20210084247A1 (en) Cmos image sensor and method of operating pixel array by cmos image sensor
JP2011174918A (ja) 検出装置、センサーデバイス及び電子機器
JP2006121652A (ja) 赤外線センサ
JP3542154B2 (ja) 固体撮像素子
JP2008042676A (ja) 光電変換装置及び光電変換システム
JP2009278149A (ja) 固体撮像装置
JP7504623B2 (ja) 撮像装置および撮像システム
JP2022142433A (ja) 光電変換装置及び撮像システム
US20070076106A1 (en) Image pickup apparatus and image pickup method
JP7562371B2 (ja) ランプ信号出力回路、光電変換装置、撮像システム