JP2010197227A - イメージセンサー及びそれを用いた視差センサー並びに視差画像の生成方法 - Google Patents

イメージセンサー及びそれを用いた視差センサー並びに視差画像の生成方法 Download PDF

Info

Publication number
JP2010197227A
JP2010197227A JP2009042764A JP2009042764A JP2010197227A JP 2010197227 A JP2010197227 A JP 2010197227A JP 2009042764 A JP2009042764 A JP 2009042764A JP 2009042764 A JP2009042764 A JP 2009042764A JP 2010197227 A JP2010197227 A JP 2010197227A
Authority
JP
Japan
Prior art keywords
signal
pulse
circuit
output
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2009042764A
Other languages
English (en)
Inventor
Yutaka Arima
裕 有馬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kyushu Institute of Technology NUC
Original Assignee
Kyushu Institute of Technology NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kyushu Institute of Technology NUC filed Critical Kyushu Institute of Technology NUC
Priority to JP2009042764A priority Critical patent/JP2010197227A/ja
Publication of JP2010197227A publication Critical patent/JP2010197227A/ja
Pending legal-status Critical Current

Links

Abstract

【課題】複数の対象物に対しても、正しい距離検知が可能となるイメージセンサー及びそれを用いた視差センサー並びに視差画像の生成方法を提供する。
【解決手段】受光量に応じて端子電圧が変化するフォトダイオードPDの端子電圧Vpdが所定の閾値を超えたときにオフになるスイッチング素子SWを介して画素内コンデンサーCに、撮像する空間の位置に応じて異なるアナログ電圧信号Vmrkを与える機能を有する画素回路60で構成されたイメージセンサー。このイメージセンサーは、撮像する空間の位置に応じて画素検知信号が異なるので、異なった位置に存在する同一形状の対象物に対する検知信号が区別できる。
【選択図】 図1

Description

本発明は、ステレオ画像から視差画像を生成する視差画像の生成技術に関し、特に、高速で、回路規模が小さく、かつ低消費電力で実現可能な視差画像の生成技術に関する。
本発明は、本願と同じ発明者の出願である特願2008−082590(平成20年3月27日出願)「視差センサー及び視差画像の生成方法」の改良技術に関する。
以下に従来技術としての視差センサーについて説明する。
CCDやCMOSイメージセンサーの普及に伴い、情報機器は画像情報を容易に取り扱えるようになった。最近では、殆どの携帯電話に小型カメラが内蔵され画像データの通信を容易にしている。また、多くの自動車にはイメージセンサーが搭載され運転席からの死角をカバーして安全運転に役立っている。しかしながら、従来のイメージセンサーから得られるのは、あくまでも単なる2次元情報であり、距離(奥行き)情報を含んだ3次元情報は得ることができない。そこで本発明者は先に、距離情報を得ることができる新しいイメージセンサーの回路構成を考案した(特許文献1)。
物体との距離の高速検知は、主に二種類の方法がある。一つは、指向性の高いレーザ光や電波等をビーム照射しその反射信号の時間遅れで距離を測定するアクティブ測距方式であり、もう一つは、二つのイメージセンサーを用いて画像の相関を計算し二つのセンサー間の視差を抽出することで距離を算出するパッシブ測距方式である。航空機や船舶等には、アクティブ測距方式の代表例であるレーダが備えられており、自分の周囲の対象物との距離をモニタすることができ安全な航行を可能にしている。また最近では、自動車にもミリ波レーダが搭載され車間距離をモニタして衝突防止に役立てている。
このように現在においては、高速な距離の検知にはアクティブ測距方式であるレーダが用いられている。一方、パッシブ測距方式は二枚の画像データの相関処理に大規模な計算量を必要とするので、従来の相関処理用LSIでは、高速移動に対応できる高速な処理が困難であったことから実用化されていない。
そこで、その相関処理を高速に実行するための回路構成を発明し、特願2008−082590号(以下、「先願」という。)として出願した。その先願において開示した回路構成は、回路面積と消費電力を共に従来より小さくできるので、二つのイメージセンサー機能とそれらの相関処理回路を一つのLSIチップ内に集積することが可能になる。かかるLSIを、以下「視差センサー」と称する。視差センサーにより高速な測距が可能になれば、レーダに比べて大幅な装置コストと消費電力の低減が可能になる。また、視差センサーはパッシブ測距方式なのでアクティブ方式における信号干渉の問題が回避できるメリットがある。
この視差センサーの構成例を図9、図10、図11に示す。
図9は視差センサーLSIの機能構成例を示すものであり、視差センサー1は、左右の眼の役割を担う二つのイメージセンサー2a,2bと、それらの出力アナログ信号をパルス幅に変換するライン並列の二つのA/PW(アナログ/パルス幅)変換回路アレイ4a,4b、それらのパルス信号を隣同士で比較するライン並列の二つのパルス信号比較回路アレイ5a,5b、輝度変化が無いもの同士の相関を無効にする為のゼロ相関除去信号発生回路アレイ15a,15b、そして、左右のパルス信号比較回路の出力信号同士の全ての相関を並列に処理する相関検知回路マトリックス6で構成される。
より詳細な回路構成を図10に示す。イメージセンサー2a,2bは従来のイメージャと同様な回路構成で良く、二つのイメージセンサー2a,2bに共通のシーケンサー3によって同じラインが同時に選択出力される。
イメージセンサー2a,2bを構成する画素回路の構成例を図11に示す。この画素回路は、フォトダイオードPDとリセット用MOSトランジスタM3と直列接続して電源Vpdに接続し、フォトダイオードPDのカソードにMOSトランジスタM1のゲートを接続し、MOSトランジスタM1のドレインにMOSトランジスタM2のソースを接続し、MOSトランジスタM2のゲートをRead端子、ドレインを出力端子としたものである。この画素回路では、Rst信号をローレベルにすることによりMOSトランジスタM3がオンとなる。次にRst信号をハイレベルにすることによりMOSトランジスタM3がオフとなって、フォトダイオードPDの光電流によりMOSトランジスタM1のゲート電位が変化し、MOSトランジスタM1のドレインの電圧も変化する。Read信号をMOSトランジスタM2のゲートに与えることにより、そのときのMOSトランジスタM1のドレインの電位がOut端子に出力される。
ここで、イメージセンサー2a,2bの出力信号はアナログの電圧信号である。イメージセンサー2a,2bから並列に出力される1ラインのアナログ電圧信号は、図10に示すアナログ/パルス幅変調回路8によってパルス信号に変換される。そのパルス信号の幅はアナログ電圧に比例する。アナログ/パルス幅変換回路8の出力信号はパルス信号比較回路(DIFC)9で隣同士の信号を比較し、二つのパルスの+方向の差と−方向の差を各々パルス信号として出力する。パルス信号比較回路9の出力信号はゼロ相関除去信号発生回路(ZSIGRCT)16を介して、全て並列に相関検知回路10に与えられる。相関検知回路10は全てに共通なバイアス電圧Vbとリセット信号Resetが与えられ、各々の配置位置に対応した左右のパルス信号比較回路出力信号(右の+,−と左の+,−の4つ)が斜方向に共通に与えられ、縦方向に共通な読み出し信号Readが与えられ、横方向に共通な出力信号Outが接続されている。読み出し信号Readはシフトレジスター12で構成されるシーケンサー7によって与えられる。各出力信号Outはカレントミラー回路等で電流を電圧に変換して出力する。各種制御信号の制御フロー例は後で述べる。また、通常の2次元画像データは片方のイメージセンサーの出力をそのまま用いる。
アナログ/パルス幅変換回路8は、図12に示すように論理しきい値可変調インバータ(VT−INV)で実現できる。VT−INVは、図13に示すCMOS回路で構成することができる。なお、アナログ/パルス幅変換回路8における論理しきい値制御端子(CNT)は、同期制御回路13に接続されている。同期制御回路13は、ランプ信号生成回路により構成されている。このランプ信号生成回路が発生するランプ電圧が、すべてのアナログ/パルス幅変換回路8の論理しきい値制御端子(CNT)に対して共通に入力される。従って、すべてのアナログ/パルス幅変換回路8は、同タイミングでアナログ/パルス幅変換を行う。
図14にアナログ/パルス幅変換回路8の信号変換例を示す。同期制御回路13が出力するランプ電圧(Ramp Sig.)は、図14の最上段に示したような鋸歯状となる。このランプ電圧が論理しきい値制御端子(CNT)に入力されると、アナログ/パルス幅変換回路8の論理閾値電圧Vinvは、図14の点線で示したように変化する。すなわち、ランプ電圧の増加に伴って、論理閾値電圧Vinvは減少する。そして、論理閾値電圧Vinvが画素信号の電圧(Analog Vin)よりも小さくなったとき、アナログ/パルス幅変換回路8の出力端子に出力されるパルス幅画素信号(OUT)がHレベルとなる。そして、ランプ電圧が再び最低レベルに戻ると、論理閾値電圧Vinvは最大となり、パルス幅画素信号(OUT)がLレベルとなる。
パルス信号比較回路(DIFC)9の構成例を図15に示す。入力信号INaとINbは各々隣り合うアナログ/パルス幅変換回路の出力が与えられ、それらのパルス信号の差を、OUT+とOUT−に差分の方向毎にパルス信号で出力する。このパルス信号比較回路の信号処理例を図16に示す。INaがINbより先行するとその差分だけOUT+にパルス信号が出力される。また、INaがINbより遅れるとその差分だけOUT−にパルス信号が出力される。INaとINbに差がなければそのパルス幅に関わらずパルス信号は何れからも出力されない。
図17に相関検知回路10の構成例を示す。相関検知回路10は、コンデンサー50、電流スイッチ回路51,52、電流源53、リセット・スイッチ54、出力回路55、及び読出スイッチ56を備えている。
コンデンサー50は、相関信号を発生するための電荷を蓄電する。電流スイッチ回路51は、入力端子R+,L+から入力される入力信号の排他論理和の真理値に従って、導通/遮断制御がされ、導通状態においてコンデンサー50に蓄電された電荷を一定電流で放電させる。電流スイッチ回路52は、入力端子R−,L−から入力される入力信号の排他論理和の真理値に従って、導通/遮断制御がされ、導通状態においてコンデンサー50に蓄電された電荷を一定電流で放電させる。電流源53は、電流スイッチ回路51,52が導通状態となったときに、一定の放電電流を流すための回路である。リセット・スイッチ54は、リセット信号(Reset)が入力されたときに導通状態となり、電源からコンデンサー50に電荷を供給して、コンデンサー50の両端電圧を電源電圧Vdとする。
出力回路55は、コンデンサー50の電圧に比例した電流を流す回路であり、コンデンサー50の電圧を電流に変換して出力するための回路である。出力回路55は、MOSトランジスタによって構成されている。ゲートにコンデンサー50の電圧が入力され、ドレイン電流として出力される。これにより、コンデンサー50の電圧は、漏洩電流が無視できるとすれば、出力中は一定である。従って、安定した相関信号を出力することを可能としている。読出スイッチ56は、出力回路55による電流出力のオン・オフを行うためのものである。
相関検知回路10では、入力信号の相関程度をコンデンサー50の蓄積電荷量で表現する。リセット直後は、蓄積電荷量は最大である。入力信号の相関程度が低いほど、多くの電荷を放電させ、コンデンサー50の蓄積電荷量を減少させる。これにより、相関演算が実現される。放電電流は、電流スイッチ回路51,52の何れかを介してグランド側に流れる。
相関検知回路10の動作例を図18に示す。まず、最初に、リセット信号(Reset)が0とされ(t1)、コンデンサー50の電圧Vcが電源電圧Vdとされる。そして、リセット信号を1とした後(t2)、L+,L−に左眼側のパルス信号比較回路9が出力する比較パルス信号OUT+,OUT−が入力され、R+,R−に右眼側のパルス信号比較回路9が出力する比較パルス信号OUT+,OUT−が入力される。
R+とL+の何れか一方が1で他方が0のとき(t3〜t4,t5〜t6,t10〜t11,t12〜t13)は、電流スイッチ回路51が導通状態となる。従って、このとき、コンデンサー50の電荷は放電され、コンデンサー50の電圧は減少する。
R−とL−の何れか一方が1で他方が0のとき(t22〜t23,t24〜t25,t29〜t30,t31〜t32)は、電流スイッチ回路52が導通状態となる。従って、このとき、コンデンサー50の電荷は放電され、コンデンサー50の電圧は減少する。
R+,L+がともに0またはともに1、かつ、R−,L−がともに0またはともに1のとき(t1〜t3,t4〜t5,t6〜t10,t11〜t12,t13〜t22,t23〜t24,t25〜t29,t30〜t31,t32〜)は、電流スイッチ回路51,52はともに遮断状態となる。従って、このときはコンデンサー50の電圧Vcは一定である。
ランプ信号の立ち下がり後、コンデンサー50の電圧Vcが確定する。R+とL+の相関が小さい場合、またはR−とL−の相関が小さい場合には、最終的なコンデンサー50の電圧Vcは低くなる。逆に、R+とL+の相関が大きい場合、またはR−とL−の相関が大きい場合には、最終的なコンデンサー50の電圧Vcは高い状態に維持される。
コンデンサー50の電圧Vcの確定後、読出信号(read)が1となり(t7,t14,t19,t26,t33)、読出スイッチ56が導通状態となる。これにより、出力回路55は、コンデンサー50の電圧Vcに比例した大きさの電流を出力する。
出力が終了した後、再びリセット信号が0とされ(t8,t15,t20,t27)、同様の相関検知演算が繰り返される。
図19は視差センサ1の動作の一例を表すタイムチャートである。図19では、説明の便宜上、ある2つの画素に着目して表示しているが、すべての画素において同様な動作が同時並行的に行われる。
まず、イメージセンサー2a,2bから画素信号R1,R2とL1,L2が出力される(t0)。これにより、アナログ/パルス幅変換回路アレイ4a,4b内の各アナログ/パルス幅変換回路8において、入力電圧が確定する。図19の例では、画素信号R1の方が画素信号R2よりも高い値となっている。また、画素信号L2の方が画素信号L1よりも高い値となっている。
次に、相関検知回路10に対してリセット信号(MATC Reset)のパルスが入力され(t1〜t2)、コンデンサー50の電圧VcがVdに設定される。
次に、同期制御回路13がランプ信号(Ramp Sig.)の出力を開始し、ランプ信号の電圧が徐々に増加する。これに伴って、各アナログ/パルス幅変換回路8において論理閾値電圧Vinvは減少する。そして、図19の例では画素信号R1の電圧の方が画素信号R2の電圧よりも高いので、まず、R1が入力されるアナログ/パルス幅変換回路8において、論理閾値電圧Vinvが画素信号R1の電圧よりも低くなる(t3)。これにより、R1が入力されるアナログ/パルス幅変換回路8の出力するパルス幅画素信号(APWC OUT R1)が1となる。このとき、R2が入力されるR1の電圧の方が画素信号R2の電圧よりも高いので、まず、R1が入力されるアナログ/パルス幅変換回路8において、論理閾値電圧Vinvが画素信号R1の電圧よりも低くなる(t3)。これにより、R1が入力されるアナログ/パルス幅変換回路8の出力するパルス幅画素信号(APWC OUT R1)が1となる。このとき、R2が入力されるアナログ/パルス幅変換回路8の出力するパルス幅画素信号(APWC OUT R2)は0である。従って、APWC OUT R1とR2が入力されるパルス信号比較回路9の出力(比較パルス信号)DIFC OUT R+が1となる。
更に時間が経過してランプ信号が増加すると、今度はR2が入力されるアナログ/パルス幅変換回路8において、論理閾値電圧Vinvが画素信号R2の電圧よりも低くなる(t5)。これにより、R2が入力されるアナログ/パルス幅変換回路8の出力するパルス幅画素信号(APWC OUT R2)が1となる。このとき、R1が入力されるアナログ/パルス幅変換回路8の出力するパルス幅画素信号(APWC OUT R1)は1である。従って、APWC OUT R1とR2が入力されるパルス信号比較回路9の出力(比較パルス信号)DIFC OUT R+が0となる。このパルス信号比較回路9の出力(比較パルス信号)DIFC OUT R+のパルス幅(t3〜t5)がR1とR2画素間の微分値を表す。
一方、画素信号L1と画素信号L2に関しては、まず、L2が入力されるアナログ/パルス幅変換回路8において、論理閾値電圧Vinvが画素信号L2の電圧よりも低くなる(t4)。これにより、L2が入力されるアナログ/パルス幅変換回路8の出力するパルス幅画素信号(APWC OUT L2)が1となる。このとき、L1が入力されるアナログ/幅変換回路8の出力するパルス幅画素信号(APWC OUT L1)は0である。従って、APWC OUT L1とL2が入力されるパルス信号比較回路9の出力(比較パルス信号)DIFC OUT L−が1となる。
更に時間が経過してランプ信号が増加すると、今度はL1が入力されるアナログ/パルス幅変換回路8において、論理閾値電圧Vinvが画素信号L1の電圧よりも低くなる(t6)。これにより、L1が入力されるアナログ/パルス幅変換回路8の出力するパルス幅画素信号(APWC OUT L1)が1となる。このとき、L2が入力されるアナログ/パルス幅変換回路8の出力するパルス幅画素信号(APWC OUT L2)は1である。従って、APWC OUT L1とL2が入力されるパルス信号比較回路9の出力(比較パルス信号)DIFC OUT L−が0となる。このパルス信号比較回路9の出力(比較パルス信号)DIFC OUT L−のパルス幅(t4〜t6)がL1とL2画素間の微分値を表す。
このパルス信号比較回路9の出力(比較パルス信号)DIFC OUT R+が1の間(t3〜t5)、電流スイッチ回路51が導通状態となる。従って、この間はコンデンサー50の電荷はスイッチ回路51を介してグランドに放電される。また、パルス信号比較回路9の出力(比較パルス信号)DIFC OUT L−が1の間(t4〜t6)、電流スイッチ回路52が導通状態となる。従って、この間もコンデンサー50の電荷はスイッチ回路52を介してグランドに放電される。そして、この例では、比較パルス信号DIFC OUT L−が立ち下がった時点(t6)で、コンデンサー50の電圧Vcが確定する。その後、ランプ信号が立ち下がり(t7)、ここですべての相関演算処理が終了する。
次に、読出期間に移る。読出期間(t8〜)では、シーケンサー7のシフトレジスター12に対してクロックCLKが供給される。そして、最左端のシフトレジスター12に対して、入力信号SRinとして一定期間1が入力される。
この入力信号SRinのパルス幅Tsは、通常は、クロックCLKに対して数倍の幅とされる。このパルス幅Tsは、検知できる対象物の大きさに影響を与えるので、状況に応じて変更できるようにする。一般に、Tsを大きくするほど、大きな対象物の認識が容易となり、細かいノイズが減少する。一方、Tsを小さくすれば、小さな対象物が認識しやすくなるが、ノイズ量は多くなる。従って、Tsを設定することで、高周波フィルタの周波数特性を設定できる。
入力信号SRinのパルスは、クロックCLKに従って、左側のシフトレジスター12から右側のシフトレジスター12に向かって移動していく。シフトレジスター12の出力は、読出信号(Read)として、各列の相関検知回路10に入力される。従って、相関検知回路マトリックス6の各列の相関検知回路10内のコンデンサー50に保持された相関信号は、左から右に向かって順次読み出される。
図20は特許文献1に記載された視差センサーのパルス信号比較回路の他の構成を表す図である。なお、その他の構成については図15の構成と同様であり、説明は省略する。
このパルス信号比較回路9’は、図15のパルス信号比較回路9に対して、インバータ41,42の代わりにNANDゲート47,48が用いられている点で相違している。NANDゲート47,48は、一方の側の入力端子には入力信号INa,INbが入力され、他方の側の入力端子には、選択信号Cna,Cnbが入力される。Cnaを0とすると、OUT−には入力信号INbがそのまま出力される。Cnbを0とすると、OUT+には入力信号INaがそのまま出力される。
これにより、パルス信号比較回路アレイ5a,5bにおいて、隣り合う信号の比較を行わず、アナログ/パルス幅変換回路アレイ4a,4bの出力をそのまま、ゼロ相関除去信号発生回路16を介して、相関検知回路マトリックス6に入力させることが可能となる。従って、この場合、相関検知回路マトリックス6では、左眼画像と右眼画像の画素をそのまま相関演算処理することができる。
従って、用途に応じて、選択信号Cna,Cnbを操作して、画素信号の直接相関処理を行うか、画像の変化信号の相関処理を行うかを切り替えることが可能となる。
図21はゼロ相関除去信号発生回路の構成例を示すブロック図、図22はゼロ信号検知回路の構成例を示す回路図、図23はR−Sフリップフロップの構成例を示す回路図、図24はゼロ相関除去機能を有効にした相関検知回路の動作例を示すタイムチャートの例を示す。
ゼロ相関除去信号発生回路16は、ゼロ信号検知回路161と2個の選択回路162,163により構成されている。ゼロ信号検知回路161は、パルス信号比較回路9の出力である比較パルス信号OUT+,OUT−のパルス幅が一定の長さ以下であることを検知するものであり、二つの選択回路162,163は、ゼロ信号検知回路161の出力信号(SetOut)に従って比較パルス信号または予め決められた信号(H/L)を選択し、MOUT+,MOUT−として次の相関検知回路10に出力する。すなわち、選択回路162,163は、Sel端子に与えられるSetOut出力が0のときはX端子に与えられる値、すなわち予め決められた値であるH/Lを出力し、SetOut出力が1のときはY端子に与えられる値、すなわちパルス信号比較回路の出力であるOUT+,OUT−を出力する。
ゼロ信号検知回路161は、図22に示すように、NOR回路1611と、NOT回路1612とMOSFET1613と、R−Sフリップフロップ1614と、NAND回路1615から構成されている。なお、MOSFET1613は、そのゲートに与える電圧値によって検知するパルス幅を調整する機能をもたせたものであり、複数のAPW変調回路やパルス信号比較回路を構成する多数のトランジスタ等の特性のばらつきにより生じるひげ状のパルスの除去を容易にすることができる。
R−Sフリップフロップ1614の構成例を図23に示す。
このR−Sフリップフロップ1614の入出力の真理値表を表1に示す。
以上の構成のゼロ相関除去信号発生回路の動作例を、図24に示す。
まず、最初に、リセット信号Reset(Rstはその反転信号)が0とされ(t1)、相関検知回路10(図17参照)のコンデンサー50の電圧Vcが電源電圧Vdとされる。そして、リセット信号を1とした後(t2)、左眼用のゼロ相関除去信号検知回路161のA,Bに左眼側のパルス信号比較回路9が出力する比較パルス信号OUT+(LOUT+),OUT−(LOUT−)が入力され、右眼用のゼロ相関除去信号検知回路161のA,Bに右眼側のパルス信号比較回路9が出力する比較パルス信号OUT+(ROUT+),OUT−(ROUT−)が入力される。
右眼側の比較パルス信号について説明すると、ROUT+とROUT−の何れか一方が1で他方が0のとき(t3〜t5,t12〜t13,t21〜t22,t34〜t36,t44〜t45)は、R/Qはt3〜t10で0、t10〜t12で1、t12〜t19で0、t19〜t21で1、t21〜t26で0、t26〜t34で1、t34〜t40で0、t40〜t44で1、t44〜で0である。選択回路162,163の出力は、SetOut出力が1のとき(R/Q出力が0またはAct値が0のとき)はROUT+,ROUT−がそのまま出力されるが、SetOut出力が0(R/Q出力が1かつAct値が1のとき)は予め決められたRH/Lが出力される。
同様に、左眼側の比較パルス信号について説明すると、LOUT+とLOUT−の何れか一方が1で他方が0のとき(t4〜t6,t14〜t15,t21〜t22,t33〜t35,t42〜t43)は、L/Qは〜t4で1、t4〜t10で0、t10〜t14で1、t14〜t19で0、t19〜t21で1、t21〜t26で0、t26〜t33で1、t33〜t40で0、t40〜t42で1、t42〜で0である。選択回路162,163の出力は、SetOut出力が1のとき(L/Q出力が0またはAct値が0のとき)LROUT+,LOUT−がそのまま出力されるが、SetOut出力が0(L/Q出力が1かつAct値が1のとき)は予め決められたLH/Lが出力される。
以上のRMOUT+,RMOUT−,LMOUT+,LMOUT−の出力が図17の相関検知回路10のR+,R−,L+,L−の端子に入力される。
まず、最初に、リセット信号(Reset)が0とされ(t1)、コンデンサー50の電圧Vcが電源電圧Vdとされる。そして、リセット信号を1とした後(t2)、L+,L−に左眼側のゼロ相関除去信号検知回路161が出力する比較パルス信号LMOUT+,LMOUT−が入力され、R+,R−に右眼側のゼロ相関除去信号発生回路161が出力する比較パルス信号RMOUT+,RMOUT−が入力される。
R+とL+の何れか一方が1で他方が0のとき(t3〜t4,t5〜t6,t12〜t13,t14〜t15)は、電流スイッチ回路51が導通状態となる。従って、このとき、コンデンサー50の電荷は放電され、コンデンサー50の電圧は減少する。
R−とL−の何れか一方が1で他方が0のとき(t28〜t29,t29〜t31,t33〜t34,t35〜t36,t42〜t43,t44〜t45)は、電流スイッチ回路52が導通状態となる。従って、このとき、コンデンサー50の電荷は放電され、コンデンサー50の電圧は減少する。
R+,L+がともに0またはともに1、かつ、R−,L−がともに0またはともに1のとき(t1〜t3,t4〜t5,t21〜t22,t34〜t35,t36〜t40,t43〜t44,t45〜)は、電流スイッチ回路51,52はともに遮断状態となる。従って、このときはコンデンサー50の電圧Vcは一定である。
ランプ信号の立ち下がり後、Read信号が立ち上がる迄に、コンデンサー50の電圧Vcが確定する。R+とL+の相関が小さい場合、またはR−とL−の相関が小さい場合には、最終的なコンデンサー50の電圧Vcは低くなる。逆に、R+とL+の相関が大きい場合、またはR−とL−の相関が大きい場合には、最終的なコンデンサー50の電圧Vcは高い状態に維持される。また、ゼロ相関除去信号発生回路によって、パルス信号がH/L信号に代えられて与えられた相関回路のVcは強制的に低い値となる。
コンデンサー50の電圧Vcの確定後、読出信号(read)が1となり(t9,t18,t25,t30,t39,t47)、読出スイッチ56が導通状態となる。これにより、出力回路55は、コンデンサー50の電圧Vcに比例した大きさの電流を出力する。
出力が終了した後、再びリセット信号が0とされ(t10,t19,t26,t31,t40)、同様の相関検知演算が繰り返される。
以上のように、パルス信号比較回路9の+と−の出力である比較パルス信号をゼロ信号検知回路161で検知したときは予め決められた信号を出力し、それ以外のときはその比較パルス信号を出力するようにしたので、相関データは対象物の部分のみ特徴的な値となる。したがって、簡単な閾値処理だけでその位置を検出することが可能となり、後処理の演算コストを大幅に低減できる。その結果、装置のコストを低減できると共に処理時間も短縮できる。
視差センサーにおいて行われる二眼視差による距離検出の原理を図25に示す。右眼と左眼を一定の距離で離して設置して撮像すると、同じ対象物に対して、その距離(眼から対象物までの)に応じて左右の眼から見える各々の位置がずれて見えることになる。従って、すべての画像データ間で相関をとり、大きな相関がある所の位置(図内の矢印の方向に対する)によって、各々の対象物の距離が検知できる。図内のA,B,Cの三つの対象物(△、□、○)を示している。ここで相関マトリックスには、左右の画素信号(1〜n)線の交点の位置に各々相関機能があるとしている。眼に近い程、相関マトリックスの1マス間の示す距離が小さくなるが、その変化量は、左右の眼の設置位置とそれらの相対角度によって決定できるので、予め換算表を用意しておくことが可能である。
特開2005−265457号公報
上述した先願発明により得られる視差相関データは、図25に例を示すように、対象物が存在する所に特徴的なパターンができるので、その特徴パターンの座標を検出することで、対象物の横方向の位置と奥行(対象物迄の距離)を特定することができる。しかし、図26の例で示す場合のように、同一形状の対象物が同程度の距離に複数個ある場合には、それらの相関特徴パターンは、本来の位置(A,B)とは異なる位置(C,D)にも出現する。これら本物(A,B)と偽物(C,D)の相関パターンは、通常のステレオ視に基づく相関結果だけでは区別することができない。同一形状のものが複数存在する場合も、現実には少なからずあり得ることなので、この問題を解決しなければ、視差センサーの利用条件が制限されることになる。
そこで本発明は、複数の対象物に対しても、正しい距離検知が可能となるイメージセンサー及びそれを用いた視差センサー並びに視差画像の生成方法を提供することを目的とする。
前記課題を解決するため、本発明の第1の構成は、受光量に応じてオフになるタイミングが決定されるスイッチング素子を介して画素内コンデンサーに、撮像する空間の位置に応じて異なるアナログ電圧信号を与える機能を有する画素回路で構成されたイメージセンサーである。
この第1の構成においては、撮像する空間の位置に応じて画素検知信号が異なるので、異なった位置に存在する同一形状の対象物に対する検知信号が区別できる。
本発明の第2の構成は、第1の構成におけるスイッチング素子は、受光量に応じて端子電圧が変化するフォトダイオードの前記端子電圧が所定の閾値を超えたときにオフになるMOSトランジスタによって構成されているイメージセンサーである。
この第2の構成においては、スイッチング素子をMOSトランジスタで構成することにより、CMOSイメージセンサーにおける実現が可能である。
本発明の第3の構成は、第1の構成または第2の構成のイメージセンサーからなり、空間的に移動する部分照射光によって照射される対象物を互いに異なる角度から撮像し、アナログ電圧信号である画素信号として第1画像及び第2画像をそれぞれ出力する第1及び第2のイメージセンサーと、
前記第1及び第2のイメージセンサーに与えられた、前記撮像する空間の位置に応じて異なるアナログ電圧信号に基づく出力信号の相関に基づいて、当該空間の位置に物体があるか否かを判定する手段と、
前記第1及び第2のイメージセンサーから出力される画素信号の各々を、各画素信号の電圧値に比例する長さのパルス幅を有するパルス幅画素信号に変換する複数のアナログ/パルス幅変換回路と、
すべての前記各アナログ/パルス幅変換回路が同時並列的に各画素信号をパルス幅画素信号に変換するようにタイミング制御を行う同期制御回路と、
隣接する前記アナログ/パルス幅変換回路が出力する2つのパルス幅画素信号を比較し、2つのパルス幅画素信号の+方向の差と−方向の差をそれぞれ比較パルス信号として出力する複数のパルス信号比較回路と、
前記第1画像に対応する前記パルス信号比較回路の出力である比較パルス信号と前記第2画像に対応する前記パルス信号比較回路の出力である比較パルス信号のそれぞれの組み合わせからなる2つの比較パルス信号に対して、両者の排他論理和をとった差分パルスの全パルス長を、その全パルス長に比例する電圧値または電流値の信号に変換し、この信号を相関信号として出力する複数の相関検知回路と、
前記パルス信号比較回路の出力である比較パルス信号のパルス幅が一定の長さ以下であることを検知するゼロ信号検知回路と、そのゼロ信号検知回路の出力信号に従って前記比較パルス信号または予め決められた信号を選択し前記相関検知回路に出力する選択回路とからなるゼロ相関除去信号発生回路とを備えたことを特徴とする視差センサーである。
この第3の構成においては、部分照射光によって対象物を照射することにより対象物への照射範囲を狭め、その照射部分を空間的に移動させる制御を行い、その照射部分の位置に対応する信号を画素内に検知できる機能を備える画素回路を視差センサー内のイメージセンサーに採用することにより、同一形状の複数の対象物に対しても、正しい距離検知が可能な視差センサーを実現することができる。
この空間的に移動する部分照射光の照射方法には、これに限定されるものではないが、線状光束のスイープ状走査またはランダム照射、または複数に配列された光源による順次またはランダム照射、あるいはレーザ光等の二次元的スイープ走査またはランダム照射、等が含まれる。また、部分照射光の波長は、白色光でも、白色光と区別できる単色光あるいは赤外光でもよく、その波長を検知できるイメージセンサーを用いることができる。
本発明の第4の構成は、それぞれが第1の構成または第2の構成のイメージセンサーからなる第1及び第2のイメージセンサーを用いた視差画像の生成方法であって、
空間的に移動する部分照射光によって照射される対象物を互いに異なる角度から前記第1及び第2のイメージセンサーで撮像し、前記第1及び第2のイメージセンサーから、それぞれアナログ電圧信号である第1画像及び第2画像を出力する第1のステップと、
前記第1及び第2のイメージセンサーに与えられた、前記撮像する空間の位置に応じて異なるアナログ電圧信号に基づく出力信号の相関に基づいて、当該空間の位置に物体があるか否かを判定する第2のステップと、
前記第1及び第2のイメージセンサーが出力する各画素信号を、複数のアナログ/パルス幅変換回路により、同時並列的に、その画素信号の電圧値に比例する長さのパルス幅を有するパルス幅画素信号に変換する第3のステップと、
隣接する前記アナログ/パルス幅変換回路が出力する2つのパルス幅画素信号を比較し、2つのパルス幅画素信号の+方向の差と−方向の差をそれぞれ比較パルス信号として出力する第4のステップと、
前記比較パルス信号のパルス幅が一定の長さ以下であることを検知したときに、前記比較パルス信号または予め決められた信号を選択して出力する第5のステップと、
複数の相関検知回路により、前記第1画像に対応する比較パルス信号、但し前記第5のステップにおいて予め決められた信号が選択されたときはその予め決められた信号と、前記第2画像に対応する比較パルス信号、但し前記第5のステップにおいて予め決められた信号が選択されたときはその予め決められた信号のそれぞれの組み合わせからなる2つのパルス幅画素信号に対して、両者の排他論理和をとった差分パルスの全パルス長を、その全パルス長に比例する電圧値または電流値の信号に変換し、この信号を相関信号として出力する第6のステップと、
を有することを特徴とする視差画像の生成方法である。
この第4の構成により、同一形状の複数の対象物に対しても、正しい距離検知が可能な視差画像の生成が可能となる。
本発明によれば、受光量に応じてオフになるタイミングが決定されるスイッチング素子を介して画素内コンデンサーに、撮像する空間の位置に応じて異なるアナログ電圧信号を与える機能を有する画素回路で構成されたイメージセンサーを視差センサーに用いることにより、同一形状の複数の対象物に対しても、正しい距離検知が可能となり、様々な状況での利用が可能になる。
本発明の実施の形態に係る画素回路の基本構成例を示す回路図である。 本発明の実施の形態に係る画素回路の具体的構成例を示す回路図である。 本発明の実施の形態に係るイメージセンサー部の構成例を示す回路図である。 本発明の実施の形態に係るマーク信号発生回路の構成例を示す回路図である。 図4のマーク信号発生回路の動作例を示すタイムチャートである。 本発明の実施の形態に係る時分割照射方式における距離検知システムの構成例を示す説明図である。 本発明の実施の形態に係る時分割照射方式イメージセンサー部の制御フローを示すタイムチャートである。 本発明の実施の形態に係る受光レンジ拡大イメージセンサー部の制御フローを示すタイムチャートである。 先願に係る視差センサーの構成を表す図である。 先願に係る視差センサーの構成例を示す回路図である。 従来の画素回路の例を示す回路図である。 アナログ/パルス幅変換回路の構成を表す図である。 論理しきい値可変調インバータ回路例を示す回路図である。 アナログ/パルス幅変換回路の動作例を示すタイムチャートである。 パルス信号比較回路の構成を表す図である。 パルス信号比較回路の動作例を表すタイムチャートである。 相関検知回路の構成を表す図である。 相関検知回路の動作例を表すタイムチャートである。 視差センサーの動作例を表すタイムチャートである。 特許文献1記載の視差センサーのパルス信号比較回路の他の構成を表す図である。 先願に係るゼロ相関除去信号発生回路の構成を示す回路図である。 先願に係るゼロ信号検知回路の構成を示す回路図である。 先願に係るR−Sフリップフロップ回路の構成を示す回路図である。 先願に係るゼロ相関除去機能を導入した相関検知回路の動作例を示すタイムチャートである。 二眼視差による距離検出の原理を示す図である。 図24の二眼視差による距離検出において疑似相関が生じる場合の例を示す図である。
以下、本発明の実施の形態を図面を用いて説明する。
図1は本発明の実施の形態に係る画素回路の基本構成例を示す回路図である。図11に示した従来の画素回路との相違点は、本実施の形態の画素回路60は、図11のフォトダイオードPDとPMOSトランジスタM3の接続点とNMOSトランジスタM1のゲートとの間に、フォトダイオードPDへの受光量に応じてOFFになるタイミングが決定されるスイッチ(以下、「受光量応答タイミング可変スイッチ」という。)61を設けたことにある。この受光量応答タイミング可変スイッチ61は、フォトダイオードPDのカソードの電圧を反転するインバータ62と、インバータ62の出力電圧がある閾値以上になるとオフするスイッチSW、およびスイッチSWがオンのときにマーク信号Vmrk電圧を放電し、スイッチSWがオフになったときにその電圧を保持する画素内コンデンサーCからなるホールド回路63とからなる。
図2は、本実施の形態に係る画素回路の具体的構成例を示すものであり、インバータ62をPMOSトランジスタM4とNMOSトランジスタM5で構成し、スイッチSWをPMOSトランジスタM6で構成したものである。
図3は本発明の実施の形態に係るイメージセンサー部の構成例を示す回路図である。図10に示した先願発明との相違点は、イメージセンサー2a,2b内の画素回路を図1,図2に示した構成の画素回路60で構成したことと、各画素回路60のホールド回路63に与えるマーク信号Vmrkを生成するマーク信号発生回路65を設けたことである。
図4は本発明の実施の形態に係るマーク信号発生回路65の構成例を示す回路図、図5は図4のマーク信号発生回路の動作例を示すタイムチャートである。
マーク信号Vmrkは、図5に示すようにマーク信号生成用クロック信号CLKmの立ち上がりでハイレベル電圧から電圧降下し、立ち下がりで電圧降下がリセットされてハイレベル電圧に復帰する一種のランプ電圧信号である。このマーク信号Vmrkは、電圧降下時の直線性を良くするために、図4に示す回路を用いることができる。
図6は本発明の実施の形態に係る時分割照射方式における距離検知システムの構成例を示す説明図であり、(a)は平面図、(b)は要部の側面図である。この図において、視差センサー用光学装置70は、左用対物レンズ71a、右用対物レンズ71bと、左用反射板72a、右用反射板72bと、反射板72a,72bから反射された左右の像をそれぞれ全反射する反射プリズム73と、反射プリズム73で反射された像を視差センサー1の左右のイメージセンサー2a,2bに結像させるレンズ74とを備えている。また、対象物に対して光源76からの光束を“方向_l”から“方向_m”まで繰り返して走査する回転反射プリズム75が設けられている。なお、光束の走査周期と、図5に示すマーク信号Vmrkの周期とは同期するように構成されている。
以上の構成の視差センサーにおける動作を、図7に示すタイムチャートに基づいて説明する。
まず、図6の距離検知システムにおける回転反射プリズム75が回転して光源76からの光束を“方向_l”から“方向_m”に走査を開始してからリセット信号Rstが時刻t1にローレベルになると、図1または図2のPMOSトランジスタM3がオンになり、左右の画素回路60におけるフォトダイオードPDのカソード電位Vpdがハイレベルになる。次いで時刻t2においてリセット信号Rstがハイレベルになった後、マーク信号生成用クロック信号CLKm(右,左)がハイレベルになり、時刻t2からマーク信号Vmrk(右,左)が直線状に下降していく。なお、CLK右とCLK左は、反射光が入射しない画素同士、つまり、対応する撮像位置に対象物が無い画素同士の相関信号を無効にする為に、あえて異なった信号を与えている。
前記の時刻t1から、ホールド回路63のスイッチSW(またはスイッチング動作をするPMOSトランジスタM6)がオンになり、NMOSトランジスタM1のゲート電圧Vgはマーク信号Vmrkと同様にt2から直線状に下降し始める。同時に、画素回路60を構成するフォトダイオードPDに物体aからの反射信号が光学系を介して入射することによりフォトダイオードPDのカソード電位Vpdがハイレベルからローレベルに転じ、ある閾値のところでインバータ62がスイッチSWを開放する。これによりNMOSトランジスタM1のゲート電圧Vgがホールドされ、読み出し信号Read_l〜nのタイミングで1〜Nラインに対応する画素回路のNMOSトランジスタM2がオンすることにより、その時点の1〜Nラインの画素回路のVgの電圧が出力信号として出力される。
以上は、“方向_a”に物体がある場合の動作であるが、検出対象の物体がない場合は、リセット信号Rstが時刻t7にローレベルになると、図1または図2のPMOSトランジスタM3がオンになり、左右の画素回路60におけるフォトダイオードPDのカソード電位Vpdがハイレベルになる。次いで時刻t8においてリセット信号Rstがハイレベルになった後、マーク信号生成用クロック信号CLKm(右,左)がハイレベルになり、時刻t8からマーク信号Vmrk(右,左)が直線状に下降していく。また、ホールド回路63のスイッチSW(またはPMOSトランジスタM6)がオンになり、NMOSトランジスタM1のゲート電圧Vgはマーク信号Vmrkと同様に直線状に下降し始める。
このとき、画素回路60を構成するフォトダイオードPDには物体からの反射信号が入射しないため、Vg右信号もVg左信号もともにローレベルまで達する。但し、Vmrk右信号は、CLKm右信号がCLKm左信号より早くローレベルになるのでローレベルに達してすぐにハイレベルに転じる。一方、Vmrk左信号はしばらくはローレベルのままである。そこで、t9のタイミングでライン1の読み出し信号Read_lでライン1の画素回路のVg信号を読み出し、その後、順次読み出しラインを変えて、読み出し信号Read_nのタイミングt11でラインNの画素回路のVg信号を読み出す。
次いで、t13でリセット信号Rstがローレベルになり、t14でリセット信号がハイレベルになった後に、次のサイクルの光照射が行われるが、このとき、“方向_b”で、“方向_a”のときよりもすぐに物体を検知しているため、Vg右信号、Vg左信号ともに、“方向_a”のときよりもコンデンサーCのホールド電位であるゲート電圧Vgが高くなっている。すなわち、物体の位置に応じた出力信号が得られるようになっている。
このように、光束で視野内を走査し、左右の読み出し信号の相関の有無によって、視野内に物体があるか否かを検知することができる。このようにして読み出された各画素回路60からの電圧信号は、図10に示したアナログ/パルス幅変換回路アレイ4a,4bに出力され、先願発明と同様に信号処理されて、左右の視差信号として出力される。したがって、同一形状の対象物が同程度の距離に複数個ある場合に、それらの相関特徴パターンは、本来の位置以外には出現しないので、様々な条件下で複数の対象物に対しても、正しい距離検知が可能となる。
なお、本実施の形態においては、画素回路60として、ホールド回路63に与える電圧として、ハイレベルから時間的に変化するマーク信号Vmrkを用いた。このホールド回路63を構成するコンデンサーCの端子電圧Vgは、マーク信号Vmrkと、フォトダイオードPDのカソード電位Vpdの関数で規定され、カソード電位VpdはフォトダイオードPDに照射される光の量で変化する。すなわち、フォトダイオードPDに照射される光の量が小さいときはカソード電位Vpdの時間的変化は小さく、光の量が大きいときはカソード電位Vpdの時間的変化は大きくなる。そこで、図8に示すマーク信号Vmrkの時間変化(勾配)を緩急に変化させたり、直線ではなくS字曲線のような曲線としたりすることにより、画素回路としてのダイナミックレンジを拡大することも可能である。
以上の実施の形態では、図6に示すように光源76からの光束を回転反射プリズム75を用いて空間的に走査し、またマーク信号Vmrkとして、回転反射プリズム75の回転と同期したランプ電圧信号を用いることにより、画像情報の空間的位置を特定するようにしたが、物体の空間的位置と、マーク信号Vmrkの電圧値とが対応していれば、他の方法で画像情報の空間的位置を特定することができる。
例えば、図6の光源76と回転反射プリズム75の代わりに、一次元アレイ状または二次元マトリックス状に配置された複数の光源を一定の順序またはランダムな順序で照射し、発光している各光源の位置(座標)に対応したマーク信号Vmrkを画素回路60のホールド回路63に与えることによって、同様に画像情報の空間的位置を特定することができる。あるいは、レーザ光等のスポット光源を主走査方向及び副走査方向に走査するか、またはランダム照射することで1フレームの画像を取得する際に、スポット光源の位置(座標)に対応したマーク信号Vmrkを画素回路60のホールド回路63に与えることによって、同様に画像情報の空間的位置を特定することができる。
本発明は、ステレオ視に基づいて距離情報を容易に抽出することができる視差センサーおよび視差画像の生成方法として、3次元動き検知装置や監視装置等の分野に利用することができる。
1 視差センサー
2a,2b イメージセンサー
3 シーケンサー
4a,4b アナログ/パルス幅変換回路アレイ
5a,5b パルス信号比較回路アレイ
6 相関検知回路マトリックス
7 シーケンサー
8 アナログ/パルス幅変換回路
9,9’ パルス信号比較回路(DIFC)
10 相関検知回路
11 電流電圧変換回路(IVC)
12 シフトレジスター
13 同期制御回路
15a,15b ゼロ相関除去信号発生回路アレイ
16 ゼロ相関除去信号発生回路
161 ゼロ信号検知回路
162,163 選択回路
1611 NOR回路
1612 NOT回路
1613 MOSFET
1614 R−Sフリップフロップ
1615 NAND回路
41,42,45,46 インバータ
43,44,47,48 NANDゲート
50 コンデンサー
51,52 電流スイッチ回路
53 電流源
54 リセット・スイッチ
55 出力回路
56 読出スイッチ
60 画素回路
61 受光量応答タイミング可変スイッチ
62 インバータ
63 ホールド回路
64 電流電圧変換回路
65 マーク信号発生回路
70 視差センサー用光学装置
71a,71b レンズ
72a,72b 反射板
73 反射プリズム
74 レンズ
75 回転反射プリズム
76 光源

Claims (4)

  1. 受光量に応じてオフになるタイミングが決定されるスイッチング素子を介して画素内コンデンサーに、撮像する空間の位置に応じて異なるアナログ電圧信号を与える機能を有する画素回路で構成されたイメージセンサー。
  2. 前記スイッチング素子は、受光量に応じて端子電圧が変化するフォトダイオードの前記端子電圧が所定の閾値を超えたときにオフになるMOSトランジスタによって構成されている請求項1記載のイメージセンサー。
  3. 請求項1または2記載のイメージセンサーからなり、空間的に移動する部分照射光によって照射される対象物を互いに異なる角度から撮像し、アナログ電圧信号である画素信号として第1画像及び第2画像をそれぞれ出力する第1及び第2のイメージセンサーと、
    前記第1及び第2のイメージセンサーに与えられた、前記撮像する空間の位置に応じて異なるアナログ電圧信号に基づく出力信号の相関に基づいて、当該空間の位置に物体があるか否かを判定する手段と、
    前記第1及び第2のイメージセンサーから出力される画素信号の各々を、各画素信号の電圧値に比例する長さのパルス幅を有するパルス幅画素信号に変換する複数のアナログ/パルス幅変換回路と、
    すべての前記各アナログ/パルス幅変換回路が同時並列的に各画素信号をパルス幅画素信号に変換するようにタイミング制御を行う同期制御回路と、
    隣接する前記アナログ/パルス幅変換回路が出力する2つのパルス幅画素信号を比較し、2つのパルス幅画素信号の+方向の差と−方向の差をそれぞれ比較パルス信号として出力する複数のパルス信号比較回路と、
    前記第1画像に対応する前記パルス信号比較回路の出力である比較パルス信号と前記第2画像に対応する前記パルス信号比較回路の出力である比較パルス信号のそれぞれの組み合わせからなる2つの比較パルス信号に対して、両者の排他論理和をとった差分パルスの全パルス長を、その全パルス長に比例する電圧値または電流値の信号に変換し、この信号を相関信号として出力する複数の相関検知回路と、
    前記パルス信号比較回路の出力である比較パルス信号のパルス幅が一定の長さ以下であることを検知するゼロ信号検知回路と、そのゼロ信号検知回路の出力信号に従って前記比較パルス信号または予め決められた信号を選択し前記相関検知回路に出力する選択回路とからなるゼロ相関除去信号発生回路とを備えたことを特徴とする視差センサー。
  4. それぞれが請求項1または2に記載のイメージセンサーからなる第1及び第2のイメージセンサーを用いた視差画像の生成方法であって、
    空間的に移動する部分照射光によって照射される対象物を互いに異なる角度から前記第1及び第2のイメージセンサーで撮像し、前記第1及び第2のイメージセンサーから、それぞれアナログ電圧信号である第1画像及び第2画像を出力する第1のステップと、
    前記第1及び第2のイメージセンサーに与えられた、前記撮像する空間の位置に応じて異なるアナログ電圧信号に基づく出力信号の相関に基づいて、当該空間の位置に物体があるか否かを判定する第2のステップと、
    前記第1及び第2のイメージセンサーが出力する各画素信号を、複数のアナログ/パルス幅変換回路により、同時並列的に、その画素信号の電圧値に比例する長さのパルス幅を有するパルス幅画素信号に変換する第3のステップと、
    隣接する前記アナログ/パルス幅変換回路が出力する2つのパルス幅画素信号を比較し、2つのパルス幅画素信号の+方向の差と−方向の差をそれぞれ比較パルス信号として出力する第4のステップと、
    前記比較パルス信号のパルス幅が一定の長さ以下であることを検知したときに、前記比較パルス信号または予め決められた信号を選択して出力する第5のステップと、
    複数の相関検知回路により、前記第1画像に対応する比較パルス信号、但し前記第5のステップにおいて予め決められた信号が選択されたときはその予め決められた信号と、前記第2画像に対応する比較パルス信号、但し前記第5のステップにおいて予め決められた信号が選択されたときはその予め決められた信号のそれぞれの組み合わせからなる2つのパルス幅画素信号に対して、両者の排他論理和をとった差分パルスの全パルス長を、その全パルス長に比例する電圧値または電流値の信号に変換し、この信号を相関信号として出力する第6のステップと、
    を有することを特徴とする視差画像の生成方法。
JP2009042764A 2009-02-25 2009-02-25 イメージセンサー及びそれを用いた視差センサー並びに視差画像の生成方法 Pending JP2010197227A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009042764A JP2010197227A (ja) 2009-02-25 2009-02-25 イメージセンサー及びそれを用いた視差センサー並びに視差画像の生成方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009042764A JP2010197227A (ja) 2009-02-25 2009-02-25 イメージセンサー及びそれを用いた視差センサー並びに視差画像の生成方法

Publications (1)

Publication Number Publication Date
JP2010197227A true JP2010197227A (ja) 2010-09-09

Family

ID=42822097

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009042764A Pending JP2010197227A (ja) 2009-02-25 2009-02-25 イメージセンサー及びそれを用いた視差センサー並びに視差画像の生成方法

Country Status (1)

Country Link
JP (1) JP2010197227A (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015129669A (ja) * 2014-01-07 2015-07-16 国立大学法人九州工業大学 視差センサ及び相関信号の生成方法
US9258502B2 (en) 2012-12-17 2016-02-09 Samsung Electronics Co., Ltd. Methods of operating depth pixel included in three-dimensional image sensor and methods of operating three-dimensional image sensor
KR101797014B1 (ko) 2011-09-14 2017-11-14 삼성전자주식회사 3차원 이미지 센서의 단위 픽셀
JP2020514713A (ja) * 2016-12-27 2020-05-21 ジェラルド ディルク スミッツ 機械知覚のためのシステム及び方法
US11372320B2 (en) 2020-02-27 2022-06-28 Gerard Dirk Smits High resolution scanning of remote objects with fast sweeping laser beams and signal recovery by twitchy pixel array
WO2023058591A1 (ja) * 2021-10-06 2023-04-13 パナソニックIpマネジメント株式会社 撮像素子および測距装置
US11714170B2 (en) 2015-12-18 2023-08-01 Samsung Semiconuctor, Inc. Real time position sensing of objects

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101797014B1 (ko) 2011-09-14 2017-11-14 삼성전자주식회사 3차원 이미지 센서의 단위 픽셀
US9258502B2 (en) 2012-12-17 2016-02-09 Samsung Electronics Co., Ltd. Methods of operating depth pixel included in three-dimensional image sensor and methods of operating three-dimensional image sensor
JP2015129669A (ja) * 2014-01-07 2015-07-16 国立大学法人九州工業大学 視差センサ及び相関信号の生成方法
US11714170B2 (en) 2015-12-18 2023-08-01 Samsung Semiconuctor, Inc. Real time position sensing of objects
JP2020514713A (ja) * 2016-12-27 2020-05-21 ジェラルド ディルク スミッツ 機械知覚のためのシステム及び方法
US11709236B2 (en) 2016-12-27 2023-07-25 Samsung Semiconductor, Inc. Systems and methods for machine perception
JP7329444B2 (ja) 2016-12-27 2023-08-18 ジェラルド ディルク スミッツ 機械知覚のためのシステム及び方法
US11372320B2 (en) 2020-02-27 2022-06-28 Gerard Dirk Smits High resolution scanning of remote objects with fast sweeping laser beams and signal recovery by twitchy pixel array
US11829059B2 (en) 2020-02-27 2023-11-28 Gerard Dirk Smits High resolution scanning of remote objects with fast sweeping laser beams and signal recovery by twitchy pixel array
WO2023058591A1 (ja) * 2021-10-06 2023-04-13 パナソニックIpマネジメント株式会社 撮像素子および測距装置

Similar Documents

Publication Publication Date Title
JP2010197227A (ja) イメージセンサー及びそれを用いた視差センサー並びに視差画像の生成方法
Niclass et al. A 0.18-$\mu $ m CMOS SoC for a 100-m-Range 10-Frame/s 200$\,\times\, $96-Pixel Time-of-Flight Depth Sensor
Perenzoni et al. A 64$\times $64-Pixels Digital Silicon Photomultiplier Direct TOF Sensor With 100-MPhotons/s/pixel Background Rejection and Imaging/Altimeter Mode With 0.14% Precision Up To 6 km for Spacecraft Navigation and Landing
Jahromi et al. A 32× 128 SPAD-257 TDC receiver IC for pulsed TOF solid-state 3-D imaging
US10422879B2 (en) Time-of-flight distance measuring device
JP6314418B2 (ja) レーダ装置
JP2020515855A (ja) 統合化されたlidar照明出力制御
JP6609980B2 (ja) 光飛行時間測定装置及び光学的測距装置
WO2017112416A1 (en) Light detection and ranging sensor
JP2022510817A (ja) 空間的に分配されるストロービングのための方法及びシステム
Ruokamo et al. An $80\times25 $ Pixel CMOS Single-Photon Sensor With Flexible On-Chip Time Gating of 40 Subarrays for Solid-State 3-D Range Imaging
CN111103057B (zh) 具有使用基于电容器的比较器的阈值检测的光子感测
WO2020075525A1 (ja) センサフュージョンシステム、同期制御装置、及び同期制御方法
US11626446B2 (en) Pixel circuit and method of operating the same in an always-on mode
US11770633B2 (en) Readout architecture for indirect time-of-flight sensing
Zhuo et al. Solid-state dToF LiDAR system using an eight-channel addressable, 20-W/ch transmitter, and a 128× 128 SPAD receiver with SNR-based pixel binning and resolution upscaling
JP7224708B6 (ja) 深度データ測定ヘッド、測定装置及び測定方法
CN110709724B (zh) 电磁波检测装置以及记录介质
JP6379646B2 (ja) 情報処理装置、測定方法及びプログラム
JP5146959B2 (ja) 視差センサおよび視差画像の生成方法
JP2011203192A (ja) 視差センサ、及び視差画像生成方法
CN114829970A (zh) 飞行时间成像电路、飞行时间成像系统和飞行时间成像方法
Kotake et al. Performance improvement of real-time 3D imaging ladar based on a modified array receiver
JP7199016B2 (ja) 固体撮像装置
US20230204727A1 (en) Distance measurement device and distance measurement method