JP5114493B2 - 電子形式の画像を生成する方法、画像生成用画像センサのための画像素子ならびに画像センサ - Google Patents

電子形式の画像を生成する方法、画像生成用画像センサのための画像素子ならびに画像センサ Download PDF

Info

Publication number
JP5114493B2
JP5114493B2 JP2009537440A JP2009537440A JP5114493B2 JP 5114493 B2 JP5114493 B2 JP 5114493B2 JP 2009537440 A JP2009537440 A JP 2009537440A JP 2009537440 A JP2009537440 A JP 2009537440A JP 5114493 B2 JP5114493 B2 JP 5114493B2
Authority
JP
Japan
Prior art keywords
image
image element
circuit
exposure
exposure measurement
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2009537440A
Other languages
English (en)
Other versions
JP2010510732A (ja
Inventor
ポッシュ クリストフ
リッツェンベアガー マルティン
モトリン ダニエル
ヴォールゲナント ライナー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
AIT Austrian Institute of Technology GmbH
Original Assignee
AIT Austrian Institute of Technology GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by AIT Austrian Institute of Technology GmbH filed Critical AIT Austrian Institute of Technology GmbH
Publication of JP2010510732A publication Critical patent/JP2010510732A/ja
Application granted granted Critical
Publication of JP5114493B2 publication Critical patent/JP5114493B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N3/00Scanning details of television systems; Combination thereof with generation of supply voltages
    • H04N3/10Scanning details of television systems; Combination thereof with generation of supply voltages by means not exclusively optical-mechanical
    • H04N3/14Scanning details of television systems; Combination thereof with generation of supply voltages by means not exclusively optical-mechanical by means of electrically scanned solid-state devices
    • H04N3/15Scanning details of television systems; Combination thereof with generation of supply voltages by means not exclusively optical-mechanical by means of electrically scanned solid-state devices for picture signal generation
    • H04N3/155Control of the image-sensor operation, e.g. image processing within the image-sensor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time
    • H04N25/533Control of the integration time by using differing integration times for different sensor regions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/707Pixels for event detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Studio Devices (AREA)

Description

本発明は、画像素子により電子形式で1つのシーンのイメージないしはマップを生成する方法、露光測定装置により画像を生成する画像センサのための画像素子、ならびに複数の画像素子により電子形式の画像を生成する画像センサに関する。
古典的な画像処理は、画像センサから供給されるデータの評価に基づくものである。画像センサを用いてデータを記録する場合、センサの各画素(ピクセル)について一般に電子形式で移送されるビジュアル情報が所定のクロックで(同期して)、典型的には1秒間に多数の回数で、画像センサから読み出される(たとえばFossum E.R., "CMOS image sensors: Electronic Camera-On-A-Chip", Electron Devices, IEEE Transactions on, Vol.44, Iss.10, , pp.1689-1698, Ort 1997)。この方式は(時間および/または位置に関して)高い分解能をもつセンサの場合に生成されるデータ量およびその結果として生じる複雑な後処理に起因して、いくつもの限界に突き当たる。ディジタル伝送チャネルのデータレートは限られており、高性能画像処理の多くのタスクのためには十分な大きさではない一方、画像センサから供給されるデータ量の記憶スペースに対する要求を、高速なアプリケーションの場合には殊に、技術的に(または経済的に理にかなうようにも)満たすことはできない。また、多くのアプリケーション殊に移動体のアプリケーションにとって、それ相応に高性能の信号処理プロセッサのエネルギー消費は大きすぎるし、あるいは多くの適用分野にとっては高価すぎる。さらに、かなりの(高速)アプリケーションはプロセッサ性能の不足に起因して実現することすらできない。
ここ数年来、センサにおいてダイレクトに、たいていは各画素においてパラレルに、画像情報の前処理を行う画像センサアーキテクチャ("focal plane processing")を調査してきた。それらのセンサのうちのいくつかは、前処理された画像情報を非同期でイベント制御により送信し、つまり外部のクロックとは無関係に、シーン内で関連情報が検出されたときだけ送信される。
オプティカルトランジェントセンサ(optical transient sensor)ないしはダイナミックビジョンセンサ(dynamic vision sensor DVS)という特別なケースではこれらの関連情報は、自律的に動作する個々の画素(ピクセル)が受け取った照射強度の相対的変化である。このような画素に基づく電子回路すなわちトランジェントデテクタについては、Lichtsteiner, P.; Posch, C; Delbruck, T., "A 128x128 120dB 30mW asynchronous vision sensor that responds to relative intensity change," Solid-State Circuits, 2006 IEEE International Conference Digest of Technical Papers , pp. 2060- 2069, Feb. 6-9, 2006, Lichtsteiner, P.; Delbruck, T.; Posch, C, "A 100dB dynamic range high-speed dual-line optical transient sensor with asynchronous readout," Circuits and Systems, 2006. ISCAS 2006. Proceedings. 2006 IEEE International Symposium on, pp. 1659- 1662, 21-24 May 2006 およびWO 2006/128315 Alに記載されている。
輝度変化は一般にシーンにおけるオブジェクトの反射率変化によって引き起こされるので、たいていは物体の運動がこれに関連している。輝度変化を検出しないピクセルはデータを生成しない。これにより、既述のように全ピクセルフィールドを常に一定のレート(フレームレート"Frame-Rate")で読み出す慣用のCMOS画像センサまたはCCD画像センサと比較して、発生するデータ量が著しく低減される。ただしデータ流中にはシーンにおける可変のオブジェクトに関する情報だけしか含まれておらず、つまり均質な面および動かない背景に関する画像情報は存在しない(すなわちグレー値情報は存在しない)。個々のピクセルは非同期に僅かなレイテンシでそれらの視野における刺激ないしは励起に反応するので、読み出し時に時間量子化は行われず、高い時間分解能を達成することができる。たとえば自動車、監視、産業オートメーションなどの分野における「マシン・ビジョン Machine Vision」の多数の適用事例にとって、トランジェントセンサのデータがきわめて適している。
オプティカルトランジェントセンサの特性の制約とは、人間にとって判読可能な画像(強度画像もしくはグレー値/カラー画像)が欠けていることである。とはいえ多くの適用事例のためには、動かない(または変化しない)物体またはシーン背景に関する情報が必要である。人間のオペレータが配置されるにしても、観察されるシーンのビデオ画像を省くことはできない。
クロック制御される慣用のCMOS画像センサまたはCCD画像センサの欠点は、既述のように時間分解能がピクセルフィールドを読み出す「フレーム」レートに制限されていること、このようなセンサにより生成される著しく冗長なデータが大量にあること、ならびにダイナミックレンジが制限されていることである。
本発明の課題は、観察される可変のシーンの画像情報を連続的に記録する方法および装置において、(処理可能な光強度の)広いダイナミックレンジで、できるかぎり高い時間分解能および強度分解能が得られるようにすることである。この場合、記録されたデータが個々の画像のシーケンスから成るようにするのではなく、個々のピクセルにおける変化情報の非同期ストリームから成るようにし、実際にピクセルの視野において変化が発生したときでだけ、これが記録されて伝達されるようにする。これによって、慣用の画像センサにとって典型的である画像情報における一時的な冗長性が十分抑圧されることになり、情報内容が同じであっても(あるいはそれどころかさらに多くても)データ量が著しく低減される。これにより得られる結果はビデオと同等であるが、この場合、個別画像はない。既述の方法を実行するための画像センサのための画像素子は、アナログ電子回路をベースに実現することができる。多数のこの種の画像素子を備えた画像センサの電力消費をできるかぎり僅かにするのが好適であり、これは典型的には集積CMOSシステムとして実現される。
本発明によればこの課題は、冒頭で述べた形式の方法において、1つの自律的な画像素子における露光測定が、この画像素子により観察されるシーンセクションにおける輝度変化の自動的な非同期の検出イベントを介して、同じ画像素子の一部分によって励起され、露光測定結果が画像素子のアドレスとともに記憶装置および/または後続処理装置へ非同期で伝達されることにより解決される。センサの各ピクセルが少なくとも1回、変化を検出し、それに伴い露光測定が行われた後、観察されるシーン全体の1つのイメージ(グレー値画像/カラー画像)がディジタル形式で得られる。その後、自身の視野内で輝度変化を検出したピクセルだけが更新された新たなグレー値を送信する(新たな情報があるかないかには依存せず所定の時点ですべてのピクセルが送信を行うわけではない)。輝度変化を検出しないピクセルすなわち変化のない輝度を「見ている」ピクセルに関して、グレー値の更新は不要である。この方法によれば、観察されているシーンのダイナミックな内容に応じて、クロック制御される(同期型の)画像センサと比べて、同じ結果でありながら発生するデータ量を著しく低減することができる。その結果、どのような時点であっても、観察されるシーンの完全な(グレー値)画像が画像メモリ内に存在しており、高い時間分解能でありながら(比較的)低いデータレートで常に更新される。画像メモリからの画像情報の読み出しを、画像記録動作とは無関係にいつでも高い繰り返しレートで行うことができる。
本発明の有利な実施形態によれば、露光測定の終了は、画像素子において露光に依存する物理的な量が設定可能な閾値に達することにより決定され、この時点において画像素子のアドレスが後続処理装置へ伝達され、露光測定をトリガするイベントの時点と閾値への到達時点との時間差が、画像素子の露光に対する尺度として用いられる。
画像素子において露光に依存する既述の物理的な量は、フォトデテクタ回路の積分コンデンサにおける電圧であると有利である。画像素子のアドレスはこの時点で新たに非同期でイベント制御されて後続処理装置へ伝達され、露光をトリガする各イベント発生時点の時間差がトランジェントデテクタにより検出され、フォトデテクタ回路の電圧信号を設定可能な閾値と比較する閾値比較器により閾値への到達が検出されて、画像素子の露光に対する尺度として利用される。本発明による方法は、タイムシーケンスたとえば露光測定のタイムシーケンスを制御するために外部のコントロール信号を必要としない。
以下の刊行物には、「タイムベースの画像センサ」をテーマとするコンセプトおよび方法について述べられている:
Bermak, "A CMOS imager with PFM/PWM based analog-to-digital converter", Circuits and Systems, 2002. ISCAS 2002. IEEE International Symposium on, 2002;
Chen S.; Bermak, A., "A low power CMOS imager based on time-to-first-spike encoding and fair AER," Circuits and Systems, 2005. ISCAS 2005. IEEE International Symposium on, pp. 5306- 5309 Vol. 5, 23-26 May 2005;
Chen S.; Bermak, A., "A Second Generation Time-to-First-Spike Pixel with Asynchronous Self Power-off," Circuits and Systems, 2006. ISCAS 2006. Proceedings. 2006 IEEE International Symposium on, pp. 2289- 2292, 21-24 May 2006;
Culurciello, E.; Etienne-Cummings, R.; Boahen, K., "Arbitrated address-event representation digital image sensor," Electronics Letters, vol.37, no.24pp.1443-1445, 22 Nov 2001;
Culurciello, E.; Etienne-Cummings, R.; Boahen, K.A., "A biomorphic digital image sensor," Solid-State Circuits, IEEE Journal of, vol.38, no.2pp. 281- 294, Feb 2003;
J.G. Harris, X. Qi, Q. Luo and X. Guo, "SNR and FPN considerations for time-based wide dynamic range CMOS image sensors", 6th World Multiconference on Systemics, Cybernetics and Informatics, JuIy 14-18, 2002;
Kitchen, A.; Bermak, A.; Bouzerdoum, A., "PWM digital pixel sensor based on asynchronous self-resetting scheme," Electron Device Letters, IEEE, vol.25, no.7pp. 471- 473, JuIy 2004;
Qiang Luo; Harris, J.G., "A time-based CMOS image sensor," Circuits and Systems, 2004. ISCAS '04. Proceedings of the 2004 International Symposium on, vol.4, IV840-3 Vol.4, 23- 26 May 2004; Xin Qi; Xiaochuan Guo; Harris, J.G., "A time-to-first spike CMOS imager," Circuits and Systems, 2004. ISCAS '04. Proceedings of the 2004 International Symposium on, vol.4, IV824-7 VoI .4, 23-26 May 2004;
Chen Xu; Chao Shen; Bermak, A.; Mansun Chan, "A new digital-pixel architecture for CMOS image sensor with pixel-level ADC and pulse width modulation using a 0.18 μm CMOS technology," Electron Devices and Solid-State Circuits, 2003 IEEE Conference on, pp. 265-268, 16-18 Dec. 2003;もしくはUS 6,660,989; US 6,069,377; US 6,642,503; US 5,650,643; US 5,565,915, US 6,587,145
これら上述のすべての方法は基本的に本発明のアプローチとは異なっている。なぜならばこれらはたとえば、ピクセルフィールド(フレーム"Frame")全体のための露光サイクルを、または少なくとも行ごとに(たとえばローリング・シャッター・モード"rolling-shutter mode")、外部から(すなわちグローバルなスタート信号またはリセット信号により)開始させるからであり、あるいは輝度情報をインター・スパイク・インターバル"Inter-Spike-Intervalle"として連続的な「リクエスト・アクノーレッジ・リセット積分」"Request-Acknowledge-Reset-Integrate"サイクルにコーディングするからである。
オフセット電圧の変動または一時的な妨害に起因するエラーを抑圧する目的で有利には、積分開始時点に第1の電圧値に達した後、画像素子のアドレスが伝達され、ついで(同じ積分過程において)第2の電圧値に達すると、その画像素子のアドレスが新たに伝達され、双方の異なる電圧値に到達した時点の時間差が、画像素子の露光に対する尺度として用いられる。
これらすべての実施形態において、イベント検出と露光測定に関する情報をパラレルに互いに依存せずに伝達することができる。
本発明の1つの重要な特徴によれば、画像素子における露光測定がこの画像素子における輝度変化によりトリガされ、この輝度変化の発生は後続処理装置への画像素子のアドレス伝達により付加的にシグナリングされる。
本発明のさらに別の実施形態によれば、慣用のAPS画像センサの場合のように、画像素子に生じた電圧値が所定の期間にわたる積分後に求められ、画像素子の露光に対する尺度として使用され、後続処理装置へ伝達される。ただしこの場合、露光をトリガするイベントの時点は、既述のようにピクセル回路により自律的に非同期で求められる。
本発明のさらに別の有利な実施形態のように、複数の画像素子から成るグループに対する露光測定の開始が共通に許可または阻止されるならば、画像領域全体からセクション選択を行うことができ、それについてユーザにとって「読み取り可能な」画像を生成することができる。たとえば、輝度変化に対する監視の十分な領域をスイッチオフすることができ、当然ながらこのことによって伝送すべきデータレートも低減される。
同様にやはり有利であるのは、さらに別の実施形態のように、複数の画像素子から成るグループの輝度変化の検出自体も共通に許可または阻止することである。したがって重要でない領域を完全にスイッチオフすることができ、あるいは画像生成を比較的小さいセクションに制限することができ、このことによって伝送すべきデータレートが著しく低減される。
有利には、少なくとも1つの任意の時点において参照露光測定を少なくとも1つの画像素子においてトリガすることにより、既述の方法をさらに向上させることができる。これまで述べてきた画像素子およびそれによって構成された画像センサによって、観察されているシーンのダイナミックな内容に依存する時間が経過した後で初めて、すべてのピクセルに対するグレー値を有する1つの完全な画像が供給される。このことは、自身の視野において変化を検出しないピクセルは露光測定をトリガしない、という特性によって得られる。したがって有利であるのは、背景の変化していないシーンにおいて1つの完全な画像を得る目的で、任意の時点において1つの画像全体(参照フレームないしは基準フレーム"Referenz-Frame")を捕捉することである。さらにこの機能が好適である理由は、後続処理手段による時間情報から画像グレー値への変換に対する最適なパラメータ設定のために、シーン全体の輝度情報を把握する必要があるからである。この変換に必要とされるデータ(「オフセット」、「レンジ」)を、参照フレームの時間値から簡単なやり方で抽出することができる。
本発明による方法の実施形態によれば、画像素子のランダムな励起ひいては露光測定のトリガを好適なものとすることができる。
この場合、以下のように構成することができる。すなわち、複数の画像素子における複数の行有利にはすべての平行な行における露光測定が、これらの行の最初の画像素子においてそれぞれ実質的に同時に開始され、1つの画像素子における露光測定の積分が終了すると、同じ行のそれぞれ次の画像素子において露光測定が開始される。
さらに別の実施形態によれば、任意に設定可能なパターン有利には関連する領域に従って配置されている画像素子において、実質的に同時に露光測定が開始される。
有利には参照露光測定を、画像センサの画像素子による輝度変化の検出と同時に、およびこの検出とは無関係に行うことができる。
1つの有利な実施形態によれば、1つの画像素子に対する露光測定の開始を、この画像素子を含む列と行全体をそれぞれアクティブ状態にし、アクティブ状態にする信号のAND論理結合により行うことによって、回路技術の単純化および回路の所要面積低減を達成することができる。本発明による画像装置は露光測定装置を有しており、以下のことを特徴としている。すなわち、露光測定結果と画像素子アドレスを非同期でイベント制御により評価回路へ伝達する回路と、評価回路と接続されている輝度変化検出回路が設けられており、輝度変化検出回路は輝度変化を検出すると、露光測定装置と、露光測定結果およびアドレスを非同期でイベント制御により伝達する回路を始動させる信号を送出する。
有利には自律的に非同期で動作する上述の複数の画像素子(ピクセルとも称する)と、各ピクセルごとにそのつど最新の露光測定結果を記憶可能でありセンサの画像素子数に対応する個数のメモリセルを備えた画像メモリとから、既述の方法を実施するための画像センサを構成することができる。メモリを画像センサ自体と同じ基板("Chip")とすることができ、あるいは別個のコンポーネントとすることができる。
輝度測定のため画像素子に、クロック制御される慣用のCMOS画像センサにおいても使用されているようなフォトデテクタが設けられている。フォトデテクタ回路についてはたとえば、Fossum E.R., "CMOS image sensors: Electronic Camera-On-A-Chip", Electron Devices, IEEE Transactions on, Vol.44, Iss.10, pp.1689-1698, Ort 1997, in Noble P.J.W., "Self-scanned Silicon image detector arrays" Elertron Devices, IEEE Transartions on, Vol.15, Iss.4, pp. 202- 209, Apr. 1968および Chamberlain S.G., "Photosensitivity and Scanning of Silicon Image Detector Arrays," Solid-State Circuits, IEEE Journal of, Vol.4, Iss.6, pp. 333- 342, Dec 1969において述べられている。CMOSピクセルの場合、入射光強度に依存してフォトダイオードから発せられる光電流がキャパシタにおいて積分され、その結果として生じた電圧値が規定時間後に読み出される。この積分の開始も終了も、慣用のCMOS画像センサの場合にはすべてのピクセルに対し等しく外部の制御信号によって設定される。
本発明による画像素子によれば、露光測定(=積分)をトリガするイベントの時点は、慣用の画像センサの場合のようにすべてのピクセルに対し等しく同期して共通の時点から導出されるのではなく、観察されるシーンの内容に依存して各ピクセルにより定められ、すなわち輝度変化検出時にそれ自体によって決定される。この時点において、画像素子は自身のアドレスを、典型的には矩形の画像センサピクセルフィールドにおけるX,Yアドレスを、有利にはアービタ制御される非同期の伝送チャネルを介して後続処理装置へ自動的に伝達する。
1つの有利な実施形態によれば、輝度変化検出回路から露光測定装置および露光測定結果と画像素子アドレスを非同期でイベント制御により伝達する回路への信号ラインは分離可能であり、この場合、露光測定装置と非同期でイベント制御により伝達する回路を始動させる外部の制御ラインが設けられている。
本発明の1つの有利な実施形態によれば、露光測定装置は閾値判定器を備えた積分回路を有しており、露光測定結果および画像素子アドレスを非同期でイベント制御により伝達する回路とともに1つの回路にまとめられている。さらに有利には、閾値判定器として2段型の演算増幅器が用いられ、この場合、付加的なトランジスタにより回路の静止状態において、スタティックな電流つまりは閾値判定器における電力消費がほぼゼロまで低減される。
閾値判定器のための比較電圧を積分過程中、設定可能な2つの別個の値の間で切り替え可能であり、それぞれ供給すべき比較電圧の選択および切替時点の決定が、露光測定結果と画像素子アドレスを非同期でイベント制御により伝達する回路により自動的に画像素子において行われるようにすると、付加的な利点を得ることができる。それというのも、オフセット電圧の変動もしくは一時的な妨害によるエラーをこれによって抑圧できるからである。
さらに有利には、互いに依存しない2つのパラレルの非同期バスアービタが設けられており、これらのアービタを介して、輝度変化検出回路と露光測定回路とが互いに別個に評価回路と接続されている。適切な非同期バスアービタについてはたとえば、Boahen K., "Pointto-point Connectivity between neuromorphic chips using Address Events", IEEE Transactions on Circuits and Systems II: Analog and Digital Signal Processing, vol. 47 pp. 416-433, 2000およびK. A. Boahen, "A burst-mode word-serial address-event link-I transmitter design," IEEE Transactions on Circuits and Systems I-Regular Papers, vol. 51, pp. 1269-1280, 2004に記載されている。
本発明の1つの実施形態によれば露光測定回路は、設定可能な積分時間をもつ積分回路を有しており、結果として生じた電圧値のためのアナログ/ディジタル変換器と接続されている。
その際に好適であるのは、アナログ/ディジタル変換器を輝度変化検出の伝送とは別個のデータバスを介して評価回路と接続することである。
本発明による画像素子の1つの実施形態によれば輝度変化検出回路は、信号を前処理し有利にはアドレスイベントプロトコルAdress-Event-Protokoll("Adress-Event-Representation", AER)により非同期伝送を行うアナログ回路を備えたトランジェントデタクタを有している。AERについてはたとえば、Boahen K., "Point-to-point Connectivity between neuromorphic chips using Address Events", IEEE Transactions on Circuits and Systems II: Analog and Digital Signal Processing, vol. 47 pp. 416-433, 2000に記載されている。
既述の課題を解決するため、冒頭で述べた基本構造を備えた画像生成用の画像センサは、自身の画像素子が既述の説明に従って構成されていることを特徴としている。
1つの有利な実施形態によればこの画像センサには、露光測定のためにピクセルを外部から強制的に励起するための回路を設けることができる。
本発明による画像センサの1つの特別な実施形態によれば、画像素子は行形式で配置されており、励起回路は各行におけるそれぞれ第1の画像素子を実質的に同時に強制的に外部から励起し、各画像素子における露光測定の終了を伝達し、同じ行におけるそれぞれ次の画像素子を強制的に励起する。
本発明のさらに別の実施形態によれば、輝度変化検出回路の漏れ電流を調節する回路を設けることができる。この回路を、画像素子における露光測定を時間的にランダムに励起するために用いることができる。
また、複数の画像素子から成るグループのための露光測定回路を実質的に同時に強制的に励起するための回路を設けることもでき、この場合、複数の画像素子から成るグループはまえもって設定可能な任意のパターンに従い配置されており、有利には関連する領域に従い配置されている。
本発明による画像センサの1つの実施形態によれば、それぞれ複数の画像素子から成る行全体または列全体に対する露光測定回路のためにそれぞれ1つのリセット論理回路が設けられており、画像素子自体において2つのリセット論理回路の信号のAND論理結合が行われる。この実施形態によって、回路技術的な複雑さが低減されるとともに、回路の所要スペースも小さくなる。
その際に有利には1つの実施形態を用いることができ、これによれば複数の画像素子から成るそれぞれ少なくとも1つの行および/または少なくとも1つの列に対し、この行および/または列の露光測定回路のアクティブ状態または非アクティブ状態への移行が、ロード機能を有する書き込みレジスタチェーンを介して共通に行われる。
同様に、このような回路の単純化ならびに物理的な寸法の低減を以下のようにして達成することができる。すなわちそれぞれ少なくとも1つの行および/または少なくとも1つの列に対し、これらの行および/または列の輝度変化検出および露光測定のための回路のアクティブ状態または非アクティブ状態への移行が、ロード機能を有する書き込みレジスタチェーンを介して共通に行われる。
次に、図面を参照しながら有利な実施例に基づき本発明について詳しく説明する。
トランジェントデタクタの回路概略図 図1aによる回路の典型的な信号経過を示す図 第1の実施形態による非同期バスアービタを備えた本発明による画像素子のブロック図 非同期アービタ、マルチプレクサ/サンプル&ホールドおよびADCを備えた画像素子のブロック図 図2による実施形態のためのアービタを備えた画像素子のブロック図、この図にはさらに、参照フレームまたは同期ビデオ動作のための励起をフレキシブルに生成するための回路、ならびにピクセルフィールド(関心領域"Region-Of-Interest", ROI)において任意の領域をまとめてまたは別々に自由選択でアクティブまたは非アクティブにするための回路を実現するための詳細図も加えられている 図4によるピクセルの露光測定部12における論理回路4のブロック図 論理信号の典型的なタイムシーケンスを示す図 本発明による閾値判定器の回路図 図4によるリセット回路14のブロック図
図1aには慣用のトランジェントデテクタ(従来技術)の回路に関する概略図が示されており、図1bには、この回路において発生する典型的な信号経過が示されている。トランジェントデタクタの入力信号は、トランジスタM1とフォトダイオード1aを流れる電流Iphotoである。フィードバック反転増幅器A1においてフォト電流が電圧信号Vpに変換される。Vpの変化は容量結合された反転増幅器2により増幅され、規定された電圧値(「リセット」イベント発生後の動作点)からの偏差としてポイントVDiffに現れる。信号VDiffが設定可能な規定の閾値を上回るか下回るかし、このことを2つの電圧比較器のうちの一方が検出すると、「リセット」信号が短期間アクティブになり、これによって「リセット」スイッチが閉じられ、増幅器A2の入力ノードがその出力側と短絡され、その結果、増幅器回路の動作点がリセットされる。この短期間の「リセット」パルスは既述のように、アービタ(Arbiter_T, 5)に対する「リクエスト」信号(Req_T)を発生させるために用いられ、アービタはピクセルのアドレス(ピクセルフィールドのX,Yアドレス)を含むそれぞれ1つのデータパケットの伝送を実行する(いわゆる「アドレスイベント」 "address event")。このようにして、フォトダイオード照射の変化(輝度変化)が検出され、これは非同期にデータバス7を介して伝送される。変化のレートは時間領域において各リセットイベントの間隔(図1b)として表され、変化の方向(明るくなる方向または暗くなる方向)は高い方の閾値を上回ったことあるいは低い方の閾値を下回ったこと("+"イベントまたは"−"イベント)により得られる。この回路は本発明の対象である画像素子において、他の回路ブロックとともに用いられる。
図2に示されている本発明による画像素子を、光受容体としてフォトダイオード1a,2aを用いたCMOS技術によって実現するのが有利である。多数のピクセルから成る画像センサのためのこの画像素子(ピクセル)は、基本的にトランジェントデテクタ1とフォトデテクタ回路2によって構成されている。そしてこれが論理回路4を備えた閾値判定器3によって拡張される。論理回路4は、ピクセルにおける露光測定の結果を非同期でイベント制御によりピクセルアドレスとともに評価回路へ伝達することによって、露光情報から期間への変換が可能となる。
画像センサを実現するために、複数の画像素子が(たとえば正方形の)マトリックスアレイとして配置される。システム全体は、画像センサと後処理および記憶ユニットによって構成されている。後処理ユニットにおいて露光測定各々の結果すなわち期間が、典型的にはディジタルカウンタによってディジタル値に変換される。記憶ユニットには、ピクセルごとに1つのメモリセルが含まれている。記憶ユニットには生成されたグレー値画像が格納され、変化があったときに連続的に整合され、それらの変化はピクセルによって自律的かつ非同期に著しく高い時間分解能で検出され測定されて送信される。実際のグレー値画像を、連続的な画像記録プロセスと並行してデータ検出器から画像メモリへ読み出すことができる。
画像素子のデータは、非同期バスアービタ5,6およびパラレルデータバス7,8を介して後処理ユニットへ伝送され、このユニットにおいて個々のデータパケット(アドレスイベント)にタイムシグネーチャ time signatureが設けられる。トランジェントデタクタと露光測定部分のために、有利には別個のバスアービタ5,6とデータバス7,8を実現することができる。リクエスト信号(Req)とアクノーレッジ(Ack)信号によって、画像センサと後処理ユニットとの間における非同期の「ハンドシェーキング」プロトコルが実現される。
択一的に、イベントに対しタイムスタンプをすでにセンサにおいて割り当てることができ、データを同期バスアービタを介して伝達することができる。
次に、本発明による画像素子と画像センサの機能について説明する。ピクセルのトランジェントデテクタ1は、設定可能な閾値を上回っている相対的な輝度変化を検出し、「アドレスイベント address event」を生成する。つまりこの時点でピクセルはそのアドレス典型的には画像センサの矩形のピクセルフィールドにおけるX,Yアドレスを、後処理装置へ自動的に伝達する。同時に1つの露光測定サイクル(積分)が露光測定部においてスタートし、これは「リセットスイッチ」(フォトデテクタ回路2におけるトランジスタRst)が開かれることによってスタートする。フォトデテクタ回路2のコンデンサにおいて積分されたフォト電圧が設定可能な閾値Vrefに達したこと(これは閾値判定器3により検出される)によって表される積分の終了後、さらに別の「アドレスイベント」が生成され、記憶装置/後処理装置へ非同期で伝送される。両方の「イベント」はピクセルアドレスを有しているが、識別ビットによって区別することができる。(有利には)2つのパラレルバスアービタを使用すれば、このような区別は不要である。積分時間はフォトダイオード2aを流れる電流に間接的に比例しており、したがってピクセルの露光に比例している。積分は設定可能な閾値に到達すると終了するので、双方の「アドレスイベント」間の時間差によってピクセルの露光が符号化される。
露光測定部における非同期制御は通常動作中、論理回路4によって、トランジェントデテクタ1の「ハンドシェーク」信号Ack_Tと露光測定部の「ハンドシェーク」信号Ack_Bと閾値判定器3の出力信号によって行われる。
したがって両方のイベントタイプはイベント制御もしくはデータ制御でトリガされ、非同期バスアービタ5,6を介してディジタル後処理装置へ伝送される。相関(すなわち関連する「アドレスイベント」の識別)とTDC変換(時間/ディジタル変換time-to-digital conversion)は、設定可能な分解能によりディジタル後処理装置において行われる。2つの別個のアービタを使用することにより、イベントコリジョンにより引き起こされる非均一的なアービタレイテンシおよびその結果として生じる妨害が低減される。
閾値判定器3として、設定可能な電圧閾値を有する電圧比較器が用いられ、この場合、比較電圧は比較器の外部または内部で生成される。露光をトリガするイベント(これはたとえばトランジェントデテクタにより検出される)の時点と、閾値Vrefに到達する時点との間の時間差tintは、ピクセルエレメントの露光に対する尺度である。ここで積分時間は、フォトデテクタ回路2における積分キャパシタの大きさと、フォトダイオード2aにより引き起こされるフォト電流Iphと、積分開始時点での積分キャパシタCintにおける電圧値Vstartに依存する:
Figure 0005114493
電圧値VstartおよびVrefの時間的にランダムな偏移(電圧ノイズ)あるいは種々の画像素子におけるこれらの電圧の相違("Fixed-Pattern-Noise")によって、画像素子が同じように露光されてもそれぞれ異なる積分時間が生じる可能性がある。種々の画像素子において比較器の「オフセット」電圧がそれぞれ異なることに起因して、比較器による比較電圧Vrefの検出が不精確になることにより、さらに付加的なエラーが発生する可能性もある。積分キャパシタにおける2つの異なる電圧値VrefHとVrefLに到達する時点の時間差を求めることにより、このようなスタティックおよびダイナミックな画像ノイズに関して画像信号品質を著しく改善することができる。したがって積分時間は以下のとおりとなる:
Figure 0005114493
このようにスタート電圧のスタティックまたはダイナミックな偏移は積分時間に作用を及ぼさない。同様に、オフセット変動により引き起こされるエラーも効果的に抑圧される。
本発明の有利な実施形態によれば、画像素子の閾値判定器3に積分開始時に供給されている設定可能な上方の閾値VrefHに達したときに、画像素子のアドレスがその時点において非同期にイベント制御で後続処理装置へ伝達される。これと同時に、対応する画像素子の比較器における比較電圧が、スイッチ13の切り替えにより低い方の電圧VrefLへ切り替えられる。画像素子のアドレスは、積分キャパシタンスにおいてこの電圧に達したときにこの時点で新たに非同期にイベント制御されて後続処理装置へ伝達され、比較電圧VrefHに達した時点と比較電圧VrefLに達した時点との時間差が、画像素子の露光に対する尺度として利用される。
有利な閾値判定器(電圧比較器)として、電流低減負荷を備えた反転増幅器(M6およびM7)が後段に接続された差動増幅器(M1〜M5)を使用することができ(2段演算増幅器、図7)、この場合、フォトデテクタ回路2の積分キャパシタにおける電圧は比較器の負(−)の入力側へ供給され、比較電圧は比較器の正(+)の入力側へ供給される。負の入力側における電圧が正の入力側における電圧よりも小さければ、比較器の出力電圧はほぼ動作電圧となり、そうでなければ0Vとなる。すでに知られている2段演算増幅器がここで説明する適用事例のためにトランジスタM8によって拡張され(図7参照)、これによってフォトデタクタ回路2の積分キャパシタにおける電圧が0V以下であることによって表される回路の静止状態において、電圧比較器におけるスタティックな電流をほぼゼロまで低減することができる。差動増幅器において、これは回路の静止状態に固有に生じるものである。それというのもこの場合、電流はトランジスタM5によって遮断されるからである。その際、差動増幅器の出力側における電圧Voutdiffは0Vになり、その結果、トランジスタM8を使用しなければ増幅器の2番目の回路段において、電流低減負荷を備えたトランジスタM6と供給される電圧Vbiasとにより定まるスタティックな電流の流れが生じてしまうからである。0Vよりも大きいゲート・ソース電圧を必要とする導電性を有するトランジスタM8を加えることによって、回路のその他の機能に影響を与えることなく、差動増幅器の出力電圧が0VのときにノードVoutとトランジスタM6との間に流れる電流を遮断することができる。
本発明の有利な実施形態によれば、比較器の出力信号を適切なやり方で画像素子自体において、非同期の通信のために変換する必要がある。さらに、2つの異なる比較器電圧間の積分時間を評価する実施形態を実現する場合、比較器の基準電圧の切り替えをやはり各画像素子において別個に行う必要がある。これら両方のことは論理回路4によって実現される。
次に、2つの異なる比較器電圧間の積分時間を評価する実施形態を実現するための論理回路4について可能な機能的構造を説明する。この場合、一方の比較器閾値のみに到達するまでの積分時間の評価は特別なケースであり、これは固有に実装されている。
図6には、1つの露光サイクルに関連する信号の時間経過特性が原理的に示されている。フォトデテクタ2の積分キャパシタにおける電圧のリセットと同時に論理回路4が初期化され、キャパシタに上方の基準電圧VrefHを加えるためのスイッチ13に対する相応のスイッチング信号Refselが発せられる。画像素子の積分キャパシタにおける電圧VrefHに到達すると(これはキャパシタの出力信号Kにより検出される)、信号Req_B[H]がアクティブにされ、これは信号伝送が行われた後、アクノーレッジ信号Ack_B[H]によりリセットされる。これに伴い比較器における基準電圧が下方の基準電圧VrefLに切り替えられ、これにより信号Refselの変化が要求される。信号Refselの切り替えは、Req_B[H]をアクティブにするのと同時に行うことができ、あるいは実装されているように、アクノーレッジ信号Ack_B[H]によってトリガすることができる。画像素子の積分キャパシタにおける電圧VrefLに到達すると(これは比較器の出力信号Kにより検出される)、リクエスト信号が新たにアクティブにされる。この目的でやはり信号Req_B[H]を使用することができ、あるいは実装されているように、別個の信号Req_B[L]を使用することができる。信号伝送が行われた後、Req_B[L]はアクノーレッジ信号Ack_B[L]によってリセットされる。これによって画像記録プロセスが終了する。
画像素子における積分キャパシタのリセットと上方の基準電圧との間の積分時間を評価する場合には、下方の基準電圧が上方の基準電圧よりも高い値にセットされ、このことによりいずれにせよ評価する必要のない第2のリクエスト信号の発生が阻止される。
図5には、本発明による有利な実施形態による論理回路4の実現可能な構成がゲートレベルで示されている。ここでは組み合わせ素子のほかに2つの1ビットメモリが使用され、これによって画像素子の3つの内部状態(積分:積分キャパシタにおける上方の基準電圧にはまだ到達していない、積分:積分キャパシタの電圧は上方の基準電圧よりも低く下方の基準電圧よりも高い、画像記録なし)を、画像素子において効果的に符号化することができる。メモリの状態は信号MEM2およびMEM1によって表される。図示されている実現形態ではRst信号ならびにReq_B[H/L]信号は、必須ではないが「ロー(low)」でアクティブとなる。
各ピクセルは自律的に自身の露光時間を制御するので、結像可能な照射強度に関して著しく広いダイナミックレンジを達成することができ、高いグレー値分解能を達成可能である。達成可能な分解能はSN比もしくはダイナミックレンジに依存し、したがって信号変位ひいては積分時間ないしは最小フォト電流ならびに設定された閾値に左右されるので、(オーバレイされた同期ビデオモードにおける)画像更新レートの上昇とともにダイナミックレンジしたがってグレー値分解能が低減され、これとは逆に画像更新レートの低減とともにダイナミックレンジしたがってグレー値分解能が上昇する。閾値の整合により、画像更新レートを望ましいグレー値分解能に依存して調節することができる。
データレートはたとえば図1に対応するような単純なトランジェントセンサよりもファクタ2だけ高められるが、これに加えて既述の画像センサは高い品質と著しく高い時間分解能のグレー値画像を供給する。この場合、8bitのグレー値分解能であれば時間分解能はサブミリ秒の領域(毎秒複数キロフレームの画像センサと同等)で実現されることになると推定される。その際に生じるデータレートはシーンの出来事に左右され、トランジェントセンサを用いた経験によれば、毎秒数10イベント〜数100キロイベントの範囲で運動する(たとえば128x128ピクセルセンサであればイベントあたり16bit)。メモリに格納されている目下のグレー値画像を、適用事例に応じて著しく高い画像繰り返しレートで読み出すことができる。集積されたCMOSである「システム・オン・チップ」"System-on-Chip"の場合、画像メモリ、相関ロジックおよびTDC変換を、センサと同じシリコン基板においてダイレクトに実現することができる。
露光情報を可変の期間に変換する代わりに択一的に、慣用のCMOS APS画像センサのように定められた期間にわたり積分(測定)を行うことができ、結果として得られた電圧値を1つ(または複数の)アナログ/ディジタル変換器10によって変換して出力させることができる。図3には、本発明による画像素子のこの種の実施形態に関する回路が例示されている。
露光サイクルは、図2の実施形態の場合のように非同期でイベント制御されてトランジェントデテクタ1によりトリガされる。トランジェントデテクタ1の非同期の「ハンドシェーク」信号Ack_Tによって、(論理回路4による露光測定部)のリセット信号Rstとマルチプレクサ/サンプル&ホールド回路9ならびにアナログ/ディジタル変換器10が制御される。非同期のバスアービタ5によりピクセルフィールドにおけるピクセルのアドレッシングが制御される。
次に、この別の実施形態の動作について説明する。ピクセルのトランジェントデテクタ1は、設定可能な閾値を上回っている相対的な輝度変化を検出し、「アドレスイベント」"address event"を生成し、同時にこれによってフォトデテクタ部2における露光サイクル(積分)がスタートする。外部の制御信号(サンプル&コンバート)により規定されている積分終了後、露光測定部2の出力電圧がサンプル&ホールド回路9により捕捉され、アナログ/ディジタル変換器10により変換される。アナログ/ディジタル変換器10のグレー値データは、別個のデータバス11を介して後処理/記憶装置へ送られる。積分時間は後処理装置により外部から制御される(サンプル&コンバート)。トランジェントデテクタの「アドレスイベント」は、非同期バスアービタ5およびデータバス7を介して後処理装置へ伝送される。
これまで述べてきた画像素子およびそれによって構成された画像センサによって所定の時間後に初めて、画像素子すべてに対するグレー値を有する1つの完全な画像が供給される。その結果、自身の視野において変化を検出していないピクセルは「イベント」を生成せず、したがって画像測定も実行しない。時間情報から画像グレー値への最適な変換に対するパラメータを設定するためには、シーン全体の輝度情報を取得する必要がある。このため、任意の時点において1つの画像全体(参照フレームないしは基準フレームReferenz-Frame)を捕捉できるようにするのが有利である。TDC変換に必要とされるデータ(「オフセット」、「レンジ」)を、フレームの時間値から簡単なやり方で抽出することができる。さらにこの動作は、変化のない背景をもつシーンであれば完全な画像を迅速に取得する目的で好適である。
基本的に、参照フレームを記録するために複数のやり方が可能である。もっとも簡単なケースによれば、ピクセルフィールド全体が外部から励起され、それによってすべてのピクセルにおける積分が同時に開始される。最も強い照射強度を認識したピクセルは最初のイベントとして送信を行い、残りのピクセルがそれらの露光の順序で続く("Time-to-first-Spike"コンセプト)。このコンセプトについてはたとえば、Chen S.; Bermak, Aによる"A low power CMOS imager based on time-to-first-spike encoding and fair AER," Circuits and Systems, 2005. ISCAS 2005. IEEE International Symposium, p.5306- 5309 Vol. 5, 23-26 May 2005, Chen S.; Bermak, Aによる"A Second Generation Time-to-First-Spike Pixel with Asynchronous SeIf Power-off," Circuits and Systems, 2006. ISCAS 2006. Proceedings. 2006 IEEE International Symposium p.2289- 2292, 21-24 May 2006, Qiang Luo; Harris, J.G.による"A time-based CMOS image sensor," Circuits and Systems, 2004. ISCAS '04. Proceedings of the 2004 International Symposium, vol.4, IV-840-3 Vol.4, 23-26 May 2004, Q. Luo, J.G. Harrisによる"A Time-Based CMOS Image Sensor", IEEE International Symposium on Circuits And Systems ISCAS04, 2004, Xin Qi; Xiaochuan Guo; Harris, J.Gによる"A time-to-first spike CMOS imager," Circuits and Systems, 2004. ISCAS '04. Proceedings of the 2004 International Symposium, vol.4, IV824-7 Vol.4, 23-26 May 2004あるいは US 6,660,989に記載されている。
画一的なシーンまたはシーン領域の場合、多数のピクセルが同時に閾値に到達し、対応する「アドレスイベント」を送出する。その結果、バスアービタのところでデータコリジョンが起こり、さらにこれによって種々のアービタレイテンシが発生し、外部からの励起の時点と対応する露光測定「イベント」との時間差においてエラーが生じる。その結果として生じるのが結合エラーである。
このような既知の欠点を回避する目的で、もしくはそれらを低減する目的で本発明によれば、フォトダイオードおよび並列に接続されたキャパシタの積分過程スタート(以下では「リセット」と称する)のための様々な可能性が実装される(図4参照)。リセット発生は回路技術的にはリセット回路において実現され、これは図8に示されている。
本発明の重要な特徴は既述のとおり、通常動作中、画像素子における露光測定の開始が同じ画像素子におけるトランジェントデテクタのイベントによりトリガされることである。
さらに本発明の重要な特徴は、リセット回路14が行列ごとにのみ実装されていることであり、これによりピクセルごとの実装とは異なり複雑さないしはコストと面積が著しく低減されることになる。リセット回路14は有利には行と列とで同一であり、それぞれトランジェントデテクタ1をリセットするためのリセット信号Rst_T(0〜Z)と、個々の行もしくは列の露光測定部12をリセットするためのリセット信号Rst_B(0〜Z)を発生する。この場合、1つの特定のピクセルのリセットは、そのピクセル自体における個々の行と列のRst_T信号もしくはRst_Bの論理結合により行われる。選択的に、リセット回路をじかに各ピクセルにおいて実現することもできる。
さらに本発明の重要な特徴は、リセットが選択されたピクセルに制限されることである。その際、この選択はROI信号により行われ、この信号によってたとえばロード機能を備えたシフトレジスタチェーンが制御される。シリアルでクロック制御されるデータによって、特定の行もしくは列がアクティブ状態ないしは非アクティブ状態にされる。特定の行と列の組み合わせから、センサにおける特定のピクセルがアクティブ状態もしくは非アクティブ状態にされる。この実施形態によれば任意の領域を選択することができ、この場合、1つの領域内で特定のパターンを実現することができる(たとえばピクセルを1つおきにしかアクティブ状態にしない等)。適切な拡張もしくは整合を行うことにより、それ以外のパターンも想定できる。以下ではこのパターンをROI(Region of Interest関心領域)と称する。選択的に、ROIにより選択されたパターンを反転させ、領域を非アクティブ状態にしてRONI(Region of Non-Interest非関心領域)を実現することができる。
本発明のさらに別の重要な特徴は、上述のパターンを選択的にトランジェントデテクタ1のリセットのために、および/または露光測定部12のリセットのために利用できることである。このようにすることによって、以下で説明するリセットモード信号RstModeとの組み合わせで、多種多様な適用事例に用いることのできる数多くの可能性が得られるようになる。
個々のリセットモードの選択は、1つまたは複数の制御信号RstModeにより実行される。以下では、種々のリセットモードもしくは動作モードについて言及する:
通常動作モード
通常動作モード中、ピクセルの露光測定のリセットは同じピクセルにおけるトランジェントデテクタ1によってトリガされる。いっそう効率的な、すなわちいっそう小さい実現形態を達成する目的で、既述のように行ごとおよび列ごとに生成されるリセット信号の結合を介した「迂回」が選択される。選択的に、トランジェントデテクタ1のイベントが発生した後の露光測定リセットのトリガをランダムに遅延させることができ、これによって多数のトランジェントデテクタが同時にイベントを発生させたときにバスアービタにおけるデータコリジョンを回避することができる。本発明によれば有利には、露光測定のリセットは同じピクセルの行もしくは列におけるトランジェントデテクタ1のアクノーレッジ信号Ack_Tによりトリガされ、これはアービタ_T5により生成される。これによってデータコリジョンがすでにアービタ_T5により捕捉される。ただし、これとは別のストラテジも可能である。
自律モード
自律モードの場合、露光測定はトランジェントデテクタ1とは無関係に動作し、たとえば参照フレームの取得などのために、あとで述べるようにグローバルなリセットによって露光測定をアクティブにすることができる。
シーケンシャルモード
シーケンシャルモードを使用する目的は、自律モードにおいてたとえば画一的なシーン(領域)において発生する可能性のあるアービタコリジョンを低減し、それにもかかわらず比較的高速に、捕捉されたシーンの完全な画像を得るためである。シーケンシャルモードの場合、あるピクセルにおける露光測定のリセットは、先行する列のピクセルにおける露光測定の終了によってトリガされる。これはアービタ_B6のAck_B(N−1)信号の使用により達成される。つまり後続の列におけるピクセルの露光測定の開始は、シーンの変化には依存しない。あとで説明するように、たとえばピクセルフィールドの第1の列全体の露光測定が手動で励起されると、それによってすべての行における露光測定のシーケンシャルなトリガが引き起こされ、その際、個々の行におけるピクセルの露光測定が互いに無関係にトリガされ、これは先行する列におけるピクセルの露光測定にのみ依存している。先行のピクセルにおける露光測定の終了をシグナリングするAck_B(N−1)を使用することにより遅延は先行のピクセルの露光に依存することになり、このことから非画一的な遅延が発生し、したがって均等なアービタ負荷が生じることになる。オプションとして可能であるのは、あるピクセルの露光測定の開始を、先行のピクセルの露光測定開始とともに調節可能な所定の遅延時間後にトリガすることである。行と列を入れ替えても内容的には同じ結果が得られる。
ランダムモード
ランダムモードの場合、以下の作用が利用される。すなわち、それ相応に仕様選定されたコンポーネントあるいは構造をチップ上にいくつも同じように実装させた場合、製造プロセスにおける公差によって定まるパラメータたとえば電流または電圧は、種々の実装においてスタティックなばらつきを有する。本発明の有利な実施形態によれば、C1,C2と増幅器A2の入力側とのノード点において種々のピクセル間でばらつきのある電流を形成する目的で、小さいサイズに選定されたトランジェントデテクタ1の「リセット」スイッチ(トランジスタ)における漏れ電流のばらつきが利用される。この場合、リセットトランジスタの漏れ電流のサイズは、そのバルク電位の作用を受ける可能性がある。この電流によりトランジェントデテクタのイベントが生成され、それらのイベントの発生はピクセルごとにランダムであり、それらのレートをバルク電位によって制御することができる。トランジェントデテクタのイベントによって、やはり通常動作モード中のように露光測定がトリガされる。したがって捕捉されたシーンにおける個々の画素は設定可能なレートでランダムに更新される。
上述の動作モードの選択に依存することなく、特定のピクセル(ROI)の選択のために露光測定をトリガすることができ、ないしは特定のピクセル(RONI)を非アクティブ状態にすることができる。これによって以下の可能性が得られる:
露光測定のグローバルなリセット:ROIにより選択されたピクセルの場合、露光測定はGlobalRst信号(グローバルリセット信号)におけるパルスによって同時に開始される。これによってROI全体に関してきわめて高速に画像が供給されるが、アービタにおいてデータコリジョンが発生する可能性がある。
本発明の重要な特徴によれば、捕捉された画像またはその一部を要求に応じて更新する目的で、通常動作モード中にグローバルリセットを使用することができる。
シーケンシャルモード中、たとえば第1の行のグローバルリセットのトリガにより、シーン全体のシーケンシャルな捕捉が既述のようにして開始される。
トランジェントデテクタの非アクティブ状態への移行:ROIにより選択されたピクセルのトランジェントデテクタは、TransRst信号をアクティブにすることにより持続リセットに保持される。これによって、選択されたトランジェントデテクタはもはやイベントを供給しなくなる。通常動作モード中の露光測定はトランジェントデテクタによりトリガされるので、捕捉された画像領域をこのようにして制限することができ、ないしはセンサの一部分を非アクティブ状態にすることができる。これによりたとえば行センサモードないしはラインセンサモードが可能となる。

Claims (31)

  1. 画像素子により電子形式でシーンのイメージを生成する方法において、
    1つの自律的な画像素子における露光測定が、該画像素子により観察されるシーンセクションにおける輝度変化の自動的な非同期の検出イベントを介して、同じ画像素子の一部分によって励起され、
    前記露光測定の結果が画像素子のアドレスとともに記憶装置および/または後続処理装置へ非同期で伝達されることを特徴とする方法。
  2. 前記露光測定の終了は、画像素子において露光に依存する物理的な量が設定可能な閾値に達することにより決定され、該時点において画像素子のアドレスが後続処理装置へ伝達され、前記露光測定をトリガするイベントの時点と前記閾値への到達時点との時間差が、画像素子の露光に対する尺度として用いられる、請求項1記載の方法。
  3. 積分開始時点に第1の電圧値に達した後、前記画像素子のアドレスが伝達され、同じ画像素子において第2の電圧値に達すると、該画像素子のアドレスが新たに伝達され、前記双方の異なる電圧値に到達した時点の時間差が、前記画像素子の露光に対する尺度として用いられる、請求項1記載の方法。
  4. 輝度変化の検出と露光測定に関する情報がパラレルに互いに無関係に伝達される、請求項1から3のいずれか1項記載の方法。
  5. 画像素子における露光測定は該画像素子における輝度変化により開始され、該輝度変化の発生は後続処理装置への画像素子のアドレス伝達により付加的にシグナリングされる、請求項1から4のいずれか1項記載の方法。
  6. 画像素子に生じた電圧値が所定の期間にわたる積分後に求められ、画像素子露光に対する尺度として使用され、後続処理装置へ伝達される、請求項1記載の方法。
  7. 画像素子のグループに対する露光測定の開始は共通に許可または阻止される、請求項1から6のいずれか1項記載の方法。
  8. 画像素子のグループに対する輝度変化の検出は共通に許可または阻止される、請求項1から7のいずれか1項記載の方法。
  9. 少なくとも1つの画像素子における参照露光測定は、少なくとも1つの任意の時点で外部から開始される、請求項1から8のいずれか1項記載の方法。
  10. 画像素子のランダム励起およびこれに伴う露光測定の開始が行われる、請求項9記載の方法。
  11. 複数の画像素子における複数の行有利にはすべての平行な行における露光測定が、該行の最初の画像素子においてそれぞれ実質的に同時に開始され、1つの画像素子における露光測定の積分が終了すると、同じ行のそれぞれ次の画像素子において露光測定が開始される、請求項9記載の方法。
  12. 任意に設定可能なパターン有利には関連する領域に従って配置されている画像素子において実質的に同時に露光測定が開始される、請求項9記載の方法。
  13. 参照露光測定は、画像センサの画像素子による輝度変化の検出と同時に、および該検出には依存せずに行われる、請求項9から12のいずれか1項記載の方法。
  14. 画像素子に対する露光測定の外部からの開始が、該画像素子を含む列と行全体をそれぞれアクティブにし、該アクティブを行う信号のAND結合により行われる、請求項1から13のいずれか1項記載の方法。
  15. 画像を生成する画像センサのための画像素子において、
    露光測定装置と、露光測定結果と画像素子アドレスを非同期でイベント制御により評価回路へ伝達する回路(4)と、前記評価回路と接続されている輝度変化検出回路(1)が設けられており、
    前記輝度変化検出回路(1)は輝度変化を検出すると、前記露光測定装置(2,3)と、露光測定結果およびアドレスを非同期でイベント制御により伝達する前記回路(4)を始動させる信号を送出することを特徴とする、
    画像を生成するための画像センサのための画像素子。
  16. 前記輝度変化検出回路(1)から前記露光測定装置(2,3)および露光測定結果と画像素子アドレスを非同期でイベント制御により伝達する前記回路(4)への信号ラインは分離可能であり、前記露光測定装置(2,3)と前記非同期でイベント制御により伝達する回路(4)を始動させる外部の制御ラインが設けられている、請求項15記載の画像素子。
  17. 前記露光測定装置(2,3)は閾値判定器(3)を備えた積分回路を有しており、該露光測定装置(2,3)は、露光測定結果および画像素子アドレスを非同期でイベント制御により伝達する回路(4)とともに1つの回路(12)にまとめられている、請求項15または16記載の画像素子。
  18. 閾値判定器(3)として2段型の演算増幅器が用いられ、付加的なトランジスタ(M8)により回路の静止状態において、スタティックな電流つまりは前記閾値判定器における電力消費がほぼゼロまで低減される、請求項17記載の画像素子。
  19. 前記閾値判定器(3)のための比較電圧を積分過程中、設定可能な2つの別個の値の間で切り替え可能であり、それぞれ供給すべき比較電圧の選択および切替時点の決定は、露光測定結果と画像素子アドレスを非同期でイベント制御により伝達する回路(4)により自動的に画像素子において行われる、請求項17または18記載の画像素子。
  20. 互いに独立した2つのパラレルなバスアービタ(5,6)が設けられており、該2つのアービタを介して互いに別個に、前記輝度変化検出回路(1)と前記露光測定回路(12)が前記評価回路と接続されている、請求項15から19のいずれか1項記載の画像素子。
  21. 前記露光測定回路(2)は、設定可能な積分時間をもつ積分回路を有しており、結果として生じた電圧値のためのアナログ/ディジタル変換器(10)と接続されている、請求項15から20のいずれか1項記載の画像素子。
  22. 前記アナログ/ディジタル変換器(10)は、輝度変化の検出の伝送とは別個のデータバス(11)を介して前記評価回路と接続されている、請求項21記載の画像素子。
  23. 前記輝度変化検出回路(1)は、信号を前処理し有利にはアドレスイベントプロトコルにより非同期伝送を行うアナログ回路を備えたトランジェントデテクタを有している、請求項15から22のいずれか1項記載の画像素子。
  24. 複数の画像素子を備え電子形式で画像を生成する画像センサにおいて、
    前記画像素子は請求項15から23のいずれか1項記載の画像素子に従って構成されていることを特徴とする画像センサ。
  25. 露光測定のために前記画像素子を強制的に励起する励起回路(14)が設けられている、請求項24記載の画像センサ。
  26. 前記画像素子は行形式で配置されており、前記励起回路(14)は各行におけるそれぞれ第1の画像素子を実質的に同時に強制的に励起し、各画像素子における露光測定の終了を伝達し、同じ行におけるそれぞれ次の画像素子を強制的に励起する、請求項24または25記載の画像センサ。
  27. 輝度変化検出回路における漏れ電流を調節する回路が設けられている、請求項24、25または26記載の画像センサ。
  28. 複数の画像素子から成るグループのための露光測定回路(12)を実質的に同時に強制的に励起するための回路が設けられており、前記複数の画像素子から成るグループはまえもって設定可能な任意のパターン有利には関連する領域に従い配置されている、請求項24から27のいずれか1項記載の画像センサ。
  29. 複数の画像素子から成る行全体または列全体に対する露光測定回路(12)のためにそれぞれ1つのリセット論理回路が設けられており、前記画像素子自体において2つのリセット論理回路の信号のAND論理結合が行われる、請求項24から28のいずれか1項記載の画像センサ。
  30. それぞれ少なくとも1つの行および/または少なくとも1つの列に対し、該行および/または列の露光測定回路(12)のアクティブ状態または非アクティブ状態への移行が、ロード機能を有する書き込みレジスタチェーンを介して共通に行われる、請求項24から29のいずれか1項記載の画像センサ。
  31. それぞれ少なくとも1つの行および/または少なくとも1つの列に対し、該行および/または列の輝度変化検出回路(1)および画像素子アドレスを非同期でイベント制御により評価回路へ伝達する回路のアクティブ状態または非アクティブ状態への移行が、ロード機能を有する書き込みレジスタチェーンを介して共通に行われる、請求項24から30のいずれか1項記載の画像センサ。
JP2009537440A 2006-11-23 2007-11-22 電子形式の画像を生成する方法、画像生成用画像センサのための画像素子ならびに画像センサ Active JP5114493B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
AT0194006A AT504582B1 (de) 2006-11-23 2006-11-23 Verfahren zur generierung eines bildes in elektronischer form, bildelement für einen bildsensor zur generierung eines bildes sowie bildsensor
ATA1940/2006 2006-11-23
PCT/AT2007/000526 WO2008061268A1 (de) 2006-11-23 2007-11-22 Verfahren zur generierung eines bildes in elektronischer form, bildelement für einen bildsensor zur generierung eines bildes sowie bildsensor

Publications (2)

Publication Number Publication Date
JP2010510732A JP2010510732A (ja) 2010-04-02
JP5114493B2 true JP5114493B2 (ja) 2013-01-09

Family

ID=39047935

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009537440A Active JP5114493B2 (ja) 2006-11-23 2007-11-22 電子形式の画像を生成する方法、画像生成用画像センサのための画像素子ならびに画像センサ

Country Status (7)

Country Link
US (1) US8780240B2 (ja)
EP (1) EP2098062B1 (ja)
JP (1) JP5114493B2 (ja)
AT (1) AT504582B1 (ja)
DK (1) DK2098062T3 (ja)
ES (1) ES2621194T3 (ja)
WO (1) WO2008061268A1 (ja)

Families Citing this family (113)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AT507543B1 (de) * 2008-10-28 2010-11-15 Arc Austrian Res Centers Gmbh Verfahren und vorrichtung zur aufnahme von bildern
AT507531B1 (de) * 2008-10-31 2011-02-15 Arc Austrian Res Centers Gmbh Verfahren zum zählen von objekten
FR2975251B1 (fr) 2011-05-12 2015-12-04 Univ Pierre Et Marie Curie Paris 6 Procede et dispositif de commande d'un dispositif d'aide a la vision
ES2396816B1 (es) 2011-05-26 2014-01-21 Consejo Superior De Investigaciones Científcas (Csic) Circuito de ganancia de transimpedancia de bajo consumo y bajo desapareamiento para sistemas de fotosensado diferenciador temporal en sensores dinámicos de visión
US9200954B2 (en) 2011-11-07 2015-12-01 The Johns Hopkins University Flexible readout and signal processing in a computational sensor array
FR2983998B1 (fr) * 2011-12-08 2016-02-26 Univ Pierre Et Marie Curie Paris 6 Procede de reconstruction 3d d'une scene faisant appel a des capteurs asynchrones
US9631974B2 (en) 2011-12-19 2017-04-25 Universität Zürich Photoarray, particularly for combining sampled brightness sensing with asynchronous detection of time-dependent image data
EP2672386A3 (en) * 2012-06-08 2016-07-20 Samsung Electronics Co., Ltd Apparatus and method for processing asynchronous event information
KR101887988B1 (ko) * 2012-07-03 2018-08-14 삼성전자 주식회사 이미지 센서 칩, 이의 동작 방법, 및 이를 포함하는 시스템
KR101896666B1 (ko) * 2012-07-05 2018-09-07 삼성전자주식회사 이미지 센서 칩, 이의 동작 방법, 및 이를 포함하는 시스템
US8767098B2 (en) * 2012-08-30 2014-07-01 Omnivision Technologies, Inc. Method and apparatus for reducing noise in analog image data of a CMOS image sensor
JP5990080B2 (ja) * 2012-10-05 2016-09-07 キヤノン株式会社 撮像システム、および撮像システムの駆動方法
WO2014174498A1 (en) * 2013-04-26 2014-10-30 Ecole Polytechnique Federale De Lausanne (Epfl) A novel cmos image sensor with event/change detection and reduced data redundancy
KR102081087B1 (ko) 2013-06-17 2020-02-25 삼성전자주식회사 동기적 영상과 비동기적 영상을 위한 영상 정합 장치 및 이미지 센서
JP6415572B2 (ja) 2013-09-16 2018-10-31 クロノカム 動的な、単一光ダイオードの画素回路およびその作動方法
US10147024B2 (en) * 2014-09-16 2018-12-04 Qualcomm Incorporated Interfacing an event based system with a frame based processing system
US9967500B2 (en) * 2014-09-29 2018-05-08 Samsung Electronics Co., Ltd. Systems and methods of selective output for reducing power
US20170132466A1 (en) 2014-09-30 2017-05-11 Qualcomm Incorporated Low-power iris scan initialization
US10515284B2 (en) 2014-09-30 2019-12-24 Qualcomm Incorporated Single-processor computer vision hardware control and application execution
US20160093273A1 (en) * 2014-09-30 2016-03-31 Samsung Electronics Co., Ltd. Dynamic vision sensor with shared pixels and time division multiplexing for higher spatial resolution and better linear separable data
US9762834B2 (en) 2014-09-30 2017-09-12 Qualcomm Incorporated Configurable hardware for computing computer vision features
US9940533B2 (en) 2014-09-30 2018-04-10 Qualcomm Incorporated Scanning window for isolating pixel values in hardware for computer vision operations
US9923004B2 (en) 2014-09-30 2018-03-20 Qualcomm Incorporated Hardware acceleration of computer vision feature detection
US9838635B2 (en) 2014-09-30 2017-12-05 Qualcomm Incorporated Feature computation in a sensor element array
US10728450B2 (en) 2014-09-30 2020-07-28 Qualcomm Incorporated Event based computer vision computation
US9986179B2 (en) 2014-09-30 2018-05-29 Qualcomm Incorporated Sensor architecture using frame-based and event-based hybrid scheme
US9554100B2 (en) 2014-09-30 2017-01-24 Qualcomm Incorporated Low-power always-on face detection, tracking, recognition and/or analysis using events-based vision sensor
KR102426677B1 (ko) 2015-03-09 2022-07-28 삼성전자주식회사 오프셋 및 잡음이 감소되는 차분 증폭기 및 이벤트에 기반한 비전 센서
KR101627456B1 (ko) * 2015-03-16 2016-06-07 성균관대학교산학협력단 그래픽 사용자 인터페이스 품질 개선방법 및 그 방법을 수행하는 프로그램이 저장된 기록매체
US9704056B2 (en) 2015-04-02 2017-07-11 Qualcomm Incorporated Computing hierarchical computations for computer vision calculations
FR3035759A1 (fr) * 2015-04-28 2016-11-04 Commissariat Energie Atomique Capteur d'images a codage temporel
JP6440844B2 (ja) * 2015-07-14 2018-12-19 オリンパス株式会社 固体撮像装置
WO2017013806A1 (ja) * 2015-07-23 2017-01-26 オリンパス株式会社 固体撮像装置
KR102421141B1 (ko) 2015-10-30 2022-07-14 삼성전자주식회사 이벤트 신호 및 영상의 저장 방법 및 저장 장치, 저장 장치로 이벤트 신호를 전송하는 비전 센서의 동작 방법
KR102381862B1 (ko) 2015-12-10 2022-04-01 삼성전자주식회사 데이터 통신 장치
US10198660B2 (en) * 2016-01-27 2019-02-05 Samsung Electronics Co. Ltd. Method and apparatus for event sampling of dynamic vision sensor on image formation
US9934557B2 (en) 2016-03-22 2018-04-03 Samsung Electronics Co., Ltd Method and apparatus of image representation and processing for dynamic vision sensor
US10129495B2 (en) 2016-03-25 2018-11-13 Qualcomm Incorporated Apparatus and method for generating local binary patterns (LBPS)
JP6943875B2 (ja) * 2016-04-04 2021-10-06 プロフジー サンプルホールドに基づく時間コントラスト視覚センサ
GB201609875D0 (en) 2016-06-06 2016-07-20 Microsoft Technology Licensing Llc A display on a stretchable substrate
EP3267678B1 (en) * 2016-07-08 2022-10-05 OmniVision Sensor Solution (Shanghai) Co., Ltd Pixel acquisition circuit, image sensor and image acquisition system
EP3516873A1 (en) * 2016-09-19 2019-07-31 InterDigital VC Holdings, Inc. A method and a device for reconstructing a point cloud representative of a scene using light-field data
FR3057428A1 (fr) 2016-10-11 2018-04-13 Commissariat A L'energie Atomique Et Aux Energies Alternatives Dispositif electronique d'analyse d'une scene
DE102016222995B3 (de) 2016-11-22 2018-03-01 Robert Bosch Gmbh Verfahren und Vorrichtung zum Auslesen und/oder Betreiben eines Lichtsensors
US10614332B2 (en) 2016-12-16 2020-04-07 Qualcomm Incorportaed Light source modulation for iris size adjustment
US10984235B2 (en) 2016-12-16 2021-04-20 Qualcomm Incorporated Low power data generation for iris-related detection and authentication
US10133944B2 (en) * 2016-12-21 2018-11-20 Volkswagen Ag Digital neuromorphic (NM) sensor array, detector, engine and methodologies
US10282615B2 (en) 2016-12-21 2019-05-07 Volkswagen Ag System and method for root association in image data
US10789495B2 (en) 2016-12-21 2020-09-29 Volkswagen Ag System and method for 1D root association providing sparsity guarantee in image data
US10229341B2 (en) * 2016-12-21 2019-03-12 Volkswagen Ag Vector engine and methodologies using digital neuromorphic (NM) data
US10235565B2 (en) 2016-12-21 2019-03-19 Volkswagen Ag System and methodologies for occupant monitoring utilizing digital neuromorphic (NM) data and fovea tracking
EP3563564B1 (en) * 2016-12-30 2021-12-15 Sony Advanced Visual Sensing AG Dynamic vision sensor architecture
US10154207B2 (en) 2017-02-07 2018-12-11 Sensors Unlimited, Inc. Event-triggered imaging pixels
US10348994B2 (en) 2017-04-06 2019-07-09 Samsung Electronics Co., Ltd. Intensity image acquisition from dynamic vision sensors
FR3065133B1 (fr) * 2017-04-07 2019-06-21 Commissariat A L'energie Atomique Et Aux Energies Alternatives Capteur matriciel a codage temporel sans arbitrage
US10237481B2 (en) * 2017-04-18 2019-03-19 Facebook Technologies, Llc Event camera for generation of event-based images
US10628699B2 (en) 2017-06-13 2020-04-21 Samsung Electronics Co., Ltd. Event-based image feature extraction
JP7108471B2 (ja) * 2017-07-06 2022-07-28 キヤノン株式会社 固体撮像素子、撮像装置及び撮像方法
US11317045B2 (en) * 2017-12-11 2022-04-26 Prophesee Event-based image sensor and operating method thereof
TWI820078B (zh) * 2018-01-23 2023-11-01 日商索尼半導體解決方案公司 固體攝像元件
WO2019175734A1 (en) * 2018-03-14 2019-09-19 Insightness Ag Event-based vision sensor with direct memory control
TW202406328A (zh) 2018-03-15 2024-02-01 日商尼康股份有限公司 感測器以及具備其之攝像裝置
CN112005543A (zh) * 2018-04-30 2020-11-27 普罗菲斯公司 用于异步基于时间的图像感测的系统和方法
KR20230173210A (ko) 2018-06-27 2023-12-26 프로페시 복수의 슈퍼-픽셀(super-pixel)들을 포함하는 이미지 센서
EP3595295B1 (en) 2018-07-11 2024-04-17 IniVation AG Array of cells for detecting time-dependent image data
CN108988803A (zh) * 2018-07-13 2018-12-11 厦门芯豪科技有限公司 一种带反馈的光接收前端电路
CN112534816B (zh) * 2018-08-14 2024-04-26 华为技术有限公司 用于视频图像编码的编码参数的基于事件自适应
US10909824B2 (en) * 2018-08-14 2021-02-02 Samsung Electronics Co., Ltd. System and method for pulsed light pattern capturing using a dynamic vision sensor
US11140349B2 (en) 2018-09-07 2021-10-05 Samsung Electronics Co., Ltd. Image sensor incuding CMOS image sensor pixel and dynamic vision sensor pixel
US10630917B1 (en) * 2018-09-28 2020-04-21 Massachusetts Institute Of Technology Apparatus and methods for all-CMOS compressive sensing
WO2020067410A1 (ja) * 2018-09-28 2020-04-02 ソニーセミコンダクタソリューションズ株式会社 データ処理装置、データ処理方法、及び、プログラム
JP2020072316A (ja) 2018-10-30 2020-05-07 ソニーセミコンダクタソリューションズ株式会社 電子回路、固体撮像素子、および、電子回路の制御方法
US20200169681A1 (en) * 2018-11-26 2020-05-28 Bae Systems Information And Electronic Systems Integration Inc. Ctia based pixel for simultaneous synchronous frame-based & asynchronous event-driven readouts
US10827135B2 (en) 2018-11-26 2020-11-03 Bae Systems Information And Electronic Systems Integration Inc. BDI based pixel for synchronous frame-based and asynchronous event-driven readouts
JP2020088724A (ja) * 2018-11-29 2020-06-04 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
JP2022028982A (ja) * 2018-12-05 2022-02-17 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置、信号処理チップ、および、電子機器
US11089191B2 (en) * 2018-12-18 2021-08-10 Sony Semiconductor Solutions Corporation Image sensor, recording apparatus, and reset method
CN109842768B (zh) * 2019-01-29 2020-05-15 上海芯仑光电科技有限公司 一种像素采集电路及图像传感器
EP3694202A1 (en) 2019-02-11 2020-08-12 Prophesee Method of processing a series of events received asynchronously from an array of pixels of an event-based light sensor
JP2020136811A (ja) * 2019-02-15 2020-08-31 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置及び撮像装置
JP2020136958A (ja) * 2019-02-21 2020-08-31 ソニーセミコンダクタソリューションズ株式会社 イベント信号検出センサ及び制御方法
KR20210127950A (ko) 2019-02-22 2021-10-25 프로페시 동적 비전 센서 및 패턴 투사를 사용하는 3차원 이미징 및 감지
US12000692B2 (en) 2019-02-22 2024-06-04 Prophesee Three-dimensional imaging and sensing using a dynamic vision sensor and pattern projection
JP2020161992A (ja) 2019-03-27 2020-10-01 ソニーセミコンダクタソリューションズ株式会社 撮像システム及び物体認識システム
CN109842404A (zh) * 2019-04-01 2019-06-04 重庆鲁班机器人技术研究院有限公司 动态有源像素视觉传感器
JP7298277B2 (ja) 2019-04-25 2023-06-27 トヨタ自動車株式会社 イベントカメラ
CN113412413A (zh) 2019-04-25 2021-09-17 普罗费塞公司 用于对振动进行成像和感测的系统和方法
EP3731516B1 (en) * 2019-04-25 2024-05-29 Beijing RuisiZhixin Technology Co., Ltd. Delta vision sensor
WO2021001760A1 (en) * 2019-07-01 2021-01-07 Sony Advanced Visual Sensing Ag Dynamic region of interest (roi) for event-based vision sensors
CN112311964B (zh) 2019-07-26 2022-06-07 华为技术有限公司 一种像素采集电路、动态视觉传感器以及图像采集设备
JP7120180B2 (ja) * 2019-08-07 2022-08-17 トヨタ自動車株式会社 イメージセンサ
US10922824B1 (en) 2019-08-13 2021-02-16 Volkswagen Ag Object tracking using contour filters and scalers
US11664471B2 (en) * 2019-10-24 2023-05-30 Trieye Ltd. Systems, methods, and computer program products for image generation
CN112738432B (zh) * 2019-10-28 2022-06-21 天津大学青岛海洋技术研究院 一种事件阈值自适应型动态视觉传感器
CN111107287B (zh) * 2019-11-29 2021-06-04 豪威芯仑传感器(上海)有限公司 一种像素采集电路及图像传感器
EP4104431A1 (en) * 2020-02-14 2022-12-21 Prophesee Readout of events from an array of an event-based image sensor and pixel circuit
EP3879816B1 (en) * 2020-03-11 2024-02-28 Prophesee Event filtering method for operating an event-based image sensor
US20230123651A1 (en) * 2020-03-20 2023-04-20 Egis Technology Inc. Image sensing device
WO2021198498A1 (en) 2020-04-02 2021-10-07 Prophesee Pixel circuit and method for vision sensor
US11240454B2 (en) 2020-04-29 2022-02-01 Omnivision Technologies, Inc. Hybrid CMOS image sensor with event driven sensing
EP3930312B8 (en) * 2020-06-26 2023-10-25 Alpsentek GmbH Delta image sensor with digital pixel storage
ES2947688T3 (es) 2020-08-14 2023-08-16 Alpsentek Gmbh Sensor de imágenes con circuito de píxeles configurable y método
US11430828B2 (en) * 2020-12-17 2022-08-30 Omnivision Technologies, Inc. Event driven pixel for spatial information extraction
EP4278254B1 (en) 2021-01-14 2024-06-05 Prophesee Digital event encoding for operating an event-based image sensor
US11516419B2 (en) 2021-01-22 2022-11-29 Omnivision Technologies, Inc. Digital time stamping design for event driven pixel
TWI813943B (zh) * 2021-02-04 2023-09-01 神盾股份有限公司 影像感測器晶片及其感測方法
WO2023011091A1 (en) * 2021-08-03 2023-02-09 Congying Sui An imaging method and system based on wise-pixels with valved modulation
CN117957853A (zh) * 2021-09-16 2024-04-30 华为技术有限公司 用于在基于帧的图像读出的消隐时间内获取基于事件的图像的方法和基于事件的视觉传感器
CN114222034B (zh) * 2022-01-08 2022-08-30 西安电子科技大学 实现事件与灰度值同步输出的动态视觉传感器像素电路
CN114500868B (zh) * 2022-04-18 2022-07-12 深圳锐视智芯科技有限公司 一种evs像素工作方法及相关装置
US11729534B1 (en) 2022-07-27 2023-08-15 Omnivision Technologies, Inc. Low power event driven pixels with passive difference detection circuitry, and reset control circuits for the same
US11991465B2 (en) 2022-07-27 2024-05-21 Omnivision Technologies, Inc. Low power event driven pixels with passive, differential difference detection circuitry, and reset control circuits for the same
EP4387259A1 (en) 2022-12-13 2024-06-19 Prophesee Row selector for event readout

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5565915A (en) 1993-06-15 1996-10-15 Matsushita Electric Industrial Co., Ltd. Solid-state image taking apparatus including photodiode and circuit for converting output signal of the photodiode into signal which varies with time at variation rate depending on intensity of light applied to the photodiode
JP3022166B2 (ja) * 1993-06-15 2000-03-15 松下電器産業株式会社 固体撮像素子
JP2953297B2 (ja) 1994-03-30 1999-09-27 日本電気株式会社 受光素子およびその駆動方法
US5648660A (en) * 1996-01-05 1997-07-15 Sterling Diagnostic Imaging, Inc. Method and apparatus for reducing noise in a radiation capture device
US6253161B1 (en) 1997-07-10 2001-06-26 Universite Laval Integrated motion vision sensor
US6587145B1 (en) 1998-08-20 2003-07-01 Syscan Technology (Shenzhen) Co., Ltd. Image sensors generating digital signals from light integration processes
US6580454B1 (en) * 1998-11-18 2003-06-17 Agilent Technologies, Inc. CMOS active pixel sensor having in-pixel local exposure control
US6069377A (en) 1999-05-13 2000-05-30 Eastman Kodak Company Image sensor incorporating saturation time measurement to increase dynamic range
US6642503B2 (en) 2001-06-13 2003-11-04 Texas Instruments Incorporated Time domain sensing technique and system architecture for image sensor
US6660989B2 (en) * 2001-07-11 2003-12-09 Texas Instruments Incorporated CMOS imager having asynchronous pixel readout in order of pixel illumination
JP3965049B2 (ja) * 2001-12-21 2007-08-22 浜松ホトニクス株式会社 撮像装置
US7105793B2 (en) * 2003-07-02 2006-09-12 Micron Technology, Inc. CMOS pixels for ALC and CDS and methods of forming the same
WO2006073875A2 (en) * 2005-01-06 2006-07-13 Recon/Optical, Inc. Cmos active pixel sensor with improved dynamic range and method of operation, method for identifying moving objects and hybrid array with ir detector
US7518645B2 (en) 2005-01-06 2009-04-14 Goodrich Corp. CMOS active pixel sensor with improved dynamic range and method of operation
EP1958433B1 (en) 2005-06-03 2018-06-27 Universität Zürich Photoarray for detecting time-dependent image data
JP2007166581A (ja) * 2005-11-16 2007-06-28 Matsushita Electric Ind Co Ltd 高速撮影用固体撮像装置
JP4825116B2 (ja) * 2006-11-22 2011-11-30 浜松ホトニクス株式会社 固体撮像装置及び撮像方法

Also Published As

Publication number Publication date
US8780240B2 (en) 2014-07-15
WO2008061268A1 (de) 2008-05-29
EP2098062B1 (de) 2017-01-04
ES2621194T3 (es) 2017-07-03
EP2098062A1 (de) 2009-09-09
DK2098062T3 (en) 2017-04-24
AT504582A1 (de) 2008-06-15
US20100182468A1 (en) 2010-07-22
JP2010510732A (ja) 2010-04-02
AT504582B1 (de) 2008-12-15

Similar Documents

Publication Publication Date Title
JP5114493B2 (ja) 電子形式の画像を生成する方法、画像生成用画像センサのための画像素子ならびに画像センサ
JP7374242B2 (ja) 動的ビジョンセンサアーキテクチャ
CN110753192B (zh) 一种集成电路图像传感器
JP5107442B2 (ja) 高ダイナミックレンジ画像センサ検知アレイのためのシステム及び方法
US11979673B2 (en) Image sensor with a plurality of super-pixels
US8953075B2 (en) CMOS image sensors implementing full frame digital correlated double sampling with global shutter
KR100718404B1 (ko) 능동 픽셀 센서
US6660989B2 (en) CMOS imager having asynchronous pixel readout in order of pixel illumination
US9264643B1 (en) Methods and circuitries for pixel sampling
JP2009524283A (ja) 撮像装置中の電気的な安定化のために画素格納ゲートの電荷の感知を提供する方法と装置
EP2874388B1 (en) Method for avoiding pixel saturation
CN113330734A (zh) 用于同步基于帧和异步事件驱动的读取器的基于bdi的像素
Posch et al. High-DR frame-free PWM imaging with asynchronous AER intensity encoding and focal-plane temporal redundancy suppression
JP4164790B2 (ja) アクティブ・ピクセル・センサ・システムおよびアクティブ・ピクセル検知方法
JP2019533383A (ja) フラックスレートユニットセル焦点面アレイ
CN111447385B (zh) 全局快门图像传感器像素结构及其信号采样读取方法
Lenero-Bardallo et al. A high dynamic range image sensor with linear response based on asynchronous event detection
Shoushun et al. Robust intermediate read-out for deep submicron technology CMOS image sensors
Luo et al. A time-based CMOS image sensor
Matolin et al. A load-balancing readout method for large event-based PWM imaging arrays
JP2005020382A (ja) 固体撮像装置およびその駆動方法
Akshay et al. System Level Design of a Novel CMOS Image Sensor with High Dynamic Range and Fill Factor
JP2000059699A (ja) 動き検出用撮像装置
JP2001054019A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100910

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20101228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120808

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120817

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120921

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121015

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151019

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5114493

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250