JP2022076485A - 事象ベースの視覚センサのためのデータ速度制御 - Google Patents

事象ベースの視覚センサのためのデータ速度制御 Download PDF

Info

Publication number
JP2022076485A
JP2022076485A JP2022036833A JP2022036833A JP2022076485A JP 2022076485 A JP2022076485 A JP 2022076485A JP 2022036833 A JP2022036833 A JP 2022036833A JP 2022036833 A JP2022036833 A JP 2022036833A JP 2022076485 A JP2022076485 A JP 2022076485A
Authority
JP
Japan
Prior art keywords
event
detector
pixel
events
sensor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2022036833A
Other languages
English (en)
Other versions
JP7442560B2 (ja
Inventor
ラファエル ベルナー
Berner Raphael
クリスティアン ブレントリ
Braendli Christian
マッシモ ザンノーニ
Zannoni Massimo
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Advanced Visual Sensing AG
Original Assignee
Sony Advanced Visual Sensing AG
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Advanced Visual Sensing AG filed Critical Sony Advanced Visual Sensing AG
Publication of JP2022076485A publication Critical patent/JP2022076485A/ja
Priority to JP2024022196A priority Critical patent/JP2024056930A/ja
Application granted granted Critical
Publication of JP7442560B2 publication Critical patent/JP7442560B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J1/00Photometry, e.g. photographic exposure meter
    • G01J1/42Photometry, e.g. photographic exposure meter using electric radiation detectors
    • G01J1/44Electric circuits
    • G01J1/46Electric circuits using a capacitor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/004Error avoidance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14609Pixel-elements with integrated switching, control, storage or amplification elements
    • H01L27/1461Pixel-elements with integrated switching, control, storage or amplification elements characterised by the photosensitive area
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/47Image sensors with pixel address output; Event-driven image sensors; Selection of pixels to be read out based on image data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/571Control of the dynamic range involving a non-linear response
    • H04N25/573Control of the dynamic range involving a non-linear response the logarithmic type
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/766Addressed sensors, e.g. MOS or CMOS sensors comprising control or output lines used for a plurality of functions, e.g. for pixel output, driving, reset or power
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/772Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising A/D, V/T, V/F, I/T or I/F converters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/778Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising amplifiers shared between a plurality of pixels, i.e. at least one part of the amplifier must be on the sensor array itself
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/7795Circuitry for generating timing or clock signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/78Readout circuits for addressed sensors, e.g. output amplifiers or A/D converters
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2201/00Indexing scheme relating to error detection, to error correction, and to monitoring
    • G06F2201/86Event-based monitoring
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2201/00Indexing scheme relating to error detection, to error correction, and to monitoring
    • G06F2201/88Monitoring involving counting

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Power Engineering (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • General Engineering & Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Nonlinear Science (AREA)
  • Electromagnetism (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Computer Hardware Design (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Photometry And Measurement Of Optical Pulse Characteristics (AREA)
  • Studio Devices (AREA)
  • Measuring Fluid Pressure (AREA)
  • Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)

Abstract

【課題】事象ベースの視覚センサのためのデータ速度制御を提供する。【解決手段】ダイナミック視覚センサ(DVS)又は変化検出センサ100において、チップ又はセンサは、事象速度を制御又は調節する。この制御は、事象速度を望ましい速度付近か又は望ましい範囲内に保つために使用する。ON事象及び/又はOFF事象閾値を変えることによって、シーンに対するセンサの構成を適合させることが、全体のシステムがその状態に関する可能な限り多くの情報を得るように、必要な量の、しかし必要以上に遥かに多くはない、データを得ることを可能にする。【選択図】図1A

Description

[関連出願]
本出願は、2016年12月30日に出願されたスイス仮特許出願第CH20160001764号、および2016年12月30日に出願されたスイス仮特許出願第CH20160001765号の優先権を主張するものであり、これら両方は、それらの全体が引用により本明細書に組み入れられる。
今日、機械視覚は、大部分、従来のカメラおよびそれらに付随するフレームベースの画像センサに基づく。幾つかの機械視覚タスク、例えば、物体認識、に対しては、これらの従来のフレームベースのカメラがよく適している。しかし、他のタスク、例えば、追跡、または位置および動きの推定のためには、従来の画像センサは欠陥を有する。
主な欠陥は、従来のカメラが、捕捉し、通信しおよび処理する必要がある相当な量の冗長且つ不要なデータを生ずることである。この高いデータ仕事量が、時間分解能を低下させることにより反応時間を減速し、消費電力の増加をもたらし、ならびに、機械視覚システムのサイズおよび経費を増加させる。さらに、大部分の画像センサは、限られたダイナミックレンジ、不十分な弱光性能および動きボケに悩まされる。
これらの欠陥は、データが一連の静止画像(フレーム)として捕捉されるという事実から生じる。場合によっては、ダイナミックシーンを静止画像として符号化することは、美しい画像および映像を、データ処理の最適化無しに、生成するのに有用であるが、このことは多くの機械視覚の用途ではあまり重要ではない。
従来のカメラを用いる従来のコンピュータ視覚システムは、典型的には、物体認識のための連続する画像フレームの間で特徴を比較する。可動システムの位置および向きを推定するため、および、周囲世界の3次元マップを推測するために、部分的に重なるが異なる時間において異なる姿勢から取られた2つの連続する画像が比較される。2つのフレームの間で生じた動きを推測するために、特徴的な目印(キーポイントまたは他の視覚的特徴)を2つの画像にわたって一致させる必要がある。両方の画像内で互いに対応するポイントのこれらの対を見出すことは、「対応問題」を解決することとして知られる。
対応問題を解決することは、相当な量の処理能力を必要とする。目印を検出するために、画像内のあらゆるピクセルを、独特な特徴(曲がり角、小塊、縁など)について探索する必要があり得る。次に、ピクセルおよびそれらを囲む周囲のピクセルは、いわゆる特徴記述子を特徴付けるようにグループ化され、その特徴記述語がフレームの間の特徴を合わせるために使用され、それにより、対応するポイントの対を確立する。これは、計算集約的である。ピクセル強度を直接比較する直接手法は、計算的にさらにより複雑である。
他方、いわゆるダイナミック視覚センサ(DVS:Dynamic Vision Sensor)または事象ベースの変化検出センサは、フレームベースの符号化の限界を克服するセンサである。ピクセル内データ圧縮を用いることにより、データ冗長性が取り除かれ、高時間分解能、低遅延、低電力消費、動きボケがほとんどない高ダイナミックレンジが達成される。従って、DVSは特に太陽光またはバッテリで電力供給される圧縮センシングに、または、システムの位置を推定する必要があり、限られたバッテリ容量によって処理能力が制約される移動機械視覚用途に、よく適している。
DVSは、視覚情報を局部的に前処理する。鮮明な画像を生成する代わりに、DVSは、コンピュータアプリケーションのためのスマートデータを生成する。従来の画像センサは、映画を一連の静止画像として捕捉するが、DVSは、シーン内の変化の位置を検出し単に伝達する。従って、これは、ピクセル内データ圧縮を符号化するために、従来のカメラより、遥かにより効率的に視覚情報を符号化する。具体的には、フレームを画像データとして符号化するのではなく、DVSは変化を検出し、それらの変化を変化事象として符号化する。このことは、より少ない資源、より低い正味電力を用い、より速いシステム反応時間で、データの処理が可能であることを意味する。高い時間分解能は、視覚的特徴を連続的に追跡することを可能にし、それにより対応問題を克服する。さらに、DVSの構成は、高いダイナミックレンジおよび良好な弱光性能を可能にする。
DVSまたは変化検出センサの一般的特性は、事象の速度が、センサが観測しているシーンおよびセンサ構成に依存するために、出力データ速度が可変であることである。
センサから読み出される可変量の変化事象は、特に、プロセッサが実時間で処理することができるよりも多くの事象が読み出される場合、センサ上およびシステムレベルにおける問題を引き起こす可能性がある。
事象を処理することができない場合にその事象を廃棄することは、データ損失をもたらし、それ故に、システムはそれの状態に関する情報(例えば、それの動作および位置に関する)を失う。変化検出センサの場合には、その結果は、センサが、例えば、それのピクセルフィールドの一部分において起きる事象を失うことになり得る。
センサの構成をシーンに適合させることは、全体のシステムがその状態に関する可能な限り多くの情報を取得するのに必要な、しかし多過ぎない、データを有することを可能にする。他方、事象の数はセンサの状態に基づいて制御することができる。例えば、電力を減らすためには、スリープサイクル中などに事象の数を減らし、次いで、正常動作モード中の事象の数を増すことが望ましいかもしれない。
本明細書において提案されるシステムは、事象速度を制御または調節するようにチップまたはセンサの構成を変える。例えば、この制御は、事象速度を望ましい速度の近くにまたは望ましい範囲内に保つために用いることができる。
それでも、所与の時間スライス中に生成される事象の量は、それらを出力しおよび数えた後にのみ最終的に決定することができる。ここで、幾つかの実施形態は、それらを読み出す前のペンディング事象の数の大まかな推定を可能にする事象カウント推定器を使用する。
ペンディング事象の数の大まかな推定であっても、システムは、データに対処しそれらを読み出すことができるかどうか、或いは、多すぎる(または少な過ぎる)事象が存在するかどうか、判断することができ、システムは、より高い閾値を用いて変化検出をやり直し、より少ない事象を取得する(または、より低い閾値との比較をやり直し、より多くの事象を取得する)ことができる。
一般に、一態様によれば、本発明は、変化検出センサを特徴とする。センサは、光を検出するピクセルを備えるピクセルアレイ、および、ピクセルによって受け取られた光に関連付けられる事象を検出するための事象検出器を備える。本発明によれば、事象を評価するための事象速度検出器が準備される。次に、コントローラが事象速度検出器に基づいて、ピクセルが事象を検出する仕方を変化させる。
一実施形態において、事象速度検出器は、事象検出器からの事象を数えることによって事象を評価するための計数器を備える。
別の実施形態において、事象速度検出器は、事象を推定することによって事象を評価するための事象推定器を備える。これは、事象検出器が記録する事象の数に基づくアナログ信号を分析することによって実施することができる。
好ましくは、センサは、事象検出器によって適用される閾値を設定するための閾値生成回路を含む。次いで、コントローラが、事象速度検出器によって与えられる評価に応じて与えられる閾値を変える。
好ましくは、コントローラは、ピクセルアレイ内のON事象およびOFF事象に基づいてON事象およびOFF事象に対する閾値を別々に設定する。
現在の実施形態において、ピクセルの各々は、ピクセルがリセットされたときに受け取る光に対応する電荷を格納するための、事象検出器の内の1つのメモリキャパシタを備える。ピクセルの各々は、受け取った光の変化を、事象を検出するための1つまたはそれ以上の閾値と比較するための、事象検出器の1つまたはそれ以上の比較器をさらに備えることができる。
他の実施形態において、比較器は読み出し回路内に配置される。
一般に、別の態様によれば、本発明は、変化検出センサの動作の方法を特徴とする。その方法は、ピクセルアレイ内のピクセルによって受け取られる光に関連付けられる事象を検出するステップと、ピクセルアレイからの事象を評価するステップと、ピクセルアレイからの事象の評価に基づいて、ピクセルが事象を検出する仕方を変化させるステップと、を含む。
構造および部品の組み合わせの様々な新規の細部を含む本発明の上記および他の特徴、ならびに他の利点を、次に、添付の図面を参照しながらより具体的に説明し、特許請求の範囲において指摘することになる。本発明を具体化する特定の方法および機器は、本発明の限定としてではなく、例証のために示されることを理解されたい。本発明の原理および特徴は、本発明の範囲から逸脱することなく、種々様々な実施形態において使用することができる。
添付の図面において、参照文字は、種々異なる図を通じて同じ部品を指す。図面は必ずしも一定の比率に縮小されてはおらず、むしろ本発明の原理を例証することに重点が置かれている。
事象速度制御部を含む、事象ベースの変化検出センサのブロック図である。 ピクセルアレイ110内で使用することが可能な変化検出ピクセルの一例を示す回路図である。 周期的にリセットされる事象計数器として実施される事象速度検出器の一実施形態を示すブロック図である。 事象速度検出器に基づいて、閾値生成回路を制御するためのコントローラ120の動作を示す流れ図である。 事象速度検出器に基づいて、閾値生成回路を制御するためのコントローラ120の動作を示す流れ図である。 別の実施形態による、事象速度推定値を生成する事象ベースの変化検出センサを示す概略図である。 さらに別の実施形態による、事象速度推定値を生成する事象ベースの変化検出センサを示す概略図である。 以前の実施形態の電流ADC212の可能な実施を示す回路図である。 コントローラ120の可能な実施を示す状態図である。 基本的な閾値生成回路を示すブロック図である。
図1Aは、事象速度制御部を有する事象ベースの変化検出センサ100のブロック図である。
一般に、変化検出センサ100は、特に現行システムに関連する5つの要素、
変化検出ピクセルのアレイ110と、
事象速度検出器200と、
コントローラ120と、
閾値生成回路130と、
読み出し回路140と、
を含む。
ピクセルアレイ110は、可変量のデータ、変化事象を生成する。事象速度検出器200は、例えば、変化事象を数えるかまたは推定することによって事象を周期的に評価する。次に、コントローラ120は、次の時間ステップにおいてピクセルアレイ110が、望ましい速度により近い変化事象の量を生成するように、センサ構成を適合させる。
ピクセルアレイは、引用により本明細書に組み入れられる「Photoarray for Detecting Time-Dependent Image Data」と題する、Lichtsteiner他による、米国特許出願公開第2008/00135731号に記載されているような変化検出ピクセル、または、2017年12月29日出願の「Dynamic Vision Sensor Architecture」と題する米国特許出願第15/858、427号(以後、Berner特許文献、この文献は引用によりその全体が本明細書に組み入れられる)に記載されているような変化検出ピクセル、または、J.Kramer、「An on/off transient imager with event-driven,asynchronous read-out」、IEEE Internatioal Symposium on Circuits and Systems,2002、第2巻、ページ165~168、2002年、に開示されているような変化検出ピクセル、或いは代替的に、Ruedit他、「A 128x128 pixel 120-dB dynamic-range vision-sensor chip for image contrast and orientation extraction」、IEEE Journal of Solid-State Circuits,第38巻、12号、ページ2325~2333、12月、2003年におけるような空間コントラスト検出ピクセル、などの任意のアレイとすることができる。
図1Bは、1つの可能な変化検出ピクセル112の回路図である。
2次元アレイ110のこの例示的なピクセル112は、衝突する光を検出または計測して光強度を信号に変換する光ダイオードPD(photodiode)のような光センサを含む。ここで、信号は電流、Iphotoである。ピクセル112はさらに事象検出器114を有し、これは、例えば、ある事象が起きたような十分な変化が光センサによって検出される光の中に存在するかどうかを決定する。このことは、電流Iphotoを監視することにより達成される。
より詳細には、例示的な事象検出器114は、光受容器回路PRCを含み、これが次に光強度に応じて光受容器信号Vprを生成する。次に、メモリキャパシタC1が過去の光受容器信号を記憶する。
比較器A1は、現在の光受容器信号Vprと過去の光受容器信号との間の差を閾値Vbと比較する。この閾値Vbは、閾値生成回路130によって供給される。
好ましくは、比較器A1または一対の比較器が、ON事象閾値に基づいてON事象を検出し、OFF事象閾値に基づいてOFF事象を検出する。ON事象は、光センサによって受け取られた光の増加の特性であり、OFF事象は、光センサによって受け取られた光の減少の特性である。単一の比較器が使用される場合、ON事象閾値およびOFF事象閾値は、時間的に連続して閾値Vbとして与えられる。
この比較器A1は、各々のピクセル内に存在することができ、或いはピクセルのサブセット(例えば、列)の間で共有されることができる。一事例では、比較器は、読み出し回路140内で共有され配置される。そのような構成の種々の例がBerner特許文献に開示されている。
しかし、好ましい実施形態においては、比較器A1はピクセル112に組み込まれることになり、各々のピクセルが1つまたはそれ以上の専用の比較器A1を有する。
メモリ50は、事象または複数事象を格納する。事象は、コントローラ120からのサンプル信号に基づいて、比較器出力Vcompから取られる。メモリは、サンプリング回路(例えば、スイッチおよび寄生または明示的キャパシタ)またはデジタルメモリ回路(ラッチまたはフリップ-フロップ)とすることができる。一実施形態において、メモリはサンプリング回路となり、各々のピクセルは、1つがいずれかのON事象を格納するため、1つがいずれかのOFF事象を格納するための、2つのメモリを有することになる。メモリは1つまたはそれ以上のラインEvtに出力を供給する。
条件付きリセット回路R1は、記憶されている比較器出力の状態と、コントローラ120によって適用されるリセット信号GlobalResetとの組み合わせに基づいて、条件付きリセットをもたらす。
ピクセル回路112およびコントローラ120は以下のように動作する。
光センサPDによって受け取られた光強度の変化は、光受容器信号Vprの変化に変わることになる。リセット回路R1が非導通状態にあるとき、Vprの変化はさらに、比較器A1への反転入力(-)における電圧Vdiffに反映されることになる。このことは、メモリキャパシタC1を横切る電圧が一定のままであるために、生じる。
コントローラ120によって選択された時間において、事象検出器114の比較器A1は、メモリキャパシタC1の第2の端子の電圧(VDiff)を、比較器A1の非反転入力(+)に印加される閾値電圧Vb(閾値生成回路130からの)と比較する。
コントローラ120は、メモリ50を、比較器の出力Vcompを格納するように動作させる。メモリ50は、典型的には、図示されるようにピクセル回路112の一部として実施される。
しかし、他の実施形態においては、メモリ50は、読み出し回路140(ピクセルアレイ110の各列毎に1つの周辺回路)の一部として実施される。
図示される実施形態において、センサの読み出し回路140は、アレイ110内の各々のピクセル112のメモリ50を読み出す。一例において、読み出し回路140は、変化事象を検出したアレイ内のピクセルの座標を格納する。
メモリ内50に保持された格納された比較器出力の状態が、光強度の十分な変化(即ち、事象)を示し、および(AND)コントローラ120からのグローバルリセット信号GlobalRest信号がアクティブである場合、条件付きリセット回路R1は導通状態になる。ここで「AND」は論理AND演算子を示す。導通状態にある条件付きリセット回路R1により、比較器A1の反転入力における電圧(Vdiff)が既知のレベルにリセットされる。従って、これは、メモリキャパシタC1上に、現在の光受容器信号Vprを格納する。
事象の計数
図2は、事象速度計数器の一実施形態を示す。
ここで、事象速度検出器200は、コントローラ120によって周期的にリセットされる計数器210として実施される。この計数器は読み出し回路140によって読み出される事象に基づいてインクリメントされる。事象のカウントはコントローラ120に供給される。次いで、計数器210は、新しいカウントが必要なとき、コントローラ120によってリセットされる。
一例において、事象速度検出器200は、所与の時間窓の間にセンサアレイ110によって出力される事象の数を数える。ここで、これは、読み出し回路が、ピクセルアレイ110から事象を読み出す毎に、インクリメント信号を計数器210に送るように遂行される。
1つの特定の例において、事象速度検出器200は、所与の時間窓の間にセンサアレイ110によって出力されるON事象とセンサアレイ110によって出力されるOFF事象との両方を数える。これは、計数器210の中の別々のON事象計数器およびOFF事象計数器を用いて遂行されることが好ましい。
図3Aは、一実施形態による、事象速度検出器200に基づいて、閾値生成回路130を制御するためのコントローラ120の動作を示す流れ図である。
具体的には、ステップ310において事象速度検出器200の計数器210は、新しいカウントが必要なときに、コントローラ120によってリセットされる。
ステップ312において、コントローラ120は、所定の時間後に事象のカウントを読み出す。
次に、ステップ314において、コントローラは、ピクセルアレイ110に適用される事象閾値の変化を計算する。この新しい閾値は、ステップ316において閾値生成回路130に送られる。次に、この閾値は、センサアレイ110の事象検出器114に、事象の次のセットを決定するステップにおける閾値Vbとして、適用される。
図3Bは、別の実施形態による、事象速度検出器200を制御するためのコントローラ120の動作を示す流れ図である。
この実施形態において、コントローラ120は、ステップ310において計数器をリセットする前に、ステップ318において外部トリガーを待つ。この実施形態は、センサが外部タイミングソースに同期させる必要がある状況において最も有用であろう。
事象カウント推定器
第2の手法は、事象速度推定値を生成するステップに依拠する。この手法は、事象速度検出器200の内部の事象カウント推定器を使用する。これは、事象の数を決定するために、アレイからの全ての事象を読む必要を避ける。その代わりに、この手法は、事象が読み出される前にまたは読み出しプロセスの一部として、事象の数を大まかに推定することを可能にする。
図4は、別の実施形態による事象速度推定値を生成する、事象ベースの変化検出センサ100を示す概略図である。
より詳細には、事象検出器114は、アレイ110の各ピクセル112内に、入射光を検出するための光受容器116と共に配置され、各ピクセル回路の一部である。各ピクセル回路112の電流源118は、このピクセル内に事象が存在する場合にのみ、作動させられる。
具体的には、事象検出器114が、例えば、ON事象および/またはOFF事象による、光受容器116によって受け取られる光の変化を記録する場合、事象信号Evtがアクティブとなり、これがピクセル112に関連付けられるスイッチ117を閉じる。
アレイ110の全てのピクセル112の電流、またはセンサ100のアレイ110の範囲にわたって分布するピクセルのサンプリングは合計され、事象速度検出器200の電流アナログ・デジタル変換器(ADC:analog to digital converter)212に供給される。このADC212は電流を取り込み、電流の大きさをデジタル表示に変換する。この電流の合計のデジタル表示は、次に、コントローラ120に、検出された事象の数の推定値として供給され、既知の期間にわたって行われた場合には、これは事象速度を示す。
一般に、電流源118は、ピクセル112の間で非常によく適合するものではないであろう。このことは、電流の合計が、幾つのピクセルがペンディング事象を有するかの正確な推定を可能にしないが、大まかな推定値を可能にするであろうことを意味する。
図5は、別の実施形態による事象速度推定値を生成する変化検出センサを示す概略図である。
より詳細には、各ピクセル112の光受容器116は、その光受容器116によって検出される光の瞬間的な量に敏感な且つそれを示す信号を生成する。この情報は、事象検出器114に送られる。
従って、事象検出器114内の比較器の出力は、光受容器116によって受け取られる光が、最後にリセットされた閾値より大きい量だけ変化したとき、変化する。多くの場合、ON事象閾値は、光受容器116によって検出される光の量の増加に関連付けられるON事象を識別するためのPixel Thresholdとして、ピクセルに供給される。次に、OFF事象閾値が、光受容器によって検出される光の量の減少に関連付けられるOFF事象を識別するためのPixel Thresholdとして、ピクセルに供給される。
他の場合には、事象検出器は、ON事象を識別するためのON事象閾値を受け取る第1の比較器と、OFF事象を識別するためのOFF事象閾値を受け取る第2の比較器と、の2つの比較器を含む。
信号Enable evt counterがアクティブ(およびそれ故に、Disable evt counterが非アクティブ)である場合、全ての読み出しラインが、スイッチ188の閉鎖によって互いに短絡され、読み出しラインはスイッチ190の開放によって列読み出し回路180から切断される。全ての読み出しラインが電流ADC212に接続されると、電流は、電流ADC212から全てのピクセルへ流れることになり、それらピクセル内で比較器出力が高くなり、Evtがアクティブとなり、それにより、各ピクセル112内のスイッチ117を閉じる。さらに、各行のORゲート186が、各ピクセル112内のスイッチ178を、Enable evt counterがアクティブであるために、閉じることになる。それ故に、全電流は、比較器174の出力が高であるかまたは信号ライン(単数または複数)のEvtがアクティブであるピクセルの数に依存することになる。
信号Enable evt counterが非アクティブ(およびそれ故にDisable evt counterがアクティブ)である場合、ピクセル読み出しラインは、対応するReadout row select Xがアクティブである場合に、それらの対応する列読み出し回路180に接続される。
図6は、以前の実施形態の電流ADC212の可能な実施を示す。
合計された電流が、負帰還構成にある抵抗R216によって演算増幅器A214に供給される。基準電圧と演算増幅器の出力部における電圧との間の電圧差は、入力電流の大きさに比例し、従って、ペンディング事象の数を表す。
演算増幅器の出力部における電圧は次に、フラッシュADC、SAR ADC、シグマ-デルタADCなどとして実施することができる従来の電圧ADC218に供給される。
電流から電圧への変換の後、長くなり得るADC変換を、ピクセルが読み出される間に行うことができるように、電圧サンプリングステップ(OpAmp214および電圧ADC218の出力の間)を加えることができる。ひとたびADC変換が完了すると、必要であれば、ピクセルの読み出しを停止することができる。
コントローラ120
コントローラ120は、事象速度検出器200の入力、センサ100の外部からの望ましい事象速度(または望ましい事象速度の範囲)、ならびに、オプションとしてトリガー入力、を有するデジタルブロックである可能性が最も高い。コントローラ120は、チップ構成のための制御信号(即ち、時間分解能および閾値生成回路130に対する閾値)を出力する。
コントローラ120は、伝統的なP、PIまたはPIDコントローラとして、或いはより簡単に状態機械として実施することができる。
しかし、事象速度推定器を使用するとき、コントローラ120は、アナログ回路として実施することもできる。このアナログコントローラに対する入力は、それ故に、デジタル表現ではなく、その代わりに、図6の演算増幅器214の出力電圧が、典型的には直接にコントローラ120に供給される。
図7は、コントローラ120の状態図である。
事象閾値は、事象速度推定器からの信号、
・ 事象速度:事象速度検出器200からの入力、
・ MinEventRate:定数、最小の望ましい事象速度、
・ MaxEventRate:定数、最大の望ましい事象速度、
・ MinEventThreshold:パラメータ、最小閾値設定、
・ MaxEventThreshold:パラメータ、最大閾値設定、
・ Step:パラメータ、事象閾値がループの各通過の間に変化するステップ、
・ EventThreshold:事象生成回路に供給される出力、
・ Trigger:ループを開始する周期的入力信号、
に基づいて、事象速度を望ましい範囲内に保持するように、修正される。
より詳細には、コントローラ120は、状態710においてトリガーを待つ。それを受け取ると、コントローラ120は、状態712において、事象速度検出器200によって与えられた事象速度を、最小事象速度と比較する。事象速度が最小事象速度より小さい場合には、コントローラは状態716に進む。状態716において、コントローラ120は事象閾値を最小事象閾値と比較し、事象閾値がより小さい場合、710の待ち状態に戻る。他方、事象閾値が最小事象閾値より大きい場合、状態718において事象閾値が減らされ、待ち状態710に戻る。
他方、状態712において、事象速度が最小事象閾値より大きい場合、事象速度は、状態714において、最大事象速度と比較され、事象速度がより小さい場合には、コントローラ120は待ち状態710に戻る。他方、事象速度が最大事象速度より大きい場合、状態720において事象閾値が最大事象閾値と比較される。状態720において事象閾値が最大事象閾値より大きい場合、コントローラ120は待ち状態710に戻る。他方、事象閾値が最大事象閾値より小さい場合、事象閾値は状態722において1ステップだけ増加させられ、待ち状態710に戻る。
閾値生成回路
引用により本明細書に組み入れられる「Photoarray for Detecting Time-Dependent Image Data」と題する、Lichtsteiner他による、米国特許出願公開第2008/00135731号に開示されているような変化検出ピクセルに関して、事象閾値は、閾値電圧と増幅器バイアス電圧との間の差である。On閾値電圧は通常バイアス電圧より高く、他方、Off閾値電圧はより低い。
基本閾値生成
図8は、例えば、P.Lichtsteiner,C.Posch,およびT.Delbruck、「A 128x128 120dB 15μs Latency Asynchronous Temporal Contrast Vision Sensor」、IEEE J. Solid-State Circuits,第43巻、2号、ページ566~576、2月、2008年、ならびに、T.Delbruck, R.Berner, P.Lichtsteiner,およびC.Dualibe、「32-bit Configurable bias current generator with sub-off-current capability」、Proceedings of 2010 IEEE International Symposium on Circuits and Systems,2010,ページ1647~1650に開示されているような、一組の電圧デジタル・アナログ変換器(DAC:digital to analog converter)または電流DAC810、812の基本閾値生成回路を示す。具体的には、一組のDAC810、812、814に関して、比較器バイアス電圧を生成するための1つ814、OnThres電圧のための1つ810およびOffThres電圧のための1つ812が存在する。
事象速度および均衡制御
さらに別の実施形態において、センサ100はON(増加する光強度)およびOFF(減少する光強度)事象を、別々に数える。次に、ON事象とOFF事象との間の比が、ONおよびOFF閾値を別々に制御するために使用される。一般に、大きい(秒より大きい)時間窓にわたる類似の量のON事象およびOFF事象が望ましい。
非動き閾値
事象ベースの変化検出センサの特性は、シーンの中に動きがない場合に、データを(または非常に僅かなデータしか)生成しないことである。そのような、動きがない場合には、閾値を変えることは望ましくない可能性があり、それ故に、コントローラを、それより下ではEventThreshold出力を変えるための制御ループが活性化されない最小事象速度閾値を含むように、拡張することができる。
時間分解能制御
幾つかのピクセル設計において、時間ビン速度(比較の速度)変えることができる。米国特許出願第US2008/00135731号における記載によって提案されるようなピクセルにおいては、無反応バイアス(refractory bias)を制御することができ、このことが、ピクセルが事象を生成できる速度を制限することを可能にする。
本発明は、その好ましい実施形態に関連して具体的に示され、説明されたが、当業者であれば、添付の特許請求の範囲によって包含される本発明の範囲から逸脱せずに、その中で、形状および細部に様々な変更を加えることができることを理解するであろう。

Claims (15)

  1. 光を検出するピクセルを備えたピクセルアレイと、
    前記ピクセルによって受け取られた光に関連付けられる事象を検出するための事象検出器と、
    前記事象を評価するための事象速度検出器と、
    前記事象速度検出器に基づいて、前記ピクセルが前記事象を検出する仕方を変えるためのコントローラと、
    を備える、変化検出センサ。
  2. 前記事象速度検出器は、前記事象検出器からの事象を数えることによって前記事象を評価するための計数器を備える、請求項1に記載のセンサ。
  3. 前記事象速度検出器は、事象を推定することによって前記事象を評価するための事象推定器を備える、請求項1に記載のセンサ。
  4. 前記事象速度検出器は、事象を記録する前記事象検出器の数に基づくアナログ信号を分析することによって前記事象を評価する、請求項1に記載のセンサ。
  5. 前記事象検出器によって適用される閾値を設定するための閾値生成回路をさらに備える、請求項1に記載のセンサ。
  6. 前記コントローラは、前記事象速度検出器によって与えられた前記評価に応じて与えられる前記閾値を変える、請求項1に記載のセンサ。
  7. 前記コントローラは、前記ピクセルアレイ内のON事象およびOFF事象に基づいて、ON事象およびOFF事象に関する閾値を別々に設定する、請求項1に記載のセンサ。
  8. 前記ピクセルの各々は、前記ピクセルがリセットされたときに受け取る光に対応する電荷を蓄積するための、前記事象検出器の内の1つのメモリキャパシタを備える、請求項1に記載のセンサ。
  9. 前記ピクセルの各々は、受け取った光の変化を、前記事象を検出するための1つまたはそれ以上の閾値と比較するための、前記事象検出器の内の1つの、1つまたはそれ以上の比較器を備える、請求項1に記載のセンサ。
  10. 受け取った光の変化を、前記事象を検出するための1つまたはそれ以上の閾値と比較するための、前記事象検出器の比較器をさらに備え、前記比較器は読み出し回路内に位置する、請求項1に記載のセンサ。
  11. 変化検出センサの動作の方法であって、
    ピクセルアレイ内のピクセルによって受け取られた光に関連付けられる事象を検出するステップと、
    前記ピクセルアレイからの前記事象を評価するステップと、
    前記ピクセルアレイからの前記事象の前記評価に基づいて、前記ピクセルが前記事象を検出する仕方を変えるステップと、
    を含む、方法。
  12. 前記事象を評価するステップは、前記事象を数えるステップを含む、請求項11に記載の方法。
  13. 前記事象を評価するステップは、前記事象を推定するステップを含む、請求項11に記載の方法。
  14. 前記事象の前記評価に応じて、前記ピクセルに対して事象検出器によって適用される閾値を設定するステップをさらに含む、請求項11に記載の方法。
  15. 前記ピクセルアレイからのON事象およびOFF事象に基づいて、ON事象およびOFF事象に関する閾値を別々に設定するステップをさらに含む、請求項11に記載の方法。
JP2022036833A 2016-12-30 2022-03-10 事象ベースの視覚センサのためのデータ速度制御 Active JP7442560B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2024022196A JP2024056930A (ja) 2016-12-30 2024-02-16 事象ベースの視覚センサのためのデータ速度制御

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
CH01765/16 2016-12-30
CH01764/16 2016-12-30
CH17652016 2016-12-30
CH17642016 2016-12-30
PCT/IB2017/058528 WO2018122800A1 (en) 2016-12-30 2017-12-29 Data rate control for event-based vision sensor
JP2019533146A JP7074955B2 (ja) 2016-12-30 2017-12-29 事象ベースの視覚センサのためのデータ速度制御

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2019533146A Division JP7074955B2 (ja) 2016-12-30 2017-12-29 事象ベースの視覚センサのためのデータ速度制御

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2024022196A Division JP2024056930A (ja) 2016-12-30 2024-02-16 事象ベースの視覚センサのためのデータ速度制御

Publications (2)

Publication Number Publication Date
JP2022076485A true JP2022076485A (ja) 2022-05-19
JP7442560B2 JP7442560B2 (ja) 2024-03-04

Family

ID=61094545

Family Applications (6)

Application Number Title Priority Date Filing Date
JP2019532733A Active JP7074954B2 (ja) 2016-12-30 2017-12-29 動的ビジョンセンサアーキテクチャ
JP2019533146A Active JP7074955B2 (ja) 2016-12-30 2017-12-29 事象ベースの視覚センサのためのデータ速度制御
JP2022036827A Active JP7374242B2 (ja) 2016-12-30 2022-03-10 動的ビジョンセンサアーキテクチャ
JP2022036833A Active JP7442560B2 (ja) 2016-12-30 2022-03-10 事象ベースの視覚センサのためのデータ速度制御
JP2023181483A Pending JP2023182811A (ja) 2016-12-30 2023-10-20 動的ビジョンセンサアーキテクチャ
JP2024022196A Pending JP2024056930A (ja) 2016-12-30 2024-02-16 事象ベースの視覚センサのためのデータ速度制御

Family Applications Before (3)

Application Number Title Priority Date Filing Date
JP2019532733A Active JP7074954B2 (ja) 2016-12-30 2017-12-29 動的ビジョンセンサアーキテクチャ
JP2019533146A Active JP7074955B2 (ja) 2016-12-30 2017-12-29 事象ベースの視覚センサのためのデータ速度制御
JP2022036827A Active JP7374242B2 (ja) 2016-12-30 2022-03-10 動的ビジョンセンサアーキテクチャ

Family Applications After (2)

Application Number Title Priority Date Filing Date
JP2023181483A Pending JP2023182811A (ja) 2016-12-30 2023-10-20 動的ビジョンセンサアーキテクチャ
JP2024022196A Pending JP2024056930A (ja) 2016-12-30 2024-02-16 事象ベースの視覚センサのためのデータ速度制御

Country Status (7)

Country Link
US (11) US10567679B2 (ja)
EP (3) EP3563564B1 (ja)
JP (6) JP7074954B2 (ja)
KR (6) KR102712372B1 (ja)
CN (3) CN110169050B (ja)
DE (1) DE202017007535U1 (ja)
WO (2) WO2018122800A1 (ja)

Families Citing this family (85)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018122800A1 (en) 2016-12-30 2018-07-05 Insightness Ag Data rate control for event-based vision sensor
JP2018125599A (ja) * 2017-01-30 2018-08-09 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置、電子機器、及び駆動方法
CN108574793B (zh) 2017-03-08 2022-05-10 三星电子株式会社 被配置为重新生成时间戳的图像处理设备及包括其在内的电子设备
US10257456B2 (en) * 2017-09-07 2019-04-09 Samsung Electronics Co., Ltd. Hardware friendly virtual frame buffer
EP3725068B1 (en) * 2017-12-11 2021-07-14 Prophesee Event-based image sensor and operating method thereof
US11212468B2 (en) 2018-03-14 2021-12-28 Sony Advanced Visual Sensing Ag Event-based vision sensor with direct memory control
WO2019175733A1 (en) 2018-03-14 2019-09-19 Insightness Ag Event-based vision sensor manufactured with 3d-ic technology
TW202406328A (zh) * 2018-03-15 2024-02-01 日商尼康股份有限公司 感測器以及具備其之攝像裝置
CN108827461B (zh) * 2018-04-25 2019-05-03 上海芯仑光电科技有限公司 像素采集电路及光流传感器
JP7248710B2 (ja) * 2018-06-27 2023-03-29 プロフェセ 複数のスーパーピクセルを有するイメージセンサ
US10887535B2 (en) * 2018-07-18 2021-01-05 The Regents Of The University Of California Query driven image sensing
US11140349B2 (en) 2018-09-07 2021-10-05 Samsung Electronics Co., Ltd. Image sensor incuding CMOS image sensor pixel and dynamic vision sensor pixel
CN110971792B (zh) * 2018-09-29 2021-08-13 华为技术有限公司 一种动态视觉传感器
IL262372B (en) * 2018-10-14 2020-05-31 Semi Conductor Devices An Elbit Systems Rafael Partnership Pixel reading circuit and imaging method
CN109842767B (zh) * 2019-01-09 2020-07-14 上海芯仑光电科技有限公司 一种防闪光电路组件及图像传感器
KR102649988B1 (ko) 2019-01-21 2024-03-22 소니 어드밴스드 비주얼 센싱 아게 투명한 스마트폰
CN109842768B (zh) * 2019-01-29 2020-05-15 上海芯仑光电科技有限公司 一种像素采集电路及图像传感器
EP3690736A1 (en) * 2019-01-30 2020-08-05 Prophesee Method of processing information from an event-based sensor
JP7538806B2 (ja) 2019-02-07 2024-08-22 マジック リープ, インコーポレイテッド 高一時的分解能を伴う軽量かつ低電力のクロスリアリティデバイス
KR102656177B1 (ko) 2019-02-11 2024-04-12 삼성전자주식회사 신호를 축적하기 위한 센서
JP2020136811A (ja) * 2019-02-15 2020-08-31 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置及び撮像装置
KR102707749B1 (ko) 2019-03-28 2024-09-23 삼성전자주식회사 옵티컬 블랙 영역을 이용하여 이벤트 신호들을 보정하도록 구성되는 다이나믹 비전 센서 및 그 동작 방법
EP3731516B1 (en) 2019-04-25 2024-05-29 Beijing RuisiZhixin Technology Co., Ltd. Delta vision sensor
TWI831962B (zh) * 2019-04-26 2024-02-11 日商索尼半導體解決方案公司 事件檢測裝置、具備事件檢測裝置之系統及事件檢測方法
WO2020229980A1 (en) 2019-05-10 2020-11-19 Sony Advanced Visual Sensing Ag Event-based vision sensor using on/off event and grayscale detection ramps
WO2020229981A1 (en) 2019-05-10 2020-11-19 Sony Advanced Visual Sensing Ag Dynamic vision sensor with in-pixel digital change detection
KR20210150594A (ko) 2019-05-10 2021-12-10 소니 어드밴스드 비주얼 센싱 아게 이미지 센서 픽셀에 대한 nmos 비교기
KR20200143141A (ko) * 2019-06-14 2020-12-23 삼성전자주식회사 Cis, 및 그 cis에서 픽셀별 ae 방법
KR20210000985A (ko) 2019-06-26 2021-01-06 삼성전자주식회사 비전 센서, 이를 포함하는 이미지 처리 장치 및 비전 센서의 동작 방법
EP3994876A1 (en) 2019-07-01 2022-05-11 Sony Advanced Visual Sensing AG Dynamic region of interest (roi) for event-based vision sensors
KR20210006106A (ko) 2019-07-08 2021-01-18 삼성전자주식회사 다이내믹 비젼 센서의 이벤트 보정 방법 및 이를 수행하는 이미지 센서 장치
CN112311964B (zh) * 2019-07-26 2022-06-07 华为技术有限公司 一种像素采集电路、动态视觉传感器以及图像采集设备
JP7101721B2 (ja) * 2019-08-01 2022-07-15 シャープ株式会社 固体撮像素子
JP7451110B2 (ja) * 2019-08-27 2024-03-18 ソニーグループ株式会社 測距システム及び電子機器
CN110536083B (zh) * 2019-08-30 2020-11-06 上海芯仑光电科技有限公司 一种图像传感器及图像采集系统
WO2021044299A1 (en) 2019-09-04 2021-03-11 Sony Advanced Visual Sensing Ag Delay equalization in event-based vision sensors
JP2021048554A (ja) 2019-09-20 2021-03-25 ソニーセミコンダクタソリューションズ株式会社 撮像装置、撮像制御方法、プログラム
CN112738432B (zh) * 2019-10-28 2022-06-21 天津大学青岛海洋技术研究院 一种事件阈值自适应型动态视觉传感器
US11694304B2 (en) * 2019-11-26 2023-07-04 Samsung Electronics Co., Ltd. Jointly learning visual motion and confidence from local patches in event cameras
CN111107287B (zh) * 2019-11-29 2021-06-04 豪威芯仑传感器(上海)有限公司 一种像素采集电路及图像传感器
KR102702094B1 (ko) * 2019-12-17 2024-09-04 삼성전자주식회사 다이나믹 비전 센서 시스템
WO2021127809A1 (en) * 2019-12-23 2021-07-01 Huawei Technologies Co., Ltd. Imaging apparatus and imaging method
JP2021103842A (ja) * 2019-12-25 2021-07-15 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、および、撮像装置
KR20210102511A (ko) * 2020-02-10 2021-08-20 삼성전자주식회사 버퍼를 포함하는 동적 비전 센서 장치
JP2023076773A (ja) * 2020-04-14 2023-06-02 ソニーグループ株式会社 物体認識システム及び電子機器
CN111510650B (zh) * 2020-04-26 2021-06-04 豪威芯仑传感器(上海)有限公司 一种图像传感器
FR3109667B1 (fr) * 2020-04-28 2024-04-05 Commissariat Energie Atomique Capteur d’image piloté par évènements et son procédé de lecture
US11853142B2 (en) 2020-05-28 2023-12-26 Apple Inc. Sensor-based user detection for electronic devices
EP3930312B8 (en) 2020-06-26 2023-10-25 Alpsentek GmbH Delta image sensor with digital pixel storage
US12088936B2 (en) 2020-07-09 2024-09-10 Sony Semiconductor Solutions Corporation Solid-state imaging device, imaging method, and electronic apparatus
EP3955566B1 (en) 2020-08-14 2023-06-07 Alpsentek GmbH Image sensor with configurable pixel circuit and method
CN115004677B (zh) * 2020-09-02 2024-03-29 华为技术有限公司 视觉传感器芯片及其操作方法和电子设备
KR20220039022A (ko) 2020-09-21 2022-03-29 삼성전자주식회사 비전 센서를 포함하는 이미지 처리 장치 및 그 동작 방법
CN112261297B (zh) * 2020-10-22 2022-07-01 维沃移动通信有限公司 动态视觉传感器的控制方法、装置和电子设备
WO2022093123A1 (en) * 2020-10-29 2022-05-05 Nanyang Technological University A computer vision sensor for efficient real time object detection under varying lighting conditions
TWI795870B (zh) * 2020-11-06 2023-03-11 大陸商廣州印芯半導體技術有限公司 影像感測器以及影像感測方法
CN114519017B (zh) * 2020-11-18 2024-03-29 舜宇光学(浙江)研究院有限公司 用于事件相机的数据传输方法及其系统和电子设备
KR20220076943A (ko) 2020-12-01 2022-06-08 삼성전자주식회사 비전 센서, 이를 포함하는 이미지 처리 장치 및 비전 센서의 동작 방법
KR20220076944A (ko) 2020-12-01 2022-06-08 삼성전자주식회사 비전 센서, 이를 포함하는 이미지 처리 장치 및 비전 센서의 동작 방법
KR20220085619A (ko) 2020-12-15 2022-06-22 삼성전자주식회사 비전 센서 및 이의 동작 방법
CN113155032A (zh) * 2020-12-16 2021-07-23 重庆邮电大学 一种基于动态视觉传感器dvs的建筑物结构位移测量方法
US11430828B2 (en) * 2020-12-17 2022-08-30 Omnivision Technologies, Inc. Event driven pixel for spatial information extraction
CN112788262B (zh) * 2020-12-30 2024-05-31 上海集成电路研发中心有限公司 图像信号检测电路、控制方法以及运动检测方法
KR102445008B1 (ko) 2020-12-31 2022-09-21 한국전자통신연구원 이벤트 기반 영상 센싱 장치 및 방법
KR20220108608A (ko) 2021-01-27 2022-08-03 삼성전자주식회사 비전 센서 및 이를 포함하는 이미지 처리 장치
JP6923240B1 (ja) * 2021-02-12 2021-08-18 株式会社SensAI 固体撮像装置、及び固体撮像装置の駆動方法
EP4315833A1 (en) * 2021-03-26 2024-02-07 Sony Semiconductor Solutions Corporation Pixel circuit and solid-state imaging device
KR20240055696A (ko) 2021-04-16 2024-04-29 인터그레이티드 다이나믹 일렉트론 솔루션즈, 인크. 전자 현미경 기술을 위한 임의의 전자 선량 파형
CN113132656B (zh) * 2021-04-20 2022-01-28 豪威芯仑传感器(上海)有限公司 一种图像传感器及图像处理系统
KR20220156327A (ko) 2021-05-18 2022-11-25 삼성전자주식회사 비전 센서 및 이의 동작 방법
KR20220164354A (ko) 2021-06-04 2022-12-13 삼성전자주식회사 비전 센서 및 비전 센서의 동작 방법
CN113365004B (zh) * 2021-06-07 2022-03-29 豪威芯仑传感器(上海)有限公司 一种像素采集电路及图像传感器
CN113518159B (zh) * 2021-06-08 2022-11-01 天津大学 同步读出的大阵列动态视觉传感器及读出方法
FR3125666B1 (fr) * 2021-07-26 2024-07-12 Commissariat Energie Atomique Architecture de lecture à base de drapeau pour un réseau matriciel de pixels événementiels
FR3125665B1 (fr) * 2021-07-26 2023-11-10 Commissariat Energie Atomique Circuit de lecture rapide pour un réseau matriciel de pixels événementiels
KR20230018044A (ko) * 2021-07-29 2023-02-07 삼성전자주식회사 다이나믹 비전 센서의 시간 지연을 보상하기 위한 전자 장치
CN113747090B (zh) * 2021-09-01 2022-09-30 豪威芯仑传感器(上海)有限公司 一种像素采集电路及图像传感器
WO2023150949A1 (en) * 2022-02-10 2023-08-17 Huawei Technologies Co., Ltd. High speed, low power pixel bias circuit
US20230260282A1 (en) * 2022-02-15 2023-08-17 Sony Group Corporation Information processing devices, information processing methods and video streaming system
CN114422725B (zh) * 2022-03-15 2022-07-01 深圳锐视智芯科技有限公司 一种图像输出方法、图像传感器及其应用
WO2023186468A1 (en) * 2022-03-31 2023-10-05 Sony Semiconductor Solutions Corporation Image sensor including pixel circuits for event detection connected to a column signal line
CN114581490B (zh) * 2022-04-29 2022-09-20 北京大学 一种场景设置方法、装置、控制设备及可读存储介质
US11812139B1 (en) 2022-06-20 2023-11-07 Samsung Electronics Co., Ltd. Closed loop dynamic ISP throttling
US12088925B1 (en) 2022-09-13 2024-09-10 Apple Inc. Flicker detection using event-based readout circuits
US11848173B1 (en) * 2023-01-31 2023-12-19 Integrated Dynamic Electron Solutions, Inc. Methods and systems for event modulated electron microscopy

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007166581A (ja) * 2005-11-16 2007-06-28 Matsushita Electric Ind Co Ltd 高速撮影用固体撮像装置
US20150194454A1 (en) * 2014-01-08 2015-07-09 Moo Young Kim Vision sensor chip with open-loop amplifier, operating method, and data processing system including same
JP2016533140A (ja) * 2013-09-16 2016-10-20 クロノカム 動的な、単一光ダイオードの画素回路およびその作動方法

Family Cites Families (52)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CH176516A (de) 1933-10-01 1935-04-15 Enderlin Charles Vorrichtung an Fahrrädern zur Ermöglichung der Unterstützung des Fussantriebes durch Handantrieb.
CH176416A (de) 1933-10-23 1935-04-15 Fa Fr Speidel Karabinerhaken, insbesondere für Uhrarmbänder.
US5107103A (en) 1990-01-26 1992-04-21 Carnegie-Mellon University Integrated circuit having at least a sensor and a processor thereon
DE69218755T2 (de) 1992-01-24 1997-07-10 Rockwell International Corp Ausleseverstärker für starrende Infrarotbildebenenanlage
US5488415A (en) 1993-07-09 1996-01-30 Olympus Optical Co., Ltd. Solid-state image pickup device having a photoelectric conversion detection cell with high sensitivity
US6253161B1 (en) 1997-07-10 2001-06-26 Universite Laval Integrated motion vision sensor
US6624849B1 (en) 1997-12-08 2003-09-23 Nikon Corporation Solid-state imaging apparatus for motion detection
DE10125307A1 (de) 2000-10-07 2002-08-01 Silicon Vision Ag Optischer Sensor
US7443427B2 (en) * 2002-08-23 2008-10-28 Micron Technology, Inc. Wide dynamic range linear-and-log active pixel
DE10301598A1 (de) 2002-09-13 2004-03-25 Conti Temic Microelectronic Gmbh Photodetektor-Anordnung und Verfahren zur Störlichtkompensation
US20040212678A1 (en) * 2003-04-25 2004-10-28 Cooper Peter David Low power motion detection system
EP1652307A4 (en) 2003-07-14 2006-11-22 Univ Rochester SIGMA-DELTA ANALOGUE / DIGITAL CONVERTER CONCEPT WITH MULTIPLEXED INPUT SEPARATION FOR ANALOGUE / DIGITAL PIXEL LEVEL CONVERSION
GB0412296D0 (en) * 2004-06-02 2004-07-07 Council Cent Lab Res Councils Imaging device
EP1657910A1 (en) 2004-11-12 2006-05-17 STMicroelectronics Limited Image sensor
JP5244587B2 (ja) 2005-06-03 2013-07-24 ウニヴェルズィテート チューリッヒ 時間依存性の画像データを検出するフォトアレイ
US7821558B2 (en) * 2005-11-15 2010-10-26 Stmicroelectronics S.A. Image sensor with circuitry for detecting each pixel receiving a given light intensity and providing addresses thereof
EP1982513A2 (en) 2006-01-25 2008-10-22 Melexis NV Image sensor with a photodiode readout circuit
US20070222879A1 (en) 2006-03-24 2007-09-27 Intel Corporation Sub-ranging pixel sample and hold
AT504582B1 (de) * 2006-11-23 2008-12-15 Arc Austrian Res Centers Gmbh Verfahren zur generierung eines bildes in elektronischer form, bildelement für einen bildsensor zur generierung eines bildes sowie bildsensor
US8026960B2 (en) * 2008-04-29 2011-09-27 Xerox Corporation Image sensor and associated readout system
US8891978B2 (en) 2008-09-19 2014-11-18 National University Corporation Shizuoka University Information-acquisition device and optical communication system
US8436288B2 (en) * 2009-04-24 2013-05-07 Quantum Semiconductor Llc Image sensors with photo-current mode and solar cell operation
WO2012093387A2 (en) * 2011-01-09 2012-07-12 Emza Visual Sense Ltd. Pixel design with temporal analysis capabilities for scene interpretation
US8890052B2 (en) * 2011-05-03 2014-11-18 Raytheon Company Shift register with two-phase non-overlapping clocks
FR2977055B1 (fr) 2011-06-21 2013-07-12 Astrium Sas Detecteur a fonction d'imagerie selective et procede de detection d'eclairs
WO2013070942A1 (en) * 2011-11-08 2013-05-16 Rambus Inc. Image sensor sampled at non-uniform intervals
KR101724513B1 (ko) 2011-12-19 2017-04-07 유니베르시태트 취리히 포토어레이, 특히 시간 의존성 이미지 데이터의 비동기성 검출과 샘플링된 밝기의 감지를 동시 실시하기 위한 포토어레이
JP6029286B2 (ja) * 2012-02-17 2016-11-24 キヤノン株式会社 光電変換装置および撮像システム
JP5973758B2 (ja) * 2012-03-22 2016-08-23 オリンパス株式会社 固体撮像装置
US9154713B2 (en) * 2012-04-19 2015-10-06 Raytheon Company Repartitioned digital pixel
KR102070562B1 (ko) 2012-06-19 2020-01-30 삼성전자주식회사 이벤트 기반 이미지 처리 장치 및 그 장치를 이용한 방법
US9521337B1 (en) * 2012-07-13 2016-12-13 Rambus Inc. Reset-marking pixel sensor
ES2476115B1 (es) 2012-12-11 2015-04-20 Consejo Superior De Investigaciones Científicas (Csic) Metodo y dispositivo para la deteccion de la variacion temporal de la intensidad luminosa en una matriz de fotosensores
JP6145655B2 (ja) * 2012-12-18 2017-06-14 パナソニックIpマネジメント株式会社 半導体光検出器
FR3000347B1 (fr) * 2012-12-21 2016-03-04 Trixell Procede de lecture d'un dispositif d'imagerie
KR102009165B1 (ko) 2013-01-24 2019-10-21 삼성전자 주식회사 이미지 센서, 멀티 칩 패키지, 및 전자 장치
JP5925713B2 (ja) 2013-02-26 2016-05-25 株式会社東芝 固体撮像装置
CN103259985B (zh) * 2013-05-17 2016-08-17 昆山锐芯微电子有限公司 Cmos图像传感器、像素单元及其控制方法
KR102102702B1 (ko) * 2013-06-19 2020-04-21 삼성전자주식회사 이미지 센서의 단위 픽셀 및 이를 포함하는 이미지 센서
KR102054774B1 (ko) 2013-09-10 2019-12-11 삼성전자주식회사 동적 비전 센서, 조도 센서, 및 근접 센서 기능을 구비한 이미지 장치
US9094628B2 (en) * 2013-10-27 2015-07-28 Raytheon Company Address mapped repartitioned digital pixel
FR3020699A1 (fr) 2014-04-30 2015-11-06 Centre Nat Rech Scient Procede de suivi de forme dans une scene observee par un capteur asynchrone de lumiere
US9846677B2 (en) 2014-09-16 2017-12-19 Qualcomm Incorporated Event-based spatial transformation
US20160093273A1 (en) * 2014-09-30 2016-03-31 Samsung Electronics Co., Ltd. Dynamic vision sensor with shared pixels and time division multiplexing for higher spatial resolution and better linear separable data
KR102357680B1 (ko) 2014-11-17 2022-02-03 삼성전자주식회사 이벤트에 기반하여 객체의 이동을 감지하는 장치 및 방법
KR102426677B1 (ko) 2015-03-09 2022-07-28 삼성전자주식회사 오프셋 및 잡음이 감소되는 차분 증폭기 및 이벤트에 기반한 비전 센서
KR102407274B1 (ko) * 2015-07-31 2022-06-10 삼성전자주식회사 임계 전압 제어 방법 및 임계 전압 제어 장치
KR102399017B1 (ko) 2015-11-16 2022-05-17 삼성전자주식회사 이미지 생성 방법 및 장치
EP3424211B1 (en) 2016-03-03 2020-07-08 Insightness AG An event-based vision sensor
WO2017158483A1 (en) 2016-03-14 2017-09-21 Insightness Ag A vision sensor, a method of vision sensing, and a depth sensor assembly
EP3440833B8 (en) 2016-04-04 2019-09-25 Prophesee Sample and hold based temporal contrast vision sensor
WO2018122800A1 (en) * 2016-12-30 2018-07-05 Insightness Ag Data rate control for event-based vision sensor

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007166581A (ja) * 2005-11-16 2007-06-28 Matsushita Electric Ind Co Ltd 高速撮影用固体撮像装置
JP2016533140A (ja) * 2013-09-16 2016-10-20 クロノカム 動的な、単一光ダイオードの画素回路およびその作動方法
US20150194454A1 (en) * 2014-01-08 2015-07-09 Moo Young Kim Vision sensor chip with open-loop amplifier, operating method, and data processing system including same

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
K. AIZAWA ET AL.: "Compuational Image Sensor for on Sensor Compression", IEEE TRANSACTIONS ON ELECTRON DEVICE, vol. 44, no. 10, JPN6023019962, October 1997 (1997-10-01), US, pages 1724 - 1730, ISSN: 0005064773 *
K. AIZAWA ET AL.: "On Sensor Image Compression", IEEE TRANSACTIOS ON CIRCUITS AND SYSTEMS FOR VIDEO TECHNOLOGY, vol. 7, no. 3, JPN6023019963, June 1997 (1997-06-01), US, pages 543 - 546, XP011014386, ISSN: 0005064772 *

Also Published As

Publication number Publication date
US20220394205A1 (en) 2022-12-08
KR20240148934A (ko) 2024-10-11
US20180191982A1 (en) 2018-07-05
US20180191972A1 (en) 2018-07-05
JP2020505801A (ja) 2020-02-20
US20240276117A1 (en) 2024-08-15
US20180189959A1 (en) 2018-07-05
US12010447B2 (en) 2024-06-11
US20210337151A1 (en) 2021-10-28
US20230328406A1 (en) 2023-10-12
WO2018122798A1 (en) 2018-07-05
EP3563564A1 (en) 2019-11-06
KR20190102021A (ko) 2019-09-02
CN110169050B (zh) 2022-07-26
CN115037896A (zh) 2022-09-09
US11991466B2 (en) 2024-05-21
KR102704878B1 (ko) 2024-09-11
US10567679B2 (en) 2020-02-18
JP7074954B2 (ja) 2022-05-25
EP3563563A1 (en) 2019-11-06
CN110192387B (zh) 2022-06-17
JP7074955B2 (ja) 2022-05-25
JP2022075789A (ja) 2022-05-18
CN110192387A (zh) 2019-08-30
US20200221040A1 (en) 2020-07-09
US11336859B2 (en) 2022-05-17
US20240292127A1 (en) 2024-08-29
JP2023182811A (ja) 2023-12-26
US20200154064A1 (en) 2020-05-14
US10715750B2 (en) 2020-07-14
KR20240135074A (ko) 2024-09-10
KR20190102223A (ko) 2019-09-03
US11711631B2 (en) 2023-07-25
DE202017007535U1 (de) 2022-11-03
KR20230087615A (ko) 2023-06-16
KR102541757B1 (ko) 2023-06-13
EP3563564B1 (en) 2021-12-15
US10602083B2 (en) 2020-03-24
JP7442560B2 (ja) 2024-03-04
EP3563563B1 (en) 2020-12-16
KR102467771B1 (ko) 2022-11-16
WO2018122800A1 (en) 2018-07-05
US11431937B2 (en) 2022-08-30
JP2024056930A (ja) 2024-04-23
CN110169050A (zh) 2019-08-23
JP7374242B2 (ja) 2023-11-06
US20200288073A1 (en) 2020-09-10
EP3869791A1 (en) 2021-08-25
US11076114B2 (en) 2021-07-27
JP2020503752A (ja) 2020-01-30
KR20220157514A (ko) 2022-11-29
KR102712372B1 (ko) 2024-09-30

Similar Documents

Publication Publication Date Title
JP7074955B2 (ja) 事象ベースの視覚センサのためのデータ速度制御
US11317045B2 (en) Event-based image sensor and operating method thereof
CN111149350B (zh) 使用事件相机生成静态图像
CN109903324B (zh) 一种深度图像获取方法及装置
CN108632546B (zh) 像素采集电路、光流传感器及图像采集系统
WO2006078861A9 (en) Method, system and apparatus for a time stamped visual motion sensor
US11825218B2 (en) Dynamic region of interest (ROI) for event-based vision sensors
KR20190069581A (ko) 플럭스 레이트 유닛 셀 초점면 어레이
US11815394B2 (en) Photoelectric conversion device, method of controlling photoelectric conversion device, and information processing apparatus
JP4329677B2 (ja) 動き検出装置
KR20220054592A (ko) 이벤트 기반 비전 센서들에서의 지연 균등화
JP4285573B2 (ja) 動き検出装置
Ioan et al. Laser based displacement measurements using image processing
Sedivy et al. Precision Single-line Dimension Measurement Using CMOS Image Sensor and photometric interpolation
JP2022067623A (ja) 光電変換素子、光電変換素子の制御方法、および情報処理装置。

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220408

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220408

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230512

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230523

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20230823

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20230823

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231016

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240116

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240122

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240130

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240220

R150 Certificate of patent or registration of utility model

Ref document number: 7442560

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150