WO2020261491A1 - センサ制御装置、センサ制御方法およびプログラム - Google Patents

センサ制御装置、センサ制御方法およびプログラム Download PDF

Info

Publication number
WO2020261491A1
WO2020261491A1 PCT/JP2019/025620 JP2019025620W WO2020261491A1 WO 2020261491 A1 WO2020261491 A1 WO 2020261491A1 JP 2019025620 W JP2019025620 W JP 2019025620W WO 2020261491 A1 WO2020261491 A1 WO 2020261491A1
Authority
WO
WIPO (PCT)
Prior art keywords
region
event
sensor
frequency
reading
Prior art date
Application number
PCT/JP2019/025620
Other languages
English (en)
French (fr)
Inventor
宏昌 長沼
Original Assignee
株式会社ソニー・インタラクティブエンタテインメント
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社ソニー・インタラクティブエンタテインメント filed Critical 株式会社ソニー・インタラクティブエンタテインメント
Priority to US17/614,790 priority Critical patent/US11678074B2/en
Priority to EP19935191.7A priority patent/EP3993403B1/en
Priority to PCT/JP2019/025620 priority patent/WO2020261491A1/ja
Priority to JP2021528788A priority patent/JP7177934B2/ja
Priority to KR1020217040719A priority patent/KR102676085B1/ko
Priority to CN201980097699.9A priority patent/CN114009009B/zh
Publication of WO2020261491A1 publication Critical patent/WO2020261491A1/ja

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • H04N25/443Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array by reading pixels from selected 2D regions of the array, e.g. for windowing or digital zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/42Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by switching between different modes of operation using different resolutions or aspect ratios, e.g. switching between interlaced and non-interlaced mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/47Image sensors with pixel address output; Event-driven image sensors; Selection of pixels to be read out based on image data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/78Readout circuits for addressed sensors, e.g. output amplifiers or A/D converters

Definitions

  • the present invention relates to a sensor control device, a sensor control method and a program.
  • An event-driven vision sensor is known in which pixels that detect changes in the intensity of incident light generate signals asynchronously in time.
  • the event-driven vision sensor is advantageous in that it can operate at low power and high speed compared to a frame-type vision sensor that scans all pixels at predetermined cycles, specifically, an image sensor such as CCD or CMOS. Is. Techniques for such an event-driven vision sensor are described in, for example, Patent Document 1 and Patent Document 2.
  • an object of the present invention is to provide a sensor control device, a sensor control method, and a program capable of optimizing read control in consideration of time-asynchronous signal generation in an event-driven vision sensor. And.
  • an event-driven vision sensor comprising a sensor array composed of sensors that generate an event signal when an incident light intensity change is detected is the first region on the sensor array.
  • a read control unit that controls to read the event signal at the first frequency and read the event signal at the second frequency higher than the first frequency in the second region on the sensor array, and within a predetermined time. At least a portion of the first region is changed to the second region based on the number of first event signals obtained by reading in the first region, or in the second region within a predetermined time.
  • a sensor control device including a region setting unit that changes at least a part of the second region to the first region based on the number of the second event signals acquired by reading the above.
  • an event-driven vision sensor comprising a sensor array composed of sensors that generate an event signal when an incident light intensity change is detected is the first on the sensor array.
  • a sensor control method is provided that includes a step of changing at least a portion of the second region to the first region based on the number of second event signals acquired by the readout.
  • an event driven vision sensor comprising a sensor array composed of sensors that generate an event signal when an incident light intensity change is detected is the first on the sensor array.
  • a program is provided for the computer to realize a function of changing at least a part of the second area to the first area based on the number of the second event signals acquired by reading the above.
  • the read control can be optimized in consideration of the time-asynchronous signal generation in the event-driven vision sensor.
  • FIG. 1 is a diagram showing a schematic configuration of a system according to an embodiment of the present invention
  • FIG. 2 is a diagram showing a configuration of EDS shown in FIG.
  • the system 10 includes an EDS (Event Driven Sensor) 100 and a sensor control device 200.
  • EDS Event Driven Sensor
  • the EDS 100 is an event-driven vision sensor, from a sensor array 120 composed of a sensor 110 that generates an event signal when an incident light intensity change (hereinafter, also referred to as an event) is detected, and a sensor 110. It includes address generators 131 and 132 that control the reading of event signals.
  • the sensors 110 are arranged in two orthogonal directions (shown as the x-direction and the y-direction), and events are generated from the sensor 110 according to the addresses generated by the address generators 131 and 132 in the x-direction and the y-direction, respectively. The signal is read.
  • the event signal output from the EDS 100 is time asynchronous.
  • the event signal output from the EDS 100 includes the identification information (for example, the address) of the sensor, the polarity (increase or decrease) of the brightness change, and the time stamp.
  • the sensor control device 200 is implemented by, for example, a computer having a communication interface, a processor, and a memory, and is realized by the processor operating according to a program stored in the memory or received via the communication interface. Includes functional parts of 210 and area setting unit 220. Further, the area information 230 and the event history 240 are stored in the memory of the sensor control device 200. Hereinafter, the configuration of each part will be further described.
  • the read control unit 210 controls the read frequency of the event signal in the EDS 100. Specifically, the read control unit 210 transmits a control signal to the EDS 100, and in the EDS 100, the address generators 131 and 132 generate an address for reading the event signal from the sensor 110 according to the control signal.
  • the read control unit 210 reads the event signal at the first frequency r 1 in the first region on the sensor array 120, and reads the event signal at the second frequency r 2 in the second region on the sensor array 120.
  • the EDS 100 is controlled so as to be read by, and the second frequency r 2 is higher than the first frequency r 1 (r 1 ⁇ r 2 ).
  • the frequency means the number of times a read is executed in a unit time.
  • the address generator 131 and 132 EDS100 which receives the control signal as described above, per the address of the sensor 110 of the first region unit time r 1 times, second r per unit address of the sensor 110 in the time domain to generate twice.
  • the first region and the second region set in the processing of the read control unit 210 as described above are regions including a plurality of sensors 110 on the sensor array 120, for example, addresses in the x-direction and the y-direction, respectively.
  • the area information 230 includes at least one of an address range indicating a first area and an address range indicating a second area.
  • the region information 230 may include only the address range indicating the second region, and a region other than the second region on the sensor array 120 may be specified as the first region.
  • the sensor array 120 may be divided into a predetermined number of unit regions in advance, and the region information 230 may include IDs of unit regions included in each of the first region and the second region.
  • the read control unit 210 may convert the ID of each unit area into an address range, and the control signal may include information indicating the addresses of the first area and the second area.
  • the area setting unit 220 changes at least a part of the first area to the second area based on the number of the first event signals acquired by reading in the first area within a predetermined time. Alternatively, at least a part of the second region is changed to the first region based on the number of the second event signals acquired by reading in the second region within a predetermined time. The area setting unit 220 updates the area information 230 in the changed area.
  • the control of the EDS 100 by the read control unit 210 as described above is based on the premise that the frequency of event detection in the first region on the sensor array 120 is lower than the frequency of event detection in the second region. ing.
  • the frequency of event detection in a part of the first area is equal to or higher than that of the second area, it is appropriate to change the part to the second area. Is. Similarly, if an event is detected in a part of the second area as often as or less frequently than in the first area, it is appropriate to change that part to the first area. Is.
  • the area setting unit 220 executes the above process with reference to the event history 240.
  • the event history 240 includes the address and time stamp of the event signal most recently received from the EDS 100.
  • the area setting unit 220 counts the number of event signals (first event signals) for each sub-area of the first area at the latest predetermined time based on these addresses and time stamps, and counts the number of event signals (first event signals) of the event signals.
  • the sub-region whose number is equal to or greater than the first threshold is changed to the second region. As a result, the sub-region in which more event signals are generated in the first region set at a certain time can be changed to the second region, and the frequency of reading the event signal can be increased.
  • the area setting unit 220 counts the number of event signals (second event signals) for each sub-region of the second region in the latest predetermined time, and the number of event signals is equal to or less than the second threshold value. Change the sub-region to the first region. As a result, the sub-region in which more event signals are generated in the second region set at a certain time can be changed to the first region, and the frequency of reading the event signal can be reduced.
  • the first threshold value and the second threshold value may have the same value or different values.
  • the frequency of reading event signals is increased in a region where events occur frequently due to the subject moving at a relatively high speed, and conversely the subject moves.
  • the frequency of reading event signals can be reduced in areas where events are less likely to occur because they are not or are moving at a relatively slow speed.
  • the reading cycle of the event signal in the region where many events occur can be relatively shortened as compared with the case where the reading frequency of the event signal is uniform, and the event signal for the movement of the subject can be shortened.
  • the followability can be improved.
  • events that are not related to the movement of the subject due to noise or the like generally occur less frequently than events that occur due to the movement of the subject. Therefore, by lowering the frequency of reading event signals in the region where events are less likely to occur as described above, it is possible to reduce the proportion of event signals derived from events that are not related to the movement of the subject due to noise or the like. As a whole, the S / N ratio of the event signal can be improved.
  • the read control unit 210 controls the read frequency of the event signal for the first region and the second region set on the sensor array 120 of the EDS 100, but more regions are formed on the sensor array 120. It may be set.
  • the third region is set in addition to the first and second regions on the sensor array 120, readout control unit 210 of the sensor control device 200, the third event signal in the region of the second frequency r 2
  • the EDS 100 may be controlled to read at a higher third frequency r 3 (r 2 ⁇ r 3 ).
  • a fourth region is set on the sensor array 120, and the read control unit 210 sends an event signal in the fourth region to a fourth frequency r 4 (r 3 ⁇ r 4 ) higher than the third frequency r 3.
  • the EDS 100 may be controlled so as to be read by.
  • FIG. 3 is a diagram showing an example in which four regions are set on the sensor array in one embodiment of the present invention.
  • a first region S 1 , a second region S 2 , a third region S 3 , and a fourth region S 4 are set on the sensor array 120 of the EDS 100.
  • a control signal is transmitted to the EDS 100 so as to read the signal.
  • the occurrence of events is increased because the subject obj is moving at a relatively high speed.
  • the area setting unit 220 changes the area setting based on the number of signals acquired by reading in each area. Specifically, the area setting unit 220, second in from the area S 2 (b) the fourth region S 4 in the region where the generation becomes more events by the subject obj has moved (a) Change to. Meanwhile, the area setting unit 220, the fourth region S 4 from (b) in the third region S 3 in a region where the occurrence is low event by subject obj has passed (a) or the second, changing of the area S 2.
  • the region where a relatively high read frequency is set on the sensor array 120 of the EDS 100 changes as the subject obj moves.
  • the followability of the event signal to the movement of the subject obj can be continuously improved.
  • the region change determination may be executed, for example, at short time intervals so as to follow the movement of the subject obj.
  • FIG. 4 is a diagram showing a modified example of the embodiment of the present invention.
  • the first frequency r 1 the read control unit 210 an event signal is read from the first region S 1 in accordance with the control signal to be transmitted is zero. That is, in the example shown, do not generate an address for the address generator 131 reads the event signal from the first region S 1 of the sensor 110.
  • the sensor 110 is a defective pixel included in the first region S 1, ie, to a sensor that does not detect a change in light intensity, valid event signal is not generated from the sensor 110.
  • the frequency of reading the event signal from the sensor 110 is set to 0, that is, by not executing the reading of the event signal, the reading cycle of the event signal from the other sensor 110 is shortened, and the event signal as a whole is shortened. S / N ratio can be improved.
  • the region setting unit 220 for example, the sensor 110 is noise only when event signal acquired by reading from the second sensor 110 of the region S 2 for a longer time than the cycle for generating the event signal (second event signal) is 0 by, in the sensor 110
  • the sub-region of the corresponding second region S 2 may be changed to the first region S 1 .
  • FIG. 5 is a flowchart showing an example of processing of the sensor control method according to the embodiment of the present invention.
  • the address generators 131 and 132 generate addresses according to the control signal transmitted by the read control unit 210 referring to the area information 230 in the sensor control device 200, and the event signal from the sensor 110 is read and executed.
  • the event signal is read from the sensor 110 in the first region on the sensor array 120 at the first frequency (step S101), and the event signal is read from the sensor 110 in the second region at the second frequency (step S101).
  • step S102 the number of event signals read in steps S101 and S102 varies from time to time.
  • the area update process is executed by the area setting unit 220.
  • the area setting unit 220 refers to the event history 240 and sets a second sub-region in the first region in which the number of event signals acquired within a predetermined time is equal to or greater than the first threshold value. Change to an area (step S104). Further, the area setting unit 220 changes the sub-area in which the number of event signals acquired within a predetermined time is equal to or less than the second threshold value in the second area to the first area (step S105).
  • the area setting unit 220 updates the area information 230 in the changed area (step S106), and the process of steps S101 to S106 is repeated at predetermined time intervals (step S107).
  • a game controller for example, a game controller, a smartphone, and various moving objects (automobiles, electric vehicles, hybrid electric vehicles, motorcycles, bicycles, personal mobility, airplanes, drones, ships, robots, etc.) are used to provide information on the surrounding environment. It can be used to acquire, estimate its own position from the positions of surrounding objects, detect incoming objects, and take evasive action.
  • moving objects autonomouss, electric vehicles, hybrid electric vehicles, motorcycles, bicycles, personal mobility, airplanes, drones, ships, robots, etc.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Photometry And Measurement Of Optical Pulse Characteristics (AREA)
  • Geophysics And Detection Of Objects (AREA)

Abstract

入射する光の強度変化を検出したときにイベント信号を生成するセンサによって構成されるセンサアレイを含むイベント駆動型のビジョンセンサを、センサアレイ上の第1の領域においてイベント信号を第1の頻度で読み出し、センサアレイ上の第2の領域においてイベント信号を第1の頻度よりも高い第2の頻度で読み出すように制御する読み出し制御部と、所定の時間内に第1の領域での読み出しによって取得された第1のイベント信号の数に基づいて第1の領域の少なくとも一部を第2の領域に変更するか、または所定の時間内に第2の領域での読み出しによって取得された第2のイベント信号の数に基づいて第2の領域の少なくとも一部を第1の領域に変更する領域設定部とを備えるセンサ制御装置が提供される。

Description

センサ制御装置、センサ制御方法およびプログラム
 本発明は、センサ制御装置、センサ制御方法およびプログラムに関する。
 入射する光の強度変化を検出したピクセルが時間非同期的に信号を生成する、イベント駆動型のビジョンセンサが知られている。イベント駆動型のビジョンセンサは、所定の周期ごとに全ピクセルをスキャンするフレーム型ビジョンセンサ、具体的にはCCDやCMOSなどのイメージセンサに比べて、低電力で高速に動作可能である点で有利である。このようなイベント駆動型のビジョンセンサに関する技術は、例えば特許文献1および特許文献2に記載されている。
特表2014-535098号公報 特開2018-85725号公報
 しかしながら、イベント駆動型のビジョンセンサについて、上記のような時間非同期的な信号の生成を考慮してセンサの読み出し制御を最適化する技術については、まだ提案されていない。
 そこで、本発明は、イベント駆動型のビジョンセンサにおける時間非同期的な信号の生成を考慮して読み出し制御を最適化することが可能な、センサ制御装置、センサ制御方法およびプログラムを提供することを目的とする。
 本発明のある観点によれば、入射する光の強度変化を検出したときにイベント信号を生成するセンサによって構成されるセンサアレイを含むイベント駆動型のビジョンセンサを、センサアレイ上の第1の領域においてイベント信号を第1の頻度で読み出し、センサアレイ上の第2の領域においてイベント信号を第1の頻度よりも高い第2の頻度で読み出すように制御する読み出し制御部と、所定の時間内に第1の領域での読み出しによって取得された第1のイベント信号の数に基づいて第1の領域の少なくとも一部を第2の領域に変更するか、または所定の時間内に第2の領域での読み出しによって取得された第2のイベント信号の数に基づいて第2の領域の少なくとも一部を第1の領域に変更する領域設定部とを備えるセンサ制御装置が提供される。
 本発明の別の観点によれば、入射する光の強度変化を検出したときにイベント信号を生成するセンサによって構成されるセンサアレイを含むイベント駆動型のビジョンセンサを、センサアレイ上の第1の領域においてイベント信号を第1の頻度で読み出し、センサアレイ上の第2の領域においてイベント信号を第1の頻度よりも高い第2の頻度で読み出すように制御するステップと、所定の時間内に第1の領域での読み出しによって取得された第1のイベント信号の数に基づいて第1の領域の少なくとも一部を第2の領域に変更するか、または所定の時間内に第2の領域での読み出しによって取得された第2のイベント信号の数に基づいて第2の領域の少なくとも一部を第1の領域に変更するステップとを含むセンサ制御方法が提供される。
 本発明のさらに別の観点によれば、入射する光の強度変化を検出したときにイベント信号を生成するセンサによって構成されるセンサアレイを含むイベント駆動型のビジョンセンサを、センサアレイ上の第1の領域においてイベント信号を第1の頻度で読み出し、センサアレイ上の第2の領域においてイベント信号を第1の頻度よりも高い第2の頻度で読み出すように制御する機能と、所定の時間内に第1の領域での読み出しによって取得された第1のイベント信号の数に基づいて第1の領域の少なくとも一部を第2の領域に変更するか、または所定の時間内に第2の領域での読み出しによって取得された第2のイベント信号の数に基づいて第2の領域の少なくとも一部を第1の領域に変更する機能とをコンピュータに実現させるためのプログラムが提供される。
 上記の構成によれば、イベント駆動型のビジョンセンサにおける時間非同期的な信号の生成を考慮して読み出し制御を最適化することができる。
本発明の一実施形態に係るシステムの概略的な構成を示す図である。 図1に示すEDSの構成を示す図である。 本発明の一実施形態においてセンサアレイ上に4つの領域が設定される例を示す図である。 本発明の一実施形態の変形例を示す図である。 本発明の一実施形態に係るセンサ制御方法の処理の例を示すフローチャートである。
 以下に添付図面を参照しながら、本発明の好適な実施形態について詳細に説明する。なお、本明細書および図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複した説明を省略する。
 図1は本発明の一実施形態に係るシステムの概略的な構成を示す図であり、図2は図1に示すEDSの構成を示す図である。図示された例において、システム10は、EDS(Event Driven Sensor)100と、センサ制御装置200とを含む。
 EDS100は、イベント駆動型のビジョンセンサであり、入射する光の強度変化(以下、イベントともいう)を検出したときにイベント信号を生成するセンサ110によって構成されるセンサアレイ120と、センサ110からのイベント信号の読み出しを制御するアドレス発生装置131,132とを含む。センサアレイ120において、センサ110は直交する2方向(x方向およびy方向として図示する)に配列されており、アドレス発生装置131,132がそれぞれx方向およびy方向について発生させるアドレスに従ってセンサ110からイベント信号が読み出される。ここで、あるアドレスのセンサ110がイベントを検出しなかった場合には読み出しが実行されてもイベント信号は読み出されず、次のアドレスの読み出しが実行される。従って、EDS100から出力されるイベント信号は時間非同期的である。EDS100から出力されるイベント信号は、センサの識別情報(例えばアドレス)と、輝度変化の極性(上昇または低下)と、タイムスタンプとを含む。
 センサ制御装置200は、例えば通信インターフェース、プロセッサ、およびメモリを有するコンピュータによって実装され、プロセッサがメモリに格納された、または通信インターフェースを介して受信されたプログラムに従って動作することによって実現される読み出し制御部210および領域設定部220の機能部分を含む。また、センサ制御装置200のメモリには、領域情報230およびイベント履歴240が格納される。以下、各部の構成についてさらに説明する。
 読み出し制御部210は、EDS100におけるイベント信号の読み出し頻度を制御する。具体的には、読み出し制御部210は、EDS100に制御信号を送信し、EDS100ではアドレス発生装置131,132が制御信号に従ってセンサ110からイベント信号を読み出すためのアドレスを生成する。ここで、読み出し制御部210は、センサアレイ120上の第1の領域においてイベント信号を第1の頻度rで読み出し、センサアレイ120上の第2の領域においてイベント信号を第2の頻度rで読み出すようにEDS100を制御し、第2の頻度rは、第1の頻度rよりも高い(r<r)。ここで、本明細書において、頻度は、単位時間のうちに読み出しが実行される回数を意味する。上記のような制御信号を受信したEDS100のアドレス発生装置131,132は、第1の領域のセンサ110のアドレスを単位時間あたりr回、第2の領域のセンサ110のアドレスを単位時間あたりr回生成する。
 上記のような読み出し制御部210の処理において設定される第1の領域および第2の領域は、センサアレイ120上で複数のセンサ110を含む領域であり、例えばx方向およびy方向のそれぞれのアドレス範囲によって特定される。例えば、領域情報230は、第1の領域を示すアドレス範囲および第2の領域を示すアドレス範囲の少なくともいずれかを含む。例えば、領域情報230が第2の領域を示すアドレス範囲のみを含み、センサアレイ120上の第2の領域以外の領域が第1の領域として特定されてもよい。あるいは、センサアレイ120が予め所定の数の単位領域に区分され、領域情報230は第1の領域および第2の領域のそれぞれに含まれる単位領域のIDを含んでもよい。この場合も、読み出し制御部210がそれぞれの単位領域のIDをアドレス範囲に変換し、制御信号には第1の領域および第2の領域のそれぞれのアドレスを示す情報が含まれてもよい。
 領域設定部220は、所定の時間内に第1の領域での読み出しによって取得された第1のイベント信号の数に基づいて第1の領域の少なくとも一部を第2の領域に変更するか、または所定の時間内に第2の領域での読み出しによって取得された第2のイベント信号の数に基づいて第2の領域の少なくとも一部を第1の領域に変更する。領域設定部220は、変更後の領域で領域情報230を更新する。上述のような読み出し制御部210によるEDS100の制御は、センサアレイ120上の第1の領域でイベントが検出される頻度が、第2の領域でイベントが検出される頻度よりも低いことを前提にしている。従って、第1の領域の一部でイベントが検出される頻度が第2の領域と同程度になるか、またはよりも高くなった場合は、当該部分を第2の領域に変更することが適切である。同様に、第2の領域の一部でイベントが検出される頻度が第1の領域と同程度になるか、またはより低くなった場合は、当該部分を第1の領域に変更することが適切である。
 具体的には、領域設定部220は、イベント履歴240を参照して上記の処理を実行する。例えば、イベント履歴240は、直近でEDS100から受信されたイベント信号のアドレスおよびタイムスタンプを含む。この場合、領域設定部220はこれらのアドレスおよびタイムスタンプに基づいて直近の所定の時間における第1の領域のサブ領域ごとのイベント信号(第1のイベント信号)の数をカウントし、イベント信号の数が第1の閾値以上のサブ領域を第2の領域に変更する。これによって、ある時点で設定されている第1の領域の中でイベント信号がより多く生成されているサブ領域を第2の領域に変更してイベント信号の読み出し頻度を上昇させることができる。同様に、領域設定部220は、直近の所定の時間における第2の領域のサブ領域ごとのイベント信号(第2のイベント信号)の数をカウントし、イベント信号の数が第2の閾値以下のサブ領域を第1の領域に変更する。これによって、ある時点で設定されている第2の領域の中でイベント信号がより多く生成されているサブ領域を第1の領域に変更してイベント信号の読み出し頻度を低下させることができる。上記の第1の閾値と第2の閾値とは、同じ値であってもよいし、異なる値であってもよい。
 以上で説明したような本発明の一実施形態によれば、被写体が比較的速い速度で移動していることによってイベントの発生が多い領域ではイベント信号の読み出し頻度を高くし、逆に被写体が移動していないか、または比較的遅い速度で移動していることによってイベントの発生が少ない領域ではイベント信号の読み出し頻度を低くすることができる。これによって、例えばイベント信号の読み出し頻度が一様である場合に比べて、イベントの発生が多い領域でのイベント信号の読み出し周期を相対的に短縮することができ、被写体の動きへのイベント信号の追従性を向上させることができる。
 また、ノイズなどによる被写体の動きと関係しないイベントは、一般に被写体の動きによって発生するイベントよりも発生頻度が低い。それゆえ、上記のようにイベントの発生が少ない領域ではイベント信号の読み出し頻度を低くすることによって、結果的にノイズなどによる被写体の動きと関係しないイベントに由来するイベント信号の割合を低下させることができ、全体としてイベント信号のS/N比を向上させることができる。
 なお、上記の例では読み出し制御部210がEDS100のセンサアレイ120上に設定された第1の領域および第2の領域についてイベント信号の読み出し頻度を制御したが、センサアレイ120上により多くの領域が設定されてもよい。例えば、センサアレイ120上に第1および第2の領域に加えて第3の領域が設定され、センサ制御装置200の読み出し制御部210は、第3の領域においてイベント信号を第2の頻度rよりも高い第3の頻度r(r<r)で読み出すようにEDS100を制御してもよい。さらに、センサアレイ120上に第4の領域が設定され、読み出し制御部210は第4の領域においてイベント信号を第3の頻度rよりも高い第4の頻度r(r<r)で読み出すようにEDS100を制御してもよい。
 図3は、本発明の一実施形態においてセンサアレイ上に4つの領域が設定される例を示す図である。(a)の時点では、EDS100のセンサアレイ120上に、第1の領域S、第2の領域S、第3の領域S、および第4の領域Sが設定されている。読み出し制御部210は、例えば、パターンP={S,S,S,S,S,S,S,S,S,S}で各領域のセンサ110からイベント信号を読み出すように、EDS100に制御信号を送信する。この場合、各領域の読み出し頻度の比は、r:r:r:r=1:2:3:4になる。第4の領域S4および第3の領域S3では、被写体objが比較的速い速度で移動していることによって、イベントの発生が多くなっている。
 一方、図3に示す(b)の時点では、被写体objが移動したことによって、イベントの発生が多い領域が変化している。これに対応して、センサ制御装置200では、領域設定部220が各領域での読み出しによって取得された信号の数に基づいて領域の設定を変更する。具体的には、領域設定部220は、被写体objが移動してきたことによってイベントの発生が多くなった領域を(a)での第2の領域Sから(b)では第4の領域Sに変更する。一方、領域設定部220は、被写体objが通過したことによってイベントの発生が少なくなった領域を(a)での第4の領域Sから(b)では第3の領域S、または第2の領域Sに変更する。
 例えば、上記で図3を参照して説明した例では、EDS100のセンサアレイ120上で相対的に高い読み出し頻度が設定される領域が、被写体objの移動に伴って変化する。これによって、被写体objの動きへのイベント信号の追従性を継続的に高めることができる。上記の各領域S,S,S,Sの間での判定は、例えば、各領域のサブ領域ごとに直近の所定の時間におけるイベント信号の数を各領域に対応する閾値と比較することによって判定されてもよい。この場合、例えば、ある時点における領域Sのサブ領域が、次の時点では領域S、または領域Sに変更されることがありうる。領域の変更判定は、例えば被写体objの移動に追従できる程度に短い時間間隔で実行されてもよい。
 図4は、本発明の一実施形態の変形例を示す図である。図示された例でもEDS100のセンサアレイ120上に第1の領域Sおよび第2の領域Sを設定するが、上記で図1などを参照して説明した例で第1の領域および第2の領域が複数のセンサ110を含んでいたのに対して、図4の例では第1の領域Sが単一のセンサ110を含んでもよい。また、この例では、読み出し制御部210が送信する制御信号に従って第1の領域Sからイベント信号が読み出される第1の頻度rが0である。つまり、図示された例では、アドレス発生装置131,132が第1の領域Sのセンサ110からイベント信号を読み出すためのアドレスを生成しない。
 上記の例では、第1の領域Sに含まれるセンサ110が欠陥画素、すなわち光の強度変化を検出しないセンサであるために、センサ110からは有効なイベント信号が生成されない。このような場合、当該センサ110からのイベント信号を読み出す頻度を0にする、すなわちイベント信号の読み出しを実行しないことによって、他のセンサ110からのイベント信号の読み出し周期を短縮し、全体としてイベント信号のS/N比を向上させることができる。ただし、ひとたび第1の領域Sに設定されたセンサ110は、イベント信号が読み出されない結果、第2の領域Sに復帰することがないため、領域設定部220は、例えばセンサ110がノイズによってイベント信号を生成する周期よりも長い時間にわたって第2の領域Sのセンサ110からの読み出しによって取得されたイベント信号(第2のイベント信号)が0である場合に限って、当該センサ110に対応する第2の領域Sのサブ領域を第1の領域Sに変更してもよい。
 図5は、本発明の一実施形態に係るセンサ制御方法の処理の例を示すフローチャートである。図示された例では、センサ制御装置200で領域情報230を参照した読み出し制御部210が送信する制御信号に従ってアドレス発生装置131,132がアドレスを発生させ、センサ110からのイベント信号の読み出した実行される。具体的には、センサアレイ120上の第1の領域のセンサ110から第1の頻度でイベント信号を読み出し(ステップS101)、第2の領域のセンサ110から第2の頻度でイベント信号を読み出す(ステップS102)。なお、既に述べたように、各領域のセンサ110がイベントを検出しなかった場合にはイベント信号は生成されないため、ステップS101,S102で読み出されるイベント信号の数はその時々によって異なる。
 所定の時間が経過するまで上記の読み出しが繰り返された後(ステップS103)、領域設定部220による領域の更新処理が実行される。具体的には、領域設定部220は、イベント履歴240を参照して、第1の領域のうち所定の時間内に取得されたイベント信号の数が第1の閾値以上のサブ領域を第2の領域に変更する(ステップS104)。また、領域設定部220は、第2の領域のうち所定の時間内に取得されたイベント信号の数が第2の閾値以下のサブ領域を第1の領域に変更する(ステップS105)。領域設定部220は、変更後の領域で領域情報230を更新し(ステップS106)、上記のステップS101~S106の処理が所定の時間ごとに繰り返される(ステップS107)。
 本発明の実施形態は、例えばゲームコントローラ、スマートフォン、各種の移動体(自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボットなど)で周辺環境の情報を取得したり、周辺のオブジェクトの位置から自己位置を推定したり、飛来するオブジェクトを検出して回避行動をとったりするために利用することができる。
 以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範囲内において、各種の変形例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
 10…システム、110…センサ、120…センサアレイ、131…アドレス発生装置、132…アドレス発生装置、200…センサ制御装置、210…読み出し制御部、220…領域設定部、230…領域情報、240…イベント履歴、S…第1の領域、S…第2の領域、S…第3の領域、S…第4の領域、obj…被写体。
 

Claims (7)

  1.  入射する光の強度変化を検出したときにイベント信号を生成するセンサによって構成されるセンサアレイを含むイベント駆動型のビジョンセンサを、前記センサアレイ上の第1の領域において前記イベント信号を第1の頻度で読み出し、前記センサアレイ上の第2の領域において前記イベント信号を前記第1の頻度よりも高い第2の頻度で読み出すように制御する読み出し制御部と、
     所定の時間内に前記第1の領域での読み出しによって取得された第1のイベント信号の数に基づいて前記第1の領域の少なくとも一部を前記第2の領域に変更するか、または前記所定の時間内に前記第2の領域での読み出しによって取得された第2のイベント信号の数に基づいて前記第2の領域の少なくとも一部を前記第1の領域に変更する領域設定部と
     を備えるセンサ制御装置。
  2.  前記領域設定部は、前記第1の領域のサブ領域ごとの前記第1のイベント信号の数が所定の閾値と同じか、またはより多い場合に前記サブ領域を前記第2の領域に変更する、請求項1に記載のセンサ制御装置。
  3.  前記領域設定部は、前記第2の領域のサブ領域ごとの前記第2のイベント信号の数が所定の閾値と同じか、またはより少ない場合に前記サブ領域を前記第1の領域に変更する、請求項1または請求項2に記載のセンサ制御装置。
  4.  前記第1の頻度は0であり、
     前記所定の時間は、前記センサがノイズによって前記イベント信号を生成する周期よりも長い時間であり、
     前記領域設定部は、前記第2のイベント信号の数が0である場合に前記サブ領域を前記第1の領域に変更する、請求項3に記載のセンサ制御装置。
  5.  前記読み出し制御部は、前記センサアレイ上の第3の領域において前記イベント信号を前記第2の頻度よりも高い第3の頻度で読み出すように制御する、請求項1から請求項4のいずれか1項に記載のセンサ制御装置。
  6.  入射する光の強度変化を検出したときにイベント信号を生成するセンサによって構成されるセンサアレイを含むイベント駆動型のビジョンセンサを、前記センサアレイ上の第1の領域において前記イベント信号を第1の頻度で読み出し、前記センサアレイ上の第2の領域において前記イベント信号を前記第1の頻度よりも高い第2の頻度で読み出すように制御するステップと、
     所定の時間内に前記第1の領域での読み出しによって取得された第1のイベント信号の数に基づいて前記第1の領域の少なくとも一部を前記第2の領域に変更するか、または前記所定の時間内に前記第2の領域での読み出しによって取得された第2のイベント信号の数に基づいて前記第2の領域の少なくとも一部を前記第1の領域に変更するステップと
     を含むセンサ制御方法。
  7.  入射する光の強度変化を検出したときにイベント信号を生成するセンサによって構成されるセンサアレイを含むイベント駆動型のビジョンセンサを、前記センサアレイ上の第1の領域において前記イベント信号を第1の頻度で読み出し、前記センサアレイ上の第2の領域において前記イベント信号を前記第1の頻度よりも高い第2の頻度で読み出すように制御する機能と、
     所定の時間内に前記第1の領域での読み出しによって取得された第1のイベント信号の数に基づいて前記第1の領域の少なくとも一部を前記第2の領域に変更するか、または前記所定の時間内に前記第2の領域での読み出しによって取得された第2のイベント信号の数に基づいて前記第2の領域の少なくとも一部を前記第1の領域に変更する機能と
     をコンピュータに実現させるためのプログラム。
     
PCT/JP2019/025620 2019-06-27 2019-06-27 センサ制御装置、センサ制御方法およびプログラム WO2020261491A1 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
US17/614,790 US11678074B2 (en) 2019-06-27 2019-06-27 Sensor control apparatus, sensor control method, and program
EP19935191.7A EP3993403B1 (en) 2019-06-27 2019-06-27 Sensor control device, sensor control method, and program
PCT/JP2019/025620 WO2020261491A1 (ja) 2019-06-27 2019-06-27 センサ制御装置、センサ制御方法およびプログラム
JP2021528788A JP7177934B2 (ja) 2019-06-27 2019-06-27 センサ制御装置、センサ制御方法およびプログラム
KR1020217040719A KR102676085B1 (ko) 2019-06-27 2019-06-27 센서 제어 장치, 센서 제어 방법 및 프로그램
CN201980097699.9A CN114009009B (zh) 2019-06-27 2019-06-27 传感器控制装置、传感器控制方法和程序

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/025620 WO2020261491A1 (ja) 2019-06-27 2019-06-27 センサ制御装置、センサ制御方法およびプログラム

Publications (1)

Publication Number Publication Date
WO2020261491A1 true WO2020261491A1 (ja) 2020-12-30

Family

ID=74060528

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2019/025620 WO2020261491A1 (ja) 2019-06-27 2019-06-27 センサ制御装置、センサ制御方法およびプログラム

Country Status (6)

Country Link
US (1) US11678074B2 (ja)
EP (1) EP3993403B1 (ja)
JP (1) JP7177934B2 (ja)
KR (1) KR102676085B1 (ja)
CN (1) CN114009009B (ja)
WO (1) WO2020261491A1 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023058670A1 (ja) * 2021-10-08 2023-04-13 ソニーセミコンダクタソリューションズ株式会社 画像センサ、データ処理装置、および画像センサシステム
WO2023058669A1 (ja) * 2021-10-08 2023-04-13 ソニーセミコンダクタソリューションズ株式会社 画像センサ、データ処理装置、および画像センサシステム
WO2023058671A1 (ja) * 2021-10-08 2023-04-13 ソニーセミコンダクタソリューションズ株式会社 画像センサ、データ処理装置、および画像センサシステム
WO2024100796A1 (ja) * 2022-11-09 2024-05-16 株式会社ソニー・インタラクティブエンタテインメント 信号処理回路、信号処理方法およびプログラム

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210000985A (ko) 2019-06-26 2021-01-06 삼성전자주식회사 비전 센서, 이를 포함하는 이미지 처리 장치 및 비전 센서의 동작 방법
JP2024130166A (ja) * 2023-03-14 2024-09-30 キヤノン株式会社 撮像装置および機器

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014535098A (ja) 2011-10-14 2014-12-25 サムスン エレクトロニクス カンパニー リミテッド イベント基盤ビジョンセンサを用いた動作認識装置及び方法
JP2018085725A (ja) 2016-11-21 2018-05-31 三星電子株式会社Samsung Electronics Co.,Ltd. イベントベースのセンサー、それを含むユーザー装置、及びその動作方法
JP2018148553A (ja) * 2017-03-08 2018-09-20 三星電子株式会社Samsung Electronics Co.,Ltd. ピクセル、ピクセル駆動回路、及びこれを含むビジョンセンサー

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8179466B2 (en) * 2009-03-11 2012-05-15 Eastman Kodak Company Capture of video with motion-speed determination and variable capture rate
KR101761947B1 (ko) * 2012-12-06 2017-07-26 삼성전기주식회사 카메라 영상의 블루밍 저감 방법 및 장치
JP2016219905A (ja) * 2015-05-15 2016-12-22 キヤノン株式会社 撮像装置、その制御方法、および制御プログラム
JP6552325B2 (ja) * 2015-08-07 2019-07-31 キヤノン株式会社 撮像装置、撮像装置の制御方法、及びプログラム
JP6596736B2 (ja) * 2016-03-29 2019-10-30 本田技研工業株式会社 画像処理装置、画像処理方法及び画像処理プログラム
US10348994B2 (en) * 2017-04-06 2019-07-09 Samsung Electronics Co., Ltd. Intensity image acquisition from dynamic vision sensors
JP2019041168A (ja) * 2017-08-23 2019-03-14 キヤノン株式会社 撮像装置およびその制御方法
US20190325250A1 (en) * 2018-04-24 2019-10-24 Board Of Trustees Of The University Of Arkansas Reconfigurable 3D Pixel-Parallel Neuromorphic Architecture for Smart Image Sensor
KR20210000985A (ko) * 2019-06-26 2021-01-06 삼성전자주식회사 비전 센서, 이를 포함하는 이미지 처리 장치 및 비전 센서의 동작 방법

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014535098A (ja) 2011-10-14 2014-12-25 サムスン エレクトロニクス カンパニー リミテッド イベント基盤ビジョンセンサを用いた動作認識装置及び方法
JP2018085725A (ja) 2016-11-21 2018-05-31 三星電子株式会社Samsung Electronics Co.,Ltd. イベントベースのセンサー、それを含むユーザー装置、及びその動作方法
JP2018148553A (ja) * 2017-03-08 2018-09-20 三星電子株式会社Samsung Electronics Co.,Ltd. ピクセル、ピクセル駆動回路、及びこれを含むビジョンセンサー

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP3993403A4

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023058670A1 (ja) * 2021-10-08 2023-04-13 ソニーセミコンダクタソリューションズ株式会社 画像センサ、データ処理装置、および画像センサシステム
WO2023058669A1 (ja) * 2021-10-08 2023-04-13 ソニーセミコンダクタソリューションズ株式会社 画像センサ、データ処理装置、および画像センサシステム
WO2023058671A1 (ja) * 2021-10-08 2023-04-13 ソニーセミコンダクタソリューションズ株式会社 画像センサ、データ処理装置、および画像センサシステム
WO2024100796A1 (ja) * 2022-11-09 2024-05-16 株式会社ソニー・インタラクティブエンタテインメント 信号処理回路、信号処理方法およびプログラム

Also Published As

Publication number Publication date
CN114009009B (zh) 2024-04-23
CN114009009A (zh) 2022-02-01
JPWO2020261491A1 (ja) 2020-12-30
JP7177934B2 (ja) 2022-11-24
EP3993403A4 (en) 2023-04-26
KR20220024011A (ko) 2022-03-03
EP3993403B1 (en) 2024-09-25
US11678074B2 (en) 2023-06-13
KR102676085B1 (ko) 2024-06-19
EP3993403A1 (en) 2022-05-04
US20220232176A1 (en) 2022-07-21

Similar Documents

Publication Publication Date Title
WO2020261491A1 (ja) センサ制御装置、センサ制御方法およびプログラム
TWI585436B (zh) 深度資訊量測方法及裝置
WO2020261408A1 (ja) システム、情報処理装置、情報処理方法およびプログラム
CN105245770A (zh) 相机控制设备
WO2022107647A1 (ja) 情報処理装置、システム、情報処理方法および情報処理プログラム
US8350912B2 (en) Image sensor and image sensor system
WO2019146510A1 (ja) 画像処理装置
CN107950020B (zh) 影像记录装置
JP4228947B2 (ja) 撮像装置
JP7191236B2 (ja) 画像処理装置、画像処理方法およびプログラム
CN114881978A (zh) 目标检测方法、电子设备以及智能控制系统
WO2020261370A1 (ja) システム、位置検出装置、位置検出方法およびプログラム
US20130050081A1 (en) 3d sensing method and system using a touch panel
JP2018146495A (ja) 物体検出装置、物体検出方法、物体検出プログラム、撮像装置、及び、機器制御システム
WO2024194945A1 (ja) 情報処理装置、システム、情報処理方法、情報処理プログラム、およびコンピュータシステム
WO2023188183A1 (ja) 情報処理装置、システム、情報処理方法、情報処理プログラム、およびコンピュータシステム
CN102710904B (zh) 可产生均匀分辨率的感测影像的感测像素结构及光传感器
JP2023094925A (ja) 撮像装置
WO2023188184A1 (ja) 情報処理装置、システム、情報処理方法、情報処理プログラム、およびコンピュータシステム
CN110677597A (zh) 图像处理方法及装置
CN116051429B (zh) 数据增强方法、脉冲神经网络训练方法、存储介质和芯片
WO2024100796A1 (ja) 信号処理回路、信号処理方法およびプログラム
Cubero et al. Event threshold modulation in dynamic vision spiking imagers for data throughput reduction
WO2022264405A1 (ja) 信号処理装置、信号処理方法およびプログラム
WO2024075198A1 (ja) 信号処理回路、信号処理方法およびプログラム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19935191

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2021528788

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

WWE Wipo information: entry into national phase

Ref document number: 2019935191

Country of ref document: EP

ENP Entry into the national phase

Ref document number: 2019935191

Country of ref document: EP

Effective date: 20220127