CN106716449A - 将基于事件的系统与基于帧的处理系统对接 - Google Patents
将基于事件的系统与基于帧的处理系统对接 Download PDFInfo
- Publication number
- CN106716449A CN106716449A CN201580049482.2A CN201580049482A CN106716449A CN 106716449 A CN106716449 A CN 106716449A CN 201580049482 A CN201580049482 A CN 201580049482A CN 106716449 A CN106716449 A CN 106716449A
- Authority
- CN
- China
- Prior art keywords
- event
- frame
- processing system
- system based
- events
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/10—Image acquisition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Data Mining & Analysis (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Engineering & Computer Science (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
提出了一种将基于事件的处理系统与基于帧的处理系统对接的方法。该方法包括将多个事件转换成帧。事件可以从事件传感器生成。该方法还包括将该帧输入到基于帧的处理系统中。
Description
相关申请的交叉引用
本申请根据35U.S.C.§119(e)要求于2014年9月16日提交的题为“Interfacing AnEvent Based System With A Frame Based Processing System(将基于事件的系统与基于帧的处理系统对接)”的美国临时专利申请号62/051,145的权益,其公开通过引用整体明确地纳入于此。
背景技术
领域
本公开的某些方面一般涉及神经系统工程,尤其涉及用于将基于事件的系统与基于帧的处理系统对接的系统和方法。
背景技术
事件驱动的对象检测系统可以使用传感器(诸如动态视觉传感器(DVS))来检测移动的对象,诸如脸或汽车。此外,事件驱动的对象检测系统可以基于先前训练来实时地对检测到的对象进行分类。在一些情形中,期望将基于事件的系统与基于帧的处理系统对接以处理检测到的事件。
概述
在本公开的一方面,公开了一种用于将基于事件的处理系统与基于帧的处理系统对接的方法。该方法包括将多个事件转换成帧。在一种配置中,各事件从事件传感器生成。该方法还包括将该帧输入到基于帧的处理系统中。
本公开的另一方面涉及一种包括用于将多个事件转换成帧的装置的装备。在一种配置中,各事件从事件传感器生成。该装备还包括用于将该帧输入到基于帧的处理系统中的装置。
在本公开的另一方面,公开了一种用于将基于事件的处理系统与基于帧的处理系统对接的计算机程序产品。该计算机程序产品具有其上记录有非瞬态程序代码的非瞬态计算机可读介质。该程序代码由处理器执行并且包括用于将多个事件转换成帧的程序代码。在一种配置中,各事件从事件传感器生成。该程序代码还包括用于将该帧输入到基于帧的处理系统中的程序代码。
本公开的另一方面涉及一种用于将基于事件的处理系统与基于帧的处理系统对接的装置,该装置具有存储器以及耦合至该存储器的一个或多个处理器。该处理器被配置成将多个事件转换成帧。在一种配置中,各事件从事件传感器生成。该处理器还被配置成将该帧输入到基于帧的处理系统中。
本公开的附加特征和优点将在下文描述。本领域技术人员应该领会,本公开可容易地被用作修改或设计用于实施与本公开相同的目的的其他结构的基础。本领域技术人员还应认识到,这样的等效构造并不脱离所附权利要求中所阐述的本公开的教导。被认为是本公开的特性的新颖特征在其组织和操作方法两方面连同进一步的目的和优点在结合附图来考虑以下描述时将被更好地理解。然而,要清楚理解的是,提供每一幅附图均仅用于解说和描述目的,且无意作为对本公开的限定的定义。
附图简述
在结合附图理解下面阐述的详细描述时,本公开的特征、本质和优点将变得更加明显,在附图中,相同附图标记始终作相应标识。
图1解说了根据本公开的某些方面的事件驱动的对象检测系统的组件的示例。
图2解说了基于事件的处理系统与基于帧的处理系统之间的接口的示例。
图3是解说根据本公开的一方面的一种用于将基于事件的处理系统与基于帧的处理系统对接的方法的流程图。
图4是解说示例性设备中的不同模块/装置/组件的框图。
详细描述
以下结合附图阐述的详细描述旨在作为各种配置的描述,而无意表示可实践本文中所描述的概念的仅有的配置。本详细描述包括具体细节以便提供对各种概念的透彻理解。然而,对于本领域技术人员将显而易见的是,没有这些具体细节也可实践这些概念。在一些实例中,以框图形式示出众所周知的结构和组件以避免湮没此类概念。
基于本教导,本领域技术人员应领会,本公开的范围旨在覆盖本公开的任何方面,不论其是与本公开的任何其他方面相独立地还是组合地实现的。例如,可以使用所阐述的任何数目的方面来实现装置或实践方法。另外,本公开的范围旨在覆盖使用作为所阐述的本公开的各个方面的补充或者与之不同的其他结构、功能性、或者结构及功能性来实践的此类装置或方法。应当理解,所披露的本公开的任何方面可由权利要求的一个或多个元素来实施。
措辞“示例性”在本文中用于表示“用作示例、实例或解说”。本文中描述为“示例性”的任何方面不必被解释为优于或胜过其他方面。
尽管本文描述了特定方面,但这些方面的众多变体和置换落在本公开的范围之内。虽然提到了优选方面的一些益处和优点,但本公开的范围并非旨在被限定于特定益处、用途或目标。相反,本公开的各方面旨在能宽泛地应用于不同的技术、系统配置、网络和协议,其中一些作为示例在附图以及以下对优选方面的描述中解说。详细描述和附图仅仅解说本公开而非限定本公开,本公开的范围由所附权利要求及其等效技术方案来定义。
事件驱动的对象检测系统
事件驱动的对象检测系统可以使用传感器(诸如动态视觉传感器(DVS))来检测移动的对象,诸如脸或汽车。此外,事件驱动的对象检测系统可以基于先前训练来实时地对检测到的对象进行分类。系统中的计算可由传感器事件来触发。事件驱动的对象检测系统可被称为检测系统。
根据本公开的各方面,当事件被生成时,检测系统可以处理图像。也就是说,当事件未从传感器输出时,检测系统不执行处理。此外,处理负载随着传感器事件率呈线性地缩放。
检测系统100包括用于处理数据的各个模块。作为示例,如图1中所示,检测系统可包括传感器110(诸如动态视觉传感器)、事件驱动的分类时间空间离散傅里叶变换(DFT)120、事件驱动的特征提取器130、以及分类器140。
在一种配置中,传感器110被配置成检测事件。具体地,可以根据检测到的像素强度改变来生成事件。例如,传感器110可以是来自iniLabs的DVS128传感器。传感器阵列可具有N x N(N=128)的大小,其中每一像素是在时间上对照明对数的等级跨越采样器。像素的时间分辨率在10微秒量级上。传感器的输出可以是极化、坐标寻址的事件序列{(tk;pk;μk;vk)},其中tk's和pk's是事件的时间戳和极性,而(μk;vk)是事件tk的像素坐标。此处,tk∈R,pk∈{-1,1}并且μk,vk∈{1,…,128}。
像素响应函数可以被定义为:
其中(μ,v)∈{1,…,128}2索引像素。δ是克罗内克(Kroenecker)差值而δ(.)是狄拉克(Dirac)差值函数。该矩阵也可以被写为:
X(t)=[xμ,v](t) (2)
事件驱动的空间DFT(eSTsDFT)120接收事件序列{(tk;pk;μk;vk)}作为输入,并且输出空间DFT的实时复N x N(N=128)矩阵:
此处
是N阶DFT矩阵,其中是第N个单元根而是SN的第(n+1)列。
此外,w(-t)=θ(t)exp(-ω0t)是指数短时窗口函数。eSTsDFT 120计算每一传感器事件{tk}处的值。
事件驱动的特征提取器(eFE)130将eSTsDFT 120的输出的维度从N x N x 2(N=128)降为L=64(即,从128个复数降为64个实数)。具体地,L个特征是 的分档瞬时频谱功率,其中*是共轭转置,而是对数线性变换函数,它按照如下来计算。
可以被写为128x 128维向量x,并且线性函数可以被表达为矩阵乘法后接对数运算y=log(Φx),其中是大小为64x(128x 128)的二进制矩阵,它包含大小为32x(128x 128)的两个分量,对应于32径向和32角度功率档。这些矩阵是值恒定的,并且在先前被计算,即,手工特征。
事件驱动的特征提取器130在包含100到200个事件量级的每一传感器事件分组结尾处计算y(t)的值。
分类器140(诸如事件驱动的支持向量分类器(eSVM))基于由eFE 130提取的实时特征向量y(t)来计算时变类标签函数z(t)(即,z(t)=ψ(y(t)),通过具有高斯径向基函数(RBF)作为内核的支持向量机)。
分类器140在自从最后分类以来的至少Δtmin发生的每一传感器事件分组的结尾处计算z(t)的值。如下所述,表1详细说明了去往和来自系统的模块/组件的输入/输出对象的数学描述。
表1
表2和3提供用于事件驱动的短时空间DFT的常数和状态变量。表4是用于检测系统的单次迭代(期间从DVS处理长度K的事件分组)的伪代码。
表2
常数变量 | 类型 | 维度 | 描述 |
ω0 | 实数 | 1x 1 | 窗口函数参数(设置为10Hz) |
S128 | 复数 | 128x 128 | 128阶DFT矩阵 |
Ф | 稀疏二元 | 64x(128x 128) | 特征矩阵 |
Δtmin | 实数 | 1x 1 | 最小分类间隔(设置为100ms) |
表3
表4
将基于事件的系统与基于帧的处理系统对接
如先前所讨论的,基于事件的处理系统可以使用传感器(诸如动态视觉传感器(DVS))来检测移动的对象,诸如人或汽车。例如,传感器(诸如动态视觉传感器)检测照明改变,以使得至少一个事件可以是照明已在特定位置处改变的指示。此外,事件驱动的对象检测系统可以基于先前训练来实时地对检测到的对象进行分类。因而,基于事件的处理系统可以输出一个或多个检测到的事件。在本申请中,事件可被称为像素事件。
此外,基于帧的处理系统对帧中检测到的对象(诸如图片)进行分类。帧可以由基于帧的处理系统来处理,诸如支持向量机(SVM)分类器。在常规系统中,由基于事件的对象检测系统输出的事件无法被基于帧的处理系统处理。基于帧的处理系统可以被称为基于帧的分类器。
而且在一些情形中,基于帧的处理系统可以被指定用于基于事件的对象检测系统。因为基于帧的处理系统的期望输入可能与基于事件的对象检测系统的输出不相兼容,所以可以指定一接口以将基于事件的输出转换成帧输入。事件的转换可以在事件被接收到时实时地执行或者在已经接收到特定数目的事件时执行。基于事件的对象检测系统可以被称为基于事件的系统或基于事件的处理系统。
在一种配置中,定时接口被指定以通过聚集特定时间内接收到的事件来生成帧。此外,经聚集的事件从该接口被输入到基于帧的分类器中。特定时间段可以基于期望结果和/或处理负载被动态地修改。在另一配置中,事件数目接口被指定用于通过将特定数目的事件聚集成帧来生成帧。事件的特定数目可以基于期望结果和/或处理负载被动态地修改。
此外,在一种配置中,该接口是动态选择的。即,该接口可以在将特定时间段的事件聚集成帧以及将特定数目的事件聚集成帧之间进行动态切换,并且反之亦然。该切换可以基于期望结果和/或处理负载被发起。
应当注意,本公开的各方面不限于图像处理,并且还可被应用于其他传感器,诸如音频传感器。例如,音频频率或其他音频特性可以被基于事件的对象检测系统检测,并且可以被输入到基于帧的处理系统或等效类型的处理系统。
附加地或替换地,在一种配置中,过滤器可以被定义在基于事件的对象检测系统的输出与到该接口的输入之间。该过滤器可以被指定用于过滤(即丢弃)特定事件,诸如来自不重要的特定区域的事件、来自产生增大的噪声量的区域的事件、和/或满足其他条件的事件。在一种配置中,下游处理块确定来自特定区域的事件数目是否已经超过一阈值。因而,丢弃来自特定区域的后续事件的对事件的过滤可以由下游处理块来指定。该区域可以指代产生事件的空间区域和/或特定事件发生器(诸如生成事件的特定车辆)。
应当注意,该过滤器不限于过滤视觉事件,并且还可过滤音频、时间或其他事件。例如,该过滤器可以丢弃在特定频谱频率(诸如音频频率)中发生的事件,和/或该过滤器可以丢弃在特定时间段发生的事件。附加地,在系统的处理负载超过一阈值时和/或在另一条件被满足时可以丢弃来自特定区域的事件或所有事件。
例如,特定区域可能已经产生大于一阈值的事件。因此,因为该系统已经接收到特定数目的事件,所以该系统可能不再期望从特定区域接收到附加事件。因而,该过滤器可以被指定以过滤来自特定区域的事件。作为另一示例,下游处理块(诸如基于帧的分类器)可能期望仅仅对来自一个或多个特定区域的事件进行分类。因此,该过滤器可以过滤与(各)期望区域不同的所有或一些事件。
图2解说了根据本公开的一方面的接口的示例。如图2所示,事件可以在事件生成器202处被生成。事件生成器可以是传感器,诸如相机或处理事件的其他设备。例如,事件可以是从在相机处接收到的像素中生成的事件。此外,事件被输入到接口204中。如先前所讨论的,该接口可以在定时接口与事件数目接口之间动态选择以生成帧。此外,所生成的帧被输出到分类器206,诸如基于帧的处理系统。附加地,如图2所示,可任选的过滤器208可以被定义在事件生成器202与接口204之间。如先前所讨论的,过滤器208可以被用于过滤所有事件或特定事件。
图3解说了根据本公开的各方面的用于将基于事件的系统与基于帧的处理系统对接的流程图300。如图3所示,在框302,该系统将多个事件转换成帧。事件可以从事件传感器生成。此外,在框304,该系统将帧输入到基于帧的处理系统中,诸如分类器。
图4是解说采用用于将基于事件的系统与基于帧的系统对接的处理系统414的装置400的硬件实现的示例的图示。处理系统414可用由总线424一般化地表示的总线架构来实现。取决于处理系统414的具体应用和整体设计约束,总线424可包括任何数目的互连总线和网桥。总线424将各种电路链接在一起,包括一个或多个处理器和/或硬件模块(由处理器422、模块402、404、以及计算机可读介质426表示)。总线424还可链接各种其他电路(诸如定时源、外围设备、稳压器和功率管理电路),这些电路在本领域中是众所周知的,并且因此将不再进一步描述。
该装置包括耦合至收发机430的处理系统414。收发机430被耦合至一个或多个天线420。收发机430使得能够在传输介质上与各种其他装置通信。处理系统414包括耦合至计算机可读介质426的处理器422。处理器422负责一般性处理,包括执行存储在计算机可读介质426上的软件。软件在由处理器422执行时使处理系统414执行针对任何特定装置描述的各种功能。计算机可读介质426也可被用于存储由处理器422在执行软件时操纵的数据。
处理系统414包括用于将从事件传感器生成的事件转换成帧的转换模块402。处理系统414还包括用于将帧输入到基于帧的处理系统中的输入模块404。这些模块可以是在处理器422中运行的软件模块,驻留/存储在计算机可读介质426中的软件模块,耦合至处理器422的一个或多个硬件模块,或者上述各项的某种组合。
在一种配置中,接口204被配置成用于将基于事件的处理系统与基于帧的处理系统对接。接口204可包括用于转换的装置和用于输入的装置。在一个方面,转换装置可以是被配置成执行由转换装置所叙述的功能的转换模块402。接口204还被配置为包括用于输入的装置。在一个方面,输入装置可以是被配置成执行由输入装置所叙述的功能的输入模块404。在另一方面,前述装置可以是被配置成执行由前述装置叙述的功能的任何模块或任何设备。
以上所描述的方法的各种操作可由能够执行相应功能的任何合适的装置来执行。这些装置可包括各种硬件和/或(诸)软件组件和/或(诸)模块,包括但不限于电路、专用集成电路(ASIC)、或处理器。一般而言,在附图中有解说的操作的场合,那些操作可具有带相似编号的相应配对装置加功能组件。
如本文所使用的,术语“确定”涵盖各种各样的动作。例如,“确定”可包括演算、计算、处理、推导、研究、查找(例如,在表、数据库或其他数据结构中查找)、探知及诸如此类。另外,“确定”可包括接收(例如接收信息)、访问(例如访问存储器中的数据)、及类似动作。而且,“确定”可包括解析、选择、选取、确立及类似动作。
如本文中所使用的,引述一列项目中的“至少一个”的短语是指这些项目的任何组合,包括单个成员。作为示例,“a、b或c中的至少一个”旨在涵盖:a、b、c、a-b、a-c、b-c、以及a-b-c。
结合本公开所描述的各种解说性逻辑框、模块、以及电路可用设计成执行本文所描述功能的通用处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列信号(FPGA)或其他可编程逻辑器件(PLD)、分立的门或晶体管逻辑、分立的硬件组件或其任何组合来实现或执行。通用处理器可以是微处理器,但在替换方案中,处理器可以是任何市售的处理器、控制器、微控制器、或状态机。处理器还可以被实现为计算设备的组合,例如DSP与微处理器的组合、多个微处理器、与DSP核心协同的一个或多个微处理器、或任何其它此类配置。
结合本公开描述的方法或算法的步骤可直接在硬件中、在由处理器执行的软件模块中、或在这两者的组合中实施。软件模块可驻留在本领域所知的任何形式的存储介质中。可使用的存储介质的一些示例包括随机存取存储器(RAM)、只读存储器(ROM)、闪存、可擦除可编程只读存储器(EPROM)、电可擦除可编程只读存储器(EEPROM)、寄存器、硬盘、可移动盘、CD-ROM,等等。软件模块可包括单条指令、或许多条指令,且可分布在若干不同的代码段上,分布在不同的程序间以及跨多个存储介质分布。存储介质可被耦合到处理器以使得该处理器能从/向该存储介质读写信息。在替换方案中,存储介质可以被整合到处理器。
本文所公开的方法包括用于达成所描述的方法的一个或多个步骤或动作。这些方法步骤和/或动作可以彼此互换而不会脱离权利要求的范围。换言之,除非指定了步骤或动作的特定次序,否则具体步骤和/或动作的次序和/或使用可以改动而不会脱离权利要求的范围。
所描述的功能可在硬件、软件、固件或其任何组合中实现。如果以硬件实现,则示例硬件配置可包括设备中的处理系统。处理系统可以用总线架构来实现。取决于处理系统的具体应用和整体设计约束,总线可包括任何数目的互连总线和桥接器。总线可将包括处理器、机器可读介质、以及总线接口的各种电路链接在一起。总线接口可用于尤其将网络适配器等经由总线连接至处理系统。网络适配器可用于实现信号处理功能。对于某些方面,用户接口(例如,按键板、显示器、鼠标、操纵杆,等等)也可以被连接到总线。总线还可以链接各种其他电路,诸如定时源、外围设备、稳压器、功率管理电路以及类似电路,它们在本领域中是众所周知的,因此将不再进一步描述。
处理器可负责管理总线和一般处理,包括执行存储在机器可读介质上的软件。处理器可用一个或多个通用和/或专用处理器来实现。示例包括微处理器、微控制器、DSP处理器、以及其他能执行软件的电路系统。软件应当被宽泛地解释成意指指令、数据、或其任何组合,无论是被称作软件、固件、中间件、微代码、硬件描述语言、或其他。作为示例,机器可读介质可包括随机存取存储器(RAM)、闪存、只读存储器(ROM)、可编程只读存储器(PROM)、可擦式可编程只读存储器(EPROM)、电可擦式可编程只读存储器(EEPROM)、寄存器、磁盘、光盘、硬驱动器、或者任何其他合适的存储介质、或其任何组合。机器可读介质可被实施在计算机程序产品中。该计算机程序产品可以包括包装材料。
在硬件实现中,机器可读介质可以是处理系统中与处理器分开的一部分。然而,如本领域技术人员将容易领会的,机器可读介质或其任何部分可在处理系统外部。作为示例,机器可读介质可包括传输线、由数据调制的载波、和/或与设备分开的计算机产品,所有这些都可由处理器通过总线接口来访问。替换地或补充地,机器可读介质或其任何部分可被集成到处理器中,诸如高速缓存和/或通用寄存器文件可能就是这种情形。虽然所讨论的各种组件可被描述为具有特定位置,诸如局部组件,但它们也可按各种方式来配置,诸如某些组件被配置成分布式计算系统的一部分。
处理系统可以被配置为通用处理系统,该通用处理系统具有一个或多个提供处理器功能性的微处理器、以及提供机器可读介质中的至少一部分的外部存储器,它们都通过外部总线架构与其他支持电路系统链接在一起。替换地,该处理系统可以包括一个或多个神经元形态处理器以用于实现本文所述的神经元模型和神经系统模型。作为另一替换方案,处理系统可以用带有集成在单块芯片中的处理器、总线接口、用户接口、支持电路系统、和至少一部分机器可读介质的专用集成电路(ASIC)来实现,或者用一个或多个现场可编程门阵列(FPGA)、可编程逻辑器件(PLD)、控制器、状态机、门控逻辑、分立硬件组件、或者任何其他合适的电路系统、或者能执行本公开通篇所描述的各种功能性的电路的任何组合来实现。取决于具体应用和加诸于整体系统上的总设计约束,本领域技术人员将认识到如何最佳地实现关于处理系统所描述的功能性。
机器可读介质可包括数个软件模块。这些软件模块包括当由处理器执行时使处理系统执行各种功能的指令。这些软件模块可包括传送模块和接收模块。每个软件模块可以驻留在单个存储设备中或者跨多个存储设备分布。作为示例,当触发事件发生时,可以从硬驱动器中将软件模块加载到RAM中。在软件模块执行期间,处理器可以将一些指令加载到高速缓存中以提高访问速度。随后可将一个或多个高速缓存行加载到通用寄存器文件中以供处理器执行。在以下述及软件模块的功能性时,将理解此类功能性是在处理器执行来自该软件模块的指令时由该处理器来实现的。
如果以软件实现,则各功能可作为一条或多条指令或代码存储在计算机可读介质上或藉其进行传送。计算机可读介质包括计算机存储介质和通信介质两者,这些介质包括促成计算机程序从一地向另一地转移的任何介质。存储介质可以是能被计算机访问的任何可用介质。作为示例而非限定,此类计算机可读介质可包括RAM、ROM、EEPROM、CD-ROM或其他光盘存储、磁盘存储或其他磁存储设备、或能用于携带或存储指令或数据结构形式的期望程序代码且能被计算机访问的任何其他介质。任何连接也被正当地称为计算机可读介质。例如,如果软件是使用同轴电缆、光纤电缆、双绞线、数字订户线(DSL)、或无线技术(诸如红外(IR)、无线电、以及微波)从web网站、服务器、或其他远程源传送而来,则该同轴电缆、光纤电缆、双绞线、DSL或无线技术(诸如红外、无线电、以及微波)就被包括在介质的定义之中。如本文中所使用的盘(disk)和碟(disc)包括压缩碟(CD)、激光碟、光碟、数字多用碟(DVD)、软盘、和碟,其中盘(disk)常常磁性地再现数据,而碟(disc)用激光来光学地再现数据。因此,在一些方面,计算机可读介质可包括非瞬态计算机可读介质(例如,有形介质)。另外,对于其他方面,计算机可读介质可包括瞬态计算机可读介质(例如,信号)。上述的组合应当也被包括在计算机可读介质的范围内。
因此,某些方面可包括用于执行本文中给出的操作的计算机程序产品。例如,此类计算机程序产品可包括其上存储(和/或编码)有指令的计算机可读介质,这些指令能由一个或多个处理器执行以执行本文中所描述的操作。对于某些方面,计算机程序产品可包括包装材料。
此外,应当领会,用于执行本文中所描述的方法和技术的模块和/或其它恰适装置能由用户终端和/或基站在适用的场合下载和/或以其他方式获得。例如,此类设备能被耦合至服务器以促成用于执行本文中所描述的方法的装置的转移。替换地,本文所述的各种方法能经由存储装置(例如,RAM、ROM、诸如压缩碟(CD)或软盘等物理存储介质等)来提供,以使得一旦将该存储装置耦合至或提供给用户终端和/或基站,该设备就能获得各种方法。此外,可利用适于向设备提供本文所描述的方法和技术的任何其他合适的技术。
将理解,权利要求并不被限定于以上所解说的精确配置和组件。可在以上所描述的方法和装置的布局、操作和细节上作出各种改动、更换和变形而不会脱离权利要求的范围。
Claims (25)
1.一种将基于事件的处理系统与基于帧的处理系统对接的方法,包括:
将从事件传感器生成的多个事件转换成帧;以及
将所述帧输入到所述基于帧的处理系统中。
2.如权利要求1所述的方法,其特征在于,所述多个事件针对特定时间段被聚集成所述帧。
3.如权利要求2所述的方法,其特征在于,所述特定时间段至少基于期望结果、处理负载、或其组合被动态地修改。
4.如权利要求1所述的方法,其特征在于,所述多个事件中特定数目的事件被聚集成所述帧。
5.如权利要求4所述的方法,其特征在于,事件的所述特定数目至少基于期望结果、处理负载、或其组合被动态地修改。
6.如权利要求1所述的方法,其特征在于,所述转换包括在将针对特定时间段的事件聚集成所述帧以及将特定数目的事件聚集成所述帧之间动态地切换。
7.如权利要求1所述的方法,其特征在于,进一步包括至少部分地基于处理负载、大于一阈值的事件数目、或其组合来过滤事件。
8.如权利要求1所述的方法,其特征在于,所述多个事件中的至少一个事件是来自视觉传感器的照明已在特定位置处改变的指示。
9.一种用于将基于事件的处理系统与基于帧的处理系统对接的装置,所述装置包括:
存储器单元;以及
耦合至所述存储器单元的至少一个处理器,所述至少一个处理器被配置成:
将从事件传感器生成的多个事件转换成帧;以及
将所述帧输入到所述基于帧的处理系统中。
10.如权利要求9所述的装置,其特征在于,所述多个事件针对特定时间段被聚集成所述帧。
11.如权利要求10所述的装置,其特征在于,所述特定时间段至少基于期望结果、处理负载、或其组合被动态地修改。
12.如权利要求9所述的装置,其特征在于,所述多个事件中特定数目的事件被聚集成所述帧。
13.如权利要求12所述的装置,其特征在于,事件的所述特定数目至少基于期望结果、处理负载、或其组合被动态地修改。
14.如权利要求9所述的装置,其特征在于,所述至少一个处理器被进一步配置成通过在将针对特定时间段的事件聚集成所述帧以及将特定数目的事件聚集成所述帧之间动态地切换来进行转换。
15.如权利要求9所述的装置,其特征在于,所述至少一个处理器被进一步配置成至少部分地基于处理负载、大于一阈值的事件数目、或其组合来过滤事件。
16.如权利要求9所述的装置,其特征在于,所述多个事件中的至少一个事件是来自视觉传感器的照明已在特定位置处改变的指示。
17.一种用于将基于事件的处理系统与基于帧的处理系统对接的装备,所述装备包括:
用于将从事件传感器生成的多个事件转换成帧的装置;以及
用于将所述帧输入到所述基于帧的处理系统中的装置。
18.如权利要求17所述的装备,其特征在于,所述多个事件针对特定时间段被聚集成所述帧。
19.如权利要求18所述的装备,其特征在于,所述特定时间段至少基于期望结果、处理负载、或其组合被动态地修改。
20.如权利要求17所述的装备,其特征在于,所述多个事件中特定数目的事件被聚集成所述帧。
21.如权利要求20所述的装备,其特征在于,事件的所述特定数目至少基于期望结果、处理负载、或其组合被动态地修改。
22.如权利要求17所述的装备,其特征在于,所述转换装置在将针对特定时间段的事件聚集成所述帧以及将特定数目的事件聚集成所述帧之间动态地切换。
23.如权利要求17所述的装备,其特征在于,进一步包括用于至少部分地基于处理负载、大于一阈值的事件数目、或其组合来过滤事件的装置。
24.如权利要求17所述的装备,其特征在于,所述多个事件中的至少一个事件是来自视觉传感器的照明已在特定位置处改变的指示。
25.一种用于将基于事件的处理系统与基于帧的处理系统对接的计算机程序产品,所述计算机程序产品包括:
其上记录有程序代码的非瞬态计算机可读介质,所述程序代码由处理器执行并且包括:
用于将从事件传感器生成的多个事件转换成帧的程序代码;以及
用于将所述帧输入到所述基于帧的处理系统中的程序代码。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201462051145P | 2014-09-16 | 2014-09-16 | |
US62/051,145 | 2014-09-16 | ||
US14/622,736 US10147024B2 (en) | 2014-09-16 | 2015-02-13 | Interfacing an event based system with a frame based processing system |
US14/622,736 | 2015-02-13 | ||
PCT/US2015/046066 WO2016043918A1 (en) | 2014-09-16 | 2015-08-20 | Interfacing an event based system with a frame based processing system |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106716449A true CN106716449A (zh) | 2017-05-24 |
CN106716449B CN106716449B (zh) | 2020-09-18 |
Family
ID=55455050
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201580049482.2A Active CN106716449B (zh) | 2014-09-16 | 2015-08-20 | 将基于事件的系统与基于帧的处理系统对接 |
Country Status (5)
Country | Link |
---|---|
US (1) | US10147024B2 (zh) |
EP (1) | EP3195199B1 (zh) |
JP (1) | JP6602851B2 (zh) |
CN (1) | CN106716449B (zh) |
WO (1) | WO2016043918A1 (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110427823A (zh) * | 2019-06-28 | 2019-11-08 | 北京大学 | 基于视频帧与脉冲阵列信号的联合目标检测方法与装置 |
CN111247801A (zh) * | 2017-09-28 | 2020-06-05 | 苹果公司 | 用于事件相机数据处理的系统和方法 |
Families Citing this family (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
FR3020699A1 (fr) * | 2014-04-30 | 2015-11-06 | Centre Nat Rech Scient | Procede de suivi de forme dans une scene observee par un capteur asynchrone de lumiere |
US10062151B2 (en) * | 2016-01-21 | 2018-08-28 | Samsung Electronics Co., Ltd. | Image deblurring method and apparatus |
US10198660B2 (en) * | 2016-01-27 | 2019-02-05 | Samsung Electronics Co. Ltd. | Method and apparatus for event sampling of dynamic vision sensor on image formation |
GB201612528D0 (en) * | 2016-07-19 | 2016-08-31 | Machines With Vision Ltd | Vehicle localisation using the ground or road surface |
US10516841B2 (en) | 2017-03-08 | 2019-12-24 | Samsung Electronics Co., Ltd. | Pixel, pixel driving circuit, and vision sensor including the same |
US10855927B2 (en) | 2017-03-08 | 2020-12-01 | Samsung Electronics Co., Ltd. | Event detecting device including an event signal generator and an output signal generator |
EP3506622A1 (en) * | 2017-12-26 | 2019-07-03 | Prophesee | Method for outputting a signal from an event based sensor, and event-based sensor using such method |
JP7034837B2 (ja) * | 2018-06-01 | 2022-03-14 | 株式会社デンソーアイティーラボラトリ | 3次元畳込み演算装置、ビジュアルオドメトリシステム、及び3次元畳込みプログラム |
DE102018215952B3 (de) * | 2018-09-19 | 2020-01-30 | Volkswagen Aktiengesellschaft | Erzeugung neuromorpher und rahmenbasierter Videobilder |
US11818475B2 (en) * | 2018-09-28 | 2023-11-14 | Sony Corporation | Data processing device, data processing method, and program |
KR102656177B1 (ko) | 2019-02-11 | 2024-04-12 | 삼성전자주식회사 | 신호를 축적하기 위한 센서 |
EP3694202A1 (en) * | 2019-02-11 | 2020-08-12 | Prophesee | Method of processing a series of events received asynchronously from an array of pixels of an event-based light sensor |
CN109948725B (zh) * | 2019-03-28 | 2021-09-10 | 清华大学 | 基于地址-事件表达的神经网络目标检测装置 |
US11694304B2 (en) | 2019-11-26 | 2023-07-04 | Samsung Electronics Co., Ltd. | Jointly learning visual motion and confidence from local patches in event cameras |
KR20220076944A (ko) * | 2020-12-01 | 2022-06-08 | 삼성전자주식회사 | 비전 센서, 이를 포함하는 이미지 처리 장치 및 비전 센서의 동작 방법 |
JPWO2022254836A1 (zh) * | 2021-06-03 | 2022-12-08 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100182468A1 (en) * | 2006-11-23 | 2010-07-22 | Austrian Research Centers Gmbh-Arc | Method for the generation of an image in electronic form, picture element (pixel) for an image sensor for the generation of an image as well as image sensor |
WO2013029008A1 (en) * | 2011-08-25 | 2013-02-28 | Cornell University | Retinal encoder for machine vision |
EP2574511A1 (en) * | 2011-09-30 | 2013-04-03 | Honda Research Institute Europe GmbH | Analyzing road surfaces |
CN103258427A (zh) * | 2013-04-24 | 2013-08-21 | 北京工业大学 | 基于信息物理网络的城市快速路交通实时监控系统与方法 |
US20140085447A1 (en) * | 2011-05-12 | 2014-03-27 | Centre National De La Recherche Scientifique-Cnrs | Method and device for controlling a device for aiding vision |
CN104021378A (zh) * | 2014-06-07 | 2014-09-03 | 北京联合大学 | 基于时空关联与先验知识的交通信号灯实时识别方法 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7426301B2 (en) | 2004-06-28 | 2008-09-16 | Mitsubishi Electric Research Laboratories, Inc. | Usual event detection in a video using object and frame features |
DE102007050568A1 (de) | 2007-08-04 | 2009-02-05 | Continental Teves Ag & Co. Ohg | Verfahren und Einrichtung zur Objekterkennung in einem Bild |
US8200595B1 (en) | 2008-06-11 | 2012-06-12 | Fair Isaac Corporation | Determing a disposition of sensor-based events using decision trees with splits performed on decision keys |
US9569531B2 (en) | 2008-06-23 | 2017-02-14 | Sri International | System and method for multi-agent event detection and recognition |
US20120106854A1 (en) | 2010-10-28 | 2012-05-03 | Feng Tang | Event classification of images from fusion of classifier classifications |
FR2985065B1 (fr) * | 2011-12-21 | 2014-01-10 | Univ Paris Curie | Procede d'estimation de flot optique a partir d'un capteur asynchrone de lumiere |
EP2887009A1 (en) * | 2013-12-23 | 2015-06-24 | Universität Zürich | Method for reconstructing a surface using spatially structured light and a dynamic vision sensor |
FR3020699A1 (fr) * | 2014-04-30 | 2015-11-06 | Centre Nat Rech Scient | Procede de suivi de forme dans une scene observee par un capteur asynchrone de lumiere |
-
2015
- 2015-02-13 US US14/622,736 patent/US10147024B2/en active Active
- 2015-08-20 WO PCT/US2015/046066 patent/WO2016043918A1/en active Application Filing
- 2015-08-20 CN CN201580049482.2A patent/CN106716449B/zh active Active
- 2015-08-20 JP JP2017514427A patent/JP6602851B2/ja active Active
- 2015-08-20 EP EP15763134.2A patent/EP3195199B1/en active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100182468A1 (en) * | 2006-11-23 | 2010-07-22 | Austrian Research Centers Gmbh-Arc | Method for the generation of an image in electronic form, picture element (pixel) for an image sensor for the generation of an image as well as image sensor |
US20140085447A1 (en) * | 2011-05-12 | 2014-03-27 | Centre National De La Recherche Scientifique-Cnrs | Method and device for controlling a device for aiding vision |
WO2013029008A1 (en) * | 2011-08-25 | 2013-02-28 | Cornell University | Retinal encoder for machine vision |
EP2574511A1 (en) * | 2011-09-30 | 2013-04-03 | Honda Research Institute Europe GmbH | Analyzing road surfaces |
CN103258427A (zh) * | 2013-04-24 | 2013-08-21 | 北京工业大学 | 基于信息物理网络的城市快速路交通实时监控系统与方法 |
CN104021378A (zh) * | 2014-06-07 | 2014-09-03 | 北京联合大学 | 基于时空关联与先验知识的交通信号灯实时识别方法 |
Non-Patent Citations (5)
Title |
---|
EUGENIO CULURCIELLO 等: "A biomorphic digital image sensor", 《IEEE JOURNAL OF SOLID-STATE CIRCUITS》 * |
JÜERGEN KOGLER 等: "ground truth evaluation for event-based silicone retina stereo data", 《2013 IEEE CONFERENCE ON COMPUTER VISION AND PATTERN RECOGNITION WORKSHOPS》 * |
PATRICK LICHTSTEINER 等: "A 128×128 120 db 15 μs latency asynchronous temporal contrast vision sensor", 《IEEE JOURNAL OF SOLID-STATE CIRCUITS》 * |
RYAD BENOSMAN: "Vision without Frames: A Semiotic Paradigm of Event Based Computer Vision", 《BIOSEMIOTICS》 * |
THIAGO TEIXEIRA 等: "Address-Event Imagers for Sensor Networks: Evaluation and Modeling", 《2006 5TH INTERNATIONAL CONFERENCE ON INFORMATION PROCESSING IN SENSOR NETWORKS》 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111247801A (zh) * | 2017-09-28 | 2020-06-05 | 苹果公司 | 用于事件相机数据处理的系统和方法 |
CN110427823A (zh) * | 2019-06-28 | 2019-11-08 | 北京大学 | 基于视频帧与脉冲阵列信号的联合目标检测方法与装置 |
Also Published As
Publication number | Publication date |
---|---|
US10147024B2 (en) | 2018-12-04 |
EP3195199A1 (en) | 2017-07-26 |
WO2016043918A1 (en) | 2016-03-24 |
EP3195199B1 (en) | 2021-03-31 |
CN106716449B (zh) | 2020-09-18 |
JP6602851B2 (ja) | 2019-11-06 |
JP2017530467A (ja) | 2017-10-12 |
US20160078321A1 (en) | 2016-03-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106716449A (zh) | 将基于事件的系统与基于帧的处理系统对接 | |
CN106716439A (zh) | 基于事件的下采样 | |
TWI718422B (zh) | 對模型預測值進行融合的方法、裝置和設備 | |
KR101657495B1 (ko) | 딥러닝 분석을 위한 모듈화시스템 및 이를 이용한 영상 인식 방법 | |
US11366999B2 (en) | Information processing device and information processing method | |
CN111815754B (zh) | 一种三维信息确定方法、三维信息确定装置及终端设备 | |
Lu et al. | A generic intelligent tomato classification system for practical applications using DenseNet-201 with transfer learning | |
US10366342B2 (en) | Generation of a boosted ensemble of segmented scorecard models | |
US9734424B2 (en) | Sensor data filtering | |
CN104809695B (zh) | 一种数据去噪的方法及装置 | |
WO2019240900A1 (en) | Attention loss based deep neural network training | |
WO2015057785A3 (en) | Adding/deleting digital notes from a group | |
US20210174179A1 (en) | Arithmetic apparatus, operating method thereof, and neural network processor | |
US20160188680A1 (en) | Electronic device and information searching method for the electronic device | |
CN115223042A (zh) | 基于YOLOv5网络模型的目标识别方法及装置 | |
WO2020220221A1 (zh) | 生产设备的加工参数设置方法、装置和计算机可读介质 | |
Tian et al. | Imbalanced heart sound signal classification based on two-stage trained dsanet | |
JP6347190B2 (ja) | 情報処理装置、プログラム及び方法 | |
Makihara et al. | Grasp pose detection for deformable daily items by pix2stiffness estimation | |
Shi et al. | A sequential multiple change-point detection procedure via VIF regression | |
Huang et al. | Knowledge distillation facilitates the lightweight and efficient plant diseases detection model | |
Xie et al. | Sugarcane stem node identification algorithm based on improved YOLOv5 | |
WO2020011936A1 (en) | Hierarchical parallelism in a network of distributed neural network cores | |
US20220108199A1 (en) | Pipelining and parallelism for implementing a mixture model | |
US20220058465A1 (en) | Forecasting in multivariate irregularly sampled time series with missing values |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |