CN111274834B - 光学代码的读取 - Google Patents

光学代码的读取 Download PDF

Info

Publication number
CN111274834B
CN111274834B CN201911174189.5A CN201911174189A CN111274834B CN 111274834 B CN111274834 B CN 111274834B CN 201911174189 A CN201911174189 A CN 201911174189A CN 111274834 B CN111274834 B CN 111274834B
Authority
CN
China
Prior art keywords
image sensor
code
event
image information
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201911174189.5A
Other languages
English (en)
Other versions
CN111274834A (zh
Inventor
罗曼·穆勒
弗洛里安·施耐德
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sick AG
Original Assignee
Sick AG
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sick AG filed Critical Sick AG
Publication of CN111274834A publication Critical patent/CN111274834A/zh
Application granted granted Critical
Publication of CN111274834B publication Critical patent/CN111274834B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K7/00Methods or arrangements for sensing record carriers, e.g. for reading patterns
    • G06K7/10Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation
    • G06K7/10544Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation by scanning of the records by radiation in the optical part of the electromagnetic spectrum
    • G06K7/10712Fixed beam scanning
    • G06K7/10722Photodetector array or CCD scanning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K7/00Methods or arrangements for sensing record carriers, e.g. for reading patterns
    • G06K7/10Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation
    • G06K7/14Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation using light without selection of wavelength, e.g. sensing reflected white light
    • G06K7/1404Methods for optical code recognition
    • G06K7/1408Methods for optical code recognition the method being specifically adapted for the type of code
    • G06K7/14172D bar codes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K7/00Methods or arrangements for sensing record carriers, e.g. for reading patterns
    • G06K7/10Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation
    • G06K7/14Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation using light without selection of wavelength, e.g. sensing reflected white light
    • G06K7/1404Methods for optical code recognition
    • G06K7/1439Methods for optical code recognition including a method step for retrieval of the optical code
    • G06K7/1452Methods for optical code recognition including a method step for retrieval of the optical code detecting bar code edges
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K7/00Methods or arrangements for sensing record carriers, e.g. for reading patterns
    • G06K7/10Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation
    • G06K7/14Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation using light without selection of wavelength, e.g. sensing reflected white light
    • G06K7/1404Methods for optical code recognition
    • G06K7/146Methods for optical code recognition the method including quality enhancement steps
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K7/00Methods or arrangements for sensing record carriers, e.g. for reading patterns
    • G06K7/10Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation
    • G06K7/14Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation using light without selection of wavelength, e.g. sensing reflected white light
    • G06K7/1404Methods for optical code recognition
    • G06K7/146Methods for optical code recognition the method including quality enhancement steps
    • G06K7/1478Methods for optical code recognition the method including quality enhancement steps adapting the threshold for pixels in a CMOS or CCD pixel sensor for black and white recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K7/00Methods or arrangements for sensing record carriers, e.g. for reading patterns
    • G06K7/10Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation
    • G06K7/14Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation using light without selection of wavelength, e.g. sensing reflected white light
    • G06K7/1404Methods for optical code recognition
    • G06K7/146Methods for optical code recognition the method including quality enhancement steps
    • G06K7/1491Methods for optical code recognition the method including quality enhancement steps the method including a reconstruction step, e.g. stitching two pieces of bar code together to derive the full bar code

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Electromagnetism (AREA)
  • Artificial Intelligence (AREA)
  • Toxicology (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本申请涉及光学代码的读取。提供了一种用于读取光学代码(20)的方法,其中具有至少一个像素元件的图像传感器(24)在读取区域(18)中检测图像信息并且这些图像信息被评估,以便读取该读取区域(18)中的代码(20)。在此,图像传感器(24)是基于事件的图像传感器(24)。

Description

光学代码的读取
本发明涉及根据权利要求1的前序部分的用于读取光学代码的方法以及相应的基于相机的读码器。
光学代码被广泛地使用,以便给对象设以信息并且在稍后的时间点再次读出这些信息。读码器是从超市收银台、自动包裹识别、邮递件分拣、机场的行李托运以及从其他物流应用中已知。
在代码扫描器中,读取光束借助于旋转镜或多面反光轮在代码上方被横向地引导,并且借助于探测器通过这种扫描获得亮度或强度的差异并且从该亮度轮廓获得代码信息。基于相机的读码器利用图像传感器来拍摄具有位于其上的代码的对象的图像,并且图像评估软件从这些图像中提取代码信息。矩阵相机直接生成二维图像,而行相机(Zeilenkamera)逐行地检测运动的对象并因此同样逐渐地组成二维图像。然后,对图像进行分段(segmentieren),以找出图像中是否有可识别的代码,并且在这种情况下读出代码。代码扫描器具有较大的景深,但为此还仅读取一维代码或条形码。基于相机的读码器还可以容易地处理二维代码类型,但是根据应用对于时间方面要求严格的分段和图像评估需要一些耗费,这就是代码扫描器继续寻找其使用领域的原因。
在重要的应用组中,携带代码的对象被传送经过读码器。在这种情况下,代码扫描器检测一个接一个地分别被引导到其读取区域中的代码。利用二维图像传感器有规律地拍摄图像,这些图像根据拍摄频率和传送速度或多或少地重叠。对于行相机而言,这种相对运动甚至是产生二维图像的先决条件。为了使对象可以以任意取向布置在传送器上,通常在读取通道旁设置多个读码器,以便从多个或所有面拍摄对象。
EP 1 645 839 B1公开了对移动通过光学传感器的视场的对象的检测。在此,利用测距器确定与对象的距离并且挑选具有光学代码的感兴趣的区域。EP 2 026 033 B1改进了感兴趣的区域的数据传输。然而,在这两个文件中,没有深入讨论实际的代码读取。
最近出现了一种新式相机技术,即所谓的基于事件或基于活动的相机。然而,到目前为止,这种相机技术还没有与光学代码的读取相关联。传统相机以规则的图像刷新速率曝光其所有像素并且同时读出这些像素,从而在每个观察时间段内获得与图像刷新速率对应的多个静止的二维图像。
在基于事件的相机中同样存在矩阵式像素,但是既没有固定的图像刷新速率,也没有像素的共同读取。替代地,每个像素单独检查其是否确定出强度发生变化。只有在强度发生变化的情况下,图像信息才被输出或被读出,更确切地说是仅该像素的图像信息被输出或被读出。因此,每个像素都是独立的运动探测器类型。检测的运动被单独地报告为事件。由此,基于事件的相机对场景中的动态做出极其快速的反应。因为缺少静态图像分量,因此人眼不能如此直观地检测到图像数据,但是在机器评估中可以提供优势。
例如,一种基于事件的相机在Prophesee公司的白皮书中有所描述,该白皮书可以从该公司的网站页面上检索到。
从WO 2015/036592 A1、WO 2017/174579 A1和WO 2018/073379 A1中已知基于事件的相机的各个像素电路。
由Gallego、Guillermo、Henri Rebecq、和Davide Scaramuzza在IEEE国际计算机视觉与模式识别会议(CVPR)的2018年第1卷中公开的文章“A unifying contrastmaximization framework for event cameras,with applications to motion,depth,and optical flow estimation”中介绍了如何从基于事件的相机的数据中可以确定运动、距离和光流的方法。
US 2013/0335595 A1公开了一种用于基于事件的图像处理,具体是用于确定光流的设备和方法,该光流在代码的读取方面没有特别的意义。
因此,本发明的任务在于改进利用相机的代码读取。
该任务通过根据权利要求1的用于读取光学代码的方法和根据权利要求15的基于相机的读码器来解决。在此,利用图像传感器检测图像信息。图像传感器包括至少一个像素元件(Pixelelement),优选是由多个像素元件组成的行或矩阵。图像信息被评估,以便读取位于读取区域中的并且利用图像传感器拍摄的代码。
本发明基于利用基于事件的图像传感器读取代码的基本思想。因此,使用基于事件的相机来代替传统相机。基于事件地检测图像信息能够实现对光学代码的可替代的评估。
本发明具有如下优点,以高刷新速率多次扫描图像信息。此外,仅读出并从而观察存在强度变化的区域。首先,完全不会拍摄冗余数据,例如,静态背景。除了非常快的像素触发速率之外,基于事件的图像传感器还能够实现高动态范围。基于事件的图像传感器对于背景的均匀光分量几乎不敏感,因为这不会引起强度变化并且因此不会触发事件。
优选地,像素元件确定由像素元件检测到的强度何时发生变化,并且随后基于事件地准确提供图像信息。基于事件的相机的像素元件的特别特性已经在开篇进行了阐述,这里对此再次参考。像素元件检查所检测到的强度是否改变。只有这是事件,并且只有在事件的情况下才输出或读出图像信息。可以设想迟滞类型,其中像素元件仍忽略了强度的定义的、微小的变化并且不将其理解为事件。
优选地,像素元件提供强度是已经降低还是升高的差分信息作为图像信息。因此,从像素元件中读取的信息例如根据强度的变化方向是符号+1或-1。在这种情况下,可以设置强度变化的阈值,像素元件直至该阈值仍不触发事件。在用于进一步评估的下游的内部表示中,可以将值0添加到没有检测到事件的时间。
优选地,像素元件提供在由强度变化而确定的时间窗口中的积分强度作为图像信息。在这里,信息不限于强度变化的方向,而是入射光在由事件确定的时间窗口中被积分并且由此确定灰度值。因此,测量值对应于传统相机的测量值,但是检测的时间点仍然是基于事件的并且与强度变化有关联。
像素元件以至少1KHz或者甚至至少10KHz的更新频率输出图像信息。传统相机的更新频率是图像刷新频率或帧速率。基于事件的相机不识别这样共同的图像刷新频率,因为像素元件单独地并且基于事件地输出或刷新其图像信息。然而,响应时间极短,这些极短的响应时间利用传统相机只有以每秒上千或更多的图像的巨大成本才有可能实现,在基于事件的更新频率为10KHz或甚至几十KHz的情况下,在技术上使用传统相机是不可能再现的。
这种时间上的高分辨率还具有在实践中没有运动伪影(Bewegungsartefakt)(运动模糊(motionblurr))的优点。在与传统曝光时间对应的极短的更新周期中的一个更新周期内,对象不会进一步移动多个像素,因此也不拍摄模糊的图像。
优选地,图像传感器从事件生成数据流作为图像信息,这些事件分别具有相关联的像素元件的坐标信息、时间信息和强度信息。传统的数据流由像素的强度值或灰度值组成,并且图像传感器平面中的位置参考是通过以有序序列读出所有像素来产生的。可替代地,在基于事件的图像传感器中,优选地输出每个事件的数据元组,这些数据元组使事件可以相关联。在此,保留了相关联的像素元件的位置、强度变化的方向±1和/或在事件上测量的强度以及时间戳。
优选地,数据流通过用零填充被转换成矩阵,该矩阵的基(Basis)由图像传感器上的像素元件的排列以及时间构成。对于进一步的处理,熟悉的矩阵表达式通常更合适,该矩阵表达式由时间上连续的单个图像的序列组成,即由在图像传感器的像素元件上的分别在固定的时间点被拍摄的强度分布的在时间上彼此成行的层组成。在矩阵传感器中,这些层是2D矩阵,在行传感器中,这些层是1D矩阵,以及在单一的光接收器中,这些层仅是一个点。使用与之垂直的时间产生3D矩阵、2D矩阵或1D矩阵。通常,时间方向的粒化(Granulierung)由帧速率预先规定,在基于事件的相机中可以更精细地确定粒化。通过事件最终生成稀疏占据的矩阵(稀疏矩阵),基于事件的图像传感器的数据流对应于其节省存储和带宽的表示。
优选地,图像传感器处于与代码的相对运动中。在许多代码读取应用中,这种相对运动是通过传送装置产生的,在该传送装置上,携带代码的对象被传送通过固定装配的读码器的读取区域。可替代地,相机在代码上方运动。这可以通过使整个相机运动来实现,但是还可以通过相机的内部枢转机构或扫描机构来实现。因此,类似于代码扫描器,可以使用行来检测二维图像并使用单个像素检测行。优选地,相对运动是线性的并且是均匀的。
优选地,识别相同的对象结构在不同的时间点被检测的图像信息。每个运动的对象结构,特别是边缘,在不同的时间作为事件被记录在其他像素元件中,因为这些运动的对象结构相对于像素运动。在矩阵表示中,对象结构位于不同位置处的不同的层中,根据相对运动而移位。在线性运动中,从对象结构的边缘或角产生倾斜延伸的线或平面。这些在下文还被称为时空连续性
Figure BDA0002289537560000051
优选地,根据对象结构的几何形状,特别是这些对象结构的宽度和彼此的距离来确定代码的代码信息。在代码区域中,在事件中记录的强度变化由在读取区域中运动的代码结构引起,并且这些代码结构的几何形状包含被搜索的代码信息。严格的说,该代码信息甚至被冗余地检测并且被多次地插在时空连续性中。例如,在条形码和线性均匀的相对运动的情况下,时空连续性是彼此平行的平面,从这些平面的厚度或彼此的距离可以直接读出条码宽度,并从而读出代码信息。在2D代码的情况下也是类似的,在此只是不产生平行的平面队列,而是根据2D代码标准的规定还产生相互成角度的平面的部分区段。
优选地,通过重新构建相对运动来识别相同的对象结构。对象结构在不同时间的移位由相对运动确定。因此,相对运动可以用于重新找到对象结构,反过来,可以根据彼此所识别的对象结构估计相对运动。在传送装置的应用中,该传送装置的运动通常由合适的传感器(诸如,编码器)测量或由传送器控制装置预先规定,该传送器控制装置可以提供相应的速度。
优选地,使在不同的时间点检测的图像信息相关。这是在不同的时间点检测的图像信息中重新找到对象结构的一种可行方案。然而,相关的区域不必对应于特定的对象结构,可以使任何图像区域(例如,几个行、列或其部分)相关。相关性还提供了时间参考,该时间参考替代所测量的相对运动可以用作为此的估计。
优选地,图像信息的对比度度量被优化。这又是将在不同的时间拍摄的对象结构彼此相关联的一种可替代的可行方案。在观察图像信息的矩阵表示时,从特定的视角得出匹配的对象结构的叠加。该视角沿着相对运动对准,这就是为什么如已经提到的那样可以替代地测量相对运动或通过相关性估计相对运动。然而,只要视角不正确,对比度也会模糊。这对为什么对比度优化是至少隐式地发现和利用关于相对运动的信息的另一种可行方案的说明性描述。
优选地,假设是线性的相对运动,根据相对运动生成矩阵的投影。显然,这是对从适当的视角观察图像信息的矩阵表示的考虑,其中在不同的时间检测的相同的对象结构直接位于彼此之后。因此,投影收集在对象结构的一个点检测的所有事件,并且由此可以特别可靠地读出代码信息。
优选地,根据由图像传感器生成的事件的时间特性来识别代码在读取区域中的存在性。这是代码读取的初步阶段,其中首先识别代码是否存在于读取区域中。通常,这是分段的任务,但是根据本发明,该分段的任务可以被省略或者被基于事件地图像拍摄所取代。读取区域中的代码生成具有特定时间特性的事件。这在具有已知的模块尺寸的条形码处于均匀的线性运动的情况下是尤其合理的,随后从这些代码中以特定的固定频率累积地预期事件,该特定的固定频率可以根据模块尺寸和相对运动事先计算出来。其他代码类型和其他运动也会导致明显的模式,这些模式在算法上是可预测的,或者在每种情况下都可以通过分类器或机器学习被重新识别。
优选地,读取模块宽度小于像素元件的像素尺寸的代码。如果代码模块仅部分地,特别是一半移入到像素元件的检测区域中或从该检测区域中移出,这仍然是被记录的强度变化。因此,基于事件的图像传感器甚至能够实现子像素分辨,在可靠地识别到一半与代码模块相遇的像素元件的情况下,分辨率相对于两个方向上的物理分辨率加倍。
优选地,图像传感器相对于代码的平面有效地倾斜地放置。这导致图像传感器的行与平面(例如,传送装置的平面或对应于被传送的对象的顶面的平行平面)不同的距离,因此对象结构至少对于几个行而言落入景深区域或至少接近该景深区域。由于相对运动,对象结构在不同的行中被多次拍摄,因此至少拍摄到具有较好聚焦的几个事件。可以通过物理倾斜放置相机实现倾斜位置,但还可以通过光学器件(例如,光楔)来实现。
优选地,读取区域的图像信息附加地利用非基于事件的图像传感器来检测。因此,基于事件的相机与传统相机相结合。在这种情况下,可以设想,两个系统彼此独立地工作,并且随后比较或补充读取结果。然而,还可以在图像信息的层面上进行融合(Fusion),然后随着解码的机会增加进行读取尝试。
优选地,非基于事件的图像传感器的触发时间点和/或参数根据基于事件的图像传感器的图像信息来确定。在该实施方式中,基于事件的相机用作用于传统相机的触发传感器。上面已经阐述过,基于事件的相机可以根据事件的时间特性识别出代码处于读取区域中,并且该信息特别优选地用作传统相机或两个相机的组合的触发器。然而,基于事件的相机还可以检测先前信息(特别是关于相对运动的先前信息),从而可以预先确定相机参数(例如,曝光时间、感兴趣的区域、变焦参数)或解码器的参数(例如,模块尺寸)。
此外,上述任务通过读码器来解决,该读码器具有用于检测读取区域中的图像信息的基于事件的图像传感器和评估单元,该基于事件的图像传感器具有至少一个像素元件,在该评估单元中实施根据本发明的用于读取光学代码的方法。根据实施方式,评估单元是基于事件的图像传感器的相机的或连接到其上的仪器(例如,高级别的控制装置或另外的计算机)的一部分,或者该评估单元分布在相机和/或多个这样的仪器上,特别是还分布在网络或云中。
根据本发明的方法可以以类似的方式进一步开发并同时显示出类似的优点。这种有利的特征是示例性的,而并非在独立权利要求之后的从属权利要求中穷尽地描述。
附图说明
下面基于实施方式并参考附图对本发明的其他特征和优点更详细地进行阐述。在附图中:
图1示出了在具有携带代码的对象的传送带上方的基于相机的读码器的三维图示;
图2示出了用于阐述基于事件地检测图像信息的像素的示例性强度分布;
图3示出了由基于事件的图像传感器在光学代码的运动期间提供的图像信息的三维图示;
图4示出了图3中所示图像信息沿运动方向的俯视图;
图5示出了利用基于事件的图像传感器拍摄的类似于图3的关于条形码的图像信息的三维视图;
图6示出了根据图5的图像信息的侧视图;
图7示出了在对比度低的情况下,利用基于事件的图像传感器沿着尚未正确估计的运动方向拍摄的条形码的图像信息的俯视图;
图8示出了在对比度优化且运动方向正确估计的情况下,如图7的俯视图;
图9a示出了利用基于事件的图像传感器拍摄的条形码的几个模块的部分,以阐述子像素分辨;
图9b示出了从图9a得出的强度变化以及由此触发的事件;
图10示出了类似于图1的三维图示,但是现在结合了传统的相机和基于事件的相机来读取代码;
图11a示出了基于事件的读取代码的相机借助于光楔相对于读取区域的有效倾斜位置;和
图11b示出了基于事件的读取代码的相机的实际倾斜位置。
图1示出了光电读码器10,该光电读码器被装配在传送带12的上方,该传送带将对象14如通过箭头16所示传送经过读码器10的读取区域18。对象14在其外表面上携带代码区域20,该代码区域20被读码器10检测并且评估。这些代码区域20只有当它们被附接在顶面上或者至少从上方可见时才能够被读码器10识别。因此,与图1中的图示相反,为了读取例如附接在侧面或底部的代码22,可以从不同的方向装配多个读码器10,以便能够实现从所有方向进行所谓的全方位读取。在实践中,通常将多个读码器10布置到读取系统作为读取通道。读码器10在传送带旁的这种固定式的应用在实践中非常常见。然而,本发明首先涉及读码器10本身及其代码读取方法,使得该应用示例不应被理解为限制性的。
读码器10利用图像传感器24来检测被传送对象14和代码区域20的图像信息。该图像传感器24是基于活动的图像传感器,并且下面参照图2至图11更详细地阐述了基于活动的图像传感器及其图像信息的评估以读取代码的特点。基于事件的相机需要所拍摄的场景中的动态,否则不会记录任何事件。因此,流水线应用是合适的应用,因为待拍摄的对象14和代码区域20的运动得到了保证。
利用图像传感器24的光学检测原理不限于任何特别的几何形状和任何特定的相机结构。图像传感器24通常包括矩阵排列或行排列的像素元件,并且通过在传送带12上的对象14的运动过程中对图像信息进行整合,一次性地或连续地检测二维读取区域18。还可以设想的是,将具有仅一个像素元件或行排列的像素元件的图像传感器24与扫描机构组合,并从而有效地检测行或面。
读码器10的主要任务是识别代码区域20并且读出安装在该代码区域的代码。为此,评估单元26与图像传感器24连接,该评估单元读出该图像传感器的图像信息并且借助于图像评估和解码方法进一步处理。根据读码器10的实施方式,评估单元26可以处理条形码和/或各种2D代码。读码器10通过接口28输出信息,例如所读取的代码或图像信息。评估单元26的功能还可以在充分利用接口28的情况下至少部分地设置在外部,例如通过连接到高级别的控制装置、网络或云来实现。
图2在上部部分示出了图像传感器24的像素元件中的纯示例性的时间强度曲线,以阐述基于事件的图像传感器24的功能原理。传统的图像传感器对在预定的曝光时间窗口内的该强度曲线进行积分,所有像素元件的积分值以预定的帧速率的时钟输出并且随后为下一个图像重置。
替代地,基于事件的图像传感器24的像素元件独立地并且与帧速率无关地对强度变化做出反应。用竖直线标记被确定为强度发生变化的各个时间点。在图2的下部部分中,在这些时间点示出了事件,这些事件根据强度变化的方向具有正号和负号。可以设想的是,像素元件对任何强度变化都不做出反应,而是只有当超出一定的阈值时才做出反应。在识别出强度发生变化的时间点基于事件地读取像素元件,并且随后输出符号。随后,在没有事件的时间,可以用零值补充图像信息,从而在图像传感器24的所有像素元件上产生图像。与常规图像不同,该图像仅显示运动的边缘,无论是对象轮廓、阴影还是印记。
除了这种基于事件的差分相机之外,还存在基于事件的积分相机。这些积分相机对强度变化做出完全类似的反应。然而,替代于输出强度变化的方向,入射光在由事件预定的时间窗口中进行积分。由此,产生灰度值。基于事件的差分相机和积分相机具有不同的硬件构造,并且基于事件的差分相机更快速,因为该差分相机不需要积分时间窗口。本说明书中的其他示例涉及基于事件的差分相机,但是本发明不限于此。总的来说,基于事件的相机的技术不是本发明的主题,而是本发明的假定条件,并且补充性地参考了开篇提到的专利文献和科学文献。
图3示出了由基于事件的图像传感器24提供的图像信息的可能表示。该示例由具有矩阵形的基于事件的图像传感器24的读码器10拍摄,诸如在典型的应用情况中在传送带12上那样,光学代码线性地并且均匀地运动经过该读码器的读取区域18。
通过基于事件地检测图像信息,产生稀疏占据的(稀疏的(sparse))三维数据集,因为与传统相机不同,在固定时间内,不是每个像素元件都提供图像信息,而是仅以强度变化的形式记录事件的像素元件提供图像信息。数据集的两个维度对应于图像传感器24上的像素排列,第三维度优选地是时间,该时间具有最大为几微秒或甚至更小的范围内的极高的时间分辨率。在基于事件的差分图像传感器24中,存储在矩阵中的值是强度变化的符号,在基于事件的积分图像传感器24中,存储在矩阵中的值是灰度值,可选地,在没有事件的所有位置处分别以零填充。在基于事件的图像传感器24成行状或点状的像素排列的情况下,维度相应地降低。
在图3中,示出了基于事件的差分图像传感器24在图像部分(200,35)、(350,75)中的点云,其中通过不同的灰度编码来区分两个符号。存在从左下拉伸到右上的可识别的结构。这些结构还被称为时空连续性,并且通过所拍摄的代码的线性运动产生:读取区域18中的边缘首先在到达像素(x1,y1)的时间点t1触发事件,在稍后的时间点t2重新在像素(x2,y2)触发事件,并且像素坐标(x1,y1)、(x2,y2)以及时间点t1、t2通过线性运动彼此关联。因此,边缘在所示的点云中生成一条线或一个平面,因为该边缘通常同时落到多个像素上。
如果从观察方向观察点云或者沿着该观察方向对点云进行投影(该观察方向对应于线性运动,从而对应于时空连续性的梯度),则可以特别良好总括性地检测所拍摄的图像信息。即,由此整合来自读取区域18中的同一真实对象结构的事件。
图4示出了在该观察方向上的相应倾斜的俯视图,并且其中代码结构用肉眼就已经可以良好地识别出,因此当然还供图像处理使用。还可以看出基于事件的图像传感器24的强大:事件仅用一个二进制数位采样,或者如果加零,则用两个二进制数位采样。然而,沿运动方向以的N个像素的极高重复频率检测边缘,从而可以导出非常准确的结果。
现在,基于条形码的示例更详细地阐述利用基于事件的图像传感器24来读取代码。优选地,这些评估实时或至少几乎实时地进行。图5首先以类似于图3的三维视图示出点云,但是已经从沿着运动并且因此沿着时空连续性的视角来看的。图6示出了相关的侧视图。
除了常数(Konstanten)之外,时空连续性的梯度对应于传送带12的运动速度。该运动速度例如可以利用传送带12上的编码器来测量,或者由传送带12的控制装置来传递该运动速度。然而,所拍摄的图像信息自身还包含速度信息,使得额外的传感器为此不是绝对必要的,并且甚至反过来,速度可以被确定为另外的输出变量。代替速度的定量输出,可以探测传送带12的运动行为的至少一个变化。
可设想的这种评估基于相关性。在传送带12的运动过程中,在基于事件的图像传感器24的不同的像素元件中多次检测对象轮廓。这些对象轮廓例如在不同的行中可以通过相关性被重新识别。同一对象轮廓的重复检测之间的时间差是关于运动速度的度量。然而,为了获得绝对速度信息,该度量仍然必须利用相机光学器件和所检测的对象的几何形状来计算。这对于代码读取不是必需的,以点云为单位辨认时空连续性的梯度就足够了。
代替相关性,还可以优化对比度度量。这在图7和图8中示出。图7示出了点云或其以非最佳方向的投影的俯视图,因此该非最佳方向不对应于时空连续性的梯度以及传送带12的运动。代码结构看起来模糊,对比度不是最佳的。相反,图8示出了对比度优化且梯度合适的相应的俯视图。用于对比度优化的两种示例性选项是利用对总对比度、局部标准偏差或邻域关系(Nachbarschaftsbeziehung)的合适度量进行优化的梯度下降法(Gradient-Descent-Ansatz),或者是类似于开篇所述的Gallego等人的文章的方法,其中确定的是梯度而不是角度。
在时空连续性的梯度已知的情况下,无论是通过测量传送带12的运动、通过关于该传送带控制的假设或信息、还是通过借助于相关性、对比度优化或其他方法的自身评估,点云均被投影到二维平面上,因此被压缩。图4、图5和图8中的相应图示以及图6的侧视图都可以得知,图像信息现在可供代码信息的解码使用。例如,确定作为平面得到的时空连续性的相对距离,以便确定条形码的代码模块的宽度,并从而确定该条形码的内容。
此外,借助于时空连续性来构建点云实现了,识别是否检测到代码区域,而不需要分段图像或深入评估。为此,例如在一个或更多个行中,优选地在根据传送带12的运动首先检测到对象14的位置处,例如分析几个像素元件的事件的时间序列。根据条形码的模块尺寸和传送带12的速度,出现具有特定频率的事件,并且这清楚地表明条形码现在进入到读取区域18中。在2D代码的情况下,这种特性不是非常明显的,但也显示出相对于其他对象显著的图案,并且因此例如通过示教(特别是利用机器学习)同样可以区分时间特性。
因此,在检测代码区域时,还能够有针对性地触发读码器10。因此,甚至没有更深地评估其他图像信息,例如,只有当基于事件的时间特性识别出代码20时才激活解码器,并从而才开始读取尝试。
反过来,如果速度或时空连续性的梯度是已知的或确定的,则还可以基于所得出的信号频率确定所检测的代码的模块尺寸,这对解码器而言是有用的参数。
图9a-图9b示出了利用基于事件的图像传感器24还可以分辨子像素,即还可以检测小于一个的像素(例如,0.5个像素)的模块尺寸。图9a示出了代码结构在不同的时间t0至t4运动通过像素元件的由矩形表示的检测区域。像素元件具有扩展度(Ausdehnung),该扩展度的大小在这里纯示例性为最小的代码结构的两倍。例如,如果从时间点t0到时间点t1,不再完全检测到暗的代码结构,而是仅检测到一半,强度也还是会发生改变。因此这也触发事件。
图9b中示出了时间点t0至t4的子像素区域的区别,在这里是针对基于事件的积分相机的情况,但是类似地,基于事件的差分相机也区分这些事件。与使用多个不同的图像来分辨比像素扩展度更精细的模块尺寸的超分辨率的传统途径相反,在基于事件的图像传感器24的情况下这利用由该图像传感器检测的时空连续性固有地(intrinsisch)发生。
图10示出了读码器10的另一实施方式,该读码器10现在与传统的读码器10a组合。为了简单起见并且纯示例性地,在图示中,传统的读码器10a具有读取区域18a、图像传感器24a、评估单元26a和接口28a的相同结构。当然,尽管可设想根据本发明的读码器10的多重布置,但图像传感器24a不是基于事件的图像传感器。两个读码器10、10a直接连接或通过控制装置30彼此连接。协作的一种简单的可行方案是两个读码器10、10a均尝试读取代码,并且随后比较读取结果。
可替代地,利用已经提到的编码器,通过读码器10确定速度,已知对象14在每个时间点处于何处,使得可以使由读码器10、10a检测的图像信息一致。在这种类型的传统布置中,对读码器10a而言,何时检测到对象14不是已知的。因此,图像被持续地拍摄和预分段。存在如下可行方案,即使用以光挡板、光栅或激光扫描器形式的所谓的触发传感器来在对象进入到读取区域中时触发图像拍摄。然而,这还仅识别对象14本身,而不是实际相关的代码区域。
现在,读码器10可以接管该触发器传感器的任务。如上所述,从事件的时间特性中可以推断出何时检测到代码区域,使得这种触发传感器具有相当大的选择性。也可以在读码器10a处指示代码区域位于读取区域18、18a内的位置。通过这种选择性,尤其是当读码器10同时满足速度测量或另外的其他任务时,还表明了与光挡板相比较高的设备耗费是合理的。根据关于时空连续性的梯度的信息还可以优化读码器10a的参数,例如曝光时间的调整,以避免具有运动伪影的问题。通过读码器10的关于模块尺寸的信息,还可以最佳地设置读码器10a的解码器,或者使用变焦镜头以缩放到代码区域中。
图11a-图11b示出了通过读码器10相对于检测平面32,特别是传送带12的平面的倾斜位置来确保足够聚焦的可行方案。在此,在图11a中,使用了光楔34,通常是相应的光学器件,而在图11b中,读码器10实际上被倾斜地装配。无论是如图11a中一样有效还是如图11b中实际上那样,倾斜位置均导致基于事件的图像传感器24的像素元件的行具有与所拍摄的对象结构不同长度的光路。因此,代码20随着其运动经过读取区域18总体上穿过更大的聚焦区域,使得即使没有自动聚焦也能有效地实现在更大的景深范围上的检测。
基于事件的相机相对于传统相机对振动更敏感,因为该基于事件的相机对光强度的变化做出反应。就不能通过受保护的装配来避免这种情况而言,可以设想的是,读码器10本身识别这种振动并且在算法方面进行补偿。相反地,与外来光相比,基于事件的相机鲁棒性甚至更强,因为该基于事件的相机在实践中对稳定光根本不做出反应。在脉冲式干扰光源的情况下,事件被触发。这种干扰可以在算法上被识别并且被过滤掉。可替代地,读码器10的优选设置的自身的照明被实施为带宽非常窄的,并且与该照明匹配的光学滤波器被布置在基于事件的图像传感器24的前方。

Claims (19)

1.一种用于读取光学条形码或二维码(20)的方法,其中具有至少一个像素元件的图像传感器(24)在读取区域(18)中检测图像信息并且所述图像信息被评估,以便读取所述读取区域(18)中的条形码或二维码(20),
其中,
所述图像传感器(24)是基于事件的图像传感器(24),其中,所述像素元件确定由所述像素元件检测的强度何时发生变化,并且随后基于事件准确地提供图像信息。
2.根据权利要求1所述的方法,其中,所述像素元件提供所述强度是已经降低还是升高的差分信息作为图像信息,以及/或者,提供在通过所述强度的变化确定的时间窗口中的积分强度作为图像信息。
3.根据权利要求1或2所述的方法,其中所述像素元件以至少1KHz或甚至至少10KHz的更新频率输出图像信息。
4.根据权利要求1或2所述的方法,其中所述图像传感器(24)从事件生成数据流作为图像信息,这些事件分别具有相关联的像素元件的坐标信息、时间信息和强度信息。
5.根据权利要求4所述的方法,其中,所述数据流通过用零填充被转换成矩阵,所述矩阵的基由所述像素元件在所述图像传感器(24)上的排列和时间构成。
6.根据权利要求1-2和5中任一项所述的方法,其中所述图像传感器(24)与所述条形码或二维码(20)处于相对运动中。
7.根据权利要求1-2和5中任一项所述的方法,其中识别相同的对象结构在不同的时间点被检测的图像信息。
8.根据权利要求6所述的方法,其中,通过重新构建所述相对运动来识别相同的对象结构在不同的时间点被检测的图像信息。
9.根据权利要求7所述的方法,其中从所述对象结构的几何形状,确定所述条形码或二维码(20)的代码信息。
10.根据权利要求8所述的方法,其中从所述对象结构的几何形状,确定所述条形码或二维码(20)的代码信息。
11.根据权利要求9或10所述的方法,其中所述对象结构的几何形状是所述对象结构的宽度和相互距离。
12.根据权利要求1-2、5、8-10中任一项所述的方法,其中使在不同时间点检测的图像信息相关,以及/或者,其中优化所述图像信息的对比度度量。
13.根据权利要求5所述的方法,其中在图像传感器(24)与条形码或二维码(20)之间有线性的相对运动的情况下,根据所述相对运动生成所述矩阵的投影。
14.根据权利要求1-2、5、8-10中任一项所述的方法,其中根据由所述图像传感器(24)生成的事件的时间特性来识别条形码或二维码(20)在所述读取区域(18)中的存在性。
15.根据权利要求1-2、5、8-10中任一项所述的方法,其中读取模块宽度小于所述像素元件的像素尺寸的条形码或二维码(20)。
16.根据权利要求1-2、5、8-10中任一项所述的方法,其中相对于所述条形码或二维码(20)的平面(32)有效地倾斜地放置所述图像传感器(24)。
17.根据权利要求1-2、5、8-10中任一项所述的方法,其中利用非基于事件的图像传感器(24a)附加地检测所述读取区域(18)的图像信息。
18.根据权利要求17所述的方法,其中根据所述基于事件的图像传感器(24)的所述图像信息确定所述非基于事件的图像传感器(24a)的触发时间点和/或参数。
19.一种读码器(10),具有基于事件的图像传感器(24)和评估单元(26),所述基于事件的图像传感器具有用于检测读取区域(18)中的图像信息的至少一个像素元件,在所述评估单元中实施根据权利要求1-18中任一项所述的用于读取光学条形码或二维码(20)的方法。
CN201911174189.5A 2018-12-04 2019-11-26 光学代码的读取 Active CN111274834B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP18209953.1A EP3663963B1 (de) 2018-12-04 2018-12-04 Lesen von optischen codes
EP18209953.1 2018-12-04

Publications (2)

Publication Number Publication Date
CN111274834A CN111274834A (zh) 2020-06-12
CN111274834B true CN111274834B (zh) 2023-04-14

Family

ID=64604473

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911174189.5A Active CN111274834B (zh) 2018-12-04 2019-11-26 光学代码的读取

Country Status (3)

Country Link
US (1) US11151343B2 (zh)
EP (1) EP3663963B1 (zh)
CN (1) CN111274834B (zh)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113196139B (zh) 2018-12-20 2023-08-11 美国斯耐普公司 用于生成立体图像的具有双摄像头的柔性眼戴设备
JP7315918B2 (ja) * 2019-06-05 2023-07-27 株式会社デンソーアイティーラボラトリ 画像処理装置、画像処理プログラムおよび画像処理方法
DE102019128814B4 (de) 2019-10-25 2021-05-20 Sick Ag Kamera zur Erfassung eines Objektstroms und Verfahren zur Bestimmung der Höhe von Objekten
US10965931B1 (en) * 2019-12-06 2021-03-30 Snap Inc. Sensor misalignment compensation
CN113938611A (zh) * 2021-05-19 2022-01-14 神盾股份有限公司 远程监测装置及其远程监测方法
US20230360398A1 (en) * 2022-05-06 2023-11-09 Datalogic Ip Tech S.R.L. Imaging systems with enhanced functionalities with event-based sensors
DE102022120354A1 (de) * 2022-08-11 2024-02-22 Emhart Glass Sa Inspektionsvorrichtung und -verfahren
EP4346222A1 (de) 2022-09-27 2024-04-03 Sick Ag Kamera und verfahren zur erkennung von blitzen

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013033641A1 (en) * 2011-08-31 2013-03-07 Leonard Reiffel Imager-based code-locating, reading & response methods & apparatus

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7477758B2 (en) * 1992-05-05 2009-01-13 Automotive Technologies International, Inc. System and method for detecting objects in vehicular compartments
US6545705B1 (en) * 1998-04-10 2003-04-08 Lynx System Developers, Inc. Camera with object recognition/data output
US7128266B2 (en) * 2003-11-13 2006-10-31 Metrologic Instruments. Inc. Hand-supportable digital imaging-based bar code symbol reader supporting narrow-area and wide-area modes of illumination and image capture
US8437529B1 (en) * 2001-09-27 2013-05-07 Cummins-Allison Corp. Apparatus and system for imaging currency bills and financial documents and method for using the same
ES2289633T3 (es) 2004-10-11 2008-02-01 Sick Ag Dispositivo y procedimiento para la vigilancia de objetos en movimiento.
US7796154B2 (en) * 2005-03-07 2010-09-14 International Business Machines Corporation Automatic multiscale image acquisition from a steerable camera
ES2326926T3 (es) 2007-08-14 2009-10-21 Sick Ag Procedimiento y dispositivo para la generacion dinamica y transmision de datos geometricos.
EP2677500B1 (en) 2012-06-19 2021-06-23 Samsung Electronics Co., Ltd. Event-based image processing apparatus and method
US9767571B2 (en) * 2013-07-29 2017-09-19 Samsung Electronics Co., Ltd. Apparatus and method for analyzing image including event information
EP3047647B1 (en) 2013-09-16 2020-05-27 Prophesee Dynamic, single photodiode pixel circuit and operating method thereof
CN106796861B (zh) * 2014-04-17 2019-05-03 加坦公司 混合能量转换与处理检测器
US9986179B2 (en) * 2014-09-30 2018-05-29 Qualcomm Incorporated Sensor architecture using frame-based and event-based hybrid scheme
US10469776B2 (en) 2016-04-04 2019-11-05 Prophesee Sample and hold based temporal contrast vision sensor
EP3313064A1 (en) 2016-10-20 2018-04-25 Chronocam Pixel circuit for detecting time-dependent visual data
US10237481B2 (en) * 2017-04-18 2019-03-19 Facebook Technologies, Llc Event camera for generation of event-based images
US10768698B1 (en) * 2017-09-28 2020-09-08 Apple Inc. Method and device for eye tracking with content-embedded glints
US10769909B1 (en) * 2018-07-02 2020-09-08 Amazon Technologies, Inc. Using sensor data to detect events
US11602773B2 (en) * 2018-09-24 2023-03-14 United States Postal Service Vision-enhanced photocell system for package sorting

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013033641A1 (en) * 2011-08-31 2013-03-07 Leonard Reiffel Imager-based code-locating, reading & response methods & apparatus

Also Published As

Publication number Publication date
EP3663963B1 (de) 2021-03-10
US20200175238A1 (en) 2020-06-04
CN111274834A (zh) 2020-06-12
EP3663963A1 (de) 2020-06-10
US11151343B2 (en) 2021-10-19

Similar Documents

Publication Publication Date Title
CN111274834B (zh) 光学代码的读取
US10402956B2 (en) Image-stitching for dimensioning
CN106767410B (zh) 高分辨率点图案
US9349047B2 (en) Method for the optical identification of objects in motion
US10438036B1 (en) System and method for reading and decoding ID codes on a curved, sloped and/or annular object
US7380718B2 (en) Method for reading out symbol information and device for reading out symbol information
EP2668614A2 (en) Exception detection and handling in automated optical code reading systems
CN112710283B (zh) 用于检测对象流的相机和用于确定对象高度的方法
US9946947B2 (en) System and method for finding saddle point-like structures in an image and determining information from the same
CN112446225B (zh) 光学代码的模块尺寸的确定
US5576948A (en) Machine vision for adaptive laser beam steering
CN111724445B (zh) 一种大视野小尺寸识别码的识别方法及系统
CN113439195A (zh) 使用动态视觉传感器和图案投影的三维成像和感测
CN112233139A (zh) 用于在3d数据重建过程中检测运动的系统和方法
CN115209047A (zh) 运动的对象流的检测
JP4966096B2 (ja) 光切断3次元計測装置
KR20170093421A (ko) 영상 처리 장치에 의해 수행되는 영상에서 관심 객체를 판별하는 방법, 영상 처리 장치 및 컴퓨팅 장치
JP2017216497A (ja) 画像処理装置、画像処理システム、画像処理方法、およびプログラム
JP2001167225A (ja) Ccdカメラを用いたバーコード認識装置
US20240135500A1 (en) Detection of objects of a moving object stream
WO2022113877A1 (ja) 三次元計測装置及び三次元計測プログラム
Szirányi Subpixel pattern recognition by image histograms
EP3376435A1 (en) Image processing apparatus, image processing system, image processing method, and program
KR20230094968A (ko) 코드 판독기 및 광학 코드를 판독하는 방법
KR20240043743A (ko) 오브젝트에 심볼을 할당하기 위한 시스템들 및 방법들

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant