CN112135122A - 用于监测成像设备的方法、装置、电子设备以及路侧设备 - Google Patents
用于监测成像设备的方法、装置、电子设备以及路侧设备 Download PDFInfo
- Publication number
- CN112135122A CN112135122A CN202010996066.6A CN202010996066A CN112135122A CN 112135122 A CN112135122 A CN 112135122A CN 202010996066 A CN202010996066 A CN 202010996066A CN 112135122 A CN112135122 A CN 112135122A
- Authority
- CN
- China
- Prior art keywords
- interest
- image
- sub
- region
- regions
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 118
- 238000000034 method Methods 0.000 title claims abstract description 61
- 238000012544 monitoring process Methods 0.000 title claims abstract description 30
- 238000001514 detection method Methods 0.000 claims description 25
- 239000003550 marker Substances 0.000 claims description 19
- 230000002159 abnormal effect Effects 0.000 claims description 10
- 238000012360 testing method Methods 0.000 abstract description 3
- 238000004891 communication Methods 0.000 description 14
- 238000005516 engineering process Methods 0.000 description 13
- 230000008569 process Effects 0.000 description 13
- 238000010586 diagram Methods 0.000 description 9
- 238000001228 spectrum Methods 0.000 description 9
- 238000004422 calculation algorithm Methods 0.000 description 8
- 230000009471 action Effects 0.000 description 7
- 230000006870 function Effects 0.000 description 7
- 238000012545 processing Methods 0.000 description 7
- 238000006073 displacement reaction Methods 0.000 description 5
- 238000004590 computer program Methods 0.000 description 4
- 230000001413 cellular effect Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 238000003491 array Methods 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 241000699670 Mus sp. Species 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 238000012634 optical imaging Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000007723 transport mechanism Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N17/00—Diagnosis, testing or measuring for television systems or their details
- H04N17/002—Diagnosis, testing or measuring for television systems or their details for television cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- General Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Image Analysis (AREA)
- Studio Devices (AREA)
Abstract
本公开的实施例公开了一种用于监测成像设备的方法、装置、电子设备以及存储介质以及路测设备,涉及智能交通及自动驾驶领域。该方法包括:获取由成像设备采集的第一图像;基于模板图像中的至少两个感兴趣区域的位置信息确定第一图像中的至少两个第一感兴趣子图像;针对至少两个感兴趣区域中的每个感兴趣区域,至少部分基于对应于该感兴趣区域的第一感兴趣子图像和模板图像中对应于该感兴趣区域的模板子图像之间的差异确定该感兴趣区域的区域偏移参数;基于至少两个感兴趣区域的区域偏移参数确定成像设备的位置发生移动。通过确定图像中不同位置的感兴趣区域内的图像和模板图像之间的偏移,可以得到能够更好地表征成像设备的位置移动情况的结果。
Description
技术领域
本公开实施例涉及自动驾驶和智能交通领域,具体涉及用于监测成像设备的方法、装置、电子设备以及存储介质以及路测设备。
背景技术
为了实现对于道路上的障碍物的检测,路侧感知设备通常安装在较高的位置,例如红绿灯杆或监控杆等设备杆上。由于现实环境的复杂性,当路侧感知设备受到外界环境的影响使得其位置发生永久移动时,路侧感知设备的障碍检测精度会下降。在相关技术中采用人工或模板匹配算法对路侧感知设备当前采集的图像和模板图像进行整体比较来获取两张图像之间的视野偏差,从而判断路侧感知设备是否发生移动。由于图像的整体偏移信息不能很好地表征路侧感知设备的信息,因此相关技术的检测准确率和召回率都不高。
发明内容
根据本公开示例性实施例的一个方面,提供了一种用于监测成像设备的方法,包括:获取由成像设备采集的第一图像;基于模板图像中的至少两个感兴趣区域的位置信息确定第一图像中的至少两个第一感兴趣子图像;针对至少两个感兴趣区域中的每个感兴趣区域,至少部分基于对应于该感兴趣区域的第一感兴趣子图像和模板图像中对应于该感兴趣区域的模板子图像之间的差异确定该感兴趣区域的区域偏移参数;基于至少两个感兴趣区域的区域偏移参数确定成像设备的位置发生移动。
根据本公开示例性实施例的另一个方面,提供了一种用于监测成像设备的装置,包括:获取单元,配置成获取由成像设备采集的第一图像;感兴趣子图像确定单元,配置成基于模板图像中的至少两个感兴趣区域的位置信息确定第一图像中的至少两个第一感兴趣子图像;区域偏移确定单元,配置成针对至少两个感兴趣区域中的每个感兴趣区域,至少部分基于对应于该感兴趣区域的第一感兴趣子图像和模板图像中对应于该感兴趣区域的模板子图像之间的差异确定该感兴趣区域的区域偏移参数;设备偏移确定单元,配置成基于至少两个感兴趣区域的区域偏移参数确定成像设备的位置发生移动。
根据本公开示例性实施例的另一个方面,提供了一种电子设备。该电子设备包括:处理器以及存储程序的存储器。程序包括指令,指令在由处理器执行时使处理器执行根据本公开一些示例性实施例的用于监测成像设备的方法。
根据本公开示例性实施例的另一个方面,提供了一种存储程序的计算机可读存储介质。程序包括指令,指令在由电子设备的处理器执行时,致使处理器执行根据本公开一些示例性实施例的用于监测成像设备的方法。
根据本公开示例性实施例的另一个方面,提供了一种路侧设备,包括根据本公开一些示例性实施例的电子设备。
借助于本公开示例性实施例的用于监测成像设备的方法、装置、电子设备以及存储介质以及路测设备,通过确定图像中不同位置的感兴趣区域内的图像和模板图像之间的偏移,可以得到能够更好地表征成像设备的位置移动的结果。此外,通过进一步考虑针对不同时间采集的图像相对于模板图像的偏移程度,利用本公开实施例提供的方法得到的指示成像设备的位置移动的结果具有更好的稳定性。
附图说明
附图示例性地示出了实施例并且构成说明书的一部分,与说明书的文字描述一起用于讲解实施例的示例性实施方式。所示出的实施例仅出于例示的目的,并不限制权利要求的范围。在所有附图中,相同的附图标记指代类似但不一定相同的元素:
图1示出了根据本公开的实施例的用于检测成像设备的方法的示例性的流程图;
图2示出了根据本公开的实施例的模板图像的示意图;
图3示出了根据本公开的实施例的确定感兴趣区域的区域偏移参数的示例性的流程图;
图4示出了根据本公开实施例的确定成像设备的位置发生移动的过程的示例性的流程图;
图5示出了根据本公开的实施例的用于监测成像设备的方法的一种示例性的流程图;
图6示出了根据本公开的实施例的确定感兴趣区域的区域偏移参数的示例性的过程;
图7示出了根据本公开实施例的基于至少两个感兴趣区域的区域偏移参数确定成像设备的位置发生移动的过程的示例性的流程图;
图8示出了根据本公开的实施例的用于监测成像设备的装置的示意性框图;以及
图9示出了根据本公开示例性实施例的示例计算设备的示意性框图。
具体实施方式
在本公开中,除非另有说明,否则使用术语“第一”、“第二”等来描述各种要素不意图限定这些要素的位置关系、时序关系或重要性关系,这种术语只是用于将一个元件与另一元件区分开。在一些示例中,第一要素和第二要素可以指向该要素的同一实例,而在某些情况下,基于上下文的描述,它们也可以指代不同实例。
在本公开中对各种所述示例的描述中所使用的术语只是为了描述特定示例的目的,而并非旨在进行限制。除非上下文另外明确地表明,如果不特意限定要素的数量,则该要素可以是一个也可以是多个。此外,本公开中所使用的术语“和/或”涵盖所列出的项目中的任何一个以及全部可能的组合方式。例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
在车联网(V2X,Vehicle to Everything)技术中,通过整合全球定位系统(GPS)导航技术、车对车交流技术、无线通信及远程感应技术奠定了新的汽车技术发展方向。在V2X技术中,可以通过路侧感知技术获取道路信息,从而为智能交通、自动驾驶等方案提供必要的信息。在一些应用中,可以通过在道路附近设置的路侧感知设备获取所需的道路信息。例如,可以通过设置在直道两侧或交叉路口处的路侧感知设备获取道路信息。
在路侧感知技术中,可以利用包括图像采集设备的路侧感知设备采集道路以及道路附近区域的图像信息,并可以通过分析路侧感知设备采集到的图像确定道路上发生的事件。安装在例如红绿灯杆或监控杆等设备杆上的路侧感知设备可能由于受到外界环境的影响(如天气、外力等)从而使得其位置发生移动,从而使得图像采集设备的实际外参相对于安装时配置的原始外参发生改变。这将导致基于原始外参确定的图像中存在的对象(例如障碍物)在真实环境中的位置出现偏差。
可以利用模板匹配算法对图像采集设备采集的实时图像和在安装时基于原始外参采集的模板图像进行图像匹配,以确定实时图像相对于模板图像的偏差程度。在一些情况下,实时图像的整体偏移情况能够指示路侧感知设备位置的移动情况。然而,在另一些情况下,实时图像的整体偏移情况并不能很好地指示路侧感知设备位置的移动情况。
对此,本公开示例性实施例提供一种用于监测成像设备的方案,通过确定图像中不同位置的感兴趣区域内的图像和模板图像之间的偏移,可以得到能够更好地表征成像设备的位置移动的结果。此外,通过进一步考虑针对不同时间采集的图像相对于模板图像的偏移程度,利用本公开实施例提供的方法得到的指示成像设备的位置移动的结果具有更好的稳定性。
以下结合附图对本公开的实施例进行进一步描述。
图1示出了根据本公开的实施例的用于检测成像设备的方法的示例性的流程图。如图1所示,在步骤S110中,获取由成像设备采集的第一图像。
成像设备可以是利用光学成像原理形成影像并记录影像的设备。在一些实施例中,成像设备可以配置成基于可见光或不可见光(如红外光)进行成像的设备。
在成像设备是路侧感知设备的情况下,第一图像可以是路侧感知设备拍摄的指示道路信息的图像。这里所说的图像可以指的是单张图像,也可以指的是视频中的一帧图像。
在一些实施例中,可以实时地从成像设备获取由成像设备采集的第一图像。在实时获取第一图像的情况下,可以实时地执行下面描述的步骤S120-S140。在另一些实施例中,可以从存储设备中获取由成像设备采集并存储在存储设备中的第一图像。
在步骤S120中,可以基于模板图像中的至少两个感兴趣区域的位置信息确定第一图像中的至少两个第一感兴趣子图像。
如前所述,模板图像可以是成像设备基于原始外参采集的图像,而第一图像可以是同一成像设备基于当前外参采集的图像。因此,可以理解的是,第一图像和模板图像具有相同的尺寸。因此,可以利用在模板图像中指定的感兴趣区域的位置信息,在第一图像中确定感兴趣区域的位置,并从而确定位于感兴趣区域内的第一感兴趣子图像。因此,第一感兴趣子图像和模板子图像对应于道路上相同位置的图像信息。在成像设备的位置发生偏移的情况下,第一感兴趣子图像相对于模板子图像会相应地发生偏移。
图2示出了根据本公开的实施例的模板图像的示意图。如图2所示,模板图像指示交叉路口的道路信息。在图2示出的示例中示出了四个感兴趣区域201、202、203以及204。
可以在模板图像中预先指定上述至少两个感兴趣区域的位置。例如,以图2示出的模板图像为例,可以在模板图像中指定四个互不重叠的区域作为感兴趣区域的位置。
感兴趣区域的位置信息可以包括区域位置和区域尺寸。其中区域位置可以是用于在模板图像中定位感兴趣区域的位置点在模板图像中的坐标。这样的位置点可以是感兴趣区域的几何中心或感兴趣区域轮廓上的任一点,还可以是本领域技术人员根据实际情况指定的图像上的任一点。区域尺寸可以是用于基于位置点在模板图像上确定感兴趣区域的范围的尺寸信息。感兴趣区域可以是矩形、圆形等任何几何形状。在感兴趣区域是矩形的情况下,可以将矩形中心的坐标确定为感兴趣区域的区域位置,将矩形的长、宽确定为感兴趣区域的区域尺寸。在感兴趣区域是其他几何形状的情况下,本领域技术人员可以基于几何形状的特征确定感兴趣区域的位置信息,在此不再加以赘述。
可以通过在模板图像中选取符合需要的至少两个模板子图像来指定感兴趣区域。
在一些实施例中,模板子图像可以包括车道线。在一些实现方式中,可以在模板图像中选择位于道路地面上的、没有前景对象遮挡的包括车道线的图像作为模板子图像,并将该模板子图像所在的区域确定为感兴趣区域。在另一些实施例中,也可以选择位于其他固定位置的、具有线条特征(例如护栏、人行道等)的任何图像作为模板子图像。本领域技术人员可以根据实际情况在模板图像中选择符合实际需要的图像区域作为模板子图像。在又一些实施例中,可以对模板图像执行目标检测算法以确定包含预定对象或符合预定规则(如位于道路地面上的、没有前景对象遮挡的包括车道线)的图像区域作为模板子图像。
通过选择位于道路地面上的图像作为模板子图像,可以在最大程度上减少成像设备的位置发生移动时带来的视差问题对成像设备的位置移动检测的影响。此外,没有前景对象遮挡的包括车道线的图像可以使得在下文中描述的图像偏移量的计算更加准确。
在一些实施例中,上述至少两个感兴趣区域两两之间的间隔超过预定的距离。也就是说,上述至少两个感兴趣区域分散在图像中的不同位置,从而能够综合考虑图像不同位置的偏移程度,以使得针对图像偏移的检测结果能够更好地反应成像设备的位置的移动情况。在一些实现方式中,以上述至少两个感兴趣区域包括四个感兴趣区域为例,这四个感兴趣区域可以分别位于模板图像中的左上区域、左下区域、右上区域和右下区域。这里所说的左上区域、左下区域、右上区域和右下区域可以是基于模板图像的中心点和水平、竖直方向上的两个对称轴划分的四个区域,也可以是基于模板图像中的指定的特征点以及通过该特征点的水平、竖直方向的线段对图像的划分而形成的四个区域。在一些示例中,指定的特征点可以是交叉路口不同方向的车道的交叉点。
可以理解的是,图2中的实例不构成对于本公开的限制。本领域技术人员可以在不脱离本公开原理的情况下在模板图像中设置更多(如多于四个)或更少(如两个或三个)感兴趣区域。
返回参考图1,在步骤S130中,针对至少两个感兴趣区域中的每个感兴趣区域,至少部分基于对应于该感兴趣区域的第一感兴趣子图像和模板图像中对应于该感兴趣区域的模板子图像之间的差异确定该感兴趣区域的区域偏移参数。该区域偏移参数可以表示对应的感兴趣区域中的图像相对于模板子图像的偏移程度。下文中将结合图3和图6描述确定该区域偏移参数的具体过程。
在步骤S140中,可以基于至少两个感兴趣区域的区域偏移参数确定成像设备的位置发生移动。上述至少两个感兴趣区域是分散在图像中的不同位置的区域,因此,综合考虑所有感兴趣区域中的图像相对于模板子图像的偏移程度可以得到用于体现整体图像相对于模板图像的偏移程度。下文中将结合图4和图7描述利用至少两个感兴趣区域的区域偏移参数确定成像设备的位置发生移动的具体过程。
图3示出了根据本公开的实施例的确定感兴趣区域的区域偏移参数的示例性的流程图。可以针对至少两个感兴趣区域中的每个感兴趣区域执行图3中示出的过程,以确定用于该感兴趣区域的区域偏移参数。
如图3所示,在步骤S331中,可以确定对应于该感兴趣区域的第一感兴趣子图像和对应的模板子图像之间的差异是否大于差异阈值。
在一些实施例中,对应于该感兴趣区域的第一感兴趣子图像和对应的模板子图像之间的差异是通过基于快速傅里叶变换(Fast Fourier Transform,FFT)的方法确定的。通过基于FFT的方法对图像进行处理,可以实现更快速的图像处理过程,并因此可以更快速地得到第一感兴趣子图像和对应的模板子图像之间的差异。
在一些实现方式中,可以对第一感兴趣子图像和对应的模板子图像分别进行快速傅里叶变换,以得到第一感兴趣子图像的第一频域特征和对应的模板子图像的模板频域特征。然后,可以将第一频域特征和模板频域特征相乘得到两个子图像的频域特征乘积。进一步地,可以对频域特征乘积进行逆快速傅里叶变换,以得到第一感兴趣子图像和对应的模板子图像的互功率谱。该互功率谱可以表示两个图像之间的偏移程度。
如果第一感兴趣子图像相对于模板子图像没有发生偏移,那么该互功率谱中的最大值将位于互功率谱的中心。以第一感兴趣子图像和模板子图像的尺寸均为101*101像素为例,两个图像的互功率谱的尺寸也为101*101。如果第一感兴趣子图像相对于模板子图像没有发生偏移,那么互功率谱中的最大值将出现在像素坐标(51,51)处(即像素所在行数和列数均为51)。如果第一感兴趣子图像相对于模板子图像发生了偏移,那么互功率谱中的最大值将出现在其他位置处。
在一些示例中,可以将互功率谱中的最大值的位置和互功率谱中心的位置之间的距离确定为第一感兴趣子图像和对应的模板子图像之间的差异。例如,如果互功率谱中的最大值的位置出现在像素坐标(40,40)处,那么可以将像素坐标(40,40)和(51,51)之间的距离确定为一感兴趣子图像和对应的模板子图像之间的差异。
在另一些实施例中,可以利用模板匹配算法对第一感兴趣子图像和对应的模板子图像进行处理,以得到第一感兴趣子图像和对应的模板子图像之间的差异。在一些实现方式中,模板匹配算法可以包括平方差匹配、标准平方差匹配、相关匹配、标准相关匹配、相关系数匹配、标准相关系数匹配等。在一些示例中,可以将模板匹配算法得到的结果确定为第一感兴趣子图像和对应的模板子图像之间的差异。
在步骤S332中,在该第一感兴趣子图像和对应的模板子图像之间的差异大于差异阈值的情况下,可以将该感兴趣区域的区域偏移参数确定为指示该第一感兴趣子图像发生偏移的标记。
在一些实施例中,可以将步骤S331中确定的第一感兴趣子图像和对应的模板子图像之间的差异和预定义的差异阈值进行比较。
当第一感兴趣子图像和对应的模板子图像之间的差异大于差异阈值时,可以认为第一感兴趣子图像相对于对应的模板子图像发生了偏移。在这种情况下,可以将该感兴趣区域的区域偏移参数确定为指示该第一感兴趣子图像发生偏移的标记。例如,可以将该感兴趣区域的区域偏移参数确定为第一值。在一些示例中,第一值可以是1或任何合适的值。又例如,也可以将该感兴趣区域的区域偏移参数确定为任何合适的符号或标志。
当第一感兴趣子图像和对应的模板子图像之间的差异小于等于差异阈值时,可以认为图像偏移的程度在误差和允许范围内。因此,在这种情况下可以认为第一感兴趣子图像相对于对应的模板子图像没有发生偏移。在这种情况下,可以将该感兴趣区域的区域偏移参数确定为指示该第一感兴趣子图像没有发生偏移的标记。例如,该感兴趣区域的区域偏移参数可以是与第一值不同的第二值或者任何合适的符号或标记。在一些示例中,第二值可以是0或任何其他合适的值。
图4示出了根据本公开实施例的确定成像设备的位置发生移动的过程的示例性的流程图。
如图4所示,在步骤S441中,可以基于至少两个感兴趣区域中每个感兴趣区域的区域偏移参数确定至少两个感兴趣区域中发生偏移的感兴趣区域的数量。这里所说的数量可以是绝对数量,也可以是相对数量。
在一些实现方式中,可以对至少两个感兴趣区域中具有指示该第一感兴趣子图像发生偏移的标记的区域偏移参数的感兴趣区域进行计数,以得到发生偏移的感兴趣区域的绝对数量。在一些示例中,可以对至少两个感兴趣区域中具有指示该第一感兴趣子图像发生偏移的标记的区域偏移参数的感兴趣区域直接进行计数,以得到上述绝对数量。在另一些示例中,在指示该第一感兴趣子图像发生偏移的标记是值为1的第一值并且指示该第一感兴趣子图像没有发生偏移的标记是值为0的第二值的情况下,可以对至少两个感兴趣区域中各感兴趣区域的区域偏移参数进行求和,并基于各感兴趣区域的区域偏移参数的求和结果确定至少两个感兴趣区域中具有第一值的区域偏移参数的感兴趣区域的绝对数量。
在另一些实现方式中,可以对至少两个感兴趣区域中具有指示该第一感兴趣子图像发生偏移的标记的区域偏移参数的感兴趣区域进行计数,并进一步计算得到具有指示该第一感兴趣子图像发生偏移的标记的区域偏移参数的感兴趣区域的在所有感兴趣区域中所占的比例,并将计算得到的比例确定为具有指示该第一感兴趣子图像发生偏移的标记的区域偏移参数的感兴趣区域的相对数量。
在步骤S442中,当至少两个感兴趣区域中发生偏移的感兴趣区域的数量大于数量阈值时,确定成像设备的位置发生移动。本领域技术人员可以根据实际情况预先确定用于成像设备的数量阈值。当发生偏移的感兴趣区域的数量大于数量阈值时,可以认为第一图像相对于模板图像的偏移程度超过正常范围,并因此可以确定成像设备的位置相对于原始位置发生了移动。
利用本公开提供的用于监测成像设备的方法,可以利用图像中不同位置处的感兴趣区域内的图像偏移情况表征采集图像的成像设备的位置的移动情况。相对于图像的整体偏移量,不同位置的子图像的偏移情况能够更好地表征成像设备的位置的移动情况,从而能够提高针对成像设备的位移监测的准确率和召回率。
以上结合图1-图4描述了根据本公开的实施例的基于图像中不同位置处的感兴趣区域内的子图像相对于模板子图像的偏移程度确定成像设备的位置是否移动的过程。通过对位于图像中不同位置的感兴趣区域内的图像的偏移程度进行检测,可以更好地获取图像不同位置处的偏移程度,从而能够更好地表征成像设备的位置的移动情况。
此外,由于外部环境的变化存在偶然性,因此,依赖于成像设备在某一时刻采集的一张图像(如第一图像)相对于模板图像的偏移程度来确定成像设备的位置是否移动的准确率和召回率不具备鲁邦性(robustness)。为了提供一种召回率更高的用于监测成像设备的方法,本公开进一步提供了基于历史信息确定成像设备的位置是否移动的方法。
图5示出了根据本公开的实施例的用于监测成像设备的方法的一种示例性的流程图。相对于图1中示出的用于监测成像设备的方法,图5中示出的过程进一步考虑了与第一图像在不同时间点采集的至少一个第二图像相对于模板图像的偏移信息。
如图5所示,在步骤S510中,可以获取由成像设备采集的第一图像。在步骤S520中,可以基于模板图像中的至少两个感兴趣区域的位置信息确定第一图像中的至少两个第一感兴趣子图像。可以利用结合图1描述的步骤S110和步骤S120来实现图5中示出的步骤S510和步骤S520,在此不再加以赘述。
在步骤S523中,在获取第一图像之后,获取由成像设备采集的至少一个第二图像。在一些实施例中,可以实时地从成像设备获取第二图像。在这种情况下,第二图像的采集时间晚于第一图像。在另一些实施例中,可以从存储设备中获取由成像设备采集并存储在存储设备中的第二图像。在这种情况下,第二图像的采集时间可以早于第一图像,也可以晚于第一图像。在至少一个第二图像包括至少两个第二图像的情况下,一部分第二图像的采集时间可以早于第一图像,另一部分第二图像的采集时间可以晚于第一图像。
在步骤S526中,可以基于模板图像中的至少两个感兴趣区域的位置信息确定第二图像中的至少两个第二感兴趣子图像。由于第二图像和第一图像、模板图像是由同一成像设备采集的图像,因此第二图像和第一图像、模板图像的图像尺寸是相同的。可以利用结合步骤S120、步骤S520的过程在第二图像中基于感兴趣区域的位置信息确定对应的第二感兴趣子图像,在此不再加以赘述。
在步骤S530中,针对至少两个感兴趣区域中的每个感兴趣区域,至少部分基于对应于该感兴趣区域的第一感兴趣子图像和模板图像中对应于该感兴趣区域的模板子图像之间的差异确定该感兴趣区域的区域偏移参数。在获取了至少一个第二图像的情况下,可以基于对应于该感兴趣区域的第一感兴趣子图像和对应的模板子图像之间的差异以及对应于该感兴趣区域的第二感兴趣子图像和模板子图像之间的差异确定该感兴趣区域的区域偏移参数。其中第一感兴趣子图像和对应的模板子图像之间的差异至少部分地指示第一图像和模板图像之间的偏移程度,第二感兴趣子图像和模板子图像之间的差异至少部分地指示第二图像和模板图像之间的偏移程度。因此,在步骤530中确定的感兴趣区域的区域偏移参数是基于在不同时刻采集的图像的偏移程度确定的。
下文中将结合图6详细描述步骤S530。
在步骤S540中,可以基于至少两个感兴趣区域的区域偏移参数确定成像设备的位置发生偏移。在一些实施例中,可以比较上述至少两个感兴趣区域的区域偏移参数和预先确定的区域偏移阈值来确定成像设备的位置是否发生偏移。下文中将结合图7详细描述步骤S540的过程。
图6示出了根据本公开的实施例的确定感兴趣区域的区域偏移参数的示例性的过程。
在步骤S631中,可以基于对应于该感兴趣区域的第一感兴趣子图像和对应的模板子图像之间的差异确定第一子图像偏移参数,其中第一子图像偏移参数指示第一感兴趣子图像相对于对应的模板子图像是否发生偏移。
可以利用上文中结合步骤S331描述的基于FFT的方法或模板匹配算法对第一感兴趣子图像和对应的模板子图像进行处理,以确定第一感兴趣子图像和对应的模板子图像之间的差异。
在对应于该感兴趣区域的第一感兴趣子图像和对应的模板子图像之间的差异大于差异阈值的情况下,可以将第一子图像偏移参数确定为指示该第一感兴趣子图像发生偏移的标记。例如,可以将该感兴趣区域的区域偏移参数确定为第一值。在一些示例中,第一值可以是1或任何合适的值。又例如,也可以将该感兴趣区域的区域偏移参数确定为任何合适的符号或标志。在对应于该感兴趣区域的第一感兴趣子图像和对应的模板子图像之间的差异小于等于差异阈值的情况下,可以将第一子图像偏移参数确定为指示该第一感兴趣子图像没有发生偏移的标记。例如,该感兴趣区域的区域偏移参数可以是与第一值不同的第二值或者任何合适的符号或标记。在一些示例中,第二值可以是0或任何其他合适的值。
在步骤S632中,可以基于对应于该感兴趣区域的第二感兴趣子图像和对应的模板子图像之间的差异确定第二子图像偏移参数,其中第二子图像偏移参数指示第二感兴趣子图像相对于对应的模板子图像是否发生偏移。
可以利用上文中结合步骤S331描述的基于FFT的方法或模板匹配算法对第二感兴趣子图像和对应的模板子图像进行处理,以确定第二感兴趣子图像和对应的模板子图像之间的差异。
在对应于该感兴趣区域的第二感兴趣子图像和对应的模板子图像之间的差异大于差异阈值的情况下,可以第二子图像偏移参数确定为指示该第二感兴趣子图像发生偏移的标记。例如,可以将该感兴趣区域的区域偏移参数确定为第一值。在一些示例中,第一值可以是1或任何合适的值。又例如,也可以将该感兴趣区域的区域偏移参数确定为任何合适的符号或标志。在对应于该感兴趣区域的第二感兴趣子图像和对应的模板子图像之间的差异小于等于差异阈值的情况下,可以将第二子图像偏移参数确定为指示该第二感兴趣子图像没有发生偏移的标记。例如,该感兴趣区域的区域偏移参数可以是与第一值不同的第二值或者任何合适的符号或标记。在一些示例中,第二值可以是0或任何其他合适的值。
在步骤S633中,可以基于第一子图像偏移参数和第二子图像偏移参数确定该感兴趣区域的区域偏移参数。
在一些实施例中,可以基于第一子图像偏移参数和第二子图像偏移参数对对应于该感兴趣区域的第一感兴趣子图像和第二感兴趣子图像中发生偏移的感兴趣子图像进行计数。然后,可以基于对应于该感兴趣区域的第一感兴趣子图像和第二感兴趣子图像中发生偏移的感兴趣子图像的数量与有效的感兴趣子图像的数量的比值确定区域偏移参数。
其中,有效的感兴趣子图像的数量是通过以下方式确定的:针对至少两个感兴趣区域中的每个感兴趣区域,在至少部分基于对应于该感兴趣区域的第一感兴趣子图像和对应的模板子图像之间的差异确定该感兴趣区域的区域偏移参数之前,对该感兴趣区域的第一感兴趣子图像进行目标检测以确定该感兴趣区域的第一感兴趣子图像中不包括前景障碍物。类似地,在至少部分基于对应于该感兴趣区域的第二感兴趣子图像和对应的模板子图像之间的差异确定该感兴趣区域的区域偏移参数之前,对该感兴趣区域的第二感兴趣子图像进行目标检测以确定该感兴趣区域的第二感兴趣子图像中不包括前景障碍物。
在一些实施例中,对应于每个感兴趣区域的模板子图像中可以包括车道线。因此,可以对第一感兴趣子图像或第二感兴趣子图像执行目标检测,以确定其中是否包含有车道线。如果目标检测的结果指示区中包含车道线,那么可以认为第一感兴趣子图像或第二感兴趣子图像不包括前景障碍物。
在另一些实施例中,可以对第一感兴趣子图像或第二感兴趣子图像执行目标检测以确定其中是否包含有预定的障碍物对象。在没有检测到其中包含预定的障碍物对象的情况下,可以认为第一感兴趣子图像或第二感兴趣子图像不包括前景障碍物。
在一些实施例中,只有在确定第一感兴趣子图像或第二感兴趣子图像不包括前景障碍物(即,在确定第一感兴趣子图像或第二感兴趣子图像是有效的感兴趣子图像)的情况下,才进一步执行步骤S631或步骤S632。否则,将终止在当前处理的图像(如至少一个第二图像中的一个或第一图像)中针对该感兴趣区域检测图像的偏移程度。
以第一值是1,第二值是0为例,可以对第一子图像偏移参数和第二子图像偏移参数的值进行求和,以实现对对应于该感兴趣区域的第一感兴趣子图像和第二感兴趣子图像中发生偏移的感兴趣子图像进行计数。有效的感兴趣子图像的数量可以表示该感兴趣区域的有效的总检测数。基于对应于该感兴趣区域的第一感兴趣子图像和第二感兴趣子图像中发生偏移的感兴趣子图像的数量与有效的感兴趣子图像的数量的比值确定的区域偏移参数可以表示在所有有效检测中子图像发生偏移的比例。
图7示出了根据本公开实施例的基于至少两个感兴趣区域的区域偏移参数确定成像设备的位置发生移动的过程的示例性的流程图。
如图7所示,在步骤S741中,确定至少两个感兴趣区域中其区域偏移参数大于区域偏移阈值的感兴趣区域的数量。
通过对在一定的时间段(如几小时、一天等)内采集的第一图像和至少一个第二图像中感兴趣区域内的子图像的偏移情况进行检测,可以确定在这一时间段内每个感兴趣区域内的子图像的偏移情况。可以理解的是,当成像设备的位置发生了移动后,在一定时间段内采集到的大多数图像中应当可以检测到感兴趣区域内的子图像发生偏移。因此,可以预先确定区域偏移阈值。当感兴趣区域的区域偏移参数大于区域偏移阈值时,可以认为该感兴趣区域内的图像发生了永久性的偏移。区域偏移阈值可以是大于0小于1的数。
通过对至少两个感兴趣区域进行统计,可以确定其中区域偏移参数大于区域偏移阈值的感兴趣区域的数量。
在步骤S742中,可以确定步骤S741中统计的其区域偏移参数大于区域偏移阈值的感兴趣区域的数量是否大于预定的数量阈值。例如,以感兴趣区域的数量为4的情况下,数量阈值可以确定为2。
可以理解的是,本领域技术人员可以根据实际情况设置上述区域偏移阈值和数量阈值。在此不对区域偏移阈值和数量阈值做具体限定。
当步骤S742中的判断结果是“否”的情况下,可以认为尽管相对于模板图像来说,成像设备采集到的图像中有一小部分出现了改变,但是就整体图像而言,相对于模板图像的偏移较小。图像中这样的小部分的改变有可能是现实道路环境的改变而不是成像设备的位置移动造成的。因此,在这种情况下,可以前进到步骤S746,并确定成像设备的位置没有移动。
在步骤S742中的判断结果是“是”的情况下,可以认为成像设备采集到的图像相对于模板图像在整体上出现了改变。
以下以成像设备在预定的时间段内采集的图像数量为200、感兴趣区域的数量是4为例。对于感兴趣区域1,检测到该感兴趣区域发生偏移的数量为170,有效的总检测数为190的情况下,其区域偏移参数可以被确定为170/190。对于感兴趣区域2,检测到该感兴趣区域发生偏移的数量为120,有效的总检测数为145的情况下,其区域偏移参数可以被确定为120/145。对于感兴趣区域3,检测到该感兴趣区域发生偏移的数量为142,有效的总检测数为165的情况下,其区域偏移参数可以被确定为142/165。对于感兴趣区域4,检测到该感兴趣区域发生偏移的数量为112,有效的总检测数为176的情况下,其区域偏移参数可以被确定为112/176。以区域偏移阈值为0.8为例,其中感兴趣区域1、感兴趣区域2、感兴趣区域3的区域偏移参数均大于区域偏移阈值,感兴趣区域4的区域偏移参数小于区域偏移阈值。由此,区域偏移参数大于区域偏移阈值的感兴趣区域的数量为3,区域偏移参数不大于区域偏移阈值的感兴趣区域的数量为1。在这种情况下,以数量阈值为2为例,区域偏移参数大于区域偏移阈值的感兴趣区域的数量大于数量阈值,可以认为成像设备采集到的图像相对于模板图像在整体上出现了改变。
在一些实施例中,在这种情况下,可以直接前进到步骤S745,确定成像设备的位置发生了移动(图7中未示出)。
如果在成像设备采集图像时存在异常天气(如雨、雪、雾等),也可能导致检测到成像设备采集到的图像相对于模板图像在整体上出现了改变。因此,在另一些实施例中,在确定成像设备的位置发生了移动之前,还可以对被检测的第一图像和/或第二图像进行图像处理,以确定在成像设备采集图像是是否存在异常天气。
如图7所示,在步骤S742中的判断结果是“是”的情况下,可以前进到步骤S743。在步骤S743中,可以对第一图像和/或第二图像进行目标检测,以检测在成像设备采集图像时是否存在异常天气。在一些实现方式中,对于成像设备在一定的时间段内采集的第一图像以及至少一个第二图像,可以从所有图像中随机或以预定的规则(例如每个一小时)选取至少一张图像执行异常天气的检测。
在步骤S744中,可以基于步骤S743中的目标检测结果确定在监测成像设备的时间段内是否存在异常天气。在一些实施例中,如果步骤S743的目标检测结果指示超过预定数量(例如,超过一半数量或超过3张)的图像中检测到异常天气的情况,那么可以判断存在异常天气。反之,可以判断不存在异常天气。
在步骤S743中的判断结果是“是”的情况下,可以认为该段时间内成像设备采集到的图像不适于判断成像设备的位置移动的情况。因此,在这种情况下,可以前进到步骤S746,并确定成像设备的位置没有移动。
在步骤S743中的判断结果是“否”的情况下,可以认为该段时间内成像设备采集到的图像能够用于判断成像设备的位置移动的情况。因此,在这种情况下,可以前进到步骤S745,并确定成像设备的位置发生了移动。
利用本公开提供的方法,通过对不同时间采集的不同图像进行图像偏移的检测,可以避免由于偶然的因素导致图像发生偏移带来的判断误差,能够更准确地反应一段时间内成像设备采集到的图像的信息,从而能够更准确地实现对于成像设备的位置的移动的监测,从而能够提高针对成像设备的位移监测的准确率和召回率。
以上对根据本公开示例性实施例的用于监测成像设备的方法进行了说明。虽然各个操作在附图中被描绘为按照特定的顺序,但是这不应理解为要求这些操作必须以所示的特定顺序或者按顺行次序执行,也不应理解为要求必须执行所有示出的操作以获得期望的结果。
图8示出了根据本公开的实施例的用于监测成像设备的装置的示意性框图。如图8所示,用于监测成像设备的装置800可以包括获取单元810、感兴趣子图像确定单元820、区域偏移确定单元830以及设备偏移确定单元840。
图8中示出的装置800可以用于实现本公开结合上述图1-图7描述的各种方法。在一些实施例中,装置800可以实现为智能交通车路协同的系统中的各种路测设备,例如具有计算能力的路侧感知设备、与路侧感知设备相连接的路侧计算设备等。装置800也可以实现为与路侧计算设备连接的服务器设备,或是与路侧感知设备直接相连的服务器设备等。这样的服务器设备例如是云控平台、车路协同管理平台、中心子系统、边缘计算平台、云计算平台等。
获取单元810可以配置成获取由成像设备采集的第一图像。感兴趣子图像确定单元820可以配置成基于模板图像中的至少两个感兴趣区域的位置信息确定第一图像中的至少两个第一感兴趣子图像。区域偏移确定单元830可以配置成针对至少两个感兴趣区域中的每个感兴趣区域,至少部分基于对应于该感兴趣区域的第一感兴趣子图像和模板图像中对应于该感兴趣区域的模板子图像之间的差异确定该感兴趣区域的区域偏移参数。设备偏移确定单元840可以配置成基于至少两个感兴趣区域的区域偏移参数确定成像设备的位置发生移动。
这里所说的用于监测成像设备的装置800的上述各单元810~840的操作分别与前面描述的步骤S110~S140的操作类似,在此不再加以赘述。
在一些实施例中,在获取第一图像之后,获取单元810还可以配置成获取由成像设备采集的至少一个第二图像。这种情况下,感兴趣子图像确定单元820可以配置成基于模板图像中的至少两个感兴趣区域的位置信息确定第一图像中的至少两个第一感兴趣子图像,并基于至少两个感兴趣区域的位置信息确定第二图像中的至少两个第二感兴趣子图像。区域偏移确定单元830可以配置成基于对应于该感兴趣区域的第一感兴趣子图像和对应的模板子图像之间的差异以及对应于该感兴趣区域的第二感兴趣子图像和模板子图像之间的差异确定区域偏移参数。设备偏移确定单元840可以配置成基于至少两个感兴趣区域的区域偏移参数确定成像设备的位置发生移动。
相应地,上述获取单元810的操作与前述步骤S510、S523类似,感兴趣子图像确定单元820的操作与前述步骤S520、S526类似,区域偏移确定单元830的操作与前述步骤S530类似,设备偏移确定单元840的操作与前述步骤S540类似,在此不再加以赘述。
利用本公开提供的用于监测成像设备的装置,可以利用图像中不同位置处的感兴趣区域内的图像偏移情况表征采集图像的成像设备的位置的移动情况。相对于图像的整体偏移量,不同位置的子图像的偏移情况能够更好地表征成像设备的位置的移动情况,从而能够提高针对成像设备的位移监测的准确率和召回率。此外,通过对不同时间采集的不同图像进行图像偏移的检测,可以避免由于偶然的因素导致图像发生偏移带来的判断误差,能够更准确地反应一段时间内成像设备采集到的图像的信息,从而能够更准确地实现对于成像设备的位置的移动的监测。
虽然上面参考特定模块讨论了特定功能,但是应当注意,本文讨论的各个模块的功能可以分为多个模块,和/或多个模块的至少一些功能可以组合成单个模块。本文讨论的特定模块执行动作包括该特定模块本身执行该动作,或者替换地该特定模块调用或以其他方式访问执行该动作的另一个组件或模块(或结合该特定模块一起执行该动作)。因此,执行动作的特定模块可以包括执行动作的该特定模块本身和/或该特定模块调用或以其他方式访问的、执行动作的另一模块。
更一般地,本文可以在软件硬件元件或程序模块的一般上下文中描述各种技术。上面关于图8中描述的各个单元可以在硬件中或在结合软件和/或固件的硬件中实现。例如,这些模块可以被实现为计算机程序代码/指令,该计算机程序代码/指令被配置为在一个或多个处理器中执行并存储在计算机可读存储介质中。可替换地,这些模块可以被实现为硬件逻辑/电路。例如,在一些实施例中,获取单元810、感兴趣子图像确定单元820、区域偏移确定单元830以及设备偏移确定单元840中的一个或多个可以一起被实现在片上系统(SoC)中。SoC可以包括集成电路芯片(其包括处理器(例如,中央处理单元(CPU)、微控制器、微处理器、数字信号处理器(DSP)等)、存储器、一个或多个通信接口、和/或其他电路中的一个或多个部件),并且可以可选地执行所接收的程序代码和/或包括嵌入式固件以执行功能。
本公开示例性实施例提供了一种电子设备,该电子设备可包括处理器;以及存储程序的存储器,所述程序包括指令,所述指令在由所述处理器执行时使所述处理器执行前述任何方法。
本公开示例性实施例还提供了一种存储程序的计算机可读存储介质,所述程序包括指令,所述指令在由电子设备的处理器执行时,致使所述处理器执行前述任何方法。
本公开示例性实施例还提供了一种路侧设备,包括前述电子设备。在智能交通车路协同的一种系统架构中,路侧设备可以包括路侧感知设备和路侧计算设备。路侧感知设备(例如路侧相机)连接到路侧计算设备(例如路侧计算单元RSCU),路侧计算设备连接到服务器设备。在另一种系统架构中,路侧感知设备自身包括计算功能,即路测设备可以是具有计算功能的路侧感知设备,路侧感知设备可以直接连接到所述服务器设备。以上连接可以是有线或是无线。服务器设备例如是云控平台、车路协同管理平台、中心子系统、边缘计算平台、云计算平台等。
下面参考图9来描述这样的电子设备和计算机可读存储介质的示例。
图9示出了可以被用来实施本文所描述的模块和功能或者电子设备的计算设备900的示例配置。计算设备900可以是各种不同类型的设备,例如服务提供商的服务器、与客户端(例如,客户端设备)相关联的设备、片上系统、和/或任何其它合适的计算设备或计算系统。计算设备900的示例包括但不限于:台式计算机,服务器计算机、笔记本电脑或上网本计算机、移动设备(例如,平板电脑或者phablet设备、蜂窝或其他无线电话(例如,智能电话)、记事本计算机、移动台)、可穿戴设备(例如,眼镜、手表)、娱乐设备(例如,娱乐器具、通信地耦合到显示设备的机顶盒、游戏机)、电视或其他显示设备、汽车计算机等等。因此,计算设备900的范围可以从具有大量存储器和处理器资源的全资源设备(例如,个人计算机、游戏控制台)到具有有限的存储器和/或处理资源的低资源设备(例如,传统的机顶盒、手持游戏控制台)。
计算设备900可以包括能够诸如通过系统总线914或其他适当的连接彼此通信的至少一个处理器902、存储器904、(多个)通信接口906、显示设备908、其他输入/输出(I/O)设备910以及一个或更多大容量存储设备912。
处理器902可以是单个处理单元或多个处理单元,所有处理单元可以包括单个或多个计算单元或者多个核心。处理器902可以被实施成一个或更多微处理器、微型计算机、微控制器、数字信号处理器、中央处理单元、状态机、逻辑电路和/或基于操作指令来操纵信号的任何设备。除了其他能力之外,处理器902可以被配置成获取并且执行存储在存储器904、大容量存储设备912或者其他计算机可读介质中的计算机可读指令,诸如操作系统916的程序代码、应用程序918的程序代码、其他程序920的程序代码等。
存储器904和大容量存储设备912是用于存储指令的计算机存储介质的示例,所述指令由处理器902执行来实施前面所描述的各种功能。举例来说,存储器904一般可以包括易失性存储器和非易失性存储器二者(例如RAM、ROM等等)。此外,大容量存储设备912一般可以包括硬盘驱动器、固态驱动器、可移除介质、包括外部和可移除驱动器、存储器卡、闪存、软盘、光盘(例如CD、DVD)、存储阵列、网络附属存储、存储区域网等等。存储器904和大容量存储设备912在本文中都可以被统称为存储器或计算机存储介质,并且可以是能够把计算机可读、处理器可执行程序指令存储为计算机程序代码的非瞬时性介质,所述计算机程序代码可以由处理器902作为被配置成实施在本文的示例中所描述的操作和功能的特定机器来执行。
多个程序模块可以存储在大容量存储设备912上。这些程序包括操作系统916、一个或多个应用程序918、其他程序920和程序数据922,并且它们可以被加载到存储器904以供执行。这样的应用程序或程序模块的示例可以包括例如用于实现以下部件/功能的计算机程序逻辑(例如,计算机程序代码或指令):获取单元810、感兴趣子图像确定单元820、区域偏移确定单元830以及设备偏移确定单元840、结合图1-图7描述的方法、和/或本文描述的另外的实施例。
虽然在图9中被图示成存储在计算设备900的存储器904中,但是模块916、918、920和922或者其部分可以使用可由计算设备900访问的任何形式的计算机可读介质来实施。如本文所使用的,“计算机可读介质”至少包括两种类型的计算机可读介质,也就是计算机存储介质和通信介质。
计算机存储介质包括通过用于存储信息的任何方法或技术实施的易失性和非易失性、可移除和不可移除介质,所述信息诸如是计算机可读指令、数据结构、程序模块或者其他数据。计算机存储介质包括而不限于RAM、ROM、EEPROM、闪存或其他存储器技术,CD-ROM、数字通用盘(DVD)、或其他光学存储装置,磁盒、磁带、磁盘存储装置或其他磁性存储设备,或者可以被用来存储信息以供计算设备访问的任何其他非传送介质。
与此相对,通信介质可以在诸如载波或其他传送机制之类的已调数据信号中具体实现计算机可读指令、数据结构、程序模块或其他数据。本文所定义的计算机存储介质不包括通信介质。
计算设备900还可以包括一个或更多通信接口906,以用于诸如通过网络、直接连接等等与其他设备交换数据,正如前面所讨论的那样。这样的通信接口可以是以下各项中的一个或多个:任何类型的网络接口(例如,网络接口卡(NIC))、有线或无线(诸如IEEE802.11无线LAN(WLAN))无线接口、全球微波接入互操作(Wi-MAX)接口、以太网接口、通用串行总线(USB)接口、蜂窝网络接口、BluetoothTM接口、近场通信(NFC)接口等。通信接口906可以促进在多种网络和协议类型内的通信,其中包括有线网络(例如LAN、电缆等等)和无线网络(例如WLAN、蜂窝、卫星等等)、因特网等等。通信接口906还可以提供与诸如存储阵列、网络附属存储、存储区域网等等中的外部存储装置(未示出)的通信。
在一些示例中,可以包括诸如监视器之类的显示设备908,以用于向用户显示信息和图像。其他I/O设备910可以是接收来自用户的各种输入并且向用户提供各种输出的设备,并且可以包括触摸输入设备、手势输入设备、摄影机、键盘、遥控器、鼠标、打印机、音频输入/输出设备等等。
虽然在附图和和前面的描述中已经详细地说明和描述了本公开,但是这样的说明和描述应当被认为是说明性的和示意性的,而非限制性的;本公开不限于所公开的实施例。通过研究附图、公开内容和所附的权利要求书,本领域技术人员在实践所要求保护的主题时,能够理解和实现对于所公开的实施例的变型。在权利要求书中,词语“包括”不排除未列出的其他元件或步骤,不定冠词“一”或“一个”不排除多个,并且术语“多个”是指两个或两个以上。在相互不同的从属权利要求中记载了某些措施的仅有事实并不表明这些措施的组合不能用来获益。
Claims (17)
1.一种用于监测成像设备的方法,包括:
获取由成像设备采集的第一图像;
基于模板图像中的至少两个感兴趣区域的位置信息确定所述第一图像中的至少两个第一感兴趣子图像;
针对所述至少两个感兴趣区域中的每个感兴趣区域,至少部分基于对应于该感兴趣区域的第一感兴趣子图像和所述模板图像中对应于该感兴趣区域的模板子图像之间的差异确定该感兴趣区域的区域偏移参数;
基于所述至少两个感兴趣区域的区域偏移参数确定所述成像设备的位置发生移动。
2.如权利要求1所述的方法,其中,针对所述至少两个感兴趣区域中的每个感兴趣区域,至少部分基于对应于该感兴趣区域的第一感兴趣子图像和对应的模板子图像之间的差异确定该感兴趣区域的区域偏移参数包括:
确定该第一感兴趣子图像和对应的模板子图像之间的差异是否大于差异阈值,
在该第一感兴趣子图像和对应的模板子图像之间的差异大于所述差异阈值的情况下,将该感兴趣区域的区域偏移参数确定为指示该第一感兴趣子图像发生偏移的标记。
3.如权利要求2所述的方法,其中,基于所述至少两个感兴趣区域的区域偏移参数确定所述成像设备的位置发生移动包括:
基于所述至少两个感兴趣区域中每个感兴趣区域的区域偏移参数确定所述至少两个感兴趣区域中发生偏移的感兴趣区域的数量;
当所述至少两个感兴趣区域中发生偏移的感兴趣区域的数量大于数量阈值时,确定所述成像设备的位置发生移动。
4.如权利要求1所述的方法,其中,所述至少两个感兴趣区域两两之间的间隔超过预定的距离。
5.如权利要求2所述的方法,其中,所述至少两个感兴趣区域包括四个感兴趣区域,所述四个感兴趣区域分别位于所述模板图像中的左上区域、左下区域、右上区域和右下区域。
6.如权利要求1所述的方法,还包括:
在获取所述第一图像之后,获取由所述成像设备采集的至少一个第二图像;
基于至少两个感兴趣区域的位置信息确定所述第二图像中的至少两个第二感兴趣子图像,
其中,针对所述至少两个感兴趣区域中的每个感兴趣区域,至少部分基于对应于该感兴趣区域的第一感兴趣子图像和对应的模板子图像之间的差异确定该感兴趣区域的区域偏移参数包括:
基于对应于该感兴趣区域的第一感兴趣子图像和对应的模板子图像之间的差异以及对应于该感兴趣区域的第二感兴趣子图像和所述模板子图像之间的差异确定所述区域偏移参数。
7.如权利要求6所述的方法,其中,基于对应于该感兴趣区域的第一感兴趣子图像和对应的模板子图像之间的差异以及对应于该感兴趣区域的第二感兴趣子图像和所述模板子图像之间的差异确定所述区域偏移参数包括:
基于对应于该感兴趣区域的第一感兴趣子图像和对应的模板子图像之间的差异确定第一子图像偏移参数,其中所述第一子图像偏移参数指示第一感兴趣子图像相对于对应的模板子图像是否发生偏移;
基于对应于该感兴趣区域的第二感兴趣子图像和对应的模板子图像之间的差异确定第二子图像偏移参数,其中所述第二子图像偏移参数指示第二感兴趣子图像相对于对应的模板子图像是否发生偏移;
基于所述第一子图像偏移参数和所述第二子图像偏移参数确定所述区域偏移参数。
8.如权利要求7所述的方法,其中,
基于对应于该感兴趣区域的第一感兴趣子图像和对应的模板子图像之间的差异确定第一子图像偏移参数包括:
在对应于该感兴趣区域的第一感兴趣子图像和对应的模板子图像之间的差异大于差异阈值的情况下,将所述第一子图像偏移参数确定为指示该第一感兴趣子图像发生偏移的标记,
在对应于该感兴趣区域的第一感兴趣子图像和对应的模板子图像之间的差异小于等于差异阈值的情况下,将所述第一子图像偏移参数确定为指示该第一感兴趣子图像没有发生偏移的标记;
基于对应于该感兴趣区域的第二感兴趣子图像和对应的模板子图像之间的差异确定第二子图像偏移参数包括:
在对应于该感兴趣区域的第二感兴趣子图像和对应的模板子图像之间的差异大于差异阈值的情况下,将所述第二子图像偏移参数确定为指示该第二感兴趣子图像发生偏移的标记,
在对应于该感兴趣区域的第二感兴趣子图像和对应的模板子图像之间的差异小于等于差异阈值的情况下,将所述第二子图像偏移参数确定为指示该第二感兴趣子图像没有发生偏移的标记。
9.如权利要求7所述的方法,其中,基于所述第一子图像偏移参数和所述第二子图像偏移参数确定所述区域偏移参数包括:
基于所述第一子图像偏移参数和所述第二子图像偏移参数对对应于该感兴趣区域的第一感兴趣子图像和第二感兴趣子图像中发生偏移的感兴趣子图像进行计数;
基于对应于该感兴趣区域的第一感兴趣子图像和第二感兴趣子图像中发生偏移的感兴趣子图像的数量与有效的感兴趣子图像的数量的比值确定所述区域偏移参数。
10.如权利要求9所述的方法,其中,所述有效的感兴趣子图像的数量是通过以下方法确定的:
针对所述至少两个感兴趣区域中的每个感兴趣区域,
在至少部分基于对应于该感兴趣区域的第一感兴趣子图像和对应的模板子图像之间的差异确定该感兴趣区域的区域偏移参数之前,对该感兴趣区域的第一感兴趣子图像进行目标检测以确定该感兴趣区域的第一感兴趣子图像中是否包括前景障碍物;
在至少部分基于对应于该感兴趣区域的第二感兴趣子图像和对应的模板子图像之间的差异确定该感兴趣区域的区域偏移参数之前,对该感兴趣区域的第二感兴趣子图像进行目标检测以确定该感兴趣区域的第二感兴趣子图像中是否包括前景障碍物;
将不包括前景障碍物的第一感兴趣子图像和/或不包括前景障碍物的第二感兴趣子图像确定为有效的感兴趣子图像。
11.如权利要求6-10任一项所述的方法,其中,基于所述至少两个感兴趣区域的区域偏移参数确定所述成像设备的位置发生移动包括:
确定所述至少两个感兴趣区域中其区域偏移参数大于区域偏移阈值的感兴趣区域的数量;
在所述至少两个感兴趣区域中其区域偏移参数大于区域偏移阈值的感兴趣区域的数量大于数量阈值的情况下,确定所述成像设备的位置发生移动。
12.根据权利要求11所述的方法,在所述至少两个感兴趣区域中其区域偏移参数大于区域偏移阈值的感兴趣区域的数量大于数量阈值的情况下,确定所述成像设备的位置发生移动包括:
在所述至少两个感兴趣区域中其区域偏移参数大于区域偏移阈值的感兴趣区域的数量大于数量阈值的情况下,进一步对所述第一图像和/或所述第二图像进行目标检测,以检测在所述成像设备采集图像时是否存在异常天气;以及
在进一步检测到在所述成像设备采集图像时不存在异常天气的情况下,确定所述成像设备的位置发生移动。
13.根据权利要求1所述的方法,其中,对应于该感兴趣区域的第一感兴趣子图像和对应的模板子图像之间的差异是通过基于快速傅里叶变换的方法确定的。
14.一种用于监测成像设备的装置,包括:
获取单元,配置成获取由成像设备采集的第一图像;
感兴趣子图像确定单元,配置成基于模板图像中的至少两个感兴趣区域的位置信息确定所述第一图像中的至少两个第一感兴趣子图像;
区域偏移确定单元,配置成针对所述至少两个感兴趣区域中的每个感兴趣区域,至少部分基于对应于该感兴趣区域的第一感兴趣子图像和所述模板图像中对应于该感兴趣区域的模板子图像之间的差异确定该感兴趣区域的区域偏移参数;
设备偏移确定单元,配置成基于所述至少两个感兴趣区域的区域偏移参数确定所述成像设备的位置发生移动。
15.一种电子设备,包括:
处理器;以及
存储程序的存储器,所述程序包括指令,所述指令在由所述处理器执行时使所述处理器执行根据权利要求1至13中任一项所述的方法。
16.一种存储程序的计算机可读存储介质,所述程序包括指令,所述指令在由电子设备的处理器执行时,致使所述处理器执行根据权利要求1至13中任一项所述的方法。
17.一种路侧设备,包括如权利要求15所述的电子设备。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010996066.6A CN112135122A (zh) | 2020-09-21 | 2020-09-21 | 用于监测成像设备的方法、装置、电子设备以及路侧设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010996066.6A CN112135122A (zh) | 2020-09-21 | 2020-09-21 | 用于监测成像设备的方法、装置、电子设备以及路侧设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112135122A true CN112135122A (zh) | 2020-12-25 |
Family
ID=73842072
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010996066.6A Pending CN112135122A (zh) | 2020-09-21 | 2020-09-21 | 用于监测成像设备的方法、装置、电子设备以及路侧设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112135122A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113048951A (zh) * | 2021-03-20 | 2021-06-29 | 侯晋华 | 一种基于人工智能的测绘无人机抖动检测方法及系统 |
Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001359086A (ja) * | 2000-03-31 | 2001-12-26 | Sogo Keibi Hosho Co Ltd | 監視カメラシステム |
JP2007208513A (ja) * | 2006-01-31 | 2007-08-16 | Matsushita Electric Ind Co Ltd | 画像位置ずれ検出装置および画像位置ずれ検出方法 |
EP2192550A1 (de) * | 2008-11-28 | 2010-06-02 | Hella KG Hueck & Co. | Verfahren zum Ermitteln der Lageänderung eines Kamerasystems und Vorrichtung zum Erfassen und Verarbeiten von Bildern |
CN103096121A (zh) * | 2011-10-28 | 2013-05-08 | 浙江大华技术股份有限公司 | 一种摄像头移动检测方法及装置 |
CN103109522A (zh) * | 2010-11-16 | 2013-05-15 | 本田技研工业株式会社 | 车载摄像头位置变化量检测装置 |
JP2014026372A (ja) * | 2012-07-25 | 2014-02-06 | Dainippon Printing Co Ltd | カメラの撮影視野変動検知装置 |
JP2015041913A (ja) * | 2013-08-22 | 2015-03-02 | エイアイエス株式会社 | 監視システム |
CN104506857A (zh) * | 2015-01-15 | 2015-04-08 | 苏州阔地网络科技有限公司 | 一种摄像头位置偏离检测方法及设备 |
US20150146988A1 (en) * | 2012-07-12 | 2015-05-28 | Nec Corporation | Image angle variation detection device, image angle variation detection method and image angle variation detection program |
CN104902218A (zh) * | 2014-03-05 | 2015-09-09 | 王慈 | 广域安防系统中视频监控子网性能监测系统及方法 |
CN105812720A (zh) * | 2014-12-29 | 2016-07-27 | 浙江大华系统工程有限公司 | 一种球机预置位的矫正方法及装置 |
CN108764297A (zh) * | 2018-04-28 | 2018-11-06 | 北京猎户星空科技有限公司 | 一种可移动设备位置的确定方法、装置及电子设备 |
CN110798681A (zh) * | 2019-11-12 | 2020-02-14 | 北京百度网讯科技有限公司 | 成像设备的监测方法、装置和计算机设备 |
-
2020
- 2020-09-21 CN CN202010996066.6A patent/CN112135122A/zh active Pending
Patent Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001359086A (ja) * | 2000-03-31 | 2001-12-26 | Sogo Keibi Hosho Co Ltd | 監視カメラシステム |
JP2007208513A (ja) * | 2006-01-31 | 2007-08-16 | Matsushita Electric Ind Co Ltd | 画像位置ずれ検出装置および画像位置ずれ検出方法 |
EP2192550A1 (de) * | 2008-11-28 | 2010-06-02 | Hella KG Hueck & Co. | Verfahren zum Ermitteln der Lageänderung eines Kamerasystems und Vorrichtung zum Erfassen und Verarbeiten von Bildern |
CN103109522A (zh) * | 2010-11-16 | 2013-05-15 | 本田技研工业株式会社 | 车载摄像头位置变化量检测装置 |
CN103096121A (zh) * | 2011-10-28 | 2013-05-08 | 浙江大华技术股份有限公司 | 一种摄像头移动检测方法及装置 |
US20150146988A1 (en) * | 2012-07-12 | 2015-05-28 | Nec Corporation | Image angle variation detection device, image angle variation detection method and image angle variation detection program |
JP2014026372A (ja) * | 2012-07-25 | 2014-02-06 | Dainippon Printing Co Ltd | カメラの撮影視野変動検知装置 |
JP2015041913A (ja) * | 2013-08-22 | 2015-03-02 | エイアイエス株式会社 | 監視システム |
CN104902218A (zh) * | 2014-03-05 | 2015-09-09 | 王慈 | 广域安防系统中视频监控子网性能监测系统及方法 |
CN105812720A (zh) * | 2014-12-29 | 2016-07-27 | 浙江大华系统工程有限公司 | 一种球机预置位的矫正方法及装置 |
CN104506857A (zh) * | 2015-01-15 | 2015-04-08 | 苏州阔地网络科技有限公司 | 一种摄像头位置偏离检测方法及设备 |
CN108764297A (zh) * | 2018-04-28 | 2018-11-06 | 北京猎户星空科技有限公司 | 一种可移动设备位置的确定方法、装置及电子设备 |
CN110798681A (zh) * | 2019-11-12 | 2020-02-14 | 北京百度网讯科技有限公司 | 成像设备的监测方法、装置和计算机设备 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113048951A (zh) * | 2021-03-20 | 2021-06-29 | 侯晋华 | 一种基于人工智能的测绘无人机抖动检测方法及系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3581890B1 (en) | Method and device for positioning | |
KR101758576B1 (ko) | 물체 탐지를 위한 레이더 카메라 복합 검지 장치 및 방법 | |
US10077054B2 (en) | Tracking objects within a dynamic environment for improved localization | |
Grassi et al. | Parkmaster: An in-vehicle, edge-based video analytics service for detecting open parking spaces in urban environments | |
CN110876035B (zh) | 一种基于视频的场景更新方法、装置及电子设备 | |
CN110164135B (zh) | 一种定位方法、定位装置及定位系统 | |
CN110213488B (zh) | 一种定位方法及相关设备 | |
EP4072173A1 (en) | Data transmission method and device | |
WO2014082407A1 (zh) | 一种视频监控图像的显示方法及系统 | |
CN111666821B (zh) | 人员聚集的检测方法、装置及设备 | |
JP6736931B2 (ja) | 立体物検出方法及び立体物検出装置 | |
Panichpapiboon et al. | Traffic density estimation: A mobile sensing approach | |
JP7343054B2 (ja) | 位置推定方法、位置推定装置、および位置推定プログラム | |
CN113034586B (zh) | 道路倾角检测方法和检测系统 | |
US20230115290A1 (en) | In-vehicle/out-vehicle cooperation device and method | |
CN112135122A (zh) | 用于监测成像设备的方法、装置、电子设备以及路侧设备 | |
CN109903308B (zh) | 用于获取信息的方法及装置 | |
EP3940666A1 (en) | Digital reconstruction method, apparatus, and system for traffic road | |
WO2021086884A1 (en) | System, apparatus and method of provisioning allotments utilizing machine visioning | |
CN115484721A (zh) | 基于路侧感知系统的路灯控制方法、装置、设备及介质 | |
CN115131726A (zh) | 一种车位检测方法、装置、设备及介质 | |
Sofwan et al. | Design of smart open parking using background subtraction in the IoT architecture | |
CN108416305B (zh) | 连续型道路分割物的位姿估计方法、装置及终端 | |
Liao et al. | A novel visual tracking approach incorporating global positioning system in a ubiquitous camera environment | |
CN111372051A (zh) | 多相机联动盲区检测方法、装置和电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
TA01 | Transfer of patent application right | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20211019 Address after: 100176 101, floor 1, building 1, yard 7, Ruihe West 2nd Road, Beijing Economic and Technological Development Zone, Daxing District, Beijing Applicant after: Apollo Zhilian (Beijing) Technology Co.,Ltd. Address before: 2 / F, baidu building, 10 Shangdi 10th Street, Haidian District, Beijing 100085 Applicant before: BEIJING BAIDU NETCOM SCIENCE AND TECHNOLOGY Co.,Ltd. |
|
WD01 | Invention patent application deemed withdrawn after publication | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20201225 |