CN116342441A - 一种图像处理方法以及图像处理装置 - Google Patents
一种图像处理方法以及图像处理装置 Download PDFInfo
- Publication number
- CN116342441A CN116342441A CN202111595295.8A CN202111595295A CN116342441A CN 116342441 A CN116342441 A CN 116342441A CN 202111595295 A CN202111595295 A CN 202111595295A CN 116342441 A CN116342441 A CN 116342441A
- Authority
- CN
- China
- Prior art keywords
- image
- frame
- vehicle
- image frames
- frames
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 15
- 238000012545 processing Methods 0.000 title claims description 63
- 238000000034 method Methods 0.000 claims abstract description 47
- 238000001514 detection method Methods 0.000 claims description 46
- 238000006073 displacement reaction Methods 0.000 claims description 40
- 230000002596 correlated effect Effects 0.000 claims description 6
- 238000004590 computer program Methods 0.000 claims description 4
- 238000012544 monitoring process Methods 0.000 abstract description 79
- 230000005540 biological transmission Effects 0.000 abstract description 6
- 238000010586 diagram Methods 0.000 description 23
- 230000001502 supplementing effect Effects 0.000 description 21
- 230000004927 fusion Effects 0.000 description 10
- 230000008569 process Effects 0.000 description 9
- 230000003287 optical effect Effects 0.000 description 7
- 230000000694 effects Effects 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 230000009471 action Effects 0.000 description 4
- 239000013589 supplement Substances 0.000 description 4
- 230000001360 synchronised effect Effects 0.000 description 4
- 230000009466 transformation Effects 0.000 description 4
- 230000000875 corresponding effect Effects 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 238000003491 array Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000001427 coherent effect Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 2
- 230000001276 controlling effect Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 229910044991 metal oxide Inorganic materials 0.000 description 2
- 150000004706 metal oxides Chemical class 0.000 description 2
- 238000012946 outsourcing Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000000802 evaporation-induced self-assembly Methods 0.000 description 1
- 238000004880 explosion Methods 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 239000000047 product Substances 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20092—Interactive image processing based on input by user
- G06T2207/20104—Interactive definition of region of interest [ROI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Studio Devices (AREA)
Abstract
本申请实施例公开了一种图像处理方法,用于降低交通监控摄像机对传输带宽的消耗。本申请实施例方法包括:摄像机以第一帧率实时获取第一图像帧,当检测到第一图像帧中的车辆到达预设位置时,摄像机以第二帧率获取第二图像帧,第二图像帧为连续的多个图像帧,第一帧率小于第二帧率,基于多个第二图像帧生成目标图像。
Description
技术领域
本申请实施例涉及视频监控领域,尤其涉及一种图像处理方法以及图像处理装置。
背景技术
在交通监控的应用场景中,随着监控摄像机对运动车辆的成像质量要求日趋增加,目前监控摄像机会采用一些多帧图像处理算法来提高运动车辆的成像质量,例如,通过多帧图像融合获取高质量的监控图像。但是由于多帧图像处理算法应用在运动车辆的图像处理时,由于运动的物体在不同图像帧中存在位移,会使得多帧图像融合的效果差。
为了减轻由于车辆运动对多帧图像的融合效果造成的影响,现有技术中监控摄像机在获取拍摄车辆时通过缩短帧间隔的方式,使得连续多帧图像中车辆产生位移变化较小,从而提升多帧图像的融合效果。但是目前监控摄像机缩短帧间隔拍摄,造成了监控摄像机获取的图像帧数量增加,对出监控视频的传输带宽消耗比较大,导致了监控摄像机的交通监控成本增加。
发明内容
本申请实施例提供了一种图像处理方法以及图像处理装置,用于降低摄像机对传输带宽的消耗,从而降低交通监控成本。
本申请实施例第一方面提供了一种图像处理方法,该方法由电子设备执行,也可以由电子设备的部件,例如电子设备的处理器、芯片或芯片系统等执行,还可以由能实现全部或部分设备功能的逻辑模块或软件实现。电子设备以摄像机为例,本申请实施例中的数据处理方法包括:摄像机以第一帧率实时获取第一图像帧,第一图像帧为连续的多个图像帧,第一图像帧中呈现道路中车辆行驶的画面。当摄像机检测到第一图像帧中的车辆到达预设位置时,摄像机进行帧率切换,以第二帧率获取第二图像帧,第二图像帧为连续的多个图像帧,第一帧率小于第二帧率,即摄像机获取第二图像帧时的帧间隔小于获取第一图像帧时的帧间隔。摄像机基于多个第二图像帧生成目标图像,具体的,摄像机基于多帧融合算法将多个第二图像帧融合得到一个目标图像。
本申请实施例中摄像机能够对监控画面中的车辆进行识别,当识别到图像中的车辆到到达画面预定位置时,摄像机提高获取视频帧的帧率,从而使得运动的车辆在图像中发生位移较小,提升多帧融合生成的目标图像的图像质量。由于摄像机只有在车辆到达预定位置的时候才提高获取视频帧的帧率,因此减少了以高帧率获取的视频帧的数量,从而降低了摄像机对传输带宽的消耗,从而降低了交通监控场景下的监控成本。
一种可能的实施方式中,摄像机以第二帧率获取第二图像帧之前,摄像机根据第一图像帧确定车辆的位移速度,由于第一图像帧为连续的多个图像帧,摄像机能够根据两帧第一图像帧之间的车辆的位移距离计算出车辆的位移速度。摄像机根据该位移速度确定车辆的检测范围,车辆的检测范围的大小与位移速度正相关,车辆的检测范围是指摄像机为了能获取到清晰的感兴趣区域ROI所需要的在画面中监测的区域,车辆的检测范围包括ROI区域和ROI的扩展区域。
当车辆的位移速度较快时,摄像机确定车辆的检测范围较大,当车辆的位移速度较慢时,摄像机确定车辆的检测范围较小。
本申请实施例中摄像机能够根据多个第一图像帧确定出车辆的位移速度,并根据车辆的位移速度动态的确定所要在画面中检测范围的大小,检测范围大小根据车辆的位移速度调整,能够使得车辆能刚好在最佳拍摄位置时切换为高帧率的图像,从而提升了第二图像帧的图像质量。
一种可能的实施方式中,第一图像帧中的车辆到达预设位置包括车辆的检测范围到达预设位置。具体的,摄像机实时监测车辆的检测范围的位移,当车辆的检测范围移动至目标像素时,确定车辆到达预设位置。该目标像素即为预设位置在图像中的像素,其中,目标像素的数量可以多个像素,预设位置可以是由多个目标像素组成的触发线,预设位置为指示摄像机进行帧率切换的位置。
本申请实施例中摄像机通过实时监测车辆的检测范围是否覆盖到目标像素,从而判断车辆是否到达预定位置,提升方案的可实现性。
一种可能的实施方式中,第二图像帧的分辨率小于第一图像帧的分辨率。第一图像帧为多个低帧率、高分辨率的图像帧,第二图像帧为高帧率、高分辨的图像帧。
本申请实施例中摄像机获取的第二图像帧的分辨率小于第一图像帧的分辨率,从而降低了摄像机高帧率获取图像时的分辨率要求,从而降低摄像机的硬件成本。
一种可能的实施方式中,当摄像机检测到第一图像帧中的车辆到达预设位置时,摄像机进行帧率切换的同时通过补光控制单元控制补光单元进行补光,补光单元的曝光时间根据监控摄像机的图像传感器设置感光参数确定。
本申请实施中,监控摄像机进行帧率切换同时进行补光,从而提升了监控摄像机获取第二图像帧的图像帧的图像质量。
一种可能的实施方式中,第二图像帧包括补光帧和非补光帧,摄像机基于多个第二图像帧生成目标图像的过程中,摄像机根据补光帧和非补光帧消除第二图像帧中的彩纹,生成目标图像。具体的,摄像机获取的补光帧的图像中包括目标图像信息和反光彩纹信息,非补光帧的图像中仅包含反光彩纹信息,摄像机根据补光帧的图像消除非补光帧的图像中反光彩纹信息,从而获得目标图像信息。
本申请实施例中摄像机能够根据补光帧的图像消除非补光帧的图像中的反光彩纹信息,从而提升了生成的目标图像的图像质量。
一种可能的实施方式中,摄像机基于多个第二图像帧生成目标图像的过程中,摄像机根据多个第二图像帧生成多个配准图像帧,摄像机根据多个配准图像帧合成目标图像。具体的,摄像机根据多个第二图像帧中相匹配的特征点确定出空间坐标变换参数,再根据该空间坐标变换参数将多个第二图像帧配准在同一个空间坐标系,得到多个配准图像帧。摄像机根据多个配准图像帧叠加降噪,生成目标图像。
本申请实施例中摄像机能够对多个第二图像帧进行配准,并基于多个配准图像帧生成目标图像,从而提升了目标图像的图像质量。
本申请实施例第二方面提供了一种图像处理装置,该图像处理装置包括获取单元和处理单元。其中,获取单元用于以第一帧率实时获取第一图像帧。当检测到第一图像帧中的车辆到达预设位置时,获取单元还用于以第二帧率获取第二图像帧,第二图像帧为连续的多个图像帧,第一帧率小于第二帧率。处理单元用于基于多个第二图像帧生成目标图像。
一种可能的实施方式中,处理单元还用于根据第一图像帧确定车辆的位移速度,第一图像帧为连续的多个图像帧;
处理单元还用于根据位移速度确定车辆的检测范围,车辆的检测范围的大小与位移速度正相关。
一种可能的实施方式中,第一图像帧中的车辆到达预设位置包括车辆的检测范围到达预设位置。
一种可能的实施方式中,第二图像帧的分辨率小于第一图像帧的分辨率。
一种可能的实施方式中,第二图像帧包括补光帧和非补光帧,处理单元具体用于根据补光帧和非补光帧消除第二图像帧中的彩纹,生成目标图像。
一种可能的实施方式中,处理单元具体用于根据多个第二图像帧生成多个配准图像帧,处理单元根据多个配准图像帧合成目标图像。
本申请实施例第三方面提供一种电子设备,包括处理器,处理器与存储器耦合,处理器用于存储指令,当指令被处理器执行时,以使得电子设备执行上述第一方面或者第一方面任意一种可能的实施方式所述的方法。
本申请实施例第四方面提供了一种计算机可读存储介质,其上存储有指令,指令被执行时,以使得计算机执行上述第一方面或者第一方面任意一种可能的实施方式所述的方法。
本申请实施例第五方面提供了一种计算机程序产品,计算机程序产品中包括指令,指令被执行时,以使得计算机实现上述第一方面或者第一方面任意一种可能的实施方式所述的方法。
可以理解,上述提供的任一种图像处理装置、电子设备、计算机可读介质或计算机程序产品等所能达到的有益效果可参考对应的方法中的有益效果,此处不再赘述。
附图说明
图1为本申请实施例提供的一种监控摄像机的系统架构示意图;
图2为本申请实施例提供的一种图像处理方法的示意图;
图3a为本申请实施例提供的一种车辆检测范围的示意图;
图3b为本申请实施例提供的一种车辆到达预设位置的示意图;
图4为本申请实施例提供的一种视频帧帧间隔的示意图;
图5为本申请实施例提供的一种图像处理效果的示意图;
图6a为本申请实施例提供的另一种图像处理方法的示意图;
图6b为本申请实施例提供的另一种图像处理效果的示意图;
图7为本申请实施例提供的一种图像处理装置的结构示意图;
图8为本申请实施例提供的另一种图像处理装置的结构示意图。
具体实施方式
本申请实施例提供了一种图像处理方法以及图像处理装置,用于降低摄像机对传输带宽的消耗,从而视频监控成本。
本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的实施例能够以除了在这里图示或描述的内容以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
在本申请实施例中,“示例性的”或者“例如”等词用于表示作例子、例证或说明。本申请实施例中被描述为“示例性的”或者“例如”的任何实施例或设计方案不应被解释为比其它实施例或设计方案更优选或更具优势。确切而言,使用“示例性的”或者“例如”等词旨在以具体方式呈现相关概念。
以下,对本申请中的部分用语进行解释说明,以便于本领域技术人员理解。
感兴趣区域(region of interest,ROI)是指机器视觉中在图像处理时在图像中选择的一个图像区域,该图像区域为图像处理和分析的重点区域。圈定该区域以便进行进一步处理,圈定的区域可以是方形区域、圆形区域或不规则形状区域。
全局快门(global shutter)是图像传感器快门控制方式的一种方式,快门开启后,传感器上所有像素同时开始曝光,快门关闭后,所有像素同时结束曝光。
以上介绍了本申请实施例中的一些术语,下面结合附图介绍本申请实施例提供的图像方法以及图像处理装置。
请参阅图1,图1为本申请实施例提供的一种监控摄像机的系统架构示意图。如图1所示,监控摄像机10包括补光单元101、光学单元102、图像传感器103、主控单元104、补光控制单元105和图像处理单元106。其中光学单元102包括镜头、滤光片和偏振片。图像传感器103包括电荷耦合原件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal oxide semiconductor,CMOS)。
在图1所示的监控摄像机10中,补光单元101用于对拍摄环境进行补光,补光单元101包括气体爆闪灯或LED频闪灯。光学单元102用于将被摄场景在图像传感器103上成像,其中光学单元102中的偏振片能够预设偏振角度,截止某个角度的偏振光线。
图像传感器103用于将光信号转换为电信号,以使得主控单元104和图像处理单元106能够对图像进行处理。主控单元104用于控制图像传感器103和补光控制单元105,主控单元104还用于进行图像中的感兴趣区域ROI进行识别、拍摄图像分辨率切换和拍摄帧率切换以及控制补光逻辑。
补光控制单元105用于控制补光单元101的开关以及控制图像传感器103进行抓拍,从而使得补光与抓拍同步。图像处理单元106用于对拍摄的图像进行处理,包括将多帧图像进行配准融合、去马赛克、自动曝光或自动白平衡。
本申请实施例中的监控摄像机10应用场景包括交通监控场景。在交通监控场景中,监控摄像机10用于实时监控和抓拍道路中车辆以及车辆内的人像信息。
监控摄像机10在进行交通监控时,图像传感器103实时监控车道内的车辆,连续获取高分辨率的图像帧,通过连续的图像帧确定出车辆的位移速度,并根据车辆的位移速度预估出车辆的检测范围,该检测范围包括ROI区域和ROI区域的外扩区域。当车辆的检测范围到预设位置时,主控单元104控制图像传感器103切换为抓拍模式,使得图像传感器103以高帧率,连续获取多个低分辨率的图像帧。同时,主控单元104通过补光控制单元105控制补光单元106进行补光,获得补光后的低分率图像帧。图像处理单元106将获得的多个低分辨率的图像帧配准之后,融合为目标图像帧。
可以理解的是,上述补光单元101、光学单元102、图像传感器103、主控单元104、补光控制单元105和图像处理单元106也可以部署在不同的电子设备中,多个电子设备共同实现上述监控摄像机10的功能。
请参阅图2,图2为本申请实施例提供的一种图像处理方法的流程示意图。该方法应用于图1所示的监控摄像机。以监控摄像机执行为例,该图像处理方法包括以下步骤:
201.监控摄像机以第一帧率实时获取第一图像帧。
监控摄像机以第一帧率实时获取第一图像帧,第一图像帧为连续的多个图像帧,第一图像帧包括对道路中车辆的监控画面。监控摄像机根据多个连续的第一图像帧确定车辆的位移速度,并根据车辆的位移速度确定出车辆的检测范围,车辆的检测范围的大小与位移速度正相关。
本申请实施例中监控摄像机根据多个连续的第一图像帧确定车辆的位移速度的过程中,监控设备确定出车辆在相邻两帧图像中位移的像素数,监控摄像机根据位移的像素数和帧间隔可以确定出车辆的位移速度,例如车辆的位移速度为10像素/秒。进一步地,监控摄像机根据连续的多帧图像就可以确定车辆的位移速度的变化率,从而确定车辆的行驶状态,车辆的行驶状态包括加速状态或减速状态。
本申请实施例中检测范围包括感兴趣区域ROI和ROI的外扩区域。ROI区域为图像处理的重点区域,ROI区域例如第一图像帧中车辆的车窗区域。ROI的外扩区域包括为获取重点区域清晰的图像需要图像检测的外扩区域,ROI区域的外扩区域例如第一图像帧中车辆的车窗之外的车辆区域。ROI区域的外包区域与车辆的位移速度正相关,即车辆的位移速度越大,ROI区域的外扩区域越大。
请参阅图3a,图3a为申请实施例中提供的一种车辆的检测范围的示意图。如图3a所示,在第一图像帧中的一个示例中,监测摄像机识别第一图像帧中车辆的检测范围,车辆的检测范围包括ROI区域和ROI区域的外扩区域。其中ROI区域包括第一图像帧中车辆的车窗区域,外扩区域包括第一图像帧中车辆的车头区域,车辆的检测范围的范围大小会根据车辆的位移速度发生变化,当车辆的位移速度越快,车辆的检测范围越大。图3a所示的示例中还包括预设位置,该预设位置在第一图像帧中为多个目标像素构成车辆触发线。
202.当检测到第一图像帧中的车辆到达预设位置时,监控摄像机以第二帧率获取第二图像帧,第一帧率小于第二帧率。
当监控摄像机监测到第一图像帧中的车辆到达预设位置时,监控摄像机以第二帧率获取第二图像帧,第二图像帧为连续的多个图像帧,且第一帧率小于第二帧率。具体的,监控摄像机实施确定车辆的检测范围,当第一图像帧中车辆的检测范围到达第一图像帧中的预设位置,监控摄像机切换为第二帧率获取第二图像帧。其中,第二图像帧中的分辨率小于第一图像帧中的分辨率。
本申请实施例中当监控摄像机检测到车辆到达预设位置时,监控摄像机主控单元通过补光控制单元控制补光单元进行补光。由于补光单元的曝光时间小于第二图像帧的帧间隔,因此,监控摄像机获取的第二图像帧中包括补光帧和非补光帧。
在一种可能的实施方式中,监控摄像机监控第一图像帧中的车辆到预设位置的过程中,监控摄像机实时监测车辆的检测范围是否到达预设位置,具体的,监控摄像机监测车辆的检测范围是否覆盖到第一图像帧中预设位置所在的目标像素,若车辆的检测范围覆盖到车辆的预设位置所在的目标像素,则确定车辆到达预设位置。该预设位置能够指示监控摄像机切换帧率,从获取ROI区域的清晰图像。
在一种可能的实施方式中,当监控摄像机获取的第二图像帧的数量满足预设阈值时,监控摄像机恢复以第一帧率继续获取图像帧。或者,当车辆的检测范围离开预设位置的目标像素时,监控摄像机恢复以第一帧率继续获取图像帧。
请参阅图3b,图3b为申请实施例中提供的一种车辆的检测范围到达到预设位置的示意图。在图3b所示的示例中,监控摄像机识别到第一图像帧中车辆的检测范围覆盖到目标像素时,则确定车辆到达预设位置。同时,监控摄像机切换帧率获取第二图像帧,第二图像帧的帧率高于第一图像帧的帧率。
在图3b所示的示例中,预设位置包括一个或者多个目标像素,当车辆的检测范围覆盖到其中一部分目标像素时,则确定车辆到到达预设位置。
请参阅图4,图4为本申请实施例中监控摄像机获取图像帧的帧间隔的示意图。在图4所示的示例中,监控摄像机以第一帧率获取第一图像帧,例如第一帧率为25FPS。当监控摄像机确定车辆到预设位置时,监控摄像机切换帧率,以第二帧率获取第二图像帧,第二帧率大于第一帧率,例如,第二帧率为250FS。即第二图像帧的帧间隔小于第一图像帧的帧间隔,第一图像帧的帧间隔例如40ms,第二图像帧的帧间隔例如4ms。
在图4所示的一个示例中,当监控摄像机检测到车辆到达预设位置时,监控摄像机控制图像传感器的调整感光参数,并根据感光参数确定出曝光时间。监控摄像机切换补光单元的曝光时间,如图4所示,监控摄像机将补光单元的曝光时间从4ms切换到2ms,从而使曝光时间与图像传感器的感光参数相匹配。
203.监控摄像机基于多个第二图像帧生成目标图像。
监控摄像机基于多个第二图像帧生成目标图像,具体的,监控摄像机的图像处理单元基于图像融合算法将多个第二图像帧融合生成一个目标图像,图像融合算法包括消除彩纹算法和图像降噪算法。下面分别介绍监控摄像机基于多个第二图像帧消除彩纹和降低图像噪声的两个示例。
在本申请实施例中消除彩纹的一个示例中,监控摄像机获取的多个第二图像帧包括补光帧和非补光帧,摄像机根据补光帧和非补光帧消除第二图像帧中的彩纹,生成目标图像。摄像机获取的补光帧图像中包括目标图像信息和反光彩纹信息,非补光帧图像中仅包含反光彩纹信息,摄像机根据补光帧的图像消除非补光帧图像的反光彩纹信息,即将补光帧和非补光帧两帧相减消除反光彩纹信息,从而获得清晰的目标图像信息。
请参阅图5,图5为本申请实施例提供的一种图像处理效果的示意图。如图5所示,其中(a)和(b)图为监控摄像机获取的2个第二图像帧的ROI区域的示意图,由于监控摄像机切换高帧率获取第二图像帧,因此,从(a)和(b)图中可以看出,车辆的雨刷的位置在(a)和(b)图中位置几乎不变,从而使得合成的目标图像中没有出现雨刷移动的残影,提升了目标图像的图像质量。
另外,在图5所示的示例中,(c)和(d)为多个第二图像帧生成的目标图像,其中,(c)图中合成的目标图像为未消除反光彩纹信息的目标图像,(d)图中合成的目标图像为消除反光彩纹信息的目标图像。如图5所示,监控摄像机根据补光帧的图像(a)消除非补光帧图像(b)中的反光彩纹信息,从而得到清晰的目标图像(d)。
在本申请实施例的另一个实例中,监控摄像机基于多个第二图像帧生成目标图像的过程中,摄像机根据多个第二图像帧生成多个配准图像帧,摄像机根据多个配准图像帧合成目标图像。摄像机根据多个第二图像帧中相匹配的特征点确定出空间坐标变换参数,在根据该空间坐标变换参数将多个第二图像帧配准在同一个空间坐标系,得到多个配准图像帧。摄像机根据多个配准图像帧生成目标图像。
请参阅图6a,图6a为本申请实施例提供一种降低图像噪声的示意图。在图6a所示的示例中,监控摄像获取多个连续的第二图像帧,例如I帧、I+1帧、I+2帧、I+3帧和I+4帧噪声整图。监控摄像机识别5帧图像中ROI区域,例如I帧、I+1帧、I+2帧、I+3帧和I+4帧噪声车窗,监控摄像机基于5帧噪声车窗图像生成配准车窗,即将5帧噪声车窗图像的像素坐标配准在同一个空间坐标系。监控摄像机生成配准车窗图像之后,根据5个配准车窗图像叠加降低噪声,合成目标图像。
请参阅图6b,图6b为本申请实施例提供一种降低图像噪声的示意图。在图6b所示的示例中,(a)图为未消除噪声的夜间车窗图像,(b)为本申请实施例多个图像帧配准后合成的消除噪声的后的夜间车窗图像。对(a)图和(b)图可以看出,本申请实施例中的图像处理方法在夜间场景下获得的图像车窗区域的信噪比明显提升。
本申请实施例中摄像机能够对监控画面中的车辆进行识别,当识别到图像中的车辆到到达画面预定位置时,摄像机提高获取视频帧的帧率,从而使得运动的车辆在图像中发生位移较小,提升多帧融合生成的目标图像的图像质量。由于摄像机只有在车辆到达预定位置的时候才提高获取视频帧的帧率,因此减少了以高帧率获取的视频帧的数量,从而降低了摄像机对传输带宽的消耗,从而降低了交通监控场景下的监控成本。
上面介绍本申请实施例提供的一种图像处理方法,下面结合附图介绍本申请实施例涉及的图像处理装置。
请参阅图7,图7为本申请实施例提供的一种图像处理装置的结构示意图。该装置用于实现上述各实施例中对应监控摄像机的各个步骤,如图7所示,该图像处理装置700包括获取单元701、处理单元702。
获取单元701用于以第一帧率实时获取第一图像帧。当检测到第一图像帧中的车辆到达预设位置时,获取单元701还用于以第二帧率获取第二图像帧,第二图像帧为连续的多个图像帧,第一帧率小于第二帧率。处理单元702用于基于多个第二图像帧生成目标图像。
一种可能的实施方式中,处理单元702还用于根据第一图像帧确定车辆的位移速度,第一图像帧为连续的多个图像帧。处理单元702还用于根据位移速度确定车辆的检测范围,车辆的检测范围的大小与位移速度正相关。
一种可能的实施方式中,第一图像帧中的车辆到达预设位置包括车辆的检测范围到达预设位置。
一种可能的实施方式中,第二图像帧的分辨率小于第一图像帧的分辨率。
一种可能的实施方式中,第二图像帧包括补光帧和非补光帧,处理单元702具体用于根据补光帧和非补光帧消除第二图像帧中的彩纹,生成目标图像。
一种可能的实施方式中,处理单元702具体用于根据多个第二图像帧生成多个配准图像帧,处理单元根据多个配准图像帧合成目标图像。
应理解以上装置中单元的划分仅仅是一种逻辑功能的划分,实际实现时可以全部或部分集成到一个物理实体上,也可以物理上分开。且装置中的单元可以全部以软件通过处理元件调用的形式实现;也可以全部以硬件的形式实现;还可以部分单元以软件通过处理元件调用的形式实现,部分单元以硬件的形式实现。例如,各个单元可以为单独设立的处理元件,也可以集成在装置的某一个芯片中实现,此外,也可以以程序的形式存储于存储器中,由装置的某一个处理元件调用并执行该单元的功能。此外这些单元全部或部分可以集成在一起,也可以独立实现。这里所述的处理元件又可以成为处理器,可以是一种具有信号的处理能力的集成电路。在实现过程中,上述方法的各步骤或以上各个单元可以通过处理器元件中的硬件的集成逻辑电路实现或者以软件通过处理元件调用的形式实现。
值得说明的是,对于上述方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本发明本申请并不受所描述的动作顺序的限制,其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作并不一定是本发明本申请所必须的。
本领域的技术人员根据以上描述的内容,能够想到的其他合理的步骤组合,也属于本发明本申请的保护范围内。其次,本领域技术人员也应该熟悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作并不一定是本发明本申请所必须的。
请参阅图8,图8为本申请实施例提供的一种电子设备示意图。如图8所示,该电子设备800包括:处理器810、存储器820和接口830,处理器810、存储器820与接口830通过总线(图中未标注)耦合。存储器820存储有指令,当存储器820中的执行指令被执行时,电子设备800执行上述方法实施例中第一芯片所执行的方法。
电子设备800可以是被配置成实施以上方法的一个或多个集成电路,例如:一个或多个特定集成电路(application specific integrated circuit,ASIC),或,一个或多个微处理器(digital singnal processor,DSP),或,一个或者多个现场可编程门阵列(fieldprogrammable gate array,FPGA),或这些集成电路形式中至少两种的组合。再如,当装置中的单元可以通过处理元件调度程序的形式实现时,该处理元件可以是通用处理器,例如中央处理器(central processing unit,CPU)或其它可以调用程序的处理器。再如,这些单元可以集成在一起,以片上系统(system-on-a-chip,SOC)的形式实现。
处理器810可以是中央处理单元(central processing unit,CPU),还可以是其它通用处理器、数字信号处理器(digital signal processor,DSP)、专用集成电路(application specific integrated circuit,ASIC)、现场可编程门阵列(fieldprogrammable gate array,FPGA)或者其它可编程逻辑器件、晶体管逻辑器件,硬件部件或者其任意组合。通用处理器可以是微处理器,也可以是任何常规的处理器。
存储器820可以包括只读存储器和随机存取存储器,并向处理器810提供指令和数据。存储器820还可以包括非易失性随机存取存储器。例如,存储器820可设置多个分区,每个区域分别用于存储不同软件模块的私钥。
存储器820可以是易失性存储器或非易失性存储器,或可包括易失性和非易失性存储器两者。其中,非易失性存储器可以是只读存储器(read-only memory,ROM)、可编程只读存储器(programmable ROM,PROM)、可擦除可编程只读存储器(erasable PROM,EPROM)、电可擦除可编程只读存储器(electrically EPROM,EEPROM)或闪存。易失性存储器可以是随机存取存储器(random access memory,RAM),其用作外部高速缓存。通过示例性但不是限制性说明,许多形式的RAM可用,例如静态随机存取存储器(static RAM,SRAM)、动态随机存取存储器(DRAM)、同步动态随机存取存储器(synchronous DRAM,SDRAM)、双倍数据速率同步动态随机存取存储器(double data date SDRAM,DDR SDRAM)、增强型同步动态随机存取存储器(enhanced SDRAM,ESDRAM)、同步连接动态随机存取存储器(synchlink DRAM,SLDRAM)和直接内存总线随机存取存储器(direct rambus RAM,DR RAM)。
总线除包括数据总线之外,还可以包括电源总线、控制总线和状态信号总线等。总线可以是快捷外围部件互连标准(Peripheral Component Interconnect Express,PCIe)总线,或扩展工业标准结构(extended industry standard architecture,EISA)总线、统一总线(unified bus,Ubus或UB)、计算机快速链接(compute express link,CXL)、缓存一致互联协议(cache coherent interconnect for accelerators,CCIX)等。总线可以分为地址总线、数据总线、控制总线等。
在本申请的另一实施例中,还提供一种计算机可读存储介质,计算机可读存储介质中存储有计算机执行指令,当设备的处理器执行该计算机执行指令时,设备执行上述方法实施例中计算机设备所执行的方法。
在本申请的另一实施例中,还提供一种计算机程序产品,该计算机程序产品包括计算机执行指令,该计算机执行指令存储在计算机可读存储介质中。当设备的处理器执行该计算机执行指令时,设备执行上述方法实施例中计算机设备所执行的方法。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,read-onlymemory)、随机存取存储器(RAM,random access memory)、磁碟或者光盘等各种可以存储程序代码的介质。
Claims (15)
1.一种图像处理方法,其特征在于,包括:
摄像机以第一帧率实时获取第一图像帧;
当检测到所述第一图像帧中的车辆到达预设位置时,所述摄像机以第二帧率获取第二图像帧,所述第二图像帧为连续的多个图像帧,所述第一帧率小于所述第二帧率;
基于多个所述第二图像帧生成目标图像。
2.根据权利要求1所述的方法,其特征在于,所述摄像机以第二帧率获取第二图像帧之前,所述方法还包括:
根据所述第一图像帧确定所述车辆的位移速度,所述第一图像帧为连续的多个图像帧;
根据所述位移速度确定所述车辆的检测范围,所述车辆的检测范围的大小与所述位移速度正相关。
3.根据权利要求2所述的方法,其特征在在于,所述第一图像帧中的车辆到达预设位置包括所述车辆的检测范围到达所述预设位置。
4.根据权利要求1至3中任一项所述的方法,其特征在于,所述第二图像帧的分辨率小于所述第一图像帧的分辨率。
5.根据权利要求1至4中任一项所述的方法,其特征在于,所述第二图像帧包括补光帧和非补光帧,所述基于多个所述第二图像帧生成所述目标图像包括:
根据所述补光帧和所述非补光帧消除所述第二图像帧中的彩纹,生成所述目标图像。
6.根据权利要求1至4所述的方法,其特征在于,所述基于多个所述第二图像帧生成所述目标图像包括:
根据多个所述第二图像帧生成多个配准图像帧;
根据多个所述配准图像帧合成所述目标图像。
7.一种图像处理装置,其特征在于,包括:
获取单元,用于以第一帧率实时获取第一图像帧;
当检测到所述第一图像帧中的车辆到达预设位置时,所述获取单元还用于以第二帧率获取第二图像帧,所述第二图像帧为连续的多个图像帧,所述第一帧率小于所述第二帧率;
处理单元,用于基于多个所述第二图像帧生成目标图像。
8.根据权利要求7所述的装置,其特征在于,所述处理单元还用于根据所述第一图像帧确定所述车辆的位移速度,所述第一图像帧为连续的多个图像帧;
所述处理单元还用于根据所述位移速度确定所述车辆的检测范围,所述车辆的检测范围的大小与所述位移速度正相关。
9.根据权利要求8所述的装置,其特征在在于,所述第一图像帧中的车辆到达预设位置包括所述车辆的检测范围到达所述预设位置。
10.根据权利要求7至9中任一项所述的装置,其特征在于,所述第二图像帧的分辨率小于所述第一图像帧的分辨率。
11.根据权利要求7至10中任一项所述的装置,其特征在于,所述第二图像帧包括补光帧和非补光帧,所述处理单元具体用于根据所述补光帧和所述非补光帧消除所述第二图像帧中的彩纹,生成所述目标图像。
12.根据权利要求7至10所述的装置,其特征在于,所述处理单元用于:
根据多个所述第二图像帧生成多个配准图像帧;
根据多个所述配准图像帧合成所述目标图像。
13.一种电子设备,其特征在于,包括处理器,所述处理器与存储器耦合,所述处理器用于存储指令,当所述指令被所述处理器执行时,以使得所述电子设备执行权利要求1至6中任一项所述的方法。
14.一种计算机可读存储介质,其上存储有指令,其特征在于,所述指令被执行时,以使得计算机执行权利要求1至6中任一项所述的方法。
15.一种计算机程序产品,所述计算机程序产品中包括指令,其特征在于,所述指令被执行时,以使得计算机实现权利要求1至6中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111595295.8A CN116342441A (zh) | 2021-12-23 | 2021-12-23 | 一种图像处理方法以及图像处理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111595295.8A CN116342441A (zh) | 2021-12-23 | 2021-12-23 | 一种图像处理方法以及图像处理装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116342441A true CN116342441A (zh) | 2023-06-27 |
Family
ID=86877682
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111595295.8A Pending CN116342441A (zh) | 2021-12-23 | 2021-12-23 | 一种图像处理方法以及图像处理装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116342441A (zh) |
-
2021
- 2021-12-23 CN CN202111595295.8A patent/CN116342441A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11910123B2 (en) | System for processing image data for display using backward projection | |
JP6060282B2 (ja) | 車載カメラ画像処理装置 | |
JP4258539B2 (ja) | 複数画角カメラ | |
US11968478B2 (en) | Camera system, event recording system and event recording method | |
JP6660751B2 (ja) | 撮像装置 | |
JP5895448B2 (ja) | 車両認識装置、車両認識方法、プログラム | |
JP3847547B2 (ja) | 車両周辺監視支援装置 | |
WO2013140873A1 (ja) | 車載用画像処理装置及び方法 | |
US11508156B2 (en) | Vehicular vision system with enhanced range for pedestrian detection | |
JP2007110572A (ja) | 複数カメラ画像合成表示装置 | |
US11025828B2 (en) | Imaging control apparatus, imaging control method, and electronic device | |
JPH04274941A (ja) | 車両用車外監視装置 | |
JP5728929B2 (ja) | 車両周辺監視装置 | |
JP2019001325A (ja) | 車載用撮像装置 | |
CN116342441A (zh) | 一种图像处理方法以及图像处理装置 | |
JP6161582B2 (ja) | 画像処理装置 | |
JP6844055B1 (ja) | 監視カメラ | |
JP7213732B2 (ja) | 画像表示装置 | |
CN117635672A (zh) | 图像处理方法、装置、摄像系统、设备、介质及程序产品 | |
JP2019022028A (ja) | 撮像装置、その制御方法およびプログラム | |
JP7231092B2 (ja) | イベント記録システム | |
JP2011077806A (ja) | 車両周辺監視装置 | |
JP7459607B2 (ja) | 表示制御装置、表示制御方法およびプログラム | |
JP2023154265A (ja) | 画像処理装置、移動体、画像処理方法、及びコンピュータプログラム | |
CN116208721A (zh) | 一种低光照环境下车辆抓拍方法、装置、介质及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication |