CN113160106B - 红外目标检测方法及装置、电子设备、存储介质 - Google Patents
红外目标检测方法及装置、电子设备、存储介质 Download PDFInfo
- Publication number
- CN113160106B CN113160106B CN202010361252.2A CN202010361252A CN113160106B CN 113160106 B CN113160106 B CN 113160106B CN 202010361252 A CN202010361252 A CN 202010361252A CN 113160106 B CN113160106 B CN 113160106B
- Authority
- CN
- China
- Prior art keywords
- image
- value
- infrared
- gray
- block
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 128
- 238000012545 processing Methods 0.000 claims abstract description 75
- 238000000034 method Methods 0.000 claims abstract description 60
- 230000004927 fusion Effects 0.000 claims abstract description 19
- 238000004590 computer program Methods 0.000 claims description 19
- 230000006870 function Effects 0.000 claims description 13
- 238000001914 filtration Methods 0.000 claims description 10
- 230000011218 segmentation Effects 0.000 claims description 8
- 230000000877 morphologic effect Effects 0.000 claims description 7
- 238000004422 calculation algorithm Methods 0.000 description 95
- 230000008569 process Effects 0.000 description 32
- 230000007797 corrosion Effects 0.000 description 15
- 238000005260 corrosion Methods 0.000 description 15
- 239000007787 solid Substances 0.000 description 13
- 230000003139 buffering effect Effects 0.000 description 10
- 238000010586 diagram Methods 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 4
- 238000005457 optimization Methods 0.000 description 4
- 230000004044 response Effects 0.000 description 4
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 230000006872 improvement Effects 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000010339 dilation Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000003628 erosive effect Effects 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- JOHZPMXAZQZXHR-UHFFFAOYSA-N pipemidic acid Chemical compound N1=C2N(CC)C=C(C(O)=O)C(=O)C2=CN=C1N1CCNCC1 JOHZPMXAZQZXHR-UHFFFAOYSA-N 0.000 description 2
- 238000011897 real-time detection Methods 0.000 description 2
- 230000000717 retained effect Effects 0.000 description 2
- 230000001629 suppression Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 238000007499 fusion processing Methods 0.000 description 1
- PCHJSUWPFVWCPO-UHFFFAOYSA-N gold Chemical compound [Au] PCHJSUWPFVWCPO-UHFFFAOYSA-N 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000005693 optoelectronics Effects 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
- G06T5/30—Erosion or dilatation, e.g. thinning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/40—Image enhancement or restoration using histogram techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/136—Segmentation; Edge detection involving thresholding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10048—Infrared image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Quality & Reliability (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
Abstract
本申请提供一种红外目标检测方法及装置、电子设备、存储介质,涉及红外目标检测技术领域。该方法包括:获取原始红外图像;对原始红外图像进行局部对比度增强处理,得到第一图像,并对原始红外图像进行局部加权熵处理,得到第二图像;并将第一图像和第二图像进行图像融合,得到第三图像;从第三图像中提取红外目标的图像信息。本申请提供的技术方案可以更准确地检测出不同复杂场景下的红外弱小目标,降低目标检测的虚警率和漏警率。
Description
技术领域
本申请涉及红外目标检测技术领域,尤其涉及一种红外目标检测方法及装置、电子设备、存储介质。
背景技术
红外目标检测技术对复杂场景下目标(例如无人机)的搜索和跟踪起着重要的作用。
目前,针对红外目标的检测及跟踪,通常是基于光电转台进行的。转台上带有红外镜头,镜头输出的图像数据,经过图像处理板卡处理,即通过目标检测算法,解算出目标的方位信息,并引导光电转台对目标进行持续跟踪。
然而,由于红外图像的成像距离远,目标在红外图像中通常以斑点状呈现,缺乏明显的结构和纹理特征;同时,由于传输过程中引入噪声及复杂背景的干扰,目标常常被淹没在背景杂波和噪声中,因此针对低空复杂场景和高空场景,采用目前的目标检测算法,可能无法有效地检测出弱小红外目标,很容易产生虚警和漏警。
发明内容
有鉴于此,本申请实施例提供了一种红外目标检测方法及装置、电子设备、存储介质,可以解决针对低空复杂场景和高空场景,无法有效地检测出弱小红外目标的问题。
为了实现上述目的,第一方面,本申请实施例提供了一种红外目标检测方法,包括:
获取原始红外图像;
对所述原始红外图像进行局部对比度增强处理,得到第一图像,并对所述原始红外图像进行局部加权熵处理,得到第二图像;
将所述第一图像和所述第二图像进行图像融合,得到第三图像;
从所述第三图像中提取红外目标的图像信息。
在第一方面的一种可能的实现方式中,所述将所述第一图像和所述第二图像进行图像融合,得到第三图像,包括:
对所述第二图像进行阈值分割处理,得到二值化的所述第二图像;
将所述第一图像和二值化的所述第二图像进行对应像素的逻辑与运算,得到所述第三图像。
在第一方面的另一种可能的实现方式中,在所述对所述第二图像进行阈值分割处理,得到二值化的所述第二图像之后,所述将所述第一图像和二值化的所述第二图像进行对应像素的逻辑与运算,得到所述第三图像之前,所述方法还包括:
对所述二值化的所述第二图像进行形态学滤波处理。
在第一方面的又一种可能的实现方式中,所述对所述原始红外图像进行局部对比度增强处理,得到第一图像,包括:
采用第一滑动窗口遍历所述原始红外图像,得到多个第一图像块,每个第一图像块包括对应的一个中心块和多个邻域块,隶属于同一个第一图像块的中心块和每个邻域块的像素数量相等;
针对所述多个第一图像块中的每个第一图像块,依次执行以下第一运算:
采用第一等式,根据所述中心块中的最大像素灰度值A、所述多个邻域块分别对应的像素灰度和值中的最大值B,以及所述多个邻域块的所有像素灰度和值C,计算第一数值S,并将所述第一数值S替换所述中心块中的各像素的灰度值;其中,所述第一等式表示为:S=(αA-C)2×(βA-B)/(α2×B),其中α和β均为正整数;
在针对所述多个第一图像块均执行所述第一运算之后,得到所述第一图像。
在第一方面的再一种可能的实现方式中,所述对所述原始红外图像进行局部加权熵处理,得到第二图像,包括:
采用第二滑动窗口遍历所述原始红外图像,得到多个第二图像块;
针对所述多个第二图像块中的每个第二图像块,依次执行以下第二运算(1)至(3):
(1)获取所述第二图像块中与所述第一灰度值K(n)对应的灰度直方图统计数据Hist(K(n));其中n取正整数;
(2)根据所述灰度直方图统计数据Hist(K(n)),计算第二数值P(n);
(3)将所述第二数值P(n)替换所述第二图像块中的中心点像素的灰度值;
在针对所述多个第二图像块均执行所述第二运算之后,得到所述第二图像。
在第一方面的又一种可能的实现方式中,所述根据所述灰度直方图统计数据Hist(K(n)),计算第二数值P(n),包括:
在所述灰度直方图统计数据Hist(K(n))为零的情况下,计算所述第二数值P(n)为零;或者,
在所述灰度直方图统计数据Hist(K(n))不为零的情况下,采用下述步骤(a)至(c)计算所述第二数值P(n):
(a)采用第二等式,计算所述灰度直方图统计数据Hist(K(n))对应的熵值T(n);其中,所述第二等式表示为:T(n)=-Hist(K(n))×ln(Hist(K(n))),所述ln(Hist(K(n)))为基于现场可编程门阵列(Field-Programmable Gate Array,FPGA)搭建的对数运算函数;
(b)采用第三等式,根据所述第一灰度值K(n)和所述第二图像块的像素灰度均值M,计算方差加权值V(n);其中,所述第三等式表示为:V(n)=(K(n)-M)2;
(c)采用第四等式,根据所述熵值T(n)和所述方差加权值V(n),计算所述第二数值P(n);其中,所述第四等式表示为:P(n)=T(n)×V(n)。
在第一方面的另一种可能的实现方式中,在所述获取原始红外图像之后,所述方法还包括:
采用先进先出(First Input First Output,FIFO)方式对所述原始红外图像进行数据缓存,并将串行输出格式的图像数据转换为并行输出格式的图像数据。
第二方面,本申请实施例提供了一种红外目标检测装置,包括获取模块和处理模块;
所述获取模块用于获取原始红外图像;
所述处理模块用于对所述原始红外图像进行局部对比度增强处理,得到第一图像,并对所述原始红外图像进行局部加权熵处理,得到第二图像;并将所述第一图像和所述第二图像进行图像融合,得到第三图像;并从所述第三图像中提取红外目标的图像信息。
在第二方面的一种可能的实现方式中,所述处理模块具体用于对所述第二图像进行阈值分割处理,得到二值化的所述第二图像;并将所述第一图像和二值化的所述第二图像进行对应像素的逻辑与运算,得到所述第三图像。
在第二方面的另一种可能的实现方式中,所述处理模块还用于在所述对所述第二图像进行阈值分割处理,得到二值化的所述第二图像之后,所述将所述第一图像和二值化的所述第二图像进行对应像素的逻辑与运算,得到所述第三图像之前,对所述二值化的所述第二图像进行形态学滤波处理。
在第二方面的又一种可能的实现方式中,所述处理模块具体用于:
采用第一滑动窗口遍历所述原始红外图像,得到多个第一图像块,每个第一图像块包括对应的一个中心块和多个邻域块,隶属于同一个第一图像块的中心块和每个邻域块的像素数量相等;
针对所述多个第一图像块中的每个第一图像块,依次执行以下第一运算:
采用第一等式,根据所述中心块中的最大像素灰度值A、所述多个邻域块分别对应的像素灰度和值中的最大值B,以及所述多个邻域块的所有像素灰度和值C,计算第一数值S,并将所述第一数值S替换所述中心块中的各像素的灰度值;其中,所述第一等式表示为:
S=(αA-C)2×(βA-B)/(α2×B),其中α和β为正整数;
在针对所述多个第一图像块均执行所述第一运算之后,得到所述第一图像。
在第二方面的再一种可能的实现方式中,所述处理模块具体用于:
采用第二滑动窗口遍历所述原始红外图像,得到多个第二图像块;
针对所述多个第二图像块中的每个第二图像块,依次执行以下第二运算(1)至(3):
(1)获取所述第二图像块中与所述第一灰度值K(n)对应的灰度直方图统计数据Hist(K(n));其中n取正整数;
(2)根据所述灰度直方图统计数据Hist(K(n)),计算第二数值P(n);
(3)将所述第二数值P(n)替换所述第二图像块中的中心点像素的灰度值;
在针对所述多个第二图像块均执行所述第二运算之后,得到所述第二图像。
进一步的,在第二方面的又一种可能的实现方式中,所述处理模块具体用于:
在所述灰度直方图统计数据Hist(K(n))为零的情况下,计算所述第二数值P(n)为零;或者,
在所述灰度直方图统计数据Hist(K(n))不为零的情况下,采用下述步骤(a)至(c)计算所述第二数值P(n):
(a)采用第二等式,计算所述灰度直方图统计数据Hist(K(n))对应的熵值T(n);其中,所述第二等式表示为:T(n)=-Hist(K(n))×ln(Hist(K(n))),所述ln(Hist(K(n)))为基于FPGA搭建的对数运算函数;
(b)采用第三等式,根据所述第一灰度值K(n)和所述第二图像块的像素灰度均值M,计算方差加权值V(n);其中,所述第三等式表示为:V(n)=(K(n)-M)2;
(c)采用第四等式,根据所述熵值T(n)和所述方差加权值V(n),计算所述第二数值P(n);其中,所述第四等式表示为:P(n)=T(n)×V(n)。
在第二方面的另一种可能的实现方式中,所述红外目标检测装置还包括存储模块,所述存储模块用于在所述获取原始红外图像之后,采用先进先出FIFO方式对所述原始红外图像进行数据缓存,并将串行输出格式的图像数据转换为并行输出格式的图像数据。
第三方面,本申请实施例提供了一种电子设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述第一方面中任一项所述的红外目标检测方法。
第四方面,本申请实施例提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述第一方面中任一项所述的红外目标检测方法。
第五方面,本申请实施例提供了一种计算机程序产品,当计算机程序产品在终端设备上运行时,使得终端设备执行上述第一方面中任一项所述的红外目标检测方法。
可以理解的是,上述第二方面至第五方面的有益效果可以参见上述第一方面中的相关描述,在此不再赘述。
本申请实施例与现有技术相比存在的有益效果是:
本申请实施例提供的技术方案,可以获取原始红外图像;对原始红外图像进行局部对比度增强处理,得到第一图像,并对原始红外图像进行局部加权熵处理,得到第二图像;并将第一图像和第二图像进行图像融合,得到第三图像;从第三图像中提取红外目标的图像信息。通过该方案,对原始红外图像进行局部对比度增强处理以及对原始红外图像进行局部加权熵处理,并将处理后的图像进行融合,融合后的图像中红外目标相对于背景更加明显,因此有利于提取复杂背景中的红外目标,从而可以提升红外目标检测方法的准确性,并且该红外目标检测方法既可以适用于复杂云层背景下的高空红外目标检测场景,也可以适用于复杂地面背景下的低空红外目标检测场景,从而可以增强红外目标检测方法的复杂场景适应性。因此,本申请提供的技术方案可以更准确地检测出不同复杂场景下的红外弱小目标,降低目标检测的虚警率和漏警率。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本申请一实施例提供的红外目标检测方法的流程示意图;
图2是本申请一实施例提供的红外目标检测方法所采用的图像块的示意图;
图3是本申请一实施例提供的红外目标检测方法中输入及输出像素值的流程示意图;
图4是本申请一实施例提供的红外目标检测方法对原始红外图像执行局部加权熵处理的流程示意图;
图5是本申请一实施例提供的红外目标检测方法的流程示意图;
图6是本申请一实施例提供的红外目标检测方法的流程示意图;
图7是本申请一实施例提供的应用场景示意图;
图8是本申请实施例提供的红外目标检装置的结构示意图;
图9是本申请实施例提供的红外目标检测方法应用于FPGA的架构示意图;
图10是本申请实施例提供的电子设备的结构示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本申请实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本申请的描述。
应当理解,当在本申请说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本申请说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
另外,在本申请说明书和所附权利要求书的描述中,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
在本申请说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。
针对目前的针对低空复杂场景和高空场景,无法有效地检测出弱小红外目标的技术问题,本申请实施例提供一种红外目标检测方法,主要通过对原始红外图像分别进行两种不同的图像处理并将处理后的图像进行融合,更准确地检测出不同复杂场景下的红外弱小目标,降低目标检测的虚警率和漏警率。
本申请实施例提供的红外目标检测方法可以应用于针对高空或地面等复杂背景中的红外弱小目标的检测及跟踪场景。
其中,红外弱小目标包含“弱”和“小”两个方面的涵义,分别用于描述目标属性的两个方面。“弱”的属性可以采用对比度和信噪比来描述,其中图像的对比度描述了目标与周围背景之间的强度差异,信噪比描述目标信号强度与噪声之间的比值。“小”的属性即为目标在图像中所占的像素数。一般而言,红外弱小目标用性能指标参数可以描述为:对比度小于15%,信噪比小于1.5,成像尺寸小于80个像素(即256×256的0.15%),远距离下红外极弱小目标的大小范围甚至在3*3~10*10。
本申请实施例提供的红外目标检测方法的执行主体可以为电子设备,也可以为电子设备中能够实现该红外目标检测方法的功能模块和/或功能实体,具体的可以根据实际使用需求确定,本申请实施例不作限定。下面以电子设备为例,采用具体的实施例对本发明实施例提供的红外目标检测方法进行示例性的说明。需要说明的是,下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例不予赘述。
图1为本申请一实施例提供的红外目标检测方法的流程示意图,如图1所示,该红外目标检测方法可以包括下述的步骤101-步骤105。
步骤101、电子设备获取原始红外图像。
本申请实施例中,电子设备可以采用红外探测器(例如红外热像仪),实时采集原始红外图像。
步骤102、电子设备对原始红外图像进行局部对比度增强处理,得到第一图像。
本申请实施例中,电子设备可以采用图像局部对比度增强算法(Local ContrastMeasure,LCM),对原始红外图像进行局部对比度增强处理。
可选的,本申请实施例中,上述图像局部对比度增强算法可以为相关技术中公开的图像局部对比度增强算法,也可以为基于相关检测算法改进的图像局部对比度增强算法(Enhanced Local Contrast Measure,ELCM),例如本申请实施例提供的一种改进的图像局部对比度增强算法,该算法可适用于通过现场可编程门阵列(Field-Programmable GateArray,FPGA)实现。对于该改进的图像局部对比度增强算法的详细描述具体可以参见下文描述,此处不予赘述。
本申请实施例中,由于图像局部对比度增强算法在图像处理的应用中,具有良好目标增强能力和背景抑制能力,同时具有较强的抗噪性能,因此电子设备通过结合图像局部对比度增强算法对原始红外图像进行处理,可以达到增强目标,同时抑制背景和噪声的目的。相应地,与原始红外图像相比,处理后得到的第一图像中小目标区域和背景边缘区域之间的对比度增大,从而使得目标在复杂背景中突显。
可选的,针对复杂云层背景下的高空红外目标检测场景,电子设备可以采用图像局部对比度增强算法对原始红外图像进行处理,实现对空中红外目标的快速检测。
步骤103、电子设备对原始红外图像进行局部加权熵处理,得到第二图像。
本申请实施例中,电子设备可以采用基于图像局部加权熵的检测算法,对原始红外图像进行局部加权熵处理。
可选的,本申请实施例中,上述基于图像局部加权熵的检测算法可以为相关技术中公开的基于图像局部加权熵的检测算法,也可以为基于相关检测算法改进的图像局部对比度增强算法,例如本申请实施例提供的一种改进的基于图像局部加权熵的检测算法,该算法可适用于通过FPGA实现。对于该改进的基于图像局部加权熵的检测算法的详细描述具体可以参见下文描述,此处不予赘述。
本申请实施例中,电子设备通过结合图像局部加权熵的检测算法对原始红外图像进行处理,可以有效分离出边缘纹理,准确检测出目标,提高检测的准确性。相应地,与原始红外图像相比,处理后得到的第二图像可以从复杂背景中分离出红外目标。
可选的,针对复杂地面背景下的低空红外目标检测场景,电子设备可以采用基于图像局部加权熵的检测算法对原始红外图像进行处理,实现对空中红外目标的快速检测。
需要说明的是,本申请实施例可以不限定步骤102和步骤103的执行顺序。即本申请实施例可以先执行步骤102,后执行步骤103;也可以先执行步骤103,后执行步骤102;还可以同时执行步骤102和步骤103。可以理解,上述图1是以同时执行步骤102和步骤103为例示意的。
步骤104、电子设备将第一图像和第二图像进行图像融合,得到第三图像。
本申请实施例中,电子设备可以采用图像融合算法,对第一图像和第二图像进行融合处理,得到第三图像,该第三图像中红外目标相对于背景更加明显,有利于对红外目标的提取。
步骤105、电子设备从第三图像中提取红外目标的图像信息。
本申请实施例中,电子设备可以从第三图像中提取红外目标的图像信息,并根据该图像信息解算出红外目标的方位信息,从而实现对空中红外目标的快速检测和跟踪。
本申请实施例提供的红外目标检测方法,可以获取原始红外图像;对原始红外图像进行局部对比度增强处理,得到第一图像,并对原始红外图像进行局部加权熵处理,得到第二图像;并将第一图像和第二图像进行图像融合,得到第三图像;从第三图像中提取红外目标的图像信息。通过该方案,对原始红外图像分别进行局部对比度增强处理以及对原始红外图像进行局部加权熵处理,并将处理后的图像进行融合,融合后的图像中红外目标相对于背景更加明显,因此有利于提取复杂背景中的红外目标,从而可以提升红外目标检测方法的准确性,并且该红外目标检测方法既可以适用于复杂云层背景下的高空红外目标检测场景,也可以适用于复杂地面背景下的低空红外目标检测场景,从而可以增强红外目标检测方法的普适性。因此,本申请提供的技术方案可以更准确地检测出不同复杂场景下的红外弱小目标,降低目标检测的虚警率和漏警率。
在一种可能的实现方式中,可以将上述红外目标检测方法应用于FPGA上实现,基于FPGA并行度高的特点,在电子设备获取原始红外图像之后,本申请实施例提供的红外目标检测方法还包括下述的步骤106。
步骤106、电子设备采用先进先出FIFO方式对原始红外图像进行数据缓存,并将串行输出格式的图像数据转换为并行输出格式的图像数据。
示例性的,对算法的输入数据(原始红外图像)进行串转并操作,即采用M个(M为大于1的整数,例如M为27)FIFO进行数据缓存,将串行输出格式的图像数据转为可以M行(例如27行)并行输出的格式。
通过上述方式,将红外目标检测方法移植到FPGA上实现,有效的利用了FPGA并行度高的特点,达到了实时检测,使该红外目标检测方法具备了真正的实用价值。
在一种可能的实现方式中,上述电子设备采用图像局部对比度增强算法对原始红外图像进行处理,得到第一图像的步骤具体可以通过下述的步骤102A-步骤102C实现。
步骤102A、电子设备采用第一滑动窗口遍历原始红外图像,得到多个第一图像块,每个第一图像块包括对应的一个中心块和多个邻域块,隶属于同一个第一图像块的中心块和每个邻域块的像素数量相等。
步骤102B、针对多个第一图像块中的每个第一图像块,电子设备依次执行以下第一运算:
采用第一等式,根据中心块中的最大像素灰度值A、该多个邻域块分别对应的像素灰度和值中的最大值B,以及该多个邻域块的所有像素灰度和值C,计算第一数值S,并将第一数值S替换中心块中的各像素的灰度值;其中,该第一等式表示为:S=(αA-C)2×(βA-B)/(α2×B),其中α和β均为正整数。
步骤102C、电子设备在针对该多个第一图像块均执行第一运算之后,得到第一图像。
下面示例性地描述上述步骤102A-步骤102C的可能实现方式。
为了将上述红外目标检测方法应用于FPGA上实现,本申请实施例在基于Matlab的图像局部对比度增强算法的基础上进行算法改进,得到基于FPGA的图像局部对比度增强算法。下面先示例性地说明基于Matlab的图像局部对比度增强算法,再示例性地说明基于FPGA的图像局部对比度增强算法。
(一)基于Matlab的图像局部对比度增强算法
Matlab版本的原始算法的计算过程可以如下:
(1)将N×N窗口(也称为滑窗框)在原始红外图像上依次从左向右、从上向下滑动,得到与窗口大小相等的图像块(即上述的第一图像块)。
可选的,N可以为3的正整数次幂。需要说明的是,为了便于描述,以下以27*27窗口为例进行示例性描述。
(2)如图2所示,假设图像块的大小为27*27,将图像块九等分,标号为0~8的9个小框的大小为9*9。中心块记为“0”(中心块包含9*9个像素点),其余邻域块分别记为“1”~“8”(每个邻域块均包含9*9个像素点),代表着窗口中心块的8个邻域。进一步分别计算各邻域块的像素灰度均值。
(3)第i个邻域块的像素灰度均值mi可以表示为:
其中,Nb表示每个邻域块的像素点个数(例如Nb=9),表示第i个邻域块中第j个像素点的灰度值。i取值为1、2…8,j取值为1、2…9。
(4)计算改进后的局部最小对比度Cw为:
其中,Ln表示窗口中心块像素的最大灰度值,mi表示第i个邻域块的像素灰度均值,i取值为1、2、…8。
(5)计算8个邻域块的平均灰度值mI:
再利用中心块像素的最大灰度值Ln和所有邻域块的平均灰度值mI,计算局部最大差值ZI:
ZI=Ln-mI,
(6)利用步骤(3)得到的改进局部最小对比度ZI和步骤(5)得到的局部最大差值Cw的乘积,得到像素灰度值P::
基于计算得到的像素灰度值P,进一步可以得到增强的局部对比度图像。
(二)基于FPGA的图像局部对比度增强算法
由于图像局部对比度增强算法需要通过FPGA实现,而FPGA无法实现浮点数运算。因此,为避免移植过程中出现精度误差,本申请实施例做出了以下算法优化:
(1)如图3所示,为将该图像局部对比度增强算法在FPGA上实现,可以对算法的输入数据(原始红外图像)进行串转并处理,即采用27个FIFO进行数据缓存,将串行输出格式的图像数据转为可以27行并行输出格式的图像数据。
其中,图像像素串行输入,然后经过串转并处理后,变为27行像素并行输出,再经过27*27滑窗滤波处理,得到中心块最大值Ln、邻域均值mI和邻域均值的最大值max(mi),进一步的再基于ELCM算法,计算像素值P,最后输出像素值P。
(2)假设每个图像块的中心块0的最大像素灰度值A,A=Ln;8个邻域块对应的8个像素灰度值之和中的最大值B,该B=81max(mi);以及8个邻域块的所有像素的灰度值之和C,该C=648mI。
基于下述的等式(1)和等式(2),可以推算得到下述的等式(3):
Cw=(Ln-max(mi))/max(mi)=(81A-B)/B (等式1)
ZI=Ln-mI=(648A-C)/648 (等式2)
S=ZI 2*Cw
=((81Ln-B)/B)2×(648A-C)/648 (等式3)
=(648A-C)2×(81A-B)/(648×648×B)
令α=648,β=81,则S=(αA-C)2×(βA-B)/(α2×B)。
需要说明的是,本申请实施例中是以图像块大小为27*27为例示意的,α=648,β=81,可以理解,实际实现时,若图像块的大小不同,则α和β的取值不同,具体可以根据实际使用需求确定,本申请实施例不作限定。
本申请可以根据每个图像块的中心块0的最大像素灰度值A,8个邻域块对应的8个像素灰度值之和中的最大值B,以及8个邻域块的所有像素的灰度值之和C,来计算中心块0的像素灰度值S。调整后的算法只在计算S时需要进行一次除法,减小了多次除法运算带来的误差,进一步可以提高目标检测的准确性。
需要说明的是,在进行滑窗滤波时,每个滑窗框的计算结果S需要填充9行9列(S就是中心框0的输出像素值),例如1~27行和1~27列是一个滑窗框,这个框的输出结果S是输出图像的10~18行的10~18列的像素值,由于S要填充9行,所以需要进行缓存。示例性的,可以采用深度为78、宽度为8bit的数组进行缓存。
可选的,本申请实施例中,上述图像局部对比度增强算法输出图像的边框填充为0。
可选的,本申请实施例中,可以对上述图像局部对比度增强算法的输出图像进行归一化操作,即这整个检测算法的最终输出图像的像素值为S*255/Smax,其中Smax为一帧图像中S的最大值。
可选的,本申请实施例中,上述图像局部对比度增强算法适用于高空目标检测场景。
上面介绍了本申请实施例提供的图像局部对比度增强算法以及基于FPGA改进的图像局部对比度增强算法的可能实现方式,下面再介绍本申请实施例提供的基于图像局部加权熵的检测算法以及基于FPGA改进的基于图像局部加权熵的检测算法的可能实现方式。
在一种可能的实现方式中,上述电子设备采用基于图像局部加权熵的检测算法对原始红外图像进行处理,得到第二图像的步骤具体可以通过下述的步骤103A-步骤103C实现。
步骤103A、电子设备采用第二滑动窗口遍历原始红外图像,得到多个第二图像块;
步骤103B、针对多个第二图像块中的每个第二图像块,电子设备依次执行以下第二运算:
(1)电子设备获取第二图像块中与第一灰度值K(n)对应的灰度直方图统计数据Hist(K(n))。
其中,K(n)位于灰度范围内,n取正整数。例如K(n)可以取[0,255]范围内的整数,n取[1,256]范围内的整数;
(2)电子设备根据灰度直方图统计数据Hist(K(n)),计算第二数值P(n)。
在一种可能的实现方式中,在灰度直方图统计数据Hist(K(n))为零的情况下,计算第二数值P(n)为零。
在另一种可能的实现方式中,在灰度直方图统计数据Hist(K(n))不为零的情况下,可以采用下述步骤(a)至(c)计算第二数值P(n):
(a)采用第二等式,计算灰度直方图统计数据Hist(K(n))对应的熵值T(n);其中,该第二等式表示为:T(n)=-Hist(K(n))×ln(Hist(K(n))),该ln(Hist(K(n)))为基于FPGA搭建的对数运算函数;
(b)采用第三等式,根据第一灰度值K(n)和第二图像块的像素灰度均值M,计算方差加权值V(n);
其中,该第三等式表示为:V(n)=(K(n)-M)2;
(c)采用第四等式,根据熵值T(n)和方差加权值V(n),计算第二数值P(n);
其中,该第四等式表示为:P(n)=T(n)×V(n)。
(3)电子设备将第二数值P(n)替换第二图像块中的中心点像素的灰度值。
步骤103C、电子设备在针对该多个第二图像块均执行第二运算之后,得到第二图像。
可选的,本申请实施例中,上述基于图像局部加权熵的检测算法适用于低空目标检测场景。
需要说明的是,本申请实施例中以lnx求自然对数为例进行说明,可以理解,实时实现时,本申请实施例还可以采用任意可能满足需要的其他对数,具体可以根据实际使用需求确定,本申请实施例不做限定。
下面示例性地描述上述步骤103A-步骤103C的可能实现方式。
(一)Matlab版本的原始算法的计算过程如下:
1、从原始红外图像中提取27*27大小的滤波窗口;
2、对27*27窗口求像素灰度均值M;
3、对27*27窗口进行灰度直方图统计(按0~255共256个灰度等级),可得到Hist(1:256);
4、归一化处理:Histnew(1:256)=Hist(1:256)/(27*27);
5、在0~255中寻找Hist(n)!=0的像素点,并计算对应的T(n)和V(n):
T(n)=-Histnew(K(n))*ln(Histnew(K(n)));
V(n)=(K(n)-M)2;
P(n)=T(n)×V(n)。
6、使用P(n)替换27*27窗口的中心点,取步长为1,向右滑动窗口。在新的27*27窗口再重复以上操作。
7、边界处保留原始数据。
(二)为将该算法在FPGA上实现,本申请做了以下算法优化工作:
图4示出了实现该算法的流程架构图,下面结合图4进行描述。
1、27*27滑窗滤波处理:输入数据(原始红外图像)进行串转并操作,即采用27个FIFO进行数据缓存,将串行输出格式的图像数据转为可以27行并行输出格式的图像数据。
2、取均值处理:计算27*27窗口的灰度均值,使用FPGA中的加法器和除法器资源实现。
3、灰度直方图统计处理:利用FPGA中的比较器和累加器资源,进行灰度直方图统计。该处理的输入值为原始图像和灰度值K(n),输出值为灰度值K(n)下的直方图统计结果。由于n=1,2,3,…256,故该处理重复调用了256次,并行计算,能同时输出n=1到n=256的直方图统计结果。
4、判断Hist(K(n))是否等于0:若灰度值K(n)的直方图统计结果为0,对应的P(n)直接输出0;否则执行下一步,计算P(n)。
5、由上述(一)可知,计算P(n),主要是计算T(n)和V(n),其中关键步骤为对数计算ln(x)。FPGA并不支持对数运算,需要自己搭建对数运算函数。经查阅资料,可知,FPGA常用的CORDIC IP核可以通过数学变形的方式,间接算出ln(x),具体过程如下:
ln(r)=2arctanh((r-1)/(r+1)),其中arctanh为双曲反正切函数,可以调用CORDIC IP核计算得到。其中,CORDIC IP核具有定义域范围,具体规定为:
0<(r-1)<2;-2<(r+1)<2;-0.8*(r-1)<(r+1)<+0.8*(r-1)。
当变量范围不满足条件时,应通过分段讨论和对数函数变形的方式,使得r始终满足定义域范围。
经过以上步骤,可以完成基于FPGA搭建的对数运算函数,并通过对数运算函数计算出T(n)和V(n)。
6、使用累加器资源,计算P(总)=ΣP(n)=P(1)+P(2)+…+P(n)。需要说明的是,此过程始终保持16位小数精度。
7、最后进行四舍五入,并将计算结果迭代回原始图像。需要说明的是,边界处保留原始数据。
上面分别介绍了本申请提供的图像局部对比度增强算法和基于图像局部加权熵的检测算法的可能实现方式。下面介绍电子设备采用这两种算法对原始红外图像进行处理后得到的图像进行融合处理的可能实现方式。
在一种可能的实现方式中,结合图1,如图5所示,上述的步骤104具体可以通过下述的步骤104A和步骤104B实现。
步骤104A、电子设备对第二图像进行阈值分割处理,得到二值化的第二图像。
本申请实施例中,电子设备可以将第二图像中的像素点的灰度值与阈值进行比较,根据比较结果来对第二图像进行二值化。示例性的,如果灰度值大于或等于阈值,则取1;如果灰度值小于阈值,则取0。
需要说明的是,上述阈值可以为经验值,例如200。具体可以根据实际使用需求确定,本申请实施例不作限定。
步骤104B、电子设备将第一图像和二值化的第二图像进行对应像素的逻辑与运算,得到第三图像。
进一步的,在一种可能的实现方式中,结合图5,如图6所示,在上述的步骤104A之后,上述的步骤104B之前,本申请实施例提供的红外目标检测方法还包括下述的步骤104C。
步骤104C、电子设备对二值化的第二图像进行形态学滤波处理。
下面示例性地描述上述步骤104A、步骤104C和步骤104B的可能实现方式。
本申请实施例中,首先电子设备对第二图像进行阈值分割。
示例性的,如果通过基于图像局部加权熵的检测算法计算得到的像素值小于阈值,则输出0;否则输出1。也就是说,阈值分割处理后的第二图像为非0即1的二值图像。
然后,电子设备采用膨胀与腐蚀算法,对二值化的第二图像进行形态学滤波处理。
示例性的,依次对二值化的第二图像进行第一实心腐蚀处理(例如采用19*19全1卷积核),第一空心膨胀处理(例如采用31*31全1卷积核,中间27*27被填充为0),第二实心腐蚀处理(例如采用31*31全1卷积核)。然后进行差分处理,即将第一实心腐蚀处理的结果减掉第二实心腐蚀处理的结果,若第一实心腐蚀处理的结果为1,且第二实心腐蚀处理的结果为0,则输出1,否则输出0。
进一步的,可以进行第二空心膨胀处理(例如采用15*15全1卷积核),得到处理后的二值化第二图像。
最后,可以将上述图像局部对比度增强算法的结果(即第一图像)和上述基于图像局部加权熵的检测算法的结果(即处理后的二值化第二图像)进行对应像素的逻辑与运算。
示例性的,如果处理后的二值化第二图像的像素结果为1,则输出图像局部对比度增强算法的结果;如果处理后的二值化第二图像的像素结果为0,则输出0。
本申请实施例中,针对传统算法普适性不强的问题,在FPGA上实现了一种融合算法,将高空目标检测算法和低空目标检测算法的结果进行融合处理,从而达到既能检测高空目标,又能检测低空目标的目的。并且,针对高空、低空目标检测算法的FPGA实现特点,本专利做了裁剪和优化。
需要说明的是,由于上述算法需要在FPGA上实现,本申请对膨胀与腐蚀算法需要进行如下优化步骤:在采用膨胀与腐蚀算法的后处理过程中,膨胀与腐蚀操作都是采用基于HTT的流媒体网络传输协议(HTTP Live Streaming,HLS)实现的,其中19*19的第一实心腐蚀处理、31*31@27*27的第一空心膨胀处理和31*31的第二实心腐蚀处理是在一个HLS工程实现的,15*15的第二空心膨胀处理是单独在一个HLS工程实现的。
在实际实现中要注意两点:a.在上述差分处理(将第一实心腐蚀处理的结果减掉第二实心腐蚀处理的结果)时,由于先获得第一实心腐蚀处理的结果,再获得第二实心腐蚀处理的结果,因此本申请可以采用FIFO对第一实心腐蚀处理的结果进行缓存。b.在步骤7时,由于对基于图像局部加权熵的检测算法进行了一系列的操作,因此可以采用FIFO对基于图像局部加权熵的检测算法的结果进行缓存。
通过该方案,分别采用图像局部对比度增强算法和基于图像局部加权熵的检测算法对原始红外图像进行处理,并将处理后的图像进行融合,通过去除大面积背景区域的局部加权熵图像,对改进局部对比度增强图像再次背景抑制,得到背景纯净的目标增强图像,提高了复杂背景下红外弱小目标的检测率;同时,极大降低了虚警率。通过将改进局部对比度增强方法与局部加权熵方法融合,既能解决高空云层背景的红外目标检测,又能适应低空复杂场景,增强了算法的检测适应性。
相对于相关技术中的红外目标检测方法,本申请实施例提供的红外目标检测方法的检测时间较短。示例性的,针对720*288大小的灰度图像,Matlab仿真对单帧图像的检测时间大约为2000ms,检测速度慢,实用价值较低。若采用本申请提供的融合算法进行目标检测,移植到FPGA上实现,可以有效利用FPGA并行度高的特点,检测时间缩短为15ms,达到了实时检测,从而使该算法具备了真正的实用价值。
本申请实施例提供的红外目标检测方法可以应用于以下领域:
1、军用领域:例如,本申请实施例提供的红外目标检测方法可用于预警侦察系统、低空便导指挥系统。
2、民用领域:例如,本申请实施例提供的红外目标检测方法可用于高端安防。
3、军民两用领域:例如,本申请实施例提供的红外目标检测方法可用于反无人机系统、空地一体化安防哨兵等。
本申请实施例提供的针对无人机等红外弱小目标的检测方法,并在FPGA板卡上进行嵌入式实现,以应对日渐增强的无人机威胁。下面结合图7示例性的示出采用本申请实施例提供的红外目标检测方法的检测效果。
图7中的(a)示出了高空场景下目标区域对比度为2%时的无人机检测结果,其中红外目标如40所示。图7中的(b)示出了低空复杂场景下(有树和电线影响)的无人机检测结果,其中红外目标如41所示。图7中的(c)示出了低空复杂场景下(有树影响且目标在树前)的无人机检测结果,其中红外目标如42所示。
应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。
如图8所示,本申请实施例提供一种红外目标检测装置50,该红外目标检测装置50可以包括获取模块51和处理模块52;
获取模块51用于获取原始红外图像;
处理模块52用于采用图像局部对比度增强算法对原始红外图像进行处理,得到第一图像,并采用基于图像局部加权熵的检测算法对原始红外图像进行处理,得到第二图像;并将第一图像和第二图像进行图像融合,得到第三图像;并从第三图像中提取红外目标的图像信息。
在一种可能的实现方式中,处理模块52具体用于对第二图像进行阈值分割处理,得到二值化的第二图像;并将第一图像和二值化的第二图像进行对应像素的逻辑与运算,得到第三图像。
在另一种可能的实现方式中,处理模块52还用于在对第二图像进行阈值分割处理,得到二值化的第二图像之后,将第一图像和二值化的第二图像进行对应像素的逻辑与运算,得到第三图像之前,对二值化的第二图像进行形态学滤波处理。
在又一种可能的实现方式中,处理模块52具体用于:
采用第一滑动窗口遍历原始红外图像,得到多个第一图像块,每个第一图像块包括对应的一个中心块和多个邻域块,隶属于同一个第一图像块的中心块和每个邻域块的像素数量相等;
针对多个第一图像块中的每个第一图像块,依次执行以下第一运算:
采用第一等式,根据中心块中的最大像素灰度值A、该多个邻域块分别对应的像素灰度和值中的最大值B,以及该多个邻域块的所有像素灰度和值C,计算第一数值S,并将该第一数值S替换中心块中的各像素的灰度值;其中,该第一等式表示为:
S=(αA-C)2×(βA-B)/(α2×B),其中α和β均为正整数;
在针对该多个第一图像块均执行第一运算之后,得到第一图像。
在再一种可能的实现方式中,处理模块52具体用于:
采用第二滑动窗口遍历原始红外图像,得到多个第二图像块;
针对该多个第二图像块中的每个第二图像块,依次执行以下第二运算(1)至(3):
(1)获取第二图像块中与第一灰度值K(n)对应的灰度直方图统计数据Hist(K(n));其中,n取正整数;
(2)根据灰度直方图统计数据Hist(K(n)),计算第二数值P(n);
(3)将第二数值P(n)替换第二图像块中的中心点像素的灰度值;
在针对多个第二图像块均执行第二运算之后,得到第二图像。
进一步的,在第二方面的又一种可能的实现方式中,处理模块52具体用于:
在灰度直方图统计数据Hist(K(n))为零的情况下,计算第二数值P(n)为零;
或者,在灰度直方图统计数据Hist(K(n))不为零的情况下,采用下述步骤(a)至(c)计算第二数值P(n):
(a)采用第二等式,计算灰度直方图统计数据Hist(K(n))对应的熵值T(n);其中,第二等式表示为:T(n)=-Hist(K(n))×ln(Hist(K(n))),该ln(Hist(K(n)))为基于FPGA搭建的对数运算函数;
(b)采用第三等式,根据第一灰度值K(n)和第二图像块的像素灰度均值M,计算方差加权值V(n);其中,该第三等式表示为:V(n)=(K(n)-M)2;
(c)采用第四等式,根据熵值T(n)和方差加权值V(n),计算第二数值P(n);其中,该第四等式表示为:P(n)=T(n)×V(n)。
在另一种可能的实现方式中,该红外目标检测装置还包括存储模块,该存储模块用于在获取原始红外图像之后,采用先进先出FIFO方式对原始红外图像进行数据缓存,并将串行输出格式的图像数据转换为并行输出格式的图像数据。
本申请实施例提供的红外目标检测装置,可以获取原始红外图像;采用图像局部对比度增强算法对原始红外图像进行处理,得到第一图像,并采用基于图像局部加权熵的检测算法对原始红外图像进行处理,得到第二图像;并将第一图像和第二图像进行图像融合,得到第三图像;从第三图像中提取红外目标的图像信息。通过该方案,分别采用图像局部对比度增强算法和基于图像局部加权熵的检测算法对原始红外图像进行处理,并将处理后的图像进行融合,融合后的图像中红外目标相对于背景更加明显,因此有利于提取复杂背景中的红外目标,从而可以提升红外目标检测方法的准确性,并且该红外目标检测方法既可以适用于复杂云层背景下的高空红外目标检测场景,也可以适用于复杂地面背景下的低空红外目标检测场景,从而可以增强红外目标检测方法的复杂场景适应性。因此,本申请提供的技术方案可以更准确地检测出不同复杂场景下的红外弱小目标,降低目标检测的虚警率和漏警率。
需要说明的是,上述装置/单元之间的信息交互、执行过程等内容,由于与本申请方法实施例基于同一构思,其具体功能及带来的技术效果,具体可参见方法实施例部分,此处不再赘述。
图9示出本申请实施例提供的红外目标检测方法应用于FPGA的架构示意图。如图9所示,FPGA 20和ARM 30进行信息交互,实现红外目标检测方法。其中,FPGA 20包括第一解码模块201、缓存模块202、显示模块203、ELCM算法模块204、WIE算法模块205、融合模块206、VDMA模块207、208、209、210以及第二解码模块211。
第一解码模块201(adv7180_decode)用于采集模拟视频输入的数据,提取有效像素值,传递给后级使用。
缓存模块202(PAL_In_Original)用于缓存原始视频,传输至VDMA模块,供ARM模块30显示使用。
显示模块203(PAL_In_Display)用于缓存待叠加显示视频,传输至VDMA模块,供ARM模块30显示使用。
ELCM算法模块204(Image_enhence_detection)用于执行上述ELCM算法,得到局部对比度增强后的结果,发送至视频直接存储器存取模块(Video Direct Memory Access,VDMA)缓存,供ARM模块30运行检测后处理算法使用。
WIE算法模块205(Weighted_information_entropy)用于执行加权熵(Weighted_Information_Entropy,WIE)算法,得到方差加权局部熵的结果,发送至融合模块206进一步处理。
融合模块206(Goal_detection)用于将ELCM算法模块204和WIE算法模块205的输出结果进行融合,融合后图像送给VDMA模块210缓存,供ARM模块30运行检测后处理算法使用。
第二解码模块211(adv7391_encode)用于将处理后的视频图像转换至模拟视频格式,并输出显示。
需要说明的是,VDMA0~VDMA3分别用于缓存原始视频及算法数据。其中,缓存的算法数据传输至ARM,进行最终的目标生成及目标叠加显示,这部分内容具体可以参见相关技术中的描述,此处不予赘述。
本申请实施例中,基于FPGA运行红外目标检测方法,能够有效的检测出无人机等弱小红外目标,针对低空复杂场景和高空场景,都能达到较好的检测效果。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将该装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
如图10所示,本申请实施例还提供了一种电子设备,该电子设备包括:至少一个处理器60、存储器61以及存储在存储器61中并可在该至少一个处理器60上运行的计算机程序62,该至少一个处理器60执行计算机程序时实现上述任意各个方法实施例中的步骤。
本申请实施例还提供了一种计算机可读存储介质,该计算机可读存储介质存储有计算机程序,该计算机程序被处理器执行时实现可实现上述各个方法实施例中的步骤。
本申请实施例提供了一种计算机程序产品,当计算机程序产品在电子设备上运行时,使得电子设备执行时实现可实现上述各个方法实施例中的步骤。
上述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实现上述实施例方法中的全部或部分流程,可以通过计算机程序来指令相关的硬件来完成,该计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,该计算机程序包括计算机程序代码,该计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。该计算机可读介质至少可以包括:能够将计算机程序代码携带到拍照装置/终端设备的任何实体或装置、记录介质、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质。例如U盘、移动硬盘、磁碟或者光盘等。在某些司法管辖区,根据立法和专利实践,计算机可读介质不可以是电载波信号和电信信号。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中,应该理解到,所揭露的装置/电子设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/电子设备实施例仅仅是示意性的,例如,模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围,均应包含在本申请的保护范围之内。
Claims (7)
1.一种红外目标检测方法,其特征在于,包括:
获取原始红外图像;
对所述原始红外图像进行局部对比度增强处理,得到第一图像,并对所述原始红外图像进行局部加权熵处理,得到第二图像;
将所述第一图像和所述第二图像进行图像融合,得到第三图像;
从所述第三图像中提取红外目标的图像信息;
其中,所述对所述原始红外图像进行局部对比度增强处理,得到第一图像,包括:采用第一滑动窗口遍历所述原始红外图像,得到多个第一图像块,每个第一图像块包括对应的一个中心块和多个邻域块,隶属于同一个第一图像块的中心块和每个邻域块的像素数量相等;针对所述多个第一图像块中的每个第一图像块,依次执行以下第一运算:采用第一等式,根据所述中心块中的最大像素灰度值A、所述多个邻域块分别对应的像素灰度和值中的最大值B,以及所述多个邻域块的所有像素灰度和值C,计算第一数值S,并将所述第一数值S替换所述中心块中的各像素的灰度值;在针对所述多个第一图像块均执行所述第一运算之后,得到所述第一图像;其中,所述第一等式表示为:S=(αA-C)2×(βA-B)/(α2×B),其中α和β均为正整数;
所述对所述原始红外图像进行局部加权熵处理,得到第二图像,包括:采用第二滑动窗口遍历所述原始红外图像,得到多个第二图像块;针对所述多个第二图像块中的每个第二图像块,依次执行以下第二运算:获取所述第二图像块中与所述第一灰度值K(n)对应的灰度直方图统计数据Hist(K(n));根据所述灰度直方图统计数据Hist(K(n)),计算第二数值P(n);将所述第二数值P(n)替换所述第二图像块中的中心点像素的灰度值;在针对所述多个第二图像块均执行所述第二运算之后,得到所述第二图像;其中n取正整数;
所述将所述第一图像和所述第二图像进行图像融合,得到第三图像,包括:对所述第二图像进行阈值分割处理,得到二值化的所述第二图像;将所述第一图像和二值化的所述第二图像进行对应像素的逻辑与运算,得到所述第三图像。
2.根据权利要求1所述的方法,其特征在于,在所述对所述第二图像进行阈值分割处理,得到二值化的所述第二图像之后,所述将所述第一图像和二值化的所述第二图像进行对应像素的逻辑与运算,得到所述第三图像之前,所述方法还包括:
对所述二值化的所述第二图像进行形态学滤波处理。
3.根据权利要求1所述的方法,其特征在于,所述根据所述灰度直方图统计数据Hist(K(n)),计算第二数值P(n),包括:
在所述灰度直方图统计数据Hist(K(n))为零的情况下,计算所述第二数值P(n)为零;或者,
在所述灰度直方图统计数据Hist(K(n))不为零的情况下,采用下述步骤计算所述第二数值P(n):
采用第二等式,计算所述灰度直方图统计数据Hist(K(n))对应的熵值T(n);其中,所述第二等式表示为:T(n)=-Hist(K(n))×ln(Hist(K(n))),所述ln(Hist(K(n)))为基于现场可编程门阵列FPGA搭建的对数运算函数;
采用第三等式,根据所述第一灰度值K(n)和所述第二图像块的像素灰度均值M,计算方差加权值V(n);其中,所述第三等式表示为:V(n)=(K(n)-M)2;
采用第四等式,根据所述熵值T(n)和所述方差加权值V(n),计算所述第二数值P(n);其中,所述第四等式表示为:P(n)=T(n)×V(n)。
4.根据权利要求1至3中任一项所述的方法,其特征在于,在所述获取原始红外图像之后,所述方法还包括:
采用先进先出FIFO方式对所述原始红外图像进行数据缓存,并将串行输出格式的图像数据转换为并行输出格式的图像数据。
5.一种红外目标检测装置,其特征在于,包括获取模块和处理模块;
所述获取模块,用于获取原始红外图像;
所述处理模块,用于对所述原始红外图像进行局部对比度增强处理,得到第一图像,并对所述原始红外图像进行局部加权熵处理,得到第二图像;并将所述第一图像和所述第二图像进行图像融合,得到第三图像;并从所述第三图像中提取红外目标的图像信息;
所述处理模块,具体用于:
采用第一滑动窗口遍历所述原始红外图像,得到多个第一图像块,每个第一图像块包括对应的一个中心块和多个邻域块,隶属于同一个第一图像块的中心块和每个邻域块的像素数量相等;针对所述多个第一图像块中的每个第一图像块,依次执行以下第一运算:采用第一等式,根据所述中心块中的最大像素灰度值A、所述多个邻域块分别对应的像素灰度和值中的最大值B,以及所述多个邻域块的所有像素灰度和值C,计算第一数值S,并将所述第一数值S替换所述中心块中的各像素的灰度值;在针对所述多个第一图像块均执行所述第一运算之后,得到所述第一图像;其中,所述第一等式表示为:S=(αA-C)2×(βA-B)/(α2×B),其中α和β均为正整数;
采用第二滑动窗口遍历所述原始红外图像,得到多个第二图像块;针对所述多个第二图像块中的每个第二图像块,依次执行以下第二运算:获取所述第二图像块中与所述第一灰度值K(n)对应的灰度直方图统计数据Hist(K(n));根据所述灰度直方图统计数据Hist(K(n)),计算第二数值P(n);将所述第二数值P(n)替换所述第二图像块中的中心点像素的灰度值;在针对所述多个第二图像块均执行所述第二运算之后,得到所述第二图像;其中n取正整数;
对所述第二图像进行阈值分割处理,得到二值化的所述第二图像;将所述第一图像和二值化的所述第二图像进行对应像素的逻辑与运算,得到所述第三图像。
6.一种电子设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至4任一项所述的红外目标检测方法。
7.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至4任一项所述的红外目标检测方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010361252.2A CN113160106B (zh) | 2020-04-29 | 2020-04-29 | 红外目标检测方法及装置、电子设备、存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010361252.2A CN113160106B (zh) | 2020-04-29 | 2020-04-29 | 红外目标检测方法及装置、电子设备、存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113160106A CN113160106A (zh) | 2021-07-23 |
CN113160106B true CN113160106B (zh) | 2024-05-07 |
Family
ID=76882129
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010361252.2A Active CN113160106B (zh) | 2020-04-29 | 2020-04-29 | 红外目标检测方法及装置、电子设备、存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113160106B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113781368B (zh) * | 2021-11-12 | 2022-01-21 | 国科天成科技股份有限公司 | 基于局部信息熵的红外成像装置 |
CN113822279B (zh) * | 2021-11-22 | 2022-02-11 | 中国空气动力研究与发展中心计算空气动力研究所 | 基于多特征融合的红外目标检测方法、装置、设备及介质 |
CN114648547B (zh) * | 2022-03-09 | 2023-06-27 | 中国空气动力研究与发展中心计算空气动力研究所 | 用于反无人机红外探测系统的弱小目标检测方法和装置 |
CN117575933B (zh) * | 2024-01-08 | 2024-06-25 | 北京摩弈信息科技有限公司 | 一种图像融合方法和装置、电子设备 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109903272A (zh) * | 2019-01-30 | 2019-06-18 | 西安天伟电子系统工程有限公司 | 目标检测方法、装置、设备、计算机设备和存储介质 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9996913B2 (en) * | 2014-04-07 | 2018-06-12 | Bae Systems Information And Electronic Systems Integration Inc. | Contrast based image fusion |
-
2020
- 2020-04-29 CN CN202010361252.2A patent/CN113160106B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109903272A (zh) * | 2019-01-30 | 2019-06-18 | 西安天伟电子系统工程有限公司 | 目标检测方法、装置、设备、计算机设备和存储介质 |
Non-Patent Citations (1)
Title |
---|
局部对比度结合区域显著性红外弱小目标检测;王晓阳;彭真明;张萍;孟晔铭;;强激光与粒子束(09);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN113160106A (zh) | 2021-07-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113160106B (zh) | 红外目标检测方法及装置、电子设备、存储介质 | |
CN108921799B (zh) | 基于多尺度协同学习卷积神经网络的遥感图像薄云去除方法 | |
Liu et al. | Single image dehazing via large sky region segmentation and multiscale opening dark channel model | |
CN110473185B (zh) | 图像处理方法和装置、电子设备、计算机可读存储介质 | |
CN110781756A (zh) | 基于遥感图像的城市道路提取方法及装置 | |
CN108921803B (zh) | 一种基于毫米波与可见光图像融合的去雾方法 | |
CN102113017A (zh) | 使用边缘检测产生深度数据的系统及方法 | |
CN111080526A (zh) | 航拍图像的农田面积的测算方法、装置、设备及介质 | |
CN111144337B (zh) | 火灾检测方法、装置及终端设备 | |
CN108614998B (zh) | 一种单像素红外目标检测方法 | |
CN102663385A (zh) | 一种星上点目标检测方法 | |
Yu et al. | Image and video dehazing using view-based cluster segmentation | |
CN111507340B (zh) | 一种基于三维点云数据的目标点云数据提取方法 | |
Xu et al. | COCO-Net: A dual-supervised network with unified ROI-loss for low-resolution ship detection from optical satellite image sequences | |
CN113822279B (zh) | 基于多特征融合的红外目标检测方法、装置、设备及介质 | |
CN111027564A (zh) | 基于深度学习一体化的低照度成像车牌识别方法及装置 | |
Pal et al. | Defogging of visual images using SAMEER-TU database | |
CN117218026B (zh) | 一种红外图像增强方法及装置 | |
CN106778822B (zh) | 基于漏斗变换的图像直线检测方法 | |
CN110827375B (zh) | 一种基于微光图像的红外图像真彩着色方法及系统 | |
Putra et al. | Visibility restoration of lake crater hazy image based on dark channel prior | |
Al-Zubaidy et al. | Removal of atmospheric particles in poor visibility outdoor images | |
CN116958416A (zh) | 一种三维建模方法、装置、系统以及存储介质 | |
CN111783656A (zh) | 一种基于统计特性预分割的自适应红外小目标检测方法 | |
CN116664833A (zh) | 一种提高目标重识别模型能力的方法和目标重识别方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |