CN114299001B - 基于结构循环一致性的异源图像变化检测方法及装置 - Google Patents

基于结构循环一致性的异源图像变化检测方法及装置 Download PDF

Info

Publication number
CN114299001B
CN114299001B CN202111600168.2A CN202111600168A CN114299001B CN 114299001 B CN114299001 B CN 114299001B CN 202111600168 A CN202111600168 A CN 202111600168A CN 114299001 B CN114299001 B CN 114299001B
Authority
CN
China
Prior art keywords
image
event
regression
feature matrix
matrix
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202111600168.2A
Other languages
English (en)
Other versions
CN114299001A (zh
Inventor
雷琳
孙玉立
熊博莅
孙浩
计科峰
冷祥光
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
National University of Defense Technology
Original Assignee
National University of Defense Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by National University of Defense Technology filed Critical National University of Defense Technology
Priority to CN202111600168.2A priority Critical patent/CN114299001B/zh
Publication of CN114299001A publication Critical patent/CN114299001A/zh
Application granted granted Critical
Publication of CN114299001B publication Critical patent/CN114299001B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02ATECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
    • Y02A10/00TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE at coastal zones; at river basins
    • Y02A10/40Controlling or monitoring, e.g. of flood or hurricane; Forecasting, e.g. risk assessment or mapping

Landscapes

  • Image Analysis (AREA)

Abstract

本申请涉及一种基于结构循环一致性的异源图像变化检测方法、装置、计算机设备和存储介质。所述方法包括:将事件前图像和事件后图像输入预先构建的初始图像回归模型,得到事件前图像特征矩阵和事件后图像特征矩阵;根据事件前图像特征矩阵和事件前图像的自适应图,进行前向变换,得到前向回归后特征矩阵;根据前向回归后特征矩阵以及前向回归后图像的自适应图,进行循环变换,得到循环回归后特征矩阵;将前向回归后特征矩阵与事件后图像特征矩阵求差,得到差异矩阵。采用本方法能够提高异源图像变化检测准确率。

Description

基于结构循环一致性的异源图像变化检测方法及装置
技术领域
本申请涉及遥感影像技术领域,特别是涉及一种基于结构循环一致性的异源图像变化检测方法、装置。
背景技术
随着遥感影像技术的发展,变化检测是变化检测是遥感领域的常见任务,,通过比较在同一区域获得的图像用以识别地球上的变化,变化检测已在许多应用中广泛使用,包括环境监测,农业调查和灾害评估等。异源图像变化检测通过对比来自不同传感器的遥感图像来检测变化,在应急事件响应(如地震、洪水等灾害)和热点地区持续监测中有着尤为重要的作用。
然而,目前的异源图像变化检测方法,一般为基于图像分类的方法、基于特征变换的方法以及基于图像回归的方法等。在实践中,目前还没有大型的公开项目数据集支持预先训练的异源图像模型,而这些基于深度学习的方法都是基于事件前和事件后的图像本身来检测的变化,存在效率低下,准确率低等问题,同时这些方法提取或者学习到的通用特征不具有鲁棒性,很难适应于各种复杂的异源图像变化检测场景。
发明内容
基于此,有必要针对上述技术问题,提供一种能够提高异源图像变化检测准确率的基于结构循环一致性的异源图像变化检测方法及装置。
一种基于结构循环一致性的异源图像变化检测方法,所述方法包括:
将事件前图像和事件后图像输入预先构建的初始图像回归模型,得到事件前图像特征矩阵和事件后图像特征矩阵;
根据事件前图像特征矩阵,进行自适应图学习,得到事件前图像的自适应图;
根据事件前图像特征矩阵和事件前图像的自适应图,进行前向变换,得到前向回归后特征矩阵;事件前图像特征矩阵、事件前图像的自适应图、前向回归后特征矩阵以及前向回归后图像的自适应图满足前向变换条件;
根据前向回归后特征矩阵以及前向回归后图像的自适应图,进行循环变换,得到循环回归后特征矩阵;事件前图像特征矩阵和循环回归后特征矩阵满足循环一致性;
将前向回归后特征矩阵与事件后图像特征矩阵求差,得到差异矩阵;其中,差异矩阵满足稀疏正则化条件;
根据前向变换条件、循环一致性以及稀疏正则化条件,构建最终图像回归模型,通过求解最终图像回归模型得到差异矩阵。
在其中一个实施例中,根据事件前图像特征矩阵,进行自适应图学习,得到事件前图像的自适应图的步骤包括:根据自适应K选择策略和自适应加权距离算法对事件前图像特征矩阵进行计算,得到事件前图像的自适应图,如下式所示:
Figure BDA0003431445060000021
Figure BDA0003431445060000022
其中,X表示事件前图像特征矩阵,Sx表示事件前图像的自适应图,wx表示事件前图像特征矩阵的权重向量,N表示事件前特征矩阵中的超像素个数,M表示超像素的特征个数,i,j表示超像素的序号,
Figure BDA0003431445060000023
表示事件前图像特征矩阵第m个特征的权重,
Figure BDA0003431445060000024
表示事件前图像特征矩阵中第i个超像素的第m个特征到第j个超像素的第m个特征的距离,
Figure BDA0003431445060000025
表示l2范数,
Figure BDA0003431445060000026
表示事件前图像自适应图中的第i个超像素到第j个超像素边的权重,αi表示自适应K选择策略调节参数,s.t.表示约束条件,η表示调优参数。
在其中一个实施例中,事件前图像特征矩阵和前向回归后特征矩阵满足前向变换条件为:
Figure BDA0003431445060000031
Figure BDA0003431445060000032
Figure BDA0003431445060000033
其中,
Figure BDA0003431445060000034
表示前向回归后图像的自适应图,
Figure BDA0003431445060000035
表示前向回归后特征矩阵的权重向量,N表示超像素个数,M表示超像素的特征个数,m表示特征序号,
Figure BDA0003431445060000036
表示前向回归后特征矩阵,
Figure BDA0003431445060000037
表示前向回归后特征矩阵中第m个特征的权重,
Figure BDA0003431445060000038
表示前向回归后特征矩阵中第i个超像素的第m个特征到第j个超像素的第m个特征的距离,
Figure BDA0003431445060000039
表示前向回归后特征矩阵中第i个超像素的第m个特征,
Figure BDA00034314450600000310
表示前向回归后特征矩阵中第j个超像素的第m个特征,
Figure BDA00034314450600000311
表示事件前图像特征矩阵中第m个特征的权重,
Figure BDA00034314450600000312
表示l2范数,s.t.表示约束条件,
Figure BDA00034314450600000313
表示前向回归后图像的自适应图中第i个超像素到第j个超像素边的权重,η表示调优参数,αi表示K选择调节参数。
在其中一个实施例中,事件前图像特征矩阵和循环回归后特征矩阵满足循环一致性为:
Figure BDA00034314450600000314
其中,
Figure BDA00034314450600000315
表示循环回归后特征矩阵中的第i个超像素的第m个特征到第j个超像素的第m个特征的距离,
Figure BDA00034314450600000316
表示循环回归后特征矩阵,γ表示循环调优参数,X(m)表示事件前图像的第m个特征矩阵,
Figure BDA0003431445060000041
表示循环回归后图像的第m个特征矩阵,
Figure BDA0003431445060000042
表示前向回归后图像的自适应图中第i个超像素到第j个超像素边的权重。
在其中一个实施例中,差异矩阵满足稀疏正则化条件为:
Figure BDA0003431445060000043
其中,λ表示惩罚参数,|| ||2,1表示l2,1范数,Δ(m)表示差异图像的第m个特征矩阵,
Figure BDA0003431445060000044
表示前向回归后图像的第m个特征矩阵,Y(m)表示事件后图像的第m个特征矩阵。
在其中一个实施例中,根据前向变换条件、循环一致性以及稀疏正则化条件,
构建最终图像回归模型为:
Figure BDA0003431445060000045
Figure BDA0003431445060000046
Figure BDA0003431445060000047
其中,Tr()表示矩阵的迹,LX表示事件前图像的自适应图的拉普拉斯矩阵,
Figure BDA0003431445060000048
表示前向回归后图像的自适应图的拉普拉斯矩阵,T表示转置运算。
在其中一个实施例中,对最终图像回归模型进行求解,将其改写为增广拉格朗日函数的最小化为:
Figure BDA0003431445060000051
其中,P(m)表示拉格朗日乘数,
Figure BDA0003431445060000052
表示求解模型的目标函数。
一种基于结构循环一致性的异源图像变化检测装置,所述装置包括:
图像输入模块,用于将事件前图像和事件后图像输入预先构建的初始图像回归模型,得到事件前图像特征矩阵和事件后图像特征矩阵;
图学习模块,用于根据事件前图像特征矩阵,进行自适应图学习,得到事件前图像的自适应图;
前向变换模块,用于根据事件前图像特征矩阵和事件前图像的自适应图,进行前向变换,得到前向回归后特征矩阵;事件前图像特征矩阵、事件前图像的自适应图、前向回归后特征矩阵以及前向回归后图像的自适应图满足前向变换条件;
循环变换模块,用于根据前向回归后特征矩阵以及前向回归后图像的自适应图,进行循环变换,得到循环回归后特征矩阵;事件前图像特征矩阵和循环回归后特征矩阵满足循环一致性;
求差模块,用于将前向回归后特征矩阵与事件后图像特征矩阵求差,得到差异矩阵;其中,差异矩阵满足稀疏正则化条件;
构建求解模型模块,用于根据前向变换条件、循环一致性以及稀疏正则化条件,构建最终图像回归模型,通过求解最终图像回归模型得到差异矩阵。
一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现以下步骤:
将事件前图像和事件后图像输入预先构建的初始图像回归模型,得到事件前图像特征矩阵和事件后图像特征矩阵;
根据所述事件前图像特征矩阵,进行自适应图学习,得到事件前图像的自适应图;
根据事件前图像特征矩阵和事件前图像的自适应图,进行前向变换,得到前向回归后特征矩阵;事件前图像特征矩阵、事件前图像的自适应图、前向回归后特征矩阵以及前向回归后图像的自适应图满足前向变换条件;
根据前向回归后特征矩阵以及前向回归后图像的自适应图,进行循环变换,得到循环回归后特征矩阵;事件前图像特征矩阵和循环回归后特征矩阵满足循环一致性;
将前向回归后特征矩阵与事件后图像特征矩阵求差,得到差异矩阵;其中,差异矩阵满足稀疏正则化条件;
根据前向变换条件、循环一致性以及稀疏正则化条件,构建最终图像回归模型,通过求解最终图像回归模型得到差异矩阵。
一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现以下步骤:
将事件前图像和事件后图像输入预先构建的初始图像回归模型,得到事件前图像特征矩阵和事件后图像特征矩阵;
根据所述事件前图像特征矩阵,进行自适应图学习,得到事件前图像的自适应图;
根据事件前图像特征矩阵和事件前图像的自适应图,进行前向变换,得到前向回归后特征矩阵;事件前图像特征矩阵、事件前图像的自适应图、前向回归后特征矩阵以及前向回归后图像的自适应图满足前向变换条件;
根据前向回归后特征矩阵以及前向回归后图像的自适应图,进行循环变换,得到循环回归后特征矩阵;事件前图像特征矩阵和循环回归后特征矩阵满足循环一致性;
将前向回归后特征矩阵与事件后图像特征矩阵求差,得到差异矩阵;其中,差异矩阵满足稀疏正则化条件;
根据前向变换条件、循环一致性以及稀疏正则化条件,构建最终图像回归模型,通过求解最终图像回归模型得到差异矩阵。
上述基于结构循环一致性的异源图像变化检测方法、装置、计算机设备和存储介质,首先构造了一个自适应图来表示事件前图像的结构,利用构建的最终图像回归模型进行前向变换,将事件前图像转换为该图像在事件后图像域中的图像即前向回归后图像,然后利用循环变换和稀疏正则化来提高前向回归后图像的图像质量,从而在进行异源图像变化检测时,可以得到更加准确的差异矩阵,进而提高异源图像变化检测的准确率。
附图说明
图1为一个实施例中基于结构循环一致性的异源图像变化检测方法的流程示意图;
图2为一个实施例中基于结构循环一致性的异源图像变化检测装置的结构框图;
图3为一个实施例中计算机设备的内部结构图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
在一个实施例中,如图1所示,提供了一种基于结构循环一致性的异源图像变化检测方法,包括以下步骤:
步骤102,将事件前图像和事件后图像输入预先构建的初始图像回归模型,得到事件前图像特征矩阵和事件后图像特征矩阵。
识别地球上的变化一般是通过比较在同一区域不同时刻获得的图像来得到差异,事件前图像是指发生某一事件前获取的该区域图像,事件后图像是指发生某一事件后获取的该区域图像,对两个图像进行特征提取,得到事件前图像特征矩阵和事件后图像特征矩阵,图像特征矩阵用来表示实际获取的图像的特征信息,图像回归是首先假定两个不同时期图像的像元值之间存在映射关系,通过图像回归得出关系式;然后用回归函数计算出T1时相图像在T2时相的像元预测值;再用此预测值减去T2时相的的原始像元值,从而获得两时相的回归残差图像,然后确定变化区域。初始图像回归模型是指现有技术中普通的图像回归模型,用来获取的图像的特征矩阵。
利用超像素分割法对事件前图像进行特征提取,得到事件前图像特征矩阵,该特征矩阵用来表示事件前图像的特征信息。
步骤104,根据所述事件前图像特征矩阵,进行自适应图学习,得到事件前图像的自适应图;
为了表征超像素之间的相似关系,本申请首先构造了加权有向图,根据自适应K选择策略使每个超像素都尽可能多的连接到真正相似的超像素,然后利用自适应加权距离算法确定超像素与其相似的超像素之间的权重,以超像素作为顶点,超像素与其相似的超像素之间的权重作为边构建自适应图,如下所示,
Figure BDA0003431445060000081
步骤106,根据事件前图像特征矩阵和事件前图像的自适应图,进行前向变换,得到前向回归后特征矩阵;事件前图像特征矩阵、事件前图像的自适应图、前向回归后特征矩阵以及前向回归后图像的自适应图满足前向变换条件。
事件前图像的自适应图用来表示事件前图像的结构信息,前向变换是指将事件前图像转换为事件前图像在事件后图像域中的图像,用于约束事件前图像与其在事件后图像域中的图像具有相同的结构。
步骤108,根据前向回归后特征矩阵以及前向回归后图像的自适应图,进行循环变换,得到循环回归后特征矩阵;事件前图像特征矩阵和循环回归后特征矩阵满足循环一致性。
和步骤106学习过程类似,对前向回归后特征矩阵进行自适应图学习,得到前向回归后图像的自适应图,图像回归遵循循环一致性原则,即回归的数据可以转换回到原始域,即事件前的图像域,在本申请中对事件后图像进行循环变换,用来验证事件前图像特征矩阵和循环回归后特征矩阵是否符合循环一致性。
步骤110,将前向回归后特征矩阵与事件后图像特征矩阵求差,得到差异矩阵;其中,差异矩阵满足稀疏正则化条件。
前向回归后特征矩阵用来表示由事件前图像映射到事件后图像域中的图像的特征信息,将两者做差得到的差异矩阵可以用来表示事件发生后产生了变化的图像区域的特征信息,为了避免变化区域超像素对回归过程的影响,将事件后图像分解为变换图像和在事件后图像域中的事件前图像即回归图像,稀疏正则化可以减少图像的噪点,使得差异矩阵更加准确。
步骤112,根据前向变换条件、循环一致性以及稀疏正则化条件,构建最终图像回归模型,通过求解最终图像回归模型得到差异矩阵。
对差异矩阵进行反映射得到变化图像,该变化图像为异源图像变化检测的结果。
上述基于结构循环一致性的异源图像变化检测方法中,首先构造了一个自适应图来表示事件前图像的结构,利用构建的图像回归模型进行前向变换,将事件前图像转换为该图像在事件后图像域中的图像即前向回归后图像,然后利用循环变换和稀疏正则化来提高前向回归后图像的图像质量,从而在进行异源图像变化检测时,可以得到更加准确的差异矩阵,进而提高异源图像变化检测的准确率。
在其中一个实施例中,将事件前图像输入预先构建的图像回归模型的前向输入端,对事件前图像进行特征提取,得到事件前图像特征矩阵。
在本申请中,使用结构一致性建立异源图像(即事件前图像和事件后图像)之间的联系,先利用SLIC算法对事件前图像进行超像素分割和特征提取,得到事件前图像特征矩阵,并利用同一图像内超像素之间的相似性关系表示图像结构。然后结构一致性可以表示为:
Figure BDA0003431445060000091
Figure BDA0003431445060000092
如果和代表同一种物体(体现在它们非常相似),如果在事件期间它们都没有发生改变,那么
Figure BDA0003431445060000093
Figure BDA0003431445060000094
也代表同一种物体(体现在它们也非常相似)。因为这种图像本身的非局部相似性可以消除异源图像之间的差异,所以基于结构的相似关系可以在不同的成像中很好的得到保留。本申请使用这种结构一致性将事件前图像转换到事件后图像域。
在其中一个实施例中,根据自适应K选择策略和自适应加权距离算法对事件前图像特征矩阵进行计算,得到事件前图像的自适应图。
为了表征超像素之间的相似关系,本申请首先构造了加权有向图,首先根据自适应K选择策略使每个超像素都尽可能多的连接到真正相似的超像素,然后利用自适应加权距离算法确定超像素与其相似的超像素之间的权重,超像素作为顶点,超像素与其相似的超像素之间的权重作为边构建自适应图。
本申请的自适应K选择策略的过程如下:
步骤1,设置
Figure BDA0003431445060000101
并且
Figure BDA0003431445060000102
Figure BDA0003431445060000103
表示向上取整操作,找到每个顶点的kmax最近邻;
步骤2,计算第i个顶点的入度
Figure BDA0003431445060000104
即第i个顶点出现在所有顶点的kmax最近邻中的次数;
步骤3,为第i个顶点设置
Figure BDA0003431445060000105
通过这种自适应K选择策略,选择一个较大的ki代表图像中占比较大的地物的超像素(有更多真正相似的超像素),并选择一个较小的ki代表图像中占比较小的地物的超像素(真正相似的超像素更少),可以找到每个顶点的真正相似邻居,ki在以下公式中表示为αi
根据自适应K选择策略和自适应加权距离算法对事件前图像特征矩阵进行计算,得到事件前图像的自适应图的过程,如下式所示:
Figure BDA0003431445060000106
Figure BDA0003431445060000107
其中,X表示事件前图像特征矩阵,SX表示事件前图像的自适应图,wX表示事件前图像特征矩阵的权重向量,N表示事件前特征矩阵中的超像素个数,M表示超像素的特征个数,i,j表示超像素的序号,
Figure BDA0003431445060000108
表示事件前图像特征矩阵第m个特征的权重,
Figure BDA0003431445060000111
表示事件前图像特征矩阵中第i个超像素的第m个特征到第j个超像素的第m个特征的距离,
Figure BDA0003431445060000112
表示l2范数β表示前向变换的惩罚参数,
Figure BDA0003431445060000113
表示lF范数,
Figure BDA0003431445060000114
表示事件前图像自适应图中的第i个超像素到第j个超像素边的权重,αi表示自适应K选择策略调节参数,s.t.表示约束条件,η表示调优参数。
其中,第m个特征矩阵表示
Figure BDA0003431445060000115
Figure BDA0003431445060000116
在其中一个实施例中,事件前图像特征矩阵和前向回归后特征矩阵满足前向变换条件为:
Figure BDA0003431445060000117
先求解
Figure BDA0003431445060000118
Figure BDA0003431445060000119
如下式所示
Figure BDA00034314450600001110
Figure BDA00034314450600001111
其中,
Figure BDA00034314450600001112
表示前向回归后图像的自适应图,N表示超像素个数,M表示超像素的特征个数,m表示特征序号,
Figure BDA00034314450600001113
表示前向回归后特征矩阵,
Figure BDA00034314450600001114
表示前向回归后特征矩阵中第m个特征的权重,
Figure BDA00034314450600001115
表示前向回归后特征矩阵中第i个超像素的第m个特征到第j个超像素的第m个特征的距离,
Figure BDA00034314450600001116
表示前向回归后特征矩阵中第i个超像素的第m个特征,
Figure BDA00034314450600001117
表示前向回归后特征矩阵中第j个超像素的第m个特征,
Figure BDA00034314450600001118
表示事件前图像特征矩阵中第m个特征的权重,
Figure BDA0003431445060000121
表示l2范数,s.t.表示约束条件,
Figure BDA0003431445060000122
表示前向回归后图像的自适应图中第i个超像素到第j个超像素边的权重,η表示调优参数,αi表示K选择调节参数。
基于异源图像的图像回归变化检测主要是将图像从一个域映射到其他的域中,超像素被用作基本单位,然后提取特征表示超像素,需要找到特征之间的回归函数矩阵,定义从X域中映射函数到Y域中表示为
Figure BDA00034314450600001223
则X在Y域中的回归特征矩阵为
Figure BDA0003431445060000125
Figure BDA0003431445060000126
同理,定义从Y域中映射函数到X域中表示为
Figure BDA00034314450600001224
Y在X域中的回归特征矩阵为
Figure BDA0003431445060000129
Figure BDA00034314450600001210
定义
Figure BDA00034314450600001211
用于从特征中提取像素值的操作符,然后在异源图像之间,有回归函数
Figure BDA00034314450600001212
Figure BDA00034314450600001213
则:
Figure BDA00034314450600001214
Figure BDA00034314450600001215
其中,
Figure BDA00034314450600001216
Figure BDA00034314450600001217
为转换后的图像,本申请基于异源之间的结构一致性属性通过使用前向变换、循环变换和稀疏正则化完成图像回归,得到差异矩阵,即异源图像变化检测的结果。
在其中一个实施例中,事件前图像特征矩阵和循环回归后特征矩阵满足循环一致性为:
Figure BDA00034314450600001218
其中,
Figure BDA00034314450600001219
表示循环回归后特征矩阵中的第i个超像素的第m个特征到第j个超像素的第m个特征的距离,
Figure BDA00034314450600001220
表示循环回归后特征矩阵,γ表示循环调优参数,X(m)表示事件前图像的第m个特征矩阵,即事件前图像特征矩阵,
Figure BDA00034314450600001221
表示循环回归后图像的第m个特征矩阵,即循环回归后特征矩阵,
Figure BDA00034314450600001222
表示前向回归后图像的自适应图中第i个超像素到第j个超像素边的权重。
在循环变换中,第一项是事件前图像和转换后的图像之间的一致性图像,即
Figure BDA0003431445060000131
第二项要求变换后的图像非常与原始图像相似,即
Figure BDA0003431445060000132
Figure BDA0003431445060000133
因此,通过将拉普拉斯矩阵定义为
Figure BDA0003431445060000134
Figure BDA0003431445060000135
其中
Figure BDA0003431445060000136
Figure BDA0003431445060000137
的度矩阵;
则循环变换可以重写为:
Figure BDA0003431445060000138
在其中一个实施例中,差异矩阵满足稀疏正则化条件为:
Figure BDA0003431445060000139
其中,λ表示惩罚参数,|| ||2,1表示l2,1范数,Δ(m)表示差异图像的第m个特征矩阵即差异矩阵,
Figure BDA00034314450600001310
表示前向回归后图像的第m个特征矩阵即前向回归后特征矩阵,Y(m)表示事件后图像的第m个特征矩阵即事件后特征矩阵。
在其中一个实施例中,根据前向变换条件、循环一致性以及稀疏正则化条件,
构建最终图像回归模型为:
Figure BDA00034314450600001311
Figure BDA00034314450600001312
Figure BDA00034314450600001313
其中,Tr()表示矩阵的迹,LX表示事件前图像的自适应图的拉普拉斯矩阵,
Figure BDA00034314450600001314
表示前向回归后图像的自适应图的拉普拉斯矩阵,T表示转置运算。
在另一个实施例中,使用ADMM算法将最终图像回归模型作为目标函数
Figure BDA0003431445060000141
然后将最终图像回归模型改写为增广拉格朗日函数的最小化为
Figure BDA0003431445060000142
Figure BDA0003431445060000143
其中,
Figure BDA0003431445060000144
表示拉格朗日乘数,可以将该增广拉格朗日函数的最小化的问题改写为以下子问题:
(1)
Figure BDA0003431445060000145
-问题,通过定义
Figure BDA0003431445060000146
Figure BDA0003431445060000147
可以重新表述为
Figure BDA0003431445060000148
求解得
Figure BDA0003431445060000149
(2)
Figure BDA00034314450600001410
-问题,
Figure BDA00034314450600001411
然后,可以得到最优的
Figure BDA00034314450600001412
其中,
Figure BDA00034314450600001413
表示单位矩阵。
(3)
Figure BDA00034314450600001414
-问题,
Figure BDA00034314450600001415
该问题可以通过另目标函数一阶导数为零来求解,那么有
Figure BDA00034314450600001416
(3)Δ-问题,
Figure BDA00034314450600001417
通过定义
Figure BDA0003431445060000151
和近似点算子
Figure BDA0003431445060000152
可以得到
Figure BDA0003431445060000153
(3)
Figure BDA0003431445060000154
-问题,
Figure BDA0003431445060000155
Figure BDA0003431445060000156
最后拉格朗日乘子P可以表示为
Figure BDA0003431445060000157
应该理解的是,虽然图3的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,图3中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些子步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
在一个实施例中,如图2所示,提供了一种基于结构循环一致性的异源图像变化检测装置,包括:图像输入模块202、图学习模块204、前向变换模块206、循环变换模块208、求差模块210和构建求解模型模块212,其中:
图像输入模块202,用于将事件前图像和事件后图像输入预先构建的初始图像回归模型,得到事件前图像特征矩阵和事件后图像特征矩阵;
图学习模块204,用于根据事件前图像特征矩阵,进行自适应图学习,得到事件前图像的自适应图;
前向变换模块206,用于根据事件前图像特征矩阵和事件前图像的自适应图,进行前向变换,得到前向回归后特征矩阵;事件前图像特征矩阵、事件前图像的自适应图、前向回归后特征矩阵以及前向回归后图像的自适应图满足前向变换条件;
循环变换模块208,用于根据前向回归后特征矩阵以及前向回归后图像的自适应图,进行循环变换,得到循环回归后特征矩阵;事件前图像特征矩阵和循环回归后特征矩阵满足循环一致性;
求差模块210,用于将前向回归后特征矩阵与事件后图像特征矩阵求差,得到差异矩阵;其中,差异矩阵满足稀疏正则化条件;
构建求解模型模块212,用于根据前向变换条件、循环一致性以及稀疏正则化条件,构建最终图像回归模型,通过求解最终图像回归模型得到差异矩阵。
在其中一个实施例中,图学习模块204还用于根据事件前图像特征矩阵,进行自适应图学习,得到事件前图像的自适应图的步骤包括:根据自适应K选择策略和自适应加权距离算法对事件前图像特征矩阵进行计算,得到事件前图像的自适应图,如下式所示:
Figure BDA0003431445060000161
Figure BDA0003431445060000162
其中,X表示事件前图像特征矩阵,SX表示事件前图像的自适应图,wX表示事件前图像特征矩阵的权重向量,N表示事件前特征矩阵中的超像素个数,M表示超像素的特征个数,i,j表示超像素的序号,
Figure BDA0003431445060000163
表示事件前图像特征矩阵第m个特征的权重,
Figure BDA0003431445060000164
表示事件前图像特征矩阵中第i个超像素的第m个特征到第j个超像素的第m个特征的距离,
Figure BDA0003431445060000165
表示l2范数,
Figure BDA0003431445060000166
表示事件前图像自适应图中的第i个超像素到第j个超像素边的权重,αi表示自适应K选择策略调节参数,s.t.表示约束条件,η表示调优参数。
在其中一个实施例中,事件前图像特征矩阵和前向回归后特征矩阵满足前向变换条件为:
Figure BDA0003431445060000171
Figure BDA0003431445060000172
Figure BDA0003431445060000173
其中,
Figure BDA0003431445060000174
表示前向回归后图像的自适应图,
Figure BDA0003431445060000175
表示前向回归后特征矩阵的权重向量,N表示超像素个数,M表示超像素的特征个数,m表示特征序号,
Figure BDA0003431445060000176
表示前向回归后特征矩阵,
Figure BDA0003431445060000177
表示前向回归后特征矩阵中第m个特征的权重,
Figure BDA0003431445060000178
表示前向回归后特征矩阵中第i个超像素的第m个特征到第j个超像素的第m个特征的距离,
Figure BDA0003431445060000179
表示前向回归后特征矩阵中第i个超像素的第m个特征,
Figure BDA00034314450600001710
表示前向回归后特征矩阵中第j个超像素的第m个特征,
Figure BDA00034314450600001711
表示事件前图像特征矩阵中第m个特征的权重,
Figure BDA00034314450600001712
表示l2范数,s.t.表示约束条件,
Figure BDA00034314450600001713
表示前向回归后图像的自适应图中第i个超像素到第j个超像素边的权重,η表示调优参数,αi表示K选择调节参数。
在其中一个实施例中,事件前图像特征矩阵和循环回归后特征矩阵满足循环一致性为:
Figure BDA00034314450600001714
其中,
Figure BDA00034314450600001715
表示循环回归后特征矩阵中的第i个超像素的第m个特征到第j个超像素的第m个特征的距离,
Figure BDA00034314450600001716
表示循环回归后特征矩阵,γ表示循环调优参数,X(m)表示事件前图像的第m个特征矩阵,
Figure BDA0003431445060000181
表示循环回归后图像的第m个特征矩阵,
Figure BDA0003431445060000182
表示前向回归后图像的自适应图中第i个超像素到第j个超像素边的权重。
在其中一个实施例中,差异矩阵满足稀疏正则化条件为:
Figure BDA0003431445060000183
其中,λ表示惩罚参数,|| ||21表示l2,1范数,Δ(m)表示差异图像的第m个特征矩阵,
Figure BDA0003431445060000184
表示前向回归后图像的第m个特征矩阵,Y(m)表示事件后图像的第m个特征矩阵。
在其中一个实施例中,根据前向变换条件、循环一致性以及稀疏正则化条件,构建最终图像回归模型为:
Figure BDA0003431445060000185
Figure BDA0003431445060000186
Figure BDA0003431445060000187
其中,Tr()表示矩阵的迹,LX表示事件前图像的自适应图的拉普拉斯矩阵,
Figure BDA0003431445060000188
表示前向回归后图像的自适应图的拉普拉斯矩阵,T表示转置运算。
在其中一个实施例中,对最终图像回归模型进行求解,将其改写为增广拉格朗日函数的最小化为:
Figure BDA0003431445060000191
Figure BDA0003431445060000192
其中,P(m)表示拉格朗日乘数,
Figure BDA0003431445060000193
表示求解模型的目标函数。
关于基于结构循环一致性的异源图像变化检测装置的具体限定可以参见上文中对于基于结构循环一致性的异源图像变化检测方法的限定,在此不再赘述。上述基于结构循环一致性的异源图像变化检测装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
在一个实施例中,提供了一种计算机设备,该计算机设备可以是终端,其内部结构图可以如图3所示。该计算机设备包括通过系统总线连接的处理器、存储器、网络接口、显示屏和输入装置。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种基于结构循环一致性的异源图像变化检测方法。该计算机设备的显示屏可以是液晶显示屏或者电子墨水显示屏,该计算机设备的输入装置可以是显示屏上覆盖的触摸层,也可以是计算机设备外壳上设置的按键、轨迹球或触控板,还可以是外接的键盘、触控板或鼠标等。
本领域技术人员可以理解,图3中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
在一个实施例中,提供了一种计算机设备,包括存储器和处理器,该存储器存储有计算机程序,该处理器执行计算机程序时实现上述实施例中方法的步骤。
在一个实施例中,提供了一种计算机存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现上述实施例中方法的步骤。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限,RAM以多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。

Claims (10)

1.一种基于结构循环一致性的异源图像变化检测方法,其特征在于,所述方法包括:
将事件前图像和事件后图像输入预先构建的初始图像回归模型,得到事件前图像特征矩阵和事件后图像特征矩阵;
根据所述事件前图像特征矩阵,进行自适应图学习,得到事件前图像的自适应图;
根据所述事件前图像特征矩阵和所述事件前图像的自适应图,进行前向变换,得到前向回归后特征矩阵;所述事件前图像特征矩阵、事件前图像的自适应图、前向回归后特征矩阵以及前向回归后图像的自适应图满足前向变换条件;
根据所述前向回归后特征矩阵以及前向回归后图像的自适应图,进行循环变换,得到循环回归后特征矩阵;所述事件前图像特征矩阵和所述循环回归后特征矩阵满足循环一致性;
将所述前向回归后特征矩阵与所述事件后图像特征矩阵求差,得到差异矩阵;其中,所述差异矩阵满足稀疏正则化条件;
根据所述前向变换条件、所述循环一致性以及所述稀疏正则化条件,构建最终图像回归模型,通过求解所述最终图像回归模型得到所述差异矩阵。
2.根据权利要求1所述的方法,其特征在于,根据所述事件前图像特征矩阵,进行自适应图学习,得到事件前图像的自适应图的步骤包括:
根据自适应K选择策略和自适应加权距离算法对所述事件前图像特征矩阵进行计算,得到事件前图像的自适应图,如下式所示:
Figure FDA0003431445050000011
Figure FDA0003431445050000012
其中,X表示事件前图像特征矩阵,SX表示事件前图像的自适应图,wX表示事件前图像特征矩阵的权重向量,N表示事件前特征矩阵中的超像素个数,M表示超像素的特征个数,i,j表示超像素的序号,
Figure FDA0003431445050000013
表示事件前图像特征矩阵第m个特征的权重,
Figure FDA0003431445050000021
表示事件前图像特征矩阵中第i个超像素的第m个特征到第j个超像素的第m个特征的距离,
Figure FDA0003431445050000022
表示l2范数,
Figure FDA0003431445050000023
表示事件前图像自适应图中的第i个超像素到第j个超像素边的权重,αi表示自适应K选择策略调节参数,s.t.表示约束条件,η表示调优参数。
3.根据权利要求2所述的方法,其特征在于,所述事件前图像特征矩阵、事件前图像的自适应图、前向回归后特征矩阵以及前向回归后图像的自适应图满足前向变换条件为:
Figure FDA0003431445050000024
Figure FDA0003431445050000025
Figure FDA0003431445050000026
其中,
Figure FDA0003431445050000027
表示前向回归后图像的自适应图,
Figure FDA0003431445050000028
表示前向回归后特征矩阵的权重向量,N表示超像素个数,M表示超像素的特征个数,m表示特征序号,
Figure FDA0003431445050000029
表示前向回归后特征矩阵,
Figure FDA00034314450500000210
表示前向回归后特征矩阵中第m个特征的权重,
Figure FDA00034314450500000211
表示前向回归后特征矩阵中第i个超像素的第m个特征到第j个超像素的第m个特征的距离,
Figure FDA00034314450500000212
表示前向回归后特征矩阵中第i个超像素的第m个特征,
Figure FDA00034314450500000213
表示前向回归后特征矩阵中第j个超像素的第m个特征,
Figure FDA00034314450500000214
表示事件前图像特征矩阵中第m个特征的权重,
Figure FDA00034314450500000215
表示l2范数,s.t.表示约束条件,
Figure FDA00034314450500000216
表示前向回归后图像的自适应图中第i个超像素到第j个超像素边的权重,η表示调优参数,αi表示K选择调节参数。
4.根据权利要求3所述的方法,其特征在于,所述事件前图像特征矩阵和所述循环回归后特征矩阵满足循环一致性为:
Figure FDA0003431445050000031
其中,
Figure FDA0003431445050000032
表示循环回归后特征矩阵中的第i个超像素的第m个特征到第j个超像素的第m个特征的距离,
Figure FDA0003431445050000033
表示循环回归后特征矩阵,γ表示循环调优参数,X(m)表示事件前图像的第m个特征矩阵,
Figure FDA0003431445050000034
表示循环回归后图像的第m个特征矩阵,
Figure FDA0003431445050000035
表示前向回归后图像的自适应图中第i个超像素到第j个超像素边的权重。
5.根据权利要求4所述的方法,其特征在于,所述差异矩阵满足稀疏正则化条件为:
Figure FDA0003431445050000036
其中,λ表示惩罚参数,|| ||2,1表示l2,1范数,Δ(m)表示差异图像的第m个特征矩阵,
Figure FDA0003431445050000037
表示前向回归后图像的第m个特征矩阵,Y(m)表示事件后图像的第m个特征矩阵。
6.根据权利要求5所述的方法,其特征在于,根据所述前向变换条件、所述循环一致性以及所述稀疏正则化条件,构建最终图像回归模型为:
Figure FDA0003431445050000041
Figure FDA0003431445050000042
Figure FDA0003431445050000043
其中,Tr()表示矩阵的迹,LX表示事件前图像的自适应图的拉普拉斯矩阵,
Figure FDA0003431445050000044
表示前向回归后图像的自适应图的拉普拉斯矩阵,T表示转置运算。
7.根据权利要求6所述的方法,其特征在于,所述方法还包括:
对所述最终图像回归模型进行求解,将其改写为为增广拉格朗日函数的最小化为:
Figure FDA0003431445050000045
Figure FDA0003431445050000046
其中,P(m)表示拉格朗日乘数,
Figure FDA0003431445050000047
表示求解模型的目标函数。
8.一种基于结构循环一致性的异源图像变化检测装置,其特征在于,所述装置包括:
图像输入模块,用于将事件前图像和事件后图像输入预先构建的初始图像回归模型,得到事件前图像特征矩阵和事件后图像特征矩阵;
图学习模块,用于根据所述事件前图像特征矩阵,进行自适应图学习,得到事件前图像的自适应图;
前向变换模块,用于根据所述事件前图像特征矩阵和所述事件前图像的自适应图,进行前向变换,得到前向回归后特征矩阵;所述事件前图像特征矩阵、事件前图像的自适应图、前向回归后特征矩阵以及前向回归后图像的自适应图满足前向变换条件;
循环变换模块,用于根据所述前向回归后特征矩阵以及前向回归后图像的自适应图,进行循环变换,得到循环回归后特征矩阵;所述事件前图像特征矩阵和所述循环回归后特征矩阵满足循环一致性;
求差模块,用于将所述前向回归后特征矩阵与所述事件后图像特征矩阵求差,得到差异矩阵;其中,所述差异矩阵满足稀疏正则化条件;
构建求解模型模块,用于根据所述前向变换条件、所述循环一致性以及所述稀疏正则化条件,构建最终图像回归模型,通过求解所述最终图像回归模型得到所述差异矩阵。
9.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至7中任一项所述方法的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的方法的步骤。
CN202111600168.2A 2021-12-24 2021-12-24 基于结构循环一致性的异源图像变化检测方法及装置 Active CN114299001B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111600168.2A CN114299001B (zh) 2021-12-24 2021-12-24 基于结构循环一致性的异源图像变化检测方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111600168.2A CN114299001B (zh) 2021-12-24 2021-12-24 基于结构循环一致性的异源图像变化检测方法及装置

Publications (2)

Publication Number Publication Date
CN114299001A CN114299001A (zh) 2022-04-08
CN114299001B true CN114299001B (zh) 2022-09-23

Family

ID=80969003

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111600168.2A Active CN114299001B (zh) 2021-12-24 2021-12-24 基于结构循环一致性的异源图像变化检测方法及装置

Country Status (1)

Country Link
CN (1) CN114299001B (zh)

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111931562A (zh) * 2020-06-28 2020-11-13 山东师范大学 一种基于软标签回归的无监督特征选择方法和系统
CN113672870A (zh) * 2021-08-20 2021-11-19 中国南方电网有限责任公司超高压输电公司柳州局 故障事件概率估算方法、装置、计算机设备和存储介质

Also Published As

Publication number Publication date
CN114299001A (zh) 2022-04-08

Similar Documents

Publication Publication Date Title
CN109063742B (zh) 蝴蝶识别网络构建方法、装置、计算机设备及存储介质
KR101880907B1 (ko) 비정상 세션 감지 방법
CN112419153A (zh) 图像超分辨率重建方法、装置、计算机设备和存储介质
CN110516541B (zh) 文本定位方法、装置、计算机可读存储介质和计算机设备
CN109711381B (zh) 遥感图像的目标识别方法、装置和计算机设备
CN111062324A (zh) 人脸检测方法、装置、计算机设备和存储介质
CN111325697B (zh) 一种基于张量本征变换的彩色图像修复方法
CN111583184A (zh) 图像分析方法、网络、计算机设备和存储介质
CN115019370A (zh) 一种基于双细粒度伪影的深度伪造视频检测方法
CN111210465A (zh) 图像配准方法、装置、计算机设备和可读存储介质
CN113449586A (zh) 目标检测方法、装置、计算机设备和存储介质
CN110222752B (zh) 图像处理方法、系统、计算机设备、存储介质和芯片
CN116402679A (zh) 一种轻量级红外超分辨率自适应重建方法
CN113704372B (zh) 基于深度对抗网络的遥感影像转换地图迁移方法和装置
CN108875611B (zh) 视频动作识别方法和装置
CN114299001B (zh) 基于结构循环一致性的异源图像变化检测方法及装置
CN112990107A (zh) 高光谱遥感图像水下目标检测方法、装置及计算机设备
CN111714124A (zh) 磁共振电影成像方法、装置、成像设备及存储介质
CN109063601B (zh) 唇纹检测方法、装置、计算机设备和存储介质
Wang et al. CD-GAN: A robust fusion-based generative adversarial network for unsupervised remote sensing change detection with heterogeneous sensors
CN114998814A (zh) 目标视频生成方法、装置、计算机设备和存储介质
CN114372936A (zh) 一种基于图像修补技术的红外弱小目标检测方法
CN109583512B (zh) 图像处理方法、装置及系统
CN113034368A (zh) 图像超分辨率模型训练方法、装置、计算机设备和介质
CN115588137A (zh) 基于结构回归融合的异源图像变化检测方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant