CN116070695A - 图像检测模型的训练方法、图像检测方法及电子设备 - Google Patents
图像检测模型的训练方法、图像检测方法及电子设备 Download PDFInfo
- Publication number
- CN116070695A CN116070695A CN202310342315.3A CN202310342315A CN116070695A CN 116070695 A CN116070695 A CN 116070695A CN 202310342315 A CN202310342315 A CN 202310342315A CN 116070695 A CN116070695 A CN 116070695A
- Authority
- CN
- China
- Prior art keywords
- sample image
- image
- frequency domain
- real
- feature data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
- G06V10/806—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Multimedia (AREA)
- Medical Informatics (AREA)
- Databases & Information Systems (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- General Engineering & Computer Science (AREA)
- Molecular Biology (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
Abstract
本发明提供了一种图像检测模型的训练方法、图像检测方法及电子设备。该训练方法包括:利用生成对抗网络的生成器对真实样本图像和参考样本图像进行数据增广处理,得到目标样本图像;利用生成对抗网络的检测器对目标样本图像进行空间特征提取,得到空间特征数据;利用检测器对目标样本图像进行频域特征提取,得到频域特征数据;利用检测器对空间特征数据和频域特征数据进行处理,得到目标样本图像的检测结果,其中,检测结果表征目标样本图像是真实图像和模拟图像中的之一;利用目标样本图像的检测结果训练生成对抗网络,得到经训练的生成对抗网络;将经训练的检测器确定为图像检测模型。
Description
技术领域
本发明涉及人工智能技术领域,尤其涉及深度学习和计算机视觉技术领域,尤其涉及一种图像检测模型的训练方法、检测方法及电子设备。
背景技术
随着模拟技术的发展,新的图像模拟技术不断涌现,不同模拟生成技术会基于不同的特征对模拟图像进行增添、删除或替换,从而生成不同类别的模拟图像。传统的图像检测模型的训练方法一般是直接提取模拟样本图像的某一特征,利用提取到的特征来训练模型。
在实现本发明的过程中,传统的训练方法训练后的图像检测模型难以对其他类别的模拟图像进行较为精准的识别,从而降低了图像检测模型的准确性和对模拟图像检测的泛化性。
发明内容
鉴于上述问题,本发明提供了图像检测模型的训练方法、图像检测方法及电子设备。
本发明的一方面提供了一种图像检测模型的训练方法,包括:利用生成对抗网络的生成器对真实样本图像和参考样本图像进行数据增广处理,得到目标样本图像;利用生成对抗网络的检测器对目标样本图像进行空间特征提取,得到空间特征数据;利用检测器对目标样本图像进行频域特征提取,得到频域特征数据;利用检测器对空间特征数据和频域特征数据进行处理,得到目标样本图像的检测结果,其中,检测结果表征目标样本图像是真实图像和模拟图像中的之一;利用目标样本图像的检测结果训练生成对抗网络,得到经训练的生成对抗网络;将经训练的检测器确定为图像检测模型。
可选地,利用生成对抗网络的生成器对真实样本图像和参考样本图像进行数据增广处理,得到目标样本图像,包括:根据真实样本图像,得到模拟掩膜样本图像,其中,模拟掩膜样本图像表征真实样本图像的图像框架;对真实样本图像、模拟掩膜样本图像和参考样本图像进行融合处理,得到目标样本图像。
可选地,根据真实样本图像,得到模拟掩膜样本图像,包括:对真实样本图像进行特征提取,得到第一真实特征数据;对第一真实特征数据进行卷积处理,得到模拟掩膜样本图像。
可选地,利用生成对抗网络的生成器对真实样本图像和参考样本图像进行数据增广处理,得到目标样本图像,包括:对真实样本图像进行特征提取,得到第二真实特征数据,其中,第二真实特征数据表征真实样本图像的语义特征;对参考样本图像进行特征提取,得到图像风格特征数据;根据真实样本图像、参考样本图像、第二真实特征数据和图像风格特征数据,得到目标样本图像。
可选地,根据真实样本图像、参考样本图像、第二真实特征数据和图像风格特征数据,得到目标样本图像,包括:对真实样本图像、参考样本图像和图像风格特征数据进行融合处理,得到融合图像风格特征数据;根据融合图像风格特征数据和第二真实特征数据,得到目标样本图像。
可选地,上述方法还包括:利用检测器对目标样本图像进行特征提取,得到模拟真实样本图像,其中,模拟真实样本图像表征目标样本图像的图像框架。
可选地,利用目标样本图像的检测结果训练生成对抗网络,得到经训练的生成对抗网络,包括:基于第一损失函数,根据检测结果和目标样本图像的标签数据,得到第一损失函数值;基于第二损失函数,根据模拟掩膜样本图像和模拟真实样本图像,得到第二损失函数值;根据第一损失函数值和第二损失函数值对生成对抗网络进行训练,得到经训练的生成对抗网络。
可选地,生成器包括多个卷积核,上述方法还包括:确定多个卷积核各自之间的相似度,得到至少一个相似度;基于第三损失函数,根据至少一个相似度,得到第三损失函数值。
可选地,根据第一损失函数值和第二损失函数值对生成对抗网络进行训练,得到经训练的生成对抗网络,包括:根据第一损失函数值、第二损失函数值和第三损失函数值对生成对抗网络进行训练,得到经训练的图像检测模型。
可选地,频域特征数据包括全局频域特征数据和局部频域特征数据中的至少之一。
可选地,利用检测器对目标样本图像进行频域特征提取,得到频域特征数据,包括以下至少之一:对目标样本图像进行第一转换处理,得到第一中间样本图像;对第一中间样本图像进行全局频域特征提取,得到全局频域特征数据;对目标样本图像进行第二转换处理,得到第二中间样本图像;对第二中间样本图像进行局部频域特征提取,得到局部频域特征数据。
可选地,利用检测器对空间特征和频域特征进行处理,得到目标样本图像的检测结果,包括:根据全局频域特征数据和局部频域特征数据,确定融合注意力掩膜数据,其中,融合注意力掩膜数据表征全局频域特征数据和局部频域特征数据的交互数据;基于融合注意力掩膜数据,对全局频域特征数据和局部频域特征数据进行融合处理,得到融合全局频域特征数据和融合局部频域特征数据;根据空间特征数据、融合全局频域特征数据和融合局部频域特征数据,得到目标样本图像的检测结果。
本发明的另一方面提供了一种图像检测方法,包括:利用图像检测模型对目标图像进行检测,得到目标图像的检测结果,其中,图像检测模型是利用上述训练方法训练得到的。
本发明的另一方面提供了一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,其中,当一个或多个程序被一个或多个处理器执行时,使得一个或多个处理器执行上述图像检测模型的训练方法及图像检测方法。
本发明的另一方面还提供了一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行上述图像检测模型的训练方法及图像检测方法。
本发明的另一方面还提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述图像检测模型的训练方法及图像检测方法。
通过基于生成对抗网络的生成器对真实样本图像和参考样本图像进行数据增广处理,得到目标样本图像,再基于生成对抗网络的检测器对目标样本图像进行空间特征提取和频域特征提取,结合空间特征数据和频域特征数据得到目标样本图像的检测结果,利用该检测结果对生成对抗网络进行训练,并将经训练的生成对抗网络的检测器确定为图像检测模型。至少部分的解决了利用传统的训练方法训练后的图像检测模型对不同类别的模拟图像的检测缺乏泛化性和较低的准确性的问题,从而实现了能够利用经数据增广处理得到的目标样本图像,结合空间特征和频域特征对图像检测模型的训练,有效提高对模拟图像检测的泛化性和准确性。
附图说明
通过以下参照附图对本发明实施例的描述,本发明的上述内容以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了根据本发明实施例的图像检测模型的训练方法、图像检测方法及装置的应用场景图。
图2示意性示出了根据本发明实施例的图像检测模型的训练方法的流程图。
图3示意性示出了根据本发明实施例的得到经训练的生成对抗网络的方法流程图。
图4示意性示出了根据本发明实施例的利用空间特征和频域特征得到目标样本图像的检测结果的方法流程图。
图5示意性示出了根据本发明实施例的图像检测方法的流程图。
图6示意性示出了根据本发明实施例的表征图像检测模型的训练方法的逻辑示意图。
图7示意性示出了根据本发明实施例的图像检测模型的训练装置的框图。
图8示意性示出了根据本发明实施例的图像检测装置的框图。
图9示意性示出了根据本发明实施例的适于实现图像检测模型的训练方法及图像检测方法的电子设备的方框图。
具体实施方式
以下,将参照附图来描述本发明的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本发明的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本发明实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本发明的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本发明。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。
在本公开的实施例中,所涉及的数据(例如,包括但不限于用户个人信息)的收集、更新、分析、处理、使用、传输、提供、公开、存储等方面,均符合相关法律法规的规定,被用于合法的用途,且不违背公序良俗。特别地,对用户个人信息采取了必要措施,防止对用户个人信息数据的非法访问,维护用户个人信息安全、网络安全和国家安全。在获取或采集用户个人信息之前,均获取了用户的授权或同意。
本发明的实施例提供了一种图像检测模型的训练方法,包括:利用生成对抗网络的生成器对真实样本图像和参考样本图像进行数据增广处理,得到目标样本图像;利用生成对抗网络的检测器对目标样本图像进行空间特征提取,得到空间特征数据;利用检测器对目标样本图像进行频域特征提取,得到频域特征数据;利用检测器对空间特征数据和频域特征数据进行处理,得到目标样本图像的检测结果,其中,检测结果表征目标样本图像是真实图像和模拟图像中的之一;利用目标样本图像的检测结果训练生成对抗网络,得到经训练的生成对抗网络;将经训练的检测器确定为图像检测模型。
图1示意性示出了根据本发明实施例的图像检测模型的训练方法、图像检测方法及装置的应用场景图。
如图1所示,根据该实施例的应用场景100可以包括第一终端设备101、第二终端设备102、第三终端设备103、网络104和服务器105。网络104用以在第一终端设备101、第二终端设备102、第三终端设备103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用第一终端设备101、第二终端设备102、第三终端设备103中的至少一个通过网络104与服务器105交互,以接收或发送消息等。第一终端设备101、第二终端设备102、第三终端设备103上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
第一终端设备101、第二终端设备102、第三终端设备103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对用户利用第一终端设备101、第二终端设备102、第三终端设备103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
需要说明的是,本发明实施例所提供的图像检测模型的训练方法和图像检测方法一般可以由服务器105执行。相应地,本发明实施例所提供的图像检测模型的训练装置和图像检测装置一般可以设置于服务器105中。本发明实施例所提供的图像检测模型的训练方法和图像检测方法也可以由不同于服务器105且能够与第一终端设备101、第二终端设备102、第三终端设备103和/或服务器105通信的服务器或服务器集群执行。相应地,本发明实施例所提供的图像检测模型的训练装置和图像检测装置也可以设置于不同于服务器105且能够与第一终端设备101、第二终端设备102、第三终端设备103和/或服务器105通信的服务器或服务器集群中。
应该理解,图1中的第一终端设备、第二终端设备、第三终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的第一终端设备、第二终端设备、第三终端设备、网络和服务器。
图2示意性示出了根据本发明实施例的图像检测模型的训练方法的流程图。
如图2,该方法200可以包括操作S210~操作S260。
在操作S210,利用生成对抗网络的生成器对真实样本图像和参考样本图像进行数据增广处理,得到目标样本图像。
在操作S220,利用所述生成对抗网络的检测器对所述目标样本图像进行空间特征提取,得到空间特征数据。
在操作S230,利用所述检测器对所述目标样本图像进行频域特征提取,得到频域特征数据。
在操作S240,利用所述检测器对所述空间特征数据和所述频域特征数据进行处理,得到所述目标样本图像的检测结果,其中,所述检测结果表征所述目标样本图像是真实图像和模拟图像中的之一。
在操作S250,利用所述目标样本图像的检测结果训练所述生成对抗网络,得到经训练的生成对抗网络。
在操作S260,将经训练的检测器确定为所述图像检测模型。
根据本发明的实施例,真实样本图像可以包括对象,真实样本图像可以包括对象的为原始真实图像。参考样本图像可以包括与真实样本图像不相同的原始参考对象,也可以是与真实样本图像不相同的模拟参考图像。
根据本发明的实施例,数据增广处理可以为通过对训练图像做一系列随机改变以产生相似但又不同的训练样本,从而来扩大训练数据集的规模。也可以为随机改变训练样本,使得训练样本数据丰富化。
根据本发明的实施例,目标样本图像是通过将真实样本图像和参考样本图像进行数据增广处理之后得到的。目标样本图像可以包括同时具有真实样本图像特征和参考样本图像特征。目标样本图像包括的对象为模拟目标图像。
根据本发明的实施例,生成对抗网络可以包括生成器和检测器。生成器可以用于生成目标样本图像,并通过不断训练生成器使学习到真实样本图像的数据分布,从而能够使得生成器从无到有生成与真实样本图像的数据分布相近的样本图像,并尽可能的去混淆检测器。检测器可以用于检测生成器生成的样本图像为真实图像还是模拟图像,从而对真实样本图像和目标样本图像进行区分。
根据本发明的实施例,可以利用生成对抗网络的检测器对目标样本图像进行空间特征提取和频域特征提取。空间特征数据可以表征目标样本图像的关键点特征的数据;频域特征数据可以表征目标样本图像在不同频率分量系数分布下的特征数据。
根据本发明的实施例,可以利用检测器,结合目标样本图像的空间特征数据和频域特征数据,对目标样本图像进行检测,得到针对目标样本图像的检测结果。检测结果可以表征该目标样本图像是真实图像还是模拟图像。
根据本发明的实施例,可以利用目标样本图像的检测结果对生成对抗网络的生成器和检测器进行迭代交替训练,使得生成器和检测器通过它们之间的博弈,实现各自的优化,最终可以使得检测器能够准确区分目标样本图像是真实图像还是模拟图像。在此情况下,可以认为检测器学习到了目标样本图像的数据分布,将训练完成的生成对抗网络的检测器确定为图像检测模型。
根据本发明的实施例,通过基于生成对抗网络的生成器对真实样本图像和参考样本图像进行数据增广处理,得到目标样本图像,再基于生成对抗网络的检测器对目标样本图像进行空间特征提取和频域特征提取,结合空间特征数据和频域特征数据得到目标样本图像的检测结果,利用该检测结果对生成对抗网络进行训练,并将经训练的生成对抗网络的检测器确定为图像检测模型。至少部分的解决了利用传统的训练方法训练后的图像检测模型对不同类别的模拟图像的检测缺乏泛化性和较低的准确性的问题,从而实现了能够利用经数据增广处理得到的目标样本图像,结合空间特征和频域特征对图像检测模型的训练,有效提高对模拟图像检测的泛化性和准确性。
根据本发明的一实施例,利用生成对抗网络的生成器对真实样本图像和参考样本图像进行数据增广处理,得到目标样本图像,可以包括:
根据真实样本图像,得到模拟掩膜样本图像,其中,模拟掩膜样本图像是将真实样本图像的目标特征进行处理后得到的真实样本图像的图像框架;对真实样本图像、模拟掩膜样本图像和参考样本图像进行融合处理,得到目标样本图像。
根据本发明的实施例,模拟掩膜样本图像可以表征真实样本图像的图像框架,是通过将真实样本图像的目标特征进行处理后得到的。真实样本图像的图像框架可以用于生成目标样本图像。目标特征可以表征真实样本图像的关键点特征,关键点特征可以为想要保留真实样本图像中原始部位特征,例如,眼睛、鼻子、耳朵、嘴巴等。
根据本发明的实施例,根据真实样本图像,得到模拟掩膜样本图像可以包括:对真实样本图像进行特征提取,得到第一真实特征数据;对第一真实特征数据进行卷积处理,得到模拟掩膜样本图像。
根据本发明的实施例,第一真实特征数据可以为通过特征提取器对真实样本图像进行特征提取得到的表征真实样本图像包括的对象的特征数据。该特征数据可以表征真实样本图像的对象图像框架和真实样本图像的对象部位特征的特征数据。
根据本发明的实施例,生成对抗网络中可以包括
k个可学习的卷积核。可以利用k个卷积核中的每个卷积核和第一真实特征数据进行卷积操作,可以得到相应的
k个模拟掩膜样本图像。
根据本发明的实施例,可以利用生成器中包括的多个卷积核,基于
Sigmoid函数,根据第
i个卷积核对第一真实特征数据通过卷积操作得到相应的第
i个模拟掩膜样本图像
M i 。第
i个模拟掩膜样本图像可以由式(1)表示:
(1)
其中,
i∈{
1,2,3,…,i,…,k},
k为大于等于1的正整数;
M i 为第
i个模拟掩膜样本图像;为卷积操作; 为生成器中第
i个卷积核;为真实样本图像的第一真实特征数据。
根据本发明的实施例,可以对
k个模拟掩膜样本图像进行特征融合,得到融合后的模拟掩膜样本图像
M。由于融合后的模拟掩膜样本图像
M需满足
R 3×H×W 的三通道,因此,需要对融合后的模拟掩膜样本图像
M进行插值缩放及降维处理,得到处理后的模拟掩膜样本图像。其中,
R为实数域,
H、
W分别为处理后的模拟掩膜图像特征的长和宽。
根据本发明的实施例,可以通过对真实样本图像
x s 、处理后的模拟掩膜样本图像和参考样本图像
x r 进行图像融合,得到基于图像融合的目标样本图像
x B 。
具体地,目标样本图像
x B 可以由式(2)表示:
(2)
其中,为Hadamard积。
根据本发明的实施例,通过上述式(2)利用生成对抗网络中的生成器生成的目标样本图像
x B 既可以包含真实样本图像
x s 的特征数据又可以包含参考样本图像
x r 的特征数据。
根据本发明的另一实施例,利用生成对抗网络的生成器对真实样本图像和参考样本图像进行数据增广处理,得到目标样本图像,包括:对真实样本图像进行特征提取,得到第二真实特征数据,其中,第二真实特征数据表征真实样本图像的语义信息特征;对参考样本图像进行特征提取,得到图像风格特征数据;根据真实样本图像、参考样本图像、第二真实特征数据和图像风格特征数据,得到目标样本图像。
根据本发明的实施例,基于生成器中的风格迁移模块,可以利用内容编码器对真实样本图像
x s 进行图像内容特征提取,得到第二真实特征数据。第二真实特征数据可以表征真实样本图像的语义特征。语义特征可以包括但不限于面部特征。
根据本发明的实施例,可以利用风格编码器对参考样本图像
x r 进行图像风格特征提取,得到参考样本图像的图像风格特征数据。需要说明的是,参考样本图像的图像风格特征数据假设了参考样本图像的所有风格均服从正态分布,因此,基于正态分布,采用该两个参数可以充分表征参考样本图像的图像风格形式。
根据本发明的实施例,可以根据真实样本图像、参考样本图像、第二真实特征数据和图像风格特征数据,得到目标样本图像,可以包括:对真实样本图像、参考样本图像和图像风格特征数据进行融合处理,得到融合图像风格特征数据;根据融合图像风格特征数据和第二真实特征数据,得到目标样本图像。
根据本发明的实施例,可以基于注意力机制的风格迁移(Attentive MakeupMorphing,AMM)算法,根据真实样本图像
x s 、参考图像样本
x r 和图像风格数据进行融合处理,可以得到融合图像风格特征数据。
具体地,融合图像风格特征数据可以由式(3)表示:
(3)
根据本发明的实施例,生成器包括解码模块,可以利用解码器
D T 对融合图像风格特征数据和第二真实特征数据进行解码,得到基于风格迁移的目标样本图像
x T 。具体地,目标样本图像
x T 可以由式(4)表示:
(4)
根据本发明的实施例,通过上述式(4)利用生成对抗网络中的生成器生成的目标样本图像
x T 既包含真实样本图像
x s 的特征数据又包含参考样本图像
x r 的特征数据及参考样本图像
x r 的图像风格特征数据。
根据本发明的实施例,可以将基于图像融合的目标样本图像
x B 或基于风格迁移的目标样本图像
x T 作为训练样本图像对生成对抗网络进行训练;也可以将基于图像融合的目标样本图像
x B 和基于风格迁移的目标样本图像
x T 作为训练样本图像对生成对抗网络进行训练。
根据本公开的实施例,通过利用生成对抗网络的生成器对真实样本图像和参考样本图像经过数据增广处理得到目标样本图像,利用该经过数据增广处理得到的目标样本图像对生成对抗网络进行训练,可以提高生成对抗网络模型的泛化性和准确性,从而进一步可以提高对模拟图像检测的准确率。
根据本发明的实施例,上述训练方法还可以包括:利用检测器对目标样本图像进行特征提取,得到模拟真实样本图像,其中,模拟真实样本图像是将与真实样本图像的目标特征相对应的目标样本图像中的目标特征进行处理后得到的目标样本图像的图像框架。
根据本发明的实施例,可以利用生成对抗网络的检测器的空间特征提取模块,对目标样本图像进行特征提取,得到目标样本图像的空间特征数据,利用检测器中包含的
k个可学习的卷积核对目标样本图像的空间特征数据进行卷积操作,可以得到
k个模拟真实样本图像
P。模拟真实样本图像可以是将目标样本图像的目标特征进行处理后得到的目标样本图像的图像框架。
根据本发明的实施例,可以利用检测器中包括的多个卷积核,基于
Sigmoid函数,根据第
i个卷积核与第一真实特征数据可以进行卷积操作,得到相应的第
i个模拟真实真实图像
P i 。第
i个模拟真实真实图像
P i 可以由式(5)表示:
(5)
其中,
i∈{
1,2,3,…,i,…,k},
k为大于等于1的正整数;
P i 为第
i个模拟真实样本图像;为卷积操作;检测器中第
i个卷积核;为目标样本图像的空间特征数据。
图3示意性示出了根据本发明实施例的得到经训练的生成对抗网络的方法流程图。
如图3,该方法300可以包括操作S310~操作S330。
在操作S310,基于第一损失函数,根据检测结果和目标样本图像的标签数据,得到第一损失函数值。
在操作S320,基于第二损失函数,根据模拟掩膜样本图像和模拟真实样本图像,得到第二损失函数值。
在操作S330,根据第一损失函数值和第二损失函数值对生成对抗网络进行训练,得到经训练的生成对抗网络。
根据本发明的实施例,目标样本图像的标签数据可以表征该目标样本图像是真实图像还是模拟图像的数据;检测结果可以为生成对抗网络的检测器对目标样本图像进行检测之后的结果,即,表征该目标样本图像是真实图像还是模拟图像的预测数据。
根据本发明的实施例,第一损失函数可以为分类损失函数
L cls。
分类损失函数
L cls 可以由式(6)表示:
(6)
其中,
N为目标样本图像的样本数量;
j∈{
1,2,3,…,j,…,N};
y j 为第
j个目标样本图像的标签数据;
p j 为第
j个目标样本图像的检测结果。
根据本发明的实施例,可以由上述式(6)基于目标样本图像的检测结果和目标样本图像的标签数据,确定第一损失函数值,即,分类损失函数值。
根据本发明的实施例,第二损失函数可以表征利用目标样本图像经过生成对抗网络的检测器进行卷积操作得到的模拟真实样本图像与利用真实样本图像经过生成对抗网络的生成器进行卷积操作得到的模拟掩膜样本图像之间的模拟相似性,即为模拟相似性损失函数
L sim 。模拟相似性损失函数
L sim 可以由式(7)表示:
(7)
其中,
w i 为权重值,
w i 可以由式(8)表示:
(8)
其中,
i∈{
1,2,3,…,i,…,k};
M i 为第
i个模拟掩膜样本图像;
P i 为第
i个模拟真实样本图像;为矩阵的范数;为单层全连接层,为向量拼接操作。
根据本发明的实施例,如果利用目标样本图像为基于风格迁移的目标样本图像参与训练时,
w i 可以固定为且
M i 固定为1。
根据本发明的实施例,可以利用上述式(7)基于模拟真实样本图像和模拟掩膜样本图像确定第二损失函数值,即,模拟相似性损失函数值。
根据本发明的实施例,可以根据第一损失函数
L cls 和第二损失函数
L sim 得到总损失函数
L 1 ,以对生成对抗网络进行训练。总损失函数可以由式(9)表示:
(9)
其中,为超参数。
根据本发明的实施例,利用第一损失函数值和第二损失函数值对生成对抗网络的生成器和检测器进行交替训练可以包括:在每次迭代过程中,在保持检测器的模型参数不变的情况下,利用生成对抗网络的生成器对真实样本图像和参考样本图像进行数据增广处理后得到目标样本图像,利用真实样本图像、参考样本图像和目标样本图像训练生成器,已完成该次迭代针对生成器设定的训练次数。在对生成器进行该次迭代中的每次训练的情况下,根据第一损失函数值
L cls 和第二损失函数值
L sim 确定的总损失函数值
L 1 以调整生成器的模型参数,直到训练达到针对生成器设定的训练次数时,停止该次迭代针对生成器的训练。
根据本发明的实施例,在完成该次迭代针对生成器设定的训练次数之后,在保持生成器的模型参数不变的情况下,利用目标样本图像训练检测器,已完成该次迭代针对检测器设定的训练次数。在对检测器进行该次迭代中的每次训练的情况下,根据第一损失函数值
L cls 和第二损失函数值
L sim 确定的总损失函数值
L 1 以调整检测器的模型参数,直到训练达到针对检测器设定的训练次数时,停止该次迭代针对检测器的训练。
根据本发明的实施例,完成该次迭代中对生成器和检测器的训练后,确定总损失函数值
L 1 是否满足预设条件,若满足预设条件,则得到经训练的生成对抗网络;若未满足预设条件,则对该生成对抗网络的生成器和检测器进行交替训练,直至总损失函数
L 1 满足预设条件,完成对生成对抗网络的训练,并将经训练的生成对抗网络的检测器作为图像检测模型。
根据本发明的实施例,在每次执行迭代的过程中,生成器的训练次数和检测器的训练次数均可以为一次,生成器的训练次数为一次且检测器的训练次数为多次、生成器的训练次数为多次且检测器的训练次数为一次、生成器的训练次数为多次且检测器的训练次数为多次。针对每次迭代过程中对生成器的训练次数和检测器的训练次数可以根据实际业务需求选择合适的训练次数策略,在此不作具体限定。
根据本发明的实施例,对生成对抗网络进行训练时,还可以包括:确定多个卷积核各自之间的相似度,得到至少一个相似度;基于第三损失函数,根据至少一个相似度,得到第三损失函数值。
根据本发明的实施例,根据第一损失函数值和第二损失函数值对生成对抗网络进行训练,得到经训练的生成对抗网络,包括:根据第一损失函数值、第二损失函数值和第三损失函数值对生成对抗网络进行训练,得到经训练的图像检测模型。
根据本发明的实施例,第三损失函数可以为多样性损失函数
L div 。多样性损失函数
L div 可以由式(10)表示 :
(10)
其中,
i∈{
1,2,3,…,i,…,k};
h∈{
1,2,3,…,h,…,k};为生成器中第
i个卷积核;为生成器中第
h个卷积核。
根据本发明的实施例,可以由上述式(10)基于生成器中包括的多个卷积核,确定各自卷积核之间的余弦相似度,确定第三损失函数值,即,多样性损失函数值。
根据本发明的实施例,可以根据第一损失函数
L cls 、第二损失函数
L sim 和第三损失函数
L div 得到总损失函数
L 2 ,以对生成对抗网络进行训练。总损失函数可以由式(11)表示:
(11)
其中,、为超参数。
根据本发明的实施例,根据第一损失函数值、第二损失函数值和第三损失函数值对生成对抗网络的生成器和检测器进行交替训练的训练过程与上述基于第一损失函数值和第二损失函数值对生成对抗网络的生成器和检测器进行交替训练过程的不同在于:在每次迭代过程中,在保持检测器的模型参数不变的情况下,对生成器进行该次迭代设定的训练次数中的每次训练的情况下,根据第一损失函数值
L cls 、第二损失函数值
L sim 和第三损失函数值
L div 确定的总损失函数值
L 2 ,以调整生成器的模型参数,直到训练达到针对生成器设定的训练次数时,停止该次迭代针对生成器的训练。在对检测器进行该次迭代中的每次训练的情况下,根据第一损失函数值
L cls 、第二损失函数值
L sim 和第三损失函数值
L div 确定的总损失函数值
L 2 ,以调整检测器的模型参数,直到训练达到针对检测器设定的训练次数时,停止该次迭代针对检测器的训练。
根据本发明的实施例,在每次迭代过程中,对生成对抗网络的生成器和检测器进行交替训练时,检测器模型参数不变的情况下,针对生成器的训练时,利用检测器的损失函数和生成器的损失函数得到的总损失函数实现对生成器的模型参数的调整;或生成器模型参数不变的情况下,针对检测器的训练时,利用生成器的损失函数和检测器的损失函数得到的总损失函数实现对检测器的模型参数的调整,以提高生成对抗网络的准确性。
根据本发明的实施例,频域特征数据可以包括全局频域特征数据和局部频域特征数据中的至少之一。
根据本发明的实施例,利用所述检测器对所述目标样本图像进行频域特征提取,得到频域特征数据,可以包括以下至少之一:对目标样本图像进行第一转换处理,得到第一中间样本图像;对第一中间样本图像进行全局频域特征提取,得到全局频域特征数据。对目标样本图像进行第二转换处理,得到第二中间样本图像;对第二中间样本图像进行局部频域特征提取,得到局部频域特征数据。
根据本发明的实施例,基于检测器中的频域检测模块,可以通过离散余弦变换(Discrete Cosine Transform ,DCT)对目标样本图像进行转换处理,可以得到第一中间样本图像。利用全局特征提取器对第一中间样本图像进行全局频域特征提取,得到全局频域特征数据。
根据本发明的实施例,基于检测器中的频域检测模块,可以通过DCT变换分块及低秩去噪处理,得到第二中间样本图像,利用局部特征提取器对第二中间样本图像进行局部频域特征提取,得到局部频域特征数据。
图4示意性示出了根据本发明实施例的利用空间特征和频域特征得到目标样本图像的检测结果的方法流程图。
如图4,该方法400可以包括操作S410~操作S430。
在操作S410,根据全局频域特征数据和局部频域特征数据,确定融合注意力掩膜数据,其中,融合注意力掩膜数据表征全局频域特征数据和局部频域特征数据的交互数据。
在操作S420,基于融合注意力掩膜数据,对全局频域特征数据和局部频域特征数据进行融合处理,得到融合全局频域特征数据和融合局部频域特征数据。
在操作S430,根据空间特征数据、融合全局频域特征数据和融合局部频域特征数据,得到目标样本图像的检测结果。
根据本发明的实施例,融合注意力掩膜数据可以利用全局频域特征数据和局部频域特征数据进行加权融合,使全局频域特征数据和局部频域特征数据得以交互而得到的。融合注意力掩膜数据
M c 可以由式(12)表示:
(12)
其中,为卷积层;
M c 为融合注意力掩膜数据
; 为全局频域特征数据;为局部频域特征数据。
根据本发明的实施例,可以利用融合注意力掩膜数据
M c 、全局频域特征数据、局部频域特征数据进行融合处理,得到融合全局频域特征数据和融合局部频域特征数据。具体地,
融合全局频域特征数据可以由式(13)表示:
(13)
融合局部频域特征数据可以由式(14)表示:
(14)
其中,为Hadamard积。
根据本发明的实施例,可以由上述式(12)~(14)确定融合全局频域特征数据和融合局部频域特征数据。
根据本发明的实施例,通过将空间特征数据、融合全局频域特征数据和融合局部频域特征数据进行特征融合,输入至检测器的分类模块,得到目标样本图像的检测结果。
图5示意性示出了根据本发明实施例的图像检测方法的流程图。
如图5,该方法500包括操作S510。
在操作S510,利用图像检测模型对目标图像进行检测,得到所述目标图像的检测结果,其中,图像检测模型是利用上述训练方法训练得到的。
根据本发明的实施例,可以利用上述图像检测方法将目标图像输入利用上述图像检测模型训练方法训练得到的图像检测模型中,得到目标图像的检测结果,例如,该目标图像为真实图像还是模拟图像。
根据本发明的实施例,利用该图像检测模型训练方法训练得到的图像检测模型处理图像数据,针对不同的目标图像检测任务时以实现提高图像检测模型的泛化性,以及对图像检测结果的准确性。
图6示意性示出了根据本发明实施例的表征图像检测模型的训练方法的逻辑示意图。
如图6所示,在训练方法600中,在每次迭代过程中,在保持生成对抗网络中检测器的模型参数不变的情况下,基于生成器中的图像融合模块,将真实样本图像601和参考样本图像602输入生成器603中,对真实样本图像601通过特征提取器604进行特征提取,得到第一真实特征数据605。将第一真实特征数据605和生成器中包括的
k个卷积核606进行卷积操作,得到
k个模拟掩膜样本图像607。对
k个模拟掩膜样本图像进行融合,得到融合模拟掩膜样本图像608。根据真实样本图像601、融合模拟掩膜样本图像608和参考样本图像602进行图像融合处理,得到基于图像融合的目标样本图像609。
和/或,基于生成器中的风格迁移模块,将真实样本图像601和参考样本图像602输入生成器603中,对真实样本图像601通过内容编码器610进行图像内容提取,得到第二真实特征数据611。对参考样本图像602通过风格编码器612进行图像风格特征提取,得到图像风格特征数据613,根据真实样本图像601、参考样本图像602和图像风格特征数据613基于注意力机制的风格迁移融合算法(AMM融合)614进行风格迁移融合,得到融合图像风格特征数据615。根据第二真实特征数据611和融合图像风格特征数据615通过解码器616进行解码,得到基于风格迁移的目标样本图像617。
将目标样本图像609和/或目标样本图像617输入检测器618中,基于检测器中的空间特征检测模块,对目标样本图像通过空间特征提取器619进行空间特征提取,得到空间特征数据620。将空间特征数据620和
k个卷积核621进行卷积操作,得到
k个模拟真实样本图像622。基于检测器中的频域检测模块,对目标样本图像进行DCT变换处理,得到第一中间样本图像623,对第一中间样本图像623通过全局特征提取器624进行全局频域特征提取,得到全局频域特征数据625。对目标样本图像进行DCT变换分块及低秩去噪处理,得到第二中间样本图像626,对第二中间样本图像626通过局部特征提取器627进行局部频域特征提取,得到局部频域特征数据628。基于频域融合629,对全局频域特征数据625和局部频域特征数据628进行频域融合处理,得到融合全局频域特征数据630和融合局部频域特征数据631。根据空间特征数据620、融合全局频域特征数据630和融合局部频域特征数据631,得到目标样本图像的检测结果632,根据检测结果632,确定第一损失函数值633。根据
k个模拟真实样本图像622和
k个模拟掩膜样本图像607,确定第二损失函数值634,根据生成器中
k个卷积核606各自的余弦相似度,确定第三损失函数值635,基于第一损失函数值633、第二损失函数值634和第三损失函数值635的总损失函数值,对生成器进行参数调整,以完成对生成器进行该迭代过程设定的训练次数的训练。在保持生成对抗网络中生成器的模型参数不变的情况下,对生成对抗网络的检测器训练时,也是基于第一损失函数值633、第二损失函数值634和第三损失函数值635的总损失函数值,对检测器进行参数调整,以完成对检测器进行该迭代过程设定的训练次数的训练。
图7示意性示出了根据本发明实施例的图像检测模型的训练装置的框图。
如图7所示,该训练装置700可以包括:第一处理模块710、第一提取模块720、第二提取模块730、第二处理模块740、训练模块750和第一确定模块760。
第一处理模块710,用于利用生成对抗网络的生成器对真实样本图像和参考样本图像进行数据增广处理,得到目标样本图像。
第一提取模块720,用于利用生成对抗网络的检测器对目标样本图像进行空间特征提取,得到空间特征数据。
第二提取模块730,用于利用检测器对目标样本图像进行频域特征提取,得到频域特征数据。
第二处理模块740,用于利用检测器对空间特征数据和频域特征数据进行处理,得到目标样本图像的检测结果,其中,检测结果表征目标样本图像是真实图像和模拟图像中的之一。
训练模块750,用于利用目标样本图像的检测结果训练生成对抗网络,得到经训练的生成对抗网络。
第一确定模块760,用于将经训练的检测器确定为图像检测模型。
根据本发明的实施例,第一处理模块710可以包括:第一获取子模块和第一处理子模块。
第一获取子模块,用于根据真实样本图像,得到模拟掩膜样本图像,其中,模拟掩膜样本图像表征真实样本图像的图像框架。
第一处理子模块,用于对真实样本图像、模拟掩膜样本图像和参考样本图像进行融合处理,得到目标样本图像。
根据本发明的实施例,获得子模块可以包括:第一提取单元和第一处理单元。
第一提取单元,用于对真实样本图像进行特征提取,得到第一真实特征数据。
第一处理单元,用于对第一真实特征数据进行卷积处理,得到模拟掩膜样本图像。
根据本发明的实施例,第一处理模块710可以包括:第一提取子模块、第二提取子模块和第二获取子模块。
第一提取子模块,用于对真实样本图像进行特征提取,得到第二真实特征数据,其中,第二真实特征数据表征真实样本图像的语义特征。
第二提取子模块,用于对参考样本图像进行特征提取,得到图像风格特征数据。
第二获取子模块,用于根据真实样本图像、参考样本图像、第二真实特征数据和图像风格特征数据,得到目标样本图像。
根据本发明的实施例,第二获得子模块可以包括:第二处理单元和获取单元。
第二处理单元,用于对真实样本图像、参考样本图像和图像风格特征数据进行融合处理,得到融合图像风格特征数据。
获取单元,用于根据融合图像风格特征数据和第二真实特征数据,得到目标样本图像。
根据本发明的实施例,该训练装置700还可以包括:第三提取模块。
第三提取模块,用于利用检测器对目标样本图像进行特征提取,得到模拟真实样本图像,其中,模拟真实样本图像表征目标样本图像的图像框架。
根据本发明的实施例,训练模块750可以包括:第三获取子模块、第四获取子模块和第五获取子模块。
第三获取子模块,用于基于第一损失函数,根据检测结果和目标样本图像的标签数据,得到第一损失函数值。
第四获取子模块,用于基于第二损失函数,根据模拟掩膜样本图像和模拟真实样本图像,得到第二损失函数值。
第五获取子模块,用于根据第一损失函数值和第二损失函数值对生成对抗网络进行训练,得到经训练的生成对抗网络。
根据本发明的实施例,该训练装置700还可以包括:第二确定模块和获取模块。
第二确定模块,用于确定多个卷积核各自之间的相似度,得到至少一个相似度。
获取模块,用于基于第三损失函数,根据至少一个相似度,得到第三损失函数值。
根据本发明的实施例,训练模块750可以包括:训练子模块。
训练子模块,用于根据第一损失函数值、第二损失函数值和第三损失函数值对生成对抗网络进行训练,得到经训练的图像检测模型。
根据本发明的实施例,第二提取模块730可以包括:第二处理子模块、第三提取子模块、第三处理子模块和第四提取子模块。
第二处理子模块,用于对目标样本图像进行第一转换处理,得到第一中间样本图像。
第三提取子模块,用于对第一中间样本图像进行全局频域特征提取,得到全局频域特征数据。
第三处理子模块,用于对目标样本图像进行第二转换处理,得到第二中间样本图像。
第四提取子模块,用于对第二中间样本图像进行局部频域特征提取,得到局部频域特征数据。
根据本发明的实施例,第二处理模块740可以包括:确定子模块、第四处理子模块和第六获取子模块。
确定子模块,用于根据全局频域特征数据和局部频域特征数据,确定融合注意力掩膜数据,其中,融合注意力掩膜数据表征全局频域特征数据和局部频域特征数据的交互数据。
第四处理子模块,用于基于融合注意力掩膜数据,对全局频域特征数据和局部频域特征数据进行融合处理,得到融合全局频域特征数据和融合局部频域特征数据。
第六获取子模块,用于根据空间特征数据、融合全局频域特征数据和融合局部频域特征数据,得到目标样本图像的检测结果。
图8示意性示出了根据本发明实施例的图像检测装置的框图。
如图8,该图像检测装置800可以包括:检测模块810。
检测模块810,用于利用图像检测模型对目标图像进行检测,得到目标图像的检测结果,其中,图像检测装置是利用根据上述图像检测模型的训练装置训练得到的。
根据本发明的实施例,第一处理模块710、第一提取模块720、第二提取模块730、第二处理模块740、训练模块750和第一确定模块760中或检测模块810的任意多个模块可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本发明的实施例,第一处理模块710、第一提取模块720、第二提取模块730、第二处理模块740、训练模块750和第一确定模块760中或检测模块810的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,第一处理模块710、第一提取模块720、第二提取模块730、第二处理模块740、训练模块750和第一确定模块760中或检测模块810的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
图9示意性示出了根据本发明实施例的适于实现图像检测模型的训练方法及图像检测方法的电子设备的方框图。
如图9所示,根据本发明实施例的电子设备900包括处理器901,其可以根据存储在只读存储器(ROM)902中的程序或者从存储部分908加载到随机访问存储器(RAM)903中的程序而执行各种适当的动作和处理。处理器901例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC))等等。处理器901还可以包括用于缓存用途的板载存储器。处理器901可以包括用于执行根据本发明实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 903中,存储有电子设备900操作所需的各种程序和数据。处理器 901、ROM902以及RAM 903通过总线904彼此相连。处理器901通过执行ROM 902和/或RAM 903中的程序来执行根据本发明实施例的方法流程的各种操作。需要注意,上述程序也可以存储在除ROM 902和RAM 903以外的一个或多个存储器中。处理器901也可以通过执行存储在上述一个或多个存储器中的程序来执行根据本发明实施例的方法流程的各种操作。
根据本发明的实施例,电子设备900还可以包括输入/输出(I/O)接口905,输入/输出(I/O)接口905也连接至总线904。电子设备900还可以包括连接至输入/输出(I/O)接口905的以下部件中的一项或多项:包括键盘、鼠标等的输入部分906;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分907;包括硬盘等的存储部分908;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分909。通信部分909经由诸如因特网的网络执行通信处理。驱动器910也根据需要连接至输入/输出(I/O)接口905。可拆卸介质911,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器910上,以便于从其上读出的计算机程序根据需要被安装入存储部分908。
本发明还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的;也可以是单独存在,而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本发明实施例的方法。
根据本发明的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质,例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如,根据本发明的实施例,计算机可读存储介质可以包括上文描述的ROM 902和/或RAM 903和/或ROM 902和RAM 903以外的一个或多个存储器。
本发明的实施例还包括一种计算机程序产品,其包括计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机系统中运行时,该程序代码用于使计算机系统实现本发明实施例所提供的图像检测模型的训练方法和图像检测方法。
在该计算机程序被处理器901执行时执行本发明实施例的系统/装置中限定的上述功能。根据本发明的实施例,上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中,该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中,该计算机程序也可以在网络介质上以信号的形式进行传输、分发,并通过通信部分909被下载和安装,和/或从可拆卸介质911被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。
在这样的实施例中,该计算机程序可以通过通信部分909从网络上被下载和安装,和/或从可拆卸介质911被安装。在该计算机程序被处理器901执行时,执行本发明实施例的系统中限定的上述功能。根据本发明的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
根据本发明的实施例,可以以一种或多种程序设计语言的任意组合来编写用于执行本发明实施例提供的计算机程序的程序代码,具体地,可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java,C++,python,“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
本领域技术人员可以理解,本发明的各个实施例中记载的特征可以进行多种组合或/或结合,即使这样的组合或结合没有明确记载于本发明中。特别地,在不脱离本发明精神和教导的情况下,本发明的各个实施例中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本发明的范围。
以上对本发明的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本发明的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本发明的范围由所附权利要求及其等同物限定。不脱离本发明的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本发明的范围之内。
Claims (11)
1.一种图像检测模型的训练方法,包括:
利用生成对抗网络的生成器对真实样本图像和参考样本图像进行数据增广处理,得到目标样本图像;
利用所述生成对抗网络的检测器对所述目标样本图像进行空间特征提取,得到空间特征数据;
利用所述检测器对所述目标样本图像进行频域特征提取,得到频域特征数据;
利用所述检测器对所述空间特征数据和所述频域特征数据进行处理,得到所述目标样本图像的检测结果,其中,所述检测结果表征所述目标样本图像是真实图像和模拟图像中的之一;
利用所述目标样本图像的检测结果训练所述生成对抗网络,得到经训练的生成对抗网络;
将经训练的检测器确定为所述图像检测模型。
2.根据权利要求1所述的方法,其中,利用生成对抗网络的生成器对真实样本图像和参考样本图像进行数据增广处理,得到目标样本图像,包括:
根据所述真实样本图像,得到模拟掩膜样本图像,其中,所述模拟掩膜样本图像表征所述真实样本图像的图像框架;
对所述真实样本图像、所述模拟掩膜样本图像和所述参考样本图像进行融合处理,得到所述目标样本图像。
3.根据权利要求2所述的方法,其中,根据所述真实样本图像,得到模拟掩膜样本图像,包括:
对所述真实样本图像进行特征提取,得到第一真实特征数据;
对所述第一真实特征数据进行卷积处理,得到所述模拟掩膜样本图像。
4.根据权利要求1所述的方法,其中,利用生成对抗网络的生成器对真实样本图像和参考样本图像进行数据增广处理,得到目标样本图像,包括:
对所述真实样本图像进行特征提取,得到第二真实特征数据,其中,所述第二真实特征数据表征所述真实样本图像的语义特征;
对所述参考样本图像进行特征提取,得到图像风格特征数据;
根据所述真实样本图像、所述参考样本图像、所述第二真实特征数据和所述图像风格特征数据,得到所述目标样本图像。
5.根据权利要求4所述的方法,其中,根据所述真实样本图像、所述参考样本图像、所述第二真实特征数据和所述图像风格特征数据,得到所述目标样本图像,包括:
对所述真实样本图像、所述参考样本图像和所述图像风格特征数据进行融合处理,得到融合图像风格特征数据;
根据所述融合图像风格特征数据和所述第二真实特征数据,得到所述目标样本图像。
6.根据权利要求2所述的方法,还包括:
利用所述检测器对所述目标样本图像进行特征提取,得到模拟真实样本图像,其中,所述模拟真实样本图像表征所述目标样本图像的图像框架;
其中,利用所述目标样本图像的检测结果训练所述生成对抗网络,得到经训练的生成对抗网络,包括:
基于第一损失函数,根据所述检测结果和所述目标样本图像的标签数据,得到第一损失函数值;
基于第二损失函数,根据所述模拟掩膜样本图像和所述模拟真实样本图像,得到第二损失函数值;
根据所述第一损失函数值和所述第二损失函数值对所述生成对抗网络进行训练,得到所述经训练的生成对抗网络。
7.根据权利要求6所述的方法,所述生成器包括多个卷积核,所述方法还包括:
确定所述多个卷积核各自之间的相似度,得到至少一个相似度;
基于第三损失函数,根据所述至少一个相似度,得到第三损失函数值;
其中,根据所述第一损失函数值和所述第二损失函数值对所述生成对抗网络进行训练,得到所述经训练的生成对抗网络,包括:
根据所述第一损失函数值、所述第二损失函数值和所述第三损失函数值对所述生成对抗网络进行训练,得到所述经训练的图像检测模型。
8.根据权利要求1~7中任一项所述的方法,其中,所述频域特征数据包括全局频域特征数据和局部频域特征数据中的至少之一;
其中,利用所述检测器对所述目标样本图像进行频域特征提取,得到频域特征数据,包括以下至少之一:
对所述目标样本图像进行第一转换处理,得到第一中间样本图像;
对所述第一中间样本图像进行全局频域特征提取,得到所述全局频域特征数据;
对所述目标样本图像进行第二转换处理,得到第二中间样本图像;
对所述第二中间样本图像进行局部频域特征提取,得到所述局部频域特征数据。
9.根据权利要求8所述的方法,其中,利用所述检测器对所述空间特征和所述频域特征进行处理,得到所述目标样本图像的检测结果,包括:
根据所述全局频域特征数据和所述局部频域特征数据,确定融合注意力掩膜数据,其中,所述融合注意力掩膜数据表征所述全局频域特征数据和所述局部频域特征数据的交互数据;
基于所述融合注意力掩膜数据,对所述全局频域特征数据和所述局部频域特征数据进行融合处理,得到融合全局频域特征数据和融合局部频域特征数据;
根据所述空间特征数据、所述融合全局频域特征数据和所述融合局部频域特征数据,得到所述目标样本图像的检测结果。
10.一种图像检测方法,包括:
利用图像检测模型对目标图像进行检测,得到所述目标图像的检测结果;
其中,所述图像检测模型是利用根据权利要求1~9中任一项所述的方法训练得到的。
11.一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行根据权利要求1~10中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310342315.3A CN116070695B (zh) | 2023-04-03 | 2023-04-03 | 图像检测模型的训练方法、图像检测方法及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310342315.3A CN116070695B (zh) | 2023-04-03 | 2023-04-03 | 图像检测模型的训练方法、图像检测方法及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116070695A true CN116070695A (zh) | 2023-05-05 |
CN116070695B CN116070695B (zh) | 2023-07-18 |
Family
ID=86180545
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310342315.3A Active CN116070695B (zh) | 2023-04-03 | 2023-04-03 | 图像检测模型的训练方法、图像检测方法及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116070695B (zh) |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015192239A1 (en) * | 2014-06-20 | 2015-12-23 | Miovision Technologies Incorporated | Machine learning platform for performing large scale data analytics |
CN108537152A (zh) * | 2018-03-27 | 2018-09-14 | 百度在线网络技术(北京)有限公司 | 用于检测活体的方法和装置 |
CN111985528A (zh) * | 2020-07-06 | 2020-11-24 | 国网天津市电力公司 | 一种基于pdgan的电缆局放数据增强方法 |
CN112102424A (zh) * | 2019-06-18 | 2020-12-18 | 顺丰科技有限公司 | 车牌图像生成模型构建方法、生成方法及装置 |
CN112686331A (zh) * | 2021-01-11 | 2021-04-20 | 中国科学技术大学 | 伪造图像识别模型训练方法及伪造图像识别方法 |
CN112766189A (zh) * | 2021-01-25 | 2021-05-07 | 北京有竹居网络技术有限公司 | 深度伪造检测方法、装置、存储介质及电子设备 |
WO2022161286A1 (zh) * | 2021-01-28 | 2022-08-04 | 腾讯科技(深圳)有限公司 | 图像检测方法、模型训练方法、设备、介质及程序产品 |
CN115690488A (zh) * | 2022-10-13 | 2023-02-03 | 深圳云天励飞技术股份有限公司 | 基于卷积神经网络模型的图像识别方法、装置及终端设备 |
CN115797731A (zh) * | 2023-02-02 | 2023-03-14 | 国能大渡河大数据服务有限公司 | 目标检测模型训练方法、检测方法、终端设备及存储介质 |
-
2023
- 2023-04-03 CN CN202310342315.3A patent/CN116070695B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015192239A1 (en) * | 2014-06-20 | 2015-12-23 | Miovision Technologies Incorporated | Machine learning platform for performing large scale data analytics |
CN108537152A (zh) * | 2018-03-27 | 2018-09-14 | 百度在线网络技术(北京)有限公司 | 用于检测活体的方法和装置 |
CN112102424A (zh) * | 2019-06-18 | 2020-12-18 | 顺丰科技有限公司 | 车牌图像生成模型构建方法、生成方法及装置 |
CN111985528A (zh) * | 2020-07-06 | 2020-11-24 | 国网天津市电力公司 | 一种基于pdgan的电缆局放数据增强方法 |
CN112686331A (zh) * | 2021-01-11 | 2021-04-20 | 中国科学技术大学 | 伪造图像识别模型训练方法及伪造图像识别方法 |
CN112766189A (zh) * | 2021-01-25 | 2021-05-07 | 北京有竹居网络技术有限公司 | 深度伪造检测方法、装置、存储介质及电子设备 |
WO2022161286A1 (zh) * | 2021-01-28 | 2022-08-04 | 腾讯科技(深圳)有限公司 | 图像检测方法、模型训练方法、设备、介质及程序产品 |
CN115690488A (zh) * | 2022-10-13 | 2023-02-03 | 深圳云天励飞技术股份有限公司 | 基于卷积神经网络模型的图像识别方法、装置及终端设备 |
CN115797731A (zh) * | 2023-02-02 | 2023-03-14 | 国能大渡河大数据服务有限公司 | 目标检测模型训练方法、检测方法、终端设备及存储介质 |
Non-Patent Citations (4)
Title |
---|
JIAMING LI, ET AL.: "Frequency-aware Discriminative Feature Learning Supervised by Single-Center Loss for Face Forgery Detection", COMPUTER VISION AND PATTERN RECOGNITION, pages 1 - 10 * |
刘志宏;李玉峰;: "基于特征融合卷积神经网络的SAR图像目标检测方法", 微处理机, no. 02, pages 33 - 39 * |
曹志义;牛少彰;张继威;: "基于半监督学习生成对抗网络的人脸还原算法研究", 电子与信息学报, no. 02, pages 74 - 81 * |
杜慧;张涛;张叶;穆绍硕;: "基于空频域结合的显著目标检测", 液晶与显示, no. 09, pages 70 - 77 * |
Also Published As
Publication number | Publication date |
---|---|
CN116070695B (zh) | 2023-07-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Yan et al. | Temporal convolutional networks for the advance prediction of ENSO | |
CN110458107B (zh) | 用于图像识别的方法和装置 | |
Zhou et al. | Dense teacher: Dense pseudo-labels for semi-supervised object detection | |
US11907675B2 (en) | Generating training datasets for training neural networks | |
US10685236B2 (en) | Multi-model techniques to generate video metadata | |
CN115861462B (zh) | 图像生成模型的训练方法、装置、电子设备及存储介质 | |
CN113254785A (zh) | 推荐模型训练方法、推荐方法和相关设备 | |
CN114330966A (zh) | 一种风险预测方法、装置、设备以及可读存储介质 | |
Zheng et al. | Deep learning-driven gaussian modeling and improved motion detection algorithm of the three-frame difference method | |
CN113297525B (zh) | 网页分类方法、装置、电子设备、及存储介质 | |
CN114282258A (zh) | 截屏数据脱敏方法、装置、计算机设备及存储介质 | |
Yang et al. | A systematical solution for face de-identification | |
CN116980541A (zh) | 视频编辑方法、装置、电子设备以及存储介质 | |
CN116070695B (zh) | 图像检测模型的训练方法、图像检测方法及电子设备 | |
CN116977247A (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN115601759A (zh) | 端到端文本识别方法、装置、设备及存储介质 | |
CN113240071B (zh) | 图神经网络处理方法、装置、计算机设备及存储介质 | |
Li et al. | Image Semantic Space Segmentation Based on Cascaded Feature Fusion and Asymmetric Convolution Module | |
CN113569081A (zh) | 图像识别方法、装置、设备及存储介质 | |
Wang | Remote sensing image semantic segmentation network based on ENet | |
Tan et al. | BSIRNet: A road extraction network with bidirectional spatial information reasoning | |
CN110610392A (zh) | 数据处理方法及系统、计算机系统和计算机可读存储介质 | |
Xue et al. | Detail feature inpainting of art images in online educational videos based on double discrimination network | |
Chen et al. | TO–YOLOX: a pure CNN tiny object detection model for remote sensing images | |
CN115238805B (zh) | 异常数据识别模型的训练方法及相关设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |