CN111768467B - 图像填充方法、装置、设备及存储介质 - Google Patents
图像填充方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN111768467B CN111768467B CN202010611012.3A CN202010611012A CN111768467B CN 111768467 B CN111768467 B CN 111768467B CN 202010611012 A CN202010611012 A CN 202010611012A CN 111768467 B CN111768467 B CN 111768467B
- Authority
- CN
- China
- Prior art keywords
- image
- feature
- module
- texture
- features
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/40—Filling a planar surface by adding surface attributes, e.g. colour or texture
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/12—Edge-based segmentation
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
- Image Generation (AREA)
Abstract
本申请实施例公开了一种图像填充方法、装置、设备及存储介质,涉及人工智能、深度学习、计算机视觉、图像填充技术领域,图像填充方法包括:获取待填充图像的横向纹理特征,待填充图像包括缺失区域;获取待填充图像的纵向纹理特征;将横向纹理特征和纵向纹理特征进行融合,获得融合纹理特征;基于待填充图像的场景信息,得到待填充图像的场景特征;将融合纹理特征与场景特征进行特征组合处理,得到组合特征;基于组合后的特征重建图像,其中重建的图像中不存在缺失区域。利用本申请能够实现高质量的图像填充。
Description
技术领域
本申请涉及人工智能、深度学习、计算机视觉、图像填充技术领域,具体地,涉及一种图像填充方法、装置、设备以及存储介质。
背景技术
图像填充技术有广泛的应用场景,例如图像编辑、图像修复、移除图像中的特定物体,等等。现有图像填充技术大多基于块匹配或纹理匹配的方法,使用普通的卷积神经网络处理,存在填充效果不够真实,纹理不自然,人工瑕疵明显,效率低下等问题。
发明内容
本申请提供了一种图像填充方法、装置、设备以及存储介质。
根据本申请的第一方面,提供了一种图像填充方法,包括:
获取待填充图像的横向纹理特征,待填充图像包括缺失区域;
获取待填充图像的纵向纹理特征;
将横向纹理特征和纵向纹理特征进行融合,获得融合纹理特征;
基于待填充图像的场景信息,得到待填充图像的场景特征;
将融合纹理特征与场景特征进行特征组合处理,得到组合特征;
基于组合后的特征重建图像,其中重建的图像中不存在缺失区域。
根据本申请的第二方面,提供了一种图像填充装置,包括:
横向卷积模块,用于获取待填充图像的横向纹理特征,横向卷积模块的卷积核的宽度大于高度,待填充图像包括缺失区域;
纵向卷积模块,用于获取待填充图像的纵向纹理特征,纵向卷积模块的卷积核的宽度小于高度;
融合卷积模块,用于将横向纹理特征和纵向纹理特征进行融合,获得融合纹理特征;
场景卷积模块,用于基于待填充图像的场景信息,得到待填充图像的场景特征;
特征组合模块,用于将融合纹理特征与场景特征进行特征组合处理,得到组合特征;
像素重建模块,用于基于组合后的特征重建图像,其中重建的图像中不存在缺失区域。
根据本申请的第三方面,提供了一种电子设备,包括:
至少一个处理器;以及
与至少一个处理器通信连接的存储器;其中,
存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行如上所述的方法。
根据本申请的第四方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,计算机指令用于使计算机执行如上所述的方法。
根据本申请的第五方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现如上所述的方法。
本申请实施例基于从待填充图像中提取的组合特征重建图像,组合特征中融合了待填充图像的横向纹理特征、纵向纹理特征以及场景特征,这些特征信息能够使重建的图像中原来缺失区域的对应位置与周围区域过渡自然,令填充效果更加生动。
应当理解,本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特征,也不用于限制本申请的范围。本申请的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1是一个示意性的带有纹理特征的图像。
图2是本申请一个实施例的图像填充方法的流程框图;
图3是本申请一个实施例的图像填充装置的结构框图;
图4是本申请一个实施例的示意性的待填充图像;
图5是本申请另一实施例的图像填充方法的逻辑过程图;
图6是对图4实施例进行图像填充处理后得到的示意性的图像;
图7是实现本申请实施例的图像填充方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
为了更清楚地描述本申请的实施例,首先对图像处理领域中图像的纹理特征进行简要描述。
纹理是一种反映图像中同质现象的视觉特征,纹理可体现物体表面的具有缓慢变化或者周期性变化的表面结构组织排列的属性。参考图1,纹理的特点体现在:是某种局部序列性的不断重复、非随机排列、纹理区域内大致上均匀统一。不同于灰度、颜色等图像特征,纹理是通过像素和像素周围空间邻域的灰度分布而表现的,即局部纹理信息,局部纹理信息在不同程度上的重复即全局纹理信息。
本申请的实施例基于图像的横向纹理特征和纵向纹理特征信息,对图像中的缺失区域进行填充。具体地,图2示出了本申请实施例的图像填充方法的流程框图,包括如下步骤:
S101:获取待填充图像的横向纹理特征,其中该待填充图像包括缺失区域;
S102:获取该待填充图像的纵向纹理特征;
S103:将获取的横向纹理特征和纵向纹理特征进行融合,获得融合纹理特征;
S104:基于该待填充图像的场景信息,得到待填充图像的场景特征;
S105:将该融合纹理特征与该场景特征进行特征组合处理,得到组合特征;
S106:基于该组合特征重建图像,其中重建的图像中不存在缺失区域。
在本申请的实施例中,待填充的图像是有缺失的图像,例如已将图像中希望删除的目标物去除,因此本申请实施例的待填充图像不是完整的图像,图像中缺失的部分区域即是待填充的区域。
根据本申请的实施例,对于待填充图像并不是使用神经网络模型直接进行填充处理,而是需要首先捕捉有缺失的待填充图像的横向纹理特征及纵向纹理特征,并将横向和纵向纹理特征融合,可得到待填充图像的融合纹理特征f_context,并且,还需要捕捉待填充图像的场景信息,可选地,这里场景信息是除去纹理信息之外的场景信息,可得到待填充图像的场景特征f_texture,之后将融合纹理特征f_context与场景特征f_texture进行特征组合,也就是将待填充图像的纹理特征与场景特征组合,使得组合特征包含了待填充图像的尽可能多的特征,可以实现更好的纹理填充,特征表达能力更强,基于该组合特征重建图像,能够得到与待填充图像对应的完整图像,重建的完整图像融合了原图像的横向纹理特征、纵向纹理特征和场景特征,因此效果更佳逼真、自然,尤其适合用于对图像中包含较多纹理特征的图像的填充处理。
在一种实施方式中,横向纹理特征与纵向纹理特征的长宽维度相同,可通过以下方式,将横向纹理特征和纵向纹理特征进行融合:
将横向纹理特征与纵向纹理特征在通道维度上进行拼接;
对拼接后的特征进行特征变换,得到融合纹理特征,
其中,经过特征变换的融合纹理特征在通道维度上的数目为预设数目。
将横向纹理特征和纵向纹理特征进行融合,可以实现更好的纹理填充,尤其适合用于对图像中包含较多纹理特征的图像的填充处理。
在一种实施方式中,通过以下方式,将融合纹理特征与场景特征进行特征组合处理,包括:
根据场景特征f_texture与融合纹理特征f_context之差的绝对值,计算得到组合掩码m;
根据下式计算组合特征f_c:
组合特征f_c=(1-m)×f_context+m×f_texture。
将融合的纹理特征与场景特征组合,可使组合特征包含待填充图像的尽可能多的特征,可以实现缺失区域与周围区域更逼真的纹理填充效果,特征表达能力更强。
与上述方法实施例相对应地,本申请实施例还提供一种图像填充装置100,参考图3,包括:
横向卷积模块101,用于获取待填充图像的横向纹理特征,横向卷积模块的卷积核的宽度大于高度,待填充图像包括缺失区域;
纵向卷积模块102,用于获取待填充图像的纵向纹理特征,纵向卷积模块的卷积核的宽度小于高度;
融合卷积模块103,用于将横向纹理特征和纵向纹理特征进行融合,获得融合纹理特征f_context;
场景卷积模块104,用于基于待填充图像的场景信息,得到待填充图像的场景特征f_texture;
特征组合模块105,用于将融合纹理特征与场景特征进行特征组合处理,得到组合特征f_c;
像素重建模块106,用于基于组合特征f_c重建图像,其中重建的图像中不存在缺失区域。
在本申请的实施例中,横向卷积模块101、纵向卷积模块102、融合卷积模块103、场景卷积模块104、特征组合模块105以及像素重建模块106是分别利用训练数据对神经网络进行训练而生成的,
其中,第一阶段,先训练场景卷积模块104与像素重建模块106,之后第二阶段,训练横向卷积模块101、纵向卷积模块102、融合卷积模块103以及特征组合模块105,训练完成后构建得到图像填充装置。
关于训练数据,可使用相同的训练数据,也即横向卷积模块101、纵向卷积模块102、融合卷积模块103、场景卷积模块104、特征组合模块105以及像素重建模块106的训练数据均包括:有缺失的待填充图像和对应的完整图像。
在本申请实施例中,利用训练数据,分阶段地训练神经网络(例如卷积神经网络、循环神经网络或其他类型神经网络),能够分别得到可提取横向纹理特征的神经网络模型(横向卷积模块101)、可提取纵向纹理特征的神经网络模型(纵向卷积模块102)、可将横向纹理特征和纵向纹理特征进行融合的神经网络模型(融合卷积模块103)、可提取场景特征的神经网络模型(场景卷积模块104)、可将融合纹理特征与场景特征进行特征组合的的神经网络模型(特征组合模块105),以及能够基于组合特征重建图像的神经网络模型(像素重建模块106)。
训练完成后,可将各个神经网络模型或称模块进行逻辑连接,得到图像填充装置100。使用时,将待填充图像输入该图像填充装置中,经过各个模块处理之后,可输出填充好的图像。
在一种实施方式中,图像填充装置100还包括:预处理模块,用于将目标图像中的目标区域去除,得到待填充图像,待填充图像中的缺失区域为待填充区域。
在一种实施方式中,横向纹理特征与纵向纹理特征的长宽维度相同;融合卷积模块103包括:拼接子模块,用于将横向纹理特征与纵向纹理特征在通道维度上进行拼接;特征变换子模块,用于对拼接子模块得到的拼接特征进行特征变换,得到融合纹理特征,其中,经过特征变换的融合纹理特征在通道维度上的数目为预设数目。
在本申请的实施例中,可选地,横向纹理特征与纵向纹理特征各自对应矩阵的长宽维度相同,且图像通道数不同,例如,横向纹理特征表示为三维矩阵[w,h,c1],纵向纹理特征表示为三维矩阵[w,h,c2],其中,w和h分别为长和宽,c1为横向纹理特征的通道数,c2为纵向纹理特征的通道数。可通过特征变换操作,将横向纹理特征的矩阵[w,h,c1]与纵向纹理特征的矩阵[w,h,c2]在通道维度上拼接,可得到三维矩阵[w,h,c1+c2],通过这种拼接处理能够使两者的特征融合,达到强化整体填充效果的目的。
在一种实施方式中,特征组合模块105包括:掩码计算子模块,用于根据场景特征f_texture与融合纹理特征f_context之差的绝对值,计算得到组合掩码m;组合特征计算子模块,用于根据下式计算组合特征f_c:
组合特征f_c=(1-m)×f_context+m×f_texture。
其中,f_c表示组合特征,f_context表示所述融合纹理特征,f_texture表示所述场景特征,m表示组合掩码。
在一种实施方式中,横向卷积模块101的卷积核的宽度大于高度,例如使用3×7卷积核,其输出为横向纹理特征,此设计能增大横向感受野;纵向卷积模块102的卷积核的宽度小于高度,例如使用7×3卷积核,其输出为纵向纹理特征,此设计能增大纵向感受野。
在一种实施方式中,场景卷积模块104的卷积核大于融合卷积模块103的卷积核,可使场景特征的尺寸大于横向和纵向纹理融合后的特征尺寸,使场景特征可覆盖到填充区域。
关于卷积核,可理解为是图像处理时给定输入图像,输入图像中一个小区域中像素加权平均后成为输出图像中的每个对应像素,其中权值由一个函数定义,这个函数称为卷积核。
本申请实施例的图像填充装置100中的各个模块的功能与前述方法实施例中描述的内容相对应,也就是,图像填充装置100中的各个模块可用于实现前述图像填充方法的各个步骤。以下通过具体实施例详细描述本申请实施例的实现方式。
参考图4,示意性地示出了本申请一个实施例的待填充图像,为描述方便,图4中以涂色的方式将希望去除的物体标出,即海边沙滩上的一对躺椅。
根据本申请实施例的图像填充方法,可选地,预处理模块可对目标图像进行预处理:将目标图像中的目标区域去除,得到待填充图像,所述待填充图像中缺失的区域为待填充区域。
在图4实施例中,目标原始图像为包含躺椅的海滩图片,可通过已知的图像分割技术(例如边缘分割、语义分割的方式),将躺椅从原始图片中抠除,可得到有缺失的待填充图像,即缺失躺椅区域的海滩图像,缺失的区域就是待填充的区域。
图5示意性地示出了本申请实施例的图像填充方法的逻辑过程图,结合图5来看,将待填充图像分别输入方向卷积模块(包含横向卷积模块101、纵向卷积模块102和融合卷积模块103)以及场景卷积模块104,对待填充图像提取相应的特征,得到的融合纹理特征和场景特征进入特征组合模块105得到组合特征f_c,这里,可将组合特征再次分别输入同样的方向卷积模块(包含横向卷积模块、纵向卷积模块和融合卷积模块)以及场景卷积模块,并利用特征组合模块得到组合特征,重复上述处理,能够得到更好的特征提取效果。
最后,像素重建模块基于得到的组合特征重建图像。组合特征中融合了待填充图像的横向纹理特征、纵向纹理特征以及场景特征,这些特征信息能够在图像重建中表达出来,使重建的图像中原来缺失区域的对应位置与周围区域过渡自然。图6示意性地示出了重建的图像,可以看到,图6中对躺椅对应区域的填充融合了沙滩和树的倒影的特征,填充效果逼真、自然。
根据本申请的实施例,本申请还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
如图7所示,是根据本申请实施例的图像填充方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图7所示,该电子设备包括:一个或多个处理器1001、存储器1002,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示图形用户界面(Graphical User Interface,GUI)的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图7中以一个处理器1001为例。
存储器1002即为本申请所提供的非瞬时计算机可读存储介质。其中,存储器存储有可由至少一个处理器执行的指令,以使至少一个处理器执行本申请所提供的图像填充方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的图像填充方法。
存储器1002作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的图像填充方法对应的程序指令/模块。处理器1001通过运行存储在存储器1002中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的图像填充方法。
存储器1002可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据搜索结果的分析处理电子设备的使用所创建的数据等。此外,存储器1002可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器1002可选包括相对于处理器1001远程设置的存储器,这些远程存储器可以通过网络连接至搜索结果的分析处理电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
本申请实施例的图像填充方法对应的电子设备还可以包括:输入装置1003和输出装置1004。处理器1001、存储器1002、输入装置1003和输出装置1004可以通过总线或者其他方式连接,本申请图7实施例中以通过总线连接为例。
输入装置1003可接收输入的数字或字符信息,以及产生与搜索结果的分析处理电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置1004可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(Liquid Crystal Display,LCD)、发光二极管(Light EmittingDiode,LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用集成电路(Application Specific Integrated Circuits,ASIC)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(programmable logic device,PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(Cathode Ray Tube,阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(Local Area Network,LAN)、广域网(Wide Area Network,WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务("Virtual Private Server",或简称"VPS")中,存在的管理难度大,业务扩展性弱的缺陷。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
Claims (13)
1.一种图像填充方法,包括:
获取待填充图像的横向纹理特征,所述待填充图像包括缺失区域;
获取所述待填充图像的纵向纹理特征;其中,所述横向纹理特征与所述纵向纹理特征的长宽维度相同;
将所述横向纹理特征与所述纵向纹理特征在通道维度上进行拼接;
对拼接后的特征进行特征变换,得到融合纹理特征,其中,经过特征变换的所述融合纹理特征在通道维度上的数目为预设数目;
基于所述待填充图像的场景信息,得到所述待填充图像的场景特征;
将所述融合纹理特征与所述场景特征进行特征组合处理,得到组合特征;
基于所述组合特征重建图像,其中重建的图像中不存在缺失区域;
其中,所述将所述融合纹理特征与所述场景特征进行特征组合处理,包括:
根据所述场景特征与所述融合纹理特征之差的绝对值,计算得到组合掩码;
根据所述场景特征、所述融合纹理特征以及所述组合掩码得到组合特征。
2.根据权利要求1所述的方法,其中,
根据下式计算所述组合特征:
组合特征f_c = (1-m)f_context + m/>f_texture
其中,f_c表示组合特征,f_context表示所述融合纹理特征,f_texture表示所述场景特征,m表示组合掩码。
3.根据权利要求1所述的方法,还包括:
将目标图像中的目标区域去除,得到待填充图像,所述待填充图像中的缺失区域为待填充区域。
4.根据权利要求1-3中任一项所述的方法,其中,
所述获取待填充图像的横向纹理特征、所述获取所述待填充图像的纵向纹理特征、所述将所述横向纹理特征和所述纵向纹理特征进行融合、所述基于所述待填充图像的场景信息得到所述待填充图像的场景特征、所述将所述融合纹理特征与所述场景特征进行特征组合处理以及所述基于所述组合特征重建图像分别由横向卷积模块、纵向卷积模块、融合卷积模块、场景卷积模块、特征组合模块以及像素重建模块执行,其中,
所述横向卷积模块、所述纵向卷积模块、所述融合卷积模块、所述场景卷积模块、所述特征组合模块以及所述像素重建模块是分别利用训练数据对神经网络进行训练而生成的,其中,先训练所述场景卷积模块与所述像素重建模块,后训练所述横向卷积模块、所述纵向卷积模块、所述融合卷积模块以及所述特征组合模块,训练完成后构建得到所述图像填充装置。
5.根据权利要求4所述的方法,其中,
所述横向卷积模块、所述纵向卷积模块、所述融合卷积模块、所述场景卷积模块、所述特征组合模块以及所述像素重建模块的训练数据均包括:有缺失的待填充图像和对应的完整图像。
6.一种图像填充装置,包括:
横向卷积模块,用于获取待填充图像的横向纹理特征,所述横向卷积模块的卷积核的宽度大于高度,所述待填充图像包括缺失区域;
纵向卷积模块,用于获取所述待填充图像的纵向纹理特征,所述纵向卷积模块的卷积核的宽度小于高度,其中,所述横向纹理特征与所述纵向纹理特征的长宽维度相同;
融合卷积模块,用于将所述横向纹理特征和所述纵向纹理特征进行融合,获得融合纹理特征;
场景卷积模块,用于基于所述待填充图像的场景信息,得到所述待填充图像的场景特征;
特征组合模块,用于将所述融合纹理特征与所述场景特征进行特征组合处理,得到组合特征;
像素重建模块,用于基于所述组合后的特征重建图像,其中重建的图像中不存在缺失区域;
所述融合卷积模块包括:
拼接子模块,用于将所述横向纹理特征与所述纵向纹理特征在通道维度上进行拼接;
特征变换子模块,用于对所述拼接子模块得到的拼接特征进行特征变换,得到所述融合纹理特征,其中,经过特征变换的所述融合纹理特征在通道维度上的数目为预设数目;
所述特征组合模块包括:
掩码计算子模块,用于根据所述场景特征与所述融合纹理特征之差的绝对值,计算得到组合掩码;
组合特征计算子模块,用于根据所述场景特征、所述融合纹理特征以及所述组合掩码得到组合特征。
7.根据权利要求6所述的装置,其中,根据下式计算所述组合特征:
组合特征f_c = (1-m)f_context + m/>f_texture
其中,f_c表示组合特征,f_context表示所述融合纹理特征,f_texture表示所述场景特征,m表示组合掩码。
8.根据权利要求6所述的装置,其中,
所述场景卷积模块的卷积核大于所述融合卷积模块的卷积核。
9.根据权利要求6所述的装置,还包括:
预处理模块,用于将目标图像中的目标区域去除,得到待填充图像,所述待填充图像中的缺失区域为待填充区域。
10.根据权利要求6-9中任一项所述的装置,其中,
所述横向卷积模块、所述纵向卷积模块、所述融合卷积模块、所述场景卷积模块、所述特征组合模块以及所述像素重建模块是分别利用训练数据对神经网络进行训练而生成的,其中,先训练所述场景卷积模块与所述像素重建模块,后训练所述横向卷积模块、所述纵向卷积模块、所述融合卷积模块以及所述特征组合模块,训练完成后构建得到所述图像填充装置。
11.根据权利要求10所述的装置,其中,
所述横向卷积模块、所述纵向卷积模块、所述融合卷积模块、所述场景卷积模块、所述特征组合模块以及所述像素重建模块的训练数据均包括:有缺失的待填充图像和对应的完整图像。
12.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1至5中任一项所述的方法。
13.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1至5中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010611012.3A CN111768467B (zh) | 2020-06-30 | 2020-06-30 | 图像填充方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010611012.3A CN111768467B (zh) | 2020-06-30 | 2020-06-30 | 图像填充方法、装置、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111768467A CN111768467A (zh) | 2020-10-13 |
CN111768467B true CN111768467B (zh) | 2023-08-04 |
Family
ID=72722911
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010611012.3A Active CN111768467B (zh) | 2020-06-30 | 2020-06-30 | 图像填充方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111768467B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112417570A (zh) * | 2020-12-03 | 2021-02-26 | 杭州群核信息技术有限公司 | 一种连纹砖铺贴设计方法、系统和计算机设备 |
CN112819873B (zh) * | 2021-02-05 | 2022-06-24 | 四川大学 | 高泛化性的跨域道路场景语义分割方法和系统 |
CN112967355A (zh) * | 2021-03-05 | 2021-06-15 | 北京百度网讯科技有限公司 | 图像填充方法及装置、电子设备和介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102324102A (zh) * | 2011-10-08 | 2012-01-18 | 北京航空航天大学 | 一种图像场景空洞区域结构和纹理信息自动填补方法 |
CN109829850A (zh) * | 2019-03-06 | 2019-05-31 | 百度在线网络技术(北京)有限公司 | 图像处理方法、装置、设备及计算机可读介质 |
CN110246209A (zh) * | 2019-06-19 | 2019-09-17 | 腾讯科技(深圳)有限公司 | 图像处理方法及装置 |
CN110852980A (zh) * | 2019-11-13 | 2020-02-28 | 北京京东方专用显示科技有限公司 | 交互式图像填充方法及系统、服务器、设备及介质 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10755391B2 (en) * | 2018-05-15 | 2020-08-25 | Adobe Inc. | Digital image completion by learning generation and patch matching jointly |
-
2020
- 2020-06-30 CN CN202010611012.3A patent/CN111768467B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102324102A (zh) * | 2011-10-08 | 2012-01-18 | 北京航空航天大学 | 一种图像场景空洞区域结构和纹理信息自动填补方法 |
CN109829850A (zh) * | 2019-03-06 | 2019-05-31 | 百度在线网络技术(北京)有限公司 | 图像处理方法、装置、设备及计算机可读介质 |
CN110246209A (zh) * | 2019-06-19 | 2019-09-17 | 腾讯科技(深圳)有限公司 | 图像处理方法及装置 |
CN110852980A (zh) * | 2019-11-13 | 2020-02-28 | 北京京东方专用显示科技有限公司 | 交互式图像填充方法及系统、服务器、设备及介质 |
Non-Patent Citations (2)
Title |
---|
Image inpainting on satellite image using texture synthesis & region filling algorithm;Geeta K. Sarpate; Shanti K. Guru;《2014 International Conference on Advances in Communication and Computing Technologies (ICACACT 2014)》;摘要 * |
采用曲率扩散和边缘重建的深度图像空洞修复;牟琦;夏蕾;李占利;李洪安;;西安科技大学学报(02);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN111768467A (zh) | 2020-10-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111768467B (zh) | 图像填充方法、装置、设备及存储介质 | |
CN111652828B (zh) | 人脸图像生成方法、装置、设备和介质 | |
CN111291885B (zh) | 近红外图像的生成方法、生成网络的训练方法和装置 | |
CN111182254B (zh) | 一种视频处理方法、装置、设备及存储介质 | |
CN115100339B (zh) | 图像生成方法、装置、电子设备和存储介质 | |
Ning et al. | Accurate and lightweight image super-resolution with model-guided deep unfolding network | |
CN111768468B (zh) | 图像填充方法、装置、设备及存储介质 | |
CN115082639A (zh) | 图像生成方法、装置、电子设备和存储介质 | |
CN111739167B (zh) | 3d人头重建方法、装置、设备和介质 | |
CN112634282B (zh) | 图像处理方法、装置以及电子设备 | |
CN111832745A (zh) | 数据增广的方法、装置及电子设备 | |
CN111340905B (zh) | 图像风格化方法、装置、设备和介质 | |
CN112308051B (zh) | 文本框检测方法、装置、电子设备和计算机存储介质 | |
CN111768356A (zh) | 一种人脸图像融合方法、装置、电子设备及存储介质 | |
CN113409430B (zh) | 可驱动三维人物生成方法、装置、电子设备及存储介质 | |
CN111754431B (zh) | 一种图像区域替换方法、装置、设备及存储介质 | |
CN112967355A (zh) | 图像填充方法及装置、电子设备和介质 | |
CN111768466B (zh) | 图像填充方法、装置、设备及存储介质 | |
CN112669431B (zh) | 图像处理方法、装置、设备、存储介质以及程序产品 | |
CN117422851A (zh) | 虚拟换衣方法及其装置、电子设备 | |
US20230115765A1 (en) | Method and apparatus of transferring image, and method and apparatus of training image transfer model | |
CN111784799B (zh) | 图像填充方法、装置、设备及存储介质 | |
CN115222895A (zh) | 图像生成方法、装置、设备以及存储介质 | |
CN111738913A (zh) | 视频填充方法、装置、设备及存储介质 | |
CN111680623B (zh) | 姿态转换方法及装置、电子设备、存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |