CN111062877A - 边缘学习的图像填充方法、装置、终端及可读存储介质 - Google Patents

边缘学习的图像填充方法、装置、终端及可读存储介质 Download PDF

Info

Publication number
CN111062877A
CN111062877A CN201910784055.9A CN201910784055A CN111062877A CN 111062877 A CN111062877 A CN 111062877A CN 201910784055 A CN201910784055 A CN 201910784055A CN 111062877 A CN111062877 A CN 111062877A
Authority
CN
China
Prior art keywords
image
convolution model
edge
preset
background
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910784055.9A
Other languages
English (en)
Inventor
王健宗
王义文
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Technology Shenzhen Co Ltd
Original Assignee
Ping An Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Technology Shenzhen Co Ltd filed Critical Ping An Technology Shenzhen Co Ltd
Priority to CN201910784055.9A priority Critical patent/CN111062877A/zh
Priority to PCT/CN2019/118150 priority patent/WO2021035979A1/zh
Publication of CN111062877A publication Critical patent/CN111062877A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/77Retouching; Inpainting; Scratch removal
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/40Filling a planar surface by adding surface attributes, e.g. colour or texture

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)

Abstract

本发明涉及图像处理领域,提供一种边缘学习的图像填充方法、装置、终端及可读存储介质,所述方法包括以下步骤:基于原始图像对应的灰度图像以及原始图像对应的掩模图像,确定背景灰度图像,而后基于原始图像对应的边缘图像以及所述掩模图像确定背景边缘图像,接下来基于所述背景灰度图像、所述背景边缘图像、所述掩模图像以及第一预设空洞卷积模型,生成缺失边缘图像,然后基于所述原始图像对应的背景图像、所述背景边缘图像、所述缺失边缘图像、所述掩模图像以及第二预设空洞卷积模型,生成原始图像对应的填充图像。通过两阶段的对抗模型实现了对待重建图像的边缘修复,而后进行颜色填充,使得填充区更好地再现图像精细细节。

Description

边缘学习的图像填充方法、装置、终端及可读存储介质
技术领域
本发明涉及图像处理领域,尤其涉及一种边缘学习的图像填充方法、装置、终端及可读存储介质。
背景技术
图像修复指重建图像和视频中丢失或损坏的部分的过程。例如在博物馆中,这项工作常由经验丰富的博物馆管理员或者艺术品修复师来进行;数码世界中,图像修复又称图像插值或视频插值,指利用复杂的算法来替换已丢失、损坏的图像数据,主要替换一些小区域和瑕疵。
目前,通过填充一个已有图像补丁片段或者利用基于背景进行扩散填充,在修复图像时,过度平滑而使修复区域模糊不清,没有重建出理想的细节效果。
发明内容
本发明的主要目的在于提供一种边缘学习的图像填充方法、装置、终端及可读存储介质,旨在解决现有的图像修复无法重建出理想细节的技术问题。
为实现上述目的,本发明提供一种边缘学习的图像填充方法,所述边缘学习的图像填充方法包括以下步骤:
基于原始图像对应的灰度图像以及原始图像对应的掩模图像,确定背景灰度图像;
基于原始图像对应的边缘图像以及所述掩模图像确定背景边缘图像;
基于所述背景灰度图像、所述背景边缘图像、所述掩模图像以及第一预设空洞卷积模型,生成缺失边缘图像;
基于所述原始图像对应的背景图像、所述背景边缘图像、所述缺失边缘图像、所述掩模图像以及第二预设空洞卷积模型,生成原始图像对应的填充图像。
可选地,所述终端包括第一鉴别器,所述基于所述背景灰度图像、所述背景边缘图像、所述掩模图像以及第一预设空洞卷积模型,生成缺失边缘图像的步骤包括:
基于所述背景灰度图像、所述背景边缘图像以及所述掩模图像训练第一预设空洞卷积模型;
基于第一鉴别器确定所述第一预设空洞卷积模型是否收敛;
在确定所述第一预设空洞卷积模型收敛时,确定所述第一预设空洞卷积模型为第一目标空洞卷积模型;
基于所述背景灰度图像、所述背景边缘图像、所述掩模图像以及所述第一目标空洞卷积模型,生成缺失边缘图像。
可选地,所述基于第一鉴别器确定所述第一预设空洞卷积模型是否收敛的步骤之后,还包括:
在确定所述第一预设空洞卷积模型不收敛时,按照第一预设规则更新所述第一预设空洞卷积模型的第一学习率;
基于更新后的第一学习率更新所述第一预设空洞卷积模型,将更新后的第一预设空洞卷积模型作为第一预设空洞卷积模型,继续执行基于所述背景灰度图像、所述背景边缘图像以及所述掩模图像训练第一预设空洞卷积模型的步骤。
可选地,所述基于第一鉴别器确定所述第一预设空洞卷积模型是否收敛的步骤包括:
基于第一输入数据以及所述第一鉴别器,确定所述第一预设空洞卷积模型对应的第一对抗损失函数,其中,所述第一输入数据包括所述灰度图像、所述边缘图像和所述缺失边缘图像;
基于第二输入数据以及所述第一鉴别器,确定所述第一预设空洞卷积模型对应的特征匹配损失函数,其中,所述第二输入数据包括所述边缘图像和所述缺失边缘图像;
基于所述第一对抗损失函数以及所述特征匹配损失函数确定所述第一预设空洞卷积模型的损失函数;
基于所述第一预设空洞卷积模型的损失函数确定所述第一预设空洞卷积模型是否收敛。
可选地,所述终端包括第二鉴别器,所述基于所述原始图像对应的背景图像、所述背景边缘图像、所述缺失边缘图像、所述掩模图像以及第二预设空洞卷积模型,生成原始图像对应的填充图像的步骤包括:
基于所述缺失边缘图像、所述背景边缘图像以及所述掩模图像,确定复合边缘图像;
基于所述原始图像对应的背景图像以及所述复合边缘图像训练第二预设空洞卷积模型;
基于第二鉴别器以及预设卷积神经网络确定所述第二预设空洞卷积模型是否收敛;
在确定所述第二预设空洞卷积模型收敛时,确定所述第二预设空洞卷积模型为第二目标空洞卷积模型;
基于所述原始图像对应的背景图像、所述复合边缘图像以及第二目标空洞卷积模型,生成原始图像对应的填充图像。
可选地,所述基于第二鉴别器以及预设卷积神经网络确定所述第二预设空洞卷积模型是否收敛的步骤之后,还包括:
在确定所述第二预设空洞卷积模型不收敛时,按照第二预设规则更新所述第二预设空洞卷积模型的第二学习率;
基于更新后的第二学习率更新所述第二预设空洞卷积模型,将更新后的第二预设空洞卷积模型作为第二预设空洞卷积模型,继续执行基于所述原始图像对应的背景图像以及所述复合边缘图像训练第二预设空洞卷积模型的步骤。
可选地,所述基于第二鉴别器以及预设卷积神经网络确定所述第二预设空洞卷积模型是否收敛的步骤包括:
基于第三输入数据以及所述第二鉴别器,确定所述第二预设空洞卷积模型对应的第二对抗损失函数;
基于第四输入数据以及预设卷积神经网络,确定所述第二预设空洞卷积模型对应的感知损失函数;
基于第五输入数据以及预设卷积神经网络,确定所述第二预设空洞卷积模型对应的风格损失函数;
基于所述第二对抗损失函数、所述感知损失函数以及所述风格损失函数确定所述第二预设空洞卷积模型的损失函数;
基于所述第二预设空洞卷积模型的损失函数确定所述第二预设空洞卷积模型是否收敛。
此外,为实现上述目的,本发明还提供一种边缘学习的图像填充装置,所述边缘学习的图像填充装置包括:
第一确定模块,基于原始图像对应的灰度图像以及原始图像对应的掩模图像,确定背景灰度图像;
第二确定模块,基于原始图像对应的边缘图像以及所述掩模图像确定背景边缘图像;
第一生成模块,基于所述背景灰度图像、所述背景边缘图像、所述掩模图像以及第一预设空洞卷积模型,生成缺失边缘图像;
第二生成模块,基于所述原始图像对应的背景图像、所述背景边缘图像、所述缺失边缘图像、所述掩模图像以及第二预设空洞卷积模型,生成原始图像对应的填充图像。
此外,为实现上述目的,本发明还提供一种终端,所述终端包括处理器、存储器、以及存储在所述存储器上并可被所述处理器执行的边缘学习的图像填充程序,其中所述边缘学习的图像填充程序被所述处理器执行时,实现如上述的边缘学习的图像填充方法的步骤。
此外,为实现上述目的,本发明还提供一种可读存储介质,所述可读存储介质上存储有边缘学习的图像填充程序,所述边缘学习的图像填充程序被处理器执行时实现上述任一项所述的边缘学习的图像填充方法的步骤。
本发明提供一种边缘学习的图像填充方法,基于原始图像对应的灰度图像以及原始图像对应的掩模图像,确定背景灰度图像,而后基于原始图像对应的边缘图像以及所述掩模图像确定背景边缘图像,接下来基于所述背景灰度图像、所述背景边缘图像、所述掩模图像以及第一预设空洞卷积模型,生成缺失边缘图像,然后基于所述原始图像对应的背景图像、所述背景边缘图像、所述缺失边缘图像、所述掩模图像以及第二预设空洞卷积模型,生成原始图像对应的填充图像。通过两阶段的对抗模型实现了对待重建图像的边缘修复,而后进行颜色填充,使得填充区更好地再现图像精细细节。
附图说明
图1为本发明实施例方案中涉及的边缘学习的图像填充终端的硬件结构示意图;
图2为本发明边缘学习的图像填充方法第一实施例的流程示意图;
图3为本发明边缘学习的图像填充方法第二实施例的流程示意图;
图4为本发明边缘学习的图像填充装置的功能模块示意图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本发明实施例涉及的边缘学习的图像填充方法主要应用于终端,该边终端可以是PC、便携计算机、移动终端等具有显示和处理功能的设备。
参照图1,图1为本发明实施例方案中涉及的边缘学习的图像填充终端的硬件结构示意图。本发明实施例中,边缘学习的图像填充终端可以包括处理器1001(例如CPU),通信总线1002,用户接口1003,网络接口1004,存储器1005。其中,通信总线1002用于实现这些组件之间的连接通信;用户接口1003可以包括显示屏(Display)、输入单元比如键盘(Keyboard);网络接口1004可选的可以包括标准的有线接口、无线接口(如WI-FI接口);存储器1005可以是高速RAM存储器,也可以是稳定的存储器(non-volatile memory),例如磁盘存储器,存储器1005可选的还可以是独立于前述处理器 1001的存储装置。
本领域技术人员可以理解,图1中示出的硬件结构并不构成对终端的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
继续参照图1,图1中作为一种可读存储介质的存储器1005可以包括操作系统、网络通信模块以及边缘学习的图像填充程序。
在图1中,网络通信模块主要用于连接服务器,与服务器进行数据通信;而处理器1001可以调用存储器1005中存储的边缘学习的图像填充程序,并执行本发明实施例提供的边缘学习的图像填充方法。
本发明实施例提供了一种边缘学习的图像填充方法。
参照图2,图2为本发明边缘学习的图像填充方法第一实施例的流程示意图。
本实施例中,所述边缘学习的图像填充方法包括以下步骤:
步骤S10,基于原始图像对应的灰度图像以及原始图像对应的掩模图像,确定背景灰度图像;
在本实施例中,原始图像是待修复的图像,该图像中存在像素缺失;灰度图像是每个像素只有一个采样颜色的图像,这类图像通常显示为从最暗黑色到最亮的白色的灰度;掩模图像是由原始图像衍生的图像,即将原始图像中缺失区域的像素点的像素值定义为1,缺失区域以外的区域定义为背景,背景中像素点的像素值定义为0,也就是说掩模图像中像素点的取值要么为1,要么为0。
具体地,为了描述方便,定义原始图像用Igt表示,灰度图像用Igray表示,掩模图像用M表示,其中,Mi=0表示背景,Mi=1表示缺失区域,背景灰度图像用
Figure RE-GDA0002411202190000061
表示,根据原始图像对应的灰度图像Igray以及原始图像对应的掩模图像M,确定背景灰度图像
Figure RE-GDA0002411202190000062
公式如下,其中,⊙表示哈达玛积。
Figure RE-GDA0002411202190000063
哈达玛积(Hadamard product)是矩阵的一类运算,若A=(aij)和B=(bij)是两个同阶矩阵,若cij=aij×bij,则称矩阵C=(cij)为A和B的哈达玛积,或称基本积。
步骤S20,基于原始图像对应的边缘图像以及所述掩模图像确定背景边缘图像;
在本实施例中,为了描述方便,定义原始图像对应的边缘图像为Cgt,掩模图像用M表示,其中,Mi=0表示背景,Mi=1表示缺失区域,根据原始图像对应的边缘图像Cgt以及掩模图像M,确定背景边缘图像
Figure RE-GDA0002411202190000071
公式如下,其中,⊙表示哈达玛积。
Figure RE-GDA0002411202190000072
步骤S30,基于所述背景灰度图像、所述背景边缘图像、所述掩模图像以及第一预设空洞卷积模型,生成缺失边缘图像;
在本实施例中,原始图像是存在像素缺失的图像,缺失图像的区域也包括图像边缘,在本发明中为了对图像进行修复,首先修复图像的缺失边缘。
具体地,步骤S30包括:
步骤S31,基于所述背景灰度图像、所述背景边缘图像以及所述掩模图像训练第一预设空洞卷积模型;
在本实施例中,第一预设空洞卷积模型是一种卷积神经网络,卷积神经网络仿造生物的视知觉机制构建,可以进行监督学习和非监督学习,其隐含层内的卷积核参数共享和层间连接的稀疏性使得卷积神经网络能够以较小的计算量对格点化特征,例如像素和音频进行学习、有稳定的效果且对数据没有额外的特征工程要求。
具体地,将背景灰度图像、背景边缘图像以及掩模图像作为样本对第一预设空洞卷积模型进行训练,直到第一预设空洞卷积模型收敛为止,其中,第一预设空洞卷积模型的输出是缺失边缘图像。在第一预设空洞卷积模型的训练过程中所输出的缺失边缘图像是否准确,需要进一步由第一鉴别器进行鉴别,第一鉴别器采用PatchGAN架构,只在补丁patch范围内对结构进行判断。为了描述方便,第一预设空洞卷积模型用G1,缺失边缘图像用Cpred表示,计算公式如下:
Figure RE-GDA0002411202190000073
其中,
Figure RE-GDA0002411202190000074
是背景灰度图像,M是掩模图像,背景边缘图像
Figure RE-GDA0002411202190000075
步骤S32,基于第一鉴别器确定所述第一预设空洞卷积模型是否收敛;
在本实施例中,在第一预设空洞卷积模型的训练过程中所输出的缺失边缘图像是否准确,需要进一步由第一鉴别器进行鉴别。第一预设空洞卷积模型收敛时,则输出的缺失边缘图像是相对准确的。
具体地,步骤S32包括:
步骤a,基于第一输入数据以及所述第一鉴别器,确定所述第一预设空洞卷积模型对应的第一对抗损失函数,其中,所述第一输入数据包括所述灰度图像、所述边缘图像和所述缺失边缘图像;
在本实施例中,判断第一预设空洞卷积模型是否收敛,需要计算出第一预设空洞卷积模型的损失函数,其中,第一预设空洞卷积模型的损失函数包括对抗损失函数和特征匹配函数。
具体地,为了描述方便,第一鉴别器用D1表示,则根据灰度图像Igray、边缘图像Cgt和缺失边缘图像Cpred以及第一鉴别器用D1,计算得到第一对抗损失函数Ladv,1,公式如下所示:
Figure RE-GDA0002411202190000081
步骤b,基于第二输入数据以及所述第一鉴别器,确定所述第一预设空洞卷积模型对应的特征匹配损失函数,其中,所述第二输入数据包括所述边缘图像和所述缺失边缘图像;
在本实施例中,为了描述方便,特征匹配损失函数用LFM表示,根据边缘图像Cgt、缺失边缘图像Cpred以及第一鉴别器用D1,计算得到特征匹配损失函数LFM,公式如下所示:
Figure RE-GDA0002411202190000082
步骤c,基于所述第一对抗损失函数以及所述特征匹配损失函数确定所述第一预设空洞卷积模型的损失函数;
在本实施例中,进一步根据第一对抗损失函数Ladv,1和特征匹配损失函数 LFM,计算出第一预设空洞卷积模型的损失函数LG1,公式如下所示:
Figure RE-GDA0002411202190000083
其中,λadv,1和λFM是正则化参数,可选地,λadv,1=1,λFM=10。
步骤d,基于所述第一预设空洞卷积模型的损失函数确定所述第一预设空洞卷积模型是否收敛。
在本实施例中,根据第一对抗损失函数Ladv,1和特征匹配损失函数LFM,计算出第一预设空洞卷积模型的损失函数LG1,按照预设的收敛判断规则,根据损失函数LG1确定第一预设空洞卷积模型是否收敛,预设的收敛判断规则在本发明中不做限定,可选地,预设的收敛判断规则为在第一预设空洞卷积模型训练过程中,本次训练的损失函数与上次训练的损失函数的差值小于预设值时,则判定第一预设空洞卷积模型收敛,如果本次训练的损失函数与上次训练的损失函数的差值大于预设值时,则判定第一预设空洞卷积模型不收敛,需要更新第一预设空洞卷积模型的参数,继续对更新后的第一预设空洞卷积模型进行训练。
步骤S33,在确定所述第一预设空洞卷积模型收敛时,确定所述第一预设空洞卷积模型为第一目标空洞卷积模型;
在本实施例中,模型训练过程中,当模型收敛时表示模型训练结束,根据模型的损失函数判断模型收敛情况。具体地,在第一预设空洞卷积模型训练过程中,如果本次训练的损失函数与上次训练的损失函数的差值小于预设值时,则判定第一预设空洞卷积模型收敛,故将当前的第一预设空洞卷积模型作为第一目标空洞卷积模型。
步骤S34,基于所述背景灰度图像、所述背景边缘图像、所述掩模图像以及所述第一目标空洞卷积模型,生成缺失边缘图像。
在本实施例中,第一目标空洞卷积模型是经过训练后的模型,该模型是收敛的,为了描述方便第一目标空洞卷积模型用GF1,则根据背景灰度图像
Figure RE-GDA0002411202190000091
背景边缘图像
Figure RE-GDA0002411202190000092
掩模图像M以及第一目标空洞卷积模型GF1,生成缺失边缘图像Cpred,公式如下:
Figure RE-GDA0002411202190000093
步骤S35,在确定所述第一预设空洞卷积模型不收敛时,按照第一预设规则更新所述第一预设空洞卷积模型的第一学习率;
在本实施例中,在第一预设空洞卷积模型训练过程中,本次训练的损失函数与上次训练的损失函数的差值大于预设值时,则判定第一预设空洞卷积模型不收敛,此时,需要更新第一预设空洞卷积模型的参数,继续对更新后的第一预设空洞卷积模型进行训练。学习率决定模型参数,故根据预设规则更新第一预设空洞卷积模型的学习率,进而调整第一预设空洞卷积模型的参数。
步骤S36,基于更新后的第一学习率更新所述第一预设空洞卷积模型,将更新后的第一预设空洞卷积模型作为第一预设空洞卷积模型,继续执行基于所述背景灰度图像、所述背景边缘图像以及所述掩模图像训练第一预设空洞卷积模型的步骤。
在本实施例中,学习率决定模型参数,故根据预设规则更新第一预设空洞卷积模型的学习率后,进一步根据更新后的第一学习率更新第一预设空洞卷积模型,也就是更新第一预设空洞卷积模型的参数。接下来,继续对第一预设空洞卷积模型进行训练,也就是继续执行基于所述背景灰度图像、所述背景边缘图像以及所述掩模图像训练第一预设空洞卷积模型的步骤。
步骤S40,基于所述原始图像对应的背景图像、所述背景边缘图像、所述缺失边缘图像、所述掩模图像以及第二预设空洞卷积模型,生成原始图像对应的填充图像。
在本实施例中,根据背景灰度图像、背景边缘图像、掩模图像以及第一目标空洞卷积模型,生成缺失边缘图像后,进一步,对图像进行填充。首先,根据缺失边缘图像和背景边缘图像确定整体的边缘,然后再对边缘内和边缘外的图像进行填充,具体地,根据原始图像对应的背景图像、背景边缘图像、缺失边缘图像、掩模图像以及第二预设空洞卷积模型,生成原始图像对应的填充图像。
本实施例提出的边缘学习的图像填充方法,通过基于原始图像对应的灰度图像以及原始图像对应的掩模图像,确定背景灰度图像,而后基于原始图像对应的边缘图像以及所述掩模图像确定背景边缘图像,接下来基于所述背景灰度图像、所述背景边缘图像、所述掩模图像以及第一预设空洞卷积模型,生成缺失边缘图像,然后基于所述原始图像对应的背景图像、所述背景边缘图像、所述缺失边缘图像、所述掩模图像以及第二预设空洞卷积模型,生成原始图像对应的填充图像。通过两阶段的对抗模型实现了对待重建图像的边缘修复,而后进行颜色填充,使得填充区更好地再现图像精细细节。
基于第一实施例,提出本发明边缘学习的图像填充方法的第二实施例,参照图3,在本实施例中,步骤S40包括:
步骤S41,基于所述缺失边缘图像、所述背景边缘图像以及所述掩模图像,确定复合边缘图像;
在本实施例中,根据背景灰度图像、背景边缘图像、掩模图像以及第一目标空洞卷积模型,生成缺失边缘图像后,继续根据缺失边缘图像和背景边缘图像确定整体的边缘。具体地,为了描述方便,复合边缘图像用Ccopm表示,公式如下,其中,Cgt表示原始图像对应的边缘图像,M表示掩模图像,Cpred表示缺失边缘图像,⊙表示哈达玛积。
Ccopm=Cgt⊙(1-M)+Cpred⊙M
步骤S42,基于所述原始图像对应的背景图像以及所述复合边缘图像训练第二预设空洞卷积模型;
在本实施例中,第二预设空洞卷积模型也是一种卷积神经网络,其训练样本为原始图像对应的背景图像以及复合边缘图像,当第二预设空洞卷积模型收敛时,模型训练停止,其中,第二预设空洞卷积模型的输出是原始图像对应的填充图像。在第二预设空洞卷积模型的训练过程中所输出的填充图像是否准确,需要进一步由第二鉴别器进行鉴别。为了描述方便,第二预设空洞卷积模型用G2,填充图像用Ipred表示,原始图像对应的彩色图像Igt,Igt与 (1-M)进行哈达玛积运算,得到原始图像对应的背景图像
Figure RE-GDA0002411202190000111
则填充图像用 Ipred的计算公式如下:
Figure RE-GDA0002411202190000112
步骤S43,基于第二鉴别器以及预设卷积神经网络确定所述第二预设空洞卷积模型是否收敛;
在本实施例中,在第二预设空洞卷积模型的训练过程中所输出的填充图像是否准确,需要进一步由第二鉴别器进行鉴别,第二鉴别器采用PatchGAN 架构,只在补丁patch范围内对结构进行判断。第二预设空洞卷积模型收敛时,则输出的填充图像是相对准确的。
具体地,步骤S43包括:
步骤e,基于第三输入数据以及所述第二鉴别器,确定所述第二预设空洞卷积模型对应的第二对抗损失函数;
在本实施例中,判断第二预设空洞卷积模型是否收敛,需要计算出第二预设空洞卷积模型的损失函数,其中,第二预设空洞卷积模型的损失函数包括L1损失函数,第二对抗损失函数,感知损失函数和风格损失函数,其中, L1损失函数是一个预设值,由实际情况确定,L1损失函数的目的是确保正确缩放,L1损失函数根据掩模图像M大小进行标准化。
进一步地,计算第二对抗损失函数,为了描述方便,第二鉴别器用D2表示,则根据第三输入数据以及第二鉴别器,确定第二预设空洞卷积模型对应的第二对抗损失函数,其中,第三输入数据包括原始图像对应的彩色图像Igt、填充图像Ipred和复合边缘图像Ccopm,根据第三输入数据以及第二鉴别器D2,计算得到第二对抗损失函数Ladv,2,公式如下所示:
Figure RE-GDA0002411202190000121
步骤f,基于第四输入数据以及预设卷积神经网络,确定所述第二预设空洞卷积模型对应的感知损失函数;
在本实施例中,感知损失函数是通过在预先训练的网络的激活图之间定义距离度量来确定与标签不相似的结果。为了描述方便,用φi表示预设卷积神经网络的第i层的激活图,Ni是第i个激活层中元素的数量,第四输入数据包括原始图像对应的彩色图像Igt和填充图像Ipred,则计算第二预设空洞卷积模型对应的感知损失函数Lperc,公式如下所示:
Figure RE-GDA0002411202190000122
步骤g,基于第五输入数据以及预设卷积神经网络,确定所述第二预设空洞卷积模型对应的风格损失函数;
在本实施例中,填充图像Ipred与(1-M)进行哈达玛积运算,得到
Figure RE-GDA0002411202190000123
其中,M是掩模图像,Mi=0表示背景,Mi=1表示缺失区域;原始图像对应的彩色图像Igt与(1-M)进行哈达玛积运算,得到
Figure RE-GDA0002411202190000124
第五输入参数包括
Figure RE-GDA0002411202190000125
Figure RE-GDA0002411202190000126
则计算第二预设空洞卷积模型对应的风格损失函数Lstyle,其中,
Figure RE-GDA0002411202190000127
是激活层φi中构建的矩阵,公式如下所示:
Figure RE-GDA0002411202190000131
步骤h,基于所述第二对抗损失函数、所述感知损失函数以及所述风格损失函数确定所述第二预设空洞卷积模型的损失函数;
在本实施例中,进一步根据L1损失函数、第二对抗损失函数Ladv,2、感知损失函数Lperc以及风格损失函数Lstyle,确定第二预设空洞卷积模型的损失函数 LG2,其中λL1、λadv,2、λp和λs是正则化参数,公式如下所示:
Figure RE-GDA0002411202190000132
步骤i,基于所述第二预设空洞卷积模型的损失函数确定所述第二预设空洞卷积模型是否收敛。
在本实施例中,根据L1损失函数、第二对抗损失函数Ladv,2、感知损失函数Lperc以及风格损失函数Lstyle,计算出第二预设空洞卷积模型的损失函数LG2,按照预设的收敛判断规则,根据损失函数LG2确定第二预设空洞卷积模型是否收敛,预设的收敛判断规则在本发明中不做限定,可选地,预设的收敛判断规则为在第二预设空洞卷积模型训练过程中,本次训练的损失函数与上次训练的损失函数的差值小于预设值时,则判定第二预设空洞卷积模型收敛,如果本次训练的损失函数与上次训练的损失函数的差值大于预设值时,则判定第二预设空洞卷积模型不收敛,需要更新第二预设空洞卷积模型的参数,继续对更新后的第二预设空洞卷积模型进行训练。
步骤S44,在确定所述第二预设空洞卷积模型收敛时,确定所述第二预设空洞卷积模型为第二目标空洞卷积模型;
在本实施例中,模型训练过程中,当模型收敛时表示模型训练结束,根据模型的损失函数判断模型收敛情况。具体地,在第二预设空洞卷积模型训练过程中,如果本次训练的损失函数与上次训练的损失函数的差值小于预设值时,则判定第二预设空洞卷积模型收敛,故将当前的第二预设空洞卷积模型作为第二目标空洞卷积模型。
步骤S45,基于所述原始图像对应的背景图像、所述复合边缘图像以及第二目标空洞卷积模型,生成原始图像对应的填充图像。
在本实施例中,第二目标空洞卷积模型是经过训练后的模型,该模型是收敛的,为了描述方便第二目标空洞卷积模型用GF2表示,原始图像对应的彩色图像用Igt表示,Igt与(1-M)进行哈达玛积运算,得到原始图像对应的背景图像
Figure RE-GDA0002411202190000141
则根据原始图像对应的背景图像
Figure RE-GDA0002411202190000142
复合边缘图像Ccopm以及第二目标空洞卷积模型GF2,生成填充图像Ipred,计算公式如下:
Figure RE-GDA0002411202190000143
步骤S46,在确定所述第二预设空洞卷积模型不收敛时,按照第二预设规则更新所述第二预设空洞卷积模型的第二学习率;
在本实施例中,在第二预设空洞卷积模型训练过程中,本次训练的损失函数与上次训练的损失函数的差值大于预设值时,则判定第二预设空洞卷积模型不收敛,此时,需要更新第二预设空洞卷积模型的参数,继续对更新后的第二预设空洞卷积模型进行训练。学习率决定模型参数,故根据预设规则更新第二预设空洞卷积模型的学习率,进而调整第二预设空洞卷积模型的参数。
步骤S47,基于更新后的第二学习率更新所述第二预设空洞卷积模型,将更新后的第二预设空洞卷积模型作为第二预设空洞卷积模型,继续执行基于所述原始图像对应的背景图像以及所述复合边缘图像训练第二预设空洞卷积模型的步骤。
在本实施例中,学习率决定模型参数,故根据预设规则更新第二预设空洞卷积模型的学习率后,进一步,根据更新后的第二学习率更新第二预设空洞卷积模型,也就是更新第二预设空洞卷积模型的参数。接下来,继续对第二预设空洞卷积模型进行训练,也就是继续执行基于所述缺失边缘图像、所述背景边缘图像以及所述掩模图像,确定复合边缘图像的步骤。
本实施例提出的边缘学习的图像填充方法,通过基于所述缺失边缘图像、所述背景边缘图像以及所述掩模图像,确定复合边缘图像,而后基于所述原始图像对应的背景图像以及所述复合边缘图像训练第二预设空洞卷积模型,接下来基于第二鉴别器以及预设卷积神经网络确定所述第二预设空洞卷积模型是否收敛,然后在确定所述第二预设空洞卷积模型收敛时,确定所述第二预设空洞卷积模型为第二目标空洞卷积模型,最后基于所述原始图像对应的背景图像、所述复合边缘图像以及第二目标空洞卷积模型,生成原始图像对应的填充图像。通过对抗模型实现了对待重建图像的边缘修复后的颜色填充,使得填充区更好地再现图像精细细节。
此外,本发明实施例还提供一种边缘学习的图像填充装置。
参照图4,图4为本发明边缘学习的图像填充装置的功能模块示意图。
本实施例中,所述边缘学习的图像填充装置包括:
第一确定模块10,基于原始图像对应的灰度图像以及原始图像对应的掩模图像,确定背景灰度图像;
第二确定模块20,基于原始图像对应的边缘图像以及所述掩模图像确定背景边缘图像;
第一生成模块30,基于所述背景灰度图像、所述背景边缘图像、所述掩模图像以及第一预设空洞卷积模型,生成缺失边缘图像;
第二生成模块40,基于所述原始图像对应的背景图像、所述背景边缘图像、所述缺失边缘图像、所述掩模图像以及第二预设空洞卷积模型,生成原始图像对应的填充图像。
进一步地,所述第一生成模块30还用于:
于所述背景灰度图像、所述背景边缘图像以及所述掩模图像训练第一预设空洞卷积模型;
基于第一鉴别器确定所述第一预设空洞卷积模型是否收敛;
在确定所述第一预设空洞卷积模型收敛时,确定所述第一预设空洞卷积模型为第一目标空洞卷积模型;
基于所述背景灰度图像、所述背景边缘图像、所述掩模图像以及所述第一目标空洞卷积模型,生成缺失边缘图像。
进一步地,所述第一生成模块30还用于:
在确定所述第一预设空洞卷积模型不收敛时,按照第一预设规则更新所述第一预设空洞卷积模型的第一学习率;
基于更新后的第一学习率更新所述第一预设空洞卷积模型,将更新后的第一预设空洞卷积模型作为第一预设空洞卷积模型,继续执行基于所述背景灰度图像、所述背景边缘图像以及所述掩模图像训练第一预设空洞卷积模型的步骤。
进一步地,所述边缘学习的图像填充装置还包括:
第一计算模块,基于第一输入数据以及所述第一鉴别器,确定所述第一预设空洞卷积模型对应的第一对抗损失函数,其中,所述第一输入数据包括所述灰度图像、所述边缘图像和所述缺失边缘图像;
第二计算模块,基于第二输入数据以及所述第一鉴别器,确定所述第一预设空洞卷积模型对应的特征匹配损失函数,其中,所述第二输入数据包括所述边缘图像和所述缺失边缘图像;
第三计算模块,基于所述第一对抗损失函数以及所述特征匹配损失函数确定所述第一预设空洞卷积模型的损失函数;
第一判断模块,基于所述第一预设空洞卷积模型的损失函数确定所述第一预设空洞卷积模型是否收敛。
进一步地,所述第二生成模块40还用于:
基于所述缺失边缘图像、所述背景边缘图像以及所述掩模图像,确定复合边缘图像;
基于所述原始图像对应的背景图像以及所述复合边缘图像训练第二预设空洞卷积模型;
基于第二鉴别器以及预设卷积神经网络确定所述第二预设空洞卷积模型是否收敛;
在确定所述第二预设空洞卷积模型收敛时,确定所述第二预设空洞卷积模型为第二目标空洞卷积模型;
基于所述原始图像对应的背景图像、所述复合边缘图像以及第二目标空洞卷积模型,生成原始图像对应的填充图像
进一步地,所述第二生成模块40还用于:
在确定所述第二预设空洞卷积模型不收敛时,按照第二预设规则更新所述第二预设空洞卷积模型的第二学习率;
基于更新后的第二学习率更新所述第二预设空洞卷积模型,将更新后的第二预设空洞卷积模型作为第二预设空洞卷积模型,继续执行基于所述原始图像对应的背景图像以及所述复合边缘图像训练第二预设空洞卷积模型的步骤。
进一步地,所述边缘学习的图像填充装置还包括:
第四计算模块,基于第三输入数据以及所述第二鉴别器,确定所述第二预设空洞卷积模型对应的第二对抗损失函数;
第五计算模块,基于第四输入数据以及预设卷积神经网络,确定所述第二预设空洞卷积模型对应的感知损失函数;
第六计算模块,基于第五输入数据以及预设卷积神经网络,确定所述第二预设空洞卷积模型对应的风格损失函数;
第七计算模块,基于所述第二对抗损失函数、所述感知损失函数以及所述风格损失函数确定所述第二预设空洞卷积模型的损失函数;
第二判断模块,基于所述第二预设空洞卷积模型的损失函数确定所述第二预设空洞卷积模型是否收敛。
此外,本发明实施例还提供一种可读存储介质。
本发明可读存储介质上存储有边缘学习的图像填充程序,其中所述边缘学习的图像填充程序被处理器执行时,实现如上述的边缘学习的图像填充方法的步骤。
其中,边缘学习的图像填充程序被执行时所实现的方法可参照本发明边缘学习的图像填充方法的各个实施例,此处不再赘述。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者系统不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者系统所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者系统中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在如上所述的一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本发明各个实施例所述的方法。
以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。

Claims (10)

1.一种边缘学习的图像填充方法,应用于终端,其特征在于,所述边缘学习的图像填充方法包括以下步骤:
基于原始图像对应的灰度图像以及原始图像对应的掩模图像,确定背景灰度图像;
基于原始图像对应的边缘图像以及所述掩模图像确定背景边缘图像;
基于所述背景灰度图像、所述背景边缘图像、所述掩模图像以及第一预设空洞卷积模型,生成缺失边缘图像;
基于所述原始图像对应的背景图像、所述背景边缘图像、所述缺失边缘图像、所述掩模图像以及第二预设空洞卷积模型,生成原始图像对应的填充图像。
2.如权利要求1所述的边缘学习的图像填充方法,其特征在于,所述终端包括第一鉴别器,所述基于所述背景灰度图像、所述背景边缘图像、所述掩模图像以及第一预设空洞卷积模型,生成缺失边缘图像的步骤包括:
基于所述背景灰度图像、所述背景边缘图像以及所述掩模图像训练第一预设空洞卷积模型;
基于第一鉴别器确定所述第一预设空洞卷积模型是否收敛;
在确定所述第一预设空洞卷积模型收敛时,确定所述第一预设空洞卷积模型为第一目标空洞卷积模型;
基于所述背景灰度图像、所述背景边缘图像、所述掩模图像以及所述第一目标空洞卷积模型,生成缺失边缘图像。
3.如权利要求2所述的边缘学习的图像填充方法,其特征在于,所述基于第一鉴别器确定所述第一预设空洞卷积模型是否收敛的步骤之后,还包括:
在确定所述第一预设空洞卷积模型不收敛时,按照第一预设规则更新所述第一预设空洞卷积模型的第一学习率;
基于更新后的第一学习率更新所述第一预设空洞卷积模型,将更新后的第一预设空洞卷积模型作为第一预设空洞卷积模型,继续执行基于所述背景灰度图像、所述背景边缘图像以及所述掩模图像训练第一预设空洞卷积模型的步骤。
4.如权利要求2所述的边缘学习的图像填充方法,其特征在于,所述基于第一鉴别器确定所述第一预设空洞卷积模型是否收敛的步骤包括:
基于第一输入数据以及所述第一鉴别器,确定所述第一预设空洞卷积模型对应的第一对抗损失函数,其中,所述第一输入数据包括所述灰度图像、所述边缘图像和所述缺失边缘图像;
基于第二输入数据以及所述第一鉴别器,确定所述第一预设空洞卷积模型对应的特征匹配损失函数,其中,所述第二输入数据包括所述边缘图像和所述缺失边缘图像;
基于所述第一对抗损失函数以及所述特征匹配损失函数确定所述第一预设空洞卷积模型的损失函数;
基于所述第一预设空洞卷积模型的损失函数确定所述第一预设空洞卷积模型是否收敛。
5.如权利要求1至4任一项所述的边缘学习的图像填充方法,其特征在于,所述终端包括第二鉴别器,所述基于所述原始图像对应的背景图像、所述背景边缘图像、所述缺失边缘图像、所述掩模图像以及第二预设空洞卷积模型,生成原始图像对应的填充图像的步骤包括:
基于所述缺失边缘图像、所述背景边缘图像以及所述掩模图像,确定复合边缘图像;
基于所述原始图像对应的背景图像以及所述复合边缘图像训练第二预设空洞卷积模型;
基于第二鉴别器以及预设卷积神经网络确定所述第二预设空洞卷积模型是否收敛;
在确定所述第二预设空洞卷积模型收敛时,确定所述第二预设空洞卷积模型为第二目标空洞卷积模型;
基于所述原始图像对应的背景图像、所述复合边缘图像以及第二目标空洞卷积模型,生成原始图像对应的填充图像。
6.如权利要求5所述的边缘学习的图像填充方法,其特征在于,所述基于第二鉴别器以及预设卷积神经网络确定所述第二预设空洞卷积模型是否收敛的步骤之后,还包括:
在确定所述第二预设空洞卷积模型不收敛时,按照第二预设规则更新所述第二预设空洞卷积模型的第二学习率;
基于更新后的第二学习率更新所述第二预设空洞卷积模型,将更新后的第二预设空洞卷积模型作为第二预设空洞卷积模型,继续执行基于所述原始图像对应的背景图像以及所述复合边缘图像训练第二预设空洞卷积模型的步骤。
7.如权利要求5所述的边缘学习的图像填充方法,其特征在于,所述基于第二鉴别器以及预设卷积神经网络确定所述第二预设空洞卷积模型是否收敛的步骤包括:
基于第三输入数据以及所述第二鉴别器,确定所述第二预设空洞卷积模型对应的第二对抗损失函数;
基于第四输入数据以及预设卷积神经网络,确定所述第二预设空洞卷积模型对应的感知损失函数;
基于第五输入数据以及预设卷积神经网络,确定所述第二预设空洞卷积模型对应的风格损失函数;
基于所述第二对抗损失函数、所述感知损失函数以及所述风格损失函数确定所述第二预设空洞卷积模型的损失函数;
基于所述第二预设空洞卷积模型的损失函数确定所述第二预设空洞卷积模型是否收敛。
8.一种边缘学习的图像填充装置,其特征在于,所述边缘学习的图像填充装置包括:
第一确定模块,基于原始图像对应的灰度图像以及原始图像对应的掩模图像,确定背景灰度图像;
第二确定模块,基于原始图像对应的边缘图像以及所述掩模图像确定背景边缘图像;
第一生成模块,基于所述背景灰度图像、所述背景边缘图像、所述掩模图像以及第一预设空洞卷积模型,生成缺失边缘图像;
第二生成模块,基于所述原始图像对应的背景图像、所述背景边缘图像、所述缺失边缘图像、所述掩模图像以及第二预设空洞卷积模型,生成原始图像对应的填充图像。
9.一种终端,其特征在于,所述终端包括处理器、存储器、以及存储在所述存储器上并可被所述处理器执行的边缘学习的图像填充程序,其中所述边缘学习的图像填充程序被所述处理器执行时,实现如权利要求1至7中任一项所述的边缘学习的图像填充方法的步骤。
10.一种可读存储介质,其特征在于,所述可读存储介质上存储有边缘学习的图像填充程序,其中所述边缘学习的图像填充程序被处理器执行时,实现如权利要求1至7中任一项所述的边缘学习的图像填充方法的步骤。
CN201910784055.9A 2019-08-23 2019-08-23 边缘学习的图像填充方法、装置、终端及可读存储介质 Pending CN111062877A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201910784055.9A CN111062877A (zh) 2019-08-23 2019-08-23 边缘学习的图像填充方法、装置、终端及可读存储介质
PCT/CN2019/118150 WO2021035979A1 (zh) 2019-08-23 2019-11-13 边缘学习的图像填充方法、装置、终端及可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910784055.9A CN111062877A (zh) 2019-08-23 2019-08-23 边缘学习的图像填充方法、装置、终端及可读存储介质

Publications (1)

Publication Number Publication Date
CN111062877A true CN111062877A (zh) 2020-04-24

Family

ID=70297456

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910784055.9A Pending CN111062877A (zh) 2019-08-23 2019-08-23 边缘学习的图像填充方法、装置、终端及可读存储介质

Country Status (2)

Country Link
CN (1) CN111062877A (zh)
WO (1) WO2021035979A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111476213A (zh) * 2020-05-19 2020-07-31 武汉大势智慧科技有限公司 一种基于道路影像的遮挡物覆盖区域填充方法和装置

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114266846B (zh) * 2021-12-25 2024-06-14 福州大学 一种用于目标检测模型的自学习填充方法

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109300128A (zh) * 2018-09-29 2019-02-01 聚时科技(上海)有限公司 基于卷积神经网隐含结构的迁移学习图像处理方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108460830A (zh) * 2018-05-09 2018-08-28 厦门美图之家科技有限公司 图像修复方法、装置及图像处理设备
CN110009576B (zh) * 2019-02-28 2023-04-18 西北大学 一种壁画图像修复模型建立及修复方法
CN109978786B (zh) * 2019-03-22 2020-09-25 北京工业大学 一种基于卷积神经网络的Kinect深度图修复方法
CN110097110B (zh) * 2019-04-26 2021-07-20 华南理工大学 一种基于目标优化的语义图像修复方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109300128A (zh) * 2018-09-29 2019-02-01 聚时科技(上海)有限公司 基于卷积神经网隐含结构的迁移学习图像处理方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
NAZERI KAMYAR ET AL.: "EdgeConnect: Generative Image Inpainting with Adversarial Edge Learning", 《ARXIV.ORG》, pages 1 - 17 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111476213A (zh) * 2020-05-19 2020-07-31 武汉大势智慧科技有限公司 一种基于道路影像的遮挡物覆盖区域填充方法和装置

Also Published As

Publication number Publication date
WO2021035979A1 (zh) 2021-03-04

Similar Documents

Publication Publication Date Title
US11373275B2 (en) Method for generating high-resolution picture, computer device, and storage medium
US20190114818A1 (en) Predicting Patch Displacement Maps Using A Neural Network
US8649625B2 (en) Method, device and program for measuring image quality adjusting ability, and method, device and program for adjusting image quality
CN110717868B (zh) 视频高动态范围反色调映射模型构建、映射方法及装置
CN111667410B (zh) 图像分辨率提升方法、装置及电子设备
CN111489322B (zh) 给静态图片加天空滤镜的方法及装置
JP5994270B2 (ja) 画像補正装置、画像補正システム、画像補正方法、及びプログラム
CN111062877A (zh) 边缘学习的图像填充方法、装置、终端及可读存储介质
CN113538271A (zh) 图像显示方法、装置、电子设备和计算机可读存储介质
CN110765384A (zh) 客户端的分辨率适配方法、存储介质及终端
US11468548B2 (en) Detail reconstruction for SDR-HDR conversion
CN113822803A (zh) 图像超分处理方法、装置、设备及计算机可读存储介质
CN113160079A (zh) 人像修复模型的训练方法、人像修复方法和装置
CN115953597B (zh) 图像处理方法、装置、设备及介质
CN115293994B (zh) 图像处理方法、装置、计算机设备和存储介质
US20170244972A1 (en) Methods and apparatus for mapping input image
CN114663570A (zh) 贴图生成方法、装置、电子装置及可读存储介质
CN116977190A (zh) 图像处理方法、装置、设备、存储介质及程序产品
US11055881B2 (en) System and a method for providing color vision deficiency assistance
CN114519753A (zh) 图像生成方法、系统、电子设备、存储介质和产品
CN112508772A (zh) 图像生成方法、装置及存储介质
JP5123270B2 (ja) 画像処理装置及び画像表示装置
CN115937338B (zh) 图像处理方法、装置、设备及介质
CN116805292A (zh) 色调映射方法、装置和显示设备
JP2021163319A (ja) 画像処理装置、画像処理方法及びプログラム

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination