CN114416260A - 图像处理方法、装置、电子设备及存储介质 - Google Patents
图像处理方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN114416260A CN114416260A CN202210068603.XA CN202210068603A CN114416260A CN 114416260 A CN114416260 A CN 114416260A CN 202210068603 A CN202210068603 A CN 202210068603A CN 114416260 A CN114416260 A CN 114416260A
- Authority
- CN
- China
- Prior art keywords
- image
- edge
- sample
- target
- display
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 title claims abstract description 28
- 238000003672 processing method Methods 0.000 title claims abstract description 28
- 230000000694 effects Effects 0.000 claims abstract description 180
- 238000000034 method Methods 0.000 claims abstract description 63
- 230000011218 segmentation Effects 0.000 claims description 197
- 238000000605 extraction Methods 0.000 claims description 99
- 238000012549 training Methods 0.000 claims description 54
- 238000004590 computer program Methods 0.000 claims description 11
- 230000004044 response Effects 0.000 abstract description 2
- 230000003993 interaction Effects 0.000 abstract 1
- 230000006870 function Effects 0.000 description 123
- 238000010586 diagram Methods 0.000 description 9
- 238000004891 communication Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 6
- 238000012935 Averaging Methods 0.000 description 4
- 230000008859 change Effects 0.000 description 4
- 238000013527 convolutional neural network Methods 0.000 description 4
- 230000008569 process Effects 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000001960 triggered effect Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/451—Execution arrangements for user interfaces
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Image Analysis (AREA)
Abstract
本公开实施例公开了一种图像处理方法、装置、电子设备及存储介质,其中,该方法包括:接收针对目标展示图像输入的用于启用边缘展示特效的边缘特效触发操作;将所述目标展示图像中的特效展示边缘以第一预设展示方式展示于目标展示区域中;将所述目标展示图像中除所述特效展示边缘之外的区域以第二预设展示方式展示于所述目标展示区域中。本公开实施例的技术方案,能够通过与用户交互的方式,满足用户对目标展示图像中的边缘进行特效展示的需求,进而,响应于边缘特效触发操作,将特效展示边缘区别于其他图像信息进行展示,突出展示目标展示图像中的边缘信息,增加了图像展示的丰富性和趣味性,提升了用户体验。
Description
技术领域
本公开实施例涉及图像处理技术领域,尤其涉及一种图像处理方法、装置、电子设备及存储介质。
背景技术
随着信息多样化以及拍摄设备的发展,通过拍摄设备拍摄图像并分享图像,已成为目前较受欢迎的一种信息展示方式。例如,通过将图像制作为短视频,以短视频的方式展示图像信息。
相关图像展示技术在展示图像时,往往会对图像进行静态展示,这种图像展示方式较为单一,缺乏趣味性,而且,尤其当图像中包含多个主体时,所展示信息没有重点突出,导致观感较差,从而影响用户体验。
发明内容
本公开实施例提供了一种图像处理方法、装置、电子设备及存储介质,以丰富图像展示效果。
第一方面,本公开实施例提供了一种图像处理方法,该方法包括:
接收针对目标展示图像输入的用于启用边缘展示特效的边缘特效触发操作;
将所述目标展示图像中的特效展示边缘以第一预设展示方式展示于目标展示区域中;
将所述目标展示图像中除所述特效展示边缘之外的区域以第二预设展示方式展示于所述目标展示区域中。
第二方面,本公开实施例还提供了图像处理装置,该装置包括:
触发操作接收模块,用于接收针对目标展示图像输入的用于启用边缘展示特效的边缘特效触发操作;
边缘特效展示模块,用于将所述目标展示图像中的特效展示边缘以第一预设展示方式展示于目标展示区域中;
常规展示模块,用于将所述目标展示图像中除所述特效展示边缘之外的区域以第二预设展示方式展示于所述目标展示区域中。
第三方面,本公开实施例还提供了一种电子设备,该电子设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现本公开任意实施例所提供图像处理方法。
第四方面,本公开实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现本公开任意实施例所提供图像处理方法。
本公开实施例的技术方案,通过接收针对目标展示图像输入的用于启用边缘展示特效的边缘特效触发操作,能够通过与用户交互的方式,满足用户对目标展示图像中的边缘进行特效展示的需求,进而,响应于边缘特效触发操作,将目标展示图像中的特效展示边缘以第一预设展示方式展示于目标展示区域中,并将除特效展示边缘之外的区域以第二预设展示方式展示于目标展示区域中,将特效展示边缘区别于其他图像信息进行展示,突出展示目标展示图像中的边缘信息,解决了图像展示方式单一以及图像展示无法突出重点信息的技术问题,实现增加了图像展示的丰富性和趣味性,提升用户观感体验的效果。
附图说明
为了更加清楚地说明本公开示例性实施例的技术方案,下面对描述实施例中所需要用到的附图做一简单介绍。显然,所介绍的附图只是本发明所要描述的一部分实施例的附图,而不是全部的附图,对于本领域普通技术人员,在不付出创造性劳动的前提下,还可以根据这些附图得到其他的附图。
图1为本公开实施例一所提供的一种图像处理方法的流程示意图;
图2是为本公开实施例二所提供的一图像处理方法的流程示意图;
图3是为本公开实施例三所提供的一种图像处理方法的流程示意图;
图4是为本公开实施例四所提供的一图像处理方法的流程示意图;
图5是为本公开实施例五所提供的一种图像处理方法的流程示意图
图6是为本公开实施例六所提供的一种图像处理装置的结构示意图;
图7是为本公开实施例一所提供的一种电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
应当理解,本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行,和/或并行执行。此外,方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”;术语“另一实施例”表示“至少一个另外的实施例”;术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
实施例一
图1为本公开实施例一所提供的一种图像处理方法的流程示意图,本实施例可适用于图像处理方法情况,该方法可以由图像处理装置来执行,该装置可以通过软件和/或硬件来实现,可配置于终端和/或服务器中来实现本公开实施例中的图像处理方法。
如图1所示,本实施例的方法具体可包括:
S110、接收针对目标展示图像输入的用于启用边缘展示特效的边缘特效触发操作。
其中,边缘特效触发操作可以理解为用于执行该操作后可以触发系统执行启用边缘展示特效的操作。边缘特效触发操作的生成方式有多种,例如可以是,通过语音信息、手势信息、预设时间条件以及预设特效展示触发控件等生成。其中,预设特效展示触发控件可以是设置于软件界面上的虚拟标识。预设特效展示触发控件的触发可以用于表征开始并以预设特效方式对进行图像展示。在本公开实施例中,可以针对目标展示图像中的特效展示边缘施加特效展示效果进行图像展示。
示例性地,接收针对目标展示图像输入的用于启用边缘展示特效的边缘特效触发操作可包括下述操作中的至少一种:接收到包含有目标关键词的语音信息;采集到预设手势信息;接收到针对预设图像展示控件输入的点击操作或按压操作;检测到目标展示图像中包含预设图像信息等。其中,预设图像信息可以是预设主体信息,如,文字、图案、建筑物或花草树木等。
作为本公开实施例的一种可选方案,可以通过上传图像来生成边缘特效触发操作。具体地,接收针对目标展示图像输入的用于启用边缘展示特效的边缘特效触发操作,具体可包括:接收针对预先设置的边缘特效触发控件的控件触发操作,展示图像获取界面;其中,所述图像获取界面包括图像获取控件;基于所述图像获取控件获取目标展示图像,并接收针对所述目标展示图像的上传触发操作。换言之,可在触发预先设置的边缘特效触发控件后,展示图像获取界面,进而检测到在图像获取界面的图像上传操作时,将上传的图像作为目标展示头像,针对目标展示图像启用边缘展示特效。
其中,目标展示图像可以理解为待采用边缘展示特效进行展示的图像。需要说明的是,目标展示图像的获取方式和获取时机可以根据实际需求进行设置,在此并不做具体限定。示例性地,可以先获取目标展示图像,然后触发预设的边缘特效展示控件;也可以先触发预设的边缘特效展示控件,再获取目标展示图像。目标展示图像的获取方式可以是从现有的图像库中选取目标展示图像上传至图像获取界面,也可以是,基于图像获取控件调用拍摄装置采集目标展示图像。以在终端上展示边缘展示特效为例,具体可以是,点击图像获取控件,打开摄像头,拍摄当前场景图像,将拍摄到的当前场景图像作为目标展示图像。
在本公开实施例中,边缘展示特效可以理解为针对目标展示图像中的特效展示边缘所赋予的特殊展示效果。旨在将目标展示图像中的特效展示边缘进行突出展示,或者,将目标展示图像中的特效展示边缘进行设定方式的展示。
S120、将所述目标展示图像中的特效展示边缘以第一预设展示方式展示于目标展示区域中。
其中,特效展示边缘可以理解为需要以预设边缘特效进行展示的边缘。在本公开实施例中,预设边缘展示特效可以是以第一预设展示方式展示特效展示边缘。可以理解的是,第一预设展示方式可以根据实际需求进行设定,在此并不做具体限制。示例性地,第一预设展示方式可以包括下述展示方式中的至少一种:以预设形态进行展示,其中,预设形态包括亮度、闪烁、颜色、形状及粗细等中形态信息的至少一种;叠加预设元素进行展示;以预设变化方式进行动态展示,其中,预设变化方式可以包括边缘亮度的高低变化、边缘颜色深浅变化以及边缘像素点依序叠加特效展示等各种动态展示方式中的至少一种。
需要说明的是,第一预设展示方式还可以是两种或两种以上的展示方式叠加展示,例如,以预设形态以及预设变化方式进行展示。示例性地,还可以将所述目标展示图像中的特效展示边缘以闪烁且由暗变亮的方式展示于目标展示区域中,或者,将所述目标展示图像中的特效展示边缘处的各个目标边缘点,以按照预设点亮顺序进行点亮的方式,动态展示于目标展示区域中。采用本技术方案,能够从视觉效果上体验到边缘逐渐被点亮,或者,边缘有流光的效果。这种展示方式能够突出目标展示图像中的特效展示边缘,提升图像展示效果,提升用户体验。
S130、将所述目标展示图像中除所述特效展示边缘之外的区域以第二预设展示方式展示于所述目标展示区域中。
其中,第二预设展示方式可以理解为与目标展示图像中除特效展示边缘之外的区域对应的展示方式。在本开实施例中,第二预设展示方式可以根据实际需求进行设定,在此并不做具体限制。可选地,第二预设展示方式可以是图像本身的展示方式,也可以是针对目标展示图像中除特效展示边缘之外的区域预先设定的区别于图像本身展示方式的展示方式。
示例性地,第二预设展示方式可以是与第一预设展示方式不同的展示方式。例如,可以是与第一预设展示方式相反的展示方式。可选地,当第一预设展示方式为边缘由暗变亮时,第二预设展示方式可以是目标展示图像中除特效展示边缘之外的区域由亮变暗。当第一预设展示方式为边缘以设定颜色进行展示时,第二预设展示方式可以是目标展示图像中除特效展示边缘之外的区域以预设色调进行展示等。预设色调的主色调可以与设定颜色属于同色系也可以与设定颜色属于不同于色系。
需要说明的是,“第一预设展示方式”和“第二预设展示方式”中的“第一”和“第二”用于区分不同的展示对象所对应的展示方式,而并非对展示对象的展示数量及展示顺序等具体参数的限定。预设展示方式可以根据图像风格和/或图像类型等信息进行设置。
本实施例的技术方案,通过接收针对目标展示图像输入的用于启用边缘展示特效的边缘特效触发操作,能够通过与用户交互的方式,满足用户对目标展示图像中的边缘进行特效展示的需求,进而,响应于边缘特效触发操作,将目标展示图像中的特效展示边缘以第一预设展示方式展示于目标展示区域中,并将所述目标展示图像中除特效展示边缘之外的区域以第二预设展示方式展示于目标展示区域中,将特效展示边缘区别于其他图像信息进行展示,突出展示目标展示图像中的边缘信息,解决了图像展示方式单一以及图像展示无法突出重点信息的技术问题,实现增加了图像展示的丰富性和趣味性,提升用户观感体验的效果。
实施例二
图2为本公开实施例二所提供的一种图像处理方法的流程示意图,本实施例在本公开实施例中任一可选技术方案的基础上,对目标展示图像的特效展示边缘的提取进行了细化。可选地,在所述将所述目标展示图像中的特效展示边缘以第一预设展示方式展示于目标展示区域中之前,还包括:将所述目标展示图像输入至预先训练完成的目标边缘提取模型中,得到与所述目标展示图像对应的目标边缘掩膜图像,其中,所述目标边缘掩膜图像中包括所述目标展示图像中的目标提取边缘;根据所述目标提取边缘确定所述目标展示图像中的特效展示边缘。具体实施方式可以参见本实施例的说明。其中,与前述实施例相同或相似的技术特征在此不再赘述。
如图2所示,本实施例的方法具体可包括:
S210、接收针对目标展示图像输入的用于启用边缘展示特效的边缘特效触发操作。
S220、将所述目标展示图像输入至预先训练完成的目标边缘提取模型中,得到与所述目标展示图像对应的目标边缘掩膜图像,其中,所述目标边缘掩膜图像中包括所述目标展示图像中的目标提取边缘。
其中,目标边缘提取模型可以理解为用于提取目标展示图像中的目标提取边缘的模型。具体地,目标边缘提取模型可以根据样本展示图像以及与所述样本展示图像对应的样本边缘掩膜图像对预先建立的初始边缘提取模型训练得到,其中,所述样本边缘掩膜图像中包括所述样本展示图像中的期望提取边缘。
示例性地,初始边缘提取模型可以包括卷积神经网络及其他具有图像分割功能的深度学习网络。其中,卷积神经网络可以包括但不仅限于CNN、RNN、 u2net模型、unet模型、deeplab模型、transformer模型以及pidinet模型等模型中的至少一种。
可以理解的是,在将所述目标展示图像输入至预先训练完成的目标边缘提取模型中之前,还包括;根据样本展示图像以及与所述样本展示图像对应的样本边缘掩膜图像对预先建立的初始边缘提取模型训练。具体地,可以将所述样本展示图像作为初始边缘提取模型的输入,得到与样本展示图像对应的分割边缘掩膜图像,进而,根据与样本展示图像对应的分割边缘掩膜图像以及与所述样本展示图像对应的样本边缘掩膜图像对模型参数进行调整,以得到目标提取边缘。
可选地,预先建立的初始边缘提取模型还可以是生成对抗网络。所述生成对抗网络可以包括生成器和判别器。其中,生成器可以包括语义分割网络。示例性地,所述语义分割网络可以采用前述的卷积神经网络,所述判别器可以采用多尺度特征判别结构。
S230、根据所述目标提取边缘确定所述目标展示图像中的特效展示边缘。
可选地,将所述目标提取边缘作为所述目标展示图像中的特效展示边缘,或者,根据预设的边缘选取条件对所述目标提取边缘进行选取,将选中的目标提取边缘确定为所述目标展示图像中的特效展示边缘。其中,预设的边缘选取条件可以根据实际情况进行设置,在此不做具体限定。例如,可以是目标提取边缘的连续长度等。
S240、将所述目标展示图像中的特效展示边缘以第一预设展示方式展示于目标展示区域中。
S250、将所述目标展示图像中除所述特效展示边缘之外的区域以第二预设展示方式展示于所述目标展示区域中。
本实施例的技术方案,通过预先训练完成的目标边缘提取模型得到与目标展示图像对应的目标边缘掩膜图像,进而,根据所述目标提取边缘确定所述目标展示图像中的特效展示边缘,能够简单、便捷、快速且智能地提取出目标展示图像中的特效展示边缘,从而能够在接收到针对目标展示图像输入的用于启用边缘展示特效的边缘特效触发操作时,快速响应该边缘特效触发操作。
实施例三
图3为本公开实施例三所提供的一种图像处理方法的流程示意图,本实施例在本公开实施例中任一可选技术方案的基础上,对生成目标边缘提取模型的方式进行了细化,以更为精准地提取出目标展示图像的特效边缘信息。可选地,在所述将所述目标展示图像输入至预先训练完成的目标边缘提取模型中之前,还包括:获取样本展示图像以及与所述样本展示图像对应的样本边缘掩膜图像,其中,所述样本边缘掩膜图像中包括所述样本展示图像中的期望提取边缘;根据所述样本展示图像以及所述样本边缘掩膜图像对初始边缘提取模型进行训练,其中,初始边缘提取模型包括语义分割网络和判别器;将训练完成的语义分割网络作为目标边缘提取模型。具体实施方式可以参见本实施例的说明。其中,与前述实施例相同或相似的技术特征在此不再赘述。
如图3所示,本实施例的方法具体可包括:
S310、接收针对目标展示图像输入的用于启用边缘展示特效的边缘特效触发操作。
S320、获取样本展示图像以及与所述样本展示图像对应的样本边缘掩膜图像,其中,所述样本边缘掩膜图像中包括所述样本展示图像中的期望提取边缘。
其中,样本展示图像可以是待进行边缘提取的原始样本图像。样本边缘掩膜图像可以是与样本展示图像相对应的用于表征边缘信息的图像。期望提取边缘可以理解为期望经由目标边缘模型进行边缘提取后得到的边缘信息。
需要说明的是,期望提取边缘包括特效展示边缘。特效展示边缘可以是期望提取边缘的部分边缘,也可以是提取到的全部期望提取边缘。
具体的,可以从现有数据库中获取样本初始待提取图像以及与样本展示图像对应的样本边缘掩膜图像。也可以先获取样本展示提取图像,进而,对样本展示图像进行边缘信息标注,得到与样本展示图像相对应的样本边缘掩膜图像。
S330、根据所述样本展示图像以及所述样本边缘掩膜图像对初始边缘提取模型进行训练,其中,初始边缘提取模型包括语义分割网络和判别器。
在本公开实施例中,初始边缘提取模型可以是生成对抗网络。语义分割网络可以理解为生成对抗网络中的生成器,和判别器形成对抗,进行训练。具体地,生成对抗网络是通过语义分割网络G(Generator)和判别器D(Discriminator) 不断博弈,从而不断优化自身模型参数,以得到目标边缘提取模型。
在模型训练的过程中,对于语义分割网络而言,语义分割网络不断优化自身模型参数,以使判别器将语义分割网络输出的图像判别为真,或者说,以使判别器判别不出那些图像是语义分割网络输出的图像;对于判别器而言,判别器需要不断优化自身的模型参数,以能够准确地将语义分割网络输出的图像判别为假。从而不断提高模型精度。
在本公开实施例中,可选地,根据所述样本展示图像以及所述样本边缘掩膜图像对初始边缘提取模型进行训练,包括:根据所述样本展示图像以及所述样本边缘掩膜图像对初始边缘提取模型进行训练的方式可以是,将样本展示图像作为语义分割网络的输入图像,输入至语义分割网络中,得到分割边缘掩膜图像,进而,根据分割边缘掩膜图像与该输入图像对应的样本边缘掩膜图像之间的损失对语义分割网络进行模型参数调整,优化语义分割网络。
在此基础上,可选地,根据所述样本展示图像以及所述样本边缘掩膜图像对初始边缘提取模型进行训练,还包括:根据语义分割网络输出的图像、与语义分割网络输出的图像对应的期望输出图像以及期望判别结果对判别器进行训练,优化判别器。
可选地,在本公开实施例中,判别器除了充当了一个异常检测器的功能之外,还可以根据判别器的模型判别损失对语义分割网络的模型参数进行调整,让语义分割网络关注于未学好部分,从而提升语义分割网络的边缘提取效果。
S340、将训练完成的语义分割网络作为目标边缘提取模型。
在本公开实施例中,确定模型训练完成的方式有多种。可选地,当语义分割网络的生成损失函数收敛时,确定为语义分割网络训练完成;或者,当训练迭代次数达到预设次数阈值时,确定为语义分割网络训练完成,又或者,将检测出所述语义分割网络的边缘提取效果达到预期目标时,确定为语义分割网络训练完成。
其中,训练迭代次数达到预设次数阈值可以通过样本图像被遍历的次数确定。边缘提取效果可以根据语义分割网络实际输出的边缘掩膜图像与样本边缘掩膜图像之间的差异信息确定。
S350、将所述目标展示图像输入至预先训练完成的目标边缘提取模型中,得到与所述目标展示图像对应的目标边缘掩膜图像,其中,所述目标边缘掩膜图像中包括所述目标展示图像中的目标提取边缘。
S360、根据所述目标提取边缘确定所述目标展示图像中的特效展示边缘。
S370、将所述目标展示图像中的特效展示边缘以第一预设展示方式展示于目标展示区域中。
S380、将所述目标展示图像中除所述特效展示边缘之外的区域以第二预设展示方式展示于所述目标展示区域中。
本实施例的技术方案,通过采用对抗网络架构,将初始边缘提取模型作为对抗网络中的生成器,交替训练语义分割网络和判别器,并通过判别器的训练情况反调整语义分割网络,使得训练完成的语义分割网络具有更为精准地边缘提取能力,进一步保证边缘特效展示的效果。
实施例四
图4为本公开实施例四所提供的一种图像处理方法的流程示意图,本实施例在本公开实施例中任一可选技术方案的基础上,对语义分割模型的训练方式进行了细化,以进一步提高目标展示图像的特效边缘信息的提取精度。可选地,所述根据所述样本展示图像以及所述样本边缘掩膜图像对初始边缘提取模型进行训练,包括:将所述样本展示图像输入至语义分割网络中,得到分割边缘掩膜图像;基于所述语义分割网络的生成损失函数、所述分割边缘掩膜图像以及所述样本边缘掩膜图像确定模型生成损失,其中,所述模型生成损失包括语义分割网络的图像生成损失以及判别器对所述分割边缘掩膜图像的图像判别损失;根据所述模型生成损失对所述语义分割网络的模型参数进行调整。具体实施方式可以参见本实施例的说明。其中,与前述实施例相同或相似的技术特征在此不再赘述。
如图4所示,本实施例的方法具体可包括:
S410、接收针对目标展示图像输入的用于启用边缘展示特效的边缘特效触发操作。
S420、获取样本展示图像以及与所述样本展示图像对应的样本边缘掩膜图像,其中,所述样本边缘掩膜图像中包括所述样本展示图像中的期望提取边缘。
S430、将所述样本展示图像输入至语义分割网络中,得到分割边缘掩膜图像;基于所述语义分割网络的生成损失函数、所述分割边缘掩膜图像以及所述样本边缘掩膜图像确定模型生成损失,其中,所述模型生成损失包括语义分割网络的图像生成损失以及判别器对所述分割边缘掩膜图像的图像判别损失。
其中,语义分割网络的生成损失函数可以理解为用于判断语义分割网络的进行边缘提取时所产生的损失的函数。在本公开实施例中,所述语义分割网络的生成损失函数可以仅包含一种损失函数,也可以是包含两种或两种以上的损失函数。示例性地,生成损失函数可包括第一损失函数和第二损失函数;
具体地,所述基于所述语义分割网络的生成损失函数、所述分割边缘掩膜图像以及所述样本边缘掩膜图像确定模型生成损失,可以包括:基于第一损失函数计算所述分割边缘掩膜图像以及所述样本边缘掩膜图像之间的损失,作为语义分割网络的图像生成损失;基于第二损失函数计算所述判别器输出的与所述分割边缘掩膜图像对应的输出判别结果与期望判别结果之间的图像判别损失;根据所述图像生成损失和所述图像判别损失确定所述语义分割网络的模型生成损失。
示例性地,根据所述图像生成损失和所述图像判别损失确定所述语义分割网络的模型生成损失的方式可以是,将所述图像生成损失和所述图像判别损失进行求和或加权求和得到语义分割网络的模型生成损失。
其中,第一损失函数和第二损失函数可以相同也可以不同。示例性地,所述第一损失函数包括二分类交叉熵损失函数,所述第二损失函数包括最小二乘损失函数。
可选地,所述语义分割网络的生成损失函数基于如下公式表示:
其中,x表示样本展示图像,G(x)表示所述语义分割网络输出的与所述样本展示图像对应的分割边缘掩膜图像,y表示与所述样本展示图像对应的样本边缘掩膜图像,LG(G(x),y)表示所述语义分割网络的生成损失函数,Lbce(G(x),y)表示用于计算所述分割边缘掩膜图像以及所述样本边缘掩膜图像之间的损失的二分类交叉熵损失函数,c[G(x),x]表示由所述分割边缘掩膜图像与所述样本展示图像进行拼接得到的假样本图像,Dk(c[G(x),x])表示判别器的第k层网络所输出的假样本图像的图像判别结果,n表示从k的最大取值,为大于1的正整数,βj表示第j个像素点的权重值,m表示从j的最大取值,为大于1的正整数。
由于图像中的边缘信息在图像的整体信息中所占的比例往往较少,在通过模型进行边缘提取的场景中,对所有的像素点进行同样的学习时,会存在样本失衡的问题。因此,可以将样本边缘掩膜图像中的边缘像素点作为正样本,样本边缘掩膜图像中除边缘像素点之外的像素点作为负样本,通过正样本的像素点数量占总像素点数量的比例与负样本的像素点数量占总像素点数量比例确定每个像素点对应的权重来均衡。可选地,在所述基于第二损失函数计算所述判别器输出的与所述分割边缘掩膜图像对应的输出判别结果与期望判别结果之间的图像判别损失之前,还包括:根据所述期望判别结果对应的边缘像素点和出所述边缘像素点之外的像素点的数量以及所述期望判别结果对应的像素点总数量,确定所述第二损失函数的目标权重值,并基于所述目标权重值对所述第二损失函数进行加权。进而,可以通过加权后的计算所述判别器输出的与所述分割边缘掩膜图像对应的输出判别结果与期望判别结果之间的图像判别损失。
可选地,在将所述样本展示图像输入至语义分割网络中之前,还可以包括对所述样本展示图像进行预处理,其中,所述预处理包括降噪处理、锐化处理、缩放处理、裁剪处理及插值处理中的至少一种。
S440、根据所述模型生成损失对所述语义分割网络的模型参数进行调整,将训练完成的语义分割网络作为目标边缘提取模型。
需要说明的是,通过模型生成损失对语义分割网络的模型参数进行调整的目的在于使得语义分割网络生成的与样本展示图像对应的分割边缘掩膜图像更接近与样本展示图像对应的样本边缘掩膜图像,以使判别器尽可能地判别不出分割边缘掩膜图像以及样本边缘掩膜图像之间的差别。
S450、将所述目标展示图像输入至预先训练完成的目标边缘提取模型中,得到与所述目标展示图像对应的目标边缘掩膜图像,其中,所述目标边缘掩膜图像中包括所述目标展示图像中的目标提取边缘。
S460、根据所述目标提取边缘确定所述目标展示图像中的特效展示边缘。
S470、将所述目标展示图像中的特效展示边缘以第一预设展示方式展示于目标展示区域中。
S480、将所述目标展示图像中除所述特效展示边缘之外的区域以第二预设展示方式展示于所述目标展示区域中。
本实施例的技术方案,通过在对语义分割模型进行模型参数调整时,将语义分割网络输出的分割边缘掩膜图像、生成损失函数以及所述样本边缘掩膜图像确定语义分割网络的图像生成损失以及判别器对分割边缘掩膜图像的图像判别损失,不仅考虑了语义分割网络自身在边缘提取中的图像生成损失,还结合了判别器对分割边缘掩膜图像的图像判别损失,能够关注到通过判别器对分割边缘掩膜图像的判别结果,从而调整分割模型,充分应用了语义分割模型与判别器之间的对抗,使得训练完成的语义分割网络具有更为精准地边缘提取能力,进一步保证边缘特效展示的效果。
实施例五
图5为本公开实施例五所提供的一种图像处理方法的流程示意图,本实施例在本公开实施例中任一可选技术方案的基础上,对判别器的训练方式进行了细化,以更好地辅助提升语义分割网络的训练效果,进而提升边缘提取精度。可选地,所述根据语义分割网络输出与所述样本展示图像对应的分割边缘掩膜图像、所述样本展示图像以及所述样本边缘掩膜图像确定判别器的样本训练图像,其中,所述样本训练图像包括真样本图像和假样本图像;将所述样本训练图像输入至判别器中,得到所述判别器的输出判别结果,并根据所述判别器的判别损失函数、所述输出判别结果与期望判别结果确定所述判别器的模型判别损失;根据所述模型判别损失对所述判别器的模型参数进行调整。具体实施方式可以参见本实施例的说明。其中,与前述实施例相同或相似的技术特征在此不再赘述。
如图5所示,本实施例的方法具体可包括:
S510、接收针对目标展示图像输入的用于启用边缘展示特效的边缘特效触发操作。
S520、获取样本展示图像以及与所述样本展示图像对应的样本边缘掩膜图像,其中,所述样本边缘掩膜图像中包括所述样本展示图像中的期望提取边缘。
S530、根据语义分割网络输出与所述样本展示图像对应的分割边缘掩膜图像、所述样本展示图像以及所述样本边缘掩膜图像确定判别器的样本训练图像,其中,所述样本训练图像包括真样本图像和假样本图像。
由于掩膜图像为一通道图像,为了与判别器适配,可选地,可以通过图像拼接的方式将样本边缘掩膜图像以及分割掩膜图像转化为两通道或两通道以上的图像。考虑到样本边缘掩膜图像以及分割掩膜图像均与样本展示图像对应,可选地,将所述样本展示图像与语义分割网络输出与所述样本展示图像对应的分割边缘掩膜图像进行拼接,得到判别模型的假样本图像,将所述样本展示图像与所述样本边缘掩膜图像进行拼接,得到判别模型的真样本图像。
作为本公开实施例的一可选方式,还可以将所述样本边缘掩膜图像与语义分割网络输出与所述样本展示图像对应的分割边缘掩膜图像进行拼接,得到判别模型的假样本图像,将所述样本边缘掩膜图像与所述样本边缘掩膜图像进行拼接,得到判别模型的真样本图像。
S540、将所述样本训练图像输入至判别器中,得到所述判别器的输出判别结果,并根据所述判别器的判别损失函数、所述输出判别结果与期望判别结果确定所述判别器的模型判别损失。
其中,判别器的判别损失函数可以理解为用于判断判别器在进行分类判别时所产生的损失的函数。在本公开实施例中,所述判别损失函数可以仅包含一种损失函数,也可以是包含两种或两种以上的损失函数。示例性地,所述判别损失函数包括第三损失函数和第四损失函数。可以通过第三损失函数计算样本训练图像中假样本图像的图像判别损失,通过第四损失函数计算样本训练图像中真样本图像的图像判别损失,进而基于假样本图像的图像判别损失和真样本图像的图像判别损失确定所述判别器的模型判别损失。
可选地,所述根据所述判别器的判别损失函数、输出判别结果与期望判别结果确定所述判别器的模型判别损失,具体包括:根据第三损失函数计算所述判别器所输出的与所述假样本图像对应的输出判别结果与期望判别结果确定所述判别器的假样本判别损失;根据第四损失函数计算所述判别器所输出的与所述真样本图像对应的输出判别结果与期望判别结果确定所述判别器的真样本判别损失;根据所述假样本判别损失和所述真样本判别损失确定所述判别器的模型判别损失。
如前所示,由于图像中的边缘信息在图像的整体信息中所占的比例往往较少,在通过模型进行边缘提取的场景中,对所有的像素点进行同样的学习时,会存在样本失衡的问题。因此,可以通过正负样本比例确定第三损失函数和/或第四损失函数的权重来均衡。
示例性地,根据所述假样本判别损失和所述真样本判别损失确定所述判别器的模型判别损失的方式可以是将假样本判别损失和所述真样本判别损失进行求和或加权求和得到判别器的模型判别损失。
其中,第三损失函数和第四损失函数可以相同也可以不同。可选地,所述第三损失函数包括二分类交叉熵损失函数,所述第四损失函数包括最小二乘损失函数。
进一步地,所述判别器的模型判别损失可基于如下公式表示:
其中,x表示样本展示图像,G(x)表示所述语义分割网络输出的与所述样本展示图像对应的分割边缘掩膜图像,y表示与所述样本展示图像对应的样本边缘掩膜图像,LD(G(x),y)表示所述判别器的判别损失函数,c[G(x),x]表示由所述分割边缘掩膜图像与所述样本展示图像进行拼接得到的假样本图像,dk表示判别器的第k层网络期望输出的与所述假样本图像对应的图像判别结果, Lbce(Dk(c[G(x),x]),dk)表示用于计算所述分割边缘掩膜图像以及所述样本边缘掩膜图像之间的损失的二分类交叉熵损失函数,c[y,x]表示由所述样本边缘掩膜图像与所述样本展示图像进行拼接得到的真样本图像,Dk(c[y,x])表示判别器的第k层网络实际输出的真样本图像的图像判别结果,n表示从k的最大取值,为大于1的正整数,αi表示第i个像素点的权重值。
可选地,在所述根据所述判别器的判别损失函数、所述输出判别结果与期望判别结果确定所述判别器的模型判别损失之前,还包括:确定期望所述判别器输出的与所述样本展示图像对应的期望判别结果。其中,与所述样本展示图像对应的期望判别结果包括:与所述样本展示图像对应的分割边缘掩膜图像对应的期望判别结果,以及与所述样本展示图像对应的样本边缘掩膜图像对应的期望判别结果。
如果仅仅是语义分割网络加判别器的常规训练,判别器往往起不到很好的作用,因为通常预测的分割边缘掩膜图像的结果中,只有局部像素点的预测结果是错误的,而大部分像素点的预测结果是正确的。常规判别器捕捉的大部分信息是具有误导性的,不能起到较好地约束的作用。因此,可选地,确定期望所述判别器输出的与所述样本展示图像对应的期望判别结果,具体可包括:对所述样本边缘掩膜图像进行膨胀处理,得到第一边缘掩膜图像;对所述分割边缘掩膜图像进行二值化处理,得到第二边缘掩膜图像;将所述第一边缘掩膜图像与所述第二边缘掩膜图像进行乘法运算,得到期望所述判别器输出的与所述样本展示图像对应的期望判别结果。
针对分割边缘掩膜图像,将样本边缘掩膜图像膨胀后的第一边缘掩膜图像与分割边缘掩膜图像二值化后的第二边缘掩膜图像进行乘法运算,可以减少分割边缘掩膜图像中像素值不为0的非边缘点对边缘点的干扰,使得得到的期望判别结果重点关注于对所提取的边缘像素点的判别。
在本公开实施例中,可以采用判别器对样本训练图像进行多尺度特征判别。例如,通过average pooling x4的算法,也可以称为4层平均池的方式。
在本公开实施例中,可以分别确定判别器中每一个模型判别层的期望判别结果。具体地,可以在将所述第一边缘掩膜图像与所述第二边缘掩膜图像进行乘法运算,得到期望所述判别器输出的与所述样本展示图像对应的期望判别结果之后,还包括:对与所述样本展示图像对应的期望判别结果进行尺寸转换处理,并确定尺寸转换后各个期望判别结果中的各个像素点对应的特征值,得到与每一个模型判别层对应的期望判别结果。其中,特征值可以理解为用于判别该目标区域是否为边缘点的判别值。
示例性地,与所述样本展示图像对应的期望判别结果的尺寸为512x512,如果缩放到16x16的话,那么每一个小格子的像素其实代表着32x32的特征值的结果。可以理解为,512x512到16x16,相当于512x512中每32x32个像素求了均值变成了16x16中的一个像素值结果。当小格子对应的特征值中判别错误的特征值的比例达到预设比例时,例如,错误比例达到1/16,1/32,1/64 1/128等,则将该小格子的像素对应的特征值确定为判别错误。
在计算判别器的模型判别损失时,可以分别根据判别损失函数计算每一个模型判别层的期望判别结果与输出判别结果的损失值,进而通过求和或者求和再求平均或者加权求和再求平均等方式计算出判别器的模型判别损失。
S550、根据所述模型判别损失对所述判别器的模型参数进行调整。
需要说明的是,通过模型判别损失对判别器的模型参数进行调整的目的在于提升判别器的判别准确率,能够更好地判别假样本图像和真样本图像。从而,与语义分割网络形成对抗,以促使语义分割网络生成的与样本展示图像对应的分割边缘掩膜图像更接近与样本展示图像对应的样本边缘掩膜图像。
S560、将训练完成的语义分割网络作为目标边缘提取模型,将所述目标展示图像输入至预先训练完成的目标边缘提取模型中,得到与所述目标展示图像对应的目标边缘掩膜图像,其中,所述目标边缘掩膜图像中包括所述目标展示图像中的目标提取边缘。
S570、根据所述目标提取边缘确定所述目标展示图像中的特效展示边缘。
S580、将所述目标展示图像中的特效展示边缘以第一预设展示方式展示于目标展示区域中。
S590、将所述目标展示图像中除所述特效展示边缘之外的区域以第二预设展示方式展示于所述目标展示区域中。
本实施例的技术方案,通过将样本展示图像与分割边缘掩膜图像,以及将样本展示图像与样本边缘掩膜图像进行拼接的方式,得到判别器的样本训练图像,在满足判别器对输入的图像的要求的同时,能够将样本展示图像与判别器的输出判别结果相关联,进而,根据判别器的判别损失函数、输出判别结果与期望判别结果确定判别器的模型判别损失,对判别器进行模型参数调整,使得判别器达到更好地判别效果,从而更好地与语义分割网络进行对抗,以辅助优化语义分割网络,提升边缘提取的效果。
实施例六
图6为本公开实施例六提供的一种图像处理装置的结构示意图,本实施例所提供的图像处理装置可以通过软件和/或硬件来实现,可配置于终端和/或服务器中来实现本公开实施例中的图像处理方法。如图6所示,该装置具体可包括:触发操作接收模块610、边缘特效展示模块620和常规效果展示模块630。
其中,触发操作接收模块610,用于接收针对目标展示图像输入的用于启用边缘展示特效的边缘特效触发操作;边缘特效展示模块620,用于将所述目标展示图像中的特效展示边缘以第一预设展示方式展示于目标展示区域中;常规效果展示模块630,用于将所述目标展示图像中除所述特效展示边缘之外的区域以第二预设展示方式展示于所述目标展示区域中。
本公开实施例的技术方案,通过接收针对目标展示图像输入的用于启用边缘展示特效的边缘特效触发操作,能够通过与用户交互的方式,满足用户对目标展示图像中的边缘进行特效展示的需求,进而,响应于边缘特效触发操作,将目标展示图像中的特效展示边缘以第一预设展示方式展示于目标展示区域中,并将除特效展示边缘之外的区域以第二预设展示方式展示于目标展示区域中,将特效展示边缘区别于其他图像信息进行展示,突出展示目标展示图像中的边缘信息,解决了图像展示方式单一以及图像展示无法突出重点信息的技术问题,实现增加了图像展示的丰富性和趣味性,提升用户观感体验的效果。
在本公开实施例中任一可选技术方案的基础上,可选地,所述边缘特效展示模块用于:
将所述目标展示图像中的特效展示边缘处的各个目标边缘点,以按照预设点亮顺序进行点亮的方式,动态展示于目标展示区域中。
在本公开实施例中任一可选技术方案的基础上,可选地,所述触发操作接收模块用于:
接收针对预先设置的边缘特效触发控件的控件触发操作,展示图像获取界面;其中,所述图像获取界面包括图像获取控件;
基于所述图像获取控件获取目标展示图像,并接收针对所述目标展示图像的上传触发操作。
在本公开实施例中任一可选技术方案的基础上,可选地,所述图像处理装置还包括:
目标边缘掩膜图像输出模块,用于在所述将所述目标展示图像中的特效展示边缘以第一预设展示方式展示于目标展示区域中之前,将所述目标展示图像输入至预先训练完成的目标边缘提取模型中,得到与所述目标展示图像对应的目标边缘掩膜图像,其中,所述目标边缘掩膜图像中包括所述目标展示图像中的目标提取边缘;
特效展示边缘确定模块,用于根据所述目标提取边缘确定所述目标展示图像中的特效展示边缘。
在本公开实施例中任一可选技术方案的基础上,可选地,所述图像处理装置还包括:
样本图像获取模块,用于在所述将所述目标展示图像输入至预先训练完成的目标边缘提取模型中之前,获取样本展示图像以及与所述样本展示图像对应的样本边缘掩膜图像,其中,所述样本边缘掩膜图像中包括所述样本展示图像中的期望提取边缘;
生成模型训练模块,用于根据所述样本展示图像以及所述样本边缘掩膜图像对初始边缘提取模型进行训练,其中,初始边缘提取模型包括语义分割网络和判别器;
目标边缘提取模型确定模块,用于将训练完成的语义分割网络作为目标边缘提取模型。
在本公开实施例中任一可选技术方案的基础上,可选地,所述模型训练模块包括:
分割边缘掩膜图像输出单元,用于将所述样本展示图像输入至语义分割网络中,得到分割边缘掩膜图像;
模型生成损失确定单元,用于基于所述语义分割网络的生成损失函数、所述分割边缘掩膜图像以及所述样本边缘掩膜图像确定模型生成损失,其中,所述模型生成损失包括语义分割网络的图像生成损失以及判别器对所述分割边缘掩膜图像的图像判别损失;
语义分割网络调整单元,用于根据所述模型生成损失对所述语义分割网络的模型参数进行调整。
在本公开实施例中任一可选技术方案的基础上,可选地,所述语义分割网络的生成损失函数包括第一损失函数和第二损失函数;
相应地,所述模型生成损失确定单元具体用于:
基于第一损失函数计算所述分割边缘掩膜图像以及所述样本边缘掩膜图像之间的损失,作为语义分割网络的图像生成损失;
基于第二损失函数计算所述判别器输出的与所述分割边缘掩膜图像对应的输出判别结果与期望判别结果之间的图像判别损失;
根据所述图像生成损失和所述图像判别损失确定所述语义分割网络的模型生成损失。
在本公开实施例中任一可选技术方案的基础上,可选地,所述第一损失函数包括二分类交叉熵损失函数,所述第二损失函数包括最小二乘损失函数,所述语义分割网络的生成损失函数基于如下公式表示:
其中,x表示样本展示图像,G(x)表示所述语义分割网络输出的与所述样本展示图像对应的分割边缘掩膜图像,y表示与所述样本展示图像对应的样本边缘掩膜图像,LG(G(x),y)表示所述语义分割网络的生成损失函数,Lbce(G(x),y)表示用于计算所述分割边缘掩膜图像以及所述样本边缘掩膜图像之间的损失的二分类交叉熵损失函数,c[G(x),x]表示由所述分割边缘掩膜图像与所述样本展示图像进行拼接得到的假样本图像,Dk(c[G(x),x])表示判别器的第k层网络所输出的假样本图像的图像判别结果,n表示从k的最大取值,为大于1的正整数,αi表示第i个像素点的权重值。
在本公开实施例中任一可选技术方案的基础上,可选地,所述模型生成损失确定单元具体还用于:
在所述基于第二损失函数计算所述判别器输出的与所述分割边缘掩膜图像对应的输出判别结果与期望判别结果之间的图像判别损失之前,根据所述期望判别结果对应的边缘像素点和出所述边缘像素点之外的像素点的数量以及所述期望判别结果对应的像素点总数量,确定所述第二损失函数的目标权重值,并基于所述目标权重值对所述第二损失函数进行加权。
在本公开实施例中任一可选技术方案的基础上,可选地,所述模型训练模块还包括:
判别器样本图像生成单元,用于根据语义分割网络输出与所述样本展示图像对应的分割边缘掩膜图像、所述样本展示图像以及所述样本边缘掩膜图像确定判别器的样本训练图像,其中,所述样本训练图像包括真样本图像和假样本图像;
模型判别损失确定单元,用于将所述样本训练图像输入至判别器中,得到所述判别器的输出判别结果,并根据所述判别器的判别损失函数、所述输出判别结果与期望判别结果确定所述判别器的模型判别损失;
判别器确定单元,用于根据所述模型判别损失对所述判别器的模型参数进行调整。
在本公开实施例中任一可选技术方案的基础上,可选地,所述判别器样本图像生成单元具体用于:
将所述样本展示图像与语义分割网络输出与所述样本展示图像对应的分割边缘掩膜图像进行拼接,得到判别模型的假样本图像,将所述样本展示图像与所述样本边缘掩膜图像进行拼接,得到判别模型的真样本图像。
在本公开实施例中任一可选技术方案的基础上,可选地,所述判别损失函数包括第三损失函数和第四损失函数;
所述模型判别损失确定单元具体用于:
根据第三损失函数计算所述判别器所输出的与所述假样本图像对应的输出判别结果与期望判别结果确定所述判别器的假样本判别损失;
根据第四损失函数计算所述判别器所输出的与所述真样本图像对应的输出判别结果与期望判别结果确定所述判别器的真样本判别损失;
根据所述假样本判别损失和所述真样本判别损失确定所述判别器的模型判别损失。
在本公开实施例中任一可选技术方案的基础上,可选地,所述第三损失函数包括二分类交叉熵损失函数,所述第四损失函数包括最小二乘损失函数,所述判别器的模型判别损失基于如下公式表示:
其中,x表示样本展示图像,G(x)表示所述语义分割网络输出的与所述样本展示图像对应的分割边缘掩膜图像,y表示与所述样本展示图像对应的样本边缘掩膜图像,LD(G(x),y)表示所述判别器的判别损失函数,c[G(x),x]表示由所述分割边缘掩膜图像与所述样本展示图像进行拼接得到的假样本图像,dk表示判别器的第k层网络所期望输出的与所述假样本图像对应的期望判别结果, Lbce(Dk(c[G(x),x]),dk)表示用于计算所述分割边缘掩膜图像以及所述样本边缘掩膜图像之间的损失的二分类交叉熵损失函数,c[y,x]表示由所述样本边缘掩膜图像与所述样本展示图像进行拼接得到的真样本图像,Dk(c[y,x])表示判别器的第k层网络实际输出的真样本图像的图像判别结果,n表示从k的最大取值,为大于1的正整数,βj表示第j个像素点的权重值,m表示从j的最大取值,为大于1的正整数。
在本公开实施例中任一可选技术方案的基础上,可选地,所述模型训练模块还包括:
样本边缘掩膜图形膨胀单元,用于在所述根据所述判别器的判别损失函数、所述输出判别结果与期望判别结果确定所述判别器的模型判别损失之前,对所述样本边缘掩膜图像进行膨胀处理,得到第一边缘掩膜图像;
分割边缘掩膜图像二值化单元,用于对所述分割边缘掩膜图像进行二值化处理,得到第二边缘掩膜图像;
期望判别结果生成单元,用于将所述第一边缘掩膜图像与所述第二边缘掩膜图像进行乘法运算,得到期望所述判别器输出的与所述样本展示图像对应的期望判别结果。
上述图像处理装置可执行本公开任意实施例所提供的图像处理方法,具备执行图像处理方法相应的功能模块和有益效果。
值得注意的是,上述图像处理装置所包括的各个单元和模块只是按照功能逻辑进行划分的,但并不局限于上述的划分,只要能够实现相应的功能即可;另外,各功能单元的具体名称也只是为了便于相互区分,并不用于限制本公开实施例的保护范围。
实施例七
图7为本公开实施例七所提供的一种电子设备的结构示意图。下面参考图7,其示出了适于用来实现本公开实施例的电子设备(例如图7中的终端设备或服务器)700的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图7示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图7所示,电子设备700可以包括处理装置(例如中央处理器、图形处理器等)701,其可以根据存储在只读存储器(ROM)702中的程序或者从存储装置708加载到随机访问存储器(RAM)703中的程序而执行各种适当的动作和处理。在RAM 703中,还存储有电子设备700操作所需的各种程序和数据。处理装置701、ROM 702以及RAM 703通过总线705彼此相连。编辑/输出(I/O) 接口704也连接至总线705。
通常,以下装置可以连接至I/O接口704:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置706;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置707;包括例如磁带、硬盘等的存储装置708;以及通信装置709。通信装置709可以允许电子设备700与其他设备进行无线或有线通信以交换数据。虽然图7示出了具有各种装置的电子设备700,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在非暂态计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置709从网络上被下载和安装,或者从存储装置708被安装,或者从ROM 702 被安装。在该计算机程序被处理装置701执行时,执行本公开实施例的方法中限定的上述功能。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
本公开实施例提供的电子设备与上述实施例提供的图像处理方法属于同一发明构思,未在本实施例中详尽描述的技术细节可参见上述实施例,并且本实施例与上述实施例具有相同的有益效果。
实施例八
本公开实施例提供了一种计算机存储介质,其上存储有计算机程序,该程序被处理器执行时实现上述实施例所提供的图像处理方法。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM 或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、 RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:
接收针对目标展示图像输入的用于启用边缘展示特效的边缘特效触发操作;
将所述目标展示图像中的特效展示边缘以第一预设展示方式展示于目标展示区域中;
将所述目标展示图像中除所述特效展示边缘之外的区域以第二预设展示方式展示于所述目标展示区域中。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,
上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN) —连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,单元的名称在某种情况下并不构成对该单元本身的限定,例如,第一获取单元还可以被描述为“获取至少两个网际协议地址的单元”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器 (EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
根据本公开的一个或多个实施例,【示例一】提供了一种元素展示方法,该方法包括:
接收针对目标展示图像输入的用于启用边缘展示特效的边缘特效触发操作;
将所述目标展示图像中的特效展示边缘以第一预设展示方式展示于目标展示区域中;
将所述目标展示图像中除所述特效展示边缘之外的区域以第二预设展示方式展示于所述目标展示区域中。
根据本公开的一个或多个实施例,【示例二】提供了一种元素展示方法,该方法,还包括:
可选的,所述将所述目标展示图像中的特效展示边缘以第一预设展示方式展示于目标展示区域中,包括:
将所述目标展示图像中的特效展示边缘处的各个目标边缘点,以按照预设点亮顺序进行点亮的方式,动态展示于目标展示区域中。
根据本公开的一个或多个实施例,【示例三】提供了一种元素展示方法,该方法,还包括:
可选地,所述接收针对目标展示图像输入的用于启用边缘展示特效的边缘特效触发操作,包括:
接收针对预先设置的边缘特效触发控件的控件触发操作,展示图像获取界面;其中,所述图像获取界面包括图像获取控件;
基于所述图像获取控件获取目标展示图像,并接收针对所述目标展示图像的上传触发操作。
根据本公开的一个或多个实施例,【示例四】提供了一种元素展示方法,该方法,还包括:
可选的,在所述将所述目标展示图像中的特效展示边缘以第一预设展示方式展示于目标展示区域中之前,还包括:
将所述目标展示图像输入至预先训练完成的目标边缘提取模型中,得到与所述目标展示图像对应的目标边缘掩膜图像,其中,所述目标边缘掩膜图像中包括所述目标展示图像中的目标提取边缘;
根据所述目标提取边缘确定所述目标展示图像中的特效展示边缘。
根据本公开的一个或多个实施例,【示例五】提供了一种元素展示方法,该方法,还包括:
可选的,在所述将所述目标展示图像输入至预先训练完成的目标边缘提取模型中之前,还包括:
获取样本展示图像以及与所述样本展示图像对应的样本边缘掩膜图像,其中,所述样本边缘掩膜图像中包括所述样本展示图像中的期望提取边缘;
根据所述样本展示图像以及所述样本边缘掩膜图像对初始边缘提取模型进行训练,其中,初始边缘提取模型包括语义分割网络和判别器;
将训练完成的语义分割网络作为目标边缘提取模型。
根据本公开的一个或多个实施例,【示例六】提供了一种元素展示方法,该方法,还包括:
可选的,所述根据所述样本展示图像以及所述样本边缘掩膜图像对初始边缘提取模型进行训练,包括:
将所述样本展示图像输入至语义分割网络中,得到分割边缘掩膜图像;
基于所述语义分割网络的生成损失函数、所述分割边缘掩膜图像以及所述样本边缘掩膜图像确定模型生成损失,其中,所述模型生成损失包括语义分割网络的图像生成损失以及判别器对所述分割边缘掩膜图像的图像判别损失;
根据所述模型生成损失对所述语义分割网络的模型参数进行调整。
根据本公开的一个或多个实施例,【示例七】提供了一种元素展示方法,该方法,还包括:
可选的,所述语义分割网络的生成损失函数包括第一损失函数和第二损失函数;
所述基于所述语义分割网络的生成损失函数、所述分割边缘掩膜图像以及所述样本边缘掩膜图像确定模型生成损失,包括:
基于第一损失函数计算所述分割边缘掩膜图像以及所述样本边缘掩膜图像之间的损失,作为语义分割网络的图像生成损失;
基于第二损失函数计算所述判别器输出的与所述分割边缘掩膜图像对应的输出判别结果与期望判别结果之间的图像判别损失;
根据所述图像生成损失和所述图像判别损失确定所述语义分割网络的模型生成损失。
根据本公开的一个或多个实施例,【示例八】提供了一种元素展示方法,该方法,还包括:
可选的,所述第一损失函数包括二分类交叉熵损失函数,所述第二损失函数包括最小二乘损失函数,所述语义分割网络的生成损失函数基于如下公式表示:
其中,x表示样本展示图像,G(x)表示所述语义分割网络输出的与所述样本展示图像对应的分割边缘掩膜图像,y表示与所述样本展示图像对应的样本边缘掩膜图像,LG(G(x),y)表示所述语义分割网络的生成损失函数,Lbce(G(x),y)表示用于计算所述分割边缘掩膜图像以及所述样本边缘掩膜图像之间的损失的二分类交叉熵损失函数,c[G(x),x]表示由所述分割边缘掩膜图像与所述样本展示图像进行拼接得到的假样本图像,Dk(c[G(x),x])表示判别器的第k层网络所输出的假样本图像的图像判别结果,n表示从k的最大取值,为大于1的正整数,αi表示第i个像素点的权重值。
根据本公开的一个或多个实施例,【示例九】提供了一种元素展示方法,该方法,还包括:
可选的,在所述基于第二损失函数计算所述判别器输出的与所述分割边缘掩膜图像对应的输出判别结果与期望判别结果之间的图像判别损失之前,还包括:
根据所述期望判别结果对应的边缘像素点和出所述边缘像素点之外的像素点的数量以及所述期望判别结果对应的像素点总数量,确定所述第二损失函数的目标权重值,并基于所述目标权重值对所述第二损失函数进行加权。
根据本公开的一个或多个实施例,【示例十】提供了一种元素展示方法,该方法,还包括:
可选的,所述根据所述样本展示图像以及所述样本边缘掩膜图像对初始边缘提取模型进行训练,包括:
根据语义分割网络输出与所述样本展示图像对应的分割边缘掩膜图像、所述样本展示图像以及所述样本边缘掩膜图像确定判别器的样本训练图像,其中,所述样本训练图像包括真样本图像和假样本图像;
将所述样本训练图像输入至判别器中,得到所述判别器的输出判别结果,并根据所述判别器的判别损失函数、所述输出判别结果与期望判别结果确定所述判别器的模型判别损失;
根据所述模型判别损失对所述判别器的模型参数进行调整。
根据本公开的一个或多个实施例,【示例十一】提供了一种元素展示方法,该方法,还包括:
可选地,所述根据语义分割网络输出与所述样本展示图像对应的分割边缘掩膜图像、所述样本展示图像以及所述样本边缘掩膜图像确定判别器的样本训练图像,包括:
将所述样本展示图像与语义分割网络输出与所述样本展示图像对应的分割边缘掩膜图像进行拼接,得到判别模型的假样本图像,将所述样本展示图像与所述样本边缘掩膜图像进行拼接,得到判别模型的真样本图像。
根据本公开的一个或多个实施例,【示例十二】提供了一种元素展示方法,该方法,还包括:
可选的,所述判别损失函数包括第三损失函数和第四损失函数;
所述根据所述判别器的判别损失函数、输出判别结果与期望判别结果确定所述判别器的模型判别损失,包括:
根据第三损失函数计算所述判别器所输出的与所述假样本图像对应的输出判别结果与期望判别结果确定所述判别器的假样本判别损失;
根据第四损失函数计算所述判别器所输出的与所述真样本图像对应的输出判别结果与期望判别结果确定所述判别器的真样本判别损失;
根据所述假样本判别损失和所述真样本判别损失确定所述判别器的模型判别损失。
根据本公开的一个或多个实施例,【示例十三】提供了一种元素展示方法,该方法,还包括:
可选的,所述第三损失函数包括二分类交叉熵损失函数,所述第四损失函数包括最小二乘损失函数,所述判别器的模型判别损失基于如下公式表示:
其中,x表示样本展示图像,G(x)表示所述语义分割网络输出的与所述样本展示图像对应的分割边缘掩膜图像,y表示与所述样本展示图像对应的样本边缘掩膜图像,LD(G(x),y)表示所述判别器的判别损失函数,c[G(x),x]表示由所述分割边缘掩膜图像与所述样本展示图像进行拼接得到的假样本图像,dk表示判别器的第k层网络所期望输出的与所述假样本图像对应的期望判别结果, Lbce(Dk(c[G(x),x]),dk)表示用于计算所述分割边缘掩膜图像以及所述样本边缘掩膜图像之间的损失的二分类交叉熵损失函数,c[y,x]表示由所述样本边缘掩膜图像与所述样本展示图像进行拼接得到的真样本图像,Dk(c[y,x])表示判别器的第k层网络实际输出的真样本图像的图像判别结果,n表示从k的最大取值,为大于1的正整数,βj表示第j个像素点的权重值,m表示从j的最大取值,为大于1的正整数。
根据本公开的一个或多个实施例,【示例十四】提供了一种元素展示方法,该方法,还包括:
可选的,在所述根据所述判别器的判别损失函数、所述输出判别结果与期望判别结果确定所述判别器的模型判别损失之前,还包括:
对所述样本边缘掩膜图像进行膨胀处理,得到第一边缘掩膜图像;
对所述分割边缘掩膜图像进行二值化处理,得到第二边缘掩膜图像;
将所述第一边缘掩膜图像与所述第二边缘掩膜图像进行乘法运算,得到期望所述判别器输出的与所述样本展示图像对应的期望判别结果。
根据本公开的一个或多个实施例,【示例十五】提供了一种元素展示装置,该装置,包括:
触发操作接收模块,用于接收针对目标展示图像输入的用于启用边缘展示特效的边缘特效触发操作;
边缘特效展示模块,用于将所述目标展示图像中的特效展示边缘以第一预设展示方式展示于目标展示区域中;
常规效果展示模块,用于将所述目标展示图像中除所述特效展示边缘之外的区域以第二预设展示方式展示于所述目标展示区域中。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外,虽然采用特定次序描绘了各操作,但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下,多任务和并行处理可能是有利的。同样地,虽然在上面论述中包含了如果干具体实现细节,但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地,在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。
Claims (17)
1.一种图像处理方法,其特征在于,包括:
接收针对目标展示图像输入的用于启用边缘展示特效的边缘特效触发操作;
将所述目标展示图像中的特效展示边缘以第一预设展示方式展示于目标展示区域中;
将所述目标展示图像中除所述特效展示边缘之外的区域以第二预设展示方式展示于所述目标展示区域中。
2.根据权利要求1所述的方法,其特征在于,所述将所述目标展示图像中的特效展示边缘以第一预设展示方式展示于目标展示区域中,包括:
将所述目标展示图像中的特效展示边缘处的各个目标边缘点,以按照预设点亮顺序进行点亮的方式,动态展示于目标展示区域中。
3.根据权利要求1所述的方法,其特征在于,所述接收针对目标展示图像输入的用于启用边缘展示特效的边缘特效触发操作,包括:
接收针对预先设置的边缘特效触发控件的控件触发操作,展示图像获取界面;其中,所述图像获取界面包括图像获取控件;
基于所述图像获取控件获取目标展示图像,并接收针对所述目标展示图像的上传触发操作。
4.根据权利要求1所述的方法,其特征在于,在所述将所述目标展示图像中的特效展示边缘以第一预设展示方式展示于目标展示区域中之前,还包括:
将所述目标展示图像输入至预先训练完成的目标边缘提取模型中,得到与所述目标展示图像对应的目标边缘掩膜图像,其中,所述目标边缘掩膜图像中包括所述目标展示图像中的目标提取边缘;
根据所述目标提取边缘确定所述目标展示图像中的特效展示边缘。
5.根据权利要求4所述的方法,其特征在于,在所述将所述目标展示图像输入至预先训练完成的目标边缘提取模型中之前,还包括:
获取样本展示图像以及与所述样本展示图像对应的样本边缘掩膜图像,其中,所述样本边缘掩膜图像中包括所述样本展示图像中的期望提取边缘;
根据所述样本展示图像以及所述样本边缘掩膜图像对初始边缘提取模型进行训练,其中,初始边缘提取模型包括语义分割网络和判别器;
将训练完成的语义分割网络作为目标边缘提取模型。
6.根据权利要求5所述的方法,其特征在于,所述根据所述样本展示图像以及所述样本边缘掩膜图像对初始边缘提取模型进行训练,包括:
将所述样本展示图像输入至语义分割网络中,得到分割边缘掩膜图像;
基于所述语义分割网络的生成损失函数、所述分割边缘掩膜图像以及所述样本边缘掩膜图像确定模型生成损失,其中,所述模型生成损失包括语义分割网络的图像生成损失以及判别器对所述分割边缘掩膜图像的图像判别损失;
根据所述模型生成损失对所述语义分割网络的模型参数进行调整。
7.根据权利要求6所述的方法,其特征在于,所述语义分割网络的生成损失函数包括第一损失函数和第二损失函数;
所述基于所述语义分割网络的生成损失函数、所述分割边缘掩膜图像以及所述样本边缘掩膜图像确定模型生成损失,包括:
基于第一损失函数计算所述分割边缘掩膜图像以及所述样本边缘掩膜图像之间的损失,作为语义分割网络的图像生成损失;
基于第二损失函数计算所述判别器输出的与所述分割边缘掩膜图像对应的输出判别结果与期望判别结果之间的图像判别损失;
根据所述图像生成损失和所述图像判别损失确定所述语义分割网络的模型生成损失。
8.根据权利要求7所述的方法,其特征在于,所述第一损失函数包括二分类交叉熵损失函数,所述第二损失函数包括最小二乘损失函数,所述语义分割网络的生成损失函数基于如下公式表示:
其中,x表示样本展示图像,G(x)表示所述语义分割网络输出的与所述样本展示图像对应的分割边缘掩膜图像,y表示与所述样本展示图像对应的样本边缘掩膜图像,LG(G(x),y)表示所述语义分割网络的生成损失函数,Lbce(G(x),y)表示用于计算所述分割边缘掩膜图像以及所述样本边缘掩膜图像之间的损失的二分类交叉熵损失函数,c[G(x),x]表示由所述分割边缘掩膜图像与所述样本展示图像进行拼接得到的假样本图像,Dk(c[G(x),x])表示判别器的第k层网络所输出的假样本图像的图像判别结果,n表示从k的最大取值,为大于1的正整数,αi表示第i个像素点的权重值。
9.根据权利要求7所述的方法,其特征在于,在所述基于第二损失函数计算所述判别器输出的与所述分割边缘掩膜图像对应的输出判别结果与期望判别结果之间的图像判别损失之前,还包括:
根据所述期望判别结果对应的边缘像素点和出所述边缘像素点之外的像素点的数量以及所述期望判别结果对应的像素点总数量,确定所述第二损失函数的目标权重值,并基于所述目标权重值对所述第二损失函数进行加权。
10.根据权利要求5所述的方法,其特征在于,所述根据所述样本展示图像以及所述样本边缘掩膜图像对初始边缘提取模型进行训练,包括:
根据语义分割网络输出与所述样本展示图像对应的分割边缘掩膜图像、所述样本展示图像以及所述样本边缘掩膜图像确定判别器的样本训练图像,其中,所述样本训练图像包括真样本图像和假样本图像;
将所述样本训练图像输入至判别器中,得到所述判别器的输出判别结果,并根据所述判别器的判别损失函数、所述输出判别结果与期望判别结果确定所述判别器的模型判别损失;
根据所述模型判别损失对所述判别器的模型参数进行调整。
11.根据权利要求10所述的方法,其特征在于,所述根据语义分割网络输出与所述样本展示图像对应的分割边缘掩膜图像、所述样本展示图像以及所述样本边缘掩膜图像确定判别器的样本训练图像,包括:
将所述样本展示图像与语义分割网络输出与所述样本展示图像对应的分割边缘掩膜图像进行拼接,得到判别模型的假样本图像,将所述样本展示图像与所述样本边缘掩膜图像进行拼接,得到判别模型的真样本图像。
12.根据权利要求10所述的方法,其特征在于,所述判别损失函数包括第三损失函数和第四损失函数;
所述根据所述判别器的判别损失函数、输出判别结果与期望判别结果确定所述判别器的模型判别损失,包括:
根据第三损失函数计算所述判别器所输出的与所述假样本图像对应的输出判别结果与期望判别结果确定所述判别器的假样本判别损失;
根据第四损失函数计算所述判别器所输出的与所述真样本图像对应的输出判别结果与期望判别结果确定所述判别器的真样本判别损失;
根据所述假样本判别损失和所述真样本判别损失确定所述判别器的模型判别损失。
13.根据权利要求12所述的方法,其特征在于,所述第三损失函数包括二分类交叉熵损失函数,所述第四损失函数包括最小二乘损失函数,所述判别器的模型判别损失基于如下公式表示:
其中,x表示样本展示图像,G(x)表示所述语义分割网络输出的与所述样本展示图像对应的分割边缘掩膜图像,y表示与所述样本展示图像对应的样本边缘掩膜图像,LD(G(x),y)表示所述判别器的判别损失函数,c[G(x),x]表示由所述分割边缘掩膜图像与所述样本展示图像进行拼接得到的假样本图像,dk表示判别器的第k层网络所期望输出的与所述假样本图像对应的期望判别结果,Lbce(Dk(c[G(x),x]),dk)表示用于计算所述分割边缘掩膜图像以及所述样本边缘掩膜图像之间的损失的二分类交叉熵损失函数,c[y,x]表示由所述样本边缘掩膜图像与所述样本展示图像进行拼接得到的真样本图像,Dk(c[y,x])表示判别器的第k层网络实际输出的真样本图像的图像判别结果,n表示从k的最大取值,为大于1的正整数,βj表示第j个像素点的权重值,m表示从j的最大取值,为大于1的正整数。
14.根据权利要求7所述的方法,其特征在于,在所述根据所述判别器的判别损失函数、所述输出判别结果与期望判别结果确定所述判别器的模型判别损失之前,还包括:
对所述样本边缘掩膜图像进行膨胀处理,得到第一边缘掩膜图像;
对所述分割边缘掩膜图像进行二值化处理,得到第二边缘掩膜图像;
将所述第一边缘掩膜图像与所述第二边缘掩膜图像进行乘法运算,得到期望所述判别器输出的与所述样本展示图像对应的期望判别结果。
15.一种图像处理装置,其特征在于,包括:
触发操作接收模块,用于接收针对目标展示图像输入的用于启用边缘展示特效的边缘特效触发操作;
边缘特效展示模块,用于将所述目标展示图像中的特效展示边缘以第一预设展示方式展示于目标展示区域中;
常规效果展示模块,用于将所述目标展示图像中除所述特效展示边缘之外的区域以第二预设展示方式展示于所述目标展示区域中。
16.一种电子设备,其特征在于,所述电子设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-14中任一所述的图像处理方法。
17.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-14中任一所述的图像处理方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210068603.XA CN114416260B (zh) | 2022-01-20 | 2022-01-20 | 图像处理方法、装置、电子设备及存储介质 |
PCT/CN2023/072498 WO2023138549A1 (zh) | 2022-01-20 | 2023-01-17 | 图像处理方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210068603.XA CN114416260B (zh) | 2022-01-20 | 2022-01-20 | 图像处理方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114416260A true CN114416260A (zh) | 2022-04-29 |
CN114416260B CN114416260B (zh) | 2024-06-04 |
Family
ID=81276211
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210068603.XA Active CN114416260B (zh) | 2022-01-20 | 2022-01-20 | 图像处理方法、装置、电子设备及存储介质 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN114416260B (zh) |
WO (1) | WO2023138549A1 (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115358958A (zh) * | 2022-08-26 | 2022-11-18 | 北京字跳网络技术有限公司 | 特效图生成方法、装置、设备及存储介质 |
WO2023138549A1 (zh) * | 2022-01-20 | 2023-07-27 | 北京字跳网络技术有限公司 | 图像处理方法、装置、电子设备及存储介质 |
CN117333586A (zh) * | 2023-11-30 | 2024-01-02 | 浙江口碑网络技术有限公司 | 一种图像处理方法及装置、存储介质和电子设备 |
Citations (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005195807A (ja) * | 2004-01-06 | 2005-07-21 | Ricoh Co Ltd | 画像形成装置 |
US20060058654A1 (en) * | 2004-08-24 | 2006-03-16 | Gerois Di Marco | System and method for providing a user interface for an ultrasound system |
CN101072289A (zh) * | 2007-06-11 | 2007-11-14 | 北京中星微电子有限公司 | 一种图像特效的自动生成方法及装置 |
CN101916555A (zh) * | 2010-07-26 | 2010-12-15 | 武汉大学 | 一种高动态范围图像的显示再现方法 |
CN102665051A (zh) * | 2012-04-06 | 2012-09-12 | 安科智慧城市技术(中国)有限公司 | 基于嵌入式系统的播放终端及其字幕显示方法、系统 |
CN102749601A (zh) * | 2011-04-22 | 2012-10-24 | 株式会社东芝 | 图像处理装置、图像处理方法、以及磁共振成像装置 |
CN102855648A (zh) * | 2012-08-09 | 2013-01-02 | 北京小米科技有限责任公司 | 一种图像处理方法及装置 |
CN104484871A (zh) * | 2014-11-27 | 2015-04-01 | 小米科技有限责任公司 | 边缘提取方法和装置 |
CN107679479A (zh) * | 2017-09-27 | 2018-02-09 | 武汉颂大教育科技股份有限公司 | 一种基于图像形态学处理的客观填涂识别方法 |
CN107993191A (zh) * | 2017-11-30 | 2018-05-04 | 腾讯科技(深圳)有限公司 | 一种图像处理方法和装置 |
CN108537292A (zh) * | 2018-04-10 | 2018-09-14 | 上海白泽网络科技有限公司 | 语义分割网络训练方法、图像语义分割方法及装置 |
CN109064390A (zh) * | 2018-08-01 | 2018-12-21 | Oppo(重庆)智能科技有限公司 | 一种图像处理方法、图像处理装置及移动终端 |
CN111369582A (zh) * | 2020-03-06 | 2020-07-03 | 腾讯科技(深圳)有限公司 | 图像分割方法、背景替换方法、装置、设备及存储介质 |
CN111539877A (zh) * | 2020-03-17 | 2020-08-14 | 杭州趣维科技有限公司 | 一种漫画风格边缘增强的图像锐化方法 |
CN112235520A (zh) * | 2020-12-07 | 2021-01-15 | 腾讯科技(深圳)有限公司 | 一种图像处理方法、装置、电子设备及存储介质 |
CN112347395A (zh) * | 2019-08-07 | 2021-02-09 | 阿里巴巴集团控股有限公司 | 特效展示方法、装置、电子设备及计算机存储介质 |
CN113382275A (zh) * | 2021-06-07 | 2021-09-10 | 广州博冠信息科技有限公司 | 直播数据的生成方法、装置、存储介质及电子设备 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105357451B (zh) * | 2015-12-04 | 2019-11-29 | Tcl集团股份有限公司 | 基于滤镜特效的图像处理方法及装置 |
CN114416260B (zh) * | 2022-01-20 | 2024-06-04 | 北京字跳网络技术有限公司 | 图像处理方法、装置、电子设备及存储介质 |
-
2022
- 2022-01-20 CN CN202210068603.XA patent/CN114416260B/zh active Active
-
2023
- 2023-01-17 WO PCT/CN2023/072498 patent/WO2023138549A1/zh unknown
Patent Citations (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005195807A (ja) * | 2004-01-06 | 2005-07-21 | Ricoh Co Ltd | 画像形成装置 |
US20060058654A1 (en) * | 2004-08-24 | 2006-03-16 | Gerois Di Marco | System and method for providing a user interface for an ultrasound system |
CN101072289A (zh) * | 2007-06-11 | 2007-11-14 | 北京中星微电子有限公司 | 一种图像特效的自动生成方法及装置 |
CN101916555A (zh) * | 2010-07-26 | 2010-12-15 | 武汉大学 | 一种高动态范围图像的显示再现方法 |
CN102749601A (zh) * | 2011-04-22 | 2012-10-24 | 株式会社东芝 | 图像处理装置、图像处理方法、以及磁共振成像装置 |
CN102665051A (zh) * | 2012-04-06 | 2012-09-12 | 安科智慧城市技术(中国)有限公司 | 基于嵌入式系统的播放终端及其字幕显示方法、系统 |
CN102855648A (zh) * | 2012-08-09 | 2013-01-02 | 北京小米科技有限责任公司 | 一种图像处理方法及装置 |
CN104484871A (zh) * | 2014-11-27 | 2015-04-01 | 小米科技有限责任公司 | 边缘提取方法和装置 |
CN107679479A (zh) * | 2017-09-27 | 2018-02-09 | 武汉颂大教育科技股份有限公司 | 一种基于图像形态学处理的客观填涂识别方法 |
CN107993191A (zh) * | 2017-11-30 | 2018-05-04 | 腾讯科技(深圳)有限公司 | 一种图像处理方法和装置 |
CN108537292A (zh) * | 2018-04-10 | 2018-09-14 | 上海白泽网络科技有限公司 | 语义分割网络训练方法、图像语义分割方法及装置 |
CN109064390A (zh) * | 2018-08-01 | 2018-12-21 | Oppo(重庆)智能科技有限公司 | 一种图像处理方法、图像处理装置及移动终端 |
CN112347395A (zh) * | 2019-08-07 | 2021-02-09 | 阿里巴巴集团控股有限公司 | 特效展示方法、装置、电子设备及计算机存储介质 |
CN111369582A (zh) * | 2020-03-06 | 2020-07-03 | 腾讯科技(深圳)有限公司 | 图像分割方法、背景替换方法、装置、设备及存储介质 |
CN111539877A (zh) * | 2020-03-17 | 2020-08-14 | 杭州趣维科技有限公司 | 一种漫画风格边缘增强的图像锐化方法 |
CN112235520A (zh) * | 2020-12-07 | 2021-01-15 | 腾讯科技(深圳)有限公司 | 一种图像处理方法、装置、电子设备及存储介质 |
CN113382275A (zh) * | 2021-06-07 | 2021-09-10 | 广州博冠信息科技有限公司 | 直播数据的生成方法、装置、存储介质及电子设备 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023138549A1 (zh) * | 2022-01-20 | 2023-07-27 | 北京字跳网络技术有限公司 | 图像处理方法、装置、电子设备及存储介质 |
CN115358958A (zh) * | 2022-08-26 | 2022-11-18 | 北京字跳网络技术有限公司 | 特效图生成方法、装置、设备及存储介质 |
CN117333586A (zh) * | 2023-11-30 | 2024-01-02 | 浙江口碑网络技术有限公司 | 一种图像处理方法及装置、存储介质和电子设备 |
Also Published As
Publication number | Publication date |
---|---|
CN114416260B (zh) | 2024-06-04 |
WO2023138549A1 (zh) | 2023-07-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114416260B (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN110189246B (zh) | 图像风格化生成方法、装置及电子设备 | |
KR102576344B1 (ko) | 비디오를 처리하기 위한 방법, 장치, 전자기기, 매체 및 컴퓨터 프로그램 | |
Zhuge et al. | Boundary-guided feature aggregation network for salient object detection | |
CN113704531A (zh) | 图像处理方法、装置、电子设备及计算机可读存储介质 | |
CN111209970A (zh) | 视频分类方法、装置、存储介质及服务器 | |
CN112084920B (zh) | 提取热词的方法、装置、电子设备及介质 | |
CN112633420B (zh) | 图像相似度确定及模型训练方法、装置、设备和介质 | |
CN114330236A (zh) | 文字生成方法、装置、电子设备及存储介质 | |
CN110414593B (zh) | 图像处理方法及装置、处理器、电子设备及存储介质 | |
CN112950640A (zh) | 视频人像分割方法、装置、电子设备及存储介质 | |
CN111008589B (zh) | 人脸关键点检测方法、介质、装置和计算设备 | |
CN110197459B (zh) | 图像风格化生成方法、装置及电子设备 | |
CN111353822A (zh) | 一种图像布局、模型训练方法、装置、设备及存储介质 | |
CN113962332B (zh) | 基于自优化融合反馈的显著目标识别方法 | |
CN114022931A (zh) | 一种图像处理方法、装置、电子设备及存储介质 | |
CN115205779A (zh) | 基于人群图像模板的人数检测方法 | |
CN114419086A (zh) | 边缘提取方法、装置、电子设备及存储介质 | |
CN114564606A (zh) | 一种数据处理方法、装置、电子设备及存储介质 | |
CN114422698A (zh) | 视频生成方法、装置、设备及存储介质 | |
CN113850716A (zh) | 模型训练方法、图像处理方法、装置、电子设备及介质 | |
CN110348374A (zh) | 车辆检测方法、装置、电子设备及存储介质 | |
CN112200170B (zh) | 图像识别方法、装置、电子设备和计算机可读介质 | |
CN117576245B (zh) | 一种图像的风格转换方法、装置、电子设备及存储介质 | |
CN112329606B (zh) | 一种活体检测方法、装置、电子设备及可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |