CN109087238A - 图像处理方法和装置、电子设备以及计算机可读存储介质 - Google Patents
图像处理方法和装置、电子设备以及计算机可读存储介质 Download PDFInfo
- Publication number
- CN109087238A CN109087238A CN201810724309.3A CN201810724309A CN109087238A CN 109087238 A CN109087238 A CN 109087238A CN 201810724309 A CN201810724309 A CN 201810724309A CN 109087238 A CN109087238 A CN 109087238A
- Authority
- CN
- China
- Prior art keywords
- deformation
- grid
- image
- target object
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003860 storage Methods 0.000 title claims abstract description 28
- 238000003672 processing method Methods 0.000 title claims abstract description 27
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 69
- 230000000694 effects Effects 0.000 claims abstract description 54
- 238000000034 method Methods 0.000 claims abstract description 52
- 230000008569 process Effects 0.000 claims abstract description 26
- 239000011159 matrix material Substances 0.000 claims description 39
- 238000012545 processing Methods 0.000 claims description 37
- 230000008859 change Effects 0.000 claims description 18
- 238000004590 computer program Methods 0.000 claims description 10
- 238000010586 diagram Methods 0.000 description 22
- 238000004891 communication Methods 0.000 description 11
- 230000006870 function Effects 0.000 description 11
- 210000004709 eyebrow Anatomy 0.000 description 9
- 230000001815 facial effect Effects 0.000 description 9
- 238000005516 engineering process Methods 0.000 description 7
- 238000004364 calculation method Methods 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 4
- 238000003708 edge detection Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 238000005457 optimization Methods 0.000 description 4
- 238000005070 sampling Methods 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- 241000208340 Araliaceae Species 0.000 description 3
- 235000005035 Panax pseudoginseng ssp. pseudoginseng Nutrition 0.000 description 3
- 235000003140 Panax quinquefolius Nutrition 0.000 description 3
- 230000009471 action Effects 0.000 description 3
- 230000006399 behavior Effects 0.000 description 3
- 235000008434 ginseng Nutrition 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 241001269238 Data Species 0.000 description 2
- 241000196324 Embryophyta Species 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 2
- 230000000712 assembly Effects 0.000 description 2
- 238000000429 assembly Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- KLDZYURQCUYZBL-UHFFFAOYSA-N 2-[3-[(2-hydroxyphenyl)methylideneamino]propyliminomethyl]phenol Chemical compound OC1=CC=CC=C1C=NCCCN=CC1=CC=CC=C1O KLDZYURQCUYZBL-UHFFFAOYSA-N 0.000 description 1
- RYGMFSIKBFXOCR-UHFFFAOYSA-N Copper Chemical compound [Cu] RYGMFSIKBFXOCR-UHFFFAOYSA-N 0.000 description 1
- 241000406668 Loxodonta cyclotis Species 0.000 description 1
- 208000014651 Meester-Loeys syndrome Diseases 0.000 description 1
- 241001465754 Metazoa Species 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 229910052802 copper Inorganic materials 0.000 description 1
- 239000010949 copper Substances 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 201000001098 delayed sleep phase syndrome Diseases 0.000 description 1
- 208000033921 delayed sleep phase type circadian rhythm sleep disease Diseases 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 235000013399 edible fruits Nutrition 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000012092 media component Substances 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 235000015170 shellfish Nutrition 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/04—Context-preserving transformations, e.g. by using an importance map
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/20—Finite element generation, e.g. wire-frame surface description, tesselation
- G06T17/205—Re-meshing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/20—Finite element generation, e.g. wire-frame surface description, tesselation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/20—Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2219/00—Indexing scheme for manipulating 3D models or images for computer graphics
- G06T2219/20—Indexing scheme for editing of 3D models
- G06T2219/2004—Aligning objects, relative positioning of parts
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Software Systems (AREA)
- Computer Graphics (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Health & Medical Sciences (AREA)
- Geometry (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- General Health & Medical Sciences (AREA)
- Computer Hardware Design (AREA)
- Architecture (AREA)
- General Engineering & Computer Science (AREA)
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
- Editing Of Facsimile Originals (AREA)
- Studio Devices (AREA)
- Apparatus For Radiation Diagnosis (AREA)
- Measuring And Recording Apparatus For Diagnosis (AREA)
- Testing Of Coins (AREA)
Abstract
本公开提供了一种图像处理方法和装置、电子设备以及计算机可读存储介质,其中,所述方法包括:确定与第一图像中的目标对象相匹配的第一区域;利用预设算法,基于预设的变形效果确定变形参数,所述变形参数用于确定目标对象的各像素点基于所述预设的变形效果产生的位置偏差;基于所述变形参数对所述第一图像中的目标对象进行变形处理,获得第二图像。本公开实施例具备适用性好的特点,且能够灵活方便的执行图像的变形操作。
Description
技术领域
本公开涉及图像处理领域,特别涉及一种图像处理方法和装置、电子设备以及计算机可读存储介质。
背景技术
目前,例如手机、相机等智能设备中,都配置有图像变形功能,以满足用户的趣味性需求。现有技术中,大多通过将具有预设效果的图片添加到图像中,实现图像的不同变形效果,或者通过拖拽图像的方式改变图像的形状以实现变形效果。但是上述方式都存在不能根据现有的变形图像执行图像变形操作的缺陷,即不能更加灵活的进行图像变形。
发明内容
有鉴于此,本公开提出了一种更加灵活且适用性更好的图像处理方法和装置、电子设备和计算机可读存储介质。
根据本公开的第一方面,提供了一种图像处理方法,其包括:
确定与第一图像中的目标对象相匹配的第一区域;
利用预设算法,基于预设的变形效果确定变形参数,所述变形参数用于确定目标对象的各像素点基于所述预设的变形效果产生的位置偏差;
基于所述变形参数对所述第一图像中的目标对象进行变形处理,获得第二图像。
本公开实施例中,所述确定与第一图像中的目标对象相匹配的第一区域包括:
形成与所述目标对象相对应的第一网格,所述第一网格与第一区域匹配。
本公开实施例中,所述变形参数构造为变形像素矩阵,该变形像素矩阵中的每个参数用于确定目标对象的对应像素点基于所述预设的变形效果产生的位置偏差。
本公开实施例中,所述确定与第一图像中的目标对象匹配的第一区域包括:
确定第一图像内的目标对象的特征点的位置;
基于各所述特征点之间的相对位置确定所述第一区域。
本公开实施例中,所述利用预设算法,基于预设的变形效果确定变形参数包括:
确定是否存在预设变形模板;
如存在,则利用预设算法,基于所述预设变形模板确定所述变形参数。
本公开实施例中,所述利用预设算法,基于预设的变形效果确定变形参数还包括:
如不存在所述预设变形模板,则获取用于图像变形的第二网格,该第二网格为变形网格;
利用预设算法以及所述第二网格中的像素点的第二位置确定所述变形参数。
本公开实施例中,所述确定是否存在预设变形模板包括:
在接收到基于预设变形图像执行变形操作的第一指令时,确定为存在所述预设变形模板。
本公开实施例中,所述利用预设算法,基于所述预设变形模板确定所述变形参数包括:
确定与所述预设变形模板的变形区域匹配的第三网格;
将所述第三网格中每个子网格的四个顶点作为四个控指点,并基于预设算法以及各子网格的四个控制点确定第三网格中各第一像素点在变形之前的第三位置;
基于各第一像素点的第三位置以及其在第三网格中的第四位置确定所述变形参数。
本公开实施例中,所述利用预设算法以及所述第二网格中的第二像素点的第二位置确定所述变形参数包括:
将所述第二网格中的每个子网格的四个顶点作为四个控制点;
基于所述预设算法确定第二网格中各第二像素点在变形之前的第一位置;
基于各第二像素点的第一位置和第二位置,确定所述变形参数。
本公开实施例中,所述预设算法的表达式为:
p(u,v)=d_1*u+d_2*v+d_3*u*v+d_4;
其中d_i=(a_i,b_i),其由变形网格中每个子网格的控制点的坐标确定,i为小于5的正整数;u和v为变形网格中各像素点在未变形时的位置的横坐标和纵坐标,p(u,v)为变形网格中各像素点变形后的位置坐标;所述变形网格为第二网格或第三网格。
本公开实施例中,所述获取用于执行图像变形的第二网格包括:
接收关于第一区域的变形操作,基于该变形操作获取所述第二网格;或者
获取存储的第二网格。
本公开实施例中,所述方法还包括:
基于所述第一区域在长度方向上的像素点数量和宽度方向上的像素点数量调节所述变形像素矩阵的维度,使得变形像素矩阵中的像素点与第一区域中的像素点一一对应,并利用调节维度后的变形像素矩阵获得第二图像。
本公开实施例中,所述基于所述变形参数对所述第一图像中的目标对象进行变形处理,获得第二图像包括:
利用线性插值算法,基于所述变形参数中各像素点的位置偏差,调节目标对象上对应像素点的位置。
本公开实施例中,所述方法还包括:
将调节位置后的像素点的灰度值确定为未进行位置调节时的像素点的灰度值。
本公开实施例中,所述目标对象包括面部,并且所述基于各所述特征点之间的相对位置确定所述第一区域包括:
将鼻梁中心确定为第一区域的中心;
基于双眼的外侧边缘之间的距离确定所述第一区域的宽度;
基于眉心与鼻尖之间的距离确定所述第一区域的高度。
本公开实施例中,所述形成与所述目标对象相对应的第一网格包括:
确定与所述第一图像中的目标对象的位置和尺寸相匹配的第一网格,该第一网格被均等分成多个子网格。
根据本公开实施例的第二方面,提供了一种图像处理装置,其包括:
第一确定模块,其配置为确定与第一图像中的目标对象相匹配的第一区域;
第二确定模块,其配置为利用预设算法,基于预设的变形效果确定变形参数,所述变形参数用于确定目标对象的各像素点基于所述预设的变形效果产生的位置偏差;
变形模块,其配置为基于所述变形参数对所述第一图像中的目标对象进行变形处理,获得第二图像。
本公开实施例中,所述第一确定模块进一步配置为通过形成与所述目标对象相对应的第一网格确定所述第一区域,所述第一网格与第一区域匹配。
本公开实施例中,所述变形参数构造为变形像素矩阵,该变形像素矩阵中的每个参数用于确定目标对象的对应像素点基于所述预设的变形效果产生的位置偏差。
本公开实施例中,所述第一确定模块进一步配置为确定第一图像内的目标对象的特征点的位置,并基于各所述特征点之间的相对位置确定所述第一区域。
本公开实施例中,所述第二确定模块进一步配置为确定是否存在预设变形模板,如存在,则利用预设算法,基于所述预设变形模板确定所述变形参数。
本公开实施例中,所述第二确定模块进一步配置为如不存在所述预设变形模板,则获取用于图像变形的第二网格,并利用预设算法以及所述第二网格中的像素点的第二位置确定所述变形参数,其中所述第二网格为变形网格。
本公开实施例中,所述第二确定模块进一步配置为在接收到基于预设变形图像执行变形操作的第一指令时,确定为存在所述预设变形模板。
本公开实施例中,所述第二确定模块进一步配置为确定与所述预设变形模板的变形区域匹配的第三网格,
将所述第三网格中每个子网格的四个顶点作为四个控指点,并基于预设算法以及各子网格的四个控制点确定第三网格中各第一像素点在变形之前的第三位置;
并基于各第一像素点的第三位置以及其在第三网格中的第四位置确定所述变形参数。
本公开实施例中,所述第二确定模块进一步配置为将所述第二网格中的每个子网格的四个顶点作为四个控制点;
基于所述预设算法确定第二网格中各第二像素点在变形之前的第一位置;
基于各第二像素点的第一位置和第二位置,确定所述变形参数。
本公开实施例中,所述预设算法的表达式为:
p(u,v)=d_1*u+d_2*v+d_3*u*v+d_4;
其中d_i=(a_i,b_i),其由变形网格中每个子网格的控制点的坐标确定,i为小于5的正整数;u和v为变形网格中各像素点在未变形时的位置的横坐标和纵坐标,p(u,v)为变形网格中各像素点变形后的位置坐标;所述变形网格为第二网格或第三网格。
本公开实施例中,所述第二确定模块进一步配置为接收关于第一区域的变形操作,基于该变形操作获取所述第二网格;或者获取存储的第二网格。
本公开实施例中,所述第二确定模块还配置为基于所述第一区域在长度方向上的像素点数量和宽度方向上的像素点数量调节所述变形像素矩阵的维度,使得变形像素矩阵中的像素点与第一区域中的像素点一一对应;
所述变形模块还配置为利用调节维度后的变形像素矩阵获得第二图像。
本公开实施例中,所述变形模块还配置为利用线性插值算法,基于所述变形参数中各像素点的位置偏差,调节目标对象上对应像素点的位置。
本公开实施例中,所述变形模块还配置为将调节位置后的像素点的灰度值确定为未进行位置调节时的像素点的灰度值。
本公开实施例中,所述第一确定模块还配置为在所述目标对象包括面部时,将鼻梁中心确定为第一区域的中心;
基于双眼的外侧边缘之间的距离确定所述第一区域的宽度;
基于眉心与鼻尖之间的距离确定所述第一区域的高度。
本公开实施例中,所述第一确定模块还配置为确定与所述第一图像中的目标对象的位置和尺寸相匹配的第一网格,该第一网格被均等分成多个子网格。
根据本公开实施例的第三方面,提供了一种电子设备,其包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:执行权利要求1至16中任意一项所述的图像处理方法。
根据本公开实施例的第四方面,提供了一种计算机可读存储介质,其上存储有计算机程序指令,其特征在于,所述计算机程序指令被处理器执行时实现权利要求1至16中任意一项所述的图像处理方法。
本公开实施例,可以直接根据所需要的变形效果对图像进行变形处理,而不是简单地通过拖拽、添加图片、标签的方式执行变形操作。通过本公开实施例可以更加方便灵活的执行图像的变形,适用性更好。
根据下面参考附图对示例性实施例的详细说明,本公开的其它特征及方面将变得清楚。
附图说明
包含在说明书中并且构成说明书的一部分的附图与说明书一起示出了本公开的示例性实施例、特征和方面,并且用于解释本公开的原理。
图1示出根据本公开实施例的图像处理方法的流程图;
图2示出根据本公开实施例图像处理方法中当目标对象为面部时确定第一区域的流程图;
图3示出根据本公开实施例的图像处理方法的步骤S200的流程图;
图4示出根据本公开实施例的图像处理方法中基于所述预设变形模板确定所述变形参数的流程图;
图5示出根据本公开实施例的图像处理方法中步骤S204流程图;
图6示出根据本公开实施例图像处理方法确定第一区域的示意图;
图7示出根据本公开实施例基于变形参数执行变形处理的结构示意图;
图8示出根据本公开实施例获得的第二图像的示意图;
图9示出根据本公开实施例的图像处理装置的框图;
图10示出根据本公开实施例的一种电子设备的框图;
图11示出根据本公开实施例的一种电子设备的框图。
具体实施方式
以下将参考附图详细说明本公开的各种示例性实施例、特征和方面。附图中相同的附图标记表示功能相同或相似的元件。尽管在附图中示出了实施例的各种方面,但是除非特别指出,不必按比例绘制附图。
在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。
另外,为了更好的说明本公开,在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解,没有某些具体细节,本公开同样可以实施。在一些实例中,对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述,以便于凸显本公开的主旨。
图1示出根据本公开实施例的图像处理方法的流程图,其中,本公开实施例的图像处理方法可以应用于具有图像处理功能的电子设备中,如手机、照相机、摄像机、PAD、计算机设备等电子设备,本公开对此不进行限定。
如图1所示,本公开实施例中的图像处理方法可以包括:
S100:确定与第一图像中的目标对象相匹配的第一区域;
本公开实施例所提供的图像处理方法可以对图像进行变形处理,以得到具有对应变形效果的图像。其中第一图像可以是利用电子设备拍摄的图像,也可以是通过与其他电子设备通信连接而接收到的图像,或者也可以电子设备内存储的图像,本公开实施例对此不进行限制。
另外,目标对象是第一图像中需要被执行变形处理的部分,例如可以是面部、动物、植物、景物等对象,或者也可以是用户任意选择的图像区域对象,或者也可以是整幅图像,同样本公开实施例对此不进行限制。其中,在获取第一图像后,可以确定该第一图像中需要执行变型处理的目标对象。其中确定目标对象的方式可以包括:根据电子设备当前的摄像模式来确定目标对象;或者接收来自用户输入的选择信息,基于该选择信息确定目标对象;或者也可以根据第一图像中的特征信息确定目标对象。在本公开的其他实施例中,也可以通过其他方式确定目标对象。
在本公开实施例中,在执行摄像操作时,可以对获取的图像进行变形处理,其中可以根据当前的摄像模式来确定需要变形处理的目标对象。本公开实施中的拍摄模式可以包括人像模式和景物模式,或者也可以包括其他模式。其中,在电子设备当前的摄像模式为人像模式时,可以将图像中的面部确定为目标对象。或者电子设备当前的摄像模式可以为景物模式时,可以将图像中的景物作为目标对象。即在不同的摄像模式下,可以确定相应的目标对象,以执行对应目标对象的变形处理,无需用户操作,且简单方便。上述仅为举例说明可以根据摄像模式确定目标对象的实施例,本公开实施例对此不进行限制。
另外,在本公开实施例中,还可以根据用户输入的选择信息确定目标对象。在执行第一图像的变形处理时,可以接收用户在第一图像上的选择操作,即用户可以通过触控操作或者框选操作在第一图像上执行选择操作,该选择操作所选择出的图像信息即为选择信息。或者,用户也可以在目标对象的选项列表中选择出所需要确定的目标对象的类别,例如选项列表可以包括面部、动物、植物、景物等选项,则可以通过接收关于上述选项的选择信息,确定所选择出的图像中的目标对象。
通过上述,即可以获取第一图像中的目标对象,进而可以基于该目标对象确定与之对应的第一区域,本公开实施例中的第一区域的尺寸与目标对象的尺寸相匹配,以及第一区域的位置也与目标对象的位置相匹配,通过对第一区域内的各像素点进行变形处理可以实现目标对象的变形。
本公开实施例中,确定与第一图像中的目标对象相匹配的第一区域可以包括:形成与所述目标对象相对应的第一网格,所述第一网格与第一区域匹配。也即,在本公开实施例中,可以利用确定的目标对象获得与之对应的第一网格,该第一网格的位置和大小与目标对象匹配,即该第一网格所在的位置即为第一区域,或者说以第一网格的形式表示第一区域,第一网格中可以包括多个子网格,每个子网格可以至少对应一个像素点。本公开实施例通过形成第一网格的方式,可以方便的分析网格内各像素点的位置、灰度等其他特征。下面实施例中,以第一网格为例进行说明。
S200:利用预设算法,基于预设的变形效果确定变形参数,所述变形参数用于确定目标对象的各像素点基于所述预设的变形效果产生的位置偏差;
在本公开实施例中,可以根据预设的变形效果来确定对应的变形参数。例如可以通过已有的变形图像所对应的变形效果来确定变形参数。或者,也可以直接对第一区域(第一网格)进行操作,并获取第一区域的变形效果,以此来确定变形参数。进而可以基于变形参数,通过预设算法对第一区域内的各像素点进行变形操作。其中,变形参数可以用于确定目标对象的各像素点基于所述预设的变形效果产生的位置偏差,即变形参数中可以包括或者能够确定目标对象的各像素点变形后的位置,通过该位置即可以对应的形成第二图像。本公开实施例中的变形参数可以构造为变形像素矩阵,该变形像素矩阵中的每个参数用于确定目标对象的对应像素点基于所述预设的变形效果产生的位置偏差。变形像素矩阵维度(尺寸)可以与第一网格对应,即变形像素矩阵中的参数值与第一网格中的像素点一一对应,上述参数值可以用于确定对应像素点的位置偏移量。变形像素矩阵的参数可以用于确定各像素点进行变形处理时的位置变化量,即上述位置偏差。本公开实施例中的预设算法可以包括贝塞尔曲面算法。例如,变形参数或者变形像素矩阵中可以包括预设变形效果中每个像素点的位置偏移量,该位置偏移量不仅包括位置偏移值,同时还包括偏移方向,从而可以方便的确定目标图像的各像素点变形后的位置。或者,变形像素矩阵中可以包括预设变形效果中当前坐标处的像素点在未变形之间的原始位置坐标,从而可以基于该原始位置坐标和当前坐标之间的偏差确定上述位置偏差。
S300:基于所述变形参数对所述第一图像中的目标对象进行变形处理,获得第二图像。
如上所述,例如变形像素矩阵的变形参数中可以用于确定对应像素点执行变形处理时的位置偏差,因此可以根据该位置偏差确定目标对象的各像素点的变形后的位置,以此来执行变形操作获得第二图像。
本公开实施例中,可以通过双线性差值算法对像素进行估值,从而可以使得变型的图像更加圆滑。
根据上述配置,即可以完成第一图像到第二图像的变形处理,其中,由于本公开实施例可以根据预设变形效果对应的变形参数对第一图像进行变形处理,因此,具有更加灵活、方便的变形效果,同时适用于各类图像,用户体验更好。
下面对本公开实施例进行详细说明,其中在步骤S100中,可以根据目标对象来确定与之相匹配的第一区域。其中,确定与第一图像中的目标对象匹配的第一区域可以包括:
确定第一图像内的目标对象的特征点的位置;
基于各所述特征点之间的相对位置确定所述第一区域。
图6示出根据本公开实施例图像处理方法确定第一区域的示意图。其中,在本公开实施例中,在确定了第一图像中需要执行变形处理的目标对象之后,可以识别该目标对象的特征点,基于各特征点的位置确定第一网格。其中,可以获取目标对象的边缘特征点,例如通过图像边缘检测算法提取目标特征的边缘特征点,并通过连接边缘特征点来确定第一网格。其中,图像边缘检测算法可以包括:Canny算子边缘检测算法或者Sobel算子边缘检测,在其他实施例中也可以通过其他边缘检测的方式确定边缘特征点。其中可以基于边缘特征点确定目标对象的轮廓,第一区域可以对应于该轮廓,也可以是基于该轮廓生成的方形网格。即可以轮廓的上侧、下侧、左侧和右侧的边缘确定该第一区域的外边框,即可以根据上侧最边缘的特征点和下侧最边缘的特征点确定第一区域的高度,根据左侧最边缘的特征点和右侧最边缘的特征点之间的距离确定第一区域的宽度,而确定与目标图像对应的第一区域。
或者,在本公开的另一些实施例中,也可以根据对目标对象中各个部分的特征点确定第一区域,例如,目标对象为面部时,可以基于鼻子、眼睛、耳朵、眉毛等特征部分的特征点确定第一区域。
其中,图2示出根据本公开实施例图像处理方法中当目标对象为面部时确定第一区域的流程图。其中,基于各所述特征点之间的相对位置确定所述第一区域可以包括:
S101:将鼻梁中心确定为第一区域的中心;
S102:基于双眼的外侧边缘之间的距离确定所述第一区域的宽度;
S103:基于眉心与鼻尖之间的距离确定所述第一区域的高度。
在本公开实施例中,当目标对象为面部时,可以根据面部识别的方式确定面部的鼻子、眼睛、耳朵、眉毛、嘴等特征部分的位置,进而可以确定基于这些特征部分所确定的第一区域。其中,可以将鼻梁的中心位置确定为第一区域的中心,即本公开实施的第一区域以该鼻梁的中心位置呈对称设置。另外,可以根据左眼的外侧边缘和右眼的外侧边缘之间的第一距离确定第一区域的宽度,其中可以将第一距离直接设定成第一区域的宽度,也可以根据第一预设对应关系确定第一区域的宽度,例如可以第一距离的预设倍数,本领域可以根据不同的需求设置该第一预设对应关系,本公开实施例对此不进行限定。另外,可以根据眉心与鼻尖之间的第二距离确定第一区域的高度,其中眉心是指两个眉毛的中心位置,其中可以通过面部识别的方式计算出上述第一距离和第二距离,本领域技术人员可以选取适当的算法获取上述第一距离和第二距离,例如PCA算法识别特征。对应的,第一网格的高度和第二距离之间可以存在第二预设对应关系,例如,第一区域的高度可以是第二距离的二倍,本领域可以根据不同的需求设置该第二预设对应关系,本公开实施例对此不进行限定。
基于上述,即可以根据识别出的各特征点确定第一区域的高度和宽度,从而确定第一区域的尺寸,同时,该第一区域与目标对象的位置对应。在确定了第一区域的尺寸和位置后,还可以将第一区域分成多个子网格形成第一网格,该多个子网格可以相同,本公开实施例中可以按照预设维度划分第一网格。其中该第一维度可以基于第一网格的尺寸确定,也可以根据预先配置的维度信息来确定。
例如,本公开实施例中,根据第一网格的尺寸将第一网格划分成预设维度的子网格,其中该子网格的尺寸小于尺寸阈值,即本公开实施例中,需要将第一网格划分成比尺寸阈值小的子网格。另外,也可以按照预先配置的维度信息来划分第一网格,上述尺寸阈值以及预先配置的维度信息都可以是预设的,本领域技术人员可以根据不同的需求自行设定。
如上所述,在确定了第一区域后,还可以根据预设的变形效果确定执行该变形操作的变形像素矩阵(变形参数)。其中,可以根据具有预设变形效果的图像模板确定变形参数,也可以根据对第一区域的变形操作来确定变形参数。
图3示出根据本公开实施例的图像处理方法的步骤S200的流程图。其中,步骤S200可以包括:
S201:确定是否存在预设变形模板,如存在执行S202,否则执行步骤S203;
S202:基于所述预设变形模板确定所述变形参数;
S203:获取用于图像变形的第二网格,该第二网格为变形网格;
S204:利用预设算法以及所述第二网格中的第二像素点的第二位置确定所述变形参数。
在本公开实施例中,可以首先判断是否存在预设变形模板,该预设变形模板可以是具有预设变形效果的图像模板。其中确定是否存在预设变形模板可以包括:
判断是否接收到变形图像的选择信息,如是,则确定存在预设变形模板,否则,不存在该预设变形模板;或者在接收到基于预设变形图像执行变形操作的第一指令时,确定为存在所述预设变形模板。即,用户可以选定所需变形效果的图像,作为预设变形效果的图像模板,即上述预设变形模板。
如果确定为存在该预设变形模板,可以根据该预设变形模板对应的变形效果确定变形参数,如果不存在预设变形模板,则获取用于图像变形的第二网格,并基于第一网格和第二网格之间的差异确定变形参数。
其中,第二网格可以是基于用户直接对于第一网格的变形操作获取的,也可以是通过其他方式获得的网格,例如获取存储的第二网格。下面对两种方式分别详细说明。
图4示出根据本公开实施例的图像处理方法中基于所述预设变形模板确定所述变形参数的流程图,其中步骤S202可以包括:
S2021:确定与所述预设变形模板的变形区域匹配的第三网格;
S2022:将所述第三网格中每个子网格的四个顶点作为四个控指点,并基于预设算法以及各子网格的四个控制前确定第三网格中各第一像素点在变形之前的第三位置;
S2023:基于各第一像素点的第三位置以及在第三网格中的第四位置确定所述变形参数。
本公开实施例中预设变形模板可以对应有其执行变形操作的变形区域,该变形区域相当于第一图像中的目标对象所在的区域。其中,执行步骤S2021时,可以获取预设变形模板的变形区域所匹配的第三网格,该第三网格可以是与预设变形模板中变形区域变形后的第三网格,该第三网格与变形区域的大小和位置相匹配。
确定第三网格之后,可以根据该第三网格中的每个子网格的四个控制点来确定第三网格中各第一像素点在未执行变形操作时的第三位置。其中,可以根据预设算法获取各第一像素点未执行变形时的第三位置,预设算法可以为贝塞尔曲面算法,其可以表示成:
p(u,v)=d_1*u+d_2*v+d_3*u*v+d_4;
其中d_i=(a_i,b_i),其由第三网格中每个子网格的控制点的坐标确定,i为小于5的正整数;u和v为第三网格中各第一像素点的第三位置的横坐标和纵坐标,p(u,v)为第三网格中各第一像素点的第四位置的坐标值。
其中,d_1=b10-b00;d_2=b01-b00;d_3=b11+b00-b01-b10;d_4=b00;
其中,b00、b01、b10和b11分别为位于第三网格的子网格左上方、左下方、右上方和右下方的四个控制点的坐标值。
通过上述方式即可以获取第三网格中各像素点在执行变形之前的第三位置,从而根据第三位置和第四位置之间的差值确定变形参数。
如上述实施例所述,变形参数中可以包括预设变形模板的变形区域内各像素点的初始位置,基于像素点当前的位置与该初始位置之间的差值,即可以确定各像素点对应于该变形效果的位置偏差。另外,在本公开的其他实施例中,变形参数中的参数值可以为每个像素点执行变形操作对应的位置偏差。其中本公开实施例的位置偏差均为矢量值,其包括长度和方向上的偏差。
进一步地,在获得变形参数之后,可以按照第一网格的尺寸来调节变形参数的维度,如变形像素矩阵的维度,使得变形像素矩阵的像素点与第一网格中的像素点一一对应。即,本公开实施例中的通过步骤S2023获得的变形参数可以为预设变形模板中变形区域所对应的变形参数(下面以第一像素矩阵进行区别),为了实现与预设变形模板相同的变形效果,可以根据该第一像素矩阵执行第一图像的变形操作。其中,为了保证第一网格的变形像素矩阵和第一网格的尺寸匹配,即使得第一网格中在长度方向和宽度方向上的像素点与变形像素矩阵的各像素点参数一一对应,需要根据第一网格的尺寸调节第一变形限速矩阵的维度。
其中,可以确定第一网格中长度方向和宽度方向上的像素点数量,基于该数量调整预设变形模板中变形区域所对应的第一变形模板的维度,例如,可以通过均匀采样的方式在该变形区域中采样像素点,其中采样数量与第一网格对应的像素点数量相同,从而基于采样像素点的位置偏差确定调整维度的第一像素矩阵,并使得第一像素矩阵的像素点与第一网格中的像素点一一对应,调整维度后的第一像素矩阵即为本公开实施例中的变形参数。
上述实施例即为通过预设变形模板来确定变形参数,下面详细说明通过获取的第二网格来确定变形参数。
其中,本公开实施例中用户可以直接对第一区域执行拖拽或者其他变形操作,即可以改变第一区域的形状,从而确定变形参数。该过程可以包括:
接收对第一区域的触控操作;
根据该触控操作对应的调节第一网格的形状;
获取第一区域中各像素点基于该触控操作的位置偏差;
基于所述位置偏差确定变形参数。
其中,本公开实施例中用户可以执行对于第一区域的触控操作,即可以改变第一区域的形状,并可以根据改变形状后的各像素点的位置与改变形状前的位置之间的差值,确定各像素点基于触控操作的位置偏差,并以此建立变形参数。
或者,在本公开实施例中,还可以根据直接获取的第二网格来确定变形参数,其中第二网格为变形后的网格。图5示出根据本公开实施例的图像处理方法中步骤S204的流程图,其中该步骤S204可以包括:
S2041:将所述第二网格中的每个子网格的四个顶点作为四个控制点;
S2042:基于所述预设算法确定第二网格中各第二像素点在变形之前的第一位置;
S2043:基于各第二像素点的第一位置和第二位置,确定所述变形参数。
其中,与上述实施例的方式相同,将第二网格中的各子网格的四个顶点作为四个控制点,进而可以确定第二网格中各第二像素点在未执行变形操作时的第三位置。其中,可以根据预设算法获取各第二像素点未执行变形时的第三位置,预设算法可以为贝塞尔曲面算法,其可以表示成:
p(u,v)=d_1*u+d_2*v+d_3*u*v+d_4;
其中d_i=(a_i,b_i),其由第二网格中每个子网格的控制点的坐标确定,i为小于5的正整数;u和v为第二网格中各第二像素点的第一位置的横坐标和纵坐标,p(u,v)为第三网格中各第一像素点的第二位置的坐标值。
其中,d_1=b10-b00;d_2=b01-b00;d_3=b11+b00-b01-b10;d_4=b00;
其中,b00、b01、b10和b11分别为位于第三网格的子网格左上方、左下方、右上方和右下方的四个控制点的坐标值。
本公开实施例中,基于子网格的变形算法可以通过拉动网格顶点改变网格形状,再将网格变形反映到图像上,实现对图像的自由变形。对于现在已有的控制点变形算法(如TPS、MLS和MRLS等),控制点数量越多,算法复杂度越高,对图像的变形实时性效果也越差,此类算法在应用到网格结构中对图像进行变形还存在边缘不连续的情况。本公开实施例所采用贝塞尔曲面算法所应用功能的控制点数量较少,可以达到很好的网格变形效果,而且通过优化贝塞尔曲面算法可以降低复杂度,提高了实时性。其中通过电子设备端处理器验证本公开实施例验计算算法的效率,可以得到在720p图像上进行面部变形,正向计算的贝塞尔曲面算法总共耗时大约40-50ms,通过本公开实施例的算法在相同图像上进行面部变形耗时大约在8ms。另外,利用贝塞尔曲面公式的逆运算,也可以直接得到变形的像素矩阵,进一步提升了变形的速度。
通过上述方式即可以获取第二网格中各像素点在执行变形之前的第一位置,从而根据第一位置和第二位置之间的差值确定变形参数。
如上述实施例所述,变形参数中可以包括预设变形模板的第二网格内各第二像素点的初始位置,基于第二像素点当前的位置与该初始位置之间的差值,即可以确定各像素点对应于该变形效果的位置偏差。另外,在本公开的其他实施例中,变形参数中的参数值可以为每个像素点执行变形操作对应的位置偏差。其中本公开实施例的位置偏差均为矢量值,其包括长度和方向上的偏差。
即,本公开实施例中第二网格也可以对应有执行变形时各像素点所产生的位置偏差,此时可以根据改变形状后的各像素点的位置与改变形状前的位置之间的差值,确定各像素点基于触控操作的位置偏差,并以此建立变形参数。其中,第二网格可以是与第一网格的尺寸相匹配的网格,也可以是不匹配的网格,在第二网格与第一网格的尺寸不匹配时,可以改变第二网格的尺寸,并保留第二网格的变形效果。例如可以通过均匀采样的方式,基于该第二网格获取与第一网格尺寸匹配的网格。在其他实施例中,也可以通过其他方式使得第一网格和第二网格相匹配,本公开实施例对此不进行限定。
或者,可以按照第一网格的尺寸来调节变形参数的维度,使得变形参数的像素点与第一网格中的像素点一一对应。即,本公开实施例中的通过步骤S2023获得的变形参数可以为预设变形模板中变形区域所对应的变形参数(下面以第一像素矩阵进行区别),为了实现与预设变形模板相同的变形效果,可以根据该第一像素矩阵执行第一图像的变形操作。其中,为了保证第一网格的变形参数和第一网格的尺寸匹配,即使得第一网格中在长度方向和宽度方向上的像素点与变形参数的各像素点参数一一对应,需要根据第一网格的尺寸调节第一变形限速矩阵的维度。
通过上述配置,即可以获得对应于变形效果的变形参数,从而可以根据该变形参数执行第一图像的变形操作。
其中,在本公开实施例中,所述基于所述变形参数对所述第一图像中的目标对象进行变形处理,获得第二图像可以包括:
利用线性插值算法,基于所述变形参数中各像素点的位置偏差,调节目标对象上对应像素点的位置;将调节位置后的像素点的灰度值确定为未进行位置调节时的像素点的灰度值。
其中,如上述实施例的线性差值算法可以为双线性差值算法,通过该算法可以快速得到每个像素点的像素值。图7示出根据本公开实施例基于变形参数执行变形处理的结构示意图,图8示出根据本公开实施例获得的第二图像的示意图,其中本公开实施例可以方便且快速的执行图像的变形处理。
综上所述,本公开实施例可以直接根据所需要的变形效果对图像进行变形处理,而不是简单地通过拖拽、添加图片、标签的方式执行变形操作。通过本公开实施例可以更加方便灵活的执行图像的变形,适用性更好。另外,可以根据贝塞尔曲面算法优化的网格变形算法中控制点控制的图像变形,优化后控制点控制的图像变形算法复杂度有很大的降幅,可以适应其他除面部娱乐化变形的有自由变形需求的图像处理算法,也可以利用网格变形降低图像变形处理的复杂度。另外,本公开实施例可以利用网格与面部关键点组合完成丰富的面部变形效果,针对不同转角、不同大小的面部图像都可以有很好的变形结果,在处理视频中面部的变形时也有稳定的表现。
可以理解,本公开提及的上述各个方法实施例,在不违背原理逻辑的情况下,均可以彼此相互结合形成结合后的实施例,限于篇幅,本公开不再赘述。
此外,本公开还提供了图像处理装置、电子设备、计算机可读存储介质、程序,上述均可用来实现本公开提供的任一种图像处理方法,相应技术方案和描述和参见方法部分的相应记载,不再赘述。
图9示出根据本公开实施例的图像处理装置的框图,其中,该装置可以包括:
第一确定模块100,其配置为确定与第一图像中的目标对象相匹配的第一区域;
第二确定模块200,其配置为利用预设算法,基于预设的变形效果确定变形参数,所述变形参数用于确定目标对象的各像素点基于所述预设的变形效果产生的位置偏差;
变形模块300,其配置为基于所述变形参数对所述第一图像中的目标对象进行变形处理,获得第二图像。
在本公开实施例中,所述第一确定模块进一步配置为通过形成与所述目标对象相对应的第一网格确定所述第一区域,所述第一网格与第一区域匹配。
在本公开实施例中,所述变形参数构造为变形像素矩阵,该变形像素矩阵中的每个参数用于确定目标对象的对应像素点基于所述预设的变形效果产生的位置偏差。
在本公开实施例中,所述第一确定模块进一步配置为确定第一图像内的目标对象的特征点的位置,并基于各所述特征点之间的相对位置确定所述第一区域。
在本公开实施例中,所述第二确定模块进一步配置为确定是否存在预设变形模板,如存在,则利用预设算法,基于所述预设变形模板确定所述变形参数。
在本公开实施例中,所述第二确定模块进一步配置为如不存在所述预设变形模板,则获取用于图像变形的第二网格,并利用预设算法以及所述第二网格中的像素点的第二位置确定所述变形参数,其中所述第二网格为变形网格。
在本公开实施例中,所述第二确定模块进一步配置为在接收到基于预设变形图像执行变形操作的第一指令时,确定为存在所述预设变形模板。
在本公开实施例中,所述第二确定模块进一步配置为确定与所述预设变形模板的变形区域匹配的第三网格,
将所述第三网格中每个子网格的四个顶点作为四个控指点,并基于预设算法以及各子网格的四个控制点确定第三网格中各第一像素点在变形之前的第三位置;
并基于各第一像素点的第三位置以及其在第三网格中的第四位置确定所述变形参数。
在本公开实施例中,所述第二确定模块进一步配置为将所述第二网格中的每个子网格的四个顶点作为四个控制点;
基于所述预设算法确定第二网格中各第二像素点在变形之前的第一位置;
基于各第二像素点的第一位置和第二位置,确定所述变形参数。
在本公开实施例中,所述预设算法的表达式为:
p(u,v)=d_1*u+d_2*v+d_3*u*v+d_4;
其中d_i=(a_i,b_i),其由变形网格中每个子网格的控制点的坐标确定,i为小于5的正整数;u和v为变形网格中各像素点在未变形时的位置的横坐标和纵坐标,p(u,v)为变形网格中各像素点变形后的位置坐标;所述变形网格为第二网格或第三网格。
在本公开实施例中,所述第二确定模块进一步配置为接收关于第一区域的变形操作,基于该变形操作获取所述第二网格;或者获取存储的第二网格。
在本公开实施例中,所述第二确定模块还配置为基于所述第一区域在长度方向上的像素点数量和宽度方向上的像素点数量调节所述变形像素矩阵的维度,使得变形像素矩阵中的像素点与第一区域中的像素点一一对应;
所述变形模块还配置为利用调节维度后的变形像素矩阵获得第二图像。
在本公开实施例中,所述变形模块还配置为利用线性插值算法,基于所述变形参数中各像素点的位置偏差,调节目标对象上对应像素点的位置。
在本公开实施例中,所述变形模块还配置为将调节位置后的像素点的灰度值确定为未进行位置调节时的像素点的灰度值。
在本公开实施例中,所述第一确定模块还配置为在所述目标对象包括面部时,将鼻梁中心确定为第一区域的中心;
基于双眼的外侧边缘之间的距离确定所述第一区域的宽度;
基于眉心与鼻尖之间的距离确定所述第一区域的高度。
在本公开实施例中,所述第一确定模块还配置为确定与所述第一图像中的目标对象的位置和尺寸相匹配的第一网格,该第一网格被均等分成多个子网格。
综上所述,本公开实施例可以直接根据所需要的变形效果对图像进行变形处理,而不是简单地通过拖拽、添加图片、标签的方式执行变形操作。通过本公开实施例可以更加方便灵活的执行图像的变形,适用性更好。另外,可以根据贝塞尔曲面算法优化的网格变形算法中控制点控制的图像变形,优化后控制点控制的图像变形算法复杂度有很大的降幅,可以适应其他除面部娱乐化变形的有自由变形需求的图像处理算法,也可以利用网格变形降低图像变形处理的复杂度。另外,本公开实施例可以利用网格与面部关键点组合完成丰富的面部变形效果,针对不同转角、不同大小的面部图像都可以有很好的变形结果,在处理视频中面部的变形时也有稳定的表现。
图10示出根据本公开实施例的一种电子设备的框图。电子设备可以被提供为终端、服务器或其它形态的设备。电子设备可以包括图像处理装置800。例如,该装置800可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等终端。
参照图10,装置800可以包括以下一个或多个组件:处理组件802,存储器804,电源组件806,多媒体组件808,音频组件810,输入/输出(I/O)的接口812,传感器组件814,以及通信组件816。
处理组件802通常控制装置800的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件802可以包括一个或多个模块,便于处理组件802和其他组件之间的交互。例如,处理组件802可以包括多媒体模块,以方便多媒体组件808和处理组件802之间的交互。
存储器804被配置为存储各种类型的数据以支持在装置800的操作。这些数据的示例包括用于在装置800上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件806为装置800的各种组件提供电力。电源组件806可以包括电源管理系统,一个或多个电源,及其他与为装置800生成、管理和分配电力相关联的组件。
多媒体组件808包括在所述装置800和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件808包括一个前置摄像头和/或后置摄像头。当装置800处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件810被配置为输出和/或输入音频信号。例如,音频组件810包括一个麦克风(MIC),当装置800处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中,音频组件810还包括一个扬声器,用于输出音频信号。
I/O接口812为处理组件802和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件814包括一个或多个传感器,用于为装置800提供各个方面的状态评估。例如,传感器组件814可以检测到装置800的打开/关闭状态,组件的相对定位,例如所述组件为装置800的显示器和小键盘,传感器组件814还可以检测装置800或装置800一个组件的位置改变,用户与装置800接触的存在或不存在,装置800方位或加速/减速和装置800的温度变化。传感器组件814可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件814还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件816被配置为便于装置800和其他设备之间有线或无线方式的通信。装置800可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信组件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件816还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,装置800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。
在示例性实施例中,还提供了一种非易失性计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令被处理器执行时实现上述实施例所述的图像处理方法,例如包括计算机程序指令的存储器804,上述计算机程序指令可由装置800的处理器820执行以完成上述方法。
图11是根据本公开实施例示出的一种电子设备的框图。例如,电子设备1900可以被提供为一服务器。参照图11,电子设备1900包括处理组件1922,其进一步包括一个或多个处理器,以及由存储器1932所代表的存储器资源,用于存储可由处理组件1922的执行的指令,例如应用程序。存储器1932中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件1922被配置为执行指令,以执行上述方法。
电子设备1900还可以包括一个电源组件1926被配置为执行电子设备1900的电源管理,一个有线或无线网络接口1950被配置为将电子设备1900连接到网络,和一个输入输出(I/O)接口1958。电子设备1900可以操作基于存储在存储器1932的操作系统,例如Windows ServerTM,Mac OS XTM,UnixTM,LinuxTM,FreeBSDTM或类似。
在示例性实施例中,还提供了一种非易失性计算机可读存储介质,例如包括计算机程序指令的存储器1932,上述计算机程序指令可由电子设备1900的处理组件1922执行以完成上述方法。
本公开可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本公开的各个方面。
这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解,流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合,都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器,从而生产出一种机器,使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时,产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分,所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
以上已经描述了本公开的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术的技术改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。
Claims (10)
1.一种图像处理方法,其特征在于,包括:
确定与第一图像中的目标对象相匹配的第一区域;
利用预设算法,基于预设的变形效果确定变形参数,所述变形参数用于确定目标对象的各像素点基于所述预设的变形效果产生的位置偏差;
基于所述变形参数对所述第一图像中的目标对象进行变形处理,获得第二图像。
2.根据权利要求1所述的方法,其特征在于,所述确定与第一图像中的目标对象相匹配的第一区域包括:
形成与所述目标对象相对应的第一网格,所述第一网格与第一区域匹配。
3.根据权利要求1所述的方法,其特征在于,所述变形参数构造为变形像素矩阵,该变形像素矩阵中的每个参数用于确定目标对象的对应像素点基于所述预设的变形效果产生的位置偏差。
4.根据权利要求1-3中任意一项所述的方法,其特征在于,所述确定与第一图像中的目标对象匹配的第一区域包括:
确定第一图像内的目标对象的特征点的位置;
基于各所述特征点之间的相对位置确定所述第一区域。
5.根据权利要求1-3中任意一项所述的方法,其特征在于,所述利用预设算法,基于预设的变形效果确定变形参数包括:
确定是否存在预设变形模板;
如存在,则利用预设算法,基于所述预设变形模板确定所述变形参数。
6.根据权利要求5所述的方法,其特征在于,所述利用预设算法,基于预设的变形效果确定变形参数还包括:
如不存在所述预设变形模板,则获取用于图像变形的第二网格,该第二网格为变形网格;
利用预设算法以及所述第二网格中的像素点的第二位置确定所述变形参数。
7.根据权利要求5所述的方法,其特征在于,所述确定是否存在预设变形模板包括:
在接收到基于预设变形图像执行变形操作的第一指令时,确定为存在所述预设变形模板。
8.一种图像处理装置,其特征在于,包括:
第一确定模块,其配置为确定与第一图像中的目标对象相匹配的第一区域;
第二确定模块,其配置为利用预设算法,基于预设的变形效果确定变形参数,所述变形参数用于确定目标对象的各像素点基于所述预设的变形效果产生的位置偏差;
变形模块,其配置为基于所述变形参数对所述第一图像中的目标对象进行变形处理,获得第二图像。
9.一种电子设备,其特征在于,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:执行权利要求1至7中任意一项所述的图像处理方法。
10.一种计算机可读存储介质,其上存储有计算机程序指令,其特征在于,所述计算机程序指令被处理器执行时实现权利要求1至7中任意一项所述的图像处理方法。
Priority Applications (6)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810724309.3A CN109087238B (zh) | 2018-07-04 | 2018-07-04 | 图像处理方法和装置、电子设备以及计算机可读存储介质 |
PCT/CN2019/093551 WO2020007241A1 (zh) | 2018-07-04 | 2019-06-28 | 图像处理方法和装置、电子设备以及计算机可读存储介质 |
KR1020207030576A KR102442485B1 (ko) | 2018-07-04 | 2019-06-28 | 이미지 처리 방법 및 장치, 전자 기기 및 컴퓨터 판독 가능한 저장 매체 |
SG11202010410WA SG11202010410WA (en) | 2018-07-04 | 2019-06-28 | Image processing method and apparatus, electronic device, and computer-readable storage medium |
JP2020558500A JP7038853B2 (ja) | 2018-07-04 | 2019-06-28 | 画像処理方法及び装置、電子機器並びにコンピュータ可読記憶媒体 |
US17/073,778 US11481975B2 (en) | 2018-07-04 | 2020-10-19 | Image processing method and apparatus, electronic device, and computer-readable storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810724309.3A CN109087238B (zh) | 2018-07-04 | 2018-07-04 | 图像处理方法和装置、电子设备以及计算机可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109087238A true CN109087238A (zh) | 2018-12-25 |
CN109087238B CN109087238B (zh) | 2021-04-23 |
Family
ID=64837358
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810724309.3A Active CN109087238B (zh) | 2018-07-04 | 2018-07-04 | 图像处理方法和装置、电子设备以及计算机可读存储介质 |
Country Status (6)
Country | Link |
---|---|
US (1) | US11481975B2 (zh) |
JP (1) | JP7038853B2 (zh) |
KR (1) | KR102442485B1 (zh) |
CN (1) | CN109087238B (zh) |
SG (1) | SG11202010410WA (zh) |
WO (1) | WO2020007241A1 (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110443745A (zh) * | 2019-07-03 | 2019-11-12 | 平安科技(深圳)有限公司 | 图像生成方法、装置、计算机设备及存储介质 |
WO2020007241A1 (zh) * | 2018-07-04 | 2020-01-09 | 北京市商汤科技开发有限公司 | 图像处理方法和装置、电子设备以及计算机可读存储介质 |
CN110856014A (zh) * | 2019-11-05 | 2020-02-28 | 北京奇艺世纪科技有限公司 | 动态图像生成方法、装置、电子设备及存储介质 |
CN110944230A (zh) * | 2019-11-21 | 2020-03-31 | 北京达佳互联信息技术有限公司 | 视频特效的添加方法、装置、电子设备及存储介质 |
KR20200107930A (ko) * | 2019-03-06 | 2020-09-16 | 베이징 센스타임 테크놀로지 디벨롭먼트 컴퍼니 리미티드 | 이미지 처리 방법 및 장치 |
CN112767288A (zh) * | 2021-03-19 | 2021-05-07 | 北京市商汤科技开发有限公司 | 图像处理方法及装置、电子设备和存储介质 |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109087239B (zh) * | 2018-07-25 | 2023-03-21 | 腾讯科技(深圳)有限公司 | 一种人脸图像处理方法、装置及存储介质 |
CN111768393A (zh) * | 2020-07-01 | 2020-10-13 | 上海商汤智能科技有限公司 | 图像处理方法及装置、电子设备和存储介质 |
CN111901499B (zh) * | 2020-07-17 | 2022-04-01 | 青岛聚好联科技有限公司 | 一种计算视频图像中像素实际距离的方法及设备 |
CN114995738B (zh) * | 2022-05-31 | 2023-06-16 | 重庆长安汽车股份有限公司 | 一种变换方法、装置、电子设备、存储介质及程序产品 |
CN116341587B (zh) * | 2023-05-25 | 2023-09-26 | 北京紫光青藤微系统有限公司 | 用于条码识别的方法及装置、条码采集设备 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120173521A1 (en) * | 2010-12-29 | 2012-07-05 | Microsoft Corporation | Dynamic facet ordering for faceted search |
CN103824253A (zh) * | 2014-02-19 | 2014-05-28 | 中山大学 | 一种基于图像局部精确变形的人物五官变形方法 |
CN104063890A (zh) * | 2013-03-22 | 2014-09-24 | 中国移动通信集团福建有限公司 | 一种人脸卡通动漫形象化方法及系统 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004234333A (ja) * | 2003-01-30 | 2004-08-19 | Nippon Hoso Kyokai <Nhk> | 画像変形情報生成方法及びその装置及びそのプログラム |
CN103605975B (zh) * | 2013-11-28 | 2018-10-19 | 小米科技有限责任公司 | 一种图像处理的方法、装置及终端设备 |
CN104063842A (zh) * | 2014-05-30 | 2014-09-24 | 小米科技有限责任公司 | 处理图像的方法、装置及终端 |
JP6143199B2 (ja) * | 2015-03-18 | 2017-06-07 | カシオ計算機株式会社 | 画像補正装置、画像補正方法、及びプログラム |
CN106548117B (zh) * | 2015-09-23 | 2019-03-08 | 腾讯科技(深圳)有限公司 | 一种人脸图像处理方法和装置 |
US9646195B1 (en) * | 2015-11-11 | 2017-05-09 | Adobe Systems Incorporated | Facial feature liquifying using face mesh |
KR102488563B1 (ko) * | 2016-07-29 | 2023-01-17 | 삼성전자주식회사 | 차등적 뷰티효과 처리 장치 및 방법 |
CN109087238B (zh) * | 2018-07-04 | 2021-04-23 | 北京市商汤科技开发有限公司 | 图像处理方法和装置、电子设备以及计算机可读存储介质 |
-
2018
- 2018-07-04 CN CN201810724309.3A patent/CN109087238B/zh active Active
-
2019
- 2019-06-28 KR KR1020207030576A patent/KR102442485B1/ko active IP Right Grant
- 2019-06-28 JP JP2020558500A patent/JP7038853B2/ja active Active
- 2019-06-28 WO PCT/CN2019/093551 patent/WO2020007241A1/zh active Application Filing
- 2019-06-28 SG SG11202010410WA patent/SG11202010410WA/en unknown
-
2020
- 2020-10-19 US US17/073,778 patent/US11481975B2/en active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120173521A1 (en) * | 2010-12-29 | 2012-07-05 | Microsoft Corporation | Dynamic facet ordering for faceted search |
CN104063890A (zh) * | 2013-03-22 | 2014-09-24 | 中国移动通信集团福建有限公司 | 一种人脸卡通动漫形象化方法及系统 |
CN103824253A (zh) * | 2014-02-19 | 2014-05-28 | 中山大学 | 一种基于图像局部精确变形的人物五官变形方法 |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020007241A1 (zh) * | 2018-07-04 | 2020-01-09 | 北京市商汤科技开发有限公司 | 图像处理方法和装置、电子设备以及计算机可读存储介质 |
US11481975B2 (en) | 2018-07-04 | 2022-10-25 | Beijing Sensetime Technology Development Co., Ltd. | Image processing method and apparatus, electronic device, and computer-readable storage medium |
KR20200107930A (ko) * | 2019-03-06 | 2020-09-16 | 베이징 센스타임 테크놀로지 디벨롭먼트 컴퍼니 리미티드 | 이미지 처리 방법 및 장치 |
US11244449B2 (en) | 2019-03-06 | 2022-02-08 | Beijing Sensetime Technology Development Co., Ltd. | Image processing methods and apparatuses |
KR102442483B1 (ko) * | 2019-03-06 | 2022-09-13 | 베이징 센스타임 테크놀로지 디벨롭먼트 컴퍼니 리미티드 | 이미지 처리 방법 및 장치 |
CN110443745A (zh) * | 2019-07-03 | 2019-11-12 | 平安科技(深圳)有限公司 | 图像生成方法、装置、计算机设备及存储介质 |
CN110443745B (zh) * | 2019-07-03 | 2024-03-19 | 平安科技(深圳)有限公司 | 图像生成方法、装置、计算机设备及存储介质 |
CN110856014A (zh) * | 2019-11-05 | 2020-02-28 | 北京奇艺世纪科技有限公司 | 动态图像生成方法、装置、电子设备及存储介质 |
CN110856014B (zh) * | 2019-11-05 | 2023-03-07 | 北京奇艺世纪科技有限公司 | 动态图像生成方法、装置、电子设备及存储介质 |
CN110944230A (zh) * | 2019-11-21 | 2020-03-31 | 北京达佳互联信息技术有限公司 | 视频特效的添加方法、装置、电子设备及存储介质 |
CN110944230B (zh) * | 2019-11-21 | 2021-09-10 | 北京达佳互联信息技术有限公司 | 视频特效的添加方法、装置、电子设备及存储介质 |
CN112767288A (zh) * | 2021-03-19 | 2021-05-07 | 北京市商汤科技开发有限公司 | 图像处理方法及装置、电子设备和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
WO2020007241A1 (zh) | 2020-01-09 |
JP2021518956A (ja) | 2021-08-05 |
KR20200135492A (ko) | 2020-12-02 |
CN109087238B (zh) | 2021-04-23 |
SG11202010410WA (en) | 2020-11-27 |
JP7038853B2 (ja) | 2022-03-18 |
US11481975B2 (en) | 2022-10-25 |
US20210035362A1 (en) | 2021-02-04 |
KR102442485B1 (ko) | 2022-09-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109087238A (zh) | 图像处理方法和装置、电子设备以及计算机可读存储介质 | |
CN109697734A (zh) | 位姿估计方法及装置、电子设备和存储介质 | |
JP7106687B2 (ja) | 画像生成方法および装置、電子機器、並びに記憶媒体 | |
CN109522910A (zh) | 关键点检测方法及装置、电子设备和存储介质 | |
CN109614876A (zh) | 关键点检测方法及装置、电子设备和存储介质 | |
CN109089170A (zh) | 弹幕显示方法及装置 | |
JP2021514497A (ja) | 顔部認識方法及び装置、電子機器並びに記憶媒体 | |
CN109784255A (zh) | 神经网络训练方法及装置以及识别方法及装置 | |
CN108280418A (zh) | 脸部图像的欺骗识别方法及装置 | |
CN108764069A (zh) | 活体检测方法及装置 | |
CN109871883A (zh) | 神经网络训练方法及装置、电子设备和存储介质 | |
CN109816611A (zh) | 视频修复方法及装置、电子设备和存储介质 | |
CN110458218A (zh) | 图像分类方法及装置、分类网络训练方法及装置 | |
CN109658401A (zh) | 图像处理方法及装置、电子设备和存储介质 | |
CN109257645A (zh) | 视频封面生成方法及装置 | |
CN108985176A (zh) | 图像生成方法及装置 | |
CN110298310A (zh) | 图像处理方法及装置、电子设备和存储介质 | |
CN109978891A (zh) | 图像处理方法及装置、电子设备和存储介质 | |
CN109472738A (zh) | 图像光照校正方法及装置、电子设备和存储介质 | |
CN109615593A (zh) | 图像处理方法及装置、电子设备和存储介质 | |
CN109977868A (zh) | 图像渲染方法及装置、电子设备和存储介质 | |
CN109446912A (zh) | 人脸图像的处理方法及装置、电子设备和存储介质 | |
CN106875446B (zh) | 相机重定位方法及装置 | |
CN109377446A (zh) | 人脸图像的处理方法及装置、电子设备和存储介质 | |
CN110378312A (zh) | 图像处理方法及装置、电子设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |