CN113033744A - 一种艺术风格qr码的生成方法及系统 - Google Patents

一种艺术风格qr码的生成方法及系统 Download PDF

Info

Publication number
CN113033744A
CN113033744A CN202110281463.XA CN202110281463A CN113033744A CN 113033744 A CN113033744 A CN 113033744A CN 202110281463 A CN202110281463 A CN 202110281463A CN 113033744 A CN113033744 A CN 113033744A
Authority
CN
China
Prior art keywords
image
code
style
loss
simulation layer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110281463.XA
Other languages
English (en)
Other versions
CN113033744B (zh
Inventor
牛建伟
苏昊
李青锋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beihang University
Original Assignee
Beihang University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beihang University filed Critical Beihang University
Priority to CN202110281463.XA priority Critical patent/CN113033744B/zh
Publication of CN113033744A publication Critical patent/CN113033744A/zh
Application granted granted Critical
Publication of CN113033744B publication Critical patent/CN113033744B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K19/00Record carriers for use with machines and with at least a part designed to carry digital markings
    • G06K19/06Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code
    • G06K19/06009Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code with optically detectable marking
    • G06K19/06037Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code with optically detectable marking multi-dimensional coding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/002Image coding using neural networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本发明是一种艺术风格QR码的生成方法及系统,属于QR码生成技术领域。本发明系统包括标准QR码编码器、起始优化图像生成模块、采样模拟层模块、神经网络优化器以及艺术风格QR码输出模块。本发明方法生成一个起始优化图像I,通过采样模拟层卷积获取模拟的QR码解码结果,由卷积结果与目标QR码可计算编码损失,由起始图像与艺术风格图像可计算风格损失,编码损失和风格损失加权求和得到总体损失,由神经网络优化器优化调整图像I中的像素值,使得总体损失最小化;最后输出具有艺术风格且高鲁棒性的艺术风格QR码I。本发明可端到端的直接生成艺术风格QR码,具备较高的扫描鲁棒性。

Description

一种艺术风格QR码的生成方法及系统
技术领域
本发明涉及QR码技术领域、风格迁移技术领域、尤其涉及一种艺术风格QR码图像的生成方法及系统。
背景技术
QR(Quick Response)码是世界上应用最广泛的多媒体信息载体之一。普通的QR码由单调的黑白编码模块组成,外观单调简陋,视觉不美观。因此,近几年来,开始出现多种针对QR码的视觉优化的技术。但这些现有技术生成的QR码图像往往采用机械的图像处理技术,优化编码模块外形、或嵌入背景图像,或通过QR码模块调整及模块中心亮度调整等一系列手段获取艺术二维码,但是目前生成的艺术二维码的多样性较差、视觉提升效果有限。
发明内容
本发明针对目的现有技术生成的艺术化QR码图像的视觉质量低、多样化和个性化差等问题,提供了一种艺术风格QR码的生成方法及系统,实现通过输入不同的艺术风格图像,直接生成不同艺术风格、且可读性强的QR码图像,同时也确保QR码扫描识别的鲁棒性。
本发明的一种艺术风格QR码的生成方法,实现步骤如下:
步骤1,对输入的编码消息通过标准QR码编码器得到编码模块矩阵Qm
步骤2,输入尺寸相同的风格图像Is和起始优化图像I;所述起始优化图像I为三通道RGB白噪声图像或高斯模糊图像;
步骤3,通过采样模拟层ψ将图像I转化为模拟的QR码解码结果IQ
所述采样模拟层ψ包含1层卷积,输入通道数和输出通道数均为1,卷积核尺寸和步长均为m,m=h/l,其中h为图像I的高,l为矩阵Qm的每个边的模块数量;采样模拟层ψ的权重满足三维高斯分布;
所述图像I先转换得到灰度图像Ig再输入所述采样模拟层ψ得到卷积结果IQ
步骤4,对卷积结果IQ与矩阵Qm计算编码损失lcode
步骤5,计算图像I与艺术风格图像Is的风格损失lstyle
步骤6,选取一个神经网络优化器,设定图像I为优化目标,调整图像I中的像素值,使得总体损失ltotal最小化;
其中ltotal=λ1lcode2lstyle,λ1和λ2为设置的权重;
步骤7,将步骤3-6重复N次,输出最终的艺术风格QR码I;N为正整数。
对应地,本发明提供的一种艺术风格QR码的生成系统,包括:
标准QR码编码器,用于对输入的编码消息编码获得编码模块矩阵Qm
起始优化图像生成模块,用于生成三通道RGB白噪声图像或高斯模糊图像作为起始的优化图像I;
采样模拟层模块,用于将优化图像I先转换得到灰度图像后输入采样模拟层得到模拟的QR码解码结果IQ;所述采样模拟层包含1层卷积,输入通道数和输出通道数均为1,卷积核尺寸和步长均为m,m=h/l,其中h为图像I的高,l为矩阵Qm的边的模块数量,采样模拟层的权重满足三维高斯分布;
神经网络优化器,设定图像I为优化目标,优化修改图像I中的像素值,使得总体损失ltotal最小化;其中,ltotal设置为编码损失lcode和风格损失lstyle的加权求和;编码损失lcode计算的是卷积结果IQ与矩阵Qm的编码损失;风格损失lstyle计算的是图像I与风格图像Is的风格损失;每次调整图像I中的像素值后,都经过采样模拟层得到模拟的QR码解码结果IQ
艺术风格QR码输出模块,用于对神经网络优化器中对图像I的优化次数进行统计,当达到设定的最大次数N时,通知神经网络优化器停止优化,输出当前得到的优化图像I。
相对于现有技术,本发明的优点和积极效果在于:本发明方法和系统实现通过输入不同的艺术风格图像,直接生成不同艺术风格、且可读性强的QR码图像,从而以支持用户的个性化选择;本发明方法和系统生成的QR码图像具有艺术吸引力;本发明方法和系统可端到端的直接生成艺术风格QR码,同时具备较高的扫描鲁棒性,无需其他步骤修复鲁棒性;本发明生成艺术风格QR码的方法和系统在灵活性、视觉质量、用户个性化选择、鲁棒性方面均能取得较好的效果。
附图说明
图1是本发明的艺术风格QR码的生成方法的一个实现流程示意图;
图2是采用本发明方法输入不同风格图像输出对应风格QR码的示例图。
具体实施方式
下面将结合附图和实施例对本发明的技术方案进行清楚、完整地描述。显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获取的所有其他实施例,都属于本发明保护的范围。
如图1所示,本发明实施例实现的一种QR码图像的生成方法,主要包括如下8个步骤。
步骤1:输入编码消息message,并根据message得到编码模块矩阵Qm
首先,输入编码消息message,编码消息通常为网址链接或字符串;通过标准QR码编码器的编码规则,根据message得到满足QR码ISO标准(ISO/IEC 18004:2000)的QR码黑白模块布局的编码模块矩阵Qm,Qm由0、1组成,0表示黑色模块,1表示白色模块。其中,QR码可为任意版本号V,纠错等级可为L、M、Q、H中任意一项。纠错等级L、M、Q、H分别代表7%、15%、25%、30%的码字可以被修正。
本发明实施例中,设Qm尺寸为l×l,l为QR码每边的模块数量,l为正整数。
更进一步地,本发明将编码模块矩阵Qm Qm中的白色模块和黑色模块的颜色进行改变,变成其他颜色,例如,选取输入的风格图像中两种颜色——黄色和蓝色,将白色变成黄色,黑色变成深蓝色。这样操作的目的是为Qm赋予色彩元素,提高视觉质量,使得模块颜色更符合风格图像的艺术风格,也能更快获得效果更好的艺术风格二维码。
步骤2:输入风格图像Is以及起始优化图像I。
本发明目标是优化一个图像I,使其能获得目标艺术风格的QR码。设置优化图像I和风格图像Is的尺寸大小相同。风格图像Is可为任意三通道RGB(红、绿、蓝)图像,尺寸为c×h×w。如图2所示输入4种不同风格图像。起始优化图像I可为三通道RGB白噪声图像或高斯模糊图像等任意图像,尺寸为c×h×w。其中,c、h、w分别为图像通道数、高度、宽度,且c=3,h=w。起始优化图像的选择会影响输出结果的艺术效果,但不影响扫描识别的鲁棒性。
步骤3:通过采样模拟层ψ,将优化图像I转化为模拟的QR码解码结果IQ
本发明提出的采样模拟层(Sampling Simulation Layer,简称SS Layer)ψ通过卷积操作模拟移动设备对QR码的扫描识别,可将起始优化图像转化为QR码的采样结果。
采样模拟层ψ包含1层卷积,输入通道数为1,输出通道数为1。采样模拟层中的卷积核尺寸为m,步长为m。m=h/l,即m等于输出艺术风格QR码中每个模块的边长。卷积核的权重满足一个数学期望为μ、方差为σ2的三维高斯分布,权重
Figure BDA0002978632000000031
其中,x和y表示卷积核中权重的位置,z为权值。
首先,将3通道图像I拆解为IR、IG、IB,其分别对应于I的R、G、B通道。再通过公式Ig=αIR+βIG+γIB计算得到I的灰度化结果Ig,权重α=0.299,β=0.587,γ=0.114。然后将Ig输入SS Layer,得到卷积结果IQ=ψ(Ig),该卷积结果即为模拟的QR码解码结果。
步骤4:对IQ与Qm计算编码损失lcode
通过公式
Figure BDA0002978632000000032
计算得到QR码的编码损失lcode
Figure BDA0002978632000000033
表示二范数。
步骤5:对风格图像Is计算风格损失lstyle
通过预训练的VGG-19网络提取Is、I分别在relu1_2、relu2_2、relu3_3和relu4_3层输出的特征图。所述VGG-19网络在文献1(Simonyan K,Zisserman A.Very DeepConvolutional Networks for Large-Scale Image Recognition[J].Computer Science,2014.)中记载。然后计算优化图像I与风格图像Is的风格损失函数lstyle如下:
Figure BDA0002978632000000034
其中,φ表示损失网络,本发明实施例为VGG-19网络,j表示损失网络的第j层,
j∈{relu1_2,relu2_2,relu3_3,relu4_3};
Figure BDA0002978632000000041
是用损失网络分别对图像I、Is提取的第j层的特征图。
所述风格损失函数在文献2(J Johnson,A Alahi,Fei Fei Li,PerceptualLosses for Real-Time Style Transfer and Super-Resolution,2016)中记载。该文献也记载了
Figure BDA0002978632000000042
的元素计算自Gram矩阵
Figure BDA0002978632000000043
定义
Figure BDA0002978632000000044
其中,Cj、Hj、Wj表示第j层输出的特征图的通道数、高度和宽度;φj(x)h,ω,c表示x在网络φ第j层输出的通道c的特征图;c、c’表示不同的通道。x表示输入的图像。
步骤6:将优化图像I设定为神经网络优化器的优化目标,利用神经网络前传和梯度下降技术优化和修改I中的像素值,使I尽量满足总体损失ltotal最小化的目标。
其中,ltotal=λ1lcode2lstyle,λ1和λ2为任意常数,用来平衡两项损失。
神经网络优化器包括但不限于Adam、SGD(随机梯度下降)、L-BFGS等优化器。
步骤7:设置迭代轮次N,将步骤3-6重复N次,N为正整数,最终输出艺术风格QR码I。
每次重复步骤3-6时,将逐步优化图像I中的像素值,以使I中像素保留Qm中的编码信息和Is的艺术风格。最终在迭代优化N次后,输出艺术风格且高鲁棒性的艺术风格QR码I。
相应地,本发明提供的一种艺术风格QR码的生成系统,包括标准QR码编码器、起始优化图像生成模块、采样模拟层模块、神经网络优化器以及艺术风格QR码输出模块。
标准QR码编码器,用于对输入的编码消息编码获得编码模块矩阵Qm
起始优化图像生成模块,用于生成三通道RGB白噪声图像或高斯模糊图像作为起始的优化图像I。该模块对应上述步骤2,优化图像I和风格图像Is的尺寸大小相同。
采样模拟层模块,用于将优化图像I先转换得到灰度图像后输入采样模拟层得到模拟的QR码解码结果IQ。所述采样模拟层包含1层卷积,输入通道数和输出通道数均为1,卷积核尺寸和步长均为m,m=h/l,其中h为图像I的高,l为矩阵Qm的边的模块数量,采样模拟层的权重满足三维高斯分布。采样模拟层模块的功能实现对应上面步骤3。
神经网络优化器,设定图像I为优化目标,优化修改图像I中的像素值,使得总体损失ltotal最小化;其中,ltotal设置为编码损失lcode和风格损失lstyle的加权求和;编码损失lcode计算的是卷积结果IQ与矩阵Qm的编码损失;风格损失lstyle计算的是图像I与风格图像Is的风格损失;每次调整图像I中的像素值后,都经过采样模拟层得到模拟的QR码解码结果IQ。编码损失lcode的计算方式同上面步骤4,风格损失lstyle的计算方式同上面步骤5。
艺术风格QR码输出模块,用于对神经网络优化器中对图像I的优化次数进行统计,当达到设定的最大次数N时,通知神经网络优化器停止优化,输出当前得到的优化图像I。

Claims (5)

1.一种艺术风格QR码的生成系统,其特征在于,包括如下模块:
标准QR码编码器,用于对输入的编码消息编码获得编码模块矩阵Qm
起始优化图像生成模块,用于生成三通道RGB白噪声图像或高斯模糊图像作为起始的优化图像I;
采样模拟层模块,用于将优化图像I先转换得到灰度图像后输入采样模拟层得到模拟的QR码解码结果IQ;所述采样模拟层包含1层卷积,输入通道数和输出通道数均为1,卷积核尺寸和步长均为m,m=h/l,其中h为图像I的高,l为矩阵Qm的边的模块数量,采样模拟层的权重满足三维高斯分布;
神经网络优化器,设定图像I为优化目标,调整修改图像I中的像素值,使得总体损失ltotal最小化;其中,ltotal设置为编码损失lcode和风格损失lstyle的加权求和;编码损失lcode计算的是卷积结果IQ与矩阵Qm的编码损失;风格损失lstyle计算的是图像I与风格图像Is的风格损失;每次修改图像I中的像素值后,都经过所述采样模拟层得到模拟的QR码解码结果IQ
艺术风格QR码输出模块,用于对神经网络优化器中对图像I的优化次数进行统计,当达到设定的最大次数N时,通知神经网络优化器停止优化,输出当前得到的优化图像I;N为正整数。
2.根据权利要求1所述的系统,其特征在于,所述的采样模拟层模块,首先将起始优化图像I拆解为对应R、G、B的三通道图像IR、IG、IB,然后通过加权求和得到灰度图像Ig
Ig=αIR+βIG+γIB;其中,权重α=0.299,β=0.587,γ=0.114。
3.一种艺术风格QR码的生成方法,其特征在于,包括如下步骤:
步骤1,对输入的编码消息通过标准QR码编码器得到编码模块矩阵Qm
步骤2,输入尺寸相同的风格图像Is和优化图像I;所述优化图像I起始为三通道RGB白噪声图像或高斯模糊图像;
步骤3,通过采样模拟层ψ将优化图像I转化为模拟的QR码解码结果IQ
所述采样模拟层ψ包含1层卷积,输入通道数和输出通道数均为1,卷积核尺寸和步长均为m,m=h/l,其中h为图像I的高,l为矩阵Qm的边的模块数量;采样模拟层ψ的权重满足三维高斯分布;
所述优化图像I先转换得到灰度图像Ig再输入所述采样模拟层ψ得到卷积结果IQ
步骤4,对卷积结果IQ与矩阵Qm计算编码损失lcode
步骤5,计算优化图像I与风格图像Is的风格损失lstyle
步骤6,选取一个神经网络优化器,设定图像I为优化目标,调整图像I中的像素值,使得总体损失ltotal最小化;
其中ltotal=λ1lcode2lstyle,λ1和λ2为设置的权重;
步骤7,将步骤3-6重复N次,输出最终的艺术风格QR码I;N为正整数。
4.根据权利要求3所述的方法,其特征在于,所述的步骤1中,还根据输入的风格图像Is的颜色对矩阵Qm中白色模块和黑色模块的颜色进行改变。
5.根据权利要求3所述的方法,其特征在于,所述的步骤3中,首先将起始优化图像I拆解为对应R、G、B的三通道图像IR、IG、IB,然后通过加权求和得到灰度图像Ig
Ig=αIR+βIG+γIB;其中,权重α=0.299,β=0.587,γ=0.114。
CN202110281463.XA 2021-03-16 2021-03-16 一种艺术风格qr码的生成方法及系统 Active CN113033744B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110281463.XA CN113033744B (zh) 2021-03-16 2021-03-16 一种艺术风格qr码的生成方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110281463.XA CN113033744B (zh) 2021-03-16 2021-03-16 一种艺术风格qr码的生成方法及系统

Publications (2)

Publication Number Publication Date
CN113033744A true CN113033744A (zh) 2021-06-25
CN113033744B CN113033744B (zh) 2022-05-24

Family

ID=76471231

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110281463.XA Active CN113033744B (zh) 2021-03-16 2021-03-16 一种艺术风格qr码的生成方法及系统

Country Status (1)

Country Link
CN (1) CN113033744B (zh)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170185880A1 (en) * 2015-12-28 2017-06-29 Yuan Ze University Method for generating color qr code
CN108711137A (zh) * 2018-05-18 2018-10-26 西安交通大学 一种基于深度卷积神经网络的图像色彩表达模式迁移方法
CN109426858A (zh) * 2017-08-29 2019-03-05 京东方科技集团股份有限公司 神经网络、训练方法、图像处理方法及图像处理装置
CN109840575A (zh) * 2019-01-16 2019-06-04 广西师范大学 一种基于卷积神经网络的二维码风格转换方法
CN109949214A (zh) * 2019-03-26 2019-06-28 湖北工业大学 一种图像风格迁移方法及系统
CN110490791A (zh) * 2019-07-10 2019-11-22 西安理工大学 基于深度学习风格迁移的服饰图像艺术化生成方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170185880A1 (en) * 2015-12-28 2017-06-29 Yuan Ze University Method for generating color qr code
CN109426858A (zh) * 2017-08-29 2019-03-05 京东方科技集团股份有限公司 神经网络、训练方法、图像处理方法及图像处理装置
CN108711137A (zh) * 2018-05-18 2018-10-26 西安交通大学 一种基于深度卷积神经网络的图像色彩表达模式迁移方法
CN109840575A (zh) * 2019-01-16 2019-06-04 广西师范大学 一种基于卷积神经网络的二维码风格转换方法
CN109949214A (zh) * 2019-03-26 2019-06-28 湖北工业大学 一种图像风格迁移方法及系统
CN110490791A (zh) * 2019-07-10 2019-11-22 西安理工大学 基于深度学习风格迁移的服饰图像艺术化生成方法

Also Published As

Publication number Publication date
CN113033744B (zh) 2022-05-24

Similar Documents

Publication Publication Date Title
CN106778995B (zh) 一种与图像融合的艺术化二维码生成方法及装置
CN112288658B (zh) 一种基于多残差联合学习的水下图像增强方法
CN110223359B (zh) 一种基于生成对抗网络的双阶段多配色线稿上色模型及其构建方法和应用
CN109547664B (zh) 一种利用rgb颜色空间“有争议”像素的图像隐写方法
CN108416745B (zh) 一种具有色彩恒常性的图像自适应去雾增强方法
CN111783494B (zh) 结合二值分割的卷积自编码器的受损二维码恢复方法
CN113222875B (zh) 一种基于色彩恒常性的图像和谐化合成方法
CN111340901B (zh) 基于生成式对抗网络的复杂环境下输电网图片的压缩方法
CN109840575B (zh) 一种基于卷积神经网络的二维码风格转换方法
CN110717868A (zh) 视频高动态范围反色调映射模型构建、映射方法及装置
CN113096017A (zh) 基于深度坐标注意力网络模型的图像超分辨率重建方法
CN112508812A (zh) 图像色偏校正方法、模型训练方法、装置及设备
CN112308754A (zh) 面向大容量鲁棒水印应用的多解码端并行提取机制设计
CN114140786A (zh) 基于HRNet编码与双分支解码的场景文本识别方法
CN114742985A (zh) 一种高光谱特征提取方法、装置及存储介质
CN114067018B (zh) 一种基于扩张残差生成对抗网络的红外图像彩色化方法
CN113436101B (zh) 基于高效通道注意力机制的龙格库塔模块去雨的方法
CN109102457B (zh) 一种基于卷积神经网络的智能化变色系统及方法
CN113033744B (zh) 一种艺术风格qr码的生成方法及系统
CN111563854A (zh) 用于水下图像增强处理的粒子群优化方法
Li et al. Efficient visual computing with camera raw snapshots
CN115330583A (zh) 一种基于cmyk图像的水印模型训练方法及装置
CN110390374B (zh) 一种qr码图像的生成方法及系统
CN113436094A (zh) 一种基于多视角注意力机制的灰度图像自动上色方法
CN113643202A (zh) 一种基于噪声注意力图指导的微光图像增强方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant