CN109474830B - 一种数字视频钢印的嵌入和提取方法 - Google Patents

一种数字视频钢印的嵌入和提取方法 Download PDF

Info

Publication number
CN109474830B
CN109474830B CN201811331353.4A CN201811331353A CN109474830B CN 109474830 B CN109474830 B CN 109474830B CN 201811331353 A CN201811331353 A CN 201811331353A CN 109474830 B CN109474830 B CN 109474830B
Authority
CN
China
Prior art keywords
image
video
steel seal
pixel value
extracting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201811331353.4A
Other languages
English (en)
Other versions
CN109474830A (zh
Inventor
孙光民
朱子熙
陈佳阳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing University of Technology
Original Assignee
Beijing University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing University of Technology filed Critical Beijing University of Technology
Priority to CN201811331353.4A priority Critical patent/CN109474830B/zh
Publication of CN109474830A publication Critical patent/CN109474830A/zh
Application granted granted Critical
Publication of CN109474830B publication Critical patent/CN109474830B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • H04N19/467Embedding additional information in the video signal during the compression process characterised by the embedded information being invisible, e.g. watermarking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/835Generation of protective data, e.g. certificates
    • H04N21/8358Generation of protective data, e.g. certificates involving watermark

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Security & Cryptography (AREA)
  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)

Abstract

一种数字视频钢印的嵌入和提取方法属于数字视频水印领域。添加钢印需要对原始钢印图像进行二值化处理,去掉图像中的颜色信息,只保留图像中形状和结构信息;然后根据得到的二值化图像;提取二值化图像的边缘,再用膨胀算法强化此边缘;最后将边缘图像与二值化图像融合在一起得到钢印图像;将此钢印图像添加进视频。提取钢印算法能够提取出清晰的带有钢印图像边缘信息的二值化图像。本发明在不遮挡视频原有颜色信息的情况下,为视频打上可靠的可见水印,实现对视频版权保护的同时减少可见水印对观看效果的影响。

Description

一种数字视频钢印的嵌入和提取方法
技术领域
本发明属于数字视频水印领域。
背景技术
随着信息技术与网络的飞速发展,数字产品可以在网络中迅速传播,并可以很方便的被人们下载或使用。与此同时,这也为盗版、剽窃等侵害数字产品原创者利益的非法行为创造了便利和可乘之机。数字视频作为在网络中广泛传播的数字产品中的一种,也面临着相类似的问题。为了保护数字视频原创者的知识产权以及利益,需要在视频中加入能够证明视频原创者版权所有的特殊信息。这种被加入在视频码流中的特殊信息被称为数字视频水印。水印,一开始是指在纸张的创造过程中,“夹”在纸中添加的图片,数字,文字等信息,人们在拿到含有水印的纸张时,通过迎光透视等方法可以看到所添加的水印,以防止造假。数字视频水印正是借鉴了这种思路,在数字视频的视频码流中加入图像或文字,以表明版权信息,从而抑制盗版,摽窃等侵害原创者利益的行为。数字视频水印加入在视频码流中,可包含有带有原创者身份的特殊标识。在视频被盗用和剽窃的情况下会,被盗取的视频中的水印信息,为原创者的维权取证创造了有利条件。
目前的数字视频水印可分为两种方案:可见水印、不可见水印。不可见水印是指隐藏在视频码流中,并在视频播放时难以被肉眼察觉的数字水印。好的不可见水印应具有以下几个特征:不可见性、鲁棒性、安全性、较低的计算复杂度。其中不可见性是指水印加在视频中对原视频观看效果的影响,鲁棒性是指视频在传输过程中受到损失或受到人为攻击时水印能成功提取的能力。这两种属性在实际应用过程中互相矛盾,及在视频中加入的水印信息越多,水印的鲁棒性就越好,但水印的不可见性能就会下降,反之亦然。因此目前很难实现一种具有高度鲁棒性且同时具有良好不可见性的数字视频水印方案。且不可见水印虽然能够很好的避免对视频造成视觉上的影响,但是由于水印信息不可见,缺少了对非法盗用者的警示作用,只能在数字视频被盗用后做为一种取证和维权的手段。
可见水印是指加在视频中,能够被肉眼所观察到的水印,这种水印能够对非法盗用、拷贝等现象起到非常好的警示作用。如果在可见水印中加入商标等信息,就可在视频播放的同时向观看者显示视频的版权信息。
目前非常常见的一种数字视频可见水印便是各大视频网站的可见水印。例如爱奇艺,bilibili等视频网站会在自己所拥有版权的视频中的右上角打上自己的商标,并通过这种方法来明示自己视频的所有权。如果盗取者直接盗取网站上的这些加过水印的视频,并把它们放到其他网站上播放,那么视频中所带的可见水印信息也同样会显示出来。在此情况下,观看者能通过水印明确知道该视频是否为盗版视频,若为盗版视频,观众也能知道真正原版拥有者信息,从而找到原版视频进行观看。可见水印也为原版视频拥有者维权提供了强有力的证据,通过视频上的水印信息可以证明视频的所有权,并以此来维护自己的权益。
但上述可见水印颜色固定,在显示水印的地方会将原始视频中的内容进行覆盖,一定程度上影响了观看者的观看体验。且因为这种可见水印颜色固定,而水印所在区域背景颜色是随着视频内容实时变化的,因此在背景颜色与水印颜色相接近的情况下水印的可见性并不是很好。这类水印在嵌入的过程中为了尽可能不去影响视频观看效果,从而选择在一般不出现重要内容的视频的右上角加入水印信息,且水印形状一般很小。这就为视频盗取者提供了可乘之机,这样加入的水印很容易被剪裁掉,致使水印信息完全丢失。
发明内容
目前的数字视频可见水印会在水印所在区域遮挡视频原有内容,致使视频的观看效果降低。本发明的目地旨在实现一种类似于“图像钢印”的数字视频可见水印,在不遮挡视频原有颜色信息的情况下,为视频打上可靠的可见水印。以此来实现对视频版权保护的同时减少水印对观看效果的影响。因为水印的观看效果类似于“图像钢印”,因此本发明称此种数字视频水印方法为数字视频钢印。
本发明对此方法所产生的数字视频钢印,实现了一种能够有效提取此种钢印的算法。
为达到上述目地,本发明提出一种数字视频钢印的嵌入和提取方法,包括以下步骤:
添加钢印:步骤1:钢印图像预处理
步骤2.1:视频解码,提取出每一帧图像
步骤2.1:将水印以“钢印”的形式嵌入到每一帧图像里
步骤3:将处理完的图像进行视频编码
提取钢印:步骤1:选取视频中要提取钢印的位置
步骤2:将视频解码,提取出每一帧图像的钢印
步骤3:将提取出的所有钢印融合并加工,形成最后的钢印图像。
有益效果
本发明的关键之处在于,通过模仿钢印打在图像上所带给人的视觉效果,来对待添加水印的视频进行处理。本发明并没有选择将水印覆盖到视频中,或简单的与视频融合在一起。而是根据水印的形状和结构信息,去改变视频中相应位置的RGB值和饱和度值,改变之后的效果就如同钢印“印”在了视频中一样。钢印所在位置并不会遮挡视频本身的颜色信息,视频的观看效果受到了很好的保障。
本发明对此种数字视频钢印嵌入方法,设计了与之相搭配的钢印提取算法。提取出的钢印为二值图像,在发现视频盗取行为后,可为后续的取证维权提供帮助。
附图说明
图1为本发明实例的数字视频钢印的嵌入及提取流程图
图2为数字视频钢印的嵌入流程图
图3为本发明实例的钢印图像预处理示意图
图4为将处理后的钢印图像添加进视频中的流程图
图5为原视频截图
图6为对应图5视频加入钢印后的截图
图7为原视频截图
图8为对应图7视频加入钢印后的截图
图9为原视频截图
图10为对应图9视频加入钢印后的截图
图11为数字视频钢印提取流程图
图12为本发明实例对钢印提取效果示意图
具体实施方式
下面详细描述本发明的实例,所述实例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实例是示例性的,仅用于解释本发明,而不能解释为对本发明的限制。
如图1所示,本发明对数字视频嵌入了不遮挡视频原颜色信息的数字钢印,并对此种嵌入方法,设计了与之搭配的钢印提取算法,具体实施步骤如下:
添加钢印:
步骤1:钢印图像预处理,如图2所示首先要读取做为钢印加入视频中的图像。为了使钢印图像满足算法要求,需要对原图像进行预处理。因为图像在变为钢印加入视频时,不加入原始图像的颜色信息,只需要原图像的形状及结构信息,因此首先需要对图像进行二值化处理,去掉图像中的颜色信息,只保留图像中形状和结构信息。在进行二值化处理时一个良好的阈值可以有效的区分图像中的内容,将图像分割为内容和背景两部分。在本发明中采用迭代法寻找图像的阈值,然后根据得到的阈值将图像二值化,将背景变为黑色像素值为0,钢印内容变为白色像素值为255。提取二值化图像的边缘,边缘为白色像素值为255,其余非边缘区域为黑色像素值为0,用膨胀算法强化此边缘,膨胀操作内核为2*2像素的矩形,膨胀操作一次。最后将边缘图像与二值化图像按照公式(1)融合在一起得到钢印图像。
Wm(x,y)=0.3B(x,y)+0.7E(x,y) (1)
其中(x,y)为以图像左上角为坐标原点的坐标,Wm(x,y)为融合后得到的钢印图像在(x,y)处像素值。B(x,y)为二值图像在(x,y)处像素值。E(x,y)为边缘图像在(x,y)处像素值。
如图3所示,展示了本发明实例的钢印图像预处理的示意图。
图4为将此钢印图像添加进视频中的流程图。
步骤2.1:首先将视频解封装,提取出原视频中的视频流与音频流,读取原视频中视频流帧率,视频流编码格式,视频封装格式的信息。然后将视频解码,得到视频中每一帧的图像。
步骤2.2:本实例中将钢印打在了视频的左上角。本实例中解码后图像为YUV格式,需要将其转化为RGB格式。然后在RGB颜色空间上调整视频图像的像素值。在本发明中将视频图像钢印区域分为两种情况,暗区域与亮区域。判断依据是像素总和S(x,y)。S(x,y)由公式(2)求得。
S(x,y)=Pr(x,y)+Pg(x,y)+Pb(x,y) (2)
其中S(x,y)为在(x,y)处像素总和,Pr(x,y)为红色通道图像在(x,y)处像素值,Pg(x,y)为绿色通道图像在(x,y)处像素值,Pb(x,y)为蓝色通道图像在(x,y)处像素值。
如果S(x,y)>360则判断该区域为亮区域,反之则判断为暗区域。再根据钢印图像Wm的形状和结构改变视频流中提取出的图像的像素值,式(3),式(4)为调整红色通道图像像素的计算方法,绿色与蓝色通道图像调整方法与红色通道方法一致。
Figure BDA0001860089500000051
Figure BDA0001860089500000052
P’r(x,y)为改变之后图像在红色通道(x,y)处的像素值。
按照红色通道的像素值计算方式,计算出绿色和蓝色通道的像素值,根据计算出的像素值改变绿色和蓝色通道图像。然后将三通道图像合并,得到调整过像素值的RGB图像。
然后将RGB颜色空间图像转换为HSV颜色空间图像,调整视频钢印区域饱和度,在本实例中饱和度的取值范围为0~255。饱和度调整算法如公式(5)
Figure BDA0001860089500000061
其中S’(x,y)为改变之后图像(x,y)处饱和度值,S(x,y)为改变之前图像(x,y)处饱和度值。
然后将得到的HSV颜色空间图像转化为原视频解码后所产生的图像格式,本实例为YUV格式。得到最终打完钢印的一帧图像
步骤3:将添加钢印后的图像按照原帧率和编码格式进行编码,然后将视频流与音频流放在一起按照原封装格式进行封装,最后得到可以被视频播放器播放的视频文件。
本实例采用一段动漫视频来做实验,图5、图7、图9,为原视频截图图像。图6、图8、图10分别对应图5、图7、图9,为视频添加完钢印的效果截图。从图6、图8、图10中可以看出数字视频钢印不遮挡视频原有颜色信息。可以很好的保护视频观看者的观看体验。且在视频中钢印具有良好的可见性,能对非法盗用者起到警示作用,并对视频的观看者显示版权信息。
提取钢印:
步骤1:如图11所示,提取钢印第一步要确定钢印在视频中的位置和大小。本实例中钢印在视频中的左上角,大小为270像素*270像素。
步骤2.1:提取钢印需要将视频解封装,解码,提取出视频中的每一帧图像。
步骤2.2:将每一帧图像钢印所在区域图像截取出来,并将截取出来的图转化为灰度图,用高斯滤波器对图像进行平滑处理,然后用canny算子提取边缘信息。通过此方法提取出单张图像的钢印图像。
步骤3:简单的用canny算子提取图像边缘会引入图像中的背景噪声。因为视频中图片的背景内容是多变的,导致噪声的种类也是多种多样的。针对每一张图去除噪声较为困难。因此本发明将视频中提取出的钢印进行融合,每张钢印图像所占融合图像的比例是一致的,融合得到的钢印图像在弱化每张图像噪声的同时,也强化了钢印的真实边缘信息。最后将融合得到的图像进行二值化处理,彻底去除背景噪声,得到最终提取出的钢印图像。图12为上述处理中视频提取钢印流程示意图,第一张图为单张图像提取后的效果图,可以看出钢印信息并不明显且含有一定噪声,中间4张图为钢印提取后融合所得图像,融合图像的个数随箭头所指方向增加,可以看出背景噪音随着融合图像数量的增加而淡化,钢印的边缘信息随着融合图像数量的增加而增强。最后一张图像为二值化处理得到的最终结果图,二值化将背景噪音去除,且保留了真实钢印信息。

Claims (2)

1.一种数字视频钢印的嵌入和提取方法,其特征在于,具体实施步骤如下:
添加钢印:
步骤1:钢印图像预处理,首先需要对图像进行二值化处理,去掉图像中的颜色信息,只保留图像中形状和结构信息;
采用迭代法寻找图像的阈值,然后根据得到的阈值将图像二值化,将背景变为黑色像素值为0,钢印内容变为白色像素值为255;提取二值化图像的边缘,边缘为白色像素值为255,其余非边缘区域为黑色像素值为0,用膨胀算法强化此边缘,膨胀操作内核为2*2像素的矩形,膨胀操作一次;最后将边缘图像与二值化图像按照公式(1)融合在一起得到钢印图像;
Wm(x,y)=0.3B(x,y)+0.7E(x,y) (1)
其中(x,y)为以图像左上角为坐标原点的坐标,Wm(x,y)为融合后得到的钢印图像在(x,y)处像素值;B(x,y)为二值图像在(x,y)处像素值;E(x,y)为边缘图像在(x,y)处像素值;
将此钢印图像添加进视频,具体步骤如下:
步骤2.1:首先将视频解封装,提取出原视频中的视频流与音频流,读取原视频中视频流帧率,视频流编码格式,视频封装格式的信息;然后将视频解码,得到视频中每一帧的图像;
步骤2.2:解码后得到的图像如果不是RGB格式,需要将其转化为RGB格式;并将原图像格式信息保存下来;然后在RGB颜色空间上调整视频图像的像素值;
将视频图像钢印区域分为两种情况,暗区域与亮区域;判断依据是像素总和Pix(x,y);Pix(x,y)由公式(2)求得;
Pix(x,y)=Pr(x,y)+Pg(x,y)+Pb(x,y) (2)
其中Pix(x,y)为在(x,y)处像素总和,Pr(x,y)为红色通道图像在(x,y)处像素值,Pg(x,y)为绿色通道图像在(x,y)处像素值,Pb(x,y)为蓝色通道图像在(x,y)处像素值;
如果Pix(x,y)>360则判断该区域为亮区域,反之则判断为暗区域;再根据钢印图像Wm的形状和结构改变视频流中提取出的图像的像素值,式(3),式(4)为调整红色通道图像像素的计算方法,绿色与蓝色通道图像调整方法与红色通道方法一致;
Figure FDA0002845505620000021
Figure FDA0002845505620000022
P’r(x,y)为改变之后图像在红色通道(x,y)处的像素值;
按照红色通道的像素值计算方式,计算出绿色和蓝色通道的像素值,根据计算出的像素值改变绿色和蓝色通道图像;然后将三通道图像合并,得到调整过像素值的RGB图像;
然后将RGB颜色空间图像转换为HSV颜色空间图像,调整视频钢印区域饱和度,饱和度的取值范围为0~255;饱和度调整算法如公式(5)
Figure FDA0002845505620000023
其中S’(x,y)为改变之后图像(x,y)处饱和度值,S(x,y)为改变之前图像(x,y)处饱和度值;
然后将得到的HSV颜色空间图像转化为原视频解码后所产生的图像格式,得到最终打完钢印的一帧图像
步骤3:将添加钢印后的图像按照原帧率和编码格式进行编码,然后将视频流与音频流放在一起按照原封装格式进行封装,最后得到能被视频播放器播放的视频文件;
然后提取钢印。
2.根据权利要求1的方法,其特征在于,提取钢印包括以下步骤:
步骤1:确定钢印在视频中的位置和大小;
步骤2.1:将视频解封装,解码,提取出视频中的每一帧图像;
步骤2.2:将每一帧图像钢印所在区域图像截取出来,并将截取出来的图转化为灰度图,用高斯滤波器对图像进行平滑处理,然后用canny算子提取边缘信息;通过此方法提取出单张图像的钢印图像;
步骤3:将视频中提取出的钢印进行融合,每张钢印图像所占融合图像的比例是一致的,融合得到的钢印图像在弱化每张图像噪声的同时,也强化了钢印的真实边缘信息;最后将融合得到的图像进行二值化处理,彻底去除背景噪声,得到最终提取出的钢印图像。
CN201811331353.4A 2018-11-09 2018-11-09 一种数字视频钢印的嵌入和提取方法 Active CN109474830B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811331353.4A CN109474830B (zh) 2018-11-09 2018-11-09 一种数字视频钢印的嵌入和提取方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811331353.4A CN109474830B (zh) 2018-11-09 2018-11-09 一种数字视频钢印的嵌入和提取方法

Publications (2)

Publication Number Publication Date
CN109474830A CN109474830A (zh) 2019-03-15
CN109474830B true CN109474830B (zh) 2021-02-26

Family

ID=65672145

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811331353.4A Active CN109474830B (zh) 2018-11-09 2018-11-09 一种数字视频钢印的嵌入和提取方法

Country Status (1)

Country Link
CN (1) CN109474830B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111833231B (zh) * 2019-04-15 2023-02-10 阿里巴巴集团控股有限公司 一种水印提取方法、装置及系统
CN113284035A (zh) * 2021-06-01 2021-08-20 江苏鑫合易家信息技术有限责任公司 一种生成具有二维码水印动态图片的系统及其方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101155249A (zh) * 2006-09-28 2008-04-02 富士通株式会社 电子水印嵌入装置和电子水印检测装置
CN102750660A (zh) * 2012-06-08 2012-10-24 北京京北方信息技术有限公司 一种嵌入和提取数字水印的方法和装置
CN103996163A (zh) * 2014-05-29 2014-08-20 深圳大学 一种数字水印嵌入、提取方法、嵌入、提取装置以及系统
CN105631797A (zh) * 2015-12-24 2016-06-01 小米科技有限责任公司 水印添加方法及装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9449357B1 (en) * 2012-08-24 2016-09-20 Digimarc Corporation Geometric enumerated watermark embedding for spot colors

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101155249A (zh) * 2006-09-28 2008-04-02 富士通株式会社 电子水印嵌入装置和电子水印检测装置
CN102750660A (zh) * 2012-06-08 2012-10-24 北京京北方信息技术有限公司 一种嵌入和提取数字水印的方法和装置
CN103996163A (zh) * 2014-05-29 2014-08-20 深圳大学 一种数字水印嵌入、提取方法、嵌入、提取装置以及系统
CN105631797A (zh) * 2015-12-24 2016-06-01 小米科技有限责任公司 水印添加方法及装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
基于小波变换的彩色图像多分量水印嵌人算法;孙光民等;《北京工业大学学报》;20080531;全文 *
数字水印技术及其在数字博物馆中的应用研究;樊亚春;《中国优秀硕士学位论文全文数据库》;20030331;全文 *

Also Published As

Publication number Publication date
CN109474830A (zh) 2019-03-15

Similar Documents

Publication Publication Date Title
US7853040B2 (en) Covert and robust mark for media identification
Queluz Authentication of digital images and video: Generic models and a new contribution
Roy et al. Evaluating image steganography techniques: Future research challenges
CN108055493B (zh) 在视频图像中嵌入水印的方法及装置
US20120155755A1 (en) System for embedding data
CN109474830B (zh) 一种数字视频钢印的嵌入和提取方法
CN111223032A (zh) 水印嵌入和水印提取方法、装置及设备和数据处理方法
CN112579993A (zh) 一种基于水印底纹的抗屏摄攻击的溯源取证系统及方法
KR100522049B1 (ko) 프레임 평균을 이용한 실시간 비디오 워터마크 삽입 및추출 방법
US9959906B2 (en) Method and a receiver device configured to mark digital media content
CN111612683A (zh) 数据处理方法及系统
KR102180924B1 (ko) Qr 코드를 이용한 디지털 워터마크 삽입 및 추출 시스템 및 방법
Vashistha et al. Watermarking video content using visual cryptography and scene averaged image
CN115270084A (zh) 一种基于截图信息保护的盲水印加密实现方法
Qian-lan The blind detection of information hiding in color image
CN114205644A (zh) 基于帧内差的空域鲁棒视频水印嵌入与提取方法
Aliwa et al. Robust digital watermarking based falling-off-boundary in corners board-MSB-6 gray scale images
GB2377108A (en) Watermarking by replicating a bit plane in two or more frames
CN111510776A (zh) 水印标识插入与提取的方法及系统
Chareyron et al. Watermarking and authentication of color images based on segmentation of the xyZ color space
Hsieh et al. Imperceptible visible watermarking scheme using color distribution modulation
Fujimura et al. Application of saliency map to restraint scheme of attack to digital watermark using seam carving
Shukla et al. A Review on Digital Watermarking Techniques, Applications and Attacks
Rattanacharuchinda et al. Image watermarking for high dynamic range images
WO2024040474A1 (zh) 加密图像水印处理方法及装置、显示设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant