CN111787300B - Vr视频的处理方法、装置及电子设备 - Google Patents

Vr视频的处理方法、装置及电子设备 Download PDF

Info

Publication number
CN111787300B
CN111787300B CN202010748086.1A CN202010748086A CN111787300B CN 111787300 B CN111787300 B CN 111787300B CN 202010748086 A CN202010748086 A CN 202010748086A CN 111787300 B CN111787300 B CN 111787300B
Authority
CN
China
Prior art keywords
video
image
distortion
processed
model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010748086.1A
Other languages
English (en)
Other versions
CN111787300A (zh
Inventor
鲁方波
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Kingsoft Cloud Network Technology Co Ltd
Original Assignee
Beijing Kingsoft Cloud Network Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Kingsoft Cloud Network Technology Co Ltd filed Critical Beijing Kingsoft Cloud Network Technology Co Ltd
Priority to CN202010748086.1A priority Critical patent/CN111787300B/zh
Publication of CN111787300A publication Critical patent/CN111787300A/zh
Application granted granted Critical
Publication of CN111787300B publication Critical patent/CN111787300B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/122Improving the 3D impression of stereoscopic images by modifying image signal contents, e.g. by filtering or adding monoscopic depth cues
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/139Format conversion, e.g. of frame-rate or size
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)

Abstract

本发明提供了一种VR视频的处理方法、装置及电子设备,该方法包括获取待处理VR视频;通过预先训练好的多个图像失真修复模型,分别对该待处理VR视频进行修复处理,得到多个修复后的VR视频;确定每种图像失真类型对该待处理VR视频造成的失真程度;根据该失真程度对上述多个修复后的VR视频进行加权融合,得到处理后的VR视频。本发明实施例通过图像失真修复模型分别对待处理的VR视频进行不同图像失真类型的修复处理,再结合不同图像失真类型对该VR视频的失真贡献的比重,对修复处理得到的视频进行加权融合,得到最终的VR视频,该方式对VR视频的所有画面区域均进行了修复,具有更好的泛化性,且实施成本也更加低廉。

Description

VR视频的处理方法、装置及电子设备
技术领域
本发明涉及图像处理技术领域,尤其是涉及一种VR视频的处理方法、装置及电子设备。
背景技术
随着VR技术的发展,用户对VR设备提供的视频画质的清晰度的要求也越来越高。目前,视频超分辨率技术被用于提升视频或图像的分辨率和画质。但是,由于VR视频本身的畸变较大,以及画面质量分布不均匀等特点,相关技术中的视频超分辨率方法在VR视频场景中仍无法取得较为满意的效果。
发明内容
有鉴于此,本发明的目的在于提供一种VR视频的处理方法、装置及电子设备,可以降低对VR视频进行超分辨率处理的成本,并且超分处理得到的VR视频具有更优的泛化性。
第一方面,本发明实施例提供了一种VR视频的处理方法,包括:获取待处理VR视频;通过预先训练好的多个图像失真修复模型,分别对该待处理VR视频进行修复处理,得到多个修复后的VR视频;其中,每个失真修复模型用于修复该待处理VR视频的一种图像失真类型,且不同的图像失真修复模型对应的图像失真类型不同;确定每种图像失真类型对该待处理VR视频造成的失真程度;根据该失真程度对上述多个修复后的VR视频进行加权融合,得到处理后的VR视频。
在本发明较佳的实施例中,上述多个图像失真修复模型包括:图像去模糊模型和图像去畸变模型;该图像去模糊模型对应的图像失真类型为图像模糊,该图像去模糊模型用于对图像进行去模糊处理,得到清晰度优化的图像;该图像去畸变模型对应的图像失真类型为图像畸变,该图像去畸变模型用于对图像进行去畸变处理,得到清晰度优化的图像。
在本发明较佳的实施例中,上述图像去模糊模型通过下述方式训练得到:获取预设的第一初始VR视频;对该第一初始VR视频的图像帧进行缩放和模糊处理,得到分辨率降低的第一VR视频;以分辨率降低的该第一VR视频和该第一初始VR视频为训练集,训练预设的神经网络,得到图像去模糊模型。
在本发明较佳的实施例中,上述对该第一初始VR视频的图像帧进行缩放和模糊处理,得到分辨率降低的第一VR视频的步骤,包括:按预设第一缩放倍数,对该第一初始VR视频的每一帧图像进行缩放,得到缩放后的VR视频;对缩放后的该VR视频进行高斯模糊处理,得到分辨率降低的第一VR视频。
在本发明较佳的实施例中,上述以分辨率降低的该第一VR视频和该第一初始VR视频为训练集,训练预设的神经网络,得到图像去模糊模型的步骤,包括:以分辨率降低的该第一VR视频为预设神经网络的输入,以该第一初始VR视频为该神经网络的输出,训练该神经网络,直至满足预设的训练终止条件,得到训练好的图像去模糊模型。
在本发明较佳的实施例中,上述图像去畸变模型通过下述方式训练得到:获取预设的第二初始VR视频;对该第二初始VR视频的图像帧进行缩放和畸变处理,得到分辨率降低的第二VR视频;以分辨率降低的该第二VR视频和该第二初始VR视频为训练集,训练预设的神经网络,得到图像去畸变模型。
在本发明较佳的实施例中,上述对该第二初始VR视频的图像帧进行缩放和畸变处理,得到分辨率降低的第二VR视频的步骤,包括:按预设第二缩放倍数,对该第二初始VR视频的每一帧图像进行缩放,得到缩放后的VR视频;对缩放后的该VR视频进行桶形畸变处理,得到分辨率降低的第二VR视频。
在本发明较佳的实施例中,上述确定每种该图像失真类型对该待处理VR视频造成的失真程度的步骤,包括:获取该待处理VR视频的图像帧中每个像素点的纬度值;该纬度值为该像素点和观看点的连线与水平面的夹角;根据该纬度值,确定每种该图像失真类型对该待处理VR视频造成的失真程度。
在本发明较佳的实施例中,上述多个图像失真修复模型包括图像去模糊模型和图像去畸变模型,该图像去模糊模型对应的图像失真类型为图像模糊,该图像去畸变模型对应的图像失真类型为图像畸变;上述根据该纬度值,确定每种该图像失真类型对该待处理VR视频造成的失真程度的步骤,包括:将该纬度值的余弦值,确定为图像模糊对该待处理VR视频造成的失真程度;将1减去该余弦值得到的值,确定为图像畸变对该待处理VR视频造成的失真程度。
在本发明较佳的实施例中,上述根据该失真程度对该多个修复后的VR视频进行加权融合,得到处理后的VR视频的步骤,包括:根据该失真程度,对该多个修复后的VR视频中每个视频在t时刻的图像帧进行加权融合,得到t时刻融合后的视频图像;根据融合后的该视频图像得到融合处理后的VR视频。
在本发明较佳的实施例中,上述多个图像失真修复模型包括图像去模糊模型和图像去畸变模型;上述根据该失真程度,对该多个修复后的VR视频中每个视频在t时刻的图像帧进行加权融合,得到t时刻融合后的视频图像的运算公式,包括:V=w1*V1+w2*V2;其中,w1=cosα,w2=1-cosα;式中,V表示t时刻融合后的视频图像;V1表示该待处理VR视频通过该图像去模糊模型修复后的VR视频图像在t时刻的图像帧,w1表示图像模糊对该待处理VR视频造成的失真程度,V2表示该待处理VR视频通过该图像去畸变模型修复后的VR视频图像在t时刻的图像帧,w2表示图像畸变对该待处理VR视频造成的失真程度,α为该待处理VR视频的图像帧中每个像素点的纬度值。
第二方面,本发明实施例还提供了一种VR视频的处理装置,包括:待处理VR视频获取模块,用于获取待处理VR视频;图像失真修复模型处理模块,用于通过预先训练好的多个图像失真修复模型,分别对该待处理VR视频进行修复处理,得到多个修复后的VR视频;其中,每个失真修复模型用于修复该待处理VR视频的一种图像失真类型,且不同的图像失真修复模型对应的图像失真类型不同;失真程度确定模块,用于确定每种图像失真类型对该待处理VR视频造成的失真程度;加权融合模块,用于根据该失真程度对上述多个修复后的VR视频进行加权融合,得到处理后的VR视频。
第三方面,本发明实施例还提供了一种电子设备,该电子设备包括处理器和存储器,该存储器存储有能够被该处理器执行的计算机可执行指令,该处理器执行该计算机可执行指令以实现上述VR视频的处理方法。
第四方面,本发明实施例还提供了一种计算机可读存储介质,该计算机可读存储介质存储有计算机可执行指令,该计算机可执行指令在被处理器调用和执行时,计算机可执行指令促使处理器实现上述VR视频的处理方法。
本发明实施例带来了以下有益效果:
本发明实施例提供的一种VR视频的处理方法、装置及电子设备,获取待处理VR视频;通过预先训练好的多个图像失真修复模型,分别对该待处理VR视频进行修复处理,得到多个修复后的VR视频;其中,每个失真修复模型用于修复该待处理VR视频的一种图像失真类型,且不同的图像失真修复模型对应的图像失真类型不同;确定每种图像失真类型对该待处理VR视频造成的失真程度;根据该失真程度对上述多个修复后的VR视频进行加权融合,得到处理后的VR视频。该方式中,通过图像失真修复模型分别对待处理的VR视频进行不同图像失真类型的修复处理,再结合不同图像失真类型对该VR视频的失真贡献的比重,对修复处理得到的视频进行加权融合,得到最终的VR视频,该方式对VR视频的所有画面区域均进行了修复,具有更好的泛化性,且实施成本也更加低廉;并且,通过多种不同图像失真类型的修复,并结合各个图像失真类型对图像失真的实际贡献,分配加权权重以进行视频融合,进一步优化了修复得到的VR视频图像的画质,缓解了VR视频画质分布不均的问题。
本公开的其他特征和优点将在随后的说明书中阐述,或者,部分特征和优点可以从说明书推知或毫无疑义地确定,或者通过实施本公开的上述技术即可得知。
为使本公开的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本发明具体实施方式或现有技术中的技术方案,下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施方式,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的一种VR视频的处理方法的流程示意图;
图2为本发明实施例提供的一种VR视频投影示意图;
图3为本发明实施例提供的某个像素点在视频图像帧中的纬度值的示意图;
图4为本发明实施例提供的另一种VR视频的处理方法的流程示意图;
图5为本发明实施例提供的一种VR视频的处理装置的结构示意图;
图6为本发明实施例提供的一种电子设备的结构示意图。
图标:31-像素点;32-观看点;33-图像帧;51-待处理VR视频获取模块;52-图像失真修复模型处理模块;53-失真程度确定模块;54-加权融合模块;61-处理器;62-存储器;63-总线;64-通信接口。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合附图对本发明的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
随着VR显示设备地快速发展,其可支持的视频分辨率和像素值也越来越高。然而,在现有媒体及网络中,可获取的VR视频的分辨率和清晰度较低,无法很好的匹配现有高清设备,使得用户观看到的主观画质较差。另外,受拍摄环境及VR拍摄成本的限制,现阶段仍无法大批量拍摄高清VR视频。目前,为了提升VR视频的画质,通常使用视频超分辨率技术对VR视频进行超分处理。
考虑到现有VR视频超分辨率处理方式的处理成本较高,且超分处理得到的VR视频泛化性较差的问题,本发明实施例提供的一种VR视频的处理方法、装置及电子设备,该技术可以应用于VR视频显示终端、VR视频拍摄终端,以及其他需要对VR视频进行画质提升处理的设备或应用场景中。为便于对本实施例进行理解,首先对本发明实施例所公开的一种VR视频的处理方法进行详细介绍。
参见图1,所示为本发明实施例提供的一种VR视频的处理方法的流程示意图,由图1可见,该方法包括以下步骤:
步骤S102:获取待处理VR视频。
这里,VR视频也即虚拟现实视频,其通常是通过彼此分开的多个摄像机进行拍摄,从而可以捕获左眼和右眼之间的差异,然后再将拍摄的视频拼合在一起,从而创建出更接近于现实世界的影像。其中,用户在观看VR视频时,通常可以360度沉浸在视频内容中,达到身临其境的效果,与普通2D视频相比,VR视频使用户可以多角度的观看。
在本实施例中,该待处理的VR视频可以是已有的旧VR视频,例如之前用较低配置的VR摄像设备拍摄的VR视频,从而可以对其进行再加工处理,以提升其画质,丰富高品质的VR视频资源;并且,该待处理的VR视频也可以是实时拍摄的VR视频,从而对拍摄的视频画质进行实时处理,输出画质增强的VR视频。
步骤S104:通过预先训练好的多个图像失真修复模型,分别对该待处理VR视频进行修复处理,得到多个修复后的VR视频;其中,每个失真修复模型用于修复该待处理VR视频的一种图像失真类型,且不同的图像失真修复模型对应的图像失真类型不同。
在实际操作中,VR视频的图像失真类型有多种,例如图像模糊、图像畸变、图像噪声等等,一个清晰度较差或者画质较差的VR视频,可能是其中一种或多种图像失真类型的引起。
在本实施例中,通过深度学习的方式预先训练多个图像失真修复模型,其中,每个失真修复模型用于修复该待处理VR视频的一种图像失真类型,并且,各个图像失真修复模型对应的图像失真类型彼此不同。这里,上述多个图像失真修复模型可以是图像去模糊模型、图像去畸变模型、图像去噪声模型等模型中的两个或多个。
对于上述待处理VR视频,分别通过上述多个图像失真修复模型进行修复处理,相应得到多个修复后的VR视频。
步骤S106:确定每种图像失真类型对该待处理VR视频造成的失真程度。
对于一个特定的VR视频,造成其图像失真的因素可能有多个,例如,在VR视频的拍摄中,投影后的VR视频的视频图像的畸变程度从赤道到两极逐渐增大,而图像的模糊程度则表现为从赤道到两极逐渐减小。如图2所示,为一种VR视频投影示意图,由图2可见,南北极的像素在投影后被拉伸,相比赤道附近的畸变程度更大;同时,南北极的像素密度相比赤道附近的像素密度更高,因而赤道附近的图像模糊度更大。
在其中一种可能的实施方式中,可以通过下述步骤11-12确定每种该图像失真类型对该待处理VR视频造成的失真程度:
(11)获取该待处理VR视频的图像帧中每个像素点的纬度值;该纬度值为该像素点和观看点的连线与水平面的夹角。
这里,参见图3,所示为某个像素点在视频图像帧中的纬度值的示意图,其中,观看点32即是人眼观看的位置,当人眼从该观看点32观看VR视频时,对于某一时刻图像帧33,在该图像帧33上显示的像素点31和观看点32之间的连线与水平面的夹角即为该像素点31对应的纬度值(如图3中的α)。
(12)根据该纬度值,确定每种该图像失真类型对该待处理VR视频造成的失真程度。
由图2可知,VR视频的视频图像的畸变程度从赤道到两极逐渐增大,而图像的模糊程度则表现为从赤道到两极逐渐减小,可见,图像帧中不同位置的像素点其畸变程度和模糊程度不同。
这里,根据图像帧中每个像素点的纬度值,确定每种该图像失真类型对该待处理VR视频造成的失真程度。例如,可以设置图像模糊这一图像失真类型对应的失真程度与该纬度值成反比关系,并且设置图像畸变对应的失真程度与该纬度值成正比关系。
步骤S108:根据该失真程度对上述多个修复后的VR视频进行加权融合,得到处理后的VR视频。
这里,对于多个修复后的VR视频的加权融合,是指针对视频中每一帧对应视频图像进行加权融合。其中,视频图像融合由智能度从低到高可以分为像素级融合、特征级融合、决策级融合等。具体地,像素级融合指基于图像像素进行拼接融合,是两个或两个以上的图像融合成为一个整体。特征级融合以图形的明显特征,如线条、建筑等特征为基础进行图像的拼接与融合。决策级融合使用贝叶斯法、D-S证据法等数学算法进行概率决策,依此进行视频或图像融合,更适应于主观要求。
在至少一种可能的实施方式中,可以通过下述步骤21-22对该多个修复后的VR视频进行加权融合:
(21)根据该失真程度,对该多个修复后的VR视频中每个视频在t时刻的图像帧进行加权融合,得到t时刻融合后的视频图像;
例如,可以根据该失真程度对上述多个修复后的VR视频在t时刻的图像帧进行简单加权融合,也即通过像素加权平均法(Weighted Averaging,WA)进行融合,它具有简单易实现、运算速度快的优点,并能提高融合图像的信噪比。
(22)根据融合后的该视频图像得到融合处理后的VR视频。
根据上述图像融合方法遍历VR视频中的每一图像帧,即得到融合处理后的VR视频。
本发明实施例提供的一种VR视频的处理方法,获取待处理VR视频;通过预先训练好的多个图像失真修复模型,分别对该待处理VR视频进行修复处理,得到多个修复后的VR视频;其中,每个失真修复模型用于修复该待处理VR视频的一种图像失真类型,且不同的图像失真修复模型对应的图像失真类型不同;确定每种图像失真类型对该待处理VR视频造成的失真程度;根据该失真程度对上述多个修复后的VR视频进行加权融合,得到处理后的VR视频。该方式中,通过图像失真修复模型分别对待处理的VR视频进行不同图像失真类型的修复处理,再结合不同图像失真类型对该VR视频的失真贡献的比重,对修复处理得到的视频进行加权融合,得到最终的VR视频,该方式对VR视频的所有画面区域均进行了修复,具有更好的泛化性,且实施成本也更加低廉;并且,通过多种不同图像失真类型的修复,并结合各个图像失真类型对图像失真的实际贡献,分配加权权重以进行视频融合,进一步优化了修复得到的VR视频图像的画质,缓解了VR视频画质分布不均的问题。
在图1所示VR视频的处理方法的基础上,本实施例结合实际应用中最为常见的两种图像失真类型(图像模糊和图像畸变),对VR视频的处理过程进行了介绍。
如图4所示,其为另一种VR视频的处理方法的流程示意图,其中,该方法包括下述步骤:
步骤S202:获取待处理VR视频。
本实施例的步骤S202对应上述实施例中的步骤S102,相应内容的描述可以参考前述实施例的对应部分,在此不再赘述。
步骤S204:通过预先训练好的图像去模糊模型和图像去畸变模型,分别对该待处理VR视频进行修复处理,得到对应修复后的VR视频,该图像去模糊模型对应的图像失真类型为图像模糊,该图像去畸变模型对应的图像失真类型为图像畸变。
在本实施例中,该图像去模糊模型用于对图像进行去模糊处理,该图像去畸变模型用于对图像进行去畸变处理,并相应得到清晰度优化的图像。
在其中一种可能的实施方式中,上述图像去模糊模型可以通过下述步骤31-33训练得到:
(31)获取预设的第一初始VR视频。
(32)对该第一初始VR视频的图像帧进行缩放和模糊处理,得到分辨率降低的第一VR视频。
这里,对图像帧的缩放处理和模糊处理的先后顺序可以调整。在至少一种可能的实施方式中,可以首先按预设第一缩放倍数,对该第一初始VR视频的每一帧图像进行缩放,得到缩放后的VR视频;然后,对缩放后的该VR视频进行高斯模糊处理,得到分辨率降低的第一VR视频。
其中,上述第一缩放倍数可以是预先设定的该图像去模糊模型的超分辨率倍数,例如,假设设计该图像去模糊模型的超分辨率倍数为5倍,则相应地对第一初始VR视频的每一帧图像进行缩小5倍。并且,对缩放后的该VR视频进行模糊处理的方式还可以是普通模糊处理、动感模糊处理等方式,在此不作限定。
(33)以分辨率降低的该第一VR视频和该第一初始VR视频为训练集,训练预设的神经网络,得到图像去模糊模型。
这里,可以以分辨率降低的该第一VR视频为预设神经网络的输入,以该第一初始VR视频为该神经网络的输出,训练该神经网络,直至满足预设的训练终止条件,得到训练好的图像去模糊模型。其中,该训练终止条件可以是达到预设训练时间,或者该神经网络收敛程度达到预设要求等等。
相似地,上述图像去畸变模型可以通过下述步骤41-43训练得到:
(41)获取预设的第二初始VR视频。
(42)对该第二初始VR视频的图像帧进行缩放和畸变处理,得到分辨率降低的第二VR视频。
这里,可以按预设第二缩放倍数,对该第二初始VR视频的每一帧图像进行缩放,得到缩放后的VR视频;然后,对缩放后的该VR视频进行桶形畸变处理,得到分辨率降低的第二VR视频。
其中,上述第二缩放倍数可以是预先设定的该图像去畸变模型的超分辨率倍数。并且,对缩放后的VR视频的畸变处理还可以是球形畸变等方式,在此不作限定。
(43)以分辨率降低的该第二VR视频和该第二初始VR视频为训练集,训练预设的神经网络,得到图像去畸变模型。
这里,对图像去畸变模型的训练可以参考前述对图像去模糊模型的相应内容,在此不再赘述。
步骤S206:确定上述两种图像失真类型对该待处理VR视频造成的失真程度。
这里,可以首先获取该待处理VR视频的图像帧中每个像素点的纬度值;该纬度值为该像素点和观看点的连线与水平面的夹角;然后,根据该纬度值,确定每种该图像失真类型对该待处理VR视频造成的失真程度。
在至少一种可能的实施方式中,可以将上述纬度值的余弦值,确定为图像模糊对该待处理VR视频造成的失真程度;并且,将1减去该余弦值得到的值,确定为图像畸变对该待处理VR视频造成的失真程度。
步骤S208:根据该失真程度对上述修复后的两个VR视频进行加权融合,得到处理后的VR视频。
这里,可以根据该失真程度,对该多个修复后的VR视频中每个视频在t时刻的图像帧进行加权融合,得到t时刻融合后的视频图像;然后,根据融合后的该视频图像得到融合处理后的VR视频。
在至少一种可能的实施方式中,上述根据该失真程度,对该多个修复后的VR视频中每个视频在t时刻的图像帧进行加权融合,得到t时刻融合后的视频图像的运算公式,包括:
V=w1*V1+w2*V2;
其中,w1=cosα,w2=1-cosα;
式中,V表示t时刻融合后的视频图像;V1表示该待处理VR视频通过该图像去模糊模型修复后的VR视频图像在t时刻的图像帧,w1表示图像模糊对该待处理VR视频造成的失真程度,V2表示该待处理VR视频通过该图像去畸变模型修复后的VR视频图像在t时刻的图像帧,w2表示图像畸变对该待处理VR视频造成的失真程度,α为该待处理VR视频的图像帧中每个像素点的纬度值,*表示乘法运算。
这样,通过本实施例提供的VR视频的处理方法,可以有效缓解VR视频中存在的,在观测赤道附近画质模糊以及在观测南北两极畸变大导致的画质不均的问题。该方式对VR视频的所有画面区域均进行了修复,具有更好的泛化性,且实施成本也更加低廉。
对应于图1中所示的VR视频的处理方法,本发明实施例还提供了一种VR视频的处理装置,参见图5,所示为一种VR视频的处理装置的结构示意图,由图5可见,该装置包括依次相连的待处理VR视频获取模块51、图像失真修复模型处理模块52、失真程度确定模块53和加权融合模块54,其中,各个模块的功能如下:
待处理VR视频获取模块51,用于获取待处理VR视频;
图像失真修复模型处理模块52,用于通过预先训练好的多个图像失真修复模型,分别对该待处理VR视频进行修复处理,得到多个修复后的VR视频;其中,每个失真修复模型用于修复该待处理VR视频的一种图像失真类型,且不同的图像失真修复模型对应的图像失真类型不同;
失真程度确定模块53,用于确定每种图像失真类型对该待处理VR视频造成的失真程度;
加权融合模块54,用于根据该失真程度对上述多个修复后的VR视频进行加权融合,得到处理后的VR视频。
本发明实施例提供的一种VR视频的处理装置,获取待处理VR视频;通过预先训练好的多个图像失真修复模型,分别对该待处理VR视频进行修复处理,得到多个修复后的VR视频;其中,每个失真修复模型用于修复该待处理VR视频的一种图像失真类型,且不同的图像失真修复模型对应的图像失真类型不同;确定每种图像失真类型对该待处理VR视频造成的失真程度;根据该失真程度对上述多个修复后的VR视频进行加权融合,得到处理后的VR视频。该装置中,通过图像失真修复模型分别对待处理的VR视频进行不同图像失真类型的修复处理,再结合不同图像失真类型对该VR视频的失真贡献的比重,对修复处理得到的视频进行加权融合,得到最终的VR视频,该方式对VR视频的所有画面区域均进行了修复,具有更好的泛化性,且实施成本也更加低廉;并且,通过多种不同图像失真类型的修复,并结合各个图像失真类型对图像失真的实际贡献,分配加权权重以进行视频融合,进一步优化了修复得到的VR视频图像的画质,缓解了VR视频画质分布不均的问题。
在其中一种可能的实施方式中,上述多个图像失真修复模型包括:图像去模糊模型和图像去畸变模型;该图像去模糊模型对应的图像失真类型为图像模糊,该图像去模糊模型用于对图像进行去模糊处理,得到清晰度优化的图像;该图像去畸变模型对应的图像失真类型为图像畸变,该图像去畸变模型用于对图像进行去畸变处理,得到清晰度优化的图像。
在另一种可能的实施方式中,上述图像去模糊模型通过下述方式训练得到:获取预设的第一初始VR视频;对该第一初始VR视频的图像帧进行缩放和模糊处理,得到分辨率降低的第一VR视频;以分辨率降低的该第一VR视频和该第一初始VR视频为训练集,训练预设的神经网络,得到图像去模糊模型。
在另一种可能的实施方式中,上述对该第一初始VR视频的图像帧进行缩放和模糊处理,得到分辨率降低的第一VR视频的步骤,包括:按预设第一缩放倍数,对该第一初始VR视频的每一帧图像进行缩放,得到缩放后的VR视频;对缩放后的该VR视频进行高斯模糊处理,得到分辨率降低的第一VR视频。
在另一种可能的实施方式中,上述以分辨率降低的该第一VR视频和该第一初始VR视频为训练集,训练预设的神经网络,得到图像去模糊模型的步骤,包括:以分辨率降低的该第一VR视频为预设神经网络的输入,以该第一初始VR视频为该神经网络的输出,训练该神经网络,直至满足预设的训练终止条件,得到训练好的图像去模糊模型。
在另一种可能的实施方式中,上述图像去畸变模型通过下述方式训练得到:获取预设的第二初始VR视频;对该第二初始VR视频的图像帧进行缩放和畸变处理,得到分辨率降低的第二VR视频;以分辨率降低的该第二VR视频和该第二初始VR视频为训练集,训练预设的神经网络,得到图像去模糊模型。
在另一种可能的实施方式中,上述对该第二初始VR视频的图像帧进行缩放和畸变处理,得到分辨率降低的第二VR视频的步骤,包括:按预设第二缩放倍数,对该第二初始VR视频的每一帧图像进行缩放,得到缩放后的VR视频;对缩放后的该VR视频进行桶形畸变处理,得到分辨率降低的第二VR视频。
在另一种可能的实施方式中,上述失真程度确定模块53还用于:获取该待处理VR视频的图像帧中每个像素点的纬度值;该纬度值为该像素点和观看点的连线与水平面的夹角;根据该纬度值,确定每种该图像失真类型对该待处理VR视频造成的失真程度。
在另一种可能的实施方式中,上述多个图像失真修复模型包括图像去模糊模型和图像去畸变模型,该图像去模糊模型对应的图像失真类型为图像模糊,该图像去畸变模型对应的图像失真类型为图像畸变;上述失真程度确定模块53还用于:将该纬度值的余弦值,确定为图像模糊对该待处理VR视频造成的失真程度;将1减去该余弦值得到的值,确定为图像畸变对该待处理VR视频造成的失真程度。
在另一种可能的实施方式中,上述加权融合模块54还用于:根据该失真程度,对该多个修复后的VR视频中每个视频在t时刻的图像帧进行加权融合,得到t时刻融合后的视频图像;根据融合后的该视频图像得到融合处理后的VR视频。
在另一种可能的实施方式中,上述多个图像失真修复模型包括图像去模糊模型和图像去畸变模型;上述根据该失真程度,对该多个修复后的VR视频中每个视频在t时刻的图像帧进行加权融合,得到t时刻融合后的视频图像的运算公式,包括:V=w1*V1+w2*V2;其中,w1=cosα,w2=1-cosα;式中,V表示t时刻融合后的视频图像;V1表示该待处理VR视频通过该图像去模糊模型修复后的VR视频图像在t时刻的图像帧,w1表示图像模糊对该待处理VR视频造成的失真程度,V2表示该待处理VR视频通过该图像去畸变模型修复后的VR视频图像在t时刻的图像帧,w2表示图像畸变对该待处理VR视频造成的失真程度,α为该待处理VR视频的图像帧中每个像素点的纬度值。
本发明实施例提供的VR视频的处理装置,其实现原理及产生的技术效果和前述VR视频的处理方法实施例相同,为简要描述,VR视频的处理装置的实施例部分未提及之处,可参考前述VR视频的处理方法实施例中相应内容。
本发明实施例还提供了一种电子设备,如图6所示,为该电子设备的结构示意图,其中,该电子设备包括处理器61和存储器62,该存储器62存储有能够被该处理器61执行的机器可执行指令,该处理器61执行该机器可执行指令以实现上述VR视频的处理方法。
在图6示出的实施方式中,该电子设备还包括总线63和通信接口64,其中,处理器61、通信接口64和存储器62通过总线连接。
其中,存储器62可能包含高速随机存取存储器(RAM,Random Access Memory),也可能还包括非不稳定的存储器(non-volatile memory),例如至少一个磁盘存储器。通过至少一个通信接口64(可以是有线或者无线)实现该系统网元与至少一个其他网元之间的通信连接,可以使用互联网,广域网,本地网,城域网等。总线可以是ISA总线、PCI总线或EISA总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示,图6中仅用一个双向箭头表示,但并不表示仅有一根总线或一种类型的总线。
处理器61可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器61中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器61可以是通用处理器,包括中央处理器(Central Processing Unit,简称CPU)、网络处理器(Network Processor,简称NP)等;还可以是数字信号处理器(Digital SignalProcessing,简称DSP)、专用集成电路(Application Specific Integrated Circuit,简称ASIC)、现成可编程门阵列(Field-Programmable Gate Array,简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器,处理器61读取存储器62中的信息,结合其硬件完成前述实施例的VR视频的处理方法的步骤。
本发明实施例还提供了一种机器可读存储介质,该机器可读存储介质存储有机器可执行指令,该机器可执行指令在被处理器调用和执行时,该机器可执行指令促使处理器实现上述VR视频的处理方法,具体实现可参见前述方法实施例,在此不再赘述。
本发明实施例所提供的VR视频的处理方法、VR视频的处理装置和电子设备的计算机程序产品,包括存储了程序代码的计算机可读存储介质,所述程序代码包括的指令可用于执行前面方法实施例中所述的VR视频的处理方法,具体实现可参见方法实施例,在此不再赘述。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个处理器可执行的非易失的计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
另外,在本发明实施例的描述中,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通。对于本领域的普通技术人员而言,可以具体情况理解上述术语在本发明中的具体含义。
在本发明的描述中,需要说明的是,术语“中心”、“上”、“下”、“左”、“右”、“竖直”、“水平”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。此外,术语“第一”、“第二”、“第三”仅用于描述目的,而不能理解为指示或暗示相对重要性。
最后应说明的是:以上所述实施例,仅为本发明的具体实施方式,用以说明本发明的技术方案,而非对其限制,本发明的保护范围并不局限于此,尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化,或者对其中部分技术特征进行等同替换;而这些修改、变化或者替换,并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以所述权利要求的保护范围为准。

Claims (13)

1.一种VR视频的处理方法,其特征在于,包括:
获取待处理VR视频;
通过预先训练好的多个图像失真修复模型,分别对所述待处理VR视频进行修复处理,得到多个修复后的VR视频;其中,每个所述失真修复模型用于修复所述待处理VR视频的一种图像失真类型,且不同的图像失真修复模型对应的图像失真类型不同;
确定每种所述图像失真类型对所述待处理VR视频造成的失真程度;
根据所述失真程度对所述多个修复后的VR视频进行加权融合,得到处理后的VR视频;
所述确定每种所述图像失真类型对所述待处理VR视频造成的失真程度的步骤,包括:获取所述待处理VR视频的图像帧中每个像素点的纬度值;所述纬度值为所述像素点和观看点的连线与水平面的夹角;根据所述纬度值,确定每种所述图像失真类型对所述待处理VR视频造成的失真程度。
2.根据权利要求1所述的VR视频的处理方法,其特征在于,所述多个图像失真修复模型包括:图像去模糊模型和图像去畸变模型;
所述图像去模糊模型对应的图像失真类型为图像模糊,所述图像去模糊模型用于对图像进行去模糊处理,得到清晰度优化的图像;
所述图像去畸变模型对应的图像失真类型为图像畸变,所述图像去畸变模型用于对图像进行去畸变处理,得到清晰度优化的图像。
3.根据权利要求2所述的VR视频的处理方法,其特征在于,所述图像去模糊模型通过下述方式训练得到:
获取预设的第一初始VR视频;
对所述第一初始VR视频的图像帧进行缩放和模糊处理,得到分辨率降低的第一VR视频;
以分辨率降低的所述第一VR视频和所述第一初始VR视频为训练集,训练预设的神经网络,得到图像去模糊模型。
4.根据权利要求3所述的VR视频的处理方法,其特征在于,所述对所述第一初始VR视频的图像帧进行缩放和模糊处理,得到分辨率降低的第一VR视频的步骤,包括:
按预设第一缩放倍数,对所述第一初始VR视频的每一帧图像进行缩放,得到缩放后的VR视频;
对缩放后的所述VR视频进行高斯模糊处理,得到分辨率降低的第一VR视频。
5.根据权利要求3所述的VR视频的处理方法,其特征在于,所述以分辨率降低的所述第一VR视频和所述第一初始VR视频为训练集,训练预设的神经网络,得到图像去模糊模型的步骤,包括:
以分辨率降低的所述第一VR视频为预设神经网络的输入,以所述第一初始VR视频为所述神经网络的输出,训练所述神经网络,直至满足预设的训练终止条件,得到训练好的图像去模糊模型。
6.根据权利要求2所述的VR视频的处理方法,其特征在于,所述图像去畸变模型通过下述方式训练得到:
获取预设的第二初始VR视频;
对所述第二初始VR视频的图像帧进行缩放和畸变处理,得到分辨率降低的第二VR视频;
以分辨率降低的所述第二VR视频和所述第二初始VR视频为训练集,训练预设的神经网络,得到图像去畸变模型。
7.根据权利要求6所述的VR视频的处理方法,其特征在于,所述对所述第二初始VR视频的图像帧进行缩放和畸变处理,得到分辨率降低的第二VR视频的步骤,包括:
按预设第二缩放倍数,对所述第二初始VR视频的每一帧图像进行缩放,得到缩放后的VR视频;
对缩放后的所述VR视频进行桶形畸变处理,得到分辨率降低的第二VR视频。
8.根据权利要求1所述的VR视频的处理方法,其特征在于,所述多个图像失真修复模型包括图像去模糊模型和图像去畸变模型,所述图像去模糊模型对应的图像失真类型为图像模糊,所述图像去畸变模型对应的图像失真类型为图像畸变;
所述根据所述纬度值,确定每种所述图像失真类型对所述待处理VR视频造成的失真程度的步骤,包括:
将所述纬度值的余弦值,确定为图像模糊对所述待处理VR视频造成的失真程度;
将1减去所述余弦值得到的值,确定为图像畸变对所述待处理VR视频造成的失真程度。
9.根据权利要求1所述的VR视频的处理方法,其特征在于,所述根据所述失真程度对所述多个修复后的VR视频进行加权融合,得到处理后的VR视频的步骤,包括:
根据所述失真程度,对所述多个修复后的VR视频中每个视频在t时刻的图像帧进行加权融合,得到t时刻融合后的视频图像;
根据融合后的所述视频图像得到融合处理后的VR视频。
10.根据权利要求9所述的VR视频的处理方法,其特征在于,所述多个图像失真修复模型包括图像去模糊模型和图像去畸变模型;
所述根据所述失真程度,对所述多个修复后的VR视频中每个视频在t时刻的图像帧进行加权融合,得到t时刻融合后的视频图像的运算公式,包括:
V=w1*V1+w2*V2;
其中,w1=cosα,w2=1-cosα;
式中,V表示t时刻融合后的视频图像;V1表示所述待处理VR视频通过所述图像去模糊模型修复后的VR视频图像在t时刻的图像帧,w1表示图像模糊对所述待处理VR视频造成的失真程度,V2表示所述待处理VR视频通过所述图像去畸变模型修复后的VR视频图像在t时刻的图像帧,w2表示图像畸变对所述待处理VR视频造成的失真程度,α为所述待处理VR视频的图像帧中每个像素点的纬度值。
11.一种VR视频的处理装置,其特征在于,包括:
待处理VR视频获取模块,用于获取待处理VR视频;
图像失真修复模型处理模块,用于通过预先训练好的多个图像失真修复模型,分别对所述待处理VR视频进行修复处理,得到多个修复后的VR视频;其中,每个所述失真修复模型用于修复所述待处理VR视频的一种图像失真类型,且不同的图像失真修复模型对应的图像失真类型不同;
失真程度确定模块,用于确定每种所述图像失真类型对所述待处理VR视频造成的失真程度;
加权融合模块,用于根据所述失真程度对所述多个修复后的VR视频进行加权融合,得到处理后的VR视频;
所述失真程度确定模块,用于获取所述待处理VR视频的图像帧中每个像素点的纬度值;所述纬度值为所述像素点和观看点的连线与水平面的夹角;根据所述纬度值,确定每种所述图像失真类型对所述待处理VR视频造成的失真程度。
12.一种电子设备,其特征在于,所述电子设备包括处理器和存储器,所述存储器存储有能够被所述处理器执行的计算机可执行指令,所述处理器执行所述计算机可执行指令以实现权利要求1至10任一项所述的VR视频的处理方法。
13.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机可执行指令,所述计算机可执行指令在被处理器调用和执行时,计算机可执行指令促使处理器实现权利要求1至10任一项所述的VR视频的处理方法。
CN202010748086.1A 2020-07-29 2020-07-29 Vr视频的处理方法、装置及电子设备 Active CN111787300B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010748086.1A CN111787300B (zh) 2020-07-29 2020-07-29 Vr视频的处理方法、装置及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010748086.1A CN111787300B (zh) 2020-07-29 2020-07-29 Vr视频的处理方法、装置及电子设备

Publications (2)

Publication Number Publication Date
CN111787300A CN111787300A (zh) 2020-10-16
CN111787300B true CN111787300B (zh) 2022-07-01

Family

ID=72766203

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010748086.1A Active CN111787300B (zh) 2020-07-29 2020-07-29 Vr视频的处理方法、装置及电子设备

Country Status (1)

Country Link
CN (1) CN111787300B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113034392A (zh) * 2021-03-22 2021-06-25 山西三友和智慧信息技术股份有限公司 一种基于U-net的HDR去噪和去模糊方法
CN116468613B (zh) * 2023-06-20 2023-10-27 深圳市景创科技电子股份有限公司 超高清虚拟显示及控制方法、装置、设备及计算机介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102165761A (zh) * 2008-09-30 2011-08-24 佳能株式会社 图像处理方法、图像处理装置和图像拾取装置
WO2013160533A2 (en) * 2012-04-25 2013-10-31 Nokia Corporation Method, apparatus and computer program product for generating panorama images
JP2015177307A (ja) * 2014-03-14 2015-10-05 株式会社東芝 固体撮像装置およびカメラモジュール
CN108230253A (zh) * 2017-05-08 2018-06-29 北京市商汤科技开发有限公司 图像恢复方法、装置、电子设备和计算机存储介质
CN109155056A (zh) * 2016-05-24 2019-01-04 高通股份有限公司 具有用于360度视频的透镜失真校正的鱼眼呈现

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10394029B2 (en) * 2016-04-04 2019-08-27 Akonia Holographics, Llc Field of view enhancement

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102165761A (zh) * 2008-09-30 2011-08-24 佳能株式会社 图像处理方法、图像处理装置和图像拾取装置
WO2013160533A2 (en) * 2012-04-25 2013-10-31 Nokia Corporation Method, apparatus and computer program product for generating panorama images
JP2015177307A (ja) * 2014-03-14 2015-10-05 株式会社東芝 固体撮像装置およびカメラモジュール
CN109155056A (zh) * 2016-05-24 2019-01-04 高通股份有限公司 具有用于360度视频的透镜失真校正的鱼眼呈现
CN108230253A (zh) * 2017-05-08 2018-06-29 北京市商汤科技开发有限公司 图像恢复方法、装置、电子设备和计算机存储介质

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
Panoramic Image Generation: From 2-D Sketch to Spherical Image;Y. Duan, C. Han, X. Tao, B. Geng, Y. Du and J. Lu;《IEEE Journal of Selected Topics in Signal Processing, vol. 14, no. 1, pp. 194-208》;20200131;全文 *
一种视频测井图像畸变校正方法;胡宏涛等;《西安石油大学学报(自然科学版)》;20130125(第01期);全文 *
精确校正图像的径向畸变和倾斜失真;刘堂友等;《中国图象图形学报》;20071015(第10期);全文 *

Also Published As

Publication number Publication date
CN111787300A (zh) 2020-10-16

Similar Documents

Publication Publication Date Title
CN108898567B (zh) 图像降噪方法、装置及系统
US9905031B2 (en) Method and related apparatus for capturing and processing image data
JP6742732B2 (ja) 輝度分布と動きとの間のトレードオフに基づいてシーンのhdr画像を生成する方法
CN111062881A (zh) 图像处理方法及装置、存储介质、电子设备
KR20110078175A (ko) 영상 데이터 생성 방법 및 장치
CN107749944A (zh) 一种拍摄方法及装置
US9838604B2 (en) Method and system for stabilizing video frames
CN111787300B (zh) Vr视频的处理方法、装置及电子设备
Dai et al. Sparse representation-based multiple frame video super-resolution
CN109785264B (zh) 图像增强方法、装置及电子设备
CN112770042B (zh) 图像处理方法及装置、计算机可读介质、无线通信终端
CN113875219B (zh) 图像处理方法和装置、电子设备、计算机可读存储介质
CN106412441A (zh) 一种视频防抖控制方法以及终端
CN111757087A (zh) Vr视频的处理方法、装置和电子设备
CN111311481A (zh) 背景虚化方法、装置、终端设备及存储介质
Javidnia et al. Accurate depth map estimation from small motions
CN107610045B (zh) 鱼眼图片拼接中的亮度补偿方法、装置、设备及存储介质
CN107295261B (zh) 图像去雾处理方法、装置、存储介质和移动终端
CN109120856B (zh) 一种摄像方法及装置
JP2015154334A (ja) 撮像装置、その制御方法、および制御プログラム
CN116167945A (zh) 一种图像修复方法、装置、电子设备及存储介质
CN115546043B (zh) 视频处理方法及其相关设备
CN115719316A (zh) 图像处理方法及装置、电子设备和计算机可读存储介质
CN113099132B (zh) 视频处理方法、装置、电子设备、存储介质及程序产品
CN115035013A (zh) 图像处理方法、图像处理装置、终端及可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant