CN112311965A - 虚拟拍摄方法、装置、系统及存储介质 - Google Patents

虚拟拍摄方法、装置、系统及存储介质 Download PDF

Info

Publication number
CN112311965A
CN112311965A CN202011142373.4A CN202011142373A CN112311965A CN 112311965 A CN112311965 A CN 112311965A CN 202011142373 A CN202011142373 A CN 202011142373A CN 112311965 A CN112311965 A CN 112311965A
Authority
CN
China
Prior art keywords
information
target
axial
display screen
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011142373.4A
Other languages
English (en)
Other versions
CN112311965B (zh
Inventor
常明
贾国耀
崔超
杨灿明
白辉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Virtual Point Technology Co Ltd
Original Assignee
Beijing Virtual Point Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Virtual Point Technology Co Ltd filed Critical Beijing Virtual Point Technology Co Ltd
Priority to CN202011142373.4A priority Critical patent/CN112311965B/zh
Publication of CN112311965A publication Critical patent/CN112311965A/zh
Application granted granted Critical
Publication of CN112311965B publication Critical patent/CN112311965B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/2224Studio circuitry; Studio devices; Studio equipment related to virtual studio applications
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)

Abstract

本申请提供一种虚拟拍摄方法、装置、系统及存储介质,涉及影视拍摄技术领域。该方法应用于虚拟拍摄系统,该方法包括:控制装置获取由追踪装置所检测到的显示屏幕的位置及轴向信息、实际摄像机的位置及轴向信息以及每个拍摄目标的位置及轴向信息;并根据获取到的位置及轴向信息确定虚拟摄像机的目标焦点信息以及目标景深信息;以及还控制虚拟摄像机按照目标焦点信息以及目标景深信息向显示屏幕输出图像,以用于实际摄像机拍摄图像。在本方案中,根据计算得到的虚拟摄像机的目标焦点信息、目标景深信息,以实现对虚拟摄像机的调节,以达到与实际摄像机镜头虚化一致的效果,并通过显示屏幕输出理想的虚焦画面,提高了实际摄像机拍摄图像的真实感。

Description

虚拟拍摄方法、装置、系统及存储介质
技术领域
本发明涉及影视拍摄技术领域,具体而言,涉及一种虚拟拍摄方法、装置、系统及存储介质。
背景技术
虚拟拍摄技术,是通过大面积无缝拼接的LED显示屏构建沉浸式拍摄环境,结合3D引擎实时渲染的虚实结合拍摄技术,对比传统的绿幕拍摄技术,真实的场景更能激发演员灵感,还可以提高影片的创造力和质量,使导演摆脱时间、空间及场景道具方面的限制,不需要搭建真实场景,节省了电影制片成本,显著提高影片生产效率,缩短制作周期。
现有的虚拟拍摄技术中,无法对焦平面和景深的范围进行动态调节,导致LED屏幕播出的内容画面,均是焦平面与LED屏幕一致的图像,凭借现场拍摄摄像机将其虚化,从而造成虚化效果不理想,不能达到真实表演在这个场景内的比例,影响了虚拟拍摄过程中摄像机拍摄画面的真实感。
发明内容
本发明的目的在于,针对上述现有技术中的不足,提供一种虚拟拍摄方法、装置、系统及存储介质,以便实时动态调整焦平面,极大地提高了摄像机拍摄画面的真实感。
为实现上述目的,本申请实施例采用的技术方案如下:
第一方面,本申请实施例提供了一种虚拟拍摄方法,应用于虚拟拍摄系统,所述虚拟拍摄系统包括:显示屏幕、实际摄像机、至少一个拍摄目标以及控制装置,所述显示屏幕、所述实际摄像机以及每个所述拍摄目标上均设置追踪装置;所述方法包括:
所述控制装置获取由所述追踪装置所检测到的所述显示屏幕的位置及轴向信息、所述实际摄像机的位置及轴向信息以及每个所述拍摄目标的位置及轴向信息;
所述控制装置根据所述显示屏幕的位置及轴向信息、所述实际摄像机的位置及轴向信息以及每个所述拍摄目标的位置及轴向信息,确定虚拟摄像机的目标焦点信息以及目标景深信息;
所述控制装置控制所述虚拟摄像机按照所述目标焦点信息以及所述目标景深信息向所述显示屏幕输出图像,以用于所述实际摄像机拍摄所述图像。
可选地,所述控制装置根据所述显示屏幕的位置及轴向信息、所述实际摄像机的位置及轴向信息以及每个所述拍摄目标的位置及轴向信息,确定虚拟摄像机的目标焦点信息以及目标景深信息,包括:
所述控制装置根据所述显示屏幕的位置及轴向信息、所述实际摄像机的位置及轴向信息、每个所述拍摄目标的位置及轴向信息、所述实际摄像机的镜头参数、采集图像的图像参数以及拍摄内容信息,确定虚拟摄像机的目标焦点信息以及目标景深信息。
可选地,所述控制装置根据所述显示屏幕的位置及轴向信息、所述实际摄像机的位置及轴向信息、每个所述拍摄目标的位置及轴向信息、所述实际摄像机的镜头参数、采集图像的图像参数以及拍摄内容信息,确定虚拟摄像机的目标焦点信息以及目标景深信息,包括:
根据所述显示屏幕的位置及轴向信息、所述实际摄像机的位置及轴向信息、每个所述拍摄目标的位置及轴向信息,确定所述拍摄目标相对所述实际摄像机的位置变化信息,以及虚拟场景的位置变化信息;
根据所述拍摄目标相对所述实际摄像机的位置变化信息、虚拟场景的位置变化信息,以及所述实际摄像机的镜头参数、采集图像的图像参数以及拍摄内容信息,确定虚拟摄像机的目标焦点信息以及目标景深信息。
可选地,所述控制装置控制所述虚拟摄像机按照所述目标焦点信息以及所述目标景深信息向所述显示屏幕输出图像,以用于所述实际摄像机拍摄所述图像,包括:
所述控制装置控制所述虚拟摄像机按照所述目标焦点信息以及所述目标景深信息将拍摄的画面渲染为帧序列,并将渲染后的帧序列映射至所述显示屏幕。
可选地,所述控制装置获取由所述追踪装置所检测到的所述显示屏幕的位置及轴向信息、所述实际摄像机的位置及轴向信息以及每个所述拍摄目标的位置及轴向信息,包括:
所述控制装置获取由所述追踪装置实时检测到的所述显示屏幕的位置及轴向信息、所述实际摄像机的位置及轴向信息以及每个所述拍摄目标的位置及轴向信息。
可选地,所述目标焦点信息包括:焦点数值;所述目标景深信息包括:景深范围数值。
可选地,所述拍摄目标包括:演员及道具。
第二方面,本申请实施例还提供了一种虚拟拍摄装置,应用于虚拟拍摄系统,所述虚拟拍摄系统包括:显示屏幕、实际摄像机、至少一个拍摄目标以及控制装置,所述显示屏幕、所述实际摄像机以及每个所述拍摄目标上均设置追踪装置;所述装置包括:获取模块、确定模块以及控制模块;
所述获取模块,用于获取由所述追踪装置所检测到的所述显示屏幕的位置及轴向信息、所述实际摄像机的位置及轴向信息以及每个所述拍摄目标的位置及轴向信息;
所述确定模块,用于根据所述显示屏幕的位置及轴向信息、所述实际摄像机的位置及轴向信息以及每个所述拍摄目标的位置及轴向信息,确定虚拟摄像机的目标焦点信息以及目标景深信息;
所述控制模块,用于控制所述虚拟摄像机按照所述目标焦点信息以及所述目标景深信息向所述显示屏幕输出图像,以用于所述实际摄像机拍摄所述图像。
可选地,所述确定模块,还用于:
根据所述显示屏幕的位置及轴向信息、所述实际摄像机的位置及轴向信息、每个所述拍摄目标的位置及轴向信息、所述实际摄像机的镜头参数、采集图像的图像参数以及拍摄内容信息,确定虚拟摄像机的目标焦点信息以及目标景深信息。
可选地,所述确定模块,还用于:
根据所述显示屏幕的位置及轴向信息、所述实际摄像机的位置及轴向信息、每个所述拍摄目标的位置及轴向信息,确定所述拍摄目标相对所述实际摄像机的位置变化信息,以及虚拟场景的位置变化信息;
根据所述拍摄目标相对所述实际摄像机的位置变化信息、虚拟场景的位置变化信息,以及所述实际摄像机的镜头参数、采集图像的图像参数以及拍摄内容信息,确定虚拟摄像机的目标焦点信息以及目标景深信息。
可选地,所述控制模块,还用于:
控制所述虚拟摄像机按照所述目标焦点信息以及所述目标景深信息将拍摄的画面渲染为帧序列,并将渲染后的帧序列映射至所述显示屏幕。
可选地,所述获取模块,还用于:
获取由所述追踪装置实时检测到的所述显示屏幕的位置及轴向信息、所述实际摄像机的位置及轴向信息以及每个所述拍摄目标的位置及轴向信息。
可选地,所述目标焦点信息包括:焦点数值;所述目标景深信息包括:景深范围数值。
可选地,所述拍摄目标包括:演员及道具。
第三方面,本申请实施例还提供了一种控制装置,包括处理器、存储介质和总线,所述存储介质存储有所述处理器可执行的程序指令,当控制装置运行时,所述处理器与所述存储介质之间通过总线通信,所述处理器执行所述程序指令,以执行时执行如第一方面提供的所述方法的步骤。
第四方面,本申请实施例还提供了一种虚拟拍摄系统,所述虚拟拍摄系统包括:显示屏幕、实际摄像机、至少一个拍摄目标以及如第三方面提供的所述控制装置,所述显示屏幕、所述实际摄像机以及每个所述拍摄目标上均设置追踪装置。
第五方面,本申请实施例还提供了一种计算机可读存储介质,所述存储介质上存储有计算机程序,所述计算机程序被处理器运行时执行如第一方面提供的所述方法的步骤。
本申请的有益效果是:
本申请实施例提供了一种虚拟拍摄方法、装置、系统及存储介质,该方法应用于虚拟拍摄系统,该虚拟拍摄系统包括:显示屏幕、实际摄像机、至少一个拍摄目标以及控制装置,显示屏幕、实际摄像机以及每个拍摄目标上均设置追踪装置。该方法包括:控制装置获取由追踪装置所检测到的显示屏幕的位置及轴向信息、实际摄像机的位置及轴向信息以及每个拍摄目标的位置及轴向信息;并根据显示屏幕的位置及轴向信息、实际摄像机的位置及轴向信息以及每个拍摄目标的位置及轴向信息,确定虚拟摄像机的目标焦点信息以及目标景深信息;以及还控制虚拟摄像机按照目标焦点信息以及目标景深信息向显示屏幕输出图像,以用于实际摄像机拍摄图像。在本方案中,根据获取到的显示屏幕的位置及轴向信息、实际摄像机的位置及轴向信息以及每个拍摄目标的位置及轴向信息,计算得到虚拟摄像机的目标焦点信息、目标景深信息,并根据计算得到的结果对虚拟摄像机进行实时动态调节,以达到虚拟摄像与实际摄像机两者的镜头虚化一致的效果,并以通过显示屏幕实时输出理想的虚焦画面,从而提高了实际摄像机拍摄图像的真实感,并解决了拍摄目标与其所处拍摄场景的透视感存在偏差,导致镜头虚化不一致的问题。
另外,控制装置获取由追踪装置实时检测到的显示屏幕的位置及轴向信息、实际摄像机的位置及轴向信息以及每个拍摄目标的位置及轴向信息,以对实现对虚拟摄像机的目标焦点信息、目标景深信息实时的调节,并通过显示屏幕实时得到这个调节效果,以便于摄像机能够给实时地拍摄到的理想的虚焦画面,极大地提高了拍摄图像的真实感。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本发明的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1为本申请实施例提供的一种虚拟拍摄系统的结构示意图;
图2为本申请实施例提供的一种虚拟拍摄系统中控制装置的结构示意图;
图3为本申请实施例提供的一种虚拟拍摄方法的流程示意图;
图4为本申请实施例提供的另一种虚拟拍摄方法的流程示意图;
图5为本申请实施例提供的一种虚拟拍摄装置的结构示意图。
图标:
100-虚拟拍摄系统;
101-显示屏幕;
102-实际摄像机;
103-拍摄目标;
104-控制装置;
105-追踪装置;
201-存储器;
202-处理器。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,应当理解,本申请中附图仅起到说明和描述的目的,并不用于限定本申请的保护范围。另外,应当理解,示意性的附图并未按实物比例绘制。本申请中使用的流程图示出了根据本申请的一些实施例实现的操作。应该理解,流程图的操作可以不按顺序实现,没有逻辑的上下文关系的步骤可以反转顺序或者同时实施。此外,本领域技术人员在本申请内容的指引下,可以向流程图添加一个或多个其他操作,也可以从流程图中移除一个或多个操作。
另外,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围,而是仅仅表示本申请的选定实施例。基于本申请的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本申请保护的范围。
需要说明的是,本申请实施例中将会用到术语“包括”,用于指出其后所声明的特征的存在,但并不排除增加其它的特征。
图1为本申请实施例提供的一种虚拟拍摄系统的结构示意图;如图1所示,该虚拟拍摄系统100包括:显示屏幕101、实际摄像机102、至少一个拍摄目标103以及控制装置104。
示例性地,该虚拟拍摄系统100可以适用于各种科幻、奇幻类电影电视以及直播节目的拍摄制作。
在一种可实现的方式中,如显示屏幕101可以是高达6米、270度环形曲面半圆形沉浸式LED显示屏,以充当影视拍摄剧中拍摄场景的作用。在LED显示屏前方区域设置真实置景道具,并通过实际摄像机102将拍摄目标103(如演员、真实道具)以及LED显示屏幕播放的虚拟场景一同记录下来,以提高拍摄画面的真实感。
其中,显示屏幕101、实际摄像机102、至少一个拍摄目标103均通过设置一个(或多个)追踪装置105与控制装置104通信连接,通信的方式可以通过无线网络模块通信,如WIFI网络、3G网络、4G网络、以太网进行通信,或者是有线网络通信方式,在此不做具体限制。
控制装置104可以是,但不限于计算机、服务器等具有处理功能的电子设备,控制装置104的操作系统可以是,但不限于,Windows系统等。
例如,在本申请实施例中,显示屏幕101、实际摄像机102、至少一个拍摄目标103上设置的追踪装置105可以是同一类型,也可以是不同类型的,使得追踪装置105可以实时采集显示屏幕101、实际摄像机102、至少一个拍摄目标103的位置及轴向信息,并发送至控制装置104,以便于控制装置104能够根据接收到的显示屏幕101、实际摄像机102、至少一个拍摄目标103的位置及轴向信息,实时确定虚拟摄像机的目标焦点信息以及目标景深信息,并控制虚拟摄像机按照确定的目标焦点信息以及目标景深信息向显示屏幕101输出图像,以提高实际摄像机102拍摄到图像画面的真实感。
图2为本申请实施例提供的一种虚拟拍摄系统中控制装置的结构示意图;该控制装置可以集成于控制设备或者控制设备的芯片,该控制设备可以是具备数据处理功能的计算设备。如图2所示,控制装置104包括:存储器201、处理器202。
其中,存储器201用于存储程序,处理器202调用存储器201存储的程序,以执行下面实施例提供的虚拟方法,具体实现方式和技术效果类似,如下将通过多个具体的实施例对本申请所提供的虚拟方法进行详细说明。
图3为本申请实施例提供的一种虚拟拍摄方法的流程示意图;可选地,该方法可由上述实施例提供的控制装置中的处理器实现,如图3所示,该方法包括:
S301、控制装置获取由追踪装置所检测到的显示屏幕的位置及轴向信息、实际摄像机的位置及轴向信息以及每个拍摄目标的位置及轴向信息。
通常,在影视拍摄过程中,显示屏幕、实际摄像机(如安装在轨道上来回移动拍摄图像,扩展拍摄视野)、拍摄目标会在拍摄场景中发生位置变化,以完成影视拍摄。
一般,物体在空间具有六个自由度,即沿x、y、z三个直角坐标轴方向的移动自由度和绕这三个坐标轴的旋转自由度,其中,旋转自由度即轴向信息,则可以根据物体在空间六个自由度(X、Y、Z、α、β、γ),即物体在空间中的实际位置参数和动作参数,从而可以模拟出各种空间运动姿态。
在一种可实现的方式中,可以采用追踪装置实时检测显示屏幕、实际摄像机和每个拍摄目标在空间中的位置及轴向信息(X、Y、Z、α、β、γ),并将检测到的位置及轴向信息发送至控制装置,使得可以分别对显示屏幕、实际摄像机及拍摄目标进行实时的空间定位,并及时将定位信息反馈到虚拟拍摄场景中。
S302、控制装置根据显示屏幕的位置及轴向信息、实际摄像机的位置及轴向信息以及每个拍摄目标的位置及轴向信息,确定虚拟摄像机的目标焦点信息以及目标景深信息。
其中,实际拍摄摄像机与虚拟摄像机,一个在实际空间,一个在虚拟空间,两者在拍摄空间中的位置及轴向信息通过局域网实时传输数据进行关联。
可以理解,在摄影行业,光学镜头的焦平面通常设定在摄影目的上面,景深以外的成像是虚化部分,也称为焦外虚像,则可以通过调整焦点信息、景深信息,以实现对拍摄目标的虚化效果。
如可以参考图1所示,在根据实际拍摄摄像机当前的位置及轴向信息确定实际摄像机的实际焦平面和实际景深信息之后,则可以确定实际摄像机的实际景深之外的成像,即虚化部分,也称为实际焦外虚像。
其中,目标焦点信息是虚拟摄像机的虚拟焦点信息,目标景深信息是虚拟摄像机的虚拟景深信息。
在一种可实现的方式中,如控制装置可以根据接收到的显示屏幕的位置及轴向信息、实际摄像机的位置及轴向信息以及每个拍摄目标的位置及轴向信息,通过在3D图像引擎中进行运算,以得到虚拟摄像机的目标焦点信息以及目标景深信息,并根据得到的目标焦点信息以及目标景深信息对虚拟摄像机的输出图像的虚化部分进行调节,以达到虚拟摄像与实际摄像机虚化部分一致的效果,即虚拟摄像与实际摄像机两者的镜头虚化一致,有效避免了实际摄像机拍摄到的拍摄目标(如演员)与其所处场景透视感有偏差,使得实际摄像机拍摄的图像更具有真实感。
S303、控制装置控制虚拟摄像机按照目标焦点信息以及目标景深信息向显示屏幕输出图像,以用于实际摄像机拍摄图像。
可选地,控制装置可以控制虚拟摄像机按照上述得到的目标焦点信息、目标景深信息对虚拟摄像机进行实时动态调节,并通过显示屏幕实时输出理想的虚焦画面,使得虚拟摄像与实际摄像机两者的镜头虚化一致,有效提高了实际摄像机拍摄到的图像更具有真实感,有效解决了拍摄目标与其所处拍摄场景的透视感存在偏差,导致镜头虚化不一致的问题。
综上所述,本申请实施例提供一种虚拟方法,该方法包括:控制装置获取由追踪装置所检测到的显示屏幕的位置及轴向信息、实际摄像机的位置及轴向信息以及每个拍摄目标的位置及轴向信息;并根据显示屏幕的位置及轴向信息、实际摄像机的位置及轴向信息以及每个拍摄目标的位置及轴向信息,确定虚拟摄像机的目标焦点信息以及目标景深信息;以及还控制虚拟摄像机按照目标焦点信息以及目标景深信息向显示屏幕输出图像,以用于实际摄像机拍摄图像。在本方案中,根据获取到的显示屏幕的位置及轴向信息、实际摄像机的位置及轴向信息以及每个拍摄目标的位置及轴向信息,计算得到虚拟摄像机的目标焦点信息、目标景深信息,并根据计算得到的结果对虚拟摄像机进行实时动态调节,达到了虚拟摄像与实际摄像机两者的镜头虚化一致的效果,并通过显示屏幕实时输出理想的虚焦画面,从而提高了实际摄像机拍摄图像的真实感,并解决了拍摄目标与其所处拍摄场景的透视感存在偏差,导致镜头虚化不一致的问题。
可选地,上述步骤S302:控制装置根据显示屏幕的位置及轴向信息、实际摄像机的位置及轴向信息以及每个拍摄目标的位置及轴向信息,确定虚拟摄像机的目标焦点信息以及目标景深信息,包括:
控制装置根据显示屏幕的位置及轴向信息、实际摄像机的位置及轴向信息、每个拍摄目标的位置及轴向信息、实际摄像机的镜头参数、采集图像的图像参数以及拍摄内容信息,确定虚拟摄像机的目标焦点信息以及目标景深信息。
通常,实际摄像机的镜头参数可以是:光圈、焦距。
可以理解,实际摄像机在其他参数不变的情况下,光圈增大,输出图像的虚化程度增加,光圈减小,输出图像的虚化程度减小。以及实际摄像机在其他参数不变的情况下,焦距增大,输出图像的虚化程度增加,焦距减小,输出图像的虚化程度减小。简言之,实际摄像机的镜头焦距越大或者光圈越大,拍摄目标的背景和前景景深就越小,景深以外的画面虚化效果就越明显,实际摄像机拍摄到的图像主题目标就越突出,画面感柔和美好。
采集图像的图像参数可以是:拍摄目标的清晰的焦点。通常,在拍摄过程中,拍摄目标会发生位置变化,则需要实时准确地确定拍摄目标清晰的焦点。
拍摄内容信息可以是:拍摄剧情和剧本要求。其中,导演对拍摄剧情和剧本要求等人为主观思想,是指按照摄像机参数设定好基础虚化程度后,导演和剧组创作人员对显示屏幕输出图像虚化的人为改变,调节虚化程度以满足拍摄剧情需求。
通常,在一场影视拍摄中,上述显示屏幕的位置及轴向信息、实际摄像机的位置及轴向信息、每个拍摄目标的位置及轴向信息等是实时动态变化的,而实际摄像机的镜头参数、采集图像的图像参数以及拍摄内容信息等是固定不变的,则可以考虑根据实际摄像机的镜头参数、采集图像的图像参数以及拍摄内容信息(如拍摄剧情和剧本要求)等确定一种约束规则,以提高计算虚拟摄像机的目标焦点信息以及目标景深信息的效率。
所以,可以通过追踪装置对显示屏幕、实际摄像机、每个拍摄目标进行实时追踪定位,并对获取到的空间信息和约束规则进行运算,以得到虚拟摄像机的目标焦点信息以及目标景深信息。
这样能够将拍摄目标和虚拟场景内容(即显示屏幕输出的图像)一起,合并到受约束规则的目标焦点信息和目标景深信息内,以达到实际摄像机拍摄的图像更加真实的目的。
图4为本申请实施例提供的另一种虚拟拍摄方法的流程示意图;可选地,在上述实施例的基础上,如图4所示,控制装置根据显示屏幕的位置及轴向信息、实际摄像机的位置及轴向信息、每个拍摄目标的位置及轴向信息、实际摄像机的镜头参数、采集图像的图像参数以及拍摄内容信息,确定虚拟摄像机的目标焦点信息以及目标景深信息,包括:
S401、根据显示屏幕的位置及轴向信息、实际摄像机的位置及轴向信息、每个拍摄目标的位置及轴向信息,确定拍摄目标相对实际摄像机的位置变化信息,以及虚拟场景的位置变化信息。
在一种可实现的方式中,如拍摄目标相对实际摄像机的位置可以是近距离,或者远距离。通常,实际摄像机距离拍摄目标越近,则拍摄到的图像虚化程度减小;相应的,实际摄像机距离拍摄目标越远,则拍摄到的图像虚化程度增加。
其次,虚拟场景的位置变化信息可以包括:显示屏幕输出的图像可以是近距离场景、中远距离场景、以及超远距离场景等。
一般,若需要在显示屏幕输出图像是虚拟近距离场景时,可以提高镜头虚化感,来突出人物形象;而在显示屏幕输出图像是虚拟远距离场景时,可以减少镜头虚化感,来侧重交代人物所处的场景信息。
所以,可以根据获取到的显示屏幕的位置及轴向信息、实际摄像机的位置及轴向信息、每个拍摄目标的位置及轴向信息,并通过计算确定当前拍摄目标相对实际摄像机的位置变化,以及虚拟场景的位置变化信息。
S402、根据拍摄目标相对实际摄像机的位置变化信息、虚拟场景的位置变化信息,以及实际摄像机的镜头参数、采集图像的图像参数以及拍摄内容信息,确定虚拟摄像机的目标焦点信息以及目标景深信息。
在一种可实现的方式中,可以根据得到的拍摄目标相对实际摄像机的位置变化信息、虚拟场景的位置变化信息,以及实际摄像机的镜头参数、采集图像的图像参数以及拍摄内容信息等,以获取最佳的虚拟摄像机的目标焦点信息以及目标景深信息,使得在显示屏幕输出的图像能够达到最佳的虚焦图像效果,以便于实际供摄像机进行拍摄。
可选地,控制装置控制虚拟摄像机按照目标焦点信息以及目标景深信息向显示屏幕输出图像,以用于实际摄像机拍摄图像,包括:
控制装置控制虚拟摄像机按照目标焦点信息以及目标景深信息将拍摄的画面渲染为帧序列,并将渲染后的帧序列映射至显示屏幕。
在一种可实现的方式中,可以虚拟摄像机按照目标焦点信息以及目标景深信息输出图像,采用3D图像引擎对输出的图像画面进行渲染,并将渲染后的图像以帧序列输出映射至显示屏幕,以充当影视拍摄的虚拟场景。
可选地,控制装置获取由追踪装置所检测到的显示屏幕的位置及轴向信息、实际摄像机的位置及轴向信息以及每个拍摄目标的位置及轴向信息,包括:
控制装置获取由追踪装置实时检测到的显示屏幕的位置及轴向信息、实际摄像机的位置及轴向信息以及每个拍摄目标的位置及轴向信息。
例如,通过追踪装置实时动态地获取实际摄像机、每个拍摄目标(如演员)、显示屏幕在拍摄空间内的位置和轴向信息,并实时输出这些信息,对实现对虚拟摄像机的目标焦点信息、目标景深信息实时的调节,并通过显示屏幕实时得到这个调节效果,以便于摄像机能够给实时地拍摄到的理想的虚焦画面,极大地提高了拍摄图像的真实感。
可选地,目标焦点信息包括:焦点数值;目标景深信息包括:景深范围数值。
可选地,拍摄目标包括:演员及道具。
通常,在一场电影拍摄中,存在一个(或多个)演员演员,以及一个(或多个)道具。
在一种可实现的方式中,如显示屏幕输出的图像充当影视拍摄的虚拟场景,演员和道具位于显示屏幕前方,即演员表演区和道具区均位于显示屏幕的前方,根据导演所要求的拍摄动作,演员进行表演,并通过实际摄像机将演员、道具以及显示屏幕播放的虚拟场景一同记录下来,以提高摄制画面的真实感。
下述对用以执行本申请所提供的虚拟方法的装置及存储介质等进行说明,其具体的实现过程以及技术效果参见上述,下述不再赘述。
图5为本申请实施例提供的一种虚拟拍摄装置的结构示意图,应用于上述实施例提供的虚拟拍摄系统,该装置包括:获取模块501、确定模块502以及控制模块503;
获取模块501,用于获取由追踪装置所检测到的显示屏幕的位置及轴向信息、实际摄像机的位置及轴向信息以及每个拍摄目标的位置及轴向信息;
确定模块502,用于根据显示屏幕的位置及轴向信息、实际摄像机的位置及轴向信息以及每个拍摄目标的位置及轴向信息,确定虚拟摄像机的目标焦点信息以及目标景深信息;
控制模块503,用于控制虚拟摄像机按照目标焦点信息以及目标景深信息向显示屏幕输出图像,以用于实际摄像机拍摄图像。
可选地,确定模块502,还用于:
根据显示屏幕的位置及轴向信息、实际摄像机的位置及轴向信息、每个拍摄目标的位置及轴向信息、实际摄像机的镜头参数、采集图像的图像参数以及拍摄内容信息,确定虚拟摄像机的目标焦点信息以及目标景深信息。
可选地,确定模块502,还用于:
根据显示屏幕的位置及轴向信息、实际摄像机的位置及轴向信息、每个拍摄目标的位置及轴向信息,确定拍摄目标相对实际摄像机的位置变化信息,以及虚拟场景的位置变化信息;
根据拍摄目标相对实际摄像机的位置变化信息、虚拟场景的位置变化信息,以及实际摄像机的镜头参数、采集图像的图像参数以及拍摄内容信息,确定虚拟摄像机的目标焦点信息以及目标景深信息。
可选地,控制模块503,还用于:
控制虚拟摄像机按照目标焦点信息以及目标景深信息将拍摄的画面渲染为帧序列,并将渲染后的帧序列映射至显示屏幕。
可选地,获取模块501,还用于:
获取由追踪装置实时检测到的显示屏幕的位置及轴向信息、实际摄像机的位置及轴向信息以及每个拍摄目标的位置及轴向信息。
可选地,目标焦点信息包括:焦点数值;目标景深信息包括:景深范围数值。
可选地,拍摄目标包括:演员及道具。
上述控制装置用于执行前述实施例提供的方法,其实现原理和技术效果类似,在此不再赘述。
以上这些模块可以是被配置成实施以上方法的一个或多个集成电路,例如:一个或多个特定集成电路(Application Specific Integrated Circuit,简称ASIC),或,一个或多个微处理器(digital singnal processor,简称DSP),或,一个或者多个现场可编程门阵列(Field Programmable Gate Array,简称FPGA)等。再如,当以上某个模块通过处理元件调度程序代码的形式实现时,该处理元件可以是通用处理器,例如中央处理器(CentralProcessing Unit,简称CPU)或其它可以调用程序代码的处理器。再如,这些模块可以集成在一起,以片上系统(system-on-a-chip,简称SOC)的形式实现。
可选地,本发明还提供一种程序产品,例如计算机可读存储介质,包括程序,该程序在被处理器执行时用于执行上述方法实施例。
在本发明所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
上述以软件功能单元的形式实现的集成的单元,可以存储在一个计算机可读取存储介质中。上述软件功能单元存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)或处理器(英文:processor)执行本发明各个实施例所述方法的部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(英文:Read-Only Memory,简称:ROM)、随机存取存储器(英文:Random Access Memory,简称:RAM)、磁碟或者光盘等各种可以存储程序代码的介质。

Claims (10)

1.一种虚拟拍摄方法,其特征在于,应用于虚拟拍摄系统,所述虚拟拍摄系统包括:显示屏幕、实际摄像机、至少一个拍摄目标以及控制装置,所述显示屏幕、所述实际摄像机以及每个所述拍摄目标上均设置追踪装置;所述方法包括:
所述控制装置获取由所述追踪装置所检测到的所述显示屏幕的位置及轴向信息、所述实际摄像机的位置及轴向信息以及每个所述拍摄目标的位置及轴向信息;
所述控制装置根据所述显示屏幕的位置及轴向信息、所述实际摄像机的位置及轴向信息以及每个所述拍摄目标的位置及轴向信息,确定虚拟摄像机的目标焦点信息以及目标景深信息;
所述控制装置控制所述虚拟摄像机按照所述目标焦点信息以及所述目标景深信息向所述显示屏幕输出图像,以用于所述实际摄像机拍摄所述图像。
2.根据权利要求1所述的方法,其特征在于,所述控制装置根据所述显示屏幕的位置及轴向信息、所述实际摄像机的位置及轴向信息以及每个所述拍摄目标的位置及轴向信息,确定虚拟摄像机的目标焦点信息以及目标景深信息,包括:
所述控制装置根据所述显示屏幕的位置及轴向信息、所述实际摄像机的位置及轴向信息、每个所述拍摄目标的位置及轴向信息、所述实际摄像机的镜头参数、采集图像的图像参数以及拍摄内容信息,确定虚拟摄像机的目标焦点信息以及目标景深信息。
3.根据权利要求2所述的方法,其特征在于,所述控制装置根据所述显示屏幕的位置及轴向信息、所述实际摄像机的位置及轴向信息、每个所述拍摄目标的位置及轴向信息、所述实际摄像机的镜头参数、采集图像的图像参数以及拍摄内容信息,确定虚拟摄像机的目标焦点信息以及目标景深信息,包括:
根据所述显示屏幕的位置及轴向信息、所述实际摄像机的位置及轴向信息、每个所述拍摄目标的位置及轴向信息,确定所述拍摄目标相对所述实际摄像机的位置变化信息,以及虚拟场景的位置变化信息;
根据所述拍摄目标相对所述实际摄像机的位置变化信息、虚拟场景的位置变化信息,以及所述实际摄像机的镜头参数、采集图像的图像参数以及拍摄内容信息,确定虚拟摄像机的目标焦点信息以及目标景深信息。
4.根据权利要求1-3任一项所述的方法,其特征在于,所述控制装置控制所述虚拟摄像机按照所述目标焦点信息以及所述目标景深信息向所述显示屏幕输出图像,以用于所述实际摄像机拍摄所述图像,包括:
所述控制装置控制所述虚拟摄像机按照所述目标焦点信息以及所述目标景深信息将拍摄的画面渲染为帧序列,并将渲染后的帧序列映射至所述显示屏幕。
5.根据权利要求1-3任一项所述的方法,其特征在于,所述控制装置获取由所述追踪装置所检测到的所述显示屏幕的位置及轴向信息、所述实际摄像机的位置及轴向信息以及每个所述拍摄目标的位置及轴向信息,包括:
所述控制装置获取由所述追踪装置实时检测到的所述显示屏幕的位置及轴向信息、所述实际摄像机的位置及轴向信息以及每个所述拍摄目标的位置及轴向信息。
6.根据权利要求1-3任一项所述的方法,其特征在于,所述目标焦点信息包括:焦点数值;所述目标景深信息包括:景深范围数值。
7.一种虚拟拍摄装置,其特征在于,应用于虚拟拍摄系统,所述虚拟拍摄系统包括:显示屏幕、实际摄像机、至少一个拍摄目标以及控制装置,所述显示屏幕、所述实际摄像机以及每个所述拍摄目标上均设置追踪装置;所述装置包括:获取模块、确定模块以及控制模块;
所述获取模块,用于获取由所述追踪装置所检测到的所述显示屏幕的位置及轴向信息、所述实际摄像机的位置及轴向信息以及每个所述拍摄目标的位置及轴向信息;
所述确定模块,用于根据所述显示屏幕的位置及轴向信息、所述实际摄像机的位置及轴向信息以及每个所述拍摄目标的位置及轴向信息,确定虚拟摄像机的目标焦点信息以及目标景深信息;
所述控制模块,用于控制所述虚拟摄像机按照所述目标焦点信息以及所述目标景深信息向所述显示屏幕输出图像,以用于所述实际摄像机拍摄所述图像。
8.一种控制装置,其特征在于,包括处理器、存储介质和总线,所述存储介质存储有所述处理器可执行的程序指令,当控制装置运行时,所述处理器与所述存储介质之间通过总线通信,所述处理器执行所述程序指令,以执行时执行如权利要求1-6任一所述方法的步骤。
9.一种虚拟拍摄系统,其特征在于,所述虚拟拍摄系统包括:显示屏幕、实际摄像机、至少一个拍摄目标以及权利要求8所述的控制装置,所述显示屏幕、所述实际摄像机以及每个所述拍摄目标上均设置追踪装置。
10.一种计算机可读存储介质,其特征在于,所述存储介质上存储有计算机程序,所述计算机程序被处理器运行时执行如权利要求1-6任一所述方法的步骤。
CN202011142373.4A 2020-10-22 2020-10-22 虚拟拍摄方法、装置、系统及存储介质 Active CN112311965B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011142373.4A CN112311965B (zh) 2020-10-22 2020-10-22 虚拟拍摄方法、装置、系统及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011142373.4A CN112311965B (zh) 2020-10-22 2020-10-22 虚拟拍摄方法、装置、系统及存储介质

Publications (2)

Publication Number Publication Date
CN112311965A true CN112311965A (zh) 2021-02-02
CN112311965B CN112311965B (zh) 2023-07-07

Family

ID=74326965

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011142373.4A Active CN112311965B (zh) 2020-10-22 2020-10-22 虚拟拍摄方法、装置、系统及存储介质

Country Status (1)

Country Link
CN (1) CN112311965B (zh)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113129453A (zh) * 2021-04-23 2021-07-16 浙江博采传媒有限公司 控制led环屏虚拟制片中虚拟环境的方法及系统
CN113572967A (zh) * 2021-09-24 2021-10-29 北京天图万境科技有限公司 虚拟场景的取景器及取景器系统
CN113674433A (zh) * 2021-08-25 2021-11-19 先壤影视制作(上海)有限公司 混合现实显示方法及系统
CN113810612A (zh) * 2021-09-17 2021-12-17 上海傲驰广告文化集团有限公司 一种模拟化实景拍摄方法及系统
CN113905145A (zh) * 2021-10-11 2022-01-07 浙江博采传媒有限公司 一种led环幕虚实相机焦点匹配方法及系统
EP3944604A1 (de) * 2020-07-24 2022-01-26 Arnold & Richter Cine Technik GmbH & Co. Betriebs KG Hintergrundwiedergabesystem
CN113989471A (zh) * 2021-12-27 2022-01-28 广州易道智慧信息科技有限公司 虚拟机器视觉系统中虚拟镜头制作方法及系统
CN115134532A (zh) * 2022-07-26 2022-09-30 Oppo广东移动通信有限公司 图像处理方法、装置、存储介质及电子设备
WO2023217138A1 (zh) * 2022-05-13 2023-11-16 腾讯科技(深圳)有限公司 一种参数配置方法、装置、设备、存储介质及产品
CN117527993A (zh) * 2023-11-06 2024-02-06 中影电影数字制作基地有限公司 一种在可控空间中进行虚拟拍摄装置及进行虚拟拍摄的方法
EP4268190A4 (en) * 2021-02-12 2024-06-19 Sony Group Corp PROGRESSIVE MORPHOLOGICAL LENS PARAMETER CODING
CN113674433B (zh) * 2021-08-25 2024-06-28 先壤影视制作(上海)有限公司 混合现实显示方法及系统

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1741570A (zh) * 2004-08-24 2006-03-01 西安宏源视讯设备有限责任公司 虚拟演播室系统中瞬间初始化定位方法
US20140066178A1 (en) * 2012-08-28 2014-03-06 Wms Gaming, Inc. Presenting autostereoscopic gaming content according to viewer position
CN105488801A (zh) * 2015-12-01 2016-04-13 深圳华强数码电影有限公司 球幕电影实拍和三维虚拟场景结合的方法及系统
JP2017138907A (ja) * 2016-02-05 2017-08-10 凸版印刷株式会社 三次元仮想空間提示システム、三次元仮想空間提示方法及びプログラム
FR3066304A1 (fr) * 2017-05-15 2018-11-16 B<>Com Procede de compositon d'une image d'un utilisateur immerge dans une scene virtuelle, dispositif, equipement terminal, systeme de realite virtuelle et programme d'ordinateur associes
CN111698390A (zh) * 2020-06-23 2020-09-22 网易(杭州)网络有限公司 虚拟摄像机控制方法及装置、虚拟演播厅实现方法及系统
US20200311428A1 (en) * 2019-04-01 2020-10-01 Houzz, Inc. Virtual item display simulations

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1741570A (zh) * 2004-08-24 2006-03-01 西安宏源视讯设备有限责任公司 虚拟演播室系统中瞬间初始化定位方法
US20140066178A1 (en) * 2012-08-28 2014-03-06 Wms Gaming, Inc. Presenting autostereoscopic gaming content according to viewer position
CN105488801A (zh) * 2015-12-01 2016-04-13 深圳华强数码电影有限公司 球幕电影实拍和三维虚拟场景结合的方法及系统
JP2017138907A (ja) * 2016-02-05 2017-08-10 凸版印刷株式会社 三次元仮想空間提示システム、三次元仮想空間提示方法及びプログラム
FR3066304A1 (fr) * 2017-05-15 2018-11-16 B<>Com Procede de compositon d'une image d'un utilisateur immerge dans une scene virtuelle, dispositif, equipement terminal, systeme de realite virtuelle et programme d'ordinateur associes
US20200311428A1 (en) * 2019-04-01 2020-10-01 Houzz, Inc. Virtual item display simulations
CN111698390A (zh) * 2020-06-23 2020-09-22 网易(杭州)网络有限公司 虚拟摄像机控制方法及装置、虚拟演播厅实现方法及系统

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11665307B2 (en) 2020-07-24 2023-05-30 Arnold & Richter Cine Technik Gmbh & Co. Betriebs Kg Background display system
EP3944604A1 (de) * 2020-07-24 2022-01-26 Arnold & Richter Cine Technik GmbH & Co. Betriebs KG Hintergrundwiedergabesystem
EP4268190A4 (en) * 2021-02-12 2024-06-19 Sony Group Corp PROGRESSIVE MORPHOLOGICAL LENS PARAMETER CODING
CN113129453A (zh) * 2021-04-23 2021-07-16 浙江博采传媒有限公司 控制led环屏虚拟制片中虚拟环境的方法及系统
CN113674433A (zh) * 2021-08-25 2021-11-19 先壤影视制作(上海)有限公司 混合现实显示方法及系统
CN113674433B (zh) * 2021-08-25 2024-06-28 先壤影视制作(上海)有限公司 混合现实显示方法及系统
CN113810612A (zh) * 2021-09-17 2021-12-17 上海傲驰广告文化集团有限公司 一种模拟化实景拍摄方法及系统
CN113572967B (zh) * 2021-09-24 2021-12-31 北京天图万境科技有限公司 虚拟场景的取景器及取景器系统
CN113572967A (zh) * 2021-09-24 2021-10-29 北京天图万境科技有限公司 虚拟场景的取景器及取景器系统
CN113905145A (zh) * 2021-10-11 2022-01-07 浙江博采传媒有限公司 一种led环幕虚实相机焦点匹配方法及系统
CN113989471A (zh) * 2021-12-27 2022-01-28 广州易道智慧信息科技有限公司 虚拟机器视觉系统中虚拟镜头制作方法及系统
WO2023217138A1 (zh) * 2022-05-13 2023-11-16 腾讯科技(深圳)有限公司 一种参数配置方法、装置、设备、存储介质及产品
CN115134532A (zh) * 2022-07-26 2022-09-30 Oppo广东移动通信有限公司 图像处理方法、装置、存储介质及电子设备
CN117527993A (zh) * 2023-11-06 2024-02-06 中影电影数字制作基地有限公司 一种在可控空间中进行虚拟拍摄装置及进行虚拟拍摄的方法

Also Published As

Publication number Publication date
CN112311965B (zh) 2023-07-07

Similar Documents

Publication Publication Date Title
CN112311965B (zh) 虚拟拍摄方法、装置、系统及存储介质
CN107948519B (zh) 图像处理方法、装置及设备
TWI539809B (zh) 用於全景攝影之定位感測器輔助之影像對位方法及用於其之程式儲存器件及電子器件
CN110322542B (zh) 重建真实世界3d场景的视图
US10764496B2 (en) Fast scan-type panoramic image synthesis method and device
JP2018524832A (ja) パノラマバーチャルリアリティコンテンツの全方位ステレオキャプチャおよびレンダリング
EP3296952B1 (en) Method and device for blurring a virtual object in a video
WO2010028559A1 (zh) 图像拼接方法及装置
WO2014178234A1 (ja) 画像処理装置、画像処理方法、及びプログラム
CN105282421B (zh) 一种去雾图像获取方法、装置及终端
JP2019510234A (ja) 奥行き情報取得方法および装置、ならびに画像取得デバイス
US20200267309A1 (en) Focusing method and device, and readable storage medium
CN110099220B (zh) 一种全景拼接方法及装置
WO2019037038A1 (zh) 图像处理方法、装置及服务器
CN108961423B (zh) 虚拟信息处理方法、装置、设备及存储介质
WO2023207452A1 (zh) 基于虚拟现实的视频生成方法、装置、设备及介质
WO2020011112A1 (zh) 图像处理方法、系统、可读存储介质及终端
CN109690568A (zh) 一种处理方法及移动设备
KR20190062794A (ko) 시점 변환을 이용하는 영상 결합 방법 및 시스템
CN109902675B (zh) 物体的位姿获取方法、场景重构的方法和装置
US20220182595A1 (en) Optical flow based omnidirectional stereo video processing method
CN108632538B (zh) 一种cg动画和相机阵列相结合的子弹时间拍摄系统及方法
CN105467741A (zh) 一种全景拍照方法及终端
JP2017103695A (ja) 画像処理装置、画像処理方法、及びそのプログラム
US11792511B2 (en) Camera system utilizing auxiliary image sensors

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant