CN110139141A - 视频画面渲染方法、装置、存储介质及电子设备 - Google Patents

视频画面渲染方法、装置、存储介质及电子设备 Download PDF

Info

Publication number
CN110139141A
CN110139141A CN201910349542.2A CN201910349542A CN110139141A CN 110139141 A CN110139141 A CN 110139141A CN 201910349542 A CN201910349542 A CN 201910349542A CN 110139141 A CN110139141 A CN 110139141A
Authority
CN
China
Prior art keywords
acceleration
rendering
terminal
picture
time point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910349542.2A
Other languages
English (en)
Other versions
CN110139141B (zh
Inventor
邓朔
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Priority to CN201910349542.2A priority Critical patent/CN110139141B/zh
Publication of CN110139141A publication Critical patent/CN110139141A/zh
Application granted granted Critical
Publication of CN110139141B publication Critical patent/CN110139141B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4312Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44012Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving rendering scenes according to scene graphs, e.g. MPEG-4 scene graphs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/485End-user interface for client configuration
    • H04N21/4858End-user interface for client configuration for modifying screen layout parameters, e.g. fonts, size of the windows

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

本发明提供一种视频画面渲染方法,其包括使用终端的加速度传感器检测终端在第一参考方向上的第一加速度;按设定采样间隔对第一加速度进行采样,获取第一加速度变化时间序列;基于第一加速度变化时间序列,计算当前画面渲染时间点的终端在第一参考方向上的第一加速度;根据当前画面渲染时间点的终端在第一参考方向上的第一加速度,对所述终端的显示画面的渲染窗体尺寸进行调整,并进行画面渲染操作。本发明还提供了一种视频画面渲染方法,本发明基于第一加速度以及第二加速度对终端的显示画面的渲染窗体尺寸以及渲染窗体位置进行调整,可减小或消除用户由于人体感官接收差异带来的画面观看不适。

Description

视频画面渲染方法、装置、存储介质及电子设备
技术领域
本发明涉及图像数据处理领域,特别是涉及一种视频画面渲染方法、装置、存储介质及电子设备。
背景技术
随着5G时代的到来,移动端流量相较于过去变得更以获取以及廉价,并且随着各大运营商推出的免流策略,用户观看视频的场景也逐渐增多,例如坐车出行时观看,运动时也会存在观看的场景。
人们在处于运动场景下观看视频时,由于外界的晃动(例如加速,转弯灯操作),人们身体会感受到频繁的加速减速,而人眼观看到的视频画面播放界面并不会随运动场景发生任何改变。这种感官接收差异会导致部分用户观看不适,例如晕车等。
因此由于在运动场景下的人体感官接收差异,现有的视频画面渲染方法容易导致用户产生画面观看不适。
发明内容
本发明实施例提供一种可消除运动场景下,用户的画面观看不适的视频画面渲染方法及视频画面渲染装置;以解决现有的视频画面渲染方法及视频画面渲染装置的容易导致用户产生画面观看不适的技术问题。
本发明实施例提供一种视频画面渲染方法,其包括:
使用终端的加速度传感器检测所述终端在第一参考方向上的第一加速度,其中所述第一参考方向垂直于所述终端的显示屏所在平面;
按设定采样间隔对所述第一加速度进行采样,获取第一加速度变化时间序列;
基于所述第一加速度变化时间序列,计算当前画面渲染时间点的所述终端在第一参考方向上的第一加速度;以及
根据所述当前画面渲染时间点的所述终端在第一参考方向上的第一加速度,对所述终端的显示画面的渲染窗体尺寸进行调整,并进行画面渲染操作。
本发明实施例还提供一种视频画面渲染装置,其包括:
第一加速度检测模块,用于使用终端的加速度传感器检测所述终端在第一参考方向上的第一加速度,其中所述第一参考方向垂直于所述终端的显示屏所在平面;
第一加速度采样模块,用于按设定采样间隔对所述第一加速度进行采样,获取第一加速度变化时间序列;
第一加速度计算模块,用于基于所述第一加速度变化时间序列,计算当前画面渲染时间点的所述终端在第一参考方向上的第一加速度;以及
窗体调整渲染模块,用于根据所述当前画面渲染时间点的所述终端在第一参考方向上的第一加速度,对所述终端的显示画面的渲染窗体尺寸进行调整,并进行画面渲染操作。
在本发明实施例所述的视频画面渲染装置中,当所述调整比例系数变小1时,所述窗体调整渲染模块还包括:
画面混合单元,用于获取前一画面帧以及当前画面帧;并按预设权重,将所述当前画面帧与所述前一画面帧进行混合;以及
渲染单元,用于对混合后的当前画面帧进行画面渲染操作,以模拟残影效果。
在本发明实施例所述的视频画面渲染装置中,所述第二加速度计算模块包括:
未来第二加速度获取单元,用于获取最近采样点的第二加速度,并将所述最近采样点的第二加速度作为所述最近采样点对应的未来画面渲染时间点的第二加速度;
过去第二加速度获取单元,用于获取次近采样点的第二加速度,并将所述次近采样点的第二加速度作为所述次近采样点对应的过去画面渲染时间点的第二加速度;
当前第二加速度计算单元,用于基于所述当前画面渲染时间点与所述未来画面渲染时间点的时间差,以及所述当前画面渲染时间点与所述过去画面渲染时间点的时间差,通过插值算法获取所述当前画面渲染时间点的所述终端在第二参考方向上的第二加速度。
在本发明实施例所述的视频画面渲染装置中,所述窗体偏移渲染模块包括:
偏移比例系数确定单元,用于根据所述第二加速度以及最大第二加速度,确定所述渲染窗体的偏移比例系数;以及
窗体位置调整单元,用于基于所述偏移比例系数以及所述第二加速度的方向,对所述终端的显示画面的渲染窗体位置进行调整。
本发明实施例还提供一种存储介质,其内存储有处理器可执行指令,所述指令由一个或一个以上处理器加载,以执行上述视频画面渲染方法。
本发明实施例还提供一种电子设备,包括处理器和存储器,所述存储器储存有计算机程序,所述处理器通过调用所述计算机程序,用于执行上述视频画面渲染方法。
相较于现有技术,本发明的视频画面渲染方法、装置、存储介质及电子设备基于第一加速度以及第二加速度对终端的显示画面的渲染窗体尺寸以及渲染窗体位置进行调整,可减小或消除用户由于人体感官接收差异带来的画面观看不适,有效的解决了现有的视频画面渲染方法及视频画面渲染装置的容易导致用户产生画面观看不适的技术问题。
附图说明
图1为本发明的视频画面渲染方法的第一实施例的流程图;
图2为本发明的视频画面渲染方法的第一实施例的步骤S103的流程图;
图3为本发明的视频画面渲染方法的第一实施例的步骤S104的流程图;
图4为本发明的视频画面渲染方法的第二实施例的流程图;
图5为本发明的视频画面渲染方法的第二实施例的步骤S403的流程图;
图6为本发明的视频画面渲染方法的第二实施例的步骤S404的流程图;
图7为本发明的视频画面渲染装置的第一实施例的结构示意图;
图8为本发明的视频画面渲染装置的第一实施例的第一加速度计算模块的结构示意图;
图9为本发明的视频画面渲染装置的第一实施例的窗体调整渲染模块的结构示意图;
图10为本发明的视频画面渲染装置的第二实施例的结构示意图;
图11为本发明的视频画面渲染装置的第二实施例的第二加速度计算模块的结构示意图;
图12为本发明的视频画面渲染装置的第二实施例的窗体偏移渲染模块的结构示意图;
图13a至图13c为本发明的视频画面渲染方法及视频画面渲染装置的具体实施例的视频画面渲染流程图;
图14a至图14c为本发明的视频画面渲染方法及视频画面渲染装置的具体实施例的移动终端画面调整示意图;
图15a为本发明的视频画面渲染装置所在的电子设备的交互环境结构示意图;
图15b为本发明的视频画面渲染装置所在的电子设备的工作环境结构示意图。
具体实施方式
请参照图式,其中相同的组件符号代表相同的组件,本发明的原理是以实施在一个适当的运算环境中来举例说明。以下的说明是基于所例示的本发明具体实施例,其不应被视为限制本发明未在此详述的其它具体实施例。
在以下的说明中,本发明的具体实施例将参考由一部或多部计算机所执行之作业的步骤及符号来说明,除非另有述明。因此,其将可了解到这些步骤及操作,其中有数次提到为由计算机执行,包括了由代表了以一结构化型式中的数据之电子信号的计算机处理单元所操纵。此操纵转换该数据或将其维持在该计算机之内存系统中的位置处,其可重新配置或另外以本领域技术人员所熟知的方式来改变该计算机之运作。该数据所维持的数据结构为该内存之实体位置,其具有由该数据格式所定义的特定特性。但是,本发明原理以上述文字来说明,其并不代表为一种限制,本领域技术人员将可了解到以下所述的多种步骤及操作亦可实施在硬件当中。
本发明的视频画面渲染方法及视频画面渲染装置可设置在任何的具有显示屏的电子设备中,用于对显示屏中的视频画面进行画面渲染操作。该电子设备包括但不限于可穿戴设备、头戴设备、医疗健康平台、个人计算机、服务器计算机、手持式或膝上型设备、移动设备(比如移动电话、个人数字助理(PDA)、媒体播放器等等)、多处理器系统、消费型电子设备、小型计算机、大型计算机、包括上述任意系统或设备的分布式计算环境,等等。该电子设备优选为便携式个人移动终端,以便用户通过该便携式个人移动终端观看视频内容。本发明的视频画面渲染方法和视频画面渲染装置可减少或消除用户由于人体感官接收差异带来的画面观看不适。
请参照图15a,图15a为本发明的视频画面渲染装置所在的电子设备的交互环境结构示意图。电子设备1512通过网络1528与后台服务器1530进行通信,以便对电子设备1512中的视频内容以及视频展示方式进行调整。
用户的画面观看不适的症状主要是人体内调节平衡的耳内前庭以及视觉感官,给大脑传递运动信息时,发生了矛盾,从而产生了混乱的状态,导致身体不适。此类症状产生的原因可分为以下三种:
一、身体感官感受到了运动,但是视觉上未感知到运动;
二、视觉上感知到了运动,但是身体感官上为感受到运动;
三、身体和视觉上感受到的运动出现了较大差异。
当用户处于非匀速的运动状态时,如搭乘公共交通(公交车、飞机、火车、地铁)时,若需要观看视频,则容易产生上述的画面观看不适。
请参照图1,图1为本发明的视频画面渲染方法的第一实施例的流程图。本实施例的视频画面渲染方法可使用上述的电子设备进行实施,本实施例的视频画面渲染方法包括:
步骤S101,使用终端的加速度传感器检测终端在第一参考方向上的第一加速度,其中第一参考方向垂直于终端的显示屏所在平面;
步骤S102,按设定采样间隔对第一加速度进行采样,获取第一加速度变化时间序列;
步骤S103,基于第一加速度变化时间序列,计算当前画面渲染时间点的终端在第一参考方向上的第一加速度;
步骤S104,根据当前画面渲染时间点的终端在第一参考方向上的第一加速度,对终端的显示画面的渲染窗体尺寸进行调整,并进行画面渲染操作。
下面详细说明本实施例的视频画面渲染方法的各步骤的具体流程。
在步骤S101中,电子设备(如便携式个人移动终端)使用对应移动终端的加速度传感器检测终端在第一参考方向上的第一加速度。这里的第一参考方向垂直于移动终端的显示屏所在平面。这里的垂直包括但不限于完全垂直以及具有一定偏差的大致垂直。
由于用户观看到的真实物体的尺寸会和该物体和用户之间垂直方向的相对速度相关,如物体远离用户,则该物体的尺寸会变小,而物体靠近用户,该物体的尺寸会变大。
在本步骤中,电子设备通过检测移动终端的第一加速度,来确定用户感受到的加速度,以便通过加速度来对显示屏的显示画面的尺寸进行修正,以使得人眼视觉上感受到同样的加速度。由于人眼视觉感受到显示画面的尺寸大小与垂直于终端的显示屏所在平面的第一参考方向的第一加速度相关(设定显示屏朝外为正向),因此这里获取移动终端在第一参考方向上的第一加速度。
具体的,由于用户在手持移动终端进行视频画面观看时,人体的手持状态是无法保持绝对稳定以及静止的,因此电子设备还可对终端在第一参考方向上的第一加速度进行滤波操作,这样可有效的将手部的晃动、车辆运动过程中的颠簸等加速度信息进行过滤。
在步骤S102中,电子设备,按设定采样间隔对第一加速度进行采样,获取第一加速度变化时间序列。
这里的第一加速度变化时间序列是用于表示第一加速度与采集时间的对应关系的序列,如以1秒为设定采样间隔来采集第一加速度,则可生成时间间隔为1秒的第一加速度变化时间序列。如(11.715(米/秒2)、10.725、9.5),每个加速度之间的检测间隔为1秒。
具体的,这里为了提高采样的第一加速度的准确性,可在1秒中内进行多次采样取均值,以消除单次采样造成的误差。
在步骤S103中,电子设备基于步骤S102获取的第一加速度变化时间序列,计算当前画面渲染时间点的终端在第一参考方向上的第一加速度。
具体请参照图2,图2为本发明的视频画面渲染方法的第一实施例的步骤S103的流程图。该步骤S103包括:
步骤S201,电子设备获取最近采样点的第一加速度,并将最近采样点的第一加速度作为最近采样点对应的未来画面渲染时间点的第一加速度。
由于电子设备一般是前一个采样段的采样信息确定当前采样段的画面渲染帧的渲染效果。因此电子设备会将最近采样点的第一加速度作为对应的未来画面渲染时间点的第一加速度。
步骤S202,电子设备获取次近采样点的第一加速度,并将次近采样点的第一加速度作为次近采样点对应的过去画面渲染时间点的第一加速度。
即电子设备会将最近采样点的第一加速度作为对应的当前画面渲染时间点之前的过去画面渲染时间点的第一加速度。
步骤S203,电子设备基于当前画面渲染时间点与步骤S201获取的未来画面渲染时间点的时间差,以及当前画面渲染时间点与步骤S202获取的过去画面渲染时间点的时间差,通过插值算法获取当前时间画面渲染时间点的终端在第一参考方向上的第一加速度。
如未来画面渲染时间点为15秒,未来画面渲染时间点对应的第一加速度(即最近采样点的第一加速度)为10米/秒2,过去画面渲染时间点为14秒,过去画面渲染时间点对应的第一加速度(即次近采样点的第一加速度)为9米/秒2。如当前画面渲染时间点为14.2秒,则当前画面渲染时间点的终端在第一参考方向上的第一加速度为10+(9-10)*(15-14.2)/(15-14)=9.29米/秒2
步骤S104,电子设备根据步骤S103获取的当前画面渲染时间点的终端在第一参考方向上的第一加速度,对终端的显示画面的渲染窗体尺寸进行调整。
具体请参照图3,图3为本发明的视频画面渲染方法的第一实施例的步骤S104的流程图。该步骤S104包括:
步骤S301,电子设备根据步骤S103获取的当前画面渲染时间点的终端在第一参考方向上的第一加速度以及预设的最大第一加速度,确定渲染窗体尺寸的调整比例系数。可通过下式确定调整比例系数X:
X=1-(ai/amax);
其中ai为当前第一加速度,amax为预设的最大第一加速度,由于很多交通工具的加速和减速的最大加速度是不同的,因此当ai大于0时对应的amax与ai小于0时对应的amax也是可以不同的。同时amax的数值设置可较好的对调整比例系数X的调整范围进行调整。
这里设定显示屏朝外的方向为第一加速度的正向,即用户感觉远离移动终端的显示屏,调整比例系数X变小。
从上述可以看出,较大的第一加速度对应的调整比例系数较小,即较大的当前第一加速度对应的调整比例系数小于较小的当前第一加速度对应的调整比例系数。
步骤S302,电子设备基于步骤S301获取的调整比例系数,对终端的显示画面的渲染窗体尺寸进行调整。可通过下式确定渲染窗体的尺寸:
Object(w,h)i=X*Object(w,h)o
其中Object(w,h)i为当前渲染窗体尺寸,Object(w,h)o为预设渲染窗体尺寸,w为窗体长度,h为窗体高度。
随后以显示画面中心为调整参照点,对终端的显示画面的渲染窗体尺寸进行调整,即将渲染窗体的尺寸逐渐调整到Object(w,h)i
具体的,当调整比例系数X变小时,由于渲染窗体的尺寸变小,为了进一步加强用户的视觉运动感知,这里电子设备将前一画面帧与当前画面帧按预设权重(如3:7)进行混合,随后对混合后的当前画面帧进行画面渲染操作,可较好的模拟显示画面的残影效果,即用户视觉可更强烈的感知到渲染窗体的尺寸变化。
最后电子设备对调整后的终端的显示画面进行画面渲染操作。
这样即完成了本实施例的视频画面渲染方法的视频画面渲染过程。
本实施例的视频画面渲染方法基于第一加速度对终端的显示画面的渲染窗体尺寸进行调整,可有效的减小或消除用户由于人体感官接收差异带来的画面观看不适。
请参照图4,图4为本发明的视频画面渲染方法的第二实施例的流程图。本实施例的视频画面渲染方法可使用上述的电子设备进行实施,本实施例的视频画面渲染方法包括:
步骤S401,使用终端的加速度传感器检测终端在第二参考方向上的第二加速度,其中第二参考方向平行于所述终端的显示屏所在平面,且垂直于第一参考方向;
步骤S402,按设定采样间隔对第二加速度进行采样,获取第二加速度变化时间序列;
步骤S403,基于第二加速度变化时间序列,计算当前画面渲染时间点的终端在第二参考方向上的第二加速度;
步骤S404,根据当前画面渲染时间点的终端在第二参考方向上的第二加速度,对终端的显示画面的渲染窗体偏移进行调整,并进行画面渲染操作。
下面详细说明本实施例的视频画面渲染方法的各步骤的具体流程。
在步骤S401中,电子设备使用对应移动终端的加速度传感器检测终端在第二参考方向上的第二加速度。这里的第二参考方向平行于终端的显示屏所在平面,且垂直于第一参考方向。这里的垂直包括但不限于完全垂直以及具有一定偏差的大致垂直。这里的平行包括当不限于完全平行以及具有一定偏差的大致平行。
由于用户观看到的真实物体的偏移量会和该物体和用户之间水平方向的相对速度相关,如物体相对用户向右运动,则物体会向左偏移;而物体相对用户向左运动,则物体会向右偏移。
在本步骤中,电子设备通过检测移动终端的第二加速度,来确定用户感受到的加速度,以便通过加速度来对显示屏的显示画面的位置进行修正,以使得人眼视觉上感受到同样的加速度。由于人眼视觉感受到显示画面的位置与平行于终端的显示屏所在平面、且垂直于第一参考方向的第二参考方向的第二加速度相关,因此这里获取移动终端在第二参考方向上的第二加速度。
具体的,由于用户在手持移动终端进行视频画面观看时,人体的手持状态是无法保持绝对稳定以及静止的,因此电子设备还可对终端在第二参考方向上的第二加速度进行滤波操作,这样可有效的将手部的晃动、车辆运动过程中的颠簸等加速度信息进行过滤。
在步骤S402中,电子设备,按设定采样间隔对第二加速度进行采样,获取第二加速度变化时间序列。
这里的第二加速度变化时间序列是用于表示第二加速度与采集时间的对应关系的序列,如以1秒为设定采样间隔来采集第二加速度,则可生成时间间隔为1秒的第二加速度变化时间序列。如(11.715(米/秒2)、10.725、9.5),每个加速度之间的检测间隔为1秒。
具体的,这里为了提高采样的第二加速度的准确性,可在1秒中内进行多次采样取均值,以消除单次采样造成的误差。
在步骤S403中,电子设备基于步骤S402获取的第二加速度变化时间序列,计算当前画面渲染时间点的终端在第二参考方向上的第二加速度。
具体请参照图5,图5为本发明的视频画面渲染方法的第二实施例的步骤S403的流程图。该步骤S403包括:
步骤S501,电子设备获取最近采样点的第二加速度,并将最近采样点的第二加速度作为最近采样点对应的未来画面渲染时间点的第二加速度。
由于电子设备一般是前一个采样段的采样信息确定当前采样段的画面渲染帧的渲染效果。因此电子设备会将最近采样点的第二加速度作为对应的未来画面渲染时间点的第二加速度。
步骤S502,电子设备获取次近采样点的第二加速度,并将次近采样点的第二加速度作为次近采样点对应的过去画面渲染时间点的第二加速度。
即电子设备会将最近采样点的第二加速度作为对应的当前画面渲染时间点之前的过去画面渲染时间点的第二加速度。
步骤S503,电子设备基于当前画面渲染时间点与步骤S501获取的未来画面渲染时间点的时间差,以及当前画面渲染时间点与步骤S502获取的过去画面渲染时间点的时间差,通过插值算法获取当前时间画面渲染时间点的终端在第二参考方向上的第二加速度。
如未来画面渲染时间点为15秒,未来画面渲染时间点对应的第二加速度(即最近采样点的第二加速度)为10米/秒2,过去画面渲染时间点为14秒,过去画面渲染时间点对应的第二加速度(即次近采样点的第二加速度)为9米/秒2。如当前画面渲染时间点为14.2秒,则当前画面渲染时间点的终端在第二参考方向上的第二加速度为10+(9-10)*(15-14.2)/(15-14)=9.29米/秒2
步骤S404,电子设备根据步骤S403获取的当前画面渲染时间点的终端在第二参考方向上的第二加速度,对终端的显示画面的渲染窗体偏移进行调整。
具体请参照图6,图6为本发明的视频画面渲染方法的第二实施例的步骤S404的流程图。该步骤S404包括:
步骤S601,电子设备根据步骤S403获取的当前画面渲染时间点的终端在第二参考方向上的第二加速度以及预设的最大第二加速度,确定渲染窗体的偏移比例系数。可通过下式确定偏移比例系数Y:
Y=bi/bmax
其中bi为当前第二加速度,bmax为预设的最大第二加速度,这里的当前第二加速度bi是具有加速度方向的,即可根据第二加速度bi的大小和方向对渲染窗体的位置进行调整。同时bmax的数值设置可较好的对偏移比例系数Y的调整范围进行调整,bmax的数值越大,渲染窗体位置的偏移调整比例越小。
从上述可以看出,较大的所述第二加速度对应的偏移比例系数较大,即较大的当前第二加速度对应的偏移比例系数大于较小的当前第二加速度对应的偏移比例系数。
步骤S602,电子设备基于步骤S601获取的偏移比例系数以及第二加速度的方向,对终端的显示画面的渲染窗体的位置进行调整。可通过下式确定渲染窗体的偏移位置量:
Object(L)i=Y*Object(L)o
其中Object(L)i为当前渲染窗体在第二加速度方向的反方向的偏移位置量,Object(L)o为当前渲染窗体在第二加速度方向上窗体长度。
随后在第二加速度方向的反方向,对终端的显示画面的渲染窗体进行位置调整,即将当前渲染窗体的中心点偏移Object(L)i
最后电子设备对调整后的终端的显示画面进行画面渲染操作。
这样即完成了本实施例的视频画面渲染方法的视频画面渲染过程。
本实施例的视频画面渲染方法基于第二加速度对终端的显示画面的渲染窗体位置进行调整,可有效的减小或消除用户由于人体感官接收差异带来的画面观看不适。
本实施例的视频画面渲染方法可与视频画面渲染方法的第一实施例同时实施,即同时基于第一加速度以及第二加速度对终端的显示画面的渲染窗体尺寸以及渲染窗体位置进行调整,可更好的减小或消除用户由于人体感官接收差异带来的画面观看不适。
本发明还提供一种视频画面渲染装置,请参照图7,图7为本发明的视频画面渲染装置的第一实施例的结构示意图。本实施例的视频画面渲染装置可使用上述的视频画面渲染方法的第一实施例进行实施。本实施例的视频画面渲染装置70包括第一加速度检测模块71、第一加速度采样模块72、第一加速度计算模块73以及窗体调整渲染模块74。
第一加速度检测模块71用于使用终端的加速度传感器检测终端在第一参考方向上的第一加速度,其中第一参考方向垂直于所述终端的显示屏所在平面;第一加速度采样模块72用于按设定采样间隔对第一加速度进行采样,获取第一加速度变化时间序列;第一加速度计算模块73用于基于第一加速度变化时间序列,计算当前画面渲染时间点的终端在第一参考方向上的第一加速度;窗体调整渲染模块74用于根据当前画面渲染时间点的终端在第一参考方向上的第一加速度,对终端的显示画面的渲染窗体尺寸进行调整,并进行画面渲染操作。
具体的,本实施例的视频画面渲染装置70还可包括滤波模块75,该滤波模块75用于对终端在第一参考方向上的第一加速度进行滤波操作。
请参照图8,图8为本发明的视频画面渲染装置的第一实施例的第一加速度计算模块的结构示意图。该第一加速度计算模块73包括未来第一加速度获取单元81、过去第一加速度获取单元82以及当前第一加速度计算单元83。
未来第一加速度获取单元81用于获取最近采样点的第一加速度,并将最近采样点的第一加速度作为最近采样点对应的未来画面渲染时间点的第一加速度;过去第一加速度获取单元82用于获取次近采样点的第一加速度,并将次近采样点的第一加速度作为次近采样点对应的过去画面渲染时间点的第一加速度;当前第一加速度计算单元83用于基于当前画面渲染时间点与未来画面渲染时间点的时间差,以及当前画面渲染时间点与过去画面渲染时间点的时间差,通过插值算法获取当前画面渲染时间点的所述终端在第一参考方向上的第一加速度。
请参照图9,图9为本发明的视频画面渲染装置的第一实施例的窗体调整渲染模块的结构示意图。该窗体调整渲染模块74包括调整比例系数确定单元91以及窗体尺寸调整单元92。
调整比例系数确定单元91用于根据第一加速度以及最大第一加速度,确定渲染窗体尺寸的调整比例系数;其中较大的第一加速度对应的调整比例系数较小;窗体尺寸调整单元92用于基于调整比例系数,对终端的显示画面的渲染窗体尺寸进行调整。
具体的,该窗体调整渲染模块74还可包括画面混合单元93以及渲染单元94。画面混合单元用于获取前一画面帧以及当前画面帧;并按预设权重,将当前画面帧与前一画面帧进行混合;渲染单元用于对混合后的当前画面帧进行画面渲染操作,以模拟残影效果。
本实施例的视频画面渲染装置70使用时,首先第一加速度检测模块71使用对应移动终端的加速度传感器检测终端在第一参考方向上的第一加速度。这里的第一参考方向垂直于移动终端的显示屏所在平面。由于用户观看到的真实物体的尺寸会和该物体和用户之间垂直方向的相对速度相关,如物体远离用户,则该物体的尺寸会变小,而物体靠近用户,该物体的尺寸会变大。
第一加速度检测模块71通过检测移动终端的第一加速度,来确定用户感受到的加速度,以便通过加速度来对显示屏的显示画面的尺寸进行修正,以使得人眼视觉上感受到同样的加速度。由于人眼视觉感受到显示画面的尺寸大小与垂直于终端的显示屏所在平面的第一参考方向的第一加速度相关(设定显示屏朝外为正向),因此这里获取移动终端在第一参考方向上的第一加速度。
具体的,由于用户在手持移动终端进行视频画面观看时,人体的手持状态是无法保持绝对稳定以及静止的,因此滤波模块75还可对终端在第一参考方向上的第一加速度进行滤波操作,这样可有效的将手部的晃动、车辆运动过程中的颠簸等加速度信息进行过滤。
随后第一加速度采样模块72按设定采样间隔对第一加速度进行采样,获取第一加速度变化时间序列。
这里的第一加速度变化时间序列是用于表示第一加速度与采集时间的对应关系的序列,如以1秒为设定采样间隔来采集第一加速度,则可生成时间间隔为1秒的第一加速度变化时间序列。如(11.715(米/秒2)、10.725、9.5),每个加速度之间的检测间隔为1秒。
具体的,这里为了提高采样的第一加速度的准确性,可在1秒中内进行多次采样取均值,以消除单次采样造成的误差。
然后第一加速度计算模块73基于获取的第一加速度变化时间序列,计算当前画面渲染时间点的终端在第一参考方向上的第一加速度。
具体包括:
第一加速度计算模块73的未来第一加速度获取单元81获取最近采样点的第一加速度,并将最近采样点的第一加速度作为最近采样点对应的未来画面渲染时间点的第一加速度。
由于视频画面渲染装置一般是前一个采样段的采样信息确定当前采样段的画面渲染帧的渲染效果。因此未来第一加速度获取单元81会将最近采样点的第一加速度作为对应的未来画面渲染时间点的第一加速度。
第一加速度计算模块73的过去第一加速度获取单元82获取次近采样点的第一加速度,并将次近采样点的第一加速度作为次近采样点对应的过去画面渲染时间点的第一加速度。
即过去第一加速度获取单元82会将最近采样点的第一加速度作为对应的当前画面渲染时间点之前的过去画面渲染时间点的第一加速度。
第一加速度计算模块73的当前第一加速度计算单元83基于当前画面渲染时间点与获取的未来画面渲染时间点的时间差、以及当前画面渲染时间点与步骤获取的过去画面渲染时间点的时间差,通过插值算法获取当前时间画面渲染时间点的终端在第一参考方向上的第一加速度。
最后窗体调整渲染模块74根据获取的当前画面渲染时间点的终端在第一参考方向上的第一加速度,对终端的显示画面的渲染窗体尺寸进行调整。
具体包括:
窗体调整渲染模块74的调整比例系数确定单元91根据步骤获取的当前画面渲染时间点的终端在第一参考方向上的第一加速度以及预设的最大第一加速度,确定渲染窗体尺寸的调整比例系数。可通过下式确定调整比例系数X:
X=1-(ai/amax);
其中ai为当前第一加速度,amax为预设的最大第一加速度,由于很多交通工具的加速和减速的最大加速度是不同的,因此当ai大于0时对应的amax与ai小于0时对应的amax也是可以不同的。同时amax的数值设置可较好的对调整比例系数X的调整范围进行调整。
这里设定显示屏朝外的方向为第一加速度的正向,即用户感觉远离移动终端的显示屏,调整比例系数X变小。
从上述可以看出,较大的第一加速度对应的调整比例系数较小,即较大的当前第一加速度对应的调整比例系数小于较小的当前第一加速度对应的调整比例系数。
窗体调整渲染模块74的窗体尺寸调整单元92基于获取的调整比例系数,对终端的显示画面的渲染窗体尺寸进行调整。可通过下式确定渲染窗体的尺寸:
Object(w,h)i=X*Object(w,h)o
其中Object(w,h)i为当前渲染窗体尺寸,Object(w,h)o为预设渲染窗体尺寸,w为窗体长度,h为窗体高度。
随后以显示画面中心为调整参照点,对终端的显示画面的渲染窗体尺寸进行调整,即将渲染窗体的尺寸逐渐调整到Object(w,h)i
具体的,当调整比例系数X变小时,由于渲染窗体的尺寸变小,为了进一步加强用户的视觉运动感知,画面混合单元93将前一画面帧与当前画面帧按预设权重(如3:7)进行混合,随后渲染单元94对混合后的当前画面帧进行画面渲染操作,可较好的模拟显示画面的残影效果,即用户视觉可更强烈的感知到渲染窗体的尺寸变化。
最后窗体调整渲染模块74对调整后的终端的显示画面进行画面渲染操作。
这样即完成了本实施例的视频画面渲染装置70的视频画面渲染过程。
本实施例的视频画面渲染装置基于第一加速度对终端的显示画面的渲染窗体尺寸进行调整,可有效的减小或消除用户由于人体感官接收差异带来的画面观看不适。
请参照图10,图10为本发明的视频画面渲染装置的第二实施例的结构示意图。本实施例的视频画面渲染装置可使用上述的视频画面渲染方法的第二实施例进行实施。本实施例的视频画面渲染装置100包括第二加速度检测模块101、第二加速度采样模块102、第二加速度计算模块103以及窗体偏移渲染模块104。
第二加速度检测模块101用于使用终端的加速度传感器检测终端在第二参考方向上的第二加速度,其中第二参考方向平行于终端的显示屏所在平面,且垂直于第一参考方向;第二加速度采样模块102用于按设定采样间隔对第二加速度进行采样,获取第二加速度变化时间序列;第二加速度计算模块103用于基于第二加速度变化时间序列,计算当前画面渲染时间点的终端在第二参考方向上的第二加速度;窗体偏移渲染模块104用于根据当前画面渲染时间点的终端在第二参考方向上的第二加速度,对终端的显示画面的渲染窗体偏移进行调整,并进行画面渲染操作。
具体的,本实施例的视频画面渲染装置100还可包括滤波模块105,该滤波模块用于对终端在第二参考方向上的第二加速度进行滤波操作。
请参照图11,图11为本发明的视频画面渲染装置的第二实施例的第二加速度计算模块的结构示意图。该第二加速度计算模块103包括未来第二加速度获取单元111、过去第二加速度获取单元112以及当前第二加速度计算单元113。
未来第二加速度获取单元111用于获取最近采样点的第二加速度,并将最近采样点的第二加速度作为最近采样点对应的未来画面渲染时间点的第二加速度;过去第二加速度获取单元112用于获取次近采样点的第二加速度,并将次近采样点的第二加速度作为次近采样点对应的过去画面渲染时间点的第二加速度;当前第二加速度计算单元113用于基于当前画面渲染时间点与未来画面渲染时间点的时间差,以及当前画面渲染时间点与过去画面渲染时间点的时间差,通过插值算法获取当前画面渲染时间点的所述终端在第二参考方向上的第二加速度。
请参照图12,图12为本发明的视频画面渲染装置的第二实施例的窗体偏移渲染模块的结构示意图。该窗体偏移渲染模块104包括偏移比例系数确定单元121以及窗体位置调整单元122。
偏移比例系数确定单元121用于根据第二加速度以及最大第二加速度,确定渲染窗体的偏移比例系数;其中较大的第二加速度对应的偏移比例系数较大;窗体位置调整单元122用于基于偏移比例系数以及第二加速度的方向,对终端的显示画面的渲染窗体位置进行调整。
本实施例的视频画面渲染装置100使用时,首先第二加速度检测模块101使用对应移动终端的加速度传感器检测终端在第二参考方向上的第二加速度。这里的第二参考方向平行于终端的显示屏所在平面,且垂直于第一参考方向。由于用户观看到的真实物体的偏移量会和该物体和用户之间水平方向的相对速度相关,如物体相对用户向右运动,则物体会向左偏移;而物体相对用户向左运动,则物体会向右偏移。
第二加速度检测模块101通过检测移动终端的第二加速度,来确定用户感受到的加速度,以便通过加速度来对显示屏的显示画面的位置进行修正,以使得人眼视觉上感受到同样的加速度。由于人眼视觉感受到显示画面的位置与平行于终端的显示屏所在平面、且垂直于第一参考方向的第二参考方向的第二加速度相关,因此这里获取移动终端在第二参考方向上的第二加速度。
具体的,由于用户在手持移动终端进行视频画面观看时,人体的手持状态是无法保持绝对稳定以及静止的,因此滤波模块105还可对终端在第二参考方向上的第二加速度进行滤波操作,这样可有效的将手部的晃动、车辆运动过程中的颠簸等加速度信息进行过滤。
随后第二加速度采样模块102按设定采样间隔对第二加速度进行采样,获取第二加速度变化时间序列。
这里的第二加速度变化时间序列是用于表示第二加速度与采集时间的对应关系的序列,如以1秒为设定采样间隔来采集第二加速度,则可生成时间间隔为1秒的第二加速度变化时间序列。如(11.715(米/秒2)、10.725、9.5),每个加速度之间的检测间隔为1秒。
具体的,这里为了提高采样的第二加速度的准确性,可在1秒中内进行多次采样取均值,以消除单次采样造成的误差。
然后第二加速度计算模块103基于获取的第二加速度变化时间序列,计算当前画面渲染时间点的终端在第二参考方向上的第二加速度。
具体包括:
第二加速度计算模块103的未来第二加速度获取单元111获取最近采样点的第二加速度,并将最近采样点的第二加速度作为最近采样点对应的未来画面渲染时间点的第二加速度。
由于视频画面渲染装置一般是前一个采样段的采样信息确定当前采样段的画面渲染帧的渲染效果。因此未来第二加速度获取单元111会将最近采样点的第二加速度作为对应的未来画面渲染时间点的第二加速度。
第二加速度计算模块103的过去第二加速度获取单元112获取次近采样点的第二加速度,并将次近采样点的第二加速度作为次近采样点对应的过去画面渲染时间点的第二加速度。
即过去第二加速度获取单元112会将最近采样点的第二加速度作为对应的当前画面渲染时间点之前的过去画面渲染时间点的第二加速度。
第二加速度计算模块103的当前第二加速度计算单元113基于当前画面渲染时间点与获取的未来画面渲染时间点的时间差,以及当前画面渲染时间点与获取的过去画面渲染时间点的时间差,通过插值算法获取当前时间画面渲染时间点的终端在第二参考方向上的第二加速度。
最后窗体偏移渲染模块104根据步骤获取的当前画面渲染时间点的终端在第二参考方向上的第二加速度,对终端的显示画面的渲染窗体偏移进行调整。
具体包括:
窗体偏移渲染模块104的偏移比例系数确定单元121根据获取的当前画面渲染时间点的终端在第二参考方向上的第二加速度以及预设的最大第二加速度,确定渲染窗体的偏移比例系数。可通过下式确定偏移比例系数Y:
Y=bi/bmax
其中bi为当前第二加速度,bmax为预设的最大第二加速度,这里的当前第二加速度bi是具有加速度方向的,即可根据第二加速度bi的大小和方向对渲染窗体的位置进行调整。同时bmax的数值设置可较好的对偏移比例系数Y的调整范围进行调整,bmax的数值越大,渲染窗体位置的偏移调整比例越小。
从上述可以看出,较大的所述第二加速度对应的偏移比例系数较大,即较大的当前第二加速度对应的偏移比例系数大于较小的当前第二加速度对应的偏移比例系数。
窗体偏移渲染模块104的窗体位置调整单元122基于获取的偏移比例系数以及第二加速度的方向,对终端的显示画面的渲染窗体的位置进行调整。可通过下式确定渲染窗体的偏移位置量:
Object(L)i=Y*Object(L)o
其中Object(L)i为当前渲染窗体在第二加速度方向的反方向的偏移位置量,Object(L)o为当前渲染窗体在第二加速度方向上窗体长度。
随后窗体偏移渲染模块104在第二加速度方向的反方向,对终端的显示画面的渲染窗体进行位置调整,即将当前渲染窗体的中心点偏移Object(L)i
最后窗体偏移渲染模块104对调整后的终端的显示画面进行画面渲染操作。
这样即完成了本实施例的视频画面渲染装置100的视频画面渲染过程。
本实施例的视频画面渲染装置基于第二加速度对终端的显示画面的渲染窗体位置进行调整,可有效的减小或消除用户由于人体感官接收差异带来的画面观看不适。
本实施例的视频画面渲染装置可与视频画面渲染装置的第一实施例同时实施,即同时基于第一加速度以及第二加速度对终端的显示画面的渲染窗体尺寸以及渲染窗体位置进行调整,可更好的减小或消除用户由于人体感官接收差异带来的画面观看不适。
下面通过一个具体实施例说明本发明的视频画面渲染方法及视频画面渲染装置的工作原理。请参照图13a-13c和图14a-14c,图13a至图13c为本发明的视频画面渲染方法及视频画面渲染装置的具体实施例的视频画面渲染流程图。图14a至图14c为本发明的视频画面渲染方法及视频画面渲染装置的具体实施例的移动终端画面调整示意图。本具体实施例中用户观看手持的移动终端,如手机或平板电脑等。用户面朝交通工具的前进方向,移动终端的显示屏的朝向与交通工具的前进方向大致相反。
当交通工具加速行驶时,移动终端进行画面渲染的过程包括:
步骤S1301a,移动终端通过加速度传感器检测到第一参考方向上负向的第一加速度(这设定显示屏朝外为正向)。
步骤S1302a,移动终端按设定采样间隔对上述第一加速度进行采样,并获取第一加速度变化时间序列(-9.5、……、-10.725、-11.715),采样间隔为1秒。
步骤S1303a,移动终端将最近采样点的第一加速度,作为未来时间16秒时的未来画面渲染时间点的第一加速度;将次近采样点的第一加速度,作为过去时间15秒时的过去画面渲染时间点的第一加速度。
这里设定视频画面内容的播放帧率为24FPS,则移动终端一秒钟需要播放24帧画面,如当前画面渲染时间点为15.5秒,通过插值算法计算当前画面渲染时间点的终端在第一参考方向上的第一加速度为:
-10.725+(-10.725+11.715)*(16-15.5)/(16-15)=-11.22米/秒2
步骤S1304a,移动终端根据当前画面渲染时间点的终端在第一参考方向上的第一加速度对终端的显示画面的渲染窗体尺寸进行调整。这里设定渲染窗体尺寸的调整范围是0.5倍至2倍。则可预设最大第一加速度为30米/秒2左右。
这样渲染窗体尺寸的调整比例系数可为:
X=1-(-11.22/30)=1.374。
15秒时的渲染窗体尺寸的调整比例系数为1-(-10.725/30)=1.357。
16秒时的渲染窗体尺寸的调整比例系数为1-(-11.715/30)=1.391。
移动终端从15秒、15.5秒至16秒的渲染窗体的尺寸分别为:1.357倍预设渲染窗体尺寸、1.374倍预设渲染窗体尺寸以及1.391倍预设渲染窗体尺寸。即移动终端的显示画面的渲染窗体尺寸均大于预设渲染窗体尺寸,且随着第一加速度的反向增加,渲染窗体尺寸在逐渐变大,移动终端按照逐帧增大的显示画面进行画面渲染操作即可。具体如图14a所示,其中1401a为预设渲染窗体,1402a为15秒的渲染窗体,1403a为15.5秒的渲染窗体,1404a为16秒的渲染窗体。
交通工具起步操作时,第一加速度会向反向增加,再反向减小,最后维持在匀速状态,对应的第一加速度变化时间序列为(-9.5、……、-10.725、-11.715,-10.725、-10.225、……、-2.5、0)。移动终端的显示画面的渲染窗体尺寸会逐渐变大,再逐渐变小,最后保持为预设渲染窗体尺寸,整个过程移动终端的显示画面的渲染窗体尺寸均大于等于预设渲染窗体尺寸。
当交通工具减速行驶时,移动终端进行画面渲染的过程包括:
步骤S1301b,移动终端通过加速度传感器检测到第一参考方向上正向的第一加速度(这设定显示屏朝外为正向)。
步骤S1302b,移动终端按设定采样间隔对上述第一加速度进行采样,并获取第一加速度变化时间序列(9.5、……、10.725、11.715),采样间隔为1秒。
步骤S1303b,移动终端将最近采样点的第一加速度,作为未来时间16秒时的未来画面渲染时间点的第一加速度;将次近采样点的第一加速度,作为过去时间15秒时的过去画面渲染时间点的第一加速度。
这里设定视频画面内容的播放帧率为24FPS,则移动终端一秒钟需要播放24帧画面,如当前画面渲染时间点为15.5秒,通过插值算法计算当前画面渲染时间点的终端在第一参考方向上的第一加速度为:
10.725+(11.715-10.725)*(16-15.5)/(16-15)=11.22米/秒2
步骤S1304b,移动终端根据当前画面渲染时间点的终端在第一参考方向上的第一加速度对终端的显示画面的渲染窗体尺寸进行调整。这里设定渲染窗体尺寸的调整范围是0.5倍至2倍。则可预设最大第一加速度为30米/秒2左右。
这样渲染窗体尺寸的调整比例系数可为:
X=1-(11.22/30)=0.626。
15秒时的渲染窗体尺寸的调整比例系数为1-(10.725/30)=0.643。
16秒时的渲染窗体尺寸的调整比例系数为1-(11.715/30)=0.609。
移动终端从15秒、15.5秒至16秒的渲染窗体的尺寸分别为:0.643倍预设渲染窗体尺寸、0.626倍预设渲染窗体尺寸以及0.609倍预设渲染窗体尺寸。即移动终端的显示画面的渲染窗体尺寸均小于预设渲染窗体尺寸,且随着第一加速度的增加,渲染窗体尺寸在逐渐变小,移动终端按照逐帧变小的显示画面进行画面渲染操作即可。具体如图14b所示,其中1401b为预设渲染窗体,1402b为15秒的渲染窗体,1403b为15.5秒的渲染窗体,1404b为16秒的渲染窗体。
交通工具停车操作时,第一加速度会向正向增加,再正向减小,最后达到停车状态,对应的第一加速度变化时间序列为(9.5、……、10.725、11.715、10.725、10.225、……、2.5、0)。移动终端的显示画面的渲染窗体尺寸会逐渐变小,再逐渐变大,最后保持为预设渲染窗体尺寸,整个过程移动终端的显示画面的渲染窗体尺寸均小于等于预设渲染窗体尺寸。
当交通工具转向行驶时,移动终端进行画面渲染的过程包括:
步骤S1301c,移动终端通过加速度传感器检测到第二参考方向上的第二加速度。
步骤S1302c,移动终端按设定采样间隔对上述第二加速度进行采样,并获取第二加速度变化时间序列(3.5、……、4.5、5.5),采样间隔为1秒。
步骤S1303c,移动终端将最近采样点的第二加速度,作为未来时间16秒时的未来画面渲染时间点的第二加速度;将次近采样点的第二加速度,作为过去时间15秒时的过去画面渲染时间点的第二加速度。
这里设定视频画面内容的播放帧率为24FPS,则移动终端一秒钟需要播放24帧画面,如当前画面渲染时间点为15.5秒,通过插值算法计算当前画面渲染时间点的终端在第二参考方向上的第二加速度为:
4.5+(5.5-4.5)*(16-15.5)/(16-15)=5米/秒2
步骤S1304c,移动终端根据当前画面渲染时间点的终端在第二参考方向上的第二加速度以及第二加速度的方向对终端的显示画面的渲染窗体位置进行调整。这里设定渲染窗体偏移的调整范围是20%以下。则可预设最大第二加速度为50米/秒2左右。
这样渲染窗体的偏移比例系数可为:
Y=5/50=0.1;
15秒时的渲染窗体的偏移比例系数为4.5/50=0.09。
16秒时的渲染窗体的偏移比例系数为5.5/50=0.11。
移动终端从15秒、15.5秒至16秒的渲染窗体的偏移量分别为:0.09倍的窗体长度、0.1倍的窗体长度以及0.11倍的窗体长度,这里的窗体长度为渲染窗体在第二加速度方向上的窗体长度。如交通工具向左转向,则渲染窗体朝第二加速度方向的反方向(即右)偏移设定偏移量,且随着第二加速度的增加,渲染窗体的偏移量在逐渐变大,移动终端按照逐帧偏移的显示画面进行画面渲染操作即可。具体如图14c所示,其中1401c为预设渲染窗体,1402c为15秒的渲染窗体,1403c为15.5秒的渲染窗体,1404c为16秒的渲染窗体
交通工具转向操作时,第二加速度会向正向增加,再反向减小,最后变为零,对应的第二加速度变化时间序列为(3.5、……、4.5、5.5,4.5、3.5、……、1.5、0)。移动终端的显示画面的渲染窗体会向右偏移,再逐渐向左偏移,最后保持为预设渲染窗体位置。
这样即完成了具体实施例的视频画面渲染方法及视频画面渲染装置的画面渲染过程。
本发明实施例的视频画面渲染方法以及装置基于第一加速度以及第二加速度对终端的显示画面的渲染窗体尺寸以及渲染窗体位置进行调整,使得人眼视觉也可产生对应的运动变化感知,并且与身体感受到的运动变化感知一致,减小或消除用户由于人体感官接收差异带来的画面观看不适,有效的解决了现有的视频画面渲染方法及视频画面渲染装置的容易导致用户产生画面观看不适的技术问题。
如本申请所使用的术语“组件”、“模块”、“系统”、“接口”、“进程”等等一般地旨在指计算机相关实体:硬件、硬件和软件的组合、软件或执行中的软件。例如,组件可以是但不限于是运行在处理器上的进程、处理器、对象、可执行应用、执行的线程、程序和/或计算机。通过图示,运行在控制器上的应用和该控制器二者都可以是组件。一个或多个组件可以有在于执行的进程和/或线程内,并且组件可以位于一个计算机上和/或分布在两个或更多计算机之间。
图15a、图15b和随后的讨论提供了对实现本发明所述的视频画面渲染装置所在的电子设备的工作环境的简短、概括的描述。图15b的工作环境仅仅是适当的工作环境的一个实例并且不旨在建议关于工作环境的用途或功能的范围的任何限制。
尽管没有要求,但是在“计算机可读指令”被一个或多个电子设备执行的通用背景下描述实施例。计算机可读指令可以经由计算机可读介质来分布(下文讨论)。计算机可读指令可以实现为程序模块,比如执行特定任务或实现特定抽象数据类型的功能、对象、应用编程接口(API)、数据结构等等。典型地,该计算机可读指令的功能可以在各种环境中随意组合或分布。
图15b图示了包括本发明的视频画面渲染装置中的一个或多个实施例的电子设备1512的实例。在一种配置中,电子设备1512包括至少一个处理单元1516和存储器1518。根据电子设备的确切配置和类型,存储器1518可以是易失性的(比如RAM)、非易失性的(比如ROM、闪存等)或二者的某种组合。该配置在图15b中由虚线1514图示。
在其他实施例中,电子设备1512可以包括附加特征和/或功能。例如,设备1512还可以包括附加的存储装置(例如可移除和/或不可移除的),其包括但不限于磁存储装置、光存储装置等等。这种附加存储装置在图15b中由存储装置1520图示。在一个实施例中,用于实现本文所提供的一个或多个实施例的计算机可读指令可以在存储装置1520中。存储装置1520还可以存储用于实现操作系统、应用程序等的其他计算机可读指令。计算机可读指令可以载入存储器1518中由例如处理单元1516执行。
本文所使用的术语“计算机可读介质”包括计算机存储介质。计算机存储介质包括以用于存储诸如计算机可读指令或其他数据之类的信息的任何方法或技术实现的易失性和非易失性、可移除和不可移除介质。存储器1518和存储装置1520是计算机存储介质的实例。计算机存储介质包括但不限于RAM、ROM、EEPROM、闪存或其他存储器技术、CD-ROM、数字通用盘(DVD)或其他光存储装置、盒式磁带、磁带、磁盘存储装置或其他磁存储设备、或可以用于存储期望信息并可以被电子设备1512访问的任何其他介质。任意这样的计算机存储介质可以是电子设备1512的一部分。
电子设备1512还可以包括允许电子设备1512与其他设备通信的通信连接1526。通信连接1526可以包括但不限于调制解调器、网络接口卡(NIC)、集成网络接口、射频发射器/接收器、红外端口、USB连接或用于将电子设备1512连接到其他电子设备的其他接口。通信连接1526可以包括有线连接或无线连接。通信连接1526可以发射和/或接收通信媒体。
术语“计算机可读介质”可以包括通信介质。通信介质典型地包含计算机可读指令或诸如载波或其他传输机构之类的“己调制数据信号”中的其他数据,并且包括任何信息递送介质。术语“己调制数据信号”可以包括这样的信号:该信号特性中的一个或多个按照将信息编码到信号中的方式来设置或改变。
电子设备1512可以包括输入设备1524,比如键盘、鼠标、笔、语音输入设备、触摸输入设备、红外相机、视频输入设备和/或任何其他输入设备。设备1512中也可以包括输出设备1522,比如一个或多个显示器、扬声器、打印机和/或任意其他输出设备。输入设备1524和输出设备1522可以经由有线连接、无线连接或其任意组合连接到电子设备1512。在一个实施例中,来自另一个电子设备的输入设备或输出设备可以被用作电子设备1512的输入设备1524或输出设备1522。
电子设备1512的组件可以通过各种互连(比如总线)连接。这样的互连可以包括外围组件互连(PCI)(比如快速PCI)、通用串行总线(USB)、火线(IEEE1394)、光学总线结构等等。在另一个实施例中,电子设备1512的组件可以通过网络互连。例如,存储器1518可以由位于不同物理位置中的、通过网络互连的多个物理存储器单元构成。
本领域技术人员将认识到,用于存储计算机可读指令的存储设备可以跨越网络分布。例如,可经由网络1528访问的后台服务器1530可以存储用于实现本发明所提供的一个或多个实施例的计算机可读指令。电子设备1512可以访问后台服务器1530并且下载计算机可读指令的一部分或所有以供执行。可替代地,电子设备1512可以按需要下载多条计算机可读指令,或者一些指令可以在电子设备1512处执行并且一些指令可以在后台服务器1530处执行。
本文提供了实施例的各种操作。在一个实施例中,所述的一个或多个操作可以构成一个或多个计算机可读介质上存储的计算机可读指令,其在被电子设备执行时将使得计算设备执行所述操作。描述一些或所有操作的顺序不应当被解释为暗示这些操作必需是顺序相关的。本领域技术人员将理解具有本说明书的益处的可替代的排序。而且,应当理解,不是所有操作必需在本文所提供的每个实施例中存在。
而且,尽管已经相对于一个或多个实现方式示出并描述了本公开,但是本领域技术人员基于对本说明书和附图的阅读和理解将会想到等价变型和修改。本公开包括所有这样的修改和变型,并且仅由所附权利要求的范围限制。特别地关于由上述组件(例如元件、资源等)执行的各种功能,用于描述这样的组件的术语旨在对应于执行所述组件的指定功能(例如其在功能上是等价的)的任意组件(除非另外指示),即使在结构上与执行本文所示的本公开的示范性实现方式中的功能的公开结构不等同。此外,尽管本公开的特定特征已经相对于若干实现方式中的仅一个被公开,但是这种特征可以与如可以对给定或特定应用而言是期望和有利的其他实现方式的一个或多个其他特征组合。而且,就术语“包括”、“具有”、“含有”或其变形被用在具体实施方式或权利要求中而言,这样的术语旨在以与术语“包含”相似的方式包括。
本发明实施例中的各功能单元可以集成在一个处理模块中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。上述提到的存储介质可以是只读存储器,磁盘或光盘等。上述的各装置或系统,可以执行相应方法实施例中的方法。
综上所述,虽然本发明已以实施例揭露如上,实施例前的序号仅为描述方便而使用,对本发明各实施例的顺序不造成限制。并且,上述实施例并非用以限制本发明,本领域的普通技术人员,在不脱离本发明的精神和范围内,均可作各种更动与润饰,因此本发明的保护范围以权利要求界定的范围为准。

Claims (15)

1.一种视频画面渲染方法,其特征在于,包括:
使用终端的加速度传感器检测所述终端在第一参考方向上的第一加速度,其中所述第一参考方向垂直于所述终端的显示屏所在平面;
按设定采样间隔对所述第一加速度进行采样,获取第一加速度变化时间序列;
基于所述第一加速度变化时间序列,计算当前画面渲染时间点的所述终端在第一参考方向上的第一加速度;以及
根据所述当前画面渲染时间点的所述终端在第一参考方向上的第一加速度,对所述终端的显示画面的渲染窗体尺寸进行调整,并进行画面渲染操作。
2.根据权利要求1所述的视频画面渲染方法,其特征在于,所述视频画面渲染方法还包括:
使用终端的加速度传感器检测所述终端在第二参考方向上的第二加速度,其中所述第二参考方向平行于所述终端的显示屏所在平面,且垂直于所述第一参考方向;
按设定采样间隔对所述第二加速度进行采样,获取第二加速度变化时间序列;
基于所述第二加速度变化时间序列,计算当前画面渲染时间点的所述终端在第二参考方向上的第二加速度;以及
根据所述当前画面渲染时间点的所述终端在第二参考方向上的第二加速度,对所述终端的显示画面的渲染窗体偏移进行调整,并进行画面渲染操作。
3.根据权利要求2所述的视频画面渲染方法,其特征在于,所述基于所述第二加速度变化时间序列,计算当前画面渲染时间点的所述终端在第二参考方向上的第二加速度的步骤包括:
获取最近采样点的第二加速度,并将所述最近采样点的第二加速度作为所述最近采样点对应的未来画面渲染时间点的第二加速度;
获取次近采样点的第二加速度,并将所述次近采样点的第二加速度作为所述次近采样点对应的过去画面渲染时间点的第二加速度;
基于所述当前画面渲染时间点与所述未来画面渲染时间点的时间差,以及所述当前画面渲染时间点与所述过去画面渲染时间点的时间差,通过插值算法获取所述当前画面渲染时间点的所述终端在第二参考方向上的第二加速度。
4.根据权利要求2所述的视频画面渲染方法,其特征在于,所述根据所述当前画面渲染时间点的所述终端在第二参考方向上的第二加速度,对所述终端的显示画面的渲染窗体偏移进行调整的步骤包括:
根据所述第二加速度以及最大第二加速度,确定所述渲染窗体的偏移比例系数;以及
基于所述偏移比例系数以及所述第二加速度的方向,对所述终端的显示画面的渲染窗体位置进行调整。
5.根据权利要求1所述的视频画面渲染方法,其特征在于,所述视频画面渲染方法还包括:
对所述终端在第一参考方向上的第一加速度进行滤波操作。
6.根据权利要求1所述的视频画面渲染方法,其特征在于,所述基于所述第一加速度变化时间序列,计算当前画面渲染时间点的所述终端在第一参考方向上的第一加速度的步骤包括:
获取最近采样点的第一加速度,并将所述最近采样点的第一加速度作为所述最近采样点对应的未来画面渲染时间点的第一加速度;
获取次近采样点的第一加速度,并将所述次近采样点的第一加速度作为所述次近采样点对应的过去画面渲染时间点的第一加速度;
基于所述当前画面渲染时间点与所述未来画面渲染时间点的时间差,以及所述当前画面渲染时间点与所述过去画面渲染时间点的时间差,通过插值算法获取所述当前画面渲染时间点的所述终端在第一参考方向上的第一加速度。
7.根据权利要求1所述的视频画面渲染方法,其特征在于,所述根据所述当前画面渲染时间点的所述终端在第一参考方向上的第一加速度,对所述终端的显示画面的渲染窗体尺寸进行调整的步骤包括:
根据所述第一加速度以及最大第一加速度,确定所述渲染窗体尺寸的调整比例系数;以及
基于所述调整比例系数,对所述终端的显示画面的渲染窗体尺寸进行调整。
8.根据权利要求7所述的视频画面渲染方法,其特征在于,当所述调整比例系数变小时,所述进行画面渲染操作的步骤包括:
获取前一画面帧以及当前画面帧;并按预设权重,将所述当前画面帧与所述前一画面帧进行混合;以及
对混合后的当前画面帧进行画面渲染操作,以模拟残影效果。
9.一种视频画面渲染装置,其特征在于,包括:
第一加速度检测模块,用于使用终端的加速度传感器检测所述终端在第一参考方向上的第一加速度,其中所述第一参考方向垂直于所述终端的显示屏所在平面;
第一加速度采样模块,用于按设定采样间隔对所述第一加速度进行采样,获取第一加速度变化时间序列;
第一加速度计算模块,用于基于所述第一加速度变化时间序列,计算当前画面渲染时间点的所述终端在第一参考方向上的第一加速度;以及
窗体调整渲染模块,用于根据所述当前画面渲染时间点的所述终端在第一参考方向上的第一加速度,对所述终端的显示画面的渲染窗体尺寸进行调整,并进行画面渲染操作。
10.根据权利要求9所述的视频画面渲染装置,其特征在于,所述视频画面渲染装置还包括:
第二加速度检测模块,用于使用终端的加速度传感器检测所述终端在第二参考方向上的第二加速度,其中所述第二参考方向平行于所述终端的显示屏所在平面,且垂直于所述第一参考方向;
第二加速度采样模块,用于按设定采样间隔对所述第二加速度进行采样,获取第二加速度变化时间序列;
第二加速度计算模块,用于基于所述第二加速度变化时间序列,计算当前画面渲染时间点的所述终端在第二参考方向上的第二加速度;以及
窗体偏移渲染模块,用于根据所述当前画面渲染时间点的所述终端在第二参考方向上的第二加速度,对所述终端的显示画面的渲染窗体偏移进行调整,并进行画面渲染操作。
11.根据权利要求9所述的视频画面渲染装置,其特征在于,所述视频画面渲染装置还包括:
滤波模块,用于对所述终端在第一参考方向上的第一加速度进行滤波操作。
12.根据权利要求9所述的视频画面渲染装置,其特征在于,所述第一加速度计算模块包括:
未来第一加速度获取单元,用于获取最近采样点的第一加速度,并将所述最近采样点的第一加速度作为所述最近采样点对应的未来画面渲染时间点的第一加速度;
过去第一加速度获取单元,用于获取次近采样点的第一加速度,并将所述次近采样点的第一加速度作为所述次近采样点对应的过去画面渲染时间点的第一加速度;
当前第一加速度计算单元,用于基于所述当前画面渲染时间点与所述未来画面渲染时间点的时间差,以及所述当前画面渲染时间点与所述过去画面渲染时间点的时间差,通过插值算法获取所述当前画面渲染时间点的所述终端在第一参考方向上的第一加速度。
13.根据权利要求9所述的视频画面渲染装置,其特征在于,所述窗体调整渲染模块包括:
调整比例系数确定单元,用于根据所述第一加速度以及最大第一加速度,确定所述渲染窗体尺寸的调整比例系数;以及
窗体尺寸调整单元,用于基于所述调整比例系数,对所述终端的显示画面的渲染窗体尺寸进行调整。
14.一种存储介质,其内存储有处理器可执行指令,所述指令由一个或一个以上处理器加载,以执行如权利要求1至8中任一的视频画面渲染方法。
15.一种电子设备,包括处理器和存储器,所述存储器储存有计算机程序,所述处理器通过调用所述计算机程序,用于执行如权利要求1至8中任一的视频画面渲染方法。
CN201910349542.2A 2019-04-28 2019-04-28 视频画面渲染方法、装置、存储介质及电子设备 Active CN110139141B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910349542.2A CN110139141B (zh) 2019-04-28 2019-04-28 视频画面渲染方法、装置、存储介质及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910349542.2A CN110139141B (zh) 2019-04-28 2019-04-28 视频画面渲染方法、装置、存储介质及电子设备

Publications (2)

Publication Number Publication Date
CN110139141A true CN110139141A (zh) 2019-08-16
CN110139141B CN110139141B (zh) 2021-10-15

Family

ID=67575438

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910349542.2A Active CN110139141B (zh) 2019-04-28 2019-04-28 视频画面渲染方法、装置、存储介质及电子设备

Country Status (1)

Country Link
CN (1) CN110139141B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112654959A (zh) * 2020-07-23 2021-04-13 华为技术有限公司 一种画面显示方法、智能车、存储介质以及装置

Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1184446A (ja) * 1997-09-09 1999-03-26 Minolta Co Ltd 振れ補正機能付きカメラ
CN101853380A (zh) * 2010-06-18 2010-10-06 华南理工大学 一种基于加速度传感器的手势识别的旋转特征提取方法
CN102546917A (zh) * 2010-12-31 2012-07-04 联想移动通信科技有限公司 带摄像头的移动终端及其视频处理方法
CN103617080A (zh) * 2013-11-27 2014-03-05 乐视网信息技术(北京)股份有限公司 一种视频控制方法及手机终端
CN104394452A (zh) * 2014-12-05 2015-03-04 宁波菊风系统软件有限公司 一种智能移动终端的浸入式视频呈现方法
CN104766361A (zh) * 2015-04-29 2015-07-08 腾讯科技(深圳)有限公司 一种残影效果的实现方法,及装置
CN104866080A (zh) * 2014-02-24 2015-08-26 腾讯科技(深圳)有限公司 屏幕内容显示方法和系统
CN105353882A (zh) * 2015-11-27 2016-02-24 广州视源电子科技股份有限公司 一种显示系统控制方法和装置
CN106101527A (zh) * 2016-06-03 2016-11-09 北京小米移动软件有限公司 减轻视频画面抖动的方法及装置
CN106843634A (zh) * 2016-12-15 2017-06-13 宇龙计算机通信科技(深圳)有限公司 屏幕显示调整方法及系统
CN107274646A (zh) * 2016-04-07 2017-10-20 司文奎 防晕车的信号采集及发送、接收及处理方法和发送端、终端
CN107992200A (zh) * 2017-12-21 2018-05-04 江西爱驰亿维实业有限公司 车载显示屏的画面补偿方法、装置及电子设备
CN108022286A (zh) * 2017-11-30 2018-05-11 腾讯科技(深圳)有限公司 画面渲染方法、装置及存储介质
CN108304753A (zh) * 2017-01-24 2018-07-20 腾讯科技(深圳)有限公司 视频通信方法及视频通信装置
CN109587390A (zh) * 2017-09-29 2019-04-05 腾讯科技(深圳)有限公司 画面渲染方法、画面渲染装置及存储介质

Patent Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1184446A (ja) * 1997-09-09 1999-03-26 Minolta Co Ltd 振れ補正機能付きカメラ
CN101853380A (zh) * 2010-06-18 2010-10-06 华南理工大学 一种基于加速度传感器的手势识别的旋转特征提取方法
CN102546917A (zh) * 2010-12-31 2012-07-04 联想移动通信科技有限公司 带摄像头的移动终端及其视频处理方法
CN103617080A (zh) * 2013-11-27 2014-03-05 乐视网信息技术(北京)股份有限公司 一种视频控制方法及手机终端
CN104866080A (zh) * 2014-02-24 2015-08-26 腾讯科技(深圳)有限公司 屏幕内容显示方法和系统
CN104394452A (zh) * 2014-12-05 2015-03-04 宁波菊风系统软件有限公司 一种智能移动终端的浸入式视频呈现方法
CN104766361A (zh) * 2015-04-29 2015-07-08 腾讯科技(深圳)有限公司 一种残影效果的实现方法,及装置
CN105353882A (zh) * 2015-11-27 2016-02-24 广州视源电子科技股份有限公司 一种显示系统控制方法和装置
CN107274646A (zh) * 2016-04-07 2017-10-20 司文奎 防晕车的信号采集及发送、接收及处理方法和发送端、终端
CN106101527A (zh) * 2016-06-03 2016-11-09 北京小米移动软件有限公司 减轻视频画面抖动的方法及装置
CN106843634A (zh) * 2016-12-15 2017-06-13 宇龙计算机通信科技(深圳)有限公司 屏幕显示调整方法及系统
CN108304753A (zh) * 2017-01-24 2018-07-20 腾讯科技(深圳)有限公司 视频通信方法及视频通信装置
CN109587390A (zh) * 2017-09-29 2019-04-05 腾讯科技(深圳)有限公司 画面渲染方法、画面渲染装置及存储介质
CN108022286A (zh) * 2017-11-30 2018-05-11 腾讯科技(深圳)有限公司 画面渲染方法、装置及存储介质
CN107992200A (zh) * 2017-12-21 2018-05-04 江西爱驰亿维实业有限公司 车载显示屏的画面补偿方法、装置及电子设备

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
JYH-DA WEI; PEI-YU JIANG; HSU-FU HSIAO: "《A fuzzy inference anti-shake technique for mobile display》", 《2016 IEEE INTERNATIONAL CONFERENCE ON FUZZY SYSTEMS》 *
刘宏宇等: "沉浸式新影像媒介发展动态及展望", 《新闻战线》 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112654959A (zh) * 2020-07-23 2021-04-13 华为技术有限公司 一种画面显示方法、智能车、存储介质以及装置
WO2022016444A1 (zh) * 2020-07-23 2022-01-27 华为技术有限公司 一种画面显示方法、智能车、存储介质以及装置
CN112654959B (zh) * 2020-07-23 2022-05-17 华为技术有限公司 一种画面显示方法、智能车、存储介质以及装置

Also Published As

Publication number Publication date
CN110139141B (zh) 2021-10-15

Similar Documents

Publication Publication Date Title
CN110136054B (zh) 图像处理方法和装置
CN114419604B (zh) 障碍物信息生成方法、装置、电子设备和计算机可读介质
CN112929582A (zh) 一种特效展示方法、装置、设备及介质
CN103123780A (zh) 移动终端的图像显示方法及装置
CN108833877B (zh) 图像处理方法及装置、计算机装置及可读存储介质
JP2018537748A (ja) 可変の計算量を用いた画像のライトフィールドレンダリング
CN110324601A (zh) 渲染方法、计算机产品及显示装置
CN112237739A (zh) 游戏角色渲染方法、装置、电子设备及计算机可读介质
CN113806306B (zh) 媒体文件处理方法、装置、设备、可读存储介质及产品
CN112070657A (zh) 图像处理方法、装置、系统、设备及计算机存储介质
CN110139141A (zh) 视频画面渲染方法、装置、存储介质及电子设备
CN114900625A (zh) 虚拟现实空间的字幕渲染方法、装置、设备及介质
CN114842120A (zh) 一种图像渲染处理方法、装置、设备及介质
WO2024032752A1 (zh) 转场特效图的生成方法、装置、设备及存储介质
CN112272294B (zh) 一种显示图像压缩方法、装置、设备及计算机存储介质
WO2024037556A1 (zh) 图像处理方法、装置、设备及存储介质
CN110147165B (zh) 基于用户终端的晕动症缓解方法、系统、设备及存储介质
CN106780758B (zh) 用于虚拟现实设备的成像方法、装置及虚拟现实设备
CN115937291A (zh) 一种双目图像的生成方法、装置、电子设备及存储介质
CN111798385B (zh) 图像处理方法及装置、计算机可读介质和电子设备
CN111586295B (zh) 图像生成方法、装置和电子设备
US10890764B2 (en) Method and system for video frame processing
CN112788426A (zh) 一种功能显示区的显示方法、装置、介质和电子设备
CN111415393A (zh) 一种调节多媒体黑板显示的方法、装置、介质和电子设备
KR102534449B1 (ko) 이미지 처리 방법, 장치, 전자 장치 및 컴퓨터 판독 가능 저장 매체

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant