CN107734385B - 视频播放方法、装置及电子装置 - Google Patents

视频播放方法、装置及电子装置 Download PDF

Info

Publication number
CN107734385B
CN107734385B CN201710812084.2A CN201710812084A CN107734385B CN 107734385 B CN107734385 B CN 107734385B CN 201710812084 A CN201710812084 A CN 201710812084A CN 107734385 B CN107734385 B CN 107734385B
Authority
CN
China
Prior art keywords
image
frame
video
dynamic
dynamic object
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710812084.2A
Other languages
English (en)
Other versions
CN107734385A (zh
Inventor
张学勇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong Oppo Mobile Telecommunications Corp Ltd
Original Assignee
Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong Oppo Mobile Telecommunications Corp Ltd filed Critical Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority to CN201710812084.2A priority Critical patent/CN107734385B/zh
Publication of CN107734385A publication Critical patent/CN107734385A/zh
Application granted granted Critical
Publication of CN107734385B publication Critical patent/CN107734385B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44008—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/50—Depth or shape recovery
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442—Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/44213—Monitoring of end-user related data
    • H04N21/44218—Detecting physical presence or behaviour of the user, e.g. using sensors to detect if the user is leaving the room or changes his face expression during a TV program
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10028—Range image; Depth image; 3D point clouds

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Social Psychology (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Databases & Information Systems (AREA)
  • Image Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

本发明公开了一种视频播放方法、装置及电子装置，其中方法包括：通过获取3D背景中动态物体的动态视频，以及动态视频对应的多帧深度图像；根据多帧深度图像，对动态视频中的各帧图像进行处理，获取各帧图像中动态物体的深度数据；获取当前用户的多帧深度图像；根据当前用户的多帧深度图像以及动态视频各帧图像中动态物体的深度数据，确定当前用户与动态物体之间的距离；在距离小于等于预设的距离阈值时，获取动态物体执行相应动作和/或发出相应声音的视频，并播放视频，从而根据用户的情况个性化地提供具有合适内容的动态视频，提高动态视频的播放效率，提高用户的动态视频观看体验。

Description

视频播放方法、装置及电子装置
技术领域
本发明涉及图像处理技术领域，特别涉及一种视频播放方法、装置及电子装置。
背景技术
现有的视频播放方法，需要用户点击相应的视频文件进行播放，或者拖拽播放进度条来控制视频文件的播放位置，无法根据用户的情况个性化地提供合适内容的动态视频，降低动态视频播放效率，影响动态视频观看效果，影响用户的动态视频观看体验。
发明内容
本发明的实施例提供了一种视频播放方法、装置及电子装置。
本发明实施方式的视频播放方法包括：
获取3D背景中动态物体的动态视频，以及所述动态视频对应的多帧深度图像；
根据所述多帧深度图像，对所述动态视频中的各帧图像进行处理，获取各帧图像中动态物体的深度数据；
获取当前用户的多帧深度图像；
根据所述当前用户的多帧深度图像以及所述动态视频各帧图像中动态物体的深度数据，确定所述当前用户与所述动态物体之间的距离；
在所述距离小于等于预设的距离阈值时，获取所述动态物体执行相应动作和/或发出相应声音的视频，并播放所述视频。
本发明实施方式的视频播放装置，包括深度图像采集组件和处理器。所述处理器用于，获取3D背景中动态物体的动态视频，以及所述动态视频对应的多帧深度图像；根据所述多帧深度图像，对所述动态视频中的各帧图像进行处理，获取各帧图像中动态物体的深度数据；所述深度图像采集组件用于获取当前用户的多帧深度图像；所述处理器还用于，根据所述当前用户的多帧深度图像以及所述动态视频各帧图像中动态物体的深度数据，确定所述当前用户与所述动态物体之间的距离；在所述距离小于等于预设的距离阈值时，获取所述动态物体执行相应动作和/或发出相应声音的视频，并播放所述视频。
本发明实施方式的电子装置包括一个或多个处理器、存储器和一个或多个程序。其中所述一个或多个程序被存储在所述存储器中，并且被配置成由所述一个或多个处理器执行，所述程序包括用于执行上述的视频播放方法的指令。
本发明实施方式的计算机可读存储介质包括与能够摄像的电子装置结合使用的计算机程序，所述计算机程序可被处理器执行以完成上述的视频播放方法。
本发明实施方式的视频播放方法、视频播放装置、电子装置和计算机可读存储介质通过获取3D背景中动态物体的动态视频，以及动态视频对应的多帧深度图像；根据多帧深度图像，对动态视频中的各帧图像进行处理，获取各帧图像中动态物体的深度数据；获取当前用户的多帧深度图像；根据当前用户的多帧深度图像以及动态视频各帧图像中动态物体的深度数据，确定当前用户与动态物体之间的距离；在距离小于等于预设的距离阈值时，获取动态物体执行相应动作和/或发出相应声音的视频，并播放视频，从而根据用户的情况个性化地提供具有合适内容的动态视频，提高动态视频的播放效率，提高用户的动态视频观看体验。
本发明的附加方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本发明的实践了解到。
附图说明
本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：
图1是本发明某些实施方式的视频播放方法的流程示意图。
图2是本发明某些实施方式的视频播放装置的模块示意图。
图3是本发明某些实施方式的电子装置的结构示意图。
图4是本发明某些实施方式的视频播放方法的流程示意图。
图5是本发明某些实施方式的视频播放方法的流程示意图。
图6(a)至图6(e)是根据本发明一个实施例的结构光测量的场景示意图。
图7(a)和图7(b)根据本发明一个实施例的结构光测量的场景示意图。
图8是本发明某些实施方式的视频播放方法的流程示意图。
图9是本发明某些实施方式的电子装置的模块示意图。
图10是本发明某些实施方式的电子装置的模块示意图。
具体实施方式
下面详细描述本发明的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本发明，而不能理解为对本发明的限制。
请一并参阅图1至2，本发明实施方式的视频播放方法用于电子装置1000。视频播放方法包括：
S101、获取3D背景中动态物体的动态视频，以及动态视频对应的多帧深度图像。
S102、根据多帧深度图像，对动态视频中的各帧图像进行处理，获取各帧图像中动态物体的深度数据。
S103、获取当前用户的多帧深度图像。
S104、根据当前用户的多帧深度图像以及动态视频各帧图像中动态物体的深度数据，确定当前用户与动态物体之间的距离。
S105、在距离小于等于预设的距离阈值时，获取动态物体执行相应动作和/或发出相应声音的视频，并播放视频。
请参阅图3，本发明实施方式的视频播放方法可以由本发明实施方式的视频播放装置100实现。本发明实施方式的视频播放装置100用于电子装置1000。视频播放装置100包括深度图像采集组件12和处理器20。本实施例中，步骤101、步骤102、步骤104、步骤105可以由处理器20实现，步骤103可以由深度图像采集组件12实现。另外，视频播放装置100还可以包括可见光摄像头11，用于获取3D背景中动态物体的动态视频。
也就是说，处理器20可用于获取3D背景中动态物体的动态视频，以及动态视频对应的多帧深度图像；根据多帧深度图像，对动态视频中的各帧图像进行处理，获取各帧图像中动态物体的深度数据；深度图像采集组件12可用于获取当前用户的多帧深度图像；处理器20还可用于根据当前用户的多帧深度图像以及动态视频各帧图像中动态物体的深度数据，确定当前用户与动态物体之间的距离；在距离小于等于预设的距离阈值时，获取动态物体执行相应动作和/或发出相应声音的视频，并播放视频。
本实施例中，3D背景中可以设置有一个或者多个动态物体的动态视频，视频播放装置可以获取一个或者多个动态视频各帧图像中动态物体的深度数据，根据一个或者多个动态视频中动态物体的深度数据以及当前用户的多帧深度图像，确定当前用户与动态物体之间的距离，进而确定要播放的视频。
本实施例中，步骤102具体可以包括：对动态视频中的各帧图像进行识别，获取各帧图像中的动态物体区域；从各帧图像对应的深度图像中获取与动态物体区域对应的深度数据。
具体的，视频播放装置可以获取动态视频中的各帧图像，对每帧图像进行识别，获取每帧图片中的特征点，将每帧图片中的特征点与预存的动态物体的特征点进行比对，获取每帧图片中动态物体所在的区域，根据动态物体所在的区域从对应的深度图像中获取动态物体的深度数据。
本实施例中，预设的距离阈值的数量为至少一个。对应的，步骤105具体可以包括：在距离小于等于预设的距离阈值时，查询预存的数据库，获取与距离阈值匹配的动态物体执行相应动作和/或发出相应声音的视频；播放与距离阈值匹配的视频。
例如，假设动态物体为猫，在当前用户与猫之间的距离小于等于第一距离阈值时，播放猫静止不动，看向当前用户方位的视频；或者，播放猫摇尾巴的视频。在当前用户与猫之间的距离小于等于第二距离阈值时，播放猫开始叫并逃跑的视频。其中，第二距离阈值小于第一距离阈值。
另外，还需要进行说明的是，本实施例中，视频播放装置可以结合当前用户与动态物体之间的距离，以及该距离的变化情况来确定动态物体待执行的动作和/或待发出的声音，并获取对应的视频进行播放。例如，在当前用户与猫之间的距离逐渐减小并减小至第二距离阈值时，播放猫开始叫并逃跑的视频；在当前用户与猫之间的距离逐渐增大并增大至第一距离阈值时，可以播放猫停止逃跑并转头看向当前用户所在方位的视频。
本发明实施方式的视频播放装置100可以应用于本发明实施方式的电子装置1000。也即是说，本发明实施方式的电子装置1000包括本发明实施方式的视频播放装置100。
在某些实施方式中，电子装置1000包括手机、平板电脑、笔记本电脑、智能手环、智能手表、智能头盔、智能眼镜等。
本发明实施方式的视频播放方法，通过获取3D背景中动态物体的动态视频，以及动态视频对应的多帧深度图像；根据多帧深度图像，对动态视频中的各帧图像进行处理，获取各帧图像中动态物体的深度数据；获取当前用户的多帧深度图像；根据当前用户的多帧深度图像以及动态视频各帧图像中动态物体的深度数据，确定当前用户与动态物体之间的距离；在距离小于等于预设的距离阈值时，获取动态物体执行相应动作和/或发出相应声音的视频，并播放视频，从而根据用户的情况个性化地提供具有合适内容的动态视频，提高动态视频的播放效率，提高用户的动态视频观看体验。
请参阅图4，在某些实施方式中，步骤103具体可以包括以下步骤：
S1031、向当前用户投射结构光。
S1032、拍摄经当前用户调制的多帧结构光图像。
S1033、解调多帧结构光图像的各个像素对应的相位信息以得到多帧深度图像。
请再参阅图3，在某些实施方式中，深度图像采集组件12包括结构光投射器121和结构光摄像头122。步骤1031可以由结构光投射器121实现，步骤1032和步骤1033可以由结构光摄像头122实现。
也即是说，结构光投射器121可用于向当前用户投射结构光；结构光摄像头122可用于拍摄经当前用户调制的多帧结构光图像；解调多帧结构光图像的各个像素对应的相位信息以得到多帧深度图像。
具体地，结构光投射器121将一定模式的结构光投射到当前用户的面部或躯体上后，在当前用户的面部或躯体的表面会形成由当前用户调制后的结构光图像。结构光摄像头122拍摄经调制后的结构光图像，再对结构光图像进行解调以得到深度图像。其中，结构光的模式可以是激光条纹、格雷码、正弦条纹、非均匀散斑等。
请参阅图5，在某些实施方式中，步骤1033解调多帧结构光图像的各个像素对应的相位信息以得到多帧深度图像的过程具体可以包括以下步骤：
S10331、针对多帧结构光图像中的各帧结构光图像，解调结构光图像中各个像素对应的相位信息。
S10332、将相位信息转化为深度信息。
S10333、根据深度信息生成深度图像。
请再参阅图2，在某些实施方式中，步骤10331、步骤10332和步骤10333均可以由结构光摄像头122实现。
也即是说，结构光摄像头122可进一步用于针对多帧结构光图像中的各帧结构光图像，解调结构光图像中各个像素对应的相位信息；将相位信息转化为深度信息；以及根据深度信息生成深度图像。
具体地，与未经调制的结构光相比，调制后的结构光的相位信息发生了变化，在结构光图像中呈现出的结构光是产生了畸变之后的结构光，其中，变化的相位信息即可表征物体的深度信息。因此，结构光摄像头122首先解调出结构光图像中各个像素对应的相位信息，再根据相位信息计算出深度信息，从而得到最终的深度图像。
为了使本领域的技术人员更加清楚的了解根据结构光来采集当前用户的面部或躯体的深度图像的过程，下面以一种应用广泛的光栅投影技术(条纹投影技术)为例来阐述其具体原理。其中，光栅投影技术属于广义上的面结构光。
如图6(a)所示，在使用面结构光投影的时候，首先通过计算机编程产生正弦条纹，并将正弦条纹通过结构光投射器121投射至被测物，再利用结构光摄像头122拍摄条纹受物体调制后的弯曲程度，随后解调该弯曲条纹得到相位，再将相位转化为深度信息即可获取深度图像。为避免产生误差或误差耦合的问题，使用结构光进行深度信息采集前需对深度图像采集组件12进行参数标定，标定包括几何参数(例如，结构光摄像头122与结构光投射器121之间的相对位置参数等)的标定、结构光摄像头122的内部参数以及结构光投射器121的内部参数的标定等。
具体而言，第一步，计算机编程产生正弦条纹。由于后续需要利用畸变的条纹获取相位，比如采用四步移相法获取相位，因此这里产生四幅相位差为
Figure BDA0001404148320000061
的条纹，然后结构光投射器121将该四幅条纹分时投射到被测物(图6(a)所示的面具)上，结构光摄像头122采集到如图6(b)左边的图，同时要读取如图6(b)右边所示的参考面的条纹。
第二步，进行相位恢复。结构光摄像头122根据采集到的四幅受调制的条纹图(即结构光图像)计算出被调制相位，此时得到的相位图是截断相位图。因为四步移相算法得到的结果是由反正切函数计算所得，因此结构光调制后的相位被限制在[-π,π]之间，也就是说，每当调制后的相位超过[-π,π]，其又会重新开始。最终得到的相位主值如图6(c)所示。
其中，在进行相位恢复过程中，需要进行消跳变处理，即将截断相位恢复为连续相位。如图6(d)所示，左边为受调制的连续相位图，右边是参考连续相位图。
第三步，将受调制的连续相位和参考连续相位相减得到相位差(即相位信息)，该相位差表征了被测物相对参考面的深度信息，再将相位差代入相位与深度的转化公式(公式中涉及到的参数经过标定)，即可得到如图6(e)所示的待测物体的三维模型。
应当理解的是，在实际应用中，根据具体应用场景的不同，本发明实施例中所采用的结构光除了上述光栅之外，还可以是其他任意图案。
作为一种可能的实现方式，本发明还可使用散斑结构光进行当前用户的深度信息的采集。
具体地，散斑结构光获取深度信息的方法是使用一基本为平板的衍射元件，该衍射元件具有特定相位分布的浮雕衍射结构，横截面为具有两个或多个凹凸的台阶浮雕结构。衍射元件中基片的厚度大致为1微米，各个台阶的高度不均匀，高度的取值范围可为0.7微米～0.9微米。图7(a)所示结构为本实施例的准直分束元件的局部衍射结构。图7(b)为沿截面A-A的剖面侧视图，横坐标和纵坐标的单位均为微米。散斑结构光生成的散斑图案具有高度的随机性，并且会随着距离的不同而变换图案。因此，在使用散斑结构光获取深度信息前，首先需要标定出空间中的散斑图案，例如，在距离结构光摄像头122的0～4米的范围内，每隔1厘米取一个参考平面，则标定完毕后就保存了400幅散斑图像，标定的间距越小，获取的深度信息的精度越高。随后，结构光投射器121将散斑结构光投射到被测物(即当前用户)上，被测物表面的高度差使得投射到被测物上的散斑结构光的散斑图案发生变化。结构光摄像头122拍摄投射到被测物上的散斑图案(即结构光图像)后，再将散斑图案与前期标定后保存的400幅散斑图像逐一进行互相关运算，进而得到400幅相关度图像。空间中被测物体所在的位置会在相关度图像上显示出峰值，把上述峰值叠加在一起并经过插值运算后即可得到被测物的深度信息。
由于普通的衍射元件对光束进行衍射后得到多数衍射光，但每束衍射光光强差别大，对人眼伤害的风险也大。即便是对衍射光进行二次衍射，得到的光束的均匀性也较低。因此，利用普通衍射元件衍射的光束对被测物进行投射的效果较差。本实施例中采用准直分束元件，该元件不仅具有对非准直光束进行准直的作用，还具有分光的作用，即经反射镜反射的非准直光经过准直分束元件后往不同的角度出射多束准直光束，且出射的多束准直光束的截面面积近似相等，能量通量近似相等，进而使得利用该光束衍射后的散点光进行投射的效果更好。同时，激光出射光分散至每一束光，进一步降低了伤害人眼的风险，且散斑结构光相对于其他排布均匀的结构光来说，达到同样的采集效果时，散斑结构光消耗的电量更低。
请参阅图8，在某些实施方式中，步骤104根据当前用户的多帧深度图像以及动态视频各帧图像中动态物体的深度数据，确定当前用户与动态物体之间的距离的步骤具体可以包括：
S1041、根据当前用户的多帧深度图像，确定当前用户相对于用户起点的移动方向和移动距离。
S1042、根据动态视频各帧图像中动态物体的深度数据，确定动态物体相对于动态物体起点的移动方向和移动距离。
S1043、根据当前用户相对于用户起点的移动方向和移动距离、动态物体相对于动态物体起点的移动方向和移动距离，以及用户起点与动态物体起点之间的位置关系，确定当前用户与动态物体之间的距离。
请再参阅图2，在某些实施方式中，步骤1041、步骤1042和步骤1043均可以由处理器20实现。
也即是说，处理器20可进一步用于根据当前用户的多帧深度图像，确定当前用户相对于用户起点的移动方向和移动距离；根据动态视频各帧图像中动态物体的深度数据，确定动态物体相对于动态物体起点的移动方向和移动距离；根据当前用户相对于用户起点的移动方向和移动距离、动态物体相对于动态物体起点的移动方向和移动距离，以及用户起点与动态物体起点之间的位置关系，确定当前用户与动态物体之间的距离。
具体的，处理器20可以根据当前用户的多帧深度图像，确定多帧深度图像中，当前用户相对于深度图像采集组件，或者相对于其他参照物的位置信息；根据各帧深度图像中当前用户的位置信息，确定当前用户相对于用户起点的移动方向和移动距离。处理器20还可以根据动态视频各帧图像中动态物体的深度数据，确定动态物体相对于深度图像采集组件，或者相对于其他参照物的位置信息；根据动态物体的位置信息，确定动态物体相对于动态物体起点的移动方向和移动距离。进而根据当前用户相对于用户起点的移动方向和移动距离、动态物体相对于动态物体起点的移动方向和移动距离，以及用户起点与动态物体起点之间的位置关系，确定用户与动态物体之间的距离，以便与预设的距离阈值进行比较。
请一并参阅图3和图9，本发明实施方式还提出一种电子装置1000。电子装置1000包括视频播放装置100。视频播放装置100可以利用硬件和/或软件实现。视频播放装置100包括成像设备10和处理器20。
成像设备10包括可见光摄像头11和深度图像采集组件12。
具体地，可见光摄像头11包括图像传感器111和透镜112。其中，图像传感器111包括彩色滤镜阵列(如Bayer滤镜阵列)，透镜112的个数可为一个或多个。图像传感器111中的每一个成像像素感应来自拍摄场景中的光强度和波长信息，生成一组原始图像数据；图像传感器111将该组原始图像数据发送至处理器20中，处理器20对原始图像数据进行去噪、插值等运算后即得到彩色的图像；处理器20可按多种格式对原始图像数据中的每个图像像素逐一处理，例如，每个图像像素可具有8、10、12或14比特的位深度，处理器20可按相同或不同的位深度对每一个图像像素进行处理。
深度图像采集组件12包括结构光投射器121和结构光摄像头122，深度图像采集组件12可用于捕捉当前用户的深度信息以得到深度图像。结构光投射器121用于将结构光投射至当前用户，其中，结构光图案可以是激光条纹、格雷码、正弦条纹或者随机排列的散斑图案等。结构光摄像头122包括图像传感器1221和透镜1222，透镜1222的个数可为一个或多个。图像传感器1221用于捕捉结构光投射器121投射至当前用户上的结构光图像。结构光图像可由深度采集组件12发送至处理器20进行解调、相位恢复、相位信息计算等处理以获取当前用户的深度信息。
在某些实施方式中，可见光摄像头11与结构光摄像头122的功能可由一个摄像头实现，也即是说，成像设备10仅包括一个摄像头和一个结构光投射器121，上述摄像头不仅可以拍摄原始图像，还可拍摄结构光图像。
除了采用结构光获取深度图像外，还可通过双目视觉方法、基于飞行时间差(Timeof Flight，TOF)等深度像获取方法来获取当前用户的深度图像。
处理器20进一步用于获取3D背景中动态物体的动态视频，以及动态视频对应的多帧深度图像；根据多帧深度图像，对动态视频中的各帧图像进行处理，获取各帧图像中动态物体的深度数据；根据当前用户的多帧深度图像以及动态视频各帧图像中动态物体的深度数据，确定当前用户与动态物体之间的距离；在距离小于等于预设的距离阈值时，获取动态物体执行相应动作和/或发出相应声音的视频，并播放视频。
此外，视频播放装置100还包括图像存储器30。图像存储器30可内嵌在电子装置1000中，也可以是独立于电子装置1000外的存储器，并可包括直接存储器存取(DirectMemory Access，DMA)特征。可见光摄像头11采集的图像数据或深度图像采集组件12采集的结构光图像相关数据均可传送至图像存储器30中进行存储或缓存。处理器20可从图像存储器30中读取原始图像数据，也可从图像存储器30中读取结构光图像相关数据以进行处理得到深度图像。另外，图像数据和深度图像还可存储在图像存储器30中，以供处理器20随时调用处理。
视频播放装置100还可包括显示器50。显示器50可直接显示动态物体执行相应动作和/或发出相应声音的视频以供用户观看，或者由图形引擎或图形处理器(GraphicsProcessing Unit，GPU)进行进一步的处理。视频播放装置100还包括编码器/解码器60，编码器/解码器60可编解码深度图像等的图像数据，编码的图像数据可被保存在图像存储器30中，并可以在图像显示在显示器50上之前由解码器解压缩以进行显示。编码器/解码器60可由中央处理器(Central Processing Unit，CPU)、GPU或协处理器实现。换言之，编码器/解码器60可以是中央处理器(Central Processing Unit，CPU)、GPU、及协处理器中的任意一种或多种。
视频播放装置100还包括控制逻辑器40。成像设备10在成像时，处理器20会根据成像设备获取的数据进行分析以确定成像设备10的一个或多个控制参数(例如，曝光时间等)的图像统计信息。处理器20将图像统计信息发送至控制逻辑器40，控制逻辑器40控制成像设备10以确定好的控制参数进行成像。控制逻辑器40可包括执行一个或多个例程(如固件)的处理器和/或微控制器。一个或多个例程可根据接收的图像统计信息确定成像设备10的控制参数。
请参阅图10，本发明实施方式的电子装置1000包括一个或多个处理器200、存储器300和一个或多个程序310。其中一个或多个程序310被存储在存储器300中，并且被配置成由一个或多个处理器200执行。程序310包括用于执行上述任意一项实施方式的视频播放方法的指令。
例如，程序310包括用于执行以下步骤所述的视频播放方法的指令：
获取3D背景中动态物体的动态视频，以及所述动态视频对应的多帧深度图像；
根据所述多帧深度图像，对所述动态视频中的各帧图像进行处理，获取各帧图像中动态物体的深度数据；
获取当前用户的多帧深度图像；
根据所述当前用户的多帧深度图像以及所述动态视频各帧图像中动态物体的深度数据，确定所述当前用户与所述动态物体之间的距离；
在所述距离小于等于预设的距离阈值时，获取所述动态物体执行相应动作和/或发出相应声音的视频，并播放所述视频。
再例如，程序310还包括用于执行以下步骤所述的视频播放方法的指令：
向所述当前用户投射结构光；
拍摄经所述当前用户调制的多帧结构光图像；
解调所述多帧结构光图像的各个像素对应的相位信息以得到所述多帧深度图像。
本发明实施方式的计算机可读存储介质包括与能够摄像的电子装置1000结合使用的计算机程序。计算机程序可被处理器200执行以完成上述任意一项实施方式的视频播放方法。
例如，计算机程序可被处理器200执行以完成以下步骤所述的视频播放方法：
针对所述多帧结构光图像中的各帧结构光图像，解调所述结构光图像中各个像素对应的相位信息；
将所述相位信息转化为深度信息；和
根据所述深度信息生成所述深度图像。
再例如，计算机程序还可被处理器200执行以完成以下步骤所述的视频播放方法；
根据所述当前用户的多帧深度图像，确定所述当前用户相对于用户起点的移动方向和移动距离；
根据所述动态视频各帧图像中动态物体的深度数据，确定所述动态物体相对于动态物体起点的移动方向和移动距离；
根据所述当前用户相对于用户起点的移动方向和移动距离、所述动态物体相对于动态物体起点的移动方向和移动距离，以及用户起点与动态物体起点之间的位置关系，确定所述当前用户与所述动态物体之间的距离。
在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中，“多个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更多个用于实现特定逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本发明的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本发明的实施例所属技术领域的技术人员所理解。
在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下：具有一个或多个布线的电连接部(电子装置)，便携式计算机盘盒(磁装置)，随机存取存储器(RAM)，只读存储器(ROM)，可擦除可编辑只读存储器(EPROM或闪速存储器)，光纤装置，以及便携式光盘只读存储器(CDROM)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。
应当理解，本发明的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。例如，如果用硬件来实现，和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(PGA)，现场可编程门阵列(FPGA)等。
本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。
此外，在本发明各个实施例中的各功能单元可以集成在一个处理模块中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。
上述提到的存储介质可以是只读存储器，磁盘或光盘等。尽管上面已经示出和描述了本发明的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本发明的限制，本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。

Claims (10)

1.一种视频播放方法，其特征在于，包括：
获取3D背景中动态物体的动态视频，以及所述动态视频对应的多帧深度图像；
根据所述多帧深度图像，对所述动态视频中的各帧图像进行处理，获取各帧图像中动态物体的深度数据；
获取当前用户的多帧深度图像，所述当前用户为当前观看所述动态物体的所述动态视频的用户；
根据所述当前用户的多帧深度图像，确定所述当前用户相对于用户起点的移动方向和移动距离，根据所述动态视频各帧图像中动态物体的深度数据，确定所述动态物体相对于动态物体起点的移动方向和移动距离，根据所述当前用户相对于用户起点的移动方向和移动距离、所述动态物体相对于动态物体起点的移动方向和移动距离，以及用户起点与动态物体起点之间的位置关系，确定所述当前用户与所述动态物体之间的距离；
在所述距离小于等于预设的距离阈值时，查询预存的数据库，获取与所述距离阈值匹配的所述动态物体执行相应动作的视频，并播放与所述距离阈值匹配的所述视频。
2.根据权利要求1所述的方法，其特征在于，所述获取所述当前用户的多帧深度图像，包括：
向所述当前用户投射结构光；
拍摄经所述当前用户调制的多帧结构光图像；
解调所述多帧结构光图像的各个像素对应的相位信息以得到所述多帧深度图像。
3.根据权利要求2所述的方法，其特征在于，所述解调所述多帧结构光图像的各个像素对应的相位信息以得到所述多帧深度图像，包括：
针对所述多帧结构光图像中的各帧结构光图像，解调所述结构光图像中各个像素对应的相位信息；
将所述相位信息转化为深度信息；和
根据所述深度信息生成所述深度图像。
4.根据权利要求1所述的方法，其特征在于，所述根据所述多帧深度图像，对所述动态视频中的各帧图像进行处理，获取各帧图像中动态物体的深度数据，包括：
对所述动态视频中的各帧图像进行识别，获取各帧图像中的动态物体区域；
从各帧图像对应的深度图像中获取与所述动态物体区域对应的深度数据。
5.一种视频播放装置，其特征在于，包括：
处理器，所述处理器用于，获取3D背景中动态物体的动态视频，以及所述动态视频对应的多帧深度图像；
根据所述多帧深度图像，对所述动态视频中的各帧图像进行处理，获取各帧图像中动态物体的深度数据；
深度图像采集组件，所述深度图像采集组件用于获取当前用户的多帧深度图像；
所述处理器还用于，根据所述当前用户的多帧深度图像，确定所述当前用户相对于用户起点的移动方向和移动距离；
根据所述动态视频各帧图像中动态物体的深度数据，确定所述动态物体相对于动态物体起点的移动方向和移动距离；
根据所述当前用户相对于用户起点的移动方向和移动距离、所述动态物体相对于动态物体起点的移动方向和移动距离，以及用户起点与动态物体起点之间的位置关系，确定所述当前用户与所述动态物体之间的距离；
在所述距离小于等于预设的距离阈值时，查询预存的数据库，获取与所述距离阈值匹配的所述动态物体执行相应动作的视频，并播放与所述距离阈值匹配的所述视频。
6.根据权利要求5所述的装置，其特征在于，所述深度图像采集组件包括结构光投射器和结构光摄像头，所述结构光投射器用于向所述当前用户投射结构光；
所述结构光摄像头用于，
拍摄经所述当前用户调制的多帧结构光图像；
解调所述多帧结构光图像的各个像素对应的相位信息以得到所述多帧深度图像。
7.根据权利要求6所述的装置，其特征在于，所述结构光摄像头还用于，
针对所述多帧结构光图像中的各帧结构光图像，解调所述结构光图像中各个像素对应的相位信息；
将所述相位信息转化为深度信息；和
根据所述深度信息生成所述深度图像。
8.根据权利要求5所述的装置，其特征在于，所述处理器还用于，
对所述动态视频中的各帧图像进行识别，获取各帧图像中的动态物体区域；
从各帧图像对应的深度图像中获取与所述动态物体区域对应的深度数据。
9.一种电子装置，其特征在于，所述电子装置包括：
一个或多个处理器；
存储器；和
一个或多个程序，其中所述一个或多个程序被存储在所述存储器中，并且被配置成由所述一个或多个处理器执行，所述处理器执行所述程序时实现权利要求1至4任意一项所述视频播放方法的步骤。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现权利要求1至4任意一项所述视频播放方法的步骤。
CN201710812084.2A 2017-09-11 2017-09-11 视频播放方法、装置及电子装置 Active CN107734385B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710812084.2A CN107734385B (zh) 2017-09-11 2017-09-11 视频播放方法、装置及电子装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710812084.2A CN107734385B (zh) 2017-09-11 2017-09-11 视频播放方法、装置及电子装置

Publications (2)

Publication Number Publication Date
CN107734385A CN107734385A (zh) 2018-02-23
CN107734385B true CN107734385B (zh) 2021-01-12

Family

ID=61205973

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710812084.2A Active CN107734385B (zh) 2017-09-11 2017-09-11 视频播放方法、装置及电子装置

Country Status (1)

Country Link
CN (1) CN107734385B (zh)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN201084382Y (zh) * 2007-08-24 2008-07-09 昆盈企业股份有限公司 互动式显示装置
CN101986243A (zh) * 2010-11-05 2011-03-16 友达光电股份有限公司 立体影像互动系统及其位置偏移补偿方法
CN102301315A (zh) * 2009-01-30 2011-12-28 微软公司 姿势识别器系统架构
CN102622081A (zh) * 2011-01-30 2012-08-01 北京新岸线网络技术有限公司 一种实现体感交互的方法和系统
CN102880288A (zh) * 2012-08-20 2013-01-16 深圳市维尚视界立体显示技术有限公司 一种3d显示的人机交互的方法、装置以及设备
CN103079114A (zh) * 2011-10-26 2013-05-01 索尼公司 用于诸如tv之类的音频视频显示设备的3d用户界面
CN104067201A (zh) * 2011-11-23 2014-09-24 英特尔公司 带有多个视图、显示器以及物理学的姿势输入

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20030097310A (ko) * 2002-06-20 2003-12-31 삼성전자주식회사 디스플레이장치의 화상크기조절방법 및 그화상크기조절시스템과 화상크기조절방법을 수행하는프로그램이 저장된 기록매체
KR101844511B1 (ko) * 2010-03-19 2018-05-18 삼성전자주식회사 입체 음향 재생 방법 및 장치
KR101731346B1 (ko) * 2010-11-12 2017-04-28 엘지전자 주식회사 멀티미디어 장치의 디스플레이화면 제공 방법 및 그에 따른 멀티미디어 장치
US9628843B2 (en) * 2011-11-21 2017-04-18 Microsoft Technology Licensing, Llc Methods for controlling electronic devices using gestures

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN201084382Y (zh) * 2007-08-24 2008-07-09 昆盈企业股份有限公司 互动式显示装置
CN102301315A (zh) * 2009-01-30 2011-12-28 微软公司 姿势识别器系统架构
CN101986243A (zh) * 2010-11-05 2011-03-16 友达光电股份有限公司 立体影像互动系统及其位置偏移补偿方法
CN102622081A (zh) * 2011-01-30 2012-08-01 北京新岸线网络技术有限公司 一种实现体感交互的方法和系统
CN103079114A (zh) * 2011-10-26 2013-05-01 索尼公司 用于诸如tv之类的音频视频显示设备的3d用户界面
CN104067201A (zh) * 2011-11-23 2014-09-24 英特尔公司 带有多个视图、显示器以及物理学的姿势输入
CN102880288A (zh) * 2012-08-20 2013-01-16 深圳市维尚视界立体显示技术有限公司 一种3d显示的人机交互的方法、装置以及设备

Also Published As

Publication number Publication date
CN107734385A (zh) 2018-02-23

Similar Documents

Publication Publication Date Title
CN107797664B (zh) 内容显示方法、装置及电子装置
CN107368730B (zh) 解锁验证方法和装置
CN107734267B (zh) 图像处理方法和装置
US11503228B2 (en) Image processing method, image processing apparatus and computer readable storage medium
CN107610080B (zh) 图像处理方法和装置、电子装置和计算机可读存储介质
CN107610127B (zh) 图像处理方法、装置、电子装置和计算机可读存储介质
CN107452034B (zh) 图像处理方法及其装置
CN107734264B (zh) 图像处理方法和装置
US11138740B2 (en) Image processing methods, image processing apparatuses, and computer-readable storage medium
CN107509043B (zh) 图像处理方法、装置、电子装置及计算机可读存储介质
CN107705278B (zh) 动态效果的添加方法和终端设备
CN107623817B (zh) 视频背景处理方法、装置和移动终端
CN107610171B (zh) 图像处理方法及其装置
CN107464280B (zh) 用户3d建模的匹配方法和装置
CN107590828B (zh) 拍摄图像的虚化处理方法和装置
CN107483815B (zh) 运动物体的拍摄方法和装置
CN107807806A (zh) 显示参数调整方法、装置及电子装置
CN107509045A (zh) 图像处理方法和装置、电子装置和计算机可读存储介质
CN107454336B (zh) 图像处理方法及装置、电子装置和计算机可读存储介质
CN107613239B (zh) 视频通信背景显示方法和装置
CN107592491B (zh) 视频通信背景显示方法和装置
CN107682656B (zh) 背景图像处理方法、电子设备和计算机可读存储介质
CN107734266B (zh) 图像处理方法和装置、电子装置和计算机可读存储介质
CN107705276B (zh) 图像处理方法和装置、电子装置和计算机可读存储介质
CN107529020B (zh) 图像处理方法及装置、电子装置和计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information
CB02 Change of applicant information

Address after: 523860 No. 18, Wu Sha Beach Road, Changan Town, Dongguan, Guangdong

Applicant after: OPPO Guangdong Mobile Communications Co., Ltd.

Address before: 523860 No. 18, Wu Sha Beach Road, Changan Town, Dongguan, Guangdong

Applicant before: Guangdong OPPO Mobile Communications Co., Ltd.

GR01 Patent grant
GR01 Patent grant