CN106791776B - 一种实现视频播放的方法和装置 - Google Patents
一种实现视频播放的方法和装置 Download PDFInfo
- Publication number
- CN106791776B CN106791776B CN201611083180.XA CN201611083180A CN106791776B CN 106791776 B CN106791776 B CN 106791776B CN 201611083180 A CN201611083180 A CN 201611083180A CN 106791776 B CN106791776 B CN 106791776B
- Authority
- CN
- China
- Prior art keywords
- video data
- data stream
- original
- coded
- deep
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/293—Generating mixed stereoscopic images; Generating mixed monoscopic and stereoscopic images, e.g. a stereoscopic image overlay window on a monoscopic image background
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
一种实现视频播放的方法和装置,该方法包括:对第二编码视频数据流进行第二解码处理得到第一编码视频数据流和深度视频数据流;采用二维视频解码方法对第一编码视频流进行第一解码处理得到原始视频数据流;对原始视频数据流和深度视频数据流进行同步处理;根据同步处理后的深度视频数据流对同步处理后的原始视频数据流进行虚化处理,播放虚化处理后的原始视频数据流。本发明实施例的方案兼容了二维视频编码格式,保证了立体视频可以在二维视频播放器上进行解码并播放。
Description
技术领域
本文涉及但不限于视频技术,尤指一种实现视频播放的方法和装置。
背景技术
立体(3D)视频技术基于人的双眸视差原理,通过摄像机获取同一场景但略有差异的两幅图像,分别显示给人的左眼和右眼,形成双目视差,从而使人可以获得场景的深度信息并体验到立体感。立体视频技术可以能够真实地重现客观世界景象,表现出场景的深度感、层次感和真实性,是当前视频技术发展的重要方向。
目前立体视频只能在特定的播放器上播放,而传统的二维(2D)视频播放器则无法播放立体视频。
发明内容
本发明实施例提出了一种实现视频播放的方法和装置,能够兼容二维视频编码格式,保证立体视频可以在二维视频播放器上进行解码并播放。
本发明实施例提出了一种实现视频播放的装置,包括:
第二解码模块,用于对第二编码视频数据流进行第二解码处理得到第一编码视频数据流和深度视频数据流;
第一解码模块,用于采用二维视频解码方法对第一编码视频流进行第一解码处理得到原始视频数据流;
同步处理模块,用于对原始视频数据流和深度视频数据流进行同步处理;
播放模块,用于根据同步处理后的深度视频数据流对同步处理后的原始视频数据流进行虚化处理,播放虚化处理后的原始视频数据流。
可选的,所述第二解码模块具体用于:
读取所述第二编码视频数据流末尾或头部的标志位信息;
根据标志位信息判断出所述第二编码视频数据流带有深度信息,根据所述第二编码视频流中的关键信息解析出所述第一编码视频流和所述深度视频数据流。
可选的,所述播放模块具体用于:
对于所述同步处理后的原始视频数据流中的每一帧原始图像,根据所述同步处理后的深度视频数据流中与所述原始图像对应的深度图像计算所述原始图像中预设区域内的深度值;
对于所述原始图像中所述预设区域外的每一个像素,根据所述预设区域内的深度值和所述像素的深度值计算像素的虚化程度,根据所述像素的虚化程度对所述像素进行虚化处理,直到所述同步处理后的原始视频数据流中的所有原始图像虚化处理完成;
播放所述虚化处理后的原始视频数据流。
可选的,还包括:
获取模块,用于通过双目平台获取原始视频数据流和深度视频数据流;
第一编码模块,用于对原始视频数据流进行与所述第一解码处理对应的第一编码处理得到第一编码视频数据流;
第二编码模块,用于根据深度视频数据流和第一编码视频数据流对第一编码视频数据流进行域所述第二解码处理对应的第二编码处理得到第二编码视频数据流。
可选的,所述双目平台包括双目相机;所述获取模块具体用于:
通过双目相机的第一摄像头获取第一视频数据流,同时通过所述双目相机的第二摄像头获取第二视频数据流;
将所述第一视频数据流或所述第二视频数据流作为所述原始视频数据流;
根据所述第一视频数据流的每一帧第一图像和所述第二视频数据流对应的每一帧第二图像计算所述深度视频数据流中的每一帧深度图像;将所有深度图像合成所述深度视频数据流。
可选的,所述双目平台包括摄像头和用于获取深度信息的设备;
所述获取模块具体用于:
通过所述摄像头获取所述原始视频数据流,同时通过所述用于获取深度信息的设备获取所述深度视频数据流。
可选的,所述第二编码模块具体用于:
获取所述第一编码视频数据流中的关键信息;
将所述深度视频数据流和所述关键信息写入所述第一编码视频数据流的末尾得到第三编码视频数据流;
在所述第三编码视频数据流末尾加入用于表示是否带有深度信息的标志位信息得到所述第二编码视频数据流。
可选的,所述第二编码模块具体用于:
获取所述第一编码视频数据流中的关键信息;
将所述深度视频数据流和所述关键信息写入所述第一编码视频数据流的头部得到第三编码视频数据流;
在所述第三编码视频数据流头部加入用于表示是否带有深度信息的标志位信息得到所述第二编码视频数据流。
本发明实施例还提出了一种实现视频播放的方法,包括:
对第二编码视频数据流进行第二解码处理得到第一编码视频数据流和深度视频数据流;
采用二维视频解码方法对第一编码视频流进行第一解码处理得到原始视频数据流;
对原始视频数据流和深度视频数据流进行同步处理;
根据同步处理后的深度视频数据流对同步处理后的原始视频数据流进行虚化处理,播放虚化处理后的原始视频数据流。
可选的,所述对第二编码视频数据流进行第二解码处理得到第一编码视频数据流和所述深度视频数据流包括:
读取所述第二编码视频数据流末尾或头部的标志位信息;
根据标志位信息判断出所述第二编码视频数据流带有深度信息,根据所述第二编码视频流中的关键信息解析出所述第一编码视频流和所述深度视频数据流。
可选的,所述根据同步处理后的深度视频数据流对同步处理后的原始视频数据流进行虚化处理包括:
对于所述同步处理后的原始视频数据流中的每一帧原始图像,根据所述同步处理后的深度视频数据流中与所述原始图像对应的深度图像计算所述原始图像中预设区域内的深度值;
对于所述原始图像中所述预设区域外的每一个像素,根据所述预设区域内的深度值和所述像素的深度值计算像素的虚化程度,根据所述像素的虚化程度对所述像素进行虚化处理,直到所述同步处理后的原始视频数据流中的所有原始图像虚化处理完成。
可选的,该方法之前还包括:
通过双目平台获取原始视频数据流和深度视频数据流;
对原始视频数据流进行与所述第一解码处理对应的第一编码处理得到第一编码视频数据流;
根据深度视频数据流和第一编码视频数据流对第一编码视频数据流进行与所述第二解码处理对应的第二编码处理得到第二编码视频数据流。
可选的,所述双目平台包括双目相机;所述通过双目平台获取原始视频数据流和深度视频数据流包括:
通过双目相机的第一摄像头获取第一视频数据流,同时通过所述双目相机的第二摄像头获取第二视频数据流;
将所述第一视频数据流或所述第二视频数据流作为所述原始视频数据流;
根据所述第一视频数据流的每一帧第一图像和所述第二视频数据流对应的每一帧第二图像计算所述深度视频数据流中的每一帧深度图像;将所有深度图像合成所述深度视频数据流。
可选的,所述双目平台包括摄像头和用于获取深度信息的设备;
所述通过双目平台获取原始视频数据流和深度视频数据流包括:
通过所述摄像头获取所述原始视频数据流,同时通过所述用于获取深度信息的设备获取所述深度视频数据流。
可选的,所述根据深度视频数据流和第一编码视频数据流对第一编码视频数据流进行与第二解码处理对应的第二编码处理得到第二编码视频数据流包括:
获取所述第一编码视频数据流中的关键信息;
将所述深度视频数据流和所述关键信息写入所述第一编码视频数据流的末尾得到第三编码视频数据流;
在所述第三编码视频数据流末尾加入用于表示是否带有深度信息的标志位信息得到所述第二编码视频数据流。
可选的,所述根据深度视频数据流和第一编码视频数据流对第一编码视频数据流进行与第二解码处理对应的第二编码处理得到第二编码视频数据流包括:
获取所述第一编码视频数据流中的关键信息;
将所述深度视频数据流和所述关键信息写入所述第一编码视频数据流的头部得到第三编码视频数据流;
在所述第三编码视频数据流头部加入用于表示是否带有深度信息的标志位信息得到所述第二编码视频数据流。
与相关技术相比,本发明实施例包括:对第二编码视频数据流进行第二解码处理得到第一编码视频数据流和深度视频数据流;采用二维视频解码方法对第一编码视频流进行第一解码处理得到原始视频数据流;对原始视频数据流和深度视频数据流进行同步处理;根据同步处理后的深度视频数据流对同步处理后的原始视频数据流进行虚化处理,播放虚化处理后的原始视频数据流。通过本发明实施例的方案,先对第二编解码数据流进行第二解码处理得到第一编码视频数据流,再采用二维视频解码方法对第一编码视频数据流进行第一解码处理得到原始视频数据流,并进行同步处理,最后进行虚化处理并播放,从而兼容了二维视频编码格式,保证了立体视频可以在二维视频播放器上进行解码并播放。
附图说明
下面对本发明实施例中的附图进行说明,实施例中的附图是用于对本发明的进一步理解,与说明书一起用于解释本发明,并不构成对本发明保护范围的限制。
图1为实现本发明各个实施例的移动终端的一可选硬件结构示意图;
图2为如图1所示的移动终端的无线通信系统示意图;
图3为本发明第一实施例实现视频播放的方法的流程图;
图4(a)~图4(d)为本发明第一实施例第二编码视频数据流的四种格式示意图;
图5为本发明第二实施例实现视频播放的装置的结构组成示意图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
为了便于本领域技术人员的理解,下面结合附图对本发明作进一步的描述,并不能用来限制本发明的保护范围。需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的各种方式可以相互组合。
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
现在将参考附图描述实现本发明各个实施例的移动终端。在后续的描述中,使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本发明的说明,其本身并没有特定的意义。因此,"模块"与"部件"可以混合地使用。
移动终端可以以各种形式来实施。例如,本发明中描述的终端可以包括诸如移动电话、智能电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、导航装置等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。下面,假设终端是移动终端。然而,本领域技术人员将理解的是,除了特别用于移动目的的元件之外,根据本发明的实施方式的构造也能够应用于固定类型的终端。
图1为实现本发明各个实施例的移动终端的一可选硬件结构示意。
移动终端100可以包括无线通信单元110、A/V(音频/视频)输入单元120、输出单元150、存储器160、接口单元170、控制器180和电源单元190等等。图1示出了具有各种组件的移动终端,但是应理解的是,并不要求实施所有示出的组件。可以替代地实施更多或更少的组件。将在下面详细描述移动终端的元件。
无线通信单元110通常包括一个或多个组件,其允许移动终端100与无线通信系统或网络之间的无线电通信。例如,无线通信单元可以包括移动通信模块112。
移动通信模块112将无线电信号发送到基站(例如,接入点、节点B等等)、外部终端以及服务器中的至少一个和/或从其接收无线电信号。这样的无线电信号可以包括语音通话信号、视频通话信号、或者根据文本和/或多媒体消息发送和/或接收的各种类型的数据。
A/V输入单元120用于接收音频或视频信号。A/V输入单元120可以包括相机121,相机121对在视频捕获模式或图像捕获模式中由图像捕获装置获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元151上。经相机121处理后的图像帧可以存储在存储器160(或其它存储介质)中或者经由无线通信单元110进行发送,可以根据移动终端的构造提供两个或更多相机121。
接口单元170用作至少一个外部装置与移动终端100连接可以通过的接口。例如,外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。识别模块可以是存储用于验证用户使用移动终端100的各种信息并且可以包括用户识别模块(UIM)、客户识别模块(SIM)、通用客户识别模块(USIM)等等。另外,具有识别模块的装置(下面称为"识别装置")可以采取智能卡的形式,因此,识别装置可以经由端口或其它连接装置与移动终端100连接。接口单元170可以用于接收来自外部装置的输入(例如,数据信息、电力等等)并且将接收到的输入传输到移动终端100内的一个或多个元件或者可以用于在移动终端和外部装置之间传输数据。
另外,当移动终端100与外部底座连接时,接口单元170可以用作允许通过其将电力从底座提供到移动终端100的路径或者可以用作允许从底座输入的各种命令信号通过其传输到移动终端的路径。从底座输入的各种命令信号或电力可以用作用于识别移动终端是否准确地安装在底座上的信号。输出单元150被构造为以视觉、音频和/或触觉方式提供输出信号(例如,音频信号、视频信号、警报信号、振动信号等等)。输出单元150可以包括显示单元151、音频输出模块152等等。
显示单元151可以显示在移动终端100中处理的信息。例如,当移动终端100处于电话通话模式时,显示单元151可以显示与通话或其它通信(例如,文本消息收发、多媒体文件下载等等)相关的用户界面(UI)或图形用户界面(GUI)。当移动终端100处于视频通话模式或者图像捕获模式时,显示单元151可以显示捕获的图像和/或接收的图像、示出视频或图像以及相关功能的UI或GUI等等。
同时,当显示单元151和触摸板以层的形式彼此叠加以形成触摸屏时,显示单元151可以用作输入装置和输出装置。显示单元151可以包括液晶显示器(LCD)、薄膜晶体管LCD(TFT-LCD)、有机发光二极管(OLED)显示器、柔性显示器、三维(3D)显示器等等中的至少一种。这些显示器中的一些可以被构造为透明状以允许用户从外部观看,这可以称为透明显示器,典型的透明显示器可以例如为TOLED(透明有机发光二极管)显示器等等。根据特定想要的实施方式,移动终端100可以包括两个或更多显示单元(或其它显示装置),例如,移动终端可以包括外部显示单元(未示出)和内部显示单元(未示出)。触摸屏可用于检测触摸输入压力以及触摸输入位置和触摸输入面积。
音频输出模块152可以在移动终端处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时,将无线通信单元110接收的或者在存储器160中存储的音频数据转换音频信号并且输出为声音。而且,音频输出模块152可以提供与移动终端100执行的特定功能相关的音频输出(例如,呼叫信号接收声音、消息接收声音等等)。音频输出模块152可以包括扬声器、蜂鸣器等等。
存储器160可以存储由控制器180执行的处理和控制操作的软件程序等等,或者可以暂时地存储己经输出或将要输出的数据(例如,电话簿、消息、静态图像、视频等等)。而且,存储器160可以存储关于当触摸施加到触摸屏时输出的各种方式的振动和音频信号的数据。
存储器160可以包括至少一种类型的存储介质,所述存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如,SD或DX存储器等等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等等。而且,移动终端100可以与通过网络连接执行存储器160的存储功能的网络存储装置协作。
控制器180通常控制移动终端的总体操作。例如,控制器180执行与语音通话、数据通信、视频通话等等相关的控制和处理。控制器180可以执行模式识别处理,以将在触摸屏上执行的手写输入或者图片绘制输入识别为字符或图像。
电源单元190在控制器180的控制下接收外部电力或内部电力并且提供操作各元件和组件所需的适当的电力。
这里描述的各种实施方式可以以使用例如计算机软件、硬件或其任何组合的计算机可读介质来实施。对于硬件实施,这里描述的实施方式可以通过使用特定用途集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理装置(DSPD)、可编程逻辑装置(PLD)、现场可编程门阵列(FPGA)、处理器、控制器、微控制器、微处理器、被设计为执行这里描述的功能的电子单元中的至少一种来实施,在一些情况下,这样的实施方式可以在控制器180中实施。对于软件实施,诸如过程或功能的实施方式可以与允许执行至少一种功能或操作的单独的软件模块来实施。软件代码可以由以任何适当的编程语言编写的软件应用程序(或程序)来实施,软件代码可以存储在存储器160中并且由控制器180执行。
至此,己经按照其功能描述了移动终端。下面,为了简要起见,将描述诸如折叠型、直板型、摆动型、滑动型移动终端等等的各种类型的移动终端中的滑动型移动终端作为示例。因此,本发明能够应用于任何类型的移动终端,并且不限于滑动型移动终端。
如图1中所示的移动终端100可以被构造为利用经由帧或分组发送数据的诸如有线和无线通信系统以及基于卫星的通信系统来操作。
现在将参考图2描述其中根据本发明的移动终端能够操作的通信系统。
这样的通信系统可以使用不同的空中接口和/或物理层。例如,由通信系统使用的空中接口包括例如频分多址(FDMA)、时分多址(TDMA)、码分多址(CDMA)和通用移动通信系统(UMTS)(特别地,长期演进(LTE))、全球移动通信系统(GSM)等等。作为非限制性示例,下面的描述涉及CDMA通信系统,但是这样的教导同样适用于其它类型的系统。
参考图2,CDMA无线通信系统可以包括多个移动终端100、多个基站(BS)270、基站控制器(BSC)275和移动交换中心(MSC)280。MSC280被构造为与公共电话交换网络(PSTN)290形成接口。MSC280还被构造为与可以经由回程线路耦接到基站270的BSC275形成接口。回程线路可以根据若干己知的接口中的任一种来构造,所述接口包括例如E1/T1、ATM,IP、PPP、帧中继、HDSL、ADSL或xDSL。将理解的是,如图2中所示的系统可以包括多个BSC2750。
每个BS270可以服务一个或多个分区(或区域),由多向天线或指向特定方向的天线覆盖的每个分区放射状地远离BS270。或者,每个分区可以由用于分集接收的两个或更多天线覆盖。每个BS270可以被构造为支持多个频率分配,并且每个频率分配具有特定频谱(例如,1.25MHz,5MHz等等)。
分区与频率分配的交叉可以被称为CDMA信道。BS270也可以被称为基站收发器子系统(BTS)或者其它等效术语。在这样的情况下,术语"基站"可以用于笼统地表示单个BSC275和至少一个BS270。基站也可以被称为"蜂窝站"。或者,特定BS270的各分区可以被称为多个蜂窝站。
如图2中所示,广播发射器(BT)295将广播信号发送给在系统内操作的移动终端100。如图1中所示的广播接收模块111被设置在移动终端100处以接收由BT295发送的广播信号。在图2中,示出了几个全球定位系统(GPS)卫星300。卫星300帮助定位多个移动终端100中的至少一个。
在图2中,描绘了多个卫星300,但是理解的是,可以利用任何数目的卫星获得有用的定位信息。如图1中所示的GPS模块115通常被构造为与卫星300配合以获得想要的定位信息。替代GPS跟踪技术或者在GPS跟踪技术之外,可以使用可以跟踪移动终端的位置的其它技术。另外,至少一个GPS卫星300可以选择性地或者额外地处理卫星DMB传输。
作为无线通信系统的一个典型操作,BS270接收来自各种移动终端100的反向链路信号。移动终端100通常参与通话、消息收发和其它类型的通信。特定基站270接收的每个反向链路信号被在特定BS270内进行处理。获得的数据被转发给相关的BSC275。BSC提供通话资源分配和包括BS270之间的软切换过程的协调的移动管理功能。BSC275还将接收到的数据路由到MSC280,其提供用于与PSTN290形成接口的额外的路由服务。类似地,PSTN290与MSC280形成接口,MSC与BSC275形成接口,并且BSC275相应地控制BS270以将正向链路信号发送到移动终端100。
基于上述移动终端硬件结构以及通信系统,提出本发明方法各个实施例。
如图3所示,本发明第一实施例提出一种实现视频播放的方法,包括:
步骤300、对第二编码视频数据流进行第二解码处理得到第一编码视频数据流和深度视频数据流。
本步骤中,第二编码视频数据流可以是带有深度信息的视频数据流。
本步骤中,对第二编码视频数据流进行第二解码处理得到第一编码视频数据流和深度视频数据流包括:
读取第二编码视频数据流末尾或头部的标志位信息;
根据标志位信息判断出第二编码视频数据流带有深度信息,根据第二编码视频流中的关键信息解析出第一编码视频流和深度视频数据流。
或者,对第二编码视频数据流进行与第二编码处理对应的第二解码处理得到第一编码视频数据流和深度视频数据流包括:
读取第二编码视频数据流末尾或头部的标志位信息;
根据标志位信息判断出第二编码视频数据流带有深度信息,根据第二编码视频流中的关键信息解析出第一编码视频流和编码处理后的深度视频数据流;
采用二维视频解码方法对编码处理后的深度视频数据流进行第一解码处理得到深度视频数据流。
其中,根据第二编码视频流中的关键信息解析出第一编码视频流和深度视频数据流包括:
根据关键信息中的第一编码视频数据流的有效长度解析出第一编码视频流和深度视频数据流。
其中,根据第二编码视频流中的关键信息解析出第一编码视频流和编码处理后的深度视频数据流包括:
根据关键信息中的第一编码视频数据流的有效长度解析出第一编码视频流和编码处理后的深度视频数据流。
步骤301、采用二维视频解码方法对第一编码视频流进行第一解码处理得到原始视频数据流。
本步骤中,二维视频解码方法可以是任何相关的二维视频解码方法,本发明实施例对此不作限定。
本步骤中,对第一编码视频流进行与第一编码处理对应的第一解码处理得到原始视频数据流包括:
根据关键信息中的第一编码视频数据流的编码格式对第一编码视频流进行第一解码处理得到原始视频数据流。
步骤302、对原始视频数据流和深度视频数据流进行同步处理。
本步骤中,对原始视频数据流和深度视频数据流进行同步处理包括:
根据关键信息中的帧率对原始视频数据流和深度视频数据流进行同步处理。即将原始视频数据流和深度视频数据流的每一帧进行一一对应。
当关键信息中包括视频宽度和视频高度时,在进行同步处理之前还需要将原始视频数据流重新映射为原始大小(即与关键信息中的视频宽度和视频高度相同的大小)。
步骤303、根据同步处理后的深度视频数据流对同步处理后的原始视频数据流进行虚化处理,播放虚化处理后的原始视频数据流。
本步骤中,根据同步处理后的深度视频数据流对同步处理后的原始视频数据流进行虚化处理包括:
对于同步处理后的原始视频数据流中的每一帧原始图像,根据同步处理后的深度视频数据流中与原始图像对应的深度图像计算原始图像中预设区域内的深度值;
对于原始图像中所述预设区域外的每一个像素,根据预设区域内的深度值和像素的深度值计算像素的虚化程度,根据像素的虚化程度对像素进行虚化处理,直到同步处理后的原始视频数据流中的所有原始图像虚化处理完成。
其中,可以根据深度图像中与预设区域对应的区域的所有像素的深度值计算原始图像中预设区域内的深度值,即原始图像中预设区域内的深度值为深度图像中与预设区域对应的区域的所有像素的深度值的平均值或加权平均值,也可以采用其他的计算方法,本发明对此不作限定。
其中,预设区域的深度值和像素的深度值的差值的绝对值越大,像素的虚化程度越大。例如,可以直接将预设区域内的深度值和像素的深度值之间的差值的绝对值作为像素的虚化程度,也可以按照其他的计算方法来计算像素的虚化程度,本发明实施例对此不作限定。
可选的,当根据标志位信息判断出第二编码视频数据流不带有深度信息时,说明第二编码视频数据流中只包含第一编码视频流和标志位信息,那么根据关键信息中的第一编码视频数据流的编码格式对第一编码视频流进行第一解码处理即可。
可选的,该方法之前还包括:
步骤304、通过双目平台获取原始视频数据流和深度视频数据流。
本步骤中,双目平台可以包括双目相机,即包括两个摄像头;也可以包括一个摄像头和一个用于获取深度信息的设备(例如主动激光器等)。
当双目平台包括双目相机时;通过双目平台获取原始视频数据流和深度视频数据流包括:
通过双目相机的第一摄像头获取第一视频数据流,同时通过双目相机的第二摄像头获取第二视频数据流;
将第一视频数据流或第二视频数据流作为原始视频数据流;
根据第一视频数据流的每一帧第一图像和第二视频数据流对应的每一帧第二图像计算深度视频数据流中的每一帧深度图像;将所有深度图像合成深度视频数据流。
其中,第一视频数据流包括多帧第一图像,第二视频数据流包括多帧第二图像,原始视频数据流包括多帧第一图像或第二图像,深度视频数据流包括多帧深度图像。
第一图像、第二图像和深度图像一一对应。
其中,可以采用立体匹配算法来计算深度视频数据流中的每一帧深度图像。
当双目平台包括摄像头和用于获取深度信息的设备时;
通过双目平台获取原始视频数据流和深度视频数据流包括:
通过摄像头获取原始视频数据流,同时通过用于获取深度信息的设备获取深度视频数据流。
其中,原始视频数据流包括多帧摄像头获得的图像,深度视频数据流包括用于获取深度信息的设备获得的多帧深度图像。
摄像头获得的图像和深度图像一一对应。
步骤305、对原始视频数据流进行与第一解码处理对应的第一编码处理得到第一编码视频数据流。
步骤306、根据深度视频数据流和第一编码视频数据流对第一编码视频数据流进行与第二解码处理对应的第二编码处理得到第二编码视频数据流。
本步骤中,根据深度视频数据流和第一编码视频数据流对第一编码视频数据流进行与第二解码处理对应的第二编码处理得到第二编码视频数据流包括:
获取第一编码视频数据流中的关键信息;
将深度视频数据流和关键信息写入第一编码视频数据流的末尾得到第三编码视频数据流;
在第三编码视频数据流末尾加入用于表示是否带有深度信息的标志位信息得到第二编码视频数据流。
或者,根据深度视频数据流和第一编码视频数据流对第一编码视频数据流进行与第二解码处理对应的第二编码处理得到第二编码视频数据流包括:
获取第一编码视频数据流中的关键信息;
对深度视频数据流进行与第一解码处理对应的第一编码处理得到编码处理后的深度视频数据流;
将编码处理后的深度视频数据流和关键信息写入第一编码视频数据流的末尾得到第三编码视频数据流;
在第三编码视频数据流末尾加入用于表示是否带有深度信息的标志位信息得到第二编码视频数据流。
或者,根据深度视频数据流和第一编码视频数据流对第一编码视频数据流进行与第二解码处理对应的第二编码处理得到第二编码视频数据流包括:
获取第一编码视频数据流中的关键信息;
将深度视频数据流和关键信息写入第一编码视频数据流的头部得到第三编码视频数据流;
在第三编码视频数据流头部加入用于表示是否带有深度信息的标志位信息得到第二编码视频数据流。
或者,根据深度视频数据流和第一编码视频数据流对第一编码视频数据流进行与第二解码处理对应的第二编码处理得到第二编码视频数据流包括:
获取第一编码视频数据流中的关键信息;
对深度视频数据流进行与第一解码处理对应的第一编码处理得到编码处理后的深度视频数据流;
将编码处理后的深度视频数据流和关键信息写入第一编码视频数据流的头部得到第三编码视频数据流;
在第三编码视频数据流头部加入用于表示是否带有深度信息的标志位信息得到第二编码视频数据流。
其中,关键信息包括以下的任意一个或多个:视频宽度和视频高度、帧率(即单位时间内包含的图像帧数)、第一编码视频数据流的有效长度、第一编码视频数据流的编码格式等。
当在对原始视频数据流进行第一编码处理之前先对原始视频数据流进行压缩或放大时,关键信息包括视频宽度和视频高度,在后续的解码过程中,根据视频宽度和视频高度进行重新映射。
具体可以采用本领域技术人员的熟知技术手段来获取第一编码视频数据流中的关键信息,并不用于限定本发明实施例的保护范围,这里不再赘述。
其中,标志位信息可以采用一个比特位来表示,例如,可以采用0表示不带有深度信息,采用1来表示带有深度信息。当然也可以采用其他的方式来表示,具体的表示方法本发明实施例不作限定。
其中,图4(a)~图4(d)为第二编码视频数据流的四种格式示意图。
如图4(a)所示,第二编码视频数据流依次包括第一编码视频数据流、深度视频数据流、关键信息和标志位信息。
如图4(b)所示,第二编码视频数据流依次包括第一编码视频数据流、编码处理后的深度视频数据流、关键信息和标志位信息。
如图4(c)所示,第二编码视频数据流依次包括标志位信息、关键信息、深度视频数据流和第一编码视频数据流。
如图4(d)所示,第二编码视频数据流依次包括标志位信息、关键信息、编码处理后的深度视频数据流和第一编码视频数据流。
通过本发明实施例的方案,先对第二编解码数据流进行第二解码处理得到第一编码视频数据流,再采用二维视频解码方法对第一编码视频数据流进行第一解码处理得到原始视频数据流,并进行同步处理,最后进行虚化处理并播放,从而兼容了二维视频编码格式,保证了立体视频可以在二维视频播放器上进行解码并播放。
参见图5,本发明第二实施例提出了一种实现视频播放的装置,包括:
第二解码模块,用于对第二编码视频数据流进行第二解码处理得到第一编码视频数据流和深度视频数据流;
第一解码模块,用于采用二维视频解码方法对第一编码视频流进行第一解码处理得到原始视频数据流;
同步处理模块,用于对原始视频数据流和深度视频数据流进行同步处理;
播放模块,用于根据同步处理后的深度视频数据流对同步处理后的原始视频数据流进行虚化处理,播放虚化处理后的原始视频数据流。
其中,第二解码模块、第一解码模块、同步处理模块可以设置在图1的控制器180中,播放模块可以通过图1的音频输出模块152和控制器180实现。
可选的,第二解码模块具体用于:
读取第二编码视频数据流末尾或头部的标志位信息;
根据标志位信息判断出第二编码视频数据流带有深度信息,根据第二编码视频流中的关键信息解析出第一编码视频流和深度视频数据流。
可选的,第二解码模块具体用于:
读取第二编码视频数据流末尾或头部的标志位信息;
根据标志位信息判断出第二编码视频数据流带有深度信息,根据第二编码视频流中的关键信息解析出第一编码视频流和编码处理后的深度视频数据流;
对编码处理后的深度视频数据流进行与第一编码处理对应的第一解码处理得到深度视频数据流。
可选的,播放模块具体用于:
对于同步处理后的原始视频数据流中的每一帧原始图像,根据同步处理后的深度视频数据流中与原始图像对应的深度图像计算所述原始图像中预设区域内的深度值;
对于原始图像中所述预设区域外的每一个像素,根据预设区域内的深度值和像素的深度值计算像素的虚化程度,根据像素的虚化程度对像素进行虚化处理,直到同步处理后的原始视频数据流中的所有原始图像虚化处理完成;
播放虚化处理后的原始视频数据流。
其中,播放模块可以根据深度图像中与预设区域对应的区域的所有像素的深度值计算原始图像中预设区域内的深度值,即原始图像中预设区域内的深度值为深度图像中与预设区域对应的区域的所有像素的深度值的平均值或加权平均值,也可以采用其他的计算方法,本发明对此不作限定。
其中,预设区域的深度值和像素的深度值的差值的绝对值越大,像素的虚化程度越大。例如,可以直接将预设区域内的深度值和像素的深度值之间的差值的绝对值作为像素的虚化程度,也可以按照其他的计算方法来计算像素的虚化程度,本发明实施例对此不作限定。
可选的,该装置还包括:
获取模块,用于通过双目平台获取原始视频数据流和深度视频数据流;
第一编码模块,用于对原始视频数据流进行与第一解码处理对应的第一编码处理得到第一编码视频数据流;
第二编码模块,用于根据深度视频数据流和第一编码视频数据流对第一编码视频数据流进行第二编码处理得到第二编码视频数据流。
其中,获取模块可以通过图1照相机121和控制器180来实现,第一编码模块和第二编码模块可以设置在图1的控制器180中。
可选的,双目平台包括双目相机;获取模块具体用于:
通过双目相机的第一摄像头获取第一视频数据流,同时通过双目相机的第二摄像头获取第二视频数据流;
将第一视频数据流或第二视频数据流作为原始视频数据流;
根据第一视频数据流的每一帧第一图像和第二视频数据流对应的每一帧第二图像计算深度视频数据流中的每一帧深度图像;将所有深度图像合成深度视频数据流。
其中,第一视频数据流包括多帧第一图像,第二视频数据流包括多帧第二图像,原始视频数据流包括多帧第一图像或第二图像,深度视频数据流包括多帧深度图像。
第一图像、第二图像和深度图像一一对应。
其中,获取模块可以采用立体匹配算法来计算深度视频数据流中的每一帧深度图像。
可选的,双目平台包括摄像头和用于获取深度信息的设备;
获取模块具体用于:
通过摄像头获取原始视频数据流,同时通过用于获取深度信息的设备获取深度视频数据流。
其中,原始视频数据流包括多帧摄像头获得的图像,深度视频数据流包括用于获取深度信息的设备获得的多帧深度图像。
摄像头获得的图像和深度图像一一对应。
可选的,第二编码模块具体用于:
获取第一编码视频数据流中的关键信息;
将深度视频数据流和关键信息写入第一编码视频数据流的末尾得到第三编码视频数据流;
在第三编码视频数据流末尾加入用于表示是否带有深度信息的标志位信息得到第二编码视频数据流。
可选的,第二编码模块具体用于:
获取第一编码视频数据流中的关键信息;
对深度视频数据流进行与第一解码处理对应的第一编码处理得到编码处理后的深度视频数据流;
将编码处理后的深度视频数据流和关键信息写入第一编码视频数据流的末尾得到第三编码视频数据流;
在第三编码视频数据流末尾加入用于表示是否带有深度信息的标志位信息得到第二编码视频数据流。
可选的,第二编码模块具体用于:
获取第一编码视频数据流中的关键信息;
将深度视频数据流和关键信息写入第一编码视频数据流的头部得到第三编码视频数据流;
在第三编码视频数据流头部加入用于表示是否带有深度信息的标志位信息得到第二编码视频数据流。
可选的,第二编码模块具体用于:
获取第一编码视频数据流中的关键信息;
对深度视频数据流进行与第一解码处理对应的第一编码处理得到编码处理后的深度视频数据流;
将编码处理后的深度视频数据流和关键信息写入第一编码视频数据流的头部得到第三编码视频数据流;
在第三编码视频数据流头部加入用于表示是否带有深度信息的标志位信息得到第二编码视频数据流。
其中,关键信息包括以下的任意一个或多个:视频宽度和视频高度、帧率(即单位时间内包含的图像帧数)、第一编码视频数据流的有效长度、第一编码视频数据流的编码格式等。
当在对原始视频数据流进行第一编码处理之前先对原始视频数据流进行压缩或放大时,关键信息包括视频宽度和视频高度,在后续的解码过程中,根据视频宽度和视频高度进行重新映射。
具体可以采用本领域技术人员的熟知技术手段来获取第一编码视频数据流中的关键信息,并不用于限定本发明实施例的保护范围,这里不再赘述。
其中,标志位信息可以采用一个比特位来表示,例如,可以采用0表示不带有深度信息,采用1来表示带有深度信息。当然也可以采用其他的方式来表示,具体的表示方法本发明实施例不作限定。
其中,图4(a)~图4(d)为第二编码视频数据流的四种格式示意图。
如图4(a)所示,第二编码视频数据流依次包括第一编码视频数据流、深度视频数据流、关键信息和标志位信息。
如图4(b)所示,第二编码视频数据流依次包括第一编码视频数据流、编码处理后的深度视频数据流、关键信息和标志位信息。
如图4(c)所示,第二编码视频数据流依次包括标志位信息、关键信息、深度视频数据流和第一编码视频数据流。
如图4(d)所示,第二编码视频数据流依次包括标志位信息、关键信息、编码处理后的深度视频数据流和第一编码视频数据流。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本发明各个实施例所述的方法。
以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。
Claims (10)
1.一种实现视频播放的装置,其特征在于,包括:
第二解码模块,用于对第二编码视频数据流进行第二解码处理得到第一编码视频数据流和深度视频数据流;
第一解码模块,用于采用二维视频解码方法对第一编码视频数据流进行第一解码处理得到原始视频数据流;
同步处理模块,用于对原始视频数据流和深度视频数据流进行同步处理,包括:根据所述第二编码视频数据流中的关键信息,将原始视频数据流重新映射为原始大小,并根据所述关键信息中的帧率,将所述原始视频数据流和所述深度视频数据流的每一帧进行一一对应;
播放模块,用于根据同步处理后的深度视频数据流对同步处理后的原始视频数据流进行虚化处理,播放虚化处理后的原始视频数据流。
2.根据权利要求1所述的装置,其特征在于,所述第二解码模块具体用于:
读取所述第二编码视频数据流末尾或头部的标志位信息;
根据标志位信息判断出所述第二编码视频数据流带有深度信息,根据所述第二编码视频数据流中的关键信息解析出所述第一编码视频数据流和所述深度视频数据流。
3.根据权利要求1所述的装置,其特征在于,所述播放模块具体用于:
对于所述同步处理后的原始视频数据流中的每一帧原始图像,根据所述同步处理后的深度视频数据流中与所述原始图像对应的深度图像计算所述原始图像中预设区域内的深度值;
对于所述原始图像中所述预设区域外的每一个像素,根据所述预设区域内的深度值和所述像素的深度值计算像素的虚化程度,根据所述像素的虚化程度对所述像素进行虚化处理,直到所述同步处理后的原始视频数据流中的所有原始图像虚化处理完成;
播放所述虚化处理后的原始视频数据流。
4.根据权利要求1~3任意一项所述的装置,其特征在于,还包括:
获取模块,用于通过双目平台获取原始视频数据流和深度视频数据流;
第一编码模块,用于对原始视频数据流进行与所述第一解码处理对应的第一编码处理得到第一编码视频数据流;
第二编码模块,用于根据深度视频数据流和第一编码视频数据流对第一编码视频数据流进行域所述第二解码处理对应的第二编码处理得到第二编码视频数据流。
5.根据权利要求4所述的装置,其特征在于,所述双目平台包括双目相机;所述获取模块具体用于:
通过双目相机的第一摄像头获取第一视频数据流,同时通过所述双目相机的第二摄像头获取第二视频数据流;
将所述第一视频数据流或所述第二视频数据流作为所述原始视频数据流;
根据所述第一视频数据流的每一帧第一图像和所述第二视频数据流对应的每一帧第二图像计算所述深度视频数据流中的每一帧深度图像;将所有深度图像合成所述深度视频数据流。
6.一种实现视频播放的方法,其特征在于,包括:
对第二编码视频数据流进行第二解码处理得到第一编码视频数据流和深度视频数据流;
采用二维视频解码方法对第一编码视频数据流进行第一解码处理得到原始视频数据流;
对原始视频数据流和深度视频数据流进行同步处理,包括:根据所述第二编码视频数据流中的关键信息,将原始视频数据流重新映射为原始大小,并根据所述关键信息中的帧率,将所述原始视频数据流和所述深度视频数据流的每一帧进行一一对应;
根据同步处理后的深度视频数据流对同步处理后的原始视频数据流进行虚化处理,播放虚化处理后的原始视频数据流。
7.根据权利要求6所述的方法,其特征在于,所述对第二编码视频数据流进行第二解码处理得到第一编码视频数据流和深度视频数据流包括:
读取所述第二编码视频数据流末尾或头部的标志位信息;
根据标志位信息判断出所述第二编码视频数据流带有深度信息,根据所述第二编码视频数据流中的关键信息解析出所述第一编码视频数据流和所述深度视频数据流。
8.根据权利要求6所述的方法,其特征在于,所述根据同步处理后的深度视频数据流对同步处理后的原始视频数据流进行虚化处理包括:
对于所述同步处理后的原始视频数据流中的每一帧原始图像,根据所述同步处理后的深度视频数据流中与所述原始图像对应的深度图像计算所述原始图像中预设区域内的深度值;
对于所述原始图像中所述预设区域外的每一个像素,根据所述预设区域内的深度值和所述像素的深度值计算像素的虚化程度,根据所述像素的虚化程度对所述像素进行虚化处理,直到所述同步处理后的原始视频数据流中的所有原始图像虚化处理完成。
9.根据权利要求6~8任意一项所述的方法,其特征在于,该方法之前还包括:
通过双目平台获取原始视频数据流和深度视频数据流;
对原始视频数据流进行与所述第一解码处理对应的第一编码处理得到第一编码视频数据流;
根据深度视频数据流和第一编码视频数据流对第一编码视频数据流进行与所述第二解码处理对应的第二编码处理得到第二编码视频数据流。
10.根据权利要求9所述的方法,其特征在于,所述双目平台包括双目相机;所述通过双目平台获取原始视频数据流和深度视频数据流包括:
通过双目相机的第一摄像头获取第一视频数据流,同时通过所述双目相机的第二摄像头获取第二视频数据流;
将所述第一视频数据流或所述第二视频数据流作为所述原始视频数据流;
根据所述第一视频数据流的每一帧第一图像和所述第二视频数据流对应的每一帧第二图像计算所述深度视频数据流中的每一帧深度图像;将所有深度图像合成所述深度视频数据流。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201611083180.XA CN106791776B (zh) | 2016-11-30 | 2016-11-30 | 一种实现视频播放的方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201611083180.XA CN106791776B (zh) | 2016-11-30 | 2016-11-30 | 一种实现视频播放的方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106791776A CN106791776A (zh) | 2017-05-31 |
CN106791776B true CN106791776B (zh) | 2019-04-30 |
Family
ID=58901596
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201611083180.XA Active CN106791776B (zh) | 2016-11-30 | 2016-11-30 | 一种实现视频播放的方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106791776B (zh) |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100475060B1 (ko) * | 2002-08-07 | 2005-03-10 | 한국전자통신연구원 | 다시점 3차원 동영상에 대한 사용자 요구가 반영된 다중화장치 및 방법 |
KR100585966B1 (ko) * | 2004-05-21 | 2006-06-01 | 한국전자통신연구원 | 3차원 입체 영상 부가 데이터를 이용한 3차원 입체 디지털방송 송/수신 장치 및 그 방법 |
EP2197217A1 (en) * | 2008-12-15 | 2010-06-16 | Koninklijke Philips Electronics N.V. | Image based 3D video format |
CN103207664B (zh) * | 2012-01-16 | 2016-04-27 | 联想(北京)有限公司 | 一种图像处理方法和设备 |
TWI586143B (zh) * | 2012-04-05 | 2017-06-01 | 皇家飛利浦電子股份有限公司 | 用於提供用於傳送至三維[3d]目標裝置之3d視訊信號之3d源裝置、方法及記錄載體以及用於自3d源裝置接收3d視訊信號之3d目標裝置 |
-
2016
- 2016-11-30 CN CN201611083180.XA patent/CN106791776B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN106791776A (zh) | 2017-05-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106485689B (zh) | 一种图片处理方法和装置 | |
CN106603543B (zh) | 校正流媒体音视频同步的方法及装置 | |
CN105245774B (zh) | 一种图片处理方法及终端 | |
CN104866265B (zh) | 多媒体文件的显示方法和装置 | |
KR20120027876A (ko) | 이동 단말기 및 그의 3d 이미지 합성방법 | |
CN106713640B (zh) | 一种亮度调节方法和设备 | |
CN105488756B (zh) | 图片合成方法及装置 | |
CN106534590B (zh) | 一种照片处理方法、装置及终端 | |
CN105100673B (zh) | 基于VoLTE的桌面共享方法和装置 | |
CN106097952A (zh) | 一种终端显示屏分辨率调整方法和终端 | |
CN106250081A (zh) | 一种基于双屏终端的显示方法和装置 | |
CN105635837B (zh) | 一种视频播放方法和装置 | |
CN105872179B (zh) | 一种来电显示方法和装置、以及移动终端 | |
CN104935822A (zh) | 一种处理图像的方法和装置 | |
CN105117751B (zh) | 二维码传输方法和装置 | |
CN106651773A (zh) | 图片处理方法及装置 | |
CN106303259A (zh) | 一种实现拍照的方法和装置 | |
CN105898158B (zh) | 一种数据处理方法及电子设备 | |
CN106200924B (zh) | 一种终端及其对虚拟现实视频进行控制的方法 | |
CN106033330B (zh) | 一种显示方法和终端设备 | |
CN106817614A (zh) | 音视频丢帧装置及方法 | |
CN106791776B (zh) | 一种实现视频播放的方法和装置 | |
CN106341687A (zh) | 一种定位视频解码异常的方法及装置 | |
CN106651762A (zh) | 一种照片处理方法、装置及终端 | |
CN106803883B (zh) | 在全景拍摄时景深前后移动的提示终端及方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |