CN110213626A - 视频处理方法及终端设备 - Google Patents
视频处理方法及终端设备 Download PDFInfo
- Publication number
- CN110213626A CN110213626A CN201810168162.4A CN201810168162A CN110213626A CN 110213626 A CN110213626 A CN 110213626A CN 201810168162 A CN201810168162 A CN 201810168162A CN 110213626 A CN110213626 A CN 110213626A
- Authority
- CN
- China
- Prior art keywords
- video
- video data
- image
- play time
- frame images
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 48
- 238000012545 processing Methods 0.000 title claims abstract description 29
- 238000004590 computer program Methods 0.000 claims description 20
- 238000004422 calculation algorithm Methods 0.000 claims description 14
- 238000013507 mapping Methods 0.000 claims description 11
- 230000003321 amplification Effects 0.000 claims description 5
- 238000003199 nucleic acid amplification method Methods 0.000 claims description 5
- 241001269238 Data Species 0.000 claims description 3
- 230000000694 effects Effects 0.000 abstract description 18
- 230000000007 visual effect Effects 0.000 abstract description 12
- 238000005516 engineering process Methods 0.000 abstract description 4
- 230000006870 function Effects 0.000 description 12
- 238000010586 diagram Methods 0.000 description 9
- 230000005540 biological transmission Effects 0.000 description 6
- 235000013399 edible fruits Nutrition 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 101000911390 Homo sapiens Coagulation factor VIII Proteins 0.000 description 2
- 230000003139 buffering effect Effects 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 230000005611 electricity Effects 0.000 description 2
- 102000057593 human F8 Human genes 0.000 description 2
- 229940047431 recombinate Drugs 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000010485 coping Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 230000006798 recombination Effects 0.000 description 1
- 238000005215 recombination Methods 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/24—Monitoring of processes or resources, e.g. monitoring of server load, available bandwidth, upstream requests
- H04N21/2402—Monitoring of the downstream path of the transmission network, e.g. bandwidth available
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/25—Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
- H04N21/266—Channel or content management, e.g. generation and management of keys and entitlement messages in a conditional access system, merging a VOD unicast channel into a multicast channel
- H04N21/2662—Controlling the complexity of the video stream, e.g. by scaling the resolution or bitrate of the video stream based on the client capabilities
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
- H04N21/4402—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
- H04N21/440281—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display by altering the temporal resolution, e.g. by frame skipping
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/442—Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
- H04N21/44209—Monitoring of downstream path of the transmission network originating from a server, e.g. bandwidth variations of a wireless network
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
- H04N21/462—Content or additional data management, e.g. creating a master electronic program guide from data received from the Internet and a Head-end, controlling the complexity of a video stream by scaling the resolution or bit-rate based on the client capabilities
- H04N21/4621—Controlling the complexity of the content stream or additional data, e.g. lowering the resolution or bit-rate of the video stream for a mobile client with a small screen
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Databases & Information Systems (AREA)
- Computer Networks & Wireless Communication (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
本发明涉及计算机技术领域，提供了一种视频处理方法及终端设备。该方法包括：获取网络带宽；接收根据所述网络宽带确定的目标视频的第一视频数据和第二视频数据；所述第一视频数据的分辨率大于所述第二视频数据的分辨率；根据播放时间将所述第一视频数据中的视频帧图像与所述第二视频数据中的视频帧图像进行组合，生成第三视频数据。本发明利用人眼对动态视频敏锐度不高的视觉特点，通过将高分辨视频和低分辨率视频重新组合，组合后的视频能够达到较高分辨率视频的观看效果，能够在网络带宽不佳的情况下，既保证视频播放流畅性，又提升视觉上的视频观看效果。
Description
技术领域
本发明涉及计算机技术领域，尤其涉及一种视频处理方法及终端设备。
背景技术
高分辨率视频越来越广泛地应用于终端设备，例如在终端设备上在线播放4K电影或进行4K视频通讯等。由于高分辨率视频数据量大，需要很大的网络带宽进行传输。在网络带宽难以满足高分辨率视频实时传输的情况下，目前三种常用的技术有：一、降低帧率或码率进行视频传输，这样会造成视频播放卡顿；二、缓冲完成后再进行播放，这样会占用较多的本地缓冲资源，且需等待缓冲的时间较长；三、自适应分辨率调节，将视频由高分辨率切换到低分辨率进行传输和播放，由于存在视频分辨率切换，切换时可能会暂停或者卡顿，并且切换为低分辨率后视频清晰度下降。因此目前在网络带宽不佳时无法在播放流畅的前提下保证视频的清晰度，影响用户的观看体验。
发明内容
有鉴于此，本发明实施例提供了视频处理方法及终端设备，以解决目前在网络带宽不佳时无法在播放流畅的前提下保证视频的清晰度的问题。
本发明实施例的第一方面提供了视频处理方法，包括：
获取网络带宽；
接收根据所述网络宽带确定的目标视频的第一视频数据和第二视频数据；所述第一视频数据的分辨率大于所述第二视频数据的分辨率；
根据播放时间将所述第一视频数据中的视频帧图像与所述第二视频数据中的视频帧图像进行组合，生成第三视频数据。
本发明实施例的第二方面提供了视频处理装置，包括：
获取模块，用于获取网络带宽；
接收模块，用于接收根据所述网络宽带确定的目标视频的第一视频数据和第二视频数据；所述第一视频数据的分辨率大于所述第二视频数据的分辨率；
生成模块，用于根据播放时间将所述第一视频数据中的视频帧图像与所述第二视频数据中的视频帧图像进行组合，生成第三视频数据。
本发明实施例的第三方面提供了终端设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现第一方面中的视频处理方法。
本发明实施例的第四方面提供了计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现第一方面中的视频处理方法。
本发明实施例与现有技术相比存在的有益效果是：通过接收根据网络带宽确定的目标视频的第一视频数据和第二视频数据，能够在网络带宽不佳的情况下，保证视频播放的流畅性；通过根据播放时间将第一视频数据中的视频帧图像与第二视频数据中的视频帧图像进行组合，生成第三视频数据，能够提升视频的观看效果。本发明实施例利用人眼对动态视频敏锐度不高的视觉特点，通过将高分辨视频和低分辨率视频重新组合，组合后的视频能够达到较高分辨率视频的观看效果，能够在网络带宽不佳的情况下，既保证视频播放流畅性，又提升视觉上的视频观看效果。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的视频处理方法的实现流程图；
图2是本发明实施例提供的第一视频数据中的视频帧图像和第二视频数据中的视频帧图像在时间轴上的示意图；
图3是本发明一个实施例提供的视频处理方法中将第一视频数据和第二视频数据进行组合的实现流程图；
图4是本发明另一实施例提供的视频处理方法中将第一视频数据和第二视频数据进行组合的实现流程图；
图5是本发明实施例提供的视频处理方法中将第一视频数据和第二视频数据进行组合的程序流程图；
图6是本发明实施例提供的视频处理装置的示意图；
图7是本发明实施例提供的终端设备的示意图。
具体实施方式
以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本发明实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本发明。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本发明的描述。
为了说明本发明所述的技术方案，下面通过具体实施例来进行说明。
图1为本发明实施例提供的视频处理方法的实现流程图，详述如下：
在S101中，获取网络带宽。
在本实施例中，可以通过对网络带宽进行测试获取网络带宽。例如，通过终端设备在时间窗口T内接收到的数据D，来计算网络带宽。时间窗口T随时间平移，那么第n次测试的网络带宽Sn为：
Sn＝Dn/T (1)
其中，Dn为时间窗口T第n次平移后接收到的数据。
在S102中，接收根据所述网络宽带确定的目标视频的第一视频数据和第二视频数据；所述第一视频数据的分辨率大于所述第二视频数据的分辨率。
在本实施例中，可以根据网络宽带确定目标视频的第一视频数据和第二视频数据。其中，目标视频为终端设备需要进行传输和播放的视频。目标视频可以存储于服务器，可以有多种不同分辨率的视频可供传输和播放。第一视频数据和第二视频数据可以是目标视频的两个不同分辨率的视频数据。第一视频数据的分辨率大于第二视频数据的分辨率，第一视频分辨率对应于高分辨率视频，清晰度较高；第二视频分辨率对应于低分辨视频，清晰度较低。第一视频数据和第二视频数据构成一个组合，根据网络带宽可以确定高低分辨率视频的合适组合，确定原则是在两个视频数据的码率之和小于网络带宽的前提下，选择尽量高帧率的高分辨率视频。
终端设备接收根据网络宽带确定的目标视频的第一视频数据和第二视频数据。在视频传输过程中，可以同时传输两路视频，一路为第一视频数据，一路为第二视频数据。
在S103中，根据播放时间将所述第一视频数据中的视频帧图像与所述第二视频数据中的视频帧图像进行组合，生成第三视频数据。
在本实施例中，第一视频数据可以包括多个视频帧图像；第二视频数据包括可以多个视频帧图像。一个视频帧图像对应于一个播放时间。一个视频帧图像的播放时间可以为该视频帧图像在终端设备中计划播放的时间，或者为该视频帧图像在整个视频数据播放顺序中的位置。根据播放时间将第一视频数据中的视频帧图像与第二视频数据中的视频帧图像进行组合，是将高分辨视频的图像与低分辨视频的图像进行重新组合，从而使生成的第三视频数据同时满足播放流畅性和清晰的观看效果。
本发明实施例通过接收根据网络带宽确定的目标视频的第一视频数据和第二视频数据，能够在网络带宽不佳的情况下，保证视频播放流畅性；通过根据播放时间将第一视频数据中的视频帧图像与第二视频数据中的视频帧图像进行组合，生成第三视频数据，能够提升视频的观看效果。本发明实施例利用人眼对动态视频敏锐度不高的视觉特点，通过将高分辨视频和低分辨率视频重新组合，组合后的视频能够达到较高分辨率视频的观看效果，能够在网络带宽不佳的情况下，既保证视频播放流畅性，又提升视觉上的视频观看效果。
作为本发明的一个实施例，在S102之后，还可以包括：
根据插值算法对所述第二视频数据中的视频帧图像进行放大；放大后的第二视频数据的分辨率等于所述第一视频数据的分辨率。
可选地，可以先根据插值算法对第二视频数据中的视频帧图像进行放大，再根据播放时间将第一视频数据中的视频帧图像与放大后的第二视频数据中的视频帧图像进行组合，生成第三视频数据；也可以先根据播放时间将第一视频数据中的视频帧图像与第二视频数据中的视频帧图像进行组合，再根据插值算法对组合后的视频数据中属于第二视频数据的视频帧图像进行放大，生成第三视频数据。
在本实施例中，由于第一视频数据的分辨率大于第二视频数据的分辨率，第一视频数据的视频帧图像的大小比第二视频数据中的视频帧图像大。为了组合第一视频数据和第二视频数据，可以根据插值算法将第二视频数据中的视频帧图像进行放大，使得放大后的第二视频数据的分辨率等于第一视频数据的分辨率。可选地，插值算法可以采用二次线性插值算法。二次线性插值算法对图像进行放大的计算量较小，可以减少图像放大处理需要的时间，提高视频处理的效率。可选地，插值算法也可以采用其它插值算法进行放大，在此不作限定。
作为本发明的一个实施例，所述第一视频数据的帧率小于所述第二视频数据的帧率，S103可以包括：
将所述第二视频数据中的第二图像用对应的第一图像进行替换，将替换后的第二视频数据作为所述第三视频数据；所述第一图像为所述第一视频数据中的视频帧图像；所述第二图像为所述第二视频数据中与所述第一图像播放时间相对应的视频帧图像。
在本实施例中，第一视频数据对应于高分辨率视频，第一视频数据中单个视频帧图像的数据量较大；第二视频数据对应于低分辨率视频，第二视频数据中单个视频帧图像的数据量较小。第一视频数据的帧率小于第二视频数据的帧率。本实施例采用低帧率的高分辨率视频和高帧率的低分辨率视频进行传输，通过高帧率的低分辨率视频可以保证生成的第三视频数据播放的动态连续性，避免卡顿，通过低帧率的高分辨率视频可以使生成的第三视频数据中包括高分辨率视频帧图像，从而保证视频的观看质量。
第一视频数据中的一个视频帧图像为一个第一图像，一个视频帧图像的播放时间即为第一图像的播放时间。根据各个第一图像的播放时间和第二视频数据中各个视频帧图像的播放时间，可以在第二视频数据中查找到与第一图像相对应的各个第二图像。第一图像和第二图像一一对应。由于第一视频数据的帧率小于第二视频数据的帧率，单位时间内的第一视频数据中视频帧图像的个数小于第二视频数据中视频帧图像的个数(例如第一视频数据每秒10帧，第二视频数据每秒24帧)，所以对于每一个第一图像，第二视频数据中存在对应的第二图像。用各个第一图像将第二视频数据中的各个第二图像替换，替换后的第二视频数据即为第三视频数据。
本实施例通过将第二视频数据中的第二图像用对应的第一图像进行替换，能够减少需要处理的数据量，提高视频处理速度，并且能够保证生成的第三视频数据中包括高分辨率视频图像，从而提高观看效果。
可选地，所述第二图像为所述第二视频数据中播放时间与所述第一图像播放时间相差最小的视频帧图像；或者所述第二图像为所述第二视频数据中播放时间在所述第一图像播放时间之前且与所述第一图像播放时间相差最小的视频帧图像；或者所述第二图像为所述第二视频数据中播放时间在所述第一图像播放时间之后且与所述第一图像播放时间相差最小的视频帧图像。
如图2所示为第一视频数据中的视频帧图像和第二视频数据中的视频帧图像在时间轴上的示意图。其中，第一视频数据中的视频帧图像为Fh1，Fh2，……，Fhj；第二视频数据中的视频帧图像为Fl1，Fl2，……，Fli。若采用第二图像为第二视频数据中播放时间与第一图像播放时间相差最小的视频帧图像的对应方式，则Fh1对应Fl1，Fh2对应Fl3，Fh3对应Fl6，Fh4对应Fl8。若采用第二图像为第二视频数据中播放时间在第一图像播放时间之前且与第一图像播放时间相差最小的视频帧图像的对应方式，则Fh1对应Fl1，Fh2对应Fl3，Fh3对应Fl5，Fh4对应Fl8。若采用第二图像为第二视频数据中播放时间在第一图像播放时间之后且与第一图像播放时间相差最小的视频帧图像的对应方式，则Fh1对应Fl1，Fh2对应Fl4，Fh3对应Fl6，Fh4对应Fl9。具体采用哪种对应方式，可以根据实际情况确定，在此不作限定。
作为本发明的一个实施例，如图3所示，S103中所述将所述第二视频数据中的第二图像用对应的第一图像进行替换可以包括：
在S301中，按照播放时间顺序获取所述第一视频数据中的第j个第一图像；j为大于0的整数。
在本实施例中，按照播放时间顺序可以是按照播放时间的正序，也可以是按照播放时间的倒序。例如，在图2中可以依次获取Fh1，Fh2，Fh3和Fh4，也可以是依次获取Fh4，Fh3，Fh2和Fh1，在此不作限定。
在S302中，在所述第二视频数据中查找与所述第j个第一图像对应的第二图像。
在本实施例中，可以将第j个第一图像的播放时间分别与第二视频数据中各个视频帧图像的播放时间进行对比，从而确定第j个第一图像对应的第二图像。
在S303中，用所述第j个第一图像替换查找到的第二图像。
在S304中，判断所述第一视频数据中是否存在第j+1个第一图像，若所述第一视频数据中存在第j+1个第一图像，则跳转至S301，令j＝j+1进行迭代；若所述第一视频数据中不存在第j+1个第一图像，则结束替换。
本实施例通过依次获取每个第一图像，对第二视频数据中的各个第二图像逐个进行替换，直到所有的第一图像都替换完成，能够快速的实现第一视频数据和第二视频数据的组合，并且能够防止第一图像被遗漏未能参与组合的情况。
作为本发明的另一实施例，如图4所示，S103中所述将所述第二视频数据中的第二图像用对应的第一图像进行替换可以包括：
在S401中，根据所述第一视频数据中的视频帧图像的播放时间和所述第二视频数据中的视频帧图像的播放时间，建立各个第一图像和各个第二图像的对应关系表。
在本实施例中，可以根据第一视频数据中的视频帧图像的播放时间和第二视频数据中的视频帧图像的播放时间，建立各个第一图像和各个第二图像的对应关系表。可以在视频的传输和播放过程中，对对应关系表进行更新。
在S402中，根据所述对应关系表将所述第二视频数据中的第二图像用对应的第一图像进行替换。
在本实施例中，由于对应关系表中记录了第一图像和第二图像的对应关系，因此，在进行替换时，只需要查找对应关系表就能快速的确定第一图像和第二图像的对应关系，从而减少将第二视频数据中的第二图像用对应的第一图像进行替换的时间。
本实施例通过先建立第一图像和第二图像的对应关系表，再根据建立的对应关系表进行替换，将替换过程分解成两个独立的处理过程，可以分别由两个独立的处理模块并行的进行处理，从而减少第一图像对第二图像的替换的时间，进一步提高视频组合的速度，保证视频播放的流畅性。
作为本发明的一个实现示例，第一视频数据和第二视频数据进行组合的程序示例如下：
在本示例中，Vh表示第一视频数据；Vl表示第二视频数据。j表示第一视频数据中的第j个视频帧图像；i表示第二视频数据中第i个视频帧图像。Rh表示第一视频数据的帧率，相应的，第一视频数据中两个视频帧图像之间的间隔时间为1/Rh毫秒；Rl表示第二视频数据的帧率，相应的，第二视频数据中两个视频帧图像之间的间隔时间为1/Rl毫秒。N表示第一视频数据中两个视频帧图像之间可以容纳的第二视频数据视频帧图像的个数：
N＝(1/Rh)/(1/Rl)＝Rl/Rh (2)
其中N为浮点数，可以取到小数点后一位。以Rl＝24fps，Rh＝10fps为例，则N＝24/10＝2.4。
图5为本发明实施例提供的视频处理方法中第一视频数据和第二视频数据进行组合的程序流程图。参照上述程序示例和图5所示的程序流程图，下面对第一视频数据和第二视频数据进行组合的过程进行简要说明，如下所示：
1)分别获取Vl和Vh的分辨率，初始化j＝0，i＝0；
2)判断Vh是否结束，如没结束，解码第j帧Vh视频Fh(j)，否则结束重组；
3)根据视频重组原理计算第0帧开始到第j帧可以容纳的Vl帧个数N，小数部分e，整数部分n；
4)判断e是否小于等于0.5，如果是则i＝n，否则i＝n+1；
5)判断Vl是否结束，如没结束，解码到i帧Vl视频Fl(i)，否则结束重组；
6)Fh(j)替换Fl(i)，并保持Fl(i)针的时间错不变；
7)j增加1。
需要注意的是，为了保证重组后生成的第三视频数据中各个视频帧图像之间的间隔时间相等，在用第一图像替换第二视频数据中的第二图像时，将被替换的第二图像对应的播放时间作为第一图像的时间，因此生成的第三视频数据中各个视频帧图像之间的时间间隔相同，第三视频数据的帧率等于第二视频数据的帧率。另外，为了保证音频和视频同步，第三视频数据中的音频继续采用第二视频数据中的音频。
本发明实施例利用低分辨率视频的码率较低，高分辨率视频在帧率降低时码率也会降低的特点，同时结合人眼对动态视频敏锐度比静态图片较低的视觉特性，在视频传输过程中，同时传输两路视频，一路为低分辨率高帧率视频，一路为高分辨率低帧率视频。终端设备接收到两路视频后，通过插值算法，将低分辨率的视频放大到高分辨率，按照播放时间顺序与高分辨率视频重新组合，从而实现提升视频质量的目的。考虑到人眼对动态视频分敏锐度不高的视觉特点，重新组合的视频可以达到高分辨率视频的观看效果。本发明实施例能够减少网络带宽对高分辨率视频传输的限制，在较低网络带宽时可以传输更高分辨率的视频，从而提升视频质量和观看效果。
本发明实施例通过接收根据网络带宽确定的目标视频的第一视频数据和第二视频数据，能够在网络带宽不佳的情况下，保证视频播放流畅性；通过根据播放时间将第一视频数据中的视频帧图像与第二视频数据中的视频帧图像进行组合，生成第三视频数据，能够提升视频的观看效果。本发明实施例利用人眼对动态视频敏锐度不高的视觉特点，通过将高分辨视频和低分辨率视频重新组合，组合后的视频能够达到较高分辨率视频的观看效果，能够在网络带宽不佳的情况下，既保证视频播放流畅性，又提升视觉上的视频观看效果。
应理解，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本发明实施例的实施过程构成任何限定。
对应于上文实施例所述的视频处理方法，图6示出了本发明实施例提供的视频处理装置的示意图。为了便于说明，仅示出了与本实施例相关的部分。
参照图6，该装置包括获取模块61、接收模块62和生成模块63。
获取模块61，用于获取网络带宽。
接收模块62，用于接收根据所述网络宽带确定的目标视频的第一视频数据和第二视频数据；所述第一视频数据的分辨率大于所述第二视频数据的分辨率。
生成模块63，用于根据播放时间将所述第一视频数据中的视频帧图像与所述第二视频数据中的视频帧图像进行组合，生成第三视频数据。
优选地，该装置还包括放大模块。所述放大模块用于：
根据插值算法对所述第二视频数据中的视频帧图像进行放大；放大后的第二视频数据的分辨率等于所述第一视频数据的分辨率。
优选地，所述第一视频数据的帧率小于所述第二视频数据的帧率，所述生成模块63用于：
将所述第二视频数据中的第二图像用对应的第一图像进行替换，将替换后的第二视频数据作为所述第三视频数据；所述第一图像为所述第一视频数据中的视频帧图像；所述第二图像为所述第二视频数据中与所述第一图像播放时间相对应的视频帧图像。
优选地，所述第二图像为所述第二视频数据中播放时间与所述第一图像播放时间相差最小的视频帧图像；或者所述第二图像为所述第二视频数据中播放时间在所述第一图像播放时间之前且与所述第一图像播放时间相差最小的视频帧图像；或者所述第二图像为所述第二视频数据中播放时间在所述第一图像播放时间之后且与所述第一图像播放时间相差最小的视频帧图像。
优选地，所述生成模块63用于：
按照播放时间顺序获取所述第一视频数据中的第j个第一图像；j为大于0的整数；
在所述第二视频数据中查找与所述第j个第一图像对应的第二图像；
用所述第j个第一图像替换查找到的第二图像；
判断所述第一视频数据中是否存在第j+1个第一图像，若所述第一视频数据中存在第j+1个第一图像，则跳转至所述按照播放时间顺序获取所述第一视频数据中的第j个第一图像的步骤，令j＝j+1进行迭代；若所述第一视频数据中不存在第j+1个第一图像，则结束替换。
优选地，所述生成模块63用于：
根据所述第一视频数据中的视频帧图像的播放时间和所述第二视频数据中的视频帧图像的播放时间，建立各个第一图像和各个第二图像的对应关系表；
根据所述对应关系表将所述第二视频数据中的第二图像用对应的第一图像进行替换。
本发明实施例通过接收根据网络带宽确定的目标视频的第一视频数据和第二视频数据，能够在网络带宽不佳的情况下，保证视频播放流畅性；通过根据播放时间将第一视频数据中的视频帧图像与第二视频数据中的视频帧图像进行组合，生成第三视频数据，能够提升视频的观看效果。本发明实施例利用人眼对动态视频敏锐度不高的视觉特点，通过将高分辨视频和低分辨率视频重新组合，组合后的视频能够达到较高分辨率视频的观看效果，能够在网络带宽不佳的情况下，既保证视频播放流畅性，又提升视觉上的视频观看效果。
图7是本发明一实施例提供的终端设备的示意图。如图7所示，该实施例的终端设备7包括：处理器70、存储器71以及存储在所述存储器71中并可在所述处理器70上运行的计算机程序72，例如程序。所述处理器70执行所述计算机程序72时实现上述各个方法实施例中的步骤，例如图1所示的步骤101至103。或者，所述处理器70执行所述计算机程序72时实现上述各装置实施例中各模块/单元的功能，例如图6所示模块61至63的功能。
示例性的，所述计算机程序72可以被分割成一个或多个模块/单元，所述一个或者多个模块/单元被存储在所述存储器71中，并由所述处理器70执行，以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段，该指令段用于描述所述计算机程序72在所述终端设备7中的执行过程。例如，所述计算机程序72可以被分割成获取模块、接收模块和生成模块，各模块具体功能如下：
获取模块，用于获取网络带宽；
接收模块，用于接收根据所述网络宽带确定的目标视频的第一视频数据和第二视频数据；所述第一视频数据的分辨率大于所述第二视频数据的分辨率；
生成模块，用于根据播放时间将所述第一视频数据中的视频帧图像与所述第二视频数据中的视频帧图像进行组合，生成第三视频数据。
所述终端设备7可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述终端设备可包括，但不仅限于，处理器70、存储器71。本领域技术人员可以理解，图7仅仅是终端设备7的示例，并不构成对终端设备7的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如所述终端设备还可以包括输入输出设备、网络接入设备、总线、显示器等。
所称处理器70可以是中央处理单元(Central Processing Unit，CPU)，还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现成可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器71可以是所述终端设备7的内部存储单元，例如终端设备7的硬盘或内存。所述存储器71也可以是所述终端设备7的外部存储设备，例如所述终端设备7上配备的插接式硬盘，智能存储卡(Smart Media Card，SMC)，安全数字(Secure Digital，SD)卡，闪存卡(Flash Card)等。进一步地，所述存储器71还可以既包括所述终端设备7的内部存储单元也包括外部存储设备。所述存储器71用于存储所述计算机程序以及所述终端设备所需的其他程序和数据。所述存储器71还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将所述装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。
在本发明所提供的实施例中，应该理解到，所揭露的装置/终端设备和方法，可以通过其它的方式实现。例如，以上所描述的装置/终端设备实施例仅仅是示意性的，例如，所述模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或单元的间接耦合或通讯连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
所述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。其中，所述计算机程序包括计算机程序代码，所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括：能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(Read-Only Memory，ROM)、随机存取存储器(RandomAccess Memory，RAM)、电载波信号、电信信号以及软件分发介质等。需要说明的是，所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括是电载波信号和电信信号。
以上所述实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围，均应包含在本发明的保护范围之内。
Claims (10)
1.一种视频处理方法，其特征在于，包括：
获取网络带宽；
接收根据所述网络宽带确定的目标视频的第一视频数据和第二视频数据；所述第一视频数据的分辨率大于所述第二视频数据的分辨率；
根据播放时间将所述第一视频数据中的视频帧图像与所述第二视频数据中的视频帧图像进行组合，生成第三视频数据。
2.如权利要求1所述的视频处理方法，其特征在于，在所述接收根据所述网络宽带确定的目标视频的第一视频数据和第二视频数据之后，还包括：
根据插值算法对所述第二视频数据中的视频帧图像进行放大；放大后的第二视频数据的分辨率等于所述第一视频数据的分辨率。
3.如权利要求1或2所述的视频处理方法，其特征在于，所述第一视频数据的帧率小于所述第二视频数据的帧率，所述根据播放时间将所述第一视频数据中的视频帧图像与所述第二视频数据中的视频帧图像进行组合，生成第三视频数据包括：
将所述第二视频数据中的第二图像用对应的第一图像进行替换，将替换后的第二视频数据作为所述第三视频数据；所述第一图像为所述第一视频数据中的视频帧图像；所述第二图像为所述第二视频数据中与所述第一图像播放时间相对应的视频帧图像。
4.如权利要求3所述的视频处理方法，其特征在于，所述第二图像为所述第二视频数据中播放时间与所述第一图像播放时间相差最小的视频帧图像；或者所述第二图像为所述第二视频数据中播放时间在所述第一图像播放时间之前且与所述第一图像播放时间相差最小的视频帧图像；或者所述第二图像为所述第二视频数据中播放时间在所述第一图像播放时间之后且与所述第一图像播放时间相差最小的视频帧图像。
5.如权利要求3所述的视频处理方法，其特征在于，所述将所述第二视频数据中的第二图像用对应的第一图像进行替换包括：
按照播放时间顺序获取所述第一视频数据中的第j个第一图像；j为大于0的整数；
在所述第二视频数据中查找与所述第j个第一图像对应的第二图像；
用所述第j个第一图像替换查找到的第二图像；
判断所述第一视频数据中是否存在第j+1个第一图像，若所述第一视频数据中存在第j+1个第一图像，则跳转至所述按照播放时间顺序获取所述第一视频数据中的第j个第一图像的步骤，令j＝j+1进行迭代；若所述第一视频数据中不存在第j+1个第一图像，则结束替换。
6.如权利要求3所述的视频处理方法，其特征在于，所述将所述第二视频数据中的第二图像用对应的第一图像进行替换包括：
根据所述第一视频数据中的视频帧图像的播放时间和所述第二视频数据中的视频帧图像的播放时间，建立各个第一图像和各个第二图像的对应关系表；
根据所述对应关系表将所述第二视频数据中的第二图像用对应的第一图像进行替换。
7.一种视频处理装置，其特征在于，包括：
获取模块，用于获取网络带宽；
接收模块，用于接收根据所述网络宽带确定的目标视频的第一视频数据和第二视频数据；所述第一视频数据的分辨率大于所述第二视频数据的分辨率；
生成模块，用于根据播放时间将所述第一视频数据中的视频帧图像与所述第二视频数据中的视频帧图像进行组合，生成第三视频数据。
8.如权利要求7所述的视频处理装置，其特征在于，还包括放大模块，所述放大模块用于：
根据插值算法对所述第二视频数据中的视频帧图像进行放大；放大后的第二视频数据的分辨率等于所述第一视频数据的分辨率。
9.一种终端设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至6任一项所述方法的步骤。
10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至6任一项所述方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810168162.4A CN110213626B (zh) | 2018-02-28 | 2018-02-28 | 视频处理方法及终端设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810168162.4A CN110213626B (zh) | 2018-02-28 | 2018-02-28 | 视频处理方法及终端设备 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN110213626A true CN110213626A (zh) | 2019-09-06 |
| CN110213626B CN110213626B (zh) | 2020-10-16 |
Family
ID=67778699
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201810168162.4A Active CN110213626B (zh) | 2018-02-28 | 2018-02-28 | 视频处理方法及终端设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN110213626B (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113038222A (zh) * | 2021-03-08 | 2021-06-25 | Oppo广东移动通信有限公司 | 视频处理方法、装置、电子设备及存储介质 |
| WO2022127565A1 (zh) * | 2020-12-17 | 2022-06-23 | 华为技术有限公司 | 一种视频处理方法、装置以及设备 |
Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US6078349A (en) * | 1995-06-07 | 2000-06-20 | Compaq Computer Corporation | Process and system for increasing the display resolution of a point-to-point video transmission relative to the actual amount of video data sent |
| WO2005010721A2 (en) * | 2003-07-24 | 2005-02-03 | Sony Electronics Inc. | Transitioning between two high resolution images in a slideshow |
| CN101090472A (zh) * | 2007-07-20 | 2007-12-19 | 北京华纬讯电信技术有限公司 | 利用图像放大处理提升高清视频图像显示质量的方法 |
| CN101345870A (zh) * | 2008-09-04 | 2009-01-14 | 上海交通大学 | 低码率视频超分辨率重构的编码装置和解码装置 |
| CN101632090A (zh) * | 2005-02-08 | 2010-01-20 | 国际商业机器公司 | 用于选择性图像捕获、传输和重构的系统和方法 |
| CN103888689A (zh) * | 2014-03-13 | 2014-06-25 | 北京智谷睿拓技术服务有限公司 | 图像采集方法及图像采集装置 |
| CN104090709A (zh) * | 2014-06-11 | 2014-10-08 | 小米科技有限责任公司 | 图片切换方法和装置 |
| CN104618817A (zh) * | 2015-02-26 | 2015-05-13 | 北京奇艺世纪科技有限公司 | 一种播放网站视频的控制方法及装置 |
| CN105761234A (zh) * | 2016-01-28 | 2016-07-13 | 华南农业大学 | 一种基于结构稀疏表示的遥感影像融合方法 |
| US9462293B1 (en) * | 2011-11-23 | 2016-10-04 | Pixel Works, Inc. | Super resolution weighting blending |
| CN107317960A (zh) * | 2016-04-27 | 2017-11-03 | 深圳看到科技有限公司 | 视频图像获取方法及获取装置 |
| US20180027241A1 (en) * | 2016-07-20 | 2018-01-25 | Mediatek Inc. | Method and Apparatus for Multi-Level Region-of-Interest Video Coding |
-
2018
- 2018-02-28 CN CN201810168162.4A patent/CN110213626B/zh active Active
Patent Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US6078349A (en) * | 1995-06-07 | 2000-06-20 | Compaq Computer Corporation | Process and system for increasing the display resolution of a point-to-point video transmission relative to the actual amount of video data sent |
| WO2005010721A2 (en) * | 2003-07-24 | 2005-02-03 | Sony Electronics Inc. | Transitioning between two high resolution images in a slideshow |
| CN101632090A (zh) * | 2005-02-08 | 2010-01-20 | 国际商业机器公司 | 用于选择性图像捕获、传输和重构的系统和方法 |
| CN101090472A (zh) * | 2007-07-20 | 2007-12-19 | 北京华纬讯电信技术有限公司 | 利用图像放大处理提升高清视频图像显示质量的方法 |
| CN101345870A (zh) * | 2008-09-04 | 2009-01-14 | 上海交通大学 | 低码率视频超分辨率重构的编码装置和解码装置 |
| US9462293B1 (en) * | 2011-11-23 | 2016-10-04 | Pixel Works, Inc. | Super resolution weighting blending |
| CN103888689A (zh) * | 2014-03-13 | 2014-06-25 | 北京智谷睿拓技术服务有限公司 | 图像采集方法及图像采集装置 |
| CN104090709A (zh) * | 2014-06-11 | 2014-10-08 | 小米科技有限责任公司 | 图片切换方法和装置 |
| CN104618817A (zh) * | 2015-02-26 | 2015-05-13 | 北京奇艺世纪科技有限公司 | 一种播放网站视频的控制方法及装置 |
| CN105761234A (zh) * | 2016-01-28 | 2016-07-13 | 华南农业大学 | 一种基于结构稀疏表示的遥感影像融合方法 |
| CN107317960A (zh) * | 2016-04-27 | 2017-11-03 | 深圳看到科技有限公司 | 视频图像获取方法及获取装置 |
| US20180027241A1 (en) * | 2016-07-20 | 2018-01-25 | Mediatek Inc. | Method and Apparatus for Multi-Level Region-of-Interest Video Coding |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2022127565A1 (zh) * | 2020-12-17 | 2022-06-23 | 华为技术有限公司 | 一种视频处理方法、装置以及设备 |
| CN113038222A (zh) * | 2021-03-08 | 2021-06-25 | Oppo广东移动通信有限公司 | 视频处理方法、装置、电子设备及存储介质 |
| CN113038222B (zh) * | 2021-03-08 | 2023-11-10 | Oppo广东移动通信有限公司 | 视频处理方法、装置、电子设备及存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN110213626B (zh) | 2020-10-16 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US20200228877A1 (en) | Method and a device for displaying an anchor competition process | |
| CN109525853A (zh) | 直播间封面展示方法、装置、终端、服务器及可读介质 | |
| CN110310229A (zh) | 图像处理方法、图像处理装置、终端设备及可读存储介质 | |
| US11972778B2 (en) | Sound-picture matching method of video, related apparatus, and storage medium | |
| CN110213626A (zh) | 视频处理方法及终端设备 | |
| CN103198424A (zh) | 一种基于智能显示设备的购物方法及装置 | |
| CN106683196A (zh) | 一种增强现实的展示方法、系统以及智能终端 | |
| CN107105226B (zh) | 一种视频质量评价装置 | |
| CN109274983A (zh) | 进行直播的方法和装置 | |
| CN106791915A (zh) | 一种显示视频图像的方法和装置 | |
| CN107040808A (zh) | 用于视频播放中弹幕图片的处理方法和装置 | |
| CN108600834A (zh) | 视频传输系统、接收/发送/传输方法及装置 | |
| CN105678717A (zh) | 动态视频图像清晰度强化方法及装置 | |
| CN107073333A (zh) | 简档驱动的化身会话 | |
| CN107995501A (zh) | 视频连麦方法及系统 | |
| CN108040270A (zh) | 一种传输视频的方法及装置 | |
| CN108574807A (zh) | 一种影像处理方法及相关设备 | |
| CN108174281A (zh) | 一种视频倒放方法、装置、系统、介质及设备 | |
| CN107113395A (zh) | 用于生成包括图像的频率特性信息的元数据的方法和装置 | |
| CN110267112A (zh) | 教学视频的展示方法、装置、终端设备、服务器及存储介质 | |
| CN111182316B (zh) | 媒体资源的流切换方法和装置、存储介质及电子装置 | |
| CN108282664A (zh) | 图像处理方法、装置、系统及计算机可读存储介质 | |
| CN110119429A (zh) | 数据处理方法、装置、计算机设备和存储介质 | |
| CN109803157A (zh) | 一种基于视频的序列帧动画传输方法、系统和电子设备 | |
| CN108027715B (zh) | 图形命令令牌的修改 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| CB02 | Change of applicant information |
Address after: 516006 TCL technology building, No.17, Huifeng Third Road, Zhongkai high tech Zone, Huizhou City, Guangdong Province Applicant after: TCL Technology Group Co.,Ltd. Address before: 516006 Guangdong province Huizhou Zhongkai hi tech Development Zone No. nineteen District Applicant before: TCL RESEARCH AMERICA Inc. |
|
| CB02 | Change of applicant information | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |