CN113923486B - 一种预生成多流超高清视频播放系统及方法 - Google Patents

一种预生成多流超高清视频播放系统及方法 Download PDF

Info

Publication number
CN113923486B
CN113923486B CN202111343028.1A CN202111343028A CN113923486B CN 113923486 B CN113923486 B CN 113923486B CN 202111343028 A CN202111343028 A CN 202111343028A CN 113923486 B CN113923486 B CN 113923486B
Authority
CN
China
Prior art keywords
video data
target object
video
unit
scaling
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202111343028.1A
Other languages
English (en)
Other versions
CN113923486A (zh
Inventor
张宏
鲁泳
王付生
王立光
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Zhonghe Ultra Hd Collaborative Technology Center Co ltd
Original Assignee
Beijing Zhonghe Ultra Hd Collaborative Technology Center Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Zhonghe Ultra Hd Collaborative Technology Center Co ltd filed Critical Beijing Zhonghe Ultra Hd Collaborative Technology Center Co ltd
Priority to CN202111343028.1A priority Critical patent/CN113923486B/zh
Publication of CN113923486A publication Critical patent/CN113923486A/zh
Application granted granted Critical
Publication of CN113923486B publication Critical patent/CN113923486B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/266Channel or content management, e.g. generation and management of keys and entitlement messages in a conditional access system, merging a VOD unicast channel into a multicast channel
    • H04N21/2662Controlling the complexity of the video stream, e.g. by scaling the resolution or bitrate of the video stream based on the client capabilities
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/238Interfacing the downstream path of the transmission network, e.g. adapting the transmission rate of a video stream to network bandwidth; Processing of multiplex streams
    • H04N21/2387Stream processing in response to a playback request from an end-user, e.g. for trick-play
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/443OS processes, e.g. booting an STB, implementing a Java virtual machine in an STB or power management in an STB
    • H04N21/4438Window management, e.g. event handling following interaction with the user interface

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Human Computer Interaction (AREA)
  • Software Systems (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

本发明提供了一种预生成多流超高清视频播放系统以及方法,首先预处理模块基于预设目标对象及预设缩放比例,对获取到的目标视频数据进行处理,得到处理后视频数据;然后触控操作处理模块基于获取到的针对目标视频数据的触控操作,确定针对目标视频数据的操作请求,并将操作请求发送至服务器;进而请求处理模块根据操作请求,向移动终端返回操作请求对应的处理后视频数据;最后显示模块基于处理后视频数据播放与触控操作对应的视频画面。该方式降低了移动终端对视频处理难度,实现了用户对感兴趣目标的查看,提高了视频传输效率,并提升了用户体验。

Description

一种预生成多流超高清视频播放系统及方法
技术领域
本发明涉及多媒体播放技术领域,尤其是涉及一种预生成多流超高清视频播放系统及方法。
背景技术
相关技术中,在进行视频播放时只能对局部画面进行超高清播放,无法对想要观看的对象进行超高清查看,导致用户观看体验下降,无法满足用户高质量观看需求。
发明内容
有鉴于此,本发明的目的在于提供一种预生成多流超高清视频播放系统及方法,以达到用户对想要观看的对象进行超高清查看,提高了用户体验,满足用户高质量观看需求。
第一方面,本发明实施例提供了一种预生成多流超高清视频播放系统,系统包括通信连接的移动终端及服务器;服务器包括预处理模块以及请求处理模块;移动终端包括触控操作处理模块以及显示模块;预处理模块用于基于预设目标对象及预设缩放比例,对获取到的目标视频数据进行处理,得到处理后视频数据;触控操作处理模块用于基于获取到的针对目标视频数据的触控操作,确定针对目标视频数据的操作请求;操作请求包括选中目标对象以及设定缩放比例;将操作参数发送至服务器;请求处理模块用于根据操作请求,向移动终端返回操作请求对应的处理后视频数据;处理后视频数据包括选中目标对象;显示模块用于基于处理后视频数据播放与触控操作对应的视频画面。
结合第一方面,本发明实施例提供了第一方面的第一种可能的实施方式,其中,触控操作处理模块包括操作信息存储模块单元以及视音频处理模块;操作信息存储模块单元,用于存储用户输入的针对直播视频数据的触控操作对应的触控操作;视音频处理模块用于基于触控操作,确定触控操作对应的目标对象及缩放比例。
结合第一方面的第一种可能的实施方式,本发明实施例提供了第一方面的第二种可能的实施方式,其中,预设目标对象包括多个,预设缩放比例包括每个预设目标对象对应的缩放比例;预处理模块包括特征确定单元、比对单元、目标追踪单元以及视频缩放单元针对每个预设目标对象,特征确定单元用于确定预设目标对象的元数据;元数据指示预设目标对象的图像特征;比对单元用于将预设目标对象的元数据与目标视频数据中每一个画面帧的图像信息进行相似度对比,得到相似度对比结果;根据相似度对比结果确定出每一个画面帧中的预设目标对象的参数信息;目标追踪单元用于根据参数信息,确定每一个画面帧的缩放位置;缩放位置包括预设目标对象;视频缩放单元,用于根据缩放位置以及缩放比例,对目标视频数据进行处理,得到与缩放位置以及预设目标对象的缩放比例对应的处理后视频数据。
结合第一方面,本发明实施例提供了第一方面的第三种可能的实施方式,其中,移动终端还包括缓冲模块;缓冲模块包括漫游图像缓冲单元以及显示缓冲单元;漫游图像缓冲单元,用于存储包括目标对象的处理后视频数据,将包括目标对象的处理后视频数据发送至显示缓冲单元;显示缓冲单元用于将播放处理后视频数据。
结合第一方面的第二种可能的实施方式,本发明实施例提供了第一方面的第四种可能的实施方式,其中,参数信息包括目标对象在画面帧中的轮廓及位置;目标追踪单元包括中心确定子单元以及漫游控制子单元;针对每一个画面帧,中心确定子单元用于基于预设目标对象在画面帧中的位置,确定画面帧的缩放中心;漫游控制子单元,用于基于预设目标对象在画面帧中的轮廓、缩放中心以及预设目标对象的缩放比例,确定缩放位置。
结合第一方面,本发明实施例提供了第一方面的第五种可能的实施方式,其中,视音频处理模块包括下变换单元以及混叠单元,操作指令还包括混叠指令;下变换单元,用于对目标视频数据的画面帧进行下变化处理,生成底图视频;混叠单元,用于将底图视频以及与操作请求对应的视频画面进行混叠处理,得到包含悬浮窗口的视频数据。
结合第一方面,本发明实施例提供了第一方面的第六种可能的实施方式,其中,触控操作还包括画面切换操作;视音频处理模块还用于当识别到画面切换操作时,将漫游图像缓冲单元存储的当前的处理后视频数据的上一个视频数据,发送至显示缓冲单元,以使显示缓冲单元播放上一个视频数据。
结合第一方面,本发明实施例提供了第一方面的第七种可能的实施方式,其中,服务器还包括音频调整模块:音频调整模块,用于将直播视频数据对应的全景音频转换为目标对象对应的立体声音频。
第二方面,本发明实施例提供了一种视频播放方法,方法应用于上述系统;系统包括通信连接的移动终端及服务器;服务器包括预处理模块以及请求处理模块;移动终端包括触控操作处理模块以及显示模块;方法包括:预处理模块基于预设目标对象及预设缩放比例,对获取到的目标视频数据进行处理,得到处理后视频数据;触控操作处理模块基于获取到的针对目标视频数据的触控操作,确定针对目标视频数据的操作请求;操作请求包括选中目标对象以及设定缩放比例;将操作参数发送至服务器;请求处理模块根据操作请求,向移动终端返回操作请求对应的处理后视频数据;处理后视频数据包括选中目标对象;显示模块基于处理后视频数据播放与触控操作对应的视频画面。
结合第二方面,本发明实施例提供了第二方面的第一种可能的实施方式,其中,触控操作处理模块包括操作信息存储单元以及视音频处理模块;基于获取到的针对目标视频数据的触控操作,确定针对目标视频数据的操作请求的步骤,包括:操作信息存储单元存储用户输入的针对直播视频数据的触控操作对应的触控操作;视音频处理模块基于触控操作,确定触控操作对应的目标对象及缩放比例。
本发明实施例带来了以下有益效果:
本发明提供了一种预生成多流超高清视频播放系统以及方法,该系统包括移动终端及服务器;服务器包括预处理模块及请求处理模块;移动终端包括触控操作处理模块及显示模块。首先预处理模块基于预设目标对象及预设缩放比例,对获取到的目标视频数据进行处理,得到处理后视频数据;然后触控操作处理模块基于获取到的针对目标视频数据的触控操作,确定针对目标视频数据的操作请求,并将操作请求发送至服务器;进而请求处理模块根据操作请求,向移动终端返回操作请求对应的处理后视频数据;最后显示模块基于处理后视频数据播放与触控操作对应的视频画面。该方式降低了移动终端对视频处理难度,实现了用户对感兴趣目标的查看,提高了视频传输效率,并提升了用户体验本发明的其他特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本发明而了解。本发明的目的和其他优点在说明书、权利要求书以及附图中所特别指出的结构来实现和获得。
本发明的其他特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本发明而了解。本发明的目的和其他优点在说明书、权利要求书以及附图中所特别指出的结构来实现和获得。
为使本发明的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本发明具体实施方式或现有技术中的技术发明实施例,下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施方式,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的一种预生成多流超高清视频播放系统的结构示意图;
图2为本发明实施例提供的另一种预生成多流超高清视频播放系统的结构示意图;
图3为本发明实施例提供的另一种预生成多流超高清视频播放系统的结构示意图;
图4为本发明实施例提供的一种预生成多流超高清视频播放方法的流程图。
具体实施方式
为使本发明实施例的目的、技术发明实施例和优点更加清楚,下面将结合附图对本发明的技术发明实施例进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
现在很多前端设备拍摄的视频源,其分辨率能够达到4k、8k,甚至能够拍摄16k视频的前端设备也正在研制,但是在例如移动终端(手机或平板电脑等)等小分辨率播放设备,其本身的分辨率不能够达到4k、8k或是16k,并不能直接点对点的展示4k、8k或是16k等超高清视频等原始视频信息。
目前,在视频源和播放设备的分辨率不一致的情况下,为了播放视频,通常是将视频源按比例缩小到移动终端对应的分辨率进行显示,即将高分辨率转换为低分辨率进行查看。现有的方法只是单纯地为了实现视频内容的观看,但是,其无法实现针对想要观看的目标的进行像素级别的查看。
基于此,本发明实施例提供的一种视频播放系统及服务器,以达到用户对想要观看的对象进行超高清查看,提高了用户体验,满足用户高质量观看需求。
为便于对本实施例进行理解,首先对本发明实施例所公开的一种视频播放系统进行详细介绍。
本发明实施例提供了一种预生成多流超高清视频播放系统。如图1所示,该系统包括通信连接的移动终端10及服务器20;服务器20包括预处理模块201以及请求处理模块202;移动终端10包括触控操作处理模块101以及显示模块102。
预处理模块通常用于基于预设目标对象及预设缩放比例,对获取到的目标视频数据进行处理,得到处理后视频数据。具体而言,预处理模块可以识别出视频源中的所有关键人物,并确定视频源中所有关键人物的中心位置,中心位置是指关键人物在视频源的画面中所在的位置,同时识别所有关键人物的运动轨迹,将识别出的包含所有关键人物的视频数据存储到服务器中。
在具体实现时,触控操作处理模块可以包括操作信息存储模块单元以及视音频处理模块;操作信息存储模块单元用于存储用户输入的针对直播视频数据的触控操作对应的触控操作;视音频处理模块用于基于触控操作,确定触控操作对应的目标对象及缩放比例。
触控操作处理模块通常用于基于获取到的针对目标视频数据的触控操作,确定针对目标视频数据的操作请求;操作请求包括选中目标对象以及设定缩放比例;将操作参数发送至服务器。触控操作处理模块从触控装置中获取到用户针对于目标视频数据的触控操作,触控操作可以包括对目标对象的分辨率等,根据识别出的触控操作确定用户的操作请求,操作请求包括用户选择的目标对象以及用户设定的缩放比例等,并将操作信息发送给服务器。
通常而言,预设目标对象包括多个,预设缩放比例包括每个预设目标对象对应的缩放比例;预处理模块包括特征确定单元、比对单元、目标追踪单元以及视频缩放单元针对每个预设目标对象,特征确定单元用于确定预设目标对象的元数据;元数据指示预设目标对象的图像特征;比对单元用于将预设目标对象的元数据与目标视频数据中每一个画面帧的图像信息进行相似度对比,得到相似度对比结果;根据相似度对比结果确定出每一个画面帧中的预设目标对象的参数信息;目标追踪单元用于根据参数信息,确定每一个画面帧的缩放位置,其中,目标追踪单元通过上一帧识别出的参数信息在连续运动没有镜头切换的条件下确定当前画面帧中关键对象的位置在上一帧关键对象的位置附近缩放位置包括预设目标对象;视频缩放单元,用于根据缩放位置以及缩放比例,对目标视频数据进行处理,得到与缩放位置以及预设目标对象的缩放比例对应的处理后视频数据。
请求处理模块通常用于根据操作请求,向移动终端返回操作请求对应的处理后视频数据;处理后视频数据包括选中目标对象。具体而言,请求处理模块接收到动终端发送来的操作请求,并根据操作请求中的目标对象和缩放比例在预先处理的包含所有关键人物的视频数据中查找出与操作请求中的目标对象符合的视频数据,并对查找出的视频数据按照设定的缩放比例进行缩放,将处理后的视频数据发送给移动终端。
显示模块用于基于处理后视频数据播放与触控操作对应的视频画面。
具体而言,显示模块在接收服务器发送的处理后的视频数据后,播放符合用户的触控操作的视频画面。
进一步地,移动终端还包括缓冲模块;缓冲模块包括漫游图像缓冲单元以及显示缓冲单元;漫游图像缓冲单元,用于存储包括目标对象的处理后视频数据,将包括目标对象的处理后视频数据发送至显示缓冲单元;显示缓冲单元用于将播放处理后视频数据。
进一步地,参数信息包括目标对象在画面帧中的轮廓及位置;目标追踪单元包括中心确定子单元以及漫游控制子单元;针对每一个画面帧,中心确定子单元用于基于预设目标对象在画面帧中的位置,确定画面帧的缩放中心;漫游控制子单元,用于基于预设目标对象在画面帧中的轮廓、缩放中心以及预设目标对象的缩放比例,确定缩放位置,其中,指定以某个关键人物为中心漫游后,将该关键人物的中心(可以是面部中心,或者身体重心)设置为待显示的画面中心,以当前显示比例在原始图像中获取待显示画面。
进一步地,视音频处理模块包括下变换单元以及混叠单元,操作指令还包括混叠指令;下变换单元,用于对目标视频数据的画面帧进行下变化处理,生成底图视频;混叠单元,用于将底图视频以及与操作请求对应的视频画面进行混叠处理,得到包含悬浮窗口的视频数据。
进一步地,触控操作还包括画面切换操作;视音频处理模块还用于当识别到画面切换操作时,将漫游图像缓冲单元存储的当前的处理后视频数据的上一个视频数据,发送至显示缓冲单元,以使显示缓冲单元播放上一个视频数据。
进一步地,服务器还包括音频调整模块:音频调整模块,用于将直播视频数据对应的全景音频转换为目标对象对应的立体声音频。
本发明提供了一种视频播放系统,该系统包括移动终端及服务器;服务器包括预处理模块及请求处理模块;移动终端包括触控操作处理模块及显示模块。首先预处理模块基于预设目标对象及预设缩放比例,对获取到的目标视频数据进行处理,得到处理后视频数据;然后触控操作处理模块基于获取到的针对目标视频数据的触控操作,确定针对目标视频数据的操作请求,并将操作请求发送至服务器;进而请求处理模块根据操作请求,向移动终端返回操作请求对应的处理后视频数据;最后显示模块基于处理后视频数据播放与触控操作对应的视频画面。该方式降低了移动终端对视频处理难度,实现了用户对感兴趣目标的查看,提高了视频传输效率,并提升了用户体验。
本发明实施利还提供了另一种视频播放系统,该方法在图1所示的系统基础上实现。
移动终端识别用户的操作信息从服务器中获取按照缩放比例处理后的包含关键对象的视频画面以进行播放,以使用户可以个性化、且更清晰、更细致的观看包含感兴趣对象的视频,达到漫游的目的。该系统的移动终端结构如图2所示,移动终端与服务器间的交互结构示意图如图3所示。
本系统是服务器事先对视频源进行一定的处理,先在视频源中别出关键对象,制作好可能播放的感兴趣区域的视频后,将对应的视音频信息发送给移动终端进行播放。
相关技术是移动终端从服务器接收完整视频源,然后根据用户的操作指令进行播放,所用传输流量较大,对移动终端的要求更高。本系统的好处是传输流量较小,对移动终端的要求相对第一种系统更低,因为服务器将视频源可能的操作都事先处理好,移动终端只需要发送对应指令和接收处理后的视频源便好,无需传输大量数据,也无需对视频源进行处理。
上述系统通过移动终端识别用户的操作信息并获取处理后的视频,以获取按照缩放比例处理后的包含关键对象的视频画面,以使用户可以个性化、且更清晰、更细致的观看包含感兴趣对象的视频,并达到漫游的目的。
移动终端至少包括图2所示的几个模块,具体描述如下:
移动终端至少包括:操作信息存储模块、视音频处理模块、通讯模块和缓冲模块。
操作信息存储模块与移动终端的触摸屏连接,用于接收用户的操作信息并发送给视音频处理模块。视音频处理模块通过操作信息识别出用户的指令或是指令参数,通过通讯模块与服务器联系获取用户想要观看的超高清视频。
如图3所示,服务器包括:
调节控制单元,用于基于视音频处理模块从操作信息识别出的参数,调用对应指令的单元对图像进行处理。
视频缩放单元,用于基于调节控制单元的调用指令,对原视频图像进行缩放处理,以实现用户的放大观看的目的。
目标追踪单元,用于基于调节控制单元的调用指令,对视频中的关键对象进行追踪,以实现用户以关键对象为中心进行观看的目的。
下变换单元,用于基于调节控制单元的调用指令,超高清视频信号的视频图像对应的整幅图像进行下变换处理,得到分辨率缩小的视频图像对应的整幅图像,以实现用户以悬浮窗口的形式显示完整视频的目的,或实现缩小分辨率在手机上播放的目的。
混叠单元,用于基于调节控制单元的调用指令,将感兴趣区域画面和完整画面叠置处理,以实现用户以悬浮窗口的形式显示完整视频的目的。
元数据单元,用于基于调节控制单元的调用指令,从通讯模块的原数据中调取元数据,以实现显示关键对象的信息的目的。
音频调整单元,用于基于调节控制单元的调用指令,调整音频,以实现上述切换音效的目的。
漫游控制单元,用于基于调节控制单元的调用指令,选取漫游区域,以实现上述漫游观看的目的。
视音频处理模块处理后的视频在缓冲模块中进行缓冲,而后缓冲模块通过显示驱动电路,将视频显示在移动终端的显示屏幕上,且缓冲模块通过扬声器驱动电路播放音频。
缓冲模块,包括:
关键对象信息像缓冲单元,用于缓冲关键对象的信息,例如,缓存每一个关键对象在视频源中每一帧的位置和轮廓信息;
元数据缓冲单元,用于缓冲元数据;
感兴趣区域图像缓冲单元,用于缓冲感兴趣区域的视频图像,具体与视频缩放单元连接;
原始视频帧图像缓冲单元,用于缓冲原始视频图像;
音频缓冲单元,用于缓冲音频,具体与音频调整单元连接;
底图缓冲单元,用于缓存分辨率缩小的视频图像对应的整幅图像,具体与视音频处理模块中的下变换单元和混叠单元连接。
漫游图像缓冲单元,用于缓冲漫游区域的图像,具体与视音频处理模块中的漫游控制单元连接。
音频输出缓冲单元,用于将播放的音频输送给扬声器驱动电路,扬声器驱动电路驱动扬声器进行播放,具体与音频缓冲单元连接。
显示缓冲单元,用于将原始视频图像、感兴趣区域的视频图像、漫游区域的视频图像和元数据中的一种或多种输送给显示驱动电路,显示驱动电路驱动显示屏幕进行播放,具体与元数据缓冲单元、感兴趣区域图像缓冲单元、原始视频帧图像缓冲单元和底图缓冲单元连接。
通讯模块与服务器连接,用于接收用户想要观看的区域的视频。
服务器对每一帧图像中关键对象的轮廓及位置进行记录之后,按照不同的缩放比例制作好包含关键对象的局部画面的待播放视频并进行打包,以形成不同的数据包。服务器接收了移动终端发送的关键对象和缩放比例,将对应的数据包发送给移动终端。
以下进行具体说明:
操作信息存储模块存储用户的操作信息,操作信息的来源包括但不限于(1)用户在触摸屏上的操作信息;(2)通过手机按键的操作;(3)用户通过手机感应(例如重力感应)的操作。只要是用户通过移动终端进行操作都可以记录为操作信息,以下以从接触屏得到的操作信息进行举例说明。
操作信息存储模块接收并存储用户的操作信息后发送给视音频处理模块,视音频处理模块至少从操作信息中识别出关键对象和缩放比例,而后经由通讯模块发送给的服务器,服务器的调节控制单元,调用目标追踪单元和视频缩放单元对从通讯模块接收的视频源进行目标追踪和视频缩放处理,并将处理后的视频发送给缓冲模块的漫游图像缓冲单元;漫游图像缓冲单元将视频发送给显示缓冲单元进行播放。
1.视音频处理模块可以从操作信息中识别缩放观看的目的和缩放比例,移动终端可(1)支持无级放大(移动终端的分辨率至视频源的分辨率之间);(2)支持多点触摸放大,最高可放大到与视频源等同的分辨率进行播放,即区域的像素点与视频源一致等。移动终端还支持其他放大方式,在此不一一说明。
2.视音频处理模块可在视频源中自动识别出关键对象或者移动终端接收的视频源中包括预设的关键对象。关键对象可以为关键人、关键物等。移动终端可以从操作信息中识别出用户选择关键对象。
具体来说,服务器可以基于预先存储的关键对象的图像信息对视频源中的每一帧图像中画面进行比对按照相似度比对并标记出图像中的关键对象,并对每一帧图像中关键对象的轮廓及位置进行记录,再进行存储。当用户选择观看一个视频时,将关键对象的信息(至少为上述关键对象的轮廓及位置)存储到关键对象信息缓冲单元中,以便于视音频处理模块进行识别。视音频处理模块基于操作信息(例如包括点击位置)和关键对象信息缓冲单元识别出用户选择的关键对象。
可以基于预先存储的关键对象的图像信息对视频源中的每一帧图像中画面进行比对按照相似度比对并标记出图像中的关键对象,并对每一帧图像中关键对象的轮廓及位置进行记录,再存储到关键对象信息缓冲单元中。其中关键对象可以是根据用户观看习惯,视频中人员的知名度,主要物体来确定,比如,裁判、球员、球。例如,在视音频处理模块基于识别出用户的点击位置在关键对象的轮廓范围内时,识别出用户选中的关键对象。
在上述1和2中识别出关键对象和缩放比例后,发送给服务器。
服务器中预先在视频源中提取包含关键对象活动的局部画面按照预设缩放比例进行处理,得到包括待播放视频的数据包,服务器收到移动终端的请求后,将对应数据包发送给移动终端。移动终端的视音频处理模块进行解码等操作后,将待播放视频发送给缓冲模块,由缓冲模块控制显示驱动电路,显示驱动电路控制显示屏幕进行播放。
具体来说,移动终端可以从操作信息中识别用户改变播放视角的目的,其中该播放视角中的播放画面要包含关键对象。举例来说移动终端可接收用户的跟踪关键对象的操作信息(例如点击关键对象)后,并将此关键对象发送给服务器,服务器将预先做好的视频包发送给移动终端,进行播放。
以足球赛事为例,比如可能有很多观众喜欢C罗,可以有一个关键对象预设为C罗。移动终端的操作信息接收模块接收到操作信息后发送给视音频处理模块;视音频处理模块从点击位置在C罗的轮廓范围内识别出关键对象为C罗,并从用户两点接触屏幕向外滑动的距离为两点原始位置的1倍的操作信息中,识别出放大倍数为2。并将此信息发送给服务器。服务器将预先制作好的以C罗为画面中心的放大倍数为2的局部视频图像发送给移动终端进行播放。
也可以有一个关键对象预设为足球,这样移动终端播接收到点击足球的操作时,将识别后我的信息发送给服务器,服务器将预先制作好的以足球为画面中心的放大后的视频图像的数据包发送个移动终端。
其中关键对象在放大后的视频图像中的位置可以在处理模块中默认为中心位置,也可以预先设置几个位置,由用户选择。
本系统还包括,移动终端可根据用户的操作信息播放放大后的信息。具体是视音频处理模块识别出缩放位置和缩放比例后通过通讯模块发送给服务器。服务器的调节控制单元预先基于预设缩放位置和预设缩放比例调取对应的单元对视频源中的预设缩放位置进行缩放处理,得到包括数据包,当服务器收到请求后,将数据包发送给移动终端进行播放。
其中,缩放方式包括但不限于多点触摸缩放和点击缩放。例如,视音频处理模块中的程序设定为,接收用户的多点触摸进行缩放播放,即接收“用户使用两点接触触摸屏,并且两个接触点逐渐远离(放大播放)”的操作信息。视音频处理模块识别两个接触点的滑动距离、滑动速率等条件进行缩放播放(例如接收用户的两点接触屏幕向外滑动的操作信息;视音频处理模块将接触的两点中心识别为放大中心,将滑动距离和两点原始距离的比例作识别为缩放比例)。再例如,视音频处理模块中的程序设定为,接收用户的双击进行放大,可设定为接受一次用户的双击,放大一次。此时,移动终端的分辨率若为高清(1920×1080),视频源的分辨率为若为8K,也就是说,视频源的图像大小(或像素点数量)是移动终端可显示的图像大小(或像素点数量)的16倍,即双击4次可将视频源放大至最大,以最大程度满足用户观看需求。这里的放大至最大指的是用户能够移动终端的分辨率下观看到最细节的视频图像且不模糊时候,即点对点观看(也可根据需要将“放大至最大”设置为其他形式,例如移动终端最大分辨率的2倍)。
本系统还包括,视音频处理模块识别出关键对象,发送给服务器。服务器预先通过元数据单元提取出对应关键对象的元数据后,将元数据存储到待播放视频的数据包中。视音频处理模块接收到数据包后,将其中的元数据存储到元数据缓冲单元,元数据缓冲单元将元数据发送到显示缓冲单元进行播放,以在显示屏幕上显示出该关键对象的元数据,达到对关键对象提示的目的。元数据为关键对象的信息,例如,人物基本信息(姓名、年龄、主要成绩,进球数等)、物体基本信息(物体历史信息,型号等)等。
本系统还包括,视音频处理模块可以从操作信息中识别出放大倍数和图像漫游路径(漫游即改变当前播放视角在视频源的全画幅图像中的位置进行播放)。并将此次信息发送给服务器。服务器的调节控制单元至少调用视频缩放单元、目标追踪单元和漫游控制单元基于漫游路径对视频源进行提取,得到待播放视频,形成数据包,并将数据包发送给视音频处理模块,视音频处理模块将视频缓存到漫游图像缓冲单元,漫游图像缓冲单元将视频发送到显示缓冲单元进行播放。其中用户的操作信息可以包括在移动终端的屏幕上的滑动动作,视音频处理模块将滑动路径识别为漫游路径。本段内容的系统中,服务器是接收到移动终端的指令后,再对视频源进行处理,得到待播放视频,再形成数据包进行发送。之前的几个系统中,都是根据服务器接收到的请求将已经处理好的数据包。在实际使用时,根据实际需求,服务器可以将已处理好的数据包进行发送,也可以收到请求后再对视频源进行处理。
本系统还包括,当移动终端的对视频源的每一帧进行放大播放时,将视频源的全幅画面以悬浮小窗口的形式进行展现。
具体来说,服务器的调节控制单元调用下变换单元对视频源的每一帧图像进行下变换处理,并将处理后的每一帧图像缓存至底图缓冲单元,并且调节控制单元调用混叠单元将下变换处理后的每一帧图像,以及放大的每一帧图像进行混叠处理,以得到待播放视频。
在此系统下,操作信息还包括对悬浮小窗口的操作信息,视音频处理模块从中识别出的操作指令包括但不限于一下几种:(1)透明度设置指令(例如可设置为0-90%的透明度范围)(2)恢复完整视频图像播放指令(例如,接收用户双击悬浮窗口的操作后,从播放感兴趣区域的局部视频图像的状态下切换到全屏播放完整视频图像)。
本系统还包括,视音频处理模块从操作信息中识别出画面切换指令,调节控制单元控制播放缓冲模块中上一个感兴趣区域的局部视频图像。例如,移动终端接收到用户点击或双击预设区域的操作后,切换到上一个感兴趣区域,若无上一个感兴趣区域则可设置为放大播放点击处的视频图像。
本系统还包括,移动终端的通讯模块除了接收上述图像信息(视频源),还包括音频信息。
移动终端至少支持立体声和全景声的播放。
服务器不仅像上述一样将感兴趣区域的视频图像放大处理,还将对应处理音效,具体是将完整视频图像的声音切换为感兴趣区域的音效,例如通过音频调整单元将全景声切换为对应的感兴趣区域的立体声,并存储到数据包。
优选的,上述系统中的视频源的每一帧都是拍摄设备拍摄运动场上全景画面(整个赛场不遗漏)的超高清视频,视频源中的每一帧都会记录每一个关键对象在赛场上的表现,这样追踪关键对象播放时,包含关键对象的局部画面不会有时间上的断层,确保用户能够观看到关键对象的整场表现。
以上所说的移动终端的分辨率指的是移动终端的活动画面区域的分辨率,所谓活动画面区就是能够有效播放视频的手机画面的区域。举例来说,说是有的手机画面的上方、下方或是左右两侧有空白不播放视频的区域,则此部分区域则不是活动画面区域,只有当全屏显示(即视频画面占满整个手机显示屏)时,活动画面区域的分辨率与手机的分辨率一致。
对应于上述方法实施例,本发明实施例还提供一种视频播放方法。如图4所示,该方法的步骤,包括:
步骤S400,服务器基于预设目标对象及预设缩放比例,对获取到的目标视频数据进行处理,得到处理后视频数据。
步骤S402,移动终端基于获取到的针对目标视频数据的触控操作,确定针对目标视频数据的操作请求;操作请求包括选中目标对象以及设定缩放比例;将操作参数发送至所述服务器。
步骤S404,服务器根据操作请求,向移动终端返回操作请求对应的处理后视频数据;处理后视频数据包括选中目标对象。
步骤S406,移动终端基于处理后视频数据播放与触控操作对应的视频画面。
本发明实施例提供的一种视频播放方法,与上述实施例提供的一种视频播放系统具有相同的技术特征,所以也能解决相同的技术问题,达到相同的技术效果。
本发明实施例所提供的计算机程序产品,包括存储了程序代码的计算机可读存储介质,所述程序代码包括的指令可用于执行前面方法实施例中所述的方法,具体实现可参见方法实施例,在此不再赘述。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
另外,在本发明实施例的描述中,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通。对于本领域的普通技术人员而言,可以具体情况理解上述术语在本发明中的具体含义。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个处理器可执行的非易失的计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
在本发明的描述中,需要说明的是,术语“中心”、“上”、“下”、“左”、“右”、“竖直”、“水平”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。此外,术语“第一”、“第二”、“第三”仅用于描述目的,而不能理解为指示或暗示相对重要性。
最后应说明的是:以上所述实施例,仅为本发明的具体实施方式,用以说明本发明的技术方案,而非对其限制,本发明的保护范围并不局限于此,尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化,或者对其中部分技术特征进行等同替换;而这些修改、变化或者替换,并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应所述以权利要求的保护范围为准。

Claims (9)

1.一种预生成多流超高清视频播放系统,其特征在于,所述系统包括通信连接的移动终端及服务器;所述服务器包括预处理模块以及请求处理模块;所述移动终端包括触控操作处理模块以及显示模块;
所述预处理模块用于基于预设目标对象及预设缩放比例,对获取到的目标视频数据进行处理,得到处理后视频数据;
所述触控操作处理模块用于基于获取到的针对目标视频数据的触控操作,确定针对目标视频数据的操作请求;所述操作请求包括选中目标对象以及设定缩放比例;将所述操作请求发送至所述服务器;
所述请求处理模块用于根据所述操作请求,向所述移动终端返回所述操作请求对应的处理后视频数据;所述处理后视频数据包括所述选中目标对象;
所述显示模块用于基于所述处理后视频数据播放与所述触控操作对应的视频画面;
所述预设目标对象包括多个,所述预设缩放比例包括每个所述预设目标对象对应的缩放比例;所述预处理模块包括特征确定单元、比对单元、目标追踪单元以及视频缩放单元;
针对每个所述预设目标对象,所述特征确定单元用于确定所述预设目标对象的元数据;所述元数据指示所述预设目标对象的图像特征;
所述比对单元用于将所述预设目标对象的元数据与所述目标视频数据中每一个画面帧的图像信息进行相似度对比,得到相似度对比结果;根据所述相似度对比结果确定出每一个所述画面帧中的预设目标对象的参数信息;
所述目标追踪单元用于根据所述参数信息,确定每一个画面帧的缩放位置;所述缩放位置包括所述预设目标对象;
所述视频缩放单元,用于根据所述缩放位置以及缩放比例,对所述目标视频数据进行处理,得到与所述缩放位置以及所述预设目标对象的缩放比例对应的处理后视频数据。
2.根据权利要求1所述的系统,其特征在于,所述触控操作处理模块包括操作信息存储单元以及视音频处理模块;
所述操作信息存储单元用于存储用户输入的针对直播视频数据的触控操作对应的触控操作;
所述视音频处理模块用于基于所述触控操作,确定所述触控操作对应的目标对象及缩放比例。
3.根据权利要求1所述的系统,其特征在于,所述移动终端还包括缓冲模块;所述缓冲模块包括漫游图像缓冲单元以及显示缓冲单元;
所述漫游图像缓冲单元,用于存储包括目标对象的处理后视频数据,将所述包括目标对象的处理后视频数据发送至所述显示缓冲单元;所述显示缓冲单元用于将播放所述处理后视频数据。
4.根据权利要求1所述的系统,其特征在于,所述参数信息包括所述目标对象在画面帧中的轮廓及位置;所述目标追踪单元包括中心确定子单元以及漫游控制子单元;
针对每一个画面帧,所述中心确定子单元用于基于所述预设目标对象在所述画面帧中的位置,确定所述画面帧的缩放中心;
所述漫游控制子单元,用于基于所述预设目标对象在画面帧中的轮廓、所述缩放中心以及所述预设目标对象的缩放比例,确定缩放位置。
5.根据权利要求1所述的系统,其特征在于,所述预处理模块包括下变换单元以及混叠单元,所述操作请求还包括混叠指令;
所述下变换单元,用于对所述目标视频数据的画面帧进行下变化处理,生成底图视频;
所述混叠单元,用于将所述底图视频以及所述与所述操作请求对应的视频画面进行混叠处理,得到包含悬浮窗口的视频数据。
6.根据权利要求1所述的系统,其特征在于,所述触控操作还包括画面切换操作;
所述预处理模块还用于当识别到所述画面切换操作时,将漫游图像缓冲单元存储的当前的处理后视频数据的上一个视频数据,发送至显示缓冲单元,以使所述显示缓冲单元播放上一个视频数据。
7.根据权利要求1所述的系统,其特征在于,所述服务器还包括音频调整模块:
所述音频调整模块,用于将直播视频数据对应的全景音频转换为目标对象对应的立体声音频。
8.一种预生成多流超高清视频播放方法,其特征在于,所述方法应用于如权利要求1-7任一项所述的系统;所述系统包括通信连接的移动终端及服务器;所述服务器包括预处理模块以及请求处理模块;所述移动终端包括触控操作处理模块以及显示模块;所述方法包括:
所述预处理模块基于预设目标对象及预设缩放比例,对获取到的目标视频数据进行处理,得到处理后视频数据;
所述触控操作处理模块基于获取到的针对目标视频数据的触控操作,确定针对目标视频数据的操作请求;所述操作请求包括选中目标对象以及设定缩放比例;将所述操作请求发送至所述服务器;
所述请求处理模块根据所述操作请求,向所述移动终端返回所述操作请求对应的处理后视频数据;所述处理后视频数据包括所述选中目标对象;
所述显示模块基于所述处理后视频数据播放与所述触控操作对应的视频画面;
其中,所述预设目标对象包括多个,所述预设缩放比例包括每个所述预设目标对象对应的缩放比例;所述预处理模块包括特征确定单元、比对单元、目标追踪单元以及视频缩放单元;
针对每个所述预设目标对象,所述特征确定单元用于确定所述预设目标对象的元数据;所述元数据指示所述预设目标对象的图像特征;
所述比对单元用于将所述预设目标对象的元数据与所述目标视频数据中每一个画面帧的图像信息进行相似度对比,得到相似度对比结果;根据所述相似度对比结果确定出每一个所述画面帧中的预设目标对象的参数信息;
所述目标追踪单元用于根据所述参数信息,确定每一个画面帧的缩放位置;所述缩放位置包括所述预设目标对象;
所述视频缩放单元,用于根据所述缩放位置以及缩放比例,对所述目标视频数据进行处理,得到与所述缩放位置以及所述预设目标对象的缩放比例对应的处理后视频数据。
9.根据权利要求8所述的方法,其特征在于,所述触控操作处理模块包括操作信息存储单元以及视音频处理模块;
基于获取到的针对目标视频数据的触控操作,确定针对目标视频数据的操作请求的步骤,包括:
所述操作信息存储单元存储用户输入的针对直播视频数据的触控操作对应的触控操作;
所述视音频处理模块基于所述触控操作,确定所述触控操作对应的目标对象及缩放比例。
CN202111343028.1A 2021-11-12 2021-11-12 一种预生成多流超高清视频播放系统及方法 Active CN113923486B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111343028.1A CN113923486B (zh) 2021-11-12 2021-11-12 一种预生成多流超高清视频播放系统及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111343028.1A CN113923486B (zh) 2021-11-12 2021-11-12 一种预生成多流超高清视频播放系统及方法

Publications (2)

Publication Number Publication Date
CN113923486A CN113923486A (zh) 2022-01-11
CN113923486B true CN113923486B (zh) 2023-11-07

Family

ID=79246368

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111343028.1A Active CN113923486B (zh) 2021-11-12 2021-11-12 一种预生成多流超高清视频播放系统及方法

Country Status (1)

Country Link
CN (1) CN113923486B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115225973B (zh) * 2022-05-11 2024-01-05 北京广播电视台 超高清视频播放交互方法、系统、电子设备和存储介质
CN115022683A (zh) * 2022-05-27 2022-09-06 咪咕文化科技有限公司 一种视频处理方法、装置、设备和可读存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107483996A (zh) * 2017-08-29 2017-12-15 维沃移动通信有限公司 一种视频数据播放方法、移动终端及计算机可读存储介质
CN109379537A (zh) * 2018-12-30 2019-02-22 北京旷视科技有限公司 滑动变焦效果实现方法、装置、电子设备及计算机可读存储介质
JP2019110545A (ja) * 2019-02-04 2019-07-04 ヴィド スケール インコーポレイテッド ビデオ再生方法、端末、およびシステム
CN111031398A (zh) * 2019-12-10 2020-04-17 维沃移动通信有限公司 一种视频控制方法及电子设备
CN111818312A (zh) * 2020-08-25 2020-10-23 北京中联合超高清协同技术中心有限公司 一种可变视域的超高清视频监视转换装置和系统
CN112954459A (zh) * 2021-03-04 2021-06-11 网易(杭州)网络有限公司 一种视频数据的处理方法和装置
CN113573122A (zh) * 2021-07-23 2021-10-29 杭州海康威视数字技术股份有限公司 音视频播放方法及装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107483996A (zh) * 2017-08-29 2017-12-15 维沃移动通信有限公司 一种视频数据播放方法、移动终端及计算机可读存储介质
CN109379537A (zh) * 2018-12-30 2019-02-22 北京旷视科技有限公司 滑动变焦效果实现方法、装置、电子设备及计算机可读存储介质
JP2019110545A (ja) * 2019-02-04 2019-07-04 ヴィド スケール インコーポレイテッド ビデオ再生方法、端末、およびシステム
CN111031398A (zh) * 2019-12-10 2020-04-17 维沃移动通信有限公司 一种视频控制方法及电子设备
CN111818312A (zh) * 2020-08-25 2020-10-23 北京中联合超高清协同技术中心有限公司 一种可变视域的超高清视频监视转换装置和系统
CN112954459A (zh) * 2021-03-04 2021-06-11 网易(杭州)网络有限公司 一种视频数据的处理方法和装置
CN113573122A (zh) * 2021-07-23 2021-10-29 杭州海康威视数字技术股份有限公司 音视频播放方法及装置

Also Published As

Publication number Publication date
CN113923486A (zh) 2022-01-11

Similar Documents

Publication Publication Date Title
CN113923486B (zh) 一种预生成多流超高清视频播放系统及方法
US9171384B2 (en) Hands-free augmented reality for wireless communication devices
US10574933B2 (en) System and method for converting live action alpha-numeric text to re-rendered and embedded pixel information for video overlay
CN111356016B (zh) 视频处理方法、视频处理装置及存储介质
US20160227285A1 (en) Browsing videos by searching multiple user comments and overlaying those into the content
CN113891145B (zh) 一种超高清视频预处理主视角漫游播放系统及移动终端
US20090096927A1 (en) System and method for video coding using variable compression and object motion tracking
CN114143561B (zh) 一种超高清视频多视角漫游播放方法
CN106470313B (zh) 影像产生系统及影像产生方法
CN110166795B (zh) 一种视频截图方法及装置
CN101242474A (zh) 一种照片在小尺寸屏幕设备上的动态视频浏览方法
KR20180038256A (ko) Vr 스트림의 지연을 보상하는 방법 및 시스템
JP2014075743A (ja) 映像視聴履歴解析装置、映像視聴履歴解析方法及び映像視聴履歴解析プログラム
JP2009177431A (ja) 動画像再生システム、サーバ装置、端末装置及び動画像生成方法等
US20140178041A1 (en) Content-sensitive media playback
EP3799415A2 (en) Method and device for processing videos, and medium
CN113938713B (zh) 一种多路超高清视频多视角漫游播放方法
AU2018201913A1 (en) System and method for adjusting an image for a vehicle mounted camera
CN112423139A (zh) 基于移动终端的多机位直播方法、系统、设备及存储介质
CN113099237B (zh) 视频处理方法和装置
CN114339357A (zh) 图像采集方法、图像采集装置及存储介质
CN112887620A (zh) 视频拍摄方法、装置及电子设备
CN110418045A (zh) 图像处理装置、图像处理方法和计算机可读介质
CN114745597B (zh) 视频处理方法和装置、电子设备和计算机可读存储介质
CN114745597A (zh) 视频处理方法和装置、电子设备和计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant