CN106375841B - 无线投屏数据处理、视频数据显示方法、装置及电子设备 - Google Patents

无线投屏数据处理、视频数据显示方法、装置及电子设备 Download PDF

Info

Publication number
CN106375841B
CN106375841B CN201610592123.8A CN201610592123A CN106375841B CN 106375841 B CN106375841 B CN 106375841B CN 201610592123 A CN201610592123 A CN 201610592123A CN 106375841 B CN106375841 B CN 106375841B
Authority
CN
China
Prior art keywords
video data
data
frame rate
rule
decoding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201610592123.8A
Other languages
English (en)
Other versions
CN106375841A (zh
Inventor
张永军
彭俊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alibaba Group Holding Ltd
Original Assignee
Alibaba Group Holding Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alibaba Group Holding Ltd filed Critical Alibaba Group Holding Ltd
Publication of CN106375841A publication Critical patent/CN106375841A/zh
Application granted granted Critical
Publication of CN106375841B publication Critical patent/CN106375841B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/436Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
    • H04N21/4363Adapting the video or multiplex stream to a specific local network, e.g. a IEEE 1394 or Bluetooth® network
    • H04N21/43637Adapting the video or multiplex stream to a specific local network, e.g. a IEEE 1394 or Bluetooth® network involving a wireless protocol, e.g. Bluetooth, RF or wireless LAN [IEEE 802.11]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/436Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
    • H04N21/43615Interfacing a Home Network, e.g. for connecting the client to a plurality of peripherals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H04N21/4402Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • H04N21/440281Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display by altering the temporal resolution, e.g. by frame skipping

Abstract

本申请实施方式公开了一种无线投屏数据处理、视频数据显示方法、装置及电子设备。所述无线投屏数据处理方法包括:按照第一帧率从图像视频流中获取第一视频数据;按照第二帧率获取第二视频数据;其中,所述第二帧率大于所述第一帧率;将所述第一视频数据按照第一预定编码规则编码后发送给目标设备,将所述第二视频数据按照第二预定编码规则编码后发送给所述目标设备。所述无线投屏数据处理方法能够提升无线投屏中视频数据显示的流畅性,使用户获得较好的体验。

Description

无线投屏数据处理、视频数据显示方法、装置及电子设备
技术领域
本申请涉及通信领域,特别涉及一种无线投屏数据处理、视频数据显示方法、装置及电子设备。
背景技术
投屏技术是指将电脑的图像传输至目标设备的显示设备进行显示,使得在显示设备显示的图像能与电脑的屏幕上显示的内容同步。其中,显示设备可以是电视或投影机。投屏技术可以分为有线投屏技术和无线投屏技术。
有线投屏技术,电脑与目标设备之间采用电线连接,使得电脑和目标设备被限定在较小的距离内,再者电脑与目标设备之间是否能有效连接还受限于电脑和目标设备的接口规格。
无线投屏技术是指利用无线通信技术,将电脑的图像传输至显示设备显示,使得在显示设备显示的图像能与电脑的屏幕上显示的图像同步。在一些情况下,在电视或投影机上可以设置有数据处理模块,该数据处理模块可以接收无线视频数据,即接收电脑发出的视频数据,并按照预定的解码规则解码后将解码后的视频数据提供给电视或投影机显示。当然,数据处理模块相对于电视或投影机,可以是电视或投影机的一部分,也可以是独立使用的外设,其可以与电视或投影机采用插拔的方式电性连接。
无线投屏技术给人们在工作、学习中进行资料展示讲解,带来了极大的便利。首先,由于采用无线通信技术,电脑和目标设备之间不会经过电线连接,使得电脑和目标设备之间的位置关系相对可以比较自由,以及二者之间的连接无需被电脑和目标设备的接口规格所约束。再者,用户可以在进行演讲时,对着电脑操作,受众便可以通过电视或投影机的投影看到讲解的内容,使得整个过程受众可以很好地了解所讲解的内容。
在现有的无线投屏技术中,电脑会将鼠标标记和桌面展示内容合成为一个图像之后,按照预定编码规则发送给目标设备。这使得电脑发出的视频数据的帧率受限于硬件的处理效率。视频数据的帧率越高,在显示设备显示的画面中,画面的稳定性以及鼠标标记与画面的同步性越好,但对硬件的要求越高,若硬件要求无法达到要求便可能出现死机或比较严重的丢包现象。视频数据的帧率越低,在显示设备显示的画面中,画面的稳定性会变差,以及鼠标标记与画面的同步性也变差,使得鼠标标记会出现跳跃现象,难以很好指示操作者当前操作的实际情况。
现有技术中,随着对图像清晰度的要求不断提高,比如采用1080P编码,使得图像的数据量比较大,从而使得形成的视频数据也会比较大。使得很多情况下,为了整个投屏过程可以正常稳定进行,电脑端发出的视频数据的帧率可能会较低,比如不到20帧/秒。对于需要展示的内容不会经常进行移动切换时,在目标设备上可以得到相对稳定的显示。对于一些经常需要移动的元素,通常当帧率在40帧/秒以上时,人眼看到的图像才可能会比较稳定,然而对于鼠标标记来说,若帧率不到20帧/秒,会有较大的可能出现跳跃的现象,比如用户在电脑上正常操作鼠标标记移动,鼠标移动的速度和频率都会非常快,此时,电脑按照较低的帧率将鼠标标记和桌面内容合成视频数据发送给目标设备,在显示设备显示的内容中鼠标标记显示的流畅性较差,使得用户难以获得较好的体验。
发明内容
本申请实施方式的目的是提供一种无线投屏数据处理、视频数据显示方法、装置及电子设备,能够提升无线投屏中视频数据显示的流畅性,使用户获得较好的体验。
为解决上述技术问题,本申请提供一种无线投屏数据处理方法,包括:按照第一帧率从图像视频流中获取第一视频数据;按照第二帧率获取第二视频数据;其中,所述第二帧率大于所述第一帧率;将所述第一视频数据按照第一预定编码规则编码后发送给目标设备,将所述第二视频数据按照第二预定编码规则编码后发送给所述目标设备。
本申请还提供一种无线投屏数据处理装置,包括:第一数据获取模块,用于按照第一帧率从图像视频流中获取第一视频数据;第二数据获取模块,用于按照第二帧率获取第二视频数据;其中,所述第二帧率大于所述第一帧率;数据发送模块,用于将所述第一视频数据按照第一预定编码规则编码后发送给目标设备,将所述第二视频数据按照第二预定编码规则编码后发送给所述目标设备。
本申请还提供一种电子设备,包括:通信模块、处理器,所述处理器按照第一帧率获取第一视频数据,并按照第二帧率获取第二视频数据,其中,所述第二帧率大于所述第一帧率;所述通信模块,耦合于所述处理器,将所述处理器获取的第一视频数据按照第一预定编码规则编码后发送给目标设备,并将所述第二视频数据按照第二预定编码规则编码后发送给所述目标设备。
本申请还提供一种无线投屏数据处理方法,包括:接收按照第一预定编码规则编码后的第一视频数据,接收按照第二预定编码规则编码后的第二视频数据;其中,所述第二视频数据的帧率大于所述第一视频数据的帧率;按照第一预定解码规则对所述第一视频数据进行解码,获得解码后的第一视频数据;按照第二预定解码规则对所述第二视频数据进行解码,获得解码后的第二视频数据;将所述解码后的第一视频数据、第二视频数据发送给显示设备。
本申请还提供一种无线投屏数据处理装置,包括:数据接收模块,用于接收按照第一预定编码规则编码后的第一视频数据,接收按照第二预定编码规则编码后的第二视频数据;其中,所述第二视频数据的帧率大于所述第一视频数据的帧率;第一数据解码模块,用于按照第一预定解码规则对所述第一视频数据进行解码,获得解码后的第一视频数据;第二数据解码模块,用于按照第二预定解码规则对所述第二视频数据进行解码,获得解码后的第二视频数据;数据发送模块,用于将所述解码后的第一视频数据、第二视频数据发送给显示设备。
本申请还提供一种电子设备,包括:通信模块,处理器,所述通信模块,用于接收按照第一预定编码规则编码后的第一视频数据,接收按照第二预定编码规则编码后的第二视频数据;其中,所述第二视频数据的帧率大于所述第一视频数据的帧率;所述处理器,耦合于所述通信模块,按照第一预定解码规则对所述第一视频数据进行解码,获得解码后的第一视频数据;按照第二预定解码规则对所述第二视频数据进行解码,获得解码后的第二视频数据;再通过所述通信模块将所述解码后的第一视频数据、第二视频数据发送给显示设备。
本申请还提供一种无线投屏数据处理方法,包括:接收按照第一预定编码规则编码后的第一视频数据,接收按照第二预定编码规则编码后的第二视频数据;其中,所述第二视频数据的帧率大于所述第一视频数据的帧率;按照第一预定解码规则对所述第一视频数据进行解码,获得解码后的第一视频数据;按照第二预定解码规则对所述第二视频数据进行解码,获得解码后的第二视频数据;显示所述解码后的第一视频数据、第二视频数据。
本申请还提供一种视频数据显示装置,包括:数据接收模块,用于接收按照第一预定编码规则编码后的第一视频数据,接收按照第二预定编码规则编码后的第二视频数据;其中,所述第二视频数据的帧率大于所述第一视频数据的帧率;第一数据解码模块,用于按照第一预定解码规则对所述第一视频数据进行解码,获得解码后的第一视频数据;第二数据解码模块,用于按照第二预定解码规则对所述第二视频数据进行解码,获得解码后的第二视频数据;数据显示模块,用于显示所述解码后的第一视频数据、第二视频数据。
本申请还提供一种电子设备,包括:通信模块,处理器、显示器;所述通信模块,接收按照第一预定编码规则编码后的第一视频数据,接收按照第二预定编码规则编码后的第二视频数据;其中,所述第二视频数据的帧率大于所述第一视频数据的帧率;所述处理器,耦合于所述通信模块,将所述通信模块接收到的第一视频数据按照第一预定解码规则进行解码,获得解码后的第一视频数据;将所述第二视频数据按照第二预定解码规则进行解码,获得解码后的第二视频数据;并控制所述显示器将所述解码后的第一视频数据、第二视频数据进行显示。
本申请还提供一种视频数据显示方法,包括:客户端接收并显示视频数据;其中,所述视频数据中包括具有第一帧率的第一视频数据,和具有第二帧率的第二视频数据;所述第一帧率和所述第二帧率不同。
由以上本申请实施方式提供的技术方案可见,本申请可以通过在无线投屏中,按照较低的第一帧率从图像视频流中获取的第一视频数据;按照较高的第二帧率获取第二视频数据;分别将所述第一视频数据按照第一预定编码规则编码后发送给目标设备,将所述第二视频数据按照第二预定编码规则编码后发送给所述目标设备,通过对第二视频数据单独获取,且提高了获取第二视频数据的帧率,以及对应的编码和解码帧率,能够提升无线投屏中第二视频数据显示的流畅性,使用户获得较好的体验。
附图说明
为了更清楚地说明本申请实施方式或现有技术中的技术方案,下面将对实施方式或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请中记载的一些实施方式,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本申请一个实施方式提供的无线投屏数据处理方法的流程图;
图2为本申请一个实施方式提供的电脑端数据处理流程原理示意图;
图3为本申请一个实施方式提供的手机端数据处理流程原理示意图;
图4为本申请一个实施方式提供的无线投屏数据处理方法的流程图;
图5为本申请一个实施方式提供的无线投屏数据处理方法的流程图;
图6为本申请一个实施方式提供的无线投屏数据处理装置的模块图;
图7为本申请一个实施方式提供的电子设备的结构示意图;
图8为本申请一个实施方式提供的无线投屏数据处理方法的流程图;
图9为本申请一个实施方式提供的无线投屏数据处理方法的流程图;
图10为本申请一个实施方式提供的无线投屏数据处理方法的流程图;
图11为本申请一个实施方式提供的一种位置确定方法的流程图;
图12为本申请一个实施方式提供的无线投屏数据处理方法的应用场景图;
图13为本申请一个实施方式提供的数据接收端数据处理流程原理示意图;
图14为本申请一个实施方式提供的无线投屏数据处理方法的另一应用场景图;
图15为本申请一个实施方式提供的无线投屏数据处理装置的模块图;
图16为本申请一个实施方式提供的电子设备的结构示意图;
图17为本申请一个实施方式提供的无线投屏数据处理方法的流程图;
图18为本申请一个实施方式提供的无线投屏数据处理方法的流程图;
图19为本申请一个实施方式提供的无线投屏数据处理方法的流程图;
图20为本申请一个实施方式提供的一种位置确定方法的流程图;
图21为本申请一个实施方式提供的数据接收端数据处理流程原理示意图;
图22为本申请一个实施方式提供的视频数据显示装置的模块图;
图23为本申请一个实施方式提供的电子设备的结构示意图;
图24为本申请一个实施方式提供的数据显示方法的流程图。
具体实施方式
为了使本技术领域的人员更好地理解本申请中的技术方案,下面将结合本申请实施方式中的附图,对本申请实施方式中的技术方案进行清楚、完整地描述,显然,所描述的实施方式仅仅是本申请一部分实施方式,而不是全部的实施方式。基于本申请中的实施方式,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施方式,都应当属于本申请保护的范围。
下面结合附图对本申请所述的无线投屏数据处理方法及装置、视频数据显示方法、装置及电子设备进行详细的说明。虽然本申请提供了如下述实施方式或附图所示的方法操作步骤或装置结构,但基于常规或者无需创造性的劳动在所述方法或装置中可以包括更多或者更少的操作步骤或模块结构。在逻辑性上不存在必要因果关系的步骤或结构中,这些步骤的执行顺序或装置的模块结构不限于本申请实施方式提供的执行顺序或模块结构。所述的方法或模块结构的在实际中的装置或终端产品执行时,可以按照实施方式或者附图所示的方法或模块结构连接进行顺序执行或者并行执行(例如并行处理器或者多线程处理的环境)。
请参阅图1,本申请的一个实施方式提供的无线投屏数据处理方法可以包括如下步骤。
步骤S10:按照第一帧率从图像视频流中获取第一视频数据。
在本实施方式中,所述图像视频流可以为数据发送端需要发送至目标设备进行连续显示的图像数据。其中,所述数据发送端可以以一定的帧率从图像视频流获取屏幕图像数据。具体的,所述数据发送端的形式可以为移动电话、平板电脑、个人数字助理(PersonalDigital Assistant,PDA)、手持计算机(Pocket PC)、智能可穿戴设备等移动终端设备,也可以包括具有信息数据查询功能的台式计算机(desktop PC)、自助服务终端等,本申请在此并不作具体的限定。相应的,所述第一视频数据可以为数据发送端以一定的帧率从所述图像视频数据流中获取的视频数据。所述第一视频数据可以由数据发送端的显示驱动芯片生成。进一步的,可以将所述图像数据提供给数据发送端的显示器显示。
在一个实施方式中,所述第一视频数据可以为表示屏幕图像的视频数据。
在本实施方式中,所述第一视频数据可以为由数据发送端的显示驱动芯片生成的且需要在目标设备的屏幕中显示的屏幕图像数据。具体的,所述第一视频数据的形式、内容可以根据场景的不同而不同,本申请在此并不作具体的限定。例如,需要通过无线投屏的方式给观众展示演示文稿时,所述第一视频数据可以对应为PC端的显示屏显示出的文稿图像数据。在娱乐游戏场景中,所述图像视频流可以为具体的游戏界面图像。
在本实施方式中,可以从图像数据视频流中按照第一帧率获取图像数据形成第一视频数据。其中,所述第一帧率的具体选择,可以根据图像的分辨率和数据发送端的硬件参数确定。图像的分辨率越高,显示时越清晰,其数据量相对越大,此时数据发送端进一步对第一视频数据进行数据处理时的工作量越大;相反的,图像的分辨率越低,显示时越模糊,其数据量相对越小,此时数据发送端进一步对第一视频数据进行数据处理的工作量就越少。第一帧率的选择,可以使得图像处于一个较为合适的分辨率,即显示相对较为清晰,第一视频数据的数据量在数据发送端的数据处理能力的范围内,使得数据发送端可以正常的将第一视频数据进行编码后发送给目标设备。具体的,第一帧率可以在20帧/秒以下,此时图像的分辨率可以达到1920×1080像素,使得图像显示较为清晰,再者数据发送端进行编码以及数据发送的工作量也较为适当。
步骤S12:按照第二帧率获取第二视频数据;其中,所述第二帧率大于所述第一帧率。
在本实施方式中,所述数据发送端可以电性连接有输入设备,通过输入设备可以获取外部数据,导入所述数据发送端。进一步的,可以发送给显示器进行显示。其中,所述第二视频数据可以为与所述输入设备对应产生的标记的视频数据。具体的,所述输入设备可以包括:鼠标、光笔、键盘、手写输入板、语音输入设备、游戏杆、触摸屏等中的一种或多种组合。当然,所述输入设备并不限于上述举例,本申请在此并不作具体的限定。
相应的,所述第二视频数据可以包括下述中的至少一种:表示鼠标输入标记的视频数据、表示光笔输入标记的视频数据、表示键盘输入标记的视频数据、手写输入板输入标记的视频数据、语音输入设备输入标记的视频数据、游戏杆输入标记的视频数据、触摸屏输入标记的视频数据。当然,所述第二视频数据还可以为其他输入设备对应产生的标记数据,本申请在此并不作具体的限定。
在一个具体的实施方式中,当所述第二视频数据为表示鼠标输入标记的视频数据时,所述鼠标标记可以包括数据发送端显示的用于标记鼠标位置和状态的图标。数据发送端的显示驱动芯片可以生成鼠标标记的图像数据。可以从鼠标标记的图像数据中按照第二帧率获取图像数据形成第二视频数据,使得第二视频数据能够用于显示鼠标标记的位置和状态等信息。此外,当所述第二视频数据为其他输入设备对应的视频数据时,其对应的标记信息可以包括用于表示该输入设备对应标记的形状、位置等变化。具体数据的处理方式可以参照第二视频数据表示鼠标输入标记的视频数据的实施方式,本申请不再赘述。
在本实施方式中,为了能在目标设备获得流畅显示的第二视频数据,可以设置第二帧率具有较大的数值,例如,所述第二帧率可为40帧/秒以上。当提高所述第二帧率后,能够使得第二视频数据能够在显示设备上显示更加流畅。
一般的,第一视频数据作为屏幕图像数据其本身变化频率较低,对帧率要求不高,因此,可以设置获取第一视频数据的第一帧率具有较小的数值。所述第二视频数据为输入设备输入的数据,其本身数据量比较小。当第一视频数据具有较低帧率,第二视频数据本身的数据量较小的情况下,提高所述获取第二视频数据的第二帧率能够满足用户的视觉感受,且对于数据发送端来说不会增加过多的编码运算负荷。相应的,对于目标设备来说不会增加过多的解码运算负荷;对于网络来说,不会增加太多数据量,不会过多增大码率,因而对网络带来的负荷也不会太大。
步骤S14:分别将所述第一视频数据按照第一预定编码规则编码后发送给目标设备,将所述第二视频数据按照第二预定编码规则编码后发送给所述目标设备。
在本实施方式中,第一视频数据的数据量可能会比较大,如果直接发送给目标设备,会有较大的发送编码量,对无线网络数据也会形成较大的工作负荷。第一预定编码规则可以包括对第一视频数据进行压缩处理的压缩规则。具体的,举例为:将第一视频数据按照第一预定编码规则编码可以包括:先将获取的第一视频数据进行映射变换,获得映射变换后的数据;所述映射变换用于改变图像数据的特性,消除冗余度,使之有利于压缩。接着将所述映射变换后的数据进行量化处理,获得量化后的数据;所述量化处理能够有效提高压缩比。然后将所述量化后的数据通过熵编码器进行编码,获得编码后的码流;所述熵编码的方式可以消除符号余度。熵编码可以包括霍夫曼(Huffman)码和算术码等。最后将获得的码流通过信道发送给目标设备。
在一个具体的实施方式中,由于所述第一视频数据一般数据量较大,所述第一预定编码规则可以包括有损压缩的编码方式。所述有损压缩的编码方式压缩比可以较大,能够达到20:1以上。具体的,所述有损压缩的编码方式指利用数字图像在空间和时间上的相关性进行有损压缩编码。例如,所述有损压缩编码方式可为在映射变换时采用有DTC变换、哈达玛(HT)变换等来实现提高压缩比。
在本实施方式中,第二预定编码规则与所述第二视频数据相匹配,第二预定编码规则可以与所述第一预定编码规则相同,为有损压缩的编码方式。由于所述第二视频数据一般数据量较小,也可以采用无损压缩的熵编码方式。无损压缩的熵编码方式,是利用数据的统计冗余进行压缩,解码时可完全恢复原始数据而不引起任何失真。但无损压缩压缩率是受到数据统计冗余度的理论限制,一般为2:1到5:1。无损压缩的熵编码方式可以包括香农-费诺(Shannon-Fano)编码,霍夫曼(Huffman)编码等,本申请中不作具体的限定。
在本实施方式中,所述目标设备可为能够接收视频数据并对接收的视频数据进行相应处理的设备。具体的,所述目标设备可以是电视的机顶盒,也可以为电视或投影机本身。所述目标设备用于接收按照第一预定编码规则编码后的第一视频数据和按照第二预定编码规则编码后的第二视频数据,并对其分别进行解码,解码后在相应的显示设备上进行显示。所述目标设备与数据发送端之间通过无线连接的方式建立连接以传输数据。所述无线连接的技术可以包括Wifi、蓝牙或WiMax连接等任意方式建立连接,本申请中并不作具体的限定。
本申请实施方式提供的无线投屏数据处理方法,通过在无线投屏过程中,按照第一帧率从屏幕图像视频流中获取第一视频数据;按照第二帧率获取第二视频数据;其中,所述第二帧率大于所述第一帧率。分别将所述第一视频数据按照第一预定编码规则编码后发送给目标设备,将所述第二视频数据按照第二预定编码规则编码后发送给所述目标设备。通过对第二视频数据单独获取,并提高了获取第二视频数据的帧率,以及对应的编码和解码帧率,能够实提升无线投屏中第二视频数据显示的流畅性,使用户获得较好的体验。此外,第一视频数据的第一帧率可以为一个较低的帧率,保证投屏的图像能相对清楚地显示内容即可。此时,数据发送端对第一视频数据的编码总工作量可以相对比较少。再者,第二视频数据的数据量比较小,使得第二视频数据具有相对高于第一视频数据的帧率不会造成数据发送端的工作量大幅增加。所以第一视频数据和第二视频数据的数据总量可以维持在数据发送端的工作负荷能力范围内,不容易造成网络传输过程中丢包或卡顿的现象,能够使得最终的屏幕图像、鼠标标记可以在显示设备上得到相对稳定的显示。
请参阅图2,在一个具体的应用场景中,采用无线连接的电脑(PC)和电视之间进行文稿演示时,当电脑需要进行投屏播放演示文稿时,首先可以与电视对应的机顶盒建立通讯。具体的,电脑端可以向与其同处于一个局域网中的机顶盒发送获取所述机顶盒的标识信息的请求。所述机顶盒在接收到请求后,通过向电脑发送响应来告知电脑其自身的标识信息,该标识信息可以是该机顶盒的名称、网络地址等,进而电脑与机顶盒建立通信联系。然后,电脑端按照分别按照15帧/秒的帧率获取第一视频数据;按照55帧/秒的帧率获取鼠标标记的第二视频数据;对应的,分别将所述第一视频数据按照有损压缩编码的方式进行编码,将所述第二视频按照无损压缩编码的方式进行编码,分别发送给机顶盒。本申请实施方式在投屏时,将与屏幕图像视频流对应的第一视频数据和表示鼠标标记的第二视频数据分开获取、编码和传输。一方面使得所述第一视频数据能够以较低的帧率进行获取、编码和传输,由于所述第一视频像所占的数据量比重远大于所述第二视频数据的数据量,当其匹配较低的帧率时,不会增大电脑编码的运算负荷,相应的也不会增大机顶盒解码的运算负荷。另一方面使得第二视频数据能够以较高的帧率进行获取、编码和传输,鼠标的响应速度不再受限于获取屏幕图像的帧率,从而能够大大提高鼠标的响应速度,使得鼠标能够在投屏的电视上流畅地显示,并明确的指示位置,以提高用户的体验。由于所述第二视频数据的数据量小,当其匹配较高的帧率时,也不会增大电脑或机顶盒的运算负荷。此外,当第一视频数据匹配了较低的帧率、第二视频数据匹配了较高的帧率时,整体上传输时的数据量不会增大,因此对于通信网络而言,不易发生拥塞、丢包,从而造成图像卡顿的现象。
请参阅图3,在另一个具体的应用场景下,采用无线连接的手机和电视之间进行文稿演示时,当手机需要进行投屏播放演示文稿时,首先可以与电视建立通讯,或者手机与电视的机顶盒建立通讯。然后,手机端按照分别按照15帧/秒的帧率获取第一视频数据;按照55帧/秒的帧率获取表示触摸屏输入标记的第二视频数据;对应的,分别将所述第一视频数据按照有损压缩编码的方式进行编码,将所述第二视频按照无损压缩编码的方式进行编码,分别发送给电视或者机顶盒。
本申请实施方式在投屏时,将与屏幕图像视频流对应的第一视频数据和表示触摸屏输入标记的第二视频数据分开获取、编码和传输。一方面使得所述第一视频数据能够以较低的帧率进行获取、编码和传输,由于所述第一视频像所占的数据量比重远大于所述第二视频数据的数据量,当其匹配较低的帧率时,不会增大手机编码的运算负荷,相应的也不会增大机顶盒解码的运算负荷。另一方面使得第二视频数据能够以较高的帧率进行获取、编码和传输,使得触摸屏输入标记能够在机顶盒对应的显示屏上流畅地显示,并明确的指示位置,以提高用户的体验。
此外由于所述第二视频数据的数据量小,当其匹配较高的帧率时,也不会增大手机或投影仪的运算负荷。此外,当第一视频数据匹配了较低的帧率、第二视频数据匹配了较高的帧率时,整体上传输时的数据量不会增大,因此对于通信网络而言,不易发生拥塞、丢包,从而造成图像卡顿的现象。
此外,当所述第二视频数据为其他形式时,整体上,可以将数据量小,流畅性显示要求高的数据与屏幕图像视频流对应的数据分开处理,其处理的方式可以参照上述表示鼠标标记的第二视频数据的实施方式,本申请在此不再赘述。
在一个实施方式中,所述步骤S12中可以包括:监测到输入设备的状态变化,按照所述第二帧率获取所述表示输入设备输入标记的所述第二视频数据。
在本实施方式中,所述输入设备的状态变化可以包括输入设备对应的输入标记的形状变化、位置变化、颜色变化、能见性变化中的一个或任意组合。当所述输入设备为鼠标时,具体的,所述输入设备的状态变化包括所述鼠标的形状由箭头、插入符、选择符等符号之间进行切换的形状变化,鼠标的位置发生移动变化;鼠标的颜色发生变化,鼠标时而显现、时而隐藏带来的能见性的变化等,另外鼠标的状态还可以根据实际需要进行自定义,从而相应发生状态的变化,本申请中不作限定。
在一个具体的实施方式中,以输入设备为鼠标为例,在一些情况下,会出现鼠标的状态一段时间内发生变化,另一段时间内不发生变化的情况。在鼠标的状态发生变化时,可以通过单独监测鼠标的状态变化,数据发送端单独对所述鼠标标记对应的第二视频数据进行获取、编码、发送等数据处理工作,这样不仅可以大大提高获取鼠标标记的第二视频数据的第二帧率,大大提高鼠标响应速度,使得在显示设备显示的内容中鼠标标记有效指示用户在电脑上操作的实际情况,使用户获得较好的体验。而且由于本身鼠标标记的第二视频数据量较小,对于编码、解码的运算负荷会很小;同时对传输数据的网络压力也会很小,即使在网络条件较差时,所述鼠标标记的第二视频数据也能够顺利传输。再者,在鼠标的状态未发生变化时,可以不再向目标设备发送第二视频数据,通过检测数据的状态变化,在鼠标发生变化时,才获取以及向目标设备发出第二视频数据。如此减少了当前数据发送端本身以及目标设备的数据处理的工作负荷。
在一个实施方式中,当所述第二视频数据为表示鼠标输入标记的视频数据时,在所述步骤S12中可以包括:监测到鼠标的状态变化,获取所述表示鼠标标记的第二视频数据,所述第二视频数据包括所述鼠标的状态信息。
在本实施方式中,所述状态信息包括形状信息、位置信息、颜色信息、能见性信息中的一个或多个。在本实施方式中,所述鼠标的状态变化可以同前文介绍。在具体的实施方式中,例如在进行文稿演示时,用户经常需要在同一页面上进行鼠标的操作和演示。此时,鼠标的状态需要经常发生变化,特别是鼠标的位置需要不断发生变化,此时,若数据发送端将鼠标标记的图像数据发送给目标设备,目标设备可以对应存储鼠标标记的图像,在后续鼠标位置发生变化时,数据发送端只需发送所述鼠标的位置信息即可,而不需要再发送图像数据。如此可以节约数据发送端编码、目标设备解码的工作量。相应的,在本实施方式中,以第二帧率获取的第二视频数据中,每一帧的数据可以包括鼠标的形状信息、位置信息、颜色信息、能见性信息中的一个或多个,而可以不包括鼠标标记的图标。其中,所述能见性信息是指所述鼠标标记的显示或者隐藏的两种状态。
请参阅图4,在一个实施方式中,所述无线投屏数据处理方法还可以包括如下步骤。
步骤S16:接收所述目标设备反馈的接收状态信息。
步骤S18:在所述接收状态信息表示第一视频数据或第二视频数据中的一个出现接收异常时,停止另一个的发送。
在本实施方式中,所述接收异常的情况包括:因数据发送端在获取、编码、发送环节出现的异常导致目标设备不能顺利接收信息,或者因网络状态不佳造成的丢包、卡顿或者在目标设备本身接收数据、解码数据时出现异常情况。
在本实施方式中,接收状态信息本身可以为一个预先设置的字符串,其用于表示接收状态信息。具体的,例如接收状态信息可以为约定两位数据表示,可以约定第一位数据表示第一视频数据的接收状态,用于第二位数据表示第二视频数据的接收状态。具体的,例如“00”、“01”、“10”、“11”,其中“0”可以表示数据接收异常;可以用“1”表示数据接收正常。
在一个具体的实施方式中,当所述第一视频数据或第二视频数据出现接收异常时,所述目标设备能够向所述数据发送端发出反馈的状态信息。其中,一种情况下,当所述第一视频数据出现接收异常,所述数据发送端可以停止所述第二视频数据的发送。同样的,在另一种情况下,当所述第二视频数据出现接收异常时,所述数据发送端可以停止所述第一视频数据的发送。此外,所述目标设备也可以每隔预定时长向所述数据发送端反馈一个状态信息。当所述数据发送端接收到所述反馈的状态信息后作出相应调整。所述调整可为当数据发送端接收到所述反馈的状态信息显示所述第一视频数据在接收时出现异常时,停止所述第二视频数据的发送。数据发送端通过与所述目标设备之间建立信息的反馈,在出现异常时,能够及时做出调整,保证数据能够在可靠、有效地进行传输。
请参阅图5,在本实施方式中,所述无线投屏数据处理方法还可以包括如下步骤。
步骤S20:接收所述目标设备反馈的接收状态信息。
步骤S22:在所述接收状态信息表示接收正常时,正常发送第一视频数据和第二视频数据。
在本实施方式中,当出现所述第一视频数据、第二视频数据在出现接收异常时时,所述目标设备能够向所述数据发送端发出反馈的状态信息。此处,所述目标设备也可以每隔预定时长向所述数据发送端反馈一个状态信息。当所述数据发送端接收到所述反馈的状态信息后作出相应调整。所述调整可为当数据发送端接收到所述反馈的状态信息显示所述第一视频数据在接收时出现异常时,停止所述第二视频数据的发送。在所述接收状态信息表示接收正常时,正常发送第一视频数据和第二视频数据。特别是在网络条件较差的情况下,所述第一视频数据由于本身数据量比较大,容易发生丢包、卡顿现象,从而造成与所述第二视频数据解码时出现不同步,导致出现第一视频数据与第二视频数据投屏错位的现象。具体的,例如,当输入设备为鼠标时,会出现鼠标位置与屏幕图像错位的现象。当所述数据发送端能够接收所述目标设备的反馈的状态信息后,可以使得所述第一视频数据、所述第二视频数同步解码以达到准确投屏显示。
基于上述实施方式所述的无线投屏数据处理方法,本申请还提供一种无线投屏数据处理装置。
请参阅图6,本申请实施方式提供的一种无线投屏数据处理装置100,可以包括:第一数据获取模块10、第二数据获取模块12、数据发送模块14。
所述第一数据获取模块10,可以用于按照第一帧率从屏幕图像视频流中获取第一视频数据。
所述第二数据获取模块12,可以用于按照第二帧率获取第二视频数据;其中,所述第二帧率大于所述第一帧率。
所述数据发送模块14,可以用于将所述第一视频数据按照第一预定编码规则编码后发送给目标设备,将所述第二视频数据按照第二预定编码规则编码后发送给所述目标设备。
上述实施方式公开的无线投屏数据处理装置与本申请提供的无线投屏数据处理方法实施方式相对应,可以实现本申请的无线投屏数据处理方法实施方式并达到方法实施方式的技术效果。
基于上述实施方式所述的无线投屏数据处理方法,本申请还提供一种电子设备。
请参阅图7,本申请实施方式提供的一种电子设备可以包括:通信模块11、处理器13。
所述处理器13可以按照第一帧率从图像视频流中获取第一视频数据,并按照第二帧率获取第二视频数据,其中,所述第二帧率大于所述第一帧率。
在本实施方式中,所述处理器13可以按任何适当的方式实现。例如,处理器13可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application SpecificIntegrated Circuit,ASIC)、可编程逻辑控制器和嵌入微控制器的形式等等。本申请并不作限定。
所述通信模块11可以耦合于所述处理器13,将所述处理器获取的第一视频数据按照第一预定编码规则编码后发送给目标设备,并将所述第二视频数据按照第二预定编码规则编码后发送给所述目标设备。
在本实施方式中,所述通信模块11能进行网络通信收发数据。通信模块11可以是依照TCP/IP协议设置,并在该协议框架下进行网络通信。具体的,其可以为无线移动网络通信芯片,如GSM、CDMA等;其还可以为Wifi芯片;其还可以为蓝牙芯片。
在本实施方式中,通信模块11耦合于所述处理器13,可以包括以下方式。通信模块11和处理器13分别为单独的电路模块。二者通过电路电性连接,并可以进行数据传输。处理器13可以通过电路传输电信号控制通信模块11工作。当然,通信模块11也可以集成在处理器13内,构成处理器13的一部分。
上述实施方式公开的电子设备中,处理器13和通信模块11所执行的具体功能可以与本申请无线投屏数据处理方法实施方式相对照解释,可以实现本申请的无线投屏数据处理方法实施方式并达到方法实施方式的技术效果。
以下介绍本申请实施方式中侧重从接收数据的目标设备角度表述的方法。
请参阅图8,本申请实施方式还提供一种无线投屏数据处理方法,其包括以下步骤。
步骤S24:接收按照第一预定编码规则编码后的第一视频数据,接收按照第二预定编码规则编码后的第二视频数据;其中,所述第二视频数据的帧率大于所述第一视频数据的帧率。
在本实施方式中,为了获得流畅显示的第二视频数据,所述第二视频数据的帧率可设置地相对较高,例如,所述第二帧率可为40帧/秒以上。由于第二视频数据的数据量较小,当提高所述第二帧率后,不仅能够使得鼠标标记能够在显示设备上显示流畅,而且对于数据发送端来说不会增加过多的编码运算负荷;相应的,对于目标设备来说不会增加过多的解码运算负荷;多于网络来说,不会增加太多数据量,不会过多增大码率,从而对网络带来的负荷也不会太大。
步骤S26:按照第一预定解码规则对所述第一视频数据进行解码,获得解码后的第一视频数据。
在本实施方式中,所述第一预定解码规则与所述第一预定编码规则相匹配。按照所述第一预定解码规则对所述第一视频数据进行解码处理为所述按照第一预定编码规则对所述第一预定编码规则对所述第一视频数据进行编码处理的逆处理过程。
在本实施方式中,所述解码的过程为将所述第一视频数据从已经编码的形式恢复到编码前原状的过程。具体的,举例为:将所述第一视频数据按照第一预定解码规则解码可以包括:所述目标设备接收通过信道传输的码流,对所述码流通过熵解码器进行解码,获得复原的量化后数据,接着将所述复原的量化后数据进行反量化处理,获得复原的映射后数据;然后将所述复原的映射后数据进行反映射处理,从而获得复原的视频数据。
在一个具体的实施方式中,所述第一预定编码规则为有损压缩的编码方式时,其采用DTC变换、哈达玛(HT)变换等来实现提高压缩比。相应地,通过所述第一预定解码规则进行解码时,在反映射处理时,对视频数据进行DTC变换、哈达玛(HT)反变换处理。
步骤S28:按照第二预定解码规则对所述第二视频数据进行解码,获得解码后的第二视频数据。
在本实施方式中,所述第二预定解码规则与所述第二预定编码规则相匹配。按照所述第二预定解码规则对所述第二视频数据进行解码处理为所述按照第二预定编码规则对所述第二预定编码规则对所述第二视频数据进行编码处理的逆处理过程。所述解码的过程为将所述第二视频数据从已经编码的形式恢复到编码前原状的过程。所述第二预定解码规则可参照所述第一预定解码规则。具体的,举例为包括如下过程:所述目标设备接收通过信道传输的码流,对所述码流通过熵解码器进行解码,获得复原的量化后数据,接着将所述复原的量化后数据进行反量化处理,获得复原的映射后数据;然后将所述复原的映射后数据进行反映射处理,从而获得复原的视频数据。
上述S26的解码步骤和S28的解码步骤的执行顺序,本申请并不限定。
步骤S30:将所述解码后的第一视频数据、第二视频数据发送给显示设备。
在本实施方式中,所述显示设备可为电视的屏幕或投影机的屏幕,用于显示所述解码后的第一视频数据和第二视频数据。例如,所述目标设备为电视时,其可以包括用于处理数据的机顶盒和用于显示数据的显示设备,例如屏幕等。
本申请实施方式提供的无线投屏数据处理方法,通过在无线投屏过程中,按照第一帧率从图像视频流中获取第一视频数据;按照第二帧率获取第二视频数据。其中,所述第二帧率大于所述第一帧率。分别将所述第一视频数据按照第一预定编码规则编码后发送给目标设备,将所述第二视频数据按照第二预定编码规则编码后发送给所述目标设备。目标设备分别接收按照第一预定编码规则编码后屏幕图像的第一视频数据和按照第二预定编码规则编码后的第二视频数据。其中,接收所述第二视频数据的帧率大于所述第一视频数据的帧率。按照第一预定解码规则对所述第一视频数据进行解码,获得解码后的第一视频数据。按照第二预定解码规则对所述第二视频数据进行解码,获得解码后的第二视频数据。将所述解码后的第一视频数据、第二视频数据发送给显示设备。通过对第二视频数据单独获取,并提高了获取第二视频数据的帧率,以及对应的编码和解码帧率,能够提升无线投屏中第二视频数据显示的流畅性,使用户获得较好的体验。
请参阅图9,在一个实施方式中,所述无线投屏数据处理方法还可以包括如下步骤。
S32:获取第一视频数据和第二视频数据的接收状态信息;
S34:在所述接收状态信息表示的第一视频数据或第二视频数据中的一个出现接收异常时,停止另一个的发送和/或将异常状态向数据发送端反馈。
在本实施方式中,接收状态信息本身可以为一个预先设置的字符串,其用于表示接收状态信息。具体的,例如解码状态信息可以为约定两位数据表示,可以约定第一位数据表示第一视频数据的接收状态,用于第二位数据表示第二视频数据的接收状态。具体的,例如“00”、“01”、“10”、“11”,其中“0”可以表示数据接收异常;可以用“1”表示数据接收正常。
在本实施方式中,所述接收异常的情况包括:因数据发送端发送方在获取、编码、发送环节出现的异常导致目标设备不能顺利接收信息,或者因网络状态不佳造成的丢包、卡顿或者在目标设备本身接收数据、解码数据时出现异常情况。
在一个具体的实施方式中,当出现所述第一视频数据、第二视频数据在出现接收异常时时,所述目标设备能够向所述数据发送端发出反馈的状态信息。此外,所述目标设备也可以每隔预定时长向所述数据发送端反馈一个状态信息。当所述数据发送端接收到所述反馈的状态信息后作出相应调整。所述调整可为当数据发送端接收到所述反馈的状态信息显示所述第一视频数据在接收时出现异常时,停止所述第二视频数据的发送。在所述接收状态信息表示接收正常时,正常发送第一视频数据和第二视频数据。特别是在网络条件较差的情况下,所述第一视频数据由于本身数据量比较大,容易发生丢包、卡顿现象,从而造成与所述第二视频数据解码时出现不同步,导致出现第一视频数据与第二视频数据投屏错位的现象。具体的,例如,当输入设备为鼠标时,会出现鼠标位置与屏幕图像错位的现象。当所述数据发送端能够接收所述目标设备的反馈的状态信息后,可以使得所述第一视频数据、所述第二视频数同步解码以达到准确投屏显示。
请参阅图10,在一个实施方式中,所述无线投屏数据处理方法还可以包括如下步骤。
S36:获取第一视频数据和第二视频数据的接收状态信息;
S38:在所述接收状态信息表示接收正常时,发送所述解码后的第一视频数据和第二视频数据。
在本实施方式中,当出现所述第一视频数据、第二视频数据在出现接收异常时时,所述目标设备能够向所述数据发送端发出反馈的状态信息。此处,所述目标设备也可以每隔预定时长向所述数据发送端反馈一个状态信息。当所述数据发送端接收到所述反馈的状态信息后作出相应调整。所述调整可为当数据发送端接收到所述反馈的状态信息显示所述第一视频数据在接收时出现异常时,停止所述第二视频数据的发送。在所述接收状态信息表示接收正常时,正常发送第一视频数据和第二视频数据。特别是在网络条件较差的情况下,所述第一视频数据由于本身数据量比较大,容易发生丢包、卡顿现象,从而造成与所述第二视频数据解码时出现不同步,导致出现第一视频数据与第二视频数据投屏错位的现象。具体的,例如,当输入设备为鼠标时,会出现鼠标位置与屏幕图像错位的现象。当所述数据发送端能够接收所述目标设备的反馈的状态信息后,可以使得所述第一视频数据、所述第二视频数同步解码以达到准确投屏显示。
请参阅图11,本申请实施方式还提供一种位置确定方法,所述位置确定方法可在所述步骤S30:将所述解码后的第一视频数据、第二视频数据发送给显示设备之前实施。所述方法包括以下步骤:
S290:获取所述第一视频数据或第二视频数据包含的第一分辨率信息;
S291:获取所述显示设备的第二分辨率信息;
S292:根据所述第一分辨率信息、第二分辨率信息将所述第二视频数据与所述第一视频数据按照预定算法进行位置映射。
在本实施方式中,所述第一分辨率信息可以为所述数据发送端的显示屏对应的分辨率信息。所述第一分辨率信息可以包含在所述第一视频数据中,也可以包含在所述第二视频数据中。例如当所述数据发送端为电脑时,所述电脑显示屏的分辨率具体可由800×600至1600×900之间进行调节。例如当所述电脑显示屏的分辨率设定为某一固定的数值如1600×900时,即所述第一分辨率信息为1600×900。
在本实施方式中,所述第二分辨率信息为所述目标设备对应的显示设备的分辨率信息,例如所述目标设备为电视时,所述电视本身的分辨率通常也可以调节,常用的分辨率为720P(1280×720)、1080P(1920×1080)。例如,当所述电视的分辨率设定为某一固定的数值如1080P(1920×1080)时,即所述第二分辨率信息为1920×1080。
在本实施方式中,所述预定算法具体可为根据所述的第一分辨率和第二分辨率的比例关系,计算解码后的视频数据在所述目标设备的显示设备上的具体位置。
具体的,所述第一视频数据可根据所述第一分辨率和第二分辨率的比例关系,对整个屏幕进行缩放平铺后可实现准确投屏;所述第二视频数据可根据所述第一分辨率和第二分辨率的比例关系,调整其形状的大小,并还需要根据所述第一分辨率和第二分辨率的比例关系以及其在所述数据发送端屏幕所在的位置,计算其在所述目标设备显示屏的确切位置,从而保证显示屏显示的鼠标标记能够与电脑上的位置相对应。
请参阅图12,在一个具体的应用场景中,采用无线连接的电脑(PC)和电视之间进行文稿演示时,电脑端以不同的帧率分开获取所述与屏幕图像视频流对应的第一视频数据和表示鼠标标记的第二视频数据。然后将具有不同帧率的第一视频数据和第二视频数据发送至网络,进一步的,由网络传输给相应的电视端。
请参阅图13,具体的,对于电视端而言,其也对所述第一视频数据和第二视频数据分开处理。对于具有较低帧率的第一视频数据而言,按照正常的逻辑进行接收、解码和显示。由于所述第二视频数据的帧率不高,不会对电视端的解码等造成很大的压力。
对于具有较高帧率的第二视频数据而言,当电视端的机顶盒接收到较高帧率的第二视频数据时,在对所述第二视频数据进行解码时可以将其与第一视频数据进行同步性检测。具体的,可以如上所述,获取第一视频数据和第二视频数据的接收状态信息,根据所述接收状态信息确定所述第二视频数据是否与第一视频数据相同步。接着,可以根据所述数据发送端和显示设备的分辨率信息,将所述第二视频数据与所述第一视频进行位置映射。最后再将所述第二视频数据发送至显示设备进行显示,以保证所述单独获取、编码、发送的第二视频数据能够准确流畅地在所述目标设备上显示。
在另一个具体的应用场景示例中,请参阅图14,采用无线连接的手机和电视之间进行文稿演示时,手机端以不同的帧率分开获取所述与屏幕图像视频流对应的第一视频数据和表示触摸屏输入标记的第二视频数据。然后将具有不同帧率的第一视频数据和第二视频数据发送至网络,进一步的,由网络传输给相应的电视端。
请参阅图13,具体的,对于电视端而言,处理第一视频数据和处理第二视频数据的方式与上述投屏端为电脑的实施方式相同,达到的效果也相同,本申请在此不再赘述。
在一个实施方式中,在所述步骤S28中可以包括:接收所述表示鼠标标记的第二视频数据,所述第二视频数据包括所述鼠标的状态信息,所述状态信息包括形状信息、位置信息、颜色信息、能见性信息中的一个或多个。
在本实施方式中,所述鼠标的状态变化可以同前文介绍。在具体的实施方式中,例如在进行文稿演示时,用户经常需要在同一页面上进行鼠标的操作和演示。此时,鼠标的状态需要经常发生变化,特别是鼠标的位置需要不断发生变化,此时,若数据发送端将鼠标标记的图像数据发送给目标设备,目标设备可以对应存储鼠标标记的图像,在后续鼠标位置发生变化时,数据发送端只需发送所述鼠标的位置信息即可,而不需要再发送图像数据。如此可以进一步节约数据发送端编码、目标设备解码的工作量。
基于上述实施方式所述的无线投屏数据处理方法,本申请还提供一种无线投屏数据处理装置。
请参阅图15,本申请实施方式还提供一种无线投屏数据处理装置110,其包括:数据接收模块24、第一数据解码模块26、第二数据解码模块28、数据发送模块30。
所述数据接收模块24,可以用于接收按照第一预定编码规则编码后流的第一视频数据、接收按照第二预定编码规则编码后的第二视频数据;其中,所述第二视频数据的帧率大于所述第一视频数据的帧率。
所述第一数据解码模块26,可以用于按照第一预定解码规则对所述第一视频数据进行解码,获得解码后的第一视频数据。
所述第二数据解码模块28,可以用于按照第二预定解码规则对所述第二视频数据进行解码,获得解码后的第二视频数据。
所述数据发送模块30,可以用于将所述解码后的第一视频数据、第二视频数据发送给显示设备。
上述实施方式公开的无线投屏数据处理装置与本申请提供的无线投屏数据处理方法实施方式相对应,可以实现本申请的无线投屏数据处理方法实施方式并达到方法实施方式的技术效果。
基于上述实施方式所述的无线投屏数据处理方法,本申请还提供一种电子设备。
请参阅图16,本申请实施方式提供的一种电子设备可以包括:通信模块21、处理器23,
所述通信模块21,可以用于接收按照第一预定编码规则编码后图像视频流的第一视频数据、接收按照第二预定编码规则编码后的第二视频数据;其中,所述第二视频数据的帧率大于所述第一视频数据的帧率;
在本实施方式中,所述通信模块21能进行网络通信收发数据。通信模块21可以是依照TCP/IP协议设置,并在该协议框架下进行网络通信。具体的,其可以为无线移动网络通信芯片,如GSM、CDMA等;其还可以为Wifi芯片;其还可以为蓝牙芯片。
所述处理器23,耦合于所述通信模块21,可以按照第一预定解码规则对所述第一视频数据进行解码,获得解码后的第一视频数据;按照第二预定解码规则对所述第二视频数据进行解码,获得解码后的第二视频数据;再通过所述通信模块将所述解码后的第一视频数据、第二视频数据发送给显示设备。
在本实施方式中,所述处理器23可以按任何适当的方式实现。例如,处理器23可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application SpecificIntegrated Circuit,ASIC)、可编程逻辑控制器和嵌入微控制器的形式等等。本申请并不作限定。
在本实施方式中,所述处理器23耦合于通信模块21,可以包括以下方式。处理器23和通信模块21分别为单独的电路模块。二者通过电路电性连接,并可以进行数据传输。处理器23可以通过电路传输电信号控制通信模块21工作。当然,通信模块21和处理器23也可以集成在一起,通过整体设计制造形成。
上述实施方式公开的电子设备,其处理器23和通信模块21实现的具体功能,可以与本申请无线投屏数据处理方法实施方式相对照解释,可以实现本申请的无线投屏数据处理方法实施方式并达到方法实施方式的技术效果。
请参阅图17,本申请实施方式还提供一种无线投屏数据处理方法,其包括以下步骤:
步骤S40:接收按照第一预定编码规则编码后的第一视频数据、接收按照第二预定编码规则编码后的第二视频数据;其中,所述第二视频数据的帧率大于所述第一视频数据的帧率。
在本实施方式中,为了获得流畅显示的第二视频数据,所述第二视频数据的帧率可设置地相对较高。具体的所述第二帧率可为40帧/秒以上。由于第二视频数据的数据量较小,当提高所述第二帧率后,不仅能够使得鼠标标记能够在显示设备上显示流畅,而且对于数据发送端来说不会增加过多的编码运算负荷;相应的,对于目标设备来说不会增加过多的解码运算负荷;多于网络来说,不会增加太多数据量,不会过多增大码率,从而对网络带来的负荷也不会太大。
步骤S42:按照第一预定解码规则对所述第一视频数据进行解码,获得解码后的第一视频数据。
在本实施方式中,所述第一预定解码规则与所述第一预定编码规则相匹配。按照所述第一预定解码规则对所述第一视频数据进行解码处理为所述按照第一预定编码规则对所述第一预定编码规则对所述第一视频数据进行编码处理的逆处理过程。
所述解码的过程为将所述第一视频数据从已经编码的形式恢复到编码前原状的过程。具体的,举例为:将所述第一视频数据按照第一预定解码规则解码可以包括:所述目标设备接收通过信道传输的码流,对所述码流通过熵解码器进行解码,获得复原的量化后数据,接着将所述复原的量化后数据进行反量化处理,获得复原的映射后数据;然后将所述复原的映射后数据进行反映射处理,从而获得复原的视频数据。
在一个具体的实施方式中,所述第一预定编码规则为有损压缩的编码方式时,其采用DTC变换、哈达玛(HT)变换等来实现提高压缩比。相应地,通过所述第一预定解码规则进行解码时,在反映射处理时,对视频数据进行DTC变换、哈达玛(HT)反变换处理。
步骤S44:按照第二预定解码规则对所述第二视频数据进行解码,获得解码后的第二视频数据。
在本实施方式中,所述第二预定解码规则与所述第二预定编码规则相匹配。按照所述第二预定解码规则对所述第二视频数据进行解码处理为所述按照第二预定编码规则对所述第二预定编码规则对所述第二视频数据进行编码处理的逆处理过程。所述解码的过程为将所述第二视频数据从已经编码的形式恢复到编码前原状的过程。所述第二预定解码规则可参照所述第一预定解码规则。具体的,举例为包括如下过程:所述目标设备接收通过信道传输的码流,对所述码流通过熵解码器进行解码,获得复原的量化后数据,接着将所述复原的量化后数据进行反量化处理,获得复原的映射后数据;然后将所述复原的映射后数据进行反映射处理,从而获得复原的视频数据。
上述S42的解码步骤和S44的解码步骤的执行顺序,本申请并不限定。
步骤S46:显示所述解码后的第一视频数据、第二视频数据。
在本实施方式中,显示所述解码后的第一视频数据、第二视频数据也可为目标设备,即所述目标设备可为数据处理和数据显示集成于一体的设备。
本申请实施方式提供的无线投屏数据处理方法,通过在无线投屏过程中,按照第一帧率从图像视频流中获取第一视频数据;按照第二帧率获取第二视频数据;其中,所述第二帧率大于所述第一帧率;分别将所述第一视频数据按照第一预定编码规则编码后发送给目标设备,将所述第二视频数据按照第二预定编码规则编码后发送给所述目标设备。目标设备分别接收按照第一预定编码规则编码后图像视频流的第一视频数据和按照第二预定编码规则编码后的第二视频数据;其中,所述第二视频数据的帧率大于所述第一视频数据的帧率;按照第一预定解码规则对所述第一视频数据进行解码,获得解码后的第一视频数据;按照第二预定解码规则对所述第二视频数据进行解码,获得解码后的第二视频数据;显示所述解码后的第一视频数据、第二视频数据。通过对第二视频数据单独获取,并提高了获取第二视频数据的帧率,以及对应的编码和解码帧率,能够提升无线投屏中第二视频数据显示的流畅性,使用户获得较好的体验。
请参阅图18,在一个实施方式中,所述无线投屏数据处理方法还可以包括如下步骤。
S48:获取第一视频数据和第二视频数据的接收状态信息;
S50:在所述接收状态信息表示的第一视频数据或第二视频数据中的一个出现接收异常时,将异常状态向数据发送端反馈。
在本实施方式中,接收状态信息本身可以为一个预先设置的字符串,其用于表示接收状态信息。具体的,例如解码状态信息可以为约定两位数据表示,可以约定第一位数据表示第一视频数据的接收状态,用于第二位数据表示第二视频数据的接收状态。具体的,例如“00”、“01”、“10”、“11”,其中“0”可以表示数据接收异常;可以用“1”表示数据接收正常。
在本实施方式中,所述接收异常的情况包括:因数据发送端发送方在获取、编码、发送环节出现的异常导致目标设备不能顺利接收信息,或者因网络状态不佳造成的丢包、卡顿或者在目标设备本身接收数据、解码数据时出现异常情况。
在一个具体的实施方式中,当出现所述第一视频数据、第二视频数据在出现接收异常时时,所述目标设备能够向所述数据发送端发出反馈的状态信息。此处,所述目标设备也可以每隔预定时长向所述数据发送端反馈一个状态信息。当所述数据发送端接收到所述反馈的状态信息后作出相应调整。所述调整可为当数据发送端接收到所述反馈的状态信息显示所述第一视频数据在接收时出现异常时,停止所述第二视频数据的发送。在所述接收状态信息表示接收正常时,正常发送第一视频数据和第二视频数据。特别是在网络条件较差的情况下,所述第一视频数据由于本身数据量比较大,容易发生丢包、卡顿现象,从而造成与所述第二视频数据解码时出现不同步,导致出现第一视频数据与第二视频数据投屏错位的现象。具体的,例如,当输入设备为鼠标时,会出现鼠标位置与屏幕图像错位的现象。当所述数据发送端能够接收所述目标设备的反馈的状态信息后,可以使得所述第一视频数据、所述第二视频数同步解码以达到准确投屏显示。
请参阅图19,在一个实施方式中,所述无线投屏数据处理方法还可以包括如下步骤。
S52:获取第一视频数据和第二视频数据的接收状态信息;
S54:在所述接收状态信息表示接收正常时,发送所述解码后的第一视频数据和第二视频数据。
在本实施方式中,当出现所述第一视频数据、第二视频数据在出现接收异常时时,所述目标设备能够向所述数据发送端发出反馈的状态信息。此处,所述目标设备也可以每隔预定时长向所述数据发送端反馈一个状态信息。当所述数据发送端接收到所述反馈的状态信息后作出相应调整。所述调整可为当数据发送端接收到所述反馈的状态信息显示所述第一视频数据在接收时出现异常时,停止所述第二视频数据的发送。在所述接收状态信息表示接收正常时,正常发送第一视频数据和第二视频数据。特别是在网络条件较差的情况下,所述第一视频数据由于本身数据量比较大,容易发生丢包、卡顿现象,从而造成与所述第二视频数据解码时出现不同步,导致出现第一视频数据与第二视频数据投屏错位的现象。具体的,例如,当输入设备为鼠标时,会出现鼠标位置与屏幕图像错位的现象。当所述数据发送端能够接收所述目标设备的反馈的状态信息后,可以使得所述第一视频数据、所述第二视频数同步解码以达到准确投屏显示。
请参阅图20,本申请实施方式还提供一种位置确定方法,所述位置确定方法可在所述步骤S45:将所述解码后的第一视频数据、第二视频数据在显示设备上显示之前实施。所述方法包括以下步骤:
S450:获取所述第一视频数据或第二视频数据包含的第一分辨率信息;
S451:获取目标设备的第二分辨率信息;
S452:根据所述第一分辨率信息、第二分辨率信息将所述第二视频数据与所述第一视频数据按照预定算法进行位置映射。
在本实施方式中,所述第一分辨率信息可以为所述数据发送端的显示屏对应的分辨率信息。所述第一分辨率信息可以包含在所述第一视频数据中,也可以包含在所述第二视频数据中。例如当所述数据发送端为电脑时,所述电脑显示屏的分辨率具体可由800×600至1600×900之间进行调节。例如当所述电脑显示屏的分辨率设定为某一固定的数值如1600×900时,即所述第一分辨率信息为1600×900。
在本实施方式中,所述第二分辨率信息为所述目标设备的显示设备对应的分辨率信息,例如所述目标设备为电视时,所述电视本身的分辨率通常也可以调节,常用的分辨率为720P(1280×720)、1080P(1920×1080)。例如,当所述电视的分辨率设定为某一固定的数值如1080P(1920×1080)时,即所述第二分辨率信息为1920×1080。
在本实施方式中,所述预定算法具体可为根据所述的第一分辨率和第二分辨率的比例关系,计算解码后的视频数据在所述目标设备屏幕上的具体位置。
具体的,所述第一视频数据可根据所述第一分辨率和第二分辨率的比例关系,对整个屏幕进行缩放平铺后可实现准确投屏;所述第二视频数据可根据所述第一分辨率和第二分辨率的比例关系,调整其形状的大小,并还需要根据所述第一分辨率和第二分辨率的比例关系以及其在所述数据发送端屏幕所在的位置,计算其在所述目标设备显示屏的确切位置,从而保证显示屏显示的鼠标标记能够与电脑上的位置相对应。
在一个具体的应用场景中,请参阅图11,采用无线连接的电脑(PC)和电视之间进行文稿演示时,电脑端以不同的帧率分开获取所述与屏幕图像视频流对应的第一视频数据和表示鼠标标记的第二视频数据。然后将具有不同帧率的第一视频数据和第二视频数据发送至网络,进一步的,由网络传输给相应的电视端。
请参阅图21,具体的,对于电视端而言,其也对所述第一视频数据和第二视频数据分开处理。对于具有较低帧率的第一视频数据而言,按照正常的逻辑进行接收、解码和显示。由于所述第二视频数据的帧率不高,不会对电视端的解码等造成很大的压力。
对于具有较高帧率的第二视频数据而言,当电视端接收到较高帧率的第二视频数据时,在对所述第二视频数据进行解码时可以将其与第一视频数据进行同步性检测。具体的,可以如上所述,获取第一视频数据和第二视频数据的接收状态信息,根据所述接收状态信息确定所述第二视频数据是否与第一视频数据相同步。接着,可以根据所述数据发送端和目标设备的分辨率信息,将所述第二视频数据与所述第一视频进行位置映射。最后再将所述第二视频数据进行显示,以保证所述单独获取、编码、发送的第二视频数据能够准确流畅地在所述目标设备上显示。
在一个实施方式中,在所述步骤S44中可以包括:接收所述表示鼠标标记的第二视频数据,所述第二视频数据包括所述鼠标的状态信息,所述状态信息包括形状信息、位置信息、颜色信息、能见性信息中的一个或多个。
在本实施方式中,所述鼠标的状态变化可以同前文介绍。在具体的实施方式中,例如在进行文稿演示时,用户经常需要在同一页面上进行鼠标的操作和演示。此时,鼠标的状态需要经常发生变化,特别是鼠标的位置需要不断发生变化,此时,若数据发送端将鼠标标记的图像数据发送给目标设备,目标设备可以对应存储鼠标标记的图像,在后续鼠标位置发生变化时,数据发送端只需发送所述鼠标的位置信息即可,而不需要再发送图像数据。如此可以进一步节约数据发送端编码、目标设备解码的工作量。
基于上述实施方式所述的无线投屏数据处理方法,本申请还提供一种视频数据显示装置。
请参阅图22,本申请实施方式还提供一种视频数据显示装置200,其包括:数据接收模块40、第一数据解码模块42、第二数据解码模块44、数据显示模块46。
所述数据接收模块40,可以用于接收按照第一预定编码规则编码后的第一视频数据、接收按照第二预定编码规则编码后的第二视频数据;其中,所述第二视频数据的帧率大于所述第一视频数据的帧率。
所述第一数据解码模块42,可以用于按照第一预定解码规则对所述第一视频数据进行解码,获得解码后的第一视频数据。
所述第二数据解码模块44,可以用于按照第二预定解码规则对所述第二视频数据进行解码,获得解码后的第二视频数据。
所述数据显示模块46,可以用于显示所述解码后的第一视频数据、第二视频数据。
上述实施方式公开的视频数据显示装置与本申请提供的无线投屏数据处理方法实施方式相对应,可以实现本申请的无线投屏数据处理方法实施方式并达到方法实施方式的技术效果。
基于上述实施方式所述的无线投屏数据处理方法,本申请还提供一种电子设备。
请参阅图23,本申请实施方式提供的一种电子设备可以包括:通信模块31,处理器33、显示器35。
所述通信模块31可以用于接收按照第一预定编码规则编码后图像视频流的第一视频数据、接收按照第二预定编码规则编码后的第二视频数据;其中,所述第二视频数据的帧率大于所述第一视频数据的帧率;
在本实施方式中,所述通信模块31能进行网络通信收发数据。通信模块31可以是依照TCP/IP协议设置,并在该协议框架下进行网络通信。具体的,其可以为无线移动网络通信芯片,如GSM、CDMA等;其还可以为Wifi芯片;其还可以为蓝牙芯片。
所述处理器33,耦合于所述通信模块31,可以将所述通信模块31接收到的第一视频数据按照第一预定解码规则进行解码,获得解码后的第一视频数据;将第二视频数据按照第二预定解码规则进行解码,获得解码后的第二视频数据;并控制所述显示器35将所述解码后的第一视频数据、第二视频数据进行显示。
在本实施方式中,所述处理器33可以按任何适当的方式实现。例如,处理器33可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application SpecificIntegrated Circuit,ASIC)、可编程逻辑控制器和嵌入微控制器的形式等等。本申请并不作限定。
在本实施方式中,所述处理器33耦合于通信模块31,可以包括以下方式。处理器33和通信模块31分别为单独的电路模块。二者通过电路电性连接,并可以进行数据传输。处理器33可以通过电路传输电信号控制通信模块31工作。当然,通信模块31和处理器33也可以集成在一起,通过整体设计制造形成。
上述实施方式公开的电子设备中,处理器33、通信模块31所执行的具体功能可以与本申请无线投屏数据处理方法实施方式相对照解释,可以实现本申请的无线投屏数据处理方法实施方式并达到方法实施方式的技术效果。
请参阅图24。本申请实施方式中还提供一种视频数据显示方法,包括以下步骤。
步骤S60:接收具有第一帧率的第一视频数据和具有第二帧率的第二视频数据;其中,所述第一帧率和所述第二帧率不同。
步骤S62:将所述第一视频数据和所述第二视频数据合并显示。
在本实施方式中,所述客户端可以为能够接收所述数据发送端发送的视频数据,并能将所述视频数据进行显示的设备。具体的,所述客户端可以设置有数据处理模块,该数据处理模块可以接收视频数据,并按照预定的解码规则解码后将解码后的视频数据提供给电视或投影机等显示设备进行显示。当然,数据处理模块相对于电视或投影机等显示设备,可以是电视或投影机等显示设备的一部分;也可以是独立使用的外设,其可以与电视或投影机等显示设备采用插拔的方式电性连接,或者还可以为其他形式,本申请在此并不作具体的限定。当然,客户端也可以是指运行于上述设备中的软件。
在本实施方式中,所述视频数据包括具有第一帧率的第一视频数据。一般的,所述第一视频数据可以为变化频率较低的屏幕图像视频数据,对帧率要求不高,因此,在数据发送端可以设置获取第一视频数据的第一帧率具有较小的数值。相应的,所述客户端接收到的所述第一视频数据具有较低的帧率。
在本实施方式中,所述视频数据还包括具有第二帧率的第二视频数据。一般的,所述第二视频数据可以为本身数据量较小,但变化频率较高的视频数据,其对帧率要求较高,在低于预定帧率时,显示效果较差,因此,在数据发送端可以设置获取第二视频数据第二帧率具有较大的数值。相应的,所述客户端接收到的所述第二视频数据具有较高的帧率。因而,所述第一帧率和第二帧率不同。具体的说,所述第一帧率可以小于所述第二帧率。当然,在本申请中并不限定所述第一帧率小于所述第二帧率,具体根据所述第一视频数据和第二视频数据的显示要求而作适应性调整。
在本实施方式中,将第一视频数据和第二视频数据合并显示,可以是将第一视频数据和第二视频数据合并成一个视频数据后,由显示器进行显示。具体的,第一视频数据和第二视频数据的内容可以不同,二者合并之后,可以构成一个完成的视频图像。或者,第一视频数据和第二视频数据的表示的图像尺寸不同,如此二者合并之后形成新的图像。在具体合并时,可以将第一视频数据和第二视频数据中相对应的帧,合并成一个帧,并交由显示器显示。相对应的帧,可以为处于相同时间点的帧。
本申请实施方式提供的视频数据显示方法,通过在无线投屏过程中,通过对需要经常移动变化的第二视频数据单独获取,并提高了获取第二视频数据的帧率,以及对应的编码和解码帧率,能够提升无线投屏中第二视频数据显示的流畅性,使用户获得较好的体验。当然,本实施方式并不限于无线投屏的场景。还可以为服务器将视频数据发送给客户端显示,服务器在发送视频数据时,可以将视频数据中每个帧拆分为至少两个图层,如此采用不同的帧率进行编码发出。如此,客户端在接收到服务器发出的第一视频数据和第二视频数据之后,便可以将二者合并成一个图像视频显示。在这个场景中,第一帧率和第二帧率不同,具体的,可以为第一帧率小于第二帧率。如此在针对视频数据拆分图层时,可以将内容较少发生变化的图像数据作为第一视频数据,将内容变化相对较为频繁的图像数据作为第二视频数据。如此,可以实现减少网络传输的数据量,降低网络负荷。再者,客户端通过将第一视频数据和第二视频数据合并,也可以显示视频图像。
在一个实施方式中,所述第二帧率大于所述第一帧率。具体的,所述第一视频数据为表示屏幕图像的视频数据。所述第二视频数据为表示输入设备输入标记的视频数据,具体的,可以包括下述中的至少一种:表示鼠标输入标记的视频数据、表示光笔输入标记的视频数据、表示键盘输入标记的视频数据、手写输入板输入标记的视频数据、语音输入设备输入标记的视频数据、游戏杆输入标记的视频数据、触摸屏输入标记的视频数据。
在本实施方式中,为了能在客户端获得流畅显示的第二视频数据,可以设置第二帧率具有较大的数值。具体的所述第二帧率可为40帧/秒以上。当提高所述第二帧率后,能够使得第二视频数据能够在显示设备上显示流畅。
一般的,第一视频数据作为屏幕图像数据其本身变化频率较低,对帧率要求不高,因此,可以设置获取第一视频数据的第一帧率具有较小的数值。具体的,所述第一帧率可以为20帧/秒以下。
所述第二视频数据为输入设备输入的数据,其本身数据量比较小。具体的,所述输入设备可以包括:鼠标、光笔、键盘、手写输入板、语音输入设备、游戏杆等中的一种或多种组合。当然,所述输入设备并不限于上述举例,本申请在此并不作具体的限定。相应的,所述第二视频数据可以为表示鼠标输入标记的视频数据、表示光笔输入标记的视频数据、表示键盘输入标记的视频数据、手写输入板输入标记的视频数据、语音输入设备输入标记的视频数据、游戏杆输入标记的视频数据、触摸屏输入标记的视频数据中的一种或多种组合,本申请在此并不作具体的限定。
当第一视频数据具有较低帧率,第二视频数据本身的数据量较小的情况下,提高所述获取第二视频数据的第二帧率能够满足用户的视觉感受,且对于数据发送端来说不会增加过多的编码运算负荷。相应的,对于目标设备来说不会增加过多的解码运算负荷;对于网络来说,不会增加太多数据量,不会过多增大码率,因而对网络带来的负荷也不会太大。
在一个实施方式中,在合并显示所述第一视频数据和所述第二视频数据的步骤中,所述第一视频数据和所述第二视频数据位于不同的图层。
在本实施方式中,在将第一视频数据和第二视频数据合并时,可以将第一视频数据和第二视频数据处于相同时间点的帧合并成一个帧。如此便可以将第一视频数据和第二视频数据合并。具体的,在合并时,可以将第一视频数据的帧和第二视频数据的帧分别处于合并后的帧的不同图层。如此,便于两个帧的合并,提升了第一视频数据和第二视频数据合并的效率,降低了视频数据合并过程的运算量。
本说明书中的上述各个实施例均采用递进的方式描述,各个实施例之间相同相似部分相互参照即可,每个实施例重点说明的都是与其他实施例不同之处。尤其对于装置实施例和电子设备实施例而言,由于其实现的基本功能相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例部分说明即可。
虽然通过实施方式描绘了本申请,本领域普通技术人员知道,本申请有许多变形和变化而不脱离本申请的精神,希望所附的权利要求包括这些变形和变化而不脱离本申请的精神。

Claims (27)

1.一种无线投屏数据处理方法,其特征在于,其包括:
按照第一帧率从图像视频流中获取第一视频数据;所述第一视频数据包括表示屏幕图像的视频数据;
按照第二帧率获取第二视频数据;其中,所述第二视频数据包括表示输入设备输入标记的视频数据,所述第二帧率大于所述第一帧率;
将所述第一视频数据按照第一预定编码规则编码后发送给目标设备,将所述第二视频数据按照第二预定编码规则编码后发送给所述目标设备,所述第二预定编码规则的压缩比不高于所述第一预定编码规则的压缩比。
2.如权利要求1所述的方法,其特征在于,所述第二视频数据包括下述中的至少一种:表示鼠标输入标记的视频数据、表示光笔输入标记的视频数据、表示键盘输入标记的视频数据、手写输入板输入标记的视频数据、语音输入设备输入标记的视频数据、游戏杆输入标记的视频数据、触摸屏输入标记的视频数据。
3.如权利要求1所述的方法,其特征在于,所述第二帧率在40帧/秒以上。
4.如权利要求1所述的方法,其特征在于,所述第一帧率在20帧/秒以下。
5.如权利要求1所述的方法,其特征在于,在获取第二视频数据的步骤中包括:
监测到输入设备的状态变化,按照所述第二帧率获取所述表示输入设备输入标记的所述第二视频数据。
6.如权利要求2所述的方法,其特征在于,所述第二视频数据为表示鼠标输入标记的视频数据;
所述方法还包括:监测到鼠标的状态变化,获取所述表示鼠标标记的第二视频数据,所述第二视频数据包括所述鼠标的状态信息,所述状态信息包括形状信息、位置信息、颜色信息、能见性信息中的一个或多个。
7.如权利要求6所述的方法,其特征在于,所述鼠标的状态变化包括形状变化、位置变化、颜色变化、能见性变化中的一个或任意组合。
8.如权利要求1所述的方法,其特征在于,所述方法还包括:
接收所述目标设备反馈的接收状态信息;
在所述接收状态信息表示第一视频数据或第二视频数据中的一个出现接收异常时,停止另一个的发送。
9.如权利要求8所述的方法,其特征在于,所述方法还包括:
接收所述目标设备反馈的接收状态信息;
在所述接收状态信息表示接收正常时,发送所述第一视频数据和第二视频数据。
10.一种无线投屏数据处理装置,其特征在于,包括:
第一数据获取模块,用于按照第一帧率从图像视频流中获取第一视频数据;所述第一视频数据包括表示屏幕图像的视频数据;
第二数据获取模块,用于按照第二帧率获取第二视频数据;其中,所述第二视频数据包括表示输入设备输入标记的视频数据,所述第二帧率大于所述第一帧率;
数据发送模块,用于将所述第一视频数据按照第一预定编码规则编码后发送给目标设备,将所述第二视频数据按照第二预定编码规则编码后发送给所述目标设备,所述第二预定编码规则的压缩比不高于所述第一预定编码规则的压缩比。
11.一种电子设备,其特征在于,包括:通信模块、处理器,
所述处理器按照第一帧率从图像视频流中获取第一视频数据,并按照第二帧率获取第二视频数据,其中,所述第一视频数据包括表示屏幕图像的视频数据,所述第二视频数据包括表示输入设备输入标记的视频数据,所述第二帧率大于所述第一帧率;
所述通信模块,耦合于所述处理器,将所述处理器获取的第一视频数据按照第一预定编码规则编码后发送给目标设备,并将所述第二视频数据按照第二预定编码规则编码后发送给所述目标设备,所述第二预定编码规则的压缩比不高于所述第一预定编码规则的压缩比。
12.一种无线投屏数据处理方法,其特征在于,其包括:
接收按照第一预定编码规则编码后的第一视频数据,接收按照第二预定编码规则编码后的第二视频数据;其中,所述第一视频数据包括表示屏幕图像的视频数据,所述第二视频数据包括表示输入设备输入标记的视频数据,所述第二预定编码规则的压缩比不高于所述第一预定编码规则的压缩比,所述第二视频数据的帧率大于所述第一视频数据的帧率;
按照第一预定解码规则对所述第一视频数据进行解码,获得解码后的第一视频数据;
按照第二预定解码规则对所述第二视频数据进行解码,获得解码后的第二视频数据;
将所述解码后的第一视频数据、第二视频数据发送给显示设备。
13.如权利要求12所述的方法,其特征在于,所述第二视频数据包括下述中的至少一种:表示鼠标输入标记的视频数据、表示光笔输入标记的视频数据、表示键盘输入标记的视频数据、手写输入板输入标记的视频数据、语音输入设备输入标记的视频数据、游戏杆输入标记的视频数据、触摸屏输入标记的视频数据。
14.如权利要求12所述的方法,其特征在于,所述方法还包括:
获取所述第一视频数据和第二视频数据的接收状态信息;
在所述接收状态信息表示的第一视频数据或第二视频数据中的一个出现接收异常时,停止另一个的发送和/或将异常状态向数据发送端反馈。
15.如权利要求14所述的方法,其特征在于,所述方法还包括:
获取所述第一视频数据和第二视频数据的接收状态信息;
在所述接收状态信息表示接收正常时,发送所述解码后的第一视频数据和第二视频数据。
16.如权利要求12所述的方法,其特征在于,所述方法还包括:
获取所述第一视频数据或第二视频数据包含的第一分辨率信息;
获取所述显示设备的第二分辨率信息;
根据所述第一分辨率信息、第二分辨率信息将所述第二视频数据与所述第一视频数据按照预定算法进行位置映射。
17.如权利要求13所述的方法,其特征在于:接收所述表示鼠标输入标记的第二视频数据,所述第二视频数据包括所述鼠标的状态信息,所述状态信息包括形状信息、位置信息、颜色信息、能见性信息中的一个或多个。
18.一种无线投屏数据处理装置,其特征在于,包括:
数据接收模块,用于接收按照第一预定编码规则编码后图像视频流的第一视频数据,接收按照第二预定编码规则编码后的第二视频数据;其中,所述第一视频数据包括表示屏幕图像的视频数据,所述第二视频数据包括表示输入设备输入标记的视频数据,所述第二预定编码规则的压缩比不高于所述第一预定编码规则的压缩比,所述第二视频数据的帧率大于所述第一视频数据的帧率;
第一数据解码模块,用于按照第一预定解码规则对所述第一视频数据进行解码,获得解码后的第一视频数据;
第二数据解码模块,用于按照第二预定解码规则对所述第二视频数据进行解码,获得解码后的第二视频数据;
数据发送模块,用于将所述解码后的第一视频数据、第二视频数据发送给显示设备。
19.一种电子设备,其特征在于,包括:通信模块,处理器,
所述通信模块,接收按照第一预定编码规则编码的第一视频数据,接收按照第二预定编码规则编码后的第二视频数据;其中,所述第一视频数据包括表示屏幕图像的视频数据,所述第二视频数据包括表示输入设备输入标记的视频数据,所述第二预定编码规则的压缩比不高于所述第一预定编码规则的压缩比,所述第二视频数据的帧率大于所述第一视频数据的帧率;
所述处理器,耦合于所述通信模块,按照第一预定解码规则对所述第一视频数据进行解码,获得解码后的第一视频数据;按照第二预定解码规则对所述第二视频数据进行解码,获得解码后的第二视频数据;再通过所述通信模块将所述解码后的第一视频数据、第二视频数据发送给显示设备。
20.一种无线投屏数据处理方法,其特征在于,其包括:
接收按照第一预定编码规则编码后的第一视频数据,接收按照第二预定编码规则编码后的第二视频数据;其中,所述第一视频数据包括表示屏幕图像的视频数据,所述第二视频数据包括表示输入设备输入标记的视频数据,所述第二预定编码规则的压缩比不高于所述第一预定编码规则的压缩比,所述第二视频数据的帧率大于所述第一视频数据的帧率;
按照第一预定解码规则对所述第一视频数据进行解码,获得解码后的第一视频数据;
按照第二预定解码规则对所述第二视频数据进行解码,获得解码后的第二视频数据;
显示所述解码后的第一视频数据、第二视频数据。
21.如权利要求20所述的方法,其特征在于,所述第二视频数据包括下述中的至少一种:表示鼠标输入标记的视频数据、表示光笔输入标记的视频数据、表示键盘输入标记的视频数据、手写输入板输入标记的视频数据、语音输入设备输入标记的视频数据、游戏杆输入标记的视频数据、触摸屏输入标记的视频数据。
22.如权利要求20所述的方法,其特征在于,所述方法还包括:
获取所述第一视频数据和第二视频数据的接收状态信息;
在所述接收状态信息表示的第一视频数据或第二视频数据中的一个出现接收异常时,将异常状态向数据发送端反馈。
23.如权利要求22所述的方法,其特征在于,所述方法还包括:
获取所述第一视频数据和第二视频数据的接收状态信息;
在所述接收状态信息表示接收正常时,发送所述解码后的第一视频数据和第二视频数据。
24.如权利要求20所述的方法,其特征在于,所述方法还包括:
获取所述第一视频数据或第二视频数据包含的第一分辨率信息;
获取目标设备的第二分辨率信息;
根据所述第一分辨率信息、第二分辨率信息将所述第二视频数据与所述第一视频数据按照预定算法进行位置映射。
25.如权利要求21所述的方法,其特征在于:接收所述表示鼠标输入标记的第二视频数据,所述第二视频数据包括所述鼠标的状态信息,所述状态信息包括形状信息、位置信息、颜色信息、能见性信息中的一个或多个。
26.一种视频数据显示装置,其特征在于,包括:
数据接收模块,用于接收按照第一预定编码规则编码后的第一视频数据,接收按照第二预定编码规则编码后的第二视频数据;其中,所述第一视频数据包括表示屏幕图像的视频数据,所述第二视频数据包括表示输入设备输入标记的视频数据,所述第二预定编码规则的压缩比不高于所述第一预定编码规则的压缩比,所述第二视频数据的帧率大于所述第一视频数据的帧率;
第一数据解码模块,用于按照第一预定解码规则对所述第一视频数据进行解码,获得解码后的第一视频数据;
第二数据解码模块,用于按照第二预定解码规则对所述第二视频数据进行解码,获得解码后的第二视频数据;
数据显示模块,用于显示所述解码后的第一视频数据、第二视频数据。
27.一种电子设备,其特征在于,包括:通信模块,处理器、显示器;
所述通信模块,接收按照第一预定编码规则编码后的第一视频数据,接收按照第二预定编码规则编码后的第二视频数据;其中,所述第一视频数据包括表示屏幕图像的视频数据,所述第二视频数据包括表示输入设备输入标记的视频数据,所述第二预定编码规则的压缩比不高于所述第一预定编码规则的压缩比,所述第二视频数据的帧率大于所述第一视频数据的帧率;
所述处理器,耦合于所述通信模块,将所述通信模块接收到的第一视频数据按照第一预定解码规则进行解码,获得解码后的第一视频数据;将所述第二视频数据按照第二预定解码规则进行解码,获得解码后的第二视频数据;并控制所述显示器将所述解码后的第一视频数据、第二视频数据进行显示。
CN201610592123.8A 2015-07-23 2016-07-25 无线投屏数据处理、视频数据显示方法、装置及电子设备 Active CN106375841B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN2015104388114 2015-07-23
CN201510438811 2015-07-23

Publications (2)

Publication Number Publication Date
CN106375841A CN106375841A (zh) 2017-02-01
CN106375841B true CN106375841B (zh) 2020-02-11

Family

ID=57878700

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610592123.8A Active CN106375841B (zh) 2015-07-23 2016-07-25 无线投屏数据处理、视频数据显示方法、装置及电子设备

Country Status (1)

Country Link
CN (1) CN106375841B (zh)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107340848A (zh) * 2017-06-29 2017-11-10 上海友衷科技有限公司 一种信息显示方法及电子设备
CN107622234B (zh) * 2017-09-12 2020-04-24 广州酷狗计算机科技有限公司 一种显示萌脸礼物的方法和装置
CN108235079A (zh) * 2017-12-20 2018-06-29 深圳市纽格力科技有限公司 一种支持智能设备投屏到普通电视的控制系统
CN110515572B (zh) * 2018-05-21 2022-11-18 腾讯科技(深圳)有限公司 投屏方法、装置、存储介质和计算机设备
CN110515573B (zh) * 2018-05-21 2022-07-22 腾讯科技(深圳)有限公司 投屏方法、装置、系统和计算机设备
CN109240629A (zh) * 2018-08-27 2019-01-18 广州视源电子科技股份有限公司 一种桌面投屏方法、装置、设备及存储介质
CN111190558B (zh) * 2018-11-15 2022-09-30 腾讯科技(深圳)有限公司 投屏控制方法、装置、计算机可读存储介质和计算机设备
CN110049362A (zh) * 2019-05-17 2019-07-23 北京硬壳科技有限公司 显示器、无线投屏的系统和方法
CN110740316A (zh) * 2019-09-09 2020-01-31 西安万像电子科技有限公司 数据编码方法及装置
CN110865782B (zh) * 2019-09-29 2024-01-30 华为终端有限公司 数据传输方法、装置及设备
CN110879738B (zh) * 2019-11-19 2023-05-05 北京云测信息技术有限公司 一种操作步骤的展示方法、装置及电子设备
CN111338593B (zh) * 2020-03-25 2021-09-21 掌阅科技股份有限公司 投屏展示信息的方法、阅读终端及存储介质
CN111541919B (zh) * 2020-05-13 2022-07-29 阿波罗智联(北京)科技有限公司 视频帧传输方法、装置、电子设备及可读存储介质
WO2022141096A1 (zh) * 2020-12-29 2022-07-07 华为技术有限公司 一种无线投屏方法及装置
CN114510191A (zh) * 2022-02-16 2022-05-17 北京字跳网络技术有限公司 一种投屏方法及装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1474289A (zh) * 2002-08-09 2004-02-11 联想(北京)有限公司 一种在客户机上同步显示主机显示内容的方法
CN1949872A (zh) * 2005-10-13 2007-04-18 联想(北京)有限公司 动静态混合画面的投影方法和投影系统
CN101150704A (zh) * 2006-09-19 2008-03-26 富士施乐株式会社 图像处理系统、图像处理方法及其程序产品

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5430491B2 (ja) * 2010-05-17 2014-02-26 キヤノン株式会社 情報処理装置、表示装置、表示システム、情報処理装置の制御方法、及び表示装置の制御方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1474289A (zh) * 2002-08-09 2004-02-11 联想(北京)有限公司 一种在客户机上同步显示主机显示内容的方法
CN1949872A (zh) * 2005-10-13 2007-04-18 联想(北京)有限公司 动静态混合画面的投影方法和投影系统
CN101150704A (zh) * 2006-09-19 2008-03-26 富士施乐株式会社 图像处理系统、图像处理方法及其程序产品

Also Published As

Publication number Publication date
CN106375841A (zh) 2017-02-01

Similar Documents

Publication Publication Date Title
CN106375841B (zh) 无线投屏数据处理、视频数据显示方法、装置及电子设备
US11470301B2 (en) Systems and method for virtual reality video conversion and streaming
US10565916B2 (en) Providing streaming of virtual reality contents
CN102457544B (zh) 基于互联网的屏幕共享系统中用于采集屏幕图像的方法和系统
US8687702B2 (en) Remote transmission and display of video data using standard H.264-based video codecs
CN101160574B (zh) 具有基于标签的通信协议的图像处理系统和方法
WO2015061084A1 (en) Controlling resolution of encoded video
US8477842B2 (en) Encoding method of screen frame and electronic device applying the same
WO2020234373A1 (en) Immersive media content presentation and interactive 360° video communication
US10712804B2 (en) Dynamic selection of display resolution
WO2018223179A1 (en) Digital content stream compression
US9226003B2 (en) Method for transmitting video signals from an application on a server over an IP network to a client device
CN107396082B (zh) 一种图像数据的处理方法和装置
CN205105347U (zh) 视频的无线传输设备、视频播放设备及系统
WO2023024832A1 (zh) 数据处理方法、装置、计算机设备和存储介质
CN108040260B (zh) C/s架构下高清全景视频的观看方法、系统及服务器
CN111541940B (zh) 显示设备的运动补偿方法、装置、电视机及存储介质
CN112470481B (zh) 用于对基于图块的沉浸式视频进行编码的编码器和方法
WO2021042341A1 (zh) 视频显示方法、接收端、系统及存储介质
KR101251879B1 (ko) 멀티미디어 클라우드 시스템에서 화면변화에 따른 광고영상 출력 장치 및 방법
CN115865909B (zh) 一种基于spice协议的数据传输方法、装置和可读存储介质
JP2015076010A (ja) 端末装置、シンクライアントシステム、表示方法および表示プログラム
CN112511860B (zh) 一种文字区域清晰的画面传输方法
US11748915B2 (en) VR image compression transmission method and system
CN115756234A (zh) 一种显示处理方法、系统及存储介质

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant