CN114071056A - 视频数据显示方法及显示设备 - Google Patents
视频数据显示方法及显示设备 Download PDFInfo
- Publication number
- CN114071056A CN114071056A CN202010783609.6A CN202010783609A CN114071056A CN 114071056 A CN114071056 A CN 114071056A CN 202010783609 A CN202010783609 A CN 202010783609A CN 114071056 A CN114071056 A CN 114071056A
- Authority
- CN
- China
- Prior art keywords
- call
- data
- display
- video data
- window
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
- H04N7/15—Conference systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/451—Execution arrangements for user interfaces
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/478—Supplemental services, e.g. displaying phone caller identification, shopping application
- H04N21/4788—Supplemental services, e.g. displaying phone caller identification, shopping application communicating with other users, e.g. chatting
Abstract
本申请实施例公开了一种视频数据显示方法及显示设备。在本申请实施例中,当参与多方视频通话的通话用户的个数m超过该显示设备能够显示的通话窗口的最大数量n时,显示设备将接收到的m路通话数据中包含有满足预设条件的音频数据的通话数据中的视频数据优先显示在n个通话窗口中。这样,最大程度上保证当前正在讲话的通话用户的视频数据能够优先进行显示,有助于快速定位当前正在讲话的用户,提高用户体验。
Description
技术领域
本申请实施例涉及媒体技术领域,特别涉及一种视频数据显示方法及显示设备。
背景技术
当前,诸如智能电视、平板电脑之类的显示设备的功能越来越多样。例如,用户在通过显示设备进行娱乐(如观看视频或者是玩游戏等)的同时,能够与其他的多个用户进行多方视频通话。在这种情况下,显示设备的显示界面上将显示相应的娱乐内容,而在显示的娱乐内容的上层且靠近显示界面的边缘位置可以显示多个视频通话窗口,每个视频通话窗口中显示一个用户的视频数据。如此,用户就能够边娱乐边与他人进行通话。
然而,由于显示设备的屏幕大小限制,在显示界面的边缘能够显示的视频通话窗口的数量有限。在这种情况下,如果参与通话的用户的人数较多,则无法将多个用户的视频数据显示完整。基于此,亟需提供一种视频数据显示方法,以对多方视频通话下多个用户的视频数据进行显示。
发明内容
本申请实施例提供了一种视频数据显示方法及显示设备,能够在多方视频通话中将当前正在讲话的通话用户的视频数据优先显示。所述技术方案如下:
一方面,提供了一种显示设备,所述显示设备包括显示器和控制器;
所述显示器,用于显示视频通话的多个通话窗口,任一通话窗口显示一路通话数据的实时视频,且所述显示器最多允许显示的通话窗口为n个;
所述控制器用于:
建立视频通话,在参与视频通话的通话用户个数为m时,控制显示器显示n个通话窗口以显示n个通话用户的视频数据,其中,所述n小于所述m;
在视频通话过程中,检测各路通话数据中的音频数据;
若各路通话数据中的第一路通话数据中的第一音频数据满足预设条件,且所述第一路通话数据中的第一视频数据未在所述显示器的通话窗口显示,将所述第一视频数据在所述显示器的通话窗口上进行显示;
若检测所述第一音频数据满足预设条件,且所述第一视频数据在所述显示器的通话窗口中显示时,维持所述第一视频数据在对应的通话窗口上进行显示。
另一方面,提供了一种显示设备,所述显示设备包括显示器和控制器;
所述控制器用于:
接收m个通话用户的通话数据,所述通话数据包括视频数据和音频数据;
在检测到音频数据满足预设条件时,将包含所述音频数据的通话数据中的视频数据显示在显示界面的指定区域内显示的n个通话窗口中,其中,所述n小于所述m。
另一方面,提供了一种视频数据显示方法,应用于显示设备中,所述方法包括:
显示视频通话的多个通话窗口,任一通话窗口显示一路通话数据的实时视频,且显示器最多允许显示的通话窗口为n个;
建立视频通话,在参与视频通话的通话用户个数为m时,显示n个通话窗口以显示n个通话用户的视频数据,其中,所述n小于所述m;
在视频通话过程中,检测各路通话数据中的音频数据;
若各路通话数据中的第一路通话数据中的第一音频数据满足预设条件,且所述第一路通话数据中的第一视频数据未在所述显示器的通话窗口显示,将所述第一视频数据在所述显示器的通话窗口上进行显示;
若所述第一音频数据满足预设条件,且所述第一视频数据在所述显示器的通话窗口中显示时,维持所述第一视频数据在对应的通话窗口上进行显示。
另一方面,提供了一种视频数据显示方法,应用于显示设备中,所述方法包括:
接收m个通话用户的通话数据,所述通话数据包括视频数据和音频数据;
在检测到音频数据满足预设条件时,将包含所述音频数据的通话数据中的视频数据显示在显示界面的指定区域内显示的n个通话窗口中,其中,所述n小于所述m。
另一方面,提供了一种计算机可读存储介质,所述存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现上述所述的视频数据显示方法的步骤。
另一方面,提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述所述的视频数据显示方法的步骤。
本申请实施例提供的技术方案至少可以带来以下有益效果:
在本申请实施例中,当参与多方视频通话的通话用户的个数m超过该显示设备能够显示的通话窗口的最大数量n时,显示设备将接收到的m路通话数据中包含有满足预设条件的音频数据的通话数据中的视频数据优先显示在n个通话窗口中。这样,最大程度上保证当前正在讲话的通话用户的视频数据能够优先进行显示,有助于快速定位当前正在讲话的用户,提高用户体验。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是根据一示例性实施例示出的一种显示设备与控制装置之间操作场景的示意图;
图2是根据一示例性实施例示出的一种显示设备的硬件配置框图;
图3是根据一示例性实施例示出的一种控制设备的配置框图;
图4是根据一示例性实施例示出的一种显示设备中软件系统的配置框图;
图5是根据一示例性实施例示出的一种显示设备中应用程序的配置框图;
图6是根据一示例性实施例示出的一种显示设备的显示界面示意图;
图7是根据一示例性实施例示出的一种视频数据显示方法的流程图;
图8是根据一示例性实施例示出的一种初始状态下视频数据的显示示意图;
图9是根据一示例性实施例示出的调整后的视频数据的显示示意图。
具体实施方式
为使本申请示例性实施例的目的、技术方案和优点更加清楚,下面将结合本申请示例性实施例中的附图,对本申请示例性实施例中的技术方案进行清楚、完整地描述,显然,所描述的示例性实施例仅是本申请一部分实施例,而不是全部的实施例。
基于本申请实施例中示出的示例性实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请实施例保护的范围。此外,虽然本申请实施例中公开内容按照示范性一个或几个实例来介绍,但应理解,可以就这些公开内容的各个方面也可以单独构成一个完整技术方案。
应当理解,本申请实施例中说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,例如能够根据本申请实施例图示或描述中给出那些以外的顺序实施。
此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖但不排他的包含,例如,包含了一系列组件的产品或设备不必限于清楚地列出的那些组件,而是可包括没有清楚地列出的或对于这些产品或设备固有的其它组件。
本申请实施例中使用的术语“模块”,是指任何已知或后来开发的硬件、软件、固件、人工智能、模糊逻辑或硬件或/和软件代码的组合,能够执行与该元件相关的功能。
本申请实施例中使用的术语“遥控器”,是指电子设备(如本申请实施例中公开的显示设备)的一个组件,通常可在较短的距离范围内无线控制电子设备。一般使用红外线和/或射频(RF,Radio Frequency)信号和/或蓝牙与电子设备连接,也可以包括WiFi、无线USB(Universal Serial Bus(通用串行总线)、蓝牙、动作传感器等功能模块。例如:手持式触摸遥控器,是以触摸屏中用户界面取代一般遥控装置中的大部分物理内置硬键。
本申请实施例中使用的术语“手势”,是指用户通过一种手型的变化或手部运动等动作,用于表达预期想法、动作、目的/或结果的用户行为。
图1中示例性示出了根据实施例中显示设备与控制装置之间操作场景的示意图。如图1中示出,用户可通过移动终端300和控制设备100操作显示设备200。
在一些实施例中,控制设备100可以是遥控器,遥控器和显示设备的通信包括红外协议通信或蓝牙协议通信,及其他短距离通信方式等,通过无线或其他有线方式来控制显示设备200。用户可以通过遥控器上按键,语音输入、控制面板输入等输入用户指令,来控制显示设备200。如:用户可以通过遥控器上音量加减键、频道控制键、上/下/左/右的移动按键、语音输入按键、菜单键、开关机按键等输入相应控制指令,来实现控制显示设备200的功能。
在一些实施例中,也可以使用移动终端、平板电脑、计算机、笔记本电脑、和其他智能设备以控制显示设备200。例如,使用在智能设备上运行的应用程序控制显示设备200。该应用程序通过配置可以在与智能设备关联的屏幕上,在直观的用户界面(UI)中为用户提供各种控制。
在一些实施例中,移动终端300可与显示设备200安装软件应用,通过网络通信协议实现连接通信,实现一对一控制操作的和数据通信的目的。如:可以实现用移动终端300与显示设备200建立控制指令协议,将遥控控制键盘同步到移动终端300上,通过控制移动终端300上用户界面,实现控制显示设备200的功能。也可以将移动终端300上显示音视频内容传输到显示设备200上,实现同步显示功能。
如图1中还示出,显示设备200还与服务器400通过多种通信方式进行数据通信。可允许显示设备200通过局域网(LAN)、无线局域网(WLAN)和其他网络进行通信连接。服务器400可以向显示设备200提供各种内容和互动。示例的,显示设备200通过发送和接收信息,以及电子节目指南(EPG)互动,接收软件程序更新,或访问远程储存的数字媒体库。服务器400可以是一个集群,也可以是多个集群,可以包括一类或多类服务器。通过服务器400提供视频点播和广告服务等其他网络服务内容。
显示设备200,可以液晶显示器、OLED显示器、投影显示设备。具体显示设备类型,尺寸大小和分辨率等不作限定,本领技术人员可以理解的是,显示设备200可以根据需要做性能和配置上一些改变。
显示设备200除了提供广播接收电视功能之外,还可以附加提供计算机支持功能的智能网络电视功能,包括但不限于,网络电视、智能电视、互联网协议电视(IPTV)等。
图2中示例性示出了根据示例性实施例中显示设备200的硬件配置框图。
在一些实施例中,显示设备200中包括控制器250、调谐解调器210、通信器220、检测器230、输入/输出接口255、显示器275,音频输出接口285、存储器260、供电电源290、用户接口265、外部装置接口240中的至少一种。
在一些实施例中,显示器275,用于接收源自第一处理器输出的图像信号,进行显示视频内容和图像以及菜单操控界面的组件。
在一些实施例中,显示器275,包括用于呈现画面的显示屏组件,以及驱动图像显示的驱动组件。
在一些实施例中,显示视频内容,可以来自广播电视内容,也可以是说,可通过有线或无线通信协议接收的各种广播信号。或者,可显示来自网络通信协议接收来自网络服务器端发送的各种图像内容。
在一些实施例中,显示器275用于呈现显示设备200中产生且用于控制显示设备200的用户操控UI界面。
在一些实施例中,根据显示器275类型不同,还包括用于驱动显示的驱动组件。
在一些实施例中,显示器275为一种投影显示器,还可以包括一种投影装置和投影屏幕。
在一些实施例中,通信器220是用于根据各种通信协议类型与外部设备或外部服务器进行通信的组件。例如:通信器可以包括Wifi芯片,蓝牙通信协议芯片,有线以太网通信协议芯片等其他网络通信协议芯片或近场通信协议芯片,以及红外接收器中的至少一种。
在一些实施例中,显示设备200可以通过通信器220与外部控制设备100或内容提供设备之间建立控制信号和数据信号发送和接收。
在一些实施例中,用户接口265,可用于接收控制装置100(如:红外遥控器等)红外控制信号。
在一些实施例中,检测器230是显示设备200用于采集外部环境或与外部交互的信号。
在一些实施例中,检测器230包括光接收器,用于采集环境光线强度的传感器,可以通过采集环境光可以自适应性显示参数变化等。
在一些实施例中,检测器230还可以包括图像采集器,如相机、摄像头等,可以用于采集外部环境场景,以及用于采集用户的属性或与用户交互手势,可以自适应变化显示参数,也可以识别用户手势,以实现与用户之间互动的功能。
在一些实施例中,检测器230还可以包括温度传感器等,如通过感测环境温度。
在一些实施例中,显示设备200可自适应调整图像的显示色温。如当温度偏高的环境时,可调整显示设备200显示图像色温偏冷色调,或当温度偏低的环境时,可以调整显示设备200显示图像偏暖色调。
在一些实施例中,检测器230还可声音采集器等,如麦克风,可以用于接收用户的声音。示例性的,包括用户控制显示设备200的控制指令的语音信号,或采集环境声音,用于识别环境场景类型,使得显示设备200可以自适应适应环境噪声。
在一些实施例中,如图2所示,输入/输出接口255被配置为,可进行控制器250与外部其他设备或其他控制器250之间的数据传输。如接收外部设备的视频信号数据和音频信号数据、或命令指令数据等。
在一些实施例中,外部装置接口240可以包括,但不限于如下:可以高清多媒体接口HDMI接口、模拟或数据高清分量输入接口、复合视频输入接口、USB输入接口、RGB端口等任一个或多个接口。也可以是上述多个接口形成复合性的输入/输出接口。
在一些实施例中,如图2所示,调谐解调器210被配置为,通过有线或无线接收方式接收广播电视信号,可以进行放大、混频和谐振等调制解调处理,从多多个无线或有线广播电视信号中解调出音视频信号,该音视频信号可以包括用户所选择电视频道频率中所携带的电视音视频信号,以及EPG数据信号。
在一些实施例中,调谐解调器210解调的频点受到控制器250的控制,控制器250可根据用户选择发出控制信号,以使的调制解调器响应用户选择的电视信号频率以及调制解调该频率所携带的电视信号。
在一些实施例中,广播电视信号可根据电视信号广播制式不同区分为地面广播信号、有线广播信号、卫星广播信号或互联网广播信号等。或者根据调制类型不同可以区分为数字调制信号,模拟调制信号等。或者根据信号种类不同区分为数字信号、模拟信号等。
在一些实施例中,控制器250和调谐解调器210可以位于不同的分体设备中,即调谐解调器210也可在控制器250所在的主体设备的外置设备中,如外置机顶盒等。这样,机顶盒将接收到的广播电视信号调制解调后的电视音视频信号输出给主体设备,主体设备经过第一输入/输出接口接收音视频信号。
在一些实施例中,控制器250,通过存储在存储器上中各种软件控制程序,来控制显示设备的工作和响应用户的操作。控制器250可以控制显示设备200的整体操作。例如:响应于接收到用于选择在显示器275上显示UI对象的用户命令,控制器250便可以执行与由用户命令选择的对象有关的操作。
在一些实施例中,所述对象可以是可选对象中的任何一个,例如超链接或图标。与所选择的对象有关操作,例如:显示连接到超链接页面、文档、图像等操作,或者执行与所述图标相对应程序的操作。用于选择UI对象用户命令,可以是通过连接到显示设备200的各种输入装置(例如,鼠标、键盘、触摸板等)输入命令或者与由用户说出语音相对应的语音命令。
如图2所示,控制器250包括随机存取存储器251(Random Access Memory,RAM)、只读存储器252(Read-Only Memory,ROM)、视频处理器270、音频处理器280、其他处理器253(例如:图形处理器(Graphics Processing Unit,GPU)、中央处理器254(CentralProcessing Unit,CPU)、通信接口(Communication Interface),以及通信总线256(Bus)中的至少一种。其中,通信总线连接各个部件。
在一些实施例中,RAM 251用于存储操作系统或其他正在运行中的程序的临时数据
在一些实施例中,ROM 252用于存储各种系统启动的指令。
在一些实施例中,ROM 252用于存储一个基本输入输出系统,称为基本输入输出系统(Basic Input Output System,BIOS)。用于完成对系统的加电自检、系统中各功能模块的初始化、系统的基本输入/输出的驱动程序及引导操作系统。
在一些实施例中,在收到开机信号时,显示设备200电源开始启动,CPU运行ROM252中系统启动指令,将存储在存储器的操作系统的临时数据拷贝至RAM 251中,以便于启动或运行操作系统。当操作系统启动完成后,CPU再将存储器中各种应用程序的临时数据拷贝至RAM 251中,然后,以便于启动或运行各种应用程序。
在一些实施例中,CPU处理器254,用于执行存储在存储器中操作系统和应用程序指令。以及根据接收外部输入的各种交互指令,来执行各种应用程序、数据和内容,以便最终显示和播放各种音视频内容。
在一些示例性实施例中,CPU处理器254,可以包括多个处理器。多个处理器可包括一个主处理器以及一个或多个子处理器。主处理器,用于在预加电模式中执行显示设备200一些操作,和/或在正常模式下显示画面的操作。一个或多个子处理器,用于在待机模式等状态下一种操作。
在一些实施例中,图形处理器253,用于产生各种图形对象,如:图标、操作菜单、以及用户输入指令显示图形等。包括运算器,通过接收用户输入各种交互指令进行运算,根据显示属性显示各种对象。以及包括渲染器,对基于运算器得到的各种对象,进行渲染,上述渲染后的对象用于显示在显示器上。
在一些实施例中,视频处理器270被配置为将接收外部视频信号,根据输入信号的标准编解码协议,进行解压缩、解码、缩放、降噪、帧率转换、分辨率转换、图像合成等等视频处理,可得到直接可显示设备200上显示或播放的信号。
在一些实施例中,视频处理器270,包括解复用模块、视频解码模块、图像合成模块、帧率转换模块、显示格式化模块等。
其中,解复用模块,用于对输入音视频数据流进行解复用处理,如输入MPEG-2,则解复用模块进行解复用成视频信号和音频信号等。
视频解码模块,则用于对解复用后的视频信号进行处理,包括解码和缩放处理等。
图像合成模块,如图像合成器,其用于将图形生成器根据用户输入或自身生成的GUI信号,与缩放处理后视频图像进行叠加混合处理,以生成可供显示的图像信号。
帧率转换模块,用于对转换输入视频帧率,如将60Hz帧率转换为120Hz帧率或240Hz帧率,通常的格式采用如插帧方式实现。
显示格式化模块,则用于将接收帧率转换后视频输出信号,改变信号以符合显示格式的信号,如输出RGB数据信号。
在一些实施例中,图形处理器253可以和视频处理器可以集成设置,也可以分开设置,集成设置的时候可以执行输出给显示器的图形信号的处理,分离设置的时候可以分别执行不同的功能,例如GPU+FRC(Frame Rate Conversion))架构。
在一些实施例中,音频处理器280,用于接收外部的音频信号,根据输入信号的标准编解码协议,进行解压缩和解码,以及降噪、数模转换、和放大处理等处理,得到可以在扬声器中播放的声音信号。
在一些实施例中,视频处理器270可以包括一颗或多颗芯片组成。音频处理器,也可以包括一颗或多颗芯片组成。
在一些实施例中,视频处理器270和音频处理器280,可以单独的芯片,也可以于控制器一起集成在一颗或多颗芯片中。
在一些实施例中,音频输出,在控制器250的控制下接收音频处理器280输出的声音信号,如:扬声器286,以及除了显示设备200自身携带的扬声器之外,可以输出至外接设备的发生装置的外接音响输出端子,如:外接音响接口或耳机接口等,还可以包括通信接口中的近距离通信模块,例如:用于进行蓝牙扬声器声音输出的蓝牙模块。
供电电源290,在控制器250控制下,将外部电源输入的电力为显示设备200提供电源供电支持。供电电源290可以包括安装显示设备200内部的内置电源电路,也可以是安装在显示设备200外部电源,在显示设备200中提供外接电源的电源接口。
用户接口265,用于接收用户的输入信号,然后,将接收用户输入信号发送给控制器250。用户输入信号可以是通过红外接收器接收的遥控器信号,可以通过网络通信模块接收各种用户控制信号。
在一些实施例中,用户通过控制装置100或移动终端300输入用户命令,用户输入接口则根据用户的输入,显示设备200则通过控制器250响应用户的输入。
在一些实施例中,用户可在显示器275上显示的图形用户界面(GUI)输入用户命令,则用户输入接口通过图形用户界面(GUI)接收用户输入命令。或者,用户可通过输入特定的声音或手势进行输入用户命令,则用户输入接口通过传感器识别出声音或手势,来接收用户输入命令。
在一些实施例中,“用户界面”,是应用程序或操作系统与用户之间进行交互和信息交换的介质接口,它实现信息的内部形式与用户可以接受形式之间的转换。用户界面常用的表现形式是图形用户界面(Graphic User Interface,GUI),是指采用图形方式显示的与计算机操作相关的用户界面。它可以是在电子设备的显示屏中显示的一个图标、窗口、控件等界面元素,其中控件可以包括图标、按钮、菜单、选项卡、文本框、对话框、状态栏、导航栏、Widget等可视的界面元素。
存储器260,包括存储用于驱动显示设备200的各种软件模块。如:第一存储器中存储的各种软件模块,包括:基础模块、检测模块、通信模块、显示控制模块、浏览器模块、和各种服务模块等中的至少一种。
基础模块用于显示设备200中各个硬件之间信号通信、并向上层模块发送处理和控制信号的底层软件模块。检测模块用于从各种传感器或用户输入接口中收集各种信息,并进行数模转换以及分析管理的管理模块。
例如,语音识别模块中包括语音解析模块和语音指令数据库模块。显示控制模块用于控制显示器进行显示图像内容的模块,可以用于播放多媒体图像内容和UI界面等信息。通信模块,用于与外部设备之间进行控制和数据通信的模块。浏览器模块,用于执行浏览服务器之间数据通信的模块。服务模块,用于提供各种服务以及各类应用程序在内的模块。同时,存储器260还用存储接收外部数据和用户数据、各种用户界面中各个项目的图像以及焦点对象的视觉效果图等。
图3示例性示出了控制设备100的配置框图。如图3所示,控制设备100包括控制器110、通信接口130、用户输入/输出接口、存储器、供电电源。
控制设备100被配置为控制显示设备200,以及可接收用户的输入操作指令,且将操作指令转换为显示设备200可识别和响应的指令,起用用户与显示设备200之间交互中介作用。如:用户通过操作控制设备100上频道加减键,显示设备200响应频道加减的操作。
在一些实施例中,控制设备100可是一种智能设备。如:控制设备100可根据用户需求安装控制显示设备200的各种应用。
在一些实施例中,如图1所示,移动终端300或其他智能电子设备,可在安装操控显示设备200的应用之后,可以起到控制设备100类似功能。如:用户可以通过安装应用,在移动终端300或其他智能电子设备上可提供的图形用户界面的各种功能键或虚拟按钮,以实现控制设备100实体按键的功能。
控制器110包括处理器112和RAM 113和ROM 114、通信接口130以及通信总线。控制器用于控制控制设备100的运行和操作,以及内部各部件之间通信协作以及外部和内部的数据处理功能。
通信接口130在控制器110的控制下,实现与显示设备200之间控制信号和数据信号的通信。如:将接收到的用户输入信号发送至显示设备200上。通信接口130可包括WiFi芯片131、蓝牙模块132、NFC模块133等其他近场通信模块中至少之一种。
用户输入/输出接口140,其中,输入接口包括麦克风141、触摸板142、传感器143、按键144等其他输入接口中至少一者。如:用户可以通过语音、触摸、手势、按压等动作实现用户指令输入功能,输入接口通过将接收的模拟信号转换为数字信号,以及数字信号转换为相应指令信号,发送至显示设备200。
输出接口包括将接收的用户指令发送至显示设备200的接口。在一些实施例中,可以红外接口,也可以是射频接口。如:红外信号接口时,需要将用户输入指令按照红外控制协议转化为红外控制信号,经红外发送模块进行发送至显示设备200。再如:射频信号接口时,需将用户输入指令转化为数字信号,然后按照射频控制信号调制协议进行调制后,由射频发送端子发送至显示设备200。
在一些实施例中,控制设备100包括通信接口130和输入输出接口140中至少一者。控制设备100中配置通信接口130,如:WiFi、蓝牙、NFC等模块,可将用户输入指令通过WiFi协议、或蓝牙协议、或NFC协议编码,发送至显示设备200.
存储器190,用于在控制器的控制下存储驱动和控制控制设备200的各种运行程序、数据和应用。存储器190,可以存储用户输入的各类控制信号指令。
供电电源180,用于在控制器的控制下为控制设备100各元件提供运行电力支持。可以电池及相关控制电路。
在一些实施例中,系统可以包括内核(Kernel)、命令解析器(shell)、文件系统和应用程序。内核、shell和文件系统一起组成了基本的操作系统结构,它们让用户可以管理文件、运行程序并使用系统。上电后,内核启动,激活内核空间,抽象硬件、初始化硬件参数等,运行并维护虚拟内存、调度器、信号及进程间通信(IPC)。内核启动后,再加载Shell和用户应用程序。应用程序在启动后被编译成机器码,形成一个进程。
参见图4,在一些实施例中,将系统分为四层,从上至下分别为应用程序(Applications)层(简称“应用层”),应用程序框架(Application Framework)层(简称“框架层”),安卓运行时(Android runtime)和系统库层(简称“系统运行库层”),以及内核层。
在一些实施例中,应用程序层中运行有至少一个应用程序,这些应用程序可以是操作系统自带的窗口(Window)程序、系统设置程序、时钟程序、相机应用等;也可以是第三方开发者所开发的应用程序,比如嗨见程序、K歌程序、魔镜程序等。在具体实施时,应用程序层中的应用程序包不限于以上举例,实际还可以包括其它应用程序包,本申请实施例对此不做限制。
框架层为应用程序层的应用程序提供应用编程接口(application programminginterface,API)和编程框架。应用程序框架层包括一些预先定义的函数。应用程序框架层相当于一个处理中心,这个中心决定让应用层中的应用程序做出动作。应用程序通过API接口,可在执行中访问系统中的资源和取得系统的服务
如图4所示,本申请实施例中应用程序框架层包括管理器(Managers),内容提供者(Content Provider)等,其中管理器包括以下模块中的至少一个:活动管理器(ActivityManager)用与和系统中正在运行的所有活动进行交互;位置管理器(Location Manager)用于给系统服务或应用提供了系统位置服务的访问;文件包管理器(Package Manager)用于检索当前安装在设备上的应用程序包相关的各种信息;通知管理器(NotificationManager)用于控制通知消息的显示和清除;窗口管理器(Window Manager)用于管理用户界面上的括图标、窗口、工具栏、壁纸和桌面部件。
在一些实施例中,活动管理器用于:管理各个应用程序的生命周期以及通常的导航回退功能,比如控制应用程序的退出(包括将显示窗口中当前显示的用户界面切换到系统桌面)、打开、后退(包括将显示窗口中当前显示的用户界面切换到当前显示的用户界面的上一级用户界面)等。
在一些实施例中,窗口管理器用于管理所有的窗口程序,比如获取显示屏大小,判断是否有状态栏,锁定屏幕,截取屏幕,控制显示窗口变化(例如将显示窗口缩小显示、抖动显示、扭曲变形显示等)等。
在一些实施例中,系统运行库层为上层即框架层提供支撑,当框架层被使用时,安卓操作系统会运行系统运行库层中包含的C/C++库以实现框架层要实现的功能。
在一些实施例中,内核层是硬件和软件之间的层。如图4所示,内核层至少包含以下驱动中的至少一种:音频驱动、显示驱动、蓝牙驱动、摄像头驱动、WIFI驱动、USB驱动、HDMI驱动、传感器驱动(如指纹传感器,温度传感器,触摸传感器、压力传感器等)等。
在一些实施例中,内核层还包括用于进行电源管理的电源驱动模块。
在一些实施例中,图4中的软件架构对应的软件程序和/或模块存储在图2或图3所示的第一存储器或第二存储器中。
在一些实施例中,如图5中所示,应用程序层包含至少一个应用程序可以在显示器中显示对应的图标控件,如:直播电视应用程序图标控件、视频点播应用程序图标控件、媒体中心应用程序图标控件、应用程序中心图标控件、游戏应用图标控件等。
接下来对本申请实施例提供的视频数据显示方法所涉及的应用场景予以介绍。本申请提供的方法可以应用与上述实施中提供的显示设备,也可以用于其他能执行本方案的显示设备。
当前,用户在通过显示设备进行娱乐(如观看视频或者是玩游戏等)的同时,能够与其他的多个用户进行多方视频通话。在这种情况下,显示设备的显示界面上将显示相应的娱乐内容,而在显示的娱乐内容的上层且靠近显示界面的边缘位置可以显示多个通话窗口,每个通话窗口中显示一个用户的视频数据。如此,用户就能够边娱乐边与他人进行通话。然而,由于显示设备的屏幕大小限制,在显示界面的边缘能够显示的通话窗口的数量有限。在这种情况下,如果参与通话的用户的人数较多,则无法将多个用户的视频数据显示完整。
示例性地,如图6所示,显示设备的显示界面上显示有游戏画面,用户通过控制设备执行相应的游戏操作。与此同时,用户还能够与其他多个用户进行多方视频通话,但是显示界面的焦点在游戏画面上。
在一些实施例中,用户可以通过显示设备进行视频通话,视频通话建立后,需要在通话界面上通过通话窗口显示各路视频的图像数据,在一些实施例中,通话界面的设计为了保证视觉效果,设定了在通话界面上最多允许显示的通话窗口数量,例如显示4个、6个9个等。但通话应用支持的通话路数可能会大于设定的通话窗口数量,例如,通话应用支持12路通话,在实际参与通话的人数小于设定的通话窗口数量时,各路通话数据中的视频数据均能展示在通话界面的通话窗口上,在实际参与通话的人数大于预设通话窗口数量时,就只能将部分路数的通话数据中的视频数据展示在通话界面上,部分路数的视频数据不展示在通话界面中。
在一些实施例中,如图6中所示,由于显示设备的屏幕大小限制,显示有游戏画面的显示界面的右侧边缘处最多能够显示6个通话窗口,如果通话窗口数量增加,则通话窗口的尺寸会相应减小,用户将无法看清窗口中显示的内容。假设参与通话的用户(包括该显示设备的用户在内)有8个,则8个用户中只有6个用户的视频数据能够显示在当前界面的6个通话窗口中,而剩余的2个用户的视频数据则无法进行显示。本申请实施例提供的视频数据显示方法即用于该种场景中,以保证当前正在说话的用户的视频数据能够被显示。
在一些实施例中,在参与视频通话路数小于6路的时候,全部的用户的视频数据均可以通过通话窗口进行显示,因此无需根据音频调整视频窗口的排序。
接下来对本申请实施例提供的视频数据显示方法进行详细的解释说明。
响应于主叫终端发起的通话请求,服务器根据通话请求中的对端标识,将通话邀请发送给被叫终端,被叫终端接收通话邀请后,建立通话连接,服务器建立虚拟房间,主叫终端和被叫终端均可以和所述虚拟房间通信,来拉取对端的音视频数据,此时虚拟房间根据拉取请求中携带的唯一标识,将除本设备外的其他设备发送的音视频数据发送给本设备。
视频通话建立后,各终端设备可以根据权限/系统的设定邀请新的设备加入通话,或者,某一终端设备可以发送退出通话指令给服务器,服务器的虚拟房间中删除对应该终端的唯一标识以不再接收该终端的上传,同时通知其他终端设备该设备已经下线。
对于已经加入到视频通话中的设备而言,其可以通过本申请实施例提供的视频数据显示方法来进行操作。其中,上述已加入到视频通话中的各个设备均可以称为显示设备,本申请实施例以其中一个显示设备为例对该显示设备显示各路视频数据的过程进行介绍,参见图7,该过程包括以下步骤:
步骤701:接收m个通话用户的通话数据,通话数据包括视频数据和音频数据。
在本申请实施例中,如前所述,用户在通过显示设备进行娱乐的同时,能够与多个用户进行多方视频通话。其中,包括该显示设备的用户在内参与视频通话的m个用户即为m个通话用户。其中,m大于或等于3。
需要说明的是,该显示设备连接有图像采集设备和音频采集设备,或者,该显示设备本身配置有图像采集设备和音频采集设备。其中,图像采集设备为摄像头之类的能够采集用户图像的设备。音频采集设备为诸如麦克风之类的能够采集用户声音的设备。
对于使用该显示设备进行通话的用户而言,该显示设备通过该图像采集设备和音频采集设备采集该通话用户的通话数据。对于与该通话用户进行通话的其他通话用户,该显示设备接收其他通话用户通过各自对应的显示设备采集的通话数据。其中,每个通话用户的通话数据包括视频数据和音频数据。
步骤702:在检测到音频数据满足预设条件时,将包含该音频数据的通话数据中的视频数据显示在显示界面的指定区域内显示的n个通话窗口中,n小于m。
在本申请一些实施例中,显示设备的显示界面中显示有娱乐内容,例如,游戏画面或用户正在观看的视频节目的画面。
在一些实施例中,当显示设备与多个其他通话用户的显示设备建立通话连接,初次接收到多个通话用户的通话数据时,若通话路数大于显示界面支持显示的最大窗口数量时,显示设备在显示界面的指定区域内绘制n个通话窗口。该n个通话窗口位于显示界面显示的娱乐内容的上层。在一些实施例中,指定区域是指显示界面的边缘区域。例如,该指定区域为显示界面的上边缘区域、下边缘区域、右边缘区域或左边缘区域等,该指定区域以最小限度的遮挡显示界面中的娱乐内容为准,本申请实施例对此不作限定。
在一些实施例中,显示设备通过全屏的通话界面展示通话窗口,也即,显示设备的整个显示界面全部用于展示通话窗口,并且,显示界面中支持的最多通话窗口个数为n个。若通话路数大于显示界面支持的最大窗口数量时,显示设备在显示界面内绘制n个通话窗口。
在一些实施例中,触发通话路数与显示界面支持显示的最大窗口数量的判断,是在显示设备建立视频通话时,或视频通话过程中有新的终端加入或退出时。
在一些实施例中,在显示界面上显示n个通话窗口之后,显示设备检测接收到的m个通话用户对应的m路通话数据中是否包含满足预设条件的音频数据。根据检测到的满足预设条件的音频数据,从接收到的m路通话数据中确定k路第一通话数据,第一通话数据是指包含有满足预设条件的音频信号的通话数据;对k路第一通话数据包括的视频数据进行解码,得到k路第一通话数据对应的解码后的视频数据;将k路第一通话数据对应的解码后的视频数据显示在n个通话窗口中的k个第一通话窗口中,其中,k不大于n。当k小于n时,显示设备还可以从除第一通话数据外剩余的通话数据中确定n-k路第二通话数据;对n-k路第二通话数据包括的视频数据进行解码,得到n-k路第二通话数据对应的解码后的视频数据;将n-k路第二通话数据对应的解码后的视频数据显示在n个通话窗口中除k个第一通话窗口之外的剩余n-k个第二通话窗口中。
需要说明的是,在本申请实施例中,当显示设备检测到m个通话用户均已接入完成时,在初始状态下,可以按照m个通话用户的接入顺序为m个通话用户中先接入的前n个通话用户分配对应的通话窗口,对于除这n个通话用户之外的剩余其他通话用户,由于通话窗口的数量不足,则不为其分配对应的通话窗口。其中,对于分配到通话窗口的通话用户,显示设备可以建立通话用户的通话数据与对应的通话窗口之间的映射关系,并将上述映射关系存储在映射关系表中。其中,可以通过通话用户的用户ID来标识相应通话用户的通话数据,也即,建立通话用户的用户ID和对应的通话窗口的窗口ID之间的映射关系。当然,也可以通过其他方式来标识通话用户的通话数据,例如,通过通话用户对应的通话线路标识来标识该通话用户的通话数据,进而以此来建立上述映射关系,本申请实施例在此不做限定。在下文的实施例中,以通过通话用户的用户ID来标识相应通话用户的通话数据为例来进行解释说明,也即,以映射关系表中包含有通话用户的用户ID和通话窗口的窗口ID为例来进行说明。
在一些实施例中,显示器上显示的通话窗口是按照窗口ID依次排布的。
在一些实施例中,n个通话窗口在指定区域内按照第一顺序排列。第一顺序是指窗口ID从小到大的顺序。在这种情况下,按照接入顺序,越先接入的通话用户,分配到的通话窗口越靠前。例如,当n个通话窗口位于显示界面的右边缘区域或左边缘区域时,n个通话窗口按照从上到下的顺序排列,这样,越先接入的通话用户,分配到的通话窗口则越靠上。再例如,当n个通话窗口位于显示界面的上边缘区域或下边缘区域时,n个通话窗口按照从左到右的顺序排列,这样,越先接入的通话用户,分配到的通话窗口则越靠左。
在一些实施例中,通话窗口按照位置排序依次标记,示例性的可以标记为第一通话窗口,第二通话窗口,第三通话窗口……第n通话窗口。
在初始状态下为m个通话用户中的n个通话用户分配对应的通话窗口之后,对于视频通话过程中接收到的m个通话用户的通话数据,显示设备检测该m路通话数据中的每路通话数据是否包含有满足预设条件的音频数据。其中,预设条件包括音频数据的音量不为0。
如果检测到各路通话数据均不包含有满足预设条件的音频数据,则将前述的映射关系表中存储的各个通话窗口ID所对应的通话数据进行解码,得到各路通话数据对应的解码后的视频数据,进而将各路通话数据对应的解码后的视频数据显示在相应通话数据对应的通话窗口中。对于映射关系表中不存在的用户ID,也即,对于未分配到通话窗口的通话用户,可以不必对其通话数据进行解码,以减少显示设备的资源开销。
在一些实施例中,可以在浮层设置控件来表征未展示在通话界面中的其他用户,例如设置的控件可以根据未显示在通话界面中的那一路视频数据加载对应的用户名称或用户头像。
可选地,如果m路通话数据中存在包含有满足预设条件的音频数据,则显示设备获取包含有该音频数据的k路第一通话数据。之后,显示设备判断k路第一通话数据对应的k个通话用户的用户ID是否存在于映射关系表中。其中,k为大于或等于1的正整数。
在一种可能的实现方式中,如果k个通话用户的用户ID均存在于映射关系表中,则显示设备按照映射关系表中存储的各个用户ID对应的通话窗口ID,将接收到的m路通话数据中存在于映射关系表中的k个通话用户的k路通话数据以及映射关系表中剩余的n-k个通话用户的n-k路通话数据所包含的视频数据进行解码,将解码得到的视频数据显示在对应的通话窗口中。
示例性地,显示设备检测m路通话数据中的音频数据,当检测到第一路通话数据中的第一音频数据满足预设条件,也即k=1,并且,显示界面的n个通话窗口中存在用于显示第一路通话数据中的第一视频数据的通话窗口时,维持第一视频数据在对应的通话窗口中进行显示。
例如,假设n个通话窗口中用于显示第一视频数据的通话窗口为第一个窗口,则维持第一视频数据继续在第一个窗口中进行显示。
在一些实施例中,会根据检测到的音频数据满足预设条件的时序调整第一视频数据显示的窗口,例如检测到第一路通话数据中的第一音频数据满足预设条件,无论第一路通话数据中的第一视频数据是否在显示器上的通话窗口进行显示,均需要建立第一视频数据和第一通话窗口的映射以在第一通话窗口显示第一视频数据。建立映射前,如果第一视频数据和其他通话窗口存在映射,则需要先解除第一视频数据和其他通话窗口的映射,如果没有,则无需解除的步骤。
在一些实施例中,如果第一视频数据已经在通话窗口中显示,则检测到第一路通话数据中的第一音频数据满足预设条件时,不调整第一视频数据和通话窗口的映射关系。
在另一种可能的实现方式,如果k个通话用户的用户ID均存在于映射关系表中,则显示设备判断这k个通话用户的用户ID之前是否还存在通话数据中不包含满足预设条件的音频数据的通话用户的用户ID。如果存在,则显示设备更新该映射关系表中各个用户ID对应的通话窗口ID。其中,将n个通话窗口中的前k个通话窗口分配给这k个通话用户,也即,将这k个通话用户的用户ID和前k个通话窗口的窗口ID一一对应,将剩余的通话窗口的窗口ID与映射关系表中剩余的用户ID一一对应。之后,显示设备按照该映射关系表中的用户ID对对应的通话数据进行解码,并按照用户ID对应的通话窗口ID,将解码后得到的各个视频数据显示在对应的通话窗口中。如此,这k路通话数据包括的k个视频数据将被显示在靠前的通话窗口中,也即,m个通话用户中当前正在讲话的通话用户的视频数据将被显示在当前未讲话的其他通话用户的视频数据之前。
进一步地,当k大于1时,对于上述的k个通话用户,在将n个通话窗口中的前k个通话窗口分配给这k个通话用户时,可以按照这k个通话用户在建立通话连接时的接入顺序的先后来为这k个通话用户分配对应的通话窗口。也即,这k个通话用户中越先接入的通话用户分配到的通话窗口越靠前。
可选地,对于映射关系表中除上述k个通话用户之外剩余的其他通话用户,也按照建立通话连接时的接入顺序的先后来为其分配对应的通话窗口。本申请实施例在此不再赘述。
在另一种可能的实现方式中,如果k路第一通话数据对应的k个通话用户的用户ID中有不存在于映射关系表中的用户ID,则显示设备根据这k个通话用户的用户ID对该映射关系表进行更新。示例性地,显示设备重新进行通话窗口的分配,将n个通话窗口中的前k个通话窗口分配给这k个通话用户,将剩余的n-k个通话窗口分配给除这k个通话用户之外的其他通话用户中的n-k个通话用户。
其中,将n个通话窗口中的前k个通话窗口分配给该k个通话用户的实现方式请参考前文介绍的相关实现方式,本申请实施例在此不再赘述。
另外,在将剩余的n-k个通话窗口分配给除这k个通话用户之外的其他通话用户中的n-k个通话用户时,显示设备按照m个通话用户中除该k个通话用户之外的m-k个通话用户的接入顺序依次为前n-k个用户分配对应的窗口。其中,接入顺序越靠前,分配到的窗口越靠前。
在重新分配窗口之后,显示设备按照重新分配的窗口对映射关系表进行更新。之后,显示设备对存在于映射关系表中的用户ID所对应的通话用户的通话数据进行解码,得到相应通话数据对应的解码后的视频数据,并按照各个用户ID所对应的窗口ID,将相应通话用户的通话数据所对应的解码后的视频数据显示在对应的窗口中。
示例性地,以k等于1时为例进行说明。显示设备检测m路通话数据中的音频数据。当检测到第一路通话数据中的第一音频数据满足预设条件且显示界面中的n个通话窗口中不存在用于显示第一通话数据中的第一视频数据的通话窗口时,将第一视频数据显示n个通话窗口中的一个通话窗口中。
其中,显示设备控制第一通话窗口停止显示第二路通话数据中的第二视频数据,其中第一通话窗口是指显示器上视频通话窗口中排序为第一位的视频通话窗口;控制第一通话窗口显示第一视频数据。也即,对于显示界面中排在第一位的通话窗口,显示设备停止在该通话窗口中显示当前正在显示通话用户的第二视频数据,而是将第一视频数据显示在该通话窗口中。其中,在实现时,显示设备取消第二视频数据所对应的第二路通话数据与第一通话窗口之间的映射关系,建立第一通话窗口与第一路通话数据之间的映射关系,也即,将映射关系表中第一通话窗口的窗口ID对应的用户ID修改为第一路通话数据对应的通话用户的用户ID,进而根据该映射关系实现第一视频数据在第一通话窗口中的显示。
相应地,在第一通话窗口中显示第一视频数据之后,对于剩余的通话窗口,显示设备控制第i通话窗口停止显示第i+1路通话数据中的第i+1视频数据,控制第i通话窗口显示第i路通话数据中的第i视频数据,其中,第i视频数据是变化前展示在第i通话窗口的前一位通话窗口中的视频数据,i大于1且不大于n。
也就是说,在第一个通话窗口中显示第一视频数据之后,显示设备控制第二个通话窗口停止显示第三路通话数据中的第三视频数据,并控制第二个通话窗口显示之前显示在第一个通话窗口中的第二视频数据。同理,对于第三个通话窗口,显示设备停止在第三个通话窗口中显示第四视频数据,而是将之前显示在第二个通话窗口中显示的第三视频数据显示在第三个通话窗口中。以此类推,第n个通话窗口将停止显示第n+1视频数据,而是显示之前显示在第n-1个通话窗口中的第n视频数据。如此,第n+1视频数据将无法再进行显示,此时,可以不再对第n+1视频数据对应的通话用户的通话数据进行解码,以节省资源开销。
需要说明的是,在调整各个通话窗口中显示的视频数据时,同样是通过调整各个通话窗口与对应的通话数据的映射关系来实现,本申请实施例在此不再赘述。
上述示例性地介绍了各路通话数据中存在一路包含有满足预设条件的音频数据的通话数据的情况下,将该通话数据中的视频数据优先显示在显示界面中第一个通话窗口中的实现过程,当各路通话数据中存在两路或更多包含有满足预设条件的音频数据的通话数据时,则通过调整通话窗口和通话数据之间的映射关系,参考上述实现方式实现将包含有满足预设条件的音频数据的通话数据中的视频数据显示在靠前的通话窗口中,而不包含有满足预设条件的音频数据的通话数据中的视频数据则显示在靠后的通话窗口中,本申请实施例在此不再赘述。
可选地,考虑到在多方视频通话的过程中,各个通话用户随时都有可能说话,也即,显示设备获取到的各路通话数据中包含的音频数据可能随时变化,在这种情况下,如果频繁通过上述方法来变化各个窗口中显示的视频数据,可能会导致闪现混乱的情况出现。基于此,在一种可能的实现方式中,前述的预设条件还包括音频数据的持续时长不小于参考阈值。也就是说,显示设备可以在检测到某路通话数据中的音频信号的持续时长大于或等于参考阈值的情况下,再对该通话数据中包含的视频数据的显示顺序进行调整,而对于包含的音频数据的持续时长不大于参考阈值的通话数据,显示设备可以不对该通话数据中的视频数据的显示顺序进行调整。其中,该参考阈值可以为3秒、4秒或者其他数值。
可选地,在另一种可能的实现方式中,显示设备在确定出包含有满足预设条件的音频数据的第一通话数据之后,也可以隔第一时长再对第一通话数据中的视频数据的显示顺序进行调整。例如,显示设备在确定第一通话数据之后,可以隔1秒之后再按照前述的方法调整视频数据的显示顺序。或者,每次调整视频数据的显示顺序之后,显示设备可以在按照调整后的顺序持续显示视频数据超过一定时长之后,再进行下一次的调整。例如,在调整视频数据的显示顺序之后,显示设备可以按照该顺序显示至少2秒之后,再进行下一次的调整。
需要说明的是,上述所采用的各个时长仅是本申请实施例给出的一种示例,根据实际场景的不同,各个时长所取的数值大小可进行相应的调整,本申请实施例对此不作限定。
图8是本申请实施例示出的一种初始状态下视频数据的显示示意图。如图8所示,参与通话的通话用户一共有8个,也即,m=8,显示设备的显示界面的右侧边缘最多能显示6个通话窗口,也即,n=6。初始状态下,显示设备按照各个通话用户的接入顺序为前6个接入的通话用户分配对应的通话窗口,并将前6个接入的通话用户的视频数据按照接入顺序依次显示在6个通话窗口中。如图8所示,前6个接入的通话用户的用户ID先后依次为王AA、李BB、刘CC、张DD、赵EE、孙FF,则按照接入的先后顺序,从上到下依次显示的视频数据如图8所示。对于剩余2个未能分配到通话窗口的通话用户郑GG和杨HH,则无法将其对应的视频数据显示在显示界面中。
假设显示设备在显示图8的画面之后,后续接收到的m路通话数据中张DD和郑GG的通话数据中包含有满足预设条件的音频数据,则显示设备重新调整显示顺序,将从上到下的第一个和第二个通话窗口中分别分配给张DD和郑GG,而剩余的4个通话窗口则按照剩余通话用户的接入先后顺序,依次分配给4个通话用户,如此,孙FF和杨HH将无法分配到对应的通话窗口。之后,如图9所示,显示设备按照重新分配的窗口,依次将各个通话用户的通话数据中的视频数据显示在对应的通话窗口中。
在本申请实施例中,当参与多方视频通话的通话用户的个数m超过该显示设备能够显示的通话窗口的最大数量n时,显示设备将接收到的m路通话数据中包含有满足预设条件的音频数据的通话数据中的视频数据优先显示在n个通话窗口中。这样,最大程度上保证当前正在讲话的通话用户的视频数据能够优先进行显示,有助于快速定位当前正在讲话的用户,提高用户体验。
在一些实施例中,参与视频通话的用户可以通过控制通话界面上展示挂断控件,然后通过挂断控件的操作退出视频通话过程,此时本地直接退出视频通话应用,撤销通话界面的显示。同时在其他终端上,其他终端接收到服务器转发的某一端退出的通知消息后,确定该某一端的视频数据是否在通话界面的通话窗口上显示,如果没有显示,则停止向服务器拉取该某一端的音视频数据和/或展示该某一端的退出提示。如果有显示,在上述操作的同时,还需要撤销该某一端的标识和对应的通话窗口的映射,并使位于对应的通话窗口后的通话窗口所对应的音视频数据依次往前移动,位于对应的视频窗口前的视频窗口所对应的音视频数据不因有人退出而发生次序变化。次序变化的过程可以参照前文实施方式所述的步骤。
在一些实施例中还提供了一种计算机可读存储介质,该存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现上述实施例中的视频数据显示方法的步骤。例如,所述计算机可读存储介质可以是ROM(Read-Only Memory,只读存储器)、RAM(RandomAccess Memory,随机存取存储器)、CD-ROM(Compact Disc Read-Only Memory)、磁带、软盘和光数据存储设备等。
值得注意的是,本申请实施例提到的计算机可读存储介质可以为非易失性存储介质,换句话说,可以是非瞬时性存储介质。
应当理解的是,实现上述实施例的全部或部分步骤可以通过软件、硬件、固件或者其任意结合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。所述计算机指令可以存储在上述计算机可读存储介质中。
也即是,在一些实施例中,还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述所述的视频数据显示方法的步骤。
最后应说明的是:以上各实施例仅用以说明本申请实施例的技术方案,而非对其限制;尽管参照前述各实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的范围。
为了方便解释,已经结合具体的实施方式进行了上述说明。但是,上述示例性的讨论不是意图穷尽或者将实施方式限定到上述公开的具体形式。根据上述的教导,可以得到多种修改和变形。上述实施方式的选择和描述是为了更好的解释原理以及实际的应用,从而使得本领域技术人员更好的使用所述实施方式以及适于具体使用考虑的各种不同的变形的实施方式。
Claims (16)
1.一种显示设备,其特征在于,所述显示设备包括:显示器和控制器;
所述显示器,用于显示视频通话的多个通话窗口,任一通话窗口显示一路通话数据的实时视频,且所述显示器最多允许显示的通话窗口为n个;
所述控制器用于:
建立视频通话,在参与视频通话的通话用户个数为m时,控制显示器显示n个通话窗口以显示n个通话用户的视频数据,其中,所述n小于所述m;
在视频通话过程中,检测各路通话数据中的音频数据;
若各路通话数据中的第一路通话数据中的第一音频数据满足预设条件,且所述第一路通话数据中的第一视频数据未在所述显示器的通话窗口显示,将所述第一视频数据在所述显示器的通话窗口上进行显示;
若检测所述第一音频数据满足预设条件,且所述第一视频数据在所述显示器的通话窗口中显示时,维持所述第一视频数据在对应的通话窗口上进行显示。
2.根据权利要求1所述的显示设备,其特征在于,所述控制器,将所述第一视频数据在所述显示器的通话窗口上进行显示包括所述控制器:
控制第一通话窗口停止显示第二路通话数据中的第二视频数据,其中第一通话窗口是指所述显示器上显示的n个通话窗口中排序为第一位的通话窗口;
控制所述第一通话窗口显示所述第一视频数据。
3.根据权利要求1或2所述的显示设备,其特征在于,所述控制器还用于控制第i通话窗口停止显示第i+1路通话数据中的第i+1视频数据,控制所述第i通话窗口显示第i路通话数据中的第i视频数据,其中,所述第i视频数据是变化前展示在第i通话窗口的前一位通话窗口中的视频数据,所述第i通话窗口是指所述显示器上显示的n个通话窗口中排序为第i位的通话窗口,所述i大于1且不大于所述n。
4.根据权利要求2所述的显示设备,其特征在于,所述控制器控制第一通话窗口停止显示第二路通话数据中的第二视频数据包括所述控制器:
取消所述第一通话窗口和所述第二路通话数据的映射关系;
停止在所述第一通话窗口中显示所述第二视频数据。
5.根据权利要求2所述的显示设备,其特征在于,所述控制器控制所述第一通话窗口显示所述第一视频数据包括所述控制器:
建立所述第一通话窗口和所述第一路通话数据的映射关系;
在所述第一通话窗口中显示所述第一视频数据。
6.根据权利要求5所述的显示设备,其特征在于,所述控制器在所述第一通话窗口中显示所述第一视频数据包括所述控制器:
解码所述第一路通话数据中的第一视频数据;
根据所述第一通话窗口和所述第一路通话数据的映射关系,在所述第一通话窗口中显示解码后的第一视频数据。
7.一种显示设备,其特征在于,所述显示设备包括显示器和控制器;
所述控制器用于:
接收m个通话用户的通话数据,所述通话数据包括视频数据和音频数据;
在检测到音频数据满足预设条件时,将包含所述音频数据的通话数据中的视频数据显示在显示界面的指定区域内显示的n个通话窗口中,其中,所述n小于所述m。
8.根据权利要求7所述的显示设备,其特征在于,所述控制器用于:
根据检测到的满足预设条件的音频数据,从所述m个通话用户的通话数据中确定k个第一通话数据,所述第一通话数据是指包含有满足预设条件的音频数据的通话数据;
对所述k个第一通话数据中的视频数据进行解码,得到所述k个第一通话数据对应的的解码后的视频数据;
控制所述显示器将所述k个第一通话数据对应的解码后的视频数据显示在所述n个通话窗口中的k个第一通话窗口中,其中,k不大于n。
9.根据权利要求8所述的显示设备,其特征在于,所述控制器还用于:
当所述k小于所述n时,从除所述第一通话数据外剩余的通话数据中确定n-k个第二通话数据;
对所述n-k个第二通话数据中的视频数据进行解码,得到所述n-k个第二通话数据对应的的解码后的视频数据;
控制所述显示器将所述n-k个第二通话数据对应的解码后的视频数据显示在所述n个通话窗口中除所述k个第一通话窗口之外的剩余n-k个第二通话窗口中。
10.根据权利要求9所述的显示设备,其特征在于,所述n个通话窗口按照第一顺序排列,所述k个第一通话窗口排在剩余的n-k个第二通话窗口之前。
11.一种视频数据显示方法,其特征在于,所述方法包括:
显示视频通话的多个通话窗口,任一通话窗口显示一路通话数据的实时视频,且显示器最多允许显示的通话窗口为n个;
建立视频通话,在参与视频通话的通话用户个数为m时,显示n个通话窗口以显示n个通话用户的视频数据,其中,所述n小于所述m;
在视频通话过程中,检测各路通话数据中的音频数据;
若各路通话数据中的第一路通话数据中的第一音频数据满足预设条件,且所述第一路通话数据中的第一视频数据未在所述显示器的通话窗口显示,将所述第一视频数据在所述显示器的通话窗口上进行显示;
若检测所述第一音频数据满足预设条件,且所述第一视频数据在所述显示器的通话窗口中显示时,维持所述第一视频数据在对应的通话窗口上进行显示。
12.根据权利要求11所述的方法,其特征在于,所述将所述第一视频数据在所述显示器的通话窗口上进行显示,包括:
控制第一通话窗口停止显示第二路通话数据中的第二视频数据,其中第一通话窗口是指所述显示器上显示的n个通话窗口中排序为第一位的通话窗口;
控制所述第一通话窗口显示所述第一视频数据。
13.根据权利要求11或12所述的方法,其特征在于,所述方法还包括:
控制第i通话窗口停止显示第i+1路通话数据中的第i+1视频数据,控制所述第i通话窗口显示第i路通话数据中的第i视频数据,其中,所述第i视频数据是变化前展示在第i通话窗口的前一位通话窗口中的视频数据,所述第i通话窗口是指所述显示器上显示的n个通话窗口中排序为第i位的通话窗口,所述i大于1且不大于所述n。
14.一种视频数据显示方法,其特征在于,所述方法包括:
接收m个通话用户的通话数据,所述通话数据包括视频数据和音频数据;
在检测到音频数据满足预设条件时,将包含所述音频数据的通话数据中的视频数据显示在显示界面的指定区域内显示的n个通话窗口中,其中,所述n小于所述m。
15.根据权利要求14所述的方法,其特征在于,所述将包含所述音频数据的通话数据中的视频数据显示在显示界面的指定区域内显示的n个通话窗口中,包括:
根据检测到的满足预设条件的音频数据,从所述m个通话用户的通话数据中确定k个第一通话数据,所述第一通话数据是指包含有满足预设条件的音频数据的通话数据;
对所述k个第一通话数据中的视频数据进行解码,得到所述k个第一通话数据对应的的解码后的视频数据;
将所述k个第一通话数据对应的解码后的视频数据显示在所述n个通话窗口中的k个第一通话窗口中,其中,k不大于n。
16.根据权利要求15所述的方法,其特征在于,所述方法还包括:
当所述k小于所述n时,从除所述第一通话数据外剩余的通话数据中确定n-k个第二通话数据;
对所述n-k个第二通话数据中的视频数据进行解码,得到所述n-k个第二通话数据对应的解码后的视频数据;
控制所述显示器将所述n-k个第二通话数据对应的解码后的视频数据显示在所述n个通话窗口中除所述k个第一通话窗口之外的剩余n-k个第二通话窗口中。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010783609.6A CN114071056B (zh) | 2020-08-06 | 2020-08-06 | 视频数据显示方法及显示设备 |
CN202180054945.XA CN116114251A (zh) | 2020-07-08 | 2021-06-18 | 视频通话方法及显示设备 |
PCT/CN2021/101051 WO2022007618A1 (zh) | 2020-07-08 | 2021-06-18 | 视频通话方法及显示设备 |
US18/145,596 US20230126656A1 (en) | 2020-07-08 | 2022-12-22 | Video call method and display apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010783609.6A CN114071056B (zh) | 2020-08-06 | 2020-08-06 | 视频数据显示方法及显示设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114071056A true CN114071056A (zh) | 2022-02-18 |
CN114071056B CN114071056B (zh) | 2022-08-19 |
Family
ID=80232423
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010783609.6A Active CN114071056B (zh) | 2020-07-08 | 2020-08-06 | 视频数据显示方法及显示设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114071056B (zh) |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101212751A (zh) * | 2006-12-26 | 2008-07-02 | 鸿富锦精密工业(深圳)有限公司 | 显示多方视频通话的移动通信终端及其显示方法 |
CN104065911A (zh) * | 2013-03-18 | 2014-09-24 | 联想(北京)有限公司 | 显示控制方法及装置 |
US20150244981A1 (en) * | 2014-02-27 | 2015-08-27 | Google Inc. | Displaying a presenter during a video conference |
CN105068728A (zh) * | 2015-08-20 | 2015-11-18 | 小米科技有限责任公司 | 多人视频聊天界面中视频窗口的显示方法及装置 |
CN105094957A (zh) * | 2015-06-10 | 2015-11-25 | 小米科技有限责任公司 | 视频会话窗口控制方法及装置 |
CN105872832A (zh) * | 2015-11-30 | 2016-08-17 | 乐视致新电子科技(天津)有限公司 | 视频通话方法和系统以及显示装置 |
CN109151367A (zh) * | 2018-10-17 | 2019-01-04 | 维沃移动通信有限公司 | 一种视频通话方法及终端设备 |
CN109348070A (zh) * | 2018-12-21 | 2019-02-15 | 北京金山安全软件有限公司 | 来电显示方法及装置 |
CN109714485A (zh) * | 2019-01-10 | 2019-05-03 | 维沃移动通信有限公司 | 一种显示方法及移动终端 |
CN110430384A (zh) * | 2019-08-23 | 2019-11-08 | 珠海格力电器股份有限公司 | 视频通话方法、装置以及智能终端、存储介质 |
-
2020
- 2020-08-06 CN CN202010783609.6A patent/CN114071056B/zh active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101212751A (zh) * | 2006-12-26 | 2008-07-02 | 鸿富锦精密工业(深圳)有限公司 | 显示多方视频通话的移动通信终端及其显示方法 |
CN104065911A (zh) * | 2013-03-18 | 2014-09-24 | 联想(北京)有限公司 | 显示控制方法及装置 |
US20150244981A1 (en) * | 2014-02-27 | 2015-08-27 | Google Inc. | Displaying a presenter during a video conference |
CN105094957A (zh) * | 2015-06-10 | 2015-11-25 | 小米科技有限责任公司 | 视频会话窗口控制方法及装置 |
CN105068728A (zh) * | 2015-08-20 | 2015-11-18 | 小米科技有限责任公司 | 多人视频聊天界面中视频窗口的显示方法及装置 |
CN105872832A (zh) * | 2015-11-30 | 2016-08-17 | 乐视致新电子科技(天津)有限公司 | 视频通话方法和系统以及显示装置 |
CN109151367A (zh) * | 2018-10-17 | 2019-01-04 | 维沃移动通信有限公司 | 一种视频通话方法及终端设备 |
CN109348070A (zh) * | 2018-12-21 | 2019-02-15 | 北京金山安全软件有限公司 | 来电显示方法及装置 |
CN109714485A (zh) * | 2019-01-10 | 2019-05-03 | 维沃移动通信有限公司 | 一种显示方法及移动终端 |
CN110430384A (zh) * | 2019-08-23 | 2019-11-08 | 珠海格力电器股份有限公司 | 视频通话方法、装置以及智能终端、存储介质 |
Non-Patent Citations (1)
Title |
---|
蔡亚东: "基于WebRTC和SDN的多人视频会议系统的设计与实现", 《中国优秀博硕士学位论文全文数据库(硕士)信息科技辑》 * |
Also Published As
Publication number | Publication date |
---|---|
CN114071056B (zh) | 2022-08-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111741372B (zh) | 一种视频通话的投屏方法、显示设备及终端设备 | |
CN111277884B (zh) | 视频播放方法及设备 | |
US20210314659A1 (en) | Method For Switching Video Call Interface On Smart Television, And Smart Television | |
CN111752518A (zh) | 一种显示设备投屏方法及显示设备 | |
CN112153446B (zh) | 一种显示设备及流媒体视频音画同步方法 | |
CN111901654A (zh) | 一种显示设备及屏幕录制方法 | |
CN112272417B (zh) | 一种双蓝牙音响回连方法及显示设备 | |
CN112214189A (zh) | 图像显示方法及显示设备 | |
CN112188279A (zh) | 一种频道切换方法和显示设备 | |
CN113938724A (zh) | 显示设备及录屏分享方法 | |
CN113438539A (zh) | 一种数字电视节目录制方法及显示设备 | |
CN112601118B (zh) | 显示设备及视频录制方法 | |
CN112399217B (zh) | 显示设备及与功放设备建立通信连接的方法 | |
CN111954043B (zh) | 一种信息栏显示方法及显示设备 | |
CN111866498B (zh) | 一种摄像头异常处理方法及显示设备 | |
CN111669662A (zh) | 显示设备、视频通话方法及服务器 | |
CN111984167A (zh) | 一种快捷命名的方法及显示设备 | |
CN111818654A (zh) | 一种信道接入方法及显示设备 | |
CN111263223A (zh) | 一种媒体音量调节方法及显示设备 | |
CN112118476B (zh) | 一种快速显示节目预约图标的方法及显示设备 | |
CN114390190B (zh) | 显示设备及监测应用启动摄像头的方法 | |
CN114071056B (zh) | 视频数据显示方法及显示设备 | |
CN113938634A (zh) | 一种多路视频通话处理方法及显示设备 | |
CN112351334A (zh) | 一种文件传输进度显示方法及显示设备 | |
CN111918056A (zh) | 一种摄像头状态检测方法及显示设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |