CN111669636A - 一种音画同步的视频录制方法及显示设备 - Google Patents

Abstract

本申请公开了一种音画同步的视频录制方法及显示设备，摄像头采集用户跟随显示器中显示的示范动作呈现相应动作的动作画面；控制器响应于视频录制启动指令，获取预置人肢体反应时间、预置图像传输时间、图像算法处理时间和摄像头在录制第一帧动作画面的最优延时时间，并计算视频录制的视频延时总时长；根据视频延时总时长修改每帧动作画面的播放时间戳值，得到新播放时间戳值；根据背景音频和每个新播放时间戳值对应的动作画面，合成音画同步的视频文件。可见，本发明提供的方法及显示设备，通过修改每帧动作画面的播放时间戳值，补偿录制音频和录制视频的时间差，将背景音频与新播放时间戳值对应的动作画面进行合成，得到音画同步的视频文件。

Description

一种音画同步的视频录制方法及显示设备

技术领域

本申请涉及智能电视技术领域，尤其涉及一种音画同步的视频录制方法及显示设备。

背景技术

随着通信技术的不断发展，电脑、智能手机、显示设备等终端设备已经越来越普及，显示设备，例如智能电视，逐步走入人们的生活，为人们带来娱乐体验。为了能够提供丰富的功能体验，显示设备中安装可实现各种功能的应用程序。

目前，显示设备可以提供视频录制功能。具体地，显示设备中配置摄像头，由摄像头采集图像，显示器中播放示范视频，示范视频包括示范动作和背景音频。在进行视频录制时，用户跟随示范视频中的示范动作做相应动作时，由摄像头采集到用户的动作画面，将采集到的动作画面与背景音频进行合成，得到录制的视频文件。

但是，由于示范视频是由显示设备在本地进行播放，而用户的动作画面由摄像头实时采集，使得用户在听到背景音频并跟随示范动作做相应动作的时间与摄像头录制动作画面的时间存在时间差，录制视频的时间戳与音频的时间戳存在误差，导致最后合成的视频文件存在视频画面与音频不同步的问题。

发明内容

本申请提供了一种音画同步的视频录制方法及显示设备，以解决现有的显示设备在进行视频录制极易出现音画不同步的问题。

第一方面，本申请提供了一种显示设备，包括：

显示器，被配置为呈现示范视频，所述示范视频包括背景音频和示范动作；

摄像头，被配置为采集用户跟随所述示范动作呈现相应动作的动作画面；

分别与所述显示器和所述摄像头连接的控制器，所述控制器被配置为：

响应于视频录制启动指令，获取预置人肢体反应时间、预置图像传输时间、图像算法处理时间和所述摄像头在录制第一帧动作画面的最优延时时间，所述预置人肢体反应时间是指所述用户在听到所述背景音频与用户跟随观看到的所述示范动作做出相应动作过程的准备时间，所述预置图像传输时间是指所述摄像头将采集到的每一帧动作画面传输到控制器的时间，所述图像算法处理时间是指对摄像头采集的动作画面进行图像处理的时间；

计算所述最优延时时间、预置人肢体反应时间、预置图像传输时间和图像算法处理时间的时间和，确定视频录制的视频延时总时长；

根据所述视频延时总时长，修改录制视频时每帧动作画面的播放时间戳值，得到新播放时间戳值；

根据所述背景音频和每个所述新播放时间戳值对应的动作画面，合成音画同步的视频文件。

进一步地，所述控制器在执行所述响应于视频录制启动指令，获取图像算法处理时间，被进一步配置为：

响应于视频录制启动指令，获取用户在视频录制时的个性化设置信息；

接收所述摄像头采集的包括个性化设置信息的动作画面；

计算处理所述包括个性化设置信息的动作画面的图像算法处理时间。

进一步地，所述控制器在执行所述计算处理所述包括个性化设置信息的动作画面的图像算法处理时间，被进一步配置为：

获取接收到摄像头采集的包括个性化设置信息的动作画面的接收时间，以及，对所述动作画面进行图像处理的处理完成时间；

计算所述接收时间和所述处理完成时间的时间差，将所述时间差作为处理所述包括个性化设置信息的动作画面的图像算法处理时间。

进一步地，所述控制器在执行所述响应于视频录制启动指令，获取摄像头在录制第一帧动作画面的最优延时时间之前，被进一步配置为：

响应于摄像头开启指令，获取在当前环境状态对应的摄像头采集预览画面时的摄像头帧率，所述摄像头开启指令用于开启摄像头以采集预览画面，所述摄像头在不同的环境状态对应不同的摄像头帧率；

基于所述摄像头帧率，确定摄像头在录制第一帧动作画面的最优延时时间。

进一步地，所述控制器在执行所述根据视频延时总时长，修改录制视频时每帧动作画面的播放时间戳值，得到新播放时间戳值，被进一步配置为：

获取录制视频时每帧动作画面的原播放时间戳值；

计算所述原播放时间戳值与所述视频延时总时长的时间差值，将所述时间差值作为每帧动作画面的新播放时间戳值。

进一步地，所述控制器在执行所述根据背景音频和每个所述新播放时间戳值对应的动作画面，合成音画同步的视频文件，被进一步配置为：

获取所述背景音频的时间戳值和所述示范视频对应的参考时钟；

在所述参考时钟播放到目标时间时，确定对应的所述背景音频的目标时间戳值和所述动作画面的目标新播放时间戳值；

将所述目标新播放时间戳值对应的动作画面和所述目标时间戳值对应的背景音频片段合成音画同步的视频文件。

进一步地，所述控制器被进一步配置为：

获取所述示范视频的原录制时长；

根据所述视频延时总时长和所述示范视频的原录制时长，确定合成所述音画同步的视频文件所需的视频录制时长。

第二方面，本申请还提供了一种音画同步的视频录制方法，所述方法包括：

响应于视频录制启动指令，获取预置人肢体反应时间、预置图像传输时间、图像算法处理时间和所述摄像头在录制第一帧动作画面的最优延时时间，所述预置人肢体反应时间是指所述用户在听到所述背景音频与用户跟随观看到的所述示范动作做出相应动作过程的准备时间，所述预置图像传输时间是指所述摄像头将采集到的每一帧动作画面传输到控制器的时间，所述图像算法处理时间是指对摄像头采集的动作画面进行图像处理的时间；

计算所述最优延时时间、预置人肢体反应时间、预置图像传输时间和图像算法处理时间的时间和，确定视频录制的视频延时总时长；

根据所述视频延时总时长，修改录制视频时每帧动作画面的播放时间戳值，得到新播放时间戳值；

根据所述背景音频和每个所述新播放时间戳值对应的动作画面，合成音画同步的视频文件。

进一步地，所述响应于视频录制启动指令，获取图像算法处理时间，包括：

响应于视频录制启动指令，获取用户在视频录制时的个性化设置信息；

接收所述摄像头采集的包括个性化设置信息的动作画面；

计算处理所述包括个性化设置信息的动作画面的图像算法处理时间。

进一步地，所述计算处理所述包括个性化设置信息的动作画面的图像算法处理时间，包括：

获取接收到摄像头采集的包括个性化设置信息的动作画面的接收时间，以及，对所述动作画面进行图像处理的处理完成时间；

计算所述接收时间和所述处理完成时间的时间差，将所述时间差作为处理所述包括个性化设置信息的动作画面的图像算法处理时间。

进一步地，所述响应于视频录制启动指令，获取摄像头在录制第一帧动作画面的最优延时时间之前，还包括：

响应于摄像头开启指令，获取在当前环境状态对应的摄像头采集预览画面时的摄像头帧率，所述摄像头开启指令用于开启摄像头以采集预览画面，所述摄像头在不同的环境状态对应不同的摄像头帧率；

基于所述摄像头帧率，确定摄像头在录制第一帧动作画面的最优延时时间。

进一步地，所述根据视频延时总时长，修改录制视频时每帧动作画面的播放时间戳值，得到新播放时间戳值，包括：

获取录制视频时每帧动作画面的原播放时间戳值；

计算所述原播放时间戳值与所述视频延时总时长的时间差值，将所述时间差值作为每帧动作画面的新播放时间戳值。

进一步地，所述根据背景音频和每个所述新播放时间戳值对应的动作画面，合成音画同步的视频文件，包括：

获取所述背景音频的时间戳值和所述示范视频对应的参考时钟；

在所述参考时钟播放到目标时间时，确定对应的所述背景音频的目标时间戳值和所述动作画面的目标新播放时间戳值；

将所述目标新播放时间戳值对应的动作画面和所述目标时间戳值对应的背景音频片段合成音画同步的视频文件。

进一步地，还包括：

获取所述示范视频的原录制时长；

根据所述视频延时总时长和所述示范视频的原录制时长，确定合成所述音画同步的视频文件所需的视频录制时长。

第三方面，本申请还提供了一种存储介质，该计算机存储介质可存储有程序，该程序执行时可实现包括本申请提供的音画同步的视频录制方法各实施例中的部分或全部步骤。

由以上技术方案可知，本发明实施例提供的一种音画同步的视频录制方法及显示设备，显示设备包括显示器、摄像头和控制器。摄像头被配置为采集用户跟随显示器中显示的示范动作呈现相应动作的动作画面；控制器响应于视频录制启动指令，获取预置人肢体反应时间、预置图像传输时间、图像算法处理时间和摄像头在录制第一帧动作画面的最优延时时间，并计算视频录制的视频延时总时长；根据视频延时总时长，修改录制视频时每帧动作画面的播放时间戳值，得到新播放时间戳值；根据背景音频和每个新播放时间戳值对应的动作画面，合成音画同步的视频文件。可见，本发明提供的方法及显示设备，通过计算出的录制视频晚于录制音频的视频延时总时长，修改每帧动作画面的播放时间戳值，使得相应帧的动作画面提前显示，补偿录制音频和录制视频的时间差，将背景音频与新播放时间戳值对应的动作画面进行合成，可以得到音画同步的视频文件。

附图说明

为了更清楚地说明本申请的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，对于本领域普通技术人员而言，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1中示例性示出了根据一些实施例的显示设备与控制装置之间操作场景的示意图；

图2中示例性示出了根据一些实施例的显示设备200的硬件配置框图；

图3中示例性示出了根据一些实施例的控制设备100的硬件配置框图；

图4中示例性示出了根据一些实施例的显示设备200中软件配置示意图；

图5中示例性示出了根据一些实施例的显示设备200中应用程序的图标控件界面显示示意图；

图6中示例性示出了根据一些实施例的显示设备的结构框图；

图7中示例性示出了根据一些实施例的显示设备进行视频录制时的显示器显示示意图；

图8中示例性示出了根据一些实施例的音画同步的视频录制方法的流程图；

图9中示例性示出了根据一些实施例的确定最优延时时间的方法流程图；

图10中示例性示出了根据一些实施例的确定图像算法处理时间的方法流程图；

图11中示例性示出了根据一些实施例的计算新播放时间戳值的方法流程图；

图12中示例性示出了根据一些实施例的合成音画同步的视频文件的方法流程图。

具体实施方式

为使本申请的目的、实施方式和优点更加清楚，下面将结合本申请示例性实施例中的附图，对本申请示例性实施方式进行清楚、完整地描述，显然，所描述的示例性实施例仅是本申请一部分实施例，而不是全部的实施例。

基于本申请描述的示例性实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本申请所附权利要求保护的范围。此外，虽然本申请中公开内容按照示范性一个或几个实例来介绍，但应理解，可以就这些公开内容的各个方面也可以单独构成一个完整实施方式。

需要说明的是，本申请中对于术语的简要说明，仅是为了方便理解接下来描述的实施方式，而不是意图限定本申请的实施方式。除非另有说明，这些术语应当按照其普通和通常的含义理解。

本申请中说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”等是用于区别类似或同类的对象或实体，而不必然意味着限定特定的顺序或先后次序，除非另外注明(Unless otherwise indicated)。应该理解这样使用的用语在适当情况下可以互换，例如能够根据本申请实施例图示或描述中给出那些以外的顺序实施。

此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖但不排他的包含，例如，包含了一系列组件的产品或设备不必限于清楚地列出的那些组件，而是可包括没有清楚地列出的或对于这些产品或设备固有的其它组件。

本申请中使用的术语“模块”，是指任何已知或后来开发的硬件、软件、固件、人工智能、模糊逻辑或硬件或/和软件代码的组合，能够执行与该元件相关的功能。

本申请中使用的术语“遥控器”，是指电子设备(如本申请中公开的显示设备)的一个组件，通常可在较短的距离范围内无线控制电子设备。一般使用红外线和/或射频(RF)信号和/或蓝牙与电子设备连接，也可以包括WiFi、无线USB、蓝牙、动作传感器等功能模块。例如：手持式触摸遥控器，是以触摸屏中用户界面取代一般遥控装置中的大部分物理内置硬键。

本申请中使用的术语“手势”，是指用户通过一种手型的变化或手部运动等动作，用于表达预期想法、动作、目的/或结果的用户行为。

图1中示例性示出了根据实施例中显示设备与控制装置之间操作场景的示意图。如图1中示出，用户可通过移动终端300和控制装置100操作显示设备200。

在一些实施例中，控制装置100可以是遥控器，遥控器和显示设备的通信包括红外协议通信或蓝牙协议通信，及其他短距离通信方式等，通过无线或其他有线方式来控制显示设备200。用户可以通过遥控器上按键，语音输入、控制面板输入等输入用户指令，来控制显示设备200。如：用户可以通过遥控器上音量加减键、频道控制键、上/下/左/右的移动按键、语音输入按键、菜单键、开关机按键等输入相应控制指令，来实现控制显示设备200的功能。

在一些实施例中，也可以使用移动终端、平板电脑、计算机、笔记本电脑、和其他智能设备以控制显示设备200。例如，使用在智能设备上运行的应用程序控制显示设备200。该应用程序通过配置可以在与智能设备关联的屏幕上，在直观的用户界面(UI)中为用户提供各种控制。

在一些实施例中，移动终端300可与显示设备200安装软件应用，通过网络通信协议实现连接通信，实现一对一控制操作的和数据通信的目的。如：可以实现用移动终端300与显示设备200建立控制指令协议，将遥控控制键盘同步到移动终端300上，通过控制移动终端300上用户界面，实现控制显示设备200的功能。也可以将移动终端300上显示音视频内容传输到显示设备200上，实现同步显示功能。

如图1中还示出，显示设备200还与服务器400通过多种通信方式进行数据通信。可允许显示设备200通过局域网(LAN)、无线局域网(WLAN)和其他网络进行通信连接。服务器400可以向显示设备200提供各种内容和互动。示例的，显示设备200通过发送和接收信息，以及电子节目指南(EPG)互动，接收软件程序更新，或访问远程储存的数字媒体库。服务器400可以是一个集群，也可以是多个集群，可以包括一类或多类服务器。通过服务器400提供视频点播和广告服务等其他网络服务内容。

显示设备200，可以液晶显示器、OLED显示器、投影显示设备。具体显示设备类型，尺寸大小和分辨率等不作限定，本领技术人员可以理解的是，显示设备200可以根据需要做性能和配置上一些改变。

显示设备200除了提供广播接收电视功能之外，还可以附加提供计算机支持功能的智能网络电视功能，包括但不限于，网络电视、智能电视、互联网协议电视(IPTV)等。

图2中示例性示出了根据示例性实施例中显示设备200的硬件配置框图。

在一些实施例中，显示设备200中包括控制器250、调谐解调器210、通信器220、检测器230、输入/输出接口255、显示器275，音频输出接口285、存储器260、供电电源290、用户接口265、外部装置接口240中的至少一种。

在一些实施例中，显示器275，用于接收源自第一处理器输出的图像信号，进行显示视频内容和图像以及菜单操控界面的组件。

在一些实施例中，显示器275，包括用于呈现画面的显示屏组件，以及驱动图像显示的驱动组件。

在一些实施例中，显示视频内容，可以来自广播电视内容，也可以是说，可通过有线或无线通信协议接收的各种广播信号。或者，可显示来自网络通信协议接收来自网络服务器端发送的各种图像内容。

在一些实施例中，显示器275用于呈现显示设备200中产生且用于控制显示设备200的用户操控UI界面。

在一些实施例中，根据显示器275类型不同，还包括用于驱动显示的驱动组件。

在一些实施例中，显示器275为一种投影显示器，还可以包括一种投影装置和投影屏幕。

在一些实施例中，通信器220是用于根据各种通信协议类型与外部设备或外部服务器进行通信的组件。例如：通信器可以包括Wifi芯片，蓝牙通信协议芯片，有线以太网通信协议芯片等其他网络通信协议芯片或近场通信协议芯片，以及红外接收器中的至少一种。

在一些实施例中，显示设备200可以通过通信器220与外部控制设备100或内容提供设备之间建立控制信号和数据信号发送和接收。

在一些实施例中，用户接口265，可用于接收控制装置100(如：红外遥控器等)红外控制信号。

在一些实施例中，检测器230是显示设备200用于采集外部环境或与外部交互的信号。

在一些实施例中，检测器230包括光接收器，用于采集环境光线强度的传感器，可以通过采集环境光可以自适应性显示参数变化等。

在一些实施例中，检测器230还可以包括图像采集器，如相机、摄像头等，可以用于采集外部环境场景，以及用于采集用户的属性或与用户交互手势，可以自适应变化显示参数，也可以识别用户手势，以实现与用户之间互动的功能。

在一些实施例中，检测器230还可以包括温度传感器等，如通过感测环境温度。

在一些实施例中，显示设备200可自适应调整图像的显示色温。如当温度偏高的环境时，可调整显示设备200显示图像色温偏冷色调，或当温度偏低的环境时，可以调整显示设备200显示图像偏暖色调。

在一些实施例中，检测器230还可声音采集器等，如麦克风，可以用于接收用户的声音。示例性的，包括用户控制显示设备200的控制指令的语音信号，或采集环境声音，用于识别环境场景类型，使得显示设备200可以自适应适应环境噪声。

在一些实施例中，如图2所示，输入/输出接口255被配置为，可进行控制器250与外部其他设备或其他控制器250之间的数据传输。如接收外部设备的视频信号数据和音频信号数据、或命令指令数据等。

在一些实施例中，外部装置接口240可以包括，但不限于如下：可以高清多媒体接口HDMI接口、模拟或数据高清分量输入接口、复合视频输入接口、USB输入接口、RGB端口等任一个或多个接口。也可以是上述多个接口形成复合性的输入/输出接口。

在一些实施例中，如图2所示，调谐解调器210被配置为，通过有线或无线接收方式接收广播电视信号，可以进行放大、混频和谐振等调制解调处理，从多多个无线或有线广播电视信号中解调出音视频信号，该音视频信号可以包括用户所选择电视频道频率中所携带的电视音视频信号，以及EPG数据信号。

在一些实施例中，调谐解调器210解调的频点受到控制器250的控制，控制器250可根据用户选择发出控制信号，以使的调制解调器响应用户选择的电视信号频率以及调制解调该频率所携带的电视信号。

在一些实施例中，广播电视信号可根据电视信号广播制式不同区分为地面广播信号、有线广播信号、卫星广播信号或互联网广播信号等。或者根据调制类型不同可以区分为数字调制信号，模拟调制信号等。或者根据信号种类不同区分为数字信号、模拟信号等。

在一些实施例中，控制器250和调谐解调器210可以位于不同的分体设备中，即调谐解调器210也可在控制器250所在的主体设备的外置设备中，如外置机顶盒等。这样，机顶盒将接收到的广播电视信号调制解调后的电视音视频信号输出给主体设备，主体设备经过第一输入/输出接口接收音视频信号。

在一些实施例中，控制器250，通过存储在存储器上中各种软件控制程序，来控制显示设备的工作和响应用户的操作。控制器250可以控制显示设备200的整体操作。例如：响应于接收到用于选择在显示器275上显示UI对象的用户命令，控制器250便可以执行与由用户命令选择的对象有关的操作。

在一些实施例中，所述对象可以是可选对象中的任何一个，例如超链接或图标。与所选择的对象有关操作，例如：显示连接到超链接页面、文档、图像等操作，或者执行与所述图标相对应程序的操作。用于选择UI对象用户命令，可以是通过连接到显示设备200的各种输入装置(例如，鼠标、键盘、触摸板等)输入命令或者与由用户说出语音相对应的语音命令。

如图2所示，控制器250包括随机存取存储器251(Random Access Memory，RAM)、只读存储器252(Read-Only Memory,ROM)、视频处理器270、音频处理器280、其他处理器253(例如：图形处理器(Graphics Processing Unit，GPU)、中央处理器254(CentralProcessing Unit，CPU)、通信接口(Communication Interface)，以及通信总线256(Bus)中的至少一种。其中，通信总线连接各个部件。

在一些实施例中，RAM 251用于存储操作系统或其他正在运行中的程序的临时数据在一些实施例中，ROM 252用于存储各种系统启动的指令。

在一些实施例中，ROM 252用于存储一个基本输入输出系统，称为基本输入输出系统(Basic Input Output System，BIOS)。用于完成对系统的加电自检、系统中各功能模块的初始化、系统的基本输入/输出的驱动程序及引导操作系统。

在一些实施例中，在收到开机信号时，显示设备200电源开始启动，CPU运行ROM252中系统启动指令，将存储在存储器的操作系统的临时数据拷贝至RAM 251中，以便于启动或运行操作系统。当操作系统启动完成后，CPU再将存储器中各种应用程序的临时数据拷贝至RAM 251中,然后，以便于启动或运行各种应用程序。

在一些实施例中，CPU处理器254，用于执行存储在存储器中操作系统和应用程序指令。以及根据接收外部输入的各种交互指令，来执行各种应用程序、数据和内容，以便最终显示和播放各种音视频内容。

在一些示例性实施例中，CPU处理器254，可以包括多个处理器。多个处理器可包括一个主处理器以及一个或多个子处理器。主处理器，用于在预加电模式中执行显示设备200一些操作，和/或在正常模式下显示画面的操作。一个或多个子处理器，用于在待机模式等状态下一种操作。

在一些实施例中，图形处理器253，用于产生各种图形对象，如：图标、操作菜单、以及用户输入指令显示图形等。包括运算器，通过接收用户输入各种交互指令进行运算，根据显示属性显示各种对象。以及包括渲染器，对基于运算器得到的各种对象，进行渲染，上述渲染后的对象用于显示在显示器上。

在一些实施例中，视频处理器270被配置为将接收外部视频信号，根据输入信号的标准编解码协议，进行解压缩、解码、缩放、降噪、帧率转换、分辨率转换、图像合成等等视频处理，可得到直接可显示设备200上显示或播放的信号。

在一些实施例中，视频处理器270，包括解复用模块、视频解码模块、图像合成模块、帧率转换模块、显示格式化模块等。

其中，解复用模块，用于对输入音视频数据流进行解复用处理，如输入MPEG-2,则解复用模块进行解复用成视频信号和音频信号等。

视频解码模块，则用于对解复用后的视频信号进行处理，包括解码和缩放处理等。

图像合成模块，如图像合成器，其用于将图形生成器根据用户输入或自身生成的GUI信号，与缩放处理后视频图像进行叠加混合处理，以生成可供显示的图像信号。

帧率转换模块，用于对转换输入视频帧率，如将60Hz帧率转换为120Hz帧率或240Hz帧率，通常的格式采用如插帧方式实现。

显示格式化模块，则用于将接收帧率转换后视频输出信号，改变信号以符合显示格式的信号，如输出RGB数据信号。

在一些实施例中，图形处理器253可以和视频处理器可以集成设置，也可以分开设置，集成设置的时候可以执行输出给显示器的图形信号的处理，分离设置的时候可以分别执行不同的功能，例如GPU+FRC(Frame Rate Conversion))架构。

在一些实施例中，音频处理器280，用于接收外部的音频信号，根据输入信号的标准编解码协议，进行解压缩和解码，以及降噪、数模转换、和放大处理等处理，得到可以在扬声器中播放的声音信号。

在一些实施例中，视频处理器270可以包括一颗或多颗芯片组成。音频处理器，也可以包括一颗或多颗芯片组成。

在一些实施例中，视频处理器270和音频处理器280，可以单独的芯片，也可以于控制器一起集成在一颗或多颗芯片中。

在一些实施例中，音频输出，在控制器250的控制下接收音频处理器280输出的声音信号，如：扬声器286，以及除了显示设备200自身携带的扬声器之外，可以输出至外接设备的发生装置的外接音响输出端子，如：外接音响接口或耳机接口等，还可以包括通信接口中的近距离通信模块，例如：用于进行蓝牙扬声器声音输出的蓝牙模块。

供电电源290，在控制器250控制下，将外部电源输入的电力为显示设备200提供电源供电支持。供电电源290可以包括安装显示设备200内部的内置电源电路，也可以是安装在显示设备200外部电源，在显示设备200中提供外接电源的电源接口。

用户接口265，用于接收用户的输入信号，然后，将接收用户输入信号发送给控制器250。用户输入信号可以是通过红外接收器接收的遥控器信号，可以通过网络通信模块接收各种用户控制信号。

在一些实施例中，用户通过控制装置100或移动终端300输入用户命令，用户输入接口则根据用户的输入，显示设备200则通过控制器250响应用户的输入。

在一些实施例中，用户可在显示器275上显示的图形用户界面(GUI)输入用户命令，则用户输入接口通过图形用户界面(GUI)接收用户输入命令。或者，用户可通过输入特定的声音或手势进行输入用户命令，则用户输入接口通过传感器识别出声音或手势，来接收用户输入命令。

在一些实施例中，“用户界面”，是应用程序或操作系统与用户之间进行交互和信息交换的介质接口，它实现信息的内部形式与用户可以接受形式之间的转换。用户界面常用的表现形式是图形用户界面(Graphic User Interface，GUI)，是指采用图形方式显示的与计算机操作相关的用户界面。它可以是在电子设备的显示屏中显示的一个图标、窗口、控件等界面元素，其中控件可以包括图标、按钮、菜单、选项卡、文本框、对话框、状态栏、导航栏、Widget等可视的界面元素。

存储器260，包括存储用于驱动显示设备200的各种软件模块。如：第一存储器中存储的各种软件模块，包括：基础模块、检测模块、通信模块、显示控制模块、浏览器模块、和各种服务模块等中的至少一种。

基础模块用于显示设备200中各个硬件之间信号通信、并向上层模块发送处理和控制信号的底层软件模块。检测模块用于从各种传感器或用户输入接口中收集各种信息，并进行数模转换以及分析管理的管理模块。

例如，语音识别模块中包括语音解析模块和语音指令数据库模块。显示控制模块用于控制显示器进行显示图像内容的模块，可以用于播放多媒体图像内容和UI界面等信息。通信模块，用于与外部设备之间进行控制和数据通信的模块。浏览器模块，用于执行浏览服务器之间数据通信的模块。服务模块，用于提供各种服务以及各类应用程序在内的模块。同时，存储器260还用存储接收外部数据和用户数据、各种用户界面中各个项目的图像以及焦点对象的视觉效果图等。

图3示例性示出了根据示例性实施例中控制设备100的配置框图。如图3所示，控制设备100包括控制器110、通信接口130、用户输入/输出接口、存储器、供电电源。

控制设备100被配置为控制显示设备200，以及可接收用户的输入操作指令，且将操作指令转换为显示设备200可识别和响应的指令，起用用户与显示设备200之间交互中介作用。如：用户通过操作控制设备100上频道加减键，显示设备200响应频道加减的操作。

在一些实施例中，控制设备100可是一种智能设备。如：控制设备100可根据用户需求安装控制显示设备200的各种应用。

在一些实施例中，如图1所示，移动终端300或其他智能电子设备，可在安装操控显示设备200的应用之后，可以起到控制设备100类似功能。如：用户可以通过安装应用，在移动终端300或其他智能电子设备上可提供的图形用户界面的各种功能键或虚拟按钮，以实现控制设备100实体按键的功能。

控制器110包括处理器112和RAM 113和ROM 114、通信接口130以及通信总线。控制器用于控制控制设备100的运行和操作，以及内部各部件之间通信协作以及外部和内部的数据处理功能。

通信接口130在控制器110的控制下，实现与显示设备200之间控制信号和数据信号的通信。如：将接收到的用户输入信号发送至显示设备200上。通信接口130可包括WiFi芯片131、蓝牙模块132、NFC模块133等其他近场通信模块中至少之一种。

用户输入/输出接口140，其中，输入接口包括麦克风141、触摸板142、传感器143、按键144等其他输入接口中至少一者。如：用户可以通过语音、触摸、手势、按压等动作实现用户指令输入功能，输入接口通过将接收的模拟信号转换为数字信号，以及数字信号转换为相应指令信号，发送至显示设备200。

输出接口包括将接收的用户指令发送至显示设备200的接口。在一些实施例中，可以红外接口，也可以是射频接口。如：红外信号接口时，需要将用户输入指令按照红外控制协议转化为红外控制信号，经红外发送模块进行发送至显示设备200。再如：射频信号接口时，需将用户输入指令转化为数字信号，然后按照射频控制信号调制协议进行调制后，由射频发送端子发送至显示设备200。

在一些实施例中，控制设备100包括通信接口130和输入输出接口140中至少一者。控制设备100中配置通信接口130，如：WiFi、蓝牙、NFC等模块，可将用户输入指令通过WiFi协议、或蓝牙协议、或NFC协议编码，发送至显示设备200.

存储器190，用于在控制器的控制下存储驱动和控制控制设备200的各种运行程序、数据和应用。存储器190，可以存储用户输入的各类控制信号指令。

供电电源180，用于在控制器的控制下为控制设备100各元件提供运行电力支持。可以电池及相关控制电路。

在一些实施例中，系统可以包括内核(Kernel)、命令解析器(shell)、文件系统和应用程序。内核、shell和文件系统一起组成了基本的操作系统结构，它们让用户可以管理文件、运行程序并使用系统。上电后，内核启动，激活内核空间，抽象硬件、初始化硬件参数等，运行并维护虚拟内存、调度器、信号及进程间通信(IPC)。内核启动后，再加载Shell和用户应用程序。应用程序在启动后被编译成机器码，形成一个进程。

参见图4，在一些实施例中，将系统分为四层，从上至下分别为应用程序(Applications)层(简称“应用层”)，应用程序框架(Application Framework)层(简称“框架层”)，安卓运行时(Android runtime)和系统库层(简称“系统运行库层”)，以及内核层。

在一些实施例中，应用程序层中运行有至少一个应用程序，这些应用程序可以是操作系统自带的窗口(Window)程序、系统设置程序、时钟程序、相机应用等；也可以是第三方开发者所开发的应用程序，比如嗨见程序、K歌程序、魔镜程序等。在具体实施时，应用程序层中的应用程序包不限于以上举例，实际还可以包括其它应用程序包，本申请实施例对此不做限制。

框架层为应用程序层的应用程序提供应用编程接口(application programminginterface，API)和编程框架。应用程序框架层包括一些预先定义的函数。应用程序框架层相当于一个处理中心，这个中心决定让应用层中的应用程序做出动作。应用程序通过API接口，可在执行中访问系统中的资源和取得系统的服务

如图4所示，本申请实施例中应用程序框架层包括管理器(Managers)，内容提供者(Content Provider)等，其中管理器包括以下模块中的至少一个：活动管理器(ActivityManager)用与和系统中正在运行的所有活动进行交互；位置管理器(Location Manager)用于给系统服务或应用提供了系统位置服务的访问；文件包管理器(Package Manager)用于检索当前安装在设备上的应用程序包相关的各种信息；通知管理器(NotificationManager)用于控制通知消息的显示和清除；窗口管理器(Window Manager)用于管理用户界面上的括图标、窗口、工具栏、壁纸和桌面部件。

在一些实施例中，活动管理器用于：管理各个应用程序的生命周期以及通常的导航回退功能，比如控制应用程序的退出(包括将显示窗口中当前显示的用户界面切换到系统桌面)、打开、后退(包括将显示窗口中当前显示的用户界面切换到当前显示的用户界面的上一级用户界面)等。

在一些实施例中，窗口管理器用于管理所有的窗口程序，比如获取显示屏大小，判断是否有状态栏，锁定屏幕，截取屏幕，控制显示窗口变化(例如将显示窗口缩小显示、抖动显示、扭曲变形显示等)等。

在一些实施例中，系统运行库层为上层即框架层提供支撑，当框架层被使用时，安卓操作系统会运行系统运行库层中包含的C/C++库以实现框架层要实现的功能。

在一些实施例中，内核层是硬件和软件之间的层。如图4所示，内核层至少包含以下驱动中的至少一种：音频驱动、显示驱动、蓝牙驱动、摄像头驱动、WIFI驱动、USB驱动、HDMI驱动、传感器驱动(如指纹传感器，温度传感器，触摸传感器、压力传感器等)等。

在一些实施例中，内核层还包括用于进行电源管理的电源驱动模块。

在一些实施例中，图4中的软件架构对应的软件程序和/或模块存储在图2或图3所示的第一存储器或第二存储器中。

在一些实施例中，以魔镜应用(拍照应用)为例，当遥控接收装置接收到遥控器输入操作，相应的硬件中断被发给内核层。内核层将输入操作加工成原始输入事件(包括输入操作的值，输入操作的时间戳等信息)。原始输入事件被存储在内核层。应用程序框架层从内核层获取原始输入事件，根据焦点当前的位置识别该输入事件所对应的控件以及以该输入操作是确认操作，该确认操作所对应的控件为魔镜应用图标的控件，魔镜应用调用应用框架层的接口，启动魔镜应用，进而通过调用内核层启动摄像头驱动，实现通过摄像头捕获静态图像或视频。

在一些实施例中，对于具备触控功能的显示设备，以分屏操作为例，显示设备接收用户作用于显示屏上的输入操作(如分屏操作)，内核层可以根据输入操作产生相应的输入事件，并向应用程序框架层上报该事件。由应用程序框架层的活动管理器设置与该输入操作对应的窗口模式(如多窗口模式)以及窗口位置和大小等。应用程序框架层的窗口管理根据活动管理器的设置绘制窗口，然后将绘制的窗口数据发送给内核层的显示驱动，由显示驱动在显示屏的不同显示区域显示与之对应的应用界面。

在一些实施例中，如图5中所示，应用程序层包含至少一个应用程序可以在显示器中显示对应的图标控件，如：直播电视应用程序图标控件、视频点播应用程序图标控件、媒体中心应用程序图标控件、应用程序中心图标控件、游戏应用图标控件等。

在一些实施例中，直播电视应用程序，可以通过不同的信号源提供直播电视。例如，直播电视应用程可以使用来自有线电视、无线广播、卫星服务或其他类型的直播电视服务的输入提供电视信号。以及，直播电视应用程序可在显示设备200上显示直播电视信号的视频。

在一些实施例中，视频点播应用程序，可以提供来自不同存储源的视频。不同于直播电视应用程序，视频点播提供来自某些存储源的视频显示。例如，视频点播可以来自云存储的服务器端、来自包含已存视频节目的本地硬盘储存器。

在一些实施例中，媒体中心应用程序，可以提供各种多媒体内容播放的应用程序。例如，媒体中心，可以为不同于直播电视或视频点播，用户可通过媒体中心应用程序访问各种图像或音频所提供服务。

在一些实施例中，应用程序中心，可以提供储存各种应用程序。应用程序可以是一种游戏、应用程序，或某些和计算机系统或其他设备相关但可以在智能电视中运行的其他应用程序。应用程序中心可从不同来源获得这些应用程序，将它们储存在本地储存器中，然后在显示设备200上可运行。

在一些实施例中，在利用显示设备实现视频录制功能时，可在应用程序中心中储存视频录制应用程序。视频录制应用程序，类似于抖音、快手等自媒体应用程序，可提供固定的背景音频并提供示范动作视频，用户模仿示范动作视频作相应动作，由视频录制应用程序实现用户做的动作画面与背景音频的录制，通过合成背景音频和动作画面得到MV效果的视频文件。

图6中示例性示出了根据一些实施例的显示设备的结构框图；图7中示例性示出了根据一些实施例的显示设备进行视频录制时的显示器显示示意图。为实现用户跟随示范动作视频做出相应动作的画面采集，参见图6和图7，本发明实施例提供了一种显示设备200，包括：显示器275、摄像头232和控制器250，控制器250分别与显示器275和摄像头232连接。

显示器275被配置为呈现示范视频，示范视频包括背景音频和示范动作。用户在利用显示设备录制视频时，通常通过视频录制应用程序选择示范视频，示范视频是用户想要录制MV效果的模板视频。背景音频可为不同节奏的音乐，示范动作以视频的形式与背景音频结合并显示在显示器275中，示范动作可为与背景音频配合得到MV效果的演示动作视频。

在一些实施例中，摄像头232以USB接口的形式接入显示设备。摄像头232被配置为采集用户跟随示范动作呈现相应动作的动作画面(不包括示范动作的画面)。在进行视频录制时，用户跟随示范视频中的示范动作做相应动作时，由摄像头实时采集到用户的动作画面，将采集到的每帧动作画面通过USB接口传输至控制器，由控制器将每帧动作画面与背景音频进行合成，得到录制的视频文件。

由于示范视频是由显示设备在本地进行播放，而用户的动作画面由摄像头实时采集，那么控制器在进行视频合成时，如果录制视频的时间戳和音频的时间戳处理出现异常，则很容易出现音画不同步的问题。因此，为避免利用显示设备进行视频录制时得到的视频文件出现音画不同步的问题，本发明实施例提供的显示设备，其控制器被配置为执行音画同步的视频录制方法，可以保证能够得到音画同步的视频文件。

图8中示例性示出了根据一些实施例的音画同步的视频录制方法的流程图。参见图8，本发明实施例提供的一种显示设备，其控制器在执行音画同步的视频录制方法时，被配置为执行下述步骤：

S1、响应于视频录制启动指令，获取预置人肢体反应时间、预置图像传输时间、图像算法处理时间和摄像头在录制第一帧动作画面的最优延时时间，预置人肢体反应时间是指用户在听到背景音频与用户跟随观看到的示范动作做出相应动作过程的准备时间，预置图像传输时间是指摄像头将采集到的每一帧动作画面传输到控制器的时间，图像算法处理时间是指对摄像头采集的动作画面进行图像处理的时间。

由于示范视频是在显示设备的本地进行播放，而摄像头需实时采集用户的动作以得到动作画面，即背景音频本地播放，动作画面实时采集。那么在视频录制过程中，音频的录制和动作画面的采集之间极易出现时间差，动作画面的录制要比背景音乐的录制慢几个过程的时间。该几个过程均会产生时间消耗，导致视频与音频无法同步录制。

其中，易产生时间消耗的过程包括但不限定于人肢体反应的过程、摄像头采集第一针动作画面的过程、摄像头通过USB接口向控制器传输采集到的动作画面的过程，以及，控制器对接收到的动作画面进行处理的过程。

为保证视频录制时音频与动作画面的同步录制，需要统计录制动作画面时比录制音频时要延时的总时长。因此，需分别确定人肢体反应的过程产生的预置人肢体反应时间T0、摄像头采集第一针动作画面的过程产生的在录制第一帧动作画面的最优延时时间T1、摄像头通过USB接口向控制器传输采集到的动作画面的过程产生的预置图像传输时间T2，以及，控制器对接收到的动作画面进行处理的过程产生的图像算法处理时间T3。

预置人肢体反应时间T0是预先存储在控制器的参数，是指用户在听到背景音频与用户跟随观看到的示范动作做出相应动作过程的准备时间。用户在听到音乐、看到示范动作时，并不会立即做出相应的动作，而是需要有一定的反应时间。不同身体素质的用户的肢体反应时间不同，例如，受过训练的人，其肢体反应时间约为100ms，普通人的肢体反应时间约为200ms，因此，为代表大众的肢体反应时间，在一些实施例中，可设定人肢体反应时间T0为150ms左右。

预置图像传输时间T2是预先存储在控制器的参数，是指摄像头将采集到的每一帧动作画面传输到控制器的时间。由于在一些实施例中，摄像头与显示设备之间通过USB接口连接，因此，摄像头在将采集到的动作画面传输到控制器时，可通过USB传输方式进行传输。示例性的，采用USB传输方式传输时的预置图像传输时间T2可设定为150ms～200ms。

最优延时时间T1是指摄像头在录制第一帧动作画面的采集时间，可根据摄像头的所处环境状态对应的帧率来确定。通常情况下，摄像头采集每帧动作画面会花费一定的时间，例如，摄像头每40ms采集一帧动作画面。

摄像头在不同的环境状态对应不同的摄像头帧率，因此，会得到不同的最优延时时间。例如，在白天环境下，视线较亮，此时摄像头帧率约为60帧等；在黑天环境下，视线较暗，此时摄像头帧率约为30帧或20帧等。

由于用户在初始做动作之前会存在肢体反应时间，而不同的人肢体反应时间不同，那么摄像头在按照采集频率采集动作画面时，可能用户刚一抬手(肢体反应过程)摄像头就采集到动作画面，也可能做好准备动作后摄像头才采集到动作画面。那么，在用户刚一抬手的过程中，摄像头可能未达到40ms即拍摄到动作画面，即摄像头采集到第一帧动作画面的用时少于40ms；如果在用户做好准备跟随示范视频动作后，摄像头拍摄到动作画面，即摄像头采集到第一帧动作画面的用时为40ms。摄像头经过40ms后再拍摄第二帧动作画面。

可见，摄像头在拍摄到第一帧动作画面的用时可能为预置拍摄频率40ms，也可能少于40ms，因此，为准确确定摄像头拍摄到第一帧动作画面的用时，在一些实施例中，采用最优延时时间来表征。

图9中示例性示出了根据一些实施例的确定最优延时时间的方法流程图。因此，在控制器响应视频录制启动指令之前，需先确定摄像头在录制第一帧动作画面的最优延时时间，具体地，参见图9，控制器被进一步配置为执行下述步骤：

S111、响应于摄像头开启指令，获取在当前环境状态对应的摄像头采集预览画面时的摄像头帧率，摄像头开启指令用于开启摄像头以采集预览画面，摄像头在不同的环境状态对应不同的摄像头帧率。

S112、基于摄像头帧率，确定摄像头在录制第一帧动作画面的最优延时时间。

在确定摄像头的最优延时时间时，可在刚刚开启摄像头，进行画面预览过程中确定，为此，用户触发视频录制应用程序，产生摄像头开启指令。控制器接收并响应摄像头开启指令，开启摄像头，以由摄像头采集预览画面。

由于摄像头在不同的环境状态对应不同的摄像头帧率，因此，根据摄像头所处的当前环境状态，确定对应的摄像头帧率。

根据当前环境状态对应的摄像头帧率，计算摄像头在录制第一帧动作画面的延时时间t＝1000/N，式中，N为摄像头帧率。延时时间t为摄像头的采集频率时间，即摄像头每隔t时间采集一帧动作画面。

为准确确定摄像头拍摄到第一帧动作画面的用时，在一些实施例中，采用最优延时时间来表征。最优延时时间为摄像头采集到每帧动作画面的均值，即T1＝t/2＝1000/N/2，单位，ms。

在一些实施例中，用户在利用显示设备进行视频录制时，可以对视频录制效果进行个性化设置。例如，用户可在视频画面中添加美颜、贴纸、美妆等不同功能设置。

用户每添加一项个性化设置，控制器在处理动作画面时，均会消耗相应的时间，个性化设置的项数越多，控制器处理动作画面的耗时越多。为此，控制器可根据用户的个性化设置信息，来确定处理动作画面的总耗时，即图像算法处理时间。

图10中示例性示出了根据一些实施例的确定图像算法处理时间的方法流程图。因此，参见图10，控制器在执行响应于视频录制启动指令，获取图像算法处理时间，被进一步配置为执行下述步骤：

S121、响应于视频录制启动指令，获取用户在视频录制时的个性化设置信息。

S 122、接收摄像头采集的包括个性化设置信息的动作画面。

S 123、计算处理包括个性化设置信息的动作画面的图像算法处理时间。

用户在进行视频录制的初始过程，可对视频录制效果进行个性化设置。控制器在接收到视频录制启动指令后，获取用户设置的个性化设置信息。此时，动作画面上呈现个性化设置信息，摄像头采集动作画面时，会包括个性化设置信息一起采集。

由于动作画面中包括的个性化设置信息越多，图像处理过程耗时越多，因此，可根据控制器对动作画面与个性化设置信息进行结合的图像处理过程的耗时，来确定图像算法处理时间T3。

在一些实施例中，控制器在执行计算处理所述包括个性化设置信息的动作画面的图像算法处理时间，被进一步配置为执行下述步骤：

步骤1231、获取接收到摄像头采集的包括个性化设置信息的动作画面的接收时间，以及，对动作画面进行图像处理的处理完成时间。

步骤1232、计算接收时间和处理完成时间的时间差，将时间差作为处理包括个性化设置信息的动作画面的图像算法处理时间。

控制器对动作画面与个性化设置信息进行结合的图像处理过程的耗时，可通过接收到动作画面的时间与完成图像处理的时间的时间差来确定。因此，控制器在接收到摄像头采集的包括个性化设置信息的动作画面时，会同时记录接收时间。同时，控制器在完成对动作画面与个性化设置信息的结合时，会同时记录处理完成时间。

由接收时间和处理完成时间计算时间差，即为控制器对动作画面与个性化设置信息进行结合的图像处理过程的耗时，进而确定处理包括个性化设置信息的动作画面的图像算法处理时间T3。

S2、计算最优延时时间、预置人肢体反应时间、预置图像传输时间和图像算法处理时间的时间和，确定视频录制的视频延时总时长。

由于显示设备在进行视频录制和音频录制时，视频录制会比音频录制慢人肢体反应的过程、摄像头采集第一帧动作画面的过程、摄像头通过USB接口向控制器传输采集到的动作画面的过程，以及，控制器对接收到的动作画面进行处理的过程对应的时间。

因此，计算上述四个过程所消耗的总时长T4＝T0+T1+T2+T3，作为视频录制的视频延时总时长，即视频录制比音频录制要晚T4时长。

S3、根据视频延时总时长，修改录制视频时每帧动作画面的播放时间戳值，得到新播放时间戳值。

由于在正常进行视频录制时，录制视频的时间要晚于录制音频的时间，即音视频录制时间的时间差为视频延时总时长。因此，可根据视频延时总时长，修改录制动作画面时的PTS(presentation time stamp，播放时间戳)值，得到新播放时间戳值，并以每一帧动作画面的新播放时间戳值进行与音频的合成。

图11中示例性示出了根据一些实施例的计算新播放时间戳值的方法流程图。在一些实施例中，参见图11，控制器在执行根据视频延时总时长，修改录制视频时每帧动作画面的播放时间戳值，得到新播放时间戳值，被进一步配置为执行下述步骤：

S31、获取录制视频时每帧动作画面的原播放时间戳值。

S32、计算原播放时间戳值与视频延时总时长的时间差值，将时间差值作为每帧动作画面的新播放时间戳值。

在进行视频录制时，动作画面的录制对应有播放时间戳值，音频录制对应有音频时间戳值。由于视频录制晚于音频录制，因此，为保证音视频录制的同步，需将视频录制的时间提前，即将动作画面的录制对应有播放时间戳值提前。

播放时间戳值的提前程度为前述实施例计算得到的视频延时总时长，因此，在每帧动作画面的原播放时间戳值的基础上，依次提前视频延时总时长，即由原播放时间戳值PTS减去视频延时总时长T4，即可得到每帧动作画面的新播放时间戳值PTS’＝PTS-T4。

每帧动作画面的新播放时间戳值可表征当前帧动作画面提前显示，即提前与音频进行合成，可以保证音视频合成时的同步。

S4、根据背景音频和每个新播放时间戳值对应的动作画面，合成音画同步的视频文件。

控制器在合唱视频文件时，通常需要以参考时钟作为时间标准，以保证音视频的同步。而在一些实施例中，为了避免因视频录制晚于音频录制而导致出现音画不同步的问题，采用根据示范视频的背景音频与每个新播放时间戳值对应的动作画面合唱视频文件，使得每帧动作画面提前与背景音频进行合成，以补偿视频录制晚于音频录制的延时总时长，进而可以保证合成的视频文件音画同步。

图12中示例性示出了根据一些实施例的合成音画同步的视频文件的方法流程图。在一些实施例中，参见图12，控制器在执行根据背景音频和每个新播放时间戳值对应的动作画面，合成音画同步的视频文件，被进一步配置为执行下述步骤：

S41、获取背景音频的时间戳值和示范视频对应的参考时钟。

S42、在参考时钟播放到目标时间时，确定对应的背景音频的目标时间戳值和动作画面的目标新播放时间戳值。

S43、将目标新播放时间戳值对应的动作画面和目标时间戳值对应的背景音频片段合成音画同步的视频文件。

背景音频存在时间戳值，将示范视频的时长作为参考时钟，参考时钟可与背景音频的时长相同。

参考时钟每运行一个时间点，分别调取对应时间点的音频片段和动作画面，因此，可根据参考时钟运行的时间点，确定出能够保证音画同步的背景音频的目标时间戳值和动作画面的目标新播放时间戳值。

例如，参考时钟运行到2000ms，由于背景音频的时长与参考时钟的时长相同，因此，背景音频的目标时间戳值可为2000ms。而每帧动作画面的新播放时间戳值要提前音频录制的视频延时总时长T4，如果视频延时总时长T4为500ms，那么可确定当前帧动作画面的目标新播放时间戳值为1500ms。

在进行视频文件合成时，控制器将目标新播放时间戳值对应的动作画面与目标时间戳值对应的背景音频片段进行合成，例如，将2000ms对应的背景音频片段和1500ms的动作画面进行合成，进而可以弥补视频录制晚于音频录制的时长，使得视频文件达到音画同步的效果。

由于显示设备在进行视频录制时，为保证音画同步，需修改录制动作画面时的播放时间戳值，使得某帧动作画面提前显示，因此，为使摄像头能够采集到用户跟随示范视频做动作的全部动作画面，需要控制摄像头采集时长要延迟，延迟的程度即为播放时间戳值提前的程度，即视频延时总时长。

具体地，在确定利用显示设备进行视频录制的视频录制时长时，控制器被进一步配置为执行下述步骤：获取示范视频的原录制时长；根据视频延时总时长和示范视频的原录制时长，确定合成音画同步的视频文件所需的视频录制时长。

示范视频的原录制时长可与背景音频的时长相同，正常情况下，视频录制的时长也与示范视频的原录制时长，但由于在一些实施例中，为合成音画同步的视频文件，对录制动作画面的播放时间戳值进行修改，即提前视频延时总时长的时间显示动作画面，那么为保证摄像头能够采集到全部动作画面，需要保证视频录制时长为视频延时总时长和示范视频的原录制时长的时间和。

录制动作画面的播放时间戳值的修改基础是视频录制晚于音频录制的程度，即视频延时总时长，这说明用户在做的动作对应的动作画面被控制器接收到要慢于视频延时总时长的时间，视频录制时长延迟视频延时总时长的时间，每一帧动作画面提前视频延时总时长的时间进行显示，进而可以保证最后合成的视频文件音画同步。

由以上技术方案可知，本发明实施例提供的一种显示设备，包括显示器、摄像头和控制器。摄像头被配置为采集用户跟随显示器中显示的示范动作呈现相应动作的动作画面；控制器响应于视频录制启动指令，获取预置人肢体反应时间、预置图像传输时间、图像算法处理时间和摄像头在录制第一帧动作画面的最优延时时间，并计算视频录制的视频延时总时长；根据视频延时总时长，修改录制视频时每帧动作画面的播放时间戳值，得到新播放时间戳值；根据背景音频和每个新播放时间戳值对应的动作画面，合成音画同步的视频文件。可见，本发明提供的显示设备，通过计算出的录制视频晚于录制音频的视频延时总时长，修改每帧动作画面的播放时间戳值，使得相应帧的动作画面提前显示，补偿录制音频和录制视频的时间差，将背景音频与新播放时间戳值对应的动作画面进行合成，可以得到音画同步的视频文件。

图8中示例性示出了根据一些实施例的音画同步的视频录制方法的流程图。参见图8，本申请还提供了一种音画同步的视频录制方法，由显示设备中的控制器执行，所述方法包括：

S1、响应于视频录制启动指令，获取预置人肢体反应时间、预置图像传输时间、图像算法处理时间和所述摄像头在录制第一帧动作画面的最优延时时间，所述预置人肢体反应时间是指所述用户在听到所述背景音频与用户跟随观看到的所述示范动作做出相应动作过程的准备时间，所述预置图像传输时间是指所述摄像头将采集到的每一帧动作画面传输到控制器的时间，所述图像算法处理时间是指对摄像头采集的动作画面进行图像处理的时间；

S2、计算所述最优延时时间、预置人肢体反应时间、预置图像传输时间和图像算法处理时间的时间和，确定视频录制的视频延时总时长；

S3、根据所述视频延时总时长，修改录制视频时每帧动作画面的播放时间戳值，得到新播放时间戳值；

S4、根据所述背景音频和每个所述新播放时间戳值对应的动作画面，合成音画同步的视频文件。

进一步地，所述响应于视频录制启动指令，获取图像算法处理时间，包括：响应于视频录制启动指令，获取用户在视频录制时的个性化设置信息；接收所述摄像头采集的包括个性化设置信息的动作画面；计算处理所述包括个性化设置信息的动作画面的图像算法处理时间。

进一步地，所述计算处理所述包括个性化设置信息的动作画面的图像算法处理时间，包括：获取接收到摄像头采集的包括个性化设置信息的动作画面的接收时间，以及，对所述动作画面进行图像处理的处理完成时间；计算所述接收时间和所述处理完成时间的时间差，将所述时间差作为处理所述包括个性化设置信息的动作画面的图像算法处理时间。

进一步地，所述响应于视频录制启动指令，获取摄像头在录制第一帧动作画面的最优延时时间之前，还包括：响应于摄像头开启指令，获取在当前环境状态对应的摄像头采集预览画面时的摄像头帧率，所述摄像头开启指令用于开启摄像头以采集预览画面，所述摄像头在不同的环境状态对应不同的摄像头帧率；基于所述摄像头帧率，确定摄像头在录制第一帧动作画面的最优延时时间。

进一步地，所述根据视频延时总时长，修改录制视频时每帧动作画面的播放时间戳值，得到新播放时间戳值，包括：获取录制视频时每帧动作画面的原播放时间戳值；计算所述原播放时间戳值与所述视频延时总时长的时间差值，将所述时间差值作为每帧动作画面的新播放时间戳值。

进一步地，所述根据背景音频和每个所述新播放时间戳值对应的动作画面，合成音画同步的视频文件，包括：获取所述背景音频的时间戳值和所述示范视频对应的参考时钟；在所述参考时钟播放到目标时间时，确定对应的所述背景音频的目标时间戳值和所述动作画面的目标新播放时间戳值；将所述目标新播放时间戳值对应的动作画面和所述目标时间戳值对应的背景音频片段合成音画同步的视频文件。

进一步地，还包括：获取所述示范视频的原录制时长；根据所述视频延时总时长和所述示范视频的原录制时长，确定合成所述音画同步的视频文件所需的视频录制时长。

具体实现中，本发明还提供一种计算机存储介质，其中，该计算机存储介质可存储有程序，该程序执行时可包括本发明提供的音画同步的视频录制方法的各实施例中的部分或全部步骤。所述的存储介质可为磁碟、光盘、只读存储记忆体(英文：read-only memory，简称：ROM)或随机存储记忆体(英文：random access memory，简称：RAM)等。

本领域的技术人员可以清楚地了解到本发明实施例中的技术可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解，本发明实施例中的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例或者实施例的某些部分所述的方法。

最后应说明的是：以上各实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述各实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的范围。

为了方便解释，已经结合具体的实施方式进行了上述说明。但是，上述示例性的讨论不是意图穷尽或者将实施方式限定到上述公开的具体形式。根据上述的教导，可以得到多种修改和变形。上述实施方式的选择和描述是为了更好的解释原理以及实际的应用，从而使得本领域技术人员更好的使用所述实施方式以及适于具体使用考虑的各种不同的变形的实施方式。

Claims (14)

1.一种显示设备，其特征在于，包括：

显示器，被配置为呈现示范视频，所述示范视频包括背景音频和示范动作；

摄像头，被配置为采集用户跟随所述示范动作呈现相应动作的动作画面；

分别与所述显示器和所述摄像头连接的控制器，所述控制器被配置为：

响应于视频录制启动指令，获取预置人肢体反应时间、预置图像传输时间、图像算法处理时间和所述摄像头在录制第一帧动作画面的最优延时时间，所述预置人肢体反应时间是指所述用户在听到所述背景音频与用户跟随观看到的所述示范动作做出相应动作过程的准备时间，所述预置图像传输时间是指所述摄像头将采集到的每一帧动作画面传输到控制器的时间，所述图像算法处理时间是指对摄像头采集的动作画面进行图像处理的时间；

计算所述最优延时时间、预置人肢体反应时间、预置图像传输时间和图像算法处理时间的时间和，确定视频录制的视频延时总时长；

根据所述视频延时总时长，修改录制视频时每帧动作画面的播放时间戳值，得到新播放时间戳值；

根据所述背景音频和每个所述新播放时间戳值对应的动作画面，合成音画同步的视频文件。

2.根据权利要求1所述的显示设备，其特征在于，所述控制器在执行所述响应于视频录制启动指令，获取图像算法处理时间，被进一步配置为：

响应于视频录制启动指令，获取用户在视频录制时的个性化设置信息；

接收所述摄像头采集的包括个性化设置信息的动作画面；

计算处理所述包括个性化设置信息的动作画面的图像算法处理时间。

3.根据权利要求2所述的显示设备，其特征在于，所述控制器在执行所述计算处理所述包括个性化设置信息的动作画面的图像算法处理时间，被进一步配置为：

获取接收到摄像头采集的包括个性化设置信息的动作画面的接收时间，以及，对所述动作画面进行图像处理的处理完成时间；

计算所述接收时间和所述处理完成时间的时间差，将所述时间差作为处理所述包括个性化设置信息的动作画面的图像算法处理时间。

4.根据权利要求1所述的显示设备，其特征在于，所述控制器在执行所述响应于视频录制启动指令，获取摄像头在录制第一帧动作画面的最优延时时间之前，被进一步配置为：

响应于摄像头开启指令，获取在当前环境状态对应的摄像头采集预览画面时的摄像头帧率，所述摄像头开启指令用于开启摄像头以采集预览画面，所述摄像头在不同的环境状态对应不同的摄像头帧率；

基于所述摄像头帧率，确定摄像头在录制第一帧动作画面的最优延时时间。

5.根据权利要求1所述的显示设备，其特征在于，所述控制器在执行所述根据视频延时总时长，修改录制视频时每帧动作画面的播放时间戳值，得到新播放时间戳值，被进一步配置为：

获取录制视频时每帧动作画面的原播放时间戳值；

计算所述原播放时间戳值与所述视频延时总时长的时间差值，将所述时间差值作为每帧动作画面的新播放时间戳值。

6.根据权利要求1所述的显示设备，其特征在于，所述控制器在执行所述根据背景音频和每个所述新播放时间戳值对应的动作画面，合成音画同步的视频文件，被进一步配置为：

获取所述背景音频的时间戳值和所述示范视频对应的参考时钟；

在所述参考时钟播放到目标时间时，确定对应的所述背景音频的目标时间戳值和所述动作画面的目标新播放时间戳值；

将所述目标新播放时间戳值对应的动作画面和所述目标时间戳值对应的背景音频片段合成音画同步的视频文件。

7.根据权利要求1所述的显示设备，其特征在于，所述控制器被进一步配置为：

获取所述示范视频的原录制时长；

根据所述视频延时总时长和所述示范视频的原录制时长，确定合成所述音画同步的视频文件所需的视频录制时长。

8.一种音画同步的视频录制方法，其特征在于，所述方法包括：

响应于视频录制启动指令，获取预置人肢体反应时间、预置图像传输时间、图像算法处理时间和所述摄像头在录制第一帧动作画面的最优延时时间，所述预置人肢体反应时间是指所述用户在听到所述背景音频与用户跟随观看到的所述示范动作做出相应动作过程的准备时间，所述预置图像传输时间是指所述摄像头将采集到的每一帧动作画面传输到控制器的时间，所述图像算法处理时间是指对摄像头采集的动作画面进行图像处理的时间；

计算所述最优延时时间、预置人肢体反应时间、预置图像传输时间和图像算法处理时间的时间和，确定视频录制的视频延时总时长；

根据所述视频延时总时长，修改录制视频时每帧动作画面的播放时间戳值，得到新播放时间戳值；

根据所述背景音频和每个所述新播放时间戳值对应的动作画面，合成音画同步的视频文件。

9.根据权利要求8所述的方法，其特征在于，所述响应于视频录制启动指令，获取图像算法处理时间，包括：

响应于视频录制启动指令，获取用户在视频录制时的个性化设置信息；

接收所述摄像头采集的包括个性化设置信息的动作画面；

计算处理所述包括个性化设置信息的动作画面的图像算法处理时间。

10.根据权利要求9所述的方法，其特征在于，所述计算处理所述包括个性化设置信息的动作画面的图像算法处理时间，包括：

获取接收到摄像头采集的包括个性化设置信息的动作画面的接收时间，以及，对所述动作画面进行图像处理的处理完成时间；

计算所述接收时间和所述处理完成时间的时间差，将所述时间差作为处理所述包括个性化设置信息的动作画面的图像算法处理时间。

11.根据权利要求8所述的方法，其特征在于，所述响应于视频录制启动指令，获取摄像头在录制第一帧动作画面的最优延时时间之前，还包括：

响应于摄像头开启指令，获取在当前环境状态对应的摄像头采集预览画面时的摄像头帧率，所述摄像头开启指令用于开启摄像头以采集预览画面，所述摄像头在不同的环境状态对应不同的摄像头帧率；

基于所述摄像头帧率，确定摄像头在录制第一帧动作画面的最优延时时间。

12.根据权利要求8所述的方法，其特征在于，所述根据视频延时总时长，修改录制视频时每帧动作画面的播放时间戳值，得到新播放时间戳值，包括：

获取录制视频时每帧动作画面的原播放时间戳值；

计算所述原播放时间戳值与所述视频延时总时长的时间差值，将所述时间差值作为每帧动作画面的新播放时间戳值。

13.根据权利要求8所述的方法，其特征在于，所述根据背景音频和每个所述新播放时间戳值对应的动作画面，合成音画同步的视频文件，包括：

获取所述背景音频的时间戳值和所述示范视频对应的参考时钟；

在所述参考时钟播放到目标时间时，确定对应的所述背景音频的目标时间戳值和所述动作画面的目标新播放时间戳值；

将所述目标新播放时间戳值对应的动作画面和所述目标时间戳值对应的背景音频片段合成音画同步的视频文件。

14.根据权利要求8所述的方法，其特征在于，还包括：

获取所述示范视频的原录制时长；

根据所述视频延时总时长和所述示范视频的原录制时长，确定合成所述音画同步的视频文件所需的视频录制时长。

Images