CN109600650B - 用于处理数据的方法和装置 - Google Patents

Abstract

本申请实施例公开了用于处理数据的方法和装置。该方法的一具体实施方式包括：采集视频数据并播放目标音频数据；对于该视频数据中的帧，确定采集到该帧时已播放的目标音频数据的数据量，将该数据量对应的播放时长确定为该帧的时间戳；将包含时间戳的视频数据和该目标音频数据中已播放的数据进行存储。该实施方式提升了所录制的配乐视频的音视频同步效果。

Description

用于处理数据的方法和装置

技术领域

本申请实施例涉及计算机技术领域，具体涉及用于处理数据的方法和装置。

背景技术

录制配乐视频时，通常在利用摄像头进行视频采集的同时进行音频(配乐)播放。例如，播放某歌曲过程中录制用户表演的演唱动作，所录制的视频以该歌曲为背景音乐。在具有视频录制功能的应用中，录制的配乐视频出现音视频不同步的情况较为常见。以安卓(Android)设备为例，由于不同设备之间存在差异性，在不同设备上实现所录制的音视频同步，具有较高的难度。

相关的方式，在配乐视频录制过程中，通常认为所采集的视频数据中的相邻两帧的间隔时间是固定的。对于视频数据中的某帧，通常将上一帧的时间戳与该间隔时间之和确定为该帧的时间戳。进而，将带有时间戳的视频数据和所播放的音频数据存储。

发明内容

本申请实施例提出了用于处理数据的方法和装置。

第一方面，本申请实施例提供了一种用于处理数据的方法，该方法包括：采集视频数据并播放目标音频数据；对于视频数据中的帧，确定采集到该帧时已播放的目标音频数据的数据量，将数据量对应的播放时长确定为该帧的时间戳；将包含时间戳的视频数据和目标音频数据中已播放的数据进行存储。

在一些实施例中，将包含时间戳的视频数据和目标音频数据中已播放的数据进行存储，包括：将采集到视频数据的尾帧时已播放的目标音频数据作为目标音频数据区间，提取目标音频数据区间；将包含时间戳的视频数据和目标音频数据区间进行存储。

在一些实施例中，在采集视频数据并播放目标音频数据之前，该方法还包括：确定本地是否存储有目标音频数据；若否，向服务器发送用于获取目标音频数据的请求，并接收服务器返回的目标音频数据。

在一些实施例中，其中，目标音频数据为脉冲编码调制编码格式的数据流；以及播放目标音频数据，包括：对目标类进行实例化，以创建用于播放目标音频数据的目标对象，其中，目标类用于播放脉冲编码调制格式的数据流；采用流式传输的方式，向目标对象传输目标音频数据，以利用目标对象播放目标音频数据。

在一些实施例中，对于视频数据的帧，确定采集到该帧时已播放的目标音频数据的数据量，包括：对于视频数据的帧，确定采集到该帧时已传输至目标对象的目标音频数据的数据量，将数据量确定为采集到该帧时已播放的目标音频数据的数据量。

在一些实施例中，目标音频数据为脉冲编码调制编码格式的数据流；以及播放目标音频数据，包括：调用预置的、支持音频播放的音频处理组件，其中，音频处理组件支持缓冲区的设置和回调函数的设置，回调函数用于在每一次缓冲区中的音频数据处理完毕后返回该次所处理的音频数据的数据量；向音频处理组件传输目标音频数据，以利用音频处理组件播放目标音频数据。

在一些实施例中，对于视频数据的帧，确定采集到该帧时已播放的目标音频数据的数据量，包括：对于视频数据的帧，确定采集到该帧时，回调函数已返回的数据量之和，将数据量之和确定为采集到该帧时已播放的目标音频数据的数据量。

在一些实施例中，音频处理组件的缓冲区的大小为预先设置的目标数值，目标数值不大于视频数据的帧的预设间隔时长所对应的音频数据的大小。

第二方面，本申请实施例提供了一种用于处理数据的装置，该装置包括：采集单元，被配置成采集视频数据并播放目标音频数据；第一确定单元，被配置成对于视频数据中的帧，确定采集到该帧时已播放的目标音频数据的数据量，将数据量对应的播放时长确定为该帧的时间戳；存储单元，被配置成将包含时间戳的视频数据和目标音频数据中已播放的数据进行存储。

在一些实施例中，存储单元包括：提取模块，被配置成将采集到视频数据的尾帧时已播放的目标音频数据作为目标音频数据区间，提取目标音频数据区间；存储模块，被配置成将包含时间戳的视频数据和目标音频数据区间进行存储。

在一些实施例中，该装置还包括：第二确定单元，被配置成确定本地是否存储有目标音频数据；发送单元，被配置成若否，向服务器发送用于获取目标音频数据的请求，并接收服务器返回的目标音频数据。

在一些实施例中，目标音频数据为脉冲编码调制编码格式的数据流；以及采集单元，包括：实例化模块，被配置成对目标类进行实例化，以创建用于播放目标音频数据的目标对象，其中，目标类用于播放脉冲编码调制格式的数据流；第一传输模块，被配置成采用流式传输的方式，向目标对象传输目标音频数据，以利用目标对象播放目标音频数据。

在一些实施例中，第一确定单元，进一步被配置成：对于视频数据的帧，确定采集到该帧时已传输至目标对象的目标音频数据的数据量，将数据量确定为采集到该帧时已播放的目标音频数据的数据量。

在一些实施例中，目标音频数据为脉冲编码调制编码格式的数据流；以及采集单元，包括：调用模块，被配置成调用预置的、支持音频播放的音频处理组件，其中，音频处理组件支持缓冲区的设置和回调函数的设置，回调函数用于在每一次缓冲区中的音频数据处理完毕后返回该次所处理的音频数据的数据量；第二传输模块，被配置成向音频处理组件传输目标音频数据，以利用音频处理组件播放目标音频数据。

在一些实施例中，第一确定单元，进一步被配置成：对于视频数据的帧，确定采集到该帧时，回调函数已返回的数据量之和，将数据量之和确定为采集到该帧时已播放的目标音频数据的数据量。

在一些实施例中，音频处理组件的缓冲区的大小为预先设置的目标数值，目标数值不大于视频数据的帧的预设间隔时长所对应的音频数据的大小。

第三方面，本申请实施例提供了一种终端设备，包括：一个或多个处理器；存储装置，其上存储有一个或多个程序，当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现如用于处理数据的方法中任一实施例的方法。

第四方面，本申请实施例提供了一种计算机可读介质，其上存储有计算机程序，该程序被处理器执行时实现如用于处理数据的方法中任一实施例的方法。

本申请实施例提供的用于处理数据的方法和装置，通过采集视频数据并播放目标音频数据，而后对于视频数据中的帧，确定采集到该帧时已播放的目标音频数据的数据量，将数据量对应的播放时长确定为该帧的时间戳，最后将包含时间戳的视频数据和目标音频数据中已播放的数据进行存储，从而，当采集到某一帧时，可以该帧采集时刻已播放的目标音频数据的播放量确定该帧时间戳，提升了所录制的配乐视频的音视频同步效果。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显：

图1是本申请的一个实施例可以应用于其中的示例性系统架构图；

图2是根据本申请的用于处理数据的方法的一个实施例的流程图；

图3是根据本申请的用于处理数据的方法的一个应用场景的示意图；

图4是根据本申请的用于处理数据的方法的又一个实施例的流程图；

图5是根据本申请的用于处理数据的装置的一个实施例的结构示意图；

图6是适于用来实现本申请实施例的终端设备的计算机系统的结构示意图。

具体实施方式

下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。

需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。

图1示出了可以应用本申请的用于处理数据的方法或用于处理数据的装置的示例性系统架构100。

如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息(例如音视频数据上传请求、音频数据获取请求)等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如视频录制类应用、音频播放类应用、即时通信工具、邮箱客户端、社交平台软件等。

终端设备101、102、103可以是硬件，也可以是软件。当终端设备101、102、103为硬件时，可以是具有显示屏并且视频录制和音频播放的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时，可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务)，也可以实现成单个软件或软件模块。在此不做具体限定。

终端设备101、102、103可以安装有图像采集装置(例如摄像头)，以采集视频数据。实践中，组成视频的最小视觉单位是帧(Frame)。每一帧是一幅静态的图像。将时间上连续的帧序列合成到一起便形成动态视频。此外，终端设备101、102、103也可以安装有用于将电信号转换为声音的装置(例如扬声器)，以播放声音。实践中，音频数据是以一定的频率对模拟音频信号进行模数转换(Analogue-to-Digital Conversion，ADC)后所得到的数据。音频数据的播放，是将数字音频信号进行数模转换，还原为模拟音频信号，再将模拟音频信号(模拟音频信号为电信号)转化为声音进行输出的过程。

终端设备101、102、103可以利用安装于其上的图像采集装置进行视频数据的采集，并可以利用安装于其上的用于进行音频数据处理(例如将数字音频信号转换为模拟音频信号)的组件和扬声器播放音频数据。并且，终端设备101、102、103可以对所采集到的视频数据进行时间戳计算等处理，最终将处理结果(例如包含时间戳的视频数据和已播放的音频数据)进行存储。

服务器105可以是提供各种服务的服务器，例如对终端设备101、102、103上所安装的视频录制类应用提供支持的后台服务器。后台服务器可以对所接收到的音视频数据上传请求等数据进行解析、存储等处理。还可以接收终端设备101、102、103所发送的音视频数据获取请求，并将该音视频数据获取请求所指示的音视频数据反馈至终端设备101、102、103。

需要说明的是，服务器可以是硬件，也可以是软件。当服务器为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务)，也可以实现成单个软件或软件模块。在此不做具体限定。

需要说明的是，本申请实施例所提供的用于处理数据的方法一般由终端设备101、102、103执行，相应地，用于处理数据的装置一般设置于终端设备101、102、103中。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

继续参考图2，示出了根据本申请的用于处理数据的方法的一个实施例的流程200。该用于处理数据的方法，包括以下步骤：

步骤201，采集视频数据并播放目标音频数据。

在本实施例中，用于处理数据的方法的执行主体(例如图1所示的终端设备101、102、103)可以获取记载有目标音频数据的文件。此处，上述目标音频数据可以是用户预先指定作为视频的配乐的音频数据(voice data)，例如某个指定歌曲对应的音频数据。这里，上述执行主体中可以预先存储有大量的、记载有不同音频数据的文件。上述执行主体可以直接从本地查找并获取记载有上述目标音频数据文件。

实践中，音频数据是对声音信号进行数字化后的数据。声音信号的数字化过程是以一定的频率将连续的模拟音频信号转换成数字信号得到音频数据的过程。通常，声音信号的数字化过程包含采样、量化和编码三个步骤。其中，采样是指用每隔一定时间间隔的信号样本值序列来代替原来在时间上连续的信号。量化是指用有限幅度近似表示原来在时间上连续变化的幅度值，把模拟信号的连续幅度变为有限数量、有一定时间间隔的离散值。编码则是指按照一定的规律，把量化后的离散值用二进制数码表示。此处，脉冲编码调制(Pulse Code Modulation，PCM)可以实现将模拟音频信号经过采样、量化、编码转换成的数字化的音频数据。因此，上述目标音频数据可以是PCM编码格式的数据流。此时，记载上述目标音频数据的文件的格式可以是wav格式。

需要说明的是，记载上述目标音频数据的文件的格式还可以是其他格式，例如mp3格式、ape格式等。此时，上述目标音频数据可以是其他编码格式(例如AAC(Advanced AudioCoding，高级音频编码)等有损压缩格式)的数据，不限于PCM编码格式。上述执行主体也可以在获取该文件后，对该文件进行格式转换，将其转换为记录wav格式。此时，转换后的文件中的目标音频文件则为PCM编码格式的数据流。

需要指出的是，音频数据的播放，可以是将数字化的音频数据进行数模转换，将其还原为模拟音频信号，再将模拟音频信号(电信号)转换为声音进行输出的过程。

在本实施例中，上述执行主体可以安装有图像采集装置，例如摄像头。上述执行主体可以利用上述摄像头进行视频数据(vision data)的采集。实践中，视频数据可以用帧(Frame)来描述。这里，帧是组成视频的最小视觉单位。每一帧是一幅静态的图像。将时间上连续的帧序列合成到一起便形成动态视频。此外，上述执行主体还可以安装有用于将电信号转换为声音的装置，例如扬声器。在获取到上述目标音频数据后，上述执行主体可以开启上述摄像头进行视频数据的采集，同时，可以将上述目标音频数据转换为模拟音频信号，利用上述扬声器输出声音，以实现目标音频数据的播放。

在本实施例中，上述执行主体可以利用各种方式进行目标音频数据的播放。作为示例，上述执行主体可以首先对用于播放音视频的类(例如Android(安卓)多媒体包中的MediaPlayer类)进行实例化，创建对象。该对象可以用于播放上述目标音频数据。而后，可以将上述目标音频数据传输至该对象，以进行目标音频数据的播放。实践中，Android多媒体包中的MediaPlayer类可以支持播放多种格式的声音文件。例如，mp3格式、aac格式、wav格式等。其在播放音频数据时，先将数据解码成PCM编码格式的数据流，进而对该数据流进行数模转换等处理。

通常，上述执行主体中可以安装有视频录制类应用。该视频录制类应用可以支持配乐视频的录制。其中，上述配乐视频可以是在视频数据采集的同时进行音频数据播放的视频。所录制的配乐视频中的声音为该音频数据对应的声音。例如，播放某歌曲过程中录制用户表演的演唱动作，所录制的视频以该歌曲为背景音乐。用户可以首先在视频录制类应用的运行界面中点击某一音频的名称(例如某一歌曲或旋律的名称)。而后，上述执行主体则可以获取该名称所对应音频数据，并作为目标音频数据。之后，用户可以在该视频录制类应用的运行界面中点击视频录制按键，从而触发视频录制指令。上述执行主体在接收到视频录制指令后，可以开启摄像头进行视频录制，同时，对该目标音频数据进行处理，转换为模拟音频信号，利用扬声器输出声音。用户可以边听声音，边进行动作表演，以录制表演视频。

在一种应用场景中，用户可以进行视频的连续录制。此时，上述执行主体可以连续采集视频数据并同时播放目标音频数据。

在另一种应用场景中，用户可以进行视频的分段录制。作为示例，首先录制第一个分段。此时，上述执行主体可以连续采集视频数据并同时播放目标音频数据，直至检测到用户触发暂停录制指令(例如点击录制按键或者松开录制按键)，暂停目标音频数据的播放并停止视频数据的采集。当检测到用户触发恢复录制指令(例如再次点击录制按键)后，上述执行主体可以继续连续采集视频数据，同时，继续目标音频数据的播放(即，以第一个分段已播放数据量处作为第二个分段的播放起点)，直至检测到用户再次触发暂停录制指令，暂停目标音频数据的播放并停止视频数据的采集。以此类推。

步骤202，对于视频数据中的帧，确定采集到该帧时已播放的目标音频数据的数据量，将数据量对应的播放时长确定为该帧的时间戳。

在本实施例中，上述执行主体在采集到视频数据的每一帧时，可以记录该帧的采集时间。每一帧的采集时间可以是采集到该帧时的系统时间戳(例如unix时间戳)。需要说明的是，时间戳(timestamp)是能表示一份数据在某个特定时刻已经存在的、完整的、可验证的数据。通常，时间戳是一个字符序列，唯一地标识某一刻的时间。此处，上述执行主体可以将上述视频数据的首帧的采集时间确定为视频数据的起始时间。

对于视频数据中的帧，上述执行主体可以读取该帧的采集时间。而后，可以确定在该采集时间时，已播放的目标音频数据的数据量。最后，可以将该数据量对应的播放时长确定为该帧的时间戳。此处，可以利用各种方式确定在某一采集时间时已播放的目标音频数据的数据量。作为示例，在执行对预置的、用于播放音视频的类(例如Android多媒体包中的MediaPlayer类)进行实例化，并向所创建的对象传输目标音频数据之后，可以在确定每个帧的采集时间，已传输至该对象的目标音频数据的数据量。之后，可以将该数据量确定为采集到该帧时为已播放的目标音频数据的数据量。

此处，由于目标音频数据是按照设定的采样频率(Sampling Rate)、设定的采样大小(Sampling Size)对声音信号进行采样、量化等操作后得到的，并且播放目标音频数据的声道数是预先确定的，因此，可以基于某帧图像的采集时间已播放的目标音频数据的数据量，以及采样频率、采样大小和声道数，计算出采集到该帧时目标音频数据的播放时长。上述执行主体可以将该播放时长确定为该帧的时间戳。实践中，采样频率也称为采样速度或者采样率。采样频率可以是每秒从连续信号中提取并组成离散信号的采样个数。采样频率可以用赫兹(Hz)来表示。采样大小可以用比特(bit)来表示。此处，确定播放时长的步骤如下：首先，可以确定采样频率、采样大小和声道数三者的乘积。而后，可以将已播放的目标音频数据的数据量与该乘积的比值确定为目标音频数据的播放时长。

在本实施例的一些可选的实现方式中，上述目标音频数据可以是PCM编码格式的数据流。上述执行主体还可以通过如下步骤进行目标音频数据的播放：首先，对目标类(例如Android开发包中的Audio Track类)进行实例化，以创建用于播放目标音频数据的目标对象。其中，上述目标类可以用于播放PCM编码格式的数据流。之后，可以采用流式传输的方式，向上述目标对象传输上述目标音频数据，以利用上述目标对象播放上述目标音频数据。

实践中，Android开发包中的AudioTrack是管理和播放单一音频资源的类。它用于PCM音频流的播放。通常，通过把音频数据利用push的方式传输到对AudioTrack实例化后的对象，进行音频数据播放。AudioTrack对象可以在两种模式下运行。分别为静态模式(static)和流模式(streaming)。在流模式下，把连续的PCM编码格式的数据流写入(通过调用write方法)到AudioTrack对象。在上述实现方式中，可以利用流模式进行目标音频数据的写入。

在本实施例的一些可选的实现方式中，若采用上述实现方式(即基于对目标类(例如Android开发包中的Audio Track类)进行实例化的方式)对目标音频数据播放，则可以利用如下实现方式确定已播放的目标音频数据的数据量：对于上述视频数据的帧，确定采集到该帧时已传输至上述目标对象的目标音频数据的数据量，将上述数据量确定为采集到该帧时已播放的目标音频数据的数据量。

在本实施例的一些可选的实现方式中，上述目标音频数据可以是PCM编码格式的数据流。上述执行主体还可以通过如下步骤进行目标音频数据的播放：首先，调用预置的、支持音频播放的音频处理组件(例如Android开发包中的OpenSL ES组件)。其中，上述音频处理组件可以支持缓冲区的设置和回调函数的设置。上述回调函数可以用于在每一次缓冲区中的音频数据处理(例如读取、播放等)完毕后返回该次所处理的音频数据的数据量。在调用该音频处理组件之后，可以向上述音频处理组件传输上述目标音频数据，以利用上述音频处理组件播放上述目标音频数据。

在本实施例的一些可选的实现方式中，采用上述实现方式(即调用预置的、支持音频播放的音频处理组件对目标音频数据播放，每一次缓冲区中的目标音频数据被处理完毕后，回调函数可以返回该次已处理的目标音频数据的数据量。因此，对于上述视频数据的帧，上述执行主体可以确定采集到该帧时，上述回调函数已返回的数据量之和。上述执行主体可以将上述数据量之和确定为采集到该帧时已播放的目标音频数据的数据量。

在本实施例的一些可选的实现方式中，技术人员可以预先将音频处理组件的缓冲区的大小设置为目标数值，其中，上述目标数值可以不大于视频数据的帧的预设间隔时长(例如33ms)所对应的音频数据的大小。此处，上述预设间隔时长，可以是预先设定的采集视频数据的帧速率(Frames Per Second，FPS)的倒数。实践中，帧速率指每秒钟采集的帧数。帧速率的单位可以是fps或者赫兹(Hz)。作为示例，当帧速率为30fps时，则帧的预设间隔时长为33ms。

由此，这种实现方式可以更准确地确定出在某一时刻已播放的目标音频数据的数据量。从而提高了所确定的视频数据的帧的时间戳的准确性。

步骤203，将包含时间戳的视频数据和目标音频数据中已播放的数据进行存储。

在本实施例中，上述执行主体可以将上述目标音频数据中已播放的数据和包含时间戳的视频数据进行存储。此处，可以将上述目标音频数据中已播放的数据和包含时间戳的视频数据分别进行存储至两个文件中，并建立上述两个文件的映射。此外，也可以将上述目标音频数据区间和包含时间戳的视频数据存储至同一个文件中。

在本实施例的一些可选的实现方式中，上述执行主体可以首先确定停止录制指令触发后(例如用户点击停止视频录制按键后)已播放的目标音频数据的数据量。而后，可以提取该已播放的数据量所对应的数据。最后，可以将包含时间戳的视频数据和所提取的数据进行存储。

在本实施例的一些可选的实现方式中，上述执行主体可以首先将采集到视频数据的尾帧时已播放的目标音频数据作为目标音频数据区间，提取目标音频数据区间。具体地，上述执行主体可以首先获取所采集到的视频数据的尾帧的采集时间。而后，可以将该采集时间时已播放的目标音频数据作为目标音频数据区间，提取目标音频数据区间。在提取目标音频数据区间之后，上述执行主体可以将包含时间戳的视频数据和目标音频数据区间进行存储。由此，可以更加准确地确定在停止视频录制时所播放的目标音频数据的数据量，提升了视频停止录制时的音视频同步效果。

在本实施例的一些可选的实现方式中，上述执行主体可以首先将包含时间戳的视频数据进行编码。之后，将上述目标音频数据区间和编码后的视频数据存储在同一文件中。实践中，视频编码可以是指通过特定的压缩技术，将某个视频格式的文件转换成另一种视频格式文件的方式。需要说明的是，视频编码技术是目前广泛研究和应用的公知技术，在此不再赘述。

在本实施例的一些可选的实现方式中，在将上述目标音频数据区间和包含时间戳的上述视频数据存储之后，上述执行主体还可以将所存储的数据上传至服务器(例如图1所示的服务器105)。

继续参见图3，图3是根据本实施例的用于处理数据的方法的应用场景的一个示意图。在图3的应用场景中，用户手持终端设备301，进行配乐视频的录制。终端设备301中运行有短视频录制类应用。用户在该短视频录制类应用的界面中首先选择了某个配乐(例如歌曲《小苹果》)。而后终端设备301获取该配乐对应的目标音频文件302。在用户点击了原声视频录制按键之后，终端设备301同时开启摄像头进行视频数据303的采集，同时，播放上述目标音频文件302。对于上述视频数据中的帧，终端设备301可以确定采集到该帧时已播放的目标音频数据的数据量，将上述数据量对应的播放时长确定为该帧的时间戳。最后，终端设备301可以将包含时间戳的视频数据和上述目标音频数据中已播放的数据存储在文件304中。

本申请的上述实施例提供的方法，通过采集视频数据并播放目标音频数据，而后对于上述视频数据中的帧，确定采集到该帧时已播放的目标音频数据的数据量，将上述数据量对应的播放时长确定为该帧的时间戳，最后将包含时间戳的视频数据和上述目标音频数据中已播放的数据进行存储。从而，视频数据的帧的时间戳可以基于目标音频数据的数据量确定，而非基于固定时间间隔确定。在视频数据采集不稳定的情况下(例如设备过热、性能不足导致丢帧)，视频数据中的相邻两帧的间隔时间并不是固定的。按照固定时间间隔确定帧的时间戳不准确。采用本申请的上述实施例提供的方法，避免了视频数据采集不稳定的情况下，按照固定时间间隔进行帧的时间戳的计算所导致的时间戳不准确的问题，提高了所确定的视频数据中的帧的时间戳的准确性，提升了所录制的配乐视频的音视频同步效果。

进一步参考图4，其示出了用于处理数据的方法的又一个实施例的流程400。该用于处理数据的方法的流程400，包括以下步骤：

步骤401，确定本地是否存储有目标音频数据。

在本实施例中，用于处理数据的方法的执行主体(例如图1所示的终端设备101、102、103)可以确定本地是否存储有目标音频数据。此处，上述目标音频数据可以是PCM编码格式的数据流。

步骤402，若否，向服务器发送用于获取目标音频数据的请求，并接收服务器返回的目标音频数据。

在本实施例中，响应于确定本地未存储有上述目标音频数据，上述执行主体可以通过有线连接或者无线连接方式，向服务器(例如图1所示的服务器105)发送用于获取目标音频数据的请求。而后，可以接收上述服务器返回的目标音频数据。

需要指出的是，上述无线连接方式可以包括但不限于3G/4G连接、WiFi连接、蓝牙连接、WiMAX连接、Zigbee连接、UWB(ultra wideband)连接、以及其他现在已知或将来开发的无线连接方式。

需要说明的是，若上述服务器返回的上述目标音频数据不是PCM编码格式的数据流，上述执行主体可以对其进行转换，转换为PCM编码格式的数据流。

步骤403，采集视频数据，并调用预置的、支持音频播放的音频处理组件，向上述音频处理组件传输上述目标音频数据，以利用上述音频处理组件播放上述目标音频数据。

在本实施例中，上述执行主体可以利用其所安装的摄像头采集视频数据，同时，播放目标音频数据。此处，播放目标音频数据可以采用如下方式：

首先，调用预置的、支持音频播放的音频处理组件(例如Android开发包中的OpenSL ES组件)。其中，上述音频处理组件可以支持缓冲区的设置和回调函数的设置。上述回调函数可以用于在每一次缓冲区中的音频数据处理完毕后返回该次所处理的音频数据的数据量。

之后，可以向上述音频处理组件传输上述目标音频数据，以利用上述音频处理组件播放上述目标音频数据。

步骤404，对于视频数据的帧，确定采集到该帧时，回调函数已返回的数据量之和，将数据量之和确定为采集到该帧时已播放的目标音频数据的数据量，将上述数据量对应的播放时长确定为该帧的时间戳。

在本实施例中，每一次缓冲区中的目标音频数据被处理完毕后，回调函数可以返回该次已处理的目标音频数据的数据量。因此，对于上述视频数据的帧，上述执行主体可以确定采集到该帧时，上述回调函数已返回的数据量之和。上述执行主体可以将上述数据量之和确定为采集到该帧时已播放的目标音频数据的数据量。之后，上述执行主体可以按照如下步骤确定已播放的目标音频数据的数据量对应的播放时长：首先，可以确定采样频率、采样大小和声道数三者的乘积。而后，可以将已播放的目标音频数据的数据量与该乘积的比值确定为目标音频数据的播放时长。

实践中，技术人员可以预先将音频处理组件的缓冲区的大小设置为目标数值，其中，上述目标数值可以不大于视频数据的帧的预设间隔时长(例如33ms)所对应的音频数据的大小。由此，这种实现方式可以更准确地确定出在某一时刻已播放的目标音频数据的数据量。从而提高了所确定的视频数据的帧的时间戳的准确性。

步骤405，将采集到视频数据的尾帧时已播放的目标音频数据作为目标音频数据区间，提取目标音频数据区间。

在本实施例中，上述执行主体可以首先获取所采集到的视频数据的尾帧的采集时间。而后，可以将该采集时间时已播放的目标音频数据作为目标音频数据区间，提取目标音频数据区间。

步骤406，将包含时间戳的视频数据和目标音频数据区间进行存储。

在本实施例中，在本实施例中，上述执行主体可以将上述目标音频数据中已播放的数据和包含时间戳的视频数据进行存储。此处，可以将上述目标音频数据中已播放的数据和包含时间戳的视频数据分别进行存储至两个文件中，并建立上述两个文件的映射。此外，也可以将上述目标音频数据区间和包含时间戳的视频数据存储至同一个文件中。

从图4中可以看出，与图2对应的实施例相比，本实施例中的用于处理数据的方法的流程400体现了利用预置的、支持音频播放的音频处理组件进行目标音频数据播放的步骤，以及基于回调函数确定每帧采集时刻已播放的目标音频数据的数据量的步骤。由此，当采集到视频数据的某一帧时，由于本实施例描述的方案中，音频处理组件的回调函数可在每一次缓冲区内的数据被处理完毕后返回数据量，因而，执行主体可以基于回调函数所返回的数据量直接计算出播放量。因此，相较于以音频数据的发送量作为播放量的方式，本实施例描述的方案可以更加准确地出每帧采集时刻目标音频数据的播放量。进而，提高了所确定的视频数据中的帧的时间戳的准确性，进一步提升了录制的配乐视频的音视频同步效果。

进一步参考图5，作为对上述各图所示方法的实现，本申请提供了一种用于处理数据的装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图5所示，本实施例所述的用于处理数据的装置500包括：采集单元501，被配置成采集视频数据并播放目标音频数据；第一确定单元502，被配置成对于上述视频数据中的帧，确定采集到该帧时已播放的目标音频数据的数据量，将上述数据量对应的播放时长确定为该帧的时间戳；存储单元503，被配置成将包含时间戳的视频数据和上述目标音频数据中已播放的数据进行存储。

在本实施例的一些可选的实现方式中，上述存储单元503可以包括提取模块和存储模块(图中未示出)。其中，上述提取模块可以被配置成将采集到上述视频数据的尾帧时已播放的目标音频数据作为目标音频数据区间，提取上述目标音频数据区间。上述存储模块可以被配置成将包含时间戳的视频数据和上述目标音频数据区间进行存储。

在本实施例的一些可选的实现方式中，该装置还可以包括第二确定单元(图中未示出)。其中，上述第二确定单元可以被配置成确定本地是否存储有目标音频数据；发送单元，被配置成若否，向服务器发送用于获取上述目标音频数据的请求，并接收上述服务器返回的上述目标音频数据。

在本实施例的一些可选的实现方式中，上述目标音频数据为脉冲编码调制编码格式的数据流，以及，上述采集单元501可以包括实例化模块和第一传输模块(图中未示出)。其中，上述实例化模块可以被配置成对目标类进行实例化，以创建用于播放目标音频数据的目标对象，其中，上述目标类用于播放脉冲编码调制格式的数据流。上述第一传输模块可以被配置成采用流式传输的方式，向上述目标对象传输上述目标音频数据，以利用上述目标对象播放上述目标音频数据。

在本实施例的一些可选的实现方式中，上述第一确定单元502可以，进一步被配置成对于上述视频数据的帧，确定采集到该帧时已传输至上述目标对象的目标音频数据的数据量，将上述数据量确定为采集到该帧时已播放的目标音频数据的数据量。

在本实施例的一些可选的实现方式中，上述目标音频数据为脉冲编码调制编码格式的数据流。以及，上述采集单元可以包括调用模块和第二传输模块(图中未示出)。其中，上述调用模块可以被配置成调用预置的、支持音频播放的音频处理组件，其中，上述音频处理组件支持缓冲区的设置和回调函数的设置，上述回调函数用于在每一次缓冲区中的音频数据处理完毕后返回该次所处理的音频数据的数据量。第二传输模块可以被配置成向上述音频处理组件传输上述目标音频数据，以利用上述音频处理组件播放上述目标音频数据。

在本实施例的一些可选的实现方式中，上述第一确定单元可以进一步被配置成：对于上述视频数据的帧，确定采集到该帧时，上述回调函数已返回的数据量之和，将上述数据量之和确定为采集到该帧时已播放的目标音频数据的数据量。

在本实施例的一些可选的实现方式中，音频处理组件的缓冲区的大小可以为预先设置的目标数值，其中，目标数值不大于视频数据的帧的预设间隔时长所对应的音频数据的大小。

在本实施例的一些可选的实现方式中，上述存储模块可以包括编码子模块和存储子模块(图中未示出)。其中，上述编码模块可以被配置成将带有时间戳的视频数据进行编码。上述存储模块可以被配置成将编码后的视频数据和上述目标音频数据区间存储至同一文件中。

本申请的上述实施例提供的装置，通过采集单元501采集视频数据并播放目标音频数据，而后第一确定单元502对于上述视频数据中的帧，确定采集到该帧时已播放的目标音频数据的数据量，将上述数据量对应的播放时长确定为该帧的时间戳，最后存储单元503将包含时间戳的视频数据和上述目标音频数据中已播放的数据进行存储，从而，当采集到某一帧时，可以该帧采集时刻已播放的目标音频数据的播放量确定该帧时间戳，提升了所录制的配乐视频的音视频同步效果。

下面参考图6，其示出了适于用来实现本申请实施例的终端设备的计算机系统600的结构示意图。图6示出的终端设备仅仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。

如图6所示，计算机系统600包括中央处理单元(CPU)601，其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中，还存储有系统600操作所需的各种程序和数据。CPU 601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。

以下部件连接至I/O接口605：包括触摸屏、触摸板等的输入部分606；包括诸如液晶显示器(LCD)等以及扬声器等的输出部分607；包括硬盘等的存储部分608；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611，诸如半导体存储器等等，根据需要安装在驱动器610上，以便于从其上读出的计算机程序根据需要被安装入存储部分608。

特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分609从网络上被下载和安装，和/或从可拆卸介质611被安装。在该计算机程序被中央处理单元(CPU)601执行时，执行本申请的方法中限定的上述功能。需要说明的是，本申请所述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。

附图中的流程图和框图，图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本申请实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，例如，可以描述为：一种处理器包括采集单元、第一确定单元、提取单元和存储单元。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定，例如，采集单元还可以被描述为“采集视频数据并播放目标音频数据的单元”。

作为另一方面，本申请还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的装置中所包含的；也可以是单独存在，而未装配入该装置中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该装置执行时，使得该装置：采集视频数据并播放目标音频数据；对于该视频数据中的帧，确定采集到该帧时已播放的目标音频数据的数据量，将该数据量对应的播放时长确定为该帧的时间戳；将包含时间戳的视频数据和该目标音频数据中已播放的数据进行存储。

以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本申请中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (17)

1.一种用于处理数据的方法，包括：

采集视频数据并播放目标音频数据；

对于所述视频数据中的帧，确定采集到该帧时已播放的目标音频数据的数据量，将所述数据量对应的播放时长确定为该帧的时间戳；

将包含时间戳的视频数据和所述目标音频数据中已播放的数据进行存储。

2.根据权利要求1所述的用于处理数据的方法，其中，所述将包含时间戳的视频数据和所述目标音频数据中已播放的数据进行存储，包括：

将采集到所述视频数据的尾帧时已播放的目标音频数据作为目标音频数据区间，提取所述目标音频数据区间；

将包含时间戳的视频数据和所述目标音频数据区间进行存储。

3.根据权利要求1所述的用于处理数据的方法，其中，在所述采集视频数据并播放目标音频数据之前，所述方法还包括：

确定本地是否存储有目标音频数据；

若否，向服务器发送用于获取所述目标音频数据的请求，并接收所述服务器返回的所述目标音频数据。

4.根据权利要求1所述的用于处理数据的方法，其中，所述目标音频数据为脉冲编码调制编码格式的数据流；以及

所述播放目标音频数据，包括：

对目标类进行实例化，以创建用于播放目标音频数据的目标对象，其中，所述目标类用于播放脉冲编码调制格式的数据流；

采用流式传输的方式，向所述目标对象传输所述目标音频数据，以利用所述目标对象播放所述目标音频数据。

5.根据权利要求4所述的用于处理数据的方法，其中，所述对于所述视频数据的帧，确定采集到该帧时已播放的目标音频数据的数据量，包括：

对于所述视频数据的帧，确定采集到该帧时已传输至所述目标对象的目标音频数据的数据量，将所述数据量确定为采集到该帧时已播放的目标音频数据的数据量。

6.根据权利要求1所述的用于处理数据的方法，其中，所述目标音频数据为脉冲编码调制编码格式的数据流；以及

所述播放目标音频数据，包括：

调用预置的、支持音频播放的音频处理组件，其中，所述音频处理组件支持缓冲区的设置和回调函数的设置，所述回调函数用于在每一次缓冲区中的音频数据处理完毕后返回该次所处理的音频数据的数据量；

向所述音频处理组件传输所述目标音频数据，以利用所述音频处理组件播放所述目标音频数据。

7.根据权利要求6所述的用于处理数据的方法，其中，所述对于所述视频数据的帧，确定采集到该帧时已播放的目标音频数据的数据量，包括：

对于所述视频数据的帧，确定采集到该帧时，所述回调函数已返回的数据量之和，将所述数据量之和确定为采集到该帧时已播放的目标音频数据的数据量。

8.根据权利要求6-7之一所述的用于处理数据的方法，其中，所述音频处理组件的缓冲区的大小为预先设置的目标数值，所述目标数值不大于视频数据的帧的预设间隔时长所对应的音频数据的大小。

9.一种用于处理数据的装置，包括：

采集单元，被配置成采集视频数据并播放目标音频数据；

第一确定单元，被配置成对于所述视频数据中的帧，确定采集到该帧时已播放的目标音频数据的数据量，将所述数据量对应的播放时长确定为该帧的时间戳；

存储单元，被配置成将包含时间戳的视频数据和所述目标音频数据中已播放的数据进行存储。

10.根据权利要求9所述的用于处理数据的装置，其中，所述存储单元包括：

提取模块，被配置成将采集到所述视频数据的尾帧时已播放的目标音频数据作为目标音频数据区间，提取所述目标音频数据区间；

存储模块，被配置成将包含时间戳的视频数据和所述目标音频数据区间进行存储。

11.根据权利要求9所述的用于处理数据的装置，其中，所述目标音频数据为脉冲编码调制编码格式的数据流；以及

所述采集单元，包括：

实例化模块，被配置成对目标类进行实例化，以创建用于播放目标音频数据的目标对象，其中，所述目标类用于播放脉冲编码调制格式的数据流；

第一传输模块，被配置成采用流式传输的方式，向所述目标对象传输所述目标音频数据，以利用所述目标对象播放所述目标音频数据。

12.根据权利要求11所述的用于处理数据的装置，其中，所述第一确定单元，进一步被配置成：

对于所述视频数据的帧，确定采集到该帧时已传输至所述目标对象的目标音频数据的数据量，将所述数据量确定为采集到该帧时已播放的目标音频数据的数据量。

13.根据权利要求9所述的用于处理数据的装置，其中，所述目标音频数据为脉冲编码调制编码格式的数据流；以及

所述采集单元，包括：

调用模块，被配置成调用预置的、支持音频播放的音频处理组件，其中，所述音频处理组件支持缓冲区的设置和回调函数的设置，所述回调函数用于在每一次缓冲区中的音频数据处理完毕后返回该次所处理的音频数据的数据量；

第二传输模块，被配置成向所述音频处理组件传输所述目标音频数据，以利用所述音频处理组件播放所述目标音频数据。

14.根据权利要求13所述的用于处理数据的装置，其中，所述第一确定单元，进一步被配置成：

对于所述视频数据的帧，确定采集到该帧时，所述回调函数已返回的数据量之和，将所述数据量之和确定为采集到该帧时已播放的目标音频数据的数据量。

15.根据权利要求13-14之一所述的用于处理数据的装置，其中，所述音频处理组件的缓冲区的大小为预先设置的目标数值，所述目标数值不大于视频数据的帧的预设间隔时长所对应的音频数据的大小。

16.一种终端设备，包括：

一个或多个处理器；

存储装置，其上存储有一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-8中任一所述的方法。

17.一种计算机可读介质，其上存储有计算机程序，其中，该程序被处理器执行时实现如权利要求1-8中任一所述的方法。

Images