CN112416289A

CN112416289A - 一种音频同步方法、装置、设备和存储介质

Info

Publication number: CN112416289A
Application number: CN202011264221.1A
Authority: CN
Inventors: 金友芝
Original assignee: Beijing ByteDance Network Technology Co Ltd
Current assignee: Beijing ByteDance Network Technology Co Ltd
Priority date: 2020-11-12
Filing date: 2020-11-12
Publication date: 2021-02-26
Anticipated expiration: 2040-11-12
Also published as: CN112416289B

Abstract

本公开实施例公开了一种音频同步方法、装置、设备和存储介质。包括：控制音频系统中各音频设备的模数转换器ADC在同一时刻进行复位；其中，将所述ADC的一路输出信号对应的值用作语音帧的时间戳；获取所述各音频设备的音频数据，根据所述时间戳将多个音频数据进行对齐，获得同步音频数据。本公开实施例提供的一种音频同步方法，利用模数转换器ADC输出的一路数字信号作为时间戳，通过时间戳将多个音频设备的音频信号进行对齐，不仅对齐精度可以支持到纳秒级，而且通过ADC时间同步，即可使用通用处理器实现音频同步，降低开发难度和硬件成本。

Description

一种音频同步方法、装置、设备和存储介质

技术领域

本公开实施例涉及信号处理技术领域，尤其涉及一种音频同步方法、装置、设备和存储介质。

背景技术

在进行新闻访问和新闻发布会时，发言人会通过多个麦克风进行发言，在此过程中需要将通过多个麦克风接收到的多路音频数据对齐同步后合并为一路音频，然后通过音箱进行播放输出。

音频同步需要使用信号线将不同的录音设备连接起来，音频同步处理在主设备上进行，同步后的音频会从主设备发送给不同的音频终端。现有技术中，一般使用FPGA+DSP方案，通过降低硬件延时来保证各个音频终端之间的延时。现有技术的开发成本较高并且开发过程繁琐，不利于实现。

因此，音频同步过程中开发成本高开发过程繁琐是当前亟待解决的技术问题。

发明内容

本公开实施例提供了一种音频同步方法、装置、设备和存储介质，能够将各音频设备的音频对齐同步，可以提高音频数据的对齐精度，降低开发难度和硬件成本。

第一方面，本公开实施例提供了一种音频同步方法，包括：

控制音频系统中各音频设备的模数转换器ADC在同一时刻进行复位；其中，将所述ADC的一路输出信号对应的值用作语音帧的时间戳；

获取所述各音频设备的音频数据，根据所述时间戳将多个音频数据进行对齐，获得同步音频数据。

第二方面，本公开实施例还提供了一种音频同步装置，包括：

复位模块，用于控制音频系统中各音频设备的模数转换器ADC在同一时刻进行复位；其中，将所述ADC的一路输出信号对应的值用作语音帧的时间戳；

音频同步模块，用于获取所述各音频设备的音频数据，根据所述时间戳将多个音频数据进行对齐，获得同步音频数据。

第三方面，本公开实施例还提供了一种终端设备，所述终端设备包括：

一个或多个处理装置；

存储装置，用于存储一个或多个指令；

当所述一个或多个指令被所述一个或多个处理装置执行，使得所述一个或多个处理装置实现如本公开实施例所述的音频同步方法。

第四方面，本公开实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理装置执行时实现如本公开实施例所述的音频同步方法。

本公开实施例，首先控制音频系统中各音频设备的模数转换器ADC在同一时刻进行复位；其中，将所述ADC的一路输出信号对应的值用作语音帧的时间戳；然后获取所述各音频设备的音频数据，根据所述时间戳将多个音频数据进行对齐，获得同步音频数据。本公开实施例提供的音频同步方法，利用模数转换器ADC输出的一路数字信号作为时间戳，通过时间戳将多个音频设备的音频信号进行对齐，不仅对齐精度可以支持到纳秒级，而且通过ADC时间同步，即可使用通用处理器实现音频同步，降低开发难度和硬件成本。

附图说明

图1为本公开实施例一提供的一种音频同步的流程示意图；

图2为本公开实施例二提供的一种音频同步装置的结构示意图；

图3为本公开实施例三提供的一种终端设备的结构示意图。

具体实施方式

下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例，相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。

应当理解，本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行，和/或并行执行。此外，方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。

本文使用的术语“包括”及其变形是开放性包括，即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”；术语“另一实施例”表示“至少一个另外的实施例”；术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。

需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。

需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。

本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的，而并不是用于对这些消息或信息的范围进行限制。

实施例一

图1为本公开实施例一提供的一种音频同步的流程示意图，该方法可适用于将多个音频设备的音频数据同步对齐后进行播放的情况，该方法可以由音频同步装置来执行，其中该装置可由软件和/或硬件实现，并一般集成在终端设备上，在本实施例中终端设备包括但不限于：计算机、智能手机以及平板电脑等设备。

如图1所示，本公开实施例一提供的一种音频同步方法，包括如下步骤：

S110、控制音频系统中各音频设备的模数转换器ADC在同一时刻进行复位；其中，将所述ADC的一路输出信号对应的值用作语音帧的时间戳。

其中，音频系统可以为由多个音频设备组成的系统，例如麦克风和音响组成的音频系统。音频设备可以为对声音进行收录或播放的设备，示例性的，音频设备可以为录音设备。可以将音频设备中的一个音频设备作为主设备，其他音频设备作为从设备。

模数转换器ADC可以用于将模拟信号转换为数字信号，在本实施例中，音频设备的ADC可以将收录的音频转换为音频数据，其中，音频为模拟信号，音频数据为数字信号。

其中，控制音频系统中各音频设备的模数转换器ADC同时进行复位可以理解为将各录音设备的ADC同时复位为同一个起始值。其中，起始值可以为任意设置的统一时间值。

具体的，控制音频系统中各音频设备的模数转换器ADC在同一时刻进行复位可以包括：将各音频设备的ADC输出的一路或多路数字信号在同一时刻恢复为相同的值并开始递增。

其中，音频设备中的ADC通过集成电路内置音频总线可以输出一路或多路有规律的数字信号，示例性的，该数字信号可以从0开始自增，数字信号的范围可以包括-2²³到2²³。

需要说明的是，上述数字信号为音频设备中收录的音频通过ADC转换得到，若音频设备为双声道，则可以输出一路数字信号；若音频设备为多声道，则可以输出多路数字信号。示例性的，音频设备中的ADC可以将双声道中的左声道的音频转换为上述数字信号，右声道的音频转换为具有时间戳的数字信号；若音频设备为八声道的设备，则ADC可以将八声道中的多个声道的音频转换为上述数字信号，其中一个声道的音频转换为具有时间戳的数字信号。

通过将上述一路或多路数字信号同时恢复为相同的起始值并开始递增，可以使得多个音频设备的ADC在同一时刻复位为同一数值。

可选的，控制音频系统中各音频设备的模数转换器ADC在同一时刻进行复位还可以包括：当检测到有新设备加入或者检测到用户触发的复位操作时，控制音频系统中各音频设备的ADC在同一时刻进行复位。

其中，若终端设备检测到有新的音频设备加入或者检测到用户触发的复位操作时，可以将加入的音频设备与原有的音频设备的ADC重新在同一时刻复位，以保证加入的新音频设备与原有音频设备的一路或多路上述数字信号在同一起始值。

可选的，上述用户触发的复位操作可以为用户通过任意方式触发复位操作，此处不做具体限制，示例性的，用户可以在会议软件APP上通过特定按键触发复位操作。

具体的，控制音频系统中各音频设备的模数转换器ADC在同一时刻进行复位可以通过以下方式实现。将音频系统中一个音频设备设置为主设备，其他音频设备设置为从设备；控制主设备生成复位信号；主设备将复位信号发送至各从设备；各从设备和主设备的ADC根据复位信号在同一时刻进行复位。

其中，复位信号可以为用于触发各音频设备的ADC进行复位的信号，复位信号可以为任意具有触发功能的信号。

可以通过终端设备控制主设备生成复位信号，并将复位信号发送至各从设备，各从设备接收到所述复位信号后可以在同一时刻与主设备一起对ADC进行复位，确保主设备的ADC与从设备的ADC在同一时刻进行复位。

在本实施例中，将ADC的一路输出信号对应的数值用作语音帧的时间戳可以理解为：音频设备将录到的音频通过ADC转换后输出数字信号，将其中一路数字信号对应的值当作语音帧的时间戳。其中，时间戳可以理解为对语音帧打时间戳，具体的，ADC或ADC中的后处理器的计数器可以对语音帧打时间戳，即将每帧语音数据标记上时间。

进一步的，将各音频设备的ADC的一路输出信号设置为周期性变化的数字信号；将数字信号对应的值作为确语音帧的时间戳。

其中，可以将ADC输出的一路数字信号对应的值用作语音帧的时间戳，该数字信号为周期性变化的数字信号。

需要说明的是，本实施例中的时间戳可以为一串连续的时间数值，时间戳的个数可以根据音频数据中语音帧的数量进行确定，音频数据可以为音频通过模数转换器ADC转换得到的多路数字信号。示例性的，音频设备在录音时一次录到的音频数据若为1000帧，可以为每10帧打一个时间戳或每100帧打一个时间戳。

S120、获取所述各音频设备的音频数据，根据所述时间戳将多个音频数据进行对齐，获得同步音频数据。

其中，同步音频数据可以为对齐后的具有相同时间戳的音频数据。

具体的，获取各音频设备的音频数据，根据时间戳将多个音频数据进行对齐可以包括：主设备接收各从设备发送的音频数据；主设备将接收到的音频数据和主设备产生的音频数据可以根据时间戳进行对齐。

其中，音频数据可以为多路数字信号，其中一路数字信号对应的值作为时间戳。

可选的，主设备将其录到的音频数据和所有从设备的音频数据收集后，主设备可以将所有收集到的音频数据根据每个音频数据的一路数字信号上的时间戳进行对齐，对齐后的多个音频数据可以为同步的音频数据，同步音频数据对齐精度可以达到纳秒级，避免了各音频数据之间的延迟。

此外，该同步音频数据在播放时不会产生回声，可以避免音频播放时各音频之间有延迟造成出现回声的问题。

在本实施例中，获得同步音频数据之后还可以包括：将同步音频数据进行混音，并将混音后的数据上传至预设软件中。

其中，混音可以为把多个音频设备录到的多个音频数据整合至一个单音音轨或立体音轨中。可以通过专门的混音设备或混音软件进行混音，此处不做具体限制，示例性的，混音设备可以为合成器或混音座等。

预设软件可以为预先使用的可以进行音频播放和音频收录的软件，示例性的，预设软件可以为唱歌软件和会议软件等。

需要说明的是，混音后的数据为数字信号的数据，将该数据上传至预设软件后，预设软件可以对该数据进行播放或处理。

本公开实施例一提供的一种音频同步方法，首先控制音频系统中各音频设备的模数转换器ADC在同一时刻进行复位；其中，将所述ADC的一路输出信号对应的值用作语音帧的时间戳；然后获取所述各音频设备的音频数据，根据所述时间戳将多个音频数据进行对齐，获得同步音频数据。本公开实施例一提供的音频同步方法，利用模数转换器ADC输出的一路数字信号作为时间戳，通过时间戳将多个音频设备的音频信号进行对齐，不仅对齐精度可以支持到纳秒级，而且通过ADC时间同步，即可使用通用处理器实现音频同步，降低开发难度和硬件成本。此外，通过该方法实现音频同步后，可以输出播放高质量的音频，有效避免出现回声的情况，从而改善用户体验。

实施例二

图2为本公开实施例二提供的一种音频同步装置的结构示意图，该装置可适用于将多个音频设备的音频数据同步对齐后进行播放的情况，其中该装置可由软件和/或硬件实现，并一般集成在终端设备上。

如图2所示，该装置包括：复位模块210、音频同步模块220。

复位模块210，用于控制音频系统中各音频设备的模数转换器ADC在同一时刻进行复位；其中，将所述ADC的一路输出信号对应的值用作语音帧的时间戳；

音频同步模块220，用于获取所述各音频设备的音频数据，根据所述时间戳将多个音频数据进行对齐，获得同步音频数据。

可选的，将各音频设备的ADC的一路输出信号设置为周期性变化的数字信号；将所述数字信号对应的值作为语音帧的时间戳。

可选的，复位模块210，还用于：

将各音频设备的ADC输出的一路或多路数字信号在同一时刻恢复为相同的值并开始递增。

可选的，复位模块210，还用于：

当检测到有新设备加入或者检测到用户触发的复位操作时，控制音频系统中各音频设备的ADC在同一时刻进行复位。

可选的，还包括：将所述音频系统中一个音频设备设置为主设备，其他音频设备设置为从设备；

相应的，复位模块210，还用于：

控制所述主设备生成复位信号；

所述主设备将所述复位信号发送至各从设备；

所述各从设备和所述主设备的ADC根据所述复位信号在同一时刻进行复位。

可选的，音频同步模块220，还用于：

所述主设备接收各从设备发送的音频数据；

所述主设备将接收到的音频数据和所述主设备产生的音频数据根据所述时间戳进行对齐。

可选的，在获得同步音频数据之后，还包括：

将所述同步音频数据进行混音，并将混音后的数据上传至预设软件中。

上述音频同步装置可执行本公开任意实施例所提供的音频同步方法，具备执行方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节，可参见本公开前述所有实施例所提供的方法。

实施例三

下面参考图3，其示出了适于用来实现本公开实施例的终端设备300的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端，或者各种形式的服务器，如独立服务器或者服务器集群。图3示出的终端设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

如图3所示，终端设备300可以包括处理装置(例如中央处理器、图形处理器等)301，其可以根据存储在只读存储装置(ROM)302中的程序或者从存储装置305加载到随机访问存储装置(RAM)303中的程序而执行各种适当的动作和处理。在RAM 303中，还存储有终端设备300操作所需的各种程序和数据。处理装置301、ROM 302以及RAM 303通过总线304彼此相连。输入/输出(I/O)接口305也连接至总线304。

通常，以下装置可以连接至I/O接口305：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置306；包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置307；包括例如磁带、硬盘等的存储装置308；以及通信装置309。通信装置309可以允许电子设备300与其他设备进行无线或有线通信以交换数据。虽然图3示出了具有各种装置的终端设备300，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。

实施例四

需要说明的是，本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是，但不限于，电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。

在一些实施方式中，客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol，超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信，并且可以与任意形式或介质的数字数据通信(例如，通信网络)互连。通信网络的示例包括局域网(“LAN”)，广域网(“WAN”)，网际网(例如，互联网)以及端对端网络(例如，ad hoc端对端网络)，以及任何当前已知或未来研发的网络。

上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。

上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：接收用户输入的源文本，将所述源文本翻译为目标语种对应的目标文本；获取所述用户的历史纠正行为；根据所述历史纠正行为对所述目标文本进行纠正，获得翻译结果，并将所述翻译结果推送至所述用户所在的客户端。

可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，单元的名称在某种情况下并不构成对该单元本身的限定。

本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

根据本公开实施例的一个或多个实施例，本公开实施例公开一种视频的裁剪方法，包括：

进一步的，将各音频设备的ADC的一路输出信号设置为周期性变化的数字信号；将所述数字信号对应的值作为语音帧的时间戳。

进一步的，控制音频系统中各音频设备的模数转换器ADC同时进行复位，包括：

进一步的，还包括：将所述音频系统中一个音频设备设置为主设备，其他音频设备设置为从设备；

相应的，控制音频系统中各音频设备的模数转换器ADC同时进行复位，包括：

控制所述主设备生成复位信号；

所述主设备将所述复位信号发送至各从设备；

进一步的，获取所述各音频设备的音频数据，根据所述时间戳将多个音频数据进行对齐，包括：

所述主设备接收各从设备发送的音频数据；

进一步的，在获得同步音频数据之后，还包括：

注意，上述仅为本公开的较佳实施例及所运用技术原理。本领域技术人员会理解，本公开不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本公开的保护范围。因此，虽然通过以上实施例对本公开进行了较为详细的说明，但是本公开不仅仅限于以上实施例，在不脱离本公开构思的情况下，还可以包括更多其他等效实施例，而本公开的范围由所附的权利要求范围决定。

Claims

1.一种音频同步方法，其特征在于，包括：

2.根据权利要求1所述的方法，其特征在于，将各音频设备的ADC的一路输出信号设置为周期性变化的数字信号；将所述数字信号对应的值作为语音帧的时间戳。

3.根据权利要求2所述的方法，其特征在于，控制音频系统中各音频设备的模数转换器ADC同时进行复位，包括：

4.根据权利要求1所述的方法，其特征在于，控制音频系统中各音频设备的模数转换器ADC同时进行复位，包括：

5.根据权利要求1所述的方法，其特征在于，还包括：将所述音频系统中一个音频设备设置为主设备，其他音频设备设置为从设备；

控制所述主设备生成复位信号；

所述主设备将所述复位信号发送至各从设备；

6.根据权利要求5所述的方法，其特征在于，获取所述各音频设备的音频数据，根据所述时间戳将多个音频数据进行对齐，包括：

所述主设备接收各从设备发送的音频数据；

7.根据权利要求1所述的方法，其特征在于，在获得同步音频数据之后，还包括：

8.一种音频同步装置，其特征在于，包括：

9.一种终端设备，其特征在于，包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序；

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-7中任一所述的音频同步方法。

10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-7中任一所述的音频同步方法。