CN113971955A - 会议信息处理方法、装置、电子设备及存储介质 - Google Patents

Abstract

本公开提供了会议信息处理方法、装置、电子设备及存储介质，涉及智能语音以及自然语言处理等人工智能领域，其中的方法可包括：获取接入会议的客户端的音频流；将不同客户端的音频流混合成单路音频，写入会议录音文件；针对任一客户端，分别进行以下处理：获取客户端的音频流的语音识别结果，并获取会议录音文件的大小与理论大小之间的差别，根据所述差别将语音识别结果中的语音识别文本与会议录音文件进行对齐。应用本公开所述方案，可提升对齐结果的准确性等。

Description

会议信息处理方法、装置、电子设备及存储介质

技术领域

本公开涉及人工智能技术领域，特别涉及智能语音以及自然语言处理等领域的会议信息处理方法、装置、电子设备及存储介质。

背景技术

针对音频会议或音视频会议，可通过音频录音技术生成会议录音文件，并可通过语音识别技术得到语音识别文本(会议识别文本)。

某些情况下，还会需要将会议录音文件和语音识别文本联系起来，即实现会议录音文件和语音识别文本的对齐，以便在播放会议录音时实时动态地展示对应的语音识别文本，或者通过语音识别文本一键定位到会议录音的对应位置等。但目前的对齐方式的准确性通常都较差，从而影响了后续的使用效果等。

发明内容

本公开提供了会议信息处理方法、装置、电子设备及存储介质。

一种会议信息处理方法，包括：

获取接入会议的客户端的音频流；

将不同客户端的音频流混合成单路音频，写入会议录音文件；

针对任一客户端，分别进行以下处理：获取所述客户端的音频流的语音识别结果，并获取会议录音文件的大小与理论大小之间的差别，根据所述差别将所述语音识别结果中的语音识别文本与所述会议录音文件进行对齐。

一种会议信息处理装置，包括：获取模块、混音模块以及对齐模块；

所述获取模块，用于获取接入会议的客户端的音频流；

所述混音模块，用于将不同客户端的音频流混合成单路音频，写入会议录音文件；

所述对齐模块，用于针对任一客户端，分别进行以下处理：获取所述客户端的音频流的语音识别结果，并获取会议录音文件的大小与理论大小之间的差别，根据所述差别将所述语音识别结果中的语音识别文本与所述会议录音文件进行对齐。

一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如以上所述的方法。

一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使计算机执行如以上所述的方法。

一种计算机程序产品，包括计算机程序/指令，所述计算机程序/指令被处理器执行时实现如以上所述的方法。

上述公开中的一个实施例具有如下优点或有益效果：在会议进行过程中，可根据获取到的客户端的音频流生成会议录音文件及获取到对应的语音识别结果，并且，针对每个客户端每次获取到的语音识别结果，可获取当前会议录音文件的大小与理论大小之间的差别，并可根据所述差别将语音识别结果中的语音识别文本与会议录音文件进行对齐，即在对齐时考虑了会议录音的滞后性，从而提升了对齐结果的准确性等。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1为本公开所述会议信息处理方法第一实施例的流程图；

图2为现有会议中的录音和语音识别方式示意图；

图3为本公开所述当前时间、会议的开始时间以及会议录音文件之间的关系示意图；

图4为本公开所述某一客户端对应的语音识别结果的示意图；

图5为本公开所述会议信息处理方法第二实施例的流程图；

图6为本公开所述会议信息处理装置实施例600的组成结构示意图；

图7示出了可以用来实施本公开的实施例的电子设备700的示意性框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

另外，应理解，本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。

图1为本公开所述会议信息处理方法第一实施例的流程图。如图1所示，包括以下具体实现方式。

在步骤101中，获取接入会议的客户端的音频流。

在步骤102中，将不同客户端的音频流混合成单路音频，写入会议录音文件。

在步骤103中，针对任一客户端，分别进行以下处理：获取该客户端的音频流的语音识别结果，并获取会议录音文件的大小与理论大小之间的差别，根据所述差别将语音识别结果中的语音识别文本与会议录音文件进行对齐。

可以看出，上述方法实施例所述方案中，在会议进行过程中，可根据获取到的客户端的音频流生成会议录音文件及获取到对应的语音识别结果，在实际应用中，由于网络等原因，不同客户端上的同一时刻的音频流不可能完全同时到达，因此在将不同客户端的音频流混合成单路音频之前，会对各路音频流作一定的缓存处理，当满足某个条件时才会进行混合，也就是说，所述混合会有一定的滞后性，相应地，上述方法实施例所述方案中，针对每个客户端每次获取到的语音识别结果，可首先获取当前会议录音文件的大小与理论大小之间的差别，进而可根据所述差别将语音识别结果中的语音识别文本与会议录音文件进行对齐，即在对齐时考虑了会议录音的滞后性，从而提升了处理结果的准确性等。

图2为现有会议中的录音和语音识别方式示意图。如图2所示，在一个会议中，通常会有多个客户端，系统(会议系统)接收各客户端的上行音频流并转发给会议中的其它客户端，这样每个会议参与者均可收听到其它参与者的语音，另外，系统还可将各客户端的音频流发送到自动语音识别系统(ASR，Automatic Speech Recognition)进行语音识别，并可获取ASR返回的语音识别结果，其中可包括语音识别文本等，此外，系统还会将不同客户端的音频流混合成单路音频，写入会议录音文件，如图2所示，其中的实线表示音频流，虚线表示语音识别文本。会议录音和语音识别是同时进行的，也是和会议同生命周期的。

本公开所述方案中，当会议开始后，随着各客户端的接入，可获取各客户端的音频流，并可将不同客户端的音频流混合成单路音频，写入会议录音文件。通常来说，对于获取到的音频流，会首先将其解码成脉冲编码调制(PCM，Pulse Code Modulation)格式，之后基于解码后的数据进行语音识别和混音，即将不同客户端的音频流混合成单路音频。

如何进行混音不作限制。比如，可采用现有的各种混音算法。

如前所述，由于网络等原因，不同客户端上的同一时刻的音频流不可能完全同时到达，因此混音算法会对各路音频流作一定的缓存处理，当满足某个条件时才会进行一次混音，具体为何种条件可视不同的混音算法而定，相应地，会议录音会有一定的滞后性，这也为会议录音文件和语音识别文本的对齐带来了难度。

针对上述问题，本公开所述方案中提出可利用一个变量pcm_size来记录当前会议录音文件的大小，通过当前会议录音文件的大小以及会议的开始时间等，可确定出当前会议录音文件的大小与理论大小之间的差别。

相应地，在会议开始时，可记录会议的开始时间，会议的开始时间通常是指会议开始的绝对时间，单位可为毫秒(ms)，后续各时间的单位相同，不再赘述。

本公开的一个实施例中，可获取当前时间与会议的开始时间之间的第一差值，并可获取第一差值与预先设定的常量之间的第一乘积，所述常量表示每毫秒音频录制的文件大小，进而可获取第一乘积与当前会议录音文件的大小之间的第二差值，将第二差值作为当前会议录音文件的大小与理论大小之间的差别。

即有：pcm_offset＝(current_time–conf_start_time)*K–pcm_size；(1)

其中，current_time表示当前时间，conf_start_time表示会议的开始时间，K为常量，表示每毫秒音频录制的文件大小，具体取值可取决于音频的采样率，例如当采样率为16000时，K可为32，pcm_size表示当前会议录音文件的大小，pcm_offset表示当前会议录音文件的大小与理论大小之间的差别。

基于上述介绍，图3为本公开所述当前时间、会议的开始时间以及会议录音文件之间的关系示意图。如图3所示，其中的不同长短的小矩形分别表示各单路音频，即各客户端的音频流。

通过上述处理，可准确高效地计算出当前会议录音文件的大小与理论大小之间的差别，从而为后续处理奠定了良好的基础。

相应地，针对每个客户端，还可分别进行以下处理：获取该客户端的音频流的语音识别结果，并获取当前会议录音文件的大小与理论大小之间的差别，根据所述差别将语音识别结果中的语音识别文本与会议录音文件进行对齐。

本公开的一个实施例中，针对每个客户端，可分别为该客户端建立一个与ASR之间的长连接，并可将该客户端的音频流通过所述长连接发送到ASR，并获取ASR返回的语音识别结果。

优选地，所述长连接可为网络套接字(websocket)长连接。每个客户端分别对应各自的长连接，从而使得各客户端的语音识别互不干扰，确保了语音识别结果的准确性，并使得系统能够区分不同的语音识别结果分别对应的客户端等。

针对每个客户端，还可分别记录对应的长连接的建立时间。在不断地向ASR推送音频流的过程中，ASR会通过websocket回调不断地返回语音识别结果。

本公开的一个实施例中，语音识别结果中除了可包括语音识别文本之外，还可进一步包括语音识别文本中的对齐对象的时间戳，所述时间戳为对齐对象对应的音频的开始处相对于长连接的建立时间的时间偏移量，对齐对象包括至少以下之一：句子、字、词语。

也就是说，对齐对象可以包括句子、字和词语中的一种、任意两种或全部三种，即可以句子为粒度进行对齐，也可以字为粒度进行对齐，也可以词语为粒度进行对齐，还可同时实现句子和字的对齐、句子和词语的对齐或字和词语的对齐，另外还可同时实现句子、字和词语的对齐，非常的灵活方便。

以下以所述时间戳为句子和字的时间戳为例进行说明，对于词语，可根据字的时间戳确定出词语的时间戳，比如，某个词语由两个字组成，那么第一个字的时间戳即为该词语的时间戳。

图4为本公开所述某一客户端对应的语音识别结果的示意图。如图4所示，矩形框中的内容为客户端的音频流中的语音内容，包括“录音的同时进行音频转文字”、“实现音字同步”以及“实现会议信息自动化记录”等，即假设用户依次发出了上述语音内容。

如图4所示，针对每条语音内容，可分别得到对应的语音识别结果，比如，针对“录音的同时进行音频转文字”，可得到对应的语音识别结果，包括语音识别文本“录音的同时进行音频转文字”以及其中的句子和字的时间戳，针对“实现音字同步”，可得到对应的语音识别结果，包括语音识别文本“实现音字同步”以及其中的句子和字的时间戳，针对“实现会议信息自动化记录”，可得到对应的语音识别结果，包括语音识别文本“实现会议信息自动化记录”以及其中的句子和字的时间戳等。

以“实现音字同步”为例，句子的时间戳可为2000，各字的时间戳可依次为：2000、2160、2310、2480、2700和2850。另外，在实际应用中，语音识别结果中还可进一步包括句子对应的音频结束处相对于长连接的建立时间的时间偏移量，比如，“录音的同时进行音频转文字”对应的音频结束处相对于长连接的建立时间的时间偏移量为1600，“实现音字同步”对应的音频结束处相对于长连接的建立时间的时间偏移量为3000等。

本公开的一个实施例中，针对每个客户端，在每次获取到ASR返回的语音识别结果后，针对其中的语音识别文本中的每个对齐对象，可分别根据当前会议录音文件的大小与理论大小之间的差别、会议的开始时间、长连接的建立时间以及该对齐对象的时间戳等，确定出该对齐对象在会议录音文件中的对应位置。

本公开的一个实施例中，针对每个对齐对象，可获取长连接的建立时间与会议的开始时间之间的第三差值，并可获取第三差值与预先设定的常量之间的第二乘积，另外，还可获取该对齐对象的时间戳与所述常量之间的第三乘积，进而可获取第二乘积、第三乘积以及当前会议录音文件的大小与理论大小之间的差别的相加之和，得到该对齐对象对应的文件偏移量，进而可根据所述文件偏移量确定出该对齐对象在会议录音文件中的对应位置。

即有：rec_offset＝(asr_start_time–conf_start_time)*K+start_time(或word_offset)*K+pcm_offset；(2)

其中，asr_start_time表示长连接的建立时间，conf_start_time表示会议的开始时间，K表示常量，start_time表示句子的时间戳，word_offset表示字的时间戳，pcm_offset表示当前会议录音文件的大小与理论大小之间的差别，rec_offset表示文件偏移量。

上述公式中，当对齐对象为句子时，对齐对象的时间戳与所述常量之间的第三乘积为start_time*K，当对齐对象为字时，对齐对象的时间戳与所述常量之间的第三乘积为word_offset*K。以“实现音字同步”这一句子为例，假设其中的各字的时间戳依次为：2000、2160、2310、2480、2700和2850，那么将2000代入上述公式(2)，可得到“实”字对应的文件偏移量，将2160代入上述公式(2)，可得到“现”字对应的文件偏移量，将2310代入上述公式(2)，可得到“音”字对应的文件偏移量，其它类推。

针对任一对齐对象，在获取到该对齐对象的文件偏移量后，即可相应地确定出该对齐对象在会议录音文件中的对应位置。

可以看出，上述处理方式中，借助于当前会议录音文件的大小与理论大小之间的差别，可消除会议录音的滞后性所带来的影响，结合语音识别结果中所携带的时间戳以及其它各时间信息，可准确地将语音识别文本中的句子和/或字对齐到会议录音文件中的相应位置，另外，不但可实现句子粒度的对齐，还可实现字粒度的对齐，即可实现更细粒度的对齐，从而极大地提升了产品体验，比如，可通过某个关键字搜索会议的语音识别文本，得到搜索结果后，可一键定位到会议录音文件中的这个关键字的对应位置，再比如，还可在播放会议录音时实时动态地展示对应的语音识别文本中的文字等，进而可显著地提高会议回溯的效率等。

另外，本公开的一个实施例中，当任一客户端出现异常时，可断开该客户端对应的长连接，当该客户端恢复正常后，可重新为该客户端建立长连接，并可利用重新建立的长连接的建立时间更新之前的建立时间。

在会议进行过程中，可能会出现某个客户端的麦克风关闭、掉线、离开等情况，从而导致该客户端异常，这些情况下，可断开该客户端对应的长连接，当该客户端恢复正常后，如重新接入会议后，可重新为该客户端建立长连接，并可利用重新建立的长连接的建立时间更新之前的建立时间，即更新asr_start_time，相应地，在按照公式(2)计算该客户端对应的对齐对象的文件偏移量时，可采用更新后的asr_start_time，从而确保了计算结果的准确性等。

综合上述介绍，图5为本公开所述会议信息处理方法第二实施例的流程图。假设本实施例中的客户端包括客户端1、客户端2和客户端3，如图5所示，包括以下具体实现方式。

在步骤501中，当会议开始时，记录会议的开始时间。

在步骤502中，为接入会议的客户端1、客户端2和客户端3分别建立与ASR之间的长连接，并记录长连接的建立时间。

在步骤503中，分别获取客户端1、客户端2和客户端3的音频流。

在步骤504中，将获取到的音频流解码成PCM格式。

在步骤505中，将不同客户端的音频流混合成单路音频，写入会议录音文件。

在步骤506中，针对客户端1、客户端2和客户端3中的每个客户端，分别按照步骤507～步骤508所述方式进行处理。

在步骤507中，将客户端的音频流通过长连接发送到ASR，并获取ASR返回的语音识别结果。

语音识别结果中可包括语音识别文本以及语音识别文本中的对齐对象的时间戳，所述时间戳为对齐对象对应的音频的开始处相对于长连接的建立时间的时间偏移量，对齐对象包括至少以下之一：句子、字、词语。

在步骤508中，针对每次获取到的语音识别结果，分别获取当前会议录音文件的大小与理论大小之间的差别，并针对所述语音识别结果中的语音识别文本中的每个对齐对象，分别根据所述差别、会议的开始时间、长连接的建立时间以及对齐对象的时间戳，确定出对齐对象在会议录音文件中的对应位置。

其中，可获取当前时间与会议的开始时间之间的第一差值，并可获取第一差值与预先设定的常量之间的第一乘积，所述常量表示每毫秒音频录制的文件大小，进而可获取第一乘积与当前会议录音文件的大小之间的第二差值，将第二差值作为当前会议录音文件的大小与理论大小之间的差别。

另外，针对任一对齐对象，可获取该对齐对象对应的长连接的建立时间与会议的开始时间之间的第三差值，并可获取第三差值与所述常量之间的第二乘积，还可获取该对齐对象的时间戳与所述常量之间的第三乘积，并可获取第二乘积、第三乘积以及所述差别的相加之和，得到该对齐对象对应的文件偏移量，进而可根据所述文件偏移量确定出该对齐对象在会议录音文件中的对应位置。

在步骤509中，将会议录音文件、语音识别文本以及对齐信息进行云端存储。

对齐信息即指各对齐对象在会议录音文件中的对应位置信息。

需要说明的是，对于前述的各方法实施例，为了简单描述，将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本公开并不受所描述的动作顺序的限制，因为依据本公开，某些步骤可以采用其它顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作和模块并不一定是本公开所必须的。另外，某个实施例中没有详述的部分，可以参见其它实施例中的相关说明。

以上是关于方法实施例的介绍，以下通过装置实施例，对本公开所述方案进行进一步说明。

图6为本公开所述会议信息处理装置实施例600的组成结构示意图。如图6所示，包括：获取模块601、混音模块602以及对齐模块603。

获取模块601，用于获取接入会议的客户端的音频流。

混音模块602，用于将不同客户端的音频流混合成单路音频，写入会议录音文件。

对齐模块603，用于针对任一客户端，分别进行以下处理：获取该客户端的音频流的语音识别结果，并获取会议录音文件的大小与理论大小之间的差别，根据所述差别将语音识别结果中的语音识别文本与会议录音文件进行对齐。

采用上述装置实施例所述方案，在会议进行过程中，可根据获取到的客户端的音频流生成会议录音文件及获取到对应的语音识别结果，并且，针对每个客户端每次获取到的语音识别结果，可获取当前会议录音文件的大小与理论大小之间的差别，并可根据所述差别将语音识别结果中的语音识别文本与会议录音文件进行对齐，即在对齐时考虑了会议录音的滞后性，从而提升了对齐结果的准确性等。

本公开所述方案中，当会议开始后，随着各客户端的接入，获取模块601可获取各客户端的音频流，并可由混音模块602将不同客户端的音频流混合成单路音频，写入会议录音文件。

由于网络等原因，不同客户端上的同一时刻的音频流不可能完全同时到达，因此混音算法会对各路音频流作一定的缓存处理，当满足某个条件时才会进行一次混音，具体为何种条件可视不同的混音算法而定，相应地，会议录音会有一定的滞后性，这也为会议录音文件和语音识别文本的对齐带来了难度。

针对上述问题，本公开所述方案中提出可利用一个变量pcm_size来记录当前会议录音文件的大小，通过当前会议录音文件的大小以及会议的开始时间等，可确定出当前会议录音文件的大小与理论大小之间的差别。

相应地，在会议开始时，可记录会议的开始时间。本公开的一个实施例中，对齐模块603可获取当前时间与会议的开始时间之间的第一差值，并可获取第一差值与预先设定的常量之间的第一乘积，所述常量表示每毫秒音频录制的文件大小，进而可获取第一乘积与当前会议录音文件的大小之间的第二差值，将第二差值作为当前会议录音文件的大小与理论大小之间的差别。

针对每个客户端，对齐模块603还可分别进行以下处理：获取该客户端的音频流的语音识别结果，并获取当前会议录音文件的大小与理论大小之间的差别，根据所述差别将语音识别结果中的语音识别文本与会议录音文件进行对齐。

本公开的一个实施例中，针对每个客户端，对齐模块603可分别为该客户端建立一个与ASR之间的长连接，并可将该客户端的音频流通过所述长连接发送到ASR，并获取ASR返回的语音识别结果。优选地，所述长连接可为websocket长连接。

针对每个客户端，还可分别记录长连接的建立时间。在不断地向ASR推送音频流的过程中，ASR会通过websocket回调不断地返回语音识别结果。

本公开的一个实施例中，语音识别结果中除了可包括语音识别文本之外，还可进一步包括语音识别文本中的对齐对象的时间戳，所述时间戳为对齐对象对应的音频的开始处相对于长连接的建立时间的时间偏移量，对齐对象包括至少以下之一：句子、字、词语。

相应地，本公开的一个实施例中，针对每个客户端，对齐模块603在每次获取到ASR返回的语音识别结果后，针对其中的语音识别文本中的每个对齐对象，可分别根据当前会议录音文件的大小与理论大小之间的差别、会议的开始时间、长连接的建立时间以及该对齐对象的时间戳等，确定出该对齐对象在会议录音文件中的对应位置。

本公开的一个实施例中，针对每个对齐对象，对齐模块603可获取该对齐对象对应的长连接的建立时间与会议的开始时间之间的第三差值，并可获取第三差值与预先设定的常量之间的第二乘积，另外，还可获取该对齐对象的时间戳与所述常量之间的第三乘积，进而可获取第二乘积、第三乘积以及当前会议录音文件的大小与理论大小之间的差别的相加之和，得到该对齐对象对应的文件偏移量，进而可根据所述文件偏移量确定出该对齐对象在会议录音文件中的对应位置。

另外，本公开的一个实施例中，对齐模块603可在任一客户端出现异常时，断开该客户端对应的长连接，当该客户端恢复正常后，重新为该客户端建立长连接，并可利用重新建立的长连接的建立时间更新之前的建立时间。

图6所示装置实施例的具体工作流程可参照前述方法实施例中的相关说明。

本公开所述方案可应用于人工智能领域，特别涉及智能语音以及自然语言处理等领域。人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科，既有硬件层面的技术也有软件层面的技术，人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术，人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。

本公开所述实施例中的语音并不是针对某一特定用户的语音，并不能反映出某一特定用户的个人信息，另外，会议信息处理方法的执行主体可以通过各种公开、合法合规的方式获取所述语音，如经过了用户的授权从用户处获取等。总之，本公开的技术方案中，所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理，均符合相关法律法规的规定，且不违背公序良俗。

根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

图7示出了可以用来实施本公开的实施例的电子设备700的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字助理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图7所示，设备700包括计算单元701，其可以根据存储在只读存储器(ROM)702中的计算机程序或者从存储单元708加载到随机访问存储器(RAM)703中的计算机程序，来执行各种适当的动作和处理。在RAM 703中，还可存储设备700操作所需的各种程序和数据。计算单元701、ROM 702以及RAM 703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。

设备700中的多个部件连接至I/O接口705，包括：输入单元706，例如键盘、鼠标等；输出单元707，例如各种类型的显示器、扬声器等；存储单元708，例如磁盘、光盘等；以及通信单元709，例如网卡、调制解调器、无线通信收发机等。通信单元709允许设备700通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元701可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元701的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元701执行上文所描述的各个方法和处理，例如本公开所述的方法。例如，在一些实施例中，本公开所述的方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元708。在一些实施例中，计算机程序的部分或者全部可以经由ROM 702和/或通信单元709而被载入和/或安装到设备700上。当计算机程序加载到RAM 703并由计算单元701执行时，可以执行本公开所述的方法的一个或多个步骤。备选地，在其他实施例中，计算单元701可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行本公开所述的方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以为分布式系统的服务器，或者是结合了区块链的服务器。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (15)

1.一种会议信息处理方法，包括：

获取接入会议的客户端的音频流；

将不同客户端的音频流混合成单路音频，写入会议录音文件；

针对任一客户端，分别进行以下处理：获取所述客户端的音频流的语音识别结果，并获取会议录音文件的大小与理论大小之间的差别，根据所述差别将所述语音识别结果中的语音识别文本与所述会议录音文件进行对齐。

2.根据权利要求1所述的方法，其中，所述获取所述客户端的音频流的语音识别结果包括：

为所述客户端建立与自动语音识别系统之间的长连接；

将所述客户端的音频流通过所述长连接发送到所述自动语音识别系统，并获取所述自动语音识别系统返回的所述语音识别结果。

3.根据权利要求2所述的方法，其中，

所述语音识别结果中还包括：所述语音识别文本中的对齐对象的时间戳，所述时间戳为所述对齐对象对应的音频的开始处相对于所述长连接的建立时间的时间偏移量，所述对齐对象包括至少以下之一：句子、字、词语；

所述根据所述差别将所述语音识别结果中的语音识别文本与所述会议录音文件进行对齐包括：针对任一对齐对象，分别根据所述差别、所述会议的开始时间、所述长连接的建立时间以及所述对齐对象的时间戳，确定出所述对齐对象在所述会议录音文件中的对应位置。

4.根据权利要求1、2或3所述的方法，其中，所述获取会议录音文件的大小与理论大小之间的差别包括：

获取当前时间与所述会议的开始时间之间的第一差值；

获取所述第一差值与预先设定的常量之间的第一乘积，所述常量表示每毫秒音频录制的文件大小；

获取所述第一乘积与所述会议录音文件的大小之间的第二差值，将所述第二差值作为所述会议录音文件的大小与理论大小之间的差别。

5.根据权利要求3所述的方法，其中，所述针对任一对齐对象，分别根据所述差别、所述会议的开始时间、所述长连接的建立时间以及所述对齐对象的时间戳，确定出所述对齐对象在所述会议录音文件中的对应位置包括：

获取所述长连接的建立时间与所述会议的开始时间之间的第三差值；

获取所述第三差值与所述常量之间的第二乘积；

获取所述对齐对象的时间戳与所述常量之间的第三乘积；

获取所述第二乘积、所述第三乘积以及所述差别的相加之和，得到所述对齐对象对应的文件偏移量；

根据所述文件偏移量确定出所述对齐对象在所述会议录音文件中的对应位置。

6.根据权利要求3所述的方法，还包括：

当任一客户端出现异常时，断开所述客户端对应的长连接，当所述客户端恢复正常后，重新为所述客户端建立长连接，并利用重新建立的长连接的建立时间更新之前的建立时间。

7.一种会议信息处理装置，包括：获取模块、混音模块以及对齐模块；

所述获取模块，用于获取接入会议的客户端的音频流；

所述混音模块，用于将不同客户端的音频流混合成单路音频，写入会议录音文件；

所述对齐模块，用于针对任一客户端，分别进行以下处理：获取所述客户端的音频流的语音识别结果，并获取会议录音文件的大小与理论大小之间的差别，根据所述差别将所述语音识别结果中的语音识别文本与所述会议录音文件进行对齐。

8.根据权利要求7所述的装置，其中，

所述对齐模块为所述客户端建立与自动语音识别系统之间的长连接，将所述客户端的音频流通过所述长连接发送到所述自动语音识别系统，并获取所述自动语音识别系统返回的所述语音识别结果。

9.根据权利要求8所述的装置，其中，

所述语音识别结果中还包括：所述语音识别文本中的对齐对象的时间戳，所述时间戳为所述对齐对象对应的音频的开始处相对于所述长连接的建立时间的时间偏移量，所述对齐对象包括至少以下之一：句子、字、词语；

所述对齐模块针对任一对齐对象，分别根据所述差别、所述会议的开始时间、所述长连接的建立时间以及所述对齐对象的时间戳，确定出所述对齐对象在所述会议录音文件中的对应位置。

10.根据权利要求7、8或9所述的装置，其中，

所述对齐模块获取当前时间与所述会议的开始时间之间的第一差值，获取所述第一差值与预先设定的常量之间的第一乘积，所述常量表示每毫秒音频录制的文件大小，获取所述第一乘积与所述会议录音文件的大小之间的第二差值，将所述第二差值作为所述会议录音文件的大小与理论大小之间的差别。

11.根据权利要求9所述的装置，其中，

所述对齐模块获取所述长连接的建立时间与所述会议的开始时间之间的第三差值，获取所述第三差值与所述常量之间的第二乘积，并获取所述对齐对象的时间戳与所述常量之间的第三乘积，获取所述第二乘积、所述第三乘积以及所述差别的相加之和，得到所述对齐对象对应的文件偏移量，根据所述文件偏移量确定出所述对齐对象在所述会议录音文件中的对应位置。

12.根据权利要求9所述的装置，其中，

所述对齐模块进一步用于，当任一客户端出现异常时，断开所述客户端对应的长连接，当所述客户端恢复正常后，重新为所述客户端建立长连接，并利用重新建立的长连接的建立时间更新之前的建立时间。

13.一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-6中任一项所述的方法。

14.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使计算机执行权利要求1-6中任一项所述的方法。

15.一种计算机程序产品，包括计算机程序/指令，所述计算机程序/指令被处理器执行时实现权利要求1-6中任一项所述的方法。

Images