CN115474065B - 一种字幕处理方法、装置、电子设备和存储介质 - Google Patents
一种字幕处理方法、装置、电子设备和存储介质 Download PDFInfo
- Publication number
- CN115474065B CN115474065B CN202110655609.2A CN202110655609A CN115474065B CN 115474065 B CN115474065 B CN 115474065B CN 202110655609 A CN202110655609 A CN 202110655609A CN 115474065 B CN115474065 B CN 115474065B
- Authority
- CN
- China
- Prior art keywords
- audio
- subtitle data
- video stream
- language
- language subtitle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 34
- 238000000034 method Methods 0.000 claims abstract description 34
- 238000012545 processing Methods 0.000 claims abstract description 26
- 230000001360 synchronised effect Effects 0.000 claims abstract description 22
- 238000004590 computer program Methods 0.000 claims description 14
- 230000005540 biological transmission Effects 0.000 claims description 2
- 238000010586 diagram Methods 0.000 description 23
- 238000004891 communication Methods 0.000 description 17
- 230000000694 effects Effects 0.000 description 8
- PCTMTFRHKVHKIS-BMFZQQSSSA-N (1s,3r,4e,6e,8e,10e,12e,14e,16e,18s,19r,20r,21s,25r,27r,30r,31r,33s,35r,37s,38r)-3-[(2r,3s,4s,5s,6r)-4-amino-3,5-dihydroxy-6-methyloxan-2-yl]oxy-19,25,27,30,31,33,35,37-octahydroxy-18,20,21-trimethyl-23-oxo-22,39-dioxabicyclo[33.3.1]nonatriaconta-4,6,8,10 Chemical compound C1C=C2C[C@@H](OS(O)(=O)=O)CC[C@]2(C)[C@@H]2[C@@H]1[C@@H]1CC[C@H]([C@H](C)CCCC(C)C)[C@@]1(C)CC2.O[C@H]1[C@@H](N)[C@H](O)[C@@H](C)O[C@H]1O[C@H]1/C=C/C=C/C=C/C=C/C=C/C=C/C=C/[C@H](C)[C@@H](O)[C@@H](C)[C@H](C)OC(=O)C[C@H](O)C[C@H](O)CC[C@@H](O)[C@H](O)C[C@H](O)C[C@](O)(C[C@H](O)[C@H]2C(O)=O)O[C@H]2C1 PCTMTFRHKVHKIS-BMFZQQSSSA-N 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 230000008569 process Effects 0.000 description 6
- 238000013519 translation Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 5
- 238000000926 separation method Methods 0.000 description 5
- 230000009471 action Effects 0.000 description 4
- 230000007423 decrease Effects 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000011161 development Methods 0.000 description 1
- 230000008034 disappearance Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/21—Server components or server architectures
- H04N21/218—Source of audio or video content, e.g. local disk arrays
- H04N21/2187—Live feed
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/4302—Content synchronisation processes, e.g. decoder synchronisation
- H04N21/4307—Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/485—End-user interface for client configuration
- H04N21/4856—End-user interface for client configuration for language selection, e.g. for the menu or subtitles
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/488—Data services, e.g. news ticker
- H04N21/4884—Data services, e.g. news ticker for displaying subtitles
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Human Computer Interaction (AREA)
- Databases & Information Systems (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
本公开实施例公开了一种字幕处理方法、装置、电子设备和存储介质,该方法包括:获取与直播音视频流同步的音频流;根据所述音频流,确定所述直播音视频流对应的第一语种字幕数据;将所述第一语种字幕数据发送给多个直播设备,每个直播设备用于将所述第一语种字幕数据翻译为目标语种字幕数据,并至少将所述目标语种字幕数据添加到所述直播音视频流中,其中,所述多个直播设备中的至少两个直播设备分别对应的目标语种不同。本公开实施例提供的技术方案可以满足不同语种用户的观看需求,使得不同语种用户均能够理解直播音视频信息中的内容,提高用户体验。
Description
技术领域
本公开涉及信息技术领域,尤其涉及一种字幕处理方法、装置、电子设备和存储介质。
背景技术
随着信息技术的不断发展,用户可以在终端上观看多媒体信息,例如直播的音视频信息。为了提高直播的关注度,可以通过多个直播设备或多个直播渠道进行多路直播,其中,每路直播可分别包括字幕。
但是每路直播中的字幕所对应的语种可能是相同的,而观看直播音视频信息的用户的语种可能各不相同,从而导致看不懂字幕的用户很难理解直播音视频信息中的内容,降低了用户体验。
发明内容
为了解决上述技术问题或者至少部分地解决上述技术问题,本公开实施例提供了一种字幕处理方法、装置、电子设备和存储介质。
本公开实施例提供了一种字幕处理方法,所述方法包括:
获取与直播音视频流同步的音频流;
根据所述音频流,确定所述直播音视频流对应的第一语种字幕数据;
将所述第一语种字幕数据发送给多个直播设备,每个直播设备用于将所述第一语种字幕数据翻译为目标语种字幕数据,并至少将所述目标语种字幕数据添加到所述直播音视频流中,其中,所述多个直播设备中的至少两个直播设备分别对应的目标语种不同。
本公开实施例还提供了一种字幕处理方法,所述方法包括:
从服务器接收第一直播音视频流对应的第一语种字幕数据,所述服务器用于根据与所述第一直播音视频流同步的音频流,确定所述第一语种字幕数据;
将所述第一语种字幕数据翻译为第二语种字幕数据;
至少将所述第二语种字幕数据添加到所述第一直播音视频流中,得到带字幕数据的第一直播音视频流。
本公开实施例还提供了一种字幕处理装置,包括:
获取模块,用于获取与直播音视频流同步的音频流;
确定模块,用于根据所述音频流,确定所述直播音视频流对应的第一语种字幕数据;
发送模块,用于将所述第一语种字幕数据发送给多个直播设备,每个直播设备用于将所述第一语种字幕数据翻译为目标语种字幕数据,并至少将所述目标语种字幕数据添加到所述直播音视频流中,其中,所述多个直播设备中的至少两个直播设备分别对应的目标语种不同。
本公开实施例还提供了一种字幕处理装置,包括:
接收模块,用于从服务器接收第一直播音视频流对应的第一语种字幕数据,所述服务器用于根据与所述第一直播音视频流同步的音频流,确定所述第一语种字幕数据;
翻译模块,用于将所述第一语种字幕数据翻译为第二语种字幕数据;
添加模块,用于至少将所述第二语种字幕数据添加到所述第一直播音视频流中,得到带字幕数据的第一直播音视频流。
本公开实施例还提供了一种电子设备,所述电子设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如上所述的字幕处理方法。
本公开实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如上所述的字幕处理方法。
本公开实施例还提供了一种计算机程序产品,该计算机程序产品包括计算机程序或指令,该计算机程序或指令被处理器执行时实现如上所述的字幕处理方法。
本公开实施例提供的技术方案与现有技术相比至少具有如下优点:
本公开实施例提供的技术方案的实质是,由服务器对与直播音视频同步的音频流进行语音识别,得到第一语种字幕数据,然后利用多个直播设备分别对第一语种字幕数据进行翻译,得到不同语种版本的字幕数据,并将不同语种版本的字幕数据添加到直播音视频中,得到添加有不同语种版本的字幕数据的直播音视频流,这样不同语种的用户通过其所持终端可以选择性地访问不同的直播设备,以观看带有其能够理解的语种的字幕的直播内容,可以满足不同语种用户的观看需求,使得不同语种用户均能够理解直播音视频信息中的内容,提高用户体验。
本公开实施例提供的技术方案尤其适用于大型会议及活动直播、行业及学术峰会直播、娱乐明星直播以及电商直播等情景。
附图说明
结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,原件和元素不一定按照比例绘制。
图1为本公开实施例提供的一种字幕处理方法使用场景的示意图;
图2为本公开实施例提供的另一种字幕处理方法使用场景的示意图;
图3为本公开实施例提供的另一种字幕处理方法使用场景的示意图;
图4为本公开实施例提供的一种字幕处理方法的流程图;
图5为本公开实施例提供的另一种字幕处理方法的流程图;
图6为本公开实施例提供的一种将第一语种字幕数据中的每个子字幕数据和第二语种字幕数据中的每个子字幕数据添加到第一直播音视频流中的原理的示意图;
图7为本公开实施例提供的另一种将字幕数据中的每个字幕单元添加到第一直播音视频流中的原理的示意图;
图8为本公开实施例提供的一种字幕数据在终端中显示效果的示意图;
图9为本公开实施例提供的另一种字幕处理方法的流程图;
图10为本公开实施例中的一种字幕处理装置的结构示意图;
图11为本公开实施例中的一种字幕处理装置的结构示意图;
图12为本公开实施例中的一种电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
应当理解,本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行,和/或并行执行。此外,方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”;术语“另一实施例”表示“至少一个另外的实施例”;术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
图1为本公开实施例提供的一种字幕处理方法使用场景的示意图。本公开提供的字幕处理方法可应用于图1所示的应用环境中。参见图1,该字幕处理系统包括:拍摄设备、麦克风、服务器10、直播设备11、直播设备12、终端13和终端14。其中,拍摄设备和麦克风位于演播室内。拍摄设备用于对演播室内的画面进行录制,形成音视频流。麦克风用于对演播室内的声音进行采集,形成音频流。麦克风和拍摄设备均与服务器10通过网络通讯连接,拍摄设备与直播设备11和直播设备12均通过网络通讯连接。服务器10与直播设备11和直播设备12均通过网络通讯连接。终端13与服务器11通过网络通讯连接,终端14与服务器12通过网络通信连接。
服务器10获取音频流,然后对该音频流进行语音识别,得到第一语种字幕数据,并将该第一语种字幕数据发送至直播设备11和直播设备12。其中,服务器10获取音频流的方式有两种:一种是,服务器10直接通过麦克风获取麦克风采集的音频流;另一种是,服务器通过拍摄设备获取直播音视频流,然后对该直播音视频流进行分离处理得到音频流。
直播设备11对第一语种字幕数据进行翻译得到第二语种字幕数据,然后将第二语种字幕数据添加到从拍摄设备处获取到的直播音视频流中,得到添加有第二语种字幕的直播音视频流,并将添加有第二语种字幕的音视频流推送至终端13,以实现线下直播的目的。直播设备12对第一语种字幕数据进行翻译得到第三语种字幕数据,然后将第三语种字幕数据添加到从拍摄设备处获取到的直播音视频流中,得到添加有第三语种字幕的直播音视频流,并将添加有第三语种字幕的音视频流推送至终端14,以实现线下直播的目的。其中,第一语种,第二语种以及第三语种中任意两者均不同。示例性地,第一语种为中文,第二语种为英文,第三语种为日文。
图2为本公开实施例提供的另一种字幕处理方法使用场景的示意图。本公开提供的字幕处理方法可应用于图2所示的应用环境中。与图1相比,图2中,该字幕处理系统还包括:位于演播室的大屏幕。大屏幕与服务器10通过网络通信连接。
服务器10在得到第一语种字幕数据后,还将第一语种字幕数据添加到从拍摄设备处获取得到的直播音视频流中,得到添加有第一语种字幕的直播音视频流,并将添加有第一语种字幕的直播音视频流推送至大屏幕,以使大屏幕显示带有第一语种字幕的音直播视频流,进而实现线上直播的目的。
或者,服务器10在得到第一语种字幕数据后,对第一语种字幕数据进行翻译,得到第四语种字幕数据;然后将第四语种字幕数据添加到从拍摄设备处获取得到的直播音视频流中得到添加有第四语种字幕的直播音视频流,并将添加有第四语种字幕的直播音视频流推送至大屏幕,以使大屏幕显示带有第四语种字幕的直播音视频流。其中第一语种和第四语种不同。示例性地,第一语种为中文,第四语种为英文。
图3为本公开实施例提供的另一种字幕处理方法使用场景的示意图。本公开提供的字幕处理方法可应用于图3所示的应用环境中。参见图3,该字幕处理系统包括拍摄设备1、拍摄设备2、麦克风、服务器10、直播设备11、直播设备12、直播设备15、终端13、终端14以及调度设备16。其中,拍摄设备1和拍摄设备2和麦克风位于演播室内。拍摄设备1和拍摄设备2用于对演播室内的画面进行录制,形成音视频流。并且,拍摄设备1和拍摄设备2位于演播室内的不同位置,因此,拍摄设备1形成的音视频流和拍摄设备2形成的音视频流不同。麦克风用于对演播室内的声音进行采集,形成音频流。
拍摄设备1与直播设备11和直播设备12通过网络通信连接,拍摄设备2与直播设备11和直播设备15通过网络通信连接,直播设备12和直播设备15通过网络与调度设备16通过网络通讯连接,调度设备16与终端14通过网络通信连接。直播设备11与终端13通过网络通信连接。麦克风与服务器10通过网络通信连接。同时,服务器10还与直播设备11,直播设备12和直播设备15通过网络通讯连接。
服务器10获取音频流,然后对该音频流进行语音识别,得到第一语种字幕数据,并将该第一语种字幕数据发送至直播设备11、直播设备12以及直播设备15。其中,服务器10获取音频流的方式有两种:一种是,服务器10直接通过麦克风获取麦克风采集的音频流;另一种是,服务器通过拍摄设备获取直播音视频流,然后对该直播音视频流进行分离处理得到音频流。若采用第二种方式,需要设置拍摄设备1和/或拍摄设备2通过网络与服务器10通讯连接。
直播设备11对第一语种字幕数据进行翻译得到第二语种字幕数据,然后将第二语种字幕数据添加到从拍摄设备处获取到的直播音视频流中,得到添加有第二语种字幕的直播音视频流,并将添加有第二语种字幕的音视频流推送至终端13,以实现线下直播的目的。其中第一语种与第二语种不同。
直播设备12对第一语种字幕数据进行翻译得到第三语种字幕数据,然后将第三语种字幕数据添加到从拍摄设备处获取到的直播音视频流中,得到添加有第三语种字幕的直播音视频流,并将添加有第三语种字幕的音视频流推送至调度设备16。直播设备15对第一语种字幕数据进行翻译得到第四语种字幕数据,然后将第四语种字幕数据添加到从拍摄设备处获取到的直播音视频流中,得到添加有第四语种字幕的直播音视频流,并将添加有第四语种字幕的音视频流推送至调度设备16。调度设备16可以对直播设备12推送的添加有第三语种字幕的音视频流和直播设备15推送的添加有第四语种字幕的音视频流进行调度,以将两者中的任意一个推送至终端14,进而在终端14中实现两种音视频流(即添加有第三语种字幕的音视频流和添加有第四语种字幕的音视频流)的切换。其中第一语种、第三语种与第四语种中任意两者不同。
图4为本公开实施例提供的一种字幕处理方法的流程图。本实施例可适用于服务端中进行字幕处理的情况,该方法可以由字幕处理装置执行,该装置可以采用软件和/或硬件的方式实现,该装置可配置于电子设备中,例如服务器。
如图4所示,该方法具体可以包括:
S110、获取与直播音视频流同步的音频流。
本步骤的实现方法有多种,本公开对此不作限制。示例性地,本步骤的实现方法包括:从直播音视频流中提取音频流。具体地,获取拍摄设备采集的直播音视频流,然后对直播音视频流进行解码、分离,以获取直播音视频流中的音频流。可选地,解码和分离可以同步进行;也可以分为两步进行,即先解码,后对解码后的直播音视频流进行分离。
需要说明的是,直播音视频流分离后得到音频流和视频流。音频流仅包括音频信息,视频流既包括音频信息又包括画面信息。分离后得到的视频流和分离前的直播音视频流是一样的。分离后得到的音频流中的音频和分离前的直播音视频流中的音频是一样的。
或者,本步骤的实现方法包括:获取音频采集装置采集的音频流,音频流与直播音视频流同步。其中,音频采集装置可以为麦克风。“音频流与直播音视频流同步”实质音频流开始时间和直播音视频流开始时间相同。
S120、根据音频流,确定直播音视频流对应的第一语种字幕数据。
本步骤的实现方法有多种,本公开对此不作限制。示例性地,本步骤的实现方法包括:对音频流进行语音识别,得到直播音视频流对应的第一语种字幕数据。
其中,第一语种与直播音视频中人物说话所使用的语种一致,示例性地,若直播音视频中人物使用中文说话,第一语种为中文。
S130、将第一语种字幕数据发送给多个直播设备,每个直播设备用于将第一语种字幕数据翻译为目标语种字幕数据,并至少将目标语种字幕数据添加到直播音视频流中,其中,多个直播设备中的至少两个直播设备分别对应的目标语种不同。
其中,目标语种与第一语种不同,示例性地,第一语种为中文,目标语种为英文。
在本步骤中,“至少将目标语种字幕数据添加到直播音视频流中”是指,可以仅将目标语种字幕数据添加到直播音视频流中,也可以将第一语种字幕数据和目标语种字幕数据均添加到直播音视频流中。
示例性地,参见图1或图2,假设有两个直播设备,分别为第一直播设备11和第二直播设备12。本步骤的实现方法为:将第一语种字幕数据发送给第一直播设备11和第二直播设备12,第一直播设备11用于将第一语种字幕数据翻译为第二语种字幕数据,并至少将第二语种字幕数据添加到直播音视频流中,第二直播设备12用于将第一语种字幕数据翻译为第三语种字幕数据,并至少将第三语种字幕数据添加到直播音视频流中。示例性地,第一语种为中文,第二语种为英文,第三语种为日文。
上述技术方案的实质是,由服务器对与直播音视频同步的音频流进行语音识别,得到第一语种字幕数据,然后利用多个直播设备分别对第一语种字幕数据进行翻译,得到不同语种版本的字幕数据,并将不同语种版本的字幕数据添加到直播音视频中,得到添加有不同语种版本的字幕数据的直播音视频流,这样不同语种的用户通过其所持终端可以选择访问不同的直播设备,以观看带有其能够理解的语种的字幕的直播内容,可以满足不同语种用户的观看需求,使得不同语种用户均能够理解直播音视频信息中的内容,提高用户体验。
上述技术方案尤其适用于大型会议及活动直播、行业及学术峰会直播、娱乐明星直播以及电商直播等情景。
图5为本公开实施例提供的另一种字幕处理方法的流程图。本实施例可适用于服务端中进行字幕处理的情况,该方法可以由字幕处理装置执行,该装置可以采用软件和/或硬件的方式实现,该装置可配置于电子设备中,例如直播设备。
S210、从服务器接收第一直播音视频流对应的第一语种字幕数据,服务器用于根据与第一直播音视频流同步的音频流,确定第一语种字幕数据。
S220、将第一语种字幕数据翻译为第二语种字幕数据。
S230、至少将第二语种字幕数据添加到第一直播音视频流中,得到带字幕数据的第一直播音视频流。
“至少将第二语种字幕数据添加到第一直播音视频流中”是指,可以仅将第二语种字幕数据添加到第一直播音视频流中,也可以将第一语种字幕数据和第二语种字幕数据均添加到第一直播音视频流中。
本步骤的实现方法有多种,本申请对此不做限制。可选地,本步骤的实现方法包括:从服务器接收第一语种字幕数据的时间戳;根据第一语种字幕数据的时间戳,将第一语种字幕数据和第二语种字幕数据添加到第一直播音视频流中,得到带字幕数据的第一直播音视频流。
第一语种字幕数据的时间戳是指,第一语种字幕数据对应的时间信息,包括第一语种字幕数据对应的音频信息在直播音视频流或音频流中的开始时间信息和结束时间信息。
例如,若第一语种字幕数据为一段文字,可以将第一语种字幕数据分解为多个句子,每一个句子为一个子字幕数据,第一语种字幕数据的时间戳包括第一语种字幕数据中每个子字幕数据在直播音视频流或音频流中的开始时间和结束时间。
又例如,若第一语种字幕数据为一段文字,可以将第一语种字幕数据分解为多个字(或词),每一个字(或词)为一个字幕单元,第一语种字幕数据的时间戳包括第一语种字幕数据中每个字幕单元在直播音视频流或音频流中的开始时间和结束时间。
“根据第一语种字幕数据的时间戳,将第一语种字幕数据和第二语种字幕数据添加到第一直播音视频流中”实质是,根据第一语种字幕数据的时间戳,将第一语种字幕数据、第二语种字幕数据和直播音视频流的图像帧进行时间上的对齐。
进一步地,若第一语种字幕数据的时间戳包括第一语种字幕数据中每个子字幕数据的开始时间和结束时间,“根据第一语种字幕数据的时间戳,将第一语种字幕数据和第二语种字幕数据添加到第一直播音视频流中”包括:根据第一语种字幕数据中每个子字幕数据的开始时间和结束时间,将第一语种字幕数据中的每个子字幕数据和第二语种字幕数据中的每个子字幕数据添加到第一直播音视频流中。
具体地,将第一语种字幕数据分解为多个句子,每一个句子为一个子字幕数据(以下称为第一类子字幕数据)。将第二语种字幕数据分解为多个句子,每一个句子为一个子字幕数据(以下称为第二类子字幕数据)。第一类子字幕数据与第二类子字幕数据一一对应。即每一个第二类子字幕数据为与其对应的第一类子字幕数据的翻译结果。
图6为本公开实施例提供的一种将第一语种字幕数据中的每个子字幕数据和第二语种字幕数据中的每个子字幕数据添加到第一直播音视频流中的原理的示意图。参见图6,将每一个第一类子字幕数据和与其对应的第二类子字幕数据共同处理为一个字幕图层。即一个字幕图层仅包括一个第一类子字幕数据和一个第二类子字幕数据。并且一个字幕图层中第一类子字幕数据和第二类子字幕数据表达的含义相同,但是以不同的语种撰写。由于同一字幕图层中,第二类子字幕数据由对第一类子字幕数据翻译得到,同一字幕图层中第二类子字幕数据的开始时间与第一类子字幕数据的开始时间相同,同一字幕图层中第二类子字幕数据的结束时间与第一类子字幕数据的结束时间相同。
继续参见图6,假设某一字幕图层中第一类子字幕数据的开始时间为t3,结束时间为t6,从直播音视频流中选出时间戳在t3-t6之间的图像帧,将该字幕图层与所选出的每一个图像帧中的图像进行压制,从而得到添加有第一语种字幕数据和第二语种字幕数据的直播音视频流。
进一步地,若第一语种字幕数据中每个字幕单元的时间戳,“根据第一语种字幕数据的时间戳,将第一语种字幕数据和第二语种字幕数据添加到第一直播音视频流中”包括:根据第一语种字幕数据中每个字幕单元的时间戳,将第一语种字幕数据中的每个字幕单元和第二语种字幕数据中的每个字幕单元添加到第一直播音视频流中。
在实际中,“将第一语种字幕数据中的每个字幕单元和第二语种字幕数据中的每个字幕单元添加到第一直播音视频流中”的实现方法有多种,示例性地,可以将采用图6所示的方法实现。
具体地,将第一语种字幕数据分解为多个句子,每一个句子为一个子字幕数据(以下称为第一类子字幕数据)。将第二语种字幕数据分解为多个句子,每一个句子为一个子字幕数据(以下称为第二类子字幕数据)。第一类子字幕数据与第二类子字幕数据一一对应。即每一个第二类子字幕数据为与其对应的第一类子字幕数据的翻译结果。进一步地,将每个第一类子字幕数据分解为多个字(或词),每一个字(或词)为一个字幕单元(以下称为第一类字幕单元)。将每个第二类子字幕数据分解为多个字(或词),每一个字(或词)为一个字幕单元(以下称为第二类字幕单元)。确定每一个第一类字幕单元和每个第二类字幕单元的时间戳。
由于第一语种字幕数据是对音频流语音识别后得到的,在确定每一个第一类字幕单元的时间戳时,可以直接基于音频流确定。示例性地,某一第一类子字幕数据为“ABCD”包括4个字。根据该音频流可以确定,直播中,直播人员发出字“A”对应的音节的时间为t3,则字“A”对应时间戳为t3。以此类推,得到字“B”对应时间戳为t4,字“C”对应时间戳为t5,“D”对应时间戳为t6。
由于第二语种字幕数据是对第一语种字幕数据进行翻译得到的,而不同语种之间语法不同,如存在句子倒装的情况,使得意义相同的字(或词)在不同语种句子中的位置不同。因此,设置基于每一个第二类字幕单元所属第二类子字幕数据对应的第一类子字幕数据的开始时间和结束时间,确定每一个第二类字幕单元的时间戳。示例性地,第一类子字幕数据为“ABCD”,该第一类子字幕数据的开始时间为t3,结束时间为t6。与该第一类子字幕数据对应的第二类子字幕数据为“abcdef”,包括6个字幕单元,确定字幕单元“a”对应时间戳为t3,字幕单元“f”对应时间戳为t6,“b”、“c”、“d”以及“e”对应时间戳在t3-t6之间,且位于后面的字幕单元对应时间戳大于或等于位于前面的字幕单元对应时间戳。示例性地,“b”对应时间戳为t3+10ms,“c”对应时间戳为t3+10ms,“b”对应时间戳为t3+20ms,“c”对应时间戳为t3+30ms,“d”对应时间戳为t3+40ms,且t3+40ms小于t6。
与图6类似,在确定每一个第一类字幕单元和每个第二类字幕单元的时间戳之后,在直播音视频流中,确定与各第一类字幕单元对应的图像帧和与各第二类字幕单元对应的图像帧。对应同一图像帧的第一类字幕单元和第二类字幕单元共同处理为一个字幕图层。将各字幕图层和与其对应的图像帧中的图像进行压制,从而得到添加有字幕数据的直播音视频流。
进一步地,如果采用如图6所示的类似方法,有可能出现一个图像帧仅对应一个或少数几个字幕单元的情况,这使得该直播音视频流在播放的过程中,字幕句子的连贯性变差,有可能造成用户对视频内容的理解障碍。
针对于此,可选地,可以设置字幕图层包括任一字幕单元(包括第一类字幕单元和第二类字幕单元)和任一字幕单元所属子字幕数据中位于任一字幕单元前面的其他字幕单元。示例性地,图7为本公开实施例提供的另一种将字幕数据中的每个字幕单元添加到第一直播音视频流中的原理的示意图。参见图7,某一第一类子字幕数据为“ABCD”,其包括4个字幕单元,分别为“A”、“B”、“C”以及“D”。在形成的“A”对应的字幕图层中仅包括“A”,在形成的“B”对应的字幕图层中包括“AB”,在形成的“C”对应的字幕图层中包括“ABC”,在形成的“D”对应的字幕图层中仅包括“ABCD”。
“A”对应时间戳为t3,从直播音视频流中选出时间戳为t3的图像帧,将“A”对应的字幕图层与时间戳为t3的图像帧中的图像进行压制,压制后该图像中出现字幕“A”。“B”对应时间戳为t4,从直播音视频流中选出时间戳为t4的图像帧,将“B”对应的字幕图层与时间戳为t4的图像帧中的图像进行压制,压制后该图像中出现字幕“AB”。“C”对应时间戳为t5,从直播音视频流中选出时间戳为t5的图像帧,将“C”对应的字幕图层与时间戳为t5的图像帧中的图像进行压制,压制后该图像中出现字幕“ABC”。“D”对应时间戳为t6,从直播音视频流中选出时间戳为t6的图像帧,将“D”对应的字幕图层与时间戳为t6的图像帧中的图像进行压制,压制后该图像中出现字幕“ABCD”。这样设置的好处是,可以使得该直播音视频流在播放的过程中,字幕句子具有较好的连贯性,有利于降低用户对视频内容的理解难度。
在上述技术方案的基础上,可选地,在执行完本步骤之后,将带字幕数据的第一直播音视频流发送给终端,终端用于对第一语种字幕数据中的每个字幕单元和第二语种字幕数据中的每个字幕单元逐一显示。示例性地,以终端对第一语种字幕数据中的每个字幕单元逐一显示为例进行说明,假设第一语种字幕数据中第m个子字幕数据为“ABCD”,当显示字幕单元“A”时,在终端显示组件中显示“A”;当显示字幕单元“B”时,终端显示组件中“A”保留,在“A”之后出现“B”,最终效果为在终端显示组件中显示“AB”;当显示字幕单元“C”时,终端显示组件中“AB”保留,在“B”之后出现“C”,最终效果为在终端显示组件中显示“ABC”;当显示字幕单元“D”时,终端显示组件中“ABC”保留,在“C”之后出现“D”,最终效果为在终端显示组件中显示“ABCD”。
进一步地,当第一语种字幕数据中的任一子字幕数据在终端的显示组件中完整显示后,任一子字幕数据从显示组件中瞬间消失。这样设置的实质是设置第一语种字幕数据采用跳转式换行的方式进行显示。示例性地,第一语种字幕数据中,构成第m个子字幕数据的所有字幕单元在终端中显示完全后,该第m个子字幕数据从显示组件中瞬间消失(或立即消失);终端根据第m+1个子字幕数据的时间信息,继续显示第m+1个子字幕数据;在构成第m+1个子字幕数据的所有字幕单元在终端中显示完全后,该第m+1个子字幕数据从显示组件中瞬间消失。如此反复。这样设置,在每一句话显示完毕后,立即从显示组件中消失,可以满足母语人士(言语精通者)快速阅读的需求,保证字幕数据显示具有较高的实时性。
进一步地,还可以设置,第二语种字幕数据中的任一子字幕数据在终端的显示组件中完整显示后的预设时间内,任一子字幕数据从显示组件中逐渐消失。这样设置的实质是设置第二语种字幕数据采用翻页式换行的方式进行显示。示例性地,第二语种字幕数据中构成第p个子字幕数据的所有字幕单元在终端中显示完全后,该第p个子字幕数据在显示组件中并不是瞬间消失,而是继续显示预设时间,并在预设时间结束时刻消失。终端根据第p+1个子字幕数据的时间信息,继续显示第p+1个子字幕数据。当构成第p+1个子字幕数据的所有字幕单元在终端中显示完全后,该第p+1个子字幕数据在显示组件中并不是瞬间消失,而是继续显示预设时间,并在预设时间结束时刻消失。如此反复。这样设置,每一句话显示完毕后,并不立即消失,而是在显示组件中停留一段时间之后才消失,可以满足言语学习者慢速阅读的需求。
进一步地,针对于翻页式换行的显示方式,还可以设置在预设时间内,终端还用于对任一子字幕数据的下一个子字幕数据中的每个字幕单元逐一显示。示例性地,假设在T1时刻,第二语种字幕数据中构成第p个子字幕数据的所有字幕单元在终端中显示完全,之后该第p个子字幕数据在经过预设时间T0后消失。同时,终端从T1时刻(而非T1+T0时刻)开始,逐一显示构成第p+1个子字幕数据的字幕单元。即未等第p个子字幕数据消失,已开始显示构成第p+1个子字幕数据的字幕单元。这样设置可以始终保持第二语种字幕数据与直播音视频流中音频信息所要传达的内容同步,即确保当前更新的字幕能够起到解释直播音视频流中画面内容的目的。
进一步地,在预设时间内,第二语种字幕数据中的任一子字幕数据的亮度逐渐降低。这样设置可以起到提醒用户该部分子字幕数据即将消失的目的,以促使用户加快阅读速度。进一步地,在预设时间内,第二语种字幕数据中的任一子字幕数据在显示组件中的显示位置逐渐变化,以使显示组件中始终有足够的空间更新第二语种字幕数据。
示例性地,图8为本公开实施例提供的一种字幕数据在终端中显示效果的示意图。参见图8,假设第一语种字幕数据中的某一句话(即第一类子字幕数据),例如以中文撰写,包括10个汉字,例如“XXXXXXXXXX”,该句话对应的译文(即第二类子字幕数据),例如以英文撰写,包括13个单词,例如“YYYYYYYYYYYYY”。如图8所示。10个汉字是逐字显示的,同时13个单词也是逐个单词显示的。具体地,该10个汉字中第一个汉字的时间戳与该13个单词中第一个单词的时间戳相同,该10个汉字中最后一个汉字的时间戳与该13个单词中最后一个单词的时间戳相同。当10个汉字和13个单词均完全显示时,10个汉字瞬间消失,之后逐字显示下一句中文(即下一个第一类子字幕数据)中的汉字。例如,在显示下一句中文的第一个汉字“M”时,上一句英文即“YYYYYYYYYYYYY”还在屏幕中显示,同时屏幕中还显示出了下一句英文(即下一个第二类子字幕数据)中的第一个单词“N”。同时上一句英文即“YYYYYYYYYYYYY”会向上移动一定距离。假设下一句英文包括的单词数量比下一句中文包括的汉字个数多,这样下一句英文的单词会比下一句中文中的汉字显示的快一些,例如,在显示下一句中文的第二个汉字和下一句英文的第三个单词时,“YYYYYYYYYYYYY”还在屏幕中,只是继续向上移动。在显示下一句中文的第三个汉字和下一句英文的第五个单词时,“YYYYYYYYYYYYY”才从屏幕中消失。在“YYYYYYYYYYYYY”逐渐向上移动的过程中,“YYYYYYYYYYYYY”的亮度可以逐渐降低。也就是说,“YYYYYYYYYYYYY”从显示完整到彻底消失之间存在一定的时间长度。在该时间长度内,可以显示出下一句英文中的前几个单词,从而使得观看译文的用户能够连贯的理解前一句英文和下一句英文。
上述技术方案的实质是,由直播设备对第一直播音视频流对应的第一语种字幕数据进行翻译,得到其他语种版本的字幕数据,并将其他语种版本的字幕数据添加到直播音视频中,得到添加有其他语种版本的字幕数据的直播音视频流,这样可以满足其他语种用户的观看需求,使得其他语种用户也能够理解直播音视频信息中的内容,提高用户体验。
上述技术方案尤其适用于大型会议及活动直播、行业及学术峰会直播、娱乐明星直播以及电商直播等情景。
图9为本公开实施例提供的另一种字幕处理方法的流程图。图9为图5中的一个具体示例。图9中提供的字幕处理方法适用于图3中提供的应用场景。参见图9,该方法包括:
S310、从服务器接收第一直播音视频流对应的第一语种字幕数据,服务器用于根据与第一直播音视频流同步的音频流,确定第一语种字幕数据。
S320、将第一语种字幕数据翻译为第二语种字幕数据。
S330、至少将第二语种字幕数据添加到第一直播音视频流中,得到带字幕数据的第一直播音视频流。
S340、将带字幕数据的第一直播音视频流发送给调度设备,调度设备用于对带字幕数据的第一直播音视频流和第三直播设备生成的带字幕数据的第二直播音视频流进行调度。
其中,第一直播音视频流和第二直播音视频流是由不同的拍摄设备采集的。
示例性地,参见图3,第一直播音视频流由拍摄设备1采集得到,第二直播音视频流由拍摄设备2采集得到。直播设备12从服务器10接收第一直播音视频流对应的第一语种字幕数据,将第一语种字幕数据翻译为第二语种字幕数据;至少将第二语种字幕数据添加到第一直播音视频流中,得到带字幕数据的第一直播音视频流,然后将带字幕数据的第一直播音视频流发送给调度设备16。直播设备15(即第三直播设备)从服务器10接收第二直播音视频流对应的第一语种字幕数据,将第一语种字幕数据翻译为第三语种字幕数据;至少将第三语种字幕数据添加到第二直播音视频流中,得到带字幕数据的第二直播音视频流,然后将带字幕数据的第二直播音视频流发送给调度设备16。调度设备16用于对直播设备12生成的带字幕数据的第一直播音视频流和直播设备15(即第三直播设备)生成的带字幕数据的第二直播音视频流进行调度,以将两者中的任意一个推送至终端14,进而在终端14中实现两种音视频流(即带字幕数据的第一直播音视频流和带字幕数据的第二直播音视频流)的切换。
需要强调的是,由于第一直播音视频流和第二直播音视频流是对同一直播场景拍摄,只是拍摄的角度不同。因此,第一直播音视频流对应的第一语种字幕数据和第二直播音视频流对应的第一语种字幕数据相同。
本领域技术人员可以理解,假设第一直播音视频流的画面记为A,第二直播音视频流的画面记为B。如果采用同一直播设备既为第一直播音视频流添加字幕数据,又为第二直播音视频流添加字幕数据,由于直播设备性能限制,可能使得这两个操作无法同时执行。并且,无论是将字幕图层T与第一直播音视频流的画面A进行压制,形成添加有字幕数据的第一直播音视频流A+T;还是将字幕图层T与第二直播音视频流的画面B进行压制,形成添加有字幕数据的第二直播音视频流B+T,均需要花费一定的时间。即从A到A+T,或者从B到B+T均存在时间延迟。这会导致终端通过同一直播设备,从添加有字幕数据的第一直播音视频流的画面A+T切换到为第二直播音视频流的画面时,由于该时间延迟的存在,无法立即得到并显示添加有字幕数据的第二直播音视频流B+T,而是先显示未添加有字幕数据的第二直播音视频流B,经过延时时间后再显示添加有字幕数据的第二直播音视频流B+T,这会导致在刚进行直播音视频流切换的一段时间内,字幕中断,影响用户体验。
通过设置将带字幕数据的第一直播音视频流发送给调度设备,调度设备用于对带字幕数据的第一直播音视频流和第三直播设备生成的带字幕数据的第二直播音视频流进行调度,实质是为第一直播音视频流添加字幕数据和为第二直播音视频流添加字幕数据,这两个操作是在不同直播设备中同时进行的。这样可以实现在不同的直播设备上分别执行预先为第一直播音视频流添加字幕数据和预先为第二直播音视频流添加字幕数据的操作,确保在进行直播音视频流切换时,能够获得到已添加字幕数据的直播音视频流,进而达到避免字幕中断的问题出现。
图10为本公开实施例中的一种字幕处理装置的结构示意图。本公开实施例所提供的字幕处理装置可以配置于服务端中,该字幕处理装置具体包括:
获取模块410,用于获取与直播音视频流同步的音频流;
确定模块420,用于根据所述音频流,确定所述直播音视频流对应的第一语种字幕数据;
发送模块430,用于将所述第一语种字幕数据发送给多个直播设备,每个直播设备用于将所述第一语种字幕数据翻译为目标语种字幕数据,并至少将所述目标语种字幕数据添加到所述直播音视频流中,其中,所述多个直播设备中的至少两个直播设备分别对应的目标语种不同。
进一步地,发送模块430,用于将所述第一语种字幕数据发送给第一直播设备和第二直播设备,所述第一直播设备用于将所述第一语种字幕数据翻译为第二语种字幕数据,并至少将所述第二语种字幕数据添加到所述直播音视频流中,所述第二直播设备用于将所述第一语种字幕数据翻译为第三语种字幕数据,并至少将所述第三语种字幕数据添加到所述直播音视频流中。
进一步地,获取模块410,用于从所述直播音视频流中提取音频流;或者
获取音频采集装置采集的音频流,所述音频流与所述直播音视频流同步。
本公开实施例提供的字幕处理装置,可执行本公开方法实施例所提供的字幕处理方法中服务端所执行的步骤,具备执行步骤和有益效果此处不再赘述。
图11为本公开实施例中的一种字幕处理装置的结构示意图。本公开实施例所提供的字幕处理可以配置于服务端中,该字幕处理装置具体包括:
接收模块510,用于从服务器接收第一直播音视频流对应的第一语种字幕数据,所述服务器用于根据与所述第一直播音视频流同步的音频流,确定所述第一语种字幕数据;
翻译模块520,用于将所述第一语种字幕数据翻译为第二语种字幕数据;
添加模块530,用于至少将所述第二语种字幕数据添加到所述第一直播音视频流中,得到带字幕数据的第一直播音视频流。
进一步地,该装置还包括发送模块,用于至少将所述第二语种字幕数据添加到所述第一直播音视频流中,得到带字幕数据的第一直播音视频流之后,将所述带字幕数据的第一直播音视频流发送给调度设备,所述调度设备用于对所述带字幕数据的第一直播音视频流和第三直播设备生成的带字幕数据的第二直播音视频流进行调度;
其中,所述第一直播音视频流和所述第二直播音视频流是由不同的拍摄设备采集的。
进一步地,添加模块530,用于从所述服务器接收所述第一语种字幕数据的时间戳;
根据所述第一语种字幕数据的时间戳,将所述第一语种字幕数据和所述第二语种字幕数据添加到所述第一直播音视频流中,得到带字幕数据的第一直播音视频流。
进一步地,添加模块530,用于根据所述第一语种字幕数据中每个子字幕数据的开始时间和结束时间,将所述第一语种字幕数据中的每个子字幕数据和所述第二语种字幕数据中的每个子字幕数据添加到所述第一直播音视频流中。
进一步地,添加模块530,用于根据所述第一语种字幕数据中每个字幕单元的时间戳,将所述第一语种字幕数据中的每个字幕单元和所述第二语种字幕数据中的每个字幕单元添加到所述第一直播音视频流中。
进一步地,发送模块还用于将所述第一语种字幕数据和所述第二语种字幕数据添加到所述第一直播音视频流中,得到带字幕数据的第一直播音视频流之后,将所述带字幕数据的第一直播音视频流发送给终端,所述终端用于对所述第一语种字幕数据中的每个字幕单元和所述第二语种字幕数据中的每个字幕单元逐一显示。
进一步地,当所述第一语种字幕数据中的任一子字幕数据在所述终端的显示组件中完整显示后,所述任一子字幕数据从所述显示组件中瞬间消失。
进一步地,所述第二语种字幕数据中的任一子字幕数据在所述终端的显示组件中完整显示后的预设时间内,所述任一子字幕数据从所述显示组件中逐渐消失。
进一步地,在所述预设时间内,所述终端还用于对所述任一子字幕数据的下一个子字幕数据中的每个字幕单元逐一显示。
进一步地,在所述预设时间内,所述第二语种字幕数据中的所述任一子字幕数据的亮度逐渐降低。
进一步地,在所述预设时间内,所述第二语种字幕数据中的所述任一子字幕数据在所述显示组件中的显示位置逐渐变化。
本公开实施例提供的字幕处理装置,可执行本公开方法实施例所提供的字幕处理方法中服务端所执行的步骤,具备执行步骤和有益效果此处不再赘述。
图12为本公开实施例中的一种电子设备的结构示意图。下面具体参考图12,其示出了适于用来实现本公开实施例中的电子设备1000的结构示意图。本公开实施例中的电子设备1000可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)、可穿戴电子设备等等的移动终端以及诸如数字TV、台式计算机、智能家居设备等等的固定终端。图12示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图12所示,电子设备1000可以包括处理装置(例如中央处理器、图形处理器等)1001,其可以根据存储在只读存储器(ROM)1002中的程序或者从存储装置1008加载到随机访问存储器(RAM)1003中的程序而执行各种适当的动作和处理以实现如本公开所述的实施例的字幕处理方法。在RAM 1003中,还存储有电子设备1000操作所需的各种程序和信息。处理装置1001、ROM 1002以及RAM 1003通过总线1004彼此相连。输入/输出(I/O)接口1005也连接至总线1004。
通常,以下装置可以连接至I/O接口1005:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置1006;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置1007;包括例如磁带、硬盘等的存储装置1008;以及通信装置1009。通信装置1009可以允许电子设备1000与其他设备进行无线或有线通信以交换信息。虽然图12示出了具有各种装置的电子设备1000,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在非暂态计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码,从而实现如上所述的字幕处理方法。在这样的实施例中,该计算机程序可以通过通信装置1009从网络上被下载和安装,或者从存储装置1008被安装,或者从ROM 1002被安装。在该计算机程序被处理装置1001执行时,执行本公开实施例的方法中限定的上述功能。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的信息信号,其中承载了计算机可读的程序代码。这种传播的信息信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol,超文本传输协议)之类的任何已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字信息通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:
获取与直播音视频流同步的音频流;
根据所述音频流,确定所述直播音视频流对应的第一语种字幕数据;
将所述第一语种字幕数据发送给多个直播设备,每个直播设备用于将所述第一语种字幕数据翻译为目标语种字幕数据,并至少将所述目标语种字幕数据添加到所述直播音视频流中,其中,所述多个直播设备中的至少两个直播设备分别对应的目标语种不同。
或者,上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:
从服务器接收第一直播音视频流对应的第一语种字幕数据,所述服务器用于根据与所述第一直播音视频流同步的音频流,确定所述第一语种字幕数据;
将所述第一语种字幕数据翻译为第二语种字幕数据;
至少将所述第二语种字幕数据添加到所述第一直播音视频流中,得到带字幕数据的第一直播音视频流。
可选的,当上述一个或者多个程序被该电子设备执行时,该电子设备还可以执行上述实施例所述的其他步骤。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,单元的名称在某种情况下并不构成对该单元本身的限定。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
根据本公开的一个或多个实施例,本公开提供了一种电子设备,包括:
一个或多个处理器;
存储器,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如本公开提供的任一所述的字幕处理方法。
根据本公开的一个或多个实施例,本公开提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本公开提供的任一所述的字幕处理方法。
本公开实施例还提供了一种计算机程序产品,该计算机程序产品包括计算机程序或指令,该计算机程序或指令被处理器执行时实现如上所述的字幕处理方法。
需要说明的是,在本文中,诸如“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上所述仅是本公开的具体实施方式,使本领域技术人员能够理解或实现本公开。对这些实施例的多种修改对本领域的技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本公开的精神或范围的情况下,在其它实施例中实现。因此,本公开将不会被限制于本文所述的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (5)
1.一种字幕处理方法,其特征在于,所述方法包括:
获取与直播音视频流同步的音频流;
根据所述音频流,确定所述直播音视频流对应的第一语种字幕数据;
将所述第一语种字幕数据发送给多个直播设备,每个直播设备用于将所述第一语种字幕数据翻译为目标语种字幕数据,并至少将所述目标语种字幕数据添加到所述直播音视频流中,其中,所述多个直播设备中的至少两个直播设备分别对应的目标语种不同;
将所述第一语种字幕数据发送给多个直播设备,每个直播设备用于将所述第一语种字幕数据翻译为目标语种字幕数据,并至少将所述目标语种字幕数据添加到所述直播音视频流中,包括:
将所述第一语种字幕数据发送给第一直播设备和第二直播设备,所述第一直播设备用于将所述第一语种字幕数据翻译为第二语种字幕数据,并至少将所述第二语种字幕数据添加到所述直播音视频流中,得到添加有第二语种字幕的直播音视频流,所述第二直播设备用于将所述第一语种字幕数据翻译为第三语种字幕数据,并至少将所述第三语种字幕数据添加到所述直播音视频流中,得到添加有第三语种字幕的直播音视频流;
所述第一直播设备和所述第二直播设备用于将添加有所述第二语种字幕的直播音视频流和添加有第三语种字幕的直播音视频流推送至不同的终端。
2.根据权利要求1所述的方法,其特征在于,获取与直播音视频流同步的音频流,包括:
从所述直播音视频流中提取音频流;或者
获取音频采集装置采集的音频流,所述音频流与所述直播音视频流同步。
3.一种字幕处理装置,其特征在于,包括:
获取模块,用于获取与直播音视频流同步的音频流;
确定模块,用于根据所述音频流,确定所述直播音视频流对应的第一语种字幕数据;
发送模块,用于将所述第一语种字幕数据发送给多个直播设备,每个直播设备用于将所述第一语种字幕数据翻译为目标语种字幕数据,并至少将所述目标语种字幕数据添加到所述直播音视频流中,其中,所述多个直播设备中的至少两个直播设备分别对应的目标语种不同;
所述发送模块,用于将所述第一语种字幕数据发送给第一直播设备和第二直播设备,所述第一直播设备用于将所述第一语种字幕数据翻译为第二语种字幕数据,并至少将所述第二语种字幕数据添加到所述直播音视频流中,得到添加有第二语种字幕的直播音视频流,所述第二直播设备用于将所述第一语种字幕数据翻译为第三语种字幕数据,并至少将所述第三语种字幕数据添加到所述直播音视频流中,得到添加有第三语种字幕的直播音视频流;
所述第一直播设备和所述第二直播设备用于将添加有所述第二语种字幕的直播音视频流和添加有第三语种字幕的直播音视频流推送至不同的终端。
4.一种电子设备,其特征在于,所述电子设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-2中任一项所述的方法。
5.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-2中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110655609.2A CN115474065B (zh) | 2021-06-11 | 2021-06-11 | 一种字幕处理方法、装置、电子设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110655609.2A CN115474065B (zh) | 2021-06-11 | 2021-06-11 | 一种字幕处理方法、装置、电子设备和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115474065A CN115474065A (zh) | 2022-12-13 |
CN115474065B true CN115474065B (zh) | 2024-05-28 |
Family
ID=84365065
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110655609.2A Active CN115474065B (zh) | 2021-06-11 | 2021-06-11 | 一种字幕处理方法、装置、电子设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115474065B (zh) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2013133477A1 (ko) * | 2012-03-05 | 2013-09-12 | Jeon Jeong-Hwan | 온라인 생방송을 위한 실시간 다국어 자막 서비스 시스템 및 그 방법 |
CN107644016A (zh) * | 2017-10-19 | 2018-01-30 | 维沃移动通信有限公司 | 一种多媒体字幕翻译方法、多媒体字幕查找方法及装置 |
CN108600773A (zh) * | 2018-04-25 | 2018-09-28 | 腾讯科技(深圳)有限公司 | 字幕数据推送方法、字幕展示方法、装置、设备及介质 |
CN110134973A (zh) * | 2019-04-12 | 2019-08-16 | 深圳壹账通智能科技有限公司 | 基于人工智能的视频字幕实时翻译方法、介质和设备 |
CN110610444A (zh) * | 2019-08-27 | 2019-12-24 | 格局商学教育科技(深圳)有限公司 | 一种基于直播教学云的后台数据管理系统 |
CN112153323A (zh) * | 2020-09-27 | 2020-12-29 | 北京百度网讯科技有限公司 | 远程会议的同声传译方法、装置、电子设备和存储介质 |
-
2021
- 2021-06-11 CN CN202110655609.2A patent/CN115474065B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2013133477A1 (ko) * | 2012-03-05 | 2013-09-12 | Jeon Jeong-Hwan | 온라인 생방송을 위한 실시간 다국어 자막 서비스 시스템 및 그 방법 |
CN107644016A (zh) * | 2017-10-19 | 2018-01-30 | 维沃移动通信有限公司 | 一种多媒体字幕翻译方法、多媒体字幕查找方法及装置 |
CN108600773A (zh) * | 2018-04-25 | 2018-09-28 | 腾讯科技(深圳)有限公司 | 字幕数据推送方法、字幕展示方法、装置、设备及介质 |
CN110134973A (zh) * | 2019-04-12 | 2019-08-16 | 深圳壹账通智能科技有限公司 | 基于人工智能的视频字幕实时翻译方法、介质和设备 |
CN110610444A (zh) * | 2019-08-27 | 2019-12-24 | 格局商学教育科技(深圳)有限公司 | 一种基于直播教学云的后台数据管理系统 |
CN112153323A (zh) * | 2020-09-27 | 2020-12-29 | 北京百度网讯科技有限公司 | 远程会议的同声传译方法、装置、电子设备和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN115474065A (zh) | 2022-12-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11463779B2 (en) | Video stream processing method and apparatus, computer device, and storage medium | |
CN111064987B (zh) | 信息展示方法、装置及电子设备 | |
CN112601101B (zh) | 一种字幕显示方法、装置、电子设备及存储介质 | |
CN112616062B (zh) | 一种字幕显示方法、装置、电子设备及存储介质 | |
CN114205665B (zh) | 一种信息处理方法、装置、电子设备及存储介质 | |
CN113259740A (zh) | 一种多媒体处理方法、装置、设备及介质 | |
CN114584736B (zh) | 基于视频会议的共享方法、装置、电子设备和计算机介质 | |
CN112423107B (zh) | 歌词视频展示方法、装置、电子设备及计算机可读介质 | |
CN111078070A (zh) | Ppt视频弹幕的播放控制方法、装置、终端及介质 | |
CN112492357A (zh) | 一种处理多视频流的方法、装置、介质和电子设备 | |
CN112291502B (zh) | 信息交互方法、装置、系统和电子设备 | |
CN112601102A (zh) | 同声传译字幕的确定方法、装置、电子设备及存储介质 | |
CN114154012A (zh) | 一种视频推荐方法、装置、电子设备和存储介质 | |
CN114095671A (zh) | 云会议直播系统、方法、装置、设备及介质 | |
CN113886612A (zh) | 一种多媒体浏览方法、装置、设备及介质 | |
CN113992926B (zh) | 界面显示方法、装置、电子设备和存储介质 | |
CN113891168A (zh) | 字幕处理方法、装置、电子设备和存储介质 | |
CN113207044A (zh) | 视频处理方法、装置、电子设备和存储介质 | |
CN115474065B (zh) | 一种字幕处理方法、装置、电子设备和存储介质 | |
CN113923530B (zh) | 一种互动信息展示方法、装置、电子设备及存储介质 | |
CN115086753A (zh) | 直播视频流的处理方法、装置、电子设备和存储介质 | |
CN113891108A (zh) | 字幕优化方法、装置、电子设备和存储介质 | |
CN114125358A (zh) | 云会议字幕显示方法、系统、装置、电子设备和存储介质 | |
CN114430491A (zh) | 一种基于直播的数据处理方法及装置 | |
CN113139090A (zh) | 交互方法、装置、电子设备及计算机可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant |