CN112601101A - 一种字幕显示方法、装置、电子设备及存储介质 - Google Patents
一种字幕显示方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN112601101A CN112601101A CN202011460178.6A CN202011460178A CN112601101A CN 112601101 A CN112601101 A CN 112601101A CN 202011460178 A CN202011460178 A CN 202011460178A CN 112601101 A CN112601101 A CN 112601101A
- Authority
- CN
- China
- Prior art keywords
- audio
- subtitle
- subtitle data
- video data
- data stream
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 69
- 230000011218 segmentation Effects 0.000 claims description 14
- 238000012545 processing Methods 0.000 claims description 12
- 238000004590 computer program Methods 0.000 claims description 9
- 230000008569 process Effects 0.000 claims description 9
- 238000012937 correction Methods 0.000 claims description 4
- 238000001514 detection method Methods 0.000 claims description 4
- 238000012986 modification Methods 0.000 description 17
- 230000004048 modification Effects 0.000 description 17
- 238000013519 translation Methods 0.000 description 16
- 238000005516 engineering process Methods 0.000 description 10
- 238000010586 diagram Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 8
- 230000008901 benefit Effects 0.000 description 6
- 238000004891 communication Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 6
- 208000003464 asthenopia Diseases 0.000 description 4
- 230000001360 synchronised effect Effects 0.000 description 3
- 230000003111 delayed effect Effects 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000010009 beating Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000013075 data extraction Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000003631 expected effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000014759 maintenance of location Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/21—Server components or server architectures
- H04N21/218—Source of audio or video content, e.g. local disk arrays
- H04N21/2187—Live feed
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/235—Processing of additional data, e.g. scrambling of additional data or processing content descriptors
- H04N21/2355—Processing of additional data, e.g. scrambling of additional data or processing content descriptors involving reformatting operations of additional data, e.g. HTML pages
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/242—Synchronization processes, e.g. processing of PCR [Program Clock References]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/25—Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
- H04N21/262—Content or additional data distribution scheduling, e.g. sending additional data at off-peak times, updating software modules, calculating the carousel transmission frequency, delaying a video stream transmission, generating play-lists
- H04N21/26208—Content or additional data distribution scheduling, e.g. sending additional data at off-peak times, updating software modules, calculating the carousel transmission frequency, delaying a video stream transmission, generating play-lists the scheduling operation being performed under constraints
- H04N21/26241—Content or additional data distribution scheduling, e.g. sending additional data at off-peak times, updating software modules, calculating the carousel transmission frequency, delaying a video stream transmission, generating play-lists the scheduling operation being performed under constraints involving the time of distribution, e.g. the best time of the day for inserting an advertisement or airing a children program
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/435—Processing of additional data, e.g. decrypting of additional data, reconstructing software from modules extracted from the transport stream
- H04N21/4355—Processing of additional data, e.g. decrypting of additional data, reconstructing software from modules extracted from the transport stream involving reformatting operations of additional data, e.g. HTML pages on a television screen
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/488—Data services, e.g. news ticker
- H04N21/4884—Data services, e.g. news ticker for displaying subtitles
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Databases & Information Systems (AREA)
- Business, Economics & Management (AREA)
- Marketing (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Television Signal Processing For Recording (AREA)
Abstract
本公开实施例公开了一种字幕显示方法、装置、电子设备及存储介质。包括:实时采集直播音视频数据流,并确定与直播音视频数据流对应的字幕数据;按照预设方式对字幕数据进行切分,生成至少一条子字幕数据;确定每条子字幕数据的开始播放时间和结束播放时间;基于开始播放时间和结束播放时间,将每条子字幕数据叠加至对应的直播音视频数据流上;播放带字幕数据的直播音视频数据流。本公开实施例提供的字幕显示方法,可以使字幕数据在音视频直播画面中按句呈现,长度适中,不仅实现“影院级”字幕的呈现方式,方便用户观看、理解字幕内容,而且也可有效保证字幕数据在音视频直播画面中显示的稳定性,保证直播的“音画同步”。
Description
技术领域
本公开实施例涉及计算机技术领域,尤其涉及一种字幕显示方法、装置、电子设备及存储介质。
背景技术
目前,同声传译在各种会议、传媒活动、广播授课等领域被广泛使用。尤其在许多跨语言的直播中往往会配备同声传译字幕,将主讲者的语言通过语音识别技术和机器翻译技术,转化为观众的语言并实时显示在直播画面中,以此来解决观众不懂外语而无法理解直播内容的问题。
相关技术中,主要基于“打字机”的方式将同声传译字幕展示在直播画面中,也即跟随主讲人的讲话速度,对采集的语音信息边进行语音识别和机器翻译,边将同声传译字幕展示在直播画面中。由于语音识别获取的字幕的断句方式和句子结构还没有固定,需要不断根据字幕内容进行调整,从而机器翻译字幕也会适应性调整,而“打字机”方式使得字幕还没有稳定就进行显示,导致字幕在直播画面中跳动性很大。而字幕的不断跳动,使得观众观看字幕时容易视觉疲劳,观众视觉难以聚焦,且上下文容易干扰理解。另一方面,每句字幕内容的停留时间短,观众很可能读不完当前字幕就跳动到下一句字幕,导致观众的实际阅读体验较差。
发明内容
本公开实施例提供一种字幕显示方法、装置、电子设备及存储介质,不仅可以使字幕数据在音视频直播画面中按句呈现,还可以有效保证字幕在直播音视频数据流中显示的稳定性,大大提高了用户体验。
第一方面,本公开实施例提供了一种字幕显示方法,包括:
实时采集直播音视频数据流,并确定与所述直播音视频数据流对应的字幕数据;
按照预设方式对所述字幕数据进行切分,生成至少一条子字幕数据;
确定每条子字幕数据的开始播放时间和结束播放时间;
基于所述开始播放时间和所述结束播放时间,将每条子字幕数据叠加至对应的直播音视频数据流上;
播放带字幕数据的直播音视频数据流。
第二方面,本公开实施例还提供了一种字幕显示装置,包括:
字幕数据确定模块,用于实时采集直播音视频数据流,并确定与所述直播音视频数据流对应的字幕数据;
字幕数据切分模块,用于按照预设方式对所述字幕数据进行切分,生成至少一条子字幕数据;
时间确定模块,用于确定每条子字幕数据的开始播放时间和结束播放时间;
字幕数据叠加模块,用于基于所述开始播放时间和所述结束播放时间,将每条子字幕数据叠加至对应的直播音视频数据流上;
音视频数据播放模块,用于播放带字幕数据的直播音视频数据流。
第三方面,本公开实施例还提供了一种电子设备,所述电子设备包括:
一个或多个处理装置;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理装置执行,使得所述一个或多个处理装置实现如本公开实施例所述的字幕显示方法。
第四方面,本公开实施例还提供了一种计算机可读介质,其上存储有计算机程序,该程序被处理装置执行时实现如本公开实施例所述的字幕显示方法。
本公开实施例,实时采集直播音视频数据流,并确定与所述直播音视频数据流对应的字幕数据;按照预设方式对所述字幕数据进行切分,生成至少一条子字幕数据;确定每条子字幕数据的开始播放时间和结束播放时间;基于所述开始播放时间和所述结束播放时间,将每条子字幕数据叠加至对应的直播音视频数据流上;播放带字幕数据的直播音视频数据流。本公开实施例提供的字幕显示装置,通过对字幕数据的切分操作可以使字幕数据在音视频直播画面中按句呈现,长度适中,不仅实现“影院级”字幕的呈现方式,方便用户观看、消化、理解字幕内容,可大大提高用户观看直播音视频的效果,而且也可有效保证字幕数据在音视频直播画面中显示的稳定性,保证直播的“音画同步”,同时也解决了现有技术中“打字机”方式显示字幕,由于字幕不稳地导致字幕在直播画面中跳动性大、用户的视觉难以聚焦、容易视觉疲劳,且字幕呈段显示,可读性差的技术问题。
附图说明
图1是本公开一实施例中的一种字幕显示方法的流程图;
图2是本公开另一实施例中的一种字幕显示方法的流程图;
图3是本公开另一实施例中的一种字幕显示方法的流程图;
图4是本公开另一实施例中的一种字幕显示方法的流程图;
图5是本公开另一实施例中的一种字幕显示装置的结构示意图;
图6是本公开另一实施例中的一种电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
应当理解,本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行,和/或并行执行。此外,方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”;术语“另一实施例”表示“至少一个另外的实施例”;术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
图1为本公开一实施例提供的一种字幕显示方法的流程图,本公开实施例可适用于对直播音视频数据流中的字幕进行显示的情况,该方法可以由字幕显示装置来执行,该装置可由硬件和/或软件组成,并一般可集成在具有字幕显示功能的设备中,该设备可以是服务器、移动终端或服务器集群等电子设备。如图1所示,该方法具体包括如下步骤:
步骤110,实时采集直播音视频数据流,并确定与所述直播音视频数据流对应的字幕数据。
在本公开实施例中,实时采集直播音视频数据流,其中,直播音视频数据流可以包括各种会议、传媒活动、广播授课、演讲等直播场景下采集的音视频数据流。示例性的,实时采集的直播音视频数据流为直播演讲过程中采集的音视频数据流,则该直播音视频数据流不仅包含演讲者在演讲过程中所发出的音频数据还包含演讲者在演讲过程中的视频数据。
示例性的,确定与直播音视频数据流对应的字幕数据,其中,直播音视频数据流对应的字幕数据可以为对直播音视频数据流中所包含的语音信息进行语音识别的识别结果(识别结果为与直播音视频数据流中的语音数据相同语种的识别文本),还可以为对所述识别文本进行翻译后得到的目标语种的翻译文本,也可以为由识别文本与翻译文本共同构成的数据。可选的,直播音视频数据流对应的字幕数据还可以为直播音视频数据流中所包含的语音信息的识别文本修改后的文本,和/或对识别文本进行翻译的翻译文本修改后的文本。
可选的,确定与所述直播音视频数据流对应的字幕数据,包括:从所述直播音视频数据流中提取音频数据流;基于所述音频数据流确定与所述直播音视频数据流对应的字幕数据。具体的,可以直接对整个音频数据流进行音频数据流的提取,也可以多线程同时对音视频数据流进行音频数据流的提取。示例性的,从直播音视频数据流中提取音频数据流,并基于自动语音识别(Automatic Speech Recognition,ASR)技术对音频数据流进行识别,将识别结果作为与直播音视频数据流对应的字幕数据。又示例性的,从直播音视频数据流中提取音频数据流,将音频数据流输入至同声传译模型中,基于同声传译模型的输入结果确定与直播音视频数据流对应的字幕数据。其中,同声传译模型可以包括语音识别模型和翻译模型,通过语音识别模型对音频数据中的语音进行识别,获取对应的识别文本,翻译模型对识别文本进行翻译,得到翻译文本,将识别文本和翻译文本作为与直播音视频数据流对应的字幕数据。
步骤120,按照预设方式对所述字幕数据进行切分,生成至少一条子字幕数据。
具体的,确定的直播音视频数据流对应的字幕数据可能很长,在播放直播音视频数据流时,直播音视频数据流对应的字幕数据在音视频直播画面中呈段显示,冗长的字幕数据容易对用户造成干扰,导致用户的实际阅读体验较差。因此,可按照预设方式对字幕数据进行切分,生成至少一条子字幕数据,以使每条子字幕数据的成句呈现,长度适中。
可选的,按照预设方式对所述字幕数据进行切分,包括:在确定与所述直播音视频数据流对应的字幕数据的过程中,基于语音边界检测(Voice Activity Detection,VAD)方式对所述字幕数据进行切分;和/或基于知识图谱对所述字幕数据进行切分;或者,基于预设字符数量对所述字幕数据进行切分,以使每条字幕数据包含所述预设字符数量的字符。具体的,在确定与直播音视频数据流对应的字幕数据的过程中,基于VAD方式对字幕数据进行切分,是根据说话的时间间隔对直播音视频数据流中的音频数据进行切分,也即根据音频数据流中音频的波形图通过语音识别来判断应该断句的位置,从而使得整个直播音视频数据流对应的字幕数据被切分为至少一条子字幕数据。基于知识图谱对字幕数据进行切分的方式是在保证切分生成的子字幕数据的长度适中的同时,尽量将专业名词切分至同一条子字幕数据中。基于预设字符数量对字幕数据进行切分是使切分后的每套子字幕数据均包含预设字符数量的字符,以使得切分得到的子字幕数据的长度固定且适中。在本公开实施例中,可以同时基于VAD方式和知识图谱方式对字幕数据进行切分,具体的,可以先基于VAD方式对字幕数据进行切分,再基于知识图谱方式对字幕数据的切分点进行调整,使生成的子字幕数据长度适中,且切分合理,符合用户说话方式。
步骤130,确定每条子字幕数据的开始播放时间和结束播放时间。
在本公开实施例中,可以根据字幕数据的时间戳确定每条子字幕数据的开始播放时间和结束播放时间,例如,可以将每条子字幕数据的第一个字符的时间戳的起始时间作为子字幕数据的开始播放时间,将每条子字幕数据的最后一个字符的时间戳的终止时间作为子字幕数据的结束播放时间。
步骤140,基于所述开始播放时间和所述结束播放时间,将每条子字幕数据叠加至对应的直播音视频数据流上。
在本公开实施例中,根据开始播放时间和结束播放时间,将每条子字幕数据叠加至对应的直播音视频数据流上,以使每条子字幕数据与直播音视频数据流中的语音信息对应或同步。具体的,可以将每条子字幕数据叠加至对应的直播音视频数据流上,以使直播音视频数据流在音视频直播画面播放时,子字幕数据在音视频直播画面的预设位置区域进行显示,并且在播放直播音视频数据流时,可有效保证直播音视频数据流中呈现出的字幕数据逐条呈现,每条字幕数据长短适中,方便用户观看、消化、理解字幕内容,使用户拥有类似于在影院观看电影的“影院级”字幕体验。
可选的,在将每条子字幕数据叠加至对应的直播音视频数据流上之前,还包括:获取每条子字幕数据中所包含的各个单一字符的时间戳;将每条子字幕数据叠加至对应的直播音视频数据流上,包括:根据所述时间戳将子字幕数据叠加至对应的直播音视频数据流上,以使所述字幕数据与所述直播音视频数据流同步。具体的,字幕数据中各单一字符的时间戳是每个字符在直播音视频数据流中对应起止时间。其中,可以在直播音视频数据流中的音频数据流进行识别,以确定对应的字幕数据的过程中,获取字幕数据所包含的各个字符的时间戳。根据时间戳将各条子字幕数据叠加至对应的直播音视频数据流上,具体的,根据子字幕数据中各单一字符的时间戳与直播音视频数据流的时间戳,将每条子字幕数据添加至对应的直播音视频数据流中,以使字幕数据的显示时间与直播音视频数据流播放时间对齐或同步,实现直播的“音画同步”。
步骤150,播放带字幕数据的直播音视频数据流。
在本公开实施例中,在音视频播放界面中播放带字幕数据的直播音视频数据流。可以理解的是,用户在观看音视频播放界面播放的直播音视频数据流时,不仅可以看到直播音视频数据流中的视频画面,听到直播音视频数据流中的语音信息,还可以看到与直播音视频数据流中的语音信息同步显示的字幕数据,并且同步显示的字幕数据逐条显示,长度适中,且比较稳定。
本公开实施例,实时采集直播音视频数据流,并确定与所述直播音视频数据流对应的字幕数据;按照预设方式对所述字幕数据进行切分,生成至少一条子字幕数据;确定每条子字幕数据的开始播放时间和结束播放时间;基于所述开始播放时间和所述结束播放时间,将每条子字幕数据叠加至对应的直播音视频数据流上;播放带字幕数据的直播音视频数据流。本公开实施例提供的字幕显示方法,通过对字幕数据的切分操作可以使字幕数据在音视频直播画面中按句呈现,长度适中,不仅实现“影院级”字幕的呈现方式,方便用户观看、消化、理解字幕内容,可大大提高用户观看直播音视频的体验,而且也可有效保证字幕数据在音视频直播画面中显示的稳定性,保证直播的“音画同步”,同时也解决了现有技术中“打字机”方式显示字幕,由于字幕不稳地导致字幕在直播画面中跳动性大、用户的视觉难以聚焦、容易视觉疲劳,且字幕呈段显示,可读性差的技术问题。
在一些实施例中,基于所述音频数据流确定与所述直播音视频数据流对应的字幕数据,包括:对所述音频数据流进行语音识别,生成属于第一语种的字幕数据;将所述属于第一语种的字幕数据翻译为属于第二语种的字幕数据;将所述属于第一语种的字幕数据和所述属于第二语种的字幕数据,确定为所述直播音视频数据流对应的字幕数据。这样设置的好处在于,可以获取直播音视频数据流对应的同声传译字幕,且在音视频播放界面中同声传译字幕逐条显示,长度适中,可大大提高用户的观看体验。
示例性的,基于ASR技术对音频数据流进行语音识别,生成属于第一语种的字幕数据,其中,第一语种为与音频数据中的语音信息所属的语种。基于机器翻译技术将属于第一语种的字幕数据翻译为第二语种的字幕数据,其中,第二语种为与第一语种不同的语种,第二语种可以为一种,也可以为多种。例如,第一语种和第二语种可以为中文、英语、法语、德语、韩语等语种。将属于第一语种的字幕数据和属于第二语种的字幕数据,共同确定为直播音视频数据流对应的字幕数据,也即直播音视频数据流对应的同声传译字幕数据。
可选的,将所述属于第一语种的字幕数据和所述属于第二语种的字幕数据,确定为所述直播音视频数据流对应的字幕数据,包括:根据接收到的修正信息,对所述属于第一语种的字幕数据和所述属于第二语种的字幕数据进行修正;将修正后的属于第一语种的字幕数据和修正后的属于第二语种的字幕数据,确定为所述直播音视频数据流对应的字幕数据。这样设置的好处在于,可以准确获取直播音视频数据流对应的同声传译字幕。
示例性的,当主讲人发音不标准或语音数据中包含专业术语词汇时,可能导致对音频数据流进行语音识别获取的属于第一语种的字幕数据不准确,从而导致翻译生成的属于第二语种的字幕数据也不准确。因此,可根据译员输入的修正信息,对属于第一语种的字幕数据和/或属于第二语种的字幕数据进行修改。例如,可对属于第一语种的字幕数据进行修改后,基于机器翻译技术将修改后的属于第一语种的字幕数据翻译为属于第二语种的字幕数据,当译员认为属于第二语种的字幕数据依旧不准确时,可基于接收到的对属于第二语种的字幕数据的修正信息,对属于第二语种的字幕数据进行修正。又例如,可根据接收到的对属于第二语种的字幕数据的修正信息,对属于第二语种的字幕数据进行修改,再基于修改后的属于第二语种的字幕数据对属于第一语种的字幕数据进行修改。
在一些实施例中,基于所述开始播放时间和所述结束播放时间,将每条子字幕数据叠加至对应的直播音视频数据流上,包括:基于所述开始播放时间和所述结束播放时间,将每条子字幕数据中的属于第二语种的字幕数据与所述属于第一语种的字幕数据,以上下对应关系的呈现方式,叠加至所述直播音视频数据流上。这样设置的好处在于,当同声传译字幕在音视频直播画面中逐条播放时,将观众语种对应的字幕数据(译文)在上,主讲人语种对应的字幕数据在下,并呈对应关系的方式进行显示,重点突出,简单清晰,可以大大提高用户的阅读体验。
示例性的,第一语种为直播音视频数据流的语音信息所属语种,也即第一语种的字幕数据为直播音视频数据流中的主讲人的语种对应的文字信息,而第二语种所属的字幕数据为用户观看同声传译的直播音视频数据流时,用户使用的语种对应的文字信息。因此,可将每条子字幕数据中属于第二语种的字幕数据与属于第一语种的字幕数据呈上下对应关系的方式叠加至直播音视频数据流上,可以理解的是,在音视频直播画面播放带双语字幕数据的直播音视频数据流时,属于第二语种的字幕数据呈现在属于第一语种的字幕数据的上方位置,且属于第二语种的字幕数据与属于第一语种的字幕数据一一对应,对照显示。
在一些实施例中,实时采集直播音视频数据流,并确定与所述直播音视频数据流对应的字幕数据,包括:实时采集直播音视频数据流,并基于预设延时时长对所述直播音视频数据流进行缓存;在所述预设延时时长内,确定与所述直播音视频数据流对应的字幕数据;播放所述目标音视频数据流,包括:在所述延时时长结束时,播放所述目标音视频数据流。这样设置的好处在于,通过基于预设延时时长对实时采集的直播音视频数据流进行缓存,并在预设延时时长内,准确确定与直播音视频数据流对应的字幕数据,在延时时长结束时播放带字幕数据的直播音视频数据流,可以有效保证字幕确定的准确性及字幕在直播音视频数据流中显示的稳定性,实现直播“音画同步”,大大提高了用户体验。
其中,预设延时时长可以根据实际需求预先进行设定,例如可以是1min。当然,用户可以根据具体情况随时对预设延时时长进行调整,已达到预期效果。例如,可以根据直播音视频数据流的直播场景对预设延时时长进行设定,其中,直播音视频数据流的直播场景不同,对应的预设延时时长可以不同,对直播的实时性要求越高,对应的预设延时时长越短,反之,对直播的实时性要求越低,对应的预设延时时长越长。例如,直播音视频数据流为对某大型的足球比赛进行直播而采集的音视频数据,则可将预设延时时长设置为10s,直播音视频数据流为对某学术会议进行直播而采集的音视频数据,则可将预设延时时长设置为5min。在预设延时时长内,可基于语音识别技术及机器翻译技术确定与直播音视频数据流对应的同声传译字幕数据,并且当同声传译字幕数据不准确时,在预设延时时长内,使得人工有充足的时间,对同声传译字幕进行更全面的校对、修正,充分保障最终显示的字幕的强可读性和准确性,达到“人工字幕”级别。当预设延时时长结束时,播放缓存的带字幕数据的直播音视频数据流。示例性的,预设延时时长结束时,按照直播音视频数据流的播放速度或采集频率,播放带字幕数据的音视频数据流,可以理解的是,将直播音视频数据流以带字幕数据的形式整体上延时播放预设延时时长。具体的,实时采集的直播音视频流为8:00-9:00这段时间的直播的音视频数据,预设延时时长为5min,则在8:05-9:05播放带字幕数据的直播音视频数据流。示例性的,为了方便理解,可以将直播音视频数据流假设拆分为10条直播音视频数据,每条直播音视频数据对应一条字幕数据,若第一条直播音视频数据的实时采集时刻为8:00,播放时长为1min,第二条直播音视频数据的实时采集时刻为8:01,播放时长为2min,则在本公开实施例提供的技术方案,若延时时长为5min,则8:05播放第一条带字幕数据的直播音视频数据,播放时长为1min,8:06播放第二条带字幕数据的直播音视频数据,播放时长为2min,依次类推。由于直播音视频数据流对应的字幕数据已稳定,有效解决了现有技术中“打字机”方式显示字幕,由于字幕不稳地导致字幕在直播画面中跳动性大、用户的视觉难以聚焦、容易视觉疲劳,以及字幕内容的停留时间短,观众的实际阅读体验较差的技术问题。
在一些实施例中,在对所述音频数据流进行语音识别,生成属于第一语种的字幕数据之前,还包括:根据用户输入的语种切换指令,确定语音识别的目标语种;对所述音频数据流进行语音识别,生成属于第一语种的字幕数据,包括:基于目标语种对所述音频数据流进行语音识别,生成属于第一语种的字幕数据;其中,所述第一语种与所述目标语种相同。这样设置的好处在于,可以在直播中根据主讲人或发言人的语种变化,一键切换识别语种,有助于提高字幕数据确定的速度和准确性,而且可进一步保证直播“音画同步”,使用户全程感受实时流畅的字幕。
示例性的,在中国人A采访英国人B的直播场景下,当中国人A发言的过程中,实时采集的直播音视频数据流中包含的音频数据流为中文语种的语音,而当英国人B发言的过程中,实时采集的直播音视频数据流中包含的音频数据流为英语语种的语音。因此,可在中国人A与英国人B发言切换时刻,对语音识别的语种进行切换。具体的,接收用户输入的语种切换指令,将切换后的语种作为语音识别的目标语种,也即在对直播音视频数据流中的音频数据流进行语音识别时,基于目标语种进行语音识别。示例性的,由中国人A发言切换到英国人B发言时,根据用户输入的语种切换指令,即将中文语种切换至英语语种的切换指令,将英语作为当前待进行语音识别的目标语种,可有效避免继续基于中文语种对英国人讲话的内容进行语音识别时,语音识别结果错误的情况发生。
在一些实施例中,还包括:确定用户对所述字幕数据的修改速度,并基于所述修改速度对所述预设延时时长进行调整;或者,确定所述直播音视频数据流的直播场景信息,并基于所述直播场景信息对所述预设延时时长进行调整。这样设置的好处在于,可以根据需求灵活调整预设延时时长,从而进一步保证直播的“音画同步”。
示例性的,当确定的与直播音视频数据流对应的字幕数据不够准确时,可在预设延时时长内通过人工方式对字幕数据进行修改、校正,以保证字幕数据的准确性。而如果预设延时时长较短,用户对字幕数据的修改速度较慢时,容易导致未获取准确的字幕数据时就播放直播音视频数据流,使得在音视频直播画面中呈现的字幕数据无法准确反映主讲人表达的真实语音信息。因此,可确定用户对字幕数据的修改速度,例如,从服务器获取历史时间段内用户对字幕数据的修改速度,并对历史时间段内用户对字幕数据的修改速度进行统计,可将用户对字幕数据的修改速度均值作为当前用户对字幕数据的修改速度。基于修改速度对预设延时时长进行调整,例如,当修改速度大于预设速度阈值时,可适当减小该预设延时时长,当修改速度小于预设速度阈值时,可适当增加该预设延时时长。
示例性的,预设延时时长越短,说明对直播音视频数据流播放的实时性越好,而预设延时时长越长,说明对直播音视频数据流播放的实时性越差。而不同的直播场景对直播的实时性要求不同。如足球比赛直播、传媒活动直播的实时性要求较高,而学术会议直播、演讲比赛直播的实时性要求相对较低。因此,可确定直播音视频数据流的直播场景信息,并根据直播场景信息对预设延时时长进行调整。具体的,可提供包含各种直播场景的下拉菜单,根据用户的点选操作确定当前直播音视频数据流的直播场景信息;还可根据直播音视频数据流中的音频数据和/或视频数据确定直播场景信息。根据直播场景信息对预设延时时长进行调整,具体的,当直播场景信息为对直播实时性要求较高类的场景信息时,可减小预设延时时长;当直播场景信息为对直播实时性要求较低类的场景信息时,可增加预设延时时长。可选的,还可根据直播场景与预设延时时长的对应关系表,确定与当前直播场景信息对应的目标延时时长,将所述预设延时时长调整为目标延时时长。
图2是本公开另一实施例中的一种字幕显示方法的流程图,如图2所示,该方法包括如下步骤:
步骤210,实时采集直播音视频数据流,并从直播音视频数据流中提取音频数据流。
步骤220,对音频数据流进行语音识别,生成属于第一语种的字幕数据。
步骤230,将属于第一语种的字幕数据翻译为属于第二语种的字幕数据。
步骤240,根据接收到的修正信息,对属于第一语种的字幕数据和属于第二语种的字幕数据进行修正。
步骤250,将修正后的属于第一语种的字幕数据和修正后的属于第二语种的字幕数据,确定为直播音视频数据流对应的字幕数据。
步骤260,按照预设方式对字幕数据进行切分,生成至少一条子字幕数据。
步骤270,确定每条子字幕数据的开始播放时间和结束播放时间。
步骤280,基于开始播放时间和结束播放时间,将每条子字幕数据中的属于第二语种的字幕数据与属于第一语种的字幕数据,以上下对应关系的呈现方式,叠加至直播音视频数据流上。
步骤290,播放带字幕数据的直播音视频数据流。
本公开实施例提供的字幕显示方法,准确确定与直播音视频数据流对应的同声传译字幕数据(属于第一语种的字幕数据和属于第二语种的字幕数据),并通过对同声传译字幕数据的切分操作可以使字幕数据在音视频直播画面中按句呈现,长度适中,不仅实现“影院级”字幕的呈现方式,方便用户观看、消化、理解字幕内容,可大大提高用户观看直播音视频的体验。另外,还可以将观众语种对应的字幕数据(属于第二语种的字幕数据)在上,主讲人语种对应的字幕数据(属于第一语种的字幕数据)在下,并呈对应关系的方式进行显示,重点突出,简单清晰,可以大大提高用户的阅读体验。
图3是本公开另一实施例中的一种字幕显示方法的流程图,如图3所示,该方法包括如下步骤:
步骤310,实时采集直播音视频数据流,并基于预设延时时长对直播音视频数据流进行缓存。
步骤320,在预设延时时长内,确定与直播音视频数据流对应的字幕数据。
步骤330,按照预设方式对字幕数据进行切分,生成至少一条子字幕数据。
步骤340,确定每条子字幕数据的开始播放时间和结束播放时间。
步骤350,基于开始播放时间和结束播放时间,将每条子字幕数据叠加至对应的直播音视频数据流上。
步骤360,在预设延时时长结束时,播放带字幕数据的直播音视频数据流。
本公开实施例提供的字幕显示方法,通过延时播放策略,可以有效保证字幕确定的准确性及字幕在直播音视频数据流中显示的稳定性,而且通过对字幕数据的切分操作可以使字幕数据在音视频直播画面中按句呈现,长度适中,实现“影院级”字幕的呈现方式,可大大提高用户观看直播音视频的体验。
图4是本公开另一实施例中的一种字幕显示方法的流程图,如图4所示,该方法包括如下步骤:
步骤410,实时采集直播音视频数据流,并基于预设延时时长对直播音视频数据流进行缓存。
步骤420,在预设延时时长内,从直播音视频数据流中提取音频数据流。
步骤430,对音频数据流进行语音识别,生成属于第一语种的字幕数据。
步骤440,将属于第一语种的字幕数据翻译为属于第二语种的字幕数据。
步骤450,根据接收到的修正信息,对属于第一语种的字幕数据和属于第二语种的字幕数据进行修正。
步骤460,将修正后的属于第一语种的字幕数据和修正后的属于第二语种的字幕数据,确定为直播音视频数据流对应的字幕数据。
步骤470,按照预设方式对直播音视频数据流对应的字幕数据进行切分,生成至少一条子字幕数据。
步骤480,确定每条子字幕数据的开始播放时间和结束播放时间。
步骤490,基于开始播放时间和结束播放时间,将每条子字幕数据叠加至对应的直播音视频数据流上。
步骤4100,在预设延时时长结束时,播放带字幕数据的直播音视频数据流。
本公开实施例提供的字幕显示方法,通过基于预设延时时长对实时采集的直播音视频数据流进行缓存,并在预设延时时长内,通过语音识别技术和机器翻译技术获取与直播音视频数据流对应的同声传译字幕数据,并且在延时时长内使得人工有充足的时间,对同声传译字幕进行更全面的校对、修正,充分保障最终显示的字幕的强可读性和准确性,达到“人工字幕”级别。另外通过对字幕数据的切分操作可以使同声传译字幕数据在音视频直播画面中按句呈现,长度适中,实现“影院级”字幕的呈现方式,可大大提高用户观看直播音视频的体验。
图5为本公开另一实施例提供的一种字幕显示装置的结构示意图。如图5所示,该装置包括:字幕数据确定模块510,字幕数据切分模块520,时间确定模块530,字幕数据叠加模块540和音视频数据播放模块550。
字幕数据确定模块510,用于实时采集直播音视频数据流,并确定与所述直播音视频数据流对应的字幕数据;
字幕数据切分模块520,用于按照预设方式对所述字幕数据进行切分,生成至少一条子字幕数据;
时间确定模块530,用于确定每条子字幕数据的开始播放时间和结束播放时间;
字幕数据叠加模块540,用于基于所述开始播放时间和所述结束播放时间,将每条子字幕数据叠加至对应的直播音视频数据流上;
音视频数据播放模块550,用于播放带字幕数据的直播音视频数据流。
本公开实施例,实时采集直播音视频数据流,并确定与所述直播音视频数据流对应的字幕数据;按照预设方式对所述字幕数据进行切分,生成至少一条子字幕数据;确定每条子字幕数据的开始播放时间和结束播放时间;基于所述开始播放时间和所述结束播放时间,将每条子字幕数据叠加至对应的直播音视频数据流上;播放带字幕数据的直播音视频数据流。本公开实施例提供的字幕显示装置,通过对字幕数据的切分操作可以使字幕数据在音视频直播画面中按句呈现,长度适中,不仅实现“影院级”字幕的呈现方式,方便用户观看、消化、理解字幕内容,可大大提高用户观看直播音视频的效果,而且也可有效保证字幕数据在音视频直播画面中显示的稳定性,保证直播的“音画同步”,同时也解决了现有技术中“打字机”方式显示字幕,由于字幕不稳地导致字幕在直播画面中跳动性大、用户的视觉难以聚焦、容易视觉疲劳,且字幕呈段显示,可读性差的技术问题。
可选的,所述字幕数据切分模块,用于:
在确定与所述直播音视频数据流对应的字幕数据的过程中,基于语音边界检测VAD方式对所述字幕数据进行切分;和/或基于知识图谱对所述字幕数据进行切分;或者,
基于预设字符数量对所述字幕数据进行切分,以使每条字幕数据包含所述预设字符数量的字符。
可选的,所述字幕数据确定模块,包括:
音频数据提取单元,用于从所述直播音视频数据流中提取音频数据流;
字幕数据确定单元,用于基于所述音频数据流确定与所述直播音视频数据流对应的字幕数据。
可选的,所述字幕数据确定单元,包括:
语音识别子单元,用于对所述音频数据流进行语音识别,生成属于第一语种的字幕数据;
翻译子单元,用于将所述属于第一语种的字幕数据翻译为属于第二语种的字幕数据;
字幕数据确定子单元,用于将所述属于第一语种的字幕数据和所述属于第二语种的字幕数据,确定为所述直播音视频数据流对应的字幕数据。
可选的,所述字幕数据确定子单元,用于:
根据接收到的修正信息,对所述属于第一语种的字幕数据和所述属于第二语种的字幕数据进行修正;
将修正后的属于第一语种的字幕数据和修正后的属于第二语种的字幕数据,确定为所述直播音视频数据流对应的字幕数据。
可选的,所述字幕数据叠加模块,用于:
基于所述开始播放时间和所述结束播放时间,将每条子字幕数据中的属于第二语种的字幕数据与所述属于第一语种的字幕数据,以上下对应关系的呈现方式,叠加至所述直播音视频数据流上。
可选的,所述字幕数据确定模块,用于:
实时采集直播音视频数据流,并基于预设延时时长对所述直播音视频数据流进行缓存;
在所述预设延时时长内,确定与所述直播音视频数据流对应的字幕数据;
所述音视频数据播放模块,用于:
在所述延时时长结束时,播放所述目标音视频数据流。
上述装置可执行本公开前述所有实施例所提供的方法,具备执行上述方法相应的功能模块和有益效果。未在本公开实施例中详尽描述的技术细节,可参见本公开前述所有实施例所提供的方法。
下面参考图6,其示出了适于用来实现本公开实施例的电子设备300的结构示意图。本公开实施例中的电子设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端,或者各种形式的服务器,如独立服务器或者服务器集群。图6示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图6所示,电子设备300可以包括处理装置(例如中央处理器、图形处理器等)301,其可以根据存储在只读存储装置(ROM)302中的程序或者从存储装置305加载到随机访问存储装置(RAM)303中的程序而执行各种适当的动作和处理。在RAM 303中,还存储有电子设备300操作所需的各种程序和数据。处理装置301、ROM 302以及RAM 303通过总线304彼此相连。输入/输出(I/O)接口305也连接至总线304。
通常,以下装置可以连接至I/O接口305:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置306;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置307;包括例如磁带、硬盘等的存储装置308;以及通信装置309。通信装置309可以允许电子设备300与其他设备进行无线或有线通信以交换数据。虽然图6示出了具有各种装置的电子设备300,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行词语的推荐方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置309从网络上被下载和安装,或者从存储装置305被安装,或者从ROM 302被安装。在该计算机程序被处理装置301执行时,执行本公开实施例的方法中限定的上述功能。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:实时采集直播音视频数据流,并确定与所述直播音视频数据流对应的字幕数据;按照预设方式对所述字幕数据进行切分,生成至少一条子字幕数据;确定每条子字幕数据的开始播放时间和结束播放时间;基于所述开始播放时间和所述结束播放时间,将每条子字幕数据叠加至对应的直播音视频数据流上;播放带字幕数据的直播音视频数据流。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,单元的名称在某种情况下并不构成对该单元本身的限定。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
根据本公开实施例的一个或多个实施例,本公开实施例提供了一种字幕显示方法,包括:
实时采集直播音视频数据流,并确定与所述直播音视频数据流对应的字幕数据;
按照预设方式对所述字幕数据进行切分,生成至少一条子字幕数据;
确定每条子字幕数据的开始播放时间和结束播放时间;
基于所述开始播放时间和所述结束播放时间,将每条子字幕数据叠加至对应的直播音视频数据流上;
播放带字幕数据的直播音视频数据流。
进一步地,按照预设方式对所述字幕数据进行切分,包括:
在确定与所述直播音视频数据流对应的字幕数据的过程中,基于语音边界检测VAD方式对所述字幕数据进行切分;和/或基于知识图谱对所述字幕数据进行切分;或者,
基于预设字符数量对所述字幕数据进行切分,以使每条字幕数据包含所述预设字符数量的字符。
进一步地,确定与所述直播音视频数据流对应的字幕数据,包括:
从所述直播音视频数据流中提取音频数据流;
基于所述音频数据流确定与所述直播音视频数据流对应的字幕数据。
进一步地,基于所述音频数据流确定与所述直播音视频数据流对应的字幕数据,包括:
对所述音频数据流进行语音识别,生成属于第一语种的字幕数据;
将所述属于第一语种的字幕数据翻译为属于第二语种的字幕数据;
将所述属于第一语种的字幕数据和所述属于第二语种的字幕数据,确定为所述直播音视频数据流对应的字幕数据。
进一步地,将所述属于第一语种的字幕数据和所述属于第二语种的字幕数据,确定为所述直播音视频数据流对应的字幕数据,包括:
根据接收到的修正信息,对所述属于第一语种的字幕数据和所述属于第二语种的字幕数据进行修正;
将修正后的属于第一语种的字幕数据和修正后的属于第二语种的字幕数据,确定为所述直播音视频数据流对应的字幕数据。
进一步地,基于所述开始播放时间和所述结束播放时间,将每条子字幕数据叠加至对应的直播音视频数据流上,包括:
基于所述开始播放时间和所述结束播放时间,将每条子字幕数据中的属于第二语种的字幕数据与所述属于第一语种的字幕数据,以上下对应关系的呈现方式,叠加至所述直播音视频数据流上。
进一步地,实时采集直播音视频数据流,并确定与所述直播音视频数据流对应的字幕数据,包括:
实时采集直播音视频数据流,并基于预设延时时长对所述直播音视频数据流进行缓存;
在所述预设延时时长内,确定与所述直播音视频数据流对应的字幕数据;
播放所述目标音视频数据流,包括:
在所述延时时长结束时,播放所述目标音视频数据流。
注意,上述仅为本公开的较佳实施例及所运用技术原理。本领域技术人员会理解,本公开不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本公开的保护范围。因此,虽然通过以上实施例对本公开进行了较为详细的说明,但是本公开不仅仅限于以上实施例,在不脱离本公开构思的情况下,还可以包括更多其他等效实施例,而本公开的范围由所附的权利要求范围决定。
Claims (10)
1.一种字幕显示方法,其特征在于,包括:
实时采集直播音视频数据流,并确定与所述直播音视频数据流对应的字幕数据;
按照预设方式对所述字幕数据进行切分,生成至少一条子字幕数据;
确定每条子字幕数据的开始播放时间和结束播放时间;
基于所述开始播放时间和所述结束播放时间,将每条子字幕数据叠加至对应的直播音视频数据流上;
播放带字幕数据的直播音视频数据流。
2.根据权利要求1所述的方法,其特征在于,按照预设方式对所述字幕数据进行切分,包括:
在确定与所述直播音视频数据流对应的字幕数据的过程中,基于语音边界检测VAD方式对所述字幕数据进行切分;和/或基于知识图谱对所述字幕数据进行切分;或者,
基于预设字符数量对所述字幕数据进行切分,以使每条字幕数据包含所述预设字符数量的字符。
3.根据权利要求1所述的方法,其特征在于,确定与所述直播音视频数据流对应的字幕数据,包括:
从所述直播音视频数据流中提取音频数据流;
基于所述音频数据流确定与所述直播音视频数据流对应的字幕数据。
4.根据权利要求3所述的方法,其特征在于,基于所述音频数据流确定与所述直播音视频数据流对应的字幕数据,包括:
对所述音频数据流进行语音识别,生成属于第一语种的字幕数据;
将所述属于第一语种的字幕数据翻译为属于第二语种的字幕数据;
将所述属于第一语种的字幕数据和所述属于第二语种的字幕数据,确定为所述直播音视频数据流对应的字幕数据。
5.根据权利要求4所述的方法,其特征在于,将所述属于第一语种的字幕数据和所述属于第二语种的字幕数据,确定为所述直播音视频数据流对应的字幕数据,包括:
根据接收到的修正信息,对所述属于第一语种的字幕数据和所述属于第二语种的字幕数据进行修正;
将修正后的属于第一语种的字幕数据和修正后的属于第二语种的字幕数据,确定为所述直播音视频数据流对应的字幕数据。
6.根据权利要求4所述的方法,其特征在于,基于所述开始播放时间和所述结束播放时间,将每条子字幕数据叠加至对应的直播音视频数据流上,包括:
基于所述开始播放时间和所述结束播放时间,将每条子字幕数据中的属于第二语种的字幕数据与所述属于第一语种的字幕数据,以上下对应关系的呈现方式,叠加至所述直播音视频数据流上。
7.根据权利要求1-6任一所述的方法,其特征在于,实时采集直播音视频数据流,并确定与所述直播音视频数据流对应的字幕数据,包括:
实时采集直播音视频数据流,并基于预设延时时长对所述直播音视频数据流进行缓存;
在所述预设延时时长内,确定与所述直播音视频数据流对应的字幕数据;
播放带字幕数据的直播音视频数据流,包括:
在所述延时时长结束时,播放带字幕数据的直播音视频数据流。
8.一种字幕显示装置,其特征在于,包括:
字幕数据确定模块,用于实时采集直播音视频数据流,并确定与所述直播音视频数据流对应的字幕数据;
字幕数据切分模块,用于按照预设方式对所述字幕数据进行切分,生成至少一条子字幕数据;
时间确定模块,用于确定每条子字幕数据的开始播放时间和结束播放时间;
字幕数据叠加模块,用于基于所述开始播放时间和所述结束播放时间,将每条子字幕数据叠加至对应的直播音视频数据流上;
音视频数据播放模块,用于播放在字幕数据的直播音视频数据流。
9.一种电子设备,其特征在于,所述电子设备包括:
一个或多个处理装置;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理装置执行,使得所述一个或多个处理装置实现如权利要求1-7中任一所述的字幕显示方法。
10.一种计算机可读介质,其上存储有计算机程序,其特征在于,该程序被处理装置执行时实现如权利要求1-7中任一所述的字幕显示方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011460178.6A CN112601101B (zh) | 2020-12-11 | 2020-12-11 | 一种字幕显示方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011460178.6A CN112601101B (zh) | 2020-12-11 | 2020-12-11 | 一种字幕显示方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112601101A true CN112601101A (zh) | 2021-04-02 |
CN112601101B CN112601101B (zh) | 2023-02-24 |
Family
ID=75192626
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011460178.6A Active CN112601101B (zh) | 2020-12-11 | 2020-12-11 | 一种字幕显示方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112601101B (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112995736A (zh) * | 2021-04-22 | 2021-06-18 | 南京亿铭科技有限公司 | 语音字幕合成方法、装置、计算机设备及存储介质 |
CN113891108A (zh) * | 2021-10-19 | 2022-01-04 | 北京有竹居网络技术有限公司 | 字幕优化方法、装置、电子设备和存储介质 |
CN113992926A (zh) * | 2021-10-19 | 2022-01-28 | 北京有竹居网络技术有限公司 | 界面显示方法、装置、电子设备和存储介质 |
CN114630140A (zh) * | 2022-03-17 | 2022-06-14 | 阿里巴巴(中国)有限公司 | 基于音频数据的信息设置方法及装置 |
CN115474066A (zh) * | 2021-06-11 | 2022-12-13 | 北京有竹居网络技术有限公司 | 一种字幕处理方法、装置、电子设备和存储介质 |
CN115633194A (zh) * | 2022-12-21 | 2023-01-20 | 易方信息科技股份有限公司 | 直播回放方法、装置、计算机设备及存储介质 |
WO2023169240A1 (zh) * | 2022-03-09 | 2023-09-14 | 湖南国科微电子股份有限公司 | 字幕同步方法、装置、机顶盒及计算机可读存储介质 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102833638A (zh) * | 2012-07-26 | 2012-12-19 | 北京数视宇通技术有限公司 | 基于字幕信息的视频自动切分及标注方法及系统 |
CN105704538A (zh) * | 2016-03-17 | 2016-06-22 | 广东小天才科技有限公司 | 一种音视频字幕生成方法及系统 |
CN106792069A (zh) * | 2015-11-19 | 2017-05-31 | 北京国双科技有限公司 | 多媒体文件播放方法及装置 |
CN106792145A (zh) * | 2017-02-22 | 2017-05-31 | 杭州当虹科技有限公司 | 一种音视频自动叠加字幕的方法和装置 |
US20170353770A1 (en) * | 2014-12-12 | 2017-12-07 | Shenzhen Tcl Digital Technology Ltd. | Subtitle switching method and device |
CN108615527A (zh) * | 2018-05-10 | 2018-10-02 | 腾讯科技(深圳)有限公司 | 基于同声传译的数据处理方法、装置和存储介质 |
CN110769265A (zh) * | 2019-10-08 | 2020-02-07 | 深圳创维-Rgb电子有限公司 | 一种同声字幕翻译方法、智能电视及存储介质 |
-
2020
- 2020-12-11 CN CN202011460178.6A patent/CN112601101B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102833638A (zh) * | 2012-07-26 | 2012-12-19 | 北京数视宇通技术有限公司 | 基于字幕信息的视频自动切分及标注方法及系统 |
US20170353770A1 (en) * | 2014-12-12 | 2017-12-07 | Shenzhen Tcl Digital Technology Ltd. | Subtitle switching method and device |
CN106792069A (zh) * | 2015-11-19 | 2017-05-31 | 北京国双科技有限公司 | 多媒体文件播放方法及装置 |
CN105704538A (zh) * | 2016-03-17 | 2016-06-22 | 广东小天才科技有限公司 | 一种音视频字幕生成方法及系统 |
CN106792145A (zh) * | 2017-02-22 | 2017-05-31 | 杭州当虹科技有限公司 | 一种音视频自动叠加字幕的方法和装置 |
CN108615527A (zh) * | 2018-05-10 | 2018-10-02 | 腾讯科技(深圳)有限公司 | 基于同声传译的数据处理方法、装置和存储介质 |
CN110769265A (zh) * | 2019-10-08 | 2020-02-07 | 深圳创维-Rgb电子有限公司 | 一种同声字幕翻译方法、智能电视及存储介质 |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112995736A (zh) * | 2021-04-22 | 2021-06-18 | 南京亿铭科技有限公司 | 语音字幕合成方法、装置、计算机设备及存储介质 |
CN115474066A (zh) * | 2021-06-11 | 2022-12-13 | 北京有竹居网络技术有限公司 | 一种字幕处理方法、装置、电子设备和存储介质 |
CN113891108A (zh) * | 2021-10-19 | 2022-01-04 | 北京有竹居网络技术有限公司 | 字幕优化方法、装置、电子设备和存储介质 |
CN113992926A (zh) * | 2021-10-19 | 2022-01-28 | 北京有竹居网络技术有限公司 | 界面显示方法、装置、电子设备和存储介质 |
CN113992926B (zh) * | 2021-10-19 | 2023-09-12 | 北京有竹居网络技术有限公司 | 界面显示方法、装置、电子设备和存储介质 |
WO2023169240A1 (zh) * | 2022-03-09 | 2023-09-14 | 湖南国科微电子股份有限公司 | 字幕同步方法、装置、机顶盒及计算机可读存储介质 |
CN114630140A (zh) * | 2022-03-17 | 2022-06-14 | 阿里巴巴(中国)有限公司 | 基于音频数据的信息设置方法及装置 |
CN115633194A (zh) * | 2022-12-21 | 2023-01-20 | 易方信息科技股份有限公司 | 直播回放方法、装置、计算机设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN112601101B (zh) | 2023-02-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112601101B (zh) | 一种字幕显示方法、装置、电子设备及存储介质 | |
CN112616062B (zh) | 一种字幕显示方法、装置、电子设备及存储介质 | |
US11463779B2 (en) | Video stream processing method and apparatus, computer device, and storage medium | |
US11252444B2 (en) | Video stream processing method, computer device, and storage medium | |
CN108600773B (zh) | 字幕数据推送方法、字幕展示方法、装置、设备及介质 | |
US10244291B2 (en) | Authoring system for IPTV network | |
US8931024B2 (en) | Receiving apparatus and subtitle processing method | |
US20210014574A1 (en) | Using Text Data in Content Presentation and Content Search | |
CN112601102A (zh) | 同声传译字幕的确定方法、装置、电子设备及存储介质 | |
US11595731B2 (en) | Implementation method and system of real-time subtitle in live broadcast and device | |
CN113259740A (zh) | 一种多媒体处理方法、装置、设备及介质 | |
CN102055941A (zh) | 视频播放器及视频播放方法 | |
US20140003792A1 (en) | Systems, methods, and media for synchronizing and merging subtitles and media content | |
CN111683266A (zh) | 一种视频同声翻译配置字幕方法及终端 | |
JP2012231383A (ja) | Iptvサービスを利用した情報表示制御装置、表示用情報提供サーバ、情報表示制御方法、情報配信方法、情報表示制御用プログラム、および情報配信用プログラム | |
CN113886612A (zh) | 一种多媒体浏览方法、装置、设备及介质 | |
CN207854084U (zh) | 一种字幕显示系统 | |
CN113992926B (zh) | 界面显示方法、装置、电子设备和存储介质 | |
JP2013046198A (ja) | テレビ視聴装置 | |
CN115623264A (zh) | 直播流的字幕处理方法、装置及直播流的播放方法、装置 | |
CN113891168A (zh) | 字幕处理方法、装置、电子设备和存储介质 | |
CN114125358A (zh) | 云会议字幕显示方法、系统、装置、电子设备和存储介质 | |
CN113923530B (zh) | 一种互动信息展示方法、装置、电子设备及存储介质 | |
CN113891108A (zh) | 字幕优化方法、装置、电子设备和存储介质 | |
CN115150631A (zh) | 字幕处理方法、装置、电子设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |