CN109599095A - 一种语音数据的标注方法、装置、设备和计算机存储介质 - Google Patents
一种语音数据的标注方法、装置、设备和计算机存储介质 Download PDFInfo
- Publication number
- CN109599095A CN109599095A CN201811389087.0A CN201811389087A CN109599095A CN 109599095 A CN109599095 A CN 109599095A CN 201811389087 A CN201811389087 A CN 201811389087A CN 109599095 A CN109599095 A CN 109599095A
- Authority
- CN
- China
- Prior art keywords
- voice data
- text identification
- identification result
- annotation results
- text
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 40
- 238000003860 storage Methods 0.000 title claims abstract description 24
- 230000009471 action Effects 0.000 claims abstract description 30
- 238000007689 inspection Methods 0.000 claims description 12
- 238000012797 qualification Methods 0.000 claims description 6
- 238000012549 training Methods 0.000 description 10
- 235000013399 edible fruits Nutrition 0.000 description 6
- 230000005291 magnetic effect Effects 0.000 description 6
- 238000012545 processing Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 5
- 238000001514 detection method Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 230000004044 response Effects 0.000 description 4
- 238000004590 computer program Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 238000012216 screening Methods 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000014759 maintenance of location Effects 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 230000008439 repair process Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 238000004904 shortening Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/06—Creation of reference templates; Training of speech recognition systems, e.g. adaptation to the characteristics of the speaker's voice
- G10L15/063—Training
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/26—Speech to text systems
Landscapes
- Engineering & Computer Science (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Artificial Intelligence (AREA)
- Telephonic Communication Services (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明提供一种语音数据的标注方法、装置、设备和计算机存储介质,其中所述方法包括:根据用户行为日志从线上拉取用户输入的语音数据;利用N个第一语音识别模型对所述语音数据进行识别,得到对应同一个语音数据的N个文本识别结果,其中N为大于等于2的正整数;判断同一个语音数据对应的N个文本识别结果彼此是否一致,若一致,则将N个文本识别结果中的任意一个作为该语音数据的标注结果。本发明能够降低语音数据的标注成本、缩短语音数据的标注周期并且提升语音数据的标注准确度。
Description
【技术领域】
本发明涉及自然语言处理技术领域,尤其涉及一种语音数据的标注方法、装置、设备和计算机存储介质。
【背景技术】
现有技术在训练得到语音识别模型时需要大量的训练数据,只有通过大量训练数据训练得到的语音识别模型才具有较强的泛化能力。因此,为了语音识别模型能够具有较强的泛化能力,往往需要大量的标注语音数据,即标注有文本识别结果的语音数据。
现有技术在进行语音数据的标注时,通常采用人工标注的方式进行。而采用人工方式对语音数据进行标注时,若想要获取足够数量的标注语音数据,需要耗费巨大的人力成本及财力成本,且人工标注的标注周期较长、标注准确度不够稳定。
【发明内容】
有鉴于此,本发明提供了一种语音数据的标注方法、装置、设备和计算机存储介质,能够降低语音数据的标注成本、缩短语音数据的标注周期并且提升语音数据的标注准确度。
本发明为解决技术问题所采用的技术方案是提供一种语音数据的标注方法,所述方法包括:根据用户行为日志从线上拉取用户输入的语音数据;利用N个第一语音识别模型对所述语音数据进行识别,得到对应同一个语音数据的N个文本识别结果,其中N为大于等于2的正整数;判断同一个语音数据对应的N个文本识别结果彼此是否一致,若一致,则将N个文本识别结果中的任意一个作为该语音数据的标注结果。
根据本发明一优选实施例,所述根据用户行为日志从线上拉取用户输入的语音数据包括:根据用户行为日志从线上拉取用户未修改文本识别结果的语音数据。
根据本发明一优选实施例,在所述利用N个第一语音识别模型对所述语音数据进行识别之前,还包括:根据用户行为日志从拉取的语音数据中确定用户未修改文本识别结果的语音数据。
根据本发明一优选实施例,所述判断同一个语音数据对应的N个文本识别结果彼此是否一致包括:计算所述同一个语音数据的N个文本识别结果彼此之间的文本相似度;当各文本识别结果彼此之间的文本相似度均大于预设阈值时,则确定该语音数据的多个文本识别结果彼此一致,否则不一致。
根据本发明一优选实施例,若判断同一个语音数据对应的N个文本识别结果彼此不一致,所述方法还包括:将文本识别结果彼此不一致的语音数据发送至标注平台进行人工标注;获取标注平台返回的人工标注结果,将人工标注结果作为该语音数据的标注结果。
根据本发明一优选实施例,所述方法还包括:获取用户在线上修改文本识别结果的语音数据;将所述用户修改文本识别结果的语音数据发送至标注平台进行人工标注;获取标注平台返回的人工标注结果,将人工标注结果作为该语音数据的标注结果。
根据本发明一优选实施例,在所述将N个文本识别结果中的任意一个作为该语音数据的标注结果之后,还包括:对所述语音数据的标注结果进行抽样质检;将质检结果达到预设要求的语音数据的标注结果确定为合格,否则确定为不合格;保留确定为合格的语音数据的标注结果。
根据本发明一优选实施例,若语音数据的标注结果确定为不合格,所述方法还包括:使用M个第二语音识别模型对标注结果不合格的语音数据进行识别,得到对应同一个语音数据的M个文本识别结果,其中M为大于等于2的正整数;若同一个语音数据的M个文本识别结果一致,则将M个文本识别结果中的任意一个作为该语音数据的标注结果,若不一致,则将该语音数据丢弃。
本发明为解决技术问题所采用的技术方案是提供一种语音数据的标注装置,所述装置包括:拉取单元,用于根据用户行为日志从线上拉取用户输入的语音数据;识别单元,用于利用N个第一语音识别模型对所述语音数据进行识别,得到对应同一个语音数据的N个文本识别结果,其中N为大于等于2的正整数;标注单元,用于判断同一个语音数据对应的N个文本识别结果彼此是否一致,若一致,则将N个文本识别结果中的任意一个作为该语音数据的标注结果。
根据本发明一优选实施例,所述拉取单元在根据用户行为日志从线上拉取用户输入的语音数据时,具体执行:根据用户行为日志,从线上拉取用户未修改文本识别结果的语音数据。
根据本发明一优选实施例,在所述识别单元利用N个第一语音识别模型对所述语音数据进行识别之前,具体执行:根据用户行为日志,从拉取的语音数据中确定用户未修改文本识别结果的语音数据。
根据本发明一优选实施例,所述标注单元在判断同一个语音数据对应的N个文本识别结果彼此是否一致时,具体执行:计算所述同一个语音数据的N个文本识别结果彼此之间的文本相似度;当各文本识别结果彼此之间的文本相似度均大于预设阈值时,则确定该语音数据的多个文本识别结果彼此一致,否则不一致。
根据本发明一优选实施例,若所述标注单元判断同一个语音数据对应的N个文本识别结果彼此不一致,还具体执行:将文本识别结果彼此不一致的语音数据发送至标注平台进行人工标注;获取标注平台返回的人工标注结果,将人工标注结果作为该语音数据的标注结果。
根据本发明一优选实施例,所述标注单元还具体执行:获取用户在线上修改文本识别结果的语音数据;将所述用户修改文本识别结果的语音数据发送至标注平台进行人工标注;获取标注平台返回的人工标注结果,将人工标注结果作为该语音数据的标注结果。
根据本发明一优选实施例,在所述标注单元将N个文本识别结果中的任意一个作为该语音数据的标注结果之后,还具体执行:对所述语音数据的标注结果进行抽样质检;将质检结果达到预设要求的语音数据的标注结果确定为合格,否则确定为不合格;保留确定为合格的语音数据的标注结果。
根据本发明一优选实施例,若语音数据的标注结果确定为不合格,所述标注单元还具体执行:使用M个第二语音识别模型对标注结果不合格的语音数据进行识别,得到对应同一个语音数据的M个文本识别结果,其中M为大于等于2的正整数;若同一个语音数据的M个文本识别结果一致,则将M个文本识别结果中的任意一个作为该语音数据的标注结果,若不一致,则将该语音数据丢弃。
由以上技术方案可以看出,本发明通过使用多个已有的语音识别模型对用户在线上所输入的语音数据进行标注,能够获取大量的标注语音数据,且能够实现降低语音数据的标注成本、缩短语音数据的标注周期并提升语音数据的标注准确度的目的,进而通过使用数量更多、准确度更高的标注语音数据训练得到泛化能力更强的语音识别模型。
【附图说明】
图1为本发明一实施例提供的语音数据的标注方法流程图;
图2为本发明一实施例提供的语音数据的标注装置结构图;
图3为本发明一实施例提供的计算机系统/服务器的框图。
【具体实施方式】
为了使本发明的目的、技术方案和优点更加清楚,下面结合附图和具体实施例对本发明进行详细描述。
在本发明实施例中使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本发明。在本发明实施例和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。
应当理解,本文中使用的术语“和/或”仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
取决于语境,如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”或“响应于检测”。类似地,取决于语境,短语“如果确定”或“如果检测(陈述的条件或事件)”可以被解释成为“当确定时”或“响应于确定”或“当检测(陈述的条件或事件)时”或“响应于检测(陈述的条件或事件)”。
图1为本发明一实施例提供的一种语音数据的标注方法流程图,如图1中所示,所述方法包括:
在101中,根据用户行为日志从线上拉取用户输入的语音数据。
在本步骤中,根据用户行为日志从线上拉取用户输入的语音数据。即拉取用户在使用不同应用时所输入的语音数据,例如用户在使用输入法、浏览器、地图等应用时所输入的语音数据。而用户通过所使用应用的线上语音识别模型,能够得到对应所输入语音数据的文本识别结果。
具体地,在根据用户行为日志从线上拉取用户输入的语音数据时,可以采用以下方式:根据用户行为日志从线上拉取用户未修改文本识别结果的语音数据,即从线上拉取用户对所得到的文本识别结果满意的语音数据。
也就是说,本步骤可以拉取不同用户在线上所输入的全部语音数据,也可以仅拉取不同用户在线上输入的、对文本识别结果满意的语音数据,从而进一步提升所拉取的语音数据的质量。
在102中,利用N个第一语音识别模型对所述语音数据进行识别,得到对应同一个语音数据的N个文本识别结果,其中N为大于等于2的正整数。
在本步骤中,利用N个第一语音识别模型对步骤101中拉取得到的各个语音数据进行识别,从而得到由N个第一语音识别模型输出的同一个语音数据所对应的N个文本识别结果,其中N为大于等于2的正整数。
其中,本步骤中的N个第一语音识别模型为不同产品线中已有的语音识别模型。也就是说,本步骤通过多个已有的语音识别模型来获取同一个语音数据的不同文本识别结果,进而实现根据同一语音数据的不同文本识别结果对语音数据进行标注的目的。而利用已有的语音识别模型获取语音数据的文本识别结果属于现有技术,在此不进行赘述。
可以理解的是,若步骤101从线上拉取的是用户输入的全部语音数据,则在本步骤之前还可以包括以下内容:根据用户行为日志从拉取的语音数据中确定用户未修改文本识别结果的语音数据;利用N个第一语音识别模型对所确定的语音数据进行识别,得到对应同一个语音数据的N个文本识别结果。通过上述对语音数据进行的筛选,能够得到更为优质的语音数据。
在103中,判断同一个语音数据对应的N个文本识别结果彼此是否一致,若一致,则将N个文本识别结果中的任意一个作为该语音数据的标注结果。
在本步骤中,根据步骤102中所得到的同一个语音数据的N个文本识别结果,判断对应同一个语音数据的多个文本识别结果彼此是否一致,若一致,则将该语音数据对应的N个文本识别结果中的任意一个作为该语音数据的标注结果,从而完成对语音数据的标注。
具体地,在判断同一个语音数据的N个文本识别结果彼此是否一致时,可以采用以下方式:计算同一个语音数据的N个文本识别结果彼此之间的文本相似度;当各文本识别结果彼此之间的文本相似度均大于预设阈值时,则确定该语音数据的多个文本识别结果彼此一致,否则不一致。
举例来说,若步骤102所得到的对应语音数据A的文本识别结果为文本1、文本2与文本3,当计算所得到的文本1与文本2、文本1与文本3以及文本2与文本3之间的文本相似度均大于预设阈值时,则确定文本1、文本2与文本3彼此一致,将文本1、文本2或者文本3中的任意一个作为语音数据A的标注结果,从而完成语音数据A的标注。若存在文本之间的文本相似度小于预设阈值的情况时,即可确定语音数据A的文本识别结果彼此不一致。
在本步骤中,若判断同一个语音数据的N个识别结果彼此不一致,可以直接将该语音数据丢弃。还可以采用以下方式:将文本识别结果彼此不一致的语音数据发送至标注平台进行人工标注;获取标注平台返回的人工标注结果,将人工标注结果作为该语音数据的标注结果,从而完成语音数据的标注。
可以理解的是,为了进一步增加标注语音数据的数量,若步骤102仅对用户未修改文本识别结果的语音数据进行识别时,本步骤还可以包括以下内容:获取用户在线上修改文本识别结果的语音数据,即获取用户对文本识别结果不满意的语音数据;将所获取的用户修改文本识别结果的语音数据发送至标注平台进行人工标注;获取标注平台返回的人工标注结果,将人工标注结果作为该语音数据的标注结果,从而完成语音数据的标注。
可以理解的是,若步骤101中仅从线上拉取了用户未修改文本识别结果的语音数据,则在获取用户在线上修改文本识别结果的语音数据时,可以根据用户行为日志再从线上拉取用户修改文本识别结果的语音数据。若步骤101中从线上拉取得到用户输入的全部语音数据,则可以根据用户行为日志从全部语音数据中获取用户修改文本识别结果的语音数据。
为了进一步提高标注语音数据的准确度,在得到语音数据的标注结果之后,还可以包括以下内容:对语音数据的标注结果进行抽样质检;将质检结果达到预设要求的语音数据的标注结果确定为合格,否则为不合格;其中,确定为合格的语音数据的标注结果能够进行使用,例如作为训练数据用于语音识别模型的训练。
为了能够获取更多数量的标注语音数据,还可以对标注结果确定为不合格的语音数据进行重新标注。在对标注结果确定为不合格的语音数据进行重新标注时,可以采用以下方式:使用M个第二语音识别模型对标注结果不合格的语音数据进行识别,得到对应同一个语音数据的M个文本识别结果,其中M为大于等于2的正整数;若同一个语音数据的M个文本识别结果一致,则将M个文本识别结果中的任意一个作为该语音数据的标注结果,从而完成语音数据的标注;若不一致,则将该语音数据丢弃。
可以理解的是,第二语音识别模型为不同于第一语音识别模型的已有语音识别模型,例如第一语音识别模型为模型A、模型B以及模型C,则第二语音识别模型可以为模型D以及模型E。
在对标注结果确定为不合格的语音数据进行重新标注时,还可以采用以下方式:将标注结果不合格的语音数据发送至标注平台进行人工标注;获取标注平台返回的人工标注结果,将人工标注结果作为该语音数据的标注结果,从而完成语音数据的标注。通过对质检不合格的语音数据进行重新标注,能够在语音数据已有数量的基础上,获取尽可能多的更为准确的标注语音数据。
本发明所提供的语音数据的标注方法相对于人工标注语音数据的方法来说,能够极大地缩短语音数据的标注周期、降低语音数据的标注成本、提高语音数据的标注准确度,进而实现使用数量更多、准确度更高的标注语音数据来训练得到具有更强泛化能力的语音识别模型的目的。
图2为本发明一实施例提供的一种语音数据的标注装置结构图,如图2中所示,所述装置包括:拉取单元21、识别单元22以及标注单元23。
拉取单元21,用于根据用户行为日志从线上拉取用户输入的语音数据。
拉取单元21根据用户行为日志从线上拉取用户输入的语音数据。即拉取用户在使用不同应用时所输入的语音数据,例如用户在使用输入法、浏览器、地图等应用时所输入的语音数据。而用户通过所使用应用的线上语音识别模型,能够得到对应所输入语音数据的文本识别结果。
具体地,拉取单元21在根据用户行为日志从线上拉取用户输入的语音数据时,可以采用以下方式:根据用户行为日志从线上拉取用户未修改文本识别结果的语音数据,即从线上拉取用户对所得到的文本识别结果满意的语音数据。
也就是说,拉取单元21可以拉取不同用户在线上所输入的全部语音数据,也可以仅拉取不同用户在线上输入的、对文本识别结果满意的语音数据,从而进一步提升所拉取的语音数据的质量。
识别单元22,用于利用N个第一语音识别模型对所述语音数据进行识别,得到对应同一个语音数据的N个文本识别结果,其中N为大于等于2的正整数。
识别单元22利用N个第一语音识别模型对步骤101中拉取得到的各个语音数据进行识别,从而得到由N个第一语音识别模型输出的同一个语音数据所对应的N个文本识别结果,其中N为大于等于2的正整数。
其中,识别单元22所使用的N个第一语音识别模型为不同产品线中已有的语音识别模型。也就是说,识别单元22通过多个已有的语音识别模型来获取同一个语音数据的不同文本识别结果,进而实现根据同一语音数据的不同文本识别结果对语音数据进行标注的目的。而利用已有的语音识别模型获取语音数据的文本识别结果属于现有技术,在此不进行赘述。
可以理解的是,若拉取单元21从线上拉取的是用户输入的全部语音数据,则识别单元22在利用N个第一语音识别模型对语音数据进行识别之前,还可以执行以下操作:根据用户行为日志从拉取的语音数据中确定用户未修改文本识别结果的语音数据;利用N个第一语音识别模型对所确定的语音数据进行识别,得到对应同一个语音数据的N个文本识别结果。通过上述对语音数据进行的筛选,能够得到更为优质的语音数据。
标注单元23,用于判断同一个语音数据对应的N个文本识别结果彼此是否一致,若一致,则将N个文本识别结果中的任意一个作为该语音数据的标注结果。
标注单元23根据识别单元22所得到的同一个语音数据的N个文本识别结果,判断对应同一个语音数据的多个文本识别结果彼此是否一致,若一致,则将该语音数据对应的N个文本识别结果中的任意一个作为该语音数据的标注结果,从而完成对语音数据的标注。
具体地,标注单元23在判断同一个语音数据的N个文本识别结果彼此是否一致时,可以采用以下方式:计算同一个语音数据的N个文本识别结果彼此之间的文本相似度;当各文本识别结果彼此之间的文本相似度均大于预设阈值时,则确定该语音数据的多个文本识别结果彼此一致,否则不一致。
标注单元23若判断同一个语音数据的N个识别结果彼此不一致,可以直接将该语音数据丢弃。还可以采用以下方式:将文本识别结果彼此不一致的语音数据发送至标注平台进行人工标注;获取标注平台返回的人工标注结果,将人工标注结果作为该语音数据的标注结果,从而完成语音数据的标注。
可以理解的是,标注单元23为了进一步增加标注语音数据的数量,若识别单元22仅对用户未修改文本识别结果的语音数据进行识别时,标注单元23还可以执行以下操作:获取用户在线上修改文本识别结果的语音数据,即获取用户对文本识别结果不满意的语音数据;将所获取的用户修改文本识别结果的语音数据发送至标注平台进行人工标注;获取标注平台返回的人工标注结果,将人工标注结果作为该语音数据的标注结果,从而完成语音数据的标注。
可以理解的是,若拉取单元21仅从线上拉取了用户未修改文本识别结果的语音数据,则在获取用户在线上修改文本识别结果的语音数据时,标注单元23可以根据用户行为日志再从线上拉取用户修改文本识别结果的语音数据。若拉取单元21从线上拉取得到用户输入的全部语音数据,则标注单元23可以根据用户行为日志从全部语音数据中获取用户修改文本识别结果的语音数据。
为了进一步提高标注语音数据的准确度,标注单元23在得到语音数据的标注结果之后,还可以执行以下操作:对语音数据的标注结果进行抽样质检;将质检结果达到预设要求的语音数据的标注结果确定为合格,否则确定为不合格;保留确定为合格的语音数据的标注结果,所保留的合格的语音数据的标注结果能够进行使用,例如作为训练数据用于语音识别模型的训练。
为了能够获取更多数量的标注语音数据,还可以对标注结果确定为不合格的语音数据进行重新标注。在对标注结果确定为不合格的语音数据进行重新标注时,标注单元23可以采用以下方式:使用M个第二语音识别模型对标注结果不合格的语音数据进行识别,得到对应同一个语音数据的M个文本识别结果,其中M为大于等于2的正整数;若同一个语音数据的M个文本识别结果一致,则将M个文本识别结果中的任意一个作为该语音数据的标注结果,从而完成语音数据的标注;若不一致,则将该语音数据丢弃。
可以理解的是,标注单元23所使用的第二语音识别模型为不同于识别单元22所使用的第一语音识别模型的已有语音识别模型,例如第一语音识别模型为模型A、模型B以及模型C,则第二语音识别模型可以为模型D以及模型E。
在对标注结果确定为不合格的语音数据进行重新标注时,标注单元23还可以采用以下方式:将标注结果不合格的语音数据发送至标注平台进行人工标注;获取标注平台返回的人工标注结果,将人工标注结果作为该语音数据的标注结果,从而完成语音数据的标注。
图3示出了适于用来实现本发明实施方式的示例性计算机系统/服务器012的框图。图3显示的计算机系统/服务器012仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图3所示,计算机系统/服务器012以通用计算设备的形式表现。计算机系统/服务器012的组件可以包括但不限于:一个或者多个处理器或者处理单元016,系统存储器028,连接不同系统组件(包括系统存储器028和处理单元016)的总线018。
总线018表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,外围总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(ISA)总线,微通道体系结构(MAC)总线,增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。
计算机系统/服务器012典型地包括多种计算机系统可读介质。这些介质可以是任何能够被计算机系统/服务器012访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
系统存储器028可以包括易失性存储器形式的计算机系统可读介质,例如随机存取存储器(RAM)030和/或高速缓存存储器032。计算机系统/服务器012可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例,存储系统034可以用于读写不可移动的、非易失性磁介质(图3未显示,通常称为“硬盘驱动器”)。尽管图3中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线018相连。存储器028可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块042的程序/实用工具040,可以存储在例如存储器028中,这样的程序模块042包括——但不限于——操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块042通常执行本发明所描述的实施例中的功能和/或方法。
计算机系统/服务器012也可以与一个或多个外部设备014(例如键盘、指向设备、显示器024等)通信,在本发明中,计算机系统/服务器012与外部雷达设备进行通信,还可与一个或者多个使得用户能与该计算机系统/服务器012交互的设备通信,和/或与使得该计算机系统/服务器012能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口022进行。并且,计算机系统/服务器012还可以通过网络适配器020与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器020通过总线018与计算机系统/服务器012的其它模块通信。应当明白,尽管图3中未示出,可以结合计算机系统/服务器012使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
处理单元016通过运行存储在系统存储器028中的程序,从而执行各种功能应用以及数据处理,例如实现本发明实施例所提供的方法流程。
上述的计算机程序可以设置于计算机存储介质中,即该计算机存储介质被编码有计算机程序,该程序在被一个或多个计算机执行时,使得一个或多个计算机执行本发明上述实施例中所示的方法流程和/或装置操作。例如,被上述一个或多个处理器执行本发明实施例所提供的方法流程。
随着时间、技术的发展,介质含义越来越广泛,计算机程序的传播途径不再受限于有形介质,还可以直接从网络下载等。可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括——但不限于——电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于——无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
利用本发明所提供的技术方案,通过使用多个已有的语音识别模型对用户在线上所输入的语音数据进行标注,能够获取大量的标注语音数据,且能够实现降低语音数据的标注成本、缩短语音数据的标注周期、提升语音数据的标注准确度的目的,进而通过使用数量更多、准确度更高的标注语音数据训练得到泛化能力更强的语音识别模型。
在本发明所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
上述以软件功能单元的形式实现的集成的单元,可以存储在一个计算机可读取存储介质中。上述软件功能单元存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)或处理器(processor)执行本发明各个实施例所述方法的部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明保护的范围之内。
Claims (18)
1.一种语音数据的标注方法,其特征在于,所述方法包括:
根据用户行为日志从线上拉取用户输入的语音数据;
利用N个第一语音识别模型对所述语音数据进行识别,得到对应同一个语音数据的N个文本识别结果,其中N为大于等于2的正整数;
判断同一个语音数据对应的N个文本识别结果彼此是否一致,若一致,则将N个文本识别结果中的任意一个作为该语音数据的标注结果。
2.根据权利要求1所述的方法,其特征在于,所述根据用户行为日志从线上拉取用户输入的语音数据包括:
根据用户行为日志从线上拉取用户未修改文本识别结果的语音数据。
3.根据权利要求1所述的方法,其特征在于,在所述利用N个第一语音识别模型对所述语音数据进行识别之前,还包括:
根据用户行为日志从拉取的语音数据中确定用户未修改文本识别结果的语音数据。
4.根据权利要求1所述的方法,其特征在于,所述判断同一个语音数据对应的N个文本识别结果彼此是否一致包括:
计算所述同一个语音数据的N个文本识别结果彼此之间的文本相似度;
当各文本识别结果彼此之间的文本相似度均大于预设阈值时,则确定该语音数据的多个文本识别结果彼此一致,否则不一致。
5.根据权利要求1所述的方法,其特征在于,若判断同一个语音数据对应的N个文本识别结果彼此不一致,所述方法还包括:
将文本识别结果彼此不一致的语音数据发送至标注平台进行人工标注;
获取标注平台返回的人工标注结果,将人工标注结果作为该语音数据的标注结果。
6.根据权利要求2或3所述的方法,其特征在于,所述方法还包括:
获取用户在线上修改文本识别结果的语音数据;
将所述用户修改文本识别结果的语音数据发送至标注平台进行人工标注;
获取标注平台返回的人工标注结果,将人工标注结果作为该语音数据的标注结果。
7.根据权利要求1所述的方法,其特征在于,在所述将N个文本识别结果中的任意一个作为该语音数据的标注结果之后,还包括:
对所述语音数据的标注结果进行抽样质检;
将质检结果达到预设要求的语音数据的标注结果确定为合格,否则确定为不合格;
保留确定为合格的语音数据的标注结果。
8.根据权利要求7所述的方法,其特征在于,若语音数据的标注结果确定为不合格,所述方法还包括:
使用M个第二语音识别模型对标注结果不合格的语音数据进行识别,得到对应同一个语音数据的M个文本识别结果,其中M为大于等于2的正整数;
若同一个语音数据的M个文本识别结果一致,则将M个文本识别结果中的任意一个作为该语音数据的标注结果,若不一致,则将该语音数据丢弃。
9.一种语音数据的标注装置,其特征在于,所述装置包括:
拉取单元,用于根据用户行为日志从线上拉取用户输入的语音数据;
识别单元,用于利用N个第一语音识别模型对所述语音数据进行识别,得到对应同一个语音数据的N个文本识别结果,其中N为大于等于2的正整数;
标注单元,用于判断同一个语音数据对应的N个文本识别结果彼此是否一致,若一致,则将N个文本识别结果中的任意一个作为该语音数据的标注结果。
10.根据权利要求9所述的装置,其特征在于,所述拉取单元在根据用户行为日志从线上拉取用户输入的语音数据时,具体执行:
根据用户行为日志,从线上拉取用户未修改文本识别结果的语音数据。
11.根据权利要求9所述的装置,其特征在于,在所述识别单元利用N个第一语音识别模型对所述语音数据进行识别之前,具体执行:
根据用户行为日志,从拉取的语音数据中确定用户未修改文本识别结果的语音数据。
12.根据权利要求9所述的装置,其特征在于,所述标注单元在判断同一个语音数据对应的N个文本识别结果彼此是否一致时,具体执行:
计算所述同一个语音数据的N个文本识别结果彼此之间的文本相似度;
当各文本识别结果彼此之间的文本相似度均大于预设阈值时,则确定该语音数据的多个文本识别结果彼此一致,否则不一致。
13.根据权利要求9所述的装置,其特征在于,若所述标注单元判断同一个语音数据对应的N个文本识别结果彼此不一致,还具体执行:
将文本识别结果彼此不一致的语音数据发送至标注平台进行人工标注;
获取标注平台返回的人工标注结果,将人工标注结果作为该语音数据的标注结果。
14.根据权利要求10或11所述的装置,其特征在于,所述标注单元还具体执行:
获取用户在线上修改文本识别结果的语音数据;
将所述用户修改文本识别结果的语音数据发送至标注平台进行人工标注;
获取标注平台返回的人工标注结果,将人工标注结果作为该语音数据的标注结果。
15.根据权利要求9所述的装置,其特征在于,在所述标注单元将N个文本识别结果中的任意一个作为该语音数据的标注结果之后,还具体执行:
对所述语音数据的标注结果进行抽样质检;
将质检结果达到预设要求的语音数据的标注结果确定为合格,否则确定为不合格;
保留确定为合格的语音数据的标注结果。
16.根据权利要求15所述的装置,其特征在于,若语音数据的标注结果确定为不合格,所述标注单元还具体执行:
使用M个第二语音识别模型对标注结果不合格的语音数据进行识别,得到对应同一个语音数据的M个文本识别结果,其中M为大于等于2的正整数;
若同一个语音数据的M个文本识别结果一致,则将M个文本识别结果中的任意一个作为该语音数据的标注结果,若不一致,则将该语音数据丢弃。
17.一种设备,其特征在于,所述设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-9中任一所述的方法。
18.一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行如权利要求1-9中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811389087.0A CN109599095B (zh) | 2018-11-21 | 2018-11-21 | 一种语音数据的标注方法、装置、设备和计算机存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811389087.0A CN109599095B (zh) | 2018-11-21 | 2018-11-21 | 一种语音数据的标注方法、装置、设备和计算机存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109599095A true CN109599095A (zh) | 2019-04-09 |
CN109599095B CN109599095B (zh) | 2020-05-29 |
Family
ID=65958662
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811389087.0A Active CN109599095B (zh) | 2018-11-21 | 2018-11-21 | 一种语音数据的标注方法、装置、设备和计算机存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109599095B (zh) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110457304A (zh) * | 2019-08-08 | 2019-11-15 | 北京百度网讯科技有限公司 | 数据清洗方法、装置、电子设备及可读存储介质 |
CN110610698A (zh) * | 2019-09-12 | 2019-12-24 | 上海依图信息技术有限公司 | 一种语音标注方法及装置 |
CN111312219A (zh) * | 2020-01-16 | 2020-06-19 | 上海携程国际旅行社有限公司 | 电话录音标注方法、系统、存储介质和电子设备 |
CN111785272A (zh) * | 2020-06-16 | 2020-10-16 | 杭州云嘉云计算有限公司 | 一种在线标注方法及系统 |
CN111883110A (zh) * | 2020-07-30 | 2020-11-03 | 上海携旅信息技术有限公司 | 语音识别的声学模型训练方法、系统、设备及介质 |
CN112216284A (zh) * | 2020-10-09 | 2021-01-12 | 携程计算机技术(上海)有限公司 | 训练数据更新方法及系统、语音识别方法及系统、设备 |
CN112599152A (zh) * | 2021-03-05 | 2021-04-02 | 北京智慧星光信息技术有限公司 | 语音数据标注方法、系统、电子设备及存储介质 |
CN112712795A (zh) * | 2020-12-29 | 2021-04-27 | 北京有竹居网络技术有限公司 | 标注数据确定方法、装置、介质及电子设备 |
CN112863490A (zh) * | 2021-01-07 | 2021-05-28 | 广州欢城文化传媒有限公司 | 一种语料获取方法及装置 |
CN113314105A (zh) * | 2020-02-07 | 2021-08-27 | 菜鸟智能物流控股有限公司 | 语音数据处理方法、装置、设备和存储介质 |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6735562B1 (en) * | 2000-06-05 | 2004-05-11 | Motorola, Inc. | Method for estimating a confidence measure for a speech recognition system |
CN101807399A (zh) * | 2010-02-02 | 2010-08-18 | 华为终端有限公司 | 一种语音识别方法及装置 |
CN103871402A (zh) * | 2012-12-11 | 2014-06-18 | 北京百度网讯科技有限公司 | 语言模型训练系统、语音识别系统及相应方法 |
CN105185372A (zh) * | 2015-10-20 | 2015-12-23 | 百度在线网络技术(北京)有限公司 | 个性化多声学模型的训练方法、语音合成方法及装置 |
CN105206258A (zh) * | 2015-10-19 | 2015-12-30 | 百度在线网络技术(北京)有限公司 | 声学模型的生成方法和装置及语音合成方法和装置 |
CN105374350A (zh) * | 2015-09-29 | 2016-03-02 | 百度在线网络技术(北京)有限公司 | 语音标注方法及装置 |
CN105913838A (zh) * | 2016-05-19 | 2016-08-31 | 努比亚技术有限公司 | 音频管理装置和方法 |
CN106601256A (zh) * | 2016-12-29 | 2017-04-26 | 广东欧珀移动通信有限公司 | 语音识别的方法及移动终端 |
CN107578769A (zh) * | 2016-07-04 | 2018-01-12 | 科大讯飞股份有限公司 | 语音数据标注方法和装置 |
CN107894882A (zh) * | 2017-11-21 | 2018-04-10 | 马博 | 一种移动终端的语音输入方法 |
CN108573707A (zh) * | 2017-12-27 | 2018-09-25 | 北京金山云网络技术有限公司 | 一种语音识别结果的处理方法、装置、设备及介质 |
-
2018
- 2018-11-21 CN CN201811389087.0A patent/CN109599095B/zh active Active
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6735562B1 (en) * | 2000-06-05 | 2004-05-11 | Motorola, Inc. | Method for estimating a confidence measure for a speech recognition system |
CN101807399A (zh) * | 2010-02-02 | 2010-08-18 | 华为终端有限公司 | 一种语音识别方法及装置 |
CN103871402A (zh) * | 2012-12-11 | 2014-06-18 | 北京百度网讯科技有限公司 | 语言模型训练系统、语音识别系统及相应方法 |
CN105374350A (zh) * | 2015-09-29 | 2016-03-02 | 百度在线网络技术(北京)有限公司 | 语音标注方法及装置 |
CN105206258A (zh) * | 2015-10-19 | 2015-12-30 | 百度在线网络技术(北京)有限公司 | 声学模型的生成方法和装置及语音合成方法和装置 |
CN105185372A (zh) * | 2015-10-20 | 2015-12-23 | 百度在线网络技术(北京)有限公司 | 个性化多声学模型的训练方法、语音合成方法及装置 |
CN105913838A (zh) * | 2016-05-19 | 2016-08-31 | 努比亚技术有限公司 | 音频管理装置和方法 |
CN107578769A (zh) * | 2016-07-04 | 2018-01-12 | 科大讯飞股份有限公司 | 语音数据标注方法和装置 |
CN106601256A (zh) * | 2016-12-29 | 2017-04-26 | 广东欧珀移动通信有限公司 | 语音识别的方法及移动终端 |
CN107894882A (zh) * | 2017-11-21 | 2018-04-10 | 马博 | 一种移动终端的语音输入方法 |
CN108573707A (zh) * | 2017-12-27 | 2018-09-25 | 北京金山云网络技术有限公司 | 一种语音识别结果的处理方法、装置、设备及介质 |
Cited By (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110457304A (zh) * | 2019-08-08 | 2019-11-15 | 北京百度网讯科技有限公司 | 数据清洗方法、装置、电子设备及可读存储介质 |
CN110610698A (zh) * | 2019-09-12 | 2019-12-24 | 上海依图信息技术有限公司 | 一种语音标注方法及装置 |
CN110610698B (zh) * | 2019-09-12 | 2022-09-27 | 上海依图信息技术有限公司 | 一种语音标注方法及装置 |
CN111312219A (zh) * | 2020-01-16 | 2020-06-19 | 上海携程国际旅行社有限公司 | 电话录音标注方法、系统、存储介质和电子设备 |
CN111312219B (zh) * | 2020-01-16 | 2023-11-28 | 上海携程国际旅行社有限公司 | 电话录音标注方法、系统、存储介质和电子设备 |
CN113314105A (zh) * | 2020-02-07 | 2021-08-27 | 菜鸟智能物流控股有限公司 | 语音数据处理方法、装置、设备和存储介质 |
CN111785272A (zh) * | 2020-06-16 | 2020-10-16 | 杭州云嘉云计算有限公司 | 一种在线标注方法及系统 |
CN111883110B (zh) * | 2020-07-30 | 2024-02-06 | 上海携旅信息技术有限公司 | 语音识别的声学模型训练方法、系统、设备及介质 |
CN111883110A (zh) * | 2020-07-30 | 2020-11-03 | 上海携旅信息技术有限公司 | 语音识别的声学模型训练方法、系统、设备及介质 |
CN112216284A (zh) * | 2020-10-09 | 2021-01-12 | 携程计算机技术(上海)有限公司 | 训练数据更新方法及系统、语音识别方法及系统、设备 |
CN112216284B (zh) * | 2020-10-09 | 2024-02-06 | 携程计算机技术(上海)有限公司 | 训练数据更新方法及系统、语音识别方法及系统、设备 |
CN112712795A (zh) * | 2020-12-29 | 2021-04-27 | 北京有竹居网络技术有限公司 | 标注数据确定方法、装置、介质及电子设备 |
CN112712795B (zh) * | 2020-12-29 | 2024-04-02 | 北京有竹居网络技术有限公司 | 标注数据确定方法、装置、介质及电子设备 |
CN112863490A (zh) * | 2021-01-07 | 2021-05-28 | 广州欢城文化传媒有限公司 | 一种语料获取方法及装置 |
CN112863490B (zh) * | 2021-01-07 | 2024-04-30 | 广州欢城文化传媒有限公司 | 一种语料获取方法及装置 |
CN112599152A (zh) * | 2021-03-05 | 2021-04-02 | 北京智慧星光信息技术有限公司 | 语音数据标注方法、系统、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN109599095B (zh) | 2020-05-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109599095A (zh) | 一种语音数据的标注方法、装置、设备和计算机存储介质 | |
US11093707B2 (en) | Adversarial training data augmentation data for text classifiers | |
US11455473B2 (en) | Vector representation based on context | |
CN109657054B (zh) | 摘要生成方法、装置、服务器及存储介质 | |
CN110069608B (zh) | 一种语音交互的方法、装置、设备和计算机存储介质 | |
US11189269B2 (en) | Adversarial training data augmentation for generating related responses | |
CN110276023B (zh) | Poi变迁事件发现方法、装置、计算设备和介质 | |
US11188720B2 (en) | Computing system including virtual agent bot providing semantic topic model-based response | |
KR20220122566A (ko) | 텍스트 인식 모델의 트레이닝 방법, 텍스트 인식 방법 및 장치 | |
JP6756079B2 (ja) | 人工知能に基づく三元組チェック方法、装置及びコンピュータプログラム | |
CN110378346A (zh) | 建立文字识别模型的方法、装置、设备和计算机存储介质 | |
CN110704597B (zh) | 对话系统可靠性校验方法、模型生成方法及装置 | |
CN111291882A (zh) | 一种模型转换的方法、装置、设备和计算机存储介质 | |
CN113158656B (zh) | 讽刺内容识别方法、装置、电子设备以及存储介质 | |
CN110232340A (zh) | 建立视频分类模型以及视频分类的方法、装置 | |
CN109543560A (zh) | 一种视频中人物的分割方法、装置、设备和计算机存储介质 | |
CN110377694A (zh) | 标注文本对逻辑关系的方法、装置、设备和计算机存储介质 | |
CN109446907A (zh) | 一种视频聊天的方法、装置、设备和计算机存储介质 | |
US11182416B2 (en) | Augmentation of a text representation model | |
CN110457683A (zh) | 模型优化方法、装置、计算机设备及存储介质 | |
CN112949758A (zh) | 应答模型的训练方法、应答方法、装置、设备及存储介质 | |
CN108268602A (zh) | 分析文本话题点的方法、装置、设备和计算机存储介质 | |
CN109815481A (zh) | 对文本进行事件抽取的方法、装置、设备和计算机存储介质 | |
US11222143B2 (en) | Certified information verification services | |
US11520783B2 (en) | Automated validity evaluation for dynamic amendment |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |