CN111414731B - 文本标注方法和装置 - Google Patents

文本标注方法和装置 Download PDF

Info

Publication number
CN111414731B
CN111414731B CN202010129824.4A CN202010129824A CN111414731B CN 111414731 B CN111414731 B CN 111414731B CN 202010129824 A CN202010129824 A CN 202010129824A CN 111414731 B CN111414731 B CN 111414731B
Authority
CN
China
Prior art keywords
information
word
input information
character
embedded representation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010129824.4A
Other languages
English (en)
Other versions
CN111414731A (zh
Inventor
李京蔚
孙于惠
李响
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Xiaomi Pinecone Electronic Co Ltd
Original Assignee
Beijing Xiaomi Pinecone Electronic Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Xiaomi Pinecone Electronic Co Ltd filed Critical Beijing Xiaomi Pinecone Electronic Co Ltd
Priority to CN202010129824.4A priority Critical patent/CN111414731B/zh
Publication of CN111414731A publication Critical patent/CN111414731A/zh
Priority to US16/929,942 priority patent/US11797764B2/en
Priority to EP20188236.2A priority patent/EP3872675A1/en
Application granted granted Critical
Publication of CN111414731B publication Critical patent/CN111414731B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/35—Clustering; Classification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/253—Grammatical analysis; Style critique
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/10—Text processing
    • G06F40/166—Editing, e.g. inserting or deleting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/279—Recognition of textual entities
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/30—Semantic analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/047—Probabilistic or stochastic networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/26—Speech to text systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Data Mining & Analysis (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computing Systems (AREA)
  • Evolutionary Computation (AREA)
  • Biophysics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Molecular Biology (AREA)
  • Human Computer Interaction (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Probability & Statistics with Applications (AREA)
  • Databases & Information Systems (AREA)
  • Machine Translation (AREA)

Abstract

本公开是关于一种文本标注方法和装置。涉及深度学习领域，解决了特征提取过程效率低下及准确率低的问题。该方法包括：处理输入信息，得到所述输入信息的词嵌入表示信息；对所述词嵌入表示信息进行动态卷积特征提取，获取所述词嵌入表示信息中各个字符的分类结果；根据所述分类结果，向所述输入信息中插入标注。本公开提供的技术方案适用于语音识别过程中，实现了准确、高效的文本标点标注。

Description

文本标注方法和装置
技术领域
本公开涉及深度学习领域，尤其涉及一种文本标注方法和装置。
背景技术
在很多语音识别的应用场景中，语音识别的结果通常是不包含任何标点符号的。这样得到的识别结果文本是没有断句的，如果直接把这样没有断句的文本交给下游任务的话，就会降低下游任务的执行质量，因为下游任务对断句和标点是存在一定敏感性的。因此，通过对语音识别结果文本加上标点就能够提升系统整体的处理质量。例如在翻译机场景中，用户说的一段话通过短语音识别(Automatic Speech Recognition，简称ASR)识别成了“他新买了一辆车车牌号是沪B九六R幺幺”这一结果，这个识别结果存在车与车牌之间没有进行断句的问题。正确的结果应该为“他新买了一辆车，车牌号是沪B九六R幺幺。”，但由于ASR输入的只有用户的语音并且没有断句功能，因此只能得到无标点的识别结果。由于缺少标点无法断句，导致识别结果的语义不明确，这样的结果显示在翻译机的屏幕上会影响用户的使用体验。不仅如此，没有断句的语音识别结果输入到翻译模型中有可能导致翻译任务翻译不准确的问题，因为没有经过断句的句子容易造成歧义。因此，对未加标点的文本打标点是非常有意义并且重要的。
常见的标点预测方法一般包括如下两种：
1、基于循环神经网络(RNN)对序列进行特征提取并进行标点预测；
2、基于自注意力机制(Self Attention)对序列进行特征提取并进行标点预测。
基于循环神经网络的方法存在特征提取慢以及遗忘的问题，因为循环神经网络在时序上是存在依赖关系的，下一时刻的结果依赖于上一时刻的输出，这就导致在语音长度较长的情况下特征提取速度慢的问题。而且由于模型本身的问题，输入的语音长度较长会引起遗忘问题的出现。
基于自注意力机制的方法虽然在时序上没有依赖关系，但是其每个时刻的特征是由所有上下文信息加权得到的，这样如果输入文本很长的情况下就会导致效率低下。且基于所有上下文信息进行判断，在上下文信息量较大的情况下，会影响插入标点判断结果的准确性，导致了对长文本添加标点的处理准确率不高。
发明内容
为克服相关技术中存在的问题，本公开提供一种文本标注方法和装置。
根据本公开实施例的第一方面，提供一种文本标注方法，包括：
处理输入信息，得到所述输入信息的词嵌入表示信息；
对所述词嵌入表示信息进行动态卷积特征提取，获取所述词嵌入表示信息中各个字符的分类结果；
根据所述分类结果，向所述输入信息中插入标注。
优选的，所述处理输入信息，得到所述输入信息的词嵌入表示信息的步骤包括：
将所述输入信息中的每个字符转化为各自的唯一的词表示符；
对所述词表示符进行词嵌入层处理，得到各个词表示符对应的词嵌入表示，构成所述输入信息的词嵌入表示信息。
优选的，所述对所述词嵌入表示信息进行动态卷积特征提取，获取所述词嵌入表示信息中各个字符的分类结果的步骤包括：
对每个字符对应的时刻窗口内的词嵌入层信息作为特征提取的上下文信息；
对所述上下文信息进行动态卷积特征提取，获取所述词嵌入表示信息中各个字符的分类结果。
优选的，所述根据所述分类结果，向所述输入信息中插入标注的步骤包括：
根据各个字符的分类结果，确定各个字符后面的标点信息；
将所述标点信息插入所述输入信息中的相应字符后面。
根据本公开实施例的第二方面，还提供一种文本标注装置，包括：
输入信息第一处理模块，用于处理输入信息，得到所述输入信息的词嵌入表示信息；
动态卷积模块，用于对所述词嵌入表示信息进行动态卷积特征提取，获取所述词嵌入表示信息中各个字符的分类结果；
标注模块，用于根据所述分类结果，向所述输入信息中插入标注。
优选的，所述输入信息第一处理模块包括：
词表示符层处理单元，用于将所述输入信息中的每个字符转化为各自的唯一的词表示符；
词嵌入层处理单元，用于对所述词表示符进行词嵌入层处理，得到各个词表示符对应的词嵌入表示，构成所述输入信息的词嵌入表示信息。
优选的，所述动态卷积模块包括：
上下文信息获取单元，用于对每个字符对应的时刻窗口内的词嵌入层信息作为特征提取的上下文信息；
特征提取单元，用于对所述上下文信息进行动态卷积特征提取，获取所述词嵌入表示信息中各个字符的分类结果。
优选的，所述标注模块包括：
标点信息获取单元，用于根据各个字符的分类结果，确定各个字符后面的标点信息；
标点信息插入单元，用于将所述标点信息插入所述输入信息中的相应字符后面。
根据本公开实施例的第三方面，提供一种计算机装置，包括：
处理器；
用于存储处理器可执行指令的存储器；
其中，所述处理器被配置为：
处理输入信息，得到所述输入信息的词嵌入表示信息；
对所述词嵌入表示信息进行动态卷积特征提取，获取所述词嵌入表示信息中各个字符的分类结果；
根据所述分类结果，向所述输入信息中插入标注。
根据本公开一种非临时性计算机可读存储介质，当所述存储介质中的指令由移动终端的处理器执行时，使得移动终端能够执行一种文本标注方法，所述方法包括：
处理输入信息，得到所述输入信息的词嵌入表示信息；
对所述词嵌入表示信息进行动态卷积特征提取，获取所述词嵌入表示信息中各个字符的分类结果；
根据所述分类结果，向所述输入信息中插入标注。
本公开的实施例提供的技术方案可以包括以下有益效果：处理输入信息，得到所述输入信息的词嵌入表示信息后，对所述词嵌入表示信息进行动态卷积特征提取，获取所述词嵌入表示信息中各个字符的分类结果，然后根据所述分类结果，向所述输入信息中插入标注。通过动态卷积完成特征提取，实现了准确、高效的标点标注，解决了特征提取过程效率低下及准确率低的问题。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本发明的实施例，并与说明书一起用于解释本发明的原理。
图1是根据一示例性实施例示出的一种文本标注方法的流程图。
图2是根据一示例性实施例示出的一种文本标注方法的流程图。
图3是根据一示例性实施例示出的训练阶段模型整体架构示意图。
图4是根据一示例性实施例示出的生成词嵌入表示信息的流程图。
图5是根据一示例性实施例示出的动态卷积特征提取的流程图。
图6是基于自注意力机制的特征提取方法的原理示意图。
图7是根据一示例性实施例示出的基于动态卷积的特征提取方法的原理示意图。
图8是根据一示例性实施例示出的插入标注的流程图。
图9是根据一示例性实施例示出的一种文本标注装置的框图。
图10是根据一示例性实施例示出的输入信息第一处理模块901的结构框图。
图11是根据一示例性实施例示出的动态卷积模块902的结构框图。
图12是根据一示例性实施例示出的标注模块903的结构框图。
图13是根据一示例性实施例示出的一种装置的框图(移动终端的一般结构)。
图14是根据一示例性实施例示出的一种服务器的框图(服务器的一般结构)。
具体实施方式
这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本发明相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本发明的一些方面相一致的装置和方法的例子。
无论采用基于循环神经网络或基于自注意力机制，在进行特征提取并预测标点的处理过程中，均容易出现效率低下及准确率低的问题。
为了解决上述问题，本公开的实施例提供了一种文本标注方法和装置，通过动态卷积特征提取完成特征提取，并在基础上进行标注的插入，解决了特征提取过程效率低下及准确率低的问题，提升了用户体验，并提高了语音识别业务的下游任务的准确率。
本公开的一示例性实施例提供了一种文本标注方法，使用该方法进行文本标注的流程如图1所示，包括：
步骤101、处理输入信息，得到所述输入信息的词嵌入表示信息。
本步骤中，以语音识别的文本作为输入信息，输入训练阶段模型，启动文本标注流程。对输入信息进行初步处理，将输入信息拆分为字符后，得到相应的词嵌入表示信息。
步骤102、对所述词嵌入表示信息进行动态卷积特征提取，获取所述词嵌入表示信息中各个字符的分类结果。
本步骤中，使用动态卷积的特征提取器，对词嵌入表示信息进行特征处理，获取词嵌入信息中各字符的分类结果。分类结果具体为归一化指数函数/softmax函数的运算结果。根据各字符的分类结果，能够确定各字符后可接入的标点待标注信息。
步骤103、根据所述分类结果，向所述输入信息中插入标注。
本步骤中，根据各字符的分类结果，确定各字符后可接入的标点待标注，将标注接入字符后，得到准确的语音识别结果文本。
本公开的一示例性实施例还提供了一种文本标注方法，使用该方法进行文本标注的流程如图2所示，包括：
步骤201、收集训练样本，使用所述训练样本训练得到训练阶段模型。
本步骤中，可通过网上爬取等手段收集大量有标点的文本，把文本处理成无标点数据序列和有标点结果序列的平行语料，组成训练语料。训练语料的源端是未加标点的序列，目标端是每个字符后面加的标点类型。标点类型包含无标点、句号、逗号、问号等标点类型，分别用”N”、”。“、”，”和“？”表示。以中文文本自动加标点为例，训练数据预处理得到训练样本的过程如表1所示。原始文本首先通过step1进行分词，把一句话的文本拆分成字符，用空格隔开。然后step2在step1的基础上按照输入字符后面是否包含标点符号来得到每个字符需要预测的标点类别，这样就得到了用于训练的平行语料，即训练样本。
表1
然后把训练样本输入到模型中进行训练即可，生成训练阶段模型。
步骤202、对所述词嵌入表示信息进行动态卷积特征提取，获取所述词嵌入表示信息中各个字符的分类结果。
本公开实施例中所使用的训练阶段模型整体架构如图3所示，包括输入层、词表示符层、词嵌入层、动态卷积层和标点结果层，通过训练阶段模型，将带有标点的数据处理成不带标点的源端和表示标点分类结果的目标端。
在输入层，将输入信息拆分为单个字符的形式。
在词表示符层，依据预定义的词表将源端每个字符转化为在词表中的ID(唯一标识符)。
在词嵌入层，根据每个字符的ID，得到每个字符对应的词嵌入表示(Embedding)。
本步骤具体如图4所示，包括：
步骤401、将所述输入信息中的每个字符转化为各自的唯一的词表示符。
具体的，在词表示符词转化得到输入信息中每个字符的唯一的词表示符，如预定义的词表中的ID。
步骤402、对所述词表示符进行词嵌入层处理，得到各个词表示符对应的词嵌入表示，构成所述输入信息的词嵌入表示信息。
具体的，在词嵌入层，根据每个字符的ID，得到每个字符对应的词嵌入表示。
步骤203、对所述词嵌入表示信息进行动态卷积特征提取，获取所述词嵌入表示信息中各个字符的分类结果。
本步骤具体如图5所示，包括：
步骤501、对每个字符对应的时刻窗口内的词嵌入层信息作为特征提取的上下文信息。
本步骤中，在动态卷积层，将词嵌入表示信息输入到动态卷积特征提取器中，将每个字符对应的时刻窗口内的词嵌入层信息作为特征提取的上下文信息。
步骤502、对所述上下文信息进行动态卷积特征提取，获取所述词嵌入表示信息中各个字符的分类结果。
本步骤中，由动态卷积特征提取器进行特征提取，得到各个字符的分类结果。具体的，使用全连接层将特征进行softmax分类，得到每个字符的分类结果，即每个字符后标点类型的分类结果。
动态卷积特征提取器与基于自注意力机制的特征提取器的特征提取方式不同。基于自注意力机制的特征提取方法使用所有时刻的输入作为特征提取的上下文信息，如图6所示。而基于动态卷积的特征提取器每个时刻只把该时刻窗口内的输入当成特征提取的上下文信息，如图7所示，这在文本自动添加标注，尤其是添加标点任务中是比较有优势的。因为在判断文本中某个字符后面是否需要添加标点时，只需要这个字符附近的字符的信息就可以判断，而不需要让模型知道整个输入信息。基于自注意的特征提取每个时刻的特征由上一层所有时刻的输入得到，而基于动态卷积的特征提取器每个字符/时刻的输出只与上一层对应的时刻窗口范围内的输入得到。
不仅如此，动态卷积与传统的卷积特征提取器也有很大区别，动态卷积特征提取器在每个时刻的卷积核都不一样，是根据当前时刻的输入来得到相应的卷积核，传统的卷积特征提取器在每个时刻的卷积核都是一样的。由于使用的是卷积运算，算法的并行性比较高，因此模型相对于循环神经网络以及自注意力机制的特征提取器速度都快很多。
步骤204、根据所述分类结果，向所述输入信息中插入标注。
本步骤具体如图8所示，包括：
步骤801、根据各个字符的分类结果，确定各个字符后面的标点信息。
本步骤中，根据各个字符的分类结果，具体的，为各个字符后面可添加/插入的标点的分类结果确定各个字符后面的标点信息。
步骤802、将所述标点信息插入所述输入信息中的相应字符后面。
本步骤中，在字符后面插入标点信息，得到最终的带有标点的准确的语音识别结果。
带有标点的语音识别结果可直接作为处理结果输出给用户，也可提供给其他下游服务，由下游服务基于该语音识别结果执行任务，提高准确率。
本公开的一示例性实施例还提供了一种文本标注装置，其结构如图9所示，包括：
输入信息第一处理模块901，用于处理输入信息，得到所述输入信息的词嵌入表示信息；
动态卷积模块902，用于对所述词嵌入表示信息进行动态卷积特征提取，获取所述词嵌入表示信息中各个字符的分类结果；
标注模块903，用于根据所述分类结果，向所述输入信息中插入标注。
优选的，所述输入信息第一处理模块901的结构如图10所示，包括：
词表示符层处理单元1001，用于将所述输入信息中的每个字符转化为各自的唯一的词表示符；
词嵌入层处理单元1002，用于对所述词表示符进行词嵌入层处理，得到各个词表示符对应的词嵌入表示，构成所述输入信息的词嵌入表示信息。
优选的，所述动态卷积模块902的结构如图11所示，包括：
上下文信息获取单元1101，用于对每个字符对应的时刻窗口内的词嵌入层信息作为特征提取的上下文信息；
特征提取单元1102，用于对所述上下文信息进行动态卷积特征提取，获取所述词嵌入表示信息中各个字符的分类结果。
优选的，所述标注模块903的结构如图12所示，包括：
标点信息获取单元1201，用于根据各个字符的分类结果，确定各个字符后面的标点信息；
标点信息插入单元1202，用于将所述标点信息插入所述输入信息中的相应字符后面。
关于上述实施例中的装置，其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。
本公开的一示例性实施例还提供了一种计算机装置，包括：
处理器；
用于存储处理器可执行指令的存储器；
其中，所述处理器被配置为：
处理输入信息，得到所述输入信息的词嵌入表示信息；
对所述词嵌入表示信息进行动态卷积特征提取，获取所述词嵌入表示信息中各个字符的分类结果；
根据所述分类结果，向所述输入信息中插入标注。
图13是根据一示例性实施例示出的一种用于文本标注的装置1300的框图。例如，装置1300可以是移动电话，计算机，数字广播终端，消息收发设备，游戏控制台，平板设备，医疗设备，健身设备，个人数字助理等。
参照图13，装置1300可以包括以下一个或多个组件：处理组件1302，存储器1304，电力组件1306，多媒体组件1308，音频组件1310，输入/输出(I/O)的接口1312，传感器组件1314，以及通信组件1316。
处理组件1302通常控制装置1300的整体操作，诸如与显示，电话呼叫，数据通信，相机操作和记录操作相关联的操作。处理组件1302可以包括一个或多个处理器1320来执行指令，以完成上述的方法的全部或部分步骤。此外，处理组件1302可以包括一个或多个模块，便于处理组件1302和其他组件之间的交互。例如，处理组件1302可以包括多媒体模块，以方便多媒体组件1308和处理组件1302之间的交互。
存储器1304被配置为存储各种类型的数据以支持在装置1300的操作。这些数据的示例包括用于在装置1300上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消息，图片，视频等。存储器1304可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。
电力组件1306为装置1300的各种组件提供电力。电力组件1306可以包括电源管理系统，一个或多个电源，及其他与为装置1300生成、管理和分配电力相关联的组件。
多媒体组件1308包括在所述装置1300和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒体组件1308包括一个前置摄像头和/或后置摄像头。当装置1300处于操作模式，如拍摄模式或视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件1310被配置为输出和/或输入音频信号。例如，音频组件1310包括一个麦克风(MIC)，当装置1300处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器1304或经由通信组件1316发送。在一些实施例中，音频组件1310还包括一个扬声器，用于输出音频信号。
I/O接口1312为处理组件1302和外围接口模块之间提供接口，上述外围接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于：主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件1314包括一个或多个传感器，用于为装置1300提供各个方面的状态评估。例如，传感器组件1314可以检测到装置1300的打开/关闭状态，组件的相对定位，例如所述组件为装置1300的显示器和小键盘，传感器组件1314还可以检测装置1300或装置1300一个组件的位置改变，用户与装置1300接触的存在或不存在，装置1300方位或加速/减速和装置1300的温度变化。传感器组件1314可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件1314还可以包括光传感器，如CMOS或CCD图像传感器，用于在成像应用中使用。在一些实施例中，该传感器组件1314还可以包括加速度传感器，陀螺仪传感器，磁传感器，压力传感器或温度传感器。
通信组件1316被配置为便于装置1300和其他设备之间有线或无线方式的通信。装置1300可以接入基于通信标准的无线网络，如WiFi，2G或3G，或它们的组合。在一个示例性实施例中，通信组件1316经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中，所述通信组件1316还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频识别(RFID)技术，红外数据协会(IrDA)技术，超宽带(UWB)技术，蓝牙(BT)技术和其他技术来实现。
在示例性实施例中，装置1300可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述方法。
在示例性实施例中，还提供了一种包括指令的非临时性计算机可读存储介质，例如包括指令的存储器1304，上述指令可由装置1300的处理器1320执行以完成上述方法。例如，所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
一种非临时性计算机可读存储介质，当所述存储介质中的指令由移动终端的处理器执行时，使得移动终端能够执行一种文本标注方法，所述方法包括：
处理输入信息，得到所述输入信息的词嵌入表示信息；
对所述词嵌入表示信息进行动态卷积特征提取，获取所述词嵌入表示信息中各个字符的分类结果；
根据所述分类结果，向所述输入信息中插入标注。
图14是根据一示例性实施例示出的一种用于文本标注的服务器1400的框图。例如，服务器1400可以被提供为一服务器。参照图14，服务器1400包括处理组件1422，其进一步包括一个或多个处理器，以及由存储器1432所代表的存储器资源，用于存储可由处理组件1422的执行的指令，例如应用程序。存储器1432中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外，处理组件1422被配置为执行指令，以执行上述方法。
服务器1400还可以包括一个电源组件1426被配置为执行服务器1400的电源管理，一个有线或无线网络接口1450被配置为将服务器1400连接到网络，和一个输入输出(I/O)接口1458。服务器1400可以操作基于存储在存储器1432的操作系统，例如WindowsServerTM，Mac OS XTM，UnixTM,LinuxTM，FreeBSDTM或类似。
本公开的实施例提供了一种文本标注方法和装置，处理输入信息，得到所述输入信息的词嵌入表示信息后，对所述词嵌入表示信息进行动态卷积特征提取，获取所述词嵌入表示信息中各个字符的分类结果，然后根据所述分类结果，向所述输入信息中插入标注。通过动态卷积完成特征提取，实现了准确、高效的标点标注，解决了特征提取过程效率低下及准确率低的问题。
使用基于动态卷积的方式进行特征提取，适用于在文本自动添加标点、标注任务，充分考虑到添加标点等标注的场景需求，相比循环神经网络以及自注意力机制的方法具有速度快、准确率高的优点。
本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本发明的真正范围和精神由下面的权利要求指出。
应当理解的是，本发明并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。

Claims (10)

1.一种文本标注方法，其特征在于，包括：
处理输入信息，得到所述输入信息的词嵌入表示信息；
对所述词嵌入表示信息进行动态卷积特征提取，获取所述词嵌入表示信息中各个字符的分类结果；
根据所述分类结果，向所述输入信息中插入标注。
2.根据权利要求1所述的文本标注方法，其特征在于，所述处理输入信息，得到所述输入信息的词嵌入表示信息的步骤包括：
将所述输入信息中的每个字符转化为各自的唯一的词表示符；
对所述词表示符进行词嵌入层处理，得到各个词表示符对应的词嵌入表示，构成所述输入信息的词嵌入表示信息。
3.根据权利要求1所述的文本标注方法，其特征在于，所述对所述词嵌入表示信息进行动态卷积特征提取，获取所述词嵌入表示信息中各个字符的分类结果的步骤包括：
对每个字符对应的时刻窗口内的词嵌入层信息作为特征提取的上下文信息；
对所述上下文信息进行动态卷积特征提取，获取所述词嵌入表示信息中各个字符的分类结果。
4.根据权利要求1至3中任一项所述的文本标注方法，其特征在于，所述根据所述分类结果，向所述输入信息中插入标注的步骤包括：
根据各个字符的分类结果，确定各个字符后面的标点信息；
将所述标点信息插入所述输入信息中的相应字符后面。
5.一种文本标注装置，其特征在于，包括：
输入信息第一处理模块，用于处理输入信息，得到所述输入信息的词嵌入表示信息；
动态卷积模块，用于对所述词嵌入表示信息进行动态卷积特征提取，获取所述词嵌入表示信息中各个字符的分类结果；
标注模块，用于根据所述分类结果，向所述输入信息中插入标注。
6.根据权利要求5所述的文本标注装置，其特征在于，所述输入信息第一处理模块包括：
词表示符层处理单元，用于将所述输入信息中的每个字符转化为各自的唯一的词表示符；
词嵌入层处理单元，用于对所述词表示符进行词嵌入层处理，得到各个词表示符对应的词嵌入表示，构成所述输入信息的词嵌入表示信息。
7.根据权利要求5所述的文本标注装置，其特征在于，所述动态卷积模块包括：
上下文信息获取单元，用于对每个字符对应的时刻窗口内的词嵌入层信息作为特征提取的上下文信息；
特征提取单元，用于对所述上下文信息进行动态卷积特征提取，获取所述词嵌入表示信息中各个字符的分类结果。
8.根据权利要求5至7中任一项所述的文本标注装置，其特征在于，所述标注模块包括：
标点信息获取单元，用于根据各个字符的分类结果，确定各个字符后面的标点信息；
标点信息插入单元，用于将所述标点信息插入所述输入信息中的相应字符后面。
9.一种计算机装置，其特征在于，包括：
处理器；
用于存储处理器可执行指令的存储器；
其中，所述处理器被配置为：
处理输入信息，得到所述输入信息的词嵌入表示信息；
对所述词嵌入表示信息进行动态卷积特征提取，获取所述词嵌入表示信息中各个字符的分类结果；
根据所述分类结果，向所述输入信息中插入标注。
10.一种非临时性计算机可读存储介质，当所述存储介质中的指令由移动终端的处理器执行时，使得移动终端能够执行一种文本标注方法，所述方法包括：
处理输入信息，得到所述输入信息的词嵌入表示信息；
对所述词嵌入表示信息进行动态卷积特征提取，获取所述词嵌入表示信息中各个字符的分类结果；
根据所述分类结果，向所述输入信息中插入标注。
CN202010129824.4A 2020-02-28 2020-02-28 文本标注方法和装置 Active CN111414731B (zh)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN202010129824.4A CN111414731B (zh) 2020-02-28 2020-02-28 文本标注方法和装置
US16/929,942 US11797764B2 (en) 2020-02-28 2020-07-15 Method and device for text labeling based on dynamic convolution feature extraction
EP20188236.2A EP3872675A1 (en) 2020-02-28 2020-07-28 Text labeling method and device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010129824.4A CN111414731B (zh) 2020-02-28 2020-02-28 文本标注方法和装置

Publications (2)

Publication Number Publication Date
CN111414731A CN111414731A (zh) 2020-07-14
CN111414731B true CN111414731B (zh) 2023-08-11

Family

ID=71492846

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010129824.4A Active CN111414731B (zh) 2020-02-28 2020-02-28 文本标注方法和装置

Country Status (3)

Country Link
US (1) US11797764B2 (zh)
EP (1) EP3872675A1 (zh)
CN (1) CN111414731B (zh)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107291795A (zh) * 2017-05-03 2017-10-24 华南理工大学 一种结合动态词嵌入和词性标注的文本分类方法
CN110347836A (zh) * 2019-07-15 2019-10-18 昆明理工大学 融入观点句特征的汉越双语新闻情感分类方法
WO2019229769A1 (en) * 2018-05-28 2019-12-05 Thottapilly Sanjeev An auto-disambiguation bot engine for dynamic corpus selection per query
CN110674305A (zh) * 2019-10-10 2020-01-10 天津师范大学 一种基于深层特征融合模型的商品信息分类方法

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7027986B2 (en) * 2002-01-22 2006-04-11 At&T Corp. Method and device for providing speech-to-text encoding and telephony service
EP1422692A3 (en) * 2002-11-22 2004-07-14 ScanSoft, Inc. Automatic insertion of non-verbalized punctuation in speech recognition
CA2680304C (en) * 2008-09-25 2017-08-22 Multimodal Technologies, Inc. Decoding-time prediction of non-verbalized tokens
US20120022950A1 (en) * 2010-07-26 2012-01-26 At&T Intellectual Property I, L.P. Systems and Methods for Targeted Advertising in Voicemail to Text Systems
US9811517B2 (en) * 2013-01-29 2017-11-07 Tencent Technology (Shenzhen) Company Limited Method and system of adding punctuation and establishing language model using a punctuation weighting applied to chinese speech recognized text
CN104142915B (zh) * 2013-05-24 2016-02-24 腾讯科技（深圳）有限公司 一种添加标点的方法和系统
US11128579B2 (en) * 2016-09-29 2021-09-21 Admithub Pbc Systems and processes for operating and training a text-based chatbot
US10929759B2 (en) * 2017-04-06 2021-02-23 AIBrain Corporation Intelligent robot software platform
US11151992B2 (en) * 2017-04-06 2021-10-19 AIBrain Corporation Context aware interactive robot
US10896342B2 (en) * 2017-11-14 2021-01-19 Qualcomm Incorporated Spatio-temporal action and actor localization
US11537875B2 (en) * 2018-11-09 2022-12-27 International Business Machines Corporation Detecting and reducing bias in machine learning models
US11170761B2 (en) * 2018-12-04 2021-11-09 Sorenson Ip Holdings, Llc Training of speech recognition systems
US10573312B1 (en) * 2018-12-04 2020-02-25 Sorenson Ip Holdings, Llc Transcription generation from multiple speech recognition systems
US11017778B1 (en) * 2018-12-04 2021-05-25 Sorenson Ip Holdings, Llc Switching between speech recognition systems
US10388272B1 (en) * 2018-12-04 2019-08-20 Sorenson Ip Holdings, Llc Training speech recognition systems using word sequences
US11521071B2 (en) * 2019-05-14 2022-12-06 Adobe Inc. Utilizing deep recurrent neural networks with layer-wise attention for punctuation restoration
US11651768B2 (en) * 2019-09-16 2023-05-16 Oracle International Corporation Stop word data augmentation for natural language processing
CN111241810B (zh) * 2020-01-16 2023-08-01 百度在线网络技术（北京）有限公司 标点预测方法及装置
CN111368026B (zh) * 2020-02-25 2020-11-24 杭州电子科技大学 基于词语义关系与动态卷积神经网络的文本蕴含分析方法
CN111951792B (zh) * 2020-07-30 2022-12-16 北京先声智能科技有限公司 一种基于分组卷积神经网络的标点标注模型
US20220139386A1 (en) * 2020-11-03 2022-05-05 Beijing Wodong Tianjun Information Tehnology Co., Ltd. System and method for chinese punctuation restoration using sub-character information
CN112906348B (zh) * 2021-02-04 2022-04-26 云从科技集团股份有限公司 对文本自动添加标点符号的方法、系统、设备及介质

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107291795A (zh) * 2017-05-03 2017-10-24 华南理工大学 一种结合动态词嵌入和词性标注的文本分类方法
WO2019229769A1 (en) * 2018-05-28 2019-12-05 Thottapilly Sanjeev An auto-disambiguation bot engine for dynamic corpus selection per query
CN110347836A (zh) * 2019-07-15 2019-10-18 昆明理工大学 融入观点句特征的汉越双语新闻情感分类方法
CN110674305A (zh) * 2019-10-10 2020-01-10 天津师范大学 一种基于深层特征融合模型的商品信息分类方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于问题与答案联合表示学习的半监督问题分类方法;张栋;李寿山;王晶晶;;中文信息学报(01);全文 *

Also Published As

Publication number Publication date
CN111414731A (zh) 2020-07-14
US11797764B2 (en) 2023-10-24
US20210271811A1 (en) 2021-09-02
EP3872675A1 (en) 2021-09-01

Similar Documents

Publication Publication Date Title
CN109522424B (zh) 数据的处理方法、装置、电子设备及存储介质
CN111259148B (zh) 信息处理方法、装置及存储介质
CN111368541B (zh) 命名实体识别方法及装置
CN110874145A (zh) 一种输入方法、装置及电子设备
CN108304412B (zh) 一种跨语言搜索方法和装置、一种用于跨语言搜索的装置
CN109558599B (zh) 一种转换方法、装置和电子设备
CN107564526B (zh) 处理方法、装置和机器可读介质
CN114240882A (zh) 缺陷检测方法及装置、电子设备和存储介质
US11983500B2 (en) Method and device for semantic analysis and storage medium
CN113792207A (zh) 一种基于多层次特征表示对齐的跨模态检索方法
CN111813932B (zh) 文本数据的处理方法、分类方法、装置及可读存储介质
CN111160047A (zh) 一种数据处理方法、装置和用于数据处理的装置
EP3734472A1 (en) Method and device for text processing
CN113343720A (zh) 一种字幕翻译方法、装置和用于字幕翻译的装置
CN111414766B (zh) 一种翻译方法及装置
CN113033163B (zh) 一种数据处理方法、装置和电子设备
CN112035651B (zh) 语句补全方法、装置及计算机可读存储介质
CN108241614B (zh) 信息处理方法和装置、用于信息处理的装置
CN111324214B (zh) 一种语句纠错方法和装置
CN111832297A (zh) 词性标注方法、装置及计算机可读存储介质
CN111079421A (zh) 一种文本信息分词处理的方法、装置、终端及存储介质
CN111414731B (zh) 文本标注方法和装置
CN112035628B (zh) 对话数据清洗方法、装置及存储介质
CN114255414A (zh) 一种视频标记方法、装置及电子设备
CN113591495A (zh) 语音翻译方法、装置及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant