CN112015866A - 用于生成同义文本的方法、装置、电子设备及存储介质 - Google Patents
用于生成同义文本的方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN112015866A CN112015866A CN202010886562.6A CN202010886562A CN112015866A CN 112015866 A CN112015866 A CN 112015866A CN 202010886562 A CN202010886562 A CN 202010886562A CN 112015866 A CN112015866 A CN 112015866A
- Authority
- CN
- China
- Prior art keywords
- text
- synonymous
- concept
- segment
- labeling
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/3331—Query processing
- G06F16/334—Query execution
- G06F16/3344—Query execution using natural language analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/36—Creation of semantic tools, e.g. ontology or thesauri
- G06F16/367—Ontology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/237—Lexical tools
- G06F40/247—Thesauruses; Synonyms
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Computational Linguistics (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- General Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Animal Behavior & Ethology (AREA)
- Machine Translation (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请实施例公开了用于生成同义文本的方法、装置、电子设备及计算机可读存储介质,涉及知识图谱、深度学习、自然语言处理等人工智能技术领域。该方法的一具体实施方式包括:获取初始同义文本;利用预设的概念图谱对初始同义文本进行概念标注,得到标注结果;其中,概念图谱记录有不同文本片段所隶属的不同概念之间的关联关系;确定标注结果中的核心词片段,并将至少一个核心词片段替换为其所属上位概念下的其它下位概念的文本片段,得到增量同义文本。该实施方式提供了一种基于概念图谱的新的生成增量同义文本的方式,无需进行大量向量形式或平行语料的运算,且更加高效和准确。
Description
技术领域
本申请涉及文本处理技术领域,具体涉及知识图谱、深度学习、自然语言处理等人工智能技术领域,尤其涉及用于生成同义文本的方法、装置、电子设备及计算机可读存储介质。
背景技术
同义短语或同义词在互联网业务上应用十分广泛,特别是在搜索相关的产品上,例如自然结果召回和广告触发等。可通过同义短语提高自然结果或者广告与搜索内容之间的相关性。挖掘大量高质量的同义短语对于提升这些产品效果有至关重要的作用。
在同义文本挖掘方面,现有技术通常采用基于向量形式的文本相似度计算的方法来确定同义文本。
发明内容
本申请实施例提出了一种用于生成同义文本的方法、装置、电子设备及计算机可读存储介质。
第一方面,本申请实施例提出了一种用于生成同义文本的方法,包括:获取初始同义文本;利用预设的概念图谱对初始同义文本进行概念标注,得到标注结果;其中,概念图谱记录有不同文本片段所隶属的不同概念之间的关联关系;确定标注结果中的核心词片段,并将至少一个核心词片段替换为其所属上位概念下的其它下位概念的文本片段,得到增量同义文本。
第二方面,本申请实施例提出了一种用于生成同义文本的装置,包括:初始同义文本获取单元,被配置成获取初始同义文本;概念标注单元,被配置成利用预设的概念图谱对初始同义文本进行概念标注,得到标注结果;其中,概念图谱记录有不同文本片段所隶属的不同概念之间的关联关系;文本片段替换单元,被配置成确定标注结果中的核心词片段,并将至少一个核心词片段替换为其所属上位概念下的其它下位概念的文本片段,得到增量同义文本。
第三方面,本申请实施例提供了一种电子设备,该电子设备包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,该指令被至少一个处理器执行,以使至少一个处理器执行时能够实现如第一方面中任一实现方式描述的用于生成同义文本的方法。
第四方面,本申请实施例提供了一种存储有计算机指令的非瞬时计算机可读存储介质,该计算机指令用于使计算机执行时能够实现如第一方面中任一实现方式描述的用于生成同义文本的方法。
本申请实施例提供的用于生成同义文本的方法、装置、电子设备及计算机可读存储介质,首先,获取初始同义文本;然后,利用预设的概念图谱对该初始同义文本进行概念标注,得到标注结果,该概念图谱记录有不同文本片段所隶属的不同概念之间的关联关系;接着,确定该标注结果中的核心词片段,并将至少一个核心词片段替换为其所属上位概念下的其它下位概念的文本片段,从而得到增量同义文本。
本申请利用记录有不同文本片段所隶属的不同概念之间的关联关系的概念图谱,从文本片段的概念体系上,以将当前核心词片段替换为所属上位概念的其它下位概念的文本片段的方式,给出了一种新的生成增量同义文本的方式,概念的关联关系契合了存在大量不同词表达相同或近似含义的自然语言的特性,无需进行大量向量形式或平行语料的运算,更加高效和准确,可进一步提升同义文本的丰富程度,提升基于同义文本库所提供的各项服务的效果。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本申请的其它特征、目的和优点将会变得更明显:
图1是本申请可以应用于其中的示例性系统架构;
图2为本申请实施例提供的一种用于生成同义文本的方法的流程图;
图3为本申请实施例提供的另一种用于生成同义文本的方法的流程图;
图4为本申请实施例提供的一种基于同义文本特征库确定实际请求的请求目的的方法的流程图;
图5为本申请实施例提供的一种用于生成同义文本的装置的结构框图;
图6为本申请实施例提供的一种适用于执行用于生成同义文本的方法的电子设备的结构示意图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了可以应用本申请的用于生成同义文本的方法、装置、电子设备及计算机可读存储介质的实施例的示例性系统架构100。
如图1所示,系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103和服务器105上可以安装有各种用于实现两者之间进行信息通讯的应用,例如信息搜索类应用、增量同义文本生成类应用、即时通讯类应用等。
终端设备101、102、103和服务器105可以是硬件,也可以是软件。当终端设备101、102、103为硬件时,可以是具有显示屏的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等;当终端设备101、102、103为软件时,可以安装在上述所列举的电子设备中,其可以实现成多个软件或软件模块,也可以实现成单个软件或软件模块,在此不做具体限定。当服务器105为硬件时,可以实现成多个服务器组成的分布式服务器集群,也可以实现成单个服务器;服务器为软件时,可以实现成多个软件或软件模块,也可以实现成单个软件或软件模块,在此不做具体限定。
服务器105通过内置的各种应用可以提供各种服务,以可以提供增量同义文本生成服务的增量同义文本生成类应用为例,服务器105在运行该增量同义文本生成类应用时可实现如下效果:首先,通过网络从用户通过终端设备101、102、103进行信息搜索时输入的查询文本中获取初始同义文本;然后,利用记录有不同文本片段所隶属的不同概念之间的关联关系的概念图谱,对初始同义文本进行概念标注,得到标注结果;接着,确定标注结果中的核心词片段,并将至少一个核心词片段替换为其所属上位概念下的其它下位概念的文本片段,得到增量同义文本。即服务器105通过上述处理步骤在概念图谱的帮助下,根据少量的初始同义文本高效的生成了大量的增量同义文本。
需要指出的是,初始同义文本除可以从终端设备101、102、103通过网络104获取到之外,也可以通过各种方式预先存储在服务器105本地。因此,当服务器105检测到本地已经存储有这些数据时(例如事先已陆续收集了用户的历史查询文本并存储在服务器105本地),可选择直接从本地获取这些数据,在此种情况下,示例性系统架构100也可以不包括终端设备101、102、103和网络104。
由于大量的文本处理需要占用较多的运算资源和要求设备拥有较强的运算能力,因此本申请后续各实施例所提供的用于生成同义文本的方法一般由拥有较强运算能力、较多运算资源的服务器105来执行,相应地,用于生成同义文本的装置一般也设置于服务器105中。但同时也需要指出的是,在终端设备101、102、103也具有满足要求的运算能力和运算资源时,终端设备101、102、103也可以通过其上安装的增量同义文本生成类应用完成上述本交由服务器105做的各项运算,进而输出与服务器105同样的结果。尤其是在同时存在多种具有不同运算能力的终端设备的情况下,但增量同义文本生成类应用判断所在的终端设备拥有较强的运算能力和剩余较多的运算资源时,可以让终端设备来执行上述运算,从而适当减轻服务器105的运算压力,相应的,用于生成同义文本的装置也可以设置于终端设备101、102、103中。在此种情况下,示例性系统架构100也可以不包括服务器105和网络104。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
请参考图2,图2为本申请实施例提供的一种用于生成同义文本的方法的流程图,其中流程200包括以下步骤:
步骤201:获取初始同义文本;
本步骤旨在由用于生成同义文本的方法的执行主体(例如图1所示的服务器105)获取初始同义文本。
其中,初始同义文本是指现有的、未经处理的、可直接得到的一系列同义文本,同义文本根据文本长度的不同,可以简单分类两类,一类是较短的同义词对/短语,另一类则是稍长的同义短文/短句。具体的,初始同义可从多种渠道获取,例如用户在其终端设备上进行咨询浏览、查询所输入的查询文本;也可以从一些经过认证的同义词库中获取。
步骤202:利用预设的概念图谱对初始同义文本进行概念标注,得到标注结果;
其中,概念图谱记录有不同文本片段所隶属的不同概念之间的关联关系的概念图谱,应当理解的是,不同文本片段根据其实际含义的不同,可以确定给出所属的概念,并结合其概念在整个概念体系中的位置,确定相同概念的同义文本。
在步骤201的基础上,本步骤旨在由上述执行主体利用录有不同文本片段所隶属的不同概念之间的关联关系的概念图谱,对初始同义文本进行概念标注,得到标注结果。
顾名思义,概念标注就是标注出初始同义文本中各个文本片段所隶属的概念,例如“感冒”这一文本片段根据其含义的不同,就可以确定出其可能隶属于“疾病”或“兴趣状态”两个不同的概念,至于具体应隶属于哪个概念,还应结合其它能够帮助判断的文本片段的含义或综合含义,例如初始同义文本为“感冒怎么治”那么结合“治”这个表达意图的词就可以确定其中的“感冒”应隶属于“疾病”这一概念;如果初始同义文本为“我对足球不怎么感冒”,就可以结合语境确定出其中的“感冒”应隶属于“兴趣状态”这一概念。
应当理解的是,概念体系中的上下位关系有些并不是固定的,而且也是相对的,仍以上述“感冒”为例,其除可以隶属为“疾病”这一概念,也可以隶属于“疾病”的下位概念“急性上呼吸道病毒性感染性疾病”,应根据实际情况确定出概念标注的具体要求,例如要求标注到哪个层次等等。
在本申请的另外一些实施例中,概念标注操作具体如何执行,可结合初始同义文本的类型,即按照长度分为较短的同义词对/短语和较长的同义短文/短句。针对较短的同义词对/短语,在概念图谱的帮助下,可直接通过成分标注操作来完成,而较长的同义短文/短句由于可能包括多个词对/短语,因此可以借助对短文/短句做了针对性优化的短文本概念标注操作来实现。
包括所隶属概念的标注结果可表现为多种形式,例如“感冒[疾病]怎么治[疑问词]”、“感冒/疾病/怎么治/疑问词/”等,此处并不做具体限定。上述标注效果可以为通过诸如CRF(Conditional Random Field,随机场),LSTM(Long Short-Term Memory,长短期记忆网络),BERT(Bidirectional Encoder Representation from Transformers,双向语义模型)+CRF的序列标注模型来实现。
步骤203:确定标注结果中的核心词片段,并将至少一个核心词片段替换为其所属上位概念下的其它下位概念的文本片段,得到增量同义文本。
在步骤202的基础上,本步骤旨在由上述执行主体先确定标注结果中文本片段中的核心词片段,然后采用将至少一个核心词片段替换为其所属上位概念下的其它下位概念的文本片段的方式,得到增量同义文本。
其中,核心词片段是根据各文本片段的含义从所有文本片段中筛选出的表达用户核心诉求的关键片段,通常可将其拆分为“实体片段”、“限定片段”、“意图片段”,仍以“感冒怎么治”为例,其中的“感冒”即为“实体片段”,“怎么治”则为“意图片段”,再例如“感冒3天了,怎么治”,其中的“3天”属于时间限定词。当然,不排除复杂语境下还可能存在其它用途的片段,上面仅针对大多数常见的语境下的核心词确定方式进行了举例说明。
在确定核心词片段的基础上,本步骤通过将当前至少一个核心词片段替换为其所属上位概念下的其它下位概念的文本片段的方式得到增量同义文本。仍以“感冒怎么治”为例,可知其“感冒”所属的上位概念为急性上呼吸道病毒性感染性疾病,在该概念下还存在“咳嗽”等下位概念的文本片段,“怎么治”所属的上位概念为疑问词,那么疑问词下还可以存在多种表达相同目的的下位概念的文本片段,例如“怎么办”、“怎么好”等等。而将至少一个核心词进行替换则包括多种可能,例如同时存在一个实体片段、一个限定片段、一个意图片段的情况下,仅替换其中一个就存在3种具体操作方式,同时替换其中两个,也存在3种具体操作方式,同时替换其中所有的片段也有一种方式,再结合下位概念的文本片段可能存在的数量,可以高效、准确的大量的增量同义文本。
本申请实施例提供的用于生成同义文本的方法,利用记录有不同文本片段所隶属的不同概念之间的关联关系的概念图谱,从文本片段的概念体系上,以将当前核心词片段替换为所属上位概念的其它下位概念的文本片段的方式,给出了一种新的生成增量同义文本的方式,概念的关联关系契合了存在大量不同词表达相同或近似含义的自然语言的特性,无需进行大量向量形式或平行语料的运算,且更加高效和准确,可进一步提升同义文本的丰富程度,提升基于同义文本库所提供的各项服务的效果。
请参考图3,图3为本申请实施例提供的另一种用于生成同义文本的方法的流程图,其中流程300包括以下步骤:
步骤301:获取初始同义文本;
本步骤与如图2所示的步骤201一致,相同部分内容请参见上一实施例的相应部分,此处不再进行赘述。
步骤302:利用预设的分类模型将初始同义文本按所属类别进行分类,得到各类别下的分类后同义文本;
在步骤301的基础上,本步骤旨在由上述执行主体利用分类模型先对初始同义文本进行分类,以得到按类别划分的各类别的分类后同义文本。其中,分类的方式需要根据实际应用场景的特性、要求来确定。具体的,分别模型可以为常见的机器学习分类模型,如SVM(Support Vector Machine,支持向量机)、CNN(Convolutional Neural Networks,卷积神经网络),BERT+SoftMax(归一化模型)等。
步骤303:切分每个类别下的分类后同义文本,得到各文本片段;
在步骤302的基础上,本步骤旨在由上述执行主体对分类后同义文本进行切分,以得到便于后续步骤进行概念标注的最小单位-文本片段。
步骤304:利用概念图谱分别对每个文本片段所属的上位概念进行标注,得到标注结果;
在步骤303的基础上,本步骤旨在由上述执行主体利用利用概念图谱分别对每个文本片段所属的上位概念进行标注,从而得到包含有各文本片段和各文本片段所属概念的标注结果。
步骤305:根据各文本片段的含义和标注结果对各文本片段标注出的上位概念,确定出包括实体片段、限定片段、意图片段中至少一种的核心词片段;
在步骤304的基础上,本步骤旨在由上述执行主体根据文本片段的含义和标注出的概念,确定其中哪些文本片段为核心词片段,以便于取出剩余的非核心词片段的干扰。
核心词标注结果中的实体片段、意图片段和限定片段一般根据不同的应用场景会对应不同类型的词汇,但是一般情况下,实体片段通常表示一个词汇中的核心实体,以医疗类搜索为例,实体可以是疾病、治疗、药物等;而意图词表示一个词汇的核心意图,例如价格、方法等等,限定词则是对实体、意图的约束,例如形容词、地域等。
步骤306:将标注结果中包含的实体片段、限定片段、意图片段中的至少一个,替换为其所属上位概念下的其它下位概念的文本片段,得到增量同义文本。
在具有上一实施例全部有益效果的基础上,本实施例在进行概念标注操作之前,还通过步骤302对初始同义文本进行了分类,通过分类可以尽可能的降低后续在概念标注环节被错误标注的几率、提升准确率;步骤303-步骤304则提供了一种先进行切分得到各文本片段以便于进行后续的概念标注的实现方式,提升了概念标注的准确率;步骤305-步骤306则具体提供了将实体片段、限定片段、意图片段确定为核心词片段,并进行替换得到增量同义文本的实现方案,提升了方案的可行性。
应当理解的是,步骤303-步骤304也可以在不包含步骤302所提供的分类操作的实施例中存在,仅需要对对象做适应性调整即可;步骤305-步骤306也可以在不包含步骤302、步骤304-步骤305的实施例中存在,单独与上一实施例形成新的独立的实施例,本实施例仅作为同时存在三部分优选方案的优选实施例存在。
在通过上述任意实施例得到增量同义文本的基础上,在考虑如何更好的利用这些增量同义文本方面,本申请还通过图4提供了一种基于同义文本特征库确定实际请求的请求目的的方法的流程图,其中流程400包括以下步骤:
步骤401:根据初始同义文本和增量同义文本构建同义文本特征库;
本步骤旨在由上述执行主体根据初始同义文本和生成的增量同义文本来构建一个规模更大、更全面的同义文本特征库。
步骤402:根据同义文本特征库确定与实际请求中包含的实际文本同义的其它同义文本;
在步骤401的基础上,本步骤旨在由上述执行根据同义文本特征库确定与实际请求中包含的实际文本同义的其它同义文本。其中,实际请求可以包括上述执行主体接收到的来自终端设备(例如图1所示的终端设备101、102、103)的实时查询请求,该实时查询请求表征了用户对自身需求的表述。
步骤403:根据其它同义文本确定请求目的;
在步骤402的基础上,本步骤旨在由上述执行主体根据确定出的其它同义文本来提升确定出该用户请求目的的准确性。尤其适合以一种不常见的表述查询了某些内容时,如果服务器无法理解查询意图必将无法返回给用户准确的查询结果,那么基于规模庞大、全面的同义文本特征库将得以满足上述特性,通过更好理解的其它同义文本将得以更准确的确定出请求目的。
进一步的,在确定出请求目的后,在查询场景下,上述执行主体可以输出与确定出的请求目的相对应的查询结果,而不是与原始的实际文本对应的查询结果。
为加深理解,本申请还结合一个具体应用场景,给出了一种具体的实现方案。该场景下终端设备像服务器输入为一系列的同义短语对或同义词对,目标为服务器能够输出至少两倍的增量同义短语对或同义词对。
1)为使后续处理统一,服务器将各处收集来的同义短语对的集合打平,生成词汇的集合。其中,打平是把<q1,b1>,<q2,b2>…这样二元组表示拆开,变成q1,b1,q2,b2…这样的表示形式,通俗的说就是打平前数据每一行是一个二元组,打平后每一行是二元组中的一个元素。
假定存在两个同义文本,分别为“感冒怎么治”和“图像分割的作用”。
2)服务器用分类模型把同义文本划分到指定的类别体系下:
“感冒怎么治”被划分至预先设定的“疾病治疗查询”的类别,“图像分割的作用”被划分至预先设定的“数据处理”的类别。
3)服务器利用概念图谱对两个类别的同义文本进行概念标注:
分别得到“感冒[急性上呼吸道病毒性感染性疾病]怎么治[疑问词]”和“图像处理[图形运算]的作用[用途]”的标注结果。
4)服务器对标注结果进行核心词片段确定:
分别得到“感冒[急性上呼吸道病毒性感染性疾病](实体片段)怎么治[疑问词](意图片段)”和“图像处理[图形运算](实体片段)的作用[用途](意图片段)”。
标注出包括实体片段、意图片段和限定片段在内的核心词的目的是便于后续的替换。
5)服务器在确定出的核心词片段的基础上生成概念模板,一个概念模板包含固定文本和槽位两部分,其中槽位是一个粒度比较粗的概念,代表这个概念所有下位词汇,可以通过模板和这个词汇集合泛化出更多的组合结果。
“感冒[急性上呼吸道病毒性感染性疾病](实体片段)怎么治[疑问词](意图片段)”可以生成概念模板“[D:急性上呼吸道病毒性感染性疾病]怎么治”,其中”[D:急性上呼吸道病毒性感染性疾病]”为槽位,“怎么治”是固定文本部分,“急性上呼吸道病毒性感染性疾病”概念下除了感冒,还包括咳嗽、咽部不适、流涕等疾病名称,通过[急性上呼吸道病毒性感染性疾病]怎么治这个模板,可以泛化生成“咳嗽怎么治”、“咽部不适”等相同模式,不同实体的组合结果。
在生成模板时一般使用实体片段和限定片段作为槽位,因为实体片段和限定片段更适合泛化,例如实体片段中的疾病,限定片段中的地域等。在获得了一个词汇的概念模板和槽位对应的下位词汇后,需要按照同义短语语料获取该词汇对应的同义短语的概念模板,两个模板应该具有相同的槽位和不同的固定文本,然后对于这样的概念模板对,遍历槽位对应下位词典中的n个词,生成n个不同的同义短语对,例如:“[急性上呼吸道病毒性感染性疾病]怎么治”和“得了[急性上呼吸道病毒性感染性疾病]怎么办”这个同义模板对,遍历概念图谱中,疾病的所有下位,可以生成“咳嗽怎么治”和“得了咳嗽怎么办”、“咽部不适怎么治”和“得了咽部不适怎么办”等同义短语对。
基于上述内容,服务器最终输出“咳嗽怎么治”、“得了咳嗽怎么办”、“咽部不适怎么治”、“得了咽部不适怎么办”以及“图形分割的作用”、“像素级分割的作用”、“图像分割有什么用”、“像素级分割有什么用”四个增量同义文本。
可见,基于概念图谱的同义短语挖掘方法可通过一定量的已有同义短语语料泛化出大量的高准确同义短语,特别适用于搜索和广告等场景,搜索和广告业务已经积累了大量的高质量同义短语,通过本方法的泛化,能够生成更多相同模式不同实体的同义短语以提升自然结果召回和广告触发的效果。
进一步参考图5,作为对上述各图所示方法的实现,本申请提供了一种用于生成同义文本的装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图5所示,本实施例的用于生成同义文本的装置500可以包括:初始同义文本获取单元501、概念标注单元502、文本片段替换单元503。其中,初始同义文本获取单元501,被配置成获取初始同义文本;概念标注单元502,被配置成利用预设的概念图谱对初始同义文本进行概念标注,得到标注结果;其中,概念图谱记录有不同文本片段所隶属的不同概念之间的关联关系;文本片段替换单元503,被配置成确定标注结果中的核心词片段,并将至少一个核心词片段替换为其所属上位概念下的其它下位概念的文本片段,得到增量同义文本。
在本实施例中,用于生成同义文本的装置500中:初始同义文本获取单元501、概念标注单元502、文本片段替换单元503的具体处理及其所带来的技术效果可分别参考图2对应实施例中的步骤201-203的相关说明,在此不再赘述。
在本实施例的一些可选的实现方式中,用于生成同义文本的装置500还可以包括:
分类单元,被配置成在利用预设的概念图谱对初始同义文本进行概念标注之前,利用预设的分类模型将初始同义文本按所属类别进行分类,得到各类别下的分类后同义文本;
以及概念标注单元进一步被配置成:
利用概念图谱分别对每个类别下的分类后同义文本进行概念标注。
在本实施例的一些可选的实现方式中,概念标注单元502可以进一步被配置成:
切分初始同义文本,得到各文本片段;
利用概念图谱分别对每个文本片段所属的上位概念进行标注。
在本实施例的一些可选的实现方式中,文本片段替换单元503可以包括被配置成确定标注结果中的核心词片段的核心词片段确定子单元,文本片段替换单元503可以包括被配置成将至少一个核心词片段替换为其所属上位概念下的其它下位概念的文本片段的文本片段替换子单元,该核心词片段确定子单元可以进一步被配置成:
根据各文本片段的含义和标注结果对各文本片段标注出的上位概念,确定出包括实体片段、限定片段、意图片段中至少一种的核心词片段;
以及该文本片段替换子单元可以进一步被配置成:
将标注结果中包含的实体片段、限定片段、意图片段中的至少一个,替换为其所属上位概念下的其它下位概念的文本片段。
在本实施例的一些可选的实现方式中,概念标注单元502可以进一步被配置成:
响应于初始同义文本为词汇/短语类同义文本,利用概念图谱对词汇/短语类同义文本进行成分标注操作。
在本实施例的一些可选的实现方式中,用于生成同义文本的装置500还可以包括:
同义文本特征库构建单元,被配置成根据初始同义文本和增量同义文本构建同义文本特征库;
其它同义文本确定单元,被配置成根据同义文本特征库确定与实际请求中包含的实际文本同义的其它同义文本;
请求目的确定单元,被配置成根据其它同义文本确定请求目的。
本实施例作为对应于上述方法实施例的装置实施例存在,本实施例提供的用于生成同义文本的装置利用记录有不同文本片段所隶属的不同概念之间的关联关系的概念图谱,从文本片段的概念体系上,以将当前核心词片段替换为所属上位概念的其它下位概念的文本片段的方式,给出了一种新的生成增量同义文本的方式,概念的关联关系契合了存在大量不同词表达相同或近似含义的自然语言文字的特性,无需进行大量向量形式或平行语料的运算,且更加高效和准确,可进一步提升同义文本的丰富程度,提升基于同义文本库所提供的各项服务的效果。
根据本申请的实施例,本申请还提供了一种电子设备和一种计算机可读存储介质。
图6示出了一种适于用来实现本申请实施例的用于生成同义文本的方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图6所示,该电子设备包括:一个或多个处理器601、存储器602,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图6中以一个处理器601为例。
存储器602即为本申请所提供的非瞬时计算机可读存储介质。其中,存储器存储有可由至少一个处理器执行的指令,以使至少一个处理器执行本申请所提供的用于生成同义文本的方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的用于生成同义文本的方法。
存储器602作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的用于生成同义文本的方法对应的程序指令/模块(例如,附图5所示的初始同义文本获取单元501、概念标注单元502、文本片段替换单元503)。处理器601通过运行存储在存储器602中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的用于生成同义文本的方法。
存储器602可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储该电子设备在执行用于生成同义文本的方法所创建的各类数据等。此外,存储器602可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器602可选包括相对于处理器601远程设置的存储器,这些远程存储器可以通过网络连接至适用于执行用于生成同义文本的方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
适用于执行用于生成同义文本的方法的电子设备还可以包括:输入装置603和输出装置604。处理器601、存储器602、输入装置603和输出装置604可以通过总线或者其他方式连接,图6中以通过总线连接为例。
输入装置603可接收输入的数字或字符信息,以及产生适用于执行用于生成同义文本的方法的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置604可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请实施例的技术方案,通过利用记录有不同文本片段所隶属的不同概念之间的关联关系的概念图谱,从文本片段的概念体系上,以将当前核心词片段替换为所属上位概念的其它下位概念的文本片段的方式,给出了一种新的生成增量同义文本的方式,概念的关联关系契合了存在大量不同词表达相同或近似含义的自然语言的特性,无需进行大量向量形式或平行语料的运算,且更加高效和准确,可进一步提升同义文本的丰富程度,提升基于同义文本库所提供的各项服务的效果。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
Claims (14)
1.一种用于生成同义文本的方法,包括:
获取初始同义文本;
利用预设的概念图谱对所述初始同义文本进行概念标注,得到标注结果;其中,所述概念图谱记录有不同文本片段所隶属的不同概念之间的关联关系;
确定所述标注结果中的核心词片段,并将至少一个所述核心词片段替换为其所属上位概念下的其它下位概念的文本片段,得到增量同义文本。
2.根据权利要求1所述的方法,其中,在利用预设的概念图谱对所述初始同义文本进行概念标注之前,还包括:
利用预设的分类模型将所述初始同义文本按所属类别进行分类,得到各类别下的分类后同义文本;以及
所述利用预设的概念图谱对所述初始同义文本进行概念标注,包括:
利用所述概念图谱分别对每个类别下的分类后同义文本进行概念标注。
3.根据权利要求1所述的方法,其中,所述利用预设的概念图谱对所述初始同义文本进行概念标注,包括:
切分所述初始同义文本,得到各文本片段;
利用所述概念图谱分别对每个所述文本片段所属的上位概念进行标注。
4.根据权利要求3所述的方法,其中,所述确定所述标注结果中的核心词片段,包括:
根据各所述文本片段的含义和所述标注结果对各所述文本片段标注出的上位概念,确定出包括实体片段、限定片段、意图片段中至少一种的核心词片段;以及
所述将至少一个所述核心词片段替换为其所属上位概念下的其它下位概念的文本片段,包括:
将所述标注结果中包含的实体片段、限定片段、意图片段中的至少一个,替换为其所属上位概念下的其它下位概念的文本片段。
5.根据权利要求1所述的方法,其中,所述利用预设的概念图谱对所述初始同义文本进行概念标注,包括:
响应于所述初始同义文本为词汇/短语类同义文本,利用所述概念图谱对所述词汇/短语类同义文本进行成分标注操作。
6.根据权利要求1至5任一项所述的方法,还包括:
根据所述初始同义文本和所述增量同义文本构建同义文本特征库;
根据所述同义文本特征库确定与实际请求中包含的实际文本同义的其它同义文本;
根据所述其它同义文本确定请求目的。
7.一种用于生成同义文本的装置,包括:
初始同义文本获取单元,被配置成获取初始同义文本;
概念标注单元,被配置成利用预设的概念图谱对所述初始同义文本进行概念标注,得到标注结果;其中,所述概念图谱记录有不同文本片段所隶属的不同概念之间的关联关系;
文本片段替换单元,被配置成确定所述标注结果中的核心词片段,并将至少一个所述核心词片段替换为其所属上位概念下的其它下位概念的文本片段,得到增量同义文本。
8.根据权利要求7所述的装置,还包括:
分类单元,被配置成在利用预设的概念图谱对所述初始同义文本进行概念标注之前,利用预设的分类模型将所述初始同义文本按所属类别进行分类,得到各类别下的分类后同义文本;以及
所述概念标注单元进一步被配置成:
利用所述概念图谱分别对每个类别下的分类后同义文本进行概念标注。
9.根据权利要求7所述的装置,其中,所述概念标注单元进一步被配置成:
切分所述初始同义文本,得到各文本片段;
利用所述概念图谱分别对每个所述文本片段所属的上位概念进行标注。
10.根据权利要求9所述的装置,其中,所述文本片段替换单元包括被配置成确定所述标注结果中的核心词片段的核心词片段确定子单元,所述文本片段替换单元包括被配置成将至少一个所述核心词片段替换为其所属上位概念下的其它下位概念的文本片段的文本片段替换子单元,所述核心词片段确定子单元进一步被配置成:
根据各所述文本片段的含义和所述标注结果对各所述文本片段标注出的上位概念,确定出包括实体片段、限定片段、意图片段中至少一种的核心词片段;以及
所述文本片段替换子单元进一步被配置成:
将所述标注结果中包含的实体片段、限定片段、意图片段中的至少一个,替换为其所属上位概念下的其它下位概念的文本片段。
11.根据权利要求7所述的装置,其中,所述概念标注单元进一步被配置成:
响应于所述初始同义文本为词汇/短语类同义文本,利用所述概念图谱对所述词汇/短语类同义文本进行成分标注操作。
12.根据权利要求7至11任一项所述的装置,还包括:
同义文本特征库构建单元,被配置成根据所述初始同义文本和所述增量同义文本构建同义文本特征库;
其它同义文本确定单元,被配置成根据所述同义文本特征库确定与实际请求中包含的实际文本同义的其它同义文本;
请求目的确定单元,被配置成根据所述其它同义文本确定请求目的。
13.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-6中任一项所述的用于生成同义文本的方法。
14.一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行权利要求1-6中任一项所述的用于生成同义文本的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010886562.6A CN112015866B (zh) | 2020-08-28 | 2020-08-28 | 用于生成同义文本的方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010886562.6A CN112015866B (zh) | 2020-08-28 | 2020-08-28 | 用于生成同义文本的方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112015866A true CN112015866A (zh) | 2020-12-01 |
CN112015866B CN112015866B (zh) | 2023-07-21 |
Family
ID=73502372
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010886562.6A Active CN112015866B (zh) | 2020-08-28 | 2020-08-28 | 用于生成同义文本的方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112015866B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112784589A (zh) * | 2021-01-29 | 2021-05-11 | 北京百度网讯科技有限公司 | 一种训练样本的生成方法、装置及电子设备 |
CN112926315A (zh) * | 2021-05-11 | 2021-06-08 | 北京嘉和海森健康科技有限公司 | 一种医疗术语自动标准化方法和装置 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103150382A (zh) * | 2013-03-14 | 2013-06-12 | 中国科学院计算技术研究所 | 基于开放知识库的短文本语义概念自动化扩展方法及系统 |
US20150095013A1 (en) * | 2013-09-27 | 2015-04-02 | Sonja Zillner | Extending Concept Labels of an Ontology |
CN107562713A (zh) * | 2016-06-30 | 2018-01-09 | 北京智能管家科技有限公司 | 同义文本的挖掘方法及装置 |
CN108932218A (zh) * | 2018-06-29 | 2018-12-04 | 北京百度网讯科技有限公司 | 一种实例扩展方法、装置、设备和介质 |
CN109214008A (zh) * | 2018-09-28 | 2019-01-15 | 珠海中科先进技术研究院有限公司 | 一种基于关键词提取的情感分析方法及系统 |
EP3575988A1 (en) * | 2018-05-31 | 2019-12-04 | Beijing Baidu Netcom Science and Technology Co., Ltd. | Method and device for retelling text, server, and storage medium |
CN111539209A (zh) * | 2020-04-15 | 2020-08-14 | 北京百度网讯科技有限公司 | 用于实体分类的方法和装置 |
-
2020
- 2020-08-28 CN CN202010886562.6A patent/CN112015866B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103150382A (zh) * | 2013-03-14 | 2013-06-12 | 中国科学院计算技术研究所 | 基于开放知识库的短文本语义概念自动化扩展方法及系统 |
US20150095013A1 (en) * | 2013-09-27 | 2015-04-02 | Sonja Zillner | Extending Concept Labels of an Ontology |
CN107562713A (zh) * | 2016-06-30 | 2018-01-09 | 北京智能管家科技有限公司 | 同义文本的挖掘方法及装置 |
EP3575988A1 (en) * | 2018-05-31 | 2019-12-04 | Beijing Baidu Netcom Science and Technology Co., Ltd. | Method and device for retelling text, server, and storage medium |
CN108932218A (zh) * | 2018-06-29 | 2018-12-04 | 北京百度网讯科技有限公司 | 一种实例扩展方法、装置、设备和介质 |
CN109214008A (zh) * | 2018-09-28 | 2019-01-15 | 珠海中科先进技术研究院有限公司 | 一种基于关键词提取的情感分析方法及系统 |
CN111539209A (zh) * | 2020-04-15 | 2020-08-14 | 北京百度网讯科技有限公司 | 用于实体分类的方法和装置 |
Non-Patent Citations (3)
Title |
---|
杨静: "商品评论中的属性词聚类和扩展研究", 中国优秀硕士学位论文全文数据库 * |
程健一: "中文电子病历实体关系抽取研究", 中国优秀硕士学位论文全文数据库 * |
蒋婷;孙建军;: "领域学术本体概念等级关系抽取研究", 情报学报, no. 10 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112784589A (zh) * | 2021-01-29 | 2021-05-11 | 北京百度网讯科技有限公司 | 一种训练样本的生成方法、装置及电子设备 |
CN112926315A (zh) * | 2021-05-11 | 2021-06-08 | 北京嘉和海森健康科技有限公司 | 一种医疗术语自动标准化方法和装置 |
Also Published As
Publication number | Publication date |
---|---|
CN112015866B (zh) | 2023-07-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11928434B2 (en) | Method for text generation, device and storage medium | |
JP7247441B2 (ja) | セマンティック表現モデルの処理方法、装置、電子機器、及び記憶媒体 | |
CN111428008B (zh) | 用于训练模型的方法、装置、设备以及存储介质 | |
CN112507715B (zh) | 确定实体之间关联关系的方法、装置、设备和存储介质 | |
US9886501B2 (en) | Contextual content graph for automatic, unsupervised summarization of content | |
US9881082B2 (en) | System and method for automatic, unsupervised contextualized content summarization of single and multiple documents | |
JP7301922B2 (ja) | 意味検索方法、装置、電子機器、記憶媒体およびコンピュータプログラム | |
US20220012296A1 (en) | Systems and methods to automatically categorize social media posts and recommend social media posts | |
CN111783468B (zh) | 文本处理方法、装置、设备和介质 | |
CN111191428B (zh) | 评论信息处理方法、装置、计算机设备和介质 | |
US20120158742A1 (en) | Managing documents using weighted prevalence data for statements | |
US20220129448A1 (en) | Intelligent dialogue method and apparatus, and storage medium | |
US11714840B2 (en) | Method and apparatus for information query and storage medium | |
CN111539209B (zh) | 用于实体分类的方法和装置 | |
CN111144120A (zh) | 一种训练语句的获取方法、装置、存储介质及电子设备 | |
WO2022077880A1 (zh) | 模型训练方法、短信审核方法、装置、设备以及存储介质 | |
US20210191938A1 (en) | Summarized logical forms based on abstract meaning representation and discourse trees | |
CN111339759A (zh) | 领域要素识别模型训练方法、装置及电子设备 | |
CN113051914A (zh) | 一种基于多特征动态画像的企业隐藏标签抽取方法及装置 | |
US20190311039A1 (en) | Cognitive natural language generation with style model | |
CN112926308B (zh) | 匹配正文的方法、装置、设备、存储介质以及程序产品 | |
CN114429133A (zh) | 通过神经机器阅读理解依赖于话语分析来回答复杂问题 | |
JP7140913B2 (ja) | 映像配信時効の決定方法及び装置 | |
CN111859953A (zh) | 训练数据的挖掘方法、装置、电子设备及存储介质 | |
CN112330455A (zh) | 用于推送信息的方法、装置、设备以及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |