CN111930914A - 问题生成方法和装置、电子设备以及计算机可读存储介质 - Google Patents

问题生成方法和装置、电子设备以及计算机可读存储介质 Download PDF

Info

Publication number
CN111930914A
CN111930914A CN202010819964.4A CN202010819964A CN111930914A CN 111930914 A CN111930914 A CN 111930914A CN 202010819964 A CN202010819964 A CN 202010819964A CN 111930914 A CN111930914 A CN 111930914A
Authority
CN
China
Prior art keywords
corpus
module
vocabulary
domain
answer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010819964.4A
Other languages
English (en)
Other versions
CN111930914B (zh
Inventor
李羊
唐伟佳
张文慧
范晓东
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Industrial and Commercial Bank of China Ltd ICBC
ICBC Technology Co Ltd
Original Assignee
ICBC Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ICBC Technology Co Ltd filed Critical ICBC Technology Co Ltd
Priority to CN202010819964.4A priority Critical patent/CN111930914B/zh
Publication of CN111930914A publication Critical patent/CN111930914A/zh
Application granted granted Critical
Publication of CN111930914B publication Critical patent/CN111930914B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/332—Query formulation
    • G06F16/3329—Natural language query formulation or dialogue systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/10—Text processing
    • G06F40/12—Use of codes for handling textual entities
    • G06F40/126—Character encoding
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/205—Parsing
    • G06F40/216—Parsing using statistical methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/237—Lexical tools
    • G06F40/242—Dictionaries
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/279—Recognition of textual entities
    • G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Biomedical Technology (AREA)
  • Human Computer Interaction (AREA)
  • Probability & Statistics with Applications (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Biophysics (AREA)
  • Evolutionary Computation (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Machine Translation (AREA)

Abstract

本发明属于人工智能领域，本发明提供一种问题生成方法和装置，该方法包括：获取待处理语料及其对应的答案；根据该待处理语料及其对应的答案获取基于领域注意力的语料特征；将该语料特征输入预训练的问题生成模型得到对应的问题，其中，在获取语料特征时，考虑领域注意力，增加对领域知识的关注，结合问题生成模型，能自动从文章中生成问题，对于数据集和问答对的构建很有意义，解决问题模板化且类型单一、质量不高等问题。

Description

问题生成方法和装置、电子设备以及计算机可读存储介质
技术领域
本发明涉及人工智能技术领域，尤其涉及一种问题生成方法和装置、电子设备以及计算机可读存储介质。
背景技术
随着人工智能技术的发展，对话机器人、客服机器人等自动化问答机器人越来越多，比如：小爱音箱、电商平台以及政务平台等上的自助问答客服。问题生成(QuestionGeneration，QG)是指根据文章和答案来生成相关问题，其中，答案可从文章中获得，主要应用场景有：对话系统中，聊天机器人主动抛出问题增加交互的持续性，自助问答客服根据基础文件资料生成问题，以便应对用户的提问等，在问答和机器阅读理解数据集构建中自动生成问题可减少人工拆解的工作。
目前，问题生成主要为基于规则(rule-based)的方法。基于规则主要提取目的句子的相关实体，填入人工编写的模板中(根据规则和语法)，再根据排序方法选择一个或几个最合适的模板进行生成问题，对于问题生成主要是生成实体相关的问题，但是对于实体的领域特征未加判断，缺乏对领域知识的关注，问题模板化且类型单一，质量不高。
发明内容
针对现有技术中的问题，本发明提供一种问题生成方法和装置、电子设备以及计算机可读存储介质，能够至少部分地解决现有技术中存在的问题。
为了实现上述目的，本发明采用如下技术方案：
第一方面，提供一种问题生成方法，包括：
获取待处理语料及其对应的答案；
根据该待处理语料及其对应的答案获取基于领域注意力的语料特征；
将该语料特征输入预训练的问题生成模型得到对应的问题。
进一步地，该基于领域注意力的语料特征包括：词向量及其对应的领域属性编码和答案标识；
该根据该待处理语料及其对应的答案获取基于领域注意力的语料特征，包括：
对该待处理语料进行分词得到词汇；
利用词嵌入技术将该词汇转换成词向量；
根据预获取的领域词典中是否含有该词汇设置该领域属性编码；
根据该词汇是否在该答案中设置该答案标识。
进一步地，问题生成方法还包括：
获取该领域的语料数据集；
根据该领域的语料数据集获取领域词典。
进一步地，该根据该领域的语料数据集获取领域词典，包括：
对该语料数据集进行分词、去停用词以及词频统计；
根据词频统计结果获取领域词典。
进一步地，该问题生成模型包括：双向编码LSTM模块、解码LSTM模块、复制模块、生成模块以及比较输出模块；
该双向编码LSTM模块的输出端连接该解码LSTM模块的输入端，该解码LSTM模块的输出端连接该复制模块的输入端，该生成模块的两个输入端分别连接该双向编码LSTM模块的输入端以及该解码LSTM模块的输出端；该比较输出模块的两个输入端分别连接该复制模块以及该生成模块的输出端；
该双向编码LSTM模块接收该语料特征，输出编码了上下文信息的状态变量；
该解码LSTM模块接收该状态变量，输出词汇及其与该答案的相关程度；
该复制模块根据该相关程度选择性复制该词汇；
该生成模块根据上一时刻解码LSTM模块的输出以及当前时刻双向编码LSTM模块的输入生成一个生成词汇；
该比较输出模块接收当前时刻的复制词汇和当前时刻的生成词汇，选择一个词汇作为当前时刻的输出词汇。
进一步地，该比较输出模块包括：矩阵合成单元、数值换换单元以及比较输出单元；
该矩阵合成单元将当前时刻的复制词汇和当前时刻的生成词汇合成一个矩阵；
该数值换换单元根据该矩阵得到该复制词汇和该生成词汇对应的概率；
该比较输出单元根据概率选择一个词汇作为当前时刻的输出词汇。
第二方面，提供一种问题生成装置，包括：
数据获取模块，获取待处理语料及其对应的答案；
特征提取模块，根据该待处理语料及其对应的答案获取基于领域注意力的语料特征；
问题生成模块，该语料特征输入预训练的问题生成模型得到对应的问题。
进一步地，该基于领域注意力的语料特征包括：词向量及其对应的领域属性编码和答案标识；
该特征提取模块包括：
分词单元，对该待处理语料进行分词得到词汇；
转换单元，利用词嵌入技术将该词汇转换成词向量；
领域属性编码设置单元，根据预获取的领域词典中是否含有该词汇设置该领域属性编码；
答案标识设置单元，根据该词汇是否在该答案中设置该答案标识。
第三方面，提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，该处理器执行该程序时实现上述的问题生成方法的步骤。
第四方面，提供一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现上述的问题生成方法的步骤。
本发明提供的问题生成方法和装置，该方法包括：获取待处理语料及其对应的答案；根据该待处理语料及其对应的答案获取基于领域注意力的语料特征；将该语料特征输入预训练的问题生成模型得到对应的问题，其中，在获取语料特征时，考虑领域注意力，增加对领域知识的关注，结合问题生成模型，能自动从文章中生成问题，对于数据集和问答对的构建很有意义，解决问题模板化且类型单一、质量不高等问题。
为让本发明的上述和其他目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附图式，作详细说明如下。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。在附图中：
图1为本发明实施例中的服务器S1与客户端设备B1之间的架构示意图；
图2为本发明实施例中的服务器S1、客户端设备B1及数据库服务器S2之间的架构示意图；
图3是本发明实施例中的问题生成方法的流程示意图一；
图4示出了步骤S200的具体步骤；
图5是本发明实施例中的问题生成方法的流程示意图二；
图6示出了步骤S500的具体步骤；
图7示出了本发明实施例中的问题生成模型的结构框图；
图8例举了本发明实施例中的问题生成过程；
图9示出了本发明实施例中的问题生成装置的结构框图；
图10示出了特征提取模块的具体结构；
图11为本发明实施例电子设备的结构图。
具体实施方式
为了使本技术领域的人员更好地理解本申请方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分的实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本申请保护的范围。
本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
需要说明的是，本申请的说明书和权利要求书及上述附图中的术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
问题生成(Question Generation，QG)是指根据文章和答案来生成相关问题，其答案可从文章中获得。举例来说，在政务领域中，经常需要回答用户问题的客服，比如，用户有对于退休年龄的疑问时，会咨询人工客服。但随着技术的发展，越来越多的问答机器人出现，决定问答机器人的效果的关键因素在于对问题的生成、预测以及回答，比如，有一个关于退休年龄的政策性文档，需要预先根据文档以及人工或机器标注的答案生成问题，在文档数量少的情况下，可以采用人工生成问题，但是，随着大数据以及社会复杂程度的加剧，初始的语料集(即各种文档、政策、地方性文件、法规等)，人工生成问题已经不能满足人工智能的需要，需要自动地根据答案以及语料生成问题，即本发明实施例中提到的问题生成技术。
NQG(Neural Question Generation)：神经网络问题生成。
注意力机制(attention)：借鉴了人类的注意力机制，从众多信息中选择出对当前任务目标更关键的信息，比如对比较重要的信息增大权重等手段。
词嵌入(Word-Embedding)：自然语言处理中语言模型与表征技术的统称，把维数为所有次数量的高维稀疏空间嵌入到低维稠密的向量空间汇中。
现有问题生成技术，对于实体的领域特征未加判断，缺乏对领域知识的关注，问题模板化且类型单一，质量不高。
为至少部分解决现有技术中的上述技术问题，本发明实施例提供了一种问题生成方法，在获取语料特征时，考虑领域注意力，增加对领域知识的关注，结合问题生成模型，能自动从文章中生成问题，对于数据集和问答对的构建很有意义，解决问题模板化且类型单一、质量不高等问题。
有鉴于此，本申请提供了一种问题生成装置，该装置可以为一种服务器S1，参见图1，该服务器S1可以与至少一个客户端设备B1通信连接，所述客户端设备B1可以将待处理语料及其对应的答案发送至所述服务器S1，所述服务器S1可以在线接收所述待处理语料及其对应的答案。所述服务器S1可以在线或者离线对获取的待处理语料及其对应的答案进行预处理，根据所述待处理语料及其对应的答案获取基于领域注意力的语料特征；将所述语料特征输入预训练的问题生成模型得到对应的问题。而后，所述服务器S1可以将生成的问题在线发送至所述客户端设备B1。所述客户端设备B1可以在线接收所述问题。
另外，参见图2，所述服务器S1还可以与至少一个数据库服务器S2通信连接，所述数据库服务器S2用于存储历史问题生成语料及其对应的答案。所述数据库服务器S2在线将所述历史问题生成语料及其对应的答案发送至所述服务器S1，所述服务器S1可以在线接收所述历史问题生成语料及其对应的答案，而后根据多个历史问题生成语料及其对应的答案获取该模型的训练样本集，应用所述训练样本集对所述模型进行模型训练。
基于上述内容，所述数据库服务器S2还可以用于存储测试用历史问题生成语料及其对应的答案。所述数据库服务器S2在线将所述测试用历史问题生成语料及其对应的答案发送至所述服务器S1，所述服务器S1可以在线接收所述测试用历史问题生成语料及其对应的答案，而后根据至少一个测试用历史问题生成语料及其对应的答案得到测试样本，并应用所述测试样本对所述模型进行模型测试，并将该模型的输出作为测试结果，再基于所述测试结果及对应的答案，判断当前模型是否符合预设要求，若是，则将当前模型作为用于问题生成的目标模型；若当前模型不符合所述预设要求，则对当前模型进行优化和/或应用更新后的训练样本集重新对该模型进行模型训练。
可以理解的是，所述客户端设备B1可以包括智能手机、平板电子设备、便携式计算机、台式电脑等。
在实际应用中，进行问题生成的部分可以在如上述内容所述的服务器S1侧执行，即，如图1所示的架构，也可以所有的操作都在所述客户端设备B1中完成，且该所述客户端设备B1可以直接与数据库服务器S2进行通信连接。具体可以根据所述客户端设备B1的处理能力，以及用户使用场景的限制等进行选择。本申请对此不作限定。若所有的操作都在所述客户端设备B1中完成，所述客户端设备B1还可以包括处理器，用于进行问题生成的具体处理。
所述服务器与所述客户端设备之间可以使用任何合适的网络协议进行通信，包括在本申请提交日尚未开发出的网络协议。所述网络协议例如可以包括TCP/IP协议、UDP/IP协议、HTTP协议、HTTPS协议等。当然，所述网络协议例如还可以包括在上述协议之上使用的RPC协议(Remote Procedure Call Protocol，远程过程调用协议)、REST协议(Representational State Transfer，表述性状态转移协议)等。
在本申请的一个或多个实施例中，所述测试用历史问题生成语料及其对应的答案为未包含在用于模型训练的历史问题生成语料及其对应的答案中的，且对应的答案作为已知评价结果。
图3是本发明实施例中的问题生成方法的流程示意图一；如图3所示，该问题生成方法可以包括：
步骤S100：获取待处理语料及其对应的答案；
具体地，待处理语料一般可为一个语料文档的一段或一章，比如，关于五险一金管理规定中的一段或一章；另外，该答案可以是机器自动根据语料按照预设规则标注，比如，标注语料中的数字或者预设词等，也可以是人力标定的，本发明实施例对此不做限制。
步骤S200：根据所述待处理语料及其对应的答案获取基于领域注意力的语料特征；
具体地，在对语料进行特征提取时，关注领域注意力以及答案是否包括在语料中等。
步骤S300：将所述语料特征输入预训练的问题生成模型得到对应的问题。
值得说明的是，该问题生成模型可以是基于Encoder-Decoder(编码-解码)框架，将段落和答案编码作为输入，得到对应的问题。
具体地，基于Encoder-Decoder(编码-解码)框架的模型包括编码层以及解码层。所谓编码，就是将输入序列转化成一个固定长度的向量；解码，就是将之前生成的固定长度的向量再转化成输出序列，在编码-解码框架的模型的应用过程中，可以得到表征和泛化能力较好的语义编码。其中，Encoder-Decoder框架是深度学习中的一个模型框架，Encoder-Decoder框架的模型包括但不限于序列到序列(Sequence to Sequence，简称Seq2Seq)模型，Seq2Seq模型可以采用长短记忆(Long Short-Term Memory，简称LSTM)或者门控循环单元(Gated Recurrent Unit，简称GRU)算法实现Encoder层和Decoder层，也可以采用Transformer算法实现Encoder-Decoder层。
通过采用上述技术方案，加入对领域词汇的查找和注意力，可有效的从文档中自动生成跟领域相关的问题，帮助解决问答系统的语料构建问题，减少人工拆解语料的成本，节省时间和成本，有效控制生成的问题与领域更相关。
在一个可选的实施例中，该步骤S100之前还可以包括：
获取图片格式的待处理语料；
利用OCR技术识别语料中的文本。
通过采用上述技术方案，能够兼容不同格式的语料输入，进一步提高问题生成方法的适用性。
在一个可选的实施例中，该步骤S100之后还可以包括：
对所述待处理语料进行格式转换，得到文字格式的待处理语料。
通过采用上述技术方案，能够进一步兼容不同格式的语料输入，进一步提高问题生成方法的适用性。
在一个可选的实施例中，该问题生成方法还可以包括：
按照段落或者预设的切分规则对待处理语料进行切分。
通过采用上述技术方案，能够进一步提高语料的针对性，能够得到质量更好的问题。
在一个可选的实施例中，该问题生成方法还可以包括：
获取语音输入数据；
利用语音识别技术将所述语音输入数据转换成对应的文本语料。
通过采用上述技术方案，当输入语料是会议录音或者新闻录音等时，可以利用语音识别技术(Automatic Speech Recognition，简称ASR)将转写成文本，进一步提高本发明实施例的适用性。
在一个可选的实施例中，基于领域注意力的语料特征包括：词向量及其对应的领域属性编码和答案标识，参见图4，该步骤S200可以包括以下内容：
步骤S210：对所述待处理语料进行分词得到词汇；
具体地，对待处理语料进行分词，可以采用文本处理的开源软件实现，比如jieba、corenlp。
步骤S220：利用词嵌入技术将所述词汇转换成词向量；
具体地，可以利用词嵌入(Word-Embedding)技术中的词向量转换算法将各词汇转换成对应的词向量，词向量转换算法包括：word2vec算法、fasttext算法或Bert算法。
举例来说，可将每个单词转化为300维的GLOVE词向量。
步骤S230：根据预获取的领域词典中是否含有所述词汇设置所述领域属性编码；
具体地，领域属性编码用于标志该词汇是否在领域词典中出现，若出现，则认为该词的领域注意力高，若未出现，则认为该词的领域注意力低。
另外，该可以根据该词在领域词典中的重要程度或词频，设置区别，以此多等级地体现领域注意力。
步骤S240：根据所述词汇是否在所述答案中设置所述答案标识。
具体地，将每个输入词向量增加一个额外的答案指标特征，指示这个词是否在答案范围内，即答案标识(Answer Tagging)。
通过引入注意力机制，能够自动生成跟领域相关的问题，有效控制生成的问题与领域更相关。
在一个可选的实施例中，参见图5，该问题生成方法，还包括：
步骤S400：获取所述领域的语料数据集；
具体地，语料数据集包括各种文档、图片资料、语音资料、新闻录音、会议纪要、政策性文件等。
步骤S500：根据所述领域的语料数据集获取领域词典。
其中，参见图6，该步骤S500可以包括以下内容：
步骤S510：对所述语料数据集进行分词、去停用词以及词频统计；
具体地，可采用文本处理的开源软件实现，比如jieba、corenlp。
步骤S520：根据词频统计结果获取领域词典。
具体地，对语料数据集进行格式转换，得到文本格式的语料，然后对数据进行汇总，经过分词、统计词频、去掉停用词等处理后，按照频率排序并抽取预设数量的词汇作为备选词，经过领域专家核验确认和筛选，并进行类别分类，得到领域词典。
本领域技术人员可以理解的是，该领域词典在构建好之后，可以按照预设时间间隔(比如一年、半年等)或按照行业发展突发(比如新的重大技术分支产生、新的政策调整)等情况下，触发领域词典更新，以便得到实时性较好的领域词典。
其中，通过构建政务领域常用词汇表：创造性的构建政务领域的词典，用于区分名词的领域特征和类别。
在一个可选的实施例中，问题生成模型可以选用基于神经网络(neuralapproach)的基于Encoder-Decoder(编码-解码)框架的seq2seq模型。参见图7，该问题生成模型包括：双向编码LSTM模块10、解码LSTM模块20、复制模块30、生成模块40以及比较输出模块50；
所述双向编码LSTM模块的输出端连接所述解码LSTM模块的输入端，所述解码LSTM模块的输出端连接所述复制模块的输入端，所述生成模块的两个输入端分别连接所述双向编码LSTM模块的输入端以及所述解码LSTM模块的输出端；所述比较输出模块的两个输入端分别连接所述复制模块以及所述生成模块的输出端；
所述双向编码LSTM模块接收所述语料特征，输出编码了上下文信息的状态变量；
所述解码LSTM模块接收所述状态变量，输出词汇及其与所述答案的相关程度，相关程度越大，被复制的概率越大；
所述复制模块根据所述相关程度选择性复制所述词汇；
所述生成模块根据上一时刻解码LSTM模块的输出以及当前时刻双向编码LSTM模块的输入生成一个生成词汇；
所述比较输出模块接收当前时刻的复制词汇和当前时刻的生成词汇，选择一个词汇作为当前时刻的输出词汇。
值得说明的是，将处理好的特征输入双向LSTM网络中，编码上下文信息，如下公式表示：
Ut＝LSTM(Ut-1,[et,mt,nt])
其中：Ut为编码后的输出；et为将单词转化为300维GLOVE词向量；mt：该单词是否在答案中；nt：该单词是否在政务领域词典中，若在其属于那种类别。
复制机制在解码过程中直接将相关单词从源句复制到生成的问题中。复制机制将每个时间序列上的单词被视为唯一的复制目标，一个单词的最终得分为指向相同单词的所有得分的总和。将拷贝和生成拼接，然后在级联向量上执行进行softmax，并计算指向相同单词的概率的和，最终构建出问题。
其中，某一时刻，复制向量和生成向量合并在一个矩阵中，将这个矩阵输入一个softmax，以便进行数值转化，放大差别，并且所有数值的概率和为1，输出复制向量和生成向量的概率，选择一个概率高的作为当前时刻的输出。
基于时序特征，将语料处理阶段的各个时刻的输出词汇汇总融合，得到问题。
在一个可选的实施例中，该比较输出模块包括：矩阵合成单元、数值换换单元以及比较输出单元；所述矩阵合成单元将当前时刻的复制词汇和当前时刻的生成词汇合成一个矩阵；所述数值换换单元根据所述矩阵得到所述复制词汇和所述生成词汇对应的概率；所述比较输出单元根据概率选择一个词汇作为当前时刻的输出词汇。
通过采用上述技术方案，应用端到端seq-seq的结构模式，组成整套自动问题生成系统。
值得说明的是，模型的训练测试过程与常规的模型训练测试过程相同，均是利用样本集对模型反复进行训练、调整和测试，直至满足需求，具体过程在此不再赘述。
本发明实施例的目的：假设一个政策性文档的某一段落中，标注了男性退休年龄60岁，女性退休年龄55岁，很大可能会有用户咨询退休年龄的问题，此时，标注出60岁是一种答案，此时，通过一系列预处理、分析、特征提取、编码、解码以及复制生成技术后，得到问题为“男性退休年龄是多少岁”或者“男性退休年龄是多少”或者“男性多少岁退休”，并与60岁形成问题答案对，存到问答机器人服务器中，以便在用户提出上述的问题时，自动给出答案“60岁”。
为了使本领域技术人员更好地理解本申请，参考图8，以政务(五险一金、国家政策等)领域为例，对问题生成过程进行说明：
首先，需要说明的是，问题生成过程包括编码(Encoder)和解码(Decoder)两个阶段，编码阶段包括：输入数据的预处理、特征提取以及编码LSTM等，解码阶段包括：解码LSTM、复制和生成机制以及问题输出等过程。
接收到输入数据后，进行格式处理，转换为文字格式，按照段落切分后，进行分词，词汇进行向量化，并判断单词是否在答案中，是否在政务领域词典中，若在，词汇所述类别(比如在社保领域，一个词的业务上的分类称为词汇的类别，如社保类、医保类等)，得到输出后合并输入到编码LSTM，编码LSTM的输出输入到解码LSTM中，通过复制机制/生成机制，生成问题。
基于同一发明构思，本申请实施例还提供了一种问题生成装置，可以用于实现上述实施例所描述的方法，如下面的实施例所述。由于问题生成装置解决问题的原理与上述方法相似，因此问题生成装置的实施可以参见上述方法的实施，重复之处不再赘述。以下所使用的，术语“单元”或者“模块”可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的装置较佳地以软件来实现，但是硬件，或者软件和硬件的组合的实现也是可能并被构想的。
图9是本发明实施例中的问题生成装置的结构框图。如图9所示，该问题生成装置具体包括：数据获取模块100、特征提取模块200以及问题生成模块300。
数据获取模块100获取待处理语料及其对应的答案；
特征提取模块200根据所述待处理语料及其对应的答案获取基于领域注意力的语料特征；
问题生成模块300所述语料特征输入预训练的问题生成模型得到对应的问题。
通过采用上述技术方案，加入对领域词汇的查找和注意力，可有效的从文档中自动生成跟领域相关的问题，帮助解决问答系统的语料构建问题，减少人工拆解语料的成本，节省时间和成本，有效控制生成的问题与领域更相关。
在一个可选的实施例中，基于领域注意力的语料特征包括：词向量及其对应的领域属性编码和答案标识；参见图10，该特征提取模块包括：分词单元210、转换单元220、领域属性编码设置单元230、答案标识设置单元240。
分词单元210对所述待处理语料进行分词得到词汇；
转换单元220利用词嵌入技术将所述词汇转换成词向量；
领域属性编码设置单元230根据预获取的领域词典中是否含有所述词汇设置所述领域属性编码；
答案标识设置单元240根据所述词汇是否在所述答案中设置所述答案标识。
上述实施例阐明的装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为电子设备，具体的，电子设备例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
在一个典型的实例中电子设备具体包括存储器、处理器以及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述的问题生成方法的步骤。
下面参考图11，其示出了适于用来实现本申请实施例的电子设备600的结构示意图。
如图11所示，电子设备600包括中央处理单元(CPU)601，其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM))603中的程序而执行各种适当的工作和处理。在RAM603中，还存储有系统600操作所需的各种程序和数据。CPU601、ROM602、以及RAM603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
以下部件连接至I/O接口605：包括键盘、鼠标等的输入部分606；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607；包括硬盘等的存储部分608；以及包括诸如LAN卡，调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器610上，以便于从其上读出的计算机程序根据需要被安装如存储部分608。
特别地，根据本发明的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本发明的实施例包括一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现上述的问题生成方法的步骤。
在这样的实施例中，该计算机程序可以通过通信部分609从网络上被下载和安装，和/或从可拆卸介质611被安装。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。
为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本申请时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白，本申请的实施例可提供为方法、系统或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
以上所述仅为本申请的实施例而已，并不用于限制本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。

Claims (10)

1.一种问题生成方法，其特征在于，包括：
获取待处理语料及其对应的答案；
根据所述待处理语料及其对应的答案获取基于领域注意力的语料特征；
将所述语料特征输入预训练的问题生成模型得到对应的问题。
2.根据权利要求1所述的问题生成方法，其特征在于，所述基于领域注意力的语料特征包括：词向量及其对应的领域属性编码和答案标识；
所述根据所述待处理语料及其对应的答案获取基于领域注意力的语料特征，包括：
对所述待处理语料进行分词得到词汇；
利用词嵌入技术将所述词汇转换成词向量；
根据预获取的领域词典中是否含有所述词汇设置所述领域属性编码；
根据所述词汇是否在所述答案中设置所述答案标识。
3.根据权利要求2所述的问题生成方法，其特征在于，还包括：
获取所述领域的语料数据集；
根据所述领域的语料数据集获取领域词典。
4.根据权利要求3所述的问题生成方法，其特征在于，所述根据所述领域的语料数据集获取领域词典，包括：
对所述语料数据集进行分词、去停用词以及词频统计；
根据词频统计结果获取领域词典。
5.根据权利要求1所述的问题生成方法，其特征在于，所述问题生成模型包括：双向编码LSTM模块、解码LSTM模块、复制模块、生成模块以及比较输出模块；
所述双向编码LSTM模块的输出端连接所述解码LSTM模块的输入端，所述解码LSTM模块的输出端连接所述复制模块的输入端，所述生成模块的两个输入端分别连接所述双向编码LSTM模块的输入端以及所述解码LSTM模块的输出端；所述比较输出模块的两个输入端分别连接所述复制模块以及所述生成模块的输出端；
所述双向编码LSTM模块接收所述语料特征，输出编码了上下文信息的状态变量；
所述解码LSTM模块接收所述状态变量，输出词汇及其与所述答案的相关程度；
所述复制模块根据所述相关程度选择性复制所述词汇；
所述生成模块根据上一时刻解码LSTM模块的输出以及当前时刻双向编码LSTM模块的输入生成一个生成词汇；
所述比较输出模块接收当前时刻的复制词汇和当前时刻的生成词汇，选择一个词汇作为当前时刻的输出词汇。
6.根据权利要求5所述的问题生成方法，其特征在于，所述比较输出模块包括：矩阵合成单元、数值换换单元以及比较输出单元；
所述矩阵合成单元将当前时刻的复制词汇和当前时刻的生成词汇合成一个矩阵；
所述数值换换单元根据所述矩阵得到所述复制词汇和所述生成词汇对应的概率；
所述比较输出单元根据概率选择一个词汇作为当前时刻的输出词汇。
7.一种问题生成装置，其特征在于，包括：
数据获取模块，获取待处理语料及其对应的答案；
特征提取模块，根据所述待处理语料及其对应的答案获取基于领域注意力的语料特征；
问题生成模块，所述语料特征输入预训练的问题生成模型得到对应的问题。
8.根据权利要求7所述的问题生成装置，其特征在于，所述基于领域注意力的语料特征包括：词向量及其对应的领域属性编码和答案标识；
所述特征提取模块包括：
分词单元，对所述待处理语料进行分词得到词汇；
转换单元，利用词嵌入技术将所述词汇转换成词向量；
领域属性编码设置单元，根据预获取的领域词典中是否含有所述词汇设置所述领域属性编码；
答案标识设置单元，根据所述词汇是否在所述答案中设置所述答案标识。
9.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现权利要求1至6任一项所述的问题生成方法的步骤。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该计算机程序被处理器执行时实现权利要求1至6任一项所述的问题生成方法的步骤。
CN202010819964.4A 2020-08-14 2020-08-14 问题生成方法和装置、电子设备以及计算机可读存储介质 Active CN111930914B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010819964.4A CN111930914B (zh) 2020-08-14 2020-08-14 问题生成方法和装置、电子设备以及计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010819964.4A CN111930914B (zh) 2020-08-14 2020-08-14 问题生成方法和装置、电子设备以及计算机可读存储介质

Publications (2)

Publication Number Publication Date
CN111930914A true CN111930914A (zh) 2020-11-13
CN111930914B CN111930914B (zh) 2023-09-12

Family

ID=73311935

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010819964.4A Active CN111930914B (zh) 2020-08-14 2020-08-14 问题生成方法和装置、电子设备以及计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN111930914B (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112559713A (zh) * 2020-12-24 2021-03-26 北京百度网讯科技有限公司 文本相关性判断方法及装置、模型、电子设备、可读介质
CN113128206A (zh) * 2021-04-26 2021-07-16 中国科学技术大学 基于单词重要性加权的问题生成方法
CN113239160A (zh) * 2021-04-29 2021-08-10 桂林电子科技大学 一种问题生成方法、装置及存储介质
CN113312912A (zh) * 2021-06-25 2021-08-27 重庆交通大学 一种用于交通基础设施检测文本的机器阅读理解方法
CN113705208A (zh) * 2021-09-01 2021-11-26 国网江苏省电力有限公司电力科学研究院 一种基于领域术语和关键句的中文问题自动生成方法及装置
CN113901793A (zh) * 2021-12-08 2022-01-07 北京来也网络科技有限公司 结合rpa和ai的事件抽取方法及装置
CN114461749A (zh) * 2022-02-15 2022-05-10 北京百度网讯科技有限公司 对话内容的数据处理方法、装置、电子设备和介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160342895A1 (en) * 2015-05-21 2016-11-24 Baidu Usa Llc Multilingual image question answering
CN109933652A (zh) * 2019-01-17 2019-06-25 深圳壹账通智能科技有限公司 智能问答方法、装置、计算机设备及存储介质
CN109977204A (zh) * 2019-03-08 2019-07-05 科讯嘉联信息技术有限公司 一种基于知识库的智能问答系统和方法
CN111339759A (zh) * 2020-02-21 2020-06-26 北京百度网讯科技有限公司 领域要素识别模型训练方法、装置及电子设备

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160342895A1 (en) * 2015-05-21 2016-11-24 Baidu Usa Llc Multilingual image question answering
CN109933652A (zh) * 2019-01-17 2019-06-25 深圳壹账通智能科技有限公司 智能问答方法、装置、计算机设备及存储介质
CN109977204A (zh) * 2019-03-08 2019-07-05 科讯嘉联信息技术有限公司 一种基于知识库的智能问答系统和方法
CN111339759A (zh) * 2020-02-21 2020-06-26 北京百度网讯科技有限公司 领域要素识别模型训练方法、装置及电子设备

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112559713A (zh) * 2020-12-24 2021-03-26 北京百度网讯科技有限公司 文本相关性判断方法及装置、模型、电子设备、可读介质
CN112559713B (zh) * 2020-12-24 2023-12-01 北京百度网讯科技有限公司 文本相关性判断方法及装置、模型、电子设备、可读介质
CN113128206A (zh) * 2021-04-26 2021-07-16 中国科学技术大学 基于单词重要性加权的问题生成方法
CN113239160A (zh) * 2021-04-29 2021-08-10 桂林电子科技大学 一种问题生成方法、装置及存储介质
CN113239160B (zh) * 2021-04-29 2022-08-12 桂林电子科技大学 一种问题生成方法、装置及存储介质
CN113312912A (zh) * 2021-06-25 2021-08-27 重庆交通大学 一种用于交通基础设施检测文本的机器阅读理解方法
CN113705208A (zh) * 2021-09-01 2021-11-26 国网江苏省电力有限公司电力科学研究院 一种基于领域术语和关键句的中文问题自动生成方法及装置
CN113705208B (zh) * 2021-09-01 2024-05-28 国网江苏省电力有限公司电力科学研究院 一种基于领域术语和关键句的中文问题自动生成方法及装置
CN113901793A (zh) * 2021-12-08 2022-01-07 北京来也网络科技有限公司 结合rpa和ai的事件抽取方法及装置
CN114461749A (zh) * 2022-02-15 2022-05-10 北京百度网讯科技有限公司 对话内容的数据处理方法、装置、电子设备和介质

Also Published As

Publication number Publication date
CN111930914B (zh) 2023-09-12

Similar Documents

Publication Publication Date Title
CN111930914B (zh) 问题生成方法和装置、电子设备以及计算机可读存储介质
CN107783960B (zh) 用于抽取信息的方法、装置和设备
CN113127624B (zh) 问答模型的训练方法及装置
CN112528637B (zh) 文本处理模型训练方法、装置、计算机设备和存储介质
WO2023201975A1 (zh) 一种差异描述语句生成方法、装置、设备及介质
CN110347802B (zh) 一种文本分析方法及装置
CN116992005B (zh) 基于大模型及本地知识库的智能对话方法、系统及设备
CN117332072B (zh) 对话处理、语音摘要提取以及目标对话模型训练方法
CN117520523B (zh) 数据处理方法、装置、设备及存储介质
CN110647613A (zh) 一种课件构建方法、装置、服务器和存储介质
CN115292470A (zh) 一种用于小额贷款智能客服的语义匹配方法及系统
CN115269836A (zh) 意图识别方法及装置
CN116909435A (zh) 一种数据处理方法、装置、电子设备及存储介质
CN115730607A (zh) 对话检测模型训练方法及装置
CN115620726A (zh) 语音文本生成方法、语音文本生成模型的训练方法、装置
CN113590768B (zh) 一种文本关联度模型的训练方法及装置、问答方法及装置
CN110110048B (zh) 问询指引方法及装置
CN112131378A (zh) 用于识别民生问题类别的方法、装置及电子设备
CN113421551B (zh) 语音识别方法、装置、计算机可读介质及电子设备
CN115169367B (zh) 对话生成方法及装置、存储介质
CN115952854B (zh) 文本脱敏模型的训练方法、文本脱敏方法及应用
CN117574241A (zh) 数据处理方法及装置
CN116913278A (zh) 语音处理方法、装置、设备和存储介质
CN115641860A (zh) 模型的训练方法、语音转换方法和装置、设备及存储介质
CN114861674A (zh) 一种文本语义匹配方法及设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20210125

Address after: 100140, 55, Fuxing Avenue, Xicheng District, Beijing

Applicant after: INDUSTRIAL AND COMMERCIAL BANK OF CHINA

Applicant after: ICBC Technology Co.,Ltd.

Address before: 100029 Tianyuan Xiangtai building, No.5 Anding Road, Chaoyang District, Beijing

Applicant before: ICBC Technology Co.,Ltd.

GR01 Patent grant
GR01 Patent grant