CN110674246A - 问答模型训练方法、自动问答方法及装置 - Google Patents

问答模型训练方法、自动问答方法及装置 Download PDF

Info

Publication number
CN110674246A
CN110674246A CN201910889316.3A CN201910889316A CN110674246A CN 110674246 A CN110674246 A CN 110674246A CN 201910889316 A CN201910889316 A CN 201910889316A CN 110674246 A CN110674246 A CN 110674246A
Authority
CN
China
Prior art keywords
question
vector
network
reply
sentence
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910889316.3A
Other languages
English (en)
Inventor
崔志
李京蔚
崔建伟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Xiaomi Intelligent Technology Co Ltd
Original Assignee
Beijing Xiaomi Intelligent Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Xiaomi Intelligent Technology Co Ltd filed Critical Beijing Xiaomi Intelligent Technology Co Ltd
Priority to CN201910889316.3A priority Critical patent/CN110674246A/zh
Publication of CN110674246A publication Critical patent/CN110674246A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/31Indexing; Data structures therefor; Storage structures
    • G06F16/316Indexing structures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33Querying
    • G06F16/332Query formulation
    • G06F16/3329Natural language query formulation or dialogue systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Human Computer Interaction (AREA)
  • Computational Linguistics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本公开是关于一种问答模型训练方法、自动问答方法及装置。其中问答模型训练方法包括:获取相匹配的问题句与回复句;将问题句输入第一网络,得到问题向量,将回复句输入第二网络,得到回复向量;第一网络和第二网络为结构相同参数不同的神经网络;基于问题向量和回复向量的距离生成反馈信息;并根据反馈信息对第一网络和第二网络进行参数调整,直到距离小于预设距离阈值。通过向量检索避免了只根据关键词匹配方式得到的答案的不准确;基于成对匹配问题句和回复句进行训练,降低了获取难度,并且能够获取大量的数据,使得训练效果更好,并且训练成本更低。

Description

问答模型训练方法、自动问答方法及装置
技术领域
本公开涉及自然语言处理,尤其涉及问答模型训练方法、自动问答方法及装置。
背景技术
人机对话系统一直不断发展,如eliza,alice等对话系统,主要都是基于模板匹配,但是此方法的人工成本过高,不利于迁移。随着人工智能发展,人机交互更加多样,需求也更加广泛,而对于体验感的要求也越来越高。逐渐有了基于检索式开放域对话系统,并在近三到五年内有了一个极大的发展,在很多产品上都有落定应用。人机交互中,开放域对话系统,实现人机对话,人们能够快速的得到问题的答案。
在一些技术中,人们在提出问题需要得到答案的过程中,智能系统通过关键词匹配找寻答案,使得答案准确度不高,尤其一些答案与问题可能不包含相同关键词的情况下,更是使得得到的答案可能与问题无关,降低了用户的体验感。而通过语义向量匹配找到相似问题再通过相似问题找到答案方式,存在训练数据获取难度大、答案单一等问题。
发明内容
为克服相关技术中存在的问题,本公开提供一种问答模型训练方法、自动问答方法及装置。
根据本公开实施例的第一方面,提供一种问答模型训练方法,方法包括:获取相匹配的问题句与回复句;将问题句输入第一网络,得到问题向量,将回复句输入第二网络,得到回复向量;第一网络和第二网络为结构相同参数不同的神经网络;基于问题向量和回复向量的距离生成反馈信息;并根据反馈信息对第一网络和第二网络进行参数调整,直到距离小于预设距离阈值。
在一例中,基于问题向量和回复向量的距离生成反馈信息;并根据反馈信息对第一网络和第二网络进行参数调整,直到距离小于预设距离阈值,包括:确定当前问题向量和回复向量之间的距离;并将得到的距离与预设距离阈值进行比较;响应于得到的距离大于预设距离阈值,生成反馈信息;并根据反馈信息对第一网络和第二网络的参数进行调整;基于调整后的第一网络,确定问题句的新的当前问题向量,以及基于调整后第二网络,确定回复句的新的当前回复向量,重新执行确定当前问题向量和回复向量之间的距离的操作,直到得到的距离不大于预设距离阈值,得到训练好的问答模型。
在一例中,方法还包括:针对训练好的问答模型对应的各回复向量,将各回复向量分别与对应的回复句之间建立索引。
在一例中,方法还包括:获取不匹配的采样问题句与采样回复句;将采样问题句输入第一网络,得到采样问题向量,将采样回复句输入第二网络,得到采样回复向量;基于采样问题向量和采样回复向量的距离生成反馈信息;并根据反馈信息对第一网络和第二网络进行参数调整,使相对应的采样问题向量和采样回复向量之间的距离大于采样阈值。
根据本公开实施例的第二方面,提供一种自动问答方法,方法包括:获取提问句;将提问句输入第一网络,得到提问句的提问向量,其中,第一网络通过如第一方面的问答模型训练方法训练得到;从预设的回复向量中确定与提问向量距离最小的回复向量;并将确定的回复向量对应的回复句确定为提问句的回答。
根据本公开实施例的第三方面,提供一种问答模型训练装置,装置包括:获取单元,用于获取相匹配的问题句与回复句;向量化单元,用于将问题句输入第一网络,得到问题向量,将回复句输入第二网络,得到回复向量;第一网络和第二网络为结构相同参数不同的神经网络;反馈单元,用于基于问题向量和回复向量的距离,生成反馈信息,并根据反馈信息对第一网络和第二网络进行参数调整,直到距离小于预设距离阈值。
在一例中,反馈单元用于:确定当前问题向量和回复向量之间的距离;并将得到的距离与预设距离阈值进行比较;响应于得到的距离大于预设距离阈值,生成反馈信息;并根据反馈信息对第一网络和第二网络的参数进行调整;基于调整后的第一网络,确定问题句的新的当前问题向量,以及基于调整后第二网络,确定回复句的新的当前回复向量,重新执行确定当前问题向量和回复向量之间的距离的操作,直到得到的距离不大于预设距离阈值,得到训练好的问答模型。
在一例中,装置还包括:索引单元,用于针对训练好的问答模型对应的各回复向量,将各回复向量分别与对应的回复句之间建立索引。
在一例中,获取单元还用于:用于获取不匹配的采样问题句与采样回复句;向量化单元还用于:用于将采样问题句输入第一网络,得到采样问题向量,将采样回复句输入第二网络,得到采样回复向量;反馈单元还用于:用于基于采样问题向量和采样回复向量的距离生成反馈信息,并根据反馈信息对第一网络和第二网络进行参数调整,使相对应的采样问题向量和采样回复向量之间的距离大于采样阈值。
根据本公开实施例的第四方面,提供一种自动问答装置,装置包括:提问单元,用于获取提问句;向量生成单元,用于将提问句输入第一网络,得到提问句的提问向量,其中,第一网络通过如第一方面的问答模型训练方法训练得到;比对单元,用于从预设的回复向量中确定与提问向量距离最小的回复向量,并将确定的回复向量对应的回复句确定为提问句的回答。
根据本公开实施例的第五方面,提供一种电子设备,包括:存储器,用于存储指令;以及处理器,用于调用存储器存储的指令执行第一方面的问答模型训练方法或第二方面的自动问答方法。
根据本公开实施例的第五方面,提供一种计算机可读存储介质,存储有指令,指令被处理器执行时,执行第一方面的问答模型训练方法或第二方面的自动问答方法。
本公开的实施例提供的技术方案可以包括以下有益效果:通过向量检索避免了只根据关键词匹配方式得到的答案的不准确,并且使得整个检索范围变得更广;基于成对匹配问题句和回复句进行训练,降低了获取难度,并且能够获取大量的数据,使得训练效果更好,并且训练成本更低。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本发明的实施例,并与说明书一起用于解释本发明的原理。
图1是根据一示例性实施例示出的一种问答回复网络训练方法流程示意图。
图2是根据一示例性实施例示出的另一种问答回复网络训练方法流程示意图。
图3是根据一示例性实施例示出的一种提问自动回答方法流程示意图。
图4是根据一示例性实施例示出的一种问答回复网络训练装置示意框图。
图5是根据一示例性实施例示出的一种提问自动回答装置的示意框图。
图6是根据一示例性实施例示出的一种装置的示意框图。
图7是根据一示例性实施例示出的一种电子装置的示意框图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本发明相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本发明的一些方面相一致的装置和方法的例子。
目前的关于智能问答等人机交互中,都存在获取答案不准确、与问题关联性不强,或成本高的问题,导致用户体验感差,不能满足用户需求。本实施例提供一种问答模型训练方法。参见图1,图1是根据一示例性实施例示出的一种问答模型训练方法10流程图。如图1所示,问答模型训练方法10包括以下步骤:
步骤S11,获取相匹配的问题句与回复句。
通过获取问题句与回复句对模型进行训练,而相匹配的问题句与回复句是相对容易大量获取的,从而能够对模型进行更好的训练。其中,相匹配是指回复句是对问题句的回答,如问题句是:“从王府井如何去天坛”,相匹配的回复句可以是:“乘坐地铁1号线,于东单换成地铁5号线在天坛东门下车”。
在一例中,模型的第一网络和第二网络为结构相同参数不同的神经网络,例如:孪生网络(Siamese Network),可以采用卷积神经网络(CNN)、循环神经网络(RNN)、自注意力网络(Self Attention)等形式对语句进行向量化。
步骤S12,将问题句输入第一网络,得到问题向量,将回复句输入第二网络,得到回复向量;第一网络和第二网络为结构相同参数不同的神经网络。
将问题句与回复句输入模型,分别通过第一网络和第二网络对其分别进行向量化,得到语句的向量值,用于后续比对和约束。
步骤S13,基于问题向量和回复向量的距离生成反馈信息;并根据反馈信息对第一网络和第二网络进行参数调整,直到距离小于预设距离阈值。
由于问题句与其对应的回复句存在对应关系,反映到向量空间,其向量之间的距离应小于一个阈值。通过约束该距离,对模型进行训练,直到对应的向量之间的距离小于预设的训练阈值后,该模型训练完成。可以通过设置较小的阈值,从而提高训练的精度,增加其鲁棒性。
通过上述实施例,能够通过相匹配问题回复语句训练模型,训练的样本容易获取,并且通过模型将语句转换为向量再进行判断,避免了字词匹配造成的结果误差,挺高了准确度,从而增强了用户体验感。
在一例中,步骤S13,基于问题向量和回复向量的距离生成反馈信息;并根据反馈信息对第一网络和第二网络进行参数调整,直到距离小于预设距离阈值包括:确定当前问题向量和回复向量之间的距离;并将得到的距离与预设距离阈值进行比较;响应于得到的距离大于预设距离阈值,生成反馈信息;并根据反馈信息对第一网络和第二网络的参数进行调整;基于调整后的第一网络,确定问题句的新的当前问题向量,以及基于调整后第二网络,确定回复句的新的当前回复向量,重新执行确定当前问题向量和回复向量之间的距离的操作,直到得到的距离不大于预设距离阈值,得到训练好的问答模型。
通过向量距离约束,当距离大于训练阈值时,将损失反馈给模型,进行参数的调整,即调整第一网络和/或第二网络的参数,调整后重新对相匹配的问题句与回复句进行向量化,生成新的向量,再次判断向量距离,如此反复,直到向量之间的距离小于训练阈值。
在一例中,可以通过损失函数(loss)得到损失值。损失函数可以包括L1损失函数,L2损失函数,交叉熵损失函数等。
在一例中,距离为余弦距离或欧式距离。
图2示出了另一实施例的问答模型训练方法10,如图2所示,问答模型训练方法10还包括,步骤S14,针对训练好的问答模型对应的各回复向量,将各回复向量分别与对应的回复句之间建立索引。
在调整好模型的参数后,通过建立索引,使得能够方便的通过回复向量提取相应的回复句。
在一例中,问答模型训练方法10还包括:获取不匹配的采样问题句与采样回复句;将采样问题句输入第一网络,得到采样问题向量,将采样回复句输入第二网络,得到采样回复向量;基于采样问题向量和采样回复向量的距离生成反馈信息;并根据反馈信息对第一网络和第二网络进行参数调整,使相对应的采样问题向量和采样回复向量之间的距离大于采样阈值。
本实施例中,通过负采样,即采样相互之间不匹配的问题和回复,如,采用问题句是:“从王府井如何去天坛”,不匹配的采用回复句可以是:“今天天气为晴天”。对不匹配的采样问题句和采样回复句同样分别通过第一网络和第二网络进行向量化,根据不匹配的问题和回复的向量距离大于一个阈值,然后调整模型的参数,从而使得模型的向量化更加准确。
基于相同的发明构思,本实施例还提供一种自动问答方法。参见图3,图3是根据一示例性实施例示出的一种自动问答方法20流程图。如图3所示,自动问答方法20,包括以下步骤:
S21,获取提问句。
可以通过本地或者网络获取提问句,用户也可以通过多种方式输入,如文字、语音、图像等。
S22,将提问句输入第一网络,得到提问句的提问向量,其中,第一网络通过如前述任一实施例的问答模型训练方法10训练得到。
通过前述任一实施例训练得到的第一网络,将获取到的提问句进行向量化,得到提问句的向量,从而能够通过向量进行比对。
S23,从预设的回复向量中确定与提问向量距离最小的回复向量;并将确定的回复向量对应的回复句确定为提问句的回答。
在向量空间中,找到与提问向量距离最近的回复向量,距离最近即代表两者之间的语义关联最接近,表达的意思相同或近似,进而再根据回复向量确定回复句,即为提问句的回答。通过向量距离判断,能够避免字词匹配造成的不准确。并且,通过提问向量直接与回复向量进行匹配,无需与问题向量匹配,再通过问题找答案,降低了成本,同时提高了回复的多样性和准确性。
通过上述实施例的方案,由于训练过程是通过问题句与回复句的向量距离进行约束的,因此在实际使用问答模型时,可以直接将提问句向量化并与回复向量进行比对,从而降低了成本,提高效率,也使得得到的回答结果更加准确和贴切,提高了用户体验。
基于一个发明构思,本公开还提供一种问答模型训练装置,图4是根据一示例性实施例示出的一种问答模型训练装置100框图。参照图4,该问答模型训练装置100包括:获取单元110,用于获取相匹配的问题句与回复句;向量化单元120,用于将问题句输入第一网络,得到问题向量,将回复句输入第二网络,得到回复向量;第一网络和第二网络为结构相同参数不同的神经网络;反馈单元130,用于基于问题向量和回复向量的距离,生成反馈信息,并根据反馈信息对第一网络和第二网络进行参数调整,直到距离小于预设距离阈值。
在一例中,反馈单元130用于:确定当前问题向量和回复向量之间的距离;并将得到的距离与预设距离阈值进行比较;响应于得到的距离大于预设距离阈值,生成反馈信息;并根据反馈信息对第一网络和第二网络的参数进行调整;基于调整后的第一网络,确定问题句的新的当前问题向量,以及基于调整后第二网络,确定回复句的新的当前回复向量,重新执行确定当前问题向量和回复向量之间的距离的操作,直到得到的距离不大于预设距离阈值,得到训练好的问答模型。
在一例中,问答模型训练装置100还包括:索引单元,用于针对训练好的问答模型对应的各回复向量,将各回复向量分别与对应的回复句之间建立索引。
在一例中,获取单元110还用于:用于获取不匹配的采样问题句与采样回复句;向量化单元120还用于:用于将采样问题句输入第一网络,得到采样问题向量,将采样回复句输入第二网络,得到采样回复向量;反馈单元130还用于:用于基于采样问题向量和采样回复向量的距离生成反馈信息,并根据反馈信息对第一网络和第二网络进行参数调整,使相对应的采样问题向量和采样回复向量之间的距离大于采样阈值。
关于上述实施例中的问答模型训练装置100,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
基于一个发明构思,本公开还提供一种自动问答装置,图5是根据一示例性实施例示出的一种自动问答装置200框图。参照图5,该自动问答装置200包括:提问单元210,用于获取提问句;向量生成单元220,用于将提问句输入第一网络,得到提问句的提问向量,其中,第一网络通过前述任一实施例的问答模型训练方法10训练得到;比对单元230,用于从预设的回复向量中确定与提问向量距离最小的回复向量,并将确定的回复向量对应的回复句确定为提问句的回答。
关于上述实施例中的自动问答装置200,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
图6是根据一示例性实施例示出的前述任一实施例装置的示意框图。例如,装置300可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
参照图6,装置300可以包括以下一个或多个组件:处理组件302,存储器304,电力组件306,多媒体组件308,音频组件310,输入/输出(I/O)的接口312,传感器组件314,以及通信组件316。
处理组件302通常控制装置300的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件302可以包括一个或多个处理器320来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件302可以包括一个或多个模块,便于处理组件302和其他组件之间的交互。例如,处理组件302可以包括多媒体模块,以方便多媒体组件308和处理组件302之间的交互。
存储器304被配置为存储各种类型的数据以支持在装置300的操作。这些数据的示例包括用于在装置300上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器304可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电力组件306为装置300的各种组件提供电力。电力组件306可以包括电源管理系统,一个或多个电源,及其他与为装置300生成、管理和分配电力相关联的组件。
多媒体组件308包括在所述装置300和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件308包括一个前置摄像头和/或后置摄像头。当设备300处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件310被配置为输出和/或输入音频信号。例如,音频组件310包括一个麦克风(MIC),当装置300处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器304或经由通信组件316发送。在一些实施例中,音频组件310还包括一个扬声器,用于输出音频信号。
I/O接口312为处理组件302和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件314包括一个或多个传感器,用于为装置300提供各个方面的状态评估。例如,传感器组件314可以检测到装置300的打开/关闭状态,组件的相对定位,例如所述组件为装置300的显示器和小键盘,传感器组件314还可以检测装置300或装置300一个组件的位置改变,用户与装置300接触的存在或不存在,装置300方位或加速/减速和装置300的温度变化。传感器组件314可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件314还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件314还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件316被配置为便于装置300和其他设备之间有线或无线方式的通信。装置300可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信组件316经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件316还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,装置300可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。
在示例性实施例中,还提供了一种包括指令的计算机可读存储介质,例如包括指令的存储器304,上述指令可由装置300的处理器320执行以完成上述方法。例如,所述计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
图7是根据一示例性实施例示出的一种电子装置400的框图。例如,装置400可以被提供为一服务器。参照图7,装置400包括处理组件422,其进一步包括一个或多个处理器,以及由存储器432所代表的存储器资源,用于存储可由处理组件422的执行的指令,例如应用程序。存储器432中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件422被配置为执行指令,以执行上述方法。
装置400还可以包括一个电源组件426被配置为执行装置300的电源管理,一个有线或无线网络接口450被配置为将装置400连接到网络,和一个输入输出(I/O)接口458。装置400可以操作基于存储在存储器432的操作系统,例如Windows ServerTM,Mac OS XTM,UnixTM,LinuxTM,FreeBSDTM或类似。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本发明的真正范围和精神由下面的权利要求指出。
应当理解的是,本发明并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。

Claims (12)

1.一种问答模型训练方法,其特征在于,所述方法包括:
获取相匹配的问题句与回复句;
将所述问题句输入第一网络,得到问题向量,将所述回复句输入第二网络,得到回复向量;所述第一网络和所述第二网络为结构相同参数不同的神经网络;
基于所述问题向量和所述回复向量的距离生成反馈信息;并
根据所述反馈信息对所述第一网络和所述第二网络进行参数调整,直到所述距离小于预设距离阈值。
2.根据权利要求1所述的问答模型训练方法,其特征在于,所述基于所述问题向量和所述回复向量的距离生成反馈信息;并根据所述反馈信息对所述第一网络和所述第二网络进行参数调整,直到所述距离小于预设距离阈值,包括:
确定当前问题向量和回复向量之间的距离;并
将得到的距离与预设距离阈值进行比较;
响应于得到的距离大于所述预设距离阈值,生成反馈信息;并
根据所述反馈信息对所述第一网络和所述第二网络的参数进行调整;
基于调整后的第一网络,确定所述问题句的新的当前问题向量,以及基于调整后第二网络,确定所述回复句的新的当前回复向量,重新执行确定当前问题向量和回复向量之间的距离的操作,直到得到的距离不大于所述预设距离阈值,得到训练好的问答模型。
3.根据权利要求2所述的问答模型训练方法,其特征在于,所述方法还包括:针对训练好的问答模型对应的各回复向量,将各回复向量分别与对应的回复句之间建立索引。
4.根据权利要求1所述的问答模型训练方法,其特征在于,所述方法还包括:
获取不匹配的采样问题句与采样回复句;
将所述采样问题句输入第一网络,得到采样问题向量,将所述采样回复句输入第二网络,得到采样回复向量;
基于所述采样问题向量和所述采样回复向量的距离生成反馈信息;并
根据所述反馈信息对所述第一网络和所述第二网络进行参数调整,使相对应的所述采样问题向量和所述采样回复向量之间的距离大于采样阈值。
5.一种自动问答方法,其特征在于,所述方法包括:
获取提问句;
将所述提问句输入第一网络,得到所述提问句的提问向量,其中,所述第一网络通过如权利要求1-4任一项所述的问答模型训练方法训练得到;
从预设的回复向量中确定与所述提问向量距离最小的回复向量;并
将确定的所述回复向量对应的回复句确定为所述提问句的回答。
6.一种问答模型训练装置,其特征在于,所述装置包括:
获取单元,用于获取相匹配的问题句与回复句;
向量化单元,用于将所述问题句输入第一网络,得到问题向量,将所述回复句输入第二网络,得到回复向量;所述第一网络和所述第二网络为结构相同参数不同的神经网络;
反馈单元,用于基于所述问题向量和所述回复向量的距离,生成反馈信息,并根据所述反馈信息对所述第一网络和所述第二网络进行参数调整,直到所述距离小于预设距离阈值。
7.根据权利要求6所述的问答模型训练装置,其特征在于,所述反馈单元用于:
确定当前问题向量和回复向量之间的距离;并
将得到的距离与预设距离阈值进行比较;
响应于得到的距离大于所述预设距离阈值,生成反馈信息;并
根据所述反馈信息对所述第一网络和所述第二网络的参数进行调整;
基于调整后的第一网络,确定所述问题句的新的当前问题向量,以及基于调整后第二网络,确定所述回复句的新的当前回复向量,重新执行确定当前问题向量和回复向量之间的距离的操作,直到得到的距离不大于所述预设距离阈值,得到训练好的问答模型。
8.根据权利要求7所述的问答模型训练装置,其特征在于,所述装置还包括:索引单元,用于针对训练好的问答模型对应的各回复向量,将各回复向量分别与对应的回复句之间建立索引。
9.根据权利要求6所述的问答模型训练装置,其特征在于,
所述获取单元还用于:用于获取不匹配的采样问题句与采样回复句;
所述向量化单元还用于:用于将所述采样问题句输入第一网络,得到采样问题向量,将所述采样回复句输入第二网络,得到采样回复向量;
所述反馈单元还用于:用于基于所述采样问题向量和所述采样回复向量的距离生成反馈信息,并根据所述反馈信息对所述第一网络和所述第二网络进行参数调整,使相对应的所述采样问题向量和所述采样回复向量之间的距离大于采样阈值。
10.一种自动问答装置,其特征在于,所述装置包括:
提问单元,用于获取提问句;
向量生成单元,用于将所述提问句输入第一网络,得到所述提问句的提问向量,其中,所述第一网络通过如权利要求1-4任一项所述的问答模型训练方法训练得到;
比对单元,用于从预设的回复向量中确定与所述提问向量距离最小的回复向量,并将确定的所述回复向量对应的回复句确定为所述提问句的回答。
11.一种电子装置,其特征在于,包括:
存储器,用于存储指令;以及
处理器,用于调用所述存储器存储的指令执行如权利要求1至4中任一项所述的问答模型训练方法或如权利要求5所述的自动问答方法。
12.一种计算机可读存储介质,其特征在于,存储有指令,所述指令被处理器执行时,执行如权利要求1至4中任一项所述的问答模型训练方法或如权利要求5所述的自动问答方法。
CN201910889316.3A 2019-09-19 2019-09-19 问答模型训练方法、自动问答方法及装置 Pending CN110674246A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910889316.3A CN110674246A (zh) 2019-09-19 2019-09-19 问答模型训练方法、自动问答方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910889316.3A CN110674246A (zh) 2019-09-19 2019-09-19 问答模型训练方法、自动问答方法及装置

Publications (1)

Publication Number Publication Date
CN110674246A true CN110674246A (zh) 2020-01-10

Family

ID=69076978

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910889316.3A Pending CN110674246A (zh) 2019-09-19 2019-09-19 问答模型训练方法、自动问答方法及装置

Country Status (1)

Country Link
CN (1) CN110674246A (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111683174A (zh) * 2020-06-01 2020-09-18 信雅达系统工程股份有限公司 来电处理方法、装置及系统
CN112036156A (zh) * 2020-09-25 2020-12-04 北京小米松果电子有限公司 文本对话方法、装置及存储介质
CN113282733A (zh) * 2021-06-11 2021-08-20 上海寻梦信息技术有限公司 客服问题匹配方法、系统、设备及存储介质
CN114691815A (zh) * 2020-12-25 2022-07-01 科沃斯商用机器人有限公司 模型训练方法、装置、电子设备和存储介质
US11704497B2 (en) 2020-09-09 2023-07-18 International Business Machines Corporation Generating and using a sentence model for answer generation

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070196804A1 (en) * 2006-02-17 2007-08-23 Fuji Xerox Co., Ltd. Question-answering system, question-answering method, and question-answering program
CN108446321A (zh) * 2018-02-10 2018-08-24 武汉市灯塔互动文化传播有限公司 一种基于深度学习的自动问答方法
CN109947922A (zh) * 2019-03-20 2019-06-28 浪潮商用机器有限公司 一种问答处理方法、装置及问答系统
CN110188182A (zh) * 2019-05-31 2019-08-30 中国科学院深圳先进技术研究院 模型训练方法、对话生成方法、装置、设备及介质

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070196804A1 (en) * 2006-02-17 2007-08-23 Fuji Xerox Co., Ltd. Question-answering system, question-answering method, and question-answering program
CN108446321A (zh) * 2018-02-10 2018-08-24 武汉市灯塔互动文化传播有限公司 一种基于深度学习的自动问答方法
CN109947922A (zh) * 2019-03-20 2019-06-28 浪潮商用机器有限公司 一种问答处理方法、装置及问答系统
CN110188182A (zh) * 2019-05-31 2019-08-30 中国科学院深圳先进技术研究院 模型训练方法、对话生成方法、装置、设备及介质

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111683174A (zh) * 2020-06-01 2020-09-18 信雅达系统工程股份有限公司 来电处理方法、装置及系统
US11704497B2 (en) 2020-09-09 2023-07-18 International Business Machines Corporation Generating and using a sentence model for answer generation
CN112036156A (zh) * 2020-09-25 2020-12-04 北京小米松果电子有限公司 文本对话方法、装置及存储介质
CN114691815A (zh) * 2020-12-25 2022-07-01 科沃斯商用机器人有限公司 模型训练方法、装置、电子设备和存储介质
CN113282733A (zh) * 2021-06-11 2021-08-20 上海寻梦信息技术有限公司 客服问题匹配方法、系统、设备及存储介质
CN113282733B (zh) * 2021-06-11 2024-04-09 上海寻梦信息技术有限公司 客服问题匹配方法、系统、设备及存储介质

Similar Documents

Publication Publication Date Title
CN110516745B (zh) 图像识别模型的训练方法、装置及电子设备
CN110674246A (zh) 问答模型训练方法、自动问答方法及装置
CN110008401B (zh) 关键词提取方法、关键词提取装置和计算机可读存储介质
CN110781305A (zh) 基于分类模型的文本分类方法及装置,以及模型训练方法
CN109961094B (zh) 样本获取方法、装置、电子设备及可读存储介质
CN111160448A (zh) 一种图像分类模型的训练方法及装置
CN109255128B (zh) 多层级标签的生成方法、装置和存储介质
CN111104807B (zh) 一种数据处理方法、装置和电子设备
US11335348B2 (en) Input method, device, apparatus, and storage medium
CN111832316A (zh) 语义识别的方法、装置、电子设备和存储介质
CN110929176A (zh) 一种信息推荐方法、装置及电子设备
CN111753917A (zh) 数据处理方法、装置及存储介质
CN110889489A (zh) 神经网络的训练方法、图像识别方法及其装置
WO2024088039A1 (zh) 人机对话方法、对话网络模型的训练方法及装置
CN115039169A (zh) 一种语音指令识别方法、电子设备以及非瞬态计算机可读存储介质
CN112036174B (zh) 一种标点标注方法及装置
CN111831132A (zh) 一种信息推荐方法、装置和电子设备
CN114154485A (zh) 一种文本纠错方法和装置
CN111816174B (zh) 语音识别方法、装置及计算机可读存储介质
CN112948565A (zh) 人机对话方法、装置、电子设备及存储介质
CN112836026A (zh) 基于对话的问诊方法及装置
CN113923517B (zh) 一种背景音乐生成方法、装置及电子设备
CN112863499B (zh) 语音识别方法及装置、存储介质
CN115547333A (zh) 语言识别模型的生成方法、生成装置、系统、设备及介质
CN114648116A (zh) 模型量化方法、装置、车辆及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination