CN111368177B - 一种问答社区的答案推荐方法和装置 - Google Patents
一种问答社区的答案推荐方法和装置 Download PDFInfo
- Publication number
- CN111368177B CN111368177B CN202010135679.0A CN202010135679A CN111368177B CN 111368177 B CN111368177 B CN 111368177B CN 202010135679 A CN202010135679 A CN 202010135679A CN 111368177 B CN111368177 B CN 111368177B
- Authority
- CN
- China
- Prior art keywords
- question
- questions
- pending
- feature vector
- repeated
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 75
- 238000005070 sampling Methods 0.000 claims abstract description 21
- 239000011159 matrix material Substances 0.000 claims description 144
- 239000013598 vector Substances 0.000 claims description 115
- 238000001514 detection method Methods 0.000 claims description 84
- 238000009826 distribution Methods 0.000 claims description 61
- 238000013135 deep learning Methods 0.000 claims description 56
- 238000013145 classification model Methods 0.000 claims description 45
- 230000015654 memory Effects 0.000 claims description 37
- 238000010276 construction Methods 0.000 claims description 8
- 230000006870 function Effects 0.000 claims description 7
- 230000007787 long-term memory Effects 0.000 claims description 7
- 238000006243 chemical reaction Methods 0.000 claims description 6
- 230000006403 short-term memory Effects 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 claims description 4
- 238000013136 deep learning model Methods 0.000 description 8
- 230000009286 beneficial effect Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 3
- 239000002699 waste material Substances 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000008092 positive effect Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
- G06F16/9532—Query formulation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/332—Query formulation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/3331—Query processing
- G06F16/334—Query execution
- G06F16/3344—Query execution using natural language analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明涉及一种问答社区的答案推荐方法和装置,属于软件技术领域,解决了现有技术中无法及时获得准确答案和用户体验差等的问题。该方法包括:获取采样周期内的多个待定问题;对多个待定问题的重复性进行批量检测;当待定问题与样本问题重复时,将与待定问题重复的样本问题的答案推荐给用户;当没有检测到待定问题与样本问题重复而检测到多个待定问题重复时,对多个待定问题根据重复性进行分类;以及将分类的重复待定问题中时间最早的待定问题作为标准样本问题存储在问答社区数据库中并将标准样本问题的答案推荐给提出重复待定问题的所有用户。因此,及时将答案推荐给用户,提升了问题推荐效率和准确性并提高了用户体验。
Description
技术领域
本发明涉及软件工程技术领域,尤其涉及一种问答社区的答案推荐方法和装置。
背景技术
随着问答社区的快速发展,越来越多的互联网用户通过问答社区获取进行提问并获得所需信息,从而问答社区中存在大量问题。然而,在问答社区中存在大量的重复问题,并通过社区中级别高的用户手动将重复问题关闭,导致用户非常费时费力。因此,利用自动检测问答社区中是否存在重复问题,并且可以快速准确的找出重复问题,受到了越来越多的重视。
问答社区中重复问题检测的问题,致力于解决问答社区中存在大量重复问题没有被发现以及影响用户访问社区获取有效信息的效果,帮助问答社区中提出的新问题检测是否有重复问题存在,避免提出重复问题并且可以提高找到重复问题的准确性,同时解决了问答社区中手动标注重复问题的用户费时费力的问题。目前针对问答社区进行重复问题检测的研究,一是通过利用问题之间的相似性进行检测重复问题,包括主题相似性、标题相似性、内容相似性、标签相似性等特征。二是通过利用抽取问题对的实体、词项之间的覆盖率等特征。
此外,随着问答社区的流量不断提高,同时访问一个问答社区的用户也不断增加。因此,存在多个用户同时或在同一问答社区采样周期内提出相同问题的概率也不断增加,然而目前的重复问题检测仅能够将新提出的问题与问答社区的数据库中的历史问题进行比较,来确定该新提出的问题是否是重复问题。因为问答社区对问题进行采样周期为半天、一天或更长时间,所以无法及时检测到多个用户在该采样周期内所提出的问题的重复性而存在漏检问题。相应地,也就无法使提出问题的用户在第一时间获得答案,用户体验差。
现有技术存在的以下缺点:
1、无法使提出问题的用户在第一时间获得准确的答案,用户体验差。
2、现有技术中选取的问题的标题、内容和标签,进行问题对之间相似度计算,没有充分考虑文本之间的语义信息,导致检测重复问题的准确率较低;
3、目前的检测方法,是手动地或者通过现有检测方法,逐个问题地进行检测,然后逐个问题关闭重复问题,因此,现有技术的检测方法效率低以及准确率较低;以及
4、现有的检测方法都是新问题与数据库中的历史问题之间是否重复问题的检测,而无法检测到多个用户同时或在同一问答社区采样周期内提出的重复问题而导致漏检。
发明内容
鉴于上述的分析,本发明实施例旨在提供一种问答社区的答案推荐方法和装置,用以解决现有的问答社区无法使提出问题的用户在第一时间获得准确的答案以及用户体验差等的问题。
一方面,本发明实施例提供了一种问答社区的答案推荐方法,包括:获取采样周期内的多个待定问题;对所述多个待定问题的重复性进行批量检测,其中,所述多个待定问题的重复性包括所述多个待定问题与所述问答社区数据库中的多个样本问题之间的重复性和所述多个待定问题之间的重复性;当所述待定问题与所述样本问题重复时,将与所述待定问题重复的所述样本问题的答案推荐给用户;以及当没有检测到所述待定问题与所述样本问题重复而检测到所述多个待定问题重复时,对所述多个待定问题根据重复性进行分类;以及将分类的重复待定问题中时间最早的待定问题作为标准样本问题存储在所述问答社区数据库中并将所述标准样本问题的答案推荐给提出所述重复待定问题的所有用户。
上述技术方案的有益效果如下:本发明实施例提供的问答社区的答案推荐方法能够对多个待定问题与问答社区数据库中的多个样本问题之间的重复性进行检测并将重复的样本问题的答案推荐给用户;能够对同一采样周期内对多个待定问题之间的重复性进行检测,及时更新问答社区数据库并将答案及时推荐给用户,提升了问题推荐效率和准确性。
基于上述方法的进一步改进,在获取采样周期内的多个待定问题之前,还包括基于问答社区数据库中的多个样本问题构建深度学习分类模型,其中,构建所述深度学习分类模型包括:从问答社区中获取样本问题数据并从每个问题中提取问题的标题属性、内容属性和标签属性;根据所述样本问题数据构建多个问题对,其中,所述多个问题对包括重复问题对和非重复问题对;利用词嵌入方法将每个问题对转换为特征向量形式以获得特征向量矩阵;以及通过训练构建所述深度学习分类模型,其中,将所述特征向量矩阵为深度学习分类模型的输入。
上述进一步改进方案的有益效果是:本发明实施例通过词嵌入方法将重复问题检测转换为深度学习领域的分类问题,大幅提升了检测检测准确性。从而提高了重复问题的检测速度,进而提高了检测效率。
基于上述方法的进一步改进,利用词嵌入方法将每个问题对转换为词向量形式以获得特征向量矩阵包括:利用所述词嵌入方法将所述每个问题对中的m个单词分别转换为词向量x1、x2、…xm,其中,所述词向量的维度为n;以及通过整合所述词向量x1、x2、…xm获得特征向量矩阵,所述特征向量矩阵为m×n特征向量矩阵,其中,m、n均为大于1的整数。
基于上述方法的进一步改进,所述深度学习分类模型为长短期记忆网络模型LSTM,其中,所述长短期记忆网络模型LSTM考虑语义信息对所述多个待定问题的重复性进行批量检测包括:将所述多个待定问题中的任一问题与所述多个样本问题进行配对以构建多个第一待定问题对;将所述多个待定问题中的任一问题与所述多个待定问题中的剩余问题进行配对以构建多个第二待定问题对;从所述多个样本问题中选取的任一个重复问题对作为标准重复问题对;利用所述词嵌入方法获得多个第一待定问题对的第一特征向量矩阵、多个第二待定问题对的第二特征向量矩阵、和所述多个标准重复问题对的第三特征向量矩阵;分别计算所述第一特征向量矩阵、所述第二特征向量矩阵和所述第三特征向量矩阵的概率分布,以获得所述概率分布的第一集合,其中,所述第一特征向量矩阵的概率分布为第一子集合以及所述第二特征向量矩阵和所述第三特征向量矩阵的概率分布为第二子集合;对所述第一子集合和所述第二子集合中的概率分布从大到小分别进行排序以构成所述概率分布的第二集合和第三集合;以及根据所述概率分布的第二集合判断所述第一待定问题对的重复性以及根据所述概率分布的第三集合判断所述第二待定问题对的重复性。
上述进一步改进方案的有益效果是:长短期记忆网络模型LSTM根据语义信息对多个待定问题之间是否重复进行批量检测,不仅提高了检测准确性而且提高了检测效率。
基于上述方法的进一步改进,根据所述概率分布的第二集合判断所述第一待定问题对的重复性以及根据所述概率分布的所述第三集合判断所述第二待定问题对的重复性包括:从所述概率分布的第二集合中选取预测为重复的问题对并作为第四集合;从所述概率分布的第三集合中选取预测为重复的问题对并作为第五集合;将所述标准重复问题对与所述第五集合中的问题对进行比较,以确定所述第五集合中是否包括所述标准重复问题对;以及当确定所述第五集合中包括所述标准重复问题对时,所述第五集合中的问题对为重复问题对。
上述进一步改进方案的有益效果是:在对多个问题对进行批量检测时,通过标准重复问题对来验证检测的正确性,从而提高了检测准确性。
基于上述方法的进一步改进,分别计算所述第一特征向量矩阵、所述第二特征向量矩阵和所述第三特征向量矩阵的概率分布包括:设置每个时间步骤在先前隐藏状态的忘记门、输入门和输出门;根据所述第一特征向量矩阵、所述第二特征向量矩阵和所述第三特征向量矩阵计算当前时间步骤的所述忘记门和所述输入门;根据所述忘记门、所述输入门和所述第一特征向量矩阵、所述第二特征向量矩阵和所述第三特征向量矩阵计算当前记忆细胞;根据所述当前记忆细胞和所述第一特征向量矩阵、所述第二特征向量矩阵和所述第三特征向量矩阵获得所述当前时间步骤的输出门;根据所述当前记忆细胞和所述当前时间步骤的输出门获得当前隐藏状态;以及基于所述当前隐藏状态利用softmax函数计算所述第一特征向量矩阵、所述第二特征向量矩阵和所述第三特征向量矩阵的概率分布。
基于上述方法的进一步改进,分别计算所述第一特征向量矩阵、所述第二特征向量矩阵和所述第三特征向量矩阵的概率分布:根据以下公式,分别计算所述当前时间步骤t时的所述忘记门ft和所述输入门gt:
ft=σ(Wxgxt+Wlglt-1+ccgct-1+bf),gt=σ(Wxfxt+Wlflt-1+ccfct-1+bg),其中,σ(x)=1/(1+e-x),W为权重、l为隐藏状态,c为记忆细胞,b为偏向函数,xt为所述第一特征向量矩阵、所述第二特征向量矩阵和所述第三特征向量矩阵;根据以下公式利用所述忘记门ft和所述输入门gt计算当前记忆细胞ct:ct=ftct-1+gttanh(Wxcxt+Wlclt-1+bc);根据以下公式利用所述当前记忆细胞ct计算所述当前时间步骤t时的输出门ot:ot=σ(Wxoxt+Wlolt-1+Wcoct+bo);根据以下公式利用所述当前记忆细胞ct和所述输出门ot计算当前隐藏状态lt:lt=ottanh(ct),其中,tanh(x)=(ex-e-x)/(ex+e-x);根据以下公式利用所述当前隐藏状态lt计算所述第一特征向量矩阵、所述第二特征向量矩阵和所述第三特征向量矩阵的概率分布P:P=softmax(U·lt+B),其中,
∑isoft max(xi)=1,在二分类方法中,k=2。
另一方面,本发明实施例提供了一种问答社区的答案推荐方法,包括:获取模块,用于获取采样周期内的多个待定问题;检测模块,用于对所述多个待定问题的重复性进行批量检测,其中,所述多个待定问题的重复性包括所述多个待定问题与所述问答社区数据库中的多个样本问题之间的重复性和所述多个待定问题之间的重复性;判断推荐模块,用于当所述待定问题与所述样本问题重复时,将与所述待定问题重复的所述样本问题的答案推荐给用户;以及分类模块,用于当没有检测到所述待定问题与所述样本问题重复而检测到所述多个待定问题重复时,对所述多个待定问题根据重复性进行分类;以及存储推荐模块,用于将分类的重复待定问题中时间最早的待定问题作为标准样本问题存储在所述问答社区数据库中并将所述标准样本问题的答案推荐给提出所述重复待定问题的所有用户。
基于上述装置的进一步改进,模型构建模块,用于在获取采样周期内的多个待定问题之前,基于问答社区数据库中的多个样本问题构建深度学习分类模型,其中,构建所述深度学习分类模型包括:获取子模块,用于从问答社区中获取样本问题数据并从每个问题中提取问题的标题属性、内容属性和标签属性;问题对构建子模块,用于根据所述样本问题数据构建多个问题对,其中,所述多个问题对包括重复问题对和非重复问题对;转换子模块,用于利用词嵌入方法将每个问题对转换为特征向量形式以获得特征向量矩阵;以及训练子模块,用于通过训练构建所述深度学习分类模型,其中,将所述特征向量矩阵为深度学习分类模型的输入。
基于上述装置的进一步改进,所述转换子模块还用于:利用所述词嵌入方法将所述每个问题对中的m个单词分别转换为词向量x1、x2、…xm,其中,所述词向量的维度为n;以及通过整合所述词向量x1、x2、…xm获得特征向量矩阵,所述特征向量矩阵为m×n特征向量矩阵,其中,m、n均为大于1的整数。
与现有技术相比,本发明至少可实现如下有益效果之一:
1、根据两种新问题的重复性检测,能够及时将答案推荐给用户,减少了用户等待周期,提升了问题推荐的效率和准确性进而提高了用户体验。
2、重复问题检测步骤通过词嵌入方法将重复问题检测转换为深度学习领域的分类问题,并且长短期记忆网络模型LSTM根据语义信息对重复问题进行检测,大幅度提高了检测准确性;
3、利用所述深度学习分类模型对多个待定问题之间是否重复进行批量检测,大幅度提高了重复问题的检测速度,从而提高了检测效率;以及
4、能够检测到多个用户在同一采样周期内提出的重复问题,解决了现有问题中的漏检问题。
5、在对多个问题对进行批量检测时,通过标准重复问题对来验证检测的正确性,从而进一步提供了检测准确性。
本发明中,上述各技术方案之间还可以相互组合,以实现更多的优选组合方案。本发明的其他特征和优点将在随后的说明书中阐述,并且,部分优点可从说明书中变得显而易见,或者通过实施本发明而了解。本发明的目的和其他优点可通过说明书以及附图中所特别指出的内容中来实现和获得。
附图说明
附图仅用于示出具体实施例的目的,而并不认为是对本发明的限制,在整个附图中,相同的参考符号表示相同的部件。
图1为根据本发明实施例的问答社区的答案推荐方法的流程图;
图2为根据本发明实施例的构建深度学习分类模型的流程图;
图3为根据本发明实施例的对多个待定问题的重复性进行批量检测的流程图;以及
图4为根据本发明实施例的重复问题检测步骤的框图;
图5为根据本发明实施例的问答社区的答案推荐装置的框图;以及
图6为问答社区中的重复问题对的示图。
附图标记:
502-获取模块;504-检测模块;506-判断推荐模块;508-分类模块;
510-存储推荐模块
具体实施方式
下面结合附图来具体描述本发明的优选实施例,其中,附图构成本申请一部分,并与本发明的实施例一起用于阐释本发明的原理,并非用于限定本发明的范围。
本发明的一个具体实施例,公开了一种问答社区的答案推荐方法。如图1所示,问答社区的答案推荐方法包括:在步骤S102中,获取采样周期内的多个待定问题;在步骤S104中,对多个待定问题的重复性进行批量检测,其中,多个待定问题的重复性包括多个待定问题与问答社区数据库中的多个样本问题之间的重复性和多个待定问题之间的重复性;在步骤S106中,当待定问题与样本问题重复时,将与待定问题重复的样本问题的答案推荐给用户;以及在步骤S108中,当没有检测到待定问题与样本问题重复而检测到多个待定问题重复时,对多个待定问题根据重复性进行分类;以及在步骤S110中,将分类的重复待定问题中时间最早的待定问题作为标准样本问题存储在问答社区数据库中并将标准样本问题的答案推荐给提出重复待定问题的所有用户。
与现有技术相比,本发明实施例提供的问答社区的答案推荐方法能够对多个待定问题与问答社区数据库中的多个样本问题之间的重复性进行检测并将重复的样本问题的答案推荐给用户;能够对同一采样周期内对多个待定问题之间的重复性进行检测,及时更新问答社区数据库并将答案及时推荐给用户,提升了问题推荐效率和准确性。
下文中,将参照图1至图3对问答社区的答案推荐方法进行详细描述。
根据本实施例的问答社区的答案推荐方法包括基于问答社区数据库中的多个样本问题构建深度学习分类模型。如图2所示,构建深度学习分类模型包括:在步骤S202中,从问答社区中获取样本问题数据并从每个问题中提取问题的标题属性、内容属性和标签属性。构建深度学习分类模型还包括:在步骤S204中,根据样本问题数据构建多个问题对,其中,多个问题对包括重复问题对和非重复问题对。具体地,当构建深度学习分类模型时,样本问题数据包括2m个重复问题和n个非重复问题时,其中,前m个问题分别地是后m个问题的重复问题,即,前m个问题中的任一个问题是后m个问题中的对应一个的重复问题。具体地,根据标题标记(duplicate)进行配对以构成重复问题对,即,第1个问题与第m+1个问题构成第1个重复问题对;第2个问题与第m+2个问题构成第2个重复问题对;…第m个问题与第2m个问题构成第m个重复问题对。n个非重复问题指的是其中的任一个问题与其他n-1个问题均不重复,而且与2m个问题也不重复,因此将m个重复问题对中的任一个问题与n个非重复问题分别配对以构建n个非重复问题对。可选地,通过2m个重复问题构成重复问题对和非重复问题对,具体地,第i个问题与第m+i个问题构成重复问题对,并且第i个问题与其他2m-2个问题均不重复时,因此第i个问题与其他2m-2个非重复问题对或者第i个问题与后m个问题中的剩余m-1个问题构成m-1个非重复问题对。优选地,构建相同数量的重复问题对和非重复问题对,以有利于构建深度学习分类模型。可选地,构建不同数量的重复问题对和非重复问题对。
在步骤S206中,利用词嵌入方法将每个问题对转换为特征向量形式以获得特征向量矩阵;具体地,利用词嵌入方法将每个问题对转换为词向量形式以获得特征向量矩阵包括:利用词嵌入方法将每个问题对中的m个单词分别转换为词向量x1、x2、…xm,其中,词向量的维度为n,具体地,词的字母数量,例如,单词“word”的维度为4;以及通过整合词向量x1、x2、…xm获得特征向量矩阵,特征向量矩阵为m×n特征向量矩阵,其中,m、n均为大于1的整数。
构建深度学习分类模型还包括:在步骤S208中,通过训练构建深度学习分类模型,其中,将特征向量矩阵为深度学习分类模型的输入。具体地,深度学习分类模型为长短期记忆网络模型LSTM,深度学习分类模型为长短期记忆网络模型LSTM(Long Short-TermMemory),其中,长短期记忆网络模型LSTM根据语义信息对多个待定问题是否重复进行批量检测。
本发明实施例通过词嵌入方法将重复问题检测转换为深度学习领域的分类问题,大幅提升了检测检测准确性。从而提高了重复问题的检测速度,进而提高了检测效率。
根据本实施例的问答社区的答案推荐方法还包括:在步骤S102中,获取采样周期内的多个待定问题。随着网站流量的不断增加,使用问答社区的用户也越来越多,因此,用户在同一采样周期内提出的新问题也更容易堆积。新问题是待定问题,也就是说,在用户提出的新问题但还没有确定是否是重复问题时,将这种新问题称为待定问题。在本实施例中,问答社区的管理人员可以获取采样周期内的多个待定问题。在步骤S104中,对多个待定问题的重复性进行批量检测,其中,多个待定问题的重复性包括多个待定问题与问答社区数据库中的多个样本问题之间的重复性和多个待定问题之间的重复性。这里的样本问题为存储在数据库中的标准样本问题,其是经过重复性测试以后,将时间最早的问题作为标准样本问题存储在数据库中,而其他与标准样本问题重复的问题被关闭而不存储在数据库中。在具体实施例中,新提出的多个问题中的任一个需要通过检测确定是否与预先存储在问答社区数据库中的多个样本问题之间重复,并且还需要通过检测确定是否与新提出的多个问题中的剩余问题之间重复。
具体地,深度学习分类模型为长短期记忆网络模型LSTM,其中,长短期记忆网络模型LSTM考虑语义信息对多个待定问题的重复性进行批量检测。如图3所示,对多个待定问题的重复性进行批量检测包括:在步骤S302中,将多个待定问题中的任一问题与多个样本问题进行配对以构建多个第一待定问题对;在步骤S304中,将多个待定问题中的任一问题与多个待定问题中的剩余问题进行配对以构建多个第二待定问题对;在步骤S306中,从多个样本问题中选取的任一个重复问题对作为标准重复问题对;在步骤S308中,利用词嵌入方法获得多个第一待定问题对的第一特征向量矩阵、多个第二待定问题对的第二特征向量矩阵、和多个标准重复问题对的第三特征向量矩阵。在本实施例中,根据检测目的构建待定问题对,其中,检测目的包括检测待定问题与样本问题数据之间是否重复;以及检测待定问题之间是否重复。当构建第一待定问题对时,样本问题数据中2m个重复问题中的前m个问题分别与一个待定问题配对为m个第一待定问题对。因此,将待定问题中的任一个问题分别与前m个问题构成m个待定问题对,最终构成q×m个问题对,这样构成的第一待定问题对用于检测待定问题与样本问题数据之间是否重复。当构建第二待定问题对时,将第1个待定问题与其他待定问题配对为q-1个待定问题对,因此,将待定问题中的任一个与其他待定问题配对为q-1个待定问题对,这样构成的待测问对能够用于检测待定问题之间是否重复。
长短期记忆网络模型LSTM考虑语义信息对多个待定问题的重复性进行批量检测还包括在步骤S310中,分别计算第一特征向量矩阵、第二特征向量矩阵和第三特征向量矩阵的概率分布,以获得概率分布的第一集合,其中,第一特征向量矩阵的概率分布为第一子集合以及第二特征向量矩阵和第三特征向量矩阵的概率分布为第二子集合。
具体地,分别计算第一特征向量矩阵、第二特征向量矩阵和第三特征向量矩阵的概率分布(参见步骤以上S310)包括:设置每个时间步骤在先前隐藏状态的忘记门、输入门和输出门;根据第一特征向量矩阵、第二特征向量矩阵和第三特征向量矩阵计算当前时间步骤的忘记门和输入门;根据忘记门、输入门和第一特征向量矩阵、第二特征向量矩阵和第三特征向量矩阵计算当前记忆细胞;根据当前记忆细胞和第一特征向量矩阵、第二特征向量矩阵和第三特征向量矩阵获得当前时间步骤的输出门;根据当前记忆细胞和当前时间步骤的输出门获得当前隐藏状态;以及基于当前隐藏状态利用softmax函数计算第一特征向量矩阵、第二特征向量矩阵和第三特征向量矩阵的概率分布。
具体地,分别计算第一特征向量矩阵、第二特征向量矩阵和第三特征向量矩阵的概率分布(参见步骤以上S310)包括:根据以下公式,分别计算当前时间步骤t时的忘记门ft和输入门gt:
ft=σ(Wxgxt+Wlglt-1+ccgct-1+bf),
gt=σ(Wxfxt+Wlflt-1+ccfct-1+bg),
其中,σ(x)=1/(1+e-x),W为权重、l为隐藏状态,c为记忆细胞,b为偏向函数,xt为第一特征向量矩阵、第二特征向量矩阵和第三特征向量矩阵;
根据以下公式利用忘记门ft和输入门gt计算当前记忆细胞ct:
ct=ftct-1+gttanh(Wxcxt+Wlclt-1+bc);
根据以下公式利用当前记忆细胞ct计算当前时间步骤t时的输出门ot:ot=σ(Wxoxt+Wlolt-1+Wcoct+bo);
根据以下公式利用当前记忆细胞ct和输出门ot计算当前隐藏状态lt:
lt=ottanh(ct),其中,tanh(x)=(ex-e-x)/(ex+e-x);
根据以下公式利用当前隐藏状态lt计算第一特征向量矩阵、第二特征向量矩阵和第三特征向量矩阵的概率分布P:
P=soft max(U·lt+B),其中,∑isoft max(xi)=1,在二分类方法中,k=2。
长短期记忆网络模型LSTM考虑语义信息对多个待定问题的重复性进行批量检测还包括在步骤S312中,对第一子集合和第二子集合中的概率分布从大到小分别进行排序以构成概率分布的第二集合和第三集合;以及在步骤S314中,根据概率分布的第二集合判断第一待定问题对的重复性以及根据概率分布的第三集合判断第二待定问题对的重复性。
具体地,根据概率分布的第二集合判断第一待定问题对的重复性以及根据概率分布的第三集合判断第二待定问题对的重复性(参见步骤S314)包括:从概率分布的第二集合中选取预测为重复的问题对并作为第四集合;从概率分布的第三集合中选取预测为重复的问题对并作为第五集合;将标准重复问题对与第五集合中的问题对进行比较,以确定第五集合中是否包括标准重复问题对;以及当确定第五集合中包括标准重复问题对时,第五集合中的问题对为重复问题对。因此,本实施例能够在检测多个待定问题对的同时,通过标准重复问题对验证检测的正确性,从而提供了检测准确率。
问答社区的答案推荐方法还包括:在步骤S106中,当待定问题与样本问题重复时,将与待定问题重复的样本问题的答案推荐给用户;以及在步骤S108中,当没有检测到待定问题与样本问题重复而检测到多个待定问题重复时,对多个待定问题根据重复性进行分类;以及在步骤S110中,将分类的重复待定问题中时间最早的待定问题作为标准样本问题存储在问答社区数据库中并将标准样本问题的答案推荐给提出重复待定问题的所有用户。具体地,当用户提出的新问题,通过检测确定在问答社区的数据库中存在与其重复的样本问题时,则将该样本问题的答案直接推荐给用户,而无需等待其他用户的答案。当用户提出的新问题,通过检测在问答社区的数据库中不存在与其重复的样本问题时,则进一步检测与同一采样周期内其他用户提出的新问题是否重复进行检测。当确定与其他用户提出的新问题重复时,根据检测结果对新问题进行分类,并选取时间最早的新问题作为标准样本问题存储在问答社区的数据库中,在存储的问题已经有答案或者提供答案的第一时间,将这个问题的答案推荐给提出这个问题的用户和提出与这个问题重复的问题的用户。
问答社区的答案推荐方法在向用户推荐答案之前,需要利用长短期记忆网络模型LSTM对待定问题的重复性进行检测。下文中,参照图4和图6以具体示例的方式对检测待定问题的重复性对基于深度学习的重复问题检测步骤进行详细描述。
对待定问题的重复性进行检测的具体步骤如下:
(一)基于深度学习模型构建重复问题检测模型,所述重复问题检测模型三个步骤,其步骤如下:
步骤1,从问答社区中获取样本问题数据,抽取每个样本问题的标题属性、内容属性和标签属性,例如,图6中示出了每个问题的标题、内容和标签;根据所述样本问题数据构建重复问题对和非重复问题对,图6中示出了一个重复问题对,每个重复问题对包括主问题和重复问题,其中,较早提出的问题为主问题,较晚提出的问题为重复问题。在具体示例中,重复问题对中的主问题可以与除了该重复问题对之外的其他问题构成多个非重复问题对。例如,10个问题中,第1个问题为主问题,第2个问题为主问题的重复问题,因此,第1个问题和第2个问题构成重复问题对,第1个问题与第3个至第10个问题构成8个非重复问题对。
步骤2,利用词嵌入方法(Word Embeddings)将每个样本问题转换成词向量表示形式,并利用词嵌入方式将其转换成词向量形式;其中,每个问题对的文本长度为m,即,每个问题对的词数量,每个词的维度为n,即,每个词的有n个字母,每个问题对被表示为得到一个m×n的特征向量矩阵;
步骤3,将重复问题的检测问题转换为深度学习领域的分类问题,将步骤2获得的特征向量矩阵作为深度学习分类模型的输入,通过训练得到深度学习分类模型。
(二)利用深度学习分类模型进行问题的重复性检测步骤,包括:
步骤4,利用长短期记忆网络模型检测重复问题,其主要包括以下几个步骤:
1)利用步骤2获得第一待定问题对、第二待定问题对和标准重复问题对的特征向量矩阵;
2)设置每个时间步骤在前一个隐藏状态的三个门,其分别为忘记门(forgetgate)、输入门(input gate)和输出门(output gate);
3)在一个当前的时间步骤t,ft表示为在时间步骤t时的forget gate,其公式为:ft=σ(Wxgxt+Wlglt-1+ccgct-1+bf),gt表示为在时间步骤时的input gate,其公式为:gt=σ(Wxfxt+Wlflt-1+ccfct-1+bg),其中,σ(x)=1/(1+e-x);
4)利用步骤3)中得到的ft和gt,得到当前记忆细胞ct,其公式为:ct=ftct-1+gttanh(Wxcxt+Wlclt-1+bc),其中,tanh(x)=(ex-e-x)/(ex+e-x);
5)利用步骤4)中得到的ct,得到时间步骤t时的forget gate,其公式为:ot=σ(Wxoxt+Wlolt-1+Wcoct+bo),其中,ot表示在时间步骤t时的output gate;xt为第一待定问题对、第二待定问题对和标准重复问题对的特征向量矩阵。
6)利用步骤4)中得到的ct和步骤5)中得到的ot,得到当前隐藏状态lt,其公式为:lt=ottanh(ct);
7)利用softmax函数计算得到第一待定问题对、第二待定问题对和标准重复问题对的概率分布P,其公式为:P=soft max(U·lt+B),其中,∑isoftmax(xi)=1,本方法是二分类方法,则k=2,
其中,Wxg为时间步骤xt时输入门的权重;Wlg为隐藏状态的输入门的权重;Wxf为时间步骤xt时忘记门的权重;Wlf为隐藏状态的忘记门的权重;Wxc为时间步骤xt时记忆细胞的权重;Wlc为隐藏状态的记忆细胞的权重;Wxo为时间步骤xt时输出门的权重;Wlo为隐藏状态的输出门的权重;lt-1为先前隐藏状态;ct-1为先前记忆细胞;ct为当前记忆细胞;bf为忘记门的偏向参数;bg为输入门的偏向参数;bc为记忆细胞的偏向参数;bo为输出门的偏向参数;U和B为参数。
步骤7,根据步骤4、步骤5和步骤6得到的问题对的概率分布,并分别对其进行降序排序,检测排序前N个问题对中是否是待定问题与其对应的重复问题的匹配对,并确定排序前N个问题对中是否包括标准重复问题对。
本发明的优点和积极效果在于:(1)本方法直观、简单、有效,同时解决了现有方法在提出新问题时检测重复问题时缺乏充分考虑文本之间的语义信息,导致检测的准确性不高等问题;(2)本方法利用深度学习模型,进行问题对的分类训练,找到更合适、更有效地深度学习模型进行重复问题检测,从而能够更好地提高重复问题检测的准确性。(3)深度学习分类模型通过基于深度学习方法进行问题的重复性检测,并且与现有的检测方式进行评估,实验验证了本发明的检测步骤实现的有效性和可用性。
本发明结合Stack overflow问答社区为例来说明重复问题对。Stack Overflow是一个与计算机编程技术问答社区。用户可以在问答社区中发布问题、回答问题、浏览历史的问题和回答、以及评论问题和回答等。如图6所示,为本发明在Stack Overflow问答社区中一个重复问题对的例子。在图6中,展示了两个关于“How to combine paths in Java?”话题的问题。提问者novicer最早提出的关于该话题的问题,而提问者Geo在后期又提出类似的问题。该问题被级别较高的用户发现,并将其标记为较早问题的重复问题,在该问题的标题上会标记“[duplicate]”,并将该重复问题从问答社区中关闭,保留以前存在的问题,使得问答社区的信息更加有效以及净化社区。每个问题都包括三个文本属性,其分别为问题标题、内容和标签。现有技术中针对当前问答社区中涌现的大量重复问题,使得用户花费很长时间和精力进行检测,并且仍然有需要重复问题没有被检测出来,导致了手工检测重复问题费时费力以及准确率低的问题。本实施例可以较好地解决上述问题,使得基于深度学习的重复问题检测步骤能够应用到Stack Overflow问答社区中,对新提出的问题自动检测是否存在重复问题。
将重复问题检测的问题转化为深度学习的分类问题,利用深度学习对样本问题数据进行训练。根据问题的标题、内容和标签属性构建问题对,基于深度学习模型进行问题的重复性检测,进而建立答案推荐方法。
图4示出了问题的重复性检测的总体框架。该框架由两个阶段构成,其包括模型的创建阶段和重复问题的检测阶段。详细步骤描述如下:
步骤1:在Stack Overflow问答社区(参见图6)中获取样本问题数据;
步骤2:对样本问题数据进行预处理,获取每个问题的标题、内容和标签,对文本信息进行去掉停顿词等操作,并构建问题对,其中构建的问题对包括重复问题对和非重复问题对;
步骤3:利用词嵌入方法将步骤2中构建的问题转化成特征向量形式;
步骤4:构建二分类的重复问题检测的深度学习分类模型,其中,1表示重复问题对,0表示非重复问题对;
步骤5:基于LSTM深度学习进行问题的重复性检测;
步骤6:根据步骤5中得到的深度学习模型进行样本问题对的训练,从而训练得到深度学习分类模型;
步骤7:根据步骤6中得到深度学习分类模型,对给定的新问题检测重复问题,利用训练得到的深度学习分类模型进行预测,得到多个新问题对和标准历史问题对分类为1的重复问题对,并获得其概率分布,并根据概率值进行从大到小排序,预测前N个排序中是否存在被给定问题的重复问题。还利用训练得到的深度学习分类模型进行预测,得到多个新问题对分类为1的重复问题对,并获得其概率分布,并根据概率值进行从大到小排序,预测前N个排序中是否存在标准重复问题。
本发明的问答社区中问题的重复性检测步骤,一方面,基于问答社区获取的检测重复问题的相关信息数据较全面,包括问题的标签、内容和标签属性数据,根据样本问题数据进行重复问题对和非重复问题对构建,并根据这些样本问题对的文本形式利用词嵌入方法将其转换为特征向量矩阵形式,从而作为深度学习模型的输入,通过利用深度学习模型训练,可以提高重复问题检测的准确性;另一方面,利用深度学习模型可以更加重复地考虑问题属性的语义信息,能够自动检测重复问题。
本发明的一个具体实施例,公开了一种问答社区的答案推荐装置,包括:获取模块502,用于获取采样周期内的多个待定问题;检测模块504,用于对多个待定问题的重复性进行批量检测,其中,多个待定问题的重复性包括多个待定问题与问答社区数据库中的多个样本问题之间的重复性和多个待定问题之间的重复性;判断推荐模块506,用于当待定问题与样本问题重复时,将与待定问题重复的样本问题的答案推荐给用户;以及
分类模块508,用于当没有检测到待定问题与样本问题重复而检测到多个待定问题重复时,对多个待定问题根据重复性进行分类;以及
存储推荐模块510,用于将分类的重复待定问题中时间最早的待定问题作为标准样本问题存储在问答社区数据库中并将标准样本问题的答案推荐给提出重复待定问题的所有用户。
问答社区的答案推荐装置还包括模型构建模块,用于在获取采样周期内的多个待定问题之前,基于问答社区数据库中的多个样本问题构建深度学习分类模型,其中,构建深度学习分类模型包括:获取子模块,用于从问答社区中获取样本问题数据并从每个问题中提取问题的标题属性、内容属性和标签属性;问题对构建子模块,用于根据样本问题数据构建多个问题对,其中,多个问题对包括重复问题对和非重复问题对;转换子模块,用于利用词嵌入方法将每个问题对转换为特征向量形式以获得特征向量矩阵;以及训练子模块,用于通过训练构建深度学习分类模型,其中,将特征向量矩阵为深度学习分类模型的输入。
具体地,转换子模块还用于:利用词嵌入方法将每个问题对中的m个单词分别转换为词向量x1、x2、…xm,其中,词向量的维度为n;以及通过整合词向量x1、x2、…xm获得特征向量矩阵,特征向量矩阵为m×n特征向量矩阵,其中,m、n均为大于1的整数。
问答社区的答案推荐装置还包括多个其他模块,由于问答社区的答案推荐装置与问答社区的答案推荐方法相对应,所以为了避免赘述,省略了多个其他模块的详细描述。
与现有技术相比,本发明至少可实现如下有益效果之一:
1、根据两种问题的重复性检测,能够及时将答案推荐给用户,减少了用户等待周期,提升了问题推荐的效率和准确性进而提高了用户体验。
2、问题的重复性检测步骤通过词嵌入方法将重复问题检测转换为深度学习领域的分类问题,并且长短期记忆网络模型LSTM根据语义信息对重复问题进行检测,大幅度提高了检测准确性;
3、利用所述深度学习分类模型对多个待定问题之间是否重复进行批量检测,大幅度提高了重复问题的检测速度,从而提高了检测效率;以及
4、能够检测出多个用户在同一采样周期内提出的重复问题,解决了现有问题中的漏检问题。
5、在对多个问题对进行批量检测时,通过标准重复问题对来验证检测的正确性,从而进一步提供了检测准确性。
本发明中,上述各技术方案之间还可以相互组合,以实现更多的优选组合方案。本发明的其他特征和优点将在随后的说明书中阐述,并且,部分优点可从说明书中变得显而易见,或者通过实施本发明而了解。本发明的目的和其他优点可通过说明书以及附图中所特别指出的内容中来实现和获得。
本领域技术人员可以理解,实现上述实施例方法的全部或部分流程,可以通过计算机程序来指令相关的硬件来完成,所述的程序可存储于计算机可读存储介质中。其中,所述计算机可读存储介质为磁盘、光盘、只读存储记忆体或随机存储记忆体等。
以上所述,仅为本发明较佳的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本发明的保护范围之内。
Claims (9)
1.一种问答社区的答案推荐方法,其特征在于,包括:
基于问答社区数据库中的多个样本问题构建深度学习分类模型,其中,所述深度学习分类模型为长短期记忆网络模型LSTM;
获取采样周期内的多个待定问题;
对所述多个待定问题的重复性进行批量检测,其中,所述多个待定问题的重复性包括所述多个待定问题与所述问答社区数据库中的多个样本问题之间的重复性和所述多个待定问题之间的重复性;
当所述待定问题与所述样本问题重复时,将与所述待定问题重复的所述样本问题的答案推荐给用户;以及
当没有检测到所述待定问题与所述样本问题重复而检测到所述多个待定问题重复时,对所述多个待定问题根据重复性进行分类;以及
将分类的重复待定问题中时间最早的待定问题作为标准样本问题存储在所述问答社区数据库中并将所述标准样本问题的答案推荐给提出所述重复待定问题的所有用户,其中,所述长短期记忆网络模型LSTM考虑语义信息对所述多个待定问题的重复性进行批量检测包括:将所述多个待定问题中的任一问题与所述多个样本问题进行配对以构建多个第一待定问题对;将所述多个待定问题中的任一问题与所述多个待定问题中的剩余问题进行配对以构建多个第二待定问题对;从所述多个样本问题中选取的任一个重复问题对作为标准重复问题对;利用词嵌入方法获得多个第一待定问题对的第一特征向量矩阵、多个第二待定问题对的第二特征向量矩阵、和所述多个标准重复问题对的第三特征向量矩阵;分别计算所述第一特征向量矩阵、所述第二特征向量矩阵和所述第三特征向量矩阵的概率分布,以获得所述概率分布的第一集合,其中,所述第一特征向量矩阵的概率分布为第一子集合以及所述第二特征向量矩阵和所述第三特征向量矩阵的概率分布为第二子集合;对所述第一子集合和所述第二子集合中的概率分布从大到小分别进行排序以构成所述概率分布的第二集合和第三集合;以及根据所述概率分布的第二集合判断所述第一待定问题对的重复性以及根据所述概率分布的第三集合判断所述第二待定问题对的重复性。
2.根据权利要求1所述的问答社区的答案推荐方法,其特征在于,构建所述深度学习分类模型包括:
从问答社区中获取样本问题数据并从每个问题中提取问题的标题属性、内容属性和标签属性;
根据所述样本问题数据构建多个问题对,其中,所述多个问题对包括重复问题对和非重复问题对;
利用词嵌入方法将每个问题对转换为特征向量形式以获得特征向量矩阵;以及
通过训练构建所述深度学习分类模型,其中,将所述特征向量矩阵为深度学习分类模型的输入。
3.根据权利要求2所述的问答社区的答案推荐方法,其特征在于,利用词嵌入方法将每个问题对转换为词向量形式以获得特征向量矩阵包括:
利用所述词嵌入方法将所述每个问题对中的m个单词分别转换为词向量x1、x2、…xm,其中,所述词向量的维度为n;以及
通过整合所述词向量x1、x2、…xm获得特征向量矩阵,所述特征向量矩阵为m×n特征向量矩阵,其中,m、n均为大于1的整数。
4.根据权利要求1所述的问答社区的答案推荐方法,其特征在于,根据所述概率分布的第二集合判断所述第一待定问题对的重复性以及根据所述概率分布的所述第三集合判断所述第二待定问题对的重复性包括:
从所述概率分布的第二集合中选取预测为重复的问题对并作为第四集合;
从所述概率分布的第三集合中选取预测为重复的问题对并作为第五集合;
将所述标准重复问题对与所述第五集合中的问题对进行比较,以确定所述第五集合中是否包括所述标准重复问题对;以及
当确定所述第五集合中包括所述标准重复问题对时,所述第五集合中的问题对为重复问题对。
5.根据权利要求1所述的问答社区的答案推荐方法,其特征在于,分别计算所述第一特征向量矩阵、所述第二特征向量矩阵和所述第三特征向量矩阵的概率分布包括:
设置每个时间步骤在先前隐藏状态的忘记门、输入门和输出门;
根据所述第一特征向量矩阵、所述第二特征向量矩阵和所述第三特征向量矩阵计算当前时间步骤的所述忘记门和所述输入门;
根据所述忘记门、所述输入门和所述第一特征向量矩阵、所述第二特征向量矩阵和所述第三特征向量矩阵计算当前记忆细胞;
根据所述当前记忆细胞和所述第一特征向量矩阵、所述第二特征向量矩阵和所述第三特征向量矩阵获得所述当前时间步骤的输出门;
根据所述当前记忆细胞和所述当前时间步骤的输出门获得当前隐藏状态;以及
基于所述当前隐藏状态利用softmax函数计算所述第一特征向量矩阵、所述第二特征向量矩阵和所述第三特征向量矩阵的概率分布。
6.根据权利要求5所述的问答社区的答案推荐方法,其特征在于,分别计算所述第一特征向量矩阵、所述第二特征向量矩阵和所述第三特征向量矩阵的概率分布:
根据以下公式,分别计算所述当前时间步骤t时的所述忘记门ft和所述输入门gt:
ft=σ(Wxgxt+Wlglt-1+ccgct-1+bf),
gt=σ(Wxfxt+Wlflt-1+ccfct-1+bg),
其中,σ(x)=1/(1+e-x),W为权重、l为隐藏状态,c为记忆细胞,b为偏向函数,xt为所述第一特征向量矩阵、所述第二特征向量矩阵和所述第三特征向量矩阵;
根据以下公式利用所述忘记门ft和所述输入门gt计算当前记忆细胞ct:ct=ftct-1+gttanh(Wxcxt+Wlclt-1+bc);
根据以下公式利用所述当前记忆细胞ct计算所述当前时间步骤t时的输出门ot:ot=σ(Wxoxt+Wlolt-1+Wcoct+bo);
根据以下公式利用所述当前记忆细胞ct和所述输出门ot计算当前隐藏状态lt:
lt=ottanh(ct),其中,tanh(x)=(ex-e-x)/(ex+e-x);
根据以下公式利用所述当前隐藏状态lt计算所述第一特征向量矩阵、所述第二特征向量矩阵和所述第三特征向量矩阵的概率分布P:P=softmax(U·lt+B),其中,∑isoftmax(xi)=1,在二分类方法中,k=2。
7.一种问答社区的答案推荐装置,其特征在于,包括:
模型构建模块,用于基于问答社区数据库中的多个样本问题构建深度学习分类模型,其中,所述深度学习分类模型为长短期记忆网络模型LSTM
获取模块,用于获取采样周期内的多个待定问题;
检测模块,用于对所述多个待定问题的重复性进行批量检测,其中,所述多个待定问题的重复性包括所述多个待定问题与所述问答社区数据库中的多个样本问题之间的重复性和所述多个待定问题之间的重复性;
判断推荐模块,用于当所述待定问题与所述样本问题重复时,将与所述待定问题重复的所述样本问题的答案推荐给用户;以及
分类模块,用于当没有检测到所述待定问题与所述样本问题重复而检测到所述多个待定问题重复时,对所述多个待定问题根据重复性进行分类;以及
存储推荐模块,用于将分类的重复待定问题中时间最早的待定问题作为标准样本问题存储在所述问答社区数据库中并将所述标准样本问题的答案推荐给提出所述重复待定问题的所有用户,其中,所述长短期记忆网络模型LSTM考虑语义信息对所述多个待定问题的重复性进行批量检测包括:将所述多个待定问题中的任一问题与所述多个样本问题进行配对以构建多个第一待定问题对;将所述多个待定问题中的任一问题与所述多个待定问题中的剩余问题进行配对以构建多个第二待定问题对;从所述多个样本问题中选取的任一个重复问题对作为标准重复问题对;利用词嵌入方法获得多个第一待定问题对的第一特征向量矩阵、多个第二待定问题对的第二特征向量矩阵、和所述多个标准重复问题对的第三特征向量矩阵;分别计算所述第一特征向量矩阵、所述第二特征向量矩阵和所述第三特征向量矩阵的概率分布,以获得所述概率分布的第一集合,其中,所述第一特征向量矩阵的概率分布为第一子集合以及所述第二特征向量矩阵和所述第三特征向量矩阵的概率分布为第二子集合;对所述第一子集合和所述第二子集合中的概率分布从大到小分别进行排序以构成所述概率分布的第二集合和第三集合;以及根据所述概率分布的第二集合判断所述第一待定问题对的重复性以及根据所述概率分布的第三集合判断所述第二待定问题对的重复性。
8.根据权利要求7所述的问答社区的答案推荐装置,其特征在于,所述模型构建模块,包括:
获取子模块,用于从问答社区中获取样本问题数据并从每个问题中提取问题的标题属性、内容属性和标签属性;
问题对构建子模块,用于根据所述样本问题数据构建多个问题对,其中,所述多个问题对包括重复问题对和非重复问题对;
转换子模块,用于利用词嵌入方法将每个问题对转换为特征向量形式以获得特征向量矩阵;以及
训练子模块,用于通过训练构建所述深度学习分类模型,其中,将所述特征向量矩阵为深度学习分类模型的输入。
9.根据权利要求8所述的问答社区的答案推荐装置,其特征在于,所述转换子模块还用于:
利用所述词嵌入方法将所述每个问题对中的m个单词分别转换为词向量x1、x2、…xm,其中,所述词向量的维度为n;以及
通过整合所述词向量x1、x2、…xm获得特征向量矩阵,所述特征向量矩阵为m×n特征向量矩阵,其中,m、n均为大于1的整数。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010135679.0A CN111368177B (zh) | 2020-03-02 | 2020-03-02 | 一种问答社区的答案推荐方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010135679.0A CN111368177B (zh) | 2020-03-02 | 2020-03-02 | 一种问答社区的答案推荐方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111368177A CN111368177A (zh) | 2020-07-03 |
CN111368177B true CN111368177B (zh) | 2023-10-24 |
Family
ID=71208538
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010135679.0A Active CN111368177B (zh) | 2020-03-02 | 2020-03-02 | 一种问答社区的答案推荐方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111368177B (zh) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109344236A (zh) * | 2018-09-07 | 2019-02-15 | 暨南大学 | 一种基于多种特征的问题相似度计算方法 |
CN109657048A (zh) * | 2019-01-09 | 2019-04-19 | 中南大学 | 一种应用于开源问答社区中回答者推荐方法 |
CN110019733A (zh) * | 2017-12-28 | 2019-07-16 | 中兴通讯股份有限公司 | 一种面向社区的智能问答方法及装置 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9508104B2 (en) * | 2013-09-20 | 2016-11-29 | International Business Machines Corporation | Question routing for user communities |
US9292597B2 (en) * | 2013-10-24 | 2016-03-22 | International Business Machines Corporation | Smart question routing and answerer growing for online community question-answer services |
WO2019160791A1 (en) * | 2018-02-16 | 2019-08-22 | Mz Ip Holdings, Llc | System and method for chat community question answering |
-
2020
- 2020-03-02 CN CN202010135679.0A patent/CN111368177B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110019733A (zh) * | 2017-12-28 | 2019-07-16 | 中兴通讯股份有限公司 | 一种面向社区的智能问答方法及装置 |
CN109344236A (zh) * | 2018-09-07 | 2019-02-15 | 暨南大学 | 一种基于多种特征的问题相似度计算方法 |
CN109657048A (zh) * | 2019-01-09 | 2019-04-19 | 中南大学 | 一种应用于开源问答社区中回答者推荐方法 |
Non-Patent Citations (1)
Title |
---|
基于多尺度相似度特征的答案选择算法;陈柯锦;侯俊安;郭智;梁霄;;系统工程与电子技术(第06期);215-221 * |
Also Published As
Publication number | Publication date |
---|---|
CN111368177A (zh) | 2020-07-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108021616B (zh) | 一种基于循环神经网络的社区问答专家推荐方法 | |
CN110322738B (zh) | 一种课程优化方法、装置和系统 | |
CN113626589B (zh) | 一种基于混合注意力机制的多标签文本分类方法 | |
CN106156354A (zh) | 一种学习资源推荐系统 | |
CN112508334A (zh) | 融合认知特性及试题文本信息的个性化组卷方法及系统 | |
CN111930925B (zh) | 一种基于在线教学平台的试题推荐方法及系统 | |
CN110704576A (zh) | 一种基于文本的实体关系抽取方法及装置 | |
CN114913729B (zh) | 一种选题方法、装置、计算机设备和存储介质 | |
CN109949637B (zh) | 一种客观题目的自动解答方法和装置 | |
CN113569001A (zh) | 文本处理方法、装置、计算机设备及计算机可读存储介质 | |
CN116992005B (zh) | 基于大模型及本地知识库的智能对话方法、系统及设备 | |
CN111507680A (zh) | 在线面试方法、系统、设备及存储介质 | |
CN114841164A (zh) | 一种实体链接方法、装置、设备及存储介质 | |
CN113469214A (zh) | 虚假新闻检测方法、装置、电子设备和存储介质 | |
CN113987167A (zh) | 基于依赖感知图卷积网络的方面级情感分类方法及系统 | |
Hamim et al. | Student profile modeling using boosting algorithms | |
CN111259115A (zh) | 内容真实性检测模型的训练方法、装置和计算设备 | |
Firoozi et al. | Using active learning methods to strategically select essays for automated scoring | |
Tian et al. | Research on MOOC teaching mode in higher education based on deep learning | |
CN113283488B (zh) | 一种基于学习行为的认知诊断方法及系统 | |
CN111368177B (zh) | 一种问答社区的答案推荐方法和装置 | |
CN111401525A (zh) | 一种基于深度学习的适应性学习系统和方法 | |
CN115544361A (zh) | 一种窗口相似度分析的关注点变化预测框架及其分析方法 | |
CN115730058A (zh) | 一种基于知识融合的推理问答方法 | |
CN114117078A (zh) | 一种基于d-s证据理论的电力异构知识融合的方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |