WO2021159613A1 - 文本语义相似度的分析方法、装置及计算机设备 - Google Patents

文本语义相似度的分析方法、装置及计算机设备 Download PDF

Info

Publication number
WO2021159613A1
WO2021159613A1 PCT/CN2020/087554 CN2020087554W WO2021159613A1 WO 2021159613 A1 WO2021159613 A1 WO 2021159613A1 CN 2020087554 W CN2020087554 W CN 2020087554W WO 2021159613 A1 WO2021159613 A1 WO 2021159613A1
Authority
WO
WIPO (PCT)
Prior art keywords
similarity
semantic similarity
recognition model
text
data set
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/CN2020/087554
Other languages
English (en)
French (fr)
Inventor
李小娟
徐国强
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
OneConnect Smart Technology Co Ltd
Original Assignee
OneConnect Smart Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by OneConnect Smart Technology Co Ltd filed Critical OneConnect Smart Technology Co Ltd
Publication of WO2021159613A1 publication Critical patent/WO2021159613A1/zh
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/3331—Query processing
    • G06F16/334—Query execution
    • G06F16/3344—Query execution using natural language analysis
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks

Definitions

  • This application relates to the field of natural language processing technology, and in particular to a method, device and computer equipment for analyzing text semantic similarity.
  • Semantic similarity calculation can also be called text matching.
  • Text matching is a common problem in many natural language processing applications.
  • Short text similarity refers to the calculation of similarity within a certain range of text length. Compared with long text, short text contains less information and has greater similarity calculations. The challenge.
  • the current short text similarity calculation method mainly adopts the deep learning method. The depth-based short text similarity calculation first needs to manually label a large amount of data, and then use the label data to calculate the similarity.
  • this application provides a text semantic similarity analysis method, device and computer equipment, which mainly solves the difficulties in obtaining and labeling short text similarity data when performing similarity analysis on short texts in the target field.
  • the effect of short text similarity algorithm is easily affected by the quality of data annotation, which leads to the problem of unstable analysis results.
  • a method for analyzing text semantic similarity includes:
  • the semantic similarity recognition result is determined based on the semantic similarity.
  • a text semantic similarity analysis device which includes:
  • the acquisition module is used to acquire general data sets and target domain data sets
  • the input module is used to input the target short text to be recognized for semantic similarity into the adjusted semantic similarity recognition model to obtain the semantic similarity;
  • the determining module is used to determine the semantic similarity recognition result based on the semantic similarity.
  • a non-volatile readable storage medium on which a computer program is stored, and the program is executed by a processor to realize the above-mentioned text semantic similarity analysis method.
  • a computer device including a non-volatile readable storage medium, a processor, and a computer program stored on the non-volatile readable storage medium and running on the processor, When the processor executes the program, the method for analyzing the semantic similarity of the text is realized.
  • the application realizes the analysis effect in the improvement field, thereby also solving the problem of obtaining a large amount of training data in the target field.
  • FIG. 1 shows a schematic flowchart of a method for analyzing text semantic similarity provided by an embodiment of the present application
  • FIG. 2 shows a schematic flowchart of another method for analyzing text semantic similarity provided by an embodiment of the present application
  • FIG. 3 shows a schematic structural diagram of a text semantic similarity analysis device provided by an embodiment of the present application
  • FIG. 4 shows a schematic structural diagram of another apparatus for analyzing text semantic similarity provided by an embodiment of the present application.
  • the embodiment of the present application provides a method for analyzing text semantic similarity. As shown in FIG. 1, the method includes:
  • the general data set can be: 400,000 short text similarity data sets obtained by ATEC2018 Ant Financial Short Text Semantic Similarity Competition, CCKS2018 WeBank Intelligent Customer Service Question Matching Competition, Harbin Institute of Technology's data set LCQMC and other methods.
  • the target field data set can be historical data records in the target field, search engines and other accumulated data.
  • algorithms can be developed to maximize the use of labeled domain knowledge to assist knowledge acquisition and learning in the target domain.
  • the core is to find the similarities between the source domain and the target domain, and make rational use of them. This similarity is very common.
  • the model used to recognize cars can be used to improve the ability to recognize karts, and transfer learning can store and use prior knowledge of other different but related problems.
  • the similarity recognition model can be applied to the short text similarity detection in the target field, and the corresponding similarity is output according to the input short text pair.
  • the similarity recognition result corresponding to the semantic similarity can be determined by setting the similarity threshold.
  • the idea of transfer learning can be used to learn a short text similarity analysis method in a general field through a large number of existing public data sets. Then only need to label an appropriate amount of data in the target field, use this labeled data for refined learning, and realize the short text similarity analysis in the target field.
  • this method can not only learn the semantic information of the short text similarity of general data, but also apply this prior knowledge in a targeted manner In the short text similarity analysis of the target field, the analysis effect in the improved field is realized, and the problem of obtaining a large amount of training data in the target field is also solved.
  • the method includes :
  • a general data set can be used instead in the pre-training process, and then the acquired target field data set can be used to further modify the training. Therefore, in this application, a large number of general data sets need to be obtained in advance and collected as much as possible To a predetermined number of target field data sets that can meet the revised standards.
  • Two short texts are arbitrarily selected from the general data set to form a text pair to be tested.
  • short texts can be randomly selected from a general data set to form a text pair to be tested, which is used for multiple and comprehensive training of the semantic similarity recognition model.
  • the text pair to be tested is preprocessed and input to the Embedding layer in the semantic similarity recognition model to obtain the first sequence and the second sequence.
  • the first sequence corresponds to the mapping result of one of the short texts in the text pair to be tested.
  • the second sequence corresponds to the mapping result of another short text in the text pair to be tested.
  • BiLSTM can learn the word in a sentence and its context to obtain a new Embedding vector.
  • the first vector can be calculated by the formula And the second vector
  • the first vector can be obtained based on the step 204 of the embodiment And the second vector And calculate the difference between the first vector and the second vector, where the attention model can be applied.
  • the calculation method of attention weight is:
  • the third sequence and the fourth sequence are respectively subtracted and multiplied, and the first sequence obtained above is And the second sequence for splicing operation, get Then send the obtained value to BiLSTM again, where BiLSTM is mainly to capture local inference information m a and m b and context information.
  • Input v a and v b into the pooling layer in turn.
  • the softmax output layer can be used, the output category is 2 types, and the output value is a number ranging from 0 to 1, that is, the similarity value.
  • the first similarity recognition result is further determined according to the similarity value, where the closer the similarity value is to 1, the more similar the two input sentences are; otherwise, the less similar they are.
  • the first target recognition result can be obtained in advance according to the marks in the text pair to be tested. After the first similarity recognition result is obtained, the first similarity recognition result can be compared with the first target recognition result. Perform matching, and further determine the first accuracy loss based on the similarity between the two.
  • the loss function of the training process is softmaxwithloss
  • the learning rate can be initially 1e-3
  • the learning rate is set to dynamically attenuate with training. After the training converges, the similarity recognition model is saved.
  • step 210 of the embodiment may specifically include: if it is determined that the data amount of the target domain data set is less than or equal to the first preset threshold, and the text similarity is greater than the second preset threshold, modifying The output category of the softmax layer in the semantic similarity recognition model; if it is determined that the data volume of the target domain data set is less than or equal to the first preset threshold, and the text similarity is less than or equal to the second preset threshold, the semantic similarity recognition model is frozen The initial layer of, retrain the remaining layers; if it is determined that the data volume of the target domain data set is greater than the first preset threshold, and the text similarity is less than or equal to the second preset threshold, then the semantic similarity is retrained using the target domain dataset Recognition model; if it is determined that the data volume of the target domain data set is greater than the first preset threshold, and the text similarity is greater than the second preset threshold, the architecture and initial weights of the semantic similarity recognition model are
  • this application is applicable to situations where the amount of data is small but the data similarity is high, and the softmax output layer is the same.
  • the positive training samples can be labeled by user clicks and other behaviors.
  • different query commands can be treated as similar questions.
  • step 212 of the embodiment may specifically include: randomly selecting two short text sentences from the target domain data set to construct a sample sentence pair, and comparing the sample sentence pair based on the Jeckard similarity measurement method Perform similarity calculation to obtain the similarity calculation result; if the similarity calculation result is greater than the third preset threshold, the corresponding sample sentence pair is determined as a negative example training sample.
  • J(A, B) is the similarity calculation result
  • A is a short text sentence in the sample sentence pair
  • B is another short text sentence in the sample sentence pair.
  • the positive training samples and negative training samples can be input into the adjusted semantic similarity recognition model, and the semantic similarity recognition model can be further trained and revised to obtain the corresponding second similarity recognition result.
  • the second target recognition result can be obtained in advance according to the marks in the positive training sample and the negative training sample. After the second similarity recognition result is obtained, the second similarity recognition result can be compared with The second target recognition result is matched, and the second accuracy loss is further determined according to the similarity between the two.
  • the loss function of the training process is softmaxwithloss
  • the learning rate can be initially 1e-4
  • the learning rate is set to dynamically attenuate with training, the training converges and when the recognition accuracy is greater than or equal to the recognition accuracy set in the preset standard , Save the semantic similarity recognition model.
  • the two target short texts to be recognized for semantic similarity can be input into the semantic similarity recognition model to obtain the difference between the two target short texts. Similarity.
  • step 217 of the embodiment may specifically include: comparing the similarity value with the fourth preset threshold and the fifth preset threshold; if it is determined that the similarity value is less than the fourth preset threshold , The semantic similarity recognition result is determined to be dissimilar; if the similarity value is determined to be greater than or equal to the fourth preset threshold and less than the fifth preset threshold, the semantic similarity recognition result is determined to be moderately similar; if the similarity value is determined If it is greater than or equal to the fifth preset threshold, it is determined that the semantic similarity recognition result is highly similar; and the similarity recognition result is output.
  • the method of determining the semantic similarity recognition result according to the similarity value is not limited to the above-mentioned case, and can also include multiple implementation methods. For example, only one preset threshold can be set. When the degree value is greater than the preset threshold, the semantic similarity recognition result is judged to be similar, otherwise it is judged to be dissimilar.
  • the data of the labeled field can be used to the maximum to train the semantic similarity recognition model, and then the semantic similarity recognition model is applied to the target field based on the idea of transfer learning, and only the appropriate amount of labeling is required.
  • this method can not only learn the semantic information of the short text similarity of general data, but also can target this priori Knowledge is applied to the calculation of short text similarity in the target field to improve the calculation effect in the field, which also solves the problem of obtaining a large amount of training data in the target field, and improves the accuracy and work efficiency of semantic similarity calculation.
  • an embodiment of the present application provides a text semantic similarity analysis device.
  • the device includes: an acquisition module 31, a training module 32, The adjustment module 33, the input module 34, and the determination module 35.
  • the obtaining module 31 can be used to obtain a general data set and a target field data set
  • the training module 32 can be used to train a semantic similarity recognition model using a general data set as a training sample
  • the adjustment module 33 can be used to adjust the semantic similarity recognition model by using the target domain data set as the transfer learning sample;
  • the input module 34 can be used to input the target short text to be recognized for semantic similarity into the adjusted semantic similarity recognition model to obtain the semantic similarity;
  • the determining module 35 can be used to determine the semantic similarity recognition result based on the semantic similarity.
  • the training module 32 can be specifically used to arbitrarily filter out two short texts from the general data set to form a text pair to be tested;
  • the text pair to be tested is preprocessed and input to the Embedding layer in the semantic similarity recognition model to obtain the first sequence and the second sequence, and the first sequence corresponds to the mapping result of one of the short texts in the text pair to be tested
  • the second sequence corresponds to the mapping result of another short text in the pair of texts to be tested;
  • the first sequence and the second sequence are input into the bidirectional long-short-term memory network BiLSTM, so as to obtain the corresponding first sequence A vector and a second vector; calculate the difference between the first vector and the second vector, and obtain the weighted third sequence corresponding to the first vector and the weighted second vector
  • the fourth sequence the feature vector is calculated according to the first sequence, the second sequence, the third sequence, and the fourth sequence; the first similarity recognition result is output
  • the adjustment module 33 can be specifically used to adjust the semantic similarity recognition model according to the data volume of the target domain data set and the size of the text similarity; Constructing positive training samples based on historical data records in the target field data set; screening negative training samples based on the Jackard similarity measurement method; inputting the positive training samples and the negative training samples to the adjusted semantics
  • the similarity recognition model the second similarity recognition result is obtained; the second accuracy loss of the second similarity recognition result relative to the second target recognition result is determined; the second loss is determined based on the second accuracy loss Function, using the adjusted semantic similarity recognition model of the second loss function to optimize, so that the recognition accuracy of the semantic similarity recognition model meets a preset standard.
  • the adjustment module 33 can be specifically used to determine if the data volume of the target field data set is less than or equal to the first A preset threshold and the text similarity is greater than a second preset threshold, then the output category of the softmax layer in the semantic similarity recognition model is modified; if it is determined that the data volume of the target domain data set is less than or equal to the first preset Set a threshold and the text similarity is less than or equal to the second preset threshold, then freeze the initial layer in the semantic similarity recognition model, and retrain the remaining layers; if the data of the target domain data set is determined If the amount is greater than the first preset threshold, and the text similarity is less than or equal to the second preset threshold, the semantic similarity recognition model is retrained using the target domain data set; if the target domain is determined If the data amount of the data set is greater than the first preset threshold, and the
  • the adjustment module 33 can be specifically used to randomly select two short text sentences from the target field data set to construct sample sentence pairs, based on the Jaccard similarity
  • the measurement method performs similarity calculation on the sample sentence pairs to obtain the similarity calculation result; if the similarity calculation result is greater than the third preset threshold, the corresponding sample sentence pair is determined as a negative training sample.
  • J(A, B) is the similarity calculation result
  • A is a short text sentence in the sample sentence pair
  • B is another short text sentence in the sample sentence pair.
  • the determining module 35 may be specifically configured to compare the similarity value with the fourth preset threshold and the fifth preset threshold; if If it is determined that the similarity value is less than the fourth preset threshold, it is determined that the semantic similarity recognition result is dissimilar; if it is determined that the similarity value is greater than or equal to the fourth preset threshold and less than the first Five preset thresholds, determine that the semantic similarity recognition result is moderately similar; if it is determined that the similarity value is greater than or equal to the fifth preset threshold, determine that the semantic similarity recognition result is highly similar;
  • the device in order to display the semantic similarity recognition result on the display page, as shown in FIG. 4, the device further includes: an output module 36.
  • the output module 36 is used to output the similarity recognition result.
  • an embodiment of the present application also provides a storage medium on which a computer program is stored.
  • the storage medium may be non-volatile or volatile.
  • the technical solution of the present application can be embodied in the form of a software product.
  • the software product can be stored in a non-volatile storage medium (which can be a CD-ROM, U disk, mobile hard disk, etc.), including several
  • the instructions are used to make a computer device (which may be a personal computer, a server, or a network device, etc.) execute the methods in each implementation scenario of the present application.
  • the embodiments of the present application also provide a computer device, which may be a personal computer, Servers, network devices, etc.
  • the physical device includes a storage medium and a processor; the storage medium is used to store a computer program; the processor is used to execute the computer program to realize the semantic similarity of the text as shown in FIG. 1 and FIG. Analytical method.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Machine Translation (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请公开了一种文本语义相似度的分析方法、装置及计算机设备，涉及计算机技术领域，可以解决在对目标领域的短文本进行相似度分析时，存在短文本相似度数据的获取以及标注困难，且短文本相似度算法效果容易受数据标注质量的影响，导致计算结果不稳定的问题。其中方法包括：获取通用数据集以及目标领域数据集；将所述通用数据集作为训练样本训练语义相似度识别模型；利用所述目标领域数据集作为迁移学习样本调整所述语义相似度识别模型；将待进行语义相似度识别的目标短文本输入至调整完成的所述语义相似度识别模型中，获取得到语义相似度；基于所述语义相似度确定语义相似度识别结果。本申请适用于对目标领域的文本语义相似度的分析。

Description

文本语义相似度的分析方法、装置及计算机设备
本申请要求于2020年2月14日提交中国专利局、申请号为202010092595.3，申请名称为“文本语义相似度的分析方法、装置及计算机设备”的中国专利申请的优先权，其全部内容通过引用结合在本申请中。
技术领域
本申请涉及自然语言处理技术领域，尤其涉及到一种文本语义相似度的分析方法、装置及计算机设备。
背景技术
语义相似度计算也可以称作文本匹配。文本匹配是很多自然语言处理应用中常见的问题，短文本相似度是指文本长度在一定范围的相似度计算，相比长文本，短文本包含的信息更少，在相似度计算上具有更大的挑战性。目前的短文本相似度计算方法主要采用深度学习的方法，基于深度的短文本相似度计算首先需要人工标注大量的数据，进而利用标注数据进行相似度计算。
然而发明人发现，现有的基于特定领域的短文本相似度计算，如果该领域的公开数据较少，存在短文本相似度数据的获取以及标注困难的问题，且短文本相似度算法效果容易受数据标注质量的影响，导致计算结果不稳定。
发明内容
有鉴于此，本申请提供了一种文本语义相似度的分析方法、装置及计算机设备，主要解决在对目标领域的短文本进行相似度分析时，存在短文本相似度数据的获取以及标注困难，且短文本相似度算法效果容易受数据标注质量的影响，导致分析结果不稳定的问题。
根据本申请的一个方面，提供了一种文本语义相似度的分析方法，该方法包括：
获取通用数据集以及目标领域数据集；
将所述通用数据集作为训练样本训练语义相似度识别模型；
利用所述目标领域数据集作为迁移学习样本调整所述语义相似度识别模型；
将待进行语义相似度识别的目标短文本输入至调整完成的所述语义相似度识别模型中，获取得到语义相似度；
基于所述语义相似度确定语义相似度识别结果。
根据本申请的另一个方面，提供了一种文本语义相似度的分析装置，该装置包括：
获取模块，用于获取通用数据集以及目标领域数据集；
训练模块，用于将所述通用数据集作为训练样本训练语义相似度识别模型；
调整模块，用于利用所述目标领域数据集作为迁移学习样本调整所述语义相似度识别模型；
输入模块，用于将待进行语义相似度识别的目标短文本输入至调整完成的所述语义相似度识别模型中，获取得到语义相似度；
确定模块，用于基于所述语义相似度确定语义相似度识别结果。
根据本申请的另一个方面，提供了一种非易失性可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现上述文本语义相似度的分析方法。
根据本申请的再一个方面，提供了一种计算机设备，包括非易失性可读存储介质、处理器及存储在非易失性可读存储介质上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述文本语义相似度的分析方法。
借由上述技术方案，本申请实现提升领域内的分析效果，从而也解决了目标领域获取大量训练数据的难题。
附图说明
此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本地申请的不当限定。在附图中：
图1示出了本申请实施例提供的一种文本语义相似度的分析方法的流程示意图；
图2示出了本申请实施例提供的另一种文本语义相似度的分析方法的流程示意图；
图3示出了本申请实施例提供的一种文本语义相似度的分析装置的结构示意图；
图4示出了本申请实施例提供的另一种文本语义相似度的分析装置的结构示意图。
具体实施方式
本申请实施例提供了一种文本语义相似度的分析方法，如图1所示，该 方法包括：
101、获取通用数据集以及目标领域数据集。
其中，通用数据集可为：由ATEC2018蚂蚁金服短文本语义相似度竞赛，CCKS2018微众银行智能客服问句匹配大赛，哈工大整理的数据集LCQMC等方式获取到的40万短文本相似度数据集；目标领域数据集可为目标领域内的历史数据记录、搜索引擎等积累数据等。
102、将通用数据集作为训练样本训练语义相似度识别模型。
在具体的应用场景中，计算相似度需要标注出两句话的相似与否，且数据量不能太小，要求有一定的普适性，这对标注人员来说是一项艰巨的工作。也因为如此，短文本相似度计算一直是一项值得研究的课题。在本申请中，可选用数据量较大的通用数据集作为训练样本初步训练语义相似度识别模型。
103、利用目标领域数据集作为迁移学习样本调整语义相似度识别模型。
在具体的应用场景中，可开发算法来最大限度地利用有标注的领域的知识，来辅助目标领域的知识获取和学习。其核心是找到源领域和目标领域之间的相似性，并加以合理利用。这种相似性非常普遍，例如，用来辨识汽车的模型，可以被用来提升识别卡丁车的能力，迁移学习可以存储和利用其他不同但相关的问题的先验知识。
104、将待进行语义相似度识别的目标短文本输入至调整完成的语义相似度识别模型中，获取得到语义相似度。
在具体的应用场景中，在完成对相似度识别模型的调整后，可将相似度识别模型应用到目标领域的短文本相似度检测中，根据输入的短文本对，输出对应的相似度。
105、基于语义相似度确定语义相似度识别结果。
相应的，可通过设定相似度阈值的方式来确定语义相似度对应的相似度识别结果。
通过本实施例中文本语义相似度的分析方法，可使用迁移学习的思想，通过大量的已有的公开数据集，学习一个通用领域的短文本相似度分析方法。然后只需要标注适量的目标领域内的数据，利用这标注数据进行精细化学习，实现目标领域的短文本相似度分析。相比直接使用通用数据或金融数据，或者通用数据与金融数据的混合，这种方式既能学习到通用数据的短文本相似 度的语义信息，又能有针对性地将这种先验知识应用到目标领域的短文本相似度分析中，实现提升领域内的分析效果，从而也解决了目标领域获取大量训练数据的难题。
进一步的，作为上述实施例具体实施方式的细化和扩展，为了完整说明本实施例中的具体实施过程，提供了另一种文本语义相似度的分析方法，如图2所示，该方法包括：
201、获取通用数据集以及目标领域数据集。
对于本实施例，在具体的应用场景中，由于基于深度的短文本相似度需要大量的人工标注数据，但基于目标领域的数据却很少，导致短文本相似度在目标领域内的分析效果不够理想，故在前期训练过程中可利用通用数据集来替代，之后再利用获取到的目标领域数据集进一步修正训练，故在本申请中，需要预先获取大量的通用数据集，并尽可能地收集到能够满足修正标准的预定数量个目标领域数据集。
202、从通用数据集中任意筛选出两个短文本构成待测文本对。
对于本实施例，在具体的应用场景中，为了保证训练的准确性，可从通用数据集中随机抽取短文本构成待测文本对，用于多次、全面的训练语义相似度识别模型。
203、对待测文本对进行预处理并输入至语义相似度识别模型中的Embedding层，获取得到第一序列和第二序列，第一序列对应待测文本对中其中一个短文本的映射结果，第二序列对应待测文本对中另一个短文本的映射结果。
例如，输入A、B两个句子，经过预处理及Embedding层映射即可得到第一序列a＝(a1…a la)和第二序列b＝(b1…b lb)，其中，ai，bj∈Rl为Embedding层输出的l维向量。
204、将第一序列和第二系列输入至双向长短时记忆网络BiLSTM中，以便获取得到对应的第一向量以及第二向量。
例如，将实施例步骤203中获取得到的第一序列和第二序列输入至双向长短时记忆网络BiLSTM中，BiLSTM可以学习一句话中的词和它的上下文关系，得到新的Embedding向量。即：
Figure PCTCN2020087554-appb-000001
Figure PCTCN2020087554-appb-000002
其中
Figure PCTCN2020087554-appb-000003
表示a在BiLSTM网络中第i个时间步的输出，
Figure PCTCN2020087554-appb-000004
表示b在BiLSTM网络中第i个时间步的输出。
通过公式可计算出第一向量
Figure PCTCN2020087554-appb-000005
和第二向量
Figure PCTCN2020087554-appb-000006
205、计算第一向量及第二向量之间的差异性，并获取得到第一向量对应加权后的第三序列和第二向量对应加权后的第四序列。
例如，基于实施例步骤204可获取得到第一向量
Figure PCTCN2020087554-appb-000007
和第二向量
Figure PCTCN2020087554-appb-000008
并计算第一向量和第二向量之间的差异性，这里可应用注意力attention模型。其中attention weight的计算方式为：
Figure PCTCN2020087554-appb-000009
之后基于上述attention weight分别计算a和b的权重加权后的值，即：
Figure PCTCN2020087554-appb-000010
Figure PCTCN2020087554-appb-000011
其中，
Figure PCTCN2020087554-appb-000012
为第三序列，
Figure PCTCN2020087554-appb-000013
为第四序列。
206、根据第一序列、第二序列、第三序列和第四序列计算得到特征向量。
在具体的应用场景中，为了充分获取两个句子之间的差异信息及句子交互信息，分别对第三序列和第四序列进行对位相减与对位相乘，并将前述得到的第一序列和第二序列进行拼接操作，得到
Figure PCTCN2020087554-appb-000014
Figure PCTCN2020087554-appb-000015
之后将得到的值再一次送到BiLSTM中，这里的BiLSTM主要是为了捕获局部推理信息
Figure PCTCN2020087554-appb-000016
m a和m b及其上下文信息。将v a和v b依次输入池化层，池化层包括最大池化层以及平均池化层，之后将池化后的结果再一次拼接起来，得到特征向量V＝{V a,vue，V a,max，V b,vue，V b,max}。
207、基于特征向量输出第一相似度识别结果。
相应的，在获取到特征向量后，可通过softmax输出层，输出类别为2类，输出值为范围为0到1之间的数，即相似度值。进一步根据相似度值确定出第一相似度识别结果，其中，相似度值越接近1表示输入的两句话越相似，否则，则越不相似。
208、确定第一相似度识别结果相对于第一目标识别结果的第一准确度损失。
在具体的应用场景中，可预先根据待测文本对中的标记获取得到第一目标识别结果，在获取得到第一相似度识别结果后，可将第一相似度识别结果与第一目标识别结果进行匹配，根据两者之间的相似度进一步确定出第一准确度损失。
209、基于第一准确度损失确定第一损失函数，利用第一损失函数对语义相似度识别模型进行优化。
对于本实施例，训练过程损失函数是softmaxwithloss，学习率learningrate可初始为1e-3，设置随着训练动态衰减学习率，训练收敛后，保存相似度识别模型。
210、根据目标领域数据集的数据量以及文本相似度的大小调整语义相似度识别模型。
对于本实施例，在具体的应用场景中，实施例步骤210具体可以包括：若确定目标领域数据集的数据量小于或等于第一预设阈值、文本相似度大于第二预设阈值，则修改语义相似度识别模型中softmax层的输出类别；若确定目标领域数据集的数据量小于或等于第一预设阈值、文本相似度小于或等于第二预设阈值，则冻结语义相似度识别模型中的初始层，再次训练余下的各层；若确定目标领域数据集的数据量大于第一预设阈值、文本相似度小于或等于第二预设阈值，则利用目标领域数据集重新训练语义相似度识别模型；若确定目标领域数据集的数据量大于第一预设阈值、文本相似度大于第二预设阈值，则保留语义相似度识别模型的体系结构和初始权重，并利用初始权重来重新训练语义相似度识别模型。
在具体的应用场景中，本申请可适用于数据量少，但数据相似度很高的情况，且softmax输出层是相同的。微调阶段，可以直接使用预训练的模型权重，使用较小的学习率来继续训练网路(例如1e-4)，得到最终的相似度检测模型。
211、利用目标领域数据集中的历史数据记录构建正例训练样本。
对于本实施例，在具体的应用场景中，正例训练样本可以通过用户点击等行为来指导标注，例如，对于相同的搜索点击行为，可以将不同的查询命 令query作为相似问题。
212、基于杰卡德相似性度量方法筛选负例训练样本。
对于本实施例，在具体的应用场景中，实施例步骤212具体可以包括：从目标领域数据集中随机筛选出两个短文本句子构建样本句子对，基于杰卡德相似性度量方法对样本句子对进行相似度计算，获取得到相似度计算结果；若相似度计算结果大于第三预设阈值，则将对应的样本句子对确定为负例训练样本。
其中，杰卡德相似性度量方法的计算公式为：
Figure PCTCN2020087554-appb-000017
其中，J(A,B)为相似度计算结果，A为样本句子对中的一个短文本句子，B为样本句子对中的另一个短文本句子。
在具体的应用场景中，在构造负例训练样本时，为了筛选出大量完全不相关的两句话作为负例训练样本，故需要预先对随机筛选出的两两组合句子进行相似度计算。对不满足相似度阈值的数据进行过滤。同时也保留一部分相似度阈值低的句子对，以保证数据的多样性。这里的相似度只需要保证字面意思是否相近。
例如，句子1：你是哪个公司的,找我干嘛？、句子2：你是哪个公司的,我不是你说的那个人。去除句子1和句子2中的标点符号即可分别转为集合A＝{你，是，哪，个，公，司，的，找，我，干，嘛}，B＝{你，是，哪，个，公，司，的，我，不，是，你，说，的，这，个，人}，获取得到并集A∪B：{你，是，哪，个，公，司，的，找，我，干，嘛，不，说，那，个，人}，获取得到交集A∩B：{你，是，哪，个，公，司，的，我}，进一步可计算出杰卡德系数为：交集个数/并集个数＝8/16＝0.5，也即句子1和句子2的杰卡德相似度为0.5。之后可将对应杰卡德相似度大于或等于预设阈值的两个句子的相似度确定为1，反之确定为0，进一步保留相似度为1的两个句子作为负例训练样本。
213、将正例训练样本及负例训练样本输入至调整后的语义相似度识别模型中，获取得到第二相似度识别结果。
在具体的应用场景中，可将正例训练样本及负例训练样本输入至调整后的语义相似度识别模型中，进一步对语义相似度识别模型进行训练修正，获取得到对应的第二相似度识别结果。
214、确定第二相似度识别结果相对于第二目标识别结果的第二准确度损失。
在具体的应用场景中，可预先根据正例训练样本及负例训练样本中的标记获取得到第二目标识别结果，在获取得到第二相似度识别结果后，可将第二相似度识别结果与第二目标识别结果进行匹配，根据两者之间的相似度进一步确定出第二准确度损失。
215、基于第二准确度损失确定第二损失函数，利用第二损失函数调整后的语义相似度识别模型进行优化，使语义相似度识别模型的识别精度符合预设标准。
对于本实施例，训练过程损失函数是softmaxwithloss，学习率learningrate可初始为1e-4，设置随着训练动态衰减学习率，训练收敛并且当识别精度大于或等于预设标准中设定的识别精度后，保存语义相似度识别模型。
216、将待进行语义相似度识别的目标短文本输入至调整完成的语义相似度识别模型中，获取得到语义相似度。
在具体的应用场景中，在对语义相似度识别模型完成调整后，即可将待进行语义相似度识别的两个目标短文本输入语义相似度识别模型中，获取得到两个目标短文本间的相似度。
217、基于语义相似度确定语义相似度识别结果。
对于本实施例，在具体的应用场景中，实施例步骤217具体可以包括：将相似度值与第四预设阈值以及第五预设阈值进行对比；若确定相似度值小于第四预设阈值，则确定语义相似度识别结果为不相似；若确定相似度值大于或等于第四预设阈值且小于第五预设阈值，则确定语义相似度识别结果为中度相似；若确定相似度值大于或等于第五预设阈值，则确定语义相似度识别结果为高度相似；输出相似度识别结果。
对于本实施例，需要说明的是，根据相似度值确定语义相似度识别结果的方式不仅限于上述一种情况，还可包含多中实施方式，例如还可仅设定一个预设阈值，当相似度值大于该预设阈值时，判定语义相似度识别结果为相似，反之判定为不相似。
通过上述文本语义相似度的分析方法，可最大限度地利用有标注的领域的数据来训练语义相似度识别模型，进而将语义相似度识别模型基于迁移学 习的思想应用于目标领域，只需要标注适量的目标领域内数据，利用目标领域数据对语义相似度识别模型调整，训练获取到适用于目标领域的相似度检测模型，进而实现对目标领域短文本相似度的识别判定。相比直接使用通用数据或目标领域数据，或者通用数据与目标领域数据的混合，这种方式既能学习到通用数据的短文本相似度的语义信息，又能有针对性地将这种先验知识应用到目标领域的短文本相似度计算中，实现提升领域内的计算效果，从而也解决了目标领域获取大量训练数据的难题，提高语义相似度计算的精度以及工作效率。
进一步的，作为图1和图2所示方法的具体体现，本申请实施例提供了一种文本语义相似度的分析装置，如图3所示，该装置包括：获取模块31、训练模块32、调整模块33、输入模块34、确定模块35。
获取模块31，可用于获取通用数据集以及目标领域数据集；
训练模块32，可用于将通用数据集作为训练样本训练语义相似度识别模型；
调整模块33，可用于利用目标领域数据集作为迁移学习样本调整语义相似度识别模型；
输入模块34，可用于将待进行语义相似度识别的目标短文本输入至调整完成的语义相似度识别模型中，获取得到语义相似度；
确定模块35，可用于基于语义相似度确定语义相似度识别结果。
在具体的应用场景中，为了利用通用数据集训练得到训练语义相似度识别模型，训练模块32，具体可用于从所述通用数据集中任意筛选出两个短文本构成待测文本对；对所述待测文本对进行预处理并输入至语义相似度识别模型中的Embedding层，获取得到第一序列和第二序列，所述第一序列对应所述待测文本对中其中一个短文本的映射结果，所述第二序列对应所述待测文本对中另一个短文本的映射结果；将所述第一序列和所述第二系列输入至双向长短时记忆网络BiLSTM中，以便获取得到对应的第一向量以及第二向量；计算所述第一向量及所述第二向量之间的差异性，并获取得到所述第一向量对应加权后的第三序列和所述第二向量对应加权后的第四序列；根据所述第一序列、所述第二序列、所述第三序列和所述第四序列计算得到特征向量；基于所述特征向量输出第一相似度识别结果；确定所述第一相似度识别 结果相对于第一目标识别结果的第一准确度损失；基于所述第一准确度损失确定第一损失函数，利用所述第一损失函数对所述语义相似度识别模型进行优化
相应的，为了调整得到适用于目标领域的语义相似度识别模型，调整模块33，具体可用于根据所述目标领域数据集的数据量以及文本相似度的大小调整所述语义相似度识别模型；利用所述目标领域数据集中的历史数据记录构建正例训练样本；基于杰卡德相似性度量方法筛选负例训练样本；将所述正例训练样本及所述负例训练样本输入至调整后的语义相似度识别模型中，获取得到第二相似度识别结果；确定所述第二相似度识别结果相对于第二目标识别结果的第二准确度损失；基于所述第二准确度损失确定第二损失函数，利用所述第二损失函数所述调整后的语义相似度识别模型进行优化，使所述语义相似度识别模型的识别精度符合预设标准。
在具体的应用场景中，为了根据目标领域数据集的数据量以及文本相似度的大小调整相似度识别模型，调整模块33，具体可用于若确定所述目标领域数据集的数据量小于或等于第一预设阈值、文本相似度大于第二预设阈值，则修改所述语义相似度识别模型中softmax层的输出类别；若确定所述目标领域数据集的数据量小于或等于所述第一预设阈值、所述文本相似度小于或等于所述第二预设阈值，则冻结所述语义相似度识别模型中的初始层，再次训练余下的各层；若确定所述目标领域数据集的数据量大于所述第一预设阈值、所述文本相似度小于或等于所述第二预设阈值，则利用所述目标领域数据集重新训练所述语义相似度识别模型；若确定所述目标领域数据集的数据量大于所述第一预设阈值、所述文本相似度大于所述第二预设阈值，则保留所述语义相似度识别模型的体系结构和初始权重，并利用所述初始权重来重新训练所述语义相似度识别模型。
相应的，为了基于杰卡德相似性度量方法筛选出负例训练样本，调整模块33，具体可用于从目标领域数据集中随机筛选出两个短文本句子构建样本句子对，基于杰卡德相似性度量方法对样本句子对进行相似度计算，获取得到相似度计算结果；若相似度计算结果大于第三预设阈值，则将对应的样本句子对确定为负例训练样本。
其中，杰卡德相似性度量方法的计算公式为：
Figure PCTCN2020087554-appb-000018
其中， J(A,B)为相似度计算结果，A为样本句子对中的一个短文本句子，B为样本句子对中的另一个短文本句子。
在具体的应用场景中，为了基于所述语义相似度确定语义相似度识别结果，确定模块35，具体可用于将所述相似度值与第四预设阈值以及第五预设阈值进行对比；若确定所述相似度值小于所述第四预设阈值，则确定所述语义相似度识别结果为不相似；若确定所述相似度值大于或等于所述第四预设阈值且小于所述第五预设阈值，则确定所述语义相似度识别结果为中度相似；若确定所述相似度值大于或等于所述第五预设阈值，则确定所述语义相似度识别结果为高度相似；
在具体的应用场景中，为了将语义相似度识别结果显示到显示页面，如图4所示，本装置还包括：输出模块36。
输出模块36，用于输出相似度识别结果。
需要说明的是，本实施例提供的一种文本语义相似度的分析装置所涉及各功能单元的其它相应描述，可以参考图1至图2中的对应描述，在此不再赘述。
基于上述如图1和图2所示方法，相应的，本申请实施例还提供了一种存储介质，其上存储有计算机程序，该程序被处理器执行时实现上述如图1和图2所示的文本语义相似度的分析方法。存储介质可以是非易失性，也可以是易失性。基于这样的理解，本申请的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施场景的方法。
基于上述如图1、图2所示的方法，以及图3、图4所示的虚拟装置实施例，为了实现上述目的，本申请实施例还提供了一种计算机设备，具体可以为个人计算机、服务器、网络设备等，该实体设备包括存储介质和处理器；存储介质，用于存储计算机程序；处理器，用于执行计算机程序以实现上述如图1和图2所示的文本语义相似度的分析方法。

Claims (20)

  1. 一种文本语义相似度的分析方法，包括：
    获取通用数据集以及目标领域数据集；
    将所述通用数据集作为训练样本训练语义相似度识别模型；
    利用所述目标领域数据集作为迁移学习样本调整所述语义相似度识别模型；
    将待进行语义相似度识别的目标短文本输入至调整完成的所述语义相似度识别模型中，获取得到语义相似度；
    基于所述语义相似度确定语义相似度识别结果。
  2. 根据权利要求1所述的方法，其中，所述将所述通用数据集作为训练样本训练语义相似度识别模型，具体包括：
    从所述通用数据集中任意筛选出两个短文本构成待测文本对；
    对所述待测文本对进行预处理并输入至语义相似度识别模型中的Embedding层，获取得到第一序列和第二序列，所述第一序列对应所述待测文本对中其中一个短文本的映射结果，所述第二序列对应所述待测文本对中另一个短文本的映射结果；
    将所述第一序列和所述第二系列输入至双向长短时记忆网络BiLSTM中，以便获取得到对应的第一向量以及第二向量；
    计算所述第一向量及所述第二向量之间的差异性，并获取得到所述第一向量对应加权后的第三序列和所述第二向量对应加权后的第四序列；
    根据所述第一序列、所述第二序列、所述第三序列和所述第四序列计算得到特征向量；
    基于所述特征向量输出第一相似度识别结果；
    确定所述第一相似度识别结果相对于第一目标识别结果的第一准确度损失；
    基于所述第一准确度损失确定第一损失函数，利用所述第一损失函数对所述语义相似度识别模型进行优化。
  3. 根据权利要求2所述的方法，其中，所述利用所述目标领域数据集作为迁移学习样本调整所述语义相似度识别模型，具体包括：
    根据所述目标领域数据集的数据量以及文本相似度的大小调整所述语义相似度识别模型；
    利用所述目标领域数据集中的历史数据记录构建正例训练样本；
    基于杰卡德相似性度量方法筛选负例训练样本；
    将所述正例训练样本及所述负例训练样本输入至调整后的语义相似度识别模型中，获取得到第二相似度识别结果；
    确定所述第二相似度识别结果相对于第二目标识别结果的第二准确度损失；
    基于所述第二准确度损失确定第二损失函数，利用所述第二损失函数所述调整后的语义相似度识别模型进行优化，使所述语义相似度识别模型的识别精度符合预设标准。
  4. 根据权利要求3所述的方法，其中，所述根据所述目标领域数据集的数据量以及文本相似度的大小调整所述语义相似度识别模型，具体包括：
    若确定所述目标领域数据集的数据量小于或等于第一预设阈值、文本相似度大于第二预设阈值，则修改所述语义相似度识别模型中softmax层的输出类别；
    若确定所述目标领域数据集的数据量小于或等于所述第一预设阈值、所述文本相似度小于或等于所述第二预设阈值，则冻结所述语义相似度识别模型中的初始层，再次训练余下的各层；
    若确定所述目标领域数据集的数据量大于所述第一预设阈值、所述文本相似度小于或等于所述第二预设阈值，则利用所述目标领域数据集重新训练所述语义相似度识别模型；
    若确定所述目标领域数据集的数据量大于所述第一预设阈值、所述文本相似度大于所述第二预设阈值，则保留所述语义相似度识别模型的体系结构和初始权重，并利用所述初始权重来重新训练所述语义相似度识别模型。
  5. 根据权利要求3所述的方法，其中，所述基于杰卡德相似性度量方法筛选负例训练样本，具体包括：
    从所述目标领域数据集中随机筛选出两个短文本句子构建样本句子对，基于杰卡德相似性度量方法对所述样本句子对进行相似度计算，获取得到相似度计算结果；
    若所述相似度计算结果大于第三预设阈值，则将对应的所述样本句子对确定为负例训练样本。
  6. 根据权利要求5所述的方法，其中，所述杰卡德相似性度量方法的计 算公式为：
    Figure PCTCN2020087554-appb-100001
    其中，J(A,B)为相似度计算结果，A为所述样本句子对中的一个短文本句子，B为所述样本句子对中的另一个短文本句子。
  7. 根据权利要求6所述的方法，其中，所述基于所述语义相似度确定语义相似度识别结果，具体包括：
    将所述相似度值与第四预设阈值以及第五预设阈值进行对比；
    若确定所述相似度值小于所述第四预设阈值，则确定所述语义相似度识别结果为不相似；
    若确定所述相似度值大于或等于所述第四预设阈值且小于所述第五预设阈值，则确定所述语义相似度识别结果为中度相似；
    若确定所述相似度值大于或等于所述第五预设阈值，则确定所述语义相似度识别结果为高度相似；
    在所述基于所述语义相似度确定语义相似度识别结果之后，具体还包括：
    输出所述相似度识别结果。
  8. 一种文本语义相似度的分析装置，其中，包括：
    获取模块，用于获取通用数据集以及目标领域数据集；
    训练模块，用于将所述通用数据集作为训练样本训练语义相似度识别模型；
    调整模块，用于利用所述目标领域数据集作为迁移学习样本调整所述语义相似度识别模型；
    输入模块，用于将待进行语义相似度识别的目标短文本输入至调整完成的所述语义相似度识别模型中，获取得到语义相似度；
    确定模块，用于基于所述语义相似度确定语义相似度识别结果。
  9. 一种非易失性可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现权利要求如下步骤：
    获取通用数据集以及目标领域数据集；
    将所述通用数据集作为训练样本训练语义相似度识别模型；
    利用所述目标领域数据集作为迁移学习样本调整所述语义相似度识别模型；
    将待进行语义相似度识别的目标短文本输入至调整完成的所述语义相似度识别模型中，获取得到语义相似度；
    基于所述语义相似度确定语义相似度识别结果。
  10. 根据权利要求9所述的非易失性可读存储介质，其中，所述将所述通用数据集作为训练样本训练语义相似度识别模型，具体包括：
    从所述通用数据集中任意筛选出两个短文本构成待测文本对；
    对所述待测文本对进行预处理并输入至语义相似度识别模型中的Embedding层，获取得到第一序列和第二序列，所述第一序列对应所述待测文本对中其中一个短文本的映射结果，所述第二序列对应所述待测文本对中另一个短文本的映射结果；
    将所述第一序列和所述第二系列输入至双向长短时记忆网络BiLSTM中，以便获取得到对应的第一向量以及第二向量；
    计算所述第一向量及所述第二向量之间的差异性，并获取得到所述第一向量对应加权后的第三序列和所述第二向量对应加权后的第四序列；
    根据所述第一序列、所述第二序列、所述第三序列和所述第四序列计算得到特征向量；
    基于所述特征向量输出第一相似度识别结果；
    确定所述第一相似度识别结果相对于第一目标识别结果的第一准确度损失；
    基于所述第一准确度损失确定第一损失函数，利用所述第一损失函数对所述语义相似度识别模型进行优化。
  11. 根据权利要求10所述的非易失性可读存储介质，其中，所述利用所述目标领域数据集作为迁移学习样本调整所述语义相似度识别模型，具体包括：
    根据所述目标领域数据集的数据量以及文本相似度的大小调整所述语义相似度识别模型；
    利用所述目标领域数据集中的历史数据记录构建正例训练样本；
    基于杰卡德相似性度量方法筛选负例训练样本；
    将所述正例训练样本及所述负例训练样本输入至调整后的语义相似度识别模型中，获取得到第二相似度识别结果；
    确定所述第二相似度识别结果相对于第二目标识别结果的第二准确度损失；
    基于所述第二准确度损失确定第二损失函数，利用所述第二损失函数所述调整后的语义相似度识别模型进行优化，使所述语义相似度识别模型的识 别精度符合预设标准。
  12. 根据权利要求11所述的非易失性可读存储介质，其中，所述根据所述目标领域数据集的数据量以及文本相似度的大小调整所述语义相似度识别模型，具体包括：
    若确定所述目标领域数据集的数据量小于或等于第一预设阈值、文本相似度大于第二预设阈值，则修改所述语义相似度识别模型中softmax层的输出类别；
    若确定所述目标领域数据集的数据量小于或等于所述第一预设阈值、所述文本相似度小于或等于所述第二预设阈值，则冻结所述语义相似度识别模型中的初始层，再次训练余下的各层；
    若确定所述目标领域数据集的数据量大于所述第一预设阈值、所述文本相似度小于或等于所述第二预设阈值，则利用所述目标领域数据集重新训练所述语义相似度识别模型；
    若确定所述目标领域数据集的数据量大于所述第一预设阈值、所述文本相似度大于所述第二预设阈值，则保留所述语义相似度识别模型的体系结构和初始权重，并利用所述初始权重来重新训练所述语义相似度识别模型。
  13. 根据权利要求11所述的非易失性可读存储介质，其中，所述基于杰卡德相似性度量方法筛选负例训练样本，具体包括：
    从所述目标领域数据集中随机筛选出两个短文本句子构建样本句子对，基于杰卡德相似性度量方法对所述样本句子对进行相似度计算，获取得到相似度计算结果；
    若所述相似度计算结果大于第三预设阈值，则将对应的所述样本句子对确定为负例训练样本。
  14. 根据权利要求13所述的非易失性可读存储介质，其中，所述杰卡德相似性度量方法的计算公式为：
    Figure PCTCN2020087554-appb-100002
    其中，J(A,B)为相似度计算结果，A为所述样本句子对中的一个短文本句子，B为所述样本句子对中的另一个短文本句子。
  15. 一种计算机设备，包括非易失性可读存储介质、处理器及存储在非易失性可读存储介质上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如下步骤：
    获取通用数据集以及目标领域数据集；
    将所述通用数据集作为训练样本训练语义相似度识别模型；
    利用所述目标领域数据集作为迁移学习样本调整所述语义相似度识别模型；
    将待进行语义相似度识别的目标短文本输入至调整完成的所述语义相似度识别模型中，获取得到语义相似度；
    基于所述语义相似度确定语义相似度识别结果。
  16. 根据权利要求15所述的计算机设备，其中，所述将所述通用数据集作为训练样本训练语义相似度识别模型，具体包括：
    从所述通用数据集中任意筛选出两个短文本构成待测文本对；
    对所述待测文本对进行预处理并输入至语义相似度识别模型中的Embedding层，获取得到第一序列和第二序列，所述第一序列对应所述待测文本对中其中一个短文本的映射结果，所述第二序列对应所述待测文本对中另一个短文本的映射结果；
    将所述第一序列和所述第二系列输入至双向长短时记忆网络BiLSTM中，以便获取得到对应的第一向量以及第二向量；
    计算所述第一向量及所述第二向量之间的差异性，并获取得到所述第一向量对应加权后的第三序列和所述第二向量对应加权后的第四序列；
    根据所述第一序列、所述第二序列、所述第三序列和所述第四序列计算得到特征向量；
    基于所述特征向量输出第一相似度识别结果；
    确定所述第一相似度识别结果相对于第一目标识别结果的第一准确度损失；
    基于所述第一准确度损失确定第一损失函数，利用所述第一损失函数对所述语义相似度识别模型进行优化。
  17. 根据权利要求16所述的计算机设备，其中，所述利用所述目标领域数据集作为迁移学习样本调整所述语义相似度识别模型，具体包括：
    根据所述目标领域数据集的数据量以及文本相似度的大小调整所述语义相似度识别模型；
    利用所述目标领域数据集中的历史数据记录构建正例训练样本；
    基于杰卡德相似性度量方法筛选负例训练样本；
    将所述正例训练样本及所述负例训练样本输入至调整后的语义相似度识 别模型中，获取得到第二相似度识别结果；
    确定所述第二相似度识别结果相对于第二目标识别结果的第二准确度损失；
    基于所述第二准确度损失确定第二损失函数，利用所述第二损失函数所述调整后的语义相似度识别模型进行优化，使所述语义相似度识别模型的识别精度符合预设标准。
  18. 根据权利要求17所述的计算机设备，其中，所述根据所述目标领域数据集的数据量以及文本相似度的大小调整所述语义相似度识别模型，具体包括：
    若确定所述目标领域数据集的数据量小于或等于第一预设阈值、文本相似度大于第二预设阈值，则修改所述语义相似度识别模型中softmax层的输出类别；
    若确定所述目标领域数据集的数据量小于或等于所述第一预设阈值、所述文本相似度小于或等于所述第二预设阈值，则冻结所述语义相似度识别模型中的初始层，再次训练余下的各层；
    若确定所述目标领域数据集的数据量大于所述第一预设阈值、所述文本相似度小于或等于所述第二预设阈值，则利用所述目标领域数据集重新训练所述语义相似度识别模型；
    若确定所述目标领域数据集的数据量大于所述第一预设阈值、所述文本相似度大于所述第二预设阈值，则保留所述语义相似度识别模型的体系结构和初始权重，并利用所述初始权重来重新训练所述语义相似度识别模型。
  19. 根据权利要求17所述的计算机设备，其中，所述基于杰卡德相似性度量方法筛选负例训练样本，具体包括：
    从所述目标领域数据集中随机筛选出两个短文本句子构建样本句子对，基于杰卡德相似性度量方法对所述样本句子对进行相似度计算，获取得到相似度计算结果；
    若所述相似度计算结果大于第三预设阈值，则将对应的所述样本句子对确定为负例训练样本。
  20. 根据权利要求19所述的计算机设备，其中，所述杰卡德相似性度量方法的计算公式为：
    Figure PCTCN2020087554-appb-100003
    其中，J(A,B)为相似度计算结果，A为所述样本句子对中的一个短文本句子，B为所述样本句子对中的另一个短文 本句子。
PCT/CN2020/087554 2020-02-14 2020-04-28 文本语义相似度的分析方法、装置及计算机设备 Ceased WO2021159613A1 (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN202010092595.3A CN111368024A (zh) 2020-02-14 2020-02-14 文本语义相似度的分析方法、装置及计算机设备
CN202010092595.3 2020-02-14

Publications (1)

Publication Number Publication Date
WO2021159613A1 true WO2021159613A1 (zh) 2021-08-19

Family

ID=71206129

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/CN2020/087554 Ceased WO2021159613A1 (zh) 2020-02-14 2020-04-28 文本语义相似度的分析方法、装置及计算机设备

Country Status (2)

Country Link
CN (1) CN111368024A (zh)
WO (1) WO2021159613A1 (zh)

Cited By (44)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113779994A (zh) * 2021-08-25 2021-12-10 上海浦东发展银行股份有限公司 一种要素抽取方法、装置、计算机设备和存储介质
CN113946334A (zh) * 2021-10-22 2022-01-18 南京大学 一种界面跳转路径图的合并方法和装置
CN114118022A (zh) * 2021-12-01 2022-03-01 科大讯飞股份有限公司 文本表示方法、装置、电子设备与存储介质
CN114154511A (zh) * 2021-12-09 2022-03-08 阳光保险集团股份有限公司 语义相似度计算和模型训练方法、装置、设备及存储介质
CN114154483A (zh) * 2021-10-18 2022-03-08 浙江香侬慧语科技有限责任公司 一种句子相似度的度量方法、装置、介质及设备
CN114202013A (zh) * 2021-11-22 2022-03-18 西北工业大学 一种基于自适应半监督的语义相似度计算方法
CN114358210A (zh) * 2022-01-14 2022-04-15 平安科技（深圳）有限公司 文本相似度计算方法、装置、计算机设备及存储介质
CN114387431A (zh) * 2022-01-12 2022-04-22 杭州电子科技大学 基于语义分析的多行文字纸质表格ocr方法
CN114398681A (zh) * 2022-01-20 2022-04-26 支付宝(杭州)信息技术有限公司 训练隐私信息分类模型、识别隐私信息的方法和装置
CN114445818A (zh) * 2022-01-29 2022-05-06 北京百度网讯科技有限公司 物品识别方法、装置、电子设备及计算机可读存储介质
CN114511003A (zh) * 2022-01-10 2022-05-17 南京农业大学 一种基于加权融合相似度模型的重复性数据检测方法
CN114595306A (zh) * 2022-01-26 2022-06-07 西北大学 基于距离感知自注意力机制和多角度建模的文本相似度计算系统及方法
CN114648648A (zh) * 2022-02-21 2022-06-21 清华大学 一种深度内省度量学习方法、装置及存储介质
CN114896392A (zh) * 2022-04-14 2022-08-12 北京宝兰德软件股份有限公司 工单数据的聚类方法、装置、电子设备及存储介质
CN115423098A (zh) * 2022-09-06 2022-12-02 中国人民解放军军事科学院系统工程研究院 一种预训练语言模型实体知识注入方法、系统及装置
CN115759292A (zh) * 2022-11-24 2023-03-07 北京沃东天骏信息技术有限公司 模型的训练方法及装置、语义识别方法及装置、电子设备
CN115840817A (zh) * 2021-09-17 2023-03-24 广东博智林机器人有限公司 基于对比学习的信息聚类处理方法、装置和计算机设备
CN115935190A (zh) * 2022-12-29 2023-04-07 唯品会(广州)软件有限公司 语义相似度模型的训练集获取方法、装置及计算机设备
CN115936444A (zh) * 2022-12-29 2023-04-07 北京理工大学 一种复杂产品装配技术问题风险预警的方法及装置
CN115952805A (zh) * 2022-10-18 2023-04-11 焦点科技股份有限公司 一种融合对比学习与聚类的智能问答语义表征方法
CN116108955A (zh) * 2022-11-18 2023-05-12 中国电信股份有限公司 社会矛盾纠纷的升级预警方法、装置、设备及存储介质
CN116186539A (zh) * 2023-02-24 2023-05-30 阳光保险集团股份有限公司 训练向量转换模型、转换语义向量的方法及装置
CN116340781A (zh) * 2022-12-27 2023-06-27 北京百度网讯科技有限公司 相似度确定方法、相似度预测模型训练方法及装置
CN114186548B (zh) * 2021-12-15 2023-08-15 平安科技（深圳）有限公司 基于人工智能的句子向量生成方法、装置、设备及介质
CN116798417A (zh) * 2023-07-31 2023-09-22 成都赛力斯科技有限公司 语音意图识别方法、装置、电子设备及存储介质
CN116910180A (zh) * 2023-07-19 2023-10-20 北京天融信网络安全技术有限公司 一种检测文本相似度的方法、装置、存储介质及电子设备
CN116932702A (zh) * 2023-09-19 2023-10-24 湖南正宇软件技术开发有限公司 提案并案的方法、系统、设备及存储介质
CN117112735A (zh) * 2023-10-19 2023-11-24 中汽信息科技(天津)有限公司 一种专利数据库的构建方法和电子设备
CN117194638A (zh) * 2023-09-19 2023-12-08 杭州阿里云飞天信息技术有限公司 素材生成方法、模型训练方法、特征提取方法及设备
CN117574874A (zh) * 2023-10-25 2024-02-20 哈尔滨工业大学 一种基于自学习策略的专利成果转化推荐方法及装置
CN118297758A (zh) * 2024-02-26 2024-07-05 中国科学技术信息研究所 专利突破性计算方法、装置、电子设备及可读存储介质
CN118446417A (zh) * 2024-05-06 2024-08-06 北京伯仲汇智科技有限公司 基于数字化企业管理的数据分析方法及系统
CN118520929A (zh) * 2024-07-25 2024-08-20 国家计算机网络与信息安全管理中心 文本相似度确定模型的训练方法及文本相似度计算方法
CN118568505A (zh) * 2024-07-31 2024-08-30 深圳市鸿普森科技股份有限公司 基于机器学习的工程数据模式处理方法和系统
CN118643820A (zh) * 2024-08-13 2024-09-13 温州市数安港管理服务中心 一种基于多新息理论的深度学习的数字化项目查重算法
CN118760908A (zh) * 2024-09-05 2024-10-11 浙商证券股份有限公司 金融舆情相似度概率预测方法、系统及装置
CN118762199A (zh) * 2024-08-30 2024-10-11 全芯智造技术有限公司 图像处理方法、电子设备、存储介质及计算机程序产品
CN119089977A (zh) * 2024-08-15 2024-12-06 国网安徽省电力有限公司滁州市城郊供电公司 一种基于拓扑变换的元强化学习模型迁移训练方法及装置
CN119149507A (zh) * 2024-11-18 2024-12-17 深圳市希立仪器设备有限公司 一种气密性检测仪用的气密性数据管理方法及系统
CN119272751A (zh) * 2024-12-10 2025-01-07 北京火山引擎科技有限公司 用于处理生成内容的方法、装置、设备、介质和程序产品
CN119444439A (zh) * 2024-10-23 2025-02-14 中国平安财产保险股份有限公司 一种数据校验方法、装置、计算机设备及存储介质
CN119761376A (zh) * 2024-12-12 2025-04-04 同方知网数字出版技术股份有限公司 基于语义对齐的项目研究内容查重方法、装置及电子设备
CN120012779A (zh) * 2023-11-16 2025-05-16 北京信息科技大学 利用无人机辅助语义通信的资源优化方法及装置
CN121615747A (zh) * 2026-02-02 2026-03-06 南京巨芯信息科技有限公司 基于异构数据融合的动态多知识库智能交互系统

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112069833B (zh) * 2020-09-01 2024-04-30 北京声智科技有限公司 日志分析方法、日志分析装置及电子设备
CN112241626B (zh) * 2020-10-14 2023-07-07 网易（杭州）网络有限公司 一种语义匹配、语义相似度模型训练方法及装置
CN112347786B (zh) * 2020-10-27 2025-09-19 阳光保险集团股份有限公司 人工智能评分训练方法和装置
CN112579919B (zh) * 2020-12-09 2023-04-21 小红书科技有限公司 数据处理方法、装置及电子设备
CN112863490B (zh) * 2021-01-07 2024-04-30 广州欢城文化传媒有限公司 一种语料获取方法及装置
CN113807074A (zh) * 2021-03-12 2021-12-17 京东科技控股股份有限公司 基于预训练语言模型的相似语句生成方法和装置
CN113051933B (zh) * 2021-05-17 2022-09-06 北京有竹居网络技术有限公司 模型训练方法、文本语义相似度确定方法、装置和设备
CN113705244B (zh) * 2021-08-31 2023-08-22 平安科技（深圳）有限公司 对抗文本样本生成方法、装置与存储介质
CN114003688B (zh) * 2021-10-14 2025-07-29 咪咕文化科技有限公司 问答数据的查询方法、装置、设备以及存储介质
CN114265917B (zh) * 2021-11-19 2025-07-11 中国联合网络通信集团有限公司 工单类别识别方法、模型训练方法、装置和设备
CN114330363B (zh) * 2021-12-16 2025-10-17 国网江西省电力有限公司电力科学研究院 一种基于漏洞语义智能解析的工控协议漏洞挖掘方法
CN116362253A (zh) * 2021-12-27 2023-06-30 中国移动通信有限公司研究院 一种语义理解方法、装置和电子设备
CN116502095A (zh) * 2022-01-20 2023-07-28 北京邮电大学 一种模型相似度的计算方法和模型更新方法
CN117113977B (zh) * 2023-10-09 2024-04-16 北京信诺软通信息技术有限公司 一种识别试卷中包含ai生成文字的方法、介质及系统
CN117932606B (zh) * 2024-03-08 2024-10-29 暨南大学 一种基于迁移学习的智能交通车辆安全检测方法及系统
CN118917297A (zh) * 2024-09-30 2024-11-08 南昌虚拟现实研究院股份有限公司 一种动作标注数据集获取方法及装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107329949A (zh) * 2017-05-24 2017-11-07 北京捷通华声科技股份有限公司 一种语义匹配方法和系统
CN108363716A (zh) * 2017-12-28 2018-08-03 广州索答信息科技有限公司 领域信息分类模型生成方法、分类方法、设备及存储介质
CN109766540A (zh) * 2018-12-10 2019-05-17 平安科技（深圳）有限公司 通用文本信息提取方法、装置、计算机设备和存储介质
CN110688452A (zh) * 2019-08-23 2020-01-14 重庆兆光科技股份有限公司 一种文本语义相似度评估方法、系统、介质和设备

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106844346B (zh) * 2017-02-09 2020-08-25 北京红马传媒文化发展有限公司 基于深度学习模型Word2Vec的短文本语义相似性判别方法和系统
GB2573998A (en) * 2018-05-17 2019-11-27 Babylon Partners Ltd Device and method for natural language processing
CN109657232A (zh) * 2018-11-16 2019-04-19 北京九狐时代智能科技有限公司 一种意图识别方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107329949A (zh) * 2017-05-24 2017-11-07 北京捷通华声科技股份有限公司 一种语义匹配方法和系统
CN108363716A (zh) * 2017-12-28 2018-08-03 广州索答信息科技有限公司 领域信息分类模型生成方法、分类方法、设备及存储介质
CN109766540A (zh) * 2018-12-10 2019-05-17 平安科技（深圳）有限公司 通用文本信息提取方法、装置、计算机设备和存储介质
CN110688452A (zh) * 2019-08-23 2020-01-14 重庆兆光科技股份有限公司 一种文本语义相似度评估方法、系统、介质和设备

Cited By (51)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113779994A (zh) * 2021-08-25 2021-12-10 上海浦东发展银行股份有限公司 一种要素抽取方法、装置、计算机设备和存储介质
CN113779994B (zh) * 2021-08-25 2024-01-23 上海浦东发展银行股份有限公司 一种要素抽取方法、装置、计算机设备和存储介质
CN115840817A (zh) * 2021-09-17 2023-03-24 广东博智林机器人有限公司 基于对比学习的信息聚类处理方法、装置和计算机设备
CN114154483A (zh) * 2021-10-18 2022-03-08 浙江香侬慧语科技有限责任公司 一种句子相似度的度量方法、装置、介质及设备
CN113946334A (zh) * 2021-10-22 2022-01-18 南京大学 一种界面跳转路径图的合并方法和装置
CN114202013A (zh) * 2021-11-22 2022-03-18 西北工业大学 一种基于自适应半监督的语义相似度计算方法
CN114202013B (zh) * 2021-11-22 2024-04-12 西北工业大学 一种基于自适应半监督的语义相似度计算方法
CN114118022A (zh) * 2021-12-01 2022-03-01 科大讯飞股份有限公司 文本表示方法、装置、电子设备与存储介质
CN114154511A (zh) * 2021-12-09 2022-03-08 阳光保险集团股份有限公司 语义相似度计算和模型训练方法、装置、设备及存储介质
CN114186548B (zh) * 2021-12-15 2023-08-15 平安科技（深圳）有限公司 基于人工智能的句子向量生成方法、装置、设备及介质
CN114511003A (zh) * 2022-01-10 2022-05-17 南京农业大学 一种基于加权融合相似度模型的重复性数据检测方法
CN114387431A (zh) * 2022-01-12 2022-04-22 杭州电子科技大学 基于语义分析的多行文字纸质表格ocr方法
CN114358210A (zh) * 2022-01-14 2022-04-15 平安科技（深圳）有限公司 文本相似度计算方法、装置、计算机设备及存储介质
CN114398681A (zh) * 2022-01-20 2022-04-26 支付宝(杭州)信息技术有限公司 训练隐私信息分类模型、识别隐私信息的方法和装置
CN114595306A (zh) * 2022-01-26 2022-06-07 西北大学 基于距离感知自注意力机制和多角度建模的文本相似度计算系统及方法
CN114595306B (zh) * 2022-01-26 2024-04-12 西北大学 基于距离感知自注意力机制和多角度建模的文本相似度计算系统及方法
CN114445818A (zh) * 2022-01-29 2022-05-06 北京百度网讯科技有限公司 物品识别方法、装置、电子设备及计算机可读存储介质
CN114445818B (zh) * 2022-01-29 2023-08-01 北京百度网讯科技有限公司 物品识别方法、装置、电子设备及计算机可读存储介质
CN114648648A (zh) * 2022-02-21 2022-06-21 清华大学 一种深度内省度量学习方法、装置及存储介质
CN114896392A (zh) * 2022-04-14 2022-08-12 北京宝兰德软件股份有限公司 工单数据的聚类方法、装置、电子设备及存储介质
CN115423098A (zh) * 2022-09-06 2022-12-02 中国人民解放军军事科学院系统工程研究院 一种预训练语言模型实体知识注入方法、系统及装置
CN115952805A (zh) * 2022-10-18 2023-04-11 焦点科技股份有限公司 一种融合对比学习与聚类的智能问答语义表征方法
CN116108955A (zh) * 2022-11-18 2023-05-12 中国电信股份有限公司 社会矛盾纠纷的升级预警方法、装置、设备及存储介质
CN115759292A (zh) * 2022-11-24 2023-03-07 北京沃东天骏信息技术有限公司 模型的训练方法及装置、语义识别方法及装置、电子设备
CN116340781A (zh) * 2022-12-27 2023-06-27 北京百度网讯科技有限公司 相似度确定方法、相似度预测模型训练方法及装置
CN115936444A (zh) * 2022-12-29 2023-04-07 北京理工大学 一种复杂产品装配技术问题风险预警的方法及装置
CN115935190A (zh) * 2022-12-29 2023-04-07 唯品会(广州)软件有限公司 语义相似度模型的训练集获取方法、装置及计算机设备
CN116186539A (zh) * 2023-02-24 2023-05-30 阳光保险集团股份有限公司 训练向量转换模型、转换语义向量的方法及装置
CN116910180A (zh) * 2023-07-19 2023-10-20 北京天融信网络安全技术有限公司 一种检测文本相似度的方法、装置、存储介质及电子设备
CN116798417A (zh) * 2023-07-31 2023-09-22 成都赛力斯科技有限公司 语音意图识别方法、装置、电子设备及存储介质
CN116798417B (zh) * 2023-07-31 2023-11-10 成都赛力斯科技有限公司 语音意图识别方法、装置、电子设备及存储介质
CN116932702A (zh) * 2023-09-19 2023-10-24 湖南正宇软件技术开发有限公司 提案并案的方法、系统、设备及存储介质
CN117194638A (zh) * 2023-09-19 2023-12-08 杭州阿里云飞天信息技术有限公司 素材生成方法、模型训练方法、特征提取方法及设备
CN117112735A (zh) * 2023-10-19 2023-11-24 中汽信息科技(天津)有限公司 一种专利数据库的构建方法和电子设备
CN117112735B (zh) * 2023-10-19 2024-02-13 中汽信息科技(天津)有限公司 一种专利数据库的构建方法和电子设备
CN117574874A (zh) * 2023-10-25 2024-02-20 哈尔滨工业大学 一种基于自学习策略的专利成果转化推荐方法及装置
CN120012779A (zh) * 2023-11-16 2025-05-16 北京信息科技大学 利用无人机辅助语义通信的资源优化方法及装置
CN118297758A (zh) * 2024-02-26 2024-07-05 中国科学技术信息研究所 专利突破性计算方法、装置、电子设备及可读存储介质
CN118446417A (zh) * 2024-05-06 2024-08-06 北京伯仲汇智科技有限公司 基于数字化企业管理的数据分析方法及系统
CN118520929A (zh) * 2024-07-25 2024-08-20 国家计算机网络与信息安全管理中心 文本相似度确定模型的训练方法及文本相似度计算方法
CN118568505A (zh) * 2024-07-31 2024-08-30 深圳市鸿普森科技股份有限公司 基于机器学习的工程数据模式处理方法和系统
CN118643820A (zh) * 2024-08-13 2024-09-13 温州市数安港管理服务中心 一种基于多新息理论的深度学习的数字化项目查重算法
CN119089977A (zh) * 2024-08-15 2024-12-06 国网安徽省电力有限公司滁州市城郊供电公司 一种基于拓扑变换的元强化学习模型迁移训练方法及装置
CN118762199A (zh) * 2024-08-30 2024-10-11 全芯智造技术有限公司 图像处理方法、电子设备、存储介质及计算机程序产品
CN118760908A (zh) * 2024-09-05 2024-10-11 浙商证券股份有限公司 金融舆情相似度概率预测方法、系统及装置
CN119444439A (zh) * 2024-10-23 2025-02-14 中国平安财产保险股份有限公司 一种数据校验方法、装置、计算机设备及存储介质
CN119149507A (zh) * 2024-11-18 2024-12-17 深圳市希立仪器设备有限公司 一种气密性检测仪用的气密性数据管理方法及系统
CN119272751A (zh) * 2024-12-10 2025-01-07 北京火山引擎科技有限公司 用于处理生成内容的方法、装置、设备、介质和程序产品
CN119761376A (zh) * 2024-12-12 2025-04-04 同方知网数字出版技术股份有限公司 基于语义对齐的项目研究内容查重方法、装置及电子设备
CN119761376B (zh) * 2024-12-12 2026-01-16 同方知网数字科技有限公司 基于语义对齐的项目研究内容查重方法、装置及电子设备
CN121615747A (zh) * 2026-02-02 2026-03-06 南京巨芯信息科技有限公司 基于异构数据融合的动态多知识库智能交互系统

Also Published As

Publication number Publication date
CN111368024A (zh) 2020-07-03

Similar Documents

Publication Publication Date Title
WO2021159613A1 (zh) 文本语义相似度的分析方法、装置及计算机设备
CN107436864B (zh) 一种基于Word2Vec的中文问答语义相似度计算方法
US11093560B2 (en) Stacked cross-modal matching
CN113094578B (zh) 基于深度学习的内容推荐方法、装置、设备及存储介质
US10586155B2 (en) Clarification of submitted questions in a question and answer system
JP7153004B2 (ja) コミュニティ質問応答データの検証方法、装置、コンピュータ機器、及び記憶媒体
CN106815252B (zh) 一种搜索方法和设备
CN112347244B (zh) 基于混合特征分析的涉黄、涉赌网站检测方法
WO2020108608A1 (zh) 搜索结果处理方法、装置、终端、电子设备及存储介质
WO2019119505A1 (zh) 人脸识别的方法和装置、计算机装置及存储介质
CN110705612A (zh) 一种混合多特征的句子相似度计算方法、存储介质及系统
WO2020087774A1 (zh) 基于概念树的意图识别方法、装置及计算机设备
CN116992007A (zh) 基于问题意图理解的限定问答系统
CN113988157A (zh) 语义检索网络训练方法、装置、电子设备及存储介质
CN111859979A (zh) 讽刺文本协同识别方法、装置、设备及计算机可读介质
CN111783903A (zh) 文本处理方法、文本模型的处理方法及装置、计算机设备
CN112860865A (zh) 一种智能问答的实现方法、装置、设备及存储介质
CN115599953A (zh) 视频文本检索模型的训练方法、检索方法及相关设备
CN115131058B (zh) 账号识别方法、装置、设备及存储介质
CN115248890A (zh) 用户兴趣画像的生成方法、装置、电子设备以及存储介质
CN111858885B (zh) 一种关键词分离的用户问题意图识别方法
CN117573817A (zh) 模型训练方法、相关性确定方法、装置、设备及存储介质
CN114842246B (zh) 一种社交媒体压力类别检测方法及装置
CN112035670A (zh) 基于图像情感倾向的多模态谣言检测方法
CN113868424B (zh) 文本主题的确定方法、装置、计算机设备及存储介质

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 20918257

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

32PN Ep: public notification in the ep bulletin as address of the adressee cannot be established

Free format text: NOTING OF LOSS OF RIGHTS PURSUANT TO RULE 112(1) EPC (EPO FORM 1205A DATED 110123)

122 Ep: pct application non-entry in european phase

Ref document number: 20918257

Country of ref document: EP

Kind code of ref document: A1