CN115640523A - 文本相似性度量方法、装置、设备、存储介质和程序产品 - Google Patents
文本相似性度量方法、装置、设备、存储介质和程序产品 Download PDFInfo
- Publication number
- CN115640523A CN115640523A CN202211274116.5A CN202211274116A CN115640523A CN 115640523 A CN115640523 A CN 115640523A CN 202211274116 A CN202211274116 A CN 202211274116A CN 115640523 A CN115640523 A CN 115640523A
- Authority
- CN
- China
- Prior art keywords
- text
- character string
- distance
- string
- similarity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000691 measurement method Methods 0.000 title claims abstract description 31
- 239000011159 matrix material Substances 0.000 claims abstract description 124
- 238000005070 sampling Methods 0.000 claims abstract description 95
- 238000000034 method Methods 0.000 claims abstract description 72
- 238000004364 calculation method Methods 0.000 claims abstract description 67
- 239000013598 vector Substances 0.000 claims description 66
- 239000013604 expression vector Substances 0.000 claims description 35
- 238000005259 measurement Methods 0.000 claims description 26
- 238000012360 testing method Methods 0.000 claims description 18
- 238000004590 computer program Methods 0.000 claims description 16
- 238000000605 extraction Methods 0.000 claims description 13
- 238000004422 calculation algorithm Methods 0.000 claims description 12
- 230000004044 response Effects 0.000 claims description 10
- 238000011076 safety test Methods 0.000 claims 1
- 230000009467 reduction Effects 0.000 abstract description 9
- 230000008569 process Effects 0.000 description 22
- 238000010586 diagram Methods 0.000 description 19
- 238000012545 processing Methods 0.000 description 18
- 238000011524 similarity measure Methods 0.000 description 10
- 238000005516 engineering process Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 8
- 238000004891 communication Methods 0.000 description 7
- 230000000694 effects Effects 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 6
- 238000013179 statistical model Methods 0.000 description 6
- 238000013528 artificial neural network Methods 0.000 description 5
- 230000008859 change Effects 0.000 description 5
- 238000012549 training Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000018109 developmental process Effects 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 238000000844 transformation Methods 0.000 description 2
- 238000011282 treatment Methods 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000000556 factor analysis Methods 0.000 description 1
- 238000000265 homogenisation Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000003780 insertion Methods 0.000 description 1
- 230000037431 insertion Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/955—Retrieval from the web using information identifiers, e.g. uniform resource locators [URL]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Databases & Information Systems (AREA)
- Probability & Statistics with Applications (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开涉及一种文本相似性度量方法、装置、设备、存储介质和程序产品，该方法包括：获取第一文本字符串和第二文本字符串；基于第一文本字符串和第二文本字符串构建两者的联合概率分布，并对联合概率分布进行采样得到采样字符串；计算第一文本字符串到采样字符串的距离得到第一距离矩阵，以及，计算第二文本字符串到采样字符串的距离得到第二距离矩阵；基于第一距离矩阵和第二距离矩阵确定第一文本字符串和第二文本字符串的相似性。本公开实施例实现了文本相似性度方法的降维计算，提高了计算效率。此外，由于采样字符串中包含两个文本字符串的信息，在降维的同时降低信息损失。
Description
技术领域
本公开涉及计算机处理技术领域，尤其涉及一种文本相似性度量方法、装置、设备、存储介质和程序产品。
背景技术
随着互联网、物联网、人工智能大数据等新兴技术的发展，海量的文本数据在各个领域不断涌现。文本相似性度量方法应用在越来越多的场景中，例如：搜索引擎中对搜索内容的理解以及建立网页链接的索引；对各种信息流文章进行重复、抄袭、同质化等评估。文本相似性度量方法都会参与其中。
现有的文本相似性度量方法有词频计算、规划求解、统计模型、词向量编码、神经网络推理等，但对于海量文本的批处理，均存在不同程度的不足。词频计算方式由于该方法过于粗糙，目前仅用于对极小数据量的分析刻画。规划求解算法由于其计算成本较高，难以应用于大数据和海量文本处理中。统计模型由于其统计概率来源全量处理文本，难以独立计算两个文本之间的相似性。词向量编码技术都需要大量文本语料进行预训练，需要从全量文档中计算词编码，不能独立计算两个文本之间的相似性，而且计算消耗也非常高。
发明内容
为了解决上述技术问题，本公开实施例提供了一种文本相似性度量方法、装置、设备、存储介质和程序产品，实现了文本相似性度方法的降维计算，提高了计算效率。此外，由于采样字符串中包含两个文本字符串的信息，在降维的同时降低信息损失。
第一方面，本公开实施例提供一种文本相似性度量方法，所述方法包括：
获取第一文本字符串和第二文本字符串；
基于所述第一文本字符串和所述第二文本字符串构建两者的联合概率分布，并对所述联合概率分布进行采样得到采样字符串；
计算所述第一文本字符串到所述采样字符串的距离得到第一距离矩阵，以及，计算所述第二文本字符串到所述采样字符串的距离得到第二距离矩阵；
基于所述第一距离矩阵和第二距离矩阵确定所述第一文本字符串和所述第二文本字符串的相似性。
第二方面，本公开实施例提供一种文本相似性度量装置，所述装置包括：
文本字符串获取模块，用于获取第一文本字符串和第二文本字符串；
采样字符串确定模块，用于基于所述第一文本字符串和所述第二文本字符串构建两者的联合概率分布，并对所述联合概率分布进行采样得到采样字符串；
距离矩阵计算模块，用于计算所述第一文本字符串到所述采样字符串的距离得到第一距离矩阵，以及，计算所述第二文本字符串到所述采样字符串的距离得到第二距离矩阵；
文本相似性度量模块，用于基于所述第一距离矩阵和第二距离矩阵确定所述第一文本字符串和所述第二文本字符串的相似性。
第三方面，本公开实施例提供一种电子设备，所述电子设备包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序；
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如上述第一方面中任一项所述的文本相似性度量方法。
第四方面，本公开实施例提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如上述第一方面中任一项所述的文本相似性度量方法。
第五方面，本公开实施例提供一种计算机程序产品，该计算机程序产品包括计算机程序或指令，该计算机程序或指令被处理器执行时实现如上述第一方面中任一项所述文本相似性度量方法。
本公开实施例提供了一种文本相似性度量方法、装置、设备、存储介质和程序产品，该方法包括：获取第一文本字符串和第二文本字符串；基于所述第一文本字符串和所述第二文本字符串构建两者的联合概率分布，并对所述联合概率分布进行采样得到采样字符串；计算所述第一文本字符串到所述采样字符串的距离得到第一距离矩阵，以及，计算所述第二文本字符串到所述采样字符串的距离得到第二距离矩阵；基于所述第一距离矩阵和第二距离矩阵确定所述第一文本字符串和所述第二文本字符串的相似性。本公开实施例通过对两个文本字符串的联合概率分布进行采样，得到采样字符串，分别计算两个文本字符串与采样字符串的距离矩阵，再计算两个距离矩阵的相似性，实现了文本相似性度方法的降维计算，提高了计算效率。此外，由于采样字符串中包含两个文本字符串的信息，在降维的同时降低信息损失。
附图说明
结合附图并参考以下具体实施方式，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中，相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的，原件和元素不一定按照比例绘制。
图1为本公开实施例中的一种文本相似性度量方法的流程示意图；
图2为本公开实施例中的一种联合概率分布的示意图；
图3a是本公开实施例中的一种编辑距离初始化的示意图；
图3b是本公开实施例中的一种编辑距离实际计算过程的示意图；
图4a是本公开实施例中的一种编辑距离演算过程的示意图；
图4b是本公开实施例中的一种编辑距离演算过程的示意图；
图5a是本公开实施例中的一种完整编辑距离演算过程的示意图；
图5b是本公开实施例中的一种完整编辑距离演算过程的示意图；
图6为本公开实施例中的一种编辑距离矩阵的向量抽取的示意图；
图7为本公开实施例中的一种文本相似性度量的流程示意图
图8为本公开实施例中的一种向量计算流程的示意图；
图9为本公开实施例中的一种文本相似性度量装置的结构示意图；
图10为本公开实施例中的一种电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例，相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。
应当理解，本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行，和/或并行执行。此外，方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括，即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”；术语“另一实施例”表示“至少一个另外的实施例”；术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的，而并不是用于对这些消息或信息的范围进行限制。
对本公开实施例进行进一步详细说明之前，对本公开实施例中涉及的名词和术语进行说明，本公开实施例中涉及的名词和术语适用于如下的解释。
为了解决文本相似性度量中的种种问题，提出了很多测量方法，先后经历了词频计算、规划求解、统计模型、词向量编码、神经网络推理等技术演变。
最早的文本相似性计算方法为词频统计，主要是通过计算两个文本中相同字符的数量来进行度量，比如对于字符串“abc”和字符串“abd”，它们具有相同的字符“ab”。相同字符越多，说明两个字符串越相似。此后为了在统计数量的基础上进一步评估字符串顺序对相似性的影响，引入了字符串的排列序号，当词频相同时，排列序号差越小的，相似性越高。
统计模型如TF-IDF，该模型由TF和IDF两部分组成，统计某个字符或词语在单个语句或文档中的出现比例，再统计该字符或词语在全部语句或文档中的出现比例，得到字符或词语出现的概率值，从而得到语句或文档的一个概率值向量，计算两个概率值向量之间的向量相似性，作为两个文档的相似性。
TF-IDF属于早期词向量编码的一种，但是由于统计值难以获得语义上的相似性，随着神经网络的发展，涌现出了很多基于神经网络的词向量编码技术，最常用的当属CBOW(Continuous Bag-of-Words)和 Skip-Gram。CBOW是通过上下文相关的词的词向量，来推断特定的一个词的词向量，Skip-Gram的计算方式正好相反，是通过特定的一个词的词向量，来计算特定词对应的上下文词向量。这两种计算方式都一定程度上能获取上下文语义，但也正因为存在较多的上下文推断，计算消耗较大。
当前主要的文本相似性技术有词频计算、规划求解、统计模型、词向量编码、神经网络推理等，但对于海量文本的批处理，均存在不同程度的不足。
词频计算方式由于该方法过于粗糙，目前仅用于对极小数据量的分析刻画。编辑距离算法由于其计算成本较高，难以应用于大数据和海量文本处理中。统计模型由于其统计概率来源全量处理文本，难以独立计算两个文本之间的相似性。此外，当前几乎所有的词向量编码技术都需要大量文本语料进行预训练，需要从全量文档中计算词编码，不能独立计算两个文本之间的相似性，而且计算消耗也非常高。
此外，为了应对海量数据，也出现很多数据预处理方法，例如：数据降维。数据降维是将一个高维空间的数据，在尽量降低信息损失的基础上，将数据映射到低维空间，提升数据处理效率。
当前已有的数据降维技术主要以因子分析、自编码器、主题模型、局部嵌入等为主，但均需要大量的文本语料训练，对独立两文本的计算及海量文本的批处理效果不好。
在本公开实施例中，所述文本相似性度量方法是依赖的基础算法为俄罗斯科学家弗拉基米尔·莱文斯坦(Levenshtein·Vladimir I)在 1965年提出的编辑距离算法，也叫莱文斯坦距离。该算法由于其直观易解释，而且对于字符串的相似性度量效果很好，经历过一些优化，至今仍然存在非常广泛的应用，甚至在python等编码语言中还有专门的第三方计算包。该算法需要基于动态规划或递归求解，计算消耗较大，难以应用于文本大数据和长文本相似性度量。
编辑距离算法中，幂次级较高，时间复杂度和空间复杂度对于小数据量而言，影响不是很大，但是对于大数据和长文本而言，需要消耗的资源是巨大的。也导致在当下文本大数据的计算中，该方法难以大范围推广。
为解决上述技术文本，本公开实施例中提供了一种文本相似性度量方法，通过选取一个采样字符串，分别计算两个文本字符串与采样字符串之间的距离矩阵，进而根据两个距离矩阵计算两个文本串的相似性，将单阶段的计算变成两阶段计算，提高了计算效率，特别在海量的文本大数据中效果尤为明显。
从应用价值角度看，本公开实施例提供的文本相似性度量方法，可以广泛应用于精准医疗、量化金融、智能语音等领域。对于web链分析、密码编码、基因组测算、语音校对等有非常显著的应用价值。
下面结合附图，对本公开实施例中提供的文本相似性度量方法进行详细介绍。
图1为本公开实施例中的一种文本相似性度量方法的流程图，本实施例可适用于计算两个文本相似性的情况，该方法可以由文本相似性度量装置执行，该文本相似性度量装置可以采用软件和/或硬件的方式实现。
如图1所示，本公开实施例提供的文本相似性度量方法主要包括步骤S101-S104。
S101、获取第一文本字符串和第二文本字符串。
在本公开的实施例中，文本字符串是一种书面语言的表现形式，可以是多个字符的组合，该字符可以包括：英文字符、中文汉字、标点符号、罗马字符、希腊字符或者其他特殊字符中的一种或者多种。第一文本字符串和第二文本字符串是指两个需要度量相似性的文本字符串。
在本公开的一个实施方式中，在检测到文本相似性度量的触发事件后，可以获取第一文本字符串和第二文本字符串。
在本公开的一个实施方式中，上述触发事件可以是接收到用户输入文本字符串的事件；例如：用户在浏览器或者智能问答系统中输入文本字符串后，终端设备接收到此文本字符串，则可以认为检测到了文本相似性度量的触发事件。此时，终端可以将接收到的用户输入的文本字符串作为第一文本字符串，从数据库中获取任意获取一个文本字符串作为第二文本字符串。
在本公开的一个实施方式中，此处的触发事件还可以是接收到文本相似性度量指令的事件；例如，用户想要统计终端数据库中任意两个文本字符串之间的相似性时，可以向终端输入一个相似性度量指令，该相似性度量指令可以是点击指令、按压指令、或者语音指令等等。终端接收到此相似性度量指令，则可以认为检测到了进行文本相似性度量的触发事件。此时，终端可以从数据库中任意选取两个文本字符串作为第一文本字符串和第二文本字符串。
在本公开的一个实施方式中，此处的触发事件还可以是接收到完成目标任务完成指令的事件；例如：在网络接口A发现了一个安全风险，终端设备接收网络接口A对应的程序代码，则可以认为检测到了进行文本相似性度量的触发事件。此时，终端可以将接收到的网络接口A对应的程序代码作为第一文本字符串，获取任意获取其他除网络接口A之外的一个网络接口对应的程序代码作为第二文本字符串。
S102、基于所述第一文本字符串和所述第二文本字符串构建两者的联合概率分布，并对所述联合概率分布进行采样得到采样字符串。
在本公开的实施例中，所述采样字符串中包括的字符均是由第一文本字符串和/或第二文本字符串中包括的字符。
在本公开实施例中，构建第一文本字符串和第二文本字符串的联合概率分布，基于联合概率分布的采样，是同时保留两个字符串信息的最优方案。其中，上述联合概率分布可以是正态分布和正态分布之间的联合概率，也可以是正态分布与指数分布之间的联合概率分布，本公开实施例中不具体限定。
如图2所示，分别展示了正态分布和正态分布之间的联合概率分布图、正态分布与指数分布之间的联合概率分布示意图。在联合概率分布中进行随机采样，可尽最大可能的保留原有文本信息，而此时的随机采样对于大数据计算来说，没有额外的计算开销，可以进行海量数据计算。
针对联合概率分布的数据采样得到的采样字符串，同时包含两个第一文本字符串和第二文本字符串中的信息，降低了信息损失，而且采样还降低了数据噪声。
在本公开的一个实施方式中，对所述联合概率分布进行采样得到采样字符串，包括：基于预设采样比例对所述联合概率分布进行随机下采样得到采样字符串，所述预设采样比例与文本字符串长度成反比。
其中，预设采样比例是预先设定的从联合概率分布中采样得到的采样字符串所占的比例。优选的，预设采样比例最大为四分之一。预设采样比例为四分之一时，可以实现在降维计算的同时，尽可能降低信息的损失。具体的，本公开实施例中的对联合概率分布进行最多进行四分之一采样即可。
进一步的，所述预设采样比例与文本字符串长度成反比。换句话说，文本字符串越长，上述预设采样比例越小，对大数据的性能优化效果也越好。需要说明的是，预设采样比例只要不会导致联合概率分布的中心位置发生偏移，可以尽可能的偏小，这样，可以最大幅度的进行降维。
S103、计算所述第一文本字符串到所述采样字符串的距离得到第一距离矩阵，以及，计算所述第二文本字符串到所述采样字符串的距离得到第二距离矩阵。
在本公开的实施例中，第一距离矩阵和第二距离矩阵，可以是任意一种度量文本相似性的距离矩阵。需要说明的是，采用不同的相似性度量策略得到的距离矩阵，采用不同的方法生成距离表示向量。
在本公开的一个实施方式中，采用编辑距离计算算法计算所述第一距离矩阵和所述第二距离矩阵，所述第一距离矩阵用于表征所述第一文本字符串到所述采样字符串的编辑距离；所述第二距离矩阵用于表征所述第二文本字符串到所述采样字符串的编辑距离。
其中，规划求解中最具有代表性的为编辑距离，也叫莱文斯坦距离(LevenshteinDistance)，量测方式为确定至少需要多少次的处理才能将一个字符串变成另一个字符串，这里的处理包括删除字符串、插入字符串和替换字符串。处理次数越少，相似性越高。
其中，编辑距离表示从一个字符串变换为另一个字符串需要的最小变换次数，这里对变换主要为删除、插入和替换操作。如果用|a|和|b| 分别表示a、b两个字符串的长度，字符串a和字符串b编辑距离为 lev_ab(|a|,|b|)可以表示为：
其中，上述公式中otherwise中的第一行表示删除操作，第二行表示插入操作，第三行表示替换操作。本公开实施例中以编辑距离算法计算字符串“/tts_sync”和“tts/sync/”之间的相似性为例，通过附图 3a，3b，4a，4b，5a，5b详细介绍编辑距离的计算过程及其存在的问题。
如图3a所示，给出了距离的初始化结果，也就是上述编辑距离计算公式中的ifmin(i,j)＝0时，取max(i,j)的部分。所以可得到第二行0-9 的序列，第二列0-9的序列。如图3b所示，开始实际计算编辑距离，也就是上述编辑距离计算公式中otherwise中的部分。第3行3列的取值为以下三个值的最小值。第一个值：第2行3列的值+1等于2；第二个值：第3行2列的值+1等于2第三个值：因为“/”和“t”不相同，所以取值为第2行2列的值+1等于1。以上三个值的最小值为1。即第3行3列的取值为1。
图4a和图4b一步给出了编辑距离的演算过程，如图4a所示，第 6行3列值为3，因为两个字符均是“/”，所以对角线5行2列数字不变化，此时和第5行3列值+1、6行2列值+1相比，其中最小的为3。如图4b所示，第4行5列的值为1，小于第3行5列的值2，这也进一步验证编辑距离算法解决的问题，即(i,j)位置度量的是其中一个字符串前i个字符和另一个字符串前j个字符之间的距离，显然“/tt”变化到“tt”的编辑次数，明显小于“/tt”变换到“t”的次数。
图5a给出了推演的中间过程，图5b给出了全部计算过程，其中加粗数字为最小距离的变化路径，最终计算得到字符串“/tts_sync”和“tts/sync/”的编辑距离为3，即需要进行3次转换。直观而言，需要删除起始位置的“/”，需要将“_”替换为“/”，需要在结尾位置插入一个“/”，共计3次操作。
结合推演过程，发现编辑距离算法可以有两种求解方法，分别是递归求解和动态规划求解。可以采用上述任意一种求解方法计算所述第一文本字符串到所述采样字符串的距离得到第一距离矩阵，以及，计算所述第二文本字符串到所述采样字符串的距离得到第二距离矩阵。
S104、基于所述第一距离矩阵和第二距离矩阵确定所述第一文本字符串和所述第二文本字符串的相似性。
在本公开的一个实施方式中，计算所述第一距离矩阵和第二距离矩阵之间的相似性，将两个距离矩阵的相似性作为所述第一文本字符串和所述第二文本字符串之间的相似性。
可选的，采用欧氏距离或者余弦相似度的方式计算两个矩阵之间的相似性。需要说明的是，也可以才用其他矩阵相似性计算方式，计算第一距离矩阵和第二距离矩阵之间的相似性，本实施例中不再具体限定。
在本公开的一个实施方式中，采用特征向量计算方法计算第一距离矩阵的特征向量，记作第一特征向量，采用特征向量计算方法计算第二距离矩阵的特征向量，记作第二特征向量，计算两个特征向量之间的相似性，作为第一文本字符串和第二文本字符串的相似性。其中，特征向量计算可以通过矩阵分解方式实现。本实施例中不再具体限定。
在本公开的一个实施方式中，所述基于所述第一距离矩阵和第二距离矩阵确定所述第一文本字符串和所述第二文本字符串的相似性，包括：对所述第一距离矩阵进行特征提取得到第一距离表示向量，所述第一距离表示向量包括第一距离矩阵对应的列表示向量、对角表示向量和行表示向量；对所述第二距离矩阵进行特征提取得到第二距离表示向量，所述第二距离表示向量包括第二距离矩阵对应的列表示向量、对角表示向量和行表示向量；计算所述第一距离表示向量和所述第二距离表示向量的向量相似性，作为所述第一字符串和所述第二文本字符串的相似性。
其中，所述第一距离表示向量可以理解为可以从第一距离矩阵中抽取出来，可以代表第一距离矩阵进行矩阵相似度计算的向量。所述第二距离表示向量可以理解为可以从第二距离矩阵中抽取出来，可以代表第二距离矩阵进行矩阵相似度计算的向量。
在本公开的一个实施方式中，所述特征提取包括：抽取距离矩阵中最后一行序列作为行表示向量；抽取距离矩阵中最后一列序列作为列表示向量；抽取距离矩阵中对角序列作为对角表示向量。
本公开实施例提供的文本相似性度量方法是从编辑距离的设计思想出发，在距离矩阵中靠后(靠右和靠下)的距离值是依赖于之前的距离值的，理论上，选择距离矩阵中的最后一行、最后一列及对角序列变化，能代表两个文本字符串的相似性信息。以文本字符串“/tts_sync”和“tts/sync/”为例，可以抽取距离矩阵对角上的最短路径、距离矩阵中的最后一列、距离矩阵中的最后一行的距离变化形成矩阵表示向量。如图6所示，抽取距离矩阵对角上的最短路径(1，1，1，1，2，2，2， 2，2，3)、距离矩阵中的最后一列(9，8，7，6，6，5，4，3，2，3)、距离矩阵中的最后一行(9，8，8，8，7，7，6，5，4，3)得到图6 中左侧距离矩阵的距离表示向量。在本公开实施例中，距离矩阵的距离表示向量抽取，文本的相似性计算直接转化成向量的数值计算，潜在完成了文本字符串到词向量的编码。
在本公开实施例中，分别从两个距离矩阵中抽取距离表示向量，计算两个距离表示向量之间的相似性，作为第一文本字符串和第二文本字符串之间的相似，由于向量相似性的计算方法比矩阵相似性的计算方法，计算量小，因此，本公开实施例提供的技术方案，可以进一步的降低计算量，提高计算效率。
在本公开的一个实施方式中，采用欧氏距离或者余弦相似度确定所述向量相似度。
具体的，所述第一距离表示向量与所述第二距离表示向量之间的欧式距离；所述第一距离表示向量与所述第二距离表示向量之间的余弦夹角。
本公开实施例提供了一种文本相似性度量方法、装置、设备、存储介质和程序产品，该方法包括：获取第一文本字符串和第二文本字符串；基于所述第一文本字符串和所述第二文本字符串构建两者的联合概率分布，并对所述联合概率分布进行采样得到采样字符串；计算所述第一文本字符串到所述采样字符串的距离得到第一距离矩阵，以及，计算所述第二文本字符串到所述采样字符串的距离得到第二距离矩阵；基于所述第一距离矩阵和第二距离矩阵确定所述第一文本字符串和所述第二文本字符串的相似性。本公开实施例通过对两个文本字符串的联合概率分布进行采样，得到采样字符串，分别计算两个文本字符串与采样字符串的距离矩阵，再计算两个距离矩阵的相似性，实现了文本相似性度方法的降维计算，提高了计算效率。此外，由于采样字符串中包含两个文本字符串的信息，在降维的同时降低信息损失。
在本公开实施例中，提供一种文本相似性度量的架构示意图，如图7所示，首先对待计算的两个文本字符串a和文本字符串b作联合概率分布，再对联合概率分布进行下采样，得到采样字符串，然后文本字符串a和文本字符串b分别与采样字符串进行编辑距离计算，计算过程会生成如图5b所示的距离矩阵，从距离矩阵中抽取出距离表示向量，最后对距离表示向量做数值运算，得到两个距离表示向量的相似性，即为文本字符串a和文本字符串b的相似性。
图8为文本字符串a和文本字符串b分别与采样字符串进行编辑距离计算的过程，第一文本字符串a和第二文本字符串b分别与采样字符串计算距离矩阵，抽取行、列和对角向量，作为距离表示向量，再计算距离表示向量的数值相似性，获得第一文本字符串a和第二文本字符串b。其中，第一文本字符串a和第二文本字符串b分别与采样字符串计算距离矩阵的两个过程是可以并行执行的，进一步提升了对于大数据的批处理性能
本公开提出的一种文本相似性度量方法，将单阶段的高维计算过程拆分成两阶段的低维计算过程，有效提升了海量文本的相似性度量效能。其主要技术效果有：让海量文本相似性的批处理成为可能，通过分布采样和表示向量抽取过程，对数据完成降维，在尽可能保证信息量的同时，提升计算效率。相比传统的编辑距离计算方式，复杂度至少降低70％以上，而且文本越长，性能提升效果越显著，对文本大数据，性能有望提升1个数量级以上。可以对任意两个字符串或字符序列进行相似性度量，而且在计算过程中生成两两特定比较字符串之间的词向量，对文字的分割和语义没有额外要求。不需要大量的语料进行有监督或无监督的预训练，除实际的批处理过程，没有额外的计算开销。得益于对文本分布的下采样过程，还一定程度上降低了数据噪声对相似性计算的影响。
本公开提出的一种文本相似性度量方法是一种通用化的大数据处理技术，不同应用场景之间几乎可以零成本迁移，可以直接通过代码部署到MapReduce、Spark、Storm等大数据引擎中。
在本公开的一个实施例中，提供一种文本相似性度量方法的应用场景。具体的，所述方法还包括：获取第一网络接口传输的请求响应数据，作为所述第一文本字符串；获取第二网络接口传输的请求响应数据，作为所述第二文本字符串；根据所述第一文本字符串和所述第二文本字符串的相似性，确定所述第一网络接口和所述第二网络接口是否存在类似安全风险。
本公开实施例提供的文本相似性度量方法可应用于很多大数据下文本相似性度量的场景中。如在网络安全领域，本公开实施例提供的文本相似性度量方法可以直接用于度量不同网络接口返回数据的相似性，以此可挖掘更多相似的安全风险。
其中，第一网络接口为发现了安全风险的网络接口，第二网络接口为任意一个除第一网络接口外的其他网络接口。例如：在第一网络接口A发现了一个安全风险，获取第一网络接口A的请求响应数据，作为所述第一文本字符串，获取任意一个除第一网络接口外的其他网络接口作为第二网络接口B，获取第二网络接口B的请求响应数据，作为所述第二文本字符串，采用上述实施例中提供的文本相似性度量方式计算第一文本字符串和第二文本字符串之间的相似性。如果第一文本字符串和第二文本字符串之间的相似性超过设定数值，则表示第二网络接口B有与第一网络接口A相似的请求和返回参数，则很大程度可以认为网络接口B也可能存在类似的安全风险。当面对数以亿计的网络接口流量时，本公开实施例提供的文本相似性度量方法能快速完成该度量任务。其中，设定数值可以根据实际情况进行设置，例如： 80％或者90％。
在本公开的一个实施例中，再提供一种文本相似性度量方法的应用场景。具体的，获取白盒安全测试得到的任意一个测试结果，作为所述第一文本字符串；获取统一资源定位系统URL接口信息，作为所述第二文本字符串；根据所述第一文本字符串和所述第二文本字符串的相似性，确定所述测试结果对应的URL接口信息。
在本公开实施例中，网络安全领域会有很多自动化工具进行风险扫描，也会有不少人工测试验证。进行风险扫描的自动化工具包括：基于应用程序源代码的数据流依赖识别潜在漏洞风险的白盒安全测试；模仿各种技能水平黑客从外部发起数据请求的黑盒安全测试；还有人为挖掘的安全漏洞。为了尽可能大的提高自动化工具之间，以及自动化工具与人工之间的效率。至少需要将各维度测试结果在URL接口维度打通。但白盒安全测试基于应用程序仓库源代码，难以直接获取URL 维度的接口信息。
在本公开实施例中，上述测试结果是指白盒安全测试扫描的仓库、路由、文件、源代码等任意一个信息的测试结果，作为第一文本字符串，获取URL维度的路径、请求体、响应体等信息作为第二文本字符串，采用上述实施例中提供的文本相似性度量方式计算第一文本字符串和第二文本字符串之间的相似性。如果第一文本字符串和第二文本字符串之间的相似性超过设定数值，则可以认为作为第二文本字符串的URL维度信息与测试结果具备对应关系，建立两者之间的相似性关联关系。
图9为本公开实施例中的一种文本相似性度量装置的结构示意图，本实施例可适用于计算两个文本相似性的情况，该文本相似性度量装置可以采用软件和/或硬件的方式实现。
如图9所示，本公开实施例提供的文本相似性度量装置90主要包括：文本字符串获取模块91，采样字符串确定模块92、距离矩阵计算模块93和文本相似性度量模块94。
其中，文本字符串获取模块91，用于获取第一文本字符串和第二文本字符串；采样字符串确定模块92，用于基于所述第一文本字符串和所述第二文本字符串构建两者的联合概率分布，并对所述联合概率分布进行采样得到采样字符串；距离矩阵计算模块93，用于计算所述第一文本字符串到所述采样字符串的距离得到第一距离矩阵，以及，计算所述第二文本字符串到所述采样字符串的距离得到第二距离矩阵；文本相似性度量模块94，用于基于所述第一距离矩阵和第二距离矩阵确定所述第一文本字符串和所述第二文本字符串的相似性。
在本公开的一个实施方式中，采用编辑距离计算算法计算所述第一距离矩阵和所述第二距离矩阵，所述第一距离矩阵用于表征所述第一文本字符串到所述采样字符串的编辑距离；所述第二距离矩阵用于表征所述第二文本字符串到所述采样字符串的编辑距离。
在本公开的一个实施方式中，文本相似性度量模块94包括：第一距离表示向量提取单元，用于对所述第一距离矩阵进行特征提取得到第一距离表示向量，所述第一距离表示向量包括第一距离矩阵对应的列表示向量、对角表示向量和行表示向量；第二距离表示向量提取单元，用于对所述第二距离矩阵进行特征提取得到第二距离表示向量，所述第二距离表示向量包括第二距离矩阵对应的列表示向量、对角表示向量和行表示向量；文本相似性计算单元，用于计算所述第一距离表示向量和所述第二距离表示向量的向量相似性，作为所述第一字符串和所述第二文本字符串的相似性。
在本公开的一个实施方式中，所述特征提取包括：抽取距离矩阵中最后一行序列作为行表示向量；抽取距离矩阵中最后一列序列作为列表示向量；抽取距离矩阵中对角序列作为对角表示向量。
在本公开的一个实施方式中，采样字符串确定模块92，具体用于基于预设采样比例对所述联合概率分布进行随机下采样得到采样字符串，所述预设采样比例与文本字符串长度成反比。
在本公开的一个实施方式中，采用欧氏距离或者余弦相似度确定所述向量相似度。
在本公开的一个实施方式中，所述装置还包括：所述第一文本字符串确定模块，用于获取第一网络接口传输的请求响应数据，作为所述第一文本字符串；第二文本字符串确定模块，用于获取第二网络接口传输的请求响应数据，作为所述第二文本字符串；安全风险类似确定模块，用于根据所述第一文本字符串和所述第二文本字符串的相似性，确定所述第一网络接口和所述第二网络接口是否存在类似安全风险。
在本公开的一个实施方式中，所述第一文本字符串确定模块，还用于获取白盒安全测试得到的测试结果，作为所述第一文本字符串；所述第二文本字符串确定模块，还用于获取统一资源定位系统URL接口信息，作为所述第二文本字符串；对应关系确定模块，用于根据所述第一文本字符串和所述第二文本字符串的相似性，确定所述测试结果对应的URL接口信息。
本公开实施例提供的文本相似性度量装置，可执行本公开方法实施例所提供的文本相似性度量方法中所执行的步骤，具备执行步骤和有益效果此处不再赘述。
图10为本公开实施例中的一种电子设备的结构示意图。下面具体参考图10，其示出了适于用来实现本公开实施例中的电子设备1000 的结构示意图。本公开实施例中的电子设备1000可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、 PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)、可穿戴终端设备等等的移动终端以及诸如数字TV、台式计算机、智能家居设备等等的固定终端。图10示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
如图10所示，电子设备1000可以包括处理装置(例如中央处理器、图形处理器等)1001，其可以根据存储在只读存储器(ROM)1002 中的程序或者从存储装置1008加载到随机访问存储器(RAM)1003 中的程序而执行各种适当的动作和处理以实现如本公开所述的实施例的文本相似性度量方法。在RAM 1003中，还存储有终端设备1000操作所需的各种程序和数据。处理装置1001、ROM 1002以及RAM 1003 通过总线1004彼此相连。输入/输出(I/O)接口1005也连接至总线1004。
通常，以下装置可以连接至I/O接口1005：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置1006；包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置1007；包括例如磁带、硬盘等的存储装置1008；以及通信装置1009。通信装置1009可以允许终端设备1000与其他设备进行无线或有线通信以交换数据。虽然图10示出了具有各种装置的终端设备1000，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在非暂态计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码，从而实现如上所述的文本相似性度量方法。在这样的实施例中，该计算机程序可以通过通信装置1009从网络上被下载和安装，或者从存储装置1008被安装，或者从ROM 1002被安装。在该计算机程序被处理装置1001执行时，执行本公开实施例的方法中限定的上述功能。
需要说明的是，本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。
在一些实施方式中，客户端、服务器可以利用诸如HTTP (HyperText TransferProtocol，超文本传输协议)之类的任何待测已知或未来研发的网络协议进行通信，并且可以与任意形式或介质的数字数据通信(例如，通信网络)互连。通信网络的示例包括局域网(“LAN”)，广域网(“WAN”)，网际网(例如，互联网)以及端对端网络(例如， ad hoc端对端网络)，以及任何待测已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该终端设备执行时，使得该终端设备：获取第一文本字符串和第二文本字符串；基于第一文本字符串和第二文本字符串构建两者的联合概率分布，并对联合概率分布进行采样得到采样字符串；计算第一文本字符串到采样字符串的距离得到第一距离矩阵，以及，计算第二文本字符串到采样字符串的距离得到第二距离矩阵；基于第一距离矩阵和第二距离矩阵确定第一文本字符串和第二文本字符串的相似性。
可选的，当上述一个或者多个程序被该终端设备执行时，该终端设备还可以执行上述实施例所述的其他步骤。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网 (WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，单元的名称在某种情况下并不构成对该单元本身的限定。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD) 等等。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
根据本公开的一个或多个实施例，本公开提供了一种文本相似性度量方法，包括：获取第一文本字符串和第二文本字符串；基于第一文本字符串和第二文本字符串构建两者的联合概率分布，并对联合概率分布进行采样得到采样字符串；计算第一文本字符串到采样字符串的距离得到第一距离矩阵，以及，计算第二文本字符串到采样字符串的距离得到第二距离矩阵；基于第一距离矩阵和第二距离矩阵确定第一文本字符串和第二文本字符串的相似性。
根据本公开的一个或多个实施例，本公开提供了一种文本相似性度量装置，包括：文本字符串获取模块，用于获取第一文本字符串和第二文本字符串；采样字符串确定模块，用于基于所述第一文本字符串和所述第二文本字符串构建两者的联合概率分布，并对所述联合概率分布进行采样得到采样字符串；距离矩阵计算模块，用于计算所述第一文本字符串到所述采样字符串的距离得到第一距离矩阵，以及，计算所述第二文本字符串到所述采样字符串的距离得到第二距离矩阵；文本相似性度量模块，用于基于所述第一距离矩阵和第二距离矩阵确定所述第一文本字符串和所述第二文本字符串的相似性。
根据本公开的一个或多个实施例，本公开提供了一种电子设备，包括：
一个或多个处理器；
存储器，用于存储一个或多个程序；
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如本公开提供的任一所述的文本相似性度量方法。
根据本公开的一个或多个实施例，本公开提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本公开提供的任一所述的文本相似性度量方法。
本公开实施例还提供了一种计算机程序产品，该计算机程序产品包括计算机程序或指令，该计算机程序或指令被处理器执行时实现如上所述的文本相似性度量方法。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的公开范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述公开构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外，虽然采用特定次序描绘了各操作，但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下，多任务和并行处理可能是有利的。同样地，虽然在上面论述中包含了若干具体实现细节，但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地，在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题，但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反，上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。
Claims (12)
1.一种文本相似性度量方法，其特征在于，所述方法包括：
获取第一文本字符串和第二文本字符串；
基于所述第一文本字符串和所述第二文本字符串构建两者的联合概率分布，并对所述联合概率分布进行采样得到采样字符串；
计算所述第一文本字符串到所述采样字符串的距离得到第一距离矩阵，以及，计算所述第二文本字符串到所述采样字符串的距离得到第二距离矩阵；
基于所述第一距离矩阵和第二距离矩阵确定所述第一文本字符串和所述第二文本字符串的相似性。
2.根据权利要求1所述的方法，其特征在于，采用编辑距离计算算法计算所述第一距离矩阵和所述第二距离矩阵，所述第一距离矩阵用于表征所述第一文本字符串到所述采样字符串的编辑距离；所述第二距离矩阵用于表征所述第二文本字符串到所述采样字符串的编辑距离。
3.根据权利要求2所述的方法，其特征在于，所述基于所述第一距离矩阵和第二距离矩阵确定所述第一文本字符串和所述第二文本字符串的相似性，包括：
对所述第一距离矩阵进行特征提取得到第一距离表示向量，所述第一距离表示向量包括第一距离矩阵对应的列表示向量、对角表示向量和行表示向量；
对所述第二距离矩阵进行特征提取得到第二距离表示向量，所述第二距离表示向量包括第二距离矩阵对应的列表示向量、对角表示向量和行表示向量；
计算所述第一距离表示向量和所述第二距离表示向量的向量相似性，作为所述第一字符串和所述第二文本字符串的相似性。
4.根据权利要求3所述的方法，其特征在于，所述特征提取包括：
抽取距离矩阵中最后一行序列作为行表示向量；
抽取距离矩阵中最后一列序列作为列表示向量；
抽取距离矩阵中对角序列作为对角表示向量。
5.根据权利要求1至4中任一项所述的方法，其特征在于，所述对所述联合概率分布进行采样得到采样字符串，包括：
基于预设采样比例对所述联合概率分布进行随机下采样得到采样字符串，所述预设采样比例与文本字符串长度成反比。
6.根据权利要求3或4所述的方法，其特征在于，采用欧氏距离或者余弦相似度确定所述向量相似度。
7.根据权利要求1所述方法，其特征在于，所述方法还包括：
获取第一网络接口传输的请求响应数据，作为所述第一文本字符串；
获取第二网络接口传输的请求响应数据，作为所述第二文本字符串；
根据所述第一文本字符串和所述第二文本字符串的相似性，确定所述第一网络接口和所述第二网络接口是否存在类似安全风险。
8.根据权利要求1所述方法，其特征在于，所述方法还包括：
获取白盒安全测试得到的测试结果，作为所述第一文本字符串；
获取统一资源定位系统URL接口信息，作为所述第二文本字符串；
根据所述第一文本字符串和所述第二文本字符串的相似性，确定所述测试结果对应的URL接口信息。
9.一种文本相似性度量装置，其特征在于，所述装置包括：
文本字符串获取模块，用于获取第一文本字符串和第二文本字符串；
采样字符串确定模块，用于基于所述第一文本字符串和所述第二文本字符串构建两者的联合概率分布，并对所述联合概率分布进行采样得到采样字符串；
距离矩阵计算模块，用于计算所述第一文本字符串到所述采样字符串的距离得到第一距离矩阵，以及，计算所述第二文本字符串到所述采样字符串的距离得到第二距离矩阵；
文本相似性度量模块，用于基于所述第一距离矩阵和第二距离矩阵确定所述第一文本字符串和所述第二文本字符串的相似性。
10.一种电子设备，其特征在于，所述电子设备包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序；
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-8中任一项所述的方法。
11.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-8中任一项所述的方法。
12.一种计算机程序产品，该计算机程序产品包括计算机程序或指令，该计算机程序或指令被处理器执行时实现如权利要求1-8中任一项所述的方法。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211274116.5A CN115640523A (zh) | 2022-10-18 | 2022-10-18 | 文本相似性度量方法、装置、设备、存储介质和程序产品 |
| PCT/CN2023/115292 WO2024082827A1 (zh) | 2022-10-18 | 2023-08-28 | 文本相似性度量方法、装置、设备、存储介质和程序产品 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211274116.5A CN115640523A (zh) | 2022-10-18 | 2022-10-18 | 文本相似性度量方法、装置、设备、存储介质和程序产品 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN115640523A true CN115640523A (zh) | 2023-01-24 |
Family
ID=84945375
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202211274116.5A Pending CN115640523A (zh) | 2022-10-18 | 2022-10-18 | 文本相似性度量方法、装置、设备、存储介质和程序产品 |
Country Status (2)
| Country | Link |
|---|---|
| CN (1) | CN115640523A (zh) |
| WO (1) | WO2024082827A1 (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2024082827A1 (zh) * | 2022-10-18 | 2024-04-25 | 抖音视界有限公司 | 文本相似性度量方法、装置、设备、存储介质和程序产品 |
Family Cites Families (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103399907A (zh) * | 2013-07-31 | 2013-11-20 | 深圳市华傲数据技术有限公司 | 一种基于编辑距离计算中文字符串相似度的方法及装置 |
| US11222054B2 (en) * | 2018-03-12 | 2022-01-11 | International Business Machines Corporation | Low-complexity methods for assessing distances between pairs of documents |
| CN114692594A (zh) * | 2022-04-18 | 2022-07-01 | 上海喜马拉雅科技有限公司 | 文本相似度识别方法、装置、电子设备及可读存储介质 |
| CN115640523A (zh) * | 2022-10-18 | 2023-01-24 | 抖音视界有限公司 | 文本相似性度量方法、装置、设备、存储介质和程序产品 |
-
2022
- 2022-10-18 CN CN202211274116.5A patent/CN115640523A/zh active Pending
-
2023
- 2023-08-28 WO PCT/CN2023/115292 patent/WO2024082827A1/zh unknown
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2024082827A1 (zh) * | 2022-10-18 | 2024-04-25 | 抖音视界有限公司 | 文本相似性度量方法、装置、设备、存储介质和程序产品 |
Also Published As
| Publication number | Publication date |
|---|---|
| WO2024082827A1 (zh) | 2024-04-25 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11501182B2 (en) | Method and apparatus for generating model | |
| US11232140B2 (en) | Method and apparatus for processing information | |
| CN110647614B (zh) | 智能问答方法、装置、介质及电子设备 | |
| US11544474B2 (en) | Generation of text from structured data | |
| CN111274815B (zh) | 用于挖掘文本中的实体关注点的方法和装置 | |
| CN111159220B (zh) | 用于输出结构化查询语句的方法和装置 | |
| CN112131881B (zh) | 信息抽取方法及装置、电子设备、存储介质 | |
| CN114861889B (zh) | 深度学习模型的训练方法、目标对象检测方法和装置 | |
| CN113407814B (zh) | 文本搜索方法、装置、可读介质及电子设备 | |
| CN110738056B (zh) | 用于生成信息的方法和装置 | |
| CN111368551A (zh) | 一种确定事件主体的方法和装置 | |
| CN114385780A (zh) | 程序接口信息推荐方法、装置、电子设备和可读介质 | |
| CN114330343A (zh) | 词性感知嵌套命名实体识别方法、系统、设备和存储介质 | |
| WO2024082827A1 (zh) | 文本相似性度量方法、装置、设备、存储介质和程序产品 | |
| CN115759254A (zh) | 基于知识增强生成式语言模型的问答方法、系统及介质 | |
| CN115438149A (zh) | 一种端到端模型训练方法、装置、计算机设备及存储介质 | |
| CN116383412B (zh) | 基于知识图谱的功能点扩增方法和系统 | |
| CN112231444A (zh) | 结合rpa和ai的语料数据的处理方法、装置和电子设备 | |
| CN111191242A (zh) | 漏洞信息确定方法、装置、计算机可读存储介质及设备 | |
| CN111459959B (zh) | 用于更新事件集合的方法和装置 | |
| CN114490946A (zh) | 基于Xlnet模型的类案检索方法、系统及设备 | |
| CN114238564A (zh) | 一种信息检索方法、装置、电子设备及存储介质 | |
| CN109857838B (zh) | 用于生成信息的方法和装置 | |
| CN111382557A (zh) | 非定长输入数据的批量处理方法、装置、终端及存储介质 | |
| CN110990528A (zh) | 一种问答方法、装置及电子设备 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |