CN116719999A - 文本相似度检测方法和装置、电子设备及存储介质 - Google Patents

文本相似度检测方法和装置、电子设备及存储介质 Download PDF

Info

Publication number
CN116719999A
CN116719999A CN202310720391.3A CN202310720391A CN116719999A CN 116719999 A CN116719999 A CN 116719999A CN 202310720391 A CN202310720391 A CN 202310720391A CN 116719999 A CN116719999 A CN 116719999A
Authority
CN
China
Prior art keywords
text
sentence
word
data
candidate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310720391.3A
Other languages
English (en)
Inventor
刘杰
王健宗
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Technology Shenzhen Co Ltd
Original Assignee
Ping An Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Technology Shenzhen Co Ltd filed Critical Ping An Technology Shenzhen Co Ltd
Priority to CN202310720391.3A priority Critical patent/CN116719999A/zh
Publication of CN116719999A publication Critical patent/CN116719999A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/95—Retrieval from the web
    • G06F16/953—Querying, e.g. by the use of web search engines
    • G06F16/9535—Search customisation based on user profiles and personalisation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/22—Matching criteria, e.g. proximity measures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/279—Recognition of textual entities
    • G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/06—Buying, selling or leasing transactions
    • G06Q30/0601—Electronic shopping [e-shopping]
    • G06Q30/0631—Item recommendations
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Abstract

本申请提供了一种文本相似度检测方法和装置、电子设备及存储介质，属于金融科技领域。方法包括：基于第一句权重数据、第二句权重数据，得到第一文本的第一候选文本句子、第二文本的第二候选文本句子；基于第一句权重数据和第一词语权重数据从第一候选文本句子中提取出第一候选词语，基于第二句权重数据和第二词语权重数据从第二候选文本句子中提取出第二候选词语；基于第一候选词语构建第一目标句向量和第一关键词向量，基于第二候选词语构建第二目标句向量和第二关键词向量；基于第一目标句向量、第一关键词向量、第二目标句向量和第二关键词向量检测第一文本和第二文本之间的相似度，得到文本检测数据。本申请能提高文本相似度检测准确性。

Description

文本相似度检测方法和装置、电子设备及存储介质
技术领域
本申请涉及金融科技领域，尤其涉及一种文本相似度检测方法和装置、电子设备及存储介质。
背景技术
随着科学技术的发展，获取数据并利用数据建模以解决相应的问题，已是非常常见的技术手段。例如，各电商平台会收集用户的商品浏览记录等数据，并根据收集的数据构建商品推荐模型，以向用户推荐商品。
为了提高商品推荐效率，各电商平台会利用不同用户的商品浏览记录之间的相似程度，将推荐给某个用户的商品继续推荐给与该用户的商品浏览记录的相似程度较高的另一用户，实现商品的交叉推荐。这一过程常常较大程度的依赖于用户的商品浏览记录等文本数据的相似度。
目前，对于文本的相似度检测常常需要依赖于神经网络模型来实现，而神经网络模型的检测精度常常会受限于文本的篇幅长度。例如，大多数神经网络模型针对篇幅较少的文本能够体现较好的检测效果，而针对篇幅较长的文本则往往无法较为准确性地检测文本之间的相似程度，因此，如何提高文本相似度检测的准确性，成为了亟待解决的问题。
发明内容
本申请实施例的主要目的在于提出一种文本相似度检测方法和装置、电子设备及存储介质，旨在提高文本相似度检测的准确性。
为实现上述目的，本申请实施例的第一方面提出了一种文本相似度检测方法，所述方法包括：
获取第一文本和第二文本；
对所述第一文本进行文本拆分得到多个第一原始文本句子，并对所述第二文本进行文本拆分得到多个第二原始文本句子；
基于预设的第一句权重数据对所述第一原始文本句子进行筛选得到第一候选文本句子，并基于预设的第二句权重数据对所述第二原始文本句子进行筛选得到第二候选文本句子；
对所述第一候选文本句子进行分词得到多个第一文本词语，对所述第二候选文本句子进行分词得到多个第二文本词语；
基于所述第一句权重数据和预设的第一词语权重数据对所述第一文本词语进行筛选得到第一候选词语，并基于所述第二句权重数据和预设的第二词语权重数据对所述第二文本词语进行筛选得到第二候选词语；
基于所述第一候选词语为所述第一文本构建第一目标句向量和第一关键词向量，并基于所述第二候选词语为所述第二文本构建第二目标句向量和第二关键词向量；
基于所述第一目标句向量、所述第一关键词向量、所述第二目标句向量和所述第二关键词向量检测所述第一文本和所述第二文本之间的相似度，得到文本检测数据；其中，所述文本检测数据用于表示所述第一文本和所述第二文本之间的文本内容的相似程度。
在一些实施例，所述基于预设的第一句权重数据对所述第一原始文本句子进行筛选得到第一候选文本句子，并基于预设的第二句权重数据对所述第二原始文本句子进行筛选得到第二候选文本句子，包括：
基于预设算法计算每个所述第一原始文本句子的第一句权重数据，并选取所述第一句权重数据最大的预定数目个第一原始文本句子作为所述第一候选文本句子；
基于所述预设算法计算每个所述第二原始文本句子的第二句权重数据，并选取所述第二句权重数据最大的预定数目个第二原始文本句子作为所述第二候选文本句子。
在一些实施例，所述基于所述第一句权重数据和预设的第一词语权重数据对所述第一文本词语进行筛选得到第一候选词语，并基于所述第二句权重数据和预设的第二词语权重数据对所述第二文本词语进行筛选得到第二候选词语，包括：
针对每个所述第一文本词语，对所述第一文本词语所处的第一候选句子的第一句权重数据和所述第一文本词语的第一词语权重数据进行加权计算，得到所述第一文本词语的第一目标权重数据；
基于所述第一目标权重数据对所述第一文本词语进行筛选，得到所述第一候选词语；
针对每个所述第二文本词语，对所述第二文本词语所处的第二候选句子的第二句权重数据和所述第二文本词语的第二词语权重数据进行加权计算，得到所述第二文本词语的第二目标权重数据；
基于所述第二目标权重数据对所述第二文本词语进行筛选，得到所述第二候选词语。
在一些实施例，所述基于所述第一候选词语为所述第一文本构建第一目标句向量和第一关键词向量，并基于所述第二候选词语为所述第二文本构建第二目标句向量和第二关键词向量，包括：
对所有所述第一候选词语进行拼接得到第一目标句子，并对所有所述第二候选词语进行拼接得到第二目标句子；
对所述第一目标句子进行嵌入处理得到所述第一目标句向量，并对所述第二目标句子进行嵌入处理得到所述第二目标句向量；
根据预设的分隔符对所述第一目标句子和所述第二目标句子进行句子合并，得到合并文本句子，其中，所述合并文本句子中处于所述分隔符之前的句子内容来源于所述第一目标句子，处于所述分隔符之后的句子内容来源于所述第二目标句子；
对所述合并文本句子进行关键词提取，得到第一关键词组和第二关键词组；
对所述第一关键词组进行嵌入处理得到所述第一关键词向量，并对所述第二关键词组进行嵌入处理得到所述第二关键词向量。
在一些实施例，所述对所述合并文本句子进行关键词提取，得到第一关键词组和第二关键词组，包括：
基于预设算法对所述合并文本句子的文本词组进行重要性评分，得到每个文本词组的重要性评分数据；
基于所述重要性评分数据对所述合并文本句子中处于所述分隔符之前的文本词组进行筛选，提取所述重要性评分数据最高的文本词组作为所述第一关键词组；
基于所述重要性评分数据对所述合并文本句子中处于所述分隔符之后的文本词组进行筛选，提取所述重要性评分数据最高的文本词组作为所述第二关键词组。
在一些实施例，所述基于所述第一目标句向量、所述第一关键词向量、所述第二目标句向量和所述第二关键词向量检测所述第一文本和所述第二文本之间的相似度，得到文本检测数据，包括：
对所述第一目标句向量和所述第二目标句向量进行相似度评分，得到第一评分数据；
对所述第一关键词向量和所述第二关键词向量进行相似度评分，得到第二评分数据；
基于所述第一评分数据和所述第二评分数据，得到所述文本检测数据。
在一些实施例，所述基于所述第一评分数据和所述第二评分数据，得到所述文本检测数据，包括：
对所述第一评分数据和所述第二评分数据进行加权和运算，得到目标评分数据；
若所述目标评分数据大于预设阈值，则将所述文本检测数据确定为所述第一文本和所述第二文本的文本内容相似；
若所述目标评分数据不大于预设阈值，则将所述文本检测数据确定为所述第一文本和所述第二文本的文本内容不相似。
为实现上述目的，本申请实施例的第二方面提出了一种文本相似度检测装置，所述装置包括：
文本获取模块，用于获取第一文本和第二文本；
文本拆分模块，用于对所述第一文本进行文本拆分得到多个第一原始文本句子，并对所述第二文本进行文本拆分得到多个第二原始文本句子；
句子筛选模块，用于基于预设的第一句权重数据对所述第一原始文本句子进行筛选得到第一候选文本句子，并基于预设的第二句权重数据对所述第二原始文本句子进行筛选得到第二候选文本句子；
分词模块，用于对所述第一候选文本句子进行分词得到多个第一文本词语，对所述第二候选文本句子进行分词得到多个第二文本词语；
词语筛选模块，用于基于所述第一句权重数据和预设的第一词语权重数据对所述第一文本词语进行筛选得到第一候选词语，并基于所述第二句权重数据和预设的第二词语权重数据对所述第二文本词语进行筛选得到第二候选词语；
句子和词组构建模块，用于基于所述第一候选词语为所述第一文本构建第一目标句向量和第一关键词向量，并基于所述第二候选词语为所述第二文本构建第二目标句向量和第二关键词向量；
相似度检测模块，用于基于所述第一目标句向量、所述第一关键词向量、所述第二目标句向量和所述第二关键词向量检测所述第一文本和所述第二文本之间的相似度，得到文本检测数据；其中，所述文本检测数据用于表示所述第一文本和所述第二文本之间的文本内容的相似程度。
为实现上述目的，本申请实施例的第三方面提出了一种电子设备，所述电子设备包括存储器、处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时实现上述第一方面所述的方法。
为实现上述目的，本申请实施例的第四方面提出了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述第一方面所述的方法。
本申请提出的文本相似度检测方法、文本相似度检测装置、电子设备及存储介质，其通过获取第一文本和第二文本；对第一文本、第二文本进行文本拆分得到多个第一原始文本句子和多个第二原始文本句子；基于预设的第一句权重数据对第一原始文本句子进行筛选得到第一候选文本句子，并基于预设的第二句权重数据对第二原始文本句子进行筛选得到第二候选文本句子；对第一候选文本句子、第二候选句子进行分词，得到多个第一文本词语和多个第二文本词语；基于第一句权重数据和预设的第一词语权重数据对第一文本词语进行筛选得到第一候选词语，并基于第二句权重数据和预设的第二词语权重数据对第二文本词语进行筛选得到第二候选词语；基于第一候选词语为第一文本构建第一目标句向量和第一关键词向量，并基于第二候选词语为第二文本构建第二目标句向量和第二关键词向量；最后，基于第一目标句向量、第一关键词向量、第二目标句向量和第二关键词向量检测第一文本和第二文本之间的相似度，得到文本检测数据，这一方式能够同时在句子级别以及词语级别上来对第一文本和第二文本之间的相似程度进行检测，能够提高相似度检测的多样性以及文本相似度检测的准确性，进而根据不同对象的商品浏览记录、查询记录等文本数据之间的相似度进行商品推荐，能根据相似度确定不同对象的兴趣偏好相近程度，将推荐给某个对象的商品再次推荐给兴趣偏好较为相似的另一对象，能有效地提高商品推荐效率和商品推荐准确性，也有利于提高保险产品、理财产品等金融类产品的成交率。
附图说明
图1是本申请实施例提供的文本相似度检测方法的流程图；
图2是图1中的步骤S103的流程图；
图3是图1中的步骤S105的流程图；
图4是图1中的步骤S106的流程图；
图5是图4中的步骤S404的流程图；
图6是图1中的步骤S107的流程图；
图7是图6中的步骤S603的流程图；
图8是本申请实施例提供的文本相似度检测装置的结构示意图；
图9是本申请实施例提供的电子设备的硬件结构示意图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本申请，并不用于限定本申请。
需要说明的是，虽然在装置示意图中进行了功能模块划分，在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于装置中的模块划分，或流程图中的顺序执行所示出或描述的步骤。说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。
除非另有定义，本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同。本文中所使用的术语只是为了描述本申请实施例的目的，不是旨在限制本申请。
首先，对本申请中涉及的若干名词进行解析：
人工智能(artificial intelligence，AI)：是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学；人工智能是计算机科学的一个分支，人工智能企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器，该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。人工智能可以对人的意识、思维的信息过程的模拟。人工智能还是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
自然语言处理(natural language processing，NLP)：NLP用计算机来处理、理解以及运用人类语言(如中文、英文等)，NLP属于人工智能的一个分支，是计算机科学与语言学的交叉学科，又常被称为计算语言学。自然语言处理包括语法分析、语义分析、篇章理解等。自然语言处理常用于机器翻译、手写体和印刷体字符识别、语音识别及文语转换、信息意图识别、信息抽取与过滤、文本分类与聚类、舆情分析和观点挖掘等技术领域，它涉及与语言处理相关的数据挖掘、机器学习、知识获取、知识工程、人工智能研究和与语言计算相关的语言学研究等。
信息抽取(Information Extraction，NER)：从自然语言文本中抽取指定类型的实体、关系、事件等事实信息，并形成结构化数据输出的文本处理技术。信息抽取是从文本数据中抽取特定信息的一种技术。文本数据是由一些具体的单位构成的，例如句子、段落、篇章，文本信息正是由一些小的具体的单位构成的，例如字、词、词组、句子、段落或是这些具体的单位的组合。抽取文本数据中的名词短语、人名、地名等都是文本信息抽取，当然，文本信息抽取技术所抽取的信息可以是各种类型的信息。
随着科学技术的发展，获取数据并利用数据建模以解决相应的问题，已是非常常见的技术手段。例如，各电商平台会收集用户的商品浏览记录等数据，并根据收集的数据构建商品推荐模型，以向用户推荐商品。
为了提高商品推荐效率，各电商平台会利用不同用户的商品浏览记录之间的相似程度，将推荐给某个用户的商品继续推荐给与该用户的商品浏览记录的相似程度较高的另一用户，实现商品的交叉推荐。这一过程常常较大程度的依赖于用户的商品浏览记录等文本数据的相似度。
例如，在保险推荐过程中，获取对象A和对象B的保险咨询文本，比较对象A和对象B的保险咨询文本的文本相似度，若对象A和对象B的保险咨询文本的文本相似度高于预设阈值，则表明对象A和对象B对于保险产品的需求较为类似，因此可以将推荐给对象A的保险产品直接推荐给对象B，以提高保险产品的推荐效率和推荐准确性。
目前，对于文本的相似度检测常常需要依赖于神经网络模型来实现，而神经网络模型的检测精度常常会受限于文本的篇幅长度。例如，大多数神经网络模型针对篇幅较少的文本能够体现较好的检测效果，而针对篇幅较长的文本则往往无法较为准确性地检测文本之间的相似程度，因此，如何提高文本相似度检测的准确性，成为了亟待解决的问题。
基于此，本申请实施例提供了一种文本相似度检测方法、文本相似度检测装置、电子设备及存储介质，旨在提高文本相似度检测的准确性。
本申请实施例提供的文本相似度检测方法和装置、电子设备及存储介质，具体通过如下实施例进行说明，首先描述本申请实施例中的文本相似度检测方法。
本申请实施例可以基于人工智能技术对相关的数据进行获取和处理。其中，人工智能(Artificial Intelligence，AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
本申请实施例提供的文本相似度检测方法，涉及人工智能技术领域。本申请实施例提供的文本相似度检测方法可应用于终端中，也可应用于服务器端中，还可以是运行于终端或服务器端中的软件。在一些实施例中，终端可以是智能手机、平板电脑、笔记本电脑、台式计算机等；服务器端可以配置成独立的物理服务器，也可以配置成多个物理服务器构成的服务器集群或者分布式系统，还可以配置成提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN以及大数据和人工智能平台等基础云计算服务的云服务器；软件可以是实现文本相似度检测方法的应用等，但并不局限于以上形式。
本申请可用于众多通用或专用的计算机系统环境或配置中。例如：个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、多处理器系统、基于微处理器的系统、置顶盒、可编程的消费电子设备、网络PC、小型计算机、大型计算机、包括以上任何系统或设备的分布式计算环境等等。本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
图1是本申请实施例提供的文本相似度检测方法的一个可选的流程图，图1中的方法可以包括但不限于包括步骤S101至步骤S107。
步骤S101，获取第一文本和第二文本；
步骤S102，对第一文本进行文本拆分得到多个第一原始文本句子，并对第二文本进行文本拆分得到多个第二原始文本句子；
步骤S103，基于预设的第一句权重数据对第一原始文本句子进行筛选得到第一候选文本句子，并基于预设的第二句权重数据对第二原始文本句子进行筛选得到第二候选文本句子；
步骤S104，对第一候选文本句子进行分词得到多个第一文本词语，对第二候选文本句子进行分词得到多个第二文本词语；
步骤S105，基于第一句权重数据和预设的第一词语权重数据对第一文本词语进行筛选得到第一候选词语，并基于第二句权重数据和预设的第二词语权重数据对第二文本词语进行筛选得到第二候选词语；
步骤S106，基于第一候选词语为第一文本构建第一目标句向量和第一关键词向量，并基于第二候选词语为第二文本构建第二目标句向量和第二关键词向量；
步骤S107，基于第一目标句向量、第一关键词向量、第二目标句向量和第二关键词向量检测第一文本和第二文本之间的相似度，得到文本检测数据。
本申请实施例所示意的步骤S101至步骤S107，通过获取第一文本和第二文本；对第一文本、第二文本进行文本拆分得到多个第一原始文本句子和多个第二原始文本句子；基于预设的第一句权重数据对第一原始文本句子进行筛选得到第一候选文本句子，并基于预设的第二句权重数据对第二原始文本句子进行筛选得到第二候选文本句子；对第一候选文本句子、第二候选句子进行分词，得到多个第一文本词语和多个第二文本词语；基于第一句权重数据和预设的第一词语权重数据对第一文本词语进行筛选得到第一候选词语，并基于第二句权重数据和预设的第二词语权重数据对第二文本词语进行筛选得到第二候选词语；基于第一候选词语为第一文本构建第一目标句向量和第一关键词向量，并基于第二候选词语为第二文本构建第二目标句向量和第二关键词向量；最后，基于第一目标句向量、第一关键词向量、第二目标句向量和第二关键词向量检测第一文本和第二文本之间的相似度，得到文本检测数据，这一方式能够同时在句子级别以及词语级别上来对第一文本和第二文本之间的相似程度进行检测，能够提高相似度检测的多样性以及文本相似度检测的准确性。
在一些实施例的步骤S101中，可以通过编写网络爬虫,设置好数据源之后进行有目标性地爬取数据，得到第一文本和第二文本，也可以是通过网络平台下载第一文本和第二文本，或者是从预设的文本数据库中提取第一文本和第二文本，还可以通过其他方式获取第一文本和第二文本，不限于此。其中，第一文本和第二文本包括各种业务领域的文本数据，例如，经济金融类文本、日常生活类文本、医疗疾病类文本、体育赛事类文本、评论文本数据、问题文本数据等等，不做限制。
在金融领域中，第一文本和第二文本可以是保险产品、理财产品的产品咨询文本，也可以是办理某一些金融业务的咨询文本，还可以是其他包含有金融业务需求的文本数据，不做限制。
在一些实施例的步骤S102中，在对第一文本进行文本拆分得到多个第一原始文本句子，并对第二文本进行文本拆分得到多个第二原始文本句子时，可以根据预设的正则表达式进行文本分句，即将第一文本和第二文本转换成字符串的形式，将每个字符串与预设的正则表达式进行匹配，根据匹配情况来确定第一文本和第二文本的分句位置，在分句位置将第一文本和第二文本进行文本拆成。例如，在字符串满足正则表达式的格式要求时，确定该字符串的末尾位置为分句位置。此外，还可以依据预设的文本拆分规则进行文本拆分，具体地，首先将第一文本和第二文本的引号部分内容替换为其他固定字符，再根据第一文本、第二文本中的句号、问号、感叹号、省略号的所在位置进行文本分句，在分句完成之后，将被替换为固定字符的引号部分内容进行内容还原，从而完成文本拆分，得到多个第一原始文本句子和多个第二原始文本句子。这一方式能够较为方便地将第一文本、第二文本拆分为句子，将文本级别的相似度检测转换为句子级别的相似度检测，能够实现文本检测的细粒度化，有利于改善检测准确性。
请参阅图2，在一些实施例中，步骤S103可以包括但不限于包括步骤S201至步骤S202：
步骤S201，基于预设算法计算每个第一原始文本句子的第一句权重数据，并选取第一句权重数据最大的预定数目个第一原始文本句子作为第一候选文本句子；
步骤S202，基于预设算法计算每个第二原始文本句子的第二句权重数据，并选取第二句权重数据最大的预定数目个第二原始文本句子作为第二候选文本句子。
在一些实施例的步骤S201中，预设算法可以是TextRank算法或者其他算法，不做限制。以TextRank算法为例，将第一文本的全部原始文本句子构成一个句子网络，每个原始文本句子作为一个句节点，句节点之间的链接表示句子与句子之间的语义关系，利用TextRank算法在该句子网络中计算每个第一原始文本句子的第一句权重数据的具体过程可以表示如公式(1)所示：
其中，WS(Vi)表示第一原始文本句子i的第一句权重数据；WS(Vj)表示第一原始文本句子j的第一句权重数据，该第一原始文本句子j的第一句权重数据可以在上一次迭代过程中得到；d表示阻尼系数，一般为0.85；In(Vi)是所有与第一原始文本句子i相邻的其他第一原始文本句子的集合；Out(Vj)是所有与第一原始文本句子j相邻的其他第一原始文本句子的集合；Wji是第一原始文本句子i与第一原始文本句子j的相似度，Wjk是第一原始文本句子j与第一原始文本句子k的相似度，其中，第一原始文本句子之间的相似度可以基于余弦相似度算法计算得到。
需要说明的是，在本申请实施例中，默认所有的第一原始文本句子都是相邻的。
当计算出每个第一原始文本句子的第一句权重数据之后，由于每个第一原始文本句子的第一句权重数据能够直观地反映出该第一原始文本句子在第一文本中的重要性，第一句权重数据越大，表明该第一原始文本句子数据越重要，因此，将第一句权重数据排在前预定数目的第一原始文本句子筛选出来，作为第一候选文本句子，该预定数目可以根据实际业务需求设置，不做限制。
在一些实施例的步骤S202中，基于预设算法计算每个第二原始文本句子的第二句权重数据，并选取第二句权重数据最大的预定数目个第二原始文本句子作为第二候选文本句子与上述步骤S201的实现过程类似，此处不再赘述。
通过上述步骤S201至步骤S202能够利用TextRank算法来计算出第一文本、第二文本中每个文本句子的句子权重，确定出第一文本、第二文本中较为重要的文本句子，选取出若干个重要性较高的文本句子作为第一候选文本句子、第二候选文本句子，使得能够利用具备代表性的文本句子来进行文本相似度检测，能提高文本相似度检测的合理性和准确性。
在一些实施例的步骤S104中，在对第一候选文本句子进行分词得到多个第一文本词语，对第二候选文本句子进行分词得到多个第二文本词语时，可以基于预设的Jieba分词器对第一候选文本句子、第二候选文本句子进行分词，依据第一候选文本句子中文本词语的词性类别等对句子进行分词，得到多个第一文本词语，并依据第二候选文本句子中文本词语的词性类别等对句子进行分词，得到多个第二文本词语，其中，词性类别包括修饰词、名词、动词、形容词、副词等等。这一方式能够较为方便地将第一候选文本句子、第二候选文本句子进拆分为文本词语，进一步地将句子级别的相似度检测转换为词语级别的相似度检测，能够实现文本检测的细粒度化，使得能够在句子层面以及词语层面两个层面上进行文本相似度检测，有利于改善检测准确性。
请参阅图3，在一些实施例中，步骤S105可以包括但不限于包括步骤S301至步骤S304：
步骤S301，针对每个第一文本词语，对第一文本词语所处的第一候选句子的第一句权重数据和第一文本词语的第一词语权重数据进行加权计算，得到第一文本词语的第一目标权重数据；
步骤S302，基于第一目标权重数据对第一文本词语进行筛选，得到第一候选词语；
步骤S303，针对每个第二文本词语，对第二文本词语所处的第二候选句子的第二句权重数据和第二文本词语的第二词语权重数据进行加权计算，得到第二文本词语的第二目标权重数据；
步骤S304，基于第二目标权重数据对第二文本词语进行筛选，得到第二候选词语。
在一些实施例的步骤S301中，针对每个第一文本词语，利用上述的TextRank算法对该第一文本词语进行词语权重计算，得到每个第一文本词语的第一词语权重数据，该计算过程与上述步骤S201类似，区别在于，步骤S201是将第一原始文本句子作为句子网络，以第一原始文本句子为节点，以两个第一原始文本句子的语义联系为边，以第一原始文本句子之间的相似度为边权重；而步骤S301则是以词语作为词网络，以第一文本词语为节点，以两个第一原始文本句子的语义联系为边，以第一原始文本句子之间的相似度为边权重，其实现过程与步骤S201的实现细节类似，不再赘述。此处，将针对每个第一文本词语，提取该第一文本词语所处的第一候选句子的第一句权重数据，将第一句权重数据与第一词语权重数据进行相乘，得到该第一文本词语的第一目标权重数据。
例如，第一原始文本句子i的第一句权重数据为0.35，第一原始文本句子j的第一句权重数据为0.3，第一原始文本句子i中的第一文本词语A、第一文本词语B的第一词语权重数据分别为0.44，0.2，第一原始文本句子j中的第一文本词语C、第一文本词语D的第一词语权重数据分别为0.12，0.33，则第一文本词语A的第一目标权重数据为0.35*0.44＝0.154，第一文本词语B的第一目标权重数据为0.35*0.2＝0.07，第一文本词语C的第一目标权重数据为0.3*0.12＝0.036，第一文本词语D的第一目标权重数据为0.3*0.33＝0.099。
在一些实施例的步骤S302中，由于第一目标权重数据能够反映每个第一文本词语对第一文本的重要程度，当第一目标权重数据越大，则第一文本词语的重要性越高，因此，根据第一目标数据，选取处于前m位的第一文本词语作为第一候选词语。
例如，前述的第一文本词语A、第一文本词语B、第一文本词语C、第一文本词语D的第一目标权重数据分别为0.154、0.07、0.036、0.099，因此，选取第一目标权重数据处于前2位的第一文本词语作为第一候选词语，则第一候选词语为第一文本词语A和第一文本词语D。
在一些实施例的步骤S303和步骤S304中，具体的第二文本词语的第二目标权重数据的计算过程以及词语筛选过程与步骤S301和步骤S302基本一致，此处不再赘述。
通过上述步骤S301至步骤S304能够较为方便地结合第一文本词语、第二文本词语所在候选句子的句权重数据以及其自身的词语权重数据，综合来确定每个第一文本词语、第二文本词语的最终权重数据，能够提高对第一文本词语、第二文本词语在文本中重要程度的判断准确性，有利于提高词语筛选的精度，使得筛选出的第一候选词语、第二候选词语能够更具备代表性，更能够反映文本的真实语义信息，从而提高文本相似度检测的准确性。
请参阅图4，在一些实施例中，步骤S106可以包括但不限于包括步骤S401至步骤S405：
步骤S401，对所有第一候选词语进行拼接得到第一目标句子，并对所有第二候选词语进行拼接得到第二目标句子；
步骤S402，对第一目标句子进行嵌入处理得到第一目标句向量，并对第二目标句子进行嵌入处理得到第二目标句向量；
步骤S403，根据预设的分隔符对第一目标句子和第二目标句子进行句子合并，得到合并文本句子，其中，合并文本句子中处于分隔符之前的句子内容来源于第一目标句子，处于分隔符之后的句子内容来源于第二目标句子；
步骤S404，对合并文本句子进行关键词提取，得到第一关键词组和第二关键词组；
步骤S405，对第一关键词组进行嵌入处理得到第一关键词向量，并对第二关键词组进行嵌入处理得到第二关键词向量。
在一些实施例的步骤S401中，根据每个第一候选词语在第一文本中出现的先后顺序，对所有第一候选词语进行拼接得到第一目标句子，得到第一目标句子，由于每个第一候选词语是在第一文本中重要程度较高的词语，因此，拼接得到的第一目标句子能够较为真实地反映出第一文本的关键内容。同样地，根据每个第二候选词语在第二文本中出现的先后顺序，对所有第二候选词语进行拼接得到第二目标句子，得到第二目标句子，由于每个第二候选词语是在第二文本中重要程度较高的词语，因此，拼接得到的第二目标句子能够较为真实地反映出第二文本的关键内容。
在一些实施例的步骤S402中，可以利用预设的Bert模型对第一目标句子进行嵌入处理，将第一目标句子从文本数据空间映射到向量空间，得到第一目标句向量；同样地，利用Bert模型对第二目标句子进行嵌入处理，将第二目标句子从文本数据空间映射到向量空间，得到第二目标句向量。
在一些实施例的步骤S403中，预设的分隔符包括CLS字符和SEP字符，利用预设的分隔符将第一目标句子和第二目标句子进行句子合并，得到合并文本句子，其中，CLS字符设置在整个合并文本句子的开头位置，第一个SEP字符设置在第一目标句子的结尾位置，第二个SEP字符设置在第二目标句子的结尾位置，将第一个SEP字符作为用于区分合并文本句子的前一部分和后一部分的关键分隔符，即CLS字符和第一个SEP字符之间的句子内容来源于第一目标句子，第一个SEP字符和第二个SEP字符之间的句子内容来源于第二目标句子。
在一些实施例的步骤S404中，在对合并文本句子进行关键词提取，可以利用预设算法计算合并文本句子中每个词语的重要性分数，通过重要性分数的高低来确定该词语在整个合并文本句子的关键程度，在分隔符之前的文本句子部分选取一个重要性分数最高的词语作为第一关键词语，并根据第一关键词语的相邻词语，确定第一关键词组，该第一关键词语由第一关键词语与其相邻词语构成；在分隔符之后的文本句子部分选取一个重要性分数最高的词语作为第二关键词语，并根据第二关键词语的相邻词语，确定第二关键词组，该第二关键词语由第二关键词语与其相邻词语构成。第一关键词组是能够用于代表第一文本的文本内容的词组，第二关键词组是能够用于代表第二文本的文本内容的词组。
在一些实施例的步骤S405中，可以利用Bert模型对第一关键词组进行嵌入处理，将第一关键词组映射到词向量空间，得到第一关键词向量；同样地，利用Bert模型对第二关键词组进行嵌入处理，将第二关键词组映射到词向量空间，得到第二关键词向量。
通过上述步骤S401至步骤S405能够较为方便地确定用于表征第一文本的文本内容的第一目标句子和第一关键词组，以及用于表征第二文本的文本内容的第二目标句子和第二关键词组，使得能够同时在句子级别以及词语级别上来对第一文本和第二文本之间的相似程度进行检测，能够提高检测多样性以及检测准确性。
请参阅图5，在一些实施例中，步骤S404可以包括但不限于包括步骤S501至步骤S503：
步骤S501，基于预设算法对合并文本句子的文本词组进行重要性评分，得到每个文本词组的重要性评分数据；
步骤S502，基于重要性评分数据对合并文本句子中处于分隔符之前的文本词组进行筛选，提取重要性评分数据最高的文本词组作为第一关键词组；
步骤S503，基于重要性评分数据对合并文本句子中处于分隔符之后的文本词组进行筛选，提取重要性评分数据最高的文本词组作为第二关键词组。
在一些实施例的步骤S501中，预设算法可以是上述的TextRank算法，利用TextRank算法对合并文本句子的文本词组进行重要性评分的过程与上述的步骤S301的实现过程类似，区别在于，步骤S301是针对第一原始文本句子进行词语的权重计算，而步骤S501则是针对合并文本句子的文本词组进行权重计算，权重计算的结果作为每个文本词组的重要性评分数据，此处不再赘述。
在一些实施例的步骤S502中，由于重要性评分数据能够反映每个文本词组对合并文本句子的重要程度，当重要性评分数据越大，则文本词组的重要性越高，因此，根据重要性评分数据，在合并文本句子中处于分隔符之前的文本词组中(即针对合并文本句子中CLS字符和第一个SEP字符之间的句子内容)，提取重要性评分数据最高的文本词组作为第一关键词组。
在一些实施例的步骤S503中，根据重要性评分数据，在合并文本句子中处于分隔符之后的文本词组中(即针对合并文本句子中第一个SEP字符和第二个SEP字符之间的句子内容)，提取重要性评分数据最高的文本词组作为第二关键词组。
需要说明的是，在金融场景下，第一关键词组和第二关键词组可以包含金融、交易、保险、银行、网银、利息、信贷、抵押、股票、投资、基金、资产组合、养老金等常用词语。
通过上述步骤S501至步骤S503能够提高词语筛选的精度，使得筛选出的第一关键词组、第二关键词组能够更具备代表性，更能够反映第一文本、第二文本的关键内容信息，从而提高文本相似度检测的准确性。
请参阅图6，在一些实施例，步骤S107包括但不限于包括步骤S601至步骤S603：
步骤S601，对第一目标句向量和第二目标句向量进行相似度评分，得到第一评分数据；
步骤S602，对第一关键词向量和第二关键词向量进行相似度评分，得到第二评分数据；
步骤S603，基于第一评分数据和第二评分数据，得到文本检测数据。
在一些实施例的步骤S601中，在对第一目标句向量和第二目标句向量进行相似度评分，得到第一评分数据时，该相似度评分的过程可以是计算第一目标句向量和第二目标句向量的欧式距离、曼哈顿距离或者余弦相似值等等，不做限制。例如，利用余弦相似度算法对第一目标句向量和第二目标句向量进行相似度评分，将计算出的余弦相似值作为第一评分数据，其计算过程可以表示如公式(2)所示：
其中，sim(u，v)为第一评分数据，第一目标句向量为u，第二目标句向量为v，uT为对第二目标句向量进行转置运算的结果。
在一些实施例的步骤S602中，在对第一关键词向量和第二关键词向量进行相似度评分，得到第二评分数据时，该相似度评分的过程可以是计算第一关键词向量和第二关键词向量的欧式距离、曼哈顿距离或者余弦相似值等等，不做限制。
在一些实施例的步骤S603中，由于第一评分数据是第一文本和第二文本在句级别上的相似度评分，第二评分数据是第一文本和第二文本在词级别上的相似度评分，因此，针对不同的特征级别，可以分别设置评分权重，将第一评分数据和第二评分数据进行加权和运算，并将计算结果与预设阈值比对，基于比较情况，将文本检测数据确定为第一文本和第二文本的文本内容相似或者第一文本和第二文本的文本内容不相似。
通过上述步骤S601至步骤S603能够基于词级别和句级别两个粒度来对检测第一文本和第二文本之间的文本相似程度，并针对不同的粒度设置不同的权重，使得能够结合词级别的相似评分和句级别的相似评分在具体的应用场景下对文本相似检测的影响程度的不同，灵活地调整其权重占比，能够提高文本相似度检测的准确性和灵活性。
请参阅图7，在一些实施例中，步骤S603可以包括但不限于包括步骤S701至步骤S703：
步骤S701，对第一评分数据和第二评分数据进行加权和运算，得到目标评分数据；
步骤S702，若目标评分数据大于预设阈值，则将文本检测数据确定为第一文本和第二文本的文本内容相似；
步骤S703，若目标评分数据不大于预设阈值，则将文本检测数据确定为第一文本和第二文本的文本内容不相似。
在一些实施例的步骤S701中，针对不同篇幅长度的文本，词级别的评分和句级别的评分对文本相似度的影响程度不同，例如，针对篇幅较短的文本，词粒度、句粒度均能够表征出文本的基本文本内容，因此，词级别和句级别的相似度评分对文本相似度检测的影响程度没有明显差异；而针对篇幅较长的文本，词粒度往往无法表征出文本的真实文本内容，因此，句级别的相似评分会比词级别的相似度评分更能影响文本相似度检测。基于此，针对文本的篇幅长度的不同，可以对不同粒度的评分数据赋予不同的权重值，随即对赋予权重的第一评分数据和第二评分数据进行加权计算，即将第一评分数据和第二评分数据与其对应的权重值相乘，得到乘积结果，将两个乘积结果求和，得到目标评分数据。例如，当第一文本和第二文本的篇幅长度均不大于预设的文本长度阈值时，将第一评分数据和第二评分数据的权重值均设置为0.5，因此，目标评分数据＝0.5*第一评分数据+0.5*第二评分数据；当第一文本和第二文本中存在一个篇幅长度大于预设的文本长度阈值时，则将第一评分数据的权重值设置为0.7，将第二评分数据的权重值设置为0.3，因此，目标评分数据＝0.7*第一评分数据+0.3*第二评分数据。这一方式能够基于不同的情况对句级别的相似评分数据和词级别的相似评分数据赋予不同的权重，有利于提高目标评分数据的计算准确性，更能提高文本相似度检测的准确性。
进一步地，比对目标评分数据和预设阈值，根据目标评分数据和预设阈值的大小，来确定第一文本和第二文本的文本内容相似程度是否满足要求。
在一些实施例的步骤S702中，若目标评分数据大于预设阈值，则表明第一文本和第二文本的文本内容相似程度能够满足要求，第一文本和第二文本可以表示相同的语义内容信息，因此，将文本检测数据确定为第一文本和第二文本的文本内容相似。
在一些实施例的步骤S703中，若目标评分数据小于或者等于预设阈值，则表明第一文本和第二文本的文本内容相似程度不满足要求，第一文本和第二文本表示的语义内容信息不同，因此，将文本检测数据确定为第一文本和第二文本的文本内容不相似。
通过上述步骤S701至步骤S703能够以阈值比较的方式来判断第一文本和第二文本的文本内容的相似程度是否满足要求，从而能够较为方便地确定第一文本和第二文本是相似文本还是非相似文本，提高了文本相似度检测的准确性和判断合理性。
本申请实施例的文本相似度检测方法，其通过获取第一文本和第二文本；对第一文本、第二文本进行文本拆分得到多个第一原始文本句子和多个第二原始文本句子；基于预设的第一句权重数据对第一原始文本句子进行筛选得到第一候选文本句子，并基于预设的第二句权重数据对第二原始文本句子进行筛选得到第二候选文本句子；对第一候选文本句子、第二候选句子进行分词，得到多个第一文本词语和多个第二文本词语；基于第一句权重数据和预设的第一词语权重数据对第一文本词语进行筛选得到第一候选词语，并基于第二句权重数据和预设的第二词语权重数据对第二文本词语进行筛选得到第二候选词语；基于第一候选词语为第一文本构建第一目标句向量和第一关键词向量，并基于第二候选词语为第二文本构建第二目标句向量和第二关键词向量；最后，基于第一目标句向量、第一关键词向量、第二目标句向量和第二关键词向量检测第一文本和第二文本之间的相似度，得到文本检测数据，这一方式能够同时在句子级别以及词语级别上来对第一文本和第二文本之间的相似程度进行检测，能够提高相似度检测的多样性以及文本相似度检测的准确性，进而根据不同对象的商品浏览记录、查询记录等文本数据之间的相似度进行商品推荐，能根据相似度确定不同对象的兴趣偏好相近程度，将推荐给某个对象的商品再次推荐给兴趣偏好较为相似的另一对象，能有效地提高商品推荐效率和商品推荐准确性，也有利于提高保险产品、理财产品等金融类产品的成交率。
请参阅图8，本申请实施例还提供一种文本相似度检测装置，可以实现上述文本相似度检测方法，该装置包括：
文本获取模块801，用于获取第一文本和第二文本；
文本拆分模块802，用于对第一文本进行文本拆分得到多个第一原始文本句子，并对第二文本进行文本拆分得到多个第二原始文本句子；
句子筛选模块803，用于基于预设的第一句权重数据对第一原始文本句子进行筛选得到第一候选文本句子，并基于预设的第二句权重数据对第二原始文本句子进行筛选得到第二候选文本句子；
分词模块804，用于对第一候选文本句子进行分词得到多个第一文本词语，对第二候选文本句子进行分词得到多个第二文本词语；
词语筛选模块805，用于基于第一句权重数据和预设的第一词语权重数据对第一文本词语进行筛选得到第一候选词语，并基于第二句权重数据和预设的第二词语权重数据对第二文本词语进行筛选得到第二候选词语；
句子和词组构建模块806，用于基于第一候选词语为第一文本构建第一目标句向量和第一关键词向量，并基于第二候选词语为第二文本构建第二目标句向量和第二关键词向量；
相似度检测模块807，用于基于第一目标句向量、第一关键词向量、第二目标句向量和第二关键词向量检测第一文本和第二文本之间的相似度，得到文本检测数据；其中，文本检测数据用于表示第一文本和第二文本之间的文本内容的相似程度。
该文本相似度检测装置的具体实施方式与上述文本相似度检测方法的具体实施例基本相同，在此不再赘述。
本申请实施例还提供了一种电子设备，电子设备包括：存储器、处理器、存储在存储器上并可在处理器上运行的程序以及用于实现处理器和存储器之间的连接通信的数据总线，程序被处理器执行时实现上述文本相似度检测方法。该电子设备可以为包括平板电脑、车载电脑等任意智能终端。
请参阅图9，图9示意了另一实施例的电子设备的硬件结构，电子设备包括：
处理器901，可以采用通用的CPU(CentralProcessingUnit，中央处理器)、微处理器、应用专用集成电路(ApplicationSpecificIntegratedCircuit，ASIC)、或者一个或多个集成电路等方式实现，用于执行相关程序，以实现本申请实施例所提供的技术方案；
存储器902，可以采用只读存储器(ReadOnlyMemory，ROM)、静态存储设备、动态存储设备或者随机存取存储器(RandomAccessMemory，RAM)等形式实现。存储器902可以存储操作系统和其他应用程序，在通过软件或者固件来实现本说明书实施例所提供的技术方案时，相关的程序代码保存在存储器902中，并由处理器901来调用执行本申请实施例的文本相似度检测方法；
输入/输出接口903，用于实现信息输入及输出；
通信接口904，用于实现本设备与其他设备的通信交互，可以通过有线方式(例如USB、网线等)实现通信，也可以通过无线方式(例如移动网络、WIFI、蓝牙等)实现通信；
总线905，在设备的各个组件(例如处理器901、存储器902、输入/输出接口903和通信接口904)之间传输信息；
其中处理器901、存储器902、输入/输出接口903和通信接口904通过总线905实现彼此之间在设备内部的通信连接。
本申请实施例还提供了一种计算机可读存储介质，计算机可读存储介质存储有一个或者多个程序，一个或者多个程序可被一个或者多个处理器执行，以实现上述文本相似度检测方法。
存储器作为一种非暂态计算机可读存储介质，可用于存储非暂态软件程序以及非暂态性计算机可执行程序。此外，存储器可以包括高速随机存取存储器，还可以包括非暂态存储器，例如至少一个磁盘存储器件、闪存器件、或其他非暂态固态存储器件。在一些实施方式中，存储器可选包括相对于处理器远程设置的存储器，这些远程存储器可以通过网络连接至该处理器。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
本申请实施例提供的文本相似度检测方法、文本相似度检测装置、电子设备及计算机可读存储介质，其通过获取第一文本和第二文本；对第一文本、第二文本进行文本拆分得到多个第一原始文本句子和多个第二原始文本句子；基于预设的第一句权重数据对第一原始文本句子进行筛选得到第一候选文本句子，并基于预设的第二句权重数据对第二原始文本句子进行筛选得到第二候选文本句子；对第一候选文本句子、第二候选句子进行分词，得到多个第一文本词语和多个第二文本词语；基于第一句权重数据和预设的第一词语权重数据对第一文本词语进行筛选得到第一候选词语，并基于第二句权重数据和预设的第二词语权重数据对第二文本词语进行筛选得到第二候选词语；基于第一候选词语为第一文本构建第一目标句向量和第一关键词向量，并基于第二候选词语为第二文本构建第二目标句向量和第二关键词向量；最后，基于第一目标句向量、第一关键词向量、第二目标句向量和第二关键词向量检测第一文本和第二文本之间的相似度，得到文本检测数据，这一方式能够同时在句子级别以及词语级别上来对第一文本和第二文本之间的相似程度进行检测，能够提高相似度检测的多样性以及文本相似度检测的准确性，进而根据不同对象的商品浏览记录、查询记录等文本数据之间的相似度进行商品推荐，能根据相似度确定不同对象的兴趣偏好相近程度，将推荐给某个对象的商品再次推荐给兴趣偏好较为相似的另一对象，能有效地提高商品推荐效率和商品推荐准确性，也有利于提高保险产品、理财产品等金融类产品的成交率。
本申请实施例描述的实施例是为了更加清楚的说明本申请实施例的技术方案，并不构成对于本申请实施例提供的技术方案的限定，本领域技术人员可知，随着技术的演变和新应用场景的出现，本申请实施例提供的技术方案对于类似的技术问题，同样适用。
本领域技术人员可以理解的是，图1-7中示出的技术方案并不构成对本申请实施例的限定，可以包括比图示更多或更少的步骤，或者组合某些步骤，或者不同的步骤。
以上所描述的装置实施例仅仅是示意性的，其中作为分离部件说明的单元可以是或者也可以不是物理上分开的，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
本领域普通技术人员可以理解，上文中所公开方法中的全部或某些步骤、系统、设备中的功能模块/单元可以被实施为软件、固件、硬件及其适当的组合。
本申请的说明书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
应当理解，在本申请中，“至少一个(项)”是指一个或者多个，“多个”是指两个或两个以上。“和/或”，用于描述关联对象的关联关系，表示可以存在三种关系，例如，“A和/或B”可以表示：只存在A，只存在B以及同时存在A和B三种情况，其中A，B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达，是指这些项中的任意组合，包括单项(个)或复数项(个)的任意组合。例如，a，b或c中的至少一项(个)，可以表示：a，b，c，“a和b”，“a和c”，“b和c”，或“a和b和c”，其中a，b，c可以是单个，也可以是多个。
在本申请所提供的几个实施例中，应该理解到，所揭露的装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，上述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
上述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括多指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例的方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(Read-Only Memory，简称ROM)、随机存取存储器(Random Access Memory，简称RAM)、磁碟或者光盘等各种可以存储程序的介质。
以上参照附图说明了本申请实施例的优选实施例，并非因此局限本申请实施例的权利范围。本领域技术人员不脱离本申请实施例的范围和实质内所作的任何修改、等同替换和改进，均应在本申请实施例的权利范围之内。

Claims (10)

1.一种文本相似度检测方法，其特征在于，所述方法包括：
获取第一文本和第二文本；
对所述第一文本进行文本拆分得到多个第一原始文本句子，并对所述第二文本进行文本拆分得到多个第二原始文本句子；
基于预设的第一句权重数据对所述第一原始文本句子进行筛选得到第一候选文本句子，并基于预设的第二句权重数据对所述第二原始文本句子进行筛选得到第二候选文本句子；
对所述第一候选文本句子进行分词得到多个第一文本词语，对所述第二候选文本句子进行分词得到多个第二文本词语；
基于所述第一句权重数据和预设的第一词语权重数据对所述第一文本词语进行筛选得到第一候选词语，并基于所述第二句权重数据和预设的第二词语权重数据对所述第二文本词语进行筛选得到第二候选词语；
基于所述第一候选词语为所述第一文本构建第一目标句向量和第一关键词向量，并基于所述第二候选词语为所述第二文本构建第二目标句向量和第二关键词向量；
基于所述第一目标句向量、所述第一关键词向量、所述第二目标句向量和所述第二关键词向量检测所述第一文本和所述第二文本之间的相似度，得到文本检测数据；其中，所述文本检测数据用于表示所述第一文本和所述第二文本之间的文本内容的相似程度。
2.根据权利要求1所述的文本相似度检测方法，其特征在于，所述基于预设的第一句权重数据对所述第一原始文本句子进行筛选得到第一候选文本句子，并基于预设的第二句权重数据对所述第二原始文本句子进行筛选得到第二候选文本句子，包括：
基于预设算法计算每个所述第一原始文本句子的第一句权重数据，并选取所述第一句权重数据最大的预定数目个第一原始文本句子作为所述第一候选文本句子；
基于所述预设算法计算每个所述第二原始文本句子的第二句权重数据，并选取所述第二句权重数据最大的预定数目个第二原始文本句子作为所述第二候选文本句子。
3.根据权利要求1所述的文本相似度检测方法，其特征在于，所述基于所述第一句权重数据和预设的第一词语权重数据对所述第一文本词语进行筛选得到第一候选词语，并基于所述第二句权重数据和预设的第二词语权重数据对所述第二文本词语进行筛选得到第二候选词语，包括：
针对每个所述第一文本词语，对所述第一文本词语所处的第一候选句子的第一句权重数据和所述第一文本词语的第一词语权重数据进行加权计算，得到所述第一文本词语的第一目标权重数据；
基于所述第一目标权重数据对所述第一文本词语进行筛选，得到所述第一候选词语；
针对每个所述第二文本词语，对所述第二文本词语所处的第二候选句子的第二句权重数据和所述第二文本词语的第二词语权重数据进行加权计算，得到所述第二文本词语的第二目标权重数据；
基于所述第二目标权重数据对所述第二文本词语进行筛选，得到所述第二候选词语。
4.根据权利要求1所述的文本相似度检测方法，其特征在于，所述基于所述第一候选词语为所述第一文本构建第一目标句向量和第一关键词向量，并基于所述第二候选词语为所述第二文本构建第二目标句向量和第二关键词向量，包括：
对所有所述第一候选词语进行拼接得到第一目标句子，并对所有所述第二候选词语进行拼接得到第二目标句子；
对所述第一目标句子进行嵌入处理得到所述第一目标句向量，并对所述第二目标句子进行嵌入处理得到所述第二目标句向量；
根据预设的分隔符对所述第一目标句子和所述第二目标句子进行句子合并，得到合并文本句子，其中，所述合并文本句子中处于所述分隔符之前的句子内容来源于所述第一目标句子，处于所述分隔符之后的句子内容来源于所述第二目标句子；
对所述合并文本句子进行关键词提取，得到第一关键词组和第二关键词组；
对所述第一关键词组进行嵌入处理得到所述第一关键词向量，并对所述第二关键词组进行嵌入处理得到所述第二关键词向量。
5.根据权利要求4所述的文本相似度检测方法，其特征在于，所述对所述合并文本句子进行关键词提取，得到第一关键词组和第二关键词组，包括：
基于预设算法对所述合并文本句子的文本词组进行重要性评分，得到每个文本词组的重要性评分数据；
基于所述重要性评分数据对所述合并文本句子中处于所述分隔符之前的文本词组进行筛选，提取所述重要性评分数据最高的文本词组作为所述第一关键词组；
基于所述重要性评分数据对所述合并文本句子中处于所述分隔符之后的文本词组进行筛选，提取所述重要性评分数据最高的文本词组作为所述第二关键词组。
6.根据权利要求1所述的文本相似度检测方法，其特征在于，所述基于所述第一目标句向量、所述第一关键词向量、所述第二目标句向量和所述第二关键词向量检测所述第一文本和所述第二文本之间的相似度，得到文本检测数据，包括：
对所述第一目标句向量和所述第二目标句向量进行相似度评分，得到第一评分数据；
对所述第一关键词向量和所述第二关键词向量进行相似度评分，得到第二评分数据；
基于所述第一评分数据和所述第二评分数据，得到所述文本检测数据。
7.根据权利要求6所述的文本相似度检测方法，其特征在于，所述基于所述第一评分数据和所述第二评分数据，得到所述文本检测数据，包括：
对所述第一评分数据和所述第二评分数据进行加权和运算，得到目标评分数据；
若所述目标评分数据大于预设阈值，则将所述文本检测数据确定为所述第一文本和所述第二文本的文本内容相似；
若所述目标评分数据不大于预设阈值，则将所述文本检测数据确定为所述第一文本和所述第二文本的文本内容不相似。
8.一种文本相似度检测装置，其特征在于，所述装置包括：
文本获取模块，用于获取第一文本和第二文本；
文本拆分模块，用于对所述第一文本进行文本拆分得到多个第一原始文本句子，并对所述第二文本进行文本拆分得到多个第二原始文本句子；
句子筛选模块，用于基于预设的第一句权重数据对所述第一原始文本句子进行筛选得到第一候选文本句子，并基于预设的第二句权重数据对所述第二原始文本句子进行筛选得到第二候选文本句子；
分词模块，用于对所述第一候选文本句子进行分词得到多个第一文本词语，对所述第二候选文本句子进行分词得到多个第二文本词语；
词语筛选模块，用于基于所述第一句权重数据和预设的第一词语权重数据对所述第一文本词语进行筛选得到第一候选词语，并基于所述第二句权重数据和预设的第二词语权重数据对所述第二文本词语进行筛选得到第二候选词语；
句子和词组构建模块，用于基于所述第一候选词语为所述第一文本构建第一目标句向量和第一关键词向量，并基于所述第二候选词语为所述第二文本构建第二目标句向量和第二关键词向量；
相似度检测模块，用于基于所述第一目标句向量、所述第一关键词向量、所述第二目标句向量和所述第二关键词向量检测所述第一文本和所述第二文本之间的相似度，得到文本检测数据；其中，所述文本检测数据用于表示所述第一文本和所述第二文本之间的文本内容的相似程度。
9.一种电子设备，其特征在于，所述电子设备包括存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述的文本相似度检测方法。
10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的文本相似度检测方法。
CN202310720391.3A 2023-06-16 2023-06-16 文本相似度检测方法和装置、电子设备及存储介质 Pending CN116719999A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310720391.3A CN116719999A (zh) 2023-06-16 2023-06-16 文本相似度检测方法和装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310720391.3A CN116719999A (zh) 2023-06-16 2023-06-16 文本相似度检测方法和装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN116719999A true CN116719999A (zh) 2023-09-08

Family

ID=87869409

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310720391.3A Pending CN116719999A (zh) 2023-06-16 2023-06-16 文本相似度检测方法和装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN116719999A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117556829A (zh) * 2024-01-11 2024-02-13 中汽信息科技(天津)有限公司 一种车辆故障码的比对方法、装置、设备及存储介质

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117556829A (zh) * 2024-01-11 2024-02-13 中汽信息科技(天津)有限公司 一种车辆故障码的比对方法、装置、设备及存储介质
CN117556829B (zh) * 2024-01-11 2024-04-09 中汽信息科技(天津)有限公司 一种车辆故障码的比对方法、装置、设备及存储介质

Similar Documents

Publication Publication Date Title
CN113792818B (zh) 意图分类方法、装置、电子设备及计算机可读存储介质
CN112131350B (zh) 文本标签确定方法、装置、终端及可读存储介质
CN111680159A (zh) 数据处理方法、装置及电子设备
US20190370274A1 (en) Analysis Method Using Graph Theory, Analysis Program, and Analysis System
CN114519356B (zh) 目标词语的检测方法、装置、电子设备及存储介质
CN114841146B (zh) 文本摘要生成方法和装置、电子设备及存储介质
CN114519613B (zh) 价格数据的处理方法和装置、电子设备、存储介质
CN117271736A (zh) 一种问答对的生成方法和系统、电子设备及存储介质
CN116719999A (zh) 文本相似度检测方法和装置、电子设备及存储介质
CN114942994A (zh) 文本分类方法、文本分类装置、电子设备及存储介质
CN114358020A (zh) 疾病部位识别方法、装置、电子设备及存储介质
Wei et al. Sentiment classification of tourism reviews based on visual and textual multifeature fusion
CN117033796A (zh) 基于用户表达偏好的智能回复方法、装置、设备及介质
CN114398903B (zh) 意图识别方法、装置、电子设备及存储介质
CN116741396A (zh) 文章归类方法和装置、电子设备和存储介质
CN116595023A (zh) 地址信息的更新方法和装置、电子设备及存储介质
CN116469546A (zh) 基于注意力机制的疾病辅助识别方法和装置、设备及介质
CN114492437B (zh) 关键词识别方法、装置、电子设备及存储介质
CN114611529B (zh) 意图识别方法和装置、电子设备及存储介质
CN114491076B (zh) 基于领域知识图谱的数据增强方法、装置、设备及介质
CN115795007A (zh) 智能问答方法、智能问答装置、电子设备及存储介质
CN114998041A (zh) 理赔预测模型的训练方法和装置、电子设备及存储介质
CN114722174A (zh) 提词方法和装置、电子设备及存储介质
Lai et al. An unsupervised approach to discover media frames
CN116467517A (zh) 产品推荐方法、产品推荐装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination