CN112395408A - 停用词表生成方法、装置、电子设备及存储介质 - Google Patents
停用词表生成方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN112395408A CN112395408A CN202011307966.1A CN202011307966A CN112395408A CN 112395408 A CN112395408 A CN 112395408A CN 202011307966 A CN202011307966 A CN 202011307966A CN 112395408 A CN112395408 A CN 112395408A
- Authority
- CN
- China
- Prior art keywords
- sub
- tables
- vector
- target
- score
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 34
- 239000013598 vector Substances 0.000 claims abstract description 149
- 238000012545 processing Methods 0.000 claims abstract description 62
- 230000009849 deactivation Effects 0.000 claims abstract description 43
- 230000002431 foraging effect Effects 0.000 claims abstract description 15
- 230000007306 turnover Effects 0.000 claims description 32
- 230000015654 memory Effects 0.000 claims description 23
- 230000005484 gravity Effects 0.000 claims description 14
- 238000000605 extraction Methods 0.000 claims description 12
- 238000004364 calculation method Methods 0.000 claims description 8
- 238000001914 filtration Methods 0.000 claims description 4
- 230000008569 process Effects 0.000 claims description 4
- 238000013473 artificial intelligence Methods 0.000 abstract description 2
- 238000005516 engineering process Methods 0.000 abstract description 2
- 230000006870 function Effects 0.000 description 7
- 230000006399 behavior Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 238000012217 deletion Methods 0.000 description 4
- 230000037430 deletion Effects 0.000 description 4
- 238000004458 analytical method Methods 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 239000004459 forage Substances 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/335—Filtering based on additional data, e.g. user or group profiles
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/36—Creation of semantic tools, e.g. ontology or thesauri
- G06F16/374—Thesaurus
Abstract
本发明涉及人工智能，提供一种停用词表生成方法、装置、电子设备及存储介质。该方法能够确定生成请求的应用领域及搜索系统，划分预设停用词表，得到多个第一分表，利用搜索系统计算每个第一分表的初始分数，结合每个初始分数对每个第一分表进行觅食处理，得到多个第二分表，对每个第二分表进行聚群处理，得到多个第三分表，对每个第三分表进行追尾处理，得到多个第四分表，调整每个第四分表的初始向量，得到多个第四分表的变动向量，根据变动向量确定多个第五分表，计算并确定分表分数最高的第五分表为目标停用词表。本发明能够提高目标停用词表的生成效率及准确度。此外，本发明还涉及区块链技术，所述目标停用词表可存储于区块链中。
Description
技术领域
本发明涉及人工智能技术领域，尤其涉及一种停用词表生成方法、装置、电子设备及存储介质。
背景技术
在信息检索系统中，停用词表可以压缩倒排索引的规模，提升检索系统的搜索精度，并通过缩小搜索空间来提升搜索速度。目前存在的停用词表一般针对通用领域，在特定领域中则不太适用，例如，某停用词表中包含的“背靠背”在体育新闻领域中用来表示赛程紧密，在体育新闻领域中属于相当重要的词汇。为了提高停用词表在某些特定领域的适用性，目前通常在开源停用词表的基础上采用人工方式进行增删操作，又或者采用统计方法找出信息量较低的词语组成新的停用词表，这两种方式都需要人工进行参与，由于每个人对特定领域的理解不同，造成生成的停用词表不统一，此外，这两种方式生成停用词表的效率很低，不利于信息检索系统的搜索。
发明内容
鉴于以上内容，有必要提供一种停用词表生成方法、装置、电子设备及存储介质，不仅能够避免数据泄露，从而提高数据安全性，还能够提高停用词表生成效率，从而提高查询服务性能。
一方面，本发明提出一种停用词表生成方法，所述停用词表生成方法包括：
接收停用词表的生成请求，并确定所述停用词表的应用领域以及与所述应用领域对应的搜索系统；
按照随机抽取方式对预设停用词表进行划分，得到多个第一分表；
利用所述搜索系统计算每个第一分表的初始分数，并结合每个初始分数对每个第一分表进行觅食处理，得到所述多个第一分表的多个第二分表；
对每个所述第二分表进行聚群处理，得到所述多个第二分表的多个第三分表；
对每个所述第三分表进行追尾处理，得到所述多个第三分表的多个第四分表；
获取每个所述第四分表的初始向量，并根据配置概率调整每个所述初始向量，得到所述多个第四分表的变动向量；
根据所述变动向量确定与所述多个第四分表对应的多个第五分表，并利用所述搜索系统计算所述多个第五分表的分表分数；
在所述多个第五分表中选取分表分数最高的第五分表作为所述目标停用词表。
根据本发明优选实施例，
所述确定所述停用词表的应用领域以及与所述应用领域对应的搜索系统包括：
解析所述生成请求的报文，得到所述生成请求携带的数据信息；
从配置标签库中获取预设标签，所述预设标签用于指示搜索语句；
从所述数据信息中获取与所述预设标签相匹配的信息作为待搜索语句；
提取所述待搜索语句中的名词，并利用所述名词遍历领域库中的领域；
将与所述名词匹配成功的领域确定为所述应用领域；
获取所述应用领域的领域标识，并将与所述领域标识对应的系统确定为所述搜索系统。
根据本发明优选实施例，
所述利用所述搜索系统计算每个第一分表的初始分数包括：
利用每个所述第一分表对所述待搜索语句进行过滤，得到搜索词；
将所述搜索词输入至所述搜索系统中，得到多个候选语句；
计算所述待搜索语句与每个候选语句的相似度，并计算所述相似度的平均值，得到每个所述第一分表的初始分数。
根据本发明优选实施例，
所述结合每个初始分数对每个第一分表进行觅食处理，得到所述多个第一分表的多个第二分表包括：
获取每个所述第一分表的第一分表向量，并根据预设概率对所述第一分表向量进行调整，得到翻转向量；
根据所述翻转向量及所述第一分表确定翻转分表，并利用所述搜索系统计算所述翻转分表的翻转分数；
将每个初始分数与每个翻转分数进行比较；
当所述初始分数大于或者等于所述翻转分数时，将所述初始分数对应的第一分表确定为所述第二分表；或者
当所述初始分数小于所述翻转分数时，将所述翻转分数对应的翻转分表确定为所述第二分表。
根据本发明优选实施例，
所述对每个所述第二分表进行聚群处理，得到所述多个第二分表的多个第三分表包括：
计算多个所述第二分表中任意两个第二分表的海明距离，得到多个海明距离；
统计所述多个海明距离中小于第一预设阈值的目标海明距离的数量，并检测所述目标海明距离的数量是否小于第二预设阈值；
当所述目标海明距离的数量小于所述第二预设阈值时，计算所述目标海明距离指向的目标第二分表的重心，得到所述目标第二分表重心向量；
获取每个所述目标第二分表的第二分表向量；
根据所述重心向量及所述预设概率对所述目标第二分表向量进行调整，得到所述多个第三分表。
根据本发明优选实施例，
所述对每个所述第三分表进行追尾处理，得到所述多个第三分表的多个第四分表包括：
计算多个所述第三分表中任意两个第三分表的海明距离，得到多个分表距离；
在所述多个分表距离中选取小于所述第一预设阈值的分表距离作为目标距离，并将所述目标距离指向的第三分表确定为目标分表；
利用所述搜索系统计算所述目标分表的目标分数，并选取目标分数最高的目标分表作为待追尾分表；
计算所述待追尾分表与每个所述第三分表的海明距离，得到所述待追尾分表的多个海明距离；
统计所述待追尾分表的多个海明距离中小于所述第一预设阈值的待追尾分表的分表数量，并检测所述分表数量是否小于所述第二预设阈值；
当所述分表数量小于所述第二预设阈值时，获取所述待追尾分表的待追尾向量，并获取每个所述第三分表的第三分表向量；
根据所述待追尾向量及所述预设概率对所述第三分表向量进行调整，得到所述多个第四分表。
根据本发明优选实施例，
所述根据配置概率调整每个所述初始向量，得到所述多个第四分表的变动向量包括：
确定每个初始向量的向量维度；
将所述向量维度乘以所述配置概率，得到变动维度数量；
根据所述变动维度数量对每个初始向量的任意维度进行翻转处理，得到所述变动向量。
另一方面，本发明还提出一种停用词表生成装置，所述停用词表生成装置包括：
确定单元，用于接收停用词表的生成请求，并确定所述停用词表的应用领域以及与所述应用领域对应的搜索系统；
划分单元，用于按照随机抽取方式对预设停用词表进行划分，得到多个第一分表；
处理单元，用于利用所述搜索系统计算每个第一分表的初始分数，并结合每个初始分数对每个第一分表进行觅食处理，得到所述多个第一分表的多个第二分表；
所述处理单元，还用于对每个所述第二分表进行聚群处理，得到所述多个第二分表的多个第三分表；
所述处理单元，还用于对每个所述第三分表进行追尾处理，得到所述多个第三分表的多个第四分表；
调整单元，用于获取每个所述第四分表的初始向量，并根据配置概率调整每个所述初始向量，得到所述多个第四分表的变动向量；
计算单元，用于根据所述变动向量确定与所述多个第四分表对应的多个第五分表，并利用所述搜索系统计算所述多个第五分表的分表分数；
所述确定单元，还用于在所述多个第五分表中选取分表分数最高的第五分表作为所述目标停用词表。
另一方面，本发明还提出一种电子设备，所述电子设备包括：
存储器，存储计算机可读指令；及
处理器，执行所述存储器中存储的计算机可读指令以实现所述停用词表生成方法。
另一方面，本发明还提出一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机可读指令，所述计算机可读指令被电子设备中的处理器执行以实现所述停用词表生成方法。
由以上技术方案可以看出，本发明通过对划分后的分表进行觅食处理、聚群处理、追尾处理以及随机行为处理，并利用与所述应用领域对应的搜索系统分析停用词表的分数，能够生成适用于所述应用领域的所述目标停用词表，从而能够提高搜索系统的搜索精度。此外，由于无需手动对开源停用词表进行增删操作，也无需人为统计词汇的使用量，因此，能够提高所述目标停用词表的生成效率。
附图说明
图1是本发明停用词表生成方法的较佳实施例的流程图。
图2是本发明停用词表生成装置的较佳实施例的功能模块图。
图3是本发明实现停用词表生成方法的较佳实施例的电子设备的结构示意图。
具体实施方式
为了使本发明的目的、技术方案和优点更加清楚，下面结合附图和具体实施例对本发明进行详细描述。
如图1所示，是本发明停用词表生成方法的较佳实施例的流程图。根据不同的需求，该流程图中步骤的顺序可以改变，某些步骤可以省略。
所述停用词表生成方法应用于一个或者多个电子设备中，所述电子设备是一种能够按照事先设定或存储的计算机可读指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(Application Specific Integrated Circuit，ASIC)、可编程门阵列(Field－Programmable Gate Array，FPGA)、数字处理器(DigitalSignal Processor，DSP)、嵌入式设备等。
所述电子设备可以是任何一种可与用户进行人机交互的电子产品，例如，个人计算机、平板电脑、智能手机、个人数字助理(Personal Digital Assistant，PDA)、游戏机、交互式网络电视(Internet Protocol Television，IPTV)、智能穿戴式设备等。
所述电子设备可以包括网络设备和/或用户设备。其中，所述网络设备包括，但不限于单个网络电子设备、多个网络电子设备组成的电子设备组或基于云计算(CloudComputing)的由大量主机或网络电子设备构成的云。
所述电子设备所处的网络包括，但不限于：互联网、广域网、城域网、局域网、虚拟专用网络(Virtual Private Network，VPN)等。
S10，接收停用词表的生成请求，并确定所述停用词表的应用领域以及与所述应用领域对应的搜索系统。
在本发明的至少一个实施例中，所述生成请求中包括请求编号、预设标签及待搜索语句等。
所述应用领域可以是任意特定领域，例如，所述应用领域可以是体育新闻领域。
所述搜索系统是指与所述应用领域对应的系统，所述搜索系统适用于所述应用领域的搜索。
在本发明的至少一个实施例中，所述电子设备确定所述停用词表的应用领域以及与所述应用领域对应的搜索系统包括：
解析所述生成请求的报文，得到所述生成请求携带的数据信息；
从配置标签库中获取预设标签，所述预设标签用于指示搜索语句；
从所述数据信息中获取与所述预设标签相匹配的信息作为待搜索语句；
提取所述待搜索语句中的名词，并利用所述名词遍历领域库中的领域；
将与所述名词匹配成功的领域确定为所述应用领域；
获取所述应用领域的领域标识，并将与所述领域标识对应的系统确定为所述搜索系统。
其中，所述配置标签库中存储多个预先定义好的标签。进一步地，所述领域标识用于唯一指示所述应用领域的标识。
通过上述实施方式，由于无需解析整个所述生成请求，因此，能够提高所述生成请求的解析效率，进而通过预设标签与搜索语句的映射关系，能够准确确定出所述待搜索语句，通过所述待搜索语句中的名词，能够准确确定出所述生成请求所应用的应用领域，通过唯一标识所述应用领域的领域标识，能够准确确定出所述搜索系统。
S11，按照随机抽取方式对预设停用词表进行划分，得到多个第一分表。
在本发明的至少一个实施例中，所述预设停用词表可以是任意开源的停用词表。因此，所述电子设备能够从任意开源系统中获取所述预设停用词表。
所述多个第一分表是通过对所述预设停用词表进行划分后生成的。
在本发明的至少一个实施例中，所述电子设备按照随机抽取方式对预设停用词表进行划分，得到多个第一分表包括：
获取预设比例，并确定所述预设停用词表的停用词数量；
将所述预设比例乘以所述停用词数量，得到抽取数量；
从所述预设停用词表中随机抽取所述抽取数量的停用词作为每个第一分表。
通过上述实施方式，能够使生成的每个第一分表之间互不重复。
S12，利用所述搜索系统计算每个第一分表的初始分数，并结合每个初始分数对每个第一分表进行觅食处理，得到所述多个第一分表的多个第二分表。
在本发明的至少一个实施例中，所述电子设备利用所述搜索系统计算每个第一分表的初始分数包括：
利用每个所述第一分表对所述待搜索语句进行过滤，得到搜索词；
将所述搜索词输入至所述搜索系统中，得到多个候选语句；
计算所述待搜索语句与每个候选语句的相似度，并计算所述相似度的平均值，得到每个所述第一分表的初始分数。
通过上述实施方式，能够利用每个所述第一分表对所述待搜索语句进行处理，进而能够利用所述搜索系统准确确定出每个所述第一分表的初始分数。
在本发明的至少一个实施例中，所述电子设备结合每个初始分数对每个第一分表进行觅食处理，得到所述多个第一分表的多个第二分表包括：
获取每个所述第一分表的第一分表向量，并根据预设概率对所述第一分表向量进行调整，得到翻转向量；
根据所述翻转向量及所述第一分表确定翻转分表，并利用所述搜索系统计算所述翻转分表的翻转分数；
将每个初始分数与每个翻转分数进行比较；
当所述初始分数大于或者等于所述翻转分数时，将所述初始分数对应的第一分表确定为所述第二分表；或者
当所述初始分数小于所述翻转分数时，将所述翻转分数对应的翻转分表确定为所述第二分表。
其中，所述预设概率可以根据所述应用领域自由配置，例如，所述预设概率可以是0.001。
具体地，所述电子设备根据预设概率对所述第一分表向量进行调整，得到翻转向量包括：
确定所述第一分表向量的维度，并将所述第一分表向量的维度乘以所述预设概率，得到运算数量，根据所述运算数量对所述第一分表向量中任意维度进行翻转，得到所述翻转向量。
例如，所述第一分表向量的维度有2000维度，所述预设概率为0.01，经计算，得到所述运算数量为20，因此，对所述第一分表向量中的任意20个维度的状态进行翻转，即：任意维度的状态为0，经翻转，所述维度的状态为1。其中，状态为0表示所述任意维度对应的停用词在所述第一分表向量中不存在，状态为1表示所述任意维度对应的停用词存在于所述第一分表向量。
通过上述实施方式，能够使生成的所述多个第二分表比所述多个第一分表更适用于所述应用领域。
S13，对每个所述第二分表进行聚群处理，得到所述多个第二分表的多个第三分表。
在本发明的至少一个实施例中，所述电子设备对每个所述第二分表进行聚群处理，得到所述多个第二分表的多个第三分表包括：
计算多个所述第二分表中任意两个第二分表的海明距离，得到多个海明距离；
统计所述多个海明距离中小于第一预设阈值的目标海明距离的数量，并检测所述目标海明距离的数量是否小于第二预设阈值；
当所述目标海明距离的数量小于所述第二预设阈值时，计算所述目标海明距离指向的目标第二分表的重心，得到所述目标第二分表重心向量；
获取每个所述目标第二分表的第二分表向量；
根据所述重心向量及所述预设概率对所述目标第二分表向量进行调整，得到所述多个第三分表。
通过上述实施方式，能够使生成的所述多个第三分表比所述多个第二分表更适用于所述应用领域。
具体地，所述电子设备计算多个所述第二分表中任意两个第二分表的海明距离的方式属于现有技术，本发明对此不再赘述。
具体地，所述电子设备计算所述目标海明距离指向的目标第二分表的重心，得到所述目标第二分表重心向量包括：
获取所述目标第二分表的向量；
计算所述目标第二分表的向量的平均值，得到所述重心向量。
在本发明的至少一个实施例中，当所述目标海明距离的数量大于或者等于所述第二预设阈值时，对所述目标海明距离指向的目标第二分表进行追尾处理。
S14，对每个所述第三分表进行追尾处理，得到所述多个第三分表的多个第四分表。
在本发明的至少一个实施例中，所述电子设备对每个所述第三分表进行追尾处理，得到所述多个第三分表的多个第四分表包括：
计算多个所述第三分表中任意两个第三分表的海明距离，得到多个分表距离；
在所述多个分表距离中选取小于所述第一预设阈值的分表距离作为目标距离，并将所述目标距离指向的第三分表确定为目标分表；
利用所述搜索系统计算所述目标分表的目标分数，并选取目标分数最高的目标分表作为待追尾分表；
计算所述待追尾分表与每个所述第三分表的海明距离，得到所述待追尾分表的多个海明距离；
统计所述待追尾分表的多个海明距离中小于所述第一预设阈值的待追尾分表的分表数量，并检测所述分表数量是否小于所述第二预设阈值；
当所述分表数量小于所述第二预设阈值时，获取所述待追尾分表的待追尾向量，并获取每个所述第三分表的第三分表向量；
根据所述待追尾向量及所述预设概率对所述第三分表向量进行调整，得到所述多个第四分表。
通过上述实施方式，能够使生成的所述多个第四分表更适用于所述应用领域。
在本发明的至少一个实施例中，当所述分表数量大于或者等于所述第二预设阈值时，所述电子设备对每个所述第三分表进行随机行为处理。
S15，获取每个所述第四分表的初始向量，并根据配置概率调整每个所述初始向量，得到所述多个第四分表的变动向量。
在本发明的至少一个实施例中，所述配置概率可以根据所述应用领域自由配置。
在本发明的至少一个实施例中，所述电子设备根据配置概率调整每个所述初始向量，得到所述多个第四分表的变动向量包括：
确定每个初始向量的向量维度；
将所述向量维度乘以所述配置概率，得到变动维度数量；
根据所述变动维度数量对每个初始向量的任意维度进行翻转处理，得到所述变动向量。
S16，根据所述变动向量确定与所述多个第四分表对应的多个第五分表，并利用所述搜索系统计算所述多个第五分表的分表分数。
在本发明的至少一个实施例中，所述变动向量中任意维度的维度值为0，即，所述任意维度在所述变动向量中对应的停用词不存在，所述变动向量中任意维度的维度值为1，即，所述任意维度在所述变动向量中对应的停用词存在，因此，所述电子设备根据所述变动向量能够确定出与所述多个第四分表对应的多个第五分表。
在本发明的至少一个实施例中，所述电子设备利用所述搜索系统计算所述多个第五分表的分表分数的方式与所述电子设备利用所述搜索系统计算每个第一分表的初始分数的方式相同，本发明对此不再赘述。
S17，在所述多个第五分表中选取分表分数最高的第五分表作为所述目标停用词表。
需要强调的是，为进一步保证上述目标停用词表的私密和安全性，上述目标停用词表还可以存储于一区块链的节点中。
在本发明的至少一个实施例中，在所述多个第五分表中选取分表分数最高的第五分表作为所述目标停用词表后，所述方法还包括：
将所述目标停用词表更新至所述搜索系统中。
通过上述实施方式，能够确保所述搜索系统更适用于所述应用领域的搜索，从而提高所述搜索系统的搜索精度。
由以上技术方案可以看出，本发明通过对划分后的分表进行觅食处理、聚群处理、追尾处理以及随机行为处理，并利用与所述应用领域对应的搜索系统分析停用词表的分数，能够生成适用于所述应用领域的所述目标停用词表，从而能够提高搜索系统的搜索精度。此外，由于无需手动对开源停用词表进行增删操作，也无需人为统计词汇的使用量，因此，能够提高所述目标停用词表的生成效率。
如图2所示，是本发明停用词表生成装置的较佳实施例的功能模块图。所述停用词表生成装置11包括确定单元110、划分单元111、处理单元112、调整单元113、计算单元114及更新单元115。本发明所称的模块/单元是指一种能够被处理器13所获取，并且能够完成固定功能的一系列计算机可读指令段，其存储在存储器12中。在本实施例中，关于各模块/单元的功能将在后续的实施例中详述。
确定单元110接收停用词表的生成请求，并确定所述停用词表的应用领域以及与所述应用领域对应的搜索系统。
在本发明的至少一个实施例中，所述生成请求中包括请求编号、预设标签及待搜索语句等。
所述应用领域可以是任意特定领域，例如，所述应用领域可以是体育新闻领域。
所述搜索系统是指与所述应用领域对应的系统，所述搜索系统适用于所述应用领域的搜索。
在本发明的至少一个实施例中，所述确定单元110确定所述停用词表的应用领域以及与所述应用领域对应的搜索系统包括：
解析所述生成请求的报文，得到所述生成请求携带的数据信息；
从配置标签库中获取预设标签，所述预设标签用于指示搜索语句；
从所述数据信息中获取与所述预设标签相匹配的信息作为待搜索语句；
提取所述待搜索语句中的名词，并利用所述名词遍历领域库中的领域；
将与所述名词匹配成功的领域确定为所述应用领域；
获取所述应用领域的领域标识，并将与所述领域标识对应的系统确定为所述搜索系统。
其中，所述配置标签库中存储多个预先定义好的标签。进一步地，所述领域标识用于唯一指示所述应用领域的标识。
通过上述实施方式，由于无需解析整个所述生成请求，因此，能够提高所述生成请求的解析效率，进而通过预设标签与搜索语句的映射关系，能够准确确定出所述待搜索语句，通过所述待搜索语句中的名词，能够准确确定出所述生成请求所应用的应用领域，通过唯一标识所述应用领域的领域标识，能够准确确定出所述搜索系统。
划分单元111按照随机抽取方式对预设停用词表进行划分，得到多个第一分表。
在本发明的至少一个实施例中，所述预设停用词表可以是任意开源的停用词表。因此，所述划分单元111能够从任意开源系统中获取所述预设停用词表。
所述多个第一分表是通过对所述预设停用词表进行划分后生成的。
在本发明的至少一个实施例中，所述划分单元111按照随机抽取方式对预设停用词表进行划分，得到多个第一分表包括：
获取预设比例，并确定所述预设停用词表的停用词数量；
将所述预设比例乘以所述停用词数量，得到抽取数量；
从所述预设停用词表中随机抽取所述抽取数量的停用词作为每个第一分表。
通过上述实施方式，能够使生成的每个第一分表之间互不重复。
处理单元112利用所述搜索系统计算每个第一分表的初始分数，并结合每个初始分数对每个第一分表进行觅食处理，得到所述多个第一分表的多个第二分表。
在本发明的至少一个实施例中，所述处理单元112利用所述搜索系统计算每个第一分表的初始分数包括：
利用每个所述第一分表对所述待搜索语句进行过滤，得到搜索词；
将所述搜索词输入至所述搜索系统中，得到多个候选语句；
计算所述待搜索语句与每个候选语句的相似度，并计算所述相似度的平均值，得到每个所述第一分表的初始分数。
通过上述实施方式，能够利用每个所述第一分表对所述待搜索语句进行处理，进而能够利用所述搜索系统准确确定出每个所述第一分表的初始分数。
在本发明的至少一个实施例中，所述处理单元112结合每个初始分数对每个第一分表进行觅食处理，得到所述多个第一分表的多个第二分表包括：
获取每个所述第一分表的第一分表向量，并根据预设概率对所述第一分表向量进行调整，得到翻转向量；
根据所述翻转向量及所述第一分表确定翻转分表，并利用所述搜索系统计算所述翻转分表的翻转分数；
将每个初始分数与每个翻转分数进行比较；
当所述初始分数大于或者等于所述翻转分数时，将所述初始分数对应的第一分表确定为所述第二分表；或者
当所述初始分数小于所述翻转分数时，将所述翻转分数对应的翻转分表确定为所述第二分表。
其中，所述预设概率可以根据所述应用领域自由配置，例如，所述预设概率可以是0.001。
具体地，所述处理单元112根据预设概率对所述第一分表向量进行调整，得到翻转向量包括：
确定所述第一分表向量的维度，并将所述第一分表向量的维度乘以所述预设概率，得到运算数量，根据所述运算数量对所述第一分表向量中任意维度进行翻转，得到所述翻转向量。
例如，所述第一分表向量的维度有2000维度，所述预设概率为0.01，经计算，得到所述运算数量为20，因此，对所述第一分表向量中的任意20个维度的状态进行翻转，即：任意维度的状态为0，经翻转，所述维度的状态为1。其中，状态为0表示所述任意维度对应的停用词在所述第一分表向量中不存在，状态为1表示所述任意维度对应的停用词存在于所述第一分表向量。
通过上述实施方式，能够使生成的所述多个第二分表比所述多个第一分表更适用于所述应用领域。
所述处理单元112对每个所述第二分表进行聚群处理，得到所述多个第二分表的多个第三分表。
在本发明的至少一个实施例中，所述处理单元112对每个所述第二分表进行聚群处理，得到所述多个第二分表的多个第三分表包括：
计算多个所述第二分表中任意两个第二分表的海明距离，得到多个海明距离；
统计所述多个海明距离中小于第一预设阈值的目标海明距离的数量，并检测所述目标海明距离的数量是否小于第二预设阈值；
当所述目标海明距离的数量小于所述第二预设阈值时，计算所述目标海明距离指向的目标第二分表的重心，得到所述目标第二分表重心向量；
获取每个所述目标第二分表的第二分表向量；
根据所述重心向量及所述预设概率对所述目标第二分表向量进行调整，得到所述多个第三分表。
通过上述实施方式，能够使生成的所述多个第三分表比所述多个第二分表更适用于所述应用领域。
具体地，所述处理单元112计算多个所述第二分表中任意两个第二分表的海明距离的方式属于现有技术，本发明对此不再赘述。
具体地，所述处理单元112计算所述目标海明距离指向的目标第二分表的重心，得到所述目标第二分表重心向量包括：
获取所述目标第二分表的向量；
计算所述目标第二分表的向量的平均值，得到所述重心向量。
在本发明的至少一个实施例中，当所述目标海明距离的数量大于或者等于所述第二预设阈值时，对所述目标海明距离指向的目标第二分表进行追尾处理。
所述处理单元112对每个所述第三分表进行追尾处理，得到所述多个第三分表的多个第四分表。
在本发明的至少一个实施例中，所述处理单元112对每个所述第三分表进行追尾处理，得到所述多个第三分表的多个第四分表包括：
计算多个所述第三分表中任意两个第三分表的海明距离，得到多个分表距离；
在所述多个分表距离中选取小于所述第一预设阈值的分表距离作为目标距离，并将所述目标距离指向的第三分表确定为目标分表；
利用所述搜索系统计算所述目标分表的目标分数，并选取目标分数最高的目标分表作为待追尾分表；
计算所述待追尾分表与每个所述第三分表的海明距离，得到所述待追尾分表的多个海明距离；
统计所述待追尾分表的多个海明距离中小于所述第一预设阈值的待追尾分表的分表数量，并检测所述分表数量是否小于所述第二预设阈值；
当所述分表数量小于所述第二预设阈值时，获取所述待追尾分表的待追尾向量，并获取每个所述第三分表的第三分表向量；
根据所述待追尾向量及所述预设概率对所述第三分表向量进行调整，得到所述多个第四分表。
通过上述实施方式，能够使生成的所述多个第四分表更适用于所述应用领域。
在本发明的至少一个实施例中，当所述分表数量大于或者等于所述第二预设阈值时，所述处理单元112对每个所述第三分表进行随机行为处理。
调整单元113获取每个所述第四分表的初始向量，并根据配置概率调整每个所述初始向量，得到所述多个第四分表的变动向量。
在本发明的至少一个实施例中，所述配置概率可以根据所述应用领域自由配置。
在本发明的至少一个实施例中，所述调整单元113根据配置概率调整每个所述初始向量，得到所述多个第四分表的变动向量包括：
确定每个初始向量的向量维度；
将所述向量维度乘以所述配置概率，得到变动维度数量；
根据所述变动维度数量对每个初始向量的任意维度进行翻转处理，得到所述变动向量。
计算单元114根据所述变动向量确定与所述多个第四分表对应的多个第五分表，并利用所述搜索系统计算所述多个第五分表的分表分数。
在本发明的至少一个实施例中，所述变动向量中任意维度的维度值为0，即，所述任意维度在所述变动向量中对应的停用词不存在，所述变动向量中任意维度的维度值为1，即，所述任意维度在所述变动向量中对应的停用词存在，因此，所述计算单元114根据所述变动向量能够确定出与所述多个第四分表对应的多个第五分表。
在本发明的至少一个实施例中，所述计算单元114利用所述搜索系统计算所述多个第五分表的分表分数的方式与所述处理单元112利用所述搜索系统计算每个第一分表的初始分数的方式相同，本发明对此不再赘述。
所述确定单元110在所述多个第五分表中选取分表分数最高的第五分表作为所述目标停用词表。
需要强调的是，为进一步保证上述目标停用词表的私密和安全性，上述目标停用词表还可以存储于一区块链的节点中。
在本发明的至少一个实施例中，在所述多个第五分表中选取分表分数最高的第五分表作为所述目标停用词表后，更新单元115将所述目标停用词表更新至所述搜索系统中。
通过上述实施方式，能够确保所述搜索系统更适用于所述应用领域的搜索，从而提高所述搜索系统的搜索精度。
由以上技术方案可以看出，本发明通过对划分后的分表进行觅食处理、聚群处理、追尾处理以及随机行为处理，并利用与所述应用领域对应的搜索系统分析停用词表的分数，能够生成适用于所述应用领域的所述目标停用词表，从而能够提高搜索系统的搜索精度。此外，由于无需手动对开源停用词表进行增删操作，也无需人为统计词汇的使用量，因此，能够提高所述目标停用词表的生成效率。
如图3所示，是本发明实现停用词表生成方法的较佳实施例的电子设备的结构示意图。
在本发明的一个实施例中，所述电子设备1包括，但不限于，存储器12、处理器13，以及存储在所述存储器12中并可在所述处理器13上运行的计算机可读指令，例如停用词表生成程序。
本领域技术人员可以理解，所述示意图仅仅是电子设备1的示例，并不构成对电子设备1的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如所述电子设备1还可以包括输入输出设备、网络接入设备、总线等。
所述处理器13可以是中央处理单元(Central Processing Unit，CPU)，还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等，所述处理器13是所述电子设备1的运算核心和控制中心，利用各种接口和线路连接整个电子设备1的各个部分，及执行所述电子设备1的操作系统以及安装的各类应用程序、程序代码等。
示例性的，所述计算机可读指令可以被分割成一个或多个模块/单元，所述一个或者多个模块/单元被存储在所述存储器12中，并由所述处理器13执行，以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机可读指令段，该计算机可读指令段用于描述所述计算机可读指令在所述电子设备1中的执行过程。例如，所述计算机可读指令可以被分割成确定单元110、划分单元111、处理单元112、调整单元113、计算单元114及更新单元115。
所述存储器12可用于存储所述计算机可读指令和/或模块，所述处理器13通过运行或执行存储在所述存储器12内的计算机可读指令和/或模块，以及调用存储在存储器12内的数据，实现所述电子设备1的各种功能。所述存储器12可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据电子设备的使用所创建的数据等。存储器12可以包括非易失性和易失性存储器，例如：硬盘、内存、插接式硬盘，智能存储卡(SmartMedia Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(Flash Card)、至少一个磁盘存储器件、闪存器件、或其他存储器件。
所述存储器12可以是电子设备1的外部存储器和/或内部存储器。进一步地，所述存储器12可以是具有实物形式的存储器，如内存条、TF卡(Trans-flash Card)等等。
所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明实现上述实施例方法中的全部或部分流程，也可以通过计算机可读指令来指令相关的硬件来完成，所述的计算机可读指令可存储于一计算机可读存储介质中，该计算机可读指令在被处理器执行时，可实现上述各个方法实施例的步骤。
其中，所述计算机可读指令包括计算机可读指令代码，所述计算机可读指令代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括：能够携带所述计算机可读指令代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain)，本质上是一个去中心化的数据库，是一串使用密码学方法相关联产生的数据块，每一个数据块中包含了一批次网络交易的信息，用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
结合图1，所述电子设备1中的所述存储器12存储计算机可读指令实现一种停用词表生成方法，所述处理器13可执行所述计算机可读指令从而实现：
接收停用词表的生成请求，并确定所述停用词表的应用领域以及与所述应用领域对应的搜索系统；
按照随机抽取方式对预设停用词表进行划分，得到多个第一分表；
利用所述搜索系统计算每个第一分表的初始分数，并结合每个初始分数对每个第一分表进行觅食处理，得到所述多个第一分表的多个第二分表；
对每个所述第二分表进行聚群处理，得到所述多个第二分表的多个第三分表；
对每个所述第三分表进行追尾处理，得到所述多个第三分表的多个第四分表；
获取每个所述第四分表的初始向量，并根据配置概率调整每个所述初始向量，得到所述多个第四分表的变动向量；
根据所述变动向量确定与所述多个第四分表对应的多个第五分表，并利用所述搜索系统计算所述多个第五分表的分表分数；
在所述多个第五分表中选取分表分数最高的第五分表作为所述目标停用词表。
具体地，所述处理器13对上述计算机可读指令的具体实现方法可参考图1对应实施例中相关步骤的描述，在此不赘述。
在本发明所提供的几个实施例中，应该理解到，所揭露的系统，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。
所述计算机可读存储介质上存储有计算机可读指令，其中，所述计算机可读指令被处理器13执行时用以实现以下步骤：
接收停用词表的生成请求，并确定所述停用词表的应用领域以及与所述应用领域对应的搜索系统；
按照随机抽取方式对预设停用词表进行划分，得到多个第一分表；
利用所述搜索系统计算每个第一分表的初始分数，并结合每个初始分数对每个第一分表进行觅食处理，得到所述多个第一分表的多个第二分表；
对每个所述第二分表进行聚群处理，得到所述多个第二分表的多个第三分表；
对每个所述第三分表进行追尾处理，得到所述多个第三分表的多个第四分表；
获取每个所述第四分表的初始向量，并根据配置概率调整每个所述初始向量，得到所述多个第四分表的变动向量；
根据所述变动向量确定与所述多个第四分表对应的多个第五分表，并利用所述搜索系统计算所述多个第五分表的分表分数；
在所述多个第五分表中选取分表分数最高的第五分表作为所述目标停用词表。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能模块的形式实现。
因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本发明的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
此外，显然“包括”一词不排除其他单元或步骤，单数不排除复数。所述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第一、第二等词语用来表示名称，而并不表示任何特定的顺序。
最后应说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或等同替换，而不脱离本发明技术方案的精神和范围。
Claims (10)
1.一种停用词表生成方法，其特征在于，所述停用词表生成方法包括：
接收停用词表的生成请求，并确定所述停用词表的应用领域以及与所述应用领域对应的搜索系统；
按照随机抽取方式对预设停用词表进行划分，得到多个第一分表；
利用所述搜索系统计算每个第一分表的初始分数，并结合每个初始分数对每个第一分表进行觅食处理，得到所述多个第一分表的多个第二分表；
对每个所述第二分表进行聚群处理，得到所述多个第二分表的多个第三分表；
对每个所述第三分表进行追尾处理，得到所述多个第三分表的多个第四分表；
获取每个所述第四分表的初始向量，并根据配置概率调整每个所述初始向量，得到所述多个第四分表的变动向量；
根据所述变动向量确定与所述多个第四分表对应的多个第五分表，并利用所述搜索系统计算所述多个第五分表的分表分数；
在所述多个第五分表中选取分表分数最高的第五分表作为所述目标停用词表。
2.如权利要求1所述的停用词表生成方法，其特征在于，所述确定所述停用词表的应用领域以及与所述应用领域对应的搜索系统包括：
解析所述生成请求的报文，得到所述生成请求携带的数据信息；
从配置标签库中获取预设标签，所述预设标签用于指示搜索语句；
从所述数据信息中获取与所述预设标签相匹配的信息作为待搜索语句；
提取所述待搜索语句中的名词，并利用所述名词遍历领域库中的领域；
将与所述名词匹配成功的领域确定为所述应用领域；
获取所述应用领域的领域标识，并将与所述领域标识对应的系统确定为所述搜索系统。
3.如权利要求2所述的停用词表生成方法，其特征在于，所述利用所述搜索系统计算每个第一分表的初始分数包括：
利用每个所述第一分表对所述待搜索语句进行过滤，得到搜索词；
将所述搜索词输入至所述搜索系统中，得到多个候选语句；
计算所述待搜索语句与每个候选语句的相似度，并计算所述相似度的平均值，得到每个所述第一分表的初始分数。
4.如权利要求1所述的停用词表生成方法，其特征在于，所述结合每个初始分数对每个第一分表进行觅食处理，得到所述多个第一分表的多个第二分表包括：
获取每个所述第一分表的第一分表向量，并根据预设概率对所述第一分表向量进行调整，得到翻转向量；
根据所述翻转向量及所述第一分表确定翻转分表，并利用所述搜索系统计算所述翻转分表的翻转分数；
将每个初始分数与每个翻转分数进行比较；
当所述初始分数大于或者等于所述翻转分数时，将所述初始分数对应的第一分表确定为所述第二分表；或者
当所述初始分数小于所述翻转分数时，将所述翻转分数对应的翻转分表确定为所述第二分表。
5.如权利要求4所述的停用词表生成方法，其特征在于，所述对每个所述第二分表进行聚群处理，得到所述多个第二分表的多个第三分表包括：
计算多个所述第二分表中任意两个第二分表的海明距离，得到多个海明距离；
统计所述多个海明距离中小于第一预设阈值的目标海明距离的数量，并检测所述目标海明距离的数量是否小于第二预设阈值；
当所述目标海明距离的数量小于所述第二预设阈值时，计算所述目标海明距离指向的目标第二分表的重心，得到所述目标第二分表重心向量；
获取每个所述目标第二分表的第二分表向量；
根据所述重心向量及所述预设概率对所述目标第二分表向量进行调整，得到所述多个第三分表。
6.如权利要求4所述的停用词表生成方法，其特征在于，所述对每个所述第三分表进行追尾处理，得到所述多个第三分表的多个第四分表包括：
计算多个所述第三分表中任意两个第三分表的海明距离，得到多个分表距离；
在所述多个分表距离中选取小于所述第一预设阈值的分表距离作为目标距离，并将所述目标距离指向的第三分表确定为目标分表；
利用所述搜索系统计算所述目标分表的目标分数，并选取目标分数最高的目标分表作为待追尾分表；
计算所述待追尾分表与每个所述第三分表的海明距离，得到所述待追尾分表的多个海明距离；
统计所述待追尾分表的多个海明距离中小于所述第一预设阈值的待追尾分表的分表数量，并检测所述分表数量是否小于所述第二预设阈值；
当所述分表数量小于所述第二预设阈值时，获取所述待追尾分表的待追尾向量，并获取每个所述第三分表的第三分表向量；
根据所述待追尾向量及所述预设概率对所述第三分表向量进行调整，得到所述多个第四分表。
7.如权利要求1所述的停用词表生成方法，其特征在于，所述根据配置概率调整每个所述初始向量，得到所述多个第四分表的变动向量包括：
确定每个初始向量的向量维度；
将所述向量维度乘以所述配置概率，得到变动维度数量；
根据所述变动维度数量对每个初始向量的任意维度进行翻转处理，得到所述变动向量。
8.一种停用词表生成装置，其特征在于，所述停用词表生成装置包括：
确定单元，用于接收停用词表的生成请求，并确定所述停用词表的应用领域以及与所述应用领域对应的搜索系统；
划分单元，用于按照随机抽取方式对预设停用词表进行划分，得到多个第一分表；
处理单元，用于利用所述搜索系统计算每个第一分表的初始分数，并结合每个初始分数对每个第一分表进行觅食处理，得到所述多个第一分表的多个第二分表；
所述处理单元，还用于对每个所述第二分表进行聚群处理，得到所述多个第二分表的多个第三分表；
所述处理单元，还用于对每个所述第三分表进行追尾处理，得到所述多个第三分表的多个第四分表；
调整单元，用于获取每个所述第四分表的初始向量，并根据配置概率调整每个所述初始向量，得到所述多个第四分表的变动向量；
计算单元，用于根据所述变动向量确定与所述多个第四分表对应的多个第五分表，并利用所述搜索系统计算所述多个第五分表的分表分数；
所述确定单元，还用于在所述多个第五分表中选取分表分数最高的第五分表作为所述目标停用词表。
9.一种电子设备，其特征在于，所述电子设备包括：
存储器，存储有计算机可读指令；及
处理器，执行所述存储器中存储的计算机可读指令以实现如权利要求1至7中任意一项所述的停用词表生成方法。
10.一种计算机可读存储介质，其特征在于：所述计算机可读存储介质中存储有计算机可读指令，所述计算机可读指令被电子设备中的处理器执行以实现如权利要求1至7中任意一项所述的停用词表生成方法。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011307966.1A CN112395408B (zh) | 2020-11-19 | 2020-11-19 | 停用词表生成方法、装置、电子设备及存储介质 |
| PCT/CN2021/096634 WO2022105171A1 (zh) | 2020-11-19 | 2021-05-28 | 停用词表生成方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011307966.1A CN112395408B (zh) | 2020-11-19 | 2020-11-19 | 停用词表生成方法、装置、电子设备及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN112395408A true CN112395408A (zh) | 2021-02-23 |
| CN112395408B CN112395408B (zh) | 2023-11-07 |
Family
ID=74607693
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202011307966.1A Active CN112395408B (zh) | 2020-11-19 | 2020-11-19 | 停用词表生成方法、装置、电子设备及存储介质 |
Country Status (2)
| Country | Link |
|---|---|
| CN (1) | CN112395408B (zh) |
| WO (1) | WO2022105171A1 (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2022105171A1 (zh) * | 2020-11-19 | 2022-05-27 | 平安科技（深圳）有限公司 | 停用词表生成方法、装置、电子设备及存储介质 |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2016030730A1 (en) * | 2014-08-29 | 2016-03-03 | Yandex Europe Ag | Method for text processing |
| CN106682128A (zh) * | 2016-12-13 | 2017-05-17 | 成都数联铭品科技有限公司 | 多领域词典自动构建方法 |
| CN106951410A (zh) * | 2017-03-21 | 2017-07-14 | 北京三快在线科技有限公司 | 词库的生成方法、装置及电子设备 |
| CN110516261A (zh) * | 2019-09-03 | 2019-11-29 | 北京字节跳动网络技术有限公司 | 简历评估方法、装置、电子设备及计算机存储介质 |
| WO2020034810A1 (zh) * | 2018-08-14 | 2020-02-20 | 平安医疗健康管理股份有限公司 | 搜索方法、装置、计算机设备和存储介质 |
| CN111428488A (zh) * | 2020-03-06 | 2020-07-17 | 平安科技（深圳）有限公司 | 简历数据信息解析及匹配方法、装置、电子设备及介质 |
| CN111680529A (zh) * | 2020-06-11 | 2020-09-18 | 汪金玲 | 一种基于层聚合的机器翻译算法及装置 |
Family Cites Families (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103136355B (zh) * | 2013-03-05 | 2016-01-06 | 电子科技大学 | 一种基于自动阈值鱼群算法的文本聚类方法 |
| CN104143005B (zh) * | 2014-08-04 | 2017-09-12 | 五八同城信息技术有限公司 | 一种相关搜索系统及方法 |
| CN112395408B (zh) * | 2020-11-19 | 2023-11-07 | 平安科技（深圳）有限公司 | 停用词表生成方法、装置、电子设备及存储介质 |
-
2020
- 2020-11-19 CN CN202011307966.1A patent/CN112395408B/zh active Active
-
2021
- 2021-05-28 WO PCT/CN2021/096634 patent/WO2022105171A1/zh active Application Filing
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2016030730A1 (en) * | 2014-08-29 | 2016-03-03 | Yandex Europe Ag | Method for text processing |
| CN106682128A (zh) * | 2016-12-13 | 2017-05-17 | 成都数联铭品科技有限公司 | 多领域词典自动构建方法 |
| CN106951410A (zh) * | 2017-03-21 | 2017-07-14 | 北京三快在线科技有限公司 | 词库的生成方法、装置及电子设备 |
| WO2020034810A1 (zh) * | 2018-08-14 | 2020-02-20 | 平安医疗健康管理股份有限公司 | 搜索方法、装置、计算机设备和存储介质 |
| CN110516261A (zh) * | 2019-09-03 | 2019-11-29 | 北京字节跳动网络技术有限公司 | 简历评估方法、装置、电子设备及计算机存储介质 |
| CN111428488A (zh) * | 2020-03-06 | 2020-07-17 | 平安科技（深圳）有限公司 | 简历数据信息解析及匹配方法、装置、电子设备及介质 |
| CN111680529A (zh) * | 2020-06-11 | 2020-09-18 | 汪金玲 | 一种基于层聚合的机器翻译算法及装置 |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2022105171A1 (zh) * | 2020-11-19 | 2022-05-27 | 平安科技（深圳）有限公司 | 停用词表生成方法、装置、电子设备及存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| WO2022105171A1 (zh) | 2022-05-27 |
| CN112395408B (zh) | 2023-11-07 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110457672B (zh) | 关键词确定方法、装置、电子设备及存储介质 | |
| CN109271641B (zh) | 一种文本相似度计算方法、装置及电子设备 | |
| WO2019041520A1 (zh) | 基于社交数据的金融产品推荐方法、电子装置及介质 | |
| CN111985241B (zh) | 医学信息查询方法、装置、电子设备及介质 | |
| CN113283675B (zh) | 指标数据分析方法、装置、设备及存储介质 | |
| CN110765760A (zh) | 一种法律案件分配方法、装置、存储介质和服务器 | |
| CN114372060A (zh) | 数据存储方法、装置、设备及存储介质 | |
| CN112395408B (zh) | 停用词表生成方法、装置、电子设备及存储介质 | |
| WO2021174923A1 (zh) | 概念词序列生成方法、装置、计算机设备及存储介质 | |
| WO2021174924A1 (zh) | 信息生成方法、装置、电子设备及存储介质 | |
| CN113065947A (zh) | 数据处理方法、装置、设备及存储介质 | |
| CN113268597A (zh) | 文本分类方法、装置、设备及存储介质 | |
| CN111986771A (zh) | 医疗处方查询方法、装置、电子设备及存储介质 | |
| CN113420545B (zh) | 摘要生成方法、装置、设备及存储介质 | |
| US20230186212A1 (en) | System, method, electronic device, and storage medium for identifying risk event based on social information | |
| CN116503608A (zh) | 基于人工智能的数据蒸馏方法及相关设备 | |
| CN116450916A (zh) | 基于定段分级的信息查询方法、装置、电子设备及介质 | |
| CN113627186B (zh) | 基于人工智能的实体关系检测方法及相关设备 | |
| CN112949305B (zh) | 负反馈信息采集方法、装置、设备及存储介质 | |
| CN113486680B (zh) | 文本翻译方法、装置、设备及存储介质 | |
| CN113343700B (zh) | 数据处理方法、装置、设备及存储介质 | |
| CN114238296A (zh) | 产品指标数据展示方法、装置、设备及存储介质 | |
| CN113282218A (zh) | 多维报表生成方法、装置、设备及存储介质 | |
| CN112199494A (zh) | 医疗信息搜索方法、装置、电子设备及存储介质 | |
| CN113434273A (zh) | 数据处理方法、装置、系统及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 40041443 Country of ref document: HK |
|
| GR01 | Patent grant | ||
| GR01 | Patent grant |