CN116741396A - 文章归类方法和装置、电子设备和存储介质 - Google Patents
文章归类方法和装置、电子设备和存储介质 Download PDFInfo
- Publication number
- CN116741396A CN116741396A CN202310837345.1A CN202310837345A CN116741396A CN 116741396 A CN116741396 A CN 116741396A CN 202310837345 A CN202310837345 A CN 202310837345A CN 116741396 A CN116741396 A CN 116741396A
- Authority
- CN
- China
- Prior art keywords
- vector
- article
- cluster
- keyword
- vectors
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 66
- 239000013598 vector Substances 0.000 claims abstract description 631
- 238000005259 measurement Methods 0.000 claims abstract description 46
- 238000012545 processing Methods 0.000 claims abstract description 45
- 230000011218 segmentation Effects 0.000 claims abstract description 16
- 238000012216 screening Methods 0.000 claims abstract description 10
- 238000012549 training Methods 0.000 claims description 88
- 238000004364 calculation method Methods 0.000 claims description 36
- 238000013507 mapping Methods 0.000 claims description 25
- 230000002159 abnormal effect Effects 0.000 claims description 20
- 238000004590 computer program Methods 0.000 claims description 11
- 230000004931 aggregating effect Effects 0.000 claims description 7
- 238000006243 chemical reaction Methods 0.000 claims description 6
- 238000013473 artificial intelligence Methods 0.000 abstract description 15
- 238000005516 engineering process Methods 0.000 description 12
- 238000004891 communication Methods 0.000 description 10
- 238000003058 natural language processing Methods 0.000 description 10
- 238000004422 calculation algorithm Methods 0.000 description 7
- 230000008569 process Effects 0.000 description 5
- 230000006870 function Effects 0.000 description 4
- 238000010276 construction Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 230000003203 everyday effect Effects 0.000 description 3
- 238000011160 research Methods 0.000 description 3
- 230000002776 aggregation Effects 0.000 description 2
- 238000004220 aggregation Methods 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000018109 developmental process Effects 0.000 description 2
- 239000003814 drug Substances 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 230000007170 pathology Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 238000007418 data mining Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 206010012601 diabetes mellitus Diseases 0.000 description 1
- 230000006806 disease prevention Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 238000003064 k means clustering Methods 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 238000012552 review Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000000638 solvent extraction Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/70—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for mining of medical data, e.g. analysing previous cases of other patients
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/12—Use of codes for handling textual entities
- G06F40/151—Transformation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/194—Calculation of difference between files
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Computation (AREA)
- Evolutionary Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Computational Biology (AREA)
- Public Health (AREA)
- Medical Informatics (AREA)
- Pathology (AREA)
- Biomedical Technology (AREA)
- Databases & Information Systems (AREA)
- Primary Health Care (AREA)
- Epidemiology (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请实施例提供了一种文章归类方法和装置、电子设备和存储介质,属于人工智能及数字医疗技术领域。该方法包括:获取原始文章数据;对原始文章数据进行分词处理得到文章关键词;对文章关键词进行向量化处理得到关键词向量;其中,关键词向量包括聚类标识信息,聚类标识信息用于表征关键词向量的聚类状态;根据聚类标识信息从关键词向量中筛选出参考词向量;计算关键词向量和参考词向量之间的相似度得到相似度量数据;根据相似度量数据和预设的聚类参数对关键词向量进行聚类处理得到目标向量簇;根据目标向量簇将原始文章数据进行归类处理得到目标文章集。本申请实施例能够实现无标签的医疗文章数据的文章归类。
Description
技术领域
本申请涉及人工智能及数字医疗技术领域,尤其涉及一种文章归类方法和装置、电子设备和存储介质。
背景技术
随着数字医疗的发展,越来越多医疗软件开发了的医疗文章推荐功能,通过智能化方式推荐医疗文章给不同的用户,以实现医学知识的普及。但是为了实现智能化推荐,需要对医疗文章进行归类后,基于不同用户类型推荐不同文章类别的医疗文章。
相关技术中,医疗文章归类主要通过聚类算法实现,但是通过聚类算法进行医疗文章归类需要预先对文章进行标签设置。而对于没有标签的医疗文章,无法确定文章分类的数量,无法实现医疗文章归类。因此,如何实现无标签医疗文章的归类,成为了亟待解决的技术问题。
发明内容
本申请实施例的主要目的在于提出一种文章归类方法和装置、电子设备和存储介质,旨在实现无标签医疗文章的自动化归类。
为实现上述目的,本申请实施例的第一方面提出了一种文章归类方法,所述方法包括:
获取原始文章数据;
对所述原始文章数据进行分词处理,得到文章关键词;
对所述文章关键词进行向量化处理,得到关键词向量;其中,所述关键词向量包括聚类标识信息,所述聚类标识信息用于表征所述关键词向量的聚类状态;
根据所述聚类标识信息从所述关键词向量中筛选出参考词向量;
计算所述关键词向量和所述参考词向量之间的相似度,得到相似度量数据;
根据所述相似度量数据和预设的聚类参数对所述关键词向量进行聚类处理,得到目标向量簇;
根据所述目标向量簇将所述原始文章数据进行归类处理,得到目标文章集。
在一些实施例,所述聚类参数包括:预设相似度范围和预设数量阈值;所述根据所述相似度量数据和预设的聚类参数对所述关键词向量进行聚类处理,得到目标向量簇,包括:
将所述相似度量数据位于预设相似度范围的所述关键词向量进行聚合,得到候选向量簇;其中,所述参考词向量为所述候选向量簇的聚类中心;
对所述候选向量簇进行向量数量计算,得到候选向量数量;
将所述候选向量数量和所述预设数量阈值进行比对;
若所述候选向量数量大于或等于所述预设数量阈值,更新所述候选向量簇的聚类中心,并对所述候选向量簇进行更新处理,得到所述目标向量簇。
在一些实施例,在若所述候选向量数量大于或等于所述预设数量阈值,更新所述候选向量簇的聚类中心,并对所述候选向量簇进行更新处理,得到所述目标向量簇,包括:
若所述候选向量数量大于或等于所述预设数量阈值,从所述候选向量簇中提取出候选词向量;
对所述候选词向量和所述关键词向量进行相似度量计算,得到候选度量数据;
根据所述候选词向量对所述候选向量簇的聚类中心进行更新,并将所述候选度量数据位于所述预设相似度范围的所述关键词向量进行聚合,得到选定向量簇;
将所述选定向量簇和所述候选向量簇进行拼接处理,得到所述目标向量簇。
在一些实施例,所述根据所述目标向量簇将所述原始文章数据进行归类处理,得到目标文章集,包括:
对所述目标向量簇中的所述关键词向量进行标识处理,得到簇标识信息;
根据所述簇标识信息生成文章类别;
根据所述文章类别对所述原始文章数据进行归类,得到所述目标文章集。
在一些实施例,在所述将所述候选向量数量和所述预设数量阈值进行比对之后,所述方法还包括:
若所述候选向量数量小于所述预设数量阈值,将所述参考词向量进行异常标记,得到异常标识信息;
根据所述异常标识信息将所述参考词向量剔除。
在一些实施例,所述对所述文章关键词进行向量化处理,得到关键词向量,包括:
将所述文章关键词输入至预设的词向量生成模型;其中,所述词向量生成模型包括:输入层、映射层和输出层:
通过输入层对所述文章关键词进行词向量转换,得到词向量;
通过所述映射层、预设映射关系对所述词向量进行权重计算,得到词权重;
通过所述输出层将所述词向量和所述词权重进行概率计算,得到所述关键词向量。
在一些实施例,在将所述文章关键词输入至预设的词向量生成模型之前,所述方法还包括:
构建所述词向量生成模型,具体包括:
获取训练词集合;其中,所述训练词集合包括至少两个训练关键词;
将任意两个所述训练关键词构建成训练关键词对;
对所述训练关键词对中的所述训练关键词进行相似度计算,得到关键词相似度;
将所述训练关键词输入至预设的向量生成模型进行向量化处理,得到训练向量;
获取所述训练关键词对的所述训练向量,得到训练向量对;
对所述训练向量对的所述训练向量进行相似度计算,得到向量相似度;
根据所述关键词相似度和所述向量相似度对所述向量生成模型进行参数调整,得到所述词向量生成模型。
为实现上述目的,本申请实施例的第二方面提出了一种文章归类装置,所述装置包括:
数据获取模块,用于获取原始文章数据;
分词处理模块,用于对所述原始文章数据进行分词处理,得到文章关键词;
向量化模块,用于对所述文章关键词进行向量化处理,得到关键词向量;其中,所述关键词向量包括聚类标识信息,所述聚类标识信息用于表征所述关键词向量的聚类状态;
向量筛选模块,用于根据所述聚类标识信息从所述关键词向量中筛选出参考词向量;
相似度量模块,用于计算所述关键词向量和所述参考词向量之间的相似度,得到相似度量数据;
聚类处理模块,用于根据所述相似度量数据和预设的聚类参数对所述关键词向量进行聚类处理,得到目标向量簇;
归类模块,用于根据所述目标向量簇将所述原始文章数据进行归类处理,得到目标文章集。
为实现上述目的,本申请实施例的第三方面提出了一种电子设备,所述电子设备包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现上述第一方面所述的方法。
为实现上述目的,本申请实施例的第四方面提出了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述第一方面所述的方法。
本申请提出的文章归类方法和装置、电子设备和存储介质,其通过对原始文章数据进行分词处理得到文章关键词,再将文章关键词转换为关键词向量,以通过向量的形式表征文章关键词,根据聚类标识信息从关键词向量中筛选出参考词向量。对参考词向量和关键词向量进行相似度计算得到相似度量数据,以根据相似度量数据和预设的聚类参数将关键词向量进行聚类处理,以将与参考词向量相似的关键词向量聚合成一个目标向量簇,再根据目标向量簇将原始文章数据进行归类处理,也即将同一个目标向量簇对应原始文章数据合并成一个目标文章集,以实现无标签的原始文章数据的自动归类,无需提前对原始文章数据设置标签,且无需确定原始文章数据的分类数量也可以实现原始文章数据自动归类,以提高原始文章数据的归类效率。因此,实现无标签的医疗文章数据自动归类,即可实现医疗文章的智能化推荐。
附图说明
图1是本申请实施例提供的文章归类方法的流程图;
图2是图1中的步骤S103的流程图;
图3是本申请另一实施例提供的文章归类方法的流程图;
图4是图1中的步骤S106的流程图;
图5是图4中的步骤S404的流程图;
图6是本申请另一实施例提供的文章归类方法的流程图;
图7是图1中的步骤S107的流程图;
图8是本申请实施例提供的文章归类装置的结构示意图;
图9是本申请实施例提供的电子设备的硬件结构示意图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本申请,并不用于限定本申请。
需要说明的是,虽然在装置示意图中进行了功能模块划分,在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于装置中的模块划分,或流程图中的顺序执行所示出或描述的步骤。说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。
除非另有定义,本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同。本文中所使用的术语只是为了描述本申请实施例的目的,不是旨在限制本申请。
首先,对本申请中涉及的若干名词进行解析:
人工智能(artificial intelligence,AI):是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学;人工智能是计算机科学的一个分支,人工智能企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器,该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。人工智能可以对人的意识、思维的信息过程的模拟。人工智能还是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
自然语言处理(natural language processing,NLP):NLP用计算机来处理、理解以及运用人类语言(如中文、英文等),NLP属于人工智能的一个分支,是计算机科学与语言学的交叉学科,又常被称为计算语言学。自然语言处理包括语法分析、语义分析、篇章理解等。自然语言处理常用于机器翻译、手写体和印刷体字符识别、语音识别及文语转换、信息意图识别、信息抽取与过滤、文本分类与聚类、舆情分析和观点挖掘等技术领域,它涉及与语言处理相关的数据挖掘、机器学习、知识获取、知识工程、人工智能研究和与语言计算相关的语言学研究等。
词向量(Word embedding):词向量又叫Word嵌入式自然语言处理(NLP)中的一组语言建模和特征学习技术的统称,其中来自词汇表的单词或短语被映射到实数的向量。从概念上讲,它涉及从每个单词一维的空间到具有更低维度的连续向量空间的数学嵌入。
聚类:聚类即将物理或抽象对象的集合分成由类似的对象组成的多个类的过程。由聚类所生成的簇是一组数据对象的集合,这些对象与同一个簇中的对象彼此相似,与其他簇中的对象相异。
Word2vec模型:Word2vec模型为一群用来产生词向量的相关模型。这些模型为浅层双层的神经网络,用来训练以重新建构语言学之词文本。网络以词表现,并且需猜测相邻位置的输入词,在Word2vec中词袋模型假设下,词的顺序是不重要的。训练完成之后,Word2vec模型可用来映射每个词到一个向量,可用来表示词对词之间的关系。该向量为神经网络之隐藏层。
DBSCAN(Density-Based Spatial Clustering of Applications with Noise):DBSCAN是一个比较有代表性的基于密度的聚类算法。与划分和层次聚类方法不同,DBSCAN将簇定义为密度相连的点的最大集合,能够把具有足够高密度的区域划分为簇,并可在噪声的空间数据库中发现任意形状的聚类。
随着数字医疗的发展,越来越多医疗软件开发了的医疗文章推荐功能,通过智能化方式推荐医疗文章给不同的用户,以实现医学知识的普及。但是为了实现智能化推荐,需要对医疗文章进行归类后,基于不同用户类型推荐不同文章类别的医疗文章。
在医学软件的推荐系统中,每天都会产生海量的医疗文章数据,如何将不同的医疗文章数据进行归类是目前面临的难题。例如医疗文章归类,最原始的归类方法则是通过人工筛选分类,将每篇文章根据关键词或者文章内容来区分文章所属类别,然而随着文章数量增多,人工归类医疗文章需要耗费大量的时间和精力。
相关技术中,对医疗文章归类的方法主要有K-means和tf-idf组合完成。先通过切词工具对一篇文章进行标题切词,然后利用tf-idf算法将关键词转化为向量,再通过K-means聚类算法形成内容相近的K个簇。但是对于没有提前标签的文章,并不知道要将文章分多少类,所以K就难以确定,无法对没有标签的医疗文章进行归类处理。
基于此,本申请实施例提供了一种文章归类方法和装置、电子设备和存储介质,通过对原始文章数据进行分词处理得到文章关键词,再对文章关键词进行向量化处理得到关键词向量,且根据关键词向量的聚类标识信息从关键词向量中筛选出参考词向量,并计算参考词向量和关键词向量之间的相似度得到相似度量数据,以根据相似度量数据和预设聚类参数对关键词向量进行聚类得到目标向量簇,并根据目标向量簇将原始文章数据进行归类处理得到目标文章集合。无需提前对原始文章数据设置标签,且在不确定归类数量的前提下,也能够实现原始文章数据的自动归类。因此,基于向量相似度方式对医疗文章进行自动归类,以实现无标签的医疗文章自动且准确地归类,以便于基于医疗文章的类别实现智能化推荐。
本申请实施例提供的文章归类方法和装置、电子设备和存储介质,具体通过如下实施例进行说明,首先描述本申请实施例中的文章归类方法。
本申请实施例可以基于人工智能技术对相关的数据进行获取和处理。其中,人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
本申请实施例提供的文章归类方法,涉及人工智能及数字医疗技术领域。本申请实施例提供的文章归类方法可应用于终端中,也可应用于服务器端中,还可以是运行于终端或服务器端中的软件。在一些实施例中,终端可以是智能手机、平板电脑、笔记本电脑、台式计算机等;服务器端可以配置成独立的物理服务器,也可以配置成多个物理服务器构成的服务器集群或者分布式系统,还可以配置成提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN以及大数据和人工智能平台等基础云计算服务的云服务器;软件可以是实现文章归类方法的应用等,但并不局限于以上形式。
本申请可用于众多通用或专用的计算机系统环境或配置中。例如:个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、多处理器系统、基于微处理器的系统、置顶盒、可编程的消费电子设备、网络PC、小型计算机、大型计算机、包括以上任何系统或设备的分布式计算环境等等。本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
需要说明的是,在本申请的各个具体实施方式中,当涉及到需要根据用户信息、用户行为数据,用户历史数据以及用户位置信息等与用户身份或特性相关的数据进行相关处理时,都会先获得用户的许可或者同意,而且,对这些数据的收集、使用和处理等,都会遵守相关法律法规和标准。此外,当本申请实施例需要获取用户的敏感个人信息时,会通过弹窗或者跳转到确认页面等方式获得用户的单独许可或者单独同意,在明确获得用户的单独许可或者单独同意之后,再获取用于使本申请实施例能够正常运行的必要的用户相关数据。
图1是本申请实施例提供的文章归类方法的一个可选的流程图,图1中的方法可以包括但不限于包括步骤S101至步骤S107。
步骤S101,获取原始文章数据;
步骤S102,对原始文章数据进行分词处理,得到文章关键词;
步骤S103,对文章关键词进行向量化处理,得到关键词向量;其中,关键词向量包括聚类标识信息,聚类标识信息用于表征关键词向量的聚类状态;
步骤S104,根据聚类标识信息从关键词向量中筛选出参考词向量;
步骤S105,计算关键词向量和参考词向量之间的相似度,得到相似度量数据;
步骤S106,根据相似度量数据和预设的聚类参数对关键词向量进行聚类处理,得到目标向量簇;
步骤S107,根据目标向量簇将原始文章数据进行归类处理,得到目标文章集。
本申请实施例所示意的步骤S101至步骤S107,通过获取原始文章数据,对原始文章数据进行分词处理得到文章关键词,且每一文章关键词对应一个原始文章数据,并对文章关键词进行向量化处理得到关键词向量,关键词向量配置有表征聚类状态的聚类标识信息,以根据聚类标识信息从关键词向量中筛选出参考词向量。对参考词向量和关键词向量进行相似度计算得到相似度量数据,以根据相似度量数据和预设的聚类参数将关键词向量进行聚类处理,以将与参考词向量相似的关键词向量聚合成一个目标向量簇,再根据目标向量簇将原始文章数据进行归类处理,也即将同一个目标向量簇对应原始文章数据合并成一个目标文章集,以实现原始文章数据的自动归类,无需提前对原始文章数据设置标签,且无需确定原始文章数据的分类数量也可以实现原始文章数据自动归类,以提高原始文章数据的归类效率。因此,基于向量聚类方式实现无标签文章数据分类,即可实现医疗文章数据的自动分类,且分类精确度高,以便于后续基于医疗文章数据实现针对性地文章推荐。
在一些实施例的步骤S101中,通过采集多个网络平台的文章数据以得到原始文章数据,且可以在同一个网络平台采集原始网络数据,在此对原始文章数据的来源不做限制。例如,若网络平台为医疗类平台,由于医疗文章需要实时更新,所以每天都会存在大量的医学文章,且医学文章的文章类别多样,根据医疗文章类别划分医疗文章包括临床医疗类文章、基础医学类文章、临床实验室类文章、病理学类文章、药学类文章等,所以采集多种文章类别的原始文章数据,以实现不同原始文章数据的归类。其中,由于每天采集的新闻文章的文章类别并不清楚,且文章类别也会随着时间增多,所以文章类别的数量无法确定。因此,采集的原始文章数据未设置表征文章类别的标签信息,不清楚当前所采集的原始文章数据可以划分成多少文章类别,需要根据当前采集到的原始文章数据自动确定文章类别的数量。
在一些实施例的步骤S102中,对原始文章数据进行分词处理得到文章关键词,且一篇原始文章数据划分得到至少一个文章关键词,以通过文章关键词表征原始文章数据的文章内容。其中,为了提高原始文章数据归类的准确性,则对原始文章数据提取出至少两个文章关键词,以将至少两个文章关键词组合成关键词列表,以通过关键词列表表征原始文章数据。
具体地,通过对原始文章数据提取文章主标题、文章章节标题和文章内容,并对文章主标题、文章章节标题和文章内容进行关键词提取得到至少两个文章关键词,然后将至少两个文章关键词组合成关键词列表,以通过关键词列表表示原始文章数据。例如,若文章数据为医疗文章数据,关键词列表包括三个文章关键词,且关键词列表为【keyword1、keyword2、keyword3】,采集得到关键词列表为【健康、疾病防治、糖尿病】,并将关键词列表和原始文章数据进行关联得到文章关联信息。
请参阅图2,在一些实施例中,步骤S103可以包括但不限于包括步骤S201至步骤S204:
步骤S201,将文章关键词输入至预设的词向量生成模型;其中,词向量生成模型包括:输入层、映射层和输出层:
步骤S202,通过输入层对文章关键词进行词向量转换,得到词向量;
步骤S203,通过映射层、预设映射关系对词向量进行权重计算,得到词权重;
步骤S204,通过输出层将词向量和词权重进行概率计算,得到关键词向量。
在一些实施例的步骤S201中,词向量生成模型为Word2vec模型,且Word2vec模型能够使用向量表征文章关键词,且两个文章关键词越像,生成的关键词向量的相似度也越高,且两个关键词向量的距离越近。其中,词向量生成模型包括:输入层、映射层和输出层,以通过输入层、映射层和输出层输出能够准确表征文章关键词的关键词向量,以提高原始文章数据归类的准确率。
在一些实施例的步骤S202中,通过输入层对文章关键词进行词向量转换,也即针对将每一文章关键词转换为一个词向量,且每个词wi都有对应的词编号,以根据词编号从词表中找到对应的词向量。其中,词向量表示为一个维度为n的向量,也即词wi对应的第i个元素值非零,其余元素值为0。例如,w2=【0,1,0,……0】。因此,若文章关键词存在三个,以转换成三个词向量。
在一些实施例的步骤S203中,输入层和映射层之间设置一个预设映射关系,且预设映射关系包括词向量和权重的映射关系,通过映射层根据词向量从预设映射关系上查找出每一词向量的词权重,以根据词权重确定每一词向量的重要级别。
在一些实施例的步骤S204中,通过输出层将词向量和词权重进行概率计算,也即将词向量和词权重加权求和计算得到关键词向量,以通过关键词向量表征文章关键词,以便于通过关键词向量进行聚类。其中,关键词向量中每一个元素归一化到0-1之间的概率,且概率最大的就是文章关键词。
在本申请实施例所示意的步骤S201至步骤S204,通过将文章关键词输入至词向量生成模型,且词向量生成模型包括输入层、映射层和输出层,通过输入层将文章关键词进行词向量转换得到词向量,再通过映射层和预设映射关系对词向量进行权重计算得到词权重,以根据词权重和词向量进行加权求和计算得到关键词向量,且关键词向量中的每一元素以0-1之间的概率进行表示。因此,通过将文章关键词以关键词向量进行表示,且关键词列表以一个n维的Embedding向量表示,以便于通过Embedding向量进行聚类计算。
在一些实施例的步骤S201之前,该文章归类方法还包括预先训练词向量生成模型,该词向量生成模型用于将上下文相似的文章关键词生成相似的关键词向量,以便于根据关键词向量进行聚类计算,使得文章归类更加准确。具体地,该词向量生成模型为Word2vec模型,且词向量生成模型还可以为BERT模型、CBOW模型,在此对于词向量生成模型的类型不做限制。
请参阅图3,在一些实施例中,构建词向量生成模型,可以包括但不限于包括步骤S301至步骤S307:
步骤S301,获取训练词集合;其中,训练词集合包括至少两个训练关键词;
步骤S302,将任意两个训练关键词构建成训练关键词对;
步骤S303,对训练关键词对中的训练关键词进行相似度计算,得到关键词相似度;
步骤S304,将训练关键词输入至预设的向量生成模型进行向量化处理,得到训练向量;
步骤S305,获取训练关键词对的训练向量,得到训练向量对;
步骤S306,对训练向量对的训练向量进行相似度计算,得到向量相似度;
步骤S307,根据关键词相似度和向量相似度对向量生成模型进行参数调整,得到词向量生成模型。
在一些实施例的步骤S301中,获取包括至少两个训练关键词的训练词集合,训练词集合从训练数据库提取,也可以直接从互联网平台采集训练关键词,且本实施例对于训练关键词的获取方式不做具体限制。
在一些实施例的步骤S302中,从训练词集合中获取任意两个训练关键词作训练关键词对,以通过构建训练关键词对进行相似度计算和向量相似度计算,即可针对性地对模型进行调节。
在一些实施例的步骤S303中,对训练关键词对的两个训练关键词进行相似度计算得到关键词相似度,以也即计算两个训练关键词的语义相似度,且通过采用平均互信息来计算两个训练关键词之间的相似度。因此,通过关键词相似度确定两个训练关键词的语义是否相似。
在一些实施例的步骤S304中,将训练关键词输入至预设的向量生成模型,以通过向量生成模型对训练关键词进行向量化处理得到训练向量。其中,向量生成模型与词向量生成模型的结构一致,向量生成模型也包括输入层、映射层和输出层,以通过输入层、映射层和输出层将训练关键词转化为训练向量。
在一些实施例的步骤S305中,获取训练关键词对的训练向量,也即获取训练关键词对的两个训练关键词的两个训练向量,将两个训练向量组合形成训练向量对。
在一些实施例的步骤S306中,计算训练向量对的两个训练向量的相似度得到向量相似度。通过计算两个训练向量之间欧式距离,也即将两个训练向量作为两个点,以计算这两个点之间的直线距离以得到欧式距离,以欧式距离作为向量相似度。除此之外,对两个训练向量的相似度计算还可以采用曼哈顿距离法、切比雪夫距离法、马氏距离法和夹角余弦,且对训练向量的相似度计算方法不做具体限制。
在一些实施例的步骤S307中,为了词向量生成模型能够对于语义相似的两个文章关键词生成相似的关键词向量。获取同一训练关键词对的关键词相似度和向量相似度,以根据关键词相似度和向量相似度对向量生成模型进行参数调整以得到词向量生成模型。因此,根据关键词向量对向量生成模型进行参数调整,直至向量生成模型输出的训练向量的向量相似度逼近关键词相似度,以得到词向量生成模型。
在本申请实施例所示意的步骤S301至步骤S307,通过将任意两个训练关键词构建成训练关键词对,并对训练关键词对的两个训练关键词进行相似度计算得到关键词相似度,且将训练关键词对的两个训练关键词输入至预设的向量生成模型进行向量化处理得到训练向量,并对训练关键词对的两个训练向量进行相似度计算得到向量相似度。根据关键词相似度和向量相似度对向量生成模型进行参数调整,使得关键词相似度和向量相似度逼近以得到词向量生成模型。因此,通过构建能够将两个语义相似的文章关键词生成相似的关键词向量的词向量生成模型,则通过词向量生成模型输出的关键词向量进行聚类处理得到目标向量簇,以根据目标向量簇对原始文章数据进行分类处理得到的目标文章集更加准确,实现原始文章数据的精准分类。因此,通过计算相似度之后,基于向量相似度进行聚类以目标向量簇形式表征医疗文章的类别,以实现医疗文章的精准分类。
在一些实施例的步骤S104中,获取关键词向量的聚类标识信息,且聚类标识信息表征关键词向量的聚类状态,也即表征关键词向量是否被聚类处理。因此,根据聚类标识信息从关键词向量中筛选出参考词向量,也即获取聚类标识信息表征聚类状态为未聚类的关键词向量作为参考词向量,减少关键词向量反复成为聚类的参考词向量,使得关键词向量聚类操作更加高效。
需要说明的是,在初次对关键词向量进行聚类前,则每一个关键词向量的聚类状态都为未聚类,则随机选择一个关键词向量作为参考词向量。完成一次聚类后,则需要根据聚类标识信息从关键词向量中筛选出参考词向量,减少已经聚类的关键词向量再次进行聚类操作,以提高聚类操作的效率。
在一些实施例的步骤S105中,通过对每一关键词向量和参考词向量进行相似度计算得到相似度量数据,以通过相似度量数据判断关键词向量是否能与参考词向量作为同一簇。其中,对关键词向量和参考词向量进行相似度计算,主要计算每一关键词向量和参考词向量之间的欧式距离,以将欧式距离作为相似度量数据。因此,通过欧式距离作为相似度量数据,以根据欧式距离对关键词向量进行聚类处理更加简易。
请参阅图4,在一些实施例中,聚类参数包括:预设相似度范围和预设数量阈值;步骤S106可以包括但不限于包括步骤S401至步骤S404:
步骤S401,将相似度量数据位于预设相似度范围的关键词向量进行聚合,得到候选向量簇;其中,参考词向量为候选向量簇的聚类中心;
步骤S402,对候选向量簇进行向量数量计算,得到候选向量数量;
步骤S403,将候选向量数量和预设数量阈值进行比对;
步骤S404,若候选向量数量大于或等于预设数量阈值,更新候选向量簇的聚类中心,并对候选向量簇进行更新处理,得到目标向量簇。
在一些实施例的步骤S401中,将参考词向量作为候选向量簇的聚类中心,以将相似度量数据位于预设相似度范围的关键词向量进行聚合得到候选向量簇。其中,若相似度量数据为欧式距离,则预设相似度范围则为扫描半径,以将参考词向量作为候选向量簇的聚类中心,并根据扫描半径对关键词向量进行扫描,以将欧式距离在扫描半径的关键词向量聚合得到候选向量簇,使得关键词向量的聚合操作简易。
需要说明的是,将关键词向量进行聚合算法为DBSCAN算法,DBSCAN算法能够将高密度的区域划分为簇,也即将欧式距离在扫描半径的关键词向量组成候选向量簇。
在一些实施例的步骤S402和步骤S403中,由于候选向量簇并不能直接作为目标向量簇,仍需要对候选向量簇进行筛选,以对候选向量簇进行向量数量计算得到候选向量数量,并将候选向量数量和预设数量阈值进行比较。由于候选向量数量小于预设数量阈值,则表示参考词向量附近没有足够多的关键词向量,则无法将候选向量簇作为文章归类的目标向量簇。若候选向量数量等于或大于预设数量阈值,则表示候选向量簇中的关键词向量足够,且候选向量簇能够作为文章归类的目标向量簇。因此,通过将候选向量簇的候选向量数量和预设数量阈值进行比对,以判断候选向量簇是否可以作为文章分类的目标向量簇,使得文章归类更加合理。
在一些实施例的步骤S404中,若候选向量数量大于或者等于预设数量阈值,也即表示候选向量簇的关键词向量足够多,且候选向量簇可以作为文章归类目标向量簇,则需要对候选向量簇进行更新,以实现候选向量簇的充分扩展。因此,对候选向量簇的聚类中心进行更换以实现候选向量簇的更新,最后得到目标向量簇,以实现向量自动聚类,无需提前指定簇的数量即可实现关键词向量的自动聚类,以实现医疗文章自动归类,并提高医疗文章归类的效率。
在本申请实施例所示意的步骤S401至步骤S404,通过将参考词向量作为候选向量簇的聚类中心,将相似度量数据位于预设相似度范围内的关键词向量进行聚合得到候选向量簇,并对候选向量簇进行向量数量计算得到候选向量数量。将候选向量数量和预设数量阈值进行比对,若候选向量数量大于预设数量阈值,则表示候选向量簇可以作为文章分类的目标向量簇,需要对候选向量簇进行充分扩展,以将候选向量簇的聚类中心进行更换,以对候选向量簇进行更新得到目标向量簇。因此,在候选向量储量满足预设数量阈值时,并切换候选向量簇的聚类中心实现候选向量簇的更新以得到目标向量簇,以实现关键词向量的自动聚类,无需提前设置簇的个数也能够进行向量簇构建。
请参阅图5,在一些实施例中,步骤S404还可以包括但不限于包括步骤S501至步骤S504:
步骤S501,若候选向量数量大于或等于预设数量阈值,从候选向量簇中提取出候选词向量;
步骤S502,对候选词向量和关键词向量进行相似度量计算,得到候选度量数据;
步骤S503,根据候选词向量对候选向量簇的聚类中心进行更新,并将候选度量数据位于预设相似度范围的关键词向量进行聚合,得到选定向量簇;
步骤S504,将选定向量簇和候选向量簇进行拼接处理,得到目标向量簇。
在一些实施例的步骤S501中,若候选向量数量大于或等于预设数量阈值,从候选向量簇中提取候选词向量,也即从候选向量簇中提取不为参考词向量的关键词向量作为候选词向量,且逐个提取关键词向量作为候选词向量。例如,若参考词向量为A,预设数量阈值为3,且候选向量簇为【A,B,C,D,E】,由此可知候选向量簇的候选向量数量为5,则从候选向量簇中提取候选词向量为【B,C,D,E】中的任意一个,则按照顺序先将B作为候选词向量,完成候选词向量B的聚类中心更新后,再获取C作为候选词向量。
在一些实施例的步骤S502中,计算每一关键词向量和候选词向量的相似度得到候选度量数据,且候选度量数据的计算方式和相似度量数据一致,都是以欧式距离确定候选度量数据,以便于根据欧式距离能够快速扫描到关键词向量,以实现候选向量簇的更新。
在一些实施例的步骤S503中,根据候选词向量对候选向量簇的聚类中心进行更新,也即将候选向量簇的聚类中心由参考词向量更换为候选词向量。若候选词向量存在多个,则需要将多个候选词向量替换候选向量簇的聚类中心。然后将候选度量数据在预设相似度范围的关键词向量进行聚合得到选定向量簇,以得到一个新的选定向量簇。若更新了候选向量簇的聚类中心,但是没有候选度量数据位于预设相似度范围的关键词向量,则保持原始的候选向量簇作为目标向量簇。
例如,若候选词向量为【B,C,D,E】,则先将候选词向量B作为候选向量簇的聚类中心,再将候选词向量C作为候选向量簇的聚类中心,以根据候选词向量更换候选向量簇的聚类中心,以实现候选向量簇的更新。当候选词向量B作为候选向量簇的聚类中心,则以候选词向量B对周围的关键词向量进行扫描,若存在关键词向量F、G、H,则将关键词向量F、G、H聚合成为一个选定向量簇。然后继续更换候选向量簇的聚类中心对关键词向量继续聚类处理,直至候选向量簇内所有的关键词向量都作为候选向量簇的聚类中心再结束聚类操作,以得到多个选定向量簇。
在一些实施例的步骤S504中,将更新候选向量簇的聚类中心以聚合关键词向量得到选定向量簇,然后将选定向量簇和候选向量簇进行拼接以得到目标向量簇,以实现候选向量簇的充分扩展和自动聚类。因此,无需提前对原始文章数据进行标签设置,则对于不确定簇的数量,也可以自动化实现关键词向量的聚类以形成对应的簇。
在本申请实施例的步骤S501至步骤S504,在候选向量数量大于或等于预设数量阈值时,从候选向量簇提取候选词向量,计算每一关键词向量和候选词向量的相似度得到候选度量数据,再将候选向量簇的聚类中心设置为候选词向量,以将候选度量数据位于预设相似度范围的关键词向量进行聚合得到选定向量簇,然后将选定向量簇和候选向量簇进行拼接处理得到目标向量簇。因此,通过自动对关键词向量进行聚类,无需提前设置簇的数量即可实现簇的充分扩展得到目标向量簇,以便于根据目标向量簇进行原始文章数据的归类更加高效。
请参阅图6,在一些实施例,在步骤S403之后,该文章归类方法还包括但不限于包括步骤S601至步骤S602:
步骤S601,若候选向量数量小于预设数量阈值,将参考词向量进行异常标记,得到异常标识信息;
步骤S602,根据异常标识信息将参考词向量剔除。
在一些实施例的步骤S601中,当候选向量数量小于预设数量阈值,则表示候选向量簇不能作为文章分类的目标向量簇,作为候选向量簇的聚类中心的参考词向量为一个噪声向量,则对参考词向量进行异常标记得到异常标识信息。因此,对噪声向量的参考词向量进行标记处理得到异常标识信息,以根据异常标识信息识别出异常的关键词向量,而不会将异常的关键词向量也划分到别的目标向量簇中,以影响文章分类的准确性。
在一些实施例的步骤S602中,根据异常标识信息对参考词向量进行剔除,以减少后续聚类操作将异常的参考词向量划入对应的簇,使得目标向量簇构建更加准确。
需要说明的是,若参考词向量对应的原始文章数据的文章类别从没有出现过,则根据参考词向量会远离其他关键词向量,则对参考词向量进行异常标记得到异常标识信息,以通过异常标识信息确定哪一个参考词向量为异常向量,并剔除参考词向量,则后续的聚类不会将异常的参考词向量划入对应的目标向量簇中,以提高目标向量簇构建的准确性,实现原始文章数据的准确归类,也即实现无标签医疗文章的精确分类。
在本申请所示意的步骤S601至步骤S602,在候选向量数量小于预设数量阈值时,将参考词向量进行异常标记得到异常标识信息,以根据异常标识信息将异常的参考词向量剔除,以防止后续聚类将异常的参考词向量划分到目标向量簇中,以减少原始文章数据归类的异常影响,从而提高原始文章数据归类的准确率。
请参阅图7,在一些实施例中,步骤S107可以包括但不限于包括步骤S701至步骤S703:
步骤S701,对目标向量簇中的关键词向量进行标识处理,得到簇标识信息;
步骤S702,根据簇标识信息生成文章类别;
步骤S703,根据文章类别对原始文章数据进行归类,得到目标文章集。
在一些实施例的步骤S701中,当生成目标向量簇后,对目标向量簇的关键词向量进行标识处理,以赋予关键词向量一个簇标识信息,以根据簇标识信息确定哪一个关键词向量属于同一目标向量簇,以便于将同一个簇标识信息的关键词向量的原始文章数据划分为同一个目标文章集。例如,将临床医学类文章划分为同一个目标文章集,以确定目标文章集的文章类别为临床医学类。
在一些实施例的步骤S702中,根据簇标识信息生成文章类别,也即自动生成多个目标向量簇后,自动确定文章类别,无需提前知晓每一原始文章数据的文章类别也可以实现文章归类。例如,若簇标识信息存在四个,且四个簇标识信息为P1、P2、P3、P4,则根据簇标识信息确定四种文章类别,且分别为第一类别、第二类别、第三类别和第四类别,以对无标签的原始文章数据自动确定文章类别和文章类别的数量。若第一类别为临床医学类,第二类别为基础医学类,第三类别为病理学类,第四类别为药学类,以自动划分无标签的医学文章的类别划分。
在一些实施例的步骤S703中,根据文章类别对原始文章数据进行归类,也即将同一文章类别的关键词向量对应的原始文章数据划分成一个目标文章集,以实现原始文章数据的自动归类。因此,无需提前设置文章类别的数量即可实现原始文章数据归类操作,且原始文章数据自动归类,提升原始文章数据归类的效率。
在本申请实施例的步骤S701至步骤S703,通过对目标向量簇的关键词向量进行标识处理得到簇标识信息,且同一个目标向量簇的关键词向量具备同一个簇标识信息,再根据簇标识信息生成文章类别,使得文章类别自动确定,则根据簇标识信息的数量即可确定文章类别的数量,然后将文章类别对应的关键词向量的原始文章数据归为一个目标文章集,以实现在不确定文章类别和文章类别的数量的情况下也能够实现原始文章数据的归类操作,使得原始文章数据归类更加高效。
本申请实施例获取原始文章数据,对原始文章数据进行分词处理得到文章关键词,且一篇原始文章数据划分得到至少一个文章关键词,并将文章关键词组合形成关键词列表,将关键词列表中的每一文章关键词输入至Word2vec模型,且Word2vec模型包括输入层、映射层和输出层,通过输入层对文章关键词转换为词向量,通过映射层根据词向量从预设映射关系上查找出每一词向量的词权重,通过输出层将词向量和词权重加权求和计算得到关键词向量。由于语义相似的文章关键词,生成的关键词向量也相似。获取聚类标识信息表征聚类状态为未聚类的关键词向量作为参考词向量,对每一关键词向量和参考词向量进行相似度计算得到相似度量数据,将参考词向量作为候选向量簇的聚类中心,将相似度量数据位于预设相似度范围内的关键词向量进行聚合得到候选向量簇,并对候选向量簇进行向量数量计算得到候选向量数量。将候选向量数量和预设数量阈值进行比对,若候选向量数量大于预设数量阈值,表示候选向量簇可以作为文章分类的目标向量簇,则从候选向量簇提取候选词向量,计算每一关键词向量和候选词向量的相似度得到候选度量数据,再将候选向量簇的聚类中心设置为候选词向量,以将候选度量数据位于预设相似度范围的关键词向量进行聚合得到选定向量簇,然后将选定向量簇和候选向量簇进行拼接处理得到目标向量簇。对目标向量簇的关键词向量进行标识处理得到簇标识信息,且同一个目标向量簇的关键词向量具备同一个簇标识信息,再根据簇标识信息生成文章类别,并根据文章类别对原始文章数据进行归类处理得到目标文章集。因此,对于海量难以确定文章类别和文章类别的个数的医疗文章数据,通过将文章关键词转换为不同维度的关键词向量,然后将关键词向量自动聚类形成目标向量簇,再将同一目标向量簇的原始文章数据划分为同一目标文章集,实现医疗文章数据自动归类,且自动确定每一医疗文章数据的文章类别和文章类别的数量,不仅提高了医疗文章归类效率,还提高医疗文章归类的准确率。
请参阅图8,本申请实施例还提供一种文章归类装置,可以实现上述文章归类方法,该装置包括:
数据获取模块801,用于获取原始文章数据;
分词处理模块802,用于对原始文章数据进行分词处理,得到文章关键词;
向量化模块803,用于对文章关键词进行向量化处理,得到关键词向量;其中,关键词向量包括聚类标识信息,聚类标识信息用于表征关键词向量的聚类状态;
向量筛选模块804,用于根据聚类标识信息从关键词向量中筛选出参考词向量;
相似度量模块805,用于计算关键词向量和参考词向量之间的相似度,得到相似度量数据;
聚类处理模块806,用于根据相似度量数据和预设的聚类参数对关键词向量进行聚类处理,得到目标向量簇;
归类模块807,用于根据目标向量簇将原始文章数据进行归类处理,得到目标文章集。
该文章归类装置的具体实施方式与上述文章归类方法的具体实施例基本相同,在此不再赘述。
本申请实施例还提供了一种电子设备,电子设备包括存储器和处理器,存储器存储有计算机程序,处理器执行计算机程序时实现上述文章归类方法。该电子设备可以为包括平板电脑、车载电脑等任意智能终端。
请参阅图9,图9示意了另一实施例的电子设备的硬件结构,电子设备包括:
处理器901,可以采用通用的CPU(CentralProcessingUnit,中央处理器)、微处理器、应用专用集成电路(ApplicationSpecificIntegratedCircuit,ASIC)、或者一个或多个集成电路等方式实现,用于执行相关程序,以实现本申请实施例所提供的技术方案;
存储器902,可以采用只读存储器(ReadOnlyMemory,ROM)、静态存储设备、动态存储设备或者随机存取存储器(RandomAccessMemory,RAM)等形式实现。存储器902可以存储操作系统和其他应用程序,在通过软件或者固件来实现本说明书实施例所提供的技术方案时,相关的程序代码保存在存储器902中,并由处理器901来调用执行本申请实施例的文章归类方法;
输入/输出接口903,用于实现信息输入及输出;
通信接口904,用于实现本设备与其他设备的通信交互,可以通过有线方式(例如USB、网线等)实现通信,也可以通过无线方式(例如移动网络、WIFI、蓝牙等)实现通信;
总线905,在设备的各个组件(例如处理器901、存储器902、输入/输出接口903和通信接口904)之间传输信息;
其中处理器901、存储器902、输入/输出接口903和通信接口904通过总线905实现彼此之间在设备内部的通信连接。
本申请实施例还提供了一种计算机可读存储介质,该计算机可读存储介质存储有计算机程序,该计算机程序被处理器执行时实现上述文章归类方法。
存储器作为一种非暂态计算机可读存储介质,可用于存储非暂态软件程序以及非暂态性计算机可执行程序。此外,存储器可以包括高速随机存取存储器,还可以包括非暂态存储器,例如至少一个磁盘存储器件、闪存器件、或其他非暂态固态存储器件。在一些实施方式中,存储器可选包括相对于处理器远程设置的存储器,这些远程存储器可以通过网络连接至该处理器。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
本申请实施例提供的文章归类方法和装置、电子设备和存储介质,其通过对原始文章数据进行分词处理得到文章关键词,并将文章关键词进行向量化处理得到关键词向量,以采用向量的形式表征文章关键词,且根据聚类标识信息从关键词向量筛选出参考词向量,以计算每一关键词向量和参考词向量之间的相似度得到相似度量数据,根据相似度量数据和预设的聚类参数对关键词向量进行聚类处理得到目标向量簇,以实现向量自动聚类,则根据目标向量簇对原始文章数据进行归类得到目标文章集。因此,对无标签的医疗文章数据,也即不清楚文章类别和文章类别的数量也能够实现医疗文章数据的归类操作,以提高医疗文章数据的归类效率,以便于基于不同医疗文章的类别实现智能化推荐,以便于用户可以查阅符合自己喜好的医疗文章,提升医疗知识。
本申请实施例描述的实施例是为了更加清楚的说明本申请实施例的技术方案,并不构成对于本申请实施例提供的技术方案的限定,本领域技术人员可知,随着技术的演变和新应用场景的出现,本申请实施例提供的技术方案对于类似的技术问题,同样适用。
本领域技术人员可以理解的是,图中示出的技术方案并不构成对本申请实施例的限定,可以包括比图示更多或更少的步骤,或者组合某些步骤,或者不同的步骤。
以上所描述的装置实施例仅仅是示意性的,其中作为分离部件说明的单元可以是或者也可以不是物理上分开的,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
本领域普通技术人员可以理解,上文中所公开方法中的全部或某些步骤、系统、设备中的功能模块/单元可以被实施为软件、固件、硬件及其适当的组合。
本申请的说明书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
应当理解,在本申请中,“至少一个(项)”是指一个或者多个,“多个”是指两个或两个以上。“和/或”,用于描述关联对象的关联关系,表示可以存在三种关系,例如,“A和/或B”可以表示:只存在A,只存在B以及同时存在A和B三种情况,其中A,B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达,是指这些项中的任意组合,包括单项(个)或复数项(个)的任意组合。例如,a,b或c中的至少一项(个),可以表示:a,b,c,“a和b”,“a和c”,“b和c”,或“a和b和c”,其中a,b,c可以是单个,也可以是多个。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,上述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
上述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括多指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例的方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,简称ROM)、随机存取存储器(Random Access Memory,简称RAM)、磁碟或者光盘等各种可以存储程序的介质。
以上参照附图说明了本申请实施例的优选实施例,并非因此局限本申请实施例的权利范围。本领域技术人员不脱离本申请实施例的范围和实质内所作的任何修改、等同替换和改进,均应在本申请实施例的权利范围之内。
Claims (10)
1.一种文章归类方法,其特征在于,所述方法包括:
获取原始文章数据;
对所述原始文章数据进行分词处理,得到文章关键词;
对所述文章关键词进行向量化处理,得到关键词向量;其中,所述关键词向量包括聚类标识信息,所述聚类标识信息用于表征所述关键词向量的聚类状态;
根据所述聚类标识信息从所述关键词向量中筛选出参考词向量;
计算所述关键词向量和所述参考词向量之间的相似度,得到相似度量数据;
根据所述相似度量数据和预设的聚类参数对所述关键词向量进行聚类处理,得到目标向量簇;
根据所述目标向量簇将所述原始文章数据进行归类处理,得到目标文章集。
2.根据权利要求1所述的方法,其特征在于,所述聚类参数包括:预设相似度范围和预设数量阈值;所述根据所述相似度量数据和预设的聚类参数对所述关键词向量进行聚类处理,得到目标向量簇,包括:
将所述相似度量数据位于预设相似度范围的所述关键词向量进行聚合,得到候选向量簇;其中,所述参考词向量为所述候选向量簇的聚类中心;
对所述候选向量簇进行向量数量计算,得到候选向量数量;
将所述候选向量数量和所述预设数量阈值进行比对;
若所述候选向量数量大于或等于所述预设数量阈值,更新所述候选向量簇的聚类中心,并对所述候选向量簇进行更新处理,得到所述目标向量簇。
3.根据权利要求2所述的方法,其特征在于,在若所述候选向量数量大于或等于所述预设数量阈值,更新所述候选向量簇的聚类中心,并对所述候选向量簇进行更新处理,得到所述目标向量簇,包括:
若所述候选向量数量大于或等于所述预设数量阈值,从所述候选向量簇中提取出候选词向量;
对所述候选词向量和所述关键词向量进行相似度量计算,得到候选度量数据;
根据所述候选词向量对所述候选向量簇的聚类中心进行更新,并将所述候选度量数据位于所述预设相似度范围的所述关键词向量进行聚合,得到选定向量簇;
将所述选定向量簇和所述候选向量簇进行拼接处理,得到所述目标向量簇。
4.根据权利要求3所述的方法,其特征在于,所述根据所述目标向量簇将所述原始文章数据进行归类处理,得到目标文章集,包括:
对所述目标向量簇中的所述关键词向量进行标识处理,得到簇标识信息;
根据所述簇标识信息生成文章类别;
根据所述文章类别对所述原始文章数据进行归类,得到所述目标文章集。
5.根据权利要求2所述的方法,其特征在于,在所述将所述候选向量数量和所述预设数量阈值进行比对之后,所述方法还包括:
若所述候选向量数量小于所述预设数量阈值,将所述参考词向量进行异常标记,得到异常标识信息;
根据所述异常标识信息将所述参考词向量剔除。
6.根据权利要求1至5任一项所述的方法,其特征在于,所述对所述文章关键词进行向量化处理,得到关键词向量,包括:
将所述文章关键词输入至预设的词向量生成模型;其中,所述词向量生成模型包括:输入层、映射层和输出层:
通过输入层对所述文章关键词进行词向量转换,得到词向量;
通过所述映射层、预设映射关系对所述词向量进行权重计算,得到词权重;
通过所述输出层将所述词向量和所述词权重进行概率计算,得到所述关键词向量。
7.根据权利要求6所述的方法,其特征在于,在将所述文章关键词输入至预设的词向量生成模型之前,所述方法还包括:
构建所述词向量生成模型,具体包括:
获取训练词集合;其中,所述训练词集合包括至少两个训练关键词;
将任意两个所述训练关键词构建成训练关键词对;
对所述训练关键词对中的所述训练关键词进行相似度计算,得到关键词相似度;
将所述训练关键词输入至预设的向量生成模型进行向量化处理,得到训练向量;
获取所述训练关键词对的所述训练向量,得到训练向量对;
对所述训练向量对的所述训练向量进行相似度计算,得到向量相似度;
根据所述关键词相似度和所述向量相似度对所述向量生成模型进行参数调整,得到所述词向量生成模型。
8.一种文章归类装置,其特征在于,所述装置包括:
数据获取模块,用于获取原始文章数据;
分词处理模块,用于对所述原始文章数据进行分词处理,得到文章关键词;
向量化模块,用于对所述文章关键词进行向量化处理,得到关键词向量;其中,所述关键词向量包括聚类标识信息,所述聚类标识信息用于表征所述关键词向量的聚类状态;
向量筛选模块,用于根据所述聚类标识信息从所述关键词向量中筛选出参考词向量;
相似度量模块,用于计算所述关键词向量和所述参考词向量之间的相似度,得到相似度量数据;
聚类处理模块,用于根据所述相似度量数据和预设的聚类参数对所述关键词向量进行聚类处理,得到目标向量簇;
归类模块,用于根据所述目标向量簇将所述原始文章数据进行归类处理,得到目标文章集。
9.一种电子设备,其特征在于,所述电子设备包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现权利要求1至7任一项所述的文章归类方法。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的文章归类方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310837345.1A CN116741396A (zh) | 2023-07-07 | 2023-07-07 | 文章归类方法和装置、电子设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310837345.1A CN116741396A (zh) | 2023-07-07 | 2023-07-07 | 文章归类方法和装置、电子设备和存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116741396A true CN116741396A (zh) | 2023-09-12 |
Family
ID=87909719
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310837345.1A Pending CN116741396A (zh) | 2023-07-07 | 2023-07-07 | 文章归类方法和装置、电子设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116741396A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117789907A (zh) * | 2024-02-28 | 2024-03-29 | 山东金卫软件技术有限公司 | 基于多源数据融合的智慧医疗数据智能管理方法 |
-
2023
- 2023-07-07 CN CN202310837345.1A patent/CN116741396A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117789907A (zh) * | 2024-02-28 | 2024-03-29 | 山东金卫软件技术有限公司 | 基于多源数据融合的智慧医疗数据智能管理方法 |
CN117789907B (zh) * | 2024-02-28 | 2024-05-10 | 山东金卫软件技术有限公司 | 基于多源数据融合的智慧医疗数据智能管理方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111708873A (zh) | 智能问答方法、装置、计算机设备和存储介质 | |
CN112149400B (zh) | 一种数据处理方法、装置、设备及存储介质 | |
CN116994709B (zh) | 一种个性化的饮食与运动推荐方法、系统及电子设备 | |
CN113704428A (zh) | 智能问诊方法、装置、电子设备及存储介质 | |
CN112163097A (zh) | 一种军事知识图谱构建方法及系统 | |
CN113779429A (zh) | 交通拥堵态势预测方法、装置、设备及存储介质 | |
CN114360731A (zh) | 一种面向老年照护的医养结合知识服务系统构建方法 | |
CN115640394A (zh) | 文本分类方法、文本分类装置、计算机设备及存储介质 | |
CN114519356A (zh) | 目标词语的检测方法、装置、电子设备及存储介质 | |
CN116741396A (zh) | 文章归类方法和装置、电子设备和存储介质 | |
CN116719999A (zh) | 文本相似度检测方法和装置、电子设备及存储介质 | |
CN116701604A (zh) | 问答语料库的构建方法和装置、问答方法、设备及介质 | |
CN116775875A (zh) | 问题语料库构建方法和装置、问答方法、设备及存储介质 | |
CN116127066A (zh) | 文本聚类方法、文本聚类装置、电子设备及存储介质 | |
CN114398903B (zh) | 意图识别方法、装置、电子设备及存储介质 | |
CN115270746A (zh) | 问题样本生成方法和装置、电子设备及存储介质 | |
CN115204300A (zh) | 文本和表格语义交互的数据处理方法、装置及存储介质 | |
CN114896294A (zh) | 产品测试数据表生成方法、装置、设备及存储介质 | |
CN114627282A (zh) | 目标检测模型的建立方法、应用方法、设备、装置及介质 | |
CN114360715A (zh) | 体质辨识方法、装置、电子设备及存储介质 | |
CN114329068B (zh) | 一种数据处理方法及装置、电子设备、存储介质 | |
CN117315737A (zh) | 面部信息识别方法、系统、电子设备及存储介质 | |
CN115292479A (zh) | 文本推荐方法、文本推荐装置、电子设备及存储介质 | |
CN116703620A (zh) | 理赔预测方法、理赔预测装置、电子设备及存储介质 | |
CN117610529A (zh) | 基于预训练模型的自然语言处理方法以及相关设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |