CN114661990A - 数据预测及模型训练的方法、装置、设备、介质及产品 - Google Patents
数据预测及模型训练的方法、装置、设备、介质及产品 Download PDFInfo
- Publication number
- CN114661990A CN114661990A CN202210290742.7A CN202210290742A CN114661990A CN 114661990 A CN114661990 A CN 114661990A CN 202210290742 A CN202210290742 A CN 202210290742A CN 114661990 A CN114661990 A CN 114661990A
- Authority
- CN
- China
- Prior art keywords
- association
- degree
- prediction
- association degree
- prediction result
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 69
- 238000012549 training Methods 0.000 title claims abstract description 52
- 238000013145 classification model Methods 0.000 claims abstract description 103
- 238000012216 screening Methods 0.000 claims description 13
- 238000003860 storage Methods 0.000 claims description 12
- 238000004590 computer program Methods 0.000 claims description 11
- 238000012937 correction Methods 0.000 claims description 3
- 238000001914 filtration Methods 0.000 claims 1
- 239000000126 substance Substances 0.000 claims 1
- 238000011282 treatment Methods 0.000 abstract description 6
- 238000013473 artificial intelligence Methods 0.000 abstract description 5
- 201000010099 disease Diseases 0.000 description 44
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 44
- 238000010586 diagram Methods 0.000 description 13
- 238000004891 communication Methods 0.000 description 8
- 230000000694 effects Effects 0.000 description 8
- 238000012545 processing Methods 0.000 description 8
- 230000008569 process Effects 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 206010012601 diabetes mellitus Diseases 0.000 description 4
- 206010058467 Lung neoplasm malignant Diseases 0.000 description 3
- 201000005202 lung cancer Diseases 0.000 description 3
- 208000020816 lung neoplasm Diseases 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000004821 distillation Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000002372 labelling Methods 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 238000013526 transfer learning Methods 0.000 description 2
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 2
- 208000031226 Hyperlipidaemia Diseases 0.000 description 1
- 206010028980 Neoplasm Diseases 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000009223 counseling Methods 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 201000001421 hyperglycemia Diseases 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000000474 nursing effect Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 230000002265 prevention Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 208000024891 symptom Diseases 0.000 description 1
- 238000011269 treatment regimen Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
- G06F16/9535—Search customisation based on user profiles and personalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
- G06F16/9538—Presentation of query results
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H40/00—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
- G16H40/60—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
- G16H40/67—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for remote operation
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/20—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Biomedical Technology (AREA)
- Public Health (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Epidemiology (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Primary Health Care (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- General Business, Economics & Management (AREA)
- Business, Economics & Management (AREA)
- Pathology (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了一种数据预测及模型训练的方法、装置、设备、介质及产品,涉及人工智能技术领域,尤其涉及AI医疗以及智能搜索领域。具体实现方案为:获取查询信息;对所述查询信息进行关键词匹配,确定第一预测结果;调用文本分类模型对所述查询信息进行预测,得到第二预测结果;根据所述第一预测结果和所述第二预测结果,得到目标预测结果。通过本公开利用关键词词表对查询信息进行预测,得到高准确率的第一预测结果,同时利用文本分类模型对查询信息进行预测得到的第二预测结果,能够提供目标预测结果的全面性。
Description
技术领域
本公开涉及人工智能技术领域,尤其涉及数据预测和AI医疗领域。
背景技术
随着人工智能的发展,可以实现根据已输入的数据预测用户期望。数据预测技术可以应用于在线医疗平台。用户可以通过在线医疗平台进行咨询或疾病诊断。在线医疗平台根据用户输入的查询内容进行用户关注疾病的预测和判断,根据预测结果为用户后续就医提供帮助。例如,向用户推荐对应疾病经验丰富的医生。
发明内容
本公开提供了一种用于数据预测及模型训练的方法、装置、设备、介质及产品。
根据本公开的一方面,提供了一种数据预测方法,包括:获取查询信息;对所述查询信息进行关键词匹配,确定第一预测结果;调用文本分类模型对所述查询信息进行预测,得到第二预测结果;根据所述第一预测结果和所述第二预测结果,得到目标预测结果。
根据本公开的另一方面,提供了一种训练文本分类模型的方法,包括:
确定关联程度预测模型,以及用于训练文本分类模型的第一样本集;利用所述关联程度预测模型,预测所述第一样本集中第一样本的对象和关联程度,并将所述对象和关联程度作为所述第一样本的伪标签,所述关联程度为所述第一样本与对象的关联程度;利用关键词词表纠正所述伪标签,将所述第一样本集中各第一样本和纠正后的伪标签,作为第二样本集;基于所述第二样本集,训练文本分类模型。
根据本公开的另一方面,提供了一种数据预测装置,包括:获取单元,用于获取查询信息;第一预测单元,用于对所述查询信息进行关键词匹配,确定第一预测结果;第二预测单元,用于调用文本分类模型对所述查询信息进行预测,得到第二预测结果;结果单元,用于根据所述第一预测结果和所述第二预测结果,得到目标预测结果。
根据本公开的另一方面,提供了一种训练文本分类模型的模型,包括:确定单元,用于确定关联程度预测模型,以及用于训练文本分类模型的第一样本集;预测单元,用于利用所述关联程度预测模型,预测所述第一样本集中第一样本的对象和关联程度,并将所述对象和关联程度作为所述第一样本的伪标签,所述关联程度为所述第一样本与对象的关联程度;纠正单元,用于利用关键词词表纠正所述伪标签,将所述第一样本集中各第一样本和纠正后的伪标签,作为第二样本集;训练单元,用于基于所述第二样本集,训练文本分类模型。
根据本公开的又一方面,提供了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行所述的方法。
根据本公开的又一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行所述的方法。
根据本公开的又一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现所述的方法。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开实施例提供的数据预测方法的流程图;
图2是根据本公开实施例提供的确定第一预测结果的流程图;
图3是根据本公开实施例提供的确定第二预测结果的流程图;
图4是根据本公开实施例提供的确定目标预测结果的流程图;
图5是根据本公开实施例提供的离线部分数据处理的示意图;
图6是根据本公开实施例提供的在线部分数据处理的示意图;
图7是根据本公开实施例提供的训练文本分类模型的方法流程图;
图8是根据一示例性实施例示出的一种数据预测装置框图;
图9是根据一示例性实施例示出的一种训练文本分类模型的装置框图;
图10是用来实现本公开实施例的数据预测方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
本公开可以应用于在线医疗场景,具体为根据用户输入的查询信息query预测用户关注的疾病。根据预测得到的疾病向用户推荐相应的服务,例如向用户推荐该疾病对应的科室、建议就诊的医院、经验丰富的医生,以及对应的预防/治疗和/或护理的方式方法等。相关技术中,在线医疗平台通过下列三种方案,在检测到用户输入的查询信息时,预测用户关注的疾病。用户输入的查询信息为具有多样性和口语化特点的自然语言。在进行预测时可以从查询信息中提取出关键词,再针对关键词进行处理,之后预测与查询信息对应的疾病。为了更清楚的说明本公开,下述实施例对相关技术中的三种方案进行简要说明。
第一种是基于关键词词表匹配,列举每个疾病下的关键词。在关键词词表中搜索用户输入的关键词。若在关键词词表中搜索到与用户输入的关键词相匹配的关键词,则将相匹配的关键词对应的疾病作为预测结果。该方案的准确率较高,但受限于用户输入查询信息的表达形式多样,无法枚举出召回率高的关键词词表。例如对于同一症状不同的用户输入的查询信息不同,若关键词词表中未录入符合用户表达习惯的关键词,则不能得到准确的预测结果。
第二种是利用机器学习的文本分类模型预测输入的查询信息对应的疾病。该方案预测的准确性取决于文本分类模型的迁移学习能力。示例的,使用携带有标注数据的样本数据训练预训练语言模型(Bidirectional Encoder Representations fromTransformer,BERT),robert等模型,直到模型预测数据与标注数据之间满足收敛条件,则完成对模型的训练。利用训练好的模型对查询信息进行预测,得到对应疾病。方案二的实质在于通过迁移学习对语义信息的提前学习记忆,在少样本的场景下也可得到较好的效果,但泛化效果难以控制,恶劣案例case出现的可能性极大,且过大的模型导致其难以应用在正式线上场景。
第三种是为了提高泛化效果,在方案二的基础上,基于数据蒸馏的深度学习模型获取伪标签。之后利用带有伪标签的训练样本训练用于预测疾病的文本分类模型。相比于方案二而言,方案三采用更丰富的训练样本训练文本分类模型,能够提高模型的泛化效果,但是泛化效果仍然难以控制,且恶劣案例可能会在蒸馏过程中被放大。
鉴于此,本公开提供了一种用于在线医疗中的数据预测方法。本公开结合关键词词表和文本分类模型对查询信息进行预测,通过合并关键词词表的预测结果和文本分类模型的预测结果,得到最终的目标预测结果。本公开通过文本分类模型能够弥补由于查询信息的口语化表达,导致关键词词表召回率低的缺陷,进而提高预测结果的准确度。另外,本公开采用关键词词表对训练文本分类模型的样本集进行纠正,提高文本分类模型泛化效果,减少文本分类模型泛化带来的恶劣案例。
将本公开应用于在线医疗平台,通过用户输入的查询信息预测用户关注的疾病,属于一种具体的实施方式,但本公开不限于在线医疗平台。故,本公开下述实施例将结合附图,从概括的角度说明本公开提供的一种数据预测方法。
图1是根据本公开实施例提供的数据预测方法的流程图;如图1所示,本公开提供的数据预测方法,包括以下步骤S101-S104。
在步骤S101中,获取查询信息。
在一例中,本公开的查询信息可以为用户登录在线医疗系统后,输入的查询信息。用户期望通过查询信息得到关注的结果。示例的,查询信息可以为“糖尿病怎么治”,通过本公开提供的方案预测用户关注的疾病为糖尿病。其他第三方服务可以基于本公开的预测结果,向用户提供治疗方案。
在步骤S102中,对查询信息中的关键词进行关键词匹配,确定第一预测结果。
本公开中可以基于关键词词表对查询信息中的关键词进行关键词匹配。本公开中的关键词词表是基于疾病关键词的同义词、下位词和医学知识进行构建。关键词词表中包含关键词-关键词表征的疾病。确定查询信息中的关键词。在关键词词表中搜索查询信息中的关键词。若存在搜索结果,则将搜索到的关键词对应的疾病作为查询信息表征的疾病。
在步骤S103中,调用文本分类模型对查询信息进行预测,得到第二预测结果。
将查询信息输入文本分类模型,并将文本分类模型的输出结果作为第二预测结果。
在步骤S104中,根据第一预测结果和第二预测结果,得到目标预测结果。
采用关键词词表和文本分类模型对同一查询信息进行预测,可以得到下列情况:情况1,关键词词表对应的第一预测结果为空,且文本分类模型对应的第二预测结果也为空,则目标预测结果为空。情况2,关键词词表对应有第一预测结果,但文本分类模型对应的第二预测结果为空,则目标预测结果为第一预测结果。情况3,关键词词表对应的第一预测结果为空,但文本分类模型对应有第二预测结果,则目标预测结果为第二预测结果。情况4,关键词词表对应有第一预测结果,且文本分类模型对应有第二预测结果,则去除第一预测结果和第二预测结果中重复的预测结果,且将去重后的第一预测结果和第二预测结果作为目标预测结果。在目标预测结果中第一预测结果的置信度高于第二预测结果。即,在排序时第一预测结果比第二预测结果靠前。
通过本公开提供的数据预测方法,利用对查询信息进行预测,得到高准确率的第一预测结果,同时利用文本分类模型对查询信息进行预测得到的第二预测结果,能够提高目标预测结果的全面性。
在本公开实施例中,为了便于对预测结果进行筛选提高预测结果的准确性,本公开的关键词词表中存储有具有关联关系的关键词、对象和关联程度。其中对象为关键词表征的对象。关联程度为关键词与对象间的关联程度。示例的,当本公开应用于在线医疗平台时,对象是指疾病,关键词为表征疾病的关键词,而关联程度是指疾病与表征疾病的关键词之间的关联程度。一例中,关键词肺癌,与疾病肺癌之间是第一关联程度。关键词肿瘤,与疾病肺癌之间是第二关联程度。可见,本公开中第一关联程度的关联程度强于第二关联程度的关联程度。可以将第一关联程度看作是强关联,将第二关联程度看作是中弱关联。需说明,本公开划分了两级关联程度,分别为第一关联程度和第二关联程度。但并不限于仅划分两级关联程度,为了提高预测精度,可以根据实际需要划分多级关联程度。
在本公开中可以根据海量场景中关键词与对象的关联关系,确定关键词与对象的关联程度。
本公开将结合附图2说明利用关键词词表得到第一预测结果。图2是根据本公开实施例提供的确定第一预测结果的流程图;如图2所示,本公开中对查询信息中的关键词进行关键词匹配,确定第一预测结果,包括以下步骤S201-S203。
在步骤S201中,在关键词词表中搜索查询信息中的关键词。
确定查询信息中的关键词。在关键词词表中搜索关键词,确定关键词词表中与该关键词匹配的目标关键词。
在步骤S202中,若在关键词词表中搜索到与查询信息中的关键词匹配的目标关键词,则将目标关键词对应的对象作为第一对象,并基于目标关键词与对象间的关联程度,建立第一对象与查询信息的关联程度。
在本公开的关键词词表中包括有对象和关键词的关联程度。在关键词词表中匹配到与关键词对应的目标关键词后,将目标关键词对应的对象作为第一对象,并将目标关键词与对象间的关联程度,作为第一对象与查询信息间的关联程度。
在步骤S203中,将第一对象,以及第一对象与查询信息的关联程度,确定为查询信息表征的第一预测结果。
本公开在关键词词表中增加关键词与对象间的关联程度,相比与相关技术而言,为后续选择目标预测结果时提供依据,能够提高目标预测结果的准确度。
本公开调用的文本分类模型为预先训练好的文本分类模型。训练文本分类模型的样本集中包括有样本和伪标签。其中伪标签指对象和关联程度。对象是样本表征的对象。关联程度是样本中的关键词与对象间的关联程度。本公开为了提高文本分类模型的泛化能力,利用关键词词表纠正伪标签,以提高用于训练文本分类模型的样本集的准确性。
本公开将结合附图3说明利用文本分类模型得到第二预测结果。图3是根据本公开实施例提供的确定第二预测结果的流程图;如图3所示,本公开中调用文本分类模型对查询信息进行预测,得到第二预测结果,包括以下步骤S301-S302。
在步骤S301中,将查询信息输入文本分类模型,输出第二对象和第二对象与查询信息间的关联程度。
利用训练好的文本分类模型预测用户输入的查询信息中表征的第二对象,以及第二对象与查询信息间的关联程度。
在步骤S302中,将第二对象,以及第二对象与查询信息间的关联程度,作为第二预测结果。
本公开利用高泛化能力的文本分类模型得到的第二预测结果,降低恶劣预测结果发生的概率,增加目标预测结果的召回率。
在本公开实施例中,将通过关键词词表得到的第一预测结果和通过文本分类模型得到的第二预测结果进行合并,去除重复的预测结果,并对第一预测结果和第二预测结果进行排序,得到目标预测结果。在一例中,排序规则可以为先是第一关联程度的对象,然后是第二关联程度的对象。在第一关联程度的对象排列中第一对象在先,第二对象在后。在第二关联程度的对象排列中第一对象在先,第二对象在后。
本公开将结合附图4说明根据第一预测结果和第二预测结果得到目标预测结果的过程。图4是根据本公开实施例提供的确定目标预测结果的流程图;如图4所示,本公开中根据第一预测结果和第二预测结果,得到目标预测结果,包括以下步骤S401-S404。
在步骤S401中,在第一预测结果中,确定查询信息与第一对象的关联程度,并在第二预测结果中,确定查询信息与第二对象的关联程度。
在步骤S402a中,若查询信息与第一对象或第二对象的关联程度为第一关联程度,则将第一关联程度的第一对象和/或第二对象,作为第一类预测目标对象。
在步骤S402b中,若查询信息与第一对象或第二对象的关联程度为第二关联程度,则基于历史查询特征对第二关联程度的第一对象和/或第二对象进行筛选,得到第二类预测目标对象。
本公开中第一关联程度的关联程度强于第二关联程度的关联程度。
在本公开中将第一关联程度的对象直接作为第一预测目标对象。将第二关联程度的对象利用历史查询特征进行筛选。本公开中的历史查询特征是指利用关键词词表和文本分类模型对用户已查询信息进行预测,得到的特征。历史查询特征也可以称为用户画像,利用用户画像表征用户的历史特征。
本公开中历史查询特征采用下列方式确定:获取用户的已查询信息。本公开中,已查询信息均是在用户同意并允许的情况下获取的。基于关键词词表对已查询信息中的关键词进行关键词匹配,确定已查询信息表征的第一历史对象,以及第一历史对象与已查询信息间的关联程度。调用文本分类模型对已查询信息进行预测,得到已查询信息表征的第二历史对象,以及第二历史对象与已查询信息间的关联程度。从关联程度中筛选出第一关联程度,并统计查询第一关联程度对应的历史对象的查询次数,历史对象包括第一历史对象和/或第二历史对象。将第一关联程度对应的历史对象,以及历史对象的查询次数,作为历史查询特征。
在本公开中通过关键词词表和文件分类模型选出第一关联程度的历史对象,并统计用户查询第一关联程度的历史对象的查询次数。将第一关联程度对应的历史对象,以及历史对象的查询次数,作为历史查询特征有利于从第一预测结果和第二预测结果中确定出目标预测结果。
在一种实施方式中,历史查询特征可以为糖尿病-10次,高血糖-8次,高血脂-7次。在历史查询特征中出现的疾病是被用户多次查询的疾病,说明用户关注该疾病的概率较大。
本公开通过关键词词表和文件分类模型对用户的已查询信息进行预测,根据预测结果确定历史查询特征。将历史查询特征作为筛选目标预测结果的依据,能够提高目标预测结果的准确性。
在步骤S403中,将第一类预测目标对象和第二类预测目标对象,确定为查询信息表征的目标预测结果。
在本公开中有多个目标预测结果时,可以按照第一类预测目标对象的优先级高于第二类预测目标对象的规则对多个目标预测结果进行排序。在第一类预测对象中,由关键词词表得到的第一对象的优先级高于由文本分类模型得到的第二对象的优先级。同样在第二类预测对象中,由关键词词表得到的第一对象的优先级高于由文本分类模型得到的第二对象的优先级。
本公开将第一关联程度的对象直接作为第一类预测目标对象,而对第二关联程度的对象基于历史查询特征进行筛选后作为第二类预测目标对象。以此,提高目标预测结果的精确性。
在本公开中基于历史查询特征对第二关联程度的第一对象和/或第二对象进行筛选,得到第二类预测目标对象,包括若历史查询特征中存在第二关联程度的第一对象和/或第二对象,且查询第一对象和/或第二对象的查询次数大于阈值,则将第一对象和/或第二对象,作为第二类预测目标对象。
本公开在预先建立用户标识与历史查询特征间的映射关系。用户标识可以为用户ID。根据用户ID以及用户ID与历史查询特征间的映射关系,确定历史查询特征。基于历史查询特征对第二关联程度的第一对象和/或第二对象进行筛选。若历史查询特征中包含有第二关联程度的第一对象和/或第二对象,则说明用户历史查询第一对象和/或第二对象的关联程度为第一关联程度。即用户关注第一对象和/或第二对象的概率较大。为了精确查询信息表征的目标预测结果,判断查询第一对象和/或第二对象的查询次数与阈值的关系。将查询第一对象和/或第二对象的查询次数大于阈值的第一对象和/或第二对象,作为第二类预测目标对象。
本公开通过历史查询特征中的查询次数,删除不满足要求的对象。即通过层层筛选,最终确定第二类预测目标对象,缩小第二类预测目标对象的数量,提高第二类预测目标对象的精确度。
为了更清楚的说明本公开提供的数据预测方法,本公开以在线医疗场景为例,说明在线医疗场景中利用本公开预测疾病的过程。
在一种实施方式中,数据预测方法包括两部分,分别为离线部分和在线部分。离线部分可以理解为预先处理的部分,例如整理得到的关键词词表、训练文本分类模型以及生成用户画像。在线部分为检测到查询信息输入操作,调用关键词词表以及文本分类模型对查询信息进行预测,得到目标预测结果。基于目标预测结果为用户提供治疗方案,注意事项等。
本公开将结合附图5说明离线部分的准备过程。图5是根据本公开实施例提供的离线部分数据处理的示意图;如图5所示,在离线部分需整理得到关键词词表、训练文本分类模型,并生成用户画像。通过图5可以看出,本公开利用关键词词表纠正用于训练文本分类模型的样本集。利用关键词词表和文本分类模型对所有用户的已查询信息进行预测,生成用户画像。
在本公开中收集关键词的同义词,下位词以及医学知识,生成待选词表。根据不同场景确定关键词与疾病间的关联程度。基于疾病-关键词-关联程度生成关键词词表。在本公开中,获取包括关键词-疾病的第一类样本,对第一类样本进行精确标注,得到已标注的第一类样本。利用已标注的第一类样本训练关联程度预测模型。利用训练好的关联程度预测模型预测未标注的第二类样本,得到带有伪标签的第二类样本。利用关键词词表纠正带有伪标签的第二类样本。利用纠正后的第二类样本训练文本分类模型。利用文本分类模型和关键词词表预测用户已查询信息,得到用户画像。
接着,本公开将结合附图6说明在线部分的执行过程。图6是根据本公开实施例提供的在线部分数据处理的示意图;如图6所示,在线部分基于输入的查询信息query和用户标识user_id,利用关键词词表、文本分类模型和用户画像,得到第一类预测疾病和第二类预测疾病。具体过程包括将查询信息query分别输入关键词词表和文本分类模型,得到第一关联程度的疾病和第二关联程度的疾病。将第一关联程度的疾病作为第一类预测疾病。利用用户标识user_id确定用户画像。利用用户画像对第二关联程度的疾病进行筛选,得到第二类预测疾病。将第一类预测疾病和第二类预测疾病作为目标疾病。根据实际需要利用目标疾病为用户提供相应的服务。
下述实施例结合附图说明本公开提供的一种训练文本分类模型的方法。图7是根据本公开实施例提供的训练文本分类模型的方法流程图;如图7所示,本公开提供的训练文本分类模型的方法,包括步骤S701-S704。
在步骤S701中,确定关联程度预测模型,以及用于训练文本分类模型的第一样本集。
利用带有伪标签的海量样本训练文本分类模型,能够提高文本分类模型的预测准确度。但通过人工标注获得带有伪标签的海量样本,需要耗费很大的精力。鉴于此,本公开通过人工标注一部分训练样本,通过已标注的部分训练样本训练关联程度预测模型。利用完成训练的关联程度预测模型预测海量未标注的样本,得到海量带有伪标签的样本。利用海量带有伪标签的样本训练文本分类模型。本公开将未标注的样本称为第一样本集。
在步骤S702中,利用关联程度预测模型,预测第一样本集中第一样本的对象和关联程度,并将对象和关联程度作为第一样本的伪标签。
本公开中关联程度为第一样本与对象的关联程度。
在步骤S703中,利用关键词词表纠正伪标签,将第一样本集中各第一样本和纠正后的伪标签,作为第二样本集。
利用关联程度预测模型得到的伪标签存在泛化,利用带有关联程度预测模型得到的伪标签直接训练文本分类模型时,会导致泛化效果难以控制。鉴于此,本公开利用关键词词表纠正伪标签。将第一样本集中各第一样本和与各第一样本对应的纠正后的伪标签,作为第二样本集。
在步骤S704中,基于第二样本集,训练文本分类模型。
本公开利用关键词词表纠正后的伪标签训练文本分类模型,能够提高文本分类模型的泛化效果。
在本公开中,利用关键词词表纠正伪标签的过程包括:确定第一样本的第一样本关键词。在关键词词表中搜索第一样本关键词对应的对象以及关联程度。若搜索到的对象和关联程度与伪标签不一致,则纠正伪标签。
关键词词表中存储信息置信度高,利用关键词词表纠正关联程度预测模型得到的伪标签,能够降低伪标签的出错概率。
在本公开中,基于第二样本集,训练文本分类模型,包括:将第二样本集中的第二样本输入文本分类模型,输出与第二样本对应的预测结果。其中预测结果包括预测对象和预测关联程度。基于第二样本对应的预测结果和第二样本对应的伪标签,以及收敛条件对文本分类模型进行训练。
将第二样本输入文本分类模型,输出预测结果。判断预测结果与伪标签间是否满足收敛条件。若预测结果与伪标签间不满足收敛条件,则调整文本分类模型的网络参数,直到预测结果与伪标签间满足收敛条件,完成对文本分类模型的训练。本公开利用关键词词表,纠正伪标签,以提高第二样本集中伪标签的准确性,进而提高文本分类模型的泛化能力。
在一种实施方式中,将用户输入的查询信息query“最近总喝水还总上厕所,但就是感觉渴想喝水,吃的很多但是体重却轻了”输入文本分类模型,输出糖尿病-第一关联程度。
基于相同的构思,本公开实施例还提供一种数据预测装置。
可以理解的是,本公开实施例提供的数据预测装置为了实现上述功能,其包含了执行各个功能相应的硬件结构和/或软件模块。结合本公开实施例中所公开的各示例的单元及算法步骤,本公开实施例能够以硬件或硬件和计算机软件的结合形式来实现。某个功能究竟以硬件还是计算机软件驱动硬件的方式来执行,取决于技术方案的特定应用和设计约束条件。本领域技术人员可以对每个特定的应用来使用不同的方法来实现所描述的功能,但是这种实现不应认为超出本公开实施例的技术方案的范围。
图8是根据一示例性实施例示出的一种数据预测装置框图。参照图8,该装置包括获取单元801,第一预测单元802,第二预测单元803和结果单元804。
获取单元801,用于获取查询信息;第一预测单元802,用于对查询信息进行关键词匹配,确定第一预测结果;第二预测单元803,用于调用文本分类模型对查询信息进行预测,得到第二预测结果;结果单元804,用于根据第一预测结果和第二预测结果,得到目标预测结果。
在一种实施方式中,第一预测单元802用于:在关键词词表中搜索查询信息中的关键词,关键词词表中存储有具有关联关系的关键词、对象和关联程度,对象为关键词表征的对象,关联程度为关键词与对象间的关联程度;若在关键词词表中搜索到与查询信息中的关键词匹配的目标关键词,则将目标关键词对应的对象作为第一对象,并基于目标关键词与对象间的关联程度,建立第一对象与查询信息的关联程度;将第一对象,以及第一对象与查询信息的关联程度,确定为查询信息表征的第一预测结果。
在一种实施方式中,第二预测单元803用于:将查询信息输入文本分类模型,输出第二对象和第二对象与查询信息间的关联程度;将第二对象,以及第二对象与查询信息间的关联程度,作为第二预测结果。
在一种实施方式中,结果单元804用于:在第一预测结果中,确定查询信息与第一对象的关联程度,并在第二预测结果中,确定查询信息与第二对象的关联程度;若查询信息与第一对象或第二对象的关联程度为第一关联程度,则将第一关联程度的第一对象和/或第二对象,作为第一类预测目标对象;若查询信息与第一对象或第二对象的关联程度为第二关联程度,则基于历史查询特征对第二关联程度的第一对象和/或第二对象进行筛选,得到第二类预测目标对象,第一关联程度的关联程度强于第二关联程度的关联程度;将第一类预测目标对象和第二类预测目标对象,确定为查询信息表征的目标预测结果。
在一种实施方式中,历史查询特征采用下列方式确定:
获取用户的已查询信息;基于关键词词表对已查询信息中的关键词进行关键词匹配,确定已查询信息表征的第一历史对象,以及第一历史对象与已查询信息间的关联程度;调用文本分类模型对已查询信息进行预测,得到已查询信息表征的第二历史对象,以及第二历史对象与已查询信息间的关联程度;从关联程度中筛选出第一关联程度,并统计查询第一关联程度对应的历史对象的查询次数,历史对象包括第一历史对象和/或第二历史对象;将第一关联程度对应的历史对象,以及历史对象的查询次数,作为历史查询特征。
在一种实施方式中,结果单元804还用于:若历史查询特征中存在第二关联程度的第一对象和/或第二对象,且查询第一对象和/或第二对象的查询次数大于阈值,则将第一对象和/或第二对象,作为第二类预测目标对象。
图9是根据一示例性实施例示出的一种训练文本分类模型的装置框图。参照图9,本公开提供的一种训练文本分类模型的模型,包括:确定单元901,预测单元902,纠正单元903和训练单元904。
确定单元901,用于确定关联程度预测模型,以及用于训练文本分类模型的第一样本集;预测单元902,用于利用关联程度预测模型,预测第一样本集中第一样本的对象和关联程度,并将对象和关联程度作为第一样本的伪标签,关联程度为第一样本与对象的关联程度;纠正单元903,用于利用关键词词表纠正伪标签,将第一样本集中各第一样本和纠正后的伪标签,作为第二样本集;训练单元904,用于基于第二样本集,训练文本分类模型。
在一种实施方式中,纠正单元903用于:确定第一样本的第一样本关键词;在关键词词表中搜索第一样本关键词对应的对象以及关联程度;若搜索到的对象和关联程度与伪标签不一致,则纠正伪标签。
在一种实施方式中,训练单元904用于:将第二样本集中的第二样本输入文本分类模型,输出与第二样本对应的预测结果,预测结果包括预测对象和预测关联程度;基于第二样本对应的预测结果和第二样本对应的伪标签,以及收敛条件对文本分类模型进行训练。
关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图10示出了可以用来实施本公开的实施例的示例电子设备1000的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图10所示,设备1000包括计算单元1001,其可以根据存储在只读存储器(ROM)1002中的计算机程序或者从存储单元1008加载到随机访问存储器(RAM)1003中的计算机程序,来执行各种适当的动作和处理。在RAM 1003中,还可存储设备1000操作所需的各种程序和数据。计算单元1001、ROM 1002以及RAM 1003通过总线1004彼此相连。输入/输出(I/O)接口1005也连接至总线1004。
设备1000中的多个部件连接至I/O接口1005,包括:输入单元1006,例如键盘、鼠标等;输出单元1007,例如各种类型的显示器、扬声器等;存储单元1008,例如磁盘、光盘等;以及通信单元1009,例如网卡、调制解调器、无线通信收发机等。通信单元1009允许设备1000通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元1001可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元1001的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元1001执行上文所描述的各个方法和处理,例如数据预测方法。例如,在一些实施例中,数据预测方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元1008。在一些实施例中,计算机程序的部分或者全部可以经由ROM 1002和/或通信单元1009而被载入和/或安装到设备1000上。当计算机程序加载到RAM 1003并由计算单元1001执行时,可以执行上文描述的数据预测方法的一个或多个步骤。备选地,在其他实施例中,计算单元1001可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行数据预测方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (21)
1.一种数据预测方法,包括:
获取查询信息;
对所述查询信息进行关键词匹配,确定第一预测结果;
调用文本分类模型对所述查询信息进行预测,得到第二预测结果;
根据所述第一预测结果和所述第二预测结果,得到目标预测结果。
2.根据权利要求1所述的方法,其中,所述对所述查询信息进行关键词匹配,确定第一预测结果,包括:
在关键词词表中搜索所述查询信息中的关键词,所述关键词词表中存储有具有关联关系的关键词、对象和关联程度,所述对象为所述关键词表征的对象,所述关联程度为所述关键词与所述对象间的关联程度;
若在所述关键词词表中搜索到与所述查询信息中的关键词匹配的目标关键词,则将所述目标关键词对应的对象作为第一对象,并基于所述目标关键词与对象间的关联程度,建立所述第一对象与所述查询信息的关联程度;
将所述第一对象,以及所述第一对象与所述查询信息的关联程度,确定为所述查询信息表征的第一预测结果。
3.根据权利要求1所述的方法,其中,所述调用文本分类模型对所述查询信息进行预测,得到第二预测结果,包括:
将所述查询信息输入文本分类模型,输出第二对象和所述第二对象与所述查询信息间的关联程度;
将所述第二对象,以及所述第二对象与所述查询信息间的关联程度,作为第二预测结果。
4.根据权利要求1-3中任意一项所述的方法,其中,所述根据所述第一预测结果和所述第二预测结果,得到目标预测结果,包括:
在所述第一预测结果中,确定所述查询信息与所述第一对象的关联程度,并在所述第二预测结果中,确定所述查询信息与所述第二对象的关联程度;
若所述查询信息与所述第一对象或所述第二对象的关联程度为第一关联程度,则将所述第一关联程度的第一对象和/或所述第二对象,作为第一类预测目标对象;
若所述查询信息与所述第一对象或所述第二对象的关联程度为第二关联程度,则基于历史查询特征对所述第二关联程度的第一对象和/或所述第二对象进行筛选,得到第二类预测目标对象,所述第一关联程度的关联程度强于所述第二关联程度的关联程度;
将所述第一类预测目标对象和所述第二类预测目标对象,确定为所述查询信息表征的目标预测结果。
5.根据权利要求4所述的方法,其中,所述历史查询特征采用下列方式确定:
获取用户的已查询信息;
基于关键词词表对所述已查询信息中的关键词进行关键词匹配,确定所述已查询信息表征的第一历史对象,以及第一历史对象与已查询信息间的关联程度;
调用文本分类模型对所述已查询信息进行预测,得到所述已查询信息表征的第二历史对象,以及第二历史对象与已查询信息间的关联程度;
从所述关联程度中筛选出第一关联程度,并统计查询所述第一关联程度对应的历史对象的查询次数,所述历史对象包括第一历史对象和/或第二历史对象;
将所述第一关联程度对应的历史对象,以及所述历史对象的查询次数,作为历史查询特征。
6.根据权利要求4所述的方法,其中,所述基于历史查询特征对所述第二关联程度的第一对象和/或所述第二对象进行筛选,得到第二类预测目标对象,包括:
若所述历史查询特征中存在所述第二关联程度的第一对象和/或所述第二对象,且查询所述第一对象和/或所述第二对象的查询次数大于阈值,则将所述第一对象和/或所述第二对象,作为第二类预测目标对象。
7.一种训练文本分类模型的方法,包括:
确定关联程度预测模型,以及用于训练文本分类模型的第一样本集;
利用所述关联程度预测模型,预测所述第一样本集中第一样本的对象和关联程度,并将所述对象和关联程度作为所述第一样本的伪标签,所述关联程度为所述第一样本与对象的关联程度;
利用关键词词表纠正所述伪标签,将所述第一样本集中各第一样本和纠正后的伪标签,作为第二样本集;
基于所述第二样本集,训练文本分类模型。
8.根据权利要求7所述的方法,其中,所述利用关键词词表纠正所述伪标签,包括:
确定第一样本的第一样本关键词;
在关键词词表中搜索所述第一样本关键词对应的对象以及关联程度;
若搜索到的对象和关联程度与所述伪标签不一致,则纠正所述伪标签。
9.根据权利要求7所述的方法,其中,所述基于所述第二样本集,训练文本分类模型,包括:
将所述第二样本集中的第二样本输入文本分类模型,输出与第二样本对应的预测结果,所述预测结果包括预测对象和预测关联程度;
基于所述第二样本对应的预测结果和所述第二样本对应的伪标签,以及收敛条件对文本分类模型进行训练。
10.一种数据预测装置,包括:
获取单元,用于获取查询信息;
第一预测单元,用于对所述查询信息进行关键词匹配,确定第一预测结果;
第二预测单元,用于调用文本分类模型对所述查询信息进行预测,得到第二预测结果;
结果单元,用于根据所述第一预测结果和所述第二预测结果,得到目标预测结果。
11.根据权利要求10所述的装置,其中,所述第一预测单元,用于:
在关键词词表中搜索所述查询信息中的关键词,所述关键词词表中存储有具有关联关系的关键词、对象和关联程度,所述对象为所述关键词表征的对象,所述关联程度为所述关键词与所述对象间的关联程度;
若在所述关键词词表中搜索到与所述查询信息中的关键词匹配的目标关键词,则将所述目标关键词对应的对象作为第一对象,并基于所述目标关键词与对象间的关联程度,建立所述第一对象与所述查询信息的关联程度;
将所述第一对象,以及所述第一对象与所述查询信息的关联程度,确定为所述查询信息表征的第一预测结果。
12.根据权利要求10所述的装置,其中,所述第二预测单元,用于:
将所述查询信息输入文本分类模型,输出第二对象和所述第二对象与所述查询信息间的关联程度;
将所述第二对象,以及所述第二对象与所述查询信息间的关联程度,作为第二预测结果。
13.根据权利要求10-12中任意一项所述的装置,其中,所述结果单元,用于:
在所述第一预测结果中,确定所述查询信息与所述第一对象的关联程度,并在所述第二预测结果中,确定所述查询信息与所述第二对象的关联程度;
若所述查询信息与所述第一对象或所述第二对象的关联程度为第一关联程度,则将所述第一关联程度的第一对象和/或所述第二对象,作为第一类预测目标对象;
若所述查询信息与所述第一对象或所述第二对象的关联程度为第二关联程度,则基于历史查询特征对所述第二关联程度的第一对象和/或所述第二对象进行筛选,得到第二类预测目标对象,所述第一关联程度的关联程度强于所述第二关联程度的关联程度;
将所述第一类预测目标对象和所述第二类预测目标对象,确定为所述查询信息表征的目标预测结果。
14.根据权利要求13所述的装置,其中,所述历史查询特征采用下列方式确定:
获取用户的已查询信息;
基于关键词词表对所述已查询信息中的关键词进行关键词匹配,确定所述已查询信息表征的第一历史对象,以及第一历史对象与已查询信息间的关联程度;
调用文本分类模型对所述已查询信息进行预测,得到所述已查询信息表征的第二历史对象,以及第二历史对象与已查询信息间的关联程度;
从所述关联程度中筛选出第一关联程度,并统计查询所述第一关联程度对应的历史对象的查询次数,所述历史对象包括第一历史对象和/或第二历史对象;
将所述第一关联程度对应的历史对象,以及所述历史对象的查询次数,作为历史查询特征。
15.根据权利要求13所述的装置,其中,所述结果单元,还用于:
若所述历史查询特征中存在所述第二关联程度的第一对象和/或所述第二对象,且查询所述第一对象和/或所述第二对象的查询次数大于阈值,则将所述第一对象和/或所述第二对象,作为第二类预测目标对象。
16.一种训练文本分类模型的模型,包括:
确定单元,用于确定关联程度预测模型,以及用于训练文本分类模型的第一样本集;
预测单元,用于利用所述关联程度预测模型,预测所述第一样本集中第一样本的对象和关联程度,并将所述对象和关联程度作为所述第一样本的伪标签,所述关联程度为所述第一样本与对象的关联程度;
纠正单元,用于利用关键词词表纠正所述伪标签,将所述第一样本集中各第一样本和纠正后的伪标签,作为第二样本集;
训练单元,用于基于所述第二样本集,训练文本分类模型。
17.根据权利要求16所述的模型,其中,所述纠正单元,用于:
确定第一样本的第一样本关键词;
在关键词词表中搜索所述第一样本关键词对应的对象以及关联程度;
若搜索到的对象和关联程度与所述伪标签不一致,则纠正所述伪标签。
18.根据权利要求16所述的模型,其中,所述训练单元,用于:
将所述第二样本集中的第二样本输入文本分类模型,输出与第二样本对应的预测结果,所述预测结果包括预测对象和预测关联程度;
基于所述第二样本对应的预测结果和所述第二样本对应的伪标签,以及收敛条件对文本分类模型进行训练。
19.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-9中任一项所述的方法。
20.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-9中任一项所述的方法。
21.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-9中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210290742.7A CN114661990A (zh) | 2022-03-23 | 2022-03-23 | 数据预测及模型训练的方法、装置、设备、介质及产品 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210290742.7A CN114661990A (zh) | 2022-03-23 | 2022-03-23 | 数据预测及模型训练的方法、装置、设备、介质及产品 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114661990A true CN114661990A (zh) | 2022-06-24 |
Family
ID=82030874
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210290742.7A Pending CN114661990A (zh) | 2022-03-23 | 2022-03-23 | 数据预测及模型训练的方法、装置、设备、介质及产品 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114661990A (zh) |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104102816A (zh) * | 2014-06-20 | 2014-10-15 | 周晋 | 基于症状匹配和机器学习的自动诊断系统和方法 |
CN109635122A (zh) * | 2018-11-28 | 2019-04-16 | 平安科技(深圳)有限公司 | 智能疾病问询方法、装置、设备及存储介质 |
CN110717039A (zh) * | 2019-09-17 | 2020-01-21 | 平安科技(深圳)有限公司 | 文本分类方法和装置、电子设备、计算机可读存储介质 |
WO2021017306A1 (zh) * | 2019-07-30 | 2021-02-04 | 平安科技(深圳)有限公司 | 根据用户画像的个性化搜索方法、系统、设备及存储介质 |
CN112417158A (zh) * | 2020-12-15 | 2021-02-26 | 中国联合网络通信集团有限公司 | 文本数据分类模型的训练方法、分类方法、装置和设备 |
CN113392210A (zh) * | 2020-11-30 | 2021-09-14 | 腾讯科技(深圳)有限公司 | 文本分类方法、装置、电子设备及存储介质 |
US20220075809A1 (en) * | 2020-09-10 | 2022-03-10 | International Business Machines Corporation | Bootstrapping of text classifiers |
CN114220541A (zh) * | 2021-12-14 | 2022-03-22 | 平安国际智慧城市科技股份有限公司 | 疾病预测方法、装置、电子设备及存储介质 |
-
2022
- 2022-03-23 CN CN202210290742.7A patent/CN114661990A/zh active Pending
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104102816A (zh) * | 2014-06-20 | 2014-10-15 | 周晋 | 基于症状匹配和机器学习的自动诊断系统和方法 |
CN109635122A (zh) * | 2018-11-28 | 2019-04-16 | 平安科技(深圳)有限公司 | 智能疾病问询方法、装置、设备及存储介质 |
WO2021017306A1 (zh) * | 2019-07-30 | 2021-02-04 | 平安科技(深圳)有限公司 | 根据用户画像的个性化搜索方法、系统、设备及存储介质 |
CN110717039A (zh) * | 2019-09-17 | 2020-01-21 | 平安科技(深圳)有限公司 | 文本分类方法和装置、电子设备、计算机可读存储介质 |
US20220075809A1 (en) * | 2020-09-10 | 2022-03-10 | International Business Machines Corporation | Bootstrapping of text classifiers |
CN113392210A (zh) * | 2020-11-30 | 2021-09-14 | 腾讯科技(深圳)有限公司 | 文本分类方法、装置、电子设备及存储介质 |
CN112417158A (zh) * | 2020-12-15 | 2021-02-26 | 中国联合网络通信集团有限公司 | 文本数据分类模型的训练方法、分类方法、装置和设备 |
CN114220541A (zh) * | 2021-12-14 | 2022-03-22 | 平安国际智慧城市科技股份有限公司 | 疾病预测方法、装置、电子设备及存储介质 |
Non-Patent Citations (2)
Title |
---|
侯雪亮;李新;陈远平;: "基于多神经网络混合的短文本分类模型", 计算机系统应用, no. 10, 13 October 2020 (2020-10-13) * |
龚乐君;张知菲;: "基于领域词典与CRF双层标注的中文电子病历实体识别", 工程科学学报, no. 04, 30 April 2020 (2020-04-30) * |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108829822B (zh) | 媒体内容的推荐方法和装置、存储介质、电子装置 | |
US11694109B2 (en) | Data processing apparatus for accessing shared memory in processing structured data for modifying a parameter vector data structure | |
US11164564B2 (en) | Augmented intent and entity extraction using pattern recognition interstitial regular expressions | |
CN109086265B (zh) | 一种语义训练方法、短文本中多语义词消歧方法 | |
US20230237277A1 (en) | Aspect prompting framework for language modeling | |
CN112632227A (zh) | 简历匹配方法、装置、电子设备、存储介质和程序产品 | |
WO2023029350A1 (zh) | 基于点击行为预测的信息推送方法及装置 | |
CN113392920B (zh) | 生成作弊预测模型的方法、装置、设备、介质及程序产品 | |
EP4222635A1 (en) | Lifecycle management for customized natural language processing | |
CN116680401A (zh) | 文档处理方法、文档处理装置、设备及存储介质 | |
CN108733702B (zh) | 用户查询上下位关系提取的方法、装置、电子设备和介质 | |
US11695645B2 (en) | Methods and systems for dynamic re-clustering of nodes in computer networks using machine learning models | |
CN114661990A (zh) | 数据预测及模型训练的方法、装置、设备、介质及产品 | |
CN114897183A (zh) | 问题数据处理方法、深度学习模型的训练方法和装置 | |
CN114898184A (zh) | 模型训练方法、数据处理方法、装置及电子设备 | |
CN111221880B (zh) | 特征组合方法、装置、介质和电子设备 | |
CN114647739A (zh) | 实体链指方法、装置、电子设备及存储介质 | |
CN114492370A (zh) | 网页识别方法、装置、电子设备和介质 | |
CN113806541A (zh) | 情感分类的方法和情感分类模型的训练方法、装置 | |
CN114201953A (zh) | 一种关键词提取、模型训练方法、装置、设备及存储介质 | |
CN114068028A (zh) | 医疗问诊数据处理方法及装置、可读存储介质及电子设备 | |
CN114579730A (zh) | 信息处理方法、电子设备和计算机程序产品 | |
CN116383491B (zh) | 信息推荐方法、装置、设备、存储介质和程序产品 | |
CN114998607B (zh) | 超声图像的特征提取方法、装置、电子设备及存储介质 | |
US20230140148A1 (en) | Methods for community search, electronic device and storage medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |