CN115795304A - 一种数据处理模型训练方法、系统、电子设备和存储介质 - Google Patents
一种数据处理模型训练方法、系统、电子设备和存储介质 Download PDFInfo
- Publication number
- CN115795304A CN115795304A CN202211341735.1A CN202211341735A CN115795304A CN 115795304 A CN115795304 A CN 115795304A CN 202211341735 A CN202211341735 A CN 202211341735A CN 115795304 A CN115795304 A CN 115795304A
- Authority
- CN
- China
- Prior art keywords
- data
- data processing
- processing model
- exploration
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
本发明公开了一种数据处理模型训练方法、系统、电子设备和存储介质,其中,该方法包括:获取探索数据和至少一个数据处理模型;根据预设配置文件确定所述探索数据与所述数据处理模型的适配情况;基于所述适配情况对所述探索数据和所述数据处理模型进行模型训练。本发明实施例实现了算法模型的自动化训练,可减少人员技术能力强弱不一对模型训练结果的影响,可提高算法模型训练的准确性,增强用户的模型使用体验。
Description
技术领域
本发明涉及数据处理技术领域,尤其涉及一种数据处理模型训练方法、装置、电子设备和存储介质。
背景技术
随着信息网络技术的飞速发展,社会逐渐进入信息时代,以信息技术为核心的高新技术群飞速发展,使得信息数据逐渐成为重要的战略资源。目前伴随着信息网络技术的发展,信息系统逐渐向数字化、网络化、智能化方向进步。然而目前信息系统存在信息数据利用智能化程度较低。而深度学习作为当前人工智能领域的研究热点,由于其具有强大的特征表示以及学习能力,可解决当前信息数据利用智能化程度低的问题。深度学习基于信息数据可在目标识别、态势感知、指挥决策等方面具有出色的表现。由于深度学习的算法模型需要依靠特点数据以及特点情况进行应用,为满足不同领域不同的功能需求,越来越多的算法模型不断整合到信息系统内,各单位分别对算法模型进行管理维护。但是由于各单位的维护人员的技术能力不一,导致部分算法模型处于无管理状态,算法模型不能得到准确有效的训练,极大影响了信息系统的功能准确性。
发明内容
本发明提供了一种数据处理模型训练方法、系统、电子设备和存储介质,以实现算法模型的自动化训练,减少人员技术能力对模型训练结果的影响,可提高算法模型训练的准确性,可提高用户使用体验。
根据本发明的一方面,提供了一种数据处理模型训练方法,其中,该方法包括:
获取探索数据和至少一个数据处理模型;
根据预设配置文件确定所述探索数据与所述数据处理模型的适配情况;
基于所述适配情况对所述探索数据和所述数据处理模型进行模型训练。
根据本发明的另一方面,提供了一种数据处理模型训练系统,其中,该系统包括:
探索触发模块,用于获取探索数据和至少一个数据处理模型;
适配检查模块,用于根据预设配置文件确定所述探索数据与所述数据处理模型的适配情况;
模型训练模块,用于基于所述适配情况对所述探索数据和所述数据处理模型进行模型训练。
根据本发明的另一方面,提供了一种电子设备,所述电子设备包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本发明任一实施例所述的数据处理模型训练方法。
根据本发明的另一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本发明任一实施例所述的数据处理模型训练方法。
本发明实施例的技术方案,通过获取探索数据和数据处理模型,基于预设配置文件确定探索数据与数据处理模型的适配情况,按照适配情况基于探索数据对数据处理模型进行模型训练,本发明实施例可实现算法模型的自动化训练,减少人员技术能力强弱不一对模型训练结果的影响,可提高算法模型训练的准确性,可提高用户使用体验。
应当理解,本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征,也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是根据本发明实施例一提供的一种数据处理模型训练方法的流程图;
图2是根据本发明实施例二提供的另一种数据处理模型训练方法的流程图;
图3是根据本发明实施例三提供的另一种数据处理模型训练系统的结构示意图;
图4是实现本发明实施例的数据处理模型训练方法的电子设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
实施例一
图1是根据本发明实施例一提供的一种数据处理模型训练方法的流程图,本实施例可适用于数据处理模型统一训练管理情况,该方法可以由数据处理模型训练装置来执行,该数据处理模型训练装置可以采用硬件和/或软件的形式实现,该数据处理模型训练装置可配置于服务器或服务器集群中。如图1所示,该方法包括:
步骤110、获取探索数据和至少一个数据处理模型。
其中,探索数据可以是用于训练数据处理模型的信息,探索数据可以包括结构化数据、半结构化数据以及非结构化数据,探索数据可以预先经过预处理,可以对探索数据进行零均值处理、归一化处理、白噪声处理、主成分分析法处理中的一种或多种,探索数据可以包括标签或不包括标签。数据处理模型可以是对数据进行处理的模型,数据处理模型可以为实现某个功能而构建,数据处理模型可以包括深度学习模型、神经网络模型等。
在本发明实施例中,可以获取用于进行数据处理模型训练的探索数据以及至少一个数据处理模型,可以理解的是,该探索数据以及数据处理模型可以由用户指定,也可以由计算机自动选择。在一个示例性的实施方式中,探索数据可以由用户指定获取,而数据处理模型可以根据用户权限自动推荐生成。而在另一个示例性的实施方式中,用户可以选择数据处理模型,而执行本发明方法的设备可以根据业务功能以及数据处理模型的训练要求自动选择探索数据。
步骤120、根据预设配置文件确定探索数据与数据处理模型的适配情况。
其中,预设配置文件可以是用于确定探索数据与数据处理模型是否适配的文件,预设配置文件内可以包括适配判断使用的参数、规则等信息,在一个示例性的实施方式中,预设配置文件可以包括数据处理模型训练要求的数据条件。
在本发明实施例中,可以加载预设配置文件,在预设配置文件内确定用于判断探索数据与数据处理模型的参数、规则等信息,按照上述信息完成探索数据与数据处理模型的适配,并生成适配情况,可以理解的是,该适配情况可以包括探索数据与数据处理模型适配,也即探索数据可以用于数据处理模型的训练,该适配情况还可以包括探索数据与数据处理模型不适配,则探索数据不能用于数据处理模型的训练。在一种实施例中,预设配置文件可以脚本文件或者配置表的形式存在,在进行探索数据与数据处理模型的适配时,可以对脚本文件或配置表进行加载,判断探索数据的数据类型、数据格式、数据量等信息是否满足数据处理模型的训练要求。
步骤130、基于适配情况对探索数据和数据处理模型进行模型训练。
在本发明实施例中,可以按照适配情况使用探索数据对数据处理模型进行模型训练,具体的,可以配置不同的训练规则,可以按照不同的适配情况使用探索数据对数据处理模型进行训练,例如,若探索数据与数据处理模型不匹配,且不匹配的因素是由探索数据的数据量不足引起,在这种情况下,可以继续采集探索数据直到探索数据的数据量满足数据处理模型的要求。在另一种情况下,若探索数据与数据处理模型不适配,则直接停止使用探索数据对数据处理模型进行训练,以保证数据处理模型训练的准确性。
本发明实施例,通过获取探索数据和数据处理模型,基于预设配置文件确定探索数据与数据处理模型的适配情况,按照适配情况基于探索数据对数据处理模型进行模型训练,本发明实施例可实现算法模型的自动化训练,减少人员技术能力强弱不一对模型训练结果的影响,可提高算法模型训练的准确性,可提高用户使用体验。
实施例二
图2是根据本发明实施例二提供的另一种数据处理模型训练方法的流程图,本发明实施例是在上述发明实施例基础上的具体化,参见图2,本发明实施例提供的方法具体包括如下步骤:
步骤210、在至少一个数据源读取探索数据,并在预设可视界面显示探索数据。
其中,数据源可以是获取探索数据的数据源头,数据源可以为信息数据或功能传感器,在数据源内读取探索数据的方式可以包括实时采集或定时采集。预设可视界面可以通过利用计算机图像和图像处理技术,将数据以图形或图像的形式显示的软件界面,预设可视界面还可以接收用户输入的信息,例如,在预设可视界面内可以接收用户通过键盘输入的信息以及通过拖动操作获取的信息。
在本发明实施例中,可以分别在信息数据、功能传感器等数据源内采集探索数据,然后可以将探索数据在预设可视界面内间显示,可以理解的是,预设可视界面内展示的探索数据可以包括探索数据的全部或部分内容以及探索数据的名称、探索数据的标识、探索数据的数据量、探索数据的数据源等属性信息。在一些实施例中,在数据源读取探索数据可以通过主动方式或被动方式触发,例如,可以按照配置的时间间隔定时在数据源内读取探索数据,又或者,用户在预设可视界面内点击按钮或者拖动控件时,在数据源内读取探索数据。
步骤220、在预设可视界面接收用户选择信息,并按照用户选择信息在模型算法库选择数据处理模型。
其中,用户选择信息可以是用户用于选择数据处理模型的信息,用户选择信息可以通过预设可视界面接收,例如,预设可视界面内可以显示一个或多个数据处理模型的显示控件,可以将用户通过键盘或鼠标等输入设备选择显示控件的信息作为用户选择信息。模型算法库可以是存储有数据处理模型的模型结构以及模型参数的数据处理模型集合,模型算法库可以包括提供数据分析挖掘算法和模型管理功能,支持分类、聚类、回归、关联分析等常用算法的注册、管理和发布。还可以支持对算法模型进行评估、调优等。模型算法库支持对数据处理模型算法的扩充,提供自定义算法上传和集成能力,可以支持C/C++、Python、Java等多种语言开发的模型。在一些实施例中,模式算法库可以提供对数据处理模型的基本信息、版本信息、参数信息、评价信息、示例信息、帮助信息的管理功能,支持算法调用信息的提取。
在本发明实施例中,在显示预设可视界面之后,可以对预设可视界面进行监听,采集用户在预设可视界面内输入的用户选择信息,该用户选择信息可以包括数据处理模型的模型名称、模型编号以及数据处理模型对应的显示控件信息等,可以按照采集到的用户选择信息在模型算法库内查找对应的数据处理模型,可以理解的是,该查找过程可以通过调用模型算法库的函数接口或者功能模块实现,可以理解的是,预设可视界面内输入的用户选择信息可以用于选择一个或多个数据处理模型,例如,用户选择信息可以为数据处理模型A以及数据处理模型B的同时拖动信息,可以按照该同时拖动信息确定数据处理模型A以及数据处理模型B的标识信息,可以按照该标识信息在模型算法库内调用对应的数据处理模型。
步骤230、读取预设配置文件,并在预设配置文件查找数据处理模型的训练条件参数和参数权重,其中,训练条件参数包括数据规模量、数据格式、数据标记情况中至少之一。
其中,训练条件参数可以是用于训练数据处理模型所必须的数据要求条件,该训练条件参数可以包括数据规模量、数据格式、数据标记情况中的一种或多种,而参数权重可以表示各训练条件参数影响探索数据处理模型与探索数据适配程度的信息,参数权重的取值可以基于对数据处理模型的准确度的影响确定,例如,对数据处理模型影响越大的训练条件参数的参数权重越大。
在本发明实施例中,预设配置文件内可以包括一个或多个数据处理模型的训练条件参数以及参数权重,可以按照上述步骤确定出的数据处理模型在预设配置文件内获取训练条件参数以及参数权重,可以理解的是,预设配置文件内训练条件参数与参数权重可以Key-Value信息对形式存在,每个训练条件参数可以均存在各自对应的参数权重。在一些实施例中,预设配置文件可以具体为脚本文件,该脚本文件内数据处理模型的训练条件参数和参数权重之外,还可以包括操作命令,该操作命令的执行可以实现探索数据与数据处理模型的适配比较过程。
步骤240、提取探索数据的数据属性,并确定数据属性满足的训练条件参数以及训练条件参数的权重值。
其中,数据属性可以是反映探索数据情况的信息,该数据属性可以至少包括与训练条件参数相对应的信息,例如,数据量、数据格式、数据标签等。在此之外,数据属性还可以包括探索数据的采集时间、生成时间等其他信息。
在本发明实施例中,可以针对探索数据提取其对应的数据属性,该数据属性内可以至少包括数据量、数据格式、数据标签等信息,可以将探索数据的数据属性与数据处理模型的训练条件参数进行比较,若某一项数据属性满足数据处理模型对应的训练条件参数,则提取该训练条件参数对应的参数权重,可以理解的是,在探索数据可以存在多项数据属性满足数据处理模型的训练条件参数。
步骤250、若权重参数之和大于预设权重阈值,则确定探索数据与数据处理模型适配,否则确定探索数据与数据处理模型不适配。
其中,预设权重阈值可以是用于反映探索数据与数据处理模型适配的临界参数,若探索数据的指标大于预设权重阈值,则确定探索数据与数据处理模型适配,若探索数据的指标小于或等于预设权重参数,则确定探索数据与数据处理模型不适配。
在本发明实施例中,针对探索数据确定数据属性满足训练条件参数的权重参数的和,可以将该和与预先存储的预设权重阈值进行比较,若探索数据的指标大于预设权重阈值,则确定探索数据与数据处理模型适配,若探索数据的指标小于或等于预设权重参数,则确定探索数据与数据处理模型不适配。其中,预设权重阈值可以通过神经网络模型生成或者根据经验设置。
步骤260、在适配情况为适配的情况下,按照探索数据训练数据处理模型。
在本发明实施例中,在适配情况为适配时,可以使用探索数据对数据处理模型进行训练,该训练过程包括以下步骤:将探索数据输入数据处理模型进行迭代计算,通过数据处理模型的网络结构对探索数据进行处理,确定数据处理模型的输出值与目标值的差值,可以基于该差值反向传播梯度到数据处理模型的参数内,通过更新规则来更新神经网络模型的权重值,直到数据处理模型满足训练结束条件。
步骤270、在适配情况为不适配的情况下,按照探索数据推荐适配的数据处理模型。
在本发明实施例中,若适配情况为不适配,则可以通过探索数据确定出一个或多个适配的数据处理模型,该推荐过程可以通过预设的规则实现,该规则可以包括专家系统推荐算法、神经网络推荐算法等。
步骤280、根据预设时间间隔统计数据处理模型的处理结果。
其中,预设时间间隔可以用于衡量数据处理模型的最小时间间隔,该预设时间间隔可以根据数据处理模型的业务特征以及用户需求设置。处理结果可以是数据处理模型对数据的处理结果,该处理结果可以包括数据处理的正确率。
在本发明实施例中,用户使用数据处理模型的过程中,可以按照预设时间间隔对数据处理模型的处理结果进行采集,例如,可以采集并缓存数据处理模型的处理结果,该处理结果的最大缓存时长可以设置为预设时间间隔。
步骤290、根据处理结果生成数据处理模型的评估信息。
其中,评估信息可以是用于评述数据处理模型指令的信息,可以包括数据处理模型的处理速度、结果正确率等信息。
在本发明实施例中,可以按照采集到的处理结果按照指定的信息维度进行分析统计,可以包括统计处理结果处理速度、结果正确率等信息,可以统计生成的统计结果作为数据处理模型的评估信息。
本发明实施例,通过在数据源获取探索数据并显示在预设可视界面,接收预设可视界面输入的用户选择信息,并按照用户选择信息在模型算法库选择数据处理模型,在预设配置文件查找数据处理模型的训练条件参数和参数权重,提取探索数据的数据属性,并确定数据属性满足的训练条件参数以及训练条件参数的权重值,在权重参数之和大于预设权重阈值,则确定探索数据与数据处理模型适配,否则不适配。若适配情况为适配,则按照探索数据训练数据处理模型,若适配情况为不适配,则按照探索数据推荐适配的数据处理模型,统计预设时间间隔内数据处理模型的处理结果,将处理结果的统计信息作为评估信息,本发明实施例可实现算法模型的自动化训练,减少人员技术能力强弱不一对模型训练结果的影响,可提高算法模型训练的准确性,可提高用户使用体验。
进一步的,在上述发明实施例的基础上,按照所述探索数据推荐适配的所述数据处理模型,包括:
在查询所述预设配置文件查询所有所述数据处理模型的训练条件参数和权重参数;若存在所述探索数据满足的所述训练条件参数的所述权重参数之和大于推荐阈值,则推荐所述训练条件参数对应的所述数据处理模型。
在本发明实施例中,在推荐适配的数据处理模型时,可以查询预设配置文件内所有数据处理模型的训练条件参数和权重参数,如果存在数据处理模型使得探索数据满足的训练条件的权重参数之和大于推荐阈值,则将该数据处理模型进行推荐,可以理解的是,该推荐过程可以包括在预设可视界面显示该数据处理模型的信息。
进一步的,在上述发明实施例的基础上,数据处理模型包括以下至少之一:分类模型、聚类模型、回归模型、关联分析模型、知识图谱模型。
实施例三
图3是根据本发明实施例三提供的另一种数据处理模型训练系统的结构示意图。如图3所示,该装置包括:
探索触发模块301,用于获取探索数据和至少一个数据处理模型。
适配检查模块302,用于根据预设配置文件确定所述探索数据与所述数据处理模型的适配情况。
模型训练模块303,用于基于所述适配情况对所述探索数据和所述数据处理模型进行模型训练。
本发明实施例,通过探索触发模块获取探索数据和数据处理模型,适配检查模块基于预设配置文件确定探索数据与数据处理模型的适配情况,模型训练模块按照适配情况基于探索数据对数据处理模型进行模型训练,本发明实施例可实现算法模型的自动化训练,减少人员技术能力强弱不一对模型训练结果的影响,可提高算法模型训练的准确性,可提高用户使用体验。
进一步的,在上述发明实施例的基础上,探索触发模块301包括:
数据采集单元,用于在至少一个数据源读取所述探索数据,并在预设可视界面显示所述探索数据。
模型选择单元,用于在所述预设可视界面接收用户选择信息,并按照所述用户选择信息在模型算法库选择所述数据处理模型。
进一步的,在上述发明实施例的基础上,适配检查模块302包括:
条件读取单元,用于读取所述预设配置文件,并在所述预设配置文件查找所述数据处理模型的训练条件参数和参数权重,其中,所述训练条件参数包括数据规模量、数据格式、数据标记情况中至少之一。
条件满足单元,用于提取所述探索数据的数据属性,并确定所述数据属性满足的所述训练条件参数以及所述训练条件参数的参数权重。
适配检查单元,用于若所述参数权重之和大于预设权重阈值,则确定所述探索数据与所述数据处理模型适配,否则确定所述探索数据与所述数据处理模型不适配。
进一步的,在上述发明实施例的基础上,模型训练模块303包括:
适配训练单元,用于在所述适配情况为适配的情况下,按照所述探索数据训练所述数据处理模型。
模型推荐单元,用于在所述适配情况为不适配的情况下,按照所述探索数据推荐适配的所述数据处理模型。
进一步的,在上述发明实施例的基础上,模型推荐单元具体用于:在查询所述预设配置文件查询所有所述数据处理模型的训练条件参数和权重参数;若存在所述探索数据满足的所述训练条件参数的所述权重参数之和大于推荐阈值,则推荐所述训练条件参数对应的所述数据处理模型。
进一步的,在上述发明实施例的基础上,还包括:模型评估模块,用于根据预设时间间隔统计所述数据处理模型的处理结果;根据所述处理结果生成所述数据处理模型的评估信息。
进一步的,在上述发明实施例的基础上,数据处理模型包括以下至少之一:分类模型、聚类模型、回归模型、关联分析模型、知识图谱模型。
本发明实施例所提供的数据处理模型训练系统可执行本发明任意实施例所提供的数据处理模型训练方法,具备执行方法相应的功能模块和有益效果。
实施例四
图4是实现本发明实施例的数据处理模型训练方法的电子设备的结构示意图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本发明的实现。
如图4所示,电子设备10包括至少一个处理器11,以及与至少一个处理器11通信连接的存储器,如只读存储器(ROM)12、随机访问存储器(RAM)13等,其中,存储器存储有可被至少一个处理器执行的计算机程序,处理器11可以根据存储在只读存储器(ROM)12中的计算机程序或者从存储单元18加载到随机访问存储器(RAM)13中的计算机程序,来执行各种适当的动作和处理。在RAM 13中,还可存储电子设备10操作所需的各种程序和数据。处理器11、ROM 12以及RAM 13通过总线14彼此相连。输入/输出(I/O)接口15也连接至总线14。
电子设备10中的多个部件连接至I/O接口15,包括:输入单元16,例如键盘、鼠标等;输出单元17,例如各种类型的显示器、扬声器等;存储单元18,例如磁盘、光盘等;以及通信单元19,例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理,例如数据处理模型训练方法。
在一些实施例中,数据处理模型训练方法可被实现为计算机程序,其被有形地包含于计算机可读存储介质,例如存储单元18。在一些实施例中,计算机程序的部分或者全部可以经由ROM 12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到RAM 13并由处理器11执行时,可以执行上文描述的数据处理模型训练方法的一个或多个步骤。备选地,在其他实施例中,处理器11可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行数据处理模型训练方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器,使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本发明的上下文中,计算机可读存储介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。备选地,计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在电子设备上实施此处描述的系统和技术,该电子设备具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、区块链网络和互联网。
计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务中,存在的管理难度大,业务扩展性弱的缺陷。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本发明的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
Claims (10)
1.一种数据处理模型训练方法,其特征在于,所述方法包括:
获取探索数据和至少一个数据处理模型;
根据预设配置文件确定所述探索数据与所述数据处理模型的适配情况;
基于所述适配情况对所述探索数据和所述数据处理模型进行模型训练。
2.根据权利要求1所述方法,其特征在于,所述获取探索数据和至少一个数据处理模型,包括:
在至少一个数据源读取所述探索数据,并在预设可视界面显示所述探索数据;
在所述预设可视界面接收用户选择信息,并按照所述用户选择信息在模型算法库选择所述数据处理模型。
3.根据权利要求1所述方法,其特征在于,所述根据预设配置文件确定所述探索数据与所述数据处理模型的适配情况,包括:
读取所述预设配置文件,并在所述预设配置文件查找所述数据处理模型的训练条件参数和参数权重,其中,所述训练条件参数包括数据规模量、数据格式、数据标记情况中至少之一;
提取所述探索数据的数据属性,并确定所述数据属性满足的所述训练条件参数以及所述训练条件参数的参数权重;
若所述参数权重之和大于预设权重阈值,则确定所述探索数据与所述数据处理模型适配,否则确定所述探索数据与所述数据处理模型不适配。
4.根据权利要求1所述方法,其特征在于,所述基于所述适配情况对所述探索数据和所述数据处理模型进行模型训练,包括:
在所述适配情况为适配的情况下,按照所述探索数据训练所述数据处理模型;
在所述适配情况为不适配的情况下,按照所述探索数据推荐适配的所述数据处理模型。
5.根据权利要求4所述方法,其特征在于,所述按照所述探索数据推荐适配的所述数据处理模型,包括:
在查询所述预设配置文件查询所有所述数据处理模型的训练条件参数和权重参数;
若存在所述探索数据满足的所述训练条件参数的所述权重参数之和大于推荐阈值,则推荐所述训练条件参数对应的所述数据处理模型。
6.根据权利要求1-5中任一项所述方法,其特征在于,还包括:
根据预设时间间隔统计所述数据处理模型的处理结果;
根据所述处理结果生成所述数据处理模型的评估信息。
7.根据权利要求1-6中任一项所述方法,其特征在于,所述数据处理模型包括以下至少之一:分类模型、聚类模型、回归模型、关联分析模型、知识图谱模型。
8.一种数据处理模型训练系统,其特征在于,所述系统包括:
探索触发模块,用于获取探索数据和至少一个数据处理模型;
适配检查模块,用于根据预设配置文件确定所述探索数据与所述数据处理模型的适配情况;
模型训练模块,用于基于所述适配情况对所述探索数据和所述数据处理模型进行模型训练。
9.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的数据处理模型训练方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的数据处理模型训练方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211341735.1A CN115795304A (zh) | 2022-10-27 | 2022-10-27 | 一种数据处理模型训练方法、系统、电子设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211341735.1A CN115795304A (zh) | 2022-10-27 | 2022-10-27 | 一种数据处理模型训练方法、系统、电子设备和存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115795304A true CN115795304A (zh) | 2023-03-14 |
Family
ID=85434440
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211341735.1A Pending CN115795304A (zh) | 2022-10-27 | 2022-10-27 | 一种数据处理模型训练方法、系统、电子设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115795304A (zh) |
-
2022
- 2022-10-27 CN CN202211341735.1A patent/CN115795304A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109471783B (zh) | 预测任务运行参数的方法和装置 | |
CN109993627B (zh) | 推荐方法、推荐模型的训练方法、装置和存储介质 | |
EP3937022A1 (en) | Method and apparatus of monitoring interface performance of distributed application, device and storage medium | |
CN114461644A (zh) | 一种数据采集方法、装置、电子设备及存储介质 | |
CN110968802B (zh) | 一种用户特征的分析方法、分析装置及可读存储介质 | |
CN116307672A (zh) | 一种故障诊断方法、装置、电子设备及介质 | |
CN112818013A (zh) | 时序数据库查询优化方法、装置、设备以及存储介质 | |
CN115048352B (zh) | 一种日志字段提取方法、装置、设备和存储介质 | |
CN116955856A (zh) | 信息展示方法、装置、电子设备以及存储介质 | |
CN113032251B (zh) | 应用程序服务质量的确定方法、设备和存储介质 | |
CN115795304A (zh) | 一种数据处理模型训练方法、系统、电子设备和存储介质 | |
CN115249043A (zh) | 数据分析方法、装置、电子设备及存储介质 | |
CN115080607A (zh) | 一种结构化查询语句的优化方法、装置、设备及存储介质 | |
CN114186147A (zh) | 数据处理方法、装置、电子设备和存储介质 | |
CN114443802A (zh) | 一种接口文档处理方法、装置、电子设备和存储介质 | |
CN115329748B (zh) | 一种日志解析方法、装置、设备及存储介质 | |
CN115511014B (zh) | 信息匹配方法、装置、设备及存储介质 | |
CN116737520B (zh) | 一种日志数据的数据编织方法、装置、设备及存储介质 | |
CN113362097B (zh) | 一种用户确定方法和装置 | |
CN115858325B (zh) | 一种项目日志的调整方法、装置、设备和存储介质 | |
CN115100461B (zh) | 图像分类模型训练方法、装置、电子设备、介质 | |
CN115686517A (zh) | 基于移动开发平台的前端页面埋点方法、装置、电子设备和存储介质 | |
CN115827979A (zh) | 一种知识推荐方法、装置、电子设备及存储介质 | |
CN117350811A (zh) | 订单处理方法、装置、电子设备及存储介质 | |
CN115757869A (zh) | 视频处理方法、装置、电子设备及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |