CN114842317A - 模型训练方法、装置、设备以及存储介质 - Google Patents
模型训练方法、装置、设备以及存储介质 Download PDFInfo
- Publication number
- CN114842317A CN114842317A CN202210195108.5A CN202210195108A CN114842317A CN 114842317 A CN114842317 A CN 114842317A CN 202210195108 A CN202210195108 A CN 202210195108A CN 114842317 A CN114842317 A CN 114842317A
- Authority
- CN
- China
- Prior art keywords
- model
- target
- data
- sample data
- module
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 66
- 238000012549 training Methods 0.000 title claims abstract description 63
- 238000003860 storage Methods 0.000 title claims abstract description 17
- 238000013136 deep learning model Methods 0.000 claims abstract description 38
- 238000012795 verification Methods 0.000 claims description 25
- 238000004422 calculation algorithm Methods 0.000 claims description 20
- 238000010586 diagram Methods 0.000 claims description 19
- 238000012545 processing Methods 0.000 claims description 15
- 238000004590 computer program Methods 0.000 claims description 13
- 238000011156 evaluation Methods 0.000 claims description 11
- 238000009826 distribution Methods 0.000 claims description 8
- 238000007781 pre-processing Methods 0.000 claims description 8
- 238000005457 optimization Methods 0.000 claims description 4
- 238000000605 extraction Methods 0.000 claims description 3
- 239000000126 substance Substances 0.000 claims 1
- 238000013473 artificial intelligence Methods 0.000 abstract description 3
- 238000007726 management method Methods 0.000 description 19
- 238000004891 communication Methods 0.000 description 16
- 230000008569 process Effects 0.000 description 6
- 238000013461 design Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000002360 preparation method Methods 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 238000013475 authorization Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000013499 data model Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本公开提供了一种模型训练方法、装置、设备以及存储介质,涉及计算机技术领域,尤其涉及人工智能技术领域。具体实现方案为:校验第一对象的权限信息以及与第二对象的原始样本数据;在确定权限信息和原始样本数据均通过校验的情况下,根据原始样本数据,确定目标样本数据;以及利用目标样本数据训练深度学习模型,得到目标模型。
Description
技术领域
本公开涉及计算机技术领域,尤其涉及人工智能技术领域。
背景技术
联合建模指的是基于多领域系统的数据运用正式的数据建模技术,建立信息系统的数据模型的过程。
发明内容
本公开提供了一种模型训练方法、装置、设备以及存储介质。
根据本公开的一方面,提供了一种模型训练方法,包括:校验第一对象的权限信息以及与第二对象的原始样本数据;在确定所述权限信息和所述原始样本数据均通过校验的情况下,根据所述原始样本数据,确定目标样本数据;以及利用所述目标样本数据训练深度学习模型,得到目标模型。
根据本公开的另一方面,提供了一种模型训练装置,包括:校验模块,用于校验第一对象的权限信息以及与原始样本数据;数据加工模块,用于在确定所述权限信息和所述原始样本数据通过校验的情况下,根据所述原始样本数据,确定目标样本数据;以及模型训练模块,用于利用所述目标样本数据训练深度学习模型,得到目标模型。
本公开的另一个方面提供了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行本公开实施例所示的方法。
根据本公开实施例的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行本公开实施例所示的方法。
根据本公开实施例的另一方面,提供了一种计算机程序产品,包括计算机程序/指令,其特征在于,该计算机程序/指令被处理器执行时实现本公开实施例所示方法的步骤。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开实施例的模型训练方法、装置、电子设备和存储介质的应用场景示意图;
图2示意性示出了根据本公开的实施例的模型训练方法的流程图;
图3示意性示出了根据本公开的实施例的配置第一对象的权限信息的方法的流程图;
图4示意性示出了根据本公开的实施例的获取原始样本数据的方法的流程图;
图5示意性示出了根据本公开的实施例的模型训练方法的流程图;
图6示意性示出了根据本公开的实施例的模型训练方法的流程图;
图7示意性示出了根据本公开另一实施例的模型训练方法的示意图;
图8示意性示出了根据本公开实施例的模型训练装置的框图;以及
图9示意性示出了可以用来实施本公开的实施例的示例电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
以下将结合图1对本公开提供的模型训练方法和装置的应用场景进行描述。
图1是根据本公开实施例的模型训练方法、装置、电子设备和存储介质的应用场景示意图。需要注意的是,图1所示仅为可以应用本公开实施例的系统架构的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
如图1所示,根据该实施例的系统架构100可以包括操作平台101、102,网络103和服务器104。网络103用以在操作平台101、102和服务器104之间提供通信链路的介质。网络103可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用操作平台101、102通过网络103与服务器104交互,以接收或发送消息等。
操作平台101、102可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器104可以是深度学习模型训练项目的项目管理服务器。服务器104可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务(Virtual Private Server,或简称VPS)中,存在的管理难度大,业务扩展性弱的缺陷。服务器104也可以为分布式系统的服务器,或者是结合了区块链的服务器。
根据本公开的实施例,委托方可以委托被委托方代为训练深度学习模型,即进行联合建模。为此,委托方可以与被委托方签订委托协议。根据本公开的实施例,委托方可以通过操作平台101向服务器104上传委托方的签名信息,另一方面被委托方可以通过操作平台102向服务器104上传被委托方的签名信息。服务器104可以对委托方的签名信息和被委托方的签名信息进行校验,在校验通过的情况下,为被委托方配置权限信息。该权限信息用于表示被委托方具有相关硬件使用权限和软件使用权限。
被委托方可以通过操作平台102向服务器104提交数据需求信息。服务器104可以根据数据需求信息,确定需求请求发送到操作平台101。委托方可以根据需求请求,准备对应的原始样本数据,并将原始样本数据上传至服务器104。
在进行模型训练前,服务器104校验被委托方的权限信息以及委托方提供的原始样本数据。在确定权限信息和原始样本数据均通过校验的情况下,可以对原始样本数据进行预处理,得到目标样本数据。然后可以利用目标样本数据训练深度学习模型,得到目标模型。
根据本公开实施例的模型训练方法,可以协调委托方和被委托方的工作,防止重复工作、防止流程紊乱、提高训练深度学习模型的效率。
应该理解,图1中的操作平台、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的操作平台、网络和服务器。
在本公开的技术方案中,所涉及的用户个人信息的收集、存储、使用、加工、传输、提供、公开和应用等处理,均符合相关法律法规的规定,采取了必要保密措施,且不违背公序良俗。
在本公开的技术方案中,在获取或采集用户个人信息之前,均获取了用户的授权或同意。
图2示意性示出了根据本公开的实施例的模型训练方法的流程图。
如图2所示,该模型训练方法200包括在操作S210,校验第一对象的权限信息以及与第二对象的原始样本数据。
然后,在操作S220,在确定权限信息和原始样本数据均通过校验的情况下,根据原始样本数据,确定目标样本数据。
在操作S230,利用目标样本数据训练深度学习模型,得到目标模型。
根据本公开的实施例,第二对象例如可以包括委托方用户。第一对象例如可以包括被委托方用户。委托方可以委托被委托方代为训练深度学习模型,即进行联合建模。
根据本公开的实施例,第一对象的权限信息可以用于表示第一对象是否具有使用对应软件和硬件权限。其中,软件和硬件可以是用于训练深度学习模型的软件和硬件。
根据本公开的实施例,原始样本数据例如可以由第二对象提供。
根据本公开的实施例,可以校验第一对象的权限信息,以确定该第一对象是否有使用对应软件和硬件权限。若确定第一对象有使用对应软件和硬件权限的情况下,则确定第一对象的权限信息通过校验。否则,确定第一对象的权限信息未通过校验。
根据本公开的实施例,可以校验原始样本数据中是否包含训练所需的所有字段。若确定原始样本数据中包含了训练所需的所有字段,则确定原始样本数据通过校验。否则,确定原始样本数据未通过校验。
根据本公开的实施例,原始样本数据可以包括多个数据表。例如可以从多个数据表中提取多个目标字段。然后根据多个目标字段,确定数据宽表,作为目标样本数据。其中,目标字段可以为训练深度学习模型所需的样本数据所对应的字段。
根据本公开的实施例,可以由第一对象调用对应的软件和硬件,训练深度学习模型,在训练的过程中,可以使用第二对象提供的原始数据样本。从而可以协调第一对象和第二对象的工作,防止重复工作、防止流程紊乱、提高建立模型的效率。
根据本公开的另一实施例,上述方法还可以包括配置第一对象的权限信息。下面结合图3对根据本公开实施例的配置第一对象的权限信息的方法进行进一步说明。
图3示意性示出了根据本公开的实施例的配置第一对象的权限信息的方法的流程图。
如图3所示,该配置第一对象的权限信息的方法300可以包括在操作S310,接收来自第一操作平台的第一签名信息和来自第二操作平台的第二签名信息。
根据本公开的实施例,第一操作平台与第一对象对应,第二操作平台与第二对象对应。本实施例中,第一操作平台例如可以包括第一对象使用的操作平台,第二操作平台例如可以包括第二对象使用的操作平台。
需要说明的是,第一对象可以每次使用相同的操作平台,也可以每次使用不同的操作平台。第二对象可以每次使用相同的操作平台,也可以每次使用不同的操作平台。本公开对此不作具体限定。
根据本公开的实施例,第一对象可以通过第一操作平台上传第一签名信息。第二对象可以通过第二操作平台上传第二签名信息。第一签名信息例如包括第一对象的签名图像和/或印章图像,第二签名信息例如包括第二对象的签名图像和/或印章图像。
然后,在操作S320,校验第一签名信息和第二签名信息。
根据本公开的实施例,可以对第一对象的签名图像和/或印章图像进行校验,以确定该签名图像中的签名和/或该印章图像中印章的真伪。若签名或印章中任意一个为假,则确定第一签名信息未通过校验。否则,确定第一签名信息通过校验。
同理,可以对第二对象的签名图像和/或印章图像进行校验,以确定该签名图像中的签名和/或该印章图像中印章的真伪。若签名或印章中任意一个为假,则确定第一签名信息未通过校验。否则,确定第一签名信息通过校验。
在操作S330,在第一签名信息和第二签名信息均通过校验的情况下,配置第一对象的权限信息,以便为第一对象开通与模型训练对应的硬件和软件的使用权限。
根据本公开的实施例,若第一签名信息和第二签名信息均通过校验,则表示第一对象与第二对象达成了协议,可以为第一对象配置对应的权限信息,以便为第一对象开通与模型训练对应的硬件和软件的使用权限。
根据本公开的另一实施例,上述方法还可以包括获取原始样本数据。原始样本数据可以由第二对象根据第一对象的数据需求确定,并通过第二操作平台上传。下面结合图4对根据本公开实施例的获取原始样本数据的方法进行进一步说明。
图4示意性示出了根据本公开的实施例的获取原始样本数据的方法的流程图。
如图4所示,该获取原始样本数据的方法400可以包括在操作S410,响应于接收到来自第一操作平台的数据需求信息,根据数据需求信息,生成需求请求。
根据本公开的实施例,第一对象例如可以通过第一操作平台上传数据需求信息。数据需求信息例如可以包括训练深度学习模型所需要的数据类型、格式、数量等。
在操作S420,将需求请求发送至第二操作平台。
根据本公开的实施例,第一对象例如可以通过第二操作平台接收需求请求,然后根据需求请求,准备对应的数据,即原始样本数据,然后可以将原始样本数据上传。
在操作S430,接收来自第二操作平台的原始样本数据。
根据本公开的实施例,在接收到来自第二操作平台的原始样本数据之后,可以存储原始样本数据,以便后续使用。
图5示意性示出了根据本公开的实施例的模型训练方法的流程图。
如图5所示,该模型训练方法500可以包括在操作S510,对目标样本数据进行数据预处理,得到特征文件。
在操作S520,利用特征文件输入深度学习模型,得到输出结果。
在操作S530,根据输出结果调整深度学习模型的参数。
根据本公开的实施例,数据预处理例如可以包括以下处理中的任意一个或多个:将数据转换、特征加工、对文字、字符串等类型的数据进行编码、将连续数据离散化等等。
根据本公开的实施例,通过预处理,可以将目标样本数据转换为可以输入深度学习模型的特征文件。
根据本公开的实施例,在训练的过程中,可以确定深度学习模型是否满足预定条件,若满足预定条件,则可以停止训练,并确定训练后的深度学习模型作为目标模型。若不满足预定条件,则可以继续循环执行操作S520~S530,直到满足预定条件。其中,满足预定条件例如可以包括深度学习模型收敛或深度学习模型的特定指标到达预定要求。其中,特定指标和对应的预定要求根据根据需要设置。
根据本公开的实施例,在深度学习模型完成训练后,可以将训练好的深度学习模型上线,以供第二对象使用。
基于此,图6示意性示出了根据本公开的实施例的模型训练方法的流程图。
如图6所示,该模型训练方法600还可以包括在操作S610,生成与目标模型对应的访问接口。
在操作S620,通过访问接口,接收来自第二操作平台的目标输入数据。
在操作S630,利用目标模型确定与目标输入数据对应的目标输出数据。
在操作S640,通过访问接口,将目标输出数据发送至第二操作平台。
根据本公开的实施例,在访问接口可以用于访问目标模型。可以将该访问接口提供给第二操作平台。第二对象可以通过第二操作平台,将待输入目标模型的数据,即目标输入数据,发送至该访问接口,以便利用目标模型确定与目标输入数据对应的目标输出数据。在得到目标输出数据后,可以通过访问接口将目标输出数据返回给第二操作平台。
根据本公开的另一实施例,上述方法还可以包括对目标样本数据进行数据探查,得到样本分布信息。可以根据样本分布信息,调整目标样本数据,例如可以减少部分样本数据,或者增加部分样本数据等,从而使样本数据更符合实际需求。
根据本公开的另一实施例,上述方法还可以包括对目标模型进行模型评估,得到算法指标和业务指标。然后在确定算法指标和业务指标中的至少一个小于对应阈值的情况下,对目标模型进行优化。
根据本公开的实施例,算法指标例如可以包括准确率、召回率、ROC(接受者操作特征曲线)等。业务指标例如可以包括例如用户转化率、销量提高率等。
根据本公开的实施例,可以根据第一对象和第二对象的实际需求,分别为每个算法指标和业务指标,设置对应的阈值。
根据本公开的实施例,例如可以通过调整目标模型的参数、改变目标模型的结构或者换用其他类型的深度学习模型等方式,来对目标模型进行优化。
根据本公开的另一实施例,上述方法还可以包括对目标模型进行解释,对目标模型进行解析有利于用户目标模型进行理解。例如,在确定算法指标和业务指标均大于或等于对应阈值的情况下,分析目标模型的模型结构,生成模型结构图。另外还可以在确定算法指标和业务指标均大于或等于对应阈值的情况下,分析目标模型的特征依赖关系,生成特征依赖图。
下面参考图7,结合具体实施例对上文所示的模型训练方法做进一步说明。本领域技术人员可以理解,以下示例实施例仅用于理解本公开,本公开并不局限于此。
示例性地,本实施例中,第一对象例如可以包括被委托方的销售人员(AM)、解决方案架构师(SA)、产品经理(PM)、项目工程师(RD)等。第二对象例如可以包括委托方业务人员。
图7示意性示出了根据本公开另一实施例的模型训练方法示意图。
在图7中示出了,被委托方的销售人员、解决方案架构师、产品经理和项目工程师可以和委托方业务人员通过深度学习模型训练项目的项目管理服务器进行语音会议或视频会议,以对接需求。项目管理服务器可以识别语音会议或视频会议的内容,并生成对应的沟通纪要,存储在项目管理服务器中。产品经理和项目工程师可以访问项目管理服务器获取沟通纪要,并根据沟通纪要启动方案设计。
在方案设计时,产品经理和项目工程师可以评估委托方需求的可行性。如果评估为不可行,需要打回重新沟通需求。如果评估为可行,则产出解决方案,上传至项目管理服务器,启动入场准备。
在入场准备时,销售人员与委托方业务人员分别上传被委托方和委托方的签名信息,以签署相关协议,例如安全协议、保密协议、法务协议等等。然后项目管理服务器可以校验被委托方和委托方的签名信息,在校验通过后,申请为委托方开通相应的硬件和软件权限,即配置权限信息。
然后开启数据准备,产品经理和项目工程师可以通过项目管理服务器向委托方业务人员发送需求请求。收到需求请求后,委托方业务人员准备原始样本数据,并把原始样本数据上传至项目管理服务器,以供建模使用。
项目管理服务器校验被委托方的权限信息以及委托方提供的原始样本数据。在确定权限信息和原始样本数据均通过校验的情况下,可以对原始样本数据进行预处理,得到目标样本数据。然后可以利用目标样本数据训练深度学习模型,得到目标模型。如果权限信息和原始样本数据中至少一个没有通过校验,则返回需求沟通阶段。
在建模数据准备好之后启动模型建设。项目管理服务器可以对原始样本数据进行数据加工,产出数据宽表。然后可以对数据宽表进行数据探查,基于数据宽表产出样本分析报告。接下来可以进行特征工程,基于数据宽表产出可建模的特征,即特征文件。接着将特征文件输入深度学习模型以对深度学习模型进行训练,产出目标模型。
在产出模型文件之后,可以对目标模型进行模型评估,产出算法指标和业务指标。可以由项目管理服务器或由人工来核定指标。如果各项指标均达标,则可进入模型解释阶段。在模型解释阶段,可以由项目管理服务器或项目工程师根据来分析目标模型的结构和特征依赖,生成模型结构图和特征依赖图。如果至少一个指标不达标,则可以对目标模型进行优化,然后返回数据加工步骤重新对目标模型进行训练。示例性地,本实施例中,模型优化最多进行3次,如果3次均不达标,则终止迭代。
模型评估后,可以对目标模型进行发布。示例性地,本实施例中,可以采用离线预测和在线预测两种上线方式。对于离线预测的方式,委托方可以将样本上传项目管理服务器,项目管理服务器利用目标模型,根据样本产出离线预测结果,供委托方下载。对于在线预测的方式,可以设置访问接口(API),并向委托方提供接口文档。委托方可以根据接口文档,访问对于的访问接口来使用目标模型。
根据本公开的实施例,在模型上线后,项目管理服务器还可以定期输出线上模型指标和业务指标的评估报告。
根据本公开实施例,项目管理服务器可以协调委托方和被委托方的工作,防止重复工作、防止流程紊乱、提高训练深度学习模型的效率。
图8示意性示出了根据本公开实施例的模型训练装置的框图。
如图8所示,该模型训练装置800包括校验模块810、数据加工模块820和模型训练模块830。
校验模块810,用于校验第一对象的权限信息以及与原始样本数据。
数据加工模块820,用于在确定权限信息和原始样本数据通过校验的情况下,根据原始样本数据,确定目标样本数据。
模型训练模块830,用于利用目标样本数据训练深度学习模型,得到目标模型。
根据本公开的实施例,上述装置还可以包括签名接收模块、签名校验模块和权限配置模块。其中,签名接收模块,用于接收来自第一操作平台的第一签名信息和来自第二操作平台的的第二签名信息,其中,第一操作平台与第一对象对应,第二操作平台与第二对象对应。签名校验模块,用于校验第一签名信息和第二签名信息。权限配置模块,用于在第一签名信息和第二签名信息通过校验的情况下,配置第一对象的权限信息,以便为第一用开通与模型训练项目对应的硬件和软件的使用权限。
根据本公开的实施例,上述装置还可以包括需求接收模块、邮件发送模块和数据接收模块。其中,需求接收模块,用于响应于接收到来自第一操作平台的数据需求信息,根据数据需求信息,生成需求邮件。邮件发送模块,用于将需求邮件发送至第二操作平台。数据接收模块,用于接收来自第二操作平台的原始样本数据。
根据本公开的实施例,其中,原始样本数据可以包括多个数据表。数据加工模块,包括字段提取子模块和数据宽表确定子模块。其中,字段提取子模块,用于从多个数据表中提取多个目标字段。数据宽表确定子模块,用于根据多个目标字段,确定数据宽表,作为目标样本数据。
根据本公开的实施例,模型训练模型可以包括特征工程子模块、输入子模块和调整模块。其中,特征工程子模块,用于对目标样本数据进行数据预处理,得到特征文件。输入子模块,用于利用特征文件输入深度学习模型,得到输出结果。调整子模块,用于根据输出结果调整深度学习模型的参数。
根据本公开的实施例,上述装置还可以包括接口生成模块、接口生成模块、模型输出模块和接口发送模块。其中,接口生成模块,用于生成与目标模型对应的访问接口。模型接收模块,用于通过访问接口,接收来自第二操作平台的目标输入数据。模型输出模块,用于利用目标模型确定与目标输入数据对应的目标输出数据。接口发送模块,用于通过访问接口,将目标输出数据发送至第二操作平台。
根据本公开的实施例,上述装置还可以包括数据探查模块和样本调整模块。其中,数据探查模块,用于对目标样本数据进行数据探查,得到样本分布信息。样本调整模块,用于根据样本分布信息,调整目标样本数据。
根据本公开的实施例,上述装置还可以包括模型评估模块和模型优化模块。其中,模型评估模块,用于对目标模型进行模型评估,得到算法指标和业务指标。模型优化模块,用于在确定算法指标和业务指标中的至少一个小于对应阈值的情况下,对目标模型进行优化。
根据本公开的实施例,上述装置还可以包括第一模型解释模块,用于在确定算法指标和业务指标均大于或等于对应阈值的情况下,分析目标模型的模型结构,生成模型结构图。
根据本公开的实施例,上述装置还可以包括第二模型解释模块,用于在确定算法指标和业务指标均大于或等于对应阈值的情况下,分析目标模型的特征依赖关系,生成特征依赖图。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图9示意性示出了可以用来实施本公开的实施例的示例电子设备900的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图9所示,设备900包括计算单元901,其可以根据存储在只读存储器(ROM)902中的计算机程序或者从存储单元908加载到随机访问存储器(RAM)903中的计算机程序,来执行各种适当的动作和处理。在RAM 903中,还可存储设备900操作所需的各种程序和数据。计算单元901、ROM 902以及RAM 903通过总线904彼此相连。输入/输出(I/O)接口905也连接至总线904。
设备900中的多个部件连接至I/O接口905,包括:输入单元906,例如键盘、鼠标等;输出单元907,例如各种类型的显示器、扬声器等;存储单元908,例如磁盘、光盘等;以及通信单元909,例如网卡、调制解调器、无线通信收发机等。通信单元909允许设备900通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元901可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元901的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元901执行上文所描述的各个方法和处理,例如模型训练方法。例如,在一些实施例中,模型训练方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元908。在一些实施例中,计算机程序的部分或者全部可以经由ROM 902和/或通信单元909而被载入和/或安装到设备900上。当计算机程序加载到RAM 903并由计算单元901执行时,可以执行上文描述的模型训练方法的一个或多个步骤。备选地,在其他实施例中,计算单元901可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行模型训练方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (23)
1.一种模型训练方法,包括:
校验第一对象的权限信息以及与第二对象的原始样本数据;
在确定所述权限信息和所述原始样本数据均通过校验的情况下,根据所述原始样本数据,确定目标样本数据;以及
利用所述目标样本数据训练深度学习模型,得到目标模型。
2.根据权利要求1所述的方法,还包括:
接收来自第一操作平台的第一签名信息和来自第二操作平台的第二签名信息,其中,所述第一操作平台与所述第一对象对应,所述第二操作平台与所述第二对象对应;
校验所述第一签名信息和第二签名信息;
在所述第一签名信息和第二签名信息均通过校验的情况下,配置所述第一对象的权限信息,以便为所述第一对象开通与模型训练对应的硬件和软件的使用权限。
3.根据权利要求2所述的方法,还包括:
响应于接收到来自所述第一操作平台的数据需求信息,根据所述数据需求信息,生成需求请求;
将所述需求请求发送至所述第二操作平台;以及
接收来自所述第二操作平台的原始样本数据。
4.根据权利要求2所述的方法,其中,所述原始样本数据包括多个数据表;所述根据所述原始样本数据,确定目标样本数据,包括:
从所述多个数据表中提取多个目标字段;以及
根据所述多个目标字段,确定数据宽表,作为所述目标样本数据。
5.根据权利要求4所述的方法,其中,所述利用所述目标样本数据训练深度学习模型,得到目标模型,包括:
对所述目标样本数据进行数据预处理,得到特征文件;
利用所述特征文件输入所述深度学习模型,得到输出结果;以及
根据所述输出结果调整所述深度学习模型的参数。
6.根据权利要求2-5中任一项所述的方法,还包括:
生成与所述目标模型对应的访问接口;
通过所述访问接口,接收来自所述第二操作平台的目标输入数据;
利用所述目标模型确定与所述目标输入数据对应的目标输出数据;以及
通过所述访问接口,将所述目标输出数据发送至所述第二操作平台。
7.根据权利要求2-5中任一项所述的方法,还包括:
对所述目标样本数据进行数据探查,得到样本分布信息;以及
根据所述样本分布信息,调整所述目标样本数据。
8.根据权利要求2-5中任一项所述的方法,还包括:
对所述目标模型进行模型评估,得到算法指标和业务指标;以及
在确定所述算法指标和业务指标中的至少一个小于对应阈值的情况下,对所述目标模型进行优化。
9.根据权利要求8所述的方法,还包括:
在确定所述算法指标和业务指标均大于或等于对应阈值的情况下,分析所述目标模型的模型结构,生成模型结构图。
10.根据权利要求8所述的方法,还包括:
在确定所述算法指标和业务指标均大于或等于对应阈值的情况下,分析所述目标模型的特征依赖关系,生成特征依赖图。
11.一种模型训练装置,包括:
校验模块,用于校验第一对象的权限信息以及与原始样本数据;
数据加工模块,用于在确定所述权限信息和所述原始样本数据通过校验的情况下,根据所述原始样本数据,确定目标样本数据;以及
模型训练模块,用于利用所述目标样本数据训练深度学习模型,得到目标模型。
12.根据权利要求11所述的装置,还包括:
签名接收模块,用于接收来自第一操作平台的第一签名信息和来自第二操作平台的的第二签名信息,其中,所述第一操作平台与第一对象对应,所述第二操作平台与第二对象对应;
签名校验模块,用于校验所述第一签名信息和第二签名信息;
权限配置模块,用于在所述第一签名信息和第二签名信息通过校验的情况下,配置所述第一对象的权限信息,以便为所述第一用开通与模型训练项目对应的硬件和软件的使用权限。
13.根据权利要求12所述的装置,还包括:
需求接收模块,用于响应于接收到来自所述第一操作平台的数据需求信息,根据所述数据需求信息,生成需求邮件;
邮件发送模块,用于将所述需求邮件发送至所述第二操作平台;以及
数据接收模块,用于接收来自所述第二操作平台的原始样本数据。
14.根据权利要求12所述的装置,其中,所述原始样本数据包括多个数据表;所述数据加工模块,包括:
字段提取子模块,用于从所述多个数据表中提取多个目标字段;以及
数据宽表确定子模块,用于根据所述多个目标字段,确定数据宽表,作为所述目标样本数据。
15.根据权利要求14所述的装置,其中,所述模型训练模型,包括:
特征工程子模块,用于对所述目标样本数据进行数据预处理,得到特征文件;
输入子模块,用于利用所述特征文件输入所述深度学习模型,得到输出结果;以及
调整子模块,用于根据所述输出结果调整所述深度学习模型的参数。
16.根据权利要求12-15中任一项所述的装置,还包括:
接口生成模块,用于生成与所述目标模型对应的访问接口;
模型接收模块,用于通过所述访问接口,接收来自所述第二操作平台的目标输入数据;
模型输出模块,用于利用所述目标模型确定与所述目标输入数据对应的目标输出数据;以及
接口发送模块,用于通过所述访问接口,将所述目标输出数据发送至所述第二操作平台。
17.根据权利要求12-15中任一项所述的装置,还包括:
数据探查模块,用于对所述目标样本数据进行数据探查,得到样本分布信息;以及
样本调整模块,用于根据所述样本分布信息,调整所述目标样本数据。
18.根据权利要求12-15中任一项所述的装置,还包括:
模型评估模块,用于对所述目标模型进行模型评估,得到算法指标和业务指标;以及
模型优化模块,用于在确定所述算法指标和业务指标中的至少一个小于对应阈值的情况下,对所述目标模型进行优化。
19.根据权利要求18所述的装置,还包括:
第一模型解释模块,用于在确定所述算法指标和业务指标均大于或等于对应阈值的情况下,分析所述目标模型的模型结构,生成模型结构图。
20.根据权利要求18所述的装置,还包括:
第二模型解释模块,用于在确定所述算法指标和业务指标均大于或等于对应阈值的情况下,分析所述目标模型的特征依赖关系,生成特征依赖图。
21.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-10中任一项所述的方法。
22.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-10中任一项所述的方法。
23.一种计算机程序产品,包括计算机程序/指令,其特征在于,该计算机程序/指令被处理器执行时实现权利要求1-10中任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210195108.5A CN114842317A (zh) | 2022-02-28 | 2022-02-28 | 模型训练方法、装置、设备以及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210195108.5A CN114842317A (zh) | 2022-02-28 | 2022-02-28 | 模型训练方法、装置、设备以及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114842317A true CN114842317A (zh) | 2022-08-02 |
Family
ID=82561818
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210195108.5A Pending CN114842317A (zh) | 2022-02-28 | 2022-02-28 | 模型训练方法、装置、设备以及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114842317A (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109325395A (zh) * | 2018-04-28 | 2019-02-12 | 二十世纪空间技术应用股份有限公司 | 图像的识别方法、卷积神经网络模型的训练方法及装置 |
CN112182635A (zh) * | 2019-07-03 | 2021-01-05 | 北京百度网讯科技有限公司 | 一种联合建模的实现方法、装置、设备和介质 |
CN112434818A (zh) * | 2020-11-19 | 2021-03-02 | 脸萌有限公司 | 模型构建方法、装置、介质及电子设备 |
CN112598132A (zh) * | 2020-12-04 | 2021-04-02 | 光大科技有限公司 | 模型训练方法及装置、存储介质、电子装置 |
-
2022
- 2022-02-28 CN CN202210195108.5A patent/CN114842317A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109325395A (zh) * | 2018-04-28 | 2019-02-12 | 二十世纪空间技术应用股份有限公司 | 图像的识别方法、卷积神经网络模型的训练方法及装置 |
CN112182635A (zh) * | 2019-07-03 | 2021-01-05 | 北京百度网讯科技有限公司 | 一种联合建模的实现方法、装置、设备和介质 |
CN112434818A (zh) * | 2020-11-19 | 2021-03-02 | 脸萌有限公司 | 模型构建方法、装置、介质及电子设备 |
CN112598132A (zh) * | 2020-12-04 | 2021-04-02 | 光大科技有限公司 | 模型训练方法及装置、存储介质、电子装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10817779B2 (en) | Bayesian network based hybrid machine learning | |
EP3469529A1 (en) | Systems and apparatuses for architecture assessment and policy enforcement | |
CN108737243A (zh) | 会话消息质检方法及装置 | |
WO2017212357A1 (en) | Systems and apparatuses for architecture assessment and policy enforcement | |
US11271957B2 (en) | Contextual anomaly detection across assets | |
CN108959965B (zh) | 数据合规性审查方法和装置 | |
CN113221104A (zh) | 用户异常行为的检测方法及用户行为重构模型的训练方法 | |
CN115150063A (zh) | 模型加密的方法、装置及电子设备 | |
CN111861801A (zh) | 酒店满房预测方法、系统、设备及存储介质 | |
CN114842317A (zh) | 模型训练方法、装置、设备以及存储介质 | |
US20220237074A1 (en) | Data quality-based computations for kpis derived from time-series data | |
CN115936895A (zh) | 基于人工智能的风险评估方法、装置、设备及存储介质 | |
CN115760010A (zh) | 报关单的审核方法、报关方法、装置、设备及存储介质 | |
US20220172102A1 (en) | Machine learning model trained using features extracted from n-grams of mouse event data | |
CN114567485A (zh) | 一种数据处理方法、装置、设备和存储介质 | |
CN114202309A (zh) | 用户与企业的匹配参数的确定方法、电子设备及程序产品 | |
CN115296905B (zh) | 一种基于移动终端的数据采集分析方法及系统 | |
CN114386506A (zh) | 特征筛选方法、装置、电子设备及存储介质 | |
CN115169321B (zh) | 物流内容文本核对方法、装置、电子设备和计算机介质 | |
US20240048467A1 (en) | Methods and systems for determining severity of disruptions in communication networks in non-homogenous environments | |
US20220405631A1 (en) | Data quality assessment for unsupervised machine learning | |
CN116305324A (zh) | 一种主机安全防护方法、装置、设备及存储介质 | |
CN117421311A (zh) | 基于人工智能的数据校验方法、装置、设备及存储介质 | |
CN117787723A (zh) | 基于人工智能的数据预测方法、装置、设备及存储介质 | |
CN114119261A (zh) | 反洗钱数据的处理方法及装置、存储介质、电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |