CN114417411A - 一种端云开发系统、模型的处理方法、装置及设备 - Google Patents
一种端云开发系统、模型的处理方法、装置及设备 Download PDFInfo
- Publication number
- CN114417411A CN114417411A CN202210060891.4A CN202210060891A CN114417411A CN 114417411 A CN114417411 A CN 114417411A CN 202210060891 A CN202210060891 A CN 202210060891A CN 114417411 A CN114417411 A CN 114417411A
- Authority
- CN
- China
- Prior art keywords
- target model
- model
- cloud server
- trained
- training
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/62—Protecting access to data via a platform, e.g. using keys or access control rules
- G06F21/6218—Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/62—Protecting access to data via a platform, e.g. using keys or access control rules
- G06F21/6218—Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
- G06F21/6245—Protecting personal data, e.g. for financial or medical purposes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioethics (AREA)
- Mathematical Physics (AREA)
- Computing Systems (AREA)
- Evolutionary Biology (AREA)
- Computational Linguistics (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Medical Informatics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Databases & Information Systems (AREA)
- Computer Hardware Design (AREA)
- Computer Security & Cryptography (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本说明书实施例公开了一种端云开发系统、模型的处理方法、装置及设备,该方法包括:获取用于训练目标模型的第一样本数据,第一样本数据中包括终端设备的特征数据和目标模型对应的业务数据,然后,可以将第一样本数据输入到目标模型中,并通过差分隐私算法对目标模型进行模型训练,得到训练后的目标模型,并对训练后的目标模型对应的隐私保护能力进行测试,得到相应的测试结果,如果该测试结果为测试通过,则生成目标模型的部署信息,该部署信息用于触发向终端设备或云端服务器部署训练后的目标模型。
Description
技术领域
本文件涉及计算机技术领域,尤其涉及一种端云开发系统、模型的处理方法、装置及设备。
背景技术
随着终端和互联网技术的不断强化,很多功能和业务(如风控能力等)逐渐走向了深水区,在人工智能时代的衬托下,对用户数据的需求也十分迫切,尤其在端云链路(终端设备-云端服务器构成的链路)中,终端设备上有获取用户数据等优势,结合云端服务器的高性能,端云系统(终端设备-云端服务器构成的系统)潜力巨大,当前人们都十分注重个人隐私,在此背景下,对用户数据在有效隐私保护的前提下,有效利用的需求十分迫切,为此,需要提供一种基于隐私保护的端云系统框架。
发明内容
本说明书实施例的目的是提供一种基于隐私保护的端云系统框架。
为了实现上述技术方案,本说明书实施例是这样实现的:
本说明书实施例提供的一种模型的处理方法,所述方法包括:获取用于训练目标模型的第一样本数据,所述第一样本数据中包括终端设备的特征数据和所述目标模型对应的业务数据。将所述第一样本数据输入到所述目标模型中,并通过差分隐私算法对所述目标模型进行模型训练,得到训练后的所述目标模型。对训练后的所述目标模型对应的隐私保护能力进行测试,得到相应的测试结果。如果所述测试结果为测试通过,则生成所述目标模型的部署信息,所述部署信息用于触发向所述终端设备或云端服务器部署训练后的所述目标模型。
本说明书实施例提供的一种模型的处理方法,应用于区块链系统,所述方法包括:获取目标模型的处理规则信息,采用所述目标模型的处理规则信息生成相应的第一智能合约,并将所述第一智能合约部署到所述区块链系统中。调用所述第一智能合约,获取用于训练目标模型的第一样本数据,所述第一样本数据中包括终端设备的特征数据和所述目标模型对应的业务数据。基于所述第一智能合约将所述第一样本数据输入到所述目标模型中,并通过差分隐私算法对所述目标模型进行模型训练,得到训练后的所述目标模型。基于所述第一智能合约对训练后的所述目标模型对应的隐私保护能力进行测试,得到相应的测试结果。如果所述测试结果为测试通过,则基于所述第一智能合约生成所述目标模型的部署信息,所述部署信息用于触发向终端设备或云端服务器部署训练后的所述目标模型。
本说明书实施例提供的一种模型的处理装置,所述装置包括:样本获取模块,获取用于训练目标模型的第一样本数据,所述第一样本数据中包括终端设备的特征数据和所述目标模型对应的业务数据。训练模块,将所述第一样本数据输入到所述目标模型中,并通过差分隐私算法对所述目标模型进行模型训练,得到训练后的所述目标模型。隐私保护测试模块,隐私信息对训练后的所述目标模型对应的隐私保护能力进行测试,得到相应的测试结果。模型部署模块,如果所述测试结果为测试通过,则生成所述目标模型的部署信息,所述部署信息用于触发向所述终端设备或云端服务器部署训练后的所述目标模型。
本说明书实施例提供的一种模型的处理装置,所述装置为区块链系统中的装置,所述装置包括:合约部署模块,获取目标模型的处理规则信息,采用所述目标模型的处理规则信息生成相应的第一智能合约,并将所述第一智能合约部署到所述区块链系统中。样本获取模块,调用所述第一智能合约,获取用于训练目标模型的第一样本数据,所述第一样本数据中包括终端设备的特征数据和所述目标模型对应的业务数据。训练模块,基于所述第一智能合约将所述第一样本数据输入到所述目标模型中,并通过差分隐私算法对所述目标模型进行模型训练,得到训练后的所述目标模型。隐私保护测试模块,基于所述第一智能合约对训练后的所述目标模型对应的隐私保护能力进行测试,得到相应的测试结果。模型部署模块,如果所述测试结果为测试通过,则基于所述第一智能合约生成所述目标模型的部署信息,所述部署信息用于触发向终端设备或云端服务器部署训练后的所述目标模型。
本说明书实施例提供的一种模型的处理设备,包括:处理器;以及被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器:获取用于训练目标模型的第一样本数据,所述第一样本数据中包括终端设备的特征数据和所述目标模型对应的业务数据。将所述第一样本数据输入到所述目标模型中,并通过差分隐私算法对所述目标模型进行模型训练,得到训练后的所述目标模型。对训练后的所述目标模型对应的隐私保护能力进行测试,得到相应的测试结果。如果所述测试结果为测试通过,则生成所述目标模型的部署信息,所述部署信息用于触发向所述终端设备或云端服务器部署训练后的所述目标模型。
本说明书实施例提供的一种模型的处理设备,所述设备为区块链系统中的设备,所述模型的处理设备包括:处理器;以及被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器:获取目标模型的处理规则信息,采用所述目标模型的处理规则信息生成相应的第一智能合约,并将所述第一智能合约部署到所述区块链系统中。调用所述第一智能合约,获取用于训练目标模型的第一样本数据,所述第一样本数据中包括终端设备的特征数据和所述目标模型对应的业务数据。基于所述第一智能合约将所述第一样本数据输入到所述目标模型中,并通过差分隐私算法对所述目标模型进行模型训练,得到训练后的所述目标模型。基于所述第一智能合约对训练后的所述目标模型对应的隐私保护能力进行测试,得到相应的测试结果。如果所述测试结果为测试通过,则基于所述第一智能合约生成所述目标模型的部署信息,所述部署信息用于触发向终端设备或云端服务器部署训练后的所述目标模型。
本说明书实施例还提供了一种存储介质,其中,所述存储介质用于存储计算机可执行指令,所述可执行指令在被执行时实现以下流程:获取用于训练目标模型的第一样本数据,所述第一样本数据中包括终端设备的特征数据和所述目标模型对应的业务数据。将所述第一样本数据输入到所述目标模型中,并通过差分隐私算法对所述目标模型进行模型训练,得到训练后的所述目标模型。对训练后的所述目标模型对应的隐私保护能力进行测试,得到相应的测试结果。如果所述测试结果为测试通过,则生成所述目标模型的部署信息,所述部署信息用于触发向所述终端设备或云端服务器部署训练后的所述目标模型。
本说明书实施例还提供了一种存储介质,其中,所述存储介质用于存储计算机可执行指令,所述可执行指令在被执行时实现以下流程:获取目标模型的处理规则信息,采用所述目标模型的处理规则信息生成相应的第一智能合约,并将所述第一智能合约部署到区块链系统中。调用所述第一智能合约,获取用于训练目标模型的第一样本数据,所述第一样本数据中包括终端设备的特征数据和所述目标模型对应的业务数据。基于所述第一智能合约将所述第一样本数据输入到所述目标模型中,并通过差分隐私算法对所述目标模型进行模型训练,得到训练后的所述目标模型。基于所述第一智能合约对训练后的所述目标模型对应的隐私保护能力进行测试,得到相应的测试结果。如果所述测试结果为测试通过,则基于所述第一智能合约生成所述目标模型的部署信息,所述部署信息用于触发向终端设备或云端服务器部署训练后的所述目标模型。
本说明书实施例还提供了一种端云开发系统,所述系统包括端云模式配置部、节点配置部和隐私保护配置部,其中:所述隐私保护配置部,用于对目标模型进行训练的过程中通过差分隐私算法进行隐私保护处理,以得到满足预设隐私保护条件的目标模型进行配置,所述对目标模型进行训练的过程是终端设备通过获取的第一样本数据进行训练的过程,所述第一样本数据中包括所述终端设备的特征数据和所述目标模型对应的业务数据。所述节点配置部,用于向云端服务器和/或所述终端设备配置多种不同的具有预设数据处理规则的节点,所述节点包括训练节点、测试节点、业务指标评估节点和部署节点中的一个或多个,其中,所述测试节点用于对训练后的所述目标模型对应的隐私保护能力进行测试,所述业务指标评估节点用于针对预设的业务指标,对训练后的目标模型进行评估,所述部署节点用于生成所述目标模型的部署信息,以将所述目标模型部署到所述云端服务器和所述终端设备中。所述端云模式配置部,用于向所述云端服务器和/或所述终端设备配置相应的端云模式规则,所述端云模式规则用于触发所述云端服务器和/或所述终端设备执行相应的端云模式处理。
附图说明
为了更清楚地说明本说明书实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本说明书中记载的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本说明书一种模型的处理方法实施例;
图2为本说明书一种模型的处理系统的结构示意图;
图3为本说明书一种模型的处理相关界面的结构示意图;
图4为本说明书另一种模型的处理方法实施例;
图5为本说明书一种模型的处理过程的示意图;
图6为本说明书又一种模型的处理方法实施例;
图7为本说明书另一种模型的处理过程的示意图;
图8为本说明书又一种模型的处理方法实施例;
图9A为本说明书又一种模型的处理方法实施例;
图9B为本说明书又一种模型的处理过程示意图;
图10为本说明书一种端云开发系统的结构示意图;
图11为本说明书一种模型的处理装置实施例;
图12为本说明书另一种模型的处理装置实施例;
图13为本说明书一种模型的处理设备实施例。
具体实施方式
本说明书实施例提供一种端云开发系统、模型的处理方法、装置及设备。
为了使本技术领域的人员更好地理解本说明书中的技术方案,下面将结合本说明书实施例中的附图,对本说明书实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本说明书一部分实施例,而不是全部的实施例。基于本说明书中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都应当属于本说明书保护的范围。
实施例一
如图1所示,本说明书实施例提供一种模型的处理方法,该方法的执行主体可以为终端设备,其中,该终端设备可以如手机、平板电脑等移动终端设备,也可以是个人计算机等设备。该方法可以应用于终端设备与云端服务器构成的业务场景中。该方法具体可以包括以下步骤:
在步骤S102中,获取用于训练目标模型的第一样本数据,第一样本数据中包括终端设备的特征数据和目标模型对应的业务数据。
其中,目标模型可以是针对指定业务(为了后续叙述方便该业务可称为目标业务)的模型,目标业务可以是任意业务,例如,目标业务可以是金融业务、网络购物业务等,具体根据实际情况设定,本说明书实施例对此不做限定。目标模型可以是任意模型,例如,用于分类的模型、用于聚类的模型、用于分析数据的模型等,具体可以根据实际情况设定。第一样本数据可以是执行目标业务的过程中产生的数据或执行目标业务的过程中需要使用的数据等,目标业务可以包括多种,如风险防控业务、面部识别业务等,其中,第一样本数据中可以包括与终端设备相关的数据,如终端设备的特征数据等,终端设备的特征数据可以包括多种,例如终端设备的标识、终端设备的性能特征数据、终端设备的带宽、终端设备的信号强度信息等,具体可以根据实际情况设定。业务数据可以是针对目标业务执行的过程中所产生的与目标业务相关的数据,例如业务数据可以包括网络购物业务中的购买方的信息和商户的信息等,购买方的信息可以包括购买方的账户信息、购买方的购物历史信息等,商户的信息可以包括商户的账户信息、商户的交易历史信息等,业务数据也可以包括如金融业务中的交易双方的相关数据等,具体可以根据实际情况设定。
在实施中,随着终端和互联网技术的不断强化,很多功能和业务(如风控能力等)逐渐走向了深水区,在人工智能时代的衬托下,对用户数据的需求也十分迫切,尤其在端云链路(终端设备-云端服务器构成的链路)中,终端设备上有获取用户数据等优势,结合云端服务器的高性能,端云系统(终端设备-云端服务器构成的系统)潜力巨大,当前人们都十分注重个人隐私,在此背景下,对用户数据在有效隐私保护的前提下,有效利用的需求十分迫切。
当前,端云系统在链路上取得了一定的进步,打下了数据互通的基础,但仍然还有很多需要发展和提升的地方,例如,云端服务器终端设备之间没有更灵活地以模型的角度互通等,因此,在继续优化端云链路的同时,算法和模型层面也需要有进一步的提升,原因在于:一方面,需要进一步提升业务效果;另一方面,也慢慢对接了指定业务场景之外的多场景风险需要,如贷款欺诈、流量作弊等。在此趋势下,技术人员当前的工作模式难以高效地生产开发,技术人员接入仍有门槛,制约了端云开发的效率,通常体现在端云链路长和测试规则多等,其中,端云链路是为了满足数据特征和模型输出结果的共享需求,而当前端云链路流程长且往往没有进行标准化处理。此外,终端设备中的模型的安全往往掌握在用户手中,模型的上线应用的很多过程(如模型精度测试、脚本测试、测试过程中遇到需要解决的问题时也需要进行重复性的工作)也需要人工完成。
为了进行端云框架的开发,可以通过下述方式实现:可以通过ALPS和Tione等机器学习算法开发上述端云框架,在此基础上,可以设置特定的应用场景算法和解决方案,在底层,ALPS和Tione等统一负责分布式模型训练过程的优化,通过上述方式开发端云框架的过程中,由于存在用户隐私数据,从而使得用户隐私存在被泄露的风险,而且上述方式的机器学习算法并不是面向端云链路而开发的,在终端设备侧进行上述端云框架的推广时更加需要注重保护用户隐私数据。另外,还可以通过如联邦学习、多方安全计算等方式开发端云框架,但上述方式并没有考虑端云框架的应用场景,为此需要提供一种基于隐私保护的端云系统开发框架。本说明书实施例提供一种可实现的技术方案,具体可以包括以下内容:
本说明书实施例中的端云系统开发框架可以参见图2所示,其中包括隐私保护、节点和端云模式等3个主要部分,在实际应用中,还可以将上述3个部分划分为更多的部分或者将上述3个部分进行压缩,得到更少的组成部分,具体可以根据实际情况设定。其中,隐私保护部分可以用于对用户的隐私数据进行脱敏等隐私保护处理。节点部分中可以包括多种不同的处理节点,例如训练节点、测试节点、部署节点等,具体可以根据实际情况设定,本说明书实施例对此不做限定。端云模式可以包括多种,例如,终端设备、云端服务器到终端设备的模式、终端设备到云端服务器的模式、终端设备与云端服务器的异步通信模式等,具体可以根据实际情况设定。
基于上述端云系统开发框架,首先可以获取用于训练目标模型的第一样本数据,其中,获取第一样本数据的方式可以多种多样,例如,可以预先设置有样本的输入页面,该输入页面中可以包括训练样本的数据输入框、确定按键和取消按键等,当需要向服务器上传某样本数据(即第一样本数据)时,可以获取上述输入页面的数据,并可以显示该输入页面。如图3所示,用户可以在该输入页面的数据输入框中输入第一样本数据,输入完成后,可以点击该输入页面中的确定按键,此时,服务器可以获取第一样本数据,通过上述方式可以得到第一样本数据。或者,服务器中可以记录某业务的相关数据,当需要获取第一样本数据时,可以从上述业务的相关数据中获取满足指定需求的数据,将获取的数据作为第一样本数据等,除了可以通过上述方式获取第一样本数据外,还可以通过多种不同的方式获取第一样本数据,具体可以根据实际情况设定,本说明书实施例对此不做限定。
需要说明的是,第一样本数据的来源可以包括用户执行指定业务的过程中的数据,也可以是向用户购买或通过其它有偿交换的方式向该用户获取的数据,还可以是征得用户同意后该用户主动提供的数据等,具体可以根据实际情况设定,本说明书实施例对此不做限定。
在步骤S104中,将第一样本数据输入到目标模型中,并通过差分隐私算法对目标模型进行模型训练,得到训练后的目标模型。
其中,差分隐私算法旨在当被采集数据的用户并不信任数据采集方,虽然该用户仍然会将相应的数据上传给数据采集方,但该用户会希望在一定程度上述保护上述采集的数据而构成的算法。差分隐私算法可以在当从统计数据库查询时,最大化数据查询的准确性,同时最大限度减少识别其记录的几率。差分隐私算法是通过对数据进行扰动达到保护隐私的目的,其中的扰动机制可以包括多种,如拉普拉斯Laplace机制、指数机制等。差分隐私算法可以包括中心化差分隐私算法和本地化差分隐私算法(Local DifferentialPrivacy,LDP),其中的本地化差分隐私算法可以在待上传数据被收集前,由用户在本地先对待上传数据进行扰动,然后将加噪后的待上传数据上传到服务器(或服务中心),本地化差分隐私算法可以包括以下定义:算法A是∈满足的本地化差分隐私(∈-LDP),其中∈≥0,当且仅当对于任意两个数据v和v’,均满足如下公式:
其中,v和v’属于A的定义域,y属于A的值域。从用户角度来看,本地化差分隐私能更好地保护用户数据的隐私,用户数据在被采集前,已经在本地进行扰动处理,用户数据中的隐私内容已被抹去。本说明书实施例中的差分隐私算法可以为上述本地化差分隐私算法。
在实施中,通常,样本数据中可能会包含用户的隐私数据或者一些其他敏感数据,为了避免上述数据被泄露,可以通过样本数据训练目标模型的过程中进行差分隐私处理,从而使得样本数据中包含的敏感数据被扰乱,即使上述样本数据被泄露,该样本数据中的敏感数据也无法被识别,不会被其他人所知晓,保护了用户的隐私。其中,差分隐私算法可以包括多种可实现方式,以下提供一种可选的实现方式,具体可以包括以下内容:通过样本数据训练目标模型的过程中,基于指数机制的差分隐私算法进行差分隐私处理,训练后的目标模型。具体地,对于指数机制的差分隐私算法,设查询函数的输出域为R,输出域中的每个输出值r∈R,函数q(D,r)→R成为输出值r的可用性函数,用于评估输出值r的优劣程度。若设随机算法M的输入为数据集D,输出为对象r∈R,函数q(D,r)→R为可用性函数,Δq为函数q(D,r)→R的敏感度,若算法M以正比于exp(∈q(D,r)/2Δq)的概率从R中选择并输出r,则算法M提供∈-差分隐私保护。基于上述方式,对于算法M的输入为通过样本数据训练目标模型后得到的目标模型的梯度信息,该梯度信息对应的输出值r∈R,算法M以正比于exp(∈q(程序标识,r)/2Δq)的概率从R中选择并输出r,从而得到符合差分隐私要求的训练后的目标模型。
需要说明的是,上述处理过程仅是差分隐私算法的一种可实现的方式,在实际应用中,除了可以通过上述方式处理外,还可以通过多种方式对训练后的目标模型的梯度进行差分隐私处理,具体可以根据实际情况设定,本说明书实施例对此不做限定。
在步骤S106中,对训练后的目标模型对应的隐私保护能力进行测试,得到相应的测试结果。
在实施中,基于上述处理方式得到符合差分隐私要求的训练后的目标模型后,可以基于预先设定的隐私保护能力的测试机制对训练后的目标模型对应的隐私保护能力进行测试,其中的测试方式可以多种,以下提供一种可选的处理方式,具体可以包括:可以通过隐私保护能力的测试机制对训练后的目标模型对应的隐私保护能力进行评分,得到相应的评分值。将得到的评分值分别与相应的阈值进行比较,基于比较结果确定相应的测试结果,例如,如果得到的评分值大于相应的阈值,则确定该测试结果为测试通过,如果得到的评分值小于相应的阈值,则确定该测试结果为测试未通过。
在步骤S108中,如果上述测试结果为测试通过,则生成目标模型的部署信息,该部署信息用于触发向终端设备或云端服务器部署训练后的目标模型。
本说明书实施例提供一种模型的处理方法,获取用于训练目标模型的第一样本数据,第一样本数据中包括终端设备的特征数据和目标模型对应的业务数据,然后,可以将第一样本数据输入到目标模型中,并通过差分隐私算法对目标模型进行模型训练,得到训练后的目标模型,并对训练后的目标模型对应的隐私保护能力进行测试,得到相应的测试结果,如果该测试结果为测试通过,则生成目标模型的部署信息,该部署信息用于触发向终端设备或云端服务器部署训练后的目标模型,这样,上述系统框架中充分考虑了隐私保护的需求,实现了面向端云系统框架的隐私保护,尤其是对终端设备上的目标模型中用到终端设备的数据的有效保护,而且,将差分隐私算法与生成目标模型相结合,解决了海量数据和隐私保护之间的矛盾。
实施例二
如图4所示,本说明书实施例提供一种模型的处理方法,该方法的执行主体可以为终端设备,其中,该终端设备可以如手机、平板电脑等移动终端设备,也可以是个人计算机等设备。该方法可以应用于终端设备与云端服务器构成的业务场景中。该方法具体可以包括以下步骤:
在步骤S402中,获取用于训练目标模型的第一样本数据,第一样本数据中包括终端设备的特征数据和目标模型对应的业务数据。
其中,目标模型可以为针对目标业务的风险防控模型,用于对目标业务中存在的风险进行识别和检测处理,目标业务可以是任意业务,例如转账业务、支付业务等,风险防控模型可以通过多种不同的网络模型或算法构建,例如,风险防控模型可以基于卷积神经网络模型构建或基于指定的分类算法构建等,在实际应用中,目标模型可以为生成对抗网络模型等,具体可以根据实际情况设定,本说明书实施例对此不做限定。
在步骤S404中,将第一样本数据输入到目标模型中,并对目标模型的梯度进行剪裁处理后增加噪声的方式对目标模型进行模型训练,得到训练后的目标模型。
在实施中,可以将某个第一样本输入到目标模型中,得到相应的输出结果,基于该输出结果与第一样本的标签信息,通过预设的损失函数确定相应的损失信息,基于该损失信息对目标模型进行反向传播,得到目标模型对应的梯度,可以对该梯度进行剪裁处理,得到剪裁后的梯度,并可以对剪裁后的梯度加入预设的噪声信息生成目标模型对应的新梯度,可以基于目标模型对应的新梯度对目标模型的模型参数进行更新,得到更新后的目标模型,对于每个第一样本均执行上述处理以对目标模型进行模型训练,可以最终得到训练后的目标模型。需要说明的是,通过对目标模型的梯度进行剪裁处理后增加噪声的方式对目标模型进行模型训练,可以是实现差分隐私要求,从而可以使得训练后的目标模型满足隐私保护条件(或隐私保护需求)。
基于上述示例,如果目标模型为生成对抗网络模型(即GAN模型),则可以基于差分隐私,训练一个符合差分隐私要求的GAN模型,这样在第一步先拟合真实的、小批量的数据集,然后再用训练后的GAN模型,生成大量的具有严格隐私保护意义的数据集。其中,在训练GAN模型时,可以对训练的GAN模型的梯度添加高斯噪声(即进行梯度脱敏),具体地,首先可以对训练的GAN模型对应的梯度进行剪裁处理,得到剪裁后的梯度,并可以对剪裁后的梯度加入预设的噪声信息生成目标模型对应的新梯度,可以基于目标模型对应的新梯度对目标模型的模型参数进行更新,得到更新后的目标模型,从而实现差分隐私处理,以将第一样本数据隐藏起来,进而使得GAN模型符合差分隐私的要求,也就符合了隐私保护的要求。
在步骤S406中,对训练后的目标模型对应的隐私保护能力进行测试,得到相应的测试结果。
在步骤S408中,如果上述测试结果为测试通过,则将训练后的目标模型发送给云端服务器,以触发云端服务器将训练后的目标模型作为模型特征,并基于获取的第二样本数据对训练后的目标模型进行训练,得到云端服务器中训练后的目标模型。
在实施中,如图5所示,如果上述测试结果为测试通过,则可以通过如上述图2所示的端云系统开发框架中设置的处理方式和处理过程对训练后的目标模型进行处理,具体地,端云系统开发框架中可以包括模型上传节点,可以用于将终端设备训练后的目标模型上传给云端服务器,云端服务器可以将训练后的目标模型作为模型特征,并可以获取第二样本数据,通过获取的第二样本数据对训练后的目标模型进行训练,得到云端服务器中训练后的目标模型。之后,可以将云端服务器中训练后的目标模型下发给终端设备,终端设备可以将其存储在本地,并可以投入到相应的业务处理中。
本说明书实施例提供一种模型的处理方法,获取用于训练目标模型的第一样本数据,第一样本数据中包括终端设备的特征数据和目标模型对应的业务数据,然后,可以将第一样本数据输入到目标模型中,并通过差分隐私算法对目标模型进行模型训练,得到训练后的目标模型,并对训练后的目标模型对应的隐私保护能力进行测试,得到相应的测试结果,如果该测试结果为测试通过,则生成目标模型的部署信息,该部署信息用于触发向终端设备或云端服务器部署训练后的目标模型,这样,上述系统框架中充分考虑了隐私保护的需求,实现了面向端云系统框架的隐私保护,尤其是对终端设备上的目标模型中用到终端设备的数据的有效保护,而且,将差分隐私算法与生成目标模型相结合,解决了海量数据和隐私保护之间的矛盾。
实施例三
如图6所示,本说明书实施例提供一种模型的处理方法,该方法的执行主体可以为终端设备,其中,该终端设备可以如手机、平板电脑等移动终端设备,也可以是个人计算机等设备。该方法可以应用于终端设备与云端服务器构成的业务场景中。该方法具体可以包括以下步骤:
在步骤S602中,接收云端服务器下发的目标模型。
在实施中,如图7所示,云端服务器可以训练目标模型,并可以将训练后的目标模型提供给终端设备继续训练,从而提高目标模型的输出准确度,具体地,云端服务器可以通过指定的样本获取方式获取第三样本数据,其中的样本获取方式可以包括多种,例如,可以向用户购买该用户相关的数据,并将购买的数据作为第三样本数据,或者,可以通过其它交换的方式获取第三样本数据,或者,也可以是在征得用户同意的基础上,由用户主动上传的数据(即第三样本数据)。云端服务器可以获取相应的算法,并可以使用该算法构建相应的目标模型,目标模型构建后,可以使用第三样本数据对目标模型进行训练,得到训练后的目标服务,然后,云端服务器可以将训练后的目标模型下发给各个终端设备,从而,终端设备可以接收到云端服务器下发的目标模型。在实际应用中,云端服务器也可以不需要对目标模型进行训练,而是将当前的目标模型(此时的目标模型可以是模型参数进行初始化后的模型,也可以是上一次通过终端设备进行训练后的模型等)直接下发给终端设备
在步骤S604中,获取用于训练目标模型的第一样本数据,第一样本数据中包括终端设备的特征数据和目标模型对应的业务数据。
在步骤S606中,将第一样本数据输入到目标模型中,并对目标模型的梯度进行剪裁处理后增加噪声的方式对目标模型进行模型训练,得到训练后的目标模型。
在步骤S608中,对训练后的目标模型对应的隐私保护能力进行测试,得到相应的测试结果。
在步骤S610中,如果上述测试结果为测试通过,则生成目标模型的部署信息,该部署信息用于触发向终端设备或云端服务器部署训练后的目标模型。
本说明书实施例提供一种模型的处理方法,获取用于训练目标模型的第一样本数据,第一样本数据中包括终端设备的特征数据和目标模型对应的业务数据,然后,可以将第一样本数据输入到目标模型中,并通过差分隐私算法对目标模型进行模型训练,得到训练后的目标模型,并对训练后的目标模型对应的隐私保护能力进行测试,得到相应的测试结果,如果该测试结果为测试通过,则生成目标模型的部署信息,该部署信息用于触发向终端设备或云端服务器部署训练后的目标模型,这样,上述系统框架中充分考虑了隐私保护的需求,实现了面向端云系统框架的隐私保护,尤其是对终端设备上的目标模型中用到终端设备的数据的有效保护,而且,将差分隐私算法与生成目标模型相结合,解决了海量数据和隐私保护之间的矛盾。
实施例四
如图8所示,本说明书实施例提供一种模型的处理方法,该方法的执行主体可以为终端设备,其中,该终端设备可以如手机、平板电脑等移动终端设备,也可以是个人计算机等设备。该方法可以应用于终端设备与云端服务器构成的业务场景中。该方法具体可以包括以下步骤:
在步骤S802中,接收云端服务器下发的目标模型。
在步骤S804中,获取用于训练目标模型的第一样本数据,第一样本数据中包括终端设备的特征数据和目标模型对应的业务数据。
在步骤S806中,将第一样本数据输入到目标模型中,并对目标模型的梯度进行剪裁处理后增加噪声的方式对目标模型进行模型训练,得到训练后的目标模型。
在步骤S808中,对训练后的目标模型对应的隐私保护能力进行测试,得到相应的测试结果。
在步骤S810中,如果上述测试结果为测试通过,则将训练后的目标模型的目标参数信息发送给云端服务器,以触发云端服务器基于目标参数信息对目标模型进行更新,得到更新后的目标模型,目标参数信息可以是能够触发云端服务器中的目标模型的模型参数进行更新的参数信息。
其中,目标参数信息可以包括多种,例如,目标参数信息可以包括梯度信息、模型参数信息、损失信息中的一种或多种。
在步骤S812中,接收云端服务器发送的更新后的目标模型的模型参数,并使用接收到的模型参数对训练后的目标模型的模型参数进行更新。
本说明书实施例提供一种模型的处理方法,获取用于训练目标模型的第一样本数据,第一样本数据中包括终端设备的特征数据和目标模型对应的业务数据,然后,可以将第一样本数据输入到目标模型中,并通过差分隐私算法对目标模型进行模型训练,得到训练后的目标模型,并对训练后的目标模型对应的隐私保护能力进行测试,得到相应的测试结果,如果该测试结果为测试通过,则生成目标模型的部署信息,该部署信息用于触发向终端设备或云端服务器部署训练后的目标模型,这样,上述系统框架中充分考虑了隐私保护的需求,实现了面向端云系统框架的隐私保护,尤其是对终端设备上的目标模型中用到终端设备的数据的有效保护,而且,将差分隐私算法与生成目标模型相结合,解决了海量数据和隐私保护之间的矛盾。
实施例五
如图9A和图9B所示,本说明书实施例提供一种模型的处理方法,该方法的执行主体可以为区块链系统,该区块链系统可以由终端设备和/或服务器等组成,其中,该终端设备可以如手机、平板电脑等移动终端设备,也可以是个人计算机等设备,该服务器可以是独立的一个服务器,还可以是由多个服务器构成的服务器集群等,该服务器可以是如金融业务或网络购物业务等的后台服务器,也可以是某应用程序的后台服务器等。该方法可以应用于终端设备与云端服务器构成的业务场景中,该方法具体可以包括以下步骤:
在步骤S902中,获取目标模型的处理规则信息,采用目标模型的处理规则信息生成相应的第一智能合约,并将第一智能合约部署到区块链系统中。
其中,第一智能合约可以是一种旨在以信息化方式传播、验证或执行合同的计算机协议,智能合约允许在没有第三方的情况下进行可信交互,进行的上述交互过程可追踪且不可逆转,第一智能合约中包括合约参与方可以在上面执行合约参与方同意的权利和义务的协议。
在实施中,为了使得目标模型的处理过程的可追溯性更好,可以创建或加入指定的区块链系统,这样,可以基于区块链系统执行目标模型的处理,具体地,区块链节点中可以安装有相应的应用程序,该应用程序中可以设置有目标模型的处理规则信息的输入框和/或选择框等,可以在上述输入框和/或选择框中设置相应的信息。然后,区块链系统可以接收目标模型的处理规则信息。区块链系统可以通过目标模型的处理规则信息生成相应的第一智能合约,并可以向该区块链系统中部署该第一智能合约,这样,区块链系统中存储了目标模型的处理规则信息和相应的第一智能合约,其他用户无法篡改目标模型的处理规则信息和相应的第一智能合约,而且,区块链系统通过第一智能合约执行目标模型的处理。
在步骤S904中,调用第一智能合约,获取用于训练目标模型的第一样本数据,第一样本数据中包括终端设备的特征数据和目标模型对应的业务数据。
在实施中,第一智能合约中可以设置有获取用于训练目标模型的第一样本数据的相关规则信息,这样,基于第一智能合约中的上述规则信息可以实现上述相应的处理,具体可以参见上述相关内容,在此不再赘述。
在步骤S906中,基于第一智能合约将第一样本数据输入到目标模型中,并通过差分隐私算法对目标模型进行模型训练,得到训练后的目标模型。
在实施中,第一智能合约中可以设置有将第一样本数据输入到目标模型中,并通过差分隐私算法对目标模型进行模型训练的相关规则信息,这样,基于第一智能合约中的上述规则信息可以实现上述相应的处理,具体可以参见上述相关内容,在此不再赘述。
在步骤S908中,基于第一智能合约对训练后的目标模型对应的隐私保护能力进行测试,得到相应的测试结果。
在实施中,第一智能合约中可以设置有对训练后的目标模型对应的隐私保护能力进行测试的相关规则信息,这样,基于第一智能合约中的上述规则信息可以实现上述相应的处理,具体可以参见上述相关内容,在此不再赘述。
在实际应用中,目标模型可以存储于区块链系统中,也可以存储于其它存储设备中,对于目标模型存储于其它存储设备中的情况,考虑到目标模型对于不同用户或不同时间是不同的,由于区块链系统具有不可篡改的特征,因此如果目标模型存储于区块链系统中,后续需要对目标模型进行频繁的更新等操作,增大区块链系统的处理压力,为了提高处理效率,降低区块链系统的处理压力,可以预先将目标模型存储于存储设备的指定存储地址内,而将该存储地址(即索引信息)上传于区块链系统中,由于该存储地址可以固定不变,并存储于区块链系统中,从而既保证了区块链系统中的数据的防篡改性。
在步骤S910中,如果上述测试结果为测试通过,则基于第一智能合约生成目标模型的部署信息,该部署信息用于触发向终端设备或云端服务器部署训练后的目标模型。
在实施中,第一智能合约中可以设置有生成目标模型的部署信息的相关规则信息,这样,基于第一智能合约中的上述规则信息可以实现上述相应的处理,具体可以参见上述相关内容,在此不再赘述。
上述步骤S910的处理之后,还可以执行下述处理:如果上述测试结果为测试通过,则基于预先部署于区块链系统中的第二智能合约将训练后的目标模型发送给云端服务器,以触发云端服务器将训练后的目标模型作为模型特征,并基于获取的第二样本数据对训练后的目标模型进行训练,得到云端服务器中训练后的目标模型。
其中,第二智能合约中可以设置有将训练后的目标模型发送给云端服务器的相关规则信息,这样,基于第一智能合约中的上述规则信息可以实现上述相应的处理,具体可以参见上述相关内容,在此不再赘述。
上述步骤S910的如果上述测试结果为测试通过,则基于第一智能合约生成目标模型的部署信息处理之前,还可以执行下述处理:如果上述测试结果为测试通过,则基于预先部署于区块链系统中的第三智能合约将训练后的目标模型的目标参数信息发送给云端服务器,以触发云端服务器基于目标参数信息对目标模型进行更新,得到更新后的目标模型,目标参数信息是能够触发云端服务器中的目标模型的模型参数进行更新的参数信息。相应的,上述步骤S910的如果上述测试结果为测试通过,则基于第一智能合约生成目标模型的部署信息处理即可以为:基于第一智能合约获取云端服务器提供的更新后的目标模型的模型参数,并使用获取到的模型参数对训练后的目标模型的模型参数进行更新。
在实施中,第三智能合约中可以设置有将训练后的目标模型的目标参数信息发送给云端服务器的相关规则信息,这样,基于第三智能合约中的上述规则信息可以实现上述相应的处理,具体可以参见上述相关内容,在此不再赘述。
此外,第一智能合约中可以设置有获取云端服务器提供的更新后的目标模型的模型参数,并使用获取到的模型参数对训练后的目标模型的模型参数进行更新的相关规则信息,这样,基于第一智能合约中的上述规则信息可以实现上述相应的处理,具体可以参见上述相关内容,在此不再赘述。
上述步骤S904~步骤S910的具体处理,可以参见上述实施例一~实施例四中的相关内容,即可以通过相应的智能合约,实现如上述实施例一~实施例四中的涉及的各种处理。
本说明书实施例提供一种模型的处理方法,应用于区块链系统,通过第一智能合约,分别:获取用于训练目标模型的第一样本数据,第一样本数据中包括终端设备的特征数据和目标模型对应的业务数据,然后,可以将第一样本数据输入到目标模型中,并通过差分隐私算法对目标模型进行模型训练,得到训练后的目标模型,并对训练后的目标模型对应的隐私保护能力进行测试,得到相应的测试结果,如果该测试结果为测试通过,则生成目标模型的部署信息,该部署信息用于触发向终端设备或云端服务器部署训练后的目标模型,这样,上述系统框架中充分考虑了隐私保护的需求,实现了面向端云系统框架的隐私保护,尤其是对终端设备上的目标模型中用到终端设备的数据的有效保护,而且,将差分隐私算法与生成目标模型相结合,解决了海量数据和隐私保护之间的矛盾。
实施例六
以上为本说明书实施例提供的模型的处理方法,基于同样的思路,本说明书实施例还提供一种端云开发系统,如图10所示。
所述系统包括端云模式配置部1001、节点配置部1002和隐私保护配置部1003,其中:
所述隐私保护配置部1001,用于对目标模型进行训练的过程中通过差分隐私算法进行隐私保护处理,以得到满足预设隐私保护条件的目标模型进行配置,所述对目标模型进行训练的过程是终端设备通过获取的第一样本数据进行训练的过程,所述第一样本数据中包括所述终端设备的特征数据和所述目标模型对应的业务数据;
所述节点配置部1002,用于向云端服务器和/或所述终端设备配置多种不同的具有预设数据处理规则的节点,所述节点包括训练节点、测试节点、业务指标评估节点和部署节点中的一个或多个,其中,所述测试节点用于对训练后的所述目标模型对应的隐私保护能力进行测试,所述业务指标评估节点用于针对预设的业务指标,对训练后的目标模型进行评估,所述部署节点用于生成所述目标模型的部署信息,以将所述目标模型部署到所述云端服务器和所述终端设备中;
所述端云模式配置部1003,用于向所述云端服务器和/或所述终端设备配置相应的端云模式规则,所述端云模式规则用于触发所述云端服务器和/或所述终端设备执行相应的端云模式处理。
其中,训练节点既可以基于隐私保护的数据训练,也可以基于真实数据训练。测试节点可以针对训练的目标模型,分别对隐私保护和非隐私保护的数据做预测。业务指标评估节点可以针对上述预测的效果,评估业务结果,并对比有无添加隐私保护的效果。
本说明书实施例中,所述节点还包括拆分节点和评测节点,其中:
所述拆分节点,用于根据数据处理需求将指定数据进行拆分,并将拆分的数据提供给所述云端服务器或所述终端设备;
所述评测节点,用于对运行于所述云端服务器和所述终端设备中的训练后的目标模型进行评测。
此外,评测节点可以针对指定应用程序的终端设备侧推理引擎的特定模型文件,可以包含一些转换过程中的基础测试功能。
本说明书实施例中,所述端云模式规则包括终端设备模式规则、基于异步处理的终端设备-云端服务器模式规则、基于异步处理的云端服务器-终端设备模式规则和基于同步处理的终端设备-云端服务器模式规则中的一个或多个,所述终端设备模式规则包括终端设备的数据处理子规则和所述目标模型的处理子规则,所述基于异步处理的终端设备-云端服务器模式规则包括所述终端设备将训练后的目标模型通过异步处理的方式提供给云端服务器的规则,所述基于异步处理的云端服务器-终端设备模式规则包括所述云端服务器将目标模型通过异步处理的方式下发给所述终端设备的规则,所述基于同步处理的终端设备-云端服务器模式规则包括通过同步处理的方式所述云端服务器与所述终端设备对所述目标模型进行协同训练。
上述端云开发系统可以实现对终端设备和云端服务器的相关配置,使得云端服务器能力和终端设备能力能够更灵活地以模型的角度互通,从而可以使得更高效的生产开发成为可能,提高了端云开发的效率。上述端云开发系统通过端云模式配置部1001、节点配置部1002和隐私保护配置部1003的处理,可以得到相应的终端设备-云端服务器构建的系统,构建的终端设备-云端服务器的系统能够实现上述实施例一~实施例四中的处理。
本说明书实施例提供一种端云开发系统,可以实现获取用于训练目标模型的第一样本数据,第一样本数据中包括终端设备的特征数据和目标模型对应的业务数据,然后,可以将第一样本数据输入到目标模型中,并通过差分隐私算法对目标模型进行模型训练,得到训练后的目标模型,并对训练后的目标模型对应的隐私保护能力进行测试,得到相应的测试结果,如果该测试结果为测试通过,则生成目标模型的部署信息,该部署信息用于触发向终端设备或云端服务器部署训练后的目标模型的处理,这样,上述系统框架中充分考虑了隐私保护的需求,实现了面向端云系统框架的隐私保护,尤其是对终端设备上的目标模型中用到终端设备的数据的有效保护,而且,将差分隐私算法与生成目标模型相结合,解决了海量数据和隐私保护之间的矛盾。
实施例七
基于同样的思路,本说明书实施例还提供一种模型的处理装置,如图11所示。
该模型的处理装置包括:样本获取模块1101、训练模块1102、隐私保护测试模块1103和模型部署模块1104,其中:
样本获取模块1101,获取用于训练目标模型的第一样本数据,所述第一样本数据中包括终端设备的特征数据和所述目标模型对应的业务数据;
训练模块1102,将所述第一样本数据输入到所述目标模型中,并通过差分隐私算法对所述目标模型进行模型训练,得到训练后的所述目标模型;
隐私保护测试模块1103,隐私信息对训练后的所述目标模型对应的隐私保护能力进行测试,得到相应的测试结果;
模型部署模块1104,如果所述测试结果为测试通过,则生成所述目标模型的部署信息,所述部署信息用于触发向所述终端设备或云端服务器部署训练后的所述目标模型。
本说明书实施例中,所述训练模块1102,将所述第一样本数据输入到所述目标模型中,并对所述目标模型的梯度进行剪裁处理后增加噪声的方式对所述目标模型进行模型训练,得到训练后的所述目标模型。
本说明书实施例中,所述装置还包括:
模型发送模块,如果所述测试结果为测试通过,则将训练后的所述目标模型发送给云端服务器,以触发所述云端服务器将训练后的所述目标模型作为模型特征,并基于获取的第二样本数据对训练后的所述目标模型进行训练,得到所述云端服务器中训练后的所述目标模型。
本说明书实施例中,所述样本获取模块1101,当接收到所述云端服务器下发的所述目标模型时,获取用于训练目标模型的第一样本数据。
本说明书实施例中,所述装置还包括:
信息发送模块,如果所述测试结果为测试通过,则将训练后的所述目标模型的目标参数信息发送给所述云端服务器,以触发所述云端服务器基于所述目标参数信息对所述目标模型进行更新,得到更新后的所述目标模型,所述目标参数信息是能够触发所述云端服务器中的所述目标模型的模型参数进行更新的参数信息;
所述模型部署模块,如果所述测试结果为测试通过,则接收所述云端服务器发送的更新后的所述目标模型的模型参数,并使用接收到的模型参数对训练后的所述目标模型的模型参数进行更新。
本说明书实施例中,所述目标模型为针对目标业务的风险防控模型,用于对所述目标业务中存在的风险进行识别和检测处理。
本说明书实施例中,所述目标模型为生成对抗网络模型。
本说明书实施例提供一种模型的处理装置,获取用于训练目标模型的第一样本数据,第一样本数据中包括终端设备的特征数据和目标模型对应的业务数据,然后,可以将第一样本数据输入到目标模型中,并通过差分隐私算法对目标模型进行模型训练,得到训练后的目标模型,并对训练后的目标模型对应的隐私保护能力进行测试,得到相应的测试结果,如果该测试结果为测试通过,则生成目标模型的部署信息,该部署信息用于触发向终端设备或云端服务器部署训练后的目标模型,这样,上述系统框架中充分考虑了隐私保护的需求,实现了面向端云系统框架的隐私保护,尤其是对终端设备上的目标模型中用到终端设备的数据的有效保护,而且,将差分隐私算法与生成目标模型相结合,解决了海量数据和隐私保护之间的矛盾。
实施例八
基于同样的思路,本说明书实施例还提供一种模型的处理装置,该装置为区块链系统中的装置,如图12所示。
该模型的处理装置包括:合约部署模块1201、样本获取模块1202、训练模块1203、隐私保护测试模块1204和模型部署模块1205,其中:
合约部署模块1201,获取目标模型的处理规则信息,采用所述目标模型的处理规则信息生成相应的第一智能合约,并将所述第一智能合约部署到所述区块链系统中;
样本获取模块1202,调用所述第一智能合约,获取用于训练目标模型的第一样本数据,所述第一样本数据中包括终端设备的特征数据和所述目标模型对应的业务数据;
训练模块1203,基于所述第一智能合约将所述第一样本数据输入到所述目标模型中,并通过差分隐私算法对所述目标模型进行模型训练,得到训练后的所述目标模型;
隐私保护测试模块1204,基于所述第一智能合约对训练后的所述目标模型对应的隐私保护能力进行测试,得到相应的测试结果;
模型部署模块1205,如果所述测试结果为测试通过,则基于所述第一智能合约生成所述目标模型的部署信息,所述部署信息用于触发向终端设备或云端服务器部署训练后的所述目标模型。
本说明书实施例中,所述装置还包括:
模型发送模块,如果所述测试结果为测试通过,则基于预先部署于所述区块链系统中的第二智能合约将训练后的所述目标模型发送给云端服务器,以触发所述云端服务器将训练后的所述目标模型作为模型特征,并基于获取的第二样本数据对训练后的所述目标模型进行训练,得到所述云端服务器中训练后的所述目标模型。
本说明书实施例中,所述装置还包括:
信息发送模块,如果所述测试结果为测试通过,则基于预先部署于所述区块链系统中的第三智能合约将训练后的所述目标模型的目标参数信息发送给所述云端服务器,以触发所述云端服务器基于所述目标参数信息对所述目标模型进行更新,得到更新后的所述目标模型,所述目标参数信息是能够触发所述云端服务器中的所述目标模型的模型参数进行更新的参数信息;
所述模型部署模块1205,基于所述第一智能合约获取所述云端服务器提供的更新后的所述目标模型的模型参数,并使用获取到的模型参数对训练后的所述目标模型的模型参数进行更新。
本说明书实施例提供一种模型的处理装置,获取用于训练目标模型的第一样本数据,第一样本数据中包括终端设备的特征数据和目标模型对应的业务数据,然后,可以将第一样本数据输入到目标模型中,并通过差分隐私算法对目标模型进行模型训练,得到训练后的目标模型,并对训练后的目标模型对应的隐私保护能力进行测试,得到相应的测试结果,如果该测试结果为测试通过,则生成目标模型的部署信息,该部署信息用于触发向终端设备或云端服务器部署训练后的目标模型,这样,上述系统框架中充分考虑了隐私保护的需求,实现了面向端云系统框架的隐私保护,尤其是对终端设备上的目标模型中用到终端设备的数据的有效保护,而且,将差分隐私算法与生成目标模型相结合,解决了海量数据和隐私保护之间的矛盾。
实施例九
以上为本说明书实施例提供的模型的处理装置,基于同样的思路,本说明书实施例还提供一种模型的处理设备,如图13所示。
所述模型的处理设备可以为上述实施例提供终端设备、服务器或区块链系统中的设备等。
模型的处理设备可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上的处理器1301和存储器1302,存储器1302中可以存储有一个或一个以上存储应用程序或数据。其中,存储器1302可以是短暂存储或持久存储。存储在存储器1302的应用程序可以包括一个或一个以上模块(图示未示出),每个模块可以包括对模型的处理设备中的一系列计算机可执行指令。更进一步地,处理器1301可以设置为与存储器1302通信,在模型的处理设备上执行存储器1302中的一系列计算机可执行指令。模型的处理设备还可以包括一个或一个以上电源1303,一个或一个以上有线或无线网络接口1304,一个或一个以上输入输出接口1305,一个或一个以上键盘1306。
具体在本实施例中,模型的处理设备包括有存储器,以及一个或一个以上的程序,其中一个或者一个以上程序存储于存储器中,且一个或者一个以上程序可以包括一个或一个以上模块,且每个模块可以包括对模型的处理设备中的一系列计算机可执行指令,且经配置以由一个或者一个以上处理器执行该一个或者一个以上程序包含用于进行以下计算机可执行指令:
获取用于训练目标模型的第一样本数据,所述第一样本数据中包括终端设备的特征数据和所述目标模型对应的业务数据;
将所述第一样本数据输入到所述目标模型中,并通过差分隐私算法对所述目标模型进行模型训练,得到训练后的所述目标模型;
对训练后的所述目标模型对应的隐私保护能力进行测试,得到相应的测试结果;
如果所述测试结果为测试通过,则生成所述目标模型的部署信息,所述部署信息用于触发向所述终端设备或云端服务器部署训练后的所述目标模型。
本说明书实施例中,所述将所述第一样本数据输入到所述目标模型中,并通过差分隐私算法对所述目标模型进行模型训练,得到训练后的所述目标模型,包括:
将所述第一样本数据输入到所述目标模型中,并对所述目标模型的梯度进行剪裁处理后增加噪声的方式对所述目标模型进行模型训练,得到训练后的所述目标模型。
本说明书实施例中,还包括:
如果所述测试结果为测试通过,则将训练后的所述目标模型发送给云端服务器,以触发所述云端服务器将训练后的所述目标模型作为模型特征,并基于获取的第二样本数据对训练后的所述目标模型进行训练,得到所述云端服务器中训练后的所述目标模型。
本说明书实施例中,所述获取用于训练目标模型的第一样本数据,包括:
当接收到所述云端服务器下发的所述目标模型时,获取用于训练目标模型的第一样本数据。
本说明书实施例中,还包括:
如果所述测试结果为测试通过,则将训练后的所述目标模型的目标参数信息发送给所述云端服务器,以触发所述云端服务器基于所述目标参数信息对所述目标模型进行更新,得到更新后的所述目标模型,所述目标参数信息是能够触发所述云端服务器中的所述目标模型的模型参数进行更新的参数信息;
所述如果所述测试结果为测试通过,则生成所述目标模型的部署信息,包括:
如果所述测试结果为测试通过,则接收所述云端服务器发送的更新后的所述目标模型的模型参数,并使用接收到的模型参数对训练后的所述目标模型的模型参数进行更新。
本说明书实施例中,所述目标模型为针对目标业务的风险防控模型,用于对所述目标业务中存在的风险进行识别和检测处理。
本说明书实施例中,所述目标模型为生成对抗网络模型。
此外,具体在本实施例中,模型的处理设备包括有存储器,以及一个或一个以上的程序,其中一个或者一个以上程序存储于存储器中,且一个或者一个以上程序可以包括一个或一个以上模块,且每个模块可以包括对模型的处理设备中的一系列计算机可执行指令,且经配置以由一个或者一个以上处理器执行该一个或者一个以上程序包含用于进行以下计算机可执行指令:
获取目标模型的处理规则信息,采用所述目标模型的处理规则信息生成相应的第一智能合约,并将所述第一智能合约部署到所述区块链系统中;
调用所述第一智能合约,获取用于训练目标模型的第一样本数据,所述第一样本数据中包括终端设备的特征数据和所述目标模型对应的业务数据;
基于所述第一智能合约将所述第一样本数据输入到所述目标模型中,并通过差分隐私算法对所述目标模型进行模型训练,得到训练后的所述目标模型;
基于所述第一智能合约对训练后的所述目标模型对应的隐私保护能力进行测试,得到相应的测试结果;
如果所述测试结果为测试通过,则基于所述第一智能合约生成所述目标模型的部署信息,所述部署信息用于触发向终端设备或云端服务器部署训练后的所述目标模型。
本说明书实施例中,还包括:
如果所述测试结果为测试通过,则基于预先部署于所述区块链系统中的第二智能合约将训练后的所述目标模型发送给云端服务器,以触发所述云端服务器将训练后的所述目标模型作为模型特征,并基于获取的第二样本数据对训练后的所述目标模型进行训练,得到所述云端服务器中训练后的所述目标模型。
本说明书实施例中,还包括:
如果所述测试结果为测试通过,则基于预先部署于所述区块链系统中的第三智能合约将训练后的所述目标模型的目标参数信息发送给所述云端服务器,以触发所述云端服务器基于所述目标参数信息对所述目标模型进行更新,得到更新后的所述目标模型,所述目标参数信息是能够触发所述云端服务器中的所述目标模型的模型参数进行更新的参数信息;
所述如果所述测试结果为测试通过,则基于所述第一智能合约生成所述目标模型的部署信息,包括:
基于所述第一智能合约获取所述云端服务器提供的更新后的所述目标模型的模型参数,并使用获取到的模型参数对训练后的所述目标模型的模型参数进行更新。
本说明书实施例提供一种模型的处理设备,获取用于训练目标模型的第一样本数据,第一样本数据中包括终端设备的特征数据和目标模型对应的业务数据,然后,可以将第一样本数据输入到目标模型中,并通过差分隐私算法对目标模型进行模型训练,得到训练后的目标模型,并对训练后的目标模型对应的隐私保护能力进行测试,得到相应的测试结果,如果该测试结果为测试通过,则生成目标模型的部署信息,该部署信息用于触发向终端设备或云端服务器部署训练后的目标模型,这样,上述系统框架中充分考虑了隐私保护的需求,实现了面向端云系统框架的隐私保护,尤其是对终端设备上的目标模型中用到终端设备的数据的有效保护,而且,将差分隐私算法与生成目标模型相结合,解决了海量数据和隐私保护之间的矛盾。
实施例十
进一步地,基于上述图1到图9B所示的方法,本说明书一个或多个实施例还提供了一种存储介质,用于存储计算机可执行指令信息,一种具体的实施例中,该存储介质可以为U盘、光盘、硬盘等,该存储介质存储的计算机可执行指令信息在被处理器执行时,能实现以下流程:
获取用于训练目标模型的第一样本数据,所述第一样本数据中包括终端设备的特征数据和所述目标模型对应的业务数据;
将所述第一样本数据输入到所述目标模型中,并通过差分隐私算法对所述目标模型进行模型训练,得到训练后的所述目标模型;
对训练后的所述目标模型对应的隐私保护能力进行测试,得到相应的测试结果;
如果所述测试结果为测试通过,则生成所述目标模型的部署信息,所述部署信息用于触发向所述终端设备或云端服务器部署训练后的所述目标模型。
本说明书实施例中,所述将所述第一样本数据输入到所述目标模型中,并通过差分隐私算法对所述目标模型进行模型训练,得到训练后的所述目标模型,包括:
将所述第一样本数据输入到所述目标模型中,并对所述目标模型的梯度进行剪裁处理后增加噪声的方式对所述目标模型进行模型训练,得到训练后的所述目标模型。
本说明书实施例中,还包括:
如果所述测试结果为测试通过,则将训练后的所述目标模型发送给云端服务器,以触发所述云端服务器将训练后的所述目标模型作为模型特征,并基于获取的第二样本数据对训练后的所述目标模型进行训练,得到所述云端服务器中训练后的所述目标模型。
本说明书实施例中,所述获取用于训练目标模型的第一样本数据,包括:
当接收到所述云端服务器下发的所述目标模型时,获取用于训练目标模型的第一样本数据。
本说明书实施例中,还包括:
如果所述测试结果为测试通过,则将训练后的所述目标模型的目标参数信息发送给所述云端服务器,以触发所述云端服务器基于所述目标参数信息对所述目标模型进行更新,得到更新后的所述目标模型,所述目标参数信息是能够触发所述云端服务器中的所述目标模型的模型参数进行更新的参数信息;
所述如果所述测试结果为测试通过,则生成所述目标模型的部署信息,包括:
如果所述测试结果为测试通过,则接收所述云端服务器发送的更新后的所述目标模型的模型参数,并使用接收到的模型参数对训练后的所述目标模型的模型参数进行更新。
本说明书实施例中,所述目标模型为针对目标业务的风险防控模型,用于对所述目标业务中存在的风险进行识别和检测处理。
本说明书实施例中,所述目标模型为生成对抗网络模型。
在另一种具体的实施例中,该存储介质可以为U盘、光盘、硬盘等,该存储介质存储的计算机可执行指令信息在被处理器执行时,能实现以下流程:
获取目标模型的处理规则信息,采用所述目标模型的处理规则信息生成相应的第一智能合约,并将所述第一智能合约部署到所述区块链系统中;
调用所述第一智能合约,获取用于训练目标模型的第一样本数据,所述第一样本数据中包括终端设备的特征数据和所述目标模型对应的业务数据;
基于所述第一智能合约将所述第一样本数据输入到所述目标模型中,并通过差分隐私算法对所述目标模型进行模型训练,得到训练后的所述目标模型;
基于所述第一智能合约对训练后的所述目标模型对应的隐私保护能力进行测试,得到相应的测试结果;
如果所述测试结果为测试通过,则基于所述第一智能合约生成所述目标模型的部署信息,所述部署信息用于触发向终端设备或云端服务器部署训练后的所述目标模型。
本说明书实施例中,还包括:
如果所述测试结果为测试通过,则基于预先部署于所述区块链系统中的第二智能合约将训练后的所述目标模型发送给云端服务器,以触发所述云端服务器将训练后的所述目标模型作为模型特征,并基于获取的第二样本数据对训练后的所述目标模型进行训练,得到所述云端服务器中训练后的所述目标模型。
本说明书实施例中,还包括:
如果所述测试结果为测试通过,则基于预先部署于所述区块链系统中的第三智能合约将训练后的所述目标模型的目标参数信息发送给所述云端服务器,以触发所述云端服务器基于所述目标参数信息对所述目标模型进行更新,得到更新后的所述目标模型,所述目标参数信息是能够触发所述云端服务器中的所述目标模型的模型参数进行更新的参数信息;
所述如果所述测试结果为测试通过,则基于所述第一智能合约生成所述目标模型的部署信息,包括:
基于所述第一智能合约获取所述云端服务器提供的更新后的所述目标模型的模型参数,并使用获取到的模型参数对训练后的所述目标模型的模型参数进行更新。
本说明书实施例提供一种存储介质,获取用于训练目标模型的第一样本数据,第一样本数据中包括终端设备的特征数据和目标模型对应的业务数据,然后,可以将第一样本数据输入到目标模型中,并通过差分隐私算法对目标模型进行模型训练,得到训练后的目标模型,并对训练后的目标模型对应的隐私保护能力进行测试,得到相应的测试结果,如果该测试结果为测试通过,则生成目标模型的部署信息,该部署信息用于触发向终端设备或云端服务器部署训练后的目标模型,这样,上述系统框架中充分考虑了隐私保护的需求,实现了面向端云系统框架的隐私保护,尤其是对终端设备上的目标模型中用到终端设备的数据的有效保护,而且,将差分隐私算法与生成目标模型相结合,解决了海量数据和隐私保护之间的矛盾。
上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下,在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外,在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中,多任务处理和并行处理也是可以的或者可能是有利的。
在20世纪90年代,对于一个技术的改进可以很明显地区分是硬件上的改进(例如,对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而,随着技术的发展,当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此,不能说一个方法流程的改进就不能用硬件实体模块来实现。例如,可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray,FPGA))就是这样一种集成电路,其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上,而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且,如今,取代手工地制作集成电路芯片,这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现,它与程序开发撰写时所用的软件编译器相类似,而要编译之前的原始代码也得用特定的编程语言来撰写,此称之为硬件描述语言(Hardware Description Language,HDL),而HDL也并非仅有一种,而是有许多种,如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等,目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚,只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中,就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现,例如,控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程逻辑控制器和嵌入微控制器的形式,控制器的例子包括但不限于以下微控制器:ARC625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320,存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道,除了以纯计算机可读程序代码方式实现控制器以外,完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件,而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至,可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本说明书一个或多个实施例时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本说明书的实施例可提供为方法、系统、或计算机程序产品。因此,本说明书一个或多个实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本说明书一个或多个实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书的实施例是参照根据本说明书实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程欺诈案例的串并设备的处理器以产生一个机器,使得通过计算机或其他可编程欺诈案例的串并设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程欺诈案例的串并设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程欺诈案例的串并设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白,本说明书的实施例可提供为方法、系统或计算机程序产品。因此,本说明书一个或多个实施例可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本说明书一个或多个实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书一个或多个实施例可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书一个或多个实施例,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本说明书的实施例而已,并不用于限制本说明书。对于本领域技术人员来说,本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本说明书的权利要求范围之内。
Claims (19)
1.一种模型的处理方法,所述方法包括:
获取用于训练目标模型的第一样本数据,所述第一样本数据中包括终端设备的特征数据和所述目标模型对应的业务数据;
将所述第一样本数据输入到所述目标模型中,并通过差分隐私算法对所述目标模型进行模型训练,得到训练后的所述目标模型;
对训练后的所述目标模型对应的隐私保护能力进行测试,得到相应的测试结果;
如果所述测试结果为测试通过,则生成所述目标模型的部署信息,所述部署信息用于触发向所述终端设备或云端服务器部署训练后的所述目标模型。
2.根据权利要求1所述的方法,所述将所述第一样本数据输入到所述目标模型中,并通过差分隐私算法对所述目标模型进行模型训练,得到训练后的所述目标模型,包括:
将所述第一样本数据输入到所述目标模型中,并对所述目标模型的梯度进行剪裁处理后增加噪声的方式对所述目标模型进行模型训练,得到训练后的所述目标模型。
3.根据权利要求1所述的方法,所述方法还包括:
如果所述测试结果为测试通过,则将训练后的所述目标模型发送给云端服务器,以触发所述云端服务器将训练后的所述目标模型作为模型特征,并基于获取的第二样本数据对训练后的所述目标模型进行训练,得到所述云端服务器中训练后的所述目标模型。
4.根据权利要求1所述的方法,所述获取用于训练目标模型的第一样本数据,包括:
当接收到所述云端服务器下发的所述目标模型时,获取用于训练目标模型的第一样本数据。
5.根据权利要求4所述的方法,所述方法还包括:
如果所述测试结果为测试通过,则将训练后的所述目标模型的目标参数信息发送给所述云端服务器,以触发所述云端服务器基于所述目标参数信息对所述目标模型进行更新,得到更新后的所述目标模型,所述目标参数信息是能够触发所述云端服务器中的所述目标模型的模型参数进行更新的参数信息;
所述如果所述测试结果为测试通过,则生成所述目标模型的部署信息,包括:
如果所述测试结果为测试通过,则接收所述云端服务器发送的更新后的所述目标模型的模型参数,并使用接收到的模型参数对训练后的所述目标模型的模型参数进行更新。
6.根据权利要求1所述的方法,所述目标模型为针对目标业务的风险防控模型,用于对所述目标业务中存在的风险进行识别和检测处理。
7.根据权利要求1所述的方法,所述目标模型为生成对抗网络模型。
8.一种端云开发系统,所述系统包括端云模式配置部、节点配置部和隐私保护配置部,其中:
所述隐私保护配置部,用于对目标模型进行训练的过程中通过差分隐私算法进行隐私保护处理,以得到满足预设隐私保护条件的目标模型进行配置,所述对目标模型进行训练的过程是终端设备通过获取的第一样本数据进行训练的过程,所述第一样本数据中包括所述终端设备的特征数据和所述目标模型对应的业务数据;
所述节点配置部,用于向云端服务器和/或所述终端设备配置多种不同的具有预设数据处理规则的节点,所述节点包括训练节点、测试节点、业务指标评估节点和部署节点中的一个或多个,其中,所述测试节点用于对训练后的所述目标模型对应的隐私保护能力进行测试,所述业务指标评估节点用于针对预设的业务指标,对训练后的目标模型进行评估,所述部署节点用于生成所述目标模型的部署信息,以将所述目标模型部署到所述云端服务器和所述终端设备中;
所述端云模式配置部,用于向所述云端服务器和/或所述终端设备配置相应的端云模式规则,所述端云模式规则用于触发所述云端服务器和/或所述终端设备执行相应的端云模式处理。
9.根据权利要求8所述的系统,所述节点还包括拆分节点和评测节点,其中:
所述拆分节点,用于根据数据处理需求将指定数据进行拆分,并将拆分的数据提供给所述云端服务器或所述终端设备;
所述评测节点,用于对运行于所述云端服务器和所述终端设备中的训练后的目标模型进行评测。
10.根据权利要求8所述的系统,所述端云模式规则包括终端设备模式规则、基于异步处理的终端设备-云端服务器模式规则、基于异步处理的云端服务器-终端设备模式规则和基于同步处理的终端设备-云端服务器模式规则中的一个或多个,所述终端设备模式规则包括终端设备的数据处理子规则和所述目标模型的处理子规则,所述基于异步处理的终端设备-云端服务器模式规则包括所述终端设备将训练后的目标模型通过异步处理的方式提供给云端服务器的规则,所述基于异步处理的云端服务器-终端设备模式规则包括所述云端服务器将目标模型通过异步处理的方式下发给所述终端设备的规则,所述基于同步处理的终端设备-云端服务器模式规则包括通过同步处理的方式所述云端服务器与所述终端设备对所述目标模型进行协同训练。
11.一种模型的处理方法,应用于区块链系统,所述方法包括:
获取目标模型的处理规则信息,采用所述目标模型的处理规则信息生成相应的第一智能合约,并将所述第一智能合约部署到所述区块链系统中;
调用所述第一智能合约,获取用于训练目标模型的第一样本数据,所述第一样本数据中包括终端设备的特征数据和所述目标模型对应的业务数据;
基于所述第一智能合约将所述第一样本数据输入到所述目标模型中,并通过差分隐私算法对所述目标模型进行模型训练,得到训练后的所述目标模型;
基于所述第一智能合约对训练后的所述目标模型对应的隐私保护能力进行测试,得到相应的测试结果;
如果所述测试结果为测试通过,则基于所述第一智能合约生成所述目标模型的部署信息,所述部署信息用于触发向终端设备或云端服务器部署训练后的所述目标模型。
12.根据权利要求11所述的方法,所述方法还包括:
如果所述测试结果为测试通过,则基于预先部署于所述区块链系统中的第二智能合约将训练后的所述目标模型发送给云端服务器,以触发所述云端服务器将训练后的所述目标模型作为模型特征,并基于获取的第二样本数据对训练后的所述目标模型进行训练,得到所述云端服务器中训练后的所述目标模型。
13.根据权利要求11所述的方法,所述方法还包括:
如果所述测试结果为测试通过,则基于预先部署于所述区块链系统中的第三智能合约将训练后的所述目标模型的目标参数信息发送给所述云端服务器,以触发所述云端服务器基于所述目标参数信息对所述目标模型进行更新,得到更新后的所述目标模型,所述目标参数信息是能够触发所述云端服务器中的所述目标模型的模型参数进行更新的参数信息;
所述如果所述测试结果为测试通过,则基于所述第一智能合约生成所述目标模型的部署信息,包括:
基于所述第一智能合约获取所述云端服务器提供的更新后的所述目标模型的模型参数,并使用获取到的模型参数对训练后的所述目标模型的模型参数进行更新。
14.一种模型的处理装置,所述装置包括:
样本获取模块,获取用于训练目标模型的第一样本数据,所述第一样本数据中包括终端设备的特征数据和所述目标模型对应的业务数据;
训练模块,将所述第一样本数据输入到所述目标模型中,并通过差分隐私算法对所述目标模型进行模型训练,得到训练后的所述目标模型;
隐私保护测试模块,隐私信息对训练后的所述目标模型对应的隐私保护能力进行测试,得到相应的测试结果;
模型部署模块,如果所述测试结果为测试通过,则生成所述目标模型的部署信息,所述部署信息用于触发向所述终端设备或云端服务器部署训练后的所述目标模型。
15.一种模型的处理装置,所述装置为区块链系统中的装置,所述装置包括:
合约部署模块,获取目标模型的处理规则信息,采用所述目标模型的处理规则信息生成相应的第一智能合约,并将所述第一智能合约部署到所述区块链系统中;
样本获取模块,调用所述第一智能合约,获取用于训练目标模型的第一样本数据,所述第一样本数据中包括终端设备的特征数据和所述目标模型对应的业务数据;
训练模块,基于所述第一智能合约将所述第一样本数据输入到所述目标模型中,并通过差分隐私算法对所述目标模型进行模型训练,得到训练后的所述目标模型;
隐私保护测试模块,基于所述第一智能合约对训练后的所述目标模型对应的隐私保护能力进行测试,得到相应的测试结果;
模型部署模块,如果所述测试结果为测试通过,则基于所述第一智能合约生成所述目标模型的部署信息,所述部署信息用于触发向终端设备或云端服务器部署训练后的所述目标模型。
16.一种模型的处理设备,所述模型的处理设备包括:
处理器;以及
被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器:
获取用于训练目标模型的第一样本数据,所述第一样本数据中包括终端设备的特征数据和所述目标模型对应的业务数据;
将所述第一样本数据输入到所述目标模型中,并通过差分隐私算法对所述目标模型进行模型训练,得到训练后的所述目标模型;
对训练后的所述目标模型对应的隐私保护能力进行测试,得到相应的测试结果;
如果所述测试结果为测试通过,则生成所述目标模型的部署信息,所述部署信息用于触发向所述终端设备或云端服务器部署训练后的所述目标模型。
17.一种模型的处理设备,所述设备为区块链系统中的设备,所述模型的处理设备包括:
处理器;以及
被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器:
获取目标模型的处理规则信息,采用所述目标模型的处理规则信息生成相应的第一智能合约,并将所述第一智能合约部署到所述区块链系统中;
调用所述第一智能合约,获取用于训练目标模型的第一样本数据,所述第一样本数据中包括终端设备的特征数据和所述目标模型对应的业务数据;
基于所述第一智能合约将所述第一样本数据输入到所述目标模型中,并通过差分隐私算法对所述目标模型进行模型训练,得到训练后的所述目标模型;
基于所述第一智能合约对训练后的所述目标模型对应的隐私保护能力进行测试,得到相应的测试结果;
如果所述测试结果为测试通过,则基于所述第一智能合约生成所述目标模型的部署信息,所述部署信息用于触发向终端设备或云端服务器部署训练后的所述目标模型。
18.一种存储介质,所述存储介质用于存储计算机可执行指令,所述可执行指令在被处理器执行时实现以下流程:
获取用于训练目标模型的第一样本数据,所述第一样本数据中包括终端设备的特征数据和所述目标模型对应的业务数据;
将所述第一样本数据输入到所述目标模型中,并通过差分隐私算法对所述目标模型进行模型训练,得到训练后的所述目标模型;
对训练后的所述目标模型对应的隐私保护能力进行测试,得到相应的测试结果;
如果所述测试结果为测试通过,则生成所述目标模型的部署信息,所述部署信息用于触发向所述终端设备或云端服务器部署训练后的所述目标模型。
19.一种存储介质,所述存储介质用于存储计算机可执行指令,所述可执行指令在被处理器执行时实现以下流程:
获取目标模型的处理规则信息,采用所述目标模型的处理规则信息生成相应的第一智能合约,并将所述第一智能合约部署到区块链系统中;
调用所述第一智能合约,获取用于训练目标模型的第一样本数据,所述第一样本数据中包括终端设备的特征数据和所述目标模型对应的业务数据;
基于所述第一智能合约将所述第一样本数据输入到所述目标模型中,并通过差分隐私算法对所述目标模型进行模型训练,得到训练后的所述目标模型;
基于所述第一智能合约对训练后的所述目标模型对应的隐私保护能力进行测试,得到相应的测试结果;
如果所述测试结果为测试通过,则基于所述第一智能合约生成所述目标模型的部署信息,所述部署信息用于触发向终端设备或云端服务器部署训练后的所述目标模型。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210060891.4A CN114417411A (zh) | 2022-01-19 | 2022-01-19 | 一种端云开发系统、模型的处理方法、装置及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210060891.4A CN114417411A (zh) | 2022-01-19 | 2022-01-19 | 一种端云开发系统、模型的处理方法、装置及设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114417411A true CN114417411A (zh) | 2022-04-29 |
Family
ID=81275390
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210060891.4A Pending CN114417411A (zh) | 2022-01-19 | 2022-01-19 | 一种端云开发系统、模型的处理方法、装置及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114417411A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115982757A (zh) * | 2022-12-12 | 2023-04-18 | 支付宝(杭州)信息技术有限公司 | 一种模型的隐私保护程度的确定方法、装置及设备 |
CN116629386A (zh) * | 2023-07-21 | 2023-08-22 | 支付宝(杭州)信息技术有限公司 | 模型训练方法及装置 |
CN117540432A (zh) * | 2024-01-05 | 2024-02-09 | 河北数港科技有限公司 | 一种互联网的数据隐私保护方法及系统 |
-
2022
- 2022-01-19 CN CN202210060891.4A patent/CN114417411A/zh active Pending
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115982757A (zh) * | 2022-12-12 | 2023-04-18 | 支付宝(杭州)信息技术有限公司 | 一种模型的隐私保护程度的确定方法、装置及设备 |
CN115982757B (zh) * | 2022-12-12 | 2023-07-07 | 支付宝(杭州)信息技术有限公司 | 一种模型的隐私保护程度的确定方法、装置及设备 |
CN116629386A (zh) * | 2023-07-21 | 2023-08-22 | 支付宝(杭州)信息技术有限公司 | 模型训练方法及装置 |
CN116629386B (zh) * | 2023-07-21 | 2023-09-19 | 支付宝(杭州)信息技术有限公司 | 模型训练方法及装置 |
CN117540432A (zh) * | 2024-01-05 | 2024-02-09 | 河北数港科技有限公司 | 一种互联网的数据隐私保护方法及系统 |
CN117540432B (zh) * | 2024-01-05 | 2024-03-19 | 河北数港科技有限公司 | 一种互联网的数据隐私保护方法及系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Keramati et al. | Developing a prediction model for customer churn from electronic banking services using data mining | |
CN113361658B (zh) | 一种基于隐私保护的图模型训练方法、装置及设备 | |
CN110457912B (zh) | 数据处理方法、装置和电子设备 | |
US10776337B2 (en) | Multi-dimensional knowledge index and application thereof | |
CN114417411A (zh) | 一种端云开发系统、模型的处理方法、装置及设备 | |
US10832250B2 (en) | Long-term short-term cascade modeling for fraud detection | |
CN111538794B (zh) | 一种数据融合方法、装置及设备 | |
CN109214193B (zh) | 数据加密、机器学习模型训练方法、装置以及电子设备 | |
He et al. | A data-driven approach to designing for privacy in household iot | |
CN113516480A (zh) | 一种支付风险识别方法、装置及设备 | |
US20220261299A1 (en) | Api configuration using auto-rationalization and modeling | |
CN110163245A (zh) | 业务类别预测方法及系统 | |
CN112035881A (zh) | 一种基于隐私保护的应用程序识别方法、装置及设备 | |
CN113221717B (zh) | 一种基于隐私保护的模型构建方法、装置及设备 | |
Dias et al. | Forecasting cryptocurrency value by sentiment analysis: An hpc-oriented survey of the state-of-the-art in the cloud era | |
CN113792889A (zh) | 一种模型的更新方法、装置及设备 | |
CN116051118B (zh) | 行为时序模型的分析方法及装置 | |
CN110825929B (zh) | 一种业务权限推荐方法及装置 | |
CN113992429B (zh) | 一种事件的处理方法、装置及设备 | |
CN115545943A (zh) | 一种图谱的处理方法、装置及设备 | |
CN111738864B (zh) | 一种经营实体所属集团的识别方法、装置及设备 | |
US11645566B2 (en) | Methods and systems for graph computing with hybrid reasoning | |
CN113988718A (zh) | 一种风险识别方法、装置及设备 | |
CN113989043A (zh) | 一种事件的风险识别方法、装置及设备 | |
CN113724058A (zh) | 信用及贷款额度评估方法、装置、设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |