CN109309652A - 一种训练模型的方法及装置 - Google Patents

一种训练模型的方法及装置 Download PDF

Info

Publication number
CN109309652A
CN109309652A CN201710629480.1A CN201710629480A CN109309652A CN 109309652 A CN109309652 A CN 109309652A CN 201710629480 A CN201710629480 A CN 201710629480A CN 109309652 A CN109309652 A CN 109309652A
Authority
CN
China
Prior art keywords
cpu
training
confidence region
data
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201710629480.1A
Other languages
English (en)
Other versions
CN109309652B (zh
Inventor
解岭
李小龙
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Advanced New Technologies Co Ltd
Original Assignee
Alibaba Group Holding Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alibaba Group Holding Ltd filed Critical Alibaba Group Holding Ltd
Priority to CN202010596140.5A priority Critical patent/CN111756754B/zh
Priority to CN201710629480.1A priority patent/CN109309652B/zh
Priority to TW107115704A priority patent/TWI700648B/zh
Priority to US16/047,399 priority patent/US10929558B2/en
Priority to EP18760081.2A priority patent/EP3646225B1/en
Priority to SG11202000749RA priority patent/SG11202000749RA/en
Priority to PCT/US2018/044282 priority patent/WO2019023692A1/en
Publication of CN109309652A publication Critical patent/CN109309652A/zh
Priority to US16/723,008 priority patent/US10867071B2/en
Application granted granted Critical
Publication of CN109309652B publication Critical patent/CN109309652B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60—Protecting data
    • G06F21/62—Protecting access to data via a platform, e.g. using keys or access control rules
    • G06F21/6218—Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
    • G06F21/6245—Protecting personal data, e.g. for financial or medical purposes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00—Network architectures or network communication protocols for network security
    • H04L63/04—Network architectures or network communication protocols for network security for providing a confidential data exchange among entities communicating through data packet networks
    • H04L63/0428—Network architectures or network communication protocols for network security for providing a confidential data exchange among entities communicating through data packet networks wherein the data content is protected, e.g. by encrypting or encapsulating the payload
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
    • G06F21/57—Certifying or maintaining trusted computer platforms, e.g. secure boots or power-downs, version controls, system software checks, secure updates or assessing vulnerabilities
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60—Protecting data
    • G06F21/606—Protecting data by securing the transmission between two devices or processes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00—Computer-aided design [CAD]
    • G06F30/20—Design optimisation, verification or simulation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W12/00—Security arrangements; Authentication; Protecting privacy or anonymity
    • H04W12/02—Protecting privacy or anonymity, e.g. protecting personally identifiable information [PII]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2221/00—Indexing scheme relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F2221/21—Indexing scheme relating to G06F21/00 and subgroups addressing additional information or applications relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F2221/2149—Restricted operating environment
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L2209/00—Additional information or applications relating to cryptographic mechanisms or cryptographic arrangements for secret or secure communication H04L9/00
    • H04L2209/80—Wireless

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Computer Security & Cryptography (AREA)
  • Computer Hardware Design (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Medical Informatics (AREA)
  • Evolutionary Computation (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Bioethics (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Geometry (AREA)
  • Storage Device Security (AREA)

Abstract

本说明书实施例公开了一种训练模型的方法及装置。在本说明书实施例中，在服务设备的可信区内对加密数据进行解密得到用户数据，以及在所述可信区内采用用户数据训练模型。

Description

一种训练模型的方法及装置
技术领域
本申请涉及信息技术领域，尤其涉及一种训练模型的方法及装置。
背景技术
目前，服务提供商使用自己训练的模型为企业或个人等用户提供预测、风控、预警等服务的模式已经日渐成熟。在这种模式下，服务提供商所提供的服务质量的好坏很大程度上取决于其训练的模型是否准确。
众所周知，用于训练模型的样本越丰富、越多样化，训练得到的模型的准确度也会越高。但是在获取数据的时候，有时候会存在数据隐私问题。
基于现有技术，需要一种训练模型的方法，在保护用户隐私不泄露的情况下，提高服务提供商的模型的准确度。
发明内容
本说明书实施例提供一种训练模型的方法及装置，以解决如何在保护用户隐私不泄露的情况下，提高服务提供商的模型的准确度的问题。
为解决上述技术问题，本说明书实施例是这样实现的：
本说明书实施例提供的一种训练模型的方法，服务设备中具有可信区，所述方法包括：
所述服务设备接收用户设备发送的加密数据；
在所述可信区内，解密所述加密数据得到用户数据；
在所述可信区内，采用所述用户数据训练模型。
本说明书实施例提供的一种训练模型的方法，服务设备中具有可信区，所述方法包括：
用户设备对用户数据进行加密，得到加密数据；
将所述加密数据发送给服务设备，以使所述服务设备在所述可信区内，解密所述加密数据得到所述用户数据，并采用所述用户数据训练模型。
本说明书实施例提供的一种训练模型的装置，所述装置中具有可信区，所述装置包括：
接收模块，接收用户设备发送的加密数据；
解密模块，在所述可信区内，解密所述加密数据得到用户数据；
训练模块，在所述可信区内，采用所述用户数据训练模型。
本说明书实施例提供的一种训练模型的装置，服务设备中具有可信区，所述装置包括：
加密模块，对用户数据进行加密，得到加密数据；
发送模块，将所述加密数据发送给服务设备，以使所述服务设备在所述可信区内，解密所述加密数据得到所述用户数据，并采用所述用户数据训练模型。
本说明书实施例提供的一种服务设备，所述服务设备中具有可信区，所述服务设备包括一个或多个处理器及存储器，所述存储器存储有程序，并且被配置成由所述一个或多个处理器执行以下步骤：
接收用户设备发送的加密数据；
在所述可信区内，解密所述加密数据得到用户数据；
在所述可信区内，采用所述用户数据训练模型。
本说明书实施例提供的一种用户设备，服务设备中具有可信区，所述用户设备包括一个或多个处理器及存储器，所述存储器存储有程序，并且被配置成由所述一个或多个处理器执行以下步骤：
对用户数据进行加密，得到加密数据；
将所述加密数据发送给服务设备，以使所述服务设备在所述可信区内，解密所述加密数据得到所述用户数据，并采用所述用户数据训练模型。
由以上本说明书实施例提供的技术方案可见，在本说明书实施例中，在服务设备的可信区内对加密数据进行解密得到用户数据，以及在可信区内采用用户数据训练模型。如此一来，一方面，采用包含用户隐私的更为全面的用户数据训练模型，得到的模型准确度较高。另一方面，用户数据只暴露在可信区内，即便是服务设备的拥有者，也无法获取可信区内的用户数据，用户隐私也就不会泄露。
附图说明
为了更清楚地说明本说明书实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1是本说明书实施例提供的一种训练模型的方法流程图；
图2是本说明书实施例提供的一种训练系统架构图；
图3是本说明书实施例提供的另一种训练系统架构图；
图4是本说明书实施例提供的训练用于预测企业盈亏的模型的流程图；
图5是本说明书实施例提供的与图4对应的训练模型的示意图；
图6是本说明书实施例提供的训练用于评价用户信用能力的模型的流程图；
图7是本说明书实施例提供的与图6对应的训练模型的示意图；
图8是本说明书实施例提供的一种训练模型的装置示意图；
图9是本说明书实施例提供的另一种训练模型的装置示意图；
图10是本说明书实施例提供的用户设备示意图；
图11是本说明书实施例提供的服务设备示意图。
具体实施方式
如背景技术所述，现有技术中，服务提供商一般直接采用用户提供的数据作为样本对模型进行训练。显然，用户往往不会将涉及用户隐私的数据提供给服务提供商，这就导致用于训练模型的数据样本不够全面，进而导致服务提供商训练得到的模型准确性较低。
例如，假设服务提供商负责训练用于预测企业盈亏情况的模型，如果某个企业用户想要预测自己未来的盈亏情况，往往只会向服务提供商提供自己的销售数据，作为用于训练模型的样本。但服务提供商为了尽可能提升模型的准确度，往往还会要求该企业用户提供财务报表(财务报表能够精确的体现出企业的盈亏情况)，以获取更为全面的用户数据作为样本。显然，财务报表对于很多企业来说都可能是隐私数据。
可见，在上述的服务模式中，如何在保护用户的隐私数据不泄露的情况下，提高服务提供商的模型的准确度，是一个亟待解决的问题。
本申请的核心思想是将服务设备中具有的可信区作为与外部隔离的执行环境，在所述可信区中对加密数据进行解密得到用户数据，以及在可信区内采用用户数据训练模型，使得整个训练模型的过程中，用户数据始终不会暴露给可信区之外，从而保护了用户隐私。其中，所述可信区可以具体位于服务设备的中央处理器(Central Processing Unit，CPU)内，也可以具体位于服务设备的其他组件内，例如图形处理器(Graphics ProcessingUnit，GPU)、内存等。为了描述的方便，在本说明书的一个或多个实施例中，以服务设备中的可信区具体位于服务设备的CPU中为例展开说明，但本领域技术人员应当理解，这并不构成对本申请所要求保护的技术方案的限制。
为了使本技术领域的人员更好地理解本申请中的技术方案，下面将结合本说明书一个或多个实施例中的附图，对本说明书实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都应当属于本申请保护的范围。
以下结合附图，详细说明本申请各实施例提供的技术方案。
图1是本说明书实施例提供的训练模型的方法流程图，包括以下步骤：
S100：用户设备对用户数据进行加密，得到加密数据。
S102：用户设备将所述加密数据发送给服务设备。
在本说明书实施例中，用户设备是存储有训练模型所需的用户数据的设备，这些用户数据往往是隐私数据。例如，某个企业用户想要预测自己未来的盈亏情况，需要可以预测企业盈亏情况的模型的服务，那么该企业用户的服务器就可以是用户设备。用户设备中存储有用户数据，用户数据往往涉及用户的隐私。
而服务设备即为服务提供商的设备，是模型的拥有者，也是需要训练出模型的一方。服务设备训练模型需要使用用户设备提供的用户数据，使得通过训练得到的模型计算出的结果尽量贴近实际。
在本说明书实施例中，为了保护用户的隐私，用户设备可以对用户数据进行加密，加密后的用户数据即是所述加密数据。接着，用户设备可以将加密数据发送给服务设备，用于训练模型。
S104：服务设备接收用户设备发送的加密数据。
S106：在可信区内，解密所述加密数据得到用户数据。
S108：在可信区内，采用所述用户数据训练模型。
图2是本说明书实施例提供的训练系统架构图。如图2所示的架构，服务设备使用来自至少一个用户设备的加密数据训练模型。服务设备的CPU中具有可信区。所述的可信区可以是在CPU的存储区域中物理隔离出的区域，并且在所述可信区内仅能执行指定操作。例如，因特尔公司开发的可信区技术(Intel Software Guard Extensions)，通常简称为“SGX”。当采用SGX技术时，如图2所示，用户设备在向服务设备发送加密数据的同时，还可以向服务设备发送可信区定义文件(.edl文件)和动态链接库文件(.dll文件或.so文件)，服务设备中的加载器根据接收到的定义文件在CPU中定义可信区，并根据接收到的动态链接库文件，在定义的可信区内执行指定操作。当然，其他类似的可信区技术也可以应用于本方案，不再赘述。
在本说明书实施例中，上述的指定操作包括对加密数据进行解密的解密操作和部分(或全部)训练操作。如，根据用户数据和初始化的模型参数确定训练中间值属于一部分训练操作，调整模型参数也属于一部分训练操作。为了保证不泄露用户数据，在可信区中执行的部分训练操作具体可以是需要根据用户数据执行的训练操作，不需要根据用户数据执行的另一部分训练操作则可不在可信区内执行。除指定操作之外，诸如从可信区内提取用户数据，则无法在所述可信区内执行。通过所述可信区技术，可以做到在不泄露用户数据的前提下，以尽可能全面的用户数据作为样本训练模型。
当然，服务设备可以包括多个CPU。图3是本说明书实施例提供的另一种训练系统架构图。如图3所示，服务设备包括多个第一CPU和至少一个第二CPU，其中，各第一CPU中具有可信区。需要说明的是，图3所示的架构中同样包括存储器和加载器，只是在图3中未示出。在图3中，类似于图2，各用户设备分别向服务设备发送加密数据、可信区定义文件和动态链接库文件，每个第一CPU中的可信区都是由加载器定义的，每个第一CPU都从存储器中获取加密数据，在可信区中处理。
通常地，模型的预测效果是否贴近实际取决于模型的模型参数是否准确。在图3所示的架构下，服务设备训练模型实际上是根据数据样本，对初始化的模型参数进行迭代调整，直至模型参数足够准确。也即，图3所示的训练过程是一个迭代训练的过程。
在图3所示的架构下，服务设备接收多个用户设备发送的加密数据，将加密数据存储到存储器中。每个第一CPU可以仅获取并解密来自于一个用户设备的加密数据，也可以获取并解密来自于不止一个用户设备的加密数据，只要不同的第一CPU的可信区内所解密的加密数据来自于不同的用户设备即可，本申请对此不做具体限制。
继续参见图3，每个第一CPU在其可信区内对获取的加密数据进行解密得到用户数据，并根据用户数据和初始化的模型参数确定训练中间值。各第一CPU在确定出训练中间值后，将训练中间值输出给第二CPU，第二CPU根据接收到的各训练中间值，确定训练效果表征值。其中，训练中间值是每个第一CPU根据其所解密出的用户数据进行训练得到的结果值，不同的训练算法，计算训练中间值的方法也不同。例如，倘若采用线性回归算法，则训练中间值可以是第一CPU对一条用户数据的不同特征值求加权和得到的。为了描述的方便，下文以线性回归算法为例说明。
训练效果表征值是用于量化每一次迭代训练的效果的数值，是第二CPU根据各第一CPU输出的训练中间值确定的，是综合衡量各第一CPU训练效果的数值。具体而言，所述训练效果表征值可以是在一次迭代训练的过程中所得到的预测结果与实际结果之间的差异性表征值。
继续参见图3，第二CPU通过判断确定的训练效果表征值是否满足指定条件，来判断本次迭代中的模型参数是否准确(当前的模型是否符合预期)。其中，所述指定条件可以根据需要设定，例如，所述指定条件可以是所述训练效果表征值小于指定阈值。
若训练效果表征值满足指定条件，则训练流程结束，根据本次迭代中的模型参数生成模型。若训练效果表征值不满足指定条件，服务设备可以根据所述训练效果表征值调整所述模型参数，以使所述第二CPU和各第一CPU根据调整后的模型参数继续训练模型，直至训练的模型满足指定条件为止。
具体而言，服务设备可以通过第二CPU，根据训练效果表征值调整模型参数，并将调整后的模型参数发送给各第一CPU继续训练，以使所述第二CPU和各第一CPU根据调整后的模型参数继续训练模型；也可以通过第二CPU，将训练效果表征值发送给各第一CPU，以使每个第一CPU根据接收到的训练效果表征值调整模型参数，并使用调整后的模型参数继续训练模型(即开始下一次迭代)。
通过图1所示的方法，在服务设备的可信区内执行两项指定操作：1、对加密数据进行解密得到用户数据；2、部分训练操作。由于所述可信区内仅能执行指定操作，因此，可信区内解密的用户数据不能被输出到可信区的外部。也就是说，用户数据只暴露在可信区内，即便是服务设备的拥有者，也无法获取可信区内的用户数据，用户的隐私也就不会泄露。此外，由于整个训练模型的流程都在所述可信区内执行，训练模型的具体过程(即代码逻辑)也不会泄露或被修改。
另外，在本说明书的一个或多个实施例中，为了防止有人恶意操纵服务设备，使服务设备在所述可信区之外执行提取用户数据的操作，用户设备可以采用仅能在所述用户设备的CPU的可信区内执行的加密算法，对用户数据进行加密。
CPU的可信区实际上是在CPU的存储区域中物理隔离出的区域，可信区具有特定的物理参数，而仅能在CPU的可信区内执行的加密算法，即是需要使用可信区的物理参数的加密算法。相应地，服务设备可以在其CPU的可信区内采用与所述加密算法对应的解密算法对接收到的加密数据进行解密。与所述加密算法对应的解密算法仅能在所述服务设备的CPU的可信区内执行。
显然，解密算法中需要使用的可信区的物理参数与所述加密算法中使用的可信区的物理参数应当一致。也就是说，所述用户设备的CPU与所述服务设备的CPU的可信区的物理参数应当一致。一般的，同一CPU制造商制造的CPU可满足此要求。使用可信区的物理参数的加密算法与解密算法是已经成熟的技术，不再赘述。
下面分别以两种应用场景为例，对图3所示的训练架构进行详细说明。
图4是本说明书实施例提供的训练用于预测企业盈亏的模型的流程图，包括以下步骤：
S400：第二CPU向各第一CPU发送模型参数。
图5是本说明书实施例提供的与图4对应的训练模型的示意图。如图4所示，第二CPU将初始化的模型参数发送给各第一CPU。每个第一CPU接收到的模型参数是相同的，为n个权重值，即图中的W＝(w1，w2，…，wn)。
S402：各第一CPU分别根据解密得到的用户数据和接收到的模型参数训练模型。
在训练用于预测企业盈亏的模型的场景下，用户数据可以是企业用户的财务报表。在图5中，以左边的第一CPU为例，该第一CPU获取企业用户A的加密数据(也就是经过加密的财务报表)，并对加密数据进行解密，得到a1～an这n条用户数据。随后，该第一CPU使用初始化的模型参数，即n个权重值，将这n个权重值依次作为n条用户数据分别对应的权重值，从而计算得到各条用户数据的加权和，作为训练中间值。
类似地，右边的第一CPU也计算得到相应的训练中间值。
S404：各第一CPU将训练中间值发送给第二CPU。
S406：第二CPU根据各第一CPU发送的训练中间值确定训练效果表征值。
如图5所示，第二CPU综合各第一CPU发送的训练中间值，采用公式计算表征本次迭代训练结果与实际结果差异的训练效果表征值。其中，delta表示训练效果表征值，Y表示实际结果，sumA表示采用企业用户A的用户数据计算得到的训练中间值，sumB表示采用企业用户B的用户数据计算得到的训练中间值。当然，也可以采用其他公式计算训练效果表征值，如或等。
S408：第二CPU判断训练效果表征值是否满足指定条件，若是，则执行步骤S410，否则，执行步骤S412。
S410：第二CPU根据模型参数生成模型。
当第二CPU确定训练效果表征值满足指定条件时，由于各第一CPU使用的模型参数是相同的，因此，服务设备可将任一第一CPU使用的模型参数作为最终的模型参数。
S412：第二CPU根据训练效果表征值，对模型参数进行调整，并将调整后的模型参数发送给各第一CPU，返回步骤S402。
继续参见图5，若第二CPU确定训练效果表征值不满足指定条件，则根据训练效果表征值调整模型参数，也即根据既定的规则调整n个权重值的大小，将调整后的模型参数发送给各第一CPU，以使各第一CPU使用调整后的模型参数继续训练模型，直至第二CPU确定训练效果表征值满足指定条件。
在图5中，对加密数据进行解密以及根据模型参数和用户数据确定训练中间值，都是在第一CPU的可信区内执行的。
图6是本说明书实施例提供的训练用于评价个人信用能力的模型的流程图，包括以下步骤：
S600：针对每个第一CPU，该第一CPU确定初始化的模型参数。
S602：该第一CPU根据解密得到的用户数据和模型参数训练模型，得到训练中间值。
S604：该第一CPU将训练中间值发送给第二CPU。
在本说明书实施例中，每个第一CPU使用的初始化的模型参数可以是自身设置的，也可以是第二CPU发送的。
图7是本说明书实施例提供的与图6对应的训练模型的示意图。如图7所示，各第一CPU分别训练模型使用的模型参数是不同的，左边的第一CPU使用的模型参数为W＝{w1，w2，…，wt}，右边的第一CPU使用的模型参数为W＝{w(t+1)，w(t+2)，…，wm}。
这是因为，在训练用于评价个人信用能力的模型的场景下，某个机构存储的用户数据可以是某人在该机构产生的信用记录。针对这个人而言，此人往往会在多个机构处产生信用记录。例如，机构A是某银行，机构B是某4S店，此人从机构A贷款，会产生相应的贷款记录，从机构B买车，会产生相应的购车记录。也就是说，针对这个人而言，此人在多个机构产生的信用记录的集合，才能够全面反映此人的信用能力。因此，个人在不同的机构产生的信用记录所对应的模型参数(各条信用记录分别对应的权重值)是不同的，也即不同的机构存储的用户数据所对应的模型参数是不同的。
如图7所示，左边的第一CPU获取机构A的用户数据，机构A的用户数据包括个人1～k在机构A产生的信用记录(每一行的用户数据是一个人的信用记录)；右边的第一CPU获取机构B的用户数据，机构B的用户数据包括个人1～k在机构B产生信用记录。
各第一CPU对获取的加密数据进行解密，得到用户数据，根据用户数据和模型参数计算训练中间值(即针对每行用户数据，计算该行的各条用户数据的加权和)，并将训练中间值发送给第二CPU。
S606：第二CPU根据各第一CPU发送的训练中间值确定训练效果表征值。
第二CPU根据公式计算训练效果表征值。其中，deltai表示用户i对应的训练效果表征值，sumi1表示通过机构A的用户数据计算得到的用户i对应的训练中间值，sumi2表示通过机构B的用户数据计算得到的用户i对应的训练中间值。
S608：第二CPU判断训练效果表征值是否满足指定条件，若是，则执行步骤S610，否则，执行步骤S612。
S610：第二CPU从各第一CPU获取模型参数，并根据获取的模型参数生成模型。
若第二CPU确定训练效果表征值满足指定条件，则获取各第一CPU在本次迭代中分别使用的模型参数，将获取的各模型参数组合成用于生成模型的模型参数。
S612：第二CPU将训练效果表征值发送给各第一CPU。
S614：针对每个第一CPU，该第一CPU根据所述训练效果表征值调整所述模型参数，并返回执行步骤S502。
若第二CPU确定训练效果表征值不满足指定条件，则将训练效果表征值发送给各第一CPU，由各第一CPU根据公式分别调整模型参数，并根据调整后的模型参数继续计算训练中间值。其中，针对每个第一CPU，W’表示上一次迭代中该第一CPU使用的模型参数，α为算法参数，可根据需要指定，deltai表示个人i对应的训练效果表征值，xi表示个人i对应的用户数据。
在图7中，对加密数据进行解密、根据模型参数和用户数据确定训练中间值，以及调整模型参数，都是在第一CPU的可信区内执行的。其中，由于用于调整模型参数公式需要使用用户数据，因此，在可信区内执行调整模型参数的操作，可以防止用户数据泄露出去。
最后还需要说明的是，本申请对训练模型使用的训练算法(如线性回归、逻辑回归、神经网络等)，以及训练算法中涉及的计算训练中间值、计算训练效果表征值、调整模型参数的公式，都不做具体限制，本领域技术人员采用图2所示的架构，采用其他训练算法和计算公式进行模型的迭代训练，都应在本申请所要求的保护范围之内。
基于图1所示的训练模型的方法，本说明书实施例还对应提供了一种训练模型的装置，如图8所示，所述装置中具有可信区，所述装置包括：
接收模块801，所述服务设备接收用户设备发送的加密数据；
解密模块802，在所述可信区内，解密所述加密数据得到用户数据；
训练模块803，在所述可信区内，采用所述用户数据训练模型。
所述解密模块802，在所述可信区内，采用仅能在所述可信区内执行的解密算法，解密所述加密数据得到用户数据。
所述可信区位于所述服务设备的CPU中。
所述服务设备中包括多个第一CPU和至少一个第二CPU；
所述接收模块801，接收多个用户设备发送的加密数据；
所述解密模块802，分别在各第一CPU的可信区内，解密所述加密数据得到用户数据，不同的第一CPU的可信区内所解密的加密数据来自于不同的用户设备；
所述训练模块803，针对每个第一CPU，在该第一CPU的可信区内，根据该第一CPU解密得到的用户数据以及所述第二CPU发送的模型参数训练模型，得到训练中间值，并通过该第一CPU将所述训练中间值输出给所述第二CPU；通过所述第二CPU，根据各第一CPU分别输出的训练中间值，确定训练效果表征值；根据所述训练效果表征值调整所述模型参数，以使所述第二CPU和各第一CPU根据调整后的模型参数继续训练模型，直至训练的模型满足指定条件为止。
所述训练模块803，通过所述第二CPU，根据所述训练效果表征值调整所述模型参数，并将调整后的模型参数发送给各第一CPU，以使所述第二CPU和各第一CPU根据调整后的模型参数继续训练模型。
所述训练模块803，通过所述第二CPU，将所述训练效果表征值发送给各第一CPU，以使每个第一CPU根据所述训练效果表征值调整所述模型参数，并根据各调整后的模型参数继续训练模型。
基于图1所示的训练模型的方法，本说明书实施例还对应提供了另一种训练模型的装置，如图9所示，服务设备中具有可信区，所述装置包括：
加密模块901，用户设备对用户数据进行加密，得到加密数据；
发送模块902，将所述加密数据发送给服务设备，以使所述服务设备在所述可信区内，解密所述加密数据得到所述用户数据，并采用所述用户数据训练模型。
所述装置中具有可信区；
所述加密模块901，用户设备采用仅能在所述用户设备的可信区内执行的加密算法，对用户数据进行加密，以使所述服务设备采用与所述加密算法对应的解密算法对接收到的加密数据进行解密，其中，与所述加密算法对应的解密算法仅能在所述服务设备的可信区内执行。
基于图1所示的训练模型的方法，本说明书实施例对应提供了一种服务设备，如图10所示。所述服务设备中具有可信区，所述服务设备包括一个或多个处理器及存储器，所述存储器存储有程序，并且被配置成由所述一个或多个处理器执行以下步骤：
接收用户设备发送的加密数据；
在所述可信区内，解密所述加密数据得到用户数据；
在所述可信区内，采用所述用户数据训练模型。
基于图1所示的训练模型的方法，本说明书实施例对应提供了一种用户设备，如图11所示。服务设备中具有可信区，所述用户设备包括一个或多个处理器及存储器，所述存储器存储有程序，并且被配置成由所述一个或多个处理器执行以下步骤：
对用户数据进行加密，得到加密数据；
将所述加密数据发送给服务设备，以使所述服务设备在所述可信区内，解密所述加密数据得到所述用户数据，并采用所述用户数据训练模型。
本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于图10所示的服务设备和图11所示的用户设备而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
在20世纪90年代，对于一个技术的改进可以很明显地区分是硬件上的改进(例如，对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而，随着技术的发展，当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此，不能说一个方法流程的改进就不能用硬件实体模块来实现。例如，可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray，FPGA))就是这样一种集成电路，其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上，而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且，如今，取代手工地制作集成电路芯片，这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现，它与程序开发撰写时所用的软件编译器相类似，而要编译之前的原始代码也得用特定的编程语言来撰写，此称之为硬件描述语言(Hardware Description Language，HDL)，而HDL也并非仅有一种，而是有许多种，如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等，目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚，只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中，就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现，例如，控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit，ASIC)、可编程逻辑控制器和嵌入微控制器的形式，控制器的例子包括但不限于以下微控制器：ARC 625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320，存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道，除了以纯计算机可读程序代码方式实现控制器以外，完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件，而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至，可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的，计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本申请时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。
还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白，本申请的实施例可提供为方法、系统或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
以上所述仅为本申请的实施例而已，并不用于限制本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。

Claims (18)

1.一种训练模型的方法，服务设备中具有可信区，所述方法包括：
所述服务设备接收用户设备发送的加密数据；
在所述可信区内，解密所述加密数据得到用户数据；
在所述可信区内，采用所述用户数据训练模型。
2.根据权利要求1所述的方法，在所述可信区内，解密所述加密数据得到用户数据，具体包括：
在所述可信区内，采用仅能在所述可信区内执行的解密算法，解密所述加密数据得到用户数据。
3.根据权利要求1所述的方法，所述可信区位于所述服务设备的CPU中。
4.根据权利要求3所述的方法，所述服务设备中包括多个第一CPU和至少一个第二CPU；
接收用户设备发送的加密数据，具体包括：
接收多个用户设备发送的加密数据；
在所述可信区内，解密所述加密数据得到用户数据，具体包括：
分别在各第一CPU的可信区内，解密所述加密数据得到用户数据，不同的第一CPU的可信区内所解密的加密数据来自于不同的用户设备；
在所述可信区内，采用所述用户数据训练模型，具体包括：
针对每个第一CPU，在该第一CPU的可信区内，根据该第一CPU解密得到的用户数据以及所述第二CPU发送的模型参数训练模型，得到训练中间值，并通过该第一CPU将所述训练中间值输出给所述第二CPU；
通过所述第二CPU，根据各第一CPU分别输出的训练中间值，确定训练效果表征值；
根据所述训练效果表征值调整所述模型参数，以使所述第二CPU和各第一CPU根据调整后的模型参数继续训练模型，直至训练的模型满足指定条件为止。
5.根据权利要求4所述的方法，根据所述训练效果表征值调整所述模型参数，以使所述第二CPU和各第一CPU根据调整后的模型参数继续训练模型，具体包括：
通过所述第二CPU，根据所述训练效果表征值调整所述模型参数，并将调整后的模型参数发送给各第一CPU，以使所述第二CPU和各第一CPU根据调整后的模型参数继续训练模型。
6.根据权利要求4所述的方法，根据所述训练效果表征值调整所述模型参数，以使所述第二CPU和各第一CPU根据调整后的模型参数继续训练模型，具体包括：
通过所述第二CPU，将所述训练效果表征值发送给各第一CPU，以使每个第一CPU根据所述训练效果表征值调整所述模型参数，并根据各调整后的模型参数继续训练模型。
7.一种训练模型的方法，服务设备中具有可信区，所述方法包括：
用户设备对用户数据进行加密，得到加密数据；
将所述加密数据发送给服务设备，以使所述服务设备在所述可信区内，解密所述加密数据得到所述用户数据，并采用所述用户数据训练模型。
8.根据权利要求7所述的方法，用户设备中具有可信区；
用户设备对用户数据进行加密，具体包括：
用户设备采用仅能在所述用户设备的可信区内执行的加密算法，对用户数据进行加密，以使所述服务设备采用与所述加密算法对应的解密算法对接收到的加密数据进行解密，其中，与所述加密算法对应的解密算法仅能在所述服务设备的可信区内执行。
9.一种训练模型的装置，所述装置中具有可信区，所述装置包括：
接收模块，所述服务设备接收用户设备发送的加密数据；
解密模块，在所述可信区内，解密所述加密数据得到用户数据；
训练模块，在所述可信区内，采用所述用户数据训练模型。
10.根据权利要求9所述的装置，所述解密模块，在所述可信区内，采用仅能在所述可信区内执行的解密算法，解密所述加密数据得到用户数据。
11.根据权利要求9所述的装置，所述可信区位于所述服务设备的CPU中。
12.根据权利要求11所述的装置，所述服务设备中包括多个第一CPU和至少一个第二CPU；
所述接收模块，接收多个用户设备发送的加密数据；
所述解密模块，分别在各第一CPU的可信区内，解密所述加密数据得到用户数据，不同的第一CPU的可信区内所解密的加密数据来自于不同的用户设备；
所述训练模块，针对每个第一CPU，在该第一CPU的可信区内，根据该第一CPU解密得到的用户数据以及所述第二CPU发送的模型参数训练模型，得到训练中间值，并通过该第一CPU将所述训练中间值输出给所述第二CPU；通过所述第二CPU，根据各第一CPU分别输出的训练中间值，确定训练效果表征值；根据所述训练效果表征值调整所述模型参数，以使所述第二CPU和各第一CPU根据调整后的模型参数继续训练模型，直至训练的模型满足指定条件为止。
13.根据权利要求12所述的装置，所述训练模块，通过所述第二CPU，根据所述训练效果表征值调整所述模型参数，并将调整后的模型参数发送给各第一CPU，以使所述第二CPU和各第一CPU根据调整后的模型参数继续训练模型。
14.根据权利要求12所述的装置，所述训练模块，通过所述第二CPU，将所述训练效果表征值发送给各第一CPU，以使每个第一CPU根据所述训练效果表征值调整所述模型参数，并根据各调整后的模型参数继续训练模型。
15.一种训练模型的装置，服务设备中具有可信区，所述装置包括：
加密模块，用户设备对用户数据进行加密，得到加密数据；
发送模块，将所述加密数据发送给服务设备，以使所述服务设备在所述可信区内，解密所述加密数据得到所述用户数据，并采用所述用户数据训练模型。
16.根据权利要求15所述的装置，所述装置中具有可信区；
所述加密模块，用户设备采用仅能在所述用户设备的可信区内执行的加密算法，对用户数据进行加密，以使所述服务设备采用与所述加密算法对应的解密算法对接收到的加密数据进行解密，其中，与所述加密算法对应的解密算法仅能在所述服务设备的可信区内执行。
17.一种服务设备，所述服务设备中具有可信区，所述服务设备包括一个或多个处理器及存储器，所述存储器存储有程序，并且被配置成由所述一个或多个处理器执行以下步骤：
接收用户设备发送的加密数据；
在所述可信区内，解密所述加密数据得到用户数据；
在所述可信区内，采用所述用户数据训练模型。
18.一种用户设备，服务设备中具有可信区，所述用户设备包括一个或多个处理器及存储器，所述存储器存储有程序，并且被配置成由所述一个或多个处理器执行以下步骤：
对用户数据进行加密，得到加密数据；
将所述加密数据发送给服务设备，以使所述服务设备在所述可信区内，解密所述加密数据得到所述用户数据，并采用所述用户数据训练模型。
CN201710629480.1A 2017-07-28 2017-07-28 一种训练模型的方法及装置 Active CN109309652B (zh)

Priority Applications (8)

Application Number Priority Date Filing Date Title
CN202010596140.5A CN111756754B (zh) 2017-07-28 2017-07-28 一种训练模型的方法及装置
CN201710629480.1A CN109309652B (zh) 2017-07-28 2017-07-28 一种训练模型的方法及装置
TW107115704A TWI700648B (zh) 2017-07-28 2018-05-09 訓練模型的方法及裝置
US16/047,399 US10929558B2 (en) 2017-07-28 2018-07-27 Data secruity enhancement by model training
EP18760081.2A EP3646225B1 (en) 2017-07-28 2018-07-30 Model training method and apparatus
SG11202000749RA SG11202000749RA (en) 2017-07-28 2018-07-30 Model training method and apparatus
PCT/US2018/044282 WO2019023692A1 (en) 2017-07-28 2018-07-30 METHOD AND APPARATUS FOR MODEL FORMATION
US16/723,008 US10867071B2 (en) 2017-07-28 2019-12-20 Data security enhancement by model training

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710629480.1A CN109309652B (zh) 2017-07-28 2017-07-28 一种训练模型的方法及装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
CN202010596140.5A Division CN111756754B (zh) 2017-07-28 2017-07-28 一种训练模型的方法及装置

Publications (2)

Publication Number Publication Date
CN109309652A true CN109309652A (zh) 2019-02-05
CN109309652B CN109309652B (zh) 2020-06-09

Family

ID=63405347

Family Applications (2)

Application Number Title Priority Date Filing Date
CN202010596140.5A Active CN111756754B (zh) 2017-07-28 2017-07-28 一种训练模型的方法及装置
CN201710629480.1A Active CN109309652B (zh) 2017-07-28 2017-07-28 一种训练模型的方法及装置

Family Applications Before (1)

Application Number Title Priority Date Filing Date
CN202010596140.5A Active CN111756754B (zh) 2017-07-28 2017-07-28 一种训练模型的方法及装置

Country Status (6)

Country Link
US (2) US10929558B2 (zh)
EP (1) EP3646225B1 (zh)
CN (2) CN111756754B (zh)
SG (1) SG11202000749RA (zh)
TW (1) TWI700648B (zh)
WO (1) WO2019023692A1 (zh)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110162981A (zh) * 2019-04-18 2019-08-23 阿里巴巴集团控股有限公司 数据处理方法及装置
CN110969264A (zh) * 2019-12-11 2020-04-07 支付宝(杭州)信息技术有限公司 模型训练方法、分布式预测方法及其系统
CN111026436A (zh) * 2019-12-09 2020-04-17 支付宝(杭州)信息技术有限公司 模型联合训练方法及装置
CN111027083A (zh) * 2019-12-06 2020-04-17 支付宝(杭州)信息技术有限公司 一种私有数据处理方法及系统
CN111191267A (zh) * 2019-12-04 2020-05-22 杭州海康威视数字技术股份有限公司 一种模型数据的处理方法、装置及设备
CN111260053A (zh) * 2020-01-13 2020-06-09 支付宝(杭州)信息技术有限公司 使用可信执行环境来进行神经网络模型训练的方法和装置
TWI706344B (zh) * 2018-12-27 2020-10-01 財團法人工業技術研究院 隱私資料整合方法與伺服器
US10846413B2 (en) 2019-04-18 2020-11-24 Advanced New Technologies Co., Ltd. Data processing method and device
CN112668016A (zh) * 2020-01-02 2021-04-16 华控清交信息科技(北京)有限公司 一种模型训练方法、装置和电子设备
CN113095507A (zh) * 2021-04-02 2021-07-09 支付宝(杭州)信息技术有限公司 机器学习模型进行训练、预测的方法、装置、设备及介质
CN114296348A (zh) * 2021-12-27 2022-04-08 山东钧龙新能源科技有限公司 一种用于无焰热能发生器的物联网远程监控方法
WO2022174787A1 (zh) * 2021-02-22 2022-08-25 支付宝(杭州)信息技术有限公司 模型训练

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111756754B (zh) * 2017-07-28 2023-04-07 创新先进技术有限公司 一种训练模型的方法及装置
CN111753312B (zh) * 2019-03-26 2023-09-08 钉钉控股（开曼）有限公司 数据处理方法、装置、设备和系统
CN112183566B (zh) * 2019-07-04 2024-02-09 创新先进技术有限公司 模型训练方法、装置及系统
CN110474911B (zh) * 2019-08-14 2023-05-23 深圳前海微众银行股份有限公司 终端可信性识别方法、装置、设备与计算机可读存储介质
US11676011B2 (en) * 2019-10-24 2023-06-13 International Business Machines Corporation Private transfer learning
CN110874471B (zh) * 2019-11-19 2021-02-23 支付宝(杭州)信息技术有限公司 保护隐私安全的神经网络模型的训练方法和装置
CN111079182B (zh) * 2019-12-18 2022-11-29 北京百度网讯科技有限公司 数据的处理方法、装置、设备及存储介质
US11727125B2 (en) * 2020-03-31 2023-08-15 General Electric Company Emergent language based data encryption
US20200327454A1 (en) * 2020-06-26 2020-10-15 Intel Corporation Secured deployment of machine learning models
US11514366B2 (en) 2020-09-02 2022-11-29 Microsoft Technology Licensing, Llc System for content encryption for predictive models trained on private data
US20220114249A1 (en) * 2020-10-09 2022-04-14 Huawei Technologies Co., Ltd. Systems and methods for secure and fast machine learning inference in a trusted execution environment
US11960596B2 (en) * 2021-03-11 2024-04-16 Xilinx, Inc. Network interface device

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070118880A1 (en) * 2005-11-18 2007-05-24 Mauro Anthony P Ii Mobile security system and method
CN102156641A (zh) * 2011-04-20 2011-08-17 中国科学院软件研究所 一种软件成本置信区间预测方法及系统
CN102681992A (zh) * 2011-03-07 2012-09-19 腾讯科技（深圳）有限公司 一种数据分层方法及系统
CN105512576A (zh) * 2015-12-14 2016-04-20 联想(北京)有限公司 一种数据安全存储的方法及电子设备
US20160149912A1 (en) * 2014-11-26 2016-05-26 Intel Corporation Trusted Computing Base Evidence Binding for a Migratable Virtual Machine
WO2016090606A1 (en) * 2014-12-11 2016-06-16 Intel Corporation Trusted predictive analytic execution middleware

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020031230A1 (en) 2000-08-15 2002-03-14 Sweet William B. Method and apparatus for a web-based application service model for security management
US20030135547A1 (en) 2001-07-23 2003-07-17 Kent J. Thomas Extensible modular communication executive with active message queue and intelligent message pre-validation
US7299215B2 (en) * 2002-05-10 2007-11-20 Oracle International Corporation Cross-validation for naive bayes data mining model
US8346929B1 (en) 2003-08-18 2013-01-01 Oracle America, Inc. System and method for generating secure Web service architectures using a Web Services security assessment methodology
US20060069717A1 (en) 2003-08-27 2006-03-30 Ascential Software Corporation Security service for a services oriented architecture in a data integration platform
JP4639296B2 (ja) * 2004-03-18 2011-02-23 株式会社デンソーアイティーラボラトリ 車両用情報処理システム、車両用情報処理方法およびプログラム
US8170841B2 (en) * 2004-04-16 2012-05-01 Knowledgebase Marketing, Inc. Predictive model validation
US7590867B2 (en) * 2004-06-24 2009-09-15 Intel Corporation Method and apparatus for providing secure virtualization of a trusted platform module
US8214308B2 (en) * 2007-10-23 2012-07-03 Sas Institute Inc. Computer-implemented systems and methods for updating predictive models
JP4512201B2 (ja) * 2007-12-21 2010-07-28 株式会社日立製作所 データ処理方法及びシステム
US8763127B2 (en) 2009-03-13 2014-06-24 Rutgers, The State University Of New Jersey Systems and method for malware detection
CN102271124B (zh) * 2010-06-01 2015-05-13 富士通株式会社 数据处理设备和数据处理方法
JP5584914B2 (ja) * 2010-07-15 2014-09-10 株式会社日立製作所 分散計算システム
US8843427B1 (en) * 2011-07-01 2014-09-23 Google Inc. Predictive modeling accuracy
US9141769B1 (en) * 2013-02-08 2015-09-22 Amazon Technologies, Inc. Secure transfer and use of secret material in a shared environment
CN103761263A (zh) * 2013-12-31 2014-04-30 武汉传神信息技术有限公司 向用户推荐信息的方法
US10318882B2 (en) 2014-09-11 2019-06-11 Amazon Technologies, Inc. Optimized training of linear machine learning models
US20160180078A1 (en) * 2014-12-23 2016-06-23 Jasmeet Chhabra Technologies for enhanced user authentication using advanced sensor monitoring
CN106027503A (zh) * 2016-05-09 2016-10-12 浪潮集团有限公司 一种基于tpm的云存储数据加密方法
CN111756754B (zh) 2017-07-28 2023-04-07 创新先进技术有限公司 一种训练模型的方法及装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070118880A1 (en) * 2005-11-18 2007-05-24 Mauro Anthony P Ii Mobile security system and method
CN102681992A (zh) * 2011-03-07 2012-09-19 腾讯科技（深圳）有限公司 一种数据分层方法及系统
CN102156641A (zh) * 2011-04-20 2011-08-17 中国科学院软件研究所 一种软件成本置信区间预测方法及系统
US20160149912A1 (en) * 2014-11-26 2016-05-26 Intel Corporation Trusted Computing Base Evidence Binding for a Migratable Virtual Machine
WO2016090606A1 (en) * 2014-12-11 2016-06-16 Intel Corporation Trusted predictive analytic execution middleware
CN105512576A (zh) * 2015-12-14 2016-04-20 联想(北京)有限公司 一种数据安全存储的方法及电子设备

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
SERDAR YEGULALP: "Spark和Mesos的诞生之地，又在研究什么新技术？", 《HTTP://WWW.SOHU.COM/A/125781607_332175》 *

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI706344B (zh) * 2018-12-27 2020-10-01 財團法人工業技術研究院 隱私資料整合方法與伺服器
US11138327B2 (en) 2018-12-27 2021-10-05 Industrial Technology Research Institute Privacy data integration method and server
US11074352B2 (en) 2019-04-18 2021-07-27 Advanced New Technologies Co., Ltd. Data processing method and device
US11281784B2 (en) 2019-04-18 2022-03-22 Advanced New Technologies Co., Ltd. Data processing method and device
CN110162981A (zh) * 2019-04-18 2019-08-23 阿里巴巴集团控股有限公司 数据处理方法及装置
US10846413B2 (en) 2019-04-18 2020-11-24 Advanced New Technologies Co., Ltd. Data processing method and device
CN110162981B (zh) * 2019-04-18 2020-10-02 阿里巴巴集团控股有限公司 数据处理方法及装置
CN111191267A (zh) * 2019-12-04 2020-05-22 杭州海康威视数字技术股份有限公司 一种模型数据的处理方法、装置及设备
CN111027083B (zh) * 2019-12-06 2022-03-01 支付宝(杭州)信息技术有限公司 一种私有数据处理方法及系统
CN111027083A (zh) * 2019-12-06 2020-04-17 支付宝(杭州)信息技术有限公司 一种私有数据处理方法及系统
CN111026436A (zh) * 2019-12-09 2020-04-17 支付宝(杭州)信息技术有限公司 模型联合训练方法及装置
WO2021114933A1 (zh) * 2019-12-09 2021-06-17 支付宝(杭州)信息技术有限公司 模型联合训练方法及装置
CN110969264A (zh) * 2019-12-11 2020-04-07 支付宝(杭州)信息技术有限公司 模型训练方法、分布式预测方法及其系统
CN112668016A (zh) * 2020-01-02 2021-04-16 华控清交信息科技(北京)有限公司 一种模型训练方法、装置和电子设备
CN112668016B (zh) * 2020-01-02 2023-12-08 华控清交信息科技(北京)有限公司 一种模型训练方法、装置和电子设备
CN111260053A (zh) * 2020-01-13 2020-06-09 支付宝(杭州)信息技术有限公司 使用可信执行环境来进行神经网络模型训练的方法和装置
WO2022174787A1 (zh) * 2021-02-22 2022-08-25 支付宝(杭州)信息技术有限公司 模型训练
CN113095507A (zh) * 2021-04-02 2021-07-09 支付宝(杭州)信息技术有限公司 机器学习模型进行训练、预测的方法、装置、设备及介质
CN114296348A (zh) * 2021-12-27 2022-04-08 山东钧龙新能源科技有限公司 一种用于无焰热能发生器的物联网远程监控方法

Also Published As

Publication number Publication date
TWI700648B (zh) 2020-08-01
CN111756754A (zh) 2020-10-09
SG11202000749RA (en) 2020-02-27
US10929558B2 (en) 2021-02-23
EP3646225A1 (en) 2020-05-06
US10867071B2 (en) 2020-12-15
EP3646225B1 (en) 2021-06-16
CN111756754B (zh) 2023-04-07
TW201911141A (zh) 2019-03-16
US20190034658A1 (en) 2019-01-31
CN109309652B (zh) 2020-06-09
WO2019023692A1 (en) 2019-01-31
US20200125762A1 (en) 2020-04-23

Similar Documents

Publication Publication Date Title
CN109309652A (zh) 一种训练模型的方法及装置
TWI734041B (zh) 一種資料審計的方法及裝置
CN107392040B (zh) 一种共识验证的方法及装置
CN109426732B (zh) 一种数据处理方法及装置
CN108932297A (zh) 一种数据查询、数据共享的方法、装置及设备
CN104050416B (zh) 显示表面的安全绘制
CN110162981A (zh) 数据处理方法及装置
CN109308418A (zh) 一种基于共享数据的模型训练方法及装置
CN107196989A (zh) 一种业务请求的处理方法及装置
CN109040133A (zh) 在区块链网络中安装智能合约的方法、装置及存储介质
CN109741063A (zh) 基于区块链的数字签名方法和装置
CN109255210A (zh) 在区块链网络中提供智能合约的方法、装置及存储介质
CN111079152B (zh) 一种模型部署方法、装置及设备
CN109389412B (zh) 一种训练模型的方法、装置、服务设备以及用户设备
CN113239391B (zh) 一种无第三方的逻辑回归联邦学习模型训练系统及方法
CN110033371A (zh) 一种基于资产交易的对账方法及装置
CN109145240A (zh) 一种基于扫码操作的页面访问方法、装置及系统
CN104115440A (zh) 防止电子码本加密中的图案识别
WO2020155173A1 (en) Data processing method, device and system for machine learning model
CN109800582A (zh) 可溯源的多方数据处理方法、装置及设备
CN117349671A (zh) 一种模型训练的方法、装置、存储介质及电子设备
CN109241749A (zh) 数据加密、机器学习模型训练方法、装置以及电子设备
CN109560927A (zh) 一种设备指纹实现方法及装置
CN107122635A (zh) 一种so文件的加固方法、装置和apk的加固方法
CN112364367A (zh) 一种基于隐私保护的对象处理方法、装置及设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20191210

Address after: P.O. Box 31119, grand exhibition hall, hibiscus street, 802 West Bay Road, Grand Cayman, ky1-1205, Cayman Islands

Applicant after: Innovative advanced technology Co., Ltd

Address before: A four-storey 847 mailbox in Grand Cayman Capital Building, British Cayman Islands

Applicant before: Alibaba Group Holding Co., Ltd.

TA01 Transfer of patent application right
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 40004193

Country of ref document: HK

GR01 Patent grant
GR01 Patent grant