CN116341684B - 提高模型泛化性能的正则惩罚施加方法、装置及存储介质 - Google Patents

提高模型泛化性能的正则惩罚施加方法、装置及存储介质 Download PDF

Info

Publication number
CN116341684B
CN116341684B CN202310604318.XA CN202310604318A CN116341684B CN 116341684 B CN116341684 B CN 116341684B CN 202310604318 A CN202310604318 A CN 202310604318A CN 116341684 B CN116341684 B CN 116341684B
Authority
CN
China
Prior art keywords
participant
ciphertext
model
model coefficient
coefficient
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202310604318.XA
Other languages
English (en)
Other versions
CN116341684A (zh
Inventor
徐宸
李陆沁
任江哲
黄璞豪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Lanxiang Zhilian Hangzhou Technology Co ltd
Original Assignee
Lanxiang Zhilian Hangzhou Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Lanxiang Zhilian Hangzhou Technology Co ltd filed Critical Lanxiang Zhilian Hangzhou Technology Co ltd
Priority to CN202310604318.XA priority Critical patent/CN116341684B/zh
Publication of CN116341684A publication Critical patent/CN116341684A/zh
Application granted granted Critical
Publication of CN116341684B publication Critical patent/CN116341684B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00—Network architectures or network communication protocols for network security
    • H04L63/04—Network architectures or network communication protocols for network security for providing a confidential data exchange among entities communicating through data packet networks
    • H04L63/0428—Network architectures or network communication protocols for network security for providing a confidential data exchange among entities communicating through data packet networks wherein the data content is protected, e.g. by encrypting or encapsulating the payload
    • H04L63/0464—Network architectures or network communication protocols for network security for providing a confidential data exchange among entities communicating through data packet networks wherein the data content is protected, e.g. by encrypting or encapsulating the payload using hop-by-hop encryption, i.e. wherein an intermediate entity decrypts the information and re-encrypts it before forwarding it
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L9/00—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols
    • H04L9/008—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols involving homomorphic encryption
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L9/00—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols
    • H04L9/08—Key distribution or management, e.g. generation, sharing or updating, of cryptographic keys or passwords
    • H04L9/0861—Generation of secret information including derivation or calculation of cryptographic keys or passwords
    • H04L9/0869—Generation of secret information including derivation or calculation of cryptographic keys or passwords involving random numbers or seeds
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L2209/00—Additional information or applications relating to cryptographic mechanisms or cryptographic arrangements for secret or secure communication H04L9/00
    • H04L2209/56—Financial cryptography, e.g. electronic payment or e-cash

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Security & Cryptography (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Theoretical Computer Science (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Hardware Design (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Financial Or Insurance-Related Operations Such As Payment And Settlement (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请实施例公开了一种提高模型泛化性能的正则惩罚施加方法、装置及存储介质，其中提高模型泛化性能的正则惩罚施加方法包括：获取由参与方参与加密的第一模型系数，并参与对参与方的第二模型系数的加密；将第一模型系数与对应的向量对位相乘，得到第一密文，将第一密文发送给参与方，以使参与方进行解密，并取系数符号，然后再次加密得到第三密文；获取参与方发送的第三密文，并将第四密文发送给参与方，第四密文通过对参与方发送来的第二密文进行解密并取系数符号，并且再次加密后得到；将第三密文与对应的向量对位相乘，得到第一L1正则惩罚项，利用第一L1正则惩罚项得到第三模型系数，以利用得到的第三模型系数提高模型的泛化性能。

Description

提高模型泛化性能的正则惩罚施加方法、装置及存储介质
技术领域
本申请涉及数据共享技术领域，具体涉及一种提高模型泛化性能的正则惩罚施加方法、装置及存储介质。
背景技术
描述一件物品时，描述的内容越丰富详实则约束越多，识别的泛化性就差，代表的事物就少。在训练数据不够多时，或者过度训练模型时，常常会导致过拟合。正则化方法即为在此时向原始模型引入额外信息，以便防止过拟合和提高模型泛化性能的一类方法的统称，这就引入了正则化惩罚项。
但是，目前工业界联邦学习场景下，对于被同态加密技术保护的模型，无法施加L1正则惩罚；而且，L2正则惩罚会导致模型系数密文随着训练的迭代不断做乘法出现out ofscale（数值超过计算机允许的最大范围）的错误，从而造成在互联网金融领域无法训练出具有良好泛化性的模型，因而无法有效利用所建立的模型筛选出容易发生逾期还贷的客户。
发明内容
本申请实施例的目的在于提供一种提高模型泛化性能的正则惩罚施加方法、装置及存储介质，用以解决现有技术中的对于被同态加密技术保护的模型，无法施加L1正则惩罚，或者L2正则惩罚会导致模型系数密文随着训练的迭代不断做乘法出现out of scale的错误，从而造成在互联网金融领域无法训练出具有良好泛化性的模型，因而无法有效利用所建立的模型筛选出容易发生逾期还贷的客户的问题。
为实现上述目的，本申请实施例提供一种提高模型泛化性能的正则惩罚施加方法，应用于L1正则惩罚的施加，包括：获取由参与方参与加密的第一模型系数，并参与对所述参与方的第二模型系数的加密；
将所述第一模型系数与对应的向量对位相乘，得到第一密文，将所述第一密文发送给所述参与方，以使所述参与方进行解密，并取系数符号，然后再次加密得到第三密文；
获取所述参与方发送的所述第三密文，并将第四密文发送给所述参与方，所述第四密文通过对所述参与方发送来的所述第二密文进行解密并取系数符号，并且再次加密后得到；
将所述第三密文与对应的向量对位相乘，得到第一L1正则惩罚项，利用所述第一L1正则惩罚项得到第三模型系数，以利用得到的所述第三模型系数提高模型的泛化性能，从而基于发起方所拥有的客户在银行中的个人数据和所述参与方所拥有的客户在互联网上的交易数据，在互相不泄露本方数据的前提下利用模型筛选出容易发生逾期还贷的客户。
可选地，所述获取由参与方参与加密的第一模型系数，并参与对所述参与方的第二模型系数的加密，包括：
利用公式：wA = uA + vA得到加密后的所述第一模型系数，其中，wA为加密后的所述第一模型系数，uA和vA都是一条长度为本方特征维度的向量，其元素是(0,1)间的随机数，uA由所述参与方生成并加密，vA由本方生成；
生成并加密得到uB，将uB发送给所述参与方，以使所述参与方利用公式：wB = uB+ vB得到加密后的所述第二模型系数，其中，uB和vB都是一条长度为所述参与方特征维度的向量，其元素是(0,1)间的随机数，vB由所述参与方生成。
可选地，所述将所述第一模型系数与对应的向量对位相乘，包括：
生成长度为本方特征维度的、每个元素随机取1或-1的第一向量，再对位乘以一个随机产生的同样长度的正数向量，构成第二向量，将所述第一模型系数对位乘以所述第二向量；
所述将所述第三密文与对应的向量对位相乘，包括：
把所述第三密文对位乘以所述第一向量。
可选地，所述利用所述第一L1正则惩罚项得到第三模型系数，包括：
利用公式：wA_new = wA - learning_rate × cipher_L1_A，得到所述第三模型系数，其中，wA表示所述第一模型系数，cipher_L1_A表示所述第一L1正则惩罚项，learning_rate表示学习率。
为实现上述目的，本申请实施例还提供另一种提高模型泛化性能的正则惩罚施加方法，应用于L2正则惩罚的施加，包括：获取由参与方参与加密的第一模型系数，并参与对所述参与方的第二模型系数的加密；
将所述第一模型系数与对应的向量对位相加，得到第一密文，将所述第一密文发送给所述参与方，以使所述参与方进行解密，以消除所述第一密文的数量级，并且再次加密得到第三密文；
获取所述参与方发送的所述第三密文，并将第四密文发送给所述参与方，所述第四密文通过对所述参与方发送来的所述第二密文进行解密消除数量级，并且再次加密后得到；
将所述第三密文与对应的向量对位相减，得到第一L2正则惩罚项，利用所述第一L2正则惩罚项得到第三模型系数，以利用得到的所述第三模型系数提高模型的泛化性能，从而基于发起方所拥有的客户在银行中的个人数据和所述参与方所拥有的客户在互联网上的交易数据，在互相不泄露本方数据的前提下利用模型筛选出容易发生逾期还贷的客户。
可选地，所述获取由参与方参与加密的第一模型系数，并参与对所述参与方的第二模型系数的加密，包括：
利用公式：wA = uA + vA得到加密后的所述第一模型系数，其中，wA为加密后的所述第一模型系数，uA和vA都是一条长度为本方特征维度的向量，其元素是(0,1)间的随机数，uA由所述参与方生成并加密，vA由本方生成；
生成并加密得到uB，将uB发送给所述参与方，以使所述参与方利用公式：wB = uB+ vB得到加密后的所述第二模型系数，其中，uB和vB都是一条长度为所述参与方特征维度的向量，其元素是(0,1)间的随机数，vB由所述参与方生成。
可选地，所述将所述第一模型系数与对应的向量对位相加，包括：
生成长度为本方特征维度的随机正数第一向量，将所述第一模型系数对位加所述第一向量；
所述将所述第三密文与对应的向量对位相减，包括：
将所述第三密文对位减去所述第一向量。
可选地，所述利用所述第一L2正则惩罚项得到第三模型系数，包括：
利用公式：wA_new = wA - learning_rate × cipher_L2_A，得到所述第三模型系数，其中，wA表示所述第一模型系数，cipher_L2_A表示所述第一L2正则惩罚项，learning_rate表示学习率。
为实现上述目的，本申请还提供一种提高模型泛化性能的正则惩罚施加装置，包括：存储器；以及
与所述存储器连接的处理器，所述处理器被配置成执行如上任一项所述的方法的步骤。
为实现上述目的，本申请还提供一种计算机存储介质，其上存储有计算机程序，其中所述计算机程序被机器执行时实现如上所述的方法的步骤。
本申请实施例具有如下优点：
本申请实施例提供一种提高模型泛化性能的正则惩罚施加方法，应用于L1正则惩罚的施加，包括：获取由参与方参与加密的第一模型系数，并参与对所述参与方的第二模型系数的加密；将所述第一模型系数与对应的向量对位相乘，得到第一密文，将所述第一密文发送给所述参与方，以使所述参与方进行解密，并取系数符号，然后再次加密得到第三密文；获取所述参与方发送的所述第三密文，并将第四密文发送给所述参与方，所述第四密文通过对所述参与方发送来的所述第二密文进行解密并取系数符号，并且再次加密后得到；将所述第三密文与对应的向量对位相乘，得到第一L1正则惩罚项，利用所述第一L1正则惩罚项得到第三模型系数，以利用得到的所述第三模型系数提高模型的泛化性能，从而基于发起方所拥有的客户在银行中的个人数据和所述参与方所拥有的客户在互联网上的交易数据，在互相不泄露本方数据的前提下利用模型筛选出容易发生逾期还贷的客户。本申请实施例还提供另一种提高模型泛化性能的正则惩罚施加方法，应用于L2正则惩罚的施加，包括：获取由参与方参与加密的第一模型系数，并参与对所述参与方的第二模型系数的加密；将所述第一模型系数与对应的向量对位相加，得到第一密文，将所述第一密文发送给所述参与方，以使所述参与方进行解密，以消除所述第一密文的数量级，并且再次加密得到第三密文；获取所述参与方发送的所述第三密文，并将第四密文发送给所述参与方，所述第四密文通过对所述参与方发送来的所述第二密文进行解密消除数量级，并且再次加密后得到；将所述第三密文与对应的向量对位相减，得到第一L2正则惩罚项，利用所述第一L2正则惩罚项得到第三模型系数，以利用得到的所述第三模型系数提高模型的泛化性能，从而基于发起方所拥有的客户在银行中的个人数据和所述参与方所拥有的客户在互联网上的交易数据，在互相不泄露本方数据的前提下利用模型筛选出容易发生逾期还贷的客户。
通过上述方法，在联邦学习的场景下，对于被同态加密保护的模型，能够在模型系数对于发起方和各参与方都不可获取的前提下，施加正则惩罚；保证数据隐私不被泄露。解决了现有技术中的对于被同态加密技术保护的模型，无法施加L1正则惩罚，或者L2正则惩罚会导致模型系数密文随着训练的迭代不断做乘法出现out of scale的错误，从而造成在互联网金融领域无法训练出具有良好泛化性的模型，因而无法有效利用所建立的模型筛选出容易发生逾期还贷的客户的问题。
附图说明
为了更清楚地说明本申请的实施方式或现有技术中的技术方案，下面将对实施方式或现有技术描述中所需要使用的附图作简单地介绍。显而易见地，下面描述中的附图仅仅是示例性的，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图引申获得其它的实施附图。
图1为本申请实施例提供的一种应用于L1正则惩罚的施加的提高模型泛化性能的正则惩罚施加方法的流程图；
图2为本申请实施例提供的另一种应用于L2正则惩罚的施加的提高模型泛化性能的正则惩罚施加方法的流程图；
图3为本申请实施例提供的一种提高模型泛化性能的正则惩罚施加装置的模块框图。
具体实施方式
以下由特定的具体实施例说明本申请的实施方式，熟悉此技术的人士可由本说明书所揭露的内容轻易地了解本申请的其他优点及功效，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
此外，下面所描述的本申请不同实施方式中所涉及的技术特征只要彼此之间未构成冲突就可以相互结合。
对一些实施例中可能用到的术语的介绍：同态加密：同态加密(HomomorphicEncryption,HE) 指的 是一类满足在密文空间上进行运算的密码学方法。 根 据所支 持的 运算, 同 态加 密 可以 分 为全 同 态加 密 (LFully HE, FHE)、 层级 全 同态 加密 ( Leveled fully, FHE)、加法半同态加密( Additive HE,AHE) 以及乘法半同态加密(Multiplicative HE,MHE)等。
正则惩罚：描述一件物品时，描述的内容越丰富详实则约束越多，识别的泛化性就差，代表的事物就少。在训练数据不够多时，或者过度训练模型时，常常会导致过拟合。正则化方法即为在此时向原始模型引入额外信息，以便防止过拟合和提高模型泛化性能的一类方法的统称，这就引入了正则化惩罚项。
在机器学习里叫正则化，线性代数叫范数，统计学里叫惩罚项。
机器学习里：L1使用的是绝对值距离，也叫曼哈顿距离，L2使用的是平方距离，也叫做欧式（Euclidean）距离。
模型的泛化性能：泛化性能指模型经过训练后，应用到新数据并做出准确预测的能力。一个模型在训练数据上经常被训练得太好即过拟合，以致无法泛化。简单地说，模型的泛化性能是模型适应新数据的能力，即模型在从未见过的数据面前，仍然保持一定适用性的能力。
本申请提供的方案的应用场景可以包括：银行A和互联网公司B达成合作，在互相不泄露本方数据的前提下，建立分类模型识别出容易发生逾期还贷的客户。双方可以先进行隐匿求交，筛选出双方共有的客户；再基于本申请提供的方案，进行纵向联邦建模并施加正则惩罚，训练出具有良好泛化性的二分类模型；从而筛选出容易发生逾期还贷的客户。
在一些应用场景中，数据交换应满足如下扩展安全要求：
——不泄露发起方、参与方的特征数据；
——不泄露各方的模型参数，如经双方协商要求模型参数聚合到某一方的除外；
——不泄露发起方样本的一阶梯度和二阶海森矩阵，以及模型参数差和梯度差；
——不泄露发起方样本的标签数据。
本申请一实施例提供一种提高模型泛化性能的正则惩罚施加方法，应用于对于同态加密的模型的L1正则惩罚的施加，参考图1，图1为本申请的一实施方式中提供的一种提高模型泛化性能的正则惩罚施加方法的流程图，应当理解的是，该方法还可以包括未示出的附加框和/或可以省略所示出的框，本申请的范围在此方面不受限制。
在步骤101处，获取由参与方参与加密的第一模型系数，并参与对所述参与方的第二模型系数的加密。
在一些实施例中，所述获取由参与方参与加密的第一模型系数，并参与对所述参与方的第二模型系数的加密，包括：
利用公式：wA = uA + vA得到加密后的所述第一模型系数，其中，wA为加密后的所述第一模型系数，uA和vA都是一条长度为本方特征维度的向量，其元素是(0,1)间的随机数，uA由所述参与方生成并加密，vA由本方生成；
生成并加密得到uB，将uB发送给所述参与方，以使所述参与方利用公式：wB = uB+ vB得到加密后的所述第二模型系数，其中，uB和vB都是一条长度为所述参与方特征维度的向量，其元素是(0,1)间的随机数，vB由所述参与方生成。
具体地，A方的模型系数wA = uA + vA（uA由B方生成并加密, vA由A方生成）；B方的模型系数wB = uB + vB（uB由A方生成并加密, vB由B方生成）。需要注意的是，在本申请的实施例中，A方为发起方，B方为参与方，且A方和B方可以互为发起方和参与方，双方共同合作，在互相不泄露本方数据的前提下，得到所需的模型。
在步骤102处，将所述第一模型系数与对应的向量对位相乘，得到第一密文，将所述第一密文发送给所述参与方，以使所述参与方进行解密，并取系数符号，然后再次加密得到第三密文。
在一些实施例中，所述将所述第一模型系数与对应的向量对位相乘，包括：
生成长度为本方特征维度的、每个元素随机取1或-1的第一向量，再对位乘以一个随机产生的同样长度的正数向量，构成第二向量，将所述第一模型系数对位乘以所述第二向量。
具体地，A方生成长度为A方特征维度的，每个元素随机取1或-1的第一向量sign_maskA，再对位乘以一个随机产生的同样长度的正数向量，构成第二向量maskA;类似的，B方产生第三向量sign_maskB和第四向量maskB。
A方第一模型系数对位乘以第二向量maskA，得到第一密文masked_wA；类似的，B方得到第二密文masked_wB。
A方发送第一密文masked_wA到B方，B方进行解密，并取系数符号（取正负号），再加密得到第三密文masked_signA；类似的，A方会得到第四密文masked_signB。
在步骤103处，获取所述参与方发送的所述第三密文，并将第四密文发送给所述参与方，所述第四密文通过对所述参与方发送来的所述第二密文进行解密并取系数符号，并且再次加密后得到。
具体地，A方把第四密文masked_signB发送给B方；类似的，B方把第三密文masked_signA发送给A方。
在步骤104处，将所述第三密文与对应的向量对位相乘，得到第一L1正则惩罚项，利用所述第一L1正则惩罚项得到第三模型系数，以利用得到的所述第三模型系数提高模型的泛化性能，从而基于发起方所拥有的客户在银行中的个人数据和所述参与方所拥有的客户在互联网上的交易数据，在互相不泄露本方数据的前提下利用模型筛选出容易发生逾期还贷的客户。
具体地，本申请的一些实施例中，所提及的提高泛化性能的模型为二分类模型，在互相不泄露本方数据的前提下所构建及利用该模型进行用户筛选的双方为包括银行的发起方和包括互联网公司的参与方，发起方所拥有的客户在银行中的个人数据可能有个人基本信息、收入、信用历史及个人债务，参与方所拥有的客户在互联网上的交易数据有购物记录、信用记录等等。
更具体地，对于前述的个人数据和交易数据，包括：
个人信息：包括年龄、性别、婚姻状况、教育程度等。这些信息可以用来评估个人的稳定性和可靠性；
收入和就业情况：包括个人的职业、工作经验、职位级别和收入水平等。这些信息可以反映个人的经济状况和还款能力；
信用历史：包括个人的信用报告、信用评分、征信记录等。这些信息可以显示个人的还款记录、逾期情况和信用风险；
债务情况：包括个人的债务水平、负债比例、信用卡额度使用率等。这些信息可以衡量个人的偿债能力和负债状况；
申请信息：包括个人的申请额度、申请目的、申请次数等。这些信息可以用来判断个人的借款意愿和贷款需求；
居住情况：包括个人的住房类型、住房所有权情况、居住稳定性等。这些信息可以反映个人的生活稳定性和还款意愿；
欺诈风险：包括个人的欺诈记录、反欺诈风险评估等。这些信息可以用来判断个人是否存在欺诈行为风险；
其他特殊因素：根据具体业务需求，可能会考虑其他特殊因素，如行业风险、地理位置等。
在一些实施例中，所述将所述第三密文与对应的向量对位相乘，包括：
把所述第三密文对位乘以所述第一向量。
具体地，A方把第三密文masked_signA对位乘以第一向量sign_maskA，即得到了密文状态下的第一L1正则惩罚项cipher_L1_A；类似的，B方得到第二L1正则惩罚项cipher_L1_B。
在一些实施例中，所述利用所述第一L1正则惩罚项得到第三模型系数，包括：
利用公式：wA_new = wA - learning_rate × cipher_L1_A，得到所述第三模型系数，其中，wA表示所述第一模型系数，cipher_L1_A表示所述第一L1正则惩罚项，learning_rate表示学习率。
具体地，A方施加正则惩罚，利用第一L1正则惩罚项得到第三模型系数：wA_new =wA - learning_rate × cipher_L1_A；类似的，B方施加正则惩罚，利用第二L1正则惩罚项得到第四模型系数：wB_new = wB - learning_rate × cipher_L1_B，其中learning_rate表示学习率。以使双方分别利用各自得到的第三模型系数和第四模型系数提高模型泛化性能。
本申请一实施例还提供另一种提高模型泛化性能的正则惩罚施加方法，应用于对于同态加密的模型的L2正则惩罚的施加，参考图2，图2为本申请的一实施方式中提供的一种提高模型泛化性能的正则惩罚施加方法的流程图，应当理解的是，该方法还可以包括未示出的附加框和/或可以省略所示出的框，本申请的范围在此方面不受限制。
在步骤201处，获取由参与方参与加密的第一模型系数，并参与对所述参与方的第二模型系数的加密。
在一些实施例中，所述获取由参与方参与加密的第一模型系数，并参与对所述参与方的第二模型系数的加密，包括：
利用公式：wA = uA + vA得到加密后的所述第一模型系数，其中，wA为加密后的所述第一模型系数，uA和vA都是一条长度为本方特征维度的向量，其元素是(0,1)间的随机数，uA由所述参与方生成并加密，vA由本方生成；
生成并加密得到uB，将uB发送给所述参与方，以使所述参与方利用公式：wB = uB+ vB得到加密后的所述第二模型系数，其中，uB和vB都是一条长度为所述参与方特征维度的向量，其元素是(0,1)间的随机数，vB由所述参与方生成。
具体地，获取：A方的模型系数wA = uA + vA（uA由B方生成并加密, vA由A方生成）；B方的模型系数wB = uB + vB（uB由A方生成并加密, vB由B方生成）。
在步骤202处，将所述第一模型系数与对应的向量对位相加，得到第一密文，将所述第一密文发送给所述参与方，以使所述参与方进行解密，以消除所述第一密文的数量级，并且再次加密得到第三密文。
在一些实施例中，所述将所述第一模型系数与对应的向量对位相加，包括：
生成长度为本方特征维度的随机正数第一向量，将所述第一模型系数对位加所述第一向量。
具体地，A方生成长度为A方特征维度的随机正数第一向量maskA;类似的，B方产生第二向量maskB。
A方第一模型系数对位加第一向量maskA，得到第一密文masked_wA；类似的，B方得到第二密文masked_wB。
A方发送第一密文masked_wA到B方，B方进行解密，消除密文的scale（scale为数量级的意思，密文每做一次乘法，他的数量级就会上升（密文也是一个数字，每做乘法可以举例理解为从1000变成1000000）），再加密得到第三密文new_masked_wA；类似的，A方会得到第四密文new_masked_wB。
在步骤203处，获取所述参与方发送的所述第三密文，并将第四密文发送给所述参与方，所述第四密文通过对所述参与方发送来的所述第二密文进行解密消除数量级，并且再次加密后得到。
具体地，A方把第四密文new_masked_wB发送给B方；类似的，B方把第三密文new_masked_wA发送给A方。
在步骤204处，将所述第三密文与对应的向量对位相减，得到第一L2正则惩罚项，利用所述第一L2正则惩罚项得到第三模型系数，以利用得到的所述第三模型系数提高模型的泛化性能，从而基于发起方所拥有的客户在银行中的个人数据和所述参与方所拥有的客户在互联网上的交易数据，在互相不泄露本方数据的前提下利用模型筛选出容易发生逾期还贷的客户。
具体地，本申请的一些实施例中，所提及的提高泛化性能的模型为二分类模型，在互相不泄露本方数据的前提下所构建及利用该模型进行用户筛选的双方为包括银行的发起方和包括互联网公司的参与方，发起方所拥有的客户在银行中的个人数据可能有个人基本信息、收入、信用历史及个人债务，参与方所拥有的客户在互联网上的交易数据有购物记录、信用记录等等。
更具体地，对于前述的个人数据和交易数据，包括：
个人信息：包括年龄、性别、婚姻状况、教育程度等。这些信息可以用来评估个人的稳定性和可靠性；
收入和就业情况：包括个人的职业、工作经验、职位级别和收入水平等。这些信息可以反映个人的经济状况和还款能力；
信用历史：包括个人的信用报告、信用评分、征信记录等。这些信息可以显示个人的还款记录、逾期情况和信用风险；
债务情况：包括个人的债务水平、负债比例、信用卡额度使用率等。这些信息可以衡量个人的偿债能力和负债状况；
申请信息：包括个人的申请额度、申请目的、申请次数等。这些信息可以用来判断个人的借款意愿和贷款需求；
居住情况：包括个人的住房类型、住房所有权情况、居住稳定性等。这些信息可以反映个人的生活稳定性和还款意愿；
欺诈风险：包括个人的欺诈记录、反欺诈风险评估等。这些信息可以用来判断个人是否存在欺诈行为风险；
其他特殊因素：根据具体业务需求，可能会考虑其他特殊因素，如行业风险、地理位置等。
在一些实施例中，所述将所述第三密文与对应的向量对位相减，包括：
将所述第三密文对位减去所述第一向量。
具体地，A方把第三密文new_masked_wA对位减去第一向量maskA，即得到了密文状态下的第一L2正则惩罚项cipher_L2_A；类似的，B方得到第二L2正则惩罚项cipher_L2_B。
在一些实施例中，所述利用所述第一L2正则惩罚项得到第三模型系数，包括：
利用公式：wA_new = wA - learning_rate × cipher_L2_A，得到所述第三模型系数，其中，wA表示所述第一模型系数，cipher_L2_A表示所述第一L2正则惩罚项，learning_rate表示学习率。
具体地，A方施加正则惩罚，利用第一L2正则惩罚项得到第三模型系数：wA_new =wA - learning_rate × cipher_L2_A；类似的，B方施加正则惩罚，利用第二L2正则惩罚项得到第四模型系数：wB_new = wB - learning_rate × cipher_L2_B，其中learning_rate表示学习率。以使双方分别利用各自得到的第三模型系数和第四模型系数提高模型泛化性能。
通过上述方法，在联邦学习的场景下，对于被同态加密保护的模型，能够在模型系数对于发起方和各参与方都不可获取的前提下，施加正则惩罚；保证数据隐私不被泄露。解决了现有技术中的对于被同态加密技术保护的模型，无法施加L1正则惩罚，或者L2正则惩罚会导致模型系数密文随着训练的迭代不断做乘法出现out of scale的错误的问题。
以下实施例通过在具体应用场景中的应用示例对本申请的上述方案进行解释说明：
银行A和互联网公司B达成合作，在互相不泄露本方数据的前提下，建立分类模型识别出容易发生逾期还贷的客户。双方可以先进行隐匿求交，筛选出双方共有的客户；再基于本方案，进行纵向联邦建模并施加正则惩罚，例如双方使用纵向逻辑回归进行联合建模，每一轮迭代过后，A方的模型系数wA = uA + vA（uA由B方加密, vA由A方持有，wA、uA、vA均是一条长度是A方特征个数的向量）；B方的模型系数wB = uB + vB（uB由A方加密, vB由B方持有，wB、uB、vB均是一条长度是B方特征个数的向量）,此时可基于本方案，给上述模型系数施加正则惩罚，提升泛化性；
若干轮迭代过后训练出具有良好泛化性的二分类模型；从而筛选出容易发生逾期还贷的客户。
图3为本申请实施例提供的一种提高模型泛化性能的正则惩罚施加装置的模块框图。该装置包括：
存储器301；以及与所述存储器301连接的处理器302，所述处理器302被配置成：获取由参与方参与加密的第一模型系数，并参与对所述参与方的第二模型系数的加密；
将所述第一模型系数与对应的向量对位相乘，得到第一密文，将所述第一密文发送给所述参与方，以使所述参与方进行解密，并取系数符号，然后再次加密得到第三密文；
获取所述参与方发送的所述第三密文，并将第四密文发送给所述参与方，所述第四密文通过对所述参与方发送来的所述第二密文进行解密并取系数符号，并且再次加密后得到；
将所述第三密文与对应的向量对位相乘，得到第一L1正则惩罚项，利用所述第一L1正则惩罚项得到第三模型系数，以利用得到的所述第三模型系数提高模型的泛化性能，从而基于发起方所拥有的客户在银行中的个人数据和所述参与方所拥有的客户在互联网上的交易数据，在互相不泄露本方数据的前提下利用模型筛选出容易发生逾期还贷的客户。
在一些实施例中，所述处理器302还被配置成：所述获取由参与方参与加密的第一模型系数，并参与对所述参与方的第二模型系数的加密，包括：
利用公式：wA = uA + vA得到加密后的所述第一模型系数，其中，wA为加密后的所述第一模型系数，uA和vA都是一条长度为本方特征维度的向量，其元素是(0,1)间的随机数，uA由所述参与方生成并加密，vA由本方生成；
生成并加密得到uB，将uB发送给所述参与方，以使所述参与方利用公式：wB = uB+ vB得到加密后的所述第二模型系数，其中，uB和vB都是一条长度为所述参与方特征维度的向量，其元素是(0,1)间的随机数，vB由所述参与方生成。
在一些实施例中，所述处理器302还被配置成：所述将所述第一模型系数与对应的向量对位相乘，包括：
生成长度为本方特征维度的、每个元素随机取1或-1的第一向量，再对位乘以一个随机产生的同样长度的正数向量，构成第二向量，将所述第一模型系数对位乘以所述第二向量；
所述将所述第三密文与对应的向量对位相乘，包括：
把所述第三密文对位乘以所述第一向量。
在一些实施例中，所述处理器302还被配置成：所述利用所述第一L1正则惩罚项得到第三模型系数，包括：
利用公式：wA_new = wA - learning_rate × cipher_L1_A，得到所述第三模型系数，其中，wA表示所述第一模型系数，cipher_L1_A表示所述第一L1正则惩罚项，learning_rate表示学习率。
在一些实施例中，所述处理器302被配置成：获取由参与方参与加密的第一模型系数，并参与对所述参与方的第二模型系数的加密；
将所述第一模型系数与对应的向量对位相加，得到第一密文，将所述第一密文发送给所述参与方，以使所述参与方进行解密，以消除所述第一密文的数量级，并且再次加密得到第三密文；
获取所述参与方发送的所述第三密文，并将第四密文发送给所述参与方，所述第四密文通过对所述参与方发送来的所述第二密文进行解密消除数量级，并且再次加密后得到；
将所述第三密文与对应的向量对位相减，得到第一L2正则惩罚项，利用所述第一L2正则惩罚项得到第三模型系数，以利用得到的所述第三模型系数提高模型的泛化性能，从而基于发起方所拥有的客户在银行中的个人数据和所述参与方所拥有的客户在互联网上的交易数据，在互相不泄露本方数据的前提下利用模型筛选出容易发生逾期还贷的客户。
在一些实施例中，所述处理器302还被配置成：所述获取由参与方参与加密的第一模型系数，并参与对所述参与方的第二模型系数的加密，包括：
利用公式：wA = uA + vA得到加密后的所述第一模型系数，其中，wA为加密后的所述第一模型系数，uA和vA都是一条长度为本方特征维度的向量，其元素是(0,1)间的随机数，uA由所述参与方生成并加密，vA由本方生成；
生成并加密得到uB，将uB发送给所述参与方，以使所述参与方利用公式：wB = uB+ vB得到加密后的所述第二模型系数，其中，uB和vB都是一条长度为所述参与方特征维度的向量，其元素是(0,1)间的随机数，vB由所述参与方生成。
在一些实施例中，所述处理器302还被配置成：所述将所述第一模型系数与对应的向量对位相加，包括：
生成长度为本方特征维度的随机正数第一向量，将所述第一模型系数对位加所述第一向量；
所述将所述第三密文与对应的向量对位相减，包括：
将所述第三密文对位减去所述第一向量。
在一些实施例中，所述处理器302还被配置成：所述利用所述第一L2正则惩罚项得到第三模型系数，包括：
利用公式：wA_new = wA - learning_rate × cipher_L2_A，得到所述第三模型系数，其中，wA表示所述第一模型系数，cipher_L2_A表示所述第一L2正则惩罚项，learning_rate表示学习率。
具体实现方法参考前述方法实施例，此处不再赘述。
本申请可以是方法、装置、系统和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质，其上载有用于执行本申请的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是但不限于电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子（非穷举的列表）包括：便携式计算机盘、硬盘、随机存取存储器（RAM）、只读存储器（ROM）、可擦式可编程只读存储器（EPROM或闪存）、静态随机存取存储器（SRAM）、便携式压缩盘只读存储器（CD-ROM）、数字多功能盘（DVD）、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身，诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波（例如，通过光纤电缆的光脉冲）、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备，或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令，并转发该计算机可读程序指令，以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本申请操作的计算机程序指令可以是汇编指令、指令集架构（ISA）指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码，所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等，以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机（例如利用因特网服务提供商来通过因特网连接）。在一些实施例中，通过利用计算机可读程序指令的状态信息来个性化定制电子电路，例如可编程逻辑电路、现场可编程门阵列（FPGA）或可编程逻辑阵列（PLA），该电子电路可以执行计算机可读程序指令，从而实现本申请的各个方面。
这里参照根据本申请实施例的方法、装置（系统）和计算机程序产品的流程图和/或框图描述了本申请的各个方面。应当理解，流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合，都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理单元，从而生产出一种机器，使得这些指令在通过计算机或其他可编程数据处理装置的处理单元执行时，产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中，这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作，从而，存储有指令的计算机可读介质则包括一个制造品，其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其他可编程数据处理装置、或其他设备上，使得在计算机、其他可编程数据处理装置或其他设备上执行一系列操作步骤，以产生计算机实现的过程，从而使得在计算机、其他可编程数据处理装置、或其他设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本申请的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分，所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
注意，除非另有直接说明，否则本说明书(包含任何所附权利要求、摘要和附图)中所揭示的所有特征皆可由用于达到相同、等效或类似目的的可替代特征来替换。因此，除非另有明确说明，否则所公开的每一个特征仅是一组等效或类似特征的一个示例。在使用到的情况下，进一步地、较优地、更进一步地和更优地是在前述实施例基础上进行另一实施例阐述的简单起头，该进一步地、较优地、更进一步地或更优地后带的内容与前述实施例的结合作为另一实施例的完整构成。在同一实施例后带的若干个进一步地、较优地、更进一步地或更优地设置之间可任意组合的组成又一实施例。
虽然，上文中已经用一般性说明及具体实施例对本申请作了详尽的描述，但在本申请基础上，可以对之作一些修改或改进，这对本领域技术人员而言是显而易见的。因此，在不偏离本申请精神的基础上所做的这些修改或改进，均属于本申请要求保护的范围。

Claims (8)

1.一种提高模型泛化性能的正则惩罚施加方法，其特征在于，应用于L1正则惩罚的施加，包括：
获取由参与方参与加密的第一模型系数，并参与对所述参与方的第二模型系数的加密，具体包括：
利用公式：wA = uA + vA得到加密后的所述第一模型系数，其中，wA为加密后的所述第一模型系数，uA和vA都是一条长度为本方特征维度的向量，其元素是(0,1)间的随机数，uA由所述参与方生成并加密，vA由本方生成，
生成并加密得到uB，将uB发送给所述参与方，以使所述参与方利用公式：wB = uB + vB得到加密后的所述第二模型系数，其中，uB和vB都是一条长度为所述参与方特征维度的向量，其元素是(0,1)间的随机数，vB由所述参与方生成；
将所述第一模型系数与对应的向量对位相乘，得到第一密文，将所述第一密文发送给所述参与方，以使所述参与方进行解密，并取系数符号，然后再次加密得到第三密文；
获取所述参与方发送的所述第三密文，并将第四密文发送给所述参与方，所述第四密文通过对所述参与方发送来的第二密文进行解密并取系数符号，并且再次加密后得到，其中所述第二密文为所述参与方将所述第二模型系数与对应的向量对位相乘得到；
将所述第三密文与对应的向量对位相乘，得到第一L1正则惩罚项，利用所述第一L1正则惩罚项得到第三模型系数，以利用得到的所述第三模型系数提高模型的泛化性能，从而基于发起方所拥有的客户在银行中的个人数据和所述参与方所拥有的客户在互联网上的交易数据，在互相不泄露本方数据的前提下利用模型筛选出容易发生逾期还贷的客户。
2.根据权利要求1所述的提高模型泛化性能的正则惩罚施加方法，其特征在于，
所述将所述第一模型系数与对应的向量对位相乘，包括：
生成长度为本方特征维度的、每个元素随机取1或-1的第一向量，再对位乘以一个随机产生的同样长度的正数向量，构成第二向量，将所述第一模型系数对位乘以所述第二向量；
所述将所述第三密文与对应的向量对位相乘，包括：
把所述第三密文对位乘以所述第一向量。
3.根据权利要求1所述的提高模型泛化性能的正则惩罚施加方法，其特征在于，所述利用所述第一L1正则惩罚项得到第三模型系数，包括：
利用公式：wA_new = wA - learning_rate×cipher_L1_A，得到所述第三模型系数，其中，wA表示所述第一模型系数，cipher_L1_A表示所述第一L1正则惩罚项，learning_rate表示学习率。
4.一种提高模型泛化性能的正则惩罚施加方法，其特征在于，应用于L2正则惩罚的施加，包括：
获取由参与方参与加密的第一模型系数，并参与对所述参与方的第二模型系数的加密，具体包括：
利用公式：wA = uA + vA得到加密后的所述第一模型系数，其中，wA为加密后的所述第一模型系数，uA和vA都是一条长度为本方特征维度的向量，其元素是(0,1)间的随机数，uA由所述参与方生成并加密，vA由本方生成，
生成并加密得到uB，将uB发送给所述参与方，以使所述参与方利用公式：wB = uB + vB得到加密后的所述第二模型系数，其中，uB和vB都是一条长度为所述参与方特征维度的向量，其元素是(0,1)间的随机数，vB由所述参与方生成；
将所述第一模型系数与对应的向量对位相加，得到第一密文，将所述第一密文发送给所述参与方，以使所述参与方进行解密，以消除所述第一密文的数量级，并且再次加密得到第三密文；
获取所述参与方发送的所述第三密文，并将第四密文发送给所述参与方，所述第四密文通过对所述参与方发送来的第二密文进行解密消除数量级，并且再次加密后得到，其中所述第二密文为所述参与方将所述第二模型系数与对应的向量对位相乘得到；
将所述第三密文与对应的向量对位相减，得到第一L2正则惩罚项，利用所述第一L2正则惩罚项得到第三模型系数，以利用得到的所述第三模型系数提高模型的泛化性能，从而基于发起方所拥有的客户在银行中的个人数据和所述参与方所拥有的客户在互联网上的交易数据，在互相不泄露本方数据的前提下利用模型筛选出容易发生逾期还贷的客户。
5.根据权利要求4所述的提高模型泛化性能的正则惩罚施加方法，其特征在于，
所述将所述第一模型系数与对应的向量对位相加，包括：
生成长度为本方特征维度的随机正数第一向量，将所述第一模型系数对位加所述第一向量；
所述将所述第三密文与对应的向量对位相减，包括：
将所述第三密文对位减去所述第一向量。
6.根据权利要求4所述的提高模型泛化性能的正则惩罚施加方法，其特征在于，所述利用所述第一L2正则惩罚项得到第三模型系数，包括：
利用公式：wA_new = wA - learning_rate×cipher_L2_A，得到所述第三模型系数，其中，wA表示所述第一模型系数，cipher_L2_A表示所述第一L2正则惩罚项，learning_rate表示学习率。
7.一种提高模型泛化性能的正则惩罚施加装置，其特征在于，包括：
存储器；以及
与所述存储器连接的处理器，所述处理器被配置成执行如权利要求1至6中任一项所述的方法的步骤。
8.一种计算机存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被机器执行时实现如权利要求1至6中任一项所述的方法的步骤。
CN202310604318.XA 2023-05-26 2023-05-26 提高模型泛化性能的正则惩罚施加方法、装置及存储介质 Active CN116341684B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310604318.XA CN116341684B (zh) 2023-05-26 2023-05-26 提高模型泛化性能的正则惩罚施加方法、装置及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310604318.XA CN116341684B (zh) 2023-05-26 2023-05-26 提高模型泛化性能的正则惩罚施加方法、装置及存储介质

Publications (2)

Publication Number Publication Date
CN116341684A CN116341684A (zh) 2023-06-27
CN116341684B true CN116341684B (zh) 2023-08-04

Family

ID=86884411

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310604318.XA Active CN116341684B (zh) 2023-05-26 2023-05-26 提高模型泛化性能的正则惩罚施加方法、装置及存储介质

Country Status (1)

Country Link
CN (1) CN116341684B (zh)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2001082524A1 (en) * 2000-04-20 2001-11-01 Matchett Noel D Cryptographic system for data encryption standard
CN114818011A (zh) * 2022-06-27 2022-07-29 国网智能电网研究院有限公司 一种适用碳信用评价的联邦学习方法、系统及电子设备

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108648068A (zh) * 2018-05-16 2018-10-12 长沙农村商业银行股份有限公司 一种信用风险评估方法及系统
US20200349641A1 (en) * 2019-05-03 2020-11-05 Mo Tecnologias, Llc System and method for determining credit and issuing a business loan using tokens and machine learning
CN111162896B (zh) * 2020-04-01 2020-06-26 支付宝(杭州)信息技术有限公司 双方联合进行数据处理的方法及装置
CN112418520B (zh) * 2020-11-22 2022-09-20 同济大学 一种基于联邦学习的信用卡交易风险预测方法
WO2022266609A1 (en) * 2021-06-13 2022-12-22 Artema Labs, Inc. Systems and methods for automated blockchain based recommendation generation, advertising and promotion
CN113947215A (zh) * 2021-10-26 2022-01-18 平安科技（深圳）有限公司 联邦学习管理方法、装置、计算机设备及存储介质
CN114494760A (zh) * 2021-12-09 2022-05-13 宁波职业技术学院 一种基于低秩约束局部回归的域泛化图像分类方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2001082524A1 (en) * 2000-04-20 2001-11-01 Matchett Noel D Cryptographic system for data encryption standard
CN114818011A (zh) * 2022-06-27 2022-07-29 国网智能电网研究院有限公司 一种适用碳信用评价的联邦学习方法、系统及电子设备

Also Published As

Publication number Publication date
CN116341684A (zh) 2023-06-27

Similar Documents

Publication Publication Date Title
Hubbard et al. How to measure anything in cybersecurity risk
WO2021197037A1 (zh) 双方联合进行数据处理的方法及装置
CN107704930B (zh) 基于共享数据的建模方法、装置、系统及电子设备
US11321717B2 (en) System and method for analyzing transaction nodes using visual analytics
US20230078061A1 (en) Model training method and apparatus for federated learning, device, and storage medium
CN111915023B (zh) 一种基于联邦学习的超参数确定方法及装置
CN112541593B (zh) 基于隐私保护的联合训练业务模型的方法及装置
US11907403B2 (en) Dynamic differential privacy to federated learning systems
CN111178547A (zh) 一种基于隐私数据进行模型训练的方法及系统
US10839091B2 (en) Protection of data privacy for cognitive demand forecasting
CN112200382B (zh) 一种风险预测模型的训练方法和装置
US20100091984A1 (en) Secure logical vector clocks
US20240095647A1 (en) Privacy-protecting methods and apparatuses for determining feature effective value of business data
CN113240505B (zh) 图数据的处理方法、装置、设备、存储介质及程序产品
CN111563267A (zh) 用于联邦特征工程数据处理的方法和装置
He et al. A privacy-preserving decentralized credit scoring method based on multi-party information
Śmietanka et al. Federated learning for privacy-preserving data access
CN112507372B (zh) 实现隐私保护的多方协同更新模型的方法及装置
CN116341684B (zh) 提高模型泛化性能的正则惩罚施加方法、装置及存储介质
Tseng et al. The influence of intention to use the mobile banking-the privacy mechanism perspective
Setiawan et al. The Concept of the Cryptocurrency and the Downfall of the Banking Sector in Reflecting on the Financial Market
Emmanuel et al. Forensic accounting: Breaking the nexus between financial cybercrime and terrorist financing in Nigeria
Sahnoune et al. Watch your mobile payment: an empirical study of privacy disclosure
Rao et al. Secure two-party feature selection
JPWO2017122437A1 (ja) 情報処理装置、情報処理システム、および情報処理方法、並びにプログラム

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant