CN113724092A - 基于fm和深度学习的跨特征联邦营销建模方法及装置 - Google Patents
基于fm和深度学习的跨特征联邦营销建模方法及装置 Download PDFInfo
- Publication number
- CN113724092A CN113724092A CN202110958207.XA CN202110958207A CN113724092A CN 113724092 A CN113724092 A CN 113724092A CN 202110958207 A CN202110958207 A CN 202110958207A CN 113724092 A CN113724092 A CN 113724092A
- Authority
- CN
- China
- Prior art keywords
- model
- federal
- feature
- local
- initiator
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 66
- 238000013135 deep learning Methods 0.000 title claims abstract description 9
- 239000003999 initiator Substances 0.000 claims abstract description 139
- 238000012549 training Methods 0.000 claims description 73
- 238000012545 processing Methods 0.000 claims description 11
- 230000000875 corresponding effect Effects 0.000 description 51
- 238000010586 diagram Methods 0.000 description 18
- 238000004364 calculation method Methods 0.000 description 15
- 230000008569 process Effects 0.000 description 10
- 239000011159 matrix material Substances 0.000 description 8
- 238000012417 linear regression Methods 0.000 description 6
- 210000002569 neuron Anatomy 0.000 description 5
- 230000008520 organization Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 239000013598 vector Substances 0.000 description 3
- 238000009825 accumulation Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 238000000354 decomposition reaction Methods 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 238000012512 characterization method Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000001186 cumulative effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 230000000977 initiatory effect Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
- G06Q40/08—Insurance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Business, Economics & Management (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Biomedical Technology (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Mathematical Physics (AREA)
- Biophysics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Accounting & Taxation (AREA)
- Finance (AREA)
- Development Economics (AREA)
- Economics (AREA)
- Marketing (AREA)
- Strategic Management (AREA)
- Technology Law (AREA)
- General Business, Economics & Management (AREA)
- Image Analysis (AREA)
Abstract
本公开提供一种基于FM和深度学习的跨特征联邦营销建模方法及装置,包括联邦发起方和联邦参与方基于本地的初始营销特征,获取第一特征;联邦发起方和联邦参与方根据初始营销特征和第一特征,获取第二特征;联邦发起方和联邦参与方根据第一特征和第二特征,获取本地FM模型的输出结果;联邦发起方和联邦参与方根据第二特征,获取本地深度模型的输出结果;联邦参与方根据的第二特征,获取第三特征;联邦参与方将本地FM模型的输出结果、本地深度模型的输出结果以及第三特征发送给联邦发起方;获取全局FM模型的输出结果;获取全局深度模型的输出结果;得到联邦营销模型的输出结果。本公开的方法能够不泄露各方特征数据,充分利用各方的特征数据。
Description
技术领域
本公开涉及联邦学习技术领域,尤其涉及一种基于FM和深度学习的跨特征联邦营销建模方法及装置。
背景技术
在联邦学习的实际应用场景中,不同的机构会根据其实际业务构建数据的特征信息,例如,某一电商平台和某一保险公司拥有一些相同的用户,电商平台根据其用户的注册信息、浏览信息、购买信息、评价信息等构建用户的特征信息,同样地,保险公司根据用户的注册信息、出险记录等信息,构建用户的特征信息。
若电商平台或保险公司想联邦对方提供的用户特征信息来决定向用户推销符合用户需求的商品或保险,提高用户购买商品和保险的概率,如在电商平台常常购买母婴类产品的用户购买女性和儿童类险种的概率更大,保险公司可以根据电商平台记录的该用户特征信息向其推荐该类保险,以提高销营成功率;在保险公司购买车险和意外险的用户,相比于购买其他险种的用户,对与车相关的产品感兴趣的概率更大,电商平台可以根据保险公司记录的该用户特征信息向其推荐与车相关的产品。但基于数据隐私保护的考虑,双方均不能将所拥有的原始特征数据发送给对方。
因此,如何保证分布在不同参与方的特征数据,在不泄露特征数据与标签数据的情况下,充分利用各参与方的数据特征实现联邦营销建模,是本领域技术人员目前需要解决的技术问题。
发明内容
本公开实施例提供一种基于FM和深度学习的跨特征联邦营销建模方法,能够保证分布在不同参与方的特征数据,且不泄露各方特征数据和标签数据的情况下,充分利用各方的特征数据实现联邦营销建模的目的,以至少解决相关技术中数据保密性和安全性的问题。
本公开实施例的第一方面,提供一种基于FM和深度学习的跨特征联邦营销建模方法,联邦营销模型包括本地模型和全局模型,所述本地模型包括本地稀疏模型、本地嵌入模型、本地FM模型、以及本地深度模型;所述全局模型包括全局FM模型和全局深度模型,所述方法包括:
联邦发起方和联邦参与方基于本地的初始营销特征,通过预设的本地稀疏模型,获取第一特征;
所述联邦发起方和所述联邦参与方根据所述初始营销特征和所述第一特征,通过预设的本地嵌入模型,获取第二特征;
所述联邦发起方和所述联邦参与方根据所述第一特征和所述第二特征,通过预设的本地FM模型,获取所述本地FM模型的输出结果;
所述联邦发起方和所述联邦参与方根据所述第二特征,通过预设的本地深度模型,获取所述本地深度模型的输出结果;
所述联邦发起方和所述联邦参与方根据所述的第二特征,对所述第二特征进行累和,获取第三特征;
所述联邦参与方将所述本地FM模型的输出结果、所述本地深度模型的输出结果以及所述第三特征发送给联邦发起方;
所述联邦发起方根据所述第三特征、所述联邦发起方对应的本地FM模型的输出结果以及所述联邦参与方对应的本地FM模型的输出结果,通过预设的全局FM模型,获取全局FM模型的输出结果;
所述联邦发起方根据所述联邦参与方对应的本地深度模型的输出结果、所述联邦发起方对应的本地深度模型的输出结果,通过预设的全局深度模型,获取全局深度模型的输出结果;
所述联邦发起方对所述全局FM模型的输出结果、以及所述全局深度模型的输出结果进行累和,得到所述联邦营销模型的输出结果。
在一种可选的实施方式中,
联邦发起方和联邦参与方基于本地的初始营销特征,通过预设的本地稀疏模型,获取第一特征的方法包括:
判断所述本地的初始营销特征是否有空缺值的特征,
若是,则对本地的初始营销特征进行稀疏化;
所述对本地的初始营销特征进行稀疏化的方法包括:
对所述初始营销特征的每一维数据进行稀疏化处理,
若所述初始营销特征为连续型特征,则对该特征进行分箱处理;
若所述初始营销特征为离散型特征,则对该特征进行数据编码;
其中,所述第一特征为初始营销特征的稀疏表示,其空间维度大于所述初始营销特征的空间维度。
在一种可选的实施方式中,
所述联邦发起方和所述联邦参与方根据所述初始营销特征和所述第一特征,通过预设的本地嵌入模型,获取第二特征的方法包括:
将所述初始营销特征的每一维特征对应的第一特征,输入所述本地嵌入模型对应的嵌入网络中,获取所述初始营销特征的每一维特征对应的稠密特征,
其中,所述本地嵌入模型包括多个嵌入网络,所述嵌入网络的数量与所述初始营销特征的维度相同,所述各嵌入网络的输出维度相同;
所述初始营销特征的每一维特征对应的稠密特征即为所述第二特征;
其中,所述第二特征用于指示所述第一特征的稠密表示,其空间维度小于所述第一特征的空间维度。
在一种可选的实施方式中,
所述联邦营销模型还包括本地因子分解模型,所述方法还包括:
所述联邦发起方和所述联邦参与方根据所述第一特征和所述第二特征,通过所述本地因子分解模型,分别获取一阶特征线性组合结果和二阶特征交叉组合结果,
其中,所述一阶特征线性组合结果,由所述第一特征经过所述本地因子分解模型中预设的线性组合模型得到;
所述二阶特征交叉组合结果,由所述第二特征经过所述本地因子分解模型中预设的交叉组合模型得到。
在一种可选的实施方式中,
所述多个参与方中包括一个联邦发起方,所述方法还包括:
所述联邦发起方发起跨特征联邦营销训练任务,定义训练参数,并将所述训练参数发送至除联邦发起方以外的联邦参与方;
所述联邦发起方,根据所述训练参数以及预先获取的训练数据,训练联邦发起方对应的特征嵌入模型、本地FM模型、本地深度模型;
根据联邦发起方对应的所述本地模型的输出结果以及联邦参与方发送的本地模型的输出结果,训练所述全局FM模型以及所述全局深度模型,直至各个模型达到预设训练条件;
除联邦发起方以外的联邦参与方,根据所述训练参数以及预先获取的训练数据以及联邦发起方发送来的模型更新信息,训练除联邦发起方以外的联邦参与方对应的特征嵌入模型、本地FM模型以及本地深度模型,直至各个模型达到预设训练条件。
本公开实施例的第二方面,提供一种基于FM和深度学习的跨特征联邦营销建模装置,联邦营销模型包括本地模型和全局模型,所述本地模型包括本地稀疏模型、本地嵌入模型、本地FM模型、以及本地深度模型;所述全局模型包括全局FM模型和全局深度模型,所述装置包括:
第一单元,用于联邦发起方和联邦参与方基于本地的初始营销特征,通过预设的本地稀疏模型,获取第一特征;
第二单元,用于所述联邦发起方和所述联邦参与方根据所述初始营销特征和所述第一特征,通过预设的本地嵌入模型,获取第二特征;
第三单元,用于所述联邦发起方和所述联邦参与方根据所述第一特征和所述第二特征,通过预设的本地FM模型,获取所述本地FM模型的输出结果;
第四单元,用于所述联邦发起方和所述联邦参与方根据所述第二特征,通过预设的本地深度模型,获取所述本地深度模型的输出结果;
第五单元,用于所述联邦发起方和所述联邦参与方根据所述的第二特征,对所述第二特征进行累和,获取第三特征;
第六单元,用于所述联邦参与方将所述本地FM模型的输出结果、所述本地深度模型的输出结果以及所述第三特征发送给联邦发起方;
第七单元,用于所述联邦发起方根据所述第三特征、所述联邦发起方对应的本地FM模型的输出结果以及所述联邦参与方对应的本地FM模型的输出结果,通过预设的全局FM模型,获取全局FM模型的输出结果;
第八单元,用于所述联邦发起方根据所述联邦参与方对应的本地深度模型的输出结果、所述联邦发起方对应的本地深度模型的输出结果,通过预设的全局深度模型,获取全局深度模型的输出结果;
第九单元,用于所述联邦发起方对所述全局FM模型的输出结果、以及所述全局深度模型的输出结果进行累和,得到所述联邦营销模型的输出结果。
在一种可选的实施方式中,
所述第一单元还用于:
判断所述本地的初始营销特征是否含有空缺值的特征,
若是,则对本地的初始营销特征进行稀疏化;
所述对本地的初始营销特征进行稀疏化的方法包括:
对所述初始营销特征的每一维数据进行稀疏化处理,
若所述初始营销特征为连续型特征,则对该特征进行分箱处理;
若所述初始营销特征为离散型特征,则对该特征进行数据编码;
其中,所述第一特征为初始营销特征的稀疏表示,其空间维度大于所述初始营销特征的空间维度。
在一种可选的实施方式中,
所述第二单元还用于:
将所述初始营销特征的每一维特征对应的第一特征,输入所述本地嵌入模型对应的嵌入网络中,获取所述初始营销特征的每一维特征对应的稠密特征,
其中,所述本地嵌入模型包括多个嵌入网络,所述嵌入网络的数量与所述初始营销特征的维度相同,所述各嵌入网络的输出维度相同;
所述初始营销特征的每一维特征对应的稠密特征即为所述第二特征;
其中,所述第二特征用于指示所述第一特征的稠密表示,其空间维度小于所述第一特征的空间维度。
在一种可选的实施方式中,
所述第三单元还用于:
所述联邦发起方和所述联邦参与方根据所述第一特征和所述第二特征,通过所述本地因子分解模型,分别获取一阶特征线性组合结果和二阶特征交叉组合结果,
其中,所述一阶特征线性组合结果,由所述第一特征经过所述本地因子分解模型中预设的线性组合模型得到;
所述二阶特征交叉组合结果,由所述第二特征经过所述本地因子分解模型中预设的交叉组合模型得到。
在一种可选的实施方式中,
所述多个参与方中包括一个联邦发起方,所述装置还包括第十单元,所述第十单元用于:
所述联邦发起方发起跨特征联邦营销训练任务,定义训练参数,并将所述训练参数发送至除联邦发起方以外的联邦参与方;
所述联邦发起方,根据所述训练参数以及预先获取的训练数据,训练联邦发起方对应的特征嵌入模型、本地FM模型、本地深度模型;
根据联邦发起方对应的所述本地模型的输出结果以及联邦参与方发送的本地模型的输出结果,训练所述全局FM模型以及所述全局深度模型,直至各个模型达到预设训练条件;
除联邦发起方以外的联邦参与方,根据所述训练参数以及预先获取的训练数据以及联邦发起方发送来的模型更新信息,训练除联邦发起方以外的联邦参与方对应的特征嵌入模型、本地FM模型以及本地深度模型,直至各个模型达到预设训练条件。
本公开的跨特征联邦营销方法,包括:
联邦发起方和联邦参与方基于本地的初始营销特征,通过预设的本地稀疏模型,获取第一特征;
营销场景中,特征数据的空间维度往往是稀疏的,通过将初始营销特征进行稀疏化,能够保证输入模型的初始营销特征的空间维度满足计算要求;通过特征表示模型获取空间维度大于初始营销特征空间维度的第一特征,能够获取不同特征向量之间的相关性。
所述联邦发起方和所述联邦参与方根据所述初始营销特征和所述第一特征,通过预设的本地嵌入模型,获取第二特征;
通过本地嵌入模型获取第二特征,有利于降低求解特征对应矩阵的复杂度,并且能够提高模型的泛化能力。此外,不需要将任一方的原始特征数据和标签数据直接或间接地传输给任何组织或机构,能够充分保护各方数据的隐私或满足相关监督要求。
所述联邦发起方和所述联邦参与方根据所述第一特征和所述第二特征,通过预设的本地FM模型,获取所述本地FM模型的输出结果;
所述联邦发起方和所述联邦参与方根据所述第二特征,通过预设的本地深度模型,获取所述本地深度模型的输出结果;
所述联邦发起方和所述联邦参与方根据所述的第二特征,对所述第二特征进行累和,获取第三特征;
通过获取第三特征,能够弥补了本地FM模型无法计算高阶特征组合的缺点。此外,各参与方之间传输的内容均不会泄露原始特征数据或标签数据,从而也无须对原始特征数据或传输内容进行加密或解密,所有计算均在本方数据的明文空间进行,计算简单快速。
所述联邦参与方将所述本地FM模型的输出结果、所述本地深度模型的输出结果以及所述第三特征发送给联邦发起方;
所述联邦发起方根据所述第三特征、所述联邦发起方对应的本地FM模型的输出结果以及所述联邦参与方对应的本地FM模型的输出结果,通过预设的全局FM模型,获取全局FM模型的输出结果;
全局深度模型首先对各参与方的本地深度模型的输出进行求和,得到全局深度模型的输入,从而利用全局深度模型提取所有参与方的特征之间的高阶组合,不需要将所有的特征数据进行集中化存储,且各参与方的计算均在本地进行,存储资源和计算资源的要求低于集中化的联合建模。
所述联邦发起方根据所述联邦参与方对应的本地深度模型的输出结果、所述联邦发起方对应的本地深度模型的输出结果,通过预设的全局深度模型,获取全局深度模型的输出结果;
所述联邦发起方对所述全局FM模型的输出结果、以及所述全局深度模型的输出结果进行累和,得到所述联邦营销模型的输出结果。
通过联邦营销模型所获取的联邦营销结果,能够保证分布在不同参与方的特征数据,且不泄露各方特征数据和标签数据的情况下,充分利用各方的特征数据,实现产品准确推荐。
附图说明
图1为本公开实施例提供的一种跨特征联邦营销方法的流程示意图;
图2为本公开实施例提供的一种跨特征联邦营销方法的逻辑示意图;
图3为本公开实施例提供的一种除发起方以外的参与方训练的模型;
图4为本公开实施例提供的一种稀疏模型对特征进行稀疏处理的示意图;
图5为本公开实施例提供的一种嵌入模型对特征进行稠密处理的示意图;
图6为本公开实施例提供的一种本地FM模型的示意图;
图7为本公开实施例提供的一种本地深度模型的示意图;
图8为本公开实施例提供的一种本地求和模型求解稠密特征累和的示意图;
图9为本公开实施例提供的一种全局FM模型的示意图;
图10为本公开实施例提供的一种全局深度模型的示意图;
图11为本公开实施例提供的一种跨特征联邦营销装置的结构示意图。
具体实施方式
为使本公开实施例的目的、技术方案和优点更加清楚,下面将结合本公开实施例中的附图,对本公开实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本公开一部分实施例,而不是全部的实施例。基于本公开中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本公开保护的范围。
本公开的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本公开的实施例能够以除了在这里图示或描述的那些以外的顺序实施。
应当理解,在本公开的各种实施例中,各过程的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本公开实施例的实施过程构成任何限定。
应当理解,在本公开中,“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
应当理解,在本公开中,“多个”是指两个或两个以上。“和/或”仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。“包含A、B和C”、“包含A、B、C”是指A、B、C 三者都包含,“包含A、B或C”是指包含A、B、C三者之一,“包含A、B和/ 或C”是指包含A、B、C三者中任1个或任2个或3个。
应当理解,在本公开中,“与A对应的B”、“与A相对应的B”、“A与B 相对应”或者“B与A相对应”,表示B与A相关联,根据A可以确定B。根据A 确定B并不意味着仅仅根据A确定B,还可以根据A和/或其他信息确定B。A 与B的匹配,是A与B的相似度大于或等于预设的阈值。
取决于语境,如在此所使用的“若”可以被解释成为“在……时”或“当……时”或“响应于确定”或“响应于检测”。
下面以具体地实施例对本公开的技术方案进行详细说明。下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例不再赘述。
图1示例性地示出本公开实施例提供的一种跨特征联邦营销方法的流程示意图,如图1所示,所述方法包括:
步骤S101、联邦发起方和联邦参与方基于本地的初始营销特征,通过预设的本地稀疏模型,获取第一特征;
示例性地,所述第一特征为初始营销特征的稀疏表示,第一特征的空间维度大于所述初始营销特征的空间维度。
在一种可选的实施方式中,
联邦发起方和联邦参与方基于本地的初始营销特征,通过预设的本地稀疏模型,获取第一特征的方法包括:
判断所述本地的初始营销特征是否含有空缺值的特征,
若是,则对本地的初始营销特征进行稀疏化;
所述对本地的初始营销特征进行稀疏化的方法包括:
对所述初始营销特征的每一维数据进行稀疏化处理,
若所述初始营销特征为连续型特征,则对该特征进行分箱处理;
若所述初始营销特征为离散型特征,则对该特征进行数据编码。
营销场景中,特征数据往往是稀疏的;通过本地稀疏模型能够获取空间维度大于初始营销特征空间维度的第一特征。
步骤S102、所述联邦发起方和所述联邦参与方根据所述初始营销特征和所述第一特征,通过预设的本地嵌入模型,获取第二特征;
示例性地,所述第二特征用于指示所述第一特征的稠密表示,其空间维度小于所述第一特征的空间维度。
实际应用中,不同参与方可能需要联邦其他参与方的用户特征信息实现特定目的,例如向用户推销特定的商品,但由于数据隐私保护双方均不能将所拥有的原始特征数据发送给对方,而跨特征联邦营销则可以在不泄露各方特征数据的情况下,充分利用各参与方的特征实现联邦营销。
可以理解的是,在营销场景下,特征之间往往是互相关联、互相制约的,例如电商平台中的商品类别的“连衣裙”与用户性别的“女性”关联性较高、视频网络系统中的视频内容类别的“动漫”类视频与用户年龄特征中的“青年”关联性较高。而现有的线性回归模型则无法体现特征之间的关联和制约关系,具体地,可以如下公式所示:
其中,y表示线性回归模型的输出,w0和wi表示模型参数,xi表示线性回归模型的输入,也即输入特征,n表示输入特征的数量。
由上公式可知,输入特征与模型输出为线性关系,并且输入特征之间是互相独立的,无法解决营销场景中特征可能是互相关联、互相制约的问题。
通过在线性回归模型中引入特征的组合,例如特征两两之间的依赖关系,能够有效解决上述问题,具体地,可以如下公式(2)所示:
其中,y表示模型输出,w0表示模型参数,n表示输入特征的数量,wi表示一阶特征交叉项的模型参数,xi表示第i个输入特征,wij表示二阶特征交叉项的模型参数,xj表示第j个输入特征。当特征空间规模较大时,上式(2)中参数 wij的估计值变得相当不准确,如n为1000时,需要求解个二阶特征交叉项的参数,即有499500个wij,需要大量的非零样本进行求解。
因此,FM引入矩阵分解的思路,对于任意对称正定的实矩阵W∈Rn*n,均存在实矩阵V∈Rn*k,使得W=VTV,来解决上述高维度数据的二阶特征组合参数wij求解问题。
上式(2)中所有二次项的参数wij可以组成一个对称阵根据矩阵分解的思想,参数矩阵W可分解为即式(2)中参数 这就是本地FM模型的核心思想,因此式(2)的二阶特征交叉项可作如下转换,得到如下公式(3):
求解参数矩阵W的复杂度由原来的O(n2)变成O(kn),在高度稀疏的场景下,由于没有足够的样本来估计交叉参数矩阵,因此k通常取值较小,这样在一定程度上也提高了模型的泛化能力。
由上公示可知,FM模型的表达能力强于线性回归模型,当二阶特征交叉项的参数wij全为0时才会退化成线性回归模型。
当特征分布在不同参与方时,且借鉴上述FM的思路,本发明利用分布在不同的参与方进行FM模型训练时,将FM模型拆解为本地FM模型和全局FM 模型,以满足FM模型训练时不泄露所述各参与方的原始特征数据和标签数据。
示例性地,
当n个特征分布在个不同的P个参与方时,联合式(2)和(3),式(2)可转化成公式(4):
首先,本发明利用本地嵌入模型来求解上述式(4)中的所有参数vil,若有 n维特征,则本地嵌入模型包括n个嵌入网络,每个网络负责训练k个参数,如第i个网络负责训练vi1、vi2...vik k个参数,输出为vi1xi、vi2xi...vikxi。在一种可选的实施方式中,
所述联邦发起方和所述联邦参与方根据所述初始营销特征和所述第一特征,通过预设的本地嵌入模型,获取第二特征的方法包括:
将所述初始营销特征的每一维特征对应的第一特征,输入所述本地嵌入模型对应的嵌入网络中,获取所述初始营销特征的每一维特征对应的稠密特征,
其中,所述本地嵌入模型包括多个嵌入网络,所述嵌入网络的数量与所述初始营销特征的维度相同,所述各嵌入网络的输出维度相同;
所述初始营销特征的每一维特征对应的稠密特征即为所述第二特征。
通过本地嵌入模型获取第二特征,有利于降低求解式(2)中参数矩阵W的复杂度,并且能够提高模型的泛化能力。同样地,各参与方第二特征的获取即本地嵌入模型的训练均在各参与方本地进行,训练过程中不会泄露所述各参与方的原始特征数据和标签数据。
步骤S103、所述联邦发起方和所述联邦参与方根据所述第一特征和所述第二特征,通过预设的本地FM模型,获取所述本地FM模型的输出结果;
同样地,各参与方本地FM模型均在各参与方本地进行,不会泄露所述各参与方的原始特征数据和标签数据。
步骤S104、所述联邦发起方和所述联邦参与方根据所述第二特征,通过预设的本地深度模型,获取所述本地深度模型的输出结果;
由于实际计算复杂度的原因,本地FM模型只计算了二阶特征组合,没有考虑到高阶特征组合(二阶以上),本地深度模型能够获取本地特征的高阶组合的相关性。同样地,各参与方本地深度模型均在各参与方本地进行训练,不会泄露所述各参与方的原始特征数据和标签数据。
在一种可选的实施方式中,所述联邦营销模型还包括本地因子分解模型,所述方法还包括:
所述联邦发起方和所述联邦参与方根据所述第一特征和所述第二特征,通过所述本地因子分解模型,分别获取一阶特征线性组合结果和二阶特征交叉组合结果,
其中,所述一阶特征线性组合结果,由所述第一特征经过所述本地因子分解模型中预设的线性组合模型得到;
所述二阶特征交叉组合结果,由所述第二特征经过所述本地因子分解模型中预设的交叉组合模型得到。步骤S105、所述联邦发起方和所述联邦参与方根据所述第二特征,对所述第二特征进行累和,获取第三特征;
通过将第三特征发送给联邦发起方,以便进行全局FM的计算。此外,各参与方之间传输的内容为稠密特征的累和,不会泄露原始特征数据或标签数据,从而也无须对原始特征数据或传输内容进行加密或解密,所有计算均在本方数据的明文空间进行,计算简单快速。
步骤S106、所述联邦参与方将所述本地FM模型的输出结果、所述本地深度模型的输出结果以及所述第三特征发送给联邦发起方;
示例性地,
当n个特征分布在个不同的P个参与方时,根据式(4):
其中,如参与方p将以及本地求解的式(5)yp的结果、参与方m将以及本地计算式(5)的结果ym等送给联邦发起方。此外,各参与方之间传输的内容均不会泄露原始特征数据或标签数据,从而也无须对原始特征数据或传输内容进行加密或解密,所有计算均在本方数据的明文空间进行,计算简单快速。
步骤S107、所述联邦发起方根据所述第三特征、所述联邦发起方对应的本地FM模型的输出结果以及所述联邦参与方对应的本地FM模型的输出结果,通过预设的全局FM模型,获取全局FM模型的输出结果;
示例性地,
当n个特征分布在个不同的P个参与方时,根据式(4):
全局FM模型的输出结果即式(4)中的y。
步骤S108、所述联邦发起方根据所述联邦参与方对应的本地深度模型的输出结果、所述联邦发起方对应的本地深度模型的输出结果,通过预设的全局深度模型,获取全局深度模型的输出结果;
全局深度模型首先对各参与方的本地深度模型的输出进行求和,得到全局深度模型的输入,从而利用全局深度模型提取所有参与方的特征之间的高阶组合,不需要将所有的特征数据进行集中化存储,且各参与方的计算均在本地进行,存储资源和计算资源的要求低于集中化的联合建模。
步骤S109、所述联邦发起方对所述全局FM模型的输出结果、以及所述全局深度模型的输出结果进行累和,得到所述联邦营销模型的输出结果。
通过联邦营销模型所获取的联邦营销结果,能够实现特征数据分布在不同参与方,且不泄露各方特征数据的情况下,充分利用各方的特征数据,实现产品准确推荐。图2示例性地示出本公开实施例提供的一种跨特征联邦营销方法的逻辑示意图,如图2所示,所述方法所包括的模型如下表1所示:
表1跨特征联邦营销方法的模型
模型序号 | 模型名称 | 是否有参数需要训练 |
1 | 本地稀疏模型 | 否,特征变换模型 |
2 | 本地嵌入模型 | 是,多个本地嵌入网络参数 |
3 | 本地求和模型 | 否,计算模型 |
4 | 本地FM模型 | 是,本地特征线性给合参数 |
5 | 本地深度模型 | 是,本地深度网络参数 |
6 | 全局FM模型 | 否,计算模型 |
7 | 全局深度模型 | 是,全局深度网络参数 |
8 | 联邦营销模型 | 否,计算模型 |
需要说明的是:
参与方:所有加入联邦营销系统中的特征数据提供方;
发起方:发起方是参与方中的一个,一次联邦过程中有且仅有一个发起方,由发起方定义营销任务需求,发起联邦营销建模请求,即发起方拥有此次联邦营销任务的训练数据标签;
上述系统各模型对应的输入、输出以及对应功能如下表2所示:
表2:跨特征联邦营销方法的模型的输入、输出以及功能
在一种可选的实施方式中,
所述多个参与方中包括一个联邦发起方,所述方法还包括:
所述联邦发起方发起跨特征联邦营销训练任务,定义训练参数,并将所述训练参数发送至除联邦发起方以外的联邦参与方;
所述联邦发起方,根据所述训练参数以及预先获取的训练数据,训练联邦发起方对应的本地嵌入模型、本地FM模型、本地深度模型;
根据联邦发起方对应的所述本地模型的输出结果以及联邦参与方发送的本地模型的输出结果,训练所述全局FM模型以及所述全局深度模型,直至各个模型达到预设训练条件;
除联邦发起方以外的联邦参与方,根据所述训练参数以及预先获取的训练数据以及联邦发起方发送来的模型更新信息,训练除联邦发起方以外的联邦参与方对应的本地嵌入模型、本地FM模型以及本地深度模型,直至各个模型达到预设训练条件。
示例性地,训练具体步骤如下:
步骤S201、发起方发起联邦营销任务,定义建模参数,如训练轮数,学习率,特征隐向量维度、LOSS计算准则等,并将联邦建模参数发送给其他参与方:
步骤S202、所有参与方(包括发起方)根据步骤S201中参数以及本方数据,定义需要训练的模型的网络结构以及对相应网络参数进行初始化。
其中,发起方的结构由图2中的模型组成,即需要定义的网络结构包括本地嵌入模型中的嵌入网络、本地FM模型的线性网络、本地和全局深度网络;
其他参与方的结构由图3所示模型组成,图3示例性地示出本公开实施例提供的一种除发起方以外的参与方训练的模型,即需要定义的网络结构包括本地嵌入模型中的嵌入网络、本地FM模型的线性网络以及本地深度网络;
步骤S203、所有参与方(包括发起方)根据各方训练数据进行联邦营销模型迭代训练,更新本地的各模型中的网络参数,当所有参与方达到训练结束条件时,训练结束,所有参与方得到跨特征联邦营销的本地模型。
其中,步骤S203中跨特征联邦营销模型迭代训练的训练流程如下:
步骤S2031、参与方(包括发起方)特征稀疏处理:将本地一个batch size的样本原始特征输入本地稀疏模型,得到本地稀疏特征;若本地原始特征已经是稀疏特征,则跳过此步骤;
图4示例性地示出本公开实施例提供的一种稀疏模型对特征进行稀疏处理的示意图,如图4所示,若参与方有n列原始特征[f1 ... fn],经过本地稀疏模型后,可以得到每一列对应的稀疏特征[s1_1 ... s1_m1]...[sn_1 ... sn_mn],其中,mi为第i列特征fi对应的稀疏特征维度。
步骤S2032、参与方(包括发起方)特征嵌入处理:将本地稀疏特征输入不同的嵌入网络,输出对应的稠密特征,
图5示例性地示出本公开实施例提供的一种嵌入模型对特征进行稠密处理的示意图,如图5所示,其中,嵌入模型可以训练式(4)中的参数vil;
示例性地,本地稀疏特征[s1_1 ... s1_m1]...[sn_1 ... sn_mn]经过嵌入模型中的n个嵌入网络,可以输出本地稠密特征 [d1_1 ... d1_k]...[dn_1 ... dn_k],其中稀疏特征[s1_1 ... s1_m1]对应的稠密特征为[d1_1 ... d1_k],其中k为发起方定义的隐向量维度。
步骤S2033、参与方(包括发起方)本地FM:将本地稀疏特征和稠密特征输入本地FM模型,图6示例性地示出本公开实施例提供的一种本地FM模型的示意图,如图6所示,
其中,本地FM模型可以包括线性组合模块和求积模块,
步骤S2034、参与方(包括发起方)本地深度模型:将本地稠密特征输入本地深度网络,图7示例性地示出本公开实施例提供的一种本地深度模型的示意图,如图7所示,
其中,所有本地深度模型中的输出层神经元个数可以与全局深度模型的输入层神经元个数相同,以便后续更新各参与方的本地模型参数;如图7所示,其中,圆圈代表本地深度模型中的神经元,最后一层神经元个数为j个,即对应 j个输出;
步骤S2035、参与方稠密特征累和:将本地稠密特征输入本地求和模型,输出累和后的稠密特征,
图8示例性地示出本公开实施例提供的一种本地求和模型求解稠密特征累和的示意图,如图8所示,[d1_1 ... d1_k]...[dn_1 ... dn_k]经过嵌入求和模型后得到[sum1 ...sumk],其中为sum1为[d1_1 d2_1 ... dn_1]的累和;
步骤S2036、全局FM模型:全局FM模型包含求和模块和求积模块,图9 示例性地示出本公开实施例全局FM模型的示意图,如图9所示,
如图9所示,其中[sump1 ... sumpk]为参与方p对应的稠密特征累和;
步骤S2037、发起方全局深度模型:将所有参与方的本地深度模型的输出结果输入到全局深度模型中,图10示例性地示出本公开实施例提供的一种全局深度模型的示意图,如图10所示,对本地输出结果进行对应位置累和,得到全局深度模型的输入;如图10所示,其中,圆圈为全局深度模型的神经元;
步骤S2038、发起方全局输出:对全局FM模型和全局深度模型的输出进行求和,得到跨特征联邦模型输出;
步骤S2039、发起方更新本地模型参数:根据模型输出与对应训练数据的标签以及loss计算函数,求得本次迭代训练损失;发起方根据训练损失更新对应本地模型和全局模型中所有模型的网络参数;
将其他参与方中的本地FM模型、本地深度模型、本地嵌入模型中相应梯度发送给对应参与方;
步骤S20310、参与方:根据发起方发送来的梯度更新本地深度模型、本地 FM模型的线性组合网络、本地嵌入模型中的模型参数;重复上述步骤S203,迭代训练从而得到训练好的联邦营销模型。
本公开实施例以具体的示例进行说明:
假设机构A、B、C均有共同的用户样本100000个,现A方拥有其中10000 个用户对某一产品的购买记录,现想联邦B、C的特征训练一个联邦营销模型,利用该模型来决定向剩下的90000个用户中的哪些用户推销该产品,从而缩减营销成本,即将10000个样本作为训练数据,90000用户为预测数据。
其中A方拥有这100000个样本的5维特征,机构B拥有这100000个样本的其他5维特征,机构C拥有这100000个样本的另10维特征,三机构的特征数据分布如表3所示。
表3机构A、B、C特征数据
Claims (10)
1.一种基于FM和深度学习的跨特征联邦营销建模方法,其特征在于,联邦营销模型包括本地模型和全局模型,所述本地模型包括本地稀疏模型、本地嵌入模型、本地FM模型、以及本地深度模型;所述全局模型包括全局FM模型和全局深度模型,所述方法包括:
联邦发起方和联邦参与方基于本地的初始营销特征,通过预设的本地稀疏模型,获取第一特征;
所述联邦发起方和所述联邦参与方根据所述初始营销特征和所述第一特征,通过预设的本地嵌入模型,获取第二特征;
所述联邦发起方和所述联邦参与方根据所述第一特征和所述第二特征,通过预设的本地FM模型,获取所述本地FM模型的输出结果;
所述联邦发起方和所述联邦参与方根据所述第二特征,通过预设的本地深度模型,获取所述本地深度模型的输出结果;
所述联邦发起方和所述联邦参与方根据所述的第二特征,对所述第二特征进行累和,获取第三特征;
所述联邦参与方将所述本地FM模型的输出结果、所述本地深度模型的输出结果以及所述第三特征发送给联邦发起方;
所述联邦发起方根据所述第三特征、所述联邦发起方对应的本地FM模型的输出结果以及所述联邦参与方对应的本地FM模型的输出结果,通过预设的全局FM模型,获取全局FM模型的输出结果;
所述联邦发起方根据所述联邦参与方对应的本地深度模型的输出结果、所述联邦发起方对应的本地深度模型的输出结果,通过预设的全局深度模型,获取全局深度模型的输出结果;
所述联邦发起方对所述全局FM模型的输出结果、以及所述全局深度模型的输出结果进行累和,得到所述联邦营销模型的输出结果。
2.根据权利要求1所述的方法,其特征在于,联邦发起方和联邦参与方基于本地的初始营销特征,通过预设的本地稀疏模型,获取第一特征的方法包括:
判断所述本地的初始营销特征是否有空缺值的特征,
若是,则对本地的初始营销特征进行稀疏化;
所述对本地的初始营销特征进行稀疏化的方法包括:
对所述初始营销特征的每一维数据进行稀疏化处理,
若所述初始营销特征为连续型特征,则对该特征进行分箱处理;
若所述初始营销特征为离散型特征,则对该特征进行数据编码;
其中,所述第一特征为初始营销特征的稀疏表示,其空间维度大于所述初始营销特征的空间维度。
3.根据权利要求1所述的方法,其特征在于,所述联邦发起方和所述联邦参与方根据所述初始营销特征和所述第一特征,通过预设的本地嵌入模型,获取第二特征的方法包括:
将所述初始营销特征的每一维特征对应的第一特征,输入所述本地嵌入模型对应的嵌入网络中,获取所述初始营销特征的每一维特征对应的稠密特征,
其中,所述本地嵌入模型包括多个嵌入网络,所述嵌入网络的数量与所述初始营销特征的维度相同,所述各嵌入网络的输出维度相同;
所述初始营销特征的每一维特征对应的稠密特征即为所述第二特征;
其中,所述第二特征用于指示所述第一特征的稠密表示,其空间维度小于所述第一特征的空间维度。
4.根据权利要求1所述的方法,其特征在于,所述联邦营销模型还包括本地因子分解模型,所述方法还包括:
所述联邦发起方和所述联邦参与方根据所述第一特征和所述第二特征,通过所述本地因子分解模型,分别获取一阶特征线性组合结果和二阶特征交叉组合结果,
其中,所述一阶特征线性组合结果,由所述第一特征经过所述本地因子分解模型中预设的线性组合模型得到;
所述二阶特征交叉组合结果,由所述第二特征经过所述本地因子分解模型中预设的交叉组合模型得到。
5.根据权利要求1至4中任一项所述的方法,其特征在于,所述多个参与方中包括一个联邦发起方,所述方法还包括:
所述联邦发起方发起跨特征联邦营销训练任务,定义训练参数,并将所述训练参数发送至除联邦发起方以外的联邦参与方;
所述联邦发起方,根据所述训练参数以及预先获取的训练数据,训练联邦发起方对应的特征嵌入模型、本地FM模型、本地深度模型;
根据联邦发起方对应的所述本地模型的输出结果以及联邦参与方发送的本地模型的输出结果,训练所述全局FM模型以及所述全局深度模型,直至各个模型达到预设训练条件;
除联邦发起方以外的联邦参与方,根据所述训练参数以及预先获取的训练数据以及联邦发起方发送来的模型更新信息,训练除联邦发起方以外的联邦参与方对应的特征嵌入模型、本地FM模型以及本地深度模型,直至各个模型达到预设训练条件。
6.一种基于FM和深度学习的跨特征联邦营销建模装置,其特征在于,联邦营销模型包括本地模型和全局模型,所述本地模型包括本地稀疏模型、本地嵌入模型、本地FM模型、以及本地深度模型;所述全局模型包括全局FM模型和全局深度模型,所述装置包括:
第一单元,用于联邦发起方和联邦参与方基于本地的初始营销特征,通过预设的本地稀疏模型,获取第一特征;
第二单元,用于所述联邦发起方和所述联邦参与方根据所述初始营销特征和所述第一特征,通过预设的本地嵌入模型,获取第二特征;
第三单元,用于所述联邦发起方和所述联邦参与方根据所述第一特征和所述第二特征,通过预设的本地FM模型,获取所述本地FM模型的输出结果;
第四单元,用于所述联邦发起方和所述联邦参与方根据所述第二特征,通过预设的本地深度模型,获取所述本地深度模型的输出结果;
第五单元,用于所述联邦发起方和所述联邦参与方根据所述的第二特征,对所述第二特征进行累和,获取第三特征;
第六单元,用于所述联邦参与方将所述本地FM模型的输出结果、所述本地深度模型的输出结果以及所述第三特征发送给联邦发起方;
第七单元,用于所述联邦发起方根据所述第三特征、所述联邦发起方对应的本地FM模型的输出结果以及所述联邦参与方对应的本地FM模型的输出结果,通过预设的全局FM模型,获取全局FM模型的输出结果;
第八单元,用于所述联邦发起方根据所述联邦参与方对应的本地深度模型的输出结果、所述联邦发起方对应的本地深度模型的输出结果,通过预设的全局深度模型,获取全局深度模型的输出结果;
第九单元,用于所述联邦发起方对所述全局FM模型的输出结果、以及所述全局深度模型的输出结果进行累和,得到所述联邦营销模型的输出结果。
7.根据权利要求6所述的装置,其特征在于,所述第一单元还用于:
判断所述本地的初始营销特征是否有空缺值的特征,
若是,则对本地的初始营销特征进行稀疏化;
所述对本地的初始营销特征进行稀疏化的方法包括:
对所述初始营销特征的每一维数据进行稀疏化处理,
若所述初始营销特征为连续型特征,则对该特征进行分箱处理;
若所述初始营销特征为离散型特征,则对该特征进行数据编码;
其中,所述第一特征为初始营销特征的稀疏表示,其空间维度大于所述初始营销特征的空间维度。
8.根据权利要求6所述的装置,其特征在于,所述第二单元还用于:
将所述初始营销特征的每一维特征对应的第一特征,输入所述本地嵌入模型对应的嵌入网络中,获取所述初始营销特征的每一维特征对应的稠密特征,
其中,所述本地嵌入模型包括多个嵌入网络,所述嵌入网络的数量与所述初始营销特征的维度相同,所述各嵌入网络的输出维度相同;
所述初始营销特征的每一维特征对应的稠密特征即为所述第二特征;
其中,所述第二特征用于指示所述第一特征的稠密表示,其空间维度小于所述第一特征的空间维度。
9.根据权利要求6所述的装置,其特征在于,所述第三单元还用于:
所述联邦发起方和所述联邦参与方根据所述第一特征和所述第二特征,通过所述本地因子分解模型,分别获取一阶特征线性组合结果和二阶特征交叉组合结果,
其中,所述一阶特征线性组合结果,由所述第一特征经过所述本地因子分解模型中预设的线性组合模型得到;
所述二阶特征交叉组合结果,由所述第二特征经过所述本地因子分解模型中预设的交叉组合模型得到。
10.根据权利要求6至9中任一项所述的装置,其特征在于,所述多个参与方中包括一个联邦发起方,所述装置还包括第十单元,所述第十单元用于:
所述联邦发起方发起跨特征联邦营销训练任务,定义训练参数,并将所述训练参数发送至除联邦发起方以外的联邦参与方;
所述联邦发起方,根据所述训练参数以及预先获取的训练数据,训练联邦发起方对应的特征嵌入模型、本地FM模型、本地深度模型;
根据联邦发起方对应的所述本地模型的输出结果以及联邦参与方发送的本地模型的输出结果,训练所述全局FM模型以及所述全局深度模型,直至各个模型达到预设训练条件;
除联邦发起方以外的联邦参与方,根据所述训练参数以及预先获取的训练数据以及联邦发起方发送来的模型更新信息,训练除联邦发起方以外的联邦参与方对应的特征嵌入模型、本地FM模型以及本地深度模型,直至各个模型达到预设训练条件。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110958207.XA CN113724092B (zh) | 2021-08-20 | 2021-08-20 | 基于fm和深度学习的跨特征联邦营销建模方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110958207.XA CN113724092B (zh) | 2021-08-20 | 2021-08-20 | 基于fm和深度学习的跨特征联邦营销建模方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113724092A true CN113724092A (zh) | 2021-11-30 |
CN113724092B CN113724092B (zh) | 2024-06-07 |
Family
ID=78677002
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110958207.XA Active CN113724092B (zh) | 2021-08-20 | 2021-08-20 | 基于fm和深度学习的跨特征联邦营销建模方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113724092B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114399341A (zh) * | 2022-01-19 | 2022-04-26 | 青岛海华信电子信息技术有限公司 | 一种基于金融网点生态联盟营销的建模方法及系统 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018212711A1 (en) * | 2017-05-19 | 2018-11-22 | National University Of Singapore | Predictive analysis methods and systems |
CN109902222A (zh) * | 2018-11-30 | 2019-06-18 | 华为技术有限公司 | 一种推荐方法及装置 |
CN110175857A (zh) * | 2019-03-25 | 2019-08-27 | 阿里巴巴集团控股有限公司 | 优选业务确定方法及装置 |
CN111177249A (zh) * | 2019-12-10 | 2020-05-19 | 浙江大学 | 一种基于联邦学习思想的多数据源数据可视化方法和装置 |
CN111738440A (zh) * | 2020-07-31 | 2020-10-02 | 支付宝(杭州)信息技术有限公司 | 一种基于领域自适应与联邦学习的模型训练方法及系统 |
CN112966307A (zh) * | 2021-04-20 | 2021-06-15 | 钟爱健康科技(广东)有限公司 | 一种基于联邦学习张量因子分解的医疗隐私数据保护方法 |
-
2021
- 2021-08-20 CN CN202110958207.XA patent/CN113724092B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018212711A1 (en) * | 2017-05-19 | 2018-11-22 | National University Of Singapore | Predictive analysis methods and systems |
CN109902222A (zh) * | 2018-11-30 | 2019-06-18 | 华为技术有限公司 | 一种推荐方法及装置 |
CN110175857A (zh) * | 2019-03-25 | 2019-08-27 | 阿里巴巴集团控股有限公司 | 优选业务确定方法及装置 |
CN111177249A (zh) * | 2019-12-10 | 2020-05-19 | 浙江大学 | 一种基于联邦学习思想的多数据源数据可视化方法和装置 |
CN111738440A (zh) * | 2020-07-31 | 2020-10-02 | 支付宝(杭州)信息技术有限公司 | 一种基于领域自适应与联邦学习的模型训练方法及系统 |
CN112966307A (zh) * | 2021-04-20 | 2021-06-15 | 钟爱健康科技(广东)有限公司 | 一种基于联邦学习张量因子分解的医疗隐私数据保护方法 |
Non-Patent Citations (1)
Title |
---|
CHENJIA YU,等: "FedDeepFM: Ad CTR prediction based on Federated Factorization Machine", 2021 IEEE SIXTH INTERNATIONAL CONFERENCE ON DATA SCIENCE IN CYBERSPACE (DSC), pages 195 - 202 * |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114399341A (zh) * | 2022-01-19 | 2022-04-26 | 青岛海华信电子信息技术有限公司 | 一种基于金融网点生态联盟营销的建模方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN113724092B (zh) | 2024-06-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Anaya-Sánchez et al. | Trust and loyalty in online brand communities | |
Flynn et al. | Best-worst scaling: theory and methods | |
Zulqarnain et al. | Extension of TOPSIS method under intuitionistic fuzzy hypersoft environment based on correlation coefficient and aggregation operators to solve decision making problem | |
Shabrin et al. | Factors affecting smartphone purchase decisions of generation-Y | |
CN113689003B (zh) | 一种安全的去除第三方的混合联邦学习框架及方法 | |
Lkhaasuren et al. | The effect of electronic word of mouth (eWOM) on purchase intention on Korean cosmetic products in the Mongolian market | |
Zhang et al. | Practical multi-party private collaborative k-means clustering | |
Haron et al. | Online opinion leaders and their influence on purchase intentions | |
Do et al. | Online shopping in an emerging market: the critical factors affecting customer purchase intention in Vietnam | |
Saparudin et al. | Consumers' continuance intention Use of mobile banking in Jakarta: extending UTAUT models with trust | |
Nguyen et al. | Distribution information safety and factors affecting the intention to use digital banking in Vietnam | |
JP6694319B2 (ja) | 情報処理装置 | |
Migdał-Najman et al. | The GNG neural network in analyzing consumer behaviour patterns: empirical research on a purchasing behaviour processes realized by the elderly consumers | |
CN113724092B (zh) | 基于fm和深度学习的跨特征联邦营销建模方法及装置 | |
CN111782927A (zh) | 物品推荐方法及其装置、计算机可存储介质 | |
CN114372871A (zh) | 信用评分值的确定方法及其装置、电子设备及存储介质 | |
Casiraghi | Multiplex Network Regression: How do relations drive interactions? | |
Stanujkic et al. | Multiple criteria evaluation model based on the single valued neutrosophic set | |
CN104063445B (zh) | 一种相似性度量的方法以及系统 | |
Ho | Motivation impulses customers' online shopping intention via cashback and rewards mobile applications | |
Khosasih et al. | Evaluation on purchase intention of electronic devices in web, AR, and VR application with technology acceptance model | |
Moura et al. | Inference for multivariate regression model based on synthetic data generated under fixed-posterior predictive sampling: comparison with plug-in sampling | |
Mahdavi et al. | Data envelopment analysis based comparison of two hybrid multi-criteria decision-making approaches for mobile phone selection: a case study in Iranian telecommunication environment | |
Thakur et al. | Bayesian Belief Networks–Based Product Prediction for E-Commerce Recommendation | |
Chong | Factors affecting online shopping intention in Malaysia |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant |