CN111626381A - 一种基于对抗迁移的用户识别方法、装置及电子设备 - Google Patents

一种基于对抗迁移的用户识别方法、装置及电子设备 Download PDF

Info

Publication number
CN111626381A
CN111626381A CN202010731861.2A CN202010731861A CN111626381A CN 111626381 A CN111626381 A CN 111626381A CN 202010731861 A CN202010731861 A CN 202010731861A CN 111626381 A CN111626381 A CN 111626381A
Authority
CN
China
Prior art keywords
domain
user data
label
source domain
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010731861.2A
Other languages
English (en)
Inventor
张国光
宋孟楠
苏绥绥
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Qiyu Information Technology Co Ltd
Original Assignee
Beijing Qiyu Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Qiyu Information Technology Co Ltd filed Critical Beijing Qiyu Information Technology Co Ltd
Priority to CN202010731861.2A priority Critical patent/CN111626381A/zh
Publication of CN111626381A publication Critical patent/CN111626381A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/048—Activation functions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Mathematical Physics (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • Business, Economics & Management (AREA)
  • Economics (AREA)
  • Development Economics (AREA)
  • Accounting & Taxation (AREA)
  • Finance (AREA)
  • Marketing (AREA)
  • Strategic Management (AREA)
  • Technology Law (AREA)
  • General Business, Economics & Management (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种基于对抗迁移的用户识别方法、装置及电子设备，所述方法包括：分别获取源域用户数据和目标域用户数据；所述源域用户数据包含用户属性标签；根据所述源域用户数据和目标域用户数据训练域对抗迁移神经网络模型；通过所述域对抗迁移神经网络模型识别所述目标域用户数据的用户属性标签。本发明通过引入对抗层，在不同域之间选择并提取出可供迁移的特征，根据这些特征训练出在源域有良好性能的标签预测器，并在训练过程中通过域分类器区分源域和目标域，再根据目标函数分别优化标签预测器和域判别器的参数，获得在目标域上也有不错性能的分类器。

Description

一种基于对抗迁移的用户识别方法、装置及电子设备
技术领域
本发明涉及计算机信息处理技术领域，具体而言，涉及一种基于对抗迁移的用户识别方法、装置、电子设备及计算机可读介质。
背景技术
在风控体系中，通常需要通过带标签的样本数据对风控模型进行训练，再通过训练后的风控模型预测潜在金融风险。而在实际中，只有很少部分业务（比如互联网金融中的金融资源配置业务）会积累大量带标签的样本。对于无标签或者带标签比较少的样本（如H5流量的样本），通常会将有标签样本与无标签或标签比较少的样本混合作为训练样本，而这种方式中，无标签的样本数据量远远大于有标签的样本数据量，会导致标签分类不准确，影响最终的风控效果。
发明内容
本发明旨在解决现有的大数据处理技术中的用户数据中无标签样本的标签分类不准确，导致风险控制模型的效果差，影响最终风控效果的技术问题。
为了解决上述技术问题，本发明第一方面提出一种基于对抗迁移的用户识别方法，所述方法包括：
分别获取源域用户数据和目标域用户数据；所述源域用户数据包含用户属性标签；
根据所述源域用户数据和目标域用户数据训练域对抗迁移神经网络模型；
通过所述域对抗迁移神经网络模型识别所述目标域用户数据的用户属性标签。
根据本发明一种优选的实施方式，所述根据所述源域用户数据和目标域用户数据训练域对抗迁移神经网络模型包括：
将所述源域用户数据和目标域用户数据映射到特征空间，通过特征提取器提取特征数据；
根据所述特征数据对源域用户数据进行标签预测器训练，得到源域用户数据的预测用户属性标签；
对所述特征数据进行域判别器训练，确定所述特征数据来源于源域用户数据还是目标域用户数据；
在训练过程中根据目标函数分别优化所述标签预测器和所述域判别器的参数。
根据本发明一种优选的实施方式，所述根据目标函数分别优化所述标签预测器和所述域判别器的参数包括：
根据所述标签预测器的损失函数和所述域判别器的损失函数确定目标函数；
通过最小化目标函数更新标签预测器的参数，通过最大化目标函数更新域判别器的参数。
根据本发明一种优选的实施方式，所述目标函数为：
Figure 351193DEST_PATH_IMAGE002
；
其中：
Figure 268333DEST_PATH_IMAGE004
表示第i个样本的标签预测损失，
Figure 644475DEST_PATH_IMAGE006
表示第i个样本的二元标 签，用来表示这个样本属于源域还是目标域，λ为预设正则参数，n为源域的样本数量， W为 向量参数，b为映射参数，V为特征空间的向量参数，c为标签参数，u为领域判别器的模型参 数项，z为领域判别器的偏置项，n' 是目标域的样本数量， N =n+n'。
根据本发明一种优选的实施方式，所述用户属性标签包括学历标签、欺诈标签、信用标签中的至少一种。
根据本发明一种优选的实施方式，所述源域用户数据为小流量用户数据，所述目标域用户数据为H5流量用户数据。
为了解决上述技术问题，本发明第二方面提供一种基于对抗迁移的用户识别装置，所述装置包括：
获取模块，用于分别获取源域用户数据和目标域用户数据；所述源域用户数据包含用户属性标签；
训练模块，用于根据所述源域用户数据和目标域用户数据训练域对抗迁移神经网络模型；
识别模块，用于通过所述域对抗迁移神经网络模型识别所述目标域用户数据的用户属性标签。
根据本发明一种优选的实施方式，所述训练模块包括：
映射模块，用于将所述源域用户数据和目标域用户数据映射到特征空间，通过特征提取器提取特征数据；
第一训练模块，用于根据所述特征数据对源域用户数据进行标签预测器训练，得到源域用户数据的预测用户属性标签；
第二训练模块，用于对所述特征数据进行域判别器训练，确定所述特征数据来源于源域用户数据还是目标域用户数据；
优化模块，用于在训练过程中根据目标函数分别优化所述标签预测器和所述域判别器的参数。
根据本发明一种优选的实施方式，所述优化模块包括：
确定模块，用于根据所述标签预测器的损失函数和所述域判别器的损失函数确定目标函数；
更新模块，用于通过最小化目标函数更新标签预测器的参数，通过最大化目标函数更新域判别器的参数。
根据本发明一种优选的实施方式，所述目标函数为：
Figure 39685DEST_PATH_IMAGE008
；
其中：
Figure 322898DEST_PATH_IMAGE004
表示第i个样本的标签预测损失，
Figure 145361DEST_PATH_IMAGE010
表示第i个样本的二元标 签，用来表示这个样本属于源域还是目标域，λ为预设正则参数，n为源域的样本数量， W为 向量参数，b为映射参数，V为特征空间的向量参数，c为标签参数，u为领域判别器的模型参 数项，z为领域判别器的偏置项，n' 是目标域的样本数量， N =n+n'。
根据本发明一种优选的实施方式，所述用户属性标签包括学历标签、欺诈标签、信用标签中的至少一种。
根据本发明一种优选的实施方式，所述源域用户数据为小流量用户数据，所述目标域用户数据为H5流量用户数据。
为解决上述技术问题，本发明第三方面提供一种电子设备，包括：
处理器；以及
存储计算机可执行指令的存储器，所述计算机可执行指令在被执行时使所述处理器执行上述的方法。
为了解决上述技术问题，本发明第四方面提出一种计算机可读存储介质，其中，所述计算机可读存储介质存储一个或多个程序，当所述一个或多个程序被处理器执行时，实现上述方法。
本发明基于包含大量用户属性标签的源域用户数据，根据源域用户数据和目标域用户数据训练域对抗迁移神经网络模型；具体通过引入对抗层，在不同域之间选择并提取出可供迁移的特征，根据这些特征训练出在源域有良好性能的标签预测器，并在训练过程中通过域分类器区分源域和目标域，再根据目标函数分别优化标签预测器和域判别器的参数，获得在目标域上也有不错性能的分类器。最后通过域对抗迁移神经网络模型识别所述目标域用户数据的用户属性标签。本发明相较于传统的混合有标签样本和无标签样本后再训练分类模型，能有效提升分类准确性，从而提升风控效果。
附图说明
为了使本发明所解决的技术问题、采用的技术手段及取得的技术效果更加清楚，下面将参照附图详细描述本发明的具体实施例。但需声明的是，下面描述的附图仅仅是本发明的示例性实施例的附图，对于本领域的技术人员来讲，在不付出创造性劳动的前提下，可以根据这些附图获得其他实施例的附图。
图1是本发明一种基于对抗迁移的用户识别方法的流程示意图；
图2是本发明域对抗迁移神经网络模型的结构示意图；
图3是本发明根据所述源域用户数据和目标域用户数据训练域对抗迁移神经网络模型步骤的流程示意图；
图4是本发明一种基于对抗迁移的用户识别装置的结构框架示意图；
图5是根据本发明的一种电子设备的示例性实施例的结构框图；
图6是本发明一个计算机可读介质实施例的示意图。
具体实施方式
现在将参考附图来更加全面地描述本发明的示例性实施例，虽然各示例性实施例能够以多种具体的方式实施，但不应理解为本发明仅限于在此阐述的实施例。相反，提供这些示例性实施例是为了使本发明的内容更加完整，更加便于将发明构思全面地传达给本领域的技术人员。
在符合本发明的技术构思的前提下，在某个特定的实施例中描述的结构、性能、效果或者其他特征可以以任何合适的方式结合到一个或更多其他的实施例中。
在对于具体实施例的介绍过程中，对结构、性能、效果或者其他特征的细节描述是为了使本领域的技术人员对实施例能够充分理解。但是，并不排除本领域技术人员可以在特定情况下，以不含有上述结构、性能、效果或者其他特征的技术方案来实施本发明。
附图中的流程图仅是一种示例性的流程演示，不代表本发明的方案中必须包括流程图中的所有的内容、操作和步骤，也不代表必须按照图中所显示的的顺序执行。例如，流程图中有的操作/步骤可以分解，有的操作/步骤可以合并或部分合并，等等，在不脱离本发明的发明主旨的情况下，流程图中显示的执行顺序可以根据实际情况改变。
附图中的框图一般表示的是功能实体，并不一定必然与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
各附图中相同的附图标记表示相同或类似的元件、组件或部分，因而下文中可能省略了对相同或类似的元件、组件或部分的重复描述。还应理解，虽然本文中可能使用第一、第二、第三等表示编号的定语来描述各种器件、元件、组件或部分，但是这些器件、元件、组件或部分不应受这些定语的限制。也就是说，这些定语仅是用来将一者与另一者区分。例如，第一器件亦可称为第二器件，但不偏离本发明实质的技术方案。此外，术语“和/或”、“及/或”是指包括所列出项目中的任一个或多个的所有组合。
请参阅图1，图1是本发明提供的一种基于对抗迁移的用户识别方法的流程图，如图1所示，所述方法包括：
S1、分别获取源域用户数据和目标域用户数据；所述源域用户数据包含用户属性标签；
本发明中，所述源域用户数据积累了大量的用户属性标签，而目标域用户数据只有很少用户属性标签或者没有用户属性标签。源域（source domain）和目标域（target domain）共享相同的数据特征和用户属性标签，但是数据特征分布不同。源域表示与测试样本不同的领域，具有丰富的标签信息；目标域表示测试样本所在的领域，无标签或者只有少量标签。源域和目标域往往属于同一类任务，但是分布不同。
在一种示例中，所述源域用户数据为小流量用户数据，比如某一具体业务（金融资源配置业务）的用户数据，所述目标域用户数据为H5流量用户数据。其中，H5是指第5代HTML，也指用H5语言制作的一切数字产品。我们上网所看到网页，多数都是由HTML写成的。其页面内可以包含图片、链接，甚至音乐、程序等非文字元素。因此，本发明中，H5流量用户数据可以是浏览指定网页的用户数据，比如浏览某一公司网页的用户数据。
所述用户属性标签可以是标识用户某种属性的标签，本发明中，用户属性标签可以是学历标签、欺诈标签、信用标签、会员标签、授信标签等等用来标识用户某种属性的标签。
S2、根据所述源域用户数据和目标域用户数据训练域对抗迁移神经网络模型；
本发明中，域对抗迁移神经网络模型根据源域用户数据和目标域用户数据同时学习标签预测器、特征提取器、以及域判别器。通过最小化标签预测器误差，最大化判别器误差，使得学习到的特征表达具有跨领域不变性。
如图2所示，域对抗迁移神经网络模型的结构主要包含三个部分：
特征提取器11，用来将数据映射到特定的特征空间，使标签预测器能够分辨出来自源域数据的类别的同时，域判别器无法区分数据来自哪个域。
标签预测器12，对来自源域的数据进行分类，尽可能分出正确的标签。
域判别器13，对特征空间的数据进行分类，尽可能分出数据来自哪个域。
其中，特征提取器11和标签预测器12构成了一个前馈神经网络。然后，在特征提取器11后面，加上一个域判别器13，中间通过一个梯度反转层（gradient reversal layer，GRL）连接。梯度反转层确保了两个域上的特征分别是相似的，从而产生域不变的特征。在训练的过程中，对来自源域的带标签数据，网络不断最小化标签预测器的损失(loss)。对来自源域和目标域的全部数据，网络不断最小化域判别器的损失。
示例性的，如图3所示，所述根据所述源域用户数据和目标域用户数据训练域对抗迁移神经网络模型包括：
S21、将所述源域用户数据和目标域用户数据映射到特征空间，通过特征提取器提取特征数据；
本步骤中，不区分源域用户数据和目标域用户数据，将二者都映射到特征空间。对于特征提取器（以单隐层为例），sigmoid作为激活函数，其输出为：
Figure 5869DEST_PATH_IMAGE012
；
其中，x为源域或者目标域的用户数据，W为向量参数，b为映射参数，sigm表示sigmoid函数。
S22、根据所述特征数据对源域用户数据进行标签预测器训练，得到源域用户数据的预测用户属性标签；
对于标签预测器，softmax作为激活函数，其输出为：
Figure 204770DEST_PATH_IMAGE014
；
其中，
Figure 873648DEST_PATH_IMAGE016
为特征数据，V为特征空间的向量参数，c为标签参数。
当给定数据点（x i ；y i ），负对数似然 (negative log-probabality) 作为损失函数，则标签预测器的损失为：
Figure 335854DEST_PATH_IMAGE018
。
S23、对所述特征数据进行域判别器训练，确定所述特征数据来源于源域用户数据还是目标域用户数据；
对于域判别器，sigmoid作为激活函数，其输出为：
Figure 90183DEST_PATH_IMAGE020
；
其中，
Figure 420670DEST_PATH_IMAGE022
为特征数据，u为特征空间的向量参数，z为域参数，sigm表示sigmoid函数。
当给定数据点（x i ；y i ），负对数似然作为损失函数，域判别器的损失为：
Figure 944055DEST_PATH_IMAGE024
；
其中，d i 表示第i个样本的二元标签，用来表示样本属于源域还是目标域。
S24、在训练过程中根据目标函数分别优化所述标签预测器和所述域判别器的参数。
具体的，本步骤包括：
S241、根据所述标签预测器的损失函数和所述域判别器的损失函数确定目标函数；
本发明中，对抗迁移网络的总损失由两部分构成：网络的训练损失（标签预测器损失）和域判别损失。因此，对抗迁移网络的目标函数标签预测区的目标函数和域判别器的目标函数组成。
在源域上，标签预测器的训练优化目标函数是：
Figure 842741DEST_PATH_IMAGE026
；
其中，
Figure 84367DEST_PATH_IMAGE028
表示第i个样本的标签预测损失，R(W，b)是一个可选的正则化器，λ是预设的 正则化参数，
Figure 359490DEST_PATH_IMAGE030
用来防止神经网络过拟合。
在源域和目标域上，域判别器的目标函数为：
Figure 596437DEST_PATH_IMAGE032
。
因此，域对抗迁移神经网络模型的总目标函数为：
Figure 931603DEST_PATH_IMAGE034
；
其中：
Figure 660525DEST_PATH_IMAGE036
表示第i个样本的标签预测损失，
Figure 208181DEST_PATH_IMAGE038
表示第i个样本的二元标 签，用来表示这个样本属于源域还是目标域，λ为预设正则参数，n为源域的样本数量， W为 向量参数，b为映射参数，V为特征空间的向量参数，c为标签参数，u为领域判别器的模型参 数项，z为领域判别器的偏置项，n' 是目标域的样本数量， N =n+n'。
S242、通过最小化目标函数更新标签预测器的参数，通过最大化目标函数更新域判别器的参数。
具体的，可以通过如下公式分别对标签预测器的参数和域判别器的参数进行优化。
Figure 706158DEST_PATH_IMAGE040
；
Figure 71280DEST_PATH_IMAGE042
。
S3、通过所述域对抗迁移神经网络模型识别所述目标域用户数据的用户属性标签。
通过源域用户数据和目标域用户数据训练后的对抗迁移神经网络模型，通过引入对抗层，在不同域之间选择可供迁移的特征，并提取出来训练出在源域有良好性能的标签预测器，最终获得在目标域上也有不错性能的标签预测器。因此，通过训练后的对抗迁移神经网络模型能够识别所述目标域用户数据的用户属性标签。
图4是本发明一种基于对抗迁移的用户识别装置的架构示意图，如图4所示，所述装置包括：
获取模块41，用于分别获取源域用户数据和目标域用户数据；所述源域用户数据包含用户属性标签；示例性的，所述用户属性标签包括学历标签、欺诈标签、信用标签中的至少一种。所述源域用户数据为小流量用户数据，所述目标域用户数据为H5流量用户数据。
训练模块42，用于根据所述源域用户数据和目标域用户数据训练域对抗迁移神经网络模型；
识别模块43，用于通过所述域对抗迁移神经网络模型识别所述目标域用户数据的用户属性标签。
在一种具体实施方式中，所述训练模块42包括：
映射模块421，用于将所述源域用户数据和目标域用户数据映射到特征空间，通过特征提取器提取特征数据；
第一训练模块422，用于根据所述特征数据对源域用户数据进行标签预测器训练，得到源域用户数据的预测用户属性标签；
第二训练模块423，用于对所述特征数据进行域判别器训练，确定所述特征数据来源于源域用户数据还是目标域用户数据；
优化模块424，用于在训练过程中根据目标函数分别优化所述标签预测器和所述域判别器的参数。
进一步的，所述优化模块424包括：
确定模块，用于根据所述标签预测器的损失函数和所述域判别器的损失函数确定目标函数；
其中，所述目标函数为：
Figure 21919DEST_PATH_IMAGE044
；
其中：
Figure 373266DEST_PATH_IMAGE004
表示第i个样本的标签预测损失，
Figure 725750DEST_PATH_IMAGE038
表示第i个样本的二元标 签，用来表示这个样本属于源域还是目标域，λ为预设正则参数，n为源域的样本数量， W为 向量参数，b为映射参数，V为特征空间的向量参数，c为标签参数，u为领域判别器的模型参 数项，z为领域判别器的偏置项，n' 是目标域的样本数量， N =n+n'。
更新模块，用于通过最小化目标函数更新标签预测器的参数，并通过最大化目标函数更新域判别器的参数。
本领域技术人员可以理解，上述装置实施例中的各模块可以按照描述分布于装置中，也可以进行相应变化，分布于不同于上述实施例的一个或多个装置中。上述实施例的模块可以合并为一个模块，也可以进一步拆分成多个子模块。
下面描述本发明的电子设备实施例，该电子设备可以视为对于上述本发明的方法和装置实施例的实体形式的实施方式。对于本发明电子设备实施例中描述的细节，应视为对于上述方法或装置实施例的补充；对于在本发明电子设备实施例中未披露的细节，可以参照上述方法或装置实施例来实现。
图5是根据本发明的一种电子设备的示例性实施例的结构框图。图5显示的电子设备仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
如图5所示，该示例性实施例的电子设备500以通用数据处理设备的形式表现。电子设备500的组件可以包括但不限于：至少一个处理单元510、至少一个存储单元520、连接不同电子设备组件（包括存储单元520和处理单元510）的总线530、显示单元540等。
其中，所述存储单元520存储有计算机可读程序，其可以是源程序或都只读程序的代码。所述程序可以被处理单元510执行，使得所述处理单元510执行本发明各种实施方式的步骤。例如，所述处理单元510可以执行如图1所示的步骤。
所述存储单元520可以包括易失性存储单元形式的可读介质，例如随机存取存储单元（RAM）5201和/或高速缓存存储单元5202，还可以进一步包括只读存储单元（ROM）5203。所述存储单元520还可以包括具有一组（至少一个）程序模块5205的程序/实用工具5204，这样的程序模块5205包括但不限于：操作电子设备、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线530可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备500也可以与一个或多个外部设备300（例如键盘、显示器、网络设备、蓝牙设备等）通信，使得用户能经由这些外部设备300与该电子设备500交互，和/或使得该电子设备500能与一个或多个其它数据处理设备（例如路由器、调制解调器等等）进行通信。这种通信可以通过输入/输出（I/O）接口550进行，还可以通过网络适配器460与一个或者多个网络（例如局域网（LAN），广域网（WAN）和/或公共网络，例如因特网）进行。网络适配器460可以通过总线530与电子设备500的其它模块通信。应当明白，尽管图5中未示出，电子设备500中可使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID电子设备、磁带驱动器以及数据备份存储电子设备等。
图6是本发明的一个计算机可读介质实施例的示意图。如图6所示，所述计算机程序可以存储于一个或多个计算机可读介质上。计算机可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的电子设备、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子（非穷举的列表）包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器（RAM）、只读存储器（ROM）、可擦式可编程只读存储器（EPROM或闪存）、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。当所述计算机程序被一个或多个数据处理设备执行时，使得该计算机可读介质能够实现本发明的上述方法，即：分别获取源域用户数据和目标域用户数据；所述源域用户数据包含用户属性标签；根据所述源域用户数据和目标域用户数据训练域对抗迁移神经网络模型；通过所述域对抗迁移神经网络模型识别所述目标域用户数据的用户属性标签。
通过以上的实施方式的描述，本领域的技术人员易于理解，本发明描述的示例性实施例可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本发明实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个计算机可读的存储介质（可以是CD-ROM，U盘，移动硬盘等）中或网络上，包括若干指令以使得一台数据处理设备（可以是个人计算机、服务器、或者网络设备等）执行根据本发明的上述方法。
所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行电子设备、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语音的任意组合来编写用于执行本发明操作的程序代码，所述程序设计语音包括面向对象的程序设计语音—诸如Java、C++等，还包括常规的过程式程序设计语音—诸如“C”语音或类似的程序设计语音。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网（LAN）或广域网（WAN），连接到用户计算设备，或者，可以连接到外部计算设备（例如利用因特网服务提供商来通过因特网连接）。
综上所述，本发明可以执行计算机程序的方法、装置、电子设备或计算机可读介质来实现。可以在实践中使用微处理器或者数字信号处理器（DSP）等通用数据处理设备来实现本发明的一些或者全部功能。
以上所述的具体实施例，对本发明的目的、技术方案和有益效果进行了进一步详细说明，应理解的是，本发明不与任何特定计算机、虚拟装置或者电子设备固有相关，各种通用装置也可以实现本发明。以上所述仅为本发明的具体实施例而已，并不用于限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (9)

1.一种基于对抗迁移的用户识别方法，其特征在于，所述方法包括：
分别获取源域用户数据和目标域用户数据；所述源域用户数据包含用户属性标签；
根据所述源域用户数据和目标域用户数据训练域对抗迁移神经网络模型；
通过所述域对抗迁移神经网络模型识别所述目标域用户数据的用户属性标签。
2.根据权利要求1所述的方法，其特征在于，所述根据所述源域用户数据和目标域用户数据训练域对抗迁移神经网络模型包括：
将所述源域用户数据和目标域用户数据映射到特征空间，通过特征提取器提取特征数据；
根据所述特征数据对源域用户数据进行标签预测器训练，得到源域用户数据的预测用户属性标签；
对所述特征数据进行域判别器训练，确定所述特征数据来源于源域用户数据还是目标域用户数据；
在训练过程中根据目标函数分别优化所述标签预测器和所述域判别器的参数。
3.根据权利要求2所述的方法，其特征在于，所述根据目标函数分别优化所述标签预测器和所述域判别器的参数包括：
根据所述标签预测器的损失函数和所述域判别器的损失函数确定目标函数；
通过最小化目标函数更新标签预测器的参数，通过最大化目标函数更新域判别器的参数。
4.根据权利要求3所述的方法，其特征在于，所述目标函数为：
Figure 722286DEST_PATH_IMAGE001
；
其中：
Figure 639427DEST_PATH_IMAGE002
表示第i个样本的标签预测损失，
Figure 15569DEST_PATH_IMAGE003
表示第i个样本的二元标 签，用来表示这个样本属于源域还是目标域，λ为预设正则参数，n为源域的样本数量，W为向 量参数，b为映射参数，V为特征空间的向量参数，c为标签参数，u为领域判别器的模型参数 项，z为领域判别器的偏置项， n' 是目标域的样本数量， N =n+n'。
5.根据权利要求1所述的方法，其特征在于，所述用户属性标签包括学历标签、欺诈标签、信用标签中的至少一种。
6.根据权利要求1所述的方法，其特征在于，所述源域用户数据为小流量用户数据，所述目标域用户数据为H5流量用户数据。
7.一种基于对抗迁移的用户识别装置，其特征在于，所述装置包括：
获取模块，用于分别获取源域用户数据和目标域用户数据；所述源域用户数据包含用户属性标签；
训练模块，用于根据所述源域用户数据和目标域用户数据训练域对抗迁移神经网络模型；
识别模块，用于通过所述域对抗迁移神经网络模型识别所述目标域用户数据的用户属性标签。
8.一种电子设备，包括：
处理器；以及
存储计算机可执行指令的存储器，所述计算机可执行指令在被执行时使所述处理器执行根据权利要求1-6中任一项所述的方法。
9.一种计算机可读存储介质，其中，所述计算机可读存储介质存储一个或多个程序，当所述一个或多个程序被处理器执行时，实现权利要求1-6中任一项所述的方法。
CN202010731861.2A 2020-07-27 2020-07-27 一种基于对抗迁移的用户识别方法、装置及电子设备 Pending CN111626381A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010731861.2A CN111626381A (zh) 2020-07-27 2020-07-27 一种基于对抗迁移的用户识别方法、装置及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010731861.2A CN111626381A (zh) 2020-07-27 2020-07-27 一种基于对抗迁移的用户识别方法、装置及电子设备

Publications (1)

Publication Number Publication Date
CN111626381A true CN111626381A (zh) 2020-09-04

Family

ID=72260416

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010731861.2A Pending CN111626381A (zh) 2020-07-27 2020-07-27 一种基于对抗迁移的用户识别方法、装置及电子设备

Country Status (1)

Country Link
CN (1) CN111626381A (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112116024A (zh) * 2020-09-28 2020-12-22 北京嘀嘀无限科技发展有限公司 用户分类模型的方法、装置、电子设备和存储介质
CN112348284A (zh) * 2020-11-25 2021-02-09 新智数字科技有限公司 一种电力负荷预测方法、装置、可读介质及电子设备
CN112580733A (zh) * 2020-12-25 2021-03-30 北京百度网讯科技有限公司 分类模型的训练方法、装置、设备以及存储介质
CN114305454A (zh) * 2021-11-22 2022-04-12 广东电网有限责任公司 基于域对抗神经网络的疲劳状态识别方法及装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107885821A (zh) * 2017-11-07 2018-04-06 齐鲁工业大学 一种生成领域适应支持向量机的方法
CN108460134A (zh) * 2018-03-06 2018-08-28 云南大学 基于多源域集成迁移学习的文本主题分类模型及分类方法
CN109495296A (zh) * 2018-11-02 2019-03-19 国网四川省电力公司电力科学研究院 基于聚类与神经网络的智能变电站通信网络状态评价方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107885821A (zh) * 2017-11-07 2018-04-06 齐鲁工业大学 一种生成领域适应支持向量机的方法
CN108460134A (zh) * 2018-03-06 2018-08-28 云南大学 基于多源域集成迁移学习的文本主题分类模型及分类方法
CN109495296A (zh) * 2018-11-02 2019-03-19 国网四川省电力公司电力科学研究院 基于聚类与神经网络的智能变电站通信网络状态评价方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
JING ZHANG 等: ""Importance Weighted Adversarial Nets for Partial Domain Adaptation"", 《HTTPS://ARXIV.ORG/ABS/1803.09210》 *
YAROSLAV GANIN等: ""Domain-Adversarial Training of Neural Networks"", 《THE JOURNAL OF MACHINE LEARNING RESEARCH》 *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112116024A (zh) * 2020-09-28 2020-12-22 北京嘀嘀无限科技发展有限公司 用户分类模型的方法、装置、电子设备和存储介质
CN112116024B (zh) * 2020-09-28 2021-08-13 北京嘀嘀无限科技发展有限公司 用户分类模型的方法、装置、电子设备和存储介质
CN112348284A (zh) * 2020-11-25 2021-02-09 新智数字科技有限公司 一种电力负荷预测方法、装置、可读介质及电子设备
CN112580733A (zh) * 2020-12-25 2021-03-30 北京百度网讯科技有限公司 分类模型的训练方法、装置、设备以及存储介质
CN112580733B (zh) * 2020-12-25 2024-03-05 北京百度网讯科技有限公司 分类模型的训练方法、装置、设备以及存储介质
CN114305454A (zh) * 2021-11-22 2022-04-12 广东电网有限责任公司 基于域对抗神经网络的疲劳状态识别方法及装置

Similar Documents

Publication Publication Date Title
CN111626381A (zh) 一种基于对抗迁移的用户识别方法、装置及电子设备
Swathi et al. An optimal deep learning-based LSTM for stock price prediction using twitter sentiment analysis
US20200210526A1 (en) Document classification using attention networks
CN109711448A (zh) 基于判别关键域和深度学习的植物图像细粒度分类方法
US11586919B2 (en) Task-oriented machine learning and a configurable tool thereof on a computing environment
CN112084327A (zh) 在保留语义的同时对稀疏标注的文本文档的分类
Peng et al. Unsupervised cross-domain named entity recognition using entity-aware adversarial training
CN112529481A (zh) 一种用户捞回方法、装置及电子设备
CN110796482A (zh) 用于机器学习模型的金融数据分类方法、装置及电子设备
CN115956242A (zh) 自动知识图谱构建
Wei et al. Prototypical classifier for robust class-imbalanced learning
CN110826315B (zh) 使用神经网络系统识别短文本时效性的方法
Li et al. Evolving deep gated recurrent unit using improved marine predator algorithm for profit prediction based on financial accounting information system
Huang et al. Learning consistent region features for lifelong person re-identification
CN112102062A (zh) 一种基于弱监督学习的风险评估方法、装置及电子设备
US11532174B2 (en) Product baseline information extraction
Lin et al. Robust educational dialogue act classifiers with low-resource and imbalanced datasets
Li et al. Granular computing-based multi-level interactive attention networks for targeted sentiment analysis
CN117218408A (zh) 基于因果纠偏学习的开放世界目标检测方法及装置
CN110889717A (zh) 文本中的广告内容过滤方法、装置、电子设备及存储介质
CN114493853A (zh) 信用等级评价方法、装置、电子设备及存储介质
CN116486093A (zh) 信息处理装置、信息处理方法和机器可读存储介质
Li et al. A Novel Semi-supervised Adaboost Technique Based on Improved Tri-training
CN112784219A (zh) 基于app指数的用户风险预测方法、装置及电子设备
Meng et al. Classification of customer service tickets in power system based on character and word level semantic understanding

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20200904

RJ01 Rejection of invention patent application after publication