CN114139063A - 基于嵌入向量的用户标签提取方法、装置及电子设备 - Google Patents
基于嵌入向量的用户标签提取方法、装置及电子设备 Download PDFInfo
- Publication number
- CN114139063A CN114139063A CN202210113158.4A CN202210113158A CN114139063A CN 114139063 A CN114139063 A CN 114139063A CN 202210113158 A CN202210113158 A CN 202210113158A CN 114139063 A CN114139063 A CN 114139063A
- Authority
- CN
- China
- Prior art keywords
- clustering
- user
- model
- data
- candidate
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
- G06F16/9535—Search customisation based on user profiles and personalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
- G06F16/2465—Query processing support for facilitating data mining operations in structured databases
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/958—Organisation or management of web site content, e.g. publishing, maintaining pages or automatic linking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
- G06F18/232—Non-hierarchical techniques
- G06F18/2321—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions
- G06F18/23213—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions with fixed number of clusters, e.g. K-means clustering
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Probability & Statistics with Applications (AREA)
- Evolutionary Computation (AREA)
- Evolutionary Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Fuzzy Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种基于嵌入向量的用户标签提取方法、装置及电子设备,所述方法包括:经全量用户授权后获取全量用户设备数据的嵌入向量,生成训练数据;通过所述训练数据和多个候选聚类中心数训练对应的多个候选聚类模型;根据包含正负样本的调优数据对所述候选聚类模型进行调优处理,得到最优聚类模型;基于所述最优聚类模型对用户进行聚类,提取用户标签。本发明的最优聚类模型能够在嵌入向量之上做一层语义聚类,从而利用用户之间的向量距离,充分挖掘用户之间存在的语义相似性,对用户进行聚类,保证提取用户标签的准确性,从而避免对用户价值、意愿和风险的误判,尤其是对用户风险的误判,提高业务安全性。
Description
技术领域
本发明涉及计算机信息处理技术领域,具体而言,涉及一种基于嵌入向量的用户标签提取方法、装置、电子设备及计算机可读介质。
背景技术
随着互联网大数据时代的到来,互联网企业希望能够从海量数据中挖掘出高准确、高覆盖且多维度的标签信息对用户进行刻画,以此区分潜在用户的价值、意愿和风险。
现有技术中,将用户数据转换为嵌入向量输入机器学习模型(比如:营销模型、风险模型,等等),通过这些模型获取对用户的刻画。然而,这些模型对嵌入向量这类特征的使用比较直接,无法充分利用嵌入向量中隐含的丰富信息挖掘用户之间存在的语义相似性,影响对用户刻画的准确度,造成对用户价值、意愿和风险的误判,尤其是对用户风险的误判,会对业务的安全造成隐患。
发明内容
有鉴于此,本发明主要目的在于提出一种基于嵌入向量的用户标签提取方法、装置、电子设备及计算机可读介质,以期至少部分地解决上述技术问题中的至少之一。
为了解决上述技术问题,本发明第一方面提出一种基于嵌入向量的用户标签提取方法,所述方法包括:
经全量用户授权后获取全量用户设备数据的嵌入向量,生成训练数据;
通过所述训练数据和多个候选聚类中心数训练对应的多个候选聚类模型;
根据包含正负样本的调优数据对所述候选聚类模型进行调优处理,得到最优聚类模型;
基于所述最优聚类模型对用户进行聚类,提取用户标签。
根据本发明一种优选实施方式,所述根据包含正负样本的调优数据对所述候选聚类模型进行调优处理,得到最优聚类模型包括:
获取调优数据在各个候选聚类模型的聚类结果;
计算各个聚类结果的聚类指标;
根据聚类指标从候选聚类模型中选取最优聚类模型。
根据本发明一种优选实施方式,所述聚类指标为信息价值、证据权重、轮廓系数中的至少一种。
根据本发明一种优选实施方式,所述聚类指标为信息价值,对于单个聚类模型的聚类结果而言,计算聚类结果的聚类指标包括:
计算每个聚类簇中调优数据的信息价值;
将所有信息价值累加得到该聚类结果的信息价值。
根据本发明一种优选实施方式,所述聚类指标设有优先级,根据聚类指标的优先级选取最优聚类模型;或者,所述聚类指标设有权重,根据聚类指标的权重选取最优聚类模型。
根据本发明一种优选实施方式,经全量用户授权后获取全量用户设备数据的嵌入向量,生成训练数据包括:
经全量用户授权后获取全量用户设备的应用列表信息;
将所述应用列表信息转换为嵌入向量,生成训练数据。
为了解决上述技术问题,本发明第二方面提供一种基于嵌入向量的用户标签提取装置,所述装置包括:
获取模块,用于经全量用户授权后获取全量用户设备数据的嵌入向量,生成训练数据;
训练模块,用于通过所述训练数据和多个候选聚类中心数训练对应的多个候选聚类模型;
调优模块,用于根据包含正负样本的调优数据对所述候选聚类模型进行调优处理,得到最优聚类模型;
提取模块,用于基于所述最优聚类模型对用户进行聚类,提取用户标签。
根据本发明一种优选实施方式,所述调优模块包括:
输入模块,用于获取调优数据在各个候选聚类模型的聚类结果;
计算模块,用于计算各个聚类结果的聚类指标;
选取模块,用于根据聚类指标从候选聚类模型中选取最优聚类模型。
根据本发明一种优选实施方式,所述聚类指标为信息价值、证据权重、轮廓系数中的至少一种。
根据本发明一种优选实施方式,所述聚类指标为信息价值,对于单个聚类模型的聚类结果而言,所述计算模块,计算每个聚类簇中调优数据的信息价值;将所有信息价值累加得到该聚类结果的信息价值。
根据本发明一种优选实施方式,所述聚类指标设有优先级,根据聚类指标的优先级选取最优聚类模型;或者,所述聚类指标设有权重,根据聚类指标的权重选取最优聚类模型。
根据本发明一种优选实施方式,所述获取模块包括:
子获取模块,用于经全量用户授权后获取全量用户设备的应用列表信息;
转换模块,用于将所述应用列表信息转换为嵌入向量,生成训练数据。
为解决上述技术问题,本发明第三方面提供一种电子设备,包括:
处理器;以及
存储计算机可执行指令的存储器,所述计算机可执行指令在被执行时使所述处理器执行上述的方法。
为解决上述技术问题,本发明第四方面提供一种计算机可读存储介质,其中,所述计算机可读存储介质存储一个或多个程序,当所述一个或多个程序被处理器执行时,实现上述方法。
本发明基于全量用户生成训练数据;通过所述训练数据和多个候选聚类中心数训练对应的多个候选聚类模型;训练好的聚类模型能够在嵌入向量之上做一层语义聚类,从而利用用户之间的向量距离,充分挖掘用户之间存在的语义相似性,对用户进行聚类,保证提取用户标签的准确性,从而避免对用户价值、意愿和风险的误判,尤其是对用户风险的误判,提高业务安全性。同时,本发明引入包含正负样本的调优数据对所述候选聚类模型进行调优处理,得到聚类效果最好的最优聚类模型,从而避免对嵌入向量进行聚类时出现簇信息缺失的问题,从而提高了提取用户标签的准确性,保证业务安全。
附图说明
为了使本发明所解决的技术问题、采用的技术手段及取得的技术效果更加清楚,下面将参照附图详细描述本发明的具体实施例。但需声明的是,下面描述的附图仅仅是本发明的示例性实施例的附图,对于本领域的技术人员来讲,在不付出创造性劳动的前提下,可以根据这些附图获得其他实施例的附图。
图1是本发明一种基于嵌入向量的用户标签提取方法的流程示意图;
图2是本发明训练聚类模型的示意图;
图3是本发明一种基于嵌入向量的用户标签提取方法应用于资源交换业务场景的示意图;
图4是本发明一种基于嵌入向量的用户标签提取装置的结构框架示意图;
图5是根据本发明的一种电子设备的示例性实施例的结构框图;
图6是本发明一种计算机可读介质实施例的示意图。
具体实施方式
现在将参考附图来更加全面地描述本发明的示例性实施例,虽然各示例性实施例能够以多种具体的方式实施,但不应理解为本发明仅限于在此阐述的实施例。相反,提供这些示例性实施例是为了使本发明的内容更加完整,更加便于将发明构思全面地传达给本领域的技术人员。
在符合本发明的技术构思的前提下,在某个特定的实施例中描述的结构、性能、效果或者其他特征可以以任何合适的方式结合到一个或更多其他的实施例中。
在对于具体实施例的介绍过程中,对结构、性能、效果或者其他特征的细节描述是为了使本领域的技术人员对实施例能够充分理解。但是,并不排除本领域技术人员可以在特定情况下,以不含有上述结构、性能、效果或者其他特征的技术方案来实施本发明。
附图中的流程图仅是一种示例性的流程演示,不代表本发明的方案中必须包括流程图中的所有的内容、操作和步骤,也不代表必须按照图中所显示的的顺序执行。例如,流程图中有的操作/步骤可以分解,有的操作/步骤可以合并或部分合并,等等,在不脱离本发明的发明主旨的情况下,流程图中显示的执行顺序可以根据实际情况改变。
附图中的框图一般表示的是功能实体,并不一定必然与物理上独立的实体相对应。即,可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
各附图中相同的附图标记表示相同或类似的元件、组件或部分,因而下文中可能省略了对相同或类似的元件、组件或部分的重复描述。还应理解,虽然本文中可能使用第一、第二、第三等表示编号的定语来描述各种器件、元件、组件或部分,但是这些器件、元件、组件或部分不应受这些定语的限制。也就是说,这些定语仅是用来将一者与另一者区分。例如,第一器件亦可称为第二器件,但不偏离本发明实质的技术方案。此外,术语“和/或”、“及/或”是指包括所列出项目中的任一个或多个的所有组合。
请参阅图1,图1是本发明提供的一种基于嵌入向量的用户标签提取方法的流程图。如图1所示,所述方法包括:
S1、经全量用户授权后获取全量用户设备数据的嵌入向量,生成训练数据;
其中,全量用户是业务数据库中包含的所有办理业务的用户。在获取全量用户设备数据过程中,需要先经过全量用户授权。示例性的,设备数据可以包括:设备ID、设备型号、设备所在地域、设备资源归还记录、设备通信记录、设备用户信息中的至少一种。设备资源归还记录指该设备在互联网平台申请资源后,设备用户选择公开的对资源是否按期归还的记录。所述设备通信记录可以是设备在互联网平台沟通时提供的通信记录或者其他公开的通信信息。所述设备用户信息是经设备用户授权选择公开的信息,比如:设备用户的性别、年龄、学历,等等。
考虑到每个设备安装的应用程序都不尽相同,而应用程序能够更为直接的反映设备用户的兴趣、职业、风险等特征,本实施例中,设备中安装的应用程序成为对用户进行刻画的一个重要维度,经全量用户授权后,将设备中的应用程序列表信息作为设备数据,通过对应用程序列表的深入挖掘来获取设备用户更为准确的标签。则本步骤可以包括:
S11、经全量用户授权后获取全量用户设备的应用列表信息;
其中:应用程序列表信息可以是:设备中安装的应用程序的名称、用途、和/或,功能等。
S12、将所述应用列表信息转换为嵌入向量,生成训练数据。
本实施例中,嵌入向量是将稀疏、高维的特征向量映射成的一种稠密、低维的特征向量。其中,稀疏指特征维度高、但在样本中出现次数低,比如:用户偏好等。稠密指特征维度低、每条样本都出现,比如:性别,年龄等。
示例性的,可以通过深度学习等方法,将稀疏的应用程序列表信息进行降维得到对应的嵌入向量。比如:深度神经网络模型可以为包括多个Embedding层的深度神经网络;其中:Embedding层能够把稀疏矩阵通过一些线性变换(比如用全连接层进行转换,也称为查表操作),变成一个稠密矩阵。通过样本的应用列表信息预先训练深度神经网络模型之后,可以将Embedding层对应的矩阵作为该应用程序列表信息对应的嵌入矩阵。随后,将应用程序列表信息(一般通过One-Hot向量表示)与对应的嵌入矩阵进行乘积,即可得到应用程序列表信息对应的嵌入向量。也可以通过深度语义匹配模型(即DSSM模型),得到应用列表信息对应的嵌入向量。其中:DSSM模型可以分成输入层、表示层。输入层中输入应用程序列表信息的训练数据,表示层进行对应用程序列表信息进行embedding降维到低维空间(64或者32维),得到对应的嵌入向量。
S2、通过所述训练数据和多个候选聚类中心数训练对应的多个候选聚类模型;
本发明通过全量用户设备应用程序列表信息的嵌入向量训练聚类模型;训练好的聚类模型能够在设备应用程序列表信息的嵌入向量之上做一层语义聚类,得到语义层面的相似聚类标签。
聚类模型属于一种无监督机器学习模型,能够把相似的用户划分到相同的聚类簇,不相似的用户划分到不同的聚类簇。以K-means聚类模型模型为例,可以根据经验预先指定多个候选聚类中心数,或者随机分配多个候选聚类中心数;再基于每个候选中心数训练对应的候选聚类模型。示例性的,可以采用pyspark的机器学习工具,初始化K-means聚类模型,将训练数据加载到初始化K-means聚类模型中做训练,训练过程就是寻找聚类中心点的过程。其中:初始化K-means聚类模型可以认为是配置候选中心数K的过程。对于每个初始化的K-means聚类模型,将训练数据加载到初始化K-means聚类模型中做训练可以包括:
S21、随机初始化K个中心点。
比如:从训练数据中随机选取K个数据,作为聚类中心点。
S22、从K个中心点中找到每个训练数据对应的质心,形成聚类簇;
举例而言,可以分别计算每个训练数据到K个中心点的欧式距离,对每个训练数据而言,将欧式距离最小的中心点作为自己的质心,每个质心和其对应的所有训练数据形成一个聚类簇。
S23、重新选择每个聚类簇的质心;
比如,可以将每个聚类簇内所有训练数据的各个维度求平均,即为该聚类簇新的质心。
S24、重复步骤S23和S24,直到收敛为止。
至此,如图2,对于每个候选聚类中心数K,可以训练得到每个全量用户所属聚类簇id,以及对应的聚类模型。
S3、根据包含正负样本的调优数据对所述候选聚类模型进行调优处理,得到最优聚类模型;
本发明中,由于嵌入向量是一个稠密且相对维度较高的向量,嵌入向量在高维空间聚合中往往存在一些簇没有被识别出来,出现簇信息缺失的问题。以K-means聚类模型为例,K-means聚类模型在训练过程中需要对聚类中心数K,也就是聚类的个数进行调节,从而达到最优的聚类效果。而目前,主要使用轮廓系数(Silhouette Coefficient)来评价聚类效果。其中:轮廓系数可以描述簇间数据紧密程度。对于本发明中稠密且相对维度较高的嵌入向量,若在训练过程中若单独使用轮廓系数作为评价模型聚类效果的唯一指标,可以得到K-means聚类模型的K为4,然而,将样本数据可视化后,发现还有很多肉眼可辨的簇并没有通过K-means聚类模型被分别出来,而此时,轮廓系数显示当前K为最优解。
为了对嵌入向量进行准确聚合,避免簇信息缺失的问题,本发明在训练好聚类模型后,从全量用户中提取包含正负样本的用户作为调优数据,获取调优数据在各个候选聚类模型的聚类结果,再根据各个聚类结果的聚类指标找到最优聚类模型。其中,聚类指标用于衡量各个候选聚类中心数对聚类效果的影响,示例性的,聚类指标可以是:信息价值(Information Value,IV)、证据权重(weight of evidence,WOE)、轮廓系数中的至少一种。基于此,所述根据包含正负样本的调优数据对所述候选聚类模型进行调优处理,得到最优聚类模型可以包括:
S31、获取调优数据在各个候选聚类模型的聚类结果;
本步骤之前,需要先获取包含正负样本的调优数据,意识到泛用性的聚合模型无法覆盖于精准的业务场景之上,因此,在本步骤之前,可以根据业务场景获取包含正负样本的调优数据。
示例性的,在本步骤之前,可以配置不同业务场景对应的逻辑表达,则本步骤从全量用户设备数据中提取符合目标业务场景对应的逻辑表达的用户设备数据即可形成调优数据。其中:逻辑表达可以包含用于获取正样本的正逻辑表达,和用于获取负样本的负逻辑表达。
如图3所示,以资源交换业务中根据资源配额使用情况提取用户标签,对用户进行刻画为例,可以配置对应的正逻辑表达为:在第一预定时间段(比如:一个月:20210910~20211010)内获取资源配额∪在第二预定时间段(比如:半个月:20211011~20211026)内使用资源配额;负逻辑表达为:在第一预定时间段(比如:一个月:20210910~20211010)内获取资源配额∪在第二预定时间段(比如:半个月:20211011~20211026)内未使用资源配额,其中,第一时间段和第二时间段在时间上连续。则在全量用户设备数据中提取一个月内获取资源配额且接下来半个月内使用资源配额的用户设备数据作为正样本,在全量用户设备数据中提取一个月内获取资源配额且接下来半个月内未使用资源配额的用户设备数据作为负样本,通过正负样本合并,得到完整的调优数据。其中:所述资源是指任何可被利用的物质、信息、金钱、时间等。信息资源包括计算资源和各种类型的数据资源。数据资源包括各个领域中的各种专用数据。
在得到调优数据后,如图3所示,对于每个聚类模型输出的聚类簇,可以将调优数据中的用户id作为主键,通过主键将每个聚类簇中的点对接到调优数据的正负样本上,这样,就可以得到该聚类模型中,所有调优数据,及这些调优数据聚类后所属聚类簇id。
S32、计算各个聚类结果的聚类指标;
以聚类指标为信息价值IV为例,对于单个候选聚类模型的聚类结果,可以先计算每个聚类簇中各个调优数据的IV,再将所有IV累加得到该聚类结果的IV。其中,聚类结果的IV可以评估聚类这一特征对正负样本的区分能力。第i个聚类模型聚类结果的IV值,可以表示为:
其中:j表示聚类簇id,n是聚类簇中包含调优数据的个数,y j /y s 表示聚类簇j命中正样本的占比,y j 表示聚类簇j中命中正样本数量,y s 表示所有正样本数量;n j /n s 表示聚类簇j命中负样本的占比,n j 表示聚类簇j中命中负样本数量,n s 表示所有负样本数量。本实施例中,IV值可以评价聚类模型的聚类效果,IV值越大,聚类模型的聚类效果越好。
聚类结果证据权重WOE的计算方式与上述计算IV的方式相同,此处不再赘述。
在计算轮廓系数时,对于单个聚类模型的聚类结果,先计算聚类簇中,每个调优数据x与同聚类簇的其他调优数据之间的平均距离a(x):
其中:j为调优数据x所在的聚类簇的编号,n j 为聚类簇j内的调优数据个数,C j 为聚类簇j内的调优数据的集合,dist为距离计算函数。
其次,计算该调优数据x与不包含调优数据x的各聚类簇之间的距离,并确定其中的最小距离b(x)。例如:
最后,根据a(x)和b(x)确定所述调优数据x的轮廓系数sc(x):sc(x)=[b(x)-a(x)]/max{a(x),b(x)} 。
将各个调优数据的平均轮廓系数作为聚类结果对应的轮廓系数SCi。其中,平均轮廓系数可以是各个调优数据的轮廓系数的平均值、加权平均值,等等。聚类簇中各调优数据的相似度越高,聚类簇之间的区分度越大,平均轮廓系数则越大,进而聚类效果越好。因此,在计算得到聚类结果的轮廓系数之后,可以将轮廓系数最大的聚类结果对应的候选聚类模型作为最优聚类模型。
本实施例中,为了更为准确的评价聚类效果,可以选取上述多个聚类指标综合进行评价。比如:可以同时将IV值和轮廓系数作为聚类指标。
S33、根据聚类指标从候选聚类模型中选取最优聚类模型。
本步骤中,若聚类指标为单个,则根据各个聚类结果的单个聚类指标的大小确定目标中心数。比如,将IV值最大的聚类结果作为最优聚类模型;或者,将WOE最大的聚类结果作为最优聚类模型,或者;将轮廓系数最大的聚类结果作为最优聚类模型。
若聚类指标为多个,可以根据聚类指标的优先级来选取最优聚类模型,比如:IV值的优先级大于轮廓系数的优先级,则可以优先根据聚类结果的IV值选取最优聚类模型,若IV值相同,或者IV值的差在预设范围内,再根据聚类结果的轮廓系数来选取最优聚类模型。比如:可以将所有聚类结果对应的候选聚类中心数K、IV值及轮廓系数生成对应表,该对应表中,每一行对应一个候选聚类中心数K,第一列对应各个候选聚类中心数K对应候选聚类模型的IV值,第二列对应各个候选聚类中心数K的轮廓系数,则将最大的IV值对应的候选聚类中心数K对应的候选聚类模型作为最优聚类模型,若有IV值相同或者IV值的差在预设范围内(表示IV值十分接近),则继续比较轮廓系数的大小,将轮廓系数最大的候选聚类中心数K对应的候选聚类模型作为最优聚类模型。
此外,也可以根据聚类指标的权重来选取最优聚类模型,比如,IV值的权重为7,轮廓系数的权重为3,则通过加权的方式计算各个候选聚类模型的的综合聚类效果,根据综合聚类效果确定最优候选聚类模型。
S4、基于所述最优聚类模型对用户进行聚类,提取用户标签。
示例性的,经测试用户授权后,本步骤可以获取测试用户设备的应用列表信息,并将该应用列表信息转换为嵌入向量,将转换到的嵌入向量输入步骤S3中的最优聚类模型,输出各个用户所属聚类簇id,根据该聚类簇id提取用户标签。
在一种示例中,在得到用户标签之后,可以将用户标签输入机器学习模型(比如:营销模型、风险模型,等等),通过这些模型获取对用户的刻画。比如,将用户标签输入营销模型中,挖掘潜在的设备用户。现有技术中,会将嵌入向量直接输入营销模型中,营销模型对嵌入向量这类特征的使用比较直接,无法充分利用嵌入向量中隐含的丰富信息挖掘用户之间存在的语义相似性,影响对用户刻画的准确性,造成对用户价值、意愿和风险的误判,尤其是对用户风险的误判,会对业务的安全造成隐患。本发明通过在嵌入向量之上做一层语义聚类来提取用户标签,其中,语义聚类利用用户之间的向量距离,能够充分挖掘用户之间存在的语义相似性。因此,本发明提取的标签相比于嵌入向量,更能准确刻画用户,从而避免对用户价值、意愿和风险的误判,尤其是对用户风险的误判,提高业务安全性。同时,本发明提取的用户标签具有可解释性,可以解决因嵌入向量的不可解释性导致的模型调优和问题归因问题。
在另一种示例中,在得到用户标签之后,可以根据用户标签更新用户画像;比如,将本发明得到的用户标签与原有用户画像中的标签进行比对,将不同的标签添加至原有的用户画像中。
在另一种示例中,在得到用户标签之后,可以根据用户标签对用户进行分类,将同一标签的用户分至同一类,并分类结果应用于推荐系统、或者其他机器模型中。
图4是本发明一种基于嵌入向量的用户标签提取装置的架构示意图,如图4所示,所述装置包括:
获取模块41,用于经全量用户授权后获取全量用户设备数据的嵌入向量,生成训练数据;
训练模块42,用于通过所述训练数据和多个候选聚类中心数训练对应的多个候选聚类模型;
调优模块43,用于根据包含正负样本的调优数据对所述候选聚类模型进行调优处理,得到最优聚类模型;
提取模块44,用于基于所述最优聚类模型对用户进行聚类,提取用户标签。
在一种实施方式中,所述调优模块43包括:
输入模块,用于获取调优数据在各个候选聚类模型的聚类结果;
计算模块,用于计算各个聚类结果的聚类指标;
选取模块,用于根据聚类指标从候选聚类模型中选取最优聚类模型。
可选的,所述聚类指标为信息价值、证据权重、轮廓系数中的至少一种。
示例性的,所述聚类指标为信息价值,对于单个聚类模型的聚类结果而言,所述计算模块,计算每个聚类簇中调优数据的信息价值;将所有信息价值累加得到该聚类结果的信息价值。
可选的,所述聚类指标设有优先级,根据聚类指标的优先级选取最优聚类模型;或者,所述聚类指标设有权重,根据聚类指标的权重选取最优聚类模型。
进一步的,所述获取模块包括:
子获取模块,用于经全量用户授权后获取全量用户设备的应用列表信息;
转换模块,用于将所述应用列表信息转换为嵌入向量,生成训练数据。
本领域技术人员可以理解,上述装置实施例中的各模块可以按照描述分布于装置中,也可以进行相应变化,分布于不同于上述实施例的一个或多个装置中。上述实施例的模块可以合并为一个模块,也可以进一步拆分成多个子模块。
下面描述本发明的电子设备实施例,该电子设备可以视为对于上述本发明的方法和装置实施例的实体形式的实施方式。对于本发明电子设备实施例中描述的细节,应视为对于上述方法或装置实施例的补充;对于在本发明电子设备实施例中未披露的细节,可以参照上述方法或装置实施例来实现。
图5是根据本发明的一种电子设备的示例性实施例的结构框图。图5显示的电子设备仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图5所示,该示例性实施例的电子设备500以通用数据处理设备的形式表现。电子设备500的组件可以包括但不限于:至少一个处理单元510、至少一个存储单元520、连接不同电子设备组件(包括存储单元520和处理单元510)的总线530、显示单元540等。
其中,所述存储单元520存储有计算机可读程序,其可以是源程序或都只读程序的代码。所述程序可以被处理单元510执行,使得所述处理单元510执行本发明各种实施方式的步骤。例如,所述处理单元510可以执行如图1所示的步骤。
所述存储单元520可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)5201和/或高速缓存存储单元5202,还可以进一步包括只读存储单元(ROM)5203。所述存储单元520还可以包括具有一组(至少一个)程序模块5205的程序/实用工具5204,这样的程序模块5205包括但不限于:操作电子设备、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线530可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备500也可以与一个或多个外部设备300(例如键盘、显示器、网络设备、蓝牙设备等)通信,使得用户能经由这些外部设备300与该电子设备500交互,和/或使得该电子设备500能与一个或多个其它数据处理设备(例如路由器、调制解调器等等)进行通信。这种通信可以通过输入/输出(I/O)接口550进行,还可以通过网络适配器560与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)进行。网络适配器560可以通过总线530与电子设备500的其它模块通信。应当明白,尽管图5中未示出,电子设备500中可使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID电子设备、磁带驱动器以及数据备份存储电子设备等。
图6是本发明的一个计算机可读介质实施例的示意图。如图6所示,所述计算机程序可以存储于一个或多个计算机可读介质上。计算机可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的电子设备、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。当所述计算机程序被一个或多个数据处理设备执行时,使得该计算机可读介质能够实现本发明的上述方法,即:经全量用户授权后获取全量用户设备数据的嵌入向量,生成训练数据;通过所述训练数据和多个候选聚类中心数训练对应的多个候选聚类模型;根据包含正负样本的调优数据对所述候选聚类模型进行调优处理,得到最优聚类模型;基于所述最优聚类模型对用户进行聚类,提取用户标签。
通过以上的实施方式的描述,本领域的技术人员易于理解,本发明描述的示例性实施例可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本发明实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个计算机可读的存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台数据处理设备(可以是个人计算机、服务器、或者网络设备等)执行根据本发明的上述方法。
所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行电子设备、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语音的任意组合来编写用于执行本发明操作的程序代码,所述程序设计语音包括面向对象的程序设计语音—诸如Java、C++等,还包括常规的过程式程序设计语音—诸如“C”语音或类似的程序设计语音。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
综上所述,本发明可以执行计算机程序的方法、装置、电子设备或计算机可读介质来实现。可以在实践中使用微处理器或者数字信号处理器(DSP)等通用数据处理设备来实现本发明的一些或者全部功能。
以上所述的具体实施例,对本发明的目的、技术方案和有益效果进行了进一步详细说明,应理解的是,本发明不与任何特定计算机、虚拟装置或者电子设备固有相关,各种通用装置也可以实现本发明。以上所述仅为本发明的具体实施例而已,并不用于限制本发明,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (14)
1.一种基于嵌入向量的用户标签提取方法,其特征在于,所述方法包括:
经全量用户授权后获取全量用户设备数据的嵌入向量,生成训练数据;
通过所述训练数据和多个候选聚类中心数训练对应的多个候选聚类模型;
根据包含正负样本的调优数据对所述候选聚类模型进行调优处理,得到最优聚类模型;
基于所述最优聚类模型对用户进行聚类,提取用户标签。
2.据权利要求1所述的方法,其特征在于,所述根据包含正负样本的调优数据对所述候选聚类模型进行调优处理,得到最优聚类模型包括:
获取调优数据在各个候选聚类模型的聚类结果;
计算各个聚类结果的聚类指标;
根据聚类指标从候选聚类模型中选取最优聚类模型。
3.根据权利要求2所述的方法,其特征在于,所述聚类指标为信息价值、证据权重、轮廓系数中的至少一种。
4.根据权利要求2所述的方法,其特征在于,所述聚类指标为信息价值,对于单个聚类模型的聚类结果而言,计算聚类结果的聚类指标包括:
计算每个聚类簇中调优数据的信息价值;
将所有信息价值累加得到该聚类结果的信息价值。
5.根据权利要求2或3所述的方法,其特征在于,所述聚类指标设有优先级,根据聚类指标的优先级选取最优聚类模型;或者,所述聚类指标设有权重,根据聚类指标的权重选取最优聚类模型。
6.根据权利要求1所述的方法,其特征在于,经全量用户授权后获取全量用户设备数据的嵌入向量,生成训练数据包括:
经全量用户授权后获取全量用户设备的应用列表信息;
将所述应用列表信息转换为嵌入向量,生成训练数据。
7.一种基于嵌入向量的用户标签提取装置,其特征在于,所述装置包括:
获取模块,用于经全量用户授权后获取全量用户设备数据的嵌入向量,生成训练数据;
训练模块,用于通过所述训练数据和多个候选聚类中心数训练对应的多个候选聚类模型;
调优模块,用于根据包含正负样本的调优数据对所述候选聚类模型进行调优处理,得到最优聚类模型;
提取模块,用于基于所述最优聚类模型对用户进行聚类,提取用户标签。
8.根据权利要求7所述的装置,其特征在于,所述调优模块包括:
输入模块,用于获取调优数据在各个候选聚类模型的聚类结果;
计算模块,用于计算各个聚类结果的聚类指标;
选取模块,用于根据聚类指标从候选聚类模型中选取最优聚类模型。
9.根据权利要求8所述的装置,其特征在于,所述聚类指标为信息价值、证据权重、轮廓系数中的至少一种。
10.根据权利要求8所述的装置,其特征在于,所述聚类指标为信息价值,对于单个聚类模型的聚类结果而言,所述计算模块,计算每个聚类簇中调优数据的信息价值;将所有信息价值累加得到该聚类结果的信息价值。
11.根据权利要求8或9所述的装置,其特征在于,所述聚类指标设有优先级,根据聚类指标的优先级选取最优聚类模型;或者,所述聚类指标设有权重,根据聚类指标的权重选取最优聚类模型。
12.根据权利要求7所述的装置,其特征在于,所述获取模块包括:
子获取模块,用于经全量用户授权后获取全量用户设备的应用列表信息;
转换模块,用于将所述应用列表信息转换为嵌入向量,生成训练数据。
13.一种电子设备,包括:
处理器;以及
存储计算机可执行指令的存储器,所述计算机可执行指令在被执行时使所述处理器执行根据权利要求1-6中任一项所述的方法。
14.一种计算机可读存储介质,其中,所述计算机可读存储介质存储一个或多个程序,当所述一个或多个程序被处理器执行时,实现权利要求1-6中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210113158.4A CN114139063B (zh) | 2022-01-30 | 2022-01-30 | 基于嵌入向量的用户标签提取方法、装置及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210113158.4A CN114139063B (zh) | 2022-01-30 | 2022-01-30 | 基于嵌入向量的用户标签提取方法、装置及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114139063A true CN114139063A (zh) | 2022-03-04 |
CN114139063B CN114139063B (zh) | 2022-05-17 |
Family
ID=80381766
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210113158.4A Active CN114139063B (zh) | 2022-01-30 | 2022-01-30 | 基于嵌入向量的用户标签提取方法、装置及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114139063B (zh) |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190325342A1 (en) * | 2018-04-20 | 2019-10-24 | Sri International | Embedding multimodal content in a common non-euclidean geometric space |
CN111144424A (zh) * | 2019-12-27 | 2020-05-12 | 中通服公众信息产业股份有限公司 | 一种基于聚类算法的人员特征检分析方法 |
CN111597348A (zh) * | 2020-04-27 | 2020-08-28 | 平安科技(深圳)有限公司 | 用户画像方法、装置、计算机设备和存储介质 |
CN111666415A (zh) * | 2020-06-28 | 2020-09-15 | 深圳壹账通智能科技有限公司 | 话题聚类方法、装置、电子设备及存储介质 |
CN111832289A (zh) * | 2020-07-13 | 2020-10-27 | 重庆大学 | 一种基于聚类和高斯lda的服务发现方法 |
CN112036486A (zh) * | 2020-08-31 | 2020-12-04 | 北京百度网讯科技有限公司 | 训练标签生成模型的方法、装置、设备及其存储介质 |
CN112256881A (zh) * | 2020-12-21 | 2021-01-22 | 上海冰鉴信息科技有限公司 | 用户信息分类方法及装置 |
CN112364937A (zh) * | 2020-11-30 | 2021-02-12 | 腾讯科技(深圳)有限公司 | 用户类别确定方法及装置、推荐内容确定方法、电子设备 |
CN112634875A (zh) * | 2021-03-04 | 2021-04-09 | 北京远鉴信息技术有限公司 | 语音分离方法、语音分离装置、电子设备及存储介质 |
CN113761228A (zh) * | 2021-01-15 | 2021-12-07 | 北京沃东天骏信息技术有限公司 | 基于多任务的标签生成方法、装置、电子设备和介质 |
CN113779246A (zh) * | 2021-08-25 | 2021-12-10 | 华东计算技术研究所(中国电子科技集团公司第三十二研究所) | 基于句子向量的文本聚类分析方法及系统 |
CN113989747A (zh) * | 2021-11-09 | 2022-01-28 | 南京航空航天大学 | 终端区气象场景识别系统 |
-
2022
- 2022-01-30 CN CN202210113158.4A patent/CN114139063B/zh active Active
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190325342A1 (en) * | 2018-04-20 | 2019-10-24 | Sri International | Embedding multimodal content in a common non-euclidean geometric space |
CN111144424A (zh) * | 2019-12-27 | 2020-05-12 | 中通服公众信息产业股份有限公司 | 一种基于聚类算法的人员特征检分析方法 |
CN111597348A (zh) * | 2020-04-27 | 2020-08-28 | 平安科技(深圳)有限公司 | 用户画像方法、装置、计算机设备和存储介质 |
CN111666415A (zh) * | 2020-06-28 | 2020-09-15 | 深圳壹账通智能科技有限公司 | 话题聚类方法、装置、电子设备及存储介质 |
CN111832289A (zh) * | 2020-07-13 | 2020-10-27 | 重庆大学 | 一种基于聚类和高斯lda的服务发现方法 |
CN112036486A (zh) * | 2020-08-31 | 2020-12-04 | 北京百度网讯科技有限公司 | 训练标签生成模型的方法、装置、设备及其存储介质 |
CN112364937A (zh) * | 2020-11-30 | 2021-02-12 | 腾讯科技(深圳)有限公司 | 用户类别确定方法及装置、推荐内容确定方法、电子设备 |
CN112256881A (zh) * | 2020-12-21 | 2021-01-22 | 上海冰鉴信息科技有限公司 | 用户信息分类方法及装置 |
CN113761228A (zh) * | 2021-01-15 | 2021-12-07 | 北京沃东天骏信息技术有限公司 | 基于多任务的标签生成方法、装置、电子设备和介质 |
CN112634875A (zh) * | 2021-03-04 | 2021-04-09 | 北京远鉴信息技术有限公司 | 语音分离方法、语音分离装置、电子设备及存储介质 |
CN113779246A (zh) * | 2021-08-25 | 2021-12-10 | 华东计算技术研究所(中国电子科技集团公司第三十二研究所) | 基于句子向量的文本聚类分析方法及系统 |
CN113989747A (zh) * | 2021-11-09 | 2022-01-28 | 南京航空航天大学 | 终端区气象场景识别系统 |
Also Published As
Publication number | Publication date |
---|---|
CN114139063B (zh) | 2022-05-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106886599B (zh) | 图像检索方法以及装置 | |
US20190155947A1 (en) | Identifying text for labeling utilizing topic modeling-based text clustering | |
CN109783490B (zh) | 数据融合方法、装置、计算机设备及存储介质 | |
CN111241287A (zh) | 用于生成对抗文本的生成模型的训练方法及装置 | |
US11276099B2 (en) | Multi-perceptual similarity detection and resolution | |
CN112395487B (zh) | 信息推荐方法、装置、计算机可读存储介质及电子设备 | |
CN107644051B (zh) | 用于同类实体分组的系统和方法 | |
CN112990294B (zh) | 行为判别模型的训练方法、装置、电子设备及存储介质 | |
CN113254716B (zh) | 视频片段检索方法、装置、电子设备和可读存储介质 | |
CN109034199B (zh) | 数据处理方法及装置、存储介质和电子设备 | |
CN111797245A (zh) | 基于知识图谱模型的信息匹配方法及相关装置 | |
CN112508697A (zh) | 一种资源回收风险预测方法、装置及电子设备 | |
CN115563982A (zh) | 广告文本优化方法及其装置、设备、介质、产品 | |
CN113591881B (zh) | 基于模型融合的意图识别方法、装置、电子设备及介质 | |
CN113157853B (zh) | 问题挖掘方法、装置、电子设备及存储介质 | |
CN116402166B (zh) | 一种预测模型的训练方法、装置、电子设备及存储介质 | |
CN114139063B (zh) | 基于嵌入向量的用户标签提取方法、装置及电子设备 | |
CN112102062A (zh) | 一种基于弱监督学习的风险评估方法、装置及电子设备 | |
CN113569578B (zh) | 一种用户意图识别方法、装置和计算机设备 | |
US11741099B2 (en) | Supporting database queries using unsupervised vector embedding approaches over unseen data | |
TW202324202A (zh) | 從基於注意力之模型提取解釋 | |
US20210342642A1 (en) | Machine learning training dataset optimization | |
CN114897099A (zh) | 基于客群偏差平滑优化的用户分类方法、装置及电子设备 | |
CN114036944A (zh) | 用于对文本数据进行多标签分类的方法和装置 | |
CN107622129B (zh) | 一种知识库的组织方法及装置、计算机存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |