CN110827138B - 一种推送信息确定方法及装置 - Google Patents
一种推送信息确定方法及装置 Download PDFInfo
- Publication number
- CN110827138B CN110827138B CN201911051808.1A CN201911051808A CN110827138B CN 110827138 B CN110827138 B CN 110827138B CN 201911051808 A CN201911051808 A CN 201911051808A CN 110827138 B CN110827138 B CN 110827138B
- Authority
- CN
- China
- Prior art keywords
- feature vector
- vector sequence
- feature
- neural network
- historical
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
- G06Q40/03—Credit; Loans; Processing thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/02—Marketing; Price estimation or determination; Fundraising
- G06Q30/0241—Advertisements
- G06Q30/0251—Targeted advertisements
- G06Q30/0255—Targeted advertisements based on user history
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/02—Marketing; Price estimation or determination; Fundraising
- G06Q30/0241—Advertisements
- G06Q30/0251—Targeted advertisements
- G06Q30/0269—Targeted advertisements based on user profile or attribute
- G06Q30/0271—Personalized advertisement
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/02—Marketing; Price estimation or determination; Fundraising
- G06Q30/0241—Advertisements
- G06Q30/0277—Online advertisement
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/06—Buying, selling or leasing transactions
- G06Q30/0601—Electronic shopping [e-shopping]
- G06Q30/0631—Item recommendations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Business, Economics & Management (AREA)
- Accounting & Taxation (AREA)
- Finance (AREA)
- Engineering & Computer Science (AREA)
- Strategic Management (AREA)
- Development Economics (AREA)
- Theoretical Computer Science (AREA)
- Marketing (AREA)
- Physics & Mathematics (AREA)
- General Business, Economics & Management (AREA)
- General Physics & Mathematics (AREA)
- Economics (AREA)
- Entrepreneurship & Innovation (AREA)
- Game Theory and Decision Science (AREA)
- Technology Law (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请提供了一种推送信息确定方法及装置,其中,该方法包括:获取待推送用户在至少一个历史时间段中,每个历史时间段的历史行为信息;基于每个历史时间段内的历史行为信息,生成用于表征用户行为特征的特征向量序列;特征向量序列中包括:与各个历史时间段分别对应的特征向量;对特征向量序列分别进行至少两次特征提取,并基于至少两次特征提取的结果,得到与特征向量序列中各个特征向量分别对应的至少两个权重;基于至少两个权重、以及特征向量序列,得到待推送用户在当前时间段内的行为偏好信息;基于行为偏好信息确定目标推送信息。本申请实施例能够更准确的为用户确定待推送信息,避免造成网络资源的浪费。
Description
技术领域
本申请涉及计算机应用技术领域,具体而言,涉及一种推送信息确定方法及装置。
背景技术
目前,随着智能移动终端的快速发展,信息推送在人们生活中越来越常见;例如广告信息的推送、银行理财产品推荐信息的推送、银行借贷业务催收信息的推送、视频推荐信息的推送等。而在进行信息推送之前,一般需要预先收集用户的行为、偏好等信息,并基于收集到的信息确定用户更感兴趣,或者能够满足用户需要的待推送信息。
当前在确定待推送信息时,存在待推送信息确定不准确的问题,进而造成网络资源的浪费。
发明内容
有鉴于此,本申请实施例的目的在于提供一种推送信息确定方法及装置,能够解决上述问题。
第一方面,本申请实施例提供了一种推送信息确定方法,应用于服务器,该推送信息确定方法包括:
获取待推送用户在至少一个历史时间段中,每个历史时间段的历史行为信息;
基于每个历史时间段内的历史行为信息,生成用于表征用户行为特征的特征向量序列;所述特征向量序列中包括:与各个历史时间段分别对应的特征向量;
对所述特征向量序列分别进行至少两次特征提取,并基于所述至少两次特征提取的结果,得到与所述特征向量序列中各个特征向量分别对应的至少两个权重;
基于所述至少两个权重、以及所述特征向量序列,得到所述待推送用户在当前时间段内的行为偏好信息;
基于行为偏好信息确定目标推送信息。
一种可选的实施方式中,还包括:将所述目标推送信息推送至所述待推送用户的用户终端。
一种可选的实施方式中,所述对所述特征向量序列进行至少两次特征提取,并基于所述至少两次特征提取的结果,得到与所述特征向量序列中各个特征向量分别对应的至少两个权重,包括:
使用至少两个神经网络中分别对所述特征向量序列进行特征提取,得到与各个神经网络分别对应的中间特征向量;不同神经网络的网络结构和/或网络参数不同;
对所述特征向量序列,以及各个神经网络分别对应的中间特征向量进行交叉注意力处理,得到各个特征向量分别在各个所述神经网络下的权重。
一种可选的实施方式中,针对与每个特征向量对应的权重有两个的情况,所述神经网络包括:第一神经网络以及第二神经网络;所述中间特征向量包括:与所述第一神经网络对应的第一中间特征向量、以及与所述第二神经网络对应的第二中间特征向量;
所述对所述特征向量序列,以及各个神经网络分别对应的中间特征向量,进行交叉注意力处理,得到各个特征向量分别在各个所述神经网络下的权重,包括:
对所述特征向量序列、以及与所述第二神经网络对应的第二中间特征向量进行注意力处理,得到各个特征向量分别在所述第一神经网络下的第一权重;
对所述特征向量序列、以及与所述第一神经网络对应的第一中间特征向量进行注意力处理,得到各个特征向量分别在所述第二神经网络下的第二权重。
一种可选的实施方式中,所述基于所述至少两个权重、以及所述特征向量序列,得到所述待推送用户在当前时间段内的行为偏好信息,包括:
针对每个神经网络,基于各个所述特征向量分别在该神经网络下权重,对各个所述特征向量进行加权处理,得到与该神经网络对应的加权特征向量序列;
将与该神经网络对应的加权特征向量序列输入该神经网络中,得到与该神经网络对应的目标特征向量;
基于各个神经网络分别对应的目标特征向量,得到所述待推送用户在当前时间段内的行为偏好信息。
一种可选的实施方式中,所述基于所述至少两个权重、以及所述特征向量序列,得到所述待推送用户在当前时间段内的行为偏好信息,包括:
基于各个特征向量分别在所述第一神经网络下的第一权重,对所述特征向量序列进行加权处理,得到第一加权特征向量序列;将所述第一加权特征向量序列输入至第一神经网络中,得到与第一神经网络对应的第一目标特征向量;
基于各个特征向量分别在所述第二神经网络下的第二权重,对所述特征向量序列进行加权处理,得到第二加权特征向量序列;将所述第二加权特征向量序列输入至第二神经网络中,得到与第二神经网络对应的第二目标特征向量;
将所述第一目标特征向量和所述第二目标特征向量进行拼接后,输入至预先训练的分类器,得到所述行为偏好信息。
一种可选的实施方式中,所述神经网络包括:特征提取网络、以及最大池化层;
所述特征提取网络包括:长短期记忆网络、循环神经网络、以及门控循环单元中一种或者多种。
一种可选的实施方式中,每个所述历史时间段内的历史行为信息包括:历史时间段内的资金操作行为信息、以及历史银行流水信息;
所述基于每个历史时间段内的历史行为信息,生成用于表征用户行为特征的特征向量序列,包括:
基于各个历史时间段内的资金操作行为信息、以及历史银行流水信息,生成用于表征所述待推送用户资金变化及行为特征的特征向量序列。
一种可选的实施方式中,所述行为偏好信息包括:还款概率预测结果;
所述基于各个历史时间段内的资金操作行为信息、以及历史银行流水信息,生成用于表征所述待推送用户资金变化及行为特征的特征向量序列,包括:
针对每个历史时间段,基于该历史时间段内的资金操行为信息、以及历史银行流水信息,生成所述待推送用户在多种还款概率影响特征下的特征值;
基于所述待推送用户在多种还款概率影响特征下的特征值,生成与该历史时间段对应的特征向量;
基于各个历史时间段的先后顺序、以及各个历史时间段分别对应的特征向量,生成所述特征向量序列。
一种可选的实施方式中,所述还款概率影响特征包括下述一种或多种:在当前历史时间段及当前历史时间段之前的其他历史时间段出现逾期还款的次数、每次逾期还款时的逾期金额、资产总金额、较之当前历史时间段之前最近的历史时间段的资产总额变化金额、每日进账总额、每日出账总额、每日进账总额与出账总额的差值、每日进账总额的平均值、每日出账总额的平均值、是否在当前历史时间段内出现其他借贷、以及在当前历史时间段内出现其他借贷的情况下的借贷总额。
一种可选的实施方式中,所述基于所述还款概率预测结果确定目标推送信息,包括:
基于所述还款概率预测结果,以及预先确定的还款概率与推送信息映射关系,从多条推送信息中确定目标推送信息。
第二方面,本申请实施例提供一种推送信息确定装置,应用于服务器,该推送信息确定装置包括:
获取模块,用于获取待推送用户在至少一个历史时间段中,每个历史时间段的历史行为信息;
生成模块,用于基于每个历史时间段内的历史行为信息,生成用于表征用户行为特征的特征向量序列;所述特征向量序列中包括:与各个历史时间段分别对应的特征向量;
预测模块,用于对所述特征向量序列分别进行至少两次特征提取,并基于所述至少两次特征提取的结果,得到与所述特征向量序列中各个特征向量分别对应的至少两个权重;基于所述至少两个权重、以及所述特征向量序列,得到所述待推送用户在当前时间段内的行为偏好信息;
确定模块,用于基于行为偏好信息确定目标推送信息。
一种可选的实施方式中,还包括:推送模块,用于将所述目标推送信息推送至所述待推送用户的用户终端。
一种可选的实施方式中,所述预测模块,在对所述特征向量序列进行至少两次特征提取,并基于所述至少两次特征提取的结果,得到与所述特征向量序列中各个特征向量分别对应的至少两个权重时,具体用于:
使用至少两个神经网络中分别对所述特征向量序列进行特征提取,得到与各个神经网络分别对应的中间特征向量;不同神经网络的网络结构和/或网络参数不同;
对所述特征向量序列,以及各个神经网络分别对应的中间特征向量进行交叉注意力处理,得到各个特征向量分别在各个所述神经网络下的权重。
一种可选的实施方式中,针对与每个特征向量对应的权重有两个的情况,所述神经网络包括:第一神经网络以及第二神经网络;所述中间特征向量包括:与所述第一神经网络对应的第一中间特征向量、以及与所述第二神经网络对应的第二中间特征向量;
所述预测模块,在对所述特征向量序列,以及各个神经网络分别对应的中间特征向量,进行交叉注意力处理,得到各个特征向量分别在各个所述神经网络下的权重时,具体用于:
对所述特征向量序列、以及与所述第二神经网络对应的第二中间特征向量进行注意力处理,得到各个特征向量分别在所述第一神经网络下的第一权重;
对所述特征向量序列、以及与所述第一神经网络对应的第一中间特征向量进行注意力处理,得到各个特征向量分别在所述第二神经网络下的第二权重。
一种可选的实施方式中,所述预测模块,在基于所述至少两个权重、以及所述特征向量序列,得到所述待推送用户在当前时间段内的行为偏好信息时,具体用于:
针对每个神经网络,基于各个所述特征向量分别在该神经网络下权重,对各个所述特征向量进行加权处理,得到与该神经网络对应的加权特征向量序列;
将与该神经网络对应的加权特征向量序列输入该神经网络中,得到与该神经网络对应的目标特征向量;
基于各个神经网络分别对应的目标特征向量,得到所述待推送用户在当前时间段内的行为偏好信息。
一种可选的实施方式中,所述预测模块,在基于所述至少两个权重、以及所述特征向量序列,得到所述待推送用户在当前时间段内的行为偏好信息时,具体用于:
基于各个特征向量分别在所述第一神经网络下的第一权重,对所述特征向量序列进行加权处理,得到第一加权特征向量序列;将所述第一加权特征向量序列输入至第一神经网络中,得到与第一神经网络对应的第一目标特征向量;
基于各个特征向量分别在所述第二神经网络下的第二权重,对所述特征向量序列进行加权处理,得到第二加权特征向量序列;将所述第二加权特征向量序列输入至第二神经网络中,得到与第二神经网络对应的第二目标特征向量;
将所述第一目标特征向量和所述第二目标特征向量进行拼接后,输入至预先训练的分类器,得到与所述行为偏好信息。
一种可选的实施方式中,所述神经网络包括:特征提取网络、以及最大池化层;
所述特征提取网络包括:长短期记忆网络、循环神经网络、以及门控循环单元中任一种。
一种可选的实施方式中,每个所述历史时间段内的历史行为信息包括:历史时间段内的资金操作行为信息、以及历史银行流水信息;
所述生成模块,在基于每个历史时间段内的历史行为信息,生成用于表征用户行为特征的特征向量序列时,具体用于:
基于各个历史时间段内的资金操作行为信息、以及历史银行流水信息,生成用于表征所述待推送用户资金变化及行为特征的特征向量序列。
一种可选的实施方式中,所述行为偏好信息包括:还款概率预测结果;
所述生成模块,在基于各个历史时间段内的资金操作行为信息、以及历史银行流水信息,生成用于表征所述待推送用户资金变化及行为特征的特征向量序列时,具体用于:
针对每个历史时间段,基于该历史时间段内的资金操行为信息、以及历史银行流水信息,生成所述待推送用户在多种还款概率影响特征下的特征值;
基于所述待推送用户在多种还款概率影响特征下的特征值,生成与该历史时间段对应的特征向量;
基于各个历史时间段的先后顺序、以及各个历史时间段分别对应的特征向量,生成所述特征向量序列。
一种可选的实施方式中,所述还款概率影响特征包括下述一种或多种:在当前历史时间段及当前历史时间段之前的其他历史时间段出现逾期还款的次数、每次逾期还款时的逾期金额、资产总金额、较之当前历史时间段之前最近的历史时间段的资产总额变化金额、每日进账总额、每日出账总额、每日进账总额与出账总额的差值、每日进账总额的平均值、每日出账总额的平均值、是否在当前历史时间段内出现其他借贷、以及在当前历史时间段内出现其他借贷的情况下的借贷总额。
一种可选的实施方式中,所述确定模块,在基于所述还款概率预测结果确定目标推送信息时,具体用于:
基于所述还款概率预测结果,以及预先确定的还款概率与推送信息映射关系,从多条推送信息中确定目标推送信息。
第三方面,本申请实施例提供一种推送信息确定方法,应用于服务器,所述推送信息确定方法包括:
获取待推送用户在至少一个历史时间段中,每个历史时间段内的资金操作行为信息、以及历史银行流水信息;
基于各个历史时间段内的资金操作行为信息、以及历史银行流水信息,生成用于表征所述待推送用户资金变化及行为特征的特征向量序列;所述特征向量序列中包括:与各个历史时间段分别对应的特征向量;
对所述特征向量序列分别进行至少两次特征提取,并基于所述至少两次特征提取的结果,得到与所述特征向量序列中各个特征向量分别对应的至少两个权重;
基于所述至少两个权重、以及所述特征向量序列,得到所述待推送用户在当前历史时间段内的还款概率预测结果;
基于所述还款概率预测结果确定目标推送信息。
第四方面,本申请实施例还提供一种计算机设备,包括:处理器、存储器和总线,所述存储器存储有所述处理器可执行的机器可读指令,当计算机设备运行时,所述处理器与所述存储器之间通过总线通信,所述机器可读指令被所述处理器执行时执行上述第一方面,或第一方面中任一种可能的实施方式中的步骤。
第五方面,本申请实施例还提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行上述第一方面,或第一方面中任一种可能的实施方式中的步骤。
本申请实施例首先基于用户在至少一个历史时间段中,每个历史时间段内的历史行为信息生成用于表征用户行为特征的特征向量序列,然后基于特征向量序列分别进行至少两次特征提取,并基于至少两次特征提取的结果,得到与特征向量序列中各个特征向量分别对应的至少两个权重,使得在对特征向量序列分别进行至少两次特征提取后,从特征向量序列中提取到待推送用户的不同特征,并基于不同特征,得到各个历史时间段的行为对当前时间段的不同影响;后基于至少两个权重、以及特征向量序列,得到待推送用户在当前时间段内的行为偏好信息,进而基于行为偏好信信息为待推送用户确定目标推送信息,具有更高的准确性,节省了网络资源的消耗。
为使本申请的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本申请的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1示出了本申请实施例所提供的一种推送信息确定方法的流程图;
图2示出了本申请实施例所提供的推送信息确定方法中,得到特征向量序列的具体方法的流程图;
图3示出了本申请实施例所提供的推送信息确定方法中,得到与特征向量序列中各个特征向量分别对应的至少两个权重的具体方法的流程图;
图4示出了本申请实施例所提供的推送信息确定方法中,得到待推送用户在当前历史时间段内的行为偏好信息的具体方法的流程图;
图5示出了本申请实施例所提供的一种推送信息确定装置的示意图;
图6示出了本申请实施例所提供的一种计算机设备的示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围,而是仅仅表示本申请的选定实施例。基于本申请的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本申请保护的范围。
当前一般采用循环神经网络模型来为用户确定待推送信息。这种信息确定方式,不能很好的挖掘用户在某一时间段内对各种行为、或者喜好的倾向性,造成为用户确定的待推送信息不准确的问题。
本申请提供的推送信息确定方法及装置,首先基于用户在至少一个历史时间段中,每个历史时间段内的历史行为信息生成用于表征用户行为特征的特征向量序列,然后基于特征向量序列分别进行至少两次特征提取,并基于至少两次特征提取的结果,得到与特征向量序列中各个特征向量分别对应的至少两个权重,使得在对特征向量序列分别进行至少两次特征提取后,从特征向量序列中提取到待推送用户的不同特征,并基于不同特征,得到各个历史时间段的行为对当前时间段的不同影响;后基于至少两个权重、以及特征向量序列,得到待推送用户在当前时间段内的行为偏好信息,使得行为偏好信息是基于待推送用户随时间变化的行为而确定,具有更高的准确度,进而基于行为偏好信信息为待推送用户确定目标推送信息,也具有更高的准确性,节省了网络资源的消耗。
下面将结合本申请中附图,对本申请中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本申请的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围,而是仅仅表示本申请的选定实施例。基于本申请的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本申请保护的范围。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。
为便于对本实施例进行理解,首先对本申请实施例所公开的一种推送信息确定方法进行详细介绍,本申请实施例所提供的推送信息确定方法的执行主体一般为计算机设备,其可以是客户端,也可以是服务器。下面以执行主体为服务器对本申请实施例提供的推送信息确定方法加以说明。
实施例一
参见图1所示,为本申请实施例一提供的推送信息确定方法的流程图,所述方法包括步骤S101~S105,其中:
S101:获取待推送用户在至少一个历史时间段中,每个历史时间段的历史行为信息。
S102:基于每个历史时间段内的历史行为信息,生成用于表征用户行为特征的特征向量序列;所述特征向量序列中包括:与各个历史时间段分别对应的特征向量。
S103:对所述特征向量序列分别进行至少两次特征提取,并基于所述至少两次特征提取的结果,得到与所述特征向量序列中各个特征向量分别对应的至少两个权重。
S104:基于所述至少两个权重、以及所述特征向量序列,得到所述待推送用户在当前时间段内的行为偏好信息。
S105:基于行为偏好信息确定目标推送信息。
下面分别对上述S101~S105加以说明。
I:在上述S101中,历史时间段一般至少有一个;历史时间段可以根据该方法应用的具体场景来进行确定。
例如,在将该方法应用于广告信息推送场景时,可以将一周确定为一个历史时间段的持续时长,并从预测用户行为偏好信息的时间开始算起,向前推至少一个历史时间段。
在该种情况下,历史行为信息例如包括:用户在各个历史时间段内对不同广告、或商品的操作行为,如点击、购买、加入购物车、分享等。
又例如,在将该方法应用于银行借贷业务催收信息的推送场景时,不同的历史时间段一般是基于还款周期确定的。例如,还款周期为1个月,共12期,若某待推送用户甲某已经经历了3个还款周期,则历史时间段有3个,分别是第1期、第2期、以及第3期,且每个历史时间段的持续时长均为1个月;当前历史时间段为第4期。若某待推送用户乙某已经经历了7个还款周期,则历史时间段有7个,分别是第1期至第7期,且每个历史时间段的持续时长均为1个月;当前历史时间段为第8期。
在该种情况下,历史行为信息例如包括:资金操作行为信息和/或历史银行流水信息。资金操作行为信息例如包括多种资金操作行为对应的信息,如消费、借贷、还款、转账等中一种或者多种。历史银行流水信息例如包括从对应历史时间段的起始时间到终止时间内所有的银行流水信息。
这里需要注意的是,在将本申请实施例提供的推送信息确定方法啊应用于银行借贷业务催收信息的推送场景时,历史时间段、以及当前历史时间段是针对同一笔借贷业务的多个历史时间段。
又例如,在将该方法应用于视频推送场景时,历史时间段例如为用户观看视频的周期,或者视频的更新周期,或者是固定的周期,具体可以根据实际需要进行设定。在该种情况下,历史行为信息例如包括:用户对已推送视频的操作信息、用户对未推送视频的操作信息等。
Ⅱ:在上述S102中,参见图2所示,此处,在将本申请实施例应用于不同场景时,所得到的特征向量序列也有所不同。
例如若应用于广告信息推送场景,可以根据用户对各种商品的历史操作信息,生成特征向量序列。
本申请实施例以将该方法应用于银行借贷业务催收信息的推送场景为例,每个所述历史时间段内的历史行为信息包括:历史时间段内的资金操作行为信息、以及历史银行流水信息。
此时,该步骤S102具体为:基于各个历史时间段内的资金操作行为信息、以及历史银行流水信息,生成用于表征所述待推送用户资金变化及行为特征的特征向量序列。
本申请实施例提供一种得到特征向量序列的具体方法,包括:
S201:针对每个历史时间段,基于该历史时间段内的资金操行为信息、以及历史银行流水信息,生成所述待推送用户在多种还款概率影响特征下的特征值。
此处,还款概率影响特征包括但不限于下述a1~a11中一种或多种:
a1:在当前历史时间段及当前历史时间段之前的其他历史时间段出现逾期还款的次数。
例如,若某待推送用户乙某的历史时间段有7个,分别为s1~s7,当前历史时间段为s8。
针对s1,由于s1是针对借贷业务进行的第一次还款,因此将s1作为当前历史时间段时,其s1之间逾期还款的次数为0。针对s2~s7,是针对借贷业务进行的非第一次还款,因此可能出现逾期;例如该待推送用户乙某在s1、s5、s6、s7四个历史时间段均出现了逾期还款行为,则将s3作为当前历史时间段时,其对应的逾期还款次数为1;将s6作为当前历史时间段时,则其对应的逾期还款的次数为3;将s7作为当前历史时间段时,其对应的逾期还款的次数为4。
这里,逾期还款是指并未还清当前还款期内所有应当还款额。例如,若某历史时间段内,应当还款的金额为5000元,但待推送用户只按期还款了3000元,则待推送用户在该历史时间段内发生了逾期还款。
a2:每次逾期还款时的逾期金额。
这里,逾期金额是指应还款额与实际还款额之间的差值。这里,若某历史时间段内,待推送用户的实际还款金额若大于应当还款额,则不属于还款逾期的情况。
a3:资产总金额。
这里,资产总金额可以待推送用户在是历史时间段内指定的某日的资产总金额。例如应还款日的前一日资产总金额、历史时间段内第一天的资产总金额。具体可以根据实际的需要进行具体设定。
a4:较之当前历史时间段之前最近的历史时间段的资产总额变化金额。
这里,资产总金额变化金额,可以使用当前历史时间段的资产总金额,减去前一历史时间段的资产总金额计算得到。
特殊的,针对第一个历史时间段,可以使用第一个历史时间段的资产总金额,减去待推送用户在发生借贷行为之前的资产总金额计算得到。
待推送用户在发生借贷行为之前的资产总金额可以由借贷审批时的资产评估来确定。
a5:每日进账总额。
a6:每日出账总额。
a7:每日进账总额与出账总额的差值。
a8:每日进账总额的平均值。
a9:每日出账总额的平均值。
a10:是否在当前历史时间段内出现其他借贷。
a11:在当前历史时间段内出现其他借贷的情况下的借贷总额。
S202:基于所述待推送用户在多种还款概率影响特征下的特征值,生成与该历史时间段对应的特征向量。
S203:基于各个历史时间段的先后顺序、以及各个历史时间段分别对应的特征向量,生成所述特征向量序列。
例如,历史时间段有n个,按照历史时间段的先后顺序,每个历史时间段分别对应的特征向量依次为:V1、V2、……、Vn。
则特征向量序列为:(V1,V2,……,Vn)。
Ⅲ:在上述S103中,对特征向量序列分别进行至少两次特征提取,每次对特征向量序列进行特征提取能够得到一中间特征向量。然后对各个中间特征向量进行交叉,得到与特征向量序列中各个特征向量分别对应的至少两个权重。
具体地,参见图3所示,本申请实施例还提供一种得到与所述特征向量序列中各个特征向量分别对应的至少两个权重的具体方法,包括:
S301:使用至少两个神经网络中分别对所述特征向量序列进行特征提取,得到与各个神经网络分别对应的中间特征向量;不同神经网络的网络结构和/或网络参数不同。
示例性的,神经网络包括:特征提取网络、以及最大池化层(Max-pooling)。
特征提取网络包括:长短期记忆网络(Long Short-Term Memory,LSTM)、循环神经网络(Recurrent Neural Networks,RNN)、门控循环单元(Gated Recurrent Unit,GRU)中一种或者多种。
在本申请另一实施例中,至少两个神经网络为不同的网络模型,例如身清净网络有两个的时候,可以采用LSTM模型和GRU模型。通过不同网络模型对特征向量序列进行特征提取,不同的网络模型之间具有差异性,进而不同的网络模型在特征提取结果上有一定程度的互补,所提取的中间特征向量能够更好的表征用户行为的不同特征。
针对不同的特征提取网络是同一种类深度学习网络的情况,其网络参数不同。
针对不同的特征提取网络是不同类深度学习网络的情况,其网络结构和网络参数均不相同。
特征提取网络能够对特征向量序列中的每个特征向量进行特征提取,得到与每个特征向量分别对应的变换向量;一般地,变换向量的维度与特征向量的维度一致。
例如,若特征向量的维度为25,则对应的变换向量的维度也为25。
然后将各个特征向量分别对应的变换向量输入至最大池化层中进行最大池化处理,得到与特征提取网络对应的中间特征向量。
中间向量的维度也与特征向量的维度一致。
其中,中间特征向量中任一元素的值,为各个变换向量中对应元素的最大值。
例如,特征向量V1、V2、……、Vn分别对应的变换向量依次为:
K1(k11,k12,…,k1m);
K2(k21,k22,…,k2m);
……
Kn(kn1,kn2,…,knm)。
则对K1、K2、……、Kn进行最大池化处理后,得到中间特征向量:F(f1,f2,…,fn)
其中,fi满足:fi=max(k1i,k2i,…,kni)。
i为大于0,小于m+1的任一整数。
S302:对所述特征向量序列,以及各个神经网络分别对应的中间特征向量进行交叉注意力处理,得到各个特征向量分别在各个所述神经网络下的权重。
示例性的,针对与每个特征向量对应的权重有两个的情况,神经网络包括:第一神经网络以及第二神经网络;所述中间特征向量包括:与所述第一神经网络对应的第一中间特征向量、以及与所述第二神经网络对应的第二中间特征向量;任一特征向量的权重包括:在第一神经网络下的第一权重、以及在第二神经网络下的第二权重。
可以采用下述方式对所述特征向量序列,以及各个神经网络分别对应的中间特征向量,进行交叉注意力处理,得到各个特征向量分别在各个所述神经网络下的权重:
①对所述特征向量序列、以及所与所述第二神经网络对应的第二中间特征向量进行注意力处理,得到各个特征向量分别在所述第一神经网络下的第一权重。
②对所述特征向量序列、以及所与所述第一神经网络对应的第一中间特征向量进行注意力处理,得到各个特征向量分别在所述第二神经网络下的第二权重。
例如:特征向量序列中包括n个特征向量,分别为:V1、V2、……、Vn。
第一神经网络为LSTM,第二神经网络为GRU,使用LSTM神经网络对特征向量序列进行特征提取,得到的第一中间特征向量为:FLSTM;使用GRU神经网络对特征向量序列进行特征提取,得到的第二中间特征向量为:FGRU。
则对特征向量序列、以及所与所述第二神经网络对应的第二中间特征向量进行注意力处理,得到第i个特征向量在第一神经网络下的第一权重αi满足下述公式:
则对特征向量序列、以及所与所述第一神经网络对应的第一中间特征向量进行注意力处理,得到第i个特征向量在第二神经网络下的第二权重βi满足下述公式:
示例性的,针对与每个特征向量对应的权重有三个的情况,神经网络包括:第一神经网络、第二神经网络、以及第三神经网络;所述中间特征向量包括:与所述第一神经网络对应的第一中间特征向量、与所述第二神经网络对应的第二中间特征向量、以及与所述第三神经网络对应的第三中间特征向量;任一特征向量的权重包括:在第一神经网络下的第一权重、在第二神经网络下的第二权重、以及在第三神经网络下的第三权重。
可以采用下述方式对所述特征向量序列,以及各个神经网络分别对应的中间特征向量,进行交叉注意力处理,得到各个特征向量分别在各个所述神经网络下的权重:
①对所述特征向量序列、以及与所述第二神经网络对应的第二中间特征向量进行注意力处理,得到各个特征向量分别在所述第一神经网络下的第一权重。
②对所述特征向量序列、以及与所述第三神经网络对应的第三中间特征向量进行注意力处理,得到各个特征向量分别在所述第二神经网络下的第二权重。
③对所述特征向量序列、以及与所述第一神经对应的第一中间特征向量进行注意力处理,得到各个特征向量分别在所述第三神经网络下的第三权重。
这里需要注意的是,当每个特征向量对应的权重大于两个的时候,进行交叉注意力处理时的交叉顺序,可以根据实际需要进行设定,只需要保证,任一神经网络A对应的中间特征向量,是得到各个特征向量分别的在另一神经网络B下的权重的参量即可。
例如:特征向量序列中包括n个特征向量,分别为:V1、V2、……、Vn。
第一神经网络为LSTM,第二神经网络为GRU,第三神经网络为RNN,使用LSTM神经网络对特征向量序列进行特征提取,得到的第一中间特征向量为:FLSTM;使用GRU神经网络对特征向量序列进行特征提取,得到的第二中间特征向量为:FGRU;使用RNN神经网络对特征向量序列进行特征提取,得到的第三中间特征向量为:FRNN。
则对特征向量序列、以及所与所述第二神经网络对应的第二中间特征向量进行注意力处理,得到第i个特征向量在第一神经网络下的第一权重αi满足下述公式:
则对特征向量序列、以及所与所述第三神经网络对应的第三中间特征向量进行注意力处理,得到第i个特征向量在第二神经网络下的第二权重βi满足下述公式:
则对特征向量序列、以及所与所述第一神经网络对应的第一中间特征向量进行注意力处理,得到第i个特征向量在第三神经网络下的第三权重θi满足下述公式:
Ⅳ:在上述S104中,参见图4所示,本申请实施例还提供一种得到待推送用户在当前时间段内的还款概率预测结果的具体方法,包括:
S401:针对每个神经网络,基于各个所述特征向量分别在该神经网络下权重,对各个所述特征向量进行加权处理,得到与该神经网络对应的加权特征向量序列。
例如,若特征向量序列中包括的各个特征向量分别为:V1、V2、……、Vn。各个特征向量在某神经网络下的权重分别为:α1,α2,…,αn,则得到的与该神经网络对应的加权特征向量序列为:(α1×V1,α2×V2,…,αn×Vn)。
S402:将与该神经网络对应的加权特征向量序列输入该神经网络中,得到与该神经网络对应的目标特征向量。
此处,该神经网络对加权特征向量序列的处理方式与上述神经网络对特征向量序列的处理方式类似,在此不再赘述。
S403:基于各个神经网络分别对应的目标特征向量,得到所述待推送用户在当前时间段内的行为偏好信息。
这里,可以将各个神经网络分别对应的目标特征向量进行拼接,得到拼接向量,并将拼接向量输入至预先训练的分类器中,得到所述待推送用户在当前时间段内的行为偏好信息。
V:在上述S105中,可以采用下述方式基于基于行为偏好信息确定目标推送信息:
基于所述行为偏好信息,以及预先确定的行为偏好信息与推送信息映射关系,从多条推送信息中确定目标推送信息。
这里,行为偏好信息与推送信息映射关系,是预先确定好的。
例如,在将该方法应用于银行借贷业务催收信息的推送场景时,该映射关系中,会设定多个还款概率区间,当还款概率区间对应的还款概率较高时,此时用户准时还款的概率较大,因此目标推送信息可以是提示用户需要还款金额的信息;当还款概率区间对应的还款概率较低时,由于用户准时还款的概率较小,因此目标推送信息除了提示用户需要还款金额的信息,还可以包括提示用户逾期还款会导致的后果,以提升用户还款概率。
另外,还可以针对不同的还款概率预测结果确定不同的信息推送时间和信息推送次数。
例如若还款概率较高,则推送时间可以设定为接近约定还款日;且推送次数较少。若还款概率较低,则推送时间可以较之约定还款日较早,且推送次数较多。
本申请另一实施例中,在确定目标推送信息后,还包括:
S106:将所述目标推送信息推送至所述待推送用户的用户终端。
这里,可以在确定目标推送信息后即时推送给用户终端,也可以根据确定的还款时间来进行推送,具体可以根据实际需要进行设置。
本申请实施例首先基于用户在至少一个历史时间段中,每个历史时间段内的历史行为信息生成用于表征用户行为特征的特征向量序列,然后基于特征向量序列分别进行至少两次特征提取,并基于至少两次特征提取的结果,得到与特征向量序列中各个特征向量分别对应的至少两个权重,使得在对特征向量序列分别进行至少两次特征提取后,从特征向量序列中提取到待推送用户的不同特征,并基于不同特征,得到各个历史时间段的行为对当前时间段的不同影响;后基于至少两个权重、以及特征向量序列,得到待推送用户在当前时间段内的行为偏好信息,使得行为偏好信息是基于待推送用户随时间变化的行为而确定,具有更高的准确度,进而基于行为偏好信信息为待推送用户确定目标推送信息,也具有更高的准确性,节省了网络资源的消耗。
基于同一发明构思,本申请实施例中还提供了与推送信息确定方法对应的推送信息确定装置,由于本申请实施例中的装置解决问题的原理与本申请实施例上述推送信息确定方法相似,因此装置的实施可以参见方法的实施,重复之处不再赘述。
实施例二
参照图5所示,为本申请实施例二提供的一种推送信息确定装置的示意图,所述装置包括:获取模块51、生成模块52、预测模块53、以及确定模块54;其中,
获取模块51,用于获取待推送用户在至少一个历史时间段中,每个历史时间段的历史行为信息;
生成模块52,用于基于每个历史时间段内的历史行为信息,生成用于表征用户行为特征的特征向量序列;所述特征向量序列中包括:与各个历史时间段分别对应的特征向量;
预测模块53,用于对所述特征向量序列分别进行至少两次特征提取,并基于所述至少两次特征提取的结果,得到与所述特征向量序列中各个特征向量分别对应的至少两个权重;基于所述至少两个权重、以及所述特征向量序列,得到所述待推送用户在当前时间段内的行为偏好信息;
确定模块54,用于基于行为偏好信息确定目标推送信息。
本申请实施例首先基于用户在至少一个历史时间段中,每个历史时间段内的历史行为信息生成用于表征用户行为特征的特征向量序列,然后基于特征向量序列分别进行至少两次特征提取,并基于至少两次特征提取的结果,得到与特征向量序列中各个特征向量分别对应的至少两个权重,使得在对特征向量序列分别进行至少两次特征提取后,从特征向量序列中提取到待推送用户的不同特征,并基于不同特征,得到各个历史时间段的行为对当前时间段的不同影响;后基于至少两个权重、以及特征向量序列,得到待推送用户在当前时间段内的行为偏好信息,使得行为偏好信息是基于待推送用户随时间变化的行为而确定,具有更高的准确度,进而基于行为偏好信信息为待推送用户确定目标推送信息,也具有更高的准确性,节省了网络资源的消耗。
一种可能的实施方式中,还包括:推送模块55,用于将所述目标推送信息推送至所述待推送用户的用户终端。
一种可能的实施方式中,所述预测模块53,在对所述特征向量序列进行至少两次特征提取,并基于所述至少两次特征提取的结果,得到与所述特征向量序列中各个特征向量分别对应的至少两个权重时,具体用于:
使用至少两个神经网络中分别对所述特征向量序列进行特征提取,得到与各个神经网络分别对应的中间特征向量;不同神经网络的网络结构和/或网络参数不同;
对所述特征向量序列,以及各个神经网络分别对应的中间特征向量进行交叉注意力处理,得到各个特征向量分别在各个所述神经网络下的权重。
一种可能的实施方式中,针对与每个特征向量对应的权重有两个的情况,所述神经网络包括:第一神经网络以及第二神经网络;所述中间特征向量包括:与所述第一神经网络对应的第一中间特征向量、以及与所述第二神经网络对应的第二中间特征向量;
所述预测模块53,在对所述特征向量序列,以及各个神经网络分别对应的中间特征向量,进行交叉注意力处理,得到各个特征向量分别在各个所述神经网络下的权重时,具体用于:
对所述特征向量序列、以及与所述第二神经网络对应的第二中间特征向量进行注意力处理,得到各个特征向量分别在所述第一神经网络下的第一权重;
对所述特征向量序列、以及与所述第一神经网络对应的第一中间特征向量进行注意力处理,得到各个特征向量分别在所述第二神经网络下的第二权重。
一种可能的实施方式中,所述预测模块53,在基于所述至少两个权重、以及所述特征向量序列,得到所述待推送用户在当前时间段内的行为偏好信息时,具体用于:
针对每个神经网络,基于各个所述特征向量分别在该神经网络下权重,对各个所述特征向量进行加权处理,得到与该神经网络对应的加权特征向量序列;
将与该神经网络对应的加权特征向量序列输入该神经网络中,得到与该神经网络对应的目标特征向量;
基于各个神经网络分别对应的目标特征向量,得到所述待推送用户在当前时间段内的行为偏好信息。
一种可能的实施方式中,预测模块53,在基于所述至少两个权重、以及所述特征向量序列,得到所述待推送用户在当前时间段内的行为偏好信息时,具体用于:
基于各个特征向量分别在所述第一神经网络下的第一权重,对所述特征向量序列进行加权处理,得到第一加权特征向量序列;将所述第一加权特征向量序列输入至第一神经网络中,得到与第一神经网络对应的第一目标特征向量;
基于各个特征向量分别在所述第二神经网络下的第二权重,对所述特征向量序列进行加权处理,得到第二加权特征向量序列;将所述第二加权特征向量序列输入至第二神经网络中,得到与第二神经网络对应的第二目标特征向量;
将所述第一目标特征向量和所述第二目标特征向量进行拼接后,输入至预先训练的分类器,得到与所述行为偏好信息。
一种可能的实施方式中,所述神经网络包括:特征提取网络、以及最大池化层;
所述特征提取网络包括:长短期记忆网络、循环神经网络、以及门控循环单元中任一种。
一种可能的实施方式中,每个所述历史时间段内的历史行为信息包括:历史时间段内的资金操作行为信息、以及历史银行流水信息;
所述生成模块52,具体用于:基于各个历史时间段内的资金操作行为信息、以及历史银行流水信息,生成用于表征所述待推送用户资金变化及行为特征的特征向量序列。
一种可能的实施方式中,所述行为偏好信息包括:还款概率预测结果;所述生成模块52,在基于各个历史时间段内的资金操作行为信息、以及历史银行流水信息,生成用于表征所述待推送用户资金变化及行为特征的特征向量序列时,具体用于:
针对每个历史时间段,基于该历史时间段内的资金操行为信息、以及历史银行流水信息,生成所述待推送用户在多种还款概率影响特征下的特征值;
基于所述待推送用户在多种还款概率影响特征下的特征值,生成与该历史时间段对应的特征向量;
基于各个历史时间段的先后顺序、以及各个历史时间段分别对应的特征向量,生成所述特征向量序列。
一种可能的实施方式中,所述还款概率影响特征包括下述一种或多种:在当前历史时间段及当前历史时间段之前的其他历史时间段出现逾期还款的次数、每次逾期还款时的逾期金额、资产总金额、较之当前历史时间段之前最近的历史时间段的资产总额变化金额、每日进账总额、每日出账总额、每日进账总额与出账总额的差值、每日进账总额的平均值、每日出账总额的平均值、是否在当前历史时间段内出现其他借贷、以及在当前历史时间段内出现其他借贷的情况下的借贷总额。
一种可能的实施方式中,所述确定模块54,在基于所述还款概率预测结果确定目标推送信息时,具体用于:
基于所述还款概率预测结果,以及预先确定的还款概率与推送信息映射关系,从多条推送信息中确定目标推送信息。
关于装置中的各模块的处理流程、以及各模块之间的交互流程的描述可以参照上述方法实施例中的相关说明,这里不再详述。
本申请另一实施例还提供另外一种推送信息确定方法,应用于服务器,所述推送信息确定方法包括:
获取待推送用户在至少一个历史时间段中,每个历史时间段内的资金操作行为信息和历史银行流水信息;
基于各个历史时间段内的资金操作行为信息、以及历史银行流水信息,生成用于表征所述待推送用户资金变化及行为特征的特征向量序列;所述特征向量序列中包括:与各个历史时间段分别对应的特征向量;
对所述特征向量序列分别进行至少两次特征提取,并基于所述至少两次特征提取的结果,得到与所述特征向量序列中各个特征向量分别对应的至少两个权重;
基于所述至少两个权重、以及所述特征向量序列,得到所述待推送用户在当前历史时间段内的还款概率预测结果;
基于所述还款概率预测结果确定目标推送信息。
实施例三
本申请实施例还提供了一种计算机设备600,如图6所示,为本申请实施例提供的计算机设备600结构示意图,包括:
处理器61、存储器62、和总线63;存储器62用于存储执行指令,包括内存621和外部存储器622;这里的内存621也称内存储器,用于暂时存放处理器61中的运算数据,以及与硬盘等外部存储器622交换的数据,处理器61通过内存621与外部存储器622进行数据交换,当所述计算机设备600运行时,所述处理器61与所述存储器62之间通过总线63通信,使得所述处理器61在用户态执行以下指令:
获取待推送用户在至少一个历史时间段中,每个历史时间段的历史行为信息;
基于每个历史时间段内的历史行为信息,生成用于表征用户行为特征的特征向量序列;所述特征向量序列中包括:与各个历史时间段分别对应的特征向量;
对所述特征向量序列分别进行至少两次特征提取,并基于所述至少两次特征提取的结果,得到与所述特征向量序列中各个特征向量分别对应的至少两个权重;
基于所述至少两个权重、以及所述特征向量序列,得到所述待推送用户在当前时间段内的行为偏好信息;
基于行为偏好信息确定目标推送信息。
一种可能的实施方式中,处理器61执行的指令中,还包括:将所述目标推送信息推送至所述待推送用户的用户终端。
一种可能的实施方式中,处理器61执行的指令中,所述对所述特征向量序列进行至少两次特征提取,并基于所述至少两次特征提取的结果,得到与所述特征向量序列中各个特征向量分别对应的至少两个权重,包括:
使用至少两个神经网络中分别对所述特征向量序列进行特征提取,得到与各个神经网络分别对应的中间特征向量;不同神经网络的网络结构和/或网络参数不同;
对所述特征向量序列,以及各个神经网络分别对应的中间特征向量进行交叉注意力处理,得到各个特征向量分别在各个所述神经网络下的权重。
一种可能的实施方式中,处理器61执行的指令中,针对与每个特征向量对应的权重有两个的情况,所述神经网络包括:第一神经网络以及第二神经网络;所述中间特征向量包括:与所述第一神经网络对应的第一中间特征向量、以及与所述第二神经网络对应的第二中间特征向量;
所述对所述特征向量序列,以及各个神经网络分别对应的中间特征向量,进行交叉注意力处理,得到各个特征向量分别在各个所述神经网络下的权重,包括:
对所述特征向量序列、以及与所述第二神经网络对应的第二中间特征向量进行注意力处理,得到各个特征向量分别在所述第一神经网络下的第一权重;
对所述特征向量序列、以及与所述第一神经网络对应的第一中间特征向量进行注意力处理,得到各个特征向量分别在所述第二神经网络下的第二权重。
一种可能的实施方式中,处理器61执行的指令中,所述基于所述至少两个权重、以及所述特征向量序列,得到所述待推送用户在当前时间段内的行为偏好信息,包括:
针对每个神经网络,基于各个所述特征向量分别在该神经网络下权重,对各个所述特征向量进行加权处理,得到与该神经网络对应的加权特征向量序列;
将与该神经网络对应的加权特征向量序列输入该神经网络中,得到与该神经网络对应的目标特征向量;
基于各个神经网络分别对应的目标特征向量,得到所述待推送用户在当前时间段内的行为偏好信息。
一种可能的实施方式中,处理器61执行的指令中,所述基于所述至少两个权重、以及所述特征向量序列,得到所述待推送用户在当前时间段内的行为偏好信息,包括:
基于各个特征向量分别在所述第一神经网络下的第一权重,对所述特征向量序列进行加权处理,得到第一加权特征向量序列;将所述第一加权特征向量序列输入至第一神经网络中,得到与第一神经网络对应的第一目标特征向量;
基于各个特征向量分别在所述第二神经网络下的第二权重,对所述特征向量序列进行加权处理,得到第二加权特征向量序列;将所述第二加权特征向量序列输入至第二神经网络中,得到与第二神经网络对应的第二目标特征向量;
将所述第一目标特征向量和所述第二目标特征向量进行拼接后,输入至预先训练的分类器,得到所述行为偏好信息。
一种可能的实施方式中,处理器61执行的指令中,所述神经网络包括:特征提取网络、以及最大池化层;
所述特征提取网络包括:长短期记忆网络、循环神经网络、以及门控循环单元中一种或者多种。
一种可能的实施方式中,处理器61执行的指令中,每个所述历史时间段内的历史行为信息包括:历史时间段内的资金操作行为信息、以及历史银行流水信息;
所述基于每个历史时间段内的历史行为信息,生成用于表征用户行为特征的特征向量序列,包括:
基于各个历史时间段内的资金操作行为信息、以及历史银行流水信息,生成用于表征所述待推送用户资金变化及行为特征的特征向量序列。
一种可能的实施方式中,处理器61执行的指令中,所述行为偏好信息包括:还款概率预测结果;
所述基于各个历史时间段内的资金操作行为信息、以及历史银行流水信息,生成用于表征所述待推送用户资金变化及行为特征的特征向量序列,包括:
针对每个历史时间段,基于该历史时间段内的资金操行为信息、以及历史银行流水信息,生成所述待推送用户在多种还款概率影响特征下的特征值;
基于所述待推送用户在多种还款概率影响特征下的特征值,生成与该历史时间段对应的特征向量;
基于各个历史时间段的先后顺序、以及各个历史时间段分别对应的特征向量,生成所述特征向量序列。
一种可能的实施方式中,处理器61执行的指令中,所述还款概率影响特征包括下述一种或多种:在当前历史时间段及当前历史时间段之前的其他历史时间段出现逾期还款的次数、每次逾期还款时的逾期金额、资产总金额、较之当前历史时间段之前最近的历史时间段的资产总额变化金额、每日进账总额、每日出账总额、每日进账总额与出账总额的差值、每日进账总额的平均值、每日出账总额的平均值、是否在当前历史时间段内出现其他借贷、以及在当前历史时间段内出现其他借贷的情况下的借贷总额。
一种可能的实施方式中,处理器61执行的指令中,所述基于所述还款概率预测结果确定目标推送信息,包括:
基于所述还款概率预测结果,以及预先确定的还款概率与推送信息映射关系,从多条推送信息中确定目标推送信息。
本申请实施例还提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行上述方法实施例中所述的推送信息确定方法的步骤。
本申请实施例所提供的推送信息确定方法的计算机程序产品,包括存储了程序代码的计算机可读存储介质,所述程序代码包括的指令可用于执行上述方法实施例中所述的推送信息确定方法的步骤,具体可参见上述方法实施例,在此不再赘述。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统和装置的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。在本申请所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个处理器可执行的非易失的计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-OnlyMemory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上所述实施例,仅为本申请的具体实施方式,用以说明本申请的技术方案,而非对其限制,本申请的保护范围并不局限于此,尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化,或者对其中部分技术特征进行等同替换;而这些修改、变化或者替换,并不使相应技术方案的本质脱离本申请实施例技术方案的精神和范围,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应所述以权利要求的保护范围为准。
Claims (14)
1.一种推送信息确定方法,其特征在于,应用于服务器,该推送信息确定方法包括:
获取待推送用户在至少一个历史时间段中,每个历史时间段的历史行为信息;
基于每个历史时间段内的历史行为信息,生成用于表征用户行为特征的特征向量序列;所述特征向量序列中包括:与各个历史时间段分别对应的特征向量;
对所述特征向量序列分别进行至少两次特征提取,并基于所述至少两次特征提取的结果,得到与所述特征向量序列中各个特征向量分别对应的至少两个权重;
基于所述至少两个权重、以及所述特征向量序列,得到所述待推送用户在当前时间段内的行为偏好信息;
基于行为偏好信息确定目标推送信息;
所述对所述特征向量序列进行至少两次特征提取,并基于所述至少两次特征提取的结果,得到与所述特征向量序列中各个特征向量分别对应的至少两个权重,包括:
使用至少两个神经网络中分别对所述特征向量序列进行特征提取,得到与各个神经网络分别对应的中间特征向量;不同神经网络的网络结构和/或网络参数不同;
对所述特征向量序列,以及各个神经网络分别对应的中间特征向量进行交叉注意力处理,得到各个特征向量分别在各个所述神经网络下的权重。
2.根据权利要求1所述的推送信息确定方法,其特征在于,还包括:将所述目标推送信息推送至所述待推送用户的用户终端。
3.根据权利要求1所述的推送信息确定方法,其特征在于,针对与每个特征向量对应的权重有两个的情况,所述神经网络包括:第一神经网络以及第二神经网络;所述中间特征向量包括:与所述第一神经网络对应的第一中间特征向量、以及与所述第二神经网络对应的第二中间特征向量;
所述对所述特征向量序列,以及各个神经网络分别对应的中间特征向量,进行交叉注意力处理,得到各个特征向量分别在各个所述神经网络下的权重,包括:
对所述特征向量序列、以及与所述第二神经网络对应的第二中间特征向量进行注意力处理,得到各个特征向量分别在所述第一神经网络下的第一权重;
对所述特征向量序列、以及与所述第一神经网络对应的第一中间特征向量进行注意力处理,得到各个特征向量分别在所述第二神经网络下的第二权重。
4.根据权利要求1所述的推送信息确定方法,其特征在于,所述基于所述至少两个权重、以及所述特征向量序列,得到所述待推送用户在当前时间段内的行为偏好信息,包括:
针对每个神经网络,基于各个所述特征向量分别在该神经网络下权重,对各个所述特征向量进行加权处理,得到与该神经网络对应的加权特征向量序列;
将与该神经网络对应的加权特征向量序列输入该神经网络中,得到与该神经网络对应的目标特征向量;
基于各个神经网络分别对应的目标特征向量,得到所述待推送用户在当前时间段内的行为偏好信息。
5.根据权利要求3所述的推送信息确定方法,其特征在于,所述基于所述至少两个权重、以及所述特征向量序列,得到所述待推送用户在当前时间段内的行为偏好信息,包括:
基于各个特征向量分别在所述第一神经网络下的第一权重,对所述特征向量序列进行加权处理,得到第一加权特征向量序列;将所述第一加权特征向量序列输入至第一神经网络中,得到与第一神经网络对应的第一目标特征向量;
基于各个特征向量分别在所述第二神经网络下的第二权重,对所述特征向量序列进行加权处理,得到第二加权特征向量序列;将所述第二加权特征向量序列输入至第二神经网络中,得到与第二神经网络对应的第二目标特征向量;
将所述第一目标特征向量和所述第二目标特征向量进行拼接后,输入至预先训练的分类器,得到所述行为偏好信息。
6.根据权利要求1所述的推送信息确定方法,其特征在于,所述神经网络包括:特征提取网络、以及最大池化层;
所述特征提取网络包括:长短期记忆网络、循环神经网络、以及门控循环单元中一种或者多种。
7.根据权利要求1所述的推送信息确定方法,其特征在于,每个所述历史时间段内的历史行为信息包括:历史时间段内的资金操作行为信息、以及历史银行流水信息;
所述基于每个历史时间段内的历史行为信息,生成用于表征用户行为特征的特征向量序列,包括:
基于各个历史时间段内的资金操作行为信息、以及历史银行流水信息,生成用于表征所述待推送用户资金变化及行为特征的特征向量序列。
8.根据权利要求7所述的推送信息确定方法,其特征在于,所述行为偏好信息包括:还款概率预测结果;
所述基于各个历史时间段内的资金操作行为信息、以及历史银行流水信息,生成用于表征所述待推送用户资金变化及行为特征的特征向量序列,包括:
针对每个历史时间段,基于该历史时间段内的资金操行为信息、以及历史银行流水信息,生成所述待推送用户在多种还款概率影响特征下的特征值;
基于所述待推送用户在多种还款概率影响特征下的特征值,生成与该历史时间段对应的特征向量;
基于各个历史时间段的先后顺序、以及各个历史时间段分别对应的特征向量,生成所述特征向量序列。
9.根据权利要求8所述的推送信息确定方法,其特征在于,所述还款概率影响特征包括下述一种或多种:在当前历史时间段及当前历史时间段之前的其他历史时间段出现逾期还款的次数、每次逾期还款时的逾期金额、资产总金额、较之当前历史时间段之前最近的历史时间段的资产总额变化金额、每日进账总额、每日出账总额、每日进账总额与出账总额的差值、每日进账总额的平均值、每日出账总额的平均值、是否在当前历史时间段内出现其他借贷、以及在当前历史时间段内出现其他借贷的情况下的借贷总额。
10.根据权利要求8所述的推送信息确定方法,其特征在于,所述基于所述还款概率预测结果确定目标推送信息,包括:
基于所述还款概率预测结果,以及预先确定的还款概率与推送信息映射关系,从多条推送信息中确定目标推送信息。
11.一种推送信息确定装置,其特征在于,应用于服务器,该推送信息确定装置包括:
获取模块,用于获取待推送用户在至少一个历史时间段中,每个历史时间段的历史行为信息;
生成模块,用于基于每个历史时间段内的历史行为信息,生成用于表征用户行为特征的特征向量序列;所述特征向量序列中包括:与各个历史时间段分别对应的特征向量;
预测模块,用于对所述特征向量序列分别进行至少两次特征提取,并基于所述至少两次特征提取的结果,得到与所述特征向量序列中各个特征向量分别对应的至少两个权重;基于所述至少两个权重、以及所述特征向量序列,得到所述待推送用户在当前时间段内的行为偏好信息;
确定模块,用于基于行为偏好信息确定目标推送信息;
所述预测模块,在对所述特征向量序列进行至少两次特征提取,并基于所述至少两次特征提取的结果,得到与所述特征向量序列中各个特征向量分别对应的至少两个权重时,具体用于:
使用至少两个神经网络中分别对所述特征向量序列进行特征提取,得到与各个神经网络分别对应的中间特征向量;不同神经网络的网络结构和/或网络参数不同;
对所述特征向量序列,以及各个神经网络分别对应的中间特征向量进行交叉注意力处理,得到各个特征向量分别在各个所述神经网络下的权重。
12.一种推送信息确定方法,其特征在于,应用于服务器,所述推送信息确定方法包括:
获取待推送用户在至少一个历史时间段中,每个历史时间段内的资金操作行为信息和历史银行流水信息;
基于各个历史时间段内的资金操作行为信息、以及历史银行流水信息,生成用于表征所述待推送用户资金变化及行为特征的特征向量序列;所述特征向量序列中包括:与各个历史时间段分别对应的特征向量;
对所述特征向量序列分别进行至少两次特征提取,并基于所述至少两次特征提取的结果,得到与所述特征向量序列中各个特征向量分别对应的至少两个权重;
基于所述至少两个权重、以及所述特征向量序列,得到所述待推送用户在当前历史时间段内的还款概率预测结果;
基于所述还款概率预测结果确定目标推送信息;
所述对所述特征向量序列进行至少两次特征提取,并基于所述至少两次特征提取的结果,得到与所述特征向量序列中各个特征向量分别对应的至少两个权重,包括:
使用至少两个神经网络中分别对所述特征向量序列进行特征提取,得到与各个神经网络分别对应的中间特征向量;不同神经网络的网络结构和/或网络参数不同;
对所述特征向量序列,以及各个神经网络分别对应的中间特征向量进行交叉注意力处理,得到各个特征向量分别在各个所述神经网络下的权重。
13.一种计算机设备,其特征在于,包括:处理器、存储器和总线,所述存储器存储有所述处理器可执行的机器可读指令,当计算机设备运行时,所述处理器与所述存储器之间通过总线通信,所述机器可读指令被所述处理器执行时执行如权利要求1至10任一所述的推送信息确定方法的步骤。
14.一种计算机可读存储介质,其特征在于,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行如权利要求1至10任意一项所述的推送信息确定方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911051808.1A CN110827138B (zh) | 2019-10-31 | 2019-10-31 | 一种推送信息确定方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911051808.1A CN110827138B (zh) | 2019-10-31 | 2019-10-31 | 一种推送信息确定方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110827138A CN110827138A (zh) | 2020-02-21 |
CN110827138B true CN110827138B (zh) | 2022-07-05 |
Family
ID=69551576
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911051808.1A Active CN110827138B (zh) | 2019-10-31 | 2019-10-31 | 一种推送信息确定方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110827138B (zh) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111274501B (zh) * | 2020-02-25 | 2023-04-18 | 支付宝(杭州)信息技术有限公司 | 推送信息的方法、系统和非暂时性存储介质 |
CN111475720A (zh) * | 2020-03-31 | 2020-07-31 | 北京三快在线科技有限公司 | 推荐方法、装置、服务器及存储介质 |
CN111639259B (zh) * | 2020-05-26 | 2023-11-03 | 上海鲸甲信息科技有限公司 | 基于特征识别的信息推送方法及装置 |
CN113742184B (zh) * | 2020-06-05 | 2024-03-26 | 国家计算机网络与信息安全管理中心 | 构建用户历史行为表示向量、用户行为异常检测方法及装置 |
CN111836064B (zh) * | 2020-07-02 | 2022-01-07 | 北京字节跳动网络技术有限公司 | 一种直播内容识别方法及装置 |
CN111905375B (zh) * | 2020-07-31 | 2022-02-25 | 腾讯科技(深圳)有限公司 | 显示方法、装置以及相关设备 |
CN113781085A (zh) * | 2021-01-20 | 2021-12-10 | 北京沃东天骏信息技术有限公司 | 信息生成方法、装置、电子设备和计算机可读介质 |
CN113158031B (zh) * | 2021-03-15 | 2024-04-23 | 北京水滴科技集团有限公司 | 用户资源信息的确定方法及装置、计算机存储介质、终端 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104679743A (zh) * | 2013-11-26 | 2015-06-03 | 阿里巴巴集团控股有限公司 | 一种确定用户的偏好模式的方法及装置 |
WO2017035970A1 (zh) * | 2015-08-31 | 2017-03-09 | 北京百度网讯科技有限公司 | 信息推送的方法和装置 |
CN106649774A (zh) * | 2016-12-27 | 2017-05-10 | 北京百度网讯科技有限公司 | 基于人工智能的对象推送方法及装置 |
CN108280104A (zh) * | 2017-02-13 | 2018-07-13 | 腾讯科技(深圳)有限公司 | 目标对象的特征信息提取方法及装置 |
CN108363821A (zh) * | 2018-05-09 | 2018-08-03 | 深圳壹账通智能科技有限公司 | 一种信息推送方法、装置、终端设备及存储介质 |
CN109034658A (zh) * | 2018-08-22 | 2018-12-18 | 重庆邮电大学 | 一种基于大数据金融的违约用户风险预测方法 |
-
2019
- 2019-10-31 CN CN201911051808.1A patent/CN110827138B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104679743A (zh) * | 2013-11-26 | 2015-06-03 | 阿里巴巴集团控股有限公司 | 一种确定用户的偏好模式的方法及装置 |
WO2017035970A1 (zh) * | 2015-08-31 | 2017-03-09 | 北京百度网讯科技有限公司 | 信息推送的方法和装置 |
CN106649774A (zh) * | 2016-12-27 | 2017-05-10 | 北京百度网讯科技有限公司 | 基于人工智能的对象推送方法及装置 |
CN108280104A (zh) * | 2017-02-13 | 2018-07-13 | 腾讯科技(深圳)有限公司 | 目标对象的特征信息提取方法及装置 |
CN108363821A (zh) * | 2018-05-09 | 2018-08-03 | 深圳壹账通智能科技有限公司 | 一种信息推送方法、装置、终端设备及存储介质 |
CN109034658A (zh) * | 2018-08-22 | 2018-12-18 | 重庆邮电大学 | 一种基于大数据金融的违约用户风险预测方法 |
Also Published As
Publication number | Publication date |
---|---|
CN110827138A (zh) | 2020-02-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110827138B (zh) | 一种推送信息确定方法及装置 | |
CN109345260B (zh) | 一种异常操作行为的检测方法 | |
CN109118053B (zh) | 一种盗卡风险交易的识别方法和装置 | |
CN104965844A (zh) | 信息处理方法及装置 | |
WO2017133456A1 (zh) | 一种确定风险评估参数的方法及装置 | |
CN112580952A (zh) | 用户行为风险预测方法、装置、电子设备及存储介质 | |
CN110503564B (zh) | 基于大数据的保全案件处理方法、系统、设备及存储介质 | |
WO2013137939A1 (en) | Counterfactual testing of finances using financial objects | |
CN104169959A (zh) | 基于广告客户报告的动作的每动作成本模型 | |
CN114782161A (zh) | 识别风险用户的方法、装置、存储介质及电子装置 | |
CN110232150B (zh) | 一种用户数据分析方法、装置、可读存储介质及终端设备 | |
CN111090677A (zh) | 数据对象类型的确定方法及装置 | |
CN107885754A (zh) | 基于lda模型从交易数据中提取信用变量的方法和装置 | |
CN111667307B (zh) | 一种理财产品销量的预测方法及装置 | |
CN110796379B (zh) | 业务渠道的风险评估方法、装置、设备及存储介质 | |
CN112330373A (zh) | 用户行为分析方法、装置及计算机可读存储介质 | |
CN113128597B (zh) | 一种用户行为特征的提取和分类预测的方法及装置 | |
CN114169906B (zh) | 电子券推送方法、装置 | |
WO2013137945A1 (en) | Determining shopping intent based on financial objects | |
JP7066151B2 (ja) | 注文決済装置、コンピュータプログラム及び注文決済方法 | |
CN111738834B (zh) | 一种数据处理方法和装置 | |
US20130238477A1 (en) | System for dynamically generating financial objects | |
US20130238434A1 (en) | Financial outcome based on shared financial objects | |
CN113220749B (zh) | 业务数据的处理方法、装置和电子设备 | |
KR102543152B1 (ko) | 가상 화폐에 기반한 메타버스 쇼핑몰을 운영하기 위한 장치 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |