CN112036642A - 基于人工智能的信息预测方法、装置、设备及介质 - Google Patents
基于人工智能的信息预测方法、装置、设备及介质 Download PDFInfo
- Publication number
- CN112036642A CN112036642A CN202010898971.8A CN202010898971A CN112036642A CN 112036642 A CN112036642 A CN 112036642A CN 202010898971 A CN202010898971 A CN 202010898971A CN 112036642 A CN112036642 A CN 112036642A
- Authority
- CN
- China
- Prior art keywords
- samples
- target
- network
- model
- sample
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 69
- 238000013473 artificial intelligence Methods 0.000 title claims abstract description 44
- 230000006870 function Effects 0.000 claims description 32
- 238000012549 training Methods 0.000 claims description 32
- 230000004931 aggregating effect Effects 0.000 claims description 8
- 230000004913 activation Effects 0.000 claims description 4
- 230000008859 change Effects 0.000 abstract description 6
- 238000005516 engineering process Methods 0.000 abstract description 4
- 230000008569 process Effects 0.000 description 24
- 238000004590 computer program Methods 0.000 description 11
- 238000006243 chemical reaction Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 7
- 239000000047 product Substances 0.000 description 7
- 230000000694 effects Effects 0.000 description 6
- 238000012795 verification Methods 0.000 description 6
- 238000007726 management method Methods 0.000 description 5
- 238000001914 filtration Methods 0.000 description 4
- 238000012545 processing Methods 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 2
- FFBHFFJDDLITSX-UHFFFAOYSA-N benzyl N-[2-hydroxy-4-(3-oxomorpholin-4-yl)phenyl]carbamate Chemical compound OC1=C(NC(=O)OCC2=CC=CC=C2)C=CC(=C1)N1CCOCC1=O FFBHFFJDDLITSX-UHFFFAOYSA-N 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000014759 maintenance of location Effects 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000003672 processing method Methods 0.000 description 2
- 230000000717 retained effect Effects 0.000 description 2
- 230000001960 triggered effect Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000012886 linear function Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 230000008685 targeting Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
- G06N20/10—Machine learning using kernel methods, e.g. support vector machines [SVM]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
- G06Q40/08—Insurance
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Business, Economics & Management (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Evolutionary Computation (AREA)
- Mathematical Physics (AREA)
- Data Mining & Analysis (AREA)
- Strategic Management (AREA)
- Economics (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Development Economics (AREA)
- Human Resources & Organizations (AREA)
- Molecular Biology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Accounting & Taxation (AREA)
- Finance (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Marketing (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- General Business, Economics & Management (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
- Game Theory and Decision Science (AREA)
- Technology Law (AREA)
- Entrepreneurship & Innovation (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Tourism & Hospitality (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明涉及人工智能领域,提供一种基于人工智能的信息预测方法、装置、设备及介质,能够建立目标关系网络,所述目标关系网络包括每个样本内的子样本间的层级内关系网络及样本间的层级间关系网络,进而由所有节点及层级间的关系共同构成所述目标关系网络,并结合半监督学习的目标模型及关系网络进行特征表示,学习得到的节点特征表示可作为表现期更长的任务的输入,从而补充表现期时期的信息,弥补了表现期的信息损失,并可应用于多层次关系建模场景,进而基于人工智能手段实现对信息变化趋势的准确预测。本发明还涉及区块链技术,目标模型及每个节点更新后的特征表示可存储于区块链。
Description
技术领域
本发明涉及人工智能技术领域,尤其涉及一种基于人工智能的信息预测方法、装置、设备及介质。
背景技术
在很多机器学习场景中,目标变量具有较长的表现期,比如三个月或一年内是否留存等。而正常的特征是取过去一段时间内的统计信息,不会使用未来的信息,而由于训练集里面要保留相同的逻辑,因此训练集中无法得到表现期内的特征信息,与线上预测环境相比会有不小的时延。因此训练集和预测集的分布差异往往会比较大,跨时间验证效果通常会比相同时间验证效果差很多。
并且,在多层次关系相关场景中,常常由于目标变量表现期长导致训练数据与现场数据间的时延长,表现期的信息损失较高。
而无论是对应用程序的长期维护,还是对保险等的长期发展,预测未来信息发展方向都十分关键,因此,如何准确地对各领域的信息变化趋势进行预测成了目前亟待解决的问题。
发明内容
鉴于以上内容,有必要提供一种基于人工智能的信息预测方法、装置、设备及介质,结合半监督学习的目标模型及关系网络进行特征表示,学习得到的节点特征表示可作为表现期更长的任务的输入,从而补充表现期时期的信息,弥补了表现期的信息损失,并可应用于多层次关系建模场景,进一步基于人工智能手段实现对信息变化趋势的准确预测。
一种基于人工智能的信息预测方法,所述基于人工智能的信息预测方法包括:
当接收到信息预测指令时,获取样本;
确定所述样本间的关系;
以所述样本中的每个子样本为节点,根据所述样本间的关系建立目标关系网络,其中,所述目标关系网络包括每个样本内的子样本间的层级内关系网络及样本间的层级间关系网络;
确定待训练模型,并基于所述目标关系网络对所述待训练模型进行半监督学习,得到目标模型;
获取待预测数据,将所述待预测数据输入至所述目标模型,并获取所述目标模型的输出作为信息预测结果。
根据本发明优选实施例,所述根据所述样本间的关系建立目标关系网络包括:
从所述样本间的关系中确定每个样本内各个子样本间的联系;
根据每个样本内各个子样本间的联系连接每个样本内的各个子样本,得到每个样本内的子样本间的层级内关系网络;
从所述样本间的关系中确定不同样本的各个子样本间的联系;
根据所述不同样本的各个子样本间的联系连接不同样本间的各个子样本,得到所述样本间的层级间关系网络;
对每个样本内的子样本间的层级内关系网络及所述样本间的层级间关系网络进行初始化处理,得到所述目标关系网络。
根据本发明优选实施例,所述对每个样本内的子样本间的层级内关系网络及所述样本间的层级间关系网络进行初始化处理包括:
对于每个样本内的子样本间的层级内关系网络中的第一任意节点,确定所述第一任意节点的第一嵌入向量,及确定在所述第一任意节点所处的层级中与所述第一任意节点连接的上一节点的第二嵌入向量;
采用图卷积网络对所述第一嵌入向量及所述第二嵌入向量进行聚合,得到第三嵌入向量;
拼接所述第三嵌入向量与所述第一嵌入向量,得到所述第一任意节点初始化后的特征表示。
根据本发明优选实施例,所述对每个样本内的子样本间的层级内关系网络及所述样本间的层级间关系网络进行初始化处理还包括:
对于所述样本间的层级间关系网络中的任意节点,确定所述第二任意节点的第四嵌入向量,及确定在所述第二任意节点的上一层级中与所述第二任意节点连接的节点的第五嵌入向量;
采用图卷积网络对所述第四嵌入向量及所述第五嵌入向量进行聚合,得到第六嵌入向量;
拼接所述第六嵌入向量与所述第四嵌入向量,得到所述第二任意节点初始化后的特征表示。
根据本发明优选实施例,所述确定待训练模型包括:
确定初始模型,及确定当前任务类型;
当所述当前任务类型为节点分类任务时,添加全连接层至所述初始模型,得到所述待训练模型,所述待训练模型以softmax函数作为激活函数;或者
当所述当前任务类型为链接预测任务时,添加sigmoid层至所述初始模型,得到所述待训练模型,所述待训练模型以链接两端节点间的内积作为对应链接的预测概率。
根据本发明优选实施例,所述基于所述目标关系网络对所述待训练模型进行半监督学习,得到目标模型包括:
从所述目标关系网络中获取目标可观测样本;
以所述目标可观测样本构造损失函数;
基于所述损失函数,以所述目标关系网络为训练数据训练所述待训练模型;
当所述损失函数达到收敛时,停止训练,得到所述目标模型。
根据本发明优选实施例,所述目标模型包括图卷积网络,所述方法还包括:
将所述目标关系网络的每个节点输入至所述目标模型,并获取所述图卷积网络的输出作为每个节点更新后的特征表示。
一种基于人工智能的信息预测装置,所述基于人工智能的信息预测装置包括:
获取单元,用于当接收到信息预测指令时,获取样本;
确定单元,用于确定所述样本间的关系;
建立单元,用于以所述样本中的每个子样本为节点,根据所述样本间的关系建立目标关系网络,其中,所述目标关系网络包括每个样本内的子样本间的层级内关系网络及样本间的层级间关系网络;
学习单元,用于确定待训练模型,并基于所述目标关系网络对所述待训练模型进行半监督学习,得到目标模型;
预测单元,用于获取待预测数据,将所述待预测数据输入至所述目标模型,并获取所述目标模型的输出作为信息预测结果。
一种电子设备,所述电子设备包括:
存储器,存储至少一个指令;及
处理器,执行所述存储器中存储的指令以实现所述基于人工智能的信息预测方法。
一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一个指令,所述至少一个指令被电子设备中的处理器执行以实现所述基于人工智能的信息预测方法。
由以上技术方案可以看出,本发明能够当接收到信息预测指令时,获取样本,确定所述样本间的关系,以所述样本中的每个子样本为节点,根据所述样本间的关系建立目标关系网络,其中,所述目标关系网络包括每个样本内的子样本间的层级内关系网络及样本间的层级间关系网络,进而由所有节点及层级间的关系共同构成所述目标关系网络,确定待训练模型,并基于所述目标关系网络对所述待训练模型进行半监督学习,得到目标模型,结合半监督学习的目标模型及关系网络进行特征表示,学习得到的节点特征表示可作为表现期更长的任务的输入,从而补充表现期时期的信息,弥补了表现期的信息损失,并可应用于多层次关系建模场景,进一步获取待预测数据,将所述待预测数据输入至所述目标模型,并获取所述目标模型的输出作为信息预测结果,以基于人工智能手段实现对信息变化趋势的准确预测。
附图说明
图1是本发明基于人工智能的信息预测方法的较佳实施例的流程图。
图2是本发明基于人工智能的信息预测装置的较佳实施例的功能模块图。
图3是本发明实现基于人工智能的信息预测方法的较佳实施例的电子设备的结构示意图。
具体实施方式
为了使本发明的目的、技术方案和优点更加清楚,下面结合附图和具体实施例对本发明进行详细描述。
如图1所示,是本发明基于人工智能的信息预测方法的较佳实施例的流程图。根据不同的需求,该流程图中步骤的顺序可以改变,某些步骤可以省略。
所述基于人工智能的信息预测方法应用于一个或者多个电子设备中,所述电子设备是一种能够按照事先设定或存储的指令,自动进行数值计算和/或信息处理的设备,其硬件包括但不限于微处理器、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程门阵列(Field-Programmable Gate Array,FPGA)、数字处理器(DigitalSignal Processor,DSP)、嵌入式设备等。
所述电子设备可以是任何一种可与用户进行人机交互的电子产品,例如,个人计算机、平板电脑、智能手机、个人数字助理(Personal Digital Assistant,PDA)、游戏机、交互式网络电视(Internet Protocol Television,IPTV)、智能式穿戴式设备等。
所述电子设备还可以包括网络设备和/或用户设备。其中,所述网络设备包括,但不限于单个网络服务器、多个网络服务器组成的服务器组或基于云计算(CloudComputing)的由大量主机或网络服务器构成的云。
所述电子设备所处的网络包括但不限于互联网、广域网、城域网、局域网、虚拟专用网络(Virtual Private Network,VPN)等。
S10,当接收到信息预测指令时,获取样本。
在本实施例中,所述信息预测指令可以由相关工作人员触发,本发明不限制。
所述样本是指能够确定样本间关系的初始数据,所述样本可以从指定数据库中获取(如:从指定企业的数据库中获取),也可以采用网络爬虫技术进行获取。
需要说明的是,传统的特征表示方法,训练集、预测集的分布差异往往会比较大,跨时间验证效果通常比相同时间验证效果差很多。
举例来说,如果要预测一个用户三个月内是否留存,那么为了保持训练集样本的表现期完整性,至少要取三个月前的用户历史数据构造样本特征,取用户未来三个月是否留存作为预测目标,如果没有遵守这一点,只取了一个月前的用户历史数据构造样本特征,则会由于不知道未来两个月会发生什么,导致预测目标未能完全观测,那么采用上述数据训练出来的模型就是不准确的。
又比如,对于流程式的建模场景:假如有人群总体A,经过流程1过滤后只剩下一部分人,记作人群总体B,经过流程2过滤后剩下人群总体C,经过k个流程后得到人群总体K;建模目标可以是相邻两个流程的转化率(如广告曝光到广告点击这个过程的转化率、广告点击到广告转化过程的转化率)。在上述流程式的建模场景下,由于需要经过多个流程的过滤,且各个流程之间的流转都需要一定时间,因此通常整个流程上会具有更长的表现期,训练集会有更严重的时延问题,也就更需要解决表现期长导致训练数据与线上数据间延长的问题。而传统的处理方式通常为分别建立A->B、B->C、C->D...的模型,上述方法的问题是忽略了非相邻流程之间的联系(如A->C、B->D)。
S11,确定所述样本间的关系。
需要说明的是,所述样本间的关系是指多层次关系。
其中,所述多层次关系是多个不同层次的关系网络与不同层之间的连接的并集。每个层次的关系网络都是一个同质图,且多层次关系结合成异质图。传统图神经网络主要处理的是同质图,因此要学习多层次关系,本实施例中可以通过所述样本间的关系兼容异质图特性及同质图特性。
在本发明的至少一个实施例中,所述确定所述样本间的关系包括:
当所述样本是带有关系的结构化数据时,从所述样本中识别所述样本间的关系。
通过上述实施方式,能够直接根据样本自身的属性确定样本间的关系,不仅方便,且效率较高。
当所述样本不是带有关系的结构化数据时,获取预测目标,根据所述预测目标确定所述样本间的关系。
其中,所述预测目标通常是节点的某种未来属性,比如用户未来三个月内是否留存、三个月内是否买保险、1年内的销售额等。
通过上述实施方式,能够在所述样本自身不属于关系型的结构化数据时,基于预测目标建立样本间的关系,为后续关系网络的建立提供基础。
S12,以所述样本中的每个子样本为节点,根据所述样本间的关系建立目标关系网络,其中,所述目标关系网络包括每个样本内的子样本间的层级内关系网络及样本间的层级间关系网络。
在本实施例中,由所有节点及层级间的关系共同构成所述目标关系网络。
例如:每个节点都具有固定维度的特征,并且除了节点特征之外还知道节点之间的关系(比如用户a和用户b微博上相互关注的关系、或者用户d和用户e互为通讯录好友等)。
在本发明的至少一个实施例中,所述根据所述样本间的关系建立目标关系网络包括:
从所述样本间的关系中确定每个样本内各个子样本间的联系;
根据每个样本内各个子样本间的联系连接每个样本内的各个子样本,得到每个样本内的子样本间的层级内关系网络;
从所述样本间的关系中确定不同样本的各个子样本间的联系;
根据所述不同样本的各个子样本间的联系连接不同样本间的各个子样本,得到所述样本间的层级间关系网络;
对每个样本内的子样本间的层级内关系网络及所述样本间的层级间关系网络进行初始化处理,得到所述目标关系网络。
例如,所述目标关系网络的建模思路可以是:对于流程式的建模场景,将流程内人群的关系构造为单层次关系图,即每个样本内的子样本间的层级内关系网络,具体地,将一个流程内具有关联的人进行两两连接。
进一步地,将流程间人群的关系构造为层次间关系,即所述样本间的层级间关系网络,具体地,将不同流程间具有关联的人进行两两连接。
最后将所有这些关系以及节点(即各流程人群)合并成多层次关系图,即所述目标关系网络。
通过上述实施方式,不仅能够得到每个层级内各个节点间的关系,还能够得到不同层级间各个节点间的关系。
具体地,所述对每个样本内的子样本间的层级内关系网络及所述样本间的层级间关系网络进行初始化处理包括:
对于每个样本内的子样本间的层级内关系网络中的第一任意节点,确定所述第一任意节点的第一嵌入向量,及确定在所述第一任意节点所处的层级中与所述第一任意节点连接的上一节点的第二嵌入向量;
采用图卷积网络对所述第一嵌入向量及所述第二嵌入向量进行聚合,得到第三嵌入向量;
拼接所述第三嵌入向量与所述第一嵌入向量,得到所述第一任意节点初始化后的特征表示。
通过上述实施方式,能够对每个样本内的子样本间的层级内关系网络进行初始化处理。
进一步地,所述对每个样本内的子样本间的层级内关系网络及所述样本间的层级间关系网络进行初始化处理还包括:
对于所述样本间的层级间关系网络中的任意节点,确定所述第二任意节点的第四嵌入向量,及确定在所述第二任意节点的上一层级中与所述第二任意节点连接的节点的第五嵌入向量;
采用图卷积网络对所述第四嵌入向量及所述第五嵌入向量进行聚合,得到第六嵌入向量;
拼接所述第六嵌入向量与所述第四嵌入向量,得到所述第二任意节点初始化后的特征表示。
通过上述实施方式,能够进一步对所述样本间的层级间关系网络进行初始化处理。
在本实施例中,所述图卷积网络可以采用如下公式:
H(i)=σ(AH(i-1)W)。
其中,H(i)是第i层关系向量,i为大于或者等于0的整数,A是邻接矩阵,W是图卷积网络的参数,σ是对应的非线性函数。
S13,确定待训练模型,并基于所述目标关系网络对所述待训练模型进行半监督学习,得到目标模型。
在本实施例中,无监督学习或者半监督学习是相对有监督学习而言的,有监督学习指的是样本可以观测到目标变量,而无监督学习指样本不能观测到目标变量,那么半监督学习则指样本总体中只有一部分可以观测到目标变量;非目标变量的信息都属于无监督信息,之所以需要无监督信息,是因为有监督(能观测到目标变量)的样本通常是有限的,甚至没有,而不能观测到目标变量的样本往往更多,因此,要对这些无法观测目标的样本加以利用,便需要采用无监督学习或者半监督学习。
并且,通过使用表现期短的目标变量训练目标模型,可学习到节点的嵌入向量表达,学习到的嵌入向量表达可作为特征用在表现期更长的预测任务中,并且用于训练的数据及用于预测的数据都可有效利用表现期内的信息,逻辑也是一致的。
在本发明的至少一个实施例中,所述确定待训练模型包括:
确定初始模型,及确定当前任务类型;
当所述当前任务类型为节点分类任务时,添加全连接层至所述初始模型,得到所述待训练模型,所述待训练模型以softmax函数作为激活函数;或者
当所述当前任务类型为链接预测任务时,添加sigmoid层至所述初始模型,得到所述待训练模型,所述待训练模型以链接两端节点间的内积作为对应链接的预测概率。
其中,所述节点分类任务是指预测节点的某类别属性,如:预测用户a是否一年内留存。
所述链接预测任务是指预测关系的某属性,如:预测用户u是否会购买物品i,预测用户X是否与用户Y有关系等。
通过上述实施方式,能够基于不同的预测任务训练所述待训练模型,以满足不同的任务需求。
在本发明的至少一个实施例中,所述基于所述目标关系网络对所述待训练模型进行半监督学习,得到目标模型包括:
从所述目标关系网络中获取目标可观测样本;
以所述目标可观测样本构造损失函数;
基于所述损失函数,以所述目标关系网络为训练数据训练所述待训练模型;
当所述损失函数达到收敛时,停止训练,得到所述目标模型。
其中,所述目标可观测样本是指知道目标变量值的样本。所述目标可观测样本与目标未观测样本相对应。
比如,预测场景是用户是否能留存1年,若定义注册后第12个月有活跃记录的用户的已知目标变量值=True,定义注册后第12个月无活跃记录的用户的已知目标变量值=False。那么前两种人群都是目标可观测的样本,而剩下的用户(即:注册还不到1年的哦用户)就是还不知道未来是否留存、目标变量值未能观测的样本,即是目标未观测样本。
目标未观测样本的缺陷主要是还未能观测到其未来的目标变量值,所以通常不能直接用于训练,但其优点是这部分样本通常数量比较大,而且往往是近期样本,有潜在的可用信息,可以利用关系信息对这些目标未观测样本进行利用。
通过上述实施方式,在训练过程中求损失时,只求目标可观测样本的损失,目标未观测样本的损失不求,但是通过对所述目标关系网络的利用,使用的目标可观测样本在特征表达中将会利用到与其有关系的目标未观测样本的特征信息(即:目标可观测节点和目标未观测节点之间有关系),进而使目标未观测样本也能够作为所述目标关系网络的一部分进行信息的传播。
在本实施例中,所述损失函数可以是交叉熵损失函数等,本发明不限制。
在本实施例中,所述目标模型包括图卷积网络,所述方法还包括:
将所述目标关系网络的每个节点输入至所述目标模型,并获取所述图卷积网络的输出作为每个节点更新后的特征表示。
通过上述实施方式,能够在多层次关系场景下,结合半监督学习的目标模型及关系网络进行特征表示,由于目标模型既可以学习监督信号,也可以有效利用表现期内无监督的信息,因此,学习得到的节点特征表示可作为表现期更长的任务的输入,从而补充表现期时期的信息。与传统特征加工方法相比,能够弥补表现期的信息损失,并可应用于多层次关系建模场景。
需要说明的是,为了进一步确保安全性,防止数据被恶意篡改,还可以将训练得到的目标模型及每个节点更新后的特征表示存储于区块链。
S14,获取待预测数据,将所述待预测数据输入至所述目标模型,并获取所述目标模型的输出作为信息预测结果。
例如:当要预测的信息为是否留存时,所述信息预测结果可以包括:“是”、“否”,或者“Y”、“N”等。
通过上述实施方式,能够基于训练的模型实现对是否留存的自动预测,由于模型在训练时同时兼顾了多层级数据间的信息,因此使预测结果更加准确。
在本实施例中,为了保证得到的目标嵌入向量的数据安全,可以将所述目标嵌入向量存储于区块链。
由以上技术方案可以看出,本发明能够当接收到信息预测指令时,获取样本,确定所述样本间的关系,以所述样本中的每个子样本为节点,根据所述样本间的关系建立目标关系网络,其中,所述目标关系网络包括每个样本内的子样本间的层级内关系网络及样本间的层级间关系网络,进而由所有节点及层级间的关系共同构成所述目标关系网络,确定待训练模型,并基于所述目标关系网络对所述待训练模型进行半监督学习,得到目标模型,结合半监督学习的目标模型及关系网络进行特征表示,学习得到的节点特征表示可作为表现期更长的任务的输入,从而补充表现期时期的信息,弥补了表现期的信息损失,并可应用于多层次关系建模场景,进一步获取待预测数据,将所述待预测数据输入至所述目标模型,并获取所述目标模型的输出作为信息预测结果,以基于人工智能手段实现对信息变化趋势的准确预测。
如图2所示,是本发明基于人工智能的信息预测装置的较佳实施例的功能模块图。所述基于人工智能的信息预测装置11包括获取单元110、确定单元111、建立单元112、学习单元113、预测单元114。本发明所称的模块/单元是指一种能够被处理器13所执行,并且能够完成固定功能的一系列计算机程序段,其存储在存储器12中。在本实施例中,关于各模块/单元的功能将在后续的实施例中详述。
当接收到信息预测指令时,获取单元110获取样本。
在本实施例中,所述信息预测指令可以由相关工作人员触发,本发明不限制。
所述样本是指能够确定样本间关系的初始数据,所述样本可以从指定数据库中获取(如:从指定企业的数据库中获取),也可以采用网络爬虫技术进行获取。
需要说明的是,传统的特征表示方法,训练集、预测集的分布差异往往会比较大,跨时间验证效果通常比相同时间验证效果差很多。
举例来说,如果要预测一个用户三个月内是否留存,那么为了保持训练集样本的表现期完整性,至少要取三个月前的用户历史数据构造样本特征,取用户未来三个月是否留存作为预测目标,如果没有遵守这一点,只取了一个月前的用户历史数据构造样本特征,则会由于不知道未来两个月会发生什么,导致预测目标未能完全观测,那么采用上述数据训练出来的模型就是不准确的。
又比如,对于流程式的建模场景:假如有人群总体A,经过流程1过滤后只剩下一部分人,记作人群总体B,经过流程2过滤后剩下人群总体C,经过k个流程后得到人群总体K;建模目标可以是相邻两个流程的转化率(如广告曝光到广告点击这个过程的转化率、广告点击到广告转化过程的转化率)。在上述流程式的建模场景下,由于需要经过多个流程的过滤,且各个流程之间的流转都需要一定时间,因此通常整个流程上会具有更长的表现期,训练集会有更严重的时延问题,也就更需要解决表现期长导致训练数据与线上数据间延长的问题。而传统的处理方式通常为分别建立A->B、B->C、C->D...的模型,上述方法的问题是忽略了非相邻流程之间的联系(如A->C、B->D)。
确定单元111确定所述样本间的关系。
需要说明的是,所述样本间的关系是指多层次关系。
其中,所述多层次关系是多个不同层次的关系网络与不同层之间的连接的并集。每个层次的关系网络都是一个同质图,且多层次关系结合成异质图。传统图神经网络主要处理的是同质图,因此要学习多层次关系,本实施例中可以通过所述样本间的关系兼容异质图特性及同质图特性。
在本发明的至少一个实施例中,所述确定单元111确定所述样本间的关系包括:
当所述样本是带有关系的结构化数据时,从所述样本中识别所述样本间的关系。
通过上述实施方式,能够直接根据样本自身的属性确定样本间的关系,不仅方便,且效率较高。
当所述样本不是带有关系的结构化数据时,获取预测目标,根据所述预测目标确定所述样本间的关系。
其中,所述预测目标通常是节点的某种未来属性,比如用户未来三个月内是否留存、三个月内是否买保险、1年内的销售额等。
通过上述实施方式,能够在所述样本自身不属于关系型的结构化数据时,基于预测目标建立样本间的关系,为后续关系网络的建立提供基础。
建立单元112以所述样本中的每个子样本为节点,根据所述样本间的关系建立目标关系网络,其中,所述目标关系网络包括每个样本内的子样本间的层级内关系网络及样本间的层级间关系网络。
在本实施例中,由所有节点及层级间的关系共同构成所述目标关系网络。
例如:每个节点都具有固定维度的特征,并且除了节点特征之外还知道节点之间的关系(比如用户a和用户b微博上相互关注的关系、或者用户d和用户e互为通讯录好友等)。
在本发明的至少一个实施例中,所述建立单元112根据所述样本间的关系建立目标关系网络包括:
从所述样本间的关系中确定每个样本内各个子样本间的联系;
根据每个样本内各个子样本间的联系连接每个样本内的各个子样本,得到每个样本内的子样本间的层级内关系网络;
从所述样本间的关系中确定不同样本的各个子样本间的联系;
根据所述不同样本的各个子样本间的联系连接不同样本间的各个子样本,得到所述样本间的层级间关系网络;
对每个样本内的子样本间的层级内关系网络及所述样本间的层级间关系网络进行初始化处理,得到所述目标关系网络。
例如,所述目标关系网络的建模思路可以是:对于流程式的建模场景,将流程内人群的关系构造为单层次关系图,即每个样本内的子样本间的层级内关系网络,具体地,将一个流程内具有关联的人进行两两连接。
进一步地,将流程间人群的关系构造为层次间关系,即所述样本间的层级间关系网络,具体地,将不同流程间具有关联的人进行两两连接。
最后将所有这些关系以及节点(即各流程人群)合并成多层次关系图,即所述目标关系网络。
通过上述实施方式,不仅能够得到每个层级内各个节点间的关系,还能够得到不同层级间各个节点间的关系。
具体地,所述建立单元112对每个样本内的子样本间的层级内关系网络及所述样本间的层级间关系网络进行初始化处理包括:
对于每个样本内的子样本间的层级内关系网络中的第一任意节点,确定所述第一任意节点的第一嵌入向量,及确定在所述第一任意节点所处的层级中与所述第一任意节点连接的上一节点的第二嵌入向量;
采用图卷积网络对所述第一嵌入向量及所述第二嵌入向量进行聚合,得到第三嵌入向量;
拼接所述第三嵌入向量与所述第一嵌入向量,得到所述第一任意节点初始化后的特征表示。
通过上述实施方式,能够对每个样本内的子样本间的层级内关系网络进行初始化处理。
进一步地,所述建立单元112对每个样本内的子样本间的层级内关系网络及所述样本间的层级间关系网络进行初始化处理还包括:
对于所述样本间的层级间关系网络中的任意节点,确定所述第二任意节点的第四嵌入向量,及确定在所述第二任意节点的上一层级中与所述第二任意节点连接的节点的第五嵌入向量;
采用图卷积网络对所述第四嵌入向量及所述第五嵌入向量进行聚合,得到第六嵌入向量;
拼接所述第六嵌入向量与所述第四嵌入向量,得到所述第二任意节点初始化后的特征表示。
通过上述实施方式,能够进一步对所述样本间的层级间关系网络进行初始化处理。
在本实施例中,所述图卷积网络可以采用如下公式:
H(i)=σ(AH(i-1)W)。
其中,H(i)是第i层关系向量,i为大于或者等于0的整数,A是邻接矩阵,W是图卷积网络的参数,σ是对应的非线性函数。
学习单元113确定待训练模型,并基于所述目标关系网络对所述待训练模型进行半监督学习,得到目标模型。
在本实施例中,无监督学习或者半监督学习是相对有监督学习而言的,有监督学习指的是样本可以观测到目标变量,而无监督学习指样本不能观测到目标变量,那么半监督学习则指样本总体中只有一部分可以观测到目标变量;非目标变量的信息都属于无监督信息,之所以需要无监督信息,是因为有监督(能观测到目标变量)的样本通常是有限的,甚至没有,而不能观测到目标变量的样本往往更多,因此,要对这些无法观测目标的样本加以利用,便需要采用无监督学习或者半监督学习。
并且,通过使用表现期短的目标变量训练目标模型,可学习到节点的嵌入向量表达,学习到的嵌入向量表达可作为特征用在表现期更长的预测任务中,并且用于训练的数据及用于预测的数据都可有效利用表现期内的信息,逻辑也是一致的。
在本发明的至少一个实施例中,所述学习单元113确定待训练模型包括:
确定初始模型,及确定当前任务类型;
当所述当前任务类型为节点分类任务时,添加全连接层至所述初始模型,得到所述待训练模型,所述待训练模型以softmax函数作为激活函数;或者
当所述当前任务类型为链接预测任务时,添加sigmoid层至所述初始模型,得到所述待训练模型,所述待训练模型以链接两端节点间的内积作为对应链接的预测概率。
其中,所述节点分类任务是指预测节点的某类别属性,如:预测用户a是否一年内留存。
所述链接预测任务是指预测关系的某属性,如:预测用户u是否会购买物品i,预测用户X是否与用户Y有关系等。
通过上述实施方式,能够基于不同的预测任务训练所述待训练模型,以满足不同的任务需求。
在本发明的至少一个实施例中,所述学习单元113基于所述目标关系网络对所述待训练模型进行半监督学习,得到目标模型包括:
从所述目标关系网络中获取目标可观测样本;
以所述目标可观测样本构造损失函数;
基于所述损失函数,以所述目标关系网络为训练数据训练所述待训练模型;
当所述损失函数达到收敛时,停止训练,得到所述目标模型。
其中,所述目标可观测样本是指知道目标变量值的样本。所述目标可观测样本与目标未观测样本相对应。
比如,预测场景是用户是否能留存1年,若定义注册后第12个月有活跃记录的用户的已知目标变量值=True,定义注册后第12个月无活跃记录的用户的已知目标变量值=False。那么前两种人群都是目标可观测的样本,而剩下的用户(即:注册还不到1年的哦用户)就是还不知道未来是否留存、目标变量值未能观测的样本,即是目标未观测样本。
目标未观测样本的缺陷主要是还未能观测到其未来的目标变量值,所以通常不能直接用于训练,但其优点是这部分样本通常数量比较大,而且往往是近期样本,有潜在的可用信息,可以利用关系信息对这些目标未观测样本进行利用。
通过上述实施方式,在训练过程中求损失时,只求目标可观测样本的损失,目标未观测样本的损失不求,但是通过对所述目标关系网络的利用,使用的目标可观测样本在特征表达中将会利用到与其有关系的目标未观测样本的特征信息(即:目标可观测节点和目标未观测节点之间有关系),进而使目标未观测样本也能够作为所述目标关系网络的一部分进行信息的传播。
在本实施例中,所述损失函数可以是交叉熵损失函数等,本发明不限制。
在本实施例中,所述目标模型包括图卷积网络,将所述目标关系网络的每个节点输入至所述目标模型,并获取所述图卷积网络的输出作为每个节点更新后的特征表示。
通过上述实施方式,能够在多层次关系场景下,结合半监督学习的目标模型及关系网络进行特征表示,由于目标模型既可以学习监督信号,也可以有效利用表现期内无监督的信息,因此,学习得到的节点特征表示可作为表现期更长的任务的输入,从而补充表现期时期的信息。与传统特征加工方法相比,能够弥补表现期的信息损失,并可应用于多层次关系建模场景。
需要说明的是,为了进一步确保安全性,防止数据被恶意篡改,还可以将训练得到的目标模型及每个节点更新后的特征表示存储于区块链。
预测单元114获取待预测数据,将所述待预测数据输入至所述目标模型,并获取所述目标模型的输出作为信息预测结果。
例如:当要预测的信息为是否留存时,所述信息预测结果可以包括:“是”、“否”,或者“Y”、“N”等。
通过上述实施方式,能够基于训练的模型实现对是否留存的自动预测,由于模型在训练时同时兼顾了多层级数据间的信息,因此使预测结果更加准确。
在本实施例中,为了保证得到的目标嵌入向量的数据安全,可以将所述目标嵌入向量存储于区块链。
由以上技术方案可以看出,本发明能够当接收到信息预测指令时,获取样本,确定所述样本间的关系,以所述样本中的每个子样本为节点,根据所述样本间的关系建立目标关系网络,其中,所述目标关系网络包括每个样本内的子样本间的层级内关系网络及样本间的层级间关系网络,进而由所有节点及层级间的关系共同构成所述目标关系网络,确定待训练模型,并基于所述目标关系网络对所述待训练模型进行半监督学习,得到目标模型,结合半监督学习的目标模型及关系网络进行特征表示,学习得到的节点特征表示可作为表现期更长的任务的输入,从而补充表现期时期的信息,弥补了表现期的信息损失,并可应用于多层次关系建模场景,进一步获取待预测数据,将所述待预测数据输入至所述目标模型,并获取所述目标模型的输出作为信息预测结果,以基于人工智能手段实现对信息变化趋势的准确预测。
如图3所示,是本发明实现基于人工智能的信息预测方法的较佳实施例的电子设备的结构示意图。
所述电子设备1可以包括存储器12、处理器13和总线,还可以包括存储在所述存储器12中并可在所述处理器13上运行的计算机程序,例如基于人工智能的信息预测程序。
本领域技术人员可以理解,所述示意图仅仅是电子设备1的示例,并不构成对电子设备1的限定,所述电子设备1既可以是总线型结构,也可以是星形结构,所述电子设备1还可以包括比图示更多或更少的其他硬件或者软件,或者不同的部件布置,例如所述电子设备1还可以包括输入输出设备、网络接入设备等。
需要说明的是,所述电子设备1仅为举例,其他现有的或今后可能出现的电子产品如可适应于本发明,也应包含在本发明的保护范围以内,并以引用方式包含于此。
其中,存储器12至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如:SD或DX存储器等)、磁性存储器、磁盘、光盘等。存储器12在一些实施例中可以是电子设备1的内部存储单元,例如该电子设备1的移动硬盘。存储器12在另一些实施例中也可以是电子设备1的外部存储设备,例如电子设备1上配备的插接式移动硬盘、智能存储卡(Smart Media Card,SMC)、安全数字(Secure Digital,SD)卡、闪存卡(Flash Card)等。进一步地,存储器12还可以既包括电子设备1的内部存储单元也包括外部存储设备。存储器12不仅可以用于存储安装于电子设备1的应用软件及各类数据,例如基于人工智能的信息预测程序的代码等,还可以用于暂时地存储已经输出或者将要输出的数据。
处理器13在一些实施例中可以由集成电路组成,例如可以由单个封装的集成电路所组成,也可以是由多个相同功能或不同功能封装的集成电路所组成,包括一个或者多个中央处理器(Central Processing unit,CPU)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。处理器13是所述电子设备1的控制核心(Control Unit),利用各种接口和线路连接整个电子设备1的各个部件,通过运行或执行存储在所述存储器12内的程序或者模块(例如执行基于人工智能的信息预测程序等),以及调用存储在所述存储器12内的数据,以执行电子设备1的各种功能和处理数据。
所述处理器13执行所述电子设备1的操作系统以及安装的各类应用程序。所述处理器13执行所述应用程序以实现上述各个基于人工智能的信息预测方法实施例中的步骤,例如图1所示的步骤。
示例性的,所述计算机程序可以被分割成一个或多个模块/单元,所述一个或者多个模块/单元被存储在所述存储器12中,并由所述处理器13执行,以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述所述计算机程序在所述电子设备1中的执行过程。例如,所述计算机程序可以被分割成生成装置11包括获取单元110、确定单元111、建立单元112、学习单元113、预测单元114。
上述以软件功能模块的形式实现的集成的单元,可以存储在一个计算机可读取存储介质中。上述软件功能模块存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机、计算机设备,或者网络设备等)或处理器(processor)执行本发明各个实施例所述基于人工智能的信息预测方法的部分。
所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指示相关的硬件设备来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。
其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)。
进一步地,计算机可用存储介质可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序等;存储数据区可存储根据区块链节点的使用所创建的数据等。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的目标性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
总线可以是外设部件互连标准(peripheral component interconnect,简称PCI)总线或扩展工业标准结构(extended industry standard architecture,简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。为便于表示,在图3中仅用一根箭头表示,但并不表示仅有一根总线或一种类型的总线。所述总线被设置为实现所述存储器12以及至少一个处理器13等之间的连接通信。
尽管未示出,所述电子设备1还可以包括给各个部件供电的电源(比如电池),优选地,电源可以通过电源管理装置与所述至少一个处理器13逻辑相连,从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备1还可以包括多种传感器、蓝牙模块、Wi-Fi模块等,在此不再赘述。
进一步地,所述电子设备1还可以包括网络接口,可选地,所述网络接口可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等),通常用于在该电子设备1与其他电子设备之间建立通信连接。
可选地,该电子设备1还可以包括用户接口,用户接口可以是显示器(Display)、输入单元(比如键盘(Keyboard)),可选地,用户接口还可以是标准的有线接口、无线接口。可选地,在一些实施例中,显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode,有机发光二极管)触摸器等。其中,显示器也可以适当的称为显示屏或显示单元,用于显示在电子设备1中处理的信息以及用于显示可视化的用户界面。
应该了解,所述实施例仅为说明之用,在专利申请范围上并不受此结构的限制。
图3仅示出了具有组件12-13的电子设备1,本领域技术人员可以理解的是,图3示出的结构并不构成对所述电子设备1的限定,可以包括比图示更少或者更多的部件,或者组合某些部件,或者不同的部件布置。
结合图1,所述电子设备1中的所述存储器12存储多个指令以实现一种基于人工智能的信息预测方法,所述处理器13可执行所述多个指令从而实现:
当接收到信息预测指令时,获取样本;
确定所述样本间的关系;
以所述样本中的每个子样本为节点,根据所述样本间的关系建立目标关系网络,其中,所述目标关系网络包括每个样本内的子样本间的层级内关系网络及样本间的层级间关系网络;
确定待训练模型,并基于所述目标关系网络对所述待训练模型进行半监督学习,得到目标模型;
获取待预测数据,将所述待预测数据输入至所述目标模型,并获取所述目标模型的输出作为信息预测结果。
具体地,所述处理器13对上述指令的具体实现方法可参考图1对应实施例中相关步骤的描述,在此不赘述。
在本发明所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。
因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或等同替换,而不脱离本发明技术方案的精神和范围。
Claims (10)
1.一种基于人工智能的信息预测方法,其特征在于,所述基于人工智能的信息预测方法包括:
当接收到信息预测指令时,获取样本;
确定所述样本间的关系;
以所述样本中的每个子样本为节点,根据所述样本间的关系建立目标关系网络,其中,所述目标关系网络包括每个样本内的子样本间的层级内关系网络及样本间的层级间关系网络;
确定待训练模型,并基于所述目标关系网络对所述待训练模型进行半监督学习,得到目标模型;
获取待预测数据,将所述待预测数据输入至所述目标模型,并获取所述目标模型的输出作为信息预测结果。
2.如权利要求1所述的基于人工智能的信息预测方法,其特征在于,所述根据所述样本间的关系建立目标关系网络包括:
从所述样本间的关系中确定每个样本内各个子样本间的联系;
根据每个样本内各个子样本间的联系连接每个样本内的各个子样本,得到每个样本内的子样本间的层级内关系网络;
从所述样本间的关系中确定不同样本的各个子样本间的联系;
根据所述不同样本的各个子样本间的联系连接不同样本间的各个子样本,得到所述样本间的层级间关系网络;
对每个样本内的子样本间的层级内关系网络及所述样本间的层级间关系网络进行初始化处理,得到所述目标关系网络。
3.如权利要求2所述的基于人工智能的信息预测方法,其特征在于,所述对每个样本内的子样本间的层级内关系网络及所述样本间的层级间关系网络进行初始化处理包括:
对于每个样本内的子样本间的层级内关系网络中的第一任意节点,确定所述第一任意节点的第一嵌入向量,及确定在所述第一任意节点所处的层级中与所述第一任意节点连接的上一节点的第二嵌入向量;
采用图卷积网络对所述第一嵌入向量及所述第二嵌入向量进行聚合,得到第三嵌入向量;
拼接所述第三嵌入向量与所述第一嵌入向量,得到所述第一任意节点初始化后的特征表示。
4.如权利要求2所述的基于人工智能的信息预测方法,其特征在于,所述对每个样本内的子样本间的层级内关系网络及所述样本间的层级间关系网络进行初始化处理还包括:
对于所述样本间的层级间关系网络中的任意节点,确定所述第二任意节点的第四嵌入向量,及确定在所述第二任意节点的上一层级中与所述第二任意节点连接的节点的第五嵌入向量;
采用图卷积网络对所述第四嵌入向量及所述第五嵌入向量进行聚合,得到第六嵌入向量;
拼接所述第六嵌入向量与所述第四嵌入向量,得到所述第二任意节点初始化后的特征表示。
5.如权利要求1所述的基于人工智能的信息预测方法,其特征在于,所述确定待训练模型包括:
确定初始模型,及确定当前任务类型;
当所述当前任务类型为节点分类任务时,添加全连接层至所述初始模型,得到所述待训练模型,所述待训练模型以softmax函数作为激活函数;或者
当所述当前任务类型为链接预测任务时,添加sigmoid层至所述初始模型,得到所述待训练模型,所述待训练模型以链接两端节点间的内积作为对应链接的预测概率。
6.如权利要求1所述的基于人工智能的信息预测方法,其特征在于,所述基于所述目标关系网络对所述待训练模型进行半监督学习,得到目标模型包括:
从所述目标关系网络中获取目标可观测样本;
以所述目标可观测样本构造损失函数;
基于所述损失函数,以所述目标关系网络为训练数据训练所述待训练模型;
当所述损失函数达到收敛时,停止训练,得到所述目标模型。
7.如权利要求1所述的基于人工智能的信息预测方法,其特征在于,所述目标模型包括图卷积网络,所述方法还包括:
将所述目标关系网络的每个节点输入至所述目标模型,并获取所述图卷积网络的输出作为每个节点更新后的特征表示。
8.一种基于人工智能的信息预测装置,其特征在于,所述基于人工智能的信息预测装置包括:
获取单元,用于当接收到信息预测指令时,获取样本;
确定单元,用于确定所述样本间的关系;
建立单元,用于以所述样本中的每个子样本为节点,根据所述样本间的关系建立目标关系网络,其中,所述目标关系网络包括每个样本内的子样本间的层级内关系网络及样本间的层级间关系网络;
学习单元,用于确定待训练模型,并基于所述目标关系网络对所述待训练模型进行半监督学习,得到目标模型;
预测单元,用于获取待预测数据,将所述待预测数据输入至所述目标模型,并获取所述目标模型的输出作为信息预测结果。
9.一种电子设备,其特征在于,所述电子设备包括:
存储器,存储至少一个指令;及
处理器,执行所述存储器中存储的指令以实现如权利要求1至7中任意一项所述的基于人工智能的信息预测方法。
10.一种计算机可读存储介质,其特征在于:所述计算机可读存储介质中存储有至少一个指令,所述至少一个指令被电子设备中的处理器执行以实现如权利要求1至7中任意一项所述的基于人工智能的信息预测方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010898971.8A CN112036642A (zh) | 2020-08-31 | 2020-08-31 | 基于人工智能的信息预测方法、装置、设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010898971.8A CN112036642A (zh) | 2020-08-31 | 2020-08-31 | 基于人工智能的信息预测方法、装置、设备及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112036642A true CN112036642A (zh) | 2020-12-04 |
Family
ID=73586527
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010898971.8A Pending CN112036642A (zh) | 2020-08-31 | 2020-08-31 | 基于人工智能的信息预测方法、装置、设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112036642A (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108257033A (zh) * | 2018-01-12 | 2018-07-06 | 中国平安人寿保险股份有限公司 | 一种保单分析方法、装置、终端设备及存储介质 |
CN110570111A (zh) * | 2019-08-30 | 2019-12-13 | 阿里巴巴集团控股有限公司 | 企业风险预测方法、模型训练方法、装置及设备 |
US20200036611A1 (en) * | 2018-07-24 | 2020-01-30 | Baidu Online Network Technology (Beijing) Co., Ltd. | Method and apparatus for warning |
CN111026973A (zh) * | 2019-12-27 | 2020-04-17 | 支付宝(杭州)信息技术有限公司 | 一种商品兴趣度预测方法、装置及电子设备 |
-
2020
- 2020-08-31 CN CN202010898971.8A patent/CN112036642A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108257033A (zh) * | 2018-01-12 | 2018-07-06 | 中国平安人寿保险股份有限公司 | 一种保单分析方法、装置、终端设备及存储介质 |
US20200036611A1 (en) * | 2018-07-24 | 2020-01-30 | Baidu Online Network Technology (Beijing) Co., Ltd. | Method and apparatus for warning |
CN110570111A (zh) * | 2019-08-30 | 2019-12-13 | 阿里巴巴集团控股有限公司 | 企业风险预测方法、模型训练方法、装置及设备 |
CN111026973A (zh) * | 2019-12-27 | 2020-04-17 | 支付宝(杭州)信息技术有限公司 | 一种商品兴趣度预测方法、装置及电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2020247499A1 (en) | Machine learning pipeline optimization | |
CN112231586A (zh) | 基于迁移学习的课程推荐方法、装置、设备及介质 | |
CN112801718A (zh) | 用户行为预测方法、装置、设备及介质 | |
CN113946690A (zh) | 潜在客户挖掘方法、装置、电子设备及存储介质 | |
CN114781832A (zh) | 课程推荐方法、装置、电子设备及存储介质 | |
CN114881616A (zh) | 业务流程执行方法、装置、电子设备及存储介质 | |
CN114612194A (zh) | 产品推荐方法、装置、电子设备及存储介质 | |
CN112948275A (zh) | 测试数据生成方法、装置、设备及存储介质 | |
CN113626606A (zh) | 信息分类方法、装置、电子设备及可读存储介质 | |
CN114511038A (zh) | 虚假新闻检测方法、装置、电子设备及可读存储介质 | |
CN112396547B (zh) | 基于无监督学习的课程推荐方法、装置、设备及介质 | |
CN111950707B (zh) | 基于行为共现网络的行为预测方法、装置、设备及介质 | |
CN112700261B (zh) | 基于可疑社团的刷单行为检测方法、装置、设备及介质 | |
CN113344673A (zh) | 产品推送方法、装置、电子设备及存储介质 | |
CN113256181A (zh) | 风险因子预测方法、装置、设备及介质 | |
CN111652282A (zh) | 基于大数据的用户偏好分析方法、装置及电子设备 | |
CN113869992B (zh) | 基于人工智能的产品推荐方法、装置、电子设备及介质 | |
CN112330080B (zh) | 基于连通图的因子筛选方法、装置、设备及介质 | |
CN112036642A (zh) | 基于人工智能的信息预测方法、装置、设备及介质 | |
CN113657546A (zh) | 信息分类方法、装置、电子设备及可读存储介质 | |
CN114399368A (zh) | 基于人工智能的商品推荐方法、装置、电子设备及介质 | |
CN113256191A (zh) | 基于分类树的风险预测方法、装置、设备及介质 | |
Settipalli et al. | Provider profiling and labeling of fraudulent health insurance claims using Weighted MultiTree | |
CN112651778B (zh) | 用户行为预测方法、装置、设备及介质 | |
CN116629596B (zh) | 供应链风险预测方法、装置、设备及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |