CN111861583B - 一种广告点击率的预测方法、装置及计算机可读存储介质 - Google Patents

一种广告点击率的预测方法、装置及计算机可读存储介质 Download PDF

Info

Publication number
CN111861583B
CN111861583B CN202010761666.4A CN202010761666A CN111861583B CN 111861583 B CN111861583 B CN 111861583B CN 202010761666 A CN202010761666 A CN 202010761666A CN 111861583 B CN111861583 B CN 111861583B
Authority
CN
China
Prior art keywords
layer
low
feature vector
advertisement click
order feature
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010761666.4A
Other languages
English (en)
Other versions
CN111861583A (zh
Inventor
廖殷
池小波
乐红霞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chengdu Pingmeng Technology Co ltd
Original Assignee
Chengdu Xinchao Media Group Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Chengdu Xinchao Media Group Co Ltd filed Critical Chengdu Xinchao Media Group Co Ltd
Priority to CN202010761666.4A priority Critical patent/CN111861583B/zh
Publication of CN111861583A publication Critical patent/CN111861583A/zh
Application granted granted Critical
Publication of CN111861583B publication Critical patent/CN111861583B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/02—Marketing; Price estimation or determination; Fundraising
    • G06Q30/0241—Advertisements
    • G06Q30/0242—Determining effectiveness of advertisements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/25—Fusion techniques
    • G06F18/253—Fusion techniques of extracted features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Strategic Management (AREA)
  • General Physics & Mathematics (AREA)
  • Development Economics (AREA)
  • Economics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • General Business, Economics & Management (AREA)
  • Artificial Intelligence (AREA)
  • Marketing (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Human Resources & Organizations (AREA)
  • Game Theory and Decision Science (AREA)
  • Accounting & Taxation (AREA)
  • Finance (AREA)
  • Health & Medical Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Mathematical Physics (AREA)
  • Computing Systems (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Software Systems (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Tourism & Hospitality (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种广告点击率的预测方法、装置及计算机可读存储介质，所述方法包括：获取广告点击数据；将广告点击数据输入广告点击率预测模型，得到广告点击数据对应广告的点击率预测结果，广告点击率预测模型包括高阶特征向量提取层、低阶特征向量提取层和第一通道融合层；高阶特征向量提取层，用于提取广告点击数据的高阶特征向量；低阶特征向量提取层，用于提取广告点击数据的低阶特征向量；第一通道融合层，用于将高阶特征向量和低阶特征向量进行通道融合，得到广告点击数据的特征向量。本发明可实现广告点击数据高阶特征向量和低阶特征向量的提取与融合，保证了数据特征信息提取的全面性和丰富性，进而提高了广告点击率预测结果的可靠性。

Description

一种广告点击率的预测方法、装置及计算机可读存储介质
技术领域
本发明涉及广告点击率的预测技术领域，具体涉及一种广告点击率的预测方法、装置及计算机可读存储介质。
背景技术
随着互联网的快速普及和发展，利用互联网进行在线广告推广产品已经成为一种非常重要的营销方式。广告点击率是指广告点击次数与广告展示次数的比率，广告点击率越高，说明用户对该广告越感兴趣，正确预测广告点击率是实现产品精准营销的重要手段，也是反映广告投放效果和评估广告转化率的重要指标。因此，实现广告点击率的正确预测具有十分重要的现实意义。
广告点击率预测涉及大量语料的处理和分类预测，目前，较为常见的有长短期记忆网络(Long Short-Term Memory，LSTM)与神经网络的结合、深度因子分解机(Factorization Machine，FM)、各种卷积点击率预测模型(如Liu等人提出的模型)和基于GRU(Gated Recurrent Unit，LSTM的一种变体)神经网络的点击率预测模型等。
采用卷积神经网络对数据进行特征提取，再将该部分特征输入神经网络能够实现点击率的预测分析，但是卷积神经网络中卷积感受野设置不同，在池化处理时容易丢失特征信息，数据的高阶特征信息和低阶特征信息往往只能保留一个，不能满足数据特征信息的全面性，大大的降低了广告点击率预测的可靠性。
发明内容
为了解决现有广告点击率预测模型所存在的数据提取不全面，导致广告点击率预测结果可靠性不高的问题，本发明的目的在于提供一种能够同时提取数据的高阶特征向量和低阶特征向量，使深层语义信息与浅层语义信息形成更好的映射，保证了数据特征信息提取全面性的广告点击率的预测方法、装置和计算机可读存储介质。
第一方面，本发明提供了一种广告点击率的预测方法，包括：
获取广告点击数据；
将所述广告点击数据输入广告点击率预测模型，得到广告点击数据对应广告的点击率预测结果，其中，所述广告点击率预测模型包括高阶特征向量提取层、低阶特征向量提取层和第一通道融合层；
所述高阶特征向量提取层，用于提取所述广告点击数据的高阶特征向量；
所述低阶特征向量提取层，用于提取所述广告点击数据的低阶特征向量；
所述第一通道融合层，用于将所述高阶特征向量和所述低阶特征向量进行通道融合，得到所述广告点击数据的特征向量。
基于上述公开的内容，本发明能够使用广告点击率预测模型中的高阶特征向量提取层提取广告点击数据的高阶特征向量，同时还能够使用低阶特征向量提取层提取广告点击数据的低阶特征向量，实现了广告点击数据的高阶和低阶特征向量的同时提取；并在提取后，还使用第一通道融合层进行高阶和低阶特征向量的通道融合，实现了不同阶数特征的交互融合，得到了具有广告点击数据全面特征信息的特征向量，进而得到了广告点击数据的深层语义信息和浅层语义信息，保证了数据提取的全面性。
综上所述，本发明可实现广告点击数据高阶特征向量和低阶特征向量的提取与融合，保证了广告点击数据特征信息提取的全面性和丰富性，进而提高了广告点击率预测结果的可靠性。
在一个可能的设计中，所述低阶特征向量提取层包括：卷积结构层、第一卷积池化结构层、第二卷积池化结构层和池化结构层；
所述卷积结构层，用于提取所述广告点击数据的特征信息，得到所述广告点击数据的初始特征图；
所述第一卷积池化结构层，用于提取所述初始特征图中的特征信息，得到所述广告点击数据的第一低阶特征向量；
所述第二卷积池化结构层，用于提取所述第一低阶特征向量中的特征信息，得到所述广告点击数据的第二低阶特征向量；
所述池化结构层，用于去除所述第二低阶特征向量中的冗余信息，并对去除冗余信息后的第二低阶特征向量进行突出特征信息的提取，得到所述广告点击数据的低阶特征向量，其中，所述突出特征信息为去除冗余信息后的第二低阶特征向量中权重值最大的特征信息。
基于上述公开的内容，本发明公开了低阶特征向量提取层的网络组成结构，即利用卷积结构层、第一卷积池化结构层、第二卷积池化结构层和池化结构层对广告点击数据中的特征信息进行不断的提取，提取完毕后，即可得到广告点击数据的低阶特征向量。
在一个可能的设计中，所述卷积结构层包括：第一卷积层和第二通道融合层，其中，所述第一卷积层共有8层；
所述第一卷积层，用于对所述广告点击数据进行第一卷积处理，得到所述广告点击数据的第三低阶特征向量；
所述第二通道融合层，用于对所述第一卷积层中的第m层和第n层进行第一卷积处理得到的所述第三低阶特征向量进行通道融合，得到所述广告点击数据的初始特征图，其中，m、n为正整数，m＜8，n≤8，且m≠n。
基于上述公开的内容，本发明公开了卷积结构层中的具体网络结构，即利用第一卷积层对广告点击数据进行特征信息的提取，得到广告点击数据的第三低阶特征向量，而第二通道融合层则用于对第一卷积层中的第m层和第n层的第三低阶特征向量进行通道融合(例如第六层和第八层)，完成两个第三低阶特征向量中特征信息的融合，得到包含有更为丰富特征信息的初始特征图，为后续第一卷积池化结构层进行特征信息的提取提供数据基础。
在一个可能的设计中，所述第一卷积池化结构层包括：第二卷积层、第一最大池化层和第三通道融合层，其中，所述第二卷积层的层数为1；
所述第二卷积层，用于对所述初始特征图进行第二卷积处理，得到所述广告点击数据的第四低阶特征向量；
所述第一最大池化层，用于对所述初始特征图进行第一最大池化处理，得到所述广告点击数据的第五低阶特征向量；
所述第三通道融合层，用于将所述第四低阶特征向量和所述第五低阶特征向量进行通道融合，得到所述广告点击数据的所述第一低阶特征向量。
基于上述公开的内容，本发明公开了第一卷积池化结构层的具体网络结构，即利用第二卷积层和第一最大池化层，对广告点击数据的初始特征图进行第二卷积处理和第一最大池化处理，其实质为：提取初始特征图中的特征信息，只是第一最大池化层提取的为初始特征图中的突出特征信息，提取完毕后，再使用第三通道融合层完成提取出的特征信息的交融，融合完毕后，即可得到第一低阶特征向量，即第一卷积池化结果层是对卷积结构层中提取出的特征信息进行特征信息再提取的过程。
在一个可能的设计中，所述第二卷积池化结构层包括：第二最大池化层、第三卷积层、第四卷积层、第四通道融合层和第五卷积层，其中，所述第三卷积层和所述第五卷积层的层数分别为1，所述第四卷积层的层数为2；
所述第二最大池化层，用于对所述第一低阶特征向量进行第二最大池化处理，得到所述广告点击数据的第六低阶特征向量；
所述第三卷积层，用于对所述第一低阶特征向量进行第三卷积处理，得到所述广告点击数据的第七低阶特征向量；
所述第四卷积层，用于对所述第一低阶特征向量进行第四卷积处理，得到所述广告点击数据的第八低阶特征向量；
所述第四通道融合层，用于将所述第六低阶特征向量、所述第七低阶特征向量和所述第八低阶特征向量进行通道融合，得到所述广告点击数据的第九低阶特征向量；
所述第五卷积层，用于对所述第九低阶特征向量进行第五卷积处理，得到所述广告点击数据的所述第二低阶特征向量。
基于上述公开的内容，本发明公开了第二卷积池化结构层的具体网络结构，其作用与第一卷积池化结构层的作用相同，即是对第一卷积池化结构层提取出的特征信息进行特征信息再提取的过程，以得到广告点击数据的第二低阶特征向量，不同点仅仅为内部进行卷积和池化的次数以及使用的卷积核不同。
在一个可能的设计中，所述池化结构层包括：第五通道融合层、第三最大池化层和三种平均池化层，其中，所述三种平均池化层中的每种平均池化层的层数均为1；
所述三种平均池化层中的每种平均池化层，用于对所述第二低阶特征向量进行平均池化处理，分别得到所述广告点击数据的第十低阶特征向量、第十一低阶特征向量和第十二低阶特征向量；
所述第五通道融合层，用于将所述第十低阶特征向量、所述第十一低阶特征向量和所述第十二低阶特征向量进行通道融合，得到所述广告点击数据的第十三低阶特征向量；
所述第三最大池化层，用于对所述第十三低阶特征向量进行第三最大池化处理，得到所述广告点击数据的低阶特征向量。
基于上述公开的内容，本发明公开了池化结构层的具体网络结构，即利用平均池化层去除第二低阶特征向量中的冗余信息，避免提取出冗余信息，影响广告点击率的预测结果，同时，还将进行平均池化得到的特征向量进行通道融合，完成不同特征向量中特征信息的交融，保证特征信息的全面性，最后，即可使用第三最大池化层，实现第十三低阶特征信息中突出特征信息的提取，以便得到最能反映广告点击数据的特征信息，即得到广告点击数据的低阶特征向量。
在一个可能的设计中，所述方法还包括：
利用通道剪枝算法压缩所述低阶特征向量提取层，得到压缩后的低阶特征向量提取层，其中，所述压缩后的低阶特征向量提取层中第一网络层与第二网络层之间的通道数少于所述低阶特征向量提取层中第一网络层与第二网络层之间的通道数，所述第一网络层为数据传输方向上的发送层，所述第二网络层为数据传输方向上的接收层。
基于上述公开的内容，本发明还使用通道剪枝算法压缩低阶特征向量提取层，以减少数据传输方向上网络层之间的通道数，进而可减少提取过程中的网络深度，降低提取过程中模型计算资源的消耗，减少计算量，提高运行速度。
第二方面，本发明提供了一种广告点击率的预测装置，包括：获取单元和预测单元；
所述获取单元，用于获取广告点击数据；
所述预测单元，用于将所述广告点击数据输入广告点击率预测模型，得到广告点击数据对应广告的点击率预测结果，其中，所述广告点击率预测模型包括高阶特征向量提取层、低阶特征向量提取层和第一通道融合层。
在一个可能的设计中，所述预测单元包括：初始特征图生成子单元、第一低阶特征向量提取子单元、第二低阶特征向量提取子单元和低阶特征向量提取子单元；
所述初始特征图生成子单元，用于利用卷积结构层，提取所述广告点击数据的特征信息，得到所述广告点击数据的初始特征图；
所述第一低阶特征向量提取子单元，用于利用第一卷积池化结构层，提取所述初始特征图中的特征信息，得到所述广告点击数据的第一低阶特征向量；
所述第二低阶特征向量提取子单元，用于利用第二卷积池化结构层，提取所述第一低阶特征向量中的特征信息，得到所述广告点击数据的第二低阶特征向量；
所述低阶特征向量提取子单元，用于利用池化结构层，去除所述第二低阶特征向量中的冗余信息，并对去除冗余信息后的第二低阶特征向量进行突出特征信息的提取，得到所述广告点击数据的低阶特征向量，其中，所述突出特征信息为去除冗余信息后的第二低阶特征向量中权重值最大的特征信息。
在一个可能的设计中；
所述初始特征图生成子单元，具体利用所述卷积结构层中的第一卷积层，对所述广告点击数据进行第一卷积处理，得到所述广告点击数据的第三低阶特征向量；
所述初始特征图生成子单元，还具体利用所述卷积结构层中的第二通道融合层，对所述第一卷积层中的第m层和第n层进行第一卷积处理得到的所述第三低阶特征向量进行通道融合，得到所述广告点击数据的初始特征图，其中，m、n为正整数，m＜8，n≤8，且m≠n。
在一个可能的设计中；
所述第一低阶特征向量提取子单元，具体利用所述第一卷积池化结构层中的第二卷积层，对所述初始特征图进行第二卷积处理，得到所述广告点击数据的第四低阶特征向量；
所述第一低阶特征向量提取子单元，具体利用所述第一卷积池化结构层中的第一最大池化层，对所述初始特征图进行第一最大池化处理，得到所述广告点击数据的第五低阶特征向量；
所述第一低阶特征向量提取子单元，还具体利用所述第一卷积池化结构层中的第三通道融合层，将所述第四低阶特征向量和所述第五低阶特征向量进行通道融合，得到所述广告点击数据的所述第一低阶特征向量。
在一个可能的设计中；
所述第二低阶特征向量提取子单元，具体利用所述第二卷积池化结构层中的第二最大池化层，对所述第一低阶特征向量进行第二最大池化处理，得到所述广告点击数据的第六低阶特征向量；
所述第二低阶特征向量提取子单元，具体利用所述第二卷积池化结构层中的第三卷积层，对所述第一低阶特征向量进行第三卷积处理，得到所述广告点击数据的第七低阶特征向量；
所述第二低阶特征向量提取子单元，具体利用所述第二卷积池化结构层中的第四卷积层，对所述第一低阶特征向量进行第四卷积处理，得到所述广告点击数据的第八低阶特征向量；
所述第二低阶特征向量提取子单元，具体利用所述第二卷积池化结构层中的第四通道融合层，将所述第六低阶特征向量、所述第七低阶特征向量和所述第八低阶特征向量进行通道融合，得到所述广告点击数据的第九低阶特征向量；
所述第二低阶特征向量提取子单元，还具体利用所述第二卷积池化结构层中的第五卷积层，对所述第九低阶特征向量进行第五卷积处理，得到所述广告点击数据的所述第二低阶特征向量。
在一个可能的设计中；
所述低阶特征向量提取子单元，具体利用所述池化结构层中的三种平均池化层中的每种平均池化层，对所述第二低阶特征向量进行平均池化处理，分别得到所述广告点击数据的第十低阶特征向量、第十一低阶特征向量和第十二低阶特征向量；
所述低阶特征向量提取子单元，具体利用所述池化结构层中的第五通道融合层，将所述第十低阶特征向量、所述第十一低阶特征向量和所述第十二低阶特征向量进行通道融合，得到所述广告点击数据的第十三低阶特征向量；
所述低阶特征向量提取子单元，具体利用所述池化结构层中的第三最大池化层，对所述第十三低阶特征向量进行第三最大池化处理，得到所述广告点击数据的低阶特征向量。
在一个可能的设计中，所述装置还包括：压缩单元；
所述压缩单元，用于利用通道剪枝算法压缩所述低阶特征向量提取层，得到压缩后的低阶特征向量提取层，其中，所述压缩后的低阶特征向量提取层中第一网络层与第二网络层之间的通道数少于所述低阶特征向量提取层中第一网络层与第二网络层之间的通道数，所述第一网络层为数据传输方向上的发送层，所述第二网络层为数据传输方向上的接收层。
第三方面，本发明提供了另一种广告点击率的预测装置，包括依次通信相连的存储器、处理器和收发器，其中，所述存储器用于存储计算机程序，所述收发器用于收发消息，所述处理器用于读取所述计算机程序，执行如第一方面或第一方面中任意一种可能设计的所述广告点击率的预测方法。
第四方面，本发明提供了一种计算机可读存储介质，所述计算机可读存储介质上存储有指令，当所述指令在计算机上运行时，执行如第一方面或第一方面中任意一种可能设计的所述广告点击率的预测方法。
第五方面，本发明提供了一种包含指令的计算机程序产品，当所述指令在计算机上运行时，使所述计算机执行如第一方面或第一方面中任意一种可能设计的所述广告点击率的预测方法。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本发明提供的广告点击率预测模型的网络结构示意图。
图2是本发明提供的广告点击率的预测方法的流程示意图。
图3是本发明提供的低阶特征向量提取层的网络结构示意图。
图4是本发明提供的第二卷积池化结构层的网络结构示意图。
图5是本发明提供的低阶特征向量提取层压缩的过程示意图。
图6是本发明提供的第一种广告点击率的预测装置的结构示意图。
图7是本发明提供的第二种广告点击率的预测装置的结构示意图。
附图标记，1-高阶特征向量提取层；2-低阶特征向量提取层；3-第一通道融合层；4-卷积结构层；5-第一卷积池化结构层；6-第二卷积池化结构层；7-池化结构层；8-第一网络层；9-第二网络层；401-第一卷积层；601-第四卷积层；701-平均池化层。
具体实施方式
下面结合附图及具体实施例来对本发明作进一步阐述。在此需要说明的是，对于下述实施例说明虽然是用于帮助理解本发明，但并不构成对本发明的限定。本文公开的特定结构和功能细节仅用于描述本发明的示例实施例。然而，可用很多备选的形式来体现本发明，并且不应当理解为本发明限制在本文阐述的实施例中。
应当理解，尽管本文可能使用术语第一、第二等等来描述各种单元，但是这些单元不应当受到这些术语的限制。这些术语仅用于区分一个单元和另一个单元。例如可以将第一单元称作第二单元,并且类似地可以将第二单元称作第一单元，同时不脱离本发明的示例实施例的范围。
应当理解，对于本文中可能出现的术语“和/或”，其仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，单独存在B，同时存在A和B三种情况；对于本文中可能出现的术语“/和”，其是描述另一种关联对象关系，表示可以存在两种关系，例如，A/和B，可以表示：单独存在A，单独存在A和B两种情况；另外，对于本文中可能出现的字符“/”，一般表示前后关联对象是一种“或”关系。
应当理解，在本文中若将单元称作与另一个单元“连接”、“相连”或“耦合”时，它可以与另一个单元直相连接或耦合，或中间单元可以存在。相対地，在本文中若将单元称作与另一个单元“直接相连”或“直接耦合”时，表示不存在中间单元。另外，应当以类似方式来解释用于描述单元之间的关系的其他单词(例如，“在……之间”对“直接在……之间”,“相邻”对“直接相邻”等等)。
应当理解，本文使用的术语仅用于描述特定实施例，并不意在限制本发明的示例实施例。若本文所使用的，单数形式“一”、“一个”以及“该”意在包括复数形式，除非上下文明确指示相反意思。还应当理解，若术语“包括”、“包括了”、“包含”和/或“包含了”在本文中被使用时,指定所声明的特征、整数、步骤、处理、单元和/或组件的存在性,并且不排除一个或多个其他特征、数量、步骤、处理、单元、组件和/或他们的组合存在性或增加。
应当理解，还应当注意到在一些备选实施例中，所出现的功能/动作可能与附图出现的顺序不同。例如,取决于所涉及的功能/动作,实际上可以并发地执行,或者有时可以以相反的顺序来执行连续示出的两个图。
应当理解，在下面的描述中提供了特定的细节,以便于对示例实施例的完全理解。然而,本领域普通技术人员应当理解可以在没有这些特定细节的情况下实现示例实施例。例如可以在框图中示出系统，以避免用不必要的细节来使得示例不清楚。在其他实例中，可以不以不必要的细节来示出众所周知的过程、结构和技术，以避免使得示例实施例不清楚。
实施例
请参见图1，为本实施例提供一种广告点击率预测模型，包括高阶特征向量提取层、低阶特征向量提取层和第一通道融合层，其中，高阶特征向量提取层，用于提取所述广告点击数据的高阶特征向量(即广告点击数据的深层语义信息)，低阶特征向量提取层，用于提取所述广告点击数据的低阶特征向量(即广告点击数据的浅层语义信息)，而第一通道融合层，用于将所述高阶特征向量和所述低阶特征向量进行通道融合，得到所述广告点击数据的特征向量(即进行不同阶数特征信息的融合，得到信息全面的特征向量)。
下面结合附图介绍本申请实施例提供的技术方案，在下面的介绍过程中，以将本申请实施例提供的技术方案应用在图1所示的模型架构中为例。
如图1～5所示，本实施例第一方面所提供的广告点击率的预测方法，可适用于任何领域广告的点击率的预测，其中，对用户点击广告的载体不做任何限制，可以但不限于网页和各种应用程序(Appl ication，App)等。
本实施例第一方面所提供的广告点击率的预测的方法，可以但不限于包括有如下步骤S101～S102。
S101.获取广告点击数据。
步骤S101则是获取用户广告点击数据的过程，以便后续输入模型中，得到广告点击率的预测结果。
在本实施例中，举例广告点击数据的获取可以但不限于为：通过网络爬虫的方式获取某个或某几个搜索引擎、购物平台和/或网页连续一段时间(如一周、一个月或两个月等)内的广告点击数据，其中，广告点击数据可以但不限于包括：用户点击数据和点击的广告信息数据(例如，广告的名称和/或关键词、广告内产品的价格等)。
S102.将所述广告点击数据输入广告点击率预测模型，得到广告点击数据对应广告的点击率预测结果。
步骤S102则是将获取的广告点击数据输入至广告预测模型中，得出广告点击率预测结果的过程。
由于在上述就已说明，本实施例中的模型包括有高阶特征向量提取层、低阶特征向量提取层和第一通道融合层，所以，当广告点击数据输入至模型中后，会进行高阶特征向量以及低阶特征向量的提取，然后进行高阶特征向量和低阶特征向量的信息融合，得到包含有全面特征信息的特征向量，进而模型可对得出的特征向量进行计算(如进行多次卷积)，得到广告点击数据对应广告的点击率预测结果。
在本实施例中，高阶特征向量提取层包括输入层和多个连接层，其可直接与因子分解机(FM)相连，将因子分解机输出的参数(即输出的二阶交叉特征)作为初始特征向量，利用与输入层相连的连接层对初始特征向量进行简单拼接，实现特征向量的隐式交叉，并把交叉结果输入至下一连接层进行再次交叉，即本申请中的高阶特征向量提取层利用多个连接层对初始特征向量进行多次隐式交叉，即对二阶交叉特征不断的进行再交叉，进而不断的增加特征的阶数以及权重，以实现高阶特征向量的提取。
从图1中就可看出，低阶特征向量提取层输出的结果会与左边提取的高阶特征向量进行通道融合，最后输出带有数据全面特征信息的特征向量，图1中V为模型提取数据最终的隐向量，即数据的特征向量，而W为每个隐向量的权重。
在本实施例中，需要解释高阶特征向量和低阶特征向量的区别：低阶特征向量是只进行了2个原始特征(数据只进行一次卷积处理后所得到的特征向量)的交叉，而高阶特征向量则是进行了多个原始特征的交叉(大于2个)。
通过前述步骤S101～S102所详细描述的广告点击率的预测方法，本发明可实现广告点击数据高阶特征向量和低阶特征向量的提取与融合，保证了广告点击数据特征信息提取的全面性和丰富性，进而提高了广告点击率预测结果的可靠性。
下面对低阶特征向量提取层的具体网络结构进行具体的阐述：
如图3和图4所示，在本实施例中，举例低阶特征向量提取层可以但不限于包括卷积结构层、第一卷积池化结构层、第二卷积池化结构层和池化结构层。
其中，所述卷积结构层，用于提取所述广告点击数据的特征信息，得到所述广告点击数据的初始特征图。
所述第一卷积池化结构层，用于提取所述初始特征图中的特征信息，得到所述广告点击数据的第一低阶特征向量。
所述第二卷积池化结构层，用于提取所述第一低阶特征向量中的特征信息，得到所述广告点击数据的第二低阶特征向量。
所述池化结构层，用于去除所述第二低阶特征向量中的冗余信息，并对去除冗余信息后的第二低阶特征向量进行突出特征信息的提取，得到所述广告点击数据的低阶特征向量，其中，所述突出特征信息为去除冗余信息后的第二低阶特征向量中权重值最大的特征信息。
通过上述设计：低阶特征向量提取层则是利用卷积结构层、第一卷积池化结构层、第二卷积池化结构层和池化结构层，不断的对广告点击数据进行特征信息的提取，即先用卷积结构层进行广告点击数据特征信息的第一次提取，得到广告点击数据的初始特征图，然后再使用第一卷积池化结构层，提取初始特征图中的特征信息，得到广告点击数据的第一低阶特征向量，完成广告点击数据特征信息的第二次提取；其次，再使用第二卷积池化结构层提取第一低阶特征向量中的特征信息，得到第二低阶特征向量，进而完成广告点击数据特征信息的第三次提取；最后，则使用池化结构层进行第二低阶特征向量中冗余信息的去除，并进行突出特征信息的提取，进而得到广告点击数据的低阶特征向量。
在本实施例中，突出特征信息为一个特征向量中权重值最大的特征信息，其能够最大程度的代表一个数据的特征信息。
下面对低阶特征向量提取层中各网络层的具体结构以及进行的处理作出具体的阐述：
如图3所示，在本实施例中，举例卷积结构层包括第一卷积层和第二通道融合层，其中，所述第一卷积层共有8层。
所述第一卷积层，用于对所述广告点击数据进行第一卷积处理，得到所述广告点击数据的第三低阶特征向量。
在本实施例中，第一卷积层共有8层，如图3所示，依次为：第11卷积层、第12卷积层、第13卷积层、第14卷积层、第15卷积层、第16卷积层、第17卷积层和第18卷积层，其中，广告点击数据输入至广告点击率预测模型中，会先进入第一卷积层中，依次进行8次第一卷积处理，即先到第一卷积层的第一层(即第11卷积层)中进行第一卷积处理，得到一个第三低阶特征向量，然后进入第二层中再次进行第一卷积处理，依次往下，直至到第八层。
在本实施例中，举例第一卷积层中的第11卷积层进行第一卷积处理所使用的卷积核的大小为3*3，步长为2，采用填充方式为valid；第12卷积层进行第一卷积处理所使用的卷积核的大小为3*3，步长为1，采用的填充方式为valid；第13卷积层进行第一卷积处理所使用的卷积核的大小为3*3，步长为1，采用的填充方式为same；第14卷积层进行第一卷积处理所使用的卷积核的大小为3*3，步长为2，采用的填充方式为valid；第15卷积层进行第一卷积处理所使用的卷积核的大小为1*1，步长为1，采用的填充方式为same；第16卷积层进行第一卷积处理所使用的卷积核的大小为3*3，步长为1，采用的填充方式为valid；第17卷积层进行第一卷积处理所使用的卷积核的大小为5*5，步长为1，采用的填充方式为same；第18卷积层进行第一卷积处理所使用的卷积核的大小为3*3，步长为1，采用的填充方式为valid。
在本实施例中，valid(不补0填充)填充方式为：卷积核周围不填0进行卷积运算，无法计算的部分直接舍去。而same(补0填充)填充方式为:在卷积核周围填0进行卷积运算，0在卷积核的左右和上下均匀添加，非均匀时多的加在卷积核右边和下面。
对广告点击数据进行第一卷积处理，得到每层第一卷积层所对应的第三低阶特征向量后，即可使用第二通道融合层进行特征向量的融合，得到广告点击数据的初始特征图。
所述第二通道融合层，用于对所述第一卷积层中的第m层和第n层进行第一卷积处理得到的所述第三低阶特征向量进行通道融合，得到所述广告点击数据的初始特征图，其中，m、n为正整数，m＜8，n≤8，且m≠n。
在本实施例中，举例将第一卷积层的第六层(即第16卷积层)和第八层(第18卷积层)对应的第三低阶特征向量进行通道融合，得到广告点击数据的初始特征图；其中，通道融合也称：concat通道融合，其是将进行融合的卷积层的通道数进行合并，是各个神经网络模型中常用的特征融合方式，通道融合的实质是将第六层和第八层的卷积层所得到的第三低阶特征向量中的特征信息进行整合，得到广告点击数据的初始特征图。
在本实施例中，由于进行了第一卷积层中第六层和第八层通道数的融合，进行了特征信息的整合，所以加深了模型的网络层数，会导致模型梯度爆炸或梯度弥散，所以，在本实施例中，为了避免出现上述情况，采用残差网络结构来进行通道融合。
残差网络结构可以看作为等同映射的一个逼近情况，不管网络增加多少层，误差都不会增加，其解决梯度消失原理为：残差网络结构将浅层的输入值直接连接到端部位置，这样就避免了在层层映射过程中由于权重小于1而最终导致的梯度消失(弥散)的现象。
残差网络结构不会产生额外的参数，也不会增加计算复杂度，能够在网络层次增加的同时控制计算量大小，整个网络依旧可以通过端到端的反向传播进行训练，所以，利用残差网络结构进行通道融合，可以避免出现梯度爆炸或消失的现象，保证了特征提取的顺利进行。
得到广告点击数据的初始特征图后，即可使用第一卷积池化结构层，提取初始特征图中的特征信息，完成特征信息的再提取。
如图3所示，在本实施例中，举例第一卷积池化结构层可以但不限于包括：第二卷积层、第一最大池化层和第三通道融合层，其中，所述第二卷积层的层数为1。
所述第二卷积层，用于对所述初始特征图进行第二卷积处理，得到所述广告点击数据的第四低阶特征向量。
所述第一最大池化层，用于对所述初始特征图进行第一最大池化处理，得到所述广告点击数据的第五低阶特征向量。
结合图3，第二卷积层对初始特征图进行第二卷积处理，则是提取初始特征图中特征信息的过程，以得到第四低阶特征向量。在本实施例中，举例第二卷积处理所使用的卷积核的大小为3*3，步长为1，采用的填充方式为valid。
同样结合图3，第一最大池化层对初始特征图进行第一最大池化处理，是用于提取初始特征图中突出特征信息(即初始特征图中权重值最大的特征信息)的过程，以得到第五低阶特征向量。在本实施例中，举例进行第一最大池化处理所使用的积核的大小为3*3，步长为2，采用的填充方式也为valid。
在对初始特征图进行第二卷积处理以及第一最大池化处理后，即可使用第三通道融合层进行特征信息的整合，进一步的提高特征信息的全面性，即得到第一低阶特征向量。
所述第三通道融合层，用于将所述第四低阶特征向量和所述第五低阶特征向量进行通道融合，得到所述广告点击数据的所述第一低阶特征向量。
在本实施例中，第三通道融合层进行通道融合的原理与第一通道融合层原理一致，于此不多加赘述。
在得到第一低阶特征向量后，即可将第一低阶特征向量输入第二卷积池化结构层中，进行第一低阶特征向量中特征信息的提取，进而实现特征信息的第三次提取。
如图4所示，在本实施例中，举例第二卷积池化结构层可以但不限于包括：第二最大池化层、第三卷积层、第四卷积层、第四通道融合层和第五卷积层，其中，所述第三卷积层和所述第五卷积层的层数分别为1，所述第四卷积层的层数为2，即第四卷积层包括第41卷积层和第42卷积层。
所述第二最大池化层，用于对所述第一低阶特征向量进行第二最大池化处理，得到所述广告点击数据的第六低阶特征向量。
所述第三卷积层，用于对所述第一低阶特征向量进行第三卷积处理，得到所述广告点击数据的第七低阶特征向量。
所述第四卷积层，用于对所述第一低阶特征向量进行第四卷积处理，得到所述广告点击数据的第八低阶特征向量。
在本实施例中，第二最大池化层也是用于提取第一低阶特征向量中的突出特征信息，其提取原理与第一最大池化层原理一致；而第三卷积层和第四卷积层对第一低阶特征向量中特征信息的提取与第二卷积层提取原理一致，于此不多加赘述。
在本实施例中，举例第二最大池化层进行第二最大池化所使用的卷积核的大小为3*3，步长为2，填充方式则采用valid；而第三卷积层进行第三卷积处理所使用的卷积核的大小为3*3，步长为1，填充方式也采用valid。
在本实施例中，第四卷积层共有两层，即先进入第一层(即第41卷积层)，使用大小为1*1，步长为1的卷积核，且采用valid填充方式进行第四卷积处理，得到一个向量后，再进入第二层(即第42卷积层)，使用大小为5*5，步长为1的卷积核，且采用valid填充方式再次进行第四卷积处理，进而即可得到第八低阶特征向量。
同理，对第一低阶特征向量采用三种不同的方式进行特征信息的提取后，即可将提取的特征信息进行融合，即使用第四通道融合层，实现特征信息的融合，得到第九低阶特征向量。
所述第四通道融合层，用于将所述第六低阶特征向量、所述第七低阶特征向量和所述第八低阶特征向量进行通道融合，得到所述广告点击数据的第九低阶特征向量。
在本实施例中，第四通道融合层进行通道融合的原理与第一通道融合层融合原理一致，于此不多加赘述。
在对第六低阶特征向量、第七低阶特征向量和第八低阶特征向量中的特征信息进行通道融合，得到第九低阶特征信息后，即可使用第五卷积层，对第九低阶特征信息进行特征信息的提取，以便得到第二低阶特征向量。
所述第五卷积层，用于对所述第九低阶特征向量进行第五卷积处理，得到所述广告点击数据的所述第二低阶特征向量。
在本实施例中，第五卷积层进行第五卷积处理，提取特征信息的原理与第二卷积层提取原理一致，于此不多加赘述。
在本实施例中，举例第五卷积层所使用的卷积核的大小为3*3，步长为1，填充方式则采用valid。
在本实施例中，为了实现特征信息的最大化提取，以及保证提取特征信息的全面性，可以但不限于设置第二卷积池化结构层进行10次特征信息的处理，即使用第二卷积池化结构层对第一低阶特征向量进行特征信息提取，得到第二低阶特征向量后，还可使用第二卷积池化结构层，再次对第二低阶特征向量进行特征信息的提取，一直重复10次，保证特征信息提取的全面性。
在得到第二低阶特征向量后，即可使用池化结构层进行冗余信息的去除，以及突出特征信息的提取，以便得出广告点击数据最终的低阶特征向量。
如图3所示，在本实施例中，举例池化结构层可以但不限于包括：第五通道融合层、第三最大池化层和三种平均池化层，其中，所述三种平均池化层中的每种平均池化层的层数均为1，即三种平均池化层分别为第一平均池化层、第二平均池化层和第三平均池化层。
在本实施例中，会先使用三种平均池化层对第二低阶特征向量进行平均池化处理，分别得到所述广告点击数据的第十低阶特征向量、第十一低阶特征向量和第十二低阶特征向量。
在本实施例中，举例第一平均池化层所使用的卷积核的大小为3*3，步长为2的卷积核；第二平均池化层所使用的卷积核的大小为5*5，步长为2的卷积核；第三平均池化层所使用的卷积核的大小为7*7，步长为2的卷积核。当然，三种平均池化层所使用的填充方式均为valid。
平均池化处理的作用则是去除第二低阶特征向量中冗余信息，以避免提取出冗余信息，对广告点击率预测结果造成偏差，影响预测结果的可靠性。在本实施例中，冗余信息是指：传输数据所需最少限度信息外，出现在传输数据中的其它信息。
在对第二低阶特征信息进行三次平均池化处理后，即可再进行通道融合，整合三次平均池化处理后得到的低阶特征向量(即第十低阶特征向量、第十一低阶特征向量和第十二低阶特征向量)中的特征信息，以得到广告点击数据的第十三低阶特征向量。
所述第五通道融合层，用于将所述第十低阶特征向量、所述第十一低阶特征向量和所述第十二低阶特征向量进行通道融合，得到所述广告点击数据的第十三低阶特征向量。
在本实施例中，第五通道融合层进行通道融合的原理与前述各通道融合层的原理一致，于此不多加赘述。
得到第十三低阶特征向量后，即可使用第三最大池化层，进行此向量中突出特征信息的提取，进而得到最能反映广告点击数据的特征信息，即得到广告点击数据的低阶特征向量。
所述第三最大池化层，用于对所述第十三低阶特征向量进行第三最大池化处理，得到所述广告点击数据的低阶特征向量。
在本实施例中，第三最大池化层进行第三最大池化处理的原理与前述各最大池化原理一致，于此不多加赘述。
在本实施例中，举例第三最大池化层进行最大池化所使用的卷积核的大小为3*3，步长为2，填充方式则采用valid。
由此通过上述对低阶特征向量提取层中各网络层具体网络结构的描述，可利用卷积、最大池化、平均池化以及通道融合过对广告点击数据中特征信息进行不断的提取，最终即可得出最能代表广告点击数据的低阶特征信息，即得到广告低阶特征向量，为后续广告点击率预测模型提供了特征信息全面的数据基础。
在本实施例中，由于广告点击数据不止一条，可能成百上千，甚至上万条，所以，在进行低阶特征向量提取层后，提取出的低阶特征向量不止一条，为了防止过拟合现象，在得出低阶特征向量后，会使用丢弃函数(dropout)，进行部分低阶特征向量的舍弃，以防止过拟合现象发生。在本实施例中，丢弃函数其实质是对神经网楼的输入层和隐含层进行了正则化。如图3所示，在池化结构层输出向量后，会使用丢弃函数进行向量的随机丢弃，避免出现过拟合现象。在本实施例中，举例丢弃函数使用参数为dropout(0.8)，即舍弃80％，保留20％的低阶特征向量。
在本实施例中，在使用丢弃函数进行低阶特征向量的丢弃后，为了保证最终输出的低阶特征向量能够最大程度代表广告点击数据的特征信息，还可使用softmax函数对输出的低阶特征向量进行筛选，其原理为：将每个低阶特征向量映射成(0，1)的值，而这些值的累和为1(满足概率的性质)，那么就可以将它理解成概率，在最后选取输出向量的时候，就可以选取概率最大(也就是值对应最大的)向量，作为最终的输出结果。
在本实施例中，由于在低阶特征向量提取层中进行了大量的卷积、池化和融合处理，进而增加了提取过程中的网络深度，产生了大量的计算资源和时间开销，所以，在本实施例中，采用通道剪枝算法压缩低阶特征向量提取层，得到压缩后的低阶特征向量提取层，其中，所述压缩后的低阶特征向量提取层中第一网络层与第二网络层之间的通道数少于所述低阶特征向量提取层中第一网络层与第二网络层之间的通道数，所述第一网络层为数据传输方向上的发送层，所述第二网络层为数据传输方向上的接收层。通过上述设计，可减少提取过程的网络深度，进而减少计算资源的消耗，进而提升运行速度。
本实施例中，引入通道稀疏，从各个卷积层的通道层面上进行低阶特征向量提取层网络连接的重要性判断(即把通道稀疏引入低阶特征向量提取层的各个卷积层中)，将不重要的通道进行剪枝，抑制其输出。
在本实施例中，使用惩罚神经网络中的激活单元，即低阶特征向量提取层中每层卷积层的权重值的绝对值之和，稀疏化激活单元，为低阶特征向量提取层施加惩罚项，其中惩罚项(即参数范数惩罚)的公式如下：
Figure BDA0002613257600000171
上述公式中，Ω(θ)为惩罚项，其中θ代表各个卷积层，而ω代表卷积层的参数值(即权重值)，i代表卷积层的层数。
对上述公式进行正则化，将目标函数(即激活单元)记为J，其正则化的损失函数为：
Figure BDA0002613257600000172
上述公式中，α为衡量惩罚项惩罚程度的超参数，α∈[0，+∞)，当α为0是表示没有正则化，α越大对应正则化惩罚越大，X为输入数据(即输入的广告点击数据)，而y是广告点击数据进行向量化存储后对应的标签(可以但不限于由用户预设)。
由上述公式可知，正则化会使最优解的某些元素(元素则代表卷积层的通道)为0，从而产生稀疏化；在本实施例中，将正则化得出的结果为0的参数所对应的通道进行舍弃，这一步则为通道稀疏化，如图5所示，图5中最左方则代表未经过通道稀疏化的卷积层传输(其中箭头方向为数据传输方向，箭头侧的圆圈即代表接收层中的网络节点，而远离箭头侧的圆圈则代表发送层中的网络节点)，经过通道稀疏化，将正则化为0的通道进行去除，即变为图5中间的示意图所示。
同时，将不为0的各个参数的值，按照从大到小进行排序，并将连接顺序作为当前卷积层(即发送层)传入下一卷积层(即接收层)的通道顺序，并为每个通道分配一个缩放因子(可以但不限于为用户设定)，其中，缩放因子的绝对值表示通道的重要性，这一步则为正则化，即用每个通道对应的缩放因子与每个通道的正则化值进行比较，正则化值大于缩放因子的判定为重要，反之，则判断为不重要，进行正则化后，最后得到的卷积层的传输即为图5最右方示意图所示。通过上述设计，即可将不重要的通道进行删除，进而对低阶特征向量提取层进行压缩，减少计算资源的消耗，提升了运算速度。
在本实施例中，广告点击率预测模型的得到，也是采用数据训练方式，所以，进行广告点击率预测模型的训练可以但不限于包括如下步骤S201～S205。
S201.获取训练数据集，其中，所述训练数据集包括多条广告点击数据。
步骤S201则是获取训练数据集的过程，以便作为后续模型的训练数据，进行模型训练，得到训练后的广告点击率预测模型，以便直接用于广告点击率的预测。
在本实施例中，训练数据集中的广告点击数据也是用户点击广告的数据，与前述进行点击率预测时所使用的广告点击数据相同，只是一个用于广告点击率预测，一个用于模型的训练。
在本实施例中，举例广告点击数据的总数可以但不限于为20万条。
在本实施例中，举例获取训练数据集可以但不限于包括如下步骤S201a～S201c。
S101a.获取原始数据集，其中，所述原始数据集包括多条原始广告点击数据。
步骤S201a则是直接从各个网页、搜索引擎或购物平台中获取广告点击数据的过程，其获取的数据并未进行任何数据分析和处理，即是从各个浏览网页直接获取的数据。
S201b.对所述原始数据集进行数据分析，去除每条原始广告点击数据中不能统计或不能分析的字段。
步骤S201b则是对获取的原始广告点击数据进行第一次筛选的过程，由于从各个浏览网页获取的数据包含有各种数据，如网页标签、用户名称数据和div+css样式表等(是一种网页的布局方法，可实现网页页面内容与表现相分离，div，全称为DIVision，是层叠样式表中的定位技术，css，全称为Cascading Style Sheets，用于定义超文本标记语言(HyperText Markup Language，HTML)元素的显示形式)。而上述数据输入至广告点击率预测模型中是无法分析的，所以，需要去除对原始广告点击数据中不能分析或统计的字段，降低无用数据对模型分析数据的影响。
例如，用户使用爬虫技术获取一个网页的内容，在进行模型训练时，不需要网页标签数据和用户名称数据等。若需要进行手机广告领域方面点击率的预测，那么需要的数据就是手机品牌、价格、配置、颜色等等；又如，需要进行服装行业广告的点击率预测，需要的数据就为：材质、颜色、大小、品牌和价格等等。
在本实施例中，举例去除数据中不能统计或不能分析的字段可以但不限于采用以下方式：利用python(一种计算机程序设计语言)中的高性能科学计算和数据分析的基础包(numpy)和pandas(pandas是基于NumPy的一种工具，该工具是为了解决数据分析任务而创建的)去除数据中不能统计或不能分析的字段。
S201c.对数据分析后的所述原始数据集进行数据处理，去除所述原始数据集中的用户无效点击的原始广告点击数据，得到所述训练数据集。
步骤S201c则是对进行数据分析后的原始数据集进行二次筛选的过程，由于获取的原始广告点击数据中可能含有用户无效点击的数据(如用户误点、错点、点击后又马上退出等)，若不去除，会对广告点击率的预测会造成极大的干扰，所以，需要去除无效点击数据，保证原始广告点击数据的可靠性。
在本实施例中，举例用户无效点击数据的判定可以但不限于为：用户在当前点击的广告页面上停留预设时间以下(如10s以下或20s以下，具体可根据用户需求预设)。
通过前述步骤S201a～S201c，可对从各个网页、平台或软件获取的数据进行两次筛选，进而最大程度的降低对预测结果准确性的干扰，保证用此数据集训练出的模型对广告点击率预测的准确性。
得到训练数据集后，即可进行模型的训练。
S202.利用所述广告点击率预测模型，提取所述训练数据集中每条广告点击数据的高阶特征向量。
S203.利用所述广告点击率预测模型，提取所述训练数据集中每条广告点击数据的低阶特征向量。
S204.将所述每条广告点击数据的所述高阶特征向量和所述低阶特征向量进行通道融合，得到所述每条广告点击数据的特征向量。
S205.利用所述每条广告点击数据的特征向量，训练所述广告点击率预测模型，得到训练后的广告点击率预测模型。
在本实施例中，步骤S202进行高阶特征向量的提取过程与前述公开的一致，S203中低阶特征向量的提取，原理与前述在低阶特征向量提取层中进行低阶特征向量提取原理一致，步骤S204进行高阶特征向量与低阶特征向量的通道融合与前述第一通道融合层融合原理一致，于此均不在赘述。
通过步骤S201～S205，即可实现广告点击率预测模型的训练，进而得到训练后的模型，以便直接进行广告点击率的预测。
另外，在本实施例中，为了保证训练后模型的可靠性，还可根据其最后得出的损失函数值判断模型是否收敛，可以但不限于如下步骤S205a～S205c。
S205a.利用所述每条广告点击数据的特征向量，训练广告点击率预测模型，训练完毕后，得到训练后的广告点击率预测模型的损失函数值。
S205b.判断所述损失函数值是否小于1。
S205c.若是，则保留所述训练后的广告点击率预测模型。
由于在进行模型训练时，每进行一次数据的训练，其均会产生一个基于模型的损失函数的值，当训练完毕后，可判断最后一次训练损失函数的值是否小于1，若小于1，则说明模型收敛，可将此模型作为最终预测模型；反之，则说明模型不收敛，还需要继续训练，此时，就需要添加训练数据，进行再次训练，直至模型收敛为止。
在本实施例中，损失函数是一种现有函数，其用于来估量模型的预测值f(x)与真实值Y的不一致程度，它是一个非负实值函数,通常使用L(Y,f(x))来表示，损失函数越小，模型的鲁棒性就越好。
当然，在本实施例中，还可使用验证数据集对训练后的广告点击率预测模型进行数据验证，可以但不限于使用如下方式：
从训练数据集中抽取一部分作为验证数据集，如按比例抽取，可以但不限于：8：2，其中，8成为训练数据，2成为验证数据，并将验证数据的真实结果进行标记，在广告点击率预测模型训练完毕后，将验证数据输入训练后的广告点击率预测模型，判断模型输出结果与真实结果之间的差异，若差异小于预设值，则说明模型可靠，可以作为预测模型，反之，则不可靠，需要进行再次训练，并进行模型中各个参数的调整，以便使模型达到最优。
在本实施例中，对模型的优化，即进行参数调整可以但不限于采用如下方式：修改卷积层权重更新次数、迭代次数和正则化参数等等。
如图6所示，本实施例第二方面提供了第一种实现实施例第一方面中所述的广告点击率的预测方法的硬件装置，包括：获取单元和预测单元。
所述获取单元，用于获取广告点击数据。
所述预测单元，用于将所述广告点击数据输入广告点击率预测模型，得到广告点击数据对应广告的点击率预测结果，其中，所述广告点击率预测模型包括高阶特征向量提取层、低阶特征向量提取层和第一通道融合层。
在一个可能的设计中，所述预测单元包括：初始特征图生成子单元、第一低阶特征向量提取子单元、第二低阶特征向量提取子单元和低阶特征向量提取子单元。
所述初始特征图生成子单元，用于利用卷积结构层，提取所述广告点击数据的特征信息，得到所述广告点击数据的初始特征图。
所述第一低阶特征向量提取子单元，用于利用第一卷积池化结构层，提取所述初始特征图中的特征信息，得到所述广告点击数据的第一低阶特征向量。
所述第二低阶特征向量提取子单元，用于利用第二卷积池化结构层，提取所述第一低阶特征向量中的特征信息，得到所述广告点击数据的第二低阶特征向量。
所述低阶特征向量提取子单元，用于利用池化结构层，去除所述第二低阶特征向量中的冗余信息，并对去除冗余信息后的第二低阶特征向量进行突出特征信息的提取，得到所述广告点击数据的低阶特征向量，其中，所述突出特征信息为去除冗余信息后的第二低阶特征向量中权重值最大的特征信息。
在一个可能的设计中：
所述初始特征图生成子单元，具体利用所述卷积结构层中的第一卷积层，对所述广告点击数据进行第一卷积处理，得到所述广告点击数据的第三低阶特征向量。
所述初始特征图生成子单元，还具体利用所述卷积结构层中的第二通道融合层，对所述第一卷积层中的第m层和第n层进行第一卷积处理得到的所述第三低阶特征向量进行通道融合，得到所述广告点击数据的初始特征图，其中，m、n为正整数，m＜8，n≤8，且m≠n。
在一个可能的设计中：
所述第一低阶特征向量提取子单元，具体利用所述第一卷积池化结构层中的第二卷积层，对所述初始特征图进行第二卷积处理，得到所述广告点击数据的第四低阶特征向量。
所述第一低阶特征向量提取子单元，具体利用所述第一卷积池化结构层中的第一最大池化层，对所述初始特征图进行第一最大池化处理，得到所述广告点击数据的第五低阶特征向量。
所述第一低阶特征向量提取子单元，还具体利用所述第一卷积池化结构层中的第三通道融合层，将所述第四低阶特征向量和所述第五低阶特征向量进行通道融合，得到所述广告点击数据的所述第一低阶特征向量。
在一个可能的设计中：
所述第二低阶特征向量提取子单元，具体利用所述第二卷积池化结构层中的第二最大池化层，对所述第一低阶特征向量进行第二最大池化处理，得到所述广告点击数据的第六低阶特征向量。
所述第二低阶特征向量提取子单元，具体利用所述第二卷积池化结构层中的第三卷积层，对所述第一低阶特征向量进行第三卷积处理，得到所述广告点击数据的第七低阶特征向量。
所述第二低阶特征向量提取子单元，具体利用所述第二卷积池化结构层中的第四卷积层，对所述第一低阶特征向量进行第四卷积处理，得到所述广告点击数据的第八低阶特征向量。
所述第二低阶特征向量提取子单元，具体利用所述第二卷积池化结构层中的第四通道融合层，将所述第六低阶特征向量、所述第七低阶特征向量和所述第八低阶特征向量进行通道融合，得到所述广告点击数据的第九低阶特征向量。
所述第二低阶特征向量提取子单元，还具体利用所述第二卷积池化结构层中的第五卷积层，对所述第九低阶特征向量进行第五卷积处理，得到所述广告点击数据的所述第二低阶特征向量。
在一个可能的设计中：
所述低阶特征向量提取子单元，具体利用所述池化结构层中的三种平均池化层中的每种平均池化层，对所述第二低阶特征向量进行平均池化处理，分别得到所述广告点击数据的第十低阶特征向量、第十一低阶特征向量和第十二低阶特征向量。
所述低阶特征向量提取子单元，具体利用所述池化结构层中的第五通道融合层，将所述第十低阶特征向量、所述第十一低阶特征向量和所述第十二低阶特征向量进行通道融合，得到所述广告点击数据的第十三低阶特征向量。
所述低阶特征向量提取子单元，具体利用所述池化结构层中的第三最大池化层，对所述第十三低阶特征向量进行第三最大池化处理，得到所述广告点击数据的低阶特征向量。
在一个可能的设计中，所述装置还包括：压缩单元。
所述压缩单元，用于利用通道剪枝算法压缩所述低阶特征向量提取层，得到压缩后的低阶特征向量提取层，其中，所述压缩后的低阶特征向量提取层中第一网络层与第二网络层之间的通道数少于所述低阶特征向量提取层中第一网络层与第二网络层之间的通道数，所述第一网络层为数据传输方向上的发送层，所述第二网络层为数据传输方向上的接收层。
当然，在本实施例中，预测单元还包括：高阶特征向量提取子单元、融合子单元和计子算单元。
所述高阶特征向量提取子单元，用于用于提取所述广告点击数据的高阶特征向量。
所述融合子单元，用于将所述高阶特征向量和所述低阶特征向量进行通道融合，得到所述广告点击数据的特征向量。
所述计算子单元，用于根据所述特征向量，得出广告点击数据对应广告的点击率预测结果。
本实施例提供的硬件装置的工作过程、工作细节和技术效果，可以参见实施例第一方面，于此不再赘述。
如图7所示，本实施例第三方面还提供了第二种实现实施例第一方面中所述的广告点击率的预测方法的硬件装置，包括依次通信相连的存储器、处理器和收发器，其中，所述存储器用于存储计算机程序，所述收发器用于收发消息，所述处理器用于读取所述计算机程序，执行如实施例第一方面所述的广告点击率的预测方法。
具体举例的，所述存储器可以但不限于包括随机存取存储器(random accessmemory，RAM)、只读存储器(Read Only Memory image，ROM)、闪存(Flash Memory)、先进先出存储器(First Input First Output，FIFO)和/或先进后出存储器(First In Last Out，FILO)等等；所述处理器可以不限于采用型号为STM32F105系列的微处理器、精简指令集计算机(reduced instruction set computer,RSIC)微处理器、X86等架构处理器或集成嵌入式神经网络处理器(neural-networkprocessingunits，NPU)的处理器；所述收发器可以但不限于为无线保真(WIFI)无线收发器、蓝牙无线收发器、通用分组无线服务技术(GeneralPacket Radio Service，GPRS)无线收发器、紫蜂协议(基于IEEE802.15.4标准的低功耗局域网协议，ZigBee)无线收发器、3G收发器、4G收发器和/或5G收发器等。此外，所述装置还可以但不限于包括有电源模块、显示屏和其它必要的部件。
本实施例提供的硬件装置的工作过程、工作细节和技术效果，可以参见实施例第一方面，于此不再赘述。
本实施例第四方面提供了一种存储包含有实施例第一方面所述的广告点击率的预测方法的指令的计算机可读存储介质，即所述计算机可读存储介质上存储有指令，当所述指令在计算机上运行时，执行如第一方面所述的广告点击率的预测方法。其中，所述计算机可读存储介质是指存储数据的载体，可以但不限于包括软盘、光盘、硬盘、闪存、优盘和/或记忆棒(Memory Stick)等，所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。
本实施例提供的计算机可读存储介质的工作过程、工作细节和技术效果，可以参见实施例第一方面，于此不再赘述。
本实施例第五方面提供了一种包含指令的计算机程序产品，当所述指令在计算机上运行时，使所述计算机执行如实施例第一方面所述的广告点击率的预测方法，其中，所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。
以上所描述的多个实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下，即可以理解并实施。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件。基于这样的理解，上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备执行各个实施例或者实施例的某些部分所述的方法。
本发明不局限于上述可选实施方式，任何人在本发明的启示下都可得出其他各种形式的产品，但不论在其形状或结构上作任何变化，凡是落入本发明权利要求界定范围内的技术方案，均落在本发明的保护范围之内。

Claims (8)

1.一种广告点击率的预测方法，其特征在于，包括：
获取广告点击数据；
将所述广告点击数据输入广告点击率预测模型，得到广告点击数据对应广告的点击率预测结果，其中，所述广告点击率预测模型包括高阶特征向量提取层、低阶特征向量提取层和第一通道融合层；
所述高阶特征向量提取层，用于提取所述广告点击数据的高阶特征向量；
所述低阶特征向量提取层，用于提取所述广告点击数据的低阶特征向量；
所述第一通道融合层，用于将所述高阶特征向量和所述低阶特征向量进行通道融合，得到所述广告点击数据的特征向量；
所述低阶特征向量提取层包括：卷积结构层、第一卷积池化结构层、第二卷积池化结构层和池化结构层；
所述卷积结构层，用于提取所述广告点击数据的特征信息，得到所述广告点击数据的初始特征图；
所述第一卷积池化结构层，用于提取所述初始特征图中的特征信息，得到所述广告点击数据的第一低阶特征向量；
所述第二卷积池化结构层，用于提取所述第一低阶特征向量中的特征信息，得到所述广告点击数据的第二低阶特征向量；
所述池化结构层，用于去除所述第二低阶特征向量中的冗余信息，并对去除冗余信息后的第二低阶特征向量进行突出特征信息的提取，得到所述广告点击数据的低阶特征向量，其中，所述突出特征信息为去除冗余信息后的第二低阶特征向量中权重值最大的特征信息；
所述卷积结构层包括：第一卷积层和第二通道融合层，其中，所述第一卷积层共有8层；
所述第一卷积层，用于对所述广告点击数据进行第一卷积处理，得到所述广告点击数据的第三低阶特征向量；
所述第二通道融合层，用于对所述第一卷积层中的第m层和第n层进行第一卷积处理得到的所述第三低阶特征向量进行通道融合，得到所述广告点击数据的初始特征图，其中，m、n为正整数，m＜8，n≤8，且m≠n。
2.如权利要求1所述的方法，其特征在于，所述第一卷积池化结构层包括：第二卷积层、第一最大池化层和第三通道融合层，其中，所述第二卷积层的层数为1；
所述第二卷积层，用于对所述初始特征图进行第二卷积处理，得到所述广告点击数据的第四低阶特征向量；
所述第一最大池化层，用于对所述初始特征图进行第一最大池化处理，得到所述广告点击数据的第五低阶特征向量；
所述第三通道融合层，用于将所述第四低阶特征向量和所述第五低阶特征向量进行通道融合，得到所述广告点击数据的所述第一低阶特征向量。
3.如权利要求1所述的方法，其特征在于，所述第二卷积池化结构层包括：第二最大池化层、第三卷积层、第四卷积层、第四通道融合层和第五卷积层，其中，所述第三卷积层和所述第五卷积层的层数分别为1，所述第四卷积层的层数为2；
所述第二最大池化层，用于对所述第一低阶特征向量进行第二最大池化处理，得到所述广告点击数据的第六低阶特征向量；
所述第三卷积层，用于对所述第一低阶特征向量进行第三卷积处理，得到所述广告点击数据的第七低阶特征向量；
所述第四卷积层，用于对所述第一低阶特征向量进行第四卷积处理，得到所述广告点击数据的第八低阶特征向量；
所述第四通道融合层，用于将所述第六低阶特征向量、所述第七低阶特征向量和所述第八低阶特征向量进行通道融合，得到所述广告点击数据的第九低阶特征向量；
所述第五卷积层，用于对所述第九低阶特征向量进行第五卷积处理，得到所述广告点击数据的所述第二低阶特征向量。
4.如权利要求1所述的方法，其特征在于，所述池化结构层包括：第五通道融合层、第三最大池化层和三种平均池化层，其中，所述三种平均池化层中的每种平均池化层的层数均为1；
所述三种平均池化层中的每种平均池化层，用于对所述第二低阶特征向量进行平均池化处理，分别得到所述广告点击数据的第十低阶特征向量、第十一低阶特征向量和第十二低阶特征向量；
所述第五通道融合层，用于将所述第十低阶特征向量、所述第十一低阶特征向量和所述第十二低阶特征向量进行通道融合，得到所述广告点击数据的第十三低阶特征向量；
所述第三最大池化层，用于对所述第十三低阶特征向量进行第三最大池化处理，得到所述广告点击数据的低阶特征向量。
5.如权利要求1所述的方法，其特征在于，所述方法还包括：
利用通道剪枝算法压缩所述低阶特征向量提取层，得到压缩后的低阶特征向量提取层，其中，所述压缩后的低阶特征向量提取层中第一网络层与第二网络层之间的通道数少于所述低阶特征向量提取层中第一网络层与第二网络层之间的通道数，所述第一网络层为数据传输方向上的发送层，所述第二网络层为数据传输方向上的接收层。
6.一种广告点击率的预测装置，其特征在于，包括：获取单元和预测单元；
所述获取单元，用于获取广告点击数据；
所述预测单元，用于将所述广告点击数据输入广告点击率预测模型，得到广告点击数据对应广告的点击率预测结果，其中，所述广告点击率预测模型包括高阶特征向量提取层、低阶特征向量提取层和第一通道融合层；
所述预测单元包括：初始特征图生成子单元、第一低阶特征向量提取子单元、第二低阶特征向量提取子单元和低阶特征向量提取子单元；
所述初始特征图生成子单元，用于利用卷积结构层，提取所述广告点击数据的特征信息，得到所述广告点击数据的初始特征图；
所述第一低阶特征向量提取子单元，用于利用第一卷积池化结构层，提取所述初始特征图中的特征信息，得到所述广告点击数据的第一低阶特征向量；
所述第二低阶特征向量提取子单元，用于利用第二卷积池化结构层，提取所述第一低阶特征向量中的特征信息，得到所述广告点击数据的第二低阶特征向量；
所述低阶特征向量提取子单元，用于利用池化结构层，去除所述第二低阶特征向量中的冗余信息，并对去除冗余信息后的第二低阶特征向量进行突出特征信息的提取，得到所述广告点击数据的低阶特征向量，其中，所述突出特征信息为去除冗余信息后的第二低阶特征向量中权重值最大的特征信息；
所述初始特征图生成子单元，具体利用所述卷积结构层中的第一卷积层，对所述广告点击数据进行第一卷积处理，得到所述广告点击数据的第三低阶特征向量；
所述初始特征图生成子单元，还具体利用所述卷积结构层中的第二通道融合层，对所述第一卷积层中的第m层和第n层进行第一卷积处理得到的所述第三低阶特征向量进行通道融合，得到所述广告点击数据的初始特征图，其中，m、n为正整数，m＜8，n≤8，且m≠n。
7.一种广告点击率的预测装置，其特征在于，包括：依次通信相连的存储器、处理器和收发器，其中，所述存储器用于存储计算机程序，所述收发器用于收发消息，所述处理器用于读取所述计算机程序，执行如权利要求1～5任意一项所述的广告点击率的预测方法。
8.一种计算机可读存储介质，其特征在于：所述计算机可读存储介质上存储有指令，当所述指令在计算机上运行时，执行如权利要求1～5任意一项所述的广告点击率的预测方法。
CN202010761666.4A 2020-07-31 2020-07-31 一种广告点击率的预测方法、装置及计算机可读存储介质 Active CN111861583B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010761666.4A CN111861583B (zh) 2020-07-31 2020-07-31 一种广告点击率的预测方法、装置及计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010761666.4A CN111861583B (zh) 2020-07-31 2020-07-31 一种广告点击率的预测方法、装置及计算机可读存储介质

Publications (2)

Publication Number Publication Date
CN111861583A CN111861583A (zh) 2020-10-30
CN111861583B true CN111861583B (zh) 2022-10-21

Family

ID=72953878

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010761666.4A Active CN111861583B (zh) 2020-07-31 2020-07-31 一种广告点击率的预测方法、装置及计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN111861583B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113763020A (zh) * 2021-02-03 2021-12-07 北京沃东天骏信息技术有限公司 一种数据处理方法及装置、设备、存储介质
CN112948668B (zh) * 2021-02-04 2023-03-03 深圳大学 一种信息推荐方法、电子设备及存储介质
CN116719309B (zh) * 2023-08-08 2023-10-27 东莞正大康地饲料有限公司 饲料生产控制系统的异常报警方法及系统

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10068557B1 (en) * 2017-08-23 2018-09-04 Google Llc Generating music with deep neural networks
CN109711883A (zh) * 2018-12-26 2019-05-03 西安电子科技大学 基于U-Net网络的互联网广告点击率预估方法
CN109829129A (zh) * 2019-02-18 2019-05-31 华南理工大学 一种基于ffm深度神经网络的点击率预估方法
CN110033342A (zh) * 2019-01-30 2019-07-19 阿里巴巴集团控股有限公司 一种推荐模型的训练方法及装置、一种推荐方法及装置
CN110175857A (zh) * 2019-03-25 2019-08-27 阿里巴巴集团控股有限公司 优选业务确定方法及装置
CN110245310A (zh) * 2019-03-06 2019-09-17 腾讯科技（深圳）有限公司 一种对象的行为分析方法、装置及存储介质
CN110674857A (zh) * 2019-09-15 2020-01-10 桂林电子科技大学 一种基于多尺度堆叠网络的广告点击分类方法
CN111325579A (zh) * 2020-02-25 2020-06-23 华南师范大学 一种广告点击率预测方法
CN111339433A (zh) * 2020-05-21 2020-06-26 腾讯科技（深圳）有限公司 基于人工智能的信息推荐方法、装置、电子设备

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10068557B1 (en) * 2017-08-23 2018-09-04 Google Llc Generating music with deep neural networks
CN109711883A (zh) * 2018-12-26 2019-05-03 西安电子科技大学 基于U-Net网络的互联网广告点击率预估方法
CN110033342A (zh) * 2019-01-30 2019-07-19 阿里巴巴集团控股有限公司 一种推荐模型的训练方法及装置、一种推荐方法及装置
CN109829129A (zh) * 2019-02-18 2019-05-31 华南理工大学 一种基于ffm深度神经网络的点击率预估方法
CN110245310A (zh) * 2019-03-06 2019-09-17 腾讯科技（深圳）有限公司 一种对象的行为分析方法、装置及存储介质
CN110175857A (zh) * 2019-03-25 2019-08-27 阿里巴巴集团控股有限公司 优选业务确定方法及装置
CN110674857A (zh) * 2019-09-15 2020-01-10 桂林电子科技大学 一种基于多尺度堆叠网络的广告点击分类方法
CN111325579A (zh) * 2020-02-25 2020-06-23 华南师范大学 一种广告点击率预测方法
CN111339433A (zh) * 2020-05-21 2020-06-26 腾讯科技（深圳）有限公司 基于人工智能的信息推荐方法、装置、电子设备

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
"FMCNN: A Factorization Machine Combined Neural Network for Driving Safety Prediction in Vehicular Communication";Haitao Zhao.etc;《 IEEE Access ( Volume: 7)》;20190110;第11698-11706页 *
"基于增强型FNN的广告点击率预测模型";杨妍婷等;《南京理工大学学报》;20200229;第33-39页 *
"基于深度学习的图片广告点击率预估研究";陈文花;《中国优秀博硕士学位论文全文数据库(硕士)信息科技辑》;20200115;I140-332 *

Also Published As

Publication number Publication date
CN111861583A (zh) 2020-10-30

Similar Documents

Publication Publication Date Title
CN111861583B (zh) 一种广告点击率的预测方法、装置及计算机可读存储介质
US20230368024A1 (en) Neural architecture search
CN110366734B (zh) 优化神经网络架构
CN112035747B (zh) 信息推荐方法及装置
CN106445988A (zh) 一种大数据的智能处理方法和系统
CN107657056A (zh) 基于人工智能展示评论信息的方法和装置
CN110598095B (zh) 一种识别包含指定信息文章的方法、装置及存储介质
CN106445954A (zh) 一种业务对象的展示方法和装置
CN113378573A (zh) 面向内容大数据的小样本关系抽取方法和装置
CN114417174B (zh) 内容推荐方法、装置、设备及计算机存储介质
CN112632256A (zh) 基于问答系统的信息查询方法、装置、计算机设备和介质
CN112232933A (zh) 房源信息的推荐方法、装置、设备及可读存储介质
CN103324641A (zh) 信息记录推荐方法和装置
CN117036834B (zh) 基于人工智能的数据分类方法、装置及电子设备
CN110389963A (zh) 基于大数据的渠道效果识别方法、装置、设备和存储介质
CN112396091B (zh) 社交媒体图像流行度预测方法、系统、存储介质及应用
CN112069412B (zh) 信息推荐方法、装置、计算机设备及存储介质
CN108920492B (zh) 一种网页分类方法、系统、终端及存储介质
CN112559842A (zh) 基于深度学习注意力机制的电商评论数据分析方法及装置
CN115994632A (zh) 一种点击率预测方法、装置、设备及可读存储介质
CN110457387A (zh) 一种应用于网络中用户标签确定的方法及相关装置
CN109933741A (zh) 用户网络行为特征提取方法、装置及存储介质
CN112765444A (zh) 提取目标文本片段的方法、装置、设备及存储介质
US20220019869A1 (en) Hardware-optimized neural architecture search
US20230063686A1 (en) Fine-grained stochastic neural architecture search

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right

Effective date of registration: 20221118

Address after: Room 1501, Floor 15, Unit 2, Building 1, No. 99, Jinhui West 1st Street, Hi tech Zone, Chengdu, Sichuan 610000

Patentee after: Chengdu Pingmeng Technology Co.,Ltd.

Address before: 610000 High-tech Zone, Chengdu City, Sichuan Province, No. 99, No. 1, No. 2, No. 15, No. 1, No. 1505, No. 1, No. 1, No. 1, No. 1, No. 1, No. 1, No. 1, No. 1, No. 1, No

Patentee before: CHENGDU XINCHAO MEDIA GROUP Co.,Ltd.

TR01 Transfer of patent right