CN101650731A - 基于用户反馈的赞助搜索广告的建议关键词生成方法 - Google Patents

Abstract

本发明公开了一种基于用户反馈的赞助搜索广告的建议关键词生成方法。此方法挖掘了词语与词语之间的语义相关性，利用了用户对少量词语对的相关性反馈信息，以此建立学习机器对词语对的相关性进行评测，进而选取与描述广告商产品或服务概念的种子关键词相关性高的词语作为建议关键词推荐给广告商用户。其中主动学习的方法用来选择信息量最大的词语对样本用于用户相关性评判，提高了效率和生成相关的建议关键词的准确度。本发明对应每个种子关键词，能有效地生成数以百计至千计的相关词语作为建议关键词推荐给广告商用户。广告商用户对这些建议关键词进行赞助搜索竞价，可以有效提高赞助广告的相关点击量，增加广告效益。

Description

基于用户反馈的赞助搜索广告的建议关键词生成方法

技术领域

本发明涉及信息检索，数据挖掘，赞助搜索和机器学习领域，特别是涉及一种基于用户反馈的赞助搜索广告的建议关键词生成方法。

背景技术

近年来，赞助搜索作为一种成功的网络广告形式，商业价值突显，每年的利润数以亿计。一些主流的搜索引擎，如Google，Yahoo！等都为广告商提供了赞助搜索的服务。在赞助搜索广告中，广告商首先创建网页广告，并对与他们产品或服务相关的词语进行竞价。当网络用户搜索被竞价的词语时，搜索引擎会把竞价投标中获胜的广告商广告以赞助商链接的形式呈现给用户，其中赞助商链接一般显示在原始搜索结果的旁边。依照赞助商链接的用户点击数，广告商支付相应的费用给搜索引擎提供商。在这个过程中，广告商需要在预算范围内找到尽可能多的相关词语来增加被检索的数量，以增加相应的品牌曝光或产品销售。

赞助搜索广告的建议关键词生成技术，也叫做关键词建议技术帮助广告商自动生成与其产品或服务相关的大部分建议关键词。这里所生成的建议关键词与潜在客户的用于搜索查询的关键词的相关性直接影响了广告的效果。广告商，也就是建议关键词生成系统的用户，首先提供给系统描述产品或服务的概念词语，比如“鞋子(shoes)”，“旅游(travel)”等，我们称这些概念词语为种子关键词。一些常见的广告的建议关键词生成工具(例如Google’s Adwords Tool，WordTracker等)往往通过挖掘一些能够代表或扩充种子词语义的元素，例如URL，频繁的查询和元标签等，用来找到一些频繁共现或与种子关键词相似的词语，并作为建议关键词推荐给用户。它们往往只能生成一些包含种子关键词的建议关键词，例如对应于“shoes”，生成“basketball shoes”，“running shoes”等关键词，并且往往缺乏语义相关性。

基于挖掘词语间的语义关系，提高生成广告关键词的语义相关性，成为当前建议关键词生成研究的趋势。例如上述的例子中，对于种子词“shoes”，一些较相关的可以推荐给用户的建议关键词包括“socks”，“sandal”和“bootlace”等。用户相关性反馈作为连接低层特征和高层语义的重要技术，在这里引入，用来决定词语之间的相关性。通过监督的机器学习的方法，根据词语对之间一些代表性的低层特征，有效地对词语对做出相关性值进行计算，并以此对词语做排序，可以选出一些相关性较高的词语作为种子关键词的建议关键词呈现给用户。其中机器学习中主动学习的方法可以用来选取少量信息量最大的候选关键词和种子关键词组成的词语对样本，给用户作相关性判断，减少了用户精力耗费，并提高生成的建议关键词的相关性。

发明内容

本发明的目的在于提供一种基于用户反馈的赞助搜索广告的建议关键词生成方法。

本发明解决其技术问题所采用的技术方案的步骤如下：

1)对于用户输入的每个种子关键词，用一个特征文档代表种子关键词的语义，并选择特征文档中TFIDF值排在前面的词语作为候选关键词；

2)采用机器学习中主动学习的方法，选取具有最大信息量的候选关键词，要求用户提供反馈信息，判断与种子关键词是“相关”的还是“不相关”的；

3)根据用户的反馈信息，用机器学习方法对所有候选关键词与种子关键词的相关性进行学习，最后计算得到每个候选关键词与种子关键词的相关性值，根据相关性值对候选关键词按相关性从高到低排序，排序在前面的候选关键词作为种子关键词的建议关键词推荐给用户。

所述步骤1)中用户一般指广告商；在搜索引擎中，用户输入种子关键词，返回的每条结果包含网页标题，URL和文本片段；其中文本片段包含种子关键词的句子，取前L条搜索结果的文本片段，以此组成种子关键词的文档称为特征文档；L值根据用户对生成建议关键词的相关性的松紧程度进行选取，L为50～1000条；给定不同种子关键词的特征文档的集合，每个种子关键词的特征文档中出现的不包含停用词在内的所有词语，计算每个词语的TFIDF值，并选取TFIDF值排在前面的M个词语，当作相应种子关键词的候选关键词；其中M为100～800个。

所述步骤2)中每个种子关键词，记为S，和它的任意候选关键词，记为C，组成了词语对Pair(S，C)，对每个词语对提取代表性的特征，包括候选关键词在种子关键词特征文档中的TFIDF和TF特征、词语对Pair(S，C)在搜索结果的文本片段中共现频率特征、词语对Pair(S，C)在搜索结果的相同URL的频率特征；针对这些特征，用主动学习的方法选取信息量最大的K个词语对Pair(S，C)，并呈现给用户，用户做出“相关”或“不相关”的评判；其中K为2.5％～10％M。

所述步骤3)中用户做了相关性反馈的候选关键词作为机器学习的训练样本；用户评判为“相关”的词语对用作正例样本，“不相关”的词语对用作负例样本；对应样本词语对Pair(S，C)的特征和用户评判，训练一个逻辑回归的相关性模型，用来预测每个候选关键词与种子关键词的相关性值，预测完成后，按相关性值从大到小排列候选关键词；排序在前面的V个候选关键词作为建议关键词推荐给用户，V为10％～50％M。

本发明与背景技术相比，具有的有益的效果是：

本发明是一种用于生成赞助搜索广告的建议关键词的方法。它适用于帮助广告商用户生成与他们产品或服务相关的建议关键词，对这些建议关键词进行赞助搜索竞价，广告商可以获得更好的广告效益。本发明的方法是依照高效性和提高用户满意度而设计的。它基于机器学习的方法挖掘词语之间的语义相关性，其中用主动学习方法选取少量信息量最大的候选关键词和种子关键词组成的词语对样本，给用户作相关性判断，减少了用户精力耗费，并显著提高生成的数以百计至千计的建议关键词与种子关键词的相关性。本发明的方法具有较强的可扩展性，每个步骤可以根据实际或用户偏好进行适当的修改，不影响总体的框架和方法效果。

附图说明

附图是基于用户反馈的赞助搜索广告的建议关键词生成方法的框架图。

具体实施方式

本发明实施的关键有三点：候选关键词生成、训练样本选取和相关性学习模型训练，相关性值计算和排序。其中监督的机器学习和主动学习方法是本发明实施的基础。本发明的具体实施流程图参见附图：

1.候选关键词生成：

在搜索引擎中，例如Google搜索种子关键词，返回的每条结果包含网页的标题，URL和文本片段(Snippet)；其中文本片段包含搜索关键词的句子，取前L条搜索结果的文本片段组成种子关键词的特征文档；L值可以根据用户对生成关键词的相关性的松紧程度进行选取，L一般为数百条，例如特定的可以取400；给定一个不同种子关键词的特征文档集合，每个文档中出现不包括停用词(Stop Words)的所有词语A的TFIDF值，其词频TF(Term Frequency)和逆文档频率IDF(Inverse Document Frequency)的乘积，计算如下：

TFIDF(A)＝TF(A)×IDF(A)                            (1)

其中TF(A)表示词语A在文档中的词频，IDF(A)表示出现A的逆文档频率，其计算如下：

IDF(A)＝ln[N/DF(A)]                                (2)

其中N为文档数，DF(A)表示出现A的文档频率，ln表示自然对数；

权重值最大的M个候选关键词被选取，当作相应种子关键词的候选关键词；M值也可以根据用户对生成关键词的相关性的松紧程度进行选取，为了提高相关关键词的覆盖率，M一般取数百，例如特定的可以取800。

2.训练样本选取和相关性学习模型训练：

每个种子关键词S和它的任意候选关键词C组成了词语对Pair(S，C)，对每个词语对提取代表性特征，例如特定地可以包括候选关键词在种子关键词特征文档中的TFIDF、TF、词语对Pair(S，C)在搜索结果的文本片段(Snippet)中共现频率、词语对Pair(S，C)在搜索结果的相同URL的频率。

针对选取的代表性特征，用主动学习的方法选取信息量最大的K个词语对Pair(S，C)，并呈现给用户，用户做出“相关”或“不相关”的评判；评判为“相关”的词语对用作正例样本，“不相关”的词语对用作负例样本；为了更好地满足用户，减少用户精力花费，K值应尽量小，例如特定地可以占M的2.5％比例；其中主动学习的方法特定可以选取效果较好的增益的实验设计(TransductiveExperimental Design)，简称TED，原理如下：

考虑一个线性回归模型：

y＝w^Tx+σ                            (3)

其中y是观察量(observation)；x是预测变量(predictor variable)；w是权重向量(weight vector)；σ是不确定的误差，其平均值为零，方差为σ²。用X＝{x₁，x₂，...，x_m}表示特征向量的全集，其中x_i对应第i个样本的特征向量，向量的每一为表示某个代表性特征(候选关键词在种子关键词特征文档中的TFIDF、TF、词语对Pair(S，C)在搜索结果的文本片段(Snippet)中共现频率、词语对Pair(S，C)在搜索结果的相同URL的频率)，给定一个X的一个子集 $Z=\{z_1,z_2,...,z_k\}\&Subset;X(k<m)$ 用于学习机器训练，让y_i(用户标注)表示与z_i相对应的相关性值(1代表相关，-1代表不相关)。那么权重向量w的最大似然估计满足平方误差和最小：

$\hat{w}=\arg \underset{w}{\min }\underset{i=1}{\overset{k}{\mathrm{\&Sigma;}}}{(w^T{z}_i-y_i)}^2---\left(4\right)$

定义子集特征向量矩阵Z＝[z₁，z₂，...，z_k]，观察量矩阵y＝[y₁，y₂，...，y_k]^T和全集特征向量矩阵X＝[x₁，x₂，...，x_m]，那么

可以写成：

$\hat{w}={\left({\mathrm{ZZ}}^T\right)}^{-1}{Z}^{T}y---\left(5\right)$

很容易检验得到 $E\left(\hat{w}\right)=w,$ 因此

是无偏的估计。对于每个x，下式：

$\hat{y}={\hat{w}}^{T}x---\left(6\right)$

表示它的预测观察量，那么期望平方预测误差可以写成：

$E{(y-\hat{y})}^2={\mathrm{\&sigma;}}^2+{\mathrm{\&sigma;}}^2{x}^T{\left({\mathrm{ZZ}}^T\right)}^{-1}x---\left(7\right)$

期望平方预测误差依赖于独立的变量x。因此，平均期望平方预测误差为：

$\frac{1}{m}\underset{i=1}{\overset{m}{\mathrm{\&Sigma;}}}E{{(y_i-{\hat{w}}^T{x}_i)}_{}}^2={\mathrm{\&sigma;}}^2+\frac{1}{m}{\mathrm{\&sigma;}}^2\mathrm{Tr}\left(X^T{\left({\mathrm{ZZ}}^T\right)}^{-1}X\right)---\left(8\right)$

我们按照公式(8)找到一个子集Z使得平均期望平方预测误最小，并用这个子集用于用户标注，用户做出“相关”或“不相关”的评判；用户评判为“相关”的词语对用作正例样本，记对应的y_i为1；“不相关”的词语对用作负例样本，记对应的y_i为-1；用这些样本训练一个逻辑回归的相关性模型，由公式(4)得到权重向量

3.相关性值计算和排序：

把得到的权重向量

代入公式(6)算出

表示每个候选关键词与种子关键词组成词对(其特征向量集合为X)的预测相关性值，并据此按相关性值从大到小排列候选关键词。候选关键词的排序是根据相关性值从大到小进行；排序在前面的V个候选关键词作为建议关键词推荐给用户；V可以根据实际的相关性准确度或者用户的偏好进行选取；例如特定地V可以取M/4。

出于示出本发明的功能和框架原理的目的示出和描述了这些实施例，并且在不脱离这样的原理的情况下，可以对其进行适当修改。因此，本发明包括涵盖在所附权利要求的精神和范围内的所有修改。

Claims (4)

1、一种基于用户反馈的赞助搜索广告的建议关键词生成方法，其特征在于该方法的步骤如下：

1)对于用户输入的每个种子关键词，用一个特征文档代表种子关键词的语义，并选择特征文档中TFIDF值排在前面的词语作为候选关键词；

2)采用机器学习中主动学习的方法，选取具有最大信息量的候选关键词，要求用户提供反馈信息，判断与种子关键词是“相关”的还是“不相关”的；

3)根据用户的反馈信息，用机器学习方法对所有候选关键词与种子关键词的相关性进行学习，最后计算得到每个候选关键词与种子关键词的相关性值，根据相关性值对候选关键词按相关性从高到低排序，排序在前面的候选关键词作为种子关键词的建议关键词推荐给用户。

2.根据权利要求1所述的一种基于用户反馈的赞助搜索广告的建议关键词生成方法，其特征在于：所述步骤1)中用户一般指广告商；在搜索引擎中，用户输入种子关键词，返回的每条结果包含网页标题，URL和文本片段；其中文本片段包含种子关键词的句子，取前L条搜索结果的文本片段，以此组成种子关键词的文档称为特征文档；L值根据用户对生成建议关键词的相关性的松紧程度进行选取，L为50～1000条；给定不同种子关键词的特征文档的集合，每个种子关键词的特征文档中出现的不包含停用词在内的所有词语，计算每个词语的TFIDF值，并选取TFIDF值排在前面的M个词语，当作相应种子关键词的候选关键词；其中M为100～800个。

3.根据权利要求1所述的一种基于用户反馈的赞助搜索广告的建议关键词生成方法，其特征在于：所述步骤2)中每个种子关键词，记为S，和它的任意候选关键词，记为C，组成了词语对Pair(S，C)，对每个词语对提取代表性的特征，包括候选关键词在种子关键词特征文档中的TFIDF和TF特征、词语对Pair(S，C)在搜索结果的文本片段中共现频率特征、词语对Pair(S，C)在搜索结果的相同URL的频率特征；针对这些特征，用主动学习的方法选取信息量最大的K个词语对Pair(S，C)，并呈现给用户，用户做出“相关”或“不相关”的评判；其中K为2.5％～10％M。

4.根据权利要求1所述的一种基于用户反馈的赞助搜索广告的建议关键词生成方法，其特征在于：所述步骤3)中用户做了相关性反馈的候选关键词作为机器学习的训练样本；用户评判为“相关”的词语对用作正例样本，“不相关”的词语对用作负例样本；对应样本词语对Pair(S，C)的特征和用户评判，训练一个逻辑回归的相关性模型，用来预测每个候选关键词与种子关键词的相关性值，预测完成后，按相关性值从大到小排列候选关键词；排序在前面的V个候选关键词作为建议关键词推荐给用户，V为10％～50％M。