CN101082972A - 预测用户对商品的兴趣的方法、装置和广告发布方法 - Google Patents

Abstract

一种预测用户对商品的兴趣的方法、装置和广告发布方法。预测用户对商品的兴趣的方法包括：根据用户对商品的兴趣度的历史时间序列信息确定有关联关系的商品，将有关联关系的商品聚集为一类，并确定每个聚类中的中心商品、及关联商品；根据聚类的中心商品对应的历史时间序列信息、利用灰色建模获得聚类的中心商品的中心兴趣变化模型；根据聚类的关联商品对应的历史时间序列信息、利用中心商品和关联商品的关系获得聚类的关联商品的关联兴趣影响模型；利用中心兴趣变化模型、关联兴趣影响模型预测在下一个时间，用户对中心商品、和/或关联商品的兴趣度。该方法可准确预测出在下一个时间用户对商品的兴趣。

Description

预测用户对商品的兴趣的方法、装置和广告发布方法

技术领域

本发明涉及网络通讯技术领域，具体涉及一种预测用户对商品的兴趣的方法、广告发布方法、以及预测用户对商品的兴趣的装置。

背景技术

目前，短信广告发布方法主要有如下三种：

方法一、直接向各移动用户发送商品促销、公关活动及优惠券等短信广告。

方法二、采用特定区域、移动终端品牌等对用户进行细分，然后，将相应的短信广告发送至细分后的相应的用户群。

方法三、从短信数据中挖掘出用户的商品兴趣、以及在一段时间内用户对商品兴趣的变化和发展趋势。然后，利用上述挖掘出的内容向用户发送相应的短信广告。

发明人在实现本发明的过程中发现，上述三种方法主要存在如下问题：

方法一存在盲目发送短信广告的问题。即不论用户是否可能对该短信广告的内容产生兴趣，都向用户发送该短信广告，从而导致短信广告投放准确率低。

由于不同区域、不同移动终端品牌等能够表示不同经济实力和购买能力等信息，因此，相对于方法一而言，方法二的短信广告投放准确率有所提高。但是，由于细分后、具有相同经济实例和购买能力等的用户对商品的兴趣各异，因此，针对于细分后、接收短信广告的用户群而言，方法二仍然存在盲目发送短信广告的问题。

由于方法三挖掘了用户对商品的兴趣，因此，相对于方法二而言，方法三的短信广告投放准确率有所提高。但是，方法三忽略了用户对不同商品兴趣之间的相互影响，将用户对不同类别商品的兴趣均作为独立个体，因此，方法三没有体现出用户对商品的兴趣的整体情况。方法三的短信广告投放准确率有待于进一步提高。

发明内容

本发明实施方式提供一种预测用户对商品的兴趣的方法、装置及广告发布方法，将用户对各商品的兴趣作为一个整体，充分考虑了用户对不同商品兴趣之间的相互影响，可准确预测出在下一个时间用户对商品的兴趣。

本发明实施方式提供的一种预测用户对商品的兴趣的方法，包括：

获取用户对商品的兴趣度的历史时间序列信息；

根据用户对商品的兴趣度的历史时间序列信息确定有关联关系的商品，将有关联关系的商品聚集为一类，并确定每个聚类中的中心商品、及关联商品；

根据聚类的中心商品对应的历史时间序列信息、利用灰色建模获得聚类的中心商品的中心兴趣变化模型；

根据聚类的关联商品对应的历史时间序列信息、利用中心商品和关联商品的关系获得聚类的关联商品的关联兴趣影响模型；

利用中心兴趣变化模型、关联兴趣影响模型预测在下一个时间，用户对中心商品、和/或关联商品的兴趣度，并输出所述预测的在下一个时间用户对中心商品、和/或关联商品的兴趣度。

本发明实施方式还提供一种广告发布方法，所述方法包括步骤：

获取用户对商品的兴趣度的历史时间序列信息；

从用户有兴趣的商品中确定有关联关系的商品，将相互有关联关系的商品聚集为一类，并确定每个聚类中的中心商品、及关联商品；

根据所述历史时间序列信息、利用灰色建模GM获得聚类的中心商品的中心兴趣变化模型；

根据所述历史时间序列信息、利用中心商品和关联商品的关系获得聚类的关联商品的关联兴趣影响模型；

利用中心兴趣变化模型、关联兴趣影响模型预测在下一个时间段，用户对中心商品、和/或关联商品的兴趣度；

根据所述用户对中心商品、和/或关联商品的兴趣度向用户发送相应商品的广告。

本发明实施方式还提供一种预测用户对商品的兴趣的装置，该装置包括：

存储模块：获取用户对商品的兴趣度的历史时间序列信息，并存储；

聚类模块：从用户有兴趣的商品中确定有关联关系的商品，将相互有关联关系的商品聚集为一类，并确定每个聚类中的中心商品、及关联商品；

中心建模模块：根据存储模块中存储的所述历史时间序列信息、利用灰色建模GM获得聚类的中心商品的中心兴趣变化模型；

关联建模模块：根据存储模块中存储的所述历史时间序列信息、利用中心商品和关联商品的关系获得聚类的关联商品的关联兴趣影响模型；

预测模块：用于利用中心兴趣变化模型、关联兴趣影响模型预测在下一个时间段，用户对中心商品、和/或关联商品的兴趣度，并输出所述预测的兴趣度。

通过上述技术方案的描述可知，本发明实施方式通过对用户感兴趣的各商品进行聚类，从而能够得到商品的关联聚类模型，从而能够将用户对各商品的兴趣作为一个整体；通过为聚类中的中心商品、及关联商品分别进行建立模型，充分考虑了用户对不同商品兴趣之间的相互影响，从而可准确预测出在下一个时间用户对商品的兴趣。

附图说明

图1是本发明实施方式的预测用户对商品的兴趣的示意图；

图2是本发明实施方式的预测用户对商品的兴趣的流程示意图；

图3是本发明实施方式的采用HDASOM进行聚类的流程示意图；

图4是本发明实施方式的神经元权值向量的自适应变化示意图；

图5是本发明实施方式的HDGSOM的结构自增长的示意图；

图6是本发明实施方式的建立中心兴趣变化模型的流程示意图；

图7是本发明实施方式的建立关联兴趣影响模型的流程示意图。

具体实施方式

下面对本发明实施方式提供的预测用户对商品的兴趣的方法进行说明。

本发明实施方式提供的预测用户对商品的兴趣的方法需要利用用户对商品的兴趣度的历史时间序列信息。这里的历史时间序列信息需要体现出用户感兴趣的商品信息、用户对商品的兴趣度信息、以及用户对商品感兴趣的历史时间信息。历史时间序列信息包括的具体内容可根据实际情况设置，历史时间序列信息能够体现出上述三者内容即可，本发明实施方式不限制历史时间序列信息具体包括内容的表现形式。这里的商品可以是所有权能够转移的商品，也可以是使用权可以转移但是所有权不能够转移的商品；而且，这里的商品可以是有形商品，也可以是无形商品。这里的用户对商品的兴趣度可以是用户对商品的购买兴趣度，当然，也可以是用户对商品的租赁兴趣度等等；本发明实施方式不限制商品的具体表现形式、以及用户对商品的兴趣度的具体表现形式。

本发明实施方式可以根据用户发送信息的情况来获取并存储历史时间序列信息，例如，从用户发送的信息中提取商品信息，将该商品信息作为用户感兴趣的商品信息，从用户发送的信息中确定商品信息出现的次数，将次数信息作为该商品的兴趣度信息，将用户发送信息的时间作为用户对该商品感兴趣的历史时间信息。这里的用户发送信息的情况可以为用户发送短信的情况，也可以为用户发送的邮件的情况等等。也就是说，本发明实施方式可以从用户发送的短信、邮件等等信息中获取历史时间序列信息。本发明实施方式可以利用现有的各种方法来获取历史时间序列信息，在此不再详细说明。

在获取并存储了用户对商品的兴趣度的历史时间序列信息后，需要根据商品之间的关联关系对用户有兴趣的商品进行聚类，即从用户有兴趣的商品中确定有关联关系的商品，将相互有关联关系的商品聚集为一类，然后，确定每个聚类中的中心商品、及与该中心商品有关联关系的关联商品。

本发明实施方式可以利用自组织神经网络对用户有兴趣的商品进行聚类，并将每个聚类中的神经元确定为中心商品，将一个聚类中的除神经元之外的其它商品确定为关联商品，一个聚类中的关联商品与该聚类中的中心商品之间有关联关系。本发明实施方式也可以采用现有技术中的其它方法来进行商品聚类。利用自组织神经网络对用户有兴趣的商品进行聚类的具体实现过程是多种多样的，下面以一种利用自组织神经网络对用户有兴趣的商品进行聚类为例、对商品聚类过程进行说明。

步骤1、设置神经元初始个数、以及各神经元的初始权值向量。设置神经元初始个数即确定聚类的初始个数。设置神经元初始权值向量的方法有多种，例如，使用随机数来设置各神经元的初始权值向量。神经元权值向量也可以简称为神经元向量。各神经元权值向量可以在聚类过程中调整。神经元权值向量可以认为是聚类的中心产品的虚拟兴趣度向量。

步骤2、根据上述历史时间序列信息确定各商品对应的历史时间序列信息向量与各神经元向量之间的距离。

在确定各商品对应的历史时间序列信息向量与神经元向量的距离过程中，可以采用如下公式来计算向量距离：

$\mathrm{Dist}\left|\right|X_1,X_2\left|\right|=\frac{\underset{i=1}{\overset{n}{\mathrm{\Σ}}}\sqrt{{(X_{1i}-X_{2i})}^2}}{n}\×\underset{i=1}{\overset{n}{\mathrm{\Σ}}}|\sqrt{{(X_{1i}-X_{2i})}^2}-\frac{\underset{i=1}{\overset{n}{\mathrm{\Σ}}}\sqrt{{(X_{1i}-X_{2i})}^2}}{n}|;$

其中：X₁为商品对应的历史时间序列信息向量，X₂为神经元向量，n为根据商品的历史时间序列获得的时间间隔。商品对应的历史时间序列信息向量可以简称为商品向量。

步骤3、判断商品向量与各神经元向量之间的距离，如果一个商品向量与某个神经元向量之间的距离小于预定值，则将该商品归入该神经元所在的聚类；如果一个商品向量与各个神经元向量之间的距离均大于预定值，则可以将该商品作为新增加的神经元。

调整神经元权值向量的过程可以为：在将一个商品归入某个神经元所在的聚类时，调整该神经元权值向量，使该神经元能够更容易的将与该商品类似的商品归入自己所在的聚类，即使该神经元能够更容易获胜。

利用上述步骤1至步骤3可以将用户感兴趣的各商品归入相应的聚类，完成对用户感兴趣的各商品的聚类处理，如将用户感兴趣的各商品聚为m类，这m类可以称为商品的关联聚类模型。由于商品的关联聚类模型是针对用户感兴趣的所有商品的，因此，本发明实施方式将用户对各商品的兴趣作为了一个整体。这个商品的关联聚类模型可以包括多个集合，每个集合为一个聚类，每个集合中的神经元为中心商品，每个集合中除神经元之外的商品为与该中心商品相互关联的关联产品。每个集合中可以包括一个中心商品，可以包括一个或者多个关联商品。每个集合中也可以只包括一个中心商品而不包括关联商品。

再次需要说明的是，上述步骤1至步骤3仅仅是利用自组织神经网络对用户有兴趣的商品进行聚类的具体实现过程。本发明实施方式也可以利用其它技术进行聚类，而且，利用自组织神经网络进行聚类的具体实现过程是多种多样的，本发明实施方式不限制对用户有兴趣的商品进行聚类的具体实现过程，更不限制利用自组织神经网络对用户有兴趣的商品进行聚类的具体实现过程。

在对用户有兴趣的各商品进行了聚类、并确定了每个聚类的中心商品和关联商品后，本发明实施方式需要利用GM(灰色建模)为各聚类的中心商品建立中心商品的中心兴趣变化模型，该中心兴趣变化模型可以是根据各中心商品对应的历史时间序列信息训练获得的。本发明实施方式可以利用现有的GM建模过程来建立中心兴趣变化模型。中心兴趣变化模型也可以称为类中心商品历史兴趣度模型。

本发明实施方式最终建立的中心兴趣变化模型为：

x⁰(t(i))＝ce^-a×t(i)；

其中，X⁰为中心商品对应的历史时间序列，c为白化参数。

白化参数c可以利用现有的方法来计算，也可以利用本发明实施方式提供的方法来计算获得。本发明实施方式计算确定的白化参数为：

c＝(D^TD)^-1D^TX；

其中： $D=\left(\begin{array}{c}{e}^{-t\left(1\right)a}\\ e^{-t\left(2\right)a}\\ .\\ .\\ .\\ e^{-t\left(n\right)a}\end{array}\right),$ $X=\left(\begin{array}{c}{x}^0\left(t\left(1\right)\right)\\ x^0\left(t\left(2\right)\right)\\ .\\ .\\ .\\ x^0\left(t\left(n\right)\right)\end{array}\right).$

在建立了中心兴趣变化模型后，可以利用中心兴趣变化模型来预测各聚类中的中心商品在下一时间的兴趣度。例如，向中心兴趣变化模型输入下一时间的时间信息，则中心兴趣变化模型输出预测的各中心商品的兴趣度。这里的下一时间的时间信息可以为一个时间点信息，也可以为一个时间段信息。中心兴趣变化模型可以为一个或者多个，例如，每个聚类对应一个聚类中心模型。

在对用户有兴趣的各商品进行了聚类、并确定了每个聚类的中心商品和关联商品后，本发明实施方式还需要为各聚类的关联商品建立关联商品的关联兴趣影响模型。在建立关联兴趣影响模型时，可以利用聚类中的中心商品兴趣度与该聚类中的各关联商品兴趣度之间的变化关系，例如，该关联兴趣影响模型可以是根据中心商品和关联商品的兴趣度变化的线性关系来建立，即利用历史时间序列信息中的各关联商品的信息训练获得的回归模型。这里的回归模型可以为： $\widehat{r_m(j,i)}=\hat{a}+\hat{b}{C}_m\left(i\right)$

为估计量。

本发明实施方式可以采用现有的回归模型建立过程来建立关联商品的关联兴趣影响模型。这里的关联商品的关联兴趣影响模型也可以称为相关商品关联类中心商品历史兴趣度模型。关联商品的关联兴趣影响模型可以为一个聚类对应一个关联商品的关联兴趣影响模型。

在建立了关联兴趣影响模型后，可以利用关联兴趣影响模型来预测各聚类中的关联商品在下一时间的兴趣度。例如，将中心兴趣变化模型输出的中心商品在下一时间的兴趣度输入关联兴趣影响模型，则关联兴趣影响模型输出在下一时间、与该中心商品相关联的关联商品的兴趣度。

本发明实施方式不限制建立中心兴趣变化模型和关联兴趣影响模型的先后顺序，也不限制预测各聚类中的中心商品在下一时间的兴趣度与建立回归模型的先后顺序。而且，本发明实施方式可以仅对中心商品在下一时间的兴趣度进行预测，也可以对中心商品、关联商品在下一时间的兴趣度进行预测。

在预测了在下一个时间用户对中心商品、和/或关联商品的兴趣度后，输出上述预测的兴趣度。这里的输出可以为显示上述预测的兴趣度，也可以为打印上述预测的兴趣度，还可以为向其它装置或者模块传输上述预测的兴趣度。本发明实施方式不限制上述预测兴趣度的具体输出方式。

下面以用户对商品的购买兴趣、采用自组织神经网络进行聚类以及中心商品与关联商品之间的线性关系为例、结合附图对本发明实施方式提供的预测用户对商品的兴趣的方法进行说明。

图1是本发明实施方式的预测用户对商品的兴趣的示意图。

图1中，首先利用历史时间序列、自组织神经网络聚类技术来获取各商品的关联聚类模型。然后，根据关联聚类模型中的各中心商品对应的历史时间序列信息、利用GM建立中心兴趣变化模型。可选的，本发明实施方式可以对上述建立的中心兴趣变化模型进行预测评估。其次，根据关联聚类模型中的各关联商品对应的历史时间序列信息、利用关联商品与中心商品之间的线性关系建立关联兴趣影响模型，即回归模型。可选的，本发明实施方式也可以对上述建立的关联兴趣影响模型进行预测评估。最后，利用上述建立的中心兴趣变化模型和关联兴趣影响模型对下一个时间的各中心商品兴趣度、各关联商品兴趣度进行预测。预测的过程可以称为知识合成的过程。上述建立中心兴趣变化模型、建立关联兴趣影响模型的先后顺序可以不受限制。

通过对本发明实施方式提供的中心兴趣变化模型、关联兴趣影响模型进行预测评估，能够对本发明实施方式提供的模型的预测准确程度进行客观评价，能够充分反映本发明实施方式预测出的下一个时间的各中心商品兴趣度、各关联商品兴趣度的准确性。

图2是本发明实施方式的预测用户对商品的兴趣的流程示意图。

图2中，步骤1、根据输入的用户对各类商品购买兴趣的历史时间序列信息、利用自组织神经网络聚类技术对用户有购买兴趣的商品进行聚类，从而获得用户有购买兴趣的各商品的关联聚类模型。

步骤1中的历史时间序列信息可以从用户发送的历史短信中获得。历史时间序列信息中的用户对商品的兴趣度可以从历史短信中描述商品的频率来确定。步骤1中的关联聚类模型可以由多个关联商品构成的集合来表示，其中每个集合中都有一个商品的历史兴趣时间序列向量和关联聚类模型向量最接近，可以将历史兴趣时间序列向量与关联聚类模型向量最接近的商品为该商品所在集合的中心商品，该商品所在集合中除中心商品之外的商品为该中心商品的关联商品。历史时间序列中的中心商品对应的兴趣度可以称为“类中心商品历史兴趣度”，历史时间序列中的关联商品对应的兴趣度可以称为“相关商品关联类中心商品的历史兴趣度”。如果一个集合中只有一个商品元素，则该商品为中心商品。本实施方式对用户购买兴趣的预测是根据上述类中心商品历史兴趣度、及相关商品关联类中心商品的历史兴趣度进行挖掘而获得的。

步骤2、判断关联聚类模型中的各聚类是否都进行了中心兴趣变化模型、以及关联兴趣影响模型操作，如果都进行了中心兴趣变化模型、以及关联兴趣影响模型操作，则到步骤8；如果没有都进行中心兴趣变化模型、以及关联兴趣影响模型操作，则到步骤3。

步骤3、利用未进行建模操作的聚类中的中心商品对应的历史时间序列信息对中心兴趣变化模型进行训练。

步骤4、对训练后的中心兴趣变化模型进行预测评估。

步骤5、判断步骤3中未进行建模操作的聚类中的关联商品是否都进行了关联兴趣影响模型操作，如果没有都进行了关联兴趣影响模型操作，则到步骤6；如果都进行了关联兴趣影响模型操作，则到步骤2。

步骤6、利用未进行建模操作的聚类中的关联商品对应的历史时间序列信息对关联兴趣影响模型进行训练。

步骤7、对训练后的关联兴趣影响模型进行预测评估。

步骤8、利用上述建立的中心兴趣变化模型和关联兴趣影响模型对下一个时间的各中心商品兴趣度、各关联商品兴趣度进行预测，即进行知识合成过程，到步骤9，本次预测用户对商品的兴趣的流程结束。

图2中需要特别说明的是，步骤4和步骤7的预测评估过程可以为可选过程，另外，在步骤8中，可以进行多次预测，即利用步骤3、步骤6建立的中心兴趣变化模型、关联兴趣影响模型可以对多个不同的下一个时间的各中心商品兴趣度、各关联商品兴趣度进行预测。

图2中的步骤1可以采用HDASOM(自增长型自组织网络)来获得用户有购买兴趣的各商品的关联聚类模型。步骤1中采用HDA$OM建立关联聚类模型的过程可以是一个增量聚类的过程，即在设定了初始神经元的个数后，神经元的数量还可以根据实际商品之间的关联关系而增加。下面以一个具体的例子来说明采用HDASOM建立关联聚类模型的增量聚类的过程。

本发明实施方式中的HDASOM可以先确定一个输出为矩形的网络互连结构，即设置初始类别数为4，也就是说，神经元的初始数量为4。对于用户有购买兴趣的各商品，HDASOM均计算商品对应的历史时间序列向量与所有神经元权值向量之间的距离。如果HDASOM判断出商品对应的历史时间序列向量与某神经元权值向量之间的距离不大于预先设置的距离阈值θ，则根据基本SOM(自组织映射网络)的竞争规则，将商品归入与其距离最小的神经元所代表的聚类中，该神经元为获胜神经元。同时，HDASOM还可以调整获胜神经元及其直接相邻神经元的权值向量，从而使与该商品对应的历史时间序列向量相似的商品再次出现时，这些神经元能够更加容易获胜。上述权值向量调整过程可以发生在商品对应的历史时间序列向量与某神经元权值向量之间的距离不大于距离阈值θ、且将商品归入与其聚类最小的神经元所代表的聚类中。如果HDASOM判断出商品对应的历史时间序列向量与各神经元权值向量之间的距离都大于预先设置的距离阈值θ，则表示该商品对应的历史时间序列与现有各聚类的时间序列都不相似，该商品代表了一个新的类别，即该商品为一种独立的商品，从而需要在HDASOM输出的网络互连结构中增加一行/列新的神经元，以表示新的聚类。

当所有商品的历史时间序列都输入到HDASOM中，且所以商品都在满足距离阈值的情况下归入到相应的聚类中后，整个自增长、自适应聚类过程结束。

下面结合附图分别对采用HDASOM进行聚类的实现过程、建立中心兴趣变化模型的实现过程、建立关联兴趣影响模型的实现过程进行详细说明。

采用HDASOM进行聚类的实现过程如附图3所示。

图3中步骤1，利用自组织神经网络技术进行聚类的过程开始，到步骤2。

步骤2、对HDASOM的结构进行初始化，如初始化HDASOM输出的神经元的数量、以及各神经元的权值向量等，到步骤3。

本发明实施方式可以将HDASOM的输出层初始化为具有四个神经元的2维矩形，并可以用随机数对所有神经元的权值向量W_i进行赋值。

设定HDASOM的输入向量为：X，X＝(x₁，x₂，...，x_n)^T。设定HDASOM输出的神经元j的权值向量为W_j，W_j＝(w_1j，w_2j，...，w_nj)^T，j＝1，2，...，n。其中，神经元j的权值向量为随机值。

上述各输入向量即为用户有购买兴趣的各商品对应的历史时间序列向量。

步骤3、从所有商品对应的历史时间序列向量中随机抽取输入向量X_j，并将随机抽取的输入向量X_j提供给HDASOM，以供HDASOM进行学习，这里的学习即训练。HDASOM计算输入向量与各个神经元权值向量之间的距离，这里的距离可以根据输入向量与各个神经元权值向量之间的匹配程度来确定，例如，两向量之间越匹配，则两向量之间的距离就越小。然后，到步骤4。

在一般情况下，输入向量X_j和神经元权值向量W_j之间的匹配程度可以用两者之间的内积来表示，即用X^T·W_j来表示。内积最大处正是“气泡”中心。内积X^T·W_j最大时，则X和W_j之间的向量差的范数‖x-w_j‖必定最小，在一般情况下，向量差的范数即为两向量之间的最小距离。从而确定了最优匹配的神经元C应满足如下公式：

$\left|\right|x-w_c\left|\right|=\underset{i=1}{\overset{p}{\min }}\left|\right|x-w_j\left|\right|$

其中：W_c是神经元C的权值向量，x为输入向量，W_j为神经元j的权值向量。也就是说，W_j表示i到p个神经元中的任意一个神经元权值向量，W_c表示上述i到p个神经元中和x距离最接近的一个神经元的权值向量。

上述最优匹配的神经元C应满足的公式即为匹配规则，上述最优匹配的神经元C应满足的公式说明：神经元C的权值向量W_c与输入向量X有最优匹配。

输入向量和神经元权值向量之间的匹配程度即：输入向量和神经元权值向量之间相似性。根据相似性来判断距离的方法可以采用：明考夫斯基距离、绝对距离(曼哈坦距离)、切比雪夫距离、兰氏距离、夹角余旋、欧几里德距离等等。

由于输入向量即历史时间序列信息构成的向量，作为一种高维数据可能在百维以上，因此，在对输入向量进行相似度计算时，需要避免高维向量的累积效应、更加充分的体现出用户对商品兴趣度变化的差异。

下面以一个具体的例子来说明高维向量的积累效应。

设定向量X₀，X₁，X₂分别表示三个神经元的权值向量，A和B分别表示商品1和商品2对应的历史时间序列的向量信息，且X₀、A、B的值分别为：

在采用欧几里德距离时，得出A、B与神经元X₀的距离相同，但是，实际上A、B与神经元X₀向量的相似性却相差很大。向量A与神经元X₀向量完全不对称。

在采用夹角余旋时，虽然能够分辨出A、B与神经元X₀的距离不同，但是，由于向量B和神经元X₀的向量的夹角为0，因此，不能正确区别向量B、以及与B类似的商品对应的历史时间序列向量与神经元X₀的距离。

上述例举的明考夫斯基距离、绝对距离(曼哈坦距离)、切比雪夫距离、兰氏距离等距离标准也均存在类似的问题。

发明人在实现本发明的过程中发现：高维向量的累积效应能够导致欧氏距离增大，高维向量本身的文本特征向量也能够导致欧氏距离增大。为了充分体现出用户对商品兴趣度变化的差异、避免高维向量的累积效应，本发明实施方式同时考虑了不同商品对应的历史时间序列向量的差异、以及不同向量的欧氏距离产生原因。为了区别是累积效应导致的欧氏距离增大还是文本特征向量之间真实差异导致的欧氏距离增大，本发明实施方式引入以下的判断规则：

为了真实的反映高维历史时间序列向量之间的相似度，不仅要考虑到向量之间的欧氏距离，还要考虑到向量差数列的离散程度。即，将两向量对应的维相减，得到一个与两向量同维的差向量，然后，再将差向量作为一个数列，该数列称之为差数列。求解差数列的方差，如果获得的差数列的方差大于某一阈值，则说明上述两向量之间的欧氏距离不是由高维向量的累积效应产生的。

考虑到上述判断规则，本发明实施方式可以将两个历史时间序列向量的相似度定义为如下形式：

$\mathrm{Dist}\left|\right|X_1,X_2\left|\right|=\frac{\underset{i=1}{\overset{n}{\mathrm{\Σ}}}\sqrt{{(X_{1i}-X_{2i})}^2}}{n}\×\underset{i=1}{\overset{n}{\mathrm{\Σ}}}|\sqrt{{(X_{1i}-X_{2i})}^2}-\frac{\underset{i=1}{\overset{n}{\mathrm{\Σ}}}\sqrt{{(X_{1i}-X_{2i})}^2}}{n}|;$

其中：X₁，X₂，为需要进行比较的两个商品对应的历史时间序列向量，n为时间间隔。X₁可以为商品对应的历史时间序列向量，X₂可以为神经元权值向量。如果定义输入向量为X_j，神经元权值向量为w_i，输入向量与神经元权值向量之间的距离为：

d_ij＝Dist‖X_j，w_i‖i＝1，...，m。

步骤4、判断上述步骤3计算出的输入向量与各神经元权值向量之间的距离，将输入向量对应的商品纳入距离不大于预先设置的距离阈值θ、且距离d_ij最小的神经元所在的聚类中，即具有距离d_ij最小的神经元i获胜。调整获胜神经元i及和该神经元直接连接的神经元的权值，然后，到步骤5。

在步骤4中，调整后的权值可以为：

其中，N_i表示获胜神经元i的直接邻居集合，η₁(t)和η₂(t)都为0到1之间的常数，η₁(t)和η₂(t)分别表示神经元i及其相邻神经元的学习率，η₁(t)和η₂(t)的取值可以分别为：η₁(t)∈[0.05，0.1]，η₂(t)∈[0.002，0.01]。

在神经元的权值向量不在变化时，即代表所有的商品对应的输入向量都已经进行了上述聚类操作，此时，可以到步骤5，利用自组织神经网络技术进行聚类的过程结束。

步骤5、分别求解各神经元的平均量化误差值，即分别求解输入向量与各神经元权值向量之间的平均量化误差值，然后，到步骤6。

在步骤5中，设定神经元i的平均量化误差值为mqe_i，mqe_i是根据神经元i的权值向量m_i、以及与m_i距离最近的所有输入向量间的平均距离来计算的。其中，与m_i距离最近的所有输入向量即为该神经元所在聚类的所有关联商品的向量。这里的m_i即为上述w_i。

设定x＝∈Rⁿ为各商品对应的历史时间序列向量，C_i为神经元i所在的聚类中所有商品对应的历史时间序列向量的集合，{m_i∈Rⁿ，i＝1，2，...，k}为神经元权值向量集合，则mqe_i为：

${\mathrm{mqe}}_i=\frac{1}{n_C}\underset{x_j\∈C_i}{\mathrm{\Σ}}\left|\right|d_{\mathrm{ij}}\left|\right|,$ n_C＝|C_i|，C_i≠φ；

其中，d_ij是利用{m_i∈Rⁿ，i＝1，2，...，k}计算获得的。m_i即为上述步骤3的公式d_ij＝Dist‖X_j，w_i‖，＝1，..，m中的w_i。

步骤6、确定各神经元中平均量化误差值最大的一个神经元，该神经元可以称为bs(black sheep)，该神经元是聚类过程中表现最坏的一个神经元。如果max(mqe_i)≥θ，则到步骤8，否则进入步骤7。

步骤6中的θ＝ln(D)×ln(SF)；

其中：D表示输入向量维数，SF称为分布因子，当SF的值较小时，则SOM聚类分布密集，反之分布相对稀疏，SF的取值通常为0.1。这样的扩展标准θ和数据相关，能够适应不同数据的特点。扩展标准θ决定最终的聚类粒度，这里数据的特点是指输入向量的维数和聚合度。

步骤7、采用HDASOM进行聚类的实现过程结束。

步骤8、如果将bs记为e，则从e的邻域中找出一个与e偏离最远的神经元，记为d。然后在d，e之间插入新的一行或一列神经元，从而将HDASOM的原有的结构扩大了，到步骤9。

步骤9、初始化新加入的神经元，例如将新加入的神经元的权值向量初始化为邻域神经元权值向量的均值，到步骤3。

在步骤9中，新增加的神经元C_new的权值向量和该神经元的平均量化误差可以分别被初始化为：

$W_{C_{\mathrm{new}}}=\frac{1}{2}(W_e+W_d);$

$\mathrm{err}\left(c_{\mathrm{new}}\right)=\frac{1}{2}\mathrm{err}\left({\mathrm{neighbor}}_{c{C}_{\mathrm{new}}}\right).$

在增加了新的神经元后，减少了该神经元的直接邻域在下次聚类过程中成为bs的可能性，从而降低了HDASOM的误差。HDASOM的误差可以为max(mqe_i)，即所有神经元中的最大平均量化误差。

从长远来看，新的神经元能够使HDASOM结构中的神经元位置向量分布逐渐接近输入向量空间的概率密度分布p(x)。

从上述描述可以看出，虽然HDGASOM是从GCS继承而来的，但是由于本发明实施方式中的HDGSOM采用了与GCS不同的距离规则dist‖‖、且HDASOM能够在检测到用户的兴趣度发生变化的同时，对商品的关联聚类模型立即进行更新，因此，本发明实施方式能够及时、准确的发现具有关联特性的商品兴趣度变化之间的相似性，从而能够及时、准确的寻找到关联商品。

图4描述了HDGSOM在聚类过程中，即在自组织映射过程中，神经元权值向量的自适应变化情况。

图4中，随着时间的变化，由于输出层神经元有侧向交互的作用，神经元权值向量y_j的分布就会因对环境的自组织而形成“气泡”状，此时，神经元权值向量的分布将同各个聚类的中心分布一致。自组织映射的目的就是使神经元的权值向量的形态表示可以间接模仿输入的文本特征向量模式。

图5描述了插入新的神经元的过程，即HDGSOM的结构进行自增长的过程。图5中，黑色节点为新插入的神经元，箭头指向初始化后的新的神经元的权值向量的相邻神经元。

图5中的(a)为在神经元e和神经元d之间插入了一行新的神经元。图5中的(b)为在神经元e和神经元d之间插入了一列新的神经元。

下面结合附图6对本发明实施方式提供的建立中心兴趣变化模型的过程进行详细说明。

图6中，步骤1、判断所有的聚类是否都进行了建立中心兴趣变化模型的过程，如果所有的聚类都进行了建立中心兴趣变化模型的过程，则到步骤10，结束建立中心兴趣变化模型的过程，可以继续执行知识合成的过程；如果不是所有的聚类都进行了建立中心兴趣变化模型的过程，则到步骤2。

步骤2、获取下一个未进行过建立中心兴趣变化模型过程的聚类集合，根据聚类集合获取类m的中心商品对应历史时间序列。

设定将历史时间序列定义为：由“时间段”和“中心商品历史兴趣度”组成的一个二元关系，其中的“时间段”可以定义为：对用户的短信进行处理的时间段，如XX年XX月XX日到YY年YY月YY日，该时间段可以记为ds-de，其中的ds，de可以分别代表起始日期和终止日期。

类m的中心商品对应历史时间序列可以记为D(n)：

D(n)＝((ds(1)～de(1)，c(1))，...，(ds(n)～de(n)，c(n)))；

其中，c(i)(1≤i≤n)为类m的中心商品历史兴趣度。

按照时间先后顺序构成的类m的中心商品对应历史时间序列如表1所示。

表1

时间段ds(i)～de(i)	类m的“类中心商品历史兴趣度”cm(i)
		ds(1)～de(1)	cm(1)
ds(2)～de(2)	cm(2)
		……	……
ds(n)～de(n)	cm(n)

步骤3、存储类m的中心商品对应历史时间序列。

步骤4、构造类m的“类中心商品历史兴趣度GM时间序列”。

定义“类中心商品历史兴趣度GM时间序列”为：一个以时间递增的有序序列，序列中的每个元素由“时间步”和“类中心商品历史兴趣度”组成。

将上述D(n)转换成关于本类的“类中心商品历史兴趣度GM时间序列”，记为：X＝(c(t(1))，...，c(t(n)))；

其中：t(i)为“时间步”，c(t(i))为第t(i)个“时间步”的“类中心商品历史兴趣度”，(1≤i≤n)。

下面对构造类m的“类中心商品历史兴趣度GM时间序列”的过程进行详细说明。

1、计算“时间步”序列。

定义“间隔时间段”为：在D(n)中相邻的两个元素(第i-1个元素与第i个元素，2≤i≤n)中的“时间段”之间的间隔时间段。将“间隔时间段”记为Δt(i)。“间隔时间段”的计算公式为：Δt(i)＝ds(i)-de(i-1)-1 2≤i≤n。

计算出所有的Δt(i)之后，利用下述公式计算“时间步”t(i)(1≤i≤n)：

$t\left(i\right)=\left\{\begin{array}{cc}1& i=1\\ t(i=1)+\mathrm{\&Delta;t}\left(i\right)& 1<i\&le;n\end{array}\right.;$

然后，将t(i)(1≤i≤n)组成“时间步序列”，记为T＝(t(1)，...，t(n))。

2、合成类m的“类中心商品历史兴趣度GM时间序列”。

将T(i)和c(i)一一对应，合成类m的“类中心商品历史兴趣度GM时间序列”为：X＝(c_m(t(1))，...，c_m(t(n)))。

类m的“类中心商品历史兴趣度GM时间序列”可以如表2所示。

表2

时间步t(i)	类m的“类中心商品历史兴趣度”cm(i)
		t(1)	cm(1)
t(2)	cm(2)
		……	……
t(n)	cm(n)

步骤5、存储类m的“类中心商品历史兴趣度GM时间序列”。

步骤6、建立类m的“类中心商品历史兴趣度模型”，即建立中心兴趣变化模型。

根据步骤4中获得的时间序列X、采用GM(1，1)建立中心兴趣变化模型，具体的建模过程可以包括如下内容：

1、将类m的中心商品的时间序列X⁰进行累加： $x^{\left(1\right)}\left(t\right)=\underset{i=1}{\overset{t}{\mathrm{\&Sigma;}}}{x}^{\left(0\right)}\left(t\left(i\right)\right)$ 1≤t≤n；从而获得累加后中心商品时间序列X⁰的1-AGO序列X¹。

2、将X1中相邻两个时间步相加取平均值： $z^{\left(1\right)}\left(i\right)=\frac{x^{\left(1\right)}\left(t\left(i\right)\right)+x^{\left(1\right)}\left(t(i+1)\right)}{2}$ 1≤i≤n-1；获得平滑时间序列Z¹。

3、根据灰色微分方程X⁰+aZ¹＝b利用最小二乘法计算向量 $\left(\begin{array}{c}a\\ b\end{array}\right)={\left(B^{T}B\right)}^{-1}{B}^{T}Y.$

其中： $B=\left(\begin{array}{cc}-z^1\left(t\left(2\right)\right)& 1\\ -z^1\left(t\left(3\right)\right)& 1\\ .& \\ .& 1\\ .& \\ -z^1\left(t\left(n\right)\right)& 1\end{array}\right),$ $Y=\left(\begin{array}{c}{x}^0\left(t\left(2\right)\right)\\ x^0\left(t\left(3\right)\right)\\ .\\ .\\ .\\ x^0\left(t\left(n\right)\right)\end{array}\right).$

4、计算白化参数：c＝(D^TD)^-1D^TX；

其中： $D=\left(\begin{array}{c}{e}^{-t\left(1\right)a}\\ e^{-t\left(2\right)a}\\ .\\ .\\ .\\ e^{-t\left(n\right)a}\end{array}\right),$ $X=\left(\begin{array}{c}{x}^0\left(t\left(1\right)\right)\\ x^0\left(t\left(2\right)\right)\\ .\\ .\\ .\\ x^0\left(t\left(n\right)\right)\end{array}\right),$

5、根据白化方程 $\frac{{\mathrm{dX}}^1\left(t\right)}{\mathrm{dt}}+a{X}^1\left(t\right)=b$ 和 $x^{\left(1\right)}\left(t\right)=\underset{i=1}{\overset{t}{\mathrm{\&Sigma;}}}{x}^{\left(0\right)}\left(t\left(i\right)\right)$ 1≤t≤n，计算获得模型函数，即“类中心商品历史兴趣度模型”：x⁰(t(i))＝ce^-a×t(i)。

步骤7、存储类m的“类中心商品历史兴趣度模型”，即存储中心兴趣变化模型。

步骤8、对类m的“类中心商品历史兴趣度模型”进行评估，并存储“类中心商品历史兴趣度模型”的评估值。

步骤9、利用上述建立的类m的“类中心商品历史兴趣度模型”对下一个时间中心商品的兴趣度进行预测，并存储下一个时间的中心商品的兴趣度预测值，到步骤10，结束建立中心兴趣变化模型的过程。

在上述图6的步骤8中，对类m的“类中心商品历史兴趣度模型”进行评估时，可以采用相对误差评估方法，例如采用平均相对误差作为评估函数，评估值为1减去该平均相对误差值。

采用相对误差评估方法对类m的“类中心商品历史兴趣度模型”进行评估的过程可以如下所示。

计算公式 ${\mathrm{est}}_c\left(m\right)=1-\frac{1}{n}\underset{i=1}{\overset{n}{\mathrm{\&Sigma;}}}\left|\frac{x^0\left(\hat{t}\left(i\right)\right)-x^0\left(t\left(i\right)\right)}{x^0(t\left(i\right)}\right|=1-\frac{1}{n}\underset{i=1}{\overset{n}{\mathrm{\&Sigma;}}}\left|\frac{c{e}^{-a\&times;t\left(i\right)}-x^0\left(t\left(i\right)\right)}{x^0(t\left(i\right)}\right|$ 的值，将该计算出的值作为“类中心商品历史兴趣度模型”的评估值。计算出的评估值越大，则说明利用“类中心商品历史兴趣度模型”进行预测的结果的精度越高，预测的准确度越高。

在上述图6的步骤9中，利用上述建立的类m的“类中心商品历史兴趣度模型”对下一个时间中心商品的兴趣度进行预测的过程可以为：

将下一个时间，即期望预测的时间段Δt(n+1)代入公式：

$t\left(i\right)=\left\{\begin{array}{cc}1& i=1\\ t(i-1)+\mathrm{\&Delta;t}\left(i\right)& 1<i\&le;n\end{array}\right.;$

以计算出期望预测的时间段对应的“时间步”：t(n+1)＝t(n)+Δt(n+1)，然后，将t(n+1)代入类m的“类中心商品历史兴趣度模型”中，得到类m的中心商品的兴趣度预测值：e_c(m)＝ce^-a×t(n+1)。

下面结合附图7对关联商品的关联兴趣影响模型的建立过程进行说明。

图7中，在步骤1、判断所有的聚类是否都进行了建立关联商品的关联兴趣影响模型的过程，如果所有的聚类都进行了建立关联兴趣影响模型的过程，则到步骤9，进行建立中心兴趣变化模型的过程；如果不是所有的聚类都进行了建立关联商品的关联兴趣影响模型的过程，则到步骤2。

步骤2、获取下一个未进行过建立中心兴趣变化模型过程的聚类集合，到步骤3。

步骤3、根据步骤2中的聚类集合，分别获取并存储类m的关联商品历史兴趣度、以及类m的“类中心商品历史兴趣度GM时间序列”中的兴趣度。可以将类m的关联商品历史兴趣度集合记作：R_m(j)＝(r_m(j，1)，…，r_m(j，n))。将类m的“类中心商品历史兴趣度GM时间序列”中的兴趣度记作：C(m)＝(c_m(1)，…，c_m(n))。

假设类m中有k个关联商品，则类m中关联商品历史兴趣度、以及类m的“类中心商品历史兴趣度GM时间序列”中的兴趣度如表3所示。

表3

类m的“类中心商品历史兴趣度”cm(i)	类m的第1个相关商品历史兴趣度cm(1，i)		类m的第k个相关商品历史兴趣度rm(k，i)
				cm(1)	rm(1，1)		rm(k，1)
cm(2)	rm(1，2)		rm(k，2)
				…	…		…
cm(n)	rm(1，n)		rm(k，n)

步骤4、利用步骤3中存储的信息建立类m的第j个“相关商品关联类中心商品历史兴趣度模型”，即建立关联商品的关联兴趣影响模型。

利用中心商品与关联商品之间的一元线性关系建立的关联兴趣影响模型为：r_m(j，i)＝a+bC(i)+ε(i)．其中：a，b为回归系数，ε(i)为残差。

关联兴趣影响模型r_m(j，i)＝a+bC(i)+ε(i)的向量形式为：R_m(j)=C′(m)b+ε；

其中： $R_m\left(j\right)=\left(\begin{array}{c}{r}_m(j,1)\\ r_m(j,2)\\ .\\ .\\ .\\ r_m(j,n)\end{array}\right),$ $C^{\&prime;}\left(m\right)=\left(\begin{array}{cc}{c}_m\left(1\right)& 1\\ c_m\left(2\right)& 1\\ .& .\\ .& .\\ .& .\\ c_m\left(n\right)& 1\end{array}\right),$ $b=\left(\begin{array}{c}a\\ b\end{array}\right)$ 为回归系数向量， $\mathrm{\&epsiv;}=\left(\begin{array}{c}\mathrm{\&epsiv;}\left(1\right)\\ \mathrm{\&epsiv;}\left(2\right)\\ .\\ .\\ .\\ \mathrm{\&epsiv;}\left(n\right)\end{array}\right)$ 为残差向量。

根据残差平方： $E={(R_m\left(j\right)-C^{\&prime;}\left(m\right)\hat{b})}^T(R_m\left(j\right)-C^{\&prime;}\left(m\right)\hat{b})$ 最小原则(其中

为b的估计量)，因此有：

$\frac{d{(R_m\left(j\right)-C^{\&prime;}\left(m\right)\hat{b})}^T(R_m\left(j\right)-C^{\&prime;}\left(m\right)\hat{b})}{a\hat{b}}=0$

$\&DoubleRightArrow;-2C^{\&prime;T}(R_m\left(j\right)-C^{\&prime;}\left(m\right)\hat{b})=0$

$\&DoubleRightArrow;C^{\&prime;}{\left(m\right)}^T{R}_m\left(j\right)-C^{\&prime;}{\left(m\right)}^T{C}^{\&prime;}\left(m\right)\hat{b}=0$

$\&DoubleRightArrow;C^{\&prime;}{\left(m\right)}^T{C}^{\&prime;}\left(m\right)\hat{b}=C^{\&prime;}{\left(m\right)}^T{R}_m\left(j\right)$

从而获得： $\hat{b}={\left(C^{\&prime;}{\left(m\right)}^T{C}^{\&prime;}\left(m\right)\right)}^{-1}{C}^{\&prime;}{\left(m\right)}^{-1}{R}_j.$

从上面的推导可以获得：类m的第j个“相关商品关联类中心商品历史兴趣度模型”为： $\widehat{r_m(j,i)}=\hat{a}+\hat{b}{C}_m\left(i\right)$

为估计量。

步骤5、存储步骤4获得的类m的第j个“相关商品关联类中心商品历史兴趣度模型” $\widehat{r_m(j,i)}=\hat{a}+\hat{b}{C}_m\left(i\right)$

为估计量。

步骤6、对类m的第j个“相关商品关联类中心商品历史兴趣度模型”进行评估，并存储“类中心商品历史兴趣度模型”的评估值。

步骤7、利用类m的“类中心商品历史兴趣度模型”对下一个时间中心商品的兴趣度进行预测，并存储下一个时间类m的中心商品的兴趣度预测值。

步骤8、利用上述建立的类m的第j个“相关商品关联类中心商品历史兴趣度模型”、以及步骤7中存储的中心商品的兴趣度预测值对下一个时间关联商品的兴趣度进行预测，并存储下一个时间的关联商品的兴趣度预测值。例如，将下一个时间类m的中心商品的兴趣度预测值代入公式： $e_r(m,j)=\hat{a}+\hat{b}{e}_c\left(m\right)$ 中，即可获得下一个时间的类m的关联商品的兴趣度预测值。

在上述对图7的步骤6的描述中，可以采用平均相对误差对类m的第j个“相关商品关联类中心商品历史兴趣度模型”进行评估，例如，对类m的第j个“相关商品关联类中心商品历史兴趣度模型”进行评估的评估值为：

${\mathrm{est}}_r(m,j)=1-\frac{1}{n}\underset{i=1}{\overset{n}{\mathrm{\&Sigma;}}}\left|\frac{\widehat{r_m(j,i)}-r_m(j,i)}{r_m(j,i)}\right|=1-\frac{1}{n}\underset{i=1}{\overset{n}{\mathrm{\&Sigma;}}}\left|\frac{\hat{a}+\hat{b}{C}_m\left(i\right)-r_m(j,i)}{r_m(j,i)}\right|.$

利用上述公式计算出的评估值越大，则说明利用类m的第j个“相关商品关联类中心商品历史兴趣度模型”进行预测的结果的精度越高，预测的准确度越高。

利用上述图6、图7中对中心商品、关联商品在下一个时间的兴趣度进行预测的过程可以称为知识合成过程。经过知识合成后的兴趣度可以表现为“兴趣度预测向量”。例如，将总共l个类的所有的“类中心商品兴趣度预测值e_c”和l个类的所有的“相关商品兴趣度预测值e_r”合成的“兴趣度预测向量”如表4所示。

表4

类1的兴趣度预测值	类1的第1个相关商品兴趣度预测值	…	类1的第k个相关商品兴趣度预测值	类l的兴趣度预测值	类l的第1个相关商品兴趣度预测值	…
							ec(1)	er(1，1)	…	er(1，k)	ec(l)	er(l，1)	…

本发明实施方式可以对上述模型进行评估，例如，将所有相关商品关联对应聚类中心商品兴趣度模型评估值、以及所有聚类的中心商品兴趣度模型评估值通过下述公式进行合并：

$\mathrm{est}=\frac{1}{\mathrm{count}}\underset{i=1}{\overset{\mathrm{count}}{\mathrm{\&Sigma;}}}\{{\mathrm{est}}_c,{\mathrm{est}}_r\}$

{est_c，est_r}代表所有的商品兴趣度预测值的集合，

count为所有类总共的商品数

利用合并后的est来评估整个模型的预测性能。也就是说，可以将各模型的评估值的平均值作为包括中心兴趣变化模型、关联兴趣影响模型在内的整个模型的评估值。

如果针对各模型性能的好坏(评估值)去动态调整模型，则会因为调整存在误差，而导致动态调整模型的效果并不好。本发明实施方式可以不针对各模型性能的好坏来动态调整模型。本发明实施方式输出的各模型的评估值、预测结果的评估值，可以体现出本发明实施方式预测结果的可信度，对本发明实施方式的使用者具有指导性的意义。

下面举一个具体的对商品兴趣度进行预测的例子。

在一个较长的时间段内，针对某用户对16种商品的购买兴趣度进行了13次抽样，上述13次抽样结果按照时间顺序进行排列，排列结果如表5所示。

表5

日期商品	1	2	3	4	5	6	7	8	9	10	11	12	13
														商品1	0.9	0.8	0.0	1.0	0.8	0.5	0.9	0.7	0.6	0.9	0.8	1.0	0.8
商品2	0.5	0.6	0.7	1.0	0.82	0.9	0.7	0.8	0.8	0.5	0.6	1.0	0.6
														商品3	0.5	0.6	0.7	1.0	0.8	0.9	0.8	0.8	0.7	0.4	0.5	1.0	0.5
商品4	0.5	0.6	0.7	1.0	0.84	0.9	0.9	0.8	0.6	0.3	0.4	1.0	0.4
														商品5	0.0	0.1	0.2	0.3	0.4	0.5	0.6	0.7	0.8	0.9	0.9	1.0	0.5
商品6	1.0	0.9	0.8	0.7	0.6	0.5	0.4	0.3	0.2	0.1	0.1	0.0	0.1
														商品7	0.0	0.4	0.2	0.3	0.2	0.2	0.4	0.7	0.5	0.5	0.3	0.3	0.3
商品8	0.8	0.4	0.2	0.6	0.8	0.4	0.5	0.3	0.6	0.4	0.7	0.3	0.5
														商品9	0	1	0	0	1	1	0	0	0	0	1	0	0
商品10	0	1	0	0	1	1	0	1	0	1	1	0	0
														商品11	1	0	0	0	1	1	0	0	0	1	0	0	0
商品12	0	0	1	0	1	1	0	0	0	1	1	0	0
														商品13	0	0	1	0	1	1	0	1	0	1	1	0	0
商品14	0	0	1	0	1	1	1	1	0	0	1	0	1
														商品15	0	0	1	0	1	1	1	1	0	0	1	0	1
商品16	0	0	1	0	1	1	1	0	0	0	0	0	1

表5反映了在上述时间段内用户对各种商品的购买兴趣度的变化情况，其中，0表示用户对该商品没有购买兴趣，如用户收发的短信集中没有任何与该商品相关的信息；1表示用户对该商品有购买兴趣，如用户收发的短信集中有大量与该商品相关的信息。

采用本发明实施方式的聚类方法后，首先将上述16种商品聚为6类，即商品9、10、12、13为一类，商品14、15、16为一类，商品11为一类，商品6、7为一类、商品8为一类、商品1、2、3、4、5为一类。对商品1、2、3、4、5进行进一步的细分后，确定商品2、3、4为一类，而商品1和商品5分别代表两种不同类型的商品。最终将16种商品划分为8个聚类，如表6所示。

表6

用户在2月11日到10月1日对两类商品的关联商品历史兴趣度、以及类m的“类中心商品历史兴趣度GM时间序列”中的兴趣度如表7表示。

表7

序号	时间段ds-de	对类1的兴趣度			对类2的兴趣度
						中心商品	相关商品1	相关商品2	中心商品
		1	2月11日~2月20日	0.95	0.92					0.97	0.5
2	3月5日~3月11日					0.82	0.82	0.83	0.52
		3	3月16日~3月22日	0.96	0.94					0.98	0.46
4	3月31日~4月6日					0.9	0.9	0.9	0.48
		5	4月21日~4月27日	0.84	0.83					0.85	0.5
6	5月13日~5月19日					0.88	0.87	0.89	0.52
		7	5月25日~6月8日	0.89	0.88					0.89	0.46
8	6月29日~7月13日					0.86	0.85	0.87	0.48
		9	7月24日~8月22日	0.89	0.88					0.90	0.5
10	9月17日~10月1日					0.9	0.89	0.91	0.5

类2包括一个中心商品，类2中没有关联商品。这里的中心商品即商品向量最接近其所在聚类的神经元向量的商品，关联商品即聚类中除中心商品之外的其它商品。

利用表7中的序列信息、中心兴趣变化模型、以及关联兴趣影响模型预测出用户在未来6天内对类1商品、类2商品的兴趣度如表8所示。

表8

类1的兴趣度预测值	类1的第1个相关商品兴趣度预测值	类1的第2个相关商品兴趣度预测值	类2的兴趣度预测值
				0.99	0.97	1.0	0.49

表8中的第1列是类1的中心商品兴趣度预测值，第4列是类2的中心商品兴趣度预测值。

上述本发明实施方式提供的预测用户对商品的兴趣的方法可以适用于多种应用场景，例如，在短信广告发送应用中，可以利用上述方法来确定用户对相应商品的兴趣度，然后，向用户发送携带有其感兴趣的商品的广告信息的短信。从而提高了短信广告的投放准确率。上述预测用户对商品的兴趣的方法也可以应用在邮件发送等多种应用场景中。在各种应用场景中，预测用户对商品的兴趣的方法如上述实施方式中的描述，发送短信、发送邮件等的具体实现过程可以采用现有的各种实现过程，在此不再详细说明。

下面对本发明实施方式提供的预测用户对商品的兴趣的装置进行说明。

本发明实施方式提供的预测用户对商品的兴趣的装置包括：存储模块、聚类模块、中心建模模块、关联建模模块和预测模块。该装置还可以可选的包括评估模块。

存储模块主要用于获取用户对商品的兴趣度的历史时间序列信息，并存储。这里的历史时间序列信息具体包含的内容、历史时间序列信息具体获取方式等等如上述方法实施方式中的描述。

聚类模块主要用于从用户有兴趣的商品中确定有关联关系的商品，将相互有关联关系的商品聚集为一类，并确定每个聚类中的中心商品、及关联商品。聚类模块可以采用自组织神经网络对用户有兴趣的商品进行聚类，并将每个聚类中的神经元确定为中心商品，将一个聚类中的除神经元之外的其它商品确定为关联商品，一个聚类中的关联商品与该聚类中的中心商品之间有关联关系。聚类模块也可以采用现有技术中的其它方法来进行商品聚类。利用自组织神经网络对用户有兴趣的商品进行聚类的具体实现过程是多种多样的。

聚类模块可以由初始化子模块、计算子模块和聚类子模块组成。

初始化子模块主要用于产生初始化的神经元，例如设置神经元的初始个数、设置各神经元的初始向量等。神经元的初始向量可以为随机数等，神经元的初始化具体包括的内容如上述方法实施方式中的描述。

计算子模块主要用于根据存储模块中存储的历史时间序列信息确定各商品的历史时间序列的向量信息与初始化子模块各神经元向量的距离。计算子模块在确定各商品对应的历史时间序列信息向量与神经元向量的距离过程中，可以采用如下公式来计算向量距离：

$\mathrm{Dist}\left|\right|X_1,X_2\left|\right|=\frac{\underset{i=1}{\overset{n}{\mathrm{\&Sigma;}}}\sqrt{{(X_{1i}-X_{2i})}^2}}{n}\&times;\underset{i=1}{\overset{n}{\mathrm{\&Sigma;}}}|\sqrt{{(X_{1i}-X_{2i})}^2}-\frac{\underset{i=1}{\overset{n}{\mathrm{\&Sigma;}}}\sqrt{{(X_{1i}-X_{2i})}^2}}{n}|;$

其中：X₁为商品对应的历史时间序列信息向量，X₂为神经元向量，n为根据商品的历史时间序列获得的时间间隔。商品对应的历史时间序列信息向量可以简称为商品向量。具体的计算过程等如上述方法实施方式中的描述。

聚类子模块主要用于根据计算子模块计算出的所述距离将商品添加在相应神经元代表的聚类中，或者将商品创建为新的神经元。例如，聚类子模块判断计算子模块计算出的商品向量与各神经元向量之间的距离，如果一个商品向量与某个神经元向量之间的距离小于预定值，则聚类子模块将该商品归入该神经元所在的聚类；如果一个商品向量与各个神经元向量之间的距离均大于预定值，则聚类子模块可以将该商品作为新增加的神经元。

聚类子模块可以在将一个商品归入某个神经元所在的聚类时，调整该神经元权值向量，使该神经元能够更容易的将与该商品类似的商品归入自己所在的聚类，即使该神经元能够更容易获胜。具体的权值向量调整过程等如上述方法实施方式中的描述。

中心建模模块主要根据存储模块中存储的历史时间序列信息、利用灰色建模GM获得聚类的中心商品的中心兴趣变化模型。即中心建模模块利用GM为各聚类的中心商品建立中心商品的中心兴趣变化模型，该中心兴趣变化模型可以是根据各中心商品对应的历史时间序列信息训练获得的。中心建模模块可以利用现有的GM建模过程来建立中心兴趣变化模型。中心建模模块建立的中心兴趣变化模型可以为一个或者多个，例如，中心建模模块为每个聚类建立一个聚类中心模型。

中心建模模块可以由存储子模块、白化子模块和中心兴趣建模子模块组成。存储子模块主要用于存储白化方程。这里的白化方程可以为： $\frac{{\mathrm{dX}}^1\left(t\right)}{\mathrm{dt}}+{\mathrm{aX}}^1\left(t\right)=b$ 和 $x^{\left(1\right)}\left(t\right)=\underset{i=1}{\overset{t}{\mathrm{\&Sigma;}}}{x}^{\left(0\right)}\left(t\left(i\right)\right)$ 1≤t≤n。

白化子模块主要用于确定根据中心商品对应的历史时间序列信息确定存储子模块中存储的白化方程中的白化参数。白化子模块可以利用现有的方法来计算白化参数c，也可以利用下述公式来计算白化参数：

c＝(D^TD)^-1D^TX；

其中： $D=\left(\begin{array}{c}{e}^{-t\left(1\right)a}\\ e^{-t\left(2\right)a}\\ .\\ .\\ .\\ e^{-t\left(n\right)a}\end{array}\right),$ $X=\left(\begin{array}{c}{x}^0\left(t\left(1\right)\right)\\ x^0\left(t\left(2\right)\right)\\ .\\ .\\ .\\ x^0\left(t\left(n\right)\right)\end{array}\right).$

白化子模块将其计算出的白化参数输出至中心兴趣建模子模块。白化子模块确定白化参数等的具体实现过程如上述方法实施方式中的描述。

中心兴趣建模子模块主要用于根据白化子模块输出的白化参数、存储子模块中的白化方程确定中心兴趣变化模型为：

x⁰(t(i))＝ce^-a×t(i)；

其中，x⁰为中心商品对应的历史时间序列信息，c为白化参数。

中心兴趣建模子模块可以存储上述中心兴趣变化模型。中心兴趣建模子模块建立中心兴趣变化模型的具体实现过程如上述方法实施方式中的描述。

关联建模模块主要用于根据存储模块中存储的历史时间序列信息、利用中心商品和关联商品的关系获得聚类的关联商品的关联兴趣影响模型。关联建模模块在建立关联兴趣影响模型时，可以利用聚类中的中心商品兴趣度与该聚类中的各关联商品兴趣度之间的变化关系，例如，关联建模模块可以利用中心商品和关联商品的兴趣度变化的线性关系来建立关联兴趣影响模型，即关联建模模块利用历史时间序列信息中的各关联商品的信息训练获得回归模型。这里的回归模型可以为： $\widehat{r_m(j,i)}=\hat{a}+\hat{b}{C}_m\left(i\right)$

为估计量。关联建模模块可以为一个聚类建立一个关联商品的关联兴趣影响模型。

预测模块主要用于利用中心兴趣变化模型、关联兴趣影响模型预测在下一个时间段，用户对中心商品、和/或关联商品的兴趣度，并输出预测的兴趣度。例如，在中心建模模块建立了中心兴趣变化模型后，预测模块可以向中心兴趣变化模型输入下一时间的时间信息，接收并存储中心兴趣变化模型输出预测的各中心商品的兴趣度。再例如，预测模块可以将中心兴趣变化模型输出的兴趣度输入关联兴趣影响模型，预测模块接收并存储关联兴趣影响模型输出的在下一时间、与该中心商品相关联的关联商品的兴趣度。具体的兴趣度预测过程如上述方法实施方式中的描述。

评估模块主要用于对中心建模模块建立的中心兴趣变化模型和/或关联建模模块建立的关联兴趣影响模型的预测性能进行评估。评估模块可以采用相对误差评估方法对中心建模模块建立的中心兴趣变化模型和/或关联建模模块建立的关联兴趣影响模型的预测性能进行评估。例如，在“类中心商品历史兴趣度模型”进行评估时，采用平均相对误差作为评估函数，评估值为1减去该平均相对误差值，即“类中心商品历史兴趣度模型”的评估值为：

${\mathrm{est}}_c\left(m\right)=1-\frac{1}{n}\underset{i=1}{\overset{n}{\mathrm{\&Sigma;}}}\left|\frac{x^0\left(\hat{t}\left(i\right)\right)-x^0\left(t\left(i\right)\right)}{x^0(t\left(i\right)}\right|=1-\frac{1}{n}\underset{i=1}{\overset{n}{\mathrm{\&Sigma;}}}\left|\frac{c{e}^{-a\&times;t\left(i\right)}-x^0\left(t\left(i\right)\right)}{x^0(t\left(i\right)}\right|.$

评估模块可以利用合并后的est来评估整个模型的预测性能。也就是说，评估模块可以将各模型的评估值的平均值作为包括中心兴趣变化模型、关联兴趣影响模型在内的整个模型的评估值。评估模块对中心兴趣变化模型和/或关联兴趣影响模型的预测性能的评估过程如上述方法实施方式中的描述。

虽然通过实施例描绘了本发明，本领域普通技术人员知道，本发明有许多变形和变化而不脱离本发明的精神，本发明的申请文件的权利要求包括这些变形和变化。

Claims (20)

1、一种预测用户对商品的兴趣的方法，其特征在于，所述方法包括步骤：

获取用户对商品的兴趣度的历史时间序列信息；

根据用户对商品的兴趣度的历史时间序列信息确定有关联关系的商品，将有关联关系的商品聚集为一类，并确定每个聚类中的中心商品、及关联商品；

根据聚类的中心商品对应的历史时间序列信息、利用灰色建模获得聚类的中心商品的中心兴趣变化模型；

根据聚类的关联商品对应的历史时间序列信息、利用中心商品和关联商品的关系获得聚类的关联商品的关联兴趣影响模型；

利用中心兴趣变化模型、关联兴趣影响模型预测在下一个时间，用户对中心商品、和/或关联商品的兴趣度，并输出所述预测的在下一个时间用户对中心商品、和/或关联商品的兴趣度。

2、如权利要求1所述的方法，其特征在于，所述根据用户对商品的兴趣度的历史时间序列信息确定有关联关系的商品，将有关联关系的商品聚集为一类，并确定每个聚类中的中心商品、及关联商品的步骤包括：

根据所述历史时间序列信息、利用自组织神经网络对用户有兴趣的商品进行聚类；

将聚类中的神经元确定为中心商品，将聚类中的除神经元之外的其它商品确定为关联商品。

3、如权利要求2所述的方法，其特征在于，所述根据所述历史时间序列信息、利用自组织神经网络对用户有兴趣的商品进行聚类的步骤包括：

设置神经元初始个数、并初始化神经元向量；

根据历史时间序列信息确定各商品的历史时间序列的向量信息与各神经元向量的距离；

根据所述距离将商品添加在相应神经元代表的聚类中，或者将商品创建为新的神经元。

4、如权利要求3所述的方法，其特征在于，所述根据历史时间序列信息确定各商品的历史时间序列的向量信息与各神经元向量的距离的步骤包括：

商品的历史时间序列的向量信息与各神经元向量的距离为：

$\mathrm{Dist}\left|\right|X_1,X_2\left|\right|=\frac{\underset{i=1}{\overset{n}{\mathrm{\&Sigma;}}}\sqrt{{(X_{1i}-X_{2i})}^2}}{n}\&times;\underset{i=1}{\overset{n}{\mathrm{\&Sigma;}}}|\sqrt{{(X_{1i}-X_{2i})}^2}-\frac{\underset{i=1}{\overset{n}{\mathrm{\&Sigma;}}}\sqrt{{(X_{1i}-X_{2i})}^2}}{n}|;$

其中：X₁为商品的历史时间序列的向量信息，X₂为神经元向量，n为根据商品的历史时间序列获得的时间间隔。

5、如权利要求1所述的方法，其特征在于，所述根据聚类的中心商品对应的历史时间序列信息、利用灰色建模获得聚类的中心商品的中心兴趣变化模型的步骤包括：

根据中心商品对应的历史时间序列信息确定白化方程中的白化参数；

根据所述确定了白化参数的白化方程确定中心兴趣变化模型为：

x⁰(t(i))＝ce^-a×t(i)；

其中，X⁰为中心商品对应的历史时间序列信息，c为白化参数。

6、如权利要求5所述的方法，其特征在于，所述白化参数为：

c＝(D^TD)^-1D^TX；

其中： $D=\left(\begin{array}{c}{e}^{-t\left(1\right)a}\\ e^{-t\left(2\right)a}\\ .\\ .\\ .\\ e^{-t\left(n\right)a}\end{array}\right),$ $X=\left(\begin{array}{c}{x}^0\left(t\left(1\right)\right)\\ x^0\left(t\left(2\right)\right)\\ .\\ .\\ .\\ x^0\left(t\left(n\right)\right)\end{array}\right).$

7、如权利要求1所述的方法，其特征在于，所述根据聚类的关联商品对应的历史时间序列信息、利用中心商品和关联商品的关系获得聚类的关联商品的关联兴趣影响模型的步骤包括：

根据聚类的关联商品对应的历史时间序列信息、利用中心商品和关联商品的线性关系获得聚类的关联商品的回归模型。

8、如权利要求7所述的方法，其特征在于，所述回归模型包括：

$\widehat{r_m(j,i)}=\hat{a}+\hat{b}{C}_m\left(i\right)\hat{a},\hat{b}\widehat{r_{j\left(i\right)}}$ 为估计量。

9、如权利要求1至8中任一权利要求所述的方法，其特征在于，所述方法还包括：对中心兴趣变化模型和/或关联兴趣影响模型的预测性能进行评估，并输出所述预测性能的评估值。

10、如权利要求9所述的方法，其特征在于：采用相对误差评估方法对中心兴趣变化模型和/或关联兴趣影响模型的预测性能进行评估。

11、一种广告发布方法，其特征在于，所述方法包括步骤：

获取用户对商品的兴趣度的历史时间序列信息；

从用户有兴趣的商品中确定有关联关系的商品，将相互有关联关系的商品聚集为一类，并确定每个聚类中的中心商品、及关联商品；

根据所述历史时间序列信息、利用灰色建模GM获得聚类的中心商品的中心兴趣变化模型；

根据所述历史时间序列信息、利用中心商品和关联商品的关系获得聚类的关联商品的关联兴趣影响模型；

利用中心兴趣变化模型、关联兴趣影响模型预测在下一个时间段，用户对中心商品、和/或关联商品的兴趣度；

根据所述用户对中心商品、和/或关联商品的兴趣度向用户发送相应商品的广告。

12、如权利要求11所述的方法，其特征在于，所述广告通过短信发送，或者所述广告通过电子邮件发送。

13、如权利要求11所述的方法，其特征在于，所述根据用户对商品的兴趣度的历史时间序列信息确定有关联关系的商品，将有关联关系的商品聚集为一类，并确定每个聚类中的中心商品、及关联商品的步骤包括：

根据所述历史时间序列信息、利用自组织神经网络对用户有兴趣的商品进行聚类；

将聚类中的神经元确定为中心商品，将聚类中的除神经元之外的其它商品确定为关联商品。

14、如权利要求13所述的方法，其特征在于，所述根据所述历史时间序列信息、利用自组织神经网络对用户有兴趣的商品进行聚类的步骤包括：

设置神经元初始个数、并初始化神经元向量；

根据历史时间序列信息确定各商品的历史时间序列的向量信息与各神经元向量的距离为：

$\mathrm{Dist}\left|\right|X_1,X_2\left|\right|=\frac{\underset{i=1}{\overset{n}{\mathrm{\&Sigma;}}}\sqrt{{(X_{1i}-X_{2i})}^2}}{n}\&times;\underset{i=1}{\overset{n}{\mathrm{\&Sigma;}}}|\sqrt{{(X_{1i}-X_{2i})}^2}-\frac{\underset{i=1}{\overset{n}{\mathrm{\&Sigma;}}}\sqrt{{(X_{1i}-X_{2i})}^2}}{n}|;$

其中：X₁为商品的历史时间序列的向量信息，X₂为神经元向量，n为根据商品的历史时间序列获得的时间间隔；

根据所述距离将商品添加在相应神经元代表的聚类中，或者将商品创建为新的神经元。

15、如权利要求11所述的方法，其特征在于，所述根据聚类的中心商品对应的历史时间序列信息、利用灰色建模获得聚类的中心商品的中心兴趣变化模型的步骤包括：

根据中心商品对应的历史时间序列信息确定白化方程中的白化参数为：

c＝(D^TD)^-1D^TX；

其中： $D=\left(\begin{array}{c}{e}^{-t\left(1\right)a}\\ e^{-t\left(2\right)a}\\ .\\ .\\ .\\ e^{-t\left(n\right)a}\end{array}\right),$ $X=\left(\begin{array}{c}{x}^0\left(t\left(1\right)\right)\\ x^0\left(t\left(2\right)\right)\\ .\\ .\\ .\\ x^0\left(t\left(n\right)\right)\end{array}\right);$

根据所述确定了白化参数的白化方程确定中心兴趣变化模型为：

x⁰(t(i))＝ce^-a×t(i)；

其中，X⁰为中心商品对应的历史时间序列信息，c为白化参数。

16、如权利要求11所述的方法，其特征在于，所述根据聚类的关联商品对应的历史时间序列信息、利用中心商品和关联商品的关系获得聚类的关联商品的关联兴趣影响模型的步骤包括：

根据聚类的关联商品对应的历史时间序列信息、利用中心商品和关联商品的线性关系获得聚类的关联商品的回归模型。

17、一种预测用户对商品的兴趣的装置，其特征在于，所述装置包括：

存储模块：获取用户对商品的兴趣度的历史时间序列信息，并存储；

聚类模块：从用户有兴趣的商品中确定有关联关系的商品，将相互有关联关系的商品聚集为一类，并确定每个聚类中的中心商品、及关联商品；

中心建模模块：根据存储模块中存储的所述历史时间序列信息、利用灰色建模GM获得聚类的中心商品的中心兴趣变化模型；

关联建模模块：根据存储模块中存储的所述历史时间序列信息、利用中心商品和关联商品的关系获得聚类的关联商品的关联兴趣影响模型；

预测模块：用于利用中心兴趣变化模型、关联兴趣影响模型预测在下一个时间段，用户对中心商品、和/或关联商品的兴趣度，并输出所述预测的兴趣度。

18、如权利要求17所述的装置，其特征在于，所述聚类模块包括：

初始化子模块：产生初始化的神经元；

计算子模块：用于根据存储模块中存储的历史时间序列信息确定各商品的历史时间序列的向量信息与初始化子模块各神经元向量的距离；

聚类子模块：用于根据计算子模块计算出的所述距离将商品添加在相应神经元代表的聚类中，或者将商品创建为新的神经元。

19、如权利要求17所述的装置，其特征在于，该中心建模模块包括：

存储子模块：用于存储白化方程；

白化子模块：用于确定根据中心商品对应的历史时间序列信息确定存储子模块中存储的白化方程中的白化参数；

中心兴趣建模子模块：用于根据所述白化子模块确定的白化参数、存储子模块中的白化方程确定、并存储中心兴趣变化模型为：

x⁰(t(i))＝ce^-a×t(i)；

其中，X⁰为中心商品对应的历史时间序列信息，c为白化参数。

20、如权利要求17或18或19所述的装置，其特征在于，该装置还包括：

评估模块：用于对中心建模模块建立的中心兴趣变化模型和/或关联建模模块建立的关联兴趣影响模型的预测性能进行评估。

Images