CN102087709A - 学习设备、学习方法以及程序 - Google Patents

Abstract

本发明公开了一种学习设备、学习方法以及程序，所述学习设备包括：内插部，其内插时间序列数据中缺失的数据；估计部，其根据时间序列数据估计隐马尔可夫模型；以及似然计算部，其计算估计的隐马尔可夫模型的似然。似然计算部在不同条件下计算没有缺失数据的正常数据的似然和作为内插的数据的内插数据的似然，并且计算内插了数据的时间序列数据的隐马尔可夫模型的似然。估计部更新隐马尔可夫模型，以使得似然计算部算出的似然变高。

Description

学习设备、学习方法以及程序

技术领域

本发明涉及一种学习设备、学习方法以及程序，并且更特别地，涉及根据时间序列数据来学习用户的活动状态作为隐马尔可夫模型的学习设备、学习方法以及程序。

背景技术

近年来，积极地进行了如下研究：使用从可穿戴式传感器(wearablesensor)获得的时间序列数据来对用户的状态进行学习、建模，以及使用通过学习获得的模型识别用户的当前状态，其中该可穿戴式传感器是用户可以穿戴在身上的传感器(例如，日本未审查的专利申请公布第2006-134080号、日本未审查的专利申请公布第2008-204040号、以及“LifePatterns：structure from wearable sensors”，Brian Patrick Clarkson，Doctor Thesis，MIT，2002)。

此外，如日本专利申请第2009-180780号，本申请人先前已提出了如下方法：其概率性地预测在期望的未来时间中的用户活动状态的多种可能性。在日本专利申请第2009-180780号的方法中，可以根据时间序列数据学习用户的活动状态作为概率性状态转移模型，以使用学习的概率性状态转移模型来识别当前活动状态，并且以概率性地预测“预定时间之后”的用户的活动状态。另外，作为“预定时间之后”的用户的活动状态预测的示例，日本专利申请第2009-180780号公开了如下示例：其识别用户的当前位置并且预测预定时间之后的用户的目的地(位置)。

另外，如日本专利申请第2009-208064号，本申请人先前已提出了预测多个目的地的到达概率、路径和到达时间的方法、以及自动检测目的地候选的方法。在日本专利申请第2009-208064号的方法中，可以从形成概率性状态转移模型的状态节点当中搜索与目的地对应的状态节点。

发明内容

在日本专利申请第2009-180780号和日本专利申请第2009-208064号的方法中，公开了如下示例：其根据关于GPS(全球定位系统)传感器测量的位置(维度和经度)的时间序列数据，学习用户的活动状态作为隐马尔可夫模型。

该情况下的隐马尔可夫模型是如下概率模型：其根据在相等间隔处感测的时间序列数据，将在时间序列数据之后“隐藏”的参数的动态表示为状态的概率性转移。以此方式，在根据时间序列数据学习隐马尔可夫模型的情况下，所使用的时间序列数据优选地是在相等间隔处采样的数据。

另一方面，GPS传感器是如下传感器：其从卫星获取信号，并且测量当前位置的维度和经度。因此，GPS传感器难以测量来自卫星的信号无法到达的、诸如地下或建筑物内部的当前位置的维度和经度。此外，在从GPS传感器难以测量维度和经度的时间到重新开始测量的时间，在关于位置(维度和经度)的时间序列数据中产生缺失时期。

甚至可以使用以此方式产生缺失时期的时间序列数据来执行隐马尔可夫模型学习。然而，在该情况下获得的模型中，出现如下状态转移：其中，缺失时期之前的相应状态节点和缺失时期之后的相应状态节点彼此不连续。

例如，图1示出了通过在日本专利申请第2009-208064号中公开的学习方法，通过根据时间序列数据学习往返路径作为隐马尔可夫模型而获得的结果，其中，当实验者乘火车往返于住处和办公室时，通过GPS传感器测量位置10天而获得该时间序列数据。在图中，小圆表示学习的隐马尔可夫模型的每个状态节点的位置。此外，连接各个状态节点的直线表示状态节点之间的状态转移。在图1中，水平轴表示经度，并且垂直轴表示维度。

图2是表示图1中的各个站的位置和名称的图，以使得可以看到用于往返的路线上的各个站之间的位置关系。

由于该路线从长原(NAGAHARA)站附近到荏原中延(EBARA-NAKANOBU)站附近在地下通过，因此在其附近时间序列数据中产生缺失部分。为此，例如，洗足池(SENZOKU-IKE)站附近与旗之台(HATANODAI)站附近、旗之台站附近与户越银座(TOGOSHIGINJA)站附近、洗足池站附近与荏原中延站附近、以及洗足池站附近与大崎広小路(OSAKIHIROKOJI)站附近分别彼此不连续的数据出现作为时间序列数据。因此，如果使用该时间序列数据执行学习处理，则学习包括分别直接连接如下状态节点的状态转移(即，路径)的模型：洗足池站附近与旗之台站附近、旗之台站附近与户越银座站附近、洗足池站附近与荏原中延站附近、以及洗足池站附近与大崎広小路站附近。

例如，在使用以此方式学习的模型来预测目的地的到达时间的情况下，在到目的地的路径上出现了翘曲部分。因此，直到到达目的地为止所转移的状态节点的数量(在下文中，被称为步数)变得小于实际值，并且目的地的到达时间的预测精度变差。

此外，对于同一路径存在正常路径和不连续路径，它们分别被识别为分支路径。另外，在时间序列数据缺失的位置不固定的情况下，根据时间序列数据缺失的位置来学习不同的不连续路径，结果，学习的模型中出现较大数量的分支路径。因此，在搜索到目的地的路径的情况下，应该会搜索到实际不存在的多个分支路径，这增加了施加到处理的负担，延长了处理时间，并且降低了处理结果的可靠性。

因此，期望提供如下技术：其能够根据产生缺失数据的时间序列数据，更精确地学习隐马尔可夫模型。

根据本发明的实施例，提供了一种学习设备，其包括：内插装置，其用于内插时间序列数据中缺失的数据；估计装置，其用于根据时间序列数据估计隐马尔可夫模型；以及似然(likelihood)计算装置，其用于计算估计的隐马尔可夫模型的似然，其中，似然计算装置在不同条件下计算没有缺失数据的正常数据的似然和作为内插的数据的内插数据的似然，并且计算内插了数据的时间序列数据的隐马尔可夫模型的似然，并且其中，估计装置更新隐马尔可夫模型，以使得似然计算装置算出的似然变高。

根据本发明的另一实施例，提供了一种在学习设备中执行的学习方法，该学习设备根据时间序列数据学习隐马尔可夫模型，该方法包括如下步骤：内插时间序列数据中缺失的数据；根据时间序列数据估计隐马尔可夫模型；计算估计的隐马尔可夫模型的似然；在不同条件下计算没有缺失数据的正常数据的似然和作为内插的数据的内插数据的似然，并且计算内插了数据的时间序列数据的隐马尔可夫模型的似然；以及更新隐马尔可夫模型，以使得算出的似然变高。

根据本发明的又一实施例，提供了一种使得在计算机中执行过程的程序，该过程包括如下步骤：内插时间序列数据中缺失的数据；根据时间序列数据估计隐马尔可夫模型；计算估计的隐马尔可夫模型的似然；在不同条件下计算没有缺失数据的正常数据的似然和作为内插的数据的内插数据的似然，并且计算内插了数据的时间序列数据的隐马尔可夫模型的似然；以及更新隐马尔可夫模型，以使得算出的似然变高。

根据这样的实施例，内插时间序列数据中的缺失数据，根据时间序列数据估计隐马尔可夫模型，计算估计的隐马尔可夫模型的似然；在不同条件下计算没有缺失数据的正常数据的似然和作为内插的数据的内插数据的似然；计算内插了数据的时间序列数据的隐马尔可夫模型的似然；并且更新隐马尔可夫模型，以使得算出的似然变高。

根据本发明的实施例，可以根据缺失时间序列数据更精确地学习隐马尔可夫模型。

附图说明

图1是示出现有技术中的隐马尔可夫模型的学习结果的图。

图2是示出现有技术中的隐马尔可夫模型的学习结果的图。

图3是示出根据本发明的示例性实施例的预测系统的配置示例的框图。

图4是示出行为学习部的功能配置的示例的框图。

图5是示出预测系统的硬件配置示例的框图。

图6是示出输入到预测系统的时间序列数据的示例的图。

图7是示出HMM(隐马尔可夫模型)的示例的图。

图8是示出用于声音识别的HMM的示例的图。

图9A和9B是示出给予稀疏限制(sparse restriction)的HMM的示例的图。

图10是示出借助于行为预测部的路径搜索处理的简单示例的图。

图11是示出用户活动模型学习处理的流程图。

图12是示出参数更新处理的流程图。

图13是示出数据内插处理的流程图。

图14是示出到达时间预测处理的流程图。

图15是示出本发明的效果的具体示例的图。

图16是示出根据与本发明不同的第一方法的隐马尔可夫模型的学习结果的图。

图17是示出根据与本发明不同的第二方法的隐马尔可夫模型的学习结果的图。

图18是示出根据与本发明不同的第二方法的隐马尔可夫模型的学习结果的图。

图19是示出应用了本发明的示例性实施例的计算机的框图。

具体实施方式

在下文中，将描述用于执行本发明的示例性实施例。即，将按以下顺序进行描述：

1.实施例

2.修改的示例

1.实施例

[示出根据实施例的预测系统的框图]

图3是示出根据本发明的示例性实施例的预测系统的配置示例的框图。

预测系统1包括GPS传感器11、时间序列数据存储部12、行为学习部13、行为识别部14、行为预测部15、到达时间预测部16、操作部17以及显示部18。

预测系统1使用表示GPS传感器11获取的当前位置和当前时间的时间序列数据，执行用于学习用户的活动状态(表示行为和活动模式的状态)作为概率性状态转移模型的学习处理。此外，预测系统1使用通过学习处理获得的参数表示的概率性状态转移模型(用户活动模型)，执行用于预测直到用户指定的目的地的路径和时间的预测处理。

在图3中，虚线箭头表示学习处理中的数据流，并且实线箭头表示预测处理中的数据流。

GPS传感器11在预定时间间隔(例如，15秒)从卫星接收信号，并然后测量用户的当前位置的维度和经度。此外，在学习处理中，GPS传感器11将关于测量位置(维度和经度)和测量时间(在下文中，被称为测量时间)的数据(在下文中，被称为GPS数据)提供到时间序列数据存储部12。此外，在预测处理中，GPS传感器11将GPS数据提供到行为识别部14。

时间序列数据存储部12存储GPS传感器11不断地获取到的GPS数据，即，关于位置和测量时间的时间序列数据。由于学习用户的行为和活动模式，因此例如，针对某一时期(诸如若干天)所存储的时间序列数据是必要的。

行为学习部13基于存储在时间序列数据存储部12中的时间序列数据，学习携带设置有GPS传感器11的装置的用户的活动状态作为概率性状态转移模型。由于时间序列数据表示用户的位置和测量时间，因此被学习作为概率性状态转移模型的用户活动状态表示用户的当前位置的时间序列变化，即，用户的移动路径。作为用于学习的概率性状态转移模型，例如，可以采用包括隐藏状态的概率性状态转移模型，诸如遍历(ergodic)HMM(隐马尔可夫模型)等。在该实施例中，采用给予遍历HMM稀疏限制的概率性状态转移模型作为概率性状态转移模型。稍后将参照图7至9描述具有稀疏限制的遍历HMM和遍历HMM的参数等的计算方法。

此外，如上所述，在GPS传感器11不能测量当前位置的情况下，在时间序列数据中产生缺失时期。在该情况下，行为学习部13如稍后参照图13描述的那样，内插时间序列数据中缺失的数据，并且学习用户的活动状态。

行为学习部13将表示学习结果的数据提供到显示部18用于显示。行为学习部13将通过学习处理获得的概率性状态转移模型的参数提供到行为识别部14和行为预测部15。

行为识别部14使用通过学习获得的参数的概率性状态转移模型，根据关于从GPS传感器11实时提供的位置的时间序列数据，识别用户的当前行为状态，即，用户的当前位置。行为识别部14将用户的当前状态节点的节点号提供到行为预测部15。

行为预测部15使用通过学习获得的参数的概率性状态转移模型，适当地搜索(预测)用户可以从用户的当前位置而取得的路径，该当前位置以从行为识别部14提供的状态节点的节点号表示。此外，行为预测部15计算每个搜索到的路径的发生概率以预测选择概率，该选择概率是选择搜索到的路径的概率。

用户可以从行为预测部15取得的路径及其选择概率被提供到到达时间预测部16。此外，表示用户通过操作部17指定的目的地的信息被提供到到达时间预测部16。

到达时间预测部16从作为搜索结果的、用户可以取得的路径中提取包括用户指定的目的地的路径，并且针对每条提取的路径预测直到目的地的到达时间。此外，到达时间预测部16预测作为用户到达目的地的概率的到达概率。在对于目的地存在多条路径的情况下，到达时间预测部16计算多条路径的选择概率之和作为目的地的到达概率。在对于目的地仅存在一条路径的情况下，路径的选择概率成为目的地的到达概率。因此，到达时间预测部16将表示预测结果的信息提供到显示部18用于显示。

操作部17接收关于用户输入的目的地的信息，并且将该信息提供到到达时间预测部16。显示部18显示从行为学习部13或到达时间预测部16提供的信息。

[行为学习部的功能配置的示例]

图4是示出预测系统1的行为学习部13的功能配置示例的框图。

行为学习部13包括数据内插部31、状态似然计算部32、状态似然修改部33、前向似然计算部34、后向似然计算部35、初始概率和转移概率估计部36、观察概率估计预处理部37以及观察概率估计部38。

数据内插部31获得存储在时间序列数据存储部12中的时间序列数据，并且如稍后参照图13描述的那样，内插缺失时期中的时间序列数据的数据。数据内插部31将内插之后的时间序列数据提供到状态似然计算部32。

如稍后参照图12描述的那样，状态似然计算部32计算关于表示用户的活动模型的HMM的各个状态的时间序列数据的似然(在下文中，被称为状态似然)。状态似然计算部32将表示算出的状态似然的数据和时间序列数据提供到状态似然修改部33。

如稍后参照图12描述的那样，状态似然修改部33修改缺失时期中的时间序列数据的状态似然，并且将表示修改后的状态似然的数据、以及时间序列数据提供到前向似然计算部34。

如稍后参照图12描述的那样，前向似然计算部34计算表示用户的活动模型的HMM的时间序列数据的前向似然。前向似然计算部34将表示算出的前向似然的数据添加到从状态似然修改部33获取的数据，并然后将其提供到后向似然计算部35。

如稍后参照图12描述的那样，后向似然计算部35计算表示用户的活动模型的HMM的时间序列数据的后向似然。后向似然计算部35将表示算出的后向似然的数据添加到从前向似然计算部34获取的数据，并然后将其提供到初始概率和转移概率估计部36。

如稍后参照图12描述的那样，初始概率和转移概率估计部36估计表示用户的活动模型的HMM的初始概率和状态转移概率。初始概率和转移概率估计部36将表示算出的初始概率和状态转移概率的数据添加到从后向似然计算部35获取的数据，并然后将其提供到观察概率估计预处理部37。

如稍后参照图12描述的那样，在估计表示用户的活动模型的HMM的观察概率之前，观察概率估计预处理部37改变缺失时期中的时间序列数据的前向似然和后向似然。观察概率估计预处理部37将如下数据提供到观察概率估计部38：其中，对于从初始概率和转移概率估计部36获取的数据，改变前向似然和后向似然。

如稍后参照图12描述的那样，观察概率估计部38估计表示用户的活动模型的HMM的初始概率。观察概率估计部38将表示HMM的参数(初始概率、状态转移概率以及观察概率)的数据提供到行为识别部14和行为预测部15、或者状态似然计算部32。

[预测系统的硬件配置的示例]

例如，具有这样的配置的预测系统1可以采用图5中示出的硬件配置。即，图5是示出预测系统1的硬件配置示例的框图。

在图5中，预测系统1包括三个移动终端51-1到51-3以及服务器52。移动终端51-1到51-3是具有相同功能的相同类型的移动终端51，但是移动终端51-1到51-3由不同的用户拥有。在图5中仅示出了三个移动终端51-1到51-3，但是实际上，移动终端51的数量可对应于用户的数量。

移动终端51可以通过经由网络(诸如无线通信网和因特网)进行的通信执行将数据传送到服务器52以及从服务器52接收数据。服务器52接收从移动终端51传送的数据，并且对接收的数据执行预定处理。此外，服务器52通过无线通信等将数据处理的处理结果传送到移动终端51。

因此，移动终端51和服务器52具有以无线或有线方式进行通信的通信部。

此外，每个移动终端51可包括图3中示出的GPS传感器11、操作部17以及显示部18；并且服务器52可包括图3中示出的时间序列数据存储部12、行为学习部13、行为识别部14、行为预测部15以及到达时间预测部16。

利用这样的配置，在学习处理中，移动终端51传送GPS传感器11获取的时间序列数据。服务器52基于接收到的用于学习的时间序列数据，通过概率性状态转移模型学习用户的活动状态。此外，在预测处理中，移动终端51传送用户通过操作部17指定的目的地，并且传送GPS传感器11实时获取的GPS数据。服务器52使用通过学习获得的参数，识别用户的当前活动状态，即，用户的当前位置，并且将直到指定的目的地的路径和时间作为处理结果传送到移动终端51。移动终端51通过显示部18显示从服务器52传送的处理结果。

此外，例如，移动终端51可包括图3中示出的GPS传感器11、行为识别部14、行为预测部15、到达时间预测部16、操作部17以及显示部18；并且服务器52可包括图3中示出的时间序列数据存储部12和行为学习部13。

利用这样的配置，在学习处理中，移动终端51传送GPS传感器11获取的时间序列数据。服务器52基于接收到的用于学习的时间序列数据，通过概率性状态转移模型来学习用户的活动状态，并然后将通过学习获得的参数传送到移动终端51。此外，在预测处理中，移动终端51使用从服务器52接收的参数，识别GPS传感器11实时获取的GPS数据，即，用户的当前位置，并然后计算直到指定的目的地的路径和时间。此外，移动终端51将直到目的地的路径和时间作为计算结果显示在显示部18上。

可以根据每个数据处理设备的处理能力或通信环境，确定如上所述的移动终端51和服务器52之间的角色划分。

在学习处理中，一个处理所需的时间非常长，但是不必频繁地执行该处理。因此，由于服务器52一般具有比便携式移动终端51高的处理能力，因此可以允许服务器52基于一天一次存储的时间序列数据而执行学习处理(参数更新)。

另一方面，优选地，与每个时刻实时更新的用于显示的位置数据相对应地迅速执行预测处理，并且因此优选地，在移动终端51中执行该处理。如果通信环境丰富，则优选地，如上所述，在服务器52中执行预测处理，并且仅从服务器52接收预测结果，从而减小移动终端51的负担，其中，优选地使移动终端51小型化以便携。

此外，在移动终端51可以独立地作为数据处理设备以高速执行学习处理和预测处理的情况下，移动终端51可以设置有图3中的预测系统1的整个配置。

[输入的时间序列数据的示例]

图6是示出关于在预测系统1中获取的位置的时间序列数据的示例的图。在图6中，水平轴表示经度，并且垂直轴表示维度。在图6中，为了描述简单，没有示出每个位置的时间，但是实际上，时间序列数据中包括每个位置的时间。

图6中示出的时间序列数据是实验者在大约一个半月的时期中存储的时间序列数据。如图6所示，时间序列数据包括关于居住区和四个外部移动位置(诸如工作位置)的数据。时间序列数据还包括位置数据由于卫星无法到达而缺失的数据。

[遍历HMM]

接下来，将描述预测系统1采用的、作为学习模型的遍历HMM。

图7是示出HMM的示例的图。

HMM是具有状态和状态间转移的状态转移模型。

图7是示出三态HMM的示例的图。

在图7(与随后的图相同)中，圆表示状态，并且箭头表示状态转移。状态对应于用户的活动状态，并且被称为状态节点。

此外，在图7中，s_i(在图7中，i＝1，2和3)表示状态(节点)，a_ij表示从状态s_i到状态s_j的状态转移概率。此外，b_j(x)表示在到状态s_j的状态转移中观察到观察值x的输出概率密度函数(观察概率)，并且π_i表示状态s_i是初始状态的初始概率。

作为输出概率密度函数b_j(x)，例如，使用污染正态概率分布(contaminated normal probability distribution)等。

这里，HMM(连续HMM)由状态转移概率a_ij、输出概率密度函数b_j(x)以及初始概率π_i来定义。状态转移概率a_ij、输出概率密度函数b_j(x)以及初始概率π_i被称为HMM参数λ＝{a_ij，b_j(x)，π_i，其中，i＝1，2，...M，j＝1，2，...M}。M表示HMM状态数。

作为用于估计HMM参数λ的方法，广泛地使用鲍姆-韦尔奇(Baum-welch)似然估计方法。鲍姆-韦尔奇似然估计方法是基于EM算法(期望最大化算法)的参数估计方法。

根据鲍姆-韦尔奇似然估计方法，基于观察的时间序列数据x＝x₁，x₂，...x_T，估计HMM参数λ，使得根据发生概率算出的似然最大化，其中发生概率是时间序列数据被观察到(发生)的概率。这里，x_t表示在时间t观察到的信号(样本值)，并且T表示时间序列数据的长度(样本数)。

将参照图12详细地描述使用鲍姆-韦尔奇似然估计方法对参数λ的估计。

例如，在“模式识别和机器学习”，C.M.Bishop，第333页(英文原文：“Pattern Recognition and Machine Learning(Information Science andStatistics)”，Christopher M.BishopSpringer，New York，2006)(在下文中，被称为“文献A”)中公开了鲍姆-韦尔奇似然估计方法。

鲍姆-韦尔奇似然估计方法是基于似然最大化但不确保最优化的参数估计方法，并且可收敛于(converge to)根据HMM的结构或参数λ的初始值的局部解。

HMM一般用在声音识别中。在声音识别使用的HMM中，一般预先确定状态数、状态转移类型等。

图8是示出在声音识别中使用的HMM的示例的图。

图8中的HMM被称为左右类型。

在图8中，状态数变成3，并且状态转移被限制为如下结构：其中，仅允许自转移(从状态s_i到状态s_i的状态转移)和从左边到右边相邻状态的状态转移。

与如图8所示的对状态转移具有限制的HMM相比，如图7所示的对状态转移没有限制的HMM(即，从任意状态s_i到任意状态s_j的状态转移是可能的HMM)被称为“遍历HMM”。

遍历HMM是作为结构具有最高自由度的HMM，但是如果状态数增加，则难以估计参数λ。

例如，如果遍历HMM中的状态数是1000，则状态转移数变成1,000,000(＝1000×1000)。

因此，在该情况下，例如，对于参数λ中的状态转移概率a_ij，需要估计1,000,000项的状态转移概率a_ij。

因此，例如，可以对为状态设置的状态转移施加被称为稀疏结构的限制(稀疏限制)。

这里，稀疏结构是如下结构：其中，能够从某一状态被状态转移的状态受到限制，其不是诸如遍历HMM的紧密状态转移，其中，在遍历HMM中，从任意状态到另一任意状态的状态转移是可能的。在该方面，假设甚至在稀疏结构中，也存在到其它状态的至少一个状态转移，并且存在自转移。

图9示出了施加稀疏限制的HMM。

在图9中，连接两个状态的双向箭头表示从两个状态的一个方向到其另一方向的状态转移、以及从其另一方向到其一个方向的状态转移。此外，在图9中，可以在每个状态中执行自转移，并且图中没有示出表示自转移的箭头。

在图9中，16个状态以格状布置在二维空间中。即，在图9中，4个状态布置在横向上，并且4个状态还布置在纵向上。

如果假设在横向上彼此相邻的状态之间的距离、以及在纵向上彼此相邻的状态之间的距离都是1，则图9A示出了施加了稀疏限制的HMM，其中，允许到距离等于1或更小的状态的状态转移，并且不允许到其它状态的状态转移。

此外，图9B示出了施加了稀疏限制的HMM，其中，允许到距离等于或更小的状态的状态转移，并且不允许到其它状态的状态转移。

在该实施例中，GPS传感器11获取的GPS数据被提供到时间序列数据存储部12作为时间序列数据。行为学习部13使用存储在时间序列数据存储部12中的GPS数据的时间序列数据当中的、关于位置的时间序列数据x＝x₁，x₂，...x_T，估计表示用户活动模型的HMM参数λ。

即，表示用户的移动轨迹的、关于每个时间的位置(维度和经度)数据被认为是关于概率变量的观察数据，其中，概率变量是使用从地图上与HMM状态s_j中的任何一个对应的一个点的预定分散值的扩展而正态分布的。行为学习部13使得地图上与每个状态s_j对应的一个点、其离散值以及状态转移概率a_ij最优化。

行为识别部14将维特比(Viterbi)准则应用于通过学习而获得的用户活动模型(HMM)，并且计算如下状态转移的过程(状态序列)(路径)(在下文中，被称为似然路径)：其中，从GPS传感器11观察到位置数据x＝x₁，x₂，...x_T的似然变成最大。因此，识别用户的当前活动状态，即，与用户的当前位置对应的状态s_i。

这里，维特比准则是用于确定在使用每个状态s_i作为起点的状态转移的路径当中的如下路径(似然路径)的算法：其中，在处理后的时间序列数据x的长度T期间，通过对在时间t状态s_i转移到状态s_j的状态转移概率a_ij、以及在状态转移中观察到位置数据x＝x₁，x₂，...x_T中的时间t处的样本值x_t的概率(从输出概率密度函数b_j(x)获得的输出概率)进行累积而获得的值(发生概率)变成最大。在上述文献A第347页公开了维特比准则的细节。

[通过行为预测部15进行的路径搜索处理]

接下来，将描述借助于行为预测部15的路径搜索处理。

通过学习获得的HMM的每个状态s_i表示地图上的预定点(位置)，并且可表示当状态s_i和状态s_j相互连接时从状态s_i到状态s_j的路径。

在该情况下，与状态s_i对应的每个点可以被分类成端点、经过点、分支点和环中的任何一个。端点是如下点：其中，除自转移之外的概率非常小(除自转移之外的概率等于预定值或更低)，不存在另外的可移动点。经过点是如下点：其中，除自转移之外存在一个明显的转移，换言之，存在一个另外的可移动点。分支点是如下点：除自转移之外存在两个或更多个明显的转移，即，存在两个或更多个另外的可移动点。环是与到现在为止已通过的路径的任何一个重合的点。

在搜索针对目的地的路径的情况下，如果存在不同的路径，则优选地呈现关于各个路径的必要时间等的信息。因此，为了适当地搜索可用的路径，设置接下来的条件。

(1)即使路径分支过一次并且再次会和，它也被视为不同的路径。

(2)在路径中的端点或者包括在到现在为止通过的路径中的点出现的情况下，路径的搜索终止。

行为预测部15使用行为识别部14识别的用户的当前活动状态(即，用户的当前点)作为离开位置，并且将作为下一个移动位置的状态转移可用点分类作为端点、经过点、分支点以及环之一，这将被重复直至终止条件(2)。

在当前点被分类作为端点的情况下，行为预测部15将当前点连接至到现在为止的路径，并然后终止路径的搜索。

另一方面，在当前点被分类作为经过点的情况下，行为预测部15将当前点连接至到现在为止的路径，并然后将其移动到下个点。

此外，在当前点被分类作为分支点的情况下，行为预测部15将当前点连接至到现在为止的路径，以分支的数量复制到现在为止的路径，并然后将其连接到分支点。此外，行为预测部15移动分支点之一成为下个点。

在当前点被分类作为环的情况下，行为预测部15终止路径的搜索，而无需将当前点连接至到现在为止的路径。由于在环中包括折回从当前点到紧接之前的点的路径的情况，因此这未被考虑。

[搜索处理的示例]

图10是示出借助于行为预测部15的路径搜索处理的简单示例的图。

在图10示出的示例中，在状态s₁是当前位置的情况下，最终搜索到三条路径。第一路径是从状态s₁通过状态s₅、状态s₆等通向状态s₁₀的路径(在下文中，被称为路径A)。第二路径是从状态s₁通过状态s₅、状态s₁₁、状态s₁₄、状态s₂₃等通向状态s₂₉的路径(在下文中，被称为路径B)。第三路径是从状态s₁通过状态s₅、状态s₁₁、状态s₁₉、状态s₂₃等通向状态s₂₉的路径(在下文中，被称为路径C)。

行为预测部15计算选择每个搜索到的路径的概率(路径选择概率)。路径选择概率是通过将用于形成路径的状态之间的转移概率顺序相乘而获得的。这里，由于仅需要考虑转移到下一状态的情况而不需要考虑停留在原处的情况，因此使用转移概率[a_ij]计算路径选择概率，其中，通过从通过学习获得的每个状态的状态转移概率a_ij除去自转移概率来调整该转移概率[a_ij]。

通过去除自转移概率而调整的转移概率[a_ij]可以被表示为以下等式(1)。

$\left[a_{\mathrm{ij}}\right]=\frac{(1-{\mathrm{\δ}}_{\mathrm{ij}})a_{\mathrm{ij}}}{{\mathrm{\Σ}}_{j=1}^N(1-{\mathrm{\δ}}_{\mathrm{ij}})a_{\mathrm{ij}}}\·\·\·\left(1\right)$

这里，δ表示克罗内克(Kronecker)函数，其仅在下标i和j彼此一致时才为1，并且在所有其它情况下为0。

因此，例如，在图10中的状态s₅的状态转移概率a_ij中，在自转移概率a_5.5是0.5、转移概率a_5.6是0.2并且转移概率a_5.11是0.3的情况下，在状态s₅被分支到状态s₆或状态s₁₁的情况下的转移概率[a_5.6]和转移概率[a_5.11]分别是0.4和0.6。

当搜索到的路径的状态s_i的节点号i是(y₁，y₂，...y_n)时，路径的选择概率可以使用经调整的转移概率[a_ij]而被表示为以下等式(2)。

$P(y_1,y_2,\·\·\·,y_n)=\left[a_{y_1{y}_2}\right]\left[a_{y_2{y}_3}\right]\·\·\·\left[a_{y_{n-1}{y}_n}\right]$

$={\mathrm{\Π}}_{i=1}^{n-1}\left[a_{y_{i-1}{y}_i}\right]\·\·\·\left(2\right)$

实际上，由于经过点中的经调整的转移概率[a_ij]是1，因此可将分支时的经调整的转移概率[a_ij]顺序相乘。

在图10示出的示例中，路径A的选择概率是0.4。此外，路径B的选择概率是0.24＝0.6×0.4。路径C的选择概率是0.36＝0.6×0.6。此外，可以得到算出的路径选择概率的总和是1＝0.4+0.24+0.36并且可以适当地进行搜索。

如上所述，基于当前位置而搜索到的每条路径及其选择概率被从行为预测部15提供到到达时间预测部16。

到达时间预测部16从行为预测部15搜索到的路径中提取包括用户指定的目的地的路径，并且还对于每条提取出的路径预测直到目的地为止的时间。

例如，在图10示出的示例中，在三条搜索到的路径A至C当中，包括作为目的地的状态s₂₈的路径是路径B和C。到达时间预测部16预测通过路径B或C而到达作为目的地的状态S₂₈所花费的时间。

在存在多条包括目的地的路径并且因此难以看到所有显示的路径的情况下，或者在呈现的路径数被设置为预定数的情况下，需要从包括目的地的所有路径中确定要在显示部18上显示的路径(在下文中，被近似称为显示路径)。在这样的情况下，由于在行为预测部15中计算每条路径的选择概率，因此到达时间预测部16可以按照选择概率的降序确定预定数量的路径作为显示路径。

假设当前时间t₁的当前位置是状态s_y1，则在时间(t₁，t₂，...t_g)确定的路径是(s_y1，s_y2，...s_yg)。换言之，假设所确定的路径状态s_i的节点号i是(y₁，y₂，...y_g)。在下文中，为了描述简单，与位置对应的状态s_i可被简单表示为节点号i。

由于当前时间t₁处的当前位置y₁是通过行为识别部14的识别而指定的，因此当前时间t₁处的当前位置是y₁的概率P_y1(t₁)是1。此外，在当前时间t₁当前位置在除y₁之外的状态的概率是0。

另一方面，在预定时间t_n当前位置在节点号y_n的概率P_yn(t_n)可以被表示为以下等式(3)。

$P_{y_n}\left(t_n\right)=P_{y_n}(t_n-1)a_{y_n{y}_n}+P_{y_{n-1}}(t_n-1)a_{y_{n-1}{y}_n}\·\·\·\left(3\right)$

这里，等式(3)的右侧的第一项表示当前位置布置于原始位置y_n并且执行自转移的概率；并且右侧的第二项表示执行从布置在紧接之前的位置y_n-1到位置y_n的转移的概率。在等式(3)中，与路径选择概率的计算不同，按照原状使用通过学习获得的状态转移概率a_ij。

使用“在紧接在时间t_g之前的时间t_g-1当前位置布置在紧接在目的地y_g之前的位置y_g-1、并且在时间t_g移动到目的地y_g的概率”，到达目的地y_g时的时间t_g的预测值<t_g>可以被表示为以下等式(4)。

$<t_g>={\mathrm{\&Sigma;}}_t{t}_g\left(\frac{P_{x_{g-1}}(t_{g-1}-1)a_{x_{g-1}{x}_g}}{{\mathrm{\&Sigma;}}_t{P}_{x_{g-1}}(t_g-1)a_{x_{g-1}{x}_g}}\right)\&CenterDot;\&CenterDot;\&CenterDot;\left(4\right)$

即，预测值<t_g>被表示为从当前时间直到如下情况的时间的期望值：“在紧接在时间t_g之前的时间t_g-1当前位置布置在紧接在状态s_yg之前的状态s_yg-1、并且在时间t_g移动到状态s_yg”。

在通过“背景技术”中提出的日本专利申请第2009-180780号中的方法计算目的地的到达时间的预测值的情况下，需要对与“预定时间之后”的目的地对应的状态的状态转移概率a_ij关于时间t进行积分。在该情况下，设置积分区间的量是重要的。在日本专利申请第2009-180780号中，难以辨别通过环路到达目的地的情况。因此，在环存在于到目的地的路径的中间的情况下，如果积分区间被设置得较长，则由于其中包括通过环而第二或第三次到达目的地的情况，因此难以准确地计算直到目的地为止的到达时间。

在如等式(4)所表示的、根据本发明的实施例的目的地的到达时间的预测值的计算中，类似地需要对时间t进行积分(∑)。然而，在搜索路径中，由于不包括通过环路到达目的地的情况，因此可以设置足够长的区间作为期望值的积分区间。例如，等式(4)中的积分区间可被设置为学习的路径中的最大移动时间的大约一倍或两倍。

[用户活动模型学习处理]

接下来，将参照图11中的流程图描述用户活动模型学习处理，其学习用户的移动路径作为表示用户的活动状态的概率性状态转移模型。

首先，在步骤S1中，GPS传感器11获取GPS数据并然后将其提供到时间序列数据存储部12。即，GPS传感器11测量当前位置的纬度和经度，并且提供表示测量位置(纬度和经度)及其测量时间的GPS数据。

在步骤S2中，时间序列数据存储部12存储GPS传感器11连续获取的GPS数据，即，关于位置和测量时间的时间序列数据。

在步骤S3中，行为学习部13执行参数估计处理，并且终止用户活动模型学习处理。

[参数估计处理]

这里，将参照图12详细描述图11的步骤S3中的参数估计处理。

在步骤S21中，数据内插部31获取GPS数据的时间序列数据，即，存储在时间序列数据存储部12中的、关于位置和测量时间的时间序列数据。

在步骤S22中，数据内插部31执行数据内插处理。

[数据内插处理]

这里，将参照图13中的流程图详细描述图12的步骤S22中的数据内插处理。

在步骤S51中，数据内插部31搜索时间序列数据中的缺失时期。如上所述，在GPS传感器11能够从卫星捕获信号的同时，在预定时间间隔(在下文中，称为采样周期)获取GPS数据。因此，数据内插部31基于时间序列数据的每条数据的测量时间，搜索获取GPS数据的间隔长于采样周期的时期，并且设置检测到的时期作为缺失时期。

在步骤S52中，数据内插部31内插时间数据。即，数据内插部31基于GPS数据的采样周期，内插缺失时期中的时间序列数据的测量时间。

在步骤S53中，数据内插部31内插与内插的测量时间对应的位置数据。

例如，作为内插位置数据的方法，考虑了如下方法：其将缺失时期中的GPS数据的位置固定到紧接在缺失时期之前测量的位置(在下文中，被称为消失(banishing)点)。该方法较容易，但是由于固定缺失时期中的位置而不管紧接在缺失时期之后测量的位置(在下文中，被称为恢复点)，因此降低了内插的位置数据的可靠性。

因此，数据内插部31通过在消失点和恢复点之间执行线性内插来内插位置数据。即，数据内插部31在连接消失点与恢复点的直线上，以相等的间隔布置与缺失时期中的样本数相同数量的点，并且内插表示所布置点的位置的数据作为与内插的每个测量时间对应的位置数据。

取代直线内插方法，例如，可使用一次或多次的多项式内插、对数内插、使用同步函数(sync function)的内插等来内插位置数据。

在步骤S54中，数据内插部31设置位置数据的可靠性。具体地，与原始存在于除缺失时期之外的时期(在下文中，被称为正常时期)中的位置数据(在下文中，被称为正常位置数据)相比，内插的位置数据(在下文中，被称为内插位置数据)具有低数据可靠性。因此，例如，数据内插部31将用于辨别两条数据的参数添加到时间序列数据，以使得稍后可以彼此区分正常位置数据和内插位置数据。因此，可以在随后的处理中区分正常位置数据与内插位置数据，并且可以将内插位置数据处理作为具有低可靠性的数据。

此外，例如，数据内插部31将以每个位置数据的值为中心的分散(或者标准偏差)设置作为可靠性，其表示每个位置数据的值接近此时实际存在的位置(在下文中，被称为实际位置)的程度。例如，数据内插部31将正常位置数据的分散设置为0或预定常数，并且将内插位置数据的分散设置为大于正常位置数据的分散的常数。

替选地，内插位置数据的分散可被设置为根据位置的值而非常数。具体地，认为当数据接近缺失时期的开始或结束时，内插位置数据中示出的位置相对于实际位置具有较小差别，并且当数据远离缺失时期的开始或结束时，相对于实际位置具有较大差别。因此，例如，当内插位置数据在时间上接近缺失时期的开始或结束时，数据内插部31将分散设置为较小值(即，将可靠性设置成高水平)，并且当内插位置数据在时间上远离缺失时期的开始或结束时，将分散设置为较大值(即，将可靠性设置成低水平)。

被设置成该可靠性的分散(或标准偏差)表示内插位置数据中示出的位置不一定是正确值，但是可概率性地在以该位置为中心设置的分散(或标准偏差)中找到正确的位置。

在步骤S55中，数据内插部31将内插的时间序列数据提供到状态似然计算部32。即，数据内插部31内插缺失时期中的测量时间和位置数据，并且将设置了每条位置数据的可靠性的时间序列数据提供到状态似然计算部32。此后，终止数据内插处理。

[随后的参数估计处理]

返回到图12，在步骤S23中，状态似然计算部32计算位置数据的每个状态的似然。具体地，状态似然计算部32根据以下等式(5)，计算在转移到表示用户活动模型的HMM的状态s_i时，在假设输出时间序列数据的时间t处的位置数据x_t的情况下的状态似然P(s_i|x_t)。

$P\left(s_i\right|x_t)=\frac{1}{\sqrt{2\mathrm{\&pi;}{\mathrm{\&sigma;}}_{\mathrm{si}}{\left(1\right)}^2}}\exp (-\frac{{(x_t\left(1\right)-{\mathrm{\&mu;}}_{\mathrm{si}}\left(1\right))}^2}{2{\mathrm{\&sigma;}}_{\mathrm{si}}{\left(1\right)}^2})$

$\&times;\frac{1}{\sqrt{2\mathrm{\&pi;}{\mathrm{\&sigma;}}_{\mathrm{si}}{\left(2\right)}^2}}\exp (-\frac{{(x_t\left(2\right)-{\mathrm{\&mu;}}_{\mathrm{si}}\left(2\right))}^2}{2{\mathrm{\&sigma;}}_{\mathrm{si}}{\left(2\right)}^2})$

$\&CenterDot;\&CenterDot;\&CenterDot;\&times;\frac{1}{\sqrt{2\mathrm{\&pi;}{\mathrm{\&sigma;}}_{\mathrm{si}}{\left(D\right)}^2}}\exp (-\frac{{(x_t\left(D\right)-{\mathrm{\&mu;}}_{\mathrm{si}}\left(D\right))}^2}{2{\mathrm{\&sigma;}}_{\mathrm{si}}{\left(D\right)}^2})\&CenterDot;\&CenterDot;\&CenterDot;\left(5\right)$

这里，时间t表示时间序列数据的顺序而不是时间序列数据的测量时间，其是从1到T(时间序列数据的样本数)的值。

此外，在等式(5)中，D表示位置数据的维数。在该情况下，由于位置数据包含两维的纬度和经度，因此D＝2。此外，假设x_t(1)和x_t(2)分别表示位置数据x_t的纬度和经度。此外，在转移到状态s_i时输出的位置数据的纬度和经度的输出概率密度函数分别具有单一正态分布。此外，μ_si(1)和σ_si(1)分别表示纬度的输出概率密度函数的中心值和标准偏差，并且μ_si(2)和σ_si(2)分别表示经度的输出概率密度函数的中心值和标准偏差。

等式(5)是一般在鲍姆-韦尔奇最大似然估计方法中使用的等式。

状态似然计算部32针对所有状态s_i和位置数据x_t的组合，根据等式(5)计算状态似然P(s_i|x_t)，并且将表示算出的状态似然P(s_i|x_t)的数据和时间序列数据提供到状态似然修改部33。

在步骤S24中，状态似然修改部33修改内插的位置数据的每个状态的似然。例如，状态似然修改部33根据以下等式(6)，修改内插的位置数据x_t的状态似然P(s_i|x_t)。

P(s_i|x_t)＝1/m...(6)

在等式(6)中，M表示HMM的状态节点的数量。

等式(6)表示如下情况下的状态似然P(s_i|x_t)：其中，假设当输出缺失时期中的时间t处的位置数据x_t时转移到各个状态s_i的概率都相同，并且内插位置数据的状态似然P(s_i|x_t)都变成相同值。

替选地，例如，状态似然修改部33根据等式(7)修改内插的位置数据x_t的状态似然P(s_i|x_t)。

$P\left(s_i\right|x_t)=\exp (-\underset{d}{\overset{D}{\mathrm{\&Sigma;}}}\frac{{(x_t\left(d\right)-{\mathrm{\&mu;}}_{\mathrm{si}}\left(d\right))}^2}{({\mathrm{\&sigma;}}_{\mathrm{si}}{\left(d\right)}^2+{\mathrm{\&sigma;}}_t{\left(d\right)}^2)})\&CenterDot;\&CenterDot;\&CenterDot;\left(7\right)$

使用在图13的步骤S54的处理中被设置作为每个位置数据的可靠性的分散作为等式(7)中的σ_t(d)²。

因此，内插位置数据的可靠性反映在状态似然P(s_i|x_t)中，内插位置数据的状态似然P(s_i|x_t)被设置为相对低于正常位置数据的状态似然P(s_i|x_t)的值。即，对于具有相同值的内插位置数据和正常位置数据，内插位置数据的状态似然P(s_i|x_t)被设置为低于正常位置数据的状态似然P(s_i|x_t)的值。此外，随着内插位置数据的可靠性变得越高(随着分散σ_t(d)²变得越小)，则内插位置数据的状态似然P(s_i|x_t)变得越高，并且随着内插位置数据的可靠性变得越低(随着分散σ_t(d)²变得越大)，则内插位置数据的状态似然P(s_i|x_t)变得越低。

针对所有状态s_i和所有内插的位置数据x_t的组合，状态似然修改部33根据等式(6)或(7)修改状态似然P(s_i|x_t)。状态似然修改部33将关于包括修改的状态似然P(s_i|x_t)的似然P(s_i|x_t)的所有数据和时间序列数据提供到前向似然计算部34。

通过步骤S24的处理，因此，在不同条件下计算内插位置数据的状态似然P(s_i|x_t)和正常位置数据的状态似然P(s_i|x_t)。在步骤S23中，可不计算内插位置数据的状态似然P(s_i|x_t)。

在步骤S25中，前向似然计算部34计算前向似然。即，前向似然计算部34根据以下等式(8)和(9)，按照从时间1到最终时间T的顺序，计算时间t处的状态s_i的前向似然α_t(s_i)。

α₁(s_i)＝π_si...(8)

${\mathrm{\&alpha;}}_t\left(s_i\right)=\underset{j=1}{\overset{M}{\mathrm{\&Sigma;}}}{\mathrm{\&alpha;}}_{t-1}\left(s_j\right)a_{\mathrm{ji}}P\left(s_i\right|x_t)\&CenterDot;\&CenterDot;\&CenterDot;\left(9\right)$

在等式(8)中，π_si表示状态s_i的初始概率。此外，在等式(9)中，a_ji表示从状态s_j到状态s_i的状态转移概率。例如，从外部给出初始概率π_si和状态转移概率a_ji的初始值。

等式(8)和(9)是一般在鲍姆-韦尔奇最大似然估计方法的前向算法中使用的等式。

前向似然计算部34计算每个时间t处的所有状态s_i的前向似然α_t(s_i)。此外，前向似然计算部34将表示算出的前向似然α_t(s_i)的数据添加到从状态似然修改部33获取的数据，并然后将其提供到后向似然计算部35。

在步骤S26中，后向似然计算部35计算后向似然。即，后向似然计算部35按照从最终时间T到时间1的逆序，使用以下等式(10)和(11)计算时间t处的状态s_i的后向似然β_t(s_i)。

β_T(s_i)＝1/m...(10)

${\mathrm{\&beta;}}_t\left(s_i\right)=\underset{j=1}{\overset{M}{\mathrm{\&Sigma;}}}{a}_{\mathrm{ij}}P\left(s_i\right|x_{t+1}){\mathrm{\&beta;}}_{t+1}\left(s_j\right)\&CenterDot;\&CenterDot;\&CenterDot;\left(11\right)$

在等式(10)中，假设时间T处的各个状态s_i的概率都相同。

等式(10)和(11)是一般在鲍姆-韦尔奇最大似然估计方法的后向算法中使用的等式。

后向似然计算部35计算每个时间t处的所有状态s_i的后向似然β_t(s_i)。此外，后向似然计算部35将表示算出的后向似然β_t(s_i)的数据添加到从前向似然计算部34获取的数据，并然后将其提供到初始概率和转移概率估计部36。

以此方式，通过步骤S23至S26的处理，针对内插了数据的时间序列数据计算隐马尔可夫模型的多种似然。

在步骤S27中，初始概率和转移概率估计部36更新初始概率和状态转移概率。即，初始概率和转移概率估计部36将每个状态s_i的初始概率π_si和状态之间的状态转移概率a_ij分别更新成通过等式(12)和(13)算出的初始概率π_si′和状态转移概率a_ij′。

${{\mathrm{\&pi;}}_{\mathrm{si}}}^{,}=\frac{{\mathrm{\&alpha;}}_1\left(s_i\right){\mathrm{\&beta;}}_1\left(s_i\right)}{{\mathrm{\&Sigma;}}_{i=1}^M{\mathrm{\&alpha;}}_t\left(s_i\right)}\&CenterDot;\&CenterDot;\&CenterDot;\left(12\right)$

${a_{\mathrm{ij}}}^{,}=\frac{{\mathrm{\&Sigma;}}_{t=1}^{T-1}{\mathrm{\&alpha;}}_t\left(s_i\right)a_{\mathrm{ij}}P\left(s_j\right|x_{t+1}){\mathrm{\&beta;}}_{t+1}\left(s_j\right)}{{\mathrm{\&Sigma;}}_{t=1}^{T-1}{\mathrm{\&alpha;}}_t\left(s_i\right){\mathrm{\&beta;}}_t\left(s_i\right)}\&CenterDot;\&CenterDot;\&CenterDot;\left(13\right)$

等式(12)和(13)是一般在鲍姆-韦尔奇最大似然估计方法中使用的等式。

初始概率和转移概率估计部36将表示更新后的初始概率π_si和状态转移概率a_ij的数据添加到从后向似然计算部35获取的数据，并然后将其提供到观察概率估计预处理部37。

在步骤S28中，观察概率估计预处理部37降低对内插的位置数据的观察概率的贡献水平。具体地，观察概率估计预处理部37将在缺失时期中的时间t处的前向似然α_t(s_i)和后向似然β_t(s_i)都设置为0。观察概率估计预处理部37将针对从初始概率和转移概率估计部36获得的数据、通过如上所述地修改前向似然α_t(s_i)和后向似然β_t(s_i)而获得的数据提供到观察概率估计部38。

在步骤S29中，观察概率估计部38更新观察概率。即，观察概率估计部38将每个状态s_i的输出概率密度函数的中心值μ_si(d)、以及分散σ_si(d)²分别更新成通过以下等式(14)和(15)算出的中心值μ_si(d)′和分散σ_si(d)′²。

${\mathrm{\&mu;}}_{\mathrm{si}}{\left(d\right)}^{,}=\frac{{\mathrm{\&Sigma;}}_{t=1}^T{\mathrm{\&alpha;}}_t\left(s_i\right){\mathrm{\&beta;}}_t\left(s_i\right)x_t\left(d\right)}{{\mathrm{\&Sigma;}}_{t=1}^T{\mathrm{\&alpha;}}_t\left(s_i\right){\mathrm{\&beta;}}_t\left(s_i\right)}\&CenterDot;\&CenterDot;\&CenterDot;\left(14\right)$

${\mathrm{\&sigma;}}_{\mathrm{si}}{\left(d\right)}^{,2}=\frac{{\mathrm{\&Sigma;}}_{t=1}^T{\mathrm{\&alpha;}}_t\left(s_i\right){\mathrm{\&beta;}}_t\left(s_i\right){(x_t\left(d\right)-{\mathrm{\&mu;}}_{\mathrm{si}}\left(d\right))}^2}{{\mathrm{\&Sigma;}}_{t=1}^T{\mathrm{\&alpha;}}_t\left(s_i\right){\mathrm{\&beta;}}_t\left(s_i\right)}\&CenterDot;\&CenterDot;\&CenterDot;\left(15\right)$

在等式(14)和(15)中，d表示数据的维数，并且在该情况下，d是1或2。

等式(14)和(15)是一般在鲍姆-韦尔奇最大似然估计方法中使用的等式。

这里，在步骤S28中，缺失时期中的时间t处的前向似然α_t(s_i)和后向似然β_t(s_i)都被设置为0。因此，在没有使用特殊计算的情况下，内插位置数据对每个状态s_i的观察概率(中心值μ_si(d)和分散σ_si(d)²)的贡献水平(几乎为零)变得低于正常位置数据的贡献水平。因此，在观察概率的估计中，具有低可靠性的内插位置数据几乎不能被反映，因此，观察概率的估计精度得以增强。

在步骤S30中，观察概率估计部38确定是否要终止参数的更新。在还没有建立稍后要描述的预定更新终止条件的情况下，观察概率估计部38确定将不终止参数的更新，并且过程前往步骤S31。

在步骤S31中，观察概率估计部38将更新后的参数提供到状态似然计算部32。即，观察概率估计部38将表示在步骤S27至S29的处理中更新的、各个状态s_i的初始概率π_si、中心值μ_si(d)和分散σ_si(d)²以及状态之间的状态转移概率a_ij的数据提供到状态似然计算部32。

此后，在步骤S30中，重复执行步骤S23至S31的处理，直到确定要终止参数的更新为止。因此，顺序增加系列状态s_i的多种似然，即，状态似然P(s_i|x_t)、前向似然α_t(s_i)以及后向似然β_t(s_i)，执行HMM的参数更新，以使得它们最终达到最大。

另一方面，在步骤S30中，例如，在每个似然的增量等于或低于预定值并且满足参数更新的收敛条件的情况下，观察概率估计部38确定要终止参数的更新，并且过程前往步骤S32。替选地，例如，在执行步骤S23至S31的更新处理预定次数的情况下，观察概率估计部38确定要终止参数的更新，并且过程前往步骤S32。

在步骤S32中，观察概率估计部38将最终的参数提供到状态似然计算部32。即，观察概率估计部38将表示在步骤S23至S31的更新处理中最终算出的、各个状态s_i的初始概率π_si、中心值μ_si(d)和分散σ_si(d)²以及状态之间的状态转移概率a_ij的数据提供到行为识别部14和行为预测部15。

然后，终止参数估计处理。

[到达时间预测处理]

接下来，将描述到达时间预测处理，其使用概率性状态转移模型的参数来搜索直到目的地为止的路径，计算到达时间并且将其呈现给用户，其中，该概率性状态转移模型表示通过图11中的用户活动模型学习处理而获得的用户活动模型。

图14是示出到达时间预测处理的流程图。在该示例中，在图14中的处理之前预先确定目的地。然而，可在图14中的处理中间输入目的地。

首先，在步骤S101中，GPS传感器11获取关于位置的时间序列数据并然后将其提供到行为识别部14。关于具有预定样本数的位置的时间序列数据暂时存储在行为识别部14中。

在步骤S102中，行为识别部14从通过学习得到的基于参数的用户活动模型识别用户的当前活动状态。即，行为识别部14识别用户的当前位置。此外，行为识别部14将用户的当前状态节点的节点号提供到行为预测部15。

在步骤S103中，行为预测部15确定与当前搜索到的状态节点(在下文中，被称为当前状态节点)对应的点是否是端点、经过点、分支点以及环中的任何一个。紧接在步骤S102中的处理之后，与用户的当前位置对应的状态节点成为当前状态节点。

在步骤S103中，如果确定与当前状态节点对应的点是端点，则过程前往步骤S104。然后，行为预测部15将当前状态节点连接至到现在为止的路径并且终止路径的搜索，然后过程前往步骤S111。如果当前状态节点是与当前位置对应的状态节点，则由于不存在到现在为止的路径，因此不执行连接处理。这是与步骤S105、S107以及S110相同的情况。

在步骤S103中，如果确定与当前状态节点对应的点是经过点，则过程前往步骤S105。然后，行为预测部15将当前状态节点连接至到现在为止的路径。然后，在步骤S106中，行为预测部15移动下一状态节点成为当前状态节点。在步骤S106的处理之后，过程返回到步骤S103。

在步骤S103中，如果确定与当前状态节点对应的点是分支点，则过程前往步骤S107。然后，行为预测部15将当前状态节点连接至到现在为止的路径。然后，在步骤S108中，行为预测部15以分支的数量复制到现在为止的路径，并然后将它们连接到分支线的状态节点。此外，在步骤S109中，行为预测部15选择所复制的路径之一，并且移动所选路径之前的状态节点成为当前状态节点。在步骤S109的处理之后，过程返回到步骤S103。

另一方面，在步骤S103中，如果确定与当前状态节点对应的点是环，则过程前往步骤S110。然后，行为预测部15终止路径的搜索而无需将当前状态节点连接至到现在为止的路径，然后过程前往步骤S111。

在步骤S111中，行为预测部15确定是否存在未被搜索的路径。在步骤S111中，如果确定存在未搜索的路径，则过程前往步骤S112。然后，行为预测部15使得过程返回到当前位置的状态节点，并且移动未搜索路径的下一状态节点成为当前状态节点。在步骤S112的处理之后，过程返回到步骤S103。因此，对于未搜索的路径，执行路径的搜索直到搜索被端点或环终止为止。

在步骤S111中，如果确定不存在未搜索的路径，则过程前往步骤S113。然后，行为预测部15计算每条搜索路径的选择概率(发生概率)。行为预测部15将每条路径及其选择概率提供至到达时间预测部16。

在步骤S114中，到达时间预测部16从行为预测部15搜索到的路径中提取包括输入的目的地的路径，并然后计算目的地的到达概率。具体地，在针对目的地存在多条路径的情况下，到达时间预测部16计算多条路径的选择概率之和作为目的地的到达概率。在针对目的地仅存在一条路径的情况下，路径的选择概率即成为目的地的到达概率。

在步骤S115中，到达时间预测部16确定提取的路径数是否大于预定数，该预定数被预先设置作为呈现数。

在步骤S115中，如果确定提取的路径数大于预定数，则过程前往步骤S116。然后，到达时间预测部16确定在显示部18上显示的预定数量的路径。例如，到达时间预测部16可以按照选择可能性的降序来确定预定数量的路径。

另一方面，在步骤S115中，如果确定提取的路径数等于或小于预定数，则跳过步骤S116的处理。即，在该情况下，在显示部18上显示用于到达目的地的所有路径。

在步骤S117中，到达时间预测部16计算被确定要显示在显示部18上的每条路径的到达时间。此外，到达时间预测部16将表示目的地的到达概率以及到目的地为止的路径和到达时间的图像信号提供到显示部18。

在步骤S118中，显示部18基于从到达时间预测部16提供的图像信号，显示目的地的到达概率和到目的地为止的路径和到达时间，并然后终止过程。

[本发明的效果]

如上所述，预测系统1执行学习处理，其中，内插关于GPS传感器11获取的位置和测量时间的时间序列数据的缺失时期中的数据，并且使用内插的时间序列数据学习用户的活动状态作为隐马尔可夫模型。因此，即使缺失时期存在于时间序列数据中，也可以精确地学习用户的活动状态。

这里，将参照图15描述预测系统1的学习处理的效果的具体示例。

图15是示出通过预测系统1使用与参照图1和2描述的实验中相同的时间序列数据来执行学习处理而获得的结果的图。在此时的学习处理中，使用等式(6)修改图12的步骤S24中的状态似然P(s_i|x_t)。

与图1相比参照图15，可以发现在图15中彼此远离的状态节点不连续的状态转移数减少了。

虽然根据等式(6)缺失时期中的内插位置数据的状态似然P(s_i|x_t)都被设置成相同值，但是当计算前向似然α_t(s_i)和后向似然β_t(s_i)时，由于接近内插的位置数据的状态节点被自动分配给内插的位置数据，因此防止了学习状态节点不连续的状态转移。

此外，甚至使用对状态似然P(s_i|x_t)进行修改的上述等式(7)，也可以获得近似相同的学习结果。这里，由于利用等式(7)进一步增强了状态似然P(s_i|x_t)的可靠性，因此可以更精确地学习用户活动模型。

另外，将参照图16至18描述如下情况下的学习结果的示例：其中，使用相同的时间序列数据执行与预测系统1的解决方案不同的解决方案。

图16示出了通过使用如下时间序列数据执行学习处理而获得的结果：其中，内插了关于与时间序列数据的缺失时期中的消失点相同位置的数据。即，图16示出了通过使用如下时间序列数据执行学习处理而获得的结果：其保存在与缺失时期期间的消失点相同的位置中。根据该方法，在保存的位置周围分配多个状态节点，或者保存位置周围的状态节点的自转移概率变高。因此，解决了到目的地为止的步数不足的问题，并且增强了到目的地的到达时间的预测精度。然而，与图1相比，难以减小不连续路径的数量，并且因而增加了处理负担。

图17是示出如下情况下的学习结果的图：其中，如果缺失时期等于或长于预定时间，则将时间序列数据划分成不同类型的时间序列数据。即，图17示出了如下情况下的示例：其中，如果缺失时期是两分钟或更长，则划分时间序列数据。在该情况下，由于缺失时期在学习时使用的时间序列数据中消失，因此可以发现，如图17所示，往返路径被学习作为一条路径。然而，在该情况下，需要适当设置变成划分时间序列数据的条件的时间。

例如，图18示出了如下情况下的学习结果：其中，如果缺失时期等于或长于一分钟，则划分时间序列数据。在该情况下，由于存在太多用于划分时间序列数据的时刻，因此往返路径断开并且没有连接到一条线。如果路径以此方式断开，则例如在预测到目的地的到达时间的情况下，存在如下可能性：在甚至没有找到一条到达目的地的路径的情况下就终止处理。

在该方面，在预测系统1中，不需要执行多种参数的调整，并且对于相同的时间序列数据可以不变地获得相同的学习结果。

此外，预测系统1使用以通过学习处理获得的参数表示的概率性状态转移模型，预测输入的目的地的到达概率以及到输入的目的地为止的路径和到达时间，并然后将他们呈现给用户。

因此，根据预测系统1，可以预测用户指定的目的地的到达概率以及到指定的目的地为止的路径和到达时间，从而将它们呈现给用户。此外，如上所述，在预测系统1中，由于即使时间序列数据中产生缺失部分也精确地学习用户的活动模型，因此增强了其预测精度。

2.修改的示例

在以上描述中，主要描述了针对一种类型的时间序列数据的学习处理，但是本发明可以应用于针对多种类型的时间序列数据的学习处理。

此外，以上描述中，描述了在用户活动模型的学习中仅使用关于位置的时间序列数据的示例，但是也可使用关于测量时间的时间序列数据。然而，与位置数据不同，测量时间不具有内插值的任何误差。因此，例如，可将内插位置数据的状态似然P(s_i|x_t)的计算等式(7)改变成以下等式(16)。

$P\left(s_i\right|x_t)={\left[\exp (-\underset{d=1}{\overset{2}{\mathrm{\&Sigma;}}}\frac{{(x_t\left(d\right)-{\mathrm{\&mu;}}_{\mathrm{si}}\left(d\right))}^2}{({\mathrm{\&sigma;}}_{\mathrm{si}}{\left(d\right)}^2+{\mathrm{\&sigma;}}_t{\left(d\right)}^2)})\right]}^{w1}$

$\&times;{\left[\frac{1}{\sqrt{2\mathrm{\&pi;}{\mathrm{\&sigma;}}_{\mathrm{si}}{\left(3\right)}^2}}\exp (-\frac{{(x_t\left(3\right)-{\mathrm{\&mu;}}_{\mathrm{si}}\left(3\right))}^2}{2{\mathrm{\&sigma;}}_{\mathrm{si}}{\left(3\right)}^2})\right]}^{w2}\&CenterDot;\&CenterDot;\&CenterDot;\left(16\right)$

这里，x_t(1)、x_t(2)以及x_t(3)分别表示时间序列数据的时间t处的数据x_t的纬度、经度以及测量时间。此外，μ_si(1)和σ_si(1)表示状态s_i的纬度的输出概率密度函数的中心值和标准偏差。此外，μ_si(2)和σ_si(2)表示状态s_i的经度的输出概率密度函数的中心值和标准偏差。此外，μ_si(3)和σ_si(3)表示状态s_i的测量时间的输出概率密度函数的中心值和标准偏差。此外，σ_t(1)²和σ_t(1)²分别表示时间序列数据的时间t处的数据x_t的纬度的分散(可靠性)和经度的分散(可靠性)。此外，w1和w2表示根据对每个数据的时间序列数据的结构的贡献水平而设置的权重。

根据等式(16)，仅内插的纬度和经度的可靠性被反映到状态概率P(s_i|x_t)。

取代等式(16)，可使用等式(6)。

此外，在以上描述中，描述了使用关于位置的时间序列数据学习表示用户的活动模型的HMM的示例，但是本发明的实施例可以应用于根据时间序列数据学习HMM而与数据类型无关的情况。

此外，在数据的采样间隔在除学习时使用的时间序列数据的缺失时期之外的时期(正常时期)中不恒定的情况下，可执行再采样处理等，以使得采样间隔变得恒定。

如上所述的系列处理可通过硬件或软件来执行。在通过软件执行系列处理的情况下，在计算机中安装构成软件的程序。这里，计算机包括安装在专用硬件中的计算机或通用个人计算机，其中，该通用个人计算机安装有多种程序以执行多种功能。

图19是示出通过程序执行如上所述的系列处理的计算机的硬件配置示例的框图。

在计算机中，CPU(中央处理单元)201、ROM(只读存储器)202以及RAM(随机存取存储器)203通过总线204彼此连接。

此外，输入和输出接口205连接到总线204。输入部206、输出部207、存储部208、通信部209、驱动器210以及GPS传感器211连接到输入和输出接口205。

输入部206包括键盘、鼠标、麦克风等。输出部207包括显示器、扬声器等。存储部208包括硬盘、非易失性存储器等。通信部209包括网络接口等。驱动器210驱动可拆卸记录介质212，诸如磁盘、光盘、磁光盘、半导体存储器等。GPS传感器211对应于图1中的GPS传感器11。

在具有这样配置的计算机中，例如，CPU 201通过输入和输出接口205以及总线204将存储在存储部208中的程序加载到RAM 203以被执行，从而执行如上所述的系列处理。

计算机(CPU 201)执行的程序例如可以记录在可拆卸记录介质212中以用于提供，该可拆卸记录介质212是封装介质等。此外，程序可以通过有线或无线传输介质(诸如局域网、因特网或数字卫星广播)来提供。

在计算机中，通过将可拆卸记录介质212安装到驱动器210，程序可以通过输入和输出接口205而被安装在存储部208中。此外，程序可通过有线或无线传输介质而被接收在通信部209中，并然后可被安装在存储部208中。另外，程序可预先安装在ROM 202或存储部208中。

计算机执行的程序可以是按照该说明中所描述的顺序、以时间顺序方式执行过程的程序，或者可以是并行地或在必要的定时(例如，当执行调用时)执行过程的程序。

在该说明中，在流程图中公开的步骤可按照所描述的顺序、以时间顺序方式执行，或者可并行地或在必要的定时(例如，当执行调用时)执行。

在该说明中，系统指的是包括多个装置的整个设备。

本发明的实施例不限于上述实施例，而是可在不背离本发明的精神的情况下进行各种修改。

本申请包含与2009年12月4日向日本专利局提交的日本优先权专利申请JP 2009-276691中公开的主题内容相关的主题内容，在此通过引用将其全部内容合并于此。

本领域的技术人员应该理解，在所附权利要求或其等同方案的范围内，取决于设计要求和其它因素，可进行各种修改、组合、子组合以及变更。

Claims (8)

1.一种学习设备，包括：

内插装置，用于内插时间序列数据中缺失的数据；

估计装置，用于根据所述时间序列数据估计隐马尔可夫模型；以及

似然计算装置，用于计算估计的隐马尔可夫模型的似然，

其中，所述似然计算装置在不同条件下计算没有缺失数据的正常数据的似然和作为内插的数据的内插数据的似然，并且计算内插了数据的所述时间序列数据的所述隐马尔可夫模型的似然，并且

其中，所述估计装置更新所述隐马尔可夫模型，以使得所述似然计算装置算出的似然变高。

2.根据权利要求1所述的学习设备，

其中，所述似然计算装置将所述内插数据的似然设置得低于所述正常数据的似然。

3.根据权利要求2所述的学习设备，

其中，所述内插装置基于所述时间序列数据中的紧接在缺失时期之前的第一数据、和所述时间序列数据中的紧接在所述缺失时期之后的第二数据，内插所述缺失时期中的数据，并且对于接近所述缺失时期的开始或结束的数据，将所述内插数据的可靠性设置成高水平，并且对于远离所述缺失时期的开始或结束的数据，将所述内插数据的可靠性设置成低水平，并且

其中，当所述内插数据的可靠性低时，所述似然计算装置将所述内插数据的似然设置成低水平。

4.根据权利要求1所述的学习设备，

其中，所述似然计算装置将所述内插数据的所述隐马尔可夫模型的各个状态的所有似然都设置为相同值。

5.根据权利要求1至4中任一项所述的学习设备，

其中，所述估计装置将所述内插数据对所述隐马尔可夫模型的观察概率的贡献水平设置为低于所述正常数据对所述观察概率的贡献水平。

6.一种在学习设备中执行的学习方法，所述学习设备根据时间序列数据学习隐马尔可夫模型，所述方法包括以下步骤：

内插所述时间序列数据中缺失的数据；

根据所述时间序列数据估计所述隐马尔可夫模型；

计算估计的隐马尔可夫模型的似然；

在不同条件下计算没有缺失数据的正常数据的似然和作为内插的数据的内插数据的似然，并且计算内插了数据的所述时间序列数据的所述隐马尔可夫模型的似然，以及

更新所述隐马尔可夫模型，以使得算出的似然变高。

7.一种使得在计算机中执行过程的程序，所述过程包括以下步骤：

内插时间序列数据中缺失的数据；

根据所述时间序列数据估计隐马尔可夫模型；

计算估计的隐马尔可夫模型的似然；

在不同条件下计算没有缺失数据的正常数据的似然和作为内插的数据的内插数据的似然，并且计算内插了数据的所述时间序列数据的所述隐马尔可夫模型的似然，以及

更新所述隐马尔可夫模型，以使得算出的似然变高。

8.一种学习设备，包括：

内插部，其内插时间序列数据中缺失的数据；

估计部，其根据所述时间序列数据估计隐马尔可夫模型；以及

似然计算部，其计算估计的隐马尔可夫模型的似然，

其中，所述似然计算部在不同条件下计算没有缺失数据的正常数据的似然和作为内插的数据的内插数据的似然，并且计算内插了数据的所述时间序列数据的所述隐马尔可夫模型的似然，并且

其中，所述估计部更新所述隐马尔可夫模型，以使得所述似然计算部算出的似然变高。

Images