CN103488666B - 信息处理设备和方法、电子装置以及计算机可读存储介质 - Google Patents
信息处理设备和方法、电子装置以及计算机可读存储介质 Download PDFInfo
- Publication number
- CN103488666B CN103488666B CN201310211717.6A CN201310211717A CN103488666B CN 103488666 B CN103488666 B CN 103488666B CN 201310211717 A CN201310211717 A CN 201310211717A CN 103488666 B CN103488666 B CN 103488666B
- Authority
- CN
- China
- Prior art keywords
- activity pattern
- activity
- text message
- information
- database
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 230000010365 information processing Effects 0.000 title claims abstract description 27
- 238000000034 method Methods 0.000 title abstract description 46
- 230000000694 effects Effects 0.000 claims abstract description 532
- 238000001514 detection method Methods 0.000 claims abstract description 32
- 230000006870 function Effects 0.000 claims description 82
- 238000004891 communication Methods 0.000 claims description 15
- 238000003672 processing method Methods 0.000 claims description 9
- 238000012360 testing method Methods 0.000 claims description 7
- 230000009471 action Effects 0.000 description 121
- 238000012545 processing Methods 0.000 description 56
- 238000004458 analytical method Methods 0.000 description 51
- 238000005516 engineering process Methods 0.000 description 33
- 230000000875 corresponding effect Effects 0.000 description 23
- 230000002123 temporal effect Effects 0.000 description 12
- 238000010801 machine learning Methods 0.000 description 10
- 238000009795 derivation Methods 0.000 description 9
- 230000008859 change Effects 0.000 description 8
- 238000004422 calculation algorithm Methods 0.000 description 6
- 235000012054 meals Nutrition 0.000 description 6
- 235000013399 edible fruits Nutrition 0.000 description 5
- 238000012986 modification Methods 0.000 description 5
- 230000004048 modification Effects 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 230000001133 acceleration Effects 0.000 description 4
- 230000006399 behavior Effects 0.000 description 4
- 238000003909 pattern recognition Methods 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 239000011435 rock Substances 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 238000009825 accumulation Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000000205 computational method Methods 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 230000002068 genetic effect Effects 0.000 description 2
- 230000005484 gravity Effects 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 230000006855 networking Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 101150012579 ADSL gene Proteins 0.000 description 1
- 102100020775 Adenylosuccinate lyase Human genes 0.000 description 1
- 108700040193 Adenylosuccinate lyases Proteins 0.000 description 1
- 241000381142 Pachydermia Species 0.000 description 1
- 241001122767 Theaceae Species 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 239000002537 cosmetic Substances 0.000 description 1
- 238000013075 data extraction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000010845 search algorithm Methods 0.000 description 1
- 239000002689 soil Substances 0.000 description 1
- 238000010183 spectrum analysis Methods 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/23—Updating
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/10—Recognition assisted with metadata
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Psychiatry (AREA)
- Social Psychology (AREA)
- Human Computer Interaction (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- General Engineering & Computer Science (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
提供了一种信息处理设备和方法、电子装置以及计算机可读存储介质,该信息处理设备包括:数据库更新单元,用于更新活动模式数据库,所述活动模式数据库被用于基于传感器检测结果而检测用户的活动模式;文本信息获取单元,用于获取所述用户在装置中输入的文本信息;以及文本信息分析单元,用于从所述文本信息获取与活动模式有关的信息。在从所述文本信息获取到与活动模式有关的信息的情况下,所述数据库更新单元使用从所述文本信息获取的与活动模式有关的信息来更新所述活动模式数据库。文本信息分析单元计算与活动模式有关的信息的第一可靠性,并且在第一可靠性超过第一预定阈值的情况下,数据库更新单元更新活动模式数据库。
Description
技术领域
本公开涉及一种信息处理设备、电子装置、信息处理方法和程序。
背景技术
用于在诸如移动电话的移动终端上安装运动传感器并且自动地检测和记录使用活动历史的技术被关注。例如,以下日本专利公开2008-003655公开了一种使用诸如加速度传感器和陀螺仪传感器的运动传感器并且检测走路操作、奔跑操作、右转和左转操作以及静止状态的技术。专利文献公开了如下方法:该方法根据运动传感器的输出数据计算走路步调、走路功率和旋转角度,并且使用计算结果来检测走路操作、奔跑操作、右转和左转操作以及静止状态。
此外,专利文献公开了如下方法:该方法通过利用操作和状态模式(诸如这些操作和状态的类型、操作和状态持续的时间段以及操作的数量)的输入进行统计处理来检测用户的活动模式。通过使用上述方法,可以获取诸如“漫步”和“无休息操作”的活动模式作为时间序列数据。然而,该方法中所获取的活动模式主要表示在相对短的时间段中执行的用户操作和状态。因此,难以根据活动模式历史来估计具体活动内容,诸如“我今天在百货商店购物”和“我昨天在旅馆饭店吃饭”。
使用在以下日本专利公开2008-003655中公开的方法来获取的活动模式表示在相对短的时间段中执行的活动的累积。另外,构成活动模式的各个活动本身不是用户有意地执行的。相较之下,具体活动内容是在大部分情况下用户有意地执行的并且是娱乐性高的,其在相对长的时间段中被执行。因此,难以根据在短时间段期间执行的活动的累积来估计以上具体活动内容。然而,近来,开发了如下的技术:该技术根据使用运动传感器获取的相对短时间段中的活动模式来检测在相对长时间段中执行的娱乐性高的活动模式(参见以下日本专利公开2011-081431)。
发明内容
当应用以上日本专利公开2011-081431中公开的技术时,可以检测用户采取的活动模式。然而,使用从位置传感器或运动传感器获取的信息来执行检测处理,因此存在活动模式估计准确性不足的情况。更具体地,从各个用户的运动传感器获取的信息存在差别。例如,检测结果取决于携带状态(诸如安装运动传感器的装置被放在口袋中携带的状态以及该装置被放在包中携带的情况)而变化,因此估计结果会变化。因此,需要开发一种使用除了位置传感器或运动传感器的信息以外的信息来增强活动模式估计准确性的技术。
因此,鉴于以上情况而设计了本公开,并且本公开旨在提供一种新的、改进的信息处理设备、电子装置、信息处理方法和程序,该信息处理设备、电子装置、信息处理方法和程序可以改进活动模式估计准确性。
根据本公开的实施例,提供了一种信息处理设备,其包括:数据库更新单元,用于更新活动模式数据库,所述活动模式数据库被用于基于传感器检测结果而检测用户的活动模式;文本信息获取单元,用于获取所述用户在装置中输入的文本信息;以及文本信息分析单元,用于从所述文本信息获取与活动模式有关的信息。在从所述文本信息获取到与活动模式有关的信息的情况下,所述数据库更新单元使用从所述文本信息获取的与活动模式有关的信息来更新所述活动模式数据库。其中,文本信息分析单元计算与活动模式有关的信息的第一可靠性,并且在第一可靠性超过第一预定阈值的情况下,数据库更新单元使用从文本信息获取的与活动模式有关的信息来更新活动模式数据库。
根据本公开的另一实施例,提供了一种电子装置,其包括:通信单元,用于在从用户在所述电子装置中输入的文本信息获取到与活动模式有关的信息的情况下访问活动模式数据库,所述活动模式数据库被用于基于传感器检测结果而检测所述用户的活动模式,所述活动模式数据库是使用所获取的信息而更新的;以及活动模式信息获取单元,用于从所述活动模式数据库获取与所述传感器检测结果和所述文本信息对应的与活动模式有关的信息。其中,活动模式数据库是在与活动模式有关的信息的第一可靠性超过第一预定阈值的情况下更新的。
根据本公开的另一实施例,提供了一种信息处理方法,其包括:更新活动模式数据库,所述活动模式数据库被用于基于传感器检测结果而检测用户的活动模式。在从所述用户在装置中输入的文本信息获取到与活动模式有关的信息,并且与活动模式有关的信息的第一可靠性超过第一预定阈值的情况下,使用所获取的信息来更新所述活动模式数据库。
根据本公开的另一实施例,提供了一种信息处理方法,包括:在从用户在电子装置中输入的文本信息获取到与活动模式有关的信息的情况下,访问活动模式数据库,所述活动模式数据库被用于基于传感器检测结果而检测所述用户的活动模式,所述活动模式数据库是使用所获取的信息而更新的;以及从所述活动模式数据库获取与所述传感器检测结果和所述文本信息对应的与活动模式有关的信息。其中,活动模式数据库是在与活动模式有关的信息的第一可靠性超过第一预定阈值的情况下更新的。
根据本公开的另一实施例,提供了一种用于使得计算机实现以下功能的程序:数据库更新功能,用于更新活动模式数据库,所述活动模式数据库被用于基于传感器检测结果而检测用户的活动模式;文本信息获取功能,用于获取所述用户在装置中输入的文本信息;以及文本信息分析功能,用于从所述文本信息获取与活动模式有关的信息。在从所述文本信息获取到与活动模式有关的信息的情况下,所述数据库更新功能使用从所述文本信息获取的与活动模式有关的信息来更新所述活动模式数据库。
根据本公开的另一实施例,提供了一种用于使得计算机实现以下功能的程序:通信功能,用于在从用户在电子装置中输入的文本信息获取到与活动模式有关的信息的情况下访问活动模式数据库,所述活动模式数据库被用于基于传感器检测结果而检测所述用户的活动模式,所述活动模式数据库是使用所获取的信息而更新的;以及活动模式信息获取功能,用于从所述活动模式数据库获取与所述传感器的检测结果和所述文本信息对应的与活动模式有关的信息。
另外,根据本公开的另一实施例,提供了一种记录以上程序的计算机可读存储介质。
根据上述本公开的实施例,可以改进活动模式估计准确性。
附图说明
图1是用于说明活动/情形分析系统的配置示例的说明图;
图2是用于说明动作/状态识别单元的功能的说明图;
图3是用于说明动作/状态识别单元的功能的说明图;
图4是用于说明GIS信息获取单元的功能的说明图;
图5是用于说明GIS信息获取单元的功能的说明图;
图6是用于说明GIS信息获取单元的功能的说明图;
图7是用于说明GIS信息获取单元的功能的说明图;
图8是用于说明活动/情形识别单元的功能的说明图;
图9是用于说明活动/情形识别单元的功能的说明图;
图10是用于说明活动/情形模式判定方法的说明图;
图11是用于说明使用地理直方图的得分分布的计算方法的说明图;
图12是用于说明使用机器学习的得分分布的计算方法的说明图;
图13是用于说明所检测的活动/情形模式的示例的说明图;
图14是用于说明根据本公开的实施例的活动/情形识别系统的配置示例的说明图;
图15是用于说明根据实施例的活动/情形识别系统的详细配置的说明图;
图16是用于说明根据实施例的活动/情形识别系统的操作的说明图;
图17是用于说明根据实施例的活动/情形识别系统的操作的说明图;
图18是用于说明根据实施例的替选示例的活动/情形识别系统的详细配置的说明图;
图19是用于说明根据实施例的替选示例的活动/情形识别系统的操作的说明图;
图20是用于说明根据实施例的替选示例的活动/情形识别系统的操作的说明图;
图21是用于说明根据实施例的替选示例的活动/情形识别系统的操作的说明图;
图22是用于说明根据实施例的替选示例的活动/情形识别系统的操作的说明图;
图23是用于说明根据本公开的使用活动模式识别结果的应用的屏幕配置示例的说明图;以及
图24是用于说明可以实现根据实施例的系统和各个装置的功能的硬件配置示例的说明图。
具体实施方式
在下文中,将参照附图详细描述本公开的优选实施例。注意,在本说明书和附图中,具有基本上相同的功能和结构的结构元件以相同的附图标记来表示,并且省略对这些结构元件的重复说明。
[关于说明的流程]
这里,简要描述本文中公开的说明的流程。首先,参照图1至图13,说明与本实施例的技术有关的活动模式识别技术。接下来,参照图14和图15,说明根据本公开的实施例的活动/情形识别系统的配置。接下来,参照图16和图17,说明根据本实施例的活动/情形识别系统的操作。
接下来,参照图18,说明根据实施例的替选示例的活动/情形识别系统的配置。接下来,参照图19至图22,说明根据实施例的替选示例的活动/情形识别系统的操作。接下来,参照图23,说明根据实施例的使用活动模式识别结果的应用的屏幕配置示例。接下来,参照图24,说明可以实现根据实施例的系统和各个装置的功能的硬件配置示例。
最后,总结根据实施例的技术思想,并且简要说明从这些技术思想获得的操作效果。
(说明项)
1:介绍
1-1:活动模式识别技术
1-2:实施例的概况
1-2-1:使用文本信息对模式DB的更新
1-2-2:使用环境声音对模式DB的更新
2:实施例的细节
2-1:系统配置的示例
2-2:使用文本信息和声学信息(acoustic information)对模式DB的更新
2-2-1:功能配置
2-2-2:处理的流程
2-3:(替选示例)声音识别技术的应用
2-3-1:功能配置
2-3-2:处理的流程
2-4:屏幕显示的示例(应用的一个示例)
3:硬件配置示例
4:总结
<1:介绍>
首先,说明与本实施例的技术有关的活动模式识别技术。
[1-1:活动模式识别技术]
本文中说明的活动模式识别技术涉及如下技术:该技术使用由运动传感器等检测的与用户活动和状态有关的信息以及由位置传感器等检测的位置信息来检测用户的活动和状态。
另外,作为运动传感器,例如,使用三轴加速度传感器(包括加速度传感器、重力检测传感器和下降检测传感器)和三轴陀螺仪传感器(包括角速度传感器、稳定性传感器和地磁传感器)。另外,例如,可以使用作为位置传感器的GPS(全球定位系统)、RFID(射频识别)、Wi-Fi接入点或无线基站的信息。通过使用它们的信息,例如,可以检测当前位置的纬度和经度。
(活动/情形分析系统11的系统配置)
首先,参照图1,对可以实现如上所述的活动模式识别技术的活动/情形分析系统11的系统配置给出说明。图1是用于说明活动/情形分析系统11的整个系统配置的说明图。
这里,在本说明书中,表述“动作/状态”和表述“活动/情形”通过以下含义而区分。表述“动作/状态”表示用户在大约几秒到几分钟的相对短时间段中执行的活动,并且表示诸如“走路”、“奔跑”、“跳跃”和“静止”的行为。另外,该行为可被共同地表述为“动作/状态模式”或“LC(低情境,Low-Context)活动”。同时,表述“活动/情形”表示用户在比“动作/状态”的情况长的时间段中执行的生活行动,并且表示诸如“吃饭”、“购物”和“工作”的行为。另外,该行为可被共同地表述为“活动/情形模式”或“HC(高情境,High-Context)活动”。
如图1所示,活动/情形分析系统11主要包括运动传感器111、动作/状态识别单元112、时间信息获取单元113、位置传感器114、GIS信息获取单元115和活动/情形识别单元116。
另外,活动/情形分析系统11可包括使用由活动/情形识别单元116检测的活动/情形模式的应用AP或服务SV。另外,活动/情形分析系统11可被形成为使得用户简档信息以及应用AP的活动/情形模式使用结果被输入到活动/情形识别单元116中。
首先,当用户活动时,运动传感器111检测围绕重力轴的旋转或加速度的改变(下文中称为“传感器数据”)。运动传感器111检测的传感器数据被输入到如图2所示的动作/状态识别单元112中。
当输入了传感器数据时,如图2所示,动作/状态识别单元112使用所输入的传感器数据检测动作/状态模式。如图3所示,动作/状态识别单元112可以检测的动作/状态模式的示例包括“走路”、“奔跑”、“静止”、“跳跃”、“火车(搭乘/未搭乘)”和“电梯(搭乘/未搭乘/上升/下降)”。动作/状态识别单元112检测的动作/状态模式被输入到活动/情形识别单元116中。
位置传感器114连续地或间歇地获取表示用户的位置(下文中称为“当前位置”)的位置信息。例如,当前位置的位置信息由纬度和经度来表示。位置传感器114获取的当前位置的位置信息被输入到GIS信息获取单元115中。
当输入了当前位置的位置信息时,GIS信息获取单元115获取GIS(地理信息系统)信息。随后,如图4所示,GIS信息获取单元115使用所获取的GIS信息检测当前位置的属性。例如,GIS信息包括地图信息以及通过人造卫星或现场勘查获取的各种信息,其是用于科学研究、土地、设施或道路的管理以及城市设计的信息。当使用GIS信息时,可以判定当前位置的属性。例如,GIS信息获取单元115使用称为“地理类别代码”(例如,参见图5)的标识信息来表示当前位置的属性。
如图5所示,地理类别代码表示用于对与地点有关的信息的类型进行分类的分类代码。该地理类别代码是取决于例如建筑类型、地形形状、地质特征、地区等而设置的。因此,通过指定当前位置的地理类别代码,可以在一定程度上识别用户所处的环境。
GIS信息获取单元115参考所获取的GIS信息,指定当前位置和当前位置周围的建筑等,并且提取与该建筑等对应的地理类别代码。GIS信息获取单元115所选择的地理类别代码被输入到活动/情形识别单元116中。另外,在当前位置周围存在很多建筑等的情况下,GIS信息获取单元115可提取每个建筑的地理类别代码,并且将诸如图6和图7所示的地理直方图的信息作为与所提取的地理类别有关的信息输入到活动/情形识别单元116中。
如图8所示,活动/情形识别单元116接收来自动作/状态识别单元112的动作/状态模式的输入和来自GIS信息获取单元115的地理类别代码的输入。另外,活动/情形识别单元116接收来自时间信息获取单元113的时间信息的输入。该时间信息包括表示运动传感器111获取传感器数据的时间的信息。另外,该时间信息可包括表示位置传感器114获取位置信息的时间的信息。另外,除了表示时间的信息之外,时间信息还可包括诸如日子信息、假期信息和日期信息的信息。
当输入了以上信息时,活动/情形识别单元116基于所输入的动作/状态模式、所输入的地理类别代码(或者例如,地理直方图)和所输入的时间信息来检测活动/情形模式。此时,活动/情形识别单元116使用基于规则的判定处理(下文中称为“基于规则的判定”)和基于学习模型的判定处理(下文中称为“学习模型判定”)来检测活动/情形模式。在下文中,简要说明基于规则的判定和学习模型判定。
(关于基于规则的判定)
首先,说明基于规则的判定。基于规则的判定表示如下方法:该方法为地理类别代码和活动/情形模式的组合分配得分,并且基于得分来判定与输入数据对应的适当活动/情形模式。
得分分配规则由如图9所示的得分图(score map)SM来实现。针对每种时间信息(诸如日期、时区和日子)来准备得分图SM。例如,准备了支持三月的第一周的周一的得分图SM。此外,针对每种动作/状态模式(诸如走路、奔跑和火车)来准备得分图SM。例如,准备了走路期间的得分图SM。因此,针对时间信息和动作/状态模式的每种组合来准备得分图SM。
如图10所示,活动/情形识别单元116从预先准备的多个得分图SM中选择适合于所输入的时间信息和动作/状态模式的得分图SM。另外,如图11所示,活动/情形识别单元116从所选择的得分图SM提取与地理类别代码对应的得分。通过该处理,将传感器数据的获取时间处的当前位置的状态纳入考虑,活动/情形识别单元116可以提取存在于得分图SM中的每种活动/情形模式的得分。
接下来,活动/情形识别单元116指定所提取的得分当中的最大得分,并且提取与最大得分对应的活动/情形模式。因此,检测活动/情形模式的方法是基于规则的判定。这里,得分图SM中的得分表示用户采取与该得分对应的活动/情形模式的估计概率。即,得分图SM表示在地理类别代码所表示的当前位置的状态下估计用户采取的活动/情形模式的得分分布。
例如,在周日大约三点钟,估计百货商店中的用户非常可能在“购物”。然而,在同一百货商店中大约19点钟,估计该百货商店中的用户非常可能在“吃饭”。因此,在特定地点,用户执行的活动/情形模式的得分分布表示得分图SM(准确地,得分图SM组)。
例如,得分图SM可由用户自己或其他人预先输入,或者可使用机器学习等来获取。另外,得分图SM可通过从用户获取的活动/情形反馈FB(输出活动/情形模式的对与错)或个人简档信息PR来优化。作为简档信息PR,例如,使用年龄、性别、工作或家庭信息和工作地点信息。以上是基于规则的判定的具体处理内容。
(关于学习模型判定)
接下来,说明学习模型判定。学习模型判定是如下方法:该方法通过机器学习算法生成用于判定活动/情形模式的判定模型,并且通过所生成的判定模型来判定与输入数据对应的活动/情形模式。
作为机器学习算法,例如,可使用k均值方法、最近邻法(nearest neighbormethod)、SVM、HMM和boosting。这里,SVM是“支持向量机”的缩写。另外,HMM是“隐马尔可夫模型”的缩写。除了这些方法之外,还存在日本专利公开2009-48266中公开的使用基于遗传搜索的算法构造方法来生成判定模型的方法。
作为机器学习算法中输入的特征量矢量,例如,如图12所示,可使用时间信息、动作/状态模式、地理类别代码(或地理类别直方图)、传感器数据和当前位置的位置信息。这里,在使用基于遗传搜索的算法构造方法的情况下,对学习处理中的特征量矢量选择阶段使用遗传搜索算法。首先,活动/情形识别单元116在机器学习算法中输入已知正确活动/情形模式的特征量矢量作为学习数据,并且生成用于判定每种活动/情形模式的准确性或最优活动/情形模式的判定模型。
接下来,活动/情形识别单元116将输入数据输入到所生成的判定模型中并且判定被估计为适合于输入数据的活动/情形模式。然而,在关于使用所生成的判定模型执行的判定的结果可以获取对与错反馈的情况下,使用该反馈来重构判定模型。在该情况下,活动/情形识别单元116使用重构后的判定模型来判定被估计为适合于输入数据的活动/情形模式。以上是学习模型判定的具体处理内容。
通过上述方法,活动/情形识别单元116检测如图13所示的活动/情形模式。随后,活动/情形识别单元116所检测的活动/情形模式被用于提供基于活动/情形模式的推荐服务SV或者被基于活动/情形模式来执行处理的应用AP所使用。
以上描述了活动/情形分析系统11的系统配置。根据下述实施例的技术涉及上述活动/情形分析系统11的功能。另外,关于活动/情形分析系统11的详细功能,例如,日本专利公开2011-081431的公开内容用作参考。
[1-2:实施例的概况]
首先,说明根据本实施例的技术的概况。根据本实施例的技术涉及一种用于以上活动模式识别技术的模式数据库(下文中称为“模式DB”)的更新方法。以上活动模式识别技术使用传感器数据。因此,活动模式识别结果可能依赖于用户携带信息终端的方法或使用环境。因此,根据本实施例的技术提出了一种更新模式DB的方法,以便改进对由携带方法或使用环境而导致的噪声。
(1-2-1:使用文本信息对模式DB的更新)
作为一种方法,提出了使用文本信息的模式DB更新方法。
作为文本信息,例如,可以使用在电子邮件、日历、任务列表、备忘录、博客、Twitter(注册商标)、Facebook(注册商标)或其他社交媒体中输入的文本。另外,可以使用与如下信息相组合的文本信息:关于诸如换乘引导或路线搜索的应用的信息输入,或者访问点搜索信息。在下文中,尽管没有详细引用这样的组合,但是应注意,自然考虑了这种应用。
存在如下的多种情况:其中,如上所述的文本信息包括实时反映用户活动的信息或者与活动的时间和日期相关联的信息。因此,通过分析文本信息并且将分析结果反映给模式DB,可以进一步改进活动模式识别的准确性。
例如,甚至在根据传感器数据和位置信息判定用户的活动模式是“在火车上”的情况下,如果用户在文本信息中写下短语“我第一次登上了船”,则认为活动模式“登船”是正确的。在该情况下,通过将模式DB中的相应记录修改为“登船”,可以在活动模式“在火车上”与活动模式“登船”之间进行区分。即,可以改进活动模式识别的准确性。
(1-2-2:使用环境声音对模式DB的更新)
另外,作为另一种方法,提出了使用环境声音的模式DB更新方法。
本文中描述的环境声音表示用户使用的信息终端可以收集的任意声音信息。当用户正在火车上时,例如,马达驱动声音、车内通告、在铁轨的接合点所引起的有规律的振动声音以及门打开和关闭的声音被检测作为环境声音。另外,在驾驶具有乘客的私人汽车的情况下,运行汽车噪声、与乘客的交谈和汽车音响声音被检测作为环境声音。此外,甚至在家里,在下雨的情况下,击打屋顶的有规律的雨声以及雷声可被检测作为环境声音。
另外,甚至在采取同一活动的情况下,环境声音也会在用户将信息终端放在口袋中来携带的情况与信息终端被放在手提包中来携带的情况之间变化。例如,在信息终端被放在厚皮包中来携带的情况下,检测到的环境声音的音量小,并且可能获取到具有被抑制的高频分量的声音质量。同时,在用手携带该信息终端的情况下,周围喧闹以及与他人的说话话音会变得可能被捕获。通过使用这样的环境声音,可以进一步增强活动模式识别的准确性。例如,在运动传感器中,甚至在不能在船摇晃与火车摇晃之间进行区分的情况下,如果听到水声,也可以容易地判定该摇晃是船摇晃。
如上所述,通过将文本信息和环境声音用于活动模式识别,可以进一步增强活动模式识别的准确性。特别地,通过对存储以上动作/状态识别单元112所使用的动作/状态模式的信息以及活动/情形识别单元116所使用的活动模式的信息的模式DB进行更新,可以实现活动模式识别的更高准确性。在下文中,更详细地说明基于该技术思想的实施例。
<2:实施例的细节>
详细说明根据本实施例的技术。
[2-1:系统配置的示例]
首先,参照图14,介绍根据本实施例的系统(即,活动/情形识别系统10)的系统配置示例。图14是用于说明根据实施例的系统(即,活动/情形识别系统10)的系统配置的说明图。另外,这里介绍的系统配置仅是示例,并且可以将根据本实施例的技术应用于现在和将来可用的各种系统配置。
如图14所示,活动/情形识别系统10主要包括多个信息终端CL和服务器设备SV。信息终端CL是用户使用的装置的示例。作为信息终端CL,例如,假设移动电话、智能电话、数字照相机、数字摄像机、个人计算机、台式终端、汽车导航系统、便携式游戏装置、健康器械(包括计步器(注册商标))和医疗设备。同时,作为服务器设备SV,例如,假设家庭服务器和云计算系统。
自然,可应用根据本实施例的技术的系统不限于图14中的示例,但是为了便于说明,在假设通过有线和/或无线网络连接的多个信息终端CL和服务器设备SV的情况下来给出说明。因此,假设如下配置:其中,可以在信息终端CL与服务器设备SV之间交换信息。然而,可以采用如下配置:其使得在活动/情形识别系统10所拥有的各种功能当中,自由地设计要由信息终端CL拥有的功能以及要由服务器设备CL拥有的功能。例如,期望将信息终端CL的计算能力和通信速度纳入考虑来进行设计。
[2-2:使用文本信息和声学信息对模式DB的更新]
在下文中,更详细地说明活动/情形识别系统10的配置和操作。
(2-2-1:功能配置)
首先,参照图15,说明活动/情形识别系统10的功能配置。图15是用于说明活动/情形识别系统10的功能配置的说明图。这里,没有清楚地指定信息终端CL与服务器设备SV之间的功能分布,并且作为整体说明了活动/情形识别系统10拥有的功能。
如图15所示,活动/情形识别系统10主要包括声学信息获取单元101、声学信息分析单元102、文本信息获取单元103、文本信息分析单元104、动作/状态模式更新单元105、动作/状态模式数据库106、活动模式更新单元107和活动模式数据库108。
此外,活动/情形识别系统10还包括活动/情形分析系统11的功能。即,活动/情形识别系统10还包括运动传感器111、动作/状态识别单元112、时间信息获取单元113、位置传感器114、GIS信息获取单元115和活动/情形识别单元116。然而,图15明确了动作/状态识别单元112使用动作/状态模式数据库106这一点。此外,明确了活动/情形识别单元116使用活动模式数据库108这一点。
声学信息获取单元101表示用于获取用户周围的环境声音的装置。例如,声学信息获取单元101包括麦克风。声学信息获取单元101获取的环境声音的声学信号被输入到声学信息分析单元102中。这里,在将环境声音声学信号输入到声学信息分析单元102中之前,可将该环境声音声学信号从模拟语音波形信号转换成数字语音波形信号。当输入了环境声音声学信号时,声学信息分析单元102分析所输入的声学信号并且估计用户的活动模式。
例如,根据环境声音声学信号,声学信息分析单元102估计用户正在购物、吃饭还是在火车上。例如,使用通过机器学习方法(诸如HMM)而构造的学习模型来执行该估计。更具体地,在构造用于估计“购物期间”的活动模式的学习模型的情况下,使用在购物期间实际收集的声学信号。在该情况下,销售者的叫喊、购物者的交谈、自动扶梯声音和在从架子或吊架取物品时所引起的声音被收集作为环境声音。这同样适用于其它活动模式。
另外,声学信息分析单元102根据环境声音声学信号来估计活动模式(诸如动作/状态模式和活动/情形模式),并且同时计算确信度(即,评估得分)。随后,根据环境声音声学信号而估计的活动模式和确信度被输入到动作/状态模式更新单元105和活动模式更新单元107。另外,以上确信度表示由声学信息获取单元101实际获取的环境声音声学信号与对应于所估计的活动模式的声学信号之间的相似度。
同时,文本信息获取单元103获取用户输入的文本信息。例如,文本信息获取单元103可表示用于由用户输入文本的输入装置或者表示用于从社交网络服务或应用获取文本信息的信息收集装置。另外,可分开设置安装传感器的装置和用于输入文本的装置(诸如键盘)。这里,为了便于说明,在假设文本信息获取单元103表示诸如软键盘的输入单元的情况下来给出说明。文本信息获取单元103所获取的文本信息被输入到文本信息分析单元104。此时,在文本信息分析单元104中,一起输入文本信息以及关于输入文本信息的时间的时间信息。
当输入了文本信息时,文本信息分析单元104对所输入的文本信息进行分析并且估计用户的活动模式(诸如动作/状态模式和活动/情形模式)。例如,根据所输入的文本信息,文本信息分析单元104估计用户正在购物、吃饭还是在火车上。例如,使用通过机器学习方法(诸如SVM)而构造的学习模型来执行该估计。更具体地,在构造用于估计“购物期间”的活动模式的学习模式的情况下,收集“购物期间”所输入的文本信息,并且将所收集的文本信息用作学习数据。在该情况下,收集诸如“大减价”、“昂贵”和“收款处繁忙”的文本信息。
另外,文本信息分析单元104根据文本信息来估计活动模式,并且同时计算确信度(即,评估得分)。随后,根据文本信息而估计的活动模式和确信度被输入到动作/状态模式更新单元105和活动模式更新单元107中。另外,以上确信度表示由文本信息获取单元103实际获取的文本信息与对应于所估计的活动模式的文本信息之间的相似度。
如上所述,动作/状态模式更新单元105接收通过声学信号分析而获取的表示活动模式和确信度的信息(下文中称为“声学推导信息”)和通过文本信息分析而获取的表示活动模式和确信度的信息(下文中称为“文本推导信息”)的输入。类似地,活动模式更新单元107接收声学推导信息和文本推导信息的输入。然而,存在不能获取声学信号或不能获取文本信息的可能情况。在这样的情况下,输入到动作/状态模式更新单元105和活动模式更新单元107中的信息不限于声学推导信息或文本推导信息。
例如,在声学信息获取单元101的功能被关断或者不存在与声学信息获取单元101对应的装置的情况下,不能获取声学推导信息。另外,在文本信息获取单元103的功能被关断或者不存在文本信息获取单元103可以获取的文本信息的情况下,不能获取文本推导信息。在这样的情况下,动作/状态模式更新单元105和活动模式更新单元107使用所输入的信息对动作/状态模式数据库106和活动模式数据库108执行更新处理。
(情况1)
首先,描述仅获取声学推导信息的情况。
动作/状态模式更新单元105将声学信号的确信度与预定阈值(下文中称为“第一声学阈值”)进行比较。在声学信号的确信度大于第一声学阈值的情况下,动作/状态模式更新单元105利用根据声学信号的分析结果而获取的动作/状态模式来更新动作/状态模式数据库106。相较之下,在声学信号的确信度小于第一声学阈值的情况下,动作/状态模式更新单元105不更新动作/状态模式数据库106。因此,动作/状态模式更新单元105根据声学信号的确信度来判定是否更新动作/状态模式数据库106。
类似地,活动模式更新单元107将声学信号的确信度与预定阈值(下文中称为“第二声学阈值”)进行比较。在声学信号的确信度大于第二声学阈值的情况下,活动模式更新单元107利用根据声学信号的分析结果而获取的活动/情形模式来更新活动模式数据库108。相较之下,在声学信号的确信度小于第二声学阈值的情况下,活动模式更新单元107不更新活动模式数据库108。因此,活动模式更新单元107根据声学信号的确信度来判定是否更新活动模式数据库108。
另外,第一声学阈值和第二声学阈值可以是不同的值。例如,在针对动作/状态模式强调传感器信息的分析结果并且针对活动/情形模式强调声学信号的分析结果的情况下,优选将第一声学阈值设置为小的并且将第二声学阈值设置为大的。同时,在使用高性能的声学信息获取单元101的情况下,将第一声学阈值和第二声学阈值设置为相同的值,并且当获取到等于或大于特定水平的确信度时,优选使用通过分析声学信号而获取的活动模式来更新动作/状态模式数据库106和活动模式数据库108。
(情况2)
接下来,描述仅获取文本推导信息的情况。
动作/状态模式更新单元105将文本信息的确信度与预定阈值(下文中称为“第一文本阈值”)进行比较。在文本信息的确信度大于第一文本阈值的情况下,动作/状态模式更新单元105利用根据文本信息的分析结果而获取的动作/状态模式来更新动作/状态模式数据库106。相较之下,在文本信息的确信度小于第一文本阈值的情况下,动作/状态模式更新单元105不更新动作/状态模式数据库106。因此,动作/状态模式更新单元105根据文本信息的确信度来判定是否更新动作/状态模式数据库106。
类似地,活动模式更新单元107将文本信息的确信度与预定阈值(下文中称为“第二文本阈值”)进行比较。在文本信息的确信度大于第二文本阈值的情况下,活动模式更新单元107利用根据文本信息的分析结果而获取的活动/情形模式来更新活动模式数据库108。相较之下,在文本信息的确信度小于第二文本阈值的情况下,活动模式更新单元107不更新活动模式数据库108。因此,活动模式更新单元107根据文本信息的确信度来判定是否更新活动模式数据库108。
另外,第一文本阈值和第二文本阈值可以是不同的值。例如,在针对动作/状态模式强调传感器信息的分析结果并且针对活动/情形模式强调文本信息的分析结果的情况下,优选将第一文本阈值设置为小的并且将第二文本阈值设置为大的。同时,在使用高性能的文本信息获取单元103的情况下,将第一文本阈值和第二文本阈值设置为相同的值,并且当获取到等于或大于特定水平的确信度时,优选使用通过分析文本信息而获取的活动模式来更新动作/状态模式数据库106和活动模式数据库108。
(情况3)
接下来,描述获取声学推导信息和文本推导信息两者的情况。
动作/状态模式更新单元105将声学信号的确信度与第一声学阈值进行比较。在声学信号的确信度大于第一声学阈值的情况下,动作/状态模式更新单元105准备利用根据声学信号的分析结果而获取的动作/状态模式来更新动作/状态模式数据库106。同时,在声学信号的确信度小于第一声学阈值的情况下,动作/状态模式更新单元105不使用通过分析声学信号而获取的动作/状态模式来更新动作/状态模式数据库106。因此,动作/状态模式更新单元105根据声学信号的确信度来判定是否更新动作/状态模式数据库106,但是不是立即执行实际的更新处理,而是如以下所述那样在将文本信息的确信度纳入考虑的情况下确定实际的更新处理。
类似于与声学推导信息有关的判定处理,动作/状态模式更新单元105将文本信息的确信度与第一文本阈值进行比较。在文本信息的确信度大于第一文本阈值的情况下,动作/状态模式更新单元105准备利用根据文本信息的分析结果而获取的动作/状态模式来更新动作/状态模式数据库106。同时,在文本信息的确信度小于第一文本阈值的情况下,动作/状态模式更新单元105不使用通过分析文本信息而获取的动作/状态模式来更新动作/状态模式数据库106。这里,动作/状态模式更新单元105将与声学信号的确信度有关的判定结果和与文本信息的确信度有关的判定结果纳入考虑来执行对动作/状态模式数据库106的更新处理。
例如,在声学信号的确信度大于第一声学阈值并且文本信息的确信度大于第一文本阈值的情况下,动作/状态模式更新单元105将声学信号的分析结果与文本信息的分析结果进行比较。如果通过声学信号分析获取的动作/状态模式和通过文本信息分析获取的动作/状态模式相等,则动作/状态模式更新单元105利用该动作/状态模式来更新动作/状态模式数据库106。
同时,在通过声学信号分析获取的动作/状态模式和通过文本信息分析获取的动作/状态模式不同的情况下,动作/状态模式更新单元105将声学信号的确信度与文本信息的确信度进行比较。例如,在声学信号的确信度大于文本信息的确信度的情况下,动作/状态模式更新单元105利用通过声学信号分析而获取的动作/状态模式来更新动作/状态模式数据库106。同时,在声学信号的确信度小于文本信息的确信度的情况下,动作/状态模式更新单元105利用通过文本信息分析而获取的动作/状态模式来更新动作/状态模式数据库106。
例如,在声学信号的确信度大于第一声学阈值并且文本信息的确信度小于第一文本阈值的情况下,动作/状态模式更新单元105利用通过声学信号分析而获取的动作/状态模式来更新动作/状态模式数据库106。同时,在声学信号的确信度小于第一声学阈值并且文本信息的确信度大于第一文本阈值的情况下,动作/状态模式更新单元105利用通过文本信息分析而获取的动作/状态模式来更新动作/状态模式数据库106。另外,在声学信号的确信度小于第一声学阈值并且文本信息的确信度小于第一文本阈值的情况下,动作/状态模式更新单元105不更新动作/状态模式数据库106。
类似地,活动模式更新单元107将声学信号的确信度与第一声学阈值进行比较。在声学信号的确信度大于第一声学阈值的情况下,活动模式更新单元107准备利用根据声学信号的分析结果而获取的活动/情形模式来更新活动模式数据库108。同时,在声学信号的确信度小于第一声学阈值的情况下,活动模式更新单元107不使用通过分析声学信号而获取的活动/情形模式来更新活动模式数据库108。因此,活动模式更新单元107根据声学信号的确信度来判定是否更新活动模式数据库108,但是不是立即执行实际的更新处理,而是如以下所述的那样在将文本信息的确信度纳入考虑的情况下确定实际的更新处理。
活动模式更新单元107将与声学信号的确信度有关的判定结果和与文本信息的确信度有关的判定结果纳入考虑来执行对活动模式数据库108的更新处理。在声学信号的确信度的识别和文本信息的确信度的识别不同的情况下,活动模式更新单元107不更新活动模式数据库108。
例如,在声学信号的确信度大于第一声学阈值并且文本信息的确信度大于第一文本阈值的情况下,活动模式更新单元107将声学信号的分析结果与文本信息的分析结果进行比较。如果通过声学信号分析获取的活动/情形模式和通过文本信息分析获取的活动/情形模式相等,则活动模式更新单元107利用该活动/情形模式来更新活动模式数据库108。
同时,在通过声学信号分析获取的活动/情形模式和通过文本信息分析获取的活动/情形模式不同的情况下,活动模式更新单元107将声学信号的确信度与文本信息的确信度进行比较。随后,在声学信号的确信度的识别和文本信息的确信度的识别不同的情况下,活动模式更新单元107不更新活动模式数据库108。
例如,在声学信号的确信度大于第一声学阈值并且文本信息的确信度小于第一文本阈值的情况下,活动模式更新单元107利用通过声学信号分析而获取的活动/情形模式来更新活动模式数据库108。同时,在声学信号的确信度小于第一声学阈值并且文本信息的确信度大于第一文本阈值的情况下,活动模式更新单元107利用通过文本信息分析而获取的活动/情形模式来更新活动模式数据库108。另外,在声学信号的确信度小于第一声学阈值并且文本信息的确信度小于第一文本阈值的情况下,活动模式更新单元107不更新活动/情形模式数据库108。
另外,设置第一和第二声学阈值以及第一和第二文本阈值的方法与上述情况1和2相同。
以上已说明了活动/情形识别系统10的功能配置。然而,省略了与活动/情形分析系统11对应的功能配置的详细说明。
(2-2-2:处理的流程)
接下来,参照图16和图17,说明活动/情形识别系统10的操作。图16和图17是用于说明活动/情形识别系统10的操作的说明图。这里,也没有清楚地指定信息终端CL与服务器设备SV之间的功能分布,而是说明了活动/情形识别系统10的整体操作。另外,示出了操作示例以阐明以下处理的流程,但是,如根据以上功能配置的说明所估计的,活动/情形识别系统10的操作不限于该示例。
如图16所示,活动/情形识别系统10判定电源是否接通(S101)。当电源接通时,活动/情形识别系统10将处理移至步骤S102。同时,在电源没有接通的情况下,活动/情形识别系统10将处理返回到步骤S101。在处理进行到步骤S102的情况下,活动/情形识别系统10利用时间信息获取单元113的功能来获取当前时间信息(S102)。接下来,活动/情形识别系统10利用位置传感器114的功能来获取当前位置的位置信息(S103)。接下来,活动/情形识别系统10利用GIS信息获取单元115的功能来获取当前位置的GIS信息(S104)。
接下来,活动/情形识别系统10利用运动传感器111的功能来获取运动传感器的传感器信息(S105)。接下来,活动/情形识别系统10利用动作/状态识别单元112的功能、使用存储在动作/状态模式数据库106中的信息来识别动作/状态模式(S106)。接下来,活动/情形识别系统10利用活动/情形识别单元116的功能、使用存储在活动模式数据库108中的信息来估计活动模式(S107)。在估计了活动模式之后,活动/情形识别系统10将处理移至步骤A。
当处理进行到步骤A时(参见图17),活动/情形识别系统10利用声学信息获取单元101的功能来获取环境声音的声学信号(S108)。接下来,活动/情形识别系统10利用文本信息获取单元103的功能来获取文本信息(S109)。接下来,活动/情形识别系统10利用声学信息分析单元102的功能根据环境声音的声学信号来获取环境估计结果(即,以上活动模式和确信度(声学推导信息)),并且判定环境估计结果的可靠性(即,以上确信度)是否大于预定阈值(即,以上声学阈值)(S110)。在可靠性大于预定阈值的情况下,活动/情形识别系统10将处理移至步骤S112。同时,在可靠性小于预定阈值的情况下,活动/情形识别系统10将处理移至步骤S111。
在将处理移至步骤S111的情况下,活动/情形识别系统10利用文本信息分析单元104的功能来获取文本分析结果(即,以上活动模式和确信度(文本推导信息)),并且判定文本分析结果的可靠性(即,以上确信度)是否大于预定阈值(即,以上文本阈值)(S111)。在可靠性大于预定阈值的情况下,活动/情形识别系统10将处理移至步骤S112。同时,在可靠性小于预定阈值的情况下,活动/情形识别系统10将处理移至步骤S113。
在将处理移至步骤S112的情况下,活动/情形识别系统10利用动作/状态模式更新单元105和活动模式更新单元107的功能来更新动作/状态模式数据库106和活动模式数据库108(S112),并且将处理移至步骤S113。将处理移至步骤S113的活动/情形识别系统10判定电源是否被关断(S113)。在电源被关断的情况下,活动/情形识别系统10结束与活动/情形识别有关的一系列处理。同时,在电源没有被关断的情况下,活动/情形识别系统10将处理移至步骤B(参见图16),并且再次执行步骤S102和后续步骤中的处理。
以上已说明了活动/情形识别系统10的操作。这里,与环境声音的声学信号有关的处理和与文本信息有关的处理的顺序可以是相反的。
(具体示例和补充说明)
在应用以上技术的情况下,例如,当“乘火车旅行”被输入作为文本信息时,当前用户的活动被判定为“火车(搭乘)”并且更新动作/状态模式数据库106。更具体地,关于在动作/状态模式数据库106中登记的动作/状态模式“火车(搭乘)”,将当前从运动传感器111获取的传感器信息视为附加的数据,并且实施活动模式学习。另外,甚至在在周日下午3点左右输入文本信息“在百货商店与孩子喝茶”的情况下,也更新活动模式数据库108。
关于预先登记的动作/状态模式,尽管登记了基于很多用户的一般使用而学习的模式,但是通过使用用户的传感器信息执行自适应处理,通过适合于用户的使用环境(例如,在口袋或包中)的动作/状态模式来进行更新并且可以增强后续的动作/状态模式或活动/情形模式的识别准确性。
另外,可仅在更新动作/状态模式数据库106时使用声学信息获取单元101,或者可将声学信息获取单元101用来把与环境声音的声学信号有关的信息直接输入到动作/状态识别单元112中以及通过把环境声音的时间序列数据和运动传感器的传感器信息相组合来直接估计活动模式。另外,尽管示出了在两个阶段中实现动作/状态识别和活动/情形识别的实施例,但是,可在一个阶段中实现动作/状态识别和活动/情形识别或者可仅实现动作/状态识别。这样的变更自然属于本实施例的技术范围。
[2-3:(替选示例)声音识别技术的应用]
接下来,说明本实施例的替选示例。本替选示例涉及使用声音识别技术的应用技术。当使用声音识别技术时,例如,可以实时地从用户的语音或语音对方的语音来获取文本信息。因此,甚至对于没有以积极方式输入文本信息的用户而言或者甚至在没有输入文本信息的状态下,也可以使用文本信息来更新模式DB并且改进活动模式识别准确性。在以下中,说明了根据本替选示例的活动/情形识别系统10的功能配置和操作。
(2-3-1:功能配置)
首先,参照图18,说明了根据本替选示例的活动/情形识别系统10的功能配置。图18是用于说明根据本替选示例的活动/情形识别系统10的详细配置的说明图。这里,没有清楚地指定信息终端CL与服务器设备SV之间的功能分布,而是作为整体说明了活动/情形识别系统10所拥有的功能。
如图18所示,活动/情形识别系统10主要包括声学信息获取单元101、声学信息分析单元102、文本信息获取单元103、文本信息分析单元104、动作/状态模式更新单元105、动作/状态模式数据库106、活动模式更新单元107、活动模式数据库108和声音识别单元131。此外,活动/情形识别系统10包括活动/情形分析系统11的功能。即,根据本替选示例的活动/情形识别系统10与图15所示的活动/情形识别系统10的不同之处在于是否设置了声音识别单元131。
声学信息获取单元101表示用于获取用户周围的环境声音的装置。例如,声学信息获取单元101包括麦克风。声学信息获取单元101获取的环境声音的声学信号被输入到声学信息分析单元102和声音识别单元131中。这里,在将环境声音声学信号输入到声学信息分析单元102中之前,可将该环境声音声学信号从模拟语音波形信号转换成数字语音波形信号。
当输入了环境声音声学信号时,声学信息分析单元102分析所输入的声学信号并且估计用户的活动模式。例如,根据环境声音声学信号,声学信息分析单元102估计用户在购物、吃饭还是在火车上。例如,使用通过机器学习方法(诸如HMM)而构造的学习模型来执行该估计。
另外,声学信息分析单元102根据环境声音声学信号来估计活动模式(诸如动作/状态模式和活动/情形模式),并且同时计算确信度(即,评估得分)。随后,根据环境声音声学信号而估计的活动模式和确信度被输入到动作/状态模式更新单元105和活动模式更新单元107中。另外,以上确信度表示由声学信息获取单元101实际获取的环境声音声学信号与对应于所估计的活动模式的声学信号之间的相似度。
同时,文本信息获取单元103获取用户输入的文本信息。例如,文本信息获取单元103可表示用于由用户输入文本的输入装置,或者表示用于从社交网络服务或应用获取文本信息的信息收集装置。另外,文本信息获取单元103可被形成为使得从GIS信息获取诸如当前位置周围的地名和建筑物名的信息作为文本信息。
此外,在本替选示例的情况下,文本信息获取单元103接收由声音识别单元131根据环境声音声学信号生成的文本信息的输入。例如,声音识别单元131使用预定声音识别技术来根据声学信号生成文本信息,并且将其输入到文本信息获取单元103中。因此,通过设置声音识别单元131,用户可以省去输入文本信息的工作。另外,可以获取在活动中进行的自然对话作为文本信息,因此可以获取更适合于活动模式的文本信息。另外,通过将车站或车辆中的通知转换成文本,预期获取与地点或活动有关的有用信息。
另外,尽管以上说明关于环境声音的声学信号而介绍了用于执行声音识别的配置示例,但是可以通过声音识别将使用信息终端CL的呼叫功能来进行的对话的内容的一部分或全部转换成文本。在该情况下,表示呼叫内容的文本信息被输入到文本信息获取单元103中。例如,存在如下多种情况:其中,约会时的呼叫内容包括当前位置的信息、时间信息或者诸如活动对象和朋友名字的信息,因此可以获取有益于估计活动模式的信息。即,通过利用声音识别单元131的功能将呼叫内容转换成文本信息并且使用该文本信息来更新模式DB,预期得到进一步改进活动模式识别的准确性的效果。
如上由文本信息获取单元103获取的文本信息被输入到文本信息分析单元104中。此时,在文本信息分析单元104中,一起输入文本信息以及关于输入文本信息的时间的时间信息。当输入了文本信息时,文本信息分析单元104分析所输入的文本信息并且估计用户的活动模式(诸如动作/状态模式和活动/情形模式)。例如,使用通过机器学习方法(诸如SVM)而构造的学习模型来执行该估计。
另外,文本信息分析单元104根据文本信息来估计活动模式,并且同时计算确信度(即,评估得分)。此时,该确信度是在将声音识别处理中将声学输入转换成文本的确信度纳入考虑的情况下来计算的。随后,根据文本信息而估计的活动模式和确信度被输入到动作/状态模式更新单元105和活动模式更新单元107中。另外,以上确信度表示由文本信息获取单元103实际获取的文本信息与对应于所估计的活动模式的文本信息之间的相似度。
如上所述,动作/状态模式更新单元105接收通过声学信号分析获取的、表示活动模式和确信度的信息(下文中称为“声学推导信息”)和通过文本信息分析获取的、表示活动模式和确信度的信息(下文中称为“文本推导信息”)的输入。类似地,活动模式更新单元107接收声学推导信息和文本推导信息的输入。然而,存在不能获取声学信号或不能获取文本信息的可能情况。在这样的情况下,输入到动作/状态模式更新单元105和活动模式更新单元107中的信息不限于声学推导信息或文本推导信息。
例如,在声学信息获取单元101的功能被关断或者不存在与声学信息获取单元101对应的装置的情况下,不能获取声学推导信息。另外,在文本信息获取单元103的功能被关断或者不存在文本信息获取单元103可以获取的文本信息的情况下,不能获取文本推导信息。在这样的情况下,动作/状态模式更新单元105和活动模式更新单元107使用所输入的信息对动作/状态模式数据库106和活动模式数据库108执行更新处理。
以上说明了根据本替选示例的活动/情形识别系统10的功能配置。然而,省略了与活动/情形分析系统11对应的功能配置的详细描述。另外,更新模式DB的方法与图15所示的活动/情形识别系统10的方法相同,因此省略其说明。
(2-3-2:处理的流程)
接下来,参照图19和图20,说明根据本替选示例的活动/情形识别系统10的操作。图19和图20是用于说明根据本替选示例的活动/情形识别系统10的操作的说明图。甚至在这里,也没有清楚地指定信息终端CL与服务器设备SV之间的功能分布,而是作为整体说明了活动/情形识别系统10拥有的功能。另外,示出了操作示例以阐明以下处理的流程,但是如根据以上功能配置的说明所估计的,活动/情形识别系统10的操作不限于该示例。
如图19所示,活动/情形识别系统10判定电源是否接通(S131)。当电源接通时,活动/情形识别系统10将处理移至步骤S132。同时,在电源没有接通的情况下,活动/情形识别系统10将处理返回到步骤S131。在处理进行到步骤S132的情况下,活动/情形识别系统10利用时间信息获取单元113的功能来获取当前时间信息(S132)。接下来,活动/情形识别系统10利用位置传感器114的功能来获取当前位置的位置信息(S133)。接下来,活动/情形识别系统10利用GIS信息获取单元115的功能来获取当前位置的GIS信息(S134)。
接下来,活动/情形识别系统10利用运动传感器111的功能来获取运动传感器的传感器信息(S135)。接下来,活动/情形识别系统10利用动作/状态识别单元112的功能、使用存储在动作/状态模式数据库106中的信息来识别动作/状态模式(S136)。接下来,活动/情形识别系统10利用活动/情形识别单元116的功能、使用存储在活动模式数据库108中的信息来估计活动模式(S137)。在估计活动模式之后,活动/情形识别系统10将处理移至步骤A。
当处理进行到步骤A时(参见图20),活动/情形识别系统10利用声学信息获取单元101的功能来获取环境声音的声学信号(S138)。接下来,活动/情形识别系统10利用文本信息获取单元103的功能来获取文本信息(S139)。在该替选示例中,文本信息包括通过声音识别处理而获取的信息。接下来,活动/情形识别系统10利用声学信息分析单元102的功能而根据环境声音的声学信号获取环境估计结果(即,以上活动模式和确信度(声学推导信息)),并且判定环境估计结果的可靠性(即,以上确信度)是否大于预定阈值(即,以上声学阈值)(S140)。在可靠性大于预定阈值的情况下,活动/情形识别系统10将处理移至步骤S142。同时,在可靠性小于预定阈值的情况下,活动/情形识别系统10将处理移至步骤S141。
在将处理移至步骤S141的情况下,活动/情形识别系统10利用文本信息分析单元104的功能来获取文本分析结果(即,以上活动模式和确信度(文本推导信息)),并且判定文本分析结果的可靠性(即,以上确信度)是否大于预定阈值(即,以上文本阈值)(S141)。在可靠性大于预定阈值的情况下,活动/情形识别系统10将处理移至步骤S142。同时,在可靠性小于预定阈值的情况下,活动/情形识别系统10将处理移至步骤S143。
在将处理移至步骤S142的情况下,活动/情形识别系统10利用动作/状态模式更新单元105和活动模式更新单元107的功能来更新动作/状态模式数据库106和活动模式数据库108(S142),并且将处理移至步骤S143。将处理移至步骤S143的活动/情形识别系统10判定电源是否被关断(S143)。在电源被关断的情况下,活动/情形识别系统10结束与活动/情形识别有关的一系列处理。同时,在电源没有被关断的情况下,活动/情形识别系统10将处理移至步骤B(参见图19)并且再次执行步骤S132和后续步骤中的处理。
以上已说明了活动/情形识别系统10的操作。这里,与环境声音的声学信号有关的处理和与文本信息有关的处理的顺序可以是相反的。
(关于用于识别更新目标的数据区间的方法)
这里,考虑识别更新目标的数据区间的方法。实际上,在更新模式DB的情况下,不易判定传感器数据的时间序列的哪个区间适合于进行更新。例如,用户可能从口袋拿出信息终端CL,并且在输入文本信息之后再次将信息终端CL放在口袋中。在该情况下,输入文本信息的定时处的用户活动是输入文本信息,这经常与通过对所输入的文本信息的分析而获取的活动模式不同。
因此,提出了如下方法:该方法关注于用户输入文本信息时的活动,并且识别通过分析文本信息而获取的活动模式对应于什么定时(即,更新目标数据区间)。例如,当假设如上所述的用户活动时,认为传感器数据的时间序列表示了如图22所示的波形。时段T1表示信息终端CL在口袋中的时段,并且对应于通过分析文本信息而获取的过去活动模式。同时,时段T4表示在输入文本信息并且将信息终端CL放入口袋中之后的时段,并且对应于通过分析文本信息而获取的未来活动模式。
另外,时段T2表示信息终端CL正被从口袋中拿出的时段。因此,在传感器数据中发现了大的波形变化。同时,时段T3表示信息终端CL正被放入口袋中的时段。因此,在传感器数据中发现了大的波形变化。通常,当输入文本信息时,信息终端CL被维持在稳定状态。因此,通过检测信息终端CL被放入和取出的时段(即,时段T2和T3),可以以相对高的准确性检测输入文本信息的时段。另外,认为通过考虑时段T1与T4之间的波形相似度,可以更准确地检测文本信息的输入时段。
作为基于这样的考虑来识别更新目标数据区间的方法,提出了如图21所示的处理方法。这里,为了便于说明,尽管作为示例已描述了从口袋中拿出信息终端CL或者将信息终端CL放入口袋中的活动,但是这同样适用于如下情况:其中,除了口袋之外,信息终端CL被放入包中、公文包、行李箱或化妆包(porch)中进行携带。
如图21所示,活动/情形识别系统10获取文本输入时间(S151)。接下来,活动/情形识别系统10获取在文本输入时间之前和之后的预定范围中的传感器数据(S152)。接下来,活动/情形识别系统10识别在文本输入时间之前的、传感器数据大大变化的部分(S153)。例如,在传感器数据的值超过预定阈值的情况下,活动/情形识别系统10将相应的区域识别为传感器数据大大变化的部分。另外,除了阈值判定之外,使用谱图分析(spectrogramanalysis)的方法也是可以的。
接下来,活动/情形识别系统10从所识别的部分之前的传感器数据提取期望时间长度的数据(S154)。接下来,活动/情形识别系统10识别在文本输入时间之后的、传感器数据大大变化的部分(S155)。接下来,活动/情形识别系统10从所识别的部分之后的传感器数据提取期望时间长度的数据(S156)。接下来,活动/情形识别系统10计算两个提取的数据项之间的相似度(S157)。例如,活动/情形识别系统10判定谱图上的相似度或者计算互相关系数并判定相似度。
接下来,活动/情形识别系统10判定相似度是否高(S158)。在相似度高的情况下,活动/情形识别系统10将处理移至步骤S159。相较之下,在相似度低的情况下,活动/情形识别系统10结束用于识别更新目标数据区间的一系列处理。在将处理移至步骤S159的情况下,活动/情形识别系统10使用所提取的数据来修改动作/状态模式(S159),并且结束用于识别更新目标数据区间的一系列处理。
由于用户的活动可能在文本输入之前或之后变化,因此在步骤S158中检查相似度。通过执行这样的检查,甚至在错误地判定了文本描述内容与文本输入之前的活动有关还是与文本输入之后的活动有关的情况下,也可以防止利用不适当的传感器数据来修改动作/状态模式。
另外,作为不在错误的传感器数据区间中实施修改处理的预防措施,例如,存在如下可能方法:该方法避免了更新与在修改之前登记在动作/状态模式数据库106中的动作/状态模式极大不同的传感器数据。为了实现该方法,例如,可实施与以上可靠性计算类似的处理,并且在可靠性没有超过预定阈值的情况下,可不执行修改处理。因此,对于应用用于防止错误修改的各种措施的替选是可能的。
以上已说明了活动/情形识别系统10的操作。
[2-4:屏幕显示的示例(一个应用示例)]
当使用以上活动/情形识别系统10时,例如,可以实现如图23所示的应用。图23示出了特定信息终端CL的UI(用户界面)屏幕的示例。该屏幕显示表示多个人物M1至M6的对象。在该示例中,人物M1和M5在奔跑。人物M2在走路。人物M3躺下。人物M4和M6蹲下。每个人物的活动反映了活动/情形识别系统10中的分析的结果,该分析使用了在对应于每个人物的用户持有信息终端CL时所获取的信息。
当活动/情形识别系统10被应用于如图23所示的应用时,用户可以让其他用户知道该用户的活动,而无需执行用于指定用户活动的专门操作。例如,在想邀请某人出去喝东西时,通过与其活动模式看起来空闲的人物说话,该人物具有较高概率接受该邀请。此外,在搜索语音对方时,可以初步进行考虑以对采用繁忙活动模式的人物进行避免。已介绍了应用于如图23所示的应用的示例,但是其它各种应用示例是可能的。
以上已说明了根据本实施例的技术的细节。
<3:示例硬件配置>
上述活动/情形识别系统10、信息终端CL和服务器设备SV中所包括的各个组成部件的功能可以通过使用例如图24所示的信息处理设备的硬件配置来实现。即,每个组成部件的功能可以通过使用计算机程序控制图24所示的硬件来实现。另外,该硬件的模式是任意的,并且可以是个人计算机、移动信息终端(诸如移动电话、PHS或PDA)、游戏机或者各种类型的信息设施。另外,PHS是个人手持电话系统的缩写。另外,PDA是个人数字助理的缩写。
如图24所示,该硬件主要包括CPU 902、ROM 904、RAM 906、主机总线908和桥910。此外,该硬件包括外部总线912、接口914、输入单元916、输出单元918、存储单元920、驱动器922、连接端口924和通信单元926。另外,CPU是中央处理单元的缩写。另外,ROM是只读存储器的缩写。此外,RAM是随机存取存储器的缩写。
CPU 902用作例如算术处理单元或控制单元,并且基于记录在ROM 904、RAM 906、存储单元920或可拆卸记录介质928上的各种程序来控制每个结构元件的整体操作或操作的一部分。ROM 904是用于存储例如要加载到CPU 902上的程序或在算术运算中使用的数据等的机制。RAM906临时地或永久地存储例如要加载到CPU 902上的程序或者在程序执行中任意地改变的各种参数等。
这些结构元件通过例如能够执行高速数据传输的主机总线908而连接到彼此。对于主机总线908的部分而言,主机总线908通过桥910而连接到例如其数据传输速度相对低的外部总线912。此外,输入单元916例如是鼠标、键盘、触摸板、按钮、开关或控制杆。另外,输入单元916可以是可通过使用红外线或其它无线电波来传输控制信号的远程控制装置。
输出单元918是例如可以以视觉方式或以听觉方式向用户通知所获取的信息的、诸如CRT、LCD、PDP或ELD的显示装置、诸如扬声器或耳机的音频输出装置、打印机、移动电话或传真机。另外,CRT是阴极射线管的缩写。LCD是液晶显示器的缩写。PDP是等离子显示面板的缩写。另外,ELD是电致发光显示器的缩写。
存储单元920是用于存储各种数据的装置。存储单元920是例如诸如硬盘驱动器(HDD)的磁存储装置、半导体存储装置、光存储装置或磁光存储装置。HDD是硬盘驱动器的缩写。
驱动器922是读取记录在可拆卸记录介质928(诸如磁盘、光盘、磁光盘或半导体存储器)上的信息或者将信息写入可拆卸记录介质928中的装置。可拆卸记录介质928是例如DVD介质、蓝光介质、HD-DVD介质、各种类型的半导体存储介质等。当然,可拆卸记录介质928可以是例如其上安装有非接触式IC芯片的IC卡或电子装置。IC是集成电路的缩写。
连接端口924是诸如USB端口、IEEE 1394端口、SCSI、RS-232C端口或者用于连接外接装置930的端口(诸如光学音频端子)的端口。外接装置930是例如打印机、移动音乐播放器、数字摄像装置、数字摄像机或者IC记录器。另外,USB是通用串行总线的缩写。另外,SCSI是小型计算机系统接口的缩写。
通信单元926是要连接到网络932的通信装置,并是例如用于有线或无线LAN、蓝牙(注册商标)或WUSB的通信卡、光通信路由器、ADSL路由器或者用于各种通信的调制解调器。连接到通信单元926的网络932由有线连接网络或无线连接网络构成,并且是例如因特网、家用LAN、红外通信、可见光通信、广播或卫星通信。另外,LAN是局域网的缩写。另外,WUSB是无线USB的缩写。此外,ADSL是异步数字用户线路的缩写。
<4:结论>
最后,简要概括了本实施例的技术思想。下述技术思想可应用于各种信息处理设备,诸如PC、移动电话、便携式游戏装置、便携式信息终端、信息设施和汽车导航。
另外,本技术还可如下配置。
(1)一种信息处理设备,包括:
数据库更新单元,用于更新活动模式数据库,所述活动模式数据库被用于基于传感器检测结果而检测用户的活动模式;
文本信息获取单元,用于获取所述用户在装置中输入的文本信息;以及
文本信息分析单元,用于从所述文本信息获取与活动模式有关的信息,
其中,在从所述文本信息获取到与活动模式有关的信息的情况下,所述数据库更新单元使用从所述文本信息获取的与活动模式有关的信息来更新所述活动模式数据库。
(2)根据(1)所述的信息处理设备,
其中,所述文本信息分析单元计算与活动模式有关的信息的第一可靠性,以及
其中,在所述第一可靠性超过第一预定阈值的情况下,所述数据库更新单元使用从所述文本信息获取的与活动模式有关的信息来更新所述活动模式数据库。
(3)根据(1)或(2)所述的信息处理设备,还包括:
声音信息获取单元,用于获取与所述装置所检测的声音有关的信息;以及
声音信息分析单元,用于从所述与声音有关的信息获取与活动模式有关的信息,
其中,在从所述与声音有关的信息获取到与活动模式有关的信息的情况下,所述数据库更新单元使用从所述与声音有关的信息获取的与活动模式有关的信息来更新所述活动模式数据库。
(4)根据(3)所述的信息处理设备,
其中,所述声音信息分析单元计算从所述与声音有关的信息获取的与活动模式有关的信息的第二可靠性,以及
其中,在所述第二可靠性超过第二预定阈值的情况下,所述数据库更新单元使用从所述与声音有关的信息获取的与活动模式有关的信息来更新所述活动模式数据库。
(5)根据(3)或(4)所述的信息处理设备,还包括:
声音识别单元,用于将所述与声音有关的信息转换成文本信息,
其中,所述文本信息分析单元从由所述声音识别单元转换的文本信息和由所述文本信息获取单元获取的文本信息获取与活动模式有关的信息。
(6)一种电子装置,包括:
通信单元,用于在从用户在所述电子装置中输入的文本信息获取到与活动模式有关的信息的情况下访问活动模式数据库,所述活动模式数据库被用于基于传感器检测结果而检测所述用户的活动模式,所述活动模式数据库是使用所获取的信息而更新的;以及
活动模式信息获取单元,用于从所述活动模式数据库获取与所述传感器检测结果和所述文本信息对应的与活动模式有关的信息。
(7)一种信息处理方法,包括:
更新活动模式数据库,所述活动模式数据库被用于基于传感器检测结果而检测用户的活动模式,
其中,当从所述用户在装置中输入的文本信息获取到与活动模式有关的信息的情况下,使用所获取的信息来更新所述活动模式数据库。
(8)一种信息处理方法,包括:
在从用户在电子装置中输入的文本信息获取到与活动模式有关的信息的情况下,访问活动模式数据库,所述活动模式数据库被用于基于传感器检测结果而检测所述用户的活动模式,所述活动模式数据库是使用所获取的信息而更新的;以及
从所述活动模式数据库获取与所述传感器检测结果和所述文本信息对应的与活动模式有关的信息。
(9)一种用于使得计算式实现以下功能的程序:
数据库更新功能,用于更新活动模式数据库,所述活动模式数据库被用于基于传感器检测结果而检测用户的活动模式;
文本信息获取功能,用于获取所述用户在装置中输入的文本信息;以及
文本信息分析功能,用于从所述文本信息获取与活动模式有关的信息,
其中,在从所述文本信息获取到与活动模式有关的信息的情况下,所述数据库更新功能使用从所述文本信息获取的与活动模式有关的信息来更新所述活动模式数据库。
(10)一种用于使得计算机实现以下功能的程序:
通信功能,用于在从用户在电子装置中输入的文本信息获取到与活动模式有关的信息的情况下访问活动模式数据库,所述活动模式数据库被用于基于传感器检测结果而检测所述用户的活动模式,所述活动模式数据库是使用所获取的信息而更新的;以及
活动模式信息获取功能,用于从所述活动模式数据库获取与所述传感器的检测结果和所述文本信息对应的与活动模式有关的信息。
(注释)
以上活动模式更新单元107是DB更新单元的示例。以上声学信息获取单元101是声音信息获取单元的示例。以上声学信息分析单元102是声音信息分析单元的示例。
尽管已参照附图详细描述了本公开的优选实施例,但是本公开不限于此。对本领域技术人员来说明显的是,各种修改或变形是可能的,只要这些修改或变形在所附权利要求或其等同的技术范围内即可。应理解,这样的修改或变形也在本公开的技术范围内。
本公开包含与2012年6月7日向日本专利局提交的日本优先权专利申请JP 2012-129799中公开的主题相关的主题,其全部内容通过引用合并于此。
Claims (9)
1.一种信息处理设备,包括:
数据库更新单元,用于更新活动模式数据库,所述活动模式数据库被用于基于传感器检测结果而检测用户的活动模式;
文本信息获取单元,用于获取所述用户在装置中输入的文本信息;以及
文本信息分析单元,用于从所述文本信息获取与活动模式有关的信息,
其中,在从所述文本信息获取到与活动模式有关的信息的情况下,所述数据库更新单元使用从所述文本信息获取的与活动模式有关的信息来更新所述活动模式数据库,
其中,所述文本信息分析单元计算与活动模式有关的信息的第一可靠性,以及
其中,在所述第一可靠性超过第一预定阈值的情况下,所述数据库更新单元使用从所述文本信息获取的与活动模式有关的信息来更新所述活动模式数据库。
2.根据权利要求1所述的信息处理设备,还包括:
声音信息获取单元,用于获取与所述装置所检测的声音有关的信息;以及
声音信息分析单元,用于从所述与声音有关的信息获取与活动模式有关的信息,
其中,在从所述与声音有关的信息获取到与活动模式有关的信息的情况下,所述数据库更新单元使用从所述与声音有关的信息获取的与活动模式有关的信息来更新所述活动模式数据库。
3.根据权利要求2所述的信息处理设备,
其中,所述声音信息分析单元计算从所述与声音有关的信息获取的与活动模式有关的信息的第二可靠性,以及
其中,在所述第二可靠性超过第二预定阈值的情况下,所述数据库更新单元使用从所述与声音有关的信息获取的与活动模式有关的信息来更新所述活动模式数据库。
4.根据权利要求2所述的信息处理设备,还包括:
声音识别单元,用于将所述与声音有关的信息转换成文本信息,
其中,所述文本信息分析单元从由所述声音识别单元转换的文本信息和由所述文本信息获取单元获取的文本信息获取与活动模式有关的信息。
5.一种电子装置,包括:
通信单元,用于在从用户在所述电子装置中输入的文本信息获取到与活动模式有关的信息的情况下访问活动模式数据库,所述活动模式数据库被用于基于传感器检测结果而检测所述用户的活动模式,所述活动模式数据库是使用所获取的信息而更新的;以及
活动模式信息获取单元,用于从所述活动模式数据库获取与所述传感器检测结果和所述文本信息对应的与活动模式有关的信息,
其中,所述活动模式数据库是在与活动模式有关的信息的第一可靠性超过第一预定阈值的情况下更新的。
6.一种信息处理方法,包括:
更新活动模式数据库,所述活动模式数据库被用于基于传感器检测结果而检测用户的活动模式,
其中,当从所述用户在装置中输入的文本信息获取到与活动模式有关的信息,并且与活动模式有关的信息的第一可靠性超过第一预定阈值的情况下,使用所获取的信息来更新所述活动模式数据库。
7.一种信息处理方法,包括:
在从用户在电子装置中输入的文本信息获取到与活动模式有关的信息的情况下,访问活动模式数据库,所述活动模式数据库被用于基于传感器检测结果而检测所述用户的活动模式,所述活动模式数据库是使用所获取的信息而更新的;以及
从所述活动模式数据库获取与所述传感器检测结果和所述文本信息对应的与活动模式有关的信息,
其中,所述活动模式数据库是在与活动模式有关的信息的第一可靠性超过第一预定阈值的情况下更新的。
8.一种计算机可读存储介质,其记录用于使得计算式实现以下功能的程序:
数据库更新功能,用于更新活动模式数据库,所述活动模式数据库被用于基于传感器检测结果而检测用户的活动模式;
文本信息获取功能,用于获取所述用户在装置中输入的文本信息;以及
文本信息分析功能,用于从所述文本信息获取与活动模式有关的信息,
其中,在从所述文本信息获取到与活动模式有关的信息的情况下,所述数据库更新功能使用从所述文本信息获取的与活动模式有关的信息来更新所述活动模式数据库,
其中,所述文本信息分析功能计算与活动模式有关的信息的第一可靠性,以及
其中,在所述第一可靠性超过第一预定阈值的情况下,所述数据库更新功能使用从所述文本信息获取的与活动模式有关的信息来更新所述活动模式数据库。
9.一种计算机可读存储介质,其记录用于使得计算机实现以下功能的程序:
通信功能,用于在从用户在电子装置中输入的文本信息获取到与活动模式有关的信息的情况下访问活动模式数据库,所述活动模式数据库被用于基于传感器检测结果而检测所述用户的活动模式,所述活动模式数据库是使用所获取的信息而更新的;以及
活动模式信息获取功能,用于从所述活动模式数据库获取与所述传感器的检测结果和所述文本信息对应的与活动模式有关的信息,
其中,所述活动模式数据库是在与活动模式有关的信息的第一可靠性超过第一预定阈值的情况下更新的。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012-129799 | 2012-06-07 | ||
JP2012129799A JP5904021B2 (ja) | 2012-06-07 | 2012-06-07 | 情報処理装置、電子機器、情報処理方法、及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103488666A CN103488666A (zh) | 2014-01-01 |
CN103488666B true CN103488666B (zh) | 2018-05-25 |
Family
ID=49716101
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201310211717.6A Expired - Fee Related CN103488666B (zh) | 2012-06-07 | 2013-05-31 | 信息处理设备和方法、电子装置以及计算机可读存储介质 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20130332410A1 (zh) |
JP (1) | JP5904021B2 (zh) |
CN (1) | CN103488666B (zh) |
Families Citing this family (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9250085B2 (en) | 2013-07-17 | 2016-02-02 | Vivint, Inc. | Geo-location services |
CN104778168A (zh) * | 2014-01-09 | 2015-07-15 | 联想(北京)有限公司 | 一种数据处理方法和装置 |
JP6022499B2 (ja) * | 2014-03-20 | 2016-11-09 | ヤフー株式会社 | 行動予測装置、行動予測方法、及び行動予測プログラム |
US20150347895A1 (en) * | 2014-06-02 | 2015-12-03 | Qualcomm Incorporated | Deriving relationships from overlapping location data |
US10944764B2 (en) * | 2015-02-13 | 2021-03-09 | Fisher-Rosemount Systems, Inc. | Security event detection through virtual machine introspection |
US9965754B2 (en) | 2015-06-08 | 2018-05-08 | Google Llc | Point of sale terminal geolocation |
JP6478327B2 (ja) * | 2015-07-02 | 2019-03-06 | Kddi株式会社 | センサを搭載しない携帯端末におけるユーザ状態を推定するサーバ及びプログラム |
EP3751451A1 (en) * | 2015-08-28 | 2020-12-16 | Sony Corporation | Information processing apparatus, information processing method, and program |
JP2017079433A (ja) * | 2015-10-21 | 2017-04-27 | 株式会社東海理化電機製作所 | 遠隔操作システム |
KR101773147B1 (ko) | 2016-02-15 | 2017-08-30 | 한국과학기술원 | 데이터 스트림 자동 분할 장치 및 방법 |
US20180012229A1 (en) * | 2016-07-06 | 2018-01-11 | Palo Alto Research Center Incorporated | Computer-Implemented System And Method For Providing Contextually Relevant Servicing |
KR102598270B1 (ko) * | 2016-08-01 | 2023-11-06 | 삼성전자주식회사 | 차량 탑승 인식 방법 및 이를 구현한 전자 장치 |
JP6352357B2 (ja) * | 2016-10-05 | 2018-07-04 | ヤフー株式会社 | モデル生成装置、モデル生成方法、及びモデル生成プログラム |
CN107391605A (zh) * | 2017-06-30 | 2017-11-24 | 北京奇虎科技有限公司 | 基于地理位置的信息推送方法、装置及移动终端 |
US20200387670A1 (en) * | 2018-01-05 | 2020-12-10 | Kyushu Institute Of Technology | Labeling device, labeling method, and program |
CN108241749B (zh) * | 2018-01-12 | 2021-03-26 | 新华智云科技有限公司 | 由传感器数据生成资讯信息的方法及设备 |
WO2019186676A1 (ja) * | 2018-03-27 | 2019-10-03 | 株式会社日立製作所 | 行動推定および変化検出装置 |
KR101944100B1 (ko) * | 2018-10-16 | 2019-01-30 | 장봉석 | 행위패턴인식을 이용한 관리시스템 |
KR102252062B1 (ko) * | 2019-12-31 | 2021-05-14 | 한국항공우주연구원 | 안테나의 구동을 최적화하는 방법, 장치 및 컴퓨터 프로그램 |
US20230126219A1 (en) * | 2020-03-16 | 2023-04-27 | Nec Corporation | Information processing system, information processing method, and non-transitorycomputer-readable medium |
Family Cites Families (51)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3252721B2 (ja) * | 1996-10-07 | 2002-02-04 | カシオ計算機株式会社 | 行動解析装置 |
US7225229B1 (en) * | 1998-12-18 | 2007-05-29 | Tangis Corporation | Automated pushing of computer user's context data to clients |
US7137069B2 (en) * | 1998-12-18 | 2006-11-14 | Tangis Corporation | Thematic response to a computer user's context, such as by a wearable personal computer |
EP1542101A1 (en) * | 2002-09-20 | 2005-06-15 | Matsushita Electric Industrial Co., Ltd. | Interactive device |
US20040181409A1 (en) * | 2003-03-11 | 2004-09-16 | Yifan Gong | Speech recognition using model parameters dependent on acoustic environment |
US7725842B2 (en) * | 2003-04-24 | 2010-05-25 | Bronkema Valentina G | Self-attainable analytic tool and method for adaptive behavior modification |
JP2005292893A (ja) * | 2004-03-31 | 2005-10-20 | Nec Access Technica Ltd | 携帯情報端末装置 |
US8204580B2 (en) * | 2004-05-25 | 2012-06-19 | Kurzweil Technologies, Inc. | Use of patterns in processing on mobile monitoring device and computer system |
JP4759304B2 (ja) * | 2005-04-07 | 2011-08-31 | オリンパス株式会社 | 情報表示システム |
US7675414B2 (en) * | 2006-08-10 | 2010-03-09 | Qualcomm Incorporated | Methods and apparatus for an environmental and behavioral adaptive wireless communication device |
US7689524B2 (en) * | 2006-09-28 | 2010-03-30 | Microsoft Corporation | Dynamic environment evaluation and service adjustment based on multiple user profiles including data classification and information sharing with authorized other users |
US8606497B2 (en) * | 2006-11-03 | 2013-12-10 | Salient Imaging, Inc. | Method, system and computer program for detecting and monitoring human activity utilizing location data |
US20080147411A1 (en) * | 2006-12-19 | 2008-06-19 | International Business Machines Corporation | Adaptation of a speech processing system from external input that is not directly related to sounds in an operational acoustic environment |
US8949070B1 (en) * | 2007-02-08 | 2015-02-03 | Dp Technologies, Inc. | Human activity monitoring device with activity identification |
US20110276312A1 (en) * | 2007-06-08 | 2011-11-10 | Tadmor Shalon | Device for monitoring and modifying eating behavior |
US8055656B2 (en) * | 2007-10-10 | 2011-11-08 | International Business Machines Corporation | Generating a user-specific search index of content within a virtual environment |
CA2704923C (en) * | 2007-11-09 | 2016-04-05 | Google, Inc. | Activating applications based on accelerometer data |
JP2009302949A (ja) * | 2008-06-13 | 2009-12-24 | Funai Electric Co Ltd | 携帯通信端末および状況推定システム |
US9253560B2 (en) * | 2008-09-16 | 2016-02-02 | Personics Holdings, Llc | Sound library and method |
US20100067708A1 (en) * | 2008-09-16 | 2010-03-18 | Sony Ericsson Mobile Communications Ab | System and method for automatically updating presence information based on sound detection |
JP5215099B2 (ja) * | 2008-09-17 | 2013-06-19 | オリンパス株式会社 | 情報処理システム、デジタルフォトフレーム、プログラム及び情報記憶媒体 |
WO2010032579A1 (ja) * | 2008-09-19 | 2010-03-25 | 株式会社日立製作所 | 行動履歴の生成方法及び行動履歴の生成システム |
US8527140B2 (en) * | 2009-02-10 | 2013-09-03 | Roy Schwartz | Vehicle state detection |
US20120046995A1 (en) * | 2009-04-29 | 2012-02-23 | Waldeck Technology, Llc | Anonymous crowd comparison |
JP2010277190A (ja) * | 2009-05-26 | 2010-12-09 | Nippon Telegr & Teleph Corp <Ntt> | 滞在地コンテキスト抽出装置、滞在地コンテキスト抽出方法およびプログラム |
KR101562792B1 (ko) * | 2009-06-10 | 2015-10-23 | 삼성전자주식회사 | 목표 예측 인터페이스 제공 장치 및 그 방법 |
US8248262B2 (en) * | 2009-08-11 | 2012-08-21 | Dell Products L.P. | Event recognition and response system |
US8768308B2 (en) * | 2009-09-29 | 2014-07-01 | Deutsche Telekom Ag | Apparatus and method for creating and managing personal schedules via context-sensing and actuation |
JP5440080B2 (ja) * | 2009-10-02 | 2014-03-12 | ソニー株式会社 | 行動パターン解析システム、携帯端末、行動パターン解析方法、及びプログラム |
GB2487027A (en) * | 2009-10-23 | 2012-07-04 | Cadio Inc | Analyzing consumer behavior using electronically-captured consumer location data |
JP2011232445A (ja) * | 2010-04-26 | 2011-11-17 | Sony Corp | 情報処理装置、出題傾向設定方法及びプログラム |
US8612463B2 (en) * | 2010-06-03 | 2013-12-17 | Palo Alto Research Center Incorporated | Identifying activities using a hybrid user-activity model |
KR101827885B1 (ko) * | 2010-08-06 | 2018-02-12 | 삼성전자주식회사 | 휴대 단말을 이용한 사용자 행동 측정 장치 및 방법 |
US20120084248A1 (en) * | 2010-09-30 | 2012-04-05 | Microsoft Corporation | Providing suggestions based on user intent |
US8606293B2 (en) * | 2010-10-05 | 2013-12-10 | Qualcomm Incorporated | Mobile device location estimation using environmental information |
US8706540B2 (en) * | 2010-12-08 | 2014-04-22 | Motorola Solutions, Inc. | Task management in a workforce environment using an acoustic map constructed from aggregated audio |
US8768865B2 (en) * | 2011-01-19 | 2014-07-01 | Qualcomm Incorporated | Learning situations via pattern matching |
US9443511B2 (en) * | 2011-03-04 | 2016-09-13 | Qualcomm Incorporated | System and method for recognizing environmental sound |
US8718672B2 (en) * | 2011-04-18 | 2014-05-06 | Microsoft Corporation | Identifying status based on heterogeneous sensors |
JP6004792B2 (ja) * | 2011-07-06 | 2016-10-12 | 本田技研工業株式会社 | 音響処理装置、音響処理方法、及び音響処理プログラム |
CN102413225A (zh) * | 2011-08-23 | 2012-04-11 | 华为终端有限公司 | 无线手持设备 |
EP2752048A4 (en) * | 2011-08-29 | 2015-07-15 | Empire Technology Dev Llc | METHOD FOR ISSUE OF ESTIMATED QOES ON A UTILITY BASE ON APPLICATION BASIS |
US20130252638A1 (en) * | 2011-10-21 | 2013-09-26 | Alohar Mobile Inc. | Real-Time Determination of User Stays of a Mobile Device |
US8892461B2 (en) * | 2011-10-21 | 2014-11-18 | Alohar Mobile Inc. | Mobile device user behavior analysis and authentication |
US8706918B2 (en) * | 2011-11-15 | 2014-04-22 | International Business Machines Corporation | External environment sensitive predictive application and memory initiation |
US20130138386A1 (en) * | 2011-11-30 | 2013-05-30 | Arbitron Inc. | Movement/position monitoring and linking to media consumption |
US8849730B2 (en) * | 2011-12-15 | 2014-09-30 | Microsoft Corporation | Prediction of user response actions to received data |
US8868713B2 (en) * | 2012-03-08 | 2014-10-21 | Verizon Patent And Licensing Inc. | Method and apparatus providing a user interface for a request-oriented service architecture |
US8849312B2 (en) * | 2012-04-10 | 2014-09-30 | Yellowpages.Com Llc | User description based on contexts of location and time |
JP5935516B2 (ja) * | 2012-06-01 | 2016-06-15 | ソニー株式会社 | 情報処理装置、情報処理方法、及びプログラム |
US20140278395A1 (en) * | 2013-03-12 | 2014-09-18 | Motorola Mobility Llc | Method and Apparatus for Determining a Motion Environment Profile to Adapt Voice Recognition Processing |
-
2012
- 2012-06-07 JP JP2012129799A patent/JP5904021B2/ja active Active
-
2013
- 2013-04-24 US US13/869,422 patent/US20130332410A1/en not_active Abandoned
- 2013-05-31 CN CN201310211717.6A patent/CN103488666B/zh not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP5904021B2 (ja) | 2016-04-13 |
US20130332410A1 (en) | 2013-12-12 |
CN103488666A (zh) | 2014-01-01 |
JP2013254372A (ja) | 2013-12-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103488666B (zh) | 信息处理设备和方法、电子装置以及计算机可读存储介质 | |
CN107172590B (zh) | 基于移动终端的活动状态信息处理方法、装置及移动终端 | |
JP6777201B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
CN107391603B (zh) | 用于移动终端的用户画像建立方法及装置 | |
CN104737523B (zh) | 通过指派用于数据群集的情境标签来管理移动装置中的情境模型 | |
Elhamshary et al. | TransitLabel: A crowd-sensing system for automatic labeling of transit stations semantics | |
Chen et al. | Probabilistic multimodal map matching with rich smartphone data | |
CN103455472B (zh) | 信息处理设备和信息处理方法 | |
US9443326B2 (en) | Semantic place labels | |
JP5895716B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
CN110008300A (zh) | Poi别名的确定方法、装置、计算机设备和存储介质 | |
CN118171657A (zh) | 基于关注点信息提供服务的方法和装置 | |
CN107241697A (zh) | 用于移动终端的用户行为确定方法、装置及移动终端 | |
US10104494B2 (en) | Marker based activity transition models | |
US20150248436A1 (en) | Methods, Circuits, Devices, Systems and Associated Computer Executable Code for Assessing a Presence Likelihood of a Subject at One or More Venues | |
CN104823433B (zh) | 在语义上融合上下文推断 | |
CN110972112A (zh) | 地铁运行方向的确定方法、装置、终端及存储介质 | |
Ghorpade et al. | An integrated stop-mode detection algorithm for real world smartphone-based travel survey | |
CN107341226B (zh) | 信息展示方法、装置及移动终端 | |
Zhou et al. | Travel mode detection method based on big smartphone global positioning system tracking data | |
JP6183489B2 (ja) | 情報処理システム、情報処理方法、及びプログラム | |
da Penha Natal et al. | Efficient out-of-home activity recognition by complementing GPS data with semantic information | |
JP2019128155A (ja) | 推定装置、推定方法及び推定プログラム | |
US20170339235A1 (en) | Method and System for Determining an Actual Point-of-Interest Based on User Activity and Environment Contexts | |
JP6421087B2 (ja) | 周辺状況推定支援装置、方法およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20180525 |