以下、添付の図面を参照しながら本発明に係る様々な実施の形態を説明する。
第1の実施の形態
図1は本発明の第1の実施の形態に係るユーザ観察システムを示す概略図である。このユーザ観察システムは、商品を販売する店舗10内に設置された少なくとも1つのユーザ認識装置110と、サーバ装置130と、商品データベース140と、装置識別子・履歴データベース150とを備える。サーバ装置130、商品データベース140および装置識別子・履歴データベース150は店舗10内に設置されていてもよいし、店舗10の外部に設置されていてもよい。また、商品データベース140と装置識別子・履歴データベース150は1つの記憶装置に記録されていてもよいし、別個の記憶装置に記録されていてもよい。
店舗10には複数のユーザ50,51が訪れており、ユーザ50,51は、携帯型通信デバイス(可搬型装置)120を携行している。携帯型通信デバイス(可搬型装置)120は、例えば、腕時計タイプのデバイスとしてユーザ50,51の各々の腕に装着されてもよい。あるいは、携帯電話(例えばスマートフォン)のように、ユーザによって携行されるデバイスであってもよい。装置識別子・履歴データベース150には、店舗10を訪れたユーザの行動が記録される。
店舗10内には複数の商品棚100が配置されている。商品棚100は、複数の棚板101〜104を有し、各棚板には複数の商品105が配置されている。商品データベース140には、商品棚100内の商品の情報が記録されている。
ユーザ観察システムは、店舗10内に配置されたキャッシュレジスタ160をさらに備える。キャッシュレジスタ160は、POS機能を有しており、販売された商品に関する情報をサーバ装置130に送信する。また、キャッシュレジスタ160は、クレジットカードの処理機能および電子マネーの処理機能を有する。
図2に示すように、ユーザ認識装置110は、店舗10内で移動するユーザを逐次的に撮影するカメラ111と、サーバ通信部112と、無線送信部113と、無線受信部114とを備える。カメラ111は、カラー画像の撮影が可能なカメラでもよいし、赤外線カメラであってもよいし、これらの組合せであってもよい。カメラ111は、連続的に動画像を撮影するカメラであってもよいし、一定時間おきに静止画像を撮影するカメラであってもよい。
ユーザ認識装置110のサーバ通信部112は、サーバ装置130と通信するためのインターフェースである。サーバ通信部112は、カメラ111で撮影された画像データを逐次的にサーバ装置130に送信する。サーバ装置130は、カメラ111で撮影される店舗10内のユーザの行動を分析する行動分析装置として機能する。
ユーザ認識装置110の無線送信部113は、携帯型通信デバイス120に無線信号を送信することが可能である。無線通信の方式は、可視光通信でもよいし、赤外線通信でもよいし、Wi−Fi(Wireless Fidelity)、Bluetooth(登録商標)またはRFID(Radio Frequency Identification)を利用してもよい。可視光または赤外線を利用する光無線通信では、光の強度の強弱もしくは点滅パターン、波長の変化パターン、またはこれらの組合せにより信号を伝達することが可能である。光無線通信では、通常、見通し内通信(line-of-sight communication)しか達成できないが、ユーザ認識装置110のカメラ111の視界にある携帯型通信デバイス120とだけ通信する目的のためには、光無線通信が好ましいこともある。他方、WiFi、BluetoothまたはRFIDといった電波通信では、使用される電波が送信元から送信先まで直進しなくても届くため、通信の確実性が高められる。
ユーザ認識装置110の無線受信部114は、携帯型通信デバイス120から送信された無線信号を受信することが可能である。無線通信の方式は、可視光通信でもよいし、赤外線通信でもよいし、Wi−Fi、BluetoothまたはRFIDを利用してもよい。携帯型通信デバイス120からユーザ認識装置110への無線通信に光を利用する場合には、カメラ111が光信号を認識する光受信装置として機能するので、無線受信部114を設ける必要はない。
図3に示すように、携帯型通信デバイス120は、識別子記憶部121と、無線受信部122と、無線送信部123と、制御部126とを備える。識別子記憶部121には、携帯型通信デバイス120を一意に識別可能な識別子が記憶されている。識別子としては、携帯型通信デバイス120の製造番号またはMAC(Media Access Control)アドレスでよい。あるいは識別子は、予め携帯型通信デバイス120に割り当てられた番号または文字列など、携帯型通信デバイス120を一意に特定することが可能であれば何でもよい。制御部126は例えばCPU(central processing unit)である。
無線受信部122は、ユーザ認識装置110の無線送信部113から送信された無線信号を受信する。無線送信部123は、無線信号を送信し、この無線信号はユーザ認識装置110の無線受信部114で受信される。具体的には、ユーザ認識装置110の無線送信部113からの要求を無線受信部122は受信し、この要求に応じて、制御部126は、無線送信部123により識別子記憶部121に記憶された識別子を示す信号を送信する。
好ましくは、携帯型通信デバイス120は、電子マネー情報記憶部124をさらに備える。電子マネー情報記憶部124は、携帯型通信デバイス120の所有者を識別する情報(電子決済識別子)、およびその他の電子マネーに関する情報が記録されたICチップである。電子マネー情報記憶部124に記録された情報は、外部装置で読み取ることが可能である。店舗10のキャッシュレジスタ160は電子マネー情報記憶部124に記録された情報を読み取ることが可能である。
上記の携帯型通信デバイス120の識別子は、電子マネー情報記憶部124に記録される携帯型通信デバイス120の所有者を識別する電子決済識別子であってもよい。この場合には、識別子記憶部121と電子マネー情報記憶部124を別個に設ける必要はなく、電子マネー情報記憶部124が識別子記憶部として使用されてもよい。
図4は、ユーザ認識装置110のカメラ111の視界の一例を示す。ユーザ認識装置110のカメラ111は、図4に示すように、そのカメラ111の観察対象の商品棚100のすべての棚板101〜104およびその商品棚100の前の所定の範囲がカメラ111の視界に入るように配置されている。したがって、カメラ111は、そのカメラ111の観察対象の商品棚100の前でのユーザの動き、特に商品棚100の棚板上の商品に腕を伸ばす状態を撮影することができる。例えば、カメラ111は、観察対象の商品棚100のすべての棚板101〜104を斜め上方から撮影できるように、商品棚100の上方に配置されている。
サーバ装置130は、コンピュータプログラムに従って動作するコンピュータである。サーバ装置130は、カメラ111で撮影された画像データを逐次的に受信する。サーバ装置130は、画像データの各フレームと前フレームとの差分を分析する。この分析結果から、サーバ装置130は商品棚100の前に人がいることを認識し、人の動き、特にその人の腕および手の動きを認識する。
カメラ111で撮影されるユーザ50の手が商品棚100の商品105に接近した場合、サーバ装置130は、携帯型通信デバイス120に携帯型通信デバイス120の識別子を示す信号を送信することを要求する。サーバ装置130は、ユーザ50を撮影しているカメラ111を有するユーザ認識装置110にこの要求を送信し、ユーザ認識装置110はサーバ通信部112を介してその要求を受信する。要求を受信したユーザ認識装置110は、無線送信部113を介してその要求を送信する。要求の無線送信の方式は宛先を特定しないブロードキャストである。なぜなら、この段階では、要求を受信すべき装置を識別する情報は、ユーザ観察システムにとって未知だからである。無線送信部113から送信される電波または光が到達可能な範囲にあるユーザ50の携帯型通信デバイス120は、この要求を無線受信部122によって受信する。
あらかじめ、無線送信部113から送信される電波または光が到達可能な範囲がカメラ111で撮影可能な所定の範囲とほぼ一致するように、無線送信部113の送信出力またはカメラ111の設置場所が調整されていると好ましい。この場合には、カメラ111で撮影されているユーザ50の携帯型通信デバイス120は、この要求を無線受信部122によって受信することができ、カメラ111で撮影されていないユーザ51の携帯型通信デバイス120は、この要求を受信できない。したがって、店舗10内に複数の人がいる場合でも、観察対象とするユーザを特定しやすい。
識別子を示す信号の要求を受信すると、携帯型通信デバイス120の制御部126は、識別子記憶部121に記憶されている携帯型通信デバイス120の識別子を読み出して、識別子を示す信号を無線送信部123により無線で(つまり光または電波で)送信する。この場合、悪意ある者による識別子の傍受を回避するため、携帯型通信デバイス120は、識別子を示す信号に暗号化処理を行って、暗号化された信号を送信してもよい。
ユーザ認識装置110の無線受信部114は、携帯型通信デバイス120から送信された識別子を示す信号を受信する。上記のように、携帯型通信デバイス120からユーザ認識装置110への無線通信に光を利用する場合には、ユーザ認識装置110のカメラ111が光信号を認識する光受信装置として機能するので、無線受信部114を設ける必要はない。
ユーザ認識装置110の無線受信部114(またはカメラ111)が識別子を示す信号を受信すると、ユーザ認識装置110のサーバ通信部112は携帯型通信デバイス120の識別子をサーバ装置130に報告する。サーバ装置130は、携帯型通信デバイス120の識別子を示す信号をカメラ111から受信すると、この識別子をカメラ111で撮影されるユーザ50に対応付ける。
カメラ111が携帯型通信デバイス120から送信される光信号を認識する場合には、サーバ装置130は、カメラの画像データの変化から携帯型通信デバイス120の識別子を認識することができる。つまり、画像データから得られる光の強度の強弱もしくは点滅パターン、波長の変化パターン、またはこれらの組合せにより、識別子が認識される。
この場合、画像を構成する多数の画素のうち光の発信源の画素が特定されるので、携帯型通信デバイス120の位置が特定される。そして、サーバ装置130は、カメラ111で撮影されるユーザの位置に対して、光の発信源(すなわち信号の発信源)である携帯型通信デバイス120の位置が所定の範囲にある場合に、光の発信源である携帯型通信デバイス120の識別子をユーザに対応付けることができる。これにより、ユーザ認識装置110からの識別子の要求に応じて、複数の携帯型通信デバイス120が発光する場合でも、観察対象とするユーザを特定しやすい。例えば、図4に示す例において、カメラ111で撮影されているユーザ50の頭部の中心から所定の距離Lの範囲201内にある携帯型通信デバイス120の識別子を、サーバ装置130はカメラ111で撮影されるユーザ50に対応付ける。範囲201から外にある携帯型通信デバイス120が識別子を示す信号を送信するために発光したとしても、サーバ装置130はその携帯型通信デバイス120の識別子をカメラ111で撮影されるユーザ50に対応付けない。
ユーザと識別子の対応付けの後、サーバ装置130は、カメラ111で撮影されるユーザ50の行動を携帯型通信デバイス120の識別子に対応付けて装置識別子・履歴データベース150に記録する。具体的には、カメラ111で撮影されるユーザ50の手が店舗10内の商品105に接近した場合、サーバ装置130は、この商品をユーザ50が関心を有する商品として、識別子に対応付けて装置識別子・履歴データベース150に記録する。つまり、この実施の形態では、カメラ111で撮影されるユーザ50の手が店舗10内の商品105に接近した場合、ユーザと識別子が対応付けされ、さらにサーバ装置130は、この商品をユーザ50が関心を有する商品として、識別子に対応付けて装置識別子・履歴データベース150に記録する。この時、サーバ装置130は、現在日付および時刻を装置識別子・履歴データベース150に記録してもよい。
図4の例の場合、ユーザ50の腕は商品棚100の内部に伸びている。カメラで得られた画像データの分析結果に基づいて、商品棚100の棚板101〜104とユーザ50の腕および手の重なり具合から、サーバ装置130は、ユーザ50の手がどの棚板の上の商品に接近しているのか認識する。図4の例の場合、ユーザ50の腕は、上から2段目の棚板102より下であり、上から3段目の棚板103より上にある。したがって、サーバ装置130は、ユーザ50の手が上から3段目の棚板103に置いてある商品に接近したと認識する。
サーバ装置130は、商品データベース140にアクセスし、ユーザの手が接近した商品を特定する。図5は、商品データベース140の記録を示す。図5に示すように、商品棚の番号と棚板の番号と商品名が、商品データベース140内で対応付けされている。例えば、商品データベース140の記録の第1行目は、番号1を持つ商品棚の番号1を持つ棚板には商品AAAが配置されていることを示す。したがって、サーバ装置130は、カメラが観察対象とする商品棚と、ユーザ50が手を入れた棚板を特定して、商品データベース140内を検索することにより、商品データベース140からユーザ50の手が接近した商品名を特定することが可能である。カメラが観察対象とする商品棚は、ユーザ50を撮影するカメラで得られた画像データの分析結果から特定される。ユーザが手を入れた棚板は上記のようにカメラで得られた画像データの分析結果に基づいて特定される。
図6は、装置識別子・履歴データベース150の記録を示す。図6に示すように、装置識別子・履歴データベース150には、ユーザの行動が携帯型通信デバイス120の識別子とともに記録されている。より具体的には、携帯型通信デバイス120の識別子と、商品名と、その商品に対するユーザの行動(関心を示したことまたは購入したこと)と、日付および時刻が、装置識別子・履歴データベース150内で対応付けされている。例えば、装置識別子・履歴データベース150の記録の第1行目は、識別子0001を持つ携帯型通信デバイスの所有者であるユーザが、2012年12月14日の23時00分15秒に商品AACに関心を有したことを示す。これは、ユーザの手が接近した商品AACをユーザが関心を有する商品として、サーバ装置130が識別子に対応付けて記録した結果である。
ユーザ50は、商品105を購入する場合には、キャッシュレジスタ(商品購入検出装置)160で料金を支払う。図7に示すように、キャッシュレジスタ160は、電子マネー情報読み取り部161、電子マネー料金徴収部162、クレジットカード情報読み取り部163、クレジットカード料金徴収部164、商品認識部165、識別子認識部166およびサーバ通信部167を備える。
電子マネー情報読み取り部161は、電子マネー情報が記録された媒体(例えばICカードまたは携帯電話)から電子マネー情報を読み取る。電子マネー情報は、その媒体の所有者を示す電子決済識別子(電子マネーの発行事業者が所有者を識別するための識別子)を含む。電子マネー料金徴収部162は、電子マネー情報読み取り部161が読み取った電子マネー情報に基づいて、電子マネーで商品の料金を徴収する。
携帯型通信デバイス120が電子マネー情報記憶部124を有する場合には、電子マネー情報読み取り部161は電子マネー情報記憶部124に記憶された電子マネー情報を読み取る。電子マネー料金徴収部162が料金を徴収することで、料金の支払いは完了する。
クレジットカード情報読み取り部163は、クレジットカードまたはクレジットカード情報が記録された媒体(例えば携帯電話)からクレジットカード情報を読み取る。クレジットカード情報は、その媒体の所有者を示す電子決済識別子(クレジットカードの事業者が所有者を識別するための識別子、すなわちクレジットカード番号)を含む。クレジットカード料金徴収部164は、クレジットカード情報読み取り部163が読み取ったクレジットカード情報に基づいて、クレジットで商品の料金を徴収する。
商品認識部165は、ユーザが購入しようとする商品105を認識する。商品認識部165は、例えば商品に貼付されたバーコードを読み取るバーコードリーダでもよいし、店舗10の店員が入力した商品情報を認識する装置でもよい。
識別子認識部166は、ユーザが所持する携帯型通信デバイス120の識別子記憶部121に記憶された携帯型通信デバイス120の識別子を読み取る。識別子の読み取りの方式は、例えば下記の通りである。
識別子認識部166は、ユーザ認識装置110の無線送信部113および無線受信部114と同様の無線送信部と無線受信部を備える。商品を持ったユーザがキャッシュレジスタ160の前に現れると、店員は識別子認識部166を起動する。すると、識別子認識部166の無線送信部が識別子の要求を携帯型通信デバイス120に送信する。この要求を無線受信部122で受信すると、携帯型通信デバイス120の制御部126は、識別子記憶部121に記憶されている携帯型通信デバイス120の識別子を読み出し、無線送信部123により識別子を示す信号を無線で(つまり光または電波で)送信する。識別子認識部166の無線受信部は識別子を示す情報を受信する。
料金の支払いが完了し、商品認識部165で商品が認識されると、キャッシュレジスタ160で商品の購入が検出されたことを意味する。キャッシュレジスタ160が商品の購入を検出し、識別子認識部166が識別子を認識すると、サーバ通信部167は、商品と識別子と日付および時刻を示す信号をサーバ装置130に送信する。
この信号を受信すると、サーバ装置130は、この信号に示される商品をユーザが購入した商品として、この信号に示される識別子に対応付けて装置識別子・履歴データベース150に記録する。サーバ装置130は、この信号に示される日付および時刻を装置識別子・履歴データベース150に記録してもよい。図6に示す装置識別子・履歴データベース150の記録の例では、第2行目は、識別子0001を持つ携帯型通信デバイスの所有者であるユーザが、2013年1月25日の8時16分34秒に商品BACを購入したことを示す。これは、ユーザが購入した商品BACをサーバ装置130が識別子に対応付けて記録した結果である。
このようにして、各ユーザについて、購入した商品に関する情報と、関心を持ったが購入には至らなかった商品に関する情報とが装置識別子・履歴データベース150に蓄積される。装置識別子・履歴データベース150に蓄積された情報を分析することにより、より高度なマーケティングが可能になると考えられる。装置識別子・履歴データベース150内の各記録に日付および時刻が付与される場合には、各ユーザについて、関心ある商品の変化および購入する商品の変化を分析すること、および店舗10への各訪問時に関心を有した商品と購入した商品を分析することが可能になる。
この実施の形態においては、キャッシュレジスタ160に携帯型通信デバイス120の識別子を認識する識別子認識部166が設けられている。しかし、携帯型通信デバイス120が電子マネー情報記憶部124を有する場合には、電子マネー情報読み取り部161は電子マネー情報記憶部124に記憶された電子マネー情報を読み取る。上記の通り、電子マネー情報に含まれる電子決済識別子が携帯型通信デバイス120の識別子として使用される場合には、電子マネー情報読み取り部161は、携帯型通信デバイス120の識別子を認識することができる。この場合には、電子マネー情報読み取り部161と識別子認識部166を別個に設ける必要はなく、電子マネー情報読み取り部161が識別子認識部として使用されてもよい。
図8はこの実施の形態に係るサーバ装置130の処理を示すフローチャートである。このフローチャートを参照し、サーバ装置130の処理を説明する。ステップS1でサーバ装置130はカメラ111の現在フレームと前フレームの比較を開始する。サーバ装置130は、ユーザの手が商品に接近したと認識したか否か判断する(ステップS2)。すなわちユーザが商品棚に手を差し入れたか否か判断する。
サーバ装置130は、ユーザの手が商品に接近したと認識すると(ステップS2の判断が肯定的になると)、商品棚の番号と棚板の番号に基づいて、商品データベース140内の商品名を検索する(ステップS3)。サーバ装置130は、携帯型通信デバイス120の識別子の信号を要求する(ステップS4)。
ステップS4の要求の送信の後、一定時間、識別子を示す信号が正しく受信されない場合(ステップS5の判断が否定的である場合)には、処理はステップS4に戻り、サーバ装置130は再度、要求を送信する。
携帯型通信デバイス120の識別子の信号を受信すると(ステップS5の判断が肯定的になると)、サーバ装置130は、ステップS3で特定された商品名を携帯型通信デバイス120の識別子とともに装置識別子・履歴データベース150に記録する(ステップS6)。ここで、カメラ111で信号の発信源が特定可能である場合には、カメラ111で撮影されているユーザを中心とする範囲201にある発信源からの識別子の信号を受信すると、サーバ装置130は商品名をその識別子とともに装置識別子・履歴データベース150に記録してよい。上記のステップS3は、ステップS4の後、またはステップS5の後に実行されてもよい。
ステップS6の後、ユーザが商品を購入しない場合(ステップS7の判断が否定的である場合)には、処理は終了する。ユーザが商品を購入した場合(ステップS7の判断が肯定的である場合)には、キャッシュレジスタ160からの信号に従って、サーバ装置130は、購入された商品名を携帯型通信デバイス120の識別子とともに装置識別子・履歴データベース150に記録し(ステップS8)、処理が終了する。
この実施の形態では、カメラ111で撮影されるユーザの手が商品棚100の商品105に接近した場合に、サーバ装置130は、携帯型通信デバイス120の識別子を示す信号の要求を送信する。したがって、ユーザが商品に実際に関心を有する場合に、カメラで撮影されるユーザと携帯型通信デバイス120の識別子を対応付けることが可能である。
しかし、カメラ111で撮影可能な所定の範囲内にユーザが入った場合に、サーバ装置130は、携帯型通信デバイス120の識別子を示す信号の要求を送信してもよい。この場合には、ユーザの手が商品に接近する前に、要求が送信されるので、携帯型通信デバイス120の識別子と観察対象のユーザの対応付けを、ユーザの手が商品に接近する前に完了することが可能である。ユーザ認識装置110と携帯型通信デバイス120の通信環境が悪く、携帯型デバイス120の識別子を示す信号がサーバ装置130で正しく受信できなかった場合でも、要求の再送を繰り返すことにより、識別子をユーザに対応付ける確実性が向上する。カメラ111で撮影可能な所定の範囲内にユーザが入った場合に、最初の要求が送信されることにより、ユーザの手が商品に接近する時には、識別子とユーザの対応付けが完了している見込みが高められる。したがって、ユーザが商品に接近しても、そのユーザの携帯型通信デバイス120の識別子を認識できないといった事態を最小限化することができる。この場合、ユーザが商品に関心を有する可能性が高いときに、カメラで撮影されるユーザと携帯型通信デバイス120の識別子を対応付けることが可能である。
また、この実施の形態では、カメラ111で撮影されるユーザの手が商品棚100の商品105に接近した場合に、サーバ装置130は、商品をユーザが関心を有する商品として、携帯型通信デバイス120の識別子に対応付けて装置識別子・履歴データベース150に記録する。したがって、ユーザが実際に関心を有する商品を装置識別子・履歴データベース150に記録することが可能である。
また、この実施の形態では、キャッシュレジスタ160で商品の購入が検出され携帯型通信デバイス120の識別子が認識されると、サーバ装置130は、商品をユーザが購入した商品として、装置識別子・履歴データベース150に記録する。したがって、装置識別子・履歴データベース150に蓄積された情報を分析することにより、より高度なマーケティングが可能になると考えられる。
第2の実施の形態
次に本発明の第2の実施の形態を説明する。第2の実施の形態に係るユーザ観察システムの構成は、第1の実施の形態のユーザ観察システムの構成と基本的に同じでよい。第2の実施の形態に係る携帯型通信デバイス120の構成も第1の実施の形態のそれと基本的に同じでよい。
但し、第2の実施の形態に係る携帯型通信デバイス120は、携帯型通信デバイス120自身の動きを測定する動き測定装置をさらに備える。図9に示すように、動き測定装置の例は、加速度センサ125である。この実施の形態では、動き測定装置は加速度センサ125であるが、動き測定装置は、例えば、ジャイロスコープ、地磁気センサ、もしくはこれらの組合せ、またはこれらと加速度センサの組合せであってもよい。
また、図10に示すように、サーバ装置130は、動き情報受信部131と動き分析部132とを備える。動き情報受信部131は、ユーザ認識装置110のサーバ通信部112(図2参照)と通信するためのインターフェースである。携帯型通信デバイス120で測定される携帯型通信デバイス120の動きを示す情報は、携帯型通信デバイス120の無線送信部123により無線で(つまり光または電波で)送信される。ユーザ認識装置110は、無線受信部114にてその情報を受信し、サーバ通信部112にてサーバ装置130に転送する。
動き分析部132は、サーバ装置130がコンピュータプログラムに従って動作することにより実行される機能ブロックである。動き分析部132は、ユーザ認識装置110のカメラ111で撮影されるユーザの動きを分析する。
この実施の形態では、サーバ装置130は、動き情報受信部131で受信された情報に示される携帯型通信デバイス120の動きと、カメラ111で撮影され動き分析部132で分析されたユーザの動きとを比較して、これらの動きが同一ユーザの動きに起因するか否か判断する。つまり、サーバ装置130は、カメラ111で撮影されているユーザと、携帯型通信デバイス120の所有者の同一性を確認する。
第1の実施の形態と同様に、ユーザ認識装置110のカメラ111は、画像データを逐次的にサーバ装置130に供給する。サーバ装置130は、画像データの各フレームと前フレームとの差分を分析する。そして、第1の実施の形態と同様に、カメラ111で撮影されるユーザ50の手が商品棚100の商品105に接近したことをサーバ装置130は認識することができ、その商品名を商品データベース140によって特定することができる。
サーバ装置130の動き分析部132は、画像データの各フレームと前フレームとの差分に基づいて、ユーザの動きの特徴を分析する。特徴としては、ユーザの頭部のゆれ具合、単位時間当たりの頭部の移動距離、腕の振れ具合、足の動き具合などがある。この実施の形態では、腕時計タイプの携帯型通信デバイス120が使用されているので、ユーザの動きの特徴として、携帯型通信デバイス120が装着されているユーザの腕の振れ具合を動き分析部132は分析する。画像データの各フレームと前フレームとの差分から、単位時間当たりの腕の移動距離が計算される。これは腕の速度である。動き分析部132は、単位時間当たりの速度の変化を腕の加速度として計算する。動き分析部132は、腕の加速度を計算する処理を複数フレームにわたって実行する。
他方、携帯型通信デバイス120では、腕の動きに応じて加速度センサ125から加速度値が逐次的に出力される。携帯型通信デバイス120の制御部126は、無線送信部123によって、携帯型通信デバイス120の動き測定結果(例えば腕の加速度値)と識別子記憶部121に記憶された識別子とを示す信号を逐次的に無線で(つまり光または電波で)送信する。この信号は、ユーザ認識装置110で中継されて、サーバ装置130の動き情報受信部131に受信される。第1の実施の形態と同様に、ユーザ認識装置110と携帯型通信デバイス120の間の無線通信の方式は、光通信もよいし、電波通信でもよいが、この実施の形態ではWi−Fiが好ましい。悪意ある者による識別子の傍受を回避するため、携帯型通信デバイス120は、識別子を示す信号に暗号化処理を行って、暗号化された信号を送信してもよい。
サーバ装置130は、カメラ111で撮影され動き分析部132で分析された加速度値と、携帯型通信デバイス120から送信された加速度値を比較して、これらの加速度値が同一ユーザの動きに起因するか否か判断する。例えば、サーバ装置130は、同一の時刻においてこれらの加速度値の正負の方向が合っているか否かを判断し、単位時間あたりの合っている回数が閾値より大きければ、カメラ111で撮影されているユーザが携帯型通信デバイス120の所有者であるので、これらの加速度値が同一ユーザの動きに起因すると判断する。図11は、カメラ111で撮影され動き分析部132で分析された加速度値と、携帯型通信デバイス120から送信された加速度値の変化を示すグラフである。図11は、両方の加速度値が同一ユーザの動きに起因する場合の例を示す。
図11において、期間1および期間3では、加速度の振幅が大きい。これはユーザが歩行しており、腕を大きく振っていることを意味する。期間2では、加速度の振幅が小さい。これはユーザが静止しており、腕をほとんど振っていないことを意味する。
両方の加速度値が同一ユーザの動きに起因するか否か判断する手法としては、例えば以下が考えられる。サーバ装置130は、同一の時刻において両方の加速度値の差分が閾値より小さいか否かを判断し、単位時間あたりの合っている回数が閾値より大きければ、これらの加速度値が同一ユーザの動きに起因すると判断してもよい。サーバ装置130は、画像データから得られる加速度の振幅が大きい期間と小さい期間と、携帯型通信デバイス120から得られる加速度の振幅が大きい期間と小さい期間とを比較し、これらが一致していれば、これらの加速度値が同一ユーザの動きに起因すると判断してもよい。サーバ装置130は、加速度値の時間的変化の波形の周波数成分の相関を用いてもよい。サーバ装置130は、ケプストラムの相関を用いてもよい。サーバ装置130は、これらの各種の手法のいずれかの組合せを用いてもよい。
加速度値の時間的変化の波形の周波数成分の相関を用いる手法、またはケプストラムの相関を用いる手法の場合、携帯型通信デバイス120が、携帯型通信デバイス120で測定された加速度に関してスペクトル分析の処理またはケプストラム分析の処理を行い、処理で得られたデータを、ユーザ認識装置110を介してサーバ装置130に送ってもよい。この場合、サーバ装置130は、画像データから得られた加速度に関してスペクトル分析の処理またはケプストラム分析の処理を行い、処理で得られたデータを携帯型通信デバイス120から送信されたデータと比較する。この方法の場合、携帯型通信デバイス120での処理負荷が増加することとなるが、サーバ装置130に送信するデータ量を低減することが可能となる。
カメラ111で撮影されているユーザと、携帯型通信デバイス120の所有者の同一性が確認されると、サーバ装置130は、動き情報受信部131で携帯型通信デバイス120の動き測定結果(加速度値)とともに受信された携帯型通信デバイス120の識別子をカメラ111で撮影されるユーザに対応付ける。ユーザと識別子の対応付けの後、第1の実施の形態と同様に、サーバ装置130は、カメラ111で撮影されるユーザの手が接近した商品をユーザ50が関心を有する商品として、識別子に対応付けて装置識別子・履歴データベース150に記録する。この時、サーバ装置130は、現在日付および時刻を装置識別子・履歴データベース150に記録してもよい。また、第1の実施の形態と同様に、サーバ装置130は、ユーザが購入した商品を識別子に対応付けて装置識別子・履歴データベース150に記録する。この時、サーバ装置130は、現在日付および時刻を装置識別子・履歴データベース150に記録してもよい。
この実施の形態では、サーバ装置130は、カメラ111で撮影されているユーザと、携帯型通信デバイス120の所有者の同一性を確認すると、携帯型通信デバイス120から送信された携帯型通信デバイス120の識別子をカメラ111で撮影されるユーザに対応付ける。したがって、店舗10内に複数の人がいる場合でも、観察対象とするユーザを確実に特定することができる。
携帯型通信デバイス120がユーザの動きの測定を開始する時期および携帯型通信デバイス120の動き測定結果の送信を開始する時期は、限定されない。しかし、第1の実施の形態と同様に、サーバ装置130は、カメラ111で撮影可能な所定の範囲内にユーザが入った場合、またはカメラ111で撮影されるユーザの手が店舗10内の商品に接近した場合、携帯型通信デバイス120に識別子を示す信号を送信することを要求してよい。この要求は、識別子の要求であり、ユーザの動きの測定開始の要求でもある。この要求を受信すると、携帯型通信デバイス120は、ユーザの動きの測定を開始し、ユーザの動き測定結果を識別子とともに送信してよい。この場合、ユーザが商品に関心を有する可能性が高いときに、カメラで撮影されるユーザと携帯型通信デバイス120の識別子を対応付けることが可能である。
また、携帯型通信デバイス120の消費電力削減の観点から、必要でない場合には、動き測定装置(例えば、加速度センサ125)および無線送信部123を動作させないことが望ましい。したがって、携帯型通信デバイス120の制御部126は、店舗10内またはカメラ111で撮影可能な範囲内にユーザ(携帯型通信デバイス120)が位置している場合に、動き測定装置(加速度センサ125)が携帯型通信デバイス120の動きを測定するように動き測定装置を制御し、店舗内またはカメラで撮影可能な範囲内にユーザが位置していない場合に、動き測定装置が携帯型通信デバイス120の動きを測定しないように動き測定装置を制御すると好ましい。同様に、携帯型通信デバイス120の制御部126は、店舗10内またはカメラ111で撮影可能な範囲内にユーザ(携帯型通信デバイス120)が位置している場合に、無線送信部123を起動し、店舗内またはカメラで撮影可能な範囲内にユーザが位置していない場合に、無線送信部123の起動を停止すると好ましい。上記の携帯型通信デバイス120の位置による携帯型通信デバイス120の制御方式は、例えば下記の通りである。
店舗10内に設置されたWi−FiのアクセスポイントのSSID(Service Set Identifier)を受信すると、携帯型通信デバイス120の制御部126は、動き測定装置および無線送信部123を起動してよい。SSIDの受信が不能となった場合に、制御部126は動き測定装置および無線送信部123の起動を停止してよい。ユーザ認識装置110と携帯型通信デバイス120の間の無線通信の方式がWi−Fiである場合には、Wi−Fiのアクセスポイントは、ユーザ認識装置110の無線送信部113および無線受信部114で構成されていてよい。
Wi−Fiのアクセスポイントの代わりに、店舗10内に設置されたBluetoothで通信可能なアクセスポイントを使用してもよい。ユーザ認識装置110と携帯型通信デバイス120の間の無線通信の方式がBluetoothである場合には、そのアクセスポイントは、ユーザ認識装置110の無線送信部113および無線受信部114で構成されていてよい。また、GPS(global positioning system)またはIMES(indoor messaging system)の技術を利用して、制御部126は携帯型通信デバイス120の位置を認識し、店舗10内に携帯型通信デバイス120があるか否かを判断してもよい。制御部126は、これらの各種の手法のいずれかの組合せを用いてもよい。
第3の実施の形態
次に本発明の第3の実施の形態を説明する。第3の実施の形態は、第2の実施の形態の改良である。第3の実施の形態に係るユーザ観察システムの構成は、第2の実施の形態のユーザ観察システムの構成と基本的に同じでよい。第3の実施の形態に係る携帯型通信デバイス120の構成も第2の実施の形態のそれと基本的に同じでよい。
第3の実施の形態では、店舗10内にユーザへの距離を測定する距離測定装置が設置される。サーバ装置130の動き分析部132は、距離測定装置で測定される距離の変動と、カメラ111で撮影されたユーザの動きに基づいて、ユーザの動きを特定する。これにより、動き分析部132でのユーザの動きの分析精度が高められる。他の特徴は第2の実施の形態と同じでよい。
図12は、第3の実施の形態に係るユーザ認識装置110のブロック図である。図12に示すように、このユーザ認識装置110は、第1または第2の実施の形態のユーザ認識装置110(図2)の構成に加え、赤外線センサ115と赤外線プロジェクタ116を備える。赤外線センサ115と赤外線プロジェクタ116は距離測定装置を構成する。
赤外線プロジェクタ116は赤外線を放射し、赤外線センサ115は被写体から反射した赤外線を受信する。距離測定の方式としては、例えばTime of Flight方式が利用できる。これは、光源から出た光が対象物で反射し、センサ(この場合赤外線センサ115)に届くまでの時間(遅れ時間)と光の速度から、被写体までの距離を測定する方式である。これに加えてあるいはこれに代えて、赤外線センサ115として赤外線カメラを使用し、赤外線プロジェクタ116が特定のドットパターンを放射し、反射したドットパターンを赤外線カメラが撮影し、撮影されたドットパターンから被写体までの距離を測定してもよい。
ユーザ認識装置110と携帯型通信デバイス120の間の無線通信に赤外線が使用される場合には、赤外線プロジェクタ116から放射される赤外線が干渉源となりうる。この場合には、ユーザ認識装置110と携帯型通信デバイス120での通信期間と、赤外線プロジェクタ116からの放射期間とが交互に周期的に現れるように、時分割の調整を行って、赤外線の干渉を回避してもよい。また、Wi−Fi等で使用されるスキャン信号に同期させて、赤外線プロジェクタ116が赤外線を放射する時には、携帯型通信デバイス120は識別子報を送信せず、逆に、赤外線プロジェクタ116が赤外線放射を停止する時には携帯型通信デバイス120が識別子を送信することにより、干渉を回避してもよい。
ユーザ認識装置110のカメラ111は、画像データを逐次的にサーバ装置130に供給する。サーバ装置130は、画像データの各フレームと前フレームとの差分を分析する。この分析結果から、サーバ装置130は商品棚100の前に人がいることを認識し、人の動き、特にその人の腕および手の動きを認識する。
赤外線センサ115は、赤外線の測定結果を逐次的にサーバ装置130に供給する。サーバ装置130は、赤外線の測定結果からユーザ認識装置110とユーザの距離を認識する。サーバ装置130は、カメラ111の画像データおよび赤外線センサ115の測定結果からユーザ認識装置110とユーザの身体の部位(例えば、手、腕、頭部、型)との距離を認識することができる。
カメラ111で撮影されるユーザ50の手が商品棚100の商品105に接近したことを認識すると、サーバ装置130は、ユーザ認識装置110からユーザの手または腕との距離を認識し、その距離に基づいて、サーバ装置130は、ユーザ50の手がどの棚板の上の商品に接近しているのか認識する。商品棚の番号と棚板の番号に基づいて、サーバ装置130は、商品データベース140にアクセスし、ユーザの手が接近した商品を特定する。
サーバ装置130の動き分析部132は、第2の実施の形態に関して上述したように、カメラ111で得られる画像データからユーザの動きの特徴を分析する。また、動き分析部132は、赤外線センサ115で得られる測定結果もユーザの動きの特徴の分析に使用する。例えば、動き分析部132は、赤外線の測定結果に基づいて、ユーザの身体の部位との距離の時間変化、すなわち速度を計算してもよく、単位時間あたりの速度の変化、すなわち加速度を計算してもよい。動き分析部132は、赤外線センサ115で測定される距離の変動と、カメラ111で撮影されたユーザの動きに基づいて、ユーザの動きの特徴を特定する。
他方、第2の実施の形態と同様に、携帯型通信デバイス120の動き測定結果(加速度値)と携帯型通信デバイス120の識別子とを示す信号は、サーバ装置130の動き情報受信部131に供給される。サーバ装置130は、動き情報受信部131で受信された情報に基づいて、携帯型通信デバイス120の動きを得る。
サーバ装置130は、携帯型通信デバイス120の測定結果である携帯型通信デバイス120の動きと、赤外線センサ115の測定結果とカメラ111の画像データから特定されたユーザの動きとを比較して、これらの動きが同一ユーザの動きに起因するか否か判断する。これらの動きが同一ユーザの動きに起因すると判断される場合(カメラ111で撮影されているユーザと、携帯型通信デバイス120の所有者の同一性が確認される場合)に、サーバ装置130は、動き情報受信部131で受信された携帯型通信デバイス120の識別子をカメラ111で撮影されるユーザに対応付ける。
ユーザと識別子の対応付けの後、第1または第2の実施の形態と同様に、サーバ装置130は、カメラ111で撮影されるユーザの手が接近した商品をユーザ50が関心を有する商品として、識別子に対応付けて装置識別子・履歴データベース150に記録する。この時、サーバ装置130は、現在日付および時刻を装置識別子・履歴データベース150に記録してもよい。また、第1または第2の実施の形態と同様に、サーバ装置130は、ユーザが購入した商品を識別子に対応付けて装置識別子・履歴データベース150に記録する。この時、サーバ装置130は、現在日付および時刻を装置識別子・履歴データベース150に記録してもよい。
この実施の形態では、第2の実施の形態と同様の効果を達成することができる。また、カメラ111だけでなく距離測定装置を利用することで、ユーザ認識装置110からユーザの身体の部位までの距離を計測できるので、より精度良くユーザの動き(例えば加速度)を計算することが可能となる。
第2の実施の形態に関する変形は、この実施の形態においても適用可能である。例えば、携帯型通信デバイス120の消費電力削減の観点から、必要でない場合には、動き測定装置(例えば、加速度センサ125)および無線送信部123を動作させないことが可能である。
この実施の形態では、距離測定装置は、赤外線センサ115と赤外線プロジェクタ116の組合せである。但し、他の距離測定装置を使用してもよい。例えば、単一のユーザ認識装置110の内部に空間的に離れた複数のカメラ111を配置して、それぞれのカメラで撮影された画像の視差からユーザ認識装置110とユーザの距離を計算することができる。
第4の実施の形態
次に本発明の第4の実施の形態を説明する。第4の実施の形態は、第2または第3の実施の形態の改良である。図13は本発明の第4の実施の形態に係るユーザ観察システムを示す概略図である。
この実施の形態においては、携帯型通信デバイス120は、腕時計タイプであってもよいが、特に携帯電話(例えばスマートフォン)であると好ましい。携帯型通信デバイス120が携帯電話である場合には、携帯型通信デバイス120が露出しているとは限らないので、ユーザ認識装置110と携帯型通信デバイス120の無線通信の方式は電波通信が好ましい。
図14は、携帯電話で主に使用される三軸加速度センサの出力の変化の例を示すグラフである。三軸加速度センサは、X軸方向(センサの移動方向)、Y軸方向(移動方向に対する横方向)、およびZ軸方向(地球に対する垂直方向)のそれぞれの加速度を出力する。Z軸方向の加速度は、重力の影響を受けるため、平均値が高くユーザの足の着地時の影響を大きく受ける。Y軸方向の加速度はユーザの歩行時の左右の揺れの影響を受ける。X軸方向の加速度はユーザの前後の揺れの影響を受ける。
携帯電話の姿勢すなわち向きはユーザの持ち方(例えば、手で持たれた状態、衣服のポケットに入れられた状態、またはかばんに入れられた状態)に依存する。上記のX軸、Y軸、およびZ軸は、携帯電話の姿勢に応じて、互いに変わってしまいうる。
そこで、このユーザ観察システムは、事前測定結果データベース170を備える。事前測定結果データベース170には、様々な姿勢で動き測定機が保持されて動かされた場合に、動き測定機が測定するその動き測定機の動きに関する情報が記録されている。具体的には、各姿勢でのX軸方向の加速度測定結果、Y軸方向の加速度測定結果、およびZ軸方向の加速度測定結果を示す情報が記録されている。事前測定結果データベース170は、店舗10内に設置されていてもよいし、店舗10の外部に設置されていてもよい。また、事前測定結果データベース170は、商品データベース140または装置識別子・履歴データベース150が記録された記憶装置に記録されていてもよいし、別個の記憶装置に記録されていてもよい。
サーバ装置130は、携帯型通信デバイス120で測定されて報告される携帯型通信デバイス120の動きを示す情報を事前測定結果データベース170に記憶された情報と比較し、携帯型通信デバイス120の姿勢を逐次的に推定する。サーバ装置130は、推定された携帯型通信デバイス120の姿勢に基づいて、携帯型通信デバイス120の動きとユーザの動きとを比較する。サーバ装置130は、携帯型通信デバイス120で測定される三軸の加速度値の各々を姿勢に基づいて補正してもよい(例えば、加速度値の各々に姿勢に基づく係数を乗算してもよい)。ユーザが駆けたり、跳ねたり、前屈みになったり、振り向いたりするような歩行以外の状態でも、動き分析部132で分析された加速度値と、携帯型通信デバイス120の姿勢に基づいて補正された加速度値とを比較することにより、ユーザの同一性の確認の精度が向上する。
サーバ装置130は、動き分析部132で分析された加速度値と、携帯型通信デバイス120の姿勢に基づいて補正された加速度値が同一ユーザの動きに起因するか否か判断する。つまり、サーバ装置130は、カメラ111で撮影されているユーザと、携帯型通信デバイス120の所有者の同一性を確認する。
他の特徴は第2または第3の実施の形態と同じである。この実施の形態では、第2または第3の実施の形態と同様の効果を達成することができる。また、携帯型通信デバイス120の姿勢を推定することにより、ユーザの同一性の確認の精度が向上する。
第2または第3の実施の形態に関する変形は、この実施の形態においても適用可能である。例えば、携帯型通信デバイス120の消費電力削減の観点から、必要でない場合には、動き測定装置(例えば、加速度センサ125)および無線送信部123を動作させないことが可能である。
第5の実施の形態
次に本発明の第5の実施の形態を説明する。第5の実施の形態は、第1〜第4の実施の形態のいずれにも適用可能な変形である。この実施の形態では、カメラ111の近傍に位置する携帯型通信デバイス120のみがユーザに対応付けられ、カメラ111の近傍に位置しない携帯型通信デバイス120がユーザに対応付けられることを防止することができる。
図15は、第5の実施の形態に係るユーザ認識装置110を示す。このユーザ認識装置110は、上記の無線受信部114とは別の無線受信部(情報受信装置)117を備える。図16は、第5の実施の形態に係る携帯型通信デバイス120を示す。この携帯型通信デバイス120は、上記の無線送信部123とは別の無線送信部127を備える。
携帯型通信デバイス120の無線送信部127は、携帯型通信デバイス120の識別子を示す情報を送信する。ユーザ認識装置110の無線受信部117が無線送信部127から送信された情報を受信できる場合に、サーバ装置130は、その情報に示された識別子に基づいて、カメラ111で撮影可能な範囲内に位置しているユーザに保持される携帯型通信デバイス120の識別子を特定し、特定された識別子をカメラ11で撮影されるユーザに対応付ける。すなわち、ユーザ認識装置110の無線受信部114が、複数の携帯型通信デバイス120の無線送信部123から送信された識別子を示す信号を受信した場合であっても、サーバ装置130は、無線受信部117が受信した識別子に対応する携帯型通信デバイス120のみを特定し、その識別子をユーザに対応付ける。無線受信部117で受信されなかった情報を送信した携帯型通信デバイス120の識別子はユーザに対応付けられない。
したがって、サーバ装置130は携帯型通信デバイス120の識別子をユーザに容易に対応付けることができる。特に、第2〜第4の実施の形態にこの実施の形態を適用する場合には、カメラ111の画像データに基づいてユーザの動きと比較される携帯型通信デバイス120を特定することが容易になり、サーバ装置130での処理の負荷を軽減することができる。
この目的のため、無線送信部127の無線通信の方式は、無線送信部123の無線通信の方式と異なることが好ましい。例えば、無線送信部123の無線通信の方式が光通信であれば、無線送信部127の無線通信の方式は電波通信であるとよい。あるいは、無線送信部123の無線通信の方式がWi−Fiであれば、無線送信部127の無線通信の方式はRFIDであるとよい。
但し、無線送信部127の無線通信の方式は、無線送信部123の無線通信の方式と同じでもよい。この場合、無線送信部127の送信電力または送信強度は、無線送信部123のそれよりも小さく設定され、電磁波が届く距離が小さくされる。無線送信部123からの信号が無線受信部117での干渉とならないように、無線送信部123と無線送信部127は異なる周波数または時間で送信することが好ましい。
あるいは、携帯型通信デバイス120は、屋内測位技術を使用して携帯型通信デバイス120の位置を測定してもよく、サーバ装置130はその測定結果を使用してもよい。屋内測位技術としては、例えば、携帯型通信デバイス120の加速度センサなどを用いた歩行者デッドレコニングまたはIMES(Indoor Messaging System)がある。この場合には、携帯型通信デバイス120は、屋内測位技術で測定された携帯型通信デバイス120の位置と識別子とを示す情報を送信する。ユーザ認識装置110の無線受信部(位置情報受信装置)114は、この情報を受信する。ユーザ認識装置110はサーバ通信部112によりこの情報をサーバ装置130に転送する。
サーバ装置130は、この情報に基づいて、カメラ111で撮影可能な範囲内に位置しているユーザに保持される携帯型通信デバイス120の識別子を特定し、特定された識別子をカメラ11で撮影されるユーザに対応付ける。すなわち、ユーザ認識装置110の無線受信部114が、複数の携帯型通信デバイス120の無線送信部123から送信された識別子を示す信号を受信した場合であっても、サーバ装置130は、カメラの近傍にある携帯型通信デバイス120のみを特定し、その識別子をユーザに対応付ける。カメラの近傍にない携帯型通信デバイス120の識別子はユーザに対応付けられない。
第6の実施の形態
次に本発明の第6の実施の形態を説明する。第6の実施の形態は、第1〜第4の実施の形態のいずれにも適用可能な変形である。この実施の形態では、カメラで撮影されるユーザの外観と異なる外観のユーザの携帯型通信デバイス120がユーザに対応付けられることを防止することができる。
図17は、本発明の第6の実施の形態に係るユーザ観察システムを示す概略図である。図17に示すように、このユーザ観察システムは、図1のユーザ観察システムに加えて、ユーザ外観データベース175を備える。ユーザ外観データベース175は店舗10内に設置されていてもよいし、店舗10の外部に設置されていてもよい。ユーザ外観データベース175は他のデータベースが記録された記憶装置に記録されていてもよいし、別個の記憶装置に記録されていてもよい。ユーザ外観データベース175には、複数のユーザにそれぞれ保持される複数の携帯型通信デバイス120の複数の識別子と、これらのユーザの外観に関する情報が対応付けられて記録されている。各ユーザの外観に関する情報は、例えば、ユーザの顔、上半身、もしくは全身の画像データ、または身長、体重などの体型に関する数値データであってよい。
サーバ装置130は、携帯型通信デバイス120の識別子が報告されると、その識別子に対応する外観に関する情報をユーザ外観データベース175から読み出し、読み出された情報と、実際にカメラ111で撮影されるユーザの外観とを比較する。そして、類似性が高いユーザに対応する携帯型通信デバイス120の識別子を特定し、特定された識別子をカメラで撮影されるユーザに対応付ける。すなわち、ユーザ認識装置110の無線受信部114が、複数の携帯型通信デバイス120の無線送信部123から送信された識別子を示す信号を受信した場合であっても、サーバ装置130は、カメラ111で撮影されているユーザと似ているユーザが保持する携帯型通信デバイス120のみを特定し、その識別子をカメラで撮影されているユーザに対応付ける。カメラで撮影されているユーザと外観上似ていないユーザの携帯型通信デバイス120の識別子はカメラで撮影されているユーザに対応付けられない。
したがって、サーバ装置130は携帯型通信デバイス120の識別子をユーザに容易に対応付けることができる。特に、第2〜第4の実施の形態にこの実施の形態を適用する場合には、カメラ111の画像データに基づいてユーザの動きと比較される携帯型通信デバイス120を特定することが容易になり、サーバ装置130での処理の負荷を軽減することができる。この実施の形態を第5の実施の形態と組み合わせてもよい。
第7の実施の形態
次に本発明の第7の実施の形態を説明する。第7の実施の形態は、上述の実施の形態のいずれにも適用可能な変形である。この実施の形態では、キャッシュレジスタ160に識別子認識部166がなくても、ユーザが購入した商品を、携帯型通信デバイス120の識別子に対応付けて装置識別子・履歴データベース150に記録することが可能である。
図18は本発明の第7の実施の形態に係るユーザ観察システムを示す概略図である。図18に示すように、このユーザ観察システムは、図1のユーザ観察システムに加えて、ユーザ・装置対応付けデータベース180を備える。
図19に示すように、ユーザ・装置対応付けデータベース180には、ユーザを識別するユーザ識別子と、携帯型通信デバイス120の識別子とが対応付けられて記憶されている。ユーザ識別子としては、クレジットカード番号(電子決済識別子)、電子マネーの発行事業者が所有者を識別するための識別子(電子決済識別子)、店舗10で有効なユーザの会員番号のいずれでもよい。以下、ユーザの会員番号を例にとる。
図20に示すように、この実施の形態のキャッシュレジスタ160は、サーバ通信部167に接続された会員カード読み取り部168を備える。会員カード読み取り部168は、ユーザが所有する会員カードに記録された会員番号(ユーザ識別子)を読み取る。会員カードは、例えば、磁気カード、接触式ICカード、非接触式ICカードである。商品を持ったユーザがキャッシュレジスタ160の前に現れると、店員は会員カード読み取り部168に会員カードの会員番号を読み取らせる。
第1の実施の形態と同様に、料金の支払いが完了し、商品認識部165で商品が認識されると、キャッシュレジスタ160で商品の購入が検出されたことを意味する。キャッシュレジスタ160が商品の購入を検出し、会員カード読み取り部168が会員番号を読み取ると、サーバ通信部167は、商品と会員番号と日付および時刻を示す信号をサーバ装置130に送信する。
この信号を受信すると、サーバ装置130は、この信号に示される会員番号に対応する携帯型通信デバイス120の識別子をユーザ・装置対応付けデータベース180から読み出し、この信号に示される商品をユーザが購入した商品として、携帯型通信デバイス120の識別子に対応付けて装置識別子・履歴データベース150に記録する。サーバ装置130は、この信号に示される日付および時刻を装置識別子・履歴データベース150に記録してもよい。
ユーザ識別子がクレジットカード番号または電子マネーの電子決済識別子である場合、サーバ通信部167は、会員番号に代えてクレジットカード番号または電子マネーの電子決済識別子を示す信号をサーバ装置130に送信する。サーバ装置130は、この信号に示されるクレジットカード番号または電子マネーの電子決済識別子に対応する携帯型通信デバイス120の識別子をユーザ・装置対応付けデータベース180から読み出す。この変形は後述する第8の実施の形態にも適用可能である。
第8の実施の形態
次に本発明の第8の実施の形態を説明する。第8の実施の形態は、第7の実施の形態の変形である。図21は本発明の第8の実施の形態に係るユーザ観察システムを示す概略図である。図21に示すように、このユーザ観察システムは、図18のユーザ観察システムに加えて、ユーザ履歴データベース151を備える。ユーザ履歴データベース151は店舗10内に設置されていてもよいし、店舗10の外部に設置されていてもよい。ユーザ履歴データベース151は、他のデータベースが記録された記憶装置に記録されていてもよいし、別個の記憶装置に記録されていてもよい。この実施の形態では、ユーザの行動は、装置識別子・履歴データベース150ではなく、ユーザ履歴データベース151に総合的に記録される。装置識別子・履歴データベース150は、ユーザの行動を一時的に記録する。
図22は、ユーザ履歴データベース151の記録を示す。図22に示すように、ユーザ履歴データベース151には、ユーザの行動がユーザ識別子(例えば、店舗10で有効なユーザの会員番号)とともに記録されている。より具体的には、ユーザの会員番号と、商品名と、その商品に対するユーザの行動(関心を示したことまたは購入したこと)と、日付および時刻が、ユーザ履歴データベース151内で対応付けされている。
第1の実施の形態と同様に、料金の支払いが完了し、商品認識部165で商品が認識されると、キャッシュレジスタ160で商品の購入が検出されたことを意味する。キャッシュレジスタ160が商品の購入を検出し、会員カード読み取り部168が会員番号を読み取ると、サーバ通信部167は、商品と会員番号と日付および時刻を示す信号をサーバ装置130に送信する。
この信号を受信すると、サーバ装置130は、この信号に示される商品をユーザが購入した商品として、この信号に示される会員番号に対応付けてユーザ履歴データベース151に記録する。また、サーバ装置130は、この信号に示される会員番号に対応する携帯型通信デバイス120の識別子をユーザ・装置対応付けデータベース180から読み出し、読み出された識別子に装置識別子・履歴データベース150で対応付けられて記録されているユーザの行動を会員番号に対応付けてユーザ履歴データベース151に記録する。具体的には、装置識別子・履歴データベース150に携帯型通信デバイス120の識別子とともに記録されたユーザが関心を有した商品に関する項目をサーバ装置130はユーザ履歴データベース151に記録する。サーバ装置130は、ユーザ履歴データベース151に記録した項目を装置識別子・履歴データベース150から削除してよい。
この実施の形態では、ユーザの行動全体(商品に関心を有したことおよび商品を購入したこと)を携帯型通信デバイス120の識別子ではなく、ユーザ識別子に対応付けてユーザ履歴データベース151で記録する。装置識別子・履歴データベース150は、ユーザが商品に関心を有した場合に一時的に利用される。この実施の形態では、ユーザ識別子に基づいて、ユーザの行動全体を調査することが可能である。ユーザの行動を分析する者にとってはこの実施の形態が便利な場合がある。例えば、ユーザが複数の携帯型通信デバイス120を有する場合でも、ユーザ・装置対応付けデータベース180において単一のユーザ識別子と、複数の携帯型通信デバイス120の識別子を対応付けておけば、ユーザ履歴データベース151には、同一ユーザに関する行動履歴が蓄積される。ユーザが携帯型通信デバイス120を買い換えた場合も同様である。
第9の実施の形態
次に本発明の第9の実施の形態を説明する。図23は本発明の第9の実施の形態に係るユーザ観察システムを示す概略図である。この実施の形態では、可搬型通信デバイス220が、店舗10が所有する買い物かごまたはショッピングカート210の各々に取り付けられている。買い物かごまたはショッピングカート210自体が可搬型デバイスであると考えることもできる。したがって、この実施の形態では、可搬型通信デバイス220はユーザの所有物ではなく、店舗10をユーザが訪問するたびに、異なる可搬型通信デバイス220をユーザが運搬する。以下、ショッピングカート210に可搬型通信デバイス220が取り付けられた例を説明する。
図23に示すように、このユーザ観察システムは、図1のユーザ観察システムに加えて、ユーザ・装置対応付けデータベース190および電波通信装置670を備える。また、このユーザ観察システムは、装置識別子・履歴データベース150ではなく、第8の実施の形態に関連して上記したものと同様のユーザ履歴データベース151を備える。電波通信装置670は、例えばWi−Fiのアクセスポイントであって、店舗10内に設置されており、サーバ装置130と通信する。ユーザ・装置対応付けデータベース190およびユーザ履歴データベース151は、店舗10内に設置されていてもよいし、店舗10の外部に設置されていてもよい。商品データベース140、ユーザ・装置対応付けデータベース190およびユーザ履歴データベース151は、1つの記憶装置に記録されていてもよいし、別個の記憶装置に記録されていてもよい。
この実施の形態では、可搬型通信デバイス220の識別子は、例えば、ショッピングカート210の番号であってよい。但し、個々のユーザの行動を分析するマーケティングの目的から、サーバ装置130には、可搬型通信デバイス220の識別子にユーザを一意に特定するユーザ識別子が対応付けられて報告される。ユーザ識別子としては、例えば、店舗10で有効なユーザの会員番号、ユーザが保持するスマートフォンにインストールしたアプリケーションに登録した一意の番号がある。
図24に示すように、可搬型通信デバイス220は、識別子記憶部221と、電波受信部222と、電波送信部223と、制御部226と、光受信部228と、光送信部229と、会員カード読み取り部230とを備える。好ましくは、可搬型通信デバイス220は、上記の電子マネー情報記憶部124と同様の電子マネー情報記憶部224をさらに備える。
識別子記憶部221には、可搬型通信デバイス220の識別子(例えばショッピングカート210の番号)が記憶されている。会員カード読み取り部230は、店舗10の事業者が発行しユーザが所有する会員カード(図示せず)に記録された会員番号(ユーザ識別子)を読み取る。会員カードは、例えば、磁気カード、接触式ICカード、非接触式ICカードである。ショッピングカート210を用いるユーザは、会員カード読み取り部230に会員カードの会員番号を読み取らせる。
制御部226は例えばCPUである。制御部226はペアリング部231を備える。ペアリング部231は、制御部226がコンピュータプログラムに従って動作することにより実行される機能ブロックである。会員カード読み取り部230が会員番号を読み取ると、ペアリング部231は、識別子記憶部221に記憶された可搬型通信デバイス220の識別子と会員番号をペアリング(対応付け)する。
ユーザ識別子がスマートフォンにインストールしたアプリケーションに登録した一意の番号である場合には、会員カード読み取り部230の代わりに、可搬型通信デバイス220は、その番号をユーザが入力する装置を備える。ペアリング部231はその番号と可搬型通信デバイス220の識別子をペアリングする。
電波受信部222は、店舗10内の電波通信装置670から送信された無線信号を受信する。電波送信部223は、無線信号を送信し、この無線信号は電波通信装置670で受信される。具体的には、制御部226のペアリング部231は、電波送信部223により、可搬型通信デバイス220の識別子とユーザ識別子(例えば会員番号)のペア(セット)を示す信号を送信する。電波通信の方式は、Wi−Fi、BluetoothまたはRFIDのいずれでもよい。
光受信部228は、ユーザ認識装置110の無線送信部113(図2)から送信された光信号を受信する。光送信部229は、光信号を送信し、この光信号はユーザ認識装置110の無線受信部114で受信される。具体的には、ユーザ認識装置110の無線送信部113からの要求を光受信部228は受信し、この要求に応じて、制御部226は、光送信部229により識別子記憶部221に記憶された識別子を示す信号を送信する。光通信の方式は、可視光通信でもよいし、赤外線通信でもよい。
ユーザが店舗10を訪問し、ショッピングカート210を選択した後、ユーザは、会員カード読み取り部230にて会員カードをスライドする。会員カード読み取り部230は会員カードの会員番号を読み取る。すると、制御部226のペアリング部231は、識別子記憶部221に記録された可搬型通信デバイス220の識別子と会員番号とを示す信号を生成する。電波送信部223はこの信号を送信する。
可搬型通信デバイス220の電波受信部222は必ずしも必要ではない。但し、電波通信装置670は、ユーザに会員番号の読み取りを促すための信号を各可搬型通信デバイス220に送信してもよい。電波受信部222がその信号を受信して、可搬型通信デバイス220の移動検知部(図示せず)が可搬型通信デバイス220の移動開始を検出すると、制御部226は、スピーカまたはディスプレイ(図示せず)でユーザに会員番号の読み取りを促してもよい。
電波通信装置670は電波送信部223から送信された信号を受信し、この信号をサーバ装置130に転送する。したがって、サーバ装置130は、新規にペアリングされた可搬型通信デバイス220の識別子とユーザの会員番号を認識する。すると、サーバ装置130は、ユーザ・装置対応付けデータベース190に、ペアリングされた可搬型通信デバイス220の識別子とユーザの会員番号を記録する。
図25は、ユーザ・装置対応付けデータベース190の記録を示す。図25に示すように、ユーザ・装置対応付けデータベース190には、可搬型通信デバイス220の識別子とユーザの会員番号とが対応付けられて記録されている。図25において会員番号が空欄の記録は、その可搬型通信デバイス220(ひいてはショッピングカート210)がどのユーザにも使用されていないことを示す。
第1の実施の形態と同様に、ユーザ認識装置110のカメラ111は、画像データを逐次的にサーバ装置130に供給する。サーバ装置130は、画像データの各フレームと前フレームとの差分を分析する。そして、第1の実施の形態と同様に、カメラ111で撮影されるユーザ50の手が商品棚100の商品105に接近したことをサーバ装置130は認識することができる。
カメラ111で撮影されるユーザ50の手が商品棚100の商品105に接近した場合、サーバ装置130は、可搬型通信デバイス220に可搬型通信デバイス220の識別子を示す信号を送信することを要求する。サーバ装置130は、ユーザ50を撮影しているカメラ111を有するユーザ認識装置110にこの要求を送信し、ユーザ認識装置110はサーバ通信部112を介してその要求を受信する。要求を受信したユーザ認識装置110は、無線送信部113を介してその要求を送信する。無線送信部113から送信される光が到達可能な範囲にあるユーザ50の可搬型通信デバイス220は、この要求を光受信部228によって受信する。
あらかじめ、無線送信部113から送信される光が到達可能な範囲がカメラ111で撮影可能な所定の範囲とほぼ一致するように、無線送信部113の送信出力またはカメラ111の設置場所が調整されていると好ましい。この場合には、カメラ111で撮影されているユーザ50の可搬型通信デバイス220は、この要求を光受信部228によって受信することができ、カメラ111で撮影されていないユーザ50の可搬型通信デバイス220は、この要求を受信できない。したがって、店舗10内に複数の人がいる場合でも、観察対象とするユーザを特定しやすい。
識別子を示す信号の要求を受信すると、可搬型通信デバイス220の制御部226は、識別子記憶部221に記憶されている可搬型通信デバイス220の識別子を読み出して、識別子を示す信号を光送信部229により無線で(つまり光で)送信する。
ユーザ認識装置110の無線受信部114は、可搬型通信デバイス220から送信された識別子を示す信号を受信する。可搬型通信デバイス220からユーザ認識装置110への無線通信に光を利用する場合には、ユーザ認識装置110のカメラ111が光信号を認識する光受信装置として機能するので、無線受信部114を設ける必要はない。
ユーザ認識装置110の無線受信部114(またはカメラ111)が識別子を示す信号を受信すると、ユーザ認識装置110のサーバ通信部112は可搬型通信デバイス220の識別子をサーバ装置130に報告する。サーバ装置130は、可搬型通信デバイス220の識別子を示す信号をカメラ111から受信すると、この識別子をカメラ111で撮影されるユーザ50に対応付ける。
カメラ111が可搬型通信デバイス220から送信される光信号を認識する場合には、サーバ装置130は、カメラの画像データの変化から可搬型通信デバイス220の識別子を認識することができる。つまり、画像データから得られる光の強度の強弱もしくは点滅パターン、波長の変化パターン、またはこれらの組合せにより、識別子が認識される。
この場合、画像を構成する多数の画素のうち光の発信源の画素が特定されるので、可搬型通信デバイス220の光送信部229の位置が特定される。そして、サーバ装置130は、カメラ111で撮影されるユーザの位置に対して、光の発信源(すなわち信号の発信源)である可搬型通信デバイス220の光送信部229の位置が所定の範囲にある場合に、光の発信源である可搬型通信デバイス220の識別子をユーザに対応付けることができる。これにより、ユーザ認識装置110からの識別子の要求に応じて、複数の可搬型通信デバイス220が発光する場合でも、観察対象とするユーザを特定しやすい。例えば、図26に示す例において、カメラ111で撮影されているユーザ50の頭部の中心から所定の距離Lの範囲201内に光送信部229がある可搬型通信デバイス220の識別子を、サーバ装置130はカメラ111で撮影されるユーザ50に対応付ける。範囲201から外にある光送信部229が識別子を示す信号を送信するために発光したとしても、サーバ装置130はその可搬型通信デバイス220の識別子をカメラ111で撮影されるユーザ50に対応付けない。
あるいは、サーバ装置130は、光の発信源である光送信部229とユーザの頭部の移動方向が同じである場合に、光の発信源である光送信部229を有する可搬型通信デバイス220の識別子をユーザに対応付けてもよい。あるいは、サーバ装置130は、その他の画像分析の手法により、光の発信源である光送信部229を有する可搬型通信デバイス220の識別子をユーザに対応付けてもよい。例えば、光の発信源である光送信部229と、ショッピングカート210と、これを運搬しているユーザの腕と頭部との位置に基づいて、光の発信源である光送信部229を有する可搬型通信デバイス220の識別子をユーザに対応付けてもよい。
ユーザと識別子の対応付けの後、サーバ装置130は、カメラ111で撮影されるユーザ50の行動を可搬型通信デバイス220の識別子に対応付けてユーザ履歴データベース151に記録する。具体的には、カメラ111で撮影されるユーザ50の手が店舗10内の商品105に接近した場合、サーバ装置130は、この商品をユーザ50が関心を有する商品として、ユーザの会員番号に対応付けてユーザ履歴データベース151に記録する。つまり、この実施の形態では、カメラ111で撮影されるユーザ50の手が店舗10内の商品105に接近した場合、ユーザと識別子が対応付けされ、さらにサーバ装置130は、この商品をユーザ50が関心を有する商品として、ユーザの会員番号に対応付けてユーザ履歴データベース151に記録する。第1の実施の形態と同様に、サーバ装置130は、商品棚の番号と棚板の番号に基づいて、サーバ装置130は、商品データベース140にアクセスし、ユーザの手が接近した商品を特定することができる。サーバ装置130は、現在日付および時刻をユーザ履歴データベース151に記録してもよい。
ユーザ履歴データベース151の記録は、第8の実施の形態に関連して示した図22と同様である。図22に示すように、ユーザ履歴データベース151には、ユーザの行動がユーザ識別子(例えば、店舗10で有効なユーザの会員番号)とともに記録されている。より具体的には、ユーザの会員番号と、商品名と、その商品に対するユーザの行動(関心を示したことまたは購入したこと)と、日付および時刻が、ユーザ履歴データベース151内で対応付けされている。例えば、ユーザ履歴データベース151の記録の第1行目は、会員番号0001を持つ携帯型通信デバイスの所有者であるユーザが、2012年12月14日の23時00分15秒に商品AACに関心を有したことを示す。これは、ユーザの手が接近した商品AACをユーザが関心を有する商品として、サーバ装置130が会員番号に対応付けて記録した結果である。
ユーザ履歴データベース151にユーザ50が関心を有する商品を記録する前に、サーバ装置130は、ユーザ・装置対応付けデータベース190にアクセスし、商品に接近したユーザに対応する可搬型通信デバイス220の識別子に基づいて、ユーザ・装置対応付けデータベース190内で、その識別子に対応する会員番号を検索する。これによりユーザ識別子である会員番号が特定される。サーバ装置130は、この会員番号を商品名とともにユーザ履歴データベース151に記録する。
ユーザ50は、商品105を購入する場合には、キャッシュレジスタ(商品購入検出装置)160で料金を支払う。図27に示すように、この実施の形態のキャッシュレジスタ160は、サーバ通信部167に接続された会員カード読み取り部168を備える。会員カード読み取り部168は、会員カード読み取り部230と同様に、ユーザが所有する会員カードに記録された会員番号(ユーザ識別子)を読み取る。商品を持ったユーザがキャッシュレジスタ160の前に現れると、店員は会員カード読み取り部168に会員カードの会員番号を読み取らせる。
第1の実施の形態と同様に、料金の支払いが完了し、商品認識部165で商品が認識されると、キャッシュレジスタ160で商品の購入が検出されたことを意味する。キャッシュレジスタ160が商品の購入を検出し、識別子認識部166が可搬型通信デバイス220の識別子を認識し、会員カード読み取り部168が会員番号を読み取ると、サーバ通信部167は、商品と可搬型通信デバイス220の識別子と会員番号と日付および時刻を示す信号をサーバ装置130に送信する。
この信号を受信すると、サーバ装置130は、この信号に示される商品をユーザが購入した商品として、この信号に示される会員番号に対応付けてユーザ履歴データベース151に記録する。サーバ装置130は、この信号に示される日付および時刻をユーザ履歴データベース151に記録してもよい。図22に示すユーザ履歴データベース151の記録の例では、第2行目は、会員番号0001を持つ携帯型通信デバイスの所有者であるユーザが、2013年1月25日の8時16分34秒に商品BACを購入したことを示す。これは、ユーザが購入した商品BACをサーバ装置130が会員番号に対応付けて記録した結果である。
また、サーバ装置130は、ユーザ・装置対応付けデータベース190にアクセスし、キャッシュレジスタ160から送信された信号に示される識別子と会員番号のペアリングを解消する。具体的には、ユーザ・装置対応付けデータベース190の記録の可搬型通信デバイス220の識別子を残し、会員番号を削除する。
この実施の形態では、キャッシュレジスタ160は、識別子認識部166と会員カード読み取り部168を備える。しかし、識別子認識部166と会員カード読み取り部168のいずれか一方を排除してもよい。識別子認識部166がなく会員カード読み取り部168がキャッシュレジスタ160に設けられる場合には、サーバ通信部167は、商品と会員番号と日付および時刻を示す信号をサーバ装置130に送信する。サーバ装置130は、この信号に示される商品をユーザが購入した商品として、この信号に示される会員番号に対応付けてユーザ履歴データベース151に記録する。会員カード読み取り部168がなく識別子認識部166がキャッシュレジスタ160に設けられる場合には、サーバ通信部167は、商品と可搬型通信デバイス220の識別子と日付および時刻を示す信号をサーバ装置130に送信する。サーバ装置130は、この信号に示される識別子に基づいて、ユーザ・装置対応付けデータベース190から会員番号を読み出し、この信号に示される商品をユーザが購入した商品として、会員番号に対応付けてユーザ履歴データベース151に記録する。また、サーバ装置130は、識別子と会員番号のいずれか一方を認識すれば、ユーザ・装置対応付けデータベース190での識別子と会員番号のペアリングを解消することができる。
このようにして、各ユーザについて、購入した商品に関する情報と、関心を持ったが購入には至らなかった商品に関する情報とがユーザ履歴データベース151に蓄積される。ユーザ履歴データベース151に蓄積された情報を分析することにより、より高度なマーケティングが可能になると考えられる。ユーザ履歴データベース151内の各記録に日付および時刻が付与される場合には、各ユーザについて、関心ある商品の変化および購入する商品の変化を分析すること、および店舗10への各訪問時に関心を有した商品と購入した商品を分析することが可能になる。
この実施の形態では、カメラ111で撮影されるユーザ50の手が商品棚100の商品105に接近した場合に、サーバ装置130は、携帯型通信デバイス120の識別子を示す信号の要求を送信する。したがって、ユーザが商品に実際に関心を有する場合に、カメラで撮影されるユーザと携帯型通信デバイス120の識別子を対応付けることが可能である。
しかし、カメラ111で撮影可能な所定の範囲内にユーザが入った場合に、サーバ装置130は、携帯型通信デバイス120の識別子を示す信号の要求を送信してもよい。この場合、ユーザが商品に関心を有する可能性が高いときに、カメラで撮影されるユーザと携帯型通信デバイス120の識別子を対応付けることが可能である。
また、買い物かごまたはショッピングカート210には、大型のバッテリを取り付けることができる。可搬型通信デバイス220の消費電力が大きくても許容されると考えられる。そこで、サーバ装置130からの要求に応じて、可搬型通信デバイス220が識別子を示す信号を送信するのではなく、常時、識別子を示す信号を送信してもよい。
この実施の形態では、電波通信装置670は、ユーザ認識装置110と別個に設けられているが、各ユーザ認識装置110に設けられていてもよい。また、電波通信装置670の役割をユーザ認識装置110の無線送信部113および無線受信部114が実行し、可搬型通信デバイス220は1種類の無線通信のみを実行するようにしてもよい。
この実施の形態では、可搬型通信デバイス220の識別子を示す信号を光送信部229が無線で(つまり光で)送信し、ユーザ認識装置110の無線受信部114がこの信号を受信して、サーバ装置130に転送する。しかし、図28に示すように、可搬型通信デバイス220の表面にその装置識別子を表す装置識別子表示240を印刷またはその他の手法により設けてもよい。装置識別子表示としては、例えばバーコードまたはQRコード(登録商標)であってよい。サーバ装置130は、カメラ111で撮影可能な所定の範囲内にユーザが入った場合、またはカメラ111で撮影されるユーザの手が店舗10内の商品に接近した場合、可搬型通信デバイス220に示された装置識別子表示240をカメラ111に撮影することを要求してよい。カメラ111が装置識別子表示240を撮影すると、サーバ装置130は、装置識別子表示240で表される装置識別子に対応するユーザ識別子をユーザ・装置対応付けデータベース190から読み出し、ユーザが関心を有する商品をユーザ識別子に対応付けてユーザ履歴データベース151に記録してよい。この場合には、ユーザ認識装置110では、無線送信部113および無線受信部114が不要であり、可搬型通信デバイス220では光受信部228および光送信部229が不要である。サーバ装置130には、装置識別子表示240から装置識別子を解読する機能が必要である。
この実施の形態では、可搬型通信デバイス220において、識別子記憶部221に記録された可搬型通信デバイス220の識別子を会員カード読み取り部230で読み取られた会員番号がペアリングされ、制御部226のペアリング部231は、電波送信部223により、可搬型通信デバイス220の識別子とユーザ識別子(会員番号)とを示す信号を送信する。しかし、可搬型通信デバイス220は、ユーザ識別子(会員番号)のみを電波送信部223により送信してもよい。この場合には、可搬型通信デバイス220の識別子記憶部221は不要であり、ペアリング部231も不要であり、ユーザ・装置対応付けデータベース190も不要であり、キャッシュレジスタ160の識別子認識部166も不要である。
他の変形
上記のユーザ観察システムの各構成要素において、CPUが実行する各機能は、CPUの代わりに、ハードウェアで実行してもよいし、例えばFPGA(Field Programmable Gate Array)、DSP(Digital Signal Processor)等のプログラマブルロジックデバイスで実行してもよい。
上記の各実施の形態においては、サーバ装置130は、ユーザの手が接近した商品をユーザが関心を有する商品として装置識別子またはユーザ識別子に対応付けてデータベースに記録する。これに加えて、サーバ装置130は、ユーザが少し関心を有する商品をデータベースに記録してもよい。つまり、サーバ装置130は、ユーザの手が接近したユーザが高い関心を有する商品と、ユーザが低い関心を有する商品を記録することで、複数段階の関心度を記録してもよい。例えば、サーバ装置130は、カメラ111の画像データに基づいて、ユーザが特定の商品棚100の前に滞在する時間を計算し、滞在時間が所定の閾値を超えた場合に、その商品棚100に陳列された商品を、ユーザが少し関心を有する商品として装置識別子またはユーザ識別子に対応付けてデータベースに記録してよい。この場合、サーバ装置130は、カメラ111の画像データに基づいて、商品棚100に陳列された商品にユーザが注目しているか否かを判断してもよく、ユーザが商品に注目する時間が所定の閾値を超えた場合に、その商品棚100に陳列された商品を、ユーザが少し関心を有する商品として装置識別子またはユーザ識別子に対応付けてデータベースに記録してよい。この結果、データベースには、ユーザが高い関心を示したことと、ユーザが低い関心を示したことを示す記録が蓄積される。
前記の実施の形態および変形は、矛盾しない限り、組み合わせてもよい。