JP4369326B2 - 施設内情報提供システム及び施設内情報提供方法 - Google Patents

施設内情報提供システム及び施設内情報提供方法 Download PDF

Info

Publication number
JP4369326B2
JP4369326B2 JP2004239130A JP2004239130A JP4369326B2 JP 4369326 B2 JP4369326 B2 JP 4369326B2 JP 2004239130 A JP2004239130 A JP 2004239130A JP 2004239130 A JP2004239130 A JP 2004239130A JP 4369326 B2 JP4369326 B2 JP 4369326B2
Authority
JP
Japan
Prior art keywords
information
user
facility
recognition
space
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004239130A
Other languages
English (en)
Other versions
JP2006059053A (ja
Inventor
裕明 鹿野
直彦 入江
淳史 伊藤
淳二 稲場
充 井上
和隆 坂井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2004239130A priority Critical patent/JP4369326B2/ja
Priority to US11/071,342 priority patent/US7454216B2/en
Publication of JP2006059053A publication Critical patent/JP2006059053A/ja
Application granted granted Critical
Publication of JP4369326B2 publication Critical patent/JP4369326B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce

Landscapes

  • Business, Economics & Management (AREA)
  • Accounting & Taxation (AREA)
  • Development Economics (AREA)
  • Economics (AREA)
  • Finance (AREA)
  • Marketing (AREA)
  • Strategic Management (AREA)
  • Physics & Mathematics (AREA)
  • General Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本発明は、不特定の多数の利用者が訪れる施設において、施設内における利用者の位置および振舞いなどに応じて、適切な情報を提供する情報提供システム及び施設内情報提供方法に関するものである。
近年、都市再開発に伴い、様々な大規模商業施設が新たに開発されており、その中に属する店舗数は100を超えるものも存在する。このように多様化する店舗あるいは商品の情報を、如何に利用者に対して伝達するかという点が問題となっている。このために提案されているシステムとしては、例えば特許文献1あるいは特許文献2にあるような無線端末を用いた施設内情報管理システムなどがある。特許文献1においては、固有の識別情報を有する無線携帯端末と無線基地局により、ユーザの位置および移動履歴を検出/蓄積し、これを基に例えば目的地までの経路情報を無線携帯端末に提供するシステムを提案している。
特開2000-236571号公報 特開2002-026804号公報
従来の発明のように、携帯電話あるいはICタグといった無線端末を利用して、利用者の位置を検出するためには、情報提供を受けたい利用者全てが当該無線端末を所持する必要がある。したがって、当該機器を所持しない若年者あるいは機器の操作が不得手な人に対して、情報提供サービスを行うことができないといった課題がある。
また、単に無線端末を所持しているだけでは、情報提供を受けたい利用者の「振舞い」、例えば、迷っている、疲れている、などの情報を得ることはできないため、利用者のその場の状況に応じた情報提供サービスを行うことができないといった、別の課題も生じる。
さらには、情報提供を受けたい利用者にとって有効な情報である、施設内の現在の状況、例えば、行きたい店舗の混雑度あるいは注目度といった状況をリアルタイムで捕捉するためには、従来技術では施設内の全ての利用者が無線端末を所持している必要があり、その普及率が低い場合、こういった施設内の現在の状況をリアルタイムで利用者に対して伝達することは困難である。
本発明の目的は、不特定の利用者が施設内の目的店舗を利用するに当り、特別な端末等を携帯することなしに、利用者自身のそのときの状況、また利用対象となる目的地の店舗や途中経路の状況に応じた、的確な情報のサービスを受けられる施設内情報提供システム及び施設内情報提供方法を提供することにある。
上述の課題を解決するために本願において開示される発明のうち代表的なものの概要を簡単に説明すれば以下の通りである。
施設を訪れる不特定の利用者を対象とした情報を生成し出力する情報処理システムであって、前記施設は、空間認識ノードが複数個設置され、該各空間認識ノードに配置されたセンサを含む認識手段及び情報処理装置を有しており、前記施設内で利用者が置かれる複数の場を想定し、予め該利用者の前記各場に対応する認識動作とシステム応答をプロファイルとして定義したプロファイル情報を備え、前記センサで取得された情報と前記プロファイル情報とにより前記施設内における特定の前記利用者を把握しかつその振舞いを認識する機能と、該認識結果に基づいて、前記利用者に対する応答動作を決定する機能と、該応答動作に対応した前記利用者向けの情報を生成し出力する機能を有する施設内情報提供システム。
本発明により、施設を訪れる不特定の利用者に対して、該利用者の位置や振舞いに応じて、端末などの操作なしに、施設内での情報提供を可能とする情報システムが構築可能となる。
本発明の実施形態の代表例として、大規模商業施設における案内システムを挙げ、以下説明する。まず、システムの一般構成について説明する。図1に本システムの全体構成図を示す。商業施設内における店舗や休憩スペース、通路、施設出入口といった複数の場所(1a、1b)に、カメラなどのセンサ、及び情報処理装置を具備した空間認識ノードHAN(10a〜10c)を、当該場所内の何れの場所においても最低3台以上のHANがサービス利用者(13)を捕捉することができる位置に設置し、各HANをネットワークHA−NET(11)を介して相互に接続する。なお、一つのHA−NETがカバーする範囲は、例えば店舗、休憩場所、階段、通路など、一定の空間範囲に限定し、複数のHA−NETで施設内のサービス対象空間全域を連続でカバーする。なお、HA−NETがカバーする一場所に設置するHANの個数は、認識対象空間となる当該場所の広さ、サービス利用者(13)の人数、またサービス実現に必要な認識機能、HANが備えるセンサの種類と性能、によって任意の個数を取りうる。また、ネットワーク接続手段は有線、無線、何れでも良い。
当該HA−NETは構内ネットワークLAN(14)に接続する。また、サーバSRV(15)をLANに接続する。サーバの個数は、施設の規模、利用者の数、提供サービスの種類によって異なるが、本実施例では施設に1台設置するとする。SRV(15)は、各HANの動作制御と動作手順プログラムの配信、利用者の位置と状況管理、利用者の来店履歴や嗜好といった個人情報の管理、及び商業施設の施設情報と来店人数などの状況管理を行う。SRVには、上述機能を実現するために、施設内の地図情報、HANの位置、複数の認識プログラムモジュール、店舗・施設情報、利用者プロファイル情報、利用者の行動履歴、利用者の位置と状況、当該場所の人数、といった情報が登録され、HANに対し当該情報を適宜配信することができる。また、各場所内の代表的なポイント、例えばエレベータの乗降口、エスカレータの乗降口、通路の分岐、店舗の入口等に情報表示装置DSP(12)を設置し、LANに接続することで、SRVやHANから利用者(13)に対し各種情報を提示する。なお、本発明では、HA−NETと構内ネットワークLANを合わせて、単に通信ネットワークと呼ぶ。
次に、空間認識ノードHAN(10)の構成について説明する。図2Aに、HANの構成図を示す。HAN10は、カメラCAM(103)、演算処理装置PE(102)、読み出し専用メモリROM(105)、メモリRAM(104)、ネットワーク接続装置NIF(101)で構成する。CAM(103)は、空間状況を画像により捉えるが、CAM(103)の他にも、認識目的に合わせ、マイクロフォン、温度、湿度、圧力、振動、などの各種センサのいずれの組み合わせで構成しても良い。
次に、本システムにおける位置検出手段について説明する。本実施例では、不特定利用者が多数訪れる施設において、例えば、” 利用者(13)が道に迷った”などの施設内での特定利用者の行動や振舞いを認識することを一つの目的としている。即ち、利用者の顔部やジェスチャ等は、施設内のいずれかで把握し認識する必要がある。そこで、施設内を複数の場所1a、1b、1nに区分し、各場で空間認識ノードHAN(10a〜10c)を3点に配置する。なお、ノードの数は4つ以上でも差し支えない。
そして、図2Bに示すように各場所のすべての空間認識ノードHAN(10a〜10c)において、カメラの中心線が、各場所の空間内の中心点(60)と一致するように、カメラ方向を決定する。これら複数のノードによる協調認識処理により、本システムでは、認識内容である特定の利用者(13)の位置、その利用者の顔部等の外見的特徴、及び振舞い等を検出し、その結果に基づき、特定の利用者(13)に対する情報表示装置DSP(12)による情報提供等の制御を行う。これにより各HAN内の一つのノードに必要な機能が制限されるため各ノード(10a〜10c)の処理負担を軽減することが可能となる。
図2Aに戻り、CAM(103)で捉えた画像は一旦RAM(104)に格納され、演算処理装置PE(102)は当該画像を逐次読み出し、ROM(105)やRAM(104)に格納されている処理手順に従って当該画像を処理し、その結果をRAM104に格納する。また、演算処理装置PE(102)はネットワーク接続装置NIF(101)を介して他のHAN(10)やSRV(15)と通信することで、RAMに格納された当該結果を送信する。またさらに、PE(102)はNIFを介して、他のHANからの処理結果また、SRVからの制御情報やプログラムを受信し、RAMに格納する。
例えば、RAM(104)にはプログラムとして、位置検出モジュール、体部位認識モジュール、動線追跡モジュール、状況判断モジュール、応答動作決定モジュール、等を格納する。なおこれらのプログラムは、SRV(15)からLAN(14)、HA−NET(11)を介して配信を受ける。
図2Cに本システムにおける空間認識ノードHAN(10a〜10c)と情報表示装置DSP(12)の関係を示す。各センシングノード(認識処理装置)HAN(10a〜10c)は、カメラCAM(103)等のセンサSFNSOR(103)及び、当該カメラにて撮影した動画像に対し認識処理を行う情報処理装置PE1(102)で構成される。また、これらの複数のセンシングノードHANは、ネットワーク接続装置NIF(101)や通信ネットワークを介して相互に接続され、情報表示装置DSP(12)やサーバ(15)にも接続される。なお、通信ネットワークはUSBやイーサーネット等の有線のネットワークであっても、無線LANやBlue Tooth等の無線のネットワークであっても構わない。自立応答機器としての情報表示装置DSP(12)は、ディスプレイやスピーカ、モータ、LED、といったユーザに対し情報提示を行いあるいは受け付ける手段となるヒューマン・インタフエースHIF(122)と、コマンドのデコード並びに当該ヒューマン・インタフエースHIFの自律制御を行う情報処理装置PE2(124)、から構成される。これらの情報処理装置PE1,PE2(102、124)は、夫々、センシングノードであるHAN及び情報表示装置DSPの中に内蔵されるのが好ましい。センシングノードであるHAN(10a〜10c)や情報表示装置DSP(12)の中に内蔵することにより一つのセンシングノードを小さく構成することができ、一つの空間内により多くのセンシングノードを配置することが可能となる。但し、内蔵させることが処理性能等のため困難な場合には、パーソナルコンピュータ等の既存の情報処理装置を利用しても構わない。また、情報表示装置DSP(12)はロボットと組み合わせた応答機器として構成し、表示画面による案内などのほか、音声によるガイドや手の動きなどによる方向指示等と組み合わせるようにしても良い。
本システムでは、センシングノードHAN(10a〜10c)及び情報表示装置DSP(12)を制御するサーバは別途設けず、当該複数のセンシングノード及び自律応答機器間で、統合制御処理を行うマスタを動的に決定し、マスタとなったノードまたは機器は統合制御処理も同時に行う。また、例えば各々対象ユーザに一番近い機器をマスタにし、周辺ノードとの通信ネットワークを動的に構成することで、対象ユーザに対して必要な情報を他のセンシングノードから受取ることが可能となり、当該ユーザが所望のサービスを別個に受けることが可能となる。
続いて、図2Dに本システムのマスタ処理部MSP(41)、スレーブ処理部SLPの処理概要を示す。各センシングノード(10a〜10c)はスレーブ処理部として認識処理を行う。また、マスタとして割り当てられたセンシングノードは、マスタ処理部としても働く。即ち、各センシングノード(10a〜10c)は、マスタ処理部MSP(41)、スレーブ処理部SLPの両方の動作が可能とされ、実際には、マスタとして割り当てられたセンシングノードがマスタ処理部MSP(41)として動作する。スレーブ処理部SLPにおいて、カメラCAM(40A)により得た画像データはA/D変換ADC(40B)され、マスタ制御データ(42)に基き制御テーブルCTBL(40F)を介してYUV−RGB色変換及びフィルタ処理CCR(40C)が行われ、動物体検出、顔部検出、特定色検出、といった特徴点抽由FPE(40D)が行われる。その後、求められた特徴点から動物体の重心点や、顔部のカメラ上の座標、ジェスチャの種別認識処理RP(40E)が行われ、マスタ処理部の制御テーブルSTBL(41A)にその動作モジュール情報(43)が随時更新される形で書き込まれていく。スレーブ側で行われる補正、特徴点抽出、認識処理の各処理モジュールはプロファイルとして予め制御テーブルに格納されており、その動作はマスタ側から制御され、マスタが当該制御テーブルSTBL(41A)に書き込んだ動作モジュール情報を元に、動作モジュールの設定や、不必要なモジュールの停止制御が可能となる。また、各センシングノード(10a〜10b)で特徴点の抽出を行っているためマスタ処理部へのデータ転送量が画像データそのものを転送する場合と比較して少なくてすむ。更に、比較的処理量の多い画像処理を各センシングノード(10a〜10c)に分散しているため、画像データをそのままマスタ処理部に転送する場合と比較してマスタ処理部における負荷の軽減をすることができる。
マスタ処理部MSP(41)では各センシングノード(10a〜10c)からの認識処理結果を制御テーブルSTBL(41A)に保持し、当該テーブルから結果を引き出すことで所望の認識処理を行う。例えば、各ノードから得られた利用者の位置情報から利用者の間内における位置決定PDを行う(41B)。また決定された位置情報及び、当該ノードにて振舞い認識により識別された振舞い情報、また当該ノードにて行われた顔部検出結果を元に、状況データベースSDB(41C)のルールデータに基づいて、場の変化や空間内での状況変化の検知といった状況判断SJGを行い(41D)、その結果を元に情報表示装置DSP(12)に対しアクションコマンドACT(41E)の発行(44)を行う。アクションコマンドは、当該自律応答機器に対応した行動ルールデータベースADB(41F)の情報を元に、当該応答機器DSPでの表示などの詳細な動作が定義されたオブジェクトとして構築される。
図2Eに、前記各空間認識ノードHANのRAM(104)やサーバ15のメモリに格納されコンピュータ上で実行されるプログラムによりもたらされる、代表的な機能を示す。これらの機能は1つ又は複数のプログラムで実現される。まず、HANの有する機能は、大きく分けて、利用者を識別する利用者認識機能110と、空間認識機能120、及び案内表示機能130がある。
利用者認識機能110は、大規模商業施設へ来場した利用者を認識するもので、利用者識別モジュール112を有している。
空間認識機能120は、商業施設内のいずれかの場所における利用者の位置及び、“疲れた”、“迷った”、等の当該利用者が置かれている状況を複数の空間認識ノードHANの連携によって認識するものであり、利用者位置捕捉機能121と、利用者の振舞い認識機能122と、利用者の状況判断機能123とが含まれる。利用者位置捕捉機能121には、位置検出モジュール1211、位置算出モジュール1212、利用者捕捉モジュール1213がある。また、利用者の振舞い認識機能122には、動物体抽出モジュール1221、動線追跡モジュール1222、及び体部位認識モジュール1223がある。さらに、利用者の状況判断機能123には状況判断モジュール1231及び応答動作決定モジュール1232がある。
案内表示機能130は、店舗紹介、休憩所案内、道案内等、利用者へのサービス提供のための入力情報を受付、あるいは出力情報を表示する機能を有する。店舗紹介のために、例えば店舗紹介モジュール1301、道案内モジュール1302がある。
また、サーバ15は、空間認識ノードHANの認識結果に基づいて当該利用者に対しシステム応答を行うことで、利用者毎にその状況に応じた最適な情報提供行う。それを実現する機能として、前記HANと同様の利用者認識機能151、空間認識機能152、及び利用者への情報提供機能153を有している。また、施設内の空間認識ノードHAN群の全体の動作を管理する機能154、施設内の各施設や機器などの状況を把握し管理する機能155、及び施設内店舗へのサービス提供機能170が含まれる。施設内店舗へのサービス提供機能170には、利用者の行動情報提供機能1711と広告機能1712が含まれる。
本実施例では、空間認識機能120により、商業施設内における利用者の位置及び、“疲れた”、“迷った”、等の当該利用者が置かれている状況を複数の空間認識ノードHAN(10a〜10c)の連携によって認識することを一つの目的とする。そこで、当該利用者の物理的な位置、及び「疲れた」「迷った」など置かれている状況といった、当該利用者を中心とした時間軸方向で分割される状況を「場」と定義する。本システムでは、当該利用者が置かれる様々な「場」を想定し、あらかじめ当該利用者の「場」に合わせた認識動作とシステム応答をプロファイルとして定義する。HANが当該プロファイルをSRVから受信し、当該プロファイルに応じて動作することで、利用者を様々な状況を識別することが可能となる。
なお「場」は利用者毎に異なるため、当該利用者を捕捉しているHANが常に当該利用者の「場」を識別し、対応するプロファイルをSRVから受ける。そのため当該HANは、当該プロファイル上で指定された必要な機能のみを実行すれば良い。よって、すべてのHANが同じ認識動作を行う必要がなく、また当該プロファイルを実行する各HANが当該利用者の状況を判断するため、システム全体の負荷を分散、低減できる。なお、HANが捕捉する利用者が複数の場合は、当該HAN上で複数のプロファイルを同時に管理する。または、当該利用者を捕らえる他のHANで、その時の処理負荷が低いHANに対し、当該処理を移管する。
続いて、「場」の切り替えについて説明する。利用者の場所の移動や、特定の動作など、当該利用者の行動によっては、「場」の切り替えが生じる。例えば、当該利用者が施設通路から店舗に移動した場合は、店舗内向けのプロファイルを適用し、認識手段、動作、応答を変更することとなる。例えば、店舗内では当該利用者の動線や首の動きを見るプログラムを実行し、首を頻繁に左右に振る動作を認識した場合は、当該利用者は商品を探していると判断し、システムは店員を呼び出す。また、当該利用者が施設内通路で立ち止まるなど、行動の変化が生じた場合も同様にその動作に応じたプロファイルに変更し、例えば当該利用者の頭や手など体の動きを認識する体部位認識モジュールを実行する。このとき首を反映に左右に振る場合は、道に迷っていると判断し、当該利用者に対しDSPを通じて行き先を指示する。
このように、本システムでは利用者の位置や状況によって、あらかじめ定義した複数の「場」プロファイルから、その場の状況に適したプロファイルを選択し、切り替えることによって、その「場」に適した認識動作を行う。そして、当該認識結果に基づいて当該利用者に対しシステム応答を行うことで、利用者毎にその状況に応じた最適な情報提供が可能となる。
次に、利用者識別モジュール等により利用者を識別する利用者認識機能について説明する。システムは利用者の識別を、施設の入口などに設置した利用者情報入力端末を用いて、当該利用者の能動的な操作、例えばICカードの挿入など、にて行い、当該利用者固有のID番号をシステム内に生成する。また端末入力時に、当該端末付近に設置したHANにより、システムは当該利用者の顔や服装などの特徴情報も捉え、ID番号との対応付けを行い、SRVに当該特徴情報を保持しておく。
一度対応付けが済むと、複数のHANにより当該利用者を連続的に捕捉していく利用者位置検出及び捕捉機能により、常に利用者とIDの対応付けを行い、システムが当該利用者を識別可能となる。すなわち、HANは利用者の移動に伴い、移動方向を認識し、さらに、移動方向に存在する他のHANにHAN−NETを介して当該利用者のID番号を通知し、位置検出処理の切り替えを連続して行うことで、空間内における当該利用者の動きを常に捉えることが可能となる。
また、利用者の捕捉には、入口で捕らえた特徴情報も加味し、万が一捕捉に失敗した場合も、特徴情報によって当該利用者を再捕捉する。なお、それでも捕捉が不可能な場合は、システムは利用者に対し再認証を通知するとともに一時的にサービス提供を停止し、当該利用者が最寄りの端末にてICカード等を用いて再認証することで、利用者の捕捉とサービスを再開する。従って利用者は、システムが位置を認識するために必要となる特別な装置、例えば無線によって個人IDを常に発信する無線タグや光ビーコン等、を所持する必要がない。ただし、これらの装置を、当該利用者捕捉の補助的手段(位置検出精度の向上)として利用することも可能である。
続いて、図3を用いて、空間認識機能に基く処理、空間(HAN)の認識に関する基本処理のフローを説明する。なお、ここでは、理解しやすくするために一人の想定ユーザに対するHANの処理フローについて説明する。処理開始(200)と共にHAN(10a〜10c)は初期状態における動作手順を示した初期プロファイルを設定(201)する。本システムの初期状態は、「利用者未検出」に当る。なお、ここで「利用者未検出」とは、認識対象空間に来会者がいない、即ち、対象ユーザがいない状況とする。当該プロファイルにはHANの位置、認識対象空間に存在する他のHAN及びDSPなどの応答機器の位置、動作手順、認識プログラム本体が定義されている。続いて当該利用者に対し「場」のプロファイル処理を司るマスタの決定(202)を行う。なお、処理開始時の初期状態では、認識対象空間の出入口を見渡せるHANをマスタとする。マスタ決定後、当該プロファイルに定義されている認識動作に必要な周辺HAN及びDSPなどの応答機器の利用予約を行い(203)、当該複数HANでアドホックネットワークを構成する(204)。
以上で初期設定は終了し、空間認識機能に基く処理を開始(205)する。ここでは、位置検出モジュール(121)を起動し、空間内の利用者の位置を検出する利用者位置検出、捕捉機能の処理を行う。「利用者未検出」の状況においては、HANは、当該空間に入場する利用者(13)の検出を行う。当該利用者が認識対象空間に入場する際、当該利用者が当該対象空間に入場する方向に存在する、隣接する他の認識対象空間のHANから、利用者認識機能により、当該利用者が当該空間に入場する旨の通知を、当該利用者を識別するID番号とともに受ける。そして利用者が入場すると、「利用者未検出」から、「利用者捕捉」の「場」に変化し、次のアクションとして(209)、マスタであるHANは当該利用者の捕捉を開始すると同時に、当該HANは当該利用者のID番号をサーバに通知し、当該利用者に関する「場」のプロファイルを受信することで、プロファイルの更新を行う(210)。
ここで、動作フローをわかり易く説明するために、認識対象空間は施設内通路で、一人の利用者がある店舗に目指して移動しているとする。つまり、利用者位置検出、捕捉機能により現在当該利用者を捕捉しているHANは、「目的地移動中」のプロファイルを受信する(210)。この時点では当該利用者は当該空間を移動中であり、「場」は終了していない(211)。
次に、利用者の振舞い認識機能で当該プロファイルにて定義された認識動作、つまり「疲れた」「迷った」を認識するための、位置検出と動線抽出処理を実行するHANの手配を行い(203)、再び空間認識動作を開始する(205)。これらの処理は、動物体抽出モジュール、動線追跡モジュール及び体部位認識モジュールを用いてなされる。「場」の変化はないが、当該利用者の行動に変化があった場合、例えば既に説明したように、当該利用者が「立ち止まった」場合には、利用者の状況判断を行って、プロファイルを管理するマスタHANは、必要な場合DSPなどの応答機器に対して応答コマンドを送付し(207)、システム応答動作を利用者に対し行う。利用者の状況判断には状況判断モジュールが使用される。さらに、次に行うべき認識動作(体部位動き検出)を決定し、また当該認識動作を行うために必要なHANを手配し(208)、再び当該利用者に対して認識処理を行う(205)。もし、システムが持つ「場」が当該利用者の「場」と一致しない場合は、一定の時間を持って初期の「目的地移動中」のプロファイルに戻す。
利用者が当該認識対象空間から他の空間へ移動する場合、各々の認識空間において「場」の変化を、近接した認識空間対象としたシステムに引き継ぐ必要がある。つまり「場」を、当該人物を中心とした物理的空間とした場合、「場」の引継ぎ(ハンドオーバー)(212)が必要となる。当該人物が移動したことで、当該認識対象空間における「場」が終了した場合(211)、即ち、認識対象(来会者)が対象空間から隣接の空間に移動した場合、当該空間のマスタは、隣接空間のシステムのマスタに対し、「場」の引継ぎを行うことで、広大な空間における複数システムの連携による利用者の追尾を可能とする。
以上、利用者が一人の場合について説明したが、利用者が複数になったとしても同様に処理することが可能である。例えば、施設内通路に利用者が複数存在した場合、図3のように対応した処理フロー(20a、20b)を並行して実行すればよい。なお、各ノードの情報処理装置PU1が複数のプロセッサを有するマルチプロセッサであれば処理フロー(20a、20b)を異なるプロセッサに割り当てることで並列処理をすることが可能である。また、各ノードの情報処理装置PU1がプロセッサを一つしか有していない場合は、夫々の処理フロー(20a、20b)を一つのタスクとし、時分割的に切り換えて処理を行えばよい。
次に、応用システムである大規模商業施設における店舗案内システムの構成について説明する。本システムは、商業施設利用者に対し、当該利用者が希望する最適な店舗の検索を支援し、当該施設の入口から、目的地となる店舗までを案内するシステムである。本システムでは、店舗案内システムの情報入力端末TERMにより利用者からの情報を受け付け、利用者認識機能110により特定された利用者に関して各HANが具備する案内表示機能140及びSRV15の応答動作決定機能150に基く情報が情報表示装置DSPや店舗内のDSPに表示される。利用者には、店舗紹介機能、休憩所案内機能及び道案内機能に基いたサービスが情報表示装置DSPを通じて提供される。また、施設内の店舗のDSPには、施設内店舗へのサービス提供機能170の利用者の行動情報提供機能による情報が提供され、また、広告機能によるPR情報が提供される。
図4に、この店舗案内システムの全体構成図を示す。施設内の入口(30)、通路(31)、店舗(32)、等の場所に複数のHANを配置する。さらに、当該HANをHAN−NETに接続し、また複数の当該場所のHAN−NETと、SRVをLANに接続する。施設入口(30)には、利用者の認証とID番号特定、店舗検索、サービス選択を行うための情報入力端末TERM(302)を設置する。途中経路には、当該利用者に対し店舗や経路情報を提示する情報表示装置DSPを複数台設置する。また、当該利用者が携帯電話TEL(313)を所持していた場合は、これも活用し電子メールの配信や案内プログラムの起動により、DSPと同様に店舗や経路情報を提示する。
また、店舗(32)にもDSP(322)が設置されており、利用者(323)に対し商品情報等を提示する他に、施設内店舗へのサービス提供機能により、店舗従業員(321)に対しても、これから来客する顧客のプロフィール情報、予想来店時間、等の情報を提示する。また、利用者へ店舗をPRするための広告を受け付ける機能もある。
店舗案内システムの全体動作を、図5にフローチャートで示す。図中、400は開始点、401は合流点を示す。利用者が施設の入口に設置してある端末TERM(302)にて、ICカードや携帯電話(313)等を利用して、利用者自身の認証を行い(402)、システムが当該利用者を特定するためのID番号を発行する。続いて、端末付近に設置されたHANは、認証を済ませた利用者の位置を捕捉する(403)。次に、利用者は当該端末上で利用するサービスの選択(店舗検索と案内)を行う。まず、利用者は端末TERM上で希望する店舗種別等の基本情報を入力する。端末TERMは当該希望情報に基づき、データベース(DB)に登録されている、メニューや席数などの店舗データに加え、店舗側に設置してあるHANによって得られる、混雑しているといったそのときの状況も反映させ、利用者に店舗のリストアップを行う(404)。例えば、当該利用者がすぐに利用できる店舗を希望した場合は、混雑している店はリストから除外する。また、さらに当該利用者がグループで来場しているか、など施設来場時の当該利用者の状況もHANが認識し、来場形態に合わせた店舗の絞込みや、お勧め店舗の提示を行うこともできる。そして、店舗の検索と選択が終了すると、システムは案内を開始するかを当該利用者に尋ねる(405)。当該利用者が案内開始を選択すると、システムは経路上に設置されたディスプレイDSPや利用者が所持する携帯電話TELに行き先を配信し、目的地までの道順案内を行う。なお、情報提供対象となる利用者が複数人いた場合は、夫々に対応した情報を複数同時にDSP上に表示する。
さらに、利用者の移動に伴い、経路に設置されたHANは利用者を捕捉し、その位置を逐次SRVに通知する。SRVはHANの空間認識機能の出力を用いて逐次、利用者や店舗の状況判断を行う(408)。例えば、途中、当該目的地が混雑していることを当該目的地に設置されたHANが認識した場合(410)、TELまたはDSPに対し目的地が混雑している旨のアラートを表示する(411)。なお、店舗内の混雑度は店舗来場者の位置と動きを見ればよく、店舗内のある位置に一定時間留まっている来場者数を数え、席数や店舗の単位面積に占める割合が一定以上の場合に、混雑していると判断する。そして利用者に対し、システムは目的地を変更するかの判断を求め(412)、目的地を変更する場合は再び店舗リストアップ(404)と、目的地の再設定を行う。また、目的地を変更しない場合は、案内を継続する。なお、利用者の意思を伝える手段として、携帯電話TELのインタフェースを用いる他に、当該利用者のYesまたはNoに対応付けた振舞い、例えば手を横に振る、首を振る、の認識で実現する。つまり、一時的にサービスを中断する、再開するといった希望も、経路中のHANにより、身振りですぐにシステム側に指示できる。
また、案内途中で、利用者が疲れたことを経路中のHANが認識し疲れたという状況判断(420)を行った場合は、TELまたはDSPに対して、当該利用者の近辺にある、休憩可能な施設や店舗の一覧を提示し(421)、利用者に対し休憩所を利用するかの判断を求める。利用者が休憩所を選択した場合は(422)、目的地を当該休憩所に再設定し(423)、新たに案内を開始する。また、休憩所を利用しないという選択をした場合は、当初の目的地に向けた案内を継続する。またさらに、利用者が迷ったという状況をHANが認識した場合は迷ったという状況判断に基き(430)、利用者の進行方向近辺にある表示端末DSPを探し出し(431)、利用者が当該表示端末に近づいた時点で正しい進行方向を表示し(432)、目的地に向けた案内を継続する(406)。なお、迷った、疲れたといった状況を認識し状況判断する方法については、後述する。また、上記状況判断の項目は、あくまでも一例であり、施設の状況に応じた適切な項目を設定し、判断処理するようにすればよい。
次に、店舗検索モジュールに基く店舗検索手順について説明する。図6に店舗検索フローチャートを示す。入口(20)に設置された端末TERM(202)によって、利用者の認証とID番号の特定・付与が行われ、プロファイル情報のダウンロードが行われる(501)。なお、プロファイル情報は、年齢や性別、趣味や嗜好といった個人情報であり、当該利用者によってあらかじめ入力され、ICカードや携帯電話に保存されている。またその他にも、当該利用者の過去の施設来場履歴、商品購入履歴といった、システムが保持するDB情報もプロファイル情報となりうる。なお、利用者の認証は、ICカードや携帯電話の他に、顔、指紋、指静脈等を利用した生体認証技術など、個人を特定・認証できるいずれの手段を用いても良い。
プロファイル受付が完了すると、当該利用者プロファイル情報を元に、SRVに登録されている店舗DBから、プロファイルや履歴から利用者の嗜好、グループでの来店といった利用者の利用時の状況、に基づいて店舗検索を行う(502)。そして、抽出された店舗に設置されたHANに対して混雑度を問い合わせ(503)、当該店舗が混雑していない場合にはその店舗を候補リストに加える(504)。また、混雑している場合には、次の候補を検索し、同様に混雑度の問い合わせを行う。以上で構築された店舗リストの件数が、あらかじめ指定した件数を超えた場合は、検索を終了する。また、当該件数に達していない場合は、店舗DB検索(502)を続ける。そして、以上の店舗検索動作終了後、HANにより当該利用者の位置と進行方向を検出し、検索結果を利用者に提示するために、表示端末DSPまたは当該利用者の携帯電話TELの検索を行う(506)。その後、当該DSPまたはTELに対し、検索結果である店舗推薦リストを表示する(507)。
次に、利用者へのサービス提供機能により上記サービスを提供する時のサーバSRV(15)の処理を説明する。図7にSRVの処理フローを示す。SRVはまず、利用者が端末TERM(202)にて認証を開始した時点で、TERMからサービス開始の通知を受ける(450)。当該利用者の認証が終わると、TERMはSRVにID番号を通知し、それを元にSRVは利用者の個人情報をTERMに送信する(451)。続いて、上述した通り、利用者は店舗紹介機能を利用してTERM上で店舗検索を行い、当該利用者が希望するサービスを選択する。SRVはTERMより当該サービス情報を受信し、HANの動作を定義する「場」のプロファイルを作成する。そして、当該利用者を捕捉するHANに対し、当該プロファイルの配信を行う(453)。SRVは、当該HANから一定時間ごと、または当該利用者の状況変化が生じたときに、その位置と状況の通知を受ける(454)。状況の変化が生じた場合(455)、例えば店舗に入った、「迷った」と検出された場合は、必要であればSRVは利用者に対し、例えば店舗情報や経路情報などを表示する応答コマンドを、DSP(312)やTEL(313)に対し送信する(456)。サービスが継続する場合は、状況の変化に対して次の動作を定義したプロファイルを再びHANに送信(453)し、以上の動作を繰り返す。また、目的地に達した、また施設から退出したなど、当該利用者が希望したサービスが終了した場合は、再び新たなサービス通知を待つ。なお、サービス対象者が複数の場合は、以上の処理フローを一つのタスクとして、対象者分の複数タスクをSRV上で実行する。なお、SRVのタスクは状況管理のみであるため、タスク当りの負荷は非常に小さい。
続いて、利用者位置捕捉機能に関して、複数施設来場者の位置検出を、来場者の動きに着目し、複数HANの連携処理により求める手順を説明する。これらの処理は、動物体抽出モジュール、動線追跡モジュール及び、体部位認識モジュールを用いてなされる。
まず、図8に単位空間(3m×3m)におけるHAN(10a、10b、10c)の配置図を示す。また、図9に、空間位置検出すなわち当該HANにおける動物体抽出機能の処理フローを示す。
各HANはその中心線が、単位空間内の中心点(60)と一致するように、カメラ方向を決定する。なお、動物体抽出モジュール・プログラムは、SRVよりHANに事前に配信されており、SRVの指示により位置検出動作を開始する(611)。まずカメラCAMから画像を取得し(612)、YUV→RGB色変換、フィルタ(ぼかし)補正(613)を掛け、メモリRAMに画像を一時的に格納する(614)。続いてフレーム間の差分を取ることで動き検出を(615)、動きオブジェクトとして切り出し、カメラとオブジェクトの中心点の水平方向における角度θを求め(616)、角度情報は位置算出処理モジュールを実行するHAN(ここでは10aとする)へ送信される(617)。なお、当該位置算出処理モジュール・プログラムは、当該単位空間の何れか1台のHAN(10a)に対し、SRVから配信される。
図10は、動物体抽出機能、すなわちフレーム差分による動き検出から角度算出までのフロー(62)の詳細を示している。フレームメモリ上に保持されている、現フレーム画像をフレームA、前フレーム画像をフレームB、前々フレーム画像をフレームCとすると、まずフレームA及びフレームBの対応する各画素の差分と、フレームB及びフレームCの対応する各画素の差分を求める(621)。次に、各差分値が定められた閾値よりも下回っている場合、つまり前後フレームの対応する画素が同一とみなされる場合、黒でマスクし、差分値が閾値を上回っている場合、つまり動きがあるとみなすことができる画素は白でマスクし、動きの2値画像を生成(622)する。続いて、フレームA、B及びフレームB、Cそれぞれの差分画像のANDを取る(623)ことで、動きを持つオブジェクトが形として抽出される。
抽出されたオブジェクトの輪郭抽出(624)を行い、当該オブジェクトの面積を算出(625)する。前記面積がある一定以上のオブジェクトのみ、角度算出対象とする(626)ことで、ノイズによって生じた動きオブジェクトを取り除くことができる。動きオブジェクトの輪郭座標から、中心点を算出し、カメラの中心線とオブジェクトの中心点が水平方向でなす角θを算出する。オブジェクトが複数ある場合は、動きオブジェクトがなくなる(629)まで、上記の処理を繰り返す。最終的に、検出された面積一定以上のオブジェクトの数及び、当該オブジェクトのθを算出し、図11のフォーマットに従って位置算出処理モジュール(10a)へ送信される。
図11は、各HANで検出された動きオブジェクトの角度情報を送信する際のフォーマットである。(630)は位置算出処理モジュールを実行しているHAN(10a)のアドレス、(631)は当該各HANのアドレス、(632)はHAN間のデータ送信方向を示すフラグ、(633)はデータの種類(ここでは角度情報であるというフラグ)、(634)は検出された動きオブジェクト数、(635a〜)はオブジェクトのθである。動きオブジェクトの個数及び各々の角度情報及びは、HAN(10a)に送られ、当該HAN内のRAMに保持される。
次に、HAN(10a、10b、10c)から送信されたθから、複数人物の位置を算出する方法について説明する。図12はHAN(10a)における空間位置算出動作フローを示している。HAN(10a)は、各HANからの角度情報θを受信し(641)、RAMに格納する(642)。各カメラからθが到着した時点(643)で3点測位の原理で利用者(動物体)の位置決定(644)を行う。
動物体(601)の位置決定は、以下のように行われる。まず、HAN(10a)から得る角度情報(602)をθ1、HAN(10b)から得る角度情報(603)をθ2とし、HAN(10a)の空間位置を原点とし、HAN(10a)と同(10b)間の距離(606)をdとする。当該ノードと直線(606)の成す角(605)θ’、及びdは既知であるため、θ1、θ2により動物体(601)の位置は三角関数にて決定される。
しかしながら、上記方法による位置検出では対象となる動物体(601)が2体以上となると、対応点が最大4点以上表れることになり、複数動物体の位置同時決定はできない。そこで、上記θ1、θ2による位置決定の後に、HAN(10c)で得られる角度情報(604)θ3を用いることで、複数対応点から、当該動物体の位置を絞り込み決定する。つまり、当該対応点の座標データ、HAN(10c)の空間位置、角度θ3により、当該座標データの整合性を確認することで、位置を算出する。位置情報は、30cm精度のグリッド単位で算出し、SRVに通知する。なお、前記3台のHANに加え、第4、第5と複数のHANを、障害物などで死角となる領域をカバーするように配置することで、位置認識精度を高めることができる。本位置決定方式では、フレーム差分動き抽出を用いているが、近隣3フレームのみに注目した処理であるため環境変化に対しロバスト性が高く、また3台以上のカメラを用いることで複数動物体の位置検出を同時に行うことができる。さらに、本方式の位置検出に加え、服装の色や模様といったパタン及び顔のパタン認識により、本人を同定し、利用者を追跡することも可能である。
次に疲れた、迷ったかを判断する手段すなわち利用者の状況判断機能を説明する。図13に、「疲れた」「迷った」状況を判断するフローを示す。まず、当該利用者の位置検出結果から動線を観測し、大略的な動きから状況の変化を判断する。例えば、当該利用者が指定時間以上、一定の場所に留まったことを認識すると(650)、HANは利用者の頭や腕などの体の動きを捉えるために、体部位認識モジュールを起動する(652)。なお、体部位認識方法については後述する。当該利用者が立ち止まった状況で、指定回数以上首を左右に振ったことを認識した場合(653)、HANは当該利用者が、立ち止まって当りを繁栄に見回しているため「迷っている」と判断する(655)。また、当該利用者がベンチ等休憩エリアで腰を下ろす動作を認識した場合(654)、HANは当該利用者が、疲れて座り込んだため「疲れている」と判断する(656)。次に、動線追跡モジュールにより動線追跡を行い施設内における当該利用者の累積移動距離が一定以上で、移動速度が一定度合いで遅くなってきた場合(651)、同様に体部位認識モジュールを起動し(677)、指定回数以上首を振ったことを認識した場合は、休憩所を探しているとして「疲れている」と判断する(679)。
続いて利用者の振舞い認識、例えば指定回数以上首を左右に振ったことを認識するために必要な、体部位の認識を行う方法について説明する。図14に体部位認識モジュールの処理フローを示す。処理開始とともに、既に定義された体部位(頭、腕、手)の3次元モデルを内部に生成する(691)。当該3次元モデルは体部位の標準的な形を3次元座標データとして定義される。次に、カメラから画像を取り込み(692)、肌色検出、図10で説明した動き抽出を行うことで人の輪郭を抽出する(693)。続いて、生成した複数の3次元モデルを連続的に縮小・回転させ、抽出された輪郭と比較する(694)。3次元モデルの縮小・回転方法としては、アフィン変換が知られており、これを用いて実現する。そして、縮小・回転したモデルの投射輪郭と、当該画像から抽出された輪郭を比較し一致するかを判断する体部位認識を行い、体部位、例えば頭、を特定する(695)。一致判断には、双方の輪郭間のユークリッド距離をもとめ、当該距離が一定以下であれば、一致すると判断できる。さらに、体部位の動線抽出を行い(696)、当該部位の動きの方向や加速度を求め、体部位の動作状況を判断する。例えば、頭を水平に一定以上の加速度で同一線上を往復する動きが検出された場合は、首を振ったと判断する。
このように、本発明によれば、施設を訪れる不特定の利用者に対して、この利用者の位置や振舞いに応じて、端末などの操作なしに、施設内での情報提供を可能とする情報システムを構築可能となる。すなわち、施設利用者が目的店舗を利用するに当り、当該利用者や他の施設来場者が特別な端末を持つことなしに、当該店舗までの経路案内を、利用者自身のそのときの状況、また利用対象となる目的地の店舗や途中経路の状況によって、適宜経路変更を可能とし、適切な案内を行う。
また、本発明により、施設内のリアルタイムな状況を、利用者に対して提供できる、情報システムを構築可能となる。
以下に、本発明の幾つかの特徴を列挙する。
(1)カメラを含むセンサと、情報処理装置を具備する、多数個の空間認識ノードで構成する情報処理システムであって、前記複数の認識ノードの夫々は、複数の認識手段により、所定の空間内にある利用者の位置、振舞いを認識することで、当該利用者に対し目的地までの経路案内を、当該認識結果に基づき当該目的地に至る案内経路を適宜変更することで、適切な案内を行う。
(2)または、前記複数の認識ノードの夫々は、複数の認識手段により、利用者が利用対象とする空間内にある人物の位置、振舞いを認識することで、当該利用対象の状況に基づき、当該状況に対応して目的地や当該目的地に至る経路を適宜変更し、適切な案内を行う。
(3)または、施設利用者が施設入口において利用者自身の特定と個人情報、及びサービスの選択を行い、さらに前記複数の認識ノードの夫々によって、当該利用者の位置を管理することで、当該利用者が特別な携帯端末を所持しなくても良い。
(4)または、案内情報を前記利用者に対し配信する情報表示装置を複数備え、前記複数の認識ノードの夫々によって、当該利用者に最近の情報表示端末を選択し、当該利用者が当該情報表示端末に再接近したときに情報を表示する。
(5)または、案内情報を、当該利用者が携帯電話などの無線端末を持つ場合、当該端末に案内情報を配信する。
(6)または、施設内の店舗などの商品サービス提供者が、顧客となる前記利用者が当該店舗に来店することを事前に当該提供者に対し通知することで、当該提供者が事前に顧客情報を得る。
(7)または、前記複数の認識ノードの夫々によって、施設や店舗における前記利用者の行動履歴を蓄積する。
以上述べたように、本発明は、従来から提供されている、目的地までの経路案内を行う機能に加え、経路途中で利用者の疲れた、迷ったなどの利用者の状況と、目的地や行き先経路など利用先の混雑度などの状況を認識することで、利用者の状況に応じたきめ細かな案内を行うことが可能となる。本発明を応用することで、実施例として説明した案内機能の他にも、顧客の動向調査によるマーケティング情報収集、物品管理、防犯監視などのセキュリティ、等、様々な分野に応用が可能である。
本発明のシステム全体構成図である。 図1のシステムの基本構成となる空間認識ノードの構成図である。 図1のシステムにおける空間認識ノードHANのカメラの位置関係を示す図である。 図1のシステムにおける空間認識ノードHANと情報表示装置DSPの関係を示す図である。 図1のシステムにおけるマスタ処理部MSP及びスレーブ処理部SLPの処理概要を示す図である。 図1のシステムにおける各空間認識ノードHANのRAMやサーバのメモリに格納され実行されるプログラムによりもたらされる、代表的な機能を示す図である。 空間認識ノードHANの動作のフローチャートを説明する図である。 本発明の代表応用例である大規模商業施設向け案内システムの構成図である。 案内サービスの動作のフローチャートを説明する図である。 店舗の検索動作のフローチャートを説明する図である。 サーバSRVの動作のフローチャートを説明する図である。 位置検出を行うための、単位空間のノード配置と、位置算出方法を説明する図である。 ノードにおける空間位置検出動作のフローチャートを説明する図である。 ノードにおける動物体抽出のフローチャートを説明する図である。 空間位置検出結果を位置算出部に送信するデータ・フォーマットを示す図である。 ノードにおける空間位置算出動作のフローチャートを説明する図である。 利用者の「疲れた」「迷った」の状況を判断するフローチャートを説明する図である。 体部位の認識を行う動作のフローチャートを説明する図である。
符号の説明
1a、1b…サービス対象エリア、10a、10b、10c…空間認識ノード、11…ノード間ネットワーク、12…情報表示端末、13…利用者、14…施設内ネットワーク、15…サーバ、10…空間認識ノード、101…ネットワーク接続装置、102…演算処理装置、103…カメラ、104…記憶素子、105…読み出し専用記憶素子、200…開始点、201、202、203、204、205、207、208、209、210、212…処理、206、211…判別処理、214…合流点、30…商業施設入口、301…利用者、302…情報入力端末、31…経路途中、311…利用者、312…情報表示装置、313…携帯電話、32…店舗、321…利用者、322…情報表示装置、323…店舗利用者、400…開始点、401…合流点、402、403、404…処理、405、410、420、430…判別処理、411、421、431、432、423…処理、412、422、406…判別処理、501、502、504、506、507…処理、503、505…判別処理、450、455、457…判別処理、451、452、453、454、456…処理、60…空間中央点、601…人物(動物体)、602、603、604、605…角度、606…直線距離、610…終了点、611…判別処理、612、613、614、615、616、617…処理、62…動物体オブジェクト抽出処理、621、622、623、624、625…処理、626、629…判別処理、627、628…処理、630…マスタのIPアドレス、631…自身のIPアドレス、632…マスタ方向へのデータの流れを示すフラグ、633…処理の種別、634…抽出された動物体の数、635a、635b、635c…角度、641、642、644、645…処理、643…判別処理、650、651、653、654、678…判別処理、652、655、656、677、679…処理、691、692、693、694、695、696…処理。

Claims (16)

  1. 施設を訪れる不特定の利用者を対象とした情報を生成し出力する情報処理システムを備えた施設内情報提供システムであって、
    前記情報処理システムは、通信ネットワークを介して、前記施設の複数の場所に夫々複数個設置された空間認識ノードと、複数の情報表示装置とに接続されており、
    前記各空間認識ノードは、センサを含む複数の認識手段と、前記複数の認識手段により当該空間内における前記利用者の位置及び振舞いを認識し当該利用者の状況を取得する空間認識手段を有しており、
    前記情報処理システムは、
    前記施設内で不特定の利用者が置かれる複数の場を想定し、予め前記不特定の利用者の前記各場に対応する認識動作とシステム応答をプロファイルとして定義したプロファイル情報と、前記施設内の地図情報と、前記各空間認識ノード及び前記複数の情報表示装置の位置情報と、前記施設内の状況の情報を保持する情報保持手段と、
    前記空間認識ノードの前記空間認識手段で取得された情報と前記地図情報と前記各空間認識ノードの位置情報により、前記施設内における前記不特定の利用者から特定の利用者を抽出して位置及び振舞いを認識し前記特定の利用者の状況の情報を生成する利用者認識手段と、
    前記特定の利用者の位置や状況によって前記予め定義した複数のプロファイル情報からその場の状況に適した前記プロファイル情報を選択し、前記空間認識手段の前記認識手段を切替えることによって、当該場に適した認識動作を行い、該認識結果に基づいて、前記特定の利用者に対する前記施設におけるシステム応答動作を決定するシステム応答動作決定手段と、
    前記決定されたシステム応答動作に対応した前記特定の利用者向けの情報を生成し、前記特定の利用者向けの情報を、前記複数の情報表示装置の位置情報に基づいて前記特定の利用者の位置に対応する前記情報表示装置に出力する情報提供手段とを有することを特徴とする施設内情報提供システム。
  2. 請求項1において、前記空間認識ノードの夫々は、前記複数の認識手段により、利用対象とする空間内における人の位置、振舞いを認識し当該利用対象の状況を取得する機能と、
    当該利用対象の状況に基づき、当該状況に対応して目的地や当該目的地に至る経路を適宜変更し、案内を行う機能とを備えていることを特徴とする施設内情報提供システム。
  3. 請求項1において、前記施設の入口において前記施設利用者が自身の特定と個人情報を設定し、サービスの選択を行う手段と、
    前記複数の空間認識ノードの夫々によって、前記設定された情報に基き当該利用者の位置を管理し、選択されたサービスの提供を行う手段とを備えていることを特徴とする施設内情報提供システム。
  4. 請求項1において、前記入口、通路及び前記各店舗には、前記通信ネットワークを介して前記各空間認識ノードに接続され当該利用者に対し店舗や経路情報を提示する前記情報表示装置が複数設置され、
    前記複数のノードによる協調認識処理により、特定の前記利用者を検出し、該検出結果に基づき、該利用者に対する情報を該利用者が前記複数の前記情報表示装置のいずれかに接近したときに表示するように構成したことを特徴とする、施設内情報提供システム。
  5. 請求項1において、当該利用者が携帯電話などの無線端末を持つ場合、当該端末に案内情報を配信する機能を有することを特徴とする、施設内情報提供システム。
  6. 請求項1において、前記施設内の店舗などの商品サービス提供者が、顧客となる前記利用者が当該店舗に来店することを事前に当該提供者に対し通知することで、当該提供者が前記利用者の来店前に顧客情報を取得し得るようにしたことを特徴とする、施設内情報提供システム。
  7. 請求項1において、前記複数の空間認識ノードの夫々によって、前記施設や店舗における前記利用者の行動履歴を蓄積することを特徴とする、施設内情報提供システム。
  8. 請求項1において、前記施設内の少なくとも入口、通路及び各店舗の各場所に、当該場所内の何れの場所においても前記利用者を捕捉することができる位置に最低3台以上の前記空間認識ノードが設置され、前記空間認識ノードは通信ネットワークを介して相互に接続され、前記複数の空間認識ノード及び前記情報表示装置間で統合制御処理を行うマスタを動的に決定し、マスタとなったノードまたは前記情報表示装置は統合制御処理も同時に行うことを特徴とする、施設内情報提供システム。
  9. 請求項8において、認識対象の利用者が対象空間から隣接の空間に移動した場合、当該空間のマスタは、隣接空間のシステムのマスタに対し、前記場の引継ぎを行うことで前記利用者の追尾を行うことを特徴とする、施設内情報提供システム。
  10. 施設を訪れる不特定の利用者を対象とした情報を生成し出力する当該施設内の複数の情報処理システムに通信ネットワークを介して接続され、前記複数の情報処理システムを統括するサーバであって、
    前記各情報処理システムは、通信ネットワークを介して、前記施設の複数の場所に夫々複数個設置された空間認識ノードと、複数の情報表示装置とに接続されており、
    前記各空間認識ノードは、センサを含む複数の認識手段と、前記複数の認識手段により当該空間内における前記利用者の位置及び振舞いを認識し当該利用者の状況を取得する空間認識手段を有しており、
    前記サーバは、前記施設内で不特定の利用者が置かれる複数の場を想定し、予め前記不特定の利用者の前記各場に対応する認識動作とシステム応答をプロファイルとして定義したプロファイル情報と、前記施設内の地図情報と、前記各空間認識ノード及び前記複数の情報表示装置の位置情報と、前記施設内の状況の情報を保持する情報保持手段を備え、
    前記各情報処理システムは、
    前記空間認識ノードの前記空間認識手段で取得された情報と前記地図情報と前記各空間認識ノードの位置情報により、前記施設内における前記不特定の利用者から特定の利用者を抽出して位置及び振舞いを認識し前記特定の利用者の状況の情報を生成する利用者認識手段と、
    前記特定の利用者の位置や状況によって前記予め定義した複数のプロファイル情報からその場の状況に適した前記プロファイル情報を選択し、前記空間認識手段の前記認識手段を切替えることによって、当該場に適した認識動作を行い、該認識結果に基づいて、前記特定の利用者に対する前記施設におけるシステム応答動作を決定するシステム応答動作決定手段と、
    前記決定されたシステム応答動作に対応した前記特定の利用者向けの情報を生成し、前記特定の利用者向けの情報を、前記複数の情報表示装置の位置情報に基づいて前記特定の利用者の位置に対応する前記情報表示装置に出力する情報提供手段とを有し、
    前記サーバは、さらに
    前記施設の複数の場所に各々複数個設置された複数の空間認識ノードを管理する手段と、
    前記空間認識ノードで認識された前記施設内における特定の利用者に関する前記認識結果を受け取り、当該利用者の状況を把握する手段と、
    前記認識結果に基づいて、前記特定の利用者向けの情報を、前記施設内に設置されたいずれかの前記情報表示装置に当該利用者が接近した時点で表示する手段、とを備えたことを特徴とする施設内情報提供システム用のサーバ。
  11. 施設の複数の場所に夫々複数個設置され夫々センサを含む認識手段を有する複数の空間認識ノードに設けられた情報処理装置であって、
    センサを含む複数の認識手段と、前記複数の認識手段により当該空間内における前記利用者の位置及び振舞いを認識し当該利用者の状況を取得する空間認識手段を有しており、
    前記施設内で不特定の利用者が置かれる複数の場を想定し、予め前記不特定の利用者の前記各場に対応する認識動作とシステム応答をプロファイルとして定義したプロファイル情報と、前記施設内の地図情報と、前記各空間認識ノードの位置情報と、前記施設内の状況の情報を保持する情報保持手段と、
    前記空間認識ノードの前記空間認識手段で取得された情報と前記地図情報と前記各空間認識ノードの位置情報により、前記施設内における前記不特定の利用者から特定の利用者を抽出して位置及び振舞いを認識し前記特定の利用者の状況の情報を生成する利用者認識手段と、
    前記特定の利用者の位置や状況によって前記予め定義した複数のプロファイル情報からその場の状況に適した前記プロファイル情報を選択し、前記空間認識手段の前記認識手段を切替えることによって、当該場に適した認識動作を行い、該認識結果に基づいて、前記特定の利用者に対する前記施設におけるシステム応答動作を決定するシステム応答動作決定手段と、
    前記決定されたシステム応答動作に対応した前記特定の利用者向けの情報を生成し、出力する情報提供手段とを有することを特徴とする情報処理装置。
  12. 情報処理システムにより施設を訪れる不特定の利用者を対象とした情報を生成し出力する施設内情報提供方法であって、
    前記情報処理システムは、通信ネットワークを介して、前記施設の複数の場所に夫々複数個設置された空間認識ノードと、複数の情報表示装置とに接続されており、
    前記各空間認識ノードは、センサを含む複数の認識手段と、前記複数の認識手段により当該空間内における前記利用者の位置及び振舞いを認識し当該利用者の状況を取得する空間認識手段を有しており、
    前記情報処理システムは、
    前記施設内で不特定の利用者が置かれる複数の場を想定し、予め前記不特定の利用者の前記各場に対応する認識動作とシステム応答をプロファイルとして定義したプロファイル情報と、前記施設内の地図情報と、前記各空間認識ノード及び前記複数の情報表示装置の位置情報と、前記施設内の状況の情報を保持する情報保持手段を備えており、
    前記空間認識ノードの前記空間認識手段で取得された情報と前記地図情報と前記各空間認識ノードの位置情報により、前記施設内における前記不特定の利用者から特定の利用者を抽出して位置及び振舞いを認識し前記特定の利用者の状況の情報を生成し
    前記特定の利用者の位置や状況によって前記予め定義した複数のプロファイル情報からその場の状況に適した前記プロファイル情報を選択し、前記空間認識手段の前記認識手段を切替えることによって、当該場に適した認識動作を行い、該認識結果に基づいて、前記特定の利用者に対する前記施設におけるシステム応答動作を決定し、
    前記決定されたシステム応答動作に対応した前記特定の利用者向けの情報を生成し、前記特定の利用者向けの情報を、前記複数の情報表示装置の位置情報に基づいて前記特定の利用者の位置に対応する前記情報表示装置に出力する、ことを特徴とする施設内情報提供方法。
  13. 請求項12において、前記施設の複数の空間認識ノードの夫々で、前記複数の認識手段により、利用対象とする空間内における人の位置、振舞いを認識し当該利用対象の状況を取得し、
    当該利用対象の状況に基づき、当該状況に対応して目的地や当該目的地に至る経路を適宜変更し、案内を行うことを特徴とする施設内情報提供方法。
  14. 請求項12おいて、案内情報を前記利用者に対し配信する前記情報表示装置を前記施設内に複数備えており、
    前記複数の空間認識ノードの夫々によって、当該利用者に最近の前記情報表示装置を選択し、当該利用者が当該情報表示装置に再接近したときに情報を表示することを特徴とする、施設内情報提供方法。
  15. 施設の複数の場所に夫々空間認識ノードが複数個設置され、該各空間認識ノードはセンサを含む認識手段及びコンピュータを含む情報処理装置を有する施設内情報提供システムにおいて、前記施設を訪れる不特定の利用者を対象とした情報を生成し出力するためのプログラムであって、
    前記情報処理システムは、通信ネットワークを介して、前記施設の複数の場所に夫々複数個設置された空間認識ノードと、複数の情報表示装置とに接続されており、前記施設内で不特定の利用者が置かれる複数の場を想定し、予め前記不特定の利用者の前記各場に対応する認識動作とシステム応答をプロファイルとして定義したプロファイル情報と、前記施設内の地図情報と、前記各空間認識ノード及び前記複数の情報表示装置の位置情報と、前記施設内の状況の情報を備えており、
    前記各空間認識ノードは、センサを含む複数の認識手段と、前記複数の認識手段により当該空間内における前記利用者の位置及び振舞いを認識し当該利用者の状況を取得する空間認識手段を有しており、
    前記コンピュータ・プログラムは、前記コンピュータに、
    前記空間認識ノードの前記空間認識手段で取得された情報と前記地図情報と前記各空間認識ノードの位置情報により、前記施設内における前記不特定の利用者から特定の利用者を抽出して位置及び振舞いを認識し前記特定の利用者の状況の情報を生成する機能と、
    前記特定の利用者の位置や状況によって前記予め定義した複数のプロファイル情報からその場の状況に適した前記プロファイル情報を選択し、前記空間認識手段の前記認識手段を切替えることによって、当該場に適した認識動作を行い、該認識結果に基づいて、前記特定の利用者に対する前記施設におけるシステム応答動作を決定する機能と、
    前記決定されたシステム応答動作に対応した前記特定の利用者向けの情報を生成し、前記特定の利用者向けの情報を、前記複数の情報表示装置の位置情報に基づいて前記特定の利用者の位置に対応する前記情報表示装置に出力する機能、とを実現させることを特徴とするコンピュータ・プログラム。
  16. 請求項15において、前記コンピュータ・プログラムは、前記コンピュータに、
    特定の前記利用者に対して最も近い前記情報表示装置を選択する機能と、
    前記システム応答動作に対応した前記利用者向けの情報を、当該選択された情報表示装置に表示する機能、とを実現させることを特徴とするコンピュータ・プログラム。
JP2004239130A 2004-08-19 2004-08-19 施設内情報提供システム及び施設内情報提供方法 Expired - Fee Related JP4369326B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2004239130A JP4369326B2 (ja) 2004-08-19 2004-08-19 施設内情報提供システム及び施設内情報提供方法
US11/071,342 US7454216B2 (en) 2004-08-19 2005-03-04 in-facility information provision system and in-facility information provision method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004239130A JP4369326B2 (ja) 2004-08-19 2004-08-19 施設内情報提供システム及び施設内情報提供方法

Publications (2)

Publication Number Publication Date
JP2006059053A JP2006059053A (ja) 2006-03-02
JP4369326B2 true JP4369326B2 (ja) 2009-11-18

Family

ID=35910267

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004239130A Expired - Fee Related JP4369326B2 (ja) 2004-08-19 2004-08-19 施設内情報提供システム及び施設内情報提供方法

Country Status (2)

Country Link
US (1) US7454216B2 (ja)
JP (1) JP4369326B2 (ja)

Families Citing this family (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1647918A1 (de) * 2004-10-13 2006-04-19 SkiData AG Zugangskontrollsystem
JP3925660B2 (ja) * 2005-06-09 2007-06-06 オムロン株式会社 通信マスタ局の起動時制御方法
JP4947439B2 (ja) * 2006-06-27 2012-06-06 村田機械株式会社 音声ガイダンス装置と音声ガイダンス方法、音声ガイダンスプログラム
US9110903B2 (en) * 2006-11-22 2015-08-18 Yahoo! Inc. Method, system and apparatus for using user profile electronic device data in media delivery
US8402356B2 (en) 2006-11-22 2013-03-19 Yahoo! Inc. Methods, systems and apparatus for delivery of media
JP2008146273A (ja) * 2006-12-08 2008-06-26 Hitachi Ltd 指静脈認証技術を用いた施設利用システム
JP5036291B2 (ja) * 2006-12-15 2012-09-26 株式会社東芝 病院内ナビゲーションシステム
US8269834B2 (en) 2007-01-12 2012-09-18 International Business Machines Corporation Warning a user about adverse behaviors of others within an environment based on a 3D captured image stream
US8588464B2 (en) 2007-01-12 2013-11-19 International Business Machines Corporation Assisting a vision-impaired user with navigation based on a 3D captured image stream
US8295542B2 (en) 2007-01-12 2012-10-23 International Business Machines Corporation Adjusting a consumer experience based on a 3D captured image stream of a consumer response
JP4936167B2 (ja) * 2007-04-24 2012-05-23 パナソニック株式会社 音発生機能を備えた内装構造
JP4420081B2 (ja) * 2007-08-03 2010-02-24 株式会社デンソー 行動推定装置
JP2009110294A (ja) * 2007-10-30 2009-05-21 Aiphone Co Ltd 病室訪問者管理システム
US10540861B2 (en) * 2007-12-20 2020-01-21 Ncr Corporation Sustained authentication of a customer in a physical environment
US8098881B2 (en) * 2008-03-11 2012-01-17 Sony Ericsson Mobile Communications Ab Advertisement insertion systems and methods for digital cameras based on object recognition
US9767351B2 (en) 2009-01-15 2017-09-19 AvidaSports, LLC Positional locating system and method
US8330611B1 (en) * 2009-01-15 2012-12-11 AvidaSports, LLC Positional locating system and method
JP5574685B2 (ja) * 2009-12-07 2014-08-20 三菱電機株式会社 エリア情報制御装置
US9360959B2 (en) 2010-10-12 2016-06-07 Tactonic Technologies, Llc Fusing depth and pressure imaging to provide object identification for multi-touch surfaces
US20130101159A1 (en) * 2011-10-21 2013-04-25 Qualcomm Incorporated Image and video based pedestrian traffic estimation
JP2013157875A (ja) * 2012-01-31 2013-08-15 Canon Inc 映像撮影装置及び映像撮影方法
US9293016B2 (en) * 2012-04-24 2016-03-22 At&T Intellectual Property I, Lp Method and apparatus for processing sensor data of detected objects
JP2014109539A (ja) * 2012-12-04 2014-06-12 Yahoo Japan Corp 案内情報提供装置および案内情報提供方法
JP7291476B2 (ja) * 2018-12-13 2023-06-15 日産自動車株式会社 座席案内装置、座席案内方法、及び座席案内システム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000029932A (ja) * 1998-07-08 2000-01-28 Nippon Telegr & Teleph Corp <Ntt> 利用者検知機能を用いた情報案内方法及び利用者検知機能を有する情報案内システム及び情報案内プログラムを格納した記憶媒体
JP2000236571A (ja) * 1999-02-16 2000-08-29 Toshiba Corp 施設内情報管理システム、携帯端末
JP2000293685A (ja) * 1999-04-06 2000-10-20 Toyota Motor Corp シーン認識装置
JP2002026804A (ja) 2000-07-12 2002-01-25 Mitsubishi Electric Corp 特定施設情報提供システム、特定施設情報提供方法及び携帯情報端末
JP3999561B2 (ja) * 2002-05-07 2007-10-31 松下電器産業株式会社 監視システムと監視カメラ
JP3908137B2 (ja) * 2002-09-18 2007-04-25 株式会社日立製作所 情報表示方法及びシステム

Also Published As

Publication number Publication date
US20060040679A1 (en) 2006-02-23
US7454216B2 (en) 2008-11-18
JP2006059053A (ja) 2006-03-02

Similar Documents

Publication Publication Date Title
JP4369326B2 (ja) 施設内情報提供システム及び施設内情報提供方法
JP4306397B2 (ja) 認識処理システム
US7584158B2 (en) User support apparatus
US9922236B2 (en) Wearable eyeglasses for providing social and environmental awareness
US11403899B2 (en) Smart door system
US6967674B1 (en) Method and device for detecting and analyzing the reception behavior of people
US20190147228A1 (en) System and method for human emotion and identity detection
JP2019021019A (ja) 人流分析方法、人流分析装置及び人流分析システム
KR102060694B1 (ko) 개인 맞춤형 서비스를 제공하기 위한 고객 인식 시스템
CN108369672B (zh) 使用电子标志呈现基于上下文的引导
EP3175630A1 (en) Wearable earpiece for providing social and environmental awareness
JP7081081B2 (ja) 情報処理装置、端末装置、情報処理方法、情報出力方法、接客支援方法及びプログラム
US20230162533A1 (en) Information processing device, information processing method, and program
JP7030062B2 (ja) 情報処理システム、及び情報処理装置
CN112486165B (zh) 机器人领路方法、装置、设备及计算机可读存储介质
CN109709947B (zh) 机器人管理系统
WO2022153899A1 (ja) 案内システム
CN111159529B (zh) 信息处理系统、服务器、非暂时性计算机可读存储介质和用于处理信息的方法
JP7423904B2 (ja) 情報出力装置、方法、及びプログラム
CN113724454B (zh) 移动设备的互动方法、移动设备、装置及存储介质
US11361263B2 (en) Information processing device, terminal device, information processing method, and recording medium
JP7083972B2 (ja) 恋愛対象マッチングシステム、恋愛対象マッチング方法及び恋愛対象マッチングプログラム
JP6793383B1 (ja) 行動体特定システム
JP7273638B2 (ja) ロボット管理装置、ロボット管理方法およびロボット管理システム
JP2022052538A (ja) 画像処理装置、画像処理方法、およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061124

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20061124

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090303

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090507

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090623

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090708

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090804

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090827

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120904

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130904

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees