JP4815514B2 - 動線認識システム - Google Patents

動線認識システム Download PDF

Info

Publication number
JP4815514B2
JP4815514B2 JP2009164968A JP2009164968A JP4815514B2 JP 4815514 B2 JP4815514 B2 JP 4815514B2 JP 2009164968 A JP2009164968 A JP 2009164968A JP 2009164968 A JP2009164968 A JP 2009164968A JP 4815514 B2 JP4815514 B2 JP 4815514B2
Authority
JP
Japan
Prior art keywords
information
flow line
moving body
specific area
laser
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2009164968A
Other languages
English (en)
Other versions
JP2011022667A (ja
Inventor
直樹 関根
智則 伊久美
慎治 三枝
貴史 小磯
政実 高畠
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba TEC Corp
Original Assignee
Toshiba TEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba TEC Corp filed Critical Toshiba TEC Corp
Priority to JP2009164968A priority Critical patent/JP4815514B2/ja
Priority to EP10165442A priority patent/EP2278528A1/en
Priority to US12/821,602 priority patent/US8564659B2/en
Publication of JP2011022667A publication Critical patent/JP2011022667A/ja
Application granted granted Critical
Publication of JP4815514B2 publication Critical patent/JP4815514B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S3/00Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received
    • G01S3/78Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received using electromagnetic waves other than radio waves
    • G01S3/782Systems for determining direction or deviation from predetermined direction
    • G01S3/783Systems for determining direction or deviation from predetermined direction using amplitude comparison of signals derived from static detectors or detector systems
    • G01S3/784Systems for determining direction or deviation from predetermined direction using amplitude comparison of signals derived from static detectors or detector systems using a mosaic of detectors
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/86Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • G06V20/53Recognition of crowd images, e.g. recognition of crowd congestion

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • General Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Burglar Alarm Systems (AREA)
  • Image Analysis (AREA)
  • Optical Radar Systems And Details Thereof (AREA)

Description

本発明は、移動体、例えば店舗内を移動する顧客の経路を動線として認識するように構成された動線認識システムに関する。
スーパーマーケット,コンビニエンスストア等の店舗内を移動する顧客の経路を動線として認識するようにした動線認識システムは、既に知られている。例えば、特許文献1には、カメラ画像を用いた動線認識システムが開示されており、特許文献2には、無線タグを用いた動線認識システムが開示されている。
また、最近では、マルチレーザスキャナを用いて歩行者の動線を認識するシステムも開発されている(例えば、非特許文献1参照)
カメラ画像を用いる動線認識システムは、比較的小規模なスーパーマーケットやコンビニエンスストアなどでは有効である。しかしながら、大規模なスーパーマーケット等のように売場面積が広い店舗に対しては不向きである。すなわち、カメラ画像を用いる動線認識システムは、店舗内の全域をカバーするのに多くのカメラが必要となる。カメラの台数が増えると、撮影画像を記録保存するための記憶装置として大容量の記憶装置が必要となる。また、各カメラの制御も煩雑となる上、メンテナンスにかかるコストも大幅に増加する。したがって、カメラ画像を用いる方式は、監視領域が広い対象に対しては導入し難いものである。
一方、無線タグを用いる動線認識システムは、データ量の大きい画像データを用いない。このため、カメラ画像を用いるシステムと比較して記憶容量を大幅に低減できるメリットがある。ただし、位置検出の分解能、すなわち、どの程度の精度をもって移動体の位置を特定できるかは、概ね、無線タグリーダの数によって左右される。無線タグリーダの数が増えれば、位置検出の分解能は高まる。しかし、無線タグリーダの数が増えると、無線タグリーダ間で電波干渉が生じ易くなる。電波干渉が発生すると、無線タグのデータを読み取ることができなくなる。このため、監視領域内に設置できる無線タグリーダの数には物理的な制限がある。したがって、無線タグを用いる動線認識方式は、カメラ画像を用いる方式と比較して、低分解能とならざるを得ない。しかも、このシステムは、移動体である客に追随して無線タグが移動するように、例えば買い物カゴに無線タグを付すというような仕組みを作らなければならない煩雑さもある。
この点、マルチレーザスキャナを用いる動線認識システムは、移動体に追随して移動する格別な物品を用意する必要はない。また、位置検出の分解能も、カメラ画像を用いるシステムと同等若しくはそれ以上の値が得られる。しかしながら、このシステムは、位置計測精度の点で問題がある。
すなわち、マルチレーザスキャナを用いるシステムの場合、監視領域内をレーザスキャナでレーザスキャニングすることによって移動体を検出する。このため、レーザ光の特性上、その出射方向に複数の移動体が重なると、手前側の移動体は検出されるが、奥側の移動体は検出されない。つまり、奥側の移動体に関するデータが消失してしまい、確実な位置検出が困難となる。
このように、従来の動線認識システムには、カメラ画像を用いる方式、無線タグを用いる方式、マルチレーザスキャナを用いる方式等があるが、いずれの方式を採用した場合も、例えば大規模なスーパーマーケットの店舗内を移動する顧客の経路を動線として認識するような場合、すなわち監視領域が広い場合に問題がある。
本発明はこのような事情に基づいてなされたもので、その目的とするところは、監視領域が広い対象に対して有効な動線認識システムを提供しようとするものである。
本発明は、監視領域内における移動体の位置を検出する第1の位置検出手段と、この第1の位置検出手段により検出された前記移動体の位置を示す位置情報を、当該位置に前記移動体が居た時刻を示す時刻情報とともに監視領域移動体情報として記録する第1の情報記録手段と、監視領域内の一部である特定領域内における移動体の位置を、第1の位置検出手段による位置検出よりも高い精度をもって検出する第2の位置検出手段と、この第2の位置検出手段により検出された移動体の位置を示す位置情報を、当該位置に移動体が居た時刻を示す時刻情報とともに特定領域移動体情報として記録する第2の情報記録手段と、第1の情報記録手段により記録された監視領域移動体情報と第2の情報記録手段により記録された特定領域移動体情報とに基づいて、監視領域内を移動する移動体の経路を示す動線情報を作成する動線情報作成手段と、第1の位置検出手段または第2の位置検出手段により検出された移動体の位置を示す位置情報に基づいて移動体が特定領域に進入したか否かを判定する進入判定手段と、を具備し、第1の位置検出手段は、監視領域内の床面と平行にレーザスキャニングするレーザスキャナを備え、このレーザスキャナでレーザスキャニングした結果得られる前記床面から所定の高さの水平断面のレーザ距離画像から前記移動体の位置を検出し、動線情報作成手段は、第1の情報記録手段により記録された監視領域移動体情報のうち進入判定手段により特定領域に進入したと判定された移動体の監視領域移動体情報と第2の情報記録手段により記録された特定領域移動体情報とを照合して、各々の位置情報によって示される位置の間隔が所定値以下でかつ時刻情報によって示される時間の差が最も小さい監視領域移動体情報と特定領域移動体情報とを、同一移動体の情報として結合するものである。
かかる手段を講じた本発明によれば、監視領域が広い対象に対して有効な動線認識システムを提供できる。
本発明の一実施形態が適用された店舗の平面図。 同実施形態において、レーザスキャナから投光されるレーザ光の説明に用いる模式図。 同実施形態における動線認識システムの要部構成を示すブロック図。 同実施形態において、レーザ動線データベースに記憶されるデータの構造を示す図。 同実施形態において、カメラ動線データベースに記憶されるデータの構造を示す図。 同実施形態において、特定領域の説明の用いる模式図。 同実施形態において、特定領域データベースに記憶されるデータの構造を示す図。 同実施形態において、進退動線データベースに記憶されるデータの構造を示す図。 同実施形態において、最終動線データベースに記憶される最終動線ファイルの構造を示す図。 同実施形態において、進退判定部の処理手順を示す流れ図。 同実施形態において、最終動線作成部の処理手順を示す流れ図。 同実施形態において、動線結合部の処理手順を示す流れ図。
以下、本発明の実施形態について、図面を用いて説明する。なお、この実施形態は、スーパーマーケット等の店舗内を移動する顧客の経路を動線として認識する動線認識システムに、本発明を適用した場合である。
図1は、本実施形態の動線認識システムが構築された店舗1の平面図である。同図において、二重線で囲われた符号2の各領域は、商品棚を示している。また、符号3は、いずれもチェックアウトカウンタを示し、符号4は、いずれも店内への出入口を示している。チェックアウトカウンタには、図示しないが、POS端末やバーコードスキャナ等を備えている。
本実施形態では、商品棚2とチェックアウトカウンタ3とが設置された領域を除いた店舗内を監視領域としている。また、この監視領域のうち、図中ハッチングで示された領域5、すなわちチェックアウトカウンタ3の手前の領域を特定領域としている。そして、いずれかの出入口4から入店した顧客が監視領域及び特定領域5内を移動し、いずれかの出入口4から退店するまでの経路を、動線として認識するための動線認識システムを構築している。
動線認識システムは、マルチレーザスキャナ方式とカメラ画像方式とを併用している。具体的には、監視領域のうち特定領域5に対してはカメラ画像方式を採用し、その他の監視領域に対してはマルチレーザスキャナ方式を採用している。
すなわち、監視領域内には、図1に示すように、複数(図では12台)のレーザスキャナ6(6A,6B,6C,6D,6E,6F,6G,6H,6I,6J,6K,6L)を適所に分散して設置している。各レーザスキャナ6は、それぞれ床から所定の高さ(例えば10〜20cm)において、図2に示すように、床面と平行なレーザ光が監視領域に向けて観測角180度の広角にスキャニングするように、床等に固定してある。
特定領域5の周囲には、複数(図では4台)のカメラ7(7A,7B,7C,7D)を適所に分散して設置している。各カメラ7は、それぞれ図示の位置から特定領域5内を移動する顧客を撮影可能な場所であれば、天井、棚等のどの部位に設置されていてもよい。
図3は、かかる動線認識システムの要部構成を示すブロック図である。動線認識システムは、レーザスキャナ制御部21、カメラ制御部22、レーザ動線作成部23、カメラ動線作成部24、レーザ距離画像データベース25、カメラ画像データベース26、レーザ動線データベース27及びカメラ動線データベース28を有している。
レーザスキャナ制御部21は、複数のレーザスキャナ6のレーザスキャニング動作を制御する。各レーザスキャナ6から投光されたレーザ光は、30m程度の長距離計測が可能である。ただし、静止体や移動体等の障害物に衝突すると反射し、その反射光は、投光源であるレーザスキャナ6に戻る。したがって、床面と平行なレーザ光を観測角180度の広角にスキャニングさせることによって、レーザスキャナ制御部21は、レーザ光の投光の高さに応じた水平断面で、静止体及び移動体の両方が含まれた2次元直交座標におけるレーザ距離画像を得ることができる。レーザスキャナ制御部21は、各レーザスキャナ6のレーザスキャニング動作により得られるレーザスキャナ6毎の前記レーザ距離画像を、どのレーザスキャナから得られたのかを示す情報と、スキャニング開始時刻とを紐付けして、レーザ距離画像データベース25に記録する。
レーザ動線作成部23は、上記レーザ距離画像データベース25に記録されたデータを用いてレーザ動線情報を作成する。
各レーザスキャナ6は、常に同じ位置で同じ範囲をスキャニングしているため、壁や商品棚等の静止体までのレーザ長はシステム誤差の範囲を超えて変化することはない。したがって、1つのレーザスキャナ6から時系列に得られるレーザ距離画像の各画素において独立に演算を行い、それぞれの画素値が所定時間(例えば10秒)以上変化しなければ、その画素は背景とみなすことができる。そこでレーザ動線作成部23は、各レーザ距離画像から背景画像の差分を取ることによって移動体を抽出し、この移動体を追跡する。その際、移動体毎に固有の動線ID(以下、レーザ動線IDと称する)を発番する。そして、一定の周期で追跡中の移動体の位置を測定し、この位置を監視領域内の二次元直交座標(X,Y)に変換する。なお、本実施の形態では、図1に示す店舗1の左下隅を二次元直交座標(X,Y)の原点O(0,0)とする。
移動体の位置を二次元直交座標(X,Y)に変換したならば、レーザ動線作成部23は、その座標情報に、当該移動体に対して発番されたレーザ動線IDと、その移動体が抽出されたレーザ距離画像のスキャニング時刻に相当する検出時刻情報とを紐付けして、レーザ動線情報を作成する。レーザ動線作成部23は、作成した移動体毎のレーザ動線情報を、図4に示すようなデータ構造のレーザ動線データベース27に時系列に記録する。図4において、処理フラグは、対応するレーザ動線情報(レーザ動線ID,座標,検出時刻)が、レーザ動線データベース27に記録された時点では“0”であり、後述する最終動線作成部41において処理されると“1”となる。
カメラ制御部22は、各カメラ7A〜7Dの撮影動作を制御する。そして、カメラ7A〜7D毎に撮影された画像を順次取込み、撮影時刻の情報と紐付けして、カメラ画像データベース26に記録する。
カメラ動線作成部24は、カメラ画像データベース26に記録されたカメラ画像のデータに基づいて、移動体毎に動線情報を作成する。すなわち、複数のカメラ7A〜7Dの撮影画像を既知の視体積交差法によって処理して移動体を抽出し、この移動体を追跡する。その際、移動体毎に固有の動線ID(以下、カメラ動線IDと称する)を発番する。そして、一定の周期で追跡中の移動体の位置を測定し、この位置を監視領域内のX−Y平面座標に変換する。
移動体の位置を座標(X,Y)に変換したならば、カメラ動線作成部24は、その座標情報に、当該移動体に対して発番されたカメラ動線IDと、その移動体が抽出された画像の撮影時刻に相当する検出時刻情報とを紐付けして、カメラ動線情報を作成する。カメラ動線作成部24は、作成した移動体毎のカメラ動線情報を、図5に示すようなデータ構造のカメラ動線データベース28に時系列に記録する。
ここで、カメラ画像を用いた視体積交差法による方式は、マルチレーザスキャナを用いた方式と同等の高い分解能が得られる上、マルチレーザスキャナを用いた方式よりも安定した精度を保つことができる。このため、特定領域5内の動線は、他の監視領域内と比べて高い精度で動線を検出することができる。
ここに、各レーザスキャナ6及びレーザスキャナ制御部21と、レーザ動線作成部23とは、第1の位置検出手段を構成し、レーザ動線データベース27は、第1の情報記録手段を構成する。また、複数のカメラ7A〜7D及びカメラ制御部22と、カメラ動線作成部(画像処理手段)24とは、第2の位置検出手段を構成し、カメラ動線データベース28は、第2の情報記録手段を構成する。
動線認識システムは、さらに、進退判定部31、特定領域データベース32及び進退動線データベース33を有している。
特定領域5は、図6に示すように、X−Y平面上では長方形状をなしている。したがって、原点O(0,0)に対する左上端の点P1の2次元直交座標を(x1,y2)、右下端の点P2の2次元直交座標を(x2,y1)と定義すると、特定領域5は、X座標の範囲がx1〜x2で、Y座標の範囲がy1〜y2の点座標の集合となる。
そこで、特定領域データベース32には、図7に示すように、特定領域5を識別するエリアIDに対応して、X座標の範囲としてx1〜x2を、Y座標の範囲としてy1〜y2をそれぞれ設定している。
進退判定部31は、上記特定領域データベース32の設定データを参照して、レーザ動線データベース27に記録された各レーザ動線情報について、それぞれそのレーザ動線情報で追跡される移動体が特定領域5に進入した時点、あるいは特定領域5から当該移動体が退出した時点の情報であるか否かを判定する。そして、特定領域5に進入した時点、あるいは特定領域5から退出した時点のレーザ動線情報を、進退動線情報として進退動線データベース33に記録する。
進退動線情報は、図8に示すように、レーザ動線情報のレーザ動線IDと2次元直交座標(X,Y)に加えて、進退時刻と進退フラグを含む。進退時刻は、当該レーザ動線情報の検出時刻である。進退フラグは、当該進退動線情報が特定領域5に進入した時点の情報であるときには“1”、特定領域5から退出した時点の情報であるときには“0”となる。なお、“1”と“0”が逆であってもよい。
進退判定部31は、レーザ動線データベース27にレーザ動線情報が書き込まれる毎に、図10の流れ図に示す手順で、移動体の特定領域5に対する進退判定を行う。
先ず、進退判定部31は、ST(ステップ)1として、レーザ動線データベース27に書き込まれたレーザ動線情報(レーザ動線ID、X−Y座標、検出時刻)を取得する。次に、ST2として当該レーザ動線情報中の2次元直交座標で、特定領域データベース32を検索する。そして、ST3として2次元直交座標の位置が特定領域5内であるか否かを判定する。X座標及びY座標がいずれも特定領域5の座標範囲内であれば、当該レーザ動線情報は特定領域5内の情報であると判定し、それ以外は特定領域5外の情報であると判定する。
特定領域5外のレーザ動線情報と判定した場合には(ST3のNO)、進退判定部31は、ST4としてそのレーザ動線情報のレーザ動線IDを検索キーとして、進退動線データベース33を進退時刻が新しい順に検索する。その結果、検索キーと同一のレーザ動線IDがセットされた進退動線情報を進退動線データベース33から検出できなかった場合には(ST5のNO)、当該レーザ動線情報は、特定領域5から退出した時点の情報ではない。この場合、進退判定部31は、当該レーザ動線情報に対する処理を終了する。
進退動線データベース33を検索した結果、検索キーと同一のレーザ動線IDがセットされた進退動線情報を検出した場合には(ST5のYES)、進退判定部31は、ST6としてこの進退動線データベース33から検出した進退動線情報の進退フラグをチェックする。そして、進退フラグが“1”でない、つまり“0”である場合には(ST6のNO)、当該レーザ動線情報は、特定領域5から既に退出した移動体の情報である。この場合、進退判定部31は、当該レーザ動線情報に対する処理を終了する。
進退フラグが“1”である場合には(ST6のYES)、当該レーザ動線情報は、特定領域5から退出した直後の移動体の情報である。この場合、進退判定部31は、ST7として当該レーザ動線情報を、新たな進退動線情報として進退動線データベース33に追加する。また、ST8としてこの追加した進退動線情報の進退フラグを“0”とする。以上で、進退判定部31は、当該レーザ動線情報に対する処理を終了する。
一方、レーザ動線情報中の2次元直交座標で特定領域データベース32を検索した結果、特定領域5内のレーザ動線情報と判定した場合には(ST3のYES)、進退判定部31は、ST9としてそのレーザ動線情報のレーザ動線IDを検索キーとして、進退動線データベース33を進退時刻が新しい順に検索する。その結果、検索キーと同一のレーザ動線IDがセットされた進退動線情報を進退動線データベース33から検出できなかった場合には(ST10のYES)、当該レーザ動線情報は、特定領域5に進入した時点の情報である。この場合、進退判定部31は、ST12として当該レーザ動線情報を新たな進退動線情報として進退動線データベース33に追加する。また、ST13としてこの追加した進退動線情報の進退フラグを“1”とする。以上で、進退判定部31は、当該レーザ動線情報に対する処理を終了する。
進退動線データベース33を検索した結果、検索キーと同一のレーザ動線IDがセットされた進退動線情報を検出した場合には(ST10のYES)、進退判定部31は、ST11としてこの進退動線データベース33から検出した進退動線情報の進退フラグをチェックする。そして、進退フラグが“1”でない、つまり“0”である場合には、当該レーザ動線情報は、特定領域5から一旦退出し、その後再び進入した時点の移動体の情報である。この場合も、進退判定部31は、ST12,ST13の処理を実行して、当該レーザ動線情報に対する処理を終了する。
進退フラグが“1”である場合には、当該レーザ動線情報は、特定領域5に既に進入している移動体の情報である。この場合、進退判定部31は、当該レーザ動線情報に対する処理を終了する。
進退判定部31が、かかる手順の処理を実行することにより、進退動線データベース33には、特定領域5に進入した時点の進退動線情報(進退フラグが“1”)と、特定領域5から退出した時点の進退動線情報(進退フラグが“0”)とが時系列に記録される。ここに、進退判定部31は、進入判定手段及び退出判定手段を構成する。
動線認識システムは、さらに、最終動線作成部41、動線結合部42、動線再生部43、最終動線データベース44及び表示部45を有している。表示部45としては、例えばカラーディスプレイを採用するとよい。
最終動線作成部41は、図11の流れ図に示す手順で、顧客別の最終動線を作成する。なお、この手順は、例えば予め決められた時刻になると自動的にプログラムが起動して実行される。あるいは、キーボード等の入力デバイスの操作入力により所定のコマンドが入力されるとプログラムが起動して実行される。
先ず、最終動線作成部41は、ST21としてレーザ動線データベース27に蓄積されたレーザ動線情報を検出時刻が古い順に検索して、処理フラグFが未処理を示す“0”のレーザ動線情報を検出すると、そのレーザ動線情報のレーザ動線IDを未処理動線IDとして取得する。未処理動線IDを取得できたならば(ST22のYES)、最終動線作成部41は、ST23としてこの未処理動線IDを検索キーとしてレーザ動線データベース27をさらに検索する。そして、未処理動線IDと一致するレーザ動線IDがセットされたレーザ動線情報のうち、処理フラグが“0”のレーザ動線情報を検出時刻が古い順に全て抽出する。そして、ST24としてこの抽出したレーザ動線情報の処理フラグを“1”に更新する。
次に、最終動線作成部41は、ST25として図9に示すデータ構造の最終動線ファイル50を作成する。そして、この最終動線ファイル50に、レーザ動線データベース27から抽出した全てのレーザ動線情報の2次元直交座標と検出時刻とを順次格納する。格納後、最終動線作成部41は、ST26として新規の顧客IDを生成する。そして、この顧客IDをファイル名として、最終動線ファイル50を最終動線データベース44に保存する。
次に、最終動線作成部41は、ST27として動線結合部42に対する処理要求コマンドを作成する。このコマンドには、新規の顧客IDと、未処理動線IDと、この未処理動線IDを取得したレーザ動線情報の検出時刻とが含まれる。最終動線作成部41は、この処理要求コマンドを動線結合部42に出力する。
動線結合部42は、最終動線作成部41から処理要求コマンドを受取ると、図12の流れ図に示す手順で、カメラ動線情報と進退動線情報との結合を行う。
すなわち、動線結合部42は、ST31として処理要求コマンドに含まれる未処理動線IDを検索キーとして進退動線データベース33を進退時刻が古い順に検索する。そして、未処理動線IDと一致するレーザ動線IDの進退動線情報を検出したならば(ST32のYES)、ST33〜ST44の処理を実行する。
先ず、ST33として検出した進退動線情報の進退時刻が、処理要求コマンドに含まれる検出時刻以降か否かを判断する。進退時刻が検出時刻よりも前であった場合には(ST33のNO)、この進退動線情報は、処理要求コマンドに含まれる顧客IDが割り当てられた顧客よりも前に買物をした顧客の情報である。この場合、動線結合部42は、進退動線データベース33の検索に戻る。
進退時刻が検出時刻以降であった場合には(ST33のYES)、この進退動線情報は、処理要求コマンドに含まれる顧客IDが割り当てられた顧客の情報である。この場合、動線結合部42は、ST34としてこの進退動線情報の進退フラグを調べる。ここで、進退フラグが“1”でなかった場合には(ST34のNO)、この進退動線情報は、特定領域5から退出した時点の情報である。この場合、動線結合部42は、進退動線データベース33の検索に戻る。
進退フラグが“1”であった場合には(ST34のYES)、この進退動線情報は、特定領域5に進入した時点の情報である。この場合、動線結合部42は、ST35としてこの進退動線情報から2次元直交座標及び進退時刻の情報を取得する。
次に、動線結合部42は、ST36としてカメラ動線データベース28を検索する。そして、検出時刻が進退時刻に最も近いカメラ動線情報を1つ抽出する。
次に、動線結合部42は、ST37としてこのカメラ動線情報の2次元直交座標を取得する。そして、ST38として、この2次元直交座標が示す地点から、進退動線情報の2次元直交座標が示す地点までの距離dを算出する。
次に、動線結合部42は、ST39としてこの距離dが予め設定されているしきい値Dよりも短いか否かを判定する。しきい値Dは1メートル以内、例えば80センチメートルとする。距離dがしきい値Dより短い場合には(ST39のYES)、このカメラ動線情報と進退動線情報は、同一顧客の動線情報である。
この場合、動線結合部42は、ST40としてこのカメラ動線情報からカメラ動線IDを取得する。そして、ST41としてこのカメラ動線IDを検索キーとしてカメラ動線データベース28を検索して、検索キーと同一のカメラ動線IDが設定されたカメラ動線情報を全て抽出する。
次に、動線結合部42は、ST42として最終動線データベース44から処理要求コマンドに含まれた顧客IDをファイル名とする最終動線ファイル50を開く。そして、このファイル50に、カメラ動線データベース28から抽出した全てのカメラ動線情報の2次元直交座標と検出時刻を順次書き込む。
一方、距離dがしきい値D以上の場合には(ST39のNO)、カメラ動線情報と進退動線情報は、別の顧客の動線情報である。この場合、動線結合部42は、ST43としてカメラ動線情報の検出時刻と進退動線情報の進退時刻との時間差tを算出する。そして、ST44としてこの時間差tと予め設定されたしきい値Tとを比較して、時間差tがしきい値Tを超えたか否かを判断する。しきい値Tは、1分以下、例えば30秒とする。
時間差tがしきい値Tを超えていない場合には(ST43のNO)、カメラ動線データベース28の検索を続ける。そして、未だ抽出されていないカメラ動線情報で、検出時刻が進退時刻に最も近い情報を抽出する(ST36)。以後は、ST37〜ST44の処理を再度実行する。
ST42にてカメラ動線データベース28から取り込んだ全てのカメラ動線情報の2次元直交座標と検出時刻を最終動線ファイル50に書き込んだ後、あるいは時間差tがしきい値Tを超えた場合には、動線結合部42は、ST31の処理に戻る。
こうして、動線結合部42は、処理要求コマンドに含まれる未処理動線IDを検索キーとして進退動線データベース33を進退時刻が古い順に検索し、未処理銅線IDと一致するレーザ動線IDの進退動線情報を検出する毎に、ST33〜ST44の処理を実行する。
進退動線データベース33を検索し終えるか、未処理動線IDと一致するレーザ動線IDの進退動線情報を検出できなかった場合には(ST32のNO)、動線結合部42は、ST45として最終動線作成部41に処理終了の応答コマンドを出力する。この応答コマンドには、処理要求コマンドの顧客IDが含まれる。
図11のST27にて、処理要求コマンドを出力した最終動線作成部41は、ST28として処理終了の応答コマンドを待機する。そして、動線結合部42から処理終了の応答コマンドを受けたならば(ST28のYES)、最終動線作成部41は、最終動線データベース44から当該コマンド中の顧客IDをファイル名とする最終動線ファイル50を開く。そして、このファイルに記憶された座標情報と検出時刻情報とからなる最終動線情報を、検出時刻の古い順に並べ替える。
かくして、この最終動線ファイル50により、顧客IDで識別される顧客の最終動線情報が管理される。ここに、最終動線作成部41と動線結合部42は、動線情報作成手段を構成する。また、動線結合部42は、情報結合手段を構成する。
動線再生部43は、上記最終動線ファイル50に記憶された最終動線情報に従い、表示部45の店舗内を示す画面上に、動線を再生する。この動線は、店舗1のうち、特定領域5を除く監視領域については、マルチレーザスキャナ方式で認識されたものであり、特定領域5については、カメラ画像方式で認識されたものである。したがって、特定領域5については、その他の監視領域と比較して高い制度をもって動線の位置検出が行われる。
大規模なスーパーマーケットでは、一般に、チェックアウトカウンタ3の手前の領域は、会計待ちの客や買物を続ける客が行き来するので混雑する場合が多い。本実施の形態では、このチェックアウトカウンタ3の手前の領域を特定領域5としているので、この領域内を移動する顧客の動線については、高い精度をもって認識することができる。
一方、特定領域5以外については、マルチレーザスキャナ方式を採用している。マルチレーザスキャナ方式は、カメラ画像方式と比較して位置検出精度は低いものの、システムの構築及び維持にかかるコストを低減できるメリットがある。そして、このメリットは、監視領域が広ければ広いほど大きい。
このように本実施の形態によれば、監視領域が広い対象に対して有効な動線認識システムを提供することができる。
なお、この発明は前記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。
例えば、前記実施の形態では、第2の位置検出手段をカメラ画像方式によって構成したが、本発明はこれに限定されるものではない。要は、マルチレーザスキャナ方式によって構成した第1の位置検出手段に対して、第2の位置検出手段の方が位置検出の計測精度が高ければよい。
また、前記実施の形態では、特定領域5をチェックアウトカウンタ3の手前の領域としたが、この領域に限定されるものではない。また、その形状も、長方形に限定されるものではない。
また、監視領域内に複数の特定領域5を設けることも可能である。その場合は、カメラ7A〜7D、カメラ制御部22、カメラ画像データベース26、カメラ動線作成部24及びカメラ動線データベース28の系統を特定領域の領域数に合わせて設ける。また、進退判定部31は、特定領域5に対して進入または退出した進退動線情報に、該当する特定領域5のエリアIDを付加する。そして、動線結合部42は、進退動線情報のエリアIDで識別される系統のカメラ動線データベース28を参照して、進退動線情報とカメラ動線情報とを結合すればよい。
また、前記実施の形態では、進退判定部31、特定領域データベース32及び進退動線データベース33を設け、特定領域5に進入または特定領域5から退出したレーザ動線情報、いわゆる進退動線情報と、カメラ動線情報とを照合して、同一移動体の情報を結合したが、レーザ動線データベース27内のレーザ動線情報とカメラ動線情報とを照合し、結合してもよい。ただし、本実施の形態のように進退動線情報を用いることによって、結合判定に必要なレーザ動線情報の数を大幅に減らすことができる。その結果、動線結合部42に処理負荷を大幅に軽減できる効果を奏する。
また、前記実施の形態では、進退動線情報とカメラ動線情報とを同一移動体の情報として結合する条件を、各々の位置情報によって示される位置の間隔が所定値以下でかつ時刻情報によって示される時間の差が最も小さい場合を示したが、結合条件は、これに限定されるものではない。
また、前記実施の形態では、進退判定部31は、レーザ動線情報を用いて特定領域5への進入及び特定領域5からの退出を判定したが、カメラ動線情報を用いてもよい。すなわち進退判定部31は、特定領域データベース32を使用して、カメラ動線データベース28に記録されたカメラ動線情報が、特定領域5に移動体が進入した時点、あるいは特定領域5から移動体が退出した時点の情報であるか否かを判定し、特定領域5に進入した時点、あるいは特定領域5から退出した時点のカメラ動線情報を、進退動線データベース33に記録するようにしてもよい。
この他、前記実施形態に開示されている複数の構成要素の適宜な組合せにより種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態に亘る構成要素を組合わせてもよい。
以下に、本願出願の当初の特許請求の範囲に記載された発明を付記する。
[付記1]
監視領域内における移動体の位置を検出する第1の位置検出手段と、
この第1の位置検出手段により検出された前記移動体の位置を示す位置情報を、当該位置に前記移動体が居た時刻を示す時刻情報とともに監視領域移動体情報として記録する第1の情報記録手段と、
前記監視領域内の一部である特定領域内における前記移動体の位置を、前記第1の位置検出手段による位置検出よりも高い精度をもって検出する第2の位置検出手段と、
この第2の位置検出手段により検出された前記移動体の位置を示す位置情報を、当該位置に前記移動体が居た時刻を示す時刻情報とともに特定領域移動体情報として記録する第2の情報記録手段と、
前記第1の情報記録手段により記録された監視領域移動体情報と前記第2の情報記録手段により記録された特定領域移動体情報とに基づいて、前記監視領域内を移動する移動体の経路を示す動線情報を作成する動線情報作成手段と、を具備し、
前記第1の位置検出手段は、前記監視領域内の床面と平行にレーザスキャニングするレーザスキャナを備え、このレーザスキャナでレーザスキャニングした結果得られる前記床面から所定の高さの水平断面のレーザ距離画像から前記移動体の位置を検出することを特徴とする動線認識システム。
[付記2]
前記動線情報作成手段は、前記第1の情報記録手段により記録された監視領域移動体情報と前記第2の情報記録手段により記録された特定領域移動体情報とを照合して、各々の位置情報によって示される位置の間隔が所定値以下でかつ時刻情報によって示される時間の差が最も小さい監視領域移動体情報と特定領域移動体情報とを、同一移動体の情報として結合する情報結合手段を有することを特徴とする付記1記載の動線認識システム。
[付記3]
前記第1の位置検出手段または第2の位置検出手段により検出された前記移動体の位置を示す位置情報に基づいて前記移動体が前記特定領域に進入したか否かを判定する進入判定手段、をさらに具備し、
前記情報結合手段は、前記第1の情報記録手段により記録された監視領域移動体情報のうち前記進入判定手段により前記特定領域に進入したと判定された移動体の監視領域移動体情報と前記第2の情報記録手段により記録された特定領域移動体情報とを照合して、各々の位置情報によって示される位置の間隔が所定値以下でかつ時刻情報によって示される時間の差が最も小さい監視領域移動体情報と特定領域移動体情報とを、同一移動体の情報として結合することを特徴とする付記2記載の動線認識システム。
[付記4]
前記第1の位置検出手段または第2の位置検出手段により検出された前記移動体の位置を示す位置情報に基づいて前記移動体が前記特定領域から退出したか否かを判定する退出判定手段、をさらに具備し、
前記情報結合手段は、前記第1の情報記録手段により記録された監視領域移動体情報のうち前記退出判定手段により前記特定領域から退出したと判定された移動体の監視領域移動体情報と前記第2の情報記録手段により記録された特定領域移動体情報とを照合して、各々の位置情報によって示される位置の間隔が所定値以下でかつ時刻情報によって示される時間の差が最も小さい監視領域移動体情報と特定領域移動体情報とを、同一移動体の情報として結合することを特徴とする付記2または3記載の動線認識システム。
[付記5]
前記第2の位置検出手段は、前記特定領域内を撮影するカメラと、このカメラによって撮影された画像から移動体を認識してその移動体の位置を算出する画像処理手段とを備えたことを特徴とする付記1乃至4のうちいずれか1記載の動線認識システム。
5…特定領域、6A〜6L…レーザスキャナ、7A〜7D…カメラ、21…レーザスキャナ制御部、22…カメラ制御部、23…レーザ動線作成部、24…カメラ動線作成部、25…レーザ距離画像データベース、26…カメラ画像データベース、27…レーザ動線データベース、28…カメラ動線データベース、31…進退判定部、32…特定領域データベース、33…進退動線データベース、41…最終動線作成部、42…動線結合部、43…動線再生部、44…最終動線データベース、45…表示部。
特開2006−350751号公報 特開2004−214737号公報
「マルチレーザスキャナを用いた歩行者の抽出」[画像センシングシンポジウム講演論文集(発行年月:2004年6月)、著者:中村克行、ZHAO Huijing 柴崎亮介、坂本圭司、大鋸朋生]

Claims (4)

  1. 監視領域内における移動体の位置を検出する第1の位置検出手段と、
    この第1の位置検出手段により検出された前記移動体の位置を示す位置情報を、当該位置に前記移動体が居た時刻を示す時刻情報とともに監視領域移動体情報として記録する第1の情報記録手段と、
    前記監視領域内の一部である特定領域内における前記移動体の位置を、前記第1の位置検出手段による位置検出よりも高い精度をもって検出する第2の位置検出手段と、
    この第2の位置検出手段により検出された前記移動体の位置を示す位置情報を、当該位置に前記移動体が居た時刻を示す時刻情報とともに特定領域移動体情報として記録する第2の情報記録手段と、
    前記第1の情報記録手段により記録された監視領域移動体情報と前記第2の情報記録手段により記録された特定領域移動体情報とに基づいて、前記監視領域内を移動する移動体の経路を示す動線情報を作成する動線情報作成手段と、
    前記第1の位置検出手段または第2の位置検出手段により検出された前記移動体の位置を示す位置情報に基づいて前記移動体が前記特定領域に進入したか否かを判定する進入判定手段と、を具備し、
    前記第1の位置検出手段は、前記監視領域内の床面と平行にレーザスキャニングするレーザスキャナを備え、このレーザスキャナでレーザスキャニングした結果得られる前記床面から所定の高さの水平断面のレーザ距離画像から前記移動体の位置を検出し、
    前記動線情報作成手段は、前記第1の情報記録手段により記録された監視領域移動体情報のうち前記進入判定手段により前記特定領域に進入したと判定された移動体の監視領域移動体情報と前記第2の情報記録手段により記録された特定領域移動体情報とを照合して、各々の位置情報によって示される位置の間隔が所定値以下でかつ時刻情報によって示される時間の差が最も小さい監視領域移動体情報と特定領域移動体情報とを、同一移動体の情報として結合する情報結合手段を有したことを特徴とする動線認識システム。
  2. 前記第2の位置検出手段は、前記特定領域内を撮影するカメラと、このカメラによって撮影された画像から移動体を認識してその移動体の位置を算出する画像処理手段とを備えたことを特徴とする請求項記載の動線認識システム。
  3. 監視領域内における移動体の位置を検出する第1の位置検出手段と、
    この第1の位置検出手段により検出された前記移動体の位置を示す位置情報を、当該位置に前記移動体が居た時刻を示す時刻情報とともに監視領域移動体情報として記録する第1の情報記録手段と、
    前記監視領域内の一部である特定領域内における前記移動体の位置を、前記第1の位置検出手段による位置検出よりも高い精度をもって検出する第2の位置検出手段と、
    この第2の位置検出手段により検出された前記移動体の位置を示す位置情報を、当該位置に前記移動体が居た時刻を示す時刻情報とともに特定領域移動体情報として記録する第2の情報記録手段と、
    前記第1の情報記録手段により記録された監視領域移動体情報と前記第2の情報記録手段により記録された特定領域移動体情報とに基づいて、前記監視領域内を移動する移動体の経路を示す動線情報を作成する動線情報作成手段と、
    前記第1の位置検出手段または第2の位置検出手段により検出された前記移動体の位置を示す位置情報に基づいて前記移動体が前記特定領域から退出したか否かを判定する退出判定手段と、を具備し、
    前記第1の位置検出手段は、前記監視領域内の床面と平行にレーザスキャニングするレーザスキャナを備え、このレーザスキャナでレーザスキャニングした結果得られる前記床面から所定の高さの水平断面のレーザ距離画像から前記移動体の位置を検出し、
    前記動線情報作成手段は、前記第1の情報記録手段により記録された監視領域移動体情報のうち前記退出判定手段により前記特定領域から退出したと判定された移動体の監視領域移動体情報と前記第2の情報記録手段により記録された特定領域移動体情報とを照合して、各々の位置情報によって示される位置の間隔が所定値以下でかつ時刻情報によって示される時間の差が最も小さい監視領域移動体情報と特定領域移動体情報とを、同一移動体の情報として結合する情報結合手段を有したことを特徴とする動線認識システム。
  4. 前記第2の位置検出手段は、前記特定領域内を撮影するカメラと、このカメラによって撮影された画像から移動体を認識してその移動体の位置を算出する画像処理手段とを備えたことを特徴とする請求項記載の動線認識システム。
JP2009164968A 2009-07-13 2009-07-13 動線認識システム Active JP4815514B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2009164968A JP4815514B2 (ja) 2009-07-13 2009-07-13 動線認識システム
EP10165442A EP2278528A1 (en) 2009-07-13 2010-06-09 Flow line recognition system
US12/821,602 US8564659B2 (en) 2009-07-13 2010-06-23 Flow line recognition system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009164968A JP4815514B2 (ja) 2009-07-13 2009-07-13 動線認識システム

Publications (2)

Publication Number Publication Date
JP2011022667A JP2011022667A (ja) 2011-02-03
JP4815514B2 true JP4815514B2 (ja) 2011-11-16

Family

ID=42671618

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009164968A Active JP4815514B2 (ja) 2009-07-13 2009-07-13 動線認識システム

Country Status (3)

Country Link
US (1) US8564659B2 (ja)
EP (1) EP2278528A1 (ja)
JP (1) JP4815514B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11288472B2 (en) 2011-08-30 2022-03-29 Digimarc Corporation Cart-based shopping arrangements employing probabilistic item identification
US9367770B2 (en) 2011-08-30 2016-06-14 Digimarc Corporation Methods and arrangements for identifying objects
US10474858B2 (en) 2011-08-30 2019-11-12 Digimarc Corporation Methods of identifying barcoded items by evaluating multiple identification hypotheses, based on data from sensors including inventory sensors and ceiling-mounted cameras
US9224184B2 (en) 2012-10-21 2015-12-29 Digimarc Corporation Methods and arrangements for identifying objects
JP5720843B1 (ja) * 2014-09-22 2015-05-20 富士ゼロックス株式会社 位置変換プログラム及び情報処理装置
JP2017224148A (ja) * 2016-06-15 2017-12-21 スタンレー電気株式会社 人流解析システム
JP2021149642A (ja) * 2020-03-19 2021-09-27 サトーホールディングス株式会社 情報処理装置、情報処理方法、および、プログラム

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005088962A1 (ja) * 2004-03-16 2005-09-22 Hiroshi Arisawa 追尾装置、及びモーションキャプチャ装置
JP2006350751A (ja) * 2005-06-17 2006-12-28 Hitachi Ltd 店舗内の販売分析装置及びその方法
JP2007003448A (ja) * 2005-06-27 2007-01-11 Nippon Telegr & Teleph Corp <Ntt> 移動情報生成装置、移動情報生成方法、プログラムおよび記憶媒体
JP4561674B2 (ja) * 2006-03-30 2010-10-13 株式会社デンソー 物体検出装置
US8139818B2 (en) * 2007-06-28 2012-03-20 Toshiba Tec Kabushiki Kaisha Trajectory processing apparatus and method
JP4413957B2 (ja) * 2007-08-24 2010-02-10 株式会社東芝 移動物体検出装置および自律移動物体
JP4980260B2 (ja) * 2008-02-05 2012-07-18 東芝テック株式会社 動線認識システム
JP4510112B2 (ja) * 2008-04-11 2010-07-21 東芝テック株式会社 動線解析装置
JP4585580B2 (ja) * 2008-04-24 2010-11-24 東芝テック株式会社 人物動線追跡システム
JP2010002997A (ja) * 2008-06-18 2010-01-07 Toshiba Tec Corp 人物行動分析装置及び人物行動分析プログラム

Also Published As

Publication number Publication date
JP2011022667A (ja) 2011-02-03
US20110007152A1 (en) 2011-01-13
EP2278528A1 (en) 2011-01-26
US8564659B2 (en) 2013-10-22

Similar Documents

Publication Publication Date Title
JP4980260B2 (ja) 動線認識システム
JP4815514B2 (ja) 動線認識システム
TWI242701B (en) Autonomous moving robot
JP6261197B2 (ja) 表示制御装置、表示制御方法、及びプログラム
WO2019181499A1 (ja) 店舗管理装置および店舗管理方法
US9477955B2 (en) Automatic learning in a merchandise checkout system with visual recognition
US20110200226A1 (en) Customer behavior collection method and customer behavior collection apparatus
US20090268028A1 (en) Flow line tracing system and program storage medium for supporting flow line tracing system
JP6330115B1 (ja) 商品管理サーバ、自動レジシステム、商品管理プログラムおよび商品管理方法
US20090257624A1 (en) Flow line analysis apparatus and program recording medium
KR101178687B1 (ko) Rfid 기술 및 영상 기술을 통합한 동선 분석 시스템 및 그 방법
JP2017187988A (ja) コード認識装置
KR102096230B1 (ko) 도착 레인으로 합병되는 이동 아이템의 출발 레인을 결정
JP2009284167A (ja) 人物行動監視装置及び人物行動監視プログラム
Olmeda et al. Far infrared pedestrian detection and tracking for night driving
US11941604B2 (en) Automatic payment system
JP2009104441A (ja) 駐車場管理システム
JP4802285B2 (ja) 動線関連付け方法、装置及びプログラム
CN110998592A (zh) 用于零售系统的非规范扫描
JP2011170564A (ja) 動線連結方法,装置及び動線連結プログラム
JP5037643B2 (ja) 動線認識システム
JP2007087208A (ja) 顧客動向収集システム、顧客動向収集方法および顧客動向収集プログラム
JP2020194594A (ja) コード認識装置
US10762467B2 (en) Placement information registration device, placement information registration method, and placement information registration program
JP2017041214A (ja) 車種判別装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110426

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110510

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110711

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110802

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110829

R150 Certificate of patent or registration of utility model

Ref document number: 4815514

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140902

Year of fee payment: 3