JP4607797B2 - 行動判別装置、方法およびプログラム - Google Patents

行動判別装置、方法およびプログラム Download PDF

Info

Publication number
JP4607797B2
JP4607797B2 JP2006059923A JP2006059923A JP4607797B2 JP 4607797 B2 JP4607797 B2 JP 4607797B2 JP 2006059923 A JP2006059923 A JP 2006059923A JP 2006059923 A JP2006059923 A JP 2006059923A JP 4607797 B2 JP4607797 B2 JP 4607797B2
Authority
JP
Japan
Prior art keywords
person
action
angle
basic
basic action
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006059923A
Other languages
English (en)
Other versions
JP2007241445A (ja
Inventor
嶋 伊知郎 豊
崎 直 樹 今
原 良 平 折
林 英 樹 小
磯 貴 史 小
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2006059923A priority Critical patent/JP4607797B2/ja
Priority to US11/713,802 priority patent/US7650318B2/en
Publication of JP2007241445A publication Critical patent/JP2007241445A/ja
Application granted granted Critical
Publication of JP4607797B2 publication Critical patent/JP4607797B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/04Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"

Description

本発明は、行動判別装置、方法およびプログラムに関する。
人間の実空間における行動判別技術は、重要な研究開発の対象であり様々なモデルが提案されている。
行動判別技術の応用範囲は多様であり、例としては介護施設等における見守り技術や、各種施設における不審者発見技術、また小売店舗における顧客行動分析技術が挙げられる。一方、近年の画像処理・RFID(Radio Frequency Identification)・各種センサーに代表されるユビキタスデバイスの発展により、行動判別に用いられるデータは種類・量ともに増大の傾向にあり、それらを用いた手法も提案されている。
特開平8-329247公報 特開2004-191095公報 特開2004-298285公報
上述の行動判別手法は、行動判別のためのデータ収集に際して比較的新しいデバイスを用いるが、それらはまだ開発途上のものが多く商品化に至っていない。またそれらのデバイスは、物理的制約から設置が不可能である場合や、採算面での問題から試用が敬遠される場合もある。
本発明は、行動判別のためのデータ収集をより簡易に行うとともに、取得した収集データを用いて適正な行動判別を行うことを可能にした行動判別装置、方法およびプログラムを提供する。
本発明の一態様としての行動判別装置は、
観測領域における人物の位置を所定時間間隔で保持した軌跡データから、
前記人物が停止している時間の長さの合計を表す停止時間、
前記人物が停止している位置間の回数を表す停止回数、
前記人物が歩行している時間の長さの合計を表す歩行時間、
前記人物が走行している時間の長さの合計を表す走行時間、
前記人物が所定角度以上の方向転換を行った回数を表す方向転換回数、
前記人物が歩行方向を変更する際の角度の変化量を合計した角度変化量和、
前記人物が歩行方向を変更する際の角度の変化量の絶対値を合計した角度変化量絶対値和、
前記観測領域を分割した各分割エリアにおいて前記人物が停止した停止開始位置の重心を表した重心集合ベクトル、
前記人物が停止する直前の速度の平均をとった停止直前平均速度、
のうちL(Lは1以上の整数)個の基本行動量を抽出する基本行動抽出部と、
抽出した前記L個の基本行動量と、判別アルゴリズムとから前記人物の行動を判別する行動判別部と、
を備え、
前記L個の基本行動量は、前記停止回数、前記角度変化量和、前記角度変化量絶対値和、前記重心集合ベクトル、および前記停止直前平均速度のうちの少なくとも1つを含むことを特徴とする
本発明の一態様としての行動判別方法は、
観測領域における人物の位置を所定時間間隔で保持した軌跡データから、
前記人物が停止している時間の長さの合計を表す停止時間、
前記人物が停止している位置間の回数を表す停止回数、
前記人物が歩行している時間の長さの合計を表す歩行時間、
前記人物が走行している時間の長さの合計を表す走行時間、
前記人物が所定角度以上の方向転換を行った回数を表す方向転換回数、
前記人物が歩行方向を変更する際の角度の変化量を合計した角度変化量和、
前記人物が歩行方向を変更する際の角度の変化量の絶対値を合計した角度変化量絶対値和、
前記観測領域を分割した各分割エリアにおいて前記人物が停止した停止開始位置の重心を表した重心集合ベクトル、
前記人物が停止する直前の速度の平均をとった停止直前平均速度、
のうちL(Lは1以上の整数)個の基本行動量を抽出し、
抽出した前記L個の基本行動量と、判別アルゴリズムとから前記人物の行動を判別し、
前記L個の基本行動量は、前記停止回数、前記角度変化量和、前記角度変化量絶対値和、前記重心集合ベクトル、および前記停止直前平均速度のうちの少なくとも1つを含むことを特徴とする
本発明の一態様としての行動判別プログラムは、
観測領域における人物の位置を所定時間間隔で保持した軌跡データから、
前記人物が停止している時間の長さの合計を表す停止時間、
前記人物が停止している位置間の回数を表す停止回数、
前記人物が歩行している時間の長さの合計を表す歩行時間、
前記人物が走行している時間の長さの合計を表す走行時間、
前記人物が所定角度以上の方向転換を行った回数を表す方向転換回数、
前記人物が歩行方向を変更する際の角度の変化量を合計した角度変化量和、
前記人物が歩行方向を変更する際の角度の変化量の絶対値を合計した角度変化量絶対値和、
前記観測領域を分割した各分割エリアにおいて前記人物が停止した停止開始位置の重心を表した重心集合ベクトル、
前記人物が停止する直前の速度の平均をとった停止直前平均速度、
のうちL(Lは1以上の整数)個の基本行動量を抽出するステップと、
抽出した前記L個の基本行動量と、判別アルゴリズムとから前記人物の行動を判別するステップとをコンピュータに実行させ、
前記L個の基本行動量は、前記停止回数、前記角度変化量和、前記角度変化量絶対値和、前記重心集合ベクトル、および前記停止直前平均速度のうちの少なくとも1つを含むことを特徴とする
本発明により、行動判別のためのデータ収集をより簡易に行うことができ、またこれにより取得した収集データを用いて適正な行動判別を行うことができる。
図1は、本発明の一実施の形態に従った行動判別装置の全体構成を概略的に示すブロック図である。この行動判別装置は、軌跡抽出部11、基本行動抽出部12、対応行動入力部13、基本行動量データベース14、軌跡抽出部21、基本行動抽出部22、類似度計算部23、行動判別部24、結果格納データベース25、結果表示部26を備える。軌跡抽出部11、基本行動抽出部12、軌跡抽出部21、基本行動抽出部22、類似度計算部23、行動判別部24による機能を実現する命令コードが記述されたプログラムをコンピュータに実行させてもよい。以下、図1の行動判別装置について詳細に説明する。
まず軌跡抽出部11、基本行動抽出部12、対応行動入力部13、基本行動量データベース14について説明する。
軌跡抽出部11は歩行体の軌跡データを取得する。ここでは歩行体は歩行者とするが、動物であってもよい。軌跡抽出部11の一例としてデジタルビデオカメラ(撮像装置)を用いることが可能である。軌跡抽出部11によって取得された歩行者軌跡データの一例を後述する図5の左側に示す。番号1〜10の各行がそれぞれ1つのビデオフレームに対応する。X座標およびY座標は観測領域(後述する図15参照)における歩行者の位置を示す。歩行者の位置がフレーム間隔(所定時間間隔)で保持されている。軌跡抽出部11は、歩行者を撮像する部分と、撮像データ(複数のフレーム画像)から歩行者の軌跡を抽出する部分とに分離されてもよい。撮像データから歩行者の軌跡を抽出するには既知の種々の画像処理技術を用いればよい。
軌跡抽出部11によって抽出された軌跡データは基本行動抽出部12に入力される。基本行動抽出部12は、入力された軌跡データをもとに、図2に挙げた9つの基本行動量、すなわち停止時間ST,停止回数SE,歩行時間WT,走行時間RT,方向転換回数CE,角度変化量和Q,角度変化量絶対値和QA,重心集合ベクトルG,停止直前平均速度BSを計算する。これらの基本行動量により歩行者軌跡の基本行動量ベクトル(ST, SE, WT, RT, CE, Q, QA, G, BS)が定まる。特に角度変化量和Q,角度変化量絶対値和QA,重心集合ベクトルG,停止直前平均速度BSは本実施の形態における大きな特徴の1つである。上記9つの基本特徴量の1つ以上を利用することで適正な行動判別が可能となる。各基本行動量の詳細については後述する。
対応行動入力部13は、基本行動量ベクトルに対してラベルをつける。例としては、ある行動Aを行っている人物を軌跡抽出部11により撮影して当該人物の軌跡データを抽出する。抽出した軌跡データから基本行動抽出部12により基本行動量ベクトルを計算し、この基本行動量ベクトルに対し対応行動入力部13を用いて行動Aのラベルをつける。行動Aの内容は、撮影内容から本装置の利用者が判断してもよいし、本人に対するインタビューにより取得してもよい。他の行動についての基本行動量ベクトルに対しても、同様にしてラベル付けを行う。ラベルとしては例えば、迷っているなどそのときの心の状況などをあげることができる。
基本行動量データベース14は、対応行動入力部13によってラベル付けされた基本行動量ベクトルを保存する。
次に、軌跡抽出部21、基本行動抽出部22、類似度計算部23、行動判別部24、結果格納データベース25、結果表示部26について説明する。
軌跡抽出部21、基本行動抽出部22は、軌跡抽出部11および基本行動抽出部12と同一の機能を有する。一部説明が重複するが軌跡抽出部21、基本行動抽出部22について説明する。
軌跡抽出部21も、軌跡抽出部11と同様、歩行者軌跡データを取得する。軌跡抽出部21の一例としてデジタルビデオカメラを用いることが可能である。軌跡抽出部21は、行動判別を行う対象となる歩行者の軌跡データを取得する。
軌跡抽出部21によって抽出された軌跡データは基本行動抽出部22に入力される。基本行動抽出部22は、入力された軌跡データをもとに、9つの基本行動量、すなわち停止時間ST,停止回数SE,歩行時間WT,走行時間RT,方向転換回数CE,角度変化量和Q,角度変化量絶対値和QA,重心集合ベクトルG,停止直前平均速度BSを計算し、これらの基本行動量によって歩行者軌跡の基本行動量ベクトル(ST, SE, WT, RT, CE, Q, QA, G, BS)を得る。基本行動抽出部22は、取得した基本行動量ベクトルを類似度計算部23に渡す。
類似度計算部23は、基本行動抽出部22から渡された入力軌跡の基本行動量ベクトルと、基本行動量データベース14に蓄えられている全ての基本行動量ベクトルとの類似度を計算する。類似度の尺度としては様々なものが考えられるが、一例としては両ベクトル間のユークリッド距離がある。
行動判別部24は、入力軌跡の基本行動量ベクトルに最も類似した基本行動量ベクトルを基本行動量データベース14から選択し、選択した基本行動量ベクトルに付されているラベルを入力軌跡の行動として採用する(第1の判別アルゴリズム)。行動判別の方法としては、以上のほか決定木などの分類規則を用いてもよい。すなわち、基本行動量データベース14を用いて基本行動量から行動内容を推測する分類規則を作成しておき、この決定木に入力軌跡の基本行動量ベクトルを入力して行動内容を判別してもよい(第2の判別アルゴリズム)。判別結果の活用方法に関しては別途述べる。
結果格納データベース25は、行動判別部24による判別結果を格納する。判別結果としては、例えば「商品探索中」「迷走中」「売り場Zで店員と商談中」などがある。判別結果のほかに、軌跡データ、入力軌跡の基本行動量ベクトルなどを格納してもよい。
結果表示部26は、軌跡抽出部21によって抽出された軌跡データ、基本行動抽出部22によって抽出された基本行動量ベクトル、行動判別部24によって判別された歩行者の行動内容を表示する。
図3は、基本行動抽出部22、12の詳細構成を示すブロック図である。基本行動抽出部22、12は4つのモジュール、すなわちデータ前処理部31、基本行動列計算部32、第1基本行動量計算部33、第2基本行動量計算部34に分かれる。
図4はデータ前処理部31による処理の流れを説明するフローチャートである。
データ前処理部31には、軌跡データが入力される。軌跡データは2次元実数座標系における点列であり、点列における各点は、各点に対応する時点における歩行者の位置に相当する。図5の左側に軌跡データの一例が示される。軌跡データは、X={x1,x2,…xN-1,xN}として表すことができる。ただしxi=(xi (x),xi (y))である。図5の例では、x1=(x1 (x),x1 (y))=(1.0,1.0)、x2=(x2 (x),x2 (y))=(2.0,3.2)である。
S11において、データ前処理部31は、上記軌跡データから、図5の右側に示すように、方向ベクトル列V={v1,v2,…vN-2,vN-1}を求める。Vの各要素は、軌跡データにおける各時点の座標間で定義される方向ベクトルであり、軌跡データの各時点の座標をxiとするとvi=xi+1-xiで計算される。図5の例では、i=1の場合、v1=x2-x1=(2.0-3.2)-(1.0,1.0)=(1.0,2.2)となる。
S12では、データ前処理部31は、方向ベクトル列Vを用いて、ノルム列D={d1,d2,…dN-2,dN-1}を計算する。ノルム列Dの計算例を図6に示す。ノルム列Dの計算では、方向ベクトル列の各要素の「長さ」をノルム列Dの各要素として求める。すなわち、方向ベクトル列Vのi番目の要素をvi=(ai,bi)とすると、ノルム列Dのi番目の要素は、
Figure 0004607797
で計算される。図6の例では、i=1の場合、d1=(12+2.22)1/2=2.417である。
図7は、基本行動列計算部32による処理の流れを示すフローチャートである。
S21において、ノルム列Dを用いて、停止行動列S={s1,s2,…sN-2,sN-1}の計算を行う。停止行動列Sの計算例を図8に示す。停止行動列は0または1の列であり、要素siの添え字iは、該当するフレーム間にあたる。直感的には歩行者が停止(歩行も走行もしていない)しているフレーム間は、停止行動列の値は1となり、停止していないフレーム間は0となる。
停止行動列Sにおける各要素の値の判別は、閾値Thstop&walk と、任意に与えるフレーム数Fとに基づいて行われる。閾値Thstop&walk は、事前に別途収集した停止及び歩行の軌跡データから、両者の速度に正規分布を仮定して推定した値である。停止時間列Sの要素siは、ノルム列の対応する要素diを含む連続したF個の要素がいずれもThstop&walk を下回る場合に、1となる。図8には閾値Thstop&walk=3、フレーム数F=2の例が示される。例えばi=4では、d4=2.546は3より小さく、またd4の前のd3=2.759も3より小さい。すなわち連続する2(=F)個のノルム列の要素がいずれも3より小さい。よって、d4=1となる。また、i=1では、d1=2.417は3より小さく、またd1の後のd2=2.147も3より小さい。すなわち連続する2個のノルム列の要素がいずれも3より小さい。よって、d1=1となる。
S22では、ノルム列Dと停止行動列Sとを用いて、歩行行動列W={w1,w2,…wN-2,wN-1}の計算を行う。歩行行動列Wの計算例を図9に示す。
歩行行動列Wの計算は閾値Thwalk&run (さらなる閾値)に基づいて行われる。閾値Thwalk&run は、事前に別途収集した歩行及び走行の軌跡データから、両者に正規分布を仮定して計算した値である。停止行動列Sの要素si=1である場合、時点iでは既に歩行者の行動が定まっているものとして判断し(歩行していないと判断し)自動的にwi=0とする。停止行動列Sの要素si=0である場合は、ノルム列Dの要素diがThwalk&run 以下ならば歩行者が歩いていると判断してwi=1とし、Thwalk&runを超えるならば歩いていないと判断して(走っていると判断して)wi=0とする。例えば、s1〜s4はいずれも1であるため、w1〜w4は自動的に0とする。一方、i=5の場合、s5=0であり、またd5=3.007(≦4.0)であるため、w5=1となる。i=7の場合、s7=0であり、またd7=5.385(>4.0)であるため、w7=0となる。
S23では、停止行動列Sと歩行行動列Wとを用いて、走行行動列R={r1,r2,…rN-2,rN-1}の計算を行う。走行行動列Rの計算例を図10に示す。
走行行動列Rの各要素は、停止行動列Sおよび歩行行動列Wにおいてsi=0かつwi=0であれば、歩行者は走っていると判断し、ri=1とする。すなわち、停止行動列Sの要素si=0であり、ノルム列Dの要素diがThwalk&run (さらなる閾値)より大きいならば歩行者が走行していると判断してri=1とする。一方、si=1あるいはwi=1の場合は、歩行者は走っていないと判断し、ri=0とする。例えばi=7,8では、wi,siのいずれも0であるためr7,r8=1とし、i=1〜6,9では、wi,siの少なくともいずれかが1であるため、r1〜r6,r9=0とする。
S24では、方向ベクトル列Vを用いて、方向転換列C={c1,c2,…cN-2}の計算を行う。方向転換列Cの計算例を図11に示す。
方向転換列Cにおける各要素ciは、方向ベクトル列Vにおける隣接する要素の成す角度により決定され、viとvi+1のなす角が所定角度(ここではπ/2とする)以上の場合は、歩行者が方向転換を行ったと判断して1とし、それ未満の場合は0とする。具体的に、判別方法としては内積の正負判別で行う。つまり、vi=(ai,bi), vi+1=(ai+1,bi+1)とすると、aiai+1+bibi+1が、0以下ならばci =1、それ以外はci =0である。
図12は第1基本行動量計算部33による処理の流れを示すフローチャートである。
S31では、停止行動列Sを用いて、停止時間STを計算する。停止時間STは、停止行動列Sの和を計算し、それにフレーム間隔時間Tを乗ずることで得られる。つまり、停止時間STは、歩行者が停止している時間の長さの合計を表す。
S32では、停止行動列Sを用いて、停止回数SEを計算する。停止回数SEは停止行動列S中の、値が1である要素の連続系列の出現回数として得られる。例えば停止行動列S={0000011000000111111110000001111110000}の場合、値が1である要素の連続系列の個数は3であるため、SE=3となる。つまり、停止回数SEは、歩行者が停止した回数を表す。
S33では、歩行行動列Wを用いて、歩行時間WTを計算する。歩行時間WTは、歩行行動列Wの和を計算し、それにフレーム間隔時間Tを乗ずることで得られる。つまり、歩行時間WTは、歩行者が歩行している時間の長さの合計を表す。
S34では、走行行動列Rを用いて、走行時間RTを計算する。走行時間RTは走行行動列Rの和を計算し、それにフレーム間隔時間Tを乗ずることで得られる。つまり歩行時間RTは、歩行者が走行している時間の長さの合計を表す。
S35では、方向転換列Cを用いて、方向転換回数CEを計算する。方向転換回数CEは、方向転換列CEの和を計算することで得られる。つまり、方向転換回数CEは、歩行者が所定角度以上の方向転換を行った回数を表す。より詳細には、なす度が所定角度以上である隣接する方向ベクトル同士の回数が方向転換回数に相当する。
図13は第2基本行動量計算部34による処理の流れを示すフローチャートである。
S41では、方向ベクトル列Vを用いて角度変化量列P={p1,p2,…pN-2}を計算する。角度変化量列Pの各要素piの値は方向ベクトル列Vの要素vi,vi+1のなす角の弧度法値であり、−π以上π以下の範囲の値である。直感的には歩行者が右折していれば正の値、左折していれば負の値である。
S42では、角度変化量列Pを用いて、角度変化量和Qを計算する。角度変化量和Qは角度変化量列Pの総和を計算することで得られる。この値の特徴として左右に同じだけ回転した場合、Qの値は打ち消しあって0になる。つまり、角度変化量和は、歩行者が歩行方向を変更する際の角度の変化量を合計したものである。
S43では、角度変化量列Pを用いて、角度変化量絶対値和QAを計算する。角度変化量絶対値和QAは、角度変化量列Pの角要素piの絶対値|pi|の総和を計算することで得られる。つまり、角度変化量絶対値和QAは、歩行者が歩行方向を変更する際の角度の変化量の絶対値を合計したものである。
S44では、停止行動列Sを用いて、停止位置集合SPを計算する。停止位置集合SPの計算例を図14に示す。停止位置集合SPは、停止行動の開始位置の集合である。詳細には、停止位置集合SPの各要素spiは、停止行動列Sに含まれる1の連続系列の各々の開始位置である。図14の例では、停止行動列Sにおいて、1の連続系列が3つ示され、各連続系列の開始位置は、6,14,28であるため、停止位置集合はSP={6,14,28…}となる。つまり停止行動の開始位置は、連続して停止している複数の位置間の先頭の位置に相当する。
S45では、停止位置集合SPと軌跡データXとを用いて、重心集合ベクトルGを計算する。重心集合ベクトルGの計算例を説明するため図15を示す。
観測領域100を任意に与えたN個の領域に分割する。本例ではN=4の例が示される。また、本例では各分割領域が方形となるように分割を行っているが分割方法はこれに限定されない。各領域i(本例ではi=1〜4)ごとに、停止位置集合SPと軌跡データXとに基づき、停止位置の重心giを計算する。停止位置の存在しない領域の重心は0ベクトルとする。重心集合ベクトルGは各領域の重心を用いてG={g1,g2,…,gN}と表される。つまり、重心集合ベクトルGは、観測領域を分割した各分割エリアについて、歩行体が停止を開始した位置の重心を表したものである。
S46では、ノルム列Dと、停止位置集合SPと、与えられた任意の整数Kとを用いて、停止直前平均速度BSを計算する。停止位置集合SPに示される停止位置の各々について、該停止位置からK時点前までのノルム列の平均を計算することにより個別停止直前平均速度を得る。次に全ての停止位置について計算した個別停止直前平均速度の平均を求め、これを停止直前平均速度BSとする。つまり、停止直前平均速度BSは、歩行体が各停止位置で停止する直前の速度の平均を表す。
以上によって、基本行動抽出部22、12は、図2に示した基本行動量ベクトルPV=(ST、SE、WT、RT、CE、Q、QA、G、BS)を得る。本実施形態では第1基本行動量計算部33と第2基本行動量計算部34とをそれぞれ別に設けたが、これらを一体とし、一体化された計算部において図12および図13の処理を行ってもよい。
図16は結果表示部26の画面イメージを示す。
画面下部には入力軌跡(軌跡データX)が表示される。表示される軌跡は、例えば、停止・歩行・走行の状態に各々対応した線種または色などで表示されてもよい。本例では、歩行が実線で、走行が破線で表示されているとする。
一方、画面上部には入力軌跡から得られた基本行動量ベクトルPVと、判別結果の行動(基本行動量データベース14から選択された基本行動量ベクトルに付されたラベル、もしくはこのラベルによって表される行動内容)を表示する。表示される判別結果の行動は、例えば画面下部に表示された入力軌跡全体から判断された1つの行動である。
以上に説明した本実施形態を用いることにより、例えば小売店舗の収益性改善を図ることができる。具体的には、基本行動量データベース内に「迷走中」や「店員と商談中」等の判別対象行動(ラベル)を基本行動量ベクトルに関連づけて格納しておく。買物客の入力軌跡から取得した基本行動量ベクトルを基本行動データベース内の各基本行動量ベクトルと比較することによって買物客の行動を判別する。そして、判別の結果を示すデータを結果格納データベースに格納する。結果格納データベースに蓄積された結果を分析することにより、「迷う人が多いので、レイアウトをわかりやすくする。」や「この売場では、ほとんどの買物客は商談していない。商品いれかえの必要有り」等の店舗改善施策を得ることができる。
また、本実施形態は防犯にも利用することが可能である。具体的には、基本行動量データベースに、不審行動を示すラベルを付した基本行動量ベクトルを格納することにより、不審行動の行動判別も可能であり、それによって不審者を検出することも可能である。
また、本実施形態のように軌跡抽出部としてビデオカメラを用いることで、既存の防犯カメラ等のインフラを活用でき、少ないコストでの本実施形態の導入が可能である。
本発明の一実施の形態に従った行動判別装置の全体構成を概略的に示すブロック図。 9つの基本行動量を示す図。 基本行動抽出部の詳細構成を示すブロック図。 データ前処理部による処理の流れを説明するフローチャート。 方向ベクトル列の計算例を示す図。 ノルム列の計算例を示す図。 基本行動列計算部による処理の流れを示すフローチャート。 停止行動列の計算例を示す図。 歩行行動列の計算例を示す図。 走行行動列の計算例を示す図。 方向転換列の計算例を示す図。 第1基本行動量計算部による処理の流れを示すフローチャート。 第2基本行動量計算部による処理の流れを示すフローチャート。 停止位置集合の計算例を示す図。 重心集合ベクトルの計算例を説明する図。 結果表示部の画面イメージを示す図。
符号の説明
11 軌跡抽出部
12 基本行動抽出部
13 対応行動入力部
14 基本行動量データベース
21 軌跡抽出部
22 基本行動抽出部
23 類似度計算部
24 行動判別部
25 結果格納データベース
26 結果表示部
31 データ前処理部
32 基本行動列計算部
33 第1基本行動量計算部
34 第2基本行動計算部

Claims (15)

  1. 観測領域における人物の位置を所定時間間隔で保持した軌跡データから、
    前記人物が停止している時間の長さの合計を表す停止時間、
    前記人物が停止している位置間の回数を表す停止回数、
    前記人物が歩行している時間の長さの合計を表す歩行時間、
    前記人物が走行している時間の長さの合計を表す走行時間、
    前記人物が所定角度以上の方向転換を行った回数を表す方向転換回数、
    前記人物が歩行方向を変更する際の角度の変化量を合計した角度変化量和、
    前記人物が歩行方向を変更する際の角度の変化量の絶対値を合計した角度変化量絶対値和、
    前記観測領域を分割した各分割エリアにおいて前記人物が停止した停止開始位置の重心を表した重心集合ベクトル、
    前記人物が停止する直前の速度の平均をとった停止直前平均速度、
    のうちL(Lは1以上の整数)個の基本行動量を抽出する基本行動抽出部と、
    抽出した前記L個の基本行動量と、判別アルゴリズムとから前記人物の行動を判別する行動判別部と、
    を備え、
    前記L個の基本行動量は、前記停止回数、前記角度変化量和、前記角度変化量絶対値和、前記重心集合ベクトル、および前記停止直前平均速度のうちの少なくとも1つを含むことを特徴とする行動判別装置。
  2. 前記L個の基本行動量は、前記停止時間を含み、
    前記基本行動抽出部は、
    前記軌跡データから各隣接する位置間の距離を計算し、
    計算した位置間の距離が閾値より小さい位置間を、前記人物が停止している位置間として検出し、
    検出した位置間の回数に前記所定時間間隔を乗ずることにより前記停止時間を計算することを特徴とする請求項1に記載の行動判別装置。
  3. 前記L個の基本行動量は前記停止回数を含み、
    前記基本行動抽出部は、
    前記軌跡データから各隣接する位置間の距離を計算し、
    計算した位置間の距離が閾値より小さい位置間を、前記人物が停止している位置間として検出し、
    検出した位置間の回数を前記停止回数とすることを特徴とする請求項1または2に記載の行動判別装置。
  4. 前記L個の基本行動量は前記歩行時間を含み、
    前記基本行動抽出部は、
    前記軌跡データから各隣接する位置間の距離を計算し、
    計算した位置間の距離が、前記閾値以上であり、かつさらなる閾値以下の位置間を前記人物が歩行している位置間として検出し、
    検出した位置間の回数に前記所定時間間隔を乗じることにより前記歩行時間を計算することを特徴とする請求項1〜3のいずれか一項に記載の行動判別装置。
  5. 前記L個の基本行動量は前記走行時間を含み、
    前記基本行動抽出部は、
    前記軌跡データから各隣接する位置間の距離を計算し、
    計算した位置間の距離が、前記さらなる閾値より大きい位置間を、前記人物が走行している位置間として検出し、
    検出した位置間の回数に前記所定時間間隔を乗じることにより前記走行時間を計算することを特徴とする請求項1〜4のいずれか一項に記載の行動判別装置。
  6. 前記L個の基本行動量は前記方向転換回数を含み、
    前記基本行動抽出部は、
    前記軌跡データから各隣接する位置間の方向ベクトルを計算し、
    隣接する方向ベクトル同士がなす角度をそれぞれ計算し、
    計算した角度が前記所定角度以上である方向ベクトル同士の回数を前記方向転換回数とすることを特徴とする請求項1〜5に記載の行動判別装置。
  7. 前記L個の基本行動量は前記角度変化量和を含み、
    前記基本行動抽出部は、
    前記軌跡データから各隣接する位置間の方向ベクトルを計算し、
    隣接する方向ベクトル同士がなす角度をそれぞれ計算し、
    計算した各角度を合計することにより前記角度変化量和を計算することを特徴とする請求項1〜6のいずれか一項に記載の行動判別装置。
  8. 前記L個の基本行動量は前記角度変化量絶対値和を含み、
    前記基本行動抽出部は、
    前記軌跡データから各隣接する位置間の方向ベクトルを計算し、
    隣接する方向ベクトル同士がなす角度をそれぞれ計算し、
    計算した各角度の絶対値を合計することにより前記角度変化量絶対値和を計算することを特徴とする請求項1〜7のいずれか一項に記載の行動判別装置。
  9. 前記L個の基本行動量は前記重心集合ベクトルを含み、
    前記基本行動抽出部は、
    前記軌跡データから各隣接する位置間の距離を計算し、
    計算した位置間の距離が閾値より小さい位置間を、前記人物が停止している位置間として検出し、
    連続して停止している位置間の集合の先頭の位置を前記停止開始位置として計算し、
    前記各分割領域における停止開始位置からそれぞれの重心を計算することを特徴とする請求項1〜8のいずれか一項に記載の行動判別装置。
  10. 前記L個の基本行動量は前記停止直前平均速度を含み、
    前記基本行動抽出部は、
    前記軌跡データから各隣接する位置間の距離を計算し、
    計算した位置間の距離が閾値より小さい位置間を、前記人物が停止している位置間として検出し、
    連続して停止している位置間の集合の先頭の位置を前記停止開始位置として計算し、
    各前記停止開始位置から所定個数前の位置までの範囲において、各隣接する位置間の距離の平均を計算し、
    各前記停止開始位置について計算した前記距離の平均を平均することにより前記停止直前平均速度を計算することを特徴とする請求項1〜9のいずれか一項に記載の行動判別装置。
  11. L個の基本行動量からなる組と、行動内容を表す情報とを対応づけたデータを複数格納する基本行動量データベースをさらに備え、
    前記行動判別部は、前記判別アルゴリズムとして、前記基本行動抽出部によって抽出されたL個の基本行動量と類似条件を満たす前記基本行動量の組を前記基本行動量データベースから検出し、検出した組に対応づけられた行動内容を前記人物の行動として決定することを特徴とする請求項1〜10のいずれか一項に記載の行動判別装置。
  12. 前記軌跡データと、抽出された前記L個の基本行動量と、決定された前記人物の行動内容を表す情報とを表示する表示部をさらに備えたことを特徴とする請求項1〜11のいずれか一項に記載の行動判別装置。
  13. 前記観測領域を歩行する人物を撮像した複数のフレーム画像から人物の軌跡データを抽出する軌跡抽出部をさらに備えたことを特徴とする請求項1〜12のいずれか一項に記載の行動判別装置。
  14. 観測領域における人物の位置を所定時間間隔で保持した軌跡データから、
    前記人物が停止している時間の長さの合計を表す停止時間、
    前記人物が停止している位置間の回数を表す停止回数、
    前記人物が歩行している時間の長さの合計を表す歩行時間、
    前記人物が走行している時間の長さの合計を表す走行時間、
    前記人物が所定角度以上の方向転換を行った回数を表す方向転換回数、
    前記人物が歩行方向を変更する際の角度の変化量を合計した角度変化量和、
    前記人物が歩行方向を変更する際の角度の変化量の絶対値を合計した角度変化量絶対値和、
    前記観測領域を分割した各分割エリアにおいて前記人物が停止した停止開始位置の重心を表した重心集合ベクトル、
    前記人物が停止する直前の速度の平均をとった停止直前平均速度、
    のうちL(Lは1以上の整数)個の基本行動量を抽出し、
    抽出した前記L個の基本行動量と、判別アルゴリズムとから前記人物の行動を判別し、
    前記L個の基本行動量は、前記停止回数、前記角度変化量和、前記角度変化量絶対値和、前記重心集合ベクトル、および前記停止直前平均速度のうちの少なくとも1つを含むことを特徴とする、行動判別方法。
  15. 観測領域における人物の位置を所定時間間隔で保持した軌跡データから、
    前記人物が停止している時間の長さの合計を表す停止時間、
    前記人物が停止している位置間の回数を表す停止回数、
    前記人物が歩行している時間の長さの合計を表す歩行時間、
    前記人物が走行している時間の長さの合計を表す走行時間、
    前記人物が所定角度以上の方向転換を行った回数を表す方向転換回数、
    前記人物が歩行方向を変更する際の角度の変化量を合計した角度変化量和、
    前記人物が歩行方向を変更する際の角度の変化量の絶対値を合計した角度変化量絶対値和、
    前記観測領域を分割した各分割エリアにおいて前記人物が停止した停止開始位置の重心を表した重心集合ベクトル、
    前記人物が停止する直前の速度の平均をとった停止直前平均速度、
    のうちL(Lは1以上の整数)個の基本行動量を抽出するステップと、
    抽出した前記L個の基本行動量と、判別アルゴリズムとから前記人物の行動を判別するステップとをコンピュータに実行させ、
    前記L個の基本行動量は、前記停止回数、前記角度変化量和、前記角度変化量絶対値和、前記重心集合ベクトル、および前記停止直前平均速度のうちの少なくとも1つを含むことを特徴とする行動判別プログラム
JP2006059923A 2006-03-06 2006-03-06 行動判別装置、方法およびプログラム Expired - Fee Related JP4607797B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2006059923A JP4607797B2 (ja) 2006-03-06 2006-03-06 行動判別装置、方法およびプログラム
US11/713,802 US7650318B2 (en) 2006-03-06 2007-03-05 Behavior recognition using vectors of motion properties based trajectory and movement type

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006059923A JP4607797B2 (ja) 2006-03-06 2006-03-06 行動判別装置、方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2007241445A JP2007241445A (ja) 2007-09-20
JP4607797B2 true JP4607797B2 (ja) 2011-01-05

Family

ID=38586961

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006059923A Expired - Fee Related JP4607797B2 (ja) 2006-03-06 2006-03-06 行動判別装置、方法およびプログラム

Country Status (2)

Country Link
US (1) US7650318B2 (ja)
JP (1) JP4607797B2 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5121258B2 (ja) * 2007-03-06 2013-01-16 株式会社東芝 不審行動検知システム及び方法
JP2008278128A (ja) * 2007-04-27 2008-11-13 Toshiba Corp 監視システム、監視方法およびプログラム
AU2008200926B2 (en) * 2008-02-28 2011-09-29 Canon Kabushiki Kaisha On-camera summarisation of object relationships
EP2335190A2 (en) * 2008-09-17 2011-06-22 Ramot at Tel-Aviv University Ltd System and method for analyzing exploratory behavior
US9740977B1 (en) * 2009-05-29 2017-08-22 Videomining Corporation Method and system for recognizing the intentions of shoppers in retail aisles based on their trajectories
US11004093B1 (en) * 2009-06-29 2021-05-11 Videomining Corporation Method and system for detecting shopping groups based on trajectory dynamics
JP5358851B2 (ja) * 2009-11-12 2013-12-04 将文 萩原 不審行動検知方法および不審行動検知装置
KR101880998B1 (ko) * 2011-10-14 2018-07-24 삼성전자주식회사 이벤트 기반 비전 센서를 이용한 동작 인식 장치 및 방법
FI20125280L (fi) 2012-03-14 2013-09-15 Mirasys Business Analytics Oy Menetelmä ja järjestely liikkuvan kohteen käyttäytymisen erittelemiseksi
US20160110791A1 (en) 2014-10-15 2016-04-21 Toshiba Global Commerce Solutions Holdings Corporation Method, computer program product, and system for providing a sensor-based environment
CN108052924B (zh) * 2017-12-28 2020-10-27 武汉大学深圳研究院 空间运动行为语义模式的辨识方法
CN109255284B (zh) * 2018-07-10 2021-02-12 西安理工大学 一种基于运动轨迹的3d卷积神经网络的行为识别方法
CN114579009A (zh) * 2020-11-30 2022-06-03 中移(苏州)软件技术有限公司 一种触发菜单项的方法、装置、设备及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0944757A (ja) * 1995-07-25 1997-02-14 Hitachi Ltd 侵入者監視システム
JPH0953957A (ja) * 1995-08-10 1997-02-25 Matsushita Electric Works Ltd 日常生活行動の解析方法及びその装置
JPH11161894A (ja) * 1997-12-01 1999-06-18 Hitachi Ltd 交通軌跡監視方法及び装置
JP2000357177A (ja) * 1999-06-16 2000-12-26 Ichikawa Jin Shoji Kk 店舗内の動線把握システム

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08329247A (ja) 1995-05-30 1996-12-13 Nippon Telegr & Teleph Corp <Ntt> 動画像認識装置
US7036094B1 (en) * 1998-08-10 2006-04-25 Cybernet Systems Corporation Behavior recognition system
US7050606B2 (en) * 1999-08-10 2006-05-23 Cybernet Systems Corporation Tracking and gesture recognition system particularly suited to vehicular control applications
US6678413B1 (en) * 2000-11-24 2004-01-13 Yiqing Liang System and method for object identification and behavior characterization using video analysis
EP1220140A1 (fr) * 2000-12-27 2002-07-03 Asulab S.A. Procédé de reconnaissance de caractères tracés manuellement sur une zone de saisie et dispositif électronique permettant de mettre en oeuvre ce procédé
WO2002093318A2 (en) * 2001-05-15 2002-11-21 Psychogenics Inc. Systems and methods for monitoring behavior informatics
US20030039379A1 (en) * 2001-08-23 2003-02-27 Koninklijke Philips Electronics N.V. Method and apparatus for automatically assessing interest in a displayed product
JP2003087771A (ja) * 2001-09-07 2003-03-20 Oki Electric Ind Co Ltd 監視システム及び方法
US20030107650A1 (en) * 2001-12-11 2003-06-12 Koninklijke Philips Electronics N.V. Surveillance system with suspicious behavior detection
DE10210926A1 (de) * 2002-03-13 2003-10-16 Bosch Gmbh Robert Vorrichtung zur Verfolgung wenigstens eines Objekts in einer Szene
US7366645B2 (en) * 2002-05-06 2008-04-29 Jezekiel Ben-Arie Method of recognition of human motion, vector sequences and speech
CA2603120A1 (en) * 2005-03-30 2006-10-05 Cernium Corporation Intelligent video behavior recognition with multiple masks and configurable logic inference module
US7386105B2 (en) * 2005-05-27 2008-06-10 Nice Systems Ltd Method and apparatus for fraud detection

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0944757A (ja) * 1995-07-25 1997-02-14 Hitachi Ltd 侵入者監視システム
JPH0953957A (ja) * 1995-08-10 1997-02-25 Matsushita Electric Works Ltd 日常生活行動の解析方法及びその装置
JPH11161894A (ja) * 1997-12-01 1999-06-18 Hitachi Ltd 交通軌跡監視方法及び装置
JP2000357177A (ja) * 1999-06-16 2000-12-26 Ichikawa Jin Shoji Kk 店舗内の動線把握システム

Also Published As

Publication number Publication date
JP2007241445A (ja) 2007-09-20
US7650318B2 (en) 2010-01-19
US20070244630A1 (en) 2007-10-18

Similar Documents

Publication Publication Date Title
JP4607797B2 (ja) 行動判別装置、方法およびプログラム
US10970558B2 (en) People flow estimation device, people flow estimation method, and recording medium
US9740977B1 (en) Method and system for recognizing the intentions of shoppers in retail aisles based on their trajectories
US11481751B1 (en) Automatic deep learning computer vision based retail store checkout system
EP2659456B1 (en) Scene activity analysis using statistical and semantic feature learnt from object trajectory data
US8295597B1 (en) Method and system for segmenting people in a physical space based on automatic behavior analysis
Delgado-Escano et al. A cross-dataset deep learning-based classifier for people fall detection and identification
Popa et al. Kinect sensing of shopping related actions
JP6314987B2 (ja) 店舗内顧客行動分析システム、店舗内顧客行動分析方法および店舗内顧客行動分析プログラム
US9245247B2 (en) Queue analysis
Wei et al. Recognizing people’s identity in construction sites with computer vision: A spatial and temporal attention pooling network
CN109829382B (zh) 基于行为特征智能分析的异常目标预警追踪系统及方法
US20130335571A1 (en) Vision based target tracking for constrained environments
Liu et al. Customer behavior classification using surveillance camera for marketing
WO2020079877A1 (en) System and method for video anomaly detection and storage medium
CN111325137A (zh) 暴力分拣检测方法、装置、设备及存储介质
Liu et al. Customer behavior recognition in retail store from surveillance camera
Kirchhof et al. Chances of interpretable transfer learning for human activity recognition in warehousing
Allegra et al. Exploiting egocentric vision on shopping cart for out-of-stock detection in retail environments
Hediyeh et al. Use of spatiotemporal parameters of gait for automated classification of pedestrian gender and age
KR100590841B1 (ko) 기준차량정보의 추가를 수반하는 영상기반의 교통량 분석시스템 및 그 방법
KR101653235B1 (ko) 제스쳐 인식 장치 및 그 방법
KR100911121B1 (ko) 영상 기반의 인간 블랍 추적방법
Mollaei et al. Patient’s actions recognition in hospital’s recovery department based on RGB-D dataset
CN117058627B (zh) 一种公共场所人群安全距离监测方法、介质及系统

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070925

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100614

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100618

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100817

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100910

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101007

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131015

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees