− 第1の実施の形態 −
図1は、本発明の第1の実施の形態に係る異常監視システムの全体構成を概略的に示すブロック図である。異常監視システムは、不審行動監視装置100と、移動体端末装置10と、環境側測位装置12と、監視用センサ14と、監視用端末装置20とを備える。移動体端末装置10および環境側測位装置12は、ネットワークNW1を介して不審行動監視装置100と接続されている。監視用センサ14はネットワークNW2を介して不審行動監視装置100と接続されている。監視用端末装置20はネットワークNW3を介して不審行動監視装置100と接続されている。これらのネットワークNW1、NW2、NW3は、図1に示されるように独立して設けられるものであっても、一つのネットワークが共用されるものであってもよい。これらのネットワークはLAN、WAN、公衆無線網、インターネット等とすることが可能である。また、ネットワークの形態は有線、無線を問わない。
不審行動監視装置100は、プロセッサ、メモリ、インターフェース及び記憶装置を備えるコンピュータであって、測位記録管理部110と、例外行動検出部112と、疑惑情報抽出部114と、センサ情報管理部130と、死角情報抽出部132と、監視情報生成部134とを備える。これらの各部は、メモリに格納されたプログラムをプロセッサが実行することによって機能する。不審行動監視装置100は、さらに、測位データベース(以下、本明細書中では「データベース」を「DB」と表記する)102と、例外行動DB104と、ユーザDB106と、センサ情報DB120と、死角情報DB124と、屋内地図DB126と、疑惑情報DB128とを有する。これらの各DBは、ハードディスクドライブ、不揮発性メモリで構成される記憶装置に格納され、データベースマネジメントシステムによって管理される。
移動体端末装置10は、行動の監視対象となる人(以下、ユーザと称する)それぞれが携行する装置であり、携帯電話、PHS、無線通信機能付きのPDAなどの無線通信機能を有する携帯端末である。移動体端末装置10が携帯電話やPHSである場合、この移動体端末装置に備わるGPS装置によって得られた測位結果に移動体端末装置を一意に特定可能なID情報、例えば電話番号が付加され、測位情報としてネットワークNW1を介して不審行動監視装置100に送付される。GPS装置による測位に代えて、またはGPS装置による測位と共に、基地局から送信された信号を用いた測位も可能である。なお、測位情報の詳細については後で説明する。
移動体端末装置10がコンピュータやPDA、または専用の測位装置である場合、移動体端末装置10が、監視区域内に設置される複数の無線LANアクセスポイント、または電波ビーコンから送信される電波や、光ビーコンから放射される光信号の強度(または、受信タイミング)を基に移動体端末装置10の位置を計算し、計算された位置の情報に移動体端末装置10を一意に特定可能なID情報を付加し、測位情報として不審行動監視装置100に送付してもよい。
環境側測位装置12は、監視区域内に滞留するユーザの位置を特定する。例えば、環境側測位装置12は、ユーザの位置を特定するための装置であって、より具体的には、各ユーザが装着しているRFIDタグ(例えばICタグ)にアクセス可能な送受信装置である。この場合、送受信装置は監視区域内の所定の箇所に複数設置される。ユーザが、それらの送受信装置のいずれかに接近した場合、ユーザに装着されたRFIDタグと送受信装置との間で交信が行われ、各RFIDタグを一意に特定可能なID情報が読み出される。環境側測位装置12は、RFIDタグとの交信結果に基づき、RFIDタグから取得したID情報に送受信装置のID情報を付加した情報、すなわち、どのRFIDタグが監視区域内のどこに存在するかを特定可能な情報を含む測位情報を不審行動監視装置100に送付する。RFIDタグは、内部に電源を内蔵するものであっても、外部より無線で給電されるものであってもよい。また、ユーザの位置とIDとの双方を取得可能に構成される装置であれば、RFIDタグと送受信装置との組み合わせのみならず、他の装置も利用可能である。
また、環境側測位装置12は、監視区域内に複数設置され、ユーザが保持する移動体端末装置10と通信する無線LANアクセスポイント(基地局)でもよい。この場合、無線端末装置からは各ユーザを一意に特定可能な識別情報とともに測位信号が発せられる。無線端末装置と各基地局との間の距離は、無線端末装置の位置に応じて変化するので、各基地局が上記測位信号を受信するタイミングに差(時間差)を生じる。この時間差を基に各基地局と無線端末装置との距離が求められ、監視区域内における各ユーザの位置を特定することが可能となる。このような測位技術として、AirLocation(登録商標)が知られている。なお、各基地局から送信された信号をユーザが保持する無線端末装置を受信したタイミングによって、無線端末装置の位置を測定してもよい。
ところで、上記移動体端末装置10のそれぞれ、そしてユーザが装着するRFIDタグのそれぞれに付与される識別情報は、すべて一意に識別可能な情報である。したがって、上記移動体端末装置10のそれぞれがどのユーザによって保持されているか、または各RFIDタグがどのユーザに装着されているかの対応によって、これらの識別情報を基にユーザを特定することが可能となる。
ユーザDB106には、ユーザを特定可能な情報(ユーザ氏名、従業員コード等)と、これらのユーザが保持する移動体端末装置10、またはユーザが装着するRFIDタグのそれぞれに付与される識別情報との対応関係に関する情報などが登録される。なお、上記端末装置10やRFIDタグに各ユーザを一意に識別可能なユーザIDが登録されていて、このユーザIDが付加された測位情報が出力されるものであってもよい。その場合にはユーザDB106を省略することも可能である。
上記したいずれの方法によってもユーザを一意に識別することが可能であるので、以下では移動体端末装置10や環境側測位装置12に付与される識別情報の形態によらず、ユーザIDと称する。
以上に説明したように、移動体端末装置10、環境側測位装置12は、監視区域内に滞留する各ユーザ(監視対象者)を一意に特定可能であり、さらにそれらのユーザの監視区域内における位置を特定可能である。本明細書中では移動体端末装置10および環境側測位装置12がともに不審行動監視装置100に接続される例について説明するが、これらのうち、少なくともいずれかの装置が接続されており、いずれかの装置によってユーザの位置情報を取得できればよい。
監視用センサ14は、例えばカメラ、マイクロフォン、超音波センサ、赤外線センサ等のうちのいずれか、または複数の組み合わせによって構成可能である。監視用センサ14は、監視区域内における移動物体の存否を検出し、得られた情報をセンサ情報として出力する。
監視用センサ14がカメラである場合、監視区域内の所定の範囲が時間的に連続または断続的に撮影され、得られた画像データがセンシングデータとして不審行動監視装置100に出力される。得られる画像データは静止画の画像データであっても、動画の画像データであってもよい。動画の画像データである場合、所定のフレームレートで連続的に撮影されたものであっても、一定の時間にわたって撮影することが所定の時間間隔をおいて断続的に繰り返されて得られたものであってもよい。この画像データを基に、監視区域内における監視対象者の動き、物体の動き等を検出可能である。
監視用センサ14がマイクロフォンである場合、監視区域内の所定の範囲における音が時間的に連続または断続的に収録され、得られた音声データがセンシングデータとして不審行動監視装置100に出力される。このセンシングデータを基に、監視区域内における監視対象者の動き(歩行、停止、物体を移動させる動作、ドアを開閉する動作、施錠・開錠動作、梱包・開梱等の動作)を検出可能である。また、監視区域内に監視用センサ14として複数のマイクロフォンを設置することにより、各マイクロフォンに到達する音波の時間的なずれや音圧の変化を解析することにより監視対象者の位置を特定し、その結果を可視化することも可能である。
監視用センサ14の特徴としては、それがカメラであれば設置位置、画角、および向きによって、あるいはそれがマイクロフォンであれば設置位置、指向性、および向きによって決まる検出範囲内で生じた事象を網羅的に検出可能である、という点である。ここで検出範囲とは空間的な範囲を意味し、事象とは移動物体の存否や移動などを意味する。さらに、監視用センサ14の有する特徴として、以下に説明するように「死角」の存在がある。
監視用センサ14がカメラである場合、監視用センサ14の設置位置、画角、向きと、監視区域内に設置される棚や壁等の地物によって死角、つまり監視用センサ14では捉えることのできない範囲が存在する。また、監視用センサ14がマイクロフォンである場合、監視用センサ14の設置位置、指向性、向きと、監視区域内に設けられる壁によって死角が存在することになる。また、監視区域内の空調音等(暗騒音)の大きさによっては監視用センサ14で捉えることのできる範囲が限られる可能性がある。このように、マイクロフォンによって検出できない範囲もまた、本明細書中では死角として定義される。
監視用センサ14が超音波センサや赤外線センサ等である場合にも、同様に死角が存在する。以下では監視用センサ14がカメラであるものを例に説明するが、本発明においては監視用センサ14として上述したもののみならず、様々なものを利用可能である。
ところで、不審行動が行われる場合のことを想定すると、この不審行動は監視用センサ14の死角となるところで行われることが多い。つまり、監視カメラによって撮影されていることが判っているのにそこで不審行動が行われる、というケースは希である。本発明によれば、以下の説明で明らかになるように、移動体端末装置10や環境側測位装置12から送付される測位情報を基に監視区域内の各ユーザの行動を把握し、例外行動が検出された場合に、例外行動が検出された場所と死角の存在する場所との一致度が調べられる。そして一致度が高いと判定される場合に、当該例外行動の疑惑度は高いと判定される。
ここで不審行動監視装置100内の各構成要素について説明する。測位記録管理部110は、移動体端末装置10、環境側測位装置12から送付される測位情報を受信し、測位DB102に登録する。図2(a)に、移動体端末装置10、環境側測位装置12から送付される測位情報の一例を示す。測位情報は、ユーザID、測位系ID、X座標、Y座標、時刻を含む。ユーザIDは、測位されたユーザ(監視対象者)を一意に識別可能な情報である。例えば、ユーザが保持する移動体を識別する情報、例えば電話番号やMACアドレス等をユーザIDとすることができる。あるいは、ユーザにRFIDタグ等が装着されている場合には、そのRFIDタグ中の識別情報をユーザIDとすることができる。いずれの場合にも、ユーザID、電話番号、MACアドレス等からユーザ名を特定可能なテーブルを測位DB102中に登録しておくことが望ましい。
測位系IDは、測位手段を示すコードである。図2(a)に示される例では、GPSによる測位が行われる場合に測位系IDとして0が付与される。また、環境側測位装置12による測位(基地局測位)である場合に測位系IDとして1が付与される。
X座標およびY座標は、監視区域内におけるユーザの位置を二次元直交座標系中の座標値として特定可能とする情報である。各座標軸の延在方向については監視区域の形状等に応じて設定可能である。X座標およびY座標に加えてZ座標を加え、三次元の位置情報が扱われるようにしてもよい。これらの座標値は一例として示したものであり、必ずしも直交座標系を用いなくてもよい。また、移動体端末装置10がGPSセンサを有するものである場合、移動体端末装置10で導出された地球上における経度、緯度の情報をX座標値、Y座標値として記録することも可能である。加えて、必要に応じて高度の情報も記録することが可能である。
時刻の情報には、測位が行われた時刻、または測位情報が不審行動監視装置100に送付された時刻が含まれる。加えて、必要に応じて年、月、日の情報も記録することが可能である。以上に説明した情報が測位DB102に登録される。
例外行動検出部112は、ユーザの過去の行動パターンと、判定対象の時間区間における行動パターンとを照らし合わせて、判定対象の時間区間における行動パターンの例外度(不一致の度合いを表す指標)を検出し、検出された例外行動を例外行動DB104に登録する処理をそれぞれのユーザごとに行う。ユーザの過去の行動パターンは、記録に残っている全ての行動パターンとしてもよいし、例外度を検出する時点から遡って過去一ヶ月間、一週間、数日間等の期間における行動パターンとしてもよい。また、判定対象の時間区間は、例外度の検出がリアルタイムで行われる場合には、直近の所定の時間区間とすればよい。例外行動DB104に登録される例外行動情報の一例が図2(b)に示される。例外行動情報は、ユーザIDと、時刻と、活動領域と、例外度と、管理者特記事項とに関する情報を含む。ユーザIDは図2(a)を参照して説明したものと同じである。時刻は、例外行動が行われた時刻を示す情報である。時刻の情報には、必要に応じて年、月、日の情報を加えてもよい。
活動領域は、例外行動が行われたときに当該ユーザが滞在していた領域を示す情報であり、この領域を囲う多角形の座標値列にて表現された情報でもよい。例外度は、行動の例外らしさを表す情報であり、数値や記号等で表される。管理者特記事項は、管理者(監視者)が当該例外行動に対して付与した情報を含む。例えば、検出された例外行動が手洗いや休憩に行く行動であることが分かった場合、当該例外行動に対して管理者は「以後の通知は不要」と設定することが可能であり、この設定内容を反映した情報が管理者特記事項中に含まれる。なお、例外度が低い行動であっても、過去に何らかの不都合が生じた場合、管理者はその行動を指定して「以後の通知は必要」と設定し、例外行動DB104中に登録されるようにしてもよい。
センサ情報管理部130は、監視用センサ14から送付されるセンシング結果を受信し、センサ情報DB120に登録する。図3(a)に、監視用センサ14から送付されるセンシング結果の一例を示す。センサIDは、センサを一意に識別する情報である。データはセンシングデータであり、例えば静止画または動画の画像データや音声データ等である。これらのデータは未処理の生データであっても、DSP(デジタル信号プロセッサ)等によって処理されたデータであってもよい。また、データは非圧縮データであっても、圧縮データであってもよい。
センサ情報DB120に登録されるセンサ情報の一例を図3(b)に示す。センサ情報は、センサIDと、センサ種別と、時刻と、センシングして得られたデータ(センシングデータ)と、その他の属性に関する情報とを含む。
センサIDは、図3(a)を参照して説明したのと同じ情報である。センサ種別は、カメラ、マイクロフォン、赤外センサ等の、センサの種類を示すコードである。時刻はセンシングの行われた時刻を特定可能な情報である。たとえば、動画や音声等のようにある時間にわたってセンシングが行われる場合にはセンシング開始時刻とセンシングの行われた時間の長さ、センシングの行われた時間帯中の代表的な時刻、センシング開始時刻とセンシング終了時刻等のうちいずれかまたは複数を組み合わせたものを時刻の情報とすることが可能である。加えて年、月、日の情報も必要に応じて付加することも可能である。データは、センシングデータであり、例えば静止画または動画の画像データや音声データ等である。これらのデータは未処理の生データでも、DSP(デジタル信号プロセッサ)等によって処理されたデータでもよい。また、データは非圧縮データであっても、圧縮データでもよい。その他属性の情報には、それぞれのセンシングデータから抽出できる任意の情報が含まれる。例えば、人が写っている、歩行音が記録されている等の区別をすることが可能な情報が含まれる。
死角情報抽出部132は、屋内地図DB126に格納される地図情報およびセンサ情報を読み出して監視区域内の死角領域を導出する。この死角領域は、監視区域内に一または複数存在しうる。死角情報抽出部132は、導出された死角領域を特定する情報に死角IDを付与したものを死角情報として死角情報DB124に登録する。
屋内地図DB126に格納される地図情報の例を図4(a)に示す。地図情報は、地物IDと、種別コードと、形状の情報を含む。地物IDは、監視区域およびその周辺に存在する地物を一意に識別可能な情報である。ここで地物とは、床、壁、柱、物体収納棚、パーティション、天井から吊り下げられた物体(例えば、空調ダクト、スピーカボックス、ライト)等を含む。種別コードは、センシングを阻害するか否かを判定するために利用可能な、地物種別の情報である。種別コードの一例としては、壁、柱、梁、棚、扉等を識別可能な情報とすることが可能である。また、扉や壁に貫通穴が沢山設けられていれば、監視用センサ14がマイクロフォンである場合にセンシングは阻害されにくいので、その旨の情報を種別コード中に含むことが可能である。また、壁や扉が透明材料で形成されていれば、監視用センサ14がカメラである場合にセンシングは阻害されにくいので、その旨の情報を種別コード中に含むことが可能である。
形状の情報は、地物の形状や寸法等を特定可能な情報を含む。一例として、地物の配置位置、底部形状および寸法、地物が存在する高さ方向の位置等を含む。あるいは、地物の外形形状を特定可能な三次元座標データの集合とすることも可能である。
屋内地図DB126に格納されるセンサ情報の例を図4(b)に示す。センサ情報は、センサIDと、種別コードと、設置場所と、センサパラメータとに関する情報を含む。センサIDは、監視区域に設置されるセンサのそれぞれを一意に識別可能とする情報である。種別コードは、センサの種類(マイクロフォン、カメラ等)を示す情報である。設置場所の情報は、監視区域内における設置箇所を特定可能な情報であり、例えば二次元または三次元の座標値とすることが可能である。センサパラメータは、当該センサによりセンシング可能な領域を特定可能な情報である。例えば、当該センサがカメラである場合、カメラの向き、視野角(画角または焦点距離)、解像度等の情報を含む。また、当該センサがマイクロフォンである場合、マイクロフォンの向き、指向性、感度等の情報を含む。
死角情報DB124に格納される死角情報の例を図4(c)に示す。死角情報は、死角IDと、死角領域の情報とを含む。死角IDは、監視区域に存在する一または複数の死角領域を一意に識別可能な情報である。死角領域は、監視用センサ14から情報が取得できない領域を特定する情報である。例えば、当該死角領域を多角形や三次元立体で表したときの、頂点の座標の組み合わせを死角領域の情報とすることができる。あるいは、監視区域を予めメッシュ状に分割してそれぞれの分割領域にIDを付与しておき、死角領域がどの分割領域(一つまたは複数)に対応するかの情報を死角領域の情報とすることが可能である。
疑惑情報抽出部114は、例外行動DB104から読み出される例外行動情報と、死角情報DB124から読み出される死角情報とに基づいて疑惑度を抽出する処理を行う。そして、予め定められた基準と比較して、疑惑度が高いと判定された場合、当該疑惑行動を特定可能な情報を疑惑情報として生成し、疑惑情報DB128に登録する。
疑惑情報DB128に格納される疑惑情報の例を図5に示す。疑惑情報は、ユーザIDと、時刻と、疑惑度の情報とを含む。ユーザIDは、当該疑惑行動を行ったユーザを一意に特定可能な情報である。時刻は、当該疑惑行動が行われた時刻を特定可能な情報である。この時刻の情報には、年月日の情報を必要に応じて含めることも可能である。疑惑度は、当該疑惑行動の疑惑の度合いを表す情報である。疑惑度の情報としては疑惑度の程度を示す数字を含んでもよいし、A、B、C、D、…や「高い」、「普通」、「低い」などの文字等を含んでいてもよい。
図6は、不審行動監視装置100のハードウェア構成例を示すブロック図である。不審行動監視装置100は、図6に例示されるように、コンピュータを用いて不審行動監視用サーバとして実施することが可能である。不審行動監視装置100は、プロセッサ602と、メインメモリ604と、入力装置606と、出力装置608と、インターフェース(図6中では「I/F」と表記される)610と、記憶装置612とを有する。
図1に示される測位記録管理部110、例外行動検出部112、疑惑情報抽出部114、センサ情報管理部130、死角情報抽出部132、監視情報生成部134は、専用のハードウェアとして実装されていてもよいが、本実施の形態においては記憶装置612内に記憶されるソフトウェア620がメインメモリ604上に読み出されてプロセッサ602により実行されて実施される。また、図1に示される測位DB102、例外行動DB104、ユーザDB106、センサ情報DB120、死角情報DB124、屋内地図DB126、疑惑情報DB128は記憶装置612内に格納される。
入力装置606は、キーボードやマウス等を含む。出力装置608は、ディスプレイ装置やプリンタ等を含む。記憶装置612は磁気ハードディスク装置やSSD(ソリッドステートドライブ)等で構成される。プロセッサ602および記憶装置612は図6に示されるように一つずつ備わっても、必用に応じて複数備わってもよい。
インターフェース610は、ネットワークNWと接続するためのインターフェースである。なお、図1に示される三つのネットワークNW1、NW2、NW3は、図6中においてネットワークNWとして示されている。また、図1、図6においては移動体端末装置10、環境側測位装置12、監視用センサ14、監視用端末装置20がネットワークを介して不審行動監視装置100と接続される例について示しているが、ネットワーク以外の手段(例えば専用の回路等)を介して不審行動監視装置100と接続されるものであってもよい。
以上では不審行動監視装置100が1台のコンピュータによって構成される例について説明したが、複数のコンピュータによって構成し、処理負荷を分散させることも、より高い信頼性が求められる部分の冗長度を増す構成とすることも可能である。
図7は、不審行動観視装置100を含んで構成される不審行動監視システムの構成および動作フローを概略的に示す図である。本システムの動作は主に3種類のフローからなる。すなわち、図7中で破線の矩形で囲んで示した測位情報受信のフロー、センシング情報受信のフロー、監視警告のフローからなる。測位情報受信のフローおよびセンシング情報受信のフローは、連続的、あるいは所定の時間間隔をおいて断続的に行われ、受信した情報が逐次測位DB102、センサ情報DB120中に蓄積される。その間、不審行動監視装置100は例外行動検出処理と疑惑情報抽出処理とを随時実行し、疑惑行動が検出されると監視用端末装置20に対して警告の情報を発し、監視者Pに注意を促す。監視者Pは当該疑惑行動の詳細を提示するように、不審行動監視装置100に要求を発する。不審行動監視装置100は、この提示要求に対応する疑惑情報を監視用端末装置20に出力する。
図8は、測位情報の受信処理、データベースへの登録処理、および例外行動検出処理のシーケンスを示す図である。環境側測位装置12、移動体端末装置10からは、測位情報が連続的に、あるいは所定の時間間隔をおいて断続的に出力される。測位記録管理部110は、これらの測位情報を受信し、測位DB102に順次登録する処理を行う。例外行動検出部112は、測位DB102に蓄積される測位情報を基に、監視区域内の各ユーザに対応して例外行動検出の処理を行う。そして、例外行動が検出されると、例外行動検出部112は例外行動DB104に例外行動情報を登録する。この例外行動検出部112で行われる例外行動検出処理は、測位記録管理部110で行われる測位記録管理処理に比して時間を要する処理である。理由は、例外行動が過去の行動(または予め想定される行動)に照らして直近の行動の例外度の高低を求める処理であるので、ある程度まとまった数の測位情報が必用となるからである。従って、例外行動検出処理は、測位情報受信処理が行われる頻度に比してより低い頻度で行われる。
図9は、例外行動検出部112で実行される例外行動検出処理の概略的手順を説明するフローチャートである。S900において、過去の一定時間内における各ユーザの測位情報が時系列で取得して処理され、ユーザごとの確率モデルPi(i=1、2、…、n)が構築される。ここで添え字iは、確率モデルPが各ユーザのIDと結びつけられていることを意味する。以下でも同様の表現を用いる。
S902では、現在時刻近辺(直近)のユーザの行動を上記確率モデルPiに当てはめ、当てはまりの度合いLi(i=1、2、…、n)を導出する処理が各ユーザに対応して行われる。
S904では、Liが閾値より低い(当てはまり度が低い、すなわち例外度が高い)行動を検索する処理がユーザごとに対応して行われる。そして、該当するものが見出されると、例外候補Di(i=1、2、…、n)として記録される。
S906では、上記例外候補Diが区間分解され、当てはまりが特に低くなる区間の情報が例外行動情報として例外行動DB104に登録される。例外行動情報の詳細は、図2(a)を参照して説明したとおりである。
ここで上記の区間分解の処理について説明する。ユーザの行動は、測位情報を時間順にトレースすることにより、ユーザの動線を得ることが可能である。一方、ユーザの例外行動というのは、ユーザが通常たどる筈の動線から外れる事だけに限らず、本来は立ち止まらずに歩いて通過する筈の場所で立ち止まったり、走って通過したりすることも含まれる。そこでユーザの行動を符号化する際には、単に動線をたどるだけではなく、以下のようにユーザの停動動作にも基づいて分類されることが望ましい。
すなわち、ユーザの行動パターンを、
(a)通路Aを地点PからQまで歩行により移動
(b)Q地点で10秒間立ち止まり
(c)通路AをQ地点からR地点まで歩行により移動
(d)通路AをR地点からS地点まで速歩により移動
(e)区域B内に立ち入り
というように、ユーザの動きの速さ(歩く、立ち止まる、走る等)と、ユーザが移動している場所とに基づいて分類できるようにユーザの行動が符号化されることが望ましい。
ユーザの行動は、例えば上記(a)から(e)の連なりとして捉えることができる。上記(a)から(e)までの行動のあてはまり度が低いと判定された場合に、S906の処理では例えば(a)−(b)、(c)−(d)、(e)というように分解される。そして分解されたものの中から(a)−(b)の行動の当てはまり度が低いことが検出された場合に、さらに、(a)、(b)の行動に分解され、そのうち(b)の当てはまり度が低い、ということが検出される。上記区間分解は、このことを意味している。
図10は、図9に示すフローチャートのS900における確率モデル構築処理手順をより詳細に示すフローチャートである。S1000では、測位DB102から読み出された測位情報を位置検出時間順にトレースして得られる動線データを行動単位に分割する処理(動線分割処理)が行われる。
この動線分割処理について図11を参照して説明する。図11は、屋内地図DB126中に格納される地図情報を基に描かれた地図上に、一人のユーザの動線を重ねて描き、動線分割処理がどのように行われるかを概念的に示した図である。動線分割処理により、図11中で破線の楕円によって示されるように動線が分割される。つまり、各楕円で囲われた部分の動線が一つの単位となるように動線が分割される。図11中、動線を構成する線素が短く、すなわち、測位情報が密集している部分はユーザが停滞していたことを意味している。ここで線素とは、動線の屈曲点を節点と定義したときの、相隣する二節点間を結ぶ線分を意味する。また、線素が比較的長い部分は、ユーザが立ち止まらずに移動したことを意味する。
動線を分割するときには、停止している部分及び比較的狭いエリア中を細かく移動している部分と、立ち止まらずに移動している部分とは別な部分として分割される。また、移動区域が一の通路から角を折れ曲がって他の通路に変化した場合、一の通路に沿う動線と他の通路に沿う動線とは分割される。また、同じ通路に沿って移動していたとしても、途中で速度に顕著な変化が見られれば、速度変化が見られる前の部分、後の部分に動線分割される。この処理により分割された各動線にa、b、c、d、…の符号が付与されたとすると、ユーザの行動を{a,b,d,c,d,c,a}というように離散値の列で表現することが可能となる。
図10のフローチャートを参照しての説明に戻り、S1002では動線データが状態推移データに分割される。つまり、S1000の処理で動線が分割されて分割されたそれぞれの動線に符号a、b、c、d、…が付与されているとして、ユーザの行動パターンを符号列で表す処理がS1002で行われる。その結果、あるユーザの行動パターンを、例えば{a,b,d,c,d,c,a}や{a,b,d}というような符号列で表現することが可能となる。図12は、S1002での処理を概念的に示したものである。つまり、分割された動線の間を、図12中に付した矢印の向きに従うようにユーザがたどっていることを記述するデータに変換する。
S1004では、状態遷移データへの適合度が最大となるように確率モデルを最適化する。この処理に用いられる方法としてはいくつかの公知の方法がある。例えば、マルコフモデル、隠れマルコフモデル、ベイジアンネットワーク等を適用可能である。本実施の形態においてはマルコフモデルを適用する例について説明する。図13(a)に、ユーザの状態推移の確率モデルとしてマルコフモデルを適用した例を示す。図13(a)において、Sはユーザが監視区域に入る瞬間、Gは監視区域から出る瞬間を意味する。ユーザの過去一定期間の行動を分析することにより、SからGに至るまでの間、ユーザは符号a,b,c,…,j,k,lの付された動線間をどのようにたどるか(状態推移するか)を確率モデル化することが可能となる。
図13(a)に例示する確率モデルに従えば、Sからaに状態推移する確率を
P(S,a)
と表したとき、ユーザがS−a−b−c−e−j−Gの状態推移をたどる確率は、下式
で表すことができる。
P(S,a)×P(a,b)×P(b,c)×P(c,e)
×P(e,j)×P(j,G)
このようにして求められた値が確率モデルへの当てはまり度である。状態推移をたどる確率を求めるときに、各確率の対数をとって総和を求めてもよい。すなわち、Σ(log P)が求められる。Pは1より小さいので、Σ(log P)は負の値となるが、そのまま負の値として扱っても、正の値として扱ってもよい。
P(S,a)等の各確率は、事例の発生件数の比から求めることができる。例えば、aからbへ状態推移する確率P(a,b)は、aからbへ状態推移した件数を、aに状態推移した全件数で除すればよい。以上では、単純マルコフ過程により確率モデル化する例を示したが、ユーザの行動の複雑度に応じて、例えば現状態のbに至るまでの状態推移が{S,a,b}の経路をたどったとき、次の状態に推移する可能性としてはどのようなものがあって、それぞれの状態に推移する確率はどれくらいであるか、といったモデル化してもよい。
S1006では監視区域内の全ユーザに対する処理が完了したか否かが判定され、この判定が否定される間はS1000からS1004までの処理が繰り返し行われる。そしてS1006の判定が肯定されると一連の確率モデル構築処理は完了する。図10の処理が行われた結果、図13(b)に示されるような確率モデルパラメータが生成され、それぞれのユーザに対応して測位DB102中に登録される。図13(b)に示されるように、確率モデルパラメータは、現状態(遷移元)、次状態(遷移先)、遷移確率の情報を含む。現状態は遷移前の状態を特定可能な数値や符号を含む。次状態は遷移先の状態を特定可能な数値や符号を含む。遷移確率は、現状態から次状態への遷移の起きる確率であり、対数または真数で記録される。
図14は、死角情報抽出部132で実行される死角情報抽出処理の概略的手順を説明するフローチャートである。S1400において、地図情報およびセンサパラメータが屋内地図DB126から読み出され、死角領域を抽出する。S1400での処理は、いわば静的な死角領域抽出処理であり、監視区域内に予め配置される棚、壁、柱等の地物に基づいて死角領域が抽出される。このS1400での処理の詳細については、後で図15および図16を参照して説明する。
S1402において、上記S1400で抽出された死角領域に対応する死角情報が死角情報DB124に登録される。S1400およびS1402の処理は、不審行動監視装置100の稼働が開始された時点、および屋内地図DB126に格納される地図情報やセンサパラメータに変更が加えられた時点で随時行われる。
S1404において、センシングデータ処理により追加死角領域が抽出される。S1404での処理は、いわば動的な死角領域抽出処理であり、例えば監視区域内を走行するフォークリフト、移動途中の梱包物が積載されて監視区域の床上に置かれたパレット等、時間の経過とともに監視区域内で位置が変化するものにより一時的に生じる死角を随時抽出する処理である。このS1404での処理の詳細については後で図17および図18を参照して説明する。
S1406において上記S1402で抽出された死角領域に対応する死角情報が死角情報DB124に登録(更新登録)される。S1404およびS1406の処理は、適宜の時間間隔をおいて繰り返し行われる。なお、S1404およびS1406の処理は本発明において必須の処理ではない。しかし、これらの処理を組み込むことによって、後の説明からも明かになるように、不審行動検出の精度を向上させることが可能となる。
図15は、S1400で行われる静的な死角領域抽出処理の内容をより詳細に説明するフローチャートである。図16は、その死角情報抽出処理手順の内容を概念的に示す図である。S1500において、屋内地図DB126から読み出されたセンサパラメータを基に、監視区域内のセンシング領域が抽出される。この処理は、図16中の手順1に相当する。つまり、カメラ(監視用センサ14)の設置位置、設置高さ、俯瞰角度、向き、画角等の情報に基づき、このカメラによって捉えることのできる範囲a、b、cが導出される。これらの範囲のうち、a、bについてはカメラの左右方向の画角に関する情報に基づいて導出することができる。cについては、カメラの設置高さ、俯瞰角度、上下方向の画角に関する情報に基づいて導出することができる。あるいは、カメラの解像度(カメラから得られる画像の分解能)とカメラ設置位置からの距離とに基づいて導出することも可能である。つまり、カメラの撮影範囲内ではあっても、遠すぎて(写っている画像が小さすぎて)何が写っているのかを解析できない場合には、その領域は死角として扱うことができる。
S1502において、屋内地図DB126から読み出された地図情報を基に、センシング領域内に存在する検出阻害物が抽出される。図16に示される例では、センシング領域内に検出阻害物が一つ存在する。S1504において、センシング阻害領域が導出されてセンシング領域から除去される。この具体例が図16中の手順2および手順3として示されている。なお、以下では理解を容易にすることを目的としてセンシング領域、カメラ阻害物、死角に関して二次元で扱うものとして説明をする。
最初に、カメラ設置位置を中心として、カメラ阻害物を挟み込む線dおよびeが選定される。具体的には、図16の左右方向に延在する直線を基準として反時計回りに角度をとり、カメラ阻害物の外形形状を定義する点(形状構成点)とカメラ設置位置とを結ぶ線を引き、最小角度の線dおよび最大角度の線eが選定される。これらの線dおよびeと、カメラ阻害物の外形形状と、センシング領域を画定する形状とからセンシング阻害領域f、すなわち死角領域を導出することが可能となる。この死角領域がセンシング領域から除去される。
図16を参照して、監視用センサ14がカメラである場合の死角領域の導出方法を説明したが、監視用センサ14の種類によっては監視区域内に同じ地物が存在していても死角領域は異なる。例えば、監視用センサ14がマイクロフォンである場合には、室外が死角領域となる。また、室内であっても遠すぎて音を拾うことができない領域は死角領域となる。
S1506において、監視区域内に設置される全ての監視用センサ14についての処理が完了したか否かが判定される。この判定が否定される間、S1500からS1504の処理が繰り返し行われる。以上の処理により、監視区域内に設置される監視用センサ14それぞれに対応するセンシング領域が導出される。そして、S1506の判定が肯定されると処理はS1508に進む。
S1508では、監視区域内において、センシング領域から外れる部分が導出され、当該部分が死角領域として死角情報DB124に登録される。以上の処理により、監視区域内でいずれの監視用センサ14によってもセンシングされない領域があれば、その領域も死角領域として死角情報DB124に登録することが可能となる。
次に、図17および図18を参照して、図14のS1404で行われる動的な死角領域抽出処理、すなわちセンシングデータ処理による追加死角領域抽出処理について説明する。S1700において、センシングデータ中から特徴量が抽出される。センシングデータが画像データである場合について説明すると、入力画像データ中からパターン認識に役立つ特徴量を取り出す処理がS1700で行われる。取り出すことが可能な特徴量としては、色、形状(輪郭形状)、動き、テクスチャ等がある。
S1702において、特徴量の比較によって人物の存在が検出される。そして、検出された人物の、監視区域内における位置が推定される。人物の存在の検出方法については公知の様々な方法が適用可能であり、ここでは詳しい説明を省略する。簡単に説明すると、事前に集積され、人物の写っている画像から導出された特徴量と、現時点で得られた画像から導出された特徴量とを比較し、十分に近いものが存在する場合に人物が存在すると判定することが可能である。S1704では、追加の死角領域が存在するか否かが判定され、追加の死角領域が存在すると判定された場合にはS1706において追加の死角情報が死角情報DB124に追加登録され、一連の処理が完了する。S1704の判定が否定された場合にはS1706の処理がスキップされる。
図17の処理を繰り返し行って人物の動きを継続的に検出し続けることにより、追加の死角領域を検出することが可能となる。すなわち、今までは人物の動き(存在)を継続して検出し続けることができていたのに、突然検出不能となった場合、その周辺には死角が存在していて、人物はその死角に入ったと判定することが可能である。逆に、今まで人物の動きが検出されなかった領域において、突然、人物の動き(存在)を検出することができるようになった場合にも、それは死角から人物が出てきたからそうなったと判定することができる。したがって、突然に人物の動き(存在)を検出可能になった場合においても、その周辺に死角が存在すると判定することが可能である。
今までは人物の動きを継続して検出し続けることができていたのに、突然検出不能となった場合、検出不能となった場所を起点として、今までの人物の動きを延長した方向に追加の死角領域が存在すると推定することが可能である。また、今まで人物の動きが検出されなかった領域において、突然、人物の動き(存在)を検出することができるようになった場合、検出可能となった場所を起点として、検出可能となった人物の動きの方向と反対の方向に追加の死角領域が存在すると推定することが可能である。
なお、移動体端末装置10や環境側測位装置12から送出される測位情報によればユーザが存在する筈の場所において、センシングデータからは人の存在を検出することができない、という場合にも死角が存在することを検出可能である。この方法については第2の実施の形態で詳しく説明をする。
図18は、センシング結果の受信および死角情報更新のシーケンスを概略的に説明する図である。センサ情報管理部130は、監視用センサ14から送信されるセンシング結果を受信してセンサ情報DB120に登録する。死角情報抽出部132は、センサ情報をセンサ情報DB120から読み出して、図17を参照して説明した処理を随時行う。この処理によって追加の死角領域が検出されると、対応する追加の死角情報が死角情報DB124に登録される。
図19は、疑惑情報抽出部114で行われる疑惑情報抽出処理の手順を概略的に説明するフローチャートである。この処理は、一定の時間間隔をおいて繰り返し行われるものであっても、例外行動検出部112で新たな例外行動が検出される都度行われるものでもよい。
S1900において、死角情報DB124から死角情報が取得される。S1902において、例外行動DB104から例外行動情報が取得される。例外行動情報の詳細は図2(b)を参照して説明したとおりである。S1904では、S1902で取得された例外行動情報に含まれる活動領域の情報で特定される領域と、死角領域とが交差(オーバラップ)している部分が抽出されて疑惑度の高い例外行動が検出される。
S1906では、疑惑度が導出され、当該例外行動を行ったユーザのユーザID、例外行動の検出された時刻、疑惑度が疑惑情報DB128に登録され、一連の疑惑情報抽出処理が完了する。疑惑度を導出する方法は、様々な方法を適用可能である。例えば、ユーザの活動領域と死角領域とが交差する場合に一定の疑惑度を設定することが可能である。あるいは、ユーザの活動領域と死角領域とが交差する度合い(交差する領域の広さ、領域が交差している時間の長さ等)に応じて疑惑度を導出することが可能である。また、例外行動の例外度の大きさを加味して疑惑度を導出してもよいし、当該領域に保管される物品や書類等の重要度等に応じて疑惑度を導出することも可能である。
図20は、監視警告のシーケンスを概略的に説明する図である。疑惑情報抽出部114は、例外行動情報と死角情報とに基づいて疑惑度を導出し、疑惑情報DB128に登録する。監視情報生成部134は、監視用端末装置20から監視候補要求の信号が出力されたときに監視用端末装置20に対して出力するための監視情報を生成する。
監視用端末装置20から不審行動監視装置100に対して監視候補要求信号が発せられると、監視情報生成部134から監視用端末装置20に対し、一または複数の監視情報からなる監視候補が出力される。
図21は、監視用端末装置20の表示部に監視候補が提示される際の提示形態の一例2100を示す図である。表示部には、疑惑行動であると判定された行動の一覧(疑惑行動一覧)2110と、疑惑行動であると判定された行動パターンに対応するセンサ情報に基づく画像2102とが表示される。画像2102中には、疑惑行動であると判定された行動が行われた場所を明示するマーク2104が表示される。これにより、監視者は、画像2102中のどの部分で疑惑行動が記録されているのかを容易に知ることが可能となる。図21では、監視用センサ14であるカメラから得られる画像が表示される例が示されているが、例えばマイクロフォンから得られた音声信号を解析して得られたものを可視化した画像を表示してもよい。
監視者は、コンピュータマウス等のポインティングデバイスを操作してポインタ2106を表示部上の所望の位置に移動させ、マウスボタンを押下する等の操作(以下ではマウスボタンを押下することを単にクリックすると称する)をする。一例として、図21で示される画像2102は、疑惑行動一覧2110中の一番上に位置する疑惑度90のものに対応するものが表示されている。
監視者がポインタ2106を疑惑行動一覧2110中、疑惑度57の位置に移動させてクリックすることにより、この疑惑度57の疑惑行動に対応する画像2102が表示される。また、「最新の疑惑行動を見る」のラジオボタン2114または「過去の疑惑行動を見る」のラジオボタン2112上にポインタ2106を位置させてクリックすることにより、疑惑行動一覧2110の表示内容を最新のもの、または過去の指定された期間のものに切り替えることが可能となる。過去の疑惑行動を見る際には、時間帯を設定することが可能である。ラジオボタン2112または2114上にポインタ2106を位置させてクリックした後、「更新」のボタン2108上にポインタ2106を位置させてクリックすることにより、選択された内容の一覧を更新表示することが可能となる。
以上に説明したように、本発明の第1の実施の形態によれば、ユーザの行動の例外度が高いと判定された場合に、その行動が行われた場所と死角領域の存在する場所との一致度に基づき、当該行動の疑惑度が判定される。これにより、確度のより高い疑惑度判定を行うことが可能となる。また、図21に示されるように、疑惑度の高いもののみを抽出して提示し、その際に疑惑度の高いと判定された行動の行われた場所を明示することによって、監視者の負荷を低減することが可能となる。
− 第2の実施の形態 −
図22は、本発明の第2の実施の形態に係る異常監視システムの全体構成を概略的に示すブロック図である。異常監視システムは、不審行動監視装置100Aと、移動体端末装置10と、環境側測位装置12と、監視用センサ14と、監視用端末装置20とを含む。移動体端末装置10および環境側測位装置12は、ネットワークNW1を介して不審行動監視装置100Aと接続されている。監視用センサ14はネットワークNW2を介して不審行動監視装置100Aと接続されている。監視用端末装置20はネットワークNW3を介して不審行動監視装置100Aと接続されている。これらのネットワークNW1、NW2、NW3については、図21に示されるように独立して設けられるものであっても、一つのネットワークが共用されるものであってもよい。これらのネットワークはLAN、WAN、公衆無線網、インターネット等とすることが可能である。図22において、図1に示される第1の実施の形態に係る異常監視システムが有するものと同じ構成要素には同じ符号を付してその説明を省略する。
第1の実施の形態の不審行動監視装置100と第2の実施の形態の不審行動監視装置100Aとの違いは、不審行動監視装置100Aが物体位置抽出部2200をさらに有する点にある。また、死角情報DB124Aには、死角情報抽出部132で生成された情報に加えて、物体位置抽出部2200で生成された情報も登録される。加えて、死角情報抽出部132Aは、第1の実施の形態で簡単に紹介した方法により追加死角領域を検出し、追加死角領域が存在すれば死角情報DB124Aに登録する。すなわち、移動体端末装置10や環境側測位装置12から送出される測位情報によればユーザが存在する筈の場所において、センシングデータからは人の存在を検出することができない場合、死角情報抽出部132Aは追加死角領域があると判定して、当該領域を死角情報DB124Aに登録する。
不審行動監視装置100Aのハードウェア構成は、第1の実施の形態で図6を参照して説明したものと同様とすることが可能である。物体位置抽出部2200は、専用のハードウェアとして実装されるものであっても、記憶装置612内に記憶されるソフトウェア620として実装され、メインメモリ604上に読み出されてプロセッサ602により実行されるものであってもよい。不審行動監視装置100Aを構成するコンピュータの数は、1台であっても複数台であってもよい。
物体位置抽出部2200は、監視用センサ14から得られるセンシングデータに基づき、監視区域内における物体の位置を検出する。ここでは監視用センサ14がカメラである場合を例に説明する。
カメラの出力から得られるセンシング情報、例えば画像データを解析することにより、カメラの視野中で捕捉されている段ボール箱等の梱包箱やコンテナボックス等の数や移動を検出することができる。このとき、梱包箱やコンテナボックスが定格の(汎用の)ものである場合には、それらの数を検出することが可能となる。また、内容物に応じて色、印刷、大きさ等の異なる専用の梱包箱やコンテナボックスが用いられるときには、種別についても検出することが可能となる。また、梱包箱やコンテナボックスにRFIDタグ等が装着され、監視区域内の随所に設置される送受信装置によって梱包箱やコンテナボックスを特定可能な場合、上記センシング情報との組み合わせによって、数や移動の管理を梱包箱やコンテナボックスごとに行うことが可能となる。
物体位置抽出部2200は、物体の数や移動の検出結果に基づく情報を死角情報抽出部132Aに出力する。死角情報抽出部132Aは、第1の実施の形態の死角情報抽出部132で行われる処理に加えて、以下の処理を行う。すなわち、死角情報抽出部132Aは、上記の物体の数や移動の検出結果に基づく情報を物体位置抽出部2200から入力し、死角領域内への物体の移動があったと判定される場合に、当該死角領域に関する情報中に死角内物体個数の情報を追加して死角情報DB124Aに登録する。
図23に、死角情報DB124Aに登録される死角情報の例を示す。死角情報には、死角IDと死角内物体個数と、死角領域とに関する情報が含まれる。このうち、死角IDおよび死角領域については第1の実施の形態で説明したのと同じである。すなわち、死角IDは、監視区域に存在する一または複数の死角領域を一意に識別可能な情報である。死角領域は、監視用センサ14から情報が取得できない領域を特定する情報である。例えば、当該領域を多角形や三次元立体で表したときの、頂点の座標の組み合わせを死角領域の情報とすることができる。あるいは、第1の実施の形態でも説明したように、監視区域を予めメッシュ状に分割してそれぞれの分割領域にIDを付与しておき、死角領域がどの分割領域(一つまたは複数)に対応するかの情報を死角領域の情報とすることが可能である。死角内物体個数は、当該死角内に入っている物体の個数に関する情報を含む。先に説明したように、監視領域内の梱包箱やコンテナボックス等を区別可能な場合には、死角情報中に死角内物体の種類に関する情報も含めることが望ましい。
図24は、死角情報抽出部132で実行される死角情報抽出処理の手順を概略的に説明するフローチャートである。S2400において、地図情報およびセンサパラメータが屋内地図DB126から読み出され、死角領域が抽出される。S2400での処理は、第1の実施の形態でも説明したのと同様に、静的な死角領域抽出処理であり、監視区域内に予め配置される棚、壁、柱等の地物に基づいて死角領域が抽出される。このS2400での処理の詳細については第1の実施の形態で図15および図16を参照して説明したのと同じであるのでその説明を省略する。
S2402において、上記S2400で抽出された死角領域に対応する死角情報が死角情報DB124Aに登録される。S2400およびS2402の処理は、不審行動監視装置100Aの稼働が開始された時点、および屋内地図DB126に格納される地図情報やセンサパラメータに変更が加えられた時点で随時行われる。
S2404において、センシングデータ処理により追加死角領域が抽出される。S2404での処理は、第1の実施の形態でも説明したように、動的な死角領域抽出処理であり、例えば監視区域内を走行するフォークリフト、移動途中の梱包物が積載されて監視区域の床上に置かれたパレット等、時間の経過とともに監視区域内で位置が変化するものにより一時的に生じる死角を抽出する処理である。このS2404での処理の詳細については第1の実施の形態で図17および図18を参照して説明したのと同じであるのでその説明を省略する。
S2406において、物体位置が抽出される。このS2406の処理も、動的な処理であり、S2404の処理とともに繰り返し実行することによって監視区域内における物体の動きを検出することが可能となる。S2406では、監視用センサ14から出力されるセンシング結果を解析して監視区域内の物体の動きがトレースされる。そして、物体がいずれかの死角領域に入ったことが検出されたとき、または死角領域から物体が出てきたことが検出されたとき、当該死角領域に対応する死角内物体個数の値が、検出結果に応じて増減される。
ここで、S2406で行われる物体位置抽出処理の特徴的な部分について図25を参照して説明する。図25の(a)、(b)、(c)はいずれも、フォークリフトのような車両等が監視区域内を移動することによって形成され、時間の経過と共に位置が変化する死角領域と、その死角領域内に物体が入った場合の死角内物体個数の管理方法について説明する図である。以下では時間の経過と共に位置が変化する(あるいは変化しうる)死角領域を「移動死角領域」と称する。
図25(a)は、旧死角の領域に存在していた移動死角領域に一つの物体が入ったことが検出された後、その移動死角領域が旧死角から新死角へと移動した場合の例を示している。この例では、移動死角領域が旧死角から新死角へと移動した後、旧死角の領域には物体が検出されなかったものとする。この場合、新死角に移動した移動死角領域が旧死角での物体個数である1を引き継ぐ。例えば、移動するフォークリフトによって形成される死角に隠れて何者かが物体を移動させた場合が本例に相当する。
図25(b)は、二つの旧死角領域のそれぞれに存在していた移動死角領域のそれぞれに一つの物体が入ったことが検出された後、二つの移動死角領域が新死角へと移動した場合の例を示している。この例では、別々の旧死角領域に存在する二つの移動死角領域が一つの新死角領域へと移動した後、旧死角の領域のいずれにも物体が検出されなかったものとする。この場合、新死角に移動し、一つとなった移動死角領域が二つの旧死角領域それぞれにおける物体個数1の合計である2を引き継ぐ。例えば、移動する2台のフォークリフトによって形成される死角のそれぞれに隠れて複数の人物が物体を移動させ、2台のフォークリフトが重なり合って形成された一つの移動死角領域に隠れている場合が本例に相当する。
図25(c)は、二つの移動死角領域が重なり合って一つの旧死角が形成されていた領域に一つの物体が入ったことが検出された後、これら二つの移動死角領域が別々の新死角へと移動した場合の例を示している。この例では、二つの移動死角領域が別々の新死角領域へと移動した後、旧死角の領域には物体が検出されなかったものとする。この場合、別々の新死角に移動した二つの移動死角領域が、旧死角領域における物体個数1を分割して0.5ずつを引き継ぐ。例えば、2台のフォークリフトが重なり合って一つの死角領域を形成しているときに何者かが物体を移動させ、その後別々の新死角へと移動した2台のフォークリフトのいずれかに隠れている場合が本例に相当する。このような場合にはどちらのフォークリフトの死角に物体が隠されているかは不明なので、確率を加味して0.5ずつ分配している。つまり、一つの旧死角がN個の死角へと分離される場合には、旧死角に存在していた物体の個数Mはそれぞれの新死角に対してM/Nが分配されるかたちで引き継がれる。
上記S2404で抽出された追加死角領域と、S2406で抽出された物体位置とに基づき、死角情報DB124Aの更新登録がS2408で行われる。
図26は、図24のS2404で行われる追加死角領域の抽出処理手順をより詳細に説明するフローチャートである。S2600において、全ユーザの測位情報が取得される。すなわち、移動体端末装置10や環境側測位装置12から得られる測位情報を基に、監視区域内に滞留する全てのユーザの位置を取得する。
S2602では、S2600で得られた全ユーザの位置の情報と、死角情報DB124Aに登録される死角情報とに基づき、本来はセンシング可能な位置に居る筈のユーザの位置をセンシングエリア内に含むセンサからセンサ情報を取得する。続くS2604において、センサ情報を基に人物存否の検出ができたか否かが判定され、判定結果に基づいて当該位置を追加死角領域と分類するか否かが決定される。
上記S2600からS2604までの処理について説明すると、S2600で得られる測位情報によれば死角領域外に居る筈のユーザを、そのユーザが居る位置をセンシングエリアに含むセンサで検出できない場合、そこには追加の死角領域が形成されたと分類する。これは、例えば近くに移動してきたフォークリフトによって形成された追加の死角領域にユーザが入った場合に対応する処理である。
S2606では、上記S2600からS2604までの処理によって追加の死角領域であると分類された領域を死角情報DB124Aに追加登録する。続くS2608では、追加の死角領域が死角情報DB124Aの登録から抹消され、一連の追加死角領域抽出処理が行われる。S2608の処理は、過去に追加死角領域として追加登録された領域に対応するセンサから得られるセンサ情報からユーザの存在を検出可能となった場合、当該追加死角領域の登録を抹消する処理である。これは、例えば追加の死角領域を形成していたフォークリフトが走り去って、ユーザの存在を監視用センサ14によって再び検出することが可能になった場合に対応する処理である。
図27は、監視用端末装置20の表示部に監視候補が提示される際の提示形態の一例2100Aを示す図である。図27において、第1の実施の形態における提示形態の一例を示す図21中のものと同じ要素には同じ符号を付してその説明を省略し、第1の実施の形態との差異を中心に説明をする。
図27において、図21に示される第1の実施の形態における監視候補の提示形態との違いは、二つある。一つは、センサ情報に基づいて捕捉された物体が死角中に存在することが判明している場合、その物体の個数が疑惑度に加味され、疑惑行動一覧2110A中の疑惑度の表示に物体個数の情報2700が追加表示される点である。もう一つは、センサ情報に基づいて捕捉された物体が死角中に存在することが判明している場合、疑惑行動であると判定された行動パターンに対応するセンサ情報に基づく画像2102A中に物体が存在することを示す表示2702が追加される点である。
監視区域内の物品が紛失したときに、例えばカメラで記録された画像を過去に遡って虱潰しに見直すのは容易なことではない。この点、図27に例示されるように、監視候補を提示する際、センサ情報に基づいて捕捉された物体が死角中に存在することが判明している場合にはその物体の個数が加味されて順位付けがなされるので、見直す対象を絞り込むことが可能となる。また、監視員が通常のルーチンワークとして監視を行う際にも、監視対象を絞り込むことができるので、監視に伴う精神的負担を低減することが可能となる。
ところで、疑惑情報抽出部114においては、第1の実施の形態で説明した処理によって疑惑情報を抽出することができるが、さらに以下のようにして疑惑情報を抽出することが望ましい。すなわち、図25を参照して説明したように、監視用センサ14から得られる情報を基に監視区域内の物体位置を検出可能なので、死角領域に入ったままの物体が当該死角領域に入ったのと同時期、または後続する時期に入る行動パターンが検出されたときに、当該行動パターンの疑惑度が高まるように処理をすることが望ましい。
以上に説明したように、第2の実施の形態に係る不審行動監視装置100Aによれば、第1の実施の形態に係る不審行動監視装置100と同様の効果を奏することが可能であることに加え、以下の効果を奏することが可能である。すなわち、監視用センサ14から出力されるセンシング結果を解析して監視区域内の物体の動きがトレースされて物体の死角内への出入りが管理されることにより、死角領域に隠れながら物品を運搬する等の不審行動を検出しやすくなる。また、移動体端末装置10や環境側測位装置12から得られる測位情報によれば死角領域外に居る筈のユーザが監視用センサ14で検出できない場合、そこには追加の死角領域が形成されたと分類する処理により、移動するフォークリフト等で一時的に形成される死角領域をより的確に抽出することが可能となる。
さらに、死角領域への物体の出入りを監視用センサ14から得られる情報を基に検出し、死角領域に入ったままの物体が当該死角領域に入ったのと同時期、または後続する時期に入るユーザの行動パターンが検出されたときに、当該行動パターンの疑惑度が高まるように処理をすることにより、疑惑行動を的確に絞り込むことが可能となる。
− 第3の実施の形態 −
図28は、本発明の第3の実施の形態に係る異常監視システムの全体構成を概略的に示すブロック図である。異常監視システムは、不審行動監視装置100Bと、移動体端末装置10と、環境側測位装置12と、監視用センサ14と、監視用端末装置20とを含む。移動体端末装置10および環境側測位装置12は、ネットワークNW1を介して不審行動監視装置100Bと接続されている。監視用センサ14はネットワークNW2を介して不審行動監視装置100Bと接続されている。監視用端末装置20はネットワークNW3を介して不審行動監視装置100Bと接続されている。これらのネットワークNW1、NW2、NW3については、図21に示されるように独立して設けられるものであっても、一つのネットワークが共用されるものであってもよい。これらのネットワークはLAN、WAN、公衆無線網、インターネット等とすることが可能である。図22において、図1に示される第1の実施の形態に係る異常監視システムが有するものと同じ構成要素には同じ符号を付してその説明を省略する。
第1の実施の形態に不審行動監視装置100と第3の実施の形態の不審行動監視装置100Aとの違いは、不審行動監視装置100Bが提示要否設定部2800をさらに有する点にある。また、ユーザDB106Aには、第1の実施の形態で説明した、ユーザを特定可能な情報(ユーザ氏名、従業員コード等)とユーザが保持する移動体端末装置10、あるいはユーザが装着するRFIDタグのそれぞれに付与されるIDの情報との対応関係に関する情報などが登録されるのに加えて、以下の情報が登録される。すなわち、ユーザDB106Aには、ユーザの出勤時刻、退勤時刻、および担当業務に関する情報がさらに登録される。
また、疑惑情報DB128Aには、図29に示される情報が登録される点も第1の実施の形態との相違点である。ユーザDB106Aおよび疑惑情報DB128Aに登録される情報が上述のとおり異なるのに伴い、例外行動検出部112Aおよび疑惑情報抽出部114Aでの処理内容も異なるが、これらの処理については後で説明する。
不審行動監視装置100Bのハードウェア構成は、第1の実施の形態で図6を参照して説明したものと同じでよい。提示要否設定部2800は、専用のハードウェアとして実装されるものであっても、記憶装置612内に記憶されるソフトウェア620として実装され、メインメモリ604上に読み出されてプロセッサ602により実行されるものであってもよい。
提示要否設定部2800について図30を参照して説明する。図30は、監視用端末装置20の表示部に監視候補が提示される際の提示形態の一例2100Bを示す図である。図30において、第1の実施の形態における提示形態の一例を示す図21中のものと同じ要素には同じ符号を付してその説明を省略し、第1の実施の形態との差異を中心に説明をする。
図30では、疑惑行動一覧2110B中の一番上に表示される疑惑度80の行動パターンに対応するセンサ情報に基づく画像2102Bが表示されている例が示されている。監視者は、この画像2102Bを見て、「これは監視対象者が手洗いに行く行動であって、疑惑度の高い行動ではない。」と判断を下したものとする。その場合、監視者は、図30の例において画面下側に表示される「この行動は通知不要」のラジオボタン3000にポインタ2106を合わせてクリックする操作等を行う。以後、当該行動パターンに類する行動パターンが検出されても、提示対象から外される。このように、検出された疑惑行動の一覧が提示されたときに、それらの疑惑行動中の任意のものに対して、以後の通知は不要とする操作を受付可能に構成される点が第1の実施の形態における監視候補の提示形態2100との違いである。
図31は、監視用端末装置20の表示部にユーザ情報の一覧が表示される提示形態の例3100を示す図である。監視者が監視用端末装置20を操作してユーザ情報の一覧を表示するためのコマンドを発したときに、図31に例示される表示がなされる。
ポインタ3102を更新ボタン3110上に位置させてクリック操作をすると表示部に表示されている内容が最新のものに更新される。ユーザ情報一覧3112は、ユーザの行動パターンの疑惑度に関係なく表示することが可能である。図31の例では、上から3人目のユーザの疑惑度が90と表示されている。監視者は、以下に説明する操作をすることにより、当該ユーザに対応する画像3114を表示させて現在の様子を確認することができる。
ユーザ情報一覧3112中、監視者は所望のユーザの位置上にポインタ3102を位置させてクリックしてユーザを選択した後、映像確認ボタン3108上にポインタ3102を位置させてクリックする。その結果、選択されたユーザが現状で居る場所をセンシングする監視用センサ14からのセンシング結果に基づく画像3114が表示される。あるいは、映像確認ボタン3108上にポインタ3102を位置させてクリックした後、ユーザ情報一覧3112中、任意のユーザの表示位置にポインタ3102を位置させると、対応するユーザの画像3114が表示されるものであってもよい。
図31を参照して説明した上記の例では、更新ボタン3110上にポインタ3102を位置させてクリックすることにより表示の更新がなされるものであったが、所定の時間間隔をおいて自動的に表示更新されるようにしてもよいし、ユーザ情報一覧3112中の情報に変化を生じた場合、たとえば行動パターンの疑惑度に変化を生じた場合に表示更新されてもよい。このとき、疑惑度の上昇したユーザの画像3114が自動的に表示されるようにしてもよい。
図31の例において、ユーザ情報一覧3112中の上から3番目のユーザの現在地として、「1F 入り口(03:00更新無)」と表示されている。これは、最新の測位情報に基づく当該ユーザ位置は1階入り口で、3時間の間、所在位置に変化が見られないことを意味している。この表示を見ることにより、例えば監視区域内で災害が発生した場合等の状況で、負傷者等の有無や被災状況などを監視者が確認することが可能となる。
ところで、第3の実施の形態では、後の説明によって明かになるように、各ユーザの行動パターンの疑惑度が、例えば担当業務、業務が行われるエリア、所属するグループ、昼勤者か夜勤者かといったユーザの属性に基づいて抽出される。図31の例で、疑惑度が90と表示されているユーザの担当業務を見た監視者が、当該ユーザの担当業務を見て、本来は経理業務である筈なのに、誤って庫内運搬業務と設定されていたことに気が付いたものとする。その場合、監視者は、当該担当業務表示箇所にポインタ3102を位置させてクリックする等の操作をした後、担当業務の設定内容を修正することが可能に構成される。その際、新たに設定された担当業務の確率モデルによって当該ユーザの行動パターンの当てはまり度が抽出され、疑惑度の表示が更新される。
図28に示される不審行動監視装置100Bが有する構成要素中で、第1の実施の形態の不審行動監視装置100が有する構成要素と処理内容が異なるものについて以下に説明をする。
例外行動検出部112Aにおいては、第1の実施の形態で図9を参照して説明した例外行動検出処理と同じ処理が行われる。しかし、S900中で行われる確率モデル構築処理は、図32を参照して以下に説明するように、第1の実施の形態で図10を参照して説明したものと相違する。
S3200では、ユーザ属性を基に各ユーザが分類され、グループ化される。すなわち、ユーザの担当業務、業務が行われるエリア、所属する部署やチーム、昼勤者か夜勤者かといった属性に基づいて各ユーザは分類される。
S3200の処理によって分類されたそれぞれのグループごとに、S3202からS3208までの処理が繰り返し行われる。また、S3202、S3204、S3206の各処理は、一つのグループに分類される各ユーザに対して行われる。
S3202において、動線データが行動単位に分割される。この処理は、第1の実施の形態で図10を参照して説明したフローチャート中のS1000の処理と同じである。S3204において、動線データが状態推移データに変換される。この処理は、同じく図10のフローチャート中のS1002の処理と同じである。S3206において、状態推移データへの適合度が最大となるように確率モデルが最適化される。この処理は、図10のフローチャート中のS1004の処理に類似する。ただし、確率モデルを最適化する処理をする際に、一つのグループ内に属するユーザ全員の状態推移データが参照される。
S3200においてユーザ属性を基に各ユーザを分類し、グループ化することについては先に説明したとおりである。このユーザ属性は、同じような行動パターンを有しているユーザが一つのグループに分類されるように定められている。従って、S3206の処理により、一つのグループに分類される各ユーザの行動パターンに基づいて確率モデルが最適化されるので、各ユーザの行動の癖やゆらぎによる影響が減じられた確率モデルを構築することが可能となる。
S3208において、全グループについての処理が終了したか否かが判定され、この判定が否定される、すなわち未処理のグループがあると判定される間、S3202からS3206の処理が繰り返し行われる。そして、S3208で、全てのグループについて処理を終了したと判定されると一連の確率モデル構築処理が終了する。
疑惑情報抽出部114Aでは、図33のフローチャートに示される疑惑情報抽出処理が行われる。S3300において、死角情報DB124から死角情報が取得される。S3302において、例外行動DB104から例外行動情報が取得される。例外行動情報の詳細は第1の実施の形態で図2(b)を参照して説明したものと同じである。
S3304では、S3302で取得された例外行動情報に含まれる領域と、死角領域とが交差している部分が抽出される。以上、S3300からS3304までの処理は図19を参照して説明した第1の実施の形態における疑惑情報抽出処理中のS1900からS1904までの処理と同じである。
S3306では、監視者によって通知不要と設定された疑惑情報が取得される。つまり、図30を参照して説明したように、監視者の操作によって通知不要と設定された行動パターンに対応する疑惑情報(一または複数)を取得する処理がS3306で行われる。
S3308では、S3304での抽出処理によって疑惑度の高い例外行動が検出された場合に、当該例外行動が、S3306で取得した疑惑情報(これは通知不要と設定された疑惑情報である)に対応する行動パターンと類似しているか否かが判定される。S3308での判定が否定された場合、すなわち通知不要と設定された疑惑情報に対応する行動パターンとは類似していないと判定された場合、S3310の処理が行われる。
S3310において、S3304での抽出処理によって検出された疑惑度の高い例外行動の疑惑度、例外行動を行ったユーザのユーザID、例外行動の検出された時刻および場所が疑惑情報DB128Aに追加登録される。一方、S3308での判定が肯定された場合、S3304での抽出処理によって検出された疑惑度の高い例外行動は通知不要と設定されたものと類似しているので、S3310の処理がスキップされる。以上のようにして、一連の疑惑情報抽出処理が行われる。なお、S3304での抽出処理によって疑惑度の高い例外行動が複数検出された場合、検出された数に応じてS3308およびS3310の処理が繰り返し行われる。
以上に説明した図33の処理により、例外度の高い行動パターンが検出されたとしても、それが監視者によって通知不要と設定されたものと類似する場合には疑惑情報として提示されなくなる。したがって、監視者は提示された内容の一覧を見てひとつ一つ監視の要否の吟味をする負担を減じることが可能となる。
また、通常は上記の処理をする一方、監視者が「疑惑度の高い例外行動は全て表示する」旨の設定をした場合には、疑惑行動一覧2110B中で、通知不要と設定された行動パターンとそれ以外の行動パターンとの区別が付くように表示されてもよい。
図34は、図33のフローチャートに示されるS3308の処理内容をより詳細に説明するフローチャートである。以下では、通知不要と設定された例外行動と比較される対象の行動パターンを、比較対象行動パターンと称する。
S3400において、比較対象行動パターンに関与したユーザのユーザ属性が、通知不要と設定された例外行動に関与したユーザのユーザ属性と同一か否かが判定される。S3400の判定が肯定されるとS3402の処理に進む。S3402では、比較対象行動パターンが行われたときにユーザが滞留していた死角と、通知不要と設定された例外行動が行われていたときにユーザが滞留していた死角とが同一か否かが判定される。S3402の判定が肯定されるとS3404の処理に進む。
S3404では、比較対象行動パターンが行われた領域にユーザが滞留していた時間と、通知不要と設定された例外行動が行われた領域にユーザが滞留していた時間とが比較される。両者の差、すなわち滞留時間の差が所定の値以内であると判定されると、S3406の処理に進む。
S3406では、通知不要と設定された行動パターンと比較対象行動パターンとが類似しているとの判定がなされる。一方、S3400、S3402、S3404の判定のうち、いずれか一つででも否定されると処理はS3408に分岐し、通知不要と設定された行動パターンと比較対象行動パターンとは類似していないと判定される。
以上に説明した図34に示される処理によれば、例えば手洗いに行く行動は通知不要とする設定を、同じユーザ属性を有するユーザ中の一人に対して行うだけで、その設定は同じユーザ属性のユーザに適用されるので監視者の手間を省くことが可能となる。
図34では、ルールベースで二つの行動パターンの類似度を判定する例について示しているが、他の方法を用いてもよい。例えば、比較対象行動パターン、通知不要と設定された行動パターンそれぞれを特徴付ける種々のパラメータを座標値に置き換えてそれを多次元空間にプロットし、それぞれの行動パターンに対応する二つの点の間の距離に応じて類似度を判定してもよい。
以上に説明したように、第3の実施の形態によれば、疑惑度の高い行動パターンが検出されたとしてもそれが監視者によって通知不要と設定されれば以後の提示が省かれるようになるので、監視者は重要な事象により重きを置いた監視を行うことが可能となる。また、確率モデルを生成する際に、ユーザ属性に基づいて分類されたグループごとに処理がなされるので、確率モデルの妥当性をより高めることが可能となる。
以上では第3の実施の形態として、第1の実施の形態の不審行動監視装置100に提示要否設定部2800等が付加される例について説明したが、第2の実施の形態の不審行動監視装置100Aに提示要否設定部2800等が付加されてもよい。
以上に説明した第1から第3の実施の形態では、監視用センサ14の設置位置、向き、監視用センサ14による検出範囲等と監視区域内に存在する地物との関係とに基づいて死角領域が求められる例について説明した。これに対し、以下に説明するように現状の死角領域を提示して、監視用センサ14の設置位置の改善を促してもよい。
図35は、監視用端末装置20の表示部に危険死角箇所が提示される際の提示形態の例3500を示す図である。提示形態3500中には、監視区域の見取り図3506と、要注意死角一覧3510とが提示される。図35において、要注意死角一覧3510中には、疑惑行動の行われる頻度や確率が所定の閾値を越す死角領域が一覧表示される。
要注意死角一覧3510中の所望の場所名にポインタ3502を位置させてクリックする等の操作をすることにより、対応する場所の見取り図3506が表示される。見取り図3506内には死角領域3504、3508が監視用センサ14(カメラ)の設置位置を示す黒丸とともに表示される。監視者、または異常監視システムの管理者は、見取り図3506を見て監視用センサ14の設置位置を改善する検討を行うことが可能となる。
図35では、見取り図3506が二次元表示される例が示されているが、三次元表示されてもよい。また、監視用センサ14(カメラ)の位置を見取り図3506上で移動させたり、観視用センサ14の諸元(例えば撮影レンズの焦点距離)を変化させたりする操作をすると、シミュレーション結果に基づいて死角領域3504、3508の位置および形状が変化するようにしてもよい。あるいは、現状で問題となる死角領域を無くすためには監視用センサ14(カメラ)をどこに設置することが望ましいかをシミュレーションによって自動的に求め、その結果を提示してもよい。
以上、図35を参照して説明した危険死角箇所を提示する例については第1、第2、第3の実施の形態のうちのいずれにも付加可能である。