JP2015149559A - モニタリング装置、モニタリングシステムおよびモニタリング方法 - Google Patents

モニタリング装置、モニタリングシステムおよびモニタリング方法 Download PDF

Info

Publication number
JP2015149559A
JP2015149559A JP2014020519A JP2014020519A JP2015149559A JP 2015149559 A JP2015149559 A JP 2015149559A JP 2014020519 A JP2014020519 A JP 2014020519A JP 2014020519 A JP2014020519 A JP 2014020519A JP 2015149559 A JP2015149559 A JP 2015149559A
Authority
JP
Japan
Prior art keywords
person
image
video
attribute
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014020519A
Other languages
English (en)
Other versions
JP5834196B2 (ja
Inventor
藤井 博文
Hirobumi Fujii
博文 藤井
岩井 和彦
Kazuhiko Iwai
和彦 岩井
哲郎 柿沢
Tetsuro Kakizawa
哲郎 柿沢
細井 康丞
Kosuke Hosoi
康丞 細井
麻理恵 桑原
Marie Kuwahara
麻理恵 桑原
和麻 吉田
Kazuma Yoshida
和麻 吉田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2014020519A priority Critical patent/JP5834196B2/ja
Priority to US14/613,612 priority patent/US9693023B2/en
Priority to EP15153883.2A priority patent/EP2905738A1/en
Publication of JP2015149559A publication Critical patent/JP2015149559A/ja
Application granted granted Critical
Publication of JP5834196B2 publication Critical patent/JP5834196B2/ja
Priority to US15/601,091 priority patent/US10178356B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】人物の行動とともに商品の変化状況を把握する作業をユーザが効率的に行うことができるようにする。【解決手段】監視エリアの撮影映像上の人物の画像領域をマスク画像に変更した出力映像を生成して出力するモニタリング装置を、人物ごとの領域情報を取得する人物検出部37、および人物ごとの属性を判定する属性判定部38を有する人物画像解析部32と、撮影映像内の背景の画像領域における物品の変化状況に関する物品変化情報を取得する背景画像解析部91と、属性別のマスク画像を設定するマスク画像設定部35と、人物ごとの領域情報および属性に基づき、人物ごとの画像領域を属性別のマスク画像に変更すると共に、物品変化情報に基づき、背景の画像領域における物品の変化状況を識別可能に表示した出力映像を生成して出力する映像出力制御部34と、を備えたものとする。【選択図】図12

Description

本発明は、監視エリアの撮影映像から検出された人物の画像領域をマスク画像に変更した出力映像を生成して出力するモニタリング装置、モニタリングシステムおよびモニタリング方法に関するものである。
コンビニエンスストアなどの店舗においては、店舗内を撮影するカメラを設置して、そのカメラの映像で店舗内の人物を監視する監視システムが広く普及しているが、監視目的以外、すなわち、マーケティング分析やサービス向上を目的として撮影映像を利用する場合には、顧客のプライバシーを保護する必要がある。
このような中、カメラで撮影された映像の各画像内の人物領域全体が、所定の色で塗りつぶされた画像に変換された画像に特徴点が表示させ、人物がどのように動いているかを把握するようにした技術が知られている(特許文献1参照)。また、人物の前景画像がない状態の背景画像を生成し、前景画像に対しては一部または全体的に透過性を有するマスク処理もしくはフィルタ処理を行って、人物の顔や姿が特定できない画像を生成する技術も知られている(特許文献2参照)。
特開2013−186838号公報 特許第5159381号公報
さて、映像から人物の行動を把握するには、人物を背景と区別しながら人物を見ることになるが、前記従来の技術のように、人物の画像領域を特定の画像に置き換えることで、背景と人物とを容易に識別することができるため、人物の行動を把握することが容易になる。
一方、人物の行動とともに商品がどのように変化しているかを把握する要望があるが、前記従来の技術では、このような要望に対する配慮はなんらなされておらず、商品の変化状況を把握する作業を効率的に行うことができないという問題があった。特に、人物の行動を把握することが可能な映像では、商品の状態がわかりにくいため、映像が長時間に及ぶ場合のユーザの負担が大きく、人物の行動とともに商品の変化状況を把握する作業を効率的に行うことができる技術が望まれる。
本発明は、このような従来技術の問題点を解消するべく案出されたものであり、人物の行動とともに商品の変化状況を把握する作業をユーザが効率的に行うことが可能なモニタリング装置、モニタリングシステムおよびモニタリング方法を提供することを主な目的とする。
本発明のモニタリング装置は、監視エリアの撮影映像から検出された人物の画像領域をマスク画像に変更した出力映像を生成して出力するモニタリング装置であって、前記撮影映像から人物を検出して人物ごとの領域情報を取得する人物検出部、および前記撮影映像から検出された人物ごとの属性を判定する属性判定部を有する人物画像解析部と、前記撮影映像内の背景の画像領域における物品の変化状況に関する物品変化情報を取得する背景画像解析部と、前記属性別の前記マスク画像を設定するマスク画像設定部と、前記人物画像解析部から出力された人物ごとの前記領域情報および前記属性に基づき、人物ごとの画像領域を前記属性別の前記マスク画像に変更すると共に、前記背景画像解析部から出力された前記物品変化情報に基づき、背景の画像領域における前記物品の変化状況を識別可能に表示した出力映像を生成して出力する映像出力制御部と、を備えた構成とする。
また、本発明のモニタリングシステムは、監視エリアの撮影映像から検出された人物の画像領域をマスク画像に変更した出力映像を生成して出力するモニタリングシステムであって、監視エリアを撮影するカメラと、複数の情報処理装置と、を有し、前記複数の情報処理装置のいずれかが、前記撮影映像から人物を検出して人物ごとの領域情報を取得する人物検出部、および前記撮影映像から検出された人物ごとの属性を判定する属性判定部を有する人物画像解析部と、前記撮影映像内の背景の画像領域における物品の変化状況に関する物品変化情報を取得する背景画像解析部と、前記属性別の前記マスク画像を設定するマスク画像設定部と、前記人物画像解析部から出力された人物ごとの前記領域情報および前記属性に基づき、人物ごとの画像領域を前記属性別の前記マスク画像に変更すると共に、前記背景画像解析部から出力された前記物品変化情報に基づき、背景の画像領域における前記物品の変化状況を識別可能に表示した出力映像を生成して出力する映像出力制御部と、を備えた構成とする。
また、本発明のモニタリング方法は、監視エリアの撮影映像から検出された人物の画像領域をマスク画像に変更した出力映像を生成して出力する処理を情報処理装置に行わせるモニタリング方法であって、前記撮影映像から人物を検出して人物ごとの領域情報を取得するステップ、および前記撮影映像から検出された人物ごとの属性を判定するステップを有するステップと、前記撮影映像内の背景の画像領域における物品の変化状況に関する物品変化情報を取得するステップと、前記属性別の前記マスク画像を設定するステップと、人物ごとの前記領域情報および前記属性に基づき、人物ごとの画像領域を前記属性別の前記マスク画像に変更すると共に、前記物品変化情報に基づき、背景の画像領域における前記物品の変化状況を識別可能に表示した出力映像を生成して出力するステップと、を有する構成とする。
本発明によれば、属性別にマスク画像が表示されるため、映像に登場する人物の属性を簡単に把握することができ、これにより、人物の属性ごとに人物の行動傾向を把握する作業を効率的に行うことができる。そして、物品の変化状況が識別可能に表示されるため、変化する物品をユーザが識別することができ、これにより、人物の行動とともに商品の変化状況を把握する作業をユーザが効率的に行うことができる。
第1実施形態に係るモニタリングシステムの全体構成図 店舗のレイアウト、およびカメラ1の設置状況を説明する店舗の平面図 PC3の概略構成を示す機能ブロック図 モニタ4に表示されるモニタリング画面を示す説明図 モニタ4に表示されるマスク画像設定画面を示す説明図 モニタリング画面の映像表示部48に表示される映像の要部を示す説明図 第2実施形態に係るモニタリングシステムにおけるPC3の概略構成を示す機能ブロック図 モニタ4に表示されるモニタリング画面を示す説明図 モニタ4に表示されるマスク画像設定画面を示す説明図 2つの撮影日時の映像を示す説明図 モニタリング画面の映像表示部48の要部を示す説明図 第3実施形態に係るモニタリングシステムにおけるPC3の概略構成を示す機能ブロック図 モニタ4に表示されるモニタリング画面を示す説明図 モニタ4に表示されるマスク画像設定画面を示す説明図 モニタリング画面の映像表示部48の要部を示す説明図 モニタリング画面の映像表示部48の要部を示す説明図 モニタ4に表示されるモニタリング画面の別の例を示す説明図
前記課題を解決するためになされた第1の発明は、監視エリアの撮影映像から検出された人物の画像領域をマスク画像に変更した出力映像を生成して出力するモニタリング装置であって、前記撮影映像から人物を検出して人物ごとの領域情報を取得する人物検出部、および前記撮影映像から検出された人物ごとの属性を判定する属性判定部を有する人物画像解析部と、前記撮影映像内の背景の画像領域における物品の変化状況に関する物品変化情報を取得する背景画像解析部と、前記属性別の前記マスク画像を設定するマスク画像設定部と、前記人物画像解析部から出力された人物ごとの前記領域情報および前記属性に基づき、人物ごとの画像領域を前記属性別の前記マスク画像に変更すると共に、前記背景画像解析部から出力された前記物品変化情報に基づき、背景の画像領域における前記物品の変化状況を識別可能に表示した出力映像を生成して出力する映像出力制御部と、を備えた構成とする。
これによると、属性別にマスク画像が表示されるため、映像に登場する人物の属性を簡単に把握することができ、これにより、人物の属性ごとに人物の行動傾向を把握する作業を効率的に行うことができる。そして、物品の変化状況が識別可能に表示されるため、変化する物品をユーザが識別することができ、これにより、人物の行動とともに商品の変化状況を把握する作業をユーザが効率的に行うことができる。
また、第2の発明は、前記映像出力制御部は、前記物品の変化状況として、前記物品の消失および出現の少なくともいずれかを識別可能に表示する構成とする。
これによると、物品の消失および出現の少なくともいずれか識別可能に表示されるため、人物の行動とともに商品の変化状況を把握することができる。
また、第3の発明は、前記マスク画像設定部は、前記属性ごとに前記マスク画像を選択するユーザの入力操作に応じて、前記属性別の前記マスク画像を設定する構成とする。
これによると、ユーザが自由にマスク画像を設定することができるため、ユーザの利便性を高めることができる。
また、第4の発明は、前記マスク画像は、前記属性に応じて、色、濃淡、パターン、および輪郭線の少なくともいずれかの表示要素を変更することで、前記属性を識別可能にした構成とする。
これによると、マスク画像の違いにより、属性の異なる人物を容易に識別することができる。
また、第5の発明は、前記映像出力制御部は、背景の画像領域における前記物品の変化状況を識別可能に表示するため、変化した物品の画像領域を透過性のマスク画像に変更した前記出力映像を生成する構成とする。
これによると、変化した物品をユーザが容易に識別することができる。そして、物品のマスク画像が透過性であることから、背景画像が透けて見えるため、背景画像に写る物品配置エリア(陳列棚など)の現在の状況を把握することができる。
また、第6の発明は、前記撮影映像から背景画像を生成する背景画像処理部をさらに備え、前記映像出力制御部は、前記背景画像上に透過性の前記マスク画像を重畳した前記出力映像を生成する構成とする。
これによると、人物のマスク画像が透過性であることから、背景画像が透けて見えるため、背景画像に写る監視エリアの状況を見ながら人物の行動を観察することができる。
また、第7の発明は、監視エリアの撮影映像から検出された人物の画像領域をマスク画像に変更した出力映像を生成して出力するモニタリングシステムであって、監視エリアを撮影するカメラと、複数の情報処理装置と、を有し、前記複数の情報処理装置のいずれかが、前記撮影映像から人物を検出して人物ごとの領域情報を取得する人物検出部、および前記撮影映像から検出された人物ごとの属性を判定する属性判定部を有する人物画像解析部と、前記撮影映像内の背景の画像領域における物品の変化状況に関する物品変化情報を取得する背景画像解析部と、前記属性別の前記マスク画像を設定するマスク画像設定部と、前記人物画像解析部から出力された人物ごとの前記領域情報および前記属性に基づき、人物ごとの画像領域を前記属性別の前記マスク画像に変更すると共に、前記背景画像解析部から出力された前記物品変化情報に基づき、背景の画像領域における前記物品の変化状況を識別可能に表示した出力映像を生成して出力する映像出力制御部と、を備えた構成とする。
これによると、第1の発明と同様に、人物の行動とともに商品の変化状況を把握する作業をユーザが効率的に行うことができる。
また、第8の発明は、監視エリアの撮影映像から検出された人物の画像領域をマスク画像に変更した出力映像を生成して出力する処理を情報処理装置に行わせるモニタリング方法であって、前記撮影映像から人物を検出して人物ごとの領域情報を取得するステップ、および前記撮影映像から検出された人物ごとの属性を判定するステップを有するステップと、前記撮影映像内の背景の画像領域における物品の変化状況に関する物品変化情報を取得するステップと、前記属性別の前記マスク画像を設定するステップと、人物ごとの前記領域情報および前記属性に基づき、人物ごとの画像領域を前記属性別の前記マスク画像に変更すると共に、前記物品変化情報に基づき、背景の画像領域における前記物品の変化状況を識別可能に表示した出力映像を生成して出力するステップと、を有する構成とする。
これによると、第1の発明と同様に、人物の行動とともに商品の変化状況を把握する作業をユーザが効率的に行うことができる。
以下、本発明の実施の形態を、図面を参照しながら説明する。
(第1実施形態)
図1は、第1実施形態に係るモニタリングシステムの全体構成図である。このモニタリングシステムは、コンビニエンスストアなどの小売チェーン店などを対象にして構築されるものであり、複数の店舗ごとに設けられたカメラ(撮像装置)1、レコーダ(画像記録装置)2、PC(モニタリング装置)3、およびモニタ(表示装置)4と、複数の店舗を総括する本部に設けられたPC11、およびモニタ12と、を備えている。
カメラ1は店舗内の適所に設置され、カメラ1により店舗内が撮像され、これにより得られた画像情報がレコーダ2に録画される。店舗に設けられたPC3や本部に設けられたPC11では、カメラ1で撮像された店舗内の画像をリアルタイムで閲覧することができ、また、レコーダ2に録画された過去の店舗内の画像を閲覧することができ、これにより店舗や本部で店舗内の状況を確認することができる。
店舗に設置されたPC3は、店舗内での人物や商品の状態を監視するモニタリング装置として構成され、このPC3で生成したモニタリング情報を、PC3自身で閲覧することができ、さらに、本部に設置されたPC11に送信されて、このPC7でも閲覧することができ、PC3,11がモニタリング情報を閲覧する閲覧装置として構成される。
次に、コンビニエンスストアを例にして店舗のレイアウト、およびカメラ1の設置状況について説明する。図2は、店舗のレイアウト、およびカメラ1の設置状況を説明する店舗の平面図である。
店舗には、出入口と、陳列棚(陳列エリア)と、レジカウンタと、が設けられている。陳列棚は、弁当、ペットボトル、おにぎりなどの商品の種類に分けて設置されている。レジカウンタの隣にはファーストフードの陳列棚が設置されている。
顧客は、出入口から入店し、陳列棚の間の通路を通って店舗内を移動し、所望の商品が見つかると、その商品を持ってレジカウンタに向かい、レジカウンタで会計(代金の支払い)を済ませた後に出入口から退店する。
また、店舗には、店舗内(監視エリア)を撮像する複数のカメラ1が設置されている。特に、図2に示す例では、カメラ1に、魚眼レンズを用いて360度の撮影範囲を有する全方位カメラが採用され、このカメラ1により、陳列棚に陳列された商品を撮像することができ、また、陳列棚やレジカウンタの前などに滞在する人物を撮像することができる。
次に、図1に示したPC3で行われる処理を機能ブロック図に基づいて説明する。図3は、PC3の概略構成を示す機能ブロック図である。
PC3は、監視部31を備えている。この監視部31は、PC3を店舗内を監視する監視システムとして機能させるものであり、この監視部31により、カメラ1およびレコーダ2の動作が制御され、また、カメラ1で撮像された店舗内の画像をリアルタイムで閲覧し、また、レコーダ2に録画された店舗内の画像を閲覧することができる。
また、PC3は、人物画像解析部32と、背景画像処理部33と、映像出力制御部34と、マスク画像設定部35と、を備えている。
人物画像解析部32は、カメラ1による撮影映像を解析して人物に関する情報を取得するものであり、人物検出部37と、属性判定部38と、を備えている。
人物検出部37では、撮影映像から人物を検出して人物ごとの領域情報(人物の画像領域の位置情報)を取得する処理が行われる。属性判定部38では、撮影映像から検出された人物ごとの属性(性別および年齢など)を判定する処理が行われる。この人物検出部37および属性判定部38で行われる処理は、公知の画像認識技術を用いればよい。なお、この人物画像解析部32では、撮影映像のフレームごとの人物検出結果を関連付ける人物追跡処理を行うことが望ましく、これにより精度の高い属性判定を行うことができる。
マスク画像設定部35では、属性別のマスク画像を設定する処理が行われる。特に本実施形態では、人物の属性ごとにマスク画像を選択するユーザの入力操作に応じて、属性別のマスク画像を設定する処理が行われる。なお、属性別のマスク画像を予め設定しておくようにしてもよい。
背景画像処理部33では、撮影映像から背景画像を生成する処理が行われる。この背景画像は、撮影映像から人物の画像(前景画像)を除去したものであり、直近に撮影された複数の映像からそれぞれ人物の画像を除去して、その複数の画像から背景画像を合成するようすればよい。また、人物が存在しないときの撮影映像、例えば開店前の撮影映像を背景画像として予め用意しておくようにしてもよい。
映像出力制御部34では、人物画像解析部32から出力された人物ごとの領域情報および属性に基づき、人物の画像領域をマスク画像に変更した出力映像を生成して出力する処理が行われる。本実施形態では、撮影映像内にある人物の画像領域に対応する輪郭を有するマスク画像を生成し、このマスク画像を、背景画像処理部33で生成した背景画像上に重ね合わせる処理が行われる。
マスク画像は、属性に応じて、色、濃淡、パターン(模様)、および輪郭線の少なくともいずれかの表示要素を変更することで、属性を識別可能にしたものであり、特に本実施形態では、人物ごとの領域情報(人物の画像領域の位置情報)から、人物の画像領域の輪郭線を生成し、その輪郭線の内部を透過性の画像で塗り潰したものとする。なお、輪郭線を表示しないようにしてもよく、また、色や濃淡などを変えることで輪郭線を塗り潰し領域と識別可能に表示するようにしてもよい。
次に、図1に示したモニタ4に表示されるモニタリング画面について説明する。図4は、モニタ4に表示されるモニタリング画面を示す説明図である。
このモニタリング画面は、マーケティング分析やサービス向上などの目的で店舗内の状況をユーザが確認するものであり、このモニタリング画面には、店舗選択部41と、開始ボタン42と、設定ボタン43と、動作モード選択部44と、日時表示部45と、日時設定ボタン46と、凡例表示部47と、映像表示部48と、表示時刻操作部49と、が設けられている。
店舗選択部41では、プルダウンメニューにより店舗をユーザが選択する。開始ボタン42は、PCでのモニタリング処理を開始させるものである。設定ボタン43は、モニタリング処理での各種の条件を設定するものであり、本実施形態では、設定ボタン43を操作すると、ポップアップでマスク画像設定画面(図5参照)が表示される。動作モード選択部44は、動作モードを選択するものであり、売場モニタリング、商品モニタリング、陳列アラート、および欠品アラートなどの動作モードが用意されており、ここでは売場モニタリングが選択されている。
日時表示部45は、日時を表示するものである。日時設定ボタン46は、日時を設定するものである。日時設定ボタン46を操作すると、図示しない日時設定画面が表示され、ここで日時を選択することで、選択した日時が日時表示部45に表示され、また、選択した日時の映像が映像表示部48に表示される。
凡例表示部47は、映像表示部48に表示されるマスク画像を説明するものである。本実施形態では、凡例表示部47に、人物の属性(性別および年齢など)ごとに設定されたマスク画像が表示される。なお、図4に示す例では、年齢を全世代としているが、例えば10代〜60代の各世代にマスク画像を設定した場合、凡例表示部47は、各世代のマスク画像が表示される。
映像表示部48には、店舗の映像(動画)が表示される。特に図4に示す例では、全方位カメラであるカメラ1により撮像された映像をパノラマ展開した2つの映像が表示されている。この2つの映像に店舗全体が映り、店舗全体の状況を確認することができる。この映像表示部48には、通常再生モードでは、カメラ1による撮影映像がそのまま表示され、マスク再生モードでは、人物の画像領域をマスク画像に変更した映像が表示される。この映像表示部48に表示される映像については後に詳しく説明する。
表示時刻操作部49は、映像表示部48に表示される映像の時刻を調整するものである。この表示時刻操作部49を操作することで、映像を所望の時刻の映像に切り替えることができる。具体的には、マウスなどの入力デバイス6を用いてスライダ50をずらすと、そのスライダ50が指し示す時刻の映像が映像表示部48に表示される。これにより、所要の時刻における店舗の状況を映像表示部48の映像で確認することができる。また、映像表示部48の映像を再生する場合、操作ボタン51を用いることで、通常再生のほか、早送り再生や巻き戻し再生が可能となる。この場合、長時間に渡って録画された映像をマスク再生モードで再生する際にも、効率的な映像確認ができるようになる。
次に、属性別にマスク画像を設定する操作について説明する。図5は、モニタ4に表示されるマスク画像設定画面を示す説明図である。
このマスク画像設定画面は、人物の属性ごとのマスク画像をユーザが指定するものであり、このマスク画像設定画面には、人物属性選択部61と、マスク画像選択部62と、設定ボタン63と、設定内容表示部64と、が設けられている。
人物属性選択部61では、人物の属性(性別および年齢)をプルダウンメニューからユーザが選択する。この人物属性選択部61では、例えば10代〜60代の各世代および全世代のいずれかを選択することができる。なお、人物の属性を大人および子供とすることも可能である。マスク画像選択部72では、人物属性選択部61で選択した属性に対応するマスク画像をタイルメニューからユーザが選択する。
この人物属性選択部61およびマスク画像選択部62で人物の属性とこれに対応するマスク画像を選択して、設定ボタン63を操作すると、設定内容表示部64に、設定内容、すなわち属性別のマスク画像が表示される。図5に示す例では、年齢を全世代として、男性および女性のマスク画像が設定されている。
次に、図4に示したモニタリング画面の映像表示部48に表示される映像について説明する。図6は、図4に示したモニタリング画面の映像表示部48に表示される映像の要部を示す説明図である。
図6(A)に示すように、通常再生モードでは、カメラ1による撮影映像がそのまま表示される。一方、マスク画像設定を行った後のマスク再生モードでは、図6(B)に示すように、人物の画像領域をマスク画像に変更した映像が表示される。この映像では、図6(A)の撮影映像において人物の画像領域が、属性(ここでは男性および女性)別のマスク画像に置き換えられている。また、マスク画像は透過性であるため、背景画像が透けて見える状態となっている。
なお、撮影映像を再生する際には、ユーザがいずれの再生モードで再生されているのかを識別できるように、再生モード識別用のアイコンを映像と重畳表示させると良い。また、マスク再生モードの映像表示枠の色を通常再生モードでの映像表示枠の色と異なる表示を行うなどして、再生モードの識別ができるようにしても良い。
以上のように第1実施形態では、属性別、例えば男性と女性とで別のマスク画像が表示されるため、映像に登場する人物の属性を簡単に把握することができ、これにより、人物の属性ごとに人物の行動傾向を把握する作業を効率的に行うことができる。
なお、人物の属性として、性別と年齢を例に説明したが、公知の人物認識技術を用いて得られる属性として、人物の向き、人種、大人/子供、タイプ(OLやサラリーマン)など、各種の属性の設定が可能である。特に、人物の向きの属性を利用すると、マスク再生モードにおいても、人物ごとの商品に対する嗜好などを把握することができる。
(第2実施形態)
次に、第2実施形態について説明する。なお、ここで特に言及しない点は第1実施形態と同様である。
図7は、第2実施形態に係るモニタリングシステムにおけるPC3の概略構成を示す機能ブロック図である。この第2実施形態では、PC3が、第1実施形態と同様に、監視部31と、人物画像解析部32と、背景画像処理部33と、映像出力制御部34と、マスク画像設定部35と、を備えており、さらにこの第2実施形態では、PC3が、日時設定部71を備えている。
この第2実施形態では、第1実施形態と同様に、人物の属性(性別および年齢など)別のマスク画像を表示させることができるが、さらに、日時別のマスク画像を表示させることができる。なお、人物の属性別のマスク画像の表示を行わずに日時別のマスク画像のみの表示とする構成も可能である。
日時設定部71では、撮影日時を指定するユーザの入力操作に応じて、複数の日時を設定する処理が行われる。マスク画像設定部35では、撮影日時および人物の属性ごとにマスク画像を選択するユーザの入力操作に応じて、撮影日時別および人物の属性別のマスク画像を設定する処理が行われる。人物画像解析部32では、日時設定部71で設定された複数の撮影日時の撮影映像を取得して、人物ごとの人物領域情報(人物の画像領域の位置情報)を撮影日時ごとに取得する処理が行われる。
映像出力制御部34では、人物画像解析部32から出力された人物ごとの領域情報に基づき、複数の撮影日時ごとの人物の画像領域を、撮影日時別および人物の属性別のマスク画像に変更した出力映像を生成して出力する処理が行われ、出力映像は、複数の日時における人物ごとのマスク画像が、1つの背景画像上に撮影日時および人物の属性を識別可能に表示されたものとなる。
この第2実施形態では、マスク画像が、属性および撮影日時に応じて、色、濃淡、パターン、および輪郭線の少なくともいずれかの表示要素を変更することで、属性および撮影日時を識別可能にしたものであり、特に本実施形態では、人物の画像領域の輪郭線の内部を透過性の画像で塗り潰したものとする。
次に、モニタ4に表示されるモニタリング画面について説明する。図8は、モニタ4に表示されるモニタリング画面を示す説明図である。
この第2実施形態でも、第1実施形態(図4参照)と略同様のモニタリング画面がモニタ4に表示され、このモニタリング画面では、凡例表示部47に、複数の撮影日時および人物の属性ごとに設定されたマスク画像が表示される。
次に、属性および撮影日時別にマスク画像を設定する操作について説明する。図9は、モニタ4に表示されるマスク画像設定画面を示す説明図である。
このマスク画像設定画面は、人物の属性および撮影日時ごとにマスク画像をユーザが指定するものであり、このマスク画像設定画面には、人物属性選択部81と、日時選択部82と、マスク画像選択部83と、設定ボタン84と、設定内容表示部85と、が設けられている。
人物属性選択部81では、人物の属性(性別および年齢)をプルダウンメニューによりユーザが選択する。日時選択部82では、日時(年、月、日および時間帯)をプルダウンメニューによりユーザが選択する。また、日時選択部82では、優先順位をプルダウンメニューによりユーザが選択する。マスク画像選択部83では、人物属性選択部81で選択した属性および日時選択部82で選択した撮影日時に対応するマスク画像をタイルメニューからユーザが選択する。
この人物属性選択部81、日時選択部82およびマスク画像選択部83で人物の属性および撮影日時とこれに対応するマスク画像を選択して、設定ボタン84を操作すると、設定内容表示部85に、設定内容、すなわち属性および撮影日時別のマスク画像が表示される。この設定操作は少なくとも2回行われ、複数の撮影日時のマスク画像を設定する。図9に示す例では、2つの撮影日時として異なる日の同一の時間帯が設定されている。
次に、映像出力制御部34で行われる処理の概要、およびモニタリング画面の映像表示部48に表示される映像について説明する。図10は、2つの撮影日時の映像を示す説明図である。図11は、図8に示したモニタリング画面の映像表示部48の要部を示す説明図である。
図10(A)は、第1の撮影日時での撮影映像を示す。図10(B)は、第2の撮影日時での撮影映像を示す。映像出力制御部34では、第1の撮影日時の撮影映像内にある人物の画像領域に対応する輪郭を有するマスク画像を生成するとともに、第2の撮影日時の撮影映像内にある人物の画像領域に対応する輪郭を有するマスク画像を生成し、このマスク画像を、背景画像処理部33で生成した背景画像上の対応する位置に重ね合わせる処理が行われる。これにより、図11に示すように、モニタリング画面の映像表示部48にマスク画像が表示される。
ここで、この第2実施形態では、撮影日時が異なるマスク画像を同時に表示させるようにしており、撮影日時が異なるマスク画像が互いに重なり合う場合があり、この撮影日時が異なるマスク画像の表示方法として、この第2実施形態では、図11(A)に示すように、優先順位に基づく表示を行わない通常表示モードと、図11(B)に示すように、優先順位に基づく表示を行う優先表示モードとを選択することができる。
図11(A)に示すように、優先順位に基づく表示を行わない通常表示モードでは、日時が異なるマスク画像の重なり合う部分を、マスク画像における他の部分、すなわち別人のマスク画像と重なり合わない部分と識別可能に表示する。図11(A)に示す例では、マスク画像の重なり合う部分を、各マスク画像を合成した画像で表示している。例えば、赤色のマスク画像と青色のマスク画像とが重なり合う部分を紫色で表示し、また、マスク画像の重なり合う部分を、各マスク画像の透過率を加算した透過率で表示する。
図11(B)に示すように、優先順位に基づく表示を行う優先表示モードでは、日時が異なるマスク画像が重なり合う部分を、優先順位が高い日時のマスク画像が、優先順位が低い日時のマスク画像を覆い隠すように表示される。
以上のように第2実施形態では、複数の撮影日時別、例えば今日と昨日とで別のマスク画像が表示されるため、映像に登場する人物の撮影日時を簡単に把握することができ、これにより、日時別の人物の行動傾向を把握する作業を効率的に行うことができる。ここで、複数の撮影日時を異なる日の同一時刻とすれば、日ごとの人物の行動傾向を比較することができ、複数の撮影日時を同一の日の朝および夕方の時間帯とすれば、朝および夕方の時間帯ごとの人物の行動傾向を比較することができる。
(第3実施形態)
次に、第3実施形態について説明する。なお、ここで特に言及しない点は第1実施形態と同様である。
図12は、第3実施形態に係るモニタリングシステムにおけるPC3の概略構成を示す機能ブロック図である。この第3実施形態では、PC3が、第1実施形態と同様に、監視部31と、人物画像解析部32と、背景画像処理部33と、映像出力制御部34と、マスク画像設定部35と、を備えており、さらにこの第3実施形態では、PC3が、背景画像解析部91を備えている。
背景画像解析部91では、撮影映像における背景の画像領域における商品の消失および出現に関する物品変化情報を取得する処理が行われる。この背景画像解析処理では、撮影映像から人物の画像(前景画像)を除去した背景画像を複数比較することで、商品の変化状態(消失または出現)を検知し、変化した商品の領域情報(商品の画像領域の位置情報)を取得する。
映像出力制御部34では、背景画像解析部91から出力された物品変化情報に基づき、背景の画像領域における商品の変化(消失または出現)を識別可能に表示した出力映像を生成して出力する処理が行われる。ここで、商品が消失した場合には、消失する以前の映像において商品が存在した画像領域を透過性のマスク画像に変更するようにすればよく、商品が出現した場合には、商品の画像領域に強調表示(ハイライト表示)するようにすればよい。
なお、商品が出現した場合の強調表示には、適宜な種々の手法を用いればよいが、例えば商品の画像領域の輪郭線を表示するようにしてもよく、さらに、商品が小さくてわかりにくい場合には、点滅などのアニメーション表示を行うようにしてもよい。また、商品が出現した場合に、商品が消失した場合と同様に、商品の画像領域を透過性のマスク画像に変更するようにしてもよい。また、変化(消失または出現)した商品の位置に適宜なマーク画像、例えば○や×などの記号の画像を表示するようにしてもよい。
また、この第3実施形態では、商品の変化状況(消失または出現)を識別可能に表示させるとともに、第1実施形態と同様に、属性別に人物のマスク画像を表示させることができ、マスク画像設定部35において、人物の属性ごとにマスク画像を選択するユーザの入力操作に応じて、マスク画像を設定する処理が行われ、属性判定部38において、撮影映像から検出された人物ごとの属性(性別および年齢など)を判定する処理が行われ、映像出力制御部34において、人物の画像領域を属性別のマスク画像に変更した出力映像を生成して出力する処理が行われる。
次に、モニタ4に表示されるモニタリング画面について説明する。図13は、モニタ4に表示されるモニタリング画面を示す説明図である。
この第3実施形態でも、第1実施形態(図4参照)と略同様のモニタリング画面がモニタ4に表示され、このモニタリング画面では、凡例表示部47に、人物の属性ごとに設定されたマスク画像と、消失した商品を表すマスク画像が表示される。
次に、人物の属性別のマスク画像および商品の変化状態(消失および出現)のマスク画像を設定する操作について説明する。図14は、モニタ4に表示されるマスク画像設定画面を示す説明図である。
このマスク画像設定画面は、人物の属性別にマスク画像を設定するとともに、商品の変化状態(消失および出現)のマスク画像を設定するものであり、このマスク画像設定画面には、人物設定部101と、商品設定部102と、設定内容表示部103と、が設けられている。
人物設定部101には、第1実施形態(図5参照)と同様に、人物属性選択部104と、マスク画像選択部105と、設定ボタン106と、が設けられており、人物属性選択部104で人物の属性(性別および年齢)を選択し、マスク画像選択部105で人物の属性に対応するマスク画像を選択して、設定ボタン106を操作すると、設定内容表示部103に、設定内容、すなわち属性別のマスク画像が表示される。
商品設定部102には、変化状態選択部107と、マスク画像選択部108と、設定ボタン109と、が設けられている。変化状態選択部107では、変化状態(消失および出現)をプルダウンメニューによりユーザが選択する。マスク画像選択部108では、変化状態選択部107で選択した変化状態に対応するマスク画像をタイルメニューによりユーザが選択する。この変化状態選択部107およびマスク画像選択部108で変化状態とこれに対応するマスク画像を選択して、設定ボタン109を操作すると、設定内容表示部103に、設定内容、すなわち商品の変化状態のマスク画像が表示される。
次に、映像出力制御部34で行われる処理の概要、および図13に示したモニタリング画面の映像表示部48に表示される映像について説明する。図15および図16は、図13に示したモニタリング画面の映像表示部48の要部を示す説明図である。
この第3実施形態では、第1実施形態(図6(A)参照)と同様に、通常再生モードでは、カメラ1による撮影映像がそのまま映像表示部48に表示され、マスク画像設定を行った後のマスク再生モードでは、図15(A),(B)に示すように、人物の画像領域をマスク画像に変更した出力映像が表示される。
ここで、図16(A−1)に示すように、陳列棚の前の顧客が商品を持ち去り、図16(A−2)に示すように、陳列棚から商品が消失すると、背景画像解析部91において商品の消失を検知し、映像出力制御部34において、背景画像上の消失した商品の画像領域をマスク画像に変更する処理が行われる。これにより、マスク再生モードでは、図16(B)に示すように、商品が存在した位置にマスク画像が表示される。
なお、商品の変化状態(消失および出現)を表すマスク画像や強調表示は、商品の変化(消失および出現)の時点から所定の時間が経過したところで表示を終了するようにするとよい。また、商品のマスク画像は、人物のマスク画像と同様に、商品の領域情報(商品の画像領域の位置情報)から、商品の画像領域の輪郭線を生成し、その輪郭線の内部を透過性の画像で塗り潰したものとする。
以上のように第3実施形態では、属性別にマスク画像が表示されるため、映像に登場する人物の属性を簡単に把握することができ、これにより、人物の属性ごとに人物の行動傾向を把握する作業を効率的に行うことができる。そして、物品の変化状況が識別可能に表示されるため、変化する物品をユーザが識別することができ、これにより、人物の行動とともに商品の変化状況を把握する作業をユーザが効率的に行うことができる。
なお、この第3実施形態では、商品の消失および出現の双方を検知して、消失および出現の双方を識別可能に表示した出力映像を生成するようにしたが、商品の消失および出現のいずれか一方のみを対象としてもよい。
図17は、モニタ4に表示されるモニタリング画面の別の例を示す説明図である。前記の例では、全方位カメラであるカメラ1による撮影映像をパノラマ展開した映像を映像表示部48に表示させるようにしたが、この図17に示す例では、全方位カメラであるカメラ1による撮影映像をそのまま表示させるようにしている。
以上、本発明を特定の実施形態に基づいて説明したが、これらの実施形態はあくまでも例示であって、本発明はこれらの実施形態によって限定されるものではない。また、上記実施形態に示した本発明に係るモニタリング装置、モニタリングシステムおよびモニタリング方法の各構成要素は、必ずしも全てが必須ではなく、少なくとも本発明の範囲を逸脱しない限りにおいて適宜取捨選択することが可能である。
例えば、第1〜第3の各実施形態では、コンビニエンスストアなどの小売店舗の例について説明したが、このような小売店舗に限定されるものではなく、小売店舗以外の業務形態の店舗に適用することも可能である。さらに、店舗以外の監視エリアを対象とした用途も可能である。
また、第1〜第3の各実施形態では、図2に示したように、カメラ1を、魚眼レンズを用いて360度の撮影範囲を有する全方位カメラとしたが、所定の画角を有するカメラ、いわゆるボックスカメラでも可能である。
また、第1〜第3の各実施形態では、背景画像上に人物ごとのマスク画像を重畳した出力映像を生成するようにしたが、マスク画像のみを表示させ、背景画像を表示させない構成も可能である。
また、第1〜第3の各実施形態では、必要な設定事項をプルダウンメニューやタイルメニューの選択により入力するようにしたが、これに限定されるものではなく、適宜な入力部を画面に設ければよく、ラジオボタンなどで選択するようにしたり、数値を直接入力することができるようにしたりしてもよい。
また、第1〜第3の各実施形態では、それぞれに特徴のある種々の構成を示したが、これらの構成は、第1〜第3の各実施形態で示した組み合わせに限定されるものではなく、第1〜第3の各実施形態で別々に示した構成を適宜に組み合わせることも可能である。
また、第1〜第3の各実施形態では、モニタリングに必要な処理を、店舗に設けられたPC3に行わせるようにしたが、この必要な処理を、図1に示したように、本部に設けられたPC11や、クラウドコンピューティングシステムを構成するクラウドコンピュータ21に行わせるようにしてもよい。また、必要な処理を複数の情報処理装置で分担し、IPネットワークやLANなどの通信媒体を介して、複数の情報処理装置の間で情報を受け渡すようにしてもよい。この場合、必要な処理を分担する複数の情報処理装置でモニタリングシステムが構成される。
このような構成では、モニタリングに必要な処理のうち、少なくとも演算量が大きな処理、例えば人物検出処理を、店舗に設けられたPC3に行わせるようにするとよい。このように構成すると、残りの処理で必要となる情報のデータ量が少なくて済むため、残りの処理を店舗とは異なる場所に設置された情報処理装置、例えば本部に設置されたPC11に行わせるようにしても、通信負荷を軽減することができるため、広域ネットワーク接続形態によるシステムの運用が容易になる。
また、モニタリングに必要な処理のうち、少なくとも演算量が大きな処理、例えば人物検出処理を、クラウドコンピュータ21に行わせるようにしてもよい。このように構成すると、残りの処理は演算量が小さくて済むため、店舗などのユーザ側に高速な情報処理装置が不要となり、ユーザが負担するコストを軽減することができる。
また、クラウドコンピュータ21に必要な処理の全部を行わせ、あるいは、必要な処理のうちの少なくとも映像出力制御処理をクラウドコンピュータ21に分担させるようにしてもよく、このように構成すると、店舗や本部に設けられたPC3,11の他に、スマートフォン22やタブレット端末23などの携帯型端末でも映像を表示させることができるようになり、これにより店舗や本部の他に外出先などの任意の場所で店舗内の状況を確認することができる。
また、本実施形態では、店舗に設置されたPC3にモニタリングに必要な処理を行わせるとともに、PC3のモニタ4にモニタリング画面やマスク画像設定画面を表示させて、PC3で必要な入力および出力を行うようにしたが、モニタリングに必要な処理を行う情報処理装置とは別の情報処理装置、例えば本部に設置されたPC11やタブレット端末23などの携帯型端末で必要な入力および出力を行うようにしてもよい。
また、近年、モニタとして高画質化を追及した4Kテレビなどが開発されており、このような4Kテレビに対応したカメラを採用することで、人物の識別性能を高めることができ、人物が多数存在するような環境下でも、ユーザはマスク再生映像から人物の行動傾向を容易に把握することができる。
本発明にかかるモニタリング装置、モニタリングシステムおよびモニタリング方法は、人物の行動とともに商品の変化状況を把握する作業をユーザが効率的に行うことができる効果を有し、監視エリアの撮影映像から検出された人物の画像領域をマスク画像に変更した出力映像を生成して出力するモニタリング装置、モニタリングシステムおよびモニタリング方法などとして有用である。
1 カメラ
2 レコーダ
3 PC
4 モニタ
6 入力デバイス
12 モニタ
21 クラウドコンピュータ
22 スマートフォン
23 タブレット端末
32 人物画像解析部
33 背景画像処理部
34 映像出力制御部
35 マスク画像設定部
37 人物検出部
38 属性判定部
71 日時設定部
91 背景画像解析部
本発明のモニタリング装置は、監視エリアを撮影した動画映像から検出された人物の画像領域をマスク画像に変更したマスク映像を生成して出力するモニタリング装置であって、前記動画映像から人物を検出して人物ごとの領域情報を取得する人物検出部、および前記動画映像から検出された人物ごとの属性を判定する属性判定部を有する人物画像解析部と、前記動画映像内の背景の画像領域における物品の変化状況に関する物品変化情報を取得する背景画像解析部と、前記属性別の前記マスク画像を設定するマスク画像設定部と、前記人物画像解析部から出力された人物ごとの前記領域情報および前記属性に基づき、人物ごとの輪郭線を生成し、この輪郭線内部を前記属性別の前記マスク画像に変更すると共に、前記背景画像解析部から出力された前記物品変化情報に基づき、背景の画像領域における前記物品の変化状況を識別可能に表示した前記マスク映像を生成して出力する映像出力制御部と、を備え、前記マスク映像の再生により人物の行動傾向および前記物品の変化状況を把握可能とした構成とする。
また、本発明のモニタリングシステムは、監視エリアを撮影した動画映像から検出された人物の画像領域をマスク画像に変更したマスク映像を生成して出力するモニタリングシステムであって、監視エリアを撮影するカメラと、複数の情報処理装置と、を有し、前記複数の情報処理装置のいずれかが、前記動画映像から人物を検出して人物ごとの領域情報を取得する人物検出部、および前記動画映像から検出された人物ごとの属性を判定する属性判定部を有する人物画像解析部と、前記動画映像内の背景の画像領域における物品の変化状況に関する物品変化情報を取得する背景画像解析部と、前記属性別の前記マスク画像を設定するマスク画像設定部と、前記人物画像解析部から出力された人物ごとの前記領域情報および前記属性に基づき、人物ごとの輪郭線を生成し、この輪郭線内部を前記属性別の前記マスク画像に変更すると共に、前記背景画像解析部から出力された前記物品変化情報に基づき、背景の画像領域における前記物品の変化状況を識別可能に表示した前記マスク映像を生成して出力する映像出力制御部と、を備え、前記マスク映像の再生により人物の行動傾向および前記物品の変化状況を把握可能とした構成とする。
また、本発明のモニタリング方法は、監視エリアを撮影した動画映像から検出された人物の画像領域をマスク画像に変更したマスク映像を生成して出力する処理を情報処理装置に行わせるモニタリング方法であって、前記動画映像から人物を検出して人物ごとの領域情報を取得するステップ、および前記動画映像から検出された人物ごとの属性を判定するステップを有するステップと、前記動画映像内の背景の画像領域における物品の変化状況に関する物品変化情報を取得するステップと、前記属性別の前記マスク画像を設定するステップと、人物ごとの前記領域情報および前記属性に基づき、人物ごとの輪郭線を生成し、この輪郭線内部を前記属性別の前記マスク画像に変更すると共に、前記物品変化情報に基づき、背景の画像領域における前記物品の変化状況を識別可能に表示した前記マスク映像を生成して出力するステップと、を有し、前記マスク映像の再生により人物の行動傾向および前記物品の変化状況を把握可能とした構成とする。
本発明によれば、人物ごとの輪郭線内部を属性別のマスク画像に変更したマスク映像が表示されるため、映像に登場する人物の属性を簡単に把握することができ、これにより、人物の属性ごとに人物の行動傾向を把握する作業を効率的に行うことができる。そして、物品の変化状況が識別可能に表示されるため、変化する物品をユーザが識別することができ、これにより、人物の行動とともに商品の変化状況を把握する作業をユーザが効率的に行うことができる。
前記課題を解決するためになされた第1の発明は、監視エリアを撮影した動画映像から検出された人物の画像領域をマスク画像に変更したマスク映像を生成して出力するモニタリング装置であって、前記動画映像から人物を検出して人物ごとの領域情報を取得する人物検出部、および前記動画映像から検出された人物ごとの属性を判定する属性判定部を有する人物画像解析部と、前記動画映像内の背景の画像領域における物品の変化状況に関する物品変化情報を取得する背景画像解析部と、前記属性別の前記マスク画像を設定するマスク画像設定部と、前記人物画像解析部から出力された人物ごとの前記領域情報および前記属性に基づき、人物ごとの輪郭線を生成し、この輪郭線内部を前記属性別の前記マスク画像に変更すると共に、前記背景画像解析部から出力された前記物品変化情報に基づき、背景の画像領域における前記物品の変化状況を識別可能に表示した前記マスク映像を生成して出力する映像出力制御部と、を備え、前記マスク映像の再生により人物の行動傾向および前記物品の変化状況を把握可能とした構成とする。
これによると、人物ごとの輪郭線内部を属性別のマスク画像に変更したマスク映像が表示されるため、映像に登場する人物の属性を簡単に把握することができ、これにより、人物の属性ごとに人物の行動傾向を把握する作業を効率的に行うことができる。そして、物品の変化状況が識別可能に表示されるため、変化する物品をユーザが識別することができ、これにより、人物の行動とともに商品の変化状況を把握する作業をユーザが効率的に行うことができる。
また、第5の発明は、前記映像出力制御部は、背景の画像領域における前記物品の変化状況を識別可能に表示するため、変化した物品の画像領域を透過性のマスク画像に変更した前記マスク映像を生成する構成とする。
また、第6の発明は、前記動画映像から背景画像を生成する背景画像処理部をさらに備え、前記映像出力制御部は、前記背景画像上に透過性の前記マスク画像を重畳した前記マスク映像を生成する構成とする。
また、第7の発明は、監視エリアを撮影した動画映像から検出された人物の画像領域をマスク画像に変更したマスク映像を生成して出力するモニタリングシステムであって、監視エリアを撮影するカメラと、複数の情報処理装置と、を有し、前記複数の情報処理装置のいずれかが、前記動画映像から人物を検出して人物ごとの領域情報を取得する人物検出部、および前記動画映像から検出された人物ごとの属性を判定する属性判定部を有する人物画像解析部と、前記動画映像内の背景の画像領域における物品の変化状況に関する物品変化情報を取得する背景画像解析部と、前記属性別の前記マスク画像を設定するマスク画像設定部と、前記人物画像解析部から出力された人物ごとの前記領域情報および前記属性に基づき、人物ごとの輪郭線を生成し、この輪郭線内部を前記属性別の前記マスク画像に変更すると共に、前記背景画像解析部から出力された前記物品変化情報に基づき、背景の画像領域における前記物品の変化状況を識別可能に表示した前記マスク映像を生成して出力する映像出力制御部と、を備え、前記マスク映像の再生により人物の行動傾向および前記物品の変化状況を把握可能とした構成とする。
また、第8の発明は、監視エリアを撮影した動画映像から検出された人物の画像領域をマスク画像に変更したマスク映像を生成して出力する処理を情報処理装置に行わせるモニタリング方法であって、前記動画映像から人物を検出して人物ごとの領域情報を取得するステップ、および前記動画映像から検出された人物ごとの属性を判定するステップを有するステップと、前記動画映像内の背景の画像領域における物品の変化状況に関する物品変化情報を取得するステップと、前記属性別の前記マスク画像を設定するステップと、人物ごとの前記領域情報および前記属性に基づき、人物ごとの輪郭線を生成し、この輪郭線内部を前記属性別の前記マスク画像に変更すると共に、前記物品変化情報に基づき、背景の画像領域における前記物品の変化状況を識別可能に表示した前記マスク映像を生成して出力するステップと、を有し、前記マスク映像の再生により人物の行動傾向および前記物品の変化状況を把握可能とした構成とする。
店舗に設置されたPC3は、店舗内での人物や商品の状態を監視するモニタリング装置として構成され、このPC3で生成したモニタリング情報を、PC3自身で閲覧することができ、さらに、本部に設置されたPC11に送信されて、このPC11でも閲覧することができ、PC3,11がモニタリング情報を閲覧する閲覧装置として構成される。

Claims (8)

  1. 監視エリアの撮影映像から検出された人物の画像領域をマスク画像に変更した出力映像を生成して出力するモニタリング装置であって、
    前記撮影映像から人物を検出して人物ごとの領域情報を取得する人物検出部、および前記撮影映像から検出された人物ごとの属性を判定する属性判定部を有する人物画像解析部と、
    前記撮影映像内の背景の画像領域における物品の変化状況に関する物品変化情報を取得する背景画像解析部と、
    前記属性別の前記マスク画像を設定するマスク画像設定部と、
    前記人物画像解析部から出力された人物ごとの前記領域情報および前記属性に基づき、人物ごとの画像領域を前記属性別の前記マスク画像に変更すると共に、前記背景画像解析部から出力された前記物品変化情報に基づき、背景の画像領域における前記物品の変化状況を識別可能に表示した出力映像を生成して出力する映像出力制御部と、
    を備えたことを特徴とするモニタリング装置。
  2. 前記映像出力制御部は、前記物品の変化状況として、前記物品の消失および出現の少なくともいずれかを識別可能に表示することを特徴とする請求項1に記載のモニタリング装置。
  3. 前記マスク画像設定部は、前記属性ごとに前記マスク画像を選択するユーザの入力操作に応じて、前記属性別の前記マスク画像を設定することを特徴とする請求項1または請求項2に記載のモニタリング装置。
  4. 前記マスク画像は、前記属性に応じて、色、濃淡、パターン、および輪郭線の少なくともいずれかの表示要素を変更することで、前記属性を識別可能にしたことを特徴とする請求項1から請求項3のいずれかに記載のモニタリング装置。
  5. 前記映像出力制御部は、背景の画像領域における前記物品の変化状況を識別可能に表示するため、変化した物品の画像領域を透過性のマスク画像に変更した前記出力映像を生成することを特徴とする請求項1から請求項4のいずれかに記載のモニタリング装置。
  6. 前記撮影映像から背景画像を生成する背景画像処理部をさらに備え、
    前記映像出力制御部は、前記背景画像上に透過性の前記マスク画像を重畳した前記出力映像を生成することを特徴とする請求項1から請求項5のいずれかに記載のモニタリング装置。
  7. 監視エリアの撮影映像から検出された人物の画像領域をマスク画像に変更した出力映像を生成して出力するモニタリングシステムであって、
    監視エリアを撮影するカメラと、
    複数の情報処理装置と、
    を有し、
    前記複数の情報処理装置のいずれかが、
    前記撮影映像から人物を検出して人物ごとの領域情報を取得する人物検出部、および前記撮影映像から検出された人物ごとの属性を判定する属性判定部を有する人物画像解析部と、
    前記撮影映像内の背景の画像領域における物品の変化状況に関する物品変化情報を取得する背景画像解析部と、
    前記属性別の前記マスク画像を設定するマスク画像設定部と、
    前記人物画像解析部から出力された人物ごとの前記領域情報および前記属性に基づき、人物ごとの画像領域を前記属性別の前記マスク画像に変更すると共に、前記背景画像解析部から出力された前記物品変化情報に基づき、背景の画像領域における前記物品の変化状況を識別可能に表示した出力映像を生成して出力する映像出力制御部と、
    を備えたことを特徴とするモニタリングシステム。
  8. 監視エリアの撮影映像から検出された人物の画像領域をマスク画像に変更した出力映像を生成して出力する処理を情報処理装置に行わせるモニタリング方法であって、
    前記撮影映像から人物を検出して人物ごとの領域情報を取得するステップ、および前記撮影映像から検出された人物ごとの属性を判定するステップを有するステップと、
    前記撮影映像内の背景の画像領域における物品の変化状況に関する物品変化情報を取得するステップと、
    前記属性別の前記マスク画像を設定するステップと、
    人物ごとの前記領域情報および前記属性に基づき、人物ごとの画像領域を前記属性別の前記マスク画像に変更すると共に、前記物品変化情報に基づき、背景の画像領域における前記物品の変化状況を識別可能に表示した出力映像を生成して出力するステップと、
    を有することを特徴とするモニタリング方法。
JP2014020519A 2014-02-05 2014-02-05 モニタリング装置、モニタリングシステムおよびモニタリング方法 Active JP5834196B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2014020519A JP5834196B2 (ja) 2014-02-05 2014-02-05 モニタリング装置、モニタリングシステムおよびモニタリング方法
US14/613,612 US9693023B2 (en) 2014-02-05 2015-02-04 Monitoring apparatus, monitoring system, and monitoring method
EP15153883.2A EP2905738A1 (en) 2014-02-05 2015-02-05 Monitoring apparatus, monitoring system, and monitoring method
US15/601,091 US10178356B2 (en) 2014-02-05 2017-05-22 Monitoring apparatus, and moving image output method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014020519A JP5834196B2 (ja) 2014-02-05 2014-02-05 モニタリング装置、モニタリングシステムおよびモニタリング方法

Publications (2)

Publication Number Publication Date
JP2015149559A true JP2015149559A (ja) 2015-08-20
JP5834196B2 JP5834196B2 (ja) 2015-12-16

Family

ID=53892630

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014020519A Active JP5834196B2 (ja) 2014-02-05 2014-02-05 モニタリング装置、モニタリングシステムおよびモニタリング方法

Country Status (1)

Country Link
JP (1) JP5834196B2 (ja)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017098879A (ja) * 2015-11-27 2017-06-01 パナソニックIpマネジメント株式会社 モニタリング装置、モニタリングシステムおよびモニタリング方法
JP2017162375A (ja) * 2016-03-11 2017-09-14 パナソニックIpマネジメント株式会社 商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法
WO2019198452A1 (ja) * 2018-04-12 2019-10-17 パナソニックIpマネジメント株式会社 映像処理装置、映像処理システム及び映像処理方法
US10497130B2 (en) 2016-05-10 2019-12-03 Panasonic Intellectual Property Management Co., Ltd. Moving information analyzing system and moving information analyzing method
CN110610358A (zh) * 2018-06-15 2019-12-24 杭州海康威视数字技术股份有限公司 商品处理方法及装置、无人货架系统
US10567677B2 (en) 2015-04-17 2020-02-18 Panasonic I-Pro Sensing Solutions Co., Ltd. Flow line analysis system and flow line analysis method
US10621423B2 (en) 2015-12-24 2020-04-14 Panasonic I-Pro Sensing Solutions Co., Ltd. Moving information analyzing system and moving information analyzing method
JP2020145500A (ja) * 2019-03-04 2020-09-10 株式会社 ディー・エヌ・エー 人物による所定の動作を検証するためのシステム、方法、プログラム、及び装置
JP2020530167A (ja) * 2017-08-07 2020-10-15 スタンダード コグニション コーポレーション 意味的差分抽出を使用した在庫イベントの予測
US11551079B2 (en) 2017-03-01 2023-01-10 Standard Cognition, Corp. Generating labeled training images for use in training a computational neural network for object or action recognition
US11790682B2 (en) 2017-03-10 2023-10-17 Standard Cognition, Corp. Image analysis using neural networks for pose and action identification

Cited By (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10567677B2 (en) 2015-04-17 2020-02-18 Panasonic I-Pro Sensing Solutions Co., Ltd. Flow line analysis system and flow line analysis method
US10602080B2 (en) 2015-04-17 2020-03-24 Panasonic I-Pro Sensing Solutions Co., Ltd. Flow line analysis system and flow line analysis method
WO2017090238A1 (ja) * 2015-11-27 2017-06-01 パナソニックIpマネジメント株式会社 モニタリング装置、モニタリングシステムおよびモニタリング方法
JP2017098879A (ja) * 2015-11-27 2017-06-01 パナソニックIpマネジメント株式会社 モニタリング装置、モニタリングシステムおよびモニタリング方法
CN108293105B (zh) * 2015-11-27 2020-08-11 松下知识产权经营株式会社 监控装置、监控系统以及监控方法
GB2557847A (en) * 2015-11-27 2018-06-27 Panasonic Ip Man Co Ltd Monitoring device, monitoring system, and monitoring method
CN108293105A (zh) * 2015-11-27 2018-07-17 松下知识产权经营株式会社 监控装置、监控系统以及监控方法
US10956722B2 (en) 2015-12-24 2021-03-23 Panasonic I-Pro Sensing Solutions Co., Ltd. Moving information analyzing system and moving information analyzing method
US10621423B2 (en) 2015-12-24 2020-04-14 Panasonic I-Pro Sensing Solutions Co., Ltd. Moving information analyzing system and moving information analyzing method
JP2017162375A (ja) * 2016-03-11 2017-09-14 パナソニックIpマネジメント株式会社 商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法
GB2561500A (en) * 2016-03-11 2018-10-17 Panasonic Ip Man Co Ltd Commodity monitoring device, commodity monitoring system, and commodity monitoring method
WO2017154488A1 (ja) * 2016-03-11 2017-09-14 パナソニックIpマネジメント株式会社 商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法
US10497130B2 (en) 2016-05-10 2019-12-03 Panasonic Intellectual Property Management Co., Ltd. Moving information analyzing system and moving information analyzing method
US11551079B2 (en) 2017-03-01 2023-01-10 Standard Cognition, Corp. Generating labeled training images for use in training a computational neural network for object or action recognition
US11790682B2 (en) 2017-03-10 2023-10-17 Standard Cognition, Corp. Image analysis using neural networks for pose and action identification
JP2020530167A (ja) * 2017-08-07 2020-10-15 スタンダード コグニション コーポレーション 意味的差分抽出を使用した在庫イベントの予測
JP2021503636A (ja) * 2017-08-07 2021-02-12 スタンダード コグニション コーポレーション 前景/背景処理を使用した在庫イベントの予測
JP7181922B2 (ja) 2017-08-07 2022-12-01 スタンダード コグニション コーポレーション 前景/背景処理を使用した在庫イベントの予測
JP7191088B2 (ja) 2017-08-07 2022-12-16 スタンダード コグニション コーポレーション 意味的差分抽出を使用した在庫イベントの予測
JP2019186777A (ja) * 2018-04-12 2019-10-24 パナソニックIpマネジメント株式会社 映像処理装置、映像処理システム及び映像処理方法
WO2019198452A1 (ja) * 2018-04-12 2019-10-17 パナソニックIpマネジメント株式会社 映像処理装置、映像処理システム及び映像処理方法
CN110610358A (zh) * 2018-06-15 2019-12-24 杭州海康威视数字技术股份有限公司 商品处理方法及装置、无人货架系统
JP2020145500A (ja) * 2019-03-04 2020-09-10 株式会社 ディー・エヌ・エー 人物による所定の動作を検証するためのシステム、方法、プログラム、及び装置
JP7258603B2 (ja) 2019-03-04 2023-04-17 株式会社 ディー・エヌ・エー 人物による所定の動作を検証するためのシステム、方法、プログラム、及び装置

Also Published As

Publication number Publication date
JP5834196B2 (ja) 2015-12-16

Similar Documents

Publication Publication Date Title
JP5834193B2 (ja) モニタリング装置、モニタリングシステムおよびモニタリング方法
JP5834196B2 (ja) モニタリング装置、モニタリングシステムおよびモニタリング方法
US10178356B2 (en) Monitoring apparatus, and moving image output method
JP5707562B1 (ja) モニタリング装置、モニタリングシステムおよびモニタリング方法
JP5866564B1 (ja) モニタリング装置、モニタリングシステムおよびモニタリング方法
JP5707561B1 (ja) モニタリング装置、モニタリングシステムおよびモニタリング方法
US10304032B2 (en) Product monitoring device, product monitoring system, and product monitoring method
JP5942173B2 (ja) 商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法
JP6008339B1 (ja) 商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法
JP5907362B1 (ja) 活動状況分析装置、活動状況分析システムおよび活動状況分析方法
JP6024999B2 (ja) 撮像装置、録画装置および映像出力制御装置
US20150220935A1 (en) Payment service support apparatus, payment service support system, and payment service support method
JP5866542B1 (ja) 施設管理支援装置、施設管理支援システムおよび施設管理支援方法
US20180025233A1 (en) Image-capturing device, recording device, and video output control device
JP6508482B2 (ja) 活動状況分析システムおよび活動状況分析方法
JP6176619B2 (ja) 撮像装置、録画装置、映像表示方法およびコンピュータプログラム
JP2017184288A (ja) 撮像装置、録画装置、映像表示方法およびコンピュータプログラム
KR102620264B1 (ko) 인공지능 모델을 이용하여 분석된 무인 매장 고객 행동 분석 결과를 표현하는 방법 및 장치, 그리고 시스템
KR20210098315A (ko) 표시 제어 장치, 표시 제어 방법 및 비일시적 컴퓨터 판독가능한 기억 매체

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150127

R151 Written notification of patent or utility model registration

Ref document number: 5834196

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151