JP6688611B2 - 動線分析システム及び動線分析方法 - Google Patents

動線分析システム及び動線分析方法 Download PDF

Info

Publication number
JP6688611B2
JP6688611B2 JP2016001331A JP2016001331A JP6688611B2 JP 6688611 B2 JP6688611 B2 JP 6688611B2 JP 2016001331 A JP2016001331 A JP 2016001331A JP 2016001331 A JP2016001331 A JP 2016001331A JP 6688611 B2 JP6688611 B2 JP 6688611B2
Authority
JP
Japan
Prior art keywords
flow line
information
image
unit
analysis
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016001331A
Other languages
English (en)
Other versions
JP2017123024A (ja
Inventor
麻理恵 神田
麻理恵 神田
純子 中野
純子 中野
山本 裕之
裕之 山本
嘉宏 杉下
嘉宏 杉下
Original Assignee
パナソニックi−PROセンシングソリューションズ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by パナソニックi−PROセンシングソリューションズ株式会社 filed Critical パナソニックi−PROセンシングソリューションズ株式会社
Priority to JP2016001331A priority Critical patent/JP6688611B2/ja
Priority to US15/391,205 priority patent/US20170193309A1/en
Publication of JP2017123024A publication Critical patent/JP2017123024A/ja
Application granted granted Critical
Publication of JP6688611B2 publication Critical patent/JP6688611B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

本発明は、カメラ装置の撮像画像に、移動体の滞留情報又は通過情報を重畳した動線分析画像を生成して出力する動線分析システム及び動線分析方法に関する。
カメラ装置が設置された撮影現場における時間毎の人物の活動量レベルをヒートマップ画像として表示する先行技術として、例えば特許文献1が知られている。
特許文献1では、ネットワークを介して接続されたセキュリティカメラが設置された撮影現場における人物の動線を分析して活動量レベルを算出し、撮影現場の床配置図にセンサの検出結果を重畳したヒートマップ画像を生成し、セキュリティカメラに対応したブラウザの画面上にヒートマップ画像を表示することが開示されている。これにより、ブラウザの画面上に表示されたヒートマップ画像を閲覧することにより、撮影現場における人物の活動量レベルが把握可能となる。
特開2009−134688号公報
ここで、特許文献1の構成を用いて、カメラ装置が所定の対象領域(例えば店舗内で商品の陳列棚が複数配置された場所)を撮像する場合を考える。カメラ装置の撮像により得られた撮像画像に、対象領域を移動する移動体(例えば人物)の滞留情報又は通過情報を重畳したヒートマップ画像を生成することを考える。
特許文献1の構成では、撮影現場の全ての物体(人物も含まれる)を対象としているので、カメラ装置の撮像画像として捉えられる人物の全てが店舗側の求める真の購買客でない場合には、真に必要な購買客毎のきめ細かい動線情報の分析ができなかったため、店舗側が真に求めるヒートマップ画像が得られないことがあった。
例えば、夫婦2人と娘1人で店舗に訪れた際に、母親と娘は店舗の該当フロア内を一緒に色々と歩き回って自分の欲しい商品がないかどうか探しているが、父親はその母親と娘を待つ間、特にすることもなく陳列棚近くのベンチでスマートフォンをいじる等の休憩をしていることがある。この場合、店舗側にとって真に求める購買客は母親と娘であるのに対し、父親はベンチで滞留しているだけであるのに滞留時間が長いと検出されてしまい、この父親が特定の商品に興味を抱いたのではないかと店舗側に対して誤解を与える可能性があった。
本発明は、上述した従来の課題を解決するために、対象領域に映る人物全体ではなく真に必要な購買客の種別毎の動線情報のきめ細かい分析を行い、店舗側が真に求める動線分析画像を効率的に得る動線分析システム及び動線分析方法を提供することを目的とする。
本発明は、カメラ装置とサーバ装置とが相互に接続された動線分析システムであって、前記カメラ装置は、対象領域を撮像し、前記対象領域の撮像画像に基づいて、移動体の性別又は年代を画像処理により判別し、判別された性別又は年代に関する第1の情報を前記移動体に付与して、前記移動体の滞留位置又は通過位置に関する動線情報を抽出し、前記対象領域の撮像画像と前記動線情報とを前記サーバ装置に送信し、前記サーバ装置は、入力デバイスから前記第1の情報が入力された場合には、前記カメラ装置から送信された前記動線情報を用いて前記第1の情報を満たす動線情報を、前記カメラ装置から送信された前記撮像画像にを重畳した第1の動線分析画像を生成し、入力デバイスから滞留時間又は通過量を特定する第2の情報が入力された場合には、前記カメラ装置から送信された前記動線情報を用いて前記第2の情報を満たす動線情報を、前記カメラ装置から送信された前記撮像画像に重畳した第2の動線分析画像を生成し、前記サーバ装置に接続されるモニタに前記第1の動線分析画像又は前記第2の動線分析画像を表示する、動線分析システムを提供する。
また、本発明は、カメラ装置とサーバ装置とが相互に接続された動線分析システムにおける動線分析方法であって、前記カメラ装置、対象領域を撮像し、前記対象領域の撮像画像に基づいて、移動体の性別あるいは年代を画像処理により判別し、判別された性別又は年代に関する第1の情報を移動体に付与して、前記移動体の滞留位置又は通過位置に関する動線情報を抽出し、前記対象領域の撮像画像と前記動線情報とを前記サーバ装置に送信し、前記サーバ装置は、入力デバイスから前記第1の情報が入力された場合には、前記カメラ装置から送信された前記動線情報を用いて前記第1の情報を満たす動線情報を、前記カメラ装置から送信された前記撮像画像に重畳した第1の動線分析画像を生成し、入力デバイスから滞留時間あるいは通過量を特定する第2の情報が入力された場合には、前記カメラ装置から送信された前記動線情報を用いて前記第2の情報を満たす動線情報を、前記カメラ装置から送信された前記撮像画像に重畳した第2の動線分析画像を生成し、前記サーバ装置に接続されるモニタに前記第1の動線分析画像又は前記第2の動線分析画像を表示する、動線分析方法を提供する。
本発明によれば、対象領域に映る人物全体ではなく真に必要な購買客の種別毎の動線情報のきめ細かい分析を行い、店舗側が真に求める動線分析画像を効率的に得ることができる。
各実施形態の動線分析システムを含む販売管理システムのシステム構成を詳細に示すシステム構成図 第1の実施形態のカメラ装置及びサーバ装置のそれぞれの機能的な内部構成を詳細に示すブロック図 第1の実施形態のカメラ装置の背景画像生成部の動作概要の説明図 (A)画像入力部に入力された撮像画像の一例を示す図、(B)背景画像生成部により生成された背景画像の一例を示す図 第1の実施形態のカメラ装置の画像入力、背景画像生成、動線情報分析の各処理の動作タイミングを説明するタイムチャート 第1の実施形態のカメラ装置が定期的に送信処理を行う場合のタイムチャート 第1の実施形態のカメラ装置がイベントの検出に応じて送信処理の動作タイミングを変更する場合のタイムチャート 第1の実施形態のカメラ装置がイベントの検出前後では送信処理を省略する場合のタイムチャート 第1の実施形態のカメラ装置が複数個設置された食料品売場のレイアウトの一例を示す図 第1の実施形態のサーバ装置の表示画像生成部により生成された店舗Aの動線分析画像を含む運用画面の一例を示す図 第1の実施形態のサーバ装置の表示画像生成部により生成された店舗Aの動線分析画像を含む運用画面の他の一例を示す図 第1の実施形態のサーバ装置のレポート生成出力部により生成された2014年5月度の店舗Aの食料品売場における月例報告書の運用画面の一例を示す図 第1の実施形態の変形例のカメラ装置の機能的な内部構成を詳細に示すブロック図 第2の実施形態のカメラ装置及びサーバ装置のそれぞれの機能的な内部構成の第1例を詳細に示すブロック図 滞留時間が1分以上である購買客の動線情報が重畳された動線分析画像を模式的に示した例を示す図 滞留時間が3分以上である購買客の動線情報が重畳された動線分析画像を模式的に示した例を示す図 滞留時間が5分以上である購買客の動線情報が重畳された動線分析画像を模式的に示した例を示す図 第2の実施形態のカメラ装置のループ処理の動作手順の一例を説明するフローチャート 第2の実施形態のカメラ装置における動線情報保存期間の満了時におけるカメラ装置及びサーバ装置のループ処理の動作手順の一例を説明するフローチャート 第2の実施形態の入力デバイスからの解析データ表示指示を受領した時におけるカメラ装置及びサーバ装置のループ処理の動作手順の一例を説明するフローチャート 第2の実施形態のカメラ装置及びサーバ装置のそれぞれの機能的な内部構成の第2例を詳細に示すブロック図 女性の購買客の動線情報が重畳された動線分析画像を模式的に示した例を示す図 男性の購買客の動線情報が重畳された動線分析画像を模式的に示した例を示す図 男性及び女性のそれぞれの購買客の動線情報が重畳された動線分析画像を模式的に示した例を示す図 40代の購買客の動線情報が重畳された動線分析画像を模式的に示した例を示す図 60代以上の購買客の動線情報が重畳された動線分析画像を模式的に示した例を示す図 第2の実施形態のカメラ装置のループ処理の動作手順の他の一例を説明するフローチャート
以下、適宜図面を参照しながら、本発明に係る動線分析システム、動線分析方法を具体的に開示した各実施形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。なお、添付図面及び以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。
(第1の実施形態)
以下、本発明に係る動線分析システム、カメラ装置及び動線分析方法の第1の実施形態について、図面を参照して説明する。なお、本発明は、カメラ装置が動線分析画像(後述参照)を生成する動作(ステップ)を含む動線分析画像生成方法として規定しても良い。
また、以下の第1の実施形態では、図1に示すように、例えば本発明に係る動線分析システム500A,500B,500C,…が複数の店舗(店舗A,店舗B,店舗C,…)毎に設置され、複数の動線分析システム500A,500B,500C,…がネットワークNWを介して接続された販売管理システム1000の使用形態を想定して説明する。但し、本発明に係る動線分析システム、カメラ装置及び動線分析方法の実施形態は、後述する内容に限定されない。
図1は、各実施形態の動線分析システム500A,500B,500C,…を含む販売管理システム1000のシステム構成を詳細に示すシステム構成図である。図1に示す販売管理システム1000は、複数の店舗A,B,C,…に個々に設置された動線分析システム500A,500B,500C,…と、運営本部のサーバ装置600と、スマートフォン700と、クラウドコンピュータ800と、設定端末装置900とを含む構成である。
それぞれの動線分析システム500A,500B,500C,…と、運営本部のサーバ装置600と、スマートフォン700と、クラウドコンピュータ800と、設定端末装置900とは、ネットワークNWを介して相互に接続されている。ネットワークNWは、無線ネットワーク又は有線ネットワークである。無線ネットワークは、例えば無線LAN(Local Area Network)、無線WAN(Wide Area Network)、3G、LTE(Long Term Evolution)又はWiGig(Wireless Gigabit)である。有線ネットワークは、例えばイントラネット又はインターネットである。
図1に示す店舗Aに設置された動線分析システム500Aは、フロア1に設置された複数のカメラ装置100,100A,…,100Nと、レコーダ200と、サーバ装置300と、入力デバイス400と、モニタ450とを含む構成である。なお、フロア2にもフロア1と同様に複数のカメラ装置が設置され、フロア2内のカメラ装置の図示を省略している。それぞれのカメラ装置100,100A,…100Nの内部構成は同様であり、その詳細については図2を参照して後述する。
レコーダ200は、例えば半導体メモリ又はハードディスク装置を用いて構成され、店舗A内に設置された各カメラ装置の撮像により得られた画像(以下、カメラ装置の撮像により得られた画像を「撮像画像」という)のデータを記憶する。レコーダ200に記憶された撮像画像のデータは、例えば防犯等の監視業務に供される。
サーバ装置300は、例えばPC(Personal Computer)を用いて構成され、入力デバイス400を操作するユーザ(例えば動線分析システムのユーザであって、店舗Aの店員や店長を指す。以下同様。)の入力操作に応じて、所定のイベント(例えば店舗Aのフロア1の売場のレイアウトの変更)が発生したことをカメラ装置100に通知する。
また、サーバ装置300は、カメラ装置(例えばカメラ装置100)から送信されたデータ(後述参照)を用いて、カメラ装置(例えばカメラ装置100)の撮像領域における移動体(例えば店員、店長、来店客等の人物。以下同様。)の滞留位置又は通過位置に関する動線情報をカメラ装置(例えばカメラ装置100)の撮像画像に重畳した動線分析画像を生成してモニタ450に表示させる。
更に、サーバ装置300は、入力デバイス400を操作するユーザの入力操作に応じて、所定の処理(例えば後述する動線分析レポートの生成処理)を行い、動線分析レポートをモニタ450に表示させる。サーバ装置300の内部構成の詳細については図2を参照して後述する。
入力デバイス400は、例えばマウス、キーボード、タッチパネル又はタッチパッドを用いて構成され、ユーザの入力操作に応じた信号をカメラ装置100又はサーバ装置300に出力する。なお、図1では、図面を簡単にするために、入力デバイス400とカメラ装置100との間にだけ矢印が図示されているが、入力デバイス400と他のカメラ装置(例えばカメラ装置100A、100N)との間に矢印が図示されても良い。
モニタ450は、例えばLCD(Liquid Crystal Display)又は有機EL(Electroluminescence)を用いて構成され、サーバ装置300により生成された動線分析画像又は動線分析レポートのデータを表示する。なお、モニタ450は、サーバ装置300とは異なる外部装置として設けられるが、サーバ装置300の内部に含まれた構成としても良い。
運営本部のサーバ装置600は、運営本部のサーバ装置600を操作する運営本部の従業員(例えば役員)の入力操作に応じて、各店舗A,B,C,…内に設置された動線分析システム500A,500B,500C,…において生成された動線分析画像又は動線分析レポートを取得して表示するための閲覧用装置である。また、運営本部のサーバ装置600は、動線分析レポート(図12参照)を生成するために必要となる各種情報(例えば売上情報、来店者数情報、イベント日程情報、最高気温情報、最低気温情報)を保持する。なお、これらの各種情報は、店舗A,B,C,…毎に設けられたサーバ装置において保持されても良い。なお、運営本部のサーバ装置600は、各店舗A,B,C,…内に設置されたサーバ装置(例えば店舗Aであればサーバ装置300)における各処理を実行しても良い。これにより、運営本部のサーバ装置600は、各店舗A,B,C,…のデータを集約して動線分析レポート(例えば後述する図12参照)を生成することができ、運営本部のサーバ装置600に対する入力操作によって選択された一つの店舗の詳細データ(例えば図12に示す動線分析レポート等)を取得することができ、又は複数の店舗間における特定の売場(例えば肉売場)のデータ比較結果の表示を行うことが可能になる。
スマートフォン700は、スマートフォン700を操作する運営本部の従業員(例えば営業担当者)の入力操作に応じて、各店舗A,B,C,…内に設置された動線分析システム500A,500B,500C,…において生成された動線分析画像又は動線分析レポートを取得して表示するための閲覧用装置である。
クラウドコンピュータ800は、各店舗A,B,C,…内に設置された動線分析システム500A,500B,500C,…において生成された動線分析画像又は動線分析レポートのデータを記憶するオンラインストレージであり、スマートフォン700を操作する運営本部の従業員(例えば営業担当者)の入力操作に応じて、所定の処理(例えばX月Y日の動線分析レポートの検索及び抽出)を行い、処理結果をスマートフォン700に送信する。
設定端末装置900は、例えばPCを用いて構成され、各店舗A,B,C,…内に設置された動線分析システム500A,500B,500C,…のカメラ装置の設定画面を表示する専用のブラウザソフトウェアを実行可能である。設定端末装置900は、設定端末装置900を操作する運営本部の従業員(例えば販売管理システム1000のシステム管理者)の入力操作に応じて、カメラ装置の設定画面(例えばCGI(Common Gateway Interface))をブラウザソフトウェアにおいて表示し、カメラ装置の設定情報を編集(修正、追加、削除)して設定する。
(カメラ装置)
図2は、第1の実施形態のカメラ装置100及びサーバ装置300のそれぞれの機能的な内部構成を詳細に示すブロック図である。図1に示す販売管理システム1000において、店舗A,B,C,…に設置されるそれぞれのカメラ装置は同様な構成であるため、図2ではカメラ装置100を例示して説明する。
図2に示すカメラ装置100は、撮像部10と、画像入力部20と、背景画像生成部30と、動線情報分析部40と、スケジュール管理部50と、送信部60と、イベント情報受領部70と、背景画像蓄積部80と、通過/滞留分析情報蓄積部90とを含む構成である。背景画像生成部30は、入力画像学習部31と、移動体分離部32と、背景画像抽出部33とを含む構成である。動線情報分析部40は、対象検出部41と、動線情報取得部42と、通過/滞留状況分析部43とを含む構成である。
撮像部10は、レンズとイメージセンサとを少なくとも有する。レンズは、カメラ装置100の外部から入射する光(光線)を集光し、イメージセンサの所定の撮像面に結像させる。レンズには、魚眼レンズ、又は例えば140度以上の画角が得られる広角レンズが用いられる。イメージセンサは、例えばCCD(Charged-Coupled Device)又はCMOS(Complementary Metal Oxide Semiconductor)の固体撮像素子であり、撮像面に結像した光学像を電気信号に変換する。
画像入力部20は、例えばCPU(Central Processing Unit)、MPU(Micro Processing Unit)又はDSP(Digital Signal Processor)を用いて構成され、撮像部10からの電気信号を用いて所定の信号処理を行うことで、人間が認識可能なRGB(Red Green Blue)又はYUV(輝度・色差)等により規定される撮像画像のデータ(フレーム)を生成して背景画像生成部30及び動線情報分析部40に出力する。
背景画像生成部30は、例えばCPU、MPU又はDSPを用いて構成され、所定のフレームレート(例えば30fps(frame per second))で、画像入力部20から出力された撮像画像のデータ(フレーム)毎に、撮像画像に含まれる移動体(例えば人物)を排除した背景画像を生成して背景画像蓄積部80に保存する。背景画像生成部30における背景画像の生成処理は、例えば下記の参考特許文献に開示されている方法を用いることができるが、この参考特許文献に開示されている方法に限定されない。
(参考特許文献)特開2012−203680号公報
ここで、背景画像生成部30の動作概要について、図3及び図4を参照して簡単に説明する。図3は、第1の実施形態のカメラ装置100の背景画像生成部30の動作概要の説明図である。図4(A)は、画像入力部20に入力された撮像画像の一例を示す図である。図4(B)は、背景画像生成部30により生成された背景画像の一例を示す図である。
図3では、紙面の上側から下側に向かう時間軸に直交する紙面の左側から右側に向かって、入力画像学習部31、移動体分離部32、背景画像抽出部33の生成結果が模式的に示され、店舗の来店客が飲料の入った4つの段ボールのうち1つの段ボールを持ち運ぶ様子が示されている。
入力画像学習部31は、画像入力部20から出力された複数の撮像画像のフレーム(例えば図3に示す各フレームFM1〜FM5)において、画素毎に、画素の輝度及び色差の値の分布状況を分析する。
移動体分離部32は、入力画像学習部31の学習結果(即ち、複数のフレーム間(例えば図3に示す時間軸方向)の同一画素毎の輝度及び色差の分布状況の分析結果)を用いて、撮像画像の各フレームFM1〜FM5において、移動体(例えば人物)の情報(例えばフレームFM1a〜FM5a参照)と移動体以外(例えば背景)の情報(例えばフレームFM1b〜FM5b参照)とに分離する。なお、移動体である人物が段ボールを持ち運ぶ様子を示す撮像画像のフレームFM3,FM4では、人物が持ち運ぶ段ボールの画素に対応する輝度及び色差の値は時間軸方向(例えば図3参照)に沿って変化するので、移動体分離部32は、人物が持ち運ぶ段ボールを移動体とみなす。
背景画像抽出部33は、移動体分離部32が分離した情報のうち、移動体以外の情報が映るフレームFM1b〜FM5bを、画像入力部20から出力された撮像画像のフレームFM1〜FM5の背景画像のフレームFM1c〜FM5cとして抽出して背景画像蓄積部80に保存する。
図4(A)に示す撮像画像のフレームFM10aでは、例えば食堂の中で料理を提供している人、料理をトレーで受け取る人がそれぞれ移動体として示されている。図4(A)に示す撮像画像のフレームFM10aに対して、背景画像生成部30が生成した背景画像のフレームFM10c(図4(B)参照)では、移動体としての同じ食堂の中で料理を提供している人も料理を受け取る人も映らないように排除されている。
動線情報分析部40は、例えばCPU、MPU又はDSPを用いて構成され、所定のフレームレート(例えば10fps)で、画像入力部20から出力された撮像画像のデータ(フレーム)毎に、撮像画像に含まれる移動体(例えば人物)の滞留位置又は通過位置に関する動線情報を検出して通過/滞留分析情報蓄積部90に保存する。
対象検出部41は、画像入力部20から出力された撮像画像のフレームに対して所定の画像処理(例えば人物検出処理、顔検出処理)を行うことで、撮像画像のフレームに含まれる移動体(例えば人物)の有無を検出する。対象検出部41は、撮像画像のフレームに含まれる移動体を検出した場合には、撮像画像のフレームに対する移動体に関する情報並びに移動体の検出領域に関する情報(例えばフレームにおける移動体の座標情報)を動線情報取得部42に出力する。なお、対象検出部41は、撮像画像のフレームに含まれる移動体を検出しなかった場合には、移動体の検出領域に関する情報(例えば所定のヌル情報)を動線情報取得部42に出力する。
動線情報取得部42は、対象検出部41から出力された移動体の検出領域に関する情報を基に、画像入力部20から出力された撮像画像の情報と、過去の移動体の検出領域に関する情報(例えば、撮像画像情報や座標情報)を用いて、現在と過去の検出領域に関する情報の紐付けを行い、動線情報(例えば移動体の検出領域の座標情報の変化量)として通過/滞留状況分析部43に出力する。
通過/滞留状況分析部43は、複数の撮像画像に対して動線情報取得部42から出力された動線情報を基に、撮像画像のフレームにおける移動体(例えば人物)の滞留位置又は通過位置に関する動線情報(例えば、「対象位置情報」と「動線情報」と「通過状況又は滞留状況に関する情報」)を抽出して生成する。また、通過/滞留状況分析部43は、移動体(例えば人物)の滞留位置又は通過位置に関する動線情報の抽出結果を用いて、サーバ装置300の表示画像生成部350において生成される動線分析画像(ヒートマップ画像)のカラー部分の可視化画像を生成しても良い。
通過/滞留状況分析部43は、複数の撮像画像のフレームに対する動線情報を用いることで、画像入力部20から出力された撮像画像のフレームの中で、移動体(例えば人物)が滞留した位置又は通過した位置に関する正確な動線情報を抽出して生成することができる。
スケジュール管理部50は、例えばCPU、MPU又はDSPを用いて構成され、背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとをサーバ装置300に定期的に送信するための所定の送信周期を送信部60に指示する。所定の送信周期は、例えば15分、1時間、12時間、24時間等であるが、これらの時間間隔に限定されない。
送信部60は、スケジュール管理部50又はイベント情報受領部70からの指示に応じて、背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとを取得してサーバ装置300に送信する。送信部60における送信タイミングについては、図5、図6、図7及び図8を参照して後述する。
イベント情報取得部の一例としてのイベント情報受領部70は、サーバ装置300又は入力デバイス400から所定のイベント(例えば店舗Aのフロア1の売場のレイアウトの変更)の検出の通知を受領(取得)し、所定のイベントの検出の通知を受領したことで、背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとのサーバ装置300への送信指示を送信部60に出力する。
背景画像蓄積部80は、例えば半導体メモリ又はハードディスク装置を用いて構成され、背景画像生成部30により生成された背景画像のデータ(フレーム)を記憶する。
通過/滞留分析情報蓄積部90は、例えば半導体メモリ又はハードディスク装置を用いて構成され、動線情報分析部40により生成された移動体(例えば人物)の滞留位置又は通過位置に関する動線情報の抽出結果(例えば、「対象位置情報」と「動線情報」と「通過状況又は滞留状況に関する情報」)のデータを記憶する。
なお、図2に示すカメラ装置100は、イベント情報受領部70の代わりに、シーン識別部SDを設けても良く、以下同様である(例えば図13参照)。画像変化検出部の一例としてのシーン識別部SDは、画像入力部20から出力された撮像画像の変化(例えば店舗Aのフロア1の売場のレイアウトが変更したというイベント)の有無を検出する。シーン識別部SDは、撮像画像の変化を検出した場合には、背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとのサーバ装置300への送信指示を送信部60に出力する。
また、図2に示すカメラ装置100は、人数カウント部CTを更に設けても良く、以下同様である(例えば図13参照)。移動体検出部の一例としての人数カウント部CTは、画像入力部20から出力された撮像画像に対して所定の画像処理(例えば人物検出処理)を行うことで、撮像画像に含まれる移動体の検出数をカウントする。人数カウント部CTは、撮像画像に含まれる移動体の検出数に関する情報を送信部60に出力する。
(サーバ装置)
図2に示すサーバ装置300は、イベント情報受領部310と、通知部320と、受信部330と、受信情報蓄積部340と、表示画像生成部350と、レポート生成出力部360とを含む構成である。
イベント情報受領部310は、該当するカメラ装置(例えばカメラ装置100)毎に、所定のイベント(例えば店舗Aのフロア1の売場のレイアウトの変更)が発生したことを示す情報が入力デバイス400から入力された場合には、所定のイベントの検出の通知を受領する。イベント情報受領部310は、所定のイベントの検出の通知を受領したことを通知部320に出力する。なお、所定のイベントが発生したことを示す情報には、所定のイベントが発生した場所を撮像領域として撮像するカメラ装置の識別番号(例えば後述するC1,C2,…)が含まれる。
通知部320は、イベント情報受領部310から出力された所定のイベントの検出の通知を該当するカメラ装置(例えばカメラ装置100)に送信する。
受信部330は、カメラ装置100の送信部60から送信されたデータ(即ち、背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータ)を受信して受信情報蓄積部340及び表示画像生成部350に出力する。
受信情報蓄積部340は、例えば半導体メモリ又はハードディスク装置を用いて構成され、受信部330が受信したデータ(即ち、背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータ)を記憶する。
画像生成部の一例としての表示画像生成部350は、例えばCPU、MPU又はDSPを用いて構成され、受信部330又は受信情報蓄積部340から取得したデータ(即ち、背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータ)を用いて、背景画像に移動体の滞留位置又は通過位置に関する動線情報を重畳した動線分析画像を生成する。
動線分析画像は、カメラ装置100が撮像した撮像画像の中で移動体(例えば人物)が映らないように排除された背景画像に、撮像画像に対応する撮像領域において移動体がどこによく滞留したか、又はどこを通過したかを視覚的に示す動線情報がヒートマップのように所定のレンジ(例えば0〜255の値)の範囲内に定量的に可視化された画像である。また、表示制御部の一例としての表示画像生成部350は、生成した動線分析画像をモニタ450に表示させる。
レポート生成部の一例としてのレポート生成出力部360は、例えばCPU、MPU又はDSPを用いて構成され、動線分析レポートの生成指示が入力デバイス400から入力された場合には、後述する動線分析レポート(例えば図12参照)を生成する。また、表示制御部の一例としてのレポート生成出力部360は、生成した動線分析レポートをモニタ450に表示させる。
(カメラ装置からサーバ装置へのデータ送信処理)
次に、カメラ装置100からサーバ装置300へのデータの送信処理について、図5、図6、図7及び図8を参照して説明する。図5は、第1の実施形態のカメラ装置100の送信処理の動作タイミングを説明するタイムチャートである。図6は、第1の実施形態のカメラ装置100が定期的に送信処理を行う場合のタイムチャートである。図7は、第1の実施形態のカメラ装置100がイベントの検出に応じて送信処理の動作タイミングを変更する場合のタイムチャートである。図8は、第1の実施形態のカメラ装置100がイベントの検出前後では送信処理を省略する場合のタイムチャートである。
図5において、カメラ装置100では、画像入力部20から撮像画像が出力されると(画像入力)、背景画像生成部30は画像入力部20から出力された撮像画像の背景画像を生成して背景画像蓄積部80に保存し(背景画像生成)、動線情報分析部40は画像入力部20から出力された撮像画像に含まれる移動体(例えば人物)の滞留位置又は通過位置に関する動線情報を抽出する(動線情報分析)。これらの画像入力、背景画像生成、動線情報分析の各処理は定期的に実行される。
例えば図5に示す第1回目の画像入力、背景画像生成、動線情報分析の各処理の後、送信部60は、例えば図7に示すように、スケジュール管理部50から指示された送信周期の満了時点になると、例えばスケジュール管理部50からタイマー割込を受けて、前回の送信時刻t0から今回の送信時刻t1までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとを取得してサーバ装置300に送信する(時刻t1)。なお、上述したように送信部60における定期的な送信間隔(送信周期)は、15分、1時間、12時間、24時間等であり予めスケジュール管理部50から指示されている。また、送信部60により送信される背景画像のデータは1枚分のデータでも良いし、複数枚(例えば5分毎に得られた複数の背景画像)分のデータでも良い。
次に、図5に示す第2回目以降の画像入力、背景画像生成、動線情報分析の各処理の度に、送信部60は、例えば図7に示すように、スケジュール管理部50から指示された送信周期の満了時点になると、例えばスケジュール管理部50からタイマー割込を受けて、前回の送信時刻t1から今回の送信時刻t2までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとを取得してサーバ装置300に送信する(時刻t2)。
また、送信部60は、例えば図7に示すように、所定のイベント(例えば店舗Aのフロア1の売場のレイアウトの変更)の検出の通知をイベント情報受領部70から受けると(時刻t3)、例えばイベント情報受領部70からイベント割込を受けて、前回の送信時刻t2から今回の送信時刻t3までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとを取得してサーバ装置300に送信する(時刻t3)。なお、送信部60における送信処理については、図7に示す方法以外に、図6又は図8のうちいずれかの方法に従っても良い。
図6、図7及び図8では、図5の送信処理と同一の内容についての説明は簡略化又は省略し、異なる内容について説明する。具体的には、図6では、送信部60は、時刻t3においてイベント情報受領部70からイベント割込を受けても、前回の送信時刻t2から今回の送信時刻t3までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとのサーバ装置300への送信を省略する(時刻t3)。
しかし、図6の送信処理では、時刻t2から時刻t3までに所定のイベントが発生した場合、撮像画像の内容が更新されているので、イベントの検出前後で異なる背景画像が混在して使用されることになり、動線分析画像の内容が正確ではない可能性がある。
そこで、図7では、送信部60は、所定のイベント(例えば店舗Aのフロア1の売場のレイアウトの変更)の検出の通知をイベント情報受領部70から受けると(時刻t3)、例えばイベント情報受領部70からイベント割込を受けて、前回の送信時刻t2からイベント割込を受けた時刻t3までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとを取得してサーバ装置300に送信する(時刻t3)。更に、送信部60は、スケジュール管理部50から指示された送信周期の満了時点になると、例えばスケジュール管理部50からタイマー割込を受けて、イベント割込を受けた時刻t3から今回の送信時刻t4までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとを取得してサーバ装置300に送信する(時刻t4)。
また図8では、送信部60は、時刻t3においてイベント情報受領部70からイベント割込を受けても、前回の送信時刻t2からイベント割込を受けた時刻t3までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとのサーバ装置300への送信を省略する(時刻t3)。更に、送信部60は、スケジュール管理部50から指示された送信周期の満了時点になると、例えばスケジュール管理部50からタイマー割込を受けて、イベント割込を受けた時刻t3から時刻t4までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとのサーバ装置300への送信を省略する(時刻t4)。
言い換えると、送信部60は、時刻t3においてイベント情報受領部70からイベント割込を受けた場合、前回の送信時刻t2からイベント割込を受けた次の送信周期の開始時点(図8では時刻t4)までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとのサーバ装置300への送信を省略する(時刻t2〜時刻t4)。
更に、図8では、送信部60は、例えばスケジュール管理部50からタイマー割込を受けると(時刻t4)、背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとのサーバ装置300への送信を再開する。具体的には、送信部60は、図8では図示されていないが、時刻t4以降にスケジュール管理部50から指示された送信周期の満了時点になると、例えばスケジュール管理部50からタイマー割込を受け、時刻t4から今回の送信時刻までに背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータを取得してサーバ装置300に送信する。
図9は、第1の実施形態のカメラ装置100が複数個設置された食料品売場のレイアウトの一例を示す図である。図9では、例えば店舗Aのフロア1(1F)の食料品売場において、複数(例えば8個)のカメラ装置がフロア1の天井面等に設置されている様子が示されている。具体的には、北入口カメラC1A,C1B、レジ前カメラC2A,C2B、特売品カメラC3、肉売場カメラC4、魚売場カメラC5、野菜売場カメラC6の計8個のカメラ装置(例えば全方位カメラ装置)が設定されている。なお、カメラ装置の種類は、全方位カメラ装置に限定されず、固定の画角が設定された固定カメラ装置、又は、パン方向やチルト方向並びにズーム機能を有するPTZ(Pan Tilt Zoom)カメラ装置でも良い。
図10は、第1の実施形態のサーバ装置300の表示画像生成部350により生成された店舗Aの動線分析画像を含む運用画面の一例を示す図である。図11は、第1の実施形態のサーバ装置300の表示画像生成部350により生成された店舗Aの動線分析画像を含む運用画面の他の一例を示す図である。図10及び図11に示す運用画面は、表示画像生成部350によってモニタ450に表示される。
図10に示す運用画面では、左側の表示領域L1には、店舗内に設置されたカメラ装置の選択画面の一覧が階層的に表示されている。例えば、フロア1(1F)の食料品売場(識別番号:G1)では、北入口カメラC1A(識別番号:C1)、北入口カメラC1B(識別番号:C2)、レジ前カメラC2A(識別番号:C3),レジ前カメラC2B(識別番号:C4)、野菜売場カメラC6(識別番号:C5)、魚売場カメラC5(識別番号:C6)、肉売場カメラC4(識別番号:C7)、特売品カメラC3(識別番号:C8)が階層的に示されている。フロア2(2F)の衣料品売場その他の売場において同様であるため、説明を省略する。
また、図10に示す運用画面では、右側の表示領域R1には、メイン(例えば現在)の動線分析情報の表示領域MA1とサブ(例えば比較用)の動線分析情報の表示領域CE1とが表示されている。
動線分析情報の表示領域MA1には、サーバ装置300が閲覧対象の動線分析画像を生成した指定時刻(年月日を含む)と、例えば半日単位、1日単位、1週間単位又は1箇月単位を示す統計期間と、表示領域L1において選択された売場毎のカメラ装置の選択画面とを含む指定条件表示領域MA1aと、動線分析画像の映像表示種別と、グラフ表示種別と、グラフ表示G(グループ)と、売場毎の来店者数の表示領域CT1とを含む動線分析結果表示領域MA1bとが表示される。
動線分析画像の映像表示種別には、図10に示す移動体(例えば人物)の滞留情報が示された滞留マップと、図11に示す移動体(例えば人物)の通過情報が示されたカウントマップと、撮像画像そのものとが含まれる。売場毎の来店者数の表示領域CT1には、時系列(例えば図10及び図11では1時間毎)に人数カウント部CTにより検出された移動体(例えば人物)の検出数が示される。例えばユーザの入力操作により、入力デバイス400が売場毎の来店者数の表示領域CT1に表示された選択バーKRを時間軸方向にシフトすると、表示画像生成部350は、選択バーKRが示す時刻に生成した動線分析画像を順に表示する。
なお、図11に示すように、動線分析情報の表示領域MA1の売場毎のカメラ装置の選択画面の代わりに、図9に示す複数個のカメラ装置が売場毎に設置されたレイアウトMP1の一例が表示されても良い。
また同様に、サブの動線分析情報の表示領域CE1には、メインの動線分析情報の表示領域MA1の比較対象としてサーバ装置300が閲覧対象の動線分析画像を生成した指定時刻(年月日を含む)と、例えば半日単位、1日単位、1週間単位又は1箇月単位を示す統計期間と、メインの動線分析情報の表示領域MA1において選択された売場毎のカメラ装置の選択画面とを含む指定条件表示領域CE1aと、動線分析画像の映像表示種別と、グラフ表示種別と、グラフ表示G(グループ)と、売場毎の来店者数の表示領域CT2とを含む動線分析結果表示領域CE1bとが表示される。なお、サブの動線分析情報の表示領域CE1を用いる場合には、例えば店舗内のレイアウトの変更の前後の比較以外に、割引シールを商品に貼付した前後の比較、タイムセールの前後の比較、今日と一年前の同日との比較、店舗間(例えば店舗Aの肉売場と店舗Bの肉売場との比較)等の用途が含まれても良い。
売場毎の来店者数の表示領域CT2には、時系列(例えば図10及び図11では1時間毎)に人数カウント部CTにより検出された移動体(例えば人物)の検出数が示される。例えばユーザの入力操作により、入力デバイス400が売場毎の来店者数の表示領域CT2に表示された選択バーKRを時間軸方向にシフトすると、表示画像生成部350は、選択バーKRが示す時刻に生成した動線分析画像を順に再生して表示する。
また、メイン(例えば現在)の動線分析情報の表示領域MA1の売場毎の来店者数の表示領域CT1とサブ(例えば比較例)の動線分析情報の表示領域CE1の売場毎の来店者数の表示領域CT2とにおいて、入力デバイス400は、ユーザの入力操作により、時間軸上の特定の時間帯を指定してコメント(例えばタイムセール、3Fイベント、TV放映、隣のドームで試合等)を入力することができる。
図11では映像表示種別がカウントマップとなっており、その他の事項は図10の説明と同様であるため、詳細な説明は省略する。図11でも、図10と同様に、例えばユーザの入力操作により、入力デバイス400が売場毎の来店者数の表示領域CT3,CT4に表示された選択バーKRを時間軸方向にシフトすると、表示画像生成部350は、選択バーKRが示す時刻に生成した動線分析画像を順に再生して表示する。
図12は、第1の実施形態のサーバ装置300のレポート生成出力部360により生成された2014年5月度の店舗Aの食料品売場における月例報告書の運用画面RPTの一例を示す図である。第1の実施形態の動線分析レポートの一例としての月例報告書(図12参照)は、図10又は図11に示す運用画面の左側の表示領域L1の下部に設けられたレポート出力ボタンOPTが入力デバイス400により押下されると、レポート生成出力部360が生成してモニタ450に表示した画面である。なお、サーバ装置300のレポート生成出力部360は、図12に示す月例報告書又はその一部の情報(例えば食料品売場のうちの肉売場における月例報告書)を、店舗Aに設置されたプリンタ(不図示)に出力しても良い。これにより、店舗Aの店員は、来店客が映っていない動線分析画像が出力された内容で、例えば食料品売場全体又はその一部の肉売場における月例報告書のプリントアウトの配布を受けることができる。
図12に示す月例報告書(動線分析レポート)の運用画面RPTでは、月例報告書のタイトルに関する各種情報と、気温に関する情報と、売上情報に関する表示領域SR1と、店舗(例えば店舗A)の来店者数等の統計情報に関する表示領域CR1と、所定のイベントの一例として売場のレイアウトの変更の発生前後において表示画像生成部350が生成したそれぞれの動線分析画像HM5,HM6の表示領域と、売場毎の来店者数の表示領域CT5,CT6とが示されている。なお、月例報告書のタイトルに関する各種情報と、気温に関する情報と、売上情報、イベント情報、来店者構成に関する情報等は、例えば運営本部のサーバ装置600から該当する店舗(例えば店舗A)内のサーバ装置(例えばサーバ装置300)に送信される。なお、月例報告書のタイトルに関する各種情報と、気温に関する情報と、売上情報、イベント情報、来店者構成に関する情報等は、店舗内のサーバ装置300又は記憶部(不図示)に予め記憶されても良い。
図12に示す月例報告書の運用画面RPTでも、図10又は図11と同様に、例えばユーザの入力操作により、入力デバイス400が売場毎の来店者数の表示領域CT5,CT6に表示された選択バーKRを時間軸方向にシフトすると、表示画像生成部350は、選択バーKRが示す時刻に生成した動線分析画像を順に表示する。
以上により、第1の実施形態の動線分析システム500Aでは、カメラ装置100は、所定の撮像領域の撮像画像の背景画像を生成し、撮像画像に含まれる移動体(例えば人物)の撮像領域における滞留位置又は通過位置に関する動線情報を抽出し、撮像画像の背景画像と移動体の動線情報とを所定の送信周期毎にサーバ装置300に送信する。サーバ装置300は、撮像画像の背景画像に、移動体の動線情報を重畳した動線分析画像を生成し、この動線分析画像をモニタ450に表示させる。
これにより、動線分析システム500Aは、動線分析画像の元になる背景画像を移動体(例えば人物)が映らないように排除して生成するので、動線分析画像を生成する際に、撮像領域に映る移動体(人物)のプライバシーを適切に保護することができる。また、動線分析システム500Aは、所定のタイミング(例えば定期的な送信周期の到来時)の時点において既に更新された背景画像に移動体(人物)の撮像領域における滞留位置又は通過位置に関する動線情報を重畳するので、予め決められた送信周期毎に、撮像画像の中から移動体を排除した状態で、移動体の撮像領域における滞留位置又は通過位置に関する正確な動線情報を適切に示す動線分析画像をユーザに対して視覚的に表示することができる。
また、動線分析システム500Aは、背景画像と移動体の動線情報とを送信するための所定の送信周期をカメラ装置のスケジュール管理部50において指示するので、予め指示された送信周期に従って、背景画像と移動体の動線情報とを定期的にサーバ装置300に送信することができる。
また、動線分析システム500Aは、所定のイベント(例えば店舗内の売場のレイアウト変更のイベント)の検出の通知をイベント情報受領部70において取得すると、背景画像と移動体の動線情報とをサーバ装置300に送信するので、特定のイベントが検出された時点の前後の撮像領域における移動体の滞留位置又は通過位置に関する動線情報を正確に反映させた動線分析画像をサーバ装置300において生成することができる。
また、動線分析システム500Aは、撮像画像の変化(例えば店舗内の売場のレイアウト変更)をシーン識別部SDにおいて検出すると、背景画像と移動体の動線情報とをサーバ装置300に送信するので、撮像画像の変化が検出された時点の前後の撮像領域における移動体の滞留位置又は通過位置に関する動線情報を正確に反映させた動線分析画像をサーバ装置300において生成することができる。
また、動線分析システム500Aは、撮像画像に含まれる移動体の検出数を人数カウント部CTにおいてカウントし、検出数に関する情報を送信部60に出力するので、撮像領域における移動体の滞留位置又は通過位置に関する情報を含む動線分析画像と移動体の検出数とを含む表示画面(運用画面)をモニタ450に表示させることができる。
また、動線分析システム500Aは、イベント情報受領部70が所定のイベントの検出の通知を取得した時点を含む送信周期では背景画像と移動体の動線情報との送信を省略するので、サーバ装置300において動線分析画像を生成する際に、所定のイベント(例えば店舗内の売場のレイアウト変更)の検出前後の撮像領域における移動体の滞留位置又は通過位置に関する動線情報を混在して使用することを回避することができる。
また、動線分析システム500Aは、所定のイベント(例えば店舗内の売場のレイアウト変更)の検出前に生成された動線分析画像と、同所定のイベントの検出後に生成された動線分析画像とを含む動線分析レポートをレポート生成出力部360において生成するので、所定のイベントにより撮像領域における移動体の滞留位置又は通過位置に関する動線情報がどのような変更があったかを対比的に分かり易く示すことができる。
また、動線分析システム500Aは、所定の入力操作(例えばユーザのレポート出力ボタンの押下操作)により、生成した動線分析レポートをモニタ450に表示させるので、動線分析レポートをユーザに対して視覚的に表示することができる。
更に、動線分析システム500Aは、撮像画像の背景画像の生成と撮像画像に含まれる移動体の滞留位置又は通過位置に関する動線情報の抽出とを各カメラ装置100,100A,…,100Nにおいて実行させてから、サーバ装置300において動線分析画像を生成して表示するので、撮像画像の背景画像の生成と撮像画像に含まれる移動体の滞留位置又は通過位置に関する動線情報の抽出をサーバ装置300に実行させる場合に比べて、サーバ装置300の処理負荷を軽減することができるので、1つのサーバ装置300に接続可能なカメラ装置の台数の制限を緩和することができる。
(第1の実施形態の変形例)
なお、上述した第1の実施形態では、動線分析画像の生成処理はサーバ装置300において実行されているが、動線分析画像の生成処理までをカメラ装置100が実行しても良い(図13参照)。図13は、第1の実施形態の変形例のカメラ装置100Sの機能的な内部構成を詳細に示すブロック図である。図13に示すカメラ装置100Sは、撮像部10と、画像入力部20と、背景画像生成部30と、動線情報分析部40と、スケジュール管理部50と、送信部60Sと、イベント情報受領部70と、背景画像蓄積部80と、通過/滞留分析情報蓄積部90と、表示画像生成部350Sとを含む構成である。図13に示すカメラ装置100Sの各部の説明において、図2に示すカメラ装置100と同一の構成及び動作のものには同一の符号を付して説明を省略し、異なる内容について説明する。
画像生成部の一例としての表示画像生成部350Sは、スケジュール管理部50又はイベント情報受領部70からの指示に応じて、背景画像蓄積部80に保存された背景画像のデータと通過/滞留分析情報蓄積部90に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータを用いて、背景画像に移動体の滞留位置又は通過位置に関する動線情報を重畳した動線分析画像を生成して送信部60に出力する。
送信部60Sは、表示画像生成部350Sにより生成された動線分析画像のデータをサーバ装置300に送信する。
以上により、第1の実施形態の変形例では、カメラ装置100Sは、所定の撮像領域の撮像画像の背景画像を生成し、撮像画像に含まれる移動体(例えば人物)の撮像領域における滞留位置又は通過位置に関する動線情報を抽出し、撮像画像の背景画像と移動体の動線情報とを用いて、撮像画像の背景画像に、移動体の動線情報を重畳した動線分析画像を生成する。
これにより、カメラ装置100Sは、動線分析画像の元になる背景画像を移動体(例えば人物)が映らないように排除して生成するので、動線分析画像を生成する際に、撮像領域に映る移動体(人物)のプライバシーを適切に保護することができる。また、カメラ装置100Sは、リアルタイムに得られた撮像画像に移動体(人物)の撮像領域における滞留位置又は通過位置に関する動線情報を重畳するので、撮像画像の中から移動体を排除した状態で、移動体の撮像領域における滞留位置又は通過位置に関する最新の動線情報を適切に示す動線分析画像を生成することができる。
また、カメラ装置100Sは、動線分析画像の生成処理まで実行して生成結果である動線分析画像のデータをサーバ装置300に送信するので、例えばサーバ装置300の処理負荷が相当に高い状態では、動線分析画像の生成処理をサーバ装置300に実行させないで良いため、サーバ装置300の処理負荷の増大を抑制することができる。
ここで、本発明に係る動線分析システム、カメラ装置及び動線分析方法の構成、作用、効果をそれぞれ説明する。
本発明の一実施形態は、カメラ装置とサーバ装置とが相互に接続された動線分析システムであって、前記カメラ装置は、所定の撮像領域を撮像する撮像部と、前記撮像領域の撮像画像の背景画像を生成する背景画像生成部と、前記撮像画像に含まれる移動体の前記撮像領域における滞留位置又は通過位置に関する動線情報を抽出する動線情報分析部と、所定の送信周期毎に、前記背景画像生成部により生成された前記背景画像と、前記動線情報分析部により抽出された前記移動体の動線情報とを前記サーバ装置に送信する送信部と、を備え、前記サーバ装置は、前記撮像画像の背景画像に、前記移動体の動線情報を重畳した動線分析画像を生成する画像生成部と、前記画像生成部により生成された前記動線分析画像を表示部に表示させる表示制御部と、を備える、動線分析システムである。
この構成では、カメラ装置は、所定の撮像領域の撮像画像の背景画像を生成し、撮像画像に含まれる移動体(例えば人物)の撮像領域における滞留位置又は通過位置に関する動線情報を抽出し、撮像画像の背景画像と移動体の動線情報とを所定の送信周期毎にサーバ装置に送信する。サーバ装置は、撮像画像の背景画像に、移動体の動線情報を重畳した動線分析画像を生成し、この動線分析画像を表示部に表示させる。
これにより、動線分析システムは、動線分析画像の元になる背景画像には移動体(例えば人物)が映らないように排除されるので、動線分析画像を生成する際に、撮像領域に映る移動体(人物)のプライバシーを適切に保護することができる。また、動線分析システムは、所定のタイミング(例えば定期的な送信周期の到来時)の時点において既に更新された背景画像に移動体(人物)の撮像領域における滞留位置又は通過位置に関する動線情報を重畳するので、予め決められた送信周期毎に、撮像画像の中から移動体を排除した状態で、移動体の撮像領域における滞留位置又は通過位置に関する正確な動線情報を適切に示す動線分析画像をユーザに対して視覚的に表示することができる。
また、本発明の一実施形態は、前記カメラ装置は、前記背景画像と前記移動体の動線情報とを送信するための前記所定の送信周期を前記送信部に指示するスケジュール管理部、を更に備える、動線分析システムである。
この構成によれば、動線分析システムは、背景画像と移動体の動線情報とを送信するための所定の送信周期をカメラ装置のスケジュール管理部において指示するので、予め指示された送信周期に従って、背景画像と移動体の動線情報とを定期的にサーバ装置に送信することができる。
また、本発明の一実施形態は、前記カメラ装置は、所定のイベントの検出の通知を取得するイベント情報取得部、を更に備え、前記イベント情報取得部は、前記所定のイベントの検出の通知を取得した後、前記背景画像と前記移動体の動線情報との送信タイミングを前記送信部に指示する、動線分析システムである。
この構成によれば、動線分析システムは、所定のイベント(例えば店舗内の売場のレイアウト変更のイベント)の検出の通知をイベント情報取得部において取得すると、背景画像と移動体の動線情報とをサーバ装置に送信するので、特定のイベントが検出された時点の前後の撮像領域における移動体の滞留位置又は通過位置に関する動線情報を正確に反映させた動線分析画像をサーバ装置において生成することができる。
また、本発明の一実施形態は、前記カメラ装置は、前記撮像画像の変化を検出する画像変化検出部、を更に備え、前記画像変化検出部は、前記撮像画像の変化を検出した後、前記背景画像と前記移動体の動線情報との送信タイミングを前記送信部に指示する、動線分析システムである。
この構成によれば、動線分析システムは、撮像画像の変化(例えば店舗内の売場のレイアウト変更)を画像変化検出部において検出すると、背景画像と移動体の動線情報とをサーバ装置に送信するので、撮像画像の変化が検出された時点の前後の撮像領域における移動体の滞留位置又は通過位置に関する動線情報を正確に反映させた動線分析画像をサーバ装置において生成することができる。
また、本発明の一実施形態は、前記カメラ装置は、前記撮像画像に含まれる移動体の検出数をカウントする移動体検出部、を更に備え、前記移動体検出部は、前記撮像画像に含まれる移動体の検出数に関する情報を前記送信部に出力する、動線分析システムである。
この構成によれば、動線分析システムは、撮像画像に含まれる移動体の検出数を移動体検出部においてカウントし、検出数に関する情報を送信部に出力するので、撮像領域における移動体の滞留位置又は通過位置に関する情報を含む動線分析画像と移動体の検出数とを含む表示画面(運用画面)を表示部において表示させることができる。
また、本発明の一実施形態は、前記送信部は、前記イベント情報取得部が前記所定のイベントの検出の通知を取得した時点を含む前記所定の送信周期では、前記背景画像と前記移動体の動線情報との送信を省略する、動線分析システムである。
この構成によれば、動線分析システムは、イベント情報取得部が所定のイベントの検出の通知を取得した時点を含む送信周期では背景画像と移動体の動線情報との送信を省略するので、サーバ装置において動線分析画像を生成する際に、所定のイベント(例えば店舗内の売場のレイアウト変更)の検出前後の撮像領域における移動体の滞留位置又は通過位置に関する動線情報を混在して使用することを回避することができる。
また、本発明の一実施形態は、前記サーバ装置は、前記所定のイベントの検出前に前記画像生成部により生成された前記動線分析画像と、前記所定のイベントの検出後に前記画像生成部により生成された前記動線分析画像とを含む動線分析レポートを生成するレポート生成部、を更に備える、動線分析システムである。
この構成によれば、動線分析システムは、所定のイベント(例えば店舗内の売場のレイアウト変更)の検出前に生成された動線分析画像と、同所定のイベントの検出後に生成された動線分析画像とを含む動線分析レポートをレポート生成部において生成するので、所定のイベントにより撮像領域における移動体の滞留位置又は通過位置に関する動線情報がどのような変更があったかを対比的に分かり易く示すことができる。
また、本発明の一実施形態は、前記レポート生成部は、所定の入力操作に応じて、前記動線分析レポートを前記表示部に表示させる、動線分析システムである。
この構成によれば、動線分析システムは、所定の入力操作(例えばユーザのレポート出力ボタンの押下操作)により、生成した動線分析レポートを表示部に表示させるので、動線分析レポートをユーザに対して視覚的に表示することができる。
また、本発明の一実施形態は、所定の撮像領域を撮像する撮像部と、前記撮像領域の撮像画像の背景画像を生成する背景画像生成部と、前記撮像画像に含まれる移動体の前記撮像領域における滞留位置又は通過位置に関する動線情報を抽出する動線情報分析部と、前記背景画像生成部により生成された前記背景画像と、前記動線情報分析部により抽出された前記移動体の動線情報とを用いて、前記撮像画像の背景画像に、前記移動体の動線情報を重畳した動線分析画像を生成する画像生成部と、を備える、カメラ装置である。
この構成では、カメラ装置は、所定の撮像領域の撮像画像の背景画像を生成し、撮像画像に含まれる移動体(例えば人物)の撮像領域における滞留位置又は通過位置に関する動線情報を抽出し、撮像画像の背景画像と移動体の動線情報とを用いて、撮像画像の背景画像に、移動体の動線情報を重畳した動線分析画像を生成する。
これにより、カメラ装置は、動線分析画像の元になる背景画像を移動体(例えば人物)が映らないように排除して生成するので、動線分析画像を生成する際に、撮像領域に映る移動体(人物)のプライバシーを適切に保護することができる。また、カメラ装置は、所定のタイミング(例えば定期的な送信周期の到来時)の時点において既に更新された背景画像に移動体(人物)の撮像領域における滞留位置又は通過位置に関する動線情報を重畳するので、撮像画像の中から移動体を排除した状態で、移動体の撮像領域における滞留位置又は通過位置に関する正確な動線情報を適切に示す動線分析画像を生成することができる。
また、本発明の一実施形態は、カメラ装置とサーバ装置とが相互に接続された動線分析システムにおける動線分析方法であって、前記カメラ装置において、所定の撮像領域を撮像するステップと、前記撮像領域の撮像画像の背景画像を生成するステップと、前記撮像画像に含まれる移動体の前記撮像領域における滞留位置又は通過位置に関する動線情報を抽出するステップと、所定の送信周期毎に、生成された前記背景画像と、抽出された前記移動体の動線情報とを前記サーバ装置に送信するステップと、前記サーバ装置において、前記撮像画像の背景画像に、前記移動体の動線情報を重畳した動線分析画像を生成するステップと、生成された前記動線分析画像を表示部に表示させるステップと、を有する、動線分析方法である。
この方法では、カメラ装置は、所定の撮像領域の撮像画像の背景画像を生成し、撮像画像に含まれる移動体(例えば人物)の撮像領域における滞留位置又は通過位置に関する動線情報を抽出し、撮像画像の背景画像と移動体の動線情報とを所定の送信周期毎にサーバ装置に送信する。サーバ装置は、撮像画像の背景画像に、移動体の動線情報を重畳した動線分析画像を生成し、この動線分析画像を表示部に表示させる。
これにより、動線分析システムは、動線分析画像の元になる背景画像には移動体(例えば人物)が映らないように排除されるので、動線分析画像を生成する際に、撮像領域に映る移動体(人物)のプライバシーを適切に保護することができる。また、動線分析システムは、所定のタイミング(例えば定期的な送信周期の到来時)の辞典において既に更新された背景画像に移動体(人物)の撮像領域における滞留位置又は通過位置に関する動線情報を重畳するので、予め決められた送信周期毎に、撮像画像の中から移動体を排除した状態で、移動体の撮像領域における滞留位置又は通過位置に関する正確な動線情報を適切に示す動線分析画像をユーザに対して視覚的に表示することができる。
(第2の実施形態)
次に、第2の実施形態における動線分析システムを構成するカメラ装置100P,100Q及びサーバ装置300P,300Qの例について、図面を参照して説明する。本実施形態のカメラ装置100P,100Q及びサーバ装置300P,300Qは、上述した第1の実施形態の動線分析システム500A,500B,…を構成するカメラ装置100及びサーバ装置300に置き換わる他のカメラ装置及びサーバ装置の例である。このため、本実施形態のカメラ装置100P、100Q及びサーバ装置300P,300Qは図1の動線分析システム500A,500B,…を構成するカメラ装置及びサーバ装置としての役割を有し、図1の説明は本実施形態においても適用される。
(カメラ装置)
図14は、第2の実施形態のカメラ装置100P及びサーバ装置300Pのそれぞれの機能的な内部構成の第1例を詳細に示すブロック図である。図14に示すカメラ装置100Pでは、図2に示すカメラ装置100から背景画像生成部30及び背景画像蓄積部80が省かれ、動線情報分析部40、通過/滞留分析情報蓄積部90、送信部60がそれぞれ動線情報分析部40P、通過/滞留分析情報蓄積部90P、送信部60Pに置き換わっているが、その他の構成は同一である。このため、以下、図14に示すカメラ装置100Pの説明において、図2に示すカメラ装置100の各部と同一の構成には同一の符号を付して説明を簡略化又は省略し、異なる内容について説明する。なお、図14ではカメラ装置100Pは1台のみ示されているが、複数台でもよい。
図14に示すカメラ装置100Pは、撮像部10と、画像入力部20と、動線情報分析部40Pと、スケジュール管理部50と、送信部60Pと、イベント情報受領部70と、通過/滞留分析情報蓄積部90Pとを含む構成である。動線情報分析部40Pは、対象検出部41と、対象追跡部42Pと、通過/滞留状況分析部43とを含む構成である。なお、カメラ装置100Pにおいて、背景画像生成部30及び背景画像蓄積部80が備えられてもよい。以下、個々のカメラ装置100P、100Qが撮像する監視領域(例えば店舗内の商品の陳列棚、商品の特設売場、レジカウンター、店舗の出入口)を「対象領域」と称する。つまり、対象領域は、カメラ装置100Pの画角に含まれる。
動線情報分析部40Pは、例えばCPU、MPU又はDSPを用いて構成され、所定のフレームレート(例えば10fps)で、画像入力部20から出力された撮像画像のデータ(フレーム)毎に、撮像画像に含まれる移動体(例えば購買客である人物)の滞留位置又は通過位置に関する動線情報を検出して通過/滞留分析情報蓄積部90Pに保存する。
対象検出部41は、撮像画像のフレームに含まれる移動体を検出した場合には、撮像画像のフレームに対する移動体に関する情報並びに移動体の検出領域に関する情報(例えばフレームにおける移動体の座標情報)を対象追跡部42Pに出力する。なお、対象検出部41は、撮像画像のフレームに含まれる移動体を検出しなかった場合には、移動体の検出領域に関する情報(例えば所定のヌル情報)を対象追跡部42Pに出力する。
対象追跡部42Pは、対象検出部41から出力された移動体に関する情報並びに移動体の検出領域に関する情報を基に、画像入力部20から出力された撮像画像の複数のフレーム分のそれぞれの特徴量情報を用いて、対象領域(例えば店舗内)における移動体の過去の検出領域から現在の検出領域への動線を追跡し、動線情報(例えば移動体の検出領域の座標情報の変化量)として通過/滞留状況分析部43に出力する。
通過/滞留状況分析部43は、複数の撮像画像に対して対象追跡部42Pから出力された動線情報を基に、撮像画像のフレームにおける移動体の滞留位置又は通過位置に関する動線情報を抽出して生成する。また、通過/滞留状況分析部43は、移動体(例えば人物)の滞留位置又は通過位置に関する動線情報の抽出結果を用いて、サーバ装置300の表示画像生成部350において生成される動線分析画像(ヒートマップ画像)のカラー部分の可視化画像を生成しても良い。
通過/滞留状況分析部43は、複数の撮像画像における移動体の移動情報並びに滞留情報を求めることにより、画像入力部20から出力された撮像画像のフレームの中で、移動体(例えば人物)が対象領域(例えば店舗内)の中で滞留した位置又は通過した位置に関する正確な動線情報を抽出して生成することができる。
通過/滞留分析情報蓄積部90Pは、例えば半導体メモリ又はハードディスク装置を用いて構成され、動線情報分析部40Pにより生成された移動体(例えば人物)の滞留位置又は通過位置に関する動線情報の抽出結果のデータを記憶する。これらの動線情報の抽出結果のデータには、通過/滞留分析情報蓄積部90Pの記憶容量の増大を抑制するために、通過/滞留分析情報蓄積部90Pにおける動線情報保存期間(例えば1週間)が設定されている。なお、通過/滞留分析情報蓄積部90Pに記憶される動線情報は、対象領域において検出された全ての移動体毎の滞留位置又は通過位置に関する動線情報が統合された結果であり、個々の移動体の滞留位置又は通過位置に関する動線情報ではない。
送信部60Pは、スケジュール管理部50又はイベント情報受領部70からの指示に応じて、画像入力部20により生成された撮像画像のデータと通過/滞留分析情報蓄積部90Pに保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータとを取得してサーバ装置300Pに送信する。送信部60Pにおける送信タイミングについては、図5、図6、図7及び図8と同一であるため、説明は省略する。なお、図14の複雑化を避けるために、送信部60Pと画像入力部20との間の矢印の図示は省略している。
(サーバ装置)
図14に示すサーバ装置300Pでは、図2に示すサーバ装置300からレポート生成出力部360が省かれ、受信情報解析部370Pが追加され、受信部330、受信情報蓄積部340、表示画像生成部350がそれぞれ受信部330P、受信情報/解析情報蓄積部340P、表示画像生成部350Pに置き換わっているが、その他の構成は同一である。このため、以下、図14に示すサーバ装置300Pの説明において、図2に示すサーバ装置300の各部と同一の構成には同一の符号を付して説明を簡略化又は省略し、異なる内容について説明する。
図14に示すサーバ装置300Pは、イベント情報受領部310と、通知部320と、受信部330Pと、受信情報/解析情報蓄積部340Pと、受信情報解析部370Pと、表示画像生成部350Pとを含む構成である。なお、サーバ装置300Pにおいて、レポート生成出力部360が備えられてもよい。
受信部330Pは、カメラ装置100Pの送信部60Pから送信されたデータ(即ち、画像入力部20により生成された撮像画像のデータと、通過/滞留分析情報蓄積部90Pに保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータ)を受信して受信情報/解析情報蓄積部340Pに記憶する。受信部330Pは、カメラ装置100Pの送信部60Pから送信されたデータを受信情報解析部370Pに出力してもよい。以下、受信部330Pが受信した、送信部60Pから送信されたデータを「受信データ」と称する。
受信情報/解析情報蓄積部340Pは、例えば半導体メモリ又はハードディスク装置を用いて構成され、受信データを記憶する。受信データは受信情報解析部370Pにより読み出される。また、受信情報/解析情報蓄積部340Pは、受信情報解析部370Pの解析結果(即ち、入力デバイス400からの表示内容指示に応じた受信データに対する解析結果)を記憶する。解析結果は表示画像生成部350Pにより読み出される。
受信情報解析部370Pは、例えばCPU、MPU又はDSPを用いて構成され、ユーザの操作により、入力デバイス400から特定の状況に関する動線情報を動線分析画像に表示するための表示内容指示を受けると、受信情報/解析情報蓄積部340Pから受信データを読み出す。受信情報解析部370Pは、受信データを解析して、受信データから、入力デバイス400からの表示内容指示に従う動線情報を抽出し、抽出結果である解析結果を受信情報/解析情報蓄積部340Pに記憶する。
ここで、特定の状況とは、例えば対象領域である店舗内で移動体が1分以上の滞留があるという状況、対象領域である店舗内で移動体が3分以上の滞留があるという状況、対象領域である店舗内で移動体が5分以上の滞留があるという状況、対象領域である店舗内で移動体の通過量が10名以上であるという状況である。但し、特定の状況は、これらの状況に限定されない。
表示画像生成部350Pは、例えばCPU、MPU又はDSPを用いて構成され、受信情報/解析情報蓄積部340Pから受信情報解析部370Pの解析結果と受信データに含まれる撮像画像のデータとを用いて、解析結果に対応する移動体の滞留位置又は通過位置に関する動線情報を撮像画像上に重畳した動線分析画像(ヒートマップ画像)を生成する。
表示画像生成部350Pにより生成される動線分析画像は、第1の実施形態において生成される動線分析画像とは異なり、入力デバイス400により出力された表示内容指示により、上記特定の状況に即した動線情報のみが撮像画像上に表示された画像である。つまり、動線分析画像は、カメラ装置100Pが撮像した撮像画像に、入力デバイス400を操作するユーザ(例えば店舗のマネージャ)が真に必要とする移動体の滞留又は通過の位置を示す動線情報がヒートマップのように所定のレンジ(例えば0〜255の値)の範囲内に定量的に可視化された画像である。表示画像生成部350Pは、生成した動線分析画像をモニタ450に表示する。
なお、本実施形態では、動線分析画像はカメラ装置100P,100Qにより撮像された撮像画像上に上記特定の状況に即した動線情報が重畳された画像として説明しているが、撮像画像に限定されず、例えば第1の実施形態において説明した撮像画像の背景画像上に重畳されてもよい。この場合には、カメラ装置100P,100Qには背景画像生成部30を有することになる。また、カメラ装置100P,100Qの撮像画像ではなく、撮像画像中の人物の特定が困難となるように撮像画像中の人物の輪郭のみを表示する輪郭画像上に上記特定の状況に即した動線情報が重畳されてもよい。撮像画像から輪郭画像を生成するための技術は、公知技術であり、例えば特開2015−149557号公報、特開2015−149558号公報、特開2015−149559号公報に記載されている。
図15は、滞留時間が1分以上である購買客の動線情報が重畳された動線分析画像を模式的に示した例を示す図である。図16は、滞留時間が3分以上である購買客の動線情報が重畳された動線分析画像を模式的に示した例を示す図である。図17は、滞留時間が5分以上である購買客の動線情報が重畳された動線分析画像を模式的に示した例を示す図である。
図15〜図17では、図9に示す店舗1Fの食品売場のレイアウトを例に挙げ、8台のカメラ装置(具体的には、北入口カメラC1A,C1B、レジ前カメラC2A,C2B、特売品カメラC3、肉売場カメラC4、魚売場カメラC5、野菜売場カメラC6)の画角(言い換えると、撮像の対象領域)において、店舗にいる人物(例えば購買客)がどのような位置にどのくらい滞留したのかが模式的に示されている。なお、図15〜図17では、どのような位置をどのくらいの人数が通過したのかが模式的に示されていてもよい。
なお、サーバ装置300Pの表示画像生成部350Pにより生成される動線分析画像は、図15〜図17に示す模式図とは異なり、図15〜図17に示された各種の動線情報がカメラ装置100Pの撮像画像上に重畳された画像である。また、図15〜図17では、説明を分かり易くするために、8台のカメラ装置の画角における動線情報が店舗1Fの食品売場のレイアウト上に示されているが、1台若しくは2台〜7台のカメラ装置の画角における動線情報が店舗1Fの食品売場の該当するレイアウト上に示されていてもよい。つまり、サーバ装置300Pの表示画像生成部350Pにより生成される動線分析画像(ヒートマップ画像)は、例えば1台のカメラ装置の画角内の撮像画像上にその画角内の移動体の動線情報が重畳されたものでもよいし、複数台のカメラ装置の画角内の撮像画像上にそれぞれの画角内の移動体の動線情報が重畳されたものでもよい。
図15では、店舗にいる人物が1分以上滞留した位置が動線情報SPs11,SPm11,SPv11,SPr11,SPr12,SPr13,SPr14,SPr15としてそれぞれ示されている。つまり、特売品コーナー、肉売場、魚売場、野菜売場、そして5台のレジの周囲に人物(例えば購買客)が滞留したことが示されている。従って、お惣菜コーナー、乳製品コーナーには購買客はあまり滞留しなかったことが示されるので、図15に対応する動線分析画像により、お惣菜や乳製品の商品は購買客にとって魅力的なものではなかったことが店舗側の店員(例えばマネージャ)に伝わる。
図16では、店舗にいる人物が3分以上滞留した位置が動線情報SPs31,SPm31,SPf11,SPv11,SPr31,SPr32,SPr33,SPr35としてそれぞれ示されている。つまり、特売品コーナー、肉売場、魚売場、野菜売場、そして4台のレジの周囲に人物(例えば購買客)が滞留したことが示されている。従って、特売品コーナー、肉売場、魚売場、野菜売場には購買客が3分以上滞留したことが示されるので、図16に対応する動線分析画像により、特売品コーナー、肉売場、魚売場、野菜売場の商品は購買客にとって魅力的であったことが店舗側の店員(例えばマネージャ)に伝わる。また、図16に示す5台のレジのうち最も右側のレジの左隣のレジでは購買客の3分以上の滞留が見られないことから、同動線分析画像により、そのレジを担当した店員の処理が優れていることが店舗側の店員に伝わる。
図17では、店舗にいる人物が5分以上滞留した位置が動線情報SPs51,SPf51,SPr51,SPr55としてそれぞれ示されている。つまり、特売品コーナー、魚売場、そして2台のレジの周囲に人物(例えば購買客)が滞留したことが示されている。従って、特売品コーナー、魚売場には購買客が5分以上滞留したことが示されるので、図17に対応する動線分析画像により、特売品コーナー、魚売場の商品は購買客にとって非常に魅力的であったことが店舗側の店員(例えばマネージャ)に伝わる。店舗のマネージャは、例えば魚売場においてある鮮魚を調理担当の店員に捌いてもらうために待っているために、魚売場の近辺では購買客が5分以上滞留している可能性があるという店舗特有の事情を知ることができる。また、図17に示す5台のレジのうち最も左側のレジと最も右側のレジとでは購買客の5分以上の滞留が見られることから、同動線分析画像により、その2つのレジを担当した店員の処理が遅れていて購買客に迷惑をかけていることが店舗側の店員に伝わる。
次に、本実施形態のカメラ装置100Pのループ処理(繰り返し処理)について、図18を参照して説明する。図18は、第2の実施形態のカメラ装置100Pのループ処理の動作手順の一例を説明するフローチャートである。
図18において、カメラ装置100Pは、対象領域である店舗内の既定の画角の範囲内を撮像し(S1)、撮像画像のデータを入力している(S2)。カメラ装置100Pは、ステップS3〜ステップS6において、ステップS2で得た撮像画像を用いて対象領域内を移動する移動体の対象(即ち、人物)の動線情報を分析する。
具体的には、カメラ装置100Pは、ステップS2で得た撮像画像のフレームを画像処理し、そのフレーム中に移動体の有無を検出する(S3)。
カメラ装置100Pは、ステップS3で得られた移動体に関する情報並びに移動体の検出領域に関する情報を基に、ステップS2で得られた撮像画像の複数のフレーム間の差分により、対象領域(例えば店舗内)における移動体の過去の検出領域から現在の検出領域への動線を追跡する(S4)。カメラ装置100Pは、追跡結果を動線情報(例えば移動体の検出領域の座標情報の変化量)として取得する。
カメラ装置100Pは、複数の撮像画像に対して得られた動線情報を基に、撮像画像のフレームにおける移動体の滞留位置又は通過位置に関する動線情報を抽出して生成する(S5)。これにより、カメラ装置100Pは、複数の撮像画像のフレーム分のそれぞれの特徴量情報を用いることにより、画像入力部20から出力された撮像画像のフレームの中で、移動体(例えば人物)が対象領域(例えば店舗内)の中で滞留した位置又は通過した位置に関する正確な動線情報を抽出して生成することができる。
カメラ装置100Pは、ステップS5の分析結果(つまり、移動体(例えば人物)の滞留位置又は通過位置に関する動線情報の抽出結果のデータ)を記憶する(S6)。カメラ装置100Pは、ステップS1〜ステップS6の処理をループ処理として繰り返し実行している。
次に、本実施形態のカメラ装置100Pにおける動線情報保存期間の満了時におけるカメラ装置100P及びサーバ装置300Pのループ処理(繰り返し処理)について、図19を参照して説明する。図19は、第2の実施形態のカメラ装置における動線情報保存期間の満了時におけるカメラ装置及びサーバ装置のループ処理の動作手順の一例を説明するフローチャートである。
図19において、カメラ装置100Pは、通過/滞留分析情報蓄積部90Pに記憶されている動線情報が動線情報保存期間を満了した時(S11、YES)、動線情報保存期間が満了した動線情報(つまり、通過又は滞留の分析結果)を通過/滞留分析情報蓄積部90Pから読み出して取得する(S12)。カメラ装置100Pは、サーバ装置300Pに送信するべきデータ(以下、「送信データ」とも称する)を生成し(S13)、送信データをサーバ装置300Pに送信する(S14)。送信データは、ステップS12で取得した動線情報とステップS2で取得した撮像画像のデータとが含まれる。
一方、サーバ装置300Pは、カメラ装置100Pから送信された送信データを受信し(S15)、受信データを受信情報/解析情報蓄積部340Pに記憶する(S16)。サーバ装置300Pは、動線分析画像切替画面(不図示)に対するユーザが入力デバイス400を操作したことで、入力デバイス400から表示内容指示(例えば滞留時間が3分以上の状況、又は通過量が10名を超えた状況)を受領したかどうかを判定する(S17)。入力デバイス400から表示内容指示がサーバ装置300Pにおいて受領されていない場合には(S17、NO)、図19に示す処理は終了する。
サーバ装置300Pは、入力デバイス400から表示内容指示を受領したと判定した場合には(S17、YES)、受信情報/解析情報蓄積部340Pから受信データを読み出す。サーバ装置300Pは、受信データを解析して、受信データから、入力デバイス400からの表示内容指示に従う動線情報を抽出し(S18)、抽出結果である解析結果を受信情報/解析情報蓄積部340Pに記憶する。
サーバ装置300Pは、受信情報/解析情報蓄積部340Pから解析結果と受信データに含まれる撮像画像のデータとを用いて、解析結果に対応する移動体の滞留位置又は通過位置に関する動線情報を撮像画像上に重畳した動線分析画像を生成する(S19)。サーバ装置300Pは、生成した動線分析画像をモニタ450に表示する(S20)。
次に、本実施形態のカメラ装置100Pにおける動線情報保存期間の満了時におけるカメラ装置100P及びサーバ装置300Pのループ処理(繰り返し処理)について、図20を参照して説明する。図20は、第2の実施形態の入力デバイス400からの解析データ表示指示を受領した時におけるカメラ装置100P及びサーバ装置300Pのループ処理の動作手順の一例を説明するフローチャートである。なお、図20において、図19に示す処理と同一の内容には同一の符号を付して説明を簡略化又は省略し、異なる内容について説明する。
図20において、サーバ装置300Pは、入力デバイス400から解析データ表示指示を受領する(S21)。この解析データ表示指示は、入力デバイス400を操作するユーザが動線分析画像切替画面(不図示)において上記特定の状況に対応した動線分析画像の表示を求めるための操作を行うと、入力デバイス400から出力され、サーバ装置300Pのイベント情報受領部310において受領される。サーバ装置300Pは、解析データ表示指示を受領すると、移動体の滞留又は通過に関する動線情報の分析結果を求めるための分析結果要求を、通知部320からカメラ装置100Pに送信する(S22)。
カメラ装置100Pは、サーバ装置300Pから分析結果要求を受領すると(S23)、動線情報(つまり、通過又は滞留の分析結果)を通過/滞留分析情報蓄積部90Pから読み出して取得する(S12)。ステップS12以降の処理は図19に示すステップS12以降の処理と同一であるため、説明を省略する。
(カメラ装置の別例)
図21は、第2の実施形態のカメラ装置100Q及びサーバ装置300Qのそれぞれの機能的な内部構成の第2例を詳細に示すブロック図である。図21に示すカメラ装置100Q及びサーバ装置300Qの説明では、図14に示すカメラ装置100P及びサーバ装置300Pの各部と同一の構成には同一の符号を付して説明を簡略化又は省略し、異なる内容について説明する。
図21に示すカメラ装置100Qは、撮像部10と、画像入力部20と、動線情報分析部40Qと、スケジュール管理部50と、送信部60Qと、イベント情報受領部70と、通過/滞留分析情報蓄積部90Qとを含む構成である。動線情報分析部40Qは、対象検出部41と、性別判定部44と、対象追跡部42Pと、通過/滞留状況分析部43とを含む構成である。なお、カメラ装置100Qにおいて、背景画像生成部30及び背景画像蓄積部80が備えられてもよい。
動線情報分析部40Qは、例えばCPU、MPU又はDSPを用いて構成され、所定のフレームレート(例えば10fps)で、画像入力部20から出力された撮像画像のデータ(フレーム)毎に、撮像画像に含まれる移動体(例えば購買客である人物)の滞留位置又は通過位置に関する動線情報を検出して通過/滞留分析情報蓄積部90Qに保存する。
対象検出部41は、撮像画像のフレームに含まれる移動体を検出した場合には、撮像画像のフレームに対する移動体に関する情報並びに移動体の検出領域に関する情報(例えばフレームにおける移動体の座標情報)を性別判定部44に出力する。なお、対象検出部41は、撮像画像のフレームに含まれる移動体を検出しなかった場合には、移動体の検出領域に関する情報(例えば所定のヌル情報)を性別判定部44に出力する。
性別判定部44は、対象検出部41から出力された移動体に関する情報並びに移動体の検出領域に関する情報を基に、画像入力部20から出力された撮像画像に現れた移動体の性別、年齢、年代を画像処理により判定する。画像処理により性別、年齢、年代を判定する技術は既に公知技術であり、詳細については説明を割愛する。性別判定部44における判定結果は、通過/滞留状況分析部43における動線情報の分析結果のデータとともに、通過/滞留分析情報蓄積部90Qに保存される。
通過/滞留分析情報蓄積部90Qは、例えば半導体メモリ又はハードディスク装置を用いて構成され、動線情報分析部40Qにより生成された移動体(例えば人物)の滞留位置又は通過位置に関する動線情報の抽出結果のデータを、移動体の性別、年齢或いは年代の情報と対応付けて記憶する。これらの動線情報の抽出結果のデータには、通過/滞留分析情報蓄積部90Qの記憶容量の増大を抑制するために、通過/滞留分析情報蓄積部90Qにおける動線情報保存期間(例えば1週間)が設定されている。なお、通過/滞留分析情報蓄積部90Qに記憶される動線情報は、対象領域において検出された全ての移動体毎の滞留位置又は通過位置に関する動線情報が統合された結果であり、個々の移動体の滞留位置又は通過位置に関する動線情報ではない。
送信部60Pは、スケジュール管理部50又はイベント情報受領部70からの指示に応じて、画像入力部20により生成された撮像画像のデータと通過/滞留分析情報蓄積部90Qに保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータと移動体の性別、年齢、年代の情報を取得してサーバ装置300Qに送信する。
(サーバ装置の別例)
図21に示すサーバ装置300Qは、イベント情報受領部310と、通知部320と、受信部330Pと、受信情報/解析情報蓄積部340Qと、受信情報解析部370Qと、表示画像生成部350Qとを含む構成である。なお、サーバ装置300Qにおいて、レポート生成出力部360が備えられてもよい。
受信部330Pは、カメラ装置100Qの送信部60Pから送信されたデータ(即ち、画像入力部20により生成された撮像画像のデータと、通過/滞留分析情報蓄積部90Pに保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータと移動体の性別、年齢、年代の情報)を受信して受信情報/解析情報蓄積部340Qに記憶する。受信部330Pは、カメラ装置100Qの送信部60Pから送信されたデータを受信情報解析部370Qに出力してもよい。
受信情報/解析情報蓄積部340Qは、例えば半導体メモリ又はハードディスク装置を用いて構成され、受信データを記憶する。受信データは受信情報解析部370Qにより読み出される。また、受信情報/解析情報蓄積部340Qは、受信情報解析部370Qの解析結果(即ち、入力デバイス400からの表示内容指示に応じた受信データに対する解析結果)を記憶する。解析結果は表示画像生成部350Qにより読み出される。
受信情報解析部370Qは、例えばCPU、MPU又はDSPを用いて構成され、ユーザの操作により、入力デバイス400から特定の状況に関する動線情報を動線分析画像に表示するための表示内容指示を受けると、受信情報/解析情報蓄積部340Qから受信データを読み出す。受信情報解析部370Qは、受信データを解析して、受信データから、入力デバイス400からの表示内容指示に従う動線情報と、移動体の性別、年齢或いは年代とを抽出し、抽出結果である解析結果を受信情報/解析情報蓄積部340Qに記憶する。
ここで、特定の状況とは、例えば移動体が女性であるという状況、移動体が男性であるという状況、移動体が男性の状況と女性の状況とのそれぞれの状況の足し合わせをした状況、移動体の年代が40代であるという状況、移動体の年代が60代以上であるという状況である。但し、特定の状況は、これらの状況に限定されない。
表示画像生成部350Qは、例えばCPU、MPU又はDSPを用いて構成され、受信情報/解析情報蓄積部340Qから受信情報解析部370Qの解析結果と受信データに含まれる撮像画像のデータとを用いて、解析結果に対応する移動体の滞留位置又は通過位置に関する動線情報を撮像画像上に重畳した動線分析画像(ヒートマップ画像)を生成する。
表示画像生成部350Qにより生成される動線分析画像は、第1の実施形態において生成される動線分析画像とは異なり、入力デバイス400により出力された表示内容指示により、上記特定の状況に即した動線情報のみが撮像画像上に表示された画像である。つまり、動線分析画像は、カメラ装置100Qが撮像した撮像画像に、入力デバイス400を操作するユーザ(例えば店舗のマネージャ)が真に必要とする移動体の滞留又は通過の位置を示す動線情報がヒートマップのように所定のレンジ(例えば0〜255の値)の範囲内に定量的に可視化された画像である。表示画像生成部350Qは、生成した動線分析画像をモニタ450に表示する。
図22は、女性の購買客の動線情報が重畳された動線分析画像を模式的に示した例を示す図である。図23は、男性の購買客の動線情報が重畳された動線分析画像を模式的に示した例を示す図である。図24は、男性及び女性のそれぞれの購買客の動線情報が重畳された動線分析画像を模式的に示した例を示す図である。図25は、40代の購買客の動線情報が重畳された動線分析画像を模式的に示した例を示す図である。図26は、60代以上の購買客の動線情報が重畳された動線分析画像を模式的に示した例を示す図である。
図22〜図26では、図9に示す店舗1Fの食品売場のレイアウトを例に挙げ、8台のカメラ装置(具体的には、北入口カメラC1A,C1B、レジ前カメラC2A,C2B、特売品カメラC3、肉売場カメラC4、魚売場カメラC5、野菜売場カメラC6)の画角(言い換えると、撮像の対象領域)において、店舗にいる人物(例えば購買客)がどのような性別、年齢、年代であって、どのような位置にどのくらい滞留したのかが模式的に示されている。なお、図22〜図26では、店舗にいる人物(例えば購買客)がどのような性別、年齢、年代であって、どのような位置をどのくらいの人数が通過したのかが模式的に示されていてもよい。
なお、サーバ装置300Qの表示画像生成部350Qにより生成される動線分析画像は、図22〜図26に示す図とは異なり、図22〜図26に示された各種の動線情報がカメラ装置100Qの撮像画像上に重畳されている。また、図22〜図26では、説明を分かり易くするために、8台のカメラ装置の画角における動線情報が店舗1Fの食品売場のレイアウト上に示されているが、1台若しくは2台〜7台のカメラ装置の画角における動線情報が店舗1Fの食品売場の該当するレイアウト上に示されていてもよい。つまり、サーバ装置300Qの表示画像生成部350Qにより生成される動線分析画像(ヒートマップ画像)は、例えば1台のカメラ装置の画角内の撮像画像上にその画角内の移動体の動線情報が重畳されたものでもよいし、複数台のカメラ装置の画角内の撮像画像上にそれぞれの画角内の移動体の動線情報が重畳されたものでもよい。
図22では、移動体が女性であって、店舗内の通過量が所定の閾値(例えば10)を超えた位置(言い換えると、平均的な女性の通過ルート)が動線情報FmPS1として示されている。つまり、多くの女性が、店舗内の各所(特売品コーナー、乳製品コーナー、肉売場、魚売場、野菜売場、そして5台のレジの周囲)を通過したことが示されている。従って、図22に対応する動線分析画像により、例えば主婦等の女性は店舗内の各所を歩いて商品をチェックする傾向があることが店舗側の店員(例えばマネージャ)に伝わる。なお、図22には、移動体が女性であって、女性の店舗内の滞留時間が女性用の所定の閾値(例えば5分)以上の状況を示す動線情報FmPS1が示されてもよい。この場合でも、同様に主婦等の女性は上記の女性特有の傾向があることが店舗側の店員(例えばマネージャ)に伝わる。
図23では、移動体が男性であって、店舗内の通過量が所定の閾値(例えば10)を超えた位置(言い換えると、平均的な男性の通過ルート)が動線情報MaPS1として示されている。つまり、多くの男性が、店舗内の特売品コーナーや乳製品コーナー、お惣菜コーナーをよく通過したことが示されている。従って、図23に対応する動線分析画像により、例えばサラリーマン等の男性は店舗内の特に特売品コーナーやお惣菜コーナーを歩いて商品をチェックする傾向があることが店舗側の店員(例えばマネージャ)に伝わる。なお、図23には、移動体が男性であって、男性の店舗内の滞留時間が男性用の所定の閾値(例えば3分)以上の状況を示す動線情報MaPS1が示されてもよい。この場合でも、同様にサラリーマン等の男性は上記の男性特有の傾向があることが店舗側の店員(例えばマネージャ)に伝わる。
図24では、移動体が女性である場合の動線情報FmPS1(図22参照)と移動体が男性である場合の動線情報MaPS1(図23参照)とが対比可能に示されている。従って、図24に示す動線分析画像により、男性の店舗内の通過又は滞留に関する位置と女性の店舗内の通過又は滞留に関する位置との視覚的な差異が店舗側の店員(例えばマネージャ)に伝わる。なお、図24には、移動体が男性、女性であって、男性、女性の店舗内の滞留時間が男性用の所定の閾値(例えば3分)以上、女性用の所定の閾値(例えば5分)以上の状況を示す動線情報MaPS1、FmPS1がそれぞれ示されてもよい。この場合でも、同様にサラリーマン等の男性や主婦等の女性はそれぞれの上記の男性特有の傾向、女性特有の傾向があることが店舗側の店員(例えばマネージャ)に伝わる。
図25では、移動体の人物の年代が40代であって、店舗内の通過量が所定の閾値(例えば10)を超えた位置(言い換えると、40代の人の平均的な通過ルート)が動線情報PSm40として示されている。つまり、多くの40代の人が、店舗内の各所(特売品コーナー、乳製品コーナー、肉売場、魚売場、野菜売場、そして5台のレジの周囲)を通過したことが示されている。従って、図25に対応する動線分析画像により、例えば40代の人は店舗内の各所を歩いて商品をチェックする傾向があることが店舗側の店員(例えばマネージャ)に伝わる。なお、図25には、移動体が40代の人であって、店舗内の滞留時間が40代の人用の所定の閾値(例えば5分)以上の状況を示す動線情報PSm40が示されてもよい。この場合でも、同様に40代の人は上記の40代の人特有の傾向があることが店舗側の店員(例えばマネージャ)に伝わる。
図26では、移動体の人物の年代が60代以上であって、店舗内の通過量が所定の閾値(例えば10)を超えた位置(言い換えると、60代以上の人の平均的な通過ルート)が動線情報PSm60として示されている。つまり、多くの60代以上の人が、店舗内の各所(特売品コーナー、乳製品コーナー、魚売場、野菜売場、そして5台のレジの周囲)を通過したことが示されている。従って、図26に対応する動線分析画像により、例えば60代以上の人は肉売場には興味を示さず、例えば身体に優しいとされる魚売場や野菜売場、さらには乳製品コーナーの各所を歩いて商品をチェックする傾向があることが店舗側の店員(例えばマネージャ)に伝わる。なお、図26には、移動体が60代以上の人であって、店舗内の滞留時間が60代以上の人用の所定の閾値(例えば4分)以上の状況を示す動線情報PSm60が示されてもよい。この場合でも、同様に60代以上の人は上記の60代以上の人特有の傾向があることが店舗側の店員(例えばマネージャ)に伝わる。
なお、図25や図26では、図24に示す動線情報のように、各年代の人の動線情報が対比可能な動線情報が同時に示されてもよい。
次に、本実施形態のカメラ装置100Qのループ処理(繰り返し処理)について、図27を参照して説明する。図27は、第2の実施形態のカメラ装置100Qのループ処理の動作手順の他の一例を説明するフローチャートである。なお、図27において、図18に示す処理と同一の内容には同一の符号を付して説明を簡略化又は省略し、異なる内容について説明する。
図27において、ステップS3の後、カメラ装置100Qは、ステップS3により得られた移動体に関する情報並びに移動体の検出領域に関する情報を基に、ステップS2により得られた撮像画像に現れた移動体の性別、年齢或いは年代を画像処理により判定する(S7)。ステップS7以降の処理は図18に示すステップS4以降の処理と同一であるため、説明を省略する。
なお、動線情報保存期間の満了時におけるカメラ装置100Q及びサーバ装置300Qのループ処理の動作手順は図19に示すフローチャートと同様であり、更に、入力デバイス400からの解析データ表示指示を受領した時におけるカメラ装置100Q及びサーバ装置300Qのループ処理の動作手順は図20に示すフローチャートと同様であるため、それぞれの説明は省略する。
以上により、第2の実施形態の動線分析システム500Aでは、カメラ装置100Pは、監視の対象領域を撮像し、撮像画像に含まれる移動体の滞留位置又は通過位置に関する動線情報を抽出し、撮像画像のデータと動線情報の抽出結果のデータとを所定の送信周期毎にサーバ装置300Pに送信する。サーバ装置300Pは、選定条件としての表示内容指示に応じて、動線情報の抽出結果のデータを解析し、表示内容指示により示される特定の状況に即した動線情報を抽出し、この抽出結果の動線情報を撮像画像上に重畳した動線分析画像を生成してモニタ450に表示する。
これにより、動線分析システム500Aは、対象領域に映る人物全体ではなく、真に必要な人物(例えば購買客)の種別毎の動線情報のきめ細かい分析を行うことができる。また、動線分析システム500Aは、動線情報のきめ細かい分析結果を用いることで、店舗側が真に求める動線分析画像(ヒートマップ画像)を効率的に得ることができ、店舗の売上を伸ばすための小売業界に特有なマーケティング戦略を練るための有意義な資料を店舗側に対して提示することができる。また、動線分析システム500Aによれば、店舗の店員(例えばマネージャ)は、真に必要な人物(例えば購買客)の種別毎の動線分析画像を分析することにより、店舗内の商品の配置の仕方、補充のタイミング等の重要なヒントを得ることができるので、店舗内の各店員の業務効率化を支援することができる。
また、動線分析システム500Aでは、サーバ装置300Pは、表示内容指示により、移動体の対象領域における滞留時間別の動線情報を解析して取得し、滞留時間別の動線情報を撮像画像上に重畳した動線分析画像を生成して表示する。これにより、動線分析システム500Aによれば、店舗の店員(例えばマネージャ)は、店舗内のどこの位置に購買客がどの程度の時間だけ滞留し、又はどのくらいの購買客がどこの位置を通過したのかを滞留時間別に詳細に把握することができる。また、サーバ装置300Pは、動線分析画像切替画面(不図示)における表示内容指示の切替(例えば滞留時間が1分以上から3分以上に切り替え)により、例えば滞留時間が1分以上となった状況の動線分析画像を、滞留時間が3分以上となった状況の動線分析画像に切り替えて表示することも可能である。
また、動線分析システム500Aでは、サーバ装置300Pは、入力デバイス400から表示内容指示を受けると、移動体の対象領域における滞留時間別の動線情報を解析して取得し、滞留時間別の動線情報を撮像画像上に重畳した動線分析画像を生成して表示する。これにより、動線分析システム500Aによれば、店舗の店員(例えばマネージャ)は、自己が用いる入力デバイス400の操作により、店員が知りたい動線情報として、店舗内のどこの位置に購買客がどの程度の時間だけ滞留し、又はどのくらいの購買客がどこの位置を通過したのかを滞留時間別に詳細に把握することができる。
また、動線分析システム500Aでは、サーバ装置300Qは、表示内容指示により、移動体である人物の性別毎の動線情報を解析して取得し、性別毎の動線情報を撮像画像上に重畳した動線分析画像を生成して表示する。これにより、動線分析システム500Aによれば、店舗の店員(例えばマネージャ)は、店舗内のどこの位置に男性の購買客、女性の購買客、若しくは男女の購買客がどの位置を滞留し、又はどこの位置を通過したのかを性別毎に詳細に把握することができる。また、サーバ装置300Qは、動線分析画像切替画面(不図示)における表示内容指示の切り替え(例えば男性から女性に切り替え)により、例えば男性の購買客の動線分析画像を女性の購買客の動線分析画像に切り替えて表示することも可能である。なお、サーバ装置300Qは、動線分析画像切替画面(不図示)における表示内容指示の切り替え(例えば女性から男性又は男女に切り替え)により、例えば女性の購買客の動線分析画像を男女混合の購買客の動線分析画像に切り替えて表示することも可能である。
また、動線分析システム500Aでは、サーバ装置300Qは、入力デバイス400から表示内容指示を受けると、移動体である人物の性別毎の動線情報を解析して取得し、性別毎の動線情報を撮像画像上に重畳した動線分析画像を生成して表示する。これにより、動線分析システム500Aによれば、店舗の店員(例えばマネージャ)は、自己が用いる入力デバイス400の操作により、店員が知りたい動線情報として、店舗内のどこの位置に男性の購買客、女性の購買客、若しくは男女の購買客がどの位置を滞留し、又はどこの位置を通過したのかを性別毎に詳細に把握することができる。
また、動線分析システム500Aでは、サーバ装置300Qは、表示内容指示により、移動体である人物の年齢毎又は年代毎の動線情報を解析して取得し、年齢毎又は年代毎の動線情報を撮像画像上に重畳した動線分析画像を生成して表示する。これにより、動線分析システム500Aによれば、店舗の店員(例えばマネージャ)は、店舗内のどこの位置に購買客がどの位置を滞留し、又はどこの位置を通過したのかを年齢毎又は年代毎に詳細に把握することができる。また、サーバ装置300Qは、動線分析画像切替画面(不図示)における表示内容指示の切り替え(例えば40代から60代以上に切り替え)により、例えば40代の購買客の動線分析画像を60代以上の購買客の動線分析画像に切り替えて表示することも可能である。なお、サーバ装置300Qは、動線分析画像切替画面(不図示)における表示内容指示の切り替え(例えば60代以上から40代に切り替え)により、例えば60代以上の購買客の動線分析画像を40代の購買客の動線分析画像に切り替えて表示することも可能である。
また、動線分析システム500Aでは、サーバ装置300Qは、入力デバイス400から表示内容指示を受けると、移動体である人物の年齢毎又は年代毎の動線情報を解析して取得し、年齢毎又は年代毎の動線情報を撮像画像上に重畳した動線分析画像を生成して表示する。これにより、動線分析システム500Aによれば、店舗の店員(例えばマネージャ)は、自己が用いる入力デバイス400の操作により、店員が知りたい動線情報として、購買客が店舗内のどこの位置に滞留し、又はどこの位置を通過したのかを年齢毎又は年代毎に詳細に把握することができる。
また、動線分析システム500Aでは、サーバ装置300Qは、表示内容指示により、移動体の対象領域の通過量毎の動線情報を解析して取得し、通過量毎の動線情報を撮像画像上に重畳した動線分析画像を生成して表示する。これにより、動線分析システム500Aによれば、店舗の店員(例えばマネージャ)は、店舗内のどこの位置にどのくらいの購買客が通過したのかを通過量別に詳細に把握することができる。
また、動線分析システム500Aでは、サーバ装置300Qは、入力デバイス400から表示内容指示を受けると、移動体の対象領域の通過量毎の動線情報を解析して取得し、通過量毎の動線情報を撮像画像上に重畳した動線分析画像を生成して表示する。これにより、動線分析システム500Aによれば、店舗の店員(例えばマネージャ)は、自己が用いる入力デバイス400の操作により、店員が知りたい動線情報として、どのくらいの購買客が店舗内のどの位置を通過したのかを通過量毎に詳細に把握することができる。
また、動線分析システム500Aでは、サーバ装置300Qは、表示内容指示により、移動体の対象領域の特定位置(例えば特売品コーナー)の通過の有無毎の動線情報を解析して取得し、特定位置の通過の有無毎の動線情報を撮像画像上に重畳した動線分析画像を生成して表示する。これにより、動線分析システム500Aによれば、店舗の店員(例えばマネージャ)は、店舗内の特定位置(例えば特売品コーナー)を通過した購買客がどのくらいいるのかを詳細に把握することができる。
また、動線分析システム500Aでは、サーバ装置300Qは、入力デバイス400から表示内容指示を受けると、移動体の対象領域の特定位置(例えば特売品コーナー)の通過の有無毎の動線情報を解析して取得し、特定位置の通過の有無毎の動線情報を撮像画像上に重畳した動線分析画像を生成して表示する。これにより、動線分析システム500Aによれば、店舗の店員(例えばマネージャ)は、自己が用いる入力デバイス400の操作により、店員が知りたい動線情報として、店舗内の特定位置(例えば特売品コーナー)を通過した購買客がどのくらいいるのかを詳細に把握することができる。
以上、図面を参照しながら各種の実施形態について説明したが、本発明はかかる例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例又は修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
なお、上述した各実施形態では、移動体の例として店舗内を移動する人物(例えば購買客)を挙げたが、人物に限定されない。例えば車両やロボットが移動体でもよい。移動体が人物である場合には、店舗で購買客(来店客)や店員の動線情報が解析される。移動体が車両である場合には、例えば駐車場や道路において車両の動線情報が解析され、駐車場の混雑状況や渋滞等の混雑状況が動線分析画像として示されてもよい。移動体がロボットである場合には、店舗内を巡回して商品の陳列棚の状況を監視して店舗側のサーバに通知するためのロボットが近年知られているが、このようなロボットの巡回状況が動線分析画像として示されてもよい。
また、受信情報解析部370P,370Qは、入力デバイス400から表示内容指示を受領したことを契機として、受信情報/解析情報蓄積部340P,340Qから受信データを読み出して解析を行うと説明した。しかし、受信情報解析部370P,370Qは、入力デバイス400から表示内容指示を受領しなくても、予め既定された定期的な周期で受信データの解析(つまり、移動体の動線情報の傾向分析)の処理を繰り返し行い、その解析結果を受信情報/解析情報蓄積部340Qに記憶してもよい。この場合には、表示画像生成部350P,350Qは、受信情報/解析情報蓄積部340Qに記憶された解析結果を用いて動線分析画像を生成することができる。即ち、入力デバイス400を操作するユーザからの明示的な操作がなくても、サーバ装置300P,300Qは、動線分析画像を生成してもよい。
また、受信データの解析の処理はサーバ装置300P,300Qで行われると説明したが、カメラ装置100P,100Qの動線情報分析部40P,40Qの通過/滞留状況分析部43で行われてもよい。つまり、入力デバイス400からの表示内容指示は、入力デバイス400から、サーバ装置300P,300Qを介して若しくは直接にカメラ装置100P,100Qに送信される。この場合には、通過/滞留分析情報蓄積部90P,90Qには、通過/滞留状況分析部43における解析結果が記憶される。送信部60Pは、通過/滞留状況分析部43における解析結果も送信データに含めてサーバ装置300P,300Qに送信する。サーバ装置300P,300Qは、受信データを用いて動線分析画像を生成する。これにより、サーバ装置300P,300Qにおいて受信情報解析部370P,370Qを省くことが可能となるので、処理負荷が軽減される。
また、上述した第2の実施形態において、サーバ装置300P,300Qは、店舗内の移動体を店員と購買客(来店客)とに分離して、店員用の動線分析画像、購買客用の動線分析画像をそれぞれ生成してモニタ450に表示してもよい。この場合、カメラ装置100P,100Qは、動線情報分析部40P,40Qの対象検出部41において移動体が店員であるのか、購買客であるのかを判定し、店員毎、購買客毎のそれぞれの動線情報の分析結果を通過/滞留分析情報蓄積部90P,90Qに記憶する。対象検出部41が店員、購買客であると判定する方法としては、例えば店員は店舗に共通の制服を着用している場合には、画像処理によって店員は簡易に識別可能となり、店員以外の人物を購買客と判定すればよい。また、対象検出部41は、購買客が店舗内で所持する籠やカートに位置情報を送信するための無線タグが設けられている場合に、無線タグからの信号をカメラ装置100P,100Qで受信してその信号を解析することで、購買客の位置情報を取得してもよい。
また、上述した第2の実施形態において、必ずしもカメラ装置100P,100Qの中で、店員又は購買客の判定、移動体の年齢或いは年代又は性別の判定を行わなくてもよい。例えばカメラ装置100P,100Qとは別のカメラ装置(不図示)を設置し、そのカメラ装置又はそのカメラ装置の画像を受信して解析を行うサーバ装置(不図示)において移動体が店員であるのか購買客であるのかの判定を行い、その結果をカメラ装置100P,100Q又はサーバ装置300P、300Qに送信して、カメラ装置100P,100Qでの解析結果と紐付けて管理してもよい。同様に、カメラ装置100P,100Qとは別のカメラ装置(不図示)を設置し、そのカメラ装置又はそのカメラ装置の画像を受信して解析を行うサーバ装置(不図示)において移動体の年齢或いは年代又は性別の判定を行い、その結果をカメラ装置100P,100Q又はサーバ装置300P、300Qに送信して、カメラ装置100P,100Qでの解析結果と紐付けて管理してもよい。
また、上述した第2の実施形態において、カメラ装置100Qは、移動体の性別、年齢、年代に加えて店舗内の滞在時間毎に、動線情報を抽出してもよい。この場合、カメラ装置100Qは、動線情報分析部40Qにおいて移動体の滞在時間を計測し、滞在時間の計測結果も通過/滞留分析情報蓄積部90Qに記憶する。これにより、サーバ装置300Qは、移動体の性別、年齢、年代に加えて店舗内の滞在時間毎の動線分析画像を生成してモニタ450に表示することで、店舗の店員に対し、例えば1時間店舗に滞在している人と5分で退店する人との違いを把握させることができる。
また、上述した第2の実施形態において、入力デバイス400から出力される表示内容指示には、店舗内の指定エリアの通過の有無(例えばレジを通過したか又は通過していないか)、指定行動(例えば購買客が籠を持っているのか、カートを押しているのか、何も持っていないのか)、外的条件(例えば天気)が含まれてもよい。これらの表示内容指示に対応するように、サーバ装置300P,300Qは、受信情報/解析情報蓄積部340P,340Qから読み出した動線情報を解析し、その解析結果を撮像画像上に重畳した動線分析画像を生成してモニタ450に表示してもよい。これにより、店舗の店員(例えばマネージャ)は、入力デバイス400を操作することで、上述した指定エリアの通過有無毎、指定行動毎、若しくは外的条件毎の自己が知りたい購買客の動向を捉えた動線分析画像を視覚的に確認することができるので、商品の配置レイアウト等を綿密に検討することができる。
なお、モニタ450に表示された動線分析画像が含まれる運用画面(例えば図10、図11参照)において、入力デバイス400を使用するユーザ(例えば店舗の店員)の操作により、動線分析画像上の滞留位置がクリック等で指定された場合、サーバ装置300P,300Qは、指定された滞留位置の詳細情報をモニタ450上に表示してもよい。詳細情報は、例えばその滞留位置に滞留した移動体の性別、年齢、年代、滞留時間等が含まれる。これにより、店舗の店員は、カメラ装置100P,100Qの撮像の対象領域全体の動線分析画像では動線情報の詳細が分かりづらくても、入力デバイス400の簡単な指定操作により、指定された滞留位置又は通過位置における移動体の詳細情報を確認することができ、マーケティング戦略の検討に資する情報を得ることができる。
なお、図15〜図17では、サーバ装置300Pにより、移動体の滞留時間別に動線情報が色分けされて表示されてもよい。また、図22〜図26では、サーバ装置300Qにより、移動体の性別、年齢、年代毎に動線情報が色分けされて表示されてもよい。
本発明は、対象領域に映る人物全体ではなく真に必要な購買客の種別毎の動線情報のきめ細かい分析を行い、店舗側が真に求める動線分析画像を効率的に得る動線分析システム及び動線分析方法として有用である。
10 撮像部
20 画像入力部
30 背景画像生成部
31 入力画像学習部
32 移動体分離部
33 背景画像抽出部
40、40P 動線情報分析部
41 対象検出部
42 動線情報取得部
42P 対象追跡部
43 通過/滞留状況分析部
44 性別判定部
50 スケジュール管理部
60、60P 送信部
70 イベント情報受領部
80 背景画像蓄積部
90、90P、90Q 通過/滞留分析情報蓄積部
100、100A、100N、100P、100Q、100S カメラ装置
200 レコーダ
300、300P、300Q、600 サーバ装置
310 イベント情報受領部
320 通知部
330、330P 受信部
340 受信情報蓄積部
340P、340Q 受信情報/解析情報蓄積部
350、350P 表示画像生成部
360 レポート生成出力部
370P 受信情報解析部
400 入力デバイス
450 モニタ
500A、500B、500C 動線分析システム

Claims (2)

  1. カメラ装置とサーバ装置とが相互に接続された動線分析システムであって、
    前記カメラ装置は、
    対象領域を撮像し、
    前記対象領域の撮像画像に基づいて、移動体の性別又は年代を画像処理により判別し、
    判別された性別又は年代に関する第1の情報を前記移動体に付与して、前記移動体の滞留位置又は通過位置に関する動線情報を抽出し
    記対象領域の撮像画像と前記動線情報とを前記サーバ装置に送信し、
    前記サーバ装置は、
    入力デバイスから前記第1の情報が入力された場合には、前記カメラ装置から送信された前記動線情報を用いて前記第1の情報を満たす動線情報を、前記カメラ装置から送信された前記撮像画像に重畳した第1の動線分析画像を生成し、
    入力デバイスから滞留時間又は通過量を特定する第2の情報が入力された場合には、前記カメラ装置から送信された前記動線情報を用いて前記第2の情報を満たす動線情報を、前記カメラ装置から送信された前記撮像画像に重畳した第2の動線分析画像を生成し、
    前記サーバ装置に接続されるモニタに前記第1の動線分析画像又は前記第2の動線分析画像を表示する、
    動線分析システム。
  2. カメラ装置とサーバ装置とが相互に接続された動線分析システムにおける動線分析方法であって、
    前記カメラ装置
    対象領域を撮像し、
    前記対象領域の撮像画像に基づいて、移動体の性別あるいは年代を画像処理により判別し、
    判別された性別又は年代に関する第1の情報を移動体に付与して、前記移動体の滞留位置又は通過位置に関する動線情報を抽出し
    記対象領域の撮像画像と前記動線情報とを前記サーバ装置に送信し、
    前記サーバ装置は、
    入力デバイスから前記第1の情報が入力された場合には、前記カメラ装置から送信された前記動線情報を用いて前記第1の情報を満たす動線情報を、前記カメラ装置から送信された前記撮像画像に重畳した第1の動線分析画像を生成し、
    入力デバイスから滞留時間あるいは通過量を特定する第2の情報が入力された場合には、前記カメラ装置から送信された前記動線情報を用いて前記第2の情報を満たす動線情報を、前記カメラ装置から送信された前記撮像画像に重畳した第2の動線分析画像を生成し、
    前記サーバ装置に接続されるモニタに前記第1の動線分析画像又は前記第2の動線分析画像を表示する、
    動線分析方法。
JP2016001331A 2016-01-06 2016-01-06 動線分析システム及び動線分析方法 Active JP6688611B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016001331A JP6688611B2 (ja) 2016-01-06 2016-01-06 動線分析システム及び動線分析方法
US15/391,205 US20170193309A1 (en) 2016-01-06 2016-12-27 Moving information analyzing system and moving information analyzing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016001331A JP6688611B2 (ja) 2016-01-06 2016-01-06 動線分析システム及び動線分析方法

Publications (2)

Publication Number Publication Date
JP2017123024A JP2017123024A (ja) 2017-07-13
JP6688611B2 true JP6688611B2 (ja) 2020-04-28

Family

ID=59306593

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016001331A Active JP6688611B2 (ja) 2016-01-06 2016-01-06 動線分析システム及び動線分析方法

Country Status (1)

Country Link
JP (1) JP6688611B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109697499B (zh) 2017-10-24 2021-09-07 北京京东尚科信息技术有限公司 行人流量漏斗生成方法及装置、存储介质、电子设备
KR102077630B1 (ko) * 2017-11-17 2020-04-02 주식회사 아이티빌리지 Pos 및 영상 기반의 상권 분석 시스템 및 방법
JP7060786B2 (ja) * 2017-12-26 2022-04-27 キヤノンマーケティングジャパン株式会社 情報処理装置、及びその制御方法、プログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8438175B2 (en) * 2010-03-17 2013-05-07 Lighthaus Logic Inc. Systems, methods and articles for video analysis reporting
JP2014067225A (ja) * 2012-09-26 2014-04-17 Dainippon Printing Co Ltd 行動傾向提示装置、行動傾向提示方法、行動傾向提示プログラム、及び、行動傾向提示システム
US20170011410A1 (en) * 2014-02-25 2017-01-12 Nec Corporation Information-processing device, data analysis method, and recording medium
JP5597781B1 (ja) * 2014-03-26 2014-10-01 パナソニック株式会社 滞留状況分析装置、滞留状況分析システムおよび滞留状況分析方法
JP5838371B1 (ja) * 2014-06-30 2016-01-06 パナソニックIpマネジメント株式会社 動線分析システム、カメラ装置及び動線分析方法

Also Published As

Publication number Publication date
JP2017123024A (ja) 2017-07-13

Similar Documents

Publication Publication Date Title
JP5838371B1 (ja) 動線分析システム、カメラ装置及び動線分析方法
JP6558579B2 (ja) 動線分析システム及び動線分析方法
JP5915960B1 (ja) 動線分析システム及び動線分析方法
US20170193309A1 (en) Moving information analyzing system and moving information analyzing method
US10546199B2 (en) Person counting area setting method, person counting area setting program, moving line analysis system, camera device, and person counting program
JP6688611B2 (ja) 動線分析システム及び動線分析方法
JP2017123026A (ja) 動線分析システム及び動線分析方法
JP5909711B1 (ja) 動線分析システム及び動線表示方法
JP6226308B1 (ja) 動線分析システム及び動線分析方法
WO2016194275A1 (ja) 動線分析システム、カメラ装置及び動線分析方法
JP6485707B2 (ja) 動線分析システム及び動線分析方法
JP5909710B1 (ja) 動線分析システム、カメラ装置及び動線分析方法
JP6226309B1 (ja) 動線分析システム及び動線分析方法
JP6439934B2 (ja) 動線分析システム、カメラ装置、動線分析方法及びプログラム
JP5909709B1 (ja) 動線分析システム、カメラ装置及び動線分析方法
JP6421936B2 (ja) 動線分析システム及び動線分析方法
JP5909712B1 (ja) 動線分析システム、カメラ装置及び動線分析方法
JP6421937B2 (ja) 動線分析システム及び動線分析方法
JP5909708B1 (ja) 動線分析システム、カメラ装置及び動線分析方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181207

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20190731

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191025

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191105

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191204

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20191205

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200324

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200406

R150 Certificate of patent or registration of utility model

Ref document number: 6688611

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250