JP2019193089A - 映像解析装置 - Google Patents
映像解析装置 Download PDFInfo
- Publication number
- JP2019193089A JP2019193089A JP2018083452A JP2018083452A JP2019193089A JP 2019193089 A JP2019193089 A JP 2019193089A JP 2018083452 A JP2018083452 A JP 2018083452A JP 2018083452 A JP2018083452 A JP 2018083452A JP 2019193089 A JP2019193089 A JP 2019193089A
- Authority
- JP
- Japan
- Prior art keywords
- video
- camera
- processor
- monitored
- action
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/183—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/41—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/44—Event detection
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
- Cash Registers Or Receiving Machines (AREA)
- Closed-Circuit Television Systems (AREA)
- Burglar Alarm Systems (AREA)
Abstract
【課題】 運用に即した設定で映像による監視を適切に行うことができる映像解析装置を提供する。【解決手段】 実施形態によれば、映像解析装置は、映像インターフェースとプロセッサと通信インターフェースとを有する。映像インターフェースは、カメラが撮影した映像を入力する。プロセッサは、前記インターフェースが入力する映像における人物の行動を解析し、前記映像から監視対象とする行動を検出した場合に前記監視対象とする行動が検出された映像を含む映像部分を設定された切出し範囲で切り出して動画クリップを生成する。通信インターフェースは、前記プロセッサが生成した動画クリップを外部デバイスへ送信する。【選択図】図2
Description
本発明の実施形態は、映像解析装置に関する。
近年、店舗などでは、人手不足の影響などにより利用者自身の操作に応じてサービスを提供するシステムを導入することが多くなってきている。例えば、スーパーマーケットなどの小売店では、利用者の操作によって商品の会計処理を行うセルフPOSを導入する店が増加している。セルフPOSは、利用者自身の操作で商品の登録作業から精算までの処理を実施するため、不正が発生しやすい面がある。従来のセルフPOSでは、商品の重量に基づいて簡易的に不正を検知する「重量チェック」と呼ばれる仕組みを有するものがあるが、重量チェックでは検知できない不正がある。重量チェックでは検知できない不正に対処するため、カメラが撮影する映像によってセルフPOSでの不正を監視することが考えられる。
しかしながら、従来の映像監視システムは、セルフPOS等を設置した店舗においてカメラが撮影する映像から不正を検知するシステムとしては実用上十分でない。例えば、カメラが撮影する映像を人が常時チェックする方法は、映像を監視する人手を要することとなるため現実的ではない。また、コンピュータによる映像解析で不正検知を行う方法は、不正検知の精度が実用上十分なレベルには達していない。さらに言えば、コンピュータによる映像解析では、機械学習の性質上、不正検知の精度を100%にすることが困難である。不正検知の精度が100%でなければ、不正を見逃すことがあるし、逆に不正をしていない人物を不正と判定してしまうことがあり得るという問題がある。
本発明は、上記した課題を解決するために、運用に即した設定で映像による監視を適切に行うことができる映像解析装置を提供することを目的とする。
実施形態によれば、映像解析装置は、映像インターフェースとプロセッサと通信インターフェースとを有する。映像インターフェースは、カメラが撮影した映像を入力する。プロセッサは、前記インターフェースが入力する映像における人物の行動を解析し、前記映像から監視対象とする行動を検出した場合に前記監視対象とする行動が検出された映像を含む映像部分を設定された切出し範囲で切り出して動画クリップを生成する。通信インターフェースは、前記プロセッサが生成した動画クリップを外部デバイスへ送信する。
以下、本実施形態について、図面を参照しながら説明する。
本実施形態の映像監視システムは、例えば、スーパーマーケットなどの店舗において映像によって人物の行動などを監視するシステムである。本実施形態において、映像監視システムは、セルフPOSなどを含むチェックアウトシステムが設置される店舗において映像による監視を行うものとする。また、本実施形態に係る映像監視システムは、チェックアウトシステムと組み合わせて構成されるものとする。
本実施形態の映像監視システムは、例えば、スーパーマーケットなどの店舗において映像によって人物の行動などを監視するシステムである。本実施形態において、映像監視システムは、セルフPOSなどを含むチェックアウトシステムが設置される店舗において映像による監視を行うものとする。また、本実施形態に係る映像監視システムは、チェックアウトシステムと組み合わせて構成されるものとする。
図1は、実施形態に係る映像監視システムの構成例を模式的に示す図である。 図1に示す例では、店舗に映像監視システムを設置した場合の例を示している。
映像監視システムは、サーバ1、POS2、カメラ3、監視カメラ4および監視端末5などを含むシステムである。
サーバ1は、映像監視システムにおける映像解析装置である。本実施形態においては、サーバ1は、セルフPOS2を含むチェックアウトシステムにおけるストアコンピュータ(店舗サーバ)としての機能を有するものとする。例えば、サーバ1は、チェックアウトシステムのストアコンピュータに映像解析装置として機能するためのソフトウエアをインストールすることで実現しても良い。ただし、映像解析装置とストアコンピュータとは、それぞれ別のサーバで構成するようにしても良い。
映像監視システムは、サーバ1、POS2、カメラ3、監視カメラ4および監視端末5などを含むシステムである。
サーバ1は、映像監視システムにおける映像解析装置である。本実施形態においては、サーバ1は、セルフPOS2を含むチェックアウトシステムにおけるストアコンピュータ(店舗サーバ)としての機能を有するものとする。例えば、サーバ1は、チェックアウトシステムのストアコンピュータに映像解析装置として機能するためのソフトウエアをインストールすることで実現しても良い。ただし、映像解析装置とストアコンピュータとは、それぞれ別のサーバで構成するようにしても良い。
映像解析装置としてのサーバ1は、監視カメラ4あるいはカメラ3が撮影する映像によって人物の行動を監視する機能を有する。映像解析装置としてのサーバ1は、監視カメラ4あるいはカメラ3が撮影する映像から監視対象とすべき映像部分を抽出し、抽出した映像を監視端末5へ供給する。ストアコンピュータとしてのサーバ1は、チェックアウトシステムにおける各種の情報を管理する機能を有する。また、サーバ1は、各装置で通信接続するものであればどこに設置しても良く、店舗内に設置しても良いし、店舗外に設置しても良い。
セルフPOS2は、利用者自身の操作によって商品の代金を決済するための決済端末である。セルフPOS2は、利用者自身の操作に応じて購入する各商品から商品特定情報を読み取り、読取った商品特定情報に基づく商品代金を決済する会計処理を行う。セルフPOS2は、それぞれカメラ3に接続され、サーバ1との通信機能を有する。
カメラ3は、各セルフPOS2に設置される。カメラ3は、セルフPOS2が具備するものとして構成しても良いし、セルフPOS2とは別の機器としてセルフPOS2の近傍に設置するものであっても良い。カメラ3は、セルフPOS2を操作する利用者などを撮影するように設置される。
監視カメラ4は、店舗内を撮影するためのカメラである。監視カメラ4は、店舗内の天井、壁、商品棚などに設置される。監視カメラ4は、複数台で店舗内の全体を撮影できるように設置される。各監視カメラ4は、サーバ1と接続する機能を有し、撮影した映像をサーバ1へ送信する。
監視端末5は、店舗内の人物を監視員または管理者が監視するための装置である。例えば、監視端末5は、セルフPOSを設置したエリアに常駐するアテンダントが管理する端末であっても良いし、店舗のセキュリティー担当者が管理する端末などであっても良い。監視端末5は、映像解析装置としてのサーバ1から送信される映像データ(動画クリップ)を受信し、受信した動画クリップを人物監視用の映像(監視映像)として表示する。監視端末5は、固定の位置に設置した装置であっても良いし、店員、警備員あるいは管理者などの監視者が所持する携帯型の電子装置であっても良い。例えば、監視端末5は、監視員や管理者が常駐する場所に設置したPCであっても良いし、監視員や管理者が携帯するタブレットPCやスマートフォン等の端末であっても良い。
次に、実施形態に係る映像監視システムの制御系の構成について説明する。
図2は、実施形態に係る映像監視システムにおけるサーバ1、セルフPOS2および監視端末5の制御系の構成例を示すブロック図である。
サーバ1は、プロセッサ11、メモリ12、通信部13、カメラI/F14.I/F15、記憶部16および映像記録装置17を有する。
プロセッサ11は、プログラムを実行することにより種々の処理機能を実現する。メモリ12は、ROMなどのプログラムメモリ、RAMなどのワーキングメモリなどを含む。プロセッサ11は、メモリ12が記憶するプログラムを実行することにより種々の処理機能を実現する。
図2は、実施形態に係る映像監視システムにおけるサーバ1、セルフPOS2および監視端末5の制御系の構成例を示すブロック図である。
サーバ1は、プロセッサ11、メモリ12、通信部13、カメラI/F14.I/F15、記憶部16および映像記録装置17を有する。
プロセッサ11は、プログラムを実行することにより種々の処理機能を実現する。メモリ12は、ROMなどのプログラムメモリ、RAMなどのワーキングメモリなどを含む。プロセッサ11は、メモリ12が記憶するプログラムを実行することにより種々の処理機能を実現する。
通信部13は、監視端末5と通信するためのインターフェースである。通信部13は、監視端末5へ監視映像としての動画クリップを送信するための通信インターフェースである。例えば、通信部13は、ネットワークを介して監視端末5と通信するためのネットワークインターフェースである。また、通信部13は、店外の広域ネットワークを介して監視端末5に通信するものであっても良い。
カメラI/F14は、各監視カメラ4と通信するためのインターフェースである。カメラI/F14は、各監視カメラ4から映像を入力する映像インターフェースである。カメラI/F14は、専用ケーブルを介して監視カメラ4と接続するインターフェースであっても良い。また、カメラI/F14は、無線通信を介して監視カメラ4と接続するインターフェースであっても良い。また、カメラI/F14は、監視カメラ4が接続された店内のローカルエリアネットワーク(LAN)に接続するLANインターフェースであっても良い。なお、カメラI/F14には、カメラ3が接続される構成としても良い。
I/F15は、店内のセルフPOS2と通信するためのインターフェースである。I/F15は、セルフPOS2に設けたカメラ3から映像を入力する映像インターフェースとして機能する。例えば、I/F15は、店内のLANを介して各セルフPOS2と通信接続するためのLANインターフェースであっても良い。
記憶部16は、書き換え可能な不揮発性メモリである。例えば、記憶部16は、HDDあるいはSSDなどの記憶装置で構成する。記憶部16は、ストアコンピュータおよび映像記憶装置として機能とするためのプログラムおよび管理データなどを記憶する。例えば、記憶部16は、後述する映像解析装置としての動作するためのプログラムを記憶する。また、記憶部16、ストアコンピュータとしての機能するための商品情報などを記憶するようにしても良い。
映像記録装置17は、監視カメラ4またはカメラ3が撮影した映像を記録する大容量の不揮発性メモリである。映像記録装置17は、HDDあるいはSSDなどの書き換え可能な不揮発性の記憶装置で構成する。
例えば、映像記録装置17は、カメラI/F14により取得する各監視カメラ4が撮影する映像を撮影時間などの情報とともに常時記憶する。また、映像記録装置17は、セルフPOS2に設置するカメラ3が撮影した映像も撮影時間などの情報とともに常時記憶するものとする。また、プロセッサ11は、映像記録装置17が記憶する映像に適宜アクセスして人物検知および行動検知などを行う。プロセッサ11は、人物検知および行動検知などの結果に応じて映像記録装置17から所望の期間の映像データを抽出する。
なお、映像記録装置17は、外部の記憶装置で構成しても良い。例えば、映像記録装置17は、サーバ1に外付けした記憶装置としても良いし、サーバ1と通信接続する別のサーバ装置であっても良い。映像記録装置17を外部の記憶装置とする場合、サーバ1は、映像記録装置17としての外部の記憶装置と通信するためのインターフェースを具備するものとすれば良い。
次に、セルフPOS2における制御系の構成例について説明する。
図2に示す構成例において、セルフPOS2は、プロセッサ21、メモリ22、I/F23、カメラI/F24、操作部25、表示部26、商品識別部27および決済部28を有する。
プロセッサ21は、プログラムを実行することにより種々の処理機能を実現する。メモリ22は、ROMなどのプログラムメモリ、RAMなどのワーキングメモリなどを含む。プロセッサ21は、メモリ22が記憶するプログラムを実行することにより種々の処理機能を実現する。例えば、プロセッサ21は、決済部28を用いて購入代金を決済する決済処理を行う機能を有する。また、プロセッサ21は、サーバ1の動作として後述する映像解析装置としての動作を実現するようにしても良い
図2に示す構成例において、セルフPOS2は、プロセッサ21、メモリ22、I/F23、カメラI/F24、操作部25、表示部26、商品識別部27および決済部28を有する。
プロセッサ21は、プログラムを実行することにより種々の処理機能を実現する。メモリ22は、ROMなどのプログラムメモリ、RAMなどのワーキングメモリなどを含む。プロセッサ21は、メモリ22が記憶するプログラムを実行することにより種々の処理機能を実現する。例えば、プロセッサ21は、決済部28を用いて購入代金を決済する決済処理を行う機能を有する。また、プロセッサ21は、サーバ1の動作として後述する映像解析装置としての動作を実現するようにしても良い
I/F23は、サーバ1と通信接続するためのインターフェースである。I/F23は、例えば、店内に設置されたLANを介してサーバ1に通信接続するためのLANインターフェースで実現できる。なお、セルフPOS2を映像監視装置として機能させる場合、I/F23は、監視端末5と通信する通信インターフェースとして良い。
カメラI/F24は、カメラ3と接続するためのインターフェースである。カメラI/F24は、たとえば、専用ケーブルあるいは無線通信を介してカメラ3と接続するインターフェースで実現できる。また、カメラI/F24は、カメラ3が接続されたLANに接続するLANインターフェースであっても良い。なお、セルフPOS2を映像監視装置として機能させる場合、カメラI/F24は、カメラ3から映像を入力する映像インターフェースとして機能する。
操作部25は、商品登録処理および決済処理に係る操作を入力する操作装置である。操作部25は、利用者が操作する入力デバイスである。表示部26は、情報を表示する表示装置である。表示部26は、商品登録処理および決済処理を行う利用者に対して案内などを表示する。たとえば、表示部26は、商品特定情報を読み取った商品(登録した商品)に関する商品名などの情報や決済金額などを表示する。操作部25および表示部26は、タッチパネル付きの表示装置により構成しても良い。
商品識別部27は、商品から商品特定情報を読み取る。商品識別部27は、読取った商品特定情報に基づいて決済する商品を識別する。商品識別部27は、例えば、商品特定情報としてのバーコードを読取るスキャナで構成する。
決済部28は、商品の購入金額(決済金額)を決済する。決済部28は、例えば、キャッシャー(現金処理機)、カード処理装置などを含む。
決済部28は、商品の購入金額(決済金額)を決済する。決済部28は、例えば、キャッシャー(現金処理機)、カード処理装置などを含む。
次に、監視端末5における制御系の構成について説明する。
図2に示す構成例において、監視端末5は、プロセッサ51、メモリ52、通信部53、記憶部54、表示部55、および、操作部56を有する。
プロセッサ51は、プログラムを実行することにより種々の処理機能を実現する。メモリ52は、ROMなどのプログラムメモリ、RAMなどのワーキングメモリなどを含む。プロセッサ51は、メモリ52が記憶するプログラムを実行することにより種々の処理機能を実現する。
図2に示す構成例において、監視端末5は、プロセッサ51、メモリ52、通信部53、記憶部54、表示部55、および、操作部56を有する。
プロセッサ51は、プログラムを実行することにより種々の処理機能を実現する。メモリ52は、ROMなどのプログラムメモリ、RAMなどのワーキングメモリなどを含む。プロセッサ51は、メモリ52が記憶するプログラムを実行することにより種々の処理機能を実現する。
通信部53は、サーバ1と通信するためのインターフェースである。例えば、通信部53は、ネットワークを介してサーバ1と接続するネットワークインターフェースである。また、通信部53は、店舗外の広域ネットワークを介してサーバ1と通信するものであっても良い。
記憶部54は、書換え可能な不揮発性メモリである。例えば、記憶部54は、ハードディスクドライブ(HDD)あるいはソリッドステートドライブ(SSD)などの記憶装置で構成する。記憶部54は、サーバ1から供給される動画クリップなどを記憶する。また、記憶部54は、プロセッサ51が実行するプログラムなどがインストールされるようにしても良い。
表示部55は、情報を表示する表示装置である。例えば、表示部55は、映像解析装置としてのサーバ1が生成する動画クリップに基づく監視映像を表示する。操作部56は、店員、警備員あるいは管理者などの監視者が操作を入力する操作装置である。操作部56は、タッチパネルやキーボードなどの入力デバイスである。例えば、表示部55および操作部56は、タッチパネル付きの表示装置により構成される。
次に、本実施形態に係る映像監視システムの動作について説明する。
図3は、本実施形態に係る映像解析装置としてのサーバ1の動作例を説明するためのフローチャートである。
サーバ1は、カメラI/F14により監視カメラ4が撮影する映像を受信する(ACT11)。サーバ1において、映像記録装置17は、カメラI/F14によって受信した監視カメラ4が撮影する映像を撮影日時などの情報とともに記憶する(ACT12)。また、サーバ1は、I/F15によりカメラ3が撮影する映像を各セルフPOS2から受信する(ACT11)。映像記録装置17は、I/F15によって受信したカメラ3が撮影する映像も撮影日時などの情報とともに記憶する(ACT12)。サーバ1は、カメラ3および監視カメラ4からの映像についてACT11および12の処理を常時継続的に実行する。
図3は、本実施形態に係る映像解析装置としてのサーバ1の動作例を説明するためのフローチャートである。
サーバ1は、カメラI/F14により監視カメラ4が撮影する映像を受信する(ACT11)。サーバ1において、映像記録装置17は、カメラI/F14によって受信した監視カメラ4が撮影する映像を撮影日時などの情報とともに記憶する(ACT12)。また、サーバ1は、I/F15によりカメラ3が撮影する映像を各セルフPOS2から受信する(ACT11)。映像記録装置17は、I/F15によって受信したカメラ3が撮影する映像も撮影日時などの情報とともに記憶する(ACT12)。サーバ1は、カメラ3および監視カメラ4からの映像についてACT11および12の処理を常時継続的に実行する。
サーバ1のプロセッサ11は、カメラ3および監視カメラ4が撮影する各映像に対して後述するACT13−22の処理を行う。すなわち、プロセッサ11は、カメラ3および監視カメラ4が撮影した映像において人物が存在するか否かを検知する人物検知を行う(ACT13)。例えば、プロセッサ11は、所定の周期でカメラ3および監視カメラ4が撮影した各映像を順次取得し、取得した映像に人物が存在するか否かを判定する。
映像に人物が存在することを検出すると(ACT13、YES)、プロセッサ11は、検出した人物の行動を分析する行動分析を行う(ACT14)。プロセッサ11は、行動分析として、人物を検出した画像を含む映像に基づいて当該人物の行動に監視対象とする行動が含まれるか否かを判定する。例えば、プロセッサ11は、店舗内にいる人物がとる行動として、不正な行動、不審な行動、迷惑な行動、介助が必要な行動、危険な行動などを監視対象とする行動として検出する。また、プロセッサ11は、監視対象とする行動として、来店した客の行動に限らず、店員などの行動も対象として検出するようにして良い。
例えば、監視対象とする行動としては、未精算の商品を店舗外へ持ち出そうとする不正行動(未精算の商品を着衣のポケットや所定のカゴ以外の袋に入れる行為など)を検出する。また、監視対象とすべき行動としては、商品の位置を変える行為、商品や店内の設備等へのいたずら、挙動不審などの不審な行為を検出しても良い。また、監視対象とすべき行動としては、他人に対して迷惑になるような他者への迷惑な行動などを検出しても良い。さらに、監視対象とする行動としては、迷子を監視するために迷子がとる行動などを検出しても良いし、要介助者などを監視するために要介助者がとる行動などを検出しても良い。
なお、プロセッサ11は、上述したような監視対象とする各種の行動を複数の種類ごとに分類して検出するようにして良い。また、プロセッサ11が監視対象とする行動を検出するために行動分析として実行するプログラムに用いるアルゴリズムは、既知のものが適用できる。例えば、不正な行動を検出するアルゴリズムは、不正検出アルゴリズムとして既知の方法が適用できる。
監視対象とする行動を検出した場合(ACT15、YES)、プロセッサ11は、監視端末5で監視する映像として切り出す範囲(動画の切出し範囲)を設定する(ACT16)。プロセッサ11は、監視対象とする行動を撮影したカメラが撮影する映像から設定した切出し範囲の映像(動画)を切り出して監視映像としての動画クリップを生成する。ここで、動画の切出し範囲は、運用形態などに応じて設定されるものとして良い。つまり、動画の切出し範囲は、映像による監視を実施する管理者などの店舗側の要望に従って設定される。
また、カメラが撮影する映像から監視映像として切り出す範囲は、監視対象とする行動が検出された映像を撮影した時点を基準として設定される。具体例として、動画の切出し範囲は、以下の(a)〜(f)に示すような範囲を設定することが考えられる。
(a)監視対象とする行動が検出された人物が当該カメラの撮影範囲に入ってきてから出ていくまでの範囲とする。この場合、プロセッサ11は、当該人物を撮影したカメラが撮影する映像に対して継続的に人物検知を行って当該人物を追跡する。これにより、プロセッサ11は、当該人物がカメラの撮影範囲外となるまでの間を特定し、動画の切出し範囲を決定する。
(b)監視対象とする行動が検出された映像を撮影した撮影時刻に対する前後の一定時間の範囲とする。この場合、プロセッサ11は、監視対象とする行動を検知した映像を撮影した撮影時刻の一定時間前からの映像と当該撮影時刻から一定時間経過までに当該カメラが撮影する映像とを切出すものとする。
(c)監視対象とする行動として検出される一連の行動の開始から終了までの範囲とする。例えば、商品をポケットに入れる不正行動を検出した場合、プロセッサ11は、当該人物が商品棚から商品を取ってからポケットに入れるまでの一連の行動を行っている期間を動画の切出し範囲として決定する。
(d)映像から検出する人物の行動に対して監視対象としての重要度を評価する評価値(行動評価値)を判定し、行動評価値が予め決められたしきい値を超えている範囲とする。この場合、プロセッサ11は、カメラが撮影する映像に対して所定周期で行動評価値を算出し、行動評価値がしきい値を超える期間を決定する。
(e)映像から検出した監視対象とする行動を行動の種類ごとに分類し、分類した行動の種類に応じて個別に設定された範囲とする。例えば、店舗内において、未精算の商品を人物の着衣のポケットに入れたという不正行動が検出された場合、当該人物が商品棚から商品を取り出す行為を切出し範囲の開始とし、当該人物が不正行動を行った地点から一定距離離れた時点を切り出し範囲の終了とする。
(a)監視対象とする行動が検出された人物が当該カメラの撮影範囲に入ってきてから出ていくまでの範囲とする。この場合、プロセッサ11は、当該人物を撮影したカメラが撮影する映像に対して継続的に人物検知を行って当該人物を追跡する。これにより、プロセッサ11は、当該人物がカメラの撮影範囲外となるまでの間を特定し、動画の切出し範囲を決定する。
(b)監視対象とする行動が検出された映像を撮影した撮影時刻に対する前後の一定時間の範囲とする。この場合、プロセッサ11は、監視対象とする行動を検知した映像を撮影した撮影時刻の一定時間前からの映像と当該撮影時刻から一定時間経過までに当該カメラが撮影する映像とを切出すものとする。
(c)監視対象とする行動として検出される一連の行動の開始から終了までの範囲とする。例えば、商品をポケットに入れる不正行動を検出した場合、プロセッサ11は、当該人物が商品棚から商品を取ってからポケットに入れるまでの一連の行動を行っている期間を動画の切出し範囲として決定する。
(d)映像から検出する人物の行動に対して監視対象としての重要度を評価する評価値(行動評価値)を判定し、行動評価値が予め決められたしきい値を超えている範囲とする。この場合、プロセッサ11は、カメラが撮影する映像に対して所定周期で行動評価値を算出し、行動評価値がしきい値を超える期間を決定する。
(e)映像から検出した監視対象とする行動を行動の種類ごとに分類し、分類した行動の種類に応じて個別に設定された範囲とする。例えば、店舗内において、未精算の商品を人物の着衣のポケットに入れたという不正行動が検出された場合、当該人物が商品棚から商品を取り出す行為を切出し範囲の開始とし、当該人物が不正行動を行った地点から一定距離離れた時点を切り出し範囲の終了とする。
動画の切出し範囲を設定すると、プロセッサ11は、映像記録装置17から設定された切出し範囲の映像データ(動画)を切り出す(ACT17)。すなわち、プロセッサ11は、監視対象となる行動を撮影したカメラが撮影した映像から切出し範囲の映像部分を切り出す。映像記録装置17が保存した映像から切出し範囲の映像を切り出す場合、プロセッサ11は、設定した切出し範囲の全映像の切り出しが完了したか否かを判断する(ACT18)。
切出し範囲の全映像が映像記録装置17に保存済みである場合(切出し範囲の全映像が取得済みである場合)、プロセッサ11は、切出し範囲の全映像を映像記録装置17から直ちに切り出させる。この場合、プロセッサ11は、映像の切り出しを完了と判断する(ACT18、YES)。
切出し範囲の全映像が未だ映像記録装置17に保存済みでない場合(切出し範囲の全映像が取得済みでない場合)、プロセッサ11は、切出し範囲の全映像を直ちに切り出すことができない。例えば、これからカメラが撮影する映像も含む切出し範囲を設定した場合、未撮影の映像は取得できておらず、映像記録装置17には切出し範囲の全映像が保存されていない。このような場合(切出し範囲の全映像が撮影済みでない場合)、プロセッサ11は、設定された切出し範囲の映像の切り出しが完了していないと判断する(ACT18、NO)。
切出し範囲の全映像の切り出しが完了でないと判断した場合(ACT18、NO)、プロセッサ11は、切出し範囲の残り映像を取得する処理を継続して実行する(ACT19、20)。すなわち、プロセッサ11は、切出し範囲の全映像の切り出しが完了するまで、当該カメラからの映像の受信(ACT19)、受信した映像の映像記録装置17への記録(ACT20)および映像の切出し処理(ACT17)を継続して実行する。
切出し範囲の全映像の切出しが完了したと判断した場合(ACT18、YES)、プロセッサ11は、切出した映像から動画クリップを生成する処理を行う(ACT21)。動画クリップは、監視端末5で表示できる形式のデータファイルで生成する。また、監視端末5との通信方式に応じて動画クリップのデータ形式を決定しても良い。動画クリップを生成すると、プロセッサ11は、通信部13により生成した動画クリップを監視端末5へ送信する(ACT22)。
なお、上述した図3に示す動作例は、サーバ1とは別に設けたコンピュータが実施しても良いし、セルフPOS2が実行する動作として実現しても良い。後者の場合、セルフPOS2が映像解析装置として機能する。例えば、セルフPOS2がカメラ3から入力する映像に対して図3に示す動作を実行する。この場合、セルフPOS2は、サーバ1を介すことなく、カメラ3が撮影した映像から監視対象とする映像を含む動画クリップを生成して監視端末5へ送信するようにできる。
以上のように、本実施形態に係る映像解析装置は、映像監視システムにおけるサーバあるいはセルフPOSが実現する機能などとして実現できる。映像解析装置は、店舗売り場やチェックアウトエリア(セルフPOSを設置したエリア)に設置されたカメラの映像を受信する。映像解析装置は、受信した映像における人物の行動を解析し、不正行動などの監視対象とする行動を検出する。映像解析装置は、監視対象とする行動を検出すると、その行動を撮影した映像を含む動画を設定された切出し範囲で切り出して動画クリップを生成し、監視端末へ送信する。
これにより、映像解析装置は、カメラが撮影した映像から検出した監視対象とする行動を不正などの「嫌疑」を示す映像を含む動画クリップを監視端末へ提供できる。この結果、不正行動などの監視対象とする行動の検出精度が100%でなくても、あくまでも「嫌疑」を示す映像を動画クリップとして監視端末へ配信できる。また、監視端末へ「嫌疑」となる映像を含む映像を設定された切出し範囲で切出して生成した動画クリップを送信するため、管理者等の監視者が常時映像を監視する必要がなくなり、効率良く監視を行え、店舗運営を効率的に実施できる。
また、実施形態に係る映像解析装置は、監視対象とする行動を撮影した映像を含む動画を切り出すための切出し範囲を運用に応じて設定できる。例えば、実施形態に係る映像解析装置は、監視対象とする行動を検出した映像を起点とした所定の期間を切出し範囲として動画クリップを生成することもできる。これにより、実施形態によれば、監視対象とする行動を検出した時点を起点して簡易な処理で映像から動画を切出すことができ、動画クリップを簡単に生成できる。
また、実施形態に係る映像解析装置は、検出した監視対象とする行動の実行者の行動に応じた切出し範囲によって切出した映像から動画クリップを生成することもできる。例えば、検出した監視対象とする行動の実行者がカメラの撮影範囲にいる間を切出し範囲としても良いし、検出した監視対象とする行動の一連動作の開始から終了までの映像を切り出して動画クリップを生成することもできる。これにより、実施形態によれば、監視対象とする行動として検出した一連の行動を示す動画クリップを監視端末へ提供できる。
また、実施形態に係る映像解析装置は、カメラが撮影した映像に存在する人物の行動に対して評価値を算出し、算出した評価値が閾値を超えている範囲を切出し範囲として動画クリップを生成する。これにより、実施形態によれば、映像から適宜検出される人物の行動に即した監視映像を監視端末へ提供することができる。
また、実施形態に係る映像解析装置は、監視対象とする行動として検出した行動を複数の種類に分類し、分類した種類ごとに設定された切出し範囲で動画クリップを生成する。これにより、実施形態によれば、人物の行動内容(種類)に応じて切り出した動画から動画クリップを生成できる。この結果、映像解析装置は、カメラが撮影する映像から適宜検出される人物の行動に即した監視映像を監視端末へ提供することができる。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
1…サーバ(映像解析装置)、2…セルフPOS(映像解析装置)、3…カメラ、4…監視カメラ、5…監視端末、11、21…プロセッサ、12、22…メモリ、13…通信部(通信インターフェース)、14、24…カメラI/F(映像インターフェース)、15…I/F(映像インターフェース)、17…映像記録装置、23…I/F(通信インターフェース)。
Claims (5)
- カメラが撮影した映像を入力する映像インターフェースと、
前記映像インターフェースが入力する映像における人物の行動を解析し、前記映像から監視対象とする行動を検出した場合に前記監視対象とする行動が検出された映像を含む映像部分を設定された切出し範囲で切り出して動画クリップを生成するプロセッサと、
前記プロセッサが生成した動画クリップを外部デバイスへ送信する通信インターフェースと、
を備える映像解析装置。 - 前記プロセッサは、前記監視対象とする行動として、商品を販売する店舗内における人物がとる不正な行動を検出する、
請求項1に記載の映像解析装置。 - 前記プロセッサは、監視対象とする行動として検出する行動を複数の種類に分類し、分類した種類ごとに設定された切出し範囲で動画クリップを生成する、
請求項1又は2の何れか1項に記載の映像解析装置。 - 前記映像インターフェースは、操作者自身の操作によって決済処理を行うセルフPOSにおいて操作者を撮影するように設定されたカメラからの映像を取得する、
請求項1乃至3の何れか1項に記載の映像解析装置。 - 前記映像インターフェースは、陳列された商品を撮影するように設定されたカメラからの映像を取得する、
請求項1乃至4の何れか1項に記載の映像解析装置。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018083452A JP2019193089A (ja) | 2018-04-24 | 2018-04-24 | 映像解析装置 |
US16/298,853 US20190327451A1 (en) | 2018-04-24 | 2019-03-11 | Video image analysis apparatus and video image analysis method |
EP19165414.4A EP3561722A1 (en) | 2018-04-24 | 2019-03-27 | Video image analysis apparatus and video image analysis method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018083452A JP2019193089A (ja) | 2018-04-24 | 2018-04-24 | 映像解析装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019193089A true JP2019193089A (ja) | 2019-10-31 |
Family
ID=66217674
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018083452A Pending JP2019193089A (ja) | 2018-04-24 | 2018-04-24 | 映像解析装置 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20190327451A1 (ja) |
EP (1) | EP3561722A1 (ja) |
JP (1) | JP2019193089A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022059223A1 (ja) * | 2020-09-15 | 2022-03-24 | 株式会社日立製作所 | 映像解析システムおよび映像解析方法 |
EP4113458A1 (en) | 2021-06-30 | 2023-01-04 | Fujitsu Limited | Information processing program, information processing method, and information processing apparatus |
EP4125056A1 (en) | 2021-07-30 | 2023-02-01 | Fujitsu Limited | Information processing program, information processing method, and information processing device |
EP4125059A1 (en) | 2021-07-30 | 2023-02-01 | Fujitsu Limited | Information processing program, information processing method, and information processing apparatus |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7282619B2 (ja) * | 2019-07-02 | 2023-05-29 | キヤノン株式会社 | 記録制御装置、記録制御方法およびプログラム |
JP2022090881A (ja) * | 2020-12-08 | 2022-06-20 | 東芝テック株式会社 | チェックアウト装置、監視装置および監視プログラム |
US20230297905A1 (en) * | 2022-03-18 | 2023-09-21 | Toshiba Global Commerce Solutions Holdings Corporation | Auditing purchasing system |
CN114821961B (zh) * | 2022-06-28 | 2022-11-22 | 合肥的卢深视科技有限公司 | 室内防儿童走失方法、电子设备及存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011086087A (ja) * | 2009-10-15 | 2011-04-28 | Seiko Epson Corp | 情報処理装置、情報処理装置の制御方法およびプログラム |
JP2016500855A (ja) * | 2012-09-13 | 2016-01-14 | ゼネラル・エレクトリック・カンパニイ | 人の行動サマリを生成するためのシステムおよび方法 |
JP2018032404A (ja) * | 2012-12-21 | 2018-03-01 | ジョシュア ミグダルJoshua MIGDAL | セルフチェックアウト端末における不正行為の検証 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7801328B2 (en) * | 2005-03-31 | 2010-09-21 | Honeywell International Inc. | Methods for defining, detecting, analyzing, indexing and retrieving events using video image processing |
US8204273B2 (en) * | 2007-11-29 | 2012-06-19 | Cernium Corporation | Systems and methods for analysis of video content, event notification, and video content provision |
EP2407943B1 (en) * | 2010-07-16 | 2016-09-28 | Axis AB | Method for event initiated video capturing and a video camera for capture event initiated video |
WO2014183004A1 (en) * | 2013-05-10 | 2014-11-13 | Robert Bosch Gmbh | System and method for object and event identification using multiple cameras |
-
2018
- 2018-04-24 JP JP2018083452A patent/JP2019193089A/ja active Pending
-
2019
- 2019-03-11 US US16/298,853 patent/US20190327451A1/en not_active Abandoned
- 2019-03-27 EP EP19165414.4A patent/EP3561722A1/en not_active Withdrawn
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011086087A (ja) * | 2009-10-15 | 2011-04-28 | Seiko Epson Corp | 情報処理装置、情報処理装置の制御方法およびプログラム |
JP2016500855A (ja) * | 2012-09-13 | 2016-01-14 | ゼネラル・エレクトリック・カンパニイ | 人の行動サマリを生成するためのシステムおよび方法 |
JP2018032404A (ja) * | 2012-12-21 | 2018-03-01 | ジョシュア ミグダルJoshua MIGDAL | セルフチェックアウト端末における不正行為の検証 |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022059223A1 (ja) * | 2020-09-15 | 2022-03-24 | 株式会社日立製作所 | 映像解析システムおよび映像解析方法 |
JP7478630B2 (ja) | 2020-09-15 | 2024-05-07 | 株式会社日立製作所 | 映像解析システムおよび映像解析方法 |
EP4113458A1 (en) | 2021-06-30 | 2023-01-04 | Fujitsu Limited | Information processing program, information processing method, and information processing apparatus |
EP4125056A1 (en) | 2021-07-30 | 2023-02-01 | Fujitsu Limited | Information processing program, information processing method, and information processing device |
EP4125059A1 (en) | 2021-07-30 | 2023-02-01 | Fujitsu Limited | Information processing program, information processing method, and information processing apparatus |
Also Published As
Publication number | Publication date |
---|---|
US20190327451A1 (en) | 2019-10-24 |
EP3561722A1 (en) | 2019-10-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2019193089A (ja) | 映像解析装置 | |
US11663571B2 (en) | Inventory management computer system | |
JP6261197B2 (ja) | 表示制御装置、表示制御方法、及びプログラム | |
JP2017199234A (ja) | 監視装置及びプログラム | |
JP5540645B2 (ja) | 情報処理装置、情報処理装置の制御方法およびプログラム | |
US9928695B2 (en) | Register system that tracks a position of a customer for checkout | |
JP7545801B2 (ja) | 情報処理システム、情報処理システムの制御方法及びプログラム | |
US20160019417A1 (en) | Face image tracking system | |
US11216651B2 (en) | Information processing device and reporting method | |
US20230136054A1 (en) | Information processing method, information processing device, and recording medium | |
US20190139122A1 (en) | Commodity-data processing apparatus, commodity-data processing system, and commodity-data processing program | |
EP4047538A1 (en) | Self-checkout system and method | |
JP6974028B2 (ja) | 管理装置及びプログラム | |
JP5482079B2 (ja) | レシートプリンター、レシートプリンターの制御方法およびプログラム | |
JP2023162229A (ja) | 監視装置及びプログラム | |
JP5540647B2 (ja) | カラ打ち不正判定装置、カラ打ち不正判定装置の制御方法およびプログラム | |
JP7010030B2 (ja) | 店内監視装置、店内監視方法、および店内監視プログラム | |
US20200311430A1 (en) | System and Method for Linking Sales Associates to Customer | |
US20220092573A1 (en) | Portable terminal and information processing method for a portable terminal | |
JP2012038130A (ja) | 不正記録システム、不正記録システムの制御方法およびプログラム | |
US20230196778A1 (en) | Fraudulent act estimation device and control program therefor and fraudulent act estimation method | |
JP7318684B2 (ja) | 情報処理プログラム、情報処理方法、および情報処理装置 | |
US20240152971A1 (en) | Information processing device, content display system, and information processing method | |
EP4125019A1 (en) | Information processing program, information processing method, and information processing apparatus | |
JP6940285B2 (ja) | 情報処理装置およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210119 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220119 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220125 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20220712 |