WO2022249635A1 - 行動検知システムおよび行動検知プログラム - Google Patents

行動検知システムおよび行動検知プログラム Download PDF

Info

Publication number
WO2022249635A1
WO2022249635A1 PCT/JP2022/010114 JP2022010114W WO2022249635A1 WO 2022249635 A1 WO2022249635 A1 WO 2022249635A1 JP 2022010114 W JP2022010114 W JP 2022010114W WO 2022249635 A1 WO2022249635 A1 WO 2022249635A1
Authority
WO
WIPO (PCT)
Prior art keywords
behavior
person
notification
action
class
Prior art date
Application number
PCT/JP2022/010114
Other languages
English (en)
French (fr)
Inventor
文彬 佐藤
Original Assignee
コニカミノルタ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by コニカミノルタ株式会社 filed Critical コニカミノルタ株式会社
Priority to JP2023524018A priority Critical patent/JPWO2022249635A1/ja
Publication of WO2022249635A1 publication Critical patent/WO2022249635A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B25/00Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Emergency Management (AREA)
  • Alarm Systems (AREA)

Abstract

監視カメラ101等を用いて撮影した監視画像から人物の行動を特定して、監視センター121に通知する行動検知システム1において、監視画像に含まれている人物の行動が該当する行動クラス(例えば、「殴打」や「転倒」、「歩行」、「スマホ操作」など)毎に、監視センター121への通知の要否を設定した通知条件を受け付ける。通知条件には、当該行動の持続時間や、当該人物周辺の混雑度、当該監視画像が撮影された時間帯、当該監視画像における当該人物の滞在領域、当該人物の属性、当該人物周辺の人物の行動・属性などが挙げられる。このようにすれば、映像監視による行動検知の結果をユーザーのニーズに合わせて適切に通知することができる。

Description

行動検知システムおよび行動検知プログラム
 本開示は、行動検知システムおよび行動検知プログラムに関し、特に、映像監視によって検知した行動を効果的に通知する技術に関する。
 近年、映像監視技術の進歩によって、映像データからさまざまな事象を検知することができるようになってきている。
 例えば、介護施設において被介護者を常時撮影し、機械学習モデルを使用して得られた映像を解析することによって被介護者が特定の姿勢を取ったかどうかを検知して、介護士等に被介護者の状態を通知する介護支援システムが提案されている(例えば、特許文献1を参照)。この技術によれば、被介護者を見守る介護士等の負担を軽減することができるので、被介護者の見守りの手間を省いて質の高い介護を提供することができるようになる。
 しかしながら、検知すべき行動の種類によっては、単一の画像からその行動がなされたかどうかを適切に判断することが必ずしも容易でない場合もある。このような問題に対して、例えば、二枚の画像を組み合わせて行動を検知する映像監視装置が提案されている(例えば、特許文献2を参照)。このようにすれば、単一の画像だけからは検知することが難しい複雑な行動であっても適切に検知することができるようになる。
国際公開2017/026308号 特開2016-062131号公報
Zhe Cao, Tomas Simon, Shih-En Wei, Yaser Sheikh, "Realtime Multi-Person 2D Pose Estimation using Part Affinity Fields", 14 Apr 2017, https://arxiv.org/pdf/1611.08050.pdf. Sijie Yan, Yuanjun Xiong, Dahua Lin, "Spatial Temporal Graph Convolutional Networks for Skeleton-Based Action Recognition", 25 Jan 2018, https://arxiv.org/pdf/1801.07455.pdf.
 映像上では同じような行動であっても、監視者にとっての重要性は必ずしも一様でなく、映像だけからではその行動の重要性を判断することは難しい場合がある。例えば、上記の従来技術に係る映像監視装置では、施錠されている扉を解錠する行動(図21(a))を検知し、更にその扉から住居に進入する行動(図21(b))を検知すると、空き巣が住居に侵入したと判定する。
 しかしながら、扉を解錠して住居に進入するのは空き巣だけではなく、その住居の居住者もまた同様の行動をとる。また、居住者の帰宅は空き巣の侵入よりも遥かに頻度が高い。したがって、当該行動を検知するたびに映像監視装置のユーザーに通知すると、空き巣が侵入した場合だけでなく、居住者の帰宅時にも通知されてしまうため、高い頻度で不要な通知が為され、ユーザーの利便性が著しく低下して、実用に耐えることができない。
 また、機械学習モデルを使用して映像監視を行う場合、ユーザーのニーズに合わせて行動検知を行うためには、ユーザーのニーズに合った教師データを用意するための手間が膨大になるし、上記の空き巣の侵入と居住者の帰宅のように、似たような行動を細かく区別することができるように機械学習を実施することも必ずしも容易ではないという問題もある。
 本開示は、上述のような問題に鑑みて為されたものであって、映像監視による行動検知の結果をユーザーのニーズに合わせて適切に通知することができる行動検知システムおよび行動検知プログラムを提供することを目的とする。
 上記目的を達成するため、本開示の一形態に係る行動検知システムは、機械学習モデルを用いて、画像に含まれている人物の行動が所定の行動クラスのいずれに該当するかを特定する特定手段と、当該行動クラスに該当する行動の検知の通知の要否を行動クラスごとに指定する第1の通知条件と、行動クラス以外の理由に基づいた第2の通知条件と、の両方が充足されているか否かを判定する判定手段と、前記判定結果が肯定的である場合に、当該行動の検知を所定の通知先へ通知する通知手段と、を備えることを特徴とする。
 この場合において、前記特定手段は、前記画像に複数の人物が含まれている場合、当該人物ごとに、その行動がいずれの行動クラスに該当するかを特定してもよい。
 また、前記機械学習モデルは、ニューラル・ネットワークであってもよい。また、当該ニューラル・ネットワークは、畳み込みニューラル・ネットワークであるのが好適である。
 また、前記第1の通知条件は、当該人物の行動が複数の行動クラスの組み合わせに該当する場合に通知要とする指定を含んでもよい。
 また、前記第2の通知条件が、前記行動クラス毎に指定されていてもよい。
 また、前記第2の通知条件が、前記複数の行動クラスの組み合わせに対応して指定されていてもよい。
 また、前記第2の通知条件は、前記行動クラス毎に複数の指定の組み合わせになっていてもよい。
 また、前記第2の通知条件は、前記複数の行動クラスの組み合わせに対応する複数の指定の組み合わせになっていてもよい。
 また、前記行動クラスは、殴打、足蹴、押圧、登攀、匍匐前進、転倒、横臥、投擲、走行、乗車、歩行、スマホ操作、着座、把持および会話の少なくとも一つを含んでもよい。
 前記第2の通知条件は、当該行動の持続時間、当該人物周辺の混雑度、当該画像が撮影された時間帯、当該画像における当該人物の位置と指定範囲との位置関係、当該人物の属性、当該人物周辺の人物の行動クラスおよび当該人物周辺の人物の属性の少なくとも一つを含んでもよい。
 また、前記人物周辺は、当該画像において当該人物を含む所定の範囲内であってもよい。
 また、前記人物周辺の人物は、当該画像に含まれる複数の人物のうち、当該人物を含むクラスターに属する人物であってもよい。
 また、前記通知は、当該行動がいずれの行動クラスに該当するかを示す情報を含んでもよい。
 また、前記通知は、前記第2の通知条件における通知の要否の指定ごとに設定された当該通知の重要度を示す情報を含んでもよい。
 また、本開示の一形態に係る行動検知プログラムは、機械学習モデルを用いて、画像に含まれている人物の行動が所定の行動クラスのいずれに該当するかを特定する特定ステップと、当該行動クラスに該当する行動の検知の通知の要否を行動クラスごとに指定する第1の通知条件と、行動クラス以外の理由に基づいた第2の通知条件と、の両方が充足されているか否かを判定する判定ステップと、前記判定結果が肯定的である場合に、当該行動の検知を所定の通知先へ通知する通知ステップと、をコンピューターに実行させることを特徴とする。
 このようにすれば、第1の通知条件に加えて、第2の通知条件を用いて通知の要否を判定するので、映像監視による行動検知の結果をユーザーのニーズに合わせて適切に通知することができる。
本開示の実施の形態に係る行動検知システム1の主要な構成を説明する図である。 行動検知システム1の主要な構成を説明するブロック図である。 行動検知システム1の主要な機能構成を説明するブロック図である。 行動検知システム1の行動特定部301を用いる機械学習モデルの主要な構成を説明する図である。 (a)から(c)は行動検知システム1が受け付ける監視画像と、監視画像に含まれる人物の機械学習モデルによる検知結果を例示する図である。 通知条件のうち「行動クラス」を設定するために表示される「通知条件の設定」画面6の「行動クラス」タブ600を例示する図である。 通知条件のうち「行動持続時間」を設定するために表示される「通知条件の設定」画面6の「行動持続時間タブ」700を例示する図である。 行動持続時間が設定された場合の通知動作を説明する図である。 通知条件のうち「混雑度」を設定するために表示される「通知条件の設定」画面6の「混雑度タブ」900を例示する図である。 通知条件のうち「時間帯」を設定するために表示される「通知条件の設定」画面6の「時間帯タブ」1000を例示する図である。 通知条件のうち「特定領域滞在」を設定するために表示される「通知条件の設定」画面6の「特定領域滞在タブ」1100を例示する図である。 通知条件テーブル1200のデータ構造を説明する表である。 行動検知システム1の動作を説明するフローチャートである。 (a)から(c)は本開示の変形例に係る「通知条件の設定」画面14を説明する図であって、特に、「監視カメラ」を選択させるための画面表示および手順が示されている。 (a)から(c)は本開示の変形例に係る「通知条件の設定」画面14を説明する図であって、特に、「行動クラス」を指定させるための画面表示および手順が示されている。 (a)、(b)は本開示の変形例に係る「通知条件の設定」画面14を説明する図であって、特に、「行動クラス」に対応する「通知条件」を指定させるための画面表示および手順が示されている。 (a)、(b)は本開示の変形例に係る「通知条件の設定」画面14を説明する図であって、特に、「行動クラス」に対応する「通知条件」を指定させるための画面表示および手順が示されている。 (a)から(c)は本開示の変形例に係る「通知条件の設定」画面14を説明する図であって、特に、「行動クラス」の組み合わせを指定させるための画面表示および手順が示されている。 本開示に係る行動検知システム1を適用した介護施設におけるシステム構成を説明する図である。 本開示の変形例に係る関節情報の検出結果を、検出元の監視画像を撮影した時刻の順に例示する図である。 従来技術に係る映像監視装置の動作を説明する図であって、(a)は扉を解錠する行動を表し、(b)は住居に進入する行動を表している。
 以下、本開示に係る行動検知システムの実施の形態について、図面を参照しながら説明する。
[1]行動検知システムの構成
 まず、本実施の形態に係る行動検知システムの構成について説明する。
 図1に示すように、本実施の形態に係る行動検知システム1は、所謂クラウド・システムであって、街頭に設置された監視カメラ101、102および103等が撮影した映像(以下、「監視画像」という。)を逐次取得する。監視カメラ101等が撮影した監視画像には、例えば、人物111、112、113および114等が含まれている。行動検知システム1は、取得した監視画像から人物111等とその行動を検知して、後述のように検知結果を選別した後、監視センター121へ検知結果を通知する。なお、クラウド・システムに代えて、行動検知システム1を監視センター121内に設置してもよい。
 図2に示すように、行動検知システム1は、CPU(Central Processing Unit)201、ROM(Read Only Memory)202、RAM(Random Access Memory)203等を内部バス207で相互に通信することができるように接続したものである。CPU201は、ROM202からブート・プログラムを読み出して起動し、RAM203を作業用記憶領域としてHDD204からOS(Operating System)やアプリケーション・プログラム等を読み出して実行する。
 NIC(Network Interface Card)205は監視カメラ101等および監視センター121と通信するための処理を実行する。タイマー206は、CPU201がOSやアプリケーション・プログラム等を実行するために必要な計時処理を実行する。
 図3は行動検知システム1の機能構成を表すブロック図である。図3に示すように、行動検知システム1は、行動特定部301、通知条件判定部302、通知処理部303を備えている。行動特定部301は、監視カメラ101等から監視画像を取得すると、機械学習モデルを用いて、監視画像から人物を認識し、その行動が複数のクラスのいずれに該当するかを特定する。通知条件判定部302は、行動特定部301が人物を認識した場合に、監視センター121が指定した通知条件が充足されているかどうかを判定する。通知処理部303は、通知条件が充足されている場合に、監視センター121へ通知を行う。
[2]行動特定部301
 本実施の形態に係る行動特定部301は、監視カメラ101等から定期的に監視画像とその撮影日時を取得して、機械学習モデルとして畳み込みニューラル・ネットワーク(CNN: Convolutional Neural Network)を用いて、監視画像から人物およびその行動を認識する。具体的には、図4に示すように、CNN400の畳み込み層401を用いて監視画像411の特徴量を抽出し、畳み込み層401の出力を全結合層(出力層)402に入力することによって、人物の位置およびその行動を特定する。
 この畳み込み層401は、監視画像411の特徴的なパターンを検知したり、パターンの様々に特徴的な組み合わせを検知したりする。出力層402は、畳み込み層401の出力データから監視画像411に含まれている人物を囲むバウンディング・ボックスの位置および大きさと、当該人物の行動が該当するクラス(以下、「行動クラス」という。)を特定する。
 CNN400は、様々な行動をとる人物を撮像した画像を教師データとして、教師データの画像に含まれている人物の範囲を表すバウンディング・ボックスの位置と大きさおよびその人物がとっている行動が該当する行動クラスを機械学習する。CNN400は、あらかじめ指定されている行動クラス毎に、当該人物の行動が該当する確率を出力する。
 本実施の形態においては、行動クラスとして、「殴打(人を殴る)」、「転倒(倒れている)」、「歩行(歩く)」および「スマホ操作(スマホを見る)」等が設定されており、人物ごとにその行動がどの行動クラスに該当するか特定される。人物ごとに検知される行動クラスの数は2以上であってもよい。例えば、行動クラス毎にCNN400が出力する確率が予め設定された閾値以上である場合には、当該人物の行動は当該行動クラスに該当すると判定することができる。
 閾値が30%である場合に、CNN400が出力した確率が75%の行動クラスがあれば、当該人物の行動は当該確率75%の行動クラスに該当すると判定する。また、閾値が30%である場合に、CNN400が出力した確率が40%の行動クラスが2つあれば、当該人物の行動は当該確率40%の行動クラスの両方ともに該当すると判定する。更に、閾値が30%である場合に、CNN400が出力した確率が33%の行動クラスが3つあれば、当該人物の行動は当該確率33%の行動クラスすべてに該当すると判定する。
 例えば、図5(a)の例では、監視画像500に二人の人物111、112が含まれており、人物111、112の位置を示すバウンディング・ボックス501、502が検知されている。CNN400は、バウンディング・ボックス501、502のそれぞれについて当該人物の行動が属するクラスとして「殴打」を特定する。また、監視画像500の右上の隅には撮影時刻として「23:55」が表示されている。
 図5(a)の例では、撮影年月日は監視画像500にデータとして別途添付され、表示はされていないが、撮影時刻に合わせて撮影年月日を表示してもよい。また、撮影時刻もまた監視画像500にデータとして別途添付して、表示を省いてもよい。特に、監視画像500に含まれている人物を検出したり、検出した人物の行動を特定したりする場合には、監視画像500から撮影年月日や撮影時刻の表示を省くのが望ましい。図5(b)、図5(c)についても同様である。
 図5(b)の例では、監視画像510に人物113が含まれており、当該人物113の位置を示すバウンディング・ボックス511が検知されている。CNN400は、バウンディング・ボックス511について当該人物の行動が属するクラスとして「転倒」を特定する。監視画像510の右上の隅には撮影時刻として「09:43」が表示されている。
 図5(c)の例では、監視画像520に人物114が含まれており、当該人物114の位置を示すバウンディング・ボックス521が検知されている。CNN400は、バウンディング・ボックス521について当該人物の行動が属するクラスとして「歩行」および「スマホ操作」の2つのクラスを特定する。監視画像510の右上の隅には撮影時刻として「13:18」が表示されている。
 このように、行動特定部301は、監視画像411の入力を受け付けて、当該監視画像411に含まれている人物ごとにバウンディング・ボックスの位置および大きさと、当該人物の行動が属するクラスと、を出力する。このとき併せて、当該監視画像411を撮影した監視カメラの識別子と、当該監視画像411の撮影日時を出力する。
 なお、行動特定部301は、監視カメラ101等に対して監視画像を要求することによって監視画像を取得してもよいし、監視カメラ101等に監視画像を行動特定部301へ自発的に送信させることによって取得してもよい。
[3]通知条件判定部302
 通知条件判定部302について、通知条件の設定と判定との2つの処理に分けて説明する。
(3-1)通知条件の設定
 通知条件判定部302は、行動特定部301が人物を検知した際に、その旨を監視センター121へ通知するかどうかを判定するための通知条件を、監視センター121から受け付ける。本実施の形態においては、監視センター121から行動検知システム1にWebアクセスさせることによって、監視センター121のブラウザーに通知条件の設定画面を表示させ、通知条件を入力させる場合を例にとって説明するが、本開示がこれに限定されないのは言うまでもなく、これに代えて他の方法で通知条件を設定させてもよい。
(3-1-1)行動クラス
 図6は、通知条件の設定画面6を例示する図であって、特に、「行動クラス」タブ600が示されている。図6に示すように、「行動クラス」タブ600では検知した場合に通知すべき行動のクラスと、当該行動を撮影する監視カメラの指定とを受け付ける。図6の例では、チェック・ボックス601のうち、行動クラスのうち「歩行」と「スマホ操作」の2つのチェック・ボックスがチェックされている。
 また、監視カメラを指定するリスト・ボックス602では、監視カメラ103が指定されている。このため、監視カメラ103で撮影した監視画像に含まれている人物それぞれについて、「歩行」と「スマホ操作」との行動クラスが両方とも検知されているのでなければ、「歩行」と「スマホ操作」とのどちらか一方だけ検知されていても、監視センター121への通知はなされない。他の通知条件も指定されている場合には、それらの通知条件も充足された場合にだけ、監視センター121への通知がなされる。
 なお、以下に説明する行動クラス以外の通知条件については、すべての行動クラスに共通して指定を受け付けてもよいし、行動クラス毎に指定を受け付けてもよい。どちらで指定するかはユーザーに選択させてもよい。
(3-1-2)行動持続時間
 図7に示すように、行動持続時間タブ700は、「行動クラス」タブ600で指定したクラスの行動が所定時間だけ持続した場合に監視センター121へ通知させるように、その持続時間を設定させる。このため、行動持続時間タブ700には、持続時間を指定するためのチェック・ボックスが表示される。また、行動持続時間タブ700の右上の領域には、どの監視カメラで検出したどの行動クラスについての行動持続時間の設定であるかを示す文字列が表示される。
 図7の例では、監視カメラ102で「転倒」が検知された場合における、「転倒」状態の持続時間として「3分から4分」が設定されている。したがって、監視カメラ102が撮影した監視画像において、「転倒」している人物が3分以上、連続して検知された場合には、その旨が監視センター121へ通知される。
 図8のように、時刻T0に撮影された監視画像800において検知された人物113は「転倒」しており、監視画像800におけるバウンディング・ボックス801内に位置している。
 時刻T1、T2およびT3に撮影された監視画像810、820および830においても「転倒」している人物113が検知されており、当該人物113を囲むバウンディング・ボックス811、821および831が時刻T0に撮影された人物113を囲むバウンディング・ボックス801に一致している。したがって、人物113は転倒したまま動いていないと推定される。
 しかしながら、時刻T0から時刻T1、T2およびT3までの経過時間はいずれも行動持続時間タブ700で設定された持続時間(閾値)よりも短いので、人物113が転倒したものの無事なのか、負傷するなど危険な状態にあるのかを十分な確からしさで判断することができない。このため、監視センター121への通知はなされない。
 時刻T4に撮影された監視画像840においても「転倒」している人物113が検知されており、当該人物113を囲むバウンディング・ボックス841が時刻T0、T1、T2およびT3に撮影された人物113を囲むバウンディング・ボックス801、811、821および831に一致している。更に、時刻T0から時刻T4までの経過時間は行動持続時間タブ700で設定された持続時間(閾値)よりも長いので、人物113が負傷するなど危険な状態にある恐れがある。このため、監視センター121への通知を行う。
 なお、図7においては、チェック・ボックスを用いて持続時間を指定させる行動持続時間タブ700が例示されているが、本開示がこれに限定されないのは言うまでもなく、これに代えて、或いはこれに加えて、持続時間を数値指定させるフィールドを設けてもよい。更に、他のGUI(Graphical User Interface)部品を用いる等して、持続時間の指定を受け付けてもよいことは言うまでもない。
(3-1-3)混雑度
 図9に例示するように、混雑度タブ900は、検知した人物の周辺にいる人物の人数を指定させることによって、監視センター121へ通知する必要がある混雑度の指定を受け付ける。図9の例では、検知した人物の行動が歩行とスマホ操作との2つの行動クラスに該当する場合に、検知した人物から8m以内に12人以上の人物が検知されていたら、検知した人物の周辺が混雑していると判定し、歩きスマホは危険であるので、監視センター121へ通知が為される。
 なお、検知した人物からの距離に代えて、監視画像に含まれている人物をすべて検知して、監視画像における各人物の位置を特定し、人物の位置の分布に応じたクラスタリングによって、検知した人物を含むクラスターをその人物の周囲にいる人物として、その人数から混雑度を判定してもよい。この場合には、ユーザーに人物の周辺の範囲を特定するための距離を入力させる必要が無いので、ユーザーの利便性が向上する。
 また、監視画像に含まれている人数を検出する際には、人物ごとに当該人物を囲むバウンディング・ボックスを検出して、当該バウンディング・ボックスの数を当該人数としてもよい。また、人物ごとに当該人物の骨格を検出することによって人数を特定してもよい。
 なお、図9においては、チェック・ボックスを用いて周辺の人数および周辺までの距離を指定させる混雑度タブ900が例示されているが、本開示がこれに限定されないのは言うまでもなく、これに代えて、或いはこれに加えて、周辺の人数や周辺までの距離を数値指定させるフィールドを設けてもよい。更に、他のGUI部品を用いる等して、周辺の人数や周辺までの距離の指定を受け付けてもよいことは言うまでもない。
(3-1-4)時間帯
 時間帯タブ1000は、検知した人物を含む監視画像が撮影された時間帯に応じて、監視センター121への通知の要否を判定する場合の判定条件(通知条件)を入力させる画面である。図10の例では、連続する4つの時間帯が指定されており、検出した人物の行動クラスが「殴打」である場合に、監視画像の撮影時刻が18時から6までの間ならば、監視センターへ通知が為される。
 また、時間そのものを指定させる代わりに、「日中」や「夜間」など季節によって変動し得る時間帯や、「ラッシュアワー」などのように曜日によって変動し得る時間帯を指定させてもよい。複数の時間帯の指定を受け付ける場合に、当該複数の時間帯が連続していなくてもよいのは言うまでもなく、断続する複数の時間帯の指定を受け付けてもよい。更に、他のGUI部品を用いる等して、時間帯の指定を受け付けてもよいことは言うまでもない。
(3-1-5)特定領域滞在
 特定領域滞在タブ1100は、検知した人物が監視画像における特定の領域に位置するかどうかに応じて、監視センター121への通知の要否を判定する場合の判定条件(通知条件)を入力させる画面である。図11の例では、検知した人物114の行動が「歩行」と「スマホ操作」との2つの行動クラスに該当し、かつ監視画像1101における特定領域1102内に人物114が位置している場合には、監視センター121への通知が為される。
 なお、図11の例では、監視カメラ103を用いて撮影された監視画像1101について特定領域1102を指定する際に、ユーザーの便宜を考慮して、補助的に監視画像1101を表示しているが、監視画像1101が表示されていなくてもよい。また、図11においては、特定領域1102が矩形状である場合が例示されているが、特定領域は円や楕円など、矩形以外の形状であってもよい。
 特定領域1102が矩形状である場合には、例えば、矩形の4つの頂点のうち、座標値が最も小さいX座標(X1)およびY座標(Y1)と、X方向及びY方向における矩形の大きさ(Xsize、Ysize)とで特定領域102を指定することができる。言うまでもなく、他の方法で特定領域102を指定してもよいことは言うまでもない。
 また、図11においては、特定領域1102が1つだけ指定されている場合が例示されているが、本開示がこれに限定されないのは言うまでもなく、2つ以上の特定領域1102の指定を受け付けてもよい。また、監視画像における座標値の入力を受け付ける等、上記以外の手法を用いて特定領域1102の指定を受け付けてもよいことは言うまでもない。
(3-1-6)その他
 その他の通知条件として、例えば、人物属性を受け付けてもよい。人物属性には性別や年齢層、体格、姿勢、髪型、服装などが挙げられる。人物属性は、例えば、機械学習モデルを用いて検出してもよい。この場合において、監視画像において当該人物を囲むバウンディング・ボックスを切り出して機械学習モデルに入力してもよい。
 また、上記の混雑度のように、注目人物の周辺の人物を参照する場合にも、周辺人物の行動が該当する行動クラスや、当該周辺人物の属性を参照して、混雑度の判断に参酌するかどうかを判別してもよい。また、注目人物の行動が該当する行動クラスによっては、周辺の人物の行動が該当する行動クラスを参照して、行動クラスが「着座」である場合には、監視センター121への通知を不要にしてもよい。
 以上のように、指定を受け付けることによって、図12に例示するような通知条件テーブル1200を作成する。図12に示す通知条件テーブル1200においては、監視カメラ番号ごとに、監視センター121へ通知すべき行動クラスが1つずつ指定されている場合が例示されているが、2つ以上の行動クラスが指定されていてもよいのは言うまでもなく、当該2つ以上の行動クラスどうしで、行動クラス以外の通知条件が一致していてもよいし、異なっていてもよい。
 また、本実施の形態においては、監視カメラ番号ごとの行動クラスに対応する通知条件がすべて満たされている場合(すべての通知条件のANDが満たされている場合)に監視センター121への通知を行う場合を例にとって説明するが、本開示がこれに限定されないのは言うまでもなく、ANDだけでなくORやNOTを含む通知条件の論理式を指定させてもよい。
(3-2)通知条件の判定
 通知条件判定部302は、行動特定部301が特定した人物ごとに、通知条件が充足されているか判定する。
 例えば、監視カメラ101から受け付けた監視画像500(図5(a))について、行動特定部301が人物111の行動クラスを「殴打」と特定した場合、通知条件判定部302は、通知条件テーブル1200において、監視カメラ番号が101で行動クラスが「殴打」である欄を参照する。通知条件テーブル1200においては、対応する通知条件として、注目人物から「1メール以内に2人以上」の混雑度と、「18時から6時まで」の時間帯とが指定されている。
 監視画像500においては、人物111から1メートルの範囲内に人物111、112の2人がおり、「1メール以内に2人以上」という混雑度に関する通知条件が充足されている。また、撮影時刻は「23:55」なので、「18時から6時まで」という時間帯に関する通知条件も満たされている。したがって、通知条件判定部302は通知条件が充足されていると判定する。
 監視カメラ102から受け付けた監視画像510(図5(b))について、行動特定部301が人物113の行動クラスを「転倒」と特定した場合、通知所条件判定部302は、通知条件テーブル1200において、監視カメラ番号が102で行動クラスが「転倒」である欄を参照する。通知条件テーブル1200においては、対応する通知条件として、行動持続時間が「3分以上」と指定されている。
 このため、通知条件判定部302は、監視画像510、監視画像510に添付されている撮影時刻「09:43」、行動特定部301が特定した人物113を囲むバウンディング・ボックス511の位置と大きさ、および人物113の行動に該当する行動クラスをHDD204に記録する。
 その後、同じ監視カメラ102から受け付けた監視画像において、バウンディング・ボックス511と同じ位置に同じ大きさのバウンディング・ボックスで囲まれた人物が検出され、その行動クラスが「転倒」である場合には、HDD204に記録されている監視画像510の撮影時刻「09:43」と新たに受け付けた監視画像の撮影時刻とを比較して、行動持続時間を算出する。
 算出した行動持続時間が、通知条件テーブル1200で指定されている行動持続時間「3分以上」に該当する場合には、通知条件判定部302は通知条件が充足されたと判定する。この結果、通知処理部303が監視センター121への通知を行う。算出した行動持続時間が3分未満である場合には、通知条件は充足されていないので、監視センター121への通知が行われないまま、HDD204における監視画像510等の記録を維持する。
 同じ監視カメラ102から受け付けた監視画像において、人物が検出されなかった場合、人物を検出したものの、当該人物を囲むバウンディング・ボックスの位置や大きさが先に検出したバウンディング・ボックス511の位置や大きさと異なっている場合、或いは当該人物の行動クラスが「転倒」でない場合には、人物113の「転倒」という行動は持続していないと判断されるので、HDD204から監視画像510等の記録を削除するか、若しくは当該監視画像510等の記録は行動持続時間の判断の対象外にする。その結果、監視画像510に含まれている人物113の「転倒」は行動持続時間の監視対象から外される。
 監視カメラ103から受け付けた監視画像520(図5(c))について、行動特定部301が人物114の行動クラスを「歩行」および「スマホ操作」と特定した場合、通知所条件判定部302は、通知条件テーブル1200において、監視カメラ番号が103で行動クラスが「歩行」および「スマホ操作」である欄を参照する。通知条件テーブル1200においては、対応する通知条件として、行動持続時間が「3分以上」、混雑度が「8m以内に12人以上」、特定領域滞在が「(X1、Y1、Xsize、Ysize)」と指定されている。
 監視画像520において、人物114を囲むバウンディング・ボックス521は通知条件テーブル1200の特定領域滞在の欄で指定されている特定領域の範囲(X1、Y1、Xsize、Ysize)に含まれている。一方、監視画像520に含まれている人物は人物114だけであり、通知条件テーブル1200の混雑度の欄で指定されている「8m以内に12人以上」との通知条件は充足されていない。
 このため、通知条件テーブル1200の行動持続時間の欄で「3分以上」と指定されていても、監視画像510の場合とは異なって、監視画像520や監視画像520に添付されている撮影時刻「13:18」等をHDD204に記録することはしない。したがって、監視画像520が撮影されたことを契機として、通知条件が充足されたと通知条件判定部302が判定することはないので、通知処理部303は監視センター121への通知を行うこともない。
[4]通知処理部303
 通知処理部303は、通知条件テーブル1200で指定されている通知条件が充足されたと通知条件判定部302が判定すると、監視センター121への通知を行う。言い換えると、通知処理部303は、監視画像によって特定の行動が検知されたことを通知する警報の有無を示す信号を監視センター121へ送信する。
 通知処理部303から監視センター121への通知には、監視カメラの識別情報、監視画像データ、監視画像の撮影時刻や撮影年月日、行動特定部301が特定した行動クラス、当該行動クラスに該当する行動をとった人物を囲むバウンディング・ボックスの当該監視画像における位置および大きさ、通知条件テーブル1200で指定された通知条件のうちどの通知条件をどのように充足したかについての情報などのうち1以上が含まれているのが望ましい。
 また、通知処理部303から監視センター121への通知には、通知処理部303は、監視画像によって特定の行動が検知されたことを通知する警報の重要度を示す情報を含んでもよい。警報の重要度は、例えば、図12に示すように、通知条件テーブル1200に重要度を指定する欄を設けて、当該欄を通知処理部303が参照したり、当該欄を参照した通知条件判定部302が通知処理部303に重要度を通知したりすることによって、当該重要度を通知処理部303が監視センター121へ通知してもよい。
[5]行動検知システム1の動作
 次に、行動検知システム1の動作について説明する。
 図13に示すように、行動検知システム1は、監視カメラから監視画像を取得すると(S1301:YES)、行動特定部301にて監視画像に人物が含まれているか確認する。監視画像に含まれている人物を検知した場合には(1302:YES)、監視画像から検知した人物ごとにステップS1303からステップS1309までの処理を実行する。
 すなわち、行動特定部301によって当該人物の行動が該当する行動クラスを特定する(S1304)。どの行動クラスに該当するかは、上述のように、CNN400を用いて特定する。次に、通知条件判定部302によって、通知条件テーブル1200を参照して、監視カメラの番号と行動クラスとの組み合わせに対応する通知条件を特定して(S1305)、特定した通知条件がすべて充足されているか確認する(S1306)。
 通知条件がすべて充足されている場合には(S1307:YES)、当該行動を検知した旨を監視センター121へ通知する(S1308)。通知条件が充足されていない場合には(S1307:NO)、監視センター121への通知をすることなく、監視画像から検知した別の人物についてステップS1303からステップS1309までの処理を実行する。
 監視画像から検知した人物のすべてについてステップS1303からステップS1309までの処理を完了したら、ステップS1301へ戻って、上述のような処理を繰り返す。
 このようにすれば、監視画像を用いた映像監視による行動検知の結果を、通知条件テーブルを参照することによって、ユーザーのニーズに合わせて適切に通知することができる。
[6]変形例
 以上、本開示を実施の形態に基づいて説明してきたが、本開示が上述の実施の形態に限定されないのは勿論であり、以下のような変形例を実施することができる。
(6-1)上記実施の形態においては、機械学習モデルとしてCNN400を用いる場合を例にとって説明したが、本開示がこれに限定されないのは言うまでもなく、CNN以外のニューラル・ネットワークを用いてもよいし、ニューラル・ネットワーク以外の機械学習モデルを用いてもよい。
(6-2)上記実施の形態においては、行動特定部301が検知する行動クラスとして、「殴打」、「転倒」、「歩行」および「スマホ操作」を例にとって説明したが、本開示がこれに限定されないのは言うまでもなく、これらに代えて、あるいはこれらに加えて、例えば、「足蹴(蹴る)」や「押圧(押す)」、「登攀(登る)」、「匍匐前進」、「横臥(横になっている)」、「投擲(ものを投げている)」、「走行(走っている)」、「乗車(乗り物に乗っている)」、「着座(座っている)」、「把持(ものを持っている)」および「会話(人と話している)」等の行動クラスを設けて、監視画像に含まれている人物の行動を検知してもよい。
(6-3)上記実施の形態においては、通知条件テーブル1200において行動クラス毎に重要度を指定する場合を例にとって説明したが、本開示がこれに限定されないのは言うまでもなく、これに代えて次のようにしてもよい。「行動持続時間」や「混雑度」といった通知条件ごとに重要度を指定してもよい。また、この重要度は、当該通知条件の設定内容に応じて指定してもよい。
 例えば、「行動持続時間」ならば、持続時間が30秒から60秒までの場合には重要度を中程度とし、60秒を超える場合には重要度を高としてもよい。また、高中低の3段階に代えて、0から1までの数値のように、重要度に細かく段階を設定してもよい。このような場合には、監視センター121への通知の際に、併せて通知条件ごとの重要度を監視センター121へ通知してもよい。通知条件どうしで重要度が異なる場合には、重要度が最も高い通知条件を監視センター121へ通知してもよい。
 また、通知条件ごとの重要度に、それぞれ通知条件に対応する重みを乗算した上で、重みを乗算した重要度を足し合わせ、得られた合計値を当該通知の重要度として監視センター121へ通知してもよい。
(6-4)上記実施の形態においては、監視画像に含まれている人物ごとに通知条件を判定する場合を例にとって説明したが、本開示がこれに限定されないのは言うまでもなく、これに代えて次のようにしてもよい。
 例えば、監視画像に複数の人物が含まれている場合には、当該複数の人物がとっている行動に該当する行動クラスの組み合わせに応じて、監視センター121への通知の要否を判定してもよい。例えば、鞄を持っていて、かつ走っている人物と、当該人物の周辺で走っている人物とが監視画像に場合、窃盗である可能性があるので、監視センター121へ通知して、現場の状況を確認したり、犯行の状況を記録した監視画像を解析して、犯人を特定したり等するのが望ましい。
 また、監視画像に複数の人物が含まれており、これらの人物の行動が該当する行動クラスがいずれも「走行」である場合には、何か緊急を要する事態が発生している可能性があるので、監視センター121へ通知して、現場の状況を確認したり、当該事態に対応する処置をとったり等するのが望ましい。
 更に、夜間に撮影された監視画像に含まれている人物の属性が「子ども」であり、当該人物の行動が該当する行動クラスが「歩行」である場合に、監視画像における当該人物の周辺に人物が検知されなかったり、属性が「大人」でない人物しか検知されなかったりすると、当該「子ども」が迷子になっていたり、或いは犯罪に巻き込まれる可能性があるので、監視センター121へ通知するのが望ましい。
 このように、ひとつの監視画像に含まれている複数の人物の行動を関連付けて通知の要否を判断してもよい。また、監視画像を用いて検知した人物の行動を他の監視画像を用いて検知した人物の行動と関連付けて通知の要否を判断してもよい。この他の監視画像とは、元の監視画像を撮影した監視カメラを使用して、元の監視画像が撮影された日時とは別の日時に撮影された監視画像であってもよい。
 また、元の監視画像を撮影した監視カメラとは別の監視カメラで撮影した監視画像を、元の監視画像と組み合わせて通知の要否を判断してもよい。このようにすれば、ひとつの監視画像に含まれているひとりの人物の行動が該当する行動クラスと、当該行動クラスに対応する通知条件とだけから通知の要否を判定する場合よりも、複雑な状況を精度よく識別して通知の要否を判定することができる。
(6-5)上記実施の形態においては、図6~11に例示するように、タブを選択して、チェック・ボックスをクリックすることによって通知条件を設定する場合を例にとって説明したが、本開示がこれに限定されないのは言うまでもなく、これに代えて次のようにしてもよい。
 例えば、図14(a)に示すように、「通知条件の設定」画面14には「監視カメラの選択」プルダウン・メニュー1401が表示されている。「監視カメラの選択」プルダウン・メニュー1401は行動検知システム1が監視画像を参照して、監視センター120へ通知を行うことができる監視カメラを選択させるプルダウン・メニューである。
 「監視カメラの選択」プルダウン・メニュー1401にカーソル1411を重ね合わせてクリックすると、図14(b)に示すように、監視カメラの一覧1402が展開される。監視カメラの一覧1402にカーソル1411を重ね合わせると、カーソルが重なった監視カメラ名が反転表示され、クリックによって選択することが可能な状態になったことが表示される。図14(b)の例では監視カメラ名のうち「監視カメラ102」が反転表示されており、この状態でクリックすると当該監視カメラ名の監視カメラを選択することができる。
 なお、選択することができる監視カメラ名が多数に上る場合には一度にすべての監視カメラ名を一覧表示することができないので、図14(b)に示すように、一部の監視カメラ名だけを一覧表示する。また、スクロール・バー1403を操作すれば、監視カメラ名を上下に移動させることによって、他の監視カメラ名を一覧表示させることができる。
 監視カメラを選択すると、図14(c)に示すように、「監視カメラの選択」プルダウン・メニュー1401に表示される文字列が「監視カメラの選択」から選択した監視カメラ名に切り替わる。図14(c)の例では、監視カメラ名である「監視カメラ102」に表示が切り替わっている。
 監視カメラ(図15(a)では「監視カメラ102」)が選択されている状態で、「通知条件の設定」画面14内をクリックすると、図15(b)に示すように、クリック・メニュー1501が表示される。クリック・メニュー1501には、選択された監視カメラで撮影した監視画像に含まれる人物の行動として検知することができる行動クラスが一覧表示される。
 図15(b)の例では、行動クラスとして「殴打」、「転倒」、「歩行」および「スマホ操作」が表示されている。また、カーソル1411が重なっている行動クラスである「転倒」が反転表示されている。反転表示されている行動クラスをクリックすると、当該行動クラスが選択される。すると、クリック・メニュー1501が消去され、選択した行動クラスの名称が表示される。
 図15(c)の例では、行動クラスの名称として「転倒」との文字列が表示されている。また、この文字列は角丸長方形1502で囲まれており、これによって行動クラスの名称であることが示されている。言うまでもなく、角丸長方形1502で囲む以外の表示方法で行動クラスの名称であることを表示してもよい。
 次に、行動クラスの名称にカーソル1411を重ねてクリックすると、図16(a)に示すように、当該監視カメラで撮影した監視画像に含まれている人物の行動が当該行動クラスに該当する場合の通知条件を指定させるためのクリック・メニュー1601が表示される。図16(a)の例では、通知条件として「行動持続時間」、「混雑度」、「時間帯」、「特定領域滞在」および「人物属性」がクリック・メニュー1601に一覧表示されており、これらの通知条件のうち、カーソル1411が重なっている「混雑度」が反転表示されている。
 この状態でクリックすると、通知条件のうち「混雑度」が選択され、図16(b)に示すように、「転倒」と表示された角丸長方形1502から引き出し線1511が引かれるとともに、この引き出し線1511の先に「混雑度」との文字列1512が表示される。同様の操作を繰り返すことによって、別の通知条件を選択して表示させることができる。
 図17(a)の例では、引き出し線1511に加えて引き出し線1701が引かれ、この引き出し線1701の先に「行動持続時間」との文字列1702が表示されている。このようにすれば、行動クラスと通知条件との関係をグラフ構造でインタラクティブに指定させることができる。
 「通知条件の設定」画面14において、通知条件を表示する文字列をクリックすると、当該通知条件を設定するための画面が表示される。例えば、図17(b)に示すように、「行動持続時間」という文字列1702をクリックすると、図7に示すような行動持続時間タブ700が表示される。この場合において、「行動持続時間」という文字列1702に向かう引き出し線1701の引き出し元である角丸長方形1502に囲まれた「転倒」との文字列に合わせて、行動持続時間タブ700の行動クラスの欄に「転倒」との文字列が表示される。
 また、「監視カメラの選択」プルダウン・メニュー1401に「監視カメラ102」と表示されているのに合わせて、行動持続時間タブ700の監視カメラの欄に「監視カメラ102」との文字列が表示される。このため、ユーザーは、監視カメラ102で撮影された監視画像に含まれている人物の行動が該当する行動クラスが「転倒」である場合の通知条件として、行動持続時間の詳細な条件を設定することができる。
 以上のように、上記実施の形態および本変形例によれば、チェック・ボックスやプルダウン・メニュー、値指定、画面領域指定、グラフ構造などを用いてインタラクティブに通知条件を指定させることができる。
 なお、複数の行動クラスを組み合わせる場合には、次のようにしてもよい。すなわち、上記に述べた図15(b)と同様にして行動クラス名を選択することによって、組み合わせたい行動クラスの名称を「通知条件の設定」画面に表示させてから、これらの行動クラスを組み合わせてもよい。図18(a)の例では、組み合わせたい行動クラスである「歩行」と「スマホ操作」とが「通知条件の設定」画面18にそれぞれ表示されている。
 次に、図18(b)に示すように、「通知条件の設定」画面18上で、行動クラス「歩行」の左上(カーソル1812の位置)から右下(カーソル1813の位置)までドラッグ操作を行うことによって、行動クラス「歩行」、「スマホ操作」を囲む矩形1803を表示させる。ドラッグ操作中は、組み合わせたい行動クラスの範囲が未定であるため、矩形1803は破線で表示され、ドラッグ操作の始点(カーソル1812の位置)は固定されるが、終点は未定である。
 その後、ドラッグ操作が完了すると、その時点で矩形1803に囲まれていた行動クラスである「歩行」と「スマホ操作」とをそれぞれ囲む角丸長方形1801、1802に応じた位置と大きさの矩形1804が実線で表示される(図18(c))。破線の矩形1803は消去される。その後、通知条件を設定する場合には、矩形1804をクリックすることによって、図16(a)の例と同様に、「歩行」と「スマホ操作」との組み合わせに関する通知条件の候補が表示される。
 このように、本変形例によれば、行動クラスの組み合わせについても、直観的な操作によって、通知条件を設定することができるので、ユーザーの利便性を向上させることができる。
(6-6)上記実施の形態においては、街頭に設置される監視カメラ101等を用いて撮影された監視画像を用いる場合を例にとって説明したが、本開示がこれに限定されないのは言うまでもなく、これに代えて街頭以外の場所に設置した監視カメラによって撮影された監視画像を用いてもよい。
 例えば、介護施設に設置された監視カメラで撮影した監視画像を用いて被介護者の行動を見守ってもよい。図19に示すように、見守り支援システムMSは、介護施設において介護士が被介護者を見守るのを支援するためのシステムであって、各見守り対象者Obの居室RM、ナース・ステーションSTおよび各介護士NSに配備された携帯端末TAを通信ネットワークNWにて相互通信可能に接続した構成になっている。
 見守り対象者Ob(Ob-1: Aさん~SB-4: Dさん)の居室RM(RM-1~RM-4)には、それぞれセンサー・ボックスSB(SB-1~SB-4)が配設されている。センサー・ボックスSBは、カメラを備えており、居室RM内を撮像する。見守り対象者Obが在室中である場合には、センサー・ボックスSBが撮影した監視画像に見守り対象者Obの姿も含まれることになる。
 センサー・ボックスSBは、撮影した監視画像をCNN等の機械学習モデルに入力し、当該監視画像において見守り対象者Obを囲むバウンディング・ボックスと、当該見守り対象者Obの行動が該当する行動クラスを出力する。
 センサー・ボックスSBには、行動クラス毎に通知の要否が設定されており、通知が必要な行動クラスに該当する行動を検知した場合には、当該監視画像や、当該監視画像に含まれている見守り対象者Obに関するバウンディング・ボックスの位置と大きさ、当該見守り対象者Obの行動が該当する行動クラス、当該監視画像の撮影日時といった情報を管理サーバーSVへ送信する。
 センサー・ボックスSBは、例えば、見守り対象者Obの就寝、起床、ベッドからの転落、徘徊、ベッド外での転倒などの行動を検知してもよい。
 管理サーバーSVは、センサー・ボックスSBから監視画像などの情報を受け付けると、センサー・ボックスSB毎に、かつ行動クラス毎に設定されている通知条件が充足されているか確認する。この通知条件には、当該通知条件が充足された場合の通知先が登録されていてもよい。
 固定端末装置SPは、センサー・ボックスSBや管理サーバーSVに通知条件を設定するために用いられる。センサー・ボックスSBに設定される通知条件は、例えば、上述のように、通知を要する行動クラスである。また、管理サーバーSVに設定される通知条件は、時間帯や生体計測装置で計測された体温や血圧、脈拍数などの計測値の範囲などである。
 生体計測装置は、見守り対象者Obに装着された状態で生体計測を実行し、得られた計測値をセンサー・ボックスSBや管理サーバーSVへ通知することができる。生体計測装置は、見守り対象者Obに常時装着され、予め設定されたタイミングで生体計測を実行してもよいし、随時着脱され、装着時にのみ生体計測を実行してもよい。生体計測装置は、見守り対象者Obから取り外された状態では、その旨をセンサー・ボックスSB等に通知してもよい。
 本変形例では、管理サーバーSVは、通知条件が充足された場合、通知条件に併せて設定された通知先として、介護士NSが携帯する携帯端末TAへ通知を行う。通知を行う携帯端末TAは単数でも複数でもよい。緊急を要する場合には、すべての携帯端末TAに通知してもよい。また、通知条件に併せてその重要度が設定されていてもよく、重要度に応じて、通知先の携帯端末TAが出力する着信音の種類や音量などを変更してもよい。
 介護施設に収容されている被介護者は体調その他の要因の影響を受けて様々な行動をとり得るが、このような場合にも、本開示を適用すれば、被介護者の状態に応じて適切な通知を行うことができるので、介護者の負担を軽減しながら、質の高い介護を提供することができる。
(6-7)上記実施の形態においては、監視カメラ101等と行動検知システム1とが別体である場合を例にとって説明したが、本開示がこれに限定されないのは言うまでもなく、これに代えて次のようにしてもよい。例えば、監視カメラ毎に行動検知システムを内蔵してもよい。また、監視カメラに内蔵された行動検知システムは複数の通知先に通知を行ってもよく、この場合において、通知先ごとに通知条件が異なっていてもよい。
(6-8)上記実施の形態においては、行動検知システム1による通知先が監視センター121である場合を例にとって説明したが、本開示がこれに限定されないのは言うまでもなく、監視センター121に代えて、或いは監視センター121に加えて、他の通知先へ通知を行ってもよい。この場合において、通知先は検体端末のような移動体通信装置であってもよい。
(6-9)上記実施の形態においては、監視画像において人物を囲むバウンディング・ボックスの位置と大きさ、および当該人物の行動が該当する行動クラスを特定する場合を例にとって説明したが、本開示がこれに限定されないのは言うまでもなく、これに加えて次のようにしてもよい。例えば、同じ監視カメラで互いに異なる日時に撮影された監視画像どうしで人物の同一性を検知してもよい。このようにすれば、バウンディング・ボックスの位置と大きさが互いに一致していても、当該バウンディング・ボックスに囲まれている人物が監視画像どうしで異なっている場合に、当該行動の継続時間の誤検知を防止することができる。
(6-10)上記変形例においては、畳み込みニューラル・ネットワークであるCNN400を用いて監視画像に含まれている人物とその行動が該当する行動クラスを特定する場合を例にとって説明したが、本開示がこれに限定されないのは言うまでもなく、これに代えて次のようにしてもよい。
 例えば、監視画像から人物の関節情報を抽出し、得られた関節情報を用いて当該人物の行動を認識してもよい。
 関節情報を抽出する方法には、トップダウン方式とボトムアップ方式との2つがあり、トップダウン方式では、まず、監視画像に含まれている個々の人物を特定した後、特定した人物ごとに関節を抽出する。一方、ボトムアップ方式では、監視画像に含まれている人物を特定することなく、監視画像から直接、関節を抽出した後、抽出した間接どうしを関連付けることによって、人物ごとの関節を特定する。
 関節情報を抽出する方法としては、例えば、ボトムアップ方式を採用したOpenPose(非特許文献1を参照。)を用いることができる。OpenPoseはニューラル・ネットワークを用いて画像から関節情報を抽出する。OpenPoseは、カーネギーメロン大学が公開しているCaffe(Convolutional Architecture for Fast Feature Embedding)モデルを利用することができる。
 また、関節情報から人物の行動を認識する方法としては、例えば、ST-GCN(Spatial Temporal Graph Convolutional Networks)を用いることができる(非特許文献2を参照)。この場合において、監視画像としては動画像を用い、当該動画像からOpenPoseを用いて関節情報を抽出する。ST-GCNは動画像の関節情報から人物ごとにその行動が該当する行動クラスを推定する。
 すると、図20に例示するように、動画を構成する一連の監視画像から関節情報2000、2010および2020として、関節2003、2005などが抽出され、その位置関係から関節2003、2005の接続関係2004などが順次、特定される。例えば、関節情報2000には2人の人物2001、2002が含まれている。
 同様に、関節情報2010は人物2011、2012を含み、関節情報2020は人物2021、2022を含んでおり、それぞれ関節とその接続関係が特定されている。このような関節情報から、2人の人物の行動に該当する行動クラス(例えば、「殴打」など)が推定される。
 なお、関節情報2000、2010および2020は、監視画像における各関節の位置とその接続関係を画像として表したものであり、コンピューターによって処理する際には、関節情報として、関節ごとの座標値や接続関係を表すIDなどがRAM203やHDD204等の記録媒体に記憶される。
 このようにして推定した人物ごとの行動クラスを用いることによっても、上記実施の形態と同様にして、通知の要否を判定することができる。したがって、映像監視による行動検知の結果をユーザーのニーズに合わせて適切に通知することができる。
 なお、監視画像から関節情報を抽出する方法がOpenPoseに限定されないのは言うまでもなく、OpenPose以外の方法を用いてもよく、更にボトムアップ方式以外の方法を用いてもよい。関節情報から行動クラスを推定する方法についても、ST-GCNに限定されないのは言うまでもなく、ST-GCN以外の方法を用いてもよい。
 また、監視画像から関節情報を抽出するために用いる機械学習モデルや関節情報から人物の行動を認識するために用いる機械学習モデルが畳み込みニューラル・ネットワークに限定されないのは言うまでもなく、畳み込みニューラル・ネットワーク以外のニューラル・ネットワークを用いてもよいし、ニューラル・ネットワーク以外の機械学習モデルを用いてもよい。
(6-11)上記実施の形態においては、人物の行動を検知する場合を例にとって説明したが、本開示がこれに限定されないのは言うまでもなく、人物の行動に代えて次のようにしての良い。
 例えば、監視カメラを用いてクマやイノシシ、サル等の害獣の行動を映像検知する場合に、時期(農作物の生育時期など)に応じて、当該害獣に向かって警告音を鳴動させたりして追い払ってもよい。また、自動車などの機械の動作を映像検知する場合に、例えば、交差点で停車している自動車を検知して、交通信号機の青の灯器が点灯してから所定の時間を経過しても発車しなければ、運転手や車両に異常が生じている恐れがあるので、交通管制センターに通知してもよい。
(6-12)本開示に係る行動検知システム1は、上述のように、マイクロ・プロセッサーとメモリとを備えたコンピューター・システムである。メモリは、コンピューター・プログラムを記憶しており、マイクロ・プロセッサーは、コンピューター・プログラムに従って動作するとしてもよい。
 ここで、コンピューター・プログラムは、所定の機能を達成するために、コンピューターに対する指令を示す命令コードが複数個組み合わされて構成されたものである。
 また、コンピューター・プログラムは、コンピューター読み取り可能な記録媒体、例えば、フレキシブルディスク、ハードディスク、光ディスク、半導体メモリなどに記録されているとしてもよい。
 また、コンピューター・プログラムを、有線又は無線の電気通信回線、インターネットを代表とするネットワーク、データ放送等を経由して伝送してもよい。
 また、本発明は、行動検知システム1が、当該コンピューター・プログラムを実行することによって、使用する方法であるとしてもよい。
(6-13)上記実施の形態及び上記変形例をそれぞれ組み合わせてもよい。
 本開示に係る行動検知システムおよび行動検知プログラムは、映像監視によって検知した行動を効果的に通知する技術として有用である。
1………………………………………行動検知システム
101、102、103……………監視カメラ
121…………………………………監視センター
301…………………………………行動特定部
302…………………………………通知条件判定部
303…………………………………通知処理部
400…………………………………畳み込みニューラル・ネットワーク
401…………………………………畳み込み層
402…………………………………出力層
411、500、510、520…監視画像
501、502、511、521…バウンディング・ボックス
6、14、18………………………「通知条件の設定」画面
600…………………………………「行動クラス」タブ
700…………………………………「行動持続時間」タブ
900…………………………………「混雑度」タブ
1000………………………………「時間帯」タブ
1100………………………………「特定領域滞在」タブ
1200………………………………通知条件テーブル

Claims (16)

  1.  機械学習モデルを用いて、画像に含まれている人物の行動が所定の行動クラスのいずれに該当するかを特定する特定手段と、
     当該行動クラスに該当する行動の検知の通知の要否を行動クラスごとに指定する第1の通知条件と、行動クラス以外の理由に基づいた第2の通知条件と、の両方が充足されているか否かを判定する判定手段と、
     前記判定結果が肯定的である場合に、当該行動の検知を所定の通知先へ通知する通知手段と、を備える
    ことを特徴とする行動検知システム。
  2.  前記特定手段は、前記画像に複数の人物が含まれている場合、当該人物ごとに、その行動がいずれの行動クラスに該当するかを特定する
    ことを特徴とする請求項1に記載の行動検知システム。
  3.  前記機械学習モデルは、ニューラル・ネットワークである
    ことを特徴とする請求項1または2に記載の行動検知システム。
  4.  前記ニューラル・ネットワークは、畳み込みニューラル・ネットワークである
    ことを特徴とする請求項3に記載の行動検知システム。
  5.  前記第1の通知条件が、当該人物の行動が複数の行動クラスの組み合わせに該当する場合に通知要とする指定を含む
    ことを特徴とする請求項1から4のいずれかに記載の行動検知システム。
  6.  前記第2の通知条件が、前記行動クラス毎に指定されている
    ことを特徴とする請求項1から4のいずれかに記載の行動検知システム。
  7.  前記第2の通知条件が、前記複数の行動クラスの組み合わせに対応して指定されていることを特徴とする請求項5に記載の行動検知システム。
  8.  前記第2の通知条件は、前記行動クラス毎に複数の指定の組み合わせになっている
    ことを特徴とする請求項6に記載の行動検知システム。
  9.  前記第2の通知条件は、前記複数の行動クラスの組み合わせに対応する複数の指定の組み合わせになっている
    ことを特徴とする請求項8に記載の行動検知システム。
  10.  前記行動クラスは、殴打、足蹴、押圧、登攀、匍匐前進、転倒、横臥、投擲、走行、乗車、歩行、スマホ操作、着座、把持および会話の少なくとも一つを含む
    ことを特徴とする請求項1から9のいずれかに記載の行動検知システム。
  11.  前記第2の通知条件は、当該行動の持続時間、当該人物周辺の混雑度、当該画像が撮影された時間帯、当該画像における当該人物の位置と指定範囲との位置関係、当該人物の属性、当該人物周辺の人物の行動クラスおよび当該人物周辺の人物の属性の少なくとも一つを含む
    ことを特徴とする請求項1から10のいずれかに記載の行動検知システム。
  12.  前記人物周辺は、当該画像において当該人物を含む所定の範囲内である
    ことを特徴とする請求項11に記載の行動検知システム。
  13.  前記人物周辺の人物は、当該画像に含まれる複数の人物のうち、当該人物を含むクラスターに属する人物である
    ことを特徴とする請求項11または12に記載の行動検知システム。
  14.  前記通知は、当該行動がいずれの行動クラスに該当するかを示す情報を含む
    ことを特徴とする請求項1から13のいずれかに記載の行動検知システム。
  15.  前記通知は、前記第2の通知条件における通知の要否の指定ごとに設定された当該通知の重要度を示す情報を含む
    ことを特徴とする請求項1から14のいずれかに記載の行動検知システム。
  16.  機械学習モデルを用いて、画像に含まれている人物の行動が所定の行動クラスのいずれに該当するかを特定する特定ステップと、
     当該行動クラスに該当する行動の検知の通知の要否を行動クラスごとに指定する第1の通知条件と、行動クラス以外の理由に基づいた第2の通知条件と、の両方が充足されているか否かを判定する判定ステップと、
     前記判定結果が肯定的である場合に、当該行動の検知を所定の通知先へ通知する通知ステップと、をコンピューターに実行させる
    ことを特徴とする行動検知プログラム。
PCT/JP2022/010114 2021-05-26 2022-03-08 行動検知システムおよび行動検知プログラム WO2022249635A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2023524018A JPWO2022249635A1 (ja) 2021-05-26 2022-03-08

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2021088284 2021-05-26
JP2021-088284 2021-05-26

Publications (1)

Publication Number Publication Date
WO2022249635A1 true WO2022249635A1 (ja) 2022-12-01

Family

ID=84228534

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2022/010114 WO2022249635A1 (ja) 2021-05-26 2022-03-08 行動検知システムおよび行動検知プログラム

Country Status (2)

Country Link
JP (1) JPWO2022249635A1 (ja)
WO (1) WO2022249635A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017061371A1 (ja) * 2015-10-06 2017-04-13 コニカミノルタ株式会社 行動検知システム、行動検知装置、行動検知方法、および行動検知プログラム
JP2017098180A (ja) * 2015-11-27 2017-06-01 株式会社レイトロン 照明装置
JP2018082281A (ja) * 2016-11-15 2018-05-24 キヤノン株式会社 情報処理装置、情報処理装置の制御方法およびプログラム
WO2018163555A1 (ja) * 2017-03-07 2018-09-13 コニカミノルタ株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
JP2019141530A (ja) * 2018-02-23 2019-08-29 パナソニックIpマネジメント株式会社 行動監視システム、及び、行動監視方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017061371A1 (ja) * 2015-10-06 2017-04-13 コニカミノルタ株式会社 行動検知システム、行動検知装置、行動検知方法、および行動検知プログラム
JP2017098180A (ja) * 2015-11-27 2017-06-01 株式会社レイトロン 照明装置
JP2018082281A (ja) * 2016-11-15 2018-05-24 キヤノン株式会社 情報処理装置、情報処理装置の制御方法およびプログラム
WO2018163555A1 (ja) * 2017-03-07 2018-09-13 コニカミノルタ株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
JP2019141530A (ja) * 2018-02-23 2019-08-29 パナソニックIpマネジメント株式会社 行動監視システム、及び、行動監視方法

Also Published As

Publication number Publication date
JPWO2022249635A1 (ja) 2022-12-01

Similar Documents

Publication Publication Date Title
JP7083809B2 (ja) プライバシーの保護を伴う人物の識別しおよび/または痛み、疲労、気分、および意図の識別および定量化のためのシステムおよび方法
JP7296559B2 (ja) 情報処理方法、情報処理プログラム及び情報処理システム
CN107103733B (zh) 一种摔倒报警方法、装置及设备
WO2020125406A1 (zh) 安全监护方法、装置、终端及计算机可读存储介质
JP5674406B2 (ja) 自律移動体を用いた監視システム、監視装置、自律移動体、監視方法、及び監視プログラム
CN105794191B (zh) 识别数据传输装置及方法和识别数据记录装置及方法
JP5301973B2 (ja) 犯罪防止装置およびプログラム
CN110089104B (zh) 事件存储装置、事件搜索装置和事件警报装置
JP2021086605A (ja) イベントの防止及び予測のためのシステム及び方法、コンピュータ実施方法、プログラム、及びプロセッサ
JP2007272488A (ja) 画像処理装置、監視カメラ及び画像監視システム
JP5355446B2 (ja) 移動物体追跡システムおよび移動物体追跡方法
JP2010239992A (ja) 人物同定装置、人物同定方法、及び人物同定プログラム
JP2010244089A (ja) 人物検出装置、人物検出方法、及び人物検出プログラム
JP2021132267A (ja) 映像監視システムおよび映像監視方法
JP2017212495A (ja) 撮影制御装置、プログラム及び方法
CN112036267A (zh) 一种目标检测方法、装置、设备和计算机可读存储介质
Mansoor et al. A machine learning approach for non-invasive fall detection using Kinect
JP2020522828A (ja) コンピュータービジョンベースの監視システムおよび方法
JP5143780B2 (ja) 監視装置及び監視方法
WO2022249635A1 (ja) 行動検知システムおよび行動検知プログラム
JP2019030628A (ja) 情報提供装置、情報提供システム、情報提供方法、及びプログラム
CN107730810A (zh) 一种基于图像的家庭室内监控方法、系统
JP2012124658A (ja) 特定人物検知システムおよび検知方法
US20200103286A1 (en) Notification control device, notification control system, and notification control method
JP5188840B2 (ja) 警備装置および更新方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 22810916

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2023524018

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE