JP6733765B1 - 処理装置、処理方法及びプログラム - Google Patents

処理装置、処理方法及びプログラム Download PDF

Info

Publication number
JP6733765B1
JP6733765B1 JP2019060653A JP2019060653A JP6733765B1 JP 6733765 B1 JP6733765 B1 JP 6733765B1 JP 2019060653 A JP2019060653 A JP 2019060653A JP 2019060653 A JP2019060653 A JP 2019060653A JP 6733765 B1 JP6733765 B1 JP 6733765B1
Authority
JP
Japan
Prior art keywords
stored
person
feature amount
data
storage unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019060653A
Other languages
English (en)
Other versions
JP2020160883A (ja
Inventor
哲史 野中
哲史 野中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2019060653A priority Critical patent/JP6733765B1/ja
Priority to US16/830,685 priority patent/US11321948B2/en
Priority to JP2020118277A priority patent/JP7302539B2/ja
Application granted granted Critical
Publication of JP6733765B1 publication Critical patent/JP6733765B1/ja
Publication of JP2020160883A publication Critical patent/JP2020160883A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/103Static body considered as a whole, e.g. static pedestrian or occupant recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • G06V40/169Holistic features and representations, i.e. based on the facial image taken as a whole
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Image Analysis (AREA)
  • Alarm Systems (AREA)

Abstract

【課題】従来にない手法で不審者を検出する技術を提供する。【解決手段】本発明は、画像から検出された人物の複数種類の特徴量を抽出する画像解析部11と、抽出された特徴量に基づき、複数の人物各々の特徴量を記憶した記憶部13に検出された人物のデータが記憶されているか判断する登録管理部12と、検出された人物のデータが記憶されていると判断された場合、記憶部13に記憶されている特徴量と、抽出された特徴量とに基づき、検出された人物の外観の変化の有無を判断する変化判断部14と、外観の変化が有ると判断された人物を通知する通知部15とを有する処理装置10を提供する。【選択図】図2

Description

本発明は、処理装置、処理方法及びプログラムに関する。
特許文献1は、画像に映る人物を追跡して動線を算出し、算出した動線と、異常行動を示す動線とを照合することで、異常行動を行う不審者を検出する技術を開示している。
特開2006−236255号公報
不審者の特徴は、特許文献1に開示されている動線異常に限らず、各種存在する。不審者検出に利用できる特徴の種類が増加すれば、不審者の検出精度が向上する。本発明は、従来にない手法で不審者を検出する技術を提供することを課題とする。
本発明によれば、
画像から検出された人物の複数種類の特徴量を抽出する画像解析手段と、
抽出された前記特徴量に基づき、複数の人物各々の前記特徴量を記憶した記憶部に前記検出された人物のデータが記憶されているか判断する登録管理手段と、
前記検出された人物のデータが記憶されていると判断された場合、前記記憶部に記憶されている前記特徴量と、抽出された前記特徴量とに基づき、前記検出された人物の外観の変化の有無を判断する変化判断手段と、
を有し、
前記登録管理手段は、
複数種類の特徴量の中の少なくとも1つにおいて、類似度が閾値F以上、又は、
複数種類の特徴量の中の2つ以上において、類似度が閾値L以上、
を満たす人物の特徴量が前記記憶部に記憶されている場合、前記検出された人物のデータが前記記憶部に記憶されていると判断し、
閾値F及びLは特徴量の種類ごとに定められ、FはLより大きい処理装置が提供される。
また、本発明によれば、
コンピュータが、
画像から検出された人物の複数種類の特徴量を抽出し、
抽出された前記特徴量に基づき、複数の人物各々の前記特徴量を記憶した記憶部に前記検出された人物のデータが記憶されているか判断し、
前記検出された人物のデータが記憶されていると判断された場合、前記記憶部に記憶されている前記特徴量と、抽出された前記特徴量とに基づき、前記検出された人物の外観の変化の有無を判断し、
前記検出された人物のデータが前記記憶部に記憶されているか否かの判断において、
複数種類の特徴量の中の少なくとも1つにおいて、類似度が閾値F以上、又は、
複数種類の特徴量の中の2つ以上において、類似度が閾値L以上、
を満たす人物の特徴量が前記記憶部に記憶されている場合、前記検出された人物のデータが前記記憶部に記憶されていると判断し、
閾値F及びLは特徴量の種類ごとに定められ、FはLより大きい処理方法が提供される。
また、本発明によれば、
コンピュータを、
画像から検出された人物の複数種類の特徴量を抽出する画像解析手段、
抽出された前記特徴量に基づき、複数の人物各々の前記特徴量を記憶した記憶部に前記検出された人物のデータが記憶されているか判断する登録管理手段、
前記検出された人物のデータが記憶されていると判断された場合、前記記憶部に記憶されている前記特徴量と、抽出された前記特徴量とに基づき、前記検出された人物の外観の変化の有無を判断する変化判断手段、
として機能させ、
前記登録管理手段は、
複数種類の特徴量の中の少なくとも1つにおいて、類似度が閾値F以上、又は、
複数種類の特徴量の中の2つ以上において、類似度が閾値L以上、
を満たす人物の特徴量が前記記憶部に記憶されている場合、前記検出された人物のデータが前記記憶部に記憶されていると判断し、
閾値F及びLは特徴量の種類ごとに定められ、FはLより大きいプログラムが提供される。
本発明によれば、従来にない手法で不審者を検出する技術が実現される。
本実施形態の処理装置のハードウエア構成の一例を示す図である。 本実施形態の処理装置の機能ブロック図の一例である。 本実施形態の処理装置が処理する情報の一例を模式的に示す図である。 本実施形態の処理装置の処理の流れの一例を示すフローチャートである。 本実施形態の処理装置の処理の流れの一例を示すフローチャートである。 本実施形態の処理装置の処理の流れの一例を示すフローチャートである。 本実施形態の処理システムの機能ブロック図の一例である。 本実施形態の処理装置が出力する情報の一例を模式的に示す図である。 本実施形態の処理装置が出力する情報の一例を模式的に示す図である。
本発明者は、不審者の特徴の1つである「外観の変化」に着目した。例えば、変装による外観の変化(顔の変化、体型の変化、服装の変化、所持物の変化等)や、服の中に何かを隠すことによる外観の変化(体型の変化、歩容の変化、所持物の変化等)や、不審物を放置することによる外観の変化(所持物の変化等)等が例示される。本実施形態の処理装置は、画像に映る不特定多数の人物の中から、外観が変化した人物を検出する機能を有する。以下、詳細に説明する。
まず、処理装置のハードウエア構成の一例について説明する。処理装置が備える各機能部は、任意のコンピュータのCPU(Central Processing Unit)、メモリ、メモリにロードされるプログラム、そのプログラムを格納するハードディスク等の記憶ユニット(あらかじめ装置を出荷する段階から格納されているプログラムのほか、CD(Compact Disc)等の記憶媒体やインターネット上のサーバ等からダウンロードされたプログラムをも格納できる)、ネットワーク接続用インターフェイスを中心にハードウエアとソフトウエアの任意の組合せによって実現される。そして、その実現方法、装置にはいろいろな変形例があることは、当業者には理解されるところである。
図1は、処理装置のハードウエア構成を例示するブロック図である。図1に示すように、処理装置は、プロセッサ1A、メモリ2A、入出力インターフェイス3A、周辺回路4A、バス5Aを有する。周辺回路4Aには、様々なモジュールが含まれる。処理装置は周辺回路4Aを有さなくてもよい。なお、処理装置は物理的及び/又は論理的に分かれた複数の装置で構成されてもよいし、物理的及び/又は論理的に一体となった1つの装置で構成されてもよい。処理装置が物理的及び/又は論理的に分かれた複数の装置で構成される場合、複数の装置各々が上記ハードウエア構成を備えることができる。
バス5Aは、プロセッサ1A、メモリ2A、周辺回路4A及び入出力インターフェイス3Aが相互にデータを送受信するためのデータ伝送路である。プロセッサ1Aは、例えばCPU、GPU(Graphics Processing Unit)などの演算処理装置である。メモリ2Aは、例えばRAM(Random Access Memory)やROM(Read Only Memory)などのメモリである。入出力インターフェイス3Aは、入力装置、外部装置、外部サーバ、外部センサー、カメラ等から情報を取得するためのインターフェイスや、出力装置、外部装置、外部サーバ等に情報を出力するためのインターフェイスなどを含む。入力装置は、例えばキーボード、マウス、マイク、物理ボタン、タッチパネル等である。出力装置は、例えばディスプレイ、スピーカ、プリンター、メーラ等である。プロセッサ1Aは、各モジュールに指令を出し、それらの演算結果をもとに演算を行うことができる。
次に、処理装置10の機能構成を説明する。図2は、処理装置10の機能ブロック図の一例を示す。図示するように、処理装置10は、画像解析部11と、登録管理部12と、記憶部13と、変化判断部14と、通知部15とを有する。なお、処理装置10は記憶部13を有さなくてもよい。この場合、処理装置10と通信可能に構成された外部装置が、記憶部13を備える。
画像解析部11は、画像から人物を検出し、検出された人物の複数種類の特徴量を抽出する。複数種類の特徴量は画像から検出できるものであり、例えば、顔の特徴量、体型の特徴量、服装の特徴量、歩容の特徴量、所持物の特徴量等が例示されるがこれらに限定されない。画像から人物を検出する手段、及び、これら特徴量を抽出する手段は広く知られているので、ここでの説明は省略する。
登録管理部12は、画像解析部11により抽出された特徴量に基づき、複数の人物各々の特徴量を記憶した記憶部13に、画像解析部11により検出された人物のデータが記憶されているか判断する。そして、登録管理部12は、画像解析部11により検出された人物のデータが記憶部13に記憶されていないと判断した場合、画像解析部11により検出された人物各々を識別する検出人物識別情報(例:通番)を新たに発行し、新たに発行した検出人物識別情報と画像解析部11により抽出された特徴量とを対応付けて記憶部13に登録する。
図3に、記憶部13が記憶する情報の一例を模式的に示す。図示する例では、検出人物識別情報と、検出日時と、画像解析部11による画像解析で抽出された各人物の特徴量とが互いに対応付けて登録されている。検出日時は、登録されている特徴量を抽出した画像の撮影日時である。
ここで、登録管理部12が、画像解析部11により検出された人物のデータが記憶部13に記憶されているか判断する手法を説明する。登録管理部12は、画像解析部11により抽出された特徴量と、記憶部13に記憶されている複数の人物各々の特徴量との類似度に基づき、上記判断を行うことができる。以下、当該判断の具体例を説明する。
例えば、以下の検索条件1乃至検索条件3のいずれかである検索条件、または、以下の検索条件1乃至検索条件3の中の任意の2つ以上を論理和で繋いだ検索条件が、記憶部13に記憶されていてもよい。
そして、登録管理部12は、その検索条件を満たす人物(対象人物)のデータが記憶部13に記憶されている場合、画像解析部11により検出された人物のデータが記憶部13に記憶されていると判断し、その検索条件を満たす人物のデータが記憶部13に記憶されていない場合、画像解析部11により検出された人物のデータが記憶部13に記憶されていないと判断してもよい。
(検索条件1)「所定種類の特徴量において、画像解析部11により抽出された特徴量との類似度が登録判定閾値以上」
検索条件1の具体例は、例えば以下の検索条件1−1乃至検索条件1−6の中の何れかである。
(検索条件1−1)「顔の特徴量において、画像解析部11により抽出された特徴量との類似度が登録判定閾値F1以上」
(検索条件1−2)「体型の特徴量において、画像解析部11により抽出された特徴量との類似度が登録判定閾値F2以上」
(検索条件1−3)「歩容の特徴量において、画像解析部11により抽出された特徴量との類似度が登録判定閾値F3以上」
(検索条件1−4)「服装の特徴量において、画像解析部11により抽出された特徴量との類似度が登録判定閾値F4以上」
(検索条件1−5)「所持物の特徴量において、画像解析部11により抽出された特徴量との類似度が登録判定閾値F5以上」
(検索条件1−6)「(検索条件1−1)乃至(検索条件1−5)の中の任意の2つ以上を論理和で繋いだ条件」
登録判定閾値F1乃至F5は、各種特徴量に応じた値とすることができる。なお、ここでは顔、体型、歩容、服装、所持物を用いた具体例を示したが、その他の種類の特徴量を利用する場合も同様にして検索条件を作成することができる。
(検索条件2)「所定の2種以上の特徴量の全てにおいて、画像解析部11により抽出された特徴量との類似度が各種特徴量毎に指定された登録判定閾値以上」
検索条件2の具体例は、以下の検索条件2−1乃至検索条件2−5の中の任意の2つ以上を論理積で繋いだものである。
(検索条件2−1)「顔の特徴量において、画像解析部11により抽出された特徴量との類似度が登録判定閾値L1(L1<F1)以上」
(検索条件2−2)「体型の特徴量において、画像解析部11により抽出された特徴量との類似度が登録判定閾値L2(L2<F2)以上」
(検索条件2−3)「歩容の特徴量において、画像解析部11により抽出された特徴量との類似度が登録判定閾値L(L3<F3)以上」
(検索条件2−4)「服装の特徴量において、画像解析部11により抽出された特徴量との類似度が登録判定閾値L4(L4<F4)以上」
(検索条件2−5)「所持物の特徴量において、画像解析部11により抽出された特徴量との類似度が登録判定閾値L5(L5<F5)以上」
また、検索条件2の他の具体例は、上記検索条件2−1乃至検索条件2−5を異なる組み合わせでかつ論理積で繋いだ複数の条件を、論理和で繋いだものである。
登録判定閾値L1乃至L5は、各種特徴量に応じた値とすることができる。なお、ここでは顔、体型、歩容、服装、所持物を用いた具体例を示したが、その他の種類の特徴量を利用する場合も同様にして検索条件を作成することができる。
(検索条件3)「複数種類の特徴量各々における画像解析部11により抽出された特徴量との類似度に基づき算出された類似スコアがスコア閾値以上」
登録管理部12は、記憶部13に記憶されている複数の人物のデータ各々に対して、類似スコア算出するための以下の処理1乃至処理3を実行する。
(処理1)「複数種類の特徴量各々において、画像解析部11により抽出された特徴量との類似度を算出する」
(処理2)「各種特徴量毎に算出した類似度と、各種特徴量毎に予め指定された重み係数との積を算出する」
(処理3)「各種特徴量毎に算出した類似度と重み係数の積を足し合わせて類似スコアを算出する」
なお、人物を識別できる精度がより高い特徴量の重み係数がより大きくなる。例えば、重み係数の大小は、「顔の特徴量」>「体型の特徴量」>「歩容の特徴量」>「服装の特徴量」>「所持物の特徴量」となる。
図2に戻り、変化判断部14は、画像解析部11により検出された人物のデータが記憶部13に記憶されていると判断された場合、記憶部13に記憶されている特徴量と、画像解析部11により抽出された特徴量とに基づき、検出された人物の外観の変化の有無を判断する。
変化判断部14は、複数種類の特徴量の中の少なくとも1種類の特徴量において、画像解析部11により抽出された特徴量(画像解析部11により検出された人物の特徴量)と、記憶部13に記憶されているその人物の特徴量との類似度が変化検出閾値未満である場合、その人物の外観の変化が有ったと判断する。一方、変化判断部14は、複数種類の特徴量の中の全ての特徴量において、画像解析部11により抽出された特徴量(画像解析部11により検出された人物の特徴量)と、記憶部13に記憶されているその人物の特徴量との類似度が変化検出閾値以上である場合、その人物の外観の変化がないと判断する。
変化検出閾値は、各種特徴量毎に指定することができる。なお、各種特徴量の変化検出閾値は、各種特徴量の登録判定閾値より大きくてもよい。
なお、登録管理部12が上記検索条件1を満たす人物のデータが記憶部13に記憶されていることにより、画像解析部11により検出された人物のデータが記憶部13に記憶されていると判断した場合、変化判断部14は、第1の種類(類似度が登録判定閾値以上だった種類)と異なる第2の種類の特徴量に基づき、検出された人物の外観の変化の有無を判断することができる。すなわち、変化判断部14は、第2の種類の特徴量において、画像解析部11により抽出されたその人物の特徴量と、記憶部13に記憶されているその人物の特徴量との類似度が変化検出閾値未満であるか判断することで、その人物の外観の変化の有無を判断する。このように、検索条件1に基づき、画像解析部11により検出された人物のデータが記憶部13に記憶されていると判断された場合には、第1の種類と異なる第2の種類の特徴量に基づき、外観の変化の有無を判断できる。
また、登録管理部12が上記検索条件2又は3を満たす人物のデータが記憶部13に記憶されていることにより、画像解析部11により検出された人物のデータが記憶部13に記憶されていると判断した場合、変化判断部14は、複数種類の特徴量の全てに基づき、検出された人物の外観の変化の有無を判断することができる。すなわち、変化判断部14は、複数種類の特徴量各々において、画像解析部11により抽出されたその人物の特徴量と、記憶部13に記憶されているその人物の特徴量との類似度が変化検出閾値未満であるか判断することで、その人物の外観の変化の有無を判断する。このように、検索条件2又は3に基づき、画像解析部11により検出された人物のデータが記憶部13に記憶されていると判断された場合には、複数種類の特徴量の全てに基づき、外観の変化の有無を判断できる。
通知部15は、外観の変化が有ると判断された人物を通知する。例えば、通知部15は、外観の変化が有ると判断された人物のリストを作成し、出力してもよい。図8に、当該リストの一例を模式的に示す。図示するように、当該リストは、外観の変化があると判断された人物の変化前後の情報及び変化内容を示す情報を含んでもよい。変化前後の情報は、変化前後の画像や、各画像の撮影日時及び撮影場所等の情報を含んでもよい。画像は静止画像であってもよいし、動画像であってもよい。例えば、通知部15は、歩容等のように、静止画像ではその内容を把握できない種類の特徴が変化した場合、変化前後の情報として、動画像をリストに含めてもよい。そして、通知部15は、顔、体型、服装、所持物等のように、静止画像でその内容を把握できる種類の特徴が変化した場合、変化前後の情報として、静止画像をリストに含めてもよい。リストの出力は、ディスプレイ、投影装置、プリンター、メーラ等のあらゆる出力装置を介して実現される。
その他、画像解析部11、登録管理部12及び変化判断部14がリアルタイム処理で上述した処理を実行している場合、通知部15は、ある人物の外観の変化が有ったと変化判断部14が判断すると、それに応じて、オペレータに警告する警告処理を実行してもよい。警告処理は、スピーカを介した警告音の出力、ディスプレイへの警告情報の表示、投影装置による警告情報の投影、メーラによる所定の通知先への警告情報の送信、警告ランプの点灯等が例示されるが、これらに限定されない。例えば、通知部15は、図9に示すように、カメラが撮影した画像をリアルタイムに表示するディスプレイにおいて、警告情報を表示してもよい。図示するように、通知部15は、外観の変化があると判断された人物に対応付けて、変化前の情報及び変化内容を示す情報を含んでもよい。変化前の情報は、変化前の画像や、その画像の撮影日時及び撮影場所等の情報を含んでもよい。画像は静止画像であってもよいし、動画像であってもよい。例えば、通知部15は、歩容等のように、静止画像ではその内容を把握できない種類の特徴が変化した場合、変化前の情報の中に動画像を含めてもよい。そして、通知部15は、顔、体型、服装、所持物等のように、静止画像でその内容を把握できる種類の特徴が変化した場合、変化前の情報の中に静止画像を含めてもよい。
なお、通知部15による通知手段は上記例に限定されず、その他の手段を採用することもできる。
次に、図4のフローチャートを用いて、処理装置10の処理の流れの一例を説明する。
画像解析部11は、処理対象の画像を取得すると(S101)、画像から人物を検出し(S102)、検出した人物の複数種類の特徴量を抽出する(S103)。画像解析部11は、カメラが生成した画像をリアルタイム処理で取得してもよい。
その後、登録管理部12は、S103で抽出された特徴量に基づき記憶部13を検索し、S102で検出された人物のデータが記憶部13に記憶されているか確認する(S104)。ここで、S104の処理の流れの一例を、図5のフローチャートを用いて説明する。
まず、S201では、登録管理部12は、上述した検索条件1を満たす人物のデータが記憶部13に記憶されているか確認する。検索条件1を満たす人物のデータが記憶部13に記憶されている場合(S201のYes)、登録管理部12は、S102で検出された人物のデータが記憶部13に記憶されていると判断する(S204)。一方、検索条件1を満たす人物のデータが記憶部13に記憶されていない場合(S201のNo)、登録管理部12は、S202に進む。
S202では、登録管理部12は、上述した検索条件2を満たす人物のデータが記憶部13に記憶されているか確認する。検索条件2を満たす人物のデータが記憶部13に記憶されている場合(S202のYes)、登録管理部12は、S102で検出された人物のデータが記憶部13に記憶されていると判断する(S204)。一方、検索条件2を満たす人物のデータが記憶部13に記憶されていない場合(S202のNo)、登録管理部12は、S203に進む。
S203では、登録管理部12は、上述した検索条件3を満たす人物のデータが記憶部13に記憶されているか確認する。検索条件3を満たす人物のデータが記憶部13に記憶されている場合(S203のYes)、登録管理部12は、S102で検出された人物のデータが記憶部13に記憶されていると判断する(S204)。一方、検索条件3を満たす人物のデータが記憶部13に記憶されていない場合(S203のNo)、登録管理部12は、S102で検出された人物のデータが記憶部13に記憶されていないと判断する(S205)。
なお、ここでは、検索条件1乃至検索条件3を論理和で繋いだ検索条件に基づき、S102で検出された人物のデータが記憶部13に記憶されているか判断する例を説明したが、上述の通り、検索条件1乃至検索条件3のいずれかを検索条件としてもよいし、検索条件1乃至検索条件3の中の任意の2つを論理和で繋いだものを検索条件としてもよい。また、検索条件1乃至3の適用順は、図5に示す例に限定されない。
図4に戻り、S102で検出された人物のデータが記憶部13に記憶されていないと判断された場合(S105のNo)、登録管理部12は、S103で抽出された特徴量を記憶部13に登録する。すなわち、登録管理部12は、新たな検出人物識別情報を発行し、新たに発行した検出人物識別情報とS103で抽出された特徴量とを対応付けて、記憶部13に記憶させる。その後、処理装置10は、処理を終了する入力なければ(S109のNo)、S101に戻って処理を繰り返す。
一方、S102で検出された人物のデータが記憶部13に記憶されていると判断された場合(S105のYes)、変化判断部14は、記憶部13に記憶されている特徴量と、S103で抽出された特徴量とに基づき、S102で検出された人物の外観の変化の有無を判断する(S106)。ここで、S106の処理の流れの一例を、図6のフローチャートを用いて説明する。
まず、変化判断部14は、S102で検出された人物のS103で抽出された特徴量と、S102で検出された人物の記憶部13に記憶されている特徴量との類似度を、各種特徴量毎に算出する(S301)。次いで、変化判断部14は、各種特徴量毎に算出した類似度と、各種特徴量毎に指定された変化検出閾値とを大小比較する(S302)。
そして、類似度が変化検出閾値未満である特徴量がある場合(S303のYes)、変化判断部14は、S102で検出された人物の外観の変化があると判断する(S304)。一方、類似度が変化検出閾値未満である特徴量がない場合(S303のNo)、変化判断部14は、S102で検出された人物の外観の変化がないと判断する(S305)。
なお、S104及びS105において、登録管理部12が検索条件1(第1の種類の特徴量において、画像解析部11により抽出された特徴量との類似度が登録判定閾値以上)を満たす人物のデータが記憶部13に記憶されていることにより、画像解析部11により検出された人物のデータが記憶部13に記憶されていると判断した場合、変化判断部14は、第1の種類と異なる第2の種類の特徴量各々の類似度に基づき、図6の処理を行ってもよい。すなわち、第1の種類の特徴量は、登録管理部12による処理により十分に類似していることが確認済みなので、図6の処理の対象から外してもよい。このようにすれば、コンピュータの処理負担を軽減できる。
図4に戻り、S102で検出された人物の外観の変化があると判断された場合(S107のYes)、通知部15はその人物をオペレータに通知する(S108)。例えば、通知部15は、スピーカを介した警告音の出力、ディスプレイへの警告情報の表示、投影装置による警告情報の投影、メーラによる所定の通知先への警告情報の送信、警告ランプの点灯等を実行する。上記警告情報には、外観の変化が有ると判断された人物の画像(例:外観の変化前後の画像)が含まれてもよい。その後、処理装置10は、処理を終了する入力なければ(S109のNo)、S101に戻って処理を繰り返す。
なお、S102で検出された人物の外観の変化がないと判断された場合(S107のNo)、処理装置10は、処理を終了する入力なければ(S109のNo)、S101に戻って処理を繰り返す。
次に、図7に、処理装置10を含む処理システムの機能ブロック図の一例を示す。図示するように、処理システムは、処理装置10と、複数のカメラ20とを有する。処理装置10と複数のカメラ20とは有線及び/又は無線で互いに接続し、通信可能になっている。処理装置10は、複数のカメラ20各々から、各カメラ20が生成した画像を取得する。
なお、本明細書において、「取得」とは、ユーザ入力に基づき、又は、プログラムの指示に基づき、「自装置が他の装置や記憶媒体に格納されているデータを取りに行くこと(能動的な取得)」、たとえば、他の装置にリクエストまたは問い合わせして受信すること、他の装置や記憶媒体にアクセスして読み出すこと等、および、ユーザ入力に基づき、又は、プログラムの指示に基づき、「自装置に他の装置から出力されるデータを入力すること(受動的な取得)」、たとえば、配信(または、送信、プッシュ通知等)されるデータを受信すること、また、受信したデータまたは情報の中から選択して取得すること、及び、「データを編集(テキスト化、データの並び替え、一部データの抽出、ファイル形式の変更等)などして新たなデータを生成し、当該新たなデータを取得すること」の少なくともいずれか一方を含む。
カメラ20は、動画像又は所定時間毎に静止画像を生成し、生成した画像を処理装置10に送信する。カメラ20は、生成した画像をリアルタイム処理で処理装置10に送信してもよいし、バッチ処理で処理装置10に送信してもよい。
複数のカメラ20は、同一の施設内に設置されてもよい。施設は、駅、空港、ビル、公園、ショッピングモール等が例示されるが、これらに限定されない。ある施設にカメラ20を設定することで、処理装置10は、その施設に入場した人物のデータを記憶部13に記憶させ、その施設にいる間に外観が変化した人物を検出することができる。
例えば、複数のカメラ20の中の1台は、ある施設の出入口に設置され、当該施設に入場する人を撮影してもよい。このようにすれば、施設に入場する人のデータを漏らさず記憶部13に登録できる確率が高くなる。また、複数のカメラ20の中の1台は、その施設内のトイレや更衣室等、不審者が外観を変化させる場所として選択する可能性が高い場所の出入口に設置され、そこから出てくる人を撮影してもよい。このようにすれば、高い確率で、外観が変化した人を撮影し、変化判断部14による判断の対象とすることができる。
ここで、本実施形態の変形例を説明する。登録管理部12は、画像解析部11により検出された人物のデータが記憶部13に記憶されているか判断する処理において、記憶部13に記憶されている複数の人物全てのデータを照合対象としてもよいし、一部のデータを照合対象としてもよい。一部のデータを照合対象とする場合、登録管理部12は、検出日時(図3参照)に基づき、照合対象とするデータを絞り込んでもよい。例えば、登録管理部12は、「検出日時からの経過時間が基準時間以内の人物のデータ」や、「検出日が登録管理部12による判断の処理日と同日である人物のデータ」等を、照合対象としてもよい。
処理装置10の他の変形例を説明する。処理装置10は、通知部15を有さなくてもよい。この場合であっても、処理装置10は、少なくとも、画像から検出された人物の複数種類の特徴量を抽出し(画像解析部11)、抽出された特徴量に基づき、複数の人物各々の特徴量を記憶した記憶部13に検出された人物のデータが記憶されているか判断し(登録管理部12)、検出された人物のデータが記憶されていると判断された場合、記憶部13に記憶されている特徴量と、抽出された特徴量とに基づき、検出された人物の外観の変化の有無を判断する(変化判断部14)機能を備える。
以上、説明した本実施形態の処理装置10によれば、画像に映る不特定多数の人物の中から、外観が変化した人物を検出することができる。このため、処理装置10によれば、例えば、変装により外観が変化(顔の変化、体型の変化、服装の変化、所持物の変化等)した不審者や、服の中に何かを隠すことにより外観が変化(体型の変化、歩容の変化、所持物の変化等)した不審者や、不審物を放置することによる外観が変化(所持物の変化等)した不審者等を、画像に映る不特定多数の人物の中から検出することが可能となる。
一例として、処理装置10によれば、空港の税関のトイレ等で服の中に何かを隠すことで、体型や歩容が変化した不審者を、画像に映る不特定多数の人物の中から検出することができる。また、処理装置10によれば、駅等で不審物を放置した不審者を、画像に映る不特定多数の人物の中から検出することができる。また、処理装置10によれば、ショッピングモール等において、試着室で商品を試着後、試着したまま立ち去ることで体型や服装が変化した不審者を、画像に映る不特定多数の人物の中から検出することができる。また、処理装置10によれば、マスクをつけて別人になりすました不審者を、画像に映る不特定多数の人物の中から検出することができる。また、処理装置10によれば、靴の中に不審物を隠すことで歩容が変化した不審者を、画像に映る不特定多数の人物の中から検出することができる。
また、本実施形態の処理装置10によれば、事前に登録していない人の不正行動を既存の映像解析の組み合わせから可能になる。
以上、実施形態(及び実施例)を参照して本願発明を説明したが、本願発明は上記実施形態(及び実施例)に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限定されない。
1. 画像から検出された人物の複数種類の特徴量を抽出する画像解析手段と、
抽出された前記特徴量に基づき、複数の人物各々の前記特徴量を記憶した記憶部に前記検出された人物のデータが記憶されているか判断する登録管理手段と、
前記検出された人物のデータが記憶されていると判断された場合、前記記憶部に記憶されている前記特徴量と、抽出された前記特徴量とに基づき、前記検出された人物の外観の変化の有無を判断する変化判断手段と、
を有する処理装置。
2. 1に記載の処理装置において、
外観の変化が有ると判断された人物を通知する通知手段をさらに有する処理装置。
3. 1又は2に記載の処理装置において、
前記登録管理手段は、前記検出された人物のデータが記憶されていないと判断した場合、抽出された前記特徴量を前記記憶部に登録する処理装置。
4. 1から3のいずれかに記載の処理装置において、
前記登録管理手段は、第1の種類の前記特徴量において、抽出された前記特徴量との類似度が閾値以上である対象人物のデータが前記記憶部に記憶されている場合、前記検出された人物のデータが記憶されていると判断し、
前記変化判断手段は、前記第1の種類と異なる第2の種類の前記特徴量に基づき、前記検出された人物の外観の変化の有無を判断する処理装置。
5. 1から4のいずれかに記載の処理装置において、
前記登録管理手段は、2種以上の前記特徴量の全てにおいて、抽出された前記特徴量との類似度が各種特徴量毎に指定された登録判定閾値以上である対象人物のデータが前記記憶部に記憶されている場合、前記検出された人物の前記人物情報が記憶されていると判断し、
前記変化判断手段は、複数種類の前記特徴量の中の少なくとも1種類の前記特徴量において、前記対象人物のデータが含む特徴量と抽出された前記特徴量との類似度が各種特徴量毎に指定された変化検出閾値未満である場合、前記検出された人物の外観の変化が有ったと判断し、
前記各種特徴量の前記変化検出閾値は、前記登録判定閾値より大きい処理装置。
6. 1から5のいずれかに記載の処理装置において、
前記登録管理手段は、
前記記憶部に記憶されている複数の人物のデータ各々に対して、
複数種類の前記特徴量各々において、抽出された前記特徴量との類似度を算出し、
各種特徴量毎に算出した前記類似度と、各種特徴量毎に指定された重み係数との積を算出し、
各種特徴量毎に算出した積を足し合わせて類似スコアを算出し、
前記類似スコアが前記スコア閾値以上である対象人物のデータが前記記憶部に記憶されている場合、前記検出された人物の前記人物情報が記憶されていると判断し、
前記変化判断手段は、
複数種類の前記特徴量の中の少なくとも1種類の前記特徴量において、前記対象人物のデータが含む特徴量と抽出された前記特徴量との類似度が各種特徴量毎に指定された変化検出閾値未満である場合、前記検出された人物の外観の変化が有ったと判断する処理装置。
7. コンピュータが、
画像から検出された人物の複数種類の特徴量を抽出し、
抽出された前記特徴量に基づき、複数の人物各々の前記特徴量を記憶した記憶部に前記検出された人物のデータが記憶されているか判断し、
前記検出された人物のデータが記憶されていると判断された場合、前記記憶部に記憶されている前記特徴量と、抽出された前記特徴量とに基づき、前記検出された人物の外観の変化の有無を判断する処理方法。
8. コンピュータを、
画像から検出された人物の複数種類の特徴量を抽出する画像解析手段、
抽出された前記特徴量に基づき、複数の人物各々の前記特徴量を記憶した記憶部に前記検出された人物のデータが記憶されているか判断する登録管理手段、
前記検出された人物のデータが記憶されていると判断された場合、前記記憶部に記憶されている前記特徴量と、抽出された前記特徴量とに基づき、前記検出された人物の外観の変化の有無を判断する変化判断手段、
として機能させるプログラム。
1A プロセッサ
2A メモリ
3A 入出力I/F
4A 周辺回路
5A バス
10 処理装置
11 画像解析部
12 登録管理部
13 記憶部
14 変化判断部
15 通知部

Claims (8)

  1. 画像から検出された人物の複数種類の特徴量を抽出する画像解析手段と、
    抽出された前記特徴量に基づき、複数の人物各々の前記特徴量を記憶した記憶部に前記検出された人物のデータが記憶されているか判断する登録管理手段と、
    前記検出された人物のデータが記憶されていると判断された場合、前記記憶部に記憶されている前記特徴量と、抽出された前記特徴量とに基づき、前記検出された人物の外観の変化の有無を判断する変化判断手段と、
    を有し、
    前記登録管理手段は、
    複数種類の特徴量の中の少なくとも1つにおいて、類似度が閾値F以上、又は、
    複数種類の特徴量の中の2つ以上において、類似度が閾値L以上、
    を満たす人物の特徴量が前記記憶部に記憶されている場合、前記検出された人物のデータが前記記憶部に記憶されていると判断し、
    閾値F及びLは特徴量の種類ごとに定められ、FはLより大きい処理装置。
  2. 請求項1に記載の処理装置において、
    外観の変化が有ると判断された人物を通知する通知手段をさらに有する処理装置。
  3. 請求項1又は2に記載の処理装置において、
    前記登録管理手段は、前記検出された人物のデータが記憶されていないと判断した場合、抽出された前記特徴量を前記記憶部に登録する処理装置。
  4. 請求項1から3のいずれか1項に記載の処理装置において、
    前記登録管理手段は、第1の種類の前記特徴量において、抽出された前記特徴量との類似度が閾値以上である対象人物のデータが前記記憶部に記憶されている場合、前記検出された人物のデータが記憶されていると判断し、
    前記変化判断手段は、前記第1の種類と異なる第2の種類の前記特徴量に基づき、前記検出された人物の外観の変化の有無を判断する処理装置。
  5. 請求項1から4のいずれか1項に記載の処理装置において、
    前記登録管理手段は、2種以上の前記特徴量の全てにおいて、抽出された前記特徴量との類似度が各種特徴量毎に指定された登録判定閾値以上である対象人物のデータが前記記憶部に記憶されている場合、前記検出された人物のデータが記憶されていると判断し、
    前記変化判断手段は、複数種類の前記特徴量の中の少なくとも1種類の前記特徴量において、前記対象人物のデータが含む特徴量と抽出された前記特徴量との類似度が各種特徴量毎に指定された変化検出閾値未満である場合、前記検出された人物の外観の変化が有ったと判断し、
    前記各種特徴量の前記変化検出閾値は、前記登録判定閾値より大きい処理装置。
  6. 請求項1から5のいずれか1項に記載の処理装置において、
    前記登録管理手段は、
    前記記憶部に記憶されている複数の人物のデータ各々に対して、
    複数種類の前記特徴量各々において、抽出された前記特徴量との類似度を算出し、
    各種特徴量毎に算出した前記類似度と、各種特徴量毎に指定された重み係数との積を算出し、
    各種特徴量毎に算出した積を足し合わせて類似スコアを算出し、
    前記類似スコアがスコア閾値以上である対象人物のデータが前記記憶部に記憶されている場合、前記検出された人物のデータが記憶されていると判断し、
    前記変化判断手段は、
    複数種類の前記特徴量の中の少なくとも1種類の前記特徴量において、前記対象人物のデータが含む特徴量と抽出された前記特徴量との類似度が各種特徴量毎に指定された変化検出閾値未満である場合、前記検出された人物の外観の変化が有ったと判断する処理装置。
  7. コンピュータが、
    画像から検出された人物の複数種類の特徴量を抽出し、
    抽出された前記特徴量に基づき、複数の人物各々の前記特徴量を記憶した記憶部に前記検出された人物のデータが記憶されているか判断し、
    前記検出された人物のデータが記憶されていると判断された場合、前記記憶部に記憶されている前記特徴量と、抽出された前記特徴量とに基づき、前記検出された人物の外観の変化の有無を判断し、
    前記検出された人物のデータが前記記憶部に記憶されているか否かの判断において、
    複数種類の特徴量の中の少なくとも1つにおいて、類似度が閾値F以上、又は、
    複数種類の特徴量の中の2つ以上において、類似度が閾値L以上、
    を満たす人物の特徴量が前記記憶部に記憶されている場合、前記検出された人物のデータが前記記憶部に記憶されていると判断し、
    閾値F及びLは特徴量の種類ごとに定められ、FはLより大きい処理方法。
  8. コンピュータを、
    画像から検出された人物の複数種類の特徴量を抽出する画像解析手段、
    抽出された前記特徴量に基づき、複数の人物各々の前記特徴量を記憶した記憶部に前記検出された人物のデータが記憶されているか判断する登録管理手段、
    前記検出された人物のデータが記憶されていると判断された場合、前記記憶部に記憶されている前記特徴量と、抽出された前記特徴量とに基づき、前記検出された人物の外観の変化の有無を判断する変化判断手段、
    として機能させ、
    前記登録管理手段は、
    複数種類の特徴量の中の少なくとも1つにおいて、類似度が閾値F以上、又は、
    複数種類の特徴量の中の2つ以上において、類似度が閾値L以上、
    を満たす人物の特徴量が前記記憶部に記憶されている場合、前記検出された人物のデータが前記記憶部に記憶されていると判断し、
    閾値F及びLは特徴量の種類ごとに定められ、FはLより大きいプログラム。
JP2019060653A 2019-03-27 2019-03-27 処理装置、処理方法及びプログラム Active JP6733765B1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019060653A JP6733765B1 (ja) 2019-03-27 2019-03-27 処理装置、処理方法及びプログラム
US16/830,685 US11321948B2 (en) 2019-03-27 2020-03-26 Appearance detection threshold apparatus, method, and non-transitory storage medium
JP2020118277A JP7302539B2 (ja) 2019-03-27 2020-07-09 処理装置、処理方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019060653A JP6733765B1 (ja) 2019-03-27 2019-03-27 処理装置、処理方法及びプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2020118277A Division JP7302539B2 (ja) 2019-03-27 2020-07-09 処理装置、処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JP6733765B1 true JP6733765B1 (ja) 2020-08-05
JP2020160883A JP2020160883A (ja) 2020-10-01

Family

ID=71892469

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019060653A Active JP6733765B1 (ja) 2019-03-27 2019-03-27 処理装置、処理方法及びプログラム

Country Status (2)

Country Link
US (1) US11321948B2 (ja)
JP (1) JP6733765B1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023152889A1 (ja) * 2022-02-10 2023-08-17 日本電気株式会社 監視装置、監視システム、監視方法及びプログラム
CN115856666B (zh) * 2022-11-28 2024-03-26 伏瓦科技(苏州)有限公司 电池工况数据的处理方法、设备及存储介质

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6525663B2 (en) * 2001-03-15 2003-02-25 Koninklijke Philips Electronics N.V. Automatic system for monitoring persons entering and leaving changing room
JP2006236255A (ja) 2005-02-28 2006-09-07 Mitsubishi Electric Corp 人物追跡装置および人物追跡システム
JP4720880B2 (ja) * 2008-09-04 2011-07-13 ソニー株式会社 画像処理装置、撮像装置、画像処理方法およびプログラム
JP5675145B2 (ja) * 2010-03-30 2015-02-25 キヤノン株式会社 パターン認識装置及びパターン認識方法
JP5956860B2 (ja) * 2012-07-09 2016-07-27 キヤノン株式会社 画像処理装置、画像処理方法、プログラム
JP6280020B2 (ja) * 2014-10-28 2018-02-14 セコム株式会社 移動物体追跡装置
JP6563234B2 (ja) * 2015-03-31 2019-08-21 綜合警備保障株式会社 警備システム及び警備方法
JP6768537B2 (ja) * 2017-01-19 2020-10-14 キヤノン株式会社 画像処理装置、画像処理方法、プログラム

Also Published As

Publication number Publication date
US20200311436A1 (en) 2020-10-01
JP2020160883A (ja) 2020-10-01
US11321948B2 (en) 2022-05-03

Similar Documents

Publication Publication Date Title
CN107909443B (zh) 信息推送方法、装置及系统
CN106210620B (zh) 智能视频分析系统和方法
JP6733765B1 (ja) 処理装置、処理方法及びプログラム
JP2011039959A (ja) 監視システム
JPWO2018179586A1 (ja) 解析システム、解析方法及びプログラム
US20190116310A1 (en) Method of processing object in image and apparatus for same
WO2021056731A1 (zh) 基于日志数据分析的行为检测方法、装置、设备及介质
JP6206627B1 (ja) 情報処理装置、制御方法、及びプログラム
JPWO2018074027A1 (ja) 異常検出装置、制御方法、及びプログラム
WO2018210039A1 (zh) 数据处理方法、数据处理装置及存储介质
JP6536643B2 (ja) 情報処理装置、制御方法、及びプログラム
CN110717432B (zh) 一种物品检测方法、装置和计算机存储介质
JP7423904B2 (ja) 情報出力装置、方法、及びプログラム
JP7302539B2 (ja) 処理装置、処理方法及びプログラム
CN110019374B (zh) 基于特征的数据项处理方法、装置、存储介质及计算机设备
JP2022179725A (ja) 情報処理装置、情報処理システム、情報処理方法及びプログラム
WO2019187107A1 (ja) 情報処理装置、制御方法、及びプログラム
JP6665590B2 (ja) 情報処理装置、情報処理方法、プログラム、及び情報処理システム
WO2022059223A1 (ja) 映像解析システムおよび映像解析方法
JP6773144B2 (ja) コンテンツ選択装置、コンテンツ選択方法、コンテンツ選択システム及びプログラム
US11659273B2 (en) Information processing apparatus, information processing method, and non-transitory storage medium
US20180239782A1 (en) Image processing system, image processing method, and program storage medium
WO2024202017A1 (ja) 判定方法、判定プログラム、および情報処理装置
US20230088964A1 (en) Information processing apparatus, information processing method, and non-transitory storage medium
TWI778673B (zh) 資訊處理裝置、資訊處理方法及程式產品

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190327

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200311

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200324

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200501

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200609

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200622

R150 Certificate of patent or registration of utility model

Ref document number: 6733765

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150