JP6778736B2 - 判定装置およびプログラム - Google Patents

判定装置およびプログラム Download PDF

Info

Publication number
JP6778736B2
JP6778736B2 JP2018247563A JP2018247563A JP6778736B2 JP 6778736 B2 JP6778736 B2 JP 6778736B2 JP 2018247563 A JP2018247563 A JP 2018247563A JP 2018247563 A JP2018247563 A JP 2018247563A JP 6778736 B2 JP6778736 B2 JP 6778736B2
Authority
JP
Japan
Prior art keywords
person
data
unit
score
determination
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018247563A
Other languages
English (en)
Other versions
JP2020107226A (ja
Inventor
加藤 圭
圭 加藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Client Computing Ltd
Original Assignee
Fujitsu Client Computing Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Client Computing Ltd filed Critical Fujitsu Client Computing Ltd
Priority to JP2018247563A priority Critical patent/JP6778736B2/ja
Priority to GB1915762.7A priority patent/GB2580483A/en
Priority to US16/685,403 priority patent/US20200210714A1/en
Priority to CN201911165573.9A priority patent/CN111382659A/zh
Publication of JP2020107226A publication Critical patent/JP2020107226A/ja
Application granted granted Critical
Publication of JP6778736B2 publication Critical patent/JP6778736B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/103Static body considered as a whole, e.g. static pedestrian or occupant recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/23Recognition of whole body movements, e.g. for sport training
    • G06V40/25Recognition of walking or running movements, e.g. gait recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/28Recognition of hand or arm movements, e.g. recognition of deaf sign language

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Psychiatry (AREA)
  • Social Psychology (AREA)
  • Image Analysis (AREA)
  • Alarm Systems (AREA)
  • Burglar Alarm Systems (AREA)

Description

本発明は、判定装置およびプログラムに関する。
従来、例えば、人物の行動から当該人物が不審か否かを判定する装置が知られている。
特開2012−79340号公報
この種の人物を判定する装置では、例えば、新たな観点で人物を判定できれば有意義である。
そこで、本発明の課題の一つは、新規な観点で人物を判定できる判定装置およびプログラムを得ることである。
本発明の第1態様に係る判定装置は、人物の撮像によって得られた画像データに基づいて、前記人物の身体的特徴を示す第1のデータと、前記人物に付属した付属物を示す第2のデータと、を取得する取得部と、前記取得部によって取得された前記第1のデータおよび前記第2のデータから導いた第1の情報と、前記取得部によって取得された前記第2のデータから導いた第2の情報と、に基づいて、前記人物が不審者かを判定する判定部と、前記判定部による前記人物の判定の結果を出力する出力部と、を備え、前記第1の情報は、前記人物の容姿の不審度を示す容姿スコアであり、前記人物の容姿の変化に応じて変動し、前記第2の情報は、前記人物と前記人物の前記付属物との状態の不審度を示す状態スコアであり、前記人物と前記人物の前記付属物との状態の変化に応じて変動する。
前記判定装置では、例えば、前記取得部は、前記画像データに基づいて、前記人物の動きを示す第3のデータを取得し、前記判定部は、前記第1の情報と、前記第2の情報と、前記取得部によって取得された前記第3のデータから導いた第3の情報と、に基づいて、前記人物が不審者かを判定し、前記第3の情報は、前記人物の行動の不審度を示す。
前記判定装置では、例えば、前記取得部は、一または複数の前記第1のデータと一または複数の前記第2のデータとを取得し、前記判定部は、前記取得部によって取得された前記第1のデータおよび前記第2のデータに関連付けされたスコアに基づいて、前記第1の情報を導く。
前記判定装置では、例えば、前記判定部は、前記取得部によって取得された前記第2のデータに関連付けされたスコアに基づいて、前記第2の情報を導く。
前記判定装置では、例えば、前記判定部は、前記取得部によって取得された前記第3のデータに関連付けされたスコアに基づいて前記第3の情報を導く。
本発明の第2態様に係るプログラムは、コンピュータを、人物の撮像によって得られた画像データに基づいて、前記人物の身体的特徴を示す第1のデータと、前記人物に付属した付属物を示す第2のデータと、を取得する取得部と、前記取得部によって取得された前記第1のデータおよび前記第2のデータから導いた第1の情報と、前記取得部によって取得された前記第2のデータから導いた第2の情報と、に基づいて、前記人物が不審者かを判定する判定部と、前記判定部による前記人物の判定の結果を出力する出力部と、として機能させるためのプログラムであって、前記第1の情報は、前記人物の容姿の不審度を示す容姿スコアであり、前記人物の容姿の変化に応じて変動し、前記第2の情報は、前記人物と前記人物の前記付属物との状態の不審度を示す状態スコアであり、前記人物と前記人物の前記付属物との状態の変化に応じて変動する、プログラムである。
本発明の上記態様によれば、例えば、新規な観点で人物を判定できる判定装置およびプログラムを得ることができる。
図1は、実施形態の不審者判定システムの構成の一例を示すブロック図である。 図2は、実施形態の判定装置の構成の一例を示すブロック図である。 図3は、実施形態の判定装置の機能構成の一例を示すブロック図である。 図4は、実施形態の判定装置の物体検出部が実行する物体検出処理の一例を説明するための図である。 図5は、実施形態の判定装置の骨格推定部が実行する骨格推定処理の一例を説明するための図である。 図6は、実施形態の判定装置のデータ抽出部が実行する抽出処理の一例を説明するための図である。 図7は、実施形態の判定装置の行動不審度判定部が実行する行動不審度判定処理の一例を説明するための図ある。 図8は、実施形態の判定装置の行動不審度判定部が実行する行動不審度判定処理の他の一例を説明するための図ある。 図9は、実施形態の判定装置が実行する判定処理によるある時刻の各スコアを説明するための図である。 図10は、実施形態の判定装置が実行する判定処理によるスコアを時系列で示した図である。
以下、本発明の例示的な実施形態が開示される。以下に示される実施形態の構成、ならびに当該構成によってもたらされる作用および効果は、一例である。本発明は、以下の実施形態に開示される構成以外によっても実現可能である。また、本発明によれば、構成によって得られる種々の効果(派生的な効果も含む)のうち少なくとも一つを得ることが可能である。
図1は、実施形態の不審者判定システム1の構成の一例を示すブロック図である。図1に示される不審者判定システム1は、例えば、小売り業等の店舗に入った人物を撮像して得られた画像データに基づいて、当該人物が不審者か否かを判定するものである。以降、不審者か否かの判定対象である人物を対象人物と称する場合もある。
不審者判定システム1は、判定装置2と、カメラ3と、スピーカ4と、操作端末5と、を備えている。判定装置2および操作端末5は、例えば店舗のバックヤード等に設置され、カメラ3およびスピーカ4は、例えば店舗の売り場等に設置されている。判定装置2、カメラ3、スピーカ4、および操作端末5は、LAN(Local Area Network)等の通信ネットワーク6によって互いに通信可能に接続されている。
カメラ3は、カラーの2次元画像データを撮像可能なエリアカメラ(エリアセンサ)として構成されている。カメラ3は、店舗の売り場を撮像し、当該撮像して得た画像データを通信ネットワーク6を介して判定装置2に送信する。売り場に設置されるカメラ3の数は、一つであってもよいし複数であってもよい。カメラ3は、撮像装置とも称される。
スピーカ4は、例えば、指向性を有した音声(音波)を店舗の売り場に出力可能である。スピーカ4は、判定装置2や操作端末5による制御を受けて音声を出力する。売り場に設置されるスピーカ4の数は、一つであってもよいし複数であってもよい。スピーカ4は、出力装置とも称される。
操作端末5は、CPU(Central Processing Unit)と、メモリと、操作装置と、表示装置と、を備えている。メモリは、ROM(Read Only Memory)およびRAM(Random Access Memory)を含む。すなわち、操作端末5は、一般的なコンピュータのハードウェア構成となっている。操作装置は、キーボードやマウス等を含む。表示装置は、例えば液晶表示装置等である。操作端末5は、情報処理装置とも称される。
図2は、実施形態の判定装置2の構成の一例を示すブロック図である。図2に示されるように、判定装置2は、CPU11と、ROMおよびRAMを含むメモリ12と、アクセラレータ13と、通信制御部14と、インターフェース(図2では、I/F)15と、HDD16と、を備えている。メモリ12は、ROMおよびRAMを含む。判定装置2は、コンピュータの一例である。判定装置2は、不審者検出装置とも称される。
CPU11は、メモリ12のROMやHDD16等に記憶されたプログラム(アプリケーション)を読み出して実行する。また、CPU11は、各種演算処理を並列処理可能に構成されている。メモリ12のRAMは、CPU11がプログラムを実行して種々の演算処理を実行する際に用いられる各種データを一時的に記憶する。
アクセラレータ13は、GPU(Graphics Processing Unit)を含み、各種の画像データ処理を実行する。
通信制御部14は、CPU11を通信ネットワーク6を介して他の機器とデータ通信可能にするためのインターフェースである。インターフェース15は、例えばUSB(Universal Serial Bus)等であり、通信ネットワーク6を介さずにCPU11を他の機器とデータ通信可能に接続するためのインターフェースである。本実施形態では、操作端末5、カメラ3、およびスピーカ4は、通信制御部14を介してCPU11と接続されるが、これに限られない。例えば、操作端末5、カメラ3、およびスピーカ4は、通信インターフェース15を介してCPU11と接続されてもよい。
HDD16には、OS(Operating System)、プログラム、各種ファイル等が記憶されている。HDD16に記憶された各種ファイルは、容姿スコアマスタ16aと、状態スコアマスタ16bと、行動スコアマスタ16cと、を含む。容姿スコアマスタ16a、状態スコアマスタ16b、および行動スコアマスタ16cの詳細は、後述する。
図3は、実施形態の判定装置2の機能構成の一例を示すブロック図である。図3に示されるように、判定装置2は、機能的構成として、画像デコード部21と、物体検出部22と、骨格推定部23と、画像切り出し部24と、詳細分類部25と、人物追跡部26と、データ蓄積部27と、データ抽出部28と、データカテゴリー分類部29と、判定部30と、判定結果保存部35と、判定結果通知部36と、を備えている、これらの機能的構成は、CPU11およびアクセラレータ13のGPUがHDD16等に記憶されたプログラムを実行した結果として実現される。一例としては、物体検出部22、骨格推定部23、画像切り出し部24、詳細分類部25、および人物追跡部26は、アクセラレータ13のGPUによって実現され、画像デコード部21、データ蓄積部27、データ抽出部28、データカテゴリー分類部29、判定部30、判定結果保存部35、および判定結果通知部36は、CPU11によって実現される。なお、各機能的構成の分担は、上記に限られない。また、上記の機能的構成の一部または全部が専用のハードウェア(回路)によって実現されてもよい。
画像デコード部21は、カメラ3からの画像データをデコードする。
物体検出部22は、デコードされた画像データから、検出対象の物体(以後、単に物体とも称する)を周知の手法で検出する。物体は、対象人物および当該対象人物の付属物等である。このとき、物体検出部22は、物体の全体および物体を構成するパーツを検出する。例えば、物体検出部22は、対象人物の全体および対象人物を構成するパーツ(手、顔、頭等)を検出する。ここで、図4は、実施形態の判定装置2の物体検出部22が実行する物体検出処理の一例を説明するための図である。図4に示されるように、物体検出部22は、画像データ100の各フレームにおいて、物体(図4では一例として対象人物)を囲む領域を特定する座標を検出する。例えば、画像(高さ:720、幅:1280)の左上の座標を原点(0,0)とした場合、図4に示す例では、物体検出部22は、対象人物を囲む領域(高さ:500、幅:300)の左上の座標(200,200)、左下の座標(200,700)、右上の座標(500,200)、右下の座標(500,700)を検出して、領域を特定する。なお、図4の例では、物体の全体を囲む四角形の領域を特定する座標が示されているが、物体検出部22は、物体のパーツを囲む領域を特定する座標も検出する。また、物体検出部22は、検出した物体の座標の信頼度を周知の方法で算出する。また、物体検出部22は、検出された座標から物体の大きさを推定(算出)する。ここで、対象人物の付属物は、対象人物と一体に移動する物体とも言える。
図3に戻って、画像切り出し部24は、画像データから、物体検出部22によって検出された物体の領域を、物体ごとに切り出す。以後、画像切り出し部24によって切り出された領域を、切り出し画像データとも称する。
詳細分類部25は、切り出し画像データを周知の手法で分類(特定)する。詳細分類部25による分類の一例は、対象人物については、服装、年齢、性別、顔や体の向き等である。詳細分類部25による分類の他の一例は、手については、状態(握り状態、開き状態)等である。また、詳細分類部25による分類の他の一例は、顔については、顔の向き、年齢、性別、表情、眼鏡の有無、視線等である。また、詳細分類部25による分類の他の一例は、頭については、頭の向き、かぶり物の着用の有無、髪型、髪の色等である。また、また、詳細分類部25による分類の他の一例は、収容体については、鞄、リュックサック、ハンドバック、キャリーケース等である。また、詳細分類部25による分類の他の一例は、袋については、紙袋、レジ袋等である。
詳細分類部25は、上記のようにして分類した項目を関連付けして対象人物を示す対象人物データとする。対象人物データは、例えば、年齢、性別、体や顔の向き、付属物の有無、付属物の状態等のうち少なくとも一つを含む。詳細分類部25は、分類結果である対象人物データをデータ蓄積部27に送信する。
人物追跡部26は、周知のトレース技術等の手法によって、物体検出部22によって検出された対象人物の追跡を行なう。これにより、対象人物ごとのデータの抽出が可能となる。人物追跡部26は、追跡の結果を示す追跡データをデータ蓄積部27に送信する。
骨格推定部23は、物体検出部22によって検出された対象人物の骨格を推定(算出)する。具体的には、骨格推定部23は、例えば、首、右肩、右肘等の各点の座標を推定(算出)する。骨格推定部23は、骨格の推定結果を示す骨格データをデータ蓄積部27に送信する。
データ蓄積部27は、詳細分類部25からの対象人物データと、人物追跡部26からの追跡データと、骨格推定部23からの骨格データとを、メモリ12またはHDD16等の記憶部に記憶させる。すなわち、データ蓄積部27は、対象人物データと、追跡データと、骨格データとを、記憶部に蓄積する。
上記の物体検出部22、画像切り出し部24、詳細分類部25、および人物追跡部26が行なう一連の処理と、骨格推定部23が行なう処理は、例えば、機械学習により生成された学習済みモデル(パラメータ)に、画像データを入力することによりなされる。
図6は、実施形態の判定装置2のデータ抽出部28が実行する抽出処理の一例を説明するための図である。図6に示されるように、データ抽出部28は、データ蓄積部27によって蓄積された各種データ(対象人物データ、追跡データ、骨格データ)を対象人物ごとに抽出して抽出データとし、当該抽出データを時系列に並べる。すなわち、データ抽出部28は、画像データ100における対象人物ごとのデータ(対象人物データ、追跡データ、骨格データ)を撮像された画像データのフレームの順に並べる。時系列に並べられた抽出データを時系列データとも称する。
データカテゴリー分類部29は、データ抽出部28によって得られた時系列データに含まれるデータを、静的データ、半動的データ、および動的データに分類する。すなわち、データカテゴリー分類部29は、データ抽出部28によって得られた時系列データから静的データ、半動的データ、および動的データを取得する。データカテゴリー分類部29は、取得部の一例である。静的データは、第1のデータの一例であり、半動的データは、第2のデータの一例であり、動的データは、第3のデータの一例である。
静的データは、対象人物の身体的特徴を示すデータである。具体的には、静的データは、年齢、性別、身長等である。静的データは、直ぐには変化しないものとも言うことができる。静的データは、画像データにおける一または複数のフレームによって検出可能である。本実施形態では、一例として、複数(例えば、10個)のフレームにおいて静的データの候補となる候補データ(年齢、性別、身長等)に変化が無い場合、すなわち当該候補データが同じの場合に、当該候補データを静的データとして確定する。
半動的データは、対象人物に付属した付属物を示すデータである。具体的には、半動的データにおける付属物は、服装、持ち物、乗り物等である。服装には、服装の種類(形)および服装の色が含まれる。服装の種類は、例えば、シャツ(長袖シャツ、半袖シャツ等)、パンツ(ロングパンツ、ショートパンツ等)、スカート、上着(ジャケット、コート等)、かぶり物(帽子、ヘルメット)、学生服、眼鏡、マスク等である。また、持ち物は、物を収容可能な第1収容体(鞄、リュックサック、ハンドバック、キャリーケース、袋等)、物を収容可能な第2収容体袋(紙袋、レジ袋等の袋)、傘、財布、携帯電話、カート等である。乗り物は、ベビーカー、車椅子等である。半動的データは、画像データにおける一または複数のフレームによって検出可能である。本実施形態では、一例として、複数(例えば、50個)のフレームにおいて半動的データの候補となる静的データの候補となる候補データのうち最も多い候補データを半動的データとして確定する。
動的データは、対象人物の動きを示すデータである。具体的には、動的データは、複数のフレームにおける、対象人物の顔の向き、対象人物の手の位置、対象人物の体の向き等である。すなわち、動的データは、対象人物の顔の向き、対象人物の手の位置、対象人物の体の向きの時系列の変化の有無を示す。動的データは、対象人物の動きを特定するためのデータとも言える。
判定部30は、データカテゴリー分類部29によって取得された、静的データ、半動的データ、および動的データに基づいて、対象人物が不審者か否かを判定する。具体的には、判定部30は、静的データ、半動的データ、および動的データから対象人物の不審度を示すスコアを算出し、当該スコアに基づいて、対象人物が不審者か否かを判定する。不審度は、怪しさのレベルを示しものであり、不審度のスコアが高い程、対象人物の不審度が高い。以下、判定部30について詳細に説明する。
判定部30は、容姿不審度判定部31と、状態不審度判定部32と、行動不審度判定部33と、総合不審度判定部34と、を有している。
容姿不審度判定部31は、対象人物の容姿の不審度を判定する。具体的には、容姿不審度判定部31は、データカテゴリー分類部29によって取得された対象人物の静的データおよび半動的データと、HDD16に記憶された容姿スコアマスタ16aとから、対象人物の容姿の不審度を示す容姿スコアを導く(算出する)。容姿スコアは、第1の情報の一例である。
容姿は、静的データが示す対象人物の身体的特徴と、半動的データが示す対象人物と対象人物に付属した付属物との状態と、によって特定される。すなわち、容姿は、例えば、静的データおよび半動的データに基づく。ここで、容姿スコアマスタ16aは、静的データが示す対象人物の身体的特徴と、半動的データが示す対象人物と対象人物に付属した付属物との状態と、のそれぞれに関連付けされたスコアを記憶している。また、容姿スコアマスタ16aは、静的データが示す対象人物の身体的特徴と、半動的データが示す対象人物と対象人物に付属した付属物との状態とのある組み合わせに関連付けされたスコアも記憶している。ここで、上記の組み合わせは、例えば、若者(低年齢層)と茶髪との組み合わせや、高齢者(高年齢層)と茶髪との組み合わせ等である。例えば、若者(低年齢層)と茶髪との組み合わせのスコアは、高齢者(高年齢層)と茶髪との組み合わせのスコアよりも高く設定されている。
容姿不審度判定部31は、静的データが示す対象人物の身体的特徴のスコアと、対象人物と対象人物に付属した付属物との状態のスコアと、対象人物の身体的特徴と半動的データが示す対象人物と対象人物に付属した付属物との状態とのある組み合わせに関連付けされたスコアを、容姿スコアマスタ16aから取得する。容姿不審度判定部31は、取得した一または複数の各スコアの合計を容姿スコアとする。
状態不審度判定部32は、対象人物と当該対象人物の付属物との状態の不審度を判定する。具体的には、状態不審度判定部32は、データカテゴリー分類部29によって取得された対象人物の半動的データおよび動的データと、HDD16に記憶された状態スコアマスタ16bとから、対象人物の状態の不審度を示す状態スコアを導く(算出する)。状態スコアは、第2の情報の一例である。
対象人物と当該対象人物の付属物との状態は、半動的データが示す対象人物と対象人物に付属した付属物との状態によって特定される。すなわち、対象人物の状態は、例えば、半動的データおよび動的データに基づく。ここで、状態スコアマスタ16bは、対象人物と対象人物に付属した付属物との状態のスコアを記憶している。具体的には、状態スコアマスタ16bは、半動的データおよび動的データに関連付けされたスコアを記憶している。状態不審度判定部32は、対象人物と対象人物に付属した付属物との状態のスコアを、状態スコアマスタ16bから取得する。状態不審度判定部32は、取得した一または複数の各スコアの合計を状態スコアとする。
例えば、対象人物と当該対象人物の付属物との状態は、付属物が服装の場合、対象人物が上着を着ている状態や、対象人物が上着を脱いだ状態である。また、対象人物と当該対象人物の付属物との状態は、例えば、付属物がマスクの場合、対象人物がマスクを掛けている状態や対象人物がマスクを外した状態等である。また、対象人物と当該対象人物の付属物との状態は、付属物が鞄の場合、対象人物が鞄を肩から掛けて手が鞄から離れている状態や、対象人物の手が鞄に位置している(鞄の口に手を掛けている)状態、対象人物の手が鞄の中に位置している状態等である。
行動不審度判定部33は、対象人物の行動の不審度を判定する。具体的には、行動不審度判定部33は、データカテゴリー分類部29によって取得された対象人物の動的データと、HDD16に記憶された行動スコアマスタ16cとから、対象人物の行動の不審度を示す行動スコアを導く(算出する)。行動スコアは、第3の情報の一例である。
対象人物の行動は、動的データが示す対象人物の動きによって特定される。すなわち、対象人物の行動は、例えば、動的データに基づく。ここで、行動スコアマスタ16cは、動的データが示す対象人物の動きに関連付けされたスコアを記憶している。行動不審度判定部33は、対象人物の行動のスコアを、行動スコアマスタ16cから取得する。行動不審度判定部33は、取得した一または複数の各スコアの合計を行動スコアとする。
図7は、実施形態の判定装置2の行動不審度判定部33が実行する行動不審度判定処理の一例を説明するための図ある。図8は、実施形態の判定装置2の行動不審度判定部33が実行する行動不審度判定処理の他の一例を説明するための図ある。図7に示されるように、行動不審度判定部33は、胴体に対する顔の向きの角度の変化である顔の振れ幅が45度以上となる行動が3秒間に2回以上行なわれた場合には、対象人物が周囲を気にする第1の行動を行なったと判定する。第1の行動は、所謂キョロキョロと顔を動かす行動である。このとき、行動不審度判定部33は、対象人物の顔が会計場所(レジスターの場所)方を繰り返し向くという行動(動作)も検出可能である。なお、この場合、行動不審度判定部33は、会計場所(レジスターの場所)等を含む店舗内のレイアウトを示すレイアウト情報をHDD16等の記憶部から取得する。また、図8に示されるように、行動不審度判定部33は、体(胴体)をある向きにから135度以上回転させて4秒以内にある向きに戻す行動が行なわれた場合には、対象人物が周囲を気にする第2の行動を行なったと判定する。
総合不審度判定部34は、容姿不審度判定部31の判定結果と、状態不審度判定部32の判定結果と、行動不審度判定部33の判定結果と、に基づいて、対象人物が不審者か否かを判定する。
一例として、総合不審度判定部34は、容姿不審度判定部31が算出した容姿スコアと、状態不審度判定部32が算出した状態スコアと、行動不審度判定部33が算出した行動スコアとの合計値(以後、合計スコアとも称する)を算出する。そして、総合不審度判定部34は、合計スコアが閾値以上の場合には、対象人物は不審者であると判定する。総合不審度判定部34は、合計スコアが閾値未満の場合には、対象人物は不審者ではないと判定する。
別の一例として、総合不審度判定部34は、合計スコアの算出において、容姿スコアと、状態スコアと、行動スコアと、のいずれかに規定の重み付けを行なう。
また、別の一例として、総合不審度判定部34は、容姿スコアと状態スコアと行動スコアとのうち二つ以上が、容姿スコアと状態スコアと行動スコアとのそれぞれに設定された閾値を超えた場合には、対象人物は不審者であると判定する。総合不審度判定部34は、容姿スコアと状態スコアと行動スコアとのうち二つ以上が、容姿スコアと状態スコアと行動スコアとのそれぞれに設定された閾値を超えない場合には、対象人物は不審者ではないと判定する。
次に、上記の各スコアの具体的な例を図9および図10を参照して説明する。図9は、実施形態の判定装置2が実行する判定処理によるある時刻の各スコアを説明するための図である。対象人物のある時刻の各スコアは、図9に示されるように関連付けされて一つにまとめられる。これにより、総合不審度判定部34が、合計スコアを算出することができる。図9の例では、対象人物の容姿(図9では、容姿)において、10代、暗い色の服の服装等の項目に対してスコアが付されている。また、図9の例では、対象人物と付属物との状態(図9では状態)において、口元が隠れている、目元が隠れている、鞄に手を掛けている、という項目に対してスコアが付されている。また、図9の例では、対象人物の行動(図9では行動)において、周囲を気にする第1の行動(図9では、周囲を気にする(1))、周囲を気にする第2の行動(図9では、周囲を気にする(2))という項目に対してスコアが付されている。
図10は、実施形態の判定装置2が実行する判定処理によるある時刻の各スコアを説明するための図である。図10には、対象人物の容姿に関しては、暗い色の服を着ている状態から、白の上着を着た状態を経て、再び暗い色の服を着た状態に変化した例が示されている。この場合、容姿スコアは、対象人物が、暗い色(例えば黒)の服を着ている状態では、規定の値となり、対象人物が白の上着を着た状態では、暗い色(例えば黒)の服を着ている状態よりも低い値(例えば、零)となる。
また、図10には、対象人物と対象人物に付属した付属物との状態に関しては、目元が隠れた状態から、目元および口元が隠れた状態を経て、目元および口元が隠れるとともに鞄に手を掛けている状態に変化した例が示されている。目元が隠れた状態は、例えばサングラス等によるものであり、口元が隠れるのは、例えばマスク等によるものである。この場合、容姿スコアは、目元が隠れた状態、目元および口元が隠れた状態、目元および口元が隠れるとともに鞄に手を掛けている状態の順に高い値となる。
また、図10には、対象人物の行動に関しては、周囲を気にする第1の行動(図10では、周囲を気にする(1))が間隔を空けて行なわれた後、周囲を気にする第2の行動が行なわれた例が示されている。この場合、行動スコアは、周囲を気にする第1の行動が行なわれている間は、規定のスコアとなり、周囲を気にする第2の行動が行なわれている間は、周囲を気にする第1の行動が行なわれている間の規定の値よりも高い値となる。
そして、上記の容姿スコア、状態スコア、行動スコアの変動に応じてそれらの合計値(合計スコア)が変動する。
図3に戻って、判定結果保存部35は、判定部30の判定結果をHDD16やアクセラレータ13に設けられたメモリ等の記憶部に記憶させる。判定部30の判定結果には、容姿スコア、状態スコア、行動スコア、および合計値(合計スコア)と、対象人物が不審者か否かを示す情報が含まれる。
判定結果通知部36は、判定部30の判定結果を操作端末5に送信(出力)、すなわち通知する。このとき、判定結果通知部36は、判定部30の判定結果を示す画面を操作端末5に送信する。これにより、判定部30の判定結果が操作端末5の表示装置に表示される。判定部30の判定結果を示す画面には、不審者である対象人物と特定するための印が対象人物にオーバーラップして表示される。また、判定部30によって対象人物が不審者であると判定された場合には、判定結果通知部36は、スピーカ4から所定の音声が出力されるようにスピーカ4を制御する。所定の音声は、例えば「お探し物は何ですか」等である。すなわち、判定部30によって対象人物が不審者であると判定された場合には、判定結果通知部36は、スピーカ4によって対象人物に声掛けを行なう。この場合、例えば、スピーカ4は、対象人物の近傍に位置するスピーカ4が選択されうる。判定結果通知部36は、出力部の一例である。
以上のように、本実施形態の判定装置2は、データカテゴリー分類部29(取得部)と、判定部30と、判定結果通知部36(出力部)と、を備えている。データカテゴリー分類部29は、人物の撮像によって得られた画像データに基づいて、人物の身体的特徴を示す静的データ(第1のデータ)と、人物に付属した付属物を示す半動的データ(第2のデータ)と、を取得する。判定部30は、データカテゴリー分類部29によって取得された静的データおよび半動的データから導いた容姿スコア(第1の情報)に基づいて、人物を判定する。判定結果通知部36は、判定部30による人物の判定の結果を出力する。よって、本実施形態によれば、人物の身体的特徴と、人物に付属した付属物という観点によって人物を判定することができる。
また、本実施形態では、データカテゴリー分類部29は、画像データに基づいて、人物の動きを示す動的データを取得し、判定部30は、容姿スコアと、データカテゴリー分類部29によって取得された半動的データおよび動的データから導いた状態スコア(第2の情報)と、に基づいて、人物を判定する。よって、本実施形態によれば、容姿スコアだけで人物を判定する場合に比べて、人物の判定を高い精度で行なうことができる。
また、本実施形態では、例えば、判定部30は、容姿スコアと、状態スコアと、データカテゴリー分類部29によって取得された行動データから導いた行動スコア(第3の情報)と、に基づいて、人物を判定する。よって、本実施形態によれば、容姿スコアおよび状態スコアだけで人物を判定する場合に比べて、人物の判定を高い精度で行なうことができる。
また、本実施形態では、例えば、データカテゴリー分類部29は、一または複数の静的データと一または複数の半動的データとを取得し、判定部30は、データカテゴリー分類部29によって取得された静的データおよび半動的データに関連付けされたスコアに基づいて、容姿スコアを導く。よって、本実施形態によれば、静的データおよび半動的データに関連付けされたスコアに基づいて人物を判定することができる。
また、本実施形態では、例えば、判定部30は、データカテゴリー分類部29によって取得された半動的データおよび動的データに関連付けされたスコアに基づいて、状態スコアを導く。よって、本実施形態によれば、半動的データに関連付けされたスコアに基づいて人物を判定することができる。
また、本実施形態では、例えば、判定部30は、データカテゴリー分類部29によって取得された動的データに関連付けされたスコアに基づいて行動スコアを導く。よって、本実施形態によれば、動的データに関連付けされたスコアに基づいて人物を判定することができる。
以上、本発明の実施形態が例示されたが、上記実施形態は一例であって、発明の範囲を限定することは意図していない。上記実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、組み合わせ、変更を行うことができる。
2…判定装置、29…データカテゴリー分類部(取得部)、30…判定部、36…判定結果通知部(出力部)。

Claims (6)

  1. 人物の撮像によって得られた画像データに基づいて、前記人物の身体的特徴を示す第1のデータと、前記人物に付属した付属物を示す第2のデータと、を取得する取得部と、
    前記取得部によって取得された前記第1のデータおよび前記第2のデータから導いた第1の情報と、前記取得部によって取得された前記第2のデータから導いた第2の情報と、に基づいて、前記人物が不審者かを判定する判定部と、
    前記判定部による前記人物の判定の結果を出力する出力部と、
    を備え
    記第1の情報は、前記人物の容姿の不審度を示す容姿スコアであり、前記人物の容姿の変化に応じて変動し、
    前記第2の情報は、前記人物と前記人物の前記付属物との状態の不審度を示す状態スコアであり、前記人物と前記人物の前記付属物との状態の変化に応じて変動する、判定装置。
  2. 前記取得部は、前記画像データに基づいて、前記人物の動きを示す第3のデータを取得し、
    前記判定部は、前記第1の情報と、前記第2の情報と、前記取得部によって取得された前記第3のデータから導いた第3の情報と、に基づいて、前記人物が不審者かを判定し、
    前記第3の情報は、前記人物の行動の不審度を示す、請求項1に記載の判定装置。
  3. 前記取得部は、一または複数の前記第1のデータと一または複数の前記第2のデータとを取得し、
    前記判定部は、前記取得部によって取得された前記第1のデータおよび前記第2のデータに関連付けされたスコアに基づいて、前記第1の情報を導く、請求項1または2に記載の判定装置。
  4. 前記判定部は、前記取得部によって取得された前記第2のデータに関連付けされたスコアに基づいて、前記第2の情報を導く、請求項1に記載の判定装置。
  5. 前記判定部は、前記取得部によって取得された前記第3のデータに関連付けされたスコアに基づいて前記第3の情報を導く、請求項2に記載の判定装置。
  6. コンピュータを、
    人物の撮像によって得られた画像データに基づいて、前記人物の身体的特徴を示す第1のデータと、前記人物に付属した付属物を示す第2のデータと、を取得する取得部と、
    前記取得部によって取得された前記第1のデータおよび前記第2のデータから導いた第1の情報と、前記取得部によって取得された前記第2のデータから導いた第2の情報と、に基づいて、前記人物が不審者かを判定する判定部と、
    前記判定部による前記人物の判定の結果を出力する出力部と、
    として機能させるためのプログラムであって
    記第1の情報は、前記人物の容姿の不審度を示す容姿スコアであり、前記人物の容姿の変化に応じて変動し、
    前記第2の情報は、前記人物と前記人物の前記付属物との状態の不審度を示す状態スコアであり、前記人物と前記人物の前記付属物との状態の変化に応じて変動する、プログラム。
JP2018247563A 2018-12-28 2018-12-28 判定装置およびプログラム Active JP6778736B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2018247563A JP6778736B2 (ja) 2018-12-28 2018-12-28 判定装置およびプログラム
GB1915762.7A GB2580483A (en) 2018-12-28 2019-10-30 Determination device and computer program product
US16/685,403 US20200210714A1 (en) 2018-12-28 2019-11-15 Determination device and computer program product
CN201911165573.9A CN111382659A (zh) 2018-12-28 2019-11-25 确定装置及计算机程序产品

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018247563A JP6778736B2 (ja) 2018-12-28 2018-12-28 判定装置およびプログラム

Publications (2)

Publication Number Publication Date
JP2020107226A JP2020107226A (ja) 2020-07-09
JP6778736B2 true JP6778736B2 (ja) 2020-11-04

Family

ID=68769034

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018247563A Active JP6778736B2 (ja) 2018-12-28 2018-12-28 判定装置およびプログラム

Country Status (4)

Country Link
US (1) US20200210714A1 (ja)
JP (1) JP6778736B2 (ja)
CN (1) CN111382659A (ja)
GB (1) GB2580483A (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018128015A1 (ja) * 2017-01-05 2018-07-12 日本電気株式会社 不審度推定モデル生成装置
US10963681B2 (en) * 2018-01-30 2021-03-30 Alarm.Com Incorporated Face concealment detection

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7310442B2 (en) * 2003-07-02 2007-12-18 Lockheed Martin Corporation Scene analysis surveillance system
JP6253950B2 (ja) * 2013-10-29 2017-12-27 セコム株式会社 画像監視システム
US9710708B1 (en) * 2014-03-24 2017-07-18 Vecna Technologies, Inc. Method and apparatus for autonomously recognizing at least one object in an image
US20180115749A1 (en) * 2015-03-19 2018-04-26 Nec Corporation Surveillance system and surveillance method
JP6984942B2 (ja) * 2015-03-23 2021-12-22 日本電気株式会社 画像処理装置、画像処理システム、画像処理方法及びプログラム
WO2018104999A1 (ja) * 2016-12-05 2018-06-14 日本電気株式会社 情報処理装置、制御方法、及びプログラム
WO2018128015A1 (ja) * 2017-01-05 2018-07-12 日本電気株式会社 不審度推定モデル生成装置
US10032326B1 (en) * 2017-01-25 2018-07-24 Toshiba Global Commerce Solutions Holdings Corporation Accessing a secure region of an environment using visually identified behaviors relative to an access control device
EP3418944B1 (en) * 2017-05-23 2024-03-13 Canon Kabushiki Kaisha Information processing apparatus, information processing method, and program
JP6536643B2 (ja) * 2017-09-06 2019-07-03 日本電気株式会社 情報処理装置、制御方法、及びプログラム

Also Published As

Publication number Publication date
US20200210714A1 (en) 2020-07-02
CN111382659A (zh) 2020-07-07
GB201915762D0 (en) 2019-12-11
JP2020107226A (ja) 2020-07-09
GB2580483A (en) 2020-07-22

Similar Documents

Publication Publication Date Title
US8036416B2 (en) Method and apparatus for augmenting a mirror with information related to the mirrored contents and motion
US9928411B2 (en) Image processing apparatus, image processing system, image processing method, and computer program product
US9811762B2 (en) Clothing matching system and method
US8723796B2 (en) Multi-user interactive display system
JP5203281B2 (ja) 人物検出装置、人物検出方法、及び人物検出プログラム
US9349131B2 (en) Interactive digital advertising system
Hidayati et al. Learning and recognition of clothing genres from full-body images
US20130201105A1 (en) Method for controlling interactive display system
CN102981603A (zh) 图像处理装置、图像处理方法和程序
JP2018084890A (ja) 情報処理装置、情報処理方法、およびプログラム
US10679039B2 (en) Detecting actions to discourage recognition
JP2010262425A (ja) 衣服を認識および分類するためのコンピュータ実行方法
JP6778736B2 (ja) 判定装置およびプログラム
KR102580009B1 (ko) 의류 피팅 시스템 및 의류 피팅 시스템의 동작 방법
JP7318321B2 (ja) 情報処理装置、情報処理方法、人物検索システムおよび人物検索方法
JP7161572B2 (ja) ディープラーニング基盤の仮想イメージ生成方法及びシステム
CN112052746A (zh) 目标检测方法、装置、电子设备和可读存储介质
CN112330383A (zh) 用于基于可视元素的物品推荐的设备及方法
US20190172114A1 (en) Methods of capturing images and making garments
JP2019139321A (ja) 顧客行動分析システムおよび顧客行動分析方法
JP2011039994A (ja) 部品検出装置、部品検出方法、プログラムおよび記録媒体
JP2020107084A (ja) 服装提案装置、服装提案方法、およびプログラム
JP5373128B2 (ja) 人物特定装置、人物特定方法及び人物特定プログラム
CN111666963B (zh) 一种服饰风格的识别方法、装置及设备
CN109816492B (zh) 虚拟试衣间的实现方法、终端及介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190313

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20190322

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20190325

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190604

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190801

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20190820

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191120

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20191120

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20191128

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20191203

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20191220

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20191224

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20200407

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20200602

C13 Notice of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: C13

Effective date: 20200616

C302 Record of communication

Free format text: JAPANESE INTERMEDIATE CODE: C302

Effective date: 20200730

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200807

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20200825

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20200929

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20200929

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201012

R150 Certificate of patent or registration of utility model

Ref document number: 6778736

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250