JP6210650B2 - 画像検索システム及び画像検索方法 - Google Patents
画像検索システム及び画像検索方法 Download PDFInfo
- Publication number
- JP6210650B2 JP6210650B2 JP2015558749A JP2015558749A JP6210650B2 JP 6210650 B2 JP6210650 B2 JP 6210650B2 JP 2015558749 A JP2015558749 A JP 2015558749A JP 2015558749 A JP2015558749 A JP 2015558749A JP 6210650 B2 JP6210650 B2 JP 6210650B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- search
- suspected
- person
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 80
- 238000001514 detection method Methods 0.000 claims description 100
- 238000003384 imaging method Methods 0.000 claims description 61
- 239000000126 substance Substances 0.000 claims description 20
- 238000000605 extraction Methods 0.000 claims description 11
- 238000004891 communication Methods 0.000 claims description 9
- 239000000463 material Substances 0.000 claims description 8
- 238000009434 installation Methods 0.000 claims description 7
- 238000012545 processing Methods 0.000 description 44
- 239000002360 explosive Substances 0.000 description 30
- 230000006870 function Effects 0.000 description 18
- 238000007689 inspection Methods 0.000 description 15
- 230000005540 biological transmission Effects 0.000 description 10
- 238000012544 monitoring process Methods 0.000 description 10
- 239000011521 glass Substances 0.000 description 9
- 238000010586 diagram Methods 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 5
- 239000000284 extract Substances 0.000 description 3
- 150000002500 ions Chemical class 0.000 description 3
- 239000000523 sample Substances 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 230000002265 prevention Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000005284 excitation Effects 0.000 description 1
- 238000001917 fluorescence detection Methods 0.000 description 1
- 230000005021 gait Effects 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 238000011835 investigation Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004949 mass spectrometry Methods 0.000 description 1
- 238000001819 mass spectrum Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000037230 mobility Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 230000002250 progressing effect Effects 0.000 description 1
- 238000001454 recorded image Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000005549 size reduction Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 230000037303 wrinkles Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01V—GEOPHYSICS; GRAVITATIONAL MEASUREMENTS; DETECTING MASSES OR OBJECTS; TAGS
- G01V5/00—Prospecting or detecting by the use of ionising radiation, e.g. of natural or induced radioactivity
- G01V5/20—Detecting prohibited goods, e.g. weapons, explosives, hazardous substances, contraband or smuggled objects
- G01V5/271—Detecting prohibited goods, e.g. weapons, explosives, hazardous substances, contraband or smuggled objects using a network, e.g. a remote expert, accessing remote data or the like
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/80—Recognising image objects characterised by unique random patterns
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/172—Classification, e.g. identification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/765—Interface circuits between an apparatus for recording and another apparatus
- H04N5/77—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/765—Interface circuits between an apparatus for recording and another apparatus
- H04N5/77—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
- H04N5/772—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/79—Processing of colour television signals in connection with recording
- H04N9/80—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
- H04N9/804—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
- H04N9/8042—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/05—Recognition of patterns representing particular kinds of hidden objects, e.g. weapons, explosives, drugs
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B25/00—Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- General Life Sciences & Earth Sciences (AREA)
- High Energy & Nuclear Physics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Geophysics (AREA)
- Social Psychology (AREA)
- Psychiatry (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Television Signal Processing For Recording (AREA)
- Closed-Circuit Television Systems (AREA)
- Alarm Systems (AREA)
Description
本発明の画像検索システムは、撮像した画像データを出力する少なくとも1台の撮像装置と、前記撮像装置より入力された画像データを記録媒体に記録する録画装置と、危険物の探知を行う探知装置と、各装置を相互に接続して通信を行うネットワークとを備えた画像検索システムにおいて、前記探知装置から送信された危険物探知によるアラーム情報を前記ネットワークを介して受信する受信手段と、前記受信手段で受信した前記アラーム情報に含まれるアラーム発報時刻情報に基づき、前記アラーム発報時刻並びに前記アラーム発報時刻前の所定の時間を検索条件として、前記探知装置の周辺に設置された前記撮像装置からの画像データを対象に顔画像検索を行い、危険物所持容疑の対象者を抽出する対象者抽出手段と、前記対象者抽出手段で抽出した危険物所持容疑の対象者をグレイリストに登録するグレイリスト登録手段と、前記グレイリスト登録手段で前記グレイリストに登録された危険物所持容疑の対象者それぞれに対して、前記録画装置に記録された画像データを対象に定期的に類似顔画像検索を実施する対象者検索手段と、を備えることを特徴とする。
類似画像検索システムは、図1に示すように、ネットワーク200に、撮像装置201、録画装置102、端末装置103が接続され、互いに通信可能な状態で構成される。また、撮像装置201は複数の場所にそれぞれ設置されているものとする。
録画装置102は、機能構成として、画像送受信部210、画像記録部211、再生制御部212、人物領域検出部213、人物特徴量抽出部214、人物特徴量記録部215、属性情報記録部216、要求受信部217、類似人物検索部218、登場イベント検索部219、検索結果送信部220、キーワード記録部110、キーワード検索部111の各処理部を有する。
画像記録部211は、入力画像データの記録媒体へ書込みや出力画像データの記録媒体からの読出しを行う。書込みの際には、画像データに加え、画像データを読出す際の情報となる画像ID(画像の識別情報)も併せて記録する。
再生制御部212は、端末装置103への映像再生を制御する。
人物特徴量抽出部214は、人物領域検出部213で検出した領域に対して画像認識技術を用いて特徴量算出を行う。ここで算出する人物特徴量とは、例えば、人物の輪郭の形状や方向、皮膚の色、歩容(どの脚をどのようにどんなタイミングで動かすかといった脚の捌き方)、或いは、人物を特定する代表的な部位である顔の輪郭の形状や方向、目や鼻、口といった主要構成要素の大きさ、形状、配置関係等が挙げられるが、本実施形態においては、使用する特徴量の種類や数はいずれであってもよい。
人物特徴量記録部215は、人物特徴量抽出部214で算出した特徴量の記録媒体への書込みと読出しを行う。尚、画像記録部211における画像データの記録媒体と本処理部における人物特徴量の記録媒体とは同一であっても別個であってもよい。
属性情報記録部216は、画像データに関連する属性情報の記録媒体への書込みと読出しを行う。属性情報とは、例えば、画像の撮影時刻や撮像装置番号、撮像場所等である。
類似人物検索部218は、要求受信部217にて受信した要求が類似人物検索要求であった場合に、類似画像検索を行う。
登場イベント検索部219は、要求受信部217にて受信した要求が登場イベント検索要求であった場合に、登場イベント検索を行う。
検索結果送信部220は、類似人物検索部218や登場イベント検索部219から得た類似人物検索結果や登場イベント検索結果の端末装置103への送信を行う。
キーワード記録部110は、要求受信部217にて受信したキーワード付与要求に基づくキーワードの記録媒体への書込みと読出しを行う。
キーワード検索部111は、要求受信部217にて受信した検索要求データ中にキーワードが含まれていた場合に、キーワード検索を行う。
端末装置103は、機能構成として、検索要求送信部221、検索結果受信部222、検索結果表示部223、再生画像表示部224、画面操作検知部225、キーワード付与要求送信部112、複数検索キー選択部113の各処理部を有する。また、本装置には、本発明の方式を実現するための人物検索機能も搭載してある。
検索結果受信部222は、検索結果の録画装置102からの受信を行う。検索結果として受信するデータには、録画装置102において、類似人物検索、或いは、登場イベント検索を実施して得られた画像の集合が含まれる。集合を構成する個々の画像は、録画装置102に記録された映像から画像サイズ縮小処理等を施して生成される。以下、この個々の画像を「検索結果画像」、検索結果として送受信するデータを「検索結果データ」という。
検索結果表示部223は、検索結果受信部222にて受信した検索結果の画面表示を行う。表示される画面例については後述する。
再生画像表示部224は、録画装置102から入力された画像データの画面への連続動画表示を行う。
画面操作検知部225は、ユーザによる操作内容の検知及び取得を行う。
キーワード付与要求送信部112は、キーワード付与要求の録画装置102への送信を行う。
複数検索キー選択部113は、検索キー画像の候補が複数選択されたときに、より少ない数の検索キー画像を適切に選択する処理を行う。複数検索キー選択部113は録画装置102内に設けても良い。
撮像装置201のハードウェア構成は、図2に示すように、撮像部241、主記憶部242、符号化部243、ネットワークインタフェース(I/F)244が、バス240で結合された形態である。
録画装置102のハードウェア構成は、図3に示すように、CPU(Central Processing Unit)251、主記憶部252、補助記憶部253、ネットワークI/F254が、バス250で結合された形態である。
端末装置103のハードウェア構成は、図4に示すように、CPU261、主記憶部262、補助記憶部263、表示I/F264、入出力I/F265、ネットワークI/F266が、バス260で結合された形態である。また、表示I/F264は、表示装置270と接続され、入出力I/F265は、キーボード280やマウス282などの入出力装置と接続される。
図6には、類似人物検索を実施する手順を例示してある。また、図5A〜図5Eには、類似人物検索を実施する手順に沿って、検索キー画像の候補となった画像の特徴量を例示してある。
ここで、図5Eの例では、最初の検索キー画像に関連する画像(処理6001〜6006により得られた画像)は29枚あるため、これらの画像の特徴量を新たな検索キーとした検索を29回繰り返す必要があるが、クラスタリング処理6007によって得られた各クラスタを代表する3つの画像の特徴量を用いて類似画像検索を行うことで、特徴量のバランスをとりつつ3回の検索で済む。ここでは、クラスタの数を3としたが、これは設定によって変えることができる。尚、本発明の一実施形態に係る類似画像検索システムは、クラスタリング処理6007を用いた一連のシステムについて説明したが、クラスタリング処理6007を行わず、最初の検索キー画像に関連する画像である29枚全てについて新たな検索キーとした検索を行ってもよい。
検索画面は、再生画像表示領域3001、画像再生操作領域3003、検索キー画像指定領域3004、検索絞込パラメータ指定領域3008、検索実行領域3017、検索結果表示領域3020を有する。
画像再生操作領域3003は、録画装置102に記録された画像を再生操作する領域である。本領域3003を構成する各ボタンには、それぞれ固有の再生種類が割当てられている。本図においては、巻戻し、逆再生、再生停止、順再生、早送りの再生種類が左から順に割当てられている例を示している。ユーザが各ボタンをマウス282で適宜押下することにより、動画3002がボタンに割当てられた再生種類に切り替わる。
検索キー画像3005は、類似検索のための最初の検索キー画像とする画像である。初期状態においては、検索キー画像は、未指定であるので、画像表示はされていない状態となる。なお、未指定の場合に、別途用意した未指定状態を示す画像を表示する等、未指定である旨の表記をするようにしてもよい。
ファイル指定ボタン3007は、録画装置102に記録されている画像以外の画像、例えば、デジタルスチルカメラで撮影した画像やスキャナで取込んだ画像等を、検索キー画像3005として指定するボタンである。このボタン3007を押下すると、それらの画像をファイル指定するダイアログボックスが表示され、ユーザはそこで所望の画像を指定することができる。
初期状態においては、全ての撮像装置201(カメラ1〜4)を検索対象とするため、撮像装置指定チェックボックス3009,3010,3011,3012は全て選択状態となる。
同様に時刻指定チェックボックス3014を選択状態にした場合には時刻範囲に末尾時刻を与える。非選択状態にした場合には、時刻範囲に末尾時刻を与えない、すなわち、録画装置102に記録された最も新しい時刻の画像までを検索対象範囲とすることを意味する。
時刻指定欄3015,3016は、上述の先頭時刻と末尾時刻の値を指定する入力欄である。
初期状態においては、全時間帯を検索対象とするため、時刻指定チェックボックス3013,3014は全て非選択状態、時刻指定欄3015,3016は空欄とする。
登場イベント検索ボタン3019は、登場イベント検索の実行を指示するボタンである。検索絞込パラメータ指定領域3008にてパラメータが指定されている場合には、指定されたパラメータに従って登場イベント検索の実行を指示する。
これにより、図7に示すように、検索キー画像3005には、動画3002に表示された人物「Aさん」の画像が検索キー画像として指定され、また、検索対象としたい撮像装置201として「カメラ1」、「カメラ2」、「カメラ4」の3つが指定され、検索対象としたい時刻範囲として「2009/6/26 15:30:20から2009/7/13 12:30:20まで」が指定される。
検索結果画像3031〜3141は、例えば、最上段左から右へ、次に2段目左から右へと検索キー画像3005に対する類似度順に表示する。この表示例においては、検索結果画像3031が検索キー画像3005に対し最も類似度が高く、検索結果画像3141が最も類似度が低いということを示している。
検索結果画像3031の周辺には、頭出し再生ボタン3032、検索キー画像指定ボタン3033、検索対象チェックボックス3301を備える。他の検索結果画像3041〜3141も同様である。
検索キー画像指定ボタン3033は、検索結果画像3031を新たな検索キー画像に指定するボタンである。例えば、検索キー画像指定ボタン3033を押下すると、検索結果画像3031が検索キー画像3005に表示される。これにより、検索結果画像3031を使って再検索を実施することができる。
マスクチェックボックス3202は、検索結果表示領域3020の表示の中からユーザに選択された画像を対象にしてマスクを付加する画像処理6004(図6参照)を実行し、その結果の画像(対象の画像中の人物にマスクを付加した画像或いは当該人物からマスクを外した画像)を新たな検索キー画像の候補に追加することを指定するチェックボックスである。
サングラスチェックボックス3203は、検索結果表示領域3020の表示の中からユーザに選択された画像を対象にしてサングラスや眼鏡を付加する画像処理6005(図6参照)を実行し、その結果の画像(対象の画像中の人物にサングラス等を付加した画像或いは当該人物からサングラス等を外した画像)を新たな検索キー画像の候補に追加することを指定するチェックボックスである。
異なる角度チェックボックス3204は、検索結果表示領域3020の表示の中からユーザに選択された画像を対象にして人物の向きを変更する画像処理6006(図6参照)を実行し、その結果の画像(対象の画像中の人物の向きを変更した画像)を新たな検索キー画像の候補に追加することを指定するチェックボックスである。
まず、探知装置300とセキュリティセンタ400における危険物判定方法の全体像について図8を用いて説明する。探知装置300において危険物の探知を開始して危険物の有無を判定する(S301)。危険物を発見した場合には、探知装置300はネットワーク200を介してセキュリティセンタ400と交信を行う(S302)。セキュリティセンタ400ではデータベースやリスク判定ロジックなどを用いてリスク判定が行われる。セキュリティセンタ400は、リスク判定により危険と判定した場合には、ネットワーク200を介して探知装置300に発報の指示を出し、探知装置300は、セキュリティセンタ400から発報の指示があった場合(S303)には、アラームを発報させる(S304)。
検査範囲を示す線で囲まれた部分を検査領域311とする。この検査領域311を通過する検査対象である人312が爆発物を所持していないかどうかを質量分析計315で検査する。検査領域と検査対象の組み合わせは、例えばベルトコンベア(検査領域)に載せられた荷物(検査対象)であってもよい。吸気部313から吸引された大気は、試料吸入配管314を介して質量分析計315に送られる。質量分析計315では、大気中に爆薬成分が含まれていないかどうかを検査する。具体的には、質量スペクトルを取得し、検出されたイオンの質量電荷比(m/z)とイオン強度により、質量分析計315内に備えられたデータベースと照合することで危険物の有無を判定する。危険物有無判定処理は種々の方法(例えば、イオンモビリティ法、化学発光法、レーザー励起蛍光検出法など)が知られており、質量分析法に限らず、これらを利用してもよい。危険物有りと判定された場合には、その判定結果と必要に応じて監視カメラ316で撮影された映像とが、ネットワーク200を介してセキュリティセンタ400に送られ、リスク判定処理される。セキュリティセンタ400から、ネットワーク200を介して探知装置300に発報の指示が来た場合には、探知装置300はアラームを発報する。アラーム発報の方法としては、質量分析計315内に音や光を発するデバイスを組み込み、このデバイスを駆動しても良いし、警備担当者の控え室にこれらのデバイスを設けて警備担当者に対して直接連絡できるようにしても良い。また、検査領域311をシャッターなどで閉鎖しても良く、種々の発報形態を利用することができる。尚、撮影された映像は、監視カメラ316だけでなく、ネットワーク200を介して別に接続されている撮像装置201より取得してもよい。
ここで、本発明の一実施形態に係る画像検索システムで行われる危険物所持容疑の対象者検索方法について図11を用いて説明する。
図11は、本発明の一実施形態に係る類似画像検索システムと探知装置を含むセキュリティシステムによる危険物所持容疑の対象者検索方法を例示する図である。
まず、録画装置102は、探知装置300から発報されたアラーム情報をネットワーク200経由で受信すると、録画装置102内の類似人物検索部218がアラーム情報に含まれるアラーム発報時刻情報を抽出する(S351)。録画装置102の類似人物検索部218はこのアラーム発報時刻情報に基づいて、探知装置300が設置されている場所のカメラ映像を対象に、アラーム発報時刻より所定の秒数前(例えば5秒前)までの画像に対する顔画像検索を実施することにより、危険物所持容疑の対象者を抽出する(S352)。
ここで、本発明のポイントは、録画装置102の類似人物検索部218は、アラーム発報時刻より所定の秒数前までの顔画像検索を行った後、危険物所持者を特定せずに疑いのある対象者を複数抽出し、検索結果を危険物所持容疑の対象者としてグレイリストに登録しておくことである(S353)。また、グレイリストに登録された危険物所持容疑の対象者それぞれに対して、定期的に類似顔画像検索を実施する(S354)。
これにより、グレイリスト化された危険物所持容疑の対象者の中から、危険所持者である可能性の最も高い人物を特定することができる。尚、アラーム情報を発報した時刻前後情報と、アラーム情報を発報した探知装置300近辺情報とを設定して行った類似顔画像検索の結果を地図上に表示することにより、危険物所持対象者候補の辿った軌跡を視覚的に把握することもできる。
また、予め危険物所持者を1人に特定せず、グレイリスト化した検索結果の危険物所持容疑の対象者をグレイリストとし、グレイリストに登録された人物は、例えば手荷物有無のチェックを行う等してセキュリティチェックを厳しくするよう指示することもできる。
これにより、ネットワーク200経由で録画装置102が探知装置300からのアラーム情報を受信することにより、危険物所持容疑の対象者の抽出・追跡、危険物所持容疑の対象者の移動方向の表示を自動で行うことができ、捜査の手助けとなる。
200:ネットワーク、 201:撮像装置、 210:画像送受信部、 211:画像記録部、 212:再生制御部、 213:人物領域検出部、 214:人物特徴量抽出部、 215:人物特徴量記録部、 216:属性情報記録部、 217:要求受信部、 218:類似人物検索部、 219:登場イベント検索部、 220:検索結果送信部、 221:検索要求送信部、 222:検索結果受信部、 223:検索結果表示部、 224:再生画像表示部、 225:画面操作検知部、 240:バス、 241:撮像部、 242:主記憶部、 243:符号化部、 244:ネットワークI/F、 250:バス、 251:CPU、 252:主記憶部、 253:補助記憶部、 254:ネットワークI/F、 260:バス、 261:CPU、 262:主記憶部、 263:補助記憶部、 264:表示I/F、 266:ネットワークI/F、 270:表示装置、 280:キーボード、 282:マウス、 300:探知装置、 311:検査領域、 312:人、 313:吸気部、 314:試料吸入配管、 315:質量分析計、 316:監視カメラ、 400:セキュリティセンタ、 3001:再生画像表示領域、 3002:動画、 3003:画像再生操作領域、 3004:検索キー画像指定領域、 3005:検索キー画像、 3006:映像指定ボタン、 3007:ファイル指定ボタン、 3008:検索絞込パラメータ指定領域、 3009〜3012:撮像装置指定チェックボックス、 3013,3014:時刻指定チェックボックス、 3015,3016:時刻指定欄、 3017:検索実行領域、 3018:類似人物検索ボタン、 3019:登場イベント検索ボタン、 3020:検索結果表示領域、 3031,3041,3051,3061,3071,3081,3091,3101,3111,3121,3131,3141:検索結果画像、 3032:頭出し再生ボタン、 3033:検索キー画像指定ボタン、 3201:同一シーンチェックボックス、 3202:マスクチェックボックス、 3203:サングラスチェックボックス、
3204:異なる角度チェックボックス、 3300:検索結果からの類似人物検索ボタン、 3301:検索対象チェックボックス。
Claims (13)
- 撮像した画像データを出力する少なくとも1台の撮像装置と、前記撮像装置より入力された画像データを記録媒体に記録する録画装置と、危険物の探知を行う探知装置と、各装置を相互に接続して通信を行うネットワークとを備えた画像検索システムにおいて、
前記探知装置から送信された危険物探知によるアラーム情報を前記ネットワークを介して受信する受信手段と、
前記受信手段で受信した前記アラーム情報に含まれるアラーム発報時刻情報に基づき、前記アラーム発報時刻並びに前記アラーム発報時刻前の所定の時間を検索条件として、前記探知装置の周辺に設置された前記撮像装置からの画像データを対象に顔画像検索を行い、危険物所持容疑の対象者を抽出する対象者抽出手段と、
前記対象者抽出手段で抽出した危険物所持容疑の対象者をグレイリストに登録するグレイリスト登録手段と、
前記グレイリスト登録手段で前記グレイリストに登録された危険物所持容疑の対象者それぞれに対して、前記録画装置に記録された画像データを対象に定期的に類似顔画像検索を実施する対象者検索手段と、
を備えることを特徴とする画像検索システム。 - 請求項1記載の画像検索システムにおいて、
前記対象者検索手段によって前記グレイリストに登録された前記危険物所持容疑の対象者が検索された場合、前記危険物所持容疑の対象者を撮影した前記撮像装置の設置場所の位置情報や前記アラーム発報時刻を画面に表示する対象者情報表示手段と、
前記対象者情報表示手段で表示された前記危険物所持容疑の対象者を撮影した前記撮像装置の前記位置情報に基づいて前記危険物所持容疑の対象者が辿った軌跡を地図上に表示する軌跡表示手段と、
を備えることを特徴とする画像検索システム。 - 請求項2記載の画像検索システムにおいて、
前記グレイリストに登録された複数の前記危険物所持容疑の対象者をそれぞれ検索し、複数それぞれの軌跡を同時に表示する複数軌跡表示手段を備えることを特徴とする画像検索システム。 - 請求項3記載の画像検索システムにおいて、
アラーム発報時刻前後情報と、アラーム発報探知装置近辺情報とを設定し、前記設定した情報に該当する映像全てについて類似顔画像検索を行うことにより、前記検索結果を前記危険物所持容疑の対象者として前記グレイリストに登録し、前記グレイリストに登録した前記危険物所持容疑の対象者について、アラーム情報を発報した場所に設定されたカメラ映像とは別の場所及び別の時刻に撮影された複数の映像を用いて危険物所持者を特定する危険物所持者特定手段を備えることを特徴とする画像検索システム。 - 請求項4記載の画像検索システムにおいて、
アラーム発報時刻前後情報と、アラーム発報探知装置近辺情報とを設定して行った類似顔画像検索の結果を地図上に表示する検索結果地図表示手段を備えることを特徴とする画像検索システム。 - 請求項5記載の画像検索システムにおいて、
前記探知装置にゲートを設け、前記ゲートの出入口に人感センサを設置して所定時間内に何人が通過したかを検知し、前記通過した人数情報を前記ネットワークを経由して前記録画装置に送信し、前記危険物所持容疑の対象者のグレイリスト化に利用する通過人数計数手段を備えることを特徴とする画像検索システム。 - 撮像した画像データを出力する少なくとも1台の撮像装置と、前記撮像装置より入力された画像データを記録媒体に記録する録画装置と、危険物の探知を行う探知装置と、各装置を相互に接続して通信を行うネットワークとを備えた画像検索システムの画像検索方法であって、
前記探知装置から送信された危険物探知によるアラーム情報を前記ネットワークを介して受信する受信ステップと、
前記受信ステップで受信した前記アラーム情報に含まれるアラーム発報時刻情報に基づき、前記アラーム発報時刻並びに前記アラーム発報時刻前の所定の時間を検索条件として、前記探知装置の周辺に設置された前記撮像装置からの画像データを対象に顔画像検索を行い、危険物所持容疑の対象者を抽出する対象者抽出ステップと、
前記対象者抽出ステップで抽出した危険物所持容疑の対象者をグレイリストに登録するグレイリスト登録ステップと、
前記グレイリスト登録ステップで前記グレイリストに登録された危険物所持容疑の対象者それぞれに対して、前記録画装置に記録された画像データを対象に定期的に類似顔画像検索を実施する対象者検索ステップと、
を有することを特徴とする画像検索方法。 - 請求項7記載の画像検索方法において、
前記対象者検索ステップによって前記グレイリストに登録された前記危険物所持容疑の対象者が検索された場合、前記危険物所持容疑の対象者を撮影した前記撮像装置の設置場所の位置情報や前記アラーム発報時刻を画面に表示する対象者情報表示ステップと、
前記対象者情報表示ステップで表示された前記危険物所持容疑の対象者を撮影した前記撮像装置の前記位置情報に基づいて前記危険物所持容疑の対象者が辿った軌跡を地図上に表示する軌跡表示ステップと、
を有することを特徴とする画像検索方法。 - 請求項8記載の画像検索方法において、
前記グレイリストに登録された複数の前記危険物所持容疑の対象者をそれぞれ検索し、複数それぞれの軌跡を同時に表示する複数軌跡表示ステップを有することを特徴とする画像検索方法。 - 請求項9記載の画像検索方法において、
アラーム発報時刻前後情報と、アラーム発報探知装置近辺情報とを設定し、前記設定した情報に該当する映像全てについて類似顔画像検索を行うことにより、前記検索結果を前記危険物所持容疑の対象者として前記グレイリストに登録し、前記グレイリストに登録した前記危険物所持容疑の対象者について、アラーム情報を発報した場所に設定されたカメラ映像とは別の場所及び別の時刻に撮影された複数の映像を用いて危険物所持者を特定する危険物所持者特定ステップを有することを特徴とする画像検索方法。 - 請求項10記載の画像検索方法において、
アラーム発報時刻前後情報と、アラーム発報探知装置近辺情報とを設定して行った類似顔画像検索の結果を地図上に表示する検索結果地図表示ステップを有することを特徴とする画像検索方法。 - 請求項11記載の画像検索方法において、
前記探知装置にゲートを設け、前記ゲートの出入口に人感センサを設置して所定時間内に何人が通過したかを検知し、前記通過した人数情報を前記ネットワークを経由して前記録画装置に送信し、前記危険物所持容疑の対象者のグレイリスト化に利用する通過人数計数ステップを有することを特徴とする画像検索方法。
- ネットワークを介して撮像した画像データを出力する少なくとも1台の撮像装置と危険物の探知を行う探知装置とに接続され、前記撮像装置より入力された画像データを記録媒体に記録する録画装置であって、
前記探知装置から送信された危険物探知によるアラーム情報を前記ネットワークを介して受信する受信手段と、
前記受信手段で受信した前記アラーム情報に含まれるアラーム発報時刻情報に基づき、前記アラーム発報時刻並びに前記アラーム発報時刻前の所定の時間を検索条件として、前記探知装置の周辺に設置された前記撮像装置からの画像データを対象に顔画像検索を行い、危険物所持容疑の対象者を抽出する対象者抽出手段と、
前記対象者抽出手段で抽出した危険物所持容疑の対象者をグレイリストに登録するグレイリスト登録手段と、
前記グレイリスト登録手段で前記グレイリストに登録された危険物所持容疑の対象者それぞれに対して、前記録画装置に記録された画像データを対象に定期的に類似顔画像検索を実施する対象者検索手段と、
を備えることを特徴とする録画装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014010243 | 2014-01-23 | ||
JP2014010243 | 2014-01-23 | ||
PCT/JP2014/082425 WO2015111312A1 (ja) | 2014-01-23 | 2014-12-08 | 画像検索システム及び画像検索方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2015111312A1 JPWO2015111312A1 (ja) | 2017-03-23 |
JP6210650B2 true JP6210650B2 (ja) | 2017-10-11 |
Family
ID=53681132
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015558749A Active JP6210650B2 (ja) | 2014-01-23 | 2014-12-08 | 画像検索システム及び画像検索方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20160350583A1 (ja) |
EP (1) | EP3099061A4 (ja) |
JP (1) | JP6210650B2 (ja) |
WO (1) | WO2015111312A1 (ja) |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6485978B2 (ja) * | 2015-07-03 | 2019-03-20 | 株式会社日立国際電気 | 画像処理装置および画像処理システム |
JP6172551B1 (ja) * | 2016-06-09 | 2017-08-02 | パナソニックIpマネジメント株式会社 | 画像検索装置、画像検索システム及び画像検索方法 |
JP6750998B2 (ja) * | 2016-10-07 | 2020-09-02 | パナソニックi−PROセンシングソリューションズ株式会社 | 監視システム及び監視方法 |
JP6573346B1 (ja) * | 2018-09-20 | 2019-09-11 | パナソニック株式会社 | 人物検索システムおよび人物検索方法 |
US11879897B2 (en) * | 2019-05-30 | 2024-01-23 | Thermo Finnigan Llc | Operating a mass spectrometer utilizing mass spectral database search |
CN110276315A (zh) * | 2019-06-26 | 2019-09-24 | 重庆紫光华山智安科技有限公司 | 机场监控方法、装置及系统 |
CN110334231A (zh) * | 2019-06-28 | 2019-10-15 | 深圳市商汤科技有限公司 | 一种信息处理方法及装置、存储介质 |
CN110516097A (zh) * | 2019-08-21 | 2019-11-29 | 深圳云天励飞技术有限公司 | 一种图像数据关联分析方法、装置及存储介质 |
US20220335724A1 (en) * | 2019-10-25 | 2022-10-20 | Nec Corporation | Processing apparatus, processing method, and non-transitory storage medium |
US11625429B2 (en) * | 2020-01-31 | 2023-04-11 | Walmart Apollo, Llc | Image searching using a full-text search engine |
CN112775983A (zh) * | 2020-12-25 | 2021-05-11 | 张月崧 | 智能防卫保护方法及智能保镖机器人 |
CN113671589A (zh) * | 2021-09-14 | 2021-11-19 | 清华大学 | 一种安全检测赛博物理系统 |
Family Cites Families (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000028579A (ja) | 1998-07-08 | 2000-01-28 | Hitachi Ltd | 試料ガス採取装置及び危険物探知装置 |
US7634662B2 (en) * | 2002-11-21 | 2009-12-15 | Monroe David A | Method for incorporating facial recognition technology in a multimedia surveillance system |
JP3855153B2 (ja) | 2001-07-05 | 2006-12-06 | 株式会社日立製作所 | セキュリティシステム |
US6975346B2 (en) * | 2002-06-27 | 2005-12-13 | International Business Machines Corporation | Method for suspect identification using scanning of surveillance media |
JP2006221378A (ja) * | 2005-02-09 | 2006-08-24 | Smart Wireless Kk | 顔認証を利用した警報システムおよび方法 |
JP4700477B2 (ja) | 2005-11-15 | 2011-06-15 | 株式会社日立製作所 | 移動体監視システムおよび移動体特徴量算出装置 |
US7881505B2 (en) * | 2006-09-29 | 2011-02-01 | Pittsburgh Pattern Recognition, Inc. | Video retrieval system for human face content |
JP2009027393A (ja) | 2007-07-19 | 2009-02-05 | Hitachi Ltd | 映像検索システムおよび人物検索方法 |
JP5198151B2 (ja) * | 2008-05-30 | 2013-05-15 | 株式会社日立製作所 | 映像検索装置及び映像検索方法 |
EP2204783A1 (en) * | 2008-12-31 | 2010-07-07 | Thales | Security system comprising sensors in a corridor for uncovering hazardous items |
JP2011233133A (ja) * | 2010-04-09 | 2011-11-17 | Miyake Inc | 万引き防止システム |
JP5730518B2 (ja) * | 2010-08-27 | 2015-06-10 | 株式会社日立国際電気 | 特定人物検知システムおよび特定人物検知方法 |
JP5777310B2 (ja) | 2010-09-21 | 2015-09-09 | 株式会社日立国際電気 | 画像セキュリティシステムおよび認証方法 |
JP5676210B2 (ja) * | 2010-10-29 | 2015-02-25 | Necソリューションイノベータ株式会社 | 監視装置、監視方法、及びプログラム |
US20120113254A1 (en) * | 2010-11-05 | 2012-05-10 | Arnaldo Zael Cruz | Miniature billboard advertisements having security features |
JP5618366B2 (ja) * | 2010-11-18 | 2014-11-05 | Necソリューションイノベータ株式会社 | 監視システム、監視装置、監視方法、及びプログラム |
US9025024B2 (en) * | 2011-09-28 | 2015-05-05 | Xerox Corporation | System and method for object identification and tracking |
JP2013171476A (ja) * | 2012-02-22 | 2013-09-02 | Nec Corp | 携帯型顔認識防犯用背後カメラシステム及びそれに用いる防犯判断方法 |
JP2013192154A (ja) * | 2012-03-15 | 2013-09-26 | Omron Corp | 監視装置、信頼度算出プログラム、および信頼度算出方法 |
-
2014
- 2014-12-08 US US15/112,879 patent/US20160350583A1/en not_active Abandoned
- 2014-12-08 EP EP14880351.3A patent/EP3099061A4/en not_active Withdrawn
- 2014-12-08 WO PCT/JP2014/082425 patent/WO2015111312A1/ja active Application Filing
- 2014-12-08 JP JP2015558749A patent/JP6210650B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
EP3099061A1 (en) | 2016-11-30 |
US20160350583A1 (en) | 2016-12-01 |
WO2015111312A1 (ja) | 2015-07-30 |
EP3099061A4 (en) | 2017-08-23 |
JPWO2015111312A1 (ja) | 2017-03-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6210650B2 (ja) | 画像検索システム及び画像検索方法 | |
US11030463B2 (en) | Systems and methods for displaying captured videos of persons similar to a search target person | |
US9141184B2 (en) | Person detection system | |
JP5976237B2 (ja) | 映像検索システム及び映像検索方法 | |
US11640726B2 (en) | Person monitoring system and person monitoring method | |
US7683929B2 (en) | System and method for video content analysis-based detection, surveillance and alarm management | |
KR101734029B1 (ko) | 이동형 촬영영상의 유사도 분석을 이용한 지능형 이동 감시시스템 및 그 감시방법 | |
EP2923487A1 (en) | Method and system for metadata extraction from master-slave cameras tracking system | |
JP2013232181A (ja) | 画像処理装置、画像処理方法 | |
US20100318566A1 (en) | Behavior history retrieval apparatus and behavior history retrieval method | |
JP2024015359A (ja) | 人物検出システム | |
CN112307868B (zh) | 图像识别方法、电子设备和计算机可读介质 | |
JP2009027393A (ja) | 映像検索システムおよび人物検索方法 | |
WO2020103293A1 (zh) | 一种人员检索信息的呈现方法、装置和电子设备 | |
CN111539358A (zh) | 工作状态确定方法、装置、计算机设备和存储介质 | |
JP2018061213A (ja) | 監視映像解析システム及び監視映像解析方法 | |
JP7380698B2 (ja) | 処理装置、処理方法及びプログラム | |
US10783365B2 (en) | Image processing device and image processing system | |
JP6702402B2 (ja) | 画像処理システム、画像処理方法および画像処理プログラム | |
WO2015128939A1 (ja) | 安全性判定システム、安全性判定装置、及び安全性判定方法 | |
JP2005284652A (ja) | 動きベクトルを用いた映像監視方法及び装置 | |
JP2018195992A (ja) | 人物グループ追跡装置および人物グループ追跡方法 | |
Rizk et al. | Human Detection in Thermal Images Using YOLOv8 for Search and Rescue Missions | |
JP7480841B2 (ja) | イベントの管理方法、イベント管理装置、システム及びプログラム | |
JP6112346B2 (ja) | 情報収集システム、プログラムおよび情報収集方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170525 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170719 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170906 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20170911 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6210650 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |