JP2018073129A - 画像処理装置、画像処理システム、画像処理方法およびプログラム - Google Patents
画像処理装置、画像処理システム、画像処理方法およびプログラム Download PDFInfo
- Publication number
- JP2018073129A JP2018073129A JP2016212211A JP2016212211A JP2018073129A JP 2018073129 A JP2018073129 A JP 2018073129A JP 2016212211 A JP2016212211 A JP 2016212211A JP 2016212211 A JP2016212211 A JP 2016212211A JP 2018073129 A JP2018073129 A JP 2018073129A
- Authority
- JP
- Japan
- Prior art keywords
- unit
- tracking
- tracking target
- frame
- detected
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 6
- 238000003384 imaging method Methods 0.000 claims abstract description 261
- 238000001514 detection method Methods 0.000 claims abstract description 105
- 238000000034 method Methods 0.000 claims description 100
- 230000008569 process Effects 0.000 claims description 89
- 238000003860 storage Methods 0.000 claims description 73
- 230000033001 locomotion Effects 0.000 claims description 30
- 230000002093 peripheral effect Effects 0.000 claims description 8
- 230000010365 information processing Effects 0.000 description 64
- 238000010586 diagram Methods 0.000 description 46
- 238000004364 calculation method Methods 0.000 description 25
- 230000006870 function Effects 0.000 description 14
- 238000004891 communication Methods 0.000 description 10
- 238000004519 manufacturing process Methods 0.000 description 9
- 230000008034 disappearance Effects 0.000 description 4
- 230000009467 reduction Effects 0.000 description 4
- 238000004458 analytical method Methods 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 239000000470 constituent Substances 0.000 description 2
- 238000005401 electroluminescence Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000000047 product Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000007480 spreading Effects 0.000 description 1
- 238000003892 spreading Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/04—Manufacturing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/292—Multi-camera tracking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30232—Surveillance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30241—Trajectory
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Business, Economics & Management (AREA)
- Economics (AREA)
- Manufacturing & Machinery (AREA)
- Health & Medical Sciences (AREA)
- Signal Processing (AREA)
- General Health & Medical Sciences (AREA)
- Human Resources & Organizations (AREA)
- Marketing (AREA)
- Primary Health Care (AREA)
- Strategic Management (AREA)
- Tourism & Hospitality (AREA)
- General Business, Economics & Management (AREA)
- Image Analysis (AREA)
- Closed-Circuit Television Systems (AREA)
Abstract
Description
(画像処理システムの全体構成)
図1は、第1の実施の形態に係る画像処理システムの全体構成の一例を示す図である。図1を参照しながら、本実施の形態の画像処理システム1の全体構成について説明する。
図3は、第1の実施の形態に係る情報処理装置のハードウェア構成の一例を示す図である。図3を参照しながら、本実施の形態の情報処理装置3のハードウェア構成の一例について説明する。
図4は、第1の実施の形態に係る情報処理装置の機能ブロックの構成の一例を示す図である。図4を参照しながら、情報処理装置3のブロック構成について説明する。
図5は、第1の実施の形態に係る情報処理装置の色登録処理の流れの一例を示すフローチャートである。図6は、第1の実施の形態に係る情報処理装置の表示部に表示される追跡画面において映像が表示されている状態の一例を示す図である。図7は、第1の実施の形態に係る情報処理装置において追跡対象の色を登録する操作について説明する図である。図5〜図7を参照しながら、本実施の形態に係る情報処理装置3の色登録処理の流れについて説明する。
まず、個別表示部401において映像データの再生表示中に、色登録処理を所望する画像の部分が表示されているタイミングで、ユーザによる入力部302の操作によって映像操作ボタン部403の一時停止ボタンが押下されると、再生部305は、個別表示部401に再生表示されている映像データを一時停止させる。図6に示すように、一時停止した映像データのフレームには、作業者500が写っている。そして、取得部306は、一時停止した映像データから個別表示部401に表示されているフレームを取得する。そして、ステップS12へ移行する。
ここで、本実施の形態に係る情報処理装置3が個別表示部401に表示されているフレームにおける追跡の対象の一例として、図7に示すように、作業者500の追跡対象501であるものとする。追跡対象501は、作業者500が着用している上着の一部であり、特定の色を有するものとする。
ユーザによる入力部302の操作による登録ボタン409の押下によって、登録部308は、指定部307により指定された指定領域550に基づいて、基準色を特定し、特定した基準色の情報を記憶部304に記憶(登録)する。具体的には、登録部308は、例えば、指定領域550に含まれる画素の画素値の平均値を算出し、その平均値を基準色として特定する。
図8は、第1の実施の形態に係る情報処理装置の表示部に表示される追跡画面において各撮像装置の映像がすべて表示された状態の一例を示す図である。図9は、特定の撮像装置の映像のフレームで追跡対象が検出された場合の一例を示す図である。図10は、特定の撮像装置の映像のフレームで検出された追跡対象がフレームの端まで移動した状態を示す図である。図11は、特定の撮像装置の映像のフレームで検出された追跡対象がフレームから消失した状態を示す図である。図12は、特定の撮像装置の映像のフレームから消失した追跡対象が別の撮像装置の映像のフレームで検出された状態を示す図である。図13は、別の撮像装置の映像のフレームで検出された追跡対象を追跡している状態を示す図である。図14は、別の撮像装置の映像のフレームで検出された追跡対象を追跡しているときに、さらに別の撮像装置の映像のフレームで追跡対象が検出された状態を示す図である。図15は、2つの撮像装置の映像のフレームで検出された追跡対象のうちどちらを追跡するかを決定する動作を説明する図である。図9〜図15を参照しながら、本実施の形態に係る情報処理装置3による追跡対象の追跡処理の概要について説明する。
図16は、第1の実施の形態に係る情報処理装置の追跡処理の流れの一例を示すフローチャートである。図16を参照しながら、本実施の形態に係る情報処理装置3の追跡対象の追跡処理の流れについて説明する。なお、予め、上述の色登録処理により、基準色が登録されているものとする。そして、全体表示部402において再生部305による映像データの再生表示中に、追跡対象の追跡処理を所望するフレームが表示されているタイミングで、ユーザによる入力部302の操作によって追跡開始ボタン410が押下されると、再生部305により表示されたフレームから、管理部313によって追跡対象の追跡処理が開始される。なお、再生部305によって全体表示部402の個別表示部402a〜402dにそれぞれ再生表示される映像データは、撮像装置2から受信したリアルタイムの映像データであってもよく、または、記憶部304に記憶された過去の映像データであってもよい。
取得部306は、複数の撮像装置2の映像データから、追跡対象の追跡処理の対象となるフレーム(現フレーム)をそれぞれ取得する。フレームが取得できた場合(ステップS21:Yes)、ステップS22へ移行し、フレームが取得できない場合(ステップS21:No)、終了する。
検出部309によって、現フレームより1つ前のフレーム(以下、「前フレーム」と称する)で追跡対象が検出されている場合(ステップS22:Yes)、ステップS23へ移行し、検出されてない場合(ステップS22:No)、ステップS27へ移行する。
検出部309により追跡対象が検出された前フレームに対応する現フレームにおいて、同じ追跡対象が検出された場合(ステップS23:Yes)、ステップS24へ移行する。この場合、前フレームおよび現フレームの双方で追跡対象が検出されたことになる。そして、軌跡生成部312は、現フレームを表示している個別表示部(個別表示部402a〜402dのいずれか)において、検出部309により検出された追跡対象の位置にプロットを重畳して表示させる。一方、追跡対象が検出されない場合(ステップS23:No)、ステップS28へ移行する。この場合、前フレームでは追跡対象が検出されたが、現フレームで検出されなかったので、追跡対象が消失したことになる。
ステップS21において、取得部306により取得された他の撮像装置2の映像データのフレームから、検出部309によって追跡対象が検出された場合(ステップS24:Yes)、ステップS25へ移行する。この場合、前フレームおよび現フレームの双方で追跡対象が検出されていると共に、前フレームおよび現フレームに対応する撮像装置2とは異なる他の撮像装置2のフレームで追跡対象が検出されたことになる。一方、追跡対象が検出されない場合(ステップS24:No)、ステップS26へ移行する。この場合、前フレームおよび現フレームに対応する撮像装置2でのみ追跡対象が検出されたので、引き続き、追跡対象の追跡処理の対象となるのは当該撮像装置2のフレームとなる。
検出部309は、同じタイミングで、2つの撮像装置2のフレームで同一の追跡対象を検出している。したがって、算出部310は、2つ撮像装置2の各フレームでの追跡対象の単位時間(この場合、フレーム間の時間)あたりの移動量および追跡対象の面積を算出し、面積に対する移動量の割合を算出する。そして、決定部311は、2つ撮像装置2の各フレームで算出部310により算出された追跡対象の面積に対する移動量の割合に基づいて、追跡対象の追跡処理を行う最適なフレーム(撮像装置2)を決定する。そして、ステップS26へ移行する。なお、決定部311は、2つ撮像装置2の各フレームで、算出部310により算出された追跡対象の移動量に基づいて、追跡対象の追跡処理を行う最適なフレーム(撮像装置2)を決定してもよく、または、算出部310により算出された追跡対象の面積に基づいて、追跡対象の追跡処理を行う最適なフレーム(撮像装置2)を決定してもよい。
管理部313は、検出部309により検出された追跡対象の情報を、現在、追跡処理の対象となっているフレームおよび撮像装置2と関連付けて、記憶部304に記憶させる。例えば、管理部313は、現在、追跡処理の対象となっているフレームでの追跡対象の座標と、当該フレームに対応する撮像装置2の識別情報と、フレーム番号と、時刻情報と、を関連付けた情報を記憶部304に記憶させる。この場合、例えば、今まで追跡処理の対象となっていた撮像装置2から他の撮像装置2へ切り替わった場合でも、同一の追跡対象の情報として、同一のデータ(ファイル等)に記憶部304に記憶させることによって、複数の撮像装置2による同一の追跡対象の追跡処理の結果を示す情報として管理することができる。そして、取得部306により取得された現フレームに関連する追跡対象の追跡処理を終了する。
検出部309により追跡対象が検出されていない前フレームに対応する現フレームにおいて、追跡対象が検出された場合(ステップS27:Yes)、ステップS26へ移行する。この場合、前フレームでは追跡対象が検出されていないが、現フレームで検出されたので、追跡対象が新たに検出されたことになる。そして、軌跡生成部312は、現フレームを表示している個別表示部(個別表示部402a〜402dのいずれか)において、検出部309により検出された追跡対象の位置にプロットを重畳して表示させる。また、決定部311は、現フレームに対応する撮像装置2を追跡対象の追跡処理を行う撮像装置2として決定する。一方、追跡対象が検出されない場合(ステップS27:No)、ステップS30へ移行する。この場合、前フレームおよび現フレームの双方で追跡対象が検出されていないことになる。
ステップS21において、取得部306により取得された他の撮像装置2の映像データのフレームから、検出部309によって追跡対象が検出された場合(ステップS28:Yes)、ステップS31へ移行する。この場合、前フレームで追跡対象が検出され、現フレームでは追跡対象が検出されなかったので、追跡対象が消失したことになるが、他の撮像装置2のフレームで追跡対象が検出されたことになる。一方、追跡対象が検出されない場合(ステップS28:No)、ステップS29へ移行する。この場合、前フレームで追跡対象が検出されていたが、現フレームでは追跡対象が検出されず、かつ、他の撮像装置2のフレームでも追跡対象が検出されなかったことになる。
管理部313は、追跡対象の情報に含まれる追跡対象の座標として、前フレームで検出された追跡対象の座標と同一の座標を、現フレームに対応する座標として記憶部304に記憶する。すなわち、追跡対象が消失した時点以降の追跡対象が位置する座標を、追跡対象が消失する直前で検出された座標とみなして記憶する。これによって、追跡対象がすべての撮像装置2のフレームから消失しても、いずれかの撮像装置2のフレームで再び検出するまで、追跡対象が消失する直前で検出された座標の記憶を継続するので、複数の撮像装置2間での追跡対象の追跡の連携を取ることができる。そして、取得部306により取得された現フレームに関連する追跡対象の追跡処理を終了する。
ステップS21において、取得部306により取得された他の撮像装置2の映像データのフレームから、検出部309によって追跡対象が検出された場合(ステップS30:Yes)、ステップS31へ移行する。この場合、前フレームおよび現フレームの双方で追跡対象が検出されなかったが、前フレームおよび現フレームに対応する撮像装置2とは異なる他の撮像装置2のフレームで追跡対象が検出されたことになる。一方、追跡対象が検出されない場合(ステップS30:No)、ステップS33へ移行する。この場合、前フレームおよび現フレームの双方で追跡対象が検出されなかったと共に、前フレームおよび現フレームに対応する撮像装置2とは異なる他の撮像装置2のフレームでも追跡対象が検出されなかったことになる。
決定部311は、検出部309により現フレームでは追跡対象が検出されず、現フレームに対応する撮像装置2とは異なる他の撮像装置2のフレームで追跡対象が検出されたので、当該他の撮像装置2を追跡対象の追跡処理を行う撮像装置2として決定し、現フレームに対応する撮像装置2から切り替える。そして、ステップS32へ移行する。
管理部313は、検出部309により検出された追跡対象の情報を、現在、追跡処理の対象となっているフレームおよび撮像装置と関連付けて、記憶部304に記憶させる。例えば、管理部313は、現在、追跡処理の対象となっているフレームでの追跡対象の座標と、当該フレームに対応する撮像装置の識別情報と、フレーム番号と、時刻情報と、を関連付けた情報を記憶部304に記憶させる。この場合、例えば、今まで追跡処理の対象となっていた撮像装置2から他の撮像装置2へ切り替わったとしても、同一の追跡対象の情報として、同一のデータ(ファイル等)に記憶部304に記憶させることによって、複数の撮像装置2による同一の追跡対象の追跡処理の結果を示す情報として管理することができる。そして、取得部306により取得された現フレームに関連する追跡対象の追跡処理を終了する。
検出部309により前フレームより以前のフレームにおいて、追跡対象が検出されていた場合(ステップS33:Yes)、ステップS34へ移行する。この場合、前フレームおよび現フレームの双方で追跡対象が検出されていないが、前フレームより以前のフレームで追跡対象が検出されていることになる。一方、追跡対象が検出されない場合(ステップS33:No)、取得部306により取得された現フレームに関連する追跡対象の追跡処理を終了する。この場合、前フレーム、現フレーム、および前フレームより以前のフレームのいずれにおいても追跡対象が検出されず、かつ、前フレームおよび現フレームに対応する撮像装置2とは異なる他の撮像装置2のフレームでも追跡対象が検出されなかったことになる。
管理部313は、追跡対象の情報に含まれる追跡対象の座標として、前フレームより以前のフレームで検出された追跡対象の座標と同一の座標を、現フレームに対応する座標として記憶部304に記憶する。すなわち、追跡対象が消失した時点以降の追跡対象が位置する座標を、追跡対象が消失する直前で検出された座標とみなして記憶する。これによって、追跡対象がすべての撮像装置2のフレームから消失しても、いずれかの撮像装置2のフレームで再び検出するまで、追跡対象が消失する直前で検出された座標の記憶を継続するので、複数の撮像装置2間での追跡対象の追跡の連携を取ることができる。そして、取得部306により取得された現フレームに関連する追跡対象の追跡処理を終了する。
第2の実施の形態に係る情報処理装置について、第1の実施の形態に係る情報処理装置3と相違する点を中心に説明する。第2の実施の形態に係る情報処理装置では、フレームを表示する表示領域の外周部分の所定領域を設け、追跡対象が消失する直前にこの所定領域に存在していたか否かによって処理を分岐する動作について説明する。なお、本実施の形態に係る画像処理システムの構成、ならびに、情報処理装置のハードウェア構成、および色登録処理の動作は、上述の第1の実施の形態で説明したそれぞれの構成および動作と同様である。
図17は、第2の実施の形態に係る情報処理装置の機能ブロックの構成の一例を示す図である。図17を参照しながら、情報処理装置3aのブロック構成について説明する。
図18は、特定の撮像装置の映像のフレームで追跡対象が検出された場合の一例を示す図である。図19は、特定の撮像装置の映像のフレームで検出された追跡対象がキャッチウィンドウまで移動した状態を示す図である。図20は、特定の撮像装置の映像のフレームで検出された追跡対象がキャッチウィンドウから消失した状態を示す図である。図21は、特定の撮像装置の映像のフレームのキャッチウィンドウから消失した追跡対象が別の撮像装置の映像のフレームで検出された状態を示す図である。図22は、特定の撮像装置の映像のフレームで検出された追跡対象がキャッチウィンドウに達する前まで移動した状態を示す図である。図23は、特定の撮像装置の映像のフレームで検出された追跡対象がキャッチウィンドウに達する前で消失した状態を示す図である。図24は、特定の撮像装置の映像のフレームのキャッチウィンドウ外で消失した追跡対象が再び同じ撮像装置のフレームで検出された状態を示す図である。図25は、特定の撮像装置の映像のフレームのキャッチウィンドウ外で消失した追跡対象が別の撮像装置の映像のフレームで検出された状態を示す図である。図18〜図25を参照しながら、本実施の形態に係る情報処理装置3aによる追跡対象の追跡処理の概要について説明する。
図26は、第2の実施の形態に係る情報処理装置の追跡処理の流れの一例を示すフローチャートである。図26を参照しながら、本実施の形態に係る情報処理装置3aの追跡対象の追跡処理の流れについて説明する。なお、予め、上述の色登録処理により、基準色が登録されているものとする。そして、全体表示部402において再生部305による映像データの再生表示中に、追跡対象の追跡処理を所望するフレームが表示されているタイミングで、ユーザによる入力部302の操作によって追跡開始ボタン410が押下されると、再生部305により表示されたフレームから、管理部313によって追跡対象の追跡処理が開始される。なお、再生部305によって全体表示部402の個別表示部402a〜402dにそれぞれ再生表示される映像データは、撮像装置2から受信したリアルタイムの映像データであってもよく、または、記憶部304に記憶された過去の映像データであってもよい。
ステップS41〜S47の処理は、それぞれ、第1の実施形態の図16で示したステップS21〜S27の処理と同様である。ただし、ステップS43において、検出部309により追跡対象が検出された前フレームに対応する現フレームにおいて、同じ追跡対象が検出されない場合(ステップS43:No)、ステップS48へ移行する。この場合、前フレームでは追跡対象が検出されたが、現フレームで検出されなかったので、追跡対象が消失したことになる。また、ステップS47において、検出部309により追跡対象が検出されていない前フレームに対応する現フレームにおいて、追跡対象が検出されない場合(ステップS47:No)、ステップS52へ移行する。この場合、前フレームおよび現フレームの双方で追跡対象が検出されていないことになる。
ステップS41において、取得部306により取得された他の撮像装置2の映像データのフレームから、検出部309によって追跡対象が検出された場合(ステップS48:Yes)、ステップS53へ移行する。この場合、前フレームで追跡対象が検出され、現フレームでは追跡対象が検出されなかったので、追跡対象が消失したことになるが、他の撮像装置2のフレームで追跡対象が検出されたことになる。一方、追跡対象が検出されない場合(ステップS48:No)、ステップS49へ移行する。この場合、前フレームで追跡対象が検出されていたが、現フレームでは追跡対象が検出されず(消失し)、かつ、他の撮像装置2のフレームでも追跡対象が検出されなかったことになる。
判定部316は、追跡対象が消失する直前で検出された追跡対象の座標が、追跡対象が消失したフレームに設定されたキャッチウィンドウ内にあるか否かを判定する。追跡対象の座標がキャッチウィンドウ内にある場合、すなわち、追跡対象がキャッチウィンドウ内で消失した場合(ステップS49:Yes)、ステップS51へ移行する。一方、追跡対象の座標がキャッチウィンドウ内にない場合、すなわち、追跡対象がキャッチウィンドウ外(キャッチウィンドウの内側)で消失した場合(ステップS49:No)、ステップS50へ移行する。
管理部313は、現フレーム内に追跡対象が存在するものと判断し、追跡対象の情報に含まれる追跡対象の座標として、前フレームで検出された追跡対象の座標と同一の座標を、現フレームに対応する座標として記憶部304に記憶する。すなわち、現フレーム内に追跡対象が存在するものと判断して、追跡対象が消失した時点以降の追跡対象が位置する座標を、追跡対象が消失する直前で検出された座標とみなして記憶する。これによって、追跡対象がすべての撮像装置2のフレームから消失しても、いずれかの撮像装置2のフレームで再び検出するまで、追跡対象が消失する直前で検出された座標の記憶を継続するので、複数の撮像装置2間での追跡対象の追跡の連携を取ることができる。また、現フレームのキャッチウィンドウ外(キャッチウィンドウの内側)で消失したことにより、追跡対象が現フレーム内の物体に隠れて消失した等の判断の精度を向上させることができる。そして、取得部306により取得された現フレームに関連する追跡対象の追跡処理を終了する。
管理部313は、追跡対象が現フレームから出て行ったものと判断し、追跡対象の情報(座標等)を記憶部304に記憶させない。このように、個別表示部(個別表示部402a〜402d)の外周部分に設定されたキャッチウィンドウを用いることによって、追跡対象の消失が、個別表示部の端の部分で発生したか否かを判断することができ、追跡対象が個別表示部(ここでは、現フレーム)から実際に出て行ったか否かの判断の精度を向上させることができる。そして、取得部306により取得された現フレームに関連する追跡対象の追跡処理を終了する。
ステップS52〜S54の処理は、それぞれ、第1の実施形態の図16で示したステップS30〜S32の処理と同様である。
検出部309により前フレームより以前のフレームのキャッチウィンドウ外において、追跡対象が検出されていた場合(ステップS55:Yes)、ステップS56へ移行する。この場合、前フレームおよび現フレームの双方で追跡対象が検出されていないが、前フレームより以前のフレームのキャッチウィンドウ外で追跡対象が検出されていることになる。一方、追跡対象が検出されない場合(ステップS55:No)、取得部306により取得された現フレームに関連する追跡対象の追跡処理を終了する。この場合、前フレームおよび現フレームのいずれにおいても追跡対象が検出されず、前フレームより以前のフレームにおいて少なくともキャッチウィンドウ内での追跡対象の検出がなされず、かつ、前フレームおよび現フレームに対応する撮像装置2とは異なる他の撮像装置2のフレームでも追跡対象が検出されなかったことになる。
管理部313は、追跡対象の情報に含まれる追跡対象の座標として、前フレームより以前のフレームのキャッチウィンドウ外で検出された追跡対象の座標と同一の座標を、現フレームに対応する座標として記憶部304に記憶する。すなわち、追跡対象が消失した時点以降の追跡対象が位置する座標を、追跡対象が消失する直前で検出された座標とみなして記憶する。これによって、追跡対象がすべての撮像装置2のフレームから消失しても、いずれかの撮像装置2のフレームで再び検出するまで、追跡対象が消失する直前で検出された座標の記憶を継続するので、複数の撮像装置2間での追跡対象の追跡の連携を取ることができる。そして、取得部306により取得された現フレームに関連する追跡対象の追跡処理を終了する。
2、2a〜2d 撮像装置
2_1〜2_9 撮像装置
3、3a 情報処理装置
4 ハブ
10 外部機器
101 CPU
102 ROM
103 RAM
104 外部記憶装置
105 ディスプレイ
106 ネットワークI/F
107 キーボード
108 マウス
109 DVDドライブ
110 DVD
111 外部機器I/F
113 バス
301 映像受信部
302 入力部
303、303a 設定部
304 記憶部
305 再生部
306 取得部
307 指定部
308 登録部
309 検出部
310 算出部
311 決定部
312 軌跡生成部
313 管理部
314 表示制御部
315 表示部
316 判定部
400 追跡画面
401 個別表示部
401a カメラ選択タブ
402 全体表示部
402a〜402d 個別表示部
403 映像操作ボタン部
404 シークバー
405 スライダ
406 拡大縮小ボタン部
407 スパン変更ボタン部
408 時刻表示部
409 登録ボタン
410 追跡開始ボタン
411 追跡停止ボタン
412 表示切替ボタン
452 キャッチウィンドウ
500 作業者
501 追跡対象
510、520 作業者
550 指定領域
601、602、611〜614、621、622 プロット
631〜634、641、651 プロット
Claims (17)
- 複数の撮像装置で撮像されたそれぞれの映像データからフレームを取得する取得部と、
前記取得部により取得された前記フレームから、追跡対象を検出する検出部と、
前記検出部によって、前記複数の撮像装置のうち、2以上の撮像装置で撮像されたそれぞれの前記フレームから前記追跡対象が検出された場合、該追跡対象の追跡処理の対象として前記2以上の撮像装置のうちいずれかを決定する決定部と、
を備えた画像処理装置。 - 前記決定部は、前記検出部によって前記追跡対象が検出されたそれぞれの前記フレームにおける該追跡対象の面積および移動量の少なくともいずれか一方に基づいて、前記追跡処理の対象として前記2以上の撮像装置のうちいずれかを決定する請求項1に記載の画像処理装置。
- 前記決定部は、前記追跡対象の前記面積に対する前記移動量の割合に基づいて、前記追跡処理の対象として前記2以上の撮像装置のうちいずれかを決定する請求項2に記載の画像処理装置。
- 前記決定部は、前記2以上の撮像装置のうち、前記検出部により前記フレームから最初に前記追跡対象が検出された撮像装置を、前記追跡処理の対象として決定する請求項1に記載の画像処理装置。
- 前記追跡処理の対象となっている前記撮像装置により撮像された前記フレームにおいて、前記検出部により検出された前記追跡対象の位置情報を記憶装置に記憶させる管理部を、さらに備えた請求項1〜4のいずれか一項に記載の画像処理装置。
- 前記管理部は、前記追跡処理の対象となっている前記撮像装置により撮像された第1フレームにおいて前記検出部により前記追跡対象が検出されなかった場合、前記第1フレームより前のフレームであって該追跡対象が検出された第2フレームでの該追跡対象の位置情報を、前記第1フレームでの該追跡対象の位置情報として前記記憶装置に記憶させる請求項5に記載の画像処理装置。
- 前記管理部は、前記追跡処理の対象となっている前記撮像装置により撮像された前記フレームが表示されている表示装置の所定の表示領域において、外周部分の所定領域であるキャッチウィンドウ内で前記検出部により前記追跡対象が消失したことが検出された場合、該追跡対象の該フレームにおける位置情報を前記記憶装置に記憶させない請求項5に記載の画像処理装置。
- 前記管理部は、前記追跡処理の対象となっている前記撮像装置により撮像された前記フレームが表示されている表示装置の所定の表示領域において、外周部分の所定領域であるキャッチウィンドウ外で前記検出部により前記追跡対象が消失したことが検出された場合、該追跡対象の該フレームにおける位置情報として、該追跡対象が消失した位置の情報を前記記憶装置に記憶させる請求項5に記載の画像処理装置。
- 前記管理部は、前記決定部によって前記複数の撮像装置のうち前記追跡処理の対象となる撮像装置が切り替えられた場合においても、同一の前記追跡対象の位置情報を同一のデータファイルとして前記記憶装置に記憶させる請求項5〜8のいずれか一項に記載の画像処理装置。
- 前記複数の撮像装置で撮像されたそれぞれの前記映像データを表示装置の所定の表示領域に再生表示させる再生部と、
前記追跡処理の対象である前記撮像装置により撮像された前記映像データであって前記再生部により再生表示されている該映像データに重畳して、該映像データの前記フレームで前記検出部により検出された前記追跡対象の軌跡を表示させる軌跡表示部と、
をさらに備えた請求項1〜9のいずれか一項に記載の画像処理装置。 - 前記検出部は、予め登録された前記追跡対象についての特徴情報に基づいて、該追跡対象を検出する請求項1〜10のいずれか一項に記載の画像処理装置。
- 前記検出部は、前記特徴情報としての前記追跡対象が有する色に基づいて、該追跡対象を検出する請求項11に記載の画像処理装置。
- 前記検出部は、前記特徴情報としての前記追跡対象が有する形状に基づいて、該追跡対象を検出する請求項11に記載の画像処理装置。
- 前記フレームにおいて前記追跡対象についての前記特徴情報を規定するための指定領域を指定する指定部と、
前記指定領域に基づいて前記特徴情報を登録する登録部と、
をさらに備えた請求項11〜13のいずれか一項に記載の画像処理装置。 - 前記複数の撮像装置と、
請求項1〜14のいずれか一項に記載の画像処理装置と、
を備えた画像処理システム。 - 複数の撮像装置で撮像されたそれぞれの映像データからフレームを取得する取得ステップと、
取得した前記フレームから、追跡対象を検出する検出ステップと、
前記複数の撮像装置のうち、2以上の撮像装置で撮像されたそれぞれの前記フレームから前記追跡対象を検出した場合、該追跡対象の追跡処理の対象として前記2以上の撮像装置のうちいずれかを決定する決定ステップと、
を有する画像処理方法。 - コンピュータに、
複数の撮像装置で撮像されたそれぞれの映像データからフレームを取得する取得処理と、
取得した前記フレームから、追跡対象を検出する検出処理と、
前記複数の撮像装置のうち、2以上の撮像装置で撮像されたそれぞれの前記フレームから前記追跡対象を検出した場合、該追跡対象の追跡処理の対象として前記2以上の撮像装置のうちいずれかを決定する決定処理と、
を実行させるためのプログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016212211A JP6828377B2 (ja) | 2016-10-28 | 2016-10-28 | 画像処理装置、画像処理システム、画像処理方法およびプログラム |
EP17195161.9A EP3316219B1 (en) | 2016-10-28 | 2017-10-06 | Image processing apparatus, image processing method, and carrier means |
CN201711057037.8A CN108022253A (zh) | 2016-10-28 | 2017-10-27 | 图像处理装置、图像处理系统以及图像处理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016212211A JP6828377B2 (ja) | 2016-10-28 | 2016-10-28 | 画像処理装置、画像処理システム、画像処理方法およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018073129A true JP2018073129A (ja) | 2018-05-10 |
JP6828377B2 JP6828377B2 (ja) | 2021-02-10 |
Family
ID=60051379
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016212211A Active JP6828377B2 (ja) | 2016-10-28 | 2016-10-28 | 画像処理装置、画像処理システム、画像処理方法およびプログラム |
Country Status (3)
Country | Link |
---|---|
EP (1) | EP3316219B1 (ja) |
JP (1) | JP6828377B2 (ja) |
CN (1) | CN108022253A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020174566A1 (ja) * | 2019-02-26 | 2020-09-03 | 日本電気株式会社 | 監視装置、追跡方法、及び非一時的なコンピュータ可読媒体 |
JP2022531404A (ja) * | 2019-05-03 | 2022-07-06 | トヨタ モーター ヨーロッパ | 対象探索用画像取得手段 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108377342B (zh) * | 2018-05-22 | 2021-04-20 | Oppo广东移动通信有限公司 | 双摄像头拍照方法、装置、存储介质及终端 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005130462A (ja) * | 2003-09-29 | 2005-05-19 | Fuji Photo Film Co Ltd | 表示装置、及びプログラム |
JP2006245795A (ja) * | 2005-03-01 | 2006-09-14 | Toa Corp | 動体追跡装置及び動体追跡表示装置 |
JP2011243025A (ja) * | 2010-05-19 | 2011-12-01 | Fujifilm Corp | 対象画像の追尾装置およびその動作制御方法 |
JP2013074612A (ja) * | 2011-09-29 | 2013-04-22 | Canon Inc | 画像処理装置、画像処理方法及びプログラム |
JP2016042306A (ja) * | 2014-08-18 | 2016-03-31 | 株式会社リコー | 軌跡描画装置、軌跡描画方法、軌跡描画システム、及びプログラム |
JP2016126624A (ja) * | 2015-01-06 | 2016-07-11 | Kddi株式会社 | オクルージョン発生時に専用の識別器を用いて物体を追跡する装置、プログラム及び方法 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI405457B (zh) * | 2008-12-18 | 2013-08-11 | Ind Tech Res Inst | 應用攝影機換手技術之多目標追蹤系統及其方法,與其智慧節點 |
JP5769032B2 (ja) * | 2013-07-29 | 2015-08-26 | カシオ計算機株式会社 | 撮像装置、撮像方法及びプログラム |
CN104038729A (zh) * | 2014-05-05 | 2014-09-10 | 重庆大学 | 级联式多摄像机接力跟踪方法及系统 |
CN105069795B (zh) * | 2015-08-12 | 2017-12-22 | 深圳锐取信息技术股份有限公司 | 运动对象跟踪方法及装置 |
CN105243664B (zh) * | 2015-10-08 | 2018-07-17 | 东南大学 | 一种基于视觉的轮式移动机器人快速目标跟踪方法 |
CN105245850B (zh) * | 2015-10-27 | 2019-11-26 | 太原市公安局 | 跨监控摄像头进行目标追踪的方法、装置和系统 |
CN106022230B (zh) * | 2016-05-11 | 2019-05-14 | 太原理工大学 | 一种基于视频的游泳池溺水事件检测方法 |
-
2016
- 2016-10-28 JP JP2016212211A patent/JP6828377B2/ja active Active
-
2017
- 2017-10-06 EP EP17195161.9A patent/EP3316219B1/en active Active
- 2017-10-27 CN CN201711057037.8A patent/CN108022253A/zh active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005130462A (ja) * | 2003-09-29 | 2005-05-19 | Fuji Photo Film Co Ltd | 表示装置、及びプログラム |
JP2006245795A (ja) * | 2005-03-01 | 2006-09-14 | Toa Corp | 動体追跡装置及び動体追跡表示装置 |
JP2011243025A (ja) * | 2010-05-19 | 2011-12-01 | Fujifilm Corp | 対象画像の追尾装置およびその動作制御方法 |
JP2013074612A (ja) * | 2011-09-29 | 2013-04-22 | Canon Inc | 画像処理装置、画像処理方法及びプログラム |
JP2016042306A (ja) * | 2014-08-18 | 2016-03-31 | 株式会社リコー | 軌跡描画装置、軌跡描画方法、軌跡描画システム、及びプログラム |
JP2016126624A (ja) * | 2015-01-06 | 2016-07-11 | Kddi株式会社 | オクルージョン発生時に専用の識別器を用いて物体を追跡する装置、プログラム及び方法 |
Non-Patent Citations (1)
Title |
---|
青木勝司, 外4名: ""アクティブカメラ群による全観測領域の協調監視の評価"", 情報処理学会論文誌, vol. 第48巻, 第SIG1(CVIM17)号, JPN6020039701, 15 February 2007 (2007-02-15), JP, pages 65 - 77, ISSN: 0004368991 * |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020174566A1 (ja) * | 2019-02-26 | 2020-09-03 | 日本電気株式会社 | 監視装置、追跡方法、及び非一時的なコンピュータ可読媒体 |
JPWO2020174566A1 (ja) * | 2019-02-26 | 2021-12-16 | 日本電気株式会社 | 監視装置、追跡方法、及びプログラム |
US11882542B2 (en) | 2019-02-26 | 2024-01-23 | Nec Corporation | Monitoring device, tracking method, and non-transitory computer-readable medium |
JP2022531404A (ja) * | 2019-05-03 | 2022-07-06 | トヨタ モーター ヨーロッパ | 対象探索用画像取得手段 |
JP7222120B2 (ja) | 2019-05-03 | 2023-02-14 | トヨタ モーター ヨーロッパ | 対象探索用画像取得手段 |
US11997388B2 (en) | 2019-05-03 | 2024-05-28 | Toyota Motor Europe | Image obtaining means for finding an object |
Also Published As
Publication number | Publication date |
---|---|
JP6828377B2 (ja) | 2021-02-10 |
EP3316219B1 (en) | 2022-08-03 |
CN108022253A (zh) | 2018-05-11 |
EP3316219A1 (en) | 2018-05-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20180139416A1 (en) | Tracking support apparatus, tracking support system, and tracking support method | |
JP6756338B2 (ja) | 画像処理装置、画像処理システム、画像処理方法およびプログラム | |
JP2018073176A (ja) | 画像処理装置、画像処理システム、画像処理方法およびプログラム | |
US9826276B2 (en) | Method and computing device for performing virtual camera functions during playback of media content | |
US9704028B2 (en) | Image processing apparatus and program | |
JP6733785B2 (ja) | 画像処理装置、画像処理システム、画像処理方法およびプログラム | |
GB2566912A (en) | Tracking assistance device, tracking assistance system and tracking assitance method | |
US20160173787A1 (en) | Surveillance camera with heat map function | |
JP2016014837A (ja) | 情報処理装置、情報処理方法、およびプログラム | |
JP6828377B2 (ja) | 画像処理装置、画像処理システム、画像処理方法およびプログラム | |
JP2012123513A (ja) | 情報処理装置、および情報処理システム | |
JP6834372B2 (ja) | 情報処理装置、情報処理システム、情報処理方法およびプログラム | |
KR20110093040A (ko) | 피사체 감시 장치 및 방법 | |
JP2015005809A (ja) | 情報処理装置、情報処理方法、およびプログラム | |
US10187610B2 (en) | Controlling display based on an object position in an imaging space | |
JP2016039496A (ja) | 画像処理装置、画像処理システム、画像処理方法およびプログラム | |
US11223802B2 (en) | Image-based determination apparatus and image-based determination system | |
JP4436164B2 (ja) | 光信号ポインティング方法、光信号ポインティング装置、および、プログラム | |
JP2017220880A (ja) | 投影装置及び投影方法 | |
JP2022000970A (ja) | 画像処理装置、画像処理システム、画像処理方法およびプログラム | |
US11501534B2 (en) | Information processing apparatus, information processing system, information processing method, and storage medium | |
KR101990815B1 (ko) | 원격 모니터링 시스템, 모니터링 방법 및 프로그램 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190806 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20201012 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20201020 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201214 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20201222 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210104 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6828377 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |