JP6575845B2 - 画像処理システム、画像処理方法及びプログラム - Google Patents

画像処理システム、画像処理方法及びプログラム Download PDF

Info

Publication number
JP6575845B2
JP6575845B2 JP2014528040A JP2014528040A JP6575845B2 JP 6575845 B2 JP6575845 B2 JP 6575845B2 JP 2014528040 A JP2014528040 A JP 2014528040A JP 2014528040 A JP2014528040 A JP 2014528040A JP 6575845 B2 JP6575845 B2 JP 6575845B2
Authority
JP
Japan
Prior art keywords
person
image
moving image
moving
displayed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014528040A
Other languages
English (en)
Other versions
JPWO2014021005A1 (ja
Inventor
祐介 ▲高▼橋
祐介 ▲高▼橋
浩雄 池田
浩雄 池田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2014021005A1 publication Critical patent/JPWO2014021005A1/ja
Application granted granted Critical
Publication of JP6575845B2 publication Critical patent/JP6575845B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/768Arrangements for image or video recognition or understanding using pattern recognition or machine learning using context analysis, e.g. recognition aided by known co-occurring patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/30Scenes; Scene-specific elements in albums, collections or shared content, e.g. social network photos or video
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/103Static body considered as a whole, e.g. static pedestrian or occupant recognition
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Databases & Information Systems (AREA)
  • Computing Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)

Description

本発明に係るいくつかの態様は、画像処理システム、画像処理方法及びプログラムに関する。
近年、複数のカメラからの映像を利用して広範囲にわたる監視を行うシステムが考えられている。例えば特許文献1は、カメラ間の連結関係情報を用いてカメラ間にまたがる人物の追尾(モニタリング)を適切に行うことのできる装置を開示している。この装置は、カメラ視野に出現した点(In点)と、カメラ視野から消失した点(Out点)における人物特徴量の類似度に応じて、人物の対応関係を求める。
特開2008−219570号公報
特許文献1記載の装置のように、類似度に応じて自動的に人物の対応関係を定める場合には、一定の確率で誤りが生じる。そこで、人間が関与する形で人物の対応付けを行うことが求められている。
しかしながら、人間が主導で人物の対応付けを行うことを考えると、操作が煩雑になる可能性がある。対応付けにあまりに煩雑な操作が必要となると、対応付けの作業に追われて却って監視が疎かになったり、利用への心理的障害となったりする等の課題が生じる。
本発明のいくつかの態様は前述の課題に鑑みてなされたものであり、動画像に映る人物の対応づけを簡易な操作で行うことのできる画像処理システム、画像処理方法、及びプログラムを提供することを目的の1つとする。
本発明に係る画像処理システムは、複数のビデオカメラで撮像された動画像の入力を受ける入力手段と、前記入力手段から入力された動画像のうち、少なくとも1つの動画像を表示装置に表示させる第1の表示制御手段と、前記表示装置が表示する動画像に映る人物を1以上登録可能な登録手段と、前記表示装置が表示する動画像に人物が映っている場合に、当該人物と関連付け可能な、前記登録手段により登録された1以上の人物に係る人物画像を、選択可能に当該動画像近傍に表示する第2の表示制御手段とを備える。
本発明に係る画像処理方法は、複数のビデオカメラで撮像された動画像の入力を受けるステップと、前記入力された動画像のうち、少なくとも1つの動画像を表示装置に表示させるステップと、前記表示装置が表示する動画像に映る人物を1以上登録するステップと、前記表示装置が表示する動画像に人物が映っている場合に、当該人物と関連付け可能な、前記登録された1以上の人物に係る人物画像を、選択可能に当該動画像近傍に表示するステップとを画像処理システムが行う。
本発明に係るプログラムは、複数のビデオカメラで撮像された動画像の入力を受ける処理と、前記入力された動画像のうち、少なくとも1つの動画像を表示装置に表示させる処理と、前記表示装置が表示する動画像に映る人物を1以上登録する処理と、前記表示装置が表示する動画像に人物が映っている場合に、当該人物と関連付け可能な、前記登録された1以上の人物に係る人物画像を、選択可能に当該動画像近傍に表示する処理とをコンピュータに実行させる。
尚、本発明において、「部」や「手段」、「装置」、「システム」とは、単に物理的手段を意味するものではなく、その「部」や「手段」、「装置」、「システム」が有する機能をソフトウェアによって実現する場合も含む。また、1つの「部」や「手段」、「装置」、「システム」が有する機能が2つ以上の物理的手段や装置により実現されても、2つ以上の「部」や「手段」、「装置」、「システム」の機能が1つの物理的手段や装置により実現されても良い。
本発明によれば、動画像に映る人物の対応づけを簡易な操作で行うことのできる画像処理システム、画像処理方法、及びプログラムを提供することができる。
第1実施形態に係る監視システムの概略構成を示す機能ブロック図である。 表示画面の具体例を示すフローチャートである。 図2に示す表示画面に表示されるポップアップウィンドウの具体例を示す図である。 図1に示す情報処理サーバの処理の流れを示すフローチャートである。 図1に示す情報処理サーバを実装可能なハードウェア構成の機能構成を示すブロック図である。 第2実施形態に係る監視装置の概略構成を示す機能ブロック図である。
以下に本発明の実施形態を説明する。以下の説明及び参照する図面の記載において、同一又は類似の構成には、それぞれ同一又は類似の符号が付されている。
(1 第1実施形態)
図1乃至図5は、第1実施形態を説明するための図である。以下、これらの図を参照しながら、以下の流れに沿って本実施形態を説明する。まず「1.1」でシステム全体の機能構成を示すと共に、「1.2」で表示画面の具体例を示すことで、第1実施形態全体の概要を示す。その上で「1.3」で処理の流れを、「1.4」で実現可能なハードウェア構成の具体例を示す。最後に、「1.5」以降で、本実施形態に係る効果などを説明する。
(1.1 機能構成)
図1を参照しながら、本実施形態に係る画像処理システムである監視システム1の機能構成を説明する。図1は、監視システム1の機能構成を示すブロック図である。
監視システム1は、大きく分けて、情報処理サーバ100と、動画像を撮像する複数のビデオカメラ200(ビデオカメラ200A乃至200Nを総称してビデオカメラ200と呼ぶ。)とから構成される。
ビデオカメラ200は、動画像を撮像すると共に、当該撮影した動画像内に人物が映っているか否かを判別すると共に、当該人物に係る位置や特徴量等の情報を、撮影動画像と共に情報処理サーバ100へと送信する。また、ビデオカメラ200は、撮像した動画像内の人物追跡も行うこともできる。
尚、人物の検出や人物の特徴量の抽出、カメラ内の人物追跡等の処理は、例えば情報処理サーバ100や、図示しない他の情報処理装置上で行なっても良い。
情報処理サーバ100は、ビデオカメラ200で撮像された動画像を解析することにより、人物の検出や、追跡する人物の登録、登録された人物の追跡等の各種処理を行う。
尚、以下ではビデオカメラ200により撮像されるリアルタイムの動画像を元に人物監視を行う場合を例に説明を行うが、これに限られるものではなく、例えば、ビデオカメラ200により撮像された、過去の動画像を対象に監視(分析)することも考えられる。
情報処理サーバ100は、カメラ制御部110、類似度算出部120、追跡人物登録部130、表示画面生成部140、入力装置150、表示装置160、及びデータベース(DB)170を含む。
ここで、情報処理サーバ100の機能は、例えばサーバとクライアント等の複数の装置により実現してもよく、例えばカメラの制御(カメラ制御部110)や追跡する人物の登録処理(追跡人物登録部130)、表示画面の生成(表示画面生成部140)等の処理はサーバ側で、ユーザ(監視者)による入力(入力装置150)や表示画面出力(表示装置160)等の処理はクライアント側で行うようにしても良い。このサーバ側/クライアント側での処理の分担方法は種々考えることができる。
カメラ制御部110は、ビデオカメラ200を制御する。より具体的には、入力装置150から入力されたユーザ指示等に基づき、ズームインやズームアウトや撮影方向の上下左右への変更等を行うための命令をビデオカメラ200へと送信する。また、ビデオカメラ200から受信した動画像や人物検出情報を、撮影動画像171や検出人物情報173としてDB170へ登録する。
類似度算出部120は、ビデオカメラ200から入力された動画像に映る人物と、人物追跡情報175に登録された人物との類似度を算出する。このとき、類似度算出部120は、登録された各人物に係る複数の人物画像(同一人物の複数のタイミングに係る人物画像)の中から、ビデオカメラ200から入力された動画像内の人物の画像と姿勢が類似する人物画像を選択した上で類似度を算出する。これにより、類似度算出の精度を上げることが可能となる。
ここで、「類似する姿勢」とは、具体的には、例えば、正面/背面/右/左のいずれを向いているか、屈んでいるか否か、他の人と重なっているか否か等の状態がそれぞれ同一又は類似と判別できる(これらを判別するパラメータが類似している)ものをいう。
追跡人物登録部130は、ビデオカメラ200から入力された撮影動画像の中に映っている人物を、入力装置150から入力されたユーザ指示等に基づき、追跡対象の被監視者(監視対象者)としてDB170の人物追跡情報175へ登録する。また追跡人物登録部130は、ビデオカメラ200から入力された撮影動画像の中に映っている人物が、人物追跡情報175に既に登録された人物と同一人物であるとユーザに判定された場合には、その情報を人物追跡情報175に登録することもできる。
表示画面生成部140は、表示装置160に表示させる、後述する図2に例示するような表示画面を生成する。表示画面生成部140が生成する表示画面には、ビデオカメラ200で撮影された1以上の動画像(マルチカメラ映像)を示すと共に、当該動画像に映った人物を、追跡対象の人物として新たに登録するか否か、若しくは、既に登録済みの人物と同一の人物として対応付けるか否か、等を選択可能なGUI(Graphical User Interface)を表示装置160に表示させる。
入力装置150は、ユーザ(監視者)が各種情報を入力するための装置である。例えば、マウスやタッチパッド、タッチパネル等のポインティングデバイスやキーボード等が入力装置150に該当する。上述の、追跡人物登録部130による対象人物の登録や、登録された人物との対応付け等の各種処理は、入力装置150による操作に基づいてなされる。
表示装置160は、例えば、液晶や有機EL(Electro Luminescence)等に画像を表示するディスプレイである。表示画面生成部140が作成した表示画面は、表示装置160が表示する。
DB170は、例えば図示しないHDD(Hard Disk Drive)等の各種記憶装置上に構築される。DB170は、撮影動画像171、検出人物情報173、及び人物追跡情報175を記憶する。
撮影動画像171はビデオカメラ200から入力された動画像を記憶する。尚、当該撮影動画像171は、例えば撮影後一定時間経過したものや、人物が写っていないと判別できる部分は削除するようにしてもよい。
検出人物情報173は、ビデオカメラ200により検出された人物の特徴量や位置、人物画像等の情報である。
人物追跡情報175は、検出人物情報173として検出されている各人物のうち、追跡人物登録部130により追跡対象とされた人物の情報である。複数のビデオカメラ200の映像に映った人物が追跡人物登録部130により同一人物として対応付けられた場合には、その情報も人物追跡情報175に登録される。
(1.2 表示画面の具体例)
(1.2.1 表示画面全体の具体例)
以下、図2を参照しながら、表示装置160が表示する表示画面の具体例を説明する。図2は、表示装置160が、人物監視の為に表示する表示画面(以下、監視画面20ともいう。)の具体例を示す図である。
図2の監視画面20の例では、複数のビデオカメラ200から入力された撮影動画像を表示する動画像表示領域21A乃至21D(以下、総称して動画像表示領域21ともいう。)と、監視対象の人物が表示される監視対象者表示領域23とを含む。
動画像表示領域21は、前述の通り複数のビデオカメラ200から入力されたマルチカメラ映像を表示する。ここで、それぞれの動画像表示領域21に表示されるビデオカメラ200の映像は随時切り換わっても良い。例えば、監視対象の人物が表示領域から外れた後、当該人物の移動に併せて、次にその人物が現れると推測できるビデオカメラ200の映像に切り替える等の制御を行うことが考えられる。
監視対象者表示領域23は、監視者であるユーザが、動画像表示領域21に映った人物のうち、監視対象に選んだ人物が登録される領域である。図2の例のように、被監視者は複数選択することができる(図2の例では5名)。また、それぞれの人物に対して、例えば正面と背面等、姿勢の異なる複数の人物画像(図2の例では2つ)が監視対象者表示領域23に表示される。
更に、図2の監視画面20の例では、動画像表示領域21Dに映る人物Pの上方にポップアップウィンドウ25が表示されている。ポップアップウィンドウ25は、人物Pを監視対象とするか否か、及び、既に監視対象として監視対象者表示領域23上に登録されている人物と同一人物であるか否か、を選択するためのものである。
ポップアップウィンドウ25は、新たに検出された人物Pの近傍に表示されると共に、人物Pの移動(動き)に伴い、ポップアップウィンドウ25の位置も移動する。このように近傍に表示することで、新たに登録すべき人物Pの特定を容易にしたり、人物Pと被監視者との比較を容易にしたり、操作範囲(距離)を狭めたり、といった効果を得ることが可能となる。尚このとき、ポップアップウィンドウを表示させるときに、人物Pが映った該当動画像の再生を一時停止させてもよい。
(1.2.2 ポップアップウィンドウの具体例)
図3は、ポップアップウィンドウ25の具体例を示す図である。図3の例において、ID1、ID2、ID3、及びID5がそれぞれ割り当てられた被監視者のサムネイルである人物画像31A乃至31D(以下、総称して人物画像31ともいう。)と、ID6が割り当てられた空白画像33とが並列に並べられている。
尚、本実施形態では、人物画像31として静止画像を表示する場合を例に説明を行うが、これに限られるものではなく、例えば動画像を表示するようにしても良い。
人物画像31及び空白画像33の下方には、登録ボタン35A乃至35E(以下、総称して登録ボタン35ともいう。)が配置される。登録ボタン35A乃至35Dは、既に登録されているID1、ID2、ID3、及びID5に対応する被監視者と、動画像に映る人物Pとを同一人物として登録するためのものである。登録ボタン35Eは、既に登録されたID1乃至ID5の被監視者とは別に、ID6を持つ新規の被監視者として人物Pを登録するためのものである。
ここで、人物画像31A乃至31Dには、過去の動画像の履歴から抽出された被監視者に係る画像のから、人物Pが動画像上に映る姿勢と類似する姿勢の画像(例えば、姿勢に係る類似度を算出した上で、閾値を超えるもの)が選択される。
また、人物画像31C及び31Dは、人物画像31A及び31Bとは異なり、グレーアウトして表示されている。これは、人物画像31C及び31D(ID3及びID5に対応する被監視者)と人物Pとの間で算出される類似度が閾値以下であると共に、人物画像31A及び31B(ID1及びID2に対応する被監視者)と人物Pとの間で算出される類似度は閾値を超えているためである。つまり、人物Pは、ID1の被監視者又はID2の被監視者のいずれかである可能性が高いため、可能性の低いID3及びID5の被監視者とは区別して表示されている。
尚、図3のポップアップウィンドウ25の例では、ID4の被監視者の人物画像は表示されていない。これは、ID4の被監視者と人物Pとの類似度が、ID3やID5の被監視者よりも更に低いためである。つまり、類似度が極めて低く、同一ではない可能性が高い被監視者については、被監視者として提示しないようにしている。これにより、監視者であるユーザは、人物Pが同一であるか否かを判別する被監視者の数を減らすことができるため、より簡易な作業で被監視者の同一性を判別することが可能となる。
(1.3 処理の流れ)
次に、情報処理サーバ100の処理の流れを、図4を参照しながら説明する。図4は、本実施形態に係る情報処理サーバ100の処理の流れを示すフローチャートである。
尚、後述の各処理ステップは、処理内容に矛盾を生じない範囲で、任意に順番を変更して若しくは並列に実行することができ、また、各処理ステップ間に他のステップを追加しても良い。更に、便宜上1つのステップとして記載されているステップは複数のステップに分けて実行することもでき、便宜上複数に分けて記載されているステップを1ステップとして実行することもできる。
まず、情報処理サーバ100のカメラ制御部110は、ビデオカメラ200からの入力画像で人物が検出されたか否かを判別する(S401)。例えばビデオカメラ200側で人物検出を行う場合には、当該判別は、ビデオカメラ200から受信した人物検出結果に応じてカメラ制御部110が判別することができる。
類似度算出部120は、S401で検出した人物と被監視者との類似度を算出するため、DB170から人物追跡情報175を読み込む(S403)。人物追跡情報175は、被監視者に係る特徴量や過去の画像等の情報を含む。類似度算出部120は、被監視者として登録された各人物に係る人物画像を対象に、ビデオカメラ200で検出した人物との間で姿勢の類似度を算出することにより、最も姿勢の近い人物画像(サムネイル)を抽出する(S405)。
その上で、各被監視者に係る最も姿勢の近い人物画像と、ビデオカメラ200で検出した人物の画像との間の類似度を算出する(S407)。これにより、ビデオカメラ200で検出した人物と被監視者との間の類似度がわかるので、表示画面生成部140は、ビデオカメラ200で検出した人物の近傍(図2の例であれば上方)に、ポップアップウィンドウ25を配置する(S409)。ここで本実施形態に係るポップアップウィンドウ25は、上記「1.2.2」で説明したように、第1の閾値よりも類似度が低い被監視者については表示せず、第1の閾値よりも高い第2の閾値よりも類似度が低い被監視者についてはグレーアウト等して類似度が低いことを明示して、監視者であるユーザに提示する。
その後、動画像に映った人物が移動した場合には(S411のYes)、撮影範囲外への移動ではなければ(S413のNo)、S409に戻ってポップアップウィンドウ25の位置を人物近傍に配置し直す。尚、本実施形態では、S405及びS407の処理は一度しか行なっていないが、動画像に映った人物の姿勢等の変化に応じて、再度S405及びS407の処理を行うようにしても良い。
(1.4 情報処理装置の構成)
以下、図5を参照しながら、上述してきた情報処理サーバ100のハードウェア構成の一例を説明する。尚、前述の通り、情報処理サーバ100の機能は複数の情報処理装置(例えば、サーバとクライアント)により実現することも可能である。
図5に示すように、情報処理サーバ100は、プロセッサ501、メモリ503、記憶装置505、入力インタフェース(I/F)507、データI/F509、通信I/F511、及び表示装置513を含む。
プロセッサ501は、メモリ503に記憶されているプログラムを実行することにより情報処理サーバ100における様々な処理を制御する。例えば、図1で説明したカメラ制御部110、類似度算出部120、追跡人物登録部130、及び表示画面生成部140に係る処理は、メモリ503に一時記憶された上で、主にプロセッサ501上で動作するプログラムとして実現可能である。
メモリ503は、例えばRAM(Random Access Memory)等の記憶媒体である。メモリ503は、プロセッサ501によって実行されるプログラムのプログラムコードや、プログラムの実行時に必要となるデータを一時的に記憶する。例えば、メモリ503の記憶領域には、プログラム実行時に必要となるスタック領域が確保される。
記憶装置505は、例えばハードディスクやフラッシュメモリ等の不揮発性の記憶媒体である。記憶装置505は、オペレーティングシステムや、カメラ制御部110、類似度算出部120、追跡人物登録部130、及び表示画面生成部140を実現するための各種プログラムや、DB170として格納される撮影動画像171、検出人物情報173、人物追跡情報175を含む各種データ等を記憶する。記憶装置505に記憶されているプログラムやデータは、必要に応じてメモリ503にロードされることにより、プロセッサ501から参照される。
入力I/F507は、ユーザからの入力を受け付けるためのデバイスである。図1で説明した入力装置150は、入力I/F507により実現される。入力I/F507の具体例としては、キーボードやマウス、タッチパネル、各種センサ等がある。入力I/F507は、例えばUSB(Universal Serial Bus)等のインタフェースを介して情報処理サーバ100に接続されても良い。
データI/F509は、情報処理サーバ100の外部からデータを入力するためのデバイスである。データI/F509の具体例としては、各種記憶媒体に記憶されているデータを読み取るためのドライブ装置等がある。データI/F509は、情報処理サーバ100の外部に設けられることも考えられる。その場合、データI/F509は例えばUSB等のインタフェースを介して情報処理サーバ100へと接続される。
通信I/F511は、情報処理サーバ100の外部の装置、例えばビデオカメラ200等との間で有線又は無線によりデータ通信するためのデバイスである。通信I/F511は情報処理サーバ100の外部に設けられることも考えられる。その場合、通信I/F511は、例えばUSB等のインタフェースを介して情報処理サーバ100に接続される。
表示装置513は、例えば監視画面20等の各種情報を表示するためのデバイスであり、例えば、液晶ディスプレイや有機EL(Electro−Luminescence)ディスプレイ等である。表示装置513は、情報処理サーバ100の外部に設けられても良い。その場合、表示装置513は、例えばディスプレイケーブル等を介して情報処理サーバ100に接続される。
(1.5 本実施形態に係る効果)
以上説明したように、本実施形態に係る情報処理サーバ100は、ビデオカメラ200に映った人物Pに対して被監視者として新規に登録、若しくは既に登録済みの被監視者と同一人物であるものとして対応付ける際に、ポップアップウィンドウ25を表示するようにしている。当該ポップアップウィンドウ25では、複数の被監視者(追跡対象者)の人物画像(サムネイル)を並べて表示するとともに、人物Pと類似する姿勢の人物画像を表示するようにしている。また、類似度に応じて人物画像をグレーアウトしたり表示しないようにしたりする。更に、ポップアップウィンドウ25が人物Pの移動に併せて移動する。このような処理により、監視者であるユーザは、人物Pの監視や対応付け等に係る操作(具体的には、人物Pと対応する被監視者を探しだすと共に、選択する操作等)を簡易なものとしている。
(2 第2実施形態)
以下、第2実施形態を図6を参照しながら説明する。図6は、画像処理システムである監視装置600の機能構成を示すブロック図である。図6に示すように、監視装置600は、入力部610と、第1の表示制御部620と、登録部630と、第2の表示制御部630とを含む。
入力部610は、複数のビデオカメラで撮像された動画像の入力を受ける。第1の表示制御部620は、入力部610から入力された動画像のうち、少なくとも1つの動画像を、図示しない表示装置に表示させる。
登録部630は、前述の表示装置が表示する動画像に映る人物を1以上登録する。第2の表示制御部640は、表示装置が表示する動画像に人物が映っている場合に、当該人物と関連付け可能な、登録部630により登録された1以上の人物に係る人物画像を、選択可能に当該動画像近傍に表示する。
このように実装することで、本実施形態に係る監視装置600によれば、動画像に映る人物の対応づけを、簡単な操作で行うことができるようになる。
(3 付記事項)
尚、前述の実施形態の構成は、組み合わせたり或いは一部の構成部分を入れ替えたりしてもよい。また、本発明の構成は前述の実施形態のみに限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々変更を加えてもよい。
尚、前述の各実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。また、本発明のプログラムは、上記の各実施形態で説明した各動作を、コンピュータに実行させるプログラムであれば良い。
(付記1)
複数のビデオカメラで撮像された動画像の入力を受ける入力手段と、前記入力手段から入力された動画像のうち、少なくとも1つの動画像を表示装置に表示させる第1の表示制御手段と、前記表示装置が表示する動画像に映る人物を1以上登録可能な登録手段と、前記表示装置が表示する動画像に人物が映っている場合に、当該人物と関連付け可能な、前記登録手段により登録された1以上の人物に係る人物画像を、選択可能に当該動画像近傍に表示する第2の表示制御手段とを備える画像処理システム。
(付記2)
前記登録手段は、前記人物画像が選択された場合に、当該人物画像に対応する人物と、前記表示装置が表示する動画像に映っている人物とを関連付ける、付記1記載の画像処理システム。
(付記3)
前記第1の表示制御手段は、前記人物画像と並べて空白画像を表示すると共に、当該空白画像が選択された場合に、前記表示装置が表示する動画像に映っている人物を新規に登録する、付記1又は付記2記載の画像処理システム。
(付記4)
前記表示装置が表示する動画像に映っている人物と、前記登録手段により登録された1以上の人物との類似度が閾値を下回る場合に、前記第2の表示制御手段は、当該閾値を下回る人物に係る前記人物画像を、類似度が閾値を超える人物に係る前記人物画像とは区別して表示する、付記1乃至付記3のいずれか1項記載の画像処理システム。
(付記5)
前記表示装置が表示する動画像に映っている人物と、前記登録手段により登録された1以上の人物との類似度が他の人物よりも高い人物に係る前記人物画像を表示する、付記1乃至付記3のいずれか1項記載の画像処理システム。
(付記6)
前記第2の表示制御手段は、前記表示装置が表示する動画像に映っている人物と姿勢が近似する前記人物画像を表示する、付記1乃至付記5のいずれか1項記載の画像処理システム。
(付記7)
前記第2の表示制御手段は、同一人物に係る異なる向きの前記人物画像を表示可能である、付記1乃至付記5のいずれか1項記載の画像処理システム。
(付記8)
前記第2の表示制御手段は、前記表示装置が表示する動画像に映っている人物の動きに合わせて前記人物画像の位置を変える、付記1乃至付記7のいずれか1項記載の画像処理システム。
(付記9)
複数のビデオカメラで撮像された動画像の入力を受けるステップと、前記入力された動画像のうち、少なくとも1つの動画像を表示装置に表示させるステップと、前記表示装置が表示する動画像に映る人物を1以上登録するステップと、前記表示装置が表示する動画像に人物が映っている場合に、当該人物と関連付け可能な、前記登録された1以上の人物に係る人物画像を、選択可能に当該動画像近傍に表示するステップとを画像処理システムが行う、画像処理方法。
(付記10)
前記人物画像が選択された場合に、当該人物画像に対応する人物と、前記表示装置が表示する動画像に映っている人物とを関連付ける、付記9記載の画像処理方法。
(付記11)
前記人物画像と並べて空白画像を表示すると共に、当該空白画像が選択された場合に、前記表示装置が表示する動画像に映っている人物を新規に登録する、付記9又は付記10記載の画像処理方法。
(付記12)
前記表示装置が表示する動画像に映っている人物と、登録された1以上の人物との類似度が閾値を下回る場合に、当該閾値を下回る人物に係る前記人物画像を、類似度が閾値を超える人物に係る前記人物画像とは区別して表示する、付記9乃至付記11のいずれか1項記載の画像処理方法。
(付記13)
前記表示装置が表示する動画像に映っている人物と、登録された1以上の人物との類似度が他の人物よりも高い人物に係る前記人物画像を表示する、付記9乃至付記11のいずれか1項記載の画像処理方法。
(付記14)
前記表示装置が表示する動画像に映っている人物と姿勢が近似する前記人物画像を表示する、付記9乃至付記13のいずれか1項記載の画像処理方法。
(付記15)
同一人物に係る異なる向きの前記人物画像を表示可能である、付記9乃至付記13のいずれか1項記載の画像処理方法。
(付記16)
前記表示装置が表示する動画像に映っている人物の動きに合わせて前記人物画像の位置を変える、付記9乃至付記15のいずれか1項記載の画像処理方法。
(付記17)
複数のビデオカメラで撮像された動画像の入力を受ける処理と、前記入力された動画像のうち、少なくとも1つの動画像を表示装置に表示させる処理と、前記表示装置が表示する動画像に映る人物を1以上登録する処理と、前記表示装置が表示する動画像に人物が映っている場合に、当該人物と関連付け可能な、前記登録された1以上の人物に係る人物画像を、選択可能に当該動画像近傍に表示する処理とをコンピュータに実行させるプログラム。
(付記18)
前記人物画像が選択された場合に、当該人物画像に対応する人物と、前記表示装置が表示する動画像に映っている人物とを関連付ける処理をコンピュータに実行させる、付記1記載のプログラム。
(付記19)
前記人物画像と並べて空白画像を表示すると共に、当該空白画像が選択された場合に、前記表示装置が表示する動画像に映っている人物を新規に登録する処理をコンピュータに実行させる、付記17又は付記18記載のプログラム。
(付記20)
前記表示装置が表示する動画像に映っている人物と、登録された1以上の人物との類似度が閾値を下回る場合に、当該閾値を下回る人物に係る前記人物画像を、類似度が閾値を超える人物に係る前記人物画像とは区別して表示する処理をコンピュータに実行させる、付記17乃至付記19のいずれか1項記載のプログラム。
(付記21)
前記表示装置が表示する動画像に映っている人物と、登録された1以上の人物との類似度が他の人物よりも高い人物に係る前記人物画像を表示する処理をコンピュータに実行させる、付記17乃至付記19のいずれか1項記載のプログラム。
(付記22)
前記表示装置が表示する動画像に映っている人物と姿勢が近似する前記人物画像を表示する処理をコンピュータに実行させる、付記17乃至付記21のいずれか1項記載のプログラム。
(付記23)
同一人物に係る異なる向きの前記人物画像を表示可能である、付記17乃至付記21のいずれか1項記載のプログラム。
(付記24)
前記表示装置が表示する動画像に映っている人物の動きに合わせて前記人物画像の位置を変える処理をコンピュータに実行させる、付記17乃至付記23のいずれか1項記載のプログラム。
この出願は、2012年7月31日に出願された日本出願特願2012−170403を基礎とする優先権を主張し、その開示の全てをここに取り込む。
1・・・監視システム、20・・・監視画面、21A、21B、21C、21D・・・動画像表示領域、23・・・監視対象者表示領域、25・・・ポップアップウィンドウ、31・・・人物画像、33・・・空白画像、35・・・登録ボタン、100・・・情報処理サーバ、110・・・カメラ制御部、120・・・類似度算出部、130・・・追跡人物登録部、140・・・表示画面生成部、150・・・入力装置、160・・・表示装置、170・・・データベース(DB)、171・・・撮影動画像、173・・・検出人物情報、175・・・人物追跡情報、200・・・ビデオカメラ、P・・・人物

Claims (9)

  1. 複数のビデオカメラで撮像された動画像の入力を受ける入力手段と、
    前記入力手段から入力された動画像のうち、少なくとも1つの動画像を表示装置に表示させる第1の表示制御手段と、
    前記表示装置が表示する動画像に映る人物を1以上登録可能な登録手段と、
    前記表示装置が表示する動画像に人物が映っている場合に、当該人物と関連付け可能な、前記登録手段により登録された1以上の人物に係る人物画像を選択可能に配置したポップアップウィンドウを、当該動画像近傍に表示する第2の表示制御手段と
    を備え、
    前記ポップアップウィンドウは、前記動画像に映っている人物が、前記動画像の撮影範囲外に移動するまで、動きに合わせて位置を変えて表示される、
    画像処理システム。
  2. 前記登録手段は、前記人物画像が選択された場合に、当該人物画像に対応する人物と、前記表示装置が表示する動画像に映っている人物とを関連付ける、
    請求項1記載の画像処理システム。
  3. 前記第2の表示制御手段は、前記人物画像と並べて空白画像を表示すると共に、当該空白画像が選択された場合に、前記表示装置が表示する動画像に映っている人物を新規に登録する、
    請求項1又は請求項2記載の画像処理システム。
  4. 前記表示装置が表示する動画像に映っている人物と、前記登録手段により登録された1以上の人物との類似度が閾値を下回る場合に、前記第2の表示制御手段は、当該閾値を下回る人物に係る前記人物画像を、類似度が閾値を超える人物に係る前記人物画像とは区別して表示する、
    請求項1乃至請求項3のいずれか1項記載の画像処理システム。
  5. 前記表示装置が表示する動画像に映っている人物と、前記登録手段により登録された1以上の人物との類似度が他の人物よりも高い人物に係る前記人物画像を表示する、
    請求項1乃至請求項3のいずれか1項記載の画像処理システム。
  6. 前記第2の表示制御手段は、前記表示装置が表示する動画像に映っている人物と姿勢が近似する前記人物画像を表示する、
    請求項1乃至請求項5のいずれか1項記載の画像処理システム。
  7. 前記第2の表示制御手段は、同一人物に係る異なる向きの前記人物画像を表示可能である、
    請求項1乃至請求項5のいずれか1項記載の画像処理システム。
  8. 複数のビデオカメラで撮像された動画像の入力を受けるステップと、
    前記入力された動画像のうち、少なくとも1つの動画像を表示装置に表示させるステップと、
    前記表示装置が表示する動画像に映る人物を1以上登録するステップと、
    前記表示装置が表示する動画像に人物が映っている場合に、当該人物と関連付け可能な、前記登録された1以上の人物に係る人物画像を選択可能に配置したポップアップウィンドウを、当該動画像近傍に表示するステップと
    を画像処理システムが行い、
    前記ポップアップウィンドウは、前記動画像に映っている人物が、前記動画像の撮影範囲外に移動するまで、動きに合わせて位置を変えて表示される、
    画像処理方法。
  9. 複数のビデオカメラで撮像された動画像の入力を受ける処理と、
    前記入力された動画像のうち、少なくとも1つの動画像を表示装置に表示させる処理と、
    前記表示装置が表示する動画像に映る人物を1以上登録する処理と、
    前記表示装置が表示する動画像に人物が映っている場合に、当該人物と関連付け可能な、前記登録された1以上の人物に係る人物画像を選択可能に配置したポップアップウィンドウを、当該動画像近傍に表示する処理と
    をコンピュータに実行させ、
    前記ポップアップウィンドウは、前記動画像に映っている人物が、前記動画像の撮影範囲外に移動するまで、動きに合わせて位置を変えて表示される、
    プログラム。
JP2014528040A 2012-07-31 2013-06-17 画像処理システム、画像処理方法及びプログラム Active JP6575845B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2012170403 2012-07-31
JP2012170403 2012-07-31
PCT/JP2013/066568 WO2014021005A1 (ja) 2012-07-31 2013-06-17 画像処理システム、画像処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2014021005A1 JPWO2014021005A1 (ja) 2016-07-21
JP6575845B2 true JP6575845B2 (ja) 2019-09-18

Family

ID=50027695

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014528040A Active JP6575845B2 (ja) 2012-07-31 2013-06-17 画像処理システム、画像処理方法及びプログラム

Country Status (3)

Country Link
US (6) US10368010B2 (ja)
JP (1) JP6575845B2 (ja)
WO (1) WO2014021005A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10846536B2 (en) 2014-06-27 2020-11-24 Nec Corporation Abnormality detection device and abnormality detection method
US20180233017A1 (en) * 2015-08-10 2018-08-16 Konica Minolta, Inc. System for monitoring person to be monitored, monitoring information screen display device, and monitoring information screen display method
KR20180075506A (ko) * 2015-10-27 2018-07-04 소니 주식회사 정보 처리 장치, 정보 처리 방법 및 프로그램
CN111091529A (zh) * 2018-10-24 2020-05-01 株式会社理光 一种人数统计方法及人数统计系统
CN109800710B (zh) * 2019-01-18 2021-04-06 北京交通大学 行人重识别系统及方法
CN111556358B (zh) * 2020-05-20 2022-03-01 维沃移动通信(杭州)有限公司 显示方法、装置和电子设备

Family Cites Families (50)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4209852A (en) * 1974-11-11 1980-06-24 Hyatt Gilbert P Signal processing and memory arrangement
CA2057961C (en) * 1991-05-06 2000-06-13 Robert Paff Graphical workstation for integrated security system
US5936610A (en) * 1993-07-27 1999-08-10 Canon Kabushiki Kaisha Control device for image input apparatus
US5784047A (en) * 1995-04-28 1998-07-21 Intel Corporation Method and apparatus for a display scaler
DE69842020D1 (de) * 1997-01-31 2011-01-05 Hitachi Ltd Bildanzeigesystem mit der Veranlagung zur Modifikation von Anzeigeeigenschaften in einem bestimmten Anzeigebereich
US7634662B2 (en) * 2002-11-21 2009-12-15 Monroe David A Method for incorporating facial recognition technology in a multimedia surveillance system
US7106374B1 (en) * 1999-04-05 2006-09-12 Amherst Systems, Inc. Dynamically reconfigurable vision system
CN1308810B (zh) * 1999-05-06 2010-06-02 京瓷株式会社 采用便携式通信终端的电视电话系统
JP4341135B2 (ja) 2000-03-10 2009-10-07 コニカミノルタホールディングス株式会社 物体認識装置
AU4747800A (en) * 2000-04-14 2001-10-30 Orlean Holding N.V. An improved system and method for digitally editing a composite image
JP2004507822A (ja) * 2000-08-23 2004-03-11 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 衣類の選択に関する推奨例を発生する方法及びシステム
JP4036051B2 (ja) 2002-07-30 2008-01-23 オムロン株式会社 顔照合装置および顔照合方法
WO2004015987A1 (ja) * 2002-08-09 2004-02-19 Sharp Kabushiki Kaisha 画像合成装置、画像合成方法、画像合成プログラム、および画像合成プログラムを記録した記録媒体
WO2004086748A2 (en) * 2003-03-20 2004-10-07 Covi Technologies Inc. Systems and methods for multi-resolution image processing
US8363951B2 (en) * 2007-03-05 2013-01-29 DigitalOptics Corporation Europe Limited Face recognition training method and apparatus
US20050046727A1 (en) * 2003-09-02 2005-03-03 Nikon Corporation Digital camera
US8090402B1 (en) * 2003-09-26 2012-01-03 Iwao Fujisaki Communication device
KR100571826B1 (ko) 2003-12-02 2006-04-17 삼성전자주식회사 대용량 얼굴 인식 장치 및 방법
JP4352980B2 (ja) * 2004-04-23 2009-10-28 オムロン株式会社 拡大表示装置及び拡大画像制御装置
JP4572099B2 (ja) 2004-09-13 2010-10-27 三菱電機株式会社 移動体追跡支援システム
JP4538386B2 (ja) * 2005-07-06 2010-09-08 富士フイルム株式会社 対象画像記録装置および撮像装置ならびにそれらの制御方法
JP2007026316A (ja) * 2005-07-20 2007-02-01 Yamaha Motor Co Ltd 画像管理装置、ならびに画像管理用コンピュータプログラムおよびそれを記録した記録媒体
EP1962497B1 (en) 2005-11-25 2013-01-16 Nikon Corporation Electronic camera and image processing device
JP5368105B2 (ja) * 2005-12-06 2013-12-18 チャン キム,キー 駐車管理システム
JP4728144B2 (ja) 2006-02-28 2011-07-20 株式会社日立ハイテクノロジーズ 回路パターンの検査装置
US20070244902A1 (en) * 2006-04-17 2007-10-18 Microsoft Corporation Internet search-based television
US7542210B2 (en) * 2006-06-29 2009-06-02 Chirieleison Sr Anthony Eye tracking head mounted display
CN101110073A (zh) * 2006-07-20 2008-01-23 朗迅科技公司 用于对网络web页面内容加亮并添加注释的方法和系统
DE102006041637B4 (de) * 2006-09-05 2010-11-25 Seereal Technologies S.A. Wiedergabevorrichtung und Verfahren zum Nachführen eines Betrachterfensters
JP4825093B2 (ja) 2006-09-20 2011-11-30 富士通株式会社 手ぶれ補正機能付き撮像装置、手ぶれ補正方法、および、手ぶれ補正処理プログラム
US7881505B2 (en) * 2006-09-29 2011-02-01 Pittsburgh Pattern Recognition, Inc. Video retrieval system for human face content
US8031914B2 (en) * 2006-10-11 2011-10-04 Hewlett-Packard Development Company, L.P. Face-based image clustering
US8175409B1 (en) * 2006-12-01 2012-05-08 Adobe Systems Incorporated Coherent image selection and modification
JP4881766B2 (ja) 2007-03-06 2012-02-22 パナソニック株式会社 カメラ間連結関係情報生成装置
KR101477182B1 (ko) * 2007-06-01 2014-12-29 삼성전자주식회사 단말 및 그의 이미지 촬영 방법
KR101513616B1 (ko) 2007-07-31 2015-04-20 엘지전자 주식회사 이동 단말기 및 그 영상정보 관리방법
JP5273998B2 (ja) * 2007-12-07 2013-08-28 キヤノン株式会社 撮像装置、その制御方法及びプログラム
US8224029B2 (en) * 2008-03-03 2012-07-17 Videoiq, Inc. Object matching for tracking, indexing, and search
JP2009271577A (ja) * 2008-04-30 2009-11-19 Panasonic Corp 類似画像検索の結果表示装置及び類似画像検索の結果表示方法
JP5192978B2 (ja) 2008-10-17 2013-05-08 株式会社日立製作所 カメラ管理装置およびカメラ管理方法
US8627075B2 (en) * 2008-12-26 2014-01-07 Panasonic Corporation Communication device that receives external device information from an external device using near field communication
TWI578283B (zh) * 2009-02-20 2017-04-11 尼康股份有限公司 Carrying information machines, information acquisition systems, information retrieval servers, and information machines
JP4640515B2 (ja) * 2009-03-25 2011-03-02 日本ビクター株式会社 サムネイル生成装置、サムネイル生成方法、及びサムネイル生成プログラム
JP2011048204A (ja) * 2009-08-27 2011-03-10 Kyocera Corp 表示装置
US8922661B2 (en) * 2009-11-30 2014-12-30 Hewlett-Packard Development Company, L.P. Stabilizing a subject of interest in captured video
US8311278B2 (en) * 2009-12-22 2012-11-13 Xerox Corporation Method and system for automated subject identification in group photos
KR101767071B1 (ko) * 2010-06-14 2017-08-10 로오드 코포레이션 헬리콥터 엔진 장착 시스템 및 방법
JP5552946B2 (ja) * 2010-07-30 2014-07-16 株式会社リコー 顔画像サンプル採取装置、顔画像サンプル採取方法、プログラム
JP2012058838A (ja) * 2010-09-06 2012-03-22 Sony Corp 画像処理装置、プログラム及び画像処理方法
US10645344B2 (en) * 2010-09-10 2020-05-05 Avigilion Analytics Corporation Video system with intelligent visual display

Also Published As

Publication number Publication date
JPWO2014021005A1 (ja) 2016-07-21
US20200236300A1 (en) 2020-07-23
US10368010B2 (en) 2019-07-30
US20210329175A1 (en) 2021-10-21
US20230353711A1 (en) 2023-11-02
US20190191103A1 (en) 2019-06-20
US10554905B2 (en) 2020-02-04
US20150304570A1 (en) 2015-10-22
US20190191104A1 (en) 2019-06-20
WO2014021005A1 (ja) 2014-02-06
US11082634B2 (en) 2021-08-03
US10623659B2 (en) 2020-04-14

Similar Documents

Publication Publication Date Title
US11343575B2 (en) Image processing system, image processing method, and program
JP6210234B2 (ja) 画像処理システム、画像処理方法及びプログラム
JP6575845B2 (ja) 画像処理システム、画像処理方法及びプログラム
US10445887B2 (en) Tracking processing device and tracking processing system provided with same, and tracking processing method
WO2014050432A1 (ja) 情報処理システム、情報処理方法及びプログラム
JP2019186955A (ja) 情報処理システム、情報処理方法及びプログラム
JP6347211B2 (ja) 情報処理システム、情報処理方法及びプログラム
US10771716B2 (en) Control device, monitoring system, and monitoring camera control method
US9396538B2 (en) Image processing system, image processing method, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160513

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170801

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170828

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20180207

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190516

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190808

R150 Certificate of patent or registration of utility model

Ref document number: 6575845

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150