JP2018073129A - 画像処理装置、画像処理システム、画像処理方法およびプログラム - Google Patents

画像処理装置、画像処理システム、画像処理方法およびプログラム Download PDF

Info

Publication number
JP2018073129A
JP2018073129A JP2016212211A JP2016212211A JP2018073129A JP 2018073129 A JP2018073129 A JP 2018073129A JP 2016212211 A JP2016212211 A JP 2016212211A JP 2016212211 A JP2016212211 A JP 2016212211A JP 2018073129 A JP2018073129 A JP 2018073129A
Authority
JP
Japan
Prior art keywords
unit
tracking
tracking target
frame
detected
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016212211A
Other languages
English (en)
Other versions
JP6828377B2 (ja
Inventor
慶二 大村
Keiji Omura
慶二 大村
翔太郎 小元
Shotaro Komoto
翔太郎 小元
紀 山名
Tadashi Yamana
紀 山名
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2016212211A priority Critical patent/JP6828377B2/ja
Priority to EP17195161.9A priority patent/EP3316219B1/en
Priority to CN201711057037.8A priority patent/CN108022253A/zh
Publication of JP2018073129A publication Critical patent/JP2018073129A/ja
Application granted granted Critical
Publication of JP6828377B2 publication Critical patent/JP6828377B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/04Manufacturing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/292Multi-camera tracking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30232Surveillance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30241Trajectory

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Business, Economics & Management (AREA)
  • Economics (AREA)
  • Manufacturing & Machinery (AREA)
  • Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Primary Health Care (AREA)
  • Strategic Management (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

【課題】複数の撮像装置で追跡対象を追跡する際に撮像装置をまたいで追跡することができる画像処理装置、画像処理システム、画像処理方法およびプログラムを提供する。【解決手段】複数の撮像装置で撮像されたそれぞれの映像データからフレームを取得する取得部と、取得部により取得されたフレームから、追跡対象を検出する検出部と、検出部によって、複数の撮像装置のうち、2以上の撮像装置で撮像されたそれぞれのフレームから追跡対象が検出された場合、その追跡対象の追跡処理の対象として2以上の撮像装置のうちいずれかを決定する決定部と、を備える。【選択図】図4

Description

本発明は、画像処理装置、画像処理システム、画像処理方法およびプログラムに関する。
工場内を走る搬送車、現場で働く作業者、および、商業施設内を歩き回る来店客等の人および物の動きを「動線」として見える化を行う取り組みが世の中で広まっている。動線を取得する技術としては、無線LAN(Local Area Network)の位置情報を利用するもの、超音波の送信機を追跡の対象に付与して受信機で位置を特定するもの、および、ビーコンを設置し発信したIDをスマートフォンで受信して位置を補足するもの等の技術がある。ただし、これらの技術で追跡を実施するには、追跡の対象物に、無線LANまたは超音波の送信機等の端末を持たせることが条件となる。また、追跡対象に、何らかの端末を持たせずに、動線を取得する方法としては、カメラで撮影した映像に映っている追跡対象を画像処理技術で追跡し位置を特定する技術が既に知られている。
このように、映像に写っている追跡対象を画像処理技術によって追跡して動線を得る技術として、追跡対象を撮像した映像のフレームを読み込むフレーム読込手段と、フレーム読込手段により読み込まれたフレームに、追跡対象に対する追跡対象領域を設定する追跡対象領域設定手段と、フレーム読込手段により読み込まれた複数のフレーム間において追跡対象領域を追跡する追跡手段と、追跡手段の追跡結果に基づき、追跡対象の動作軌跡を描画する描画手段と、描画手段により描画された動作軌跡を表示装置に表示させる表示制御手段と、を有する軌跡描画装置が開示されている(特許文献1参照)。
しかしながら、特許文献1に記載された技術では、広範囲の動線を取得しようとした際、カメラ一個では、障害物で追跡対象が隠れたり、画角の制限により追跡対象が映らなかったりするため、複数カメラを配置することが必須となる。この場合、あるカメラで追跡していた追跡対象が、別のカメラに映ったときに、カメラをまたいで継続的に追跡することができないという問題があった。
本発明は、上記に鑑みてなされたものであって、複数の撮像装置で追跡対象を追跡する際に撮像装置をまたいで追跡することができる画像処理装置、画像処理システム、画像処理方法およびプログラムを提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明は、複数の撮像装置で撮像されたそれぞれの映像データからフレームを取得する取得部と、前記取得部により取得された前記フレームから、追跡対象を検出する検出部と、前記検出部によって、前記複数の撮像装置のうち、2以上の撮像装置で撮像されたそれぞれの前記フレームから前記追跡対象が検出された場合、該追跡対象の追跡処理の対象として前記2以上の撮像装置のうちいずれかを決定する決定部と、を備えたことを特徴とする。
本発明によれば、複数の撮像装置で追跡対象を追跡する際に撮像装置をまたいで追跡することができる。
図1は、第1の実施の形態に係る画像処理システムの全体構成の一例を示す図である。 図2は、第1の実施の形態に係る画像処理システムの複数の撮像装置を生産現場に配置した場合の一例を示す図である。 図3は、第1の実施の形態に係る情報処理装置のハードウェア構成の一例を示す図である。 図4は、第1の実施の形態に係る情報処理装置の機能ブロックの構成の一例を示す図である。 図5は、第1の実施の形態に係る情報処理装置の色登録処理の流れの一例を示すフローチャートである。 図6は、第1の実施の形態に係る情報処理装置の表示部に表示される追跡画面において映像が表示されている状態の一例を示す図である。 図7は、第1の実施の形態に係る情報処理装置において追跡対象の色を登録する操作について説明する図である。 図8は、第1の実施の形態に係る情報処理装置の表示部に表示される追跡画面において各撮像装置の映像がすべて表示された状態の一例を示す図である。 図9は、特定の撮像装置の映像のフレームで追跡対象が検出された場合の一例を示す図である。 図10は、特定の撮像装置の映像のフレームで検出された追跡対象がフレームの端まで移動した状態を示す図である。 図11は、特定の撮像装置の映像のフレームで検出された追跡対象がフレームから消失した状態を示す図である。 図12は、特定の撮像装置の映像のフレームから消失した追跡対象が別の撮像装置の映像のフレームで検出された状態を示す図である。 図13は、別の撮像装置の映像のフレームで検出された追跡対象を追跡している状態を示す図である。 図14は、別の撮像装置の映像のフレームで検出された追跡対象を追跡しているときに、さらに別の撮像装置の映像のフレームで追跡対象が検出された状態を示す図である。 図15は、2つの撮像装置の映像のフレームで検出された追跡対象のうちどちらを追跡するかを決定する動作を説明する図である。 図16は、第1の実施の形態に係る情報処理装置の追跡処理の流れの一例を示すフローチャートである。 図17は、第2の実施の形態に係る情報処理装置の機能ブロックの構成の一例を示す図である。 図18は、特定の撮像装置の映像のフレームで追跡対象が検出された場合の一例を示す図である。 図19は、特定の撮像装置の映像のフレームで検出された追跡対象がキャッチウィンドウまで移動した状態を示す図である。 図20は、特定の撮像装置の映像のフレームで検出された追跡対象がキャッチウィンドウから消失した状態を示す図である。 図21は、特定の撮像装置の映像のフレームのキャッチウィンドウから消失した追跡対象が別の撮像装置の映像のフレームで検出された状態を示す図である。 図22は、特定の撮像装置の映像のフレームで検出された追跡対象がキャッチウィンドウに達する前まで移動した状態を示す図である。 図23は、特定の撮像装置の映像のフレームで検出された追跡対象がキャッチウィンドウに達する前で消失した状態を示す図である。 図24は、特定の撮像装置の映像のフレームのキャッチウィンドウ外で消失した追跡対象が再び同じ撮像装置のフレームで検出された状態を示す図である。 図25は、特定の撮像装置の映像のフレームのキャッチウィンドウ外で消失した追跡対象が別の撮像装置の映像のフレームで検出された状態を示す図である。 図26は、第2の実施の形態に係る情報処理装置の追跡処理の流れの一例を示すフローチャートである。
以下に、図面を参照しながら、本発明に係る画像処理装置、画像処理システム、画像処理方法およびプログラムの実施の形態を詳細に説明する。また、以下の実施の形態によって本発明が限定されるものではなく、以下の実施の形態における構成要素には、当業者が容易に想到できるもの、実質的に同一のもの、およびいわゆる均等の範囲のものが含まれる。さらに、以下の実施の形態の要旨を逸脱しない範囲で構成要素の種々の省略、置換、変更および組み合わせを行うことができる。
[第1の実施の形態]
(画像処理システムの全体構成)
図1は、第1の実施の形態に係る画像処理システムの全体構成の一例を示す図である。図1を参照しながら、本実施の形態の画像処理システム1の全体構成について説明する。
図1に示すように、本実施の形態の画像処理システム1は、撮像装置2a〜2dと、情報処理装置3と、ハブ4と、を含む。
撮像装置2a〜2dは、被写体から光を電気信号に変換することによって被写体を撮像(撮影)し、複数のフレーム(画像データ)で構成された動画(例えば、10[FPS]、25[FPS]等)である映像データを生成するビデオカメラである。例えば、撮像装置2a〜2dは、製品を生産する生産設備または生産ライン等で作業する作業者を撮像して映像データを生成する。
なお、撮像装置2a〜2dを区別なく呼称する場合、または総称する場合、単に「撮像装置2」というものとする。また、図1では、画像処理システム1は、4台の撮像装置2を含む構成となっているが、これに限定されるものではなく、他の台数の撮像装置2を含む構成であってもよい。
情報処理装置3は、撮像装置2によって撮像された映像データに基づいて画像処理を実行する画像処理装置として機能するPC(Personal Computer)またワークステーション等である。また、情報処理装置3は、生産設備等の外部機器10と、例えば、フィールドバス規格による通信が可能となるように接続している。
ハブ4は、撮像装置2a〜2dを情報処理装置3と接続するためのEthernet(登録商標)規格に対応した集線装置である。ハブ4は、例えば、Ethernet規格に対応している場合、撮像装置2a〜2dと、情報処理装置3とはTCP(Transmission Control Protocol)/IP(Internet Protocol)等のプロトコルによりデータ通信が行われる。この場合、撮像装置2a〜2dおよび情報処理装置3は、TCP/IPのプロトコルにより通信するためのMAC(Media Access Control)アドレスを有し、かつプライベートIPアドレス等のIPアドレスが割り当てられている。
なお、図1に示すハブ4は、TCP/IPのプロトコルによる通信を中継する例を示したが、これに限定されるものではない。例えば、情報処理装置3側にVGA(Video Graphics Array)端子またはUSB(Universal Serial Bus)ポートを有し、複数の撮像装置2がVGAケーブルまたはUSBケーブルを介してハブ4に集線されて情報処理装置3に接続される形態等であってもよい。
また、各撮像装置2は、ハブ4を介して情報処理装置3に接続される構成について説明したが、これに限定されるものではなく、LAN(Local Area Network)、専用回線またはインターネット等のネットワークを介して接続される構成としてもよい。
図2は、第1の実施の形態に係る画像処理システムの複数の撮像装置を生産現場に配置した場合の一例を示す図である。図2を参照しながら、画像処理システム1の複数の撮像装置2が生産現場に配置された状態を説明する。
図2に示す生産現場は、工程が「1」〜「16」まであるものとする。この生産現場の各工程での作業者の動線を分析する場合、複数の撮像装置2によって各工程を撮像できるように網羅的に配置する必要がある。例えば、図2に示す例では、9台の撮像装置2(撮像装置2_1〜2_9)を生産現場に配置して各工程が網羅的に撮像できるようにしている。例えば、撮像装置2_1は、工程「1」のエリアを撮像できるように配置され、撮像装置2_2は、工程「2」〜「4」の各エリアを撮像できるように配置され、撮像装置2_3は、工程「5」および「6」の各エリアを撮像できるように配置されている。また、撮像装置2_4は、工程「7」〜「9」の各エリアを撮像できるように配置され、撮像装置2_5は、工程「10」および「11」の各エリアを撮像できるように配され、撮像装置2_6は、工程「12」のエリアを撮像できるように配置されている。さらに、撮像装置2_7は、工程「13」および「15」の各エリアを撮像できるように配置され、撮像装置2_8は、工程「14」のエリアを撮像できるように配置され、撮像装置2_9は、工程「16」のエリアを撮像できるように配置されている。
なお、以下の説明では、図1に示したように、撮像装置2が4台接続された構成を例として説明する。
(情報処理装置のハードウェア構成)
図3は、第1の実施の形態に係る情報処理装置のハードウェア構成の一例を示す図である。図3を参照しながら、本実施の形態の情報処理装置3のハードウェア構成の一例について説明する。
図3に示すように、情報処理装置3は、CPU(Central Processing Unit)101と、ROM(Read Only Memory)102と、RAM(Random Access Memory)103と、外部記憶装置104と、ディスプレイ105と、ネットワークI/F106と、キーボード107と、マウス108と、DVD(Digital Versatile Disc)ドライブ109と、外部機器I/F111と、を備えている。
CPU101は、情報処理装置3全体の動作を制御する装置である。ROM102は、情報処理装置3用のBIOS(Basic Input/Output System)およびファームウェア等のプログラムを記憶している不揮発性記憶装置である。RAM103は、CPU101のワークエリアとして使用される揮発性記憶装置である。
外部記憶装置104は、撮像装置2により撮像された映像データ、設定情報、および後述する追跡結果情報等の各種データを記憶するHDD(Hard Disk Drive)またはSSD(Solid State Drive)等の記憶装置である。
ディスプレイ105は、カーソル、メニュー、ウィンドウ、文字もしくは画像等の各種情報、または情報処理装置3による画像判定動作を実行するアプリケーションの画面を表示する表示装置である。ディスプレイ105は、例えば、CRT(Cathode Ray Tube)ディスプレイ、LCD(Liquid Crystal Display:液晶ディスプレイ)または有機EL(Electro Luminescence)ディスプレイ等である。なお、ディスプレイ105は、例えば、情報処理装置3の本体に対して、VGAケーブルまたはHDMI(登録商標)(High−Definition Multimedia Interface)ケーブル等によって接続されたり、または、Ethernetケーブルによって接続される。
ネットワークI/F106は、ハブ4に接続してデータ通信するためのインターフェースである。ネットワークI/F106は、例えば、TCP/IPのプロトコルで通信可能にするNIC(Network Interface Card)である。具体的には、情報処理装置3は、撮像装置2から、ハブ4およびネットワークI/F106を介して、映像データを取得する。
キーボード107は、文字、数字、各種指示の選択、カーソルの移動、および設定情報の設定等を行う入力装置である。マウス108は、各種指示の選択および実行、処理対象の選択、カーソルの移動、ならびに設定情報の設定等を行うための入力装置である。
DVDドライブ109は、着脱自在な記憶媒体の一例としてのDVD110に対するデータの読み出し、書き込みおよび削除を制御する装置である。
外部機器I/F111は、外部機器10と接続してデータ通信をするためのインターフェースである。外部機器I/F111は、例えば、フィールドバス規格により通信可能にするインターフェースカードである。具体的には、情報処理装置3は、外部機器10と、外部機器I/F111を介してデータ通信を行う。
上述のCPU101、ROM102、RAM103、外部記憶装置104、ディスプレイ105、ネットワークI/F106、キーボード107、マウス108、DVDドライブ109、および外部機器I/F111は、アドレスバスおよびデータバス等のバス113によって互いに通信可能に接続されている。なお、ディスプレイ105が、Ethernetケーブルによって接続される場合には、ネットワークI/F106に接続されることになり、この場合、TCP/IP等のプロトコルによりデータ通信が行われる。
(情報処理装置のブロック構成)
図4は、第1の実施の形態に係る情報処理装置の機能ブロックの構成の一例を示す図である。図4を参照しながら、情報処理装置3のブロック構成について説明する。
図4に示すように、情報処理装置3は、映像受信部301と、入力部302と、設定部303と、記憶部304と、再生部305と、取得部306と、指定部307と、登録部308と、検出部309と、算出部310と、決定部311と、軌跡生成部312(軌跡表示部)と、管理部313と、表示制御部314と、表示部315と、を備えている。なお、図4においては、説明を簡略化するため、ハブ4の図示を省略して説明する。
映像受信部301は、ハブ4を介して、撮像装置2から映像データを受信する機能部である。映像受信部301は、受信した映像データを記憶部304に記憶させる。映像受信部301は、図3に示すネットワークI/F106によって実現される。
入力部302は、情報処理装置3に色登録処理、および追跡対象の追跡処理等を実行させるための操作入力を行う装置である。入力部302は、図3に示すキーボード107およびマウス108によって実現される。
設定部303は、ユーザにより操作される入力部302からの操作信号に従って、各種設定情報を設定して記憶部304に記憶させる機能部である。設定部303は、例えば、後述するように登録部308により登録された基準色を中心とする所定範囲を示す情報(以下、「追跡パラメータ」という場合がある)を設定し、設定した追跡パラメータを、記憶部304に記憶させる。ここで、基準色を中心とする所定範囲は、基準色がRGB色空間で表される場合、基準色のR値に所定量を加算した上限値、および所定量を減算した下限値が設定されることによって、基準色のR値を中心とする所定範囲が定まる。基準色のG値およびB値についても、同様である。なお、所定量は、R値、G値およびB値それぞれ別々の値が設定されるものとしてもよい。設定部303は、図3に示すCPU101により実行されるプログラムによって実現される。
記憶部304は、映像受信部301により受信された映像データ、設定情報、および後述する追跡結果情報等の各種データを記憶する機能部である。記憶部304は、映像受信部301により受信された映像データが、どの撮像装置2により生成された映像データであるかを識別して記憶する。記憶部304は、例えば、図3に示すRAM103または外部記憶装置104によって実現される。なお、図4に示すように、記憶部304は、情報処理装置3に含まれるものとしているが、これに限定されるものではなく、例えば、外付けの外部記憶装置であってもよく、または、サーバ装置等の外部機器に備えられているものとしてもよい。
再生部305は、ユーザにより操作される入力部302からの操作信号に従って、記憶部304から取得した映像データを表示制御部314に送り、表示制御部314に対して映像データを表示部315に再生表示させる機能部である。具体的には、再生部305は、例えば、後述する図6に示すように、表示部315に表示される追跡画面400の個別表示部401に映像データを再生表示させる。再生部305は、図3に示すCPU101により実行されるプログラムによって実現される。
取得部306は、記憶部304に記憶された映像データから、追跡対象の追跡処理の対象となるフレームを取得する機能部である。取得部306は、図3に示すCPU101により実行されるプログラムによって実現される。
指定部307は、ユーザにより操作される入力部302からの操作信号に従って、表示部315で映像データを表示する表示領域(例えば、後述する図6に示す個別表示部401)において、追跡対象の追跡処理で使用する特徴情報としての色を特定するための指定領域(例えば、後述する図7に示す指定領域550)を指定する機能部である。指定部307は、指定した指定領域の情報を、撮像装置2ごとに関連付けて記憶部304に記憶させる。指定部307は、図3に示すCPU101により実行されるプログラムによって実現される。
登録部308は、指定部307により指定された指定領域の色を示す画素値に基づいて、基準色を特定し、特定した基準色の情報を記憶部304に記憶(登録)する機能部である。ここで、個別表示部401に表示される映像データのフレームの画素値は、例えば、RGB色空間、またはHSV色空間等に基づいた色を示す情報である。具体的には、登録部308は、例えば、指定領域に含まれる画素の画素値の平均値を算出し、その平均値を基準色として特定する。なお、登録部308は、指定領域の中央の画素の画素値を基準色として特定してもよい。登録部308は、図3に示すCPU101により実行されるプログラムによって実現される。
検出部309は、追跡対象の追跡処理の対象となるフレームにおいて、登録部308により登録された基準色(設定部303により設定された追跡パラメータ)に基づいて、追跡対象を検出する機能部である。具体的には、検出部309は、追跡対象の追跡処理の対象となるフレームについて、抽出処理、二値化処理、およびラベリング処理等の処理を実行し、上述した基準色を中心とする所定範囲(以下、「基準色範囲」という場合がある)に入る色の画素を含むブロックに対応する領域を追跡対象として検出する。検出部309は、図3に示すCPU101により実行されるプログラムによって実現される。
なお、検出部309は、基準色範囲に入る色の画素を含むブロックに対応する領域を追跡対象として検出しているが、これに限定されるものではない。例えば、登録部308は、指定部307により指定された指定領域内に存在する形状を特定し、特定した形状の情報(特徴情報の一例)を記憶部304に記憶(登録)し、検出部309は、登録された形状と類似または一致する形状を、追跡対象として検出するものとしてもよい。
また、検出部309は、映像データのフレームごとに追跡対象を検出することに限定されるものではなく、例えば、所定時間ごとに取得部306により取得されたフレームにおいて追跡対象を検出するものとしてもよい。また、フレームごとに追跡対象を検出する場合、そのフレームレートを設定可能としてもよく、所定時間ごとに検出する場合、その所定時間を設定可能とするものとしてもよい。
算出部310は、追跡対象が2以上の撮像装置のフレームで検出された場合、各フレームでの追跡対象の単位時間(例えば、フレーム間の時間)あたりの移動量および追跡対象の面積を算出し、面積に対する移動量の割合を算出する機能部である。算出部310は、図3に示すCPU101により実行されるプログラムによって実現される。
決定部311は、追跡対象が2以上の撮像装置のフレームで検出された場合、各フレームで算出部310により算出された追跡対象の面積に対する移動量の割合に基づいて、追跡対象の追跡処理を行うフレーム(撮像装置2)を決定する機能部である。具体的には、決定部311は、算出部310により算出された割合のうち最も大きい割合に対応するフレームを、追跡対象の追跡処理のフレームとして決定する。これによって、フレームに写っている追跡対象の移動量が長く、かつ、面積が小さいことによってさらに移動量が長くなることが期待されるフレームを、追跡処理のフレームとして決定するので、動線の情報量が多くなり、追跡対象の動線の分析精度を向上させることができる。決定部311は、図3に示すCPU101により実行されるプログラムによって実現される。
なお、決定部311は、上述のように、追跡対象の面積に対する移動量の割合に基づいて、追跡対象の追跡処理を行うフレーム(撮像装置2)を決定するものとしているが、これに限定されるものではない。例えば、決定部311は、追跡対象の移動量に基づいて、追跡対象の追跡処理を行うフレーム(撮像装置2)を決定するものとしてもよい。これは、追跡対象の動線を分析する場合に、動線の長さを長く記録したい場合等に有効となる。あるいは、決定部311は、追跡対象の面積に基づいて、追跡対象の追跡処理を行うフレーム(撮像装置2)を決定するものとしてもよい。これは、追跡対象の動線を分析する場合に、追跡対象が大きく写っているフレームの撮像装置2に決定して、追跡対象の細かい動線を記録したい場合等に有効である。また、追跡対象の動線を分析する場合に、追跡対象が小さく写っているフレームの撮像装置2に決定して、追跡対象の全体的な動きを記憶したい場合等に有効である。
軌跡生成部312は、追跡対象の軌跡を示すプロットまたは軌跡線(動線)を生成し、表示制御部314に、追跡画面400において再生表示している映像データにプロットまたは軌跡線(動線)を重畳して表示させる機能部である。具体的には、軌跡生成部312は、軌跡線(動線)を表示させる場合には、記憶部304から読み出した映像データのフレームのうち、あるフレームで検出された追跡対象の中心点と、次のフレームで検出された追跡対象の中心点とを線で結んでいき、その線を軌跡線(動線)として映像データに重畳して表示させる。また、軌跡生成部312は、プロットを表示させる場合には、記憶部304から読み出した映像データの各フレームで検出された追跡対象の中心点の位置にプロットを映像データに重畳して表示させる。なお、軌跡生成部312は、追跡対象の中心点ではなく、少なくとも追跡対象に含まれるいずれかの点(画素)を結んで軌跡線(動線)、またはプロットを生成するものとしてもよい。軌跡生成部312は、図3に示すCPU101により実行されるプログラムによって実現される。
管理部313は、ユーザにより操作される入力部302からの操作信号に従って、追跡画面400に表示されている映像データについて、登録部308により登録された基準色によって特定される追跡対象の追跡処理を開始または停止させる機能部である。また、管理部313は、情報処理装置3の全体の動作の管理を行う。管理部313は、図3に示すCPU101により実行されるプログラムによって実現される。
表示制御部314は、表示部315の表示動作を制御する機能部である。具体的には、表示制御部314は、再生部305により取得された映像データ、設定部303により設定された設定情報、および、指定部307により指定された指定領域等を、表示部315に表示させる。表示制御部314は、図3に示すCPU101により実行されるプログラム(ドライバ)によって実現される。
表示部315は、表示制御部314の制御に従って各種データを表示する表示装置である。表示部315は、本実施の形態では特に、図3に示すCPU101により実行されるプログラム(アプリケーション)の機能により、後述する追跡画面400等を表示する。表示部315は、図3に示すディスプレイ105によって実現される。
なお、図4に示した映像受信部301、設定部303、再生部305、取得部306、指定部307、登録部308、検出部309、算出部310、決定部311、軌跡生成部312、管理部313および表示制御部314の一部または全部は、ソフトウェアであるプログラムではなく、ASIC(Application Specific Integrated Circuit)またはFPGA(Field−Programmable Gate Array)等のハードウェア回路によって実現されてもよい。
また、図4に示した各機能部は、機能を概念的に示したものであって、このような構成に限定されるものではない。例えば、図4で独立した機能部として図示した複数の機能部を、1つの機能部として構成してもよい。一方、図4の1つの機能部が有する機能を複数に分割し、複数の機能部として構成するものとしてもよい。
また、以降の説明の簡略化のため、表示制御部314が、受け取ったデータを表示部315に表示させるという表現を、単に、そのデータを表示制御部314に送った機能部が、表示部315(または、表示部315が表示する画面)に表示させると表現するものとする。例えば、再生部305が、映像データを表示制御部314に送り、表示制御部314に対して映像データを表示部315に再生表示させる場合、単に、再生部305が、映像データを表示部315に再生表示させると表現するものとする。
(色登録処理)
図5は、第1の実施の形態に係る情報処理装置の色登録処理の流れの一例を示すフローチャートである。図6は、第1の実施の形態に係る情報処理装置の表示部に表示される追跡画面において映像が表示されている状態の一例を示す図である。図7は、第1の実施の形態に係る情報処理装置において追跡対象の色を登録する操作について説明する図である。図5〜図7を参照しながら、本実施の形態に係る情報処理装置3の色登録処理の流れについて説明する。
まず、色登録処理の流れを説明するにあたって、図6を参照しながら、追跡画面400の構成について説明する。追跡画面400は、色登録処理により特徴情報である色を登録し、個別表示部401、または、後述の図8に示す全体表示部402に再生表示される特定の追跡対象の追跡処理を行うための画面である。追跡画面400は、図6に示すように、個別表示部401(表示領域)と、カメラ選択タブ401aと、映像操作ボタン部403と、シークバー404と、スライダ405と、拡大縮小ボタン部406と、スパン変更ボタン部407と、時刻表示部408と、登録ボタン409と、追跡開始ボタン410と、追跡停止ボタン411と、表示切替ボタン412と、を含む。
個別表示部401は、ユーザにより操作される入力部302からの操作信号に従って、再生部305によって記憶部304から取得された映像データを再生表示される表示部である。図6の例では、記憶部304は、ユーザによる入力部302の操作により、「2」のカメラ選択タブ401aが選択操作されると、撮像装置2bにより撮像された映像データを個別表示部401に再生表示させる。
カメラ選択タブ401aは、ユーザが再生表示を所望する撮像装置2a〜2dの映像データのうちいずれの映像データを個別表示部401に表示させるのかを選択する操作部である。例えば、撮像装置2a〜2dによって撮像された映像データは、それぞれ「1」〜「4」に対応付けられており、図6の例では、「2」すなわち撮像装置2bの映像データが選択された例を示している。
映像操作ボタン部403は、ユーザによる入力部302の操作により、個別表示部401での映像データの再生、早戻し、早送り、停止および一時停止を行うボタン群である。シークバー404は、その上に配置されるスライダ405の位置により、個別表示部401に再生表示されている映像データがどの時間のものなのかを示す棒状の形状体である。スライダ405は、個別表示部401に再生表示されている映像データの撮像時刻(表示されているフレームが撮像された時刻)に対応したシークバー404上の位置にスライドする形状体かつ操作部である。逆に、スライダ405は、ユーザによる入力部302の操作によってスライドされると、再生部305によって、スライダ405が存在するシークバー404上の位置に対応した撮像時刻の映像データのフレームが個別表示部401に表示される。
拡大縮小ボタン部406は、ユーザによる入力部302の操作により、再生部305によって、個別表示部401に再生表示されている映像データが拡大表示または縮小表示されるボタン群である。例えば、拡大縮小ボタン部406のうち拡大ボタンを押下するごとに、所定の拡大率で映像データが拡大表示される。例えば、通常の表示状態を100%として、120%、140%、・・・のように拡大表示される。
スパン変更ボタン部407は、ユーザによる入力部302の操作により、再生部305によって、シークバー404の表示スパンが拡大または縮小されるボタン群である。なお、シークバー404の表示スパンを拡大または表示するのは再生部305である必要はなく、異なる機能部が担うものとしてもよい。
時刻表示部408は、再生部305によって、個別表示部401に再生表示されている映像データの撮像日付および撮像時刻を表示する表示領域である。
登録ボタン409は、指定部307により指定された指定領域について、登録部308に基準色を特定し、特定した基準色の情報を登録(記憶部304に記憶)させるボタンである。
追跡開始ボタン410は、ユーザによる入力部302の操作によって押下されると、管理部313に、個別表示部401に再生表示されている映像データにおいて、基準色によって特定される追跡対象の追跡処理を開始させるボタンである。追跡停止ボタン411は、ユーザによる入力部302の操作によって押下されると、管理部313に対して、個別表示部401に再生表示されている映像データに対して行われている追跡対象の追跡処理を停止させるボタンである。
次に、色登録処理の具体的な流れを説明する。図6に示す追跡画面400は、再生部305により撮像装置2bに対応する映像データが再生表示されている状態を示している。
<ステップS11>
まず、個別表示部401において映像データの再生表示中に、色登録処理を所望する画像の部分が表示されているタイミングで、ユーザによる入力部302の操作によって映像操作ボタン部403の一時停止ボタンが押下されると、再生部305は、個別表示部401に再生表示されている映像データを一時停止させる。図6に示すように、一時停止した映像データのフレームには、作業者500が写っている。そして、取得部306は、一時停止した映像データから個別表示部401に表示されているフレームを取得する。そして、ステップS12へ移行する。
<ステップS12>
ここで、本実施の形態に係る情報処理装置3が個別表示部401に表示されているフレームにおける追跡の対象の一例として、図7に示すように、作業者500の追跡対象501であるものとする。追跡対象501は、作業者500が着用している上着の一部であり、特定の色を有するものとする。
ユーザによる入力部302の操作(例えば、マウス108のドラッグ操作)に従って、指定部307は、取得部306により取得されたフレーム、すなわち、個別表示部401に表示されているフレームにおいて、図7に示すように、追跡対象の追跡処理で使用する特徴情報としての色を特定するために、追跡対象501において指定領域550を指定する。
なお、指定部307による指定領域の指定は、拡大縮小ボタン部406の拡大ボタンまたは縮小ボタンにより、個別表示部401に表示されているフレームを拡大または縮小した状態で行うことができるようにしてもよい。そして、ステップS13へ移行する。
<ステップS13>
ユーザによる入力部302の操作による登録ボタン409の押下によって、登録部308は、指定部307により指定された指定領域550に基づいて、基準色を特定し、特定した基準色の情報を記憶部304に記憶(登録)する。具体的には、登録部308は、例えば、指定領域550に含まれる画素の画素値の平均値を算出し、その平均値を基準色として特定する。
そして、設定部303は、登録部308により登録された基準色を中心とする所定範囲を示す情報を追跡パラメータとして設定し、設定した対追跡パラメータを、記憶部304に記憶させる。この追跡パラメータが設定されることによって、基準色範囲が定まる。
以上のステップS11〜S13によって、色登録処理(基準色の特定および登録)および追跡パラメータの設定が実行される。なお、上述の図5で示した色登録処理のフローは一例であり、その他の方法によって、基準色の特定、および追跡パラメータの設定が行われるものとしてもよい。
(追跡対象の追跡処理の概要)
図8は、第1の実施の形態に係る情報処理装置の表示部に表示される追跡画面において各撮像装置の映像がすべて表示された状態の一例を示す図である。図9は、特定の撮像装置の映像のフレームで追跡対象が検出された場合の一例を示す図である。図10は、特定の撮像装置の映像のフレームで検出された追跡対象がフレームの端まで移動した状態を示す図である。図11は、特定の撮像装置の映像のフレームで検出された追跡対象がフレームから消失した状態を示す図である。図12は、特定の撮像装置の映像のフレームから消失した追跡対象が別の撮像装置の映像のフレームで検出された状態を示す図である。図13は、別の撮像装置の映像のフレームで検出された追跡対象を追跡している状態を示す図である。図14は、別の撮像装置の映像のフレームで検出された追跡対象を追跡しているときに、さらに別の撮像装置の映像のフレームで追跡対象が検出された状態を示す図である。図15は、2つの撮像装置の映像のフレームで検出された追跡対象のうちどちらを追跡するかを決定する動作を説明する図である。図9〜図15を参照しながら、本実施の形態に係る情報処理装置3による追跡対象の追跡処理の概要について説明する。
まず、ユーザによる入力部302の操作による表示切替ボタン412の押下によって、再生部305は、カメラ選択タブ401aで選択された撮像装置2の映像データを個別表示部401に表示させている状態から、図8に示すように、すべての撮像装置2(撮像装置2a〜2d)の映像データをそれぞれ、全体表示部402の個別表示部402a〜402dに表示させる。また、ユーザが入力部302の操作により表示切替ボタン412を再び押下すると、図6に示す個別表示部401での映像データの表示に切り替わる。
なお、予め、上述の色登録処理により、基準色が登録されているものとする。そして、全体表示部402において再生部305による映像データの再生表示中に、追跡対象の追跡処理を所望するフレームが表示されているタイミングで、ユーザによる入力部302の操作によって追跡開始ボタン410が押下されると、再生部305により表示されたフレームから、管理部313によって追跡対象の追跡処理が開始される。なお、再生部305によって全体表示部402の個別表示部402a〜402dにそれぞれ再生表示される映像データは、撮像装置2から受信したリアルタイムの映像データであってもよく、または、記憶部304に記憶された過去の映像データであってもよい。
また、軌跡生成部312は、検出部309により検出された追跡対象にプロットを重畳して表示させるものとして説明する。
図9に示す全体表示部402では、撮像装置2aの映像データのフレームを表示する個別表示部402aにおいて、作業者510が着用している追跡対象となる上着(以下、単に「追跡対象」と称する場合がある)が、時刻「2016/8/5 13:10:00」に検出部309により検出された状態を示している。軌跡生成部312は、図9に示すように、個別表示部402aにおいて、検出部309により検出された追跡対象の位置にプロット601を重畳して表示させる。管理部313は、検出部309により検出された追跡対象の情報を、フレームおよび撮像装置と関連付けて、記憶部304に記憶させる。例えば、管理部313は、追跡対象の座標と、撮像装置の識別情報(例えば、図9では撮像装置2aを示す識別情報)と、フレーム番号と、時刻情報と、を関連付けた情報を記憶部304に記憶させる。なお、管理部313による追跡対象の情報として記憶する情報は上述の内容に限定されるものではない。
図10では、検出部309が、個別表示部402aにおいて、追跡対象の検出(追跡)を継続し、時刻「2016/8/5 13:10:10」に個別表示部402aの端の位置で追跡対象を検出した状態を示している。軌跡生成部312は、図10に示すように、個別表示部402aにおいて、検出部309により検出された追跡対象の位置にプロットの重畳表示を継続し、時刻「2016/8/5 13:10:10」に、検出部309により検出された追跡対象の位置にプロット602を重畳して表示させる。管理部313は、上述と同様に、検出部309により検出された追跡対象の情報を、フレームおよび撮像装置と関連付けて、記憶部304に記憶させる。
図11では、検出部309が、個別表示部402aにおいて、時刻「2016/8/5 13:10:11」に追跡対象を検出できなかった状態、すなわち、追跡対象が消失した状態を示している。この場合、管理部313は、追跡対象の情報に含まれる追跡対象の座標として、時刻「2016/8/5 13:10:10」に記憶した座標と同一の座標を、記憶部304に記憶する。すなわち、追跡対象が消失した時点以降の追跡対象が位置する座標を、追跡対象が消失する直前で検出された座標とみなして記憶する。
図12では、検出部309が、撮像装置2bの映像データのフレームを表示する個別表示部402bにおいて、時刻「2016/8/5 13:10:15」に、新たに追跡対象を検出した状態を示している。軌跡生成部312は、図12に示すように、個別表示部402bにおいて、検出部309により検出された追跡対象の位置にプロット611を重畳して表示させる。この場合、管理部313は、個別表示部402bにおける追跡対象の座標と、撮像装置の識別情報(例えば、図12では撮像装置2bを示す識別情報)と、フレーム番号と、時刻情報と、を関連付けた情報を記憶部304に記憶させる。検出部309は、以後、個別表示部402bにおいて、追跡対象の検出(追跡)を継続する。すなわち、追跡対象が個別表示部402bで新たに検出されるまでは、個別表示部402aで消失した位置の座標を記憶し、追跡対象が個別表示部402bで新たに検出された時点以降は、個別表示部402bで検出された位置の座標を記憶する。
図13では、検出部309が、個別表示部402bにおいて、追跡対象の検出(追跡)を継続し、時刻「2016/8/5 13:10:20」に個別表示部402bの端の位置で追跡対象を検出した状態を示している。軌跡生成部312は、図13に示すように、個別表示部402bにおいて、検出部309により検出された追跡対象の位置にプロットの重畳表示を継続し、時刻「2016/8/5 13:10:20」に、検出部309により検出された追跡対象の位置にプロット612を重畳して表示させる。管理部313は、上述と同様に、検出部309により検出された追跡対象の情報を、フレームおよび撮像装置と関連付けて、記憶部304に記憶させる。
図14では、検出部309が、時刻「2016/8/5 13:10:21」に、個別表示部402bにおいて、個別表示部402bの端の位置で追跡対象を検出したのと同時に、撮像装置2dの映像データのフレームを表示する個別表示部402dにおいて、新たに追跡対象を検出した状態を示している。軌跡生成部312は、図14に示すように、時刻「2016/8/5 13:10:21」に、個別表示部402bにおいて、検出部309により検出された追跡対象の位置にプロット613を重畳して表示させ、個別表示部402dにおいて、検出部309により検出された追跡対象の位置にプロット621を重畳して表示させる。この場合、管理部313は、個別表示部402bにおいて検出部309により検出された追跡対象の情報を、フレームおよび撮像装置と関連付けて、記憶部304に記憶させる。この時点では、管理部313は、個別表示部402dにおいて検出部309により検出された追跡対象の情報を、記憶部304に記憶させない。すなわち、この時点では、検出部309が追跡対象を検出する対象は個別表示部402bであり、個別表示部402dには切り替えない。
図15では、検出部309は、時刻「2016/8/5 13:10:22」に、個別表示部402bにおいて、プロット613の位置から上方の位置で追跡対象を検出し、個別表示部402dにおいて、プロット621の位置から上方の位置で追跡対象を検出した状態を示している。軌跡生成部312は、図15に示すように、時刻「2016/8/5 13:10:22」に、個別表示部402bにおいて、検出部309により検出された追跡対象の位置にプロット614を重畳して表示させ、個別表示部402dにおいて、検出部309により検出された追跡対象の位置にプロット622を重畳して表示させる。このとき、算出部310は、個別表示部402bおよび個別表示部402dの各フレームでの追跡対象の単位時間(この場合、フレーム間の時間)あたりの移動量および追跡対象の面積を算出し、面積に対する移動量の割合を算出する。具体的には、算出部310は、まず、個別表示部402bにおいてプロット614に位置する追跡対象の面積A2、および、個別表示部402dにおいてプロット622に位置する追跡対象の面積A4を、それぞれ算出する。次に、算出部310は、個別表示部402bにおいて単位時間あたりに追跡対象が移動した移動量D2(プロット613からプロット614までの移動量)、および、個別表示部402dにおいて単位時間あたりに追跡対象が移動した移動量D4(プロット621からプロット622までの移動量)を、それぞれ算出する。そして、算出部310は、面積A2に対する移動量D2の割合(D2/A2)、および、面積A4に対する移動量D4の割合(D4/A4)を算出する。
そして、決定部311は、個別表示部402bおよび個別表示部402dの各フレームで算出部310により算出された追跡対象の面積に対する移動量の割合に基づいて、追跡対象の追跡処理を行うフレーム(撮像装置2)を決定する。具体的には、決定部311は、算出部310により算出された割合(D2/A2)および割合(D4/A4)のうち大きい方の割合に対応する撮像装置のフレームを、追跡対象の追跡処理のフレームとして決定する。例えば、図15の例では、決定部311は、割合(D2/A2)および割合(D4/A4)のうち、割合(D4/A4)が大きいと判断した場合、撮像装置2dのフレームを追跡処理のフレームに決定し、以後、検出部309は、個別表示部402dにおいて追跡対象の検出(追跡)を継続する。すなわち、検出部309によって複数のフレーム(図15の例では、撮像装置2bおよび撮像装置2dのフレーム)で追跡対象が検出された場合、いずれか1つの撮像装置のフレームにおいて追跡対象の追跡を継続する。この場合、管理部313は、個別表示部402dにおいて検出部309により検出された追跡対象の情報を、フレームおよび撮像装置と関連付けて、記憶部304に記憶させる。なお、決定部311は、算出部310により算出された移動量D2および移動量D4に基づいて、追跡対象の追跡処理のフレーム(撮像装置2)を決定してもよく、または、算出部310により算出された面積A2および面積A4に基づいて、追跡対象の追跡処理のフレーム(撮像装置2)を決定してもよい。
(追跡対象の追跡処理の具体的な流れ)
図16は、第1の実施の形態に係る情報処理装置の追跡処理の流れの一例を示すフローチャートである。図16を参照しながら、本実施の形態に係る情報処理装置3の追跡対象の追跡処理の流れについて説明する。なお、予め、上述の色登録処理により、基準色が登録されているものとする。そして、全体表示部402において再生部305による映像データの再生表示中に、追跡対象の追跡処理を所望するフレームが表示されているタイミングで、ユーザによる入力部302の操作によって追跡開始ボタン410が押下されると、再生部305により表示されたフレームから、管理部313によって追跡対象の追跡処理が開始される。なお、再生部305によって全体表示部402の個別表示部402a〜402dにそれぞれ再生表示される映像データは、撮像装置2から受信したリアルタイムの映像データであってもよく、または、記憶部304に記憶された過去の映像データであってもよい。
<ステップS21>
取得部306は、複数の撮像装置2の映像データから、追跡対象の追跡処理の対象となるフレーム(現フレーム)をそれぞれ取得する。フレームが取得できた場合(ステップS21:Yes)、ステップS22へ移行し、フレームが取得できない場合(ステップS21:No)、終了する。
<ステップS22>
検出部309によって、現フレームより1つ前のフレーム(以下、「前フレーム」と称する)で追跡対象が検出されている場合(ステップS22:Yes)、ステップS23へ移行し、検出されてない場合(ステップS22:No)、ステップS27へ移行する。
<ステップS23>
検出部309により追跡対象が検出された前フレームに対応する現フレームにおいて、同じ追跡対象が検出された場合(ステップS23:Yes)、ステップS24へ移行する。この場合、前フレームおよび現フレームの双方で追跡対象が検出されたことになる。そして、軌跡生成部312は、現フレームを表示している個別表示部(個別表示部402a〜402dのいずれか)において、検出部309により検出された追跡対象の位置にプロットを重畳して表示させる。一方、追跡対象が検出されない場合(ステップS23:No)、ステップS28へ移行する。この場合、前フレームでは追跡対象が検出されたが、現フレームで検出されなかったので、追跡対象が消失したことになる。
<ステップS24>
ステップS21において、取得部306により取得された他の撮像装置2の映像データのフレームから、検出部309によって追跡対象が検出された場合(ステップS24:Yes)、ステップS25へ移行する。この場合、前フレームおよび現フレームの双方で追跡対象が検出されていると共に、前フレームおよび現フレームに対応する撮像装置2とは異なる他の撮像装置2のフレームで追跡対象が検出されたことになる。一方、追跡対象が検出されない場合(ステップS24:No)、ステップS26へ移行する。この場合、前フレームおよび現フレームに対応する撮像装置2でのみ追跡対象が検出されたので、引き続き、追跡対象の追跡処理の対象となるのは当該撮像装置2のフレームとなる。
<ステップS25>
検出部309は、同じタイミングで、2つの撮像装置2のフレームで同一の追跡対象を検出している。したがって、算出部310は、2つ撮像装置2の各フレームでの追跡対象の単位時間(この場合、フレーム間の時間)あたりの移動量および追跡対象の面積を算出し、面積に対する移動量の割合を算出する。そして、決定部311は、2つ撮像装置2の各フレームで算出部310により算出された追跡対象の面積に対する移動量の割合に基づいて、追跡対象の追跡処理を行う最適なフレーム(撮像装置2)を決定する。そして、ステップS26へ移行する。なお、決定部311は、2つ撮像装置2の各フレームで、算出部310により算出された追跡対象の移動量に基づいて、追跡対象の追跡処理を行う最適なフレーム(撮像装置2)を決定してもよく、または、算出部310により算出された追跡対象の面積に基づいて、追跡対象の追跡処理を行う最適なフレーム(撮像装置2)を決定してもよい。
<ステップS26>
管理部313は、検出部309により検出された追跡対象の情報を、現在、追跡処理の対象となっているフレームおよび撮像装置2と関連付けて、記憶部304に記憶させる。例えば、管理部313は、現在、追跡処理の対象となっているフレームでの追跡対象の座標と、当該フレームに対応する撮像装置2の識別情報と、フレーム番号と、時刻情報と、を関連付けた情報を記憶部304に記憶させる。この場合、例えば、今まで追跡処理の対象となっていた撮像装置2から他の撮像装置2へ切り替わった場合でも、同一の追跡対象の情報として、同一のデータ(ファイル等)に記憶部304に記憶させることによって、複数の撮像装置2による同一の追跡対象の追跡処理の結果を示す情報として管理することができる。そして、取得部306により取得された現フレームに関連する追跡対象の追跡処理を終了する。
<ステップS27>
検出部309により追跡対象が検出されていない前フレームに対応する現フレームにおいて、追跡対象が検出された場合(ステップS27:Yes)、ステップS26へ移行する。この場合、前フレームでは追跡対象が検出されていないが、現フレームで検出されたので、追跡対象が新たに検出されたことになる。そして、軌跡生成部312は、現フレームを表示している個別表示部(個別表示部402a〜402dのいずれか)において、検出部309により検出された追跡対象の位置にプロットを重畳して表示させる。また、決定部311は、現フレームに対応する撮像装置2を追跡対象の追跡処理を行う撮像装置2として決定する。一方、追跡対象が検出されない場合(ステップS27:No)、ステップS30へ移行する。この場合、前フレームおよび現フレームの双方で追跡対象が検出されていないことになる。
<ステップS28>
ステップS21において、取得部306により取得された他の撮像装置2の映像データのフレームから、検出部309によって追跡対象が検出された場合(ステップS28:Yes)、ステップS31へ移行する。この場合、前フレームで追跡対象が検出され、現フレームでは追跡対象が検出されなかったので、追跡対象が消失したことになるが、他の撮像装置2のフレームで追跡対象が検出されたことになる。一方、追跡対象が検出されない場合(ステップS28:No)、ステップS29へ移行する。この場合、前フレームで追跡対象が検出されていたが、現フレームでは追跡対象が検出されず、かつ、他の撮像装置2のフレームでも追跡対象が検出されなかったことになる。
<ステップS29>
管理部313は、追跡対象の情報に含まれる追跡対象の座標として、前フレームで検出された追跡対象の座標と同一の座標を、現フレームに対応する座標として記憶部304に記憶する。すなわち、追跡対象が消失した時点以降の追跡対象が位置する座標を、追跡対象が消失する直前で検出された座標とみなして記憶する。これによって、追跡対象がすべての撮像装置2のフレームから消失しても、いずれかの撮像装置2のフレームで再び検出するまで、追跡対象が消失する直前で検出された座標の記憶を継続するので、複数の撮像装置2間での追跡対象の追跡の連携を取ることができる。そして、取得部306により取得された現フレームに関連する追跡対象の追跡処理を終了する。
<ステップS30>
ステップS21において、取得部306により取得された他の撮像装置2の映像データのフレームから、検出部309によって追跡対象が検出された場合(ステップS30:Yes)、ステップS31へ移行する。この場合、前フレームおよび現フレームの双方で追跡対象が検出されなかったが、前フレームおよび現フレームに対応する撮像装置2とは異なる他の撮像装置2のフレームで追跡対象が検出されたことになる。一方、追跡対象が検出されない場合(ステップS30:No)、ステップS33へ移行する。この場合、前フレームおよび現フレームの双方で追跡対象が検出されなかったと共に、前フレームおよび現フレームに対応する撮像装置2とは異なる他の撮像装置2のフレームでも追跡対象が検出されなかったことになる。
<ステップS31>
決定部311は、検出部309により現フレームでは追跡対象が検出されず、現フレームに対応する撮像装置2とは異なる他の撮像装置2のフレームで追跡対象が検出されたので、当該他の撮像装置2を追跡対象の追跡処理を行う撮像装置2として決定し、現フレームに対応する撮像装置2から切り替える。そして、ステップS32へ移行する。
<ステップS32>
管理部313は、検出部309により検出された追跡対象の情報を、現在、追跡処理の対象となっているフレームおよび撮像装置と関連付けて、記憶部304に記憶させる。例えば、管理部313は、現在、追跡処理の対象となっているフレームでの追跡対象の座標と、当該フレームに対応する撮像装置の識別情報と、フレーム番号と、時刻情報と、を関連付けた情報を記憶部304に記憶させる。この場合、例えば、今まで追跡処理の対象となっていた撮像装置2から他の撮像装置2へ切り替わったとしても、同一の追跡対象の情報として、同一のデータ(ファイル等)に記憶部304に記憶させることによって、複数の撮像装置2による同一の追跡対象の追跡処理の結果を示す情報として管理することができる。そして、取得部306により取得された現フレームに関連する追跡対象の追跡処理を終了する。
<ステップS33>
検出部309により前フレームより以前のフレームにおいて、追跡対象が検出されていた場合(ステップS33:Yes)、ステップS34へ移行する。この場合、前フレームおよび現フレームの双方で追跡対象が検出されていないが、前フレームより以前のフレームで追跡対象が検出されていることになる。一方、追跡対象が検出されない場合(ステップS33:No)、取得部306により取得された現フレームに関連する追跡対象の追跡処理を終了する。この場合、前フレーム、現フレーム、および前フレームより以前のフレームのいずれにおいても追跡対象が検出されず、かつ、前フレームおよび現フレームに対応する撮像装置2とは異なる他の撮像装置2のフレームでも追跡対象が検出されなかったことになる。
<ステップS34>
管理部313は、追跡対象の情報に含まれる追跡対象の座標として、前フレームより以前のフレームで検出された追跡対象の座標と同一の座標を、現フレームに対応する座標として記憶部304に記憶する。すなわち、追跡対象が消失した時点以降の追跡対象が位置する座標を、追跡対象が消失する直前で検出された座標とみなして記憶する。これによって、追跡対象がすべての撮像装置2のフレームから消失しても、いずれかの撮像装置2のフレームで再び検出するまで、追跡対象が消失する直前で検出された座標の記憶を継続するので、複数の撮像装置2間での追跡対象の追跡の連携を取ることができる。そして、取得部306により取得された現フレームに関連する追跡対象の追跡処理を終了する。
以上のステップS21〜S34の処理が繰り返されることによって、追跡対象の追跡処理が行われる。なお、図16に示すフローチャートは、追跡対象の追跡処理の流れの一例を示したものであり、上述の追跡処理の作用および効果を有する処理であればどのような流れであってもよい。
以上のように、本実施の形態に係る情報処理装置3は、複数の撮像装置2で撮像された映像データのフレームにおいて、予め登録している特徴情報に基づく追跡対象を検出して追跡し、1の撮像装置2のフレームで追跡していた追跡対象が、別の撮像装置2のフレームでも検出された場合、検出された追跡対象の状態に基づいて、2つの撮像装置2のうちいずれかの撮像装置2を追跡処理の対象として決定するものとしている。これによって、複数の撮像装置で追跡対象を追跡する際に撮像装置をまたいで追跡することができる。
また、すべての撮像装置2のフレームから追跡対象が消失した時点以降の追跡対象が位置する座標を、追跡対象が消失する直前で検出された座標とみなして記憶するものとしている。これによって、追跡対象がすべての撮像装置2のフレームから消失しても、いずれかの撮像装置2のフレームで再び検出するまで、追跡対象が消失する直前で検出された座標の記憶を継続するので、複数の撮像装置2間での追跡対象の追跡の連携を取ることができる。
また、本実施の形態に係る情報処理装置3の決定部311は、追跡対象が2以上の撮像装置のフレームで検出された場合、各フレームで算出部310により算出された追跡対象の面積に対する移動量の割合に基づいて、追跡対象の追跡処理を行うフレーム(撮像装置2)を決定するものとしている。具体的には、決定部311は、算出部310により算出された割合のうち最も大きい割合に対応するフレームを、追跡対象の追跡処理のフレームとして決定する。これによって、フレームに写っている追跡対象の移動量が長く、かつ、面積が小さいことによってさらに移動量が長くなることが期待されるフレームを、追跡処理のフレームとして決定するので、動線の情報量が多くなり、追跡対象の動線の分析精度を向上させることができる。
また、決定部311によって、今まで追跡処理の対象となっていた撮像装置2から他の撮像装置2へ切り替えられた場合でも、同一の追跡対象の情報として、同一のデータ(ファイル等)に記憶部304に記憶させる。これによって、複数の撮像装置2による同一の追跡対象の追跡処理の結果を示す情報として管理することができる。
なお、上述のように、検出部309により、2つの撮像装置2のフレームで同一の検出対象が検出された場合、決定部311は、所定の方法によって、追跡対象の追跡処理を行う最適なフレーム(撮像装置2)を決定するものとしているが、これに限定されるものではない。例えば、最初に追跡対象が検出されたフレームに対応する撮像装置2を優先して、追跡処理の対象とし、当該撮像装置2のフレームから追跡対象が消失した場合、他の撮像装置2に追跡処理の対象として切り替えるものとしてもよい。これによって、一度、追跡対象が検出された場合、消失するまでそのフレームの撮像装置2から他の撮像装置2へ切り替わることがないため、追跡対象の動線の分析において、全体的な動線の把握が可能となると共に、追跡処理の対象となる撮像装置2の切り替わりの頻度を抑制することができる。
また、本実施の形態では、2つの撮像装置2のフレームで追跡対象が同一のタイミングで検出された場合の動作を説明したが、3つ以上の撮像装置2のフレームで同一のタイミングで検出された場合についても、決定部311により同様の方法で追跡処理の対象となるフレーム(撮像装置2)を決定することができる。
[第2の実施の形態]
第2の実施の形態に係る情報処理装置について、第1の実施の形態に係る情報処理装置3と相違する点を中心に説明する。第2の実施の形態に係る情報処理装置では、フレームを表示する表示領域の外周部分の所定領域を設け、追跡対象が消失する直前にこの所定領域に存在していたか否かによって処理を分岐する動作について説明する。なお、本実施の形態に係る画像処理システムの構成、ならびに、情報処理装置のハードウェア構成、および色登録処理の動作は、上述の第1の実施の形態で説明したそれぞれの構成および動作と同様である。
(情報処理装置のブロック構成)
図17は、第2の実施の形態に係る情報処理装置の機能ブロックの構成の一例を示す図である。図17を参照しながら、情報処理装置3aのブロック構成について説明する。
図17に示すように、情報処理装置3aは、映像受信部301と、入力部302と、設定部303aと、記憶部304と、再生部305と、取得部306と、指定部307と、登録部308と、検出部309と、算出部310と、決定部311と、軌跡生成部312(軌跡表示部)と、管理部313と、表示制御部314と、表示部315と、判定部316と、を備えている。なお、本実施の形態において、映像受信部301、入力部302、記憶部304、再生部305、取得部306、指定部307、登録部308、検出部309、算出部310、決定部311、軌跡生成部312、管理部313、表示制御部314および表示部315の機能は、それぞれ第1の実施の形態で説明した機能と同様である。また、図17においては、説明を簡略化するため、ハブ4の図示を省略して説明する。
設定部303aは、ユーザにより操作される入力部302からの操作信号に従って、各種設定情報を設定して記憶部304に記憶させる機能部である。設定部303aは、例えば、後述するように登録部308により登録された基準色を中心とする所定範囲を示す情報(追跡パラメータ)、および、後述するキャッチウィンドウの幅等を設定し、設定した追跡パラメータおよび幅の情報を、記憶部304に記憶させる。設定部303aは、図3に示すCPU101により実行されるプログラムによって実現される。
判定部316は、追跡対象がフレームから消失した場合に、消失する直前で検出された追跡対象の座標が、キャッチウィンドウ内に存在するか否かを判定する機能部である。判定部316は、図3に示すCPU101により実行されるプログラムによって実現される。
なお、図17に示した映像受信部301、設定部303a、再生部305、取得部306、指定部307、登録部308、検出部309、算出部310、決定部311、軌跡生成部312、管理部313、表示制御部314および判定部316の一部または全部は、ソフトウェアであるプログラムではなく、ASICまたはFPGA等のハードウェア回路によって実現されてもよい。
また、図17に示した各機能部は、機能を概念的に示したものであって、このような構成に限定されるものではない。例えば、図17で独立した機能部として図示した複数の機能部を、1つの機能部として構成してもよい。一方、図17の1つの機能部が有する機能を複数に分割し、複数の機能部として構成するものとしてもよい。
(追跡対象の追跡処理の概要)
図18は、特定の撮像装置の映像のフレームで追跡対象が検出された場合の一例を示す図である。図19は、特定の撮像装置の映像のフレームで検出された追跡対象がキャッチウィンドウまで移動した状態を示す図である。図20は、特定の撮像装置の映像のフレームで検出された追跡対象がキャッチウィンドウから消失した状態を示す図である。図21は、特定の撮像装置の映像のフレームのキャッチウィンドウから消失した追跡対象が別の撮像装置の映像のフレームで検出された状態を示す図である。図22は、特定の撮像装置の映像のフレームで検出された追跡対象がキャッチウィンドウに達する前まで移動した状態を示す図である。図23は、特定の撮像装置の映像のフレームで検出された追跡対象がキャッチウィンドウに達する前で消失した状態を示す図である。図24は、特定の撮像装置の映像のフレームのキャッチウィンドウ外で消失した追跡対象が再び同じ撮像装置のフレームで検出された状態を示す図である。図25は、特定の撮像装置の映像のフレームのキャッチウィンドウ外で消失した追跡対象が別の撮像装置の映像のフレームで検出された状態を示す図である。図18〜図25を参照しながら、本実施の形態に係る情報処理装置3aによる追跡対象の追跡処理の概要について説明する。
まず、ユーザによる入力部302の操作による表示切替ボタン412の押下によって、再生部305は、カメラ選択タブ401aで選択された撮像装置2の映像データを個別表示部401に表示させている状態から、上述の図8に示すように、すべての撮像装置2(撮像装置2a〜2d)の映像データをそれぞれ、全体表示部402の個別表示部402a〜402dに表示させる。また、ユーザが入力部302の操作により表示切替ボタン412を再び押下すると、図6に示す個別表示部401での映像データの表示に切り替わる。
なお、予め、上述の色登録処理により、基準色が登録されているものとする。そして、全体表示部402において再生部305による映像データの再生表示中に、追跡対象の追跡処理を所望するフレームが表示されているタイミングで、ユーザによる入力部302の操作によって追跡開始ボタン410が押下されると、再生部305により表示されたフレームから、管理部313によって追跡対象の追跡処理が開始される。なお、再生部305によって全体表示部402の個別表示部402a〜402dにそれぞれ再生表示される映像データは、撮像装置2から受信したリアルタイムの映像データであってもよく、または、記憶部304に記憶された過去の映像データであってもよい。
また、軌跡生成部312は、検出部309により検出された追跡対象にプロットを重畳して表示させるものとして説明する。また、図18に示すように、個別表示部402aには、その表示領域の外周部分にキャッチウィンドウ452と称する所定領域が設定されているものとする。ただし、キャッチウィンドウは、個別表示部402aのみではなく、個別表示部402b〜402dにもそれぞれ設定されているものとする。このキャッチウィンドウの機能は後述するが、キャッチウィンドウの幅は、上述のように設定部303aによって、任意に設定変更ができる。例えば、フレームにおいて追跡対象の単位時間当たりの移動量が大きい場合には、キャッチウィンドウの幅を広めに設定するものとすればよい。
図18に示す全体表示部402では、撮像装置2aの映像データのフレームを表示する個別表示部402aにおいて、作業者520が着用している追跡対象となる上着(追跡対象)が、時刻「2016/8/10 13:10:00」に検出部309により検出された状態を示している。軌跡生成部312は、図18に示すように、個別表示部402aにおいて、検出部309により検出された追跡対象の位置にプロット631を重畳して表示させる。管理部313は、検出部309により検出された追跡対象の情報を、フレームおよび撮像装置2と関連付けて、記憶部304に記憶させる。例えば、管理部313は、追跡対象の座標と、撮像装置の識別情報(例えば、図18では撮像装置2aを示す識別情報)と、フレーム番号と、時刻情報と、を関連付けた情報を記憶部304に記憶させる。なお、管理部313による追跡対象の情報として記憶する情報は上述の内容に限定されるものではない。
図19では、検出部309が、個別表示部402aにおいて、追跡対象の検出(追跡)を継続し、時刻「2016/8/10 13:10:10」に個別表示部402aの端の位置で追跡対象を検出した状態を示している。軌跡生成部312は、図19に示すように、個別表示部402aにおいて、検出部309により検出された追跡対象の位置にプロットの重畳表示を継続し、時刻「2016/8/10 13:10:10」に、検出部309により検出された追跡対象の位置にプロット632を重畳して表示させる。管理部313は、上述と同様に、検出部309により検出された追跡対象の情報を、フレームおよび撮像装置と関連付けて、記憶部304に記憶させる。
図20では、検出部309が、個別表示部402aにおいて、時刻「2016/8/10 13:10:11」に追跡対象を検出できなかった状態、すなわち、追跡対象が消失した状態を示している。この場合、判定部316は、追跡対象が消失する直前で検出された追跡対象の座標(プロット632の座標)が、キャッチウィンドウ452内にあるか否かを判定し、図20の例では、プロット632の座標が、キャッチウィンドウ452内にあるものと判定する。この場合、管理部313は、追跡対象が個別表示部402aから出て行ったものと判断し、いずれかの撮像装置2のフレームで検出部309により再び検出されるまで、追跡対象の座標を記憶部304に記憶させない。このように、個別表示部402aの外周部分に設定されたキャッチウィンドウ452を用いることによって、追跡対象の消失が、個別表示部402aの端の部分で発生したか否かを判断することができ、追跡対象が個別表示部402aから実際に出て行ったか否かの判断の精度を向上させることができる。
図21では、検出部309が、撮像装置2bの映像データのフレームを表示する個別表示部402bにおいて、時刻「2016/8/10 13:10:15」に、新たに追跡対象を検出した状態を示している。軌跡生成部312は、図21に示すように、個別表示部402bにおいて、検出部309により検出された追跡対象の位置にプロット641を重畳して表示させる。この場合、管理部313は、個別表示部402bにおける追跡対象の座標と、撮像装置の識別情報(例えば、図12では撮像装置2bを示す識別情報)と、フレーム番号と、時刻情報と、を関連付けた情報を記憶部304に記憶させる。検出部309は、以後、個別表示部402bにおいて、追跡対象の検出(追跡)を継続する。すなわち、追跡対象が個別表示部402aで消失してから、個別表示部402bで新たに検出されるまでは、追跡対象の位置の座標を記憶しないものとし、追跡対象が個別表示部402bで新たに検出された時点以降は、個別表示部402bで検出された位置の座標の記憶を開始する。
図22では、検出部309が、図18の状態から、個別表示部402aにおいて、追跡対象の検出(追跡)を継続し、時刻「2016/8/10 13:10:10」に個別表示部402aの特定の位置まで追跡対象を検出した状態を示している。軌跡生成部312は、図22に示すように、個別表示部402aにおいて、検出部309により検出された追跡対象の位置にプロットの重畳表示を継続し、時刻「2016/8/10 13:10:10」に、検出部309により検出された追跡対象の位置にプロット633を重畳して表示させる。管理部313は、上述と同様に、検出部309により検出された追跡対象の情報を、フレームおよび撮像装置と関連付けて、記憶部304に記憶させる。
図23では、検出部309が、個別表示部402aにおいて、時刻「2016/8/10 13:10:11」に追跡対象を検出できなかった状態、すなわち、追跡対象が消失した状態を示している。この場合、判定部316は、追跡対象が消失する直前で検出された追跡対象の座標(プロット633の座標)が、キャッチウィンドウ452内にあるか否かを判定し、図23の例では、プロット633の座標が、キャッチウィンドウ452外(すなわち、キャッチウィンドウ452の内側)にあるものと判定する。この場合、管理部313は、追跡対象が個別表示部402a内に未だ存在するものと判断し、いずれかの撮像装置2のフレームで検出部309により再び検出されるまで、追跡対象の情報に含まれる追跡対象の座標として、時刻「2016/8/10 13:10:10」に記憶した座標と同一の座標を、記憶部304に記憶する。すなわち、追跡対象が消失した時点以降の追跡対象が位置する座標を、追跡対象が消失する直前で検出された座標とみなして記憶する。このように、個別表示部402aの外周部分に設定されたキャッチウィンドウ452を用いることによって、追跡対象の消失が、個別表示部402aの内側寄りの部分で発生したか否かを判断することができ、追跡対象が個別表示部402a内の物体に隠れて消失した等の判断の精度を向上させることができる。
図24では、検出部309が、個別表示部402aにおいて、時刻「2016/8/10 13:10:15」に、再び追跡対象を検出した状態を示している。軌跡生成部312は、図24に示すように、個別表示部402aにおいて、検出部309により検出された追跡対象の位置にプロット634を重畳して表示させる。管理部313は、上述と同様に、検出部309により検出された追跡対象の情報を、フレームおよび撮像装置と関連付けて、記憶部304に記憶させる。すなわち、追跡対象が個別表示部402aで新たに検出されるまでは、個別表示部402aで消失した追跡対象の位置の座標を記憶せず、追跡対象が個別表示部402aで再び検出された時点以降は、個別表示部402aで検出された位置の座標の記憶を再開する。
図25では、検出部309が、図23の状態から、撮像装置2bの映像データのフレームを表示する個別表示部402bにおいて、時刻「2016/8/10 13:10:15」に、新たに追跡対象を検出した状態を示している。軌跡生成部312は、図25に示すように、個別表示部402bにおいて、検出部309により検出された追跡対象の位置にプロット651を重畳して表示させる。この場合、管理部313は、個別表示部402bにおける追跡対象の座標と、撮像装置の識別情報(例えば、図25では撮像装置2bを示す識別情報)と、フレーム番号と、時刻情報と、を関連付けた情報を記憶部304に記憶させる。検出部309は、以後、個別表示部402bにおいて、追跡対象の検出(追跡)を継続する。すなわち、追跡対象が個別表示部402aで消失してから、個別表示部402bで新たに検出されるまでは、消失する直前の追跡対象の位置の座標の記憶を継続し、追跡対象が個別表示部402bで新たに検出された時点以降は、個別表示部402bで検出された位置の座標の記憶を開始する。
なお、個別表示部402a〜402dのフレームのうち、複数のフレームで追跡対象が検出された場合に、どのフレーム(撮像装置2)を追跡処理の対象として決定するかについての動作は、第1の実施の形態で説明した決定部311の決定動作と同様である。
(追跡対象の追跡処理の具体的な流れ)
図26は、第2の実施の形態に係る情報処理装置の追跡処理の流れの一例を示すフローチャートである。図26を参照しながら、本実施の形態に係る情報処理装置3aの追跡対象の追跡処理の流れについて説明する。なお、予め、上述の色登録処理により、基準色が登録されているものとする。そして、全体表示部402において再生部305による映像データの再生表示中に、追跡対象の追跡処理を所望するフレームが表示されているタイミングで、ユーザによる入力部302の操作によって追跡開始ボタン410が押下されると、再生部305により表示されたフレームから、管理部313によって追跡対象の追跡処理が開始される。なお、再生部305によって全体表示部402の個別表示部402a〜402dにそれぞれ再生表示される映像データは、撮像装置2から受信したリアルタイムの映像データであってもよく、または、記憶部304に記憶された過去の映像データであってもよい。
<ステップS41〜S47>
ステップS41〜S47の処理は、それぞれ、第1の実施形態の図16で示したステップS21〜S27の処理と同様である。ただし、ステップS43において、検出部309により追跡対象が検出された前フレームに対応する現フレームにおいて、同じ追跡対象が検出されない場合(ステップS43:No)、ステップS48へ移行する。この場合、前フレームでは追跡対象が検出されたが、現フレームで検出されなかったので、追跡対象が消失したことになる。また、ステップS47において、検出部309により追跡対象が検出されていない前フレームに対応する現フレームにおいて、追跡対象が検出されない場合(ステップS47:No)、ステップS52へ移行する。この場合、前フレームおよび現フレームの双方で追跡対象が検出されていないことになる。
<ステップS48>
ステップS41において、取得部306により取得された他の撮像装置2の映像データのフレームから、検出部309によって追跡対象が検出された場合(ステップS48:Yes)、ステップS53へ移行する。この場合、前フレームで追跡対象が検出され、現フレームでは追跡対象が検出されなかったので、追跡対象が消失したことになるが、他の撮像装置2のフレームで追跡対象が検出されたことになる。一方、追跡対象が検出されない場合(ステップS48:No)、ステップS49へ移行する。この場合、前フレームで追跡対象が検出されていたが、現フレームでは追跡対象が検出されず(消失し)、かつ、他の撮像装置2のフレームでも追跡対象が検出されなかったことになる。
<ステップS49>
判定部316は、追跡対象が消失する直前で検出された追跡対象の座標が、追跡対象が消失したフレームに設定されたキャッチウィンドウ内にあるか否かを判定する。追跡対象の座標がキャッチウィンドウ内にある場合、すなわち、追跡対象がキャッチウィンドウ内で消失した場合(ステップS49:Yes)、ステップS51へ移行する。一方、追跡対象の座標がキャッチウィンドウ内にない場合、すなわち、追跡対象がキャッチウィンドウ外(キャッチウィンドウの内側)で消失した場合(ステップS49:No)、ステップS50へ移行する。
<ステップS50>
管理部313は、現フレーム内に追跡対象が存在するものと判断し、追跡対象の情報に含まれる追跡対象の座標として、前フレームで検出された追跡対象の座標と同一の座標を、現フレームに対応する座標として記憶部304に記憶する。すなわち、現フレーム内に追跡対象が存在するものと判断して、追跡対象が消失した時点以降の追跡対象が位置する座標を、追跡対象が消失する直前で検出された座標とみなして記憶する。これによって、追跡対象がすべての撮像装置2のフレームから消失しても、いずれかの撮像装置2のフレームで再び検出するまで、追跡対象が消失する直前で検出された座標の記憶を継続するので、複数の撮像装置2間での追跡対象の追跡の連携を取ることができる。また、現フレームのキャッチウィンドウ外(キャッチウィンドウの内側)で消失したことにより、追跡対象が現フレーム内の物体に隠れて消失した等の判断の精度を向上させることができる。そして、取得部306により取得された現フレームに関連する追跡対象の追跡処理を終了する。
<ステップS51>
管理部313は、追跡対象が現フレームから出て行ったものと判断し、追跡対象の情報(座標等)を記憶部304に記憶させない。このように、個別表示部(個別表示部402a〜402d)の外周部分に設定されたキャッチウィンドウを用いることによって、追跡対象の消失が、個別表示部の端の部分で発生したか否かを判断することができ、追跡対象が個別表示部(ここでは、現フレーム)から実際に出て行ったか否かの判断の精度を向上させることができる。そして、取得部306により取得された現フレームに関連する追跡対象の追跡処理を終了する。
<ステップS52〜S54>
ステップS52〜S54の処理は、それぞれ、第1の実施形態の図16で示したステップS30〜S32の処理と同様である。
<ステップS55>
検出部309により前フレームより以前のフレームのキャッチウィンドウ外において、追跡対象が検出されていた場合(ステップS55:Yes)、ステップS56へ移行する。この場合、前フレームおよび現フレームの双方で追跡対象が検出されていないが、前フレームより以前のフレームのキャッチウィンドウ外で追跡対象が検出されていることになる。一方、追跡対象が検出されない場合(ステップS55:No)、取得部306により取得された現フレームに関連する追跡対象の追跡処理を終了する。この場合、前フレームおよび現フレームのいずれにおいても追跡対象が検出されず、前フレームより以前のフレームにおいて少なくともキャッチウィンドウ内での追跡対象の検出がなされず、かつ、前フレームおよび現フレームに対応する撮像装置2とは異なる他の撮像装置2のフレームでも追跡対象が検出されなかったことになる。
<ステップS56>
管理部313は、追跡対象の情報に含まれる追跡対象の座標として、前フレームより以前のフレームのキャッチウィンドウ外で検出された追跡対象の座標と同一の座標を、現フレームに対応する座標として記憶部304に記憶する。すなわち、追跡対象が消失した時点以降の追跡対象が位置する座標を、追跡対象が消失する直前で検出された座標とみなして記憶する。これによって、追跡対象がすべての撮像装置2のフレームから消失しても、いずれかの撮像装置2のフレームで再び検出するまで、追跡対象が消失する直前で検出された座標の記憶を継続するので、複数の撮像装置2間での追跡対象の追跡の連携を取ることができる。そして、取得部306により取得された現フレームに関連する追跡対象の追跡処理を終了する。
以上のステップS41〜S56の処理が繰り返されることによって、追跡対象の追跡処理が行われる。なお、図26に示すフローチャートは、追跡対象の追跡処理の流れの一例を示したものであり、上述の追跡処理の作用および効果を有する処理であればどのような流れであってもよい。
以上のように、本実施の形態に係る情報処理装置3aは、第1の実施の形態に係る情報処理装置3と同様の効果を奏することに加え、フレームの表示領域(上述の例では、個別表示部402a〜402d)の外周部分にキャッチウィンドウを設定するものとしている。これによって、追跡対象がキャッチウィンドウ内で消失した場合は、追跡対象がフレームから出て行ったとみなすことができ、キャッチウィンドウ外(キャッチウィンドウの内側)で消失した場合は、追跡対象がフレーム内に存在するとみなすことができる。したがって、複数の撮像装置2のフレームに写らない追跡対象の動線を精度よく認識して分析したい場合に、追跡対象がフレームから出て行ったか否かを精度よく判断することができる。
なお、各実施の形態の設定部303(303a)、再生部305、取得部306、指定部307、登録部308、検出部309、算出部310、決定部311、軌跡生成部312、管理部313、表示制御部314および判定部316の各機能部の少なくともいずれかがプログラムの実行によって実現される場合、そのプログラムは、ROM等に予め組み込まれて提供される。また、各実施の形態の情報処理装置3(3a)で実行されるプログラムは、インストール可能な形式または実行可能な形式のファイルでCD−ROM(Compact Disk Read Only Memory)、フレキシブルディスク(FD)、CD−R(Compact Disk Recordable)、DVD等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよい。また、各実施の形態の情報処理装置3(3a)で実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、各実施の形態の情報処理装置3(3a)で実行されるプログラムを、インターネット等のネットワーク経由で提供または配布するように構成してもよい。また、各実施の形態の情報処理装置3(3a)で実行されるプログラムは、上述した各機能部の少なくともいずれかを含むモジュール構成となっており、実際のハードウェアとしてはCPUが上述のROMからプログラムを読み出して実行することにより、上述の各部が主記憶装置上にロードされて生成されるようになっている。
1 画像処理システム
2、2a〜2d 撮像装置
2_1〜2_9 撮像装置
3、3a 情報処理装置
4 ハブ
10 外部機器
101 CPU
102 ROM
103 RAM
104 外部記憶装置
105 ディスプレイ
106 ネットワークI/F
107 キーボード
108 マウス
109 DVDドライブ
110 DVD
111 外部機器I/F
113 バス
301 映像受信部
302 入力部
303、303a 設定部
304 記憶部
305 再生部
306 取得部
307 指定部
308 登録部
309 検出部
310 算出部
311 決定部
312 軌跡生成部
313 管理部
314 表示制御部
315 表示部
316 判定部
400 追跡画面
401 個別表示部
401a カメラ選択タブ
402 全体表示部
402a〜402d 個別表示部
403 映像操作ボタン部
404 シークバー
405 スライダ
406 拡大縮小ボタン部
407 スパン変更ボタン部
408 時刻表示部
409 登録ボタン
410 追跡開始ボタン
411 追跡停止ボタン
412 表示切替ボタン
452 キャッチウィンドウ
500 作業者
501 追跡対象
510、520 作業者
550 指定領域
601、602、611〜614、621、622 プロット
631〜634、641、651 プロット
特開2016−042306号公報

Claims (17)

  1. 複数の撮像装置で撮像されたそれぞれの映像データからフレームを取得する取得部と、
    前記取得部により取得された前記フレームから、追跡対象を検出する検出部と、
    前記検出部によって、前記複数の撮像装置のうち、2以上の撮像装置で撮像されたそれぞれの前記フレームから前記追跡対象が検出された場合、該追跡対象の追跡処理の対象として前記2以上の撮像装置のうちいずれかを決定する決定部と、
    を備えた画像処理装置。
  2. 前記決定部は、前記検出部によって前記追跡対象が検出されたそれぞれの前記フレームにおける該追跡対象の面積および移動量の少なくともいずれか一方に基づいて、前記追跡処理の対象として前記2以上の撮像装置のうちいずれかを決定する請求項1に記載の画像処理装置。
  3. 前記決定部は、前記追跡対象の前記面積に対する前記移動量の割合に基づいて、前記追跡処理の対象として前記2以上の撮像装置のうちいずれかを決定する請求項2に記載の画像処理装置。
  4. 前記決定部は、前記2以上の撮像装置のうち、前記検出部により前記フレームから最初に前記追跡対象が検出された撮像装置を、前記追跡処理の対象として決定する請求項1に記載の画像処理装置。
  5. 前記追跡処理の対象となっている前記撮像装置により撮像された前記フレームにおいて、前記検出部により検出された前記追跡対象の位置情報を記憶装置に記憶させる管理部を、さらに備えた請求項1〜4のいずれか一項に記載の画像処理装置。
  6. 前記管理部は、前記追跡処理の対象となっている前記撮像装置により撮像された第1フレームにおいて前記検出部により前記追跡対象が検出されなかった場合、前記第1フレームより前のフレームであって該追跡対象が検出された第2フレームでの該追跡対象の位置情報を、前記第1フレームでの該追跡対象の位置情報として前記記憶装置に記憶させる請求項5に記載の画像処理装置。
  7. 前記管理部は、前記追跡処理の対象となっている前記撮像装置により撮像された前記フレームが表示されている表示装置の所定の表示領域において、外周部分の所定領域であるキャッチウィンドウ内で前記検出部により前記追跡対象が消失したことが検出された場合、該追跡対象の該フレームにおける位置情報を前記記憶装置に記憶させない請求項5に記載の画像処理装置。
  8. 前記管理部は、前記追跡処理の対象となっている前記撮像装置により撮像された前記フレームが表示されている表示装置の所定の表示領域において、外周部分の所定領域であるキャッチウィンドウ外で前記検出部により前記追跡対象が消失したことが検出された場合、該追跡対象の該フレームにおける位置情報として、該追跡対象が消失した位置の情報を前記記憶装置に記憶させる請求項5に記載の画像処理装置。
  9. 前記管理部は、前記決定部によって前記複数の撮像装置のうち前記追跡処理の対象となる撮像装置が切り替えられた場合においても、同一の前記追跡対象の位置情報を同一のデータファイルとして前記記憶装置に記憶させる請求項5〜8のいずれか一項に記載の画像処理装置。
  10. 前記複数の撮像装置で撮像されたそれぞれの前記映像データを表示装置の所定の表示領域に再生表示させる再生部と、
    前記追跡処理の対象である前記撮像装置により撮像された前記映像データであって前記再生部により再生表示されている該映像データに重畳して、該映像データの前記フレームで前記検出部により検出された前記追跡対象の軌跡を表示させる軌跡表示部と、
    をさらに備えた請求項1〜9のいずれか一項に記載の画像処理装置。
  11. 前記検出部は、予め登録された前記追跡対象についての特徴情報に基づいて、該追跡対象を検出する請求項1〜10のいずれか一項に記載の画像処理装置。
  12. 前記検出部は、前記特徴情報としての前記追跡対象が有する色に基づいて、該追跡対象を検出する請求項11に記載の画像処理装置。
  13. 前記検出部は、前記特徴情報としての前記追跡対象が有する形状に基づいて、該追跡対象を検出する請求項11に記載の画像処理装置。
  14. 前記フレームにおいて前記追跡対象についての前記特徴情報を規定するための指定領域を指定する指定部と、
    前記指定領域に基づいて前記特徴情報を登録する登録部と、
    をさらに備えた請求項11〜13のいずれか一項に記載の画像処理装置。
  15. 前記複数の撮像装置と、
    請求項1〜14のいずれか一項に記載の画像処理装置と、
    を備えた画像処理システム。
  16. 複数の撮像装置で撮像されたそれぞれの映像データからフレームを取得する取得ステップと、
    取得した前記フレームから、追跡対象を検出する検出ステップと、
    前記複数の撮像装置のうち、2以上の撮像装置で撮像されたそれぞれの前記フレームから前記追跡対象を検出した場合、該追跡対象の追跡処理の対象として前記2以上の撮像装置のうちいずれかを決定する決定ステップと、
    を有する画像処理方法。
  17. コンピュータに、
    複数の撮像装置で撮像されたそれぞれの映像データからフレームを取得する取得処理と、
    取得した前記フレームから、追跡対象を検出する検出処理と、
    前記複数の撮像装置のうち、2以上の撮像装置で撮像されたそれぞれの前記フレームから前記追跡対象を検出した場合、該追跡対象の追跡処理の対象として前記2以上の撮像装置のうちいずれかを決定する決定処理と、
    を実行させるためのプログラム。
JP2016212211A 2016-10-28 2016-10-28 画像処理装置、画像処理システム、画像処理方法およびプログラム Active JP6828377B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2016212211A JP6828377B2 (ja) 2016-10-28 2016-10-28 画像処理装置、画像処理システム、画像処理方法およびプログラム
EP17195161.9A EP3316219B1 (en) 2016-10-28 2017-10-06 Image processing apparatus, image processing method, and carrier means
CN201711057037.8A CN108022253A (zh) 2016-10-28 2017-10-27 图像处理装置、图像处理系统以及图像处理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016212211A JP6828377B2 (ja) 2016-10-28 2016-10-28 画像処理装置、画像処理システム、画像処理方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2018073129A true JP2018073129A (ja) 2018-05-10
JP6828377B2 JP6828377B2 (ja) 2021-02-10

Family

ID=60051379

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016212211A Active JP6828377B2 (ja) 2016-10-28 2016-10-28 画像処理装置、画像処理システム、画像処理方法およびプログラム

Country Status (3)

Country Link
EP (1) EP3316219B1 (ja)
JP (1) JP6828377B2 (ja)
CN (1) CN108022253A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020174566A1 (ja) * 2019-02-26 2020-09-03 日本電気株式会社 監視装置、追跡方法、及び非一時的なコンピュータ可読媒体
JP2022531404A (ja) * 2019-05-03 2022-07-06 トヨタ モーター ヨーロッパ 対象探索用画像取得手段

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108377342B (zh) * 2018-05-22 2021-04-20 Oppo广东移动通信有限公司 双摄像头拍照方法、装置、存储介质及终端

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005130462A (ja) * 2003-09-29 2005-05-19 Fuji Photo Film Co Ltd 表示装置、及びプログラム
JP2006245795A (ja) * 2005-03-01 2006-09-14 Toa Corp 動体追跡装置及び動体追跡表示装置
JP2011243025A (ja) * 2010-05-19 2011-12-01 Fujifilm Corp 対象画像の追尾装置およびその動作制御方法
JP2013074612A (ja) * 2011-09-29 2013-04-22 Canon Inc 画像処理装置、画像処理方法及びプログラム
JP2016042306A (ja) * 2014-08-18 2016-03-31 株式会社リコー 軌跡描画装置、軌跡描画方法、軌跡描画システム、及びプログラム
JP2016126624A (ja) * 2015-01-06 2016-07-11 Kddi株式会社 オクルージョン発生時に専用の識別器を用いて物体を追跡する装置、プログラム及び方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI405457B (zh) * 2008-12-18 2013-08-11 Ind Tech Res Inst 應用攝影機換手技術之多目標追蹤系統及其方法,與其智慧節點
JP5769032B2 (ja) * 2013-07-29 2015-08-26 カシオ計算機株式会社 撮像装置、撮像方法及びプログラム
CN104038729A (zh) * 2014-05-05 2014-09-10 重庆大学 级联式多摄像机接力跟踪方法及系统
CN105069795B (zh) * 2015-08-12 2017-12-22 深圳锐取信息技术股份有限公司 运动对象跟踪方法及装置
CN105243664B (zh) * 2015-10-08 2018-07-17 东南大学 一种基于视觉的轮式移动机器人快速目标跟踪方法
CN105245850B (zh) * 2015-10-27 2019-11-26 太原市公安局 跨监控摄像头进行目标追踪的方法、装置和系统
CN106022230B (zh) * 2016-05-11 2019-05-14 太原理工大学 一种基于视频的游泳池溺水事件检测方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005130462A (ja) * 2003-09-29 2005-05-19 Fuji Photo Film Co Ltd 表示装置、及びプログラム
JP2006245795A (ja) * 2005-03-01 2006-09-14 Toa Corp 動体追跡装置及び動体追跡表示装置
JP2011243025A (ja) * 2010-05-19 2011-12-01 Fujifilm Corp 対象画像の追尾装置およびその動作制御方法
JP2013074612A (ja) * 2011-09-29 2013-04-22 Canon Inc 画像処理装置、画像処理方法及びプログラム
JP2016042306A (ja) * 2014-08-18 2016-03-31 株式会社リコー 軌跡描画装置、軌跡描画方法、軌跡描画システム、及びプログラム
JP2016126624A (ja) * 2015-01-06 2016-07-11 Kddi株式会社 オクルージョン発生時に専用の識別器を用いて物体を追跡する装置、プログラム及び方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
青木勝司, 外4名: ""アクティブカメラ群による全観測領域の協調監視の評価"", 情報処理学会論文誌, vol. 第48巻, 第SIG1(CVIM17)号, JPN6020039701, 15 February 2007 (2007-02-15), JP, pages 65 - 77, ISSN: 0004368991 *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020174566A1 (ja) * 2019-02-26 2020-09-03 日本電気株式会社 監視装置、追跡方法、及び非一時的なコンピュータ可読媒体
JPWO2020174566A1 (ja) * 2019-02-26 2021-12-16 日本電気株式会社 監視装置、追跡方法、及びプログラム
US11882542B2 (en) 2019-02-26 2024-01-23 Nec Corporation Monitoring device, tracking method, and non-transitory computer-readable medium
JP2022531404A (ja) * 2019-05-03 2022-07-06 トヨタ モーター ヨーロッパ 対象探索用画像取得手段
JP7222120B2 (ja) 2019-05-03 2023-02-14 トヨタ モーター ヨーロッパ 対象探索用画像取得手段
US11997388B2 (en) 2019-05-03 2024-05-28 Toyota Motor Europe Image obtaining means for finding an object

Also Published As

Publication number Publication date
JP6828377B2 (ja) 2021-02-10
EP3316219B1 (en) 2022-08-03
CN108022253A (zh) 2018-05-11
EP3316219A1 (en) 2018-05-02

Similar Documents

Publication Publication Date Title
US20180139416A1 (en) Tracking support apparatus, tracking support system, and tracking support method
JP6756338B2 (ja) 画像処理装置、画像処理システム、画像処理方法およびプログラム
JP2018073176A (ja) 画像処理装置、画像処理システム、画像処理方法およびプログラム
US9826276B2 (en) Method and computing device for performing virtual camera functions during playback of media content
US9704028B2 (en) Image processing apparatus and program
JP6733785B2 (ja) 画像処理装置、画像処理システム、画像処理方法およびプログラム
GB2566912A (en) Tracking assistance device, tracking assistance system and tracking assitance method
US20160173787A1 (en) Surveillance camera with heat map function
JP2016014837A (ja) 情報処理装置、情報処理方法、およびプログラム
JP6828377B2 (ja) 画像処理装置、画像処理システム、画像処理方法およびプログラム
JP2012123513A (ja) 情報処理装置、および情報処理システム
JP6834372B2 (ja) 情報処理装置、情報処理システム、情報処理方法およびプログラム
KR20110093040A (ko) 피사체 감시 장치 및 방법
JP2015005809A (ja) 情報処理装置、情報処理方法、およびプログラム
US10187610B2 (en) Controlling display based on an object position in an imaging space
JP2016039496A (ja) 画像処理装置、画像処理システム、画像処理方法およびプログラム
US11223802B2 (en) Image-based determination apparatus and image-based determination system
JP4436164B2 (ja) 光信号ポインティング方法、光信号ポインティング装置、および、プログラム
JP2017220880A (ja) 投影装置及び投影方法
JP2022000970A (ja) 画像処理装置、画像処理システム、画像処理方法およびプログラム
US11501534B2 (en) Information processing apparatus, information processing system, information processing method, and storage medium
KR101990815B1 (ko) 원격 모니터링 시스템, 모니터링 방법 및 프로그램

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190806

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201012

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201020

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201214

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201222

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210104

R151 Written notification of patent or utility model registration

Ref document number: 6828377

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151