JP2019146087A - 情報処理装置、撮像装置の制御方法、コンピュータプログラム、及び記憶媒体 - Google Patents
情報処理装置、撮像装置の制御方法、コンピュータプログラム、及び記憶媒体 Download PDFInfo
- Publication number
- JP2019146087A JP2019146087A JP2018030142A JP2018030142A JP2019146087A JP 2019146087 A JP2019146087 A JP 2019146087A JP 2018030142 A JP2018030142 A JP 2018030142A JP 2018030142 A JP2018030142 A JP 2018030142A JP 2019146087 A JP2019146087 A JP 2019146087A
- Authority
- JP
- Japan
- Prior art keywords
- imaging
- area
- image
- information processing
- partial area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Closed-Circuit Television Systems (AREA)
- Emergency Alarm Devices (AREA)
- Alarm Systems (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
Abstract
【課題】撮像装置の撮像情報量の損失を抑制しつつ、監視領域の監視を行うように撮像装置の動作を制御する情報処理装置を提供する。【解決手段】情報処理装置100は、監視カメラ112から監視領域の撮影画像を取得する。情報処理装置100は、撮影画像から抽出した該撮影画像に映されたオブジェクトの画像を含むオブジェクト領域が、検索対象となるオブジェクトに関する所定の部分領域を含むか否かを判定する。オブジェクト領域が部分領域を含まない場合、情報処理装置100は、部分領域を撮像し、撮像後に監視領域の撮像を再開するように監視カメラ112を制御するための撮像計画を作成し、撮像計画に基づいて監視カメラ112を制御する。【選択図】図1
Description
本発明は、撮像装置の動作を制御する情報処理装置に関する。
ショッピングモールのような広域な場所は、複数の監視カメラを設置して、画像による場内の監視を行う監視システムが導入されることが多い。監視システムを用いることで、例えば、監視カメラが撮像した画像を用いて、画像検索により迷子の探索が行われる。これは、画像から特定のオブジェクトを索出する処理で実現される。監視カメラは、予め設定される監視領域を撮像する。しかしながら、画角などが固定された監視カメラでオブジェクトを撮像する場合、撮影条件やオブジェクトの向き(体の向き)によっては、該オブジェクトを識別するために必要な部分を撮影できないことがある。例えば、探索したい人物が身に着けている鞄が特徴的で識別に有効な場合、鞄の部分を撮影できなければ画像探索による該人物の索出が困難になる。
特許文献1は、監視カメラでオブジェクトを撮像する際に物体の識別のしやすさを表す識別度が低い場合に、他の監視カメラに対して撮像指示を送る機能を持つ監視システムの発明を開示する。この監視システムは、監視カメラが撮像した画像の識別度が低い場合に、他の監視カメラに画角や撮像倍率などの撮像指示を送ることで、オブジェクトを識別しやすい画像を得ることができる。
特許文献1の技術では、オブジェクトを撮像するために他の監視カメラの画角などを変更する場合に、該他の監視カメラが予め設定される監視領域の撮像をできなくなる。そのために、他の監視カメラが本来撮像するべき画像が得られなくなる。これは、本来の監視目的に有用な画像情報の量(撮像情報量)の損失につながる。撮像情報量には、監視カメラによる監視領域の撮像時間、撮像されるオブジェクト数などがある。
本発明は、上記課題に鑑みてなされたものであり、撮像装置の撮像情報量の損失を抑制しつつ、監視領域の監視を行うように撮像装置の動作を制御する情報処理装置を提供することを目的とする。
本発明の情報処理装置は、撮像装置から所定の監視領域の撮影画像を取得する撮像手段と、前記撮影画像に映されたオブジェクトの画像を含むオブジェクト領域を、前記撮影画像から抽出するオブジェクト領域抽出手段と、検索対象となるオブジェクトに関する所定の部分領域を指定する部分領域指定手段と、前記オブジェクト領域抽出手段で抽出した前記オブジェクト領域が、前記部分領域指定手段が指定した前記部分領域を含むか否かを判定する指定領域判定手段と、前記指定領域判定手段の判定結果に応じて、前記部分領域指定手段で指定された前記部分領域を撮像し、撮像後に前記監視領域の撮像を再開するように前記撮像装置を制御するための撮像計画を作成する撮像計画作成手段と、前記撮像計画に基づいて前記撮像装置の動作を制御する制御手段と、を備えることを特徴とする。
本発明によれば、撮像情報量の損失を抑制しつつ、監視領域の監視を行うことが可能となる。
以下、図面を参照して、実施形態を詳細に説明する。
(第1実施形態)
図1は、本実施形態の監視システムの全体構成図である。監視システム1は、情報処理装置100、入力デバイス109、モニタ110、及び複数の監視カメラ112により構成される。各監視カメラ112は、ネットワークカメラなどの撮像装置であり、LAN(Local Area Network)やインターネットなどのネットワーク111を介して情報処理装置100に接続される。各監視カメラ112は、個々に決められた監視領域を撮像するように予め設定される。情報処理装置100は、パーソナルコンピュータやワークステーションなどであり、監視カメラ112の動作を制御し、監視カメラ112が撮像した撮影画像の解析などを行う。
図1は、本実施形態の監視システムの全体構成図である。監視システム1は、情報処理装置100、入力デバイス109、モニタ110、及び複数の監視カメラ112により構成される。各監視カメラ112は、ネットワークカメラなどの撮像装置であり、LAN(Local Area Network)やインターネットなどのネットワーク111を介して情報処理装置100に接続される。各監視カメラ112は、個々に決められた監視領域を撮像するように予め設定される。情報処理装置100は、パーソナルコンピュータやワークステーションなどであり、監視カメラ112の動作を制御し、監視カメラ112が撮像した撮影画像の解析などを行う。
情報処理装置100は、CPU(Central Processing Unit)101、ROM(Read Only Memory)102、RAM(Random Access Memory)103、及び外部記憶装置104を備える。情報処理装置100は、周辺機器やネットワーク111との間のインタフェースである、入力デバイスインタフェース105、出力デバイスインタフェース106、及び通信インタフェース107を備える。CPU101、ROM102、RAM103、外部記憶装置104、入力デバイスインタフェース105、出力デバイスインタフェース106、及び通信インタフェースは、システムバス108を介して相互に通信可能である。
CPU101は、ROM102及び外部記憶装置104の少なくとも一方に格納されたコンピュータプログラムを、RAM103を作業領域に用いて実行することで監視システム1全体の動作を制御する。外部記憶装置104は、情報処理装置100に内蔵されたHDD(Hard Disk Drive)、SSD(Solid State Drive)、メモリカードなどの記憶装置である。また、外部記憶装置104は、情報処理装置100から着脱可能なFD(Flexible Disk)、CD(Compact Disk)などの光ディスク、磁気や光カード、ICカード、メモリカードなどであってもよい。外部記憶装置104は、大容量記憶装置である。そのために外部記憶装置104は、各監視カメラ112が撮像した撮影画像を随時保管することができる。
入力デバイスインタフェース105は、入力デバイス109と情報処理装置100との間のインタフェース制御を行う。入力デバイス109は、ポインティングデバイス、キーボード、タッチパネルなどにより実現される。入力デバイスインタフェース105は、入力デバイス109の操作により入力されるデータや指示をCPU101へ送信する。出力デバイスインタフェース106は、出力デバイスと情報処理装置100との間のインタフェース制御を行う。本実施形態の出力デバイスは、画像表示を行うモニタ110である。出力デバイスインタフェース106は、CPU101の制御によりモニタ110に画像を表示する。通信インタフェース107は、ネットワーク111を介した外部装置と情報処理装置100との通信制御を行う。本実施形態の外部装置は、監視カメラ112である。CPU101は、通信インタフェース107を介して各監視カメラ112の動作を制御する。通信インタフェース107は、各監視カメラ112が撮像した撮影画像を取得してCPU101へ送信する。
本実施形態の監視システム1は、監視カメラ112が撮像した撮影画像に含まれる人物の画像から、所定の人物の画像を検索する。そのために情報処理装置100は、入力デバイス109からの指示により、監視カメラ112が撮像した撮影画像に含まれる人物の画像を、検索要求画像(以下、「クエリ画像」という)に設定する。情報処理装置100は、クエリ画像の人物の検索を行う。入力デバイス109からの指示によりクエリ画像が設定されるために、ユーザがクエリ画像を選択することになる。情報処理装置100は、クエリ画像から当該人物を識別する特徴部分の画像(特徴画像)を含む部分領域を抽出し、その部分領域を撮像するように監視カメラ112の画角を変更する。このとき、該監視カメラ112に予め設定された監視領域における監視目的に有用な撮像情報の量(撮像情報量)の損失を最小化するように、情報処理装置100は、画角を変更するタイミングなどの監視カメラ112を制御するための撮像計画を作成する。撮像情報は、例えば、撮像時間及び撮像されるオブジェクト数の少なくとも一方である。情報処理装置100は,撮像計画に基づいて監視カメラ112の画角などの撮影条件を変更する。
図2は、監視システム1によるクエリ画像の人物の検索処理の説明図である。ここでは、ショッピングモールのような広域な場所における迷子の探索を例にして説明する。情報処理装置100は、迷子が映るクエリ画像を、監視カメラ112が撮像した撮影画像から抽出する。情報処理装置100は、ユーザによる入力デバイス109の操作により、迷子の特徴画像を含む部分画像が映っている過去の撮影画像を選択する。このときユーザは、撮影条件によっては顔画像による検索が困難な状況を想定する必要がある。そのために部分画像には、迷子が身に着ける鞄、帽子、時計、靴などの識別が容易なオブジェクトが映る領域が指定される。以下の説明では、簡単のために一人の迷子の検索(探索)について説明する。
図2(a)は、ユーザが指定した検索対象となる人物(迷子)が映るクエリ画像203を例示する。ユーザは、入力デバイス109により、監視カメラ112が撮像した撮影画像から識別が容易な特徴画像を含む部分領域211が映る人物画像を選択する。選択した人物画像を含む矩形画像がクエリ画像203となる。クエリ画像203には、人物が、特徴部分となる鞄を携帯している画像が選択される。図2(b)は、クエリ画像203の人物を索出するために、監視カメラ112で人物201を撮影している状況を示す。監視カメラ112の監視領域206が矢印で示される。監視領域206は、監視カメラ112の設置時に予め設定される。図2(c)は、監視カメラ112の画角を変更して人物201を撮影している状況を示す。このとき監視カメラ112は監視領域206を撮影できない。そのために監視カメラ112は、この間に監視領域206を通過する人物を撮像することができない。画角の変更処理に関しては後述する。図2(b)、2(c)は、監視カメラ112が人物201を上方から撮影する状態を表している。
図2(d)は、図2(b)において監視カメラ112が撮像した撮影画像を例示する。撮影画像204には、人物201の画像が含まれる。図2(e)は、図2(c)において監視カメラ112が撮像した撮影画像を例示する。画角変更後撮影画像205には人物201及び鞄202の画像が含まれる。図2(f)は、人物201の移動位置の予測結果を例示する。情報処理装置100は、この予測結果に基づいて、監視カメラ112の撮像タイミングの計画を作成する。人物201は、通路210を移動する。破線が人物201の移動位置の予測結果を示している。移動位置の予測結果は、人物201が、位置207から、10秒後に位置208、20秒後に位置209に移動することを示す。図2(f)は、人物112の通路210上の移動位置を示すために、通路210を俯瞰して示す。監視カメラ112は、通路210の端部に設けられている。
画角の変更処理について説明する。図2(b)において監視カメラ112は、クエリ画像203に含まれる人物201の検索に用いるために、監視領域206を撮像して撮影画像204を取得する。しかしながら、クエリ画像203と撮影画像204とを比較すると、撮影画像204には鞄などの識別しやすい部分領域211が含まれてない。そのために情報処理装置100は、撮影画像204に写る人物がクエリ画像203の人物とは異なるといった比較結果を得ることになる。
そこで情報処理装置100は、クエリ画像203に含まれる部分領域211を撮影するように、監視カメラ112の画角を変更する。ここでは前述の通り、迷子の探索を想定し、迷子の親が過去の撮影画像から識別のしやすい矩形の部分領域211を入力デバイス109により指定する。この例では、クエリ画像203内の鞄202が映っている部分領域211が指定される。情報処理装置100は、この部分領域211を撮影するように監視カメラ112の画角を変更する。
しかしながら、監視カメラ112は、画角を変更している間、図2(c)に示すように、監視領域206を撮像することができない。そのために監視領域206における撮像情報の情報量(撮像情報量)の損失が大きくなる。情報処理装置100は、撮像情報量の損失を最小にするように、監視カメラ112の画角を変更するタイミングを決定する。情報処理装置100は、人物201の予測位置と、監視カメラ112と人物201との撮像距離と、に対する各領域の撮影頻度を用いて画角の変更タイミングを決定する。情報処理装置100は、このような変更タイミングにより撮像計画を作成する。
情報処理装置100は、監視カメラ112と人物201との距離が最小となる時間近傍を、部分領域211を撮像できる可能性が高いタイミングに決定して、監視カメラ112による撮像計画を作成する。撮像計画は、監視カメラ112が部分領域211を鮮明に撮像し、撮像後に監視領域206の撮像を再開するように、監視カメラ112の動作を含む撮影条件を定める。情報処理装置100は、撮像計画に基づいて監視カメラ112を制御して撮像させることで、監視領域206における撮像情報量の損失を最小限に留めることができる。情報処理装置100は、指定した部分領域211の映った画角変更後撮影画像205が撮像されるため、映っている人物をクエリ画像203の人物と同一人物として照合することができる。照合処理が終了すると情報処理装置100は、監視領域206を再び撮像するように監視カメラ112の画角を元に戻す。
図3は、以上のような処理を行うための情報処理装置100の機能ブロック図である。情報処理装置100は、撮像部301、データアクセス部302、オブジェクト領域抽出部303、特徴領域抽出部304、位置予測部305、及び撮像計画作成部306として機能する。また、情報処理装置100は、画角変更部307、画像照合部308、部分領域指定部309、及び指定領域判定部310として機能する。情報処理装置100は、CPU101がコンピュータプログラムを実行することで、各機能ブロックを実現する。
撮像部301は、監視カメラ112の動作を制御して、監視カメラ112による撮影、画角の調整などを行い、撮影画像を取得する。本実施形態では、撮像部301は、監視カメラ112から撮影画像204や画角変更後撮影画像205を取得する。
データアクセス部302は、外部記憶装置104へのデータの書き込み及び読み出しを行う。本実施形態では、データアクセス部302は、クエリ画像203、撮影画像204、画角変更後撮影画像205を外部記憶装置104に保存し、必要に応じてこれらの画像を読み出す。
データアクセス部302は、外部記憶装置104へのデータの書き込み及び読み出しを行う。本実施形態では、データアクセス部302は、クエリ画像203、撮影画像204、画角変更後撮影画像205を外部記憶装置104に保存し、必要に応じてこれらの画像を読み出す。
オブジェクト領域抽出部303は、撮像部301が取得した撮影画像とデータアクセス部302が外部記憶装置104に保存したクエリ画像とから、人物や物体の画像を含むオブジェクト領域を抽出する。ここでは簡単のために、撮影画像に映っている人物を一人として、オブジェクト領域抽出部303は、該人物のオブジェクト領域を抽出するものとして説明する。
部分領域指定部309は、ユーザによる入力デバイス109からの指示に応じて、クエリ画像203から部分領域211を指定する。ここでは、説明を簡単にするために、鞄や時計などの人物が身に着けているものを識別が容易な特徴部分として扱う。部分領域指定部309は、その特徴部分を表す特徴画像を含む部分領域211を指定する。本実施形態では、クエリ画像203に含まれる鞄202の画像を含む領域が部分領域211に指定される。
特徴領域抽出部304は、オブジェクト領域抽出部303が抽出した人物の画像を含むオブジェクト領域から、部分領域指定部309が指定した部分領域211及び部分領域211の位置を抽出する。本実施形態では、オブジェクト領域から、クエリ画像203に含まれる鞄202の画像を含む部分領域211が抽出される。特徴画像を含む部分領域211の抽出には、SIFT(Scale Invariant Feature Transform)などの、位置や向きの変動に頑健な特徴抽出技術が用いられる。また、特徴領域抽出部304は、部分領域211として抽出した領域が、オブジェクト領域上のどの位置にあるかを推定する。特徴領域抽出部304は、例えば特開2017−102808に開示される画像処理装置などの公知の技術を用いて部分領域のオブジェクト領域上の位置を推定する。この画像処理装置は、人体の骨格モデルを画像上のオブジェクト領域に適合するようにフィッティングして姿勢を推定する。画像処理装置は、推定した姿勢の情報を用いて、部分領域が姿勢のどの位置にあるかを推定する。本実施形態では、特徴領域抽出部304は、鞄202のある腰の位置を、オブジェクト領域上の部分領域211の位置として推定する。
指定領域判定部310は、オブジェクト領域抽出部303が抽出したオブジェクト領域に、部分領域指定部309が指定した部分領域が含まれるか否かを判定する。ここでは、指定領域判定部310は、特徴領域抽出部304が撮影画像から抽出した部分領域の特徴画像と、部分領域指定部309がクエリ画像に対して指定した領域の特徴画像と、の類似度を所定の閾値と比較して、この判定を行う。比較には、例えば特徴画像間の二乗誤差を用いることができる。指定領域判定部310は、二乗誤差が閾値以下であれば領域を含むと判定する。
位置予測部305は、オブジェクトが移動する絶対位置を予測する。ここで絶対位置とは、実世界における位置であり、実世界の座標である絶対座標により表される。位置予測部305は、例えば特開2017−156796などの公知の技術を用いてオブジェクトの絶対位置の予測を行う。この場合、位置予測部305は、過去フレームの撮影画像におけるオブジェクトの絶対位置に対して曲線による近似を行い、それによって数フレーム先の撮影画像のオブジェクトの絶対位置を予測する。撮影画像内の位置と絶対位置とを紐付けるために、予め監視カメラ112はキャリブレーションが行われている。本実施形態では、位置予測部305は、人物201の絶対位置を予測する。
撮像計画作成部306は、指定領域判定部310がオブジェクト領域に部分領域が含まれないと判定した場合に、画角の変更タイミングと撮像画角とを定める撮像計画を作成する。撮像計画作成部306は、位置予測部305による予測結果と、撮像画角に対する各部分領域の撮影頻度の情報を用いて撮像計画を作成する。本実施形態では、撮像計画作成部306は、人物201の絶対位置と監視カメラ112の絶対位置との距離が最小となる時間近傍の中から、部分領域を撮影した頻度が最も大きくなるタイミングと画角とにより、撮像計画を決定する。監視カメラ112の絶対位置は、予めRAM103などに記憶される。例えば情報処理装置100は、監視システム1の構築時に各所に配置される監視カメラ112の絶対位置が入力デバイス109により入力される。これにより情報処理装置100は、RAM103に監視カメラ112の絶対位置を記憶する。撮像画角に対する各部分領域の撮影頻度の情報は、予め外部記憶装置104に保存される。
画角変更部307は、撮像計画作成部306で作成された撮像計画に基づいて、監視カメラ112の動作を制御して、画角を変更する。具体的には、画角変更部307は、撮像計画に設定された変更タイミングで、撮像計画に設定された撮像画角に変更するように、監視カメラ112の画角を撮像制御する。これにより監視カメラ112は、図2(b)の状態から、図2(c)の状態に画角が制御される。
画像照合部308は、撮影画像204或いは画角変更後撮影画像205と、クエリ画像203との照合を行う。撮影画像204或いは画角変更後撮影画像205は、オブジェクト領域抽出部303でオブジェクト領域が抽出される。クエリ画像203は、特徴領域抽出部304で部分領域が抽出される。画像照合部308は、オブジェクト領域と部分領域との特徴画像の比較を行い、同一人物か否かの照合を行う。ここでは、画像照合に特徴領域抽出部304が抽出した部分領域の特徴量のみを用いるが、抽出したオブジェクト領域の局所特徴を加えて照合を行ってもよい。
図4は、以上のような構成の情報処理装置100による人物の検索処理を表すフローチャートである。情報処理装置100は、常時、監視カメラ112から取得する画像(撮影画像)を外部記憶装置104に保存する。情報処理装置100は、この状態で検索処理を開始することになる。
情報処理装置100は、データアクセス部302により外部記憶装置104からクエリ画像203を取得する(S401)。クエリ画像203は、上記のとおり、予めユーザが入力デバイス109により過去の撮像映像から指定した画像である。外部記憶装置104には、例えば複数のクエリ画像が保存される。データアクセス部302は、ユーザが入力デバイス109により複数のクエリ画像から指定したクエリ画像を取得する。部分領域指定部309は、ユーザによる入力デバイス109からの指示に応じて、取得したクエリ画像203中の第一の部分領域を指定する(S403)。ここでは、鞄などの特徴画像を含む部分領域が、第一の部分領域に指定される。第一の部分領域は、例えば図2(a)の部分領域211である。部分領域指定部309は、部分領域の指定するために、ユーザに部分領域の入力を促す画像をモニタ110に表示する。
撮像部301は、監視カメラ112から撮影画像204を取得する(S404)。オブジェクト領域抽出部303は、取得した撮影画像204からオブジェクト領域である第二の人物領域を抽出する(S405)。オブジェクト領域抽出部303は、例えば特開2010−186272の画像処理装置の発明で開示される、類似画素をk−means法でクラスタリングする方法により、人物領域を抽出することで第二の人物領域を抽出する。特徴領域抽出部304は、オブジェクト領域抽出部303が抽出した第二の人物領域から第二の部分領域を抽出する(S406)。特徴領域抽出部304は、第二の人物領域から特徴画像を抽出し、該特徴画像を含む部分領域を第二の部分領域として抽出する。なお、ここでは、撮影画像204に鞄などの特徴画像が含まれないために、特徴領域抽出部304は、第二の部分領域を抽出できない。
指定領域判定部310は、第二の部分領域に第一の部分領域が含まれるか否かを判定する(S408)。指定領域判定部310は、例えば第一の部分領域及び第二の部分領域のそれぞれから抽出した特徴画像の類似度を比較することで、この判定を行う。指定領域判定部310の判定結果に応じて、撮像計画を作成するか否かが決定される。類似度が閾値以下であれば、指定領域判定部310は、第二の部分領域が第一の部分領域を含むとして判定する。第二の部分領域が第一の部分領域を含む場合(S408:Y)、情報処理装置100は、クエリ画像203の部分領域211と同じ特徴画像を有する第二の部分領域を検出したために、撮像計画を作成せずに人物の検索処理を終了する。情報処理装置100は、モニタ110に検索処理の結果を表示する。例えば情報処理装置100は、第二の部分領域を抽出した撮影画像を、第二の部分領域を強調してモニタ110に表示する。
第二の部分領域が第一の部分領域を含まない場合(S408:N)、情報処理装置100は、人物の検索処理を継続して、撮像計画を作成する処理を行う。ここでは、S406の処理で第二の部分領域が抽出されないために、情報処理装置100は、撮像計画を作成する。
位置予測部305は、S405の処理で抽出された第二の人物領域に映る人物の絶対位置を予測する(S409)。位置予測部305は、まず、データアクセス部302を介して、外部記憶装置104から、第二の人物領域に映っている人物を含む過去フレームの撮影画像を取得する。次に、位置予測部305は、過去フレームの撮影画像の人物に対して、絶対位置を推定して、絶対位置の系列に対して曲線をフィッティングする。そのために、監視カメラ112は予めキャリブレーションされており、絶対座標と撮影画像内の座標との紐付けが可能となっている。位置予測部305は、当該曲線に基づいて、数フレーム先の撮影画像の人物の絶対位置を予測する。ここでは、図2(f)に示すように、位置予測部305は10秒後に位置208、20秒後に位置209に人物がいると予測する。
撮像計画作成部306は、監視カメラ112の画角の変更タイミングについての撮像計画を作成する(S410)。画角の変更タイミングは、人物201の予測位置に加えて、撮像距離と撮像画角に応じた各領域の撮影頻度情報を用いて決定される。この処理の詳細は後述する。
画角変更部307は、作成された撮像計画に基づいて監視カメラ112を制御して、第二の部分領域を撮影するように画角を変更する(S411)。図2(f)の例では、画角変更部307は、10秒後に監視カメラ112の撮像画角を変更する。具体的には、監視カメラ112の画角が図2(b)の状態から図2(c)の状態に変更される。
撮像部301は、画角が変更された監視カメラ112から画角変更後撮影画像205を取得する(S412)。撮像部301が画角変更後撮影画像205を取得することで、情報処理装置100は、監視カメラ112の画角を元に戻す(図2(b)の状態に戻す)。
オブジェクト領域抽出部303は、取得した画角変更後撮影画像205からオブジェクト領域である第三の人物領域を抽出する(S413)。特徴領域抽出部304は、オブジェクト領域抽出部303が抽出した第三の人物領域から第三の部分領域を抽出する(S414)。S413及びS414の具体的な処理内容は、S405及びS406の処理と同様である。
画像照合部308は、クエリ画像203と画角変更後撮影画像205との人物領域同士の照合を行う(S415)。画像照合部308は、例えば、第一の部分領域と第三の部分領域とからそれぞれ抽出した特徴画像の類似度を用いて照合を行う。この例では、クエリ画像203の人物と画角変更後撮影画像205の人物とが照合される。情報処理装置100は、以上により監視カメラ112の画角を変更する場合の人物の検索処理を終了する。情報処理装置100は、モニタ110に検索処理の結果を表示する。例えば情報処理装置100は、照合結果をモニタ110に表示する。
図5は、撮像計画作成部306によるS410の撮像計画の作成処理の説明図である。
撮像計画作成部306は、まず、位置予測部305が予測した位置から、実世界における人物201と監視カメラ112との距離(撮像距離)が最小となる時間を取得する。次に、撮像計画作成部306は、その時間近傍に対して、各部分領域の過去の撮影頻度を表す撮影頻度情報を取得する。各部分領域は、人物の特徴となる体の部位(右足、腰、左足など)である。撮影頻度情報は、予め外部記憶装置104に保存される。本実施形態では、図2(f)に示すように、撮像距離が最小となるのが10秒後の位置208である。撮像計画作成部306は、その前後1秒を含む9秒後、10秒後、11秒後を画角の変更タイミングの候補とする。次に、撮像計画作成部306は、変更タイミングの候補に対して、部分領域の撮像頻度が最大となる撮像時間と撮像画角を求める。
撮像計画作成部306は、まず、位置予測部305が予測した位置から、実世界における人物201と監視カメラ112との距離(撮像距離)が最小となる時間を取得する。次に、撮像計画作成部306は、その時間近傍に対して、各部分領域の過去の撮影頻度を表す撮影頻度情報を取得する。各部分領域は、人物の特徴となる体の部位(右足、腰、左足など)である。撮影頻度情報は、予め外部記憶装置104に保存される。本実施形態では、図2(f)に示すように、撮像距離が最小となるのが10秒後の位置208である。撮像計画作成部306は、その前後1秒を含む9秒後、10秒後、11秒後を画角の変更タイミングの候補とする。次に、撮像計画作成部306は、変更タイミングの候補に対して、部分領域の撮像頻度が最大となる撮像時間と撮像画角を求める。
図5(a)は、9秒後の時点における各部分領域の各撮像画角での平均撮影頻度を表している。平均撮影頻度の単位は枚数である。同様に、図5(b)は、10秒後の時点における各部分領域の各撮像画角での平均撮影頻度を表している。図5(c)は、11秒後の時点における各部分領域の各撮像画角での平均撮影頻度を表している。この例では、クエリ画像から指定された部分領域が鞄202の映っている腰の位置であるため、撮像計画作成部306は、腰の部分領域の平均撮影頻度が最大の撮像画角及び撮像時間により撮像計画を決定する。撮像計画作成部306は、部分領域(腰)の平均撮影頻度が50枚で最大となる撮像時間(10秒後)に撮像画角を−45度に調整するように、撮像計画を作成する。
以上のような情報処理装置100において、特徴画像を含む部分領域は、例えば特開2015−119326に開示される画像処理装置のように、領域の位置、大きさ、彩度などの指標に基づいて、自動的に決定、抽出されてもよい。
撮像計画は、オブジェクト(人物)の予測位置のみに基づいて作成されてもよい。これは、新しい撮影環境で過去の撮像情報が少なく、撮影頻度情報が無い場合に有効である。例えば、撮像計画は、予測位置に基づいて、撮像距離が最小になるタイミングで画角を変更するように作成される。
撮像計画は、オブジェクト(人物)の予測位置のみに基づいて作成されてもよい。これは、新しい撮影環境で過去の撮像情報が少なく、撮影頻度情報が無い場合に有効である。例えば、撮像計画は、予測位置に基づいて、撮像距離が最小になるタイミングで画角を変更するように作成される。
また、撮像計画は、監視領域206の撮像時間を基準に用いて作成されてもよい。加えて、撮像計画は、監視領域206で撮像できるオブジェクト数を基準に用いて作成されてもよい。監視領域206で撮像できるオブジェクト数は、例えば人物の位置予測結果により、監視領域206内の人物数を予測することで算出される。これらの基準の少なくとも一方を用いて撮像計画を作成することで、撮像が難しい場合に画角を元に戻す処理を撮像計画に組み入れることができる。これにより、撮像情報量の損失を抑制することができる。
また、撮像計画は、クエリ画像と類似した部分領域を撮像するように、クエリ画像の撮影条件を用いて作成されてもよい。外部記憶装置104は、予め撮影条件を保存する。撮像計画作成部306は、撮像計画を作成する際に、外部記憶装置104からクエリ画像とともに撮影条件を取得する。撮像計画作成部306は、撮影頻度に基づいた撮像タイミングよりも、撮影条件が近くなるような撮影タイミングを決定する。これにより、クエリ画像の映り方と類似した部分領域の撮像が可能となる。このようにクエリ画像の撮影条件を用いることで、検索精度を向上させるような撮像計画の作成が可能となる。
以上、一台の監視カメラ112について撮像計画を作成する場合を説明したが、情報処理装置100は、複数台の監視カメラ112について同様に撮像計画を作成し、画角を変更する監視カメラ112を指定してもよい。この場合、情報処理装置100は、撮像距離やオクルージョンの度合い、監視カメラの向きやオブジェクト(体)の向きなどに応じて、画角を変更する監視カメラを決定する。これにより情報処理装置100は、死角を最小にする撮像計画を作成することができ、監視領域における撮像情報量の損失を抑制することができる。
監視カメラ112の監視領域206に複数の人物がいる場合、撮像計画作成部306は、複数人を撮像するように監視カメラ112を動かすことができる最短経路となる撮像計画を、動的計画法などを用いて作成してもよい。クエリ画像に複数の人物を指定する場合、撮像計画作成部306は、各人物の過去フレームの撮影画像から移動パターンを認識し、撮像映像に含まれるいずれかの人物を推定することで撮像計画を作成してもよい。これにより、画角変更により撮像する人物の候補を絞ることができ、撮像情報量の損失が抑制される。
監視カメラ112の監視領域206に複数の人物がいる場合、撮像計画作成部306は、複数人を撮像するように監視カメラ112を動かすことができる最短経路となる撮像計画を、動的計画法などを用いて作成してもよい。クエリ画像に複数の人物を指定する場合、撮像計画作成部306は、各人物の過去フレームの撮影画像から移動パターンを認識し、撮像映像に含まれるいずれかの人物を推定することで撮像計画を作成してもよい。これにより、画角変更により撮像する人物の候補を絞ることができ、撮像情報量の損失が抑制される。
本実施形態では、人物の部分領域を撮像するように、監視カメラ112の画角を変更する撮像計画が作成される。撮像計画は、人物の身に着けている服の模様を識別に必要な部分領域として扱い、その部分領域を十分な画素数で撮像するように監視カメラ112の撮像倍率を制御するように作成されてもよい。
図6は、撮像倍率を制御する撮像計画の説明図である。図6(a)は、監視カメラ112により、人物601及び人物602を撮像している状況を示す俯瞰図である。人物601は、人物602よりも監視カメラ112に近く位置する。そのために、人物601の撮像距離が人物602の撮像距離よりも短くなる。
図6(b)は、人物601が身に着けている服の模様を監視カメラ112で撮像した場合のテクスチャ画像603を表す。図6(b)では、人物601が身に着ける服がチェックの柄であることが分かる。図6(c)は、人物602が身に着けている服の模様を監視カメラ112で撮像した場合のテクスチャ画像604を表す。人物601と人物602の服の模様は同じである。しかし撮像距離が異なるために、人物602の服の模様が潰れて元の模様を識別できなくなっている。
図6(d)は、検索したい人物のクエリ画像605を表す。クエリ画像605には、人物602のオブジェクト領域である人物領域606が含まれる。図6(e)は、人物602を撮影したときのズーム前の撮影画像607を表す。撮影画像607は、人物602に対応する人物領域608を含む。撮影画像607中の人物602の服の模様は、テクスチャ画像604のように映っている。図6(f)は、監視カメラ112の撮像倍率を上げて人物602の撮影を行ったときのズーム後の撮影画像609を表す。撮影画像609は、人物602をズームして撮像した人物領域610を含む。撮像倍率を上げることにより、人物602の服の模様は、テクスチャ画像603と同様の模様に映っている。
しかし、ズーム後の撮影画像609は、撮像倍率が上がることで、ズーム前の撮影画像607に含まれる周辺領域を含んでいない。監視カメラ112は、該周辺領域を通る他の人物を撮像することができない。そのために情報処理装置100は、人物602の位置予測を行って、ズームのタイミングに関して撮像計画を作成する。これにより、撮像距離が離れていることによって、人物を識別するための部分領域が撮像できない場合でも、撮像倍率を変更することで画像検索の精度を向上することができる。また、撮像倍率を上げるタイミングを決定することで、不要な撮像倍率の変更を抑え、監視領域における撮像情報量の損失を抑制することができる。
監視システム1の監視対象は、通行する人物に限らない。例えば、監視システム1は、ベルトコンベアで運ばれる部品などの物体の傷やへこみなどの欠損の検出にも用いることができる。この場合、監視カメラ112として、可視画像を撮像するカメラでは無く、カメラから物体までの距離を表す距離画像を撮影するカメラ(距離画像センサ)が用いられる。情報処理装置100は、距離画像センサのセンサ感度を調整するための撮像計画を作成する。
図7は、距離画像センサの感度を調整する撮像計画の説明図である。
図7(a)は、距離画像センサ700が部品の距離画像を撮像している状況を示している。距離画像センサ700は、部品の欠損を検出するために、部品701及び部品702の距離画像を撮像する。各部品701、702はベルトコンベア712により運搬されている。部品701、702は、例えばボールベアリングに用いられる球体である。図7(a)では、部品701は距離画像センサ700から100[cm]の距離を搬送され、部品702は距離センサから200[cm]の距離を搬送される。
図7(a)は、距離画像センサ700が部品の距離画像を撮像している状況を示している。距離画像センサ700は、部品の欠損を検出するために、部品701及び部品702の距離画像を撮像する。各部品701、702はベルトコンベア712により運搬されている。部品701、702は、例えばボールベアリングに用いられる球体である。図7(a)では、部品701は距離画像センサ700から100[cm]の距離を搬送され、部品702は距離センサから200[cm]の距離を搬送される。
図7(b)は、距離画像センサ700が撮像した部品701の距離画像703を示す。距離画像703は、距離を実線による等高線で示している。距離画像703は、外縁部分に傷704が映っている。
図7(c)は、距離画像センサ700が撮像した部品702の距離画像705を示す。距離画像705は、距離を実線による等高線で示している。距離画像705の点線は、計測している距離が不安定な領域を示している。距離画像センサ700は、発光素子が放射した光の物体による反射光を受光素子で受光することで、物体までの距離を計測している。そのために、受光素子の感度が低い場合、撮像距離が遠ければ距離画像にノイズが加わる。距離画像705では、このノイズのために、本来映るはずの傷706が上手く映っていない。情報処理装置100は、受光素子の感度調整を距離画像センサ700から物体(部品)までの距離に応じて行うことで、このような欠損の未検出を抑止する。
図7(c)は、距離画像センサ700が撮像した部品702の距離画像705を示す。距離画像705は、距離を実線による等高線で示している。距離画像705の点線は、計測している距離が不安定な領域を示している。距離画像センサ700は、発光素子が放射した光の物体による反射光を受光素子で受光することで、物体までの距離を計測している。そのために、受光素子の感度が低い場合、撮像距離が遠ければ距離画像にノイズが加わる。距離画像705では、このノイズのために、本来映るはずの傷706が上手く映っていない。情報処理装置100は、受光素子の感度調整を距離画像センサ700から物体(部品)までの距離に応じて行うことで、このような欠損の未検出を抑止する。
図7(d)は、検出したい傷708が映った部品のクエリ画像707を示す。クエリ画像707においても、距離が実線による等高線で示される。クエリ画像707では、検出対象の傷708が鮮明に映っている。
図7(e)は、部品702を距離画像センサ700で撮像したときの距離画像709を示す。距離画像709は、距離画像センサ700の受光素子の感度が低いために、外縁部分で計測距離が不安定になり、傷706の特徴を正しく映すことができていない。図7(f)は、距離画像センサ700の受光感度を上げて、部品702を撮像したときの調整後の距離画像711を示す。距離画像711は、距離画像センサ700の受光素子の受光感度を上げたために、傷706の特徴を正しく映すことができている。
図7(e)は、部品702を距離画像センサ700で撮像したときの距離画像709を示す。距離画像709は、距離画像センサ700の受光素子の感度が低いために、外縁部分で計測距離が不安定になり、傷706の特徴を正しく映すことができていない。図7(f)は、距離画像センサ700の受光感度を上げて、部品702を撮像したときの調整後の距離画像711を示す。距離画像711は、距離画像センサ700の受光素子の受光感度を上げたために、傷706の特徴を正しく映すことができている。
距離画像センサ700の受光感度を上げることで得られる距離画像711により、距離画像711とクエリ画像707との比較により、傷706を発見する可能性が高くなる。しかし距離画像センサ700の受光感度を上げることで消費電力が上がり、部品の製造単価が上がる。そのために情報処理装置100は、部品の予測位置と撮像する際のノイズ比に基づいて、距離画像センサ700の受光感度を調整するタイミングを計画する撮像計画を作成する。これにより、距離画像センサ700と部品とが離れていることで該部品の傷を識別するための部分領域が撮像できない場合でも、適宜、該部分領域を撮像するように感度を変更して、画像検索(傷検索)の精度を向上することができる。また、部分領域を撮像するタイミングを決定することで、不要な感度の変更を抑え、監視領域における撮像情報量損失を小さくすることができる。
以上のような本実施形態の監視システム1は、部分領域を撮像するために、監視カメラ112の画角、ズーム、受光感度などの撮影条件の変更タイミングを計画する撮像計画を作成する。情報処理装置100は、オブジェクトの移動予測結果や撮影頻度に応じて変更タイミングを決定し、撮像計画を作成する。情報処理装置100は、撮像計画に基づいて監視カメラ112による撮像を制御することで、不要な撮像制御を減らして、監視領域206における撮像情報の情報量の損失を抑制することができる。
(第2実施形態)
監視カメラ112は、フレームレートの制約による人物の移動に対する画像の乱れや、ノイズの混入によって、識別に十分な画質の部分領域を撮像できない可能性がある。しかし撮像計画に基づく制御後の監視カメラ112の撮像時間を単純に長くすると、監視領域206における撮像情報量の損失が多くなる。本実施形態では、部分領域を必要最小限だけ撮像するように、監視カメラ112の撮像計画を作成する。監視システム1の構成は、第1実施形態の図1に示す構成と同様であるために説明を省略する。
監視カメラ112は、フレームレートの制約による人物の移動に対する画像の乱れや、ノイズの混入によって、識別に十分な画質の部分領域を撮像できない可能性がある。しかし撮像計画に基づく制御後の監視カメラ112の撮像時間を単純に長くすると、監視領域206における撮像情報量の損失が多くなる。本実施形態では、部分領域を必要最小限だけ撮像するように、監視カメラ112の撮像計画を作成する。監視システム1の構成は、第1実施形態の図1に示す構成と同様であるために説明を省略する。
図8は、第2実施形態の情報処理装置100の機能ブロック図である。情報処理装置100は、図3に示す第1実施形態の機能ブロックに加えて、識別度算出部801として機能する。第1実施形態と同様の機能についての説明は省略する。
識別度算出部801は、特徴画像の識別度を算出する。識別度とは、物体の照合を行う際の特徴画像の識別可能な度合いを示す指標である。ここでは、撮像画素数やノイズ比率などの値の平均を識別度とする。識別度算出部801は、識別度の算出を行う前に、各指標を平均及び分散して標準正規化する。これにより識別度算出部801は、指標の値域の違いによる影響を考慮した平均値を算出することができる。また識別度算出部801は、ノイズ比率の計算に公知の技術を用い、領域における高周波成分に対する低周波成分の比率など識別どの算出に用いる。
撮像計画作成部306は、識別度算出部801が算出した識別度が予め定められた閾値を満たす場合に、監視領域206に監視カメラ112の画角を戻すように撮像計画を作成する。なお、閾値は、比較して正解が得られる割合が一定以上となるような値として事前に決めておけばよい。そのため、閾値の決定方法は、例えば事前に正解つき観測データで学習して算出しても良いし、人がヒューリスティックに設定しても良いし、別の類似サンプルデータで推定値を算出して決定してもよい。
撮像計画作成部306は、識別度算出部801が算出した識別度が予め定められた閾値を満たす場合に、監視領域206に監視カメラ112の画角を戻すように撮像計画を作成する。なお、閾値は、比較して正解が得られる割合が一定以上となるような値として事前に決めておけばよい。そのため、閾値の決定方法は、例えば事前に正解つき観測データで学習して算出しても良いし、人がヒューリスティックに設定しても良いし、別の類似サンプルデータで推定値を算出して決定してもよい。
図9は、第2実施形態の情報処理装置100による人物の検索処理を表すフローチャートである。図9のフローチャートは、図4に示す第1実施形態の人物の検索処理と同じ処理に同じステップ番号が付してある。第1実施形態と同じ処理の説明は、必要な説明を除いて省略する。
図4の処理と同様にしてクエリ画像203と画角変更後撮影画像205との人物領域同士の照合を行う(S401〜S415)。本実施形態では、撮像計画作成部306が、S410の処理において、第1実施形態と同様に画角等の撮影条件の変更タイミングを決定して撮像計画を作成する。本実施形態では、撮像計画が、識別度算出部801が算出する特徴画像における識別度が所定の閾値を満たす場合に、監視カメラ112が元の監視領域206を撮像するように作成される。例えば撮像計画は、特徴画像における識別度が所定の閾値を満たす場合に、監視カメラ112の画角を戻すように作成される。
そのために識別度算出部801は、S415の処理後に、特徴画像における識別度を算出する(S901)。識別度算出部801は、特徴画像に対して、例えば撮像画素数及びノイズ比率を算出し、それらの平均値から識別度を算出する。識別度算出部801は、算出した識別度が所定の閾値を満たしているか否かを判定する(S902)。識別度が閾値を満たさない場合(S902:N)、情報処理装置100は、S412以降の処理を、識別度が閾値を満たすまで繰り返し実行する。識別度が閾値を満たす場合(S902:Y)、情報処理装置100は、検索を行うのに十分な識別度が得られたと判定して、監視カメラ112の画角を元に戻して監視領域の撮像を再開させ、この処理を終了する。
本実施形態では、識別度が閾値を満たすと同時に監視カメラ112の撮像制御を戻す処理を行う。監視カメラ112の撮像制御を戻す処理は、時間により行うようにしてもよい。例えば情報処理装置100は、撮像計画に画角を変更している最大時間を設定しておき、十分な識別度が制限時間で得られない場合に、処理を中断する。本実施形態の識別度は、撮影画素数やノイズ比率の他に、モーションブラーによってずれた画素数や、障害物によって遮蔽された面積比率、エッジの鮮明度などの画像から取得できる各種の特徴を指標に加えて算出されてもよい。
以上のような本実施形態の監視システム1は、特徴画像の識別度を必要最小限撮影するように監視カメラ112の画角を変更する。これにより情報処理装置100は、画像検索の精度を維持しつつ、監視領域206における撮像情報の情報量の損失を最小化することができる。
(第3実施形態)
第3実施形態では、撮像計画が、過去の撮影頻度から特徴画像を撮像できる確率を算出し、その確率に基づいて作成される。このような撮像計画は、撮影頻度情報をそのまま用いる場合に、照明変動などの撮像環境の変化により部分領域を十分に撮像できない可能性を排除する。監視システム1の構成は、第1実施形態の図1に示す構成と同様であるために説明を省略する。
第3実施形態では、撮像計画が、過去の撮影頻度から特徴画像を撮像できる確率を算出し、その確率に基づいて作成される。このような撮像計画は、撮影頻度情報をそのまま用いる場合に、照明変動などの撮像環境の変化により部分領域を十分に撮像できない可能性を排除する。監視システム1の構成は、第1実施形態の図1に示す構成と同様であるために説明を省略する。
図10は、情報処理装置100が撮像確率を算出する際に用いられる撮像情報の説明図である。撮像情報1001は、過去に監視カメラ112が撮像した際の撮影条件及び撮像した画像に関する情報を含む。撮像情報1001は、外部記憶装置104に保存される。
「ID」は、撮像情報を一意に識別するための識別情報である。「時刻」は、監視カメラ112が撮像を行った時刻である。「距離」は、撮像時の監視カメラ112とオブジェクト(人物201)との撮像距離であり、単位は[cm]である。「画角」は、監視カメラ112が撮像したときの垂直方向を基準とし撮像画角である。ここでは、簡単のためにチルトを行った際の画角である。画角の単位は度である。「照度」は、監視カメラ112が撮像した監視領域における単位面積当たりの明るさであり、単位は[lx]である。「SN比」は、監視カメラ112が撮像した画像のノイズに対する信号の比率であり、単位は[db]である。「左腕」は、監視カメラ112が左腕を撮像したときの左腕の領域に相当する画素数であり、単位は[px]である。撮像情報1001は、「左腕」と同様に、右腕、胴体、左足、右足の撮像画素数を含む。この例では、撮像情報1001が5000の撮影事例の情報を含む。
「ID」は、撮像情報を一意に識別するための識別情報である。「時刻」は、監視カメラ112が撮像を行った時刻である。「距離」は、撮像時の監視カメラ112とオブジェクト(人物201)との撮像距離であり、単位は[cm]である。「画角」は、監視カメラ112が撮像したときの垂直方向を基準とし撮像画角である。ここでは、簡単のためにチルトを行った際の画角である。画角の単位は度である。「照度」は、監視カメラ112が撮像した監視領域における単位面積当たりの明るさであり、単位は[lx]である。「SN比」は、監視カメラ112が撮像した画像のノイズに対する信号の比率であり、単位は[db]である。「左腕」は、監視カメラ112が左腕を撮像したときの左腕の領域に相当する画素数であり、単位は[px]である。撮像情報1001は、「左腕」と同様に、右腕、胴体、左足、右足の撮像画素数を含む。この例では、撮像情報1001が5000の撮影事例の情報を含む。
図11は、第3実施形態の情報処理装置100の機能ブロック図である。情報処理装置100は、図3に示す第1実施形態の機能ブロックに加えて、撮像確率算出部1101として機能する。第1実施形態と同様の機能についての説明は省略する。
撮像確率算出部1101は、撮像情報1001を用い、各撮影条件において特徴画像をどの程度撮像できるかの確率を統計的手法或いは機械学習手法を用いて算出する。ここでは、ロジスティック回帰を用いて、撮像確率を領域毎に算出する方法について説明する。ロジスティック回帰に用いる説明変数には、撮像情報1001に含まれる距離、画角、照度、SN比などの値が用いられる。これらは、予め標準正規化され、尺度が揃えられている。ロジスティック回帰に用いる目的変数には、特徴画像毎の画素数が用いられる。目的変数は、各領域の画素数を、予め理想環境で撮像できる各領域の画素数の最大値で除算した値である。これにより目的変数は0〜1の値域を持つ確率値で表される。
撮像確率算出部1101は、説明変数と目的変数との組に対して最小二乗法を用いることで、撮像確率を算出するモデルを構築する。本実施形態では、撮像確率算出部1101は、撮像情報1001に含まれる5000の撮影事例を用いて左腕、右腕、腰、左足、右足のそれぞれの学習を行い、それぞれの撮像確率を算出するモデルを構築する。撮影事例は、様々な距離、画角、照度で撮像したときの情報を含む。撮像確率算出部1101は、撮像する際に、説明変数に相当する撮影時の距離、画角、照度、SN比を入力することで、各領域の撮像確率を算出することができる。
図12は、撮像確率の算出処理を表すフローチャートである。この処理は、図4及び図9に示すS410の処理(撮像計画の作成)の際に実行される。撮像計画作成部306は、撮像確率算出部1101が算出した撮像確率に基づいて撮像計画を作成することになる。第3実施形態の人物の検索処理は、第1実施形態(図4参照)及び第2実施形態(図9参照)のいずれの処理であってもよい。
撮像確率算出部1101は、データアクセス部302を介して外部記憶装置104に保存されている撮像情報1001を取得する(S1201)。撮像確率算出部1101は、取得した撮像情報1001から撮像確率を算出する学習モデルを構築するための説明変数を選択する(S1202)。撮像確率算出部1101は、説明変数として距離、画角、照度、SN比を選択して取得する。撮像確率算出部1101は、取得した説明変数の値に対して標準正規化を行う(S1203)。
撮像確率算出部1101は、S1201の処理で取得した撮像情報1001から、撮像確率を算出する学習モデルを構築するための目的変数に用いる領域の画素数を取得する(S1204)。撮像確率算出部1101は、取得した目的変数の値を最大画素数の値で除算することで、目的変数の値を0〜1の値に正規化する(S1205)。撮像確率算出部1101は、領域に対して撮像確率を算出するモデルを構築する(S1206)。撮像確率算出部1101は、ロジスティック回帰を用いて、モデルパラメータを最小二乗法により学習する。撮像確率算出部1101は、全領域に対して撮像確率を算出するモデルを構築するまで、S1204〜S1206の処理を繰り返し行う(S1207:N)。本実施形態では撮像情報1001に左腕、右腕、腰、左足、右足の領域の情報が含まれるため、撮像確率算出部1101は、この5つの領域の全てに対してモデルを構築する。
全領域に対する撮像確率を算出するモデルを構築した場合(S1207:Y)、撮像確率算出部1101は、撮像部301から現在の撮影条件を取得する(S1208)。撮像確率算出部1101は、撮影条件として距離、画角、照度、SN比の値を取得する。撮像確率算出部1101は、位置予測部305が算出した監視カメラ112の位置と人物201の位置とから、監視カメラ112から人物201までの撮像距離を取得する(S1209)。ここでは、撮像確率算出部1101は、監視カメラ112と人物201との距離が最小となる時刻の前後1秒間の距離を取得する。これより、現在時刻以降で撮像確率が最大となるタイミングを求めることができる。
撮像確率算出部1101は、モデルを適用するための説明変数を現在の撮影条件から選択する(S1210)。ここでは、撮像確率算出部1101は、現在の撮影条件の距離、画角、照度、SN比の値を説明変数として選択する。撮像確率算出部1101は、選択した説明変数である距離、画角、照度、SN比の値に対して標準正規化を行う(S1211)。撮像確率算出部1101は、学習したロジスティック回帰を用いて、領域の撮像確率を算出する(S1212)。撮像確率算出部1101は、全領域に対して撮像確率を算出するするまで、S1210〜S1212の処理を繰り返し行う(S1213:N)。本実施形態では撮像確率算出部1101は、左腕、右腕、腰、左足、右足の領域の全てに対して撮像確率を算出する。
全領域に対して撮像確率を算出した場合(S1213:Y)、撮像確率算出部1101は、撮像距離が最小となる時刻の前後1秒間の範囲に対して、全領域の撮像確率を算出したか否かを判定する(S1214)。全領域の撮像確率を算出していない場合(S1214:N)、撮像確率算出部1101は、S1209〜S1213の処理を、全領域の撮像確率を算出するまで繰り返し行う。全領域の撮像確率を算出した場合(S1214:Y)、撮像確率算出部1101は、撮像確率の算出処理を終了する。
以上の処理により算出された各撮像距離の各領域の撮像確率に基づいて、撮像計画作成部306は、第1、第2実施形態と同様に、撮像計画を作成する。撮像計画作成部306は、撮像確率が最大の時間を撮像タイミングとして、部分領域の識別度が閾値を満たすように撮像方法を計画する。
本実施形態では、撮像確率を算出するために、撮像距離、画角、照度などの値を用いたが、この他にモーションブラーの度合いや、障害物によって隠れた領域の面積比率などの値を用いてもよい。本実施形態では処理の実行時にモデルの学習を行っているが、これは、監視領域に人が少ない時間帯や撮影休止時に予め行うようにしてもよい。モデルは、バッチ学習を用いられる他に、撮像情報が更新される度にオンライン学習などの手法によって逐次構築、更新されてもよい。その際に、混雑度などの情報を用いて、処理負荷を考慮して学習タイミングが調整されてもよい。撮像確率の算出は、ロジスティック回帰の他に、高精度な学習が可能なニューラルネットワークなどを用いて行われてもよい。
本実施形態の情報処理装置100は、撮像情報を考慮した撮像確率を算出することで、部分領域をより頑健に撮像できるタイミングを計画することができる。例えば、情報処理装置100は、昼夜間での光源の影響により変化する撮像照度やSN比を加味して、撮像のタイミングを決定することができる。これは、撮像画素数を単体で用いるのに対して、照度と撮像の関係をモデルが学習して、撮像確率を算出できるようになるためである。また、撮像確率が一定以下の場合、情報処理装置100は、画角の変更を行わないような撮像計画を作成することができる。以上より情報処理装置100は、画像検索の精度を維持しつつ、監視領域における撮像情報量の損失を最小化することができる。
以上のような各実施形態では、情報処理装置100が、監視カメラ112を光学的、機械的に制御する構成について説明した。情報処理装置100は、この他に、撮影画像をデジタールズームなどのデジタル処理することで撮像制御を行うようにしてもよい。また、監視カメラ112は、固定されておらず、クレーン装置、ドローン、ロボットなどの動体に設けられた構成であってもよい。この場合、情報処理装置100は、GPS(Global Positioning System)あんどの測位技術を用いて監視カメラ112の位置を取得する。また、情報処理装置100は、第1〜第3実施形態を組み合わせて撮像計画を作成するようにしてもよい。
本発明は、上述の各実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
Claims (13)
- 撮像装置から所定の監視領域の撮影画像を取得する撮像手段と、
前記撮影画像に映されたオブジェクトの画像を含むオブジェクト領域を、前記撮影画像から抽出するオブジェクト領域抽出手段と、
検索対象となるオブジェクトに関する所定の部分領域を指定する部分領域指定手段と、
前記オブジェクト領域抽出手段で抽出した前記オブジェクト領域が、前記部分領域指定手段が指定した前記部分領域を含むか否かを判定する指定領域判定手段と、
前記指定領域判定手段の判定結果に応じて、前記部分領域指定手段で指定された前記部分領域を撮像し、撮像後に前記監視領域の撮像を再開するように前記撮像装置を制御するための撮像計画を作成する撮像計画作成手段と、
前記撮像計画に基づいて前記撮像装置の動作を制御する制御手段と、を備えることを特徴とする、
情報処理装置。 - 前記撮像計画作成手段は、前記部分領域を撮像することによる前記監視領域の撮像情報量の損失が最小化するように、前記撮像計画を作成することを特徴とする、
請求項1記載の情報処理装置。 - 前記撮像計画作成手段は、前記部分領域を撮像することによる前記監視領域の撮像時間及び撮像されるオブジェクト数の少なくとも一方の損失が最小化するように、前記撮像計画を作成することを特徴とする、
請求項1又は2記載の情報処理装置。 - 前記オブジェクト領域に含まれる前記オブジェクトの画像の該オブジェクトが、実世界で移動する位置を予測する位置予測手段をさらに備えており、
前記撮像計画作成手段は、前記位置予測手段が予測した位置に基づいて、前記撮像装置を動作させるタイミングを定める前記撮像計画を作成することを特徴とする、
請求項1〜3のいずれか1項記載の情報処理装置。 - 前記撮像計画作成手段は、前記位置予測手段が予測した位置と、前記部分領域の撮影頻度とに基づいて、前記撮像装置を動作させるタイミングを定める前記撮像計画を作成することを特徴とする、
請求項4記載の情報処理装置。 - 前記撮像計画作成手段は、前記位置予測手段が予測した位置のうち、前記撮像装置との距離が最小となる位置に基づいて、前記撮像装置を動作させるタイミングを定める前記撮像計画を作成することを特徴とする、
請求項4又は5記載の情報処理装置。 - 前記撮像装置による過去の撮像頻度に基づいて、前記部分領域を撮像できる確率を算出する撮像確率算出手段をさらに備えており、
前記撮像計画作成手段は、前記撮像確率に基づいて前記撮像計画を作成することを特徴とする、
請求項1〜6のいずれか1項記載の情報処理装置。 - 前記部分領域の識別可能な度合いを示す識別度を算出する識別度算出手段をさらに備えており、
前記撮像計画作成手段は、前記識別度算出手段が算出した前記識別度が閾値を満たす場合に前記撮像装置に前記監視領域の撮像を再開させるように前記撮像計画を作成することを特徴とする、
請求項1〜7のいずれか1項記載の情報処理装置。 - 前記撮像計画作成手段は、前記撮像装置の画角、撮像倍率、センサ感度のいずれかを変更するように前記撮像計画を作成することを特徴とする、
請求項1〜8のいずれか1項記載の情報処理装置。 - 前記部分領域指定手段は、検索対象となるオブジェクトが有する識別が容易な特徴部分の画像を前記部分領域に指定することを特徴とする、
請求項1〜9のいずれか1項記載の情報処理装置。 - 撮像装置から所定の監視領域の撮影画像を取得する情報処理装置により実行される方法であって、
前記撮影画像から抽出した該撮影画像に映されたオブジェクトの画像を含むオブジェクト領域が、検索対象となるオブジェクトに関する所定の部分領域を含むか否かを判定し、
前記オブジェクト領域が前記部分領域を含まない場合に、前記部分領域を撮像し、撮像後に前記監視領域の撮像を再開するように前記撮像装置を制御するための撮像計画を作成して、前記撮像計画に基づいて前記撮像装置の動作を制御することを特徴とする、
撮像装置の制御方法。 - 撮像装置から所定の監視領域の撮影画像を取得するコンピュータを、
前記撮影画像に映されたオブジェクトの画像を含むオブジェクト領域を、前記撮影画像から抽出するオブジェクト領域抽出手段、
検索対象となるオブジェクトに関する所定の部分領域を指定する部分領域指定手段、
前記オブジェクト領域抽出手段で抽出した前記オブジェクト領域が、前記部分領域指定手段が指定した前記部分領域を含むか否かを判定する指定領域判定手段、
前記指定領域判定手段の判定結果に応じて、前記部分領域指定手段で指定された前記部分領域を撮像し、撮像後に前記監視領域の撮像を再開するように前記撮像装置を制御するための撮像計画を作成する撮像計画作成手段、
前記撮像計画に基づいて前記撮像装置の動作を制御する制御手段、
として機能させるためのコンピュータプログラム。 - 請求項12記載のコンピュータプログラムを記憶する、コンピュータにより読み取り可能な記憶媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018030142A JP2019146087A (ja) | 2018-02-22 | 2018-02-22 | 情報処理装置、撮像装置の制御方法、コンピュータプログラム、及び記憶媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018030142A JP2019146087A (ja) | 2018-02-22 | 2018-02-22 | 情報処理装置、撮像装置の制御方法、コンピュータプログラム、及び記憶媒体 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019146087A true JP2019146087A (ja) | 2019-08-29 |
Family
ID=67771315
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018030142A Pending JP2019146087A (ja) | 2018-02-22 | 2018-02-22 | 情報処理装置、撮像装置の制御方法、コンピュータプログラム、及び記憶媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2019146087A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021140916A1 (ja) * | 2020-01-07 | 2021-07-15 | ソニーグループ株式会社 | 移動体、情報処理装置、情報処理方法、及びプログラム |
-
2018
- 2018-02-22 JP JP2018030142A patent/JP2019146087A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021140916A1 (ja) * | 2020-01-07 | 2021-07-15 | ソニーグループ株式会社 | 移動体、情報処理装置、情報処理方法、及びプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102415632B1 (ko) | 정보처리장치, 정보처리방법 및 기억매체 | |
US9602783B2 (en) | Image recognition method and camera system | |
JP5529660B2 (ja) | 瞳孔検出装置及び瞳孔検出方法 | |
KR101533686B1 (ko) | 시선 추적 장치 및 방법, 이를 수행하기 위한 기록매체 | |
JP2017041022A (ja) | 情報処理装置、情報処理方法及びプログラム | |
JPH11175246A (ja) | 視線検出装置及びその方法 | |
JP5001930B2 (ja) | 動作認識装置及び方法 | |
JPWO2018154709A1 (ja) | 動作学習装置、技能判別装置および技能判別システム | |
KR20190118965A (ko) | 시선 추적 시스템 및 방법 | |
JP6870474B2 (ja) | 視線検出用コンピュータプログラム、視線検出装置及び視線検出方法 | |
JP2017168029A (ja) | 行動価値によって調査対象の位置を予測する装置、プログラム及び方法 | |
JP2003346158A (ja) | 顔画像による顔領域追跡方法 | |
JP2002366958A (ja) | 画像認識方法および画像認識装置 | |
US10997398B2 (en) | Information processing apparatus, authentication system, method of controlling same, and medium | |
JP7409499B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2019146087A (ja) | 情報処理装置、撮像装置の制御方法、コンピュータプログラム、及び記憶媒体 | |
JP7188566B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP2020095757A (ja) | 情報処理装置、情報処理方法及びプログラム | |
US11610385B2 (en) | Information processing apparatus, control method, and non-transitory storage medium | |
JP7364077B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2022048077A (ja) | 画像処理装置およびその制御方法 | |
JP7396364B2 (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
JP7374632B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP2011043863A (ja) | 対象領域判定・追跡装置、方法、プログラム及び対象領域判定装置 | |
JP2018195872A (ja) | 情報処理装置、情報処理システム、情報処理方法及びプログラム |