JP7338174B2 - 物体検出装置および物体検出方法 - Google Patents

物体検出装置および物体検出方法 Download PDF

Info

Publication number
JP7338174B2
JP7338174B2 JP2019040867A JP2019040867A JP7338174B2 JP 7338174 B2 JP7338174 B2 JP 7338174B2 JP 2019040867 A JP2019040867 A JP 2019040867A JP 2019040867 A JP2019040867 A JP 2019040867A JP 7338174 B2 JP7338174 B2 JP 7338174B2
Authority
JP
Japan
Prior art keywords
image
difference
fisheye
person
object detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019040867A
Other languages
English (en)
Other versions
JP2020144607A (ja
Inventor
清明 田中
郁奈 辻
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp filed Critical Omron Corp
Priority to JP2019040867A priority Critical patent/JP7338174B2/ja
Priority to PCT/JP2020/008130 priority patent/WO2020179638A1/ja
Publication of JP2020144607A publication Critical patent/JP2020144607A/ja
Application granted granted Critical
Publication of JP7338174B2 publication Critical patent/JP7338174B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)

Description

本発明は、魚眼カメラの画像を用いて人を検出する技術に関する。
ビルディングオートメーション(BA)やファクトリーオートメーション(FA)の分野において、画像センサにより人の「数」・「位置」・「動線」などを自動で計測し、照明や空調などの機器を最適制御するアプリケーションが必要とされている。このような用途では、できるだけ広い範囲の画像情報を取得するために、魚眼レンズ(フィッシュアイレンズ)を搭載した超広角のカメラ(魚眼カメラ、全方位カメラ、全天球カメラなどと呼ばれるが、いずれも意味は同じである。本明細書では「魚眼カメラ」の語を用いる。)を利用することが多い。
魚眼カメラで撮影された画像は大きく歪んでいる。それゆえ、魚眼カメラの画像(以後「魚眼画像」と呼ぶ。)から人体や顔などを検出する場合には、あらかじめ魚眼画像を平面展開することで歪みの少ない画像に補正した後に検出処理にかけるという方法が一般的である(特許文献1参照)。
特開2016-39539号公報
しかしながら、従来技術では次のような問題がある。一つは、魚眼画像を平面展開するという前処理が発生することで、全体の処理コストが大きくなるという問題である。これは、リアルタイムの検出処理を困難にし、機器制御の遅延を招く可能性があり、好ましくない。二つ目の問題は、魚眼カメラの真下など、ちょうど平面展開時の境界(画像の切れ目)の位置に存在する人や物体の像が、平面展開の処理によって大きく変形してしまったり、像が分断されてしまったりして、正しく検出できない恐れがあることである。
これらの問題を回避するため、本発明者らは、魚眼画像をそのまま(「平面展開せずに」という意味である。)検出処理にかけるというアプローチを研究している。しかし、通常のカメラ画像に比べ、魚眼画像の場合は、検出対象となる人の見え方(人体の傾き、歪み、大きさ)のバリエーションが増加するため、検出が困難となる。特に、BAやFAなどのアプリケーションを想定した場合、画像中に、イス、パーソナルコンピュータ、ごみ箱、扇風機、サーキュレーターなど、人体や頭部と誤り易い物体が多く存在するため、検出精度の低下を招きやすい。
本発明は上記実情に鑑みなされたものであって、魚眼画像から高速に且つ高精度に人を検出する技術を提供することを目的とする。
上記目的を達成するために本発明は、以下の構成を採用する。
本発明の第一側面は、検出対象エリアの上方に設置された魚眼カメラにより得られた魚眼画像を解析して、前記検出対象エリア内に存在する人を検出する人検出装置であって、魚眼画像である動画から、連続するフレーム間の差分を表す差分画像を生成する差分生成
部と、前記差分画像における、前記差分が閾値よりも大きい1つ以上の画素群から、人に対応する画素群を検出する第1の人検出部と、を有し、前記差分生成部は、前記魚眼画像で人が相対的に小さく写る位置またはエリアについて、連続する3つ以上のフレームを用いて得られる複数の前記差分の合計が表されるように、前記差分画像を生成することを特徴とする人検出装置を提供する。
本発明の第二側面は、検出対象エリアの上方に設置された魚眼カメラにより得られた魚眼画像を解析して、前記検出対象エリア内に存在する人を検出する人検出装置であって、魚眼画像である動画から、連続するフレーム間の差分を表す差分画像を生成する差分生成部と、前記差分画像における、前記差分が閾値よりも大きい1つ以上の画素群から、人に対応する画素群を検出する第1の人検出部と、を有し、前記差分生成部は、前記魚眼画像で人が相対的に小さく写る位置またはエリアについて、前記差分を増幅した値が表されるように、前記差分画像を生成することを特徴とする人検出装置を提供する。
本発明の第三側面は、検出対象エリアの上方に設置された魚眼カメラにより得られた魚眼画像を解析して、前記検出対象エリア内に存在する人を検出する人検出装置であって、魚眼画像である動画から、連続するフレーム間の差分を表す差分画像を生成する差分生成部と、前記差分画像における、前記差分が閾値よりも大きい1つ以上の画素群から、人に対応する画素群を検出する第1の人検出部と、を有し、前記第1の人検出部は、前記魚眼画像で人が相対的に小さく写る位置またはエリアについて、他の部分よりも小さい閾値を用いることを特徴とする人検出装置を提供する。
「魚眼カメラ」は、魚眼レンズを搭載したカメラであり、通常のカメラに比べて超広角での撮影が可能なカメラである。全方位カメラや全天球カメラも魚眼カメラの一種である。魚眼カメラは、検出対象エリアの上方から検出対象エリアを見下ろすように設置されていればよい。典型的には魚眼カメラの光軸が鉛直下向きとなるように設置されるが、魚眼カメラの光軸が鉛直方向に対して傾いていても構わない。
本発明は、魚眼画像で人が相対的に小さく写る位置またはエリアについて、他の部分よりも、差分画像によって表された差分が閾値を超えやすくなるようにするというシンプルな方法により、高精度な人検出を簡易な処理で実現することができる。しかも、魚眼画像を平面展開するなどの前処理が不要なため、高速な処理が実現できる。
前記差分生成部は、前記魚眼画像の中心から遠いほど多くのフレームを用いて前記差分画像を生成してもよい。前記差分生成部は、前記魚眼画像の中心から遠いほど高い増幅率で前記差分を増幅して、前記差分画像を生成してもよい。前記第1の人検出部は、前記魚眼画像の中心から遠いほど小さい閾値を用いてもよい。人検出装置は、前記第1の人検出部とは異なる方法で、前記魚眼画像から人に対応する画素群を検出する第2の人検出部と、前記第1の人検出部で検出された画素群と、前記第2の人検出部で検出された画素群とに基づいて、それらの画素群から人に対応する画素群を絞り込む絞り込み部と、をさらに有してもよい。
本発明の第四側面は、検出対象エリアの上方に設置された魚眼カメラにより得られた魚眼画像を解析して、前記検出対象エリア内に存在する人を検出する人検出方法であって、魚眼画像である動画から、連続するフレーム間の差分を表す差分画像を生成する差分生成ステップと、前記差分画像における、前記差分が閾値よりも大きい1つ以上の画素群から、人に対応する画素群を検出する人検出ステップと、を有し、前記差分生成ステップでは、前記魚眼画像で人が相対的に小さく写る位置またはエリアについて、連続する3つ以上のフレームを用いて得られる複数の前記差分の合計が表されるように、前記差分画像を生成することを特徴とする人検出方法を提供する。
本発明の第五側面は、検出対象エリアの上方に設置された魚眼カメラにより得られた魚眼画像を解析して、前記検出対象エリア内に存在する人を検出する人検出方法であって、魚眼画像である動画から、連続するフレーム間の差分を表す差分画像を生成する差分生成ステップと、前記差分画像における、前記差分が閾値よりも大きい1つ以上の画素群から、人に対応する画素群を検出する人検出ステップと、を有し、前記差分生成ステップでは、前記魚眼画像で人が相対的に小さく写る位置またはエリアについて、前記差分を増幅した値が表されるように、前記差分画像を生成することを特徴とする人検出方法を提供する。
本発明の第六側面は、検出対象エリアの上方に設置された魚眼カメラにより得られた魚眼画像を解析して、前記検出対象エリア内に存在する人を検出する人検出方法であって、魚眼画像である動画から、連続するフレーム間の差分を表す差分画像を生成する差分生成ステップと、前記差分画像における、前記差分が閾値よりも大きい1つ以上の画素群から、人に対応する画素群を検出する人検出ステップと、を有し、前記人検出ステップでは、前記魚眼画像で人が相対的に小さく写る位置またはエリアについて、他の部分よりも小さい閾値を用いることを特徴とする人検出方法を提供する。
本発明は、上記手段の少なくとも一部を有する人検出装置として捉えてもよいし、検出した人を認識(識別)する人認識装置、検出した人をトラッキングする人追跡装置、あるいは画像処理装置や監視システムとして捉えてもよい。また、本発明は、上記処理の少なくとも一部を含む人検出方法、人認識方法、人追跡方法、画像処理方法、監視方法として捉えてもよい。また、本発明は、かかる方法を実現するためのプログラムやそのプログラムを非一時的に記録した記録媒体として捉えることもできる。なお、上記手段および処理の各々は可能な限り互いに組み合わせて本発明を構成することができる。
本発明によれば、魚眼画像から高速に且つ高精度に人を検出することができる。
図1は、本発明に係る人検出装置の適用例を示す図である。 図2は、魚眼画像の例を示す図である。 図3は、差分画像の例を示す図である。 図4は、人検出装置を備える監視システムの構成を示す図である。 図5は、人検出処理のフローチャートである。 図6は、フレーム数情報の例を示す図である。 図7は、フレーム数情報を用いた差分画像の生成方法を示す図である。 図8は、増幅率情報の例を示す図である。 図9は、増幅率情報を用いた差分画像の生成方法を示す図である。 図10は、閾値情報の例を示す図である。 図11は、閾値情報を用いた人候補画素群の検出方法を示す図である。 図12は、人検出装置の他の構成を示す図である。
<適用例>
図1を参照して、本発明に係る人検出装置の適用例を説明する。人検出装置1は、検出対象エリア11の上方(例えば天井12など)に設置された魚眼カメラ10により得られた魚眼画像を解析して、検出対象エリア11内に存在する人(人13a,13b)を検出する装置である。この人検出装置1は、例えば、オフィスや工場などにおいて、検出対象エリア11を通行する人の検出、認識、追跡などを行う。図1の例では、魚眼カメラ10
により、魚眼画像である動画が得られる(動画の各フレームの画像が魚眼画像である)。そして、人検出装置1は、連続するフレーム間の差分を表す差分画像を動画(魚眼画像)から生成し、差分画像における、差分が閾値よりも大きい1つ以上の画素群から、人に対応する画素群を検出する。人検出装置1の検出結果は、外部装置に出力され、例えば、人数のカウント、照明や空調など各種機器の制御、不審者の監視などに利用される。
魚眼カメラ10で検出対象エリア11を見下ろすように撮影した場合、魚眼カメラ10との位置関係に依存して人の見え方(写り方)が大きく変わる。それゆえ、魚眼画像は、画像上での人のサイズが画像上の位置に応じて変化するという特性をもつ。そして、人が同じ移動量で移動した場合、魚眼画像上での人の位置の変化量は、魚眼画像で人が相対的に小さく写る位置またはエリアで、他の部分よりも小さくなる。それゆえ、差分画像は、魚眼画像で人が相対的に小さく写る位置またはエリアにおいて、他の部分よりも、差分が小さくなりやすく、差分が閾値を超えにくいという特性をもつ。人検出装置1は、このような差分画像の特性を考慮し、魚眼画像で人が相対的に小さく写る位置またはエリアについて他の部分よりも差分が閾値を超えやすくなるようにするというシンプルな方法を採用する点に特徴の一つを有する。また、人検出装置1は、魚眼画像をそのまま(つまり、平面展開や歪み補正などの前処理を行わずに)人検出処理に用いる点にも特徴の一つを有する。
<魚眼画像の特性>
図2は、魚眼カメラ10から取り込まれた魚眼画像の例を示す。画像座標系は、魚眼画像の左下のコーナーを原点(0,0)とし、横方向右側にx軸、縦方向上側にy軸をとる。
光軸が鉛直下向きになるように魚眼カメラ10を設置した場合、人の写る大きさは、魚眼画像の中心で最も大きく、中心から遠ざかるにつれ小さくなる。このように、魚眼画像は、画像中心を基準とした距離に依存して人の写る大きさが変化する(距離が長いほどサイズが小さい)、という特性を有する。魚眼画像上の位置またはエリアごとのサイズ(人の写る大きさ)は、魚眼カメラ10の光学特性、魚眼カメラ10と検出対象エリア11の位置関係、および、平均的な人体のサイズを基に、幾何学的に計算(予測)することが可能である。
<差分画像の特性>
図3は、魚眼画像である動画の現フレーム(現在のフレーム)と前フレーム(現フレームの1つ前のフレーム)との差分を表す差分画像の例を示す。図3には、y軸の値Yにおける差分の分布も示されている。
上述したように、(人の体格が同じである場合、)魚眼画像の中心から遠いほど、魚眼画像上での人のサイズは小さい。このため、人が同じ移動量で移動した場合、魚眼画像上での人の位置の変化量は、魚眼画像の中心で最も大きく、中心から遠ざかるにつれ小さくなる。そして、魚眼画像では、人を構成する画素間の差分は小さいことが多い。このため、魚眼画像上での人の位置の変化量が小さい場合、連続するフレーム間の差分は小さくなりやすい。つまり、連続するフレーム間の差分は、魚眼画像の中心で最も大きく、中心から遠ざかるにつれ小さくなる。このように、差分画像は、画像中心を基準とした距離に依存して差分(連続するフレーム間の差分)が変化する(距離が長いほど差分が小さい;距離が長いほど差分が閾値を超えにくい)、という特性を有する。
<監視システム>
図4を参照して、本発明の実施形態を説明する。図4は、本発明の実施形態に係る人検出装置を適用した監視システムの構成を示すブロック図である。監視システム2は、概略
、魚眼カメラ10と人検出装置1とを備えている。
魚眼カメラ10は、魚眼レンズを含む光学系と撮像素子(CCDやCMOSなどのイメージセンサ)を有する撮像装置である。魚眼カメラ10は、例えば図1に示すように、検出対象エリア11の天井12などに、光軸を鉛直下向きにした状態で設置され、検出対象エリア11の全方位(360度)の画像を撮影するとよい。魚眼カメラ10は人検出装置1に対し有線(USBケーブル、LANケーブルなど)または無線(WiFiなど)で接続され、魚眼カメラ10で撮影された画像データは人検出装置1に取り込まれる。画像データはモノクロ画像、カラー画像のいずれでもよく、また画像データの解像度やフレームレートやフォーマットは任意である。本実施形態では、10fps(1秒あたり10枚)で取り込まれるモノクロ画像を用いることを想定している。
本実施形態の人検出装置1は、画像入力部20、差分生成部21、人検出部22、記憶部23、及び、出力部24を有する。画像入力部20は、魚眼カメラ10から画像データ(現フレームの魚眼画像)を取り込む機能を有する。取り込まれた画像データは差分生成部21に引き渡される。この画像データは記憶部23に格納されてもよい。差分生成部21は、画素ごとに現フレームと前フレームの間の差分を表す差分画像を生成する機能を有する。現フレームまでの複数のフレームを記憶する機能を差分生成部21が有してもよいし、複数のフレームを記憶部23が記憶し、差分生成部21が記憶部23を参照して差分画像を生成してもよい。生成された差分画像は、人検出部22に引き渡される。人検出部22は、人を検出するアルゴリズムを用いて、差分画像における、差分が閾値よりも大きい1つ以上の画素群から、人に対応する画素群を検出する機能を有する。記憶部23は、魚眼画像、検出結果などを記憶する機能を有する。出力部24は、魚眼画像や検出結果などの情報を外部装置に出力する機能を有する。例えば、出力部24は、外部装置としてのディスプレイに情報を表示してもよいし、外部装置としてのコンピュータに情報を転送してもよいし、外部装置としての照明装置や空調やFA装置に対し情報や制御信号を送信してもよい。
人検出装置1は、例えば、CPU(プロセッサ)、メモリ、ストレージなどを備えるコンピュータにより構成することができる。その場合、図4に示す構成は、ストレージに格納されたプログラムをメモリにロードし、CPUが当該プログラムを実行することによって実現されるものである。かかるコンピュータは、パーソナルコンピュータ、サーバコンピュータ、タブレット端末、スマートフォンのような汎用的なコンピュータでもよいし、オンボードコンピュータのように組み込み型のコンピュータでもよい。あるいは、図4に示す構成の全部または一部を、ASICやFPGAなどで構成してもよい。あるいは、図4に示す構成の全部または一部を、クラウドコンピューティングや分散コンピューティングにより実現してもよい。
<人検出処理>
図5は、監視システム2による人検出処理のフローチャートである。図5に沿って人検出処理の全体的な流れを説明する。なお、図5のフローチャートは、1フレームの魚眼画像に対する処理を示している。10fpsで魚眼画像が入力される場合には、図5の処理が1秒間に10回実行されることとなる。
まず、画像入力部20が、魚眼カメラ10から1フレームの魚眼画像を入力する(ステップS50)。背景技術の欄で述べたように、従来は、魚眼画像の歪みを補正した平面展開画像を作成した後、検出や認識などの画像処理を行っていたが、本実施形態の監視システム2では、魚眼画像をそのまま(歪んだまま)検出や認識の処理に用いる。
次に、差分生成部21が、現フレーム(ステップS50で入力されたフレーム)までの
複数のフレームを用いて差分画像を生成する(ステップS51)。そして、人検出部22が、ステップS51で生成された差分画像から、差分が閾値よりも大きい1つ以上の画素からなる画素群を検出する(ステップS52)。以後、差分が閾値よりも大きい画素群を「人候補画素群」と記載する。魚眼画像内に複数の人が存在する場合などでは、複数の人候補画素群が検出される。ステップS51,S52の処理は、魚眼画像の中心から遠い位置またはエリア(魚眼画像で人が相対的に小さく写る位置またはエリア)について他の部分よりも差分が閾値を超えやすくなるように行われる(詳細は後述する)。
次に、人検出部22が、ステップS52で検出された1つ以上の人候補画素群から人画素群(人に対応する画素群)を検出する(ステップS53)。魚眼画像内に複数の人が存在する場合などでは、複数の人画素群が検出される。人画素群の検出方法は特に限定されないが、例えば、所定のサイズ、所定の形状、等との差分が閾値以下の人候補画素群が、人画素群として検出される。魚眼画像では人の写り方が画像上の位置に応じて変化するため、差分画像では人画素群のサイズ、形状、等が画像上の位置に応じて変化する。このため、所定のサイズ、所定の形状、等は、差分画像の位置またはエリアごとに定められる。検出結果には、例えば、検出された領域(人画素群)の情報と、検出の信頼度(人であることの確からしさ)の情報とが含まれるとよい。領域(人画素群)の情報は、例えば、領域の中心座標(x,y)、高さh、幅wを含むとよい。検出結果は、記憶部23に格納される。
最後に、出力部24が、検出結果を外部装置に出力する(ステップS54)。以上で1フレームの魚眼画像に対する処理が終了する。
本実施形態の人検出処理によれば、魚眼画像をそのまま解析し、魚眼画像からダイレクトに人検出を行う。したがって、魚眼画像の平面展開や歪み補正といった前処理を省略でき、高速な人検出処理が可能である。魚眼画像をそのまま検出処理に用いる方法は、平面展開(歪み補正)した後に検出処理を行う方法に比べ、検出精度が低下するという課題がある。本実施形態では、魚眼画像の中心から遠い位置またはエリアで差分が閾値を超えやすくなるようにするため、高精度な検出が実現できる(詳細は後述する)。
<差分が閾値を超えやすくなるようにする方法>
魚眼画像の中心から遠い位置またはエリア(魚眼画像で人が相対的に小さく写る位置またはエリア)について他の部分よりも差分が閾値を超えやすくなるようにする方法の具体例を説明する。
(1)第1の方法
第1の方法では、差分生成部21は、魚眼画像の中心から遠い位置またはエリアについて、連続する3つ以上のフレームを用いて得られる複数の差分(連続するフレーム間の差分)の合計が表されるように、差分画像を生成する。
具体的には、差分生成部21または記憶部23は、差分画像の生成に用いるフレームの数を魚眼画像の位置またはエリアごとに示すフレーム数情報を予め記憶する。図6は、フレーム数情報の一例を示す。図6では、魚眼画像が7×5の35個の小エリアに分割されており、差分画像の生成に用いるフレームの数が各小エリアに対して定められている。上述したように、魚眼画像の中心から遠いほど、連続するフレーム間の差分が閾値を超えにくい。このため、図6では、魚眼画像の中心から遠いほど多いフレーム数が定められている。そして、差分生成部21は、フレーム数情報に従って、現フレームまでの複数のフレームから差分画像を生成する。
なお、小エリアの数やサイズは特に限定されない。また、図6に示すように、画像中心
をとおりx軸およびy軸にそれぞれ平行なA軸およびB軸を考えたとき、フレーム数はA軸およびB軸に関して対称に変化するように定めることができる。この対称性を利用し、差分生成部21または記憶部23には、魚眼画像の1/4の象限のテーブル(例えば、図6の網掛け部分)のみを格納しておくだけでもよい。これによりメモリ容量を削減することができる。
図7を用いて、より詳細に説明する。図7において、Nフレームは現フレームであり、N-1フレームは前フレームである。そして、N-2フレームは、Nフレームの2つ前のフレームであり、N-3フレームは、Nフレームの3つ前のフレームである。N-2~Nフレームでは、魚眼画像の中心部に人13aが写っており、魚眼画像の縁部に人13bが写っている。
N-1フレームとNフレームから得られる差分画像I1では、人13aに対応する画素の多く(または全て)が閾値を超え、人13aに対応する画素群を人画素群として検出できる。しかしながら、人13bに対応する全て(または多く)の画素が閾値を超えず、人13bに対応する画素群を人画素群として検出できないことがある。N-2フレームとN-1フレームから得られる差分画像I2、及び、N-3フレームとN-2フレームから得られる差分画像I3についても同様である。
そこで、差分生成部21は、図6のフレーム数情報に従い、人13bが写っている小エリアで、N-3フレーム~Nフレームの4つのフレームを用いて得られる複数の差分の合計が表されるように、差分画像Idiffを生成する。すなわち、差分生成部21は、人13bが写っている小エリアで、差分画像I1~I3を足し合わせた加算画像Isumの差分が表されるように、差分画像Idiffを生成する。差分画像I1~I3の足し合わせにより、人13bに対応し且つ差分が閾値を超える画素群のサイズが増す。これにより、人13bに対応する画素群を人画素群として高精度に検出できるようになる。
なお、加算画像Isumでは、人13aに対応し且つ差分が閾値を超える画素群が非常に大きい。そして、閾値を超える画素群が必要以上に大きいことは、人検出の精度を低下させる。このため、加算画像Isumからでは、人13aに対応する画素群を人画素群として検出できないことがある。そこで、差分生成部21は、人13aが写っている小エリアで、加算画像Isumの差分値ではなく、差分画像I1の差分値が表されるように、差分画像Idiffを生成する。そうすることで、閾値を超える画素群が必要以上に大きくなることを抑制でき、人検出の精度低下を抑制でき、人13aに対応する画素群を人画素群として高精度に検出できるようになる。
(2)第2の方法
第2の方法では、差分生成部21は、魚眼画像の中心から遠い位置またはエリアについて、差分を増幅した値が表されるように、差分画像を生成する。
具体的には、差分生成部21または記憶部23は、差分の増幅率(ゲイン値)を魚眼画像の位置またはエリアごとに示す増幅率情報を予め記憶する。図8は、増幅率情報の一例を示す。図8では、魚眼画像が7×5の35個の小エリアに分割されており、各小エリアに対して増幅率が定められている。上述したように、魚眼画像の中心から遠いほど、連続するフレーム間の差分が閾値を超えにくい。このため、図8では、魚眼画像の中心から遠いほど高い増幅率が定められている。そして、差分生成部21は、増幅率情報によって示された増幅率をフレーム間の差分に乗算して、差分画像を生成する。なお、差分の増幅方法は特に限定されない。例えば、増幅率の代わりに、差分に加算する加算値(オフセット値)が使用されてもよい。
図9を用いて、より詳細に説明する。前フレームと現フレームでは、魚眼画像の中心部に人13aが写っており、魚眼画像の縁部に人13bが写っている。図7の差分画像I1を用いて説明したように、差分の増幅を行わない場合、現フレームと前フレームから得られる差分画像では、人13bに対応する全て(または多く)の画素が閾値を超えず、人13bに対応する画素群を人画素群として検出できないことがある。
そこで、差分生成部21は、図8の増幅率情報に従い、人13bが写っている小エリアの差分を1.7倍に増幅する。差分の増幅により、人13bに対応し且つ差分が閾値を超える画素群のサイズが増す。これにより、人13bに対応する画素群を人画素群として高精度に検出できるようになる。
また、魚眼画像の中心に近づくにつれ増幅率が低下することにより、閾値を超える画素群が必要以上に大きくなることを抑制でき、人検出の精度低下を抑制できる。具体的には、図8の増幅率情報では、人13aが写っている小エリアの増幅率が1.0であるため、差分生成部21は、人13aが写っている小エリアの差分を増幅しない。これにより、人13aに対応する画素群を人画素群として高精度に検出できるようになる。
(3)第3の方法
第3の方法では、人検出部22は、魚眼画像の中心から遠い位置またはエリアについて、他の部分よりも小さい閾値を用いて、人候補画素群を検出する。
具体的には、人検出部22または記憶部23は、人候補画素群の検出のための閾値を魚眼画像の位置またはエリアごとに示す閾値情報を予め記憶する。図10は、閾値情報の一例を示す。図10では、魚眼画像が7×5の35個の小エリアに分割されており、各小エリアに対して閾値が定められている。図10では、中心の小エリアの閾値を100%として、各小エリアの閾値が[%]で示されている。上述したように、魚眼画像の中心から遠いほど、連続するフレーム間の差分が閾値を超えにくい。このため、図10では、魚眼画像の中心から遠いほど小さい閾値が定められている。そして、人検出部22は、閾値情報によって示された閾値を用いて、差分画像から人候補画素群を検出する。
図11を用いて、より詳細に説明する。前フレームと現フレームでは、魚眼画像の中心部に人13aが写っており、魚眼画像の縁部に人13bが写っている。図7の差分画像I1を用いて説明したように、1つの閾値を用いた場合、現フレームと前フレームから得られる差分画像では、人13bに対応する全て(または多く)の画素が閾値を超えず、人13bに対応する画素群を人画素群として検出できないことがある。
そこで、人検出部22は、図10の閾値情報に従い、人13bが写っている小エリアの閾値として、人13aが写っている小エリアの閾値よりも小さい値を用いる。小さい閾値を用いることにより、人13bに対応し且つ差分が閾値を超える画素群のサイズが増す。これにより、人13bに対応する画素群を人画素群として高精度に検出できるようになる。
また、魚眼画像の中心に近づくにつれ閾値が大きくなることにより、閾値を超える画素群が必要以上に大きくなることを抑制でき、人検出の精度低下を抑制でき、人13aに対応する画素群を人画素群として高精度に検出できるようになる。
<その他>
上記実施形態は、本発明の構成例を例示的に説明するものに過ぎない。本発明は上記の具体的な形態には限定されることはなく、その技術的思想の範囲内で種々の変形が可能である。例えば、図6,8,10に示したテーブルの値などはいずれも説明のための例示に
すぎない。また、第1~第3の方法を適宜組み合わせてもよい。具体的には、差分画像の生成に用いるフレームの数を適宜変更する処理、差分を適宜増幅しする処理、及び、閾値を適宜変更する処理のうちの2つまたは3つが行われてもよい。
また、図12に示すように、人検出装置1は、人検出部25と絞り込み部26をさらに有してもよい。人検出部25は、人検出部22とは異なる方法で魚眼画像から人に対応する画素群を検出する。そして、絞り込み部26は、人検出部22で検出された画素群と、人検出部25で検出された画素群とに基づいて、それらの画素群から人に対応する画素群を絞り込む。例えば、絞り込み部26は、魚眼画像のうち、人検出部22で検出された画素群に対応する領域と、人検出部25で検出された画素群に対応する領域とが重なり合う重畳領域に、人の領域の判断結果を絞り込む。絞り込み部26は、人検出部22や人検出部25で検出された画素群のうち、信頼度(人であることの確からしさ)が閾値以上の画素群に対応する領域を、重畳領域であるか否かにかかわらずに、人の領域として決定してもよい。
なお、人検出部25による人検出にはどのようなアルゴリズムを用いてもよい。例えば、HoGやHaar-likeなどの画像特徴とブースティングを組み合わせた識別器を用いてもよいし、ディープラーニング(例えば、R-CNN、Fast R-CNN、YOLO、SSDなど)による人認識を用いてもよい。人の全身を検出対象としてもよいし、上半身など体の一部を検出対象としてもよい。
<付記>
(1)検出対象エリア(11)の上方に設置された魚眼カメラ(10)により得られた魚眼画像を解析して、前記検出対象エリア(11)内に存在する人(13a,13b)を検出する人検出装置(1)であって、
魚眼画像である動画から、連続するフレーム間の差分を表す差分画像を生成する差分生成部(21)と、
前記差分画像における、前記差分が閾値よりも大きい1つ以上の画素群から、人に対応する画素群を検出する第1の人検出部(22)と、
を有し、
前記差分生成部(21)は、前記魚眼画像で人が相対的に小さく写る位置またはエリアについて、連続する3つ以上のフレームを用いて得られる複数の前記差分の合計が表されるように、前記差分画像を生成する
ことを特徴とする人検出装置(1)。
(2)検出対象エリア(11)の上方に設置された魚眼カメラ(10)により得られた魚眼画像を解析して、前記検出対象エリア(11)内に存在する人(13a,13b)を検出する人検出装置(1)であって、
魚眼画像である動画から、連続するフレーム間の差分を表す差分画像を生成する差分生成部(21)と、
前記差分画像における、前記差分が閾値よりも大きい1つ以上の画素群から、人に対応する画素群を検出する第1の人検出部(22)と、
を有し、
前記差分生成部(21)は、前記魚眼画像で人が相対的に小さく写る位置またはエリアについて、前記差分を増幅した値が表されるように、前記差分画像を生成する
ことを特徴とする人検出装置(1)。
(3)検出対象エリア(11)の上方に設置された魚眼カメラ(10)により得られた魚眼画像を解析して、前記検出対象エリア(11)内に存在する人(13a,13b)を検出する人検出装置(1)であって、
魚眼画像である動画から、連続するフレーム間の差分を表す差分画像を生成する差分生成部(21)と、
前記差分画像における、前記差分が閾値よりも大きい1つ以上の画素群から、人に対応する画素群を検出する第1の人検出部(22)と、
を有し、
前記第1の人検出部(22)は、前記魚眼画像で人が相対的に小さく写る位置またはエリアについて、他の部分よりも小さい閾値を用いる
ことを特徴とする人検出装置(1)。
(4)検出対象エリア(11)の上方に設置された魚眼カメラ(10)により得られた魚眼画像を解析して、前記検出対象エリア(11)内に存在する人(13a,13b)を検出する人検出方法であって、
魚眼画像である動画から、連続するフレーム間の差分を表す差分画像を生成する差分生成ステップ(S51)と、
前記差分画像における、前記差分が閾値よりも大きい1つ以上の画素群から、人に対応する画素群を検出する人検出ステップ(S52,S53)と、
を有し、
前記差分生成ステップ(S51)では、前記魚眼画像で人が相対的に小さく写る位置またはエリアについて、連続する3つ以上のフレームを用いて得られる複数の前記差分の合計が表されるように、前記差分画像を生成する
ことを特徴とする人検出方法。
(5)検出対象エリア(11)の上方に設置された魚眼カメラ(10)により得られた魚眼画像を解析して、前記検出対象エリア(11)内に存在する人(13a,13b)を検出する人検出方法であって、
魚眼画像である動画から、連続するフレーム間の差分を表す差分画像を生成する差分生成ステップ(S51)と、
前記差分画像における、前記差分が閾値よりも大きい1つ以上の画素群から、人に対応する画素群を検出する人検出ステップ(S52,S53)と、
を有し、
前記差分生成ステップ(S51)では、前記魚眼画像で人が相対的に小さく写る位置またはエリアについて、前記差分を増幅した値が表されるように、前記差分画像を生成することを特徴とする人検出方法。
(6)検出対象エリア(11)の上方に設置された魚眼カメラ(10)により得られた魚眼画像を解析して、前記検出対象エリア(11)内に存在する人(13a,13b)を検出する人検出方法であって、
魚眼画像である動画から、連続するフレーム間の差分を表す差分画像を生成する差分生成ステップ(S51)と、
前記差分画像における、前記差分が閾値よりも大きい1つ以上の画素群から、人に対応する画素群を検出する人検出ステップ(S52,S53)と、
を有し、
前記人検出ステップ(S52)では、前記魚眼画像で人が相対的に小さく写る位置またはエリアについて、他の部分よりも小さい閾値を用いる
ことを特徴とする人検出方法。
1:人検出装置
2:監視システム
10:魚眼カメラ
11:検出対象エリア
12:天井
13a,13b:人

Claims (6)

  1. 検出対象エリアの上方に設置された魚眼カメラにより得られた魚眼画像を解析して、前記検出対象エリア内に存在する物体を検出する物体検出装置であって、
    魚眼画像である動画から、連続するフレーム間の差分を表す差分画像を生成する差分生成部と、
    前記差分画像における、前記差分が閾値よりも大きい1つ以上の画素群から、物体に対応する画素群を検出する第1の物体検出部と、
    を有し、
    前記差分生成部は、
    前記魚眼画像で物体が相対的に小さく写る位置またはエリアについて、連続する3つ以上のフレームを用いて得られる複数の前記差分の合計が表されるように、前記差分画像を生成し、
    前記魚眼画像の中心から遠いほど多くのフレームを用いて前記差分画像を生成する
    ことを特徴とする物体検出装置。
  2. 前記第1の物体検出部とは異なる方法で、前記魚眼画像から物体に対応する画素群を検出する第2の物体検出部と、
    前記第1の物体検出部で検出された画素群と、前記第2の物体検出部で検出された画素群とに基づいて、それらの画素群から物体に対応する画素群を絞り込む絞り込み部と、
    をさらに有する
    ことを特徴とする請求項1に記載の物体検出装置。
  3. 前記物体は人である
    ことを特徴とする請求項1または2に記載の物体検出装置。
  4. 魚眼カメラと、
    請求項1~のいずれか1項に記載の物体検出装置と、
    を有することを特徴とするシステム。
  5. 検出対象エリアの上方に設置された魚眼カメラにより得られた魚眼画像を解析して、前
    記検出対象エリア内に存在する物体を検出する物体検出方法であって、
    魚眼画像である動画から、連続するフレーム間の差分を表す差分画像を生成する差分生成ステップと、
    前記差分画像における、前記差分が閾値よりも大きい1つ以上の画素群から、物体に対応する画素群を検出する物体検出ステップと、
    を有し、
    前記差分生成ステップでは、
    前記魚眼画像で物体が相対的に小さく写る位置またはエリアについて、連続する3つ以上のフレームを用いて得られる複数の前記差分の合計が表されるように、前記差分画像を生成し、
    前記魚眼画像の中心から遠いほど多くのフレームを用いて前記差分画像を生成する
    ことを特徴とする物体検出方法。
  6. 請求項に記載の物体検出方法の各ステップをコンピュータに実行させるためのプログラム。
JP2019040867A 2019-03-06 2019-03-06 物体検出装置および物体検出方法 Active JP7338174B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019040867A JP7338174B2 (ja) 2019-03-06 2019-03-06 物体検出装置および物体検出方法
PCT/JP2020/008130 WO2020179638A1 (ja) 2019-03-06 2020-02-27 人検出装置および人検出方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019040867A JP7338174B2 (ja) 2019-03-06 2019-03-06 物体検出装置および物体検出方法

Publications (2)

Publication Number Publication Date
JP2020144607A JP2020144607A (ja) 2020-09-10
JP7338174B2 true JP7338174B2 (ja) 2023-09-05

Family

ID=72338637

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019040867A Active JP7338174B2 (ja) 2019-03-06 2019-03-06 物体検出装置および物体検出方法

Country Status (2)

Country Link
JP (1) JP7338174B2 (ja)
WO (1) WO2020179638A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113469085B (zh) * 2021-07-08 2023-08-04 北京百度网讯科技有限公司 人脸活体检测方法、装置、电子设备及存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012128622A (ja) 2010-12-15 2012-07-05 Fujifilm Corp オブジェクト判別装置、方法、及びプログラム
JP2014002454A (ja) 2012-06-15 2014-01-09 Panasonic Corp 人物検出装置及び人物検出方法
WO2015122161A1 (ja) 2014-02-14 2015-08-20 日本電気株式会社 映像解析システム

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4048511B2 (ja) * 1998-03-13 2008-02-20 富士通株式会社 魚眼レンズカメラ装置及びその画像歪み補正方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012128622A (ja) 2010-12-15 2012-07-05 Fujifilm Corp オブジェクト判別装置、方法、及びプログラム
JP2014002454A (ja) 2012-06-15 2014-01-09 Panasonic Corp 人物検出装置及び人物検出方法
WO2015122161A1 (ja) 2014-02-14 2015-08-20 日本電気株式会社 映像解析システム

Also Published As

Publication number Publication date
WO2020179638A1 (ja) 2020-09-10
JP2020144607A (ja) 2020-09-10

Similar Documents

Publication Publication Date Title
WO2020184207A1 (ja) 物体追跡装置および物体追跡方法
CN106709895B (zh) 图像生成方法和设备
JP7188240B2 (ja) 人検出装置および人検出方法
JP7255173B2 (ja) 人検出装置および人検出方法
JP5484184B2 (ja) 画像処理装置、画像処理方法及びプログラム
US20160217326A1 (en) Fall detection device, fall detection method, fall detection camera and computer program
JP6060632B2 (ja) 画像中の投影領域の決定方法、及び装置
WO2021218568A1 (zh) 图像深度确定方法及活体识别方法、电路、设备和介质
JP7188067B2 (ja) 人検出装置および人検出方法
CN109447022A (zh) 一种镜头类型识别方法及装置
JP7338174B2 (ja) 物体検出装置および物体検出方法
WO2017112036A2 (en) Detection of shadow regions in image depth data caused by multiple image sensors
JP2018197945A (ja) 障害物検出装置および障害物検出方法
JP7354767B2 (ja) 物体追跡装置および物体追跡方法
US20240071028A1 (en) Information processing device and information processing method
WO2021261141A1 (ja) 物体検出装置および物体検出方法
WO2020259603A1 (zh) 图像处理装置及图像处理方法
US20230054623A1 (en) Image processing method
JP6525693B2 (ja) 画像処理装置及び画像処理方法
TW202314587A (zh) 物體偵測系統

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220112

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221101

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20221212

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230509

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230703

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230725

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230807

R150 Certificate of patent or registration of utility model

Ref document number: 7338174

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150