JP6501302B2 - 行列末尾認識用の画像処理装置 - Google Patents

行列末尾認識用の画像処理装置 Download PDF

Info

Publication number
JP6501302B2
JP6501302B2 JP2015109631A JP2015109631A JP6501302B2 JP 6501302 B2 JP6501302 B2 JP 6501302B2 JP 2015109631 A JP2015109631 A JP 2015109631A JP 2015109631 A JP2015109631 A JP 2015109631A JP 6501302 B2 JP6501302 B2 JP 6501302B2
Authority
JP
Japan
Prior art keywords
matrix
farthest point
pixel
image
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015109631A
Other languages
English (en)
Other versions
JP2016224651A (ja
Inventor
竜二 森田
竜二 森田
和弘 平野
和弘 平野
亮太 堂徳
亮太 堂徳
健太 中平
健太 中平
広成 吉田
広成 吉田
英雄 池田
英雄 池田
義弘 小竹
義弘 小竹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Use Co Ltd
Hitachi Power Solutions Co Ltd
Original Assignee
Hitachi Ltd
Use Co Ltd
Hitachi Power Solutions Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd, Use Co Ltd, Hitachi Power Solutions Co Ltd filed Critical Hitachi Ltd
Priority to JP2015109631A priority Critical patent/JP6501302B2/ja
Priority to PCT/JP2016/065586 priority patent/WO2016194770A1/ja
Publication of JP2016224651A publication Critical patent/JP2016224651A/ja
Application granted granted Critical
Publication of JP6501302B2 publication Critical patent/JP6501302B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)

Description

この発明は、行列末尾認識用の画像処理装置に係り、例えば、入場ゲートや発券機等の前に出現する待ち行列における待ち時間推定等の用途に好適な行列末尾認識用の画像処理装置に関する。
入場ゲートや発券機等の前に出現する待ち行列における待ち時間推定等の用途に使用される画像処理装置としては、様々な従来例が知られている。
1つの従来例としては、行列を形成する個々の人物に着目してその像を抽出すると共に、隣接する像同士を直線で結ぶことで、行列ラインの総延長を算出し、別途推定される行列移動速度によりこれを除することで、行列の待ち時間を算出するもの(以下、「第1従来例」と称する)が知られている(特許文献1参照)。
また、他の1つの従来例としては、背景差分画像とフレーム間差分画像との差により得られる残画像を人の集合体とみなすと共に、それらの集合体のうちで最大の集合体を行列として認識する一方、こうして認識された行列の面積を予め定めた単位面積で除することにより、行列の人数を求め、これを予め定めた単位時間あたりの行列元入場者数で除することにより、待ち時間を求めるもの(以下、「第2従来例」と称する)が知られている(特許文献2参照)。
さらに、他の1つの従来例としては、エッジ背景差分画像とフレーム間差分画像とを重ね合わせた画像にラベリング処理を施すことにより得られた画像をもとに移動体のみのエッジ情報の追跡を行って移動体の輪郭画像を生成すると共に、この輪郭画像の凸形状を検出することで画像中の人の頭部を抽出し、この頭部をもとに人の数を計数するもの(以下、「第3従来例」と称する)が知られている(特許文献3参照)。
特開2007−317052 特開2002−329196 特開2015−070359
第1従来例にあっては、ほぼ一直線状に延びる待ち行列のみならず、折れ曲がったり蛇行したりする待ち行列にも適用できる利点はあるものの、人物像の個別抽出及びそれらの連繋に複雑な処理が必要で処理に時間がかかり、またコンピュータ負荷も大きいほか、多数の人物が重なり合う画像では人物の個別抽出が難しく、複雑な処理を行う割には、待ち時間算出精度はさほど期待し得ない。
第2従来例にあっては、行列を構成する個々の人に着目するのではなく、人の集合に着目する点で、複雑な処理は回避できるが、背景差分画像とフレーム間差分画像との差により得られる残画像を人の集合体とみなすと共に、それらの集合体のうちで最大の集合体を直ちに行列として認識すると言うアルゴリズムでは、行列周辺の通行人等の影響を大きく受けやすい。
第3従来例にあっては、輪郭画像の凸形状を検出することで画像中の人の頭部を抽出と言うアルゴリズムでは、駅の広場のような比較的に分散した群衆には適用できても、待ち行列を後方から俯瞰する画像のように、多数の人が重なり合う可能性の高い画像に適用した場合には、個々の人物の頭部を全て抽出することはかなり困難と思われる。
この発明は、上述の技術的背景に鑑みてなされたものであり、その目的とするところは、例えば、入場ゲートや発券機等の前に出現する待ち行列の末尾を比較的に高精度に認識することができ、これを利用することで、例えば、当該行列の待ち時間を求めることも可能な行列末尾認識用の画像処理装置を提供することにある。
この発明のさらに他の目的並びに作用効果については、明細書の以下の記述を参照することにより、当業者であれば容易に理解されるであろう。
上記目的を達成するため、本発明に係る行列末尾認識用の画像処理装置は、以下のように構成されている。
すなわち、本発明の行列末尾認識用の画像処理装置は、1もしくは2以上のレーンからなる待ち行列の出現が想定される領域を俯瞰撮影することにより得られる動画像から当該待ち行列の末尾を認識するための画像処理装置であって、非静止体抽出手段と、画素塊グループ化手段と、最遠点探索手段と、最遠点確定手段とを包含するものである。
前記非静止体抽出手段は、前記動画像を構成する一連のフレーム画像のそれぞれから非静止体を構成する画素を抽出する。前記画素塊グループ化手段は、前記抽出された非静止体画素を、互いに隣接する画素を一塊に纏めてなる画素塊に区分すると共に、それらの区分された画素塊のうち、所定の行列延在方向において互いに近接する一連の画素塊を1のグループに属する画素塊として記憶する。前記最遠点探索手段は、1の画素塊グループに属する全画素塊の中から、所定の行列延在方向における最遠点を探索して行列末尾候補として記憶する。前記最遠点確定手段は、前記行列末尾候補として記憶される最遠点が相連続するフレーム画像間で所定の許容値を超えて変化したとき、その変化方向と変化後の安定性とに基づいて、前記行列末尾候補として記憶される最遠点を、真の行列末尾と認識されるべき最遠点として確定する。なお、「変化後の安定性」を認定する手法としては、変化後の値が連続する一定フレーム数に亘りほぼ同一に維持されるかを判定する手法のみならず、連続する一定フレーム数あたり一定以上の割合でほぼ同一に維持されるかを判定する等々、ノイズによる影響を考慮した様々な手法を採用することができる。
このような構成によれば、非静止体画素を構成する1又は2以上の画素塊の中で、所定の行列延在方向において互いに近接する一連の画素塊を1のグループに属する画素塊として記憶することから、行列周辺の通行人等の影響を受けることなく、真に、行列を構成する可能性の高い画素塊のみを先頭から末尾に向けて確実に探索することができ、さらに最遠点の探索についても、最後にグループに組み込まれた画素塊ではなくて、そのグループに含まれる全ての画素塊の中から探索するようにして、再度、グループ内を見渡して最も行列末尾の可能性が高い画素を最遠点とすることができ、加えて、こうして得られた最遠点を全てそのまま真の最遠点と認識するのではなく、列が延長された場合と列が短縮された場合とで、異なる基準により再確認することにより、認識応答性を維持しつつも、行列末尾周辺の通行人等による行列末尾の誤認を避けることができる。しかも、行列に含まれる人物を個別に認識するものではないので、画像処理全体は比較的に簡単な要素技術の組み合わせとなるため、処理も簡単で処理時間も比較的短く、通常の市販パソコンでも容易に実施することができる。
本発明の好ましい実施の一態様においては、前記最遠点確定手段が、前記最遠点の変化方向が行列先頭から遠ざかる方向であるときには、その変化後の最遠点が所定フレーム数に亘りほぼ一定に維持されたときに限り、前記行列末尾候補として記憶される最遠点を、真の行列末尾と認識されるべき最遠点として確定する処理を含む、ものであってもよい。
このような構成によれば、最遠点の変化方向が行列先頭から遠ざかる方向であるときには、その変化後の最遠点が何フレーム数継続するかを判定するだけで、変化後の最遠点が安定しているか否かを確実に判断することができ、通行人等による偽の最遠点に基づく、最遠点の誤認を簡単な処理で回避することができる。
本発明の好ましい実施の一態様においては、前記最遠点確定手段が、前記最遠点の変化方向が行列先頭へと近づく方向であるときには、直ちに(所定フレーム数を待つことなく)、前記行列末尾候補として記憶される最遠点を、真の行列末尾と認識されるべき最遠点として確定する処理を含む、ものであってもよい。
このような構成によれば、行列が前に進んだことなどにより、行列末尾が先頭へ近づいたときには、これは正常な末尾移動と判断して、直ちに、変化後の最遠点を真の最遠点として直ちに認識するから、行列末尾が正常に前へ進んだときには、そのことを即時に認識することができる。
本発明の好ましい実施の一態様によれば、前記俯瞰撮影は、想定される待ち行列の後方より行われ、かつ前記所定の行列延在方向とは、各フレーム画像の下方向とされる、ものであってもよい。
このような構成によれば、フレーム画像上の待ち行列の末尾は、フレーム画像の上下方向へと移動することとなるため、想定される行列延在方向はフレーム画像の上下方向に一致することとなり、各画素が行列末尾に近いか遠いかの判断を、各画素の垂直座標値をそのまま利用して容易に行うことができる。
本発明の好ましい実施の一態様によれば、前記非静止体抽出手段が、前記フレーム画像をそれに含まれる各種の像の輪郭を抽出してなる線画像に変換する輪郭抽出手段と、前記線画像の中で、背景に相当する線画像部分を、背景差分処理を用いて削除する背景削除手段と、前記背景差分処理後の線画像を構成する線を鮮明化する鮮明化手段とを含む、ものであってもよい。
このような構成によれば、背景削除処理に先立って輪郭抽出処理を行うと共に、輪郭抽出後にあっては、さらに、線画像の鮮明化を行うようにしているため、こうして得られる非静止体画像は、原フレーム画像に含まれる非静止体内部を白抜きとして輪郭を鮮明化したものとなり、以後の各種演算処理を、この輪郭像に含まれる画素に限定して行うことが可能となり、処理対象画素数の減少により、処理負荷の軽減化による高速動作を可能とすることができる。
このとき、輪郭抽出手段が、前記フレーム画像をモノクロ画像に変換するグレースケール化手段と、前記モノクロ画像に対して空間一次微分処理を施す空間一次微分手段と、前記空間一次微分処理後の画像を二値化して線画像を生成する二値化手段とを含む、ものであれば、原フレーム画像に含まれる全ての像の輝度差を強調した線画像を容易に得ることができる。
また、前記背景削除手段が、前記線画像を構成する線に含まれる画素の値を、当該画素の所定複数フレーム数前の値と照合し、両値が一致する画素を背景画素として削除する処理を含む、ものであれば、上記の線画像に含まれる像の中で、過去所定フレーム数以内に現れた物体の線画像(すなわち、建築物やテーブル等の真の背景画像のみならず、一定時間以上置かれたままの荷物等についても除かれた線画像)だけを確実に抽出することができる。
さらに、前記鮮明化手段が、前記背景削除後の線画像に含まれるノイズ等を原因とする微細な汚点を除去する収縮手段と、前記背景処理後の線画像に含まれる線の途切れた波線部分を繋いで太線化する膨張手段とを含む、ものであれば、線画像に含まれる線のかすれや途切れを修復すると共に、輪郭で囲まれる空間内に存在するノイズ汚点を削除して、後のラベリング処理における同一ラベルの付される画素領域を拡大して、非静止体の線画像全体を比較的少数かつ大きめの画素塊により区分し、後述するグループ化処理の効率化に寄与することなる。
本発明の好ましい実施の一態様によれば、前記画素塊グループ化手段が、前記抽出された非静止体を構成する画素のうちで、互いに隣接する画素に同一のラベルを付すことにより、非静止体を構成する画素を画素塊毎に区分するラベリング手段と、行列先頭に相当する1の画素塊に含まれる画素のうちで、所定の行列延在方向の最遠点に位置する画素を基準として、前記延在方向の遠方側に向けて設定された所定の探索領域内に、別のラベルの付された画素が存在するか否かを探索し、存在するときには、その画素が含まれる画素塊を同一グループに属する画素塊として記憶する処理を、新たに同一グループとして記憶された画素塊について、別のラベルの付された画素が存在しなくなるまで、全ての先頭相当画素塊について、繰り返す近接画素塊探査手段とを含む、ものであってもよい。
このような構成によれば、それぞれ固有のラベルが付された複数の画素塊(輪郭線像)に対して、待ち行列の想定される延在方向に向けて設定された探索領域を前提とした近接画素塊探索処理を施すことにより、周囲の通行人等を構成する画素塊を排除して、各レーンの待ち行列を構成する先頭から末尾に至る一連の画素塊だけを順次確実に抽出して1のグループに関係付けることができる。
本発明の好ましい実施の一態様によれば、前記最遠点探索手段が、同一グループに属する1の画素塊に含まれる画素のうちで、所定の行列延在方向の最遠点に位置する画素を探索する処理を、当該グループに属する全ての画素塊について繰り返すことにより、当該同一グループ内における最遠点を特定する処理を含む、ものであってもよい。
このような構成によれば、1のグループに最後に関係付けられた画素塊のみならず、そのグループにおける全ての画素塊について、所定の行列延在方向の最遠点に位置する画素を探索する処理を実行することから、行列末尾の可能性が高い最遠点をより確実に探し出すことができる。
本発明の好ましい実施の一態様によれば、前記最遠点確定手段が、同一グループ内最遠点の現フレームの値と1つ前のフレームの値との差が所定の許容値以内であるときには所定のフレームカウンタをインクリメントする一方、前記許容値を超えるときには前記フレームカウンタをクリアするカウンタ制御手段と、同一グループ内最遠点の現フレームの値と1つ前のフレームの値との差が所定の許容値を超えて変化するとき、その変化方向が近方向のときには、現フレームの値により真の最遠点の値を更新する一方、その変化方向が遠方向であるときには、前記フレームカウンタの値が所定フレーム数に達するのを待って、現フレームの値により真の最遠点の値を更新する最遠点真値の更新制御手段とを含む、ものであってもよい。
このような構成によれば、最遠点の変化方向が行列先頭へと近づく方向であるときには、直ちに、前記行列末尾候補として記憶される最遠点を、真の行列末尾と認識されるべき最遠点として遅れることなく直ちに確定する一方、最遠点の変化方向が行列先頭から遠ざかる方向であるときには、その変化後の最遠点が何フレーム数継続するかを判定するだけで、変化後の最遠点が安定しているか否かを確実に判断することができ、通行人等による偽の最遠点に基づく、最遠点の誤認を簡単な処理で回避することができる。
別の一面から見た本発明は、行列末尾認識用の画像処理方法として把握することもできる。すなわち、この行列末尾認識用の画像処理方法は、1もしくは2以上のレーンからなる待ち行列の出現が想定される領域を俯瞰撮影することにより得られた動画像から当該待ち行列の末尾を認識するための画像処理方法であって、非静止体抽出ステップと、画素塊グループ化ステップと、最遠点探索ステップと、最遠点確定ステップとを包含する。
前記非静止体抽出ステップは、前記動画像を構成する一連のフレーム画像のそれぞれから非静止体を構成する画素を抽出する。前記画素塊グループ化ステップは、前記抽出された非静止体画素を、互いに隣接する画素を一塊に纏めてなる画素塊に区分すると共に、それらの区分された画素塊のうち、所定の行列延在方向において互いに近接する一連の画素塊を1のグループに属する画素塊として記憶する。前記最遠点探索ステップは、1の画素塊グループに属する全画素塊の中から、所定の行列延在方向における最遠点を探索して行列末尾候補として記憶する。前記最遠点確定ステップは、前記行列末尾候補として記憶される最遠点が相連続するフレーム画像間で所定の許容値を超えて変化したとき、その変化方向と変化後の安定性とに基づいて、前記行列末尾候補として記憶される最遠点を、真の行列末尾と認識されるべき最遠点として確定する。
本方法発明によれば、前記装置発明と同様な作用効果が得られることに加えて、例えばパソコンに必要な画像処理プログラムを組み込んで実施する場合には、常時は、そのプログラムを外部の他社ストレージ装置やいわゆるクラウドセンタ等に置いておき、必要に応じて、当該パソコンに移送して実施する場合のように、当該プログラムを当該パソコンに常駐せずに実施することもできる。
別の一面からみた本発明は、コンピュータを、行列末尾認識用の画像処理装置として機能させるためのコンピュータプログラムとして把握することもできる。すなわち、このコンピュータプログラムは、コンピュータを、1もしくは2以上のレーンからなる待ち行列の出現が想定される領域を俯瞰撮影することにより得られた動画像から当該待ち行列の末尾を認識するために、非静止体抽出手段と、画素塊グループ化手段と、最遠点探索手段と、最遠点確定手段とを包含する。
前記非静止体抽出手段は、前記動画像を構成する一連のフレーム画像のそれぞれから非静止体を構成する画素を抽出する。前記画素塊グループ化手段は、前記抽出された非静止体画素を、互いに隣接する画素を一塊に纏めてなる画素塊に区分すると共に、それらの区分された画素塊のうち、所定の行列延在方向において互いに近接する一連の画素塊を1のグループに属する画素塊として記憶する。前記最遠点探索手段は、1の画素塊グループに属する全画素塊の中から、所定の行列延在方向における最遠点を探索して行列末尾候補として記憶する。前記最遠点確定手段は、前記行列末尾候補として記憶される最遠点が相連続するフレーム画像間で所定の許容値を超えて変化したとき、その変化方向と変化後の安定性とに基づいて、前記行列末尾候補として記憶される最遠点を、真の行列末尾と認識されるべき最遠点として確定する。
本プログラム発明によれば、前記装置発明と同様な作用効果が得られることに加えて、プログラム単体でも、権限のない第三者による製造販売等の実施行為に対して、権利を行使できることは言うまでもない。
別の一面から見た本発明は、1もしくは2以上のレーンからなる待ち行列の出現が想定される領域を俯瞰撮影するカメラと、前記カメラから得られる動画像から当該待ち行列の末尾を認識するための画像処理装置とを包含する行列末尾の認識システムとして把握することもできる。
この場合、前記画像処理装置は、非静止体抽出手段と、画素塊グループ化手段と、最遠点探索手段と、最遠点確定手段とをを含む。
ここで、非静止体抽出手段は、前記動画像を構成する一連のフレーム画像のそれぞれから非静止体を構成する画素を抽出する。前記画素塊グループ化手段は、前記抽出された非静止体画素を、互いに隣接する画素を一塊に纏めてなる画素塊に区分すると共に、それらの区分された画素塊のうち、所定の行列延在方向において互いに近接する一連の画素塊を1のグループに属する画素塊として記憶する。前記最遠点探索手段は、1の画素塊グループに属する全画素塊の中から、所定の行列延在方向における最遠点を探索して行列末尾候補として記憶する。前記最遠点確定手段は、前記行列末尾候補として記憶される最遠点が相連続するフレーム画像間で所定の許容値を超えて変化したとき、その変化方向と変化後の安定性とに基づいて、前記行列末尾候補として記憶される最遠点を、真の行列末尾と認識されるべき最遠点として確定する。
本システム発明によれば、前記装置発明と同様な作用効果が得られることに加えて、画像処理装置のみならず、俯瞰撮影用のカメラ自体も、発明を構成する設備となるため、権限のない第三者による製造販売等の実施行為に対しては、画像処理装置を構成するコンピュータのみならず、俯瞰撮影用のカメラに対しても、その権利を行使できることは言うまでもない。
本発明に係る行列末尾認識用の画像処理装置は、これにさらに、当該画像処理装置から得られる行列末尾位置を、予め統計的に得られた、行列末尾位置と当該行列の待ち時間との相関に照らすことにより、現在の行列待ち時間を推定する待ち時間推定手段を付加することにより、行列待ち時間の推定装置を実現することもできる。
このような行列待ち時間の推定装置によれば、例えば、複数段階の行列末尾基準位置と各末尾基準位置のそれぞれに対応して、実際に測定を繰り返して得られた統計的な待ち時間とを対としてテーブルを作成しておき、本発明装置から得られる行列末尾位置に基づいてテーブル参照処理並びに適宜な補間処理を実行することにより、自動生成された行列末尾位置に基づいて、該当する待ち時間を推定することができる。
このとき、複数レーンの待ち行列のそれぞれについて、現在の待ち時間を推定すると共に、それらの待ち時間に基づいて、当該複数レーンに対応する総合的な1個の待ち時間を決定する、ようにしてもよい。
このような構成によれば、例えば、空港の出発ゲートのように、複数のゲートが存在すると共に、各ゲートには複数レーンの待ち行列が生ずるような場合、各ゲート単位の待ち時間を推定して、これを適宜な通知手段を介して搭乗予定客に知らせることにより、搭乗予定客は、比較的に空いている出発ゲートを選ぶことが可能となる。
本発明に係る行列末尾認識用の画像処理装置によれば、非静止体画素を構成する1又は2以上の画素塊の中で、所定の行列延在方向において互いに近接する一連の画素塊を1のグループに属する画素塊として記憶することから、行列周辺の通行人等の影響を受けることなく、真に、行列を構成する可能性の高い画素塊のみを先頭から末尾に向けて確実に探索することができ、さらに最遠点の探索についても、最後にグループに組み込まれた画素塊ではなくて、そのグループに含まれる全ての画素塊の中から探索するようにして、再度、グループ内を見渡して最も行列末尾の可能性が高い画素を最遠点とすることができ、加えて、こうして得られた最遠点を全てそのまま真の最遠点と認識するのではなく、列が延長された場合と列が短縮された場合とで、異なる基準により再確認することにより、認識応答性を維持しつつも、行列末尾周辺の通行人等による行列末尾の誤認を避けることができる。しかも、行列に含まれる人物を個別に認識するものではないので、画像処理全体は比較的に簡単な要素技術の組み合わせとなるため、処理も簡単で処理時間も比較的短く、通常の市販パソコンでも容易に実施することができる。
図1は、本発明の一実施例である空港出発ゲートにおける待ち時間推定システムの構成図である。 図2は、保安検査場入口の待ち行列とカメラの撮影方向との関係を示す説明図である。 図3は、待ち行列の末尾と統計的待ち時間との関係を示す説明図である。 図4は、待ち時間生成PCが実行するプログラムの全体を示すゼネラルフローチャートである。 図5は、行列末尾の認識処理の詳細フローチャートである。 図6は、非静止体構成画素の抽出処理の詳細フローチャートである。 図7は、輪郭抽出及び鮮明化処理の詳細フローチャートである。 図8は、背景削除処理の詳細フローチャートである。 図9は、近接画素塊同士のグループ化処理の詳細フローチャートである。 図10は、各グループ内最下点の探索処理の詳細フローチャートである。 図11は、各グループ内の最下点の確定処理の詳細フローチャートである。 図12は、待ち時間推定処理の詳細フローチャートである。 図13は、画像処理の過程を模式的に示す説明図(その1)である。 図14は、画像処理の過程を模式的に示す説明図(その2)である。 図15は、画像処理の過程を模式的に示す説明図(その3)である。 図16は、画像処理の過程を模式的に示す説明図(その4)である。 図17は、輪郭抽出処理後の画像例を示す説明図である。 図18は、背景削除及び鮮明化処理後の画像例を示す説明図である。 図19は、グループ化処理後の画像例とゲート通過所要時間との関係を示す説明図である。
以下に、本発明の好適な実施の一形態である待ち時間推定装置を、空港出発ゲートの前に出現する待ち行列を例にとり、添付図面を参照しながら詳細に説明する。なお、いうまでもないが、本発明は、鉄道駅や公営レース等の発券場の前に出現する待ち行列、さらには、スーパーマーケットやコンビニエンスストア等の決済場(レジ)の前に出現する待ち行列等々にも、広く適用可能であることは勿論である。
<前置き>
一般に、空港の各出発ゲートのそれぞれには、互いに並列な複数レーンの搭乗客用通路を有する保安検査場が設けられている。各搭乗客用通路には、身体検査用の金属探知器のほか、持ち物透視検査のためのX線探知器等々の各種の検査装置が設けられている。
それらの検査装置はかなりの高精度であることに加え、昨今、テロ対策等々により検査はより慎重に実施されることもあり、搭乗客一人当たりの最低検査所要時間は長大化する傾向にあり、保安検査場の各レーンの搭乗客用通路の入り口の前には、検査待ちの行列が出現するのが通例である。そのため、当該出発ゲートの保安検査場を通って、一般客用フロア領域から搭乗客用フロア領域に入り込む際の通過所要時間(すなわち、待ち行列の待ち時間)は、この検査待ち行列の長さにより大きく変動する。
本発明に係る行列末尾認識用の画像処理装置は、出発ゲートの各レーン毎の待ち行列末尾をリアルタイムに自動認識して、各レーン毎や各出発ゲート毎の待ち時間、すなわち通過所要時間を推定するために利用することができる。
<空港設備について>
本実施例システムが適用される空港には、図1に示されるように、第1ゲート〜第4ゲートからなる4カ所の出発ゲートが互いに適当な距離を隔てて設けられており、各出発ゲートの内部には、図3に示されるように、第1レーン(L1)〜第4レーン(L4)からなる4レーンの搭乗客用通路を有する保安検査場が設けられている。各レーンの搭乗客用通路の入り口の前には、搭乗客の待ち行列が出現するのが通例である。そのため、各出発ゲートには、各レーン(L1)〜(L4)の搭乗客用通路の延在方向に沿って、互いにほぼ並行に延在する4列の待ち行列が、出現することとなる。
<俯瞰撮影用のカメラ及びその配置について>
第1ゲート〜第4ゲートからなる4カ所の出発ゲートのそれぞれには、搭乗客の待ち行列を俯瞰撮影するために、動画撮影用のカメラが設けられる。各ゲート毎のカメラの台数及び撮影方向は、各カメラの視野内に、4列の待ち行列が互いに離隔して収まるか否か、換言すれば、4列の待ち行列が視野内において互いに列同士で重なり合うことがないようにして決定される。そのような観点からすれば、各ゲート毎のカメラの台数及び撮影方向としては、様々な選択肢が存在する。一例として、カメラの台数を1台とするのであれば、4列の待ち行列をその後方から充分な距離を隔てて俯瞰撮影するのが好ましい。もっとも、周囲の建築物の状況等により、充分な距離を隔てることが困難な場合には、カメラの台数を2台以上として、例えばカメラの台数を2台とする場合、第1のカメラにより隣接する2列分の待ち行列をその後方から、また第2のカメラにより隣接する2列分の待ち行列を、その後方から、俯瞰撮影するといった手法を採用してもよいであろう。
図1〜図3にあっては、各出発ゲート前の4列の待ち行列を、充分なる距離を隔てて、1台のカメラにより、その後方から俯瞰撮影する例が示されている。すなわち、第1ゲートの4列の待ち行列は第1カメラ2−1により、第2ゲートの4列の待ち行列は第2カメラ2−2により、第3ゲートの4列の待ち行列は第3カメラ2−3により、及び第4ゲートの4列の待ち行列は第4カメラ2−4により、それぞれ、その後方より、充分なる距離を隔てた位置から俯瞰撮影される。なお、図2において、符号3は、待ち行列を構成する人である。また、図3においては、待ち行列を構成する人3は、図面を簡素化するために、行列の一部のみを示すもので、他の大多数の行列部分は省略されている。さらに、図3において、出発ゲート入り口からカメラ2の取付位置までの距離は、紙面の関係上、大幅に縮小されていることに注意されたい。
カメラ2としては様々な形式のものを任意に採用できるが、この例にあっては、毎秒30フレームの撮影レートを有し、かつ通信機能を有する天井取付型のドームカメラが採用され、図2に示されるように、保安検査場の入り口の正面前方、充分に離間する位置にある天井面に取り付けられている。
<本発明の画像処理装置を構成する待ち時間生成PCについて>
図1に示されるように、第1ゲートの4列の待ち行列を俯瞰撮影する第1カメラ2−1、第2ゲートの4列の待ち行列を俯瞰撮影する第2カメラ2−2、第3ゲートの4列の待ち行列を俯瞰撮影する第3カメラ2−3、及び第4ゲートの4列の待ち行列を俯瞰撮影する第4カメラ2−4は、それぞれ、LANケーブルを介して、最終的に待ち時間を生成するための1台のパーソナルコンピュータ(以下、「待ち時間生成PC」と称する)1に接続される。なお、パーソナルコンピュータとしては、本体部(CPU、ハードディスク、メモリ、無線LANボード、等々を含む)、ディスプレイ、操作部(マウス、キーボード、等々を含む)を備えた市販の通常性能のものを任意に採用することができ、そのハードウェア構成やOS等のシステム構成については、各種の文献により当業者には周知であるから、説明は省略する。待ち時間生成PC1は、図示を略するが、無線LANを介して、空港の管理サーバにも接続可能とされている。
<待ち時間生成用PCに組み込まれるコンピュータプログラムの全体について>
待ち時間生成PC1で実行される処理(コンピュータプログラム)の全体を概略的に示すゼネラルフローチャートを図4に示す。同図に示されるように、この処理は、要するに、所定のカメラポインタの値を初期値(ステップ100)から、第1カメラ→第2カメラ→第3カメラ→第4カメラのように、次々と更新しつつ(ステップ106)、その更新の都度、ポインタ指定のカメラからの画像を取得する処理(ステップ101)、最新120フレーム分(過去4秒以内)の画像を保存するFIFO処理(ステップ102)、行列末尾を認識する処理(ステップ103)、及び待ち時間を推定する処理(ステップ104)からなる一連の処理を、全カメラに対する処理が完了するまで繰り返し(ステップ105NO)、処理が完了するのを待って(ステップ105YES)、待ち時間推定値を所定ファイルに保存する処理(ステップ107)及び空港の管理サーバへのファイルを転送する処理(ステップ108)を実行し、以上の一連の処理(ステップ100〜109)を、所定の操作で運用が停止されるまで繰り返し(ステップ109NO)、運用停止が確認されるのを待って(ステップ109YES)、処理を終了するように構成されている。
<行列末尾の認識処理の詳細について>
行列末尾の認識処理(ステップ103)の詳細を図5に示す。同図に示されるように、この処理は、要するに、非静止体画素の抽出処理(ステップ1030)と、近接画素塊同士のグループ化処理(ステップ1031)と、各グループ内最下点の探索処理(ステップ032)と、各グループ内最下点の確定処理(ステップ1033)を含んで構成されている。
ここで、非静止体画素の抽出処理(ステップ1030)は、1/30秒毎に取得されるフレーム画像から人物等に相当する非静止体構成画素を抽出する処理であり、後に、図6を参照して詳述するように、輪郭抽出処理(ステップ10300)、背景削除処理(ステップ10301)、及び鮮明化処理(ステップ10302)を含んで構成される。
また、近接画素塊同士のグループ化処理(ステップ1031)は、後に、図9を参照して詳述するように、抽出された非静止体画素を、互いに隣接する画素を一塊に纏めてなる画素塊に区分すると共に、それらの区分された画素塊のうち、所定の行列延在方向において互いに近接する一連の画素塊を1のグループに属する画素塊として記憶する処理である。
また、各グループ内最下点の探索処理(ステップ1032)は、後に、図10を参照して詳述するように、1の画素塊グループに属する全画素塊の中から、所定の行列延在方向(この例では、画面の下方向)における最遠点(この例では、最下点)を探索して行列末尾候補として記憶する処理である。
さらに、各グループ内最下点の確定処理(ステップ1033)は、後に、図11を参照して詳述するように、行列末尾候補として記憶される最遠点が相連続するフレーム画像間で所定の許容値を超えて変化したとき、その変化方向と変化後の安定性とに基づいて、前記行列末尾候補として記憶される最遠点を、真の行列末尾と認識されるべき最遠点として確定する処理である。
<非静止体構成画素の抽出処理の詳細について>
非静止体構成画素の抽出処理の詳細を図6に示す。同図に示されるように、この処理は、フレーム画像をそれに含まれる各種の像の輪郭を抽出してなる線画像に変換する輪郭抽出処理(ステップ10300)と、前記線画像の中で、背景に相当する線画像部分を、背景差分処理を用いて削除する背景削除処理(ステップ10301)と、前記背景差分処理後の線画像を構成する線を鮮明化する鮮明処理(ステップ10302)とを含んで構成されている。そのため、この非静止体構成画素の抽出処理においては、単に、非静止体画素により構成される個々の画素塊の全体ではなくて、個々の画素塊の輪郭のみが選択的に抽出される結果、後の探索処理や照合処理における処理対象画素が輪郭部分にのみ限定され、対象画素数の大幅減少により、処理速度の向上に寄与することとなる。
<輪郭抽出処理について>
輪郭抽出処理(ステップ10300)は、この例にあっては、図7(a)に示されるように、フレーム画像をモノクロ画像に変換するグレースケール化処理(ステップ10300−1)と、モノクロ画像に対して、公知のsobelフィルタを使用して、空間一次微分を施す空間一次微分処理(ステップ10300−2)と、空間一次微分処理後の画像を二値化して線画像を生成する二値化処理(ステップ10300−3)とを含んで構成されている。
グレースケール化処理(ステップ10300−1)は、周知のように、RGB値を様々なアルゴリズムに基づいて均等化する処理であるが、本発明においては、公知の手法のものを任意に採用することができる。空間一次微分処理(ステップ10300−2)は、要するに、隣接する画素の輝度差に相当する画素値を生成する処理であり、これによりグレースケール化後の画像に含まれる画素塊の輪郭部分を朧気ながら浮き立たせることができる。二値化処理(ステップ10300−3)は、空間一次微分後の画像を構成する各画素値を、適当な輝度しきい値をもって二値化することにより、画素塊の輪郭部分に相当する線像を浮き立たせることができる。
グレースケール化処理後の画像例を図13(a)に、空間一次微分処理並びに二値化処理後の画像例を図13(b)に、それぞれ、模式的に示す。なお、それらの図において、PCG11,PCG12,PCG13は、それぞれ待ち行列を構成する人物等に相当する画素塊、PCG2は、待ち行列を構成しない人物等に相当する画素塊、PCG31,PCG32は背景物に相当する画素塊、4は画素塊の輪郭線、5はノイズに相当する汚点である。図13(a)の画像と図13(b)の画像とを比較して明らかなように、グレースケール化処理後の画像に対して、空間一次微分処理並びに二値化処理を施すと、輪郭線4を含む線画を得ることがとできる。もっとも、この状態の線画においては、輪郭線4の太さは不揃いであり、部分的には途切れた波線状の箇所も存在するほか、多数のノイズに相当する汚点5も少なからず存在する。
<背景削除処理について>
背景削除処理(ステップ10301)の詳細を図8に示す。背景削除処理は、要するに、線画像を構成する線に含まれる画素を、当該画素の所定フレーム数前の値と照合し、両者が一致する画素を背景画素として削除する処理である、すなわち、同図に示されるように、この処理は、画素指定(ポインタ)の値を初期値(例えば、画面の左上)から水平方向へ1画素ずつ移動させる処理を、垂直下方向へと1画素ずつシフトさせながら(ステップ10301−1,10301−6)、各画素値を探査しつつ、それが輪郭部分であって、かつ120フレーム前の画素値と一致する場合に限り、その画素を背景とみなして削除する処理(ステップ10301−2,10301−3,10301−4)を、全画素について処理が完了するまで(ステップ10301−5NO)、繰り返し実行するものである。この処理にあっては、背景差分の基準となる画像を柱やテーブル等の本来の背景物を含む初期画像に固定するのではなく、常に、120フレーム時間毎に更新するようにしているため、空港フロアに置かれたスーツケースやその他の荷物であっても、120フレーム時間(4秒)以上に亘り継続的に置かれたまま場合には、それらの荷物は背景物とみなして削除されることから、それらの荷物が待ち行列の一部と誤認されることがない。
<鮮明化処理について>
鮮明化処理(ステップ10302)の詳細を図7に示す。同図に示されるように、この処理は、背景削除後の線画像に含まれるノイズ等を原因とする微細な汚点を除去する収縮処理と、背景処理後の線画像に含まれる線の途切れた波線部分を繋いで太線化する膨張処理とを含んで構成されている。
背景削除処理後の画像例を図14(a)に、鮮明化処理後の画像例を図14(b)に、それぞれ、模式的に示す。図14(a)の画像と図14(b)の画像とを比較して明らかなように、背景削除処理後の画像に対して鮮明化処理を施すことにより、背景削除処理後の画像に存在した輪郭線4は波線部分が修復されかつ太線化された輪郭線4Aとなり、またノイズ汚点5は抹消されることとなる。この太線化された輪郭線4Aによれば、後に、ラベリング処理を実行する際に、同一ラベルを付する範囲が広くなり、画素塊の大型化かつ少数化に寄与することとなる。
<近接画素塊同士のグループ化処理について>
近接画素塊同士のグループ化処理の詳細を図9に示す。同図に示されるように、この処理は、要するに、抽出された非静止体を構成する画素のうちで、互いに隣接する画素に同一のラベルを付すことにより、非静止体を構成する画素を画素塊毎に区分するラベリング処理(ステップ10310)と、行列先頭に相当する1の画素塊に含まれる画素のうちで、所定の行列延在方向の最遠点(この例では、画面最下点)に位置する画素を基準として、前記延在方向の遠方側(この例では、画面下方向)に向けて設定された所定の探索領域(この例では、左右方向にそれぞれX画素、下方向にY画素の矩形の探索領域A)内に、別のラベルの付された画素が存在するか否かを探索し、存在するときには、その画素が含まれる画素塊を同一グループに属する画素塊として記憶する処理を、新たに同一グループとして記憶された画素塊について、別のラベルの付された画素が存在しなくなるまで、全ての先頭相当画素塊について、繰り返す近接画素塊探査処理(ステップ10311〜10315)とを含んで構成される。
ラベリング処理(ステップ10310)とは、当業者にはよく知られているように、何らかの像を形成する1の画素に着目して、それに隣接して(すなわち、上下左右の4個の画素に、又は上下左右に加えて、右上、右下、左上、左下の8個の画素に)、何らかの像を形成する他の画素が存在するときには、その画素に自分と同じラベルを付す作業を繰り返す処理のことを言う。ここで、像を形成する画素とは、先に図14(a)を参照して説明した太線化された輪郭線4Aに含まれる画素のことを指すこととなる。
その結果、上述のラベリング処理が終了すると、例えば、図14(a)の画像中の画素塊PCG11の輪郭線4Aを形成する全ての画素には第1のラベル(ラベル1)が、画素塊PCG12の輪郭線4Aを形成する全ての画素には第2のラベル(ラベル2)が、画素塊PCG13の輪郭線4Aを形成する全ての画素には第3のラベル(ラベル3)が、画素塊PCG2の輪郭線4Aを形成する全ての画素には第4のラベル(ラベル4)が、付される。
近接画素塊探索処理(ステップ10311〜10315)を、図15を参照してより詳細に説明すると、先ず、着目ラベル(ポインタ)を初期値(例えば、ラベル1)に設定したのち(ステップ10311)、当該ラベル(ラベル1)が付された画素塊(例えば、画素塊PCG11の輪郭線4A部分)に含まれる画素のうちで最下点に位置する画素(Pz)から見て、図15(b)に示す所定の探索領域(例えば、左右方向にそれぞれX画素、下方向にY画素の矩形の探索領域)A内に別のラベル(例えば、ラベル2、ラベル3・・・)が付された画素が存在するか否かを判定する(ステップ10312)。
ここで、別のラベル(例えば、ラベル2)の付された画素が存在するときには(ステップ10312YES)、その画素が含まれる画素塊(例えば、画素塊PCG12の輪郭線4A部分)を同一グループ(例えば、第1グループであるグループG1)に関係付ける(ステップ10313)。
以上の処理を、新たにグループG1に組み込まれた画素塊について、当該画素塊の最下点(Pz)から見て所定の探索領域A内に別のラベルが付された画素が発見されなくなるまで繰り返す(ステップ10312,10313)。
こうして、別のラベルが付された画素が発見されなくなったならば(ステップ10312NO)、着目ラベルを未処理値に更新したのち(ステップ10314)、以上の処理(ステップ10312,10313)を、全ラベルについて処理が終了するまで繰り返す(ステップ10315NO)。
以上の近接画素探索処理(ステップ10311〜10315)で使用される探索領域Aは、画面内において待ち行列は下方へ延出するとの想定の下に、画面の主として下方向へ広がる探査領域A内において、次々と、画素塊の構成画素を探索しては、見つかった画素塊PCG12,PCG13を同一のグループG1に組み込んで行くものであるから、結果として、グループG1内には、周囲の通行人等に対応する画素塊を排除して、待ち行列を構成する可能性の高い一連の画素塊PCG11,PCG12,PCG13だけが含まれることとなる。
<各グループ内最下点探索処理について>
各グループ内最下点探索処理の詳細を図10に示す。このグループ内最下点探索処理は、要するに、同一グループに属する1の画素塊に含まれる画素のうちで、所定の行列延在方向(この例では画面下方)の最遠点(最下点)に位置する画素を探索する処理を、当該グループに属する全ての画素塊について繰り返すことにより、当該同一グルーブ内における最遠点(最下点)を特定するものである。
すなわち、同図に示されるように、この処理は、グループ指定(ポインタ)の値を初期値(例えば、第1レーンに相当するグループG1)に設定したのち(ステップ10320)、当該グループに属する全ての画素塊(例えば、PCG1,PCG12,PCG13)の中から、最下点となる画素を探索し(ステップ10321)、探索された最下点を記憶する処理(ステップ10322)を、グループ指定を次々と更新しては(ステップ10324)、繰り返し(ステップ10321,10322)、全グループの探索を待って(ステップ10323)、処理を終了する。
このように、最後にグループに組み込まれた画素塊から最下点を探索するのではなく、グループに属する全ての画素塊の中から、最下点を探査することにより、行列末尾である可能性の高い最下点を確実に探索することができる。
<各グループ内最下点の確定処理について>
各グループ内の最下点の確定処理の詳細を図11に示す。この各グルーブ内最下点の確定処理は、要するに、同一グループ内最遠点(この例では、最下点)の現フレームの値と1つ前のフレームの値との差が所定の許容値以内であるときには所定のフレームカウンタをインクリメントする一方、許容値を超えるときには前記フレームカウンタをクリアするカウンタ制御処理と、同一グループ内最遠点(この例では、最遠点)の現フレームの値と1つ前のフレームの値との差が所定の許容値を超えて変化するとき、その変化方向が近方向(この例では、画面上方)のときには、現フレームの値により真の最遠点(この例では、最下点)の値を更新する一方、その変化方向が遠方向(この例では、画面下方)であるときには、フレームカウンタの値が所定フレーム数に達するのを待って、現フレームの値により真の最遠点(最下点)の値を更新する最遠点真値(最下点真値)の更新制御処理とを含むものである。
すなわち、同図において、処理が開始されると(ステップ1330)、先ず、グループ指定(ポインタ)の値を第1レーンの待ち行列に相当する値に初期設定したのち(ステップ10330)、現フレームの最下点と1つ前のフレームの最下点との差が、所定の許容値以内か否かの判定を行う(ステップ10331)。
ここで、許容値以内、すなわち殆ど変化がない安定状態にあると判定されると(ステップ10331)、安定時間を判定するための所定のフレームカウンタを+1だけインクリメントしたのち(ステップ10332)、さらに、フレームカウンタの値が規定値(例えば、3秒に相当する90フレーム)を超えたか否か、すなわち所定の安定時間に達したか否かの判定を行う(ステップ10333)。
ここで、規定値を超えたと判定されると(ステップ10333YES)、待ち行列が延びたものと判断して、現在の最下点を真の最下点と確定するのに対して(ステップ10334)、規定値を未だ超えてないと判定されると(ステップ10333NO)、待ち行列が延びたか否かは未だ不明と判断して、最下点確定処理(ステップ10334)はスキップされる。
これに対して、現フレームの最下点と1つ前のフレームの最下点との差が許容値以内でないと判定されると(ステップ10331NO)、待ち行列が延びたか縮んだかの可能性ありと判断して、フレームカウンタをクリアしたのち(ステップ10337)、さらに、現フレームの最下点が1つ前のフレームの最下点より下がったか否かが判定される(ステップ10338)。
ここで、現フレームの最下点が1つ前のフレームの最下点より下がったと判定されると(ステップ10338)、待ち行列が延長された可能性があると判断して、取りあえず、最下点確定処理(ステップ10334)はスキップされるのに対して、現フレームの最下点が1つ前のフレームの最下点より下がっていないと判定されると(ステップ10338NO)、待ち行列が短縮されたと直ちに判断して、最下点確定処理(ステップ10334)を実行する。以後、全グループ(全レーン)に対する処理が完了するまで、グループ指定の値を次々と更新しては(ステップ10336)、以上述べた一連の処理を実行すると共に、全グループに対する処理が完了するのを待って(ステップ10335YES)、処理は終了する。
以上一連の処理(ステップ10330〜10338)が、フレーム毎に繰り返される結果、待ち行列が短縮されて、その行列末尾が前方へと移動する場合には、行列末尾は移動後の値に直ちに更新されるのに対して、待ち行列が伸張されて、その行列末尾が後方へと移動する場合には、所定の確認時間をまって、行列末尾は移動後の値に更新される。さらに、例えば、図16に示されるように、正常な待ち行列(同図(a)参照)の末尾を通行人が矢印6の如く横切ることにより、一時的に、行列末尾に画素塊PCG22が現れて、ΔYだけ待ち行列が延長するような場合(同図(b)参照)には、前述したように、フレームカウンタの値が規定値に達する前に(ステップ10333NO)、当該フレームカウンタの値はクリアされてしまうため(ステップ10337)、このような通行人の横切り等による一時的な行列末尾の後方への変化があったとしても、待ち行列の真の末尾を見誤ることがない。
<待ち時間推定処理について>
次に、待ち時間推定処理(ステップ104)の詳細を図12に示す。同図に示されるように、この処理は、先ず、グルーブ指定(ポインタ)を初期値(第1レーンに相当する値)に設定したのち(ステップ1041)、ポインタで指定されるグループの最下点を読み出し(ステップ1042)、読み出された最下点を相関テーブルを参照して待ち時間を求め(ステップ1043)、求められた待ち時間を該当するレーンの待ち時間として記録する(ステップ1043)。
この相関テーブルは、予め統計的な手法にて作成して用意する。すなわち、所定のメモリ内には、図3に示されるように、各行列末尾の基準線Pref1〜Pref5と、行列末尾が各基準線Pref1〜Pref5の位置にあるとき、それぞれ待ち時間がどの程度になるかを統計的に調べることにより得られた各待ち時間との関係を示す以下の相関テーブルが保存されている。
行列末尾位置 待ち時間
Pref1 5分以下
Pref2 約10分
Pref3 約15分
Pref4 約20分
Pref5 約30分以上
相関テーブル
前述の待ち時間推定処理(ステップ1043)では、読み出された最下点から導き出される行列末尾位置を上述の相関テーブルの各基準線Pref1〜Pref5と照合すると共に、必要により、直線近似処理等により基準線間の隙間を補間することにより、待ち時間を生成する。こうして求められた待ち時間は、該当レーンの待ち時間として記録される(ステップ1044)。
以上の一連の処理(ステップ1042〜1044)が、グループ指定を更新しては(ステップ1046)、繰り返して実行され、全グループの処理が完了するのを待って(ステップ1045YES)、レーン毎の待ち時間からゲート全体の待ち時間を求める処理(ステップ1047)、及び求められた待ち時間を該当ゲートの待ち時間として記録する処理(ステップ108)を順次に実行して処理は終了する。
なお、レーン毎の待ち時間からゲート全体の待ち時間を求める処理(ステップ1047)としては、例えば各レーンの待ち時間のうちで最大待ち時間をそのゲートの待ち時間とする場合、各レーンの待ち時間の平均をとってそのゲートの待ち時間とする場合、等々、様々な方法を適宜に選択して採用すればよい。
<画像処理の過程を示す画像例>
以上、図5〜図11のフローチャート、及び図13〜図16の模式図を参照して説明した画像処理を、実際の空港における出発ゲート前の待ち行列に適用した場合における画像例を、図17〜図19にまとめて示す。図において、図17輪郭抽出処理後の画像例、図18は背景削除及び鮮明化処理後の画像例、図19はグループ化処理後の画像例であり、各待ち行列末尾位置が一点鎖線にて示され、その引き出し端には、該当する待ち時間が付されている。さらに、画素塊のうちで、待ち行列の一部としてグループ化された画素塊はハッチングが付され、それ以外の係員などに相当する画素塊は梨地表示とされている。なお、画面左下のコーナー部には、探索領域Aに相当する白抜き矩形マークが描かれている。
<行列待ち時間情報の利用>
図4に戻って、以上説明した一連の処理(ステップ101〜104)が、第1ゲート〜第4ゲートからなる全てのゲートのカメラについて終了したならば(ステップ105)、こうして得られた待ち時間推定値は所定のファイルに保存され(ステップ107)、このファイルは空港側の管理サーバへと転送されて、様々な利用に供される。利用形態の一例としては、例えば、各出発ゲート毎の待ち時間を空港が運営するWebサイトに掲載することにより、搭乗客の閲覧に供すること等をあげることができる。
<本実施例システムの作用効果>
以上説明した空港出発ゲートの待ち時間推定システムによれば、行列末尾認識結果に基づいて統計的な手法で待ち時間を推定すると言う構成を基本的に採用することから、個々の人物像を繋げて待ち行列の全長を求め、それを行列の平均進行速度で除することにより、行列待ち時間を算出するものに比べて、処理が簡単でパソコンにとっての負荷が軽いという基本的な利点に加えて、待ち時間推定の基礎となる待ち行列末尾認定のために、非静止体構成画素の抽出処理、近接画素塊同士のグループ化処理、各グループ内最下点の探索処理、及び各グループ内最下点の確定処理からなる4つの処理を採用したことから、単に、画素塊を抽出して、画面下方へ互いに近接するもの同士をグループ化し、そのグループ内で行列延在方向の最下点に位置する画素を探し出すと言う簡単な処理で、行列末尾を高い確度で認識することができ、しかも、行列が伸張する場合と収縮する場合とで、最下点確定処理の内容を異ならせたため、認識信頼性は維持しつつも、全体としての認定応答性はさほど低下させることないという利点がある。
また、非静止体画素の抽出処理においては、非静止体画素塊の輪郭のみを抽出したことから、その後段における様々な演算処理の対象となる画素数を大幅に低減させることができ、このことからも、処理の高速化並びにパソコン負荷軽減に寄与することとなる。
また、行列末尾伸張時の末尾認識信頼性を高めるための手法として、グループ内で探索された最下点同士をフレーム間で比較する処理を採用することから、フレーム間で画素塊の個数が変動する場合にも、それによる影響を受けることなく、末尾認識信頼性を維持することができる。
さらに、非静止体画素塊の輪郭を抽出するに際しては、収縮処理及び膨張処理を導入して、ノイズ汚点の除去並びに輪郭線の太線による連続化を行ったため、後段に設けられたラベリング処理における画素同士の繋がりを良好として、画素塊の大型化並びに少数化を達成し、それにより、後のグループ化処理における画素塊同士の近接探索処理の効率化を実現することができる。
<その他>
なお、以上の実施例では、本発明に係る行列末尾認識用の画像処理装置を待ち時間推定の用途に適用したが、それ以外にも、認識された行列末尾の最大値に応じて、通過可能なレーン数を自動的に増減したり、スーパーのレジの場合、レジの係員を自動的に呼び出して使用可能なレジ数を増減したり、認識される行列末尾の時系列記録に基づいて、当該ゲートの利用傾向を分析して、最適なゲート運用方法を探る等々、様々な用途に適用できることは勿論である。
さらに、以上のフローチャート(図4〜図12)は本発明を概念的に説明するためのものであり、実際のプログラミングに際しては、想定されるノイズ成分等を考慮して、様々なノイズフィルタリング処理を施すことは言うまでもない。
本発明に係る行列末尾認識用の画像処理装置よれば、例えば、入場ゲートや発券機等の前に出現する待ち行列の末尾を比較的に高精度に認識することができ、これを利用することで、例えば、当該行列の待ち時間を求めることも可能となる。
1 待ち時間生成PC
2−1〜2−4 カメラ
3 待ち行列を構成する人
4 輪郭線
4A 太線化された輪郭線
5 ノイズに相当する汚点
6 通行人の横切る方向を示す矢印
A 探索領域
L1〜L4 第1レーン〜第4レーン
PCG11,PCG12,PCG13 待ち行列を構成する画素塊
PCG2 待ち行列以外の画素塊(通行人等々)
PCG31,PCG32 背景物を構成する画素塊

Claims (16)

  1. 1もしくは2以上のレーンからなる待ち行列の出現が想定される領域を俯瞰撮影することにより得られる動画像から当該待ち行列の末尾を認識するための画像処理装置であって、
    前記動画像を構成する一連のフレーム画像のそれぞれから非静止体を構成する画素を抽出する非静止体抽出手段と、
    前記抽出された非静止体画素を、互いに隣接する画素を一塊に纏めてなる画素塊に区分すると共に、それらの区分された画素塊のうち、所定の行列延在方向において互いに近接する一連の画素塊を1のグループに属する画素塊として記憶する画素塊グループ化手段と、
    1の画素塊グループに属する全画素塊の中から、所定の行列延在方向における最遠点を探索して行列末尾候補として記憶する最遠点探索手段と、
    前記行列末尾候補として記憶される最遠点が相連続するフレーム画像間で所定の許容値を超えて変化したとき、その変化方向と変化後の安定性とに基づいて、前記行列末尾候補として記憶される最遠点を、真の行列末尾と認識されるべき最遠点として確定する最遠点確定手段とを包含する、行列末尾認識用の画像処理装置。
  2. 前記最遠点確定手段が、前記最遠点の変化方向が行列先頭から遠ざかる方向であるときには、その変化後の最遠点が所定フレーム数に亘りほぼ一定に維持されたときに限り、前記行列末尾候補として記憶される最遠点を、真の行列末尾と認識されるべき最遠点として確定する処理を含む、請求項1に記載の行列末尾認識用の画像処理装置。
  3. 前記最遠点確定手段が、前記最遠点の変化方向が行列先頭へと近づく方向であるときには、直ちに、前記行列末尾候補として記憶される最遠点を、真の行列末尾と認識されるべき最遠点として確定する処理を含む、請求項2に記載の行列末尾認識用の画像処理装置。
  4. 前記俯瞰撮影は、想定される待ち行列の後方より行われ、かつ前記所定の行列延在方向とは、各フレーム画像の下方向とされる、請求項1に記載の行列末尾認識用の画像処理装置。
  5. 前記非静止体抽出手段が、
    前記フレーム画像をそれに含まれる各種の像の輪郭を抽出してなる線画像に変換する輪郭抽出手段と、
    前記線画像の中で、背景に相当する線画像部分を、背景差分処理を用いて削除する背景削除手段と、
    前記背景差分処理後の線画像を構成する線を鮮明化する鮮明化手段とを含む、請求項1に記載の行列末尾認識用の画像処理装置。
  6. 前記輪郭抽出手段が、
    前記フレーム画像をモノクロ画像に変換するグレースケール化手段と、
    前記モノクロ画像に対して空間一次微分処理を施す空間一次微分手段と、
    前記空間一次微分処理後の画像を二値化して線画像を生成する二値化手段とを含む、請求項5に記載の行列末尾認識用の画像処理装置。
  7. 前記背景削除手段が、
    前記線画像を構成する線に含まれる画素の値を、当該画素の所定複数フレーム数前の値と照合し、両値が一致する画素を背景画素として削除する処理を含む、請求項5に記載の行列末尾認識用の画像処理装置。
  8. 前記鮮明化手段が、
    前記背景削除後の線画像に含まれるノイズ等を原因とする微細な汚点を除去する収縮手段と、
    前記背景処理後の線画像に含まれる線の途切れた波線部分を繋いで太線化する膨張手段とを含む、請求項5に記載の行列末尾認識用の画像処理装置。
  9. 前記画素塊グループ化手段が、
    前記抽出された非静止体を構成する画素のうちで、互いに隣接する画素に同一のラベルを付すことにより、非静止体を構成する画素を画素塊毎に区分するラベリング手段と、
    行列先頭に相当する1の画素塊に含まれる画素のうちで、所定の行列延在方向の最遠点に位置する画素を基準として、前記延在方向の遠方側に向けて設定された所定の探索領域内に、別のラベルの付された画素が存在するか否かを探索し、存在するときには、その画素が含まれる画素塊を同一グループに属する画素塊として記憶する処理を、新たに同一グループとして記憶された画素塊について、別のラベルの付された画素が存在しなくなるまで、全ての先頭相当画素塊について、繰り返す近接画素塊探査手段とを含む、請求項1に記載の行列末尾認識用の画像処理装置。
  10. 前記最遠点探索手段が、同一グループに属する1の画素塊に含まれる画素のうちで、所定の行列延在方向の最遠点に位置する画素を探索する処理を、当該グループに属する全ての画素塊について繰り返すことにより、当該同一グルーブ内における最遠点を特定する処理を含む、請求項1に記載の行列末尾認識用の画像処理装置。
  11. 前記最遠点確定手段が、
    同一グループ内最遠点の現フレームの値と1つ前のフレームの値との差が所定の許容値以内であるときには所定のフレームカウンタをインクリメントする一方、前記許容値を超えるときには前記フレームカウンタをクリアするカウンタ制御手段と、
    同一グループ内最遠点の現フレームの値と1つ前のフレームの値との差が所定の許容値を超えて変化するとき、その変化方向が近方向のときには、現フレームの値により真の最遠点の値を更新する一方、その変化方向が遠方向であるときには、前記フレームカウンタの値が所定フレーム数に達するのを待って、現フレームの値により真の最遠点の値を更新する最遠点真値の更新制御手段とを含む、請求項1に記載の行列末尾認識用の画像処理装置。
  12. 1もしくは2以上のレーンからなる待ち行列の出現が想定される領域を俯瞰撮影することにより得られた動画像から当該待ち行列の末尾を認識するための画像処理方法であって、
    前記動画像を構成する一連のフレーム画像のそれぞれから非静止体を構成する画素を抽出する非静止体抽出ステップと、
    前記抽出された非静止体画素を、互いに隣接する画素を一塊に纏めてなる画素塊に区分すると共に、それらの区分された画素塊のうち、所定の行列延在方向において互いに近接する一連の画素塊を1のグループに属する画素塊として記憶する画素塊グループ化ステップと、
    1の画素塊グループに属する全画素塊の中から、所定の行列延在方向における最遠点を探索して行列末尾候補として記憶する最遠点探索ステップと、
    前記行列末尾候補として記憶される最遠点が相連続するフレーム画像間で所定の許容値を超えて変化したとき、その変化方向と変化後の安定性とに基づいて、前記行列末尾候補として記憶される最遠点を、真の行列末尾と認識されるべき最遠点として確定する最遠点確定ステップとを具備する、行列末尾認識用の画像処理方法。
  13. コンピュータを、
    1もしくは2以上のレーンからなる待ち行列の出現が想定される領域を俯瞰撮影することにより得られた動画像から当該待ち行列の末尾を認識するために、
    前記動画像を構成する一連のフレーム画像のそれぞれから非静止体を構成する画素を抽出する非静止体抽出手段と、
    前記抽出された非静止体画素を、互いに隣接する画素を一塊に纏めてなる画素塊に区分すると共に、それらの区分された画素塊のうち、所定の行列延在方向において互いに近接する一連の画素塊を1のグループに属する画素塊として記憶する画素塊グループ化手段と、
    1の画素塊グループに属する全画素塊の中から、所定の行列延在方向における最遠点を探索して行列末尾候補として記憶する最遠点探索手段と、
    前記行列末尾候補として記憶される最遠点が相連続するフレーム画像間で所定の許容値を超えて変化したとき、その変化方向と変化後の安定性とに基づいて、前記行列末尾候補として記憶される最遠点を、真の行列末尾と認識されるべき最遠点として確定する最遠点確定手段とを備えた、行列末尾認識用の画像処理装置として機能させるためのコンピュータプログラム。
  14. 1もしくは2以上のレーンからなる待ち行列の出現が想定される領域を俯瞰撮影するカメラと、
    前記カメラから得られる動画像から当該待ち行列の末尾を認識するための画像処理装置とを包含し、
    前記画像処理装置は、
    前記動画像を構成する一連のフレーム画像のそれぞれから非静止体を構成する画素を抽出する非静止体抽出手段と、
    前記抽出された非静止体画素を、互いに隣接する画素を一塊に纏めてなる画素塊に区分すると共に、それらの区分された画素塊のうち、所定の行列延在方向において互いに近接する一連の画素塊を1のグループに属する画素塊として記憶する画素塊グループ化手段と、
    1の画素塊グループに属する全画素塊の中から、所定の行列延在方向における最遠点を探索して行列末尾候補として記憶する最遠点探索手段と、
    前記行列末尾候補として記憶される最遠点が相連続するフレーム画像間で所定の許容値を超えて変化したとき、その変化方向と変化後の安定性とに基づいて、前記行列末尾候補として記憶される最遠点を、真の行列末尾と認識されるべき最遠点として確定する最遠点確定手段とをを含む、行列末尾の認識システム。
  15. 請求項1に記載の行列末尾認識用の画像処理装置と、
    前記画像処理装置から得られる行列末尾位置を、予め統計的に得られた、行列末尾位置と当該行列の待ち時間との関係に照らすことにより、現在の行列待ち時間を推定する待ち時間推定手段とを包含する、行列待ち時間の推定装置。
  16. 複数レーンの待ち行列のそれぞれについて、現在の待ち時間を推定すると共に、それらの待ち時間に基づいて、当該複数レーンに対応する総合的な1個の待ち時間を決定する、請求項15に記載の行列待ち時間の推定装置。
JP2015109631A 2015-05-29 2015-05-29 行列末尾認識用の画像処理装置 Active JP6501302B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015109631A JP6501302B2 (ja) 2015-05-29 2015-05-29 行列末尾認識用の画像処理装置
PCT/JP2016/065586 WO2016194770A1 (ja) 2015-05-29 2016-05-26 行列末尾認識用の画像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015109631A JP6501302B2 (ja) 2015-05-29 2015-05-29 行列末尾認識用の画像処理装置

Publications (2)

Publication Number Publication Date
JP2016224651A JP2016224651A (ja) 2016-12-28
JP6501302B2 true JP6501302B2 (ja) 2019-04-17

Family

ID=57440535

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015109631A Active JP6501302B2 (ja) 2015-05-29 2015-05-29 行列末尾認識用の画像処理装置

Country Status (2)

Country Link
JP (1) JP6501302B2 (ja)
WO (1) WO2016194770A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7237467B2 (ja) * 2018-05-30 2023-03-13 キヤノン株式会社 情報処理装置、情報処理方法、およびプログラム
EP4095771A4 (en) * 2020-01-21 2022-12-07 NEC Corporation CONTROL DEVICE, CONTROL METHOD, AND PROGRAM
CN115345862B (zh) * 2022-08-23 2023-03-10 成都智元汇信息技术股份有限公司 基于列数据的仿x光机扫描成像的方法及装置和显示器

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
ES2460866T3 (es) * 2004-11-02 2014-05-14 Tyco Fire & Security Gmbh Sistema y método de control de fila
JP2007317052A (ja) * 2006-05-29 2007-12-06 Japan Airlines International Co Ltd 行列の待ち時間の計測システム
JP2013109395A (ja) * 2011-11-17 2013-06-06 Sharp Corp 待ち行列管理装置、待ち行列管理方法および、待ち行列管理システム

Also Published As

Publication number Publication date
JP2016224651A (ja) 2016-12-28
WO2016194770A1 (ja) 2016-12-08

Similar Documents

Publication Publication Date Title
JP5102410B2 (ja) 移動体検出装置および移動体検出方法
Wu et al. Moving object detection with a freely moving camera via background motion subtraction
CN104933414B (zh) 一种基于wld-top的活体人脸检测方法
CN105139445B (zh) 场景重建方法及装置
JP5603403B2 (ja) 対象物計数方法、対象物計数装置および対象物計数プログラム
JP6650657B2 (ja) フィンガープリントを使用してビデオ内で移動オブジェクトを追跡するため方法及びシステム
US20160019698A1 (en) Systems and methods for people counting in sequential images
EP2128818A1 (en) Method of moving target tracking and number accounting
US20110317009A1 (en) Capturing Events Of Interest By Spatio-temporal Video Analysis
US9245247B2 (en) Queue analysis
US20090319560A1 (en) System and method for multi-agent event detection and recognition
Santos et al. Multiple camera people detection and tracking using support integration
Ferryman et al. Performance evaluation of crowd image analysis using the PETS2009 dataset
CN111160243A (zh) 客流量统计方法及相关产品
US8724851B2 (en) Aerial survey video processing
JP6501302B2 (ja) 行列末尾認識用の画像処理装置
CN103577875A (zh) 一种基于fast的计算机辅助cad人数统计方法
CN108197544A (zh) 人脸分析、过滤方法、装置、嵌入式设备、介质和集成电路
JP2015210819A (ja) 車両の列ならびに歩行者の列におけるドライブでの立ち去りおよび歩行での立ち去りについてビデオベースで検出するためのシステムおよび方法
JP2010057105A (ja) オブジェクトの3次元追跡方法およびシステム
CN114627526A (zh) 基于多摄像头抓拍图像的融合去重方法、装置及可读介质
JP6516702B2 (ja) 人数集計システム、人数集計方法、及び人数集計結果の閲覧方法
JP6028972B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
Alamri et al. Al-Masjid An-Nabawi crowd adviser crowd level estimation using head detection
CN111062294B (zh) 一种客流排队时间的检测方法、装置及系统

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171208

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190213

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190314

R150 Certificate of patent or registration of utility model

Ref document number: 6501302

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350