JP2005235104A - 移動体検出システム、移動体検出装置、移動体検出方法及び移動体検出プログラム - Google Patents

移動体検出システム、移動体検出装置、移動体検出方法及び移動体検出プログラム Download PDF

Info

Publication number
JP2005235104A
JP2005235104A JP2004046642A JP2004046642A JP2005235104A JP 2005235104 A JP2005235104 A JP 2005235104A JP 2004046642 A JP2004046642 A JP 2004046642A JP 2004046642 A JP2004046642 A JP 2004046642A JP 2005235104 A JP2005235104 A JP 2005235104A
Authority
JP
Japan
Prior art keywords
moving body
image
mobile
moving
stereo
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004046642A
Other languages
English (en)
Other versions
JP3934113B2 (ja
Inventor
Hideki Ikari
秀樹 錠
Akira Yoshikoshi
明 吉越
Tatsuo Hanada
達雄 花田
Hiroo Arai
啓雄 荒井
Hirokazu Muraki
広和 村木
Shigenori Fujimaki
重則 藤巻
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Asia Air Survey Co Ltd
JR East Consultants Co
Original Assignee
Asia Air Survey Co Ltd
JR East Consultants Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Asia Air Survey Co Ltd, JR East Consultants Co filed Critical Asia Air Survey Co Ltd
Priority to JP2004046642A priority Critical patent/JP3934113B2/ja
Publication of JP2005235104A publication Critical patent/JP2005235104A/ja
Application granted granted Critical
Publication of JP3934113B2 publication Critical patent/JP3934113B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Abstract

【課題】空間内の移動体位置を正確に特定するとともに、当該位置特定された移動体の時間経過に伴う移動情報を正確に取得できるようにすること。
【解決手段】ステレオ基線に配置された2台の撮影装置10a、10bにより時刻同期をとって撮影した複数の時系列的なステレオ静止画像に基づき、各移動体が占める空間領域を特定し、当該ステレオ静止画像の背景画像に対する差分領域を抽出し、全画像領域に対する当該差分領域の面積率を算出し、当該面積率に基づいて移動体の混雑レベルを特定し、当該混雑レベルに応じた移動体テンプレートを上記特定した移動体の空間領域に割り当てて移動体を特定し、複数の時系列的なステレオ静止画像に基づいて移動体の動きを追跡し、同一移動体の移動体テンプレートに同じ色を付して各移動体の動きを記録し、当該色に基づいて移動体の移動情報を取得する。
【選択図】図3

Description

本発明は、通行人や車両等の移動体の数や、移動方向、移動時間等の移動情報を検出するための移動体検出システム、移動体検出装置、移動体検出方法及び移動体検出プログラムに関する。
従来、道路等を通行する通行人や車両等の移動体の数や、移動方向、移動時間等の移動情報を検出するための技術が種々考案されている。
例えば、特許文献1、2には、2台の撮影装置(ビデオカメラ等。)を用い、時刻同期をとって撮影した2つの画像(以下、ステレオ画像と総称するが、動画、静止画に応じてステレオ動画像、ステレオ静止画像と区別して称する場合がある。)に基づき、車両等の移動体の3次元座標を算出し、当該3次元座標に基づいて当該移動体を特定する技術が開示されている。
特に、特許文献1に開示された移動体検出技術では、ユークリッド距離のばらつきの度合いに基づいて剛体(この場合、移動体。)が特定(剛体か否かの判定)され、また、特許文献2に開示された移動体の検出技術では、移動体が人の場合、個々の人物の身長からクラスタリング処理を行うことによって人物が特定される。
また、最近では、上記ステレオ画像に基づいて、当該画像内の3次元物体の座標(形状)を特定する技術(以下、ステレオマッチング法という。)も考案されている(例えば、特許文献3参照。)。
特開平11−66319号公報 特開平10−49718号公報 特開平3−167678号公報
しかしながら、上記従来の技術には、次のような問題点がある。
すなわち、上記特許文献1、2及び3に開示された技術では、空間内(3次元座標系)における移動体位置(移動体が占める空間領域)が特定されるのみであり、当該特定された移動体に係る時間経過に伴う移動情報の取得は困難である。
本発明の課題は、空間内の移動体位置を正確に特定するとともに、当該位置特定された移動体の時間経過に伴う移動情報を正確に取得できるようにすることである。
上記課題を解決するため、請求項1に記載の発明は、
ステレオ基線に配置された2台の撮影装置と、当該2台の撮影装置により時刻同期をとって撮影される複数の時系列的なステレオ静止画像に基づいて、該ステレオ静止画像に写される移動体の検出を行う移動体検出装置とを備えた移動体検出システムにおいて、
前記移動体検出装置は、
前記ステレオ静止画像の各々に写されている各移動体が占める空間領域を特定する移動体領域特定手段と、
前記ステレオ静止画像の背景画像に対する差分領域を抽出し、全画像領域に対する当該差分領域の面積率を算出し、当該面積率に基づいて移動体の混雑レベルを特定する混雑レベル特定手段と、
前記特定された混雑レベルに応じた形状を有する移動体テンプレートを、前記各移動体が占める空間領域の各々に割り当てて該移動体を特定する移動体特定手段と、
を備えたことを特徴とする。
更に、請求項2に記載の発明のように、請求項1に記載の発明において、
前記移動体検出装置は、
前記時系列的な複数のステレオ静止画像に基づいて、前記各移動体の動きを追跡し、該移動体の移動情報を取得する移動情報取得手段を更に備えるのが好ましい。
更に、請求項3に記載の発明のように、請求項2に記載の発明において、
前記移動情報取得手段は、
前記移動体の追跡結果に基づいて、同一の移動体に対しては当該移動体の空間領域に割り当てられた移動体テンプレートに同一の色を付して当該移動体の動きを記録するとともに、該移動体テンプレートに付した色に基づいて各移動体の移動情報を取得するのが好ましい。
また、上記課題を解決するため、請求項4に記載の発明は、
ステレオ基線に配置された2台の撮影装置により時刻同期をとって撮影される複数の時系列的なステレオ静止画像の各々に写されている各移動体が占める空間領域を特定する移動体領域特定手段と、
前記ステレオ静止画像の背景画像に対する差分領域を抽出し、全画像領域に対する当該差分領域の面積率を算出し、当該面積率に基づいて移動体の混雑レベルを特定する混雑レベル特定手段と、
前記特定された混雑レベルに応じた形状を有する移動体テンプレートを、前記各移動体が占める空間領域の各々に割り当てて該移動体を特定する移動体特定手段と、
を備えたことを特徴とする。
更に、請求項5に記載の発明のように、請求項4に記載の発明において、
前記時系列的な複数のステレオ静止画像に基づいて、前記各移動体の動きを追跡し、該移動体の移動情報を取得する移動情報取得手段を更に備えるのが好ましい。
更に、請求項6に記載の発明のように、請求項5に記載の発明において、
前記移動情報取得手段は、
前記移動体の追跡結果に基づいて、同一の移動体に対しては当該移動体の空間領域に割り当てられた移動体テンプレートに同一の色を付して当該移動体の動きを記録するとともに、該移動体テンプレートに付した色に基づいて各移動体の移動情報を取得するのが好ましい。
また、上記課題を解決するため、請求項7に記載の発明は、
ステレオ基線に配置された2台の撮影装置により時刻同期をとって撮影される複数の時系列的なステレオ静止画像の各々に写されている各移動体が占める空間領域を特定するステップと、
前記ステレオ静止画像の背景画像に対する差分領域を抽出し、全画像領域に対する当該差分領域の面積率を算出し、当該面積率に基づいて移動体の混雑レベルを特定するステップと、
前記特定された混雑レベルに応じた形状を有する移動体テンプレートを、前記各移動体が占める空間領域の各々に割り当てて該移動体を特定するステップと、
を含むことを特徴とする。
更に、請求項8に記載の発明のように、請求項7に記載の発明において、
前記時系列的な複数のステレオ静止画像に基づいて、前記各移動体の動きを追跡し、該移動体の移動情報を取得するステップを更に含むのが好ましい。
更に、請求項9に記載の発明のように、請求項8に記載の発明において、
前記移動体の追跡結果に基づいて、同一の移動体に対しては当該移動体の空間領域に割り当てられた移動体テンプレートに同一の色を付して当該移動体の動きを記録するとともに、該移動体テンプレートに付した色に基づいて各移動体の移動情報を取得するステップを更に含むのが好ましい。
また、上記課題を解決するため、請求項10に記載の発明は、
画像解析を行うコンピュータに、
ステレオ基線に配置された2台の撮影装置により時刻同期をとって撮影される複数の時系列的なステレオ静止画像の各々に写されている各移動体が占める空間領域を特定する機能と、
前記ステレオ静止画像の背景画像に対する差分領域を抽出し、全画像領域に対する当該差分領域の面積率を算出し、当該面積率に基づいて移動体の混雑レベルを特定する機能と、
前記特定された混雑レベルに応じた形状を有する移動体テンプレートを、前記各移動体が占める空間領域の各々に割り当てて該移動体を特定する機能と、
を実現させる。
更に、請求項11に記載の発明のように、請求項10に記載の発明において、
前記コンピュータに、
前記時系列的な複数のステレオ静止画像に基づいて、前記各移動体の動きを追跡し、該移動体の移動情報を取得する機能を更に実現させるのが好ましい。
更に、請求項12に記載の発明のように、請求項11に記載の発明において、
前記コンピュータに、
前記移動体の追跡結果に基づいて、同一の移動体に対しては当該移動体の空間領域に割り当てられた移動体テンプレートに同一の色を付して当該移動体の動きを記録するとともに、該移動体テンプレートに付した色に基づいて各移動体の移動情報を取得する機能を更に実現させるのが好ましい。
また、上記課題を解決するため、請求項13に記載の発明は、
ステレオ基線に配置された左右2台の撮影装置と、当該2台の撮影装置により時刻同期をとって撮影される時系列的な複数フレームのステレオ静止画像に基づいて、該ステレオ静止画像に写される移動体の検出を行う移動体検出装置とを備えた移動体検出システムにおいて、
前記移動体検出装置は、
前記複数フレームのステレオ静止画像のうち、左右の各静止画像に対し、2フレーム分の静止画像間の差分を表すフレーム間差分画像と、当該2フレーム分の静止画像のうちの何れか一と背景画像との差分を表す背景差分画像とを作成し、その後、当該フレーム間差分画像と背景差分画像とを合成して当該合成画像内の移動体領域を特定する移動体領域特定手段と、
前記作成された左右のフレーム間差分画像内の各差分領域に対し、左右共通の3次元座標を割り付ける3次元計測手段と、
左右の静止画像毎に、前記2フレーム分の静止画像のうちの何れか一を減色させ、当該減色後の静止画像と前記特定された移動体領域とを重ね合わせ、当該重ね合わせ後の各移動体領域に対し色毎に異なるラベルを割り付け、当該ラベル付けされた各移動体領域に対し前記3次元座標を割り付け、当該3次元座標に基づいて当該ラベル付けされた各移動体領域を分離する移動体分離手段と、
二つの異なる時間に対応する前記移動体領域の重なり合いの度合いに応じて、当該各時間に対応する移動体が同一か否かを判定し、当該判定結果に基づいて移動体を追跡する移動体追跡手段と、
前記静止画像を予め複数の計測エリアに分割し、前記追跡中の移動体が、当該複数の計測エリアのうちのどの計測エリアをどの順序で通過したかを判別して、移動体の数と移動方向とを計測する移動体計測手段と、
を備えたことを特徴とする。
また、上記課題を解決するため、請求項14に記載の発明は、
ステレオ基線に配置された左右2台の撮影装置により時刻同期をとって撮影される時系列的な複数フレームのステレオ静止画像のうち、左右の各静止画像に対し、2フレーム分の静止画像間の差分を表すフレーム間差分画像と、当該2フレーム分の静止画像のうちの何れか一と背景画像との差分を表す背景差分画像とを作成し、その後、当該フレーム間差分画像と背景差分画像とを合成して当該合成画像内の移動体領域を特定する移動体領域特定手段と、
前記作成された左右のフレーム間差分画像内の各差分領域に対し、左右共通の3次元座標を割り付ける3次元計測手段と、
左右の静止画像毎に、前記2フレーム分の静止画像のうちの何れか一を減色させ、当該減色後の静止画像と前記特定された移動体領域とを重ね合わせ、当該重ね合わせ後の各移動体領域に対し色毎に異なるラベルを割り付け、当該ラベル付けされた各移動体領域に対し前記3次元座標を割り付け、当該3次元座標に基づいて当該ラベル付けされた各移動体領域を分離する移動体分離手段と、
二つの異なる時間に対応する前記移動体領域の重なり合いの度合いに応じて、当該各時間に対応する移動体が同一か否かを判定し、当該判定結果に基づいて移動体を追跡する移動体追跡手段と、
前記静止画像を予め複数の計測エリアに分割し、前記追跡中の移動体が、当該複数の計測エリアのうちのどの計測エリアをどの順序で通過したかを判別して、移動体の数と移動方向とを計測する移動体計測手段と、
を備えたことを特徴とする。
また、上記課題を解決するため、請求項15に記載の発明は、
ステレオ基線に配置された左右2台の撮影装置により時刻同期をとって撮影される時系列的な複数フレームのステレオ静止画像のうち、左右の各静止画像に対し、2フレーム分の静止画像間の差分を表すフレーム間差分画像と、当該2フレーム分の静止画像のうちの何れか一と背景画像との差分を表す背景差分画像とを作成し、その後、当該フレーム間差分画像と背景差分画像とを合成して当該合成画像内の移動体領域を特定するステップと、
前記作成された左右のフレーム間差分画像内の各差分領域に対し、左右共通の3次元座標を割り付けるステップと、
左右の静止画像毎に、前記2フレーム分の静止画像のうちの何れか一を減色させ、当該減色後の静止画像と前記特定された移動体領域とを重ね合わせ、当該重ね合わせ後の各移動体領域に対し色毎に異なるラベルを割り付け、当該ラベル付けされた各移動体領域に対し前記3次元座標を割り付け、当該3次元座標に基づいて当該ラベル付けされた各移動体領域を分離するステップと、
二つの異なる時間に対応する前記移動体領域の重なり合いの度合いに応じて、当該各時間に対応する移動体が同一か否かを判定し、当該判定結果に基づいて移動体を追跡するステップと、
前記静止画像を予め複数の計測エリアに分割し、前記追跡中の移動体が、当該複数の計測エリアのうちのどの計測エリアをどの順序で通過したかを判別して、移動体の数と移動方向とを計測するステップと、
を含むことを特徴とする。
また、上記課題を解決するため、請求項16に記載の発明は、
画像解析を行うコンピュータに、
ステレオ基線に配置された左右2台の撮影装置により時刻同期をとって撮影される時系列的な複数フレームのステレオ静止画像のうち、左右の各静止画像に対し、2フレーム分の静止画像間の差分を表すフレーム間差分画像と、当該2フレーム分の静止画像のうちの何れか一と背景画像との差分を表す背景差分画像とを作成し、その後、当該フレーム間差分画像と背景差分画像とを合成して当該合成画像内の移動体領域を特定する機能と、
前記作成された左右のフレーム間差分画像内の各差分領域に対し、左右共通の3次元座標を割り付ける機能と、
左右の静止画像毎に、前記2フレーム分の静止画像のうちの何れか一を減色させ、当該減色後の静止画像と前記特定された移動体領域とを重ね合わせ、当該重ね合わせ後の各移動体領域に対し色毎に異なるラベルを割り付け、当該ラベル付けされた各移動体領域に対し前記3次元座標を割り付け、当該3次元座標に基づいて当該ラベル付けされた各移動体領域を分離する機能と、
二つの異なる時間に対応する前記移動体領域の重なり合いの度合いに応じて、当該各時間に対応する移動体が同一か否かを判定し、当該判定結果に基づいて移動体を追跡する機能と、
前記静止画像を予め複数の計測エリアに分割し、前記追跡中の移動体が、当該複数の計測エリアのうちのどの計測エリアをどの順序で通過したかを判別して、移動体の数と移動方向とを計測する機能と、
を実現させる。
本発明によれば、空間内において通行人等の移動体位置(移動体が占める空間領域)が正確に特定できるだけでなく、当該特定した移動体に係る時間経過に伴う移動情報も正確に取得できるので、高度な移動体検出が実現できる。
以下、添付図面を参照して本発明に係る好適な第1及び第2の実施の形態を順に説明する。
(第1の実施の形態)
図面を参照して本発明を適用した第1の実施の形態の移動体検出システム100について詳細に説明する。
移動体検出システム100は、ステレオ基線に配置された2台の撮影装置により時刻同期をとって撮影した複数の時系列的なステレオ画像に基づき、道路等を通行する通行人等の移動体の数や、移動方向、移動時間等の移動情報を取得するためのものである。本第1の実施の形態においては、一例として、図1(a)、図1(b)に示す所定の駅階段1を通行する通行人の移動情報を取得する場合について説明するが、これに限らず、道路を通行する車両や、駐車場に入庫・出庫する車両等に対しても適用可能である。以下、移動体とは通行人を意味する。
まず、移動体検出システム100の構成を説明する。
移動体検出システム100は、図2に示すように、ステレオ基線装置10、移動体検出装置20、データベース30等を備えて構成される。
ステレオ基線装置10は、ビデオカメラ等の撮影装置10a、10bを備える。また、ステレオ基線装置10は、図1(a)、図1(b)に示すような配置で駅階段1に設置され、移動体が駅階段1を通行する様子を、撮影装置10a、10bの時刻同期をとって撮影する。なお、ステレオ基線装置10の配置は、図1(a)、図1(b)に示すものに限らず、自由に設定可能である。
移動体検出装置20は、移動体領域特定手段21、混雑レベル特定手段22、移動体特定手段23、移動情報取得手段24を備え、移動体領域特定手段21、混雑レベル特定手段22、移動体特定手段23、移動情報取得手段24を用いて図3のフローチャートに示す移動体検出処理を行う。
移動体検出装置20は、図示しない内蔵メモリに予め格納された移動体検出プログラムを実行することにより移動体領域特定手段21、混雑レベル特定手段22、移動体特定手段23、移動情報取得手段24の各々を制御し、図3のフローチャートに示す移動体検出処理を行う。
なお、移動体領域特定手段21、混雑レベル特定手段22、移動体特定手段23、移動情報取得手段24は、移動体検出プログラムが有する各機能を表すものとしてもよいし、ハードウェアによるものとしてもよい。
データベース30は、過去の移動体検出結果(駅階段1を通行する移動体の数や、移動方向、移動時間等の移動情報。)や、上記移動体検出処理の際に用いられる各種情報(例えば、写真測量的な標定要素として設定された3次元座標系情報、駅階段1の背景画像、移動体テンプレート等。)を格納する。
ここで、上記3次元座標系情報は、例えば、ステレオ基線装置10が図1(a)、図1(b)に示すような位置に設置された場合に、駅階段1を含む3次元空間に対して設定される座標系を表す情報である。ステレオ基線装置10の設置位置が変更された場合には、この3次元座標系は、当該変更に応じて再設定される。
上記駅階段1の背景画像は、移動体が写っていない駅階段1のみの画像である。例えば、朝、昼、夕、夜等の各時間帯に撮影された複数の背景画像が用意されている。
上記移動体テンプレートは、例えば、図4に示すような、移動体検出処理の際に特定される混雑レベルに応じた複数種類の人物形状のものが用意されている。
図4に、4段階の混雑レベル1〜4に応じた4種類の移動体テンプレートを示す。移動体テンプレートA1は混雑レベル1(例えば、移動体と移動体との平均間隔が0〜0.1m以内。)の場合に用いられ、移動体テンプレートA2は混雑レベル2(例えば、移動体と移動体との平均間隔が0.1〜0.5m以内。)の場合に用いられ、移動体テンプレートA3は混雑レベル3(例えば、移動体と移動体との平均間隔が0.5〜1m以内。)の場合に用いられ、移動体テンプレートA4は混雑レベル4(例えば、移動体と移動体との平均間隔が1m以上。)の場合に用いられる。
なお、混雑レベルや混雑レベルの判定基準は、上記したものに限らず、自由に設定可能である。
次に、図3を参照して、移動体検出装置20が行う移動体検出処理について説明する。
まず、移動体領域特定手段21により、以下に説明するステップS1、S2の各処理が行われる。
すなわち、ステレオ基線装置10により撮影されたステレオ動画像が所定時間(例えば、1秒等であり、移動体の動きが追跡可能な時間。)毎に静止画像として抽出され、複数のステレオ静止画像が時系列的に作成される。
そして、上記作成された複数のステレオ静止画像のうちの一つと、当該ステレオ静止画像に写されている所定の対象物(例えば、駅階段1の幅等。)の長さとに基づき、駅階段1を含む3次元空間に対して写真測量的な標定要素としての3次元座標系が設定される(ステップS1)。
ステップS1の後、上記作成されたステレオ静止画像の各々に対し、当該ステレオ静止画像に写されている各移動体の空間領域(移動体の3次元形状を特定するための3次元座標)が、上記設定された3次元座標系に基づき、上記ステレオマッチング法により算出される(ステップS2)。
更に、ステップ2の後、混雑レベル特定手段22により、以下に説明するステップS3、S4の各処理が行われる。
すなわち、ステップS2の後、当該撮影が行われた時間帯に合致する背景画像が選択され、上記作成されたステレオ静止画像の各々に対して当該背景画像に対する差分領域(移動体が占める領域を示す。)が抽出される(ステップS3)。
ステップS3の後、当該抽出された差分領域の全画像に対する面積率が算出され、当該算出された面積率に応じて駅階段1における混雑レベル(例えば、図4に示すような4段階の混雑レベル。)が特定される(ステップS4)。
更に、ステップS4の後、移動体特定手段23により、以下に説明するステップS5、S6の各処理が行われる。
すなわち、ステップS4の後、当該特定された混雑レベルに応じて移動体テンプレートが選択される(ステップS5)。
ステップS5の後、上記ステップS2の段階で算出された各通行人の空間領域に対してステップS5の段階で選択された移動体テンプレートが割り当てられ、移動体が特定される(ステップS6)。
ここで、移動体テンプレートが移動体の空間領域に割り当てられる様子を図5に示す。画像B1には、移動体の空間領域B13を検出するため、移動体テンプレートB12が移動経路B11に沿って移動される様子が示され、画像B2には、空間領域B13が検出され、移動体テンプレートB12が空間領域B13に割り当てられた様子が示されている。
以上説明したステップS1〜S5の各処理は、上記時系列的に作成された複数のステレオ静止画像の各々に対して行われる。
更に、ステップS6の後、移動情報取得手段24により、上記複数の時系列的なステレオ静止画像に基づいて、各移動体の動きが追跡され、同一の移動体に対しては当該移動体の空間領域に割り当てられた移動体テンプレートに同一の色が付されて当該移動体の動きが記録されるとともに、この移動体テンプレートに付された色に基づいて各移動体の移動情報(各移動体の移動方向や移動時間等。)が算出される(ステップS7)。
ここで、移動体の動きを追跡する方法としては、例えば、オプティカルフローを用いた方法がある。この方法は、移動体各点のオプティカルフロー(移動ベクトル)を算出して当該移動体の動きを推定する方法であり、具体的には、マッチング法、勾配法と称する2つの方法が一般に用いられている。
上記オプティカルフローを用いて移動体の動きが追跡される様子を図6に示す。画像C1、C2は、時刻Lの時点でのステレオ静止画像のうち、左(Left)/右(Right)の各々に対応する静止画像であり、画像C3、C4は、時刻LからΔTだけ時間経過した後のステレオ静止画像のうち、左/右の各々に対応する静止画像である。ΔTが小さければ小さいほど、多くの処理時間が必要となるが、移動体の追跡はより正確なものとなる。
なお、画像C3、C4には、図示簡略化のため、各々二つのオプティカルフローのみが表されている。
また、移動体テンプレートに付した色に基づいて各移動体の移動情報を求める方法としては、例えば、色の識別にマンセル表色系を用いる方法がある。
以上説明したように、移動体検出システム100は、ステレオ基線に配置された2台の撮影装置10a、10bにより時刻同期をとって撮影した複数の時系列的なステレオ静止画像に基づき、道路等を通行する各移動体が占める空間領域(3次元座標)を特定し、当該ステレオ静止画像の背景画像に対する差分領域を抽出し、全画像領域に対する当該差分領域の面積率を算出し、当該面積率に基づいて移動体の混雑レベルを特定し、当該混雑レベルに応じた移動体テンプレートA1〜A4を、上記特定した移動体の空間領域に割り当てて移動体の特定を行う。
更に、複数の時系列的なステレオ静止画像に基づいて移動体の動きを追跡し、同一移動体の空間領域に割り当てられた移動体テンプレートに同じ色を付して各移動体の動きを記録し、当該色に基づいて移動体の移動情報(移動方向や移動時間等。)を取得する。
従って、3次元空間内において移動体等の移動体位置(移動体が占める空間領域)が正確に特定できるだけでなく、当該特定した移動体に係る時間経過に伴う移動情報も正確に取得できるので、高度な移動体検出が実現できる。
なお、本第1の実施の形態における記述は、本発明に係る移動体検出システム及び移動体検出装置の一例を示すものであり、これに限定されるものではない。本第1の実施の形態における移動体検出システム100、移動体検出装置20の細部構成および詳細動作に関しては、本発明の趣旨を逸脱しない範囲で適宜変更可能である。
例えば、移動体領域特定手段21が、ステレオ基線装置10により撮影されたステレオ動画像を所定時間毎に静止画像として抽出し、複数のステレオ静止画像を時系列的に作成するとしたが、これに限らず、撮影装置10a、10bが連写により複数の時系列的なステレオ静止画像を撮影することも可能である。この場合、撮影装置10a、10bは、連写可能であれば、ビデオカメラ、デジタルカメラのうち何れであってもよい。
また、撮影装置10a、10bにより撮影されるステレオ画像は、ビデオテープ、DVD(Digital Versatile Disk)等の記録媒体を介して移動体検出装置20に入力されるようにしてもよいし、ステレオ基線装置10と移動体検出装置20との間にデータ回線を予め設け、当該データ回線を介してステレオ基線装置10から移動体検出装置20に入力されるようにしてもよい。
(第2の実施の形態)
次に、図面を参照して本発明を適用した第2の実施の形態の移動体検出システム100aについて詳細に説明する。
移動体検出システム100aは、移動体検出システム100と同様に、ステレオ基線に配置された2台の撮影装置により時刻同期をとって撮影した複数の時系列的なステレオ画像に基づき、道路等を通行する通行人等の移動体の数や、移動方向、移動時間等の移動情報を取得するためのものである。本第2の実施の形態においては、第1の実施の形態と同様に、図1(a)、図1(b)に示す所定の駅階段1を通行する通行人の移動情報を取得する場合について説明するが、これに限らず、道路を通行する車両や、駐車場に入庫・出庫する車両等に対しても適用可能である。以下、移動体とは通行人を意味する。
まず、移動体検出システム100aの構成を説明する。
移動体検出システム100aは、図7に示すように、ステレオ基線装置10、データベース30、移動体検出装置40を備えて構成
される。ここで、ステレオ基線装置10、データベース30は、第1の実施の形態に記載したものと同じものであり、簡略化のため、同一符号を付して説明を省略する。
移動体検出装置40は、移動体領域特定手段41、3次元計測手段42、移動体分離手段43、移動体追跡手段44、移動体計測手段45を備え、これら各手段を用いて図8のフローチャートに示す移動体検出処理を行う。
移動体検出装置40は、図示しない内蔵メモリに予め格納された移動体検出プログラムを実行することにより移動体領域特定手段41、3次元計測手段42、移動体分離手段43、移動体追跡手段44、移動体計測手段45の各々を制御し、図8に示す移動体検出処理を行う。
なお、移動体領域特定手段41、3次元計測手段42、移動体分離手段43、移動体追跡手段44、移動体計測手段45は、移動体検出プログラムが有する各機能を表すものとしてもよいし、ハードウェアによるものとしてもよい。
次に、図8を参照して、移動体検出装置40が行う移動体検出処理について説明する。
まず、駅階段1の様子がステレオ画像(動画)としてステレオ基線装置10により撮影され(ステップS1a)、また、移動体が存在しない駅階段1が、左右の背景画像(静止画像であり、左背景画像、右背景画像という。)としてステレオ基線装置10により撮影される(ステップS1b)。
次に、移動体領域特定処理D1の各処理(ステップS10〜S14)について説明する。移動体領域特定処理D1は移動体領域特定手段41によって実行される。
上記ステレオ画像(動画)のうち、所定時間(例えば、0.1秒等の短時間。)だけ互いに離れた左右それぞれ2フレーム分の静止画像(時刻t1、t2の静止画像。)が取得される。当該取得された左右それぞれ2フレーム分の静止画像を、t1左画像、t2左画像(以上、左静止画像。)、t1右画像、t2右画像(以上、右静止画像。)という。
次に、t1左画像、t2左画像、t1右画像、t2右画像と、上記左右の背景画像とが、HSV(Hue Saturation Value;色相、彩度、明度)処理され、RGB表色系から色相・彩度・明度によるHSV表色系に変換される(ステップS10)。
ステップS10の後、t1左画像とt2左画像とに対して、及び、t1右画像とt2右画像とに対して、それぞれフレーム間差分画像(左フレーム間差分画像、右フレーム間差分画像)を作成する(ステップS11)。ここで、フレーム間差分とは、異なる時間の画像の差分(変化領域)であり、移動体領域のエッジ部に該当する。
そして、t1左画像(或いはt2左画像)と左背景画像とに対して、及び、t1右画像(或いはt2右画像)と右背景画像とに対して、彩度と色相のそれぞれに基づく背景差分画像を各々作成する(ステップS12)。背景差分は移動体領域の内部に該当する。
ここで、色相と彩度とでは、差分として抽出される領域が異なるため、双方を合成し、当該合成後の画像を最終的な背景差分画像(左背景差分画像、右背景差分画像)とする。
ステップS11、S12の後、左フレーム間差分画像、右フレーム間差分画像の各々が白黒による2値化処理及び膨張収縮処理される(ステップS13)。
上記膨張収縮処理により、左背景差分画像、右背景差分画像の各背景差分領域(移動体領域の内部)と、左フレーム間差分画像、右フレーム間差分画像の各フレーム差分領域(移動体領域のエッジ部)とが、それぞれ良好に適合可能となる。
ステップS13の後、左フレーム間差分画像と左背景差分画像とが合成されて(左合成画像という。)左画像に対する移動体領域が特定され、右フレーム間差分画像と右背景差分画像とが合成されて(右合成画像という。)右画像に対する移動体領域が特定される(ステップS14)。
次に、3次元計測処理D2の各処理(ステップS11、S21〜S23)について説明する。3次元計測処理D2は3次元計測手段42によって実行される。
上記ステップS11において作成された左右の各フレーム間差分画像が、図9(a)に示すような区分K1〜Kn(nは自然数。)までのn個の区分に分割され、各区分毎に、画像横方向(図中符号Rに示す方向。)の各画素に対する輝度値が積算される(ステップS21)。
上記輝度値の積算結果の一例を、図9(b)に示す。ここには、区分1に対する積算結果が示されている。横軸は、画像横方向の位置を画素座標によって表し、縦軸は、積算された輝度値を表す。ここで、画素座標とは、画像を構成する全画素に対して割り当てられた画素番号を用いて、画像内の位置を一意的に特定するための座標である。
次に、画像に3次元座標を割り付けるための計測点を特定する。
ステップS21で算出された輝度値の積算結果のうち、ピーク値に該当する箇所(例えば、図中符号P1、P2等に示す箇所であり、複数存在する。)が区分K1〜Kn毎に抽出され、当該ピーク値をとる左右の各フレーム間差分画像内の位置(計測点)が画素座標によって特定される(ステップS22)。
そして、当該計測点(ピーク値をとる位置)を左右の各フレーム間差分画像で厳密に一致させるため、テンプレートマッチングが行われる。例えば、図10を参照して、左フレーム間差分画像内でピーク値をとる所定の一の位置(左ピーク点という。)に厳密に対応する、右フレーム間差分画像内の位置(右ピーク点という。)を、テンプレートマッチングを用いて特定する場合について説明する。
まず、左ピーク点V1を中心とする所定の画像近傍(左テンプレートT1という。)が抽出され、次に、当該左ピーク点に対応する右ピーク点V1を中心とした左テンプレートV1より広い(例えば、2倍程度。)所定の画像領域(右テンプレートT2という。)が抽出される。そして、左テンプレートT2内において、右テンプレートT1と最も相関(すなわち、画素値の相関)が高い箇所が特定され、更に、この結果に基づいて右フレーム間差分画像における左ピーク点に対応する位置が特定される(この位置は、当初の右ピーク点と異なっていてもよい。)。
ステップS22の後、ステレオ計測に基づき、予め取得された標定計測結果S1cを用いて上記特定された計測点に対する3次元座標値の割り付けを行う(ステップS23)。
ここで、標定計測とは、撮影装置10a、10bの傾き等の計測値を求めること、更に、当該計測値を用いて、撮影装置10a、10bにより各々撮影された画像上の同一点(画素座標)が指定されると、当該計測値を用いて実空間を表す3次元座標が求まるようなパラメータを算出することである。
また、上記標定計測による計測値(撮影装置10a、10bの傾き等。)を用いて、上記3次元座標を座標変換し、何れかの座標軸(例えば、z軸等。)の向きが鉛直方向に一致するようにしておくのが好ましい。このような座標系を用いれば、後述する移動体分離処理D3が行い易くなる。
次に、移動体分離処理D3の各処理(ステップS30〜S32)について説明する。移動体分離処理D3は、移動体分離手段43によって実行される。
上記した移動体領域特定処理D1のステップS14の後、ステップS14で特定された各移動体領域が、色に基づいてラベリング(番号付け)される。
まず、t1左画像(或いはt2左画像)と、t1右画像(或いはt2右画像)とがRGB表色系の元で減色処理及び平滑化処理される。当該減色処理及び平滑化処理により、色に基づいてラベリングされる領域の数が制限され、不必要なラベリングが回避可能となる。
上記減色処理及び平滑化処理後のt1左画像(或いはt2左画像)及びt1右画像(或いはt2右画像)と、ステップS14で特定された各移動体領域とに基づき、当該各移動体領域に色が割り付けられてラベリングされる(ステップS30)。
その後、ステップS30でラベリングされた各移動体領域に対しステップS23で特定された3次元座標が割り付けられ、当該3次元座標に基づき、クラスター分析(ウォード法)によって各移動体が分離される(ステップS32)。この際、ラベル間の距離が所定の閾値(移動体分離係数)以下の場合には、当該ラベルがグループ化され、単一のラベルに改めて割り付けされる。ここで、上記移動体分離係数は、予め設定されている、或いは、操作者によりその都度設定されるものとする(ステップS31)。
次に、移動体追跡処理D4(ステップS40)について説明する。移動体追跡処理D4は移動体追跡手段44によって実行される。
ここでは、ステップS32で取得された各移動体が、ラップ率(以下で説明する。)を用いて時間毎に追跡される。以下、図11を参照して、当該ラップ率を用いた追跡法について説明する。
図11に示すように、時刻tでは、3つの移動体(それぞれ、L11、L12、L13にラベリングされている。)が上記方法(すなわち、クラスター分析。)により分離・特定され、時刻t+Δtでは、5つの移動体(それぞれ、L21、L22、L23、L24、L25にラベリングされている。)がこの方法により分離・特定されているものとする。
ここで、時刻tにおける各移動体の移動体領域と、時刻t+Δtにおける各移動体の移動体領域とが重ね合わされる。そして、当該重ね合わせの結果、重なり合っている面積の割合(ラップ率)が50%以上の場合には、当該時刻tと時刻t+Δtの各移動体は、同一であると判定され、時刻t+Δtにおける移動体として、改めてラベル付けされる。
例えば、時刻tにおける移動体L11が、時刻t+Δtにおける移動体L21、L22と重なり合っているが、何れもラップ率が50%以上であるため、移動体L11と移動体L21及びL22とは同一移動体であると判定される。
また、時刻tにおける移動体L12が、時刻t+Δtにおける移動体L23と重なり合っているが、ラップ率が50%以上であるため、移動体L23と移動体L12とは同一移動体であると判定される。
また、時刻tにおける移動体L13は、時刻t+Δtにおける移動体L24、L25と重なり合うが、移動体L25についてはラップ率が50%に満たないため、移動体L13と移動体L25とは同一ではないと判定され、移動体L24についてはラップ率が50%以上であるため、移動体L13と移動体L24とは同一であると判定される。
更に、上記移動体の追跡処理が比較的長時間にわたって順次行われることにより、移動体の正確な計測が可能となる。以下、図12を参照して、この移動体計測法について説明する。
図12には、時刻t10では、3つの移動体(それぞれ、L101、L102、L103にラべリングされている。)が特定され、時刻t11では、3つの移動体(それぞれ、L111、L112、L113にラベリングされている。)が特定され、時刻t12では、3つの移動体(それぞれ、L121、L122、L123にラベリングされている。)が特定され、時刻t13では、4つの移動体(それぞれ、L131、L132、L133、L134にラベリングされている。)が特定され、時刻t14では、4つの移動体(それぞれ、L141、L142、L143、L144にラベリングされている。)が特定されている。
時刻t10では、2つの移動体L101、L102が異なる移動体であると判定されたが、上記ラップ率による移動体追跡処理により、時刻t11では、上記移動体L101、L102は、共に単一の移動体L111の一部であると判定される。以降、時刻t12、t13、t14では、当該移動体は、L121、L131、L141として順次ラベルリングされている。
また、時刻t11までの間に同一動体であると判定された移動体L103、L112は、時刻t12以降には消滅しているため、移動体数の計測には加えられない。
また、時刻t12では、単一の移動体であると判定された移動体L122は、時刻t13以降では、二つの移動体であると判定される。一つは、L132、L142にラベリングされた移動体であり、他の一つは、L133、L143にラベリングされた移動体である。
また、時刻t11では、単一の移動体であると判定された移動体L113は、時刻t12以降も単一の移動体(L123、L134、L144にラベリングされた移動体。)であると判定される。
次に、移動体計測処理D5(ステップS50)について説明する。移動体計測処理D5は、移動体計測手段45によって実行される。
ここでは、ステップS40において時間毎に追跡された各移動体がどの方向に移動しているのかが判定されると共に、上り/下り等の移動方向毎の移動体数が計測される。
すなわち、図13(a)に示すように、背景画像(すなわち、駅階段1を表す画像。)が3つの計測エリアM1〜M3に分割され、各移動体の移動体領域の各計測エリアM1〜M3に占める割合が時間毎(t1〜t10)に算出される。当該算出結果の一例を、図13(b)、図13(c)に示す。
図13(b)には、移動体が計測エリアM1から計測エリアM3に向かう(下り方向)際に当該移動体が各計測エリアM1〜M3に占める割合が表示され、図13(c)には、移動体が計測エリアM3から計測エリアM1に向かう(上り方向)際に当該移動体が各計測エリアM1〜M3に占める割合が表示されている。
また、移動体数は、ある程度時間をかけて追跡する必要があるため、駅階段1を表す画像の略中央に位置する計測エリアM2内において、上り/下り等の移動方向毎に計測される。
以上説明したように、移動体検出システム100aは、左右それぞれ2フレーム分の画像に基づいて、フレーム間差分画像、背景差分画像を作成し、当該両差分画像から移動体領域を特定し(移動体領域特定処理D1)、更に、当該フレーム間差分画像に対して3次元座標の割り付けを行い(3次元計測処理D2)、更に、移動体領域を色毎にラベリングし、当該ラベリングした各移動体領域に3次元座標を割り付け、当該3次元座標に基づき、クラスター解析により各移動体を分離・特定し(移動体分離処理D3)、更に、ラップ率を用いて移動体を時間毎に追跡し(移動体追跡処理D4)、更に、当該追跡結果に基づいて、移動方向や移動体数の計測を行う(移動体計測処理D5)。
従って、3次元空間内において移動体等の移動体位置(移動体が占める空間領域)が正確に特定できるだけでなく、当該特定した移動体に係る時間経過に伴う移動情報も正確に取得できるので、高度な移動体検出が実現できる。
なお、本第2の実施の形態における記述は、本発明に係る移動体検出システム及び移動体検出装置の一例を示すものであり、これに限定されるものではない。本第2の実施の形態における移動体検出システム100a、移動体検出装置40の細部構成および詳細動作に関しては、本発明の趣旨を逸脱しない範囲で適宜変更可能である。
例えば、撮影装置10a、10bにより撮影されるステレオ画像は、ビデオテープ、DVD(Digital Versatile Disk)等の記録媒体を介して移動体検出装置40に入力されるようにしてもよいし、ステレオ基線装置10と移動体検出装置40との間にデータ回線を予め設け、当該データ回線を介してステレオ基線装置10から移動体検出装置40に入力されるようにしてもよい。
本発明を適用した移動体検出システムが有するステレオ基線装置の設置例を示し、(a)は、ステレオ基線装置の設置場所を上方から見た図であり、(b)は、(a)に示すステレオ基線装置の設置場所を側面か見た図である。 本発明を適用した移動体検出システムの構成を示すブロック図である。 本発明を適用した移動体検出システムによって行われる移動体検出処理を説明するフローチャートである。 図3のフローチャートに示す移動体検出処理の際に用いられる移動体テンプレートを示す図である。 図4に示す移動体テンプレートが移動体の空間領域に割り当てられる様子を示す図である。 オプティカルフローを用いて移動体の動きが追跡される様子を示す図である。 本発明を適用した他の移動体検出システムの構成を示すブロック図である。 図7に示す移動体検出システムによって行われる移動体検出処理を説明するフローチャートである。 (a)フレーム間差分画像における輝度値の積算対象となる区分領域を示す図であり、(b)一区分における輝度値の積算値を、画像横方向の各画素座標に対して示す図である。 テンプレートマッチングを説明するための図である。 ラップ率を用いた移動体追跡法を説明するための図である。 移動体が追跡されている様子を示す図である。 (a)は、駅階段を示す画像に3つの計測エリアが設けられている様子を示す図であり、(b)は、移動体が下り方向に移動する際に、移動体が各計測エリアに重なる割合を時間毎に示す図であり、(c)は、移動体が上り方向に移動する際に、移動体が各計測エリアに重なる割合を時間毎に示す図である。
符号の説明
1 駅階段
10 ステレオ基線装置
10a 撮影装置
10b 撮影装置
20 移動体検出装置
21 移動体領域特定手段
22 混雑レベル特定手段
23 移動体特定手段
24 移動情報取得手段
30 データベース
40 移動体検出装置
41 移動体領域特定手段
42 3次元計測手段
43 移動体分離手段
44 移動体追跡手段
45 移動体計測手段
100、100a 移動体検出システム

Claims (16)

  1. ステレオ基線に配置された2台の撮影装置と、当該2台の撮影装置により時刻同期をとって撮影される複数の時系列的なステレオ静止画像に基づいて、該ステレオ静止画像に写される移動体の検出を行う移動体検出装置とを備えた移動体検出システムにおいて、
    前記移動体検出装置は、
    前記ステレオ静止画像の各々に写されている各移動体が占める空間領域を特定する移動体領域特定手段と、
    前記ステレオ静止画像の背景画像に対する差分領域を抽出し、全画像領域に対する当該差分領域の面積率を算出し、当該面積率に基づいて移動体の混雑レベルを特定する混雑レベル特定手段と、
    前記特定された混雑レベルに応じた形状を有する移動体テンプレートを、前記各移動体が占める空間領域の各々に割り当てて該移動体を特定する移動体特定手段と、
    を備えたことを特徴とする移動体検出システム。
  2. 前記移動体検出装置は、
    前記時系列的な複数のステレオ静止画像に基づいて、前記各移動体の動きを追跡し、該移動体の移動情報を取得する移動情報取得手段を更に備えたことを特徴とする請求項1に記載の移動体検出システム。
  3. 前記移動情報取得手段は、
    前記移動体の追跡結果に基づいて、同一の移動体に対しては当該移動体の空間領域に割り当てられた移動体テンプレートに同一の色を付して当該移動体の動きを記録するとともに、該移動体テンプレートに付した色に基づいて各移動体の移動情報を取得することを特徴とする請求項2に記載の移動体検出システム。
  4. ステレオ基線に配置された2台の撮影装置により時刻同期をとって撮影される複数の時系列的なステレオ静止画像の各々に写されている各移動体が占める空間領域を特定する移動体領域特定手段と、
    前記ステレオ静止画像の背景画像に対する差分領域を抽出し、全画像領域に対する当該差分領域の面積率を算出し、当該面積率に基づいて移動体の混雑レベルを特定する混雑レベル特定手段と、
    前記特定された混雑レベルに応じた形状を有する移動体テンプレートを、前記各移動体が占める空間領域の各々に割り当てて該移動体を特定する移動体特定手段と、
    を備えたことを特徴とする移動体検出装置。
  5. 前記時系列的な複数のステレオ静止画像に基づいて、前記各移動体の動きを追跡し、該移動体の移動情報を取得する移動情報取得手段を更に備えたことを特徴とする請求項4に記載の移動体検出装置。
  6. 前記移動情報取得手段は、
    前記移動体の追跡結果に基づいて、同一の移動体に対しては当該移動体の空間領域に割り当てられた移動体テンプレートに同一の色を付して当該移動体の動きを記録するとともに、該移動体テンプレートに付した色に基づいて各移動体の移動情報を取得することを特徴とする請求項5に記載の移動体検出装置。
  7. ステレオ基線に配置された2台の撮影装置により時刻同期をとって撮影される複数の時系列的なステレオ静止画像の各々に写されている各移動体が占める空間領域を特定するステップと、
    前記ステレオ静止画像の背景画像に対する差分領域を抽出し、全画像領域に対する当該差分領域の面積率を算出し、当該面積率に基づいて移動体の混雑レベルを特定するステップと、
    前記特定された混雑レベルに応じた形状を有する移動体テンプレートを、前記各移動体が占める空間領域の各々に割り当てて該移動体を特定するステップと、
    を含むことを特徴とする移動体検出方法。
  8. 前記時系列的な複数のステレオ静止画像に基づいて、前記各移動体の動きを追跡し、該移動体の移動情報を取得するステップを更に含むことを特徴とする請求項7に記載の移動体検出方法。
  9. 前記移動体の追跡結果に基づいて、同一の移動体に対しては当該移動体の空間領域に割り当てられた移動体テンプレートに同一の色を付して当該移動体の動きを記録するとともに、該移動体テンプレートに付した色に基づいて各移動体の移動情報を取得するステップを更に含むことを特徴とする請求項8に記載の移動体検出方法。
  10. 画像解析を行うコンピュータに、
    ステレオ基線に配置された2台の撮影装置により時刻同期をとって撮影される複数の時系列的なステレオ静止画像の各々に写されている各移動体が占める空間領域を特定する機能と、
    前記ステレオ静止画像の背景画像に対する差分領域を抽出し、全画像領域に対する当該差分領域の面積率を算出し、当該面積率に基づいて移動体の混雑レベルを特定する機能と、
    前記特定された混雑レベルに応じた形状を有する移動体テンプレートを、前記各移動体が占める空間領域の各々に割り当てて該移動体を特定する機能と、
    を実現させるための移動体検出プログラム。
  11. 前記コンピュータに、
    前記時系列的な複数のステレオ静止画像に基づいて、前記各移動体の動きを追跡し、該移動体の移動情報を取得する機能を更に実現させるための請求項10に記載の移動体検出プログラム。
  12. 前記コンピュータに、
    前記移動体の追跡結果に基づいて、同一の移動体に対しては当該移動体の空間領域に割り当てられた移動体テンプレートに同一の色を付して当該移動体の動きを記録するとともに、該移動体テンプレートに付した色に基づいて各移動体の移動情報を取得する機能を更に実現させるための請求項11に記載のプログラム。
  13. ステレオ基線に配置された左右2台の撮影装置と、当該2台の撮影装置により時刻同期をとって撮影される時系列的な複数フレームのステレオ静止画像に基づいて、該ステレオ静止画像に写される移動体の検出を行う移動体検出装置とを備えた移動体検出システムにおいて、
    前記移動体検出装置は、
    前記複数フレームのステレオ静止画像のうち、左右の各静止画像に対し、2フレーム分の静止画像間の差分を表すフレーム間差分画像と、当該2フレーム分の静止画像のうちの何れか一と背景画像との差分を表す背景差分画像とを作成し、その後、当該フレーム間差分画像と背景差分画像とを合成して当該合成画像内の移動体領域を特定する移動体領域特定手段と、
    前記作成された左右のフレーム間差分画像内の各差分領域に対し、左右共通の3次元座標を割り付ける3次元計測手段と、
    左右の静止画像毎に、前記2フレーム分の静止画像のうちの何れか一を減色させ、当該減色後の静止画像と前記特定された移動体領域とを重ね合わせ、当該重ね合わせ後の各移動体領域に対し色毎に異なるラベルを割り付け、当該ラベル付けされた各移動体領域に対し前記3次元座標を割り付け、当該3次元座標に基づいて当該ラベル付けされた各移動体領域を分離する移動体分離手段と、
    二つの異なる時間に対応する前記移動体領域の重なり合いの度合いに応じて、当該各時間に対応する移動体が同一か否かを判定し、当該判定結果に基づいて移動体を追跡する移動体追跡手段と、
    前記静止画像を予め複数の計測エリアに分割し、前記追跡中の移動体が、当該複数の計測エリアのうちのどの計測エリアをどの順序で通過したかを判別して、移動体の数と移動方向とを計測する移動体計測手段と、
    を備えたことを特徴とする移動体検出システム。
  14. ステレオ基線に配置された左右2台の撮影装置により時刻同期をとって撮影される時系列的な複数フレームのステレオ静止画像のうち、左右の各静止画像に対し、2フレーム分の静止画像間の差分を表すフレーム間差分画像と、当該2フレーム分の静止画像のうちの何れか一と背景画像との差分を表す背景差分画像とを作成し、その後、当該フレーム間差分画像と背景差分画像とを合成して当該合成画像内の移動体領域を特定する移動体領域特定手段と、
    前記作成された左右のフレーム間差分画像内の各差分領域に対し、左右共通の3次元座標を割り付ける3次元計測手段と、
    左右の静止画像毎に、前記2フレーム分の静止画像のうちの何れか一を減色させ、当該減色後の静止画像と前記特定された移動体領域とを重ね合わせ、当該重ね合わせ後の各移動体領域に対し色毎に異なるラベルを割り付け、当該ラベル付けされた各移動体領域に対し前記3次元座標を割り付け、当該3次元座標に基づいて当該ラベル付けされた各移動体領域を分離する移動体分離手段と、
    二つの異なる時間に対応する前記移動体領域の重なり合いの度合いに応じて、当該各時間に対応する移動体が同一か否かを判定し、当該判定結果に基づいて移動体を追跡する移動体追跡手段と、
    前記静止画像を予め複数の計測エリアに分割し、前記追跡中の移動体が、当該複数の計測エリアのうちのどの計測エリアをどの順序で通過したかを判別して、移動体の数と移動方向とを計測する移動体計測手段と、
    を備えたことを特徴とする移動体検出装置。
  15. ステレオ基線に配置された左右2台の撮影装置により時刻同期をとって撮影される時系列的な複数フレームのステレオ静止画像のうち、左右の各静止画像に対し、2フレーム分の静止画像間の差分を表すフレーム間差分画像と、当該2フレーム分の静止画像のうちの何れか一と背景画像との差分を表す背景差分画像とを作成し、その後、当該フレーム間差分画像と背景差分画像とを合成して当該合成画像内の移動体領域を特定するステップと、
    前記作成された左右のフレーム間差分画像内の各差分領域に対し、左右共通の3次元座標を割り付けるステップと、
    左右の静止画像毎に、前記2フレーム分の静止画像のうちの何れか一を減色させ、当該減色後の静止画像と前記特定された移動体領域とを重ね合わせ、当該重ね合わせ後の各移動体領域に対し色毎に異なるラベルを割り付け、当該ラベル付けされた各移動体領域に対し前記3次元座標を割り付け、当該3次元座標に基づいて当該ラベル付けされた各移動体領域を分離するステップと、
    二つの異なる時間に対応する前記移動体領域の重なり合いの度合いに応じて、当該各時間に対応する移動体が同一か否かを判定し、当該判定結果に基づいて移動体を追跡するステップと、
    前記静止画像を予め複数の計測エリアに分割し、前記追跡中の移動体が、当該複数の計測エリアのうちのどの計測エリアをどの順序で通過したかを判別して、移動体の数と移動方向とを計測するステップと、
    を含むことを特徴とする移動体検出方法。
  16. 画像解析を行うコンピュータに、
    ステレオ基線に配置された左右2台の撮影装置により時刻同期をとって撮影される時系列的な複数フレームのステレオ静止画像のうち、左右の各静止画像に対し、2フレーム分の静止画像間の差分を表すフレーム間差分画像と、当該2フレーム分の静止画像のうちの何れか一と背景画像との差分を表す背景差分画像とを作成し、その後、当該フレーム間差分画像と背景差分画像とを合成して当該合成画像内の移動体領域を特定する機能と、
    前記作成された左右のフレーム間差分画像内の各差分領域に対し、左右共通の3次元座標を割り付ける機能と、
    左右の静止画像毎に、前記2フレーム分の静止画像のうちの何れか一を減色させ、当該減色後の静止画像と前記特定された移動体領域とを重ね合わせ、当該重ね合わせ後の各移動体領域に対し色毎に異なるラベルを割り付け、当該ラベル付けされた各移動体領域に対し前記3次元座標を割り付け、当該3次元座標に基づいて当該ラベル付けされた各移動体領域を分離する機能と、
    二つの異なる時間に対応する前記移動体領域の重なり合いの度合いに応じて、当該各時間に対応する移動体が同一か否かを判定し、当該判定結果に基づいて移動体を追跡する機能と、
    前記静止画像を予め複数の計測エリアに分割し、前記追跡中の移動体が、当該複数の計測エリアのうちのどの計測エリアをどの順序で通過したかを判別して、移動体の数と移動方向とを計測する機能と、
    を実現させるためのプログラム。
JP2004046642A 2004-02-23 2004-02-23 移動体検出システム、移動体検出装置、移動体検出方法及び移動体検出プログラム Expired - Fee Related JP3934113B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004046642A JP3934113B2 (ja) 2004-02-23 2004-02-23 移動体検出システム、移動体検出装置、移動体検出方法及び移動体検出プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004046642A JP3934113B2 (ja) 2004-02-23 2004-02-23 移動体検出システム、移動体検出装置、移動体検出方法及び移動体検出プログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2007011237A Division JP4268644B2 (ja) 2007-01-22 2007-01-22 移動体検出システム、移動体検出装置、移動体検出方法及び移動体検出プログラム

Publications (2)

Publication Number Publication Date
JP2005235104A true JP2005235104A (ja) 2005-09-02
JP3934113B2 JP3934113B2 (ja) 2007-06-20

Family

ID=35017977

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004046642A Expired - Fee Related JP3934113B2 (ja) 2004-02-23 2004-02-23 移動体検出システム、移動体検出装置、移動体検出方法及び移動体検出プログラム

Country Status (1)

Country Link
JP (1) JP3934113B2 (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007124269A (ja) * 2005-10-28 2007-05-17 Hitachi Eng Co Ltd 侵入者監視方法および装置
US7909228B2 (en) 2005-01-27 2011-03-22 Orthodyne Electronics Corporation Ribbon bonding tool and process
JP2014103521A (ja) * 2012-11-20 2014-06-05 Saxa Inc 撮影装置及び画像処理プログラム
WO2017086058A1 (ja) * 2015-11-20 2017-05-26 ソニー株式会社 画像処理装置と画像処理方法およびプログラム
JP2020107297A (ja) * 2018-12-26 2020-07-09 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
CN112907626A (zh) * 2021-02-08 2021-06-04 中国空间技术研究院 基于卫星超时相数据多源信息的运动目标提取方法
CN113554008A (zh) * 2021-09-18 2021-10-26 深圳市安软慧视科技有限公司 静态物体区域内检测方法、装置、电子设备及存储介质
CN113822859A (zh) * 2021-08-25 2021-12-21 日立楼宇技术(广州)有限公司 基于图像识别的物品检测方法、系统、装置和存储介质
KR20220068915A (ko) 2020-11-19 2022-05-26 컨셉 주식회사 궤도 산출 장치, 궤도 산출 방법, 궤도 산출 프로그램
US11625836B2 (en) 2019-10-30 2023-04-11 Qoncept, Inc. Trajectory calculation device, trajectory calculating method, and trajectory calculating program

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7909228B2 (en) 2005-01-27 2011-03-22 Orthodyne Electronics Corporation Ribbon bonding tool and process
US7934633B2 (en) 2005-01-27 2011-05-03 Orthodyne Electronics Corporation Ribbon bonding tool and process
JP2007124269A (ja) * 2005-10-28 2007-05-17 Hitachi Eng Co Ltd 侵入者監視方法および装置
JP4594209B2 (ja) * 2005-10-28 2010-12-08 株式会社日立情報制御ソリューションズ 侵入者監視方法および装置
JP2014103521A (ja) * 2012-11-20 2014-06-05 Saxa Inc 撮影装置及び画像処理プログラム
WO2017086058A1 (ja) * 2015-11-20 2017-05-26 ソニー株式会社 画像処理装置と画像処理方法およびプログラム
JP2020107297A (ja) * 2018-12-26 2020-07-09 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
JP7418074B2 (ja) 2018-12-26 2024-01-19 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
US11625836B2 (en) 2019-10-30 2023-04-11 Qoncept, Inc. Trajectory calculation device, trajectory calculating method, and trajectory calculating program
KR20220068915A (ko) 2020-11-19 2022-05-26 컨셉 주식회사 궤도 산출 장치, 궤도 산출 방법, 궤도 산출 프로그램
CN112907626A (zh) * 2021-02-08 2021-06-04 中国空间技术研究院 基于卫星超时相数据多源信息的运动目标提取方法
CN113822859A (zh) * 2021-08-25 2021-12-21 日立楼宇技术(广州)有限公司 基于图像识别的物品检测方法、系统、装置和存储介质
CN113822859B (zh) * 2021-08-25 2024-02-27 日立楼宇技术(广州)有限公司 基于图像识别的物品检测方法、系统、装置和存储介质
CN113554008A (zh) * 2021-09-18 2021-10-26 深圳市安软慧视科技有限公司 静态物体区域内检测方法、装置、电子设备及存储介质

Also Published As

Publication number Publication date
JP3934113B2 (ja) 2007-06-20

Similar Documents

Publication Publication Date Title
JP4268644B2 (ja) 移動体検出システム、移動体検出装置、移動体検出方法及び移動体検出プログラム
US9165375B2 (en) Automatically determining field of view overlap among multiple cameras
US10958854B2 (en) Computer-implemented method for generating an output video from multiple video sources
KR101870902B1 (ko) 영상 처리 장치 및 영상 처리 방법
JP6184271B2 (ja) 撮像管理装置、撮像管理システムの制御方法およびプログラム
KR101492180B1 (ko) 비디오 분석
US8098897B2 (en) Multi dimensional imaging system
WO2010113239A1 (ja) 画像統合装置および画像統合方法
JP3934113B2 (ja) 移動体検出システム、移動体検出装置、移動体検出方法及び移動体検出プログラム
JP5371040B2 (ja) 移動物体追跡装置、移動物体追跡方法および移動物体追跡プログラム
KR102072022B1 (ko) 관심영역 기반의 영상요약 장치와 그를 위한 컴퓨터로 읽을 수 있는 기록 매체
CN111523385B (zh) 一种基于帧差法的静止车辆检测方法及系统
Haberdar et al. Disparity map refinement for video based scene change detection using a mobile stereo camera platform
JP2018133042A (ja) 放置物検出装置
Lee et al. Vehicle counting based on a stereo vision depth maps for parking management
JP4447309B2 (ja) 交差点交通量計測装置および交差点交通量計測方法
KR101827114B1 (ko) 축사 근접 개체 탐지 장치 및 방법
Schubert et al. Robust registration and filtering for moving object detection in aerial videos
JPH0991439A (ja) 物体監視装置
JPH11328365A (ja) 画像監視装置及びその方法
JP2011043863A (ja) 対象領域判定・追跡装置、方法、プログラム及び対象領域判定装置
JP4744789B2 (ja) 物体識別方法及び物体識別装置
KR20150060032A (ko) 움직임 검출 시스템 및 방법
JP6348020B2 (ja) 画像処理装置、画像処理方法およびそれを用いた検査方法。
KR101762613B1 (ko) 중공관 촬영영상의 파노라마 이미지를 생성하는 방법

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20060925

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20061121

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20061225

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070122

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20061225

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070306

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070314

R150 Certificate of patent or registration of utility model

Ref document number: 3934113

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110330

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120330

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130330

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130330

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140330

Year of fee payment: 7

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees