JP3700707B2 - 計測システム - Google Patents
計測システム Download PDFInfo
- Publication number
- JP3700707B2 JP3700707B2 JP2003068290A JP2003068290A JP3700707B2 JP 3700707 B2 JP3700707 B2 JP 3700707B2 JP 2003068290 A JP2003068290 A JP 2003068290A JP 2003068290 A JP2003068290 A JP 2003068290A JP 3700707 B2 JP3700707 B2 JP 3700707B2
- Authority
- JP
- Japan
- Prior art keywords
- measurement
- cameras
- dimensional
- stereo
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Classifications
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19617—Surveillance camera constructional details
- G08B13/1963—Arrangements allowing camera rotation to change view, e.g. pivoting camera, pan-tilt and zoom [PTZ]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
- G06T1/0007—Image acquisition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/97—Determining parameters from multiple pictures
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19639—Details of the system layout
- G08B13/19645—Multiple cameras, each having view on one of a plurality of scenes, e.g. multiple cameras for multi-room surveillance or for tracking an object by view hand-over
Description
【発明の属する技術分野】
本発明は、複数のカメラから得られる画像に基づいて対象物を計測する計測システムに関する。
【0002】
【従来の技術】
従来より、複数のカメラを用いたステレオ計測の技術が種々提案されている。例えば、2つのカメラを用いて対象物までの距離を求め、距離に応じて低速高精度モードと高速低精度モードとを切り替える技術(特開平8−219774)、2つのカメラを用いて対象物を撮影し、ステレオ計測によって侵入者を検出する技術(特開2000−115810)などが提案されている。
【0003】
一方、近年において、撮像素子(画像センサ)とプロセッサの高品質化、低価格化にともなって、ロボットや監視システムなどのリアルタイムシステムにステレオ計測を応用することが期待されている。
【0004】
【特許文献1】
特開平8−219774
【0005】
【特許文献2】
特開2000−115810
【0006】
【発明が解決しようとする課題】
ステレオ計測をリアルタイムシステムに応用する際の問題の一つは、3次元データの出力のスループットつまり処理速度の速さと精度とのトレードオフをどう設定するかである。この問題に対する一つの選択枝は、システムが要求するスループットと精度との“両方の" クリティカルな仕様を満たすように機器を設計することである。しかし、これら2つの相反する要求仕様を“同時に”満たすためには、一般には機器が高価なものとなってしまう問題がある。
【0007】
しかし、システムによってはそれらの要求を同時に満たす必要はなく、予め用意された複数の仕様の計測モードを目的に応じて切り替えればよいものも数多く存在する。
【0008】
例えば、監視システムでは、対象物は侵入者などであり、侵入者を検知する通常の段階ではほどほどの信頼性があって更新レートの速い検知が要求されるが、検知した侵入者の確認を行う段階では少々時間がかかっても信頼性のより高い検知を行うことが要求される。また、ロボットナビゲーションシステムでは、ロボットの起動時や停止時は、リアルタイム性はあまり要求されず周囲の3次元環境を高精度で計測する必要があるが、ロボットの移動中は精度を少々落としてもリアルタイムで障害物を検知しなければならない。
【0009】
本発明は、上述の点に鑑みてなされたもので、ロボットや監視システムなどにおいて、環境の変化や対象物の動きなどに応じて最適な計測を行うことのできる計測システムを提供することを目的とする。
【0010】
【課題を解決するための手段】
本発明に係る計測システムは、複数のカメラから得られる画像に基づいて対象物を計測する計測システムであって、複数の前記カメラの撮影方向を変更するためにカメラの位置制御を行う位置制御手段と、対象物について少なくとも1つの前記カメラから得られる画像に基づいて当該対象物の2次元計測を行う2次元計測手段と、同一の対象物について前記複数のカメラから得られる複数の画像に基づいて当該対象物のステレオ計測を行うステレオ計測手段と、前記2次元計測手段と前記ステレオ計測手段とを切り替えて動作させるための切替え手段とを有する。
【0011】
複数のカメラは、それぞれ独立して位置制御を行ってもよく、またはカメラ同士の位置関係を固定とし、全体を1つのカメラ群として扱って位置制御を行ってもよい。
【0012】
そして、前記位置制御手段は、前記2次元計測手段による2次元計測を行うときに、前記複数のカメラが互いに異なる範囲を撮影するよう互いに異なる方向を向くように位置制御を行い、前記ステレオ計測手段よるステレオ計測を行うときに、前記複数のカメラが前記対象物を含んで互いに重複する範囲を撮影するように位置制御を行い、前記切替え手段は、初期状態では2次元計測手段が動作するように切り替えており、前記2次元計測手段によって移動する対象物が検出されたときに前記ステレオ計測手段が動作するように切り替える。
【0013】
また、前記ステレオ計測手段は、前記複数の画像の解像度を低下させる手段を有し、ステレオ計測を行うに当たって、高解像度の3次元データの生成と低解像度の3次元データの生成とを適宜切り替えて計測を行う。
【0014】
また、前記カメラには、三原色のいずれかの色のカラーフィルタが画素毎に配置された撮像素子が設けられており、複数の前記カメラから得られる画像データを処理するに際して、各カメラの撮像素子における特定の色のカラーフィルタのみに対応する画素の画像データを用いる。
【0015】
【発明の実施の形態】
〔第1の実施形態〕
まず、本発明に係る計測システムを防犯用の監視システムに応用した例を説明する。
【0016】
図1は本発明に係る第1の実施形態である監視システム1の構成を示す図、図2は2次元処理部41の構成の例を示すブロック図、図3はステレオ処理部42の構成の例を示すブロック図、図4は変形した2次元処理部41Bの構成を示すブロック図、図5は変形したステレオ処理部42Bの構成を示すブロック図である。
【0017】
図1において、監視システム1は、2つのカメラ11,21、各カメラ11,21の撮影方向を変更するためのパン機構12,22およびチルト機構13,23、それらのドライバ14,24、位置制御機構31,32およびそのドライバ33、2次元処理部41、ステレオ処理部42、コントローラ43、および出力部44などからなっている。
【0018】
カメラ11,21は、それぞれ、光学系、撮像素子、ズーミング機構、およびそれらの駆動回路などを有する。カメラ11,21は、撮像素子によってズーミングに応じた所定の範囲の領域(対象領域)を撮影する。撮影された画像は、対象領域内の背景の画像であったり、対象物(物体)の画像であったりする。得られた画像データは、適当な周期毎に1フレーム分のデータが出力される。例えば毎秒30フレームの画像データが出力される。また、外部からの信号によって、ズーミングその他の制御を行うことが可能である。カメラ11,21それ自体の構造および動作は公知である。
【0019】
パン機構12,22は、各カメラ11,21を左右に独立して回転させ、これによってそれぞれの光軸を左右に振ることができる。チルト機構13,23は、各カメラ11,21を上下に独立して回転させ、これによってそれぞれの光軸を上下に振ることができる。ドライバ14,24は、コントローラ43からの指令信号に基づいて、パン機構12,22およびチルト機構13,23を駆動制御する。
【0020】
位置制御機構31,32は、パン機構12,22およびチルト機構13,23を含めたカメラ11,21の全体の位置姿勢を制御する。つまり、位置制御機構31,32の動作によって、カメラ11,21の互いの位置関係を保持した状態で、これらカメラ11,21の全体の位置姿勢が変更される。ドライバ33は、コントローラ43からの指令信号に基づいて位置制御機構31,32を駆動制御する。
【0021】
これら、カメラ11,21およびその位置制御機構は、例えば、ビルの入り口、部屋の入口、廊下、ロビー、受付、倉庫などの監視したい領域が画角内に収まるよう設置される。
【0022】
2次元処理部41は、2つのカメラ11,21から得られるそれぞれの画像(画像データ)D1,D2に基づいて、対象物の2次元計測のための処理をそれぞれ独立して行い、計測データD3を出力する。
【0023】
図2において、2次元処理部41は、1フレーム遅延部411、および2次元動き検出部412を備える。1フレーム遅延部411は、画像D1,D2を1フレーム分記憶し、記憶した画像D1,D2を1フレーム分遅延して出力する。2次元動き検出部412は、現フレームの画像D1,D2と、1フレーム分遅延した画像D1T,D2Tとをそれぞれ比較し、それらの変化分に基づいて対象物を検出する。
【0024】
なお、対象物を検出する手法として、例えば、背景差分による手法、時間差分による手法、時系列画像の動きベクトルを用いる手法(オプティカルフロー法)などの公知の手法を用いることが可能である。時間差分による手法を用いる場合には、例えば、現フレームの画像と前フレームの画像との差分画像を計算して求め、差分画像の強度の和がしきい値以上であるときに対象物があると一応の判断をする。この場合は処理が簡単であり、高速の処理が可能であるが、照明の変動をも対象物として検知してしまうおそれがある。
【0025】
ステレオ処理部42は、2つのカメラ11,21から得られる2つの画像D1,D2に基づいて、対象物のステレオ計測のための処理を行い、計測データD4を出力する。
【0026】
図3において、ステレオ処理部42は、ステレオ画像処理部421、1フレーム遅延部422、および3次元動き検出部423を備える。ステレオ画像処理部421は、2つの画像D1,D2に基づいて、三角測量の原理によて距離画像(3次元データ)DTを生成する。1フレーム遅延部422は、距離画像DTを1フレーム分記憶し、記憶した距離画像DTを1フレーム分遅延して出力する。3次元動き検出部423は、ステレオ画像処理部421から出力された距離画像DTと1フレーム分遅延した距離画像DTTとを比較し、それらの変化分に基づいて対象物の詳しい状態を検出する。
【0027】
すなわち、2つのカメラ11,21の一方を基準カメラとし他方を参照カメラとする。ステレオ画像処理部421において、基準カメラの画像(基準画像)D1と参照カメラの画像(参照画像)D2との間で対応点を探索する。予め校正された光学パラメータおよび両カメラの位置関係に基づいて、基準画像の各画素に対応して距離画像DTを算出する。この場合は処理が複雑であるため処理レートは低いが、照明の変動の影響を受けにくい。
【0028】
そして、3次元動き検出部423において、現フレームの距離画像DTと前フレームの距離画像DTTとの差分距離画像を算出し、差分距離画像の強度の和がしきい値以上であるときに、間違いなく対象物があると判断する。
【0029】
監視システム1が防犯のために用いられる場合に、2次元処理部41は、互いに異なる範囲を撮影した2つの画像D1,D2に基づいて、対象物として例えば侵入者を検出する。そして、カメラ11,21の位置、姿勢、画像D1,D2の中の対象物の位置、大きさなどに基づいて、侵入者の概略の位置および大きさなどの情報を、計測データD3としてコントローラ43に出力する。コントローラ43は、侵入者をクローズアップして捉えるようにカメラ11,21の位置、姿勢、およびズーミングを制御する。そして、ステレオ処理部42は、2つの画像D1,D2に基づいて3次元計測を行い、侵入者の位置つまり侵入者までの距離および侵入者の大きさについての情報を、計測データD4としてコントローラ43に出力する。
【0030】
なお、計測データD3には画像D1,D2が含まれる。計測データD4には距離画像DTが含まれる。計測データD4は、2次元処理部41で検出された侵入者が本当に侵入者であるか否かを正確に判断するために用いられる。
【0031】
また、どの程度の差分画像および差分距離画像の強度を侵入者とするかについては、公知の種々のアルゴリズムを用いて判定することができる。
コントローラ43は、上に述べたように、カメラ11,21のパン、チルトの姿勢を制御する。また、カメラ11,21の画像D1,D2を2次元処理部41で処理するかまたはステレオ処理部42で処理するかを切り替える。
【0032】
通常は、これら2つのカメラ11,21が互いに異なる範囲を撮影するよう、互いに異なる方向を向くように位置制御が行われ、且つズーミングが広角となるように制御される。その場合に、2つのカメラ11,21の画像D1,D2の境界部分が少々重なってもよい。これにより、カメラ11,21によって広い範囲が撮影される。その間において画像D1,D2が2次元処理部41で処理されるように切り替えられる。なお、周囲をスキャンするようにカメラ11,21を移動させることにより、より広い範囲を撮影するようにしてもよい。
【0033】
そして、例えば侵入者が検出されたときに、2つのカメラ11,21がいずれもその侵入者を拡大して撮影するように、カメラ11,21の位置制御およびズーミング制御が行われる。つまり、2つのカメラ11,21が侵入者を含む範囲を重複するように撮影が行われる。そして、画像D1,D2がステレオ処理部42で処理されるよう、コントローラ43によって切り替えられる。
【0034】
すなわち、コントローラ43は、その内部に2次元計測モード(単眼計測モード)とステレオ計測モードとの2つのモードを管理するモード情報を持つ。2次元動き検出部412からの計測データD3、3次元動き検出部423からの計測データD4、およびモード情報の3つの情報に基づいて、2次元処理部41またはステレオ処理部42のいずれかで画像D1,D2を処理するように切り替える。この切り替えによって、2次元計測モードまたはステレオ計測モードのいずれかが設定される。コントローラ43からは、モードに応じた切替え信号DCが出力される。例えば、切替え信号DCとして、2次元計測モードのときはオフ、ステレオ計測モードのときはオンの信号を出力する。切替え信号DCによって、2次元処理部41およびステレオ処理部42の動作の有無を切り替える。また、切替え信号DCによって、画像D1,D2の出力先、各ブロックの出力先、および他の各ブロックの動作の有無などを切り替えるようにしてもよい。
【0035】
コントローラ43は、また、2次元処理部41またはステレオ処理部42からの計測データD3,D4に応じて、侵入者が検出された旨を知らせるための警報信号D5を出力する。
【0036】
出力部44は、警報信号D5に基づいて、音声や画面表示などによって監視者への通知を行う。
また、コントローラ43または出力部44は、LANまたはその他のネットワークを介して外部のホストコンピュータや端末装置との間で通信が可能となっている。その通信によって、画像D1,D2、計測データD3,D4などをホストコンピュータに出力することが可能である。
【0037】
例えば、ステレオ処理部42において侵入者が検出されたときは、距離画像DTおよび基準画像D1を出力し、侵入者が検出されないときは、基準画像D1のみを時刻情報とともに出力する。
【0038】
なお、カメラ11,21の位置または姿勢を制御する際に、パン機構12,22およびチルト機構13,23とともに、位置制御機構31,32を併用する。例えば、いずれか一方のカメラ11,21で侵入者を検出した場合に、そのカメラで侵入者を追跡して撮影するように姿勢を制御しながら、他のカメラも侵入者の方を向くように、パン機構12,22、チルト機構13,23、および位置制御機構31,32を適当に制御する。その際に、最終的に2つのカメラ11,21を結ぶ基線が侵入者の方向に対して垂直となるように位置制御を行う。基線が侵入者の方向に対して垂直となった時点で、ステレオ計測モードに切り替えればよい。これによって、侵入者に対する2つのカメラ11,21の基線長が最大の状態となり、大きな視差で侵入者を撮影することができ、一層高精度なステレオ計測が可能となる。
【0039】
また、カメラ11,21の位置または姿勢を制御する際に、パン機構12,22によってカメラ11,21が互いに対称な動きをするように、チルト機構13,23によってカメラ11,21が同期した同じ動きとなるように、それぞれ制御を行うと、機構が簡単化され制御が容易であるとともに、2次元処理部41およびステレオ処理部42での処理が簡単化される。
【0040】
また、カメラ11,21の位置または姿勢の制御に際して、パン機構12,22、チルト機構13,23、および位置制御機構31,32による制御で位置決めを行うように説明したが、カメラ11,21が適当な位置で機械的に位置決めが行われるように構成してもよい。例えば、2つのカメラ11,21の光軸が互いに平行になるような位置、2つのカメラ11,21がある特定の距離範囲にある対象物を頂点とする2等辺三角形の底辺の各頂点となる位置、定常的に監視したい特定の対象物を撮影する位置、などとなるように、機械的な位置決めを行う。機械的な位置決めのために、例えば、ストッパー、ノッチなどを用いることが可能である。このように機械的な位置決めを行うと、高精度な位置決め制御を行わなくても位置精度が向上し、計測精度を高めることができる。
【0041】
次に、監視システム1の全体の動作の流れを説明する。
(1) まず、監視システム1の電源をオンにしたときに、コントローラ43の内部のモード情報を2次元計測モードに初期設定する。したがって、初期状態において、コントローラ43は、監視システム1を2次元計測モードに設定するために、オフの切替え信号DCを出力する。
【0042】
なお、上に述べた実施形態では、2次元処理部41で2つの画像D1,D2を別個に処理するようにしたが、2つのカメラ11,21が同じ範囲を撮影するようにした場合には、そのうちの1つの画像、例えば基準画像D1のみを用いて、2次元処理部41における対象物の2次元計測を行ってもよい。このようにすると、2次元処理部41における処理がより簡単になる。
(2) 次に、2次元処理部41に前フレームの画像の入力があるときは、2次元動き検出部412は、現フレームの画像と前フレームの画像とから、シーン中で対象物の動きがあったかどうかを判断し、判断結果をコントローラ43に出力する。なお、この場合には、上にも述べたように照明に変動があった場合も対象物の動きとして判断される可能性がある。
(3) そして、ステレオ処理部42に基準画像D1の入力があるときは、ステレオ処理部42は、距離画像DTを3次元動き検出部423に出力する。3次元動き検出部423は、現フレームの距離画像DTと前フレームの距離画像DTTとから、シーン中で対象物の動きがあったかどうかを判断し、コントローラ43に出力する。
(4) コントローラ43は、モード情報が2次元計測モードであるときに、2次元動き検出部412から対象物の動きがあることを示す計測データD3が出力されると、モード情報をステレオ計測モードに変更し、ステレオ処理部42において画像D1,D2の処理を行うように切り替える。2次元動き検出部412から対象物の動きがあることを示す計測データD3が出力されるまでは、モード情報を2次元計測モードのままに維持する。
【0043】
モード情報がステレオ計測モードであるときに、3次元動き検出部423から対象物の動きがないことを示す計測データD4が出力されると、モード情報を2次元計測モードに変更し、2次元処理部41において画像D1,D2の処理を行うように切り替える。3次元動き検出部423から対象物の動きがあることを示す計測データD4が出力されると、モード情報をステレオ計測モードのままに維持し、出力部44に距離画像DTを出力する。
(5) 出力部44は、基準画像D1を、一定の時間間隔で時刻情報とともにホストコンピュータに送信する。距離画像DTが出力されているときは、その距離画像DTを同時刻の基準画像D1とともに送信する。
(6) ホストコンピュータにおいては、基準画像D1または距離画像DTを受信すると、時刻とともにそれらを記録する。距離画像DTが送られてきたときは、それと同時に警報を発生する。
【0044】
なお、上に説明した実施形態によると、2次元処理部41およびステレオ処理部42において、現フレームの画像D1または距離画像DTを前フレームの画像D1Tまたは距離画像DTTと比較することによって対象物の動きを検出しているが、図4および図5に示すように、初期状態またはリセット時の画像(背景画像)D1Nまたは距離画像DTNと比較するようにしてもよい。すなわち、その場合には、1フレーム遅延部411および1フレーム遅延部422に代えて、それぞれ初期画像記憶部411Bまたは初期距離画像記憶部422Bとする。
【0045】
初期画像記憶部411Bには初期状態の画像D1Nが記憶されるよう、また初期距離画像記憶部422Bには初期状態の距離画像DTNが記憶されるよう、各ブロックの接続または動作を制御すればよい。
【0046】
すなわち、例えば、監視システム1の起動時には、基準画像D1が初期画像記憶部411Bに入力されるように、コントローラ43からリセット信号を出力する。それと同時に、初期画像記憶部411Bで基準画像D1Nを記憶する。また、画像D1,D2に基づいてステレオ処理部42が距離画像DTを生成するようにし、生成した初期の距離画像DTNを初期距離画像記憶部422Bに記憶する。そして、監視システム1の動作中において、それぞれに記憶された初期状態の画像D1Nまたは初期状態の距離画像DTNを用いて、対象物の動き検出を行う。
〔第2の実施形態〕
次に、本発明に係る計測システムをロボットナビゲーションシステムに応用した例を説明する。
【0047】
図6は本発明に係る第2の実施形態であるロボット制御システム2の構成を示す図である。
第2の実施形態のロボット制御システム2は、ロボット内に装備される。ロボットは、ロボット制御システム2の制御によって前後左右に移動可能である。また、ロボットの頭部には、パンチルト機構を備えたステレオカメラが装置され、ロボット内部のロボット制御システム2の指令で動作する。
【0048】
ここで、ステレオカメラおよびパンチルト機構は、第1の実施形態の場合と同様なカメラ11,21および位置姿勢制御機構を用いることができる。また、それらを簡略化したものを用いることも可能である。図6においてはカメラ11,21などの図示を省略した。また、位置姿勢制御機構のドライバはパンチルト制御部61として示した。
【0049】
図6において、ロボット制御システム2は、低解像度化部51,52、ステレオ処理部53、3次元マッチング部54、位置同定部55、3次元マップ更新部56、3次元マップ用記憶部57、位置姿勢用記憶部58、コントローラ59、走行制御部60、およびパンチルト制御部61などからなっている。
【0050】
低解像度化部51,52は、カメラ11,21から出力される画像D1,D2の解像度を落とし、総画素数を少なくした低解像度画像D1L,D2Lを出力する。例えば、画像のデータを間引いて解像度を2分の1、3分の1、または4分の1に落とし、それだけ縮小した画像を出力する。
【0051】
ステレオ処理部53は、第1の実施形態の場合と同様に、2つの画像D1,D2またはそれらの低解像度画像D1L,D2Lに基づいて、対象物のステレオ計測のための処理を行い、距離画像DTを含む計測データD4を出力する。
【0052】
3次元マッチング部54は、ステレオ処理部53から出力される距離画像(部分3次元データ)DTを、3次元マップ用記憶部57に予め記憶している3次元マップDMと照合する。つまり、ロボット自身がカメラ11,21を通して見ている距離画像DTと3次元マップDMとのマッチングを行う。そして、距離画像DTに対応する3次元マップDMの部分を検出し、3次元マップDMに対する距離画像DTの位置姿勢情報D6を出力する。なお、照合に際して、照合の度合いがしきい値より低いときは、コントローラ59に対して照合エラー信号DEを出力する。
【0053】
位置同定部55は、3次元マッチング部54から出力される位置姿勢情報D6およびカメラ11,21の位置姿勢情報から、ロボットの位置姿勢を計算して位置姿勢情報D7を出力する。なお、カメラ11,21の位置姿勢情報は、パンチルト制御部61の情報に基づいて得られる。
【0054】
3次元マップ更新部56は、ステレオ処理部53から出力された距離画像DTを、3次元マップDM中の対応する部分に置き替える。これによって、3次元マップ用記憶部57に記憶された3次元マップDMが更新される。
【0055】
コントローラ59は、中央制御部としての役割を果たす。つまり、ロボットのタスクを管理し、タスクに基づいてロボットの各部を制御する。タスク内容に基づいて、ロボットの移動の経路を計算し、必要な情報を適宜カメラ11,21から入力してその経路を辿るように走行制御部60に指令を出す。
【0056】
また、コントローラ59は、高速モードと高精度モードとを切り替えるためのモード信号DDを出力する。モード信号DDがオンのときには、高速モードとなり、画像D1,D2が低解像度化部51,52に入力され、ステレオ処理部53の出力が3次元マッチング部54に入力される。
【0057】
走行制御部60は、車輪の駆動を制御し、ロボットの移動および回転を制御する。
パンチルト制御部61は、コントローラ59からの指令によって、カメラ11,21の視線方向を制御する。このとき、カメラ11,21の姿勢情報を随時出力する。
【0058】
次に、ロボット制御システム2の全体の動作の流れを説明する。
(1) まず、ロボット制御システム2の電源をオンにしたときに、コントローラ59はモード信号DDをオフとし、高精度モードを設定する。ロボットは、静止したまま、パンチルト機構によってカメラ11,21で周囲をスキャンしながら複数の画像D1,D2を入力する。複数の画像D1,D2に基づいて、複数の高精度な距離画像DTが生成される。これらの距離画像DTによって、3次元マップDMが作成される。
【0059】
なお、高精度モードでは、2つの画像D1,D2は、低解像度化部51,52を通過することなくステレオ処理部53に入力される。すなわち、低解像度化部51,52を通過させた場合と比べると、高解像度で高精度の距離画像DTが生成される。しかし、その計算コストが高くなるため、処理レートは遅くなる。
(2) ロボットが移動を始めると、コントローラ59はモード信号DDをオンとし、高速モードに切り替える。生成した距離画像DTを3次元マップ用記憶部57に記憶した3次元マップDMと照合することにより、ロボット自身の位置および姿勢を算出する。そして、ロボットが予め定められた経路から外れている場合は、経路に戻るためのの補正動作を走行制御部60に指示する。
【0060】
なお、高速モードでは、2つの画像D1,D2は、低解像度化部51,52を通過してステレオ処理部53に入力される。すなわち、低解像度化部51,52を通過させない場合と比べると、低解像度で低精度の距離画像DTが生成される。しかし、その計算コストが低くなるため、処理レートは速くなる。
(3) 上の(2)のときに、3次元マッチング部54が照合エラー信号DEを出力していることをコントローラ59が検知すると、コントローラ59は、異常が発生しまたは周囲の環境が変化したと判断し、走行制御部60に指令を出してロボットを静止させる。そして、高精度モードに切り替えて、上の(1)の場合と同様な処理を行って3次元マップDMを再構築する。
〔変形例〕
次に、カメラ11,21からの画像D1,D2の取り込みの回路について、上に各実施形態に対する変形例を説明する。
【0061】
図7は画像入力回路の部分を示すブロック図、図8は撮像素子の画素の一部を示す図、図9は各画素の信号の割り当て状態の例を示す図である。
カメラ11,21には、撮像素子としてカラーのCCDがよく用いられる。低価格のカメラのCCDには、R,G,Bの三原色のいずれかの色のカラーフィルタを画素毎に取り付けたものがしばしば用いられる。そのようなカラーフィルタの全体を、カラーモザイクフィルタと呼称することがある。カラーモザイクフィルタの典型例は、図8に示すようなRGBベイヤフィルタFL1である。RGBベイヤフィルタFL1を用いた場合は、2つのGと各1つのR,Bの合計4つの画素によって、対象物の画像D1,D2の1つの画素が表現される。
【0062】
ところで、記録用の画像としてはカラー画像を用いることが、またステレオ計測用には輝度画像を用いることが経済的である。その理由は、ステレオ計測において対応付けを行う際には輝度成分を用いることが最も有効であり、色成分を用いることは計算コストが増大する割には有効性が低いからである。
【0063】
そのため、ステレオ計測モードで計測を行う場合には、2つのカメラ11,21のそれぞれのCCDから輝度成分を抽出し、画素毎にインターレースして出力させる。これを実現するため、カメラ11からの出力を1画素分遅延させるための1画素遅延部71、および、画素の同期制御を行うための画素同期制御部72を設ける。
【0064】
つまり、1画素遅延部71は、参照カメラ11のCCDからラスタ順に画素シリアルで出力されるベイヤ配列のRAW画像を、1画素分遅延させる。そして、基準カメラ21のCCDからR画素またはB画素を出力するタイミングにおいて、カメラ11のG画素が出力されるように、スイッチSWを切り替える。その切り替えのために、画素同期制御部72によってタイミングをとる。スイッチSWからは、図9に示すように、カメラ11のCCDからの画素信号とカメラ21のCCDからの画素信号とが交互に出力される。これを1つのA/D変換器によって量子化する。
【0065】
図9に示すように、基準カメラ21のGの画素成分(GS)と参照カメラ11のGの画素成分(GR)とが交互に出力される。
これによって、2つのカメラ11,21のG画素成分が交互に配列された画像D12を1系統のラインで取り込むことが可能となる。取り込んだ画像D12は適当なメモリに記憶させる。アドレスを指定することによって、2つの画像D1,D2を分離して読み出すことができる。このようにして、各カメラ11,21のCCDにおける特定の色のカラーフィルタのみに対応する画素の画像データを用いる。
【0066】
これによって、ステレオ計測モードにおける画像の取り込みが高速化される。また、このような構成を用いることにより、2次元計測モードでは、基準カメラ21のカラー画像(ベイヤ配列RAW画像)をそのままCCDから取り出すことができる。
【0067】
上の実施形態によると、ロボットや監視システムなどにおいて、2次元計測モードとステレオ計測モードとを環境の変化や対象物の動きなどをトリガとして切り替えることにより、低コストの構成で最適な計測を行うことができる。
【0068】
また、2つのカメラ11,21の撮影範囲が互いに異なるように位置制御を行っておき、侵入者などが検出されたときに2つのカメラ11,21でステレオ計測を行うように位置制御を行うことによって、広範囲の監視と侵入者の有無の高精度な判定とを両立させることができる。
【0069】
また、上の実施形態では、カメラ11,21がそれぞれパン機構12,22およびチルト機構13,23によって位置制御されるものを主体として説明したが、これらカメラ11,21の相対的な位置関係を固定としてもよい。この場合に、カメラ11,21の位置関係を固定とした上で、それらの全体を上の位置制御機構31などによって位置制御すればよい。例えば、第2の実施形態のロボット制御システム2において、2つのカメラ同士の位置関係を固定とし、それら2つのカメラを1つのカメラ群として扱い、カメラ群の全体がパンおよびチルトするように制御する。そして、第1の実施形態の場合と同様に、2次元計測とステレオ計測とを切り替える。その場合に、2次元計測時には一方のカメラによる画像のみを用いる。但し、両方の画像を2枚の2次元画像として用いることも可能である。ステレオ計測時には両方の画像間での対応付けを行う。
【0070】
上の実施形態においては、2つのカメラ11,21を横方向(水平方向)に並べて配置したが、縦方向(垂直方向)に並べて配置してもよい。また、斜めに配置してもよい。3つ以上のカメラを用いてもよい。監視システム1またはロボット制御システム2の各部は、CPUとメモリなどを用いてソフト的に、またはハードウエア回路によって、またはそれらの組み合わせによって実現することが可能である。
【0071】
その他、監視システム1またはロボット制御システム2の全体または各部の構成、回路、形状、寸法、個数、処理内容などは、本発明の趣旨に沿って適宜変更することができる。本発明は、監視システムおよびロボット制御システム以外の種々のアプリケーションに利用することが可能である。
【0072】
【発明の効果】
本発明によると、ロボットや監視システムなどにおいて、環境の変化や対象物の動きなどに応じて最適な計測を行うことができる。
【図面の簡単な説明】
【図1】本発明に係る第1の実施形態である監視システムの構成を示す図である。
【図2】2次元処理部の構成の例を示すブロック図である。
【図3】ステレオ処理部の構成の例を示すブロック図である。
【図4】変形した2次元処理部の構成を示すブロック図である。
【図5】変形したステレオ処理部の構成を示すブロック図である。
【図6】本発明に係る第2の実施形態であるロボット制御システムの構成を示す図である。
【図7】画像入力回路の部分を示すブロック図である。
【図8】撮像素子の画素の一部を示す図である。
【図9】各画素の信号の割り当て状態の例を示す図である。
【符号の説明】
1 監視システム(計測システム)
2 ロボット制御システム(計測システム)
11、21 カメラ
12,22 パン機構(位置制御手段)
13,23 チルト機構(位置制御手段)
31 位置制御機構(位置制御手段)
41 2次元処理部(2次元計測手段)
42 ステレオ処理部(ステレオ計測手段)
43 コントローラ(切替え手段)
D1,D2 画像
Claims (3)
- 複数のカメラから得られる画像に基づいて対象物を計測する計測システムであって、
複数の前記カメラの撮影方向を変更するために前記カメラの位置制御を行う位置制御手段と、
対象物について少なくとも1つの前記カメラから得られる画像に基づいて当該対象物の2次元計測を行う2次元計測手段と、
同一の対象物について前記複数のカメラから得られる複数の画像に基づいて当該対象物のステレオ計測を行うステレオ計測手段と、
前記2次元計測手段と前記ステレオ計測手段とを切り替えて動作させるための切替え手段と、
を有し、
前記位置制御手段は、
前記2次元計測手段による2次元計測を行うときに、前記複数のカメラが互いに異なる範囲を撮影するよう互いに異なる方向を向くように位置制御を行い、
前記ステレオ計測手段よるステレオ計測を行うときに、前記複数のカメラが前記対象物を含んで互いに重複する範囲を撮影するように位置制御を行い、
前記切替え手段は、
初期状態では2次元計測手段が動作するように切り替えており、前記2次元計測手段によって移動する対象物が検出されたときに前記ステレオ計測手段が動作するように切り替える、
ことを特徴とする計測システム。 - 前記ステレオ計測手段は、
前記複数の画像の解像度を低下させる手段を有し、
ステレオ計測を行うに当たって、高解像度の3次元データの生成と低解像度の3次元データの生成とを適宜切り替えて計測を行う、
請求項1記載の計測システム。 - 前記カメラには、三原色のいずれかの色のカラーフィルタが画素毎に配置された撮像素子が設けられており、
複数の前記カメラから得られる画像データを処理するに際して、各カメラの撮像素子における特定の色のカラーフィルタのみに対応する画素の画像データを用いる、
請求項1記載の計測システム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003068290A JP3700707B2 (ja) | 2003-03-13 | 2003-03-13 | 計測システム |
US10/620,729 US20040179729A1 (en) | 2003-03-13 | 2003-07-16 | Measurement system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003068290A JP3700707B2 (ja) | 2003-03-13 | 2003-03-13 | 計測システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004279111A JP2004279111A (ja) | 2004-10-07 |
JP3700707B2 true JP3700707B2 (ja) | 2005-09-28 |
Family
ID=32959325
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003068290A Expired - Fee Related JP3700707B2 (ja) | 2003-03-13 | 2003-03-13 | 計測システム |
Country Status (2)
Country | Link |
---|---|
US (1) | US20040179729A1 (ja) |
JP (1) | JP3700707B2 (ja) |
Families Citing this family (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100649523B1 (ko) * | 2005-06-30 | 2006-11-27 | 삼성에스디아이 주식회사 | 입체 영상 표시 장치 |
KR100727033B1 (ko) * | 2005-12-07 | 2007-06-12 | 한국전자통신연구원 | 네트워크 기반 지능형 서비스 로봇의 비전 처리 장치 및방법과 이를 이용한 시스템 |
US7912320B1 (en) | 2007-01-16 | 2011-03-22 | Paul Minor | Method and apparatus for photographic measurement |
JP4318724B2 (ja) * | 2007-02-14 | 2009-08-26 | パナソニック株式会社 | 監視カメラ及び監視カメラ制御方法 |
JP2008271458A (ja) * | 2007-04-25 | 2008-11-06 | Hitachi Ltd | 撮像装置 |
JP4979525B2 (ja) * | 2007-09-20 | 2012-07-18 | 株式会社日立製作所 | マルチカメラシステム |
AU2009249001B2 (en) * | 2008-05-22 | 2013-10-24 | Matrix Electronic Measuring Properties, Llc | Stereoscopic measurement system and method |
US8249332B2 (en) * | 2008-05-22 | 2012-08-21 | Matrix Electronic Measuring Properties Llc | Stereoscopic measurement system and method |
US8326022B2 (en) * | 2008-05-22 | 2012-12-04 | Matrix Electronic Measuring Properties, Llc | Stereoscopic measurement system and method |
US9449378B2 (en) | 2008-05-22 | 2016-09-20 | Matrix Electronic Measuring Properties, Llc | System and method for processing stereoscopic vehicle information |
US8345953B2 (en) * | 2008-05-22 | 2013-01-01 | Matrix Electronic Measuring Properties, Llc | Stereoscopic measurement system and method |
JP5514506B2 (ja) * | 2009-10-21 | 2014-06-04 | 株式会社日立国際電気 | 侵入物監視システムおよび侵入物監視方法 |
US8988432B2 (en) * | 2009-11-05 | 2015-03-24 | Microsoft Technology Licensing, Llc | Systems and methods for processing an image for target tracking |
JP2011227073A (ja) * | 2010-03-31 | 2011-11-10 | Saxa Inc | 3次元位置測定装置 |
JP2012124740A (ja) * | 2010-12-09 | 2012-06-28 | Sumitomo Electric Ind Ltd | 撮像システム、及び対象物の位置特定方法 |
WO2012108187A1 (ja) * | 2011-02-08 | 2012-08-16 | 富士フイルム株式会社 | 立体視用画像生成装置および方法、並びにプログラム |
US9091628B2 (en) | 2012-12-21 | 2015-07-28 | L-3 Communications Security And Detection Systems, Inc. | 3D mapping with two orthogonal imaging views |
AT515340B1 (de) * | 2014-02-14 | 2016-01-15 | Ait Austrian Inst Technology | Verfahren zur Erstellung von Stereo-Digitalbildern |
EP2919067B1 (en) * | 2014-03-12 | 2017-10-18 | Ram Srikanth Mirlay | Multi-planar camera apparatus |
US20180091733A1 (en) * | 2015-07-31 | 2018-03-29 | Hewlett-Packard Development Company, L.P. | Capturing images provided by users |
JP6527848B2 (ja) * | 2016-10-18 | 2019-06-05 | 東芝ロジスティクス株式会社 | 監視装置及びプログラム |
WO2018086133A1 (en) * | 2016-11-14 | 2018-05-17 | SZ DJI Technology Co., Ltd. | Methods and systems for selective sensor fusion |
JP2017216709A (ja) * | 2017-07-13 | 2017-12-07 | 株式会社ニコン | 電子カメラ |
Family Cites Families (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US3267431A (en) * | 1963-04-29 | 1966-08-16 | Ibm | Adaptive computing system capable of being trained to recognize patterns |
US3564132A (en) * | 1966-01-17 | 1971-02-16 | Mardix | Apparatus for controlling the passage of persons and objects between two areas utilizing closed circuit television |
US6396397B1 (en) * | 1993-02-26 | 2002-05-28 | Donnelly Corporation | Vehicle imaging system with stereo imaging |
US5864360A (en) * | 1993-08-26 | 1999-01-26 | Canon Kabushiki Kaisha | Multi-eye image pick-up apparatus with immediate image pick-up |
WO1995034044A1 (en) * | 1994-06-09 | 1995-12-14 | Kollmorgen Instrument Corporation | Stereoscopic electro-optical system for automated inspection and/or alignment of imaging devices on a production assembly line |
US6079862A (en) * | 1996-02-22 | 2000-06-27 | Matsushita Electric Works, Ltd. | Automatic tracking lighting equipment, lighting controller and tracking apparatus |
US5864640A (en) * | 1996-10-25 | 1999-01-26 | Wavework, Inc. | Method and apparatus for optically scanning three dimensional objects using color information in trackable patches |
US6424877B1 (en) * | 1997-04-04 | 2002-07-23 | Minolta Co., Ltd. | Reproduction apparatus |
US6584219B1 (en) * | 1997-09-18 | 2003-06-24 | Sanyo Electric Co., Ltd. | 2D/3D image conversion system |
JP3525896B2 (ja) * | 1999-03-19 | 2004-05-10 | 松下電工株式会社 | 3次元物体認識方法および同方法を使用したビンピッキングシステム |
US6597801B1 (en) * | 1999-09-16 | 2003-07-22 | Hewlett-Packard Development Company L.P. | Method for object registration via selection of models with dynamically ordered features |
WO2001039512A1 (en) * | 1999-11-26 | 2001-05-31 | Sanyo Electric Co., Ltd. | Device and method for converting two-dimensional video to three-dimensional video |
US6556706B1 (en) * | 2000-01-28 | 2003-04-29 | Z. Jason Geng | Three-dimensional surface profile imaging method and apparatus using single spectral light condition |
EP1128676B1 (en) * | 2000-02-28 | 2009-04-15 | Hitachi Kokusai Electric Inc. | Intruding object monitoring method and intruding object monitoring system |
US7522186B2 (en) * | 2000-03-07 | 2009-04-21 | L-3 Communications Corporation | Method and apparatus for providing immersive surveillance |
DE10051415C2 (de) * | 2000-10-17 | 2003-10-09 | Advanced Realtime Tracking Gmb | Optisches Trackingsystem und -verfahren |
WO2002065761A2 (en) * | 2001-02-12 | 2002-08-22 | Carnegie Mellon University | System and method for stabilizing rotational images |
WO2003029046A1 (en) * | 2001-10-03 | 2003-04-10 | Maryann Winter | Apparatus and method for sensing the occupancy status of parking spaces in a parking lot |
DE10150428A1 (de) * | 2001-10-11 | 2003-04-30 | Siemens Ag | Verfahren zur Erzeugung dreidimensionaler, mehrfachaufgelöster Volumenbilder eines Untersuchungsobjekts |
DE50302813D1 (de) * | 2002-04-19 | 2006-05-18 | Iee Sarl | Sicherheitsvorrichtung für ein fahrzeug |
-
2003
- 2003-03-13 JP JP2003068290A patent/JP3700707B2/ja not_active Expired - Fee Related
- 2003-07-16 US US10/620,729 patent/US20040179729A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
JP2004279111A (ja) | 2004-10-07 |
US20040179729A1 (en) | 2004-09-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3700707B2 (ja) | 計測システム | |
JP3905116B2 (ja) | 検出領域調整装置 | |
JP6532217B2 (ja) | 画像処理装置、画像処理方法、及び画像処理システム | |
US7256817B2 (en) | Following device | |
JP3800217B2 (ja) | 監視システム | |
EP1182465B1 (en) | Moving object tracking apparatus | |
JP4418805B2 (ja) | 検出領域調整装置 | |
WO2006040687A2 (en) | Automatically expanding the zoom capability of a wide-angle video camera | |
US20120218378A1 (en) | Camera platform system | |
JPWO2006068049A1 (ja) | カメラ端末および撮影領域調整装置 | |
KR20090062881A (ko) | 이동 로봇 및 그 이동 객체 검출 방법 | |
US20160125585A1 (en) | Camera system and image registration method thereof | |
CN114554093B (zh) | 图像采集系统及目标跟踪方法 | |
KR101452342B1 (ko) | 감시카메라 유닛 및 그 구동방법 | |
KR20010016639A (ko) | 전방향 카메라와 다 수의 능동 카메라가 연동된 감시시스템 및 그 제어방법 | |
KR101916093B1 (ko) | 객체 추적 방법 | |
WO2005088962A1 (ja) | 追尾装置、及びモーションキャプチャ装置 | |
KR102097908B1 (ko) | 대상체 촬영시스템 | |
JP2009044475A (ja) | 監視カメラ装置 | |
JPH09322052A (ja) | 自動撮影カメラシステム | |
JP3875199B2 (ja) | 撮影装置 | |
JP2006033188A (ja) | 監視装置および監視方法 | |
KR101996907B1 (ko) | 객체 추적 장치 | |
KR100761817B1 (ko) | 움직이는 물체를 효율적으로 추적하는 감시용 카메라시스템 및 그 제어 방법 | |
JP3549332B2 (ja) | 自動撮影カメラシステム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20050318 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050405 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20050520 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050525 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20050525 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20050621 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20050704 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080722 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090722 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090722 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100722 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110722 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120722 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130722 Year of fee payment: 8 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |