JP2011205388A - 信号処理装置および方法、並びにプログラム - Google Patents
信号処理装置および方法、並びにプログラム Download PDFInfo
- Publication number
- JP2011205388A JP2011205388A JP2010070496A JP2010070496A JP2011205388A JP 2011205388 A JP2011205388 A JP 2011205388A JP 2010070496 A JP2010070496 A JP 2010070496A JP 2010070496 A JP2010070496 A JP 2010070496A JP 2011205388 A JP2011205388 A JP 2011205388A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- presentation
- frequency
- capture
- photographing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Abstract
【課題】より簡単にステレオカメラの撮影タイミングのずれを検出できるようにする。
【解決手段】生成部91には、輝度が所定の周波数で周期的に変化する提示信号を、ステレオカメラを構成する左右の2つのカメラで撮影して得られた画像が入力される。生成部91は、供給された左右の画像から、提示信号の輝度の時間的変化を示す左右のキャプチャ信号を生成する。提示信号の周波数が、カメラのフレームレートのナイキスト周波数より大きい場合、フィルタ処理部93は、フィルタ処理により、キャプチャ信号から特定の周波数の左右の折り返し信号を抽出する。マッチング処理部94は、左右の折り返し信号の位相ずれを検出し、ずれ量算出部95は、折り返し信号の位相ずれからカメラの撮影タイミングのずれを検出する。本発明は、信号処理装置に適用することができる。
【選択図】図7
【解決手段】生成部91には、輝度が所定の周波数で周期的に変化する提示信号を、ステレオカメラを構成する左右の2つのカメラで撮影して得られた画像が入力される。生成部91は、供給された左右の画像から、提示信号の輝度の時間的変化を示す左右のキャプチャ信号を生成する。提示信号の周波数が、カメラのフレームレートのナイキスト周波数より大きい場合、フィルタ処理部93は、フィルタ処理により、キャプチャ信号から特定の周波数の左右の折り返し信号を抽出する。マッチング処理部94は、左右の折り返し信号の位相ずれを検出し、ずれ量算出部95は、折り返し信号の位相ずれからカメラの撮影タイミングのずれを検出する。本発明は、信号処理装置に適用することができる。
【選択図】図7
Description
本発明は信号処理装置および方法、並びにプログラムに関し、特に、より簡単かつ精度よくステレオカメラにおける撮影タイミングのずれを検出することができるようにした信号処理装置および方法、並びにプログラムに関する。
従来、視点の異なる位置から同じ被写体を撮影する複数のカメラからなるステレオカメラが知られており、例えば、ステレオカメラにより撮影された画像対は、被写体までの距離測定や視差の検出等に利用されている。ところが、画像対の撮影時においては、画像対を構成する各画像の撮影のタイミングにずれが生じるため、そのタイミングのずれが画像対の位相ずれとなり、その結果、距離や視差の検出誤差が生じる。なお、画像対の位相ずれは、時間オフセットなどとも呼ばれている。
そこで、非同期の画像信号を同期させる技術として、ステレオカメラを構成する一方のカメラにより撮影された複数フレームの画像から動きのある前景を除去し、残った静的画像部分を利用して位相ずれを検出する技術が提案されている(例えば、特許文献1参照)。この技術では、静的画像部分と、他方のカメラで撮影された画像とのマッチング処理を行うことで、画像対の位相ずれが検出される。
しかしながら、静的画像部分とのマッチング処理を行う方法では、複数フレームの画像から動きを検出して、静的画像部分を切り出してからマッチング処理を行わなければならないため、処理量が多くなり、位相ずれの検出に時間がかかってしまう。また、この方法では、マッチング処理に用いられる、静的画像部分と他方のカメラで撮影された画像とが必ずしも時間的に同期せず、そのような場合には、位相ずれの検出のための各処理で誤差が生じ、位相ずれの検出精度が低下してしまう。
本発明は、このような状況に鑑みてなされたものであり、より簡単かつ精度よくステレオカメラにおける撮影タイミングのずれを検出することができるようにするものである。
本発明の一側面の信号処理装置は、第1の撮影手段と第2の撮影手段とに、既知の同じフレームレートで同一の被写体を撮影させたときに生じる撮影タイミングのずれを検出する信号処理装置であって、既知の第1の周波数で周期的に状態が変化する提示信号を、前記第1の撮影手段により撮影して得られた第1の画像から、各時刻における前記提示信号の状態を示す第1のキャプチャ信号を生成するとともに、前記提示信号を前記第2の撮影手段により撮影して得られた第2の画像から、各時刻における前記提示信号の状態を示す前記第2のキャプチャ信号を生成する生成手段と、前記第1のキャプチャ信号と前記第2のキャプチャ信号との位相のずれを検出することで、前記撮影タイミングのずれを検出するマッチング処理手段とを備える。
前記マッチング処理手段には、前記第1の周波数が前記フレームレートのナイキスト周波数以下である場合、前記第1のキャプチャ信号と、前記第2のキャプチャ信号との差分を求めることで前記位相のずれを検出させ、前記位相のずれを前記撮影タイミングのずれとさせることができる。
信号処理装置には、前記第1のキャプチャ信号にフィルタ処理を施して、前記フレームレートと前記第1の周波数とから予め定まる第2の周波数の第1の折り返し信号を抽出するとともに、前記第2のキャプチャ信号に前記フィルタ処理を施して、前記第2の周波数の第2の折り返し信号を抽出するフィルタ処理手段をさらに設け、前記マッチング処理手段には、前記第1の周波数が前記ナイキスト周波数より大きい場合、前記第1の折り返し信号と前記第2の折り返し信号との差分を求めることで、前記位相のずれを検出させ、前記位相のずれを前記撮影タイミングのずれとさせることができる。
前記第1のキャプチャ信号および前記第2のキャプチャ信号に含まれる折り返し信号の周波数のうち、正の値である最小の周波数が、前記第2の周波数として定めることができる。
前記提示信号は、画像上における撮影対象の表示位置若しくは大きさ、輝度、色、または提示位置が前記第1の周波数で周期的に変化する信号とすることができる。
信号処理装置には、前記第1の撮影手段により動きのある動被写体を撮影して得られた第1の撮影画像と、前記第2の撮影手段により前記動被写体を撮影して得られた第2の撮影画像とを用いた対応点探索処理により、所定位置から前記動被写体までの距離、または前記動被写体の視差を算出する算出手段と、異なる時刻に撮影された前記第1の撮影画像を用いて、前記動被写体の動きを検出する動き検出手段と、前記動き検出の結果から、前記第1の撮影画像における前記動被写体の移動速度を求め、前記移動速度および前記撮影タイミングのずれに基づいて、前記距離または前記視差の誤差を算出する誤差算出手段と、前記誤差に基づいて、前記距離または前記視差を補正する補正手段とをさらに設けることができる。
本発明の一側面の信号処理方法またはプログラムは、第1の撮影手段と第2の撮影手段とに、既知の同じフレームレートで同一の被写体を撮影させたときに生じる撮影タイミングのずれを検出する信号処理方法またはプログラムであって、既知の第1の周波数で周期的に状態が変化する提示信号を、前記第1の撮影手段により撮影して得られた第1の画像から、各時刻における前記提示信号の状態を示す第1のキャプチャ信号を生成するとともに、前記提示信号を前記第2の撮影手段により撮影して得られた第2の画像から、各時刻における前記提示信号の状態を示す前記第2のキャプチャ信号を生成し、前記第1のキャプチャ信号と前記第2のキャプチャ信号との位相のずれを検出することで、前記撮影タイミングのずれを検出するステップを含む。
本発明の一側面においては、第1の撮影手段と第2の撮影手段とに、既知の同じフレームレートで同一の被写体を撮影させたときに生じる撮影タイミングのずれを検出する場合に、既知の第1の周波数で周期的に状態が変化する提示信号を、前記第1の撮影手段により撮影して得られた第1の画像から、各時刻における前記提示信号の状態を示す第1のキャプチャ信号が生成されるとともに、前記提示信号を前記第2の撮影手段により撮影して得られた第2の画像から、各時刻における前記提示信号の状態を示す前記第2のキャプチャ信号が生成され、前記第1のキャプチャ信号と前記第2のキャプチャ信号との位相のずれを検出することで、前記撮影タイミングのずれが検出される。
本発明の一側面によれば、より簡単かつ精度よくステレオカメラにおける撮影タイミングのずれを検出することができる。
以下、図面を参照して、本発明を適用した実施の形態について説明する。
〈本発明の概要〉
例えば、図1に示すように、信号提示部11により提示された既知の提示信号を、ステレオカメラを構成するカメラ12−1とカメラ12−2により撮影する場合を考える。
例えば、図1に示すように、信号提示部11により提示された既知の提示信号を、ステレオカメラを構成するカメラ12−1とカメラ12−2により撮影する場合を考える。
ここで、提示信号は、例えば、波形が正弦波形状、すなわち輝度が所定の周波数で周期的に変化する光信号とされる。なお、提示信号は、その他、画像上における撮影対象の表示位置若しくは大きさ、強度、色、または提示位置などの状態が、所定の周波数で周期的に変化するものであれば、どのようなものであってもよい。
また、カメラ12−1とカメラ12−2は、提示信号を被写体として時間的に連続する画像を撮影するが、カメラ12−1とカメラ12−2の画像のキャプチャのタイミングがわずかな時間だけずれており、キャプチャの間隔は等しいものとする。すなわち、カメラ12−1とカメラ12−2は、同じフレームレート(周波数)で被写体を撮影するが、その撮影タイミングがわずかにずれている。なお、以下、カメラ12−1およびカメラ12−2を特に区別する必要のない場合、単にカメラ12とも称する。
2つのカメラ12からなるステレオカメラは、例えば、外部からカメラ12にクロックが入力されるが、カメラ12間の垂直水平の同期信号がずれている場合や、2つのカメラ12を同じ種類のカメラとすることで、それらのカメラ12で同じ種類の発振器が使用される場合に近似的に得ることができる。
いま、カメラ12−1が矢印A1に示す波形のタイミングで提示信号を撮影(キャプチャ)し、撮影により得られた画像から、提示信号の輝度の時間的な変化を示す左キャプチャ信号を生成するとする。また、カメラ12−2が矢印A2に示す波形のタイミングで提示信号を撮影し、撮影により得られた画像から、提示信号の輝度の時間的な変化を示す右キャプチャ信号を生成するとする。
ここで、矢印A1および矢印A2に示される波形において、図中、横方向は、時間方向を示しており、図中、上に凸の期間に1フレーム分の画像が撮影されるものとする。図1の例では、各カメラ12の画像のキャプチャのタイミングは等間隔であり、その期間は同じ長さであるが、キャプチャのタイミングがわずかな時間△tだけずれているので、左キャプチャ信号と右キャプチャ信号は、時間△tの分だけ位相のずれが生じる。
したがって、これらの非同期の左キャプチャ信号と右キャプチャ信号の位相のずれ△tを検出することができれば、2つのカメラ12における画像の撮影タイミングを完全に同期させることができるようになる。なお、以下、左キャプチャ信号と右キャプチャ信号を特に区別する必要のない場合、単にキャプチャ信号とも称することとする。
ところで、提示信号を適切にサンプリングするには、すなわち提示信号の時間的な輝度の変化を正確に復元するには、サンプリング定理より、提示信号の輝度変化の周波数が、カメラ12のフレームレートのナイキスト周波数以下である必要がある。
本発明を適用した信号処理装置では、提示信号の周波数がカメラ12のフレームレート(周波数)のナイキスト周波数以下であるか否かの場合分けが行われて、カメラ12の位相ずれ△tの検出が行われる。
すなわち、提示信号の周波数がカメラ12のフレームレートのナイキスト周波数以下である場合、キャプチャ信号により提示信号の輝度変化は正しく復元されるので、左キャプチャ信号と右キャプチャ信号のマッチング処理により、カメラ12の位相ずれが検出される。
これに対して、提示信号の周波数がカメラ12のフレームレートのナイキスト周波数以下でない場合、キャプチャ信号により提示信号の輝度変化は正しく復元できないので、キャプチャ信号に含まれる折り返し信号のマッチング処理により、カメラ12の位相ずれが検出される。
以下、カメラ12の1秒間当たりの画像の撮影回数、つまりフレームレートが30fps(Frame Per Second)であり、提示信号の輝度変化の周波数が50Hzである場合を例として、折り返し信号を利用した位相ずれの検出について説明する。なお、以下では、カメラ12が画像を撮影するときの画像のサンプリングの周波数、つまりフレームレートを単にカメラ12の周波数とも称する。
例えば、図2の矢印A11および矢印A12に示す、左キャプチャ信号および右キャプチャ信号が得られたとする。なお、図中、横方向は時間方向を示しており、破線で示される信号の波形Stは、本来の提示信号の波形、つまり輝度の変化を表している。
矢印A11に示す左キャプチャ信号、および矢印A12に示す右キャプチャ信号は、それぞれ連続する提示信号を離散的にサンプリングして得られた信号である。例えば、左キャプチャ信号のサンプルSP1は、所定時刻のサンプルのサンプル値を表しており、このサンプル値は、所定時刻における提示信号の輝度を示すものである。同様に、右キャプチャ信号のサンプルSP2は、所定時刻のサンプルのサンプル値を表しており、このサンプル値は、所定時刻における提示信号の輝度を示すものである。
カメラ12のフレームレートのナイキスト周波数よりも、提示信号の周波数が大きい場合、左右のキャプチャ信号には、折り返し信号(k次高調波)が含まれており、キャプチャ信号は、本来の提示信号の波形Stとはならない。また、左右のキャプチャ信号は、互いにキャプチャのタイミングがずれているため、キャプチャ信号の位相ずれを推定するために、それらのキャプチャ信号をそのまま比較することは困難である。
ところで、時間方向の波形を示す左キャプチャ信号に対してフーリエ変換を施すと、例えば、図3に示すように、周波数領域における左キャプチャ信号の各周波数成分が得られる。なお、図3において、横軸は周波数を示しており、縦軸は各周波数成分のパワーを示している。
図3の例では、50Hzの提示信号が折り返されて、キャプチャ信号に、周波数が10Hzの折り返し信号SOが含まれていることが分かる。ここで、カメラ12のフレームレートは30fpsであるから、キャプチャ信号のサンプリング周波数は30Hzであり、このときのナイキスト周波数は15Hzとなる。そして折り返し信号SOは、ナイキスト周波数15Hz以下の周波数成分となっている。このように、提示信号の周波数成分が折り返されて、特定の周波数の折り返し信号が生じるのは、右キャプチャ信号においても同じである。
ここで、提示信号の周波数が既知である場合、50Hzの信号が10Hzに折り返されるといったように、カメラ12のナイキスト周波数以下に含まれる折り返し信号の周波数は特定可能である。そこで、本発明を適用した信号処理装置では、提示信号の周波数がカメラ12のフレームレートのナイキスト周波数よりも大きい場合、フィルタ処理により抽出された折り返し信号を用いたマッチング処理により、キャプチャ信号の位相ずれが検出される。これにより、カメラ12によるキャプチャのずれ時間を見積もることが可能となる。
例えば、図3の例では、キャプチャ信号のうち、ナイキスト周波数である15Hz以下の周波数成分のみを通過させるローパスフィルタを用いれば、キャプチャ信号から確実に折り返し信号のみを抽出することができる。
例えば、左右の各キャプチャ信号に対してフーリエ変換を行ってから、ローパスフィルタを用いたフィルタ処理を施し、さらに得られた信号に逆フーリエ変換を施すと、図4に示す折り返し信号SLと、折り返し信号SRが得られる。なお、図4において、横軸は時間を示しており、縦軸は信号の振幅を示している。
図4の例では、折り返し信号SLと、折り返し信号SRとは、位相が△t’だけずれている。折り返し信号SLおよび折り返し信号SRは、正弦波であるので、これらの折り返し信号を比較すれば、この位相ずれ△t’を簡単かつ確実に求めることができる。
なお、フィルタ処理は、フーリエ変換後のキャプチャ信号に対して行なってもよいし、フーリエ変換を行なわずに、キャプチャ信号に対してそのまま行なわれてもよい。また、フィルタ処理により抽出される周波数帯域は、折り返し信号が含まれており、折り返し信号の位相ずれ△t’を充分な精度で検出できれば、どのような周波数帯域であってもよい。
このようにして、特定の周波数の折り返し信号の位相ずれ△t’が得られると、この位相ずれ△t’を用いて、実際のキャプチャ信号の位相ずれ△tを求めることができる。具体的には、一般に次式(1)が成立することが知られているから、折り返し信号、つまり高調波の次数kと、折り返し信号の位相ずれ△t’とから、キャプチャ信号の位相ずれ△tを求めることができる。
すなわち、位相ずれ△t’に次数kを乗算することで、位相ずれ△tが得られる。このようにして得られたキャプチャ信号の位相ずれが、実際のカメラ12の撮影タイミングのずれ△tである。以上のように、既知である提示信号の周波数と、カメラ12の既知のフレームレートとから、抽出すべき折り返し信号の次数kと周波数を予め求めておけば、簡単な処理で位相ずれ△tを求めることができる。
ここで、折り返し信号の次数kと周波数を定めることについて考える。まず、提示信号f(t)が、振幅がAであり、角周波数がωpである正弦波信号であるとすると、提示信号f(t)は次式(2)で表される。
このような提示信号f(t)を、キャプチャ間隔TSで離散的にサンプリングすると、次式(3)に示す左キャプチャ信号fs(t)が得られる。なお、式(3)において、δ(t)はデルタ関数を表している。
さらに、提示信号f(t)のフーリエ変換をF(ω)として次式(4)を計算すると、左キャプチャ信号fs(t)のフーリエ変換Fs(ω)が得られる。なお、式(4)において、ωsは、カメラ12によるサンプリング角周波数を表している。
ここで、右キャプチャ信号が、左キャプチャ信号fs(t)と微小時間△tだけ位相が遅れている、つまりカメラ12の撮影(キャプチャ)のタイミングが△tだけずれているとする。このとき、右キャプチャ信号をfs△t(t)とすると、右キャプチャ信号のフーリエ変換Fs△t(ω)は、次式(5)により表される。
このようにして得られたフーリエ変換Fs(ω)とフーリエ変換Fs△t(ω)には、k=n(但しk≠0)のとき、かつ提示信号f(t)の周波数が、カメラ12の周波数(フレームレート)よりも高い場合、折り返し成分が含まれる。
例えば、式(5)において、k=0の基本波は、左キャプチャ信号との位相のずれがなく、同期がとれており、この基本波は提示信号を表している。また、式(5)において、k=nのn次の折り返し信号(n次高調波)は、左キャプチャ信号のn次の折り返し信号と位相が2πn△tだけずれていることが分かる。このことから、上述した式(1)が成立することが分かる。
また、式(4)および式(5)から、折り返し信号の次数kと周波数は、式(4)および式(5)におけるF(ω−kωs)から求まることが分かる。F(ω−kωs)を得るには、提示信号f(t)のフーリエ変換F(ω)を求め、フーリエ変換F(ω)にω=ω−kωsを代入すればよい。そこで、上述した式(2)を用いて提示信号f(t)のフーリエ変換F(ω)を求めると、次式(6)が得られる。
このようにして得られたフーリエ変換F(ω)に、ω=ω−kωsを代入すると、次式(7)が得られる。
フーリエ変換F(ω−kωs)は、正弦波信号のフーリエ変換により得られたものであるから、カメラ12のフレームレートが30fpsであり、提示信号の周波数が50Hzであるとすると、図5に示す線スペクトルが得られるはずである。なお、図5において、横軸は周波数を示しており、縦軸は各周波数成分のパワーを示している。
図5の例では、10Hz、20Hz、40Hz、50Hz、70Hz、および80Hzの各周波数にピークが観測されており、図3に示したキャプチャ信号と同じ周波数でピークが観測されている。これらの各ピークの周波数は、折り返し信号の周波数であり、この周波数は、式(7)から得られる次式(8)および式(9)に示す関係から求めることができる。
式(8)および式(9)で示される関係式は、角周波数の関係式であるので、これを提示信号の周波数fpと、カメラ12による画像のサンプリングの周波数fsとを用いて表すと、次式(10)および式(11)に示す折り返し信号の周波数fが求まる。
いま、fp=50Hz,fs=30Hzとして、k=1,2,3…と変化させると、各次数の折り返し信号の周波数fが求まる。例えば、k=1のとき、f=-20,80となり、k=2のとき、f=10,110となり、k=3のとき、f=40,140となる。
抽出対象とされる折り返し信号には、折り返し信号の周波数fが、カメラ12のナイキスト周波数(15Hz)以下の正の値となる、最小の値であるものが適している。すなわち、フィルタ処理により特定の周波数の折り返し信号を抽出する場合、ナイキスト周波数以下の正の値をもつ、最小の周波数の折り返し信号が、最も容易に抽出できる折り返し信号である。
そこで、このような条件を満たす観測可能な最小周波数の折り返し信号を、キャプチャ信号の位相ずれ△tの検出に利用すればよい。したがって、この例の場合では、次数k=2である周波数がf=10Hzの折り返し信号を利用すればよいので、次数k=2と、周波数fが10Hzの折り返し信号を抽出するためのローパスフィルタを予め用意すればよいことになる。
〈第1の実施の形態〉
[信号処理装置の構成]
次に、以上において説明した方法により、ステレオカメラを構成するカメラ12のキャプチャタイミングのずれを補正する信号処理装置の具体例について説明する。
[信号処理装置の構成]
次に、以上において説明した方法により、ステレオカメラを構成するカメラ12のキャプチャタイミングのずれを補正する信号処理装置の具体例について説明する。
図6は、本発明を適用した信号処理装置の一実施の形態の構成例を示す図である。信号処理装置41は、カメラ12−1およびカメラ12−2からなるステレオカメラ42と接続されており、信号処理装置41には、提示信号を提示する信号提示部51と、ステレオカメラ42を制御する本体機器52とが設けられている。
例えば、信号処理装置41は、パーソナルコンピュータやゲーム機などからなり、外部接続されたステレオカメラ42を用いて、信号処理装置41からユーザまでの距離を求めてユーザの手の位置を特定し、その手の動きに応じた処理等を行なう。
具体的には、本体機器52は、ユーザから指示があると、ステレオカメラ42を用いて算出されたユーザまでの距離を利用するアプリケーションプログラムを起動させるとともに、ステレオカメラ42も起動させる。
信号提示部51は、例えばディスプレイなどからなり、本体機器52の指示に応じて、提示信号を提示する。例えば、提示信号は、各画素の画素値が同じであり、画像の各画素の輝度または色が、所定の周波数で周期的に変化する動画像などとすることができる。
なお、提示信号の周波数は、カメラ12のフレームレートのナイキスト周波数の整数倍でなければ、上述した方法によりカメラ12のキャプチャ(撮影)の位相ずれ△tを検出することが可能である。一般的には提示信号の周波数、つまりディスプレイのフレームレートが、カメラ12のフレームレートよりも高い場合が少なくないので、折り返し信号の位相ずれからカメラ12の位相ずれ△tを検出する方法が有効である。
また、信号提示部51により提示信号が提示され、ステレオカメラ42により提示信号の画像が撮影されると、本体機器52は、得られた画像からステレオカメラ42を構成する2つのカメラ12のキャプチャの位相ずれ△tを検出する。
そして、本体機器52は、得られた位相ずれ△tに基づいて、カメラ12の動作を制御することで、カメラ12−1とカメラ12−2の動作を同期させ、その後、起動したアプリケーションプログラムに従って、ユーザの操作に応じた処理を実行する。
[本体機器の構成]
また、図6の本体機器52は、より詳細には、図7に示すように構成される。すなわち、本体機器52は、位相ずれ検出部81および位相制御部82から構成される。
また、図6の本体機器52は、より詳細には、図7に示すように構成される。すなわち、本体機器52は、位相ずれ検出部81および位相制御部82から構成される。
位相ずれ検出部81は、ステレオカメラ42から供給された、提示信号を被写体とする画像に基づいて、カメラ12の位相ずれ△tを検出し、その検出結果を位相制御部82に供給する。位相ずれ検出部81は、生成部91、切り替え部92、フィルタ処理部93−1、フィルタ処理部93−2、マッチング処理部94、およびずれ量算出部95から構成される。
生成部91は、ステレオカメラ42を構成するカメラ12−1およびカメラ12−2から供給された画像から、左キャプチャ信号および右キャプチャ信号を生成し、切り替え部92に供給する。切り替え部92は、提示信号の周波数が、カメラ12の周波数のナイキスト周波数以下であるか否かに応じて、キャプチャ信号の出力先を切り替える。
すなわち、切り替え部92は、提示信号の周波数がナイキスト周波数以下である場合、生成部91からのキャプチャ信号をマッチング処理部94に供給し、提示信号の周波数がナイキスト周波数より大きい場合、左キャプチャ信号および右キャプチャ信号をフィルタ処理部93−1およびフィルタ処理部93−2に供給する。
フィルタ処理部93−1およびフィルタ処理部93−2は、切り替え部92から供給された左キャプチャ信号および右キャプチャ信号にフィルタ処理を施して、キャプチャ信号から折り返し信号を抽出し、マッチング処理部94に供給する。なお、以下、フィルタ処理部93−1およびフィルタ処理部93−2を個々に区別する必要のない場合、単にフィルタ処理部93とも称する。
マッチング処理部94は、フィルタ処理部93からの折り返し信号、または切り替え部92からのキャプチャ信号のマッチング処理を行ない、その処理結果をずれ量算出部95に供給する。ずれ量算出部95は、マッチング処理部94からのマッチング処理の結果に基づいてカメラ12の位相ずれ△tを算出し、位相制御部82に供給する。
また、位相制御部82は、ずれ量算出部95からの位相ずれ△tに基づいてステレオカメラ42の動作を制御し、2つのカメラ12による画像の撮影タイミングを同期させる。
[位相調整処理の説明]
ところで、ユーザが信号処理装置41を操作してアプリケーションプログラムの起動を指示すると、本体機器52は、ユーザの操作により入力されたコマンドに応じてアプリケーションプログラムを起動させるとともに、ステレオカメラ42を起動させる。すると、信号処理装置41は、位相調整処理を行なって、カメラ12の撮影タイミングが同期するように、カメラ12による撮影タイミングの位相を調整する。そして、その後、信号処理装置41は、起動したアプリケーションプログラムに従って、ユーザの操作に応じた処理を実行する。
ところで、ユーザが信号処理装置41を操作してアプリケーションプログラムの起動を指示すると、本体機器52は、ユーザの操作により入力されたコマンドに応じてアプリケーションプログラムを起動させるとともに、ステレオカメラ42を起動させる。すると、信号処理装置41は、位相調整処理を行なって、カメラ12の撮影タイミングが同期するように、カメラ12による撮影タイミングの位相を調整する。そして、その後、信号処理装置41は、起動したアプリケーションプログラムに従って、ユーザの操作に応じた処理を実行する。
以下、図8のフローチャートを参照して、信号処理装置41による位相調整処理について説明する。
ステップS11において、本体機器52は、信号提示部51を制御して、提示信号の提示を開始させる。これにより、例えば信号提示部51は、各画素の画素値(輝度値)が同じであり、画素の輝度が所定の周波数で周期的に変化する動画像を提示信号として表示(提示)する。
ステップS12において、位相制御部82は、ステレオカメラ42を制御して、提示信号をキャプチャさせる。すると、ステレオカメラ42を構成するカメラ12−1およびカメラ12−2は、それぞれ位相制御部82の指示に応じて提示信号を被写体とする画像を撮影し、得られた画像を生成部91に供給する。
なお、このとき、ステレオカメラ42で確実に提示信号を撮影できるように、ステレオカメラ42を信号提示部51の方向に向ける旨の音声等の出力やメッセージの表示を行なうようにしてもよい。
ステップS13において、生成部91は、カメラ12から供給された画像を用いてキャプチャ信号を生成し、切り替え部92に供給する。
具体的には、例えば、生成部91は、カメラ12−1からの各フレームの画像について、画像の各画素の輝度値の平均値を求め、得られた平均値が、そのフレームに対応する時刻のサンプルのサンプル値となる左キャプチャ信号を生成する。つまり、左キャプチャ信号の各サンプルのサンプル値は、各時刻における提示信号としての画像の輝度を示している。同様にして生成部91は、カメラ12−2から供給された画像から、右キャプチャ信号を生成する。
なお、キャプチャ信号のサンプル値は、カメラ12で撮影された画像全体の輝度値や色の平均値ではなく、画像の一部の画素の輝度値や色の平均値としてもよいし、特定の画素の輝度値や色としてもよい。
また、カメラ12により撮影された画像全体のうちの一部に提示信号が表示され、画像全体の輝度や色が均一とならない場合には、撮影された画像から、提示信号が含まれる部分を抽出して、得られた提示信号の部分の画像からキャプチャ信号を生成してもよい。例えば、提示信号の含まれる領域の検出は、連続するフレーム間の画像の差分や、円形などの特定の形状の検出などにより行なわれる。
ステップS14において、位相ずれ検出部81は、位相ずれ検出処理を行なって、左右のキャプチャ信号から、カメラ12の位相ずれ△tを算出し、位相制御部82に供給する。なお、位相ずれ検出処理の詳細は後述する。
カメラ12の位相ずれ△tが得られると、ステップS15において、本体機器52は、信号提示部51を制御して、提示信号の提示を終了させる。
ステップS16において、位相制御部82は、ずれ量算出部95から供給された位相ずれ△tに基づいてステレオカメラ42を制御し、ステレオカメラ42の使用を開始させる。すなわち、位相制御部82は、位相ずれ△tの分だけカメラ12−2の撮影のタイミングが早くなるか、または遅れるように、カメラ12の撮影タイミングを制御し、ステレオカメラ42の各カメラ12にユーザの画像を撮影させる。これにより、カメラ12−1とカメラ12−2の撮影のタイミングが同期することになり、視点の異なる同じ被写体の画像が、同じ時刻に撮影されることになる。
ステレオカメラ42の動作が制御され、ユーザの画像の撮影が開始されると、位相調整処理は終了し、その後、アプリケーションプログラムに従った処理が実行される。
このようにして、信号処理装置41は、ステレオカメラ42の起動時に、提示信号を提示し、その提示信号を撮影した画像から得られるキャプチャ信号を用いて、カメラ12の位相ずれ△tを検出して、カメラ12による撮影の同期をとる。
[提示信号の説明]
なお、以上においては、提示信号が、輝度や色が所定の周波数で周期的に変化する画像である場合を例として説明したが、提示信号は、特定の周波数で強度等が変化する信号であれば、どのような信号であってもよい。
なお、以上においては、提示信号が、輝度や色が所定の周波数で周期的に変化する画像である場合を例として説明したが、提示信号は、特定の周波数で強度等が変化する信号であれば、どのような信号であってもよい。
例えば、図9に示すように、画素値が特定の値からなる図中、横方向に長く白い帯状の被検出領域RWが、縦方向に移動する画像PTを提示信号として表示させてもよい。図9の例では、画像PTのほぼ全体が、画素値が0である黒い領域とされている。また、画像PTの端近傍に設けられた白い枠WF内に被検出領域RWが表示されており、枠WF内の上端から下端まで、被検出領域RWが所定の周波数で表示位置を変化させながら移動していく。つまり被検出領域RWが所定の速度で移動していく。
そして、被検出領域RWの図中、上側の端が枠WFの下側に到達すると、再び、被検出領域RWが枠WF内の図中、上側の端に現れ、図中、下方向に移動していく。なお、このとき、被検出領域RWが枠WF内の上端から下端まで、提示信号の1周期分の時間で移動するようになされる。
このような画像PTが提示信号として提示される場合、被検出領域RWと枠WFの縦方向の長さが既知の特定の値となるようにされ、生成部91では、エッジ検出等により画像PTから被検出領域RWが検出される。そして、例えば、枠WFの上端から被検出領域RWまでの距離LWが、キャプチャ信号の強度や位相として処理される。これにより、振幅が所定の周波数で周期的に変化するキャプチャ信号を得ることができる。
なお、例えば図9の枠WFの上端から被検出領域RWの下端までが白い領域とされ、この領域が被検出領域とされるようにしてもよい。この場合、被検出領域は、時間とともに大きくなり、1周期分の時間が経過すると、枠WFの上端から下端までの領域が被検出領域となるようにされる。
このように、提示信号は、所定の周波数で検出対象の輝度や色、位置等が周期的に変化する信号であれば、どのようなものであってもよい。
[位相ずれ検出処理の説明]
次に、図10のフローチャートを参照して、図8のステップS14に対応する位相ずれ検出処理について説明する。
次に、図10のフローチャートを参照して、図8のステップS14に対応する位相ずれ検出処理について説明する。
ステップS41において、切り替え部92は、提示信号の周波数が、ステレオカメラ42のフレームレートのナイキスト周波数以下であるか否かを判定する。
例えば、信号処理装置41では、信号提示部51により提示される提示信号をユーザの指示等により変更できるようになされており、提示信号がユーザにより指定されると、切り替え部92は、指定された提示信号と、その提示信号の周波数とを記録する。また、切り替え部92は、接続されているステレオカメラ42のフレームレートを示す情報も予め記録しており、記録しているフレームレートと、提示信号の周波数とから、提示信号の周波数がナイキスト周波数以下であるか否かを判定する。
ステップS41において、ナイキスト周波数以下であると判定された場合、切り替え部92は、生成部91から供給された左右のキャプチャ信号を、マッチング処理部94に供給し、処理はステップS42に進む。
ステップS42において、マッチング処理部94は、切り替え部92から供給された左右のキャプチャ信号に対するマッチング処理を行う。
例えば、マッチング処理部94は、特定期間の所定数のサンプルからなる左右のキャプチャ信号を、時間方向にずらしながら、各サンプルのサンプル値の差分をとり、得られた各サンプル値の差分の総和を正規化した値を求める。すなわち、マッチング処理部94は、左キャプチャ信号と、時間方向にずらされた右キャプチャ信号との対応する時刻の各サンプルについて、左キャプチャ信号のサンプルのサンプル値と、右キャプチャ信号のサンプルのサンプル値との差分を求め、全サンプルの差分の平均値を求める。
そして、マッチング処理部94は、サンプルの差分の平均値が最小となるときの右キャプチャ信号の時間方向のずれ量、つまりキャプチャ信号の位相のずれを、マッチング処理の結果としてずれ量算出部95に供給する。
ステップS43において、ずれ量算出部95は、マッチング処理部94から供給されたマッチング処理の結果に基づいて、カメラ12の位相ずれ△tを検出する。具体的には、ずれ量算出部95は、マッチング処理の結果として得られた左右のキャプチャ信号の位相のずれ量を、そのままカメラ12の位相ずれ△tとする。
提示信号の周波数が、ステレオカメラ42のフレームレートのナイキスト周波数以下である場合、提示信号を撮影した画像から得られるキャプチャ信号は、正確に提示信号の時間波形を再現できるものである。したがって、この場合、キャプチャ信号の位相ずれは、カメラ12の位相ずれ△tそのものとなる。
このようにして、カメラ12の位相ずれ△tが得られると、ずれ量算出部95は、得られた位相ずれ△tを位相制御部82に供給し、位相ずれ検出処理は終了する。そして、その後、処理は図8のステップS15へと進む。
これに対して、ステップS41において、ナイキスト周波数以下でないと判定された場合、切り替え部92は、生成部91から供給された左右のキャプチャ信号を、フィルタ処理部93に供給し、処理はステップS44に進む。
ステップS44において、フィルタ処理部93−1は、切り替え部92から供給された左キャプチャ信号に対して、予め定められたローパスフィルタを用いたフィルタ処理を施し、左キャプチャ信号から予め定められた次数kの折り返し信号(以下、左の折り返し信号とも称する)を抽出する。
例えば、フィルタ処理に用いるローパスフィルタは、予め既知である提示信号の周波数と、ステレオカメラ42のフレームレートとから定まる次数kの折り返し信号、つまりk次の高調波を抽出するフィルタとされる。具体的には、カメラ12のフレームレートが30fpsであり、提示信号の周波数が50Hzである場合、周波数が10Hzである次数k=2の折り返し信号が抽出されるローパスフィルタとされる。
フィルタ処理部93は、提示信号やステレオカメラ42を変更する場合であっても、提示信号の周波数とステレオカメラ42のフレームレートが既知とされていれば、その周波数とフレームレートに対して予め定められた、適切なローパスフィルタを選択することができる。
フィルタ処理により左の折り返し信号が得られると、フィルタ処理部93−1は、得られた左の折り返し信号をマッチング処理部94に供給する。
ステップS45において、フィルタ処理部93−2は、切り替え部92から供給された右キャプチャ信号に対して、予め定められたローパスフィルタを用いたフィルタ処理を施し、右キャプチャ信号から予め定められた次数kの折り返し信号を抽出する。ここで、折り返し信号(以下、右の折り返し信号とも称する)の抽出に用いられるローパスフィルタは、ステップS44の処理で用いられるフィルタと同じものとされる。フィルタ処理部93−2は、フィルタ処理により得られた右の折り返し信号をマッチング処理部94に供給する。
ステップS46において、マッチング処理部94は、フィルタ処理部93から供給された左右の折り返し信号に対するマッチング処理を行い、得られたマッチング処理の結果をずれ量算出部95に供給する。
なお、折り返し信号のマッチング処理は、ステップS42におけるキャプチャ信号のマッチング処理の場合と同様に、特定期間の所定数のサンプルからなる左右の折り返し信号を時間方向にずらしながら行なわれる。すなわち、左右の折り返し信号の各サンプルのサンプル値の差分の平均値が求められ、その平均値が最小となるときの折り返し信号の時間方向のずれ、つまり折り返し信号の位相ずれ△t’が求められる。
マッチング処理部94は、求めた左右の折り返し信号の位相ずれ△t’を、マッチング処理の結果としてずれ量算出部95に供給する。
ステップS47において、ずれ量算出部95は、マッチング処理部94から供給されたマッチング処理の結果に基づいて、カメラ12の位相ずれ△tを検出する。
具体的には、ずれ量算出部95は、既知である提示信号の周波数とステレオカメラ42のフレームレートとに対して予め求められた、マッチング処理に用いる折り返し信号の次数k、つまり高調波の次数kを記録している。ずれ量算出部95は、上述した式(1)に示した計算を行なって、カメラ12の位相ずれ△t(キャプチャ信号の位相ずれ)を算出する。すなわち、折り返し信号の位相ずれ△t’に次数kが乗算され、カメラ12の位相ずれ△tとされる。
なお、ずれ量算出部95は、提示信号やステレオカメラ42が変更される場合であっても、提示信号の周波数とステレオカメラ42のフレームレートが既知であれば、その周波数とフレームレートに対して予め定められた、適切な次数kを選択することができる。
例えば、提示信号の周波数が、ステレオカメラ42のフレームレートのナイキスト周波数を超える場合、提示信号を撮影した画像から得られるキャプチャ信号では、正確に提示信号の時間波形を再現することはできない。そこで、信号処理装置41は、キャプチャ信号から特定の次数kの折り返し信号を抽出し、それらの折り返し信号を比較することで、キャプチャ信号の位相のずれを検出し、その結果をカメラ12の位相ずれ△tとする。
このように、キャプチャ信号によって正確な提示信号の時間波形(輝度の時間変化)が再現できず、キャプチャ信号同士を直接比較することが困難である場合であっても、折り返し信号を抽出して比較することで、簡単かつ正確にカメラ12の位相ずれ△tを得ることができる。
このようにして、カメラ12の位相ずれ△tが得られると、ずれ量算出部95は、得られた位相ずれ△tを位相制御部82に供給し、位相ずれ検出処理は終了する。そして、その後、処理は図8のステップS15へと進む。
以上のようにして、信号処理装置41は、提示信号の周波数と、カメラ12のフレームレートのナイキスト周波数とを比較して、その比較結果に応じてキャプチャ信号または折り返し信号のマッチング処理を行い、カメラ12の位相ずれ△tを検出する。
このように、キャプチャ信号または折り返し信号を比較して、カメラ12の位相ずれ△tを検出することで、より簡単かつ精度よくカメラ12の位相のずれ、つまり異なるカメラ12で得られる非同期である画像信号の位相ずれを検出することができる。これにより、より簡単にカメラ12による画像の撮影を同期させることができる。
特に、信号処理装置41によれば、提示信号の周波数が、カメラ12のナイキスト周波数より大きい場合でも、簡単にカメラ12の位相ずれ△tを検出できるため、カメラ12と提示信号の組み合わせを任意のものとすることができる。
また、信号処理装置41によれば、ステレオカメラ42を利用して位相ずれ△tを検出する場合に、周囲に存在するディスプレイなどを信号提示部51として機能させることができるため、より簡単な構成で位相ずれを検出することができる。
〈変形例1〉
[位相調整処理の説明]
なお、カメラ12の位相ずれ△tの検出時に、より確からしい検出結果が得られるように、位相ずれ△tの検出結果が適切でなかった場合には、再度検出が行なわれるようにしてもよい。以下、図11のフローチャートを参照して、適宜、位相ずれの再検出が行なわれる場合における位相調整処理について説明する。
[位相調整処理の説明]
なお、カメラ12の位相ずれ△tの検出時に、より確からしい検出結果が得られるように、位相ずれ△tの検出結果が適切でなかった場合には、再度検出が行なわれるようにしてもよい。以下、図11のフローチャートを参照して、適宜、位相ずれの再検出が行なわれる場合における位相調整処理について説明する。
なお、ステップS71乃至ステップS74の処理は、図8のステップS11乃至ステップS14の処理のそれぞれと同様であるので、その説明は省略する。位相ずれ検出処理が行われ、カメラ12の位相ずれ△tが検出されると、その検出結果は、ずれ量算出部95から位相制御部82に供給される。
ステップS75において、位相制御部82は、ずれ量算出部95から供給されたカメラ12の位相ずれ△tに基づいて、位相ずれ△tを再検出するか否かを判定する。例えば、カメラ12の位相ずれ△tが、予め定められた範囲内の値ではなく、位相ずれの量として取り得ない値であった場合、検出された位相ずれ△tは確からしいものではなく、位相ずれ△tを再検出すると判定される。
ステップS75において、再検出すると判定された場合、処理はステップS72に戻り、上述した処理が繰り返される。すなわち、再度、位相ずれ△tが検出される。
これに対して、ステップS75において、再検出しないと判定された場合、処理はステップS76に進む。そして、ステップS76およびステップS77の処理が行われて位相調整処理は終了するが、これらの処理は、図8のステップS15およびステップS16の処理と同様であるので、その説明は省略する。
このようにして、本体機器52は、検出された位相ずれ△tが妥当であるか否か、つまり確からしいか否かを判定し、その検出結果が確からしいものではない場合には、位相ずれ△tの再検出を行なう。これにより、より確からしい位相ずれ△tを得ることができ、より高精度にカメラ12の撮影タイミングの同期をとることができる。
なお、位相ずれ△tの検出後、その位相ずれ△tが所定の範囲内の値であるか否かを判定し、その判定結果に応じて、カメラ12の撮影タイミングを同期させる処理を行わないようにしてもよい。
そのような場合、例えば、位相ずれ△tが所定の範囲内の値である場合、位相ずれ△tは無視できる程度であるとして、撮影タイミングを同期させる処理は行われず、そのままカメラ12が使用される。また、位相ずれ△tが所定の範囲内の値でない場合、位相ずれ△tは無視できない程度に大きいとされ、位相ずれ△tに従って撮影タイミングを同期させる処理が行われる。
〈第2の実施の形態〉
[信号処理装置の構成]
また、以上においては、信号処理装置41が信号提示部51を備えており、信号処理装置41にステレオカメラ42が外付けされる場合を例として説明したが、信号処理装置41がステレオカメラ42を備えていてもよい。
[信号処理装置の構成]
また、以上においては、信号処理装置41が信号提示部51を備えており、信号処理装置41にステレオカメラ42が外付けされる場合を例として説明したが、信号処理装置41がステレオカメラ42を備えていてもよい。
そのような場合、信号処理装置41は、例えば、図12に示すように構成される。なお、図12において、図6における場合と対応する部分には、同一の符号を付してあり、その説明は適宜省略する。
すなわち、図12に示す信号処理装置41は、本体機器52とステレオカメラ42とを備えており、信号処理装置41の本体機器52には、信号提示部51が接続されている。このような構成とされる信号処理装置41は、例えば、パーソナルコンピュータやテレビジョン受像機などとされる。
例えば、信号処理装置41は、ステレオカメラ42を用いて、信号処理装置41からユーザまでの距離を求めてユーザの手の位置を特定し、その手の動きに応じて、ディスプレイ等に表示されたボタンなどを操作するためのポインタを移動させるなどの処理を行う。
また、信号提示部51は、例えば光学式のマウスなどとされ、光学式マウスの光源からの光、つまりマウスの位置を特定するために光源から発せられる光が、提示信号として利用される。
その他、信号提示部51は、所定の周波数で輝度が周期的に変化する画像を表示するディスプレイや、ゲーム用のコントローラなどとされてもよい。また、信号提示部51は、リモートコマンダなどとされてもよい。そのような場合、リモートコマンダから発せられるコマンドとしての光が提示信号として利用される。
[位相調整処理の説明]
ところで、ユーザが信号処理装置41に設けられたボタンや、信号提示部51等を操作して、アプリケーションプログラムの起動を指示すると、本体機器52は、ユーザの操作により信号提示部51等から入力されたコマンドに応じてアプリケーションプログラムを起動させる。また、同時に本体機器52は、ステレオカメラ42を起動させる。すると、信号処理装置41は、位相調整処理を行なって、カメラ12の撮影タイミングが同期するように、カメラ12による撮影タイミングの位相を調整する。そして、その後、信号処理装置41は、起動したアプリケーションプログラムに従って、ユーザの操作に応じた処理を実行する。
ところで、ユーザが信号処理装置41に設けられたボタンや、信号提示部51等を操作して、アプリケーションプログラムの起動を指示すると、本体機器52は、ユーザの操作により信号提示部51等から入力されたコマンドに応じてアプリケーションプログラムを起動させる。また、同時に本体機器52は、ステレオカメラ42を起動させる。すると、信号処理装置41は、位相調整処理を行なって、カメラ12の撮影タイミングが同期するように、カメラ12による撮影タイミングの位相を調整する。そして、その後、信号処理装置41は、起動したアプリケーションプログラムに従って、ユーザの操作に応じた処理を実行する。
以下、図13のフローチャートを参照して、図12の信号処理装置41による位相調整処理について説明する。
ステップS121において、本体機器52は、信号提示部51に提示信号の提示を開始させる。例えば、信号提示部51がマウスである場合など、信号提示部51から常に提示信号が出力された状態であるときには、本体機器52が、信号処理装置41のディスプレイ等に、信号提示部51をステレオカメラ42に向けるように促すメッセージを表示させてもよい。
また、本体機器52が直接、信号提示部51を制御し、提示信号を出力させるようにしてもよい。この場合、ステレオカメラ42で確実に提示信号を撮影できるように、信号提示部51をステレオカメラ42の方向に向ける旨の音声等の出力や、メッセージの表示を行なうようにしてもよい。
提示信号の提示が開始されると、その後、ステップS122乃至ステップS125の処理が行われて、提示信号からカメラ12の位相ずれ△tが検出される。なお、これらのステップS122乃至ステップS125の処理は、図8のステップS12乃至ステップS15の処理と同様であるので、その説明は省略する。
ステップS126において、位相制御部82は、ずれ量算出部95から供給された位相ずれ△tに基づいてステレオカメラ42を制御し、ステレオカメラ42の使用を開始させる。すなわち、位相制御部82は、位相ずれ△tの分だけ一方のカメラ12の撮影タイミングがずれるようにカメラ12を制御し、画像の撮影タイミングを同期させる。
ステレオカメラ42の動作が制御され、ユーザの画像の撮影が開始されると、位相調整処理は終了し、その後、アプリケーションプログラムに従った処理が実行される。
このようにして、信号処理装置41は、ステレオカメラ42の起動時に、提示信号を提示させ、その提示信号を撮影した画像から得られるキャプチャ信号を用いて、カメラ12の位相ずれ△tを検出し、カメラ12による撮影の同期をとる。
なお、信号提示部51により提示される提示信号は、例えば次のようなものとすることができる。例えば、信号提示部51が光学式マウスにより構成される場合、信号提示部51が備える光源からの光の輝度を、所定の周波数で点滅させ、このようにして光源から出力される光が提示信号とされる。また、光の色が所定の周波数で変化するようにし、そのような光を提示信号としてもよい。
一般的に、光学式マウスやリモートコマンダ等の光の点滅の周波数は非常に高く、そのままの状態では、カメラで点滅信号を捉えることができない。しかし、提示信号として光を提示する期間は、マウスやリモートコマンダの光の点滅の周波数を、カメラ12のフレームレートのナイキスト周波数以下となるように制御すれば、提示信号として適切に扱うことが可能となる。なお、信号提示部51に表示部が設けられている場合には、その表示部に周期的に輝度等が変化する信号を提示信号として表示させてもよい。
提示信号の周波数がナイキスト周波数以下である場合、カメラ12により撮影された画像から提示信号を抽出するには、例えば、画像の特定領域内に提示信号が含まれるようにし、その特定領域の輝度や色の変化をフレーム間差分により検出して、提示信号の位置を特定すればよい。
また、画像における提示信号の位置が特定されると、必要に応じて提示信号の形状検出等が行なわれて、提示信号の輝度や色の変化から、キャプチャ信号が生成される。このとき、提示信号の含まれる領域の画素の輝度や色の平均値、提示信号の含まれる領域の中心位置にある画素の輝度や色などが2値化され、キャプチャ信号のサンプリングのサンプリング値とされる。
〈第3の実施の形態〉
[距離の測定の説明]
さらに、以上においては、位相ずれ△tを検出し、その検出結果を用いてカメラ12の撮影タイミングを同期させる例について説明したが、カメラ12で撮影された画像が用いられて算出された距離や視差を、位相ずれ△tにより補正するようにしてもよい。
[距離の測定の説明]
さらに、以上においては、位相ずれ△tを検出し、その検出結果を用いてカメラ12の撮影タイミングを同期させる例について説明したが、カメラ12で撮影された画像が用いられて算出された距離や視差を、位相ずれ△tにより補正するようにしてもよい。
例えば、図14に示すように、カメラ12により撮影した画像を用いて、カメラ12から被写体までの距離の測定を行なうとする。
図14の例では、カメラ12−1は、レンズ131と、撮像素子からなるセンサ132から構成され、カメラ12−2は、レンズ133と、撮像素子からなるセンサ134から構成されている。また、図14では、カメラ12−1およびカメラ12−2のそれぞれの図中、上側には、カメラ12−1およびカメラ12−2により撮影される左画像LPと右画像RPが示されている。これらの左画像LPおよび右画像RPは、カメラ12の仮想的な撮像面を示している。
ここで、左画像LPおよびセンサ132は、それぞれレンズ131から図中、縦方向にレンズ131の焦点距離fOだけ離れた位置に配置されており、同様に、右画像RPおよびセンサ134は、それぞれレンズ133から図中、縦方向にレンズ133の焦点距離fOだけ離れた位置に配置されている。また、図中、横方向および縦方向をそれぞれX方向およびZ方向とし、X方向およびZ方向に垂直な方向、つまり図中、奥行き方向をY方向とする。
いま、簡単のため、カメラ12−2の画像のキャプチャタイミング、つまり右画像RPの撮影タイミングが、カメラ12−1の左画像LPの撮影タイミングよりも時間△tだけ遅れるとする。すなわち、カメラ12の位相ずれが△tであるとする。また、撮影対象の被写体となる物体OBJが、XYZ座標系からなる3次元空間上を、X方向に速度Vxで等速移動しているとする。
ここで、所定の時刻において、位置Q11にあった物体OBJが、カメラ12の1フレーム分の時間間隔よりも短い所定の時間△t後に、位置Q12に移動していたとする。なお、位置Q11は、レンズ131の中心からZ方向に、所定の距離だけ離れた位置である。
カメラ12−1およびカメラ12−2が物体OBJをキャプチャするとき、まずカメラ12−1が左画像LPを撮影し、その後、時間△tだけ経過してからカメラ12−2が右画像RPを撮影する。例えば、物体OBJが位置Q11にあるときにカメラ12が撮影を行なったとする。
すると、左画像LP上における物体OBJの像の位置は、左画像LPの中央、つまり位置GQ11となる。これに対して、右画像RP上における物体OBJの像の位置は、本来、位置GQ12となるはずであるが、右画像RPの撮影タイミングが左画像LPよりも時間△tだけ遅れるので、位置GQ12よりも図中、右側にある位置GQ13となる。つまり、左画像LPの撮影時の物体OBJの位置Q11ではなく、位置Q12にある、左画像LPの撮影時刻よりも時間△tだけ後の時刻の物体OBJが撮影されることになる。
このような場合、撮影により得られた左画像LPと右画像RPを用いて、レンズ131から物体OBJまでの距離(Z方向の距離)を求めると、レンズ131の中心から、位置Q13までの距離が、測定結果として得られる。
なお、位置Q13は、レンズ131の中心および位置Q11を結ぶ直線と、レンズ133の中心および位置Q12を結ぶ直線とが交わる位置である。
このように、物体OBJまでの距離の測定結果は、実際の物体OBJまでの距離、つまりレンズ131から位置Q11までの距離よりも長い距離となってしまう。
同様に、左画像LPと右画像RPを用いて、それらの画像における物体OBJの視差を求めると、本来であれば、位置GQ11から位置GQ12までの距離が視差として得られるべきである。ところが、撮影タイミングのずれにより、位置GQ11から位置GQ13までの距離が視差として検出されてしまう。
そこで、このような撮影タイミングのずれにより生じる距離測定の結果の誤差を求めて補正し、より正確な距離を求めることについて考える。
いま、カメラ12−1から物体OBJまでの距離をZt、物体OBJの移動速度をVx、カメラ12の焦点距離をfO、左画像LPおよび右画像RPにおける画素サイズをlとする。この場合、カメラ12による撮影タイミングのずれ△tにより生じる、左画像LPと右画像RPの視差の誤差et+△tは、次式(12)で表される。なお、視差の誤差et+△tは、画像上における画素数で表される。
すなわち、距離Ztと焦点距離fOの比が、位置Q11から位置Q12までの距離と、位置GQ12から位置GQ13までの距離の比が等しいことから、誤差et+△tが求まる。
一方、カメラ12−1から物体OBJまでの距離Zと、左画像LPおよび右画像RPにおける物体OBJの視差dは、次式(13)に示す関係を有している。
なお、式(13)において、fOおよびlは、それぞれレンズ131の焦点距離および画素サイズを示しており、bは、カメラ12間の距離である基線長を示している。
したがって、式(13)から、図15の曲線C11に示すように、視差dが大きくなるほど、物体OBJまでの距離Zは短くなることが分かる。なお、図15において縦軸は距離Zを示しており、横軸は視差dを示している。この曲線C11は、ステレオカメラ42の測距性能を示している。
ここで、上述した式(13)について、所定の時刻tにおける視差dtの誤差et+△tを考えると、物体OBJまでの距離が誤差et+△tから受ける影響、すなわち時刻tにおける距離Zt+△tは、次式(14)により表される。
すなわち、時刻tにおける視差の測定結果であるdt+△t=(dt±|et+△t|)を上述した式(13)の視差dに代入することで、時刻tにおける距離Zt+△tが得られる。
ここで、距離Zt+△tが視差の誤差et+△tから受ける誤差をEt+△tとすると、次式(15)に示すように、本来得られる距離Ztと誤差Et+△tを含む距離Zt+△tの差分を計算して、距離Ztで除算することで、誤差Et+△tを求めることができる。
なお、式(15)では、距離Ztと距離Zt+△tのそれぞれに式(13)および式(14)の右辺を代入し、さらに得られたet+△tの項に式(12)の右辺を代入するとともに、vx=(fOVx/Ztl)とすることで誤差Et+△tが得られる。ここで、速度vxは、速度Vxで移動する物体OBJの左画像LPまたは右画像RP上における移動速度を示している。
したがって、式(15)から、時刻tにおける物体OBJまでの距離Zt+△tに含まれる誤差Et+△tは、物体OBJまでの距離Ztに依存せず、物体OBJの画像上の速度vx(または速度Vx)と、カメラ12の撮影タイミングのずれ△tにより定まることが分かる。
このようにして得られた式(15)から、図16に示す距離Zt+△tに含まれる誤差Et+△tと、撮影タイミングのずれ△t(位相ずれ△t)との関係が得られる。なお、図16において、縦軸は誤差Et+△tを示しており、横軸は位相ずれ△tを示している。ここでの横軸の位相ずれ△tは、カメラ12により撮影される画像の1フレームの時間以内の位相ずれの時間とされる。また、図16では、横軸の位置が縦軸の誤差Et+△t=0とされている。
図16では、曲線C12が正の値となる誤差Et+△tを示しており、曲線C13が負の値となる誤差Et+△tを示している。
ここで、0<vx△t<−dtのとき、誤差Et+△tは正となり、誤差Et+△tは、位相ずれ△tに対して曲線C12により示される値をとる。このとき、測定により得られた距離Zt+△tは、実際の距離Ztよりも大きい値となる。
逆に、0>vx△tのとき、誤差Et+△tは負となり、誤差Et+△tは、位相ずれ△tに対して曲線C13により示される値をとる。このとき、測定により得られた距離Zt+△tは、実際の距離Ztよりも小さい値となる。
また、式(15)からも分かるように、位相ずれ△tに対する誤差Et+△tの値は、物体OBJの速度Vx、つまり画像上の速度vxによっても変化する。
具体的には、曲線C12および曲線C13のそれぞれについて、それらの曲線の位相ずれ△t=0近傍での微小区間における傾きが横軸となす角をθとするとき、速度Vxと角度θとは比例関係となる。したがって、物体OBJの速度Vxが速いほど、角度θにより定まる曲線C12および曲線C13の傾きも急になり、誤差Et+△tの絶対値が大きくなる。
さらに、図16の曲線C12により示される位相ずれ△tに対する誤差Et+△tの値は、図15の曲線C11上の所定の点を真値としたとき、その真値からの図15中、上方への誤差を示している。これに対して、図16の曲線C13により示される位相ずれ△tに対する誤差Et+△tの値は、図15の曲線C11上の所定の点を真値としたとき、その真値からの図15中、下方への誤差を示している。
図15の曲線C11の所定の点を誤差の含まれる値とした場合、位相ずれをもつ2つのカメラ12を用いて物体OBJまでの距離を検出したとき、その検出結果である曲線C11上の点について、式(15)や図16から誤差Et+△tを見積もることができる。この誤差Et+△tを求めるには、上述したように、誤差を含む視差の測定結果であるdt+△t、位相ずれ△t、および物体OBJの速度vxが分かればよい。
なお、以上においては、カメラ12−2の撮影タイミングが、カメラ12−1の撮影タイミングよりも時間△tだけ遅れる場合について説明したが、カメラ12−1の撮影タイミングが、カメラ12−2の撮影タイミングに対して遅れる場合についても同様にして、距離の誤差を求めることができる。
[信号処理装置の構成]
次に、ステレオカメラ42を用いて測定した物体までの距離の誤差を見積もり、測定結果として得られた距離を補正する信号処理装置の具体例について説明する。
次に、ステレオカメラ42を用いて測定した物体までの距離の誤差を見積もり、測定結果として得られた距離を補正する信号処理装置の具体例について説明する。
図17は、内蔵するカメラ12から各被写体までの距離を算出して、その算出結果を出力する信号処理装置の構成例を示す図である。
すなわち、信号処理装置161は、ステレオカメラ42、位相ずれ検出部81、メモリ171、距離検出部172、動き検出部173、誤差算出部174、および補正部175から構成され、信号処理装置161には信号提示部51が接続されている。なお、図17において、図6および図7における場合と対応する部分には、同一の符号を付してあり、その説明は適宜省略する。
ステレオカメラ42は、図14に示したカメラ12−1およびカメラ12−2からなり、信号提示部51により提示された提示信号や、物体OBJの画像を撮影し、メモリ171または位相ずれ検出部81に供給する。
位相ずれ検出部81は、ステレオカメラ42から供給された、提示信号を撮影して得られた画像から、カメラ12の位相ずれ△tを算出し、誤差算出部174に供給する。
メモリ171は、ステレオカメラ42から供給された物体OBJの画像、すなわち図14の左画像LPおよび右画像RPを一時的に記録する。ここで、左画像LPおよび右画像RPは、複数フレームからなる画像とされ、ステレオカメラ42からメモリ171には、時間的に連続して撮影された各フレームの左画像LPと右画像RPが、順次、供給される。
距離検出部172は、メモリ171から、処理対象となる現フレームの左画像LPと右画像RPを読み出して、画像上の各領域(画素)の視差を求め、誤差算出部174に供給する。さらに、距離検出部172は、求めた視差から画像上の各領域に含まれる被写体までの距離を算出し、補正部175に供給する。
例えば、画像上の被写体としての物体OBJに注目すると、画像上における物体OBJの視差dt+△tと、その視差から得られる距離Zt+△tが求められる。ここで、距離Zt+△tは、レンズ131から物体OBJまでのZ方向の距離であり、視差dt+△tと距離Zt+△tには、カメラ12の位相ずれ△tに起因する誤差が含まれている。
動き検出部173は、メモリ171から連続するフレームの画像、例えば、現フレームと、現フレームよりも1つ前のフレームの左画像LPを読み出して動き検出を行い、その結果得られた、左画像LP上における各領域の動きを誤差算出部174に供給する。
誤差算出部174は、距離検出部172から供給された画像上の各領域の視差、動き検出部173から供給された各領域の動き、および位相ずれ検出部81からの位相ずれ△tに基づいて、画像上の各領域の距離の誤差を算出し、補正部175に供給する。補正部175は、距離検出部172から供給された、画像上の各領域にある被写体までの距離を、誤差算出部174から供給された誤差に基づいて補正し、出力する。
[距離算出処理の説明]
ところで、ユーザにより信号処理装置161が操作され、特定の被写体までのZ方向の距離の測定が指示されると、信号処理装置161は、信号提示部51を制御して提示信号を提示させる。そして、信号提示部51による提示信号の提示が開始されると、信号処理装置161は、距離算出処理を行って、被写体までの距離を出力する。
ところで、ユーザにより信号処理装置161が操作され、特定の被写体までのZ方向の距離の測定が指示されると、信号処理装置161は、信号提示部51を制御して提示信号を提示させる。そして、信号提示部51による提示信号の提示が開始されると、信号処理装置161は、距離算出処理を行って、被写体までの距離を出力する。
以下、図18のフローチャートを参照して、信号処理装置161による距離算出処理について説明する。
なお、ステップS151乃至ステップS153の処理は、図8のステップS12乃至ステップS14の処理と同様であるので、その説明は省略する。ステップS151乃至ステップS153の処理では、ステレオカメラ42を構成するカメラ12により提示信号がキャプチャされ、カメラ12−1とカメラ12−2との位相ずれ△tが算出される。そして、算出されたカメラ12の位相ずれ△tが、位相ずれ検出部81から誤差算出部174に供給される。
このようにして、カメラ12の位相ずれ△tが求められると、信号処理装置161は、信号提示部51を制御して提示信号の提示を停止させる。また、ユーザは、信号処理装置161を操作して、距離測定の対象となる被写体の撮影を指示する。
すると、ステップS154において、ステレオカメラ42のカメラ12−1およびカメラ12−2は、ユーザの操作に応じて、距離測定の対象となる被写体の撮影を開始する。例えば、測定対象の被写体として、速度VxでX方向に等速移動する物体OBJを含む実空間上の領域が撮影される。なお、物体OBJのY方向およびZ方向への移動速度は0であるものとする。
カメラ12−1は、撮影により得られた各フレームの左画像LPを順次、メモリ171に供給して記録させ、カメラ12−2も撮影により得られた各フレームの右画像RPを順次、メモリ171に供給して記録させる。
ステップS155において、距離検出部172は、メモリ171から処理対象の現フレームの左画像LPおよび右画像RPを読み出して、被写体までの距離を検出する。
例えば、距離検出部172は、読み出した左画像LPおよび右画像RPを用いて対応点探索処理、すなわちステレオマッチング処理を行い、画像(例えば、左画像LP)の各領域(画素)にある被写体の視差dt+△tを求め、誤差算出部174に供給する。
さらに、距離検出部172は、得られた視差dt+△t=(dt+et+△t)と、上述した式(14)とから、画像(例えば、左画像LP)の各領域にある被写体の距離Zt+△tを算出し、補正部175に供給する。ここで、被写体の距離Zt+△tは、カメラ12−1を構成するレンズ131から、その被写体までのZ方向の距離である。
例えば、左画像LP上の各領域にある被写体の距離のうち、物体OBJのように、動きのある被写体の距離には、その被写体の移動速度とカメラ12の位相ずれ△tにより生じる誤差が含まれている。
これに対して、動きのない被写体は、どの時刻に撮影しても、左画像LPおよび右画像RPにおける、その被写体の位置に変化はないので、動きのない被写体の視差の検出、およびZ方向の距離測定には、誤差は生じない。すなわち、視差dt+△t=(dt+et+△t)において、誤差et+△t=0となる。
ステップS156において、動き検出部173は、メモリ171から処理対象の現フレームの左画像LPと、現フレームの1つ前のフレームの左画像LPとを読み出して、左画像LPに対するブロックマッチング等を行なうことで動き検出を行う。動き検出部173は、動き検出の結果得られた画像(例えば、左画像LP)上の各領域の動きを誤差算出部174に供給する。
なお、連続するフレームの左画像LPを用いて動き検出を行なうと説明したが、撮影対象の被写体の動きを検出できる方法であれば、どのように動き検出を行なってもよい。例えば、現フレームの左画像LPと、現フレームよりもいくつか前または後のフレームの左画像LPとを用いて動き検出を行なうようにしてもよいし、左画像LPではなく、互いに異なる2つのフレームの右画像RPを用いて動き検出を行なってもよい。
ステップS157において、誤差算出部174は、距離検出部172からの視差dt+△t、位相ずれ検出部81からのカメラ12の位相ずれ△t、および動き検出部173からの左画像LP上の各領域の動きの検出結果を用いて、左画像LP上の各領域の距離Zt+△tの誤差Et+△tを算出する。
まず、誤差算出部174は、左画像LP上の各領域の動きの検出結果を用いて、それらの各領域にある被写体の左画像LP上のX方向の速度vxを算出する。この速度vxは、処理対象となっている被写体の動き量と、左画像LPの1フレーム分の時間とから求まる。
例えば、左画像LP上の動きのない被写体の領域は、動き量が0であるので、その被写体の速度は、vx=0となる。これに対して、左画像LPにおける、物体OBJ等の動きのある被写体の領域では、その被写体の実際の速度Vxに対応する画像上の速度vxが算出される。
次に、誤差算出部174は、左画像LP上の各領域のうち、速度vxが0でない領域について、その速度vx、カメラ12の位相ずれ△t、および視差dt+△tを用いて、上述した式(15)を計算し、その領域についての距離Zt+△tの誤差Et+△tを算出する。そして、誤差算出部174は、算出した誤差Et+△tを補正部175に供給する。なお、左画像LP上の各領域のうち、速度vx=0となる領域については、距離測定に誤差は生じないので、誤差Et+△t=0とされる。
また、誤差算出部174が、図16に示した位相ずれ△tに対する誤差Et+△tの値を示す曲線C12や曲線C13を表す関数、曲線C12や曲線C13を近似的に表す関数(例えば、1次関数)、△tに対する誤差Et+△tの値を示すテーブルなどを用いて誤差Et+△tを算出するようにしてもよい。
例えば、誤差算出部174が、実際の被写体の速度Vxごとに、曲線C12や曲線C13を表す関数G(△t)を予め保持しているとする。この場合、誤差算出部174は、処理対象となる左画像LP上の領域、例えば物体OBJの領域について、その領域の速度vxと位相ずれ△tとから、誤差Et+△tの算出に用いる関数G(△t)を特定し、その関数G(△t)に位相ずれ△tを代入して、誤差Et+△tを算出する。
なお、関数G(△t)の選択時において、速度Vxに対して定められた関数G(△t)が、例えば、図16における曲線C12を表す関数G(△t)であるか、曲線C13を表す関数G(△t)であるかは、速度vxと位相ずれ△tとから定められる。
ステップS158において、補正部175は、距離検出部172から供給された左画像LPの各領域の距離Zt+△tを、誤差算出部174から供給された左画像LPの各領域の誤差Et+△tを用いて補正し、左画像LPの各領域の距離Ztを算出する。すなわち、誤差Et+△tの分だけ、距離Zt+△tの値が増減される。これにより、例えば、左画像LP上の動きのある物体OBJなどの領域の距離が、誤差のないより正確な距離に補正される。
例えば、補正部175は、ε=(1+Et+△t)として、Zt=Zt+△t×ε―1を計算することで、補正後の距離Ztを求める。
補正部175は、左画像LPの各領域の距離Ztを算出すると、その算出結果を後段に出力する。そして、左画像LPの各領域の距離Ztが出力されると、距離算出処理は終了する。
このようにして、信号処理装置161は、提示信号からカメラ12の位相ずれ△tを求めておき、ステレオカメラ42で撮影された画像を用いて、被写体までの距離を算出する場合に、位相ずれ△tを用いて測定誤差を見積もり、距離の算出結果を補正する。
このように、信号処理装置161では、位相ずれ△tと、画像上の被写体の動きとから、より簡単に被写体までの距離の測定誤差を見積もることができる。これにより、より簡単かつ高精度に被写体までの距離を算出することができる。
また、信号処理装置161では、提示信号を撮影して得られたキャプチャ信号や、折り返し信号を比較して位相ずれ△tを検出するので、従来のように、仮想的な同期画像を生成する処理が必要なくなり、より簡単かつ迅速に位相ずれを得ることができる。
また、信号処理装置161が被写体までの距離を測定する例について説明したが、撮影された被写体の画像間の視差を検出するようにしてもよい。
そのような場合、誤差算出部174は、動き検出部173から供給された、左画像LP上の各領域の動きの検出結果を用いて、それらの各領域にある被写体の左画像LP上のX方向の速度vxを算出する。そして、誤差算出部174は、この速度vxと、位相ずれ検出部81からの位相ずれ△tとを用いて、視差の誤差et+△tを算出する。
すなわち、視差の誤差et+△tは、上述した式(12)により表される。また、速度vx=(fO×Vx)/(Zt×l)であるから、誤差et+△t=vx×△tが得られる。誤差算出部174は、速度vxと位相ずれ△tとの積を誤差et+△tとして算出し、補正部175に供給する。
また、補正部175は、距離検出部172からの視差dt+△tから、誤差算出部174からの誤差et+△tを減算することで、視差dt+△tを補正し、誤差のない視差dtを算出する。
このように、信号処理装置161においては、カメラ12の位相ずれ△tの検出結果を利用して視差を補正し、より正確な視差を得ることができる。
以上のように、信号処理装置161によれば、距離や視差の計測精度の向上を図ることができるので、信号処理装置161を、ステレオカメラ42を用いて距離測定や視差検出を行なうアプリケーションプログラム全般に適用することが可能である。
例えば、被写体までの距離情報に基づいて、画像にエフェクトを施したり、距離情報そのものを利用してユーザインターフェースを制御したりする場合、高精度な距離測定が要求されるため、信号処理装置161は、このような処理を行う場合に特に効果的である。
なお、以上においては、ステレオカメラ42を構成するカメラ12の撮影タイミングのずれを検出する場合を例として説明したが、本発明は、任意の非同期の信号の位相ずれを検出する場合に適用可能である。
上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。
図19は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
コンピュータにおいて、CPU(Central Processing Unit)301,ROM(Read Only Memory)302,RAM(Random Access Memory)303は、バス304により相互に接続されている。
バス304には、さらに、入出力インターフェース305が接続されている。入出力インターフェース305には、キーボード、マウス、マイクロホンなどよりなる入力部306、ディスプレイ、スピーカなどよりなる出力部307、ハードディスクや不揮発性のメモリなどよりなる記録部308、ネットワークインターフェースなどよりなる通信部309、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア311を駆動するドライブ310が接続されている。
以上のように構成されるコンピュータでは、CPU301が、例えば、記録部308に記録されているプログラムを、入出力インターフェース305及びバス304を介して、RAM303にロードして実行することにより、上述した一連の処理が行われる。
コンピュータ(CPU301)が実行するプログラムは、例えば、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)等)、光磁気ディスク、もしくは半導体メモリなどよりなるパッケージメディアであるリムーバブルメディア311に記録して、あるいは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供される。
そして、プログラムは、リムーバブルメディア311をドライブ310に装着することにより、入出力インターフェース305を介して、記録部308にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部309で受信し、記録部308にインストールすることができる。その他、プログラムは、ROM302や記録部308に、あらかじめインストールしておくことができる。
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
なお、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
12−1,12−2,12 カメラ, 41 信号処理装置, 42 ステレオカメラ, 51 信号提示部, 52 本体機器, 81 位相ずれ検出部, 91 生成部, 92 切り替え部, 93−1,93−2,93 フィルタ処理部, 94 マッチング処理部, 95 ずれ量算出部, 161 信号処理装置, 172 距離検出部, 173 動き検出部, 174 誤差算出部, 175 補正部
Claims (8)
- 第1の撮影手段と第2の撮影手段とに、既知の同じフレームレートで同一の被写体を撮影させたときに生じる撮影タイミングのずれを検出する信号処理装置であって、
既知の第1の周波数で周期的に状態が変化する提示信号を、前記第1の撮影手段により撮影して得られた第1の画像から、各時刻における前記提示信号の状態を示す第1のキャプチャ信号を生成するとともに、前記提示信号を前記第2の撮影手段により撮影して得られた第2の画像から、各時刻における前記提示信号の状態を示す前記第2のキャプチャ信号を生成する生成手段と、
前記第1のキャプチャ信号と前記第2のキャプチャ信号との位相のずれを検出することで、前記撮影タイミングのずれを検出するマッチング処理手段と
を備える信号処理装置。 - 前記マッチング処理手段は、前記第1の周波数が前記フレームレートのナイキスト周波数以下である場合、前記第1のキャプチャ信号と、前記第2のキャプチャ信号との差分を求めることで前記位相のずれを検出し、前記位相のずれを前記撮影タイミングのずれとする
請求項1に記載の信号処理装置。 - 前記第1のキャプチャ信号にフィルタ処理を施して、前記フレームレートと前記第1の周波数とから予め定まる第2の周波数の第1の折り返し信号を抽出するとともに、前記第2のキャプチャ信号に前記フィルタ処理を施して、前記第2の周波数の第2の折り返し信号を抽出するフィルタ処理手段をさらに備え、
前記マッチング処理手段は、前記第1の周波数が前記ナイキスト周波数より大きい場合、前記第1の折り返し信号と前記第2の折り返し信号との差分を求めることで、前記位相のずれを検出し、前記位相のずれを前記撮影タイミングのずれとする
請求項2に記載の信号処理装置。 - 前記第1のキャプチャ信号および前記第2のキャプチャ信号に含まれる折り返し信号の周波数のうち、正の値である最小の周波数が、前記第2の周波数として定められる
請求項3に記載の信号処理装置。 - 前記提示信号は、画像上における撮影対象の表示位置若しくは大きさ、輝度、色、または提示位置が前記第1の周波数で周期的に変化する信号である
請求項1に記載の信号処理装置。 - 前記第1の撮影手段により動きのある動被写体を撮影して得られた第1の撮影画像と、前記第2の撮影手段により前記動被写体を撮影して得られた第2の撮影画像とを用いた対応点探索処理により、所定位置から前記動被写体までの距離、または前記動被写体の視差を算出する算出手段と、
異なる時刻に撮影された前記第1の撮影画像を用いて、前記動被写体の動きを検出する動き検出手段と、
前記動き検出の結果から、前記第1の撮影画像における前記動被写体の移動速度を求め、前記移動速度および前記撮影タイミングのずれに基づいて、前記距離または前記視差の誤差を算出する誤差算出手段と、
前記誤差に基づいて、前記距離または前記視差を補正する補正手段と
をさらに備える請求項1に記載の信号処理装置。 - 第1の撮影手段と第2の撮影手段とに、既知の同じフレームレートで同一の被写体を撮影させたときに生じる撮影タイミングのずれを検出する信号処理装置であり、
既知の第1の周波数で周期的に状態が変化する提示信号を、前記第1の撮影手段により撮影して得られた第1の画像から、各時刻における前記提示信号の状態を示す第1のキャプチャ信号を生成するとともに、前記提示信号を前記第2の撮影手段により撮影して得られた第2の画像から、各時刻における前記提示信号の状態を示す前記第2のキャプチャ信号を生成する生成手段と、
前記第1のキャプチャ信号と前記第2のキャプチャ信号との位相のずれを検出することで、前記撮影タイミングのずれを検出するマッチング処理手段と
を備える信号処理装置の信号処理方法であって、
前記生成手段が、前記第1の画像から前記第1のキャプチャ信号を生成するとともに、前記第2の画像から前記第2のキャプチャ信号を生成し、
前記マッチング処理手段が、前記第1のキャプチャ信号と前記第2のキャプチャ信号とから、前記撮影タイミングのずれを検出する
ステップを含む信号処理方法。 - 第1の撮影手段と第2の撮影手段とに、既知の同じフレームレートで同一の被写体を撮影させたときに生じる撮影タイミングのずれを検出する信号処理用のプログラムであって、
既知の第1の周波数で周期的に状態が変化する提示信号を、前記第1の撮影手段により撮影して得られた第1の画像から、各時刻における前記提示信号の状態を示す第1のキャプチャ信号を生成するとともに、前記提示信号を前記第2の撮影手段により撮影して得られた第2の画像から、各時刻における前記提示信号の状態を示す前記第2のキャプチャ信号を生成し、
前記第1のキャプチャ信号と前記第2のキャプチャ信号との位相のずれを検出することで、前記撮影タイミングのずれを検出する
ステップを含む処理をコンピュータに実行させるプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010070496A JP2011205388A (ja) | 2010-03-25 | 2010-03-25 | 信号処理装置および方法、並びにプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010070496A JP2011205388A (ja) | 2010-03-25 | 2010-03-25 | 信号処理装置および方法、並びにプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2011205388A true JP2011205388A (ja) | 2011-10-13 |
Family
ID=44881550
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010070496A Withdrawn JP2011205388A (ja) | 2010-03-25 | 2010-03-25 | 信号処理装置および方法、並びにプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2011205388A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013118640A (ja) * | 2011-12-05 | 2013-06-13 | Tektronix Inc | 立体ビデオ時間的フレーム・オフセット測定システム及び方法 |
JP2013257151A (ja) * | 2012-06-11 | 2013-12-26 | Ricoh Co Ltd | 視差値演算装置及びこれを備えた視差値演算システム、移動面領域認識システム、視差値演算方法、並びに、視差値演算用プログラム |
DE112022001445T5 (de) | 2021-08-02 | 2024-01-25 | Hitachi Astemo, Ltd. | Multikameravorrichtung |
-
2010
- 2010-03-25 JP JP2010070496A patent/JP2011205388A/ja not_active Withdrawn
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013118640A (ja) * | 2011-12-05 | 2013-06-13 | Tektronix Inc | 立体ビデオ時間的フレーム・オフセット測定システム及び方法 |
JP2013257151A (ja) * | 2012-06-11 | 2013-12-26 | Ricoh Co Ltd | 視差値演算装置及びこれを備えた視差値演算システム、移動面領域認識システム、視差値演算方法、並びに、視差値演算用プログラム |
DE112022001445T5 (de) | 2021-08-02 | 2024-01-25 | Hitachi Astemo, Ltd. | Multikameravorrichtung |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10240912B2 (en) | Determining a propagation velocity for a surface wave | |
US10297076B2 (en) | Apparatus and method for generating 3D face model using mobile device | |
JP4564519B2 (ja) | ローリングシャッタcmosセンサ画像における変調光作用の除去 | |
Bradley et al. | Synchronization and rolling shutter compensation for consumer video camera arrays | |
US11047962B2 (en) | Method for binning time-of-flight data | |
CN106998425B (zh) | 振动检测设备、振动检测方法和摄像设备 | |
WO2017075788A1 (zh) | 一种防抖拍照方法、装置及照相设备 | |
JP6638723B2 (ja) | 画像解析装置、画像解析方法、及び、画像解析プログラム | |
JP5083011B2 (ja) | 撮像装置の手ぶれ補正機能の評価方法および手ぶれモデル波形の生成方法 | |
JP2009211023A5 (ja) | ||
JP2011205388A (ja) | 信号処理装置および方法、並びにプログラム | |
WO2013185936A1 (en) | Apparatus and method for estimating a property of a surface using speckle imaging | |
JP2017212638A (ja) | 表示装置、表示装置の制御方法、及びプログラム | |
JP2020108119A5 (ja) | 報知装置、撮像装置、報知方法、撮像方法、プログラム、及び記憶媒体 | |
WO2016011871A1 (zh) | 拍摄方法、拍摄装置和计算机存储介质 | |
WO2020031603A1 (ja) | 距離計測装置、距離計測システム、および距離計測方法、並びにプログラム | |
WO2020070808A1 (ja) | 脈波算出装置、脈波算出方法及び脈波算出プログラム | |
KR101627795B1 (ko) | 키-프레임과 자이로 스코프를 이용한 롤링-셔터 보정 방법 및 이를 적용한 촬영장치 | |
JP6942567B2 (ja) | 情報処理装置、情報処理方法及びコンピュータプログラム | |
JP2018013416A (ja) | Mtf測定装置及びそのプログラム | |
JP2008157780A (ja) | 3次元データ生成装置、画像取得装置、3次元データ生成方法、画像取得方法およびプログラム | |
JPS60209104A (ja) | 移動体の追跡方法 | |
JP2018005391A (ja) | 点滅物体検出方法及び点滅物体検出装置 | |
JPWO2016181672A1 (ja) | 画像解析装置、画像解析方法、及び、画像解析プログラム | |
JP2016151443A (ja) | 撮像装置、撮像方法、及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Withdrawal of application because of no request for examination |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20130604 |