JP3793741B2 - Range finder device - Google Patents
Range finder device Download PDFInfo
- Publication number
- JP3793741B2 JP3793741B2 JP2002160275A JP2002160275A JP3793741B2 JP 3793741 B2 JP3793741 B2 JP 3793741B2 JP 2002160275 A JP2002160275 A JP 2002160275A JP 2002160275 A JP2002160275 A JP 2002160275A JP 3793741 B2 JP3793741 B2 JP 3793741B2
- Authority
- JP
- Japan
- Prior art keywords
- light
- subject
- light source
- camera
- distance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/521—Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
Description
【0001】
【発明の属する技術分野】
本発明は、物体の3次元形状の計測を行うレンジファインダ装置に関する。
【0002】
【従来の技術】
投影光と観察画像の三角測量に基づいて3次元形状計測を行うレンジファインダ装置としては、例えば、図40に示すような実時間動作可能なものが提案されている。
【0003】
図40において、101A、101Bは波長のわずかに異なるレーザ光源、102は前記波長の異なるレーザ光源からのレーザ光を合成するハーフミラー、103は前記レーザ光源の光強度を制御する光源制御部、104はレーザ光を走査する回転ミラー、105は回転ミラーを制御する回転制御部、106は被写体、107はCCD上に像を結ぶためのレンズ、108A、108Bはレーザ光源の波長の光を分離する光波長分離フィルタ、109A、109Bはモノクロ画像を撮像するCCD、109Cはカラー画像を撮像するCCD、110A、110Bはモノクロカメラの信号処理部、111はカラーカメラの信号処理部、112はCCD109A、109Bによって撮影したレーザ光の強度から被写体の距離もしくは形状を計算する距離計算部、113は装置全体の同期を調整する制御部である。以下、このように構成されたレンジファインダ装置の動作について説明する。
【0004】
レーザ光源101A、101Bは、波長のわずかに異なるレーザ光を発する。このレーザ光は、後述の回転ミラーの走査方向と垂直な光断面を有するライン光であり、回転ミラーが水平方向に走査する場合は垂直方向のライン光となる。
【0005】
これら2つの光源の波長特性を図41に示す。波長の近い2つの光源を用いるのは、被写体の反射率の波長依存性の影響を受けにくくするためである。レーザ光源101A、101Bから発せられたレーザ光はハーフミラー102によって合成され、回転ミラー104によって被写体6に走査される。
【0006】
このレーザ光の走査は、回転制御部105がフィールド周期で回転ミラー104を駆動することにより行われる。その際に、双方の光源の光強度を1フィールド周期内で、図42(a)に示すように変化させる。レーザ光強度の変化とミラー角の駆動とを同期させることにより、2つのレーザ光強度をCCD109A、109Bによりモニタしてその光強度比を算出することにより、一走査周期における時刻を測定することができる。例えば、図42(b)に示すように、光強度がIa/Ibの場合には、走査時刻はt0と測定され、その測定値から回転ミラー104の回転角(φ)が判明する。
【0007】
このように、2つのレーザ光強度の比とミラー角(すなわち、光源側から見た被写体の角度)とを1対1に対応させることにより、後述する距離計算部において、双方の光源の光を撮影した信号レベルの比から、三角測量の原理により被写体の距離もしくは形状が計算される。
【0008】
レンズ107はCCD109A、109B、109C上に被写体の像を結ぶ。光波長分離フィルタ108Aは、光源101Aの波長の光を透過し、他の波長の光を反射する。光波長分離フィルタ108Bは、光源101Bの波長の光を透過し、他の波長の光を反射する。その結果、光源101A、101Bの光の被写体からの反射光はCCD109A、109Bにより撮影され、他の波長の光はカラー画像としてCCD109Cにより撮影される。
【0009】
光源A信号処理部110Aと光源B信号処理部110Bは、CCD109A、109Bの出力について通常のモノクロカメラと同様の信号処理を行う。カラーカメラ信号処理部111は、CCD109Cの出力について通常のカラーカメラの信号処理を行う。
【0010】
距離計算部112は、各光源の波長についてCCD109A、109Bにより撮影された信号レベルの比、基線長、画素の座標値から、各画素について距離計算を行う。
【0011】
図43(a),(b)は、その距離計算を図形的に説明する図である。同図において、Oはレンズ107の中心、Pは被写体上の点、Qは回転ミラーの回転軸の位置である。また、説明を簡単にするため、CCD109の位置を被写体側に折り返して示している。また、OQの長さ(基線長)をL、XZ平面内でQから見たPの角度をφ、OからみたPの角度をθ、YZ平面内でOからみたPの角度をωとすると、図計的な関係より、Pの3次元座標は以下の式(1)で計算される。
【0012】
Z=Dtanθtanφ/(tanθ+tanφ)
X=Z/tanθ
Y=Z/tanω ・・・・・ (1)
式(1)のφについては、前述のとおり、CCD109A、109Bによりモニタしたレーザ光源101A、101Bの光強度比によって計算し、θ、ωについては画素の座標値から計算する。式(1)に示した値のうち、すべてを計算すると形状を求めることになり、Zのみであれば距離画像を求めることになる。
【0013】
一方、光源からの光を、被写体に直接照射出来ない場所の撮影には、光ファイバを利用したカメラが知られている。例えば、人体の内部を診察する際に用いられる内視鏡の一つとして胃カメラ等がある。胃カメラの場合、通常光ファイバからの光照射により胃の内壁を照射して、この内壁部からの反射光を別の光ファイバで受光して外部のカメラ部に導き、これを2次元的に処理して通常の画像をモニタに映し出す構成である。
【発明が解決しようとする課題】
【0014】
しかしながら、上記従来の内視鏡等の様に、光源からの光を、被写体に直接照射出来ない場所の撮影には、光ファイバを利用したカメラでは、画像が2次元的データであるため、突起部位の有無の診察等が難しいと言う課題が有った。
また、上記のような従来の構成では、変調可能な光源と光源掃引手段が必須であり、機械的な動作を含むため装置の信頼性が低く、装置のコストが高いという問題があった。
【0015】
本発明は、上記従来の課題を考慮し、光源からの光を、被写体に直接照射出来ない場所の被写体の距離を計測出来るレンジファインダを提供することを目的とする。
【0016】
【課題を解決するための手段】
本発明は、光源と、
前記光源から出射される光を導く第1光ファイバと、
前記第1光ファイバから導かれた光を複数の経路に分岐する光分配手段と、
前記光分配手段に一端が接続され、且つ他端の開口部から前記分岐された光を被写体に照射するための複数の第2光ファイバと、
前記照射された光の反射光を受光して、前記被写体の画像データを取得する撮像手段と、
前記画像データに基づいて前記被写体までの距離を計算する距離計算手段とを備え、
複数の前記第2光ファイバのそれぞれの前記他端から前記被写体に照射される光の強度が、いずれも場所的に異なる分布を有していることを特徴とするレンジファインダ装置である。
【0017】
【発明の実施の形態】
以下、本発明の一実施の形態に係るレンジファインダ装置について、図面を用いて説明する。
【0018】
(第1の参考例)
図1は、本発明に関連する第1の参考例におけるレンジファインダの構成図である。図1において、1カメラ、2a,2bは光源、5は光源制御部、6は距離計算部である。以下に上記構成の動作について説明する。
【0019】
光源制御部5は、カメラ1の垂直同期信号に同期して、フィールド周期毎に光源2a,2bを交互に発光させる。光源2a,2bとしては、例えば図2(a)に示すように、キセノンフラッシュランプ等の閃光光源7、8を縦に配置し、後方の反射板の方向を左右にずらしたものを用いることができる。図2(b)は、図2(a)の平面図である。光源2a、2bはそれぞれA、Bの範囲に光を輻射する。このキセノンランプは発光部分が小型のもので、上から見て点光源と見なせるものが望ましい。さらには、光源2a、2bは縦方向に配置されているがその距離は1cm程度であり、ほとんど一点から光が発光されているとみなせる。
【0020】
このような光源から輻射される光パタンは図3のようになる。これは仮のスクリーンに光を投射した場合、そのスクリーン面の明るさの大きさを図中の→方向で示したものである。即ち、各々の光源は中心軸上が最も明るく、周辺になるほど暗くなる特性を持つ。このような中央が明るく周辺が暗いのは半円筒状の反射板9,10が閃光光源7,8の背後に配置されているからである。また、その半円筒状の反射板9,10の向きがずれており、それぞれの投射光は一部が重なるように発光されている。
【0021】
図4は、図3のH方向の面における、光源からの投射光の角度と光強度の関係を示したものである。このH方向とは、光源中心とレンズ中心とを含む複数個の面のうち、任意の面Sと前記仮のスクリーンとの交叉線の方向である。この光パタンのうちα部分においては、2つの光源から被写体空間に照射される光は、各光源から見て一方は右側が明るく、他方は左側が明るい光となる。但し、このパタンは高さ方向(Y方向)に対しても異なっている。
【0022】
図5は、図4のα部分における、上記2つの投射光での被写体照明での光強度比と、投射光をXZ平面に投影したものがX軸に対してなす角度φとの関係を示したものである。α部分においては、光強度比と角度φの関係は1対1対応である。距離の測定のためには、事前に2種類の光パタンを、光源から所定距離離れ、垂直に立てられた平面に交互に投射し、この反射光をカメラ1で撮像した結果から、各Y座標(CCD上のY座標に対応する)毎に図5のような光強度比と投射光の角度との関係のデータを得ておく。Y座標毎とは、光源中心とレンズ中心とを含む複数個の面毎にということである。
【0023】
また、カメラ1のレンズ中心と光源を結ぶ線分が、CCD撮像面のX軸と平行になるように光源を配置すれば、各Y座標毎に決定された光強度比と投射光の角度の関係のデータを用いることにより正確に距離計算を行うことができる。以下に、光強度比を用いた距離計算の方法について説明する。
【0024】
図1の点Pを着目点とする時、カメラ1によって撮像した映像の点Pについての2種類の光パタン照射時の撮像データから得られた輝度比と、点PのY座標値に対応した図5の関係を用いることにより、光源から見た点Pの角度φを計測する。なお、図5の関係は前述のように、Y座標値によって異なる特性を持ち、各Y座標毎に光強度比と、光源からの水平方向の角度φの関係が事前の測定によって用意されているものとする。また、カメラから見た点Pに対する角度θは、画像中での位置(すなわち点Pの画素座標値)とカメラパラメータ(焦点距離、レンズ系の光学中心位置)から決定する。そして、上記2つの角度と、光源位置とカメラの光学中心位置間の距離(基線長)とから、三角測量の原理により距離を計算する。
【0025】
カメラの光学中心を原点とし、カメラの光軸方向をZ軸、水平方向にX軸、垂直方向にY軸を設定し、光源からみた着目点の方向がX軸となす角をφ、カメラから見た着目点の方向とX軸がなす角をθ、光源位置を(0,−D)すなわち基線長をDとすると、着目点Pの奥行き値Zは前述の式(1)
Z=Dtanθtanφ/(tanθ−tanφ)
として計算できる。
【0026】
以上のように本参考例によれば、光強度を用いたレンジファインダによる距離測定時に、光源や光学系により生じる光強度の変化を補正して距離計測を行うことにより、全て電子的な動作で実現できる、安定した精度のよいレンジファインダ装置を実現することができる。
【0027】
なお、本参考例によるレンジファインダの赤外カメラの前面にハーフミラーもしくはダイクロイックミラーとカラーカメラを配置することにより、距離画像と同時に同一視点のカラー画像も得ることができ、本発明に含まれる。
【0028】
なお、本参考例における距離計算部では、距離Zのみを計算し計算結果を距離画像として出力するものとしたが、図6に示す角度ωを用いて式(1),式(2)より三次元座標値X,Y,Zを全て計算し三次元座標データを出力してもよく、本発明に含まれる。
【0029】
X=Z/tanθ
Y=Z/tanω ・・・・・ (2)
なお、本参考例において、光源2a、2bを同時に発光させ、図4の点線のように1つの中心の明るさが大きく、周辺が暗くなる通常のフラッシュランプとして使用すれば、通常の2次元画像を撮像することができる。
【0030】
また、本参考例において、光源2の前面に赤外通過型フィルタを挿入し、カメラ1に赤外波長領域に感度のあるものを用いればフラッシュ光の点灯が使用者や他のカメラ撮影画像に妨害を与えないようにすることができる。また、ハーフミラーやダイクロイックミラー等で赤外カメラと同軸で同時に通常のカラーカメラで画像を撮像すれば、奥行き画像とそれに対応したテクスチャ画像を同時に撮像することもできる。
【0031】
また、本参考例において、フラッシュ光は数百マイクロ秒の時間閃光するので、その期間のみカメラ1はシャッタ動作によって露出を行うように設定すれば、背景光が距離測定に影響を及ぼすことを抑圧することが出来、ある程度明るい場所でも距離画像を撮像することができる。
【0032】
また、本参考例においては、2種類の光パタンを被写体に照射し、それぞれの場合の撮像画像を用いて各画素での光強度比を計算したが、光パタンを照射しない場合の画像も撮像して合計3種類(光パタン2種類、光パタン無し1種類)の画像を得て計算しても良い。この場合、各画素の光強度比を計算する際に、各々の光パタン照射時の光強度の値から光パタン無しの場合の光強度を差し引いた差分値を計算する。そしてこれらの差分値の比を計算して光強度比とする。このようにすれば明るい場所での撮像の場合、背景光による距離計算誤差を抑圧することが出来る。
【0033】
(第2の参考例)
図7は、本発明に関連する第2の参考例におけるレンジファインダの構成図である。図7において、1aは赤外光に感度を有するカメラ、2a,2bは光源、3a,3bは赤外透過フィルタ、4a,4bは水平方向に透過率が変化するNDフィルタ、5は光源制御部、6は距離計算部である。以下に上記構成の動作について説明する。
【0034】
光源制御部5は、赤外カメラ1aの垂直同期信号に同期して、フィールド周期毎に光源2a,2bを発光させる。光源2a,2bとしては、キセノンランプ等の閃光を発するもので、発光部分が小型のもの(点光源と見なせるもの)が望ましい。また、光源2a,2bは垂直方向に配置する。
【0035】
各光源の前面には、赤外透過フィルタ3a,3bとNDフィルタ4a,4bとを配置する。NDフィルタ4a,4bは水平方向に透過率が変化する。図2は水平方向の光源からの角度と、NDフィルタ4a,4bの透過率の関係を示す。
【0036】
これらのNDフィルタにより、2つの光源から被写体空間に照射される光は、光源から見て一方は右側が明るく、他方は左側が明るい光となる。その結果、被写体にはフィールド周期毎に、上記右側もしくは左側が明るい光が交互に投射される。
【0037】
図5は、上記2つの投射光の光強度比と、光源からの水平方向の角度との関係を示す。以下に、光強度比を用いた距離計算の方法について説明する。
【0038】
図7の点Pを着目点とする時、図5の関係を用いることにより、カメラ1aによって撮像した映像の点Pについてのフィールド間での輝度比から、光源から見た点Pの角度を計測する。また、カメラから見た点Pに対する角度は、画像中での位置(すなわち点Pの画素座標値)とカメラパラメータ(焦点距離、レンズ系の光学中心位置)から決定する。そして、上記2つの角度と、光源位置とカメラの光学中心位置間の距離(基線長)とから、三角測量の原理により距離を計算する。
【0039】
カメラの光学中心を原点とし、カメラの光軸方向をZ軸、水平方向にX軸、垂直方向にY軸を設定し、光源からみた着目点の方向がX軸となす角をφ、カメラから見た着目点の方向とX軸がなす角をθ、光源位置を(0,−D)すなわち基線長をDとすると、着目点Pの奥行き値ZはZ=Dtanθtanφ/(tanθ−tanφ)として計算できる。
【0040】
距離計算部6はカメラ1aの映像信号から距離画像を計算する。そのやり方は参考例1と同じでよいが、次に示すような別のより正確な測定が可能な方法がある。図8は、距離計算部6の構成図である。図8において、11a,11bはフィールドメモリ、12a,12bは光強度補正手段、13は光強度比計算手段、14は距離変換手段である。以下に各構成要素の動作について説明する。
【0041】
カメラ1aにより撮像された画像はフィールド毎にフィールドメモリ11a、11bに書き込まれる。
【0042】
光強度補正手段12a,12bはフィールドメモリに書き込まれた光強度を補正する手段である。その補正の理由を次に説明する。図9は、距離Zが一定のスクリーンに点光源から光を(NDフィルタが無い状態で)照射し、面からの反射光を撮像した場合に、撮像される光強度と画素座標値の関係を示す。図9では簡単のために横方向についてのみ1次元的に示しているが、垂直方向についても同様に光強度は曲線的な分布を示す。
【0043】
この分布の要因としては、カメラのレンズ系による周辺減光、被写体面に対する光線の入射角の変化による反射光強度の変化、光源からの角度による光強度の変化等が考えられる。これらの要因により生じる光強度の変化は、光強度比観測時の誤差すなわち距離計測時の誤差となるため、距離計測精度を改善するためには光強度の変換が必要となる。この誤差があると、場合によっては図5の特性曲線中に単調増加曲線でない部分が生じる。そのような部分では、光強度と、上記角度とが一対一対応しなくなる。その結果、測定結果が狂ってしまうことになる。また、この誤差がなければ光強度(比)はY軸方向で一定となり、図5の変換テーブルが1つですむという利点がある(参考例1ではY座標値の個数分変換テーブルが必要となる)。
【0044】
そこで、光強度変換手段12a,12bは、上記計測誤差を低減させるために、NDフィルタが無い場合の、基準となる距離だけ離れたスクリーン上の画像での2次元的な光強度の曲線分布を予め測定しておき、上記光強度と投射光の角度との関係(図5対応)を得る際、また、実際の被写体の距離を測定する際に、その予め測定した光強度の曲線分布に従って、フィールドメモリの光強度を補正変換する。補正変換は、上記光強度の曲線分布を一定値に補正する係数(すなわち、ピーク値又はある任意の値に対する各画素において撮像された光強度の比)を2次元LUT(ルックアップテーブル)として保持し、フィールドメモリのデータに画素毎に補正計数を乗じて行う。
【0045】
上記基準距離は、被写体を配置する距離が予めわかる場合は、その距離の付近にすることで、距離計測時の精度を改善できる。
【0046】
以上のように本参考例によれば、光強度を用いたレンジファインダによる距離測定時に、光源や光学系により生じる光強度の誤差を補正して距離計測を行うことにより、全て電子的な動作で実現できる、安定した精度のよいレンジファインダ装置実現することができる。
【0047】
なお、本参考例によるレンジファインダの赤外カメラの前面にハーフミラーもしくはダイクロイックミラーとカラーカメラを配置することにより、距離画像と同時に同一視点のカラー画像も得ることができる。
【0048】
なお、本参考例における距離計算部の説明では、距離Zのみを計算し計算結果を距離画像として出力するものとしたが、図6に示す角度ωを用いて、下記の式
Z=Dtanθtanφ/(tanθ−tanφ)
X=Z/tanθ
Y=Z/tanω
より三次元座標値X,Y,Zを全て計算し三次元座標データを出力することができる。
【0049】
尚、本参考例の距離計算部における光強度補正では、被写体が上述した基準距離から離れた場合、撮像される画素の位置がずれる(すなわち視差が生じる)ため、距離計測精度が低下する。そのような場合、予め複数の基準距離についての光強度補正量を用意しておき、最初、ある1つの基準距離での補正を行って距離を計算し、次にそれに近い基準距離での補正量を用いて再度距離を計算することによって計測精度を改善できる。
【0050】
なお、本参考例において、光源2a、2bを同時に発光させ、図4の点線のように1つの中心の明るさが大きく、周辺が暗くなる通常のフラッシュランプとして使用すれば、通常の2次元画像を撮像することができる。
【0051】
また、本参考例において、ハーフミラーやダイクロイックミラー等で赤外カメラと同軸で同時に通常のカラーカメラで画像を撮像すれば、奥行き画像とそれに対応したテクスチャ画像を同時に撮像することもできる。
【0052】
また、本参考例において、フラッシュ光は数百マイクロ秒の時間閃光するので、その期間のみカメラ1はシャッタ動作によって露出を行うように設定すれば、背景光が距離測定に影響を及ぼすことを抑圧することが出来、ある程度明るい場所でも距離画像を撮像することができる。
【0053】
また、本参考例においては、2種類の光パタンを被写体に照射し、それぞれの場合の撮像画像を用いて各画素での光強度比を計算したが、光パタンを照射しない場合の画像も撮像して、合計3種類(光パタン2種類、光パタン無し1種類)の画像を得て計算しても良い。
【0054】
この場合、各画素の光強度比を計算する際に、各々の光パタン照射時の光強度の値から光パタン無しの場合の光強度を差し引いた差分値を計算する。そしてこれらの差分値の比を計算して光強度比とする。このようにすれば明るい場所での撮像の場合、背景光による距離計算誤差を抑圧することが出来る。
【0055】
また、本参考例において被写体に投光する光パターンを、横方向に透過率が変化するNDフィルタ4a,4bと光源2a,2bの代わりに、光透過型液晶表示素子(通常の液晶映像プロジェクタに使われるようなもの)と光源1つを用いてもよい。光透過型液晶表示素子の光透過パターンを切り替えて光源を2回発光させることによって、あるいは、光源を点灯しておいて光透過型液晶表示素子の2種類の光パターンを切り替えることによって、本参考例と同様に2種類の光パターンを被写体に時分割にて照射することができる。
【0056】
(第1の実施の形態)
図10(a)は、本発明のレンジファインダの第1の実施の形態の構成を示す概略斜視図である。同図を参照しながら、 以下に本実施の形態の構成を説明する。
【0057】
図10(a)に示す様に、半導体レーザ201は、波長λの光を出射する光源手段である。第1光ファイバ202は、半導体レーザ201から出射される光を光分配器203に導く手段である。又、第1光ファイバ202と半導体レーザ201の間には、コリメータレンズ204が配置されている。光分配器203は、第1光ファイバ202から導かれた光を2つの経路に分岐する光分配手段である。又、光分配器203は、シャッター機構を備えており、分岐した光を時分割で第2光ファイバa,bに送り出す手段である。第2光ファイバa(205a)及び第2光ファイバb(205b)は、それぞれ光分配器203に一端が接続され、且つ他端の開口部から分岐された光を被写体(例えば、胃の内壁など)に照射するための光ファイバである。カメラ部206は、受光用光ファイバ束207により受光された、被写体からの反射光により、被写体の画像データを取得する撮像手段である。
尚、受光用光ファイバ束207の先端には、レンズ210が近接配置されている。CCD209は、受光用光ファイバ束207からの光を受光出来るように、カメラ部206に取り付けられた撮像素子である。又、第2光ファイバa(205a)の開口部208aから照射される光は、上記実施の形態で説明した図4に示す様な光強度分布を示す。第2光ファイバb(205b)の開口部208bから照射される光も同様である。これらの光が、この様に水平方向の位置によって、光強度の分布が異なるのは、光ファイバの開口部から出る光が、開口角に基づいて拡散するからである。従って、開口角を調整することにより、光強度の分布の形状を変えることが出来る。尚、この開口角は、光ファイバの直径方向の屈折率を所定の値に設定することによりある程度の調整が可能である。
【0058】
尚、本実施の形態のレンジファインダは、上記実施の形態で述べた距離計算部6と同様の機能を備えた、カメラ部206からの画像データに基づいて被写体までの距離を計算する距離計算手段(図示省略)を備えている。又、上記第1光ファイバ202、及び第2光ファイバa,b(205a,205b)の双方又は一方に、光ファイバ束を用いても勿論良い。
【0059】
以上の構成により、次に本実施の形態の動作を図10(a)を用いて説明する。
【0060】
本実施の形態のレンジファインダは、胃カメラなどの内視鏡として利用することが出来るものである。
【0061】
即ち、第2光ファイバa、b(205a、205b)の先端と、受光用光ファイバ207の先端とを、患者の胃の中に挿入する。
【0062】
第2光ファイバa,bの開口部からは、図4に示す様な光強度の分布特性を有する光が、上記実施の形態1と同様、時分割で照射される。受光用光ファイバ207が、これらの光の反射光を受光する。更に、カメラ部206が、これら反射光から得た胃の内壁の画像データを距離計算部に送る。距離計算部は、上記実施の形態1と同様にして、胃の内壁の3次元距離データを計算して出力する。出力された距離データは、モニター(図示省略)に送られて3次元表示される。医師は、そのモニターを見ながら、第2光ファイバの先端を移動させ、3次元的に映し出された患部の画像を見ることが出来る。これにより、従来に比べてより一層正確な診察が出来る。
【0063】
尚、上記実施の形態では、光源部としての半導体レーザを一つ備えた構成のレンジファインダーについて説明したが、これに限らず例えば、図10(b)に示す様に、光源部を2つ備えた構成であっても良い。即ち、この場合、光源部としての半導体レーザ201a,201bには、それらの出射光を個別に被写体側に導き、被写体に照射するための光ファイバ205a、205bが設けられている。又、これら各光ファイバ205a,205bと半導体レーザ201a,201bの間には、コリメータレンズ204a,204bが配置されている。この様な構成により、上記と同様の効果を発揮する。
【0064】
又、上記実施の形態では、第1光ファイバ202と、2つの第2ファイバ205a,205bの間に、光分配器203を備えた構成について説明したが、これに限らず例えば、光分配器203及び第2光ファイバ205a,205bに代えて、第1光ファイバから導かれた光をファイバの先端部で2つの経路に分岐し、被写体に照射するための光分岐手段(図示省略)を備えた構成でも良い。この場合、第2の光ファイバを省略出来、しかも上記と同様の効果を発揮する。
【0065】
又、上記実施の形態では、図11(a)に示す様に、光ファイバ205a,205bの前には、何も配置していない構成について説明したが、これに限らず例えば、各光ファイバ205a,205bの開口部208a,208bの前面にコリメートレンズ301(図11(b)参照)や、シリンドリカルレンズ(又は、ロッドレンズ)302(図11(c)参照)を、各開口部208a,208bの前面に配置する構成でも良い。これにより、開口部から照射される光の強度を、より一層効率よく位置的に一様に変化させることが可能となる。なお、各開口部208a,208bの前面からは場所的に光強度の異なること無い光を出力させ、そのかわり、光透過率が位置的に異なる透過率変化フィルタ1(303a)と、透過率変化フィルタ2(303b)とを各開口部208a,208bの前面に配置することも可能である。
【0066】
ここで、図11(d)に示したフィルタの特性を、図12(a)、(b)を参照しながら、更に説明する。
【0067】
例えば、図12(a)に示した透過率変化フィルタ1(303a)を透過した光の強度分布は、図12(b)中の符号401aを付したものとなる様に設定されている。これに対して、透過率変化フィルタ2(303b)を透過した光の強度分布は、同図中の符号401bを付したものとなる様に設定されている。図12(b)は、図4に示したαの範囲についての光強度分布を表した図である。このような透過率変化フィルタを用いても本発明を実現できる。
【0068】
又、上記実施の形態では、光分配器にシャッター機構が設けられており、時分割で光が被写体に照射される構成の場合について述べたが、これに限らず例えば、光源からの光に複数の周波数の光が含まれており、光分配器にフィルタを設けることにより、異なる波長の光が開口部から照射される。そして、カメラ部にこれらの2種類の波長を区別して受光出来るフィルタと受光素子とを備える構成とすることにより、被写体の対して、2種類の波長の各光を同時に照射することが可能となる。これにより測定時間の短縮が可能となる。図10(b)に示した構成についても、半導体レーザ201a,201bの波長を異ならせて、カメラ部206を、2種類の波長を区別して受光出来るフィルタと受光素子とを備える構成とすれば、上記と同様に、測定時間の短縮が可能となる。
【0069】
又、上記実施の形態では光源として半導体レーザを用いたが、これに限らず例えば、LEDやランプなどを用いても良い。
【0070】
次に、上述した本発明にかかるレンジファインダ装置に関連する、よりコンパクトな、またシンプルな構造のカメラの例を説明する。
【0071】
つまり、上述したレンジファインダ装置においては、光源2a,2bを図2に示すように光反射板をずらしておいたり、発光管の前に水平場所によって光透過率の異なった光フィルタを装着する必要があり、構造が複雑であるといえる。
【0072】
また、カメラのレンズと光源の距離を数十センチ以上離さないと三角測量を用いるため測定精度が出ないと面もあり、これをカメラの筐体に収めようとしてもカメラがかなり大きくなる。
【0073】
また、従来公知のカメラで撮像した物体の大きさや寸法を測定することは被写体までの距離が分からないと簡単には計算できないという欠点があった。また、一旦撮影されたカラー画像から被写体の大きさを知ることは不可能であった。
【0074】
また、従来公知のカメラで撮像された画像から被写体を抽出しようとすると、背景が単一色の環境を予め用意しなくてはならず、大がかりな準備が必要であった。
【0075】
以下にそれらの不都合などを解決できる本発明の一参考例に係る形状計測用のカメラ及び被写体抽出用のカメラについて、図面を用いて説明する。
(第3の参考例)
図13(a),(b)は、本発明の第3の参考例における形状計測カメラ及び被写体抽出カメラの構成図である。また、図20はこのカメラのブロック図である。
【0076】
図13において、501,502はカメラ筐体、503は撮影レンズ、504は記録メディア、505,506はそれぞれ光源部を形成する第1,第2ストロボ、507はファインダである。
図20において、532は表示部、533は撮像部、534は光源制御部、535は距離計算部、536はカラー画像計算部、538はメディア記録・再生部、550は画像メモリである。
【0077】
この形状計測カメラの構造は、図13(a)に示すようにカメラ部の入っている筐体501と発光部の入っている筐体502が、互いに厚みが異なって互いに重なってはめ込むことが出来る構造になっており、更に図13(a)の状態と(b)の状態を、使用者が筐体501、502をスライドさせることによって選ぶことが出来る。携帯時には(a)の状態で小型の状態にしておき、撮影時には(b)のような状態に筐体を延ばして使用する。これにより、使用時にレンズ503の中心と光源部のストロボ505、506との間隔Dを大きく設定することが出来る。図20(a)は、画像メモリ550を用いない簡易方式、(b)は画像メモリを持ち高速に撮像・表示することのできるタイプである。
【0078】
光源部のストロボ505、506は、例えば図2のように構成されており、ストロボ発光管530と中心位置をずらした孔を有する遮光板528により構成されている。この時、図15の平面図に示すように発光管530の線分から出た光は、遮光板528により、その場所によって光の遮られ方が変化しながら出射される。この時、遮光板528の孔の位置がストロボ発光管530とずれており、直線l上での点AからBの間に光がだんだん強くなるような光が生成される。これによって、図16のように、2つのストロボ発光管から互いに反対方向に光強度が変化するような光パタンが生成される。次に、このような光を用いて奥行き距離を計算する方法を説明する。なお、その内容は、既に述べた奥行き距離の計算方法とおおむね同様である。
【0079】
このようにして得られる光パタンは、図17のように、光強度が変化するパタンになっている。この光強度の変化を横X方向に一次元的に示したのが図18である。この光パタンのうちα部分においては、2つの光源から被写体空間に照射される光は、光源から見て一方は右側が明るく、他方は左側が明るい光となる。但し、このパタンは高さ方向(Y方向)に対しても変化する。
【0080】
図19は、図18のα部分における、上記2つの投射光での被写体照明での光強度比と、光源からの水平方向の角度φとの関係を示したものである。α部分においては、光強度比と光源からの水平方向の角度φの関係は1対1対応である。距離の測定のためには、事前に2種類の光パタンを垂直に立てられた平面に交互に投射し、この反射光をカメラ501で撮像した結果から、各Y座標毎に図17のような光強度比と水平方向の光源からの位置の関係のデータを得ておく必要がある。
【0081】
また、カメラ501のレンズ中心と光源を結ぶ線分が、撮像面のX軸と水平になるように光源を配置すれば、各Y座標毎に決定された光強度比と水平方向の光源からの位置の関係のデータを用いることにより正確に距離計算を行うことができる。これは、図20(a)の距離計算部によって算出される。以下に、光強度比を用いた距離計算の方法について説明する。
【0082】
図20(a)の点Pを着目点とする時、使用者の撮像意図に基づいて撮像部533によって撮像した映像の点Pについての光源のストロボ505、506それぞれからの2種類の光パタンが時分割で光源制御部534によって投射された時の、撮像部533の出力である撮像データから得られた輝度比と、点PのY座標値に対応した図19の関係を用いることにより、光源から見た点Pの角度φを計測する。
【0083】
なお、図19の関係は前述のように、Y座標値によって異なる特性を持ち、各Y座標毎に光強度比と、光源からの水平方向の角度φの関係が事前の測定によって用意されているものとする。また、カメラから見た点Pに対する角度θは、画像中での位置(すなわち点Pの画素座標値)とカメラパラメータ(焦点距離、レンズ系の光学中心位置)から決定する。そして、上記2つの角度と、光源位置とカメラの光学中心位置間の距離(基線長D)とから、三角測量の原理により距離を計算する。
【0084】
カメラの光学中心を原点とし、カメラの光軸方向をZ軸、水平方向にX軸、垂直方向にY軸を設定し、光源からみた着目点の方向がX軸となす角をφ、カメラから見た着目点の方向とX軸がなす角をθ、光源位置を(0,−D)すなわち基線長をDとすると、着目点Pの奥行き値Zは式
Z=Dtanθtanφ/(tanθ−tanφ)
として計算できる。この時、Dの値(レンズと光源部の距離)が小さいと、計測された奥行き値Zの値の精度が悪くなる。例えば、3m程度の距離までの被写体であれば、Dの値を20〜30cmにすれば、計測距離の約1%の誤差で奥行きが計測できる。これより小さなDの値になるに従って、計測誤差はこれよりも大きくなっていく。また、着目点PのX、Y座標は以下の式によって与えられる。
【0085】
X=Z/tanθ
Y=Z/tanω
また、カラー画像計算部536は、前述の2種類の光パタン照射時の撮像データを加算平均した画像を計算し、これをカラー画像とする。2種類の光パタンは、図18のように、お互いに相補的に明るさが変化する特性を持っており、これらを加算平均することによって一様な明るさのストロボで撮像したのと同等なカラー画像を得ることが出来る。
【0086】
以上のようにして得られたカラー画像と奥行き画像は、表示部532に表示されるとともに、メディア記録・再生部538を通して記録メディア504に記録される。もちろん、一旦記録されたカラー画像及び奥行き画像をメディア記録・再生部538により読み出して表示部532に表示することも出来る。
【0087】
また、図20(b)のように、撮像部533からの画像データを一旦画像メモリ550に蓄積するようにすれば、連続して画像を入力することもできる。また、一旦記録メディア504に記録した画像を画像メモリ550に複数読み出して、高速に再生表示することもできる。
【0088】
以上のように本参考例によれば、光強度の変化パターンを直線状のストロボ発光管と孔の空いた遮光板を用いるだけで、簡単な構造で複数の光パターンを生成でき、構造の安定した形状計測カメラを実現することができる。
【0089】
また、携帯時には小型で、撮影時には本体を引き延ばしてレンズ503と光源部のストロボ505,506の間隔Dを大きく取ることが出来、精度の高い奥行き画像を計測できる形状計測カメラを実現することが出来る。
【0090】
(第4の参考例)
図28は、本発明の第4の参考例における形状計測カメラ及び被写体抽出カメラの構成図である。図28において、501,502はカメラの筐体、505,506はそれぞれ光源部を形成する第1、第2ストロボ、518は表示パネル、519はタッチパネル、532は表示部、533は撮像部、535は距離計算部、536はカラー画像計算部、538はメディア記録・再生部、537は制御部である。以下に上記構成の形状計測カメラ及び被写体抽出カメラの動作について説明する。
【0091】
図27は、形状測定カメラの裏面を示したものである。裏面には、表示パネル518と、タッチパネル519が重ねて配置してあり、撮像されたカラー画像や奥行き画像を表示し、使用者が指や棒状のもので、その画像中の注目位置(座標)を指定できるようになっている。
【0092】
図28は、表示・距離計測のブロック図を示したものであり、撮像された距離画像とカラー画像は制御部537に入力され、使用者の注目位置指定座標も制御部537に入力される。制御部537は、撮影されたカラー画像を表示パネル518に表示し、タッチパネル519によって入力された複数の注目指定座標と、奥行き画像から、実際の距離などを計算して表示パネル518に表示する。
【0093】
図25は、注目位置指定の様子を示したものである。まず、表示部518に、使用者が撮影した机のカラー画像が表示されているとする。使用者は、指定点A523、B524を指または棒状のもので指定する。
【0094】
指定すると、形状計測カメラは、得られている奥行き画像のそれぞれの座標位置の実際の座標A(Xa,Ya,Za)とB(Xb,Yb,Zb)の値を用いて、点A、Bを結ぶ線分ABの距離Lab即ち
【0095】
【数1】
【0096】
を計算し、表示パネル518の別の部分に表示する。この例では、ABの長さが25cmであると表示されている。このようにして、使用者は、撮影された被写体の測りたい点間の距離を、被写体に触れることなく、これが奥行き方向の長さであっても測定することが出来る。
【0097】
また、同様にして直線ではなく、円状の被写体の大きさを測定することができる。図26は、円形のテーブルを撮像した場合の例である。例えば、使用者は撮像され表示パネル518に表示されたカラー画像を見ながら、測りたい円形の円周の部分の適当な位置3点A523、B524、C526をタッチパネルに指または棒状のものを触れることによって指定する。
【0098】
その後、形状計測カメラは、これらの3点の空間座標値A(Xa,Ya,Za),B(Xb,Yb,Zb),C(Xc,Yc,Zc)から、これらを通る円の方程式を求める。求める方法は色々あるが、例えば、線分ABとBCの垂直二等分線を求め、それの交点が円の中心G(Xg,Yg,Zg)であるする。次に、線分GA、GB、GCの長さの平均値を円の半径とすればよい。
【0099】
このようにして得られた半径を図26では50cmとして表示して使用者に知らせている。このようにすることによって、円形のような複雑な形の大きさも、被写体に触れることなく測定することが出来る。他にも、正三角形や楕円など、形状を規定する数式が存在する形であれば、複数の点を使用者が指定することによって奥行き画像から、その大きさを被写体に触れることなく測定することができる。また、この場合は、タッチパネルを用いて使用者が注目点の座標を入力したが、上下左右に動くカーソル(十字事模様など)を表示パネル518に表示し、押しボタンによってその位置を動かして指定して注目点の座標を入力してもよい。
【0100】
また、被写体の大きさ計算結果を、メディア記録・再生部538を通して記録メディア504に記録すれば、使用者が測定結果を覚えておく必要はなく、記録メディア504を取り出して、これを読み書きできるメディア記録・再生部538と同等の機能を有する機器(パーソナルコンピュータなど)で使用することも出来、便利である。もちろん、測定結果を撮影されたカラー画像中にスーパーインポーズし、画像として保存しても良い。
【0101】
また、以上の例では被写体の長さを測定したが、長さを複数測定し、それを元にして面積や体積を求めることもできる。
【0102】
更に、撮影データの他の表示・利用例を述べる。
【0103】
図27に示したように、カメラ裏面には、表示部518と、タッチパネル519が重ねて配置してあり、撮像されたカラー画像や奥行き画像を表示し、使用者が指や棒状のもので、その画像中の注目位置(座標)を指定できるようになっている。これを利用して、使用者が注目した被写体のみを切り出した画像を得ることのできる被写体抽出カメラを実現することが出来る。
【0104】
図28は、表示・切り出し動作のブロック図を示したものであり、基本的には前述の形状測定カメラと同じ構造である。撮像された距離画像とカラー画像は制御部537に入力され、使用者の注目位置指定座標も制御部537に入力される。
【0105】
制御部537は、撮影されたカラー画像を表示パネル518に表示し、タッチパネル519によって入力された複数の注目指定座標と、奥行き画像から、使用者が意図する被写体のみを切り出して表示部518に表示し、記録メディア504に記録することが出来る。この動作を図29を用いて説明する。
【0106】
まず、使用者は被写体520を切り出したいとする。使用者は被写体520の一部をタッチパネル519にて指定する。制御部537は、この座標の含まれる部分の奥行き値を奥行き画像から得て、それと連続的に連結された奥行きを有する部分を使用者の注目する被写体と判断し、その部分のみを表示して、それ以外の部分をある特定の色に塗りつぶして、表示パネル518に表示する。
【0107】
連結部分の判断は、指定された座標を始点として、奥行き値が連続的に変化する限りその領域を上下左右に広げていき、奥行き不連続部分があればそこで停止するような、いわゆる画像処理を行えばよい。
【0108】
また、使用者が切り出したいと思う被写体のカメラからの距離よりも少し遠い距離、または切り出したいと思う距離の範囲をタッチパネルまたは押しボタンによって指定し、制御部537はその値によって指定された距離よりも近い値を持つカラー画像の部分、または指定された距離の範囲の部分のみに含まれるカラー画像を表示し、その他の部分はある特定の色に塗りつぶし、表示パネル518に表示し、記録メディア504に記録する。
【0109】
このようにすることによって、使用者が注目する被写体のみをカメラが判断して切りだし、これを表示・記録することが出来る。また、この場合、画像処理によっては、図30に示したように、背景部分であるにもかかわらず、誤動作によって前景と判断されてしまう部分が発生する可能性がある。
【0110】
この場合は、使用者がタッチパネル519によって誤動作したと思われる部分(図29)を指定して、これは背景であるように、表示結果を修正するようにすれば、品質の高い被写体の切り出しカラー画像を得ることが出来る。もちろんこの場合、誤動作によって背景と判断された部分を使用者が指定して、この部分が前景になるように修正動作を行っても良い。
【0111】
以上のようにすれば、奥行き画像の情報を用いて、距離によってカラー画像を切り出すことによって、使用者が注目する被写体のみを切り出した画像を簡単に得て、保存することが出来る。
【0112】
また、図28において、制御部537内に画像メモリを配置し、再生・操作する画像を一旦画像メモリ上に置くことによって、画像のアクセス速度を速くしたり、複数の画像を高速に切り替えて表示・操作することもできる。
【0113】
以上のように本参考例によれば、被写体に触れることなく、それの実際の大きさを測定することも出来る。また、使用者が注目している被写体のみを、その奥行き情報を元に簡単に切り出して保存することも出来る形状計測カメラ及び被写体抽出カメラを実現することが出来る。
【0114】
また、第3の参考例において、形状計測カメラの筐体が、図21のように構成されていても、同様の効果が得られる。即ち、撮像部533が配置されるカメラ部509と、光源を形成する第1,第2ストロボ505,506が配置されるストロボ部508が、蝶番のような構造を有する接続部510によって接続され、使用者が自由に図21(a)のように折り畳んだり、(b)のように延ばしたりできる構造である。携帯時には、(a)のようにすれば小型であり、撮影時には(b)のように広げて使えば、レンズ503と光源の第1,第2ストロボ505,506の間隔Dを大きくすることが出来る。
【0115】
また、図21(c)のように、レンズと第1、第2ストロボ505,506が垂直に配置されるような構造にすることもできる。この場合、奥行き画像計算は前述では角度φ、θが水平方向の変化であったのに対して、垂直方向に変化になるだけで、あとは同様の計算で奥行き画像を算出できる。縦方向の光強度の変化を生成するために、光源は図21(d)に示したように縦置きの発光管の構成となる。
【0116】
この場合、図23に示したように、図21のようなカメラ部の入っている筐体501と発光部の入っている筐体502が、互いに厚みが異なって互いに垂直方向に重なってはめ込むことが出来る構造としても、同様な効果が得られる。この時の光源部の構成は図23(c)のようになる。
【0117】
また、第3の参考例において、形状計測用カメラの筐体が、図22のように構成されていても、同様の効果が得られる。即ち、光源部の第1、第2ストロボ505、506を含む部分の筐体517を小型とし、カメラ筐体501に蝶番構造で接続される。使用時には筐体517を使用者が回して光源部の第1、第2ストロボ505,506を露出させることによって、通常は光源部の第1、第2ストロボ505,506が露出せず不用意な接触によって破損することを防ぎつつ筐体を小さくでき、同時に撮影時にはこれらとレンズの間隔Dを大きく取ることが出来る。
【0118】
また、第3の参考例において、光源は図2のように構成されるとしたが、図24(a)のように、発光管529が一つであり、その前に液晶バリア531を置いた構造にしても同様の光パタン生成機能を有することが出来る。
【0119】
この場合、図24(b)のように発光管529に対して左側、(c)のように右側に光透過部が順次設定されるようにし、それぞれの状態において一回づつ順番に発光管529が発光するようにして、図2のように2つの発光管を用いることなく、一つの発光管を2回順次発光させることで、図18と同様な光パターンを生成することができる。
【0120】
これによって、発光管の本数が少なく、発光パタンの出射位置が図2のように上下に少しずれた位置から出るのではなく、あたかも同じ位置から光が出射されたようにすることが出来、奥行き計測誤差を小さくすることが出来る。
【0121】
これは図20において、光パタンの出射点Qの位置が本参考例では垂直方向にずれていたのに対し、この場合は同じ位置になるので、直線PQが1本の線となり、垂直位置の異なった直線を用いて奥行き計算するよりも誤差が発生しないからである。
【0122】
また、この場合、図24(d)のように液晶バリア531の全面を光透過状態にすることによって、通常の2次元画像を撮像するカメラのストロボとしても利用することができる。
【0123】
また、第3の参考例では、形状計測カメラ及び被写体抽出カメラ本体において、奥行き画像とカラー画像を計算し、これを記録メディアにて記録したが、図31に示すように、カメラ本体では、光源の第1、第2ストロボ505・506に同期して撮像された画像データをメディア記録・再生部538を通して記録メディア504に記録し、これをパーソナルコンピュータなどで構成された解析装置39により画像データを読み出して、距離計算部535・カラー画像計算部536により所望の解析結果を出し、これを表示部532を用いて被写体を切り出したり、形状を測定しても良い。
【0124】
また、記録メディア504を介さずに画像データを解析装置539に転送することもできる。例えば、カメラ本体と解析装置539をデータ現行の通信手段を用いて接続する。例えば有線通信ではパラレルデータインタフェース、シリアルデータインタフェース、電話回線を用いることが出きる。無線通信では、光通信・赤外線通信・携帯電話網通信・電波通信を用いることが出来る。さらに、解析結果を記録媒体に記録することもできる。
【0125】
また、この場合、撮像部533は動画撮影用ビデオカメラであり、記録メディア504がテープなどの記録媒体の場合、通常はカラー動画像を撮影するカメラとして利用し、使用者が必要なときだけ押しボタンなどを押すことによって、フラッシュを点灯させ、その部分の映像(フレーム、フィールドなど)のみ識別できるようなインデックス信号を記録媒体に記憶しておけば、解析装置539において、インデックス信号を有する部分の映像のみを抽出し、その部分のみカラー画像・奥行き画像を計算して出力することができる。
【0126】
また、第3の参考例では、カメラ筐体501に最初から光源部が付属していたが、光源部のみを取り外し可能にすることによって、通常のカラー画像撮像時には小型で携帯しやすい形状であり、奥行き画像撮像時のみに光源部を取り付けて使用する方法も考えられる。
【0127】
図37(a)は、写真用の外部ストロボ装置のような構造であり、図2、図24のような光源を搭載した外部光源である。カメラとの接続部549を介して、図37(b)のようにカメラ筐体501と接続して使用する。図38は、図35、図36に示したような被写体の影をなくすための光源の例である。
【0128】
図38(a)では、接続部549の両側に対称に光源が配置されている。カメラに接続した様子を図38(b)に示す。また、図37、図38では、フイルムカメラのストロボシューのような構造でカメラ本体と光源を接続したが、図39(a)のように、カメラの三脚取り付けネジを利用して取り付ける方法も考えられる。
【0129】
この場合、図39(b)のように、カメラ筐体501の底部のネジを用いて取り付ける構造となる。このような、取り外し可能な外部光源装置として光源を分離すれば、奥行き画像撮像時のみ、カメラが大きくなり、通常のカメラとして使用する場合には小型軽量という利便性を出すことが出来る。
【0130】
また、第4の参考例において、図31の構成ではタッチパネルを用いた構成で使用者の座標指定を行うことが出来るが、他の手段で使用者が指定を行っても良い。例えば、パーソナルコンピュータで実現する場合はマウスやキーボードの入力装置を用いることができる。他にもトラックボール、スイッチ、ボリュームなどを応用することも出来る。
【0131】
また、第3、第4の参考例においては、図13、図21、図22、図23に示したように、撮像部533に対して2つの光源部の第1、第2ストロボ505・506を片方に配置したが、この場合、図32に示したような配置で被写体540、背景541を撮像すると、得られる画像は図33に示したように光源からの光が被写体540によって遮られ、影542が発生する。
【0132】
この部分は光源からの光が届かない領域であり、距離画像としての情報を得ることが出来ない領域である。この場合は、図34に示すように光源の第1、第2ストロボ505・506と同じ構成の光源543・544をレンズを中心として光源の第1、第2ストロボ505・506の反対側に設置することにより、この影の領域をなくすことが出来る。その方法を以下に示す。
【0133】
光源の第1、第2ストロボ505・506を用いた場合は領域β、光源543・544を用いたときは領域αの部分が距離画像としての情報を得られない部分である。前述の計算と同様にして、光源の第1、第2ストロボ505・506を用いたときの距離画像A及びカラー画像A、光源543・544を用いた時の距離画像B及びカラー画像Bをそれぞれ独立に計算しておく。この時、それぞれの画像において、領域β、αの部分を得られた画像データから、輝度の小さい部分として判断しておく。
【0134】
次に、距離画像A、Bを合成して影領域のない距離画像を新たに生成する。これは、距離画像A、Bでどちらか一方において前述の輝度の小さい部分として判断されていない領域が存在した場合は、その値を採用し、どちらも影領域でない場合は、両方の画像データの平均値を用いることによって実現できる。
【0135】
カラー画像についても同様であり、少なくともカラー画像A・Bどちらか一方が影部分でないデータを有していれば、影領域の無い新しいカラー画像を合成することができる。
【0136】
以上の構成の場合、光源がレンズの左右または上下に配置されている必要がある。その場合、図35に示したように、カメラ本体511の左右に、光源部を有した筐体512・513を反対方向にスライドして延ばすような筐体の構成にすれば、使用者が携帯時には小さくして図35(a)の状態にして持ち運び、使用する場合は図35(b)のように延ばして基線長Dを大きく取り、奥行き画像計測精度が低下するのを防ぐことが出来る。
【0137】
また、図36に示すように、3段に折り畳めるような構造にしても同様の効果を得ることが出来る。図36(a)のように携帯時には折り畳んで小さくして持ち運び、使用時には図36(b)のように広げればレンズと光源の間隔である基線長Dを大きく取ることが出来る。
【0138】
また、図21(c)のように、レンズと光源の配置を垂直にするために、図35の筐体512・513を筐体511の上下に配置したり、図36において筐体512、513を筐体511の上下に配置してもよい。
【0139】
【発明の効果】
以上述べたところから明らかな様に本発明のレンジファインダ装置によれば、光源からの光が2次元的なパターンを有する場合においても、精度良く距離測定を行うことが出来る。
【0140】
又、本発明レンジファインダ装置によれば、光源からの光を、被写体に直接照射出来ない場所の被写体の距離を計測出来る。
又、本発明のレンジファインダ装置によれば、低コストで、信頼性の高い装置を提供することが出来る。
【図面の簡単な説明】
【図1】本発明の参考例1におけるレンジファインダ装置の構成を示すブロック図である。
【図2】(a):参考例1におけるレンジファインダ装置の光源の構成を示す斜視図、
(b):参考例1におけるレンジファインダ装置の光源の構成を示す平面図である。
【図3】参考例1における光源の光パタンを示す図である。
【図4】参考例1における光源の光パタン及び複数発光の場合の光パタンを示す図である。
【図5】参考例1における光強度比と、光源からの角度φの関係図である。
【図6】参考例1における3次元位置X、Y、Zの計算概念図である。
【図7】本発明の参考例2におけるレンジファインダ装置の構成を示すブロック図である。
【図8】参考例2における距離計算および光強度変換ブロック図である。
【図9】参考例2における光強度のX座標に対する変化を示す図である。
【図10】(a):本発明の実施の形態1おけるレンジファインダ装置の構成を示すブロック図、
(b):本発明の実施の形態1におけるレンジファインダ装置の変形例の構成を示すブロック図である。
【図11】(a)〜(c):実施の形態1におけるレンズ系の配置説明図、
(d):同実施の形態における透過率変化フィルタの配置説明図である。
【図12】(a):実施の形態1における透過率変化フィルタの説明図、
(b):同実施の形態における透過率変化フィルタによる光強度の分布説明図である。
【図13】(a),(b)本発明における第3の参考例の形状計測用、被写体抽出用のカメラの図である。
【図14】本発明における第3の参考例のカメラの光源部の構成図である。
【図15】本発明における第3の参考例のカメラの光源部の原理図である。
【図16】本発明における第3の参考例のカメラの光源部の光強度図である。
【図17】本発明における第3の参考例のカメラの光源部の光強度パタンを示す図である。
【図18】本発明における第3の参考例のカメラの光源部の光強度パタンを示す図である。
【図19】本発明における第3の参考例のカメラの光源部の光強度比を示す図である。
【図20】(a),(b)本発明における第3の参考例のカメラのブロック図である。
【図21】(a)〜(d)本発明の第3の参考例におけるカメラ(2)の構成図である。
【図22】(a),(b)本発明の第3の参考例におけるカメラ(3)の外観図である。
【図23】(a)〜(c)本発明の第3の参考例におけるカメラ(4)の構成図である。
【図24】(a)〜(d)本発明の第3の参考例におけるカメラ(2)の光源部の構成図である。
【図25】本発明の第4の参考例におけるカメラの表示方法(1)を示す図である。
【図26】本発明の第4の参考例におけるカメラの表示方法(2)を示す図である。
【図27】本発明の第4の参考例におけるカメラの背面外観図である。
【図28】本発明の第4の参考例におけるカメラのブロック図である。
【図29】本発明の第4の参考例におけるカメラの画像修正動作(1)を示す図である。
【図30】本発明の第4の参考例におけるカメラの画像修正動作(2)を示す図である。
【図31】本発明の第3の参考例におけるカメラの他の構成図である。
【図32】本発明の第3、第4の参考例におけるカメラのオクルージョン発生を示す図である。
【図33】本発明の第3、第4の参考例におけるカメラのオクルージョンを示す図である。
【図34】本発明の第3、第4の参考例におけるカメラのオクルージョン回避方法を示す図である。
【図35】(a),(b)本発明の第3、第4の参考例におけるカメラ(1)のオクルージョン回避のための外観図である。
【図36】(a),(b)本発明の第3、第4の参考例におけるカメラ(2)のオクルージョン回避のための外観図である。
【図37】(a),(b)本発明の第3、第4の参考例におけるカメラの外部光源部(1)の外観図である。
【図38】(a),(b)本発明の第3、第4の参考例におけるカメラの外部光源部(2)の外観図である。
【図39】(a),(b)本発明の第3、第4の参考例におけるカメラの外部光源部(3)の外観図である。
【図40】従来のレンジファインダ装置の構成図である。
【図41】従来のレンジファインダ装置の光源の波長特性を示す特性図である。
【図42】 (a),(b) 従来のレンジファインダ装置の光源の強度変調の特性図である。
【図43】 (a),(b) :レンジファインダにおける計測原理図である。
【符号の説明】
1 カメラ
1a 赤外カメラ
2a 光源
2b 光源
3a 赤外透過フィルタ
3b 赤外透過フィルタ
4a 水平方向に透過率が変化するNDフィルタ
4b 水平方向に透過率が変化するNDフィルタ
5 光源制御部
6 距離計算部
7 閃光光源
8 閃光光源
9 反射板
10 反射板
11a フィールドメモリa
11b フィールドメモリb
12a 光強度変換部a
12b 光強度変換部b
13 光強度比計算部
14 距離変換部
101A レーザ光源
101B レーザ光源
102 ハーフミラー
103 光源制御部
104 回転ミラー
105 回転制御部
106 被写体
107 レンズ
108A 光波長分離フィルタ
108B 光波長分離フィルタ
109A 撮像素子
109B 撮像素子
109C カラー画像撮像素子
110A カメラの信号処理部
110B カメラの信号処理部
111 カラーカメラの信号処理部
112 距離計算部
113 制御部
201 半導体レーザ
202 第1光ファイバ
203 光分配器
204 コリメータレンズ
206 カメラ部
207 第2光ファイバ
501 筐体
502 筐体
503 レンズ
504 記録メディア
505 第1ストロボ
506 第2ストロボ
507 ファインダ
508 ストロボ部
509 カメラ本体筐体
510 接続部
511 カメラ本体
512 光源部筐体
513 光源部筐体
514 第3ストロボ
515 第4ストロボ
516 接続部
517 光源部
518 表示パネル
519 タッチパネル
520 被写体(前景)
521 被写体(背景)
527 誤動作により前景と判断された部分
528 遮光板
529 ストロボ発光管A
530 ストロボ発光管B
531 液晶バリア
532 表示部
533 撮像部
534 光制御部
535 距離計算部
536 カラー画像計算部
537 制御部
538 メディア記録・再生部
539 解析部
540 被写体(前景)
541 被写体(背景)
542 光源部からの光が遮られた部分
543 光源部3
544 光源部4
545 カメラ取り付けネジ
546 光源部筐体(1)
547 光源部筐体(2)
548 光源部固定台
549 光源部固定具(ストロボシュー金具)
550 画像メモリ
551 反射板(1)
552 反射板(2)
100 背景と判断された部分[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a range finder device that measures a three-dimensional shape of an object.
[0002]
[Prior art]
As a range finder device that performs three-dimensional shape measurement based on the triangulation of the projection light and the observation image, for example, an apparatus capable of real-time operation as shown in FIG. 40 has been proposed.
[0003]
In FIG. 40, 101A and 101B are laser light sources having slightly different wavelengths, 102 is a half mirror that combines laser beams from laser light sources having different wavelengths, 103 is a light source control unit that controls the light intensity of the laser light source, 104 Is a rotating mirror that scans the laser beam, 105 is a rotation control unit that controls the rotating mirror, 106 is a subject, 107 is a lens for forming an image on the CCD, and 108A and 108B are light beams that separate light of the wavelength of the laser light source. Wavelength separation filters, 109A and 109B are CCDs for capturing monochrome images, 109C is a CCD for capturing color images, 110A and 110B are signal processing units for monochrome cameras, 111 are signal processing units for color cameras, and 112 are
[0004]
The
[0005]
The wavelength characteristics of these two light sources are shown in FIG. The reason why two light sources having close wavelengths are used is to make them less susceptible to the wavelength dependence of the reflectance of the subject. Laser light emitted from the laser light sources 101 </ b> A and 101 </ b> B is combined by the
[0006]
This laser beam scanning is performed by the
[0007]
In this way, by making the ratio of the two laser light intensities and the mirror angle (that is, the angle of the subject viewed from the light source side) one-to-one, the distance calculation unit described later allows the light from both light sources to be emitted. The distance or shape of the subject is calculated from the ratio of the photographed signal levels according to the principle of triangulation.
[0008]
The
[0009]
The light source A
[0010]
The
[0011]
43 (a) and 43 (b) are diagrams for explaining the distance calculation graphically. In the figure, O is the center of the
[0012]
Z = Dtanθtanφ / (tanθ + tanφ)
X = Z / tanθ
Y = Z / tanω (1)
As described above, φ in equation (1) is calculated based on the light intensity ratio of the
[0013]
On the other hand, a camera using an optical fiber is known for photographing a place where light from a light source cannot be directly irradiated onto a subject. For example, there is a stomach camera or the like as one of endoscopes used for examining the inside of a human body. In the case of a gastric camera, the inner wall of the stomach is usually irradiated by light from an optical fiber, the reflected light from the inner wall is received by another optical fiber, and guided to an external camera unit, which is two-dimensionally In this configuration, a normal image is displayed on the monitor after processing.
[Problems to be solved by the invention]
[0014]
However, as in the case of the above-described conventional endoscopes and the like, when photographing a place where light from a light source cannot be directly applied to a subject, a camera using an optical fiber has two-dimensional data. There was a problem that it was difficult to examine the presence or absence of a part.
Further, in the conventional configuration as described above, a light source that can be modulated and a light source sweeping unit are indispensable, and there is a problem that the reliability of the apparatus is low and the cost of the apparatus is high because it includes a mechanical operation.
[0015]
In view of the above-described conventional problems, an object of the present invention is to provide a range finder that can measure the distance of a subject in a place where light from a light source cannot be directly irradiated onto the subject.
[0016]
[Means for Solving the Problems]
Book The invention comprises a light source;
A first optical fiber for guiding light emitted from the light source;
Light distribution means for branching light guided from the first optical fiber into a plurality of paths;
A plurality of second optical fibers having one end connected to the light distribution means and irradiating the branched light from an opening at the other end to the subject;
Imaging means for receiving reflected light of the irradiated light and acquiring image data of the subject;
A distance calculating means for calculating a distance to the subject based on the image data;
Duplicate Number Said A range finder characterized in that the intensity of light emitted to the subject from the other end of each of the second optical fibers has a distribution that differs in each place. Dress It is a position.
[0017]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, a range finder apparatus according to an embodiment of the present invention will be described with reference to the drawings.
[0018]
(First reference example)
FIG. 1 is a configuration diagram of a range finder according to a first reference example related to the present invention. In FIG. 1, 1 camera, 2a and 2b are light sources, 5 is a light source control unit, and 6 is a distance calculation unit. The operation of the above configuration will be described below.
[0019]
The light
[0020]
The light pattern radiated from such a light source is as shown in FIG. This shows the magnitude of the brightness of the screen surface in the → direction in the figure when light is projected onto a temporary screen. That is, each light source has the characteristic that the center axis is brightest and becomes darker toward the periphery. The reason why the center is bright and the periphery is dark is that the
[0021]
FIG. 4 shows the relationship between the angle of the projection light from the light source and the light intensity on the surface in the H direction of FIG. The H direction is a direction of a cross line between an arbitrary surface S and a temporary screen among a plurality of surfaces including a light source center and a lens center. In the α portion of the light pattern, the light emitted from the two light sources to the subject space is bright on the right side and bright on the left side when viewed from each light source. However, this pattern is different also in the height direction (Y direction).
[0022]
FIG. 5 shows the relationship between the light intensity ratio in subject illumination with the two projection lights and the angle φ formed by projecting the projection light on the XZ plane with respect to the X axis in the α part of FIG. It is a thing. In the α portion, the relationship between the light intensity ratio and the angle φ has a one-to-one correspondence. In order to measure the distance, two types of light patterns are projected in advance on a plane that is vertically spaced apart from the light source by a predetermined distance, and the reflected light is captured by the
[0023]
Also, if the light source is arranged so that the line segment connecting the lens center of the
[0024]
When the point P in FIG. 1 is a point of interest, it corresponds to the luminance ratio obtained from the imaging data at the time of two types of light pattern irradiation for the point P of the image captured by the
[0025]
The camera's optical center is the origin, the camera's optical axis direction is the Z axis, the horizontal direction is the X axis, and the vertical direction is the Y axis. When the angle between the viewed point of interest and the X axis is θ, the light source position is (0, −D), that is, the base line length is D, the depth value Z of the point of interest P is the above-described equation (1).
Z = Dtanθtanφ / (tanθ-tanφ)
Can be calculated as
[0026]
As described above, according to this reference example, the distance measurement is performed by correcting the change in the light intensity caused by the light source or the optical system at the time of distance measurement by the range finder using the light intensity. A stable and accurate range finder device that can be realized can be realized.
[0027]
By arranging a half mirror or dichroic mirror and a color camera in front of the infrared camera of the range finder according to this reference example, a color image of the same viewpoint can be obtained simultaneously with a distance image, and is included in the present invention.
[0028]
In the distance calculation unit in this reference example, only the distance Z is calculated and the calculation result is output as a distance image. However, using the angle ω shown in FIG. 6, the third order is obtained from the expressions (1) and (2). All of the original coordinate values X, Y, and Z may be calculated and three-dimensional coordinate data may be output, which is included in the present invention.
[0029]
X = Z / tanθ
Y = Z / tanω (2)
Note that in this reference example, if the
[0030]
Further, in this reference example, if an infrared pass filter is inserted in front of the light source 2 and the
[0031]
In this reference example, since the flash light is flashed for several hundred microseconds, if the
[0032]
In this reference example, the object is irradiated with two types of light patterns, and the light intensity ratio at each pixel is calculated using the captured images in each case. However, an image when no light pattern is irradiated is also captured. Then, a total of three types of images (two types of optical patterns and one type without optical patterns) may be obtained and calculated. In this case, when calculating the light intensity ratio of each pixel, a difference value is calculated by subtracting the light intensity when there is no light pattern from the light intensity value when each light pattern is irradiated. Then, the ratio of these difference values is calculated to obtain the light intensity ratio. In this way, in the case of imaging in a bright place, it is possible to suppress distance calculation errors due to background light.
[0033]
(Second reference example)
FIG. 7 is a configuration diagram of a range finder according to a second reference example related to the present invention. In FIG. 7, 1a is a camera sensitive to infrared light, 2a and 2b are light sources, 3a and 3b are infrared transmission filters, 4a and 4b are ND filters whose transmittance varies in the horizontal direction, and 5 is a light source control unit. , 6 are distance calculation units. The operation of the above configuration will be described below.
[0034]
The
[0035]
[0036]
With these ND filters, the light emitted from the two light sources to the subject space is bright on the right side and bright on the left side when viewed from the light sources. As a result, bright light on the right side or the left side is alternately projected onto the subject for each field period.
[0037]
FIG. 5 shows the relationship between the light intensity ratio of the two projection lights and the horizontal angle from the light source. The distance calculation method using the light intensity ratio will be described below.
[0038]
When the point P in FIG. 7 is used as the point of interest, the angle of the point P viewed from the light source is measured from the luminance ratio between the fields of the point P of the image captured by the
[0039]
The camera's optical center is the origin, the camera's optical axis direction is the Z axis, the horizontal direction is the X axis, and the vertical direction is the Y axis. When the angle between the viewed point of interest and the X axis is θ and the light source position is (0, −D), that is, the base line length is D, the depth value Z of the point of interest P is Z = Dtanθtanφ / (tanθ−tanφ). Can be calculated.
[0040]
The
[0041]
Images captured by the
[0042]
The light intensity correction means 12a and 12b are means for correcting the light intensity written in the field memory. The reason for the correction will be described next. FIG. 9 shows the relationship between the imaged light intensity and the pixel coordinate value when a screen having a constant distance Z is irradiated with light from a point light source (without an ND filter) and reflected light from the surface is imaged. Show. In FIG. 9, for the sake of simplicity, only the lateral direction is shown one-dimensionally, but the light intensity also shows a curved distribution in the vertical direction.
[0043]
Possible causes of this distribution include peripheral dimming by the lens system of the camera, changes in reflected light intensity due to changes in the incident angle of light rays on the subject surface, changes in light intensity due to angles from the light source, and the like. The change in the light intensity caused by these factors becomes an error at the time of light intensity ratio observation, that is, an error at the time of distance measurement. Therefore, in order to improve the distance measurement accuracy, it is necessary to convert the light intensity. If there is this error, a portion that is not a monotonically increasing curve occurs in the characteristic curve of FIG. In such a portion, the light intensity and the angle do not have a one-to-one correspondence. As a result, the measurement result will be out of order. Further, if there is no such error, the light intensity (ratio) is constant in the Y-axis direction, and there is an advantage that only one conversion table in FIG. 5 is required (in Reference Example 1, conversion tables for the number of Y coordinate values are required). Become).
[0044]
Therefore, in order to reduce the measurement error, the light intensity conversion means 12a, 12b generates a two-dimensional light intensity curve distribution in an image on a screen separated by a reference distance when there is no ND filter. When measuring in advance and obtaining the relationship between the light intensity and the angle of the projection light (corresponding to FIG. 5), or when measuring the distance of the actual subject, according to the curve distribution of the light intensity measured in advance, The light intensity of the field memory is corrected and converted. In the correction conversion, a coefficient for correcting the curve distribution of the light intensity to a constant value (that is, the ratio of the light intensity captured at each pixel with respect to a peak value or an arbitrary value) is held as a two-dimensional LUT (look-up table). Then, the data in the field memory is multiplied by the correction count for each pixel.
[0045]
When the distance at which the subject is placed is known in advance, the reference distance can be improved in the vicinity of the distance by measuring the distance.
[0046]
As described above, according to this reference example, the distance measurement is performed by correcting the error of the light intensity caused by the light source or the optical system when measuring the distance by the range finder using the light intensity. A stable and accurate range finder device can be realized.
[0047]
By arranging a half mirror or dichroic mirror and a color camera in front of the infrared camera of the range finder according to this reference example, a color image of the same viewpoint can be obtained simultaneously with a distance image.
[0048]
In the description of the distance calculation unit in this reference example, only the distance Z is calculated and the calculation result is output as a distance image. However, using the angle ω shown in FIG.
Z = Dtanθtanφ / (tanθ-tanφ)
X = Z / tanθ
Y = Z / tanω
Thus, all three-dimensional coordinate values X, Y, and Z can be calculated and three-dimensional coordinate data can be output.
[0049]
In the light intensity correction in the distance calculation unit of the present reference example, when the subject is away from the reference distance described above, the position of the imaged pixel is shifted (that is, a parallax is generated), so that the distance measurement accuracy is lowered. In such a case, a light intensity correction amount for a plurality of reference distances is prepared in advance, the correction is first performed at one reference distance, the distance is calculated, and then the correction amount at a reference distance close thereto is calculated. The measurement accuracy can be improved by calculating the distance again using.
[0050]
Note that in this reference example, if the
[0051]
In this reference example, if an image is picked up by a normal color camera simultaneously with an infrared camera using a half mirror or a dichroic mirror, a depth image and a texture image corresponding to the depth image can be picked up simultaneously.
[0052]
In this reference example, since the flash light is flashed for several hundred microseconds, if the
[0053]
In this reference example, the object is irradiated with two types of light patterns, and the light intensity ratio at each pixel is calculated using the captured images in each case. However, an image when no light pattern is irradiated is also captured. Then, a total of three types of images (two types of optical patterns and one type without optical patterns) may be obtained and calculated.
[0054]
In this case, when calculating the light intensity ratio of each pixel, a difference value is calculated by subtracting the light intensity when there is no light pattern from the light intensity value when each light pattern is irradiated. Then, the ratio of these difference values is calculated to obtain the light intensity ratio. In this way, in the case of imaging in a bright place, it is possible to suppress distance calculation errors due to background light.
[0055]
Further, in this reference example, the light pattern projected onto the subject is changed to the light transmission type liquid crystal display element (in a normal liquid crystal image projector) instead of the ND filters 4a and 4b and the
[0056]
(First embodiment)
FIG. 10A is a schematic perspective view showing the configuration of the first embodiment of the rangefinder of the present invention. The configuration of the present embodiment will be described below with reference to FIG.
[0057]
As shown in FIG. 10A, the semiconductor laser 201 is light source means for emitting light having a wavelength λ. The first
A
[0058]
Note that the range finder of the present embodiment has a function similar to the
[0059]
Next, the operation of this embodiment will be described with reference to FIG.
[0060]
The range finder according to the present embodiment can be used as an endoscope such as a stomach camera.
[0061]
That is, the distal ends of the second optical fibers a and b (205a and 205b) and the distal end of the light receiving
[0062]
From the openings of the second optical fibers a and b, light having a light intensity distribution characteristic as shown in FIG. 4 is irradiated in a time-sharing manner as in the first embodiment. The light receiving
[0063]
In the above-described embodiment, the range finder having one semiconductor laser as the light source unit has been described. However, the present invention is not limited to this. For example, as shown in FIG. 10B, two light source units are provided. The structure may be different. That is, in this case, the semiconductor lasers 201a and 201b as the light source units are provided with
[0064]
In the above-described embodiment, the configuration in which the light distributor 203 is provided between the first
[0065]
In the above-described embodiment, as shown in FIG. 11A, a configuration in which nothing is arranged in front of the
[0066]
Here, the characteristics of the filter shown in FIG. 11 (d) will be further described with reference to FIGS. 12 (a) and 12 (b).
[0067]
For example, the intensity distribution of the light transmitted through the transmittance changing filter 1 (303a) shown in FIG. 12A is set to have a
[0068]
In the above embodiment, the shutter mechanism is provided in the light distributor and the subject is irradiated with light in a time division manner. However, the present invention is not limited to this. The light of the different frequency is irradiated by providing a filter in the optical distributor. Then, by providing the camera unit with a filter and a light receiving element that can distinguish and receive these two types of wavelengths, it is possible to simultaneously irradiate the subject with each light of the two types of wavelengths. . As a result, the measurement time can be shortened. Also in the configuration shown in FIG. 10B, if the wavelengths of the semiconductor lasers 201a and 201b are different and the camera unit 206 includes a filter and a light receiving element that can receive light by distinguishing two types of wavelengths, Similar to the above, the measurement time can be shortened.
[0069]
In the above embodiment, the semiconductor laser is used as the light source. However, the present invention is not limited to this. For example, an LED or a lamp may be used.
[0070]
Next, an example of a more compact and simple camera related to the above-described range finder apparatus according to the present invention will be described.
[0071]
In other words, in the above-described range finder device, it is necessary to shift the light reflectors of the
[0072]
In addition, if the distance between the camera lens and the light source is not more than several tens of centimeters, triangulation is used and measurement accuracy cannot be obtained. Even if this is attempted to be housed in the camera housing, the camera becomes considerably large.
[0073]
Further, measuring the size and dimensions of an object imaged by a conventionally known camera has a drawback that it cannot be easily calculated unless the distance to the subject is known. Further, it has been impossible to know the size of the subject from the color image once taken.
[0074]
In addition, if an object is to be extracted from an image captured by a conventionally known camera, an environment with a single background must be prepared in advance, requiring extensive preparation.
[0075]
A shape measuring camera and a subject extracting camera according to a reference example of the present invention capable of solving such inconveniences will be described below with reference to the drawings.
(Third reference example)
FIGS. 13A and 13B are configuration diagrams of the shape measurement camera and the subject extraction camera in the third reference example of the present invention. FIG. 20 is a block diagram of this camera.
[0076]
In FIG. 13,
In FIG. 20, 532 is a display unit, 533 is an imaging unit, 534 is a light source control unit, 535 is a distance calculation unit, 536 is a color image calculation unit, 538 is a media recording / playback unit, and 550 is an image memory.
[0077]
As shown in FIG. 13A, the shape measurement camera has a structure in which a
[0078]
The
[0079]
The optical pattern thus obtained is a pattern in which the light intensity changes as shown in FIG. FIG. 18 shows one-dimensionally the change in light intensity in the horizontal X direction. In the α part of the light pattern, light emitted from the two light sources to the subject space is bright on the right side and bright on the left side when viewed from the light sources. However, this pattern also changes in the height direction (Y direction).
[0080]
FIG. 19 shows the relationship between the light intensity ratio in subject illumination with the two projection lights and the angle φ in the horizontal direction from the light source in the α portion of FIG. In the α portion, the relationship between the light intensity ratio and the horizontal angle φ from the light source has a one-to-one correspondence. In order to measure the distance, two types of light patterns are alternately projected in advance onto a vertically set plane, and the reflected light is captured by the
[0081]
If the light source is arranged so that the line segment connecting the lens center of the
[0082]
When the point P in FIG. 20A is the point of interest, two types of light patterns from the light source strobes 505 and 506 with respect to the point P of the image captured by the
[0083]
As described above, the relationship of FIG. 19 has different characteristics depending on the Y coordinate value, and the relationship between the light intensity ratio and the horizontal angle φ from the light source is prepared by prior measurement for each Y coordinate. Shall. The angle θ with respect to the point P as viewed from the camera is determined from the position in the image (that is, the pixel coordinate value of the point P) and the camera parameters (focal length, optical center position of the lens system). Then, the distance is calculated based on the principle of triangulation from the above two angles and the distance (baseline length D) between the light source position and the optical center position of the camera.
[0084]
The camera's optical center is the origin, the camera's optical axis direction is the Z axis, the horizontal direction is the X axis, and the vertical direction is the Y axis. If the angle between the viewed point of interest and the X axis is θ, the light source position is (0, −D), that is, the base line length is D, the depth value Z of the point of interest P is an expression.
Z = Dtanθtanφ / (tanθ-tanφ)
Can be calculated as At this time, if the value of D (the distance between the lens and the light source unit) is small, the accuracy of the measured depth value Z is deteriorated. For example, in the case of a subject up to a distance of about 3 m, if the value of D is set to 20 to 30 cm, the depth can be measured with an error of about 1% of the measurement distance. As the value of D becomes smaller, the measurement error becomes larger. Further, the X and Y coordinates of the point of interest P are given by the following equations.
[0085]
X = Z / tanθ
Y = Z / tanω
In addition, the color
[0086]
The color image and the depth image obtained as described above are displayed on the
[0087]
Further, as shown in FIG. 20B, if the image data from the
[0088]
As described above, according to this reference example, it is possible to generate a plurality of light patterns with a simple structure simply by using a linear strobe arc tube and a perforated light-shielding plate as a light intensity change pattern. A shape measuring camera can be realized.
[0089]
In addition, the shape measurement camera can be realized which is small when carried and can be used to extend the main body during shooting to increase the distance D between the
[0090]
(Fourth reference example)
FIG. 28 is a configuration diagram of the shape measurement camera and the subject extraction camera in the fourth reference example of the present invention. 28,
[0091]
FIG. 27 shows the back surface of the shape measuring camera. On the back surface, a
[0092]
FIG. 28 is a block diagram of display / distance measurement. The captured distance image and color image are input to the
[0093]
FIG. 25 shows how attention positions are designated. First, it is assumed that a color image of a desk photographed by the user is displayed on the
[0094]
When specified, the shape measurement camera uses the values of the actual coordinates A (Xa, Ya, Za) and B (Xb, Yb, Zb) at the respective coordinate positions of the obtained depth image to generate points A, B The distance Lab of the line segment AB connecting
[0095]
[Expression 1]
[0096]
Is calculated and displayed on another part of the
[0097]
Similarly, it is possible to measure the size of a circular object instead of a straight line. FIG. 26 shows an example when a circular table is imaged. For example, the user touches a touch panel with a finger or a bar-like object at three appropriate points A523, B524, and C526 in a circular circumference to be measured while viewing a color image that is captured and displayed on the
[0098]
After that, the shape measuring camera calculates the equation of the circle passing through these three spatial coordinate values A (Xa, Ya, Za), B (Xb, Yb, Zb), and C (Xc, Yc, Zc). Ask. There are various methods for obtaining, for example, a perpendicular bisector of line segments AB and BC is obtained, and the intersection thereof is the center G (Xg, Yg, Zg) of the circle. Next, an average value of the lengths of the line segments GA, GB, and GC may be set as the radius of the circle.
[0099]
The radius thus obtained is displayed as 50 cm in FIG. 26 to inform the user. By doing so, the size of a complicated shape such as a circle can be measured without touching the subject. In addition, if there is a formula that defines the shape, such as an equilateral triangle or an ellipse, the user can measure the size of the depth image without touching the subject by specifying multiple points. Can do. In this case, the user inputs the coordinates of the point of interest using the touch panel, but a cursor (such as a cross pattern) that moves up, down, left, and right is displayed on the
[0100]
Also, if the subject size calculation result is recorded on the
[0101]
In the above example, the length of the subject is measured, but a plurality of lengths can be measured, and the area and volume can be obtained based on the measured lengths.
[0102]
Furthermore, other display / use examples of the photographing data will be described.
[0103]
As shown in FIG. 27, a
[0104]
FIG. 28 shows a block diagram of the display / cutout operation, which is basically the same structure as the shape measuring camera described above. The captured distance image and color image are input to the
[0105]
The
[0106]
First, it is assumed that the user wants to cut out the subject 520. The user designates a part of the subject 520 on the
[0107]
Judgment of the connected part starts from the designated coordinates as the starting point, so-called image processing that expands the area vertically and horizontally as long as the depth value changes continuously, and stops if there is a discontinuous depth part. Just do it.
[0108]
Further, a distance slightly longer than the distance from the camera of the subject that the user wants to cut out, or a range of the distance that the user wants to cut out is specified by a touch panel or a push button, and the
[0109]
In this way, the camera can determine and cut out only the subject that the user is interested in, and can display and record this. Further, in this case, depending on the image processing, as shown in FIG. 30, there is a possibility that a portion that is determined to be the foreground due to a malfunction is generated although it is the background portion.
[0110]
In this case, if the user designates a part (FIG. 29) that seems to have malfunctioned by using the
[0111]
In this way, by cutting out a color image according to distance using the depth image information, it is possible to easily obtain and save an image in which only the subject that the user is interested in is cut out.
[0112]
In FIG. 28, an image memory is arranged in the
[0113]
As described above, according to this reference example, the actual size of the subject can be measured without touching the subject. In addition, it is possible to realize a shape measurement camera and a subject extraction camera that can easily cut out and save only the subject that the user is paying attention to based on the depth information.
[0114]
In the third reference example, the same effect can be obtained even if the housing of the shape measurement camera is configured as shown in FIG. That is, the
[0115]
Further, as shown in FIG. 21C, the lens and the first and
[0116]
In this case, as shown in FIG. 23, the
[0117]
In the third reference example, the same effect can be obtained even if the housing of the shape measurement camera is configured as shown in FIG. That is, the
[0118]
In the third reference example, the light source is configured as shown in FIG. 2, but as shown in FIG. 24A, there is one
[0119]
In this case, the light transmitting portions are sequentially set on the left side with respect to the
[0120]
As a result, the number of arc tubes is small, and the emission position of the emission pattern does not exit from a position slightly shifted up and down as shown in FIG. 2, but it is as if light is emitted from the same position. Measurement error can be reduced.
[0121]
In FIG. 20, the position of the emission point Q of the optical pattern is shifted in the vertical direction in this reference example, but in this case, it is the same position, so the straight line PQ becomes one line, and the vertical position This is because an error does not occur as compared to the depth calculation using different straight lines.
[0122]
In this case, as shown in FIG. 24D, the entire surface of the
[0123]
In the third reference example, the depth image and the color image are calculated in the shape measurement camera and the subject extraction camera main body and recorded on the recording medium. However, as shown in FIG. The image data captured in synchronism with the first and
[0124]
In addition, the image data can be transferred to the
[0125]
In this case, the
[0126]
In the third reference example, the light source unit is attached to the
[0127]
FIG. 37A shows a structure similar to an external strobe device for photography, which is an external light source equipped with a light source as shown in FIGS. It is used by being connected to the
[0128]
In FIG. 38A, light sources are arranged symmetrically on both sides of the
[0129]
In this case, as shown in FIG. 39 (b), the
[0130]
In the fourth reference example, in the configuration of FIG. 31, the user's coordinates can be specified by a configuration using a touch panel, but the user may specify by other means. For example, when implemented by a personal computer, a mouse or keyboard input device can be used. Other applications such as trackballs, switches, and volumes are also possible.
[0131]
In the third and fourth reference examples, as shown in FIGS. 13, 21, 22, and 23, the first and
[0132]
This portion is a region where light from the light source does not reach, and is a region where information as a distance image cannot be obtained. In this case, as shown in FIG. 34,
[0133]
When the first and
[0134]
Next, the distance images A and B are combined to newly generate a distance image without a shadow area. This is the case where either one of the distance images A and B has an area that is not determined as the aforementioned low-luminance part, and that value is used. If neither area is a shadow area, both image data This can be realized by using an average value.
[0135]
The same applies to the color image. If at least one of the color images A and B has data that is not a shadow portion, a new color image without a shadow region can be synthesized.
[0136]
In the case of the above configuration, the light sources need to be arranged on the left and right or top and bottom of the lens. In this case, as shown in FIG. 35, if the
[0137]
Also, as shown in FIG. 36, the same effect can be obtained even if the structure is folded in three stages. As shown in FIG. 36 (a), it can be folded and carried when carried, and when used, it can be extended as shown in FIG. 36 (b) to increase the base length D, which is the distance between the lens and the light source.
[0138]
Further, as shown in FIG. 21C, the
[0139]
【The invention's effect】
As is apparent from the above description, according to the range finder device of the present invention, it is possible to accurately measure the distance even when the light from the light source has a two-dimensional pattern.
[0140]
Further, according to the range finder device of the present invention, it is possible to measure the distance of the subject where the light from the light source cannot be directly irradiated onto the subject.
Further, according to the range finder apparatus of the present invention, it is possible to provide a highly reliable apparatus at low cost.
[Brief description of the drawings]
FIG. 1 is a block diagram showing a configuration of a range finder apparatus in Reference Example 1 of the present invention.
2A is a perspective view illustrating a configuration of a light source of a range finder device in Reference Example 1. FIG.
(B): It is a top view which shows the structure of the light source of the range finder apparatus in the reference example 1. FIG.
3 is a diagram showing an optical pattern of a light source in Reference Example 1. FIG.
4 is a diagram showing an optical pattern of a light source and an optical pattern in the case of multiple emission in Reference Example 1. FIG.
FIG. 5 is a relationship diagram between a light intensity ratio in Reference Example 1 and an angle φ from a light source.
6 is a conceptual diagram of calculation of three-dimensional positions X, Y, and Z in Reference Example 1. FIG.
FIG. 7 is a block diagram showing a configuration of a range finder device in Reference Example 2 of the present invention.
8 is a block diagram of distance calculation and light intensity conversion in Reference Example 2. FIG.
9 is a diagram illustrating a change in light intensity with respect to an X coordinate in Reference Example 2. FIG.
FIG. 10A is a block diagram showing a configuration of a range finder device in
(B): It is a block diagram which shows the structure of the modification of the range finder apparatus in
FIGS. 11A to 11C are explanatory diagrams of arrangement of lens systems in
(D): It is arrangement | positioning explanatory drawing of the transmittance | permeability change filter in the embodiment.
12A is an explanatory diagram of a transmittance change filter in
(B): It is light intensity distribution explanatory drawing by the transmittance | permeability change filter in the embodiment.
FIGS. 13A and 13B are diagrams of a camera for shape measurement and subject extraction of a third reference example according to the present invention. FIGS.
FIG. 14 is a configuration diagram of a light source unit of a camera according to a third reference example of the present invention.
FIG. 15 is a principle diagram of a light source unit of a camera according to a third reference example of the present invention.
FIG. 16 is a light intensity diagram of a light source unit of a camera according to a third reference example of the present invention.
FIG. 17 is a diagram illustrating a light intensity pattern of a light source unit of a camera according to a third reference example of the present invention.
FIG. 18 is a diagram illustrating a light intensity pattern of a light source unit of a camera according to a third reference example of the present invention.
FIG. 19 is a diagram illustrating a light intensity ratio of a light source unit of a camera according to a third reference example of the present invention.
20A and 20B are block diagrams of a camera according to a third reference example of the present invention.
FIGS. 21A to 21D are configuration diagrams of a camera (2) in a third reference example of the present invention. FIGS.
22A and 22B are external views of a camera (3) in a third reference example of the present invention.
FIGS. 23A to 23C are configuration diagrams of a camera (4) in a third reference example of the present invention. FIGS.
24A to 24D are configuration diagrams of a light source unit of a camera (2) according to a third reference example of the present invention.
FIG. 25 is a diagram showing a camera display method (1) in a fourth reference example of the present invention;
FIG. 26 is a diagram showing a camera display method (2) according to a fourth reference example of the present invention;
FIG. 27 is a rear external view of a camera according to a fourth reference example of the present invention.
FIG. 28 is a block diagram of a camera according to a fourth reference example of the present invention.
FIG. 29 is a diagram showing an image correction operation (1) of the camera in the fourth reference example of the invention.
FIG. 30 is a diagram showing an image correction operation (2) of the camera in the fourth reference example of the present invention.
FIG. 31 is another configuration diagram of the camera according to the third reference example of the present invention.
FIG. 32 is a diagram illustrating the occurrence of occlusion in a camera according to third and fourth reference examples of the present invention.
FIG. 33 is a diagram showing camera occlusion in the third and fourth reference examples of the present invention.
FIG. 34 is a diagram showing camera occlusion avoidance methods according to third and fourth reference examples of the present invention.
FIGS. 35 (a) and 35 (b) are external views for avoiding occlusion of the camera (1) in the third and fourth reference examples of the present invention. FIGS.
36 (a) and 36 (b) are external views for avoiding occlusion of the camera (2) in the third and fourth reference examples of the present invention.
FIGS. 37A and 37B are external views of an external light source section (1) of a camera according to third and fourth reference examples of the present invention. FIGS.
FIGS. 38A and 38B are external views of an external light source section (2) of a camera according to third and fourth reference examples of the present invention. FIGS.
FIGS. 39A and 39B are external views of an external light source section (3) of a camera according to third and fourth reference examples of the present invention. FIGS.
FIG. 40 is a configuration diagram of a conventional range finder device.
FIG. 41 is a characteristic diagram showing wavelength characteristics of a light source of a conventional range finder device.
42A and 42B are characteristic diagrams of intensity modulation of a light source of a conventional range finder device.
FIGS. 43A and 43B are measurement principle diagrams in the range finder. FIGS.
[Explanation of symbols]
1 Camera
1a Infrared camera
2a Light source
2b Light source
3a Infrared transmission filter
3b Infrared transmission filter
4a ND filter whose transmittance varies in the horizontal direction
4b ND filter whose transmittance varies in the horizontal direction
5 Light source controller
6 Distance calculator
7 Flash light source
8 Flash light source
9 Reflector
10 Reflector
11a Field memory a
11b Field memory b
12a Light intensity conversion part a
12b Light intensity conversion part b
13 Light intensity ratio calculator
14 Distance converter
101A Laser light source
101B Laser light source
102 half mirror
103 Light source controller
104 Rotating mirror
105 Rotation control unit
106 subjects
107 lenses
108A Optical wavelength separation filter
108B Optical wavelength separation filter
109A Image sensor
109B Image sensor
109C color image sensor
110A Camera signal processor
110B Camera signal processor
111 Color camera signal processor
112 Distance calculator
113 Control unit
201 Semiconductor laser
202 first optical fiber
203 Optical distributor
204 Collimator lens
206 Camera section
207 Second optical fiber
501 housing
502 housing
503 lens
504 Recording media
505 First strobe
506 Second strobe
507 Finder
508 Strobe section
509 Camera housing
510 connections
511 Camera body
512 Light source housing
513 Light source housing
514 Third strobe
515 4th strobe
516 connection
517 Light source
518 Display panel
519 touch panel
520 Subject (foreground)
521 Subject (background)
527 Foreground part due to malfunction
528 shading plate
529 Strobe arc tube A
530 Strobe arc tube B
531 Liquid crystal barrier
532 display
533 Imaging unit
534 Light control unit
535 Distance calculator
536 Color Image Calculator
537 control unit
538 Media recording / playback unit
539 Analysis Department
540 Subject (foreground)
541 Subject (background)
542 Part where light from light source is blocked
543
544 Light Source 4
545 Camera mounting screw
546 Light Source Unit Housing (1)
547 Light source housing (2)
548 Light source fixing base
549 Light source fixture (strobe shoe bracket)
550 image memory
551 Reflector (1)
552 Reflector (2)
100 Parts judged to be background
Claims (11)
前記光源から出射される光を導く第1光ファイバと、
前記第1光ファイバから導かれた光を複数の経路に分岐する光分配手段と、
前記光分配手段に一端が接続され、且つ他端の開口部から前記分岐された光を被写体に照射するための複数の第2光ファイバと、
前記照射された光の反射光を受光して、前記被写体の画像データを取得する撮像手段と、
前記画像データに基づいて前記被写体までの距離を計算する距離計算手段とを備え、
複数の前記第2光ファイバのそれぞれの前記他端から前記被写体に照射される光の強度が、いずれも場所的に異なる分布を有していることを特徴とするレンジファインダ装置。A light source;
A first optical fiber for guiding light emitted from the light source;
Light distribution means for branching light guided from the first optical fiber into a plurality of paths;
A plurality of second optical fibers having one end connected to the light distribution means and irradiating the branched light from an opening at the other end to the subject;
Imaging means for receiving reflected light of the irradiated light and acquiring image data of the subject;
A distance calculating means for calculating a distance to the subject based on the image data;
Each of the intensity of the other end from the light irradiated to the subject, the range finder equipment, characterized in that it has a both spatially different distribution of the second optical fiber of several.
前記光源から出射される光を導く第1光ファイバと、
前記第1光ファイバから導かれた光を複数の経路に分岐し、被写体に照射するための光分岐手段と、
前記照射された光の反射光を受光して、前記被写体の画像データを取得する撮像手段と、
前記画像データに基づいて前記被写体までの距離を計算する距離計算手段とを備え、
前記光分岐手段から前記被写体に照射される何れの前記経路の光強度も、場所的に異なる分布を有していることを特徴とするレンジファインダ装置。A light source;
A first optical fiber for guiding light emitted from the light source;
Light branching means for branching light guided from the first optical fiber into a plurality of paths and irradiating the subject;
Imaging means for receiving reflected light of the irradiated light and acquiring image data of the subject;
A distance calculating means for calculating a distance to the subject based on the image data;
Light intensity of any of the path to be irradiated on the object from the light branching means also rangefinder, characterized in that a location distinct distributions.
前記光源から出射される光を個別に被写体側に導き、前記被写体に照射するための複数の光ファイバと、
前記照射された光の反射光を受光して、前記被写体の画像データを取得する撮像手段と、
前記画像データに基づいて前記被写体までの距離を計算する距離計算手段とを備え、
前記被写体に照射される何れの前記光ファイバからの光強度も、場所的に異なる分布を有していることを特徴とするレンジファインダ装置。Multiple light sources;
A plurality of optical fibers for individually guiding the light emitted from the light source to the subject side and irradiating the subject;
Imaging means for receiving reflected light of the irradiated light and acquiring image data of the subject;
A distance calculating means for calculating a distance to the subject based on the image data;
Light intensity from any of the optical fiber to be irradiated on the object is also rangefinder, characterized in that a location distinct distributions.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002160275A JP3793741B2 (en) | 1998-05-25 | 2002-05-31 | Range finder device |
Applications Claiming Priority (7)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP14268298 | 1998-05-25 | ||
JP10-142682 | 1998-05-25 | ||
JP31611298 | 1998-11-06 | ||
JP10-316112 | 1998-11-06 | ||
JP11-119435 | 1999-04-27 | ||
JP11943599 | 1999-04-27 | ||
JP2002160275A JP3793741B2 (en) | 1998-05-25 | 2002-05-31 | Range finder device |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP14409799A Division JP3415070B2 (en) | 1998-05-25 | 1999-05-24 | Range finder device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003028620A JP2003028620A (en) | 2003-01-29 |
JP3793741B2 true JP3793741B2 (en) | 2006-07-05 |
Family
ID=27470594
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002160275A Expired - Lifetime JP3793741B2 (en) | 1998-05-25 | 2002-05-31 | Range finder device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3793741B2 (en) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5179842B2 (en) * | 2007-11-15 | 2013-04-10 | 株式会社フジタ | Tail clearance measuring device |
EP3841352A1 (en) * | 2018-08-24 | 2021-06-30 | trinamiX GmbH | Detector for determining a position of at least one object |
-
2002
- 2002-05-31 JP JP2002160275A patent/JP3793741B2/en not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JP2003028620A (en) | 2003-01-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4332598B2 (en) | Camera and depth distance calculation method | |
JP4387377B2 (en) | camera | |
JP3415070B2 (en) | Range finder device | |
CN104730827B (en) | The control method of projecting apparatus, optical projection system and projecting apparatus | |
KR20090113324A (en) | System and method for projection of subsurface structure onto an object's surface | |
JP2004132829A (en) | Method and apparatus for three-dimensional imaging, and stereo adapter | |
JP5807192B2 (en) | Measuring apparatus and measuring method | |
KR20130011141A (en) | Endoscope and endoscope system | |
JPH1194520A (en) | Real time range finder | |
JP4209284B2 (en) | camera | |
JP3793741B2 (en) | Range finder device | |
JP3522732B2 (en) | camera | |
US20240111028A1 (en) | Optical device and method for examining an object | |
JP2005287900A (en) | Endoscope | |
JP2021004762A (en) | Measurement device, imaging device, measurement system, control method, program and recording medium | |
JP2002277225A (en) | Lighting system for optical shape measuring instrument | |
JP4020911B2 (en) | 3D imaging device | |
JPH05317264A (en) | Fundus camera | |
JPH0719446Y2 (en) | Corneal shape measuring device | |
JP2002031517A (en) | Image detection device | |
JPH10243267A (en) | Video camera |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050125 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050324 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20060404 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20060410 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100414 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110414 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120414 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130414 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130414 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140414 Year of fee payment: 8 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |