JPH05509394A - 実時間三次元感知装置 - Google Patents

実時間三次元感知装置

Info

Publication number
JPH05509394A
JPH05509394A JP3507378A JP50737891A JPH05509394A JP H05509394 A JPH05509394 A JP H05509394A JP 3507378 A JP3507378 A JP 3507378A JP 50737891 A JP50737891 A JP 50737891A JP H05509394 A JPH05509394 A JP H05509394A
Authority
JP
Japan
Prior art keywords
image
point
pixel
pattern
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP3507378A
Other languages
English (en)
Other versions
JP2927955B2 (ja
Inventor
ゴードン,スティーブン ジェイ.
Original Assignee
インテリジェント オートメイション システムズ インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by インテリジェント オートメイション システムズ インコーポレイテッド filed Critical インテリジェント オートメイション システムズ インコーポレイテッド
Publication of JPH05509394A publication Critical patent/JPH05509394A/ja
Application granted granted Critical
Publication of JP2927955B2 publication Critical patent/JP2927955B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2545Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with one projection direction and several detection directions, e.g. stereo
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/04Interpretation of pictures
    • G01C11/06Interpretation of pictures by comparison of two or more pictures of the same area
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C15/00Surveying instruments or accessories not provided for in groups G01C1/00 - G01C13/00
    • G01C15/002Active optical surveying means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/521Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light

Abstract

(57)【要約】本公報は電子出願前の出願データであるため要約のデータは記録されません。

Description

【発明の詳細な説明】 実時間三次元感知装置 免豆立旦1 本発明は、三次元空間において物体を感知してその位置を探知するための装置に 関し、さらに特定すると、感知される物体から反射した複数の光子面のパターン を明確にすることによって物体の位置を探知できる複数のカメラの三次元感知装 置に関する。
l1立11 従来技術では、三次元空間において物体を感知して、センサ(複数のセンサでも よい)からの情報をコンビ二一夕の読み取り可能なデジタルデータへ変換するた めの種々の装置が知られている。物体の位置と形状は、このコンピュータの読み 取り可能なデジタルデータから決定できる。はとんどのこのような装置は、感知 すべき物体に光を照射するための光源と、感知した物体から反射される光源の光 の印象を録画するためのビデオカメラのようなセンサとを含んでいる。
ある知られている装置は、単一の光子面を放射するレーザ光源を含んでいる。こ の装置は、さらに感知される物体から反射された光子面からの光のビデオ像を録 画するためのカメラを含んでいる。光子面による照射に反応して物体から反射さ れた光は、別々の面の数に応じて−もしくは複数の線としてビデオ像に現われる 。この線は、光が反射される物体の特定の面がそれぞれ平面もしくは曲面である かに応じて直線もしくは曲線でありうる。
仮にカメラと入射光平面の空間内の位置が分かっているとすると、三次元空間に おける物体の全ての照射される点の位置は三角測量によって決定できる。三角測 量は次のように実施できる。まず第一に、レーザの光源は、感知される物体を周 囲の光よりも相当強(照射する。あるいは、カメラは、レーザにより発生される 光の波長をもつ光だけを通過させるフィルタを含んでいてもよい。
こうして、所定の閾光度より強い光度で照射されたビデオ像のビクセルは、レー ザ光源により発生された光を反射するものと考えられる。同様に、閾光度より弱 い照射レベルを受光する全ビクセル要素は、レーザ光源から反射するだけの光を 受けていないと考えられる。空間内でのカメラの位置は分かっているのだから、 ディスプレイの任意の一個のビクセルな照射する光は、カメラのレンズの中心か ら像点を通過して空間へ引いた既知の線上にある空間の一点から反射されねばな らない、空間内の光子面の位置も分かっており、レーザ光源により照射される各 点のどれも皆レーザ光の既知の平面上に存在しなければならないので、レーザ光 源により照射されるどの点の正確な位置も(カメラのレンズから照射点への)既 知の線が既知の平面と交差する点を決定することにより三角測量で決定できる。
物体全体に関する位置情報を得るためには、光子面は(角度的にあるいは並進運 動的に)定量ずつ逐次的に走査し、且つカメラで感知される物体から反射された 光の第二の像を録画すればよい、十分な情報を得て物体全体の形状及び位置が決 まるまで、光子面は逐次的に移動して、ビデオの像を逐次的に録画できる。ある いは、平面は動かさないでそのままにでき、物体を光源の下で移動できる。しか しながら、このような実施例は好ましくない、なぜなら物理的な走査がこれらの 装!には必要とされるため、これら装置は実時間で動作できない。
複数の光子面が、同時に物体を照射する別の装置が存在する。複数平面の装置で は、物体の一つの像の輪郭だけが録画される。このような装!では、一つの光子 面により照射されるこれらの点と別の光子面により照射されるこれらの点とを区 別する(もしくは明確にする)ためにある方法が使用されねばならない、典型的 には、このような装置は、ビデオ像のある点を照射した平面に関するある経験に よる推量を採用し、この平行な方向の第一点に直接隣接する別の照射点も同一平 面により照射されると仮定する。平行な光子面に垂直な方向の第一点の両側の複 数の点がレーザ光源からの直接に隣接する光子面によりそれぞれ照射されるとさ らに仮定される。もちろん、この後者の仮定は、不規則的形状をした物体、特に 相違面間に鋭角をもつ物体に対して正確でない、こうして、この装置は、一般に 十分に精密でないために特に一般的でない。
DiMatteo他に付与された米国特許第4.335.962号は、複数の光 子面と一つ以上のカメラを使用する三次元感知装置を開示している。この装置は 、一つのカメラを使用して動作されることが企画されているが、もし付加的な精 度が必要なら、第二のカメラを含むこともできる。感知される物体上の種々の点 の位!は、この特許に開示された特定の方法によって決定される。しかしながら 、この方法で正確な結果を得るためには、第一のカメラは光源の特定の距離内に 配置されねばならない、このカメラは、光源に十分に接近しなければならない、 その結果、種々の光子面から反射された光は、光が光源から発生される同じ順序 でカメラに現れるようになる。こうして、感知される物体の同様最大の深さはカ メラと光源との距離とに制限される。
したがって、感知する物体を照射するために複数の光パターンと、物体を感知す るのに任意に配置できる複数のカメラとを使用する三次元感知装置を提供するこ とが本発明の目的である。
複数のカメラと、任意の大きさの物体の形状と位置を感知できる複数のカメラの 複数平面の三次元感知装置を提供することが本発明のさらなる目的である。
機械的な走査なせずに感知される物体についての情報を得る三次元感知装置を提 供することが本発明の別の目的である。
本質的に実時間で動作できる三次元感知装置を提供することが本発明の一以上の 目的である。
ビデオ像に現れるスプリアス光を拒絶する三次元感知装置を提供することが本発 明のまたさらなる目的である改良した三次元感知装置を提供することが本発明の また別の目的である。
免豆立!上 本発明は、感知すべき三次元物体についての可視情報を受信し且つ録画するため の二つのカメラ(以後だ方カメラと右方カメラと記す)を使用する三次元感知装 置からなる。物体は、同時に複数の間隔を置いた光の平面を発生する一つ以上の レーザ光源により照射される。各カメラは、感知される物体から反射された光の 静止ビデオ像を同時に録画する。録画される各機は、各カメラの位置から見れる 感知物体からの入射光平面の反射によって形成されたパターンである。ビデオ画 像のビクセルは、デジタル情報に変換されてコンピュータのメモリに格納される 。
ビデオ像が得られデジタル情報へ変換されると、二つの像のそれぞれは最初側々 に処理される。まず、別個に各機に対して、アルゴリズムがデジタル情報に適応 されて個々のビクセルをグループに収集する。各グループは、億円の連続したビ クセルからなる(以後ストライブと記す)。二つのビデオ像からのデータは、以 下で説明するように結合されて、感知される物体の照射された点の三次元空間内 の座標位置を決定する。
まず、一方(例えば右方)のビデオ像の各ストライブの一個のビクセルが選択さ れる(以後、選択ビクセルと記す)、空間内のカメラのレンズの位置が分かって いて、且つ選択ビクセルが分かっていると、選択ビクセルに対応する点はレンズ の中央から空間へ引かれる既知の線内にあることが分かる。(右方像の一点とし て表われる)この線は、左方像内に一本線として現れる。この線は、左方像内の 選択点のエビ・ボラ−繍と呼ばれる。左方カメラのレンズ中央の位置も既知であ るから、このエビ・ポラ−線は計算されて左方像内に引(ことができる。
エビ・ポラ−線は、左方像内に引かれると、左方ビデオ像のストライブの少なく とも一つ、はとんどは複数と交差する。エビ・ポラ−線と一つのストライブの交 差するビクセルの一個(以後、交差ビクセルと記す)は右方像からの選択点を表 わしていることが分かる。これら交差ビクセルのいくつかに対応する点の空間内 の実際の座標位置は、簡単な三角測量によって決定できる。いくつかのストライ ブを作る各先手面の空間内の位置も分かっているので、左方像内の選択点に対応 する全ての交点の一つは、各交点の三次元座標を決定することによって確かめら れて、既知の先手面の一つにあるかどうかを決定する。既知の先手面に接近しで ある交点は、選択点と解釈される。
このアルゴリズムは、左方像内の全てのストライブの少なくとも一点で反復され る。もちろん、左方像内のストライブの全てが左方像内に整合するストライブを 持っているわけではない、左方像内に現れるストライブ、特に端近(のストライ ブは、左方像内には現われない可能性がある。とにかく、左方像内の全部でなく ともほとんどのストライブは、このアルゴリズムによって左方像内のストライブ と合致させられ、各ストライブの少なくとも一点の三次元座標が決定される。こ の知識と、任意に与えられたストライプ全ての他の点が対応する先手面内にある という知識を使うとグループの任意の他の点の三次元座標は、三角測量によって 決定できる。こうして、感知される物体上のある照射される点の座標位置は、決 定できる。
この情報は、処理されて広範な種々の工業および軍事への応用として使用できる 。
の な・ 図工は、本発明の三次元感知装置の説明付き図。
図2は、図1に示す光源の一例を説明付きで示す。
図3Aは、物体が複数の間隔を置いた先手面によって照射されるとき図3Bに示 すカメラにより録画された物体の像を示す。
図3Bは、図3Aに示される物体の録画像を示す。
図4A及び4Bは、一連の光の平面により照射された感知物体を本発明の左右の カメラによって録画した像を示す。
図5は、ビデオ像を発生する本発明の説明付きで示す光の平面に重ねられた録画 したビデオ像を示す。
の・ な・ 図1は、本発明の詳細な説明付きで示す、感知すべき物体を参照番号10で示す 、光源12は、同時に発生された複数の光の平面14a〜14nで物体を照射す る。図2は、ペンシルビームレーザ100からの光がシリンダ状レンズ102を 通過しその後回折格子104を通過して間隔をおいた連続する平面14a〜14 nを形成する光源の一実施例を示す、また多数のレーザ光源が使用できる。実際 には、ある実施例において、物体の小面全てを十分に照射するために種々の角度 から感知される物体を間隔をおいて照射するために複数の光源を使用するのが所 望されるかもしれない。
左右のビデオカメラ16及び18は、物体の存在する大体の方向へ向けられる。
カメラの配置は、極めて自在であるが無制限ではない0例えば、左方のカメラが 、右方のカメラが受光する先手面の実数の物体からの反射を受光するように、こ れら二つのカメラは配置されねばならない。換言すれば、これら二つのカメラは 、右方の像のストライブの実数が左方の像のストライブの実数と合致するように 配置されねばならない、また、カメラのレンズの中心は、一本の線と、全ての先 手面に垂直な平面とが垂直となるように、一本の線の方向に配置されるべきでな い8例えば、本発明の設計図である図1を参照すると、先手面がその垂直平面と 垂直であることから、カメラ16及び18はともに、図1の紙面に垂直なある一 本の線上に配置されるべきでない、もちろん、光源が平面でない光パターンを発 生する場合、この制限は使用される実際のパターンに応じて変更される。
物体IOはカメラの前に配置されて、各カメラが物体10の静止像を録画しコン ピュータ11へその情報を出力する。この装置の環境内の周辺の明るさはレーザ の光源12に対して比較的暗くすべきであるか、あるいは別法として、レーザ光 源12による物体の照射がカメラによって周辺光と識別できるように、カメラは レーザ光の波長に同調されたい(つかのフィルタを含むべきである、したがって 、物体10からカメラのレンズへ反射されたレーザ光源12からの光は、ビデオ 像の比較的高い光度で現れ、他方のレーザ12からの光の当たっていない物体の 残部がビデオ像の比較的暗い光度で現れる。
図3Aは、間隔をおいた連続の先手面により照射されたときカメラにより録画す ることができる図3Bの物体のビデオ像の一例を示す。図3Aの線(例えば、2 0.22)は、周囲領域よりもさらに広い範囲を、つまり光源12によって照射 されるビデオディスプレイの一部を表す。例えば、円筒でなく平坦な面に当たっ ている一番左の平面の光は、図3に示す直線(もしくは、ストライブ)20を発 生する。しかし、一番右の先手面は、円筒と平坦面に当たってストライブ22a 、22b、22cからなるストライブのグループ22で描かれたものに類似の線 パターンを発生する。同様に、各連続の先手面は、感知物体から反射されると、 ストライブのグループ22に類似のストライブのグループを発生する。
図4A及び4Bは、図1の左右のカメラ16及び18によって録画することがで きる図3Bに示す物体のビデオ像を例示している。カメラ16及び18は、異な る位置から感知物体を検視するので、図4Aと4Bのビデオ像は異なる。左右の カメラ16及び18が図1のように互いに比較的接近して配置されほぼ同角度か ら感知物体を検視するなら、左右のビデオ像間の差異は図4Aと4Bのようにあ まりはっきり判断されない、カメラ同士の間隔が大きいと、左右の像の相違がも っと著しくなる。
図4A及び4Bは先手面が垂直となる装置を示しているが、これがこの発明の要 件でないことは理解されたい。
本発明において、これらの像の各々は、デジタル情報へ転換されてコンピュータ 11のCPU13にアクセス可能なフレームバッファ15のメモリに格納される 0本質的に、ビデオ像のビクセルは、関係付しプられるビクセルの照射光度を表 す複数ビットのビクセルデータワードへ転換される。このデータワードがビデオ 像の複数のビクセルとの一つの対応関係に対して一つもつことは必要でない。例 えば、ビデオ像が、感知装置の目的に必要であるものよりもっと精密な解像度( ビクセル数)をもつ場合、複数の近接ビクセルがコンピュータのメモリ内の単一 のデータワードに変換することができる。ここで、用語ビクセルデータワード及 びビクセルは、コンビ二一夕に格納されるデータに関連して使用される場合、ビ デオ像のビクセルに対応する何らかの点を意味しない。付加すると、ビデオカメ ラからのデータは、メモリに格納される前にさらに適当な状態にすることができ る。
二つのカメラにより録画される静止像は、同一場面の像が録画されることを保証 するために同時に撮影されるべきである。しかし、感知される物体10が静止し ている場合は、カメラの同期は特に関係ない。所定の閾レベル以上の照射光度を もつこれらのビクセルワードは、レーザの光源12の先手面の一つにより照射さ れたと仮定される。所定の光度レベル以下の照射光度をもつ残りのビクセルワー ドは、切り捨てられる。これは、左右のビデオ像両方に対して実行される。
単一の先手面を使用する従来技術の装置とは違って、複数の先手面を使用すると 、複数の先手面のどれが点を照射しているのかわからないため、カメラのレンズ の中心を通って引いた線を含む平面の三角測量によっであるビクセル内で照射さ れる三次元の点を決定することは可能でないつ 物体の形状が、任意に与えられた先手面の反射を入射平面について不適当に出現 させることがあるために、ビデオ像内の一番右の光点は、一番右の入射光平面に よって照射されると想定できないことは理解されたい。
像が得られ、デジタル化され、レーザ光源で照射されたビクセルとレーザ光源で 照射されなかったビクセルに分割されると、照射されたビクセルは連続点のグル ープ(すなわち、ストライブ)に収集される。一つの先手面は、感知される物体 の形状に依存する一つ以上のストライブを発生できる。ビデオ像のビクセルをス トライブへと正確にグループをつくるアルゴリズムはわかっている。一つのこの ようなアルゴリズムが像層に実行されて照射されたビクセルをこれらのストライ ブへ収集する。ときどき、二つ以上のストライブが機内に互いに列をなして現れ 、そのため一つのストライブのように現れる。これらのストライブは、信号を処 理する際この点で分離できない。しかし、処理する際に後に出てくる点で使用し てこれらの型のストライブに分離できるアルゴリズムはわかっている。
照射される点の三次元位置を決定するためには、先手面がその点を照射したこと を決定しなければならない。
本発明は、左方像のストライブを右方像のストライブと合致させることによって これを行う、この処理は、本発明の先手面と光源の設計図に描かれた模範的な左 右のビデオ像を示す図5に関して説明するつもりである。図5において、プライ ム記号「′」が参照番号に付記しで使用され、このプライム記号付参照番号は実 際の物理的点もしくは線を現し、一方、物理的点もしくは線に対応するビデオ像 内のビクセルもしくは線はプライム記号のない参照番号で指示されている0図を もっと単純化するために、感知物体が示されてない0本発明に従うと、ある像の 各ストライブの任意のビクセル、例えば右方像のビクセル3oが選択される(以 後、選択ビクセルと記す)、好ましい実施例においては、ストライブの中央のビ クセルが選択される。右方カメラ16の位置はわかっていて選択ビクセル30の 位置もわかっているのであるから、線32°は、右方カメラのレンズ中央から選 択ビクセル30で指示される選択点30’があることがわかっている空間へと引 くことができる。しかし、[32°上の選択点30゛の正確な位ff1(つまり 、カメラからの距離)はわからない。
右方像の一つのビクセルの選択ビクセル30としてのみ現れる線32°は、左方 像の一本の線として現れる。
空間内の線の位置が分かっていて左方カメラの位置が分かっているのだから、線 32°の位置は、計算されて左方像の32で示すように描かれる。線32は、選 択ビクセル30のエビ・ボラ−線と称される。点30’に対応する左方像のビク セルは、左方像の線上にあることがわかっている0選択点30”が先手面の一つ に存在しなければならないこともわかっているので、選択点30°の空間内の位 置は、ビクセル34.36.38.40.42.44.46の一つに対応するも のとさらに絞ることができる。この場合、線32は左方像のストライブと交差す る(以後、交差ビクセルと記す)。
選択点30’の正確な三次元座標は、現在次のように決定できる。交差ビクセル 34.36.38.40.42.44.46にそれぞれ対応する各交点34’  、36′、38°、40°、42’ 、44’ 、46°の三次元座標は、各点 が二本の別個の線上にあることがわかっている。左方カメラのレンズ中央から描 かれたA1132°である第一の線と33°a〜33゛ gの内の一つである第 二線は、各交点34°、36’ 、38’ 、40’ 、42’、44’、46 °の内の一つを通って空間へ出る。交点の各々の位置は二本の線の交差部分であ るとわかっていて、三角測量によって決定できる。
さらに、先手面の空間内の位置も既知である光源の位置かられかる。一つの既知 の平面上にある交点34°、36’ 、38’ 、40’ 、42’ 、44° 、46′の一つは選択点30°と同一点であるべきである。こうして、アルゴリ ズムは、各交点34°、36°、38’、40” 、42’ 、44°、46′ に適応されて既知の平面の一つに最接近するように決定される。既知の平面(例 えば、点40′)に最接近する交点に対応する左方像の交差ビクセルは、選択点 30°と同一点であると仮定される。光の平面に大変接近する二つ以上の交点が ある場合、その後さらに、正確な交点を決定するステップが必要かもしれない、 一つの可能性は、左方億円の二つ以上の交点に対応するストライブの長さと右方 の選択ビクセルに対応するストライブとを比較し且つと万機の長さが選択ビクセ ルに対応する右方像のストライブの長さに接近する左方像からストライブに対応 する交点を選択することである。二辺上の交点が先手面に大変接近する位置にあ る場合の別の可能性は、同一ストライブ内の右方機内の別の点を簡単に選択し、 且つ新しい選択点に関するアルゴリズムを再形成することである。
交点と選択点の空間内の位置は、極座標のような別の型の座標系を用いることに よって決定できる0例えば、全ての先手面は、空間内の一本線から発生され特定 の角度でその線から外へ向かって放射する。第二の億円の交差ビクセルに対応す る交点は、発生線についての角度と発生線上の選択点からの距離ベクトルという 用語で定義できる。各交点に関連する角度は、既知の先手面の角度と比較して先 手面に最接近する位置がどの交点かを決定できる。
この接点において、選択点30′の三次元座標と、選択点30°がある先手面と 、選択点30°がある左右の像両方のストライブとを全て分かつている。ビクセ ル30が属するストライブ内の他の全ての点は同一の先手面によって照射される 。こうして、関連ストライブ上の他の点の三次元位置は、単純な三角測量によっ て決定できる。
同一のアルゴリズムは、右方像の全ての他のストライブの中央のビクセルに適応 されて空間内の対応する点の三次元座標を決定する。上記のように、右方機内の い(つかのストライブは、左方像の対応するストライブを持たずどもよい、上で 説明したアルゴリズムは、ストライブが合致点を持たないことを決定するだろう 、さらに、いくつか−列のストライブがある場合、既知のアルゴリズムがこの点 に適応されてそれらを分離する。
本発明のアルゴリズムは、さらに、それが周辺の光やもしくは物体からの先手面 の第二反射によって生じるかもしれないようなスプリアス光の反射を内在的に拒 絶するという利点をもつ、ビデオ像内の殆どのスプリアス光は、一つの光子面内 にないだろう、そして本発明が、スプリアス光に対応する右方像のビクセルを左 方像に対応するビクセルを合致させると、それは、光子面内にある交点は見つか らない、この装置は、その後ビクセルがスプリアス光によって照射されたと仮定 するだろう、この方法で、スプリアス光によって照射されたほとんどのビクセル は拒絶されるだろう。
ビデオ像内のストライブがそれを発生する実際の先手面と合致すると、ビデオ像 内のいくつかの照射点の三次元座標は、単一カメラからのデータを使用する三角 測量によって決定できる。しかしながら、高度の正確さを要求する応用において 、この装置は各カメラからのデータに基づく座標点を決定するように変更される 。
このように、得られたデータから感知物体10を限定する。このデータは、特別 な用途に要求されるように操作できる0例えば、環境を製造する際に、本発明は 、ドリルすべき物体の位置を決定するのに使用できる。その後、コンビ二−タ制 画下で、ドリルはドリル動作のために所望位置へ運ばれる0軍事応用において、 本発明は、標的捕捉の目的に使用できる0例えば、所定の形状と/もしくは大き さをもつ物体は配置されてその三次元座標が決定すると、武器が自動的にこの指 示座標へ向けられ本発明は、ソフトウェアで主に実行できる。しかしながら、こ の装置の応答時間、つまり、像の捕捉と像の位置及び形状の最終的な計算値との 間の時間を速(するために、ハードウェアは、ステップの確実性を実行するのに 設計できる0例えば、ハードウェアは、照射されたビクセルをストライブへ収集 するのに設計できる。
この装置の応答時間をさらに短縮するために、本発明の方法が直列の並行プロセ ッサによって実行できる。好ましい実施例において、得られたビデオ像は小部分 に分割されて、その各々が別個のプロセッサによって動作できる0例えば、先手 面がビデオ像内でほぼ垂直であると仮定すると、これら像は平行なセクションへ 分割でき、その各々が別個のプロセッサによって動作される。別法として、一つ のプロセッサが、各ストライブもしくはストライブのグループへ委ねられ得る。
その後コレラ点の三次元座標が決まると、このデータは結合できる。しかし、多 数の応用において、別個のプロセッサによって開発されたデータを結合すること は、必要でさえないかもしれない。
さらに別法として、多数のプロセッサがパイプラインで連結されて、応答時間を も短縮するアルゴリズムの異なる部分を実行できる。付加すると、処理のい(つ かのステージを実行するためのハードウェアを使用し、且つ多数のプロセッサを 使用することによって、装置の応答時間(つまり、獲得された像からの有用な像 発生するのに必要な時間)が、はぼ−秒の1/10まで短縮できる、−秒の1/ 10の応答時間を使用すると、この装置は、必然的に実時間で動作でき、これに よって、この装置は移動している物体を探知でき、位置と/もしくは形状の情報 を1/10秒の遅延で連続して更新する。
上の説明は、好ましい実施例に関する。しかし、他の種々の実施例が、考えられ る1例えば、像はビデオカメラによって録画されることが必要である。い(つか の電磁録画手段は、両立可能な電磁放射手段と結合して使用できる0例えば、感 知物体をX線で爆撃でき、かつ機械の像を描くX線によって録画できる。
本発明は多数の先手面で物体を照射する発生源に関して説明したけれど、別の照 射パターンも可能である6例えば、一連の収束円もしくは正方形で、またはペン シルビームの列で照射できる。実際には、物体は、レーザの位置と光パターンが 分かっている限り光のパターンのいくつかの数によって照射できる。こうして、 ここで使用された用語「ストライブ」は、直線のみに言及するものでなく、−組 の多数の反復パターンの内のいずれかによって反射パターンを含むようにもつと 広く解釈されるべきである。しかし、一連のペンシルビームからなる光パターン の場合には注目すると、ビクセルデータワードをストライブにグループ化しない ことになる(または、別言すると、ペンシルビームによって照射された各ビクセ ルは、それ自身のストライブとなる)。
本発明の二、三の特別な実施例を説明したけれど、種々の変更、補正及び改善が 可能であることは、当業者にとって容易に理解されるであろう、ここの開示で明 らかにしたように、このような変更、修正及び改善は、明白にはここで述べてな いけれども、本発明の技術思想の要旨及び範囲内で行うつもりである0例えば、 物体が多数の光の平面によって同時に照射されることは必要でない。代わりに、 先手面は、逐次的に既知の量に置き換えられる光の単一平面によって丁度良い時 に逐次的に発生できる。周辺の明るさがビデオ画の完全な形を維持するのに十分 に低い場合、先手面が発生されるように長い時間見せられている単一のビデオ像 はカメラによって録画できる。また、別の像は、先手面の位置を変える毎に録画 される。したがって、上記の説明は一例であって制限するものではない。本発明 は、次の請求項に定義のようにのみ制限され、それに相当する。
要約書 本発明は、連続する光平面によって照射された感知される物体について可視情報 を受信し録画するために二つの自在に配置できるカメラを使用する三次元感知装 置である。多像の各ピクセルがデジタルワードへ変換されて、このワードがスト ライブにグループ化される。各ストライブは、連続のピクセルを有する。一方の 機内の各ストライブの一つのピクセルが選択されてこの点のエビ・ボラ−線が他 方の機内に引き出されている。各選択点の三次元座標は、第二億円のストライブ 上にあり且つ既知の光平面に接近する前記エビ・ボラ−線上の点を決定すること によって決まる。
国際調査報告

Claims (15)

    【特許請求の範囲】
  1. 1.複数の電磁放射パターンを使って感知されるべき物体を照射するための電磁 放射源と、 前記電磁放射源により照射されるとき前記物体からの前記パターンの反射の第一 および第二の像をそれぞれ録画するための第一および第二電磁録画手段であり、 前記第一電磁録画手段は前記第二電磁録画手段が録画する少なくともいくつかの 反射パターンを含んだ像を録画するような様式で互いに配置される前記第一およ び前記第二電磁録画手段と、 前記第一録画手段によって録画される前記パターンの各々の反射と前記第二録画 手段によって録画される前記パターンの各々の反射とを相関付け、それから前記 物体の形状と位置を決定するためのデータ処理手段であって前記像の各々を一連 のデジタルピクセルワードへ変換するための手段と、 前記パターンの一つによって照射される点に対応するデジタルピクセルワードを 各々有するストライプに各像の前記デジタルピクセルワードをグループ化するた めの手段と、 関連パターンにより照射される前記物体上のある選択点を各々表わす単一デジタ ルピクセルワードを、前記第一像からの各ストライプから選択するための手段と 、 前記選されるデジタルピクセルワードの各々の前記第二像内のエピ・ポラー線を 決定するための手段と、 前記第二像内のストライプの一部でありかつエピ・ポラー線の一部あり、選択点 と称される前記第二像内の一点を表す各デジタルピクセルワードを決定するため の手段と、 前記交点の各々の三次元座標を決定するための手段と、 エピ・ポラー線と関連付けられる前記第一像からの選択点として前記パターンの 一つに最も接近してある各エピ・ポラー線上の単一の交点を選択するための手段 と、 前記選択点の既知の位置に基づく前記物体の形状もしくは位置を決定するための 手段と、を有する前記データ処理手段と、 を有する三次元物体感知装置。
  2. 2.前記電磁放射源が光源よりなり、かつ前記パターンが複数の光平面を有する 請求項1に記載の装置。
  3. 3.前記第一及び第二像が同時に得られる請求項1に記載の装置。
  4. 4.前記第一及び第二像内のセクションが前記像の対応するピクセルを含むよう に、前記像をセクションに分離するための手段をさらに有し、 前記データ処理手段が複数のデータ処理手段からなり、前記データ処理手段の各 々が前記第一及び第二ビデオ像の前記セクションの一つに関して同時に動作する 、請求項1に記載の装置。
  5. 5.前記セクションの各々が関連付けられた像のストライプを有する請求項4に 記載の装置。
  6. 6.前記グループ化手段が、 第一グループが特定閾照射レベル以上で照射されるピクセルを有し且つ第二グル ープが特定閾照射レベル以下で照射されるピクセルを含むように、前記ピクセル を前記第一及び前記第二グループへ分離するための手段と、前記第一グループか らの前記ピクセルを前記ストライプヘさらに分離するための手段と、 を有する請求項1に記載の装置。
  7. 7.前記電磁録画手段がビデオカメラからなる請求項1に記載の装置。
  8. 8.前記光源がレーザ光源からなる請求項2に記載の装置。
  9. 9.前記データ処理手段が複数のパイプライン結合されたデータ処理手段を有し 、前記各データ処理手段が前記データ処理手段の逐次部分を実行する請求項1に 記載の装置。
  10. 10.交点のどれもが前記パターンのいずれかの特定距離内にない場合、選択デ ジタルピクセルワードを拒絶するための手段をさらに有する請求項1に記載の装 置。
  11. 11.三次元空間における物体を感知するための方法において、 あるパターンの電磁放射を使って前記物体を照射することと、 前記物体から前記光パターンの反射のピクセルよりなる第一及び第二像を得るこ とと、 第一カメラによって録画されるような前記光パターンの反射と第二カメラによっ て録画されるような前記光パターンの反射とを、まず前記第一像から少なくとも 一つの選択ピクセルの第二像内のエピ・ポラー線の位置を決定し、次に前記エピ ・ポラー線上にある前記第二像内の前記ピクセルの各々に対応する点の空間内の 位置を決定し、その後前記点のどれが前記光パターンに接近してあるのか決定す ることによって相関付けることと、の諸ステップを有する三次元空間における物 体感知方法。
  12. 12.三次元空間における物体を感知するための方法において、 複数のパターンの電磁放射を使って前記物体を照射することと、 前記物体の第一及び第二像を得ることと、前記ビデオ像上の一点の光度レベルを 各々表わす、一連の前記ピクセルワードに各像を変換することと、特定の閾光度 以上に照射される連続ピクセルを各々有するストライプに各像の前記ピクセルワ ードを収集することと、 前記第一像からの各ストライプから一つのピクセルワードを選択することと、 各選択ピクセルワードに対して、前記選択ピクセルワードの前記第二像内のエピ ・ポラー線の位置を決定することと、 名エピ・ポラー線に対して、ストライプの一部であり且つ前記第二像内の前記エ ピ・ポラー線の一部であり、交差ワードと称せられる各ピクセルワードを前記第 二像から決定することと、 各エピ・ポラー線に対して、各交差ワードに対応する点の三次元座標を決定する ことと、 各エピ・ポラー線に対して、対応する点が前記パターンの一つに最も接近してあ る単一の交差ワードを選択することと、 前記選択ピクセルワードに対応する前記点の既知の位置に基き前記物体の形状も しくは位置を決定することと、 の諸ステップを有する三次元空間における物体感知方法。
  13. 13.第一及び第二像が同時に得られる請求項12に記載の方法。
  14. 14.前記グループ化ステップが、 第一グループが特定の閾値以上の数値をもつピクセルワードを有し第二グループ が特定の閾値以下の数値をもつピクセルワードを有するように、前記ピクセルワ ードを第一及び第二グループに分離することと、前記第一グループ内の前記ピク セルを前記ストライプに分離すること、 のステップを含む請求項12に記載の方法。
  15. 15.交差ワードに対応する点のどれもが前記パターンの特定距離内にない場合 選択ピクセルワードを拒絶するステップをさらに有する請求項12に記載の方法 。
JP3507378A 1990-04-05 1991-03-22 実時間三次元感知装置 Expired - Lifetime JP2927955B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US505,722 1990-04-05
US07/505,722 US5589942A (en) 1990-04-05 1990-04-05 Real time three dimensional sensing system
PCT/US1991/002055 WO1991015732A1 (en) 1990-04-05 1991-03-22 Real time three dimensional sensing system

Publications (2)

Publication Number Publication Date
JPH05509394A true JPH05509394A (ja) 1993-12-22
JP2927955B2 JP2927955B2 (ja) 1999-07-28

Family

ID=24011551

Family Applications (1)

Application Number Title Priority Date Filing Date
JP3507378A Expired - Lifetime JP2927955B2 (ja) 1990-04-05 1991-03-22 実時間三次元感知装置

Country Status (6)

Country Link
US (1) US5589942A (ja)
EP (1) EP0523152B1 (ja)
JP (1) JP2927955B2 (ja)
CA (1) CA2079817C (ja)
DE (1) DE69127968T2 (ja)
WO (1) WO1991015732A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013210254A (ja) * 2012-03-30 2013-10-10 Canon Inc 三次元計測装置、三次元計測方法及び三次元計測プログラム

Families Citing this family (62)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB9127548D0 (en) * 1991-12-31 1992-02-19 3D Scanners Ltd Scanning sensor
US5852672A (en) * 1995-07-10 1998-12-22 The Regents Of The University Of California Image system for three dimensional, 360 DEGREE, time sequence surface mapping of moving objects
US6445814B2 (en) 1996-07-01 2002-09-03 Canon Kabushiki Kaisha Three-dimensional information processing apparatus and method
JP3064928B2 (ja) * 1996-09-20 2000-07-12 日本電気株式会社 被写体抽出方式
US5912768A (en) * 1996-12-31 1999-06-15 Cognex Corporation Depth-from-defocus optical apparatus with invariance to surface reflectance properties
US6025905A (en) * 1996-12-31 2000-02-15 Cognex Corporation System for obtaining a uniform illumination reflectance image during periodic structured illumination
US5878152A (en) * 1997-05-21 1999-03-02 Cognex Corporation Depth from focal gradient analysis using object texture removal by albedo normalization
US6219461B1 (en) 1997-07-29 2001-04-17 Cognex Corporation Determining a depth
EP0901105A1 (en) 1997-08-05 1999-03-10 Canon Kabushiki Kaisha Image processing apparatus
US6647146B1 (en) 1997-08-05 2003-11-11 Canon Kabushiki Kaisha Image processing apparatus
EP0898245B1 (en) 1997-08-05 2004-04-14 Canon Kabushiki Kaisha Image processing method and apparatus
US6148120A (en) * 1997-10-30 2000-11-14 Cognex Corporation Warping of focal images to correct correspondence error
US6056108A (en) * 1997-11-17 2000-05-02 Adept Technology, Inc. Impulse-based, flexible parts feeder
US6094269A (en) * 1997-12-31 2000-07-25 Metroptic Technologies, Ltd. Apparatus and method for optically measuring an object surface contour
US6221075B1 (en) 1998-03-06 2001-04-24 Bionx Implants Oy Bioabsorbable, deformable fixation plate
WO1999058930A1 (en) * 1998-05-14 1999-11-18 Metacreations Corporation Structured-light, triangulation-based three-dimensional digitizer
CA2253085A1 (en) * 1998-11-06 2000-05-06 Industrial Metrics Inc. Methods and system for measuring three dimensional spatial coordinates and for external camera calibration necessary for that measurement
US6100984A (en) * 1999-06-11 2000-08-08 Chen; Fang Surface measurement system with a laser light generator
EP1067757A1 (en) * 1999-07-09 2001-01-10 Hewlett-Packard Company Curled surface imaging system
EP1067362A1 (en) * 1999-07-09 2001-01-10 Hewlett-Packard Company Document imaging system
US7065242B2 (en) 2000-03-28 2006-06-20 Viewpoint Corporation System and method of three-dimensional image capture and modeling
US6754370B1 (en) * 2000-08-14 2004-06-22 The Board Of Trustees Of The Leland Stanford Junior University Real-time structured light range scanning of moving scenes
DE10044032A1 (de) * 2000-09-06 2002-03-14 Deutsche Telekom Ag 3-D Sehen
DE10051415C2 (de) * 2000-10-17 2003-10-09 Advanced Realtime Tracking Gmb Optisches Trackingsystem und -verfahren
US6760113B2 (en) 2001-03-20 2004-07-06 Ford Global Technologies, Llc Crystal based fringe generator system
GB0120277D0 (en) 2001-08-18 2001-10-17 Snap On Equipment Ltd Three-dimensional mapping systems for automotive vehicles and other articles
DE10143504A1 (de) * 2001-09-05 2003-03-20 Sick Ag Überwachungsverfahren und optoelektronischer Sensor
US7555831B2 (en) 2001-11-13 2009-07-07 Cyberoptics Corporation Method of validating component feeder exchanges
US7239399B2 (en) * 2001-11-13 2007-07-03 Cyberoptics Corporation Pick and place machine with component placement inspection
US7813559B2 (en) 2001-11-13 2010-10-12 Cyberoptics Corporation Image analysis for pick and place machines with in situ component placement inspection
US20030111532A1 (en) * 2001-12-14 2003-06-19 General Electric Company Self-referencing system for light gauge images
US6930763B2 (en) * 2001-12-18 2005-08-16 General Electric Company Three dimensional sensor laser noise reduction method
US6678057B2 (en) 2001-12-19 2004-01-13 General Electric Company Method and device for reduction in noise in images from shiny parts
US6868194B2 (en) * 2001-12-19 2005-03-15 General Electric Company Method for the extraction of image features caused by structure light using image reconstruction
US7136171B2 (en) * 2001-12-19 2006-11-14 General Electric Company Method for the extraction of image features caused by structure light using template information
US6753876B2 (en) 2001-12-21 2004-06-22 General Electric Company Method for high dynamic range image construction based on multiple images with multiple illumination intensities
SE524582C2 (sv) * 2002-01-10 2004-08-31 Anders Reyier Ett avläsarsystem och ett förfarande för att bestämma koordinaterna för ytan av ett tredimensionellt objekt
US6615503B1 (en) 2002-04-16 2003-09-09 General Electric Company Calibration software for surface reconstruction of small objects
US6969821B2 (en) * 2003-06-30 2005-11-29 General Electric Company Airfoil qualification system and method
US7916898B2 (en) * 2003-09-15 2011-03-29 Deere & Company Method and system for identifying an edge of a crop
US7559134B2 (en) 2003-11-04 2009-07-14 Cyberoptics Corporation Pick and place machine with improved component placement inspection
US20050125993A1 (en) * 2003-11-07 2005-06-16 Madsen David D. Pick and place machine with improved setup and operation procedure
US7706595B2 (en) 2003-11-07 2010-04-27 Cyberoptics Corporation Pick and place machine with workpiece motion inspection
JP2005233748A (ja) * 2004-02-19 2005-09-02 Brother Ind Ltd 3次元形状検出装置および撮像装置
DE102004008904A1 (de) * 2004-02-24 2005-09-08 Siemens Ag Vorrichtung und Verfahren zur Bestimmung von Raumkoordinaten eines Objekts
US20060016066A1 (en) * 2004-07-21 2006-01-26 Cyberoptics Corporation Pick and place machine with improved inspection
US7620209B2 (en) * 2004-10-14 2009-11-17 Stevick Glen R Method and apparatus for dynamic space-time imaging system
JP4896136B2 (ja) 2005-09-14 2012-03-14 サイバーオプティクス コーポレーション 改善された構成部品ピックイメージ処理を備えたピックアンドプレース機
US7492450B2 (en) * 2005-10-24 2009-02-17 General Electric Company Methods and apparatus for inspecting an object
US20070276867A1 (en) * 2006-05-23 2007-11-29 David Fishbaine Embedded inspection image archival for electronics assembly machines
SG176440A1 (en) 2006-11-21 2011-12-29 Mantisvision Ltd 3d geometric modeling and 3d video content creation
US8090194B2 (en) 2006-11-21 2012-01-03 Mantis Vision Ltd. 3D geometric modeling and motion capture using both single and dual imaging
USRE46012E1 (en) 2007-08-17 2016-05-24 Renishaw Plc Non-contact probe
US8339616B2 (en) * 2009-03-31 2012-12-25 Micrometric Vision Technologies Method and apparatus for high-speed unconstrained three-dimensional digitalization
GB0915904D0 (en) 2009-09-11 2009-10-14 Renishaw Plc Non-contact object inspection
WO2013013246A1 (en) 2011-07-21 2013-01-24 Brooks Automation, Inc. Method and device for compensation for dimensional variations in low temperature sample group holders
US10643343B2 (en) * 2014-02-05 2020-05-05 Creaform Inc. Structured light matching of a set of curves from three cameras
CN105960570B (zh) * 2014-02-05 2019-03-22 形创有限公司 来自两个相机的曲线组的结构化光匹配
CN106403845B (zh) * 2016-09-14 2017-10-03 杭州思看科技有限公司 三维传感器系统及三维数据获取方法
US11022692B2 (en) 2017-05-05 2021-06-01 Faro Technologies, Inc. Triangulation scanner having flat geometry and projecting uncoded spots
CN108592791B (zh) * 2018-04-27 2020-06-16 烟台南山学院 一种凹坑检查方法
US11592285B2 (en) 2019-08-15 2023-02-28 Faro Technologies, Inc. Modular inspection system for measuring an object

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3726591A (en) * 1971-12-08 1973-04-10 Bendix Corp Stereoplotting apparatus for correlating image points disposed along epipolar lines
US4335962A (en) * 1979-07-20 1982-06-22 Robotic Vision Systems, Inc. Method and apparatus for determining spatial information
US4294544A (en) * 1979-08-03 1981-10-13 Altschuler Bruce R Topographic comparator
US4313678A (en) * 1979-09-24 1982-02-02 The United States Of America As Represented By The Secretary Of The Interior Automated satellite mapping system (MAPSAT)
US4300836A (en) * 1979-10-22 1981-11-17 Oregon Graduate Center For Study And Research Electro-optical scanning system with self-adaptive scanning capability
US4357108A (en) * 1980-06-06 1982-11-02 Robotic Vision Systems, Inc. Method for reproducton of object surfaces
US4380391A (en) * 1980-09-30 1983-04-19 The United States Of America As Represented By The Secretary Of The Army Short pulse CO2 laser for ranging and target identification
DE3311118C2 (de) * 1983-03-26 1986-04-17 Dr. Johannes Heidenhain Gmbh, 8225 Traunreut Gekapselte lichtelektrische Meßeinrichtung
US4654872A (en) * 1983-07-25 1987-03-31 Omron Tateisi Electronics Co. System for recognizing three-dimensional objects
US4634279A (en) * 1984-02-06 1987-01-06 Robotic Vision Systems, Inc. Method of three-dimensional measurement with few projected patterns
US4641972A (en) * 1984-09-14 1987-02-10 New York Institute Of Technology Method and apparatus for surface profilometry
US4653104A (en) * 1984-09-24 1987-03-24 Westinghouse Electric Corp. Optical three-dimensional digital data acquisition system
US4593967A (en) * 1984-11-01 1986-06-10 Honeywell Inc. 3-D active vision sensor
US4705401A (en) * 1985-08-12 1987-11-10 Cyberware Laboratory Inc. Rapid three-dimensional surface digitizer
US4796997A (en) * 1986-05-27 1989-01-10 Synthetic Vision Systems, Inc. Method and system for high-speed, 3-D imaging of an object at a vision station

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013210254A (ja) * 2012-03-30 2013-10-10 Canon Inc 三次元計測装置、三次元計測方法及び三次元計測プログラム

Also Published As

Publication number Publication date
JP2927955B2 (ja) 1999-07-28
US5589942A (en) 1996-12-31
WO1991015732A1 (en) 1991-10-17
CA2079817A1 (en) 1991-10-06
DE69127968T2 (de) 1998-02-12
EP0523152A1 (en) 1993-01-20
EP0523152B1 (en) 1997-10-15
CA2079817C (en) 2003-02-25
DE69127968D1 (de) 1997-11-20
EP0523152A4 (en) 1993-08-11

Similar Documents

Publication Publication Date Title
JPH05509394A (ja) 実時間三次元感知装置
EP1649423B1 (en) Method and sytem for the three-dimensional surface reconstruction of an object
US6549288B1 (en) Structured-light, triangulation-based three-dimensional digitizer
US5986745A (en) Co-planar electromagnetic profile scanner
US6256099B1 (en) Methods and system for measuring three dimensional spatial coordinates and for external camera calibration necessary for that measurement
US20160364903A1 (en) 3d geometric modeling and 3d video content creation
US20040246473A1 (en) Coded-light dual-view profile scanning apparatus
JPS63223819A (ja) グラフィック物体を操作する方法及び装置
WO2007015059A1 (en) Method and system for three-dimensional data capture
JP2009288235A (ja) 物体の姿勢を求める方法及び装置
EP1680689B1 (en) Device for scanning three-dimensional objects
JP2006515945A (ja) コンピュータ・マウス内の光信号処理のための方法及びデバイス
JP2001338280A (ja) 3次元空間情報入力装置
CN216449449U (zh) 一种表面检测装置
JP2002131031A (ja) 三次元形状計測方法および三次元形状計測装置
JPH024028B2 (ja)
JP3385579B2 (ja) 黒色ワークの形状測定装置及び取出装置
US20220230335A1 (en) One-shot high-accuracy geometric modeling of three-dimensional scenes
Gordon Real time three dimensional sensing system
JPH0933227A (ja) 三次元形状識別方法
JP2002277409A (ja) プリント基板パターンの検査装置
JPH0713997B2 (ja) ウエハの要位置合せ角検出装置
JP2002031511A (ja) 3次元デジタイザ
JP2003185420A (ja) 三次元形状測定方法、三次元形状測定装置
JP2002013918A (ja) 3次元画像生成装置および3次元画像生成方法

Legal Events

Date Code Title Description
R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090514

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090514

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100514

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110514

Year of fee payment: 12

EXPY Cancellation because of completion of term