JP3893169B2 - 3次元計測装置 - Google Patents

3次元計測装置 Download PDF

Info

Publication number
JP3893169B2
JP3893169B2 JP15706996A JP15706996A JP3893169B2 JP 3893169 B2 JP3893169 B2 JP 3893169B2 JP 15706996 A JP15706996 A JP 15706996A JP 15706996 A JP15706996 A JP 15706996A JP 3893169 B2 JP3893169 B2 JP 3893169B2
Authority
JP
Japan
Prior art keywords
light
measurement
image
data
distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP15706996A
Other languages
English (en)
Other versions
JPH102712A (ja
Inventor
寿夫 糊田
英樹 田邊
誠 宮崎
琢人 上古
佳子 坂川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Inc
Original Assignee
Konica Minolta Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Inc filed Critical Konica Minolta Inc
Priority to JP15706996A priority Critical patent/JP3893169B2/ja
Priority to US08/748,325 priority patent/US6141105A/en
Publication of JPH102712A publication Critical patent/JPH102712A/ja
Priority to US09/676,767 priority patent/US6529280B1/en
Application granted granted Critical
Publication of JP3893169B2 publication Critical patent/JP3893169B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、特定の検出光を投射して物体形状を非接触で計測する3次元計測装置に関する。
【0002】
【従来の技術】
レンジファインダと呼称される非接触型の3次元計測装置は、接触型に比べて高速の計測が可能であることから、CGシステムやCADシステムへのデータ入力、身体計測、ロボットの視覚認識などに利用されている。
【0003】
レンジファインダに好適な計測方法としてスリット光投影法(光切断法ともいう)が知られている。この方法は、物体を光学的に走査して三角測量の原理により3次元画像(距離画像)を得る方法であり、特定の検出光を照射して物体を撮影する能動的計測方法の一種である。3次元画像は、物体上の複数の部位の3次元位置を示す画素の集合である。スリット光投影法では、検出光として断面が直線状のスリット光が用いられる。スリット光に代えて、スポット光、ステップ光、濃度パターン光などを投射する光投射法も知られている。
【0004】
図21はスリット光投影法の概要を示す図、図22はスリット光投影法による計測の原理を説明するための図である。
計測対象の物体Qに断面が細い帯状のスリット光Uを投射し、その反射光を例えば2次元撮像デバイス(エリアセンサ)の撮像面S2に入射させる〔図21(a)〕。物体Qの照射部分が平坦であれば、撮影像(スリット画像)は直線になる〔図21(b)〕。照射部分に凹凸があれば、直線が曲がったり階段状になったりする〔図21(c)〕。つまり、計測装置と物体Qとの距離の大小が撮像面S2における反射光の入射位置に反映する〔図21(d)〕。スリット光Uをその幅方向に偏向することにより、受光側から見える範囲の物体表面を走査して3次元位置をサンプリングすることができる。サンプリング点数はイメージセンサの画素数に依存する。
【0005】
図22において、投光の起点Aと受光系のレンズの主点Oとを結ぶ基線AOが受光軸と垂直になるように、投光系と受光系とが配置されている。受光軸は撮像面S2に対して垂直である。なお、レンズの主点とは、有限遠の被写体の像が撮像面S2に結像したときの、いわゆる像距離(image distance)bだけ撮像面S2から離れた受光軸上の点(後側主点)である。以下において、像距離bを実効焦点距離Frealということがある。
【0006】
主点Oを3次元直交座標系の原点とする。受光軸がZ軸、基線AOがY軸、スリット光の長さ方向がX軸である。スリット光Uが物体上の点P(X,Y,Z)を照射したときの投光軸と投光基準面(受光軸と平行な投光面)との角度をθa、受光角をθpとすると、点Pの座標Zは(1)式で表される。
【0007】
基線長L=L1+L2=Ztanθa+Ztanθp
∴ Z=L/(tanθa+tanθp) …(1)
なお、受光角θpとは、点Pと主点Oとを結ぶ直線と、受光軸を含む平面(受光軸平面)とがなす角度である。
【0008】
撮像倍率β=b/Z であるので、撮像面S2の中心と受光画素とのX方向の距離をxp、Y方向の距離をypとすると〔図22(a)参照〕、点Pの座標X,Yは、(2),(3)式で表される。
【0009】
X=xp/β …(2)
Y=yp/β …(3)
角度θaはスリット光Uの偏向の角速度によって一義的に決まる。受光角θpはtanθp=b/ypの関係から算出できる。つまり、撮像面S2上での位置(xp,yp)を測定することにより、そのときの角度θaに基づいて点Pの3次元位置を求めることができる。
【0010】
以上の説明は、理想的な薄肉レンズ系を前提としたものである。実際の厚肉レンズ系では、図22(c)のように主点Oは前側主点Hと後側主点H’とに分かれる。
【0011】
従来において、使用態様の上で撮影距離を可変としたレンジファインダには、パッシブ型測距センサが設けられている(特開平7−174536号)。測距の結果は、AF(オートフォーカシング)、及び投射光強度との設定に用いられている。
【0012】
【発明が解決しようとする課題】
しかし、測距結果に応じて投射光強度を調整したとしても、物体面の反射率が過小であったときには検出光の受光量が下限値を下回り、適正な計測結果が得られない。環境光の入射や物体面での正反射のために受光量が上限値を越えた場合にも適正な計測結果が得られない。また、測距の結果に基づいて設定された計測距離範囲が計測可能から外れると、計測の誤差が大きくなる。
【0013】
従来では、反射率、対物間距離、計測範囲の設定状態といった計測条件が不適正であったときに、実際には適正な計測結果が得られていないにも係わらず、ユーザーが適正な計測が行われたものと判断して計測作業を終えてしまうことがあるという問題があった。
【0014】
本発明は、ユーザーが計測条件の適否を計測の前又は後に確認して適切な操作を行うことのできる3次元計測装置の提供を目的としている。
【0019】
【課題を解決するための手段】
請求項1の発明の装置は、物体にパターン光を投射し、前記物体で反射した前記パターン光の反射光に基づいて前記物体の形状を計測する3次元計測装置であって、計測された物体形状を特定色の濃淡で示す距離画像を表示するモニタ手段と、前記距離画像の画素毎に前記反射光の受光データの値があらかじめ定められた所定範囲内であるかどうかにより計測値の合否を判定する計測値判定手段とを有し、前記距離画像の表示に際して、前記受光データの値が前記所定範囲外と判定された部分について前記特定色と異なる色で強調表示をするように構成される。
【0020】
請求項の発明の装置は、最新の計測で得られた物体の撮影情報を保持した状態で動作条件の変更操作を受け付け、変更操作に呼応して、新たに指定された動作条件に対応した距離画像を、保持されている前記撮影情報に基づいて生成して表示するプレビュー機能を有している。
【0021】
請求項の発明において、前記パターン光はスリット光である。
【0022】
【発明の実施の形態】
図1は本発明に係る計測システム1の構成図である。
計測システム1は、スリット光投影法によって立体計測を行う3次元カメラ(レンジファインダ)2と、3次元カメラ2の出力データを処理するホスト3とから構成されている。
【0023】
3次元カメラ2は、物体Q上の複数のサンプリング点の3次元位置を特定する計測データ(スリット画像データ)とともに、物体Qのカラー情報を示す2次元画像及びキャリブレーションに必要なデータを出力する。三角測量法を用いてサンプリング点の座標を求める演算処理はホスト3が担う。
【0024】
ホスト3は、CPU3a、ディスプレイ3b、キーボード3c、及びマウス3dなどから構成されたコンピュータシステムである。CPU3aには計測データ処理のためのソフトウェアが組み込まれている。ホスト3と3次元カメラ2との間では、オンライン及び可搬型の記録メディア4によるオフラインの両方の形態のデータ受渡しが可能である。記録メディア4としては、光磁気ディスク(MO)、ミニディスク(MD)、メモリカードなどがある。
【0025】
図2は3次元カメラ2の外観を示す図である。
ハウジング20の前面に投光窓20a及び受光窓20bが設けられている。投光窓20aは受光窓20bの上側にある。内部の光学ユニットOUが射出するスリット光(所定幅wの帯状のレーザビーム)Uは、投光窓20aを通って計測対象の物体(被写体)に向かう。スリット光Uの長さ方向M1の放射角度φは固定である。物体の表面で反射したスリット光Uの一部が受光窓20bを通って光学ユニットOUに入射する。なお、光学ユニットOUは、投光軸と受光軸との相対関係を適正化するための2軸調整機構を備えている。
【0026】
ハウジング20の上面には、ズーミングボタン25a,25b及びレリーズボタン27が設けられている。図2(b)のように、ハウジング20の背面には、液晶ディスプレイ(LCD)21、カーソルボタン22、セレクトボタン23、アンドゥーボタン24、レコードボタン28、アナログ出力端子31,32、デジタル出力端子33、及び記録メディア4の着脱口30aが設けられている。レコードボタン28はフォーカスロックボタンを兼ねる。液晶ディスプレイ21は操作画面の表示手段及び電子ファインダとして用いられる。ユーザー(操作者)は背面の各ボタンを押すことにより撮影モードの設定を行うことができる。アナログ出力端子31からは計測データが出力され、アナログ出力端子31からは2次元画像信号が例えばNTSC形式で出力される。デジタル出力端子33は例えばSCSI端子である。
【0027】
図3は3次元カメラ2の機能構成を示すブロック図である。図中の実線矢印は電気信号の流れを示し、破線矢印は光の流れを示している。
3次元カメラ2は、上述の光学ユニットOUを構成する投光側及び受光側の2つの光学系40,50を有している。光学系40において、半導体レーザ(LD)41が射出する波長690nmのレーザビームは、投光レンズ系42を通過することによってスリット光Uとなり、ガルバノミラー(走査手段)43によって偏向される。半導体レーザ41のドライバ44、投光レンズ系42の駆動系45、及びガルバノミラー43の駆動系46は、システムコントローラ61によって制御される。
【0028】
光学系50において、ズームユニット51によって集光された光はビームスプリッタ52によって分光される。半導体レーザ41の発振波長帯域の光は、計測用のイメージセンサ53に入射する。可視帯域の光はモニタ用のカラーイメージセンサ54に入射する。イメージセンサ53及びカラーイメージセンサ54は、どちらもCCDエリアセンサである。ズームユニット51は内焦型であり、入射光の一部がオートフォーカシング(AF)に利用される。AF機能は、AFセンサ57とレンズコントローラ58とフォーカシング駆動系59によって実現される。ズーミング駆動系60は電動ズーミングのために設けられている。
【0029】
イメージセンサ53による撮像情報は、ドライバ55からのクロックに同期して出力処理回路62へ転送される。出力処理回路62によってイメージセンサ53の各画素毎に対応する計測データDsが生成され、出力処理回路62内のメモリに一旦格納される。一方、カラーイメージセンサ54による撮像情報は、ドライバ56からのクロックに同期してカラー処理回路67へ転送される。カラー処理を受けた撮像情報は、NTSC変換回路70及びアナログ出力端子32を経てオンライン出力され、又はディジタル画像生成部68で量子化されてカラー画像メモリ69に格納される。
【0030】
出力処理回路62は、計測データDsに基づいて計測結果を示す距離画像データD21を生成し、マルチプレクサ72に出力する。マルチプレクサ72は、システムコントローラ61の指示に従って、距離画像データD21及びカラー画像メモリ69からのカラー画像データD22の2つの入力のうちの一方を出力として選択する。マルチプレクサ72によって選択されたデータは、D/A変換器73を経てアナログのモニタ表示信号としてキャラクタジェネレータ71に転送される。キャラクタジェネレータ71は、モニタ表示信号が示す画像とシステムコントローラ61が指定した文字や記号とを合成し、合成画像をLCD21へ出力する。
【0031】
ユーザーがレコードボタン28を操作してデータ出力(録画)を指示すると、出力処理回路62内の計測データDsが、SCSIコントローラ66又はNTSC変換回路65によって所定形式でオンライン出力され、又は記録メディア4に格納される。計測データDsのオンライン出力には、アナログ出力端子31又はディジタル出力端子33が用いられる。また、カラー画像データD22がカラー画像メモリ69からSCSIコントローラ66へ転送され、ディジタル出力端子33からオンライン出力され、又は計測データDsと対応づけて記録メディア4に格納される。カラー画像は、イメージセンサ53による距離画像と同一の画角の像であり、ホスト3側におけるアプリケーション処理に際して参考情報として利用される。カラー情報を利用する処理としては、例えばカメラ視点の異なる複数組の計測データを組み合わせて3次元形状モデルを生成する処理、3次元形状モデルの不要の頂点を間引く処理などがある。
【0032】
システムコントローラ61は、ブザー75を駆動して動作確認音又は警告音を発生させる。また、出力処理回路62に対して、モニタ表示のためのスケール値scを与える。出力処理回路62は、システムコントローラ61に対して、後述する3種の警告信号S11〜13、及び計測データDsの一部である受光データDgを出力する。
【0033】
図4は計測システム1における3次元位置の算出の原理図である。同図では理解を容易にするため、図21及び図22と対応する要素には同一の符号を付してある。
【0034】
イメージセンサ53の撮像面S2上で複数画素分となる比較的に幅の広いスリット光Uを物体Qに照射する。具体的にはスリット光Uの幅を5画素分とする。スリット光Uは、サンプリング周期毎に撮像面S2上で1画素ピッチpvだけ移動するように上から下に向かって偏向され、それによって物体Qが走査される。サンプリング周期毎にイメージセンサ53から1フレーム分の光電変換情報が出力される。
【0035】
撮像面S2の1つの画素gに注目すると、走査中に行うN回のサンプリングのうちの5回のサンプリングにおいて有効な受光データが得られる。これら5回分の受光データに対する補間演算によって注目画素gがにらむ範囲の物体表面agをスリット光Uの光軸が通過するタイミング(時間重心Npeak:注目画素gの受光量が最大となる時刻)を求める。図4(b)の例では、n回目とその1つ前の(n−1)回目の間のタイミングで受光量が最大である。求めたタイミングにおけるスリット光の投射方向と、注目画素gに対するスリット光の入射方向との関係に基づいて、物体Qの位置(座標)を算出する。これにより、撮像面の画素ピッチpvで規定される分解能より高い分解能の計測が可能となる。
【0036】
注目画素gの受光量は物体Qの反射率に依存する。しかし、5回のサンプリングの各受光量の相対比は受光の絶対量に係わらず一定である。つまり、物体色の濃淡は計測精度に影響しない。
【0037】
本実施形態の計測システム1では、3次元カメラ2がイメージセンサ53の画素g毎に5回分の受光データを計測データとしてホスト3に出力し、ホスト3が計測データに基づいて物体Qの座標を算出する。3次元カメラ2における各画素gに対応した計測データの生成は、出力処理回路62が担う。
【0038】
図5は出力処理回路62のブロック図、図6はイメージセンサ53の読出し範囲を示す図である。
出力処理回路62は、クロック信号CKを出力するクロック発生回路620、イメージセンサ53の出力する光電変換信号のレベルを最適化するための増幅器621、クロック信号CKに同期して各画素gの光電変換信号を8ビットの受光データDgに変換するAD変換器622、直列接続された4つのフレームディレイメモリ623〜626、コンパレータ627、フレーム番号(サンプリング番号)FNを指し示すジェネレータ628、マルチプレクサ629、6個のメモリ630A〜F、警告判別回路631、スケール発生回路632、及び画像合成回路633を有している。増幅器621のゲインは可変であり、システムコントローラ61によって適切な値に設定される。4つのフレームディレイメモリ623〜626は、イメージセンサ53の各画素gについて5フレーム分の受光データDgを同時にメモリ630A〜Eに出力するために設けられている。
【0039】
メモリ630A〜Eは、有効な5回分の受光データDgを記憶するために設けられており、それぞれが計測のサンプリング点数(つまり、イメージセンサ53の有効画素数)と同数個の受光データDgを記憶可能な容量をもつ。メモリ630Fは、画素g毎に特定のフレーム番号FNを記憶するために設けられており、サンプリング点数と同数個のフレーム番号FNを記憶可能な容量をもつ。メモリ630B〜Fには、書込み信号としてコンパレータ627の出力信号S627が共通に加えられる。これに対して、メモリ630Aには、出力信号S627とクロック信号CKの2つの信号のうち、マルチプレクサ629によって選択された一方の信号が書込み信号として加えられる。クロック信号CKは予備計測において書込み信号として選択される。つまり、予備計測ではAD変換器622の変換動作と同期してメモリ630Aの書込みが行われる。
【0040】
予備計測に続いて行われる計測(これを本計測と呼称する)において、イメージセンサ53における1フレームの読出しは、撮像面S2の全体ではなく、高速化を図るために図6のように撮像面S2の一部の有効受光エリア(帯状画像)Aeのみを対象に行われる。有効受光エリアAeはスリット光Uの偏向に伴ってフレーム毎に1画素分だけシフトする。本実施形態では、有効受光エリアAeのシフト方向の画素数は32に固定されている。この32画素分の幅が計測対象となる距離範囲(計測可能範囲)に対応する。CCDエリアセンサの撮影像の一部のみを読み出す手法は、特開平7−174536号公報に開示されている。
【0041】
AD変換部622は、1フレーム毎に32ライン分の受光データDgを画素gの配列順にシリアルに出力する。各フレームディレイメモリ623〜626は、31(=32−1)ライン分の容量をもつFIFOである。AD変換部622から出力された注目画素gの受光データDgは、2フレーム分だけ遅延された時点で、コンパレータ626によって、メモリ630Cが記憶する注目画素gについての過去の受光データDgの最大値と比較される。遅延された受光データDg(フレームディレイメモリ624の出力)が過去の最大値より大きい場合に、その時点のAD変換部622の出力及び各フレームディレイメモリ623〜626の出力が、メモリ630A〜Eにそれぞれ格納され、メモリ630A〜Eの記憶内容が書換えられる。これと同時にメモリ630Fには、メモリ630Cに格納する受光データDgに対応したフレーム番号FNが格納される。ただし、ここでのフレーム番号FNは、撮像面S2の全体における通しのライン番号(Y方向の画素番号)ではなく、上述した32画素幅の有効受光エリアAe内でのライン番号であり、0〜31の範囲の値をとる。32ライン分ずつの読出しの順位(すなわち注目画素gのY方向の位置)とフレーム番号FNとにより、撮像面S2の全体におけるライン番号を特定することができる。
【0042】
n番目のラインで注目画素gの受光量が最大になった場合には、メモリ630Aに(n+2)番目のラインのデータが格納され、メモリ630Bに(n+1)番目のフレームのデータが格納され、メモリ630Cにn番目のフレームのデータが格納され、メモリ630Dに(n−1)番目のフレームのデータが格納され、メモリ630Eに(n−2)番目のフレームのデータが格納され、メモリ630Fにnが格納される。本計測の結果としてホスト3へ送られる上述の計測データDsは、メモリ630A〜Eに格納された受光データDgとメモリ630Fに格納されたフレーム番号FNとを合わせたデータである。
【0043】
警告判別回路631、スケール発生回路632、及び画像合成回路633は、計測結果のモニタ表示のための回路である。警告判別回路631には、メモリ630Cからの受光データDg、メモリ630Fからのフレーム番号FN、及びシステムコントローラ61からのスケール値scが入力される。警告判別回路631は、3種の入力の値の組合せに応じて、計測結果である3次元形状を無彩色の濃淡(グレースケール)で表した距離画像データD21と、3種の警告信号S11〜13を出力する。距離画像データD21は、具体的には、画像の各画素の表示色を規定するR,G,Bの3色の輝度データである。スケール発生回路632は、距離画像の濃淡と対物間距離との関係を示す帯状のグラデーション画像(スケールバー)90を生成する。画像合成回路633は、距離画像データD21にスケールバー90の表示データを組み入れる。
【0044】
図7は警告判別回路631のブロック図、図8は警告判別回路631の入力と出力との関係を表形式で示す図である。
警告判別回路631は、2個のコンパレータ6311,6312とルックアップテーブル(LUT)6313とから構成されている。コンパレータ6311,6312には、メモリ630Cから有効画素数の受光データDgが画素毎にシリアルに入力される。一方のコンパレータ6311は、注目画素の最大受光量を示す受光データDgの値が許容受光量の下限値である閾値thBより小さいときに、低輝度検出信号SLを出力する。他方のコンパレータ6312は、受光データDgの値が許容受光量の上限値である閾値thAを越えたときに、オーバーフロー警告信号S13を出力する。LUT6313は、フレーム番号FN、スケール値sc、低輝度検出信号SL、及びオーバーフロー警告信号S13の値の組合せに応じて、距離画像データD21、近接警告信号S11、及び遠方警告信号S12を出力する。
【0045】
スケール値scは、有効受光エリアAeの幅で規定される計測可能範囲内の計測基準面の位置を示し、0〜31の値をとる。スケール値scのデフォルト値は16である。なお、本計測では、計測基準面の位置をほぼ中央とする計測可能範囲が設定される。フレーム番号FNは、計測可能範囲内における物体位置(厳密には注目画素に対応したサンプリング点の位置)を示す。基本的には距離画像データD21は、このフレーム番号FNをそのままグレースケール変換したデータである。すなわち、グレースケールにおけるR,G,Bの輝度Yr,Yg,Ybは8×(FN−sc+16)である。ただし、本実施形態においては、計測結果の良否を視覚的に容易に理解できるように、特定の画素についてカラー表示による強調が行われる。
【0046】
図8のように、低輝度検出信号SLがアクティブ(オン)であれば、その画素の表示色はブラックである。つまり、表示画面のうち、物体の反射率が極端に小さい画素及び計測可能範囲外の画素はブラックで表示される。オーバーフロー警告信号S13がオンであれば、正確に時間重心Npeakを算出することができないことをユーザーに知らせるため、その画素はレッドで表示される。計測基準面と物体との位置関係の理解を助けるため、フレーム番号FNがスケール値scと等しい画素はシアンで表示される。そして、計測可能範囲の近接側の端縁に対応した画像がグリーンで表示され、遠方側の端縁に対応した画像はブルーで表示される。このような色分け表示により、ユーザーは物体の所望部分が正しく計測されているかを容易に確認することができる。
【0047】
次に、3次元カメラ2及びホスト3の動作を計測の手順と合わせて説明する。以下では、計測のサンプリング点数を244×256とする。すなわち、実質的なフレーム数Nは244であり、撮像面S2におけるスリット長さ方向の画素数は256である。
【0048】
ユーザーは、LCD21が表示するカラー画像を見ながら、カメラ位置と向きとを決めて画角を設定する。その際、必要に応じてズーミング操作を行う。3次元カメラ2ではカラーセンサ54に対する絞り調整は行われず、電子シャッタ機能により露出制御されたカラーモニタ像が表示される。これは、絞りを開放状態とすることによってイメージセンサ53の入射光量をできるだけ多くするためである。
【0049】
図9は3次元カメラ2におけるデータの流れを示す図、図10はホスト3におけるデータの流れを示す図、図11は光学系の各点と物体Qとの位置関係を示す図である。
【0050】
ユーザーによる画角選択操作(ズーミング)に応じて、ズームユニット51のバリエータ部が移動するとともにフォーカシング部の移動によるフォーカシングが行われる。フォーカシングの過程でおおよその対物間距離d0 が測定される。このような受光系のレンズ駆動に呼応して、投光側のバリエータレンズの移動量が演算により算出され、算出結果に基づいてバリエータレンズの移動制御が行われる。投光側のレンズ制御は、撮影距離及び画角に係わらず、イメージセンサ53に5画素分の幅のスリット光Uを入射させるためのものである。
【0051】
システムコントローラ61は、レンズコントローラ58を介して、フォーカシング駆動系59のエンコーダ出力(繰り出し量Ed)及びズーミング駆動系60のエンコーダ出力(ズーム刻み値fp)を読み込む。システムコントローラ61の内部において、歪曲収差テーブルT1、主点位置テーブルT2、及び像距離テーブルT3が参照され、繰り出し量Ed及びズーム刻み値fpに対応した撮影条件データがホスト3へ出力される。ここでの撮影条件データは、歪曲収差パラメータ(レンズ歪み補正係数d1,d2)、前側主点位置FH、及び像距離bである。前側主点位置FHは、ズームユニット51の前側端点Fと前側主点Hとの距離で表される〔図22(c)参照〕。前側端点Fは固定であるので、前側主点位置FHにより前側主点Hを特定することができる。
【0052】
また、システムコントローラ61は、特定の方向にスリット光Uを投射して計測環境を測定する予備計測を実行し、予備計測で得られた撮影情報に基づいて三角測量法により対物間距離dを求め、その対物間距離dに基づいて、繰り出し量Edを再設定するとともにレンズ駆動を行い、本計測の動作設定をする。設定項目には、半導体レーザ41の出力(レーザ光強度)、スリット光Uの偏向条件(投射開始角、投射終了角、偏向角速度)などがある。
【0053】
予備計測に際しては、おおよその対物間距離d0 に平面物体が存在するものとして、撮像面S2の中央に反射光が入射するように投射角を設定する。半導体レーザ41をパルス点灯して受光量を測定し、受光量が適正になるように投射強度を調整する。このとき、人体への安全と半導体レーザ41の定格とを考慮した許容上限値に投射強度を設定しても必要な受光量が得られない場合には、計測を中止し、その旨の警告メッセージを表示するとともに警告音を発する。対物間距離dの算定においては、測距基準点である受光系の前側主点Hと投光の起点AとのZ方向のオフセットdoffを考慮する。偏向条件の算定に際しては、走査方向の端部においても中央部と同様の計測可能範囲d’を確保するため、所定量(例えば8画素分)のオーバースキャンを行うようにする。投射開始角th1、投射終了角th2、偏向角速度ωは、次式で表される。
Figure 0003893169
β:撮像倍率(=d/実効焦点距離Freal)
pv:画素ピッチ
np:撮像面S2のY方向の有効画素数
L:基線長
このようにして算出された条件で本計測が行われる。物体Qが走査され、出力処理回路52によって1画素当たり5フレーム分の計測データDsが生成される。そして、上述したように距離画像のモニタ表示が行われる。3次元カメラ2は、再計測の便宜を図るためのプレビュー機能(詳細は後述)を有している。ユーザーはモニタ表示を見た上で、必要に応じて再計測を指示する。再計測モードにおいてユーザーが計測条件を変更すると、新たな計測条件に対応した仮想の距離画像が前回の計測時の計測データDsに基づいて生成され、プレビュー画像として表示される。条件変更操作に呼応してプレビュー画像がリアルタイムで表示されるので、ユーザーは計測条件の最適化を効率的に進めることができる。ユーザーが条件変更の終了を入力すると、再計測が行われて新たな計測データDsが生成される。
【0054】
ユーザーがレコードボタン28をオンすると、計測データDsがホスト3へ送られる。同時に、偏向条件(偏向制御データD43)及びイメージセンサ53の仕様などを示す装置情報D10も、ホスト3へ送られる。表1は3次元カメラ2がホスト3へ送る主なデータをまとめたものである。
【0055】
【表1】
Figure 0003893169
【0056】
投射開始角th1及び投射終了角th2の設定に際して、上述の式に代えて次の式を適用すれば、測定可能距離範囲を光軸方向にシフトさせることができる。
Figure 0003893169
pitchoff:測定可能距離範囲のシフト量
後述のように対物間距離の算定の基準位置を物体の近接位置(3次元カメラ2側)に設定し、その前後に計測可能範囲d’を設定すると、前側(3次元カメラ2側)の計測可能範囲が無駄になることが多い。したがって、シフト量pitchoffを設定して、前側25%、後側75%の割合になるように計測可能範囲d’を後側へシフトさせるのが望ましい。
【0057】
本実施形態のように有効受光エリアAeが32画素幅である場合(つまり、CCDエリアセンサが32ラインの読出し幅をもつ場合)、シフト量pitchoffを「8」とすれば、上述の割合の計測可能範囲が設定される。
【0058】
図10のように、ホスト3においては、スリット重心演算、歪曲収差の補正演算、カメラ視線方程式の演算、スリット面方程式の演算、及び3次元位置演算が実行され、それによって244×256個のサンプリング点の3次元位置(座標X,Y,Z)が算定される。サンプリング点はカメラ視線(サンプリング点と前側主点Hとを結ぶ直線)とスリット面(サンプリング点を照射するスリット光Uの光軸面)との交点である。
【0059】
スリット光Uの時間重心Npeak(図4参照)は、各サンプリング時の受光データDg(i)を用いて(4)式で与えられる。
Figure 0003893169
5つの受光データの内の最小のデータminDg(i)を差し引いて加重平均を求めることにより、環境光の影響を軽減することができる。
【0060】
カメラ視線方程式は(5)式及び(6)式である。
(u−u0)=(xp)=(b/pu)×〔X/(Z−FH)〕 …(5)
(v−v0)=(yp)=(b/pv)×〔Y/(Z−FH)〕 …(6)
b:像距離
FH:前側主点位置
pu:撮像面における水平方向の画素ピッチ
pv:撮像面における垂直方向の画素ピッチ
u:撮像面における水平方向の画素位置
u0:撮像面における水平方向の中心画素位置
v:撮像面における垂直方向の画素位置
v0:撮像面における垂直方向の中心画素位置
スリット面方程式は(7)式である。
【0061】
【数1】
Figure 0003893169
【0062】
幾何収差は画角に依存する。歪はほぼ中心画素を中心として対象に生じる。したがって、歪み量は中心画素からの距離の関数で表される。ここでは、距離の3次関数で近似する。2次の補正係数をd1、3次の補正係数をd2とする。補正後の画素位置u’,v’は(8)式及び(9)式で与えられる。
【0063】
Figure 0003893169
上述の(5)式及び(6)式において、uに代えてu’を代入し、vに代えてv’を代入することにより、歪曲収差を考慮した3次元位置を求めることができる。なお、キャリブレーションについては、電子情報通信学会研究会資料PRU91-113[カメラの位置決めのいらない画像の幾何学的補正]小野寺・金谷、電子情報通信学会論文誌D-II vol. J74-D-II No.9 pp.1227-1235,'91/9 [光学系の3次元モデルに基づくレンジファインダの高精度キャリブレーション法]植芝・吉見・大島、などに詳しい開示がある。
【0064】
図12はプレビュー機能を説明するための計測例を示す図、図13は計測条件の変更例を示す図、図14は図13に対応したモニタ表示の内容を示す図である。
【0065】
ここでは、計測対象の物体Qを鳥の置物とし、鳥の顔面に対する真正面の位置から計測を行うものとする。図12のように、鳥の胴の前面側に高輝度部分qが存在する。図13(a)は最初の計測時の計測可能範囲d’の設定状態を示し、図13(b)は再計測時の計測可能範囲d’の設定状態を示している。図14(a)は図13(a)に対応し、図14(b)は図13(b)に対応する。
【0066】
最初の計測が終了した段階で、LCD21の画面には距離画像G1、スケールバー90、計測基準位置e1の対物間距離(単位はmm)を表す数値z1、計測可能範囲d’の両端縁e2,e3の対物間距離を表す数値z2,z3、スケールバー90における計測基準位置e1に対応した表示輝度を示す矢印Z4、及び投射光強度の設定値を表す数値z5が表示される。なお、実際には、図14(a)及び(b)中の斜線部分はブラックで表示され、白抜き部分は図8で説明したように計測値に応じた濃度(明暗)の無彩色で表示される。通常、白抜き部分の全域が同一濃度となることはほとんどない。
【0067】
図13(a)においては、計測基準位置e1が鳥の頭の中央付近に設定されており、くちばしの先端が計測可能範囲d’より近接側にはみ出ている。このことは、図14(a)の距離画像G1において、計測可能範囲d’の近接側端縁e2に対応したグリーンの部分(連続的又は断続的な線状の画素群)E2が存在することから判る。また、距離画像G1は、遠方側端縁e3に対応したブルーの部分E3と、高輝度部分qに対応したレッドの部分Eqとを含んでいる。
【0068】
ここで、ユーザーが図13(b)のように計測可能範囲d’を以前より近接側にシフトしたとする。操作としては、下向きのカーソルボタン22(図2参照)を必要回数だけ押せばよい。カーソルボタン22を押す毎に、矢印z4は表示画面の下方側に移動し、数値Z1が更新される。そして、この条件変更操作に呼応してモニタ画像がリアルタイムで書換えられる。図13(b)の状態では、くちばしの全体が計測可能範囲d’の内側に入っている。このことは、図14(b)のプレビュー画像G1’の中に近接警告を意味するグリーンの部分がないことから判る。なお、プレビュー画像G1’は前回の計測データDgに基づいて生成されるので、距離画像G1で欠けているくちばしは実際には計測されていないことから、プレビュー画像G1’においてその部分はブラックで表示される。また、計測可能範囲d’の変更に伴って、新たに計測可能範囲外となった部分もブラックで表示される。
【0069】
図15は3次元カメラ2の計測動作のフローチャートである。
フォーカスロック操作に呼応してアクティブ形式の予備撮影を行う(#11、12)。測定した対物間距離dが仕様で定められた撮影距離範囲から外れている場合には、エラー処理を実行する(#13、23)。エラー処理では、LCD21により所定のメッセージを表示するとともにブザー75を鳴らす。対物間距離dが撮影距離範囲内であれば、その後のレリーズ操作に呼応して計測データDsを得るための撮影処理を行う(#14、15)。一方、フォーカスロック操作が行われずにレリーズ操作が行われた場合も、予備撮影を行って対物間距離dの適否を判断する(#20〜22)。対物間距離d及び受光光量が適正であれば撮影処理に進み、不適正であればエラー処置を行う(#15、23)。
【0070】
撮影が終了した後、アンドゥー操作が行われた場合は、再計測処理を実行する(#16、19)。レコード操作が行われた場合は、計測データDsをホスト3又は記憶媒体4へ出力する録画処理を実行する(#17、18)。撮影処理ルーチン(#15)で図14(a)の表示が行われており、操作者は測定できなかった部分を確認して、その撮影結果を採用するか、再計測を行うかを選択できる。
【0071】
図16は予備撮影のフローチャートである。
AFセンサ57の出力に基づいて投射方向を定め(#121)、スリット光Uを投射する(#122)。メモリ630Aから撮像面S2全体に対応するモノクロ画像を取り込み(#123)、撮像面S2におけるスリット光Uの受光光量及び入射位置を検出する(#124)。そして、三角測量法により対物間距離dを求める(#125)。
【0072】
図17は撮影のフローチャートである。
対物間距離dに応じて投射角範囲を設定し(#151)、スキャンニングを行う(#152)。スキャンニングで得られた距離画像のモニタ表示を行い(#153)、出力処理回路62による警告信号の出力の有無をチェックする(#154)。近接警告信号S11、遠方警告信号S12、オーバーフロー警告信号S13のいずれかが出力された場合には、出力された警告に応じたメッセージ表示を行い、ブザー75を鳴らす(#155、156)。予備撮影では時間を短縮するために撮影像の一部分(例えば中央部)について適否判別を行っている。そのため、その部分以外について本撮影でエラーの検出されることがある。
【0073】
図18は再計測処理のフローチャートである。
投射光量設定を行い(#191)、その後のセレクト操作を受けて図15のフローへリターンする(#192)。セレクトボタン23が押される以前に、上向き又は下向きのカーソルボタン22が押されると、モニタ表示の矢印z4を上方又は下方へ移動させる(#193、194、198、199)。
【0074】
移動後の矢印z4の位置に対応した対物間距離dを算出し、数値z1の表示を更新する(#197)。スケール値scも矢印z4の位置に対応した値に更新し(#198)、プレビュー画像を表示する(#199)。操作者は、このプレビュー画像によって、設定変更後の撮影結果を予測しながら設定変更を行うことができる。セレクトボタン28が押されると、そのときの設定が記憶されたままリターンする。その後、#14でレリーズ操作があると上述の設定条件で撮影が行われる。
【0075】
図19はガルバノミラー43とイメージセンサ53との同期制御の一例を示すタイムチャート、図20はガルバノミラー43とイメージセンサ53との同期制御の他の例を示すタイムチャートである。これらの図において符合の添字「t」はテレ状態の値であることを示し、「w」はワイドテレ状態の値であることを示している。
【0076】
3次元カメラ2では、ズーム倍率によって画角を偏向するので、図19のように低倍率時の偏向角θwは高倍率時の偏向角θtとりも大きい。システムコントローラ61は、レリーズボタン27からのレリーズ信号S27を検知すると、まず、ガルバノミラー43の回転を開始してから撮像を開始するまでの期間T2、すなわち停止位置から所定の角度位置までガルバノミラー43を回転させるのに必要な時間を、ズーム倍率及び対物間距離に基づいて算出する。このとき、期間T2における偏向角速度を、センサ駆動期間Tsにおける角速度ωと同じ値に設定する。角速度ωを安定させるためである。期間T2の算出を終えた後、ガルバノミラー43の回転駆動を開始し、期間T2の経過後にイメージセンサ53の駆動を開始する。
【0077】
このようにシステムコントローラ61がガルバノミラー43及びイメージセンサ53の両方を直接に制御する形態では、駆動のタイミングを正確に合わせるために、システムコントローラ61に高速の処理が要求される。一方、専用のハードウェア又は市販のビデオ用タイミングジェネレータをセンサ駆動に用いることにより、システムコントローラ61をガルバノミラー43の制御に専念させて、制御の負担を軽減することも可能である。
【0078】
すなわち、図20において、ドライバ55(図3参照)は、レリーズ信号S27をビデオ同期信号Vsyncの立上がりエッジで正規化し、レリーズ検知信号S27’を生成する。また、ドライバ55は、レリーズ検知信号S27’の立上がりから一定時間T0’が経過した時点でセンサ駆動を開始する。レリーズ検知信号S27’はシステムコントローラ61に割込み信号として入力される。システムコントローラ61は、レリーズ動作に先立って、上述の期間T2とともに、レリーズ検知信号S27’の立上がりからミラーの回転を開始するまでの時間T1’(=T0’−T2)を計算しておく。そして、レリーズ検知信号S27’の割込みを受け付けると、その時点から時間T1’が経過した時点でガルバノミラーの回転を開始する。
【0079】
以上の実施形態によれば、予備撮影時に警告が行われるので、操作者は本撮影を実行させずに条件の再設定を行うことができ、計測作業を効率良く進めることができる。
【0080】
上述の実施形態においては、光切断法による計測を例に挙げたが、計測の方法は光切断法に限られるこのではなく、例えばパターン投影法であってもよい。パターン投影法では、パターンの投影方向と受光視野との関係で測定可能距離範囲が決まる。また、光切断法と同様に対象物体の反射率によっては、パターンの反射光が検出できなかったり、受光系がオーバーフローを起こしたりすることがある。そのような場合に警告するように構成すればよい。
【0081】
【発明の効果】
請求項1乃至請求項の発明によれば、ユーザーは計測条件の適否を計測の前又は後に確認して適切な操作を行うことができる。また、ユーザーは計測結果の良否を容易に判断することができる。
【0084】
請求項の発明によれば、ユーザーは動作条件の指定作業を効率的に進めることができる。
【図面の簡単な説明】
【図1】本発明に係る計測システムの構成図である。
【図2】3次元カメラの外観を示す図である。
【図3】3次元カメラの機能構成を示すブロック図である。
【図4】計測システムにおける3次元位置の算出の原理図である。
【図5】出力処理回路のブロック図である。
【図6】イメージセンサの読出し範囲を示す図である。
【図7】警告判別回路のブロック図である。
【図8】警告判別回路の入力と出力との関係を表形式で示す図である。
【図9】3次元カメラにおけるデータの流れを示す図である。
【図10】ホストにおけるデータの流れを示す図である。
【図11】光学系の各点と物体との位置関係を示す図である。
【図12】プレビュー機能を説明するための計測例を示す図である。
【図13】計測条件の変更例を示す図である。
【図14】図13に対応したモニタ表示の内容を示す図である。
【図15】3次元カメラ2の計測動作のフローチャートである。
【図16】予備撮影のフローチャートである。
【図17】撮影のフローチャートである。
【図18】再計測処理のフローチャートである。
【図19】ガルバノミラーとイメージセンサとの同期制御の一例を示すタイムチャートである。
【図20】ガルバノミラーとイメージセンサとの同期制御の他の例を示すタイムチャートである。
【図21】スリット光投影法の概要を示す図である。
【図22】スリット光投影法による計測の原理を説明するための図である。
【符号の説明】
2 3次元カメラ(3次元計測装置)
40 光学系(投光手段)
53 イメージセンサ(撮像手段)
61 システムコントローラ
Dg 受光データ(受光量)
Ds 計測データ(撮影情報)
Q 物体
U スリット光(検出光)
631 警告判別回路(条件判別手段)

Claims (3)

  1. 物体にパターン光を投射し、前記物体で反射した前記パターン光の反射光に基づいて前記物体の形状を計測する3次元計測装置であって、
    計測された物体形状を特定色の濃淡で示す距離画像を表示するモニタ手段と、
    前記距離画像の画素毎に前記反射光の受光データの値があらかじめ定められた所定範囲内であるかどうかにより計測値の合否を判定する計測値判定手段とを有し、
    前記距離画像の表示に際して、前記受光データの値が前記所定範囲外と判定された部分について前記特定色と異なる色で強調表示をするように構成された
    ことを特徴とする3次元計測装置。
  2. 最新の計測で得られた物体の撮影情報を保持した状態で動作条件の変更操作を受け付け、変更操作に呼応して、新たに指定された動作条件に対応した距離画像を、保持されている前記撮影情報に基づいて生成して表示するプレビュー機能を有した
    請求項1記載の3次元計測装置。
  3. 前記パターン光はスリット光である
    請求項1又は請求項2に記載の3次元計測装置。
JP15706996A 1995-11-17 1996-06-18 3次元計測装置 Expired - Fee Related JP3893169B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP15706996A JP3893169B2 (ja) 1996-06-18 1996-06-18 3次元計測装置
US08/748,325 US6141105A (en) 1995-11-17 1996-11-13 Three-dimensional measuring device and three-dimensional measuring method
US09/676,767 US6529280B1 (en) 1995-11-17 2000-10-02 Three-dimensional measuring device and three-dimensional measuring method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP15706996A JP3893169B2 (ja) 1996-06-18 1996-06-18 3次元計測装置

Publications (2)

Publication Number Publication Date
JPH102712A JPH102712A (ja) 1998-01-06
JP3893169B2 true JP3893169B2 (ja) 2007-03-14

Family

ID=15641559

Family Applications (1)

Application Number Title Priority Date Filing Date
JP15706996A Expired - Fee Related JP3893169B2 (ja) 1995-11-17 1996-06-18 3次元計測装置

Country Status (1)

Country Link
JP (1) JP3893169B2 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000339468A (ja) 1999-05-31 2000-12-08 Minolta Co Ltd 3次元データの位置合わせ方法及び装置
JP2003269935A (ja) * 2002-03-18 2003-09-25 Hamano Engineering:Kk 3次元面形状の測定方法、3次元面形状の測定装置、コンピュータプログラム、及びコンピュータプログラム記録媒体
JP4111166B2 (ja) 2004-05-07 2008-07-02 コニカミノルタセンシング株式会社 3次元形状入力装置
JP4052323B2 (ja) 2005-06-22 2008-02-27 コニカミノルタセンシング株式会社 3次元測定システム
JP2009192332A (ja) * 2008-02-13 2009-08-27 Konica Minolta Sensing Inc 3次元処理装置における3次元データの表示制御方法および3次元処理装置
JP5297727B2 (ja) * 2008-09-04 2013-09-25 トヨタ自動車株式会社 ロボット装置及び物体の位置姿勢推定方法
US8855404B2 (en) * 2012-08-27 2014-10-07 The Boeing Company Methods and systems for inspecting a workpiece
JP6004851B2 (ja) * 2012-09-11 2016-10-12 株式会社キーエンス 形状測定装置、形状測定方法および形状測定プログラム
JP6112807B2 (ja) * 2012-09-11 2017-04-12 株式会社キーエンス 形状測定装置、形状測定方法および形状測定プログラム
JP6207282B2 (ja) * 2013-07-31 2017-10-04 株式会社キーエンス 画像処理装置、画像処理システム、検査方法およびプログラム
CN103697815B (zh) * 2014-01-15 2017-03-01 西安电子科技大学 基于相位编码的混频结构光三维信息获取方法
JP6161775B2 (ja) * 2016-09-06 2017-07-12 株式会社キーエンス 形状測定装置、形状測定方法および形状測定プログラム
JP6476252B2 (ja) * 2017-08-31 2019-02-27 株式会社キーエンス 形状測定装置、形状測定方法および形状測定プログラム
CN112288810B (zh) * 2020-10-29 2023-04-07 铜陵有色金属集团股份有限公司 采样定位方法、装置、系统及计算机存储介质

Also Published As

Publication number Publication date
JPH102712A (ja) 1998-01-06

Similar Documents

Publication Publication Date Title
JP4111166B2 (ja) 3次元形状入力装置
JP4032603B2 (ja) 3次元計測装置
JP3873401B2 (ja) 3次元計測システム
JP4111592B2 (ja) 3次元入力装置
US6141105A (en) Three-dimensional measuring device and three-dimensional measuring method
US7046838B1 (en) Three-dimensional data input method and apparatus
JP3893169B2 (ja) 3次元計測装置
US6172755B1 (en) Three dimensional measurement system and pickup apparatus
JP4306006B2 (ja) 3次元データ入力方法及び装置
JP3493403B2 (ja) 3次元計測装置
JP4186347B2 (ja) 3次元入力方法及び装置
JP3235485B2 (ja) 3次元計測のための分光装置
JPH10124646A (ja) 3次元計測装置
JP4221808B2 (ja) 3次元データ入力方法及び装置
JP2009092409A (ja) 3次元形状測定装置
US7492398B1 (en) Three-dimensional input apparatus and image sensing control method
JP2001280917A (ja) 3次元計測装置
JP3360505B2 (ja) 3次元計測方法及び装置
JP3733625B2 (ja) 3次元計測のための撮像装置
JP3324367B2 (ja) 3次元入力カメラ
JP3861475B2 (ja) 3次元入力装置
JP2000292121A (ja) 3次元計測方法及び3次元入力装置
JP3740848B2 (ja) 3次元入力装置
JP2000275024A (ja) 3次元入力装置
JP3196614B2 (ja) 3次元計測装置

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20031125

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20031216

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040212

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20040304

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20040405

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20040423

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20061031

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20061211

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101215

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101215

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111215

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111215

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121215

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131215

Year of fee payment: 7

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees