JP4391643B2 - 3次元画像入力装置 - Google Patents
3次元画像入力装置 Download PDFInfo
- Publication number
- JP4391643B2 JP4391643B2 JP33267799A JP33267799A JP4391643B2 JP 4391643 B2 JP4391643 B2 JP 4391643B2 JP 33267799 A JP33267799 A JP 33267799A JP 33267799 A JP33267799 A JP 33267799A JP 4391643 B2 JP4391643 B2 JP 4391643B2
- Authority
- JP
- Japan
- Prior art keywords
- light
- distance
- signal charge
- reflected light
- distance information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/06—Systems determining position data of a target
- G01S17/08—Systems determining position data of a target for measuring distance only
- G01S17/10—Systems determining position data of a target for measuring distance only using transmission of interrupted, pulse-modulated waves
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
- G01S17/894—3D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/483—Details of pulse systems
- G01S7/486—Receivers
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/483—Details of pulse systems
- G01S7/486—Receivers
- G01S7/4861—Circuits for detection, sampling, integration or read-out
- G01S7/4863—Detector arrays, e.g. charge-transfer gates
Description
【発明の属する技術分野】
本発明は、光伝播時間測定法を用いて被計測物体の3次元形状等を検出する3次元画像入力装置に関する。
【0002】
【従来の技術】
従来3次元画像入力装置による3次元計測は、光、電波あるいは音を被計測物体に照射する能動方式と、光等を照射しない受動方式とに分類される。能動方式には、光伝播時間測定法、変調した光波を用いる位相差測定法、三角測量法、モアレ法、干渉法等が知られており、受動方式には、ステレオ視法、レンズ焦点法等が知られている。
【0003】
能動方式は受動方式に比べ、レーザ光等を照射するための機構が必要なために装置の規模が大きくなるが、距離分解能、計測時間、計測空間範囲等の点において優れており、産業応用分野において広く用いられてきている。「Measurement Science and Technology」(S. Christie 他、vol.6, p1301-1308, 1995 年)に記載された3次元画像入力装置では、パルス変調されたレーザ光が被計測物体に照射され、その反射光がイメージインテンシファイアが取付けられた2次元CCDセンサによって受光され、電気信号に変換される。イメージインテンシファイアはレーザ光のパルス発光に同期したゲートパルスによってシャッタ制御される。この構成によれば、遠い被計測物体からの反射光による受光量は近い被計測物体からの反射光による受光量に比べて小さいので、被計測物体の距離に応じた出力がCCDの各フォトダイオード毎に得られる。
【0004】
【発明が解決しようとする課題】
このような従来の3次元画像入力装置において、測距精度を向上させるために種々の補正情報を検出することがあるが、その補正情報の検出動作によって、測距動作全体の処理時間が長くなるという問題が生じる。
【0005】
本発明は、被計測物体の3次元形状を検出する測距動作全体の処理時間を短縮することを目的としている。
【0006】
【課題を解決するための手段】
本発明の3次元画像入力装置は、被計測物体に対してパルス状の測距光を照射する光源と、測距光によって被計測物体において生じたパルス状の反射光のうち、パルスの立ち下がり部分を含む、被計測物体までの距離に応じた第1の反射光成分(E1 )を検出する第1の距離情報検出手段と、測距光によって前記被計測物体において生じたパルス状の反射光のうち、パルスの立ち上がり部分を含む、被計測物体までの距離に応じた第2の反射光成分(E2 )を検出する第2の距離情報検出手段と、第1の反射光成分(E1 )を第1および第2の反射光成分の和(E1 +E2 )で割って得られる比(E1 )/(E1 +E2 )を、被計測物体までの距離に対応した正規化距離情報として求める正規化距離情報演算手段とを備え、第1および第2の距離情報検出手段において、第1および第2の反射光成分を検出するための反射光検知期間の長さが同一であることを特徴としている。
【0007】
3次元画像入力装置は好ましくは、光源を消灯させた状態で、反射光検出期間と同じ長さである外光検知期間の間、被計測物体の周囲の外光成分である入射光を検出する外光検出手段を備えており、正規化距離情報演算手段が、第1および第2の反射光成分からそれぞれ外光成分を除去したものに関して前記比を演算し、正規化距離情報を求める。この場合、外光検出手段の検出動作が、第1の距離情報検出手段の検出動作と第2の距離情報検出手段の検出動作の間に行なわれることが好ましい。これにより、外光成分の検出時期が第1の反射光成分(E1 )と第2の反射光成分(E2 )の各検出時期に近づき、正規化距離情報の精度が向上する。
【0008】
好ましくは、第1および第2の距離情報検出手段はそれぞれ、反射光成分の受光量に応じた電荷が蓄積する複数の光電変換素子と、光電変換素子に隣接して設けられた信号電荷保持部と、光電変換素子に蓄積した不要電荷を光電変換素子から掃出すことにより、光電変換素子における信号電荷の蓄積動作を開始させる蓄積電荷掃出手段と、光電変換素子に蓄積した信号電荷を信号電荷保持部に転送する信号電荷転送手段と、蓄積電荷掃出手段と信号電荷転送手段とを交互に駆動し、信号電荷保持部において信号電荷を積分することにより、被計測物体の表面上の各点までの距離情報を検出する信号電荷積分手段とを備える。
【0009】
外光検出手段が、第1および第2の距離情報検出手段と同様に、複数の光電変換素子と、信号電荷保持部と、蓄積電荷掃出手段と、信号電荷転送手段と、信号電荷積分手段とを備えてもよい。
【0010】
【発明の実施の形態】
以下、本発明の実施の形態を図面を参照して説明する。
図1は本発明の一実施形態である3次元画像入力装置を備えたカメラの斜視図である。
【0011】
カメラ本体10の前面において、撮影レンズ11の左上にはファインダ窓12が設けられ、右上にはストロボ13が設けられている。カメラ本体10の上面において、撮影レンズ11の真上には、測距光であるレーザ光を照射する発光装置(光源)14が配設されている。発光装置14の左側にはレリーズスイッチ15と液晶表示パネル16が設けられ、また右側にはモード切替ダイヤル17とV/Dモード切替スイッチ18が設けられている。カメラ本体10の側面には、ICメモリカード等の記録媒体を挿入するためのカード挿入口19が形成され、またビデオ出力端子20とインターフェースコネクタ21が設けられている。
【0012】
図2は図1に示すカメラの回路構成を示すブロック図である。
撮影レンズ11の中には絞り25が設けられている。絞り25の開度はアイリス駆動回路26によって調整される。撮影レンズ11の焦点調節動作およびズーミング動作はレンズ駆動回路27によって制御される。
【0013】
撮影レンズ11の光軸上には撮像素子(CCD)28が配設されている。CCD28には、撮影レンズ11によって被写体像が形成され、被写体像に対応した電荷が発生する。CCD28における電荷の蓄積動作、電荷の読出動作等の動作はCCD駆動回路30によって制御される。CCD28から読み出された電荷信号すなわち画像信号はアンプ31において増幅され、A/D変換器32においてアナログ信号からデジタル信号に変換される。デジタルの画像信号は撮像信号処理回路33においてガンマ補正等の処理を施され、画像メモリ34に一時的に格納される。アイリス駆動回路26、レンズ駆動回路27、CCD駆動回路30、撮像信号処理回路33はシステムコントロール回路35によって制御される。
【0014】
画像信号は画像メモリ34から読み出され、LCD駆動回路36に供給される。LCD駆動回路36は画像信号に応じて動作し、これにより画像表示LCDパネル37には、画像信号に対応した画像が表示される。
【0015】
また画像メモリ34から読み出された画像信号はTV信号エンコーダ38に送られ、ビデオ出力端子20を介して、カメラ本体10の外部に設けられたモニタ装置39に伝送可能である。システムコントロール回路35はインターフェース回路40に接続され、インターフェース回路40はインターフェースコネクタ21に接続されている。したがって画像メモリ34から読み出された画像信号は、インターフェースコネクタ21に接続されたコンピュータ41に伝送可能である。またシステムコントロール回路35は、記録媒体制御回路42を介して画像記録装置43に接続されている。したがって画像メモリ34から読み出された画像信号は、画像記録装置43に装着されたICメモリカード等の記録媒体Mに記録可能である。
【0016】
システムコントロール回路35には、発光素子制御回路44が接続されている。発光装置14には発光素子14aと照明レンズ14bが設けられ、発光素子14aの発光動作は発光素子制御回路44によって制御される。発光素子14aは測距光であるレーザ光を照射するものであり、このレーザ光は照明レンズ14bを介して被計測物体の全体に照射される。被計測物体において反射した光は撮影レンズ11に入射する。この光をCCD28によって検出することにより、後述するように被計測物体の3次元画像が計測される。なお、この計測において、CCD28における転送動作のタイミング等の制御はシステムコントロール回路35とCCD駆動回路30によって行なわれる。
【0017】
システムコントロール回路35には、レリーズスイッチ15、モード切替ダイヤル17、V/Dモード切替スイッチ18から成るスイッチ群45と、液晶表示パネル(表示素子)16とが接続されている。
【0018】
図3および図4を参照して、本実施形態における距離測定の原理を説明する。なお図4において横軸は時間tである。
【0019】
距離測定装置Bから出力された測距光は被計測物体Sにおいて反射し、図示しないCCDによって受光される。測距光は所定のパルス幅Hを有するパルス状の光であり、したがって被計測物体Sからの反射光も、同じパルス幅Hを有するパルス状の光である。また反射光のパルスの立ち下がりは、測距光のパルスの立ち下がりよりも時間δ・t(δは遅延係数)だけ遅れる。測距光と反射光は距離測定装置Bと被計測物体Sの間の2倍の距離rを進んだことになるから、その距離rは
r=δ・t・C/2 ・・・(1)
により得られる。ただしCは光速である。
【0020】
例えば測距光のパルスの立ち下がりから反射光を検知可能な状態に定め、反射光のパルスが立ち上がった後に検知不可能な状態に切換えて、反射光のパルスの立ち下がりまでの成分を検出するようにすると、すなわち反射光検知期間Tを設けると、この反射光検知期間Tにおける受光量Aは距離rの関数である。すなわち受光量Aは、距離rが大きくなるほど(時間δ・tが大きくなるほど)小さくなる。
【0021】
本実施形態では上述した原理を利用して、CCD28に設けられ、2次元的に配列された複数のフォトダイオード(光電変換素子)においてそれぞれ受光量Aを検出することにより、カメラ本体10から被計測物体Sの表面の各点までの距離をそれぞれ検出し、被計測物体Sの表面形状に関する3次元画像のデータを一括して入力している。
【0022】
図5は、CCD28に設けられるフォトダイオード51と垂直転送部52の配置を示す図である。図6は、CCD28を基板53に垂直な平面で切断して示す断面図である。このCCD28は従来公知のインターライン型CCDであり、不要電荷の掃出しにVOD(縦型オーバーフロードレイン)方式を用いたものである。
【0023】
フォトダイオード51と垂直転送部(信号電荷保持部)52はn型基板53の面に沿って形成されている。フォトダイオード51は2次元的に格子状に配列され、垂直転送部52は所定の方向(図5において上下方向)に1列に並ぶフォトダイオード51に隣接して設けられている。垂直転送部52は、1つのフォトダイオード51に対して4つの垂直転送電極52a、52b、52c、52dを有している。したがって垂直転送部52では、4つのポテンシャルの井戸が形成可能であり、従来公知のように、これらの井戸の深さを制御することによって、信号電荷をCCD28から出力することができる。なお、垂直転送電極の数は目的に応じて自由に変更できる。
【0024】
基板53の表面に形成されたp型井戸の中にフォトダイオード51が形成され、p型井戸とn型基板53の間に印加される逆バイアス電圧によってp型井戸が完全空乏化される。この状態において、入射光(被計測物体からの反射光)の光量に応じた電荷がフォトダイオード51において蓄積される。基板電圧Vsub を所定値以上に大きくすると、フォトダイオード51に蓄積した電荷は、基板53側に掃出される。これに対し、転送ゲート部54に電荷転送信号(電圧信号)が印加されたとき、フォトダイオード51に蓄積した電荷は垂直転送部52に転送される。すなわち電荷掃出し信号によって電荷を基板53側に掃出した後、フォトダイオード51に蓄積した信号電荷が、電荷転送信号によって垂直転送部52側に転送される。このような動作を繰り返すことにより、垂直転送部52において信号電荷が積分され、電子シャッタ動作が実現される。
【0025】
図7は、被計測物体の表面の各点までの距離に関するデータを検出する距離情報検出動作のタイミングチャートである。図1、図2、図5〜図7を参照して距離情報検出動作を説明する。
【0026】
垂直同期信号S1の出力に同期して発光装置14が起動され、一定のパルス幅を有するパルス状の測距光S3が周期的に出力される。測距光S3は被計測物体において反射し、CCD28に入射する。すなわちCCD28によって被計測物体からの反射光S4が受光される。測距光S3の発光が終了するタイミングに合わせて、電荷掃出し信号(パルス信号)S2が出力される。電荷掃出し信号S2の出力は、測距光S3の発光が終了するのと同時に終了するように制御される。これによりフォトダイオード51に蓄積していた不要電荷が基板53の方向に掃出される。測距光S3の出力から一定時間が経過したとき、電荷転送信号(パルス信号)S5が出力され、これによりフォトダイオード51に蓄積された電荷が垂直転送部52に転送される。なお、電荷転送信号S5の出力は、反射光S4の出力の終了よりも後に行なわれる。
【0027】
このように電荷掃出し信号S2の出力の終了から電荷転送信号S5の出力までの期間TU1の間、フォトダイオード51には、被計測物体までの距離に対応した信号電荷が蓄積される。すなわち測距光S3が出力される期間TS の終了と同時に電荷蓄積期間TU1が開始し、電荷蓄積期間TU1の間に、反射光S4の一部のみがCCD28によって検知され、検知された光によって生じる信号電荷S6は被計測物体までの距離に対応している。換言すれば、被計測物体からの反射光S4のうち、電荷蓄積期間TU1内にフォトダイオード51に到達した光に対応した信号電荷S6がフォトダイオード51に蓄積される。この信号電荷S6は、電荷転送信号S5によって垂直転送部52に転送される。
【0028】
電荷転送信号S5の出力から一定時間が経過した後、再び電荷掃出し信号S2が出力され、垂直転送部52への信号電荷の転送後にフォトダイオード51に蓄積された不要電荷が基板53の方向へ掃出される。すなわち、フォトダイオード51において新たに信号電荷の蓄積が開始する。そして、上述したのと同様に、電荷蓄積期間TU1が経過したとき、信号電荷は垂直転送部52へ転送される。
【0029】
このような信号電荷S6の垂直転送部52への転送動作は、次の垂直同期信号S1が出力されるまで、繰り返し実行される。これにより垂直転送部52において、信号電荷S6が積分され、1フィールドの期間(2つの垂直同期信号S1によって挟まれる期間)に積分された信号電荷S6は、その期間被計測物体が静止していると見做せれば、被計測物体までの距離情報に対応している。
【0030】
以上説明した信号電荷S6の検出動作は1つのフォトダイオード51に関するものであり、全てのフォトダイオード51においてこのような検出動作が行なわれる。1フィールドの期間の検出動作の結果、各フォトダイオード51に隣接した垂直転送部52の各部位には、そのフォトダイオード51によって検出された距離情報が保持される。この距離情報は垂直転送部52における垂直転送動作におよび図示しない水平転送部における水平転送動作によってCCD28から出力され、被計測物体の3次元画像データとして、3次元画像入力装置の外部に取り出される。
【0031】
上述のようにしてCCD28により検出された反射光は、被計測物体の表面の反射率の影響を受けている。したがって、この反射光を介して得られた距離情報は反射率に起因する誤差を含んでいる。また、CCD28により検出された反射光には、被計測物体からの反射光以外に外光等の成分も含まれており、これに起因する誤差も存在する。したがって距離情報検出動作では、被計測物体の反射率、外光等の影響を補正することが好ましい。次に、これらの補正を行なう距離情報検出動作について説明する。
【0032】
図8〜図10は、距離補正情報、反射率情報および反射率補正情報の検出動作を示し、図11と図12は距離情報検出動作のフローチャートである。図1、図2、図7〜図12を参照して、被計測物体の反射率、外光等の影響を補正する距離情報検出動作を説明する。すなわち図7に関し、説明は重複する。
【0033】
ステップ101においてレリーズスイッチ15が全押しされていることが確認されるとステップ102が実行され、ビデオ(V)モードと距離測定(D)モードのいずれが選択されているかが判定される。これらのモード間における切替はV/Dモード切替スイッチ18を操作することによって行なわれる。
【0034】
Dモードが選択されているとき、ステップ103において垂直同期信号S1が出力されるとともに測距光制御が開始される。すなわち発光装置14が駆動され、パルス状の測距光S3が断続的に出力される。次いでステップ104が実行され、CCD28による検知制御が開始される。すなわち図7を参照して説明した距離情報検出動作が開始され、電荷掃出し信号S2と電荷転送信号S5が交互に出力されて、距離情報の信号電荷S6が垂直転送部52において積分される。
【0035】
ステップ105では、距離情報検出動作の開始から1フィールド期間が終了したか否か、すなわち新たに垂直同期信号S1が出力されたか否かが判定される。1フィールド期間が終了するとステップ106へ進み、距離情報の信号電荷S6がCCD28から出力される。この信号電荷S6はステップ107において画像メモリ34に一時的に記憶される。ステップ108では測距光制御がオフ状態に切換えられ、発光装置14の発光動作が停止する。
【0036】
ステップ109〜112では、距離補正情報の検出動作が行なわれる。まずステップ109では、図8に示すように、垂直同期信号S11が出力されるとともにCCD28による検知制御が開始される。すなわち発光装置14の発光動作が行なわれることなく、光源が消灯された状態で、電荷掃出し信号S12と電荷転送信号S15が交互に出力される。電荷蓄積時間TU1は図7に示す距離情報検出動作と同じであるが、被計測物体に測距光が照射されないため(符号S13)、反射光は存在せず(符号S14)、したがって、距離情報の信号電荷は発生しないが、CCD28には外光等の外乱成分が入射するため、この外乱成分に対応した信号電荷S16が発生する。この信号電荷S16は、外乱成分が距離情報に及ぼす影響を補正するための、電荷蓄積時間TU1に対する距離補正情報に対応している。
【0037】
ステップ110では、距離補正情報の検出動作の開始から1フィールド期間が終了したか否か、すなわち新たに垂直同期信号S11が出力されたか否かが判定される。1フィールド期間が終了するとステップ111において、距離補正情報の信号電荷S16がCCD28から出力される。距離補正情報の信号電荷S16はステップ112において画像メモリ34に一時的に記憶される。
【0038】
ステップ113〜117では、反射率情報の検出動作が行なわれる。ステップ113では、図9に示すように、垂直同期信号S21が出力されるとともに測距光制御が開始され、パルス状の測距光S23が断続的に出力される。ステップ114では、CCD28による検知制御が開始され、電荷掃出し信号S22と電荷転送信号S25が交互に出力される。この反射率情報の検出動作は、電荷掃出し信号S22が出力されてから電荷転送信号S25が出力されるまでの電荷蓄積期間TU2内に、反射光S24の全てが受光されるように制御される。すなわち、CCD28の各フォトダイオード51に蓄積される信号電荷S26のパルス幅TS は測距光S23のパルス幅TS と同じである。
【0039】
したがって信号電荷S26は、被計測物体までの距離とは関係せず、被計測物体の表面の反射率に依存する反射率情報に対応している。
【0040】
ステップ115では、反射率情報検出動作の開始から1フィールド期間が終了したか否か、すなわち新たに垂直同期信号S21が出力されたか否かが判定される。1フィールド期間が終了するとステップ116へ進み、反射率情報の信号電荷S26がCCD28から出力される。この信号電荷S26はステップ117において画像メモリ34に一時的に記憶される。ステップ118では測距光制御がオフ状態に切換えられ、発光装置14の発光動作が停止する。
【0041】
ステップ119〜122では、反射率補正情報の検出動作が行なわれる。ステップ119では、図10に示すように、垂直同期信号S31が出力されるとともにCCD28による検知制御が開始される。すなわち発光装置14の発光動作が行なわれることなく、光源が消灯された状態で、電荷掃出し信号S32と電荷転送信号S35が交互に出力される。電荷蓄積時間TU2は図9に示す反射率情報検出動作と同じであるが、被計測物体に測距光が照射されないため(符号S33)、反射光は存在せず(符号S34)、したがって、反射率情報の信号電荷は発生しないが、CCD28には外光等の外乱成分に対応した信号電荷S36が発生する。この信号電荷S36は、外乱成分が電荷蓄積時間TU2に対する反射率情報に及ぼす影響を補正するための反射率補正情報に対応している。
【0042】
ステップ120では、反射率補正情報の検出動作の開始から1フィールド期間が終了したか否か、すなわち新たに垂直同期信号S31が出力されたか否かが判定される。1フィールド期間が終了するとステップ121において、反射率補正情報の信号電荷S36がCCD28から出力され、ステップ122において画像メモリ34に一時的に記憶される。
【0043】
ステップ123では、ステップ103〜122において得られた距離情報、距離補正情報、反射率情報および反射率補正情報を用いて距離測定(D)データの演算処理が行なわれ、ステップ124においてDデータが出力されてこの検出動作は終了する。一方、ステップ102においてVモードが選択されていると判定されたとき、ステップ125において測距光制御がオフ状態に切換えられるとともに、ステップ126においてCCD28による通常の撮影動作(CCDビデオ制御)がオン状態に定められ、この検出動作は終了する。
【0044】
ステップ123において実行される演算処理の内容を図7〜図10を参照して説明する。
反射率Rの被計測物体が照明され、この被計測物体が輝度Iの2次光源と見做されてCCDに結像された場合を想定する。このとき、電荷蓄積時間tの間にフォトダイオードに発生した電荷が積分されて得られる出力Snは、
Sn=k・R・I・t ・・・(2)
で表される。ここでkは比例定数で、撮影レンズのFナンバーや倍率等によって変化する。
【0045】
被計測物体がレーザ等の光源からの光で照明される場合、輝度Iはその光源による輝度IS と背景光による輝度IB との合成されたものとなり、
I=IS +IB ・・・(3)
と表せる。
【0046】
図7に示されるようにパルス状の電荷蓄積時間をTU1、測距光S3のパルス幅をTS 、距離情報の信号電荷S6のパルス幅をTD とし、1フィールド期間中のその電荷蓄積時間がN回繰り返されるとすると、得られる出力S10は、
S10=Σ(k・R(IS ・TD +IB ・TU1))
=k・N・R(IS ・TD +IB ・TU1) ・・・(4)
となる。なお、パルス幅TD は
TD =TU1−δ・t
=TU1−2r/C ・・・(5)
と表せる。
【0047】
図9に示されるようにパルス状の電荷蓄積時間TU2が、測距光S23の期間(パルス幅)TS よりも十分大きく、反射光の単位受光時間を全部含むように制御された場合に得られる出力S20は、
S20=Σ(k・R(IS ・TS +IB ・TU2))
=k・N・R(IS ・TS +IB ・TU2) ・・・(6)
となる。
【0048】
図8に示されるように発光を止めて、図7と同じ時間幅でのパルス状の電荷蓄積を行なった場合に得られる出力S11は、
S11=Σ(k・R・IB ・TU1)
=k・N・R・IB ・TU1 ・・・(7)
となる。同様に、図10に示されるような電荷蓄積を行なった場合に得られる出力S21は、
S21=Σ(k・R・IB ・TU2)
=k・N・R・IB ・TU2 ・・・(8)
となる。
【0049】
(4)、(6)、(7)、(8)式から、
SD =(S10−S11)/(S20−S21)
=TD /TS ・・・(9)
が得られる。
【0050】
上述したように測距光S3と反射光S4にはそれぞれ外光等の外乱成分(背景光による輝度IB )が含まれている。(9)式のTD /TS は、測距光S3を照射したときの被計測物体からの反射光S4の光量を、測距光S3の光量によって正規化したものであり、これは、測距光S3の光量(図7の信号電荷S6に相当)から外乱成分(図8の信号電荷S16に相当)を除去した値と、反射光S4の光量(図9の信号電荷S26に相当)から外乱成分(図10の信号電荷S36に相当)を除去した値との比に等しい。
【0051】
(9)式の各出力値S10、S11、S20、S21はステップ107、112、117、122において、距離情報、距離補正情報、反射率情報、反射率補正情報として格納されている。したがって、これらの情報に基いて、TD /TS が得られる。パルス幅TS は既知であるから、(5)式とTD /TS から距離rが得られる。
【0052】
このように(5)式と(9)式に基いてカメラ本体から被計測物体の表面の各点までの距離情報が補正され、この距離情報の検出精度が向上する。
【0053】
図13は、上述した距離情報検出動作、距離補正情報検出動作、反射率情報検出動作および反射率補正情報検出動作の実行時間を説明するための図である。各動作において測距光等のパルスはそれぞれ多数出力されるが、図13では、1つのみ示されている。
【0054】
距離情報検出動作では、パルス幅T0 の測距光S3が出力されたことによって、同じパルス幅の反射光S4がCCDに入射する。測距光S3の立ち下がりと同時に電荷蓄積期間(すなわち反射光検知期間)が開始する。電荷蓄積期間の長さをT1 とする。電荷蓄積期間の間に、反射光S4のパルスの立ち下がり部分を含む、被計測物体までの距離に応じた反射光成分E10に対応した電荷がCCDの各フォトダイオードに蓄積する(時間δ・t)。電荷蓄積期間の後、電荷蓄積期間と同じ長さの電荷蓄積休止期間T1 の間に測距光S3が再び出力され、以後、上述した動作が繰り返される。なお電荷蓄積休止期間T1 はパルス幅T0 と略同じ長さである。
【0055】
距離補正情報検出動作では、測距光が出力されることなく、CCDにおいて、反射光検知期間と同じ長さの電荷蓄積期間(すなわち外光検知期間)の間、電荷蓄積が行なわれる。これによりCCDの各フォトダイオードには、被計測物体の周囲の外光等の外乱成分E11に対応した電荷が蓄積する。電荷蓄積期間の後、距離情報検出動作と同様に、電荷蓄積期間と同じ長さの電荷蓄積休止期間T1 が設けられ、その後、上述した動作が繰り返される。電荷蓄積休止期間T1 を設けるのは、距離補正情報検出動作と距離情報検出動作において、電荷掃出し信号S2、S12(図7、8参照)と電荷転送信号S5、S15(図7、8参照)を同じ制御で出力するためである。
【0056】
反射率情報検出動作では、パルス幅T0 の測距光S23が出力されて、同じパルス幅の反射光S24がCCDに入射するが、距離情報検出動作と異なり、測距光S23の立ち上がりと同時に電荷蓄積期間(すなわち反射光検知期間)が開始し、この電荷蓄積期間は反射光S24が立ち下がった後まで継続する。電荷蓄積期間の長さT2 は、測距光S23と反射光S24の2つのパルス幅の和以上であり、T2 ≧2T1 である。すなわち、全ての反射光成分E20に対応した電荷がCCDの各フォトダイオードに蓄積する。電荷蓄積期間の後、所定長さの電荷蓄積休止期間tc の後、再び測距光S23が再び出力され、以後、上述した動作が繰り返される。
【0057】
反射率補正情報検出動作では、測距光が出力されることなく、CCDにおいて、反射率情報検出期間と同じ長さの電荷蓄積期間の間、電荷蓄積が行なわれる。これによりCCDの各フォトダイオードには、反射光成分E20が受ける外光等の外乱成分E21に対応した電荷が蓄積する。電荷蓄積期間の後、所定長さの電荷蓄積休止期間tc の後、上述した動作が繰り返される。
【0058】
なお反射光成分E10、E20、外乱成分E11、E21はそれぞれ、図1、2、7〜12を参照して説明した距離情報検出動作等において得られる出力S10、S20、S11、S21に対応している。すなわち、正規化距離情報RSは
RS=(E10−E11)/(E20−E21)
である。ここで(E10−E11)と(E20−E21)は、(2)式と同様に、反射率R、被計測物体の輝度I、比例定数kを用いて表すと、
E10−E11=k・R・I・(δ・t)
E20−E21=k・R・I・T
である。したがって正規化距離情報RSは
RS=(δ・t)/T ・・・(10)
となる。
【0059】
一方、距離情報検出動作、距離補正情報検出動作、反射率情報検出動作および反射率補正情報検出動作を実行するのに必要な時間Tx は
Tx =4×T1 +2×T2
に比例する。T2 ≒2×T1 、tc ≒0と仮定すると、各動作を実行するために必要な時間Tx は
Tx =8×T1 ・・・(11)
となる。
【0060】
本実施形態では、各動作の実行に必要な時間を短縮するために距離情報検出動作を2つの異なるモードで実行している。これを図14を参照して説明する。
【0061】
図14に示されるように、距離情報検出動作は、第1の距離情報検出モードである後半ゲート方式と、第2の距離情報検出モードである前半ゲート方式によって実行される。
【0062】
後半ゲート方式は図13に示される距離情報検出動作と同じであり、パルス幅T0 の測距光S3に応じて生じた反射光S4のパルスの立ち下がり部分を含む、第1の反射光成分E10に対応した電荷がCCDの各フォトダイオードに蓄積する。これに対して前半ゲート方式では、電荷蓄積期間(すなわち反射光検出期間)P1は、パルス幅T0 の測距光S3の立ち上がりと同時に開始し、測距光S3の立ち下がりと略同時に終了する。すなわち反射光のうち、パルスの立ち上がりから電荷蓄積期間Pの終了までの第2の反射光成分E30が検出される。この反射光成分E30も、第1の反射光成分E10と同様に、被計測物体までの距離に応じている。後半ゲート方式における電荷蓄積期間の長さは前半ゲート方式における電荷蓄積期間と同一である。
【0063】
距離補正情報検出動作では、後半ゲート方式および前半ゲート方式の距離情報検出動作と同じ電荷蓄積期間(すなわち外光検出期間)P2を用いて、測距光が出力されることなく、CCDにおいて電荷蓄積が行なわれる。これによりCCDの各フォトダイオードには、被計測物体の周囲の外光等の外乱成分E11に対応した電荷が蓄積する。外光検出期間P2の長さは後半ゲート方式と前半ゲート方式の距離情報検出動作における電荷蓄積期間と同じであるので、外乱成分E11は、第1の反射光成分E10と第2の反射光成分E30の両者に対する補正に利用できる。
【0064】
後半ゲート方式の距離情報検出動作において得られた第1の反射光成分E10から外乱成分E11を除去して得られるものを、補正後の第1の反射光成分E1 とし、前半ゲート方式の距離情報検出動作において得られた第2の反射光成分E30から外乱成分E11を除去して得られるものを、補正後の第2の反射光成分E2 とする。上述したように後半ゲート方式と前半ゲート方式において電荷蓄積期間は同一である。したがって補正後の第1および第2の反射光成分E1 、E2 は、(2)式と同様に、反射率R、被計測物体の輝度I、比例定数kを用いると、
E1 =k・R・I・(δ・t) ・・・(12)
E2 =k・R・I・(T1 −δ・t) ・・・(13)
と表される。
【0065】
第1の反射光成分E1 を第1および第2の反射光成分の和(E1 +E2 )で割って得られる比RT=E1 /(E1 +E2 )は、
RT=(δ・t)/T1 =(δ・t)/T0 ・・・(14)
であり、これは(10)式と同じである。すなわち(14)式は被計測物体までの距離に対応した正規化距離情報を示している。
【0066】
後半ゲート方式により得られた補正後の第1の反射光成分E1 には、外光等に起因し、反射率Rに対応した外乱成分が含まれている。同様に、前半ゲート方式により得られた補正後の第2の反射光成分E2 にも外乱成分が含まれている。しかし正規化距離情報RTを計算することにより、(14)式から明らかなように反射率Rは消去される。したがって後半ゲート方式と前半ゲート方式を併用することにより、反射率情報検出動作と反射率補正情報検出動作は不要になる。
【0067】
一方、距離情報検出動作、距離補正情報検出動作、反射率情報検出動作および反射率補正情報検出動作を実行するのに必要な時間Ty は
Ty =6×T1 ・・・(15)
に比例する。これを(11)式と比較することから明らかなように、距離情報検出動作において後半ゲート方式と前半ゲート方式を併用することにより、併用しない場合と比較して、被計測物体の3次元画像データの検出動作に要する時間は3/4に短縮される。併用しない場合における電荷蓄積休止期間tc (図13参照)がT1 に略等しいと仮定すると、Tx =9×T1 となるので、後半ゲート方式と前半ゲート方式を併用した場合における3次元画像データの検出動作に要する時間Ty は時間Tx の2/3である。
【0068】
距離情報検出動作において後半ゲート方式と前半ゲート方式を併用する場合、距離補正情報検出動作は、後半ゲート方式の距離情報検出動作と前半ゲート方式の距離情報検出動作との間に実行することが好ましい。このように構成することにより、距離補正情報検出動作の実行タイミングが後半ゲート方式の距離情報検出動作の実行タイミングに近づくため、外光の時間的変動の影響を受け難くなり、被計測物体の反射率の補正をより高精度に実施することができる。
【0069】
被計測物体の3次元形状の計測において、被計測物体の反射率に関する補正情報の検出動作の一部を省略することができ、測距動作全体の処理時間を短縮することができる。
【0070】
【発明の効果】
以上のように本発明によれば、被計測物体の3次元形状を検出する測距動作全体の処理時間を短縮することが可能となる。
【図面の簡単な説明】
【図1】本発明の一実施形態である3次元画像入力装置を備えたカメラの斜視図である。
【図2】図1に示すカメラの回路構成を示すブロック図である。
【図3】測距光による距離測定の原理を説明するための図である。
【図4】測距光、反射光、ゲートパルス、およびCCDが受光する光量分布を示す図である。
【図5】CCDに設けられるフォトダイオードと垂直転送部の配置を示す図である。
【図6】CCDを基板に垂直な平面で切断して示す断面図である。
【図7】距離情報の検出動作のタイミングチャートである。
【図8】距離補正情報の検出動作のタイミングチャートである。
【図9】反射率情報の検出動作のタイミングチャートである。
【図10】反射率補正情報の検出動作のタイミングチャートである。
【図11】距離情報検出動作において、距離情報と距離補正情報と反射率情報を検出する動作を示すフローチャートである。
【図12】距離情報検出動作において、反射率補正情報を検出し、距離補正情報と反射率情報と反射率補正情報に基づいて距離情報を補正する処理を示すフローチャートである。
【図13】図7〜図10に示される距離情報検出動作、距離補正情報検出動作、反射率情報検出動作および反射率補正情報検出動作の実行時間を説明するための図である。
【図14】実施形態における距離情報検出動作、距離補正情報検出動作、反射率情報検出動作および反射率補正情報検出動作の実行時間を説明するための図である。
【符号の説明】
14 光源
S 被計測物体
Claims (4)
- 被計測物体に対してパルス状の測距光を照射する光源と、
前記測距光によって前記被計測物体において生じたパルス状の反射光のうち、パルスの立ち下がり部分を含む、前記被計測物体までの距離に応じた第1の反射光成分(E1 )を検出する第1の距離情報検出手段と、
前記測距光によって前記被計測物体において生じたパルス状の反射光のうち、パルスの立ち上がり部分を含む、前記被計測物体までの距離に応じた第2の反射光成分(E2 )を検出する第2の距離情報検出手段と、
前記第1の反射光成分(E1 )を第1および第2の反射光成分の和(E1 +E2 )で割って得られる比(E1 )/(E1 +E2 )を、前記被計測物体までの距離に対応した正規化距離情報として求める正規化距離情報演算手段と、
前記光源を消灯させた状態で、前記反射光検知期間と同じ長さである外光検知期間の間、前記被計測物体の周囲の外光成分である入射光を検出する外光検出手段とを備え、
前記第1および第2の距離情報検出手段において、前記第1および第2の反射光成分を検出するための反射光検知期間の長さが同一であり、
前記正規化距離情報演算手段は、前記第1および第2の反射光成分からそれぞれ前記外光成分を除去したものに関して前記比を演算し、前記正規化距離情報を求めることを特徴とする3次元画像入力装置。 - 前記外光検出手段の検出動作が、前記第1の距離情報検出手段の検出動作と前記第2の距離情報検出手段の検出動作の間に行なわれることを特徴とする請求項1に記載の3次元画像入力装置。
- 前記第1および第2の距離情報検出手段がそれぞれ、
前記反射光成分の受光量に応じた電荷が蓄積する複数の光電変換素子と、
前記光電変換素子に隣接して設けられた信号電荷保持部と、
前記光電変換素子に蓄積した不要電荷を前記光電変換素子から掃出すことにより、前記光電変換素子における信号電荷の蓄積動作を開始させる蓄積電荷掃出手段と、
前記光電変換素子に蓄積した信号電荷を前記信号電荷保持部に転送する信号電荷転送手段と、
前記蓄積電荷掃出手段と前記信号電荷転送手段とを交互に駆動し、前記信号電荷保持部において前記信号電荷を積分することにより、前記被計測物体の表面上の各点までの距離情報を検出する信号電荷積分手段と
を備えたことを特徴とする請求項1に記載の3次元画像入力装置。 - 前記外光検出手段が、
前記入射光の受光量に応じた電荷が蓄積する複数の光電変換素子と、
前記光電変換素子に隣接して設けられた信号電荷保持部と、
前記光電変換素子に蓄積した不要電荷を前記光電変換素子から掃出すことにより、前記光電変換素子における信号電荷の蓄積動作を開始させる蓄積電荷掃出手段と、
前記光電変換素子に蓄積した信号電荷を前記信号電荷保持部に転送する信号電荷転送手段と、
前記蓄積電荷掃出手段と前記信号電荷転送手段とを交互に駆動し、前記信号電荷保持部において前記信号電荷を積分することにより、前記外光成分の大きさに対応した距離補正情報を検出する信号電荷積分手段と
を備えたことを特徴とする請求項1に記載の3次元画像入力装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP33267799A JP4391643B2 (ja) | 1999-11-24 | 1999-11-24 | 3次元画像入力装置 |
US09/717,212 US6683676B1 (en) | 1999-11-24 | 2000-11-22 | Three-dimensional image capturing device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP33267799A JP4391643B2 (ja) | 1999-11-24 | 1999-11-24 | 3次元画像入力装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2001157227A JP2001157227A (ja) | 2001-06-08 |
JP4391643B2 true JP4391643B2 (ja) | 2009-12-24 |
Family
ID=18257654
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP33267799A Expired - Fee Related JP4391643B2 (ja) | 1999-11-24 | 1999-11-24 | 3次元画像入力装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US6683676B1 (ja) |
JP (1) | JP4391643B2 (ja) |
Families Citing this family (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6822687B1 (en) * | 1999-07-08 | 2004-11-23 | Pentax Corporation | Three-dimensional image capturing device and its laser emitting device |
US7061534B2 (en) * | 2001-08-31 | 2006-06-13 | Pentax Corporation | Three-dimensional image capturing device |
US20030063185A1 (en) * | 2001-09-28 | 2003-04-03 | Bell Cynthia S. | Three-dimensional imaging with complementary color filter arrays |
JP3888450B2 (ja) | 2002-05-10 | 2007-03-07 | 日本電気株式会社 | 標的装置及び光検出装置 |
JP4581763B2 (ja) * | 2005-03-14 | 2010-11-17 | 富士ゼロックス株式会社 | 画像入力装置および画像評価装置 |
JP4981780B2 (ja) | 2008-10-20 | 2012-07-25 | 本田技研工業株式会社 | 測距システム及び測距方法 |
TWI575494B (zh) * | 2011-08-19 | 2017-03-21 | 半導體能源研究所股份有限公司 | 半導體裝置的驅動方法 |
JP5637117B2 (ja) * | 2011-10-26 | 2014-12-10 | 株式会社デンソー | 距離測定装置、および距離測定プログラム |
WO2013099537A1 (en) * | 2011-12-26 | 2013-07-04 | Semiconductor Energy Laboratory Co., Ltd. | Motion recognition device |
JP2013174446A (ja) * | 2012-02-23 | 2013-09-05 | Toshiba Corp | 3次元情報検出装置および3次元情報検出方法 |
CN104160295B (zh) * | 2012-03-09 | 2017-09-15 | 株式会社半导体能源研究所 | 半导体装置的驱动方法 |
KR102007275B1 (ko) | 2012-12-27 | 2019-08-05 | 삼성전자주식회사 | 3차원 이미지 센서의 거리 픽셀 및 이를 포함하는 3차원 이미지 센서 |
WO2023224077A1 (ja) * | 2022-05-18 | 2023-11-23 | 株式会社小糸製作所 | ToFカメラ、車両用センシングシステム、および車両用灯具 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US3884872A (en) * | 1973-08-07 | 1975-05-20 | Firestone Tire & Rubber Co | Inorganic zinc salts as color stabilizers for acrylonitrile vinyl chloride dyesite containing copolymers |
CH628139A5 (de) * | 1978-08-03 | 1982-02-15 | Fruengel Frank | Verfahren und einrichtung zur wolkenhoehenmessung. |
US4761546A (en) * | 1985-11-25 | 1988-08-02 | Matsushita Electric Works, Ltd. | Optical displacement measuring system with nonlinearity correction |
JP3185547B2 (ja) * | 1994-06-28 | 2001-07-11 | 三菱電機株式会社 | 距離測定装置 |
JPH1098176A (ja) * | 1996-09-19 | 1998-04-14 | Toshiba Corp | 固体撮像装置 |
-
1999
- 1999-11-24 JP JP33267799A patent/JP4391643B2/ja not_active Expired - Fee Related
-
2000
- 2000-11-22 US US09/717,212 patent/US6683676B1/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
US6683676B1 (en) | 2004-01-27 |
JP2001157227A (ja) | 2001-06-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3574607B2 (ja) | 3次元画像入力装置 | |
JP4391643B2 (ja) | 3次元画像入力装置 | |
JP2002369049A (ja) | 画像検出装置と絞り装置 | |
JP4105801B2 (ja) | 3次元画像入力装置 | |
JP3820087B2 (ja) | 3次元画像検出装置 | |
JP4303354B2 (ja) | 3次元画像入力装置 | |
JP3574602B2 (ja) | 3次元画像入力装置 | |
JP2002369223A (ja) | 画像検出装置と絞り装置 | |
US6812964B1 (en) | Three-dimensional image capturing device | |
JP4369574B2 (ja) | 3次元画像検出装置 | |
JP4369575B2 (ja) | 3次元画像検出装置 | |
JP2000341720A (ja) | 3次元画像入力装置および記録媒体 | |
US6778219B1 (en) | Three-dimensional image capturing device | |
JP4428831B2 (ja) | 3次元画像検出装置 | |
JP4250281B2 (ja) | 3次元画像検出装置 | |
JP2000083260A (ja) | 3次元画像入力装置 | |
JP4391661B2 (ja) | 3次元画像検出装置 | |
JP2001275132A (ja) | 3次元画像検出装置と撮像素子駆動回路 | |
US6982761B1 (en) | Device for capturing three-dimensional images with independently controllable groups of photoelectric conversion elements | |
JP4136195B2 (ja) | 3次元画像入力装置 | |
JP3954300B2 (ja) | 3次元画像検出装置 | |
JP4346736B2 (ja) | 3次元画像検出装置 | |
JP2001045520A (ja) | 3次元画像検出装置および光通信受信装置 | |
JP2001008233A (ja) | 3次元画像入力装置 | |
JP2000333210A (ja) | 3次元画像入力装置および記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20061018 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20080425 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090820 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090825 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090911 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20091006 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20091008 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121016 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121016 Year of fee payment: 3 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121016 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131016 Year of fee payment: 4 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |