JP2005214743A - 距離画像データ生成装置及び生成方法,プログラム - Google Patents
距離画像データ生成装置及び生成方法,プログラム Download PDFInfo
- Publication number
- JP2005214743A JP2005214743A JP2004020414A JP2004020414A JP2005214743A JP 2005214743 A JP2005214743 A JP 2005214743A JP 2004020414 A JP2004020414 A JP 2004020414A JP 2004020414 A JP2004020414 A JP 2004020414A JP 2005214743 A JP2005214743 A JP 2005214743A
- Authority
- JP
- Japan
- Prior art keywords
- image data
- distance
- light
- exposure
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 42
- 238000006243 chemical reaction Methods 0.000 claims description 55
- 238000005259 measurement Methods 0.000 claims description 39
- 238000003384 imaging method Methods 0.000 claims description 24
- 239000003990 capacitor Substances 0.000 claims description 21
- 230000000630 rising effect Effects 0.000 claims description 17
- 230000008859 change Effects 0.000 claims description 6
- 230000001678 irradiating effect Effects 0.000 claims description 6
- 229920006395 saturated elastomer Polymers 0.000 claims description 6
- 230000010354 integration Effects 0.000 claims description 4
- 239000012535 impurity Substances 0.000 claims description 2
- 230000008569 process Effects 0.000 description 28
- 238000012545 processing Methods 0.000 description 19
- 238000001514 detection method Methods 0.000 description 12
- 238000012937 correction Methods 0.000 description 10
- 238000010586 diagram Methods 0.000 description 8
- 238000009825 accumulation Methods 0.000 description 7
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 7
- 230000000694 effects Effects 0.000 description 5
- 230000035945 sensitivity Effects 0.000 description 5
- 230000005669 field effect Effects 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 239000003086 colorant Substances 0.000 description 2
- 230000001186 cumulative effect Effects 0.000 description 2
- 230000003111 delayed effect Effects 0.000 description 2
- 238000009792 diffusion process Methods 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 230000032683 aging Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000002542 deteriorative effect Effects 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 239000007769 metal material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000003071 parasitic effect Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000004043 responsiveness Effects 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C3/00—Measuring distances in line of sight; Optical rangefinders
- G01C3/02—Details
- G01C3/06—Use of electric means to obtain final indication
- G01C3/08—Use of electric radiation detectors
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
- G01S17/894—3D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/483—Details of pulse systems
- G01S7/486—Receivers
- G01S7/487—Extracting wanted echo signals, e.g. pulse detection
- G01S7/4876—Extracting wanted echo signals, e.g. pulse detection by removing unwanted signals
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/04—Systems determining the presence of a target
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/483—Details of pulse systems
- G01S7/486—Receivers
- G01S7/4861—Circuits for detection, sampling, integration or read-out
- G01S7/4863—Detector arrays, e.g. charge-transfer gates
-
- H—ELECTRICITY
- H01—ELECTRIC ELEMENTS
- H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
- H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
- H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
- H01L27/144—Devices controlled by radiation
- H01L27/146—Imager structures
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Computer Networks & Wireless Communication (AREA)
- Electromagnetism (AREA)
- Optical Radar Systems And Details Thereof (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
【解決手段】 露光のみを行うことで背景光の強度に応じた画素値V1を有する第1画像データを取得し、照射パルス光の平坦部に対応する部分の反射光あるいは散乱光(以下「反射光等」)が、露光の全期間に渡って受光されるよう発光及び露光を制御することで、反射光等の強度に応じた画素値V2を有する第2画像データを取得し、照射パルス光の平坦部に対応する部分の反射光等が、パルス光を反射あるいは散乱した被測定物までの距離に応じた長さで受光されるよう発光及び露光を制御することで、その距離に応じた画素値V3を有する第3画像データを取得する。画素値V2,V3から画素値V1をそれぞれ減じることで背景光の影響を除去し、両減算結果の比をとることで反射光等の強度を変動させる各種要因の影響を相殺する。
【選択図】 図6
Description
ところで、第2画像データ取得手段は、具体的には、例えば図4(b)に示すように、露光期間(露光信号SHのパルス幅Tsh2 )を、任意の長さに設定すると共に、発光期間(発光信号FLのパルス幅Tf2)を、パルス光の立ち上がり期間の長さ(Tup)と、パルス光が測定範囲の境界までの距離を往復するのに要する上限往復時間(Tmax )と、露光期間の長さ(Tsh2 )とを加算した長さに設定し、更に、露光開始より、少なくとも立ち上がり期間の長さに上限往復時間を加算した時間(Tup+Tmax )以上前に発光が開始されるように構成すればよい。
但し、第1及び第2画像データ取得手段のうち少なくとも一方にて、露光期間が第3画像データ取得手段とは異なる長さに設定されている場合、第1及び第2演算手段では、第1〜第3画像データの各画素値を、予め設定された単位時間当たりの値に規格化して、基準画像データ及び強度画像データを求めるようにすればよい。
また、本発明の距離画像データ生成装置は、第3演算手段が生成する距離画像データに基づいて、被測定物までの絶対距離を求める距離算出手段を備えていてもよい。
また、例えば、画素値と絶対距離との対応を示す換算テーブルを予め用意しておき、距離算出手段は、この換算テーブルを用いて被測定物までの絶対距離を求めるように構成してもよい。
ところで、測定に用いる光は、近赤外(例えば波長850nm)など、人間の目で感知できない波長であることが望ましい。
このような波長の光を使用する場合、製造コストや感度の点で、光電変換素子としては、P型領域とN型領域の間に不純物濃度の低いI層を挟んだPIN構造を持つフォトダイオードを使用することが望ましい。
この場合、そのプログラムを、コンピュータが読み取り可能な記録媒体に記憶させ、その記憶させたプログラムを必要に応じてコンピュータシステムにロードして起動することにより用いることができる。なお、記録媒体は、持ち運び可能なものであってもよいし、コンピュータシステムに組み込まれたものであってもよい。また、プログラムは、ネットワークを介してコンピュータシステムにロードするものであってもよい。
[第1実施形態]
図1は、第1実施形態の距離画像データ生成装置1の全体構成を示すブロック図である。
そして、光電センサ8は、図2に示すように、後述する光電変換素子81の受光面がアレイ状に配置されるように設けられた複数の単位回路80と、各単位回路80の出力を順番に読み出して、演算部5に供給する読出制御回路86とからなる。なお、各単位回路80に露光信号SH等の制御信号を供給する信号線の配線パターンは、制御信号の伝送遅延が均等となるように等長配線(ここではツリー状の配線)されている。
このように構成された単位回路80では、露光信号SHが非アクティブレベル(露光禁止期間)の時には、シャッタスイッチ83がオフ、電荷リセットスイッチ82がオンされる。これにより、光電変換素子81にて発生した電荷は、コンデンサ84に蓄積されることなく、そのまま放電される。一方、露光信号SHがアクティブレベル(露光期間)の時には、シャッタスイッチ83がオン、電荷リセットスイッチ82がオフされる。これにより、光電変換素子81にて発生した電荷がコンデンサ84に蓄積されることになる。
また、第2指令を受けた制御信号生成部4は、図4(b)に示すように、一定パルス幅(発光時間)Tf2を有する発光信号FLを発生させた後、立ち上がり時間Tupと上限往復時間Tmax とを加算した時間だけ遅延させたタイミングで、一定パルス幅Tsh2 を有する露光信号SHを発生させる。
ここで、図5は、距離画像データ生成処理の内容を示すフローチャート、図6は、発光部2から照射されるパルス光(照射光)、撮像部3にて受光されるパルス光(反射光あるいは散乱光)、各画素の画素値(各単位回路80の出力)の関係を示すタイミング図である。
Ipd=Kp・Pr (1)
露光時間をTsh[sec]とすると、露光期間中に出力電流Ipdによってコンデンサ84に蓄積される電荷量Qint [C](但し、1[A]=1[C/sec])は、(2)式で表すことができる。
蓄積電荷Qint により、容量がCint [F]であるコンデンサ84の両端に現れる電圧(画素値)Vint [V]は、(3)式で表すことができる。
なお、光電変換素子81にて受光される光は、主に太陽光や周囲の照明の光からなる背景光と、発光部2から照射されたパルス光の反射光あるいは散乱光とを含む。この背景光の受光強度をPback、反射光あるいは散乱光の受光強度をPsignal、被測定物までの距離Lt(0≦Lt≦Lmax )を光が往復する時間をTsignal(=2×Lt/VC)とすると、第1〜第3画像データの画素値V1〜V3は、それぞれ、次の(4)〜(5)式にて表すことができる。但し、Tdw≒0であるとする。
V2=Kp・(Psignal+Pback)・Tsh2 /Cint (5)
V3=Kp・(Psignal・Tsignal+Pback・Tsh3 )/Cint (6)
そして、上述したように、Tsh1=Tsh2=Tsh3=Tmaxであることを考慮すれば、基準画像データの画素値V4、及び強度画像データの画素値V5は、それぞれ、次の(6)(7)式にて表すことができる。
V5=V3−V1=Kp・Psignal・Tsignal/Cint (8)
更に、距離画像データの画素値V6は、次の(9)式にて表すことができる。
つまり、S110〜S130にて得られる第1〜第3画像データに対して、S140〜S160の処理を施すことにより、背景光や反射光あるいは散乱光の強度に依存せず、被測定物までの距離Ltのみに依存して変化する画素値V6を有した距離画像データが得られることになる。更に、(9)式から明らかなように、この距離画像データの画素値V6に、測定可能な最大距離Lmax を乗じるだけで、被測定物までの距離Ltが得られることになる。
また、本実施形態の距離画像データ生成装置1では、第3画像データを取得する際に、被測定物までの距離が近く、大きな受光強度が得られる可能性が高いときほど、露光期間内で反射光あるいは散乱光を受光する時間Tsignalが短くなる。このため、従来装置と比較して、光電変換素子81の出力が飽和し難く、その結果、光電変換素子81の能力を最大限に有効利用することができる。また、被測定物までの距離が遠く、小さな受光強度しか得られないときほど、露光期間内で反射光あるいは散乱光を受光する時間Tsignalが長くなる。このため、遠い位置にある被測定物からの反射光あるいは散乱光を受光した時には、従来装置と比較して、より大きな出力(画素値)を得ることができるため、測定範囲をより遠くまで広げることが可能となる。
この場合、図7に示すように、距離画像データ生成装置1は、車両の前方を撮影可能な位置に配置されると共に、車内LAN又は専用の信号線を介して(或いは無線通信により)、距離画像データを処理する処理装置101に接続される。
この場合、図8に示すように、距離画像データ生成装置1は、車室内の天井位置に取り付けられ、乗員及び車室内が撮影可能となるよう調整されると共に、車内LAN又は専用の信号線を介して(或いは無線通信により)、距離画像データを処理する処理装置102に接続される。
この侵入検知処理では、まず、距離画像データ生成装置1から供給される距離画像データを、予め設定された基準距離画像データと比較する。比較の結果、両画像データに差異があれば、差異のあった部分を抽出し、その抽出された部分についての情報(形状,大きさ、当該装置1との距離等)から、その抽出された部分が車両外部からの侵入者や侵入物体を示すものであるか否かの判別を行う。そして、判別の結果、車両外部からの侵入者や侵入物体を示すものであれば、図示しないスピーカー,照明,通信装置等を用いて、警報や通報等を行う。
[第2実施形態]
次に、第2実施形態について説明する。
本実施形態において、制御信号生成部4は、演算部5から第1指令を受けた場合に、一定のパルス幅(露光時間)Tsh1 =Tmax ×N(N>1の整数)を有する露光信号SHを発生させる(図9中の第1のステップの部分を参照)。また、第2,第3指令を受けた場合には、第1実施形態の場合と全く同様に動作する(図9中の第2及び第3のステップの部分を参照)。但し、Tsh1=Tsh2=Tsh3=Tmaxである。また、図9は、発光部2から照射されるパルス光(照射光)、撮像部3にて受光されるパルス光(反射光あるいは散乱光)、各画素の画素値(各単位回路80の出力)の関係を示すタイミング図である。
[第3実施形態]
次に、第3実施形態について説明する。
即ち、本実施形態における距離画像データ生成処理では、S110〜S150をm回繰り返す毎に、S160を実行する。但し、S160では、S140にて逐次算出される基準画像データの画素値V4のm回分の累積値をVR4、S150にて逐次算出される強度画像データの画素値V5のm回分の累積値をVR5とし、これら累積値の比を取ることで距離画像データの画素値VR(=VR5/VR4)を求める。
[第4実施形態]
次に、第4実施形態について説明する。
次に、補正値算出処理を、図10に示すフローチャートに沿って説明する。
但し、距離画像データ生成装置1が撮像する距離画像の中に、当該装置1との距離が既知である物体(例えば、車室内を撮影する場合にはセンターピラー等)が必ず存在するものとし、その物体とその物体が撮像された画素(以下「基準画素」と称する。)の画素値Vとの距離(既知距離)をDfとする。
このように構成された本実施形態の距離画像データ生成装置1によれば、電源電圧、温度等の環境条件が変化することにより当該装置1の特性が変化したとしても、距離画像データに基づいて、精度の高い距離情報を常に得ることができる。
Hd=V6f・Lmax −Df (12)
D=V6・Lmax −Hd (13)
[他の実施形態]
上記実施形態では、露光時間Tsh1〜Tsh3や発光時間Tf1〜Tf3が固定値とされているが、その時々の場合に応じて可変設定してもよい。
また、上記実施形態では、シャッタスイッチ83、電荷リセットスイッチ82として、NMOS電界効果トランジスタを用いたが、PMOS電界効果トランジスタや、NMOS,PMOS両トランジスタを組み合わせたアナログスイッチ等を用いてもよい。また、ここでは、単位回路80を、光電変換素子81からの光電流でコンデンサ84に電荷を蓄積するように構成したが、コンデンサ84をプリチャージしておき、光電変換素子81の光電流でディスチャージするように構成してもよい。
Claims (16)
- 予め設定された測定範囲内にパルス光を照射する発光手段と、
二次元的に配列された複数の電荷積分型の光電変換素子からなる光電センサを有し、該光電センサに対する露光の調整が可能な撮像手段と、
前記発光手段での発光及び前記撮像手段での露光の期間あるいは開始タイミングを制御して、前記光電センサを構成する各光電変換素子の出力を各画素の画素値とした画像データを取得する画像データ取得手段と、
該画像データ取得手段が取得した画像データに基づいて、各画素が前記撮像手段にて撮像された被測定物までの距離に応じた画素値を有する距離画像データを生成する距離画像データ生成手段と、
を備えた距離画像データ生成装置において、
前記画像データ取得手段は、
前記発光手段にパルス光の照射を行わせることなく前記撮像手段に露光を行わせることで、該撮像手段から第1画像データを取得する第1画像データ取得手段と、
前記測定範囲内に存在する被測定物からの反射光あるいは散乱光のうち、前記発光手段が発光するパルス光の立ち上がり期間と立下り期間を除いた平坦部が、前記露光期間の全期間に渡って受光されるように発光及び露光の期間あるいは開始タイミングを設定することで、前記撮像手段から第2画像データを取得する第2画像データ取得手段と、
前記測定範囲内に存在する被測定物からの反射光あるいは散乱光のうち、前記発光手段が発光するパルス光の前記平坦部が、前記被測定物までの往復時間に応じた長さで受光されるように発光及び露光の期間あるいは開始タイミングを設定することで、前記撮像手段から第3画像データを取得する第3画像データ取得手段と、
を備え、
前記距離画像データ生成手段は、
前記第2画像データから前記第1画像データを減じることで基準画像データを求める第1演算手段と、
前記第3画像データから前記第1画像データを減じることで強度画像データを求める第2演算手段と、
前記基準画像データと前記強度画像データとの比を取ることで前記距離画像データを求める第3演算手段と、
を備えることを特徴とする距離画像データ生成装置。 - 前記第2画像データ取得手段では、
前記露光期間を、任意の長さに設定すると共に、
前記発光期間を、パルス光の立ち上がり期間の長さと、パルス光が測定範囲の境界までの距離を往復するのに要する上限往復時間と、前記露光期間の長さとを加算した長さ以上の時間に設定し、
露光開始より、少なくとも前記立ち上がり期間の長さに前記上限往復時間を加算した時間以上前に発光が開始されることを特徴とする請求項1に記載の距離画像データ生成装置。 - 前記第3画像データ取得手段では、
前記発光期間を、前記平坦部の長さが前記上限往復時間に等しくなるように設定すると共に、
前記露光期間を、前記平坦部以上の長さに設定し、
露光開始より、前記立ち上がり期間の長さに前記上限往復時間を加算した時間だけ前に発光が開始されることを特徴とする請求項1又は請求項2に記載の距離画像データ生成装置。 - 前記第1〜第3画像データ取得手段にて設定される前記露光期間が、いずれも同じ長さであることを特徴とする請求項1〜3のいずれかに記載の距離画像データ生成装置。
- 前記第1及び第2画像データ取得手段のうち少なくとも一方は、前記露光期間を前記第3画像データ取得手段とは異なる長さに設定し、
前記第1及び第2演算手段は、前記第1〜第3画像データの各画素値を、予め設定された単位時間当たりの値に規格化して、前記基準画像データ及び前記強度画像データを求めること
を特徴とする請求項1〜3のいずれかに記載の距離画像データ生成装置。 - 前記第1〜第3画像データ取得手段にて設定される前記露光期間のうち少なくとも一つは、複数に分割されていることを特徴とする請求項1〜5のいずれかに記載の距離画像データ生成装置。
- 前記第1及び第2演算手段は、前記基準画像データ及び前記強度画像データの各画素毎に画素値を累積し、
前記第3演算手段は、累積された画素値を有する前記基準画像データ及び前記強度画像データに基づいて前記距離画像データを生成すること
を特徴とする請求項1〜6のいずれかに記載の距離画像データ生成装置。 - 前記第3演算手段が生成する距離画像データに基づいて、被測定物までの絶対距離を求める距離算出手段を備えることを特徴とする請求項1〜7のいずれかに記載の距離画像データ生成装置。
- 前記距離算出手段は、前記距離画像データの各画素の画素値に、予め設定された定数を乗じることにより被測定物までの絶対距離を求めることを特徴とする請求項8に記載の距離画像データ生成装置。
- 前記距離算出手段は、画素値と絶対距離との対応を示す換算テーブルを用いて、被測定物までの絶対距離を求めることを特徴とする請求項8に記載の距離画像データ生成装置。
- 前記光電センサを構成する光電変換素子のうち、少なくとも一つの画素を基準画素とし、該基準画素では該基準画素との距離が既知である物体からの反射光あるいは散乱光を受光するように設定し、
前記距離算出手段は、前記基準画素について得られた絶対距離の算出値に基づいて、各画素毎の被測定物までの絶対距離を補正することを特徴とする請求項1〜10のいずれかに記載の距離画像データ生成装置。 - 前記発光手段に発光、前記撮像手段に露光を行わせ、前記光電変換素子の出力が飽和するまでに要する飽和時間を測定する飽和時間測定手段を備え、
前記第2画像データ生成手段は、前記飽和時間を上限として前記露光期間の長さを設定する
ことを特徴とする請求項1〜11のいずれかに記載の距離画像データ生成装置。 - 前記光電変換素子として、P型領域とN型領域の間に不純物濃度の低いI層を挟んだPIN型構造を持つフォトダイオードを使用することを特徴とする請求項1〜12のいずれかに記載の距離画像データ生成装置。
- 前記光電変換素子が発生させた電荷を、該光電変化素子とは別途形成されたコンデンサに蓄積することを特徴とする請求項1〜13のいずれかに記載の距離画像データ生成装置。
- 二次元的に配列された複数の電荷積分型の光電変換素子からなる光電センサの出力を、各画素の画素値とする画像データに基づいて距離画像データを生成する距離画像データ生成方法であって、
被測定物に対するパルス光の照射を行うことなく前記光電センサを露光することで、該光電センサから第1画像データを取得する第1のステップと、
パルス光を照射し、予め設定された測定範囲内に存在する被測定物からの反射光あるいは散乱光のうち、パルス光の立ち上がり期間と立ち下がり期間とを除いた平坦部に対応する部分が受光されるように該光電センサを露光することで、該光電センサから第2画像データを取得する第2のステップと、
パルス光を照射し、前記測定範囲内に存在する被測定物からの反射光あるいは散乱光のうち、パルス光の立ち上がり期間を除いた期間に対応する部分が、前記被測定物までの往復時間に応じた長さで受光されるように該光電センサを露光することで、該光電センサから第3画像データを取得する第3のステップと、
前記第2画像データから前記第1画像データを減じることで基準画像データを求める第4のステップと、
前記第3画像データから前記第1画像データを減じることで強度画像データを求める第5のステップと、
前記基準画像データと前記強度画像データとの比を取ることで前記距離画像データを求める第6のステップと、
を備えることを特徴とする距離画像データ生成方法。 - 請求項15に記載の各ステップを、コンピュータに実行させるためのプログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004020414A JP4161910B2 (ja) | 2004-01-28 | 2004-01-28 | 距離画像データ生成装置及び生成方法,プログラム |
US11/007,258 US7230685B2 (en) | 2004-01-28 | 2004-12-09 | Apparatus, method, and program for generating range-image-data |
DE102005004113.2A DE102005004113B4 (de) | 2004-01-28 | 2005-01-28 | Vorrichtung und Verfahren zum Erzeugen von Bereichsabbildungsdaten |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004020414A JP4161910B2 (ja) | 2004-01-28 | 2004-01-28 | 距離画像データ生成装置及び生成方法,プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005214743A true JP2005214743A (ja) | 2005-08-11 |
JP4161910B2 JP4161910B2 (ja) | 2008-10-08 |
Family
ID=34747382
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004020414A Expired - Fee Related JP4161910B2 (ja) | 2004-01-28 | 2004-01-28 | 距離画像データ生成装置及び生成方法,プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US7230685B2 (ja) |
JP (1) | JP4161910B2 (ja) |
DE (1) | DE102005004113B4 (ja) |
Cited By (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007170856A (ja) * | 2005-12-19 | 2007-07-05 | Denso Corp | 距離データ生成方法、距離画像生成装置、光電センサ |
JP2008064747A (ja) * | 2006-08-08 | 2008-03-21 | Watanabe Seisakusho:Kk | ファイバセンシングシステム |
JP2010151680A (ja) * | 2008-12-25 | 2010-07-08 | Toyota Motor Corp | センサ校正装置、及び、センサ校正方法 |
JP2011133320A (ja) * | 2009-12-24 | 2011-07-07 | Nippon Signal Co Ltd:The | 距離画像処理システム |
JP2011209214A (ja) * | 2010-03-30 | 2011-10-20 | Hamamatsu Photonics Kk | 時間計測装置および距離計測装置 |
JP2012501435A (ja) * | 2008-08-27 | 2012-01-19 | サムスン エレクトロニクス カンパニー リミテッド | 深さ映像獲得装置および方法 |
US8305562B2 (en) | 2007-11-13 | 2012-11-06 | Samsung Electronics Co., Ltd. | Depth image generating method and apparatus |
JP2013174446A (ja) * | 2012-02-23 | 2013-09-05 | Toshiba Corp | 3次元情報検出装置および3次元情報検出方法 |
WO2014208018A1 (ja) * | 2013-06-26 | 2014-12-31 | パナソニックIpマネジメント株式会社 | 測距システム |
US9123164B2 (en) | 2012-02-07 | 2015-09-01 | Samsung Electronics Co., Ltd. | 3D image acquisition apparatus and method of extracting depth information in 3D image acquisition apparatus |
JP2015172551A (ja) * | 2014-03-12 | 2015-10-01 | スタンレー電気株式会社 | 距離画像生成装置および距離画像生成方法 |
JP2016088325A (ja) * | 2014-11-06 | 2016-05-23 | 三菱重工業株式会社 | 進行方向監視装置、進行方向監視方法およびプログラム |
JPWO2014097539A1 (ja) * | 2012-12-20 | 2017-01-12 | パナソニックIpマネジメント株式会社 | 3次元測定装置および3次元測定方法 |
WO2017018399A1 (ja) * | 2015-07-30 | 2017-02-02 | 株式会社デンソー | 光飛行型測距装置 |
JPWO2015190015A1 (ja) * | 2014-06-09 | 2017-04-20 | パナソニックIpマネジメント株式会社 | 測距装置、およびそれに用いられる固体撮像素子 |
WO2018043941A1 (ko) * | 2016-09-05 | 2018-03-08 | 한국표준과학연구원 | 거리 측정 장치 및 거리 측정 장치의 동작 방법 |
JP2019023658A (ja) * | 2012-03-09 | 2019-02-14 | 株式会社半導体エネルギー研究所 | 半導体装置 |
WO2020130440A1 (ko) * | 2018-12-20 | 2020-06-25 | ㈜미래컴퍼니 | 3차원 거리측정 카메라 |
US10794695B2 (en) | 2015-06-24 | 2020-10-06 | Murata Manufacturing Co., Ltd. | Range sensor |
JP2021032794A (ja) * | 2019-08-28 | 2021-03-01 | パイオニア株式会社 | 計測装置、制御方法、プログラム及び記憶媒体 |
WO2021117608A1 (ja) * | 2019-12-13 | 2021-06-17 | 株式会社デンソー | 物体検出装置および物体検出装置の制御方法 |
WO2023042637A1 (ja) * | 2021-09-14 | 2023-03-23 | 株式会社デンソー | 制御装置、制御方法、制御プログラム |
Families Citing this family (49)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1667874B1 (en) * | 2003-10-03 | 2008-08-27 | Automotive Systems Laboratory Inc. | Occupant detection system |
US8594370B2 (en) | 2004-07-26 | 2013-11-26 | Automotive Systems Laboratory, Inc. | Vulnerable road user protection system |
US7984995B2 (en) * | 2006-05-24 | 2011-07-26 | Smart Technologies Ulc | Method and apparatus for inhibiting a subject's eyes from being exposed to projected light |
JP4315175B2 (ja) * | 2006-08-10 | 2009-08-19 | 日産自動車株式会社 | 光検出方法および光検出装置 |
JP2008052029A (ja) * | 2006-08-24 | 2008-03-06 | Takata Corp | 撮像システム、車両乗員検出システム、作動装置制御システム、車両 |
JP5073273B2 (ja) * | 2006-11-21 | 2012-11-14 | スタンレー電気株式会社 | 遠近判定方法およびその装置 |
US7940377B1 (en) * | 2008-12-05 | 2011-05-10 | Sandia Corporation | Passive background correction method for spatially resolved detection |
TWI421961B (zh) * | 2009-03-04 | 2014-01-01 | Macronix Int Co Ltd | 晶圓的檢測方法 |
US8964028B2 (en) * | 2009-12-21 | 2015-02-24 | Mesa Imaging Ag | Stray light compensation method and system for time of flight camera systems |
NZ600821A (en) * | 2009-12-21 | 2014-04-30 | Mesa Imaging Ag | Stray light compensation method and system for time of flight camera systems |
KR101675112B1 (ko) * | 2010-01-21 | 2016-11-22 | 삼성전자주식회사 | 거리 정보 추출 방법 및 상기 방법을 채용한 광학 장치 |
US8817173B2 (en) * | 2010-02-01 | 2014-08-26 | Olympus Imaging Corp. | Photographing apparatus capable of flash emission |
TWI425182B (zh) * | 2010-06-15 | 2014-02-01 | Pixart Imaging Inc | 距離測量系統及其方法 |
US8513585B2 (en) * | 2010-07-19 | 2013-08-20 | National Chiao Tung University | Optical three-dimensional coordinate sensor system and method thereof |
JP5671890B2 (ja) * | 2010-08-31 | 2015-02-18 | 株式会社ニコン | 撮像装置 |
KR101753312B1 (ko) | 2010-09-17 | 2017-07-03 | 삼성전자주식회사 | 뎁스 영상 생성 장치 및 방법 |
KR101722641B1 (ko) | 2010-12-23 | 2017-04-04 | 삼성전자주식회사 | 3차원 영상 획득 장치 및 상기 3차원 영상 획득 장치에서 깊이 정보를 추출하는 방법 |
KR101854188B1 (ko) | 2011-10-25 | 2018-05-08 | 삼성전자주식회사 | 3차원 영상 획득 장치 및 3차원 영상 획득 장치에서 깊이 정보 산출 방법 |
US9020202B2 (en) * | 2012-12-08 | 2015-04-28 | Masco Canada Limited | Method for finding distance information from a linear sensor array |
KR102007275B1 (ko) | 2012-12-27 | 2019-08-05 | 삼성전자주식회사 | 3차원 이미지 센서의 거리 픽셀 및 이를 포함하는 3차원 이미지 센서 |
KR102040152B1 (ko) | 2013-04-08 | 2019-12-05 | 삼성전자주식회사 | 3차원 영상 획득 장치 및 3차원 영상 획득 장치에서의 깊이 영상 생성 방법 |
KR102056904B1 (ko) | 2013-05-22 | 2019-12-18 | 삼성전자주식회사 | 3차원 영상 획득 장치 및 그 구동 방법 |
AU2014270405B2 (en) * | 2013-05-23 | 2018-10-04 | bioMérieux | Method, system and computer program product for producing a raised relief map from images of an object |
SG11201509788QA (en) * | 2013-06-06 | 2015-12-30 | Heptagon Micro Optics Pte Ltd | Sensor system with active illumination |
JP6296401B2 (ja) * | 2013-06-27 | 2018-03-20 | パナソニックIpマネジメント株式会社 | 距離測定装置および固体撮像素子 |
KR102194237B1 (ko) | 2014-08-29 | 2020-12-22 | 삼성전자주식회사 | 깊이 영상 촬영 장치 및 깊이 정보 획득 방법 |
EP3195299A1 (de) | 2014-09-19 | 2017-07-26 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Verfahren zum betreiben eines bidirektionalen displays |
JP6464410B2 (ja) * | 2014-09-26 | 2019-02-06 | シャープ株式会社 | 障害物判定装置および障害物判定方法 |
DE102014117705B3 (de) * | 2014-12-02 | 2016-02-18 | Odos Imaging Ltd. | Abstandsmessvorrichtung und Verfahren zum Bestimmen eines Abstands |
US9897698B2 (en) * | 2015-02-23 | 2018-02-20 | Mitsubishi Electric Research Laboratories, Inc. | Intensity-based depth sensing system and method |
KR102610830B1 (ko) | 2015-12-24 | 2023-12-06 | 삼성전자주식회사 | 거리 정보를 획득하는 방법 및 디바이스 |
CN108885263B (zh) * | 2016-03-21 | 2024-02-23 | 威力登激光雷达有限公司 | 具有可变脉冲重复的基于lidar的3d成像 |
WO2018030318A1 (ja) * | 2016-08-10 | 2018-02-15 | パナソニックIpマネジメント株式会社 | 投光撮像装置および投光撮像方法 |
KR20180021509A (ko) | 2016-08-22 | 2018-03-05 | 삼성전자주식회사 | 거리 정보를 획득하는 방법 및 디바이스 |
KR102561099B1 (ko) | 2016-09-23 | 2023-07-28 | 삼성전자주식회사 | ToF(time of flight) 촬영 장치 및 다중 반사에 의한 깊이 왜곡 저감 방법 |
US10582178B2 (en) * | 2016-11-02 | 2020-03-03 | Omnivision Technologies, Inc. | Systems and methods for active depth imager with background subtract |
JP6981997B2 (ja) * | 2016-11-29 | 2021-12-17 | ヌヴォトンテクノロジージャパン株式会社 | 距離測定装置 |
JP2018137569A (ja) * | 2017-02-21 | 2018-08-30 | ソニーセミコンダクタソリューションズ株式会社 | 測距装置、および測距方法 |
US10627492B2 (en) * | 2017-08-01 | 2020-04-21 | Waymo Llc | Use of extended detection periods for range aliasing detection and mitigation in a light detection and ranging (LIDAR) system |
DE102018131584A1 (de) | 2017-12-15 | 2019-06-19 | pmdtechnologies ag | Verfahren zur Entfernungsmessung mittels eines Lichtlaufzeit-Entfernungsmesssystems und entsprechendes Lichtlaufzeit-Entfernungsmesssystem |
CN108828607A (zh) * | 2018-06-12 | 2018-11-16 | 中国科学院半导体研究所 | 波长跳变抗干扰激光雷达系统 |
CN112714858B (zh) * | 2018-07-13 | 2024-07-09 | 拉布拉多系统公司 | 能够在不同环境照明条件下操作的移动设备的视觉导航 |
US10708514B2 (en) | 2018-08-30 | 2020-07-07 | Analog Devices, Inc. | Blending depth images obtained with multiple exposures |
DE102019104566B4 (de) * | 2019-02-22 | 2021-06-24 | pmdtechnologies ag | Verfahren zur Entfernungsmessung mittels eines LichtlaufzeitEntfernungsmesssystems und entsprechendes LichtlaufzeitEntfernungsmesssystem |
CN110308458B (zh) * | 2019-06-27 | 2021-03-23 | Oppo广东移动通信有限公司 | 调节方法、调节装置、终端及计算机可读存储介质 |
US11380004B2 (en) | 2019-12-13 | 2022-07-05 | Sony Semiconductor Solutions Corporation | Imaging devices and decoding methods thereof for determining distances to objects |
CN116583959A (zh) * | 2020-11-27 | 2023-08-11 | 趣眼有限公司 | 用于红外感测的方法和系统 |
EP4244650A4 (en) * | 2020-12-26 | 2024-01-24 | Trieye Ltd. | SYSTEMS, METHODS, AND COMPUTER PROGRAM PRODUCTS FOR GENERATING DEPTH IMAGES BASED ON SHORT-WAVE INFRARED SENSING INFORMATION |
CN113075672A (zh) * | 2021-03-03 | 2021-07-06 | 深圳市灵明光子科技有限公司 | 测距方法及系统、计算机可读存储介质 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE59809883D1 (de) * | 1997-12-23 | 2003-11-13 | Siemens Ag | Verfahren und vorrichtung zur aufnahme eines dreidimensionalen abstandsbildes |
JP2000146523A (ja) * | 1998-09-02 | 2000-05-26 | Sony Corp | 距離測定装置および方法 |
-
2004
- 2004-01-28 JP JP2004020414A patent/JP4161910B2/ja not_active Expired - Fee Related
- 2004-12-09 US US11/007,258 patent/US7230685B2/en active Active
-
2005
- 2005-01-28 DE DE102005004113.2A patent/DE102005004113B4/de not_active Expired - Fee Related
Cited By (32)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007170856A (ja) * | 2005-12-19 | 2007-07-05 | Denso Corp | 距離データ生成方法、距離画像生成装置、光電センサ |
JP2008064747A (ja) * | 2006-08-08 | 2008-03-21 | Watanabe Seisakusho:Kk | ファイバセンシングシステム |
US8305562B2 (en) | 2007-11-13 | 2012-11-06 | Samsung Electronics Co., Ltd. | Depth image generating method and apparatus |
KR101483462B1 (ko) * | 2008-08-27 | 2015-01-16 | 삼성전자주식회사 | 깊이 영상 획득 장치 및 방법 |
JP2012501435A (ja) * | 2008-08-27 | 2012-01-19 | サムスン エレクトロニクス カンパニー リミテッド | 深さ映像獲得装置および方法 |
JP2010151680A (ja) * | 2008-12-25 | 2010-07-08 | Toyota Motor Corp | センサ校正装置、及び、センサ校正方法 |
US8527141B2 (en) | 2008-12-25 | 2013-09-03 | Toyota Jidosha Kabushiki Kaisha | Sensor calibration device, and sensor calibration method |
JP2011133320A (ja) * | 2009-12-24 | 2011-07-07 | Nippon Signal Co Ltd:The | 距離画像処理システム |
JP2011209214A (ja) * | 2010-03-30 | 2011-10-20 | Hamamatsu Photonics Kk | 時間計測装置および距離計測装置 |
US9123164B2 (en) | 2012-02-07 | 2015-09-01 | Samsung Electronics Co., Ltd. | 3D image acquisition apparatus and method of extracting depth information in 3D image acquisition apparatus |
JP2013174446A (ja) * | 2012-02-23 | 2013-09-05 | Toshiba Corp | 3次元情報検出装置および3次元情報検出方法 |
JP2019023658A (ja) * | 2012-03-09 | 2019-02-14 | 株式会社半導体エネルギー研究所 | 半導体装置 |
JPWO2014097539A1 (ja) * | 2012-12-20 | 2017-01-12 | パナソニックIpマネジメント株式会社 | 3次元測定装置および3次元測定方法 |
WO2014208018A1 (ja) * | 2013-06-26 | 2014-12-31 | パナソニックIpマネジメント株式会社 | 測距システム |
US10048356B2 (en) | 2013-06-26 | 2018-08-14 | Panasonic Intellectual Property Management Co., Ltd. | Distance measuring system and imaging sensor |
JPWO2014208018A1 (ja) * | 2013-06-26 | 2017-02-23 | パナソニックIpマネジメント株式会社 | 測距システム、及び撮像センサ |
JP2015172551A (ja) * | 2014-03-12 | 2015-10-01 | スタンレー電気株式会社 | 距離画像生成装置および距離画像生成方法 |
JPWO2015190015A1 (ja) * | 2014-06-09 | 2017-04-20 | パナソニックIpマネジメント株式会社 | 測距装置、およびそれに用いられる固体撮像素子 |
JP2016088325A (ja) * | 2014-11-06 | 2016-05-23 | 三菱重工業株式会社 | 進行方向監視装置、進行方向監視方法およびプログラム |
US10794695B2 (en) | 2015-06-24 | 2020-10-06 | Murata Manufacturing Co., Ltd. | Range sensor |
JP2017032342A (ja) * | 2015-07-30 | 2017-02-09 | 株式会社デンソー | 光飛行型測距装置 |
WO2017018399A1 (ja) * | 2015-07-30 | 2017-02-02 | 株式会社デンソー | 光飛行型測距装置 |
WO2018043941A1 (ko) * | 2016-09-05 | 2018-03-08 | 한국표준과학연구원 | 거리 측정 장치 및 거리 측정 장치의 동작 방법 |
US11378665B2 (en) | 2016-09-05 | 2022-07-05 | Korea Research Institute Of Standards And Science | Distance measuring apparatus and method of operating the same |
WO2020130440A1 (ko) * | 2018-12-20 | 2020-06-25 | ㈜미래컴퍼니 | 3차원 거리측정 카메라 |
KR20200077208A (ko) * | 2018-12-20 | 2020-06-30 | (주)미래컴퍼니 | 3차원 거리측정 카메라 |
KR102165091B1 (ko) * | 2018-12-20 | 2020-10-13 | (주)미래컴퍼니 | 3차원 거리측정 카메라 |
JP2021032794A (ja) * | 2019-08-28 | 2021-03-01 | パイオニア株式会社 | 計測装置、制御方法、プログラム及び記憶媒体 |
WO2021117608A1 (ja) * | 2019-12-13 | 2021-06-17 | 株式会社デンソー | 物体検出装置および物体検出装置の制御方法 |
JP2021096070A (ja) * | 2019-12-13 | 2021-06-24 | 株式会社デンソー | 物体検出装置および物体検出装置の制御方法 |
JP7487470B2 (ja) | 2019-12-13 | 2024-05-21 | 株式会社デンソー | 物体検出装置および物体検出装置の制御方法 |
WO2023042637A1 (ja) * | 2021-09-14 | 2023-03-23 | 株式会社デンソー | 制御装置、制御方法、制御プログラム |
Also Published As
Publication number | Publication date |
---|---|
US7230685B2 (en) | 2007-06-12 |
US20050162638A1 (en) | 2005-07-28 |
DE102005004113A1 (de) | 2005-08-11 |
JP4161910B2 (ja) | 2008-10-08 |
DE102005004113B4 (de) | 2014-07-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4161910B2 (ja) | 距離画像データ生成装置及び生成方法,プログラム | |
JP7145201B2 (ja) | フォトセンサーにおける高強度光を検出すること | |
JP6596029B2 (ja) | ハイダイナミックレンジ画素およびそれを動作させるための方法 | |
EP3789792B1 (en) | Method for subtracting background light from an exposure value of a pixel in an imaging array, and pixel for use in same | |
JP5206297B2 (ja) | 光学式測距装置及び方法 | |
JP6709335B2 (ja) | 光センサ、電子機器、演算装置、及び光センサと検知対象物との距離を測定する方法 | |
JP4321540B2 (ja) | 物体検出装置 | |
CN108344984B (zh) | 光检测和测距系统 | |
JP2002500367A (ja) | 3次元距離画像を撮影するための方法及び装置 | |
JP2007170856A (ja) | 距離データ生成方法、距離画像生成装置、光電センサ | |
US11754717B2 (en) | Distance measurement device having external light illuminance measurement function and external light illuminance measurement method | |
JP2018169162A (ja) | 固体撮像装置 | |
KR20220069001A (ko) | 광 검출 장치 및 시스템 | |
WO2018030318A1 (ja) | 投光撮像装置および投光撮像方法 | |
ATE414900T1 (de) | Objektsensor und seine anwendung in einer scheibenwischersteuerungsschaltung | |
WO2019050024A1 (ja) | 距離測定方法および距離測定装置 | |
US20230194666A1 (en) | Object Reflectivity Estimation in a LIDAR System | |
US20220053119A1 (en) | Image capture method adapted to sparkling light sources and image sensor | |
CN114846355A (zh) | 测距装置 | |
WO2020193161A1 (en) | Time-of-flight apparatus and method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060320 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20080625 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080701 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080714 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110801 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120801 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130801 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |