JP5190663B2 - 距離画像生成装置 - Google Patents
距離画像生成装置 Download PDFInfo
- Publication number
- JP5190663B2 JP5190663B2 JP2007081763A JP2007081763A JP5190663B2 JP 5190663 B2 JP5190663 B2 JP 5190663B2 JP 2007081763 A JP2007081763 A JP 2007081763A JP 2007081763 A JP2007081763 A JP 2007081763A JP 5190663 B2 JP5190663 B2 JP 5190663B2
- Authority
- JP
- Japan
- Prior art keywords
- light
- distance image
- photoelectric conversion
- distance
- amount
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000006243 chemical reaction Methods 0.000 claims description 104
- 238000000034 method Methods 0.000 claims description 14
- 238000000605 extraction Methods 0.000 claims description 10
- 238000009825 accumulation Methods 0.000 claims description 3
- 230000001678 irradiating effect Effects 0.000 claims 1
- 238000001514 detection method Methods 0.000 description 25
- 238000012545 processing Methods 0.000 description 16
- 230000007423 decrease Effects 0.000 description 9
- 230000003247 decreasing effect Effects 0.000 description 7
- 238000005259 measurement Methods 0.000 description 7
- 229920006395 saturated elastomer Polymers 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 239000000284 extract Substances 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000002310 reflectometry Methods 0.000 description 2
- 229930091051 Arenine Natural products 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/06—Systems determining position data of a target
- G01S17/08—Systems determining position data of a target for measuring distance only
- G01S17/32—Systems determining position data of a target for measuring distance only using transmission of continuous waves, whether amplitude-, frequency-, or phase-modulated, or unmodulated
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/93—Lidar systems specially adapted for specific applications for anti-collision purposes
- G01S17/931—Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Electromagnetism (AREA)
- Computer Networks & Wireless Communication (AREA)
- General Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Optical Radar Systems And Details Thereof (AREA)
- Measurement Of Optical Distance (AREA)
- Photo Coupler, Interrupter, Optical-To-Optical Conversion Devices (AREA)
Description
以下、本発明の第一実施形態である距離画像生成装置について図面を参照しながら説明する。
まず、第一実施形態である距離画像生成装置の構成について説明する。
次に、距離画像を生成する原理について説明する。
次に、上記構成の距離画像生成装置1の動作について図面を参照しながら説明する。
図3は、外乱光がほとんどなく、対象物が遠い、もしくは、対象物の反射率が極端に小さい場合に起こりうる、変調光と入射光の関係を表している。
図5は、外乱光が多く、対象物の反射率が高い場合に起こりうる、変調光と入射光の関係を表している。
制御部16は、このカウントされた光電変換素子の数が一定数を超えると(ステップS23:Yes)、光源11の光量が明るすぎると判断して光源11の光量を下げるように制御する(ステップS24)。以後、ステップS10からステップS14の処理を繰り返す。
図7は、外乱光が比較的多く、対象物が遠い、もしくは、対象物の反射率が極端に小さい場合に起こりうる、変調光と入射光の関係を表している。図7中、正弦波51は光源から照射される変調光を表しており、正弦波52は入射光を表している。入射光52の光量は十分だが、対象物で反射した変調光成分が非常に少ないため、上記式1にて位相差φを求める際、(C1−C3)、(C2−C4)の値が小さくなる。そのため、C1、C2、C3、C4にほんの少しのノイズがのると、位相差φの値が大きく変動する可能性がある。
撮像している対象物が一定の場合、光源11の光量と、上記式3で求めた振幅量Bは、理論上は比例する。よって、全ての光電変換素子の振幅量Bの平均値もしくは標準偏差を算出し、その値が規定範囲内に収まるように、光源11の光量を増減させてもよい。この場合、距離画像生成装置1は図8に示すように動作する。
距離画像生成装置1を室内等で固定して使用する場合、背景の輝度や距離が固定であることが多い。そのような状況で背景以外の対象物を検出する際に、背景以外の対象物のみを抽出することで、その対象物の距離画像の精度を上げることが可能である。
距離画像生成装置1を屋外等で使用する場合、もしくは距離画像生成装置を自動車等の移動体に取り付けて使用する場合等、対象物の距離が大きく変化する状況で使用する際に、検出したい距離範囲を設定することで、その範囲内にある対象物の距離検出精度を上げることが可能である。
対象距離範囲が複数ある場合、もしくは異なる距離、反射率を持つ複数の対象物がある場合等で、光源11の光量が1種類では対象物の距離を精度良く測定できない場合、フレーム間で複数の光量を順次変化させることで、これらの複数の対象物の距離を精度良く測定することが可能になる。
次に、本発明の第二実施形態である距離画像生成装置について図面を参照しながら説明する。
外で車両前方の距離を測定する場合、一般的に画像上部は空などの比較的距離が遠いものが撮像され、逆に画像下部は、道路もしくは自車両の一部など比較的距離が近いものが多く撮像される。よって、画像上の位置毎に光量が可変であることが望ましい。
Claims (7)
- 対象空間に変調した変調光を照射する発光源と、
前記発光源から照射され対象空間内の対象物で反射した反射光を受光して電荷に変換する複数の光電変換素子、前記光電変換素子ごとに設けられた複数の電荷蓄積部、及び、前記発光源の変調に同期して、前記光電変換素子により変換された電荷を前記複数の電荷蓄積部に振り分ける手段と、を備えた撮像素子と、
前記複数の電荷蓄積部に蓄積された電荷に基づいて所定演算を行い、画素値が距離値である距離画像を生成する距離画像生成部と、
前記発光源の変調光の光量を調整する光量調整手段と、
少なくとも一つの前記電荷蓄積部に閾値以上又は閾値以下の電荷量が蓄積された前記光電変換素子の数をカウントするカウント手段と、
を備え、
前記光量調整手段は、前記カウント手段によりカウントされた前記閾値以下の電荷量が蓄積された前記光電変換素子の数が一定数を超えたとき前記発光源の変調光の光量を上げるように調整するか、または、前記カウント手段によりカウントされた前記閾値以上の電荷量が蓄積された前記光電変換素子の数が一定数を超えたとき前記発光源の変調光の光量を下げるように調整することを特徴とする距離画像生成装置。 - 前記距離画像生成部により生成された距離画像から背景以外の対象物を抽出する抽出手段をさらに備えており、
前記カウント手段は、前記抽出手段により抽出された対象物に対応する前記光電変換素子に対して前記カウントする処理を行うことを特徴とする請求項1に記載の距離画像生成装置。 - 前記距離画像生成部により生成された距離画像から予め定められた距離範囲内の対象物を抽出する抽出手段をさらに備えており、
前記カウント手段は、前記抽出手段により抽出された対象物に対応する前記光電変換素子に対して前記カウントする処理を行うことを特徴とする請求項1に記載の距離画像生成装置。 - 前記光量調整手段は、フレーム時間毎に前記発光源の変調光の光量を変化させることを特徴とする請求項1から3のいずれかに記載の距離画像生成装置。
- 前記発光源は、対象空間に変調した変調光を照射する複数の発光体を備えており、
前記複数の発光体は、複数の領域に分割されており、
前記複数の光電変換素子は、前記複数の領域に対応して複数の光電変換素子エリアに分割されており、
前記光量調整手段は、前記分割された光電変換素子エリアごとに、前記カウント手段によりカウントされた前記光電変換素子の数に基づいて、該分割された光電変換素子エリアに対応するエリアを照射する発光体の変調光の光量を調整することを特徴とする請求項1に記載の距離画像生成装置。 - 前記距離画像生成部により生成された距離画像から背景以外の対象物を抽出する抽出手段をさらに備えており、
前記カウント手段は、前記抽出手段により抽出された対象物に対応する前記光電変換素子に対して前記カウントする処理を行うことを特徴とする請求項5に記載の距離画像生成装置。 - 前記距離画像生成部により生成された距離画像から予め定められた距離範囲内の対象物を抽出する抽出手段をさらに備えており、
前記カウント手段は、前記抽出手段により抽出された対象物に対応する前記光電変換素子に対して前記カウントする処理を行うことを特徴とする請求項5に記載の距離画像生成装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007081763A JP5190663B2 (ja) | 2007-03-27 | 2007-03-27 | 距離画像生成装置 |
US12/057,370 US7645974B2 (en) | 2007-03-27 | 2008-03-27 | Method and apparatus for distance measurement |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007081763A JP5190663B2 (ja) | 2007-03-27 | 2007-03-27 | 距離画像生成装置 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012107826A Division JP5190721B2 (ja) | 2012-05-09 | 2012-05-09 | 距離画像生成装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2008241435A JP2008241435A (ja) | 2008-10-09 |
JP5190663B2 true JP5190663B2 (ja) | 2013-04-24 |
Family
ID=39792584
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007081763A Expired - Fee Related JP5190663B2 (ja) | 2007-03-27 | 2007-03-27 | 距離画像生成装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US7645974B2 (ja) |
JP (1) | JP5190663B2 (ja) |
Families Citing this family (47)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008241434A (ja) * | 2007-03-27 | 2008-10-09 | Stanley Electric Co Ltd | 距離画像生成装置 |
JP4993087B2 (ja) * | 2007-03-28 | 2012-08-08 | 株式会社Ihi | レーザ監視装置 |
DK1985969T3 (en) * | 2007-04-26 | 2017-12-04 | Sick Ivp Ab | Method and apparatus for determining the amount of scattered light in a machine vision system |
JP2009192499A (ja) * | 2008-02-18 | 2009-08-27 | Stanley Electric Co Ltd | 距離画像生成装置 |
US8378661B1 (en) * | 2008-05-29 | 2013-02-19 | Alpha-Omega Power Technologies, Ltd.Co. | Solar simulator |
US8730382B2 (en) * | 2008-06-04 | 2014-05-20 | Honda Motor Co., Ltd. | Charge accumulating and splitting imaging device |
JP4629136B2 (ja) * | 2008-10-15 | 2011-02-09 | 富士フイルム株式会社 | 測距装置および測距方法並びにプログラム |
JP5368771B2 (ja) * | 2008-11-10 | 2013-12-18 | パナソニック株式会社 | 乗員監視装置 |
US8471895B2 (en) * | 2008-11-25 | 2013-06-25 | Paul S. Banks | Systems and methods of high resolution three-dimensional imaging |
JP5799211B2 (ja) * | 2009-04-24 | 2015-10-21 | パナソニックIpマネジメント株式会社 | 距離画像センサ |
JP5743390B2 (ja) * | 2009-09-15 | 2015-07-01 | 本田技研工業株式会社 | 測距装置、及び測距方法 |
DE102009045558B4 (de) * | 2009-10-12 | 2021-07-15 | pmdtechnologies ag | Kamerasystem |
DE102009045600B4 (de) | 2009-10-12 | 2021-11-04 | pmdtechnologies ag | Kamerasystem |
JP5469446B2 (ja) * | 2009-12-22 | 2014-04-16 | パナソニック株式会社 | 物体検知装置 |
KR101746499B1 (ko) * | 2010-12-23 | 2017-06-14 | 한국전자통신연구원 | 다이내믹 레인지 삼차원 영상 시스템 |
JP5683002B2 (ja) * | 2011-02-01 | 2015-03-11 | Jukiオートメーションシステムズ株式会社 | 3次元測定装置、3次元測定方法及びプログラム |
DE102011078307A1 (de) * | 2011-06-29 | 2013-01-03 | Ifm Electronic Gmbh | Beleuchtung für eine Lichtlaufzeitkamera |
US9579788B2 (en) * | 2012-02-10 | 2017-02-28 | Ascent Ventures, Llc | Automated testing and verification of a robotic system |
JP6019621B2 (ja) * | 2012-03-01 | 2016-11-02 | 日産自動車株式会社 | 距離計測装置 |
CN104160243B (zh) * | 2012-03-01 | 2017-03-01 | 日产自动车株式会社 | 距离测量装置和距离测量方法 |
JP5190721B2 (ja) * | 2012-05-09 | 2013-04-24 | スタンレー電気株式会社 | 距離画像生成装置 |
KR102017688B1 (ko) * | 2012-07-18 | 2019-09-04 | 삼성전자주식회사 | 반사광의 광량 변화를 이용한 근접 센서 |
US10324033B2 (en) * | 2012-07-20 | 2019-06-18 | Samsung Electronics Co., Ltd. | Image processing apparatus and method for correcting an error in depth |
DE102013002650A1 (de) * | 2013-02-15 | 2014-08-21 | Volkswagen Aktiengesellschaft | Bestimmung einer Entfernungsinformation für ein Fahrzeug |
WO2014162675A1 (ja) * | 2013-04-01 | 2014-10-09 | パナソニック株式会社 | 複数の光源を有するモーションセンサ装置 |
JP6292533B2 (ja) | 2013-12-06 | 2018-03-14 | 株式会社リコー | 物体検出装置及びセンシング装置 |
CN105899966B (zh) * | 2014-01-14 | 2019-05-07 | 松下知识产权经营株式会社 | 距离图像生成装置以及距离图像生成方法 |
CN103822704B (zh) * | 2014-03-10 | 2015-08-26 | 重庆交通大学 | 道路照明测量装置 |
JP6246911B2 (ja) | 2014-05-02 | 2017-12-20 | 富士フイルム株式会社 | 測距装置、測距方法、及び測距プログラム |
GB2529846B (en) * | 2014-09-03 | 2019-02-20 | Dyson Technology Ltd | Illumination Control of a Vision System for a Mobile Robot |
GB2529847B (en) * | 2014-09-03 | 2018-12-19 | Dyson Technology Ltd | A mobile Robot with Independently Adjustable Light Sources |
JP6405820B2 (ja) * | 2014-09-17 | 2018-10-17 | 富士通株式会社 | 信号伝送装置、信号伝送方法および信号伝送プログラム |
JP6536008B2 (ja) * | 2014-10-30 | 2019-07-03 | 株式会社デンソー | 車両用光飛行型測距装置 |
JP6455088B2 (ja) * | 2014-11-06 | 2019-01-23 | 株式会社デンソー | 光飛行型測距装置 |
JP6590517B2 (ja) * | 2015-05-12 | 2019-10-16 | スタンレー電気株式会社 | 距離画像生成装置 |
WO2017022152A1 (ja) * | 2015-07-31 | 2017-02-09 | パナソニックIpマネジメント株式会社 | 測距撮像装置、及び、固体撮像装置 |
KR20170048972A (ko) | 2015-10-27 | 2017-05-10 | 삼성전자주식회사 | 영상을 생성하는 방법 및 장치 |
JP6846708B2 (ja) * | 2017-03-30 | 2021-03-24 | パナソニックIpマネジメント株式会社 | 画像認識装置および距離画像生成方法 |
KR102476404B1 (ko) * | 2017-07-18 | 2022-12-12 | 엘지이노텍 주식회사 | ToF 모듈 및 그 ToF 모듈을 이용한 피사체 인식장치 |
DE102018101846A1 (de) * | 2018-01-26 | 2019-08-01 | Sick Ag | Optoelektronischer Sensor und Verfahren zur Erfassung von Objekten |
US20190045169A1 (en) * | 2018-05-30 | 2019-02-07 | Intel Corporation | Maximizing efficiency of flight optical depth sensors in computing environments |
JP2020076619A (ja) * | 2018-11-07 | 2020-05-21 | ソニーセミコンダクタソリューションズ株式会社 | 投光制御装置、投光制御方法 |
KR20200066947A (ko) * | 2018-12-03 | 2020-06-11 | 삼성전자주식회사 | 라이다 장치 및 이의 구동 방법 |
JP7388064B2 (ja) | 2019-03-20 | 2023-11-29 | 株式会社リコー | 測距装置および測距方法 |
JP7348300B2 (ja) * | 2019-09-30 | 2023-09-20 | 富士フイルム株式会社 | 処理装置、電子機器、処理方法、及びプログラム |
WO2021065176A1 (ja) | 2019-09-30 | 2021-04-08 | 富士フイルム株式会社 | 処理装置、電子機器、処理方法、及びプログラム |
WO2021182405A1 (ja) * | 2020-03-12 | 2021-09-16 | ファナック株式会社 | 撮像回数を調整する距離画像撮像システム |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05264719A (ja) * | 1992-03-19 | 1993-10-12 | Nec Corp | レーザレーダ装置 |
JP3183598B2 (ja) * | 1993-12-14 | 2001-07-09 | 三菱電機株式会社 | 障害物検知装置 |
JP2000075030A (ja) | 1998-08-27 | 2000-03-14 | Aisin Seiki Co Ltd | スキャン型レーザーレーダ装置 |
JP2001280951A (ja) * | 2000-03-31 | 2001-10-10 | Omron Corp | 光学式変位計 |
JP4000760B2 (ja) * | 2000-08-28 | 2007-10-31 | 松下電工株式会社 | 光学式変位測定装置 |
JP3832441B2 (ja) | 2002-04-08 | 2006-10-11 | 松下電工株式会社 | 強度変調光を用いた空間情報の検出装置 |
JP2005182137A (ja) | 2003-12-16 | 2005-07-07 | Nissan Motor Co Ltd | 先行車両検出装置及び先行車両検出方法 |
JP4363296B2 (ja) * | 2004-10-01 | 2009-11-11 | パナソニック電工株式会社 | 距離画像センサ |
JP4200328B2 (ja) * | 2005-04-18 | 2008-12-24 | パナソニック電工株式会社 | 空間情報検出システム |
JP5665159B2 (ja) * | 2007-02-23 | 2015-02-04 | パナソニックIpマネジメント株式会社 | 距離画像センサ |
JP2008241695A (ja) * | 2007-02-27 | 2008-10-09 | Fujifilm Corp | 測距装置及び測距方法 |
JP4993084B2 (ja) * | 2007-03-20 | 2012-08-08 | 株式会社Ihi | レーザ監視装置 |
JP2008241434A (ja) * | 2007-03-27 | 2008-10-09 | Stanley Electric Co Ltd | 距離画像生成装置 |
JP5019117B2 (ja) * | 2007-11-14 | 2012-09-05 | スタンレー電気株式会社 | 距離画像生成装置 |
JP5190721B2 (ja) * | 2012-05-09 | 2013-04-24 | スタンレー電気株式会社 | 距離画像生成装置 |
-
2007
- 2007-03-27 JP JP2007081763A patent/JP5190663B2/ja not_active Expired - Fee Related
-
2008
- 2008-03-27 US US12/057,370 patent/US7645974B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2008241435A (ja) | 2008-10-09 |
US7645974B2 (en) | 2010-01-12 |
US20080237445A1 (en) | 2008-10-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5190663B2 (ja) | 距離画像生成装置 | |
US20210181317A1 (en) | Time-of-flight-based distance measurement system and method | |
US11624835B2 (en) | Processing of LIDAR images | |
JP2009192499A (ja) | 距離画像生成装置 | |
CN111025317B (zh) | 一种可调的深度测量装置及测量方法 | |
CN111830530B (zh) | 一种距离测量方法、系统及计算机可读存储介质 | |
JP6676866B2 (ja) | 測距撮像装置及び固体撮像素子 | |
CN110709722B (zh) | 飞行时间摄像机 | |
US20180299552A1 (en) | Accurate photo detector measurements for lidar | |
JP6863342B2 (ja) | 光測距装置 | |
US7379163B2 (en) | Method and system for automatic gain control of sensors in time-of-flight systems | |
JP2022105771A (ja) | 距離測定装置 | |
JP5743390B2 (ja) | 測距装置、及び測距方法 | |
US20040233416A1 (en) | Method and device for recording a three-dimensional distance-measuring image | |
JP2019052978A (ja) | 距離計測装置 | |
CN106662651A (zh) | Tof相机系统以及用于测量与该系统的距离的方法 | |
JP2010175435A (ja) | 三次元情報検出装置及び三次元情報検出方法 | |
CN111766596A (zh) | 一种距离测量方法、系统及计算机可读存储介质 | |
CN114930192B (zh) | 红外成像组件 | |
CN111796295B (zh) | 一种采集器、采集器的制造方法及距离测量系统 | |
JP5190721B2 (ja) | 距離画像生成装置 | |
CN110850426A (zh) | 一种tof深度相机 | |
CN111025319B (zh) | 一种深度测量装置及测量方法 | |
JP2020160044A (ja) | 測距装置および測距方法 | |
JP2018021776A (ja) | 視差演算システム、移動体及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100308 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120308 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120315 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120509 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130104 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130117 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 5190663 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20160208 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |