JP2010281638A - 距離計測装置及び距離計測方法 - Google Patents
距離計測装置及び距離計測方法 Download PDFInfo
- Publication number
- JP2010281638A JP2010281638A JP2009134225A JP2009134225A JP2010281638A JP 2010281638 A JP2010281638 A JP 2010281638A JP 2009134225 A JP2009134225 A JP 2009134225A JP 2009134225 A JP2009134225 A JP 2009134225A JP 2010281638 A JP2010281638 A JP 2010281638A
- Authority
- JP
- Japan
- Prior art keywords
- relative error
- parts
- image size
- image
- distance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C3/00—Measuring distances in line of sight; Optical rangefinders
- G01C3/02—Details
- G01C3/06—Use of electric means to obtain final indication
- G01C3/08—Use of electric radiation detectors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
- G06V20/582—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of traffic signs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20076—Probabilistic image processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
- G06T2207/30256—Lane; Road marking
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Electromagnetism (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Measurement Of Optical Distance (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
【解決手段】第1〜第3部位検出部101〜103は、対象物の撮像画像から、対象物に含まれる、サイズが既知である複数部位の部位画像を検出する。相対誤差比較部104は、部位検出部101〜103により検出された複数部位の画像サイズD1〜D3と、複数部位において既知であるサイズに関する情報とを用いて、画像サイズD1、D2、D3と画像サイズに含まれる誤差d1、d2、d3との割合である相対誤差d1/D1、d2/D2、d3/D3を最も小さくする部位画像サイズを選択する。距離推定部105は、選択された部位画像サイズを用いて対象物の距離を算出する。
【選択図】図3
Description
対象物距離=(カメラの焦点距離×対象物実サイズ)/(画素ピッチ×対象物画素数) …(1)
図2(a)は制限速度標識を示す図であり、この図において、標識の外枠の円を第1部位とし、標識の内枠の円を第2部位とし、左の数字「5」又は右の数字「0」を囲む長方形枠を第3部位と定義する。なお、図2(b)は図2(a)の2値画像を示す。以下、図2に示した制限速度標識を例に説明する。
図3は、本発明の実施の形態1に係る距離計測装置100の構成を示すブロック図である。距離計測装置100は自動車等の車両に搭載され、第1〜3部位検出部101〜103に画像情報(2値画像)を入力する。画像情報は、車両に搭載されたカメラによってリアルタイムに撮像された車両周辺の画像である。
ここでは、距離計算に用いる部位の画像サイズを、相対誤差を用いて選択する処理について説明する。
C1=D1+d1
C2=D2+d2 ………(2)
C3=D3+d3
C1=k21×C2
C3=k23×C2 ………(3)
z1/Z=d1/D1
z2/Z=d2/D2 ………(4)
z3/Z=d3/D3
相対誤差比較部104は、第1〜第3部位検出部101〜103から出力された実測画像サイズD1〜D3、及び、第1〜第3部位の実測誤差d1〜d3を用いて、相対誤差和d1/D1+d2/D2+d3/D3を算出する。そして、相対誤差比較部104は、この相対誤差和d1/D1+d2/D2+d3/D3を最小にする画像サイズを求めて、その画像サイズが距離計算に用いるに適した画像サイズであると判断して、その画像サイズを距離推定部105に送る。
(ii)次に、仮定したC2と、式(3)とを用いて、C1、C3の値を計算する。
(iii)次に、C1〜C3の値と、D1〜D3の値と、式(2)と用いて、d1、d2、d3の値を計算する。
(iv)次に、相対誤差和d1/D1+d2/D2+d3/D3を計算する。
方法1では、最適なC2を探索する方法について説明したが、ここでは、最適なC2を探索せずに、既存の実測画像サイズD1〜D3から一番精度の高い値を選択する方法について説明する。
まず、相対誤差比較部104は、d1=0と仮定し、C1=D1とする。続いて、相対誤差比較部104は、d2/D2、d3/D3を求め、d1/D1、d2/D2、d3/D3のうち最大値(最大相対誤差)を選択する。
以上説明したように、本実施の形態によれば、対象物の撮像画像から、対象物に含まれる、サイズが既知である複数部位の部位画像を検出する部位検出部101〜103と、部位検出部101〜103により検出された複数部位の画像サイズD1〜D3と、複数部位において既知であるサイズに関する情報とを用いて、画像サイズD1、D2、D3と画像サイズに含まれる誤差d1、d2、d3との割合である相対誤差d1/D1、d2/D2、d3/D3を最も小さくする部位画像サイズを選択する相対誤差比較部302と、選択された部位画像サイズを用いて、対象物との距離を推定する距離推定部105と、を設けたことにより、対象物の検出誤差に起因する距離検出精度の劣化を十分に抑え、撮像した対象物との距離を高精度に計測することができる。
本発明の実施の形態2では、相対誤差d1/D1、d2/D2、d3/D3のそれぞれの確率密度分布を利用する場合について説明する。この確率密度分布は、事前統計知識として、実際の距離測定に先立って求めておく。
(ii)次に、仮定したC2と、式(3)とを用いて、C1、C3の値を計算する。
(iii)次に、C1〜C3の値と、D1〜D3の値と、式(2)と用いて、d1、d2、d3の値を計算する。
(iv)次に、相対誤差d1/D1、d2/D2、d3/D3をそれぞれ計算する。
本発明の実施の形態3では、カメラの露出などのカメラパラメータを制御し、道路標識等の各部位をより高精度に検出する方法について説明する。
102 第2部位検出部
103 第3部位検出部
104、302 相対誤差比較部
105 距離推定部
301 確率密度分布算出部
401 部位品質判定部
402 カメラパラメータ制御部
403 蓄積部
Claims (7)
- 対象物の撮像画像から、前記対象物に含まれる、サイズが既知である複数部位の部位画像を検出する部位画像検出手段と、
前記部位画像検出手段により検出された前記複数部位の画像サイズと、前記複数部位において既知であるサイズに関する情報とを用いて、前記画像サイズと前記画像サイズに含まれる誤差との割合である相対誤差を最も小さくする部位画像サイズを選択する相対誤差比較手段と、
前記選択された部位画像サイズを用いて、前記対象物との距離を推定する距離推定手段と、
を具備する距離計測装置。 - 前記相対誤差比較手段は、前記複数部位間において既知であるサイズ比率を用いる、
請求項1に記載の距離計測装置。 - 前記相対誤差比較手段は、前記部位毎の相対誤差の和である相対誤差和を求め、前記相対誤差和を最小にする部位の画像サイズを選択する、
請求項1に記載の距離計測装置。 - 請求項1に記載の距離計測装置であって、前記相対誤差比較手段は、次の処理(i)〜(iii)を行うことで、前記相対誤差を最も小さくする部位画像サイズを選択する。
(i).前記複数部位のうちのいずれか1つの部位の前記誤差を0と仮定し、かつ前記誤差を0と仮定する部位を順次変える。
(ii).前記(i)の条件の下で、前記誤差を0とした1つの部位を除く他の部位の前記相対誤差和を求める。
(iii).どの部位の前記誤差を0としたときに前記(ii)の相対誤差和が最も小さくなるかを探索し、当該相対誤差和が最も小さくなったときの前記誤差を0とした部位画像サイズを、前記相対誤差を最も小さくする部位画像サイズとして選択する。 - 前記相対誤差比較手段は、前記部位画像検出手段により検出された前記複数部位の画像サイズと、前記複数部位において既知であるサイズに関する情報と、に加えて、事前統計知識として用意された、前記複数部位についての前記相対誤差の確率密度分布を用いて、前記相対誤差を最も小さくする部位画像サイズを選択する、
請求項1に記載の距離計測装置。 - 前記複数部位の撮像品質を判定し、次フレームで再検出すべき部位を決定する部位品質判定手段と、
再検出すべき部位に適したカメラパラメータを設定するカメラパラメータ制御手段と、
を、さらに具備する請求項1に記載の距離計測装置。 - 対象物の撮像画像から、前記対象物に含まれる、サイズが既知である複数部位の部位画像を検出する部位画像検出ステップと、
前記部位画像検出ステップで検出した前記複数部位の画像サイズと、前記複数部位において既知であるサイズに関する情報とを用いて、前記画像サイズと前記画像サイズに含まれる誤差との割合である相対誤差を最も小さくする部位画像サイズを選択する相対誤差比較ステップと、
前記選択した部位画像サイズを用いて、前記対象物との距離を推定する距離推定ステップと、
を含む距離計測方法。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009134225A JP5294995B2 (ja) | 2009-06-03 | 2009-06-03 | 距離計測装置及び距離計測方法 |
CN2010800211765A CN102428345A (zh) | 2009-06-03 | 2010-05-21 | 距离测量装置和距离测量方法 |
EP10783102A EP2439491A4 (en) | 2009-06-03 | 2010-05-21 | DISTANCE MEASURING DEVICE AND DISTANCE MEASURING METHOD |
US13/375,608 US20120093372A1 (en) | 2009-06-03 | 2010-05-21 | Distance measuring device and distance measuring method |
PCT/JP2010/003441 WO2010140314A1 (ja) | 2009-06-03 | 2010-05-21 | 距離計測装置及び距離計測方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009134225A JP5294995B2 (ja) | 2009-06-03 | 2009-06-03 | 距離計測装置及び距離計測方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010281638A true JP2010281638A (ja) | 2010-12-16 |
JP5294995B2 JP5294995B2 (ja) | 2013-09-18 |
Family
ID=43297457
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009134225A Expired - Fee Related JP5294995B2 (ja) | 2009-06-03 | 2009-06-03 | 距離計測装置及び距離計測方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20120093372A1 (ja) |
EP (1) | EP2439491A4 (ja) |
JP (1) | JP5294995B2 (ja) |
CN (1) | CN102428345A (ja) |
WO (1) | WO2010140314A1 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015001791A (ja) * | 2013-06-14 | 2015-01-05 | 株式会社ジオ技術研究所 | 画像解析装置 |
JP2020132389A (ja) * | 2019-02-22 | 2020-08-31 | 東芝エレベータ株式会社 | エレベータシステム |
DE102011005780B4 (de) | 2011-03-18 | 2022-06-02 | Robert Bosch Gmbh | Verfahren und Vorrichtung zur Bestimmung einer Entfernung zwischen einem Fahrzeug und einem Objekt |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101429250B1 (ko) * | 2010-08-20 | 2014-09-25 | 주식회사 팬택 | 단계별 객체 정보 제공이 가능한 단말 장치 및 방법 |
US9476970B1 (en) * | 2012-03-19 | 2016-10-25 | Google Inc. | Camera based localization |
KR20130127822A (ko) * | 2012-05-15 | 2013-11-25 | 한국전자통신연구원 | 도로상 물체 분류 및 위치검출을 위한 이종 센서 융합처리 장치 및 방법 |
JP5809653B2 (ja) * | 2013-02-28 | 2015-11-11 | 富士フイルム株式会社 | 車間距離算出装置およびその動作制御方法 |
KR101353052B1 (ko) * | 2013-07-31 | 2014-01-20 | 주식회사 피엘케이 테크놀로지 | 교통표지판 인식을 위한 차량용 영상인식시스템 |
DE102013111840A1 (de) | 2013-10-28 | 2015-04-30 | Dr. Ing. H.C. F. Porsche Aktiengesellschaft | Verfahren zum Erfassen eines Objekts |
DE102014202503A1 (de) * | 2014-02-12 | 2015-08-13 | Robert Bosch Gmbh | Verfahren und Vorrichtung zum Bestimmen eines Abstands eines Fahrzeugs zu einem verkehrsregelnden Objekt |
US9896022B1 (en) * | 2015-04-20 | 2018-02-20 | Ambarella, Inc. | Automatic beam-shaping using an on-car camera system |
GB201900839D0 (en) * | 2019-01-21 | 2019-03-13 | Or3D Ltd | Improvements in and relating to range-finding |
ES2954483T3 (es) * | 2020-03-16 | 2023-11-22 | Zeiss Carl Vision Int Gmbh | Métodos y dispositivos implementados por ordenador para determinar las dimensiones y distancias de las características de la cabeza |
CN111612109A (zh) * | 2020-05-14 | 2020-09-01 | 中国铁建高新装备股份有限公司 | 一种轨道设备走行距离和速度的自动校验系统及方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11166811A (ja) * | 1997-12-05 | 1999-06-22 | Nippon Telegr & Teleph Corp <Ntt> | 車間距離測定方法、車間距離測定装置及び車間距離測定プログラムを記録した記録媒体 |
JP2003030628A (ja) * | 2001-07-18 | 2003-01-31 | Fujitsu Ltd | 相対位置計測装置 |
JP2004271250A (ja) * | 2003-03-06 | 2004-09-30 | Mitsubishi Motors Corp | 車間距離検出装置 |
JP2005321872A (ja) * | 2004-05-06 | 2005-11-17 | Fuji Photo Film Co Ltd | 撮像システム、撮像制御プログラム、撮像制御方法、および車両 |
Family Cites Families (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5577130A (en) * | 1991-08-05 | 1996-11-19 | Philips Electronics North America | Method and apparatus for determining the distance between an image and an object |
US5625711A (en) * | 1994-08-31 | 1997-04-29 | Adobe Systems Incorporated | Method and apparatus for producing a hybrid data structure for displaying a raster image |
JPH08219775A (ja) | 1995-02-16 | 1996-08-30 | Mitsubishi Heavy Ind Ltd | 距離計測装置 |
US5867256A (en) * | 1997-07-16 | 1999-02-02 | Raytheon Ti Systems, Inc. | Passive range estimation using image size measurements |
JP3626141B2 (ja) * | 2001-08-10 | 2005-03-02 | 株式会社ソキア | 撮像装置を備えた自動視準測量機 |
US7424133B2 (en) * | 2002-11-08 | 2008-09-09 | Pictometry International Corporation | Method and apparatus for capturing, geolocating and measuring oblique images |
JP2006266848A (ja) * | 2005-03-23 | 2006-10-05 | Sharp Corp | 距離測定装置 |
JP2006330908A (ja) | 2005-05-24 | 2006-12-07 | Toyota Motor Corp | 位置記録装置及び位置記録方法 |
JP4587038B2 (ja) | 2005-05-25 | 2010-11-24 | 住友電気工業株式会社 | 車両位置検出方法、並びに車両速度検出方法及び装置 |
US20070121094A1 (en) * | 2005-11-30 | 2007-05-31 | Eastman Kodak Company | Detecting objects of interest in digital images |
JP4426535B2 (ja) * | 2006-01-17 | 2010-03-03 | 本田技研工業株式会社 | 車両の周辺監視装置 |
FR2897163B1 (fr) * | 2006-02-08 | 2008-04-11 | Thales Sa | Procede de geo-localisation d'une ou plusieurs cibles |
US20070206175A1 (en) * | 2006-03-03 | 2007-09-06 | Rai Barinder S | Range finder integrated digital camera |
JP4456086B2 (ja) * | 2006-03-09 | 2010-04-28 | 本田技研工業株式会社 | 車両周辺監視装置 |
US8571272B2 (en) * | 2006-03-12 | 2013-10-29 | Google Inc. | Techniques for enabling or establishing the use of face recognition algorithms |
KR100884904B1 (ko) * | 2007-09-12 | 2009-02-19 | 아주대학교산학협력단 | 평행 투영 모델을 이용한 자기위치 인식 방법 |
US8264537B2 (en) * | 2007-09-28 | 2012-09-11 | The Mainz Group Llc | Photogrammetric networks for positional accuracy |
JP5034050B2 (ja) | 2007-11-01 | 2012-09-26 | 株式会社リコー | 画像形成装置 |
JP5177147B2 (ja) * | 2007-11-19 | 2013-04-03 | 富士通株式会社 | 撮像装置、撮像方法および撮像プログラム |
CN100587396C (zh) * | 2008-08-21 | 2010-02-03 | 金华市蓝海光电技术有限公司 | 用于激光测距仪的半导体激光驱动装置 |
CA2763369A1 (en) * | 2009-06-01 | 2010-12-09 | Bio-Rad Laboratories, Inc. | Calibration of imaging device for biological/chemical samples |
US8654195B2 (en) * | 2009-11-13 | 2014-02-18 | Fujifilm Corporation | Distance measuring apparatus, distance measuring method, distance measuring program, distance measuring system, and image pickup apparatus |
JP5168601B2 (ja) * | 2010-03-31 | 2013-03-21 | アイシン・エィ・ダブリュ株式会社 | 自車位置認識システム |
JP5494427B2 (ja) * | 2010-11-12 | 2014-05-14 | 富士通株式会社 | 画像処理プログラムおよび画像処理装置 |
-
2009
- 2009-06-03 JP JP2009134225A patent/JP5294995B2/ja not_active Expired - Fee Related
-
2010
- 2010-05-21 CN CN2010800211765A patent/CN102428345A/zh active Pending
- 2010-05-21 US US13/375,608 patent/US20120093372A1/en not_active Abandoned
- 2010-05-21 WO PCT/JP2010/003441 patent/WO2010140314A1/ja active Application Filing
- 2010-05-21 EP EP10783102A patent/EP2439491A4/en not_active Withdrawn
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11166811A (ja) * | 1997-12-05 | 1999-06-22 | Nippon Telegr & Teleph Corp <Ntt> | 車間距離測定方法、車間距離測定装置及び車間距離測定プログラムを記録した記録媒体 |
JP2003030628A (ja) * | 2001-07-18 | 2003-01-31 | Fujitsu Ltd | 相対位置計測装置 |
JP2004271250A (ja) * | 2003-03-06 | 2004-09-30 | Mitsubishi Motors Corp | 車間距離検出装置 |
JP2005321872A (ja) * | 2004-05-06 | 2005-11-17 | Fuji Photo Film Co Ltd | 撮像システム、撮像制御プログラム、撮像制御方法、および車両 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102011005780B4 (de) | 2011-03-18 | 2022-06-02 | Robert Bosch Gmbh | Verfahren und Vorrichtung zur Bestimmung einer Entfernung zwischen einem Fahrzeug und einem Objekt |
JP2015001791A (ja) * | 2013-06-14 | 2015-01-05 | 株式会社ジオ技術研究所 | 画像解析装置 |
JP2020132389A (ja) * | 2019-02-22 | 2020-08-31 | 東芝エレベータ株式会社 | エレベータシステム |
Also Published As
Publication number | Publication date |
---|---|
US20120093372A1 (en) | 2012-04-19 |
EP2439491A4 (en) | 2012-12-19 |
CN102428345A (zh) | 2012-04-25 |
EP2439491A1 (en) | 2012-04-11 |
WO2010140314A1 (ja) | 2010-12-09 |
JP5294995B2 (ja) | 2013-09-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5294995B2 (ja) | 距離計測装置及び距離計測方法 | |
US10698308B2 (en) | Ranging method, automatic focusing method and device | |
RU2529594C1 (ru) | Устройство калибровки, система измерения расстояния, способ калибровки и программа калибровки | |
JP4961234B2 (ja) | 物体追跡装置 | |
EP2584309B1 (en) | Image capture device and image capture method | |
US8995753B2 (en) | Stereo distance measurement apparatus and stereo distance measurement method | |
TWI393980B (zh) | The method of calculating the depth of field and its method and the method of calculating the blurred state of the image | |
US20110069892A1 (en) | Method of comparing similarity of 3d visual objects | |
JP2016207030A (ja) | 画像処理装置 | |
CN105953741B (zh) | 一种钢结构局部几何变形的测量系统和方法 | |
WO2011125937A1 (ja) | キャリブレーションデータ選択装置、選択方法、及び選択プログラム、並びに三次元位置測定装置 | |
CN110345875B (zh) | 标定及测距方法、装置、电子设备及计算机可读存储介质 | |
JP6505830B2 (ja) | 細胞解析装置および細胞解析方法 | |
CN111750804A (zh) | 一种物体测量的方法及设备 | |
JP2018087732A (ja) | ワイヤロープ計測装置及び方法 | |
JP5481862B2 (ja) | パンタグラフ高さ測定装置及びそのキャリブレーション方法 | |
CN109489560B (zh) | 一种线性尺寸测量方法及装置、智能终端 | |
JP2008298589A (ja) | 位置検出装置及び位置検出方法 | |
JPH04172213A (ja) | 三次元形状測定装置の校正方法 | |
JP2006349443A (ja) | カメラ校正装置 | |
CN109215068B (zh) | 图像放大率测量方法及装置 | |
US20220398778A1 (en) | Lens calibration method for digital imaging apparatus | |
TWI407179B (zh) | 影像自動對焦方法 | |
JP2004354234A (ja) | 写真計測用カメラキャリブレーション方法 | |
JP2000074665A (ja) | 距離画像生成装置及び方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20120302 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130219 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130416 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130521 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130611 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |