JP2009163716A - 距離画像処理装置および方法、距離画像再生装置および方法並びにプログラム - Google Patents
距離画像処理装置および方法、距離画像再生装置および方法並びにプログラム Download PDFInfo
- Publication number
- JP2009163716A JP2009163716A JP2008287615A JP2008287615A JP2009163716A JP 2009163716 A JP2009163716 A JP 2009163716A JP 2008287615 A JP2008287615 A JP 2008287615A JP 2008287615 A JP2008287615 A JP 2008287615A JP 2009163716 A JP2009163716 A JP 2009163716A
- Authority
- JP
- Japan
- Prior art keywords
- distance
- image
- information
- image file
- conversion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Measurement Of Optical Distance (AREA)
- Image Processing (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
Abstract
【解決手段】撮像部21A,21Bが、被写体を撮像することにより、被写体の3次元形状を表す奥行き情報および位置情報を含む距離値を算出するための基準画像および参照画像を取得する。距離画像生成部31が、基準画像および参照画像から距離値を算出する。距離画像変換部32が、所定範囲にある奥行き情報について、所定範囲外にある奥行き情報よりも大きい量子化数により量子化し、距離画像符号化部33が量子化された位置情報を含む距離値を各画素の画素値とする距離画像を符号化し、圧縮/伸長処理部24が符号化された距離画像の画像ファイルを生成する。
【選択図】図1
Description
前記奥行き情報が小さいほど大きい量子化数により該奥行き情報を変換する変換手段と、
該変換に関する情報が付与された、前記変換された奥行き情報を含む距離値を各画素の画素値とする距離画像の画像ファイルを生成する画像ファイル生成手段とを備えたことを特徴とするものである。
前記画像ファイル生成手段を、該変換された位置情報を含む距離値を各画素の画素値とする距離画像の画像ファイルを生成する手段としてもよい。
前記画像ファイルに付与された前記変換に関する情報を取得し、該情報に基づいて前記画像ファイルに含まれる前記変換された奥行き情報を逆変換する逆変換手段とを備えたことを特徴とするものである。
前記奥行き情報が小さいほど大きい量子化数により該奥行き情報を変換し、
該変換に関する情報が付与された、前記変換された奥行き情報を含む距離値を各画素の画素値とする距離画像の画像ファイルを生成することを特徴とするものである。
該変換された位置情報を含む距離値を各画素の画素値とする距離画像の画像ファイルを生成するようにしてもよい。
前記画像ファイルに付与された前記変換に関する情報を取得し、
該情報に基づいて前記画像ファイルに含まれる前記変換された奥行き情報を逆変換することを特徴とするものである。
該情報に基づいて前記画像ファイルに含まれる前記変換された奥行き情報および前記変換された位置情報を逆変換するようにしてもよい。
Y=b・v/(u−u′) (2)
Z=b・f/(u−u′) (3)
ここでu−u′は、撮像部21A,21Bの画像面上における投影点の横方向のずれ量(視差)である。また、式(3)より、奥行きである距離Zは視差に反比例することが分かる。なお、このようにして算出したX,Y,Zを距離値とする。また、距離値X,Yはその画素の位置を表す位置情報であり、距離値Zは距離すなわち奥行き情報である。なお、距離値X,Y,Zは基準画像G1および参照画像G2の共通する範囲においてのみ算出される。このため、後の処理を容易に行うために、距離値X,Y,Zについては、撮像部21Aの座標系から、撮像部21A,21Bそれぞれの画像面の原点の中間位置を原点とする座標系に変換することとする。以降では、座標系は撮像部21A,21Bのそれぞれの画像面の原点の中間位置を原点とするものとして説明する。
Xti=128Xi(SL2−SL1)/XL2(K−SL1) (5)
Yti=128Yi(SL2−SL1)/YL2(K−SL1) (6)
一方、ステップST4が否定されると、距離画像変換部32は、図6における範囲bの関係を表す下記の式(7)により距離値Ziを量子化して、量子化された距離値Ztiを算出する(ステップST7)。さらに、距離値Xi,Yiを下記の式(8)、(9)によりそれぞれ量子化して、量子化された距離値Xti,Ytiを算出する(ステップST8)。
Xti=128Xi/XL2 (8)
Yti=128Yi/YL2 (9)
ステップST6,ST8に続いて、距離画像変換部32は、すべての画素の距離値Xi,Yi,Ziについて量子化を終了したか否かを判定し(ステップST9)、ステップST9が否定されると量子化の対象を次の画素に設定し(i=i+1,ステップST10)、ステップST4に戻り、ステップST4以降の処理を繰り返す。
Xti=Px+(Xi−XL2/2)(128−Px)/(XL2/2) (11)
ステップST36,ST37に続いて、距離画像変換部32は、距離値YiについてYL1/2≦Yi≦YL2/2であるか否かを判定する(ステップST38)。ステップST38が肯定されると、YL1/2≦Yi≦YL2/2の間の関係を表す下記の式(12)により距離値Yiを量子化して、量子化された距離値Ytiを算出する(ステップST39)。ステップST38が否定されると、Y<YL1/2、YL2/2<Yiの間の関係を表す下記の式(13)により距離値Yiを量子化して、量子化された距離値Ytiを算出する(ステップST40)。
Yti=Px+(Yi−YL2/2)(128−Px)/(YL2/2) (13)
そして、第1の実施形態におけるステップST9、第2の実施形態におけるステップST28の処理へ進む。これにより、量子化された距離値Xti,Yti,Ztiを各画素の画素値とする距離画像の画像データが符号化され、距離画像の画像ファイルが生成され、画像ファイルが記録メディア29に記録される。なお、この場合、±Pxおよび±Pyの値および量子化数を変更する境界が距離関連の情報として画像ファイルのヘッダに記述される。
Xti=128Xi(SL2−SL1)/XL2(K2−SL1) (15)
Yti=128Yi(SL2−SL1)/YL2(K2−SL1) (16)
そして、距離画像変換部32は、すべての画素の距離値について量子化を終了したか否かを判定し(ステップST63)、ステップST63が否定されると量子化の対象を次の画素に設定し(i=i+1,ステップST64)、ステップST61に戻り、ステップST61以降の処理を繰り返す。ステップST63が肯定されるとモードaによる量子化の処理を終了する。
なお、α=128/(SL2−SL1)である。
なお、β={256−(SL2−K2)α−(K1−SL1)α}/(K2−K1)である。
Xti=128Xi/XL2 (20)
Yti=128Yi/YL2 (21)
そして、すべての画素の距離値について量子化を終了したか否かを判定し(ステップST77)、ステップST77が否定されると量子化の対象を次の画素に設定し(i=i+1,ステップST78)、ステップST71に戻り、ステップST71以降の処理を繰り返す。ステップST78が肯定されるとモードbによる処理を終了する。
Xi=Xti(K−SL1)XL2/128(SL2−SL1) (22)
Yi=Yti(K−SL1)YL2/128(SL2−SL1) (23)
一方、ステップST104が否定されると、距離画像逆変換部34は、距離関連の情報を用いて、図6における範囲bの逆の関係を表す下記の式(24)により距離値Ziを算出する(ステップST107)。さらに下記の式(25)、(26)により距離値Xi,Yiを算出する(ステップST108)。なお、式(24)〜(26)は、上記式(7)〜(9)をZi,Xi,Yiについて解くことにより求めることができる。
Xi=Xti・XL2/128 (25)
Yi=Yti・YL2/128 (26)
ステップST106,ST108に続いて、距離画像逆変換部34は、すべての画素の距離値Xi,Yi,Ziを逆量子化したか否かを判定し(ステップST109)、ステップST109が否定されると逆量子化の対象を次の画素に設定し(i=i+1,ステップST110)、ステップST104に戻り、ステップST104以降の処理を繰り返す。
21A,21B 撮像部
24 圧縮/伸長処理部
30 ステレオマッチング部
31 距離画像生成部
32 距離画像変換部
33 距離画像符号化部
34 距離画像逆変換部
35 距離画像復号化部
Claims (26)
- 被写体を撮像することにより取得された、該被写体の3次元形状を表す奥行き情報および位置情報を含む距離値を取得する距離値取得手段と、
前記奥行き情報が小さいほど大きい量子化数により該奥行き情報を変換する変換手段と、
該変換に関する情報が付与された、前記変換された奥行き情報を含む距離値を各画素の画素値とする距離画像の画像ファイルを生成する画像ファイル生成手段とを備えたことを特徴とする距離画像処理装置。 - 前記変換手段は、第1のしきい値以下となる前記奥行き情報の量子化数を、前記第1のしきい値を超える前記奥行き情報の量子化数よりも大きくする手段であることを特徴とする請求項1記載の距離画像処理装置。
- 前記変換手段は、前記第1のしきい値を設定可能な手段であることを特徴とする請求項2記載の距離画像処理装置。
- 前記変換手段は、前記被写体までの距離を表す距離情報に応じて前記第1のしきい値を設定可能な手段であることを特徴とする請求項3記載の距離画像処理装置。
- 前記画像ファイル生成手段は、前記第1のしきい値および該第1のしきい値における量子化数の情報を前記変換に関する情報として前記画像ファイルに付与する手段であることを特徴とする請求項2から4のいずれか1項記載の距離画像処理装置。
- 前記変換手段は、あらかじめ定められた連続的に変化する前記奥行き情報と前記量子化数との関係に基づいて、前記奥行き情報を変換する手段であることを特徴とする請求項1記載の距離画像処理装置。
- 前記画像ファイル生成手段は、前記関係の情報を前記変換に関する情報として前記画像ファイルに付与する手段であることを特徴とする請求項6記載の距離画像処理装置。
- 前記変換手段は、変換後の前記奥行き情報の量子化数を設定可能な手段であることを特徴とする請求項1から7のいずれか1項記載の距離画像処理装置。
- 前記変換手段は、前記奥行き情報の変換の指示を受け付け、該指示がなされた場合にのみ、該奥行き情報を変換する手段であることを特徴とする1から8のいずれか1項記載の距離画像処理装置。
- 前記変換手段は、前記奥行き情報が第2のしきい値より大きい場合、前記距離値を各画素の画素値とする距離画像の中心に近いほど大きい量子化数により前記位置情報を変換する手段であり、
前記画像ファイル生成手段は、該変換された位置情報を含む距離値を各画素の画素値とする距離画像の画像ファイルを生成する手段であることを特徴とする請求項1から9のいずれか1の記載の距離画像処理装置。 - 前記変換手段は、前記距離画像の中心を含む所定範囲の前記位置情報の量子化数を、前記所定範囲外の前記位置情報の量子化数よりも大きくする手段であることを特徴とする請求項10記載の距離画像処理装置。
- 前記画像ファイル生成手段は、前記所定範囲の境界および該境界における量子化数の情報を前記変換に関する情報として前記画像ファイルに付与する手段であることを特徴とする請求項10または11記載の距離画像処理装置。
- 前記変換手段は、前記第2のしきい値を設定可能な手段であることを特徴とする請求項10から12のいずれか1項記載の距離画像処理装置。
- 前記変換手段は、前記被写体までの距離を表す距離情報に応じて前記第2のしきい値を設定可能な手段であることを特徴とする請求項13記載の距離画像処理装置。
- 前記変換手段は、変換後の前記位置情報の量子化数を設定可能な手段であることを特徴とする請求項10から14のいずれか1項記載の距離画像処理装置。
- 前記変換手段は、前記位置情報の変換の指示を受け付け、該指示がなされた場合にのみ、該位置情報を変換する手段であることを特徴とする請求項10から15のいずれか1項記載の距離画像処理装置。
- 請求項1から16のいずれか1項記載の距離画像処理装置により生成された画像ファイルを取得する画像ファイル取得手段と、
前記画像ファイルに付与された前記変換に関する情報を取得し、該情報に基づいて前記画像ファイルに含まれる前記変換された奥行き情報を逆変換する逆変換手段とを備えたことを特徴とする距離画像再生装置。 - 請求項10から16のいずれか1項記載の距離画像処理装置により生成された画像ファイルを取得する画像ファイル取得手段と、
前記画像ファイルに付与された前記変換に関する情報を取得し、該情報に基づいて前記画像ファイルに含まれる前記変換された奥行き情報および前記変換された位置情報を逆変換する逆変換手段とを備えたことを特徴とする距離画像再生装置。 - 被写体を撮像することにより取得された、該被写体の3次元形状を表す奥行き情報および位置情報を含む距離値を取得し、
前記奥行き情報が小さいほど大きい量子化数により該奥行き情報を変換し、
該変換に関する情報が付与された、前記変換された奥行き情報を含む距離値を各画素の画素値とする距離画像の画像ファイルを生成することを特徴とする距離画像処理方法。 - 前記奥行き情報が第2のしきい値より大きい場合、前記距離値を各画素の画素値とする距離画像の中心に近いほど大きい量子化数により前記位置情報を変換し、
該変換された位置情報を含む距離値を各画素の画素値とする距離画像の画像ファイルを生成することを特徴とする請求項19記載の距離画像処理方法。 - 請求項19記載の距離画像処理方法により生成された画像ファイルを取得し、
前記画像ファイルに付与された前記変換に関する情報を取得し、
該情報に基づいて前記画像ファイルに含まれる前記変換された奥行き情報を逆変換することを特徴とする距離画像再生方法。 - 請求項20記載の距離画像処理方法により生成された画像ファイルを取得し、
前記画像ファイルに付与された前記変換に関する情報を取得し、
該情報に基づいて前記画像ファイルに含まれる前記変換された奥行き情報および前記変換された位置情報を逆変換することを特徴とする距離画像再生方法。 - 被写体を撮像することにより取得された、該被写体の3次元形状を表す奥行き情報および位置情報を含む距離値を取得する手順と、
前記奥行き情報が小さいほど大きい量子化数により該奥行き情報を変換する手順と、
該変換に関する情報が付与された、前記変換された奥行き情報を含む距離値を各画素の画素値とする距離画像の画像ファイルを生成する手順とを有することを特徴とする距離画像処理方法をコンピュータに実行させるためのプログラム。 - 前記奥行き情報が第2のしきい値より大きい場合、前記距離値を各画素の画素値とする距離画像の中心に近いほど大きい量子化数により前記位置情報を変換する手順と、
該変換された位置情報を含む距離値を各画素の画素値とする距離画像の画像ファイルを生成する手順とをさらに有することを特徴とする請求項23記載のプログラム。 - 請求項19記載の距離画像処理方法により生成された画像ファイルを取得する手順と、
前記画像ファイルに付与された前記変換に関する情報を取得する手順と、
該情報に基づいて前記画像ファイルに含まれる前記変換された奥行き情報を逆変換する手順とを有することを特徴とする距離画像再生方法をコンピュータに実行させるためのプログラム。 - 請求項20記載の距離画像処理方法により生成された画像ファイルを取得する手順と、
前記画像ファイルに付与された前記変換に関する情報を取得する手順と、
該情報に基づいて前記画像ファイルに含まれる前記変換された奥行き情報および前記変換された位置情報を逆変換する手順とを有することを特徴とする距離画像再生方法をコンピュータに実行させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008287615A JP5147650B2 (ja) | 2007-12-10 | 2008-11-10 | 距離画像処理装置および方法、距離画像再生装置および方法並びにプログラム |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007318068 | 2007-12-10 | ||
JP2007318068 | 2007-12-10 | ||
JP2008287615A JP5147650B2 (ja) | 2007-12-10 | 2008-11-10 | 距離画像処理装置および方法、距離画像再生装置および方法並びにプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2009163716A true JP2009163716A (ja) | 2009-07-23 |
JP5147650B2 JP5147650B2 (ja) | 2013-02-20 |
Family
ID=40966216
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008287615A Expired - Fee Related JP5147650B2 (ja) | 2007-12-10 | 2008-11-10 | 距離画像処理装置および方法、距離画像再生装置および方法並びにプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5147650B2 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20110055820A (ko) * | 2009-11-20 | 2011-05-26 | 삼성전자주식회사 | 윤곽선 정보를 이용한 입체 영상 압축 장치 및 방법 |
JP2015038466A (ja) * | 2013-07-16 | 2015-02-26 | 株式会社キーエンス | 三次元画像処理装置、三次元画像処理方法及び三次元画像処理プログラム並びにコンピュータで読み取り可能な記録媒体及び記録した機器 |
US9338426B2 (en) | 2010-10-27 | 2016-05-10 | Panasonic Intellectual Property Management Co., Ltd. | Three-dimensional image processing apparatus, three-dimensional imaging apparatus, and three-dimensional image processing method |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06113334A (ja) * | 1992-09-29 | 1994-04-22 | Fujitsu Ltd | 3次元ボリュームデータの量子化方式 |
JPH08331607A (ja) * | 1995-03-29 | 1996-12-13 | Sanyo Electric Co Ltd | 三次元表示画像生成方法 |
JP2000341720A (ja) * | 1999-05-31 | 2000-12-08 | Asahi Optical Co Ltd | 3次元画像入力装置および記録媒体 |
JP2001509325A (ja) * | 1996-10-09 | 2001-07-10 | トラスティース オブ コロンビア ユニヴァーシティ イン ザ シティ オブ ニューヨーク | 3次元深度情報を利用したデジタル画像と動画像の分割と圧縮を行う方法及び装置 |
WO2004071102A1 (ja) * | 2003-01-20 | 2004-08-19 | Sanyo Electric Co,. Ltd. | 立体視用映像提供方法及び立体映像表示装置 |
JP2005252754A (ja) * | 2004-03-05 | 2005-09-15 | Fuji Photo Film Co Ltd | 画像ファイル生成装置および方法ならびに画像ファイル再生装置および方法 |
JP2005353047A (ja) * | 2004-05-13 | 2005-12-22 | Sanyo Electric Co Ltd | 立体画像処理方法および立体画像処理装置 |
JP2006053694A (ja) * | 2004-08-10 | 2006-02-23 | Riyuukoku Univ | 空間シミュレータ、空間シミュレート方法、空間シミュレートプログラム、記録媒体 |
-
2008
- 2008-11-10 JP JP2008287615A patent/JP5147650B2/ja not_active Expired - Fee Related
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06113334A (ja) * | 1992-09-29 | 1994-04-22 | Fujitsu Ltd | 3次元ボリュームデータの量子化方式 |
JPH08331607A (ja) * | 1995-03-29 | 1996-12-13 | Sanyo Electric Co Ltd | 三次元表示画像生成方法 |
JP2001509325A (ja) * | 1996-10-09 | 2001-07-10 | トラスティース オブ コロンビア ユニヴァーシティ イン ザ シティ オブ ニューヨーク | 3次元深度情報を利用したデジタル画像と動画像の分割と圧縮を行う方法及び装置 |
JP2000341720A (ja) * | 1999-05-31 | 2000-12-08 | Asahi Optical Co Ltd | 3次元画像入力装置および記録媒体 |
WO2004071102A1 (ja) * | 2003-01-20 | 2004-08-19 | Sanyo Electric Co,. Ltd. | 立体視用映像提供方法及び立体映像表示装置 |
JP2005252754A (ja) * | 2004-03-05 | 2005-09-15 | Fuji Photo Film Co Ltd | 画像ファイル生成装置および方法ならびに画像ファイル再生装置および方法 |
JP2005353047A (ja) * | 2004-05-13 | 2005-12-22 | Sanyo Electric Co Ltd | 立体画像処理方法および立体画像処理装置 |
JP2006053694A (ja) * | 2004-08-10 | 2006-02-23 | Riyuukoku Univ | 空間シミュレータ、空間シミュレート方法、空間シミュレートプログラム、記録媒体 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20110055820A (ko) * | 2009-11-20 | 2011-05-26 | 삼성전자주식회사 | 윤곽선 정보를 이용한 입체 영상 압축 장치 및 방법 |
KR101705025B1 (ko) * | 2009-11-20 | 2017-02-09 | 삼성전자주식회사 | 윤곽선 정보를 이용한 입체 영상 압축 장치 및 방법 |
US9338426B2 (en) | 2010-10-27 | 2016-05-10 | Panasonic Intellectual Property Management Co., Ltd. | Three-dimensional image processing apparatus, three-dimensional imaging apparatus, and three-dimensional image processing method |
JP2015038466A (ja) * | 2013-07-16 | 2015-02-26 | 株式会社キーエンス | 三次元画像処理装置、三次元画像処理方法及び三次元画像処理プログラム並びにコンピュータで読み取り可能な記録媒体及び記録した機器 |
Also Published As
Publication number | Publication date |
---|---|
JP5147650B2 (ja) | 2013-02-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109922251B (zh) | 快速抓拍的方法、装置及系统 | |
JP4886716B2 (ja) | 画像処理装置および方法並びにプログラム | |
JP4799438B2 (ja) | 画像記録装置、画像記録方法、画像符号化装置、及びプログラム | |
JP4998956B2 (ja) | 距離画像処理装置および方法、距離画像再生装置および方法並びにプログラム | |
JP4599080B2 (ja) | 画像符号化方法,撮像装置およびコンピュータプログラム | |
JP4894939B2 (ja) | 撮像装置、表示方法、および、プログラム | |
US8983217B2 (en) | Stereo image encoding apparatus, its method, and image pickup apparatus having stereo image encoding apparatus | |
JP2004208318A (ja) | アーカイブ像の中の重要領域を決定する撮像装置と方法 | |
JP2015033103A (ja) | 画像処理装置、画像処理方法、およびプログラム | |
WO2019124248A1 (ja) | 画像処理装置、コンテンツ処理装置、コンテンツ処理システム、および画像処理方法 | |
US20090148038A1 (en) | Distance image processing apparatus and method | |
KR20090057443A (ko) | 이미지 캡처 디바이스의 예측 초점값 계산 | |
JP2009047497A (ja) | 立体撮像装置および立体撮像装置の制御方法並びにプログラム | |
JP2009163717A (ja) | 距離画像処理装置および方法、距離画像再生装置および方法並びにプログラム | |
JP5147650B2 (ja) | 距離画像処理装置および方法、距離画像再生装置および方法並びにプログラム | |
JP4909063B2 (ja) | 撮像装置及び画像記録方法 | |
JP2009047498A (ja) | 立体撮像装置および立体撮像装置の制御方法並びにプログラム | |
JP2009047496A (ja) | 立体撮像装置および立体撮像装置の制御方法並びにプログラム | |
JP2009162748A (ja) | 距離画像処理装置および方法、距離画像再生装置および方法並びにプログラム | |
JP2013150071A (ja) | 符号化装置、符号化方法、プログラム及び記憶媒体 | |
JP2009047495A (ja) | 立体撮像装置および立体撮像装置の制御方法並びにプログラム | |
JP2009163718A (ja) | 距離画像再生装置および方法並びにプログラム | |
US9363432B2 (en) | Image processing apparatus and image processing method | |
WO2011074189A1 (ja) | 画像符号化方法及び画像符号化装置 | |
JP6905184B2 (ja) | 画像圧縮プログラム、画像圧縮装置、及び画像圧縮方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD15 | Notification of revocation of power of sub attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7435 Effective date: 20110421 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20110706 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120413 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120424 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120528 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20121113 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20121127 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20151207 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |