JP4117771B2 - オルソフォト画像生成方法およびオルソフォト画像生成システム - Google Patents
オルソフォト画像生成方法およびオルソフォト画像生成システム Download PDFInfo
- Publication number
- JP4117771B2 JP4117771B2 JP2002139875A JP2002139875A JP4117771B2 JP 4117771 B2 JP4117771 B2 JP 4117771B2 JP 2002139875 A JP2002139875 A JP 2002139875A JP 2002139875 A JP2002139875 A JP 2002139875A JP 4117771 B2 JP4117771 B2 JP 4117771B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- occlusion
- side wrap
- area
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims description 15
- 238000001514 detection method Methods 0.000 claims description 12
- 238000003384 imaging method Methods 0.000 claims description 11
- 238000006243 chemical reaction Methods 0.000 claims description 7
- 230000000295 complement effect Effects 0.000 claims description 4
- 230000009466 transformation Effects 0.000 claims description 2
- 238000010586 diagram Methods 0.000 description 6
- 238000005259 measurement Methods 0.000 description 5
- 230000002194 synthesizing effect Effects 0.000 description 3
- 230000012447 hatching Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
Images
Landscapes
- Instructional Devices (AREA)
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Description
【発明の属する技術分野】
本発明はオルソフォト画像生成方法およびオルソフォト画像生成システムに関するものである。
【0002】
【従来の技術】
従来、正射投影法により表現されたいわゆるオルソフォト画像を取得するためには、ヘリコプタ、あるいは航空機等の飛行体からの撮影像、あるいは、衛星画像が使用される。
【0003】
しかし、飛行体からの撮影像は、カメラレンズの焦点に集焦する中心投影画像であるために、例えば地面等の基準面に対して高さを有する物体は画像の中心に対して放射状に倒れた画像となり、この結果、物体頂部の正射投影図上における位置のずれ、撮像対象の倒れにより陰になった物体が隠れて見えなくなる隠蔽等の現象(以下、本明細書においては、これらの現象を「オクルージョン現象」、オクルージョン現象により本来の画像領域からはみ出した画像領域を「オクルージョン領域」という。)が発生する。
【0004】
オクルージョン領域の修正は、一般に画像を飛行方向と飛行方向に対して平行方向に所定割合で重合させて取得し、補正対象画像の高さ情報をもとに位置修正等をすることにより行われるが、このためには、各撮影画像の中心を求めた後、画像に対する放射方向の処理を要するために、処理装置に対する負荷が非常に大きくなるという問題がある。
【0005】
一方、衛星画像は、焦点から撮影対象までの距離が大きなために、オクルージョン現象も少ない反面、分解能が低いという問題がある。
【0006】
【発明が解決しようとする課題】
本発明は、以上の欠点を解消すべくなされたものであって、オクルージョン領域を補正し、正確、かつ高分解能なオルソフォト画像を得ることのできるオルソフォト画像生成方法の提供を目的とする。
【0007】
また、本発明の他の目的は、オルソフォト画像生成の容易なオルソフォト画像生成システムの提供にある。
【0008】
【課題を解決するための手段】
本発明によれば上記目的は、
飛行体1の飛行方向に対して直交方向に撮像素子を配列したラインセンサ2により飛行体1直下の第1画像3を取得し、
前記第1画像3の撮像領域に対応するサーフェイスモデル4から前記第1画像3中の主走査方向のオクルージョン領域5と、オクルージョン発生側サイドラップ画像6中における対応領域とを演算して特定し、
正射投影変換された前記第1画像3上のオクルージョン領域5画素を前記サイドラップ画像6上に特定された対応領域画素で上書きするオルソフォト画像生成方法を提供することにより達成される。
【0009】
オルソフォト画像を生成するに際して、まず、ラインセンサ2を使用して飛行体1の直下画像が取得される。ラインセンサ2は飛行体1の飛行方向に対して直交方向に撮像素子を配列して形成され、該ラインセンサ2により撮像された画像は、飛行航路の蛇行、上下動、撮影姿勢、光学誤差等の外乱要因が適宜の手段により補正されて第1画像3とされる。
【0010】
第1画像3は、副走査方向(飛行方向)に連続する飛行体1直下のライン画像の集合であるために、エリアセンサにより取得した画像と異なり、主走査方向(撮像素子の配列方向)にのみオクルージョン現象が発生しており、副走査方向への倒れ込みがないという画像特性を有しており、オルソフォト画像はこの特性を利用して効率的に生成される。
【0011】
オルソフォト画像の生成に際して、上記第1画像3の撮像領域に対するサーフェイスモデル4が用意される。サーフェイスモデル4は、例えば、建物等の地物の高さ情報を伴う面情報を有しており、空中三角測量によるか、レーザスキャナまたは合成開口レーダにより上記撮像領域を直接走査する等、適宜手段により取得される。このサーフェイスモデル4は、第1画像3の撮像時に同時に取得することも、あるいは別途用意しておくことも自由である。
【0012】
上述したように、サーフェイスモデル4は、位置情報を有しているために、撮影位置、高さ等の撮影点情報をもとに第1画像3に関連付けることができ、さらに、サーフェイスモデル4の面情報と高さ情報とをもとに対象地物の倒れ方向、および地表(正確には標準平均平面)への投影領域を演算することができる。第1画像3は主走査方向にのみオクルージョン現象が発生することが保証されるため、サーフェイスモデル4を利用したオクルージョン領域5の演算は複雑なステップを踏むことなく、簡単な幾何計算により求めることができる。
【0013】
このようにして求められた投影領域情報を上記第1画像3に投影すると、第1画像3上にオクルージョン領域5を指定することができる。
【0014】
一方、第1画像3には、上記サーフェイスモデル4を利用して正射投影変換処理がなされる。この正射投影変換処理は、具体的には、オクルージョン現象が発生している処理対象地物の頂面画素を正射投影位置に移動させ、さらに、倒れ込みによる頂面画像を修正することにより行われる。ラインセンサ画像を第1画像3として利用する利点はこの手順においても発揮され、正射投影位置への画素移動方向は、主走査線方向に限られるため、演算ステップが簡単になり、処理速度の向上に寄与する。
【0015】
以上の手順を経て得られる第1画像3には、オクルージョン領域5に対する処理がなされていないために、オクルージョン現象により発生した隠蔽部はそのまま残されており、この隠蔽部は第1画像3に対して所定の割合(以下、「重複率」という。)で重複させた領域を有するように上記ラインセンサ2により取得されたサイドラップ画像6により補充される。第1画像3とサイドラップ画像6との重複率は第1画像3中のすべての領域が主走査線方向に隣接するいずれかのサイドラップ画像6中に表示されるように、少なくとも50%以上に設定される。
【0016】
サイドラップ画像6による隠蔽部(オクルージョン領域5)への上書きは、サイドラップ画像6中に指定された上記オクルージョン領域5の画素を第1画像3中に複写、重合することにより行われる。サイドラップ画像6中のオクルージョン領域5の指定は、サイドラップ画像6取得時の位置情報等に基づいて、サーフェイスモデル4に簡単な幾何学的計算を施すことにより容易に取得できる。
【0017】
したがってこの発明において、オクルージョン現象により建物の陰に隠れた隠蔽部分を正確に、かつ、自動的に補完して正確なオルソフォト画像を得ることができる。また、ラインセンサ2を使用するために、オクルージョン現象発生方向が画像の主走査線方向に限定される結果、演算部に対する負担が軽減し、処理の高速化が図られる。
【0018】
ラインセンサ画像からのオルソフォト画像の生成は、
サーフェイスモデル4から飛行体1の飛行方向に対して直交方向に撮像素子を配列したラインセンサ2により取得した飛行体1直下の第1画像3中のオクルージョン領域5を算出し、該第1画像3中に領域指定するオクルージョン自動検出手段7と、
第1画像3を正射投影変換する中間オルソ変換手段8と、
前記オクルージョン自動検出手段7において指定された領域をオクルージョン発生側サイドラップ画像6中に特定するサイドラップ自動検索手段9と、
前記サイドラップ自動検索手段9により指定されたサイドラップ画像6中の画素を前記第1画像3中の前記オクルージョン自動検出手段7により指定された領域の画素に上書きする画像合成手段10とを有するオルソフォト画像生成システムによることができ、このシステムは、上述した手順を実行するプログラムが稼動するコンピュータシステムによっても実現可能である。
【0019】
このようなシステムにおいて、サイドラップ自動検索手段9によって特定された領域にサイドラップ画像6中のオクルージョン領域が含まれる場合、塗り潰し画像を画像合成手段10に出力する補完手段17を設けると、オクルージョン領域を補完する画像がサイドラップ画像6に撮像されていない場合であっても、確実に隠蔽部分が適宜の画像により置き換えられるために、画像の不自然感をなくすことができる。
【0020】
【発明の実施の形態】
図1に本発明の実施の形態を示す。図中1はヘリコプタ、あるいは航空機等の飛行体であり、該飛行体1には、飛行方向に対して直交方向に撮像素子を配列したラインセンサ2が搭載される。この実施の形態において、ラインセンサ2は、飛行体1の直下方向、飛行方向斜め下前方、および飛行方向斜め下後方の画像を同時に取得可能なように3組搭載され、各ラインセンサ2は、直下視原画像、前方視原画像、後方視原画像を出力する。
【0021】
さらに、飛行体1には、GPS(Global Positioning System)装置11と慣性計測装置12が搭載され、GPS装置11は、撮影時における飛行体1の絶対位置情報を、慣性計測装置12は、撮影時における傾き情報を各々出力する。必要に応じ、GPS装置11からの出力は、GPS地上局からの出力をもとにして補正される。
【0022】
ラインセンサ2から出力された各種原画像は、飛行方向(副走査方向X)に時間軸を有するライン画像の集合であり、各ライン画像には、上記GPS装置11、慣性計測装置12からの情報、および予め計測されるラインセンサ2の誤差要素をもとにして、飛行体1の蛇行、上下動、撮影姿勢、光学誤差等が補正され、理想航路面上で撮影されたものとしての画像への変換処理が施されて後述する第1画像3、およびサイドラップ画像6が形成される。
【0023】
第1画像3、およびサイドラップ画像6には、上述した手順で得られた画像のうち、飛行体1直下視の画像が使用され、サイドラップ画像6は、第1画像3に対して所定の重複率をもたせて該第1画像3の撮影航路と平行な航路上で上記ラインセンサ2を使用して取得される。
【0024】
図1(a)に、飛行体1が紙面に対して垂直方向に飛行した場合に得られる第1画像3を、図1(b)にこの第1画像3に対するサイドラップ画像6を示す。理解を容易にするために、図1(a)、(b)において被撮影体である建物Aが同一位置になるように、サイドラップ画像6は第1画像3に対して右側に寄せて示されている。
【0025】
これらの画像において、第1画像3はラインセンサ2による建物Aの地上への投影像であるために、建物Aの屋上部(頂面)はラインセンサ2の主走査方向(図1における矢印Y方向)にずれ、かつ、建物Aの壁面が画像上に表示される。これがオクルージョン現象であり、サイドラップ画像6を参照すると、上記建物Aの近傍には、低背の建物Bが存在しており、該建物Bは第1画像3における建物Aの陰になって撮像されていないことがわかる。さらに、上述したように、第1画像3、およびサイドラップ画像6は、飛行方向(図1において矢印Xで示す副走査方向)には、傾きをもたないために、該副走査方向Xを要素とする方向へのオクルージョン現象は発生しない。
【0026】
以上のようにして取得された第1画像3からオルソフォト画像を生成するオルソフォト画像生成システムを図4に示す。
【0027】
図示のように、オルソフォト画像生成システムは、入力部13と、演算部14と、出力部15とを有し、入力部13には、上述した第1画像3、サイドラップ画像6に加え、上述したGPS装置11と慣性計測装置12とから出力された位置姿勢情報16と、サーフェイスモデル4が入力される。サーフェイスモデル4には、標高データにより高さ成分を付与されたいわゆるディジタルサーフェイスモデル(DSM)が使用される。
【0028】
一方、演算部14は、オクルージョン自動検出手段7、サイドラップ自動検索手段9、補完手段17、中間オルソ変換手段8、および画像合成手段10から構成される。
【0029】
オクルージョン自動検出手段7は、上記位置姿勢情報16とサーフェイスモデル4とをもとに建物Aによるオクルージョン領域5を以下のようにして演算する。まず、サーフェイスモデル4は、建物等の地物と地表とを区別することなく扱われた連続する表面凹凸情報として提供され、これは図1において太線で示す輪郭に一致する。上述したように、このサーフェイスモデル4は、絶対位置情報を有しており、第1画像3取得時の位置姿勢情報16をサーフェイスモデル4空間上に設定し、当該取得位置からの建物A対応部への投射をシミュレートすることによりオクルージョン領域5が算出される。オクルージョン自動検出手段7により第1画像3上に指定されたオクルージョン領域5を図2(a)でハッチングを施して示す。
【0030】
サイドラップ自動検索手段9は、サイドラップ画像検索部9aと判定部9bとからなり、サイドラップ画像検索部9aは、上記オクルージョン自動検出手段7によって演算されたオクルージョン領域5をサイドラップ画像6上で検索して位置情報として判定部9bに出力する。サイドラップ画像6上でのオクルージョン領域5の検索は、まず、オクルージョン領域5が航路直下位置からどちらの方向にあるかで、左右いづれのサイドに隠蔽部が撮影されているか判別し直近のサイドラップ画像6を選択する。次いで、選択されたサイドラップ画像6上に上述した第1画像3におけるオクルージョン領域5の検出と同様にサーフェイスモデル4と、サイドラップ画像6取得時の位置姿勢情報16とを適用してサイドラップ画像6上に上記第1画像3上のオクルージョン領域5と対応する領域を演算によって特定して行われる。
【0031】
判定部9bは、上記サイドラップ画像検索部9aにより特定された領域がサイドラップ画像6上に撮像されているか否かを判定し、可視の場合は指定領域を後述する切り出し部10aに出力し、不可視の場合は、補完手段17による処理が行われる。判定部9bにおける処理は、上述した第1画像3の隠蔽部が、サーフェイスモデル4空間上におけるサイドラップ取得位置からの投射により、該サイドラップ画像6上での隠蔽部に属さないか否かを演算することにより行われ、第1画像3中の隠蔽部にサイドラップ画像6上のオクルージョン現象により他の建物等により隠蔽されて撮像されていない領域を含む場合(不可視の場合)には、補完手段17において、第1画像3とサイドラップ画像6とで共通する隠蔽部にパッチするための塗り潰し画像を、画像合成手段10の合成部10bに出力させる。
【0032】
一方、中間オルソ変換手段8は、第1画像3、位置姿勢情報16、およびサーフェイスモデル4をもとに、第1画像3に対して建物Aの正射投影変換を行う。正射投影変換は、建物Aの屋上(頂面)位置を上記サーフェイスモデル4を使用して正射投影位置に移動させるとともに、倒れ込みによる変形を修正して行われるもので、中間オルソ変換手段8による処理が終了した状態で、第1画像3は、図2(b)に示すように、頂面が2カ所で、残余のオクルージョン領域5がそのまま残った画像となる。なお、図2(b)において、正射投影位置に移動した頂面画像をハッチングで示す。
【0033】
画像合成手段10は、切り出し部10aと合成部10bとから構成される。切り出し部10aは、上記判定部9bにおいて可視判定がなされた場合に、サイドラップ画像検索部9aにより指定されたサイドラップ画像6を切り出して合成部10bに出力し、合成部10bは、この切り出されたサイドラップ画像6を第1画像3の所定位置(オクルージョン領域5)に複写、重合し、オルソフォト画像18として出力部15に出力する。
【0034】
切り出し部10aにおいて対応画素を切り出す状態を図3(a)に、切り出し画素を第1画像3に重合させて完成されたオルソフォト画像18を図3(b)に示す。
【0035】
また、判定部9bにおいて不可視判定がなされた場合には、補完手段17からの出力が直接合成部10bに出力され、該合成部10bにおいて塗りつぶし画像が重合される。
【0036】
塗り潰し画像は、出力されるオルソフォト画像上で不可視部分を目立たなくさせる場合には例えばグレイの画像を、逆に不可視部分のある事を明らかにしておきたい場合には、白または黒、あるいは他の色の画像を予め設定しておく事ができる。
【0037】
【発明の効果】
以上の説明から明らかなように、本発明によれば、オクルージョン領域を補正し、高分解能で、正確なオルソフォト画像を得ることができる。
【図面の簡単な説明】
【図1】本発明を示す図で、(a)は第1画像の取得状態を示す図、(b)サイドラップ画像の取得状態を示す図である。
【図2】本発明の処理手順を示す図で、(a)はオクルージョン領域が第1画像上に指定された状態を示す図、(b)は中間オルソ変換手段による処理終了時の第1画像を示す図である。
【図3】画像合成手段の動作を示す図で、(a)は切り出し部においてサイドラップ画像から対象画素を切り出し状態を示す図、(b)は第1画像に合成した状態を示す図である。
【図4】オルソフォト画像生成システムを示す図である。
【符号の説明】
1 飛行体
2 ラインセンサ
3 第1画像
4 サーフェイスモデル
5 オクルージョン領域
6 サイドラップ画像
7 オクルージョン自動検出手段
8 中間オルソ変換手段
9 サイドラップ自動検索手段
10 画像合成手段
11 装置
12 慣性計測装置
13 入力部
14 演算部
15 出力部
16 位置姿勢情報
17 補完手段
18 オルソフォト画像
Claims (3)
- 飛行体の飛行方向に対して直交方向に撮像素子を配列したラインセンサにより飛行体直下の第1画像を取得し、
前記第1画像の撮像領域に対応するサーフェイスモデルから前記第1画像中の主走査方向のオクルージョン領域と、オクルージョン発生側サイドラップ画像中における対応領域とを演算して特定し、
正射投影変換された前記第1画像上のオクルージョン領域画素を前記サイドラップ画像上に特定された対応領域画素で上書きするオルソフォト画像生成方法。 - サーフェイスモデルから飛行体の飛行方向に対して直交方向に撮像素子を配列したラインセンサにより取得した飛行体直下の第1画像中のオクルージョン領域を算出し、該第1画像中に領域指定するオクルージョン自動検出手段と、
第1画像を正射投影変換する中間オルソ変換手段と、
前記オクルージョン自動検出手段において指定された領域をオクルージョン発生側サイドラップ画像中に特定するサイドラップ自動検索手段と、
前記サイドラップ自動検索手段により指定されたサイドラップ画像中の画素を前記第1画像中の前記オクルージョン自動検出手段により指定された領域の画素に上書きする画像合成手段とを有するオルソフォト画像生成システム。 - 前記サイドラップ自動検索手段によって特定された領域にサイドラップ画像中のオクルージョン領域が含まれる場合、塗り潰し画像を画像合成手段に出力する補完手段を備える請求項2記載のオルソフォト画像生成システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002139875A JP4117771B2 (ja) | 2002-05-15 | 2002-05-15 | オルソフォト画像生成方法およびオルソフォト画像生成システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002139875A JP4117771B2 (ja) | 2002-05-15 | 2002-05-15 | オルソフォト画像生成方法およびオルソフォト画像生成システム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2003331259A JP2003331259A (ja) | 2003-11-21 |
JP2003331259A5 JP2003331259A5 (ja) | 2005-09-29 |
JP4117771B2 true JP4117771B2 (ja) | 2008-07-16 |
Family
ID=29700890
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002139875A Expired - Fee Related JP4117771B2 (ja) | 2002-05-15 | 2002-05-15 | オルソフォト画像生成方法およびオルソフォト画像生成システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4117771B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021046861A1 (zh) * | 2019-09-12 | 2021-03-18 | 深圳市大疆创新科技有限公司 | 正射影像生成方法、系统和存储介质 |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4367703B2 (ja) * | 2004-09-13 | 2009-11-18 | 飛島建設株式会社 | 正射投影画像の形成システム |
JP6121746B2 (ja) * | 2013-02-20 | 2017-04-26 | Necソリューションイノベータ株式会社 | 撮影位置決定装置、プログラム、および方法 |
JP5997664B2 (ja) * | 2013-06-14 | 2016-09-28 | 株式会社ジオ技術研究所 | テクスチャ画像データの生成方法 |
CN114167891B (zh) * | 2021-11-29 | 2022-08-16 | 湖南汽车工程职业学院 | 一种基于无人机的地面数据采集处理系统 |
CN116071273B (zh) * | 2023-03-09 | 2023-06-27 | 中国科学院空天信息创新研究院 | 基于扩展更新区域的正射影像色彩一致性处理方法 |
-
2002
- 2002-05-15 JP JP2002139875A patent/JP4117771B2/ja not_active Expired - Fee Related
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021046861A1 (zh) * | 2019-09-12 | 2021-03-18 | 深圳市大疆创新科技有限公司 | 正射影像生成方法、系统和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
JP2003331259A (ja) | 2003-11-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10602059B2 (en) | Method for generating a panoramic image | |
JP4193886B2 (ja) | 画像表示装置 | |
US7149346B2 (en) | Three-dimensional database generating system and method for generating three-dimensional database | |
US11689808B2 (en) | Image synthesis system | |
JP2807622B2 (ja) | 航空機搭載総合撮影装置 | |
JP2009177251A (ja) | オルソフォト画像の生成方法、および撮影装置 | |
US20180218534A1 (en) | Drawing creation apparatus and drawing creation method | |
US20210075953A1 (en) | Imaging apparatus, unmanned moving object, imaging method, system, and program | |
JP6616967B2 (ja) | 地図作成装置、および地図作成方法 | |
US11055541B2 (en) | Vehicle lane marking and other object detection using side fisheye cameras and three-fold de-warping | |
AU2022231762B2 (en) | A bundle adjustment system | |
JP2006252269A (ja) | 広域画像生成装置及びこれを用いた車両の周辺監視装置並びに広域画像生成方法 | |
JP5304465B2 (ja) | モザイク画像生成方法、装置及びプログラム | |
JP4117771B2 (ja) | オルソフォト画像生成方法およびオルソフォト画像生成システム | |
WO2000057357A1 (fr) | Procede et dispositif permettant d'elaborer une carte geographique au moyen d'images photographiques et procede de correction de la distorsion de ces images photographiques | |
JP5991821B2 (ja) | 写真測量装置 | |
JP4299010B2 (ja) | 3次元地理形状モデルのテクスチャ画像取得方法 | |
JPH1023311A (ja) | 画像情報入力方法及び装置 | |
JP2003316259A (ja) | 撮影映像処理方法及び撮影映像処理システム | |
US11940569B2 (en) | Method for determining extrinsic calibration parameters for a measuring system | |
JP7196920B2 (ja) | 運転支援装置および運転支援方法、プログラム | |
JP4248232B2 (ja) | ラインセンサ出力画像における影領域の補正方法及び影補正装置 | |
JP2003346144A (ja) | 建物外形抽出方法およびシステム | |
JP3963219B2 (ja) | 非接触式形状計測装置 | |
US10986286B2 (en) | Image creation device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050509 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050509 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080415 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080417 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4117771 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110502 Year of fee payment: 3 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050509 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110502 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120502 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130502 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130502 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140502 Year of fee payment: 6 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |