JP2000292166A - 画像形成装置 - Google Patents
画像形成装置Info
- Publication number
- JP2000292166A JP2000292166A JP11100669A JP10066999A JP2000292166A JP 2000292166 A JP2000292166 A JP 2000292166A JP 11100669 A JP11100669 A JP 11100669A JP 10066999 A JP10066999 A JP 10066999A JP 2000292166 A JP2000292166 A JP 2000292166A
- Authority
- JP
- Japan
- Prior art keywords
- image
- image forming
- reference point
- forming apparatus
- measurement
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000005259 measurement Methods 0.000 claims abstract description 113
- 238000006243 chemical reaction Methods 0.000 claims description 38
- 238000004364 calculation method Methods 0.000 claims description 22
- 230000009466 transformation Effects 0.000 claims description 12
- 238000002360 preparation method Methods 0.000 abstract description 2
- 238000000034 method Methods 0.000 description 64
- 238000012545 processing Methods 0.000 description 37
- 238000003702 image correction Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 10
- 230000014509 gene expression Effects 0.000 description 9
- 238000012937 correction Methods 0.000 description 8
- 230000002950 deficient Effects 0.000 description 7
- 230000015572 biosynthetic process Effects 0.000 description 5
- 238000001514 detection method Methods 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 238000010998 test method Methods 0.000 description 4
- 230000000875 corresponding effect Effects 0.000 description 3
- 239000013589 supplement Substances 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 102100022005 B-lymphocyte antigen CD20 Human genes 0.000 description 1
- 102100033040 Carbonic anhydrase 12 Human genes 0.000 description 1
- 101000897405 Homo sapiens B-lymphocyte antigen CD20 Proteins 0.000 description 1
- 101000867855 Homo sapiens Carbonic anhydrase 12 Proteins 0.000 description 1
- 238000004040 coloring Methods 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 239000012467 final product Substances 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000000059 patterning Methods 0.000 description 1
- 230000009469 supplementation Effects 0.000 description 1
- 230000001502 supplementing effect Effects 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 238000011426 transformation method Methods 0.000 description 1
Landscapes
- Image Processing (AREA)
- Editing Of Facsimile Originals (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
イムで確認しながら簡単に作成する。 【解決手段】 基準点計測(3点以上)(S110)を
行い、それらの画像データと測量データをもとにオルソ
画像作成の準備を行う。さらに複数方向から撮影を行っ
ている場合は、追加画像計測(S140)を行う。つぎ
に、PC上で、オルソ画像形成(S160)を行う。こ
こで作成されたオルソ画像が所望のものでない場合は、
オルソ画像修正(S180)を行う。充分な画像が得ら
れたら(S200)、次の計測したいエリアへ移動し、
同じ作業を繰り返す。一方、満足のいく画像が得られな
い場合は、追加画像計測(S140)を再び行う。
Description
特に、計測現場にて図面を作成する際に、図面上にの
る、即ち、寸法が正しく合って重ねられるような正射投
影画像(オルソ画像)を形成する画像形成装置に関す
る。本発明は、図面にオルソ画像を貼り付けることで、
誰でも簡単に正射投影画像を図化できるようにし、計測
現場の状況が詳細にわかる正射投影画像を作成・修正す
ることができる画像形成装置に関する。
ことにより得られる図面は、平板測量に代表されるよう
な紙と鉛筆等により作成されていた。また、近年では、
電子平板に代表されるような測量機とポータブルコンピ
ュータとの組み合わせにより、計測現場の線画図面が作
成されていた。
ように、電子平板等により現地にて図面を作成しても、
線画で表現されているだけで、現地の状況を十分に把握
することができなかった。そこで、カメラ等により現場
状況を撮影していたが、撮影は斜め方向からであるのに
対し、要求される図面は鉛直方向(正射投影)であるた
め、撮影した画像は、図面と直接結びつかない。したが
って、操作者は、図面と画像の双方を見比べて、現場の
状況を把握するしかなく、不便であり且つ状況の把握が
困難であった。
く、複数枚撮影した場合でも、それぞれの写真に関連性
・連続性がないため、相互の整合がとりにくく、図面と
見比べるのは煩雑且つ難しいものとなっていた。また、
精度の高いオルソ画像が求められる場合、カメラのレン
ズ歪みが問題となり、従来は、レンズ歪みデータの無い
カメラでは、精度良いオルソ画像が作成できなかった。
況を図化する際に、寸法の反映された正射投影画像(オ
ルソ画像)から簡単に現場を図化でき、状況を容易に把
握できるようにした画像形成装置を提供することを目的
とする。本発明は、計測現場において、迅速且つ簡単
に、計測忘れやミスがなく画像の作成・修正ができ、現
場状況の把握がその場ででき、画像図面(オルソ画像)
を現地にてリアルタイムで確認しながら簡単に作成する
ことを目的とする。本発明は、簡単な撮影と、測量機に
よる数点の測量だけで、画像の補測を行うと同時に、現
場状況を容易に把握可能な画像図面を得て、さらに写っ
ていない部分やわかりにくい部分を補間し、高解像度化
され且つ広範囲なオルソ画像を作成することを目的とす
る。
があったり、遠くの画像が粗くなる等のように、状況が
わかりにくい場合であっても、複数枚の画像から状況を
把握することができ、且つ、精度の高いオルソ画像を作
成することを目的とする。また、本発明は、簡単な作業
を繰り返すことにより複数枚の画像を統合し、広範囲な
オルソ画像を取得することを目的とする。本発明は、さ
らに、隣接領域とオーバーラップした画像を複数撮影す
ることにより、精度が高く品質の高いオルソ画像を高速
に作成することを目的とする。
補正(カメラキャリブレーション補正)を行なうと同時
に、レンズ歪みデータの無いカメラでも高精度なオルソ
画像を作成することを目的とする。さらに、本発明は、
各種測量機を利用して3次元座標を計測しながらオルソ
画像修正を行なえば、必要個所を必要な精度で、品質の
良いオルソ画像が作成することを目的とする。
と、複数の基準点が写し込まれた中心投影画像を計測
し、該基準点について画像座標を求める基準点計測部
と、上記基準点計測部により求められた該基準点の画像
座標と実際に測定された基準点の3次元座標とに基づ
き、画像座標と3次元座標との対応付けを行う変換パラ
メータを求める座標変換パラメータ算出部と、上記座標
変換パラメータ算出部により求められた変換パラメータ
に基づき、中心投影画像から正射投影画像を作成するオ
ルソ画像形成部と、実測した追加点の3次元座標に基づ
き、上記オルソ画像形成部により求められた画像座標を
修正し、正射投影画像の修正を行うオルソ画像修正部と
を備えた画像形成装置を提供する。
面を参照して説明する。
像形成装置は、制御部10、記憶部2、入出力インター
フェース3、3次元座標入力部7、画像入力部4、表示
部5、入出力部6を備える。さらに、制御部10は、基
準点計測部101、座標変換パラメータ算出部102、
オルソ画像形成部103、オルソ画像修正部104、追
加画像計測部105を含む。これらの各部(機能)は、
例えばポータブルコンピュータ(PC)により実現する
ことができる。
め記憶されるとともに、画像データ等が記憶される。基
準点のデータは、例えば地上座標と呼ばれる3次元座標
(X、Y、Z)で記憶される。入出力インターフェース
3は、共通バス等で構成され、各種装置を接続する。3
次元座標入力部7は、例えばグローバルポジショニング
システム(GPS)やトータルステーション等の各種測
量機や3次元座標測定装置から、基準点や追加計測点等
の3次元座標を得るものである。画像入力部4は、例え
ばデジタルカメラ、固体撮像素子又は電荷結合素子(C
CD、Charge Coupled Device)等の2次元又は3次元
画像を得るものである。画像入力部4からは、基準点が
含まれ、且つ、1枚あるいは複数枚の画像が入力され
る。
はプラズマディスプレイ等を備え、2次元又は3次元表
示を行うものである。表示部5は、制御部10のオルソ
画像形成部103やオルソ画像修正部104等で形成さ
れたオルソ画像を表示する。また、表示部5は、基準点
計測部101で入力された基準点位置や、追加画像計測
部105で追加された画像等を表示する。入出力部6
は、各種画像データや判定結果、又は、測量機等の3次
元座標入力装置からの3次元座標データ等を、他の装置
と入出力するものである。入出力部6としては、例え
ば、光ディスク装置やカード型の記憶媒体(HDD、メ
モリ等)、フロッピーディスク、キーボード、ペン、マ
ウス、ターミナル、CD−ROMディスクドライブなど
の各種入力装置・出力装置を備えることができる。入出
力部6は、マウス、ライトペン等のポインティングデバ
イスにより、表示部5の画面上の基準点や各種の位置を
指示する。
し込まれた中心投影画像を計測し、それらの基準点につ
いて画像座標を求める。基準点計測部101は、既知点
からの距離と角度を測定する測量機又はグローバルポジ
ショニングシステム等を画像入力部4として用いること
により、得られた座標に基づき、基準点の3次元座標を
計測し、必要に応じて記憶部2に記憶する。基準点計測
部101は、基準点によっては、3次元座標を得た各基
準点に対応する中心投影した各画像座標値を自動的に求
めるようにすることもできる。
点計測部101により求められた画像座標を、原点を主
点(レンズ中心を通り画面と直交する線が画像と交わる
点)とする写真座標に変換するとともに、基準点計測部
101により求められた基準点の画像座標と3次元座標
とに基づき、写真座標と3次元座標との対応付けを行う
変換パラメータを求める。また、座標変換パラメータ算
出部102は、後述のように、中心投影について共線条
件を満足させ、画面距離が既知の画像入力部を使用する
ことにより、地上座標系が既知である最低3点の基準点
に基づいて変換パラメータを計算することができる。ま
た、座標変換パラメータ算出部102は、画像入力部の
レンズ歪みデータ又は複数の基準点の実測データに基づ
いて、レンズ歪みを補正することができる。
メータ算出部102により求められた変換パラメータに
基づき、3次元座標を画像座標に変換し、正射投影画像
を作成する。オルソ画像形成部103は、複数の画像を
貼り合わせて正射投影画像を形成する場合、各画像から
基準点までの距離又は各画像から計測点までの距離に基
づいて得られた各画像を選択することができる。
点の3次元座標に基づき、オルソ画像形成部103によ
り求められた画像座標を修正し、正射投影画像の修正を
行う。また、オルソ画像修正部104は、複数の中心投
影画像が得られている場合に、適宜の基準で選択した画
像、例えば、各箇所の縮尺が所定の縮尺以下若しくは縮
尺の比較的小さい画像、又は、計測位置若しくは基準点
に近い画像を、優先的に組み合わせて正射投影画像を形
成することができる。オルソ画像修正部104は、複数
の中心投影画像が得られている場合に、オルソ画像形成
部103により正射投影画像を形成した結果、画像の不
足箇所又は不適切箇所を表示部5に表示させることもで
きる。
01により計測された基準点を含むように、他の中心投
影画像を計測するとともに、座標変換パラメータ算出部
102を用いて他の中心投影画像についての変換パラメ
ータを計算する。
2に、本発明に係る画像形成処理のフローチャートを示
す。以下に、この図に従って、制御部10における画像
形成処理について説明する。
と、基準点計測だけ現場で行い、あとは持ち帰ってオフ
ィス等で行うオフライン処理の2通りがある。オンライ
ン処理では、オフライン処理と異なり、基準点計測とそ
の後の画像形成及び表示等を、現場で実行するものであ
る。
(3点以上)(ステップS110)を行い、それらの画
像データと測量データをもとにオルソ画像作成の準備を
行う。さらに複数方向から撮影を行っている場合は、追
加画像計測処理(ステップS140)を行う。1枚のみ
で解析を行う場合は、追加画像計測(ステップS14
0)を行う必要はない。つぎに、例えばPC上で、オル
ソ画像形成処理(ステップS160)を行う。ここで作
成されたオルソ画像が所望のものでない場合は、オルソ
画像修正処理(ステップS180)を行う。このオルソ
画像修正作業で、充分な画像が得られたか否かを判断し
(ステップS200)、「OK」となれば、次の計測し
たいエリアへ移動し、基準点計測処理(ステップS11
0)から同じ作業を繰り返す。一方、オルソ画像修正作
業(ステップS180)でも満足のいく画像が得られな
い場合は、追加画像計測処理(ステップS140)を再
び行い、これら作業を満足のいく画像が得られるまで繰
り返す。
は、例えば、1方向からの撮影であるとよくみえない箇
所がある場合や、1枚の画像上でも遠い部分は画像が粗
くなり精度が充分でない場合等に行なわれる。すなわ
ち、既に入力された画像を補う他方向や、不足と思われ
る他方向からさらに撮影し、オルソ画像作成を行なえ
ば、見えないところや精度の粗い場所は、他方向のカメ
ラ画像から選択・合成し、品質の良いオルソ画像が作成
できるようになる。
明図を示す。計測したい範囲が広範囲な場合は、必要精
度にあわせて計測範囲を決め、図2の作業を、図3の計
測範囲1、2、3・・・と各エリアで順次繰り返してい
けばよい。なお、必要精度は、例えば、対象物との距
離、CCD1画素の大きさ等に依存する。このように、
広い範囲を分割して処理することで、どんなに広い範囲
でも簡単にオルソ画像を作成していくことができる。
る。
測処理(ステップS110) ここでは、基準点計測部101による基準点計測処理
(ステップS110)について詳細に説明する。
オンラインによる基準点計測のフローチャートを示す。
作業現場のフィールド上でオルソ画像作成を行うオンラ
インによる基準点計測は、現場にてオルソ画像をリアル
タイムで作成し、確認しながら作業を行うものである。
したがって、オンライン基準点計測によると、計測ミス
や撮影画像を持ち帰って解析してから不足部分に気づい
た場合のように、現地にて再測するなどの効率的でない
作業を未然に防ぐことができる。
を設置する(ステップS112)。また、基準点は、画
像上で見分けがつくようなもので、かつ測量機等(3次
元座標入力部7)で計測可能なターゲットとすると良
い。基準点は、例えば、プリズムや反射ターゲットを用
いたり、又は、ノンプリズムトータルステーションの場
合には反射(測定)信号が返ってくるようなものを用い
ることができる。つぎに、デジタルカメラ等(画像入力
部4)で撮影する(ステップS114)。撮影は、1枚
でも、複数方向からでも何枚撮影してもよい。例えば、
1方向からではよくみえないものがあるときや、画像の
精度を考慮するとき等、複数方向からさらに撮影すると
よい。
記憶装置に記憶された画像を、画像形成装置の制御部1
0に転送し、記憶部2に読み込む(ステップS11
6)。制御部10に読み込まれた画像は、PC上で計測
可能な状態になり、撮影された画像が表示部5に表示さ
れる。ここでターゲットを測量機で視準し(ステップS
118)、確認する。OKであれば、PCの画像上でタ
ーゲットである基準点を計測する(ステップS12
0)。この際、例えば、ターゲット(基準点)位置を、
入出力部6の入力デバイスであるペンなどで指示する。
ここで、PC上で画像座標(px、py)(CCD座標
系、原点を画面の左上端等の画面端とする。)が計測さ
れると、3次元座標入力部7に計測の指示を出力し、3
次元座標入力部7は計測を行い(ステップS122)、
その基準点の地上座標計測値を入出力I/F3を介して
制御部10及び記憶部2に送る(ステップS124)。
このようにして、基準点の地上座標とPC上の画像座標
の対応付けと計測が行われた。ここで、この作業を最低
3点について繰り返す(ステップS126)。
準点計測について説明する。
計測する場合のフローチャートを示す。また、図6に、
基準点配置の一例の説明図を示す。
る(ステップS501)。反射シートを取り付ければ、
画像による自動計測と同時に、通常のトータルステーシ
ョンやノンプリ型のトータルステーション等による計測
作業が容易になる。基準点は、どの方向からも見えるよ
うなターゲットとし、例えば、三角錐や三角柱の頂点に
取り付けることができる。また、基準点が3点であれ
ば、例えば、図に示すような配置とし、あきらかに大き
さの異なるものを1つ設定しておくと良い。つぎに、一
例として、ストロボをたいて撮影する(ステップS50
3)。こうすることで、どのような状況でも確実に検出
が可能となる。そして、パソコンに撮影画像を読み込む
(ステップS505)。つぎに、測量機により基準点の
3次元座標を計測する(ステップS507)。一番大き
い反射シートをつけた基準点を計測する際には、属性と
して測量機からその情報を同時に制御部10に転送す
る。
画像上の画像座標を検出する(ステップS509)。例
えば、反射シートから返ってくる光量は、輝度の高いも
のであり、また、その形状から、あらかじめテンプレー
トとしてそれらを登録しておけば、位置検出は容易にな
る。また、テンプレートは、この例では大小2種類とす
ることができる。つぎに、以上により位置検出した基準
点の画像座標と3次元座標の点と対応づけを行なう(ス
テップS511)。例えば、図のように3点の配置を行
い、1点だけ大きくしておけば、画像上での大きい基準
点はテンプレートにより識別可能となり、また、3次元
座標計測した属性より対応づけがなされる。他の2点に
対しては、その3次元座標位置と画像座標位置から、ど
の向きから撮影したものであっても対応づけが可能とな
る。
同じ撮影場所について、ストロボをたいた画像とたかな
い画像を2枚撮影し、これら画像を差分処理すれば、タ
ーゲットだけ浮かび上がることとなり、マッチングによ
る自動座標位置検出は、一層確実で、信頼のおけるもの
となる。こうすることで、どのような状況でも確実に検
出が可能となる。
ったが、これら反射シートに色をつけたり、模様をつけ
たりすること等によっても画像座標検出や対応づけがな
される。また、反射シートに限らず、画像上で見分けの
つくものなら良い。したがって、基準点の数、配置、形
状、その他はこの限りではない。
処理の説明をする。
や残差逐次検定法(SSDA法)などどのような適宜の
方法を用いても良い。例えば、残差逐次検定法を使用す
れば、処理が高速化できる。ここでは、残差逐次検定法
を説明する。
で、残差R(a,b)が最小になる点が、求める画像の位
置である。処理の高速化をはかるためには、例えば、こ
の式の加算において、R(a,b)の値が過去の残差の最小
値を越えたら加算を打ち切り、次の(a,b)に移るよう
計算処理を行う。
2による座標変換パラメータ算出処理(ステップS30
0) 以上の基準点についての計測が、これでOKであれば、
次の座標変換パラメータ算出部102による座標変換パ
ラメータ算出処理(ステップS300)を行う。
ローチャートを示す。
カメラ等の固体撮像素子(CCD)上に画像座標として
求められているので、これを写真座標系(x、y)に変
換する(ステップS203)。写真座標系(x、y)と
は、原点を主点とする2次元座標である。一方、画像座
標とは、CCD座標系(px、py)であり、例えば左
上を原点として2次元座標である。
Y、Z)で計測した3点と、PC上で計測した画像座標
系(x、y)の2点を以下に示す式に代入し、座標変換
のための各パラメータ(座標変換パラメータ)を求める
(ステップS205)。数式2及び数式3は、投影中
心、CCD上の画像および対象物が一直線にあるという
共線条件式である。これらにより、最低3点以上の既知
点があれば、各座標変換パラメータを算出することがで
きる。但し、この場合は、画面距離cは、概略既知であ
る必要がある。検定済みのカメラを使用する場合は、画
面距離cがわかるので問題ない。
面の4点の座標値を計測することによって、2次の射影
関係からこの値を求めることが可能となる。また、6点
により画像座標と被写体の3次元座標(対象点座標)と
の関係を3次の射影変換式で近似したもので求めること
もできる。この場合は、例えば、直接線形変換法(Dire
ct Linier Transformation,DLT)法を利用して、基
準点などから得られた地上座標(X、Y、Z)と画像上
で計測されて得られた写真座標(x、y)との変換パラ
メータを計算する。ここで、DLT法とは、極端に斜め
撮影された画像であっても、正射投影画像に変換するこ
とのできる画像変換方法である。DLT法は、画像座標
と被写体の3次元座標(地上座標、対象点座標)との関
係を3次又は2次の射影変換式で近似したものである。
はオルソ画像上のピクセル位置を求めるための変換パラ
メータを算出する処理である。ここでは、主に、基準点
・標定点の既知の座標及び計測された画像(写真)座標
に基づいて処理が行われる。
に基づき最小二乗法を用いて解くと、画像座標(x、
y)と地上座標(X、Y、Z)との関係を決定する座標
変換パラメータL1〜L11を取得することができる。
だけでなく、地上座標と画像座標を対応づけできるもの
であれば良く、そのような適宜の座標変換式を採用する
ことができる。
るいは無歪みレンズを利用した場合であるが、レンズ歪
みがあり、それが精度上無視できない場合は、レンズ歪
みが求められているカメラを使うか、次に述べるような
処理によってレンズ歪みを補正しながら計測を行なう。
ラを利用する場合は、基準点計測を6点以上行い、以下
の数式5乃至7の計算によりカメラのレンズ歪みを求め
ることで、レンズ歪みを補正する。また、あらかじめレ
ンズ歪みが求まっているカメラは、最初からこれら式を
用いて補正しながら座標値を求めればよい。
計測することにより、逐次近似解法によって算出され
る。
ション付き射影変換式(DLT法)を用いて、数式8及
び9により、レンズ歪み補正を求めることもできる。但
し、この場合、基準点は8点必要となる。
データに基づき最小二乗法を用いて解くと、未知変量で
あるk1、k2、x0、y0を解くことができる。
ィストーションが求まり、レンズ歪み補正を兼ねた計測
が可能となる。なお、これらの数式は、一例であり、他
の数式によって計算しても良い。
メータ算出処理(ステップS300)が終了したら、変
換されたパラメータを利用して、座標変換値と基準点と
の残差を求め、規定値以内かどうかを判定する(ステッ
プS128)。ここで、規定値以内であれば、つぎの処
理へ移る。一方、規定値に入らなかった場合は、ステッ
プS118にもどり、計測点数を増しながら、ステップ
S118〜S128を規定値に入るまで行なう。
ができる。すなわち、数式2及び3(又は数式5及び
6)により求められた変換パラメータと、基準点計測し
た画像座標(x、y)を、以下に示す数式10、11に
代入し、地上座標系(X、Y、Z)の計算基準点X’、
Y’を算出する。そして、実際に計測された地上座標値
(X、Y)との残差を、数式12によって求める。この
ようにして求められた残差δが、規定値以内であれば、
OKとする。規定値は、例えば実際の現場における必要
精度等を設定する。なお、ここに、nは基準点数であ
る。なお、残差の式はこれらに限られず、他のものを用
いても良い。
像計測処理(ステップS140) つぎに、追加画像計測処理(ステップS140)の詳細
を説明する。図8に、追加画像計測フローチャートを示
す。撮影する画像が、1枚でよい場合、あるいはとりあ
えず1枚だけで画像作成する場合は、この処理はスキッ
プしてよい。また、最初にステップS114、S116
において、複数枚画像を撮影している場合は、撮影ステ
ップ(ステップS142)及びPC上への画像読みこみ
ステップ(ステップS144)はスキップしてもよい。
ップS110)における基準点設置(ステップS11
2)により設置した基準点を、全部含むように行なう。
つぎに、PC上に画像を読み込み(ステップS14
4)、追加撮影した画像を表示部5に表示し、計測した
い追加画像を選択する(ステップS146)。つぎに、
その画像上に写しこまれている基準点を、PC上で画像
計測する(ステップS148)。この作業を基準点数分
繰り返す(ステップS150)。例えば、ペン入力タイ
プ等のポータブルコンピュータであれば、ターゲットを
ペン等のポインティングデバイスで基準点を指示するこ
とで、その画像座標(px、py)(又は、写真座標
(x、y))を求める。そして、上述のような座標変換
パラメータ算出処理(ステップS300)を行なう。
ときは、追加画像選択(ステップS146)に戻り、こ
の手順を撮影枚数分繰り返して行う。追加計測しないと
きは、次のステップへ進んでオルソ画像形成(ステップ
S160)を行なう。
ソ画像形成処理(ステップS160) つぎに、オルソ画像形成処理(ステップS160)の詳
細について説明する。図9に、オルソ画像形成処理のフ
ローチャートを示す。
の地上座標を計算する(ステップS207)。この処理
では、オルソ画像作成のために、オルソ画像の画像座標
(x、y)を地上座標(X、Y、Z)に変換するもので
ある。地上座標(X、Y、Z)は、先に座標変換パラメ
ータ算出処理(ステップS300)のステップS205
で求められた変換パラメータを用いて計算される。即
ち、オルソ画像の画像座標(x、y)に対応する地上座
標(X、Y、Z)は、以下の式で与えられる。このよう
にして、オルソ画像上の各ピクセルの取得位置を求める
ことができる。
位置、 (ΔX、ΔY):地上座標系での1画素の大きさ(例:
m/pixel)、 (x、y) :オルソ画像の画像座標、 (X、Y、Z):地上画像、 a、b、c、d:ある画像座標(x、y)を内挿する複
数の基準点により形成される平面方程式の係数である。
ラメータを使用して、数式2及び3又は数式5及び6に
より、ステップS207で求められた地上座標(X、
Y、Z)に対応する画像座標(x、y)を計算する(ス
テップS209)。このように求められた画像座標
(x、y)から、該当する画像の地上座標(X、Y、
Z)上の濃度値を取得する。この濃度値が、オルソ画像
上における2次元の位置(X、Y)のピクセルの濃度で
ある。このように、地上座標上の位置(X、Y)に貼り
付ける画像濃度を取得する。以上のような処理を、オル
ソ画像のすべてのピクセルに対して行うことにより、画
像貼付が行なわれる(ステップS211)。
説明する。画像が1枚でなく、複数枚であった場合は、
どの画像を選択するかは、基準点とカメラの位置関係に
よりきめる。すなわち、それぞれの画像の各カメラの位
置(X0、Y0、Z0)は、数式2及び3により既に算
出されている。従って、この値と実際の基準点座標の値
(X、Y、Z)から距離を算出し、近い方の画像のピク
セル濃度値を取得して、貼り合わせる。このように、基
準点に近い画像を使って画像合成を行なうことにより、
解像力の高い画像データを自動的に選択することが可能
となる。
ソ画像修正処理(ステップS180) つぎに、オルソ画像修正処理(ステップS180)の詳
細について説明する。図10に、オルソ画像修正処理の
フローチャートを示す。
を行い、作成されたオルソ画像上で視覚的、あるいは後
述の処理によりチェックし、計測ミス及び計測データが
特に必要な部分があった場合は、それら部分について測
量機で計測を行う(ステップS184)。計測した3次
元座標(地上座標)は、測量機から制御部10に転送さ
れ(ステップS188)、先に説明したオルソ画像形成
処理(ステップS160)を自動的に行い、表示部5に
より即座にオルソ画像表示を行い、再度チェックする。
つ修正画像をリアルタイムで確認しながら処理が行える
ので、計測ミスや計測忘れ等を未然に防ぐことが可能と
なり、常に最終成果品となる画像を確認しながら計測を
行なえることになる。
点不足部分や不適切個所を抽出、修正する方法を説明す
るフローを示す。
個所表示についてのフローチャートを示す。また、図1
2に、基準点不足領域又は画像不適切領域の一例の説明
図を示す。
する。まず、1枚〜複数枚から作成されたオルソ画像を
表示する(ステップS601)。つぎに、計測領域で確
認したい範囲を指定する(ステップS603)。ここ
で、基準点配置適切領域内に基準点が入っているかどう
かチェックし表示する(ステップS605)。例えば、
基準点6点であった場合、図12のようになる。基準点
配置チェックは、基準点適切範囲を計測基準点数により
オルソ画像上で分割し、基準点の座標をチェックし、区
画内に基準点があるかないか判定し表示する。あるい
は、計算せずとも図12のように基準点適切範囲枠(こ
の例では、領域を6分割)を表示する。但し、基準点適
切範囲を決める方法はこの限りではない。
行する。まず、隣接基準点の間隔と高低差を計算する
(ステップS607)。ここで、計算値(例えば、高低
差)がしきい値以上の点は、その旨の表示を行なう(ス
テップS609)。しきい値は、例えば、基準点数、基
準点の間隔と高低差から急激に変化している点を検出で
きるよう、画像縮尺から算出する。
理(ステップS180)にて、基準点不足部分ならびに
しきい値以上の点近傍を測量機で計測、画像修正を行な
う。もし、これら手順でも満足いかない場合は、これら
表示された画像の情報をもとに、追加画像計測を行なう
ようにしても良い。
画像の基準点不足個所や不適切部分を修正することがで
きる。
部分や不適切個所を抽出、表示する方法を説明する。こ
こでは、画像解像度から不足・不適切個所を指示する方
法について説明する。
表示についてのフローチャートを示す。また、図14
に、画像の不足個所又は不適切個所表示の説明図を示
す。なお、必要計測精度は、対象物によって異なるの
で、対象にあわせた設定を行なっておく。
画像を表示する(ステップS701)。ここでは、撮影
位置A及びBから撮影された場合を想定する。つぎに、
計測領域で確認したい範囲を指定する(ステップS70
3)。カメラ位置(X0、Y 0、Z0)は、数式2、3
より求まっているので、その位置から計測確認領域の1
画素の精度を計算する(ステップS705)。なお、複
数方向から撮影されている場合は、この計算を、各カメ
ラについて算出する。つぎに、各カメラの画素精度が、
設定された精度に満たない場所で、かつ重複する範囲を
オルソ画像上に表示する(ステップS707)。そし
て、表示された場所の方向から追加画像計測する(ステ
ップS709)。ここでは、追加画像撮影位置Cから追
加画像を撮影する場合が示される。
切個所の画素解像力(1画素精度)を補う画像が取得さ
れ、結果的に満足のいく画像を得ることができる。ま
た、画素精度の判定は、例えば、中心投影画像をオルソ
画像に変換する際の比率が大きくなるにつれ精度が低下
し、画像の撮影点から画像として写り込んでいる対象物
まで距離が遠くなるにつれて、精度が低下するというよ
うに行うことができる。
て説明する。
ーションで修正作業を行えば、光(計測信号)が返って
くる対象物の場合は、対象物に向かって計測する作業だ
けでオルソ画像が随時更新されるので簡便に作業が済み
かつ多数点が計測できるという卓越した効果がある。 ・また、自動追尾型のトータルステーションで修正処理
を行えば、不足計測領域をプリズムを持って歩くだけで
より精度の高いオルソ画像が作成できるという卓越した
効果がある。 ・さらに電波の届くところであればGPSをもって歩く
だけでオルソ画像が更新され、誰でも簡単に補測しなが
らオルソ画像作成が行えるようになるという非常に優れ
た効果がある。 ・また、高密度かつ高精度で失敗のないオルソ画像を得
たい場合は、この計測したい範囲をオーバーラップする
ようステレオ撮影を行い、現場にて相互標定を行ってお
けばよい(特開平10−1639)。こうすることによ
り、ステレオ画像から自動ステレオマッチングを行って
高密度な3次元計測点を取得、オルソ画像形成部にてオ
ルソ画像作成を行えば、高密度かつ精度のよいオルソ画
像が取得可能となる。あるいは、形成された立体画像を
見ながら、不足部分や不連続部分等を立体ディスプレイ
上でマニュアル計測し、それらの計測点を合わせて、オ
ルソ画像形成部にてオルソ画像作成を行なえば、失敗が
なく精度が高いオルソ画像が取得される。
計測範囲1についての計測の終了後、次の計測範囲2、
3・・・について、図2に示した画像形成処理のスター
トから再び同じように始めればよい。この場合、計測範
囲の境界は、特に意識する必要はない。あるいは、計測
範囲1と計測範囲2等の隣接する範囲をわざとオーバー
ラップさせて、その領域に基準点を数点を入れれば、そ
の分の測量機による基準点計測は省略することができ、
それらの点の画像計測(ステップS148)さえ行なえ
ば良いということになる。こうして、計測範囲1、2、
・・・の画像と基準点とを利用して、オルソ画像作成を
各領域で行なっていけば、計測範囲1、2、・・・が統
合されたオルソ画像を容易に作成することができる。以
上のようにして、順次計測領域を拡大していくことが簡
単にできる。
て、オンラインで基準点を計測する例であるが、つぎ
に、オフライン処理について説明する。図15に、オフ
ライン処理のフローチャートを示す。
測量機による基準点計測とを行なうだけで、他はすべて
オフライン(例えば、オフィス内等)で行なうものであ
る。基準点計測処理(ステップS110)におけるオフ
ライン計測は、例えば、画像撮影の作業と基準点計測の
作業とを分けて別々に現場で行い、オフィス等でゆっく
り解析作業をするときに利用する。この場合は、画像を
複数取得しておいて、後で適宜の画像を選択しながらの
画像形成処理が可能となる。
を連動させず(即ち、PCはなくともよい)、測量機だ
けで計測を行なう(ステップS132)。そして、計測
した基準点データを一括してPCに送ればよい(ステッ
プS136)。さらに、つぎに、追加画像計測処理(ス
テップS140)の処理を行うこととなる。このよう
に、オフライン処理の場合は、基準点計測と撮影とを別
々に行えるので、ヘリコプターやバルーン等の空撮で得
られた画像を処理することが可能となる。
場の状況を図化する際に、寸法の反映された正射投影画
像(オルソ画像)から簡単に現場を図化でき、状況を容
易に把握することができる。本発明によると、計測現場
において、迅速且つ簡単に、計測忘れやミスがなく画像
の作成・修正ができ、現場状況の把握がその場ででき、
画像図面(オルソ画像)を現地にてリアルタイムで確認
しながら簡単に作成することができる。本発明による
と、簡単な撮影と、測量機による数点の測量だけで、画
像の補測を行うと同時に、現場状況を容易に把握可能な
画像図面を得ることができ、さらに写っていない部分や
わかりにくい部分を補間し、高解像度化され且つ広範囲
なオルソ画像を作成することができる。
くい所があったり、遠くの画像が粗くなる等のように、
状況がわかりにくい場合であっても、複数枚の画像から
状況を把握することができ、且つ、精度の高いオルソ画
像を作成することができる。また、本発明によると、簡
単な作業を繰り返すことにより複数枚の画像を統合し、
広範囲なオルソ画像を取得することができる。本発明に
よると、さらに、隣接領域とオーバーラップした画像を
複数撮影することにより、精度が高く品質の高いオルソ
画像を高速に作成することができる。
ズ歪み補正(カメラキャリブレーション補正)を行なう
と同時に、レンズ歪みデータの無いカメラでも高精度な
オルソ画像を作成することができる。さらに、本発明に
よると、各種測量機を利用して3次元座標を計測しなが
らオルソ画像修正を行なえば、必要個所を必要な精度
で、品質の良いオルソ画像が作成することができる。
ト。
のフローチャート。
ト。
いてのフローチャート。
説明図。
のフローチャート。
図。
Claims (10)
- 【請求項1】複数の基準点が写し込まれた中心投影画像
を計測し、該基準点について画像座標を求める基準点計
測部と、 上記基準点計測部により求められた該基準点の画像座標
と実際に測定された基準点の3次元座標とに基づき、画
像座標と3次元座標との対応付けを行う変換パラメータ
を求める座標変換パラメータ算出部と、 上記座標変換パラメータ算出部により求められた変換パ
ラメータに基づき、中心投影画像から正射投影画像を作
成するオルソ画像形成部と、 実測した追加点の3次元座標に基づき、上記オルソ画像
形成部により求められた画像座標を修正し、正射投影画
像の修正を行うオルソ画像修正部とを備えた画像形成装
置。 - 【請求項2】請求項1に記載の画像形成装置において、 上記基準点計測部により計測された基準点を含むよう
に、他の中心投影画像を計測するとともに、上記座標変
換パラメータ算出部を用いて、計測された他の中心投影
画像についての座標変換パラメータを計算する追加画像
計測部をさらに備えたことを特徴とする画像形成装置。 - 【請求項3】請求項1又は2に記載の画像形成装置にお
いて、 上記測定された基準点は、3次元座標入力部である既知
点からの距離と角度を測定する測量機、又は、グローバ
ルポジショニングシステムにより、計測されることを特
徴とする画像形成装置。 - 【請求項4】請求項1乃至3のいずれかに記載の画像形
成装置において、 上記基準点計測部は、3次元座標を得た各基準点に対応
する中心投影画像の各画像座標値を自動的に求めるよう
にしたことを特徴とする画像形成装置。 - 【請求項5】請求項1乃至4のいずれかに記載の画像形
成装置において、 上記座標変換パラメータ算出部は、中心投影について共
線条件を満足させ、画面距離が既知の画像入力部を使用
することにより、地上座標系が既知である少なくとも3
点の基準点に基づいて変換パラメータを計算できるよう
にしたことを特徴とする画像形成装置。 - 【請求項6】請求項1乃至5のいずれかに記載の画像形
成装置において、 上記座標変換パラメータ算出部は、画像入力部のレンズ
歪みデータ又は複数の基準点の実測データに基づいて、
レンズ歪みを補正するようにしたことを特徴とする画像
形成装置。 - 【請求項7】請求項1乃至6のいずれかに記載の画像形
成装置において、 上記オルソ画像形成部は、複数の画像を貼り合わせて正
射投影画像を形成する場合、各画像から基準点までの距
離又は各画像から計測点までの距離に基づいて、得られ
た各画像を選択することを特徴とする画像形成装置。 - 【請求項8】請求項1乃至7のいずれかに記載の画像形
成装置において、 上記オルソ画像修正部は、複数の中心投影画像が得られ
ている場合に、各箇所の縮尺が所定の縮尺以下若しくは
縮尺の比較的小さい画像、又は、計測位置若しくは基準
点に近い画像を優先的に組み合わせて正射投影画像を形
成することを特徴とする画像形成装置。 - 【請求項9】請求項1乃至8のいずれかに記載の画像形
成装置において、 上記オルソ画像修正部は、複数の中心投影画像が得られ
ている場合に、上記オルソ画像形成部により正射投影画
像を形成した結果、画像の不足箇所又は不適切箇所を表
示させることを特徴とする画像形成装置。 - 【請求項10】請求項1乃至9のいずれかに記載の画像
形成装置において、 広範囲領域の計測をする場合、第1の計測範囲内の基準
点と第2の計測範囲内の基準点とを一部共通に使用し、
各々の計測範囲において正射投影画像を形成するように
したことを特徴とする画像形成装置。
Priority Applications (11)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP10066999A JP4138145B2 (ja) | 1999-04-07 | 1999-04-07 | 画像形成装置 |
US09/324,840 US6442293B1 (en) | 1998-06-11 | 1999-06-03 | Image forming apparatus, image forming method and computer-readable storage medium having an image forming program |
DE69933589T DE69933589T2 (de) | 1998-06-11 | 1999-06-09 | Bilderzeugungsgerät |
EP03006896A EP1335184B1 (en) | 1998-06-11 | 1999-06-09 | Image forming apparatus |
EP99110970A EP0964223B1 (en) | 1998-06-11 | 1999-06-09 | Apparatus for forming orthogonally projected images |
DE69906873T DE69906873T2 (de) | 1998-06-11 | 1999-06-09 | Gerät zum Erzeugen orthogonal projizierter Bilder |
AT99110970T ATE237794T1 (de) | 1998-06-11 | 1999-06-09 | Gerät zum erzeugen orthogonal projizierter bilder |
EP05011716A EP1568964A1 (en) | 1998-06-11 | 1999-06-09 | Image forming apparatus |
AT03006896T ATE342488T1 (de) | 1998-06-11 | 1999-06-09 | Bilderzeugungsgerät |
US10/213,111 US6754378B2 (en) | 1998-06-11 | 2002-08-07 | Image forming apparatus, image forming method and computer-readable storage medium having an image forming program |
US10/738,172 US7116818B2 (en) | 1998-06-11 | 2003-12-18 | Image forming apparatus, image forming method and computer-readable storage medium having an image forming program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP10066999A JP4138145B2 (ja) | 1999-04-07 | 1999-04-07 | 画像形成装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2000292166A true JP2000292166A (ja) | 2000-10-20 |
JP4138145B2 JP4138145B2 (ja) | 2008-08-20 |
Family
ID=14280191
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP10066999A Expired - Fee Related JP4138145B2 (ja) | 1998-06-11 | 1999-04-07 | 画像形成装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4138145B2 (ja) |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002304597A (ja) * | 2001-04-04 | 2002-10-18 | Sakana Ryutsu Net:Kk | 梱包箱に記入された手書き数値情報の認識方式 |
JP2003009664A (ja) * | 2001-06-29 | 2003-01-14 | Minolta Co Ltd | 作物生育量測定装置、作物生育量測定方法、作物生育量測定プログラム及びその作物生育量測定プログラムを記録したコンピュータ読取可能な記録媒体 |
JP2005267457A (ja) * | 2004-03-19 | 2005-09-29 | Casio Comput Co Ltd | 画像処理装置、撮影装置、画像処理方法及びプログラム |
JP2008151740A (ja) * | 2006-12-20 | 2008-07-03 | Sumitomo Mitsui Construction Co Ltd | 画像処理装置、及び画像処理方法 |
JP2008267843A (ja) * | 2007-04-17 | 2008-11-06 | Tobishima Corp | トンネル切羽面の測量システム |
EP2031558A2 (en) | 2007-08-29 | 2009-03-04 | Kabushiki Kaisha TOPCON | Image measurement apparatus |
JP2009186402A (ja) * | 2008-02-08 | 2009-08-20 | Tobishima Corp | 可視光を利用した正射投影画像取得システム。 |
JP2010048581A (ja) * | 2008-08-19 | 2010-03-04 | Hitachi Plant Technologies Ltd | 埋金設置位置照合方法および埋金設置位置照合システム |
JP2011123008A (ja) * | 2009-12-14 | 2011-06-23 | Nexco-East Engineering Co Ltd | 計測方法および計測プログラムならびに計測装置 |
JP2011223915A (ja) * | 2010-04-19 | 2011-11-10 | Ohbayashi Corp | 芝の生長の予測システムおよび予測方法 |
JP2012198229A (ja) * | 2009-03-30 | 2012-10-18 | Koh Young Technology Inc | 検査方法 |
JP2015143803A (ja) * | 2014-01-31 | 2015-08-06 | 朝日航洋株式会社 | 写真地図作成方法 |
WO2018180214A1 (ja) * | 2017-03-28 | 2018-10-04 | 富士フイルム株式会社 | 画像処理装置、カメラ装置、および画像処理方法 |
US10127687B2 (en) | 2014-11-13 | 2018-11-13 | Olympus Corporation | Calibration device, calibration method, optical device, image-capturing device, projection device, measuring system, and measuring method |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6854195B2 (ja) | 2017-06-09 | 2021-04-07 | 株式会社トプコン | 画像処理装置、画像処理方法および画像処理用プログラム |
-
1999
- 1999-04-07 JP JP10066999A patent/JP4138145B2/ja not_active Expired - Fee Related
Cited By (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002304597A (ja) * | 2001-04-04 | 2002-10-18 | Sakana Ryutsu Net:Kk | 梱包箱に記入された手書き数値情報の認識方式 |
JP2003009664A (ja) * | 2001-06-29 | 2003-01-14 | Minolta Co Ltd | 作物生育量測定装置、作物生育量測定方法、作物生育量測定プログラム及びその作物生育量測定プログラムを記録したコンピュータ読取可能な記録媒体 |
JP2005267457A (ja) * | 2004-03-19 | 2005-09-29 | Casio Comput Co Ltd | 画像処理装置、撮影装置、画像処理方法及びプログラム |
JP2008151740A (ja) * | 2006-12-20 | 2008-07-03 | Sumitomo Mitsui Construction Co Ltd | 画像処理装置、及び画像処理方法 |
JP2008267843A (ja) * | 2007-04-17 | 2008-11-06 | Tobishima Corp | トンネル切羽面の測量システム |
US8300986B2 (en) | 2007-08-29 | 2012-10-30 | Kabushiki Kaisha Topcon | Image measurement apparatus for creating a panoramic image |
JP2009053126A (ja) * | 2007-08-29 | 2009-03-12 | Topcon Corp | 画像測定装置 |
EP2031558A2 (en) | 2007-08-29 | 2009-03-04 | Kabushiki Kaisha TOPCON | Image measurement apparatus |
JP2009186402A (ja) * | 2008-02-08 | 2009-08-20 | Tobishima Corp | 可視光を利用した正射投影画像取得システム。 |
JP2010048581A (ja) * | 2008-08-19 | 2010-03-04 | Hitachi Plant Technologies Ltd | 埋金設置位置照合方法および埋金設置位置照合システム |
JP2012198229A (ja) * | 2009-03-30 | 2012-10-18 | Koh Young Technology Inc | 検査方法 |
JP2011123008A (ja) * | 2009-12-14 | 2011-06-23 | Nexco-East Engineering Co Ltd | 計測方法および計測プログラムならびに計測装置 |
JP2011223915A (ja) * | 2010-04-19 | 2011-11-10 | Ohbayashi Corp | 芝の生長の予測システムおよび予測方法 |
JP2015143803A (ja) * | 2014-01-31 | 2015-08-06 | 朝日航洋株式会社 | 写真地図作成方法 |
US10127687B2 (en) | 2014-11-13 | 2018-11-13 | Olympus Corporation | Calibration device, calibration method, optical device, image-capturing device, projection device, measuring system, and measuring method |
WO2018180214A1 (ja) * | 2017-03-28 | 2018-10-04 | 富士フイルム株式会社 | 画像処理装置、カメラ装置、および画像処理方法 |
Also Published As
Publication number | Publication date |
---|---|
JP4138145B2 (ja) | 2008-08-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US6754378B2 (en) | Image forming apparatus, image forming method and computer-readable storage medium having an image forming program | |
US8218131B2 (en) | Position measuring system, position measuring method and position measuring program | |
JP5580164B2 (ja) | 光学情報処理装置、光学情報処理方法、光学情報処理システム、光学情報処理プログラム | |
US7218384B2 (en) | Surveying system | |
JP4607095B2 (ja) | 測量機器において画像処理を行う方法と装置 | |
US8045762B2 (en) | Surveying method, surveying system and surveying data processing program | |
JP5620200B2 (ja) | 点群位置データ処理装置、点群位置データ処理方法、点群位置データ処理システム、および点群位置データ処理プログラム | |
JP5593177B2 (ja) | 点群位置データ処理装置、点群位置データ処理方法、点群位置データ処理システム、および点群位置データ処理プログラム | |
JP3426459B2 (ja) | 写真測量システムおよび写真測量方法 | |
WO2012020696A1 (ja) | 点群位置データ処理装置、点群位置データ処理システム、点群位置データ処理方法、および点群位置データ処理プログラム | |
JP4138145B2 (ja) | 画像形成装置 | |
JP7300948B2 (ja) | 測量データ処理装置、測量データ処理方法、測量データ処理用プログラム | |
KR101252680B1 (ko) | 디지털 항공이미지를 이용한 영상도화시스템 | |
JP4237868B2 (ja) | 画像形成システム | |
JP4112077B2 (ja) | 画像計測処理方法並びに装置及び画像計測処理プログラムを記録した記録媒体 | |
JPH1089960A (ja) | 三次元画像計測方法 | |
JP4359084B2 (ja) | 測量システム | |
JP4359083B2 (ja) | 測量システム | |
JP4282361B2 (ja) | 写真測量方法および写真測量プログラム | |
JP3761458B2 (ja) | 物体長算出方法および物体長算出装置 | |
JP2003177019A (ja) | 自由撮影によるカメラの姿勢算出方法 | |
Roman et al. | Estimation of error in large area underwater photomosaics using vehicle navigation data | |
JP2001033245A (ja) | 平面上の点の位置測定方法 | |
JP2003075153A (ja) | 測量データ処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060405 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20071120 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080118 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080311 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080508 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080603 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080605 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110613 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110613 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120613 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120613 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130613 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |