JP2003316256A - オルソフォト生成方法、オルソフォト生成システム及びオルソフォト生成プログラム - Google Patents

オルソフォト生成方法、オルソフォト生成システム及びオルソフォト生成プログラム

Info

Publication number
JP2003316256A
JP2003316256A JP2002118033A JP2002118033A JP2003316256A JP 2003316256 A JP2003316256 A JP 2003316256A JP 2002118033 A JP2002118033 A JP 2002118033A JP 2002118033 A JP2002118033 A JP 2002118033A JP 2003316256 A JP2003316256 A JP 2003316256A
Authority
JP
Japan
Prior art keywords
orthophoto
triangular prism
concealment
image
triangular
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002118033A
Other languages
English (en)
Other versions
JP4177017B2 (ja
Inventor
Kazuo Oda
和夫 織田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Asia Air Survey Co Ltd
Original Assignee
Asia Air Survey Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Asia Air Survey Co Ltd filed Critical Asia Air Survey Co Ltd
Priority to JP2002118033A priority Critical patent/JP4177017B2/ja
Publication of JP2003316256A publication Critical patent/JP2003316256A/ja
Application granted granted Critical
Publication of JP4177017B2 publication Critical patent/JP4177017B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Instructional Devices (AREA)
  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)

Abstract

(57)【要約】 【課題】 処理負荷の増加を抑制しつつ正確なオルソフ
ォトを生成することができるオルソフォト生成方法等を
提供する。 【解決手段】 三角柱モデル生成部40は、3次元地図
DB10に格納されている3次元地図に応じて三角柱モ
デルを生成し、オルソフォト化部50は、三角柱モデル
によって隠蔽関係を判定し、空中写真画像DB20に格
納されている空中写真画像と標定要素DB30に格納さ
れている標定要素に応じたオルソフォト画像を生成し、
オルソフォト化データ格納部60に格納する。合成処理
部70は、オルソフォト化データ格納部60に格納され
ている個々のオルソフォトを合成し、オルソフォト格納
部80に格納する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、空中撮影された地
表画像から等縮尺で平行投影したオルソフォトを生成す
るオルソフォト生成方法、オルソフォト生成システム及
びオルソフォト生成プログラムに関する。
【0002】
【従来の技術】航空機等による空中撮影に用いられる画
像センサは一般に中心投影であり、画像センサに近い物
ほど大きく写り、速いものほど小さく写る。このため、
このような画像センサで撮影された地表の画像を、地図
のように等縮尺で描かれている画像と単純に重ね合わせ
ることはできない。
【0003】このような撮影時の縮尺比の影響を、地表
面モデルを用いて補正し、図24に示すように、鈷直方
向に向かって平行投影によって投影した場合の画像を人
工的に再現したものがオルソフォトである。このような
オルソフォトは、カメラの標定要素と地表面の形状を示
すモデルがあれば生成する事ができる。
【0004】空気の密度や温度差、レンズの特性等によ
る画像の補正を行い、いわゆる共線条件を満たす場合に
は、カメラの標定要素(内部標定要素・外部標定要素)
が既知であるとすると、3次元空間から画像平面への写
像、つまり地上座標系で座標(X,Y,Z)の点Pが写
るデジタル写真画像I上のピクセル座標(x,y
を求める関数は次式で与えられる。
【0005】 x=Fx(X,Y,Z) (1) y=Fy(X,Y,Z) (2) 具体的には、図25に示すように、カメラの投影中心の
座標を(X,Y,Z)、カメラの地上座標に対す
る回転角を(κ,φ,ω)、カメラの焦点距離をcとす
ると、地上座標(X,Y,Z)はカメラの投影中心と傾
きに相対的な座標系(カメラ座標系)(U,V,W)に
次式で変換される。
【0006】
【数1】 (3) また、この座標が写る写真上の座標(写真座標系、投影
中心の像(主点)を中心とする2次元座標系)(x,
y)は、次式で表される。
【0007】 x=−c・U/W (4) y=−c・V/W (5) 更に写真をデジタル画像Iに変換するとき、非線形な歪
が入らなければ、写真座標(x,y)は一般に次式に示
すアフィン変換で画像座標(x,y)に変換するこ
とができる。
【0008】
【数2】 (6) 以上より、投影中心座標・回転角・焦点距離・アフィン
変換係数がわかれば、地上座標(X,Y,Z)を画像座
標(x,y)に変換することができる。この手続き
をFx,Fyとすると、上述の式(1)及び式(2)の
ようになる。
【0009】また、地表面の平面座標(X,Y)におけ
る標高値Zを与える関数(地表面モデル)が、Z=S
(X,Y)で与えられるとすると、平面座標(X,Y)
に対応する地表面上の座標は(X,Y,S(X,Y))
である。このため、平面座標(X,Y)に対応する写真
画像上の座標(x,y)は、次式のようになる。
【0010】 x=Fx(X,Y,S(X,Y)) (7) y=Fy(X,Y,S(X,Y)) (8) なお、図26に示すように、生成したいオルソフォトの
原点を(X0,Y0),オルソフォトのカラム方向の単
位方向ベクトルをec=(Dxx,Dxy)、オルソフ
ォトのライン方向の単位方向ベクトルをel=(Dy
x,Dyy)、カラム軸方向の解像度をdc,ライン紬
方向の分解能をdlとすれば、オルソフォト画像の座標
(i,j)に対応する平面座標(X,Y)の関係は、次
式で与えられる。
【0011】
【数3】 (9)
【数4】 (10) 式(7),式(8)と式(9)を組み合わせれば、オル
ソフォト画像Iorthの座標(i,j)での写真画像
上の座標を得ることができる。最終的に写真画像Iを用
いると、 Iorth(i,j)=I(Fx(X,Y,S(X,Y)),Fy(X,Y,S(X,Y)) (11) と表現することができる。なお、座標(Fx(X,Y,
S(X,Y)),Fy(X,Y,S(X,Y)))の座
標値が整数ではない場合は、周囲の画素値を適当な方法
(例えばニアレストネイバー・バイリニア・キュービッ
クコンボルーション等)で内挿計算する。
【0012】
【発明が解決しようとする課題】ところで、上述のよう
なアルゴリズムは、オルソフォト生成のために一般的に
用いられているが、このアルゴリズムでは、例えば地面
や建物が別の建物の影になって写真画像に写っていない
「オクルージョン」が起こらないことを前提としてい
る。このオクルージョンとは、例えば地面や建物が別の
建物の影になって写真画像に写っていないような状況の
ことである。
【0013】このようなオクルージョンが起こった状況
では、図27に示すように、一つの写真画像上の座標
(x,y)に複数の地表座標(X1,Y1,Z
1),(X2,Y2,Z2),…,(XN,YN,Z
N)が対応してしまう(同図はN=3の場合を示してい
る)。これらの地表座標のうち、実際に画像に写ってい
るものに対応するのは、カメラに最も近い点である。す
なわち、この図27の場合では、写真画像のP点には、
3次元空間上のP1,P2,P3の各点が投影される
が、実際にはP2,P3は点P1によって隠されて写真
画像には写らない。
【0014】このような状況を考慮しないで、上述の全
ての座標{(X1,Y1,Z1),(X2,Y2,Z
2),…,(XN,YN,ZN)}に対して上述の式
(11)を適用してしまうと、図28に示すように、オ
ルソフォト上で同じ像が何度も写ったり、建物の壁面が
オルソフォトに混入したりしてしまうことになる。
【0015】このような問題を解決するためには、写真
画像上の座標(x,y)に対応する地表面モデル上
の点(X1,Y1,Z1),(X2,Y2,Z2),
…,(XN,YN,ZN)を求め、これらの投影中心に
対する前後関係を調べ、最も投影中心に近いもののみを
オルソフォト化するという手続が必要である。この手続
はコンピュータグラフィックスにおけるZバッファリン
グの逆手法ともいえるが、各画素について地表面モデル
上の候補点の探索と前後関係の計算を行う必要があり、
膨大な計算量を要する問題があった。
【0016】本発明は、上述の課題に鑑みてなされたも
のであり、処理負荷の増加を抑制しつつ正確なオルソフ
ォトを生成することができるオルソフォト生成方法等を
提供することを目的とする。
【0017】
【課題を解決するための手段】上述の問題を解決するた
めに、本発明に係るオルソフォト生成方法では、地表面
の形状データから複数の三角柱を含む三角柱モデルを生
成するステップと、三角柱間の隠蔽関係を検出するステ
ップと、検出した隠蔽関係に応じて、空中写真画像及び
標定要素からオルソフォトを生成するステップとを有す
ることを特徴とする。
【0018】また、本発明に係るオルソフォト生成シス
テムでは、地表面の形状データから複数の三角柱を含む
三角柱モデルを生成する三角柱モデル生成手段と、三角
柱間の隠蔽関係を検出する隠蔽関係検出手段と、検出し
た隠蔽関係に応じて、空中写真画像及び標定要素からオ
ルソフォトを生成するオルソフォト生成手段とを備える
ことを特徴とする。
【0019】また、本発明に係るオルソフォト生成プロ
グラムは、コンピュータに、地表面の形状データから複
数の三角柱を含む三角柱モデルを生成させるステップ
と、三角柱間の隠蔽関係を検出させるステップと、検出
した隠蔽関係に応じて、空中写真画像及び標定要素から
オルソフォトを生成させるステップとを有することを特
徴とする。
【0020】
【発明の実施の形態】本発明は、例えば航空写真からオ
ルソフォトを生成するオルソフォト生成システムに適用
することができる。
【0021】(構成)本発明の一実施形態に係るオルソ
フォト生成システムは、例えばプロセッサ(MPU)、
メモリ、ハードディスクドライブ(HDD),光ディス
クドライブ等の補助記憶装置、キーボード,ネットワー
クインターフェース(NIC)等の入力装置、ディスプ
レイ装置,画像信号出力インターフェース等の出力装置
を備えるパーソナルコンピュータ,ワークステーション
等の情報処理装置から構成することができる。
【0022】このような情報処理装置は、例えばMPU
が本発明に係るオルソフォト生成プログラムを実行する
ことにより、図1に示すように、3次元地図を保持する
3次元地図DB10と、空中撮影された地表画像を保持
する空中写真画像DB20と、各々の地表画像毎に標定
要素を保持する標定要素DB30と、3次元地図DB1
0に格納された3次元地図から三角柱モデルを生成する
三角柱モデル生成部40と、生成された三角柱モデルと
標定要素DB30に格納されている標定要素に応じて空
中写真画像DB20に格納されている個々の写真画像を
オルソフォト化するオルソフォト化部50と、オルソフ
ォト化された個々の写真画像を格納するオルソフォト化
データ格納部60と、オルソフォト化された個々の写真
画像を合成する合成処理部70と、合成されたオルソフ
ォト画像を格納するオルソフォト格納部80として機能
する。
【0023】なお、この図1では、本発明のオルソフォ
ト生成装置を1つの装置として構成した例について示し
ているが、各DB10〜30を各々別の装置として構成
する等、適宜構成を変更することができる。また、この
図1と同様の構成をハードウェアで構成することもでき
る。
【0024】このオルソフォト生成装置には、入力デー
タとして3次元地図,空中写真画像及び標定要素が入力
される。これらのデータは、例えば上述の入力装置を介
して外部から供給され、各々3次元地図DB10、空中
写真画像DB20及び標定要素DB30に格納される。
【0025】(3次元地図)3次元地図DB10に格納
される3次元地図は、全ての座標が標高付で保存されて
いる地図である。具体的には、3次元の点、もしくは3
次元の点を結んだ線分・連続線分・閉曲線を示すデータ
からなる。この3次元地図は更に、地面上オブジェクト
と空中オブジェクトの2つに分けられているものとす
る。
【0026】地面上オブジェクトは、道路・等高線・河
川等の地面上にあると考えられるオブジェクト(物体)
である。これに対し、空中オブジェクトは、建物・橋梁
等、図化された部分が地面より上にあるオブジェクトで
あり、多角形の閉領域で記述されている。
【0027】(空中写真画像)空中写真画像DB20に
は、例えばデジタル形式のni個の空中写真画像I
niが格納される。なお、これらの空中写真画像で
は、レンズディストーションのような非線形な歪は無視
できるか、予め取り除かれているものとする。
【0028】(標定要素)標定要素DB30に格納され
る標定要素は、各写真画像の内部標定要素(焦点距離・
画像座標と写真座標の変換行列)及び外部標定要素(投
影中心座標・カメラの地上座標系に対する回転角)であ
る。
【0029】また、このオルソフォト生成装置には、オ
ルソフォトを生成するためのパラメータ(オルソフォト
パラメータ)が供給される。このオルソフォトパラメー
タは、少なくとも次のパラメータを含んでいる。
【0030】オルソフォトの原点(オルソフォト画像
原点の中心座標)(X0,Y0) カラム軸及びライン軸方向の単位方向ベクトルec
(Dxx,Dxy)・el(Dyx,Dyy) カラム軸及びライン軸方向の解像度dc・dl オルソフォトのカラム数及びライン数Sc・Sl なお、これらのパラメータによって、オルソフォトの範
囲は、例えば図2に示すように、次の4点(X0,Y
0),(X1,Y1),(X2,Y2),(X3,Y
3)で囲まれた矩形範囲となる。
【0031】 (X0,Y0) (X1,Y1)=(X0+Dxx×dc(Sc−1),Y0+Dxy×dc( Sc−1)) (X2,Y2)=(X0+Dyx×dl(Sl−1),Y0+Dyy×dl( Sl−1)), (X3,Y3)=(X0+Dxx×dc(Sc−1)+Dyx×dl(Sl− 1),Y0+Dxy×dc(Sc−1)+Dyy×dl(Sl−1)) (12) また、このオルソフォト生成装置は、出力データとして
オルソフォトパラメータで指定される範囲のオルソフォ
ト画像を出力する。このオルソフォト画像は、例えばオ
ルソフォト格納部80に格納され、外部からの要求に応
じて出力される。
【0032】(動作)上述のように構成されたオルソフ
ォト生成装置では、例えば図3に示すような三角柱モデ
ルを用い、オブジェクトの隠蔽関係を考慮してオルソフ
ォトの計算を行う。
【0033】この三角柱モデルは、同図中に示すよう
に、建物等の構造物を含む地表面を、すべて三角柱で表
現したものであり、以下の条件を満たす有限個の三角柱
の集合(三角柱群)である。
【0034】[条件1]三角柱の側面は鉛直方向に直立
し、底面と上面を水平面に鉛直に投影した像は同じ三角
形に一致する。この三角形を基礎三角柱と呼ぶ。
【0035】[条件2]全ての三角柱の基礎三角形は、
境界を除いて互いに疎、つまり共通部分を持たない。こ
れらの三角形を合せて基礎三角柱群と呼ぶ。
【0036】ここで、三角柱の上面と底面は必ずしも平
行でなくとも良い。また、例えば図4に示すように、上
面と底面が一致していても良い。つまり、一般の三角メ
ッシュを使った地形モデルも概念的には三角柱モデルに
含まれる。
【0037】また、上述の条件2から、三角柱モデルを
構成する三角柱同士も側面を除いて共通部分を持たない
ことが帰結できる。
【0038】オルソフォト計算の全体は、例えば図5に
示すように、大きく座標変換及び地面標高計算準備
(S1),三角柱モデルの生成(S2),各写真の
オルソフォト化(S3),オルソフォトの合成(S
4)の4つの部分からなっている。
【0039】座標変換及び地面標高計算準備(S1) 座標変換及び地面標高計算準備では、例えば図6に示す
ように、座標変換のパラメータの設定(S11)と、地
面標高計算のパラメータの設定(S12)を行う。
【0040】座標変像のためのパラメータの設定(S1
1)では、オルソフォト化部50は、次の3つの座標変
換を実行するために、オルソフォトパラメータ及び標定
要素を読み込む。
【0041】(i)上述の式(1)及び式(2)による
3次元座標(X,Y,Z)から画像座標(x,y
への変換 (ii)上述の式(9)によるオルソフォト画像座標
(i,j)から平面座標(X,Y)への変換 (iii)上述の式(10)による平面座標(X,Y)
からオルソフォト座標(i,j)への変換 また、地面標高計算のためのパラメータの設定(S1
2)では、後の処理で必要となる地面標高計算のための
準備を行う。地面標高計算では、任意の平面座標(X,
Y)に対して、その位置における地面の標高を求める。
【0042】三角柱モデル生成部40に設けられた地形
標高計算部は、3次元地図の内、地面上オブジェクトを
読み込み、地面上オブジェクトを拘束線としてTINを
発生し、地形モデルとする。与えられた(X,Y)のZ
座標は、平面座標で(X,Y)を含む三角形の頂点の3
次元座標(X,Y,Z),(X,Y
),(X,Y,Z)から線形内挿で求める。
地面標高計算を、平面座標(X,Y)の関数として、Z
=T(X,Y) (1
3)と表現する。
【0043】三角柱モデルの生成(S2) 三角柱モデルの生成では、例えば図7に示すように、オ
ルソフォト生成に利用する三角柱モデルを生成する。
【0044】まず、三角柱モデル生成部40は、3次元
地図の読み込みを行う(S21)。具体的には、出力範
囲の矩形(X0,Y0)−(X3,Y3)及びその周り
L(Lは矩形の長辺の1/20〜1/5程度)の範囲に
ある地面上オブジェクト及び空中オブジェクトを読み込
む。なお、多角形等は、範囲にかかるものはすべて読み
出しておく。
【0045】次に、空中オブジェクト直下の地面標高の
計算を行う(S22)。具体的には、空中オブジェクト
の各点について、その直下の地面標高を、上述の式(1
3)による地面標高計算により計算する。
【0046】この後、TINの生成を行う(S23)。
具体的には、空中オブジェクト及び地面上オブジェクト
の両方の平面座標より、新たにTINを発生させる。こ
の際、地上オブジェクトの中の線(道路縁)と共に空中
オブジェクトの多角形境界も拘束線(ブレークライン)
とする。
【0047】次に、三角柱モデルの生成(S24)を行
う。具体的には、S23で生成したTINを基礎三角形
とする三角柱を生成し、上述の図3に示す三角柱モデル
を構成する。同図中に示すように、空中オブジェクト内
部の三角柱をタイプA、それ以外をタイプBと呼ぶ。各
々の三角柱は各々、以下の上面三角形,下面三角形及び
側面四角形によって定義される。
【0048】・上面三角形 タイプA:空中オブジェクトの各ノードの標高を持つ三
角形とする。
【0049】タイプB:地面上オブジェクトの標高もし
くは、S22で計算した空中オブジェクトノード直下の
地上位置標高を持つ三角形とする。
【0050】・底面三角形 空中オブジェクト及び地面上オブジェクトの最下点標高
より低い一定の値Hbottomを持つ三角形とする。
【0051】・側面四角形 上記上面と側面を結ぶ3つの四角形とする。
【0052】ここで生成した三角柱群をTpr(i=
1,・・・,ntpr)とする。また、各三角柱の上面
三角形をTtop(Tpr)、底面三角形をTbot
tom(Tpr)、側面四角形をTside(Tp
)(j=1,2,3)とする。
【0053】このような三角柱モデルでは、上述の図3
に示すように、タイプA・タイプB共に、標高Hbot
tomに底面を持つ三角柱で表すことができる。このよ
うな三角柱モデルを用いると、後述のように、図形の隠
蔽関係を単純化できるので、画素毎に前後関係を求める
必要がなく、高速にオルソフォトを生成することができ
る。
【0054】最後に、後述する隠蔽関係ソート(S4
3)を保証するために、隠蔽関係ソート可能性の保証の
ための三角柱モデルの半直線分割(S25)を行う。こ
の三角柱モデルの半直線分割は、隠蔽関係ソート可能性
を保証するために行うものであり、具体的には以下の手
順で実行される。
【0055】(半直線分割を利用した隠蔽関係ソート可
能性保証)三角形群の中には、例えば図8の左端の例に
示すような、隠蔽関係ソート不可能な例も含まれる。
【0056】このような場合は、視点から引いた半直線
によって三角形群を多角形に分割し(同図中央)、更に
その多角形を三角形に分割する(同図右)によって、隠
蔽関係ソート可能な三角形群にすることができる。これ
を、三角形群の半直線分割と呼ぶ。
【0057】この半直線分割を利用して、三角柱モデル
の隠蔽関係ソートの可能性を保証するよう三角柱を分割
する方法について述べる。
【0058】半直線分割を利用すると、例えば図9に示
す方法で、三角柱モデルの隠蔽関係ソート可能性が保証
された三角柱モデルに分割することができる。
【0059】・基礎三角形群の取得(S31) 三角柱モデルTpr:={Tpr,Tpr,・‥,
Tpr}から、基礎三角形群Tri:={Tri
Tri,・‥,Tri}を取得する。また、写真画
像の投影中心を2次元平面に投影した点(2次元視点)
をもとめ、これをOとする。
【0060】・基礎三角形群の隠蔽関係ソート可能性の
判定(S32) Oに対するTriの隠蔽関係ソートを行い、隠蔽関係ソ
ート可能性を判定する。隠蔽関係ソート可能なら、三角
柱モデルTprも隠蔽ソート可能である。
【0061】・基礎三角形群の半直線分割(S33) 隠蔽関係ソート不可能なら、2次元視点Oから発する1
本の半直線によりTriに半直線分割を施す。半直録分
割の結果をTrinewとする。
【0062】・三角柱モデルの分割(S34) Trinewを基礎三角形群とするよう、三角柱モデル
Tprの三角柱を細分化した三角柱モデルTprnew
を生成する。上述のようにTrinewは隠蔽関係ソー
ト可能であり、Tprnewも隠蔽関係ソート可能であ
ることが保証される。
【0063】(3)各写真のオルソフォト化(S3) 半直線分割が終了すると、オルソフォト化部50は、例
えば図10に示すように、入力された全ての空中写真画
像I〜Ini(個数ni)について、オルソフォトパ
ラメータで指定される範囲のオルソフォトを作成する。
この処理においては、作業領域として、サイズがSc×
Slのオルソフォト出力用バッファ配列Iorth
(i,j)と、写真画像と同じサイズの写真画像格納バ
ッファI(i,j)及びオクルージョンコードバッファ
配列Iocl(i,j)を使用する。
【0064】・範囲のチェック(S41) オルソフォトの出力範囲と各写真画像が重なるかどうか
をチェックする。具体的には、まずオルソフォト出力範
囲の4隅(X,Y)(i=0,…,3)の写る画像
座標(xIi,yIi)を次式によって求める。
【0065】 xIi=Fx(X,Y,T(X,Y)) (14 ) yIi=Fy(X,Y,T(X,Y)) (15 ) この(xIi,yIi)で形成する四角形と画像の4隅
が構成する矩形が重なり合うかどうかを調べることによ
って、出力範囲が画像と重なるかどうかをチェックする
ことができる。
【0066】チェックの結果、オルソ出力範囲が写真に
重ならない場合は、次の写真の処理(S40)に移る。
重なる場合は次のS42に進む。
【0067】・画像の読み込みとバッファの初期化(S
42) 写真画像I(i,j)を読み込む。また、オルソフォト
出力バッファIorth(i,j)を初期コードOin
itに初期化する。Oinitは、画素値としてあり得
ない値にしておく。また、オクルージョンコードバッフ
ァ配列Iocl(i,j)を非オクルージョンコードM
init(典型的には0)に初期化する。なお、Ioc
l(i,j)は、非オクルージョンコードMinitと
オクルージョンコードMocl(典型的には1)の2値
を取るものとする。
【0068】・三角柱モデルの隠蔽関係ソート(S4
3) 三角柱群Tpri(i=1,…,ntpr)を、写真の
投影中心座標を視点とした隠蔽関係によって予めソート
する。
【0069】隠蔽関係によってソートするとは、三角柱
(若しくは三角形)をある3次元的視点(三角形のとき
は2次元的視点)から見るとき、順番が前の物が後ろの
物に隠蔽される事がないということを保証するように並
べることである。このように並べられた三角柱(若しく
は三角形)を隠蔽関係ソート列と呼ぶ。
【0070】また、与えられた三角柱群(若しくは三角
系群)の全てを隠蔽関係ソート列に構成する事ができる
場合、隠蔽関係ソート可能と呼ぶ。なお、ここで使う隠
蔽という言葉を数学的に定義しておく。
【0071】例えば図11(A)及び同図(B)に示す
状態において、視点Oからみて三角柱(三角形)Aが他
の三角柱(三角形)Bに隠蔽されるとは、Aの内部の点
PAとOを結ぶ線分PAO上に、Bの内部の点PBが存
在する事を言う。逆に隠蔽されないとは、そのようなB
の内部の点が存在しない事を言う。
【0072】三角柱(三角形)Aが視点Oに対して三角
柱(三角形)Bに隠蔽されることを、次の式で表現する
こととする。
【0073】
【数5】 また、Aが三角柱(三角形)Bに隠蔽されない
【数6】 ことを、次の式で表現することとする。
【0074】
【数7】 三角柱モデルと基礎三角形群については、次の重要な定
理が存在する。
【0075】[定理]三角柱モデルTprの基礎三角形
群Triが隠蔽関係ソート可能ならば、Tprも隠蔽関
係ソート可能である。また、STriがTriの隠蔽関
係ソート列ならば、STriの各三角形に対応する三角
柱をSTriと同じ順に並べた三角柱列STprは、T
prの隠蔽関係ソート列である。つまり、三角柱モデル
の隠蔽関係ソートを行うには、その基礎三角形群の隠蔽
関係ソート列を行えばよい。以下、基礎三角形群の隠蔽
関係ソートを利用した三角柱モデルの隠蔽関係ソート方
法について説明する。
【0076】上述の三角柱の隠蔽関係ソートは、例えば
図12に示す処理によって行う。
【0077】・基礎三角形群の取得(S51) 三角柱モデルTpr:={Tpr,Tpr,…,T
pr}から、基礎三角形群Tri:={Tri,T
ri,・・・,Tri}を取得する。また、画像の
投影中心を水平面に投影したものを2次元視点Oとす
る。
【0078】・三角形分割の取得(S52) 例えば図13に示すように、与えられた基礎三角形群T
riの頂点より、三角形の辺をブレークラインとして、
全体が凸包で囲まれるよう三角形分割を行う(同図
(1))。これは普通TINを発生することによって得
られる。なお、視点が三角形群の外部にある場合は視点
もTINを構成する点に追加しておく(同図(2))。
ここで得られた三角形分割の三角形群をTri′={T
ri′,Tri′,・・・,Trin′′}とす
る。
【0079】・最初の三角形の取り出し(S53) まず、図14(1)に示すように、三角形分割領域内で
2次元視点Oを含む三角形を隠蔽関係ソート列の最初の
三角形Sとする。視点Oが三角形境界上にあるとき
は、その境界を構成するいずれかの三角形をSとす
る。
【0080】・前線多角形の初期化(S54) 視点の周囲で、既に取り出した三角形内部を除いた多角
形境界を前線多角形と呼ぶ(図14(2)の太線部)。
最初の前線多角形は、上記STri′それ自身であ
る。
【0081】・非隠蔽三角形のサーチ(S55) 前線多角形の辺を1辺とする三角形の中で、非隠蔽三角
形であるかどうかを調べる。非隠蔽三角形である条件
は、図15に示すように、次の2つの条件のいずれかで
ある。
【0082】[条件1]前線多角形の辺をAB、この辺
を1辺とする三角形の頂点Cとすると、線分ABと線分
OCが交点を持つ(図15(1))。
【0083】[条件2]前線多角形の辺をAB、この辺
を1辺とする三角形の頂点Cとすると、Cが前線多角形
のAもしくはBの隣の点である(図15(2))。
【0084】・隠蔽関係ソート列の追加(S57) S56において、非隠蔽三角形が見つかったときは、そ
の三角形を隠蔽関係ソート列Sに追加する。
【0085】・前線多角形の更新(S58) ソート列に追加した三角形を三角形群から取り除く。す
なわち、前線多角形を結合した図形の外周を新たに前線
多角形とする(上述の図14中の(3)〜(11))。
ソート対象となる三角形が残っている場合はS55に戻
る。
【0086】・処理の終了(S59) 全ての前線多角形の辺について非隠蔽三角形が見つから
ない、もしくはソート対象となる三角形がなくなったと
きは、処理を終了する(図14(11))。得られた隠
蔽関係ソート列をS:={S,S,…,Sn′}と
する。
【0087】・隠蔽関係ソート列の抽出 上述の三角形分割の隠蔽関係ソート(S51〜S59)
で得られた隠蔽関係ソート列Sから、元の三角形群に含
まれるもののみを抽出し、これをSTri:={STr
,STri,…,STri}とする。
【0088】・三角柱の隠蔽関係ソート列の取得(S6
0) STriの各三角形を基礎三角形とする三角柱をSTr
iと同じ順に取り出したものをSTpr:={STpr
,STpr,・‥,STpr}とすると、これが
求めるTprの隠蔽関係ソート列である。
【0089】上述の処理によって隠蔽関係ソートの順に
並べられた三角柱群を改めてTpr (i=1,…,n
tpr)とし、図10中のS44に進む。
【0090】・三角柱のオルソフォト化(S44) 三角柱を隠蔽関係ソートソート順に順次オルソフォト化
する。三角柱Tprを順次取り出し、以下に示すS4
5〜S48の処理を実行する。
【0091】S45では、順次、次の三角柱を選択す
る。
【0092】(i)オルソフォトの生成(S46) オルソフォト化部50に設けられた座標変換モジュール
により三角柱の基礎三角形Tbase(Tpr)をオ
ルソフォト画像座標の三角形Torth(Tpr)に
変換する。また、オルソフォト化部50に設けられたオ
ルソフォト出力バッファで、上述の三角形Torth
(Tpr)の内部及び周上の各画素について、上述の
式(11)によって、Iorth(i,j)を求める。
なお、式(11)に用いる地表面モデルZ=S(X,
Y)には、上面三角形Ttop(Tpr)を通る平面
上の標高を与える関数を用いる。
【0093】具体的には、次の手順で処理を実行する。
【0094】式(9)により、Torth(Tp
)内の点(i,j)について、対応する平面座標
(X,Y)を算出する。
【0095】上述の式(1)及び式(2)により、平
面座標(X,Y)に対応する写真画像上の座標(x
)を求める。この座標を四捨五入して得られる整数
座標を(ix,iy)としたとき、オクルージョン
コードバッファIoci(ix,iy)がMini
tならば、上述の(11)式によってIorth(i,
j)を計算する。また、Moclならば、Iorth
(i,j)は初期コードOinitのままとする。
【0096】(ii)オクルージョンの記録(S47) 三角柱Tprによってオクルージョンとなる部分を記
録しておく。写真画像上でこの構造物によって隠される
部分は、この構造物の上面三角形Ttop(Tp
))、底面三角形Tbottom(Tpr)及び
3個の側面四角形Tside(Tpr)(j=1,
2,3)が投影される部分である。
【0097】オクルージョンの記録にあたっては、Tt
op(Tpr)・Tbottom(Tpr)・Ts
ide(Tpr)を順次上述の式(1)及び式
(2)によってデジタル写真画像座標に変換する。変換
後の2次元画像座標多角形の内部にある全ての整数座標
(ii,jj)についてIocl(ii,jj)をオク
ルージョンコードMoclに設定し、オクルージョンと
なっていることを記録する。
【0098】以上の処理を実行した後、S48において
三角柱が残っているか否かを判定し、三角柱が残ってい
なければS49に進み、三角柱が残っていれば、S45
に戻る。
【0099】・オルソフォトの格納(S49) 全ての三角柱についてオルソフォトを生成した後、最終
的にオルソフォトIorthをオルソフォト化データ格
納部60にIorthとして格納する。
【0100】上述のような処理によるオルソフォトの生
成過程を示したものが、図16,図17,図18及び図
19である。
【0101】三角柱モデルを構成する三角柱の中で、
他の三角柱に隠されることがない三角柱(非隠蔽三角
柱)を取り出す。例えば視点の直下にある三角柱(例え
ば図18(1)の番号1の三角柱)は、他の三角柱に隠
されることはない。
【0102】取り出した三角柱を水平面に鉛直に投影
した三角形(これを基礎三角形と呼ぶ。)の周上及び内
部について上述の式(11)によってオルソフォトヘの
出力値を計算する(図18(2)のIorth)。この
際、地表面モデルZ=S(X,Y)には、三角柱の上面
を使用する(図17)。
【0103】この三角柱によって隠される写真画像上
の領域を記録しておく(図18(2)のIocl)。
【0104】上記三角柱を三角柱モデルから取り除く
(図18(2)の三角柱モデル)。
【0105】三角柱モデルを構成する三角柱(既に処
理したもの以外)の中で、他の三角柱に隠されることが
ない三角柱を取り出す(例えば図18(1)の三角柱
2,3,4,…の順)。
【0106】と同様に取り出した三角柱の基確三角
形の図上及び内部についてオルソフォトを出力する(図
18(3),図19(1)〜(2)のIorth)。た
だし、既にオルソフォトを作成した三角柱によって隠さ
れていると記録されている写真画像上の部分に対応した
場合は、オルソフォト出力バッファに記録しない(図1
9(1)のIorth参照)。
【0107】この三角柱によって隠される写真画像上
の領域を記録しておく(図18(3),図19(1)〜
(2)のIocl)。
【0108】上記三角柱を三角柱モデルから取り除く
(図18(3),図19(1)〜(2)の三角柱モデ
ル)。
【0109】三角柱モデルに三角柱が残っていれば
に戻る。残っていなければ処理を終了する。
【0110】以上の手順によってできたオルソフォト
は、オクルージョンによる影部分が欠損したものになる
(図20左)。この図20左の図は、遮蔽関係を考慮し
たオルソフォトであり、黒い部分はオクルージョンによ
る欠損を示している。
【0111】しかし、ある写真画像から生成したオルソ
フォトで欠損している部分は、別の視点から撮影した写
真から生成したオルソフォトでは欠損していない可能性
がある。そこで複数の写真で作成したオルソフォトを更
に合成することにより、オクルージョンを補い合う。こ
うして、光学的に正しく、かつオクルージョンによる欠
損の少ない精密なオルソフォト画像を作成することがで
きる(図20右)。
【0112】(4)オルソフォトの合成(S4) オルソフォトの合成では、合成処理部70は、上述の各
写真のオルソフォト化(S3)で生成され、オルソフォ
ト化データ格納部60に格納されたオルソフォトをメモ
リ上に読み出す。ここで生成されたオルソフォトをIo
rth(k=1,…,nort)とする。
【0113】投影中心のオルソ画像座標系への変換 Iorthの原画像の投影中心座標(これは標定要素
から既知である)を、上述の式(10)によりオルソ画
像座標系に変換したものをO=(Xo,Yo)と
する。
【0114】オルソフォトの合成 最終出力オルソフォトバッファ(オルソフォト格納部8
0)を
【数8】 とする。合成処理部70は、
【数9】 上の全ての座標(i,j)について、オルソ画像出力値
【数10】 を次の重み付平均によって計算する。
【0115】
【数11】 (16) ここで、w(i,j,k)は画像座標(i,j)に対す
るk番目の画像の重み関数である。実際の各画像の重み
W(i,j,k)は、重み関数を使って次式で表され
る。
【0116】
【数12】 (17) w(i,j,k)の取り方により、様々なオルソフォト
の接合を行うことができるが、いずれの場合も、Ior
th(i,j)=Oinitのとき、w(i,j,
k)=0 (18)とする。つまり、各オルソフォト内
で、初期値のままの部分については重み0である。ま
た、式(16)よりわかるように、全てのオルソフォト
についてIorth(i,j)=Oinitなら、出
力は背景色Ibackになる。また、一つの写真でオク
ルージョンのためIorth(i,j)=Oinit
となっていても、他の写真でIorth(i,j)≠
Oinitならば、上述の図20に示すように、オクル
ージョン部分を補うことができる。
【0117】一般に投影中心が近い写真を優先して画像
を合成するので、重み関数w(k,i,j)としてO
と(i,j)の距離D(i,j,k)を利用する最近傍
法,最近傍法の境界付近で画像の合成を滑らかに切り替
える方法等によって合成を行うことが多い。
【0118】最近傍法は、最も主点位置が近い画像を優
先する方法で、重み関数w(k,i,j)として、例え
ば次式のような関数を用いる。
【0119】
【数13】 (19) 最近傍法の境界付近で画像の合成を滑らかに切り替える
方法では、w(k)が距離に応じて急激に小さくなる関
数、例えば次のような関数を用いる。
【0120】
【数14】 (20) ここでpは適当な整数とする。pが大きいほど、境界部
分での画像の重みの切り替えが急激になる(図21・図
22・図23)。
【0121】(効果)以上説明したように、この実施形
態に係るオルソフォト生成装置では、三角柱モデルを用
いることにより、隠蔽関係を判定することが容易にな
り、詳細なオルソフォトを高速に生成することができ
る。
【0122】なお、本発明の技術的思想は、上述の実施
形態に限定されず、適宜変更することができる。
【0123】
【発明の効果】本発明に係るオルソフォト生成システム
では、三角柱モデルを用いることにより、隠蔽関係を判
定することが容易になり、処理負荷の増加を抑制しつつ
正確なオルソフォトを生成することができる。これによ
り、従来はあまり利用されなかった都市部の精密オルソ
フォトの生成が可能になる。
【図面の簡単な説明】
【図1】本発明の一実施形態に係るオルソフォト生成シ
ステムの構成例を示すブロック図である。
【図2】オルソフォトの範囲の例を示す図である。
【図3】前記オルソフォト生成システムで用いる三角柱
モデルを示す図である。
【図4】三角柱モデルと基礎三角形群を示す図である。
【図5】前記オルソフォト生成システムによるオルソフ
ォトの計算処理の例を示すフローチャートである。
【図6】前記オルソフォト生成システムを構成するオル
ソフォト化部によるパラメータの設定処理の例を示すフ
ローチャートである。
【図7】前記オルソフォト生成システムを構成する三角
柱モデル生成部による三角柱モデルの生成処理の例を示
すフローチャートである。
【図8】前記三角柱モデル生成部による半直線分割処理
の例を示すフローチャートである。
【図9】前記三角柱モデル生成部による三角柱モデルの
隠蔽関係ソート可能性が保証された三角柱モデルに分割
する処理の例を示すフローチャートである。
【図10】前記オルソフォト化部によるオルソフォト化
処理の例を示すフローチャートである。
【図11】三角柱と三角形の隠蔽を示す図である。
【図12】前記オルソフォト化部による三角柱の隠蔽関
係ソート処理の例を示すフローチャートである。
【図13】前記オルソフォト化部による三角柱の分割処
理の例を示す図である。
【図14】前記オルソフォト化部による三角柱分割の隠
蔽関係ソート手順を示す図である。
【図15】非隠蔽三角形の条件を示す図である。
【図16】三角柱モデルを用いたオルソフォト生成過程
を示す図である。
【図17】三角柱モデルを用いたオルソフォト生成過程
を示す図である。
【図18】三角柱モデルを用いたオルソフォト生成過程
を示す図である。
【図19】三角柱モデルを用いたオルソフォト作生成過
程を示す図である。
【図20】オルソフォト生成方法を示す図である。
【図21】合成する2枚の画像の位置関係を示す図であ
る。
【図22】画像の重み関数の例を示す図である。
【図23】画像の重み関数の例を示す図である。
【図24】オルソフォトの原理を示す図である。
【図25】各座標系の関係を示す図である。
【図26】平面座標系とオルソフォト座標系の関係を示
す図である。
【図27】従来のオルソフォトの問題点を示す図であ
る。
【図28】従来のオルソフォトの問題点を示す図であ
る。
【符号の説明】 10…3次元地図DB、 20…空中写真画像DB、 30…標定要素DB、 40…三角柱モデル生成部、 50…オルソフォト化部、 60…オルソフォト化データ格納部、 70…合成処理部、 80…オルソフォト格納部
───────────────────────────────────────────────────── フロントページの続き Fターム(参考) 2C032 HA02 5B050 AA01 BA09 BA17 EA13 EA27 EA29 FA05 5B057 AA13 CA13 CB12 CD11 CD14 CH01 CH11

Claims (5)

    【特許請求の範囲】
  1. 【請求項1】 地表面の形状データから複数の三角柱を
    含む三角柱モデルを生成するステップと、 前記三角柱間の隠蔽関係を検出するステップと、 該検出した隠蔽関係に応じて、空中写真画像及び標定要
    素からオルソフォトを生成するステップとを有すること
    を特徴とするオルソフォト生成方法。
  2. 【請求項2】 前記写真画像の視点からの前記三角柱の
    隠蔽関係に応じて、前記三角柱モデルの中で未処理の三
    角柱に隠されない三角柱の位置から順次オルソフォトを
    生成することを特徴とする請求項1記載のオルソフォト
    生成方法。
  3. 【請求項3】 複数の前記オルソフォトを合成するステ
    ップを有することを特徴とする請求項1記載のオルソフ
    ォト生成方法。
  4. 【請求項4】 地表面の形状データから複数の三角柱を
    含む三角柱モデルを生成する三角柱モデル生成手段と、 前記三角柱間の隠蔽関係を検出する隠蔽関係検出手段
    と、 該検出した隠蔽関係に応じて、空中写真画像及び標定要
    素からオルソフォトを生成するオルソフォト生成手段と
    を備えることを特徴とするオルソフォト生成システム。
  5. 【請求項5】 コンピュータに、 地表面の形状データから複数の三角柱を含む三角柱モデ
    ルを生成させるステップと、 前記三角柱間の隠蔽関係を検出させるステップと、 該検出した隠蔽関係に応じて、空中写真画像及び標定要
    素からオルソフォトを生成させるステップとを有するこ
    とを特徴とするオルソフォト生成プログラム。
JP2002118033A 2002-04-19 2002-04-19 オルソフォト生成方法、オルソフォト生成システム及びオルソフォト生成プログラム Expired - Fee Related JP4177017B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002118033A JP4177017B2 (ja) 2002-04-19 2002-04-19 オルソフォト生成方法、オルソフォト生成システム及びオルソフォト生成プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002118033A JP4177017B2 (ja) 2002-04-19 2002-04-19 オルソフォト生成方法、オルソフォト生成システム及びオルソフォト生成プログラム

Publications (2)

Publication Number Publication Date
JP2003316256A true JP2003316256A (ja) 2003-11-07
JP4177017B2 JP4177017B2 (ja) 2008-11-05

Family

ID=29535058

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002118033A Expired - Fee Related JP4177017B2 (ja) 2002-04-19 2002-04-19 オルソフォト生成方法、オルソフォト生成システム及びオルソフォト生成プログラム

Country Status (1)

Country Link
JP (1) JP4177017B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005165283A (ja) * 2003-11-13 2005-06-23 Matsushita Electric Ind Co Ltd 地図表示装置
JP2008267843A (ja) * 2007-04-17 2008-11-06 Tobishima Corp トンネル切羽面の測量システム
JP2009271895A (ja) * 2008-04-30 2009-11-19 Kokusai Kogyo Co Ltd 独立偏位修正画像セットおよび方法
JP2014160405A (ja) * 2013-02-20 2014-09-04 Nec Solution Innovators Ltd 撮影位置決定装置、プログラム、および方法
JP2016090333A (ja) * 2014-10-31 2016-05-23 株式会社東芝 画像処理装置、検査装置、画像処理方法及び画像処理プログラム
JP2023087495A (ja) * 2021-12-13 2023-06-23 アイサンテクノロジー株式会社 三次元モデルデータ生成装置、コンピュータプログラム、及び三次元モデルデータ生成方法

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005165283A (ja) * 2003-11-13 2005-06-23 Matsushita Electric Ind Co Ltd 地図表示装置
JP4642431B2 (ja) * 2003-11-13 2011-03-02 パナソニック株式会社 地図表示装置、地図表示システム、地図表示方法およびプログラム
JP2008267843A (ja) * 2007-04-17 2008-11-06 Tobishima Corp トンネル切羽面の測量システム
JP2009271895A (ja) * 2008-04-30 2009-11-19 Kokusai Kogyo Co Ltd 独立偏位修正画像セットおよび方法
JP2014160405A (ja) * 2013-02-20 2014-09-04 Nec Solution Innovators Ltd 撮影位置決定装置、プログラム、および方法
JP2016090333A (ja) * 2014-10-31 2016-05-23 株式会社東芝 画像処理装置、検査装置、画像処理方法及び画像処理プログラム
JP2023087495A (ja) * 2021-12-13 2023-06-23 アイサンテクノロジー株式会社 三次元モデルデータ生成装置、コンピュータプログラム、及び三次元モデルデータ生成方法
JP7344488B2 (ja) 2021-12-13 2023-09-14 アイサンテクノロジー株式会社 三次元モデルデータ生成装置、コンピュータプログラム、及び三次元モデルデータ生成方法

Also Published As

Publication number Publication date
JP4177017B2 (ja) 2008-11-05

Similar Documents

Publication Publication Date Title
CN111247561B (zh) 一种基于拍照重建三维空间场景的方法
Szeliski et al. Creating full view panoramic image mosaics and environment maps
CN105026997B (zh) 投影系统、半导体集成电路及图像修正方法
US6466892B2 (en) Method of composing three-dimensional multi-viewpoints data
Zhang et al. A UAV-based panoramic oblique photogrammetry (POP) approach using spherical projection
US6757446B1 (en) System and process for image-based relativistic rendering
US20020113865A1 (en) Image processing method and apparatus
JP6201476B2 (ja) 自由視点画像撮像装置およびその方法
US7129943B2 (en) System and method for feature-based light field morphing and texture transfer
US20080050011A1 (en) Modeling and texturing digital surface models in a mapping application
KR20090031113A (ko) 다수의 2차원 실사 영상들을 이용하여 3차원 영상을생성하는 방법 및 장치
JPH0375682A (ja) 写真写実影像を高速で生成する方法
CN102915554A (zh) 在图像渲染中改进样本测试效率的无剪裁时间和镜头界限
JP2003323640A (ja) レーザスキャナデータと空中写真画像を用いた高精度都市モデルの生成方法及び高精度都市モデルの生成システム並びに高精度都市モデルの生成のプログラム
JPH11504452A (ja) 2次元投影図に基づいて3次元の対象物を再現し、取り扱うための装置と方法
JP4108171B2 (ja) 画像合成装置
JP4177017B2 (ja) オルソフォト生成方法、オルソフォト生成システム及びオルソフォト生成プログラム
JP2000155831A (ja) 画像合成方法、画像合成装置、画像合成プログラムを記録した記録媒体
KR100489572B1 (ko) 화상 처리 방법
JP6802928B2 (ja) 画像生成装置および画像生成方法
TWI762353B (zh) 以縮放調整及接縫拼接來產生投影影像的方法
JP4530214B2 (ja) 模擬視界発生装置
CN108510578A (zh) 三维模型搭建方法、装置及电子设备
JP2004227095A (ja) テクスチャマップ作成方法、テクスチャマップ作成用プログラムおよびテクスチャマップ作成装置
JP7281782B2 (ja) 映像投影システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050413

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070828

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071029

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080401

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080602

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080805

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080821

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110829

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110829

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120829

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120829

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130829

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees