JP4058293B2 - レーザスキャナデータと空中写真画像を用いた高精度都市モデルの生成方法及び高精度都市モデルの生成システム並びに高精度都市モデルの生成のプログラム - Google Patents
レーザスキャナデータと空中写真画像を用いた高精度都市モデルの生成方法及び高精度都市モデルの生成システム並びに高精度都市モデルの生成のプログラム Download PDFInfo
- Publication number
- JP4058293B2 JP4058293B2 JP2002127672A JP2002127672A JP4058293B2 JP 4058293 B2 JP4058293 B2 JP 4058293B2 JP 2002127672 A JP2002127672 A JP 2002127672A JP 2002127672 A JP2002127672 A JP 2002127672A JP 4058293 B2 JP4058293 B2 JP 4058293B2
- Authority
- JP
- Japan
- Prior art keywords
- area
- dsm
- image
- stereo
- mask
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Landscapes
- Instructional Devices (AREA)
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Description
【発明の属する技術分野】
レーザスキャナデータと空中写真画像を用いて、空中写真画像の建物面を容易に精度よく3次元化できる高精度都市モデルの生成装置に関する。
【0002】
【従来の技術】
高精度の都市モデルを生成する手法は、一般にレーザスキャナデータを用いる手法とステレオマッチングによる手法とがある。
【0003】
例えば、レーザスキャナデータは、飛行機又はヘリコプター等の航空機から地表にレーザ光をスキャニングし、これらの受光データを解析することで、図21に示すようなレーザデータを得る。この図21は、図21(b)に対象エリア(航空写真で示している)を、図21(a)にそのレーザデータを示している。図20(a)に示すように、レーザデータは細かな点列になっており、それぞれが3次元座標(x、y、z)を有している。
【0004】
従って、レーザスキャナデータは、3次元座標を有するので航空写真のステレオマッチングなどに比べて、図22に示す標高精度の高いDSM(Digital Surface Modelの略で、建物などの地物を含む地表面の形状を表現するモデル)をとることができる。
【0005】
一方、航空写真により自動標高計測を行うステレオマッチング手法(図20を参照)もある。このステレオマッチングは、画像間の各画素の対応関係を求め、三角測量の原理で各対応点位置での3次元座標を求めるもので、高密度に標高データを計測することができる。
【0006】
【発明が解決しようとする課題】
しかしながら、レーザスキャナーデータによる手法は標高に関する精度の高いデータが得られるが、3次元点群から都市モデルのような直線構造を多く持つデータを生成する場合には、境界部分を正確に取るために、データをさらに高密度化する必要がある。
【0007】
つまり、レーザデータは細かな点列(3次元点群)であり、これ以上の解像度を得ることは容易ではない。
【0008】
また、レーザスキャナデータを高密度化すると、データ取得にかかるコスト及びデータ容量が莫大になり、コスト面とデータハンドリングの両面で問題がある。
【0009】
一方、ステレオマッチング手法に用いる画像は高分解能であり、人工構造物の境界や領域の識別に有効である。しかしながら、ステレオマッチングは隠れなどの影響により標高変化の激しい箇所での標高計測精度が低く、境界を直接3次元的に計測するのに問題が生じる。
【0010】
本発明は、レーザスキャナデータの標高精度の利点と、航空写真の高分解能であることの利点、および既往の疎密度DEM(Digital Elevation Modelの略で、地盤高を表現するモデル。概略地盤高がわかるので地盤高として利用できる)を組み合わせ、精度の高い都市3次元モデルを構築することを目的とする。
【0011】
【課題を解決するための手段】
本発明のレーザスキャナデータと空中写真画像を用いた高精度都市モデルの生成方法は、
所定地域のステレオ空中写真画像(IR、IL)と、前記所定地域のレーザースキャナーデータと、デジタル地形モデル(DSM)とを記憶手段に記憶する工程と、
前記記憶手段からステレオ空中写真画像を読み込んで、該ステレオ空中写真画像の各々の同じ色彩が連続する領域を分割領域として順次、抽出する領域分割処理工程と、
前記ステレオ空中写真画像の前記分割領域が抽出される毎に、該分割領域に重なる前記レーザスキャナデータの3次元点群の標高値を初期値とし、かつ前記分割領域を不定形窓とし、前記初期値を用いてこれを水平方向に変化させてステレオマッチングを行うステレオマッチング工程と、
このステレオマッチング処理後の結果得られる標高値の計算結果が初期値とほぼ同じ高さになる前記デジタル地形モデル(DSM)の領域に計算結果の標高値を与え、この標高の高さにある連続領域を一つのDSM領域とするDSMの領域分割処理工程と、
前記DSM領域と前記分割領域とを読み込み、該DSM領域が地盤高さ以上の場合は、前記分割領域の周辺を含めた領域を、切出し領域として切出す工程と、
前記切出し領域と同じ大きさを持つ前記DSM領域のマスク画像を生成し、このマスク画像を、膨張させた膨張マスク及び収縮させた収縮マスクを合成して重なり合う部分以外を線抽出領域とした線抽出用バッファを生成する工程と、
前記切出し領域内の画像のエッジの抽出を行い、この抽出されたエッジ画像に対して前記線抽出用バッファをかけて前記線抽出領域のエッジ画像を抽出する工程と、
前記抽出したエッジ画像上の点を使ってHough変換によって直線化を施して、これらの前記収縮マスクと重なる部分の直線を削除して、前記マスク画像に対して最も大きな共通領域を前記DSM領域の多角形として出力する工程と
を行うことを要旨とする。
【0012】
本発明の高精度都市モデルの生成システムは、所定地域のステレオ空中写真画像(IR、IL)と、前記所定地域のレーザースキャナーデータと、デジタル地形モデル(DSM)とを記憶した記憶手段とを備え、
前記記憶手段からステレオ空中写真画像を読み込んで、該ステレオ空中写真画像の各々の同じ色彩が連続する領域を分割領域として順次、抽出する領域分割処理手段と、
前記ステレオ空中写真画像の前記分割領域が抽出される毎に、該分割領域に重なる前記レーザスキャナデータの3次元点群の標高値を初期値とし、かつ前記分割領域を不定形窓とし、前記初期値を用いてこれを水平方向に変化させてステレオマッチングを行うステレオマッチング手段と、
このステレオマッチング処理後の結果得られる標高値の計算結果が初期値とほぼ同じ高さになる前記デジタル地形モデル(DSM)の領域に計算結果の標高値を与え、この標高の高さにある連続領域を一つのDSM領域とするDSMの領域分割処理手段と、
前記DSM領域と前記分割領域とを読み込み、該DSM領域が地盤高さ以上の場合は、前記分割領域の周辺を含めた領域を、切出し領域として切出す手段と、
前記切出し領域と同じ大きさを持つ前記DSM領域のマスク画像を生成し、このマスク画像を、膨張させた膨張マスク及び収縮させた収縮マスクを合成して重なり合う部分以外を線抽出領域とした線抽出用バッファを生成する手段と、
前記切出し領域内の画像のエッジの抽出を行い、この抽出されたエッジ画像に対して前記線抽出用バッファをかけて前記線抽出領域のエッジ画像を抽出する手段と、
前記抽出したエッジ画像上の点を使ってHough変換によって直線化を施して、これらの前記収縮マスクと重なる部分の直線を削除して、前記マスク画像に対して最も大きな共通領域を前記DSM領域の多角形として出力する手段とを備えたことを要旨とする。
【0013】
本発明の高精度都市モデルの生成のプログラムは、所定地域のステレオ空中写真画像(IR、IL)と、前記所定地域のレーザースキャナーデータと、デジタル地形モデル(DSM)とを記憶した記憶手段とを備え、
コンピュータに、
前記記憶手段からステレオ空中写真画像を読み込んで、該ステレオ空中写真画像の各々の同じ色彩が連続する領域を分割領域として順次、抽出する領域分割処理手段、
前記ステレオ空中写真画像の前記分割領域が抽出される毎に、該分割領域に重なる前記レーザスキャナデータの3次元点群の標高値を初期値とし、かつ前記分割領域を不定形窓とし、前記初期値を用いてこれを水平方向に変化させてステレオマッチングを行うステレオマッチング手段、
このステレオマッチング処理後の結果得られる標高値の計算結果が初期値とほぼ同じ高さになる前記デジタル地形モデル(DSM)の領域に計算結果の標高値を与え、この標高の高さにある連続領域を一つのDSM領域とするDSMの領域分割処理手段、
前記DSM領域と前記分割領域とを読み込み、該DSM領域が地盤高さ以上の場合は、前記分割領域の周辺を含めた領域を、切出し領域として切出す手段、
前記切出し領域と同じ大きさを持つ前記DSM領域のマスク画像を生成し、このマスク画像を、膨張させた膨張マスク及び収縮させた収縮マスクを合成して重なり合う部分以外を線抽出領域とした線抽出用バッファを生成する手段、
前記切出し領域内の画像のエッジの抽出を行い、この抽出されたエッジ画像に対して前記線抽出用バッファをかけて前記線抽出領域のエッジ画像を抽出する手段、
前記抽出したエッジ画像上の点を使ってHough変換によって直線化を施して、これらの前記収縮マスクと重なる部分の直線を削除して、前記マスク画像に対して最も大きな共通領域を前記DSM領域の多角形として出力する手段、
としての機能を実行させる。
【0014】
【発明の実施の形態】
本実施の形態は、レーザスキャナデータにステレオ撮影された空中写真画像データから得られる領域情報・線構造情報を援用することによって、人工構造物の境界を精度よく抽出し、自動建物多角形化および3次元モデル化を行う。
【0015】
まず、ステレオ空中写真画像の各々を領域分割する事により、色彩が均一な画像領域を得る。このような画像領域は、建物の屋上及び路面・グランド・その他広い平坦地に対応していると考えられる。
【0016】
各色領域に重なるレーザスキャナの3次元点群の標高値を初期値として、ステレオマッチングを行う。その結果得られる標高値の計算結果が初期値とほぼ同じ高さになった場合はその領域に計算結果の標高値を与え、DSM(Digital Surface Modelの略で、建物等の地物を含む地表面の形状を表現するモデル)を生成する。これにより、レーザスキャナデータでは曖昧であった地物境界をより高精度に表現することができるようにしている。
【0017】
続いて上記で得られたDSMの高い方から順に水平な領域を領域分割によって認識し、各領域に対応するステレオ画像上の周辺領域で直線抽出を行い、その結果を多角形化する。既往のDEMや地域の平均的地盤高に対するDSMの差が任意に設定する閾値以下にある領域は、建物以外の領域であり、地盤高と推定する。これによって、建物領域を3次元多角形化することができる。更に多角形化された建物領域を角柱状に構成する事によって、3次元モデルを得る事が可能となるものである。
【0018】
本発明を実現する3次元計測装置の構成を図1に示す。3次元計測システム1は、パーソナルコンピュータ本体2、ステレオ画像等を格納する外部記憶装置3、ディスプレイ4という一般的なパーソナルコンピュータからなる。また、次のことが前提として与えられている。
【0019】
(1)入力データ
次の各種データが、外部記憶装置3に格納されているとする。
【0020】
(a)ステレオ空中写真画像(IL およびIR (図20))とその標定要素と、
(b)レーザスキャナデータが保存されている。このレーザスキャナデータは3次元座標の集まりであり、以下ではLPi (i=1...nLP)で表す(図21(a))。
【0021】
(c)デジタル地形モデル(DEM))。地盤高を表し、国土数値情報などの所与のデータを用いてよい(図22)。
【0022】
(2)計算モジュール
次の計算モジュールが与えられているものとする。この計算モジュールは、座標計算モジュール10と、地盤高計算モジュール11等からなる。
【0023】
座標計算モジュール10は、ステレオ空中写真画像の標定要素を読み取り、3次元座標と、ステレオ画像I1 およびI2 の座標との間の変換を行う。これは特願2000−251456で座標変換関数・逆座標変換関数として与えられているものと同じとする。
【0024】
つまり、輝度画像IL、IRについて、地上の3次元座標が投影される各画像の画像座標算出のための座標変換関数FX、逆座標変換関数関数GX(総称して標定情報ともいう)を用いる。
【0025】
例えば、3次元空間内の点(x,y,z)が投影される左右画像のピクセル座標(x1pix,y1pix)および(x2pix,y2pix)を計算する。
【0026】
すなわち、次の4つの座標変換関数FX1(x,y,z)、FY1(x,y,z)、FX2(x,y,z)、FY2(x,y,z)を解析的、もしくは手続き的に決定する。
【0027】
x1pix=FX1(x,y,z) 式(1)
y1pix=FY1(x,y,z) 式(2)
x2pix=FX2(x,y,z) 式(3)
y2pix=FY2(x,y,z) 式(4)
また、z=一定として式(1),式(2)を解析的又は手続的に解くと、各画像上の点がある標高zにあると仮定した時の地上でのx座標とy座標を求めることができる。
【0028】
x=GX1(x1pix,y1pix,z) 式(5)
y=GY1(x1pix,y1pix,z) 式(6)
同様に式(3),式(4)について解くと、
x=GX2(x2pix,y2pix,z) 式(7)
y=GY2(x2pix,y2pix,z) 式(8)
である。
【0029】
このような関数は、例えば図2に示す不定形窓を用いているときに使用する。この図2は、航空機によって得た画像I1を画面に表示し、この画像上でマウス操作等で地物Buの輪郭に相当する閉領域B1を与える。そして、この閉領域に投影が一致する位置に不定形窓Plhを発生させ、標高H(z)を変化させる。
【0030】
例えば30m、80m、150mの順に標高を変化させると、30m、80m、150mと変化したときの輝度画像I1、I2における不定形窓Plhの輝度画像I1、I2の投影位置をその都度求めながら、この位置における不定形窓Plhを投影したときの輝度画像I1、I2における輝度値を比較し、評価関数によって最も一致(近似)したと判定されるときの不定形窓P1hの高さ(標高値)としている。
【0031】
地盤高計算モジュール11は、DEMを読み取り、適当な内挿計算を用いることによって、与えられた水平座標位置における地盤高を計算する。
【0032】
H=GElv(x,y)
例えばDEMが正方メッシュデータならば、バイリニア法等の内挿方法、DEMがランダムな配置の3次元点群ならば、三角メッシュを用いた内挿法を用いる。
【0033】
すなわち、本実施の形態では、座標計算モジュール10、地盤高計算モジュール11等によって、レーザスキャナデータにステレオ撮影された空中写真画像データから得られる領域情報・線構造情報を援用して、例えば、人工構造物の境界を精度よく抽出し、自動建物多角形化および3次元モデル化を行う。
【0034】
この3次元化モデルの生成においては、まず、ステレオ空中写真画像の各々を領域分割する事により、色彩が均一な画像領域を得る。
【0035】
このような画像領域は、建物の屋上及び路面・グランド・その他広い平坦地に対応していると考えられる。
【0036】
各色領域に重なるレーザスキャナの3次元点群の標高値を初期値として、ステレオマッチングを行い、その結果得られる標高値の計算結果が初期値とほぼ同じ高さになった場合はその領域に計算結果の標高値を与え、DSMを生成する。これにより、レーザスキャナデータでは曖昧であった地物境界をより高精度に表現することができる。
【0037】
続いて上記で得られたDSMの水平な領域を領域分割によって認識し、各領域に対応するステレオ画像上の周辺領域で直線抽出を行い、その結果を多角形化する。
【0038】
既往のDEMや地域の平均的地盤高に対するDSMの差が任意に設定する閾値以下にある領域は、建物以外の領域であり、地盤高と推定する。これによって、建物領域を3次元多角形化することができる。更に多角形化された建物領域を角柱状に構成する事によって、3次元モデルを得る事ができる。
【0039】
本発明の実施形態の概略を図1を用いて簡単に説明する。図1に示すように、次の5つの部分から成り立っている。
【0040】
初めに、データベース(図示せず)に保存されているステレオ空中写真画像(IR、IL)を読み込んで、ステレオ空中写真画像の各々を領域分割(同じ色を一塊りとする領域:同じ色彩の画素が連続する領域)する事により、色彩が画像領域(建物の屋上及び路面・グランド・その他広い平坦地に対応していると考えられる)を得るステレオ画像の色彩による領域分割処理部15と、各分割領域(分割色領域ともいう)に重なるレーザスキャナデータの3次元点群の標高値を初期値として、ステレオマッチングを行う水平面ステレオマッチング処理部16と、この水平面ステレオマッチング処理後の結果得られる標高値の計算結果が初期値とほぼ同じ高さになった場合はその領域に計算結果の標高値を与え、DSM(Digital Surface Modelの略で、建物等の地物を含む地表面の形状を表現するモデル)を生成するDSMの領域分割処理部17と、多角形生成処理部18と、3次元モデル化処理部19等とからなる。
【0041】
以下にこれらの各処理(ステレオ画像の色彩による領域分割処理、水平面ステレオマッチング処理、DSMの分割処理、多角形生成処理、3次元モデル化処理)の詳細をフローチャートを用いて説明する。
【0042】
(ステレオ画像の色彩による領域分割処理部15)
ステレオ画像の色彩による領域分割について図3のフローチャートを用いて詳細に説明する。
【0043】
初めに、領域分割に必要なパラメータを設定する(S10)。例えば、反復型領域拡張法によって領域分割を行う場合は、次の3つのパラメータがユーザにより指定されているものとする。
【0044】
・初期しきい値
・しきい値の増分
・反復打ち切りのためのしきい値
次に、ステレオ空中写真画像の内、左画像ILを外部記憶装置3から内部に読み込む(S11)。
【0045】
次に、画像の輝度情報や色情報を用いて領域分割処理を行う(図4参照)。この領域分割処理では、まずメディアンフィルタなどで小さな孤立点を除去した後、除去画像の輝度や色が均一な連続領域ごとに識別番号を付ける。
【0046】
なお、領域分割の方法としては、反復型領域拡張法など一般に広く行われている領域分割方法を用いてもよい。
【0047】
そして、領域分割の結果(単色で塗られた領域)、各画素が何番目の識別番号の領域に属するかがわかるラベル番号が与えられるものとする。この左画像のラベル番号を格納する配列をLL(i,j)とする。
【0048】
すなわち、LL(i,j)=nならば、画像iカラムjラインの画素が、ラベル番号nの領域に属することを意味する。
【0049】
次に、領域分割によって求められたラベル格納配列LL(i,j)を左画像のラベルとして外部記憶装置3に格納する領域分割結果保存処理を行う(S13)。
【0050】
そして、左画像読込(S11)〜領域分割結果保存処理(S13)と同様の処理を右画像IR について同様に行う右画像読込処理(S14)と領域分割処理(S15)とを行い、右画像のラベル格納配列LR(i,j)を外部記憶装置3に格納する(S16)。
【0051】
つまり、S14〜S16は右画像読み込み・領域分割・領域分割結果保存を行っている。
【0052】
次に、水平面ステレオマッチング処理について説明する。
【0053】
(水平面ステレオマッチング)
領域分割された各画像領域が水平であると仮定し、その拘束の元で領域分割された部分を「不定形窓を用いた画像間拡張イメージマッチング方法(特願2000−251456)」を行い、デジタル地表面モデル(DSM)を生成する。ここでのDSMとは、地表面の標高をメッシュ点上で表現するものである。例えば、メッシュの原点を(x0,y0)、メッシュ間隔をdとすると、DSM配列h(ix,iy)は、座標(x0+d・ix、y0+d・iy)での標高を与えるものとする。また、DSM配列の原点や大きさは、ユーザが与える対象範囲にあわせて設定するものとする。前述の水平面ステレオマッチングは、各分割領域を不定形窓として、これを変化させて拡張ステレオモデルの両方の画像上の投影位置を求め、この投影位置における不定形窓で区切られた領域の輝度値をそれぞれ求めて輝度値を比較し、比較結果が最も一致するときの不定形窓の高さを拡張ステレオモデルにおける地物の高さとする拡張ステレオマッチングによる標高付与処理を行う。
【0054】
図5は平面ステレオマッチングを説明するフローチャートである。初めに、左右画像をメモリ上に読み込む(S20)。
【0055】
次に、DSM配列を格納するDSM配列を初期化する(S21)。初期化するDSM配列は次の3つとする。
【0056】
・hL(ix,iy):左画像領域分割結果から生成されるDSM
・hR(ix,iy):右画像領域分割結果から生成されるDSM
・hLR(ix,iy):左右画像領域分割結果から生成されるDSM
なお、DSM配列の原点や範囲は、ユーザがあらかじめ与えるものとする。初期化にあたっては、すべての配列の値を一定値hinitとしておく。hinitは、実際にはありえない小さな値(−9999など)であり、DSM配列がhinitであるということは、平面ステレオマッチングによってDSMが計算されていないことを示す。
【0057】
次に、左右画像の画像領域の分割結果を読込む(S22)。つまり、画像領域分割結果をメモリ上の配列L(i,j)に読み込む。
【0058】
そして、各領域毎L(i,j)に記録されているラベル番号が付けられた各々の領域について、番号順に次の処理を行う。
【0059】
この処理は、レーザスキャナデータの重ね合わせと概略標高の計算を行う(S23)。
【0060】
例えば、レーザスキャナデータLpiの画像への投影位置を座標計算モジュールによって計算し、その中で処理中の領域に重なるものを検索する(図6を参照)。 次に、更に重なった点のヒストグラムを作り、ヒストグラムが最大になる標高Hmodeを、領域の概略標高として与える。
【0061】
次に、平面ステレオマッチングによる標高値の計算を行う(S24)。この計算は、領域形状を不定形窓として、特願2000−251456の不定形窓法により画像領域の最適標高を計算する(図7参照)。
【0062】
そして、計算結果の標高をHopt とする。なお、L(i,j)にLL(i,j)を読み込んだ場合は、画像ILをI1、IRをI2とする。また、LR(i,j)を読み込んだ場合は、画像IRをI1、ILをI2とする。
【0063】
そして、標高値が次の条件を満たすかどうかを検定する(S25)。
【0064】
|Hmode −Hopt |<ΔH
ここでΔHは標高検定のしきい値である。
【0065】
次に、標高値の検定で条件を満たす場合は、座標計算モジュール10を用いて画像領域に対応する地上座標を求め、処理画像が左画像ならDSM配列hL(ix,iy)に標高値Hopt を格納する。右画像ならDSMは配列hR(ix,iy))に格納する。すべての領域について処理済みでなければ、S23に戻る(S27)。すべての領域について処理が終わった場合は、S22に戻って次の画像を読み込み、同様の処理を行う(S28)。
【0066】
次に、DSM配列hL(x,y)とhR(x,y)を融合し、hLR(x,y)を生成するDSMの融合処理を行う(S29:図8参照)。
【0067】
【数1】
このDSM配列を外部記憶装置に格納する(S30)。
【0068】
(DSMの領域分割)
DSMを水平な領域に分割する。DSMの領域分割のフローを図9に示す。
【0069】
DSMの領域分割は、図9に示すように、DSMhLR(x,y)をDSM配列h(x,y)に読み込む(S31)。
【0070】
そして、この読み込んだDSM配列h(x,y)、水平領域ごとに領域分割する(S32)。
【0071】
具体的には、高さが一定の範囲Dhの間にある連続領域をひとつの領域とする。そして、各領域に識別番号をラベルとして付け、ラベル格納配列LH(x,y)に格納する。すなわち、LH(x,y)=nならば、DSMh(x,y)が、識別番号nの領域に属することを意味する。識別番号がnに対応する領域をRLH(n)とする。
【0072】
次に、このラベル格納配列LH(x,y)を外部記憶装置に格納する(S33)。
【0073】
(水平領域の多角形化)
次に、各水平領域の境界を直線によって多角形化する。多角形化にあたっては、ステレオ画像を援用する。多角形化の概略フローを図10に示す。
【0074】
初めに、DSMとその領域分割結果を読み込む(S40)。具体的には、ラベルLH(x,y)とそれに対応するDSMh(x,y)を外部記憶装置から読み込む。
【0075】
次に、水平領域ごとの処理として、LH(x,y)に格納されたラベル番号k=1〜n(nはラベルの個数)の各々の領域について、以下の処理を行う。
【0076】
まず、地盤高計算モジュール11を用いて、各領域RLH(k)の位置での地盤高HGを計算する。このとき、領域の標高H(k)との差が閾値(2m程度)より大きいかどうかを以下の式で判定する地表面からの高さの判定処理を行う(S41)。
【0077】
H(k)−HG>ΔHB
そして、領域の標高H(k)との差が閾値より、大きい場合は、この領域が建物であるとみなし、以下の処理を行う。
【0078】
座標計算モジュール10を用いてラベル領域RLH(k)に対応する画像領域を求め、その周辺を含めて切り出す「対応する画像領域の切り出し」処理を行う(S42)。
【0079】
このとき、図11に示すように、切り出し原点を(xc0,yc0)、切り出した画像をIc、切り出しサイズをsxc,sycとする。また、Icと同じサイズをもつDSMのマスク画像Icmとする。
【0080】
このIcmのマスク画像は、Ic上でRLH(k)に対応する領域でコードT(≠0)、それ以外で0となる2値画像である。
【0081】
次に、画像Ic上で、Icmで指定されるマスクの周辺部で直線抽出を行うために、線抽出のためのバッファIcbを生成する線抽出域のバッファリング処理を行う(S43:図12参照)。
【0082】
具体的には、Icbは、図12に示すように、IcmをNfat回膨張させた膨張マスクIcmfatと、IcmfatをNthin回収縮された収縮マスクIcmthinとを生成し、この2つのマスクから次のような関係式を成立させる。
【0083】
収縮マスクIcmthinは、もとのマスクIcmと同じかそれよりも少なくする。よって、Nfat<Nthinとする。
【0084】
次に、図13に示すように、切り出し画像Ic上でエッジ抽出を行う(S44)。エッジ抽出方法は例えば、次の仕様を満たすものとする。
【0085】
・エッジ上の点とそれ以外で2値化される。
【0086】
・エッジが細線化されている(エッジの幅が1ピクセルである)。
【0087】
このようなエッジ抽出方法として、CannyオペレータやSusansオペレータなどがある。また、Sobel等のエッジ強調オペレータを施し、その後2値化・細線化を行っても良い。
【0088】
ここで得たエッジをIceとする。これに線抽出用バッファのマスク画像Icbの共通領域をとることによって、マスクの周辺部のみのエッジ画像をIceから得る。このエッジ画像をIcebとする(図14)。
【0089】
次に、マスク周辺のエッジ抽出画像Icebのエッジ上の点を使ってHough変換の原理で直線の抽出を行う直線化処理を行う(S45:図14参照)。
【0090】
Hough変換では、直線の方程式を法線方向θと原点からの距離ρを使ってxcosθ+ysinθ=ρとおき、(θ−ρ)空間において直線を抽出する方法である。Hough変換は画像から直線や円等の図形を抽出するための一手法である。
【0091】
また、抽出する直線の数nhoughとして、最もたくさんのエッジ上の点を通る直線のパラメータの対(θ1 ,ρ1 )からnhough番目にエッジの点を通る直線の対(θn houghρn hough)までを抽出する(図15参照)。
【0092】
次に、Hough変換で抽出されたすべての直線について交点を求め、線分化する直線の線分化処理を行う(S46、図14の線分化)。
【0093】
そして、収縮マスクIcmthinと重なる線分を削除するマスクとの重複部分削除処理を行う(図14参照)。
【0094】
次に、線分を領域毎に多角形化(点列化)し、更に、その多角形の中で、マスク画像Icmと最も大きな共通領域を持つ多角形を、ラベル領域RLH(k)に対応する多角形とする(S48)。この多角形は、画像座標列PlI(k)とする(図16参照)。
【0095】
次に、画像座標で与えられたPlI(k)を、3次元空間の多角形PlT(k)に変換する3次元点列化処理を行う(S49)。このとき、3次元空間での多角形のZ座標は、領域の標高H(k)とする(図17参照)。
【0096】
そして、得られた多角形座標列PlI(k)を外部記憶装置に保存した後に(S50)、次の領域に移る(S51)。
【0097】
(3次元モデル化処理)
前述の3次元モデル化処理について説明を補充する。各多角形を角柱状の三次元モデルに変換する概略フローを図18に示す。
【0098】
3次元モデル化処理においては、図16に示す多角形座標列PlI(k)を外部記憶装置から読み出し(S60)、多角形の地表面位置の計算を行う(S61)。
【0099】
この計算は、地盤高計算モジュールにより、多角形座標列PlT(k)を構成する各点の水平座標位置において、地表面位置の高さを求め、PlT(k)に対応する底面多角形PlE(k)を計算する(図19参照)。
【0100】
次に、多角形PlT(k)と底面多角形PlE(k)の対応する辺と、これらの辺の両端を鉛直線で結んだ四角形を側面として、角柱3次元モデルBLDを建物モデルとする多角形の建物モデル化処理を行う(S62)。
【0101】
この角柱3次元モデルBLDは、角柱の頂上多角形PlT(k)と底面多角形PlE(k)、および側面多角形群PlWi (i=1,...nPlT(k))から構成される(図19参照)。ここでnPlT(k)は、頂上多角形PlT(k)の頂点数である。
【0102】
そして、得られた角柱3次元BLDを外部記憶装置に格納する(S63)。格納にあたっては、VRMLなどの3次元モデル表記用フォーマットを用いるのが好ましい。
【0103】
従って、航空写真内の建物形状の精密計算や、3次元モデル生成に利用可能である。
【0104】
なお、上記実施の形態では、水平面ステレオマッチングは不定形窓を用いた水平面ステレオマッチングとして説明したが特願2002−127512に記載の平面ステレオマッチング方式を用いてもよい。
【0105】
この平面ステレオマッチングは、ステレオ写真に写る平面が中心投影の原理に基づき射影変換により、対応付けられることを利用し、その平面上にある3点(どの3点も一直線上にない)の対応関係についてエピポーラ条件を満たす拘束条件を設定することによって、その面の上での射影変換係数を自動的に決定する。
【発明の効果】
以上のように本発明によれば、データベースに保存されている所定地域の空中写真画像から連続して同じ色彩の画素の色領域を抽出し、該抽出後に、データベースに保存されている前記所定地域のレーザスキャナデータに基づいて得られたデジタル地表面モデルに対して前記色領域を用いたステレオマッチングを行いDSMを生成する。
【0106】
そして、DSM内の水平領域と画像を用いて、水平領域周辺部に対応する画像上の線構造情報から直線化を行い、この直線に囲まれた領域の画素列を3次元化することによって前記水平領域を3次元点列化する。
【0107】
これにより、レーザスキャナデータでは曖昧であった地物境界をより高精度に表現することができるという効果が得られている。
【図面の簡単な説明】
【図1】レーザスキャナデータと空中写真画像を用いた高精度都市モデルの生成装置の概略構成図である。
【図2】不定形窓を用いた標高値の付与を説明する説明図である。
【図3】ステレオ画像の色彩による領域分割を説明するフローチャートである。
【図4】画像の領域分割を説明する説明図である。
【図5】水平面ステレオマッチングを説明するフローチャートである。
【図6】レーザスキャナーデータの重ね合わせを説明する説明図である。
【図7】不定形窓による水平ステレオマッチングを説明する説明図である。
【図8】DSMの合成を説明する説明図である。
【図9】DSMの領域分割を説明するフローチャートである。
【図10】水平領域の多角形化を説明するフローチャートである。
【図11】画像領域の切り出しを説明する説明図である。
【図12】線抽出域のバッファリングを説明する説明図である。
【図13】エッジ抽出を説明する説明図である。
【図14】直線化および直線の線分化の説明図である。
【図15】Hough変換の説明図である。
【図16】多角形化の説明図である。
【図17】3次元点列化を説明する説明図である。
【図18】3次元モデル化を説明するフローチャートである。
【図19】本実施の形態による建物の3次元モデル化を説明する説明図である。
【図20】ステレオ空中写真を説明する説明図である。
【図21】レーザスキャナーデータを説明する説明図である。
【図22】デジタル地形モデルを説明する説明図である。
【符号の説明】
10 標計算モジュール
11 地盤高計算モジュール
15 領域分割処理部
16 水平面ステレオマッチング処理部
17 領域分割処理部
18 多角形生成処理部
19 3次元モデル化処理部
Claims (11)
- 所定地域のステレオ空中写真画像(IR、IL)と、前記所定地域のレーザースキャナーデータと、デジタル地形モデル(DSM)とを記憶手段に記憶する工程と、
前記記憶手段からステレオ空中写真画像を読み込んで、該ステレオ空中写真画像の各々の同じ色彩が連続する領域を分割領域として順次、抽出する領域分割処理工程と、
前記ステレオ空中写真画像の前記分割領域が抽出される毎に、該分割領域に重なる前記レーザスキャナデータの3次元点群の標高値を初期値とし、かつ前記分割領域を不定形窓とし、前記初期値を用いてこれを水平方向に変化させてステレオマッチングを行うステレオマッチング工程と、
このステレオマッチング処理後の結果得られる標高値の計算結果が初期値とほぼ同じ高さになる前記デジタル地形モデル(DSM)の領域に計算結果の標高値を与え、この標高の高さにある連続領域を一つのDSM領域とするDSMの領域分割処理工程と、
前記DSM領域と前記分割領域とを読み込み、該DSM領域が地盤高さ以上の場合は、前記分割領域の周辺を含めた領域を、切出し領域として切出す工程と、
前記切出し領域と同じ大きさを持つ前記DSM領域のマスク画像を生成し、このマスク画像を、膨張させた膨張マスク及び収縮させた収縮マスクを合成して重なり合う部分以外を線抽出領域とした線抽出用バッファを生成する工程と、
前記切出し領域内の画像のエッジの抽出を行い、この抽出されたエッジ画像に対して前記線抽出用バッファをかけて前記線抽出領域のエッジ画像を抽出する工程と、
前記抽出したエッジ画像上の点を使ってHough変換によって直線化を施して、これらの前記収縮マスクと重なる部分の直線を削除して、前記マスク画像に対して最も大きな共通領域を前記DSM領域の多角形として出力する工程と
を行うことを特徴とするレーザスキャナデータと空中写真画像を用いた高精度都市モデルの生成方法。 - 前記直線化を施した後に、これらの直線に囲まれた各領域を抽出して、この領域が前記マスク画像に対して最も大きな共通領域を有しているときに前記DSM領域の多角形とすることを特徴とする請求項1記載のレーザスキャナデータと空中写真画像を用いた高精度都市モデルの生成方法。
- 前記多角形を構成する各点の水平座標によって前記デジタル地形モデル(DSM)における前記多角形の底面高さを求める工程と、
前記多角形の底面の辺と、これらの辺の両端を鉛直線で結んだ四角形を側面とした角柱モデルを構築する工程と
を行うことを特徴とする請求項1又は2記載のレーザスキャナデータと空中写真画像を用いた高精度都市モデルの生成方法。 - 前記ステレオマッチングは、前記ステレオ空中写真画像の色彩情報を利用して均一な色領域を抽出し、各色領域が水平であると仮定して行うことを特徴とする請求項1、又は3記載のレーザスキャナデータと空中写真画像を用いた高精度都市モデルの生成方法。
- 所定地域のステレオ空中写真画像(IR、IL)と、前記所定地域のレーザースキャナーデータと、デジタル地形モデル(DSM)とを記憶した記憶手段とを備え、
前記記憶手段からステレオ空中写真画像を読み込んで、該ステレオ空中写真画像の各々の同じ色彩が連続する領域を分割領域として順次、抽出する領域分割処理手段と、
前記ステレオ空中写真画像の前記分割領域が抽出される毎に、該分割領域に重なる前記レーザスキャナデータの3次元点群の標高値を初期値とし、かつ前記分割領域を不定形窓とし、前記初期値を用いてこれを水平方向に変化させてステレオマッチングを行うステレオマッチング手段と、
このステレオマッチング処理後の結果得られる標高値の計算結果が初期値とほぼ同じ高さになる前記デジタル地形モデル(DSM)の領域に計算結果の標高値を与え、この標高 の高さにある連続領域を一つのDSM領域とするDSMの領域分割処理手段と、
前記DSM領域と前記分割領域とを読み込み、該DSM領域が地盤高さ以上の場合は、前記分割領域の周辺を含めた領域を、切出し領域として切出す手段と、
前記切出し領域と同じ大きさを持つ前記DSM領域のマスク画像を生成し、このマスク画像を、膨張させた膨張マスク及び収縮させた収縮マスクを合成して重なり合う部分以外を線抽出領域とした線抽出用バッファを生成する手段と、
前記切出し領域内の画像のエッジの抽出を行い、この抽出されたエッジ画像に対して前記線抽出用バッファをかけて前記線抽出領域のエッジ画像を抽出する手段と、
前記抽出したエッジ画像上の点を使ってHough変換によって直線化を施して、これらの前記収縮マスクと重なる部分の直線を削除して、前記マスク画像に対して最も大きな共通領域を前記DSM領域の多角形として出力する手段と
を有することを特徴とする高精度都市モデルの生成システム。 - 前記直線化を施した後に、これらの直線に囲まれた各領域を抽出して、この領域が前記マスク画像に対して最も大きな共通領域を有しているときに前記DSM領域の多角形とすることを特徴とする請求項5記載の高精度都市モデルの生成システム。
- 前記多角形を構成する各点の水平座標によって前記デジタル地形モデル(DSM)における前記多角形の底面高さを求める手段と、
前記多角形の底面の辺と、これらの辺の両端を鉛直線で結んだ四角形を側面とした角柱モデルを構築する手段と
を有することを特徴とする請求項6又は7記載の高精度都市モデルの生成方法。 - 前記ステレオマッチングは、前記ステレオ空中写真画像の色彩情報を利用して均一な色領域を抽出し、各色領域が水平であると仮定して行うことを特徴とする請求項5、6又は7記載の高精度都市モデルの生成システム。
- 所定地域のステレオ空中写真画像(IR、IL)と、前記所定地域のレーザースキャナーデータと、デジタル地形モデル(DSM)とを記憶した記憶手段とを備え、
コンピュータに、
前記記憶手段からステレオ空中写真画像を読み込んで、該ステレオ空中写真画像の各々の同じ色彩が連続する領域を分割領域として順次、抽出する領域分割処理手段、
前記ステレオ空中写真画像の前記分割領域が抽出される毎に、該分割領域に重なる前記レーザスキャナデータの3次元点群の標高値を初期値とし、かつ前記分割領域を不定形窓とし、前記初期値を用いてこれを水平方向に変化させてステレオマッチングを行うステレオマッチング手段、
このステレオマッチング処理後の結果得られる標高値の計算結果が初期値とほぼ同じ高さになる前記デジタル地形モデル(DSM)の領域に計算結果の標高値を与え、この標高の高さにある連続領域を一つのDSM領域とするDSMの領域分割処理手段、
前記DSM領域と前記分割領域とを読み込み、該DSM領域が地盤高さ以上の場合は、前記分割領域の周辺を含めた領域を、切出し領域として切出す手段、
前記切出し領域と同じ大きさを持つ前記DSM領域のマスク画像を生成し、このマスク画像を、膨張させた膨張マスク及び収縮させた収縮マスクを合成して重なり合う部分以外を線抽出領域とした線抽出用バッファを生成する手段、
前記切出し領域内の画像のエッジの抽出を行い、この抽出されたエッジ画像に対して前記線抽出用バッファをかけて前記線抽出領域のエッジ画像を抽出する手段、
前記抽出したエッジ画像上の点を使ってHough変換によって直線化を施して、これらの前記収縮マスクと重なる部分の直線を削除して、前記マスク画像に対して最も大きな共通領域を前記DSM領域の多角形として出力する手段、
としての機能を実行させるための高精度都市モデルの生成のプログラム。 - 前記直線化を施した後に、これらの直線に囲まれた各領域を抽出して、この領域が前記マスク画像に対して最も大きな共通領域を有しているときに前記DSM領域の多角形とすることを特徴とする請求項9記載の高精度都市モデルの生成のプログラム。
- 前記コンピュータに、
前記多角形を構成する各点の水平座標によって前記デジタル地形モデル(DSM)における前記多角形の底面高さを求める手段、
前記多角形の底面の辺と、これらの辺の両端を鉛直線で結んだ四角形を側面とした角柱モデルを構築する手段、
としての機能を実行させるための請求項9又は10記載のの高精度都市モデルの生成のプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002127672A JP4058293B2 (ja) | 2002-04-26 | 2002-04-26 | レーザスキャナデータと空中写真画像を用いた高精度都市モデルの生成方法及び高精度都市モデルの生成システム並びに高精度都市モデルの生成のプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002127672A JP4058293B2 (ja) | 2002-04-26 | 2002-04-26 | レーザスキャナデータと空中写真画像を用いた高精度都市モデルの生成方法及び高精度都市モデルの生成システム並びに高精度都市モデルの生成のプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003323640A JP2003323640A (ja) | 2003-11-14 |
JP4058293B2 true JP4058293B2 (ja) | 2008-03-05 |
Family
ID=29541675
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002127672A Expired - Lifetime JP4058293B2 (ja) | 2002-04-26 | 2002-04-26 | レーザスキャナデータと空中写真画像を用いた高精度都市モデルの生成方法及び高精度都市モデルの生成システム並びに高精度都市モデルの生成のプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4058293B2 (ja) |
Families Citing this family (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3854270B2 (ja) * | 2003-12-11 | 2006-12-06 | アジア航測株式会社 | 浸水深補正方法 |
KR100715460B1 (ko) * | 2004-04-06 | 2007-05-07 | 이엔지정보기술 주식회사 | 레이저 스캐닝 데이터를 이용한 정밀 수치표고모델 제작장치 및 그 제작 방법 |
JP4752409B2 (ja) * | 2005-09-09 | 2011-08-17 | ソニー株式会社 | 画像処理装置および方法、並びにプログラム |
JP2008226189A (ja) * | 2007-03-15 | 2008-09-25 | Aisin Seiki Co Ltd | 特徴点検出装置及びプログラム |
WO2009003529A1 (en) * | 2007-07-04 | 2009-01-08 | Saab Ab | Arrangement and method for providing a three dimensional map representation of an area |
JP4852006B2 (ja) * | 2007-07-27 | 2012-01-11 | 株式会社パスコ | 空間情報データベース生成装置及び空間情報データベース生成プログラム |
KR100912715B1 (ko) * | 2007-12-17 | 2009-08-19 | 한국전자통신연구원 | 이종 센서 통합 모델링에 의한 수치 사진 측량 방법 및장치 |
EP2278553A4 (en) * | 2008-04-23 | 2013-10-23 | Pasco Corp | DEVICE, METHOD AND PROGRAM FOR DETECTING BUILDING ACOUSTIC CONTOURS |
JP2010151577A (ja) * | 2008-12-25 | 2010-07-08 | Shimizu Corp | 配筋検査装置および配筋検査方法 |
JP5356269B2 (ja) * | 2010-01-29 | 2013-12-04 | 株式会社パスコ | レーザデータのフィルタリング方法及び装置 |
JP5305485B2 (ja) * | 2011-05-23 | 2013-10-02 | Necシステムテクノロジー株式会社 | 地盤高データ生成装置、地盤高データ生成方法、及びプログラム |
JP2013072705A (ja) * | 2011-09-27 | 2013-04-22 | Kumagai Gumi Co Ltd | 岩盤斜面における不連続面の検出方法とその検出装置 |
JP5986362B2 (ja) * | 2011-09-27 | 2016-09-06 | 株式会社熊谷組 | トンネル切羽の不連続面の抽出方法及びその装置 |
JP5817422B2 (ja) * | 2011-10-18 | 2015-11-18 | 朝日航洋株式会社 | 建物抽出装置、方法及びプログラム |
JP6296444B2 (ja) * | 2014-01-30 | 2018-03-20 | 国際航業株式会社 | 点群画像による図化方法、及び点群画像による図化装置 |
US11657437B2 (en) | 2017-11-29 | 2023-05-23 | Angelswing Inc | Method and apparatus for providing drone data by matching user with provider |
KR102058626B1 (ko) | 2017-11-29 | 2019-12-23 | (주)엔젤스윙 | 지형변화량 가시화 방법 및 장치 |
CN108986207B (zh) * | 2018-06-29 | 2023-05-23 | 广东星舆科技有限公司 | 一种基于真实路面数据的道路及沿线建筑仿真建模方法 |
CN113642065B (zh) * | 2021-06-28 | 2024-03-12 | 中国地质大学(武汉) | 一种基于dxf矢量平面图的室内半自动制图与建模方法 |
CN113658336B (zh) * | 2021-07-28 | 2024-04-30 | 贵州图智信息技术有限公司 | 一种三维自动化建模方法及系统 |
-
2002
- 2002-04-26 JP JP2002127672A patent/JP4058293B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JP2003323640A (ja) | 2003-11-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4058293B2 (ja) | レーザスキャナデータと空中写真画像を用いた高精度都市モデルの生成方法及び高精度都市モデルの生成システム並びに高精度都市モデルの生成のプログラム | |
CN109872397B (zh) | 一种基于多目立体视觉的飞机零件的三维重建方法 | |
US7509241B2 (en) | Method and apparatus for automatically generating a site model | |
Zhou et al. | Seamless fusion of LiDAR and aerial imagery for building extraction | |
Chen et al. | Fusion of LIDAR data and optical imagery for building modeling | |
JP4719753B2 (ja) | 異種センサ統合モデリングによるデジタル写真測量方法及びその装置 | |
CN110866531A (zh) | 一种基于三维建模的建筑物特征提取方法、系统及存储介质 | |
CN107767456A (zh) | 一种基于rgb‑d相机的物体三维重建方法 | |
JP6534296B2 (ja) | 3次元モデル生成装置、3次元モデル生成方法、及びプログラム | |
Chen et al. | Building reconstruction from LIDAR data and aerial imagery | |
CN103839286B (zh) | 一种对象语义约束的真正射影像优化采样方法 | |
JP4568845B2 (ja) | 変化領域認識装置 | |
CN112767459A (zh) | 基于2d-3d转换的无人机激光点云与序列影像配准方法 | |
Wang et al. | A method for detecting windows from mobile LiDAR data | |
CN115690138A (zh) | 一种融合车载影像与点云的道路边界提取与矢量化方法 | |
Verhoeven et al. | From 2D (to 3D) to 2.5 D: not all gridded digital surfaces are created equally | |
Ebrahimikia et al. | True orthophoto generation based on unmanned aerial vehicle images using reconstructed edge points | |
Zhao et al. | Alignment of continuous video onto 3D point clouds | |
CN116051980B (zh) | 基于倾斜摄影的建筑识别方法、系统、电子设备及介质 | |
Novacheva | Building roof reconstruction from LiDAR data and aerial images through plane extraction and colour edge detection | |
JP3966419B2 (ja) | 変化領域認識装置および変化認識システム | |
Habib et al. | Integration of lidar and airborne imagery for realistic visualization of 3d urban environments | |
KR101103491B1 (ko) | 항공 레이저 측량 데이터를 이용한 도로 레이어 취득 시스템 및 그 방법 | |
KR101079359B1 (ko) | 항공 사진과 항공 레이저 측량 데이터를 이용한 수치지도 구축 시스템 | |
KR101083902B1 (ko) | 항공 레이저 측량 데이터의 필터링을 이용한 3차원 공간정보 구축 시스템 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20041117 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070815 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070821 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20071022 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20071211 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20071217 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4058293 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101221 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111221 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121221 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131221 Year of fee payment: 6 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |