JP3898945B2 - 写真測量システムと写真測量方法と写真測量プログラムが格納された記録媒体 - Google Patents

写真測量システムと写真測量方法と写真測量プログラムが格納された記録媒体 Download PDF

Info

Publication number
JP3898945B2
JP3898945B2 JP2001389456A JP2001389456A JP3898945B2 JP 3898945 B2 JP3898945 B2 JP 3898945B2 JP 2001389456 A JP2001389456 A JP 2001389456A JP 2001389456 A JP2001389456 A JP 2001389456A JP 3898945 B2 JP3898945 B2 JP 3898945B2
Authority
JP
Japan
Prior art keywords
coordinate
image
converted
coordinates
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001389456A
Other languages
English (en)
Other versions
JP2003185434A (ja
Inventor
滋 若代
Original Assignee
ペンタックス株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ペンタックス株式会社 filed Critical ペンタックス株式会社
Priority to JP2001389456A priority Critical patent/JP3898945B2/ja
Publication of JP2003185434A publication Critical patent/JP2003185434A/ja
Application granted granted Critical
Publication of JP3898945B2 publication Critical patent/JP3898945B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Image Processing (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は写真測量に関し、より詳しくは、異なるカメラ位置で撮影されたペア画像を用いた測量における測量点の対応付けに関する。
【0002】
【従来の技術】
従来、交通事故調査等の写真測量では、異なる任意の位置で撮影された画像を用いるステレオ写真測量が知られている。ステレオ写真測量では、まず、寸法および形状が既知であり、基準となる点を有するターゲットが測量現場に設置され、異なる位置および異なる方向で測量現場が撮影され、複数のデジタル画像を得る。そして、これら複数のデジタル画像の中から適宜一対のペア画像が選出されモニタに表示される。ペア画像に写し込まれたターゲットの寸法等の情報と、基準点の座標値とに基づいて双方のカメラ位置および光軸の傾き等のカメラパラメータが算出される。さらに、モニタに映し出されたペア画像において、作業者がマウス等を用いて測量の対象となる複数の測量点を指定し、測量点の対応付けを行う。カメラパラメータおよびペア画像において対応付けられた測量点の座標値に基づいて所定の演算処理が実行され、測量点の3次元データが算出される。そして、この3次元データに基づいて測量現場の俯瞰図や斜視図等が作成されモニタに表示される。
【0003】
【発明が解決しようとする課題】
しかしながら、モニタに映し出されたデジタル画像を目視しながら測量点を対応付けるという作業は、作業者の負担が大きく、その精度は各作業者の熟練度に左右される。また、測量現場の状況によっては撮影される写真が大量になり、選択されるペア画像の数も大量となる場合があり、測量点の対応付けは作業者に多大な労力を強いることとなる。このような種々の要因により、測量点の対応付けは常時正確に行われるとは限らない。測量点の対応付けが不正確な場合、写真測量の演算処理に影響を及ぼし、正確な3次元データが算出されず、俯瞰図等が精度高く作成されないという問題がある。
【0004】
本願発明は以上の問題を解決するものであり、ペア画像を用いた写真測量システムにおいて、測量点の対応付けを正確に行うことにより精度の高い3次元データを算出することを目的とする。
【0005】
【課題を解決するための手段】
本発明に係る写真測量システムは、測量現場を第1のカメラ姿勢で撮影した第1の元画像と、第1のカメラ姿勢とは異なる第2のカメラ姿勢で撮影した第2の元画像から、測量現場の測量点の3次元データを算出し、測量図を生成する写真測量システムにおいて、測量点が存在する面に近似する基準面を所定の3次元座標系である基準座標系において設定する手段と、基準面に対して所定の回転量で表現される平行ステレオ姿勢を演算する平行ステレオ姿勢演算手段と、第1の元画像を平行ステレオ姿勢で表現した第1の変換画像に変換する第1の画像変換手段と、第2の元画像を平行ステレオ姿勢に変換し、第1のカメラ姿勢を平行ステレオ姿勢に変換した姿勢で表現した第2の変換画像に変換する第2の画像変換手段とを備えることを特徴とする。
【0006】
好ましくは、第1および第2の変換画像のうちの一方の変換画像において、この一方の変換画像に対応する上述の元画像中で特定される測量点に相当する変換画像点を演算する変換画像点演算手段と、第1および第2の変換画像のうちの他方の変換画像において変換画像点に対応する対応点を探索する対応点探索手段と、この他方の変換画像に対応する上述の元画像において対応点に相当する元画像点を演算する元画像点演算手段とを備える。
【0007】
好ましくは、一方の変換画像の変換画像点と他方の変換画像の対応点に基づいて、測量点の3次元データを演算する測量点演算手段を備える。
【0008】
好ましくは、第1の画像変換手段は、第1の元画像を構成する画素の並びを2次元的に表現する第1元画像座標の各座標と、第1の変換画像を構成する画素の並びを2次元的に表現する第1変換画像座標の各座標とを対応付ける第1対応座標値演算手段と、第1元画像座標の各座標で特定される画素データを第1変換画像座標の対応する座標で特定される画素データにコピーする第1画素データコピー手段とを有し、第2の画像変換手段は、第2の元画像を構成する画素の並びを2次元的に表現する第2元画像座標の各座標と、第2の変換画像を構成する画素の並びを2次元的に表現する第2変換画像座標の各座標とを対応付ける第2対応座標値演算手段と、第2元画像座標の各座標で特定される画素データを第2変換画像座標の対応する座標で特定される画素データにコピーする第2画素データコピー手段とを有する。
【0009】
好ましくは、第1対応座標値演算手段は、第1変換画像座標の座標値を、第1のカメラ姿勢を3次元的に表現する第1カメラ座標系を回転成分のみ平行ステレオ姿勢に変換した第1平行ステレオカメラ座標系上に定義される第1変換写真座標の座標値に変換する第1変換画像座標変換手段と、第1変換画像座標変換手段により変換された座標値を第1カメラ座標系上に定義される第1元写真座標の座標値に変換する第1写真座標変換手段と、写真座標変換手段により変換された座標値を第1元画像座標の座標値に変換する第1元画像座標変換手段とを有し、第2対応座標値演算手段は、第2変換画像座標の座標値を、第1変換画像座標変換手段と第1写真座標変換手段により第1変換写真座標の座標値に変換し、さらに、第2対応座標値演算手段において変換された第1変換写真座標の座標値に対応する点の、基準面において相当する点の基準座標系の座標値を演算する基準座標値算出手段と、基準座標値算出手段により演算された座標値を第2カメラ座標系上に定義される第2元写真座標の座標値に変換する第2写真座標変換手段と、第2写真座標変換手段により変換された座標値を第2元画像座標の座標値に変換する第2元画像座標変換手段とを有する。
【0010】
好ましくは、第1元画像座標により表現される2次元領域を規定する4隅点の座標値を、第1の元写真座標に変換し、次いで第1変換写真座標に変換し、これら4隅点の変換後の座標値と第1元画像座標の座標値に基づいて、第1変換画像座標により表現される2次元領域と前記第1元画像座標により表現される2次元領域との間のシフト量を算出する画像シフト算出手段と、このシフト量に基づいて、第1変換画像座標により表現される2次元領域のサイズを算出する画像サイズ算出手段とを有する。
【0011】
好ましくは、第1の元画像と第2の元画像には、それぞれ寸法および形状が既知のターゲットが写し込まれており、基準面および基準座標系はこのターゲットにより定義される。
【0012】
また本発明に係る写真測量方法は、測量現場を第1のカメラ姿勢で撮影した第1の元画像と、第1のカメラ姿勢とは異なる第2のカメラ姿勢で撮影した第2の元画像から、測量現場の測量点の3次元データを算出し、測量図を生成する写真測量方法であって、測量点が存在する面に近似する基準面を所定の3次元座標系である基準座標系において設定する第1ステップと、基準面に対して所定の回転量で表現される平行ステレオ姿勢を演算する第2ステップと、第1の元画像を平行ステレオ姿勢で表現した第1の変換画像に変換する第3ステップと、第2の元画像を平行ステレオ姿勢に変換し、第1のカメラ姿勢を平行ステレオ姿勢に変換した姿勢で表現した第2の変換画像に変換する第4ステップとを備えることを特徴とする。
【0013】
また、本発明に係る写真測量プログラムが格納された記録媒体は、測量現場を第1のカメラ姿勢で撮影した第1の元画像と、第1のカメラ姿勢とは異なる第2のカメラ姿勢で撮影した第2の元画像から、測量現場の測量点の3次元座標を算出し、測量図を生成する写真測量プログラムであり、測量点が存在する面に近似する基準面を所定の3次元座標系である基準座標系において設定する基準面設定ルーチンと、基準面に対して所定の回転量で表現される平行ステレオ姿勢を演算する平行ステレオ姿勢演算ルーチンと、第1の元画像を平行ステレオ姿勢で表現した第1の変換画像に変換する第1の画像変換ルーチンと、第2の元画像を平行ステレオ姿勢に変換し、第1のカメラ姿勢を平行ステレオ姿勢に変換した姿勢で表現した第2の変換画像に変換する第2の画像変換ルーチン手段とを備える写真測量プログラムが格納されていることを特徴とする。
【0014】
【発明の実施の形態】
以下、本発明の実施の形態を図面を参照して説明する。
図1は、写真測量の測量現場の一例を示す模式図であり、測量対象であるT字路および白線等を鉛直上方から見た俯瞰図である。この測量現場は、道路にターゲット20が載置された状態で、1台のカメラ10を用いて異なる2つの撮影地点から撮影される。この2つの撮影地点はカメラ位置M1およびM2として定義される。各カメラ位置M1、M2はそれぞれカメラ10の撮影光学系(図示せず)の後側主点位置に一致し、カメラ位置M1、M2からそれぞれ延びる一点鎖線は、カメラ10の撮影光学系の光軸O1、O2を示す。
【0015】
カメラ10は図示しないCCD(Charge Coupled Device)を備えるデジタルカメラであり、光学像を輝度信号および色差信号を含むデジタル画素データに光電変換する。このデジタル画素データは所定のフォーマットに従ってメモリカード等の画像記録媒体に格納される。画像記録媒体には、デジタル画素データと共に、撮影条件、撮影日時等の種々のデータが格納される。
【0016】
図2は、ターゲット20を拡大して示す斜視図である。ターゲット20は一端において互いに連結された2本の柱状部材21、22を備える。柱状部材21、22は長手方向が直交するよう連結される。これら2本の柱状部材21、22の表面には黒色の無反射シートが全体的に貼付される。柱状部材21、22の端部の上面には、例えば白色反射シートが貼付された点部材である3個の基準点部材23、24、25が設けられる。基準点部材23〜25の周囲には、黒色無反射シートが貼付された環状部材26、27、28がそれぞれ設けられる。これにより、基準点部材23〜25は、撮影画像中において強調され、画像中での識別を容易にする。
【0017】
基準点部材23と基準点部材24の間には2個の補助点部材33、34が設けられ、基準点部材24と基準点部材25の間には、補助点部材35が設けられる。補助点部材33〜35は基準点部材23〜25と同一形状、同一寸法の部材であり、白色反射シートが貼付される。また、補助点部材33〜35の周囲には黒色無反射シートが貼付された環状部材36、37、38がそれぞれ設けられる。
【0018】
すなわち、柱状部材21の長手方向には4個の点部材(基準点部材24、補助点部材34、補助点部材33、および基準点部材23)が等間隔に並んでおり、柱状部材22の長手方向には3個の点部材(基準点部材24、補助点部材35、および基準点部材25)が等間隔に並んでいる。したがって、ターゲット20の設置方向を容易に認識できる。尚、補助点部材の数は柱状部材21に2個、柱状部材22に1個であるが、これに限定されず、それぞれに1個以上設けられていればよい。
【0019】
ターゲット20は道路面上に載置され、基準点部材23、24、および25により定義される平面は道路面に略平行である。柱状部材21、22の内部には、それぞれの水平面に対する傾斜角、すなわち基準点部材23および24を結ぶ直線周りの回転角、基準点部材24および25を結ぶ直線周りの回転角を測定するセンサがそれぞれ設けられる。
【0020】
基準点部材23、24間の距離と、基準点部材24、25間の距離は、共に既知の値LTである。したがって、3個の基準点部材23〜25を結ぶことにより形成される、基準点部材24を角部(90度)とする直角二等辺三角形の二等辺三角形の実寸データも既知である。この実寸データは後述する写真測量画像処理装置に予め与えられており、所定の3次元座標系におけるカメラ位置M1、M2の座標を算出する際に用いられる。また、カメラ位置M1、M2で写された画像中のターゲット20の向きおよび寸法から、それぞれのカメラ位置M1、M2とターゲット20との距離が算出可能となる。尚、予めカメラ間距離がわかっているステレオカメラ等で測量現場を撮影した場合は、ターゲット20を用いなくてもカメラ位置を算出することは可能である。
【0021】
図3および図4は、図1の測量現場の撮影により得られた2枚の画像を概念的に示す図である。図3はカメラ位置M1において得られた撮影画像IMG1を示し、図4はカメラ位置M2において得られた撮影画像IMG2を示す。
【0022】
カメラ位置M1、M2で得られた撮影画像IMG1、IMG2には、道路上の所定の位置におかれたターゲット20が写し込まれている。撮影画像IMG1およびIMG2は、同一の測量対象および同一位置のターゲット20を含む一対のペア画像として定義される。尚、測量対象を撮影する画像は3枚以上でもよく、その中から適宜一対のペア画像が選出される。
【0023】
図5は、本実施形態が適用される写真測量画像処理装置のシステム構成を示すブロック図である。写真測量画像処理装置は、表示装置50、キーボードおよびマウス等の入力装置52、およびCPU54を有し、これらは直接または間接的にバス56に接続されている。CPU54には、入力状態管理部60、表示状態管理部62、演算処理部64、およびデータ管理部66が設けられ、ここで必要な管理、演算、処理が実行される。
【0024】
入力装置52には、バス56に接続された入力装置制御装置58が接続され、これによって入力装置52からの入力がバス56に転送され、また入力装置52の入力モード等が設定される。画像記憶媒体70はメモリカードリーダ等の記憶媒体制御装置72に挿入され、これによって画像記憶媒体70に格納されたデジタル画素データ等が適宜読み出される。
【0025】
さらにバス56には作業メモリ74および表示メモリ76が接続される。作業メモリ74はCPU54の演算、処理におけるキャッシュメモリ等に使用され、後述するカメラパラメータ算出処理に用いられる種々のデータはここに格納される。表示メモリ76には表示装置50で表示すべき内容が保持される。表示装置50には、バス56に接続された表示装置制御装置78が接続されている。表示装置制御装置78において、表示メモリ76内のデジタルデータが表示装置50のためのアナログRGB信号に変換される。
【0026】
CPU54の入力状態管理部60は入力装置52の設定を管理し、また入力された情報、例えばマウスにより画面上を移動するマウスポインタの座標、キーボードから入力された文字等を所定のデジタルデータに変換する。表示状態管理部62は表示装置50に表示すべき内容を管理し、表示に関する設定の変更等があったときには表示内容を変更する。演算処理部64は後述するカメラパラメータの算出処理、および測量点の測量処理等に使用される。データ管理部66は画像記憶媒体70から読み込んだ画像等のデータを管理し、またこれに基づいて作成された種々の座標データ、作図された測量図のデータ等を管理する。
【0027】
図6は、本実施形態の写真測量画像処理装置における写真測量の処理手順の全体的な骨格を示すフローチャートである。
ステップS100において、複数の画像の中から一対のペア画像が操作者により選択される。上述のカメラ位置M1、M2で撮影された2つの撮影画像IMG1、IMG2がペア画像として選択されたものとして以降の説明を行う。IMG1、IMG2が選択されると、画像記録媒体70に格納されているデジタル画素データの中から対応するデジタル画素データが作業メモリ74にロードされる。デジタル画素データは、撮影画像の画素の並びを2次元的に表現する座標に各画素のデジタル画素データを関連付けた形式でロードされる。本明細書では、カメラ位置M1およびM2で撮影された画像のデジタル画素データをロードする2次元座標をそれぞれ第1元画像座標、第2元画像座標と呼ぶ。具体的には、第1および第2元画像座標の座標値を添字とする2次元配列の各要素にデジタル画素データがロードされる。
【0028】
ペア画像のデジタル画素データがロードされると、第1および第2元画像座標に基づいて、撮影画像がCCDの撮影有効領域に対応して矩形でモニタ等の表示装置50に表示される。すなわち、図3、図4の撮影画像IMG1、IMG2と実質的に同様の画像が表示される。尚、第1および第2元画像座標は、表示される矩形の領域の4隅点のうち左上の点を原点とし、右方向へ進むにつれ横方向の座標値が増加し、下方向へ進むにつれ縦方向の座標値が増加するよう構成される。
【0029】
図3に示すように、ターゲット20の3個の基準点部材23、24、25(基準点)の第1元画像座標は、ai(xai,yai)(i=1〜3)で表される。尚、図示しないが、撮影画像IMG2においても基準点は第2元画像座標で同様に表現される。
【0030】
次いでステップS200において、カメラ位置M1、M2のカメラパラメータの算出が行われる。カメラパラメータとは、それぞれのカメラ位置の3次元座標および光軸の傾きである。ここで、カメラ位置M1の算出について、図7および図8を用いながら説明する。図7は、カメラ位置M1と、カメラ10の撮影光学系の結像面であるスクリーンS(カメラ10のCCDの撮像面に相当)と、ターゲット20との間の関係を相対的に示す概念図である。尚、説明を簡略化するため、図7においてスクリーンSはカメラ位置M1の前方側(物体側)に示されており、実質的に画像IMG1に一致する。
【0031】
ターゲット20がカメラ10のスクリーンS上に結像した状態においては、光軸O1はカメラ位置M1およびスクリーンSの撮影中心CSを通り、スクリーンSに投影された基準点23、24、25の像点p1、p2、p3は、カメラ位置M1と各基準点23、24、25とを結ぶ直線上にそれぞれ位置する。
【0032】
スクリーンSに基づいて、第1写真座標系が定義される。第1写真座標系の原点は撮影中心CSであり、Xp軸、Yp軸はそれぞれ図3のIMG1の横方向、縦方向に一致する。Z軸はスクリーンSに直交する方向に一致するが、第1写真座標系においてZ成分は撮影光学系の焦点距離fに固定される。すなわち、第1写真座標は、カメラ10のCCDの撮像有効領域が形成された平面をXY平面とし、Z成分が撮影光学系の焦点距離fに定められている3次元座標である。この第1写真座標系における像点p1、p2、p3の第1写真座標は、それぞれp1(xp1,yp1,f)、p2(xp2,yp2,f)、p3(xp3,yp3,f)で表現される。
【0033】
また、図7において、カメラ位置M1を表現するための3次元直交座標(Xc,Yc,Zc)が示される。この3次元直交座標を本明細書では「元カメラ1座標系」と呼ぶ。元カメラ1座標系の座標原点は、カメラ位置M1におけるカメラ10の撮影光学系の後側主点位置に一致し、またそのZc軸はカメラ位置M1における撮影光学系の光軸O1に一致する。また、Xc軸およびYc軸は第1写真座標系のXp軸、Yp軸に平行である。すなわち、上述の第1写真座標とは、元カメラ1座標系においてZ成分が撮影光学系の焦点距離fで固定されている座標である。
【0034】
元カメラ1座標系における基準点23、24、25の3次元座標をPci(Pcxi,Pcyi,Pczi)(ただし、i=1〜3)と定義すると、基準点の第1写真座標piのX座標値(xpi)、Y座標値(ypi)と元カメラ1座標Pci(Pcxi,Pcyi,Pczi)との関係は、式(1)および(2)により示される。式(1)、(2)中のfは撮影光学系の焦点距離である。
【0035】
【数1】
Figure 0003898945
【0036】
ここで、撮影画像に基づいてカメラ位置M1を特定するために、図8に示す右手系の3次元直交座標系(Xs,Ys,Zs)が適宜設定される。3次元直交座標系(Xs,Ys,Zs)の座標原点はターゲット20の基準点部材24に一致させられる。Zs軸は、基準点部材24から基準点部材25へ向かう方向であり、基準点部材24を通り、Zs軸に直交し、かつ基準平面にある軸をXs軸とし、基準点部材24を通り、基準平面に直交する軸、すなわち紙面に直交する軸をYs軸とする。上述のようにターゲット20の基準点部材23と基準点部材24、および基準点部材24と基準点部材25との間の距離はLTなので、基準点部材23、24、および25の像点(基準点)はそれぞれ座標Ps1(−LT,0,0)、Ps2(0,0,0)、Ps3(0,0,LT)で示される(図7参照)。本明細書ではこの3次元直交座標を「ワールド座標系」と呼ぶ。
【0037】
カメラ位置M1は、ワールド座標系と元カメラ1座標系の相対的な関係で示される。すなわち、ワールド座標系の原点からの元カメラ1座標系の原点の移動距離と、Xs軸のXc軸回りの回転角と、Ys軸のYc軸回りの回転角、およびZs軸のZc軸回りの回転角で、カメラ位置M1は定義される。カメラ位置M2についても同様にワールド座標系との相対的な関係で示される。
【0038】
ワールド座標系における基準点の座標値Psi(Psxi,Psyi,Pszi)(i=1〜3)と、元カメラ1座標系における基準点Piの座標値Pci(Pcxi,Pcyi,Pczi)(i=1〜3)との関係は式(3)で示される。
【0039】
【数2】
Figure 0003898945
【0040】
式(3)において、αはXs軸のXc軸回りの回転角、βはYs軸のYc軸回りの回転角、γはZs軸のZc軸回りの回転角であり、Rはα、β、γの回転行列、ΔK1(ΔX,ΔY,ΔZ)はワールド座標から元カメラ1座標へのベクトル(原点移動量)である。
【0041】
上述のように、ワールド座標系における基準点23、24、25のワールド座標は、それぞれPs1(−LT,0,0)、Ps2(0,0,0)、Ps3(0,0,LT)に決定されている。これらのワールド座標から上述の式(1)〜(3)により各基準点の第1写真座標pi(xpi,ypi)(i=1〜3)が演算される。このとき、カメラパラメータ(ΔX,ΔY,ΔZ,α,β,γ)には適当な初期値が与えられる。
【0042】
一方、画像記憶媒体70から撮影画像IMG1のデジタル画素データがロードされると、種々の画像処理が施され、基準点23〜25が自動抽出され、各基準点の第1元画像座標ai(xai,yai)(i=1〜3)が算出される。第1元画像座標aiは式(4)により第1写真座標bi(xbi,ybi,zbi)(i=1〜3)に変換される。
【0043】
【数3】
Figure 0003898945
【0044】
式(4)中、行列MDP_Aは第1元画像座標を第1写真座標に変換する変換行列である。上述のように第1元画像座標は2次元座標であり第1写真座標は3次元座標である。したがって、式(4)において、第1元画像座標にはZ成分として「1」が設定された状態で演算される。尚、式(4)中、右上の“T”は、転置行列であることを意味する。
【0045】
スクリーンSは実質的に画像IMG1に一致するものとし、各基準点に関して、IMG1の第1元画像座標から変換されて算出された第1写真座標biと、ワールド座標値から変換されて算出された第1写真座標piとの差、例えば式(5)に示されるΦが最小となるカメラパラメータが、逐次近似解法を用いて算出される。尚、逐次近似解法による演算は公知であるので説明は省略する。
【0046】
【数4】
Figure 0003898945
【0047】
カメラ位置M2についても、カメラ位置M2を表現するための3次元直交座標である元カメラ2座標系、カメラ位置M2における第2写真座標が設定される。第2元画像座標と第2写真座標の相対的な関係は、上述の第1元画像座標と第1写真座標と同一である。カメラ位置M2のカメラパラメータは、カメラ位置M1の場合と同様の手順により算出される。すなわち、各基準点に関し、IMG2の第2元画像座標から変換されて算出される第2写真座標と、ワールド座標値から変換されて算出される第2写真座標との差分に基づいて、カメラ位置M2のカメラパラメータが算出される。
【0048】
再び図6を参照すると、ステップS200でカメラ位置M1、M2のカメラパラメータが算出されたら、次いでステップS300へ進み、基準面のデータがロードされる。基準面とは、測量対象である平面に近似した面である。本実施形態において、上述の形状および寸法が既知のターゲット20が測量対象である道路面に設置されている。したがって、ターゲット20の基準点部材23〜25により規定される平面から、ターゲット20の高さ成分を引いた面が基準面として設定される。換言すれば、基準面とは測量対象が存在する面である。
【0049】
次いで、ステップS400へ進み、変換画像生成ルーチンが実行される。変換画像生成とは、カメラ位置M1およびM2で撮影された画像データから、それぞれ同じカメラ姿勢に変換させた画像データを生成することである。換言すれば、元カメラ1座標系と元カメラ2座標系を、対応する座標軸が平行となるようそれぞれ回転変換させ、回転変換された座標系に画像データを座標変換させることである。本明細書では、このような処理を平行ステレオ化するという。具体的には、カメラ位置M1のレンズ中心C1からカメラ位置M2のレンズ中心C2へ向かうベクトルに元カメラ1座標系および元カメラ2座標系のXc軸を一致させるよう、座標変換する。平行ステレオ化されたカメラ姿勢はワールド座標系に対する姿勢(各軸回りの回転角度)として表現される。
【0050】
図9はステップS400の変換画像生成ルーチンの処理手順を示すフローチャートである。ここで、図10を参照して、3次元座標系の傾きの表現について説明する。一般的に、基準となる3次元座標系に対する任意の3次元座標系の傾きは、基準となる3次元座標系を第1軸の正方向に対して右回りに回転させ、次に第2軸の正方向に対して右回りに回転させ、最後に第3軸の正方向に対して右回りに回転させることにより再現される。
【0051】
本実施形態では、元カメラ1座標系、元カメラ2座標系を基準となる座標系とし、Yc軸を第1軸、Zc軸を第2軸、Xc軸を第3軸として、ワールド座標系の元カメラ1および元カメラ2座標系に対する傾きを演算し、その逆回転変換を行うことにより各座標系を表現する。各軸回りの逆回転変換は以下の回転行列(6)〜(8)により定義される。αはワールド座標系のXs軸の元カメラ1座標系(元カメラ2座標系)のXc軸に対する回転角度、βはワールド座標系のYs軸の元カメラ1座標系(元カメラ2座標系)のYc軸に対する回転角度、γはワールド座標系のZs軸の元カメラ1座標系(元カメラ2座標系)のZc軸に対する回転角度である。
【0052】
【数5】
Figure 0003898945
【0053】
変換画像生成ルーチンでは、まず、カメラ位置M1の元カメラ1座標系とカメラ位置M2の元カメラ2座標系を平行ステレオ化させる。上述のように、本実施形態では、Y軸を第1軸、Z軸を第2軸、X軸を第3軸として回転成分を表現する。したがって、平行ステレオ化されたカメラ姿勢(平行ステレオカメラ姿勢)は、行列(6)〜(8)に基づいて、以下の式(9)で表される。式(9)で表現されているのはワールド座標に対する傾き成分のみであり、各座標系間の移動成分は表現していない。
【0054】
【数6】
Figure 0003898945
【0055】
図9のステップS401〜S411までの処理は、平行ステレオ化されたカメラ姿勢を演算する処理である。ステップS401で、図10に示すレンズ中心C1からレンズ中心C2への移動ベクトル、すなわち、元カメラ1座標系の原点から元カメラ2座標系の原点への移動ベクトルT0を算出する。移動ベクトルT0は、ワールド座標系の原点Oからレンズ中心C2へのベクトルOC2と、原点Oからレンズ中心C1へのベクトルOC1との差分を求めることにより算出される。
【0056】
次いで、ステップS403において、ワールド座標系のYs軸周りの回転角βを算出する。図11は、ワールド座標系のXs軸とZs軸で定義されるXZ平面を示しており、Ys軸は図11の紙面に直交する方向に沿っている。移動ベクトルT0はXZ平面に射影されて示される。ワールド座標系のYs軸周りの回転角βは以下の式(10)により算出される。
【0057】
【数7】
Figure 0003898945
【0058】
次いで、ステップS405において、ワールド座標系をYs軸周りに回転角β分回転させることにより移動ベクトルT0が回転変換された移動ベクトルT1を以下の式(11)により算出する。
【0059】
【数8】
Figure 0003898945
【0060】
次に、ステップS407において、ワールド座標系のZs軸周りの回転角γを算出する。図12は、ワールド座標系のXs軸とYs軸で定義されるXY平面を示しており、Zs軸は図12の紙面に直交する方向に沿っている。移動ベクトルT1はXY平面に射影されて示される。ワールド座標系のZs軸周りの回転角γは以下の(12)式により算出される。
【0061】
【数9】
Figure 0003898945
【0062】
最後に、ステップS409において、Xs軸周りの回転角αを算出する。既に、回転角β、γが定まっているため、ワールド座標系のXs軸はベクトルT0に一致している。したがって、Xs軸周りの回転角αには自由度が残される。本ルーチンでは、平行ステレオ化されたカメラ姿勢のカメラ座標系のZc軸と、元カメラ1座標系のZc軸の成す角度が最小となる角度を回転角αとする。平行ステレオのカメラ姿勢のカメラ座標系のZc軸上のベクトルnPは式(13)で表され、変換前のカメラ座標系のZc軸上のベクトルn1は式(14)で表される。
【0063】
【数10】
Figure 0003898945
【0064】
Pとn1の成す角度θは式(15)で表される。式(15)において角度θが最小となるαを算出する。
【0065】
【数11】
Figure 0003898945
【0066】
次いで、ステップS411へ進み、上述の回転行列(6)(7)(8)に回転角β、γ、αの値を代入し、式(9)より、平行ステレオカメラ姿勢のワールド座標系に対する回転成分RPを算出する。
【0067】
次に、ステップS413へ進み、元カメラ1座標系および元カメラ2座標系の姿勢を平行ステレオカメラ姿勢に一致させるための回転変換成分Rr1、Rr2を算出する。元カメラ1座標系のワールド座標系に対する姿勢をR1、元カメラ2座標系のワールド座標系に対する姿勢をR2とすると、平行ステレオカメラ姿勢は以下の式(16)、(17)で表される。したがって、Rr1、Rr2は式(18)、(19)により算出される。
【0068】
【数12】
Figure 0003898945
【0069】
次いで、ステップS420へ進み、画像サイズ算出ルーチンが実行される。
ここで図13を用いて画像サイズの算出の基本的な考え方について説明する。図13中、画像Q1は実線の矩形で示される。画像Q1を中心Cqを中心として反時計回りに所定の角度で回転させた回転画像Q2は破線の矩形で示される。また、画像Q1、回転画像Q2の領域を規定する4隅点のうち左上の点をそれぞれの2次元座標の原点OQ1、OQ2とする。
【0070】
回転画像Q2を画像Q1の領域で表現しようとすると、斜線でハッチングした領域は表現されず欠落してしまう。したがって、ハッチング領域も表現できるよう、画像領域を1点鎖線で示される領域Q3に変更する必要があり、原点も横方向および縦方向にそれぞれ所定量シフトしなければならない。画像サイズ算出ルーチンでは、このシフト量、画像サイズが算出される。
【0071】
図14は、画像サイズ算出ルーチンの処理手順を示すフローチャートである。尚、以降の説明において用いられる撮影画像は、上述のように図3および図4に示すカメラ位置M1、M2で撮影されたデジタル画像であり、それぞれ第1元画像座標、第2元画像座標により表現される。矩形である撮影画像の領域を規定する4隅点のうち左上の点を各元画像座標の原点とする。また、カメラ位置M1、M2で撮影された画像を平行ステレオ化した画像をそれぞれ変換画像1、変換画像2と呼ぶ。変換画像1および変換画像2を構成する画素は、第1および第2元画像座標と同様の画像の画素の並びを2次元的に表現する座標である、第1変換画像座標、第2変換画像座標でそれぞれ表現される。
【0072】
ステップS421において、撮影画像の4隅点の画素全てについて、ステップS423〜S429までの処理が実行されたかチェックされる。未処理の隅点がある場合(S421:NO)、ステップS423へ進む。
【0073】
ステップS423では、隅点の第1元画像座標に撮影光学系の歪みに応じた補正処理が施され、ディストーション補正座標が算出される。
【0074】
ステップS425では、補正された隅点の第1元画像座標が第1写真座標に変換される。尚、2次元座標である第1元画像座標を3次元座標である第1写真座標に変換するため、便宜上、隅点の第1元画像座標にZ成分として「1」を設定した上で変換する。ここで、撮影画像の横方向(X方向)および縦方向(Y方向)の画素数をそれぞれRX、RYとすると、4つの隅点、すなわち、原点である左上隅点(Pimg1)、左下隅点(Pimg2)、右上隅点(Pimg3)、右下隅点(Pimg4)の第1元画像座標は以下の式(20)で表される。尚、式(20)中の各行列の右上の”T”は、転置行列であることを意味する。
【0075】
【数13】
Figure 0003898945
【0076】
また、4つの隅点の第1写真座標Pai(i=1〜4)は式(21)で表現される。式(21)中、行列MDP_Aは上述のように第1元画像座標を第1写真座標へ変換する変換行列である(式(4)参照)。
【0077】
【数14】
Figure 0003898945
【0078】
ステップS427では、ステップS425で算出された第1写真座標Pai(i=1〜4)が第1変換写真座標Pri(i=1〜4)に変換される。第1変換写真座標とは、第1写真座標を平行ステレオ化した座標であり、第1写真座標の第1変換写真座標への変換は、上述の回転変換成分Rr1を用いて以下の式(22)により行われる。
【0079】
【数15】
Figure 0003898945
【0080】
ステップS429では、ステップS427で変換された隅点の第1変換写真座標のZ軸成分が焦点距離fとなるよう、隅点の第1変換写真座標を正規化する。
【0081】
4つの隅点のそれぞれについて、以上のステップS423〜S429までの処理が行われたら(S421:YES)、ステップS431へ進む。ステップS431では、4つの隅点の正規化された第1変換写真座標のうち、X座標値の最小値をXmin、最大値をXmax、Y座標値の最小値をYmin、最大値をYmaxにそれぞれ格納する。
【0082】
次いで、ステップS433へ進み、第1変換画像座標の原点から第1元画像座標の原点へのシフト量Xshift、Yshiftが式(23)により算出される。
【0083】
【数16】
Figure 0003898945
【0084】
式(23)中、第1変換写真座標の座標値であるXmax、Xmin、及びYmax、Yminで表現される分子をそれぞれCCDのX方向の画素ピッチ(PX)およびY方向の画素ピッチ(PY)で除することにより、第1変換画像座標の原点から第1元画像座標の原点へのシフト量が画素単位で算出される。
【0085】
次いで、ステップS435へ進み、シフト量に基づいて式(24)によりX方向の画像サイズXsizeおよびY方向の画像サイズYsizeを算出する。
【0086】
【数17】
Figure 0003898945
【0087】
画像サイズが算出されたら本ルーチンは終了し、図9のステップS420へ戻り、次いでステップS440へ進む。ステップS440およびS470の処理について、図15に示す図を参照しながら説明する。図15は、ワールド座標系、元カメラ1座標系、元カメラ2座標系、平行ステレオカメラ1座標系(元カメラ1座標系を平行ステレオ化した座標系)、平行ステレオカメラ2座標系(元カメラ2座標系を平行ステレオ化した座標系)、第1写真座標、第2写真座標、第1変換写真座標(第1写真座標を平行ステレオ化した座標)、第2変換写真座標(第2写真座標を平行ステレオ化した座標)の相対的な関係を示す概念図である。
【0088】
ステップS440ではカメラ1画像変換ルーチンが実行される。カメラ1画像変換ルーチンとは、カメラ位置M1で撮影された撮影画像から平行ステレオ化された変換画像を生成するルーチンである。具体的な手法としては、変換画像の画像座標(第1変換画像座標)中の任意の点が第1元画像座標のどの点に対応するかを特定し、特定された第1元画像座標の点が有する画素データを第1変換画像座標の点に対応付けることにより変換画像を生成する。
【0089】
図16はカメラ1画像変換ルーチンの処理手順を示すフローチャートである。ステップS441において、第1変換画像座標のY座標値を格納する変数Yに「0」がセットされ、初期化される。次いでステップS443において、変数Yの値が第1変換画像座標の縦方向の画像サイズYsize(図14のステップS435で算出)と比較され、Ysizeより小さければ(S443:YES)、ステップS445へ進む。
【0090】
ステップS445において、第1変換画像座標のX座標値を格納する変数Xに「0」がセットされ、初期化される。次いでステップS447において、変数Xの値が第1変換画像座標の横方向の画像サイズXsize(図14のステップS435で算出)と比較され、Xsizeより小さければ(S447:YES)、ステップS449へ進む。
【0091】
ステップS449で、以降の演算に使用する変数行列Pv1に変数(X Y 1)Tをセットする。行列Pv1には第1変換画像座標のX座標値、Y座標値がセットされるとともに、Z成分には「1」がセットされる。Z成分に「1」をセットするのは、以降の演算において、3次元座標である写真座標を用いるためである。次いでステップS451へ進み、以下の式(25)を用いて、第1変換画像座標の現座標値が、第1元画像座標から変換された第1写真座標のどの座標値に相当するか算出する。
【0092】
【数18】
Figure 0003898945
【0093】
式(25)中、シフト行列Mshiftは上述の式(23)を行列化したものである。第1変換画像座標は第1元画像座標から所定量シフトされている。したがって、第1変換画像座標にシフト行列Mshiftを積算することにより、第1変換画像座標が第1元画像座標の状態へ逆シフトされる。変換行列MDP_Bは第1変換画像座標を第1変換写真座標へ変換する行列である。第1変換写真座標とは、第1写真座標を平行ステレオ化した座標である。変換行列MDP_Bを積算することにより、第1変換画像座標は第1変換写真座標へ変換される。Rr1は、上述のように、元カメラ1座標系の姿勢を平行ステレオカメラ姿勢に一致させるための回転変換成分である(式(18)参照)。したがって、Rr1の逆行列を積算することにより、平行ステレオ化の逆変換が行われる。以上の処理により、行列Ppic1に格納されるのは、第1変換画像座標の現座標値(X、Y、1)に相当する、第1写真座標の座標値である。換言すれば、第1変換画像座標の座標値と第1写真座標の座標値が関連付けられる。
【0094】
次いで、ステップS453へ進み、Ppic1のZ成分が撮影光学系の焦点距離fとなるよう、Ppic1を正規化する。これにより、CCDの撮像領域をXY平面とする座標に正規化される。さらに、ステップS455へ進み、以下の式(26)により、正規化された第1写真座標Ppic1を第1元画像座標Ppic1’へ変換する。
【0095】
【数19】
Figure 0003898945
【0096】
上述のように、変換行列MDP_Aは、第1元画像座標を第1写真座標に変換する行列である。したがって、第1写真座標Ppic1に変換行列MDP_Aの逆行列を積算することにより第1元画像座標Ppic1’が算出される。
【0097】
次いでステップS457において、第1元画像座標Ppic1’にディストーション付加処理が行われ、撮影光学系の歪み成分を含んだ座標に変換される。
【0098】
ステップS459において、カメラ位置M1で撮影された撮影画像における画素のデータが平行ステレオ化された第1変換画像において対応する画素のデータへコピーされる。Srcimg1は、カメラ位置M1で撮影された撮影画像を構成する各画素の画素データ(本実施例ではRGB輝度値)を格納するための2次元配列である。すなわち、第1元画像座標のX座標値、Y座標値で特定される撮影画像の画素の画素データが、第1元画像座標のX座標値、Y座標値を添字として特定されるSrcimg1の要素に格納されている。Srcimg1へのデータの格納は、上述の画像データロード時(図6のステップS100)に行われる。Dstimg1は第1変換画像を構成する各画素の画素データを格納するための2次元配列である。第1変換画像座標のX座標値、Y座標値で特定される第1変換画像の画素の画素データが、第1変換画像座標のX座標値、Y座標値を添字として特定されるDstimg1の要素に格納される。すなわち、ステップS457で求められたPpic1’のX座標値、Y座標値を添字とするScrimg1の要素に格納されている画素データが、現時点の変数X、Yを添字とするDstimg1の要素にコピーされる。
【0099】
次いで、ステップS461でXの値が「1」インクリメントされステップS447へ戻り以降の処理が繰り返される。ステップS447において、Xの値がXsizeを超えたことが確認され、第1変換画像の縦方向の最上位の行における横方向の画素全てにステップS449〜S459の処理が実行されたことが確認されたら(S447:NO)、ステップS463へ進む。ステップS463ではYの値が「1」インクリメントされ、ステップS443へ戻り、以降の処理が繰り返される。すなわち、第1変換画像の縦方向の最上位の行から下方向へ向けて順にシフトさせながら、各行において横方向の画素全てに、ステップS449〜S459までの処理が行われる。以上の処理が、第1変換画像の全ての行に対して行われたら、すなわち、変換画像の全ての画素に対して画素データのコピー処理が行われたら(S443:NO)、本ルーチンは終了する。
【0100】
図17は、カメラ1変換ルーチンにより全要素に画素データが格納されたDstimg1に基づいて、例えばモニタ等に表示した場合の画像イメージを示す図である。図17中、網掛けで塗りつぶされている領域は、第1元画像座標において対応する画素が存在しない画素である。尚、実際には、変換後の画像は表示装置50に表示されない。
【0101】
カメラ1画像変換−チンが終了したら図9のステップS440へ戻り、次いでステップS470へ進む。ステップS470において、カメラ2画像変換ルーチンが実行される。カメラ2画像変換ルーチンでは、カメラ位置M2で撮影された画像をカメラ位置M1の姿勢で見たように座標変換する処理が実行される。本ルーチンも、基本的にはカメラ1画像変換ルーチンと同様、カメラ位置M2で撮影された画像に関して、第2変換画像座標で特定される画素の、第2元画像座標の対応する画素を特定し、その画素データをコピーする処理を実行する。
【0102】
図18は、カメラ2画像変換ルーチンの処理手順を示すフローチャートである。ステップS471〜S479までの処理は、図16のカメラ1変換ルーチンのステップS441〜S449までの処理と同様であるので説明は省略する。
【0103】
ステップS481の処理は、図16のステップS451と同様の処理が実行され、式(25)により第1写真座標Ppic1が算出される。すなわち、ステップS481の処理が実行された時点で、Ppic1には、第2変換画像座標Pvの現座標値(X,Y,1)の、第1写真座標において相当する座標値が格納されている。次いで、ステップS483において、カメラ位置M1のレンズ中心C1と、Ppic1をワールド座標系に変換する処理が実行される。式(27)は、元カメラ1座標系をワールド座標系へ変換するための式である。
【0104】
【数20】
Figure 0003898945
【0105】
式(27)中、変数Pcは元カメラ1座標系の座標であり、レンズ中心C1およびPpic1の写真座標が代入される。元カメラ1座標系のワールド座標系に対する姿勢を示す回転行列R1の逆行列をPcに積算し、ワールド座標系の原点(O)から元カメラ1座標系の原点(C1)への移動成分であるΔK1を加えることにより元カメラ1座標系がワールド座標系に変換される。尚、変数Pwはワールド座標系の座標である。
【0106】
ステップS485において、ワールド座標系に変換されたレンズ中心C1とPpic1を結ぶ直線と基準面(ワールド座標系のXZ平面)との交点の座標Pcrossを算出する(図15参照)。Pcrossは、第1写真座標であるPpic1が、ワールド座標系で表現される3次元空間において相当する点である。次いで、ステップS487において、Pcrossを式(28)により元カメラ2座標系の座標Pc2に変換する。
【0107】
【数21】
Figure 0003898945
【0108】
式(28)中、変数PwにPcrossが代入される。R2は、上述のように、元カメラ2座標系のワールド座標系に対する姿勢を示す回転行列である。また、ΔK2は、ワールド座標系の原点(O)から元カメラ2座標系の原点(C2)への移動成分である。Pcrossに回転行列R2を積算し、ΔK2を減算することにより、Pcrossの元カメラ2座標系における座標Pc2が算出される。
【0109】
次いでステップS489において、元カメラ2座標系における座標Pc2のZ成分が撮影光学系の焦点距離fとなるよう、X成分、Y成分が正規化され、第2写真座標Ppic2に変換する。
【0110】
次いでステップS491に進み、式(29)により、第2写真座標をカメラ位置M2で撮影した撮影画像の第2元画像座標Ppic2’に変換する。式(29)に示されるように、第2写真座標Ppic2に元画像座標を写真座標に変換する変換行列MDP_Aの逆行列を積算する。
【0111】
【数22】
Figure 0003898945
【0112】
次いでステップS493において、図10のステップS457と同様のディストーション付加座標の算出処理が行われ、撮影光学系の歪み成分を含んだ座標が算出される。
【0113】
ステップS495で、カメラ位置M2で撮影された撮影画像の画素のデータが、平行ステレオ化された画像において対応する画素のデータへコピーされる。Srcimg2およびDstimg2は、上述のSrcimg1およびDstimg1と同様、配列形式の変数である。Srcimg2の各要素には、カメラ位置M2で撮影された撮影画像を構成する各画素の画素データが格納されており、Dstimg2の各要素には、カメラ位置M2の撮影画像を平行ステレオ化した第2変換画像を構成する各画素の画素データが格納される。Ppic2’のX座標値、Y座標値により決定されるSrcimg2の要素の画素データを現時点の変数X、Yで特定されるDstimg2の要素にコピーする処理は、ステップS459と同様である。
【0114】
次いで、ステップS497でXの値が「1」インクリメントされステップS477へ戻り以降の処理が繰り返される。ステップS477において、Xの値がXsizeを超えたことが確認され、第2変換画像の縦方向の最上位の行における横方向の画素全てにステップS479〜S495の処理が実行されたことが確認されたら(S477:NO)、ステップS499へ進む。ステップS499ではYの値が「1」インクリメントされ、ステップS473へ戻り、以降の処理が繰り返される。すなわち、第2変換画像の縦方向の最上位の行から下方向へ向けて順にシフトさせながら、各行において横方向の画素全てに、ステップS479〜S495までの処理が行われる。以上の処理が、第2変換画像の全ての行に対して行われたら、すなわち、変換画像の全ての画素に対して画素データのコピー処理が行われたら(S473:NO)、本ルーチンは終了する。
【0115】
図19は、カメラ2変換ルーチンにより全要素に画素データが格納されたDstimg2に基づいて、例えばモニタ等に表示した場合の画像イメージを示す図である。図19中、黒く塗りつぶされている領域は、元画像座標において対応する画素が存在しない画素である。
【0116】
本ルーチンが終了したら、図9のステップS470へ戻り、変換画像生成ルーチンは終了する。変換画像生成ルーチンが終了したら、図6のステップS400へ戻り、次いでステップS500へ進む。ステップS500では、対応点探索ルーチンが実行される。
【0117】
図20は対応点探索ルーチンの処理手順を示すフローチャートである。本実施形態では、図21に示すように、カメラ位置M1の撮影画像において格子状に点在する複数の測量点が自動的に選出され、カメラ位置M2の撮影画像においてこれらの測量点に対する対応点が探索される。本実施形態では、対応点の検索において従来公知の相関法が用いられる。
【0118】
ステップS501で、複数の測量点が選出され、次いでステップS503へ進み、全測量点について本ルーチンの処理が実行されたかチェックされる。未処理の測量点がある場合(S503:NO)、ステップS510へ進む。
【0119】
ステップS510では、カメラ位置M1で撮影した第1元画像座標の測量点P1(X,Y)の、平行ステレオ化された第1変換画像座標中で対応する点Pin1(X,Y)を算出する処理が実行される。図22は、変換座標Pin1の算出ルーチンの処理手順を示すフローチャートである。ステップS511で、ディストーション補正座標の算出処理が実行され、撮影光学系の歪みが補正される。次いで、ステップS513において上述の式(21)により、測量点の第1元画像座標(Pimg)が第1写真座標(Pa)へ変換され、ステップS515において式(22)により第1写真座標(Pa)が平行ステレオ化された第1変換写真座標(Pr)へ変換される。ステップS517において、平行ステレオ化の写真座標のZ成分が撮影光学系の焦点距離fになるようX成分、Y成分が正規化される。そして、ステップS519において、式(30)により平行ステレオ化された第1変換画像座標(Pin1)に変換される。
【0120】
【数23】
Figure 0003898945
【0121】
上述のように、変換行列MDP_Bは第1変換画像座標を第1変換写真座標へ変換する行列である。したがって、第1変換写真座標Prに変換行列MDP_Bの逆行列を積算することにより平行ステレオ化された第1変換画像座標Pin1が算出される。以上で本ルーチンは終了する。
【0122】
平行ステレオ化された画像座標の算出ルーチンが終了したら図20のステップS510へ戻り、次いでステップS531へ進む。ステップS531では、変数の初期化処理が行われる。変数M2Xは、カメラ位置M2で撮影された撮影画像を平行ステレオ化した変換画像2の第2変換画像座標における対応点のX座標値を格納するための変数であり、初期値として「0」がセットされる。変数MinValueは、後述するパターン間距離Dの最小値を求めるための変数であり、以降のループ処理が繰り返し実行される時点の最小値に更新される。ステップS531では、初期値として変数MinValueに所定の十分大きな数値がセットされる。
【0123】
次いで、ステップS533では、変数M2XがXsize(平行ステレオ化された画像の横方向のサイズ)より小さいかチェックされ、小さければ(S533:YES)ステップS535へ進む。この条件判断については後述する。
【0124】
ステップS535では、パターン間距離Dの算出処理が行われる。パターン間距離Dとは、変換画像1において、現在処理中の測量点(カレント測量点)に対応する点を中心とする所定の領域(演算領域1)を構成する画素の輝度値と、変換画像2において、カレント測量点のY座標値と同じ座標値を有する画素を中心とする所定の領域(演算領域2)を構成する画素の輝度値との差分である。変換画像1の上述の所定領域を構成する画素の輝度値をテンプレートとする公知のテンプレートマッチングに基づき、パターン間距離Dは式(31)により算出される。
【0125】
【数24】
Figure 0003898945
【0126】
式(31)中、PTEMP1およびPTEMP2は1次元配列であり、Nは演算領域1、演算領域2を構成する画素の総数である。PTEMP1の各要素には、変換画像1の演算領域1を構成する各画素の輝度値が格納され、PTEMP2の各要素には変換画像2の演算領域2を構成する各画素の有する輝度値が格納されている。
【0127】
ステップS535でパターン間距離Dが算出されたら、ステップS537へ進み、変数MinValueと比較する。ステップS535で算出したパターン間距離DがMinValueより小さければ(S537:YES)、ステップS539でその値をMinValueにセットし、次いで、ステップS541でM2Xを配列Pin2のX成分を示す添字にコピーする。
【0128】
次いでステップS543へ進み、M2Xを「1」インクリメントしステップS533へ戻り、以降の処理を繰り返す。
【0129】
ステップS537で、算出されたパターン間距離Dが変数MinValueより大きいことが確認されたら(S537:NO)、ステップS539およびS541の処理はスキップし、ステップS543でM2Xのインクリメントが行われる。
【0130】
すなわち、テンプレートマッチングの対象となる演算領域2を横方向に1画素分シフトしながらステップS535〜S541の処理が繰り返し実行される。したがって、ステップS533においてM2Xの値がXsizeを超えたことが確認された時点で(S533:NO)、変換画像2においてカレント測量点のY座標値と同一のY座標値を有する全ての画素の処理が行われており、Pin2.Xにはカレント測量点に対応する変換画像2中の対応点のX座標値がセットされることとなる。すなわち、変換画像1中の変換画像2中の対応点が決定される。
【0131】
以上のように、カメラ位置M1の撮影画像IMG1で指定される測量点に対応するカメラ位置M2の撮影画像IMG2中の対応点の探索が、平行ステレオ化された変換画像1、2の第1および第2変換画像座標を用いて行われる。本実施形態において、第2変換画像座標は、カメラ位置M2の撮影画像IMG2をカメラ位置M1のカメラ姿勢を平行ステレオ化させたカメラ姿勢に変換させて構成されている。したがって、仮にカメラ位置M1とM2のカメラ間距離が離れていても、対応点の探索が迅速かつ正確に行われる。
【0132】
以上の処理を全ての測量点について行われたことがステップS503で確認されたら(S503:YES)、本ルーチンは終了する。その後、本ルーチンにより算出された対応点の第2変換画像座標から上述の式(25)、(26)と同様の式を用いて第2元画像座標に変換する処理を実行することにより、その結果に基づいて、IMG1で格子状に設定された複数の測量点(図21参照)のそれぞれがIMG2において対応する対応点が、表示装置制御装置78を介してモニタ等の表示装置50上のIMG2画像中に図示される。
【0133】
尚、上述の測量点の自動選出をカメラ位置M2の撮影画像において行い、カメラ位置M1の撮影画像においてこれらの測量点に対する対応点を探索し、表示することも可能である。すなわち、測量点が表示装置50上のIMG2で格子状に設定されれば、それらの測量点のそれぞれがIMG1において対応する対応点が、表示装置50上のIMG1画像中に図示されることとなる。
【0134】
以上の処理が終了したら図6のステップS500へ戻り、次いでステップS600へ進む。ステップS600では、測量点の3次元座標算出ルーチンが実行される。
【0135】
図23は、上述の測量点の3次元座標算出ルーチンの処理手順を示すフローチャートである。ステップS601で、全測量点について以降の処理が実行されたか確認される。未処理の測量点がある場合(S601:NO)、ステップS603へ進む。
【0136】
ステップS603では、上述の変換行列MDP_Bにより、変換画像1における測量点の第1変換画像座標(Pin1)が第1変換写真座標(Pr)へ変換される。次いで、ステップS610へ進み、変換画像2の対応点の第2変換画像座標(Pin2)を平行ステレオカメラ2座標系へ変換するルーチンが実行される。
【0137】
図24は、ステップS610で実行される変換ルーチンの処理手順を示すフローチャートである。ステップS611において、上述の式(25)と同様の式を用いてPin2をカメラ位置M1の第1写真座標に変換する。ステップS613において、レンズ中心C1と、ステップS611で変換したPin2を、式(27)によりワールド座標系に変換する。ステップS615において、レンズ中心C1とPin2を結ぶ直線と基準面との交点Pcrossを算出する。次いで、ステップS617において、ステップS615で算出された交点Pcrossを、式(32)により平行ステレオ化された平行ステレオカメラ2座標系に変換する。
【0138】
【数25】
Figure 0003898945
【0139】
式(32)中、PwにはPcrossが代入される。Pcrossに平行ステレオの姿勢を示す回転行列RP(式(9)参照)を積算し、元カメラ2座標系の原点(C2)からワールド座標系の原点(O)への移動成分であるΔK2を減算することにより、Pcrossの平行ステレオカメラ2座標系における座標が算出される。
【0140】
以上で本ルーチンは終了し、図23のステップS610へ戻る。次いで、ステップS621へ進み、ステップS603とステップS610でそれぞれ算出された、Pin1とPin2の平行ステレオ化された座標のZ成分が、それぞれ撮影光学系の焦点距離fとなるよう、各座標が正規化され、Pin1の第1変換写真座標Pr、及びPin2の第2変換写真座標Pin2’が算出される。
【0141】
次いで、ステップS623へ進み、測量点の第1変換写真座標(Pr)のX座標値と第2変換写真座標(Pin2’)のX座標値の差分から視差dを算出する。次いで、ステップS625へ進み、視差dおよびカメラ位置M1とカメラ位置M2のカメラ間距離Tから式(33)より、測量点のX座標、Y座標、Z座標を算出する。
【0142】
【数26】
Figure 0003898945
【0143】
以上の処理を全ての測量点に実行したら(S601:YES)、本ルーチンは終了する。その後、各測量点の3次元データに基づいて、俯瞰図、斜視図等の測量図が作成され、表示装置50に表示される。
【0144】
【発明の効果】
以上のように、本発明によれば、写真測量システムにおいて、ペア画像の測量点の対応付けが自動的に行われ、測量点の3次元座標が演算される。したがって、操作者の負担が軽減されると共に3次元座標データの信頼性が高まる。その結果、3次元座標データに基づく俯瞰図や斜視図の作成の精度がより向上する。
【図面の簡単な説明】
【図1】写真測量の測量現場の一例を示す模式図であり、測量対象であるT字路および白線等を鉛直上方から見た俯瞰図である。
【図2】ターゲットを拡大して示す斜視図である。
【図3】図1の測量現場において第1のカメラ位置で得られた撮影画像を概念的に示す図である。
【図4】図1の測量現場において第2のカメラ位置で得られた撮影画像を概念的に示す図である。
【図5】本発明に係る実施形態が適用される写真測量画像処理装置のシステム構成を示すブロック図である。
【図6】写真測量画像処理装置における写真測量の処理手順の全体的な骨格を示すフローチャートである。
【図7】第1のカメラ位置と、カメラの撮影光学系の結像面であるスクリーンと、ターゲットとの間の関係を相対的に示す概念図である。
【図8】ターゲットにより規定される右手系の3次元直交座標系(ワールド座標系)と第1のカメラ位置により規定される元カメラ1座標系との関係を相対的に示す概念図である。
【図9】変換画像生成ルーチンの処理手順を示すフローチャートである。
【図10】ワールド座標系と、元カメラ1座標系と、第2のカメラ位置により規定される元カメラ2座標系との関係を相対的に示す概念図である。
【図11】元カメラ1座標系の原点から元カメラ2座標系の原点への移動ベクトルを、ワールド座標系のXs軸とZs軸で定義されるXZ平面に射影して示す図である。
【図12】元カメラ1座標系の原点から元カメラ2座標系の原点への移動ベクトルをYs軸回りに回転させたベクトルを、ワールド座標系のXs軸とYs軸で定義されるXY平面に射影して示す図である。
【図13】回転変換される画像領域の相対的な関係を示す概念図である。
【図14】画像サイズ算出ルーチンの処理手順を示すフローチャートである。
【図15】ワールド座標系、元カメラ1座標系、元カメラ2座標系、平行ステレオカメラ1座標系、平行ステレオカメラ2座標系、第1写真座標、第2写真座標、第1変換写真座標、第2変換写真座標の相対的な関係を示す概念図である。
【図16】第1のカメラ位置で撮影された画像を平行ステレオ化するための画像変換ルーチンの処理手順を示すフローチャートである。
【図17】第1のカメラ位置の撮影画像を平行ステレオ化した画像イメージを概念的に示す図である。
【図18】第2のカメラ位置で撮影された画像を平行ステレオ化するための画像変換ルーチンの処理手順を示すフローチャートである。
【図19】第2のカメラ位置の撮影画像を平行ステレオ化した画像イメージを概念的に示す図である。
【図20】第1のカメラ位置の撮影画像で特定される測量点が、第2のカメラ位置の撮影画像において対応する対応点を探索するためのルーチンの処理手順を示すフローチャートである。
【図21】第1のカメラ位置の撮影画像において自動的に設定される測量点の位置を示す概念図である。
【図22】第1のカメラ位置の撮影画像の測量点が、平行ステレオ化された変換画像において対応する点を算出するルーチンの処理手順を示すフローチャートである。
【図23】測量点の3次元座標を算出するルーチンの処理手順を示すフローチャートである。
【図24】第2のカメラ位置の撮影画像を平行ステレオ化させた画像中の点を、第2のカメラ位置を平行ステレオ化させた3次元座標系へ変換するルーチンの処理手順を示すフローチャートである。
【符号の説明】
10 カメラ
20 ターゲット
23、24、25 基準点部材
33、34、35 補助点部材
IMG1 第1のカメラ位置の撮影画像
IMG2 第2のカメラ位置の撮影画像

Claims (9)

  1. 測量現場を第1のカメラ姿勢で撮影した第1の元画像と、前記第1のカメラ姿勢とは異なる第2のカメラ姿勢で撮影した第2の元画像から、前記測量現場の測量点の3次元データを算出し、測量図を生成する写真測量システムにおいて、
    前記測量点が存在する面に近似する基準面を所定の3次元座標系である基準座標系において設定する手段と、
    前記第1および第2のカメラ姿勢が平行ステレオ姿勢となるための前記基準座標系に対する回転量を演算する平行ステレオ姿勢演算手段と、
    前記第1の元画像を前記平行ステレオ姿勢で表現した第1の変換画像に変換する第1の画像変換手段と、
    前記第2の元画像を、前記基準面に基づいて、前記第1のカメラ姿勢を前記平行ステレオ姿勢に変換した姿勢で表現した第2の変換画像に変換する第2の画像変換手段とを備えることを特徴とする写真測量システム。
  2. 前記第1および第2の変換画像のうちの一方の変換画像において、この一方の変換画像に対応する前記元画像中で特定される測量点に相当する変換画像点を演算する変換画像点演算手段と、
    前記第1および第2の変換画像のうちの他方の変換画像において前記変換画像点に対応する対応点を探索する対応点探索手段と、
    前記他方の変換画像に対応する前記元画像において前記対応点に相当する元画像点を演算する元画像点演算手段とを備えることを特徴とする請求項1に記載の写真測量システム。
  3. 前記一方の変換画像の前記変換画像点と前記他方の変換画像の前記対応点に基づいて、前記測量点の3次元データを演算する測量点演算手段を備えることを特徴とする請求項2に記載の写真測量システム。
  4. 前記第1の画像変換手段は、
    前記第1の元画像を構成する画素の並びを2次元的に表現する第1元画像座標の各座標と、前記第1の変換画像を構成する画素の並びを2次元的に表現する第1変換画像座標の各座標とを対応付ける第1対応座標値演算手段と、
    前記第1元画像座標の各座標で特定される画素データを前記第1変換画像座標の対応する座標で特定される画素データにコピーする第1画素データコピー手段とを有し、
    前記第2の画像変換手段は、
    前記第2の元画像を構成する画素の並びを2次元的に表現する第2元画像座標の各座標と、前記第2の変換画像を構成する画素の並びを2次元的に表現する第2変換画像座標の各座標とを対応付ける第2対応座標値演算手段と、
    前記第2元画像座標の各座標で特定される画素データを前記第2変換画像座標の対応する座標で特定される画素データにコピーする第2画素データコピー手段とを有することを特徴とする請求項1に記載の写真測量システム。
  5. 前記第1対応座標値演算手段は、
    前記第1変換画像座標の座標値を、前記第1のカメラ姿勢を3次元的に表現する第1カメラ座標系を回転成分のみ前記平行ステレオ姿勢に変換した第1平行ステレオカメラ座標系上に定義される第1変換写真座標の座標値に変換する第1変換画像座標変換手段と、
    前記第1変換画像座標変換手段により変換された座標値を前記第1カメラ座標系上に定義される第1写真座標の座標値に変換する第1写真座標変換手段と、
    前記第1写真座標変換手段により変換された座標値を前記第1元画像座標の座標値に変換する第1元画像座標変換手段とを有し、
    前記第2対応座標値演算手段は、
    前記第2変換画像座標の座標値を、前記第1変換画像座標変換手段により前記第1変換写真座標の座標値に変換し、
    さらに、前記第2対応座標値演算手段において変換された前記第1変換写真座標の座標値に対応する点の、前記基準面において相当する点の前記基準座標系の座標値を演算する基準座標値算出手段と、
    前記基準座標値算出手段により演算された座標値を前記第2カメラ座標系上に定義される第2写真座標の座標値に変換する第2写真座標変換手段と、
    前記第2写真座標変換手段により変換された座標値を前記第2元画像座標の座標値に変換する第2元画像座標変換手段とを有することを特徴とする請求項4に記載の写真測量システム。
  6. 前記第1元画像座標により表現される2次元領域を規定する4隅点の座標値を、前記第1写真座標に変換し、次いで前記第1変換写真座標に変換し、これら4隅点の変換後の座標値と前記第1元画像座標の座標値に基づいて、前記第1変換画像座標により表現される2次元領域と前記第1元画像座標により表現される2次元領域との間のシフト量を算出する画像シフト算出手段と、
    前記シフト量に基づいて、前記第1変換画像座標により表現される2次元領域のサイズを算出する画像サイズ算出手段とを有することを特徴とする請求項5に記載の写真測量システム。
  7. 前記第1の元画像と前記第2の元画像には、それぞれ寸法および形状が既知のターゲットが写し込まれており、前記基準面および前記基準座標系が前記ターゲットにより定義されることを特徴とする請求項1に記載の写真測量システム。
  8. 測量現場を第1のカメラ姿勢で撮影した第1の元画像と、前記第1のカメラ姿勢とは異なる第2のカメラ姿勢で撮影した第2の元画像から、前記測量現場の測量点の3次元データを算出し、測量図を生成する写真測量方法であって、
    前記測量点が存在する面に近似する基準面を所定の3次元座標系である基準座標系において設定する第1ステップと、
    前記第1および第2のカメラ姿勢が平行ステレオ姿勢となるための前記基準座標系に対する回転量を演算する第2ステップと、
    前記第1の元画像を前記平行ステレオ姿勢で表現した第1の変換画像に変換する第3ステップと、
    前記第2の元画像を、前記基準面に基づいて、前記第1のカメラ姿勢を前記平行ステレオ姿勢に変換した姿勢で表現した第2の変換画像に変換する第4ステップとを備えることを特徴とする写真測量方法。
  9. 測量現場を第1のカメラ姿勢で撮影した第1の元画像と、前記第1のカメラ姿勢とは異なる第2のカメラ姿勢で撮影した第2の元画像から、前記測量現場の測量点の3次元座標を算出し、測量図を生成する写真測量プログラムであり、
    前記測量点が存在する面に近似する基準面を所定の3次元座標系である基準座標系において設定する基準面設定ルーチンと、
    前記第1および第2のカメラ姿勢が平行ステレオ姿勢となるための前記基準座標系に対する回転量を演算する平行ステレオ姿勢演算ルーチンと、
    前記第1の元画像を前記平行ステレオ姿勢で表現した第1の変換画像に変換する第1の画像変換ルーチンと、
    前記第2の元画像を、前記基準面に基づいて、前記第1のカメラ姿勢を前記平行ステレオ姿勢に変換した姿勢で表現した第2の変換画像に変換する第2の画像変換ルーチン手段とを備える写真測量プログラムが格納されていることを特徴とする記録媒体。
JP2001389456A 2001-12-21 2001-12-21 写真測量システムと写真測量方法と写真測量プログラムが格納された記録媒体 Expired - Fee Related JP3898945B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001389456A JP3898945B2 (ja) 2001-12-21 2001-12-21 写真測量システムと写真測量方法と写真測量プログラムが格納された記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001389456A JP3898945B2 (ja) 2001-12-21 2001-12-21 写真測量システムと写真測量方法と写真測量プログラムが格納された記録媒体

Publications (2)

Publication Number Publication Date
JP2003185434A JP2003185434A (ja) 2003-07-03
JP3898945B2 true JP3898945B2 (ja) 2007-03-28

Family

ID=27597670

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001389456A Expired - Fee Related JP3898945B2 (ja) 2001-12-21 2001-12-21 写真測量システムと写真測量方法と写真測量プログラムが格納された記録媒体

Country Status (1)

Country Link
JP (1) JP3898945B2 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102735192A (zh) * 2011-03-04 2012-10-17 通用电气公司 用于显示被观察物体的表面的三维视图的方法及装置
US9600928B2 (en) 2013-12-17 2017-03-21 General Electric Company Method and device for automatically identifying a point of interest on the surface of an anomaly
US9818039B2 (en) 2013-12-17 2017-11-14 General Electric Company Method and device for automatically identifying a point of interest in a depth measurement on a viewed object
US9842430B2 (en) 2013-12-17 2017-12-12 General Electric Company Method and device for automatically identifying a point of interest on a viewed object
US9875574B2 (en) 2013-12-17 2018-01-23 General Electric Company Method and device for automatically identifying the deepest point on the surface of an anomaly
US9984474B2 (en) 2011-03-04 2018-05-29 General Electric Company Method and device for measuring features on or near an object
US10019812B2 (en) 2011-03-04 2018-07-10 General Electric Company Graphic overlay for measuring dimensions of features using a video inspection device
US10157495B2 (en) 2011-03-04 2018-12-18 General Electric Company Method and device for displaying a two-dimensional image of a viewed object simultaneously with an image depicting the three-dimensional geometry of the viewed object
US10586341B2 (en) 2011-03-04 2020-03-10 General Electric Company Method and device for measuring features on or near an object

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005308553A (ja) * 2004-04-21 2005-11-04 Topcon Corp 三次元画像計測装置及び方法
CN103743388B (zh) * 2014-01-13 2016-05-18 吉林大学 一种交通事故现场摄影勘测原理的实验装置、方法及系统
WO2015159835A1 (ja) * 2014-04-17 2015-10-22 シャープ株式会社 画像処理装置、画像処理方法、プログラム
JP6755924B2 (ja) * 2018-11-22 2020-09-16 株式会社横河技術情報 比高算出装置、及び舗装管理方法
CN112964892A (zh) * 2020-08-28 2021-06-15 西华大学 交通事故中车辆坠崖时冲出崖坡速度计算方法
CN112102390A (zh) * 2020-08-31 2020-12-18 北京市商汤科技开发有限公司 测量方法及装置、电子设备及存储介质

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102735192A (zh) * 2011-03-04 2012-10-17 通用电气公司 用于显示被观察物体的表面的三维视图的方法及装置
US9984474B2 (en) 2011-03-04 2018-05-29 General Electric Company Method and device for measuring features on or near an object
US10019812B2 (en) 2011-03-04 2018-07-10 General Electric Company Graphic overlay for measuring dimensions of features using a video inspection device
US10157495B2 (en) 2011-03-04 2018-12-18 General Electric Company Method and device for displaying a two-dimensional image of a viewed object simultaneously with an image depicting the three-dimensional geometry of the viewed object
US10586341B2 (en) 2011-03-04 2020-03-10 General Electric Company Method and device for measuring features on or near an object
US10679374B2 (en) 2011-03-04 2020-06-09 General Electric Company Graphic overlay for measuring dimensions of features using a video inspection device
US10846922B2 (en) 2011-03-04 2020-11-24 General Electric Company Method and device for displaying a two-dimensional image of a viewed object simultaneously with an image depicting the three-dimensional geometry of the viewed object
US9600928B2 (en) 2013-12-17 2017-03-21 General Electric Company Method and device for automatically identifying a point of interest on the surface of an anomaly
US9818039B2 (en) 2013-12-17 2017-11-14 General Electric Company Method and device for automatically identifying a point of interest in a depth measurement on a viewed object
US9842430B2 (en) 2013-12-17 2017-12-12 General Electric Company Method and device for automatically identifying a point of interest on a viewed object
US9875574B2 (en) 2013-12-17 2018-01-23 General Electric Company Method and device for automatically identifying the deepest point on the surface of an anomaly
US10217016B2 (en) 2013-12-17 2019-02-26 General Electric Company Method and device for automatically identifying a point of interest in a depth measurement on a viewed object

Also Published As

Publication number Publication date
JP2003185434A (ja) 2003-07-03

Similar Documents

Publication Publication Date Title
JP3898945B2 (ja) 写真測量システムと写真測量方法と写真測量プログラムが格納された記録媒体
JP3426459B2 (ja) 写真測量システムおよび写真測量方法
US6757445B1 (en) Method and apparatus for producing digital orthophotos using sparse stereo configurations and external models
US5259037A (en) Automated video imagery database generation using photogrammetry
JP3777067B2 (ja) 写真測量画像処理装置、写真測量画像処理方法、および写真測量画像処理プログラムを格納した記憶媒体
KR20130138247A (ko) 신속 3d 모델링
US3943344A (en) Apparatus for measuring the elevation of a three-dimensional foreground subject
US6618497B1 (en) Photogrammetric image processing apparatus and method
CN111563936A (zh) 一种相机外部参数自动标定方法及行车记录仪
JP2004212142A (ja) 画像寸法の測定方法
JP2001074452A (ja) 写真測量用画像処理装置、写真測量用画像処理方法および写真測量用画像処理プログラムを格納した記憶媒体
JP2004258775A (ja) 光線空間データ処理方法、空間データ処理装置
CN113256811B (zh) 建筑物建模方法、设备和计算机可读存储介质
JPH11101640A (ja) カメラおよびカメラのキャリブレーション方法
JP3411940B2 (ja) デジタルモザイク写真地図を2次元的に作成する方法
JP3777066B2 (ja) 写真測量画像処理装置、写真測量画像処理方法、および写真測量画像処理プログラムを格納した記憶媒体
JP3851483B2 (ja) 像点対応付け装置、像点対応付け方法、および像点対応付けプログラムを格納した記録媒体
JP2001041745A (ja) 写真測量方法および写真測量画像処理装置
JP2002135807A (ja) 3次元入力のためのキャリブレーション方法および装置
CN113593023B (zh) 三维制图方法、装置、设备及存储介质
JPH11101641A (ja) カメラおよびカメラのキャリブレーション方法
JP2004340753A (ja) キャリブレーションチャート画像表示装置
Monti et al. Geometric operations in digital images
SU1064151A1 (ru) Способ определени пространственных координат точек местности
JPH0835828A (ja) 3次元計測装置のキャリブレーション方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041102

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20060525

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060530

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060728

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060821

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20061205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20061222

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100105

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110105

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120105

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120105

Year of fee payment: 5

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120105

Year of fee payment: 5

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120105

Year of fee payment: 5

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130105

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140105

Year of fee payment: 7

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees