JP2003035536A - Compensation method in image processing displacement measurement - Google Patents

Compensation method in image processing displacement measurement

Info

Publication number
JP2003035536A
JP2003035536A JP2001223270A JP2001223270A JP2003035536A JP 2003035536 A JP2003035536 A JP 2003035536A JP 2001223270 A JP2001223270 A JP 2001223270A JP 2001223270 A JP2001223270 A JP 2001223270A JP 2003035536 A JP2003035536 A JP 2003035536A
Authority
JP
Japan
Prior art keywords
image processing
measurement
displacement
image data
correction method
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2001223270A
Other languages
Japanese (ja)
Other versions
JP3820459B2 (en
Inventor
Koji Hata
浩二 畑
Shuji Hashimoto
周司 橋本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Waseda University
Obayashi Corp
Original Assignee
Waseda University
Obayashi Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Waseda University, Obayashi Corp filed Critical Waseda University
Priority to JP2001223270A priority Critical patent/JP3820459B2/en
Publication of JP2003035536A publication Critical patent/JP2003035536A/en
Application granted granted Critical
Publication of JP3820459B2 publication Critical patent/JP3820459B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

PROBLEM TO BE SOLVED: To enable a highly precise displacement measurement to be acquired. SOLUTION: A compensation method is applied, when collimating an excavating cross section 18 with time at the same measuring point X through a digital camera 12 to acquire the picked-up image data and determining an interior space displacement with time of the excavating cross section 18 by operation based on a plurality of the acquired picked-up image data. Based on rotation angle θ in a horizontal in-plane, elevation angle ϕ in a perpendicular in-plane, and optical-axis rotation angle γ when installing the digital camera 12 at the measuring point X, the picked-up image data is compensated and a displacement is calculated by using the picked-up image data after compensation. Three standard points 201 , 202 , 203 are imaged into the picked-up image data, of which the absolute position-coordinate values are known, and the compensation of the displacement is determined by solving simultaneous equations from the image processing data of these three standard points.

Description

【発明の詳細な説明】Detailed Description of the Invention

【0001】[0001]

【発明の属する技術分野】この発明は、画像処理変位計
測における補正方法に関し、特に、デジタルカメラを用
いて経時的な画像処理データを取得し、このデータに基
づいて変位を計測する際に、計測精度を向上させる技術
に関するものである。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a correction method in image processing displacement measurement, and particularly to a method for measuring displacement when image processing data is acquired over time using a digital camera and the displacement is measured based on this data. The present invention relates to a technique for improving accuracy.

【0002】[0002]

【従来の技術】CCDなどのデジタルカメラを用いる画
像処理による計測は、工業製品の検査,加工管理などに
用いられていて、主として、それほど高度の計測精度を
要求されない分野に利用されている。
2. Description of the Related Art Measurement by image processing using a digital camera such as a CCD is used for inspection of industrial products, processing control, etc., and is mainly used in fields where a high degree of measurement accuracy is not required.

【0003】ところで、近時、このような画像処理によ
る計測が、トンネル掘削面の内空変位の計測に応用する
ことが試みられていて、その一例が、例えば、特開平2
000―329554号公報に開示されている。
By the way, recently, it has been attempted to apply the measurement by such image processing to the measurement of the inner sky displacement of the tunnel excavation surface, and one example thereof is, for example, Japanese Patent Laid-Open No. Hei 2
No. 000-329554.

【0004】この工法に開示されている画像処理を利用
したトンネル内空の変位測定方法は、撮像可能な標点を
測定対象掘削断面に沿って複数設置し、これらの標点を
経時的に撮影して、複数の画像処理データを得て、この
画像処理データから同一標点間の移動量を演算して、こ
れを内空の経時的な変位として把握する。
In the method for measuring the displacement in the tunnel using the image processing disclosed in this construction method, a plurality of image points that can be imaged are set along the excavation cross section to be measured, and these point images are taken over time. Then, a plurality of pieces of image processing data are obtained, a movement amount between the same reference points is calculated from the image processing data, and this is grasped as a temporal displacement of the inner sky.

【0005】しかしながら、このような画像処理を利用
した変位計測には、以下に説明する技術的な課題があっ
た。
However, the displacement measurement utilizing such image processing has the following technical problems.

【0006】[0006]

【発明が解決しようとする課題】すなわち、前述したよ
うなトンネル内空の変位測定では、切羽の進行に合わせ
て、同一場所から標点を複数回に亘って、デジタルカメ
ラで撮影する必要があるが、トンネルの掘削現場では、
撮影場所に常時カメラを設置しておくと、重機などの通
行や、他の作業の障害になるので、通常、撮影する度ご
とに、同じ場所にカメラを設置して、概略同じ方向を視
準するようにして行うことになる。
That is, in the displacement measurement of the inside of the tunnel as described above, it is necessary to photograph the reference points from the same place a plurality of times with the digital camera in accordance with the progress of the cutting face. But at the tunnel excavation site,
If you always install a camera in the shooting location, it will obstruct traffic such as heavy equipment and other work, so normally, every time you shoot, install the camera in the same location and aim in the same direction. It will be done in the same way.

【0007】この場合、カメラの設置場所は、測量機器
などによりかなり正確に再現できるが、カメラの視準方
向は、全く同じ状態を再現することが非常に用に難し
く、殆ど不可能である。
In this case, the installation location of the camera can be reproduced fairly accurately by a surveying instrument or the like, but it is very difficult to reproduce the same state in the collimation direction of the camera, which is almost impossible.

【0008】ところが、カメラの視準方向が、撮影の度
に微妙に異なっていると、撮像された標点の位置が微妙
に変化し、微小変位を測定する際には、計測誤差の要因
となり、その結果、測定精度が低くなるという問題があ
った。
However, if the collimation direction of the camera is slightly different each time the image is taken, the position of the imaged gage mark changes slightly, which causes a measurement error when measuring a minute displacement. As a result, there has been a problem that the measurement accuracy becomes low.

【0009】本発明は、このような従来の問題点に鑑み
てなされたものであって、その目的とするところは、カ
メラの視準方向の相違に基づく誤差要因を補正すること
で、高精度の測定が可能になる画像処理変位測定におけ
る補正方法を提供することにある。
The present invention has been made in view of the above conventional problems, and an object thereof is to correct an error factor based on a difference in the collimation direction of a camera to achieve high accuracy. An object of the present invention is to provide a correction method in image processing displacement measurement that enables the measurement of

【0010】[0010]

【課題を解決するための手段】上記目的を達成するため
に、本発明は、被計測対象物を同一測定点からデジタル
カメラで経時的に視準して撮像画像データを取得し、取
得した複数の前記撮像画面データに基づいて、前記被測
定対象物の経時的な変位を計測する画像処理変位計測に
おいて、前記デジタルカメラを前記測定点に設置する際
の、水平面内の回転角,垂直面内の仰角,光軸回転角に
基づいて、前記撮像画像データを補正し、補正後の前記
撮像画像データにより前記変位を演算するようにした。
In order to achieve the above object, the present invention is directed to collimate an object to be measured from the same measurement point with a digital camera over time to acquire imaged image data, and to acquire a plurality of acquired image data. In the image processing displacement measurement for measuring the displacement of the measured object over time based on the imaging screen data, the rotation angle in the horizontal plane and the vertical plane when the digital camera is installed at the measurement point. The captured image data is corrected based on the elevation angle and the rotation angle of the optical axis, and the displacement is calculated based on the corrected captured image data.

【0011】このように構成した画像処理変位計測おけ
る補正方法によれば、デジタルカメラを測定点に設置す
る際の、水平面内の回転角,垂直面内の仰角,光軸回転
角に基づいて、撮像画像データを補正し、補正後の撮像
画像データにより変位を演算するので、変位計測が高精
度に行える。
According to the correction method in the image processing displacement measurement configured as described above, when the digital camera is installed at the measurement point, based on the rotation angle in the horizontal plane, the elevation angle in the vertical plane, and the optical axis rotation angle, Since the captured image data is corrected and the displacement is calculated from the corrected captured image data, the displacement measurement can be performed with high accuracy.

【0012】前記水平面内の回転角,垂直面内の仰角,
光軸回転角に基づく前記変位の補正は、前記撮像画像デ
ータ内に、絶対位置座標値が既知の3標準点を撮像し、
この3標準点の画像処理データから連立方程式を解くこ
とにより求めることができる。
The rotation angle in the horizontal plane, the elevation angle in the vertical plane,
The correction of the displacement based on the optical axis rotation angle is performed by capturing three standard points whose absolute position coordinate values are known in the captured image data,
It can be obtained by solving simultaneous equations from the image processing data of these three standard points.

【0013】前記被測定対象物は、掘削されたトンネル
内空断面であって、この内空断面に沿って、撮像可能な
複数の計測ターゲットを設置してトンネル内空変位の計
測に適用することができる。
The object to be measured is an excavated tunnel inner air section, and a plurality of imaging targets that can be imaged are installed along the inner air section and applied to the tunnel inner air displacement measurement. You can

【0014】前記3標準点は、トンネル坑口側から切羽
に向けて、常時照射している測量補助用のレーザ光とす
ることができる。
The three standard points may be laser beams for surveying assistance that are constantly radiated from the tunnel pit side toward the face.

【0015】前記計測ターゲットは、前記内空断面に下
端側が埋設されるターゲット本体と、前記ターゲット本
体の視認可能な表面に設置され、所定の光を受光するこ
とで作動する受光センサと、前記受光センサの作動によ
り、所定時間発光する発光素子とで構成することができ
る。
The measurement target includes a target main body whose lower end side is embedded in the inner cross section, a light receiving sensor which is installed on a visible surface of the target main body, and operates by receiving a predetermined light, and the light receiving unit. It can be configured with a light emitting element that emits light for a predetermined time by the operation of the sensor.

【0016】[0016]

【発明の実施の形態】以下、本発明の好適な実施の形態
について、添付図面に基づいて詳細に説明する。図1か
ら図6は、本発明にかかる画像処理変位計測における補
正方法の一実施例を示している。
BEST MODE FOR CARRYING OUT THE INVENTION Preferred embodiments of the present invention will be described in detail below with reference to the accompanying drawings. 1 to 6 show an embodiment of a correction method in image processing displacement measurement according to the present invention.

【0017】同図に示した補正方法は、本発明方法を、
トンネル10の掘削断面の内空変位の計測に画像処理計
測に適用した場合を示している。トンネル10の内空変
位計測を画像処理で行う場合には、デジタルカメラ12
と、このデジタルカメラ12で撮影した複数の撮像画面
A,B……を入力して、モニター14に表示したり、あ
るいは、表示する前に複数の撮像画面A,B……を重ね
合わせるなどの画像処理を施すパソコン16とが用いら
れる。
The correction method shown in FIG.
The case where the image processing measurement is applied to the measurement of the in-air displacement of the excavated cross section of the tunnel 10 is shown. When measuring the inner air displacement of the tunnel 10 by image processing, the digital camera 12
, A plurality of image pickup screens A, B ... Taken by this digital camera 12 are input and displayed on the monitor 14, or a plurality of image pickup screens A, B .. A personal computer 16 that performs image processing is used.

【0018】なお、この実施例では、パソコン16をト
ンネルの工事現場に設置しているが、パソコン16は、
事務所の中に設置しておき、情報の授受を無線ないしは
有線で行ってもよいし、カメラ12の撮像データを記録
媒体に書き込んで、パソコン16自体を別の場所に運搬
しても良い。。
In this embodiment, the personal computer 16 is installed at the tunnel construction site.
It may be installed in an office to exchange information wirelessly or by wire, or the image data of the camera 12 may be written in a recording medium and the personal computer 16 itself may be transported to another place. .

【0019】内空変位を計測する際には、掘削された直
後の切羽面17の直前に、測定対象掘削断面18が設定
され、この掘削断面18に複数の計測ターゲット20が
設置される。
When measuring the inner-air displacement, an excavation section 18 to be measured is set immediately before the face 17 immediately after excavation, and a plurality of measurement targets 20 are installed on the excavated section 18.

【0020】この計測ターゲット20は、デジタルカメ
ラ12により撮像が可能なものであって、その一例を図
5,6に示している。これらの図に示した測定ターゲッ
ト20は、ターゲット本体20aと、受光センサ20b
と、発光素子20cとを有している。ターゲット本体2
0aは、中空円筒状の筒体200aと密栓201aとを
備えている。
The measurement target 20 can be imaged by the digital camera 12, and an example thereof is shown in FIGS. The measurement target 20 shown in these figures includes a target body 20a and a light receiving sensor 20b.
And a light emitting element 20c. Target body 2
0a includes a hollow cylindrical tubular body 200a and a hermetic stopper 201a.

【0021】筒体200a内には、後述する制御回路部
品や電池電源などが収納され、密栓201aにより閉塞
されている。ターゲット本体20aは、筒体200aの
閉塞された側の端部が、掘削断面18に埋設される。
A control circuit component, a battery power source, and the like, which will be described later, are housed in the cylindrical body 200a and are closed by a hermetic plug 201a. The end of the target body 20a on the closed side of the tubular body 200a is embedded in the excavated cross section 18.

【0022】受光センサ20bは、例えば、所定の光、
例えば、赤外光を受光することで作動するCdSセルや
ホトトランジスタなど構成され、筒体200aの視認可
能な表面に配設されている。
The light receiving sensor 20b is, for example, a predetermined light,
For example, a CdS cell, a phototransistor, or the like that operates by receiving infrared light is formed, and is arranged on the visible surface of the cylindrical body 200a.

【0023】発光素子20cは、例えば、赤外光を発光
する発光ダイオードから構成され、筒体200aの端部
表面側にあって、受光センサ20bの側方に配置されて
いる。本実施例の場合、発光素子20cは、受光センサ
14の作動により、発光が開始されて、その後、所定時
間だけ発光するように構成されている。
The light emitting element 20c is composed of, for example, a light emitting diode that emits infrared light, and is arranged on the end surface side of the cylindrical body 200a and on the side of the light receiving sensor 20b. In the case of the present embodiment, the light emitting element 20c is configured to start light emission by the operation of the light receiving sensor 14 and then emit light for a predetermined time.

【0024】図6は、このような発光をさせるための駆
動制御回路20dの一例を示している。なお、この図に
示した駆動制御回路20dは、ターゲット本体20aの
筒体200a内に収納設置される。
FIG. 6 shows an example of a drive control circuit 20d for causing such light emission. The drive control circuit 20d shown in this figure is housed and installed in the cylindrical body 200a of the target body 20a.

【0025】同図に示した駆動制御回路20dは、受光
センサ20bと発光素子20cとが直列接続され、発光
素子20cの他端側には、タイマー回路20eと電源電
池20fとが直列接続されている。
In the drive control circuit 20d shown in the figure, a light receiving sensor 20b and a light emitting element 20c are connected in series, and a timer circuit 20e and a power supply battery 20f are connected in series to the other end of the light emitting element 20c. There is.

【0026】この場合のタイマー回路20eのON時間
は、計測に必要な時間、例えば、5〜10分程度に設定
される。また、受光センサ20bは、その作動により電
気的な接続状態を保つ自己保持回路20gが並列接続さ
れるとともに、電源電池20fの負極側に接続されてい
る。
The ON time of the timer circuit 20e in this case is set to a time required for measurement, for example, about 5 to 10 minutes. Further, the light receiving sensor 20b is connected in parallel with a self-holding circuit 20g that maintains an electrically connected state by its operation, and is connected to the negative electrode side of the power supply battery 20f.

【0027】デジタルカメラ12で計測ターゲット20
を撮像する際には、例えば、懐中電灯やストロボによ
り、受光センサ20bに光を照射する。
Measurement target 20 with digital camera 12
When the image is captured, the light receiving sensor 20b is irradiated with light by, for example, a flashlight or a strobe.

【0028】受光センサ20bに光が照射されると、受
光センサ20bが作動状態になり、図6に示すように、
自己保持回路20gを有しているので、光の照射がなく
なっても受光センサ20bの作動状態は、そのまま維持
される。
When the light receiving sensor 20b is irradiated with light, the light receiving sensor 20b is in an operating state, and as shown in FIG.
Since it has the self-holding circuit 20g, the operating state of the light receiving sensor 20b is maintained as it is even if the light irradiation is stopped.

【0029】また、受光センサ20bが作動状態になる
と、タイマー回路20eを介して、電源電池20fの電
力が発光素子20cに加えられ、これにより、発光素子
20cが自己発光する。
When the light receiving sensor 20b is activated, the power of the power supply battery 20f is applied to the light emitting element 20c via the timer circuit 20e, whereby the light emitting element 20c self-luminesces.

【0030】このような発光素子20cの発光状態は、
タイマー回路20eが作動状態にある間は継続され、設
定された時間が経過してタイマー回路20eが非作動状
態になると、発光素子20cの自己発光は消滅する。
The light emitting state of the light emitting element 20c is as follows.
It continues while the timer circuit 20e is in the operating state, and when the set time has elapsed and the timer circuit 20e is in the non-operating state, the self-emission of the light emitting element 20c disappears.

【0031】従って、発光素子20cが発光している間
にデジタルカメラ12をその方向に視準させて撮像する
と、画像処理に必要な情報が得られる。計測ターゲット
20の設置状態は、掘削壁面18から同じ距離だけ離れ
た位置になるようにする。
Therefore, when the digital camera 12 is collimated in that direction while the light emitting element 20c is emitting light, the information necessary for image processing is obtained. The installation state of the measurement target 20 is set to a position separated from the excavation wall surface 18 by the same distance.

【0032】なお、計測ターゲット20は、上記構成に
限る必要はなく、例えば、光を照射した際に反射発光す
る反射板や、自発光する発光ダイオード,ペンライトな
どであってもよい。
The measurement target 20 is not limited to the above configuration, and may be, for example, a reflection plate that reflects and emits light when irradiated with light, a light emitting diode that emits light by itself, a penlight, or the like.

【0033】一方、本実施例の場合には、このような計
測ターゲット20の設置とともに、後述する変位の補正
に用いられる3個の標準点22,22,22が設
置される。
On the other hand, in the case of the present embodiment, three standard points 22 1 , 22 2 and 22 3 used for correction of displacement, which will be described later, are installed along with the installation of such a measurement target 20.

【0034】この標準点22,22,22は、後
述するように、場所によって変わることのない絶対位置
座標値が既知であって、本実施例の場合には、トンネル
10の掘削断面の両側と、中心上部の3箇所に設定され
ており、トンネル10の坑口側から切羽面17に向けて
常時照射されているレーザ光Lが用いられている。
As will be described later, these standard points 22 1 , 22 2 , and 22 3 have known absolute position coordinate values that do not change depending on the location. In the case of this embodiment, the excavated cross section of the tunnel 10 is used. The laser light L is set at three positions on both sides of and in the center upper part, and the laser light L is always radiated from the wellhead side of the tunnel 10 toward the facet 17.

【0035】3本のレーザ光Lは、例えば、赤色発光の
ものであって、切羽面17の前方の所定位置に、3個の
レーザ光発生器24を固定的に設置し、このレーザ光発
生器24から切羽面17側に向けて常時同じ位置にレー
ザ光Lを投射するようにしている。
The three laser lights L are, for example, those which emit red light, and three laser light generators 24 are fixedly installed at a predetermined position in front of the face face 17 to generate the laser lights. The laser light L is always projected from the device 24 toward the face 17 on the same position.

【0036】このようなレーザ光Lは、例えば、切羽面
17の位置を測量する際の基準などに用いられるもので
あり、掘削断面18の変位測定の際には、測定対象掘削
断面18にスクリーン26を設置して、レーザ光Lをス
クリーン26で遮断することにより、スクリーン26上
でレーザ光Lを発光させることで撮像可能にしている。
Such a laser beam L is used, for example, as a reference when measuring the position of the face face 17, and when measuring the displacement of the excavation section 18, a screen is displayed on the excavation section 18 to be measured. 26 is installed and the laser light L is blocked by the screen 26, so that the laser light L is emitted on the screen 26 to enable imaging.

【0037】以上のような、計測ターゲット20および
3標準点22,22,22の設置が終了すると、
所定の測定点Xにデジタルカメラ12を3脚上に支持し
て、これらが同時に含まれる状態で視準撮影し、掘削直
後の撮像画面Aが撮像される。
When the measurement target 20 and the three standard points 22 1 , 22 2 and 22 3 are installed as described above,
The digital camera 12 is supported on a tripod at a predetermined measurement point X, and collimation photography is performed in a state in which these are simultaneously included, and an image pickup screen A immediately after excavation is picked up.

【0038】そして、デジタルカメラ12により撮影さ
れた撮像画面Aは、パソコン16のメモリなどに記憶さ
れ、必要に応じて取出され、モニター14上に表示する
ことができる。図4(A)には、モニター14上に表示さ
れる撮像画面Aの一例が示されている。
The image pickup screen A photographed by the digital camera 12 is stored in the memory of the personal computer 16 or the like, taken out as needed, and can be displayed on the monitor 14. FIG. 4A shows an example of the image pickup screen A displayed on the monitor 14.

【0039】同図において、×印で示したものが計測タ
ーゲット20の映像であり、×印を四角で囲んだものが
3標準点22,22,22の映像である。また、
同図に示した半円状の曲線は、各計測ターゲット20の
設置位置から測定対象掘削断面18の内周面を演算処理
により求めて表示したものである。
In the figure, what is indicated by X is an image of the measurement target 20, and what is enclosed by a square is an image of 3 standard points 22 1 , 22 2 , and 22 3 . Also,
The semicircular curve shown in the figure is obtained by calculating the inner peripheral surface of the excavation section 18 to be measured from the installation position of each measurement target 20 and displaying it.

【0040】図3は、撮像画面Aを撮影した際の、測定
対象掘削断面18と、切羽面17およびその後の掘削状
態の関係を示したものである。測定対象掘削断面18
は、切羽面17が掘削された直前に設定されている。
FIG. 3 shows the relationship between the digging section 18 to be measured, the face 17 and the subsequent digging state when the image pickup screen A is photographed. Measurement target excavation section 18
Is set immediately before the face 17 is excavated.

【0041】そして、同図に示すように、時間が経過し
て切羽面17の掘削が進行し、撮像画面Aを得た地点か
らB地点に到達すると、デジタルカメラ12により、再
び測定対象掘削断面18の撮影が行われる。
Then, as shown in the same figure, when the excavation of the face 17 progresses with the passage of time and the point B is reached from the point where the image pickup screen A is obtained, the digital camera 12 causes the section to be excavated again to be measured. 18 shots are taken.

【0042】この時の撮影は、前述した場合と同様に、
測定点X上にデジタルカメラ12を設置し、概略同じ方
向を視準するようにして、計測ターゲット20と3標準
点22,22,22とが撮影される。
The photographing at this time is similar to the case described above.
The digital camera 12 is installed on the measurement point X, and the measurement target 20 and the three standard points 22 1 , 22 2 , and 22 3 are photographed so as to collimate in substantially the same direction.

【0043】このような視準撮影によって得られた撮像
画面Bの一例を図4(B)に示している。この撮像画面B
においても、×印で示したものが計測ターゲット20の
映像であり、×印を四角で囲んだもの3標準点22
22,22の映像である。このようにして、掘削直
後の撮像画面Aと、所定時間が経過した後の撮像画面B
が得られると、これらの撮像画面A,Bの重ね合わせが
行われる。撮像画面A,Bを重ね合わせる際には、各撮
像画面A,Bに3標準点22,22,22が撮影
されているので、これを相互に一致させることにより行
う。
FIG. 4B shows an example of the image pickup screen B obtained by such collimation photography. This imaging screen B
Also, in the above, the image indicated by X is the image of the measurement target 20, and the image in which X is enclosed by a square is 3 standard points 22 1 ,
22 2 and 23 3 . In this way, the imaging screen A immediately after excavation and the imaging screen B after a predetermined time has elapsed
Is obtained, the image pickup screens A and B are superposed. When the image pickup screens A and B are superposed, the three standard points 22 1 , 22 2 and 22 3 are photographed on the image pickup screens A and B, so that they are matched with each other.

【0044】画像処理を施してモニター14上において
撮像画面A,Bを重ね合わせた状態を図4(C)に示して
いる。このような重ね合わせ画面が得られると、対応す
る計測ターゲット20間の移動量を求めることにより、
各計測ターゲット20上における掘削断面18の内空変
位が判る。
FIG. 4C shows a state in which the image pickup screens A and B are superposed on the monitor 14 after the image processing. When such an overlay screen is obtained, by obtaining the amount of movement between the corresponding measurement targets 20,
The in-air displacement of the excavated cross section 18 on each measurement target 20 can be known.

【0045】そして、さらに掘削が進行し、撮像画面B
を得た地点からC地点に到達すると、デジタルカメラ1
2により、再び測定対象掘削断面18の撮影が行われ、
得られた撮像画面Cと、撮像画面A,Bのいずれか一方
ないしは双方との重ね合わせ処理が行われ、上記同様に
して掘削断面18の内空変位が求められる。
Then, the excavation further progresses, and the imaging screen B
When reaching point C from the point where the
2, the image of the excavation section 18 to be measured is taken again,
The obtained image pickup screen C and either one or both of the image pickup screens A and B are superposed, and the inner-air displacement of the excavation cross section 18 is obtained in the same manner as above.

【0046】ところが、このような画像処理変位計測に
おいては、前述したように、デジタルカメラ12の視準
方向の相違に基づく誤差要因が含まれていて、測定精度
が低下する。
However, in such image processing displacement measurement, as described above, an error factor based on the difference in the collimation direction of the digital camera 12 is included, and the measurement accuracy is lowered.

【0047】そこで、本実施例では、以下のような補正
方法を採用する。ここで、まず、デジタルカメラ12の
視準方向の相違に基づく誤差要因について、より具体的
に説明する。
Therefore, in this embodiment, the following correction method is adopted. Here, first, the error factor based on the difference in the collimation direction of the digital camera 12 will be described more specifically.

【0048】図7から図9は、デジタルカメラ12の視
準方向の相違に基づいて発生する誤差要因の例を示して
いる。デジタルカメラ12で、計測ターゲット20など
を撮影する際には、カメラ12を測定点Xに設置する
が、その時に、カメラ20の視準方向が、前回の撮影時
と異なっている場合には、その相違は、図7に示すよう
に、カメラ12の水平面内の回転角θ(パン角),垂直
面内の仰角φ,光軸回転角γで示すことができる。
FIGS. 7 to 9 show examples of error factors which are generated based on the difference in the collimation direction of the digital camera 12. When taking a picture of the measurement target 20 or the like with the digital camera 12, the camera 12 is installed at the measuring point X. At that time, if the collimation direction of the camera 20 is different from that at the time of the previous taking, The difference can be indicated by a rotation angle θ (pan angle) in the horizontal plane of the camera 12, an elevation angle φ in the vertical plane, and an optical axis rotation angle γ, as shown in FIG. 7.

【0049】図8は、パン角θに相違がある場合を示し
ており、パン角θが前回撮影時と異なると、本来黒丸印
で撮影されるベき点が、×印の位置に撮影され、これら
が前後にズレている分だけ測定誤差要因となる。
FIG. 8 shows a case in which the pan angle θ is different. When the pan angle θ is different from that in the previous photographing, the black point originally photographed by a black circle is photographed at the position of X. However, the difference between these causes a measurement error factor.

【0050】図9は、仰角φに相違がある場合を示して
おり、仰角φが前回撮影時と異なると、本来黒丸印で撮
影されるベき点が、×印の位置に撮影され、その結果、
高さhが、h‘となり、これらが前後にズレている分だ
け測定誤差要因となる。
FIG. 9 shows a case where there is a difference in elevation angle φ. When the elevation angle φ is different from that in the previous photographing, the black point originally photographed by the black circle is photographed at the position of X, and that point is photographed. result,
The height h becomes h ', which causes a measurement error due to the deviation of the height h from the front.

【0051】なお、光軸回転角γは、直接的には測定誤
差要因にならないが、画像のねじれなどで、測定誤差要
因となる場合も想定されるので、本実施例では、この補
正も考慮している。
Although the optical axis rotation angle γ does not directly cause a measurement error, it may be a measurement error factor due to image distortion or the like. Therefore, in the present embodiment, this correction is also taken into consideration. is doing.

【0052】このようなデジタルカメラ12の視準方向
の相違に基づく誤差要因は、デジタルカメラ12により
撮像された画像データ中に、既知なる点が3点あれば、
これらを算出することができるので、本実施例では、こ
れに相当する3標準点22,22,22を撮影す
るようにしている。
If there are three known points in the image data picked up by the digital camera 12, the error factors based on the difference in the collimation direction of the digital camera 12 are as follows.
Since these can be calculated, in the present embodiment, the three standard points 22 1 , 22 2 , and 22 3 corresponding thereto are photographed.

【0053】カメラ12の視準方向の相違に基づく、誤
差要因である水平面内の回転角θ(パン角),垂直面内
の仰角φ,光軸回転角γを算定する際には、図10に示
すように、場所によって変わることのない絶対位置座標
系、例えば、ワールド座標系(x,y,z)と、測定点
X上に設置したデジタルカメラ12の光軸方向を、Y軸
とするカメラ座標系(X,Y,Z)とを想定する。
When calculating the rotation angle θ (pan angle) in the horizontal plane, the elevation angle φ in the vertical plane, and the optical axis rotation angle γ, which are error factors, based on the difference in the collimation direction of the camera 12, FIG. As shown in, the absolute position coordinate system that does not change depending on the location, for example, the world coordinate system (x, y, z), and the optical axis direction of the digital camera 12 installed on the measurement point X is the Y axis. Assume a camera coordinate system (X, Y, Z).

【0054】なお、このワールド座標系(x,y,z)
は、広義の意味では、地球の中心を原点とする座標系で
あるが、本実施例の場合には、切羽の進行に伴って座標
値が変化しない、例えば、トンネル掘削の出発点となる
坑口部分のある点を原点とする座標系である。
The world coordinate system (x, y, z)
Is, in a broad sense, a coordinate system with the center of the earth as the origin, but in the case of the present embodiment, the coordinate values do not change with the progress of the face, for example, the wellhead that is the starting point of tunnel excavation. It is a coordinate system whose origin is a point with a part.

【0055】そして、Y軸に垂直な画像面I(u−v
面)を置く。この場合、光軸中心から画像面Iまでの距
離は、デジタルカメラ12の焦点距離に相当するので、
これをDfとする。
Then, the image plane I (uv
Face). In this case, the distance from the center of the optical axis to the image plane I corresponds to the focal length of the digital camera 12,
This is Df.

【0056】また、カメラ12の位置の絶対座標をO
(xc,yc,zc)とすれば、ワールド座標系(x,
y,z)に撮像されるu−v面上のカメラ12の位置座
標P(u,Df,v)は、
The absolute coordinate of the position of the camera 12 is O
If (xc, yc, zc), the world coordinate system (x,
The position coordinate P (u, Df, v) of the camera 12 on the u-v plane imaged in y, z) is

【式1】 と表せる。ここで、θは、カメラのパン角,φは、仰
角,γは、光軸に対する回転角に相当し、ワールド座標
系(x,y,z)とカメラ座標系(X,Y,Z)との座
標変換は、簡単な回転行列で表される。
[Formula 1] Can be expressed as Here, θ is the pan angle of the camera, φ is the elevation angle, γ is the rotation angle with respect to the optical axis, and is the world coordinate system (x, y, z) and the camera coordinate system (X, Y, Z). The coordinate transformation of is represented by a simple rotation matrix.

【0057】ここで、カメラ12の位置,姿勢のパラメ
ータをS=(xc,yc,zc,θ,φ,γ)とすれ
ば、ワールド座標系上の点(x,y,z)による画像上
の点(u,v)は、u=u(x,y,z,S),v=v
(x,y,z,S)と書ける。
Here, if the parameters of the position and orientation of the camera 12 are S = (xc, yc, zc, θ, φ, γ), on the image of the point (x, y, z) on the world coordinate system. Point (u, v) is u = u (x, y, z, S), v = v
It can be written as (x, y, z, S).

【0058】この式を使って、Sの6つの未知数(x
c,yc,zc,θ,φ,γ)を求めるためには、6個
の方程式が必要になる。そのために、本実施例では、ワ
ールド位置座標値が既知で、かつ、カメラ座標系(X,
Y,Z)の座標値を演算によって求め得る3標準2
,22,22が、カメラ12により撮影可能に
している。
Using this equation, the six unknowns of S (x
In order to obtain c, yc, zc, θ, φ, γ), six equations are required. Therefore, in this embodiment, the world position coordinate value is known and the camera coordinate system (X,
3 standards that can calculate the coordinate values of Y, Z) 2
2 1 , 22 2 and 22 3 are capable of being photographed by the camera 12.

【0059】このような既知座標値が撮像された画像上
に含まれていると、撮影された画像データから、以下に
示す6個の方程式が得られる。
When such known coordinate values are included in the captured image, the following six equations can be obtained from the captured image data.

【式2】 [Formula 2]

【0060】この式は、明らかに非線形連立方程式であ
って、そのまま解くこともできるが、Newton−R
aphson法によって近似解を求めることができる。
すなわち、Newton−Raphson法では、図1
1に示すように、方程式f(x)=0の解は、
This equation is obviously a non-linear simultaneous equation and can be solved as it is, but Newton-R
An approximate solution can be obtained by the aphson method.
That is, in the Newton-Raphson method, as shown in FIG.
As shown in 1, the solution of equation f (x) = 0 is

【式3】 の漸化式で与えられる。[Formula 3] It is given by the recurrence formula of.

【0061】これを連立方程式に拡張すると、連立方程
Extending this to simultaneous equations, simultaneous equations

【式4】 の解は、[Formula 4] Is the solution

【0062】[0062]

【式5】 の漸化式で与えられ、この式から、カメラパラメータS
=(xc,yc,zc,θ,φ,γ)がそれぞれ求めら
れる。
[Formula 5] Given by the recurrence formula of
= (Xc, yc, zc, θ, φ, γ) is obtained.

【0063】以上のようにして、カメラパラメータS=
(xc,yc,zc,θ,φ,γ)がそれぞれ求められ
ると、これらのパラメータに基づいて、撮像画面A,B
の計測ターゲット20の位置座標をそれぞれ補正し、そ
の後、図4に示したように重ね合わせて、掘削断面18
の内空変位を演算する。
As described above, the camera parameter S =
When (xc, yc, zc, θ, φ, γ) are respectively obtained, the imaging screens A and B are obtained based on these parameters.
The position coordinates of the measurement target 20 are corrected respectively, and thereafter, the measurement targets 20 are superposed as shown in FIG.
Calculate the in-air displacement of.

【0064】さて、以上ように構成した補正方法によれ
ば、デジタルカメラ12を測定点Xに設置する際の相違
に起因する誤差要因である水平面内の回転角θ,垂直面
内の仰角φ,光軸回転角γに基づいて、計測ターゲット
20の位置座標を補正し、その補正値に基づいて変位を
演算するので、変位計測が高精度に行える。
According to the correction method configured as described above, the rotation angle θ in the horizontal plane, the elevation angle φ in the vertical plane, which are the error factors due to the difference when the digital camera 12 is installed at the measurement point X, Since the position coordinates of the measurement target 20 are corrected based on the optical axis rotation angle γ and the displacement is calculated based on the correction value, displacement measurement can be performed with high accuracy.

【0065】なお、上記実施例では、本発明の補正方法
をトンネル10の掘削断面の内空変位の計測に適用した
場合を例示したが、本発明は、例えば、地下発電所の工
事などの空洞部分の変位計測にも適用することができ
る。
In the above embodiment, the case where the correction method of the present invention is applied to the measurement of the in-air displacement of the excavated cross section of the tunnel 10 has been exemplified, but the present invention is, for example, a cavity for construction of an underground power plant. It can also be applied to displacement measurement of parts.

【0066】[0066]

【発明の効果】以上、詳細に説明したように、本発明に
かかるが画像処理変位計測における補正方法によれば、
カメラの視準方向の相違に基づく誤差要因を補正するこ
とで、高精度の測定が可能になる。
As described above in detail, according to the present invention, according to the correction method in the image processing displacement measurement,
By correcting the error factor based on the difference in the collimation directions of the cameras, highly accurate measurement becomes possible.

【図面の簡単な説明】[Brief description of drawings]

【図1】本発明にかかる画像処理変位計測における補正
方法が適用されるトンネル掘削断面の内空変位を計測す
る際の実施状態の説明図である。
FIG. 1 is an explanatory diagram of an implementation state when measuring an inner sky displacement of a tunnel excavation cross section to which a correction method in image processing displacement measurement according to the present invention is applied.

【図2】図1に示した計測対象物をデジタルカメラで撮
像して、再生した画像の説明図である。
FIG. 2 is an explanatory diagram of an image reproduced by capturing an image of the measurement object shown in FIG. 1 with a digital camera.

【図3】図1に示したトンネルの掘削の進行を示す説明
図である。
FIG. 3 is an explanatory diagram showing the progress of excavation of the tunnel shown in FIG. 1.

【図4】本発明にかかる計測方法で撮影された複数の撮
像画面を重ね合わせる際の説明図である。
FIG. 4 is an explanatory diagram when superimposing a plurality of image pickup screens photographed by the measuring method according to the present invention.

【図5】図1に示した計測方法で使用する計測ターゲッ
トの一例を示す外観斜視図である。
5 is an external perspective view showing an example of a measurement target used in the measurement method shown in FIG.

【図6】図5の計測ターゲットの電気系統の回路図であ
る。
6 is a circuit diagram of an electric system of the measurement target of FIG.

【図7】本発明の補正方法が補正対象とするカメラの視
準方向の相違に基づく誤差要因の説明図である。
FIG. 7 is an explanatory diagram of an error factor based on a difference in collimation directions of cameras to be corrected by the correction method of the present invention.

【図8】図7に示した誤差要因のパン角の場合の詳細説
明図である。
FIG. 8 is a detailed explanatory diagram in the case of the pan angle of the error factor shown in FIG. 7.

【図9】図7に示した誤差要因の仰角の場合の詳細説明
図である。
9 is a detailed explanatory diagram in the case of an elevation angle of an error factor shown in FIG.

【図10】本発明のかかる補正方法で想定する座標系の
説明図である。
FIG. 10 is an explanatory diagram of a coordinate system assumed by the correction method of the present invention.

【図11】本発明にかかる補正方法で採用する近似式の
説明図である。
FIG. 11 is an explanatory diagram of an approximate expression used in the correction method according to the present invention.

【符号の説明】[Explanation of symbols]

10 トンネル 12 デジタルカメラ 14 モニター 16 パソコン 18 測定対象掘削断面 201〜3 標準点 22 計測ターゲット 24 レーザ光発生器10 tunnel 12 digital camera 14 monitor 16 personal computer 18 measurement target excavation cross section 201 1-3 standard point 22 measurement target 24 laser light generator

───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) G06T 1/00 300 G06T 3/00 200 3/00 200 7/20 B 7/20 G01B 11/24 K (72)発明者 橋本 周司 千葉県市川市八幡1−13−19 Fターム(参考) 2F065 AA04 CC40 FF04 GG04 GG07 JJ03 JJ26 QQ17 QQ24 RR07 SS02 5B057 AA01 AA19 BA11 CD12 DC09 DC32 5L096 BA02 CA04 DA02 EA14 FA69 GA08 HA04 MA03 ─────────────────────────────────────────────────── ─── Continuation of front page (51) Int.Cl. 7 Identification code FI theme code (reference) G06T 1/00 300 G06T 3/00 200 3/00 200 7/20 B 7/20 G01B 11/24 K ( 72) Inventor Shuji Hashimoto 1-13-19 Hachiman, Ichikawa-shi, Chiba F-term (reference) 2F065 AA04 CC40 FF04 GG04 GG07 JJ03 JJ26 QQ17 QQ24 RR07 SS02 5B057 AA01 AA19 BA11 CD12 DC09 DC32 5L096 BA02 CA04 DA02 HA04 MA69

Claims (5)

【特許請求の範囲】[Claims] 【請求項1】 被計測対象物を同一測定点からデジタル
カメラで経時的に視準して撮像画像データを取得し、取
得した複数の前記撮像画面データに基づいて、前記被測
定対象物の経時的な変位を計測する画像処理変位計測に
おいて、 前記デジタルカメラを前記測定点に設置する際の、水平
面内の回転角,垂直面内の仰角,光軸回転角に基づい
て、前記撮像画像データを補正し、補正後の前記撮像画
像データにより前記変位を演算することを特徴とする画
像処理変位計測おける補正方法。
1. An object to be measured is temporally collimated with a digital camera from the same measurement point to acquire captured image data, and the object to be measured over time is acquired based on the acquired plurality of imaging screen data. Image processing displacement measurement for measuring the actual displacement, based on the rotation angle in the horizontal plane, the elevation angle in the vertical plane, and the optical axis rotation angle when the digital camera is installed at the measurement point, the captured image data is A correction method in image processing displacement measurement, wherein the displacement is calculated based on the corrected captured image data.
【請求項2】 前記水平面内の回転角,垂直面内の仰
角,光軸回転角に基づく前記変位の補正は、前記撮像画
像データ内に、絶対位置座標値が既知の3標準点を撮像
し、この3標準点の画像処理データから連立方程式を解
くことにより求めることを特徴とする請求項1記載の画
像処理変位計測における補正方法。
2. The correction of the displacement based on the rotation angle in the horizontal plane, the elevation angle in the vertical plane, and the optical axis rotation angle captures three standard points of which absolute position coordinate values are known in the captured image data. The correction method in image processing displacement measurement according to claim 1, wherein the correction method is obtained by solving simultaneous equations from the image processing data of the three standard points.
【請求項3】 前記被測定対象物は、掘削されたトンネ
ル内空断面であって、この内空断面に沿って、撮像可能
な複数の計測ターゲットを設置することを特徴とする請
求項1または2記載の画像処理変位計測における補正方
法。
3. The object to be measured is an excavated tunnel inner air section, and a plurality of image-capable measurement targets are installed along the inner air section. 2. The correction method in the image processing displacement measurement described in 2.
【請求項4】 前記3標準点は、トンネル坑口側から切
羽に向けて、常時照射している測量補助用のレーザ光と
することを特徴とする請求項3記載の画像処理変位計測
における補正方法。
4. The correction method in image processing displacement measurement according to claim 3, wherein the three standard points are laser beams for surveying assistance that are constantly radiated from the tunnel pit side toward the face. .
【請求項5】 前記計測ターゲットは、前記内空断面に
下端側が埋設されるターゲット本体と、前記ターゲット
本体の視認可能な表面に設置され、所定の光を受光する
ことで作動する受光センサと、前記受光センサの作動に
より、所定時間発光する発光素子とを有することを特徴
とする請求項3記載の画像処理変位計測における補正方
法。
5. The measurement target includes a target main body whose lower end side is embedded in the inner cross section, a light receiving sensor which is installed on a visible surface of the target main body, and operates by receiving a predetermined light. The correction method in image processing displacement measurement according to claim 3, further comprising a light emitting element that emits light for a predetermined time by the operation of the light receiving sensor.
JP2001223270A 2001-07-24 2001-07-24 Correction method for image processing displacement measurement Expired - Fee Related JP3820459B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001223270A JP3820459B2 (en) 2001-07-24 2001-07-24 Correction method for image processing displacement measurement

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001223270A JP3820459B2 (en) 2001-07-24 2001-07-24 Correction method for image processing displacement measurement

Publications (2)

Publication Number Publication Date
JP2003035536A true JP2003035536A (en) 2003-02-07
JP3820459B2 JP3820459B2 (en) 2006-09-13

Family

ID=19056633

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001223270A Expired - Fee Related JP3820459B2 (en) 2001-07-24 2001-07-24 Correction method for image processing displacement measurement

Country Status (1)

Country Link
JP (1) JP3820459B2 (en)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008267843A (en) * 2007-04-17 2008-11-06 Tobishima Corp Tunnel face surface measuring system
JP2009300323A (en) * 2008-06-16 2009-12-24 Railway Technical Res Inst Measurement system for tunnel lining behavior during earthquake
JP2009300324A (en) * 2008-06-16 2009-12-24 Railway Technical Res Inst Monitoring system of displacement of space within tunnel
WO2010094751A2 (en) 2009-02-20 2010-08-26 3G Software & Measurement Gmbh Mobile projection system for scaling and orientation of surfaces surveyed by an optical measuring system
JP2011123008A (en) * 2009-12-14 2011-06-23 Nexco-East Engineering Co Ltd Measuring method, measuring program, and measuring device
CN113108700A (en) * 2021-04-28 2021-07-13 上海同禾工程科技股份有限公司 Displacement checking system and displacement checking method based on machine vision
JP2021103178A (en) * 2018-12-17 2021-07-15 株式会社フジタ Displacement measuring apparatus
CN113756815A (en) * 2021-08-16 2021-12-07 山西科达自控股份有限公司 Device position image recognition system

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101475742B1 (en) * 2013-03-15 2014-12-24 삼성중공업(주) Apparatus and method for performing photogrammetry

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008267843A (en) * 2007-04-17 2008-11-06 Tobishima Corp Tunnel face surface measuring system
JP2009300323A (en) * 2008-06-16 2009-12-24 Railway Technical Res Inst Measurement system for tunnel lining behavior during earthquake
JP2009300324A (en) * 2008-06-16 2009-12-24 Railway Technical Res Inst Monitoring system of displacement of space within tunnel
WO2010094751A2 (en) 2009-02-20 2010-08-26 3G Software & Measurement Gmbh Mobile projection system for scaling and orientation of surfaces surveyed by an optical measuring system
US8526011B2 (en) 2009-02-20 2013-09-03 3Gsm Gmbh Mobile projection system for scaling and orientation of surfaces surveyed by an optical measuring system
JP2011123008A (en) * 2009-12-14 2011-06-23 Nexco-East Engineering Co Ltd Measuring method, measuring program, and measuring device
JP2021103178A (en) * 2018-12-17 2021-07-15 株式会社フジタ Displacement measuring apparatus
CN113108700A (en) * 2021-04-28 2021-07-13 上海同禾工程科技股份有限公司 Displacement checking system and displacement checking method based on machine vision
CN113756815A (en) * 2021-08-16 2021-12-07 山西科达自控股份有限公司 Device position image recognition system
CN113756815B (en) * 2021-08-16 2024-05-28 山西科达自控股份有限公司 Equipment position image recognition system

Also Published As

Publication number Publication date
JP3820459B2 (en) 2006-09-13

Similar Documents

Publication Publication Date Title
JP4847872B2 (en) Calibration of surveying instrument
JP4607095B2 (en) Method and apparatus for image processing in surveying instrument
JP4529157B2 (en) Three-dimensional survey system and electronic storage medium
JP3937154B2 (en) Position detection device
US20150062309A1 (en) Stereo photogrammetry from a single station using a surveying instrument with an eccentric camera
US10571254B2 (en) Three-dimensional shape data and texture information generating system, imaging control program, and three-dimensional shape data and texture information generating method
JP2003279351A (en) Surveying apparatus and method for acquisition of image data by using the same
JP3766518B2 (en) Camera with built-in sensor
US10976158B2 (en) Device and method to locate a measurement point with an image capture device
US11463680B2 (en) Using virtual landmarks during environment scanning
JPWO2005017644A1 (en) Three-dimensional survey device and electronic storage medium
JP4052382B2 (en) Non-contact image measuring device
JP7097709B2 (en) Surveying system
CN111953892B (en) Unmanned aerial vehicle and inspection method
JP6930840B2 (en) Surveying system
JP2011203196A (en) Ground laser scanner surveying device, surveying device and surveying method
CN115597551B (en) Handheld laser-assisted binocular scanning device and method
JP2019132769A5 (en)
JP2003035536A (en) Compensation method in image processing displacement measurement
JP2001148025A (en) Device and method for detecting position, and device and method for detecting plane posture
KR20190143202A (en) Photographing apparatus and method for 3d modeling
JP2001317915A (en) Three-dimensional measurement apparatus
JP2008076405A (en) Three-dimensional surveying apparatus and electronic storage medium
JP2002090116A (en) Three-dimensional image detector
JP2002010297A (en) Stereoscopic image photographing system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040709

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20051104

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20051115

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060113

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060221

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060421

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060523

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060530

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100630

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100630

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110630

Year of fee payment: 5

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110630

Year of fee payment: 5

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110630

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120630

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120630

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130630

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130630

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140630

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees