JP2000306096A - 仮想カメラ画像形成方法 - Google Patents

仮想カメラ画像形成方法

Info

Publication number
JP2000306096A
JP2000306096A JP11110270A JP11027099A JP2000306096A JP 2000306096 A JP2000306096 A JP 2000306096A JP 11110270 A JP11110270 A JP 11110270A JP 11027099 A JP11027099 A JP 11027099A JP 2000306096 A JP2000306096 A JP 2000306096A
Authority
JP
Japan
Prior art keywords
dimensional coordinate
dimensional
coordinate system
image
projection plane
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP11110270A
Other languages
English (en)
Other versions
JP4132387B2 (ja
Inventor
Ayumi Nakajima
歩 中嶋
Tomoyasu Nishio
友康 西尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP11027099A priority Critical patent/JP4132387B2/ja
Publication of JP2000306096A publication Critical patent/JP2000306096A/ja
Application granted granted Critical
Publication of JP4132387B2 publication Critical patent/JP4132387B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】 【課題】 実写像に現れるレンズの歪みの影響を反映
し、実写像に正確に整合した仮想カメラ画像を形成する
ことができる仮想カメラ画像形成方法を提供する。 【解決手段】 デジタルカメラ11で生成された画像デ
ータは投影面特定回路29に取り込まれる。投影面特定
回路29は、画像データに基づき、画像面に規定される
二次元座標系に従って基準点の二次元座標値を特定す
る。その一方で、基準点の三次元座標値は実測される。
得られた二次元座標値および三次元座標値に基づき、三
次元座標系の三次元座標点を二次元座標系の二次元座標
点に写像する変換行列は求められる。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、三次元座標系に従
って特定される光学系主点の位置や光学系主軸の向き、
焦点距離といったカメラ情報に基づき、1投影面上に仮
想カメラ画像を形成する仮想カメラ画像形成方法に関す
る。
【0002】
【従来の技術】一般に、製造の分野では、加工品が設計
通りに加工されたか否か、成型品が設計通りに成形され
たか否かが検証される。この検証には、高い精度で加工
品や成型品を象った検査具が広く用いられる。検査具に
加工品や成型品がはめ込まれると、検査具で規定される
理想形状に対して実際の加工品や成型品の誤差が一目で
確認されることができる。そういった誤差は例えばノギ
スなどを用いて測定されることができる。しかしなが
ら、使用される検査具は各加工品や成型品ごとに用意さ
れなければならず、検査具の製作には多大な費用や手間
がかかるだけでなく、製作された検査具を保管するにあ
たって多大なスペースが必要とされる。
【0003】その一方で、そういった検証にあたって、
三次元測定機を用いて加工品や成型品の実寸法を測定す
ることが広く行われている。三次元測定機で測定された
実寸法と、加工品や成型品の設計寸法を特定する形状デ
ータとが比較されると、加工品や成型品の寸法誤差が算
出されることができる。しかしながら、こうした三次元
測定機では、加工品や成型品の表面に沿って接触プロー
ブを万遍なく移動させなければならない。接触プローブ
は加工品や成型品の表面に点接触することから、寸法測
定にあたって加工品や成型品の全表面にわたって十分な
サンプルデータを取得するには多大な時間が必要とされ
る。しかも、人手を用いて接触プローブを移動させれば
測定結果にばらつきが生じてしまい、ロボットを用いて
自動的に接触プローブを移動させればティーチング作業
に多くの時間や労力が費やされてしまう。
【0004】
【発明が解決しようとする課題】本発明者らは、カメラ
の実写像を用いて加工品や成型品の形状を簡単に検証す
ることが可能な形状検証システムを提案する。この形状
検証システムでは、形状データに基づき例えばコンピュ
ータ内に描き出される仮想カメラ画像と加工品や成型品
の実写像とが相互に比較される結果、設計寸法に対する
加工品や成型品の寸法誤差は測定される。しかしなが
ら、実写像にはレンズの歪みが影響することから、実写
像に正確に整合する仮想カメラ画像を形成することは難
しい。これまでのところ、こうしたレンズの歪みを考慮
して仮想カメラ画像を形成することは試みられていな
い。
【0005】本発明は、上記実状に鑑みてなされたもの
で、実写像に現れるレンズの歪みの影響を反映し、実写
像に正確に整合した仮想カメラ画像を形成することがで
きる仮想カメラ画像形成方法を提供することを目的とす
る。
【0006】
【課題を解決するための手段】上記目的を達成するため
に、本発明によれば、三次元空間に設定された基準点が
1投影面に映し出される画像データを取得する工程と、
前記三次元空間に構築された三次元座標系に従って前記
基準点の三次元座標値を特定する基準位置データを取得
する工程と、取得した画像データおよび基準位置データ
に基づき、投影面に規定される二次元座標系および前記
三次元座標系の間で写像を実現する変換行列を導き出す
工程とを備えることを特徴とする仮想カメラ画像形成方
法が提供される。
【0007】例えば一般の撮像装置では、三次元空間に
存在する三次元物体はレンズを通して二次元の結像面に
写像される。こうしたレンズの働きは、任意の物体座標
系すなわち三次元座標系から二次元座標系への座標変換
として捉えられる。したがって、こうした座標変換を実
現する変換行列を用いれば、仮想空間で再現される三次
元像を任意の二次元投影面に投影させることができる。
撮像装置で得られる画像データと基準位置データとを用
いれば、現実のレンズの働きを反映した変換行列が導き
出されることができる。その結果、仮想空間の三次元像
は、あたかも実際のレンズを通して結像されたように仮
想空間の1投影面に描き出されることができる。
【0008】具体的には、本発明に係る仮想カメラ画像
形成方法は、例えば、三次元空間に設定された基準点が
1投影面に映し出される画像データに基づき、投影面に
規定される二次元座標系に従って基準点の二次元座標値
(xi ,yi )を取得する工程と、前記三次元空間に構
築された三次元座標系に従って前記基準点の三次元座標
値(x,y,z)を取得する工程と、取得した二次元座
標値(xi ,yi )および三次元座標値(x,y,z)
に基づき、
【数16】 に従って各パラメータC11〜C34を算出する工程
と、算出されたパラメータC11〜C34を用いて、前
記二次元座標系および三次元座標系の間で写像を実現す
る変換行列
【数17】 を導き出す工程とを備えればよい。こうした工程によれ
ば、前述したとおり、現実のレンズの歪みを反映した変
換行列Rが導き出されることとなる。
【0009】こうして導き出された変換行列Rを用いれ
ば、前記三次元座標系で特定される三次元座標点(x,
y,z)は、
【数18】 ただし、
【数19】 に基づき、前記二次元座標系で特定される二次元座標点
(xi ,yi )に写像されることができる。その結果、
三次元座標系が構築された仮想空間に描き出される三次
元像は、レンズの歪みを反映しながら、二次元座標系が
構築された1投影面に二次元像として描き出されること
ができる。
【0010】さらに具体的には、本発明に係る仮想カメ
ラ画像形成方法は、例えば、三次元空間に設定された少
なくとも6個の基準点が1投影面に映し出される画像デ
ータに基づき、投影面に規定される二次元座標系に従っ
て各基準点の二次元座標値(xi ,yi )を取得する工
程と、前記三次元空間に構築された三次元座標系に従っ
て各基準点の三次元座標値(x,y,z)を取得する工
程と、取得した二次元座標値(xi ,yi )および三次
元座標値(x,y,z)に基づき、各基準点ごとに構築
される連立方程式
【数20】 に従って各パラメータC11〜C34を算出する工程
と、算出されたパラメータC11〜C34を用いて、前
記二次元座標系および三次元座標系の間で写像を実現す
る変換行列
【数21】 を導き出す工程とを備えればよい。こうした工程によれ
ば、前述したとおり、現実のレンズの歪みを反映した変
換行列Rが導き出されることとなる。
【0011】こうして導き出された変換行列Rを用いれ
ば、前記三次元座標系で特定される三次元座標点(x,
y,z)は、
【数22】 ただし、
【数23】 に基づき、前記二次元座標系で特定される二次元座標点
(xi ,yi )に写像されることができる。
【0012】その他、本発明に係る仮想カメラ画像形成
方法は、三次元空間に設定されたn個の基準点が1投影
面に映し出される画像データに基づき、投影面に規定さ
れる二次元座標系に従って各基準点の二次元座標値(x
i1,yi1)〜(xin,yin)を取得する工程と、前記三
次元空間に構築された三次元座標系に従って各基準点の
三次元座標値(x1 ,y1 ,z1 )〜(xn ,yn ,z
n )を取得する工程と、取得した二次元座標値(xi1,
i1)〜(xin,yin)および三次元座標値(x1 ,y
1 ,z1 )〜(xn ,yn ,zn )を用いて最小二乗法
に基づき、
【数24】 ただし、
【数25】 に従って各パラメータC11〜C33を算出する工程
と、算出されたパラメータC11〜C33を用いて、前
記二次元座標系および三次元座標系の間で写像を実現す
る変換行列
【数26】 を導き出す工程とを備えてもよい。こうして導き出され
た変換行列Rを用いれば、前述と同様に、前記三次元座
標系で特定される三次元座標点(x,y,z)は、
【数27】 ただし、
【数28】 に基づき、前記二次元座標系で特定される二次元座標点
(xi ,yi )に写像されることができる。
【0013】いずれの場合でも、画像データはCCD
(電荷結合素子)カメラによって生成されればよい。C
CDカメラを用いれば、画像面上で各画素ごとに簡単に
二次元座標値を取得することができる。したがって、各
画素ごとに特定される画像情報を用いれば、簡単に基準
点の二次元座標値を取得することが可能となる。
【0014】加えて、以上のような仮想カメラ画像形成
方法は、前記三次元空間で対象物の三次元像を特定する
形状データを取得する工程と、前記変換行列を用いて、
形状データに基づき再現された対象物の三次元像を前記
投影面に投影する工程とをさらに備えてもよい。
【0015】以上のような仮想カメラ画像形成方法は、
例えばコンピュータによって処理されるソフトウェアプ
ログラムに従って実現されてもよい。こういったソフト
ウェアプログラムは、例えばFD(フロッピーディス
ク)といった磁気記録媒体、CD(コンパクトディス
ク)やDVD(デジタルビデオディスク)といった光学
記録媒体、いわゆるMOといった光磁気記録媒体、その
他の任意の記録媒体を通じてコンピュータに取り込まれ
ればよい。
【0016】
【発明の実施の形態】以下、添付図面を参照しつつ本発
明の一実施形態を説明する。
【0017】図1は、対象物Wの形状精度を検証する形
状検証システム10の構成を概略的に示す。この形状検
証システム10は、対象物Wの実写像すなわち投影面に
映し出される対象物Wの二次元像を取得するデジタルス
チルカメラ11を備える。このデジタルスチルカメラ1
1は、例えばCCD(電荷結合素子)を利用して、対象
物Wの実写像を再現する画像データを出力する。この画
像データによれば、任意の投影面に微細な間隔で設定さ
れる各画素ごとに画像情報が特定される。各画素の位置
は、例えば投影面に設定される二次元座標系に従って特
定されることができる。ただし、デジタルスチルカメラ
11のほか、撮像装置には、デジタルビデオカメラや、
CCD以外の画像取得手段を用いて各画素ごとに画像情
報を特定する撮像装置が用いられてもよく、プリント写
真に基づき画像データを生成するスキャナなどが用いら
れてもよい。
【0018】エンジニアリングワークステーション(E
WS)12は、デジタルスチルカメラ11で取得された
実写像に基づき対象物Wの形状寸法誤差を測定する。こ
の形状検証システム10では、取得される実写像に基づ
いて対象物Wの輪郭や幾何学的稜線に関する形状寸法誤
差が測定される。こうした形状検証システム10は、例
えば自動車の外板といった部品の形状精度や、そういっ
た部品の加工や成形に用いられる金型の形状精度を検証
する際に用いられることができるだけでなく、複数の部
品で組み立てられたアセンブリや完成品の組立精度や形
状精度を検証する際に用いられることができる。
【0019】形状検証システム10には、対象物Wの三
次元形状を測定する三次元測定機13がさらに組み込ま
れてもよい。三次元測定機13は、対象物Wと接触プロ
ーブ14との接触を通じて、対象物Wの三次元像を再現
するにあたって必要とされる三次元座標値を取得する。
1つの三次元座標値を取得するにあたって、接触プロー
ブ14は、例えば任意の三次元座標系でx座標値および
y座標値を維持しながらz軸方向に移動する。接触まで
に測定されるz軸方向の移動量に基づきz座標値は特定
される。xy平面に沿って微細な間隔で設定される多数
の測定点ごとにz座標値は測定されていく。その結果、
対象物Wの三次元像を再現するために十分な三次元座標
点の集合体が得られる。接触プローブ14の動きは例え
ばパーソナルコンピュータ(PC)15によって制御さ
れる。こうした三次元測定機13は、平面や曲面、凹凸
面の歪みといったデジタルスチルカメラ11による実写
像に現れにくい形状の歪みを測定する際に役立つ。
【0020】図2に示されるように、検証にあたって対
象物Wは検査台16に設置される。検査台16には、対
象物Wを受け止める水平かつ平坦な受け面17と、受け
面17から垂直に立ち上がる複数(例えば3つ)の突き
当て18a、18b、18cとが設けられる。受け面1
7は、物体座標系xyzに従ってz座標値の基準を規定
する。すなわち、z座標値は、受け面17からの高さに
基づき特定されることができる。2つの突き当て18
a、18bは、受け面17に直交する1平面を規定す
る。規定された1平面は、物体座標系xyzに従ってy
座標値の基準に設定される。すなわち、y座標値は、2
つの突き当て18a、18bによって規定された1平面
からの距離に基づき特定されることができる。さらに、
残りの突き当て18cは、他の2つの突き当て18a、
18bによって規定された1平面と受け面17とに直交
する1平面を規定する。規定された1平面は、物体座標
系xyzに従ってx座標値の基準に設定される。したが
って、x座標値は、突き当て18cによって規定された
1平面からの距離に基づき特定されることができる。
【0021】ここでは、物体座標系xyzのxy平面は
受け面17に沿って規定される。加えて、2つの突き当
て18a、18bは物体座標系xyzのxz平面を規定
し、他の突き当て18cは物体座標系xyzのyz平面
を規定する。ただし、物体座標系xyzは、1または複
数の座標軸に沿って平行移動してもよい。
【0022】検査台16には複数個の基準ブロック19
が設けられる。各基準ブロック19の頂点には物体座標
系xyzに従って三次元座標値が与えられる。こうした
三次元座標値は例えば三次元測定機13などによって予
め実測されていればよい。ただし、三次元座標値は、受
け面17や突き当て18a、18b、18cに対して各
基準ブロック19の相対的な位置関係を特定していれば
十分である。後述するように、全ての基準ブロック19
に対して少なくとも6個の頂点で三次元座標値が明らか
にされなければならない。
【0023】図3に示されるように、EWS12は、三
次元測定機13で測定された三次元形状と、形状データ
に基づき復元される対象物Wの理想三次元像とを相互に
比較する面情報解析回路21を備える。この面情報解析
回路21によれば、例えば、三次元測定機13で測定さ
れた三次元座標点の集合体に基づき対象物Wを表現する
ポリゴンが再構築され、再構築されたポリゴンに基づい
て対象物Wの三次元像が描き出される。描き出された三
次元像と理想三次元像とが相互に比較される結果、対象
物Wの平面や曲面の歪みといった形状寸法誤差は導き出
される。こうして導き出された形状寸法誤差は例えばデ
ィスプレイ22の画面に表示されることができる。同時
に、ディスプレイ22の画面には、再構築されたポリゴ
ンに基づき対象物Wの三次元像が表示されてもよく、そ
ういった三次元像とともに理想三次元像(すなわち比較
の結果)が表示されてもよい。
【0024】ここで、形状データは、例えばLAN(構
内回線網)などによってEWS12に接続された大容量
記憶装置23内に構築された製品データベースから取得
される。製品データベースには、任意の三次元座標系に
基づき各製品ごとに三次元像を規定する三次元設計デー
タが格納される。各三次元設計データは、例えば周知の
三次元CAD/CAMシステムなどを用いて構築される
ことができる。ただし、形状データは、可搬性の記録媒
体を用いてEWS12に転送されてもよい。
【0025】さらにEWS12には、デジタルスチルカ
メラ11で取得された実写像と、形状データに基づき描
かれる二次元理想像とを相互に比較する辺情報解析回路
24が設けられる。二次元理想像は例えば対象物Wの輪
郭や幾何学的稜線によって描かれる。この辺情報解析回
路24は、実写像と二次元理想像との比較結果をディス
プレイ22の画面に表示させることができる。
【0026】辺情報解析回路24は、例えば図4に示さ
れるように、仮想空間に再現される対象物Wおよびデジ
タルスチルカメラ11に基づき、デジタルスチルカメラ
11で撮像されると想定される仮想カメラ画像を形成す
る仮想カメラ画像形成回路26を備える。表示回路27
は、仮想カメラ画像形成回路26で形成された仮想カメ
ラ画像と実写像とを重ねてディスプレイ22の画面に表
示させる。
【0027】仮想カメラ画像形成回路26は、仮想空間
に物体座標系xyzすなわち三次元座標系を再現する座
標系構築回路28を備える。物体座標系xyzを再現す
るにあたって、座標系構築回路28は、大容量記憶装置
23から取り込まれる形状データに基づき仮想空間で対
象物Wの三次元像を再現する。この三次元像に対して検
査台16の受け面17および突き当て18a、18b、
18cの位置が特定されると、仮想空間では、対象物W
の実寸法を規定する物体座標系xyzすなわち三次元座
標系が構築される。
【0028】投影面特定回路29は、物体座標系xyz
が構築された仮想空間で、対象物Wの実写像が映し出さ
れる投影面を特定する。この特定にあたって、投影面特
定回路29は、画像データで特定される基準ブロック1
9の頂点すなわち基準点の二次元座標値(xi ,yi
と、各基準点に与えられた三次元座標値(x,y,z)
とに基づき、各基準点ごとに構築される連立方程式
【数29】 に従って各パラメータC11〜C34を算出する。算出
されたパラメータC11〜C34によれば、変換行列
【数30】 が導き出される。
【0029】描画回路30は、形状データに基づき再現
された対象物Wの三次元像を投影面に投影し、対象物W
の二次元理想像を形成する。二次元理想像の形成にあた
って、描画回路30は、対象物Wの輪郭線や幾何学的稜
線を規定する三次元座標点(x,y,z)と、投影面特
定回路29で算出された変換行列Rとに基づいて、
【数31】 ただし、
【数32】 に従って、投影面上で各三次元座標点(x,y,z)に
対応する二次元座標点(xi ,yi )を選び出す。こう
した描画回路30の働きによれば、例えば仮想空間の物
体座標系xyzで対象物Wの三次元像が移動すると、そ
の移動に伴い投影面上で二次元理想像は移動することと
なる。
【0030】描画回路30には、仮想カメラ画像形成回
路26で構築された三次元座標系すなわち物体座標系x
yzに従って実写像と二次元理想像との間で寸法誤差を
測定する誤差測定回路31が接続される。この誤差測定
回路31は、例えば、仮想空間に再現される三次元像上
で二次元理想像の輪郭線を特定したり三次元像の幾何学
的稜線を抽出したりする輪郭抽出回路32を備える。こ
の輪郭抽出回路32によれば、例えばマウス33といっ
た入力装置を通じて操作者が入力する指令に従って任意
の輪郭線や幾何学的稜線が選び出されることができる。
【0031】移動方向決定回路34は、選び出された輪
郭線や稜線の移動方向を決定する。こうした移動方向に
は、例えば三次元像の表面に対して直交する法線方向が
選択されてもよく、後述するように、稜線に接する1表
面に対して直交する法線方向や、稜線に対する接線方向
および法線方向にともに直交する外積方向が選択されて
もよい。
【0032】画像操作回路35は、仮想空間に構築され
た物体座標系xyzすなわちスケール座標系に従って、
決定された移動方向に対象物Wの三次元像を移動させる
ことができる。この移動にあたって、画像操作回路35
は、決定された移動方向に基づき、例えばボリュームス
イッチ36の操作量に応じて物体座標系xyzに従った
x座標値、y座標値およびz座標値の各増減値を特定す
る。例えば移動方向決定回路34で前述の法線方向およ
び外積方向が選択された場合には、法線方向および外積
方向に個別に三次元像の移動を引き起こす2つのボリュ
ームスイッチ36が設けられればよい。
【0033】移動量算出回路37は、三次元座標系すな
わち物体座標系xyzに従って輪郭線や稜線の移動量を
算出する。輪郭線や稜線の移動量は、例えば画像操作回
路35で特定されるx座標値、y座標値およびz座標値
の各増減値に基づき算出されることができる。ただし、
こうした移動量は、ボリュームスイッチ36の操作量に
基づき算出されてもよい。この場合には、例えば0.5
mmや1μmといった単位長さの移動量を引き起こすx
座標値、y座標値およびz座標値の各増減値すなわちボ
リュームスイッチ36の操作量が明らかであればよい。
ここでは、第1移動量算出回路37aによって、稜線に
接する1表面に対して直交する法線方向に稜線の法線方
向移動量は算出される。その一方で、第2移動量算出回
路37bによって、稜線に対する接線方向および法線方
向にともに直交する外積方向に稜線の外積方向移動量は
算出される。
【0034】次に本実施形態に係る形状検証システム1
0の動作を詳述する。ここでは、辺情報解析回路24の
動作に着目し、面情報解析回路21の動作に関する説明
は省略される。面情報解析回路21は周知の技術に基づ
き動作すればよい。
【0035】いま、例えば図2に示される対象物Wの形
状を検証する場面を想定する。操作者は、対象物Wを特
定する形状データを大容量記憶装置23の製品データベ
ースからEWS12に取り込ませる。形状データが取り
込まれると、座標系構築回路28は、EWS12に認識
される仮想空間に対象物Wの三次元像を再現する。こう
した三次元像は例えばディスプレイ22の画面に表示さ
れる。
【0036】同時に、座標系構築回路28は、物体座標
系xyzのxy平面を規定する受け面17の三次元像
や、xz平面を規定する突き当て18a、18bの三次
元像、yz平面を規定する突き当て18cの三次元像を
再現する。操作者は、例えば図5に示されるように、再
現された対象物Wの三次元像に対して受け面17の位置
を特定したり、図6に示されるように、突き当て18
a、18b、18cの位置を特定する。こうして受け面
17や突き当て18a、18b、18cの位置が特定さ
れると、検査台16に設定された物体座標系xyzがE
WS12内の仮想空間に再現される。対象物Wの三次元
像は、xy平面、yz平面およびxz平面を基準に物体
座標系xyz内で位置決めされることとなる。
【0037】続いて操作者は、デジタルスチルカメラ1
1で生成された画像データをEWS12に取り込ませ
る。画像データによれば、実写像の投影面に設定される
二次元座標系に従って各画素の二次元座標値(xi ,y
i )が特定される。各画素の画像情報(例えば色情報)
が識別される結果、対象物Wの輪郭および幾何学的稜線
を規定する二次元座標点(xi ,yi )の集合や、各基
準ブロック19の頂点すなわち基準点を規定する二次元
座標点(xi ,yi )が特定される。
【0038】以上のようにEWS12に形状データおよ
び画像データが取り込まれると、投影面特定回路29
は、前述したとおり変換行列Rを算出する。この変換行
列Rの算出にあたって、投影面特定回路29は、少なく
とも6個の基準点の二次元座標値(xi ,yi )を取得
すると同時に、各基準点の三次元座標値(x,y,z)
を取得する。三次元座標値(x,y,z)は例えば操作
者の入力操作を通じて投影面特定回路29に取り込まれ
る。各基準点の三次元座標値(x,y,z)は予め実測
されていればよい。
【0039】描画回路30は、投影面特定回路29で算
出された変換行列Rを用いて、仮想空間に再現される対
象物Wの三次元像を投影面に写像する。すなわち、三次
元像の輪郭や幾何学的稜線を規定する各三次元座標点
(x,y,z)に変換行列Rが掛け合わされる。その結
果、投影面には、例えば図7に示されるように、二次元
座標点(xi ,yi )の集合によって対象物Wの二次元
理想像41が描き出される。変換行列Rは仮想空間の全
ての三次元座標点(x,y,z)を投影面に写像させる
ことができることから、描き出された二次元理想像41
は、対象物Wの実寸法を規定する物体座標系xyzを反
映する。言い換えれば、投影面には、例えば図7に示さ
れるように、物体座標系xyzの透視像が描き出され
る。したがって、二次元理想像41によれば、物体座標
系xyzに従って対象物Wの理想位置が特定されること
ができる。
【0040】表示回路27は、画像データに基づき投影
面上に対象物Wの実写像を再現し、再現された実写像に
対象物Wの二次元理想像を重ね合わせる。その結果、投
影面に描き出された物体座標系xyzの透視像に対象物
Wの実写像は取り込まれる。投影面では、物体座標系x
yzに従って実写像の実位置が特定されることができる
こととなる。
【0041】こうして単一の投影面に描き出された対象
物Wの実写像と二次元理想像とがディスプレイ22の画
面に表示されると、対象物Wの寸法誤差の有無は一目で
確認されることができる。二次元理想像と、実写像で特
定される幾何学的稜線とが互いに一致すれば対象物Wの
寸法誤差は存在しないこととなる。その一方で、二次元
理想像と、実写像で特定される幾何学的稜線との間に生
じる「ずれ」は物体座標系xyzに従って対象物Wの寸
法誤差を表現することとなる。ただし、ここでは、後述
する誤差測定回路31の働きに応じて、ディスプレイ2
2の画面には必ずしも物体座標系xyzの透視像は表示
される必要はない。
【0042】この形状検証システム10によれば、操作
者は、二次元理想像と実写像との間に観察される「ず
れ」の大きさすなわち寸法誤差を測定することができ
る。この測定にあたって、操作者は、まず、マウス33
を操作して二次元理想像の輪郭線や幾何学的稜線といっ
た特徴を指定する。例えば図8に示されるように、操作
者は、マウス33の移動を通じてディスプレイ22の画
面上でマウスポインタ42を移動させ、マウス33のク
リック操作を通じてマウスポインタ42が指し示す輪郭
線や幾何学的稜線43を指定する。輪郭抽出回路32
は、仮想空間に再現された対象物Wの三次元像上で、ク
リック時のマウスポインタ42が指し示す輪郭線や幾何
学的稜線43を特定する。
【0043】図8に示されるように、例えば幾何学的稜
線43が指定されると、移動方向決定回路34は、仮想
空間に再現された三次元像上で、指定された幾何学的稜
線43に接する1表面に対して直交する法線方向44
と、その幾何学的稜線43に対する接線方向45および
法線方向44にともに直交する外積方向46とを特定す
る。こうして法線方向44および外積方向46が特定さ
れると、画像操作回路35は、ボリュームスイッチ36
の操作量と、物体座標系xyzに従ったx座標値、y座
標値およびz座標値の各増減値とを対応づける。この場
合には、一方のボリュームスイッチ36に対して法線方
向移動時のx座標値、y座標値およびz座標値の各増減
値が設定され、他方のボリュームスイッチ36に対して
外積方向移動時のx座標値、y座標値およびz座標値の
各増減値が設定される。
【0044】例えば一方のボリュームスイッチ36が操
作されると、仮想空間に再現された三次元像では、各三
次元座標点(x,y,z)に決められたx座標値、y座
標値およびz座標値の各増減値が加えられる。その結
果、仮想空間では、三次元像は決められた法線方向に移
動することとなる。この移動は、投影面に描かれた二次
元理想像47の移動に反映される。したがって、ディス
プレイ22の画面では、実写像48に対して二次元理想
像47が相対的に移動する。同様に、他方のボリューム
スイッチ36が操作されると、仮想空間で三次元像は決
められた外積方向に移動し、その結果、ディスプレイ2
2の画面では実写像48に対して二次元理想像47は相
対的に移動することとなる。
【0045】ボリュームスイッチ36の操作や三次元像
の移動に応じて、移動量算出回路37では、物体座標系
xyzに従って三次元像の移動量が算出される。この場
合には、例えば第1移動量算出回路37aで法線方向移
動量は算出され、第2移動量算出回路37bで外積方向
移動量は算出される。算出された移動量は例えばディス
プレイ22の画面上に表示される。
【0046】このとき、操作者は、ディスプレイ22の
画面を観察しながら2つのボリュームスイッチ36を操
作し、二次元理想像47で特定される幾何学的稜線43
と、実写像48で対応する幾何学的稜線49とを互いに
重ね合わせる。実写像48の稜線49と二次元理想像4
7の稜線43とが一致した時点で算出される法線方向移
動量や外積方向移動量は、形状データに基づき再現され
る対象物Wの三次元像と、撮像された実際の対象物Wの
三次元像との法線方向寸法誤差や外積方向寸法誤差に相
当する。したがって、操作者は、実写像48と二次元理
想像47とが一致した時点でディスプレイ22の画面に
表示される法線方向移動量や外積方向移動量を読み取れ
ばよい。こうして、物体座標系xyzに従って対象物W
の実位置と理想位置との間で寸法誤差は測定される。
【0047】ここで、仮想カメラ画像形成回路26の原
理を簡単に説明する。いま、例えば図9に示されるよう
に、対象物Wおよびピンホールカメラ51を取り込んだ
三次元座標系XYZを想定する。この三次元座標系XY
Zでは、z軸とピンホールカメラ51の光学系主軸とは
一致する。ピンホール52の前方には、ピンホール52
から焦点距離fで離れた仮想結像面53が設定される。
この仮想結像面53には対象物Wの二次元像が描かれ
る。現実のピンホールカメラ51では、ピンホール52
の背後でピンホール52から焦点距離fで離れた実結像
面54に対象物Wの倒立像が結像される。ただし、仮想
結像面53に描かれる二次元像と倒立像とは一致する。
【0048】こうして設定された三次元座標系XYZに
従えば、対象物Wと二次元像との間、すなわち、対象物
W上で特定される三次元座標点(x,y,z)と、仮想
結像面53で想定される対応二次元座標点(xi ,y
i ,zi )との間には、
【数33】 といった関係が成立する。zi =0に設定すると、
【数34】 に基づき、
【数35】 が得られる。こうした非線形変換は次式のような線形変
換に置き換えられることができる。
【0049】
【数36】 ただし、
【数37】 図10に示されるように、現実には、対象物Wおよびピ
ンホールカメラ51はともに物体座標系xyzに存在す
る。したがって、仮想結像面53すなわち投影面に規定
される二次元座標系xii と物体座標系xyzとは、
回転および平行移動を含めた変換によって関連付けられ
ることができる。こうした変換が加えられると、
【数38】 が得られる。すなわち、
【数39】
【数40】 が導き出される。その結果、3×4のC行列には、ピン
ホールカメラ51の主点55の位置や、光学系主軸56
の向き、焦点距離fを始めとする全ての情報が含まれる
こととなる。したがって、3×4のC行列が特定されれ
ば、物体座標系xyzで特定される全ての三次元座標点
(x,y,z)は、実写像の投影面に規定される二次元
座標系xii に従って二次元座標点(xi ,yi )に
写像されることができる。
【0050】次に投影面特定回路29の原理を詳述す
る。いま、1つの基準点に対して、物体座標系xyzに
従った三次元座標値(x,y,z)と、二次元座標系x
iiに従った二次元座標値(xi ,yi )とが特定さ
れると、次のような連立方程式が得られる。
【0051】
【数41】 なぜなら、式[数37]および式[数40]によれば、
【数42】 ただし、
【数43】 が成立するからである。したがって、同一平面で特定さ
れることのない6個の基準点に基づき6組の連立方程式
を立てれば、3×4のC行列に含まれる12個のパラメ
ータC11〜C34はすべて解き明かされることができ
る。
【0052】一般に、デジタルスチルカメラ11を始め
とする撮像装置では、三次元空間に存在する三次元物体
はレンズを通じて二次元の結像面に写像される。デジタ
ルスチルカメラ11で取得される画像データによれば、
レンズの歪みの影響を受けた二次元像が投影面に描かれ
ることとなる。その結果、前述のような形状データに基
づき再現される理想二次元像には、デジタルスチルカメ
ラ11に使用されたレンズの歪みの影響が反映されなけ
ればならない。以上のように、画像データに基づく二次
元座標値と、物体座標系xyzに従った三次元座標値を
用いて変換行列Rが算出されれば、デジタルスチルカメ
ラ11に用いられる現実のレンズの働きを反映した変換
行列Rが導き出されることができる。その結果、形状デ
ータに基づき仮想空間に再現される三次元像は、あたか
も実際のレンズを通して結像されたように仮想空間の1
投影面に描き出されることができることとなる。
【0053】以上のような理論に従えば、例えばn個の
基準点について三次元座標値(x,y,z)および二次
元座標値(xi ,yi )が明らかであれば、変換行列R
の1パラメータにC34=1を設定することにより、
【数44】 が成立する。ここで、
【数45】 とすれば、最小二乗法に従って、
【数46】 から各パラメータC11〜C33は解き明かされること
ができる。
【0054】以上のような形状検証システム10の動作
は、EWS12のCPU(中央演算処理装置)によって
処理されるソフトウェアプログラムに従って実現されれ
ばよい。こういったソフトウェアプログラムは、図12
に示されるように、例えばFD(フロッピーディスク)
といった磁気記録媒体61、CD(コンパクトディス
ク)やDVD(デジタルビデオディスク)といった光学
記録媒体62、その他の任意の記録媒体を通じてEWS
12に取り込まれればよい。
【0055】なお、本実施形態では、以上のように三次
元物体の対象物に対して形状精度の検証が実現されるこ
とができるだけでなく、二次元の対象物に対して形状精
度の検証が実現されてもよい。
【0056】
【発明の効果】以上のように本発明によれば、実写像に
現れるレンズの歪みの影響を反映し、実写像に正確に整
合した仮想カメラ画像を形成することが可能となる。
【図面の簡単な説明】
【図1】 本発明に係る形状検証システムの全体構成を
概略的に示す模式図である。
【図2】 検査台を概略的に示す斜視図である。
【図3】 形状検証システムの全体構成を機能的に示す
ブロック図である。
【図4】 辺情報解析回路の構成を概略的に示すブロッ
ク図である。
【図5】 仮想空間で三次元像に対して位置決めされた
受け面を表示するディスプレイの画面を示す図である。
【図6】 仮想空間で三次元像に対して位置決めされた
突き当てを表示するディスプレイの画面を示す図であ
る。
【図7】 投影面に投影された物体座標系の透視像を示
す図である。
【図8】 実写像と二次元理想像とが重ねて表示される
ディスプレイの画面を示す図である。
【図9】 仮想カメラ画像形成回路の原理を概略的に示
す模式図である。
【図10】 物体座標系xyzと投影面上の二次元座標
系xii との関係を示す模式図である。
【図11】 他の具体例に係る形状検証システムの全体
構成を概略的に示す模式図である。
【符号の説明】
10 形状検証システム、11 CCD(電荷結合素
子)カメラとしてのデジタルスチルカメラ、12 コン
ピュータとしてのエンジニアリングワークステーション
(EWS)、26 仮想カメラ画像形成システムとして
機能する仮想カメラ画像形成回路、61 記録媒体とし
ての磁気記録媒体、62 記録媒体としての光学記録媒
体、W 対象物。
───────────────────────────────────────────────────── フロントページの続き Fターム(参考) 2F065 AA04 AA12 BB05 DD06 DD19 FF01 FF26 FF61 JJ03 JJ26 KK02 QQ21 QQ39 RR09 SS13 TT02 UU05 5B057 BA02 CA13 CB12 CD12 CD14 DA01 DA16 DB03 DC09

Claims (11)

    【特許請求の範囲】
  1. 【請求項1】 三次元空間に設定された基準点が1投影
    面に映し出される画像データを取得する工程と、前記三
    次元空間に構築された三次元座標系に従って前記基準点
    の三次元座標値を特定する基準位置データを取得する工
    程と、取得した画像データおよび基準位置データに基づ
    き、投影面に規定される二次元座標系および前記三次元
    座標系の間で写像を実現する変換行列を導き出す工程と
    を備えることを特徴とする仮想カメラ画像形成方法。
  2. 【請求項2】 三次元空間に設定された基準点が1投影
    面に映し出される画像データに基づき、投影面に規定さ
    れる二次元座標系に従って基準点の二次元座標値(x
    i ,yi )を取得する工程と、前記三次元空間に構築さ
    れた三次元座標系に従って前記基準点の三次元座標値
    (x,y,z)を取得する工程と、取得した二次元座標
    値(xi ,yi )および三次元座標値(x,y,z)に
    基づき、 【数1】 に従って各パラメータC11〜C34を算出する工程
    と、算出されたパラメータC11〜C34を用いて、前
    記二次元座標系および三次元座標系の間で写像を実現す
    る変換行列 【数2】 を導き出す工程とを備えることを特徴とする仮想カメラ
    画像形成方法。
  3. 【請求項3】 請求項2に記載の仮想カメラ画像形成方
    法において、前記三次元座標系で特定される三次元座標
    点(x,y,z)は、 【数3】 ただし、 【数4】 に基づき、前記二次元座標系で特定される二次元座標点
    (xi ,yi )に写像されることを特徴とする仮想カメ
    ラ画像形成方法。
  4. 【請求項4】 三次元空間に設定された少なくとも6個
    の基準点が1投影面に映し出される画像データに基づ
    き、投影面に規定される二次元座標系に従って各基準点
    の二次元座標値(xi ,yi )を取得する工程と、前記
    三次元空間に構築された三次元座標系に従って各基準点
    の三次元座標値(x,y,z)を取得する工程と、取得
    した二次元座標値(xi ,yi )および三次元座標値
    (x,y,z)に基づき、各基準点ごとに構築される連
    立方程式 【数5】 に従って各パラメータC11〜C34を算出する工程
    と、算出されたパラメータC11〜C34を用いて、前
    記二次元座標系および三次元座標系の間で写像を実現す
    る変換行列 【数6】 を導き出す工程とを備えることを特徴とする仮想カメラ
    画像形成方法。
  5. 【請求項5】 請求項4に記載の仮想カメラ画像形成方
    法において、前記三次元座標系で特定される三次元座標
    点(x,y,z)は、 【数7】 ただし、 【数8】 に基づき、前記二次元座標系で特定される二次元座標点
    (xi ,yi )に写像されることを特徴とする仮想カメ
    ラ画像形成方法。
  6. 【請求項6】 三次元空間に設定されたn個の基準点が
    1投影面に映し出される画像データに基づき、投影面に
    規定される二次元座標系に従って各基準点の二次元座標
    値(xi1,yi1)〜(xin,yin)を取得する工程と、
    前記三次元空間に構築された三次元座標系に従って各基
    準点の三次元座標値(x1 ,y1 ,z1 )〜(xn ,y
    n ,zn )を取得する工程と、取得した二次元座標値
    (xi1,yi1)〜(xin,yin)および三次元座標値
    (x1 ,y1 ,z1 )〜(xn ,yn ,zn )を用いて
    最小二乗法に基づき、 【数9】 ただし、 【数10】 に従って各パラメータC11〜C33を算出する工程
    と、算出されたパラメータC11〜C33を用いて、前
    記二次元座標系および三次元座標系の間で写像を実現す
    る変換行列 【数11】 を導き出す工程とを備えることを特徴とする仮想カメラ
    画像形成方法。
  7. 【請求項7】 請求項6に記載の仮想カメラ画像形成方
    法において、前記三次元座標系で特定される三次元座標
    点(x,y,z)は、 【数12】 ただし、 【数13】 に基づき、前記二次元座標系で特定される二次元座標点
    (xi ,yi )に写像されることを特徴とする仮想カメ
    ラ画像形成方法。
  8. 【請求項8】 請求項1〜7に記載の仮想カメラ画像形
    成方法において、前記画像データはCCD(電荷結合素
    子)カメラによって生成されることを特徴とする仮想カ
    メラ画像形成方法。
  9. 【請求項9】 請求項8に記載の仮想カメラ画像形成方
    法において、前記三次元空間で対象物の三次元像を特定
    する形状データを取得する工程と、前記変換行列を用い
    て、形状データに基づき再現された対象物の三次元像を
    前記投影面に投影する工程とをさらに備えることを特徴
    とする仮想カメラ画像形成方法。
  10. 【請求項10】 三次元空間に設定された基準点が1投
    影面に映し出される画像データを取得する工程と、前記
    三次元空間に構築された三次元座標系に従って前記基準
    点の三次元座標値を特定する基準位置データを取得する
    工程と、取得した画像データおよび基準位置データに基
    づき、投影面に規定される二次元座標系および前記三次
    元座標系の間で写像を実現する変換行列を導き出す工程
    とをコンピュータに実行させることを特徴とする記録媒
    体。
  11. 【請求項11】 三次元空間に設定された基準点が1投
    影面に映し出される画像データに基づき、投影面に規定
    される二次元座標系に従って基準点の二次元座標値(x
    i ,yi )を取得する工程と、前記三次元空間に構築さ
    れた三次元座標系に従って前記基準点の三次元座標値
    (x,y,z)を取得する工程と、取得した二次元座標
    値(xi ,yi )および三次元座標値(x,y,z)に
    基づき、 【数14】 に従って各パラメータC11〜C34を算出する工程
    と、算出されたパラメータC11〜C34を用いて、前
    記二次元座標系および三次元座標系の間で写像を実現す
    る変換行列 【数15】 を導き出す工程とをコンピュータに実行させることを特
    徴とする記録媒体。
JP11027099A 1999-04-19 1999-04-19 仮想カメラ画像形成方法 Expired - Fee Related JP4132387B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP11027099A JP4132387B2 (ja) 1999-04-19 1999-04-19 仮想カメラ画像形成方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP11027099A JP4132387B2 (ja) 1999-04-19 1999-04-19 仮想カメラ画像形成方法

Publications (2)

Publication Number Publication Date
JP2000306096A true JP2000306096A (ja) 2000-11-02
JP4132387B2 JP4132387B2 (ja) 2008-08-13

Family

ID=14531439

Family Applications (1)

Application Number Title Priority Date Filing Date
JP11027099A Expired - Fee Related JP4132387B2 (ja) 1999-04-19 1999-04-19 仮想カメラ画像形成方法

Country Status (1)

Country Link
JP (1) JP4132387B2 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN100589125C (zh) * 2007-12-29 2010-02-10 中国科学院计算技术研究所 一种虚拟摄像机规划布局方法和系统
JP2011227613A (ja) * 2010-04-16 2011-11-10 Canon Inc 画像処理装置および方法
JP2012063310A (ja) * 2010-09-17 2012-03-29 Mitsubishi Heavy Ind Ltd 欠陥寸法測定装置、欠陥寸法測定方法、及びプログラム
DE102011051417A1 (de) * 2011-06-28 2013-01-03 Lars Steinsiek Vorrichtung zur Erzeugung von Fotografien von Objekten
CN111159872A (zh) * 2019-12-23 2020-05-15 中国一拖集团有限公司 基于人机工程仿真分析的三维装配工艺示教方法及系统
CN111274927A (zh) * 2020-01-17 2020-06-12 北京三快在线科技有限公司 一种训练数据的生成方法、装置、电子设备和存储介质
CN114295071A (zh) * 2021-08-16 2022-04-08 云南特可科技有限公司 一种获取目标形态的多维测量方法

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN100589125C (zh) * 2007-12-29 2010-02-10 中国科学院计算技术研究所 一种虚拟摄像机规划布局方法和系统
JP2011227613A (ja) * 2010-04-16 2011-11-10 Canon Inc 画像処理装置および方法
US8717419B2 (en) 2010-04-16 2014-05-06 Canon Kabushiki Kaisha Image processing apparatus and method
JP2012063310A (ja) * 2010-09-17 2012-03-29 Mitsubishi Heavy Ind Ltd 欠陥寸法測定装置、欠陥寸法測定方法、及びプログラム
DE102011051417A1 (de) * 2011-06-28 2013-01-03 Lars Steinsiek Vorrichtung zur Erzeugung von Fotografien von Objekten
DE102011051417B4 (de) * 2011-06-28 2014-02-06 Lars Steinsiek Vorrichtung zur Erzeugung von Fotografien von Objekten
CN111159872A (zh) * 2019-12-23 2020-05-15 中国一拖集团有限公司 基于人机工程仿真分析的三维装配工艺示教方法及系统
CN111159872B (zh) * 2019-12-23 2023-02-28 中国一拖集团有限公司 基于人机工程仿真分析的三维装配工艺示教方法及系统
CN111274927A (zh) * 2020-01-17 2020-06-12 北京三快在线科技有限公司 一种训练数据的生成方法、装置、电子设备和存储介质
CN114295071A (zh) * 2021-08-16 2022-04-08 云南特可科技有限公司 一种获取目标形态的多维测量方法

Also Published As

Publication number Publication date
JP4132387B2 (ja) 2008-08-13

Similar Documents

Publication Publication Date Title
JP4025442B2 (ja) 三次元モデル変換装置及び方法
JP2000516360A (ja) 三次元物体モデル化装置及び方法
Marcin et al. Hierarchical, three‐dimensional measurement system for crime scene scanning
JP2011522217A (ja) 部品の姿勢を表す点データに3次元モデルを位置合わせするシステム、プログラム製品、および関連する方法
JP2001506384A (ja) 3次元表面形状再構築のための装置および方法
Gibson et al. Interactive reconstruction of virtual environments from video sequences
JP5030953B2 (ja) 第2の対象物に対する第1対象物の相対位置を決定する方法及びシステム及び、対応するコンピュータプログラム及び対応するコンピュータ可読記録媒体
Wang et al. Accurate radius measurement of multi-bend tubes based on stereo vision
CN107886567A (zh) 一种三维快速扫描匹配识别及三维扫描系统
Niola et al. A new real-time shape acquisition with a laser scanner: first test results
Sansoni et al. 3-D optical measurements in the field of cultural heritage: the case of the Vittoria Alata of Brescia
Bradley et al. A complementary sensor approach to reverse engineering
JP4132387B2 (ja) 仮想カメラ画像形成方法
Son et al. Path planning of multi-patched freeform surfaces for laser scanning
JP4085671B2 (ja) データ処理方法、データ処理プログラムおよび記録媒体
JP4481384B2 (ja) 形状検証システムおよび仮想カメラ画像形成システム
JP4481383B2 (ja) 形状検証システムおよび形状検証方法
WO2002044650A9 (en) Method and apparatus for simulating the measurement of a part without using a physical measurement system
Sansoni et al. In-field performance of an optical digitizer for the reverse engineering of free-form surfaces
Tucci et al. Photogrammetry and 3d scanning: Assessment of metric accuracy for the digital model of danatello’s maddalena
JPH0650730A (ja) 三次元形状計測装置
CN115641405A (zh) 一种三维建模方法及系统
JP2001082951A (ja) 非接触計測点データ位置合わせ装置、非接触計測点データ位置合わせ方法及び記録媒体
Liu et al. Comparison Study of Three Camera Calibration Methods Considering the Calibration Board Quality and 3D Measurement Accuracy
CN110081863A (zh) 一种基于双目视觉的物体3d建模装置及方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051205

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080208

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080219

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080418

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080520

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080602

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110606

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110606

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees