JP2003178329A - 2つの3次元データの差分の表示装置およびコンピュータプログラム - Google Patents

2つの3次元データの差分の表示装置およびコンピュータプログラム

Info

Publication number
JP2003178329A
JP2003178329A JP2001377812A JP2001377812A JP2003178329A JP 2003178329 A JP2003178329 A JP 2003178329A JP 2001377812 A JP2001377812 A JP 2001377812A JP 2001377812 A JP2001377812 A JP 2001377812A JP 2003178329 A JP2003178329 A JP 2003178329A
Authority
JP
Japan
Prior art keywords
dimensional data
difference
dimensional
data
standard model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2001377812A
Other languages
English (en)
Other versions
JP4174985B2 (ja
Inventor
Osamu Toyama
修 遠山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Minolta Co Ltd
Original Assignee
Minolta Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Minolta Co Ltd filed Critical Minolta Co Ltd
Priority to JP2001377812A priority Critical patent/JP4174985B2/ja
Publication of JP2003178329A publication Critical patent/JP2003178329A/ja
Application granted granted Critical
Publication of JP4174985B2 publication Critical patent/JP4174985B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Processing Or Creating Images (AREA)

Abstract

(57)【要約】 【課題】2つの3次元データの差分がどのようになって
いるかを容易に把握できるようにすること。 【解決手段】2つの3次元データの差分の表示装置であ
って、2つの3次元データまたはいずれかの3次元デー
タに関連する面上に定義された複数の領域ごとに、2つ
の3次元データの差分についての代表値を求める手段
と、求められた代表値の大きさに応じて当該領域の表示
色を決定する手段と、決定した表示色によってそれぞれ
の領域を表示する手段とを有してなる。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、2つの3次元デー
タの差分の表示装置およびコンピュータプログラムに関
する。
【0002】
【従来の技術】従来より、対象物の3次元モデルを作成
するために、対象物についての標準モデルを準備してお
き、対象物を実測して得た3次元データに合わせてその
標準モデルを変形する(フィッティングする)方法が提
案されている(特開平5−81377号)。
【0003】フィッティングを行うに際し、できるだけ
少ないデータ処理量で正確な3次元モデルを生成するた
めに、フィッティングによって得られる3次元モデルと
対象物の3次元データとの誤差(差分)がどの程度かを
知ることが望ましい。そのために、それらの差分を色で
表示することが行われている。
【0004】また、CADデータに基づいて製作された
物品の仕上がり精度を検査するために、製作された物品
の3次元計測を行い、得られた計測データとCADデー
タとを比較し、それらの誤差(差分)を色によって表示
することが提案されている(特開平11−195054
号)。
【0005】
【発明が解決しようとする課題】しかし、従来の表示方
法によると、3次元データの各点の差分に対して表示色
が決定されるので、個々の差分の相違に起因して、狭い
範囲で複数の異なる色が表示されることとなる。そのた
め、ユーザがそれを見ると、複数の色が混ざってしま
い、差分がどのようになっているかを把握するのが困難
な場合がしばしばである。
【0006】また、物品や3次元モデルの差分の大きい
部分に対してはさらに加工や変形を行い、精度を上げて
いく必要があるが、従来の表示方法では、どの部分を加
工しまたは変形すればよいのかが分かり難い。
【0007】本発明は、上述の問題に鑑みてなされたも
ので、2つの3次元データの差分がどのようになってい
るかを容易に把握できるようにすることを目的とする。
【0008】
【課題を解決するための手段】本発明に係る装置は、2
つの3次元データの差分の表示装置であって、前記2つ
の3次元データまたはいずれかの3次元データに関連す
る面上に定義された複数の領域ごとに、2つの3次元デ
ータの差分についての代表値を求める手段と、求められ
た代表値の大きさに応じて当該領域の表示色を決定する
手段と、決定した表示色によってそれぞれの領域を表示
する手段と、を有してなる。
【0009】好ましくは、前記領域の表示色を決定する
手段は、1つまたは複数のしきい値を各領域ごとに可変
可能に設定する手段を有し、設定されたしきい値により
規定される範囲ごとに表示色を決定する。
【0010】また、いずれかの3次元データに対し各領
域を単位として修正を行う手段を有してなる。本発明に
係るコンピュータプログラムは、2つの3次元データま
たはいずれかの3次元データに関連する面上に定義され
た複数の領域ごとに、2つの3次元データの差分につい
ての代表値を求める処理と、求められた代表値の大きさ
に応じて当該領域の表示色を決定する処理と、決定した
表示色によってそれぞれの領域を表示する処理とをコン
ピュータに実行させる。
【0011】本発明において、表示色には、白、灰色、
黒などの無彩色も含む。色の概念には濃度が含まれる。
【0012】
【発明の実施の形態】以下において、本発明に係る表示
装置を、人の頭部の3次元モデルを生成するモデリング
装置1に適用した実施形態について説明する。モデリン
グ装置1は、予め作成した標準モデルを人の頭部につい
ての計測データ(3次元データまたは2次元画像)に合
うように変形する(フィッティングする)ことにより3
次元モデルを生成する。
【0013】図1は本発明の実施形態に係るモデリング
装置1を示すブロック図、図2はある標準モデルDSに
定義された領域EAの例を示す図、図3は3次元モデル
MLと3次元データDTとの差分SBを説明するための
図、図4は各領域EAに設定されたしきい値THの例を
示す図、図5はしきい値THの範囲に対して設定された
表示色CLの例を示す図、図6は差分表示画面HG1の
例を示す図、図7は3次元データDTの各点に対して色
を設定した場合の差分表示画面HG1jの例を示す図、
図8は歯車製品についての差分表示画面HG2の例を示
す図である。
【0014】図1に示すように、モデリング装置1は、
処理装置10、磁気ディスク装置11、媒体ドライブ装
置12、ディスプレイ装置13、キーボード14、マウ
ス15、および3次元計測装置16などからなる。
【0015】処理装置10は、CPU、RAM、RO
M、ビデオRAM、入出力ポート、および各種コントロ
ーラなどからなる。RAMおよびROMなどに記憶され
たプログラムをCPUが実行することにより、処理装置
10上に種々の機能が実現される。
【0016】磁気ディスク装置11には、OS(Operat
ing System) 、3次元モデルMLを生成するためのモデ
リングプログラムPR、その他のプログラム、標準モデ
ル(標準モデルデータ)DS、3次元データ(3次元計
測データ)DT、2次元画像(2次元計測データ)F
T、生成された3次元モデルML、その他のデータなど
が格納されている。これらのプログラムおよびデータ
は、適時、処理装置10のRAMにローディングされ
る。
【0017】なお、モデリングプログラムPRには、計
測処理、概略位置合わせ、データ削減処理、変形処理、
部分領域選択処理、差分表示処理、およびその他の処理
のためのプログラムが含まれる。
【0018】媒体ドライブ装置12は、CD−ROM
(CD)、フロッピィディスクFD、または光磁気ディ
スクなどの記録媒体にアクセスし、データまたはプログ
ラムの読み書きなどを行うものである。記録媒体の種類
に応じて適切なドライブ装置が用いられる。上に述べた
モデリングプログラムPRは、これら記録媒体からイン
ストールすることが可能である。標準モデルDS、3次
元データDT、および2次元画像FTなども、記録媒体
を介して入力することが可能である。
【0019】ディスプレイ装置13の表示面HGには、
上に述べた種々のデータ、およびモデリングプログラム
PRにより生成された3次元モデルML、生成されたま
たは生成中の3次元モデルと対象物の3次元データとの
差分を示す差分表示画面、その他のデータ(画像)また
は画面が表示される。
【0020】キーボード14およびマウス15は、処理
装置10にデータを入力しまたは指令を与えるために用
いられる。3次元計測装置16は、例えば光切断法によ
って対象物の3次元データDTを得るためのものであ
る。3次元計測装置16によって直接的に3次元データ
DTを得ることも可能であり、また、3次元計測装置1
6から出力されるデータに基づいて処理装置10などで
演算を行い、間接的に3次元データDTを得ることも可
能である。
【0021】3次元データDTと同時に、必要に応じて
同じ対象物について同じ視線上の2次元画像FTを取得
することも可能である。そのような3次元計測装置16
として、例えば特開平10−206132号に示される
公知の装置を用いることが可能である。
【0022】また、対象物の3次元データDTを取得す
る公知の他の方法として、対象物に対して視差を有して
配置された複数のカメラを用いる方法などがある。それ
らのカメラから得られた視差を有する複数の画像から、
立体写真法を用いて3次元データDTを演算により求め
ることができる。
【0023】特に、本実施形態においては、上に述べた
ように、2つの3次元データ(つまり、標準モデルDS
または3次元モデルMLと対象物の3次元データDT)
の差分SBを色で示す差分表示画面HG1を、ディスプ
レイ装置13の表示面HGに表示することが可能であ
る。
【0024】差分表示画面HG1の生成に当たって、構
造化された標準モデルDSの表面に、予め複数の領域E
A1,EA2、EA3…を定義しておく。領域EAを定
義するに際し、標準モデルDSにおける各部分の必要精
度を考慮し、同程度の精度を必要とする部分によって1
つの領域EAを定義する。
【0025】図2に示す例では、標準モデルDSは人の
頭部であり、表情に大きな影響を与えるために高い精度
を必要とする口の周辺を領域EA1、目の周辺を領域E
A3、EA4とし、中程度の精度を必要とする鼻の周辺
を領域EA2とし、低精度でよい他の部分を領域EA5
とする。
【0026】このほか、部品単位、加工単位、または修
正単位ごとに、領域EAを定義してもよい。これら領域
EAごとに、標準モデルDSと3次元データDTとの差
分SBについての代表値DHを求める。代表値DHとし
て、例えば、各3次元データの差分SBの各領域EA内
における平均値、または二乗平均値などが用いられる。
【0027】なお、差分SBは、例えば、一方の3次元
データ上の1つの点と、他方の3次元データ上の1つの
点との距離として求める。または、一方の3次元データ
上の1つの点から他方の3次元データ上の面への距離と
して求める。
【0028】例えば、図3に示す例では、3次元データ
DT上の1つの点から、変形後の3次元モデルMLの表
面に垂線を下ろし、 垂線の長さを差分SBとする。ま
た、予め、各領域EAに対して、1つまたは複数のしき
い値THを各領域EAごとに可変可能に設定しておく。
【0029】すなわち、図4に示す例では、それぞれの
領域EAに対して2つのしきい値TH1,TH2が設定
される。最も精度の高い領域EA1,3,4について、
しきい値1は「0.1」、しきい値2は「0.3」であ
る。中程度の精度の領域EA2について、しきい値1は
「0.3」、しきい値2は「0.5」である。低精度の
領域EA5についてはしきい値が設定されていないの
で、その場合には、デフォルト値として設定されたしき
い値「0.5」「1.0」が用いられる。
【0030】しきい値THを設定するに当たり、実験や
経験に基づいて値を決定することができる。また、CA
Dデータに基づいて製作された物品の差分表示画面を生
成する際には、しきい値THを、物品の製作公差または
許容公差から算出してもよい。しきい値THを設定しな
い領域EAに対しては、デフォルト値を適用すればよ
い。
【0031】そして、設定されたしきい値THにより規
定される範囲ごとに、予め設定された表示色CLが割り
当てられる。図5に示す例では、しきい値1以下の場合
に表示色CLは「青」、しきい値1〜しきい値2の場合
に表示色CLは「黄」、しきい値2以上の場合に表示色
CLは「赤」となる。これらの色「青」「黄」「赤」
は、他の種々の色であってもよい。色に変えて、色を指
定するコードであってもよい。また、色そのもののデー
タであってもよい。
【0032】これらの設定に基づいて、各領域EAの表
示色CLが決定される。決定した表示色CLによってそ
れぞれの領域EAを表示したものが、差分表示画面HG
1である。その一例が図6に示される。
【0033】図6に示すように、3次元モデルML(ま
たは標準モデルDS)は、各領域EAに対して1つの表
示色CLが割り当てられ、表示される。図6の例では、
目の領域EA3,4は、その代表値DHがしきい値2以
上であり、差分SBが大きいことが分かる。したがっ
て、領域EA3,4について、さらにフィッティングを
行う必要があると判断される。鼻の領域EA2は、その
代表値DHがしきい値1以下であり、差分SBが充分に
小さいことが分かる。したがって、領域EA2について
は充分に正確であり、フィッティングを終了してもよい
と判断される。
【0034】このように、3次元モデルMLにおいて、
3次元データDTとの差分SBがどのようになっている
かを、ユーザは容易に把握できる。また、差分SBの状
態をモデリングプログラムPRが自動的に認識すること
が可能である。したがって、差分SBの状態に応じて、
フィッティングをさらに続行するか、またはフィッティ
ングを終了するかを決定することが可能である。
【0035】また、フィッティングを続行するか否かの
判断に際し、各領域EAを単位として、そのような判断
を行うことができる。フィッティングが必要である場合
には必要な領域EAについてのみフィッティングを行
う。したがって、その場合には、無用のフィッティング
を行うことが避けられ、少ないデータ処理量で正確な3
次元モデルMLを生成することが可能となる。
【0036】また、上に述べたように、領域EAの定義
は、標準モデルDSに対して行っておけばよく、対象物
の3次元データDTに対していちいち行う必要はない。
したがって、領域EAの定義が容易である。標準モデル
DSに対して領域EAを定義する際に、各部分の精度の
要求される程度に見合って領域EAを決めることができ
る。
【0037】これに対して、領域EAを定義することな
く、3次元データDTの各点に対して色を設定した場合
には、各点の色が混ざってしまい、差分SBの状態を把
握することができない。また、各点に対して同じしきい
値THが設定されるので、精度を要する部分とそうでな
い部分とを明確に区別することができない。
【0038】図8には、CADデータに基づいて製作さ
れた歯車製品と、その歯車製品の3次元計測を行って得
られた計測データとの差分SBについて、図6の場合と
同様に領域EAを定義して代表値DHに対応した表示色
CLを表示した様子が示されている。
【0039】図8の例では、歯車製品の歯面について
は、代表値DHがしきい値TH1よりも小さく、精度は
充分であると判断される。しかし、歯車製品の端面につ
いては、代表値DHがしきい値TH2よりも大きく、歯
車製品の厚さについてさらなる加工を行って精度を上げ
る必要があると判断される。
【0040】なお、図8に示す例のように、工業製品の
設計図(CADデータ)と実際の製品の計測データとの
差分SBを表示する場合に、代表値DHとして二乗平均
をとると差分SBの正負が区別できないので、二乗平均
とすることなく、単純平均または加重平均などとすれば
よい。
【0041】また、表示色CLには、白、灰色、黒など
の無彩色も含む。色は、例えば3原色の各濃度によって
決定されるので、濃度の異なるものは異なる色であると
する。つまり、色の概念には濃度が含まれる。
【0042】表示色CLとして、例えばグレースケール
の濃度を変えることによって、差分SBの傾向を容易に
把握することができる。モデリング装置1は、パーソナ
ルコンピュータまたはワークステーションなどを用いて
構成することが可能である。上に述べたプログラムおよ
びデータは、ネットワークNWを介して受信することに
より取得することも可能である。
【0043】次に、モデリング装置1の全体の処理の流
れについて、フローチャートを参照しながら説明する。
図9はモデリング装置1の全体の処理の流れを示すフロ
ーチャート、図10は変形処理を示すフローチャート、
図11は差分表示処理を示すフローチャート、図12は
標準モデルDS1の例を示す図、図13は対象物から3
次元データDTを取得する様子を示す図、図14(A)
(B)は概略の位置合わせの様子を示す図、図15は輪
郭および特徴点の抽出処理の様子を示す図、図16は標
準モデルDSの異常変形を防ぐための仮想バネを説明す
るための図である。 〔標準モデルの準備〕図9において、まず、対象物につ
いての標準モデルDSを準備する(#11)。本実施形
態では対象物が人の頭部であるので、種々のサイズおよ
び形状を有した、頭部の全周についての複数の標準モデ
ル群の中から、対象物の頭部に最もよく似た標準モデル
DS1を準備する。
【0044】標準モデルDSは、ポリゴンで定義された
3次元形状モデル、または自由曲面で定義された3次元
形状モデルのいずれでもよい。ポリゴンで定義された3
次元形状モデルである場合は、各ポリゴンの頂点の3次
元座標によって表面の形状が決まる。自由曲面で定義さ
れた3次元形状モデルである場合は、曲面を定義する関
数、および各制御点の座標によって表面の形状が決ま
る。
【0045】なお、ポリゴンで定義された3次元形状モ
デルである場合に、各ポリゴンの頂点を「構成点」と記
載する。また、標準モデルDSのフィッティングに際し
て、標準モデルを変形するために用いられる点を「制御
点」と呼称する。制御点とポリゴンの構成点との位置関
係は任意であり、制御点はポリゴンの面上に設定されて
いてもよく、ポリゴンの面から離れて設定されていても
よい。1つの制御点は複数の構成点(3〜100程度)
と関連付けられており、制御点の動きに合わせて関連付
けられた構成点が移動する。標準モデルDSのフィッテ
ィングに際しては、これら複数の制御点を移動させるこ
とによって標準モデルDS全体を変形する。3次元形状
モデルが自由曲面で定義されている場合も、フィッティ
ングに使用する制御点の配置は任意である。
【0046】制御点は、目尻、唇端などのように細かな
形状を持つ部分、および、鼻、唇などのように急激な形
状の変化を持つ部分には、高い密度で配置される。それ
以外の部分には一様に配置される。
【0047】標準モデルDSには、ある方向から見た特
徴的な輪郭RKおよび特徴点TTが設定される。輪郭R
Kとして、例えば、目、鼻、口、または顎などに、瞼の
ライン、鼻のライン、唇のライン、または顎のラインな
どが設定される。特徴点TTとして、例えば、目や口の
端部、鼻の頂部、顎の下端部のように、実際に特徴のあ
る部分、または、それらの中間のようなそれ自体では特
徴はないが位置的に特定し易い部分などが選ばれる。
【0048】図12に示す標準モデルDS1では、顎の
ライン、唇のライン、および瞼のラインが輪郭RK1〜
3として設定されている。図12で分かるように、輪郭
RK1は、標準モデルDS1をある方向から見たとき
に、その縁線となる部分である。また、図12に示す標
準モデルDS1では、設定された特徴点TTの一部のみ
が実際に図に表されている。
【0049】標準モデルDSに対して、上に説明したよ
うに、複数の領域EA1,EA2、EA3…を定義して
おく。また、各領域EAに対して、しきい値THを設定
しておく。しきい値THによる範囲に対する表示色CL
も設定しておく。 〔3次元データの取得〕次に、対象物の3次元計測を行
い、3次元データDTを取得する(#12)。その際
に、対象物の2次元画像FTをも同時に取得しておく。
また、3次元データDTの各点についての信頼性を示す
信頼性データDR、または信頼性データDRを得るため
の情報を必要に応じて取得しておく。
【0050】例えば、図13に示すように、3次元計測
装置16を用いて、対象物である人の頭部を計測(撮
影)する。これによって、3次元データDTおよび2次
元画像FTが取得される。
【0051】なお、対象物を計測して得た3次元データ
DTおよび/または2次元画像FTを、「計測データ」
と記載することがある。標準モデルDSの準備と3次元
データDTの取得とはいずれが先でもよく、並行して進
めてもよい。 〔概略の位置合わせ〕標準モデルDSと3次元データD
Tとの概略の位置合わせを行う(#13)。この処理で
は、標準モデルDSと3次元データDTとが概略一致す
るように、標準モデルDSの向き、サイズ、および位置
を変更する。このとき、標準モデルDSを、X,Y,Z
のそれぞれの方向に個別に任意の倍率に偏倍することに
より、それぞれの方向のサイズを3次元データDTによ
く合わせることができる。
【0052】例えば、図14(A)に示すように、3次
元データDTに対して、標準モデルDSを回転させ且つ
各方向に偏倍することにより、図14(B)に示すよう
に、3次元データDTとほぼ同じサイズの標準モデルD
Saを得ることができる。なお、わかりやすくするため
に、図面上では位置を合わせていないものを示す。 〔全体的概略位置合わせ〕全体的概略位置合わせでは、
3次元データDTと標準モデルDSとの距離を最小とす
るように、標準モデルDSの位置、方向、およびサイズ
を変更する。
【0053】すなわち、次の(1)式に示すエネルギー
関数e(si,αi,ti)が最小となるsi,αi,
tiを導く。なお、f(si,αi,ti)は、3次元
データDTと標準モデルDSとの距離に関連して定義さ
れるエネルギー関数である。g(si)は、過剰な変形
を避けるための安定化エネルギー関数である。
【0054】また、3次元計測装置16によって3次元
データDTを取得する際に同時に取得した2次元画像F
Tを用い、2次元画像FT上でのパターンマッチングを
用いて、位置、方向、およびサイズの初期値を与えても
よい。
【0055】
【数1】
【0056】但し、 K :3次元データの構成点の個数 dk :3次元データの構成点と標準モデルの表面との距
離 Wsc:偏倍安定化のウエイトパラメータ S0 :初期スケール Si :各方向の偏倍量(但し、S3 は奥行き方向であ
る) αi :標準モデルの各方向の回転 ti :標準モデルの各方向への移動量 ここで、標準モデルDS上の構成点は次の(2)式にし
たがって移動し、それにともなって、3次元データDT
の構成点と標準モデルDSの表面との間の距離dk が変
化する。
【0057】
【数2】
【0058】〔局所的概略位置合わせ〕上に述べた全体
的概略位置合わせを自動で行った場合に、それがうまく
合わなかったときに、手動で合わせることとなるが、こ
こに述べる局所的概略位置合わせは、手動での位置合わ
せの際にできるだけ簡単に行うための手法である。な
お、自動でうまくいかなかった分は一旦リセットし、初
めから手動でやり直す。
【0059】局所的概略位置合わせでは、3次元データ
DT上の特徴的な線または点と、標準モデルDS上の特
徴的な線または点とを対応づけ、それらの距離を最小に
するように標準モデルDSの位置、方向、およびサイズ
を変更する。なお、線と線とを対応付けた場合は、一方
の線上の点とその点から他方の線上へ降ろした垂線のう
ち最短となる点とを特徴点とし、線上でこれらの点を複
数点取得するものとする。
【0060】すなわち、3次元データDT上の特徴点と
それに対応する標準モデルDS上の特徴点との距離に対
して、次の(4)式に示すエネルギー関数E(si,α
i,ti)が最小となるように、標準モデルDSのt
i,αi,siを導く。
【0061】
【数3】
【0062】但し、 k :対応する特徴点の個数 Mk :位置合わせ後の標準モデル上の特徴点 x :位置合わせ前の標準モデル上の特徴点 Ck :3次元データ上の特徴点 Si :標準モデルの各方向の偏倍量 αi :標準モデルの各方向の回転 ti :標準モデルの各方向への移動量 〔輪郭・特徴点の抽出〕3次元データDTまたは2次元
画像FT上に、輪郭および特徴点を抽出する(#1
4)。標準モデルDSについての輪郭RKおよび特徴点
TTを予め抽出しておいた場合には、それらと同じ位置
に配置されるべき輪郭および特徴点を、3次元データD
T上に、またはそれに対応する2次元画像上に配置する
(図15参照)。
【0063】標準モデルDSについての輪郭RKおよび
特徴点TTが予め抽出されていない場合には、3次元デ
ータDT上または2次元画像上への配置と合わせて標準
モデルDS上でも指定する。 〔データ削減〕次に、計算量および誤差を削減するため
に、3次元データDTについてデータの削減を行い、必
要且つ信頼性の高いデータのみを取り出す(#15)。
データの削減を行うことによって、元の3次元データD
Tの形状を崩すことなく、計算量を減らすことができ
る。
【0064】データの削減に当たって、例えば、対象物
の領域外のデータを除外し、不要なデータを除く。例え
ば、2次元画像FTから顔の領域を判別し、その領域に
対応した3次元データDTのみを残す。あるいは、対象
物と背景との間の距離の相違を用いて領域を判別する。
また、概略位置合わせの情報を用いて、顔の領域を抽出
するなどの各種の方法がある。また、3次元データDT
に信頼性データDRがある場合には、信頼性の高いもの
のみを残す。近隣にデータが多い場合はそのデータを間
引き、密度を平均化する。 〔変形〕標準モデルDS全体の変形が行われる(#1
6)。ここでは、3次元データDTの各構成点と標準モ
デルDSの面との間の距離に関連して定義されたエネル
ギー関数e1 を用いるとともに、それに加えて、標準モ
デルDSの特徴点と3次元データDTに対して指定され
た特徴点との間の距離に関連して定義されるエネルギー
関数e3 、標準モデルDSの輪郭と3次元データDTに
対して指定された輪郭との間の距離に関連して定義され
るエネルギー関数e2 、および、過剰な変形を回避する
ために定義されたエネルギー関数es を用い、それらを
総合したエネルギー関数eを評価し、総合のエネルギー
関数eが最小となるように標準モデルDSの面を変形さ
せる。
【0065】なお、総合のエネルギー関数eとして、e
1,e2,e3,esの4つの関数を用いるのが一番望
ましいが、e1〜e3のうち任意の2つだけを用いるこ
とも可能である。
【0066】次に、各エネルギー関数について簡単に説
明する。 〔標準モデルと3次元データとの距離〕図3において、
3次元データDTを構成する点群の1つが点Pkで示さ
れている。標準モデルDSの面Sにおいて、点Pkに最
も近い点がQkで示されている。点Qkは、点Pkから
面Sに垂線を下ろしたときの交点である。ここでは、点
Pkと点Qkとの距離(差分SB)が評価される。
【0067】すなわち、3次元データDTの各点と標準
モデルDSの面との差分エネルギーe1 は、データ削減
後の3次元データDT上の点Pkと、それを標準モデル
DSの面S上に投影した点Qkとの二乗距離を用いて、
次の(7)式によって算出される。
【0068】
【数4】
【0069】但し、 T1A:制御点群 Pk :削減後の3次元データの構成点 Qk :構成点からモデル表面への投影点 K :削減後の構成点の個数 dk :構成点からモデル表面への投影方向, dk =(Qk-Pk )/|Qk-Pk | ρk :構成点Pk の信頼性 w(ρk):信頼性関数,w(ρk)=1/(α+ρk )n W :Σw(ρk) L :種々のエネルギーを同一単位で扱うための調整用
スケール 〔標準モデル上の輪郭と計測データ上の輪郭との距離〕
ここでは、3次元データDT上に指定された輪郭RK、
または2次元画像FT上に指定された輪郭RKと、標準
モデルDS上の輪郭RKとの距離が評価される。
【0070】計測データの輪郭RKが3次元データDT
上に指定される場合は、3次元データDTの輪郭RK上
の点から標準モデルDS上の対応する輪郭RKへ垂線を
降ろし、その垂線のうち最短のものを距離とする。な
お、輪郭RK上では複数の点を指定する。
【0071】計測データの輪郭RKが2次元画像FT上
に指定される場合は、2次元画像FTを撮影したカメラ
についてのカメラパラメータを用い、標準モデルDSの
輪郭RKを2次元画像FT上に投影する。2次元画像F
Tの輪郭RK上の点から、標準モデルDSの対応する輪
郭RKへ垂線を降ろし、その垂線のうち最短のものを距
離とする。なお、輪郭RK上では複数の点を指定する。
【0072】計測データの輪郭RKが3次元データDT
上に指定される場合に、標準モデルDSの輪郭RK毎の
差分エネルギーe2 は、それらの距離の二乗和を用いて
次の(8)式によって計算される。
【0073】
【数5】
【0074】但し、 T2A:制御点群 pk :3次元データ上の輪郭点 qk :3次元データ上の輪郭点から対応するモデル輪郭
への垂足点 n :1つのモデル輪郭に対応が付けられている3次元
データの輪郭点数 dk :計測データの輪郭点から対応するモデル輪郭線へ
の投影方向, dk =(qk-pk )/|qk-pk | l :種々のエネルギーを同一単位で扱うための調整用
スケール 〔標準モデル上の特徴点と対応した計測データ上の特徴
点との距離〕計測データ上に特徴点TTを設定すること
により、3次元データDT上に指定された特徴点TT、
または2次元画像FT上に指定された特徴点TTと、標
準モデルDS上の特徴点との距離が評価される。
【0075】3次元データDT上の特徴点TTと標準モ
デルDS上の特徴点TTとの差分エネルギーe3 は、対
応する特徴点TTの二乗距離を用いて次の(10)式に
よって計算される。 〔過剰な変形を回避するための安定化エネルギー〕上に
述べた差分のエネルギーに加え、過剰な変形を回避する
ための安定化エネルギーes が導入される。
【0076】すなわち、変形に用いられる制御点の間
が、図16に示す仮想バネ(elastic bar) KBによって
つながれているものとする。仮想バネKBの制約に基づ
いて、標準モデルDSの面Sの形状の安定化のための安
定化エネルギーes が定義される。
【0077】なお、仮想バネは必ずしも制御点間に張ら
れている必要はない。制御点と仮想バネとの関係が明確
であればよい。図16において、フィッティング対象で
ある標準モデルDSの面Sの一部が示されている。面S
は、制御点群U=|ui,i=1…N|で形成されてい
る。隣接する制御点間には、仮想バネKBが配置されて
いる。仮想バネKBは、制御点間に引っ張り力による拘
束を与え、面Sの異常変形を防ぐ働きをする。
【0078】つまり、隣接する制御点uの間隔が大きく
なった場合に、それに応じて仮想バネKBによる引っ張
り力が大きくなる。例えば、点Qkが点Pkに近づく場
合に、その移動にともなって制御点uの間隔が大きくな
ると、仮想バネKBによる引っ張り力が増大する。点Q
kが移動しても制御点uの間隔が変わらなければ、つま
り制御点u間の相対位置関係に変化がなければ、仮想バ
ネKBによる引っ張り力は変化しない。仮想バネKBに
よる引っ張り力を面Sの全体について平均化したもの
を、安定化エネルギーes として定義する。したがっ
て、面Sの一部が突出して変形した場合に安定化エネル
ギーes は増大する。面Sの全体が平均して移動すれば
安定化エネルギーes は零である。
【0079】安定化エネルギーes は、仮想バネKBの
変形の状態により、次の(11)式により求められる。
【0080】
【数6】
【0081】但し、 TsA:制御点群 U〜m,V〜m :仮想バネの端点(制御点)の初期値 Um,Vm :変形後の仮想バネの端点 L0m:初期状態の仮想バネの長さ, L0m=|U〜m −V〜m | M :仮想バネの本数 c :バネ係数 L :種々のエネルギーを同一単位で扱うための調整用
スケール したがって、バネ係数cを大きくすると、仮想バネKB
は硬くなって変形し難くなる。
【0082】このような安定化エネルギー関数es を導
入することにより、面Sの形状変化に一定の拘束を設け
ることとなり、面Sの過度の変形を防ぐことができる。 〔総合のエネルギー関数〕上に述べたように、各エネル
ギー関数e1,e2,e3,e4 について、それぞれ制御点群
T1A, T2A, T3A, TsAが用いられる。ここでは、これ
らの制御点群T1A〜TsAは同じであるが、後述するよう
に互いに異ならせることができる。これら制御点群TA
を用いて標準モデルDSの変形を行い、次の(12)式
に示す総合エネルギー関数e(TA)を最小にする制御
点群TAを求める。
【0083】
【数7】
【0084】但し、 e1(T1A): 3次元データの構成点とモデル表面との差
分エネルギー e2s (T2A): モデル輪郭毎の計測データ上の輪郭との差
分エネルギー e3(T3A): 計測データの特徴点とモデル上の特徴点と
の差分エネルギー eS(TSA): 過剰な変形を回避するための安定化エネル
ギー wi, c : それぞれのエネルギーのウエイトパラメー
タ TA=T1A=T2A=T3A=TSA 〔繰り返し変形〕実際には繰り返し変形を行う(#1
7)。つまり、制御点を動かして繰り返して変形を行
う。n回目の変形後の総合エネルギー関数をen(TA)
とすると、次の(13)式の条件が満たされたときに、
総合エネルギー関数en (TA)が収束したと判断す
る。
【0085】
【数8】
【0086】さて、ここで、変形処理の全体的な流れを
図10に沿って説明する。まず、計測データと標準モデ
ルDSとの間で対応する点の組みを作成する(図3のP
kとQk)(#21)。
【0087】面Sを変形し(#22)、変形後の総合エ
ネルギー関数en(TA)を計算する(#23)。総合エ
ネルギー関数en(TA)が収束するまで(#24でイエ
ス)、処理を繰り返す。
【0088】総合エネルギー関数en(TA)の収束を判
定する方法として、上に述べたように総合エネルギー関
数en(TA)が所定の値よりも小さくなったときを収束
とする方法、前回の計算と比較べた変化の割合が所定値
以下となったときに収束とする方法など、公知の方法を
用いることが可能である。 〔差分表示〕ステップ#17までの処理によってかなり
精密な3次元モデルMLを得ることができる。しかし、
ステップ#17までの処理は対象物全体を対象として行
われているので、局所的に特徴を有する部分については
必ずしも精密なフィッティングがなされているとは限ら
ない。そこで、対象物のうち特徴のある部分またはステ
ップ#17までの処理で十分なフィッティングがなされ
ていない部分を3次元データDTから抽出し、抽出した
3次元データDTのみを用いて、さらに標準モデルDS
のフィッティングを行う。
【0089】そのような部分を抽出するために、ステッ
プ#17までの処理によって得られた3次元モデルML
と、対象物の3次元データDTとの差分SBの状態を差
分表示画面HG1として表示する。ユーザは、差分表示
画面HG1を見ることによって、差分SBの状態を知
り、さらにフィッティング処理を行う必要のある部分を
抽出することができる。また、さらにフィッティング処
理を行う必要のある部分をモデリングプログラムPRに
よって自動的に認識させ、以下の処理を自動的に続行さ
せることも可能である。
【0090】図11において、2つの3次元データの差
分SBを求め(#31)、各領域EAについての代表値
DHを求める(#32)。求められた代表値DHの大き
さに応じて、各領域EAの表示色CLを決定する(#3
3)。
【0091】決定した表示色CLによってそれぞれの領
域EAを表示する(#34)。 〔部分領域変形〕図17は部分領域BRYの抽出の例を
示す図、図18(A)(B)(C)は部分領域BRYを
用いて標準モデルDSの変形を行う方法の例を説明する
図である。
【0092】図17に示すように、3次元データDTか
ら部分領域BRYを抽出する。各部分領域BRYa、B
RYb、BRYcは、それぞれ、対象物の目およびその
周辺、口およびその周辺、鼻およびその周辺を、3次元
データDTより抽出して得られた3次元データである。
また、各部分領域BRYは、必要に応じて、データ量を
減らすためにデータ削減が行われる。データ削減の処理
は、例えば、ステップ#15で行ったデータ削減と同様
の手順で行う。後述する部分領域変形では、フィッティ
ングの領域が部分領域BRYに限定されるので、(6)
式の右辺をステップ#15のときよりも0に近くしてデ
ータ削減率を低くし、これによって部分領域BRYの精
密性を維持した場合であってもフィッティング処理に多
くの時間を要さない。従って、部分領域BRYの範囲の
広さ、要求する精密性、および処理時間などを考慮し
て、部分領域BRYごとにデータ削減率を設定すること
ができる。部分領域BRYの抽出は、ステップ#12の
処理のとき、つまり、3次元データDTを得たときに予
め行っておいてもよいし、ステップ#17までの処理が
完了した後に行ってもよい。また、上のステップ#19
で述べた方法を用いることが可能である。
【0093】図18に示すように、標準モデルDS1
a、DS1bは、標準モデルDS1の部分領域変形の過
程を示すものである。ステップ#19においては、ステ
ップ#17までの処理で得られた図18(A)の標準モ
デルDS1を、図18(B)に示すように部分領域BR
Yaを用いてフィッティングし、標準モデルDS1aを
得る。フィッティングは、ステップ#16で行ったよう
に、変形ないし繰り返し変形と同様の手順で行われ、
(7)式の制御点群T1A、点Pk 、点Qk 、または(1
3)式のしきい値εなどについて、当該部分領域BRY
に応じて好適な値を用いればよい。
【0094】それぞれの部分領域BRYについて、順
次、部分領域変形を行う(#20でイエス、#19)。
各部分領域BRYごとに、制御点群などをそれぞれ異な
らせてフィッティングを行う。これにより、各部分領域
BRYごとに、標準モデルDS1をさらに緻密にフィッ
ティングさせることができる。
【0095】例えば、図18(B)に示す標準モデルD
S1aを得た後、図18(C)に示すように部分領域B
RYbを用いてフィッティングし、標準モデルDS1b
(3次元モデルML)を得る。
【0096】なお、各部分領域BRYは、他の部分領域
BRYの一部と重なり、または他の部分領域BRYに含
まれていてもよい。例えば、図17に示すように、部分
領域BRYaの一部と部分領域BRYcの一部とが重な
っていてもよいし、部分領域BRYbについて部分領域
変形を行った後に、上唇のみを新たな部分領域BRYと
して抽出し、部分領域変形を行ってもよい。
【0097】上に述べた実施形態によると、全体的に標
準モデルDSのフィッティングを行った後、部分領域B
RYを用いて部分的に標準モデルDSのフィッティング
を行うので、目または口もとなどの局部について局部的
な異常変形を起こすことなく、それらをよりよく一致さ
せることができる。したがって、対象物により一層近い
3次元モデルMLを生成することができる。
【0098】上に述べた実施形態において、領域EAの
大きさ、個数、または形状、しきい値THの値または単
位、表示色CLの種類、代表値DHの求め方などは、上
に述べた以外の種々のものとすることができる。その
他、モデリング装置1の構成、回路、処理内容、処理順
序、処理タイミング、係数の設定などは、本発明の趣旨
に沿って適宜変更することができる。
【0099】
【発明の効果】本発明によると、2つの3次元データの
差分がどのようになっているかを容易に把握することが
できる。
【0100】請求項2の発明によると、どの部分を加工
しまたは変形すればよいのかが分かり易い。請求項3の
発明によると、標準モデルを人の頭部の計測データにフ
ィッティングして3次元モデルを生成する場合に、目ま
たは口もとなどの局部について、局部的な異常変形を起
こすことなく、よりよく一致させることができる。
【図面の簡単な説明】
【図1】本発明の実施形態に係るモデリング装置を示す
ブロック図である。
【図2】ある標準モデルに定義された領域の例を示す図
である。
【図3】3次元モデルと3次元データとの差分を説明す
るための図である。
【図4】各領域に設定されたしきい値の例を示す図であ
る。
【図5】しきい値の範囲に対して設定された表示色の例
を示す図である。
【図6】差分表示画面の例を示す図である。
【図7】3次元データの各点に対して色を設定した場合
の差分表示画面の例を示す図である。
【図8】歯車製品についての差分表示画面の例を示す図
である。
【図9】モデリング装置の全体の処理の流れを示すフロ
ーチャートである。
【図10】変形処理を示すフローチャートである。
【図11】差分表示処理を示すフローチャートである。
【図12】標準モデルの例を示す図である。
【図13】対象物から3次元データを取得する様子を示
す図である。
【図14】概略の位置合わせの様子を示す図である。
【図15】輪郭および特徴点の抽出処理の様子を示す図
である。
【図16】標準モデルの異常変形を防ぐための仮想バネ
を説明するための図である。
【図17】部分領域の抽出の例を示す図である。
【図18】部分領域を用いて標準モデルの変形を行う方
法の例を説明する図である。
【符号の説明】
1 モデリング装置(差分の表示装置) 10 処理装置 13 ディスプレイ装置(表示する手段) DT 3次元データ BRY 部分領域 DS,DS1,DS1a 標準モデル(3次元データ) DS1b 標準モデル(3次元データ) ML 3次元モデル(3次元データ) SB 差分 EA 領域 DH 代表値 CL 表示色 PR モデリングプログラム

Claims (5)

    【特許請求の範囲】
  1. 【請求項1】2つの3次元データの差分の表示装置であ
    って、 前記2つの3次元データまたはいずれかの3次元データ
    に関連する面上に定義された複数の領域ごとに、2つの
    3次元データの差分についての代表値を求める手段と、 求められた代表値の大きさに応じて当該領域の表示色を
    決定する手段と、 決定した表示色によってそれぞれの領域を表示する手段
    と、 を有してなることを特徴とする2つの3次元データの差
    分の表示装置。
  2. 【請求項2】前記領域の表示色を決定する手段は、 1つまたは複数のしきい値を各領域ごとに可変可能に設
    定する手段を有し、 設定されたしきい値により規定される範囲ごとに表示色
    を決定する、 請求項1記載の2つの3次元データの差分の表示装置。
  3. 【請求項3】いずれかの3次元データに対し各領域を単
    位として修正を行う手段を有してなる、 請求項1または2記載の2つの3次元データの差分の表
    示装置。
  4. 【請求項4】2つの3次元データの差分を表示するため
    のコンピュータプログラムであって、 前記2つの3次元データまたはいずれかの3次元データ
    に関連する面上に定義された複数の領域ごとに、2つの
    3次元データの差分についての代表値を求める処理と、 求められた代表値の大きさに応じて当該領域の表示色を
    決定する処理と、 決定した表示色によってそれぞれの領域を表示する処理
    と、 をコンピュータに実行させるコンピュータプログラム。
  5. 【請求項5】請求項4記載のコンピュータプログラムが
    記録されたコンピュータ読み取り可能な記録媒体。
JP2001377812A 2001-12-11 2001-12-11 2つの3次元データの差分の表示装置およびコンピュータプログラム Expired - Lifetime JP4174985B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001377812A JP4174985B2 (ja) 2001-12-11 2001-12-11 2つの3次元データの差分の表示装置およびコンピュータプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001377812A JP4174985B2 (ja) 2001-12-11 2001-12-11 2つの3次元データの差分の表示装置およびコンピュータプログラム

Publications (2)

Publication Number Publication Date
JP2003178329A true JP2003178329A (ja) 2003-06-27
JP4174985B2 JP4174985B2 (ja) 2008-11-05

Family

ID=19185689

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001377812A Expired - Lifetime JP4174985B2 (ja) 2001-12-11 2001-12-11 2つの3次元データの差分の表示装置およびコンピュータプログラム

Country Status (1)

Country Link
JP (1) JP4174985B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007305131A (ja) * 2006-05-09 2007-11-22 Inus Technology Inc 3次元スキャンデータを用いた逆設計実行のモデリング精密度分析のためのシステム及び方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0721238A (ja) * 1993-06-22 1995-01-24 Toyota Motor Corp 三次元形状加工物の評価装置
JPH07254075A (ja) * 1994-03-16 1995-10-03 Fujitsu Ltd 3次元的な物体の変形方法及びモデリングシステム
JPH09204532A (ja) * 1996-01-25 1997-08-05 Hitachi Ltd 画像認識方法および画像表示方法
JPH10175141A (ja) * 1996-12-13 1998-06-30 Honda Motor Co Ltd 3次元測定装置及び3次元測定方法
JPH11195054A (ja) * 1998-01-06 1999-07-21 Toray Ind Inc 物品形状の変形度の表示方法、表示装置、成形品の製造方法、記憶媒体

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0721238A (ja) * 1993-06-22 1995-01-24 Toyota Motor Corp 三次元形状加工物の評価装置
JPH07254075A (ja) * 1994-03-16 1995-10-03 Fujitsu Ltd 3次元的な物体の変形方法及びモデリングシステム
JPH09204532A (ja) * 1996-01-25 1997-08-05 Hitachi Ltd 画像認識方法および画像表示方法
JPH10175141A (ja) * 1996-12-13 1998-06-30 Honda Motor Co Ltd 3次元測定装置及び3次元測定方法
JPH11195054A (ja) * 1998-01-06 1999-07-21 Toray Ind Inc 物品形状の変形度の表示方法、表示装置、成形品の製造方法、記憶媒体

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007305131A (ja) * 2006-05-09 2007-11-22 Inus Technology Inc 3次元スキャンデータを用いた逆設計実行のモデリング精密度分析のためのシステム及び方法
USRE48498E1 (en) 2006-05-09 2021-03-30 3D Systems, Inc. System and method for analyzing modeling accuracy while performing reverse engineering with 3D scan data

Also Published As

Publication number Publication date
JP4174985B2 (ja) 2008-11-05

Similar Documents

Publication Publication Date Title
US11423556B2 (en) Methods and systems to modify two dimensional facial images in a video to generate, in real-time, facial images that appear three dimensional
CN106909875B (zh) 人脸脸型分类方法和系统
CN105184735B (zh) 一种人像变形方法及装置
KR101997500B1 (ko) 개인화된 3d 얼굴 모델 생성 방법 및 장치
US20160148411A1 (en) Method of making a personalized animatable mesh
JP2001109907A (ja) 3次元モデル生成装置および3次元モデル生成方法ならびに3次元モデル生成プログラムを記録した記録媒体
US20150234942A1 (en) Method of making a mask with customized facial features
CN110363170B (zh) 视频换脸方法和装置
CN106778660B (zh) 一种人脸姿态校正方法及装置
CN107452049A (zh) 一种三维头部建模方法及装置
JP6552266B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2002015310A (ja) 点群に面をフィッティングする方法およびモデリング装置
JP4316114B2 (ja) モデルの変形方法およびモデリング装置
JP4479069B2 (ja) 形状モデルの生成方法および装置
TWI679969B (zh) 咬合壓力解析裝置、咬合壓力解析程式、及咬合壓力解析方法
JP4310850B2 (ja) 3次元形状の対応付け方法
JP4174985B2 (ja) 2つの3次元データの差分の表示装置およびコンピュータプログラム
KR20010084996A (ko) 단일 이미지를 이용한 3차원 아바타 제작 방법 및 이를이용한 자판기
JP2009251634A (ja) 画像処理装置、画像処理方法、及びプログラム
CN114743252B (zh) 用于头部模型的特征点筛选方法、设备和存储介质
JP2021081791A (ja) 画像処理装置、画像処理方法、及びプログラム
JP4924747B2 (ja) 標準モデルの変形方法およびモデリング装置
US7123254B2 (en) Method of and device for modifying standard model
JP4838411B2 (ja) 形状モデルの生成方法
CN112070896B (zh) 一种基于3d建模的人像自动瘦身方法

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20040927

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040928

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20041112

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070515

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070713

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071218

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080218

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20080218

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20080325

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080325

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20080325

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080422

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20080623

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080623

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080729

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080811

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110829

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4174985

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120829

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130829

Year of fee payment: 5

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

EXPY Cancellation because of completion of term