JPH11120372A - テクスチャ情報付与方法、テクスチャ情報付与プログラムを記録した媒体およびテクスチャ情報付与装置 - Google Patents

テクスチャ情報付与方法、テクスチャ情報付与プログラムを記録した媒体およびテクスチャ情報付与装置

Info

Publication number
JPH11120372A
JPH11120372A JP23482997A JP23482997A JPH11120372A JP H11120372 A JPH11120372 A JP H11120372A JP 23482997 A JP23482997 A JP 23482997A JP 23482997 A JP23482997 A JP 23482997A JP H11120372 A JPH11120372 A JP H11120372A
Authority
JP
Japan
Prior art keywords
texture information
dimensional
dimensional shape
image information
texture
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP23482997A
Other languages
English (en)
Other versions
JP3625624B2 (ja
Inventor
Yukinori Matsumoto
幸則 松本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sanyo Electric Co Ltd
Original Assignee
Sanyo Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sanyo Electric Co Ltd filed Critical Sanyo Electric Co Ltd
Priority to JP23482997A priority Critical patent/JP3625624B2/ja
Publication of JPH11120372A publication Critical patent/JPH11120372A/ja
Application granted granted Critical
Publication of JP3625624B2 publication Critical patent/JP3625624B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Image Generation (AREA)
  • Processing Or Creating Images (AREA)

Abstract

(57)【要約】 【課題】 現実の物体を撮影することにより得られた3
次元立体形状モデルに対して、より現実感のあるテクス
チャ情報を付与する方法を提供する。 【解決手段】 現実の物体を、任意の角度ごとに回転さ
せて撮影された複数の物体画像情報に基づいて、3次元
立体形状モデルをポリゴンにより表現する。各ポリゴン
に対しては、当該ポリゴンが最も大きな投影面積を有す
る物体画像情報からテクスチャ情報が付与される。隣接
するポリゴン間の色彩連続性を向上させるために、注目
するポリゴンと隣接するポリゴンとに対応付けられる物
体画像情報は、撮影位置および撮影方向が近接した物体
画像情報となるように選択される。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】この発明は、実在する物体を
撮影して得た画像情報をもとに、計算機内に3次元モデ
ルとして再構成された物体に、テクスチャ情報を付与す
るためのテクスチャ情報付与方法およびテクスチャ情報
付与プログラムを記録した媒体ならびにテクスチャ情報
付与装置に関する。
【0002】
【従来の技術】コンピュータグラフィックス等の発達に
より、3次元グラフィックスの実用的なシステムの開発
が盛んに行なわれている。しかしながら、このような実
用化システムの普及に伴い顕在化した問題の1つに、形
状データの入力方法がある。すなわち、自由曲面を有す
る物体や、自然界に存在する多くの物体等の複雑な3次
元形状を計算機等に入力するのは極めて煩雑で困難な作
業となっている。
【0003】さらに、計算機内等で物体を再構成した場
合に、単に物体形状を再構成しただけでは、よりリアル
な物体表面の質感等を表現することは困難である。
【0004】したがって、現実の物体を撮影することに
より得た画像情報をもとに、計算機内で形状情報および
色彩/質感情報等を再構成することができれば、3次元
画像情報の取扱いを簡易に行なうことが可能となる。
【0005】一方、たとえばインターネット等における
3次元画像通信においては、情報発信者たる一般ユーザ
によって3次元画像を生成する機会が増加する。したが
って、簡便かつコンパクトな装置構成で、3次元画像を
生成することも必要になる。
【0006】特開平5−135155号公報には、普通
の照明条件下で、回転テーブルにある対象物体の連続シ
ルエット画像から3次元モデルを構成することができる
3次元モデル構成装置が開示されている。
【0007】この3次元モデル構成装置は、回転台で回
転する対象物体をカメラで連続的に撮像し、画像処理コ
ンピュータによって撮像した画像から対象物体のシルエ
ット画像の抽出を行なう。このシルエット画像におい
て、シルエット画像の輪郭から垂直回転軸までの水平距
離を計測し、この水平距離と回転角度とに基づいて3次
元モデルが生成される。
【0008】すなわち、連続的に撮像されたシルエット
画像から、対象物体の輪郭を抽出し、3次元モデルとし
て表示される。
【0009】図20は、以上のようにして生成された3
次元モデルに対して、カメラにより連続的に撮像された
画像情報に基づいて、テクスチャ情報を張付ける方法を
示す概念図である。
【0010】上記特開平5−135155号公報におい
ては、対象物体を連続的に回転して、対象物体を撮像す
る、言換えると、人間の3次元モデルに対する形状認識
の分解能程度で画像情報を得る場合が説明されている。
より具体的には、たとえば回転角が1°ごとに画像を撮
像し、対象物体に対して、360枚の画像を得る場合が
説明されている。
【0011】以下では、説明を簡単にするために、より
粗い角度ごとに、画像を撮像した場合について説明する
が、その本質は同等である。
【0012】図20に示すように、対象物体を、一定の
角度ずつ回転させながら、合計n枚の画像を撮像した場
合を考える。この場合、各画像情報には、ラベル番号と
して、1,2,…,nが対応しているものとする。
【0013】対象物体は、ポリゴン(三角パッチ)を用
いた表面モデル300で表現されているものとする。こ
の場合、この表面モデル300に対してテクスチャ情報
を付与する場合、三角パッチの各々に対して、対象物体
を撮像したカメラの方向に応じて、対応するラベル番号
の画像情報の色彩情報(テクスチャ情報)を付与する。
【0014】より詳しく説明すると、表面モデル300
における回転軸から、注目する三角パッチに向かうベク
トルを考えた場合、このベクトルと撮影方向ベクトルと
の方向が最も一致するような画像から、この三角パッチ
に対するテクスチャ情報を獲得するという方法である。
あるいは、より直感的に説明すれば、表面モデルに地球
儀のような経線を仮定し、0°〜1×360/n°の範
囲の三角パッチについては1番の画像情報から、1×3
60/n°〜2×360/n°の範囲の三角パッチにつ
いては2番の画像情報から、というようにテクスチャ情
報を獲得するという方法である。以下では、このような
テクスチャ情報の獲得方法を中心投射方式と呼ぶことに
する。
【0015】
【発明が解決しようとする課題】以上説明したような中
心投射方式では、各三角パッチあるいはこれに相当する
表面モデルを構成する構成要素(以下、立体形状構成要
素と呼ぶ)に対して、1対1に画像情報を対応させるこ
とが可能で、かつ、この対応関係の決定が容易であると
いう利点がある。
【0016】しかしながら、中心投射方式では、回転軸
から見た場合、同一の回転角範囲内に存在しない立体形
状構成要素に対しては、異なる画像情報(ラベル番号の
異なる画像情報)からテクスチャ情報が付与されるた
め、照明等の関係により微妙に色彩情報の光沢や質感が
異なる場合そのテクスチャに継ぎ目が目立つという欠点
がある。
【0017】また、対象物体の形状によっては、ある撮
像方向から得た画像情報では、対応する立体形状構成要
素が見通せないために、対応する画像情報中に、その立
体形状構成要素に対応するテクスチャ情報が全く含まれ
ないという場合が生じる。
【0018】図21は、このような場合を説明するため
の概念図である。すなわち、図21においては、対象物
体の回転軸を含む垂直平面における、回転軸、対象物体
断面およびカメラ内に射影される物体像の関係を示す。
対象物体の形状が、図21に示すような場合、すなわ
ち、カメラ側から見通すことができない部分を含んでい
る場合は、この角度方向から撮像した画像情報には、こ
の見通せない部分のテクスチャ情報が存在しないことに
なる。ところが、たとえばこの撮像方向と一定の角度を
有する別の撮像方向からは、この見通せなかった部分の
テクスチャ情報を獲得することが可能である。
【0019】この発明は、以上のような問題点を解決す
るためになされたもので、その目的は、実在する物体を
撮像した画像情報に基づいて、計算機内等において3次
元モデルとして再構成する場合、対象物体の形状にかか
わりなく、3次元モデルを構成する立体形状構成要素の
各々にテクスチャ情報を付与することか可能なテクスチ
ャ情報付与方法およびテクスチャ情報付与プログラムを
記録した媒体ならびにテクスチャ情報付与装置を提供す
ることである。
【0020】この発明の他の目的は、3次元モデルとし
て再構成された物体に対し、現実に撮像された画像情報
に基づいてテクスチャ情報を付与する際に、撮像された
画像情報からより現実の物体の有するテクスチャに近い
テクスチャ情報を付与することが可能なテクスチャ情報
付与方法およびテクスチャ情報付与プログラムを記録し
た媒体ならびにテクスチャ情報付与装置を提供すること
である。
【0021】この発明のさらに他の目的は、3次元立体
モデルとして再構成された物体に対し、現実の物体を撮
像して得られた画像情報をもとにテクスチャ情報を付与
する際に、3次元立体モデルを構成する立体形状構成要
素の各々に付与されるテクスチャの不連続性(継ぎ目)
が目立ちにくいテクスチャ情報付与方法およびテクスチ
ャ情報付与プログラムを記録した媒体ならびにテクスチ
ャ情報付与装置を提供することである。
【0022】
【課題を解決するための手段】請求項1記載のテクスチ
ャ情報付与方法は、立体モデルに対するテクスチャ情報
付与方法であって、対象物体の形状を複数の立体形状構
成要素の集合による立体モデルとして記述するステップ
と、対象物体を異なる視点から撮影することにより獲得
された複数の物体画像情報に基づいて、立体モデルに対
するテクスチャ情報を、立体形状構成要素ごとに、各物
体画像情報の立体形状構成要素に対するテクスチャ情報
量に応じて付与するステップとを備える。
【0023】請求項2記載のテクスチャ情報付与方法
は、請求項1記載のテクスチャ情報付与方法において、
テクスチャ情報量は、立体形状構成要素ごとに、各立体
形状構成要素の面法線方向と、各物体画像情報を撮影し
た方向との一致の程度により表現される。
【0024】請求項3記載のテクスチャ情報付与方法
は、請求項1記載のテクスチャ情報付与方法において、
テクスチャ情報量は、立体形状構成要素ごとに、各物体
画像情報に投影される立体形状構成要素の面積により表
現される。
【0025】請求項4記載のテクスチャ情報付与方法
は、立体モデルに対するテクスチャ情報付与方法であっ
て、対象物体の形状を複数の立体形状構成要素の集合に
よる立体モデルとして記述するステップと、対象物体を
異なる視点から撮影することにより獲得された複数の物
体画像情報に基づいて、立体モデルに対するテクスチャ
情報を立体形状構成要素ごとに、各物体画像情報の立体
形状構成要素に対するテクスチャ情報量と立体形状構成
要素間のテクスチャ連続性との双方に応じて付与するス
テップとを備える。
【0026】請求項5記載のテクスチャ情報付与方法
は、請求項4記載のテクスチャ情報付与方法の構成にお
いて、テクスチャ情報を付与するステップにおいては、
テクスチャ情報量の増加に伴い減少し、かつ、立体形状
構成要素間のテクスチャ連続性の向上に伴い減少する評
価関数を極小化するように、立体形状構成要素ごとに対
応付けられた物体画像情報から、立体モデルに対するテ
クスチャ情報を付与する。
【0027】請求項6記載のテクスチャ情報付与方法
は、請求項5記載のテクスチャ情報付与方法の構成にお
いて、評価関数においては、テクスチャ連続性は、注目
する立体形状構成要素とそれに隣接する立体形状構成要
素とにそれぞれ対応する物体画像情報の撮影位置および
撮影方向の差の関数として表現される。
【0028】請求項7記載のテクスチャ情報付与方法
は、請求項5記載のテクスチャ情報付与方法の構成にお
いて、評価関数においては、テクスチャ連続性は、位置
変化を伴って物体画像情報を撮影した場合に各物体画像
情報に位置変化に対応したラベル番号を与えたとき、注
目する立体形状構成要素に割当てられたラベル番号と、
注目する立体形状構成要素に隣接する立体形状構成要素
に割当てられたラベル番号との差の増加に伴い増加する
関数として表現される。
【0029】請求項8記載のテクスチャ情報付与方法
は、請求項5記載のテクスチャ情報付与方法の構成にお
いて、評価関数においては、テクスチャ連続性は、規則
的な位置変化を伴って物体画像情報を撮影した場合に各
物体画像情報に位置変化に対応したラベル番号を与えた
とき、注目する立体形状構成要素に割当てられたラベル
番号と、注目する立体形状構成要素に隣接する立体形状
構成要素に割当てられたラベル番号との差の増加に伴い
増加する関数として表現される。
【0030】請求項9記載のテクスチャ情報付与方法
は、請求項5記載のテクスチャ情報付与方法の構成にお
いて、評価関数においては、テクスチャ情報量は、立体
形状構成要素ごとに、各物体画像情報に投影される立体
形状構成要素の面積の関数として表現される。
【0031】請求項10記載のテクスチャ情報付与方法
は、請求項5記載のテクスチャ情報付与方法の構成にお
いて、評価関数においては、テクスチャ情報量は、立体
形状構成要素ごとに、各立体形状構成要素の面法線方向
と、各物体画像情報を撮影した方向との一致の程度の関
数として表現される。
【0032】請求項11記載のテクスチャ情報付与方法
は、請求項5記載のテクスチャ情報付与方法の構成にお
いて、評価関数は、i番目(i:自然数)の立体形状要
素に割当てられたラベル番号とi番目の立体形状構成要
素に隣接する立体形状構成要素に割当てられたラベル番
号との差の全立体形状構成要素についての総和と、i番
目の立体形状構成要素に割当てられたラベル番号に対応
する物体画像情報に投影される、i番目の立体形状構成
要素の面積の全立体形状構成要素についての総和との線
形結合で表現される。
【0033】請求項12記載のテクスチャ情報付与方法
は、立体モデルに対するテクスチャ情報付与方法であっ
て、対象物体の形状を複数の立体形状構成要素の集合に
よる立体モデルとして記述するステップと、位置変化を
伴って複数の物体画像情報を投影した場合に各物体画像
情報に位置変化に対応したラベル番号を与えたとき、各
立体形状構成要素に対するテクスチャ情報量の増加に伴
い減少し、かつ、各立体形状構成要素とそれに隣接する
立体形状構成要素とにそれぞれ割当てられるテクスチャ
情報のテクスチャ連続性の向上に伴い減少する評価関数
を極小化するように、立体形状構成要素ごとにラベル番
号を対応付けるステップと、対応付けられたラベル番号
に対応する物体画像情報と、対応付けられたラベル番号
を含む所定数のラベル番号に対応する物体画像情報とに
基づいて、各物体画像情報に投影される立体形状構成要
素の面積に応じた重み平均処理を行なうことにより、立
体形状構成要素にテクスチャ情報を付与するステップと
を備える。
【0034】上記最後のステップでは、上記立体形状構
成要素について、立体形状構成要素に対応づけられたラ
ベル番号に対応する物体画像情報、および上記対応づけ
られたラベル番号を含む所定数のラベル番号に対応する
物体画像情報に投影された面積を求め、これを下記重み
平均処理を行なう際の重み係数とする。そして、上記立
体形状構成要素のテクスチャ情報として、上記立体形状
構成要素が上記物体画像情報に投影される部位を求め、
この投影部の画像情報(色、濃度あるいは輝度)を重み
平均処理することで上記テクスチャ情報とする。
【0035】請求項13記載のテクスチャ情報付与方法
は、立体モデルに対するテクスチャ情報付与方法であっ
て、対象物体の形状を複数の立体形状構成要素の集合に
よる立体モデルとして記述するステップと、規則的な位
置変化を伴って複数の物体画像情報を撮影した場合に各
物体画像情報に位置変化に対応したラベル番号を与えた
とき、各立体形状構成要素に対するテクスチャ情報量の
増加に伴い減少し、かつ、各立体形状構成要素とそれに
隣接する立体形状構成要素とにそれぞれ割当てられるテ
クスチャ情報のテクスチャ連続性の向上に伴い減少する
評価関数を極小化するように、立体形状構成要素ごとに
ラベル番号を対応付けるステップと、対応付けられたラ
ベル番号に対応する物体画像情報と、対応付けられたラ
ベル番号を含む所定数のラベル番号に対応する物体画像
情報とに基づいて、各物体画像情報に投影される立体形
状構成要素の面積に応じた重み平均処理を行なうことに
より、立体形状構成要素にテクスチャ情報を付与するス
テップとを備える。
【0036】上記最後のステップでは、上記立体形状構
成要素について、立体形状構成要素に対応づけられたラ
ベル番号に対応する物体画像情報、および上記対応づけ
られたラベル番号を含む所定数のラベル番号に対応する
物体画像情報に投影された面積を求め、これを下記重み
平均処理を行なう際の重み係数とする。そして、上記立
体形状構成要素のテクスチャ情報として、上記立体形状
構成要素が上記物体画像情報に投影される部位を求め、
この投影部の画像情報(色、濃度あるいは輝度)を重み
平均処理することで上記テクスチャ情報とする。
【0037】請求項14記載のテクスチャ情報付与方法
は、立体モデルに対するテクスチャ情報付与方法であっ
て、対象物体を異なる視点から撮影することにより複数
の物体画像情報を獲得するステップと、対象物体の形状
を複数の立体形状構成要素の集合による立体モデルとし
て記述するステップと、立体形状構成要素ごとに、複数
の物体画像情報のそれぞれに投影された立体形状構成要
素に対応する面積に応じた、すべての物体画像情報につ
いての重み平均処理を行なうことにより得られたテクス
チャ情報を付与するステップとを備える。
【0038】上記最後のステップでは、上記立体形状構
成要素の各々について、物体画像情報に投影された面積
を求め、これを下記重み平均処理を行なう際の重み係数
とする。そして、上記立体形状構成要素のテクスチャ情
報として、上記立体形状構成要素が上記物体画像情報に
投影される部位を求め、この投影部の画像情報(色、濃
度あるいは輝度)を重み平均処理することで上記テクス
チャ情報とする。
【0039】請求項15記載のテクスチャ情報付与プロ
グラムを記録した媒体は、コンピュータに立体モデルへ
のテクスチャ情報の付与をさせるためのプログラムを記
録した媒体であって、プログラムは、対象物体の形状を
複数の立体形状構成要素の集合による立体モデルとして
記述するステップと、対象物体を異なる視点から撮影す
ることにより獲得された複数の物体画像情報に基づい
て、立体モデルに対するテクスチャ情報を、立体形状構
成要素ごとに、各物体画像情報の立体形状構成要素に対
するテクスチャ情報量に応じて付与するステップとを含
む。
【0040】請求項16記載のテクスチャ情報付与プロ
グラムを記録した媒体は、請求項15記載のテクスチャ
情報付与プログラムを記録した媒体において、テクスチ
ャ情報量は、立体形状構成要素ごとに、各立体形状構成
要素の面法線方向と、各物体画像情報を撮影した方向と
の一致の程度により表現される。
【0041】請求項17記載のテクスチャ情報付与プロ
グラムを記録した媒体は、請求項15記載のテクスチャ
情報付与プログラムを記録した媒体において、テクスチ
ャ情報量は、立体形状構成要素ごとに、各物体画像情報
に投影される立体形状構成要素の面積により表現され
る。
【0042】請求項18記載のテクスチャ情報付与プロ
グラムを記録した媒体は、コンピュータに立体モデルへ
のテクスチャ情報の付与をさせるためのプログラムを記
録した媒体であって、プログラムは、対象物体の形状を
複数の立体形状構成要素の集合による立体モデルとして
記述するステップと、対象物体を異なる視点から撮影す
ることにより獲得された複数の物体画像情報に基づい
て、立体モデルに対するテクスチャ情報を立体形状構成
要素ごとに、各物体画像情報の立体形状構成要素に対す
るテクスチャ情報量と立体形状構成要素間のテクスチャ
連続性との双方に応じて付与するステップとを含む。
【0043】請求項19記載のテクスチャ情報付与プロ
グラムを記録した媒体は、請求項18記載のテクスチャ
情報付与プログラムを記録した媒体の構成において、テ
クスチャ情報を付与するステップにおいては、テクスチ
ャ情報量の増加に伴い減少し、かつ立体形状構成要素間
のテクスチャ連続性の向上に伴い減少する評価関数を極
小化するように、立体形状構成要素ごとに対応付けられ
た物体画像情報から、立体モデルに対するテクスチャ情
報を付与する。
【0044】請求項20記載のテクスチャ情報付与プロ
グラムを記憶した媒体は、請求項19記載のテクスチャ
情報付与プログラムを記録した媒体の構成において、記
評価関数においては、テクスチャ連続性は、注目する立
体形状構成要素とそれに隣接する立体形状構成要素とに
それぞれ対応する物体画像情報の撮影位置および撮影方
向の差の関数として表現される。
【0045】請求項21記載のテクスチャ情報付与プロ
グラムを記録した媒体は、請求項19記載の情報付与プ
ログラムを記録した媒体の構成において、上記評価関数
においては、上記テクスチャ連続性は、位置変化を伴っ
て上記物体画像情報を撮影した場合に各物体画像情報に
位置変化に対応したラベル番号を与えたとき、注目する
上記立体形状構成要素に割当てられたラベル番号と、上
記注目する立体形状構成要素に隣接する立体形状構成要
素に割当てられたラベル番号の差の増加に伴い増加する
関数として表現される。
【0046】請求項22記載のテクスチャ情報付与プロ
グラムを記録した媒体は、請求項19記載の情報付与プ
ログラムを記録した媒体の構成において、評価関数にお
いては、テクスチャ連続性は、規則的な位置変化を伴っ
て物体画像情報を撮影した場合に各物体画像情報に位置
変化に対応したラベル番号を与えたとき、注目する立体
形状構成要素に割当てられたラベル番号と、注目する立
体形状構成要素に隣接する立体形状構成要素に割当てら
れたラベル番号の差の増加に伴い増加する関数として表
現される。
【0047】請求項23記載のテクスチャ情報付与プロ
グラムを記録した媒体は、請求項19記載のテクスチャ
情報付与プログラムを記録した媒体の構成において、評
価関数においては、テクスチャ情報量は、立体形状構成
要素ごとに、各物体画像情報に投影される立体形状構成
要素の面積の関数として表現される。
【0048】請求項24記載のテクスチャ情報付与プロ
グラムを記録した媒体は、請求項19記載のテクスチャ
情報付与プログラムを記録した媒体の構成において、評
価関数においては、テクスチャ情報量は、立体形状構成
要素ごとに、各立体形状構成要素の面法線方向と、各物
体画像情報を撮影した方向との一致の程度の関数として
表現される。
【0049】請求項25記載のテクスチャ情報付与プロ
グラムを記憶した媒体は、請求項17記載のテクスチャ
情報付与プログラムを記録した媒体の構成において、評
価関数は、i番目(i:自然数)の立体形状構成要素に
割当てられたラベル番号とi番目の立体形状構成要素に
隣接する立体形状構成要素に割当てられたラベル番号と
の差の全立体形状構成要素についての総和と、i番目の
立体形状構成要素に割当てられたラベル番号に対応する
物体画像情報に投影される、i番目の立体形状構成要素
の面積の全立体形状構成要素についての総和との線形結
合で表現される。
【0050】請求項26記載のテクスチャ情報付与プロ
グラムを記憶した媒体は、コンピュータに立体モデルへ
のテクスチャ情報の付与をさせるためのプログラムを記
録した媒体であって、プログラムは、対象物体の形状を
複数の立体形状構成要素の集合による立体モデルとして
記述するステップと、位置変化を伴って複数の物体画像
情報を撮影した場合に各物体画像情報に位置変化に対応
したラベル番号を与えたとき、各立体形状構成要素に対
するテクスチャ情報量の増加に伴い減少し、かつ、各立
体形状構成要素とそれに隣接する立体形状構成要素とに
それぞれ割当てられるテクスチャ情報のテクスチャ連続
性の向上に伴い減少する評価関数を極小化するように、
立体形状構成要素ごとにラベル番号を対応付けるステッ
プと、対応付けられたラベル番号に対応する物体画像情
報と、対応付けられたラベル番号を含む所定数のラベル
番号に対応する物体画像情報とに基づいて、各物体画像
情報に投影される立体形状構成要素の面積に応じた重み
平均処理を行なうことにより、立体形状構成要素にテク
スチャ情報を付与するステップとを含む。
【0051】上記最後のステップでは、上記立体形状構
成要素について、立体形状構成要素に対応づけられたラ
ベル番号に対応する物体画像情報、および上記対応づけ
られたラベル番号を含む所定数のラベル番号に対応する
物体画像情報に投影された面積を求め、これを下記重み
平均処理を行なう際の重み係数とする。そして、上記立
体形状構成要素のテクスチャ情報として、上記立体形状
構成要素が上記物体画像情報に投影される部位を求め、
この投影部の画像情報(色、濃度あるいは輝度)を重み
平均処理することで上記テクスチャ情報とする。
【0052】請求項27記載のテクスチャ情報付与プロ
グラムを記憶した媒体は、コンピュータに立体モデルへ
のテクスチャ情報の付与をさせるためのプログラムを記
録した媒体であって、プログラムは、対象物体の形状を
複数の立体形状構成要素の集合による立体モデルとして
記述するステップと、規則的な位置変化を伴って複数の
物体画像情報を撮影した場合に各物体画像情報に位置変
化に対応したラベル番号を与えたとき、各立体形状構成
要素に対するテクスチャ情報量の増加に伴い減少し、か
つ、各立体形状構成要素とそれに隣接する立体形状構成
要素とにそれぞれ割当てられるテクスチャ情報のテクス
チャ連続性の向上に伴い減少する評価関数を極小化する
ように、立体形状構成要素ごとにラベル番号を対応付け
るステップと、対応付けられたラベル番号に対応する物
体画像情報と、対応付けられたラベル番号を含む所定数
のラベル番号に対応する物体画像情報とに基づいて、各
物体画像情報に投影される立体形状構成要素の面積に応
じた重み平均処理を行なうことにより、立体形状構成要
素にテクスチャ情報を付与するステップとを含む。
【0053】上記最後のステップでは、上記立体形状構
成要素について、立体形状構成要素に対応づけられたラ
ベル番号に対応する物体画像情報、および上記対応づけ
られたラベル番号を含む所定数のラベル番号に対応する
物体画像情報に投影された面積を求め、これを下記重み
平均処理を行なう際の重み係数とする。そして、上記立
体形状構成要素のテクスチャ情報として、上記立体形状
構成要素が上記物体画像情報に投影される部位を求め、
この投影部の画像情報(色、濃度あるいは輝度)を重み
平均処理することで上記テクスチャ情報とする。
【0054】請求項28記載のテクスチャ情報付与プロ
グラムを記録した媒体は、コンピュータに立体モデルへ
のテクスチャ情報の付与をさせるためのプログラムを記
録した媒体であって、プログラムは、対象物体を異なる
視点から撮影することにより複数の物体画像情報を獲得
するステップと、対象物体の形状を複数の立体形状構成
要素の集合による立体モデルとして記述するステップ
と、立体形状構成要素ごとに、複数の物体画像情報のそ
れぞれに投影された立体形状構成要素に対応する面積に
応じた、すべての物体画像情報についての重み平均処理
を行なうことにより得られたテクスチャ情報を付与する
ステップとを含む。
【0055】上記最後のステップでは、上記立体形状構
成要素の各々について、物体画像情報に投影された面積
を求め、これを下記重み平均処理を行なう際の重み係数
とする。そして、上記立体形状構成要素のテクスチャ情
報として、上記立体形状構成要素が上記物体画像情報に
投影される部位を求め、この投影部の画像情報(色、濃
度あるいは輝度)を重み平均処理することで上記テクス
チャ情報とする。
【0056】請求項29記載のテクスチャ情報付与装置
は、立体モデルに対するテクスチャ情報付与装置であっ
て、対象物体の形状を複数の立体形状構成要素の集合に
よる立体モデルとして記述する手段と、対象物体を異な
る視点から撮影することにより獲得された複数の物体画
像情報に基づいて、立体モデルに対するテクスチャ情報
を、立体形状構成要素ごとに、各物体画像情報の立体形
状構成要素に対するテクスチャ情報量に応じて付与する
手段とを備える。
【0057】請求項30記載のテクスチャ情報付与装置
は、請求項29記載のテクスチャ情報付与装置の構成に
おいて、テクスチャ情報量は、立体形状構成要素ごと
に、各立体形状構成要素の面法線方向と、各物体画像情
報を撮影した方向との一致の程度により表現される。
【0058】請求項31記載のテクスチャ情報付与装置
は、請求項29記載のテクスチャ情報付与装置の構成に
おいて、テクスチャ情報量は、立体形状構成要素ごと
に、各物体画像情報に投影され立体形状構成要素の面積
により表現される。
【0059】請求項32記載のテクスチャ情報付与装置
は、立体モデルに対するテクスチャ情報付与装置であっ
て、対象物体の形状を複数の立体形状構成要素の集合に
よる立体モデルとして記述する手段と、対象物体を異な
る視点から撮影することにより獲得された複数の物体画
像情報に基づいて、立体モデルに対するテクスチャ情報
を立体形状構成要素ごとに、各物体画像情報の立体形状
構成要素に対するテクスチャ情報量と立体形状構成要素
間のテクスチャ連続性との双方に応じて付与する手段と
を備える。
【0060】請求項33記載のテクスチャ情報付与装置
は、請求項32記載のテクスチャ情報付与装置の構成に
おいて、テクスチャ情報を付与する手段においては、テ
クスチャ情報量の増加に伴い減少し、かつ、立体形状構
成要素間のテクスチャ連続性の向上に伴い減少する評価
関数を極小化するように、立体形状構成要素ごとに対応
付けられた物体画像情報から、立体モデルに対するテク
スチャ情報を付与する。
【0061】請求項34記載のテクスチャ情報付与装置
は、請求項33記載のテクスチャ情報付与装置の構成に
おいて、評価関数においては、テクスチャ連続性は、注
目する立体形状構成要素とそれに隣接する立体形状構成
要素とにそれぞれ対応する物体画像情報の撮影位置およ
び撮影方向の差の関数として表現される。
【0062】請求項35記載のテクスチャ情報付与装置
は、請求項33記載のテクスチャ情報付与装置の構成に
おいて、評価関数においては、テクスチャ連続性は、位
置変化を伴って物体画像情報を撮影した場合に各物体画
像情報に位置変化に対応したラベル番号を与えたとき、
注目する立体形状構成要素に割当てられたラベル番号
と、注目する立体形状構成要素に隣接する立体形状構成
要素に割当てられたラベル番号との差の増加に伴い増加
する関数として表現される。
【0063】請求項36記載のテクスチャ情報付与装置
は、請求項33記載のテクスチャ情報付与装置の構成に
おいて、評価関数においては、テクスチャ連続性は、規
則的な位置変化を伴って物体画像情報を撮影した場合に
各物体画像情報に位置変化に対応したラベル番号を与え
たとき、注目する立体形状構成要素に割当てられたラベ
ル番号と、注目する立体形状構成要素に隣接する立体形
状構成要素に割当てられたラベル番号との差の増加に伴
い増加する関数として表現される。
【0064】請求項37記載のテクスチャ情報付与装置
は、請求項33記載のテクスチャ情報付与装置の構成に
おいて、評価関数においては、テクスチャ情報量は、立
体形状構成要素ごとに、各物体画像情報に投影される立
体形状構成要素の面積の関数として表現される。
【0065】請求項38記載のテクスチャ情報付与装置
は、請求項33記載のテクスチャ情報付与装置の構成に
おいて、評価関数においては、テクスチャ情報量は、立
体形状構成要素ごとに、各立体形状構成要素の面法線方
向と、各物体画像情報を撮影した方向との一致の程度の
関数として表現される。
【0066】請求項39記載のテクスチャ情報付与装置
は、請求項33記載のテクスチャ情報付与装置の構成に
おいて、評価関数は、i番目(i:自然数)の立体形状
構成要素に割当てられたラベル番号とi番目の立体形状
構成要素に隣接する立体形状構成要素に割当てられたラ
ベル番号との差の全立体形状構成要素についての総和
と、i番目の立体形状構成要素に割当てられたラベル番
号に対応する物体画像情報に投影される、i番目の立体
形状構成要素の面積の全立体形状構成要素についての総
和との線形結合で表現される。
【0067】請求項40記載のテクスチャ情報付与装置
は、立体モデルに対するテクスチャ情報付与装置であっ
て、対象物体の形状を複数の立体形状構成要素の集合に
よる立体モデルとして記述する手段と、位置変化を伴っ
て複数の物体画像情報を撮影した場合に各物体画像情報
に位置変化に対応したラベル番号を与えたとき、各立体
形状構成要素に対するテクスチャ情報量の増加に伴い減
少し、かつ、各立体形状構成要素とそれに隣接する立体
形状構成要素とにそれぞれ割当てられるテクスチャ情報
のテクスチャ連続性の向上に伴い減少する評価関数を極
小化するように、立体形状構成要素ごとにラベル番号を
対応付ける手段と、対応付けられたラベル番号に対応す
る物体画像情報と、対応付けられたラベル番号を含む所
定数のラベル番号に対応する物体画像情報とに基づい
て、各物体画像情報に投影される立体形状構成要素の面
積に応じた重み平均処理を行なうことにより、立体形状
構成要素にテクスチャ情報を付与する手段とを備える。
【0068】上記立体形状構成要素にテクスチャ情報を
付与する手段では、上記立体形状構成要素について、立
体形状構成要素に対応づけられたラベル番号に対応する
物体画像情報、および上記対応づけられたラベル番号を
含む所定数のラベル番号に対応する物体画像情報に投影
された面積を求め、これを下記重み平均処理を行なう際
の重み係数とする。そして、上記立体形状構成要素のテ
クスチャ情報として、上記立体形状構成要素が上記物体
画像情報に投影される部位を求め、この投影部の画像情
報(色、濃度あるいは輝度)を重み平均処理することで
上記テクスチャ情報とする。
【0069】請求項41記載のテクスチャ情報付与装置
は、立体モデルに対するテクスチャ情報付与装置であっ
て、対象物体の形状を複数の立体形状構成要素の集合に
よる立体モデルとして記述する手段と、規則的な位置変
化を伴って複数の物体画像情報を撮影した場合に各物体
画像情報に位置変化に対応したラベル番号を与えたと
き、各立体形状構成要素に対するテクスチャ情報量の増
加に伴い減少し、かつ、各立体形状構成要素とそれに隣
接する立体形状構成要素とにそれぞれ割当てられるテク
スチャ情報のテクスチャ連続性の向上に伴い減少する評
価関数を極小化するように、立体形状構成要素ごとにラ
ベル番号を対応付ける手段と、対応付けられたラベル番
号に対応する物体画像情報と、対応付けられたラベル番
号を含む所定数のラベル番号に対応する物体画像情報と
に基づいて、各物体画像情報に投影される立体形状構成
要素の面積に応じた重み平均処理を行なうことにより、
立体形状構成要素にテクスチャ情報を付与する手段とを
備える。
【0070】上記立体形状構成要素にテクスチャ情報を
付与する手段では、上記立体形状構成要素について、立
体形状構成要素に対応づけられたラベル番号に対応する
物体画像情報、および上記対応づけられたラベル番号を
含む所定数のラベル番号に対応する物体画像情報に投影
された面積を求め、これを下記重み平均処理を行なう際
の重み係数とする。そして、上記立体形状構成要素のテ
クスチャ情報として、上記立体形状構成要素が上記物体
画像情報に投影される部位を求め、この投影部の画像情
報(色、濃度あるいは輝度)を重み平均処理することで
上記テクスチャ情報とする。
【0071】請求項42記載のテクスチャ情報付与装置
は、立体モデルに対するテクスチャ情報付与装置であっ
て、対象物体を異なる視点から撮影することにより複数
の物体画像情報を獲得する手段と、対象物体の形状を複
数の立体形状構成要素の集合による立体モデルとして記
述する手段と、立体形状構成要素ごとに、複数の物体画
像情報のそれぞれに投影された立体形状構成要素に対応
する面積に応じた、すべての物体画像情報についての重
み平均処理を行なうことにより得られたテクスチャ情報
を付与する手段とを備える。
【0072】上記立体形状構成要素にテクスチャ情報を
付与する手段では、上記立体形状構成要素の各々につい
て、物体画像情報に投影された面積を求め、これを下記
重み平均処理を行なう際の重み係数とする。そして、上
記立体形状構成要素のテクスチャ情報として、上記立体
形状構成要素が上記物体画像情報に投影される部位を求
め、この投影部の画像情報(色、濃度あるいは輝度)を
重み平均処理することで上記テクスチャ情報とする。
【0073】請求項43記載のテクスチャ情報付与方法
は、立体モデルとして記述される対象物体を異なる視点
から撮影することにより獲得された複数の物体画像情報
に基づいて、立体モデルのテキスチャ情報を取得するテ
クスチャ情報付与方法であって、立体モデルの面方向を
検出するステップと、検出された面方向と撮影した視点
の位置とに応じて、複数の物体画像情報からテクスチャ
情報を作成するステップとを備える。
【0074】請求項44記載のテクスチャ情報付与方法
は、立体モデルとして記述される対象物体を異なる視点
から撮影することにより獲得された複数の物体画像情報
に基づいて、立体モデルのテキスチャ情報を取得するテ
クスチャ情報付与方法であって、立体モデルは、ポリゴ
ン(多角形平面)の集合により表現され、ポリゴンごと
の面方向を検出するステップと、検出された面方向と撮
影した視点の位置とに応じて、ポリゴンごとに、複数の
物体画像情報からテクスチャ情報を作成するステップと
を備える。
【0075】請求項45記載のテクスチャ情報付与プロ
グラムを記録した媒体は、コンピュータに立体モデルへ
のテクスチャ情報の付与をさせるためのプログラムを記
録した媒体であって、プログラムは、対象物体の形状を
立体モデルとして記述するステップと、立体モデルの面
方向を検出するステップと、対象物体を異なる視点から
撮影することにより獲得された複数の物体画像情報に基
づいて、検出された面方向と撮影した視点の位置とに応
じて、複数の物体画像情報から立体モデルのテクスチャ
情報を作成するステップとを含む。
【0076】請求項46記載のテクスチャ情報付与プロ
グラムを記録した媒体は、コンピュータに立体モデルへ
のテクスチャ情報の付与をさせるためのプログラムを記
録した媒体であって、プログラムは、対象物体の形状を
ポリゴン(多角形平面)の集合による立体モデルとして
記述するステップと、ポリゴンごとの面方向を検出する
ステップと、対象物体を異なる視点から撮影することに
より獲得された複数の物体画像情報に基づいて、検出さ
れた面方向と撮影した視点の位置とに応じてポリゴンご
とに、複数の物体画像情報から立体モデルのテクスチャ
情報を作成するステップとを含む。
【0077】請求項47記載のテクスチャ情報付与装置
は、立体モデルとして記述される対象物体を異なる視点
から撮影することにより獲得された複数の物体画像情報
に基づいて、立体モデルのテキスチャ情報を取得するテ
クスチャ情報付与装置であって、立体モデルの面方向を
検出する手段と、検出された面方向と撮影した視点の位
置とに応じて、複数の物体画像情報からテクスチャ情報
を作成する手段とを備える。
【0078】請求項48記載のテクスチャ情報付与装置
は、立体モデルとして記述される対象物体を異なる視点
から撮影することにより獲得された複数の物体画像情報
に基づいて、立体モデルのテキスチャ情報を取得するテ
クスチャ情報付与装置であって、立体モデルをポリゴン
(多角形平面)の集合により表現する手段と、ポリゴン
ごとの面方向を検出する手段と、検出された面方向と撮
影した視点の位置とに応じて、ポリゴンごとに、複数の
物体画像情報からテクスチャ情報を作成する手段とを備
える。
【0079】
【発明の実施の形態】
[実施の形態1]図1は、この発明の実施の形態1の実
在の物体から3次元モデルを再構成するための3次元立
体モデル生成装置1000の構成を示す概略ブロック図
である。
【0080】図1を参照して、回転台110の上に、対
象物体100が載せられる。回転台110は、たとえ
ば、コンピュータ130からの制御信号に応じて、その
回転角度が制御される。カメラ120は、回転する対象
物体100を各指定角度ごとに撮影し、得られた画像デ
ータをコンピュータ130に与える。
【0081】一方で、コンピュータ130には、回転台
110の回転ピッチ等の撮影条件のデータが入力装置1
40から与えられる。
【0082】コンピュータ130は、カメラ120から
与えられた画像情報に基づいて、各撮影角度に対応する
画像情報からシルエット画像を抽出し、3次元立体形状
モデルを生成する。
【0083】ここで3次元立体形状モデルとしては、た
とえばポリゴン(三角パッチの集合)による表面モデル
で表現することが可能である。
【0084】また、上述した画像情報とは、たとえば、
カメラ120から出力される各画素に対応した輝度、色
彩、あるいは濃淡を表す数値情報を意味する。
【0085】ただし、立体モデルの表現方法としては、
このような表現方法に限定されることなく、たとえば、
異なる形状の表面形状要素の集合として表現することも
可能である。したがって、以下では表面モデルを表現す
るための要素となる形状を立体形状構成要素と総称する
ことにする。
【0086】続いて、コンピュータ130は、各角度に
おいて撮影された画像情報に基づいて、再構成された3
次元立体モデルに対してテクスチャ情報を付与する。
【0087】ここで、CG(コンピュータグラフィック
ス)の分野における色彩情報(テクスチャ情報)とは、
物体表面に貼り付けられて、この表面の細かな凸凹や絵
柄、模様、材質感を表わすための画像情報のことであ
る。
【0088】このようにして再構成された3次元モデル
は、表示装置150に表示される。3次元画像情報に対
する色彩情報(より一般的には、テクスチャ情報)の付
与方法について詳しく説明する前に、まず実在の物体か
ら3次元形状の立体モデルを生成するまでのフローにつ
いて簡単に説明する。
【0089】図3は、物体画像を作成してから、3次元
モデルにテクスチャ情報を付与するまでの処理のフロー
を示すフローチャートである。
【0090】一方、図4は、各フローの過程におけるデ
ータ処理の概要を示す概念図である。
【0091】図3および図4を参照して、まず、コンピ
ュータ130は、入力装置140から与えられた撮影条
件データに基づいて、回転台110の回転角を制御す
る。各回転角ごとにカメラ120が撮像した画像データ
の取込みが行なわれる(ステップS10)。
【0092】たとえば、角度が10°ごとにカメラ12
0からの画像データの取込が行なわれるとすると、1回
転で36枚の画像データが取込まれる。
【0093】続いて、コンピュータ130は、撮影され
た画像データの各々について、物体像の輪郭の抽出を行
ない、各方向から見た物体のシルエット像を生成する
(ステップS12)。
【0094】ここで得られたシルエット画像は、各方向
から見た場合の物体の輪郭を示す。これら各方向から見
た物体の輪郭像に基づいて、仮想的なボクセル(Voxel
)に分割された3次元空間に対して、後に説明するよ
うなボーティング処理を行なうことで、このボクセル空
間内で物体の3次元形状モデルが生成される(ステップ
S14)。
【0095】続いて、このボクセル空間で表現された物
体領域を、ポリゴン(三角パッチ)を用いた表面モデル
で表現するように変換が行なわれる(ステップS1
6)。
【0096】ここでは、たとえば表現に必要なポリゴン
数を少なく抑え、かつ、表現形状の精度を維持すること
が要求される。このためには、たとえば以下のような方
法でポリゴンの生成を行なうことが可能である。
【0097】すなわち、まず、円筒座標系で表されたボ
クセル空間において、円筒座標系のθ表面での切断面輪
郭線を多角形近似し、ポリゴンの頂点を決定する。続い
て、各頂点をそれぞれ最近接の3頂点と接続することで
三角パッチを生成する。
【0098】続いて、生成されたポリゴンの各三角パッ
チに対して、ステップS10において撮影された画像情
報からテクスチャ情報を付与する(ステップS18)。
【0099】以上のようなフローにより現実の物体をカ
メラ120で撮影した画像情報をもとに、コンピュータ
130内で3次元立体モデルが再構成されることにな
る。
【0100】なお、以上の説明では、回転台110上に
対象物体100を載せ、カメラ120は固定した状態で
回転台110を回転させ画像を撮影する構成とした。し
かしながら、画像情報を獲得する方法はこのような構成
に限定されない。
【0101】たとえば、対象物体100は静止したまま
で、カメラ120を人間が持って移動し、複数の視点か
ら対象物体100を撮影することで、画像データを得る
構成とすることも可能である。この場合でも、各画像の
撮影を行なった際のカメラ120の位置および撮影を行
なう方向がわかれば、これらの情報をもとに以下に述べ
るのと同様の方法により3次元立体形状モデルの再構成
およびテクスチャ情報の付与を行なうことが可能であ
る。
【0102】以下では、さらに、図3に示した各処理ス
テップについて詳しく説明する。 [画像撮影およびシルエット生成]上述のとおり、図1
に示したような構成で、画像撮影を行なう場合は、対象
物体100を回転テーブル110に載せ、テーブルを回
転しつつ対象物体画像を複数枚撮像する。これに加え
て、次のステップ(ステップS12)のシルエット抽出
のため、背景画像の撮影も行なう。
【0103】続いて、対象物体画像と背景画像間の差分
処理により、対象物体のみを切出したシルエット画像を
生成する。
【0104】このとき、背景画像を単一色とするような
特殊な撮影環境を不要とし、かつ、安定したシルエット
画像生成を可能とするために、単純な画像間差分ではな
く、以下に説明するような領域分割処理を加えた画像差
分を行なうことも可能である。
【0105】すなわち、物体画像を領域分割し、続いて
領域単位で背景画像との差分処理を行なう。ここで、差
分処理とは、撮像された物体画像情報を、画素ごとにそ
の信号強度について差分を算出する処理を意味する。
【0106】さらに、領域単位での差分平均をしきい値
処理し物体部分の抽出を行なう。以上説明したような方
法では、画素レベルで背景と同色のものが存在しても、
領域レベルにおいて背景と異なる色があれば、一般に
は、物体部分として検出できるという性質を持ってい
る。
【0107】したがって、生成シルエット画像精度の向
上を図ることが可能となる。 [ボーティング処理]以上のようにして、対象物体10
0を、複数の視点から撮影したシルエット画像情報を得
ることができる。これら複数のシルエット画像情報か
ら、物体の3次元形状を再構成するために、以下に説明
するようなボーティング処理が行なわれる。
【0108】以下では、まず3次元形状を記述するため
のボクセルモデルおよびボクセル空間についてまず説明
をする。
【0109】ボクセルモデルとは3次元形状を立体的な
格子点の有無で記述するモデルであり、ボクセルが定義
される空間をボクセル空間と呼ぶ。ボクセル空間は認識
物体を包含するような、大きさ・位置で配置される。以
下では、対象物体100を回転させながら画像撮影を行
なったことに対応して、より自然に対象物体形状を表現
することが可能な円筒座標系でこのボクセル空間を表現
することにする。
【0110】したがって、各々のボクセルは、円筒座標
の半径方向の座標をr、角度方向の座標をθ、軸方向の
座標をzとするとき、各r,θ,zを等間隔で分割した
場合の体積要素を意味することになる。この体積要素の
集合で3次元形状を表現するものがボクセルモデルであ
る。
【0111】次に、シルエット画像からこのボクセルモ
デルを再構成するための手順について簡単に説明する。
【0112】まず、1つのシルエット画像に基づいて、
ボクセル空間内に、対象物体に対する仮定存在領域の算
出を行なう。ここで、仮定存在領域とは、図5に示すよ
うにカメラ120の投影中心を頂点とし、画像の物体像
を断面形状とする錐体状の領域を意味する。すなわち、
対象物体は、この領域の内側に必ず存在していることに
なる。
【0113】ボーティング処理とは、この仮定存在領域
内に存在する各々のボクセルに対して、たとえば1つの
シルエット画像に対する仮定存在領域に該当する場合
に、数値1を割振る(投票する)という処理を意味す
る。
【0114】図6は、図5に示したz軸に垂直な平面P
上のシルエット画像および円筒ボクセル空間の断面を示
す図である。
【0115】上述のとおり、カメラ120の投影中心と
する錐体状の領域が仮定存在領域に該当するため、この
領域に存在する円筒ボクセル空間内の各ボクセルに対し
て数値1が割振られる。
【0116】図7は、複数のシルエット画像に基づいて
ボーティング処理を行なった場合について、平面P断面
の円筒ボクセル空間を示す断面図である。
【0117】図7においては、5つの視点から撮影され
たシルエット画像に基づいて円筒ボクセル空間に対して
ボーティング処理を行なった場合を示している。この場
合、各々のシルエット画像に基づいたボーティング処理
は、それぞれのシルエット画像に対する仮定存在領域に
対して数値1を割振ることになるため、5つのシルエッ
ト画像に基づいて、ボーティング処理を行なった場合、
図7中のクロスハッチで示した領域は、すべてのシルエ
ット画像に基づく仮定存在領域が重なっていることにな
る。言換えると、このクロスハッチされた領域内のボク
セルには、それぞれ5つのシルエット画像に基づくボー
ティング処理の結果、数値5が割振られていることにな
る。
【0118】したがって、たとえば円筒ボクセル空間内
のボクセルのうち、5以上が割当てられているボクセル
のみを抽出すれば、対象物体が、この円筒ボクセル空間
内で存在する領域を算出することが可能となる。
【0119】より一般的には、撮像された物体画像数に
応じて、適当なしきい値を設定することで、ボーティン
グ処理に基づいて円筒ボクセル空間内における対象物体
の存在領域を算出することが可能となる。以上の処理に
より、円筒ボクセル空間内において対象物体の存在する
領域を抽出することが可能となる。
【0120】ボクセル空間を用いた3次元形状再構成手
法としては、他に特公平7−109626号公報に開示
された錐体相関法があるが、この方法は、生成するシル
エット画像の誤差がそのまま再構成される物体形状に影
響を与えてしまうという問題があった。これに対して、
ボーティング処理による3次元形状再構成は、基礎とな
るシルエット画像に誤りが含まれている場合でも、適当
なしきい値を設定することで、獲得される3次元形状の
精度低下を小さく抑えることが可能であるという特徴を
有する。
【0121】[ポリゴン生成]続いて、ボクセル空間で
表現された物体領域は、ポリゴン(三角パッチ)を用い
た表面モデルで表現するように変換される。
【0122】図8は、このようなポリゴン生成の過程を
示す概念図である。図8を参照して、円筒ボクセル空間
で表現された物体領域の円筒座標系θ1平面(円筒座標
系でθ=θ1である平面)での切断面輪郭線を多角形近
似する。この多角形近似により得られた輪郭線Lθ1の
各頂点が、後に説明するようにポリゴンの頂点に相当す
る。
【0123】同様にして、円筒座標系のθ2平面での切
断輪郭線を多角形近似し、Lθ2を得る。
【0124】以上の操作を、すべてのボクセルに対応す
るθ平面に対して行なう。続いて、これら各輪郭線の各
頂点を、それぞれ最近接の3頂点と接続することで三角
パッチが生成される。
【0125】このような輪郭線の多角形近似と最近接3
頂点の接続という手続で三角パッチを生成することによ
り、表現に必要なポリゴン数を少なく抑え、かつ、表現
形状の精度を維持することが可能となる。
【0126】図9は、対象物体100をポリゴンを用い
た3次元表現モデル300で表現したものである。
【0127】以上の操作により、対象物体の形状につい
て、計算機内等で再構成を行なうことが可能となる。
【0128】以上、円筒ボクセル空間を仮定して説明し
たが、直交ボクセル空間を用いても良い。また、ポリゴ
ン生成処理においては、隣接ボクセルを接続することに
より、細かいポリゴンを一旦生成した後に、これらを統
合してポリゴン数を減らしても良い。
【0129】[テクスチャ情報付与]続いて、以上のよ
うにして、計算機内等において再構成された物体形状に
対しテクスチャ情報を付与して、よりリアルな3次元モ
デルとするために、撮影した物体画像に含まれるテクス
チャ情報を、上記3次元モデルに対して付与する処理を
行なう。
【0130】具体的には、各ポリゴンのテクスチャ情報
を与える物体画像(以後、参照画像と呼ぶ)を決定した
後、ポリゴンを参照画像に投影し、その投影部分のテク
スチャ情報を、対応するポリゴンに付与する。
【0131】図10は、このようなテクスチャ情報の付
与処理を説明するための概念図である。
【0132】以下では、説明を簡単とするために、参照
画像としては、ラベル番号が1〜8までの8枚の物体画
像情報があるものとする。
【0133】すなわち、対象物体を45°おきの角度か
ら撮影した物体画像が存在している。なお、以下の説明
では、対象物体を1つの回転軸のまわりに一定の角度ご
とに撮影した参照画像に基づいて、テクスチャ情報を3
次元立体モデルに付与する場合について説明するが、本
発明はこのような場合に限定されることなく、任意の位
置および方向から対象物体を撮影した複数の参照画像に
基づいて、3次元立体モデルに対してテクスチャ情報を
付与する場合にも適用することが可能である。
【0134】さて、注目するポリゴンに対して、どの参
照画像を対応付けるかを決定する場合に、考慮すべき点
としては、まず当該ポリゴンに対するテクスチャ情報量
の大きい参照画像を選択するという方針が挙げられる。
【0135】したがって、上記方針の下に、各ポリゴン
に対して対応する参照画像すなわちラベル番号の割当を
行なうことで、ポリゴンで表現された3次元立体モデル
に対してテクスチャ情報を付与することが可能となる。
【0136】図11は、テクスチャ情報を付与するまで
の処理の流れを示すフローチャートである。
【0137】一方、図2は、コンピュータ130中にお
いて、テクスチャ情報付与を行なうための色彩情報付与
処理部200の構成を示す概略ブロック図である。
【0138】色彩情報付与処理部200は、カメラ12
0により撮影された物体画像情報(参照画像情報)を記
憶保持する画像記憶部220と、画像記憶部220に記
憶された参照画像情報に基づいて、対象物体の3次元立
体モデルを生成する演算部210と、演算部210によ
り生成された3次元立体モデルの形状、言換えると各ポ
リゴンの位置および形状を記憶している形状記憶部23
0と、後に説明するように、画像記憶部220に保持さ
れた参照画像情報に基づいて、演算部210が、各ポリ
ゴンに対して割当てたテクスチャ情報を記憶保持する色
彩情報記憶部240を備える。
【0139】図11および図2を参照して、前述したと
おり、たとえば、対象物体を一定角度ごとに回転させな
がら撮影された画像情報を、画像記憶部220が記憶す
る(ステップS20)。
【0140】続いて、撮影された画像情報に基づいて、
演算部210が、立体モデルを生成し、その形状データ
を形状記憶部230に保持させる(ステップS22)。
【0141】続いて、以下に説明する手順で、立体形状
構成要素(たとえばポリゴン)と画像記憶部220中に
保持された参照画像情報との対応付けを演算部210が
行なう(ステップS24)。
【0142】演算部210は、対応付けられた各ポリゴ
ンごとのテクスチャ情報を色彩情報記憶部240に保持
させる(ステップS26)。
【0143】次に、上記ステップS24における立体形
状構成要素と参照画像情報との対応付けの処理について
さらに詳しく説明する。
【0144】図12は、ステップS24における立体形
状構成要素と参照画像情報との対応付けを行なうための
フローをより詳しく示すフローチャートである。
【0145】以下の処理では、各立体形状構成要素(ポ
リゴン)の法線ベクトルと参照画像を撮影した方向と平
行な画像撮影面の法線ベクトルとの方向の一致性によ
り、テクスチャ情報量の大きさを判断する。すなわち、
対応するポリゴンに対して最も正対する参照画像が、当
該ポリゴンに対するテクスチャ情報が最も大きいと判断
を行なう。
【0146】画面撮影(ステップS20)および立体モ
デル生成(ステップS22)の各処理が終了した後、演
算部210は、まず以下の演算処理で用いる変数の初期
化を行なう。
【0147】すなわち、立体形状構成要素数を変数Em
axに代入し、撮影した画像数を変数Imaxに代入す
る。また、以下の処理において、撮影画像に対応するラ
ベル番号をカウントするための補助変数Icntを値0
に初期化する。
【0148】さらに、i番目(i=0〜Emax−1)
の立体形状構成要素にそれぞれ対応する1次元配列変数
Prod[i]の値をすべて値0に初期化し、一方、i
番目の立体形状構成要素に対応する参照画像のラベル番
号が代入される1次元配列変数Id[i]が、すべて値
−1に初期化される(ステップS2402)。
【0149】続いて、ポリゴンの番号をカウントするた
めの補助変数Ecntを値0に初期化する(ステップS
2403).
【0150】続いて、Icnt番目の画像撮影面の法線
ベクトルとEcnt番目の立体形状構成要素の法線ベク
トルとの内積の値が計算され、変数Vtmpに代入され
る(ステップS2404)。
【0151】続いて、演算部210は、Ecnt番目の
変数Prod[Ecnt]の値と上記変数Vtmpの値
とを比較する。
【0152】変数Prod[Ecnt]の値が変数Vt
mpの値以下であると判断すると(ステップS240
6)、変数Prod[Ecnt]に変数Vtmpの値が
代入され、同時に変数Id[Ecnt]にその時点での
カウント変数Icntの値が代入される(ステップS2
408)。
【0153】一方、変数Prod[Ecnt]の値が、
変数Vtmpの値よりも大きいと判断すると(ステップ
S2406)、変数Ecntの値が1だけインクリメン
トされる(ステップS2410)。
【0154】続いて、カウント変数Ecntの値が、立
体形状構成要素数Emaxよりも小さいと判断されると
(ステップS2412)、再びステップS2404に処
理が戻り、同一の処理が、次の立体形状構成要素に対し
て繰返される。
【0155】一方、変数Ecntの値が立体形状構成要
素数Emax以上と判断されると(ステップS241
2)、カウント変数Icntの値が1インクリメントさ
れる(ステップS2414)。
【0156】続いて、カウント変数Icntの値が撮影
画像数Imax以上であるか否かの判断が行なわれる
(ステップS2416)。
【0157】変数Icntの値が撮影画像数Imaxよ
りも小さいと判断された場合(ステップS2416)、
次の参照画像について、ステップS2403からステッ
プS2412までの処理が繰返されることになる。
【0158】一方、変数Icntの値が撮影画像数Im
ax以上であると判断されると(ステップS241
6)、次に処理が移行する。
【0159】すなわち、ステップS2402からステッ
プS2416までの処理により、各参照画像について、
当該参照画像の面法線ベクトルとすべての立体形状構成
要素の面法線ベクトルとの内積の値が比較される。この
処理により、それまでに処理の対象となった参照画像に
ついての内積値よりも大きな内積値を有する参照画像に
ついては、その内積値が立体形状構成要素の各々につい
て、1次元配列変数Prod[Ecnt]に格納され
る。一方、その時点における参照画像のラベル番号が1
次元配列変数Id[Ecnt]に格納される。
【0160】したがって、ステップS2416の処理か
ら次の処理に移行する時点では、1次元配列変数Id
[i]には、対応するi番目の立体形状構成要素に対し
て、最大の内積値を有する参照画像情報のラベル番号が
格納されていることになる。
【0161】続いて、色彩情報記憶部240に対して、
演算部210は、各立体形状構成要素について、対応す
る参照画像情報を画像記憶部220から読出して、色彩
情報記憶部240に格納する(ステップS2418)。
【0162】以上のようにして、3次元立体モデルを構
成する各立体形状構成要素(ポリゴン)に最もテクスチ
ャ情報量の多い参照画像情報から得た色彩情報(テクス
チャ情報)を付与する構成となっているので、最も現実
の物体に近いテクスチャ情報を各立体形状構成要素に付
与することが可能となる。
【0163】図13は、図12に示したテクスチャ付与
方法をコンピュータ130に実行させるためのプログラ
ムを記録した記録媒体の構成を示す概念図である。
【0164】記録媒体としては、たとえば磁気ディスク
やCD−ROMなどの光磁気ディスクなどを用いること
が可能である。記録媒体260中には、図12に示した
処理をコンピュータ130に実行させるために、所定の
プログラム言語により、各処理ステップが記述されたも
のが、符号化されて記録されている。
【0165】以上のようにして、記録媒体260中に記
録されたテクスチャ情報付与プログラムに基づいて、コ
ンピュータ130を動作させることで、上述したのと同
様な効果、すなわちコンピュータ130内で再構成され
た3次元立体モデルに対して、より現実の物体が有する
テクスチャに近いテクスチャ情報を付与することが可能
となる。
【0166】[実施の形態2]実施の形態1では各立体
形状構成要素に対して、内積値に基づいて最もテクスチ
ャ情報量の大きいと判断される参照画像を選択して、各
立体形状構成要素にテクスチャ情報を付与した。
【0167】しかしながら、図21において説明したと
おり、対象物体の形状によっては、ある方向から撮影し
た物体画像情報には見通せない部分が存在する場合があ
る。この場合は、この見通せない部分に相当する立体形
状構成要素の面法線ベクトルと最も大きな内積値を有す
る参照画像には、テクスチャ情報が全くないという場合
が存在し得る。
【0168】実施の形態2では、このような場合にも適
用することが可能なテクスチャ情報の付与方法およびテ
クスチャ情報付与装置ならびにテクスチャ情報付与プロ
グラムを記録した媒体を提供する。
【0169】実施の形態2においても、色彩情報付与処
理部の構成は、図2に示した色彩情報付与処理部200
の構成と同等である。以下に説明するとおり、演算部2
10の行なう演算処理が、実施の形態1とは異なる。
【0170】すなわち、実施の形態1では、各ポリゴン
について、その法線ベクトルと各参照画面の法線ベクト
ルとの内積値を比較することで、テクスチャ情報量の大
きさを判断した。
【0171】これに対し、実施の形態2では、各ポリゴ
ンについて、参照画像に対する投影面積を算出し、この
算出された投影面積に基づいて、各参照画面情報が有す
るテクスチャ情報量の大きさを評価する。
【0172】図14は、このような参照画像へのポリゴ
ンの投影面積に基づいて、各ポリゴンごとに対応する参
照画像情報のラベル番号を決定する処理のフローを示す
フローチャートである。
【0173】図14に示すフローチャートでは、評価の
対象となる値が、参照画像面の法線ベクトルと立体形状
構成要素の法線ベクトルとの内積値Vtmpの代わり
に、参照画像に投影された立体形状構成要素の投影面積
Atmpとなっている点を除いては、図12に示したフ
ローチャートと全く同様である。
【0174】したがって、ステップS2422からステ
ップS2436までの処理が終了した時点で、1次元配
列変数Id[i]には、対応するi番目の立体形状構成
要素が最も大きな投影面積を有する参照画像情報のラベ
ル番号が、1次元配列変数Area[i]には、対応す
るi番目の立体形状構成要素について、Id[i]のラ
ベル番号を有する参照画像情報に対する投影面積が、そ
れぞれ格納されていることになる。
【0175】それに応じて、演算部210は、色彩情報
記憶部240へ、各立体形状構成要素ごとに、対応する
参照画像のテクスチャ情報を画像記憶部220から読出
して格納することになる。
【0176】以上の処理により、比較的複雑な形状を有
する対象物体に対しても、計算機内等において再構成さ
れた立体形状モデルに対して最もテクスチャ情報量の大
きい参照画像情報から各ポリゴンへのテクスチャ情報を
付与することが可能となる。
【0177】また、図14に示したようなステップS2
422からステップS2438までのプログラムを記録
した媒体によりコンピュータ130を動作させること
で、同様の効果が奏される。
【0178】[実施の形態3]以上の説明では、対象物
体を3次元立体モデルとして再構成した場合に、各ポリ
ゴンに対する参照画像の対応付けは、当該ポリゴンに対
するテクスチャ情報量の大きさに基づいて判断された。
【0179】しかしながら、各ポリゴンに対して適切な
参照画像を決定する場合において考慮すべき点は、テク
スチャ情報量の大きさのみに限られない。たとえば、さ
らにポリゴン間で付与されたテクスチャ情報に著しい不
連続が存在すると、ポリゴン境界線が目立ってしまい、
再構成された立体モデルは極めて不自然なものとなる。
【0180】したがって、実施の形態3における各立体
形状構成要素への参照画像の割当方法、すなわちテクス
チャ情報付与方法としては、第1にテクスチャ情報量の
大きい参照画像を選択すること、および第2にポリゴン
境界線を隠蔽することを同時に可能とすることを目的と
する。
【0181】ここで、実施の形態2において説明したよ
うに、テクスチャ情報量の大きい参照画像を選択するた
めには、対応する参照画像へのポリゴンの投影面積は大
きい方が望ましい。
【0182】一方、ポリゴン境界線を隠蔽するために
は、隣接するポリゴン間に付与される色彩情報(テクス
チャ情報)の連続性が高いことが望ましい。
【0183】実施の形態3では、ポリゴン境界線を隠蔽
するために、注目するポリゴンに対して、それに隣接す
るポリゴンへの参照画像の割当は、同一であるか、異な
る場合でもなるべく撮影角度差の小さい参照画像を選択
する構成としている。
【0184】より具体的には、上述した2つの条件を最
適に満たすポリゴンへの参照画像情報の割付けを可能と
するために、以下に説明するように、問題をいわゆるエ
ネルギ最小化問題として取り扱う。
【0185】すなわち、各参照画像は、一定角度ずつ撮
影角度を変化させて撮影されているため、順番に参照画
像に番号付けをしておき、各ポリゴンと参照画像番号と
の対応付け(ラベリング)問題を以下の式で表わされる
エネルギを局所的に最小化するように反復改善処理で解
くというものである。
【0186】なお、各参照画像が一定角度ずつ撮影角度
を変化させて撮影されていない場合、すなわち、撮影角
度の変化量がそれぞれ異なっている場合、上記番号付け
は、撮影角度に対応させれば良い。
【0187】
【数1】
【0188】ここで、Area(i)はポリゴンiの参
照画像への投影面積を表わし、Penalty(i)は
ポリゴンiとその隣接ポリゴンとの参照画像番号(ラベ
ル)の差を表わし、kはこれらの結合係数である。
【0189】すなわち、エネルギ関数Eは、ポリゴンi
に隣接するポリゴンに割当てられた参照画像番号が、ポ
リゴンiに割当てられた参照画像番号と異なるほど増加
し、ポリゴンiの参照画像への投影面積、すなわちテク
スチャ情報量が増加するほど減少する関数である。
【0190】上述したとおり、ポリゴンiと隣接するポ
リゴンに割当てられる参照画像番号の差が小さいほどテ
クスチャ連続性が高く、ポリゴン境界線が隠蔽されるの
で、関数Eを極小化することは、テクスチャ情報量の大
きさ(色彩情報量の大きさ)とテクスチャ連続性の双方
を考慮した場合に、各ポリゴンへの最適な参照画像番号
の割当に対応することになる。
【0191】なお、上記のエネルギ関数においては、テ
クスチャ情報量の大きさとして、ポリゴンiの参照画像
への投影面積を用いたが、実施の形態1に示したよう
に、ポリゴンの面法線ベクトルと参照画像の面法線ベク
トルとの内積値で評価する構成とすることも可能であ
る。
【0192】ここでエネルギ関数Eにおいて、結合定数
kは定数でも良いし、各ポリゴンの関数(たとえば各ポ
リゴンの面積の関数)でもよい。
【0193】さらに、エネルギ関数Eとしては、上述の
ような関数Penalty(i)と関数Area(i)
との線形結合以外にも、より一般的に、注目するポリゴ
ンiとそれに隣接するポリゴンへ割当てられたテクスチ
ャ情報の連続性の向上に伴い減少し、かつ、注目するポ
リゴンiへのテクスチャ情報量の増加に伴い減少する関
数であれば、上記の構成には限定されない。
【0194】図15は、上記のようなエネルギ関数Eに
ついて、反復改善処理で最適値を求めるための処理を示
すフローチャートである。
【0195】まず、生成された立体形状モデルの各ポリ
ゴンに対して、初期設定として参照画像番号の仮の対応
付けを行なう(ステップS2440)。
【0196】次に、演算部210は、変数Nに立体形状
構成要素数を代入し、カウント変数Cntを数値0に初
期化する。また、フラグ変数Flgに“OFF”を代入
する(ステップS2442)。
【0197】続いて、変数Pre_lblにCnt番目
の立体形状構成要素に対応する参照画像番号を代入して
おく(ステップS2444)。
【0198】続いて、Cnt番目の立体形状構成要素に
ついて、対応する参照画像番号を変化させ、エネルギ関
数Eを極小化する参照画像番号を導出する(ステップS
2446)。
【0199】ここで、ステップS2446において得ら
れた新しい対応参照画像番号を変数New_lblに代
入する(ステップS2448)。
【0200】続いて、変数New_lblと変数Pre
_lblとの値が比較される。両者が等しくない場合は
(ステップS2450)、エネルギ関数Eの最小化計算
により、ラベルの付け換えが行なわれたと判断され、フ
ラグ変数Flgに“ON”が代入される。続いて、カウ
ント変数Cntの値が1だけインクリメントされる(ス
テップS2454)。
【0201】一方、変数New_lblと変数Pre_
lblの値が等しい場合は、フラグ変数は変化されず
に、カウント変数Cntの値のみが1だけインクリメン
トされる(ステップS2454)。
【0202】続いて、カウント変数Cntの値が、立体
形状構成要素数Nよりも小さい場合は、再び処理がステ
ップS2444に復帰する。一方、カウント変数Cnt
の値が立体形状構成要素数N以上である場合は次に処理
が移行する(ステップS2456)。
【0203】したがって、ステップS2444からステ
ップS2454までの処理が、すべての立体形状構成要
素について繰返されることになる。
【0204】続いて、フラグ変数Flgと“OFF”と
の比較が行なわれる。フラグ変数Flgが“OFF”と
等しくない場合は(ステップS2458)、少なくとも
1回以上エネルギ関数Eの極小化計算によりラベルの付
け換えが行なわれた、すなわちまだエネルギ関数Eを局
所的に極小化するラベル番号の対応付けが完了していな
いと判断され、処理は再びステップS2442に復帰す
る。
【0205】一方、フラグ変数Flgが“OFF”と等
しい場合は、ステップS2444からステップS245
6までの処理において、エネルギ関数Eを極小化する演
算を行なっても、ラベルの付け換えが行なわれていない
ことを意味する。これは、すなわち現状のラベル番号の
対応付けがエネルギ関数Eを局所的に極小化する対応付
けとなっていることを意味するため、最適な対応付けが
完了したものとして処理が終了する(ステップS246
0)。
【0206】以上の処理により、複数のポリゴンに対し
て、参照画像番号の対応付けを行なうにあたり、各ポリ
ゴンに対しテクスチャ情報量の大きい参照画像情報を選
択するという条件と、ポリゴン境界線を隠蔽するという
条件の2つの条件を同時に最適化するテクスチャ情報の
割当が行なわれることになる。
【0207】したがって、割当が完了した後の3次元立
体形状モデルは、現実の物体により近い色彩を有し、か
つより自然なテクスチャ連続性を有していることにな
る。
【0208】上述のステップS2440からステップS
2460までのプログラムを記録した媒体によりコンピ
ュータ130を動作させることでも、同様の効果を得る
ことができる。
【0209】なお、繰り返し改善処理の順序は、改善処
理の最終結果に影響を与えるため、適切な処理順序を考
慮した方が望ましい。これは、繰り返し改善処理におい
ては、各ポリゴンのラベル番号を改善する際、その隣接
ポリゴンのラベル番号を正しい、あるいは信頼性が高い
と仮定しているためである。したがって、より信頼性の
低いポリゴンから順に改善処理を行なえば、より良好な
改善結果が得られる。
【0210】ポリゴンの信頼性を評価する方法の一つと
して、ポリゴンの面積や、ポリゴンが参照画面に投影さ
れた際の面積などがある。
【0211】これは、上述したステップS2240中で
行なわれる参照画像番号の仮の対応づけ処理の信頼性
が、小さい面積のポリゴンほど、あるいはポリゴンが参
照画面に投影された際の面積が小さいポリゴンほど低い
ためである。
【0212】[実施の形態4]実施の形態3のテクスチ
ャ情報付与方法では、テクスチャ情報量(色彩情報量)
と、ポリゴン境界線の隠蔽、すなわちテクスチャ連続性
の双方を考慮して、各ポリゴンにテクスチャ情報を付与
する方法であった。
【0213】しかしながら、実在の物体から画像情報を
撮影する場合には、照明等の関係により、特定方向から
撮影した画像情報が、それに近接する方向から撮影した
画像情報に対してさえも、光沢等の点で著しく異なって
いる場合が存在し得る。
【0214】したがって、よりテクスチャ連続性の高
く、ポリゴン境界線が目立たないテクスチャ情報を付与
するためには、実施の形態3の方法では不十分な場合が
ある。
【0215】そこで、実施の形態4のテクスチャ情報付
与方法では、1つのポリゴンに対して、1つの参照画像
情報からテクスチャ情報を付与するのではなく、複数の
参照画像情報から、すなわち複数の方向から撮影した画
像情報に基づいて、対応するポリゴンにテクスチャ情報
を付与する方法を提供する。
【0216】実施の形態4のテクスチャ情報付与方法の
説明をする前に、まず色彩情報記憶部240へのテクス
チャ情報の格納方法についてより詳しく説明しておく。
【0217】図16は、色彩情報記憶部へのデータの格
納方法を示す概念図である。色彩情報記憶部240は、
立体形状構成要素の基本形状、およびテクスチャを記憶
するものである。ここで、参照画像情報上の立体形状構
成要素は、投影された形状となっているため本来の形状
とは異なった形となっている。
【0218】このため、形状変換を行なって色彩情報記
憶部240に色彩を格納する必要がある。
【0219】ここで、たとえば立体形状構成要素が3角
形の場合を例にとってその形状変換を説明する。今、基
本形状のテクスチャ情報を図16で示すような2次元離
散空間で記憶する場合を考える。基本形状の頂点を(x
0,y0),(x1,y1),(x2,y2)、参照画
像情報に対して投影された立体形状構成要素の頂点を
(X0,Y0),(X1,Y1),(X2,Y2)とす
る。これらを、以下に示す変換行列Aおよび平行移動ベ
クトルBにより1次変換することで、投影された三角形
形状を本来の形状に変換することが可能となる。
【0220】
【数2】
【0221】この場合、基本形状の画素(xn,yn)
のテクスチャ情報は、以下の式で計算される参照画像情
報上の画素(Xn,Yn)から獲得すればよいことを意
味する。
【0222】
【数3】
【0223】すなわち上記のようないわゆるアフィン変
換により、投影された三角形形状のポリゴンに対して、
本来のポリゴン形状に対するテクスチャ情報を獲得し、
色彩情報記憶部240に格納する。
【0224】なお、以上の説明では、ポリゴンの形状を
三角形としたが、たとえばその形状が四角形や他の形状
の場合も同様に計算することが可能である。
【0225】また、座標変換の方法はアフィン変換の
他、射影変換を用いてもよい。射影変換は以下の式で計
算される。
【0226】
【数4】
【0227】以上説明したとおり、色彩情報記憶部24
0には、参照画像情報上に投影されるポリゴンの形状に
かかわりなく、本来のポリゴン形状に対応したテクスチ
ャ情報が格納されている。
【0228】そこで、たとえば実施の形態3に示したよ
うなエネルギ関数Eに対する反復改善処理により、各ポ
リゴンiに対して対応する参照画像情報番号の割当が完
了したものとする。
【0229】実施の形態4のテクスチャ情報付与方法で
は、このラベル番号の割当の完了後に、さらに以下に説
明するような重み平均処理を行なうことで、テクスチャ
連続性をより向上させるテクスチャ情報の付与方法を実
現することを目的とする。
【0230】図17は、上述したように、各ポリゴンi
に対して、参照画像情報番号の割付が完了した後に行な
う重み平均処理のフローを示すフローチャートである。
【0231】したがって、たとえば図15に示したフロ
ーにおけるステップS2460に続く処理を示してい
る。
【0232】まず、初期設定として、変数Emaxに立
体形状構成要素数が、変数Imaxに撮影された参照画
像情報数がそれぞれ代入される。一方、カウント変数E
cntの値が0に初期設定される(ステップS250
0)。
【0233】続いて、カウント変数Icntならびに変
数waccの値が0に初期設定される(ステップS25
01)。
【0234】続いて、Icnt番目の参照画像情報が、
Ecnt番目の立体形状構成要素のテクスチャ情報の入
力対象であるか否かの判断が行なわれる(ステップS2
502)。
【0235】ここで、Icnt番目の画像が、テクスチ
ャ情報の入力対象であるとは、既に行なわれた、ポリゴ
ン(立体形状構成要素)に対する参照画像番号の割当に
より割当てられた画像情報のみならず、それに隣接する
所定数、たとえば前後1画面の参照画像情報も入力対象
に含めることを意味する。
【0236】次に、変数wghtに対して、Icnt番
目の参照画像情報に投影されたEcnt番目の立体形状
構成要素の面積の値が代入される(ステップS250
4)。
【0237】続いて、Ecnt番目の立体形状構成要素
のテクスチャ情報として、Icnt番目の参照画像情報
の情報を変数wghtだけ重み付けをした後、色彩情報
記憶部240に格納する(ステップS2506)。
【0238】変数waccに対して、変数wghtの値
を累積し(ステップS2508)、カウント変数Icn
tの値が1だけインクリメントされる(ステップS25
09)。
【0239】続いて、カウント変数Icntの値が撮影
された参照画像数Imaxと比較される(ステップS2
510)。
【0240】変数Icntが、変数Imaxよりも小さ
い場合は、処理が、再びステップS2502に復帰す
る。
【0241】一方、ステップS2502において、Ic
nt番目の参照画像情報が、Ecnt番目の立体形状構
成要素のテクスチャの入力対象でないと判断された場合
は、処理がステップS2509に移行し、変数Icnt
の値が1だけインクリメントされた後(ステップS25
09)、変数Icntと変数Imaxの値の比較が行な
われる。
【0242】したがって、ステップS2500からステ
ップS2510までの処理が繰返されることで、Ecn
t番目の立体形状構成要素に対して、所定数の参照画像
情報から重み付けされたテクスチャ情報が獲得され、そ
のテクスチャ情報が色彩情報記憶部240に累積される
ことになる。
【0243】続いて、色彩情報記憶部240に累積され
たテクスチャ情報が変数waccの値で割算される(ス
テップS2512)。
【0244】ここまでの処理で、Ecnt番目の立体形
状構成要素に対するテクスチャ情報が、対応する所定数
の参照画像情報からのテクスチャ情報の重み付け平均と
して色彩情報記憶部240に格納されることになる。
【0245】以上の処理を言い換えれば、各ポリゴンに
ついて、それぞれに割り当てられた参照画像番号に対応
する参照画像情報、および、これに隣接する所定数の物
体画像情報に投影されたポリゴンの面積を求め、これを
下記重み平均処理を行なう際の重み係数とする。
【0246】ここで、前記物体画像情報に番号を仮定
し、これをIcntとしたとき、この物体画像情報に対
応する重み係数をwght(Icnt)とする。また、
これら画像情報の数をNとする。
【0247】さて、ポリゴンのテクスチャ情報は、複数
の画素から構成されており、今、1つのテクスチャ情報
の画素に着目する。この画素が上記物体画像情報に投影
される部位を求め、その投影部位の画像情報(投影部位
の画素値、すなわち色、濃度あるいは輝度)を、上記物
体画像情報全てにわたって、すなわちN個分について重
み平均処理をすることで、いま着目したテクスチャ情報
の画素値の値とする。ここで、投影された部位の画像情
報がv(Icnt)であったとすると、重み平均処理
は、具体的には以下の式で表される計算を行なうことに
対応する。
【0248】
【数5】
【0249】この処理を、ポリゴンのテクスチャ情報と
なるすべての画素について行なう。
【0250】続いて、変数Ecntの値が1だけインク
リメントされる(ステップS2514)。
【0251】続いて、カウント変数Ecntの値と立体
形状構成要素数Emaxとの値が比較される(ステップ
S2516)。
【0252】変数Ecntの値が、立体形状構成要素数
Emaxよりも小さい場合は、処理がステップS250
1に復帰する。したがって、すべての立体形状構成要素
について、上述したテクスチャ情報の重み平均処理が行
なわれることになる。
【0253】一方、カウント変数Ecntが、立体形状
構成要素数Emax以上である場合は(ステップS25
16)、色彩情報記憶部240へのテクスチャ情報の格
納処理が終了する(ステップ2518)。
【0254】すなわち、実施の形態4のテクスチャ情報
の付与方法では、まず、各ポリゴンに対して参照画像情
報番号(ラベル番号)の対応付けが行なわれる。続い
て、対応付けられた参照画像情報番号を含む所定数(た
とえば、対応付けられた参照画像情報番号とその前後1
画面分)の参照画像情報番号に対応する参照画像情報に
ついて、各参照画像情報に投影される立体形状構成要素
の面積に応じた重み平均処理を行なった結果が、その立
体形状構成要素のテキスチャ情報として付与される。
【0255】以上説明したような所定数の参照画像情報
からのテクスチャ情報の重み平均処理を行なうことによ
り、対応するポリゴンに対するテクスチャ情報が得られ
るので、よりテクスチャ連続性の向上したテクスチャ情
報を当該ポリゴンに割当てることが可能となる。
【0256】たとえば、現実の対象物体を撮影した場合
に、照明等の関係により、特定方向から撮影した参照画
像情報における当該ポリゴンに対する色彩情報に含まれ
る光沢が特異的に高い場合でも、重み平均処理によりそ
の影響を軽減することが可能である。
【0257】図17に示したようなステップS2500
からステップS2518までのプログラムを記録した媒
体により、コンピュータ130を動作させることでも、
同様の効果を得ることが可能である。
【0258】[実施の形態5]実施の形態4では、予
め、各ポリゴンに対して、テクスチャ情報を獲得する参
照画像番号の割当が完了した後に、所定数の隣接する参
照画像情報からも対応するポリゴンに対してテクスチャ
情報を与える構成について説明した。
【0259】しかしながら、テクスチャ連続性をより重
視する考えに立てば、必ずしもエネルギ関数Eを極小化
するように各ポリゴンに対する参照画像番号の割当を行
なう必要はない。
【0260】実施の形態5のテクスチャ情報付与方法で
は、各ポリゴン(立体形状構成要素)に対して、その立
体形状構成要素に対するテクスチャ情報を有する複数の
参照画像情報から当該ポリゴンに対してテクスチャ情報
を付与する構成としている。
【0261】たとえば、各ポリゴン(立体形状構成要
素)に対して、その立体形状構成要素に対するテクスチ
ャ情報を有するすべての参照画像情報から当該ポリゴン
に対してテクスチャ情報を付与しても良いし、各ポリゴ
ン(立体形状構成要素)に対して、その立体形状構成要
素に対するテクスチャ情報を有する画像情報からランダ
ムに、あるいは規則的に参照画像情報を選択し、これら
から当該ポリゴンに対してテクスチャ情報を付与しても
良い。
【0262】図18は、このようなポリゴンへのテクス
チャ情報の付与方法を示す概念図であり、立体形状構成
要素に対するテクスチャ情報を有するすべての参照画像
情報から当該ポリゴンに対してテクスチャ情報を付与す
る例を示している。
【0263】実施の形態4において説明したとおり、色
彩情報記憶部240に対しては、各参照画像情報に投影
されるポリゴンの形状にかかわりなく、本来のポリゴン
形状に対応したテクスチャ情報が格納される。
【0264】したがって、特定のポリゴンiに注目した
場合、このポリゴンが投影される面積が0でないすべて
の参照画像情報から、その投影面積に応じた重み平均処
理を行なうことによりテクスチャ情報を獲得することが
可能である。
【0265】図19は、このようなテクスチャ情報付与
方法のフローを示すフローチャートである。
【0266】実在の物体に対する複数の画像撮影(ステ
ップS20および立体モデル生成ステップS22)の
後、各立体形状構成要素と、当該立体形状構成要素の投
影面積が0でない参照画像情報との対応付けを行なう
(ステップS30)。
【0267】続いて、上記対応付けに基づいて、色彩情
報記憶部240に対して、投影面積に応じた重み平均処
理を行なうことにより、各立体形状構成要素ごとに、テ
クスチャ情報が累積される(ステップS32)。
【0268】つまり、実施の形態5のテクスチャ情報の
付与方法では、立体形状構成要素ごとに、複数の参照画
像情報のそれぞれに投影された当該立体形状構成要素の
面積を重み係数として、複数の参照画像情報についての
重み平均処理が行なわれる。この立体形状構成要素ごと
に得られた重み平均処理の結果が、テクスチャ情報とし
て各立体形状構成要素に付与される。
【0269】以上のようにして、各立体形状構成要素に
対して、テクスチャ情報を有するすべての参照画像情報
から、テクスチャ情報を付与する構成とすることで、テ
クスチャ連続性がさらに向上する。
【0270】つまり、特定方向から撮影した参照画像情
報が、たとえば照明の関係等で他の方向から撮影した参
照画像情報に比べて光沢が異常に高いような場合でも、
すべての関係する参照画像情報からのテクスチャ情報を
重み平均することで、この特定方向のテクスチャ情報の
影響が抑制される。
【0271】なお、以上説明した実施の形態1〜5で
は、立体モデルをポリゴンデータに変換してから、テク
スチャ情報を付与しているが、本願はこのような構成に
限定されるわけではなく、ボクセル表現された立体モデ
ルにおいて、表面の面方向を演算して、テクスチャ情報
を付与するようにしてもよい。
【0272】ただし、ポリゴンデータに変換してから、
テクスチャ情報を付与するという構成の方が、同一方向
に向いている面(ポリゴン)を一括して処理できるた
め、演算量を著しく減少させることが可能である。
【0273】
【発明の効果】以上説明したとおり、本発明によれば、
実在する物体を撮影した画像情報に基づいて、計算機内
等において3次元立体モデルを再構成した場合に、当該
対象物体を撮影した複数の画像情報のうちから、最も現
実の物体が有するテクスチャ情報として最も適切なもの
をを選択的に立体モデルに付与することが可能である。
【0274】また、本発明によれば、複数の立体形状構
成要素の集合として表現された3次元立体モデルに対し
て、テクスチャ情報(色彩情報)を付与する場合に、各
立体形状構成要素間でのテクスチャ情報の不連続性を抑
制しつつ、同時に現実の物体の有するテクスチャ情報に
より近いテクスチャ情報を各立体形状構成要素に選択的
に付与することが可能である。
【0275】さらに、複数の立体形状構成要素に対し
て、現実の対象物体から撮影した物体画像情報に基づい
て、テクスチャ情報を付与する処理を、各立体形状構成
要素に対するラベリング問題に置換して処理することが
可能であるため、コンピュータ処理等に適した手順で各
立体形状構成要素へのテクスチャ情報の付与処理を行な
うことが可能である。
【図面の簡単な説明】
【図1】本発明の実施の形態1の3次元立体モデル生成
装置1000の構成を示す概略ブロック図である。
【図2】実施の形態1の色彩情報付与処理部200の構
成を示す概略ブロック図である。
【図3】現実の物体から3次元立体モデルを生成する処
理のフローを示すフローチャートである。
【図4】現実の物体から3次元立体モデルを生成するま
での処理の過程を示す概念図である。
【図5】ボーティング処理の概念を示す透視図である。
【図6】ボーティング処理における仮定存在領域を示す
P平面断面図である。
【図7】ボーティング処理の概念を示すP平面断面図で
ある。
【図8】ポリゴン生成処理を説明するための概念図であ
る。
【図9】ポリゴンによる3次元立体形状モデル300を
示す図である。
【図10】テクスチャ情報の付与処理を示す概念図であ
る。
【図11】各立体形状構成要素へのテクスチャ情報付与
の処理の流れを示すフローチャートである。
【図12】実施の形態1のテクスチャ情報付与方法の処
理の流れを示すフローチャートである。
【図13】実施の形態1のテクスチャ情報付与方法を記
録した記録媒体260を示す概念図である。
【図14】実施の形態2のテクスチャ情報付与方法の処
理の流れを示すフローチャートである。
【図15】実施の形態3のテクスチャ情報付与方法の処
理の流れを示すフローチャートである。
【図16】色彩情報記憶部240へのテクスチャ情報の
記憶方法を示す概念図である。
【図17】実施の形態4のテクスチャ情報付与方法の処
理の流れを示すフローチャートである。
【図18】実施の形態5のテクスチャ情報付与方法を示
す概念図である。
【図19】実施の形態5のテクスチャ情報付与方法の処
理の流れを示すフローチャートである。
【図20】従来のテクスチャ情報付与方法を示す概念図
である。
【図21】従来のテクスチャ情報付与方法の問題点を示
す断面図である。
【符号の説明】
100 対象物体 110 回転テーブル 120 カメラ 130 コンピュータ 140 データ入力装置 150 ディスプレイ 200 色彩情報付与処理部 210 演算部 220 画像記憶部 230 形状記憶部 240 色彩情報記憶部 300 3次元立体形状モデル

Claims (48)

    【特許請求の範囲】
  1. 【請求項1】 立体モデルに対するテクスチャ情報付与
    方法であって、 対象物体の形状を複数の立体形状構成要素の集合による
    立体モデルとして記述するステップと、 前記対象物体を異なる視点から撮影することにより獲得
    された複数の物体画像情報に基づいて、前記立体モデル
    に対するテクスチャ情報を、前記立体形状構成要素ごと
    に、前記各物体画像情報の前記立体形状構成要素に対す
    るテクスチャ情報量に応じて付与するステップとを備え
    る、テクスチャ情報付与方法。
  2. 【請求項2】 前記テクスチャ情報量は、 前記立体形状構成要素ごとに、前記各立体形状構成要素
    の面法線方向と、前記各物体画像情報を撮影した方向と
    の一致の程度により表現される、請求項1記載のテクス
    チャ情報付与方法。
  3. 【請求項3】 前記テクスチャ情報量は、 前記立体形状構成要素ごとに、前記各物体画像情報に投
    影される前記立体形状構成要素の面積により表現され
    る、請求項1記載のテクスチャ情報付与方法。
  4. 【請求項4】 立体モデルに対するテクスチャ情報付与
    方法であって、 対象物体の形状を複数の立体形状構成要素の集合による
    立体モデルとして記述するステップと、 前記対象物体を異なる視点から撮影することにより獲得
    された複数の物体画像情報に基づいて、前記立体モデル
    に対するテクスチャ情報を前記立体形状構成要素ごと
    に、前記各物体画像情報の前記立体形状構成要素に対す
    るテクスチャ情報量と前記立体形状構成要素間のテクス
    チャ連続性との双方に応じて付与するステップとを備え
    る、テクスチャ情報付与方法。
  5. 【請求項5】 前記テクスチャ情報を付与するステップ
    においては、 前記テクスチャ情報量の増加に伴い減少し、かつ、前記
    立体形状構成要素間のテクスチャ連続性の向上に伴い減
    少する評価関数を極小化するように、前記立体形状構成
    要素ごとに対応付けられた前記物体画像情報から、前記
    立体モデルに対するテクスチャ情報を付与する、請求項
    4記載のテクスチャ情報付与方法。
  6. 【請求項6】 前記評価関数においては、 前記テクスチャ連続性は、注目する前記立体形状構成要
    素とそれに隣接する前記立体形状構成要素とにそれぞれ
    対応する前記物体画像情報の撮影位置および撮影方向の
    差の関数として表現される、請求項5記載のテクスチャ
    情報付与方法。
  7. 【請求項7】 前記評価関数においては、 前記テクスチャ連続性は、位置変化を伴って前記物体画
    像情報を撮影した場合に各物体画像情報に位置変化に対
    応したラベル番号を与えたとき、注目する前記立体形状
    構成要素に割当てられたラベル番号と、前記注目する立
    体形状構成要素に隣接する立体形状構成要素に割当てら
    れたラベル番号との差の増加に伴い増加する関数として
    表現される、請求項5記載のテクスチャ情報付与方法。
  8. 【請求項8】 前記評価関数においては、 前記テクスチャ連続性は、規則的な位置変化を伴って前
    記物体画像情報を撮影した場合に各物体画像情報にラベ
    ル番号を与えたとき、注目する前記立体形状構成要素に
    割当てられたラベル番号と、前記注目する立体形状構成
    要素に隣接する立体形状構成要素に割当てられたラベル
    番号との差の増加に伴い増加する関数として表現され
    る、請求項5記載のテクスチャ情報付与方法。
  9. 【請求項9】 前記評価関数においては、 前記テクスチャ情報量は、前記立体形状構成要素ごと
    に、前記各物体画像情報に投影される前記立体形状構成
    要素の面積の関数として表現される、請求項5記載のテ
    クスチャ情報付与方法。
  10. 【請求項10】 前記評価関数においては、 前記テクスチャ情報量は、前記立体形状構成要素ごと
    に、前記各立体形状構成要素の面法線方向と、前記各物
    体画像情報を投影した方向との一致の程度の関数として
    表現される、請求項5記載のテクスチャ情報付与方法。
  11. 【請求項11】 前記評価関数は、 i番目(i:自然数)の前記立体形状要素に割当てられ
    たラベル番号と前記i番目の前記立体形状構成要素に隣
    接する立体形状構成要素に割当てられたラベル番号との
    差の全立体形状構成要素についての総和と、前記i番目
    の立体形状構成要素に割当てられたラベル番号に対応す
    る前記物体画像情報に投影される、前記i番目の立体形
    状構成要素の面積の全立体形状構成要素についての総和
    との線形結合で表現される、請求項5記載のテクスチャ
    情報付与方法。
  12. 【請求項12】 立体モデルに対するテクスチャ情報付
    与方法であって、 対象物体の形状を複数の立体形状構成要素の集合による
    立体モデルとして記述するステップと、 位置変化を伴って複数の物体画像情報を投影した場合に
    前記各物体画像情報に位置変化に対応したラベル番号を
    与えたとき、前記各立体形状構成要素に対するテクスチ
    ャ情報量の増加に伴い減少し、かつ、前記各立体形状構
    成要素とそれに隣接する立体形状構成要素とにそれぞれ
    割当てられるテクスチャ情報のテクスチャ連続性の向上
    に伴い減少する評価関数を極小化するように、前記立体
    形状構成要素ごとに前記ラベル番号を対応付けるステッ
    プと、 前記対応付けられたラベル番号に対応する物体画像情報
    と、前記対応付けられたラベル番号を含む所定数のラベ
    ル番号に対応する物体画像情報とに基づいて、前記各物
    体画像情報に投影される前記立体形状構成要素の面積に
    応じた重み平均処理を行なうことにより、前記立体形状
    構成要素にテクスチャ情報を付与するステップとを備え
    る、テクスチャ情報付与方法。
  13. 【請求項13】 立体モデルに対するテクスチャ情報付
    与方法であって、 対象物体の形状を複数の立体形状構成要素の集合による
    立体モデルとして記述するステップと、 規則的な位置変化を伴って複数の物体画像情報を投影し
    た場合に前記各物体画像情報にラベル番号を与えたと
    き、前記各立体形状構成要素に対するテクスチャ情報量
    の増加に伴い減少し、かつ、前記各立体形状構成要素と
    それに隣接する立体形状構成要素とにそれぞれ割当てら
    れるテクスチャ情報のテクスチャ連続性の向上に伴い減
    少する評価関数を極小化するように、前記立体形状構成
    要素ごとに前記ラベル番号を対応付けるステップと、 前記対応付けられたラベル番号に対応する物体画像情報
    と、前記対応付けられたラベル番号を含む所定数のラベ
    ル番号に対応する物体画像情報とに基づいて、前記各物
    体画像情報に投影される前記立体形状構成要素の面積に
    応じた重み平均処理を行なうことにより、前記立体形状
    構成要素にテクスチャ情報を付与するステップとを備え
    る、テクスチャ情報付与方法。
  14. 【請求項14】 立体モデルに対するテクスチャ情報付
    与方法であって、 対象物体を異なる視点から撮影することにより複数の物
    体画像情報を獲得するステップと、 前記対象物体の形状を複数の立体形状構成要素の集合に
    よる立体モデルとして記述するステップと、 前記立体形状構成要素ごとに、前記複数の物体画像情報
    のそれぞれに投影された前記立体形状構成要素に対応す
    る面積に応じた、複数の前記物体画像情報についての重
    み平均処理を行なうことにより得られたテクスチャ情報
    を付与するステップとを備える、テクスチャ情報付与方
    法。
  15. 【請求項15】 コンピュータに立体モデルへのテクス
    チャ情報の付与をさせるためのプログラムを記録した媒
    体であって、 前記プログラムは、 対象物体の形状を複数の立体形状構成要素の集合による
    立体モデルとして記述するステップと、 前記対象物体を異なる視点から撮影することにより獲得
    された複数の物体画像情報に基づいて、前記立体モデル
    に対するテクスチャ情報を、前記立体形状構成要素ごと
    に、前記各物体画像情報の前記立体形状構成要素に対す
    るテクスチャ情報量に応じて付与するステップとを含
    む、テクスチャ情報付与プログラムを記録した媒体。
  16. 【請求項16】 前記テクスチャ情報量は、 前記立体形状構成要素ごとに、前記各立体形状構成要素
    の面法線方向と、前記各物体画像情報を撮影した方向と
    の一致の程度により表現される、請求項15記載のテク
    スチャ情報付与プログラムを記録した媒体。
  17. 【請求項17】 前記テクスチャ情報量は、 前記立体形状構成要素ごとに、前記各物体画像情報に投
    影される前記立体形状構成要素の面積により表現され
    る、請求項15記載のテクスチャ情報付与プログラムを
    記録した媒体。
  18. 【請求項18】 コンピュータに立体モデルへのテクス
    チャ情報の付与をさせるためのプログラムを記録した媒
    体であって、 前記プログラムは、 対象物体の形状を複数の立体形状構成要素の集合による
    立体モデルとして記述するステップと、 前記対象物体を異なる視点から撮影することにより獲得
    された複数の物体画像情報に基づいて、前記立体モデル
    に対するテクスチャ情報を前記立体形状構成要素ごと
    に、前記各物体画像情報の前記立体形状構成要素に対す
    るテクスチャ情報量と前記立体形状構成要素間のテクス
    チャ連続性との双方に応じて付与するステップとを含
    む、テクスチャ情報付与プログラムを記録した媒体。
  19. 【請求項19】 前記テクスチャ情報を付与するステッ
    プにおいては、 前記テクスチャ情報量の増加に伴い減少し、かつ前記立
    体形状構成要素間のテクスチャ連続性の向上に伴い減少
    する評価関数を極小化するように、前記立体形状構成要
    素ごとに対応付けられた前記物体画像情報から、前記立
    体モデルに対するテクスチャ情報を付与する、請求項1
    8記載のテクスチャ情報付与プログラムを記録した媒
    体。
  20. 【請求項20】 前記評価関数においては、 前記テクスチャ連続性は、注目する前記立体形状構成要
    素とそれに隣接する前記立体形状構成要素とにそれぞれ
    対応する前記物体画像情報の撮影位置および撮影方向の
    差の関数として表現される、請求項19記載のテクスチ
    ャ情報付与プログラムを記録した媒体。
  21. 【請求項21】 前記評価関数においては、 前記テクスチャ連続性は、位置変化を伴って前記物体画
    像情報を撮影した場合に各物体画像情報に位置変化に対
    応したラベル番号を与えたとき、注目する前記立体形状
    構成要素に割当てられたラベル番号と、前記注目する立
    体形状構成要素に隣接する立体形状構成要素に割当てら
    れたラベル番号の差の増加に伴い増加する関数として表
    現される、請求項19記載のテクスチャ情報付与プログ
    ラムを記録した媒体。
  22. 【請求項22】 前記評価関数においては、 前記テクスチャ連続性は、規則的な位置変化を伴って前
    記物体画像情報を撮影した場合に各物体画像情報にラベ
    ル番号を与えたとき、注目する前記立体形状構成要素に
    割当てられたラベル番号と、前記注目する立体形状構成
    要素に隣接する立体形状構成要素に割当てられたラベル
    番号の差の増加に伴い増加する関数として表現される、
    請求項19記載のテクスチャ情報付与プログラムを記録
    した媒体。
  23. 【請求項23】 前記評価関数においては、 テクスチャ情報量は、前記立体形状構成要素ごとに、前
    記各物体画像情報に投影される前記立体形状構成要素の
    面積の関数として表現される、請求項19記載のテクス
    チャ情報付与プログラムを記録した媒体。
  24. 【請求項24】 前記評価関数においては、 前記テクスチャ情報量は、 前記立体形状構成要素ごとに、前記各立体形状構成要素
    の面法線方向と、前記各物体画像情報を撮影した方向と
    の一致の程度の関数として表現される、請求項19記載
    のテクスチャ情報付与プログラムを記録した媒体。
  25. 【請求項25】 前記評価関数は、 i番目(i:自然数)の前記立体形状構成要素に割当て
    られたラベル番号と前記i番目の立体形状構成要素に隣
    接する立体形状構成要素に割当てられたラベル番号との
    差の全立体形状構成要素についての総和と、前記i番目
    の立体形状構成要素に割当てられたラベル番号に対応す
    る前記物体画像情報に投影される、前記i番目の立体形
    状構成要素の面積の全立体形状構成要素についての総和
    との線形結合で表現される、請求項19記載のテクスチ
    ャ情報付与プログラムを記録した媒体。
  26. 【請求項26】 コンピュータに立体モデルへのテクス
    チャ情報の付与をさせるためのプログラムを記録した媒
    体であって、 前記プログラムは、 対象物体の形状を複数の立体形状構成要素の集合による
    立体モデルとして記述するステップと、 位置変化を伴って複数の物体画像情報を撮影した場合に
    前記各物体画像情報に位置変化に対応したラベル番号を
    与えたとき、前記各立体形状構成要素に対するテクスチ
    ャ情報量の増加に伴い減少し、かつ、前記各立体形状構
    成要素とそれに隣接する立体形状構成要素とにそれぞれ
    割当てられるテクスチャ情報のテクスチャ連続性の向上
    に伴い減少する評価関数を極小化するように、前記立体
    形状構成要素ごとに前記ラベル番号を対応付けるステッ
    プと、 前記対応付けられたラベル番号に対応する物体画像情報
    と、前記対応付けられたラベル番号を含む所定数のラベ
    ル番号に対応する物体画像情報とに基づいて、前記各物
    体画像情報に投影される前記立体形状構成要素の面積に
    応じた重み平均処理を行なうことにより、前記立体形状
    構成要素にテクスチャ情報を付与するステップとを含
    む、テクスチャ情報付与プログラムを記録した媒体。
  27. 【請求項27】 コンピュータに立体モデルへのテクス
    チャ情報の付与をさせるためのプログラムを記録した媒
    体であって、 前記プログラムは、 対象物体の形状を複数の立体形状構成要素の集合による
    立体モデルとして記述するステップと、 規則的な位置変化を伴って複数の物体画像情報を撮影し
    た場合に前記各物体画像情報にラベル番号を与えたと
    き、前記各立体形状構成要素に対するテクスチャ情報量
    の増加に伴い減少し、かつ、前記各立体形状構成要素と
    それに隣接する立体形状構成要素とにそれぞれ割当てら
    れるテクスチャ情報のテクスチャ連続性の向上に伴い減
    少する評価関数を極小化するように、前記立体形状構成
    要素ごとに前記ラベル番号を対応付けるステップと、 前記対応付けられたラベル番号に対応する物体画像情報
    と、前記対応付けられたラベル番号を含む所定数のラベ
    ル番号に対応する物体画像情報とに基づいて、前記各物
    体画像情報に投影される前記立体形状構成要素の面積に
    応じた重み平均処理を行なうことにより、前記立体形状
    構成要素にテクスチャ情報を付与するステップとを含
    む、テクスチャ情報付与プログラムを記録した媒体。
  28. 【請求項28】 コンピュータに立体モデルへのテクス
    チャ情報の付与をさせるためのプログラムを記録した媒
    体であって、 前記プログラムは、 対象物体を異なる視点から撮影することにより複数の物
    体画像情報を獲得するステップと、 前記対象物体の形状を複数の立体形状構成要素の集合に
    よる立体モデルとして記述するステップと、 前記立体形状構成要素ごとに、前記複数の物体画像情報
    のそれぞれに投影された前記立体形状構成要素に対応す
    る面積に応じた、複数の前記物体画像情報についての重
    み平均処理を行なうことにより得られたテクスチャ情報
    を付与するステップとを含む、テクスチャ情報付与プロ
    グラムを記録した媒体。
  29. 【請求項29】 立体モデルに対するテクスチャ情報付
    与装置であって、 対象物体の形状を複数の立体形状構成要素の集合による
    立体モデルとして記述する手段と、 前記対象物体を異なる視点から撮影することにより獲得
    された複数の物体画像情報に基づいて、前記立体モデル
    に対するテクスチャ情報を、前記立体形状構成要素ごと
    に、前記各物体画像情報の前記立体形状構成要素に対す
    るテクスチャ情報量に応じて付与する手段とを備える、
    テクスチャ情報付与装置。
  30. 【請求項30】 前記テクスチャ情報量は、 前記立体形状構成要素ごとに、前記各立体形状構成要素
    の面法線方向と、前記各物体画像情報を撮影した方向と
    の一致の程度により表現される、請求項29記載のテク
    スチャ情報付与装置。
  31. 【請求項31】 前記テクスチャ情報量は、 前記立体形状構成要素ごとに、前記各物体画像情報に投
    影される前記立体形状構成要素の面積により表現され
    る、請求項29記載のテクスチャ情報付与装置。
  32. 【請求項32】 立体モデルに対するテクスチャ情報付
    与装置であって、 対象物体の形状を複数の立体形状構成要素の集合による
    立体モデルとして記述する手段と、 前記対象物体を異なる視点から撮影することにより獲得
    された複数の物体画像情報に基づいて、前記立体モデル
    に対するテクスチャ情報を前記立体形状構成要素ごと
    に、前記各物体画像情報の前記立体形状構成要素に対す
    るテクスチャ情報量と前記立体形状構成要素間のテクス
    チャ連続性との双方に応じて付与する手段とを備える、
    テクスチャ情報付与装置。
  33. 【請求項33】 前記テクスチャ情報を付与する手段に
    おいては、 前記テクスチャ情報量の増加に伴い減少し、かつ、前記
    立体形状構成要素間のテクスチャ連続性の向上に伴い減
    少する評価関数を極小化するように、前記立体形状構成
    要素ごとに対応付けられた前記物体画像情報から、前記
    立体モデルに対するテクスチャ情報を付与する、請求項
    32記載のテクスチャ情報付与装置。
  34. 【請求項34】 前記評価関数においては、 前記テクスチャ連続性は、注目する前記立体形状構成要
    素とそれに隣接する前記立体形状構成要素とにそれぞれ
    対応する前記物体画像情報の撮影位置および撮影方向の
    差の関数として表現される、請求項33記載のテクスチ
    ャ情報付与装置。
  35. 【請求項35】 前記評価関数においては、 前記テクスチャ連続性は、位置変化を伴って前記物体画
    像情報を撮影した場合に各物体画像情報に位置変化に対
    応したラベル番号を与えたとき、注目する前記立体形状
    構成要素に割当てられたラベル番号と、前記注目する立
    体形状構成要素に隣接する前記立体形状構成要素に割当
    てられたラベル番号との差の増加に伴い増加する関数と
    して表現される、請求項33記載のテクスチャ情報付与
    装置。
  36. 【請求項36】 前記評価関数においては、 前記テクスチャ連続性は、規則的な位置変化を伴って前
    記物体画像情報を撮影した場合に各物体画像情報にラベ
    ル番号を与えたとき、注目する前記立体形状構成要素に
    割当てられたラベル番号と、前記注目する立体形状構成
    要素に隣接する前記立体形状構成要素に割当てられたラ
    ベル番号との差の増加に伴い増加する関数として表現さ
    れる、請求項33記載のテクスチャ情報付与装置。
  37. 【請求項37】 前記評価関数においては、 前記テクスチャ情報量は、前記立体形状構成要素ごと
    に、前記各物体画像情報に投影される前記立体形状構成
    要素の面積の関数として表現される、請求項33記載の
    テクスチャ情報付与装置。
  38. 【請求項38】 前記評価関数においては、 前記テクスチャ情報量は、前記立体形状構成要素ごと
    に、前記各立体形状構成要素の面法線方向と、前記各物
    体画像情報を撮影した方向との一致の程度の関数として
    表現される、請求項33記載のテクスチャ情報付与装
    置。
  39. 【請求項39】 前記評価関数は、 i番目(i:自然数)の立体形状構成要素に割当てられ
    たラベル番号と前記i番目の前記立体形状構成要素に隣
    接する立体形状構成要素に割当てられたラベル番号との
    差の全立体形状構成要素についての総和と、前記i番目
    の立体形状構成要素に割当てられたラベル番号に対応す
    る前記物体画像情報に投影される、前記i番目の立体形
    状構成要素の面積の全立体形状構成要素についての総和
    との線形結合で表現される、請求項33記載のテクスチ
    ャ情報付与装置。
  40. 【請求項40】 立体モデルに対するテクスチャ情報付
    与装置であって、 対象物体の形状を複数の立体形状構成要素の集合による
    立体モデルとして記述する手段と、 位置変化を伴って複数の物体画像情報を撮影した場合に
    前記各物体画像情報に位置変化に対応したラベル番号を
    与えたとき、前記各立体形状構成要素に対するテクスチ
    ャ情報量の増加に伴い減少し、かつ、前記各立体形状構
    成要素とそれに隣接する立体形状構成要素とにそれぞれ
    割当てられるテクスチャ情報のテクスチャ連続性の向上
    に伴い減少する評価関数を極小化するように、前記立体
    形状構成要素ごとに前記ラベル番号を対応付ける手段
    と、 前記対応付けられたラベル番号に対応する物体画像情報
    と、前記対応付けられたラベル番号を含む所定数のラベ
    ル番号に対応する物体画像情報とに基づいて、前記各物
    体画像情報に投影される前記立体形状構成要素の面積に
    応じた重み平均処理を行なうことにより、前記立体形状
    構成要素にテクスチャ情報を付与する手段とを備える、
    テクスチャ情報付与装置。
  41. 【請求項41】 立体モデルに対するテクスチャ情報付
    与装置であって、 対象物体の形状を複数の立体形状構成要素の集合による
    立体モデルとして記述する手段と、 規則的な位置変化を伴って複数の物体画像情報を撮影し
    た場合に前記各物体画像情報にラベル番号を与えたと
    き、前記各立体形状構成要素に対するテクスチャ情報量
    の増加に伴い減少し、かつ、前記各立体形状構成要素と
    それに隣接する立体形状構成要素とにそれぞれ割当てら
    れるテクスチャ情報のテクスチャ連続性の向上に伴い減
    少する評価関数を極小化するように、前記立体形状構成
    要素ごとに前記ラベル番号を対応付ける手段と、 前記対応付けられたラベル番号に対応する物体画像情報
    と、前記対応付けられたラベル番号を含む所定数のラベ
    ル番号に対応する物体画像情報とに基づいて、前記各物
    体画像情報に投影される前記立体形状構成要素の面積に
    応じた重み平均処理を行なうことにより、前記立体形状
    構成要素にテクスチャ情報を付与する手段とを備える、
    テクスチャ情報付与装置。
  42. 【請求項42】 立体モデルに対するテクスチャ情報付
    与装置であって、 対象物体を異なる視点から撮影することにより複数の物
    体画像情報を獲得する手段と、 前記対象物体の形状を複数の立体形状構成要素の集合に
    よる立体モデルとして記述する手段と、 前記立体形状構成要素ごとに、前記複数の物体画像情報
    のそれぞれに投影された前記立体形状構成要素に対応す
    る面積に応じた、複数の前記物体画像情報についての重
    み平均処理を行なうことにより得られたテクスチャ情報
    を付与する手段とを備える、テクスチャ情報付与装置。
  43. 【請求項43】 立体モデルとして記述される対象物体
    を異なる視点から撮影することにより獲得された複数の
    物体画像情報に基づいて、前記立体モデルのテキスチャ
    情報を取得するテクスチャ情報付与方法であって、 前記立体モデルの面方向を検出するステップと、 前記検出された面方向と前記撮影した視点の位置とに応
    じて、前記複数の物体画像情報からテクスチャ情報を作
    成するステップとを備える、テクスチャ情報付与方法。
  44. 【請求項44】 立体モデルとして記述される対象物体
    を異なる視点から撮影することにより獲得された複数の
    物体画像情報に基づいて、前記立体モデルのテキスチャ
    情報を取得するテクスチャ情報付与方法であって、 前記立体モデルは、ポリゴン(多角形平面)の集合によ
    り表現され、 前記ポリゴンごとの面方向を検出するステップと、 前記検出された面方向と前記撮影した視点の位置とに応
    じて、前記ポリゴンごとに、前記複数の物体画像情報か
    らテクスチャ情報を作成するステップとを備える、テク
    スチャ情報付与方法。
  45. 【請求項45】 コンピュータに立体モデルへのテクス
    チャ情報の付与をさせるためのプログラムを記録した媒
    体であって、 前記プログラムは、 対象物体の形状を立体モデルとして記述するステップ
    と、 前記立体モデルの面方向を検出するステップと、 前記対象物体を異なる視点から撮影することにより獲得
    された複数の物体画像情報に基づいて、前記検出された
    面方向と前記撮影した視点の位置とに応じて、前記複数
    の物体画像情報から前記立体モデルのテクスチャ情報を
    作成するステップとを含む、テクスチャ情報付与プログ
    ラムを記録した媒体。
  46. 【請求項46】 コンピュータに立体モデルへのテクス
    チャ情報の付与をさせるためのプログラムを記録した媒
    体であって、 前記プログラムは、 対象物体の形状をポリゴン(多角形平面)の集合による
    立体モデルとして記述するステップと、 前記ポリゴンごとの面方向を検出するステップと、 前記対象物体を異なる視点から撮影することにより獲得
    された複数の物体画像情報に基づいて、前記検出された
    面方向と前記撮影した視点の位置とに応じて前記ポリゴ
    ンごとに、前記複数の物体画像情報から前記立体モデル
    のテクスチャ情報を作成するステップとを含む、テクス
    チャ情報付与プログラムを記録した媒体。
  47. 【請求項47】 立体モデルとして記述される対象物体
    を異なる視点から撮影することにより獲得された複数の
    物体画像情報に基づいて、前記立体モデルのテキスチャ
    情報を取得するテクスチャ情報付与装置であって、 前記立体モデルの面方向を検出する手段と、 前記検出された面方向と前記撮影した視点の位置とに応
    じて、前記複数の物体画像情報からテクスチャ情報を作
    成する手段とを備える、テクスチャ情報付与装置。
  48. 【請求項48】 立体モデルとして記述される対象物体
    を異なる視点から撮影することにより獲得された複数の
    物体画像情報に基づいて、前記立体モデルのテキスチャ
    情報を取得するテクスチャ情報付与装置であって、 前記立体モデルをポリゴン(多角形平面)の集合により
    表現する手段と、 前記ポリゴンごとの面方向を検出する手段と、 前記検出された面方向と前記撮影した視点の位置とに応
    じて、前記ポリゴンごとに、前記複数の物体画像情報か
    らテクスチャ情報を作成する手段とを備える、テクスチ
    ャ情報付与装置。
JP23482997A 1996-08-30 1997-08-29 テクスチャ情報付与方法、テクスチャ情報付与プログラムを記録した媒体およびテクスチャ情報付与装置 Expired - Fee Related JP3625624B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP23482997A JP3625624B2 (ja) 1996-08-30 1997-08-29 テクスチャ情報付与方法、テクスチャ情報付与プログラムを記録した媒体およびテクスチャ情報付与装置

Applications Claiming Priority (7)

Application Number Priority Date Filing Date Title
JP24895896 1996-08-30
JP8-248958 1996-08-30
JP20991597 1997-07-18
JP9-217486 1997-08-12
JP9-209915 1997-08-12
JP21748697 1997-08-12
JP23482997A JP3625624B2 (ja) 1996-08-30 1997-08-29 テクスチャ情報付与方法、テクスチャ情報付与プログラムを記録した媒体およびテクスチャ情報付与装置

Publications (2)

Publication Number Publication Date
JPH11120372A true JPH11120372A (ja) 1999-04-30
JP3625624B2 JP3625624B2 (ja) 2005-03-02

Family

ID=27476479

Family Applications (1)

Application Number Title Priority Date Filing Date
JP23482997A Expired - Fee Related JP3625624B2 (ja) 1996-08-30 1997-08-29 テクスチャ情報付与方法、テクスチャ情報付与プログラムを記録した媒体およびテクスチャ情報付与装置

Country Status (1)

Country Link
JP (1) JP3625624B2 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002024850A (ja) * 2000-07-03 2002-01-25 Sony Corp 三次元画像生成装置および三次元画像生成方法、並びにプログラム提供媒体
JP2003518294A (ja) * 1999-12-22 2003-06-03 ナショナル・リサーチ・カウンシル・オブ・カナダ 3次元画像検索方法
US7006089B2 (en) 2001-05-18 2006-02-28 Canon Kabushiki Kaisha Method and apparatus for generating confidence data
US7120289B2 (en) 2000-10-27 2006-10-10 Canon Kabushiki Kaisha Image generation method and apparatus
JP2010137291A (ja) * 2008-12-09 2010-06-24 Toyota Central R&D Labs Inc 加工パラメータ決定装置、加工パラメータ決定方法およびプログラム
JP2017130020A (ja) * 2016-01-20 2017-07-27 株式会社東芝 3次元データ処理装置及び方法
JP2019020952A (ja) * 2017-07-14 2019-02-07 日本電信電話株式会社 画像処理装置、方法、及びプログラム

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003518294A (ja) * 1999-12-22 2003-06-03 ナショナル・リサーチ・カウンシル・オブ・カナダ 3次元画像検索方法
JP2002024850A (ja) * 2000-07-03 2002-01-25 Sony Corp 三次元画像生成装置および三次元画像生成方法、並びにプログラム提供媒体
US7120289B2 (en) 2000-10-27 2006-10-10 Canon Kabushiki Kaisha Image generation method and apparatus
US7545384B2 (en) 2000-10-27 2009-06-09 Canon Kabushiki Kaisha Image generation method and apparatus
US7006089B2 (en) 2001-05-18 2006-02-28 Canon Kabushiki Kaisha Method and apparatus for generating confidence data
JP2010137291A (ja) * 2008-12-09 2010-06-24 Toyota Central R&D Labs Inc 加工パラメータ決定装置、加工パラメータ決定方法およびプログラム
JP2017130020A (ja) * 2016-01-20 2017-07-27 株式会社東芝 3次元データ処理装置及び方法
JP2019020952A (ja) * 2017-07-14 2019-02-07 日本電信電話株式会社 画像処理装置、方法、及びプログラム

Also Published As

Publication number Publication date
JP3625624B2 (ja) 2005-03-02

Similar Documents

Publication Publication Date Title
US7106348B2 (en) Texture information assignment method, object extraction method, three-dimensional model generating method, and apparatus thereof
US6081269A (en) Image processing system and method for generating data representing a number of points in a three-dimensional space from a plurality of two-dimensional images of the space
US6278457B1 (en) Methods and apparatus for performing sampling based synthesis of three-dimensional geometric models
US6023523A (en) Method and system for digital plenoptic imaging
US6914599B1 (en) Image processing apparatus
Leotta et al. Urban semantic 3D reconstruction from multiview satellite imagery
WO2000004506A1 (en) Method and system for generating fully-textured 3-d models
GB2418827A (en) Providing a volumetric representation of a three-dimensional object
US10163247B2 (en) Context-adaptive allocation of render model resources
US6515658B1 (en) 3D shape generation apparatus
EP1445736B1 (en) Method and system for providing a volumetric representation of a three-dimensional object
GB2406252A (en) Generation of texture maps for use in 3D computer graphics
JPH11120372A (ja) テクスチャ情報付与方法、テクスチャ情報付与プログラムを記録した媒体およびテクスチャ情報付与装置
JP2004280776A (ja) 画像内のオブジェクトの形状を決定する方法
KR102571744B1 (ko) 3차원 콘텐츠 생성 방법 및 장치
KR102358854B1 (ko) 얼굴 이미지 색상 합성 장치 및 방법
Chan et al. S-PIFu: Integrating parametric human models with PIFu for single-view clothed human reconstruction
JPH0854219A (ja) 画像処理装置
Frommholz et al. Inlining 3d reconstruction, multi-source texture mapping and semantic analysis using oblique aerial imagery
JP3906170B2 (ja) 高次元テクスチャを合成する装置および方法およびプログラム
JPH09138865A (ja) 3次元形状データ処理装置
JP2003099800A (ja) 3次元画像情報生成方法および装置、ならびに3次元画像情報生成プログラムとこのプログラムを記録した記録媒体
EP4328784A1 (en) A method for selecting a refined scene points, distance measurement and a data processing apparatus
Do et al. On multi-view texture mapping of indoor environments using Kinect depth sensors
CN117078827A (zh) 一种纹理贴图的生成方法、装置及设备

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040803

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041004

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20041124

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20041130

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081210

Year of fee payment: 4

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091210

Year of fee payment: 5

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091210

Year of fee payment: 5

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101210

Year of fee payment: 6

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101210

Year of fee payment: 6

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111210

Year of fee payment: 7

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111210

Year of fee payment: 7

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121210

Year of fee payment: 8

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121210

Year of fee payment: 8

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131210

Year of fee payment: 9

LAPS Cancellation because of no payment of annual fees