JP3743171B2 - 3次元形状データ処理装置 - Google Patents
3次元形状データ処理装置 Download PDFInfo
- Publication number
- JP3743171B2 JP3743171B2 JP24564998A JP24564998A JP3743171B2 JP 3743171 B2 JP3743171 B2 JP 3743171B2 JP 24564998 A JP24564998 A JP 24564998A JP 24564998 A JP24564998 A JP 24564998A JP 3743171 B2 JP3743171 B2 JP 3743171B2
- Authority
- JP
- Japan
- Prior art keywords
- data
- smoothing
- dimensional
- projection
- grid
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Landscapes
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Coin-Freed Apparatuses For Hiring Articles (AREA)
- Image Input (AREA)
- Image Processing (AREA)
Description
【発明の属する技術分野】
この発明は、実存する物体の模型を作成するための3次元形状データ処理装置に関する。
【0002】
【従来の技術】
例えば、特開平9−145319号公報に開示されるような可搬型の非接触式3次元計測装置(3次元カメラ)が商品化され、CG(コンピュータグラフィック)システムやCADシステムへのデータ入力、身体計測、ロボットの視覚認識などに利用されている。非接触の計測方法としては、スリット光投影法(光切断法)が一般的であるが、他にもパターン光投影法、ステレオ視法、干渉縞法などが知られている。
【0003】
また、パーソナルコンピュータで利用可能な3次元CGソフトウェア、およびホビー用の小型の3次元切削マシンが市販されている。これらを用いれば、一般家庭でも模型や創作物を手軽に製作することができる。
【0004】
一方、利用客の顔写真シールをその場で作成する一種の自動販売機が人気を集めている。利用客は料金分の硬貨を投入し、モニタ画面を見ながらカメラの前で好みのポーズをとる。そして、所定の操作を行うと、一定数のシールが並んだシートが作成されて取出口に排出される。大半の機種では、顔写真の形状や写し込み模様などについて複数の選択肢が設けられている。
【0005】
【発明が解決しようとする課題】
上述の3次元計測装置によれば、写真をとるのと同程度の手軽さで人体を含む各種物体の形状をデータ化することができる。非接触式であるので、人体を計測する場合であっても、計測対象者が煩わしさを感じることはない。そこで、この3次元計測装置を顔写真ならぬ顔面模型の作成に利用することが考えられる。つまり、3次元加工機と組み合わせれば、人物の顔を計測してその場で適当な倍率の模型を作成することが可能である。
【0006】
上述した非接触の3次元計測では、顔面中、傾斜のある輪郭部分では距離画像データの変化が大きいため、輪郭部分を顔面模型に顕出させる際にギザギザ状になるという問題があった。
【0007】
本発明は上記のような問題点を解消するためになされたもので、顔面模型の輪郭部分において切削加工のバラツキを抑えることを可能とした3次元形状データ処理装置を提供することを目的とする。
【0008】
【課題を解決するための手段】
本発明に係る請求項1記載の3次元形状データ処理装置は、対象物を非接触で3次元計測して得られる距離画像データに基づいて、前記対象物の3次元形状をモデル化するための3次元形状データを生成し、出力する3次元形状データ処理装置であって、前記距離画像データを平滑化する際に所定の投影方向に対する拘束処理を行うことを特徴とする。
本発明に係る請求項2記載の3次元形状データ処理装置は、前記距離画像データのうち、前記対象物の輪郭部に対応する境界データに重み付け平均化処理を施して平滑化する外周平滑化部を備えている。
【0009】
本発明に係る請求項3記載の3次元形状データ処理装置は、前記距離画像データが、前記対象物を前記所定の投影方向から標本化格子に投影し、前記対象物の形状を3次元座標値として投影面上で格子状に配列したデータであって、前記標本化格子は、前記対象物に対応した投影データを有する有効格子点と、前記対象物に対応した投影データを有さない無効格子点とを含み、前記境界データは、前記無効格子点と隣合っている有効格子点のデータで規定され、前記重み付け平均化処理は、前記境界データを構成する有効格子点の1つを平滑化対象格子点とし、該平滑化対象格子点と前記平滑化対象格子点に隣接する複数の有効格子点との間の距離に応じてそれぞれ設定される重み係数を、前記平滑化対象格子点のデータに積算し、その総和を取る処理を含んでいる。
【0010】
本発明に係る請求項4記載の3次元形状データ処理装置は、前記対象物の前記標本化格子に対する投影が、前記所定の投影方向が1方向である正投影法によってなされる。
【0011】
本発明に係る請求項5記載の3次元形状データ処理装置は、前記対象物の前記標本化格子に対する投影が、前記所定の投影方向が前記標本化格子の格子点ごとに異なる透視投影法によってなされる。
【0012】
本発明に係る請求項6記載の3次元形状データ処理装置は、前記外周平滑化部が、前記重み付け平均化処理の後に、前記重み付け平均化処理前の前記平滑化対象格子点の3次元座標値と、前記重み付け平均化処理後の前記平滑化対象格子点の3次元座標値との差分ベクトルを算出し、該差分ベクトルの前記所定の投影方向成分のみを抽出して、前記重み付け平均化処理前の前記平滑化対象格子点の3次元座標値に加算することで、前記平滑化対象格子点の移動方向を、前記所定の投影方向のみに拘束する拘束処理を行う機能を有している。
【0013】
【発明の実施の形態】
<A.立体模型作成装置>
図1はこの発明に係る立体模型作成装置1の外観図である。立体模型作成装置1は、物体形状を計測し、その計測データに基づいて素材をその場で加工する機能を有しており、利用客の顔をかたどった小物品の自動販売機として使用される。作成される物品は、所定形状(例えば四角形)の板面から顔面の模型が突き出た立体である。板面(背景部分)に特定の起伏模様を付加することも可能である。このような物品に適当な金具を取り付ければ、ペンダント、ブローチ、キーホルダなどのアクセサリーとなる。予め素材に金具を取り付けておいてもよい。
【0014】
ほぼ等身大の筐体10の上半部の前面に、利用客がポーズを確認するためのディスプレイ16とともに、光学式3次元計測のための投光窓12および受光窓14が設けられている。受光窓14は2次元のカラー撮影にも用いられる。筐体10の下半部は上半部よりも前方側に張り出しており、その上面が操作パネル18となっている。商品の取出口20は下半部の前面に設けられている。
【0015】
利用客は立体模型作成装置1に向かって立ち、料金分の硬貨を投入する。その後に利用客がスタート操作を行うと、立体模型作成装置1は正面の一定範囲内に存在する物体の形状を計測するとともに、計測結果を示す3次元形状モデル(例えばサーフェスモデル)を表示する。そして、利用客が構図の決定を指示する確認操作を行うと、立体模型作成装置1は計測結果に応じた3次元加工を開始する。数分程度の時間で商品が完成する。利用客は取出口20から商品を取り出す。
【0016】
図2は操作パネル18の平面図である。操作パネル18には、スタートボタン181、確認ボタン182、キャンセルボタン183、ジョイスティック184、および硬貨の投入口185が設けられている。スタートボタン181はスタート操作手段であり、確認ボタン182は確認操作手段である。ジョイスティック184は模型の構図の変更指示に用いられる。左右に傾けるパーン操作、上下に傾けるチルト操作、およびノブを回転させるロール操作に呼応して3次元形状モデルの回転処理が行われ、処理結果が逐次に表示される。また、キャンセルボタン183は、利用客が表示された3次元形状モデルが気に入らないときなどに再計測を指示するための操作手段である。ただし、キャンセルボタン183には有効回数が設定されており、無制限に再計測を指示することはできない。
【0017】
図3は立体模型作成装置1の機能ブロック図である。立体模型作成装置1は、模型サイズの3次元形状モデルを生成するモデリングシステム1Aと、3次元形状モデルを顕在化する加工システム1Bとから構成されている。
【0018】
モデリングシステム1Aは、オリジナル物体である利用客の外観情報をディジタルデータに変換(データ化)する撮影システム30を含んでいる。撮影システム30は、スリット光投影法で形状情報をデータ化して、3次元の距離画像データ(3次元画像データ)DSを出力する3次元計測装置34、色情報をデータ化して2次元のカラー画像データDCを出力するする2次元撮影装置36、およびコントローラ38より構成されている。
【0019】
ここで、距離画像データDSはXYZの直交座標系における座標値として与えられるデータであり、3次元計測装置34内の計測基準点から対象物の当該計測点までの距離情報を与えるものである。距離画像データDSには、対象物からの反射光の計測データが得られたか否かを示す有効フラグの情報も含まれる。
【0020】
他方、カラー画像データDCは、各画素の3原色データ、即ち、R(レッド)、G(グリーン)、B(ブルー)より成るデータである。例えば、撮影システム30を特開平9−145319号公報に開示されている3次元カメラを用いて構成するときには、3次元計測と2次元撮影とを同一視点から行うことができるため、距離画像データDSとカラー画像データDCとの対応付けを極めて容易に行うことができる。なお、カラー画像データDCは400×400画素データから構成され、距離画像データDSは200×200の画素データから構成される。
【0021】
勿論、3次元計測と2次元撮影とをそれぞれ異なる視点で行った場合でも、距離画像データDS,カラー画像データDCにはそれぞれ視点情報が付加されており、且つ3次元計測結果と2次元撮影結果との座標の相対関係は既知であるため、距離画像データDS,カラー画像データDCとの対応付けを支障なく行うことができる。このような距離画像データDSおよびカラー画像データDCは、後述するデータ処理装置40に入力される。
【0022】
なお、3次元計測法として、スリット光投影法に代えて他の手法を用いてもよい。
【0023】
データ処理装置40は図示しない画像処理回路を備えており、本発明に特有のデータ修正を含む各種のデータ処理を行い、本発明の中核部分である。データ処理装置40のコントローラ42は、立体模型作成装置1の全体的な制御をも担い、撮影システム30のコントローラ38および加工システム1Bのコントローラ176に適切な指示を与える。このコントローラ42には、ディスプレイ16および操作入力システム44が接続されている。操作入力システム44は、上述の操作パネル18と料金受領機構とからなる。
【0024】
一方、加工システム1Bは、樹脂ブロックなどの材料を切削する加工装置172、材料の加工位置への供給と加工品の取出口20への搬送を行う材料供給装置174、コントローラ176、および取出口センサ178を備えている。取出口センサ178の検出信号はコントローラ42に入力される。
【0025】
なお、撮影システム30および加工システム1Bの制御をコントローラ42に受け持たせ、コントローラ38およびコントローラ176を省略した回路構成を採用してもよい。
【0026】
<B.立体模型作成装置の概略動作>
図4は立体模型作成装置1の概略の動作を示すフローチャートである。以下、同図を参照してその概略動作の処理手順を説明する。
【0027】
電源が投入された後、利用客による操作を待つ待機期間において、2次元撮影と撮影結果の表示とを繰り返す(ST10、ST12、ST14)。また、定期的に案内メッセージを表示する。料金が投入されてスタートボタン181が押されると、改めて2次元撮影を行うとともに3次元計測を行う(ST16、ST18)。所定のデータ処理を行い(ST20)、得られた3次元形状モデルを表示する(ST22)。このとき、影を付すといった公知のグラフィック手法を適用して見栄えを高める。そして、指示操作を待つ。ただし、待ち時間は有限であり、時限を過ぎれば確認操作が行われたものとみなす。
【0028】
ジョイスティック184が操作されると、上述のように3次元形状モデルを操作に応じて回転させて表示する(ST24、ST38)。キャンセルボタン183が押されると、待機期間の動作に戻る(ST40、ST10)。ただし、この場合、利用客が料金を改めて投入する必要はなく、スタートボタン181を押せば、再計測が行われる。
【0029】
確認ボタン182が押されると(ST26)、3次元形状モデルに基づいて加工条件データベースを参照して加工制御用のデータを生成し(ST28)、材料の加工を行う(ST30)。加工が終わると、商品を排出し(ST32)、取出口センサ178によって商品が取り出されたのを確認して待機動作に戻る(ST34、ST10)。
【0030】
<C.データ処理>
<C−1.顔面形状処理機能SF1,SF2>
図5は、図4のステップST20のデータ処理をデータの流れを示すデータフロー図である。図5において、ハッチング付の太矢印線はカラー画像データDCの流れを示しており、各機能F1〜F9、SF1およびSF2は3次元形状データを生成するために、図3で示したデータ処理装置40で行われるデータ処理機能を示している。特に、機能SF1およびSF2は、3次元形状データ中、顔面の両眼形状モデルのデータを生成するための機能に該当している。以下、各機能F1〜F3、SF1、SF2、F4〜F9をこの順で説明することにするが、本発明の中核をなす機能は機能F8である。
【0031】
<C−2.距離平滑化機能F1>
データ処理装置40は、図3の3次元計測装置34が出力する未加工の3次元形状データである距離画像データDSに対してノイズ除去してノイズ除去済みの距離画像データDS1を得る。
【0032】
<C−3.背景除去機能F2>
次に、データ処理装置40は、ノイズ除去後の距離画像データDS1に対して、顔面領域を与えるデータの抽出処理を行う。すなわち、データ処理装置40は後述するカラー平滑化後のカラー画像データDC1が与えるカラー画像中の顔面領域を3次元の距離画像データDS1に対応付けることにより、背景データが除去された顔面領域のみを与える距離画像データDS2を生成する。ここで「顔面領域」とは、髪の毛、首(顎の下)、耳を除いた顔の領域を指す。
【0033】
<C−4.欠陥データ補間機能F3>
背景除去機能F2によって背景除去された距離画像データDS2に対して、データ処理装置40は、データ欠落画素部分を周囲の画素を用いて補間する。補間の方法としては線形補間等がある。データ欠落画素部分が生じる理由は主として次の2つが考えられる。
【0034】
3次元計測装置34からの計測用のレーザ光を対象物に照射してその反射光を計測する際、▲1▼対象物の黒色部分ではレーザ光の反射率が著しく低下するため、模型用顔領域中の黒色部分(黒目部分、眉等)のデータが欠落する、▲2▼上記計測方式では、対象物中、投光側および受光側の両方から見える部分だけのデータが得られるにすぎないため、そうでない部分のデータが欠落してしまう。
【0035】
<C−5.カラー平滑化機能SF1>
図3の3次元計測装置34が出力する未加工のカラー画像データDCに対してデータ処理装置40は、ノイズ除去してノイズ除去済みのカラー画像データDC1を得る。
【0036】
<C−6.両眼領域推定機能SF2>
データ処理装置40は、カラー平滑化機能SF1によってノイズ除去されたカラー画像データDC1より、両眼部分の領域を与える2次元のデータDC2を抽出する。ここで両眼領域の抽出処理を行うのは、既述したように、距離画像データから両眼の形状モデルを作成するためである。そして、両眼の形状モデルを3次元形状データの1つとして作成するのは、人の顔を認識する際の本質的な部分である両眼(黒目部分)には凹凸形状がない反面、両眼には色の変化があるため、この輝度情報を奥行きないしは深さ(凹凸)の情報として顔面模型に反映させるためである。
【0037】
<C−7.CF(Camera Face)CF座標変換機能F4>
データ処理装置40は、3次元の距離画像データDS3および2次元の両眼領域データDC2に対してCF座標変換を施すことにより、3次元の両データDS4およびDC4を生成する。すなわちデータ処理装置40は、距離画像データDS3および両眼領域データDC2がそれぞれ与える人の顔形状および両眼形状が、カメラに対して真正面に向いた状態となるように座標変換(正対処理)を行う。これにより、カメラ中心の座標系で表現されていた両データDS3およびDC2は、顔中心の座標系で表現されることになる。
【0038】
<C−8.再標本化機能F5>
データ処理装置40は、CF座標変換機能F4でCF座標変換された距離画像データDS4に対して再標本化あるいは均等化というデータの座標変換処理を行う。3次元計測装置34が透視投影変換により得た距離画像データDSを元データとする距離画像データDS4は不規則に画素が並んだデータとなっている。そこで、距離画像データDS4を新たな視点から見たときに均等に画素が並んでいる距離画像データに座標変換するのが再標本化処理である。
【0039】
再標本化機能F5の再標本化処理によって距離画像データDS4は、人の顔形状モデルを与えるための第1の形状データDS51、疑似両眼形状モデルを第2の形状データDS52、および顔輪郭近傍形状モデルを生成するための第3の形状データDS53に変換される。
【0040】
<C−9.疑似両眼形状設定機能F6>
データ処理装置40は、CF座標変換機能F4でCF座標変換されたカラー画像データDC4および再標本化機能F5で再標本化された第2の形状データDS52とに基づき、第2の形状データDS52における両眼対応領域の奥行き(切削深さ)を与える疑似両眼形状データDS6を生成する。
【0041】
<C−10.顔輪郭形状設定機能F7>
再標本化機能F5で再標本化された人の顔形状モデルを与えるための第1の形状データDS51および顔輪郭近傍形状モデルを生成するための第3の形状データDS53に基づき、第3の形状データDS53が与える形状モデルから、第1の形状データDS51が与える形状モデルと重複した部分のデータ削除を行い(差分処理)、顔輪郭形状データDS7(境界データ)を生成する。
【0042】
<C−11.外周平滑化機能機能F8>
顔輪郭形状設定機能F7で生成された顔輪郭形状データDS7および再標本化機能F5で再標本化された第1の形状データDS51に対して外周平滑化を行う。すなわち、顔面中、傾斜のある輪郭部分では距離画像データの変化が大きいため、かかる傾斜面を顔面模型に顕出させる際にギザギザ状になるという問題が生じる。そこで、横方向から顔面模型を眺めても傾斜面の切削位置が平滑化するように、両データDS51およびDS7をそれぞれ修正して第1の形状データDS81および顔輪郭形状データDS83を生成する。なお、本機能については後に詳述する。
【0043】
<C−12.FW(Face Work)座標変換機能F9>
外周平滑化機能機能F8で外周平滑化処理された第1の形状データDS81および顔輪郭形状データDS83並びに疑似両眼形状設定機能F6で生成された疑似両眼形状データDS6に対して、これらのデータが顔面を加工するワークの大きさに応じた形状データとなるように座標変換を施す。
【0044】
これにより、▲1▼顔形状モデルを与える顔形状データDS91、▲2▼疑似両眼形状モデルを与える疑似両眼形状データDS92、および▲3▼顔輪郭近傍形状モデルを与える顔輪郭近傍形状データDS93が最終的に得られる。これらの形状データDS91,DS92およびDS93を「3次元形状データ」とも総称する。なお、本機能については後に詳述する。
【0045】
<D.外周平滑化機能機能F8についての詳細>
<D−1.距離画像データの平滑化>
まず、再標本化された距離画像データについて図6を用いて簡単に説明する。図6に示すように3次元オブジェクトOJに、ある方向(図中においてはp方向)から正方格子(標本化格子)MRXを正投影することにより再標本化されたデータは、投影面上で格子状に規則正しく配列されており、各格子点には定められた3次元直交座標系における座標値が格納されている。このような3次元点列データを再標本化された距離画像データと称する。このデータは、先述した再標本化機能F5によって得られた、第1の形状データDS51および、第1の形状データDS51に基づいて顔輪郭形状設定機能F7によって得られた、顔輪郭形状データDS7(境界データ)として与えられる。
【0046】
なお、標本化格子MRXにおいて対応する3次元データを有さない格子点(無効格子点k)には「無効」を示す無効フラグが付加され、対応する3次元データを有する格子点(有効格子点i)には「有効」を示す有効フラグが付加されている。
【0047】
標本化格子MRX上の有効フラグを有する格子点において、自分自身の3次元座標値、および格子上で隣接する格子点(4近傍または8近傍)のうち、有効フラグを持つものの3次元座標値の重み付け平均化処理を行うことが距離画像データの平滑化である。
【0048】
<D−2.輪郭部の距離画像データの平滑化>
図7および図8に、それぞれ4近傍および8近傍の格子点による平滑化のモデルを示す。図7においては、4近傍の格子点による平滑化の一例として、平滑化対象となる有効格子点iと、それに隣接する3つの有効格子点j1、j2、j3と、隣接する無効格子点k1の5つが示されている。なお、4近傍とは、平滑化対象となる有効格子点iの他に、その周囲の4つの格子点を含んでいることを意味している。
【0049】
また、図8においては、8近傍の格子点による平滑化の一例として、平滑化対象となる有効格子点iと、それに隣接する6つの有効格子点j1〜j6と、隣接する2の無効格子点k1、k2の9つが示されている。なお、8近傍とは、平滑化対象となる有効格子点iの他に、その周囲の8つの格子点を含んでいることを意味している。
【0050】
図7および図8において、無効格子点kを示した理由は、本発明においては、顔面の外周、すなわち輪郭部分に平滑化処理を施すことを特徴としているからである。すなわち、有効フラグを有する格子点において顔面の輪郭を構成する格子点は、無効フラグを有する格子点と隣合っている有効フラグを有する格子点であり、図7および図8においては有効格子点iがそれに該当する。
【0051】
<D−3.特徴的作用効果>
このような、顔面の輪郭を構成する格子点に対応する3次元座標値(境界データ)の重み付け平均化処理を行うことで、顔面の輪郭形状を平滑化し、傾斜のある輪郭部分を顔面模型に顕出させる際に切削位置を平滑化することができ、横方向から顔面模型を眺めた場合に滑らかな加工面を得ることができる。
【0052】
なお、3次元座標値の重み付け平均化処理は以下に示す数式(1)によって行うことができる。
【0053】
【数1】
【0054】
数式(1)において、有効格子点のうち輪郭を構成する格子点のインデックスの集合をB、有効格子点のインデックスの集合をE、平滑化対象となる格子点i自身と、それに隣接する4点(4近傍)、または平滑化対象となる格子点i自身と、それに隣接する8点(8近傍)の格子点のインデックスの集合をNi、格子点iの平滑化前の3次元座標ベクトルをVi、格子点iおよび、その近傍の有効格子点の3次元座標ベクトルをVj、格子点iの平滑化後の3次元座標ベクトルをVi’とする。
【0055】
なお、wi,Jは2つの格子間距離(または3次元空間における距離)に応じて設定される重み係数であり、距離が大きくなるにつれて値が単調に減少するような関数によって設定される。
【0056】
<D−4.3次元座標値の拘束処理>
上述したような重み付け平均化処理(平滑化)を行った場合、輪郭を構成する格子点(有効な格子点)が、輪郭の周囲の無効な格子点の側から離れる方向に移動することになり、平滑化後の輪郭を見ると平滑化前よりも内側に小さくなっている。
【0057】
図9に4近傍の格子点による平滑化後のモデルを示す。図9に示すように、平滑化対象となる有効格子点iを平滑化すると、無効格子点kから離れるように移動し、有効格子点i’となる。
【0058】
この現象を標本化格子MRXに投影された画像として見た場合の一例を図10に示す。図10において平滑化前の輪郭C1は、平滑化後には輪郭C2となる。
【0059】
このような現象を防止するには、平滑化を行う際に、各格子点の3次元座標値が投影方向以外には移動せず、あたかも視線に対して拘束されているようにすれば良い。すなわち、数式(1)で示される平滑処理を輪郭を構成する格子点に対して施した後、移動後の格子点の座標値と元(平滑化前)の格子点の座標値との差分ベクトルを計算し、その差分ベクトルの投影方向成分のみを取り出して元の格子点の座標値に加えれば良い。この処理(拘束処理)を行うための数式(2)を以下に示す。
【0060】
【数2】
【0061】
数式(2)において、投影の方向を示す3次元単位ベクトルをp、その転置ベクトルをpTとし、格子点iの平滑化前の3次元座標ベクトルをVi、格子点iの平滑化後の3次元座標ベクトルをVi’、拘束処理後の3次元座標ベクトルをVi”とする。
【0062】
従って、数式(1)で得られた平滑化後の3次元座標ベクトルVi’を上記数式(2)で処理することで視線拘束を行うことができる。なお、数式(2)の右辺第2項は差分ベクトルの投影方向成分を表す。
【0063】
以上説明した拘束処理の概念を図11を用いて示す。図11において、標本化格子MRXに投影された距離画像データのうち、輪郭を示す格子点iの平滑化前の3次元座標ベクトルをVi、格子点iの平滑化後の3次元座標ベクトルをVi’、拘束処理後の3次元座標ベクトルをVi”として示している。図11に示すように、拘束処理により格子点iは投影方向に沿ってViからVi”に移動することになり、投影方向以外に移動することは防止される。従って、標本化格子MRXに投影された画像の輪郭が内側に小さくなることが防止されることになる。
【0064】
<D−5.外周平滑化処理の全体フロー>
以上説明した、輪郭部の距離画像データの平滑化(外周平滑化処理)および拘束処理の一連の動作を図12に示すフローチャートにまとめる。
【0065】
図12において、外周平滑化処理がスタートすると、ステップST60において平滑化処理の対象が有効格子点であるか否かを確認する。これは、図5に示すデータフロー図に示す顔輪郭形状設定機能F7で生成された顔輪郭形状データDS7を対象とする動作である。
【0066】
そして、平滑化処理の対象となる輪郭部の格子点が定まると、近傍格子点との座標値の重み付け平均化処理が施され、輪郭部の格子点が平滑化される(ST61)。
【0067】
なお、再標本化機能F5で再標本化された第1の形状データDS51は、近傍格子点(有効格子点)のデータとして利用される。
【0068】
このステップにより、先に説明したように輪郭が内側に小さくなるので、数式(2)により拘束処理を行う。そのために、まずステップST62において数式(2)の右辺第2項に示す差分ベクトルの投影方向成分を抽出する。
【0069】
そして、ステップST63において、差分ベクトルの投影方向成分と平滑化前の格子点の3次元座標ベクトルとを加算することで、拘束処理後の格子点位置を求める。この格子点位置のデータが顔輪郭形状データDS83となる。
【0070】
次に、ステップST60〜ST63の処理を輪郭を構成する全ての格子点に対して施したか否かを確認し(ST64)、未処理の格子点が存在すればステップST60〜ST63の処理を繰り返し、全ての格子点が処理されていれば外周平滑化処理を終了する。
【0071】
<D−6.変形例1>
以上説明した外周平滑化処理および拘束処理は、距離画像データの全ての方向について処理を行う例を示したが、拘束処理によって距離画像データは投射方向である1方向のみに移動するので、投影方向を座標軸のうちの1つと平行とし、その座標成分のみに外周平滑化処理を行うようにしても良い。
【0072】
すなわち、図6に示す投影状態を例に採るならば、オブジェクトOJの投影方向pと、3次元座標軸のZ軸方向とは一致していない。そこで、3次元座標軸を回転させてZ軸と投影方向pとを一致させた後、輪郭部を構成する格子点のZ座標のみについて重み付け平均化処理を行い上述した3次元座標軸の回転変換を打ち消すような逆の回転変換を加えることで、数式(1)と同様の外周平滑化処理を行うことができる。
【0073】
以下、当該処理を数式(3)、(4)、(5)を用いて表す。
【0074】
【数3】
【0075】
【数4】
【0076】
【数5】
【0077】
数式(4)は、3次元空間における長さ1のベクトルを、原点を同じくするもう1つの長さ1のベクトルに回転角度最小で重ね合わせ可能な回転行列Rを求める式である。そして、数式(3)におけるR-1は行列Rの逆行列である。また、数式(4)におけるIは単位行列、pzは単位投影方向ベクトルpのZ座標である。
【0078】
そして、数式(5)は単位投影方向ベクトルpと3次元回転行列の外積により得られる3次元ベクトルuを求める式である。なお、数式(4)におけるuTは、3次元ベクトルuの転置ベクトルである。
【0079】
<D−7.変形例2>
以上の説明は、図5のデータフロー図に示すように、外周平滑化処理を再標本化処理の後に行う場合を前提とした説明であったが、外周平滑化処理を再標本化処理の前、図5に示すデータフロー図に即して言えば距離平滑化処理F1において行うようにしても良い。この場合、距離画像データは入力時のデータであり、透視投影により計測されることになる。
【0080】
距離画像データを3次元入力時に透視投影により計測する場合のモデルを図13に示す。図13に示すように3次元オブジェクトOJに、投影中心eから正方格子(標本化格子)MRX上に透視投影することにより、データを投影面上で格子状に規則正しく配列することができる。この場合、投影の方向を示す単位方向ベクトルは図中pi、pjで示すように格子点ごとに異なる。
【0081】
従って、数式(2)は、以下に示す数式(6)のように変更しなくてはならない。
【0082】
【数6】
【0083】
なお、数式(6)に示す単位方向ベクトルはpiは以下に示す数式(7)で表される。また、数式(6)に示すpi Tはベクトルはpiの転置ベクトルである。
【0084】
【数7】
【0085】
なお、数式(7)に示すeは、投影中心(視点)の3次元座標位置ベクトルである。
【0086】
このように、正投影の場合の外周平滑化処理と、透視投影の場合の外周平滑化処理とではアルゴリズム的に異なるが、透視投影の場合の外周平滑化処理のアルゴリズムを準備しておけば、各格子点における単位方向ベクトルを共通化することで、正投影の場合の外周平滑化処理への適用も可能である。
【0087】
<E.FW(Face Work)座標変換機能F9についての詳細>
図5に示す機能F1〜F8、SF1および、SF2によって得られた第1の形状データDS81、顔輪郭形状データDS83および疑似両眼形状データDS6によって構成される「顔」を収容する立方体をバウンディングボックスと称し、FW座標変換機能F9には、このバウンディングボックスが顔面模型の加工材料となる加工物直方体の大きさとほぼ合致するようにバウンディングボックスの座標変換を行うことが含まれる。以下、FW座標変換について図14〜図23を用いて説明する。
【0088】
図14にバウンディングボックスBBを、図15に加工物直方体CCを示す。図14においては「顔」がバウンディングボックスBBに収容された状態を模式的に表している。図14において、バウンディングボックスBBのXWZ方向の各辺は、それぞれFW、FL、FDで表され、図15において、加工物直方体CCのXWZ方向の各辺は、それぞれWW、WL、WDで表されている。
【0089】
<E−1.FW座標変換の処理フローの全体構成>
以下、FW座標変換を行うための処理フローについて図16〜図18を用いて説明する。まず、FW座標変換の処理フローの全体構成について図16を用いて説明する。
【0090】
図16に示すステップST70において、第1の形状データDS81、顔輪郭形状データDS83および疑似両眼形状データDS6によって構成される「顔」を最小限の大きさで収容するようにバウンディングボックスBBを求める。
【0091】
次に、ステップST71において、バウンディングボックスBBの辺FLの長さが加工物直方体CCの辺WLの長さに一致するようにスケール変更を行う。
【0092】
次に、ステップST72において、バウンディングボックスBBの辺FDおよび辺FWの長さが、加工物直方体CCの辺WDおよび辺WWの長さより大きいか否かの比較を行う。
【0093】
そして、上記比較結果がイエスの場合はバウンディングボックスBBの辺FDおよび辺FWの長さの補正処理(ST73)を行った後、「顔」に関するデータを加工物直方体CCの座標に平行移動する(ST74)。なお、上記比較結果がノーの場合は、ステップST74の平行移動処理を行う。
【0094】
次に、ステップST75において、「顔」の距離画像データのうち、加工物直方体CCの外部に位置するピクセルのフラグを無効とすることで、一連の処理が終了する。
【0095】
なお、ステップST73、ST74およびST75の詳細については後に説明する。
【0096】
<E−2.補正処理のフロー>
図16に示すステップST73の補正処理の詳細について、以下、図17を用いて説明する。
【0097】
図17に示すステップST80において、バウンディングボックスBBと加工物直方体CCの辺FDおよび辺WDの長さの差(FD−WD)と、加工物直方体CCの辺WDの長さとの比率であるDRateを算出する。
【0098】
そして、ステップST81においてDRateと、予め定めた閾値DThreshとの比較を行い、DRateが大きい場合にはステップST82においてDRate=DThreshとなるようにバウンディングボックスBBの各辺を変更するスケール値DScaleを算出する。
【0099】
なお、ステップST81においてDThreshよりもDRateが小さいと判断された場合は、バウンディングボックスBBのスケール値DScaleは1に設定する(ST83)。
【0100】
次に、ステップST84において、バウンディングボックスBBと加工物直方体CCの辺FWおよび辺WWの長さの差(FW−WW)と、加工物直方体CCの辺WWの長さとの比率であるWRateを算出する。
【0101】
そして、ステップST85においてWRateと、予め定めた閾値WThreshとの比較を行い、WRateが大きい場合にはステップST86においてWRate=WThreshとなるようにバウンディングボックスBBの各辺を変更するスケール値WScaleを算出する。
【0102】
なお、ステップST85においてWThreshよりもWRateが小さいと判断された場合は、バウンディングボックスBBのスケール値WScaleは1に設定する(ST87)。
【0103】
そして、ステップST88においてDScaleとWScaleとの比較を行い、DScaleの方が大きい場合にはWScaleでバウンディングボックスBBの各辺のスケール変更を行い(ST89)、一連の処理を終了する。
【0104】
なお、DScaleの方が小さい場合にはDScaleでバウンディングボックスBBの各辺のスケール変更を行い(ST90)、一連の処理を終了する。
【0105】
<E−3.平行移動処理のフロー>
図16に示すステップST74の平行移動処理の詳細について、以下、図18〜図21を用いて説明する。
【0106】
図18は平行移動処理を説明するフローチャートであり、まず、図18に示すステップST100において、バウンディングボックスBBおよび加工物直方体CCの中心座標を算出する。
【0107】
次に、ステップST101において、バウンディングボックスBBの中心座標(X,Y座標のみ)を、加工物直方体CCの中心座標(X,Y座標のみ)に一致させるように平行移動させる。
【0108】
最後に、ステップST102において、バウンディングボックスBBのZ座標の最大値を、加工物直方体CCのZ座標の最大値に合わせるようにZ方向の平行移動を行う。
【0109】
ここで、図19にXYZ方向の平行移動処理を終了した状態を模式的に示す。図19においては、加工物直方体CCのXZ面と「顔」、すなわちバウンディングボックスBBの位置関係を示している。
【0110】
図19に示されるように、バウンディングボックスBB(図においては「顔」として表現)のZ座標の最大値BMAX(図においては鼻の先端)が加工物直方体CCのZ座標の最大値CMAXに一致している。
【0111】
このように、バウンディングボックスBBと加工物直方体CCのZ座標の最大値を一致させることで、加工物直方体CCに顔面を彫り込んだ場合、後頭部に相当する部分を板面BPとして残すことができ、板面BPに装飾を施すなどして見栄えを高めることができる。
【0112】
<E−4.変形例1>
図18に示したステップST102において、バウンディングボックスBBのZ座標の最小値を、加工物直方体CCのZ座標の最小値に合わせるようにZ方向の平行移動を行うようにしても良い。
【0113】
図20にXYZ方向の平行移動処理を終了した状態を模式的に示す。図20においては、加工物直方体CCのXZ面と「顔」、すなわちバウンディングボックスBBの位置関係を示す。
【0114】
図20において、バウンディングボックスBB(図においては「顔」として表現)のZ座標の最小値BMIN(図においては後頭部)が加工物直方体CCのZ座標の原点に一致している。
【0115】
<E−5.変形例2>
図18に示したステップST102において、バウンディングボックスBBのZ座標の中心値を、加工物直方体CCのZ座標の中心値に合わせるようにZ方向の平行移動を行うようにしても良い。
【0116】
図21にXYZ方向の平行移動処理を終了した状態を模式的に示す。図21においては、加工物直方体CCのXZ面と「顔」、すなわちバウンディングボックスBBの位置関係を示す。
【0117】
図21において、バウンディングボックスBB(図においては「顔」として表現)のZ座標の中心値BMIDが加工物直方体CCのZ座標の中心値CMIDに一致している。
【0118】
<E−6.ステップST75の補足説明>
以上説明した平行移動処理においては、バウンディングボックスBBを加工物直方体CCに重ね合わせる操作を示したが、バウンディングボックスBBの大きさ、すなわち顔の大きさの個人差に起因して、バウンディングボックスBBの方が加工物直方体CCより大きくなってしまう場合がある。図22にこのような状態を模式的に示す。図22においては加工物直方体CCからはみ出すバウンディングボックスBBを鎖線で示している。
【0119】
図16に示したステップST75は、このような場合に加工物直方体CCからはみ出す「顔」の距離画像データを無効にする操作を示している。図23にXY方向のバウンディングボックスBBおよび加工物直方体CCを示す。加工物直方体CCの外部に位置するピクセルのフラグを無効とすることで、加工物直方体CCには図23に示すように、「顔」の左右の端部の距離画像データが反映されないことになる。
【0120】
<F.加工データ生成の補足説明>
以上、図6〜図23を用いた説明は、立体模型作成装置1の概略の動作を示す図4のステップST20のデータ処理に関連するものであり、ST20で処理したデータに基づいてステップST28において加工条件データベースを参照して加工制御用のデータを生成することで加工作業が実行される。
【0121】
以下、図24および図25を用いて、ステップST28における加工データ生成に関連して補足的に説明する。
【0122】
図24は、加工物直方体CCに切削加工を施す状態を示す図であり、エンドミルなどの切削刃物EMが加工物直方体CCの上部、すなわち「顔」の上部を切削している状態が示されている。なお、図24においては、図16に示すステップST74の平行移動処理で、バウンディングボックスBBのZ座標の最大値を、加工物直方体CCのZ座標の最大値に合わせるようにした場合に相当しており、「顔」は板面BP上に形成されることになる。
【0123】
図24に示されるように、「顔」がワークいっぱい、すなわち加工物直方体CCの全体に渡って形成される場合、「顔」とワークに挟まれた狭小部分には切削刃物EMが入らないが発生することがある。
【0124】
このような狭小部分の削り残しを防止するためには、図25に示すように加工基準面WRPを加工物直方体CCの外部にまで延長し、加工物直方体CCの外部においても切削刃物EMが加工動作を行うように外挿的に加工しろデータを生成すれば良い。
【0125】
図25においては、加工物直方体CCの上部および下部平面(XY平面)上を切削刃物EMが移動できるように加工しろデータが設定された例を示している。また、加工しろデータのY方向の大きさSは、切削刃物EMの直径の半分に設定されている。
【0126】
なお、加工しろデータはXY平面上だけに限定されず、加工物直方体CCの左右に相当するYZ平面上に設定しても良い。
【0127】
このように、加工物直方体CCの外部に加工しろデータを設定することで削り残しを防止することが可能となる。
【0128】
【発明の効果】
本発明に係る請求項1記載の3次元形状データ処理装置によれば、外周平滑化部において、距離画像データのうち、対象物の輪郭部に対応する境界データに重み付け平均化処理を施して平滑化するので、例えば、対象物が人の顔であって、3次元形状データを用いて顔面模型を製作する場合に、傾斜のある輪郭部分を顔面模型に顕出させる際に切削位置を平滑化することができ、横方向から顔面模型を眺めた場合に滑らかな加工面を得ることができる。
【0129】
本発明に係る請求項2記載の3次元形状データ処理装置によれば、平滑化対象格子点に隣接する複数の有効格子点の重み係数を調整することで平均化の精度を調整することができる。
【0130】
本発明に係る請求項3記載の3次元形状データ処理装置によれば、対象物の3次元計測が透視投影法によりなされた場合、正投影法によって距離画像データを均等に配列するための座標変換を行うが、外周平滑化部においては対象物の標本化格子に対する投影に正投影法を採用しているので、上記座標変換の後に外周平滑化を行うことができる。
【0131】
本発明に係る請求項4記載の3次元形状データ処理装置によれば、外周平滑化部においては対象物の標本化格子に対する投影に透視投影法を採用しているので、透視投影法により得られた距離画像データに対して外周平滑化を行うことができ、透視投影法により得られた距離画像データを正投影変換する前の比較的初期の段階で外周平滑化を行うことが可能となる。
【0132】
本発明に係る請求項5記載の3次元形状データ処理装置によれば、平滑化対象格子点の移動方向を、前記所定の投影方向のみに拘束する拘束処理を行うことができるので、対象物の輪郭が内側に縮まることを防止でき、3次元形状データを用いて対象物の模型を製作する場合に、当該模型の輪郭が縮んで、形状がいびつになることを防止できる。
【図面の簡単な説明】
【図1】 この発明に係る実施の形態である立体模型作成装置の外観図である。
【図2】 操作パネルの平面図である。
【図3】 立体模型作成装置の機能ブロック図である。
【図4】 立体模型作成装の概略の動作を示すフローチャートである。
【図5】 3次元顔面形状処理機能のデータフローを示す図である。
【図6】 3次元形状の正投影を説明する図である。
【図7】 4近傍の格子点による平滑化のモデルを説明する図である。
【図8】 8近傍の格子点による平滑化のモデルを説明する図である。
【図9】 4近傍の格子点による平滑化後のモデルを示す図である。
【図10】 平滑化前の輪郭と、平滑化後の輪郭を説明する図である。
【図11】 拘束処理の概念を説明する図である。
【図12】 外周平滑化処理および拘束処理の一連の動作を示すフローチャートである。
【図13】 3次元形状の透視投影を説明する図である。
【図14】 バウンディングボックスを説明する図である。
【図15】 加工物直方体を説明する図である。
【図16】 FW座標変換の全体構成を説明するフローチャートである。
【図17】 補正処理を説明するフローチャートである。
【図18】 平行移動処理を説明するフローチャートである。
【図19】 バウンディングボックスの平行移動処理を終了した状態を模式的に示す図である。
【図20】 バウンディングボックスの平行移動処理を終了した状態を模式的に示す図である。
【図21】 バウンディングボックスの平行移動処理を終了した状態を模式的に示す図である。
【図22】 バウンディングボックスが加工物直方体より大きい状態を説明する図である。
【図23】 バウンディングボックスが加工物直方体より大きい場合の顔データを模式的に示す図である。
【図24】 加工物直方体に切削加工を施す状態を示す図である。
【図25】 加工しろデータを付加した場合の加工物直方体に切削加工を施す状態を示す図である。
Claims (6)
- 対象物を非接触で3次元計測して得られる距離画像データに基づいて、前記対象物の3次元形状をモデル化するための3次元形状データを生成し、出力する3次元形状データ処理装置であって、
前記距離画像データを平滑化する際に所定の投影方向に対する拘束処理を行うことを特徴とする、3次元形状データ処理装置。 - 前記距離画像データのうち、前記対象物の輪郭部に対応する境界データに重み付け平均化処理を施して平滑化する外周平滑化部を備える、請求項1に記載の3次元形状データ処理装置。
- 前記距離画像データは、前記対象物を前記所定の投影方向から標本化格子に投影し、前記対象物の形状を3次元座標値として投影面上で格子状に配列したデータであって、
前記標本化格子は、前記対象物に対応した投影データを有する有効格子点と、前記対象物に対応した投影データを有さない無効格子点とを含み、
前記境界データは、前記無効格子点と隣合っている有効格子点のデータで規定され、
前記重み付け平均化処理は、前記境界データを構成する有効格子点の1つを平滑化対象格子点とし、該平滑化対象格子点と前記平滑化対象格子点に隣接する複数の有効格子点との間の距離に応じてそれぞれ設定される重み係数を、前記平滑化対象格子点のデータに積算し、その総和を取る処理を含む、請求項2記載の3次元形状データ処理装置。 - 前記対象物の前記標本化格子に対する投影は、前記所定の投影方向が1方向である正投影法によってなされる、請求項3記載の3次元形状データ処理装置。
- 前記対象物の前記標本化格子に対する投影は、前記所定の投影方向が前記標本化格子の格子点ごとに異なる透視投影法によってなされる、請求項3記載の3次元形状データ処理装置。
- 前記外周平滑化部は、前記重み付け平均化処理の後に、
前記重み付け平均化処理前の前記平滑化対象格子点の3次元座標値と、前記重み付け平均化処理後の前記平滑化対象格子点の3次元座標値との差分ベクトルを算出し、該差分ベクトルの前記所定の投影方向成分のみを抽出して、前記重み付け平均化処理前の前記平滑化対象格子点の3次元座標値に加算することで、前記平滑化対象格子点の移動方向を、前記所定の投影方向のみに拘束する拘束処理を行う機能を有する、請求項3記載の3次元形状データ処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP24564998A JP3743171B2 (ja) | 1998-08-31 | 1998-08-31 | 3次元形状データ処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP24564998A JP3743171B2 (ja) | 1998-08-31 | 1998-08-31 | 3次元形状データ処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2000076456A JP2000076456A (ja) | 2000-03-14 |
JP3743171B2 true JP3743171B2 (ja) | 2006-02-08 |
Family
ID=17136790
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP24564998A Expired - Lifetime JP3743171B2 (ja) | 1998-08-31 | 1998-08-31 | 3次元形状データ処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3743171B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110980276A (zh) * | 2019-12-30 | 2020-04-10 | 南京埃克里得视觉技术有限公司 | 一种三维视觉配合机器人实施铸件自动下料的方法 |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011033497A (ja) * | 2009-08-03 | 2011-02-17 | Honda Motor Co Ltd | 環境認識システム、環境認識方法およびロボット |
DE102010020925B4 (de) * | 2010-05-10 | 2014-02-27 | Faro Technologies, Inc. | Verfahren zum optischen Abtasten und Vermessen einer Umgebung |
JP6560745B2 (ja) * | 2014-09-24 | 2019-08-14 | コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. | 生体構造のボリュメトリック画像を視覚化すること |
JP2017083956A (ja) * | 2015-10-23 | 2017-05-18 | キヤノン株式会社 | 情報処理装置および情報処理方法、撮像装置およびプログラム |
JP6818471B2 (ja) * | 2016-08-31 | 2021-01-20 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
-
1998
- 1998-08-31 JP JP24564998A patent/JP3743171B2/ja not_active Expired - Lifetime
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110980276A (zh) * | 2019-12-30 | 2020-04-10 | 南京埃克里得视觉技术有限公司 | 一种三维视觉配合机器人实施铸件自动下料的方法 |
CN110980276B (zh) * | 2019-12-30 | 2021-08-17 | 南京埃克里得视觉技术有限公司 | 一种三维视觉配合机器人实施铸件自动下料的方法 |
Also Published As
Publication number | Publication date |
---|---|
JP2000076456A (ja) | 2000-03-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US6775403B1 (en) | Device for and method of processing 3-D shape data | |
US10229483B2 (en) | Image processing apparatus and image processing method for setting an illumination environment | |
JP6040838B2 (ja) | デプス推定装置、デプス推定方法、デプス推定プログラム、画像処理装置、画像処理方法及び画像処理プログラム | |
JP3639475B2 (ja) | 3次元モデル生成装置および3次元モデル生成方法ならびに3次元モデル生成プログラムを記録した記録媒体 | |
Daanen et al. | Whole body scanners | |
KR101613721B1 (ko) | 2d 이미지 시퀀스들로부터 3d 장면을 재구성하기 위한방법 | |
JP4284664B2 (ja) | 三次元形状推定システム及び画像生成システム | |
WO2002013144A1 (en) | 3d facial modeling system and modeling method | |
KR20150107063A (ko) | 얼굴 성형 시뮬레이션을 이용한 3차원 스캔 시스템 | |
JP3743171B2 (ja) | 3次元形状データ処理装置 | |
TW200828182A (en) | Method of utilizing multi-view images to solve occlusion problem for photorealistic model reconstruction | |
US7068835B1 (en) | Data processing apparatus for processing a 3-dimensional data of an object and a method therefor | |
JP2000076454A (ja) | 3次元形状データ処理装置 | |
JP2000339498A (ja) | 3次元形状データ処理装置 | |
JP2001012922A (ja) | 3次元データ処理装置 | |
JP2000321050A (ja) | 3次元データ取得装置および3次元データ取得方法 | |
JPH11312228A (ja) | 3次元形状データ処理装置 | |
JP4316114B2 (ja) | モデルの変形方法およびモデリング装置 | |
JP2001045519A (ja) | 3次元データ生成装置、3次元データ生成方法および記録媒体 | |
JP3429400B2 (ja) | モデリングシステム | |
JPH11188183A (ja) | 3次元形状データ処理装置及びモデリングシステム | |
JPH11328444A (ja) | モデリングシステム | |
JP2000076455A (ja) | 3次元形状データ処理装置 | |
JPH0981737A (ja) | 三次元物体モデル生成方法 | |
JP2000357007A (ja) | 3次元データ処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20050613 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20050701 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20051019 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20051025 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20051107 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20081125 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091125 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101125 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101125 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111125 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111125 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121125 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121125 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131125 Year of fee payment: 8 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
EXPY | Cancellation because of completion of term |