JP2011008816A - 標準モデルの変形方法およびモデリング装置 - Google Patents
標準モデルの変形方法およびモデリング装置 Download PDFInfo
- Publication number
- JP2011008816A JP2011008816A JP2010185842A JP2010185842A JP2011008816A JP 2011008816 A JP2011008816 A JP 2011008816A JP 2010185842 A JP2010185842 A JP 2010185842A JP 2010185842 A JP2010185842 A JP 2010185842A JP 2011008816 A JP2011008816 A JP 2011008816A
- Authority
- JP
- Japan
- Prior art keywords
- standard model
- dimensional data
- dimensional
- data
- point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Abstract
【解決手段】CPUおよびメモリを有する処理装置を用いて、計測された3次元データに合わせて標準モデルDSを変形する方法であって、3次元データおよび標準モデルDSをメモリに格納しておき、CPUによって、3次元データを間引くために、3次元データの個数を削減するステップと、間引かれた3次元データの輪郭と標準モデルDSの輪郭との距離が小さくなるように標準モデルDSの全体を変形するステップと、標準モデルDSの全体を変形した後に、間引かれる前の3次元データから局所的に特徴を有する複数の部分領域BRYを選択するステップと、選択された複数の部分領域の3次元データを用いて、標準モデルDSの対応する部分のみを変形するステップと、を実行する。
【選択図】図12
Description
〔標準モデルの準備〕
図2において、まず、対象物についての標準モデルDSを準備する(#11)。本実施形態では対象物が人の頭部であるので、種々のサイズおよび形状を有した、頭部の全周についての複数の標準モデル群の中から、対象物の頭部に最もよく似た標準モデルDS1を準備する。
〔3次元データの取得〕
次に、対象物の3次元計測を行い、3次元データDTを取得する(#12)。その際に、対象物の2次元画像FTをも同時に取得しておく。また、上に述べたように、3次元データDTの各点についての信頼性を示す信頼性データDR、または信頼性データDRを得るための情報を必要に応じて取得しておく。
〔概略の位置合わせ〕標準モデルDSと3次元データDTとの概略の位置合わせを行う(#13)。この処理では、標準モデルDSと3次元データDTとが概略一致するように、標準モデルDSの向き、サイズ、および位置を変更する。このとき、標準モデルDSを、X,Y,Zのそれぞれの方向に個別に任意の倍率に偏倍することにより、それぞれの方向のサイズを3次元データDTによく合わせることができる。
〔全体的概略位置合わせ〕
全体的概略位置合わせでは、3次元データDTと標準モデルDSとの距離を最小とするように、標準モデルDSの位置、方向、およびサイズを変更する。
K:3次元データの構成点の個数
dk :3次元データの構成点と標準モデルの表面との距離
Wsc:偏倍安定化のウエイトパラメータ
S0 :初期スケール
Si :各方向の偏倍量(但し、S3 は奥行き方向である)
αi :標準モデルの各方向の回転
ti :標準モデルの各方向への移動量
ここで、標準モデルDS上の構成点は次の(2)式にしたがって移動し、それにともなって、3次元データDTの構成点と標準モデルDSの表面との間の距離dk が変化する。
γ:視線方向x3 変形分へのウエイトパラメータ
〔局所的概略位置合わせ〕
上に述べた全体的概略位置合わせを自動で行った場合に、それがうまく合わなかったときに、手動で合わせることとなるが、ここに述べる局所的概略位置合わせは、手動での位置合わせの際にできるだけ簡単に行うための手法である。なお、自動でうまくいかなかった分は一旦リセットし、初めから手動でやり直す。
k:対応する特徴点の個数
Mk :位置合わせ後の標準モデル上の特徴点
x:位置合わせ前の標準モデル上の特徴点
Ck :3次元データ上の特徴点
Si :標準モデルの各方向の偏倍量
αi :標準モデルの各方向の回転
ti :標準モデルの各方向への移動量
また、3次元計測装置16による計測(撮影)が一方向からに限られる場合に、奥行き方向(Z方向)のスケールが正確に得られない場合がある。その場合には、上に述べた全体的概略位置合わせの場合と同様に、次の(5)式を用いてZ方向のスケールを補正する方法が考えられる。
3次元データDTまたは2次元画像FT上に、輪郭および特徴点を抽出する(#14)。標準モデルDSについての輪郭RKおよび特徴点TTを予め抽出しておいた場合には、それらと同じ位置に配置されるべき輪郭および特徴点を、3次元データDT上に、またはそれに対応する2次元画像上に配置する(図7参照)。
〔データ削減〕
次に、計算量および誤差を削減するために、3次元データDTについてデータの削減を行い、必要且つ信頼性の高いデータのみを取り出す(#15)。データの削減を行うことによって、元の3次元データDTの形状を崩すことなく、計算量を減らすことができる。
Pk :構成点
P〜r :既に採用された構成点
Rdet (x) :構成点xの周囲の密度を表す関数
上の(6)式によると、注目されているデータPkについて、それまでに採用されて残っているデータPrとの間の距離が一定以上であれば、そのデータPkを採用する。
〔変形〕
標準モデルDS全体の変形が行われる(#16)。ここでは、3次元データDTの各構成点と標準モデルDSの面との間の距離に関連して定義されたエネルギー関数e1 を用いるとともに、それに加えて、標準モデルDSの特徴点と3次元データDTに対して指定された特徴点との間の距離に関連して定義されるエネルギー関数e3 、標準モデルDSの輪郭と3次元データDTに対して指定された輪郭との間の距離に関連して定義されるエネルギー関数e2 、および、過剰な変形を回避するために定義されたエネルギー関数es を用い、それらを総合したエネルギー関数eを評価し、総合のエネルギー関数eが最小となるように標準モデルDSの面を変形させる。
次に、各エネルギー関数について順次説明する。
〔標準モデルと3次元データとの距離〕
図8において、3次元データDTを構成する点群の1つが点Pkで示されている。標準モデルDSの面Sにおいて、点Pkに最も近い点がQkで示されている。点Qkは、点Pkから面Sに垂線を下ろしたときの交点である。ここでは、点Pkと点Qkとの距離が評価される。
T1A:制御点群
Pk :削減後の3次元データの構成点
Qk :構成点からモデル表面への投影点
K:削減後の構成点の個数
dk :構成点からモデル表面への投影方向,
dk =(Qk-Pk )/|Qk-Pk |
ρk :構成点Pk の信頼性
w(ρk):信頼性関数,w(ρk)=1/(α+ρk )n
W:Σw(ρk)
L:種々のエネルギーを同一単位で扱うための調整用スケール
〔標準モデル上の輪郭と計測データ上の輪郭との距離〕
ここでは、3次元データDT上に指定された輪郭RK、または2次元画像FT上に指定された輪郭RKと、標準モデルDS上の輪郭RKとの距離が評価される。
T2A:制御点群
pk :3次元データ上の輪郭点
qk :3次元データ上の輪郭点から対応するモデル輪郭への垂足点
n:1つのモデル輪郭に対応が付けられている3次元データの輪郭点数
dk :計測データの輪郭点から対応するモデル輪郭線への投影方向,
dk =(qk-pk )/|qk-pk |
l:種々のエネルギーを同一単位で扱うための調整用スケール
計測データの輪郭RKが2次元画像FT上に指定される場合に、標準モデルDSの輪郭RK毎の差分エネルギーe2 ’は次の(9)式によって計算される。
T2A:制御点群
pk :2次元画像上の輪郭点
qk :2次元画像上の輪郭点から2次元画像上に投影された対応するモデル輪郭への垂 足点
n:1つのモデル輪郭に対応が付けられている計測データの輪郭点数
dk :2次元画像上の輪郭点から対応するモデル輪郭への投影方向,
dk =(qk-pk )/|qk-pk |
l:種々のエネルギーを同一単位で扱うための調整用スケール
計測データの輪郭RKを2次元画像FT上で指定する理由は、例えば3次元データDTがあいまいな場合に、3次元データDT上に輪郭RKを指定すると輪郭RKそのものが不正確となるからである。したがって、それに代えて2次元画像FTを用いて輪郭RKを抽出するのである。
〔標準モデル上の特徴点と対応した計測データ上の特徴点との距離〕
計測データ上に特徴点TTを設定することにより、3次元データDT上に指定された特徴点TT、または2次元画像FT上に指定された特徴点TTと、標準モデルDS上の特徴点との距離が評価される。
なお、2次元画像FT上に特徴点TTを指定した場合は、カメラパラメータを用いて標準モデルDSの特徴点TTを2次元画像FT上に投影し、2次元画像FT上での差分エネルギーを計算する。
T3A:制御点群
Fk :計測データの特徴点
Gk :計測データの特徴点に対応する標準モデル上の特徴点
N:計測データの特徴点と標準モデル上の特徴点との対応数
L:種々のエネルギーを同一単位で扱うための調整用スケール
〔過剰な変形を回避するための安定化エネルギー〕
上に述べた差分のエネルギーに加え、過剰な変形を回避するための安定化エネルギーes が導入される。
TsA:制御点群
U〜m,V〜m :仮想バネの端点(制御点)の初期値
Um,Vm :変形後の仮想バネの端点
L0m:初期状態の仮想バネの長さ,
L0m=|U〜m −V〜m |
M:仮想バネの本数
c:バネ係数
L:種々のエネルギーを同一単位で扱うための調整用スケール
したがって、バネ係数cを大きくすると、仮想バネKBは硬くなって変形し難くなる。
〔総合のエネルギー関数〕
上に述べたように、各エネルギー関数e1,e2,e3,e4 について、それぞれ制御点群T1A, T2A, T3A, TsAが用いられる。ここでは、これらの制御点群T1A〜TsAは同じであるが、後述するように互いに異ならせることができる。これら制御点群TAを用いて標準モデルDSの変形を行い、次の(12)式に示す総合エネルギー関数e(TA)を最小にする制御点群TAを求める。
e1(T1A): 3次元データの構成点とモデル表面との差分エネルギー
e2 s (T2A): モデル輪郭毎の計測データ上の輪郭との差分エネルギー
e3(T3A): 計測データの特徴点とモデル上の特徴点との差分エネルギー
es(TSA): 過剰な変形を回避するための安定化エネルギー
wi, c :それぞれのエネルギーのウエイトパラメータ
TA=T1A=T2A=T3A=TSA
〔繰り返し変形〕
実際には繰り返し変形を行う(#17)。つまり、制御点を動かして繰り返して変形を行う。n回目の変形後の総合エネルギー関数をen(TA)とすると、次の(13)式の条件が満たされたときに、総合エネルギー関数en (TA)が収束したと判断する。
〔異なる制御点の使用〕
上に述べた(12)式では、フィッティング対象(3次元データDTの構成点、輪郭RK、特徴点TT)がそれぞれ異なるエネルギー関数e1 〜e4 について、同じ制御点群を使用したが、ここに示す例は、フィッティング対象毎、すなわちエネルギー関数毎に異なる制御点群を用いる。つまり、制御点群T1A, T2A, T3A, TsAを互いに異ならせる。
TA⊃T2A
TA⊃T3A
TA=TSA
すなわち、上に述べたように、特徴点は点であるので、特徴点同士のエネルギーに対しては、局所的な動きになってしまう。例えば、3次元データDTと標準モデルDSとの目の位置を合わせようとするときに、特徴点TTが設定された部分のみが強く引っ張られ、いびつに変形する可能性がある。そのような場合に、全体的な動きとなるようにするのが好ましい。
〔信頼性に応じたウエイトの変更〕
上に述べた(12)式では、各情報についての信頼性が同等であるとして総合エネルギー関数e(TA)を評価したが、ここに示す例は、それぞれの情報の信頼性に応じて重みを変更する。これによって、様々な情報の中からより信頼性の高い情報に重きを置いて判定することができる。
ρi :各エネルギー関数ei (TA)に関する情報の信頼性
W (ρi):信頼性関数
TA=T1A=T2A=T3A=TSA
〔部分領域変形〕
ステップ#17までの処理によって、従来の技術に比べて、より精密な3次元モデルMLを得ることができる。しかし、ステップ#17までの処理は対象物全体を対象として行われているので、局所的に特徴を有する部分については必ずしも精密なフィッティングがなされているとは限らない。そこで、対象物のうち特徴のある部分またはステップ#17までの処理で十分なフィッティングがなされていない部分を3次元データDTから抽出し、抽出した3次元データDTのみを用いて、さらに標準モデルDSのフィッティングを行う(#18)。
10 処理装置
DT 3次元データ(計測データ)
FT 2次元画像(計測データ)
BRY 部分領域
DS,DS1,DS1a 標準モデル
DS1b 標準モデル(3次元モデル)
ML 3次元モデル
TA 制御点群
Pk 構成点(点群)
S 面
PR モデリングプログラム
Claims (4)
- CPUおよびメモリを有する処理装置を用いて、計測された3次元データに合わせて標準モデルを変形する方法であって、
前記3次元データおよび前記標準モデルを前記メモリに格納しておき、
前記CPUによって、
前記3次元データを間引くために、前記3次元データの個数を削減するステップと、
前記間引かれた3次元データの輪郭と前記標準モデルの輪郭との距離が小さくなるように前記標準モデルの全体を変形するステップと、
前記標準モデルの全体を変形した後に、前記間引かれる前の3次元データから局所的に特徴を有する複数の部分領域を選択するステップと、
選択された複数の部分領域の3次元データを用いて、前記標準モデルの対応する部分のみを変形するステップと、を実行する、
ことを特徴とする標準モデルの変形方法。 - 前記標準モデルには標準モデルを変形させるための制御点が定義されており、
前記部分領域ごとに、前記制御点、前記3次元データの個数を削減する削減率、または前記標準モデルの変形の度合を評価する評価関数の少なくとも1つを変更する、
請求項1記載の標準モデルの変形方法。 - 計測された3次元データに合わせて標準モデルを変形することによって3次元モデルを生成するモデリング装置であって、
前記3次元データを間引くために、前記3次元データの個数を削減する手段と、
前記間引かれた3次元データの輪郭と前記標準モデルの輪郭との距離が小さくなるように前記標準モデルの全体を変形する手段と、
前記標準モデルの全体を変形した後に、前記間引かれる前の3次元データから局所的に特徴を有する複数の部分領域を選択する手段と、
選択された複数の部分領域の3次元データを用いて、前記標準モデルの対応する部分のみを変形する手段と、
を有してなることを特徴とするモデリング装置。 - 前記部分のみを変形する手段は、
前記部分領域ごとに、標準モデルを変形させるための前記標準モデルに定義された制御点、前記3次元データの個数を削減する削減率、または前記標準モデルの変形の度合を評価する評価関数の少なくとも1つを変更する、
請求項3記載のモデリング装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010185842A JP4924747B2 (ja) | 2010-08-23 | 2010-08-23 | 標準モデルの変形方法およびモデリング装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010185842A JP4924747B2 (ja) | 2010-08-23 | 2010-08-23 | 標準モデルの変形方法およびモデリング装置 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000197779A Division JP2002015310A (ja) | 2000-03-29 | 2000-06-30 | 点群に面をフィッティングする方法およびモデリング装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2011008816A true JP2011008816A (ja) | 2011-01-13 |
JP4924747B2 JP4924747B2 (ja) | 2012-04-25 |
Family
ID=43565298
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010185842A Expired - Fee Related JP4924747B2 (ja) | 2010-08-23 | 2010-08-23 | 標準モデルの変形方法およびモデリング装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4924747B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2022082455A (ja) * | 2020-11-20 | 2022-06-01 | 株式会社リコー | 三次元モデル構築方法、装置及びコンピュータ読み取り可能な記憶媒体 |
Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04195476A (ja) * | 1990-11-28 | 1992-07-15 | Hitachi Ltd | コンピュータグラフィックの表示方法及び情報処理装置 |
JPH0581377A (ja) * | 1991-09-25 | 1993-04-02 | Hitachi Ltd | 三次元形状モデル化方法 |
JPH07254075A (ja) * | 1994-03-16 | 1995-10-03 | Fujitsu Ltd | 3次元的な物体の変形方法及びモデリングシステム |
JPH0887608A (ja) * | 1994-09-16 | 1996-04-02 | Fujitsu Ltd | 三次元形状モデル変形方法及び装置 |
JPH08297751A (ja) * | 1995-04-27 | 1996-11-12 | Hitachi Ltd | 三次元モデルの作成方法および装置 |
JPH09138864A (ja) * | 1995-11-14 | 1997-05-27 | Minolta Co Ltd | 3次元形状データの生成方法及び処理装置 |
JPH10172003A (ja) * | 1996-12-13 | 1998-06-26 | Sony Corp | 形状データの近似化方法及び描画装置 |
JPH11175765A (ja) * | 1997-12-11 | 1999-07-02 | Alpine Electron Inc | 3次元モデル作成方法、3次元モデル作成装置及び記憶媒体 |
JP2000099738A (ja) * | 1998-09-28 | 2000-04-07 | Sony Corp | 情報記録装置および方法、計測装置および方法、画像処理装置および方法、画像処理システム、並びに提供媒体 |
JP2000251092A (ja) * | 1999-02-26 | 2000-09-14 | Nokagaku Life Technology Kenkyusho | 三次元データ処理装置及び記録媒体 |
JP2000347562A (ja) * | 1999-06-02 | 2000-12-15 | Matsushita Electric Ind Co Ltd | 立体地形図表示装置 |
JP2001243500A (ja) * | 2000-03-01 | 2001-09-07 | Hitachi Eng Co Ltd | 三次元点群データ処理装置 |
JP2002015310A (ja) * | 2000-06-30 | 2002-01-18 | Minolta Co Ltd | 点群に面をフィッティングする方法およびモデリング装置 |
-
2010
- 2010-08-23 JP JP2010185842A patent/JP4924747B2/ja not_active Expired - Fee Related
Patent Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04195476A (ja) * | 1990-11-28 | 1992-07-15 | Hitachi Ltd | コンピュータグラフィックの表示方法及び情報処理装置 |
JPH0581377A (ja) * | 1991-09-25 | 1993-04-02 | Hitachi Ltd | 三次元形状モデル化方法 |
JPH07254075A (ja) * | 1994-03-16 | 1995-10-03 | Fujitsu Ltd | 3次元的な物体の変形方法及びモデリングシステム |
JPH0887608A (ja) * | 1994-09-16 | 1996-04-02 | Fujitsu Ltd | 三次元形状モデル変形方法及び装置 |
JPH08297751A (ja) * | 1995-04-27 | 1996-11-12 | Hitachi Ltd | 三次元モデルの作成方法および装置 |
JPH09138864A (ja) * | 1995-11-14 | 1997-05-27 | Minolta Co Ltd | 3次元形状データの生成方法及び処理装置 |
JPH10172003A (ja) * | 1996-12-13 | 1998-06-26 | Sony Corp | 形状データの近似化方法及び描画装置 |
JPH11175765A (ja) * | 1997-12-11 | 1999-07-02 | Alpine Electron Inc | 3次元モデル作成方法、3次元モデル作成装置及び記憶媒体 |
JP2000099738A (ja) * | 1998-09-28 | 2000-04-07 | Sony Corp | 情報記録装置および方法、計測装置および方法、画像処理装置および方法、画像処理システム、並びに提供媒体 |
JP2000251092A (ja) * | 1999-02-26 | 2000-09-14 | Nokagaku Life Technology Kenkyusho | 三次元データ処理装置及び記録媒体 |
JP2000347562A (ja) * | 1999-06-02 | 2000-12-15 | Matsushita Electric Ind Co Ltd | 立体地形図表示装置 |
JP2001243500A (ja) * | 2000-03-01 | 2001-09-07 | Hitachi Eng Co Ltd | 三次元点群データ処理装置 |
JP2002015310A (ja) * | 2000-06-30 | 2002-01-18 | Minolta Co Ltd | 点群に面をフィッティングする方法およびモデリング装置 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2022082455A (ja) * | 2020-11-20 | 2022-06-01 | 株式会社リコー | 三次元モデル構築方法、装置及びコンピュータ読み取り可能な記憶媒体 |
JP7318698B2 (ja) | 2020-11-20 | 2023-08-01 | 株式会社リコー | 三次元モデル構築方法、装置及びコンピュータ読み取り可能な記憶媒体 |
Also Published As
Publication number | Publication date |
---|---|
JP4924747B2 (ja) | 2012-04-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11423556B2 (en) | Methods and systems to modify two dimensional facial images in a video to generate, in real-time, facial images that appear three dimensional | |
US20160148411A1 (en) | Method of making a personalized animatable mesh | |
JP5818773B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP4950787B2 (ja) | 画像処理装置及びその方法 | |
KR101556992B1 (ko) | 얼굴 성형 시뮬레이션을 이용한 3차원 스캔 시스템 | |
JP2015082288A (ja) | 情報処理装置およびその制御方法 | |
US11490062B2 (en) | Information processing apparatus, information processing method, and storage medium | |
KR102110459B1 (ko) | 3차원 이미지 생성 방법 및 장치 | |
JP2002015310A (ja) | 点群に面をフィッティングする方法およびモデリング装置 | |
CN113538682B (zh) | 模型训练、头部重建方法、电子设备及存储介质 | |
JP4316114B2 (ja) | モデルの変形方法およびモデリング装置 | |
JP6608165B2 (ja) | 画像処理装置及び方法、並びにコンピュータプログラム | |
JP4479069B2 (ja) | 形状モデルの生成方法および装置 | |
JP4924747B2 (ja) | 標準モデルの変形方法およびモデリング装置 | |
JP4838411B2 (ja) | 形状モデルの生成方法 | |
JP7251003B2 (ja) | 細かいしわを有する顔メッシュ変形 | |
US20020013683A1 (en) | Method and device for fitting surface to point group, modeling device, and computer program | |
JP2002015307A (ja) | 形状モデルの生成方法 | |
US20020013684A1 (en) | Method of and device for modifying standard model | |
JP4292678B2 (ja) | 点群に面をフィッティングする方法および装置 | |
JP2002032783A (ja) | 3次元モデルの生成方法および装置 | |
JP4174985B2 (ja) | 2つの3次元データの差分の表示装置およびコンピュータプログラム | |
WO2023188159A1 (ja) | 特徴設定装置、特徴設定方法、及び非一時的なコンピュータ可読媒体 | |
US20220230393A1 (en) | Image processing apparatus that generates model of object, image processing method, and storage medium storing program thereof | |
CN109472860B (zh) | 基于人工智能的深度图平衡选优方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110809 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20111006 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20111013 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120110 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120123 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150217 Year of fee payment: 3 |
|
R150 | Certificate of patent (=grant) or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |