JP4252490B2 - 3次元画像生成装置および3次元画像生成プログラム - Google Patents

3次元画像生成装置および3次元画像生成プログラム Download PDF

Info

Publication number
JP4252490B2
JP4252490B2 JP2004135514A JP2004135514A JP4252490B2 JP 4252490 B2 JP4252490 B2 JP 4252490B2 JP 2004135514 A JP2004135514 A JP 2004135514A JP 2004135514 A JP2004135514 A JP 2004135514A JP 4252490 B2 JP4252490 B2 JP 4252490B2
Authority
JP
Japan
Prior art keywords
data
character
bone
image generation
animation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2004135514A
Other languages
English (en)
Other versions
JP2005316823A (ja
Inventor
隆行 嶋村
順稔 山崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nintendo Co Ltd
Original Assignee
Nintendo Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nintendo Co Ltd filed Critical Nintendo Co Ltd
Priority to JP2004135514A priority Critical patent/JP4252490B2/ja
Publication of JP2005316823A publication Critical patent/JP2005316823A/ja
Application granted granted Critical
Publication of JP4252490B2 publication Critical patent/JP4252490B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Image Generation (AREA)
  • Processing Or Creating Images (AREA)

Description

この発明は3次元画像生成装置および3次元画像生成プログラムに関し、特にたとえば、操作者の操作入力に応じてキャラクタを含む3次元画像を生成する、3次元画像生成装置および3次元画像生成プログラムに関する。
3次元グラフィック処理技術を用いて所望のキャラクタを作成するソフトウェアの一例が、非特許文献1に開示されている。非特許文献1によれば、操作者は、人物などのキャラクタを所望の3次元空間に描画し、描画されたキャラクタをこの3次元空間内で動かすためのアニメーションを作成することができる。
また、特許文献1には、骨(ボーン)と接続点(ジョイント)によってアニメーションを定義するビデオゲーム装置が開示される。ボーンの角度とジョイントの位置とによってアニメーションを作成するときに、モーションキャプチャ技術と手付けによる異なるデータ作成とを用いるので、最終的にアニメーションとして人間の動作を表現したときに起こりうる違和感(関節の過度の開き)が出ないように、すべてのボーンについてジョイントにおける開く角度を制限している。そして、制限を越えたときには、角度の最大値に固定される。
さらに、特許文献2によれば、まずカメラで人の顔を撮影した後、この顔の画像データをテクスチャデータとして利用して、キャラクタを作成する。このとき、撮影した顔の画像に応じて操作者が入力した個性データに基づいた体型で、キャラクタが表示されることを楽しむことができる。さらに、作成されたキャラクタの個性データに応じたアニメーションが表示されることを楽しむことができる装置について開示している。このとき、使用されるアニメーションのデータも上記のようなボーンとジョイントとの動きデータを応用することができる。
「目指せプロアニメータ Mayaキャラクタアニメーション 著者:ティム コールマン,シェリー シェリダン,発行人 石橋 俊雄,編集 太田 奈緒美,発行 株式会社ボーンデジタル,2002年4月25日初版第一刷発行,全頁」 特開2002−342784 特開2004−46793
しかし、非特許文献1に記載の技術や一般的なグラフィックソフトは、専ら精巧なキャラクタや芸術性に優れたキャラクタの作成を意図するものであり、娯楽性に優れたキャラクタの作成については何ら言及されていない。また、このようなソフトウェアにおいては、ボーンとジョイントとを、生成中のキャラクタに合わせて定義してアニメーションを作成するので、同じアニメーションを異なる体型のキャラクタで表現するときに発生し得る不自然さを解決することはできない。
また、特許文献1では、常にすべてのジョイントにおいて、ボーンの角度を監視する必要があり、処理負担が大きくなるおそれがあった。また、人物の動作のアニメーションをできる限り滑らかにし、かつコストを抑える目的のために、ボーンとジョイントとについて別々の手法でアニメーションデータを作成することを前提としているため、娯楽的で精密なアニメーション動作を必要としないときには、いたずらに処理負担を増大させることになってしまう。
さらに、特許文献2では、個性データに基づくキャラクタの自動生成において、娯楽性を追及したキャラクタの生成を楽しむことはできるが、個性データに合わせてアニメーションを選択するときに、体型に拘わらず同じアニメーションのデータを適用すると、不自然なアニメーションが表示されてしまうことがあった。たとえば、太った体型のキャラクタでは、腕を垂直に降ろした場合に、腕が体にめり込んでしまうことがあった。
それゆえに、この発明の主たる目的は、新規な、3次元画像生成装置および3次元画像生成プログラムを提供することである。
この発明の他の目的は、キャラクタの体型に拘わらず共通のアニメーションデータを使用しても違和感のないアニメーションを表示することができる、3次元画像生成装置および3次元画像生成プログラムを提供することである。
この発明のその他の目的は、キャラクタの体型に拘わらず共通のアニメーションデータを使用し、キャラクタの体型を変化させた場合であっても、簡易かつ処理負担を軽減してアニメーションを生成および表示できる、3次元画像生成装置および3次元画像生成プログラムを提供することである。
請求項1の発明は、操作者の操作入力に応じてキャラクタを含む3次元画像を生成する3次元画像生成装置であって、操作手段、キャラクタ画像生成手段、表示手段、ポリゴンデータ記憶手段、骨組みデータ記憶手段、拡大縮小値設定手段、および関節角度制御手段を備える。操作手段は、操作者が操作入力を行う。キャラクタ画像生成手段は、操作手段からの操作入力に応じてキャラクタ画像を生成する。表示手段は、キャラクタ画像を含む3次元画像を表示する。ポリゴンデータ記憶手段は、キャラクタの形を定義するポリゴンデータを記憶する。骨組みデータ記憶手段は、ボーンと複数のボーンを接続するジョイントとによってキャラクタの骨組みを定義する骨組みデータを、ポリゴンデータに関連付けて記憶する。拡大縮小値設定手段は、少なくともポリゴンデータの一部を所望の大きさに拡大または縮小する拡大縮小値を設定する。関節角度制御手段は、骨組みデータはポリゴンデータに関連づけされていないダミーボーンをさらに含み、当該ダミーボーンが接続されたジョイントにおいて、当該ダミーボーンと他のボーンとの角度を制御する。そして、キャラクタ画像生成手段は、ポリゴンデータおよび骨組みデータを用いるとともに、拡大縮小値に従ってキャラクタ画像を生成する。また、関節角度制御手段は、拡大縮小値に応じて、ダミーボーンと他のボーンとの角度が所定値以下にならないように制御する。
請求項1の発明では、3次元画像生成装置は、操作者の操作入力に応じてキャラクタを含む3次元画像を生成する。操作手段(12:実施例で相当する参照符号。以下、同じ。)は、操作者が操作入力を行うために用いられる。キャラクタ画像生成手段(11a,11c,S9)は、操作手段(12)からの操作入力に応じてキャラクタ画像を生成する。表示手段(14)は、キャラクタ画像を含む3次元画像を表示する。ポリゴンデータ記憶手段(11b)は、キャラクタの形を定義するポリゴンデータを記憶する。骨組みデータ記憶手段(11b)は、ボーンと複数のボーンを接続するジョイントとによってキャラクタの骨組みを定義する骨組みデータを、ポリゴンデータに関連付けて記憶する。拡大縮小値設定手段(11a,S17)は、少なくともポリゴンデータの一部を所望の大きさに拡大または縮小する拡大縮小値を設定する。関節角度制御手段(11a,S21,S31)は、骨組みデータはポリゴンデータに関連づけされていないダミーボーンをさらに含み、当該ダミーボーンが接続されたジョイントにおいて、当該ダミーボーンと他のボーンとの角度を制御する。そして、キャラクタ画像生成手段(11a,11c,S9)は、ポリゴンデータおよび骨組みデータを用いるとともに、拡大縮小値に従ってキャラクタ画像を生成する。また、関節角度制御手段(11a,S21,S31)は、拡大縮小値に応じて、ダミーボーンと他のボーンとの角度が所定値以下にならないように制御する。
請求項1の発明によれば、所定のジョイントに接続されるボーン同士の角度を、キャラクタを構成する一部のポリゴンの拡大率に基づいて制御するので、キャラクタの体型に合わせた骨組み、すなわち関節の制御を行うことができる。このため、体型に拘わらず、同じアニメーションデータを用いた場合であっても、違和感のないキャラクタを生成し、表示することができる。また、所定のジョイントのみを監視すればよいので、すべてのボーンおよびジョイントを監視する場合に比べて、処理負担を大幅に減らすことができる。
請求項2の発明は請求項1に従属し、骨組みデータは、少なくともキャラクタの肩のジョイントに接続される腕のボーンの位置にダミーボーンを含み、関節角度制御手段は、肩のジョイントにおいて、腕のボーンとダミーボーンとの角度を制御する。
請求項2の発明では、骨組みデータは、少なくともキャラクタの肩のジョイントに接続される腕のボーンの位置にダミーボーンを含む。具体的には、キャラクタが直立し、両腕を下ろしたときの、二の腕に相当する位置にダミーボーンは配置され、キャラクタの動作に拘わらず、その状態(位置)が維持される。関節角度制御手段(11a,S21,S31)は、肩のジョイントにおいて、腕のボーンとダミーボーンとの角度を監視し、当該角度が所定値以下にならないように制御する。これにより、たとえば、太ったキャラクタ(72)の腕(手)が身体(腹部)に入り込むことがないようにしてある。
請求項2の発明によれば、太ったキャラクタの腕(手)が身体(腹部)に入り込むような不都合な画像が表示されることがない。つまり、違和感を与えることのないキャラクタを生成し、表示することができる。
請求項3の発明は請求項1または2に従属し、ボーンの位置とジョイントの位置との時系列変化についてのアニメーションデータを記憶するアニメーションデータ記憶手段、およびキャラクタ画像生成手段によって生成されたキャラクタとアニメーションデータとを用いてアニメーションを表示手段に表示するアニメーション表示制御手段をさらに備える。
請求項3の発明では、3次元画像生成装置は、アニメーションデータ記憶手段(11b)およびアニメーション表示制御手段(11a,11c,S33)をさらに備える。アニメーションデータ記憶手段(11b)は、ボーンの位置とジョイントの位置との時系列変化についてのアニメーションデータを記憶する。アニメーション表示制御手段(11a,11c,S33)は、キャラクタ画像生成手段(11a,11c,S9)によって生成されたキャラクタ(72)と、アニメーションデータとを用いて、アニメーションを表示手段(14)に表示する。上述したように、キャラクタ(72)のジョイントに接続されるボーン同士の角度を監視し、当該角度が所定値以下にならないように制御するようにしてあるため、アニメーションデータは、キャラクタの体型(種類)に拘わらず共通に使用することができる。
請求項3の発明によれば、キャラクタの体型に拘わらず、共通のアニメーションデータを用いて、アニメーション表示することができる。つまり、共通のアニメーションデータを用いた場合であっても、違和感のないキャラクタを生成し、アニメーション表示することができる。
請求項4の発明においても、請求項1の発明と同様に、違和感のないキャラクタを生成し、表示することができる。
この発明によれば、所定のジョイントに接続されるボーン同士の角度を、キャラクタを構成する一部のポリゴンの拡大率に基づいて制御するので、キャラクタの体型に合わせた骨組み、すなわち関節の制御を行うことができる。このため、体型に拘わらず、同じアニメーションデータを用いた場合であっても、違和感のないキャラクタを生成し、表示することができる。また、所定のジョイントのみを監視すればよいので、すべてのボーンおよびジョイントを監視する場合に比べて、処理負担を大幅に減らすことができる。
この発明の上述の目的,その他の目的,特徴および利点は、図面を参照して行う以下の実施例の詳細な説明から一層明らかとなろう。
図1を参照して、この実施例の画像処理システム10は、コントローラ12が接続された据置型ゲーム装置11を含む。この据置型ゲーム装置11は、3次元画像生成装置および3次元画像生成プログラムを備えている。据置型ゲーム装置11にはコントローラ12が接続される。このコントローラ12は、操作スイッチ12aおよびジョイスティック12bを備える。操作スイッチ12aは、主にメニュー選択画面での決定操作に使用される。ジョイスティック12bは、主にメニュー選択画面での方向指示操作や選択項目の変更操作に使用される。
据置型ゲーム装置11を3次元画像生成装置として機能させるためのプログラムすなわち3次元画像生成プログラムは、ディスク型のROMのような外部記憶媒体13から供給(ロード)される。据置型ゲーム装置11には、CRT(モニタ)14が接続される。CRT14は典型的にはテレビモニタであり、このCRT14には上述のプログラムの処理に応じて作成される3次元キャラクタ画像が表示される。操作者は、CRT14に表示される画像を見ながら、コントローラ12を操作してキャラクタ画像の形状を変更する。また、CRT14にはスピーカ14aが設けられ、このスピーカ14aからは、キャラクタ画像に関連するキャラクタ音声が出力される。たとえば、このキャラクタ音声の高さ(音程)は、キャラクタ画像の形状に応じて変化する。
なお、据置型ゲーム装置11には、メモリカードのような外部データ記憶媒体15が接続されてもよい。キャラクタ生成処理の途中経過(途中データ)を外部データ記憶媒体15に記憶させれば、キャラクタ生成処理の一時的な中断が可能となる。また、キャラクタ生成処理の結果(結果データ)を外部データ記憶媒体15に記憶されることもできる。
画像処理システム10は、撮像装置として機能する携帯型ゲーム装置20を含む。携帯型ゲーム装置20は、携帯型ゲーム装置本体21と撮像カートリッジ22とを含む。携帯型ゲーム装置本体21は、操作スイッチ21aを有する。被写体を撮影するとき、操作者は、操作スイッチ21aをシャッタボタンとして使用する。携帯型ゲーム装置20はまた、LCDモニタ21bを備える。LCDモニタ21bは、携帯型ゲーム装置本体21で処理されたプログラムの結果を画像として表示する。
撮像カートリッジ22には、撮像ユニット22aが設けられる。撮像カートリッジ22のROM22b(図2参照)には、携帯型ゲーム装置本体21を撮像装置として機能させるためのプログラムおよびデータが記憶されている。撮像ユニット22aによって撮影された画像データは、撮像カートリッジ22のバックアップRAM(またはフラッシュメモリ)22c(図2参照)に記憶される。携帯型ゲーム装置20は、接続ケーブル16を介して据置型ゲーム装置11に接続される。バックアップRAM22cに記憶された画像データは、据え置き型ゲーム装置11で使用することができる。
図2は、画像処理システム10の電気的な構成を示すブロック図である。据置型ゲーム装置11は、CPU11aを内蔵している。CPU11aは、プロセサないしコンピュータと呼ばれ、据置型ゲーム装置11の全体制御を司る。このCPU11aには、RAM11bが接続される。RAM11bには、CPU11aによって処理されるプログラムやデータが一時的に記憶される。
CPU11aには、画像処理ユニット11cおよび音声処理ユニット11gがさらに接続されている。画像処理ユニット11cは、CPU11aからの指示に基づいて、RAM11bに記憶された画像データを処理する。画像処理ユニット11cによって生成された画像データは、ビデオエンコーダ11dを介してCRT14から出力される。音声処理ユニット11gは、CPU11aからの指示に基づいて、RAM11bに記憶された音声データを処理する。音声処理ユニット11cによって生成された音声データは、スピーカ14aから出力される。
CPU11aにはさらに、インタフェース11eが接続される。インタフェース11eは、RAM11bにも接続される。コントローラ12は、インタフェース11eを介してCPU11aに接続される。インタフェース11eにはまた、ディスクドライブユニット11fが接続される。外部記憶媒体13のデータは、CPU11aの指示に基づいて、ディスクドライブユニット11fによって読み取られる。読み取られたデータは、RAM11bに転送される。プログラム処理によって得られたデータを保存するとき、このデータは、RAM11bから読み出され、インタフェース11eを介して外部データ記憶媒体(たとえばメモリカード)15に転送される。
携帯型ゲーム装置本体21は、CPU21cを内蔵する。CPU21cは、RAM21dと接続される。RAM21dには、CPU21cのプログラム処理によって得られたデータが一時的に記憶される。画像処理ユニット21eは、CPU21cおよびRAM21dと接続される。画像処理ユニット21eは、CPU21cの指示に基づいて、RAM21dに一時記憶された画像データを処理し、処理された画像データをVRAM21fに格納する。VRAM21fに格納された画像データは、LCDドライバ21gを介してLCDモニタ21bから出力される。
撮像カートリッジ22は、コネクタを介して携帯型ゲーム装置本体21に着脱可能とされる。また、撮像カートリッジ22は、上述の撮像ユニット22a,ROM22bおよびバックアップRAM22c、並びに、携帯型ゲーム装置本体21と接続するためのインタフェース22dを備える。
携帯型ゲーム装置本体21のCPU21cは、インタフェース21hを介して、撮像カートリッジ22にアクセスする。すなわち、CPU21cは、ROM22bに記憶されたプログラムおよびデータに基づいて、撮像ユニット22aを駆動し、かつ所定の処理によって撮像データを生成する。なお、生成された撮像データをバックアップメモリ22cに保存するようにすれば、この画像データを他の携帯型ゲーム装置で使用することができる。
撮像カートリッジ22に設けられたROM22bのメモリマップ30を図3に示す。メモリマップ30は、プログラム記憶領域31とデータ記憶領域32とに区分される。プログラム記憶領域31には、撮影指標表示プログラム31a,被写体撮影プログラム31b,被写体特徴データ取得プログラム31c,およびデータ送信プログラム31dが記憶される。
撮影指標表示プログラム31aは、被写体の目、鼻および口の位置を決めるための指標62a〜62dをLCDモニタ21bに表示するためのプログラムである。被写体の顔は図4の状態図61に示す要領で撮影され、指標62a〜62dは図4の状態図62に示す要領で表示される。
被写体撮影プログラム31bは、被写体の画像を撮像ユニット22aで撮影するためのプログラムである。操作スイッチ21aが操作されると、撮像ユニット22aによって撮影された被写体の画像データに所定の処理が施され、処理後の画像データがバックアップRAM22cに格納される。この画像データは、キャラクタ画像の顔部分に貼り付けるためのテクスチャデータとして用いられる。
被写体特徴データ取得プログラム31cは、撮像ユニット22aによって撮影された被写体の特徴を表すデータである被写体特徴データを取得するプログラムである。図4の状態図63に示すように、被写体特徴データは、“性別”,“体型”,“性格”および“年齢”の4つの項目を含む。所望の性別、体型、性格および年齢が操作者によって選択されると、選択された項目を含む被写体特徴データがRAM22c上で画像データと関連づけられる。
データ送信プログラム31dは、こうして得られた画像データ(顔画像データ)および被写体特徴データを、接続ケーブル16を介して据置型ゲーム装置11に送信するプログラムである。
データ記憶領域32は、撮影指標画像データ領域32a,カメラプログラム用画像データ領域32bおよびカメラプログラム用サウンドデータ領域32cを有する。撮影指標画像データ領域32aに記憶されるデータは、状態図62に示される指標62a〜62dを示すデータであり、撮影指標表示プログラム31aによって使用される。
カメラプログラム用画像データ領域32bおよびカメラプログラム用サウンドデータ領域32cに記憶されるデータは、状態図62または状態図63に示す要領で被写体を撮影するときに使用されるデータである。具体的には、カメラプログラム用画像データ領域32bのデータは、プログラム記憶領域31に記憶された種々のプログラムの実行中に、演出効果を高めるべく画面に表示される被写体以外の絵のデータである。また、カメラプログラム用サウンドデータ領域32cのデータは、擬似シャッタ音データである。
図示は省略するが、RAM22cには、撮像データ記憶領域および被写体特徴データ記憶領域が形成される。撮像データ記憶領域は、撮像ユニット22aで撮影された被写体の顔画像データを記憶し、被写体特徴データ記憶領域は、操作者によって入力された被写体特徴データが記憶される。互いに関連する撮像データおよび被写体特徴データには、たとえば共通の識別番号が割り当てられる。
据置型ゲーム装置11に設けられたRAM11bのメモリマップ40を図5に示す。RAM11bは、プログラム記憶領域41およびデータ記憶領域42に区分される。
プログラム記憶領域41には、初期設定プログラム41a、操作データ取得プログラム41b、データ受信プログラム41c、キャラクタ生成プログラム41d、キャラクタ選択プログラム41e、キャラクタ表示プログラム41f、拡大/縮小率設定プログラム41g、肩関節角度監視制御プログラム41h、θmin設定プログラム41i、アニメーション表示プログラム41jなどのプログラムが記憶される。
初期設定プログラム41aは、3次元画像生成処理の開始時に、RAM11bのワーク領域やバッファ領域をクリアする等の初期設定をするためのプログラムである。操作データ取得プログラム41bは、コントローラ12の操作状態(操作データ)を取得(検出)するプログラムである。かかるプログラムによって得られる操作データは、コントローラ12の最新の操作状態を示す。キャラクタ生成プログラム41cは、基本ポリゴンデータ、服装や靴のような顔以外の画像のテクスチャデータおよびキャラクタ変更データを生成(作成)するためのプログラムである。基本ポリゴンデータ、テクスチャデータ(撮影された顔画像を含む。)およびキャラクタ変更データによってキャラクタ画像が定義される。以下、これらのデータを総称して“キャラクタデータ”と呼ぶ場合がある。
キャラクタ選択プログラム41eは、データ記憶領域42に準備された複数のキャラクタの中から所望のキャラクタを選択するためのプログラムである。キャラクタ表示プログラム41fは、データ記憶領域42に記憶されたキャラクタデータに基づいて疑似3次元キャラクタ画像を生成するためのプログラムである。
拡大/縮小率設定プログラム41gは、キャラクタ画像の形状を変更する操作が行われたときに、この変更操作に応じて拡大縮小値(拡大/縮小率)を決定するためのプログラムである。拡大/縮小率とは、3次元座標軸の各々におけるキャラクタ画像の変動量x,yおよびzを示す数値であり、キャラクタ画像の初期の形状に対する相対値で表される。ただし、この実施例では、身体の高さ方向(y方向)の大きさは考慮しないため、y方向の変動量yは無視される。
なお、初期の形状は、キャラクタ生成プログラム41dによって作成された基本ポリゴンデータおよびキャラクタ変更データによって規定される。また、拡大/縮小率の算出にあたって、頭部形状の変更は考慮されない。
肩関節角度監視制御プログラム41hは、キャラクタを表示する際に(静止画および動画の両方)、着目する関節(この実施例では、肩関節)すなわち肩のジョイントに接続されるボーン同士の角度を監視(検出)し、当該角度が所定値(後述する最小値θmin)以下にならないように制御するためのプログラムである。後で詳細に説明するが、ボーン同士の角度は、ポリゴンデータに関連付けられた通常のボーン(腕ボーン)とポリゴンに関連付けされていないボーン(以下、「ダミーボーン」)とが肩のジョイント(肩関節)を中心になす(作る)角度である。
θmin設定プログラム41iは、キャラクタ選択プログラム41eに従って選択されたキャラクタの体型に応じて、腕ボーンとダミーボーンとがなす角度の最小値(制限値)θminを設定するためのプログラムである。アニメーション表示プログラム41jは、操作者の指示に応答して、アニメーションデータを用いて、生成したキャラクタのアニメーションを表示するためのプログラムである。
データ記憶領域42は、ポインタデータ領域42a、被写体特徴データ領域42b、基本ポリゴンデータ領域42c、テクスチャデータ領域42d、骨組みデータ領域42e、アニメーションデータ領域42f、キャラクタ変更データ領域42g、体型変更用画像データ領域42h、操作データ・拡大/縮小率バッファ領域42i、表示データ領域42jおよびその他の領域42kを有する。
ポインタデータ領域42aは、複数のキャラクタA,B,…の各々を定義する各種データ(被写体特徴データ、基本ポリゴンデータ、テクスチャデータ,骨組みデータ、キャラクタ変更データ)を指定(指向)するポインタデータを記憶する。
被写体特徴データ領域42b、基本ポリゴンデータ領域42c、テクスチャデータ領域42d、骨組みデータ記憶領域42eおよびキャラクタ変更データ領域42eは、それぞれ、複数のキャラクタA,B,…の各々を定義する被写体特徴データ、基本ポリゴンデータ、テクスチャデータおよびキャラクタ変更データを記憶する。また、アニメーションデータ領域42fは、キャラクタの種類に拘わらず任意に選択されるアニメーションデータを種類別に記憶する。言い換えると、アニメーションデータは、各キャラクタで共通に用いられる。
体型変更用画像データ領域42hは、体型変更のためのメニュー画面データを記憶する。操作データ・拡大/縮小率バッファ領域42iは、操作データ取得プログラム41bに従って取得された操作データ、および拡大/縮小率設定プログラム41gに従って決定された拡大/縮小率を一時的に記憶する。表示データ領域42jは、表示すべきキャラクタ画像のデータを記憶する。その他の領域42kは、上述した各プログラム41a〜41jを実行する際に発生するデータやフラグを一時的に記憶するバッファ領域として用いられたり、作業領域として用いられたりする。
基本ポリゴンデータは、キャラクタ画像の基本形状を表すデータである。テクスチャデータは、上述のように、基本ポリゴンデータに貼り付けられる顔画像,服装および靴を表すデータである。骨組みデータは、基本ポリゴンデータに関連づけられ、キャラクタの骨組みを決定するためのボーンデータおよび基本ポリゴンデータに関連づけられていないボーンデータ(ダミーボーンデータ)が含まれる。アニメーションデータ(モーションデータ)は、たとえば、モーションキャプチャすることにより取得された人間等の様々な動作を、動作毎に記憶したデータであり、具体的には、ジョイントの位置とジョイントに接続されるボーンの位置とについての時系列変化を示すデータである。したがって、キャラクタに、アニメーションデータを当てはめる(適用する)ことにより、歩く、走る、手を振る、ステップを踏むなどの様々な動作をさせることができる。キャラクタ変更データは、キャラクタ画像の体型および頭部の大きさの基本形状からの変更量を定義するデータである。
被写体特徴データと顔画像のテクスチャデータとは、データ受信プログラム41bによって、被写体特徴データ領域42bおよびテクスチャデータ領域42fに書き込まれる。また、基本ポリゴンデータ、顔以外のテクスチャデータ、骨組みデータおよびキャラクタ変更データは、キャラクタ生成プログラムによって、基本ポリゴンデータ領域42c、テクスチャデータ領域42d、骨組みデータ領域42eおよびキャラクタ変更データ領域42gにそれぞれ書き込まれる。体型についてのキャラクタ変更データは、上述した拡大/縮小率設定プログラム41gによって設定された拡大/縮小率に従って更新される。
なお、頭部についてのキャラクタ変更データは、体型と同様に、拡大/縮小率が別途算出され、算出された拡大/縮小率に従って更新される。
たとえば、据え置き型ゲーム装置11のCPU11aは、データ受信プログラム41bに従って被写体の顔画像データおよび被写体特徴データを受信した後、当該顔画像データと当該被写体特徴データとに基づくキャラクタを生成することができる。具体的に説明すると、操作者がコントローラ12を操作して、体型を変更することについての指示を入力すると、これに応じて、図示しないキャラクタを選択するための画面(キャラクタ選択画面)がCRT14に表示される。このキャラクタ選択画面は、簡単に説明すると、受信した全ての(或いはその一部についての)被写体の顔画像データについての縮小画像(サムネイル画像)を並べて表示した画面である。
このキャラクタ選択画面において、操作者がコントローラ12を操作して、所望のキャラクタを選択すると、当該キャラクタを生成するための画面(キャラクタ生成画面)がCRT14に表示される。具体的には、図6に示すようなキャラクタ生成画面70がCRT14に表示される。キャラクタ生成画面70には、上述のようにして選択されたキャラクタの画像(キャラクタ画像)72が表示されるとともに、体型変更用画像データに従うメニュー画像74が表示される。
キャラクタ生成画面70が表示された当初では、キャラクタ72は、画像特徴データに従う特徴(性別、年齢、体型等)に応じて、予め記憶されている基本ポリゴンデータが読み出され、それに顔画像データおよび顔画像以外のテクスチャデータが貼り付けられ、図6に示すように、画面表示される。つまり、被写体を模したキャラクタが生成される。図示は省略するが、生成されたキャラクタ72を、アニメーションデータを用いて、アニメーション表示させることができる。
なお、このようなキャラクタの生成およびアニメーション表示等については、本件出願人が先に出願し、既に出願公開された特開2004−46793号公報に詳細に開示されているため、ここでは、その詳細な説明は省略することにする。
また、メニュー画像74には、選択された体型を表示する体型表示部74aと、頭部または体型の大きさを変更するための変更バー74bとが表示される。たとえば、体型表示部74aには、“細身”、“標準”、“太目”の3つの項目が表示され、変更バー74bで変更された体型に応じた項目に、太枠のカーソルが設定される。ただし、変更された体型に応じた項目の表示を色反転させるようにしてもよい。変更バー74には、三角印の目盛が表示され、操作者がコントローラ12を用いてカーソルを移動させることにより、当該目盛の位置が変化され、頭部や体型の大きさを変更することができる。
具体的には、目盛をプラス(+)側に移動させると、頭部や体型は大きくなり、逆に、目盛をマイナス(−)側に移動させると、頭部や体型は小さくなる。また、目盛の移動量に応じて、頭部や体型の大きさが変更される割合が異なる。ただし、目盛の位置に応じて、頭部や体型の大きさが変更される割合(拡大/縮小率)は、ゲームプログラマのような開発者によって予め設定されている。つまり、目盛の位置で、拡大/縮小率が設定(決定)されるのである。
なお、図6に示す例では、変更バー74bは変更されていないため、頭部や体型の大きさは変更されていない。
また、基本ポリゴンデータには、対応する骨組みデータが割り当てられている。図6に示すような標準の体型では、そのポリゴンデータに対応して、図7に示すような骨組みデータが記憶される。骨組みデータは、骨組みを構成する通常のボーン、ダミーボーンおよびジョイントについてのデータを含む。通常のボーンは、アニメーション表示する際、アニメーションデータに含まれる位置データに応じてその位置が制御される。つまり、動きが制御される。ダミーボーンは、ポリゴンデータに関連づけがされておらず、また、アニメーションデータに従って動くこともない。このため、図7に示すように、キャラクタ72が直立し、両手を下ろした状態において、肩関節(肩のジョイント)に接続され、腕ボーンの二の腕の位置に固定的に配置され、キャラクタ72の動作にかかわらず、その状態(位置)が維持される。ジョイントは、アニメーションデータに含まれる位置データに応じてその位置が制御される。
図8に示すように、操作者が変更バー74bを変更させて、体型が“太目”に変更されると、それに従ってキャラクタ72の体型が太目に変更される。このとき、基本ポリゴンデータは体型に応じた大きさに拡大される。また、基本ポリゴンデータが拡大されることに伴って、図9に示すように、骨組みデータも拡大される。ここで、図9からも分かるように、体型が拡大された場合には、両腕に相当する腕ボーンやそれに関連するポリゴンは、両腕を垂直に降ろした場合に比べて、少し開いた状態となっている。これは、太目の体型では、標準の体型と同様に腕を垂直に降ろしてしまうと、腕(手)がキャラクタ72の体内(たとえば、腹部)に食い込んで(入り込んで)しまい、所望でない画像がCRT14に表示されてしまうからである。
具体的に説明すると、図9の点線の円で囲む部分の肩のジョイント、腕ボーンおよびダミーボーンを拡大した図10に示すように、体型が太目に選択された場合には、当該肩のジョイントに接続される腕ボーンとダミーボーンとがなす角度θが所定値θmin以下にならないように制御してある。ただし、所定値θminは、キャラクタ72の体型の大きさすなわち体型の拡大/縮小率に応じて可変的に設定される。このように、所定値θmin以下にならないように、腕ボーンとダミーボーンとの角度θを制御することにより、上述したような所望でない画像がCRT14に表示されるのを回避することができる。このような制御は、キャラクタ生成画面70のように、静止画を表示する場合のみならず、キャラクタ72をアニメーションデータに従ってアニメーション表示(動画表示)する場合にも実行される。
具体的には、図2に示したCPU11aが図11および図12に示すフロー図に従って3次元画像生成およびアニメーション表示処理を実行する。CPU11aは、処理を開始すると、ステップS1で、キャラクタ生成初期設定を実行する。ここでは、RAM11bのワーク領域やバッファ領域を初期化(クリア)する。続くステップS3では、操作者に生成するキャラクタを選択させる。ここでは、図示しないキャラクタ選択画面を表示し、操作者によって、生成すべきキャラクタ72が選択される。
次のステップS5では、選択されたキャラクタ72についての基本ポリゴンデータを読み出す。続くステップS7では、基本ポリゴンデータに関連付けられた骨組みデータを読み出す。そして、ステップS9で、描画処理を実行する。つまり、読み出した基本ポリゴンデータに、顔画像データおよびテクスチャデータを貼り付けたキャラクタ72を生成し、図6に示したようなキャラクタ生成画面70をCRT14に表示する。
なお、上述したように、キャラクタ72を生成する当初では、携帯型ゲーム装置20から受信した顔画像データおよび被写体特徴データに従うキャラクタ72が生成される。
次に、ステップS11で、操作データを取得し、ステップS13で、拡大縮小かどうかを判断する。つまり、ステップS13では、ステップS11において取得した操作データが体型の拡大または縮小を指示するかどうかを判断する。ステップS13で“NO”であれば、つまり操作データが拡大または縮小を指示していなければ、そのままステップS23に進む。なお、ステップS11において操作データが取得されなかった場合にも、拡大または縮小の指示でないと判断される。
一方、ステップS13で“YES”であれば、つまり操作データが拡大または縮小を指示していれば、ステップS15で、体型の拡大または縮小があるかどうかを判断する。ここで、“NO”であれば、つまり頭部の拡大縮小であれば、そのまま図12に示すステップS23に進む。しかし、“YES”であれば、つまり体型の拡大縮小があれば、ステップS17で、体型についての拡大/縮小率を取得する。そして、ステップS19で、当該拡大/縮小率に応じた所定値θminを設定し、ステップS21で、後述するボーン角度制御処理(図13参照)を実行して、ステップS23に進む。ただし、ステップS19においては、体型が太目以外では、所定値θminは「0」に固定的に設定される。
図12に示すように、ステップS23では、キャラクタ生成処理を終了するかどうかを判断する。つまり、キャラクタ生成終了の指示が操作者によって入力されたかどうかを判断する。ステップS23で“NO”であれば、つまりキャラクタ生成処理の終了でなければ、図11に示したステップS9に戻る。一方、ステップS23で“YES”であれば、つまりキャラクタ生成処理の終了であれば、ステップS25で、アニメーション表示するかどうかを判断する。つまり、操作者によって、アニメーション表示の指示が入力されたかどうかを判断する。ステップS25で“NO”であれば、つまりアニメーション表示しない場合には、そのままステップS37に進む。
一方、ステップS25で“YES”であれば、つまりアニメーション表示する場合には、ステップS27で、アニメーションデータをRAM11bから読み出し、ステップS29で、描画キャラクタ(キャラクタ72)にアニメーションデータを当てはめる(適用する)。たとえば、ステップS27においては、アニメーションデータをランダムに選択し、または、所定のルールに従って選択し、RAM11bから読み出す。そして、ステップS29において、読み出したアニメーションデータに従って、キャラクタ72を動作させる。次のステップS31では、後述するボーン角度制御処理を実行し、ステップS33で、描画処理(アニメーション表示)を実行して、ステップS35に進む。
ステップS35では、アニメーション表示を終了するかどうかを判断する。つまり、アニメーション表示終了の指示があるかどうかを判断する。ステップS35で“NO”であれば、つまりアニメーション表示を終了しない場合には、ステップS27に戻る。つまり、次のアニメーションデータを選択し、キャラクタ72に適用する。一方、ステップS35で“YES”であれば、つまりアニメーション表示を終了する場合には、ステップS37に進む。
ステップS37では、キャラクタを生成するかどうかを判断する。つまり、キャラクタ生成の指示が入力されたかどうかを判断する。ステップS37で“YES”であれば、つまりキャラクタを生成する場合には、図11に示したステップS1に戻る。一方、ステップS37で“NO”であれば、つまりキャラクタを生成しない場合には、3次元画像生成およびアニメーション表示処理を終了する。
図13は、図11に示したステップS21および図12に示したステップ31のそれぞれで実行されるボーン角度制御処理を示すフロー図である。この図13を参照して、CPU11aがボーン角度制御処理を開始すると、ステップS51で、拡大値(拡大率)が所定値以上かどうかを判断する。つまり、太った体型が選択されているかどうかを判断する。ステップS51で、“NO”であれば、つまり拡大値が所定値未満であり、太った体型が選択されていないと判断すれば、ステップS61で、アニメーションデータに従って腕ボーンの位置データ(アニメーションデータに含まれる。)を更新して、ボーン角度制御処理をリターンする。
一方、ステップS51で“YES”であれば、つまり拡大値が所定値以上であり、太った体型が選択されていると判断すると、ステップS53で、両肩の関節について、それぞれ腕ボーンの位置データを読み出し、ステップS55で、ダミーボーンと腕ボーンとの角度θを算出する。そして、ステップS57で、ステップS55において算出した角度θが所定値θmin以下であるかどうかを判断する。
ステップS57で“NO”であれば、つまり角度θが所定値θminより大きければ、そのままステップS61に進む。一方、ステップS57で“YES”であれば、つまり角度θが所定値θmin以下であれば、ステップS59で、腕ボーンとダミーボーンとの角度θを所定値θminに設定して、ボーン角度制御処理をリターンする。つまり、ステップS59の処理により、腕ボーンとダミーボーンとがなす角度θが所定値θmin以下にならないように強制的に制御されるのである。
この実施例によれば、骨組みにダミーボーンを含んでおき、キャラクタが太った体型である場合には、腕ボーンとダミーボーンとがなす角度が所定値以下にならないようにするので、体型に拘わらず、共通のアニメーションデータを用いた場合であっても、不所望な画像が表示されるのを回避することができる。つまり、違和感のないキャラクタおよびそのアニメーションを表示することができる。
また、腕ボーンとダミーボーンとの角度を算出するだけなので、簡易かつ処理負担を軽減して、キャラクタを生成し、そのアニメーションを表示することができる。
なお、この実施例では、携帯型ゲーム装置20から受信した顔画像データや被写体特徴データを用いて、キャラクタを生成するようにしてあるが、顔画像データや被写体特徴データは、予めプログラマのような開発者が作成(用意)しておき、外部記憶媒体13から据置型ゲーム装置11にロードするようにしてもよい。
また、この実施例では、ポリゴンデータや骨組みデータは共通に用いるようにしたが、体型に応じたポリゴンデータおよび骨組みデータを用意しておき、選択された体型に応じたポリゴンデータおよび骨組みデータを選択するようにしてもよい。かかる場合には、記憶するデータ量は増加するが、ポリゴンデータや骨組みデータの拡大または縮小の演算処理は軽減される。
さらに、この実施例では、据置型ゲーム装置にモニタが接続された画像処理システムについてのみ説明したが、モニタが一体的に設けられた(携帯型)ゲーム装置、アーケードゲーム、ゲーム機能を備える携帯電話機、ゲーム機能を備える(携帯型)PCなどにも適用できることは言うまでもない。
この発明のゲームシステムの一例を示す図解図である。 図1実施例に示すゲームシステムの電気的な構成を示すブロック図である。 図1実施例に示す携帯型ゲーム装置に装着される撮像ユニットに設けられるROMのメモリマップを示す図解図である。 図1実施例に示す携帯型ゲーム装置を用いて顔画像を撮影する様子および被写体特徴データを入力する様子を説明するための図解図である。 図1実施例に示す据置型ゲーム装置に設けられるRAMのメモリマップを示す図解図である。 図1実施例に示すモニタに表示されるキャラクタ生成画面の一例を示す図解図である。 キャラクタ生成画面において標準の体型が選択されている場合のキャラクタに適用される骨組みデータの一例を示す図解図である。 図1実施例に示すモニタに表示されるキャラクタ生成画面の他の一例を示す図解図である。 キュラクタ生成画面において太目の体型が選択されている場合のキャラクタに適用される骨組みデータの一例を示す図解図である。 図9に示す骨組みデータの一部を拡大した拡大図である。 図2に示す据置型ゲーム装置に設けられるCPUの3次元画像生成およびアニメーション表示処理の一部を示すフロー図である。 図2に示す据置型ゲーム装置に設けられるCPUの3次元画像生成およびアニメーション表示処理の他の一部であり、図11に後続するフロー図である。 図2に示す据置型ゲーム装置に設けられるCPUのボーン角度制御処理を示すフロー図である。
符号の説明
10 …画像処理システム
11 …据置型ゲーム装置
12 …コントローラ
13 …据置型ゲーム装置用外部記憶媒体
14 …CRT
20 …携帯型ゲーム装置
21a …操作スイッチ
21b …LCDモニタ
22a …撮像ユニット

Claims (6)

  1. 操作者の操作入力に応じてキャラクタを含む3次元画像を生成する3次元画像生成装置であって、
    前記操作者が操作入力を行う操作手段、
    前記操作手段からの操作入力に応じてキャラクタ画像を生成するキャラクタ画像生成手段、
    前記キャラクタ画像を含む3次元画像を表示する表示手段、
    キャラクタの形を定義するポリゴンデータを記憶するポリゴンデータ記憶手段、
    ボーンと複数の前記ボーンを接続するジョイントとによって前記キャラクタの骨組みを定義する骨組みデータを、前記ポリゴンデータに関連付けて記憶する骨組みデータ記憶手段、
    少なくとも前記ポリゴンデータの一部を所望の大きさに拡大または縮小する拡大縮小値を設定する拡大縮小値設定手段、および
    前記骨組みデータは前記ポリゴンデータに関連づけされていないダミーボーンをさらに含み、当該ダミーボーンが接続されたジョイントにおいて、当該ダミーボーンと他のボーンとの角度を制御する関節角度制御手段を備え、
    前記キャラクタ画像生成手段は、前記ポリゴンデータおよび前記骨組みデータを用いるとともに、前記拡大縮小値に従ってキャラクタ画像を生成し、
    前記関節角度制御手段は、前記拡大縮小値に応じて、前記ダミーボーンと前記他のボーンとの角度が所定値以下にならないように制御する、3次元画像生成装置。
  2. 前記骨組みデータは、少なくとも前記キャラクタの肩のジョイントに接続される腕のボーンの位置にダミーボーンを含み、
    前記関節角度制御手段は、前記肩のジョイントにおいて、前記腕のボーンと前記ダミーボーンとの角度を制御する、請求項1記載の3次元画像生成装置。
  3. 前記ボーンの位置と前記ジョイントの位置との時系列変化についてのアニメーションデータを記憶するアニメーションデータ記憶手段、および前記キャラクタ画像生成手段によって生成されたキャラクタと前記アニメーションデータとを用いてアニメーションを前記表示手段に表示するアニメーション表示制御手段をさらに備える、請求項1または2記載の3次元画像生成装置。
  4. 操作者が操作入力を行う操作手段、
    キャラクタ画像を含む3次元画像を表示する表示手段、
    キャラクタの形を定義するポリゴンデータを記憶するポリゴンデータ記憶手段、および
    ボーンと複数の前記ボーンを接続するジョイントとによって前記キャラクタの骨組みを定義する骨組みデータを、前記ポリゴンデータに関連付けて記憶する骨組みデータ記憶手段を備える、画像生成装置であって、
    前記画像生成装置を3次元画像装置として機能される3次元画像生成プログラムにおいて、
    前記画像生成装置のコンピュータに、
    前記操作手段からの操作入力に応じてキャラクタ画像を生成するキャラクタ画像生成ステップ、
    少なくとも前記ポリゴンデータの一部を所望の大きさに拡大または縮小する拡大縮小値を設定する拡大縮小値設定ステップ、および
    前記骨組みデータは前記ポリゴンデータに関連づけされていないダミーボーンをさらに含み、当該ダミーボーンが接続されたジョイントにおいて、当該ダミーボーンと他のボーンとの角度を制御する関節角度制御ステップを実行させ、
    前記キャラクタ画像生成ステップは、前記ポリゴンデータおよび前記骨組みデータを用いるとともに、前記拡大縮小値に従ってキャラクタ画像を生成し、
    前記関節角度制御ステップは、前記拡大縮小値に応じて、前記ダミーボーンと前記他のボーンとの角度が所定値以下にならないように制御する、3次元画像生成プログラム。
  5. 前記骨組みデータは、少なくとも前記キャラクタの肩のジョイントに接続される腕のボーンの位置にダミーボーンを含み、
    前記関節角度制御ステップは、前記肩のジョイントにおいて、前記腕のボーンと前記ダミーボーンとの角度を制御する、請求項4記載の3次元画像生成プログラム。
  6. 前記画像生成装置は、前記ボーンの位置と前記ジョイントの位置との時系列変化についてのアニメーションデータを記憶するアニメーションデータ記憶手段をさらに備え、
    前記キャラクタ画像生成ステップによって生成されたキャラクタと前記アニメーションデータ記憶手段に記憶されたアニメーションデータとを用いてアニメーションを前記表示手段に表示するアニメーション表示制御ステップをさらに実行させる、請求項4または5記載の3次元画像生成プログラム。
JP2004135514A 2004-04-30 2004-04-30 3次元画像生成装置および3次元画像生成プログラム Expired - Lifetime JP4252490B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004135514A JP4252490B2 (ja) 2004-04-30 2004-04-30 3次元画像生成装置および3次元画像生成プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004135514A JP4252490B2 (ja) 2004-04-30 2004-04-30 3次元画像生成装置および3次元画像生成プログラム

Publications (2)

Publication Number Publication Date
JP2005316823A JP2005316823A (ja) 2005-11-10
JP4252490B2 true JP4252490B2 (ja) 2009-04-08

Family

ID=35444162

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004135514A Expired - Lifetime JP4252490B2 (ja) 2004-04-30 2004-04-30 3次元画像生成装置および3次元画像生成プログラム

Country Status (1)

Country Link
JP (1) JP4252490B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1983382B1 (en) 2007-04-20 2018-07-04 Ricoh Company, Ltd. Image forming apparatus

Also Published As

Publication number Publication date
JP2005316823A (ja) 2005-11-10

Similar Documents

Publication Publication Date Title
JP3847753B2 (ja) 画像処理装置、画像処理方法、記録媒体、コンピュータプログラム、半導体デバイス
JP5785254B2 (ja) 顔の表情のリアルタイムアニメーション
JP5089453B2 (ja) 画像処理装置、画像処理装置の制御方法及びプログラム
JPH10188028A (ja) スケルトンによる動画像生成装置、該動画像を生成する方法、並びに該動画像を生成するプログラムを記憶した媒体
JP2017021461A (ja) 操作入力装置および操作入力方法
US8643679B2 (en) Storage medium storing image conversion program and image conversion apparatus
US12062137B2 (en) Information processing apparatus, information processing method, and storage medium
JP5149547B2 (ja) ゲーム装置、ゲーム装置の制御方法及びプログラム
JP4689548B2 (ja) 画像処理装置、画像処理方法、記録媒体、コンピュータプログラム、半導体デバイス
JP3861070B2 (ja) ゲームシステム及びゲームプログラム
JP2020069317A (ja) ゲームプログラム、記録媒体、ゲーム処理方法
JP4252490B2 (ja) 3次元画像生成装置および3次元画像生成プログラム
JP2023065528A (ja) ヘッドマウント情報処理装置およびヘッドマウントディスプレイシステム
JP4637161B2 (ja) 画像処理装置、画像処理方法、及び、プログラム
JP6441426B1 (ja) キャラクタ動画表示システム
KR101135909B1 (ko) 게임 장치, 게임 장치의 제어 방법, 및 정보 기억 매체
JP2005305007A (ja) キャラクタ再生装置およびキャラクタ再生プログラム
JP7488856B2 (ja) ゲームプログラム、ゲームシステム、ゲーム装置およびゲーム制御方法
JP4637205B2 (ja) 表示装置、表示方法、ならびに、プログラム
US11443471B2 (en) Animation production method
JP4204525B2 (ja) 3次元画像生成装置および3次元画像生成プログラム
JP2001204958A (ja) カメラ制御方法、ゲーム装置及び記録媒体
JP4767331B2 (ja) 画像処理装置、画像処理方法、記録媒体、コンピュータプログラム、半導体デバイス
JP6746324B2 (ja) 情報処理装置、情報処理方法及びプログラム
JP2024107935A (ja) プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060512

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090114

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090120

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090121

R150 Certificate of patent or registration of utility model

Ref document number: 4252490

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120130

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120130

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120130

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130130

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130130

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130130

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees