JP3558288B1 - ゲーム環境内にオブジェクトをタグ付けすることによって動画制御を行うシステムおよび方法 - Google Patents

ゲーム環境内にオブジェクトをタグ付けすることによって動画制御を行うシステムおよび方法 Download PDF

Info

Publication number
JP3558288B1
JP3558288B1 JP2002309684A JP2002309684A JP3558288B1 JP 3558288 B1 JP3558288 B1 JP 3558288B1 JP 2002309684 A JP2002309684 A JP 2002309684A JP 2002309684 A JP2002309684 A JP 2002309684A JP 3558288 B1 JP3558288 B1 JP 3558288B1
Authority
JP
Japan
Prior art keywords
tag
character
moving image
video
active state
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2002309684A
Other languages
English (en)
Other versions
JP2004252496A (ja
Inventor
スターチ ヘンリー
カールズ ジェフ
茂 宮本
ダイアック デニス
ミューレイ キャリー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nintendo Co Ltd
Original Assignee
Nintendo Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nintendo Co Ltd filed Critical Nintendo Co Ltd
Priority to JP2002309684A priority Critical patent/JP3558288B1/ja
Application granted granted Critical
Publication of JP3558288B1 publication Critical patent/JP3558288B1/ja
Publication of JP2004252496A publication Critical patent/JP2004252496A/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)

Abstract

【課題】
キャラクタを仮想環境内で動画化する。
【解決手段】
ゲーム開発者は、ゲーム環境内のアイテムに「タグを付ける」ことができる。動画キャラクタが「タグ付けされた」アイテムの近くに歩いていくと、動画エンジンは、キャラクタの頭部の向きをそのアイテムのほうに変えることが可能であり、その行動をリアルで正常なものに見せるために必要な処理を自動的に計算する。また、タグを修正して、キャラクタが感情的な反応を示すようにしてもよい。例えば、タグ付けされた敵に対しては恐怖を示し、タグ付けされた動画化していないオブジェクトに対しては、無頓着で無関心な態度を取らせるようにしてもよい。
【選択図】 図2

Description

【0001】
【発明の属する技術分野】
本発明は、コンピュータグラフィックスに関し、より特定的には、動画表示を生成するためのコンピュータの使用法に関する。さらにより特定的には、本発明は、ビデオゲームや他の画像表現において、動画の自動制御を行うための技術に関する。特に、本発明は、仮想世界内に表示されているゲームキャラクタや他のグラフィックキャラクタが仮想世界と接触するとき、それらをより一層リアルに見せることができる反応性動画システムを提供する。例えば、反応性動画システムにより、仮想世界内のキャラクタが「タグ付けされた」要素(たとえば、3D世界内において関心を引く地点)に接近することで、表情、身振り、または他の種類の身体的、もしくは感情的な反応を示す仮想世界を作成することが可能となる。本発明は、予め各場面を用意したり、動画化したりしなくても、キャラクタに個性を与え、仮想環境内でキャラクタが生きているかのように見せることで、キャラクタを今まで以上によりリアルに表現することができる。
【0002】
【従来の技術】
多くの人々が、驚くほどリアルな恐竜、宇宙人、動画化されたおもちゃ、または他の架空の生き物を含む映画を目にしている。そのような動画を可能とするのがコンピュータグラフィックスである。こうした技術を用いることで、コンピュータグラフィックアーティストは、各オブジェクトの自然な外見や、年月の経過に伴い当然生じる外見上の変化を特定するだけでよく、その後はコンピュータがオブジェクトのモデルを作成し、作成したモデルをテレビやコンピュータのスクリーンなどのディスプレイ上に表示する。表示画像の各パーツすべてに適切な彩色を施し、ふさわしい形状を与えるために必要な多くの処理は、場面上の各オブジェクトの位置と向き、各オブジェクトに当たる光の差し込む方向、各オブジェクトの表面のテクスチュア、および他の要素に基づいて、コンピュータが行ってくれる。
【0003】
コンピュータグラフィックスの生成は複雑であるため、わずか数年前まで、コンピュータを用いて生成する3次元グラフィックスは、高価で特殊用途向けの、飛行シミュレータ、高性能グラフィックスワークステーション、およびスーパーコンピュータにほぼ限定されていた。これらのコンピュータシステムにより生成された画像の中には、映画や高額なテレビ広告の中で人々が目にしたものもあるが、ほとんどの場合、グラフィックスの生成を行うコンピュータと実際に触れ合うことはできなかった。このような状況が一変する契機となったのが、NINTENDO 64(登録商標)、NINTENDO GAMECUBE(登録商標)、および、現在パーソナルコンピュータに利用可能な、多様な3Dグラフィックスカードなどの、比較的安価な3Dグラフィックスプラットフォームの普及である。現在では、家庭や職場において、比較的安価なコンピュータグラフィックスシステム上で、エキサイティングな3D動画やシミュレーションと触れ合うことができる。
【0004】
グラフィックスシステムデザイナが直面してきたひとつの問題として、リアルタイムで、または、ほぼリアルタイムで、リアルな外観の動画モデルを効率良く作成し、レンダリングするにはどうしたらよいか、という点が挙げられる。より興味深く、かつ動的な動画を実現するために、数多くのビデオゲームやコンピュータゲームにおいて、人物、動物、および他のオブジェクトのモデルを作成し、動画化するために、キーフレーム変換や逆動力学などの、さまざまな動画技術が用いられている。例としては、オローク「3次元コンピュータ動画の原理」(W.W. ノートン 1998年)の、特に第3章、第4章を参照せよ(非特許文献1参照。)。そのような技術が多大な成果を上げている一方で、動画製作者たちは、動画キャラクタのあらゆる動きを予め制御したり、精緻に描き出したりしなくても、動画がよりリアルなものになる方法を追求し続けている。
【0005】
魅力的な一つの手法としては、動画キャラクタを動かす動画エンジンの性能をさらに向上させることが挙げられる。例えば、3次元環境内に「知能の高い」動画キャラクタを定義し、それにプログラム化された特質に基づいて、そのキャラクタを環境に反応させることが可能である。キャラクタの知能が十分高ければ、かなり複雑な反応であっても、リアルタイム動画エンジンによって動的な形で「早急に」作成することができるため、ゲーム開発者は、そうでない場合に動画シーケンスを予め用意するために必要となる、多大な時間および労力を省くことができる。例としては、1999年8月25日に出願された、米国特許出願番号No.09/382,819、コムエア他「コンピュータシミュレーションおよび動画用のオブジェクトモデリング」を参照せよ(特許文献1参照。)。
【0006】
【特許文献1】
米国特許出願第09/382,819号明細書
【非特許文献1】
オローク(O’Rourke)著、「3次元コンピュータ動画の原理(Principles of Three−Dimensional Computer Animation)」、W.W.ノートン(W.W.Norton)1998年、第3章、第4章
【0007】
【発明が解決しようとする課題および課題を解決するための手段】
そのような手法は成果を上げているが、さらなる技術的向上を果たすことは可能である。特に、オブジェクトにタグ付けすることにより、仮想空間内において、動画キャラクタがそのオブジェクトに対して注意を向けるようにする、新規で効率的な技術をわれわれは開発した。動画キャラクタがオブジェクトの近くに(例えば、ユーザによる制御に反応して)移動すると、本システムは、そのオブジェクトがタグ付けされているかどうか確認する。そのオブジェクトがタグ付けされている場合、動画エンジンはキャラクタを動画化し、タグ付けされたオブジェクトに(例えば、タグ付けされたオブジェクトに近接している間中、そのオブジェクトに視線を向けるように、または注視するようにキャラクタを動画化することにより)注意を向けさせる。一例として、タグベース動画エンジンは、キャラクタを動画化することで、タグ付けされたオブジェクトに対して注意を払わせながら、その方向へと向きを変えさせたり、それを直視させたりすることができる。その結果、どの方向にどの時点で顔を向けるかを動画キャラクタに指定するために通常必要とされる、典型的なプログラム上のオーバーヘッドを伴うことなく、非常にリアルなビジュアル効果がもたらされる。言い換えれば、本発明により、デザイナは、仮想世界のあらゆる場所にタグを定義することが可能であり、そのタグにある特性を付与することで、そのタグに対して所定の近さにまで近接したキャラクタに何らかの反応を起こさせることができる。例えば、キャラクタが歩いている仮想の廊下のような場面に複数個のタグを定義し、それらのタグに反応させることで、動画エンジンは、キャラクタにより一層リアルな様相を与え、あたかもキャラクタが生命を吹き込まれつつあるかのように見せる。タグは、現実世界で一般的に人間が反応するような種類のオブジェクトと関連付けられていることが望ましく、現実世界における同一の状況下において普通の人間が示すような反応を、動画キャラクタも示すように定義されていることが望ましい。こうして、仮想世界を動き回りながら、キャラクタは自身の周囲の環境に対して、より一層人間に近い反応を示すので、あたかもキャラクタが「生命を吹き込まれた」かのように見せることができる。
【0008】
本発明によれば、動画エンジンのタグ付けシステムは優先度ベースであることが望ましい。言い換えれば、各タグには一つの優先値が割り当てられており、その優先値を用いて動画エンジンは制御を行い、一つ以上のタグがアクティブな状態のときにどのタグを用いるかを判断する。環境内でタグに優先順位を付けることで、動画エンジンは、キャラクタに近接している可能性が常にある数個のタグの中から、キャラクタの現在の環境および/または状態に基づいて、キャラクタにとって最も関心の高い、タグ付けされたオブジェクトに注意を向けているかのように、または反応しているかのようにキャラクタを表示することができる。タグの優先順位付けというこの特徴により、キャラクタは、人間と同一、または同様のやり方で、反応に優先順位をつけることができるので、キャラクタをよりリアルに見せる効果がさらに高まる。例えば、現実世界において、人間は、典型的には、反応を引き起こす可能性が常にある数多くのオブジェクト(例えば、興味深い絵画、風景、その他のオブジェクトなど)やイベント(大きな物音、閃光、揺れなど)に遭遇する。しかしながら、本質的に人間は、その瞬間毎に最も重要と思われる一つのイベントに対して反応するのが普通である。例えば、典型的には、人間は、一枚の絵画を鑑賞中に別のオブジェクトから大きな音がした場合、鑑賞を中断し、音のした方向に素早く振り返る。その音が問題ないと判断してから、通常、その絵画の鑑賞を再開する。本発明の反応性動画システムは、音を発するオブジェクトをアクティブな状態にしつつ、そのタグに対して、一枚の絵画に関連付けられたタグより高い優先度を与えることで、こうした人間らしい動作と反応を生成することができる。こうして、環境内のタグ付けされたすべてのオブジェクトは、オブジェクトの性質などに基づいて割り当てられた相対的な優先度を有することが可能となる。
【0009】
特定の実施の形態において、タグ付けされたオブジェクトに注意を向けながら、ある種の感情をキャラクタが持つようなタグをオブジェクトに付けることができる。その感情は、例えば、恐怖、幸福感、またはその他の識別可能な感情であってよい。オブジェクトに恐怖を惹起するようなタグが付けられている場合、キャラクタは、そのオブジェクトのほうを振り向いて、恐怖の表情を浮かべるように動画化できる。幸福感を惹起するようなタグがつけられている場合、キャラクタは、そのオブジェクトのほうを振り向いて、満面の笑みを浮かべるように動画化できる。他の感情や反応も可能である。事実、タグは、感情的および/または身体的な反応とともに、キャラクタが有する可能性のある変数的な、またはロールプレイング的な要素に対応したあらゆる種類の反応を引き起こすように定義することができる。例えば、タグに応じてキャラクタの動画を改変することで、アクティブなタグの影響を受けている間、そのキャラクタが負傷していたり、病気であったり、または正気を失っているかのように見せることが可能である。
【0010】
【発明の効果】
本発明によると、タグがアクティブな状態にあるとき、キャラクタの動画はそのタグに合わせて改変される。所定の距離を置いてタグを囲む領域にユーザが入ったとき、および/または何か他の定義されたイベントに基づいて、アクティブな状態へとタグが変化する場合がある。動画の改変は、動的な動画シーケンスを、タグから提供される情報に基づいて作成するときに用いられる、キーフレームを定義して行うことが望ましい。動的な動画シーケンスは、望ましくは、当業者に「中割(インビトゥイーン)」および「逆動力学」として知られる技術を用いて生成される。中割により、キーフレーム間のフレームを動的な動画のために生成することが可能となり、逆動力学を用いることで、動画表示を行っている間、キャラクタの動きが自然なものとなる。タグがアクティブな状態に変化すると、キャラクタの動画表示は、遭遇したタグの種類に基づいて、元の一般的な動画、すなわち既成動画から、動的な動画へと改変される。従って、タグの影響下にある領域からキャラクタが離れるなどして、タグが非アクティブな状態に変わるまでの間、タグはキャラクタの動画に対する動的な修正をトリガする。
【0011】
本発明の反応性動画エンジンが提供する動的な動画を用いることで、出現しうるあらゆる場面用に予め動画を一から作成しなくても、キャラクタ(または他のオブジェクト)は、仮想環境を動き回りながらリアルな反応を示す。従って、本発明により、早急に、かつ予測不可能で現実味を帯びるように、動画を生成することが可能となる。その結果、考えられうる多くの変数に応じて、キャラクタの動画はさまざまに常に変化できる。こうして、キャラクタの動画が次にどう動くかが予測不可能となるため、表示画面のビジュアル効果を格段に高めることができる。本発明が有する重要な利点は、各動画を予め用意したり、一から作成したり、または格納したりしなくても、タグに基づいて、反応性の動画が早急かつリアルタイムで動的に生成されることから、無数の動画を用いてキャラクタを表示できることである。
【0012】
本発明の上述、および他の特徴と利点は、現時点において好ましい実施の形態に関する後述の詳細な説明を、図面とあわせて参照することで、より十全に理解できるものとする。
【0013】
【発明の実施の形態】
図1〜図5は、本発明の好ましい実施の形態による画面上の効果の例を示す。これらの図は、動画キャラクタ10が、図に示すような、大邸宅または城の廊下などのビデオゲーム環境を移動していることを示す。廊下の壁11にかけられているのは、絵画を表す3Dオブジェクト12である。オブジェクト12は、絵画周辺の一定の領域内にいる間は、キャラクタ10がそれに注意を向けるように指示するために、電子的に「タグ付け」されている。キャラクタ10が(例えば、ジョイスティック、または他のインタラクティブな入力装置によるユーザ操作に応じて)廊下を進み(図1参照)、タグ付けされたオブジェクト12に近づくと、キャラクタの動画は動的に改変されて、例えば、タグ付けされたオブジェクト12のほうを向くことで、キャラクタが、タグ付けされたオブジェクトに注意を向けているかのように変わる(図2参照)。本実施の形態において、キャラクタ10は、タグ付けされたオブジェクトの付近にいる間、そのオブジェクト10に視線を向け、注意を払い続けている(図3参照)。キャラクタは、タグ付けされたオブジェクト12の付近から移動して離れると(図4参照)、そこから向きを変えることで、オブジェクトに対して注意を向けることをやめる。動画キャラクタ10が、タグ付けされたオブジェクト12から所定の仮想の距離以上遠ざかると、もはやキャラクタはそのオブジェクトに注意を払わなくなり、オブジェクトもキャラクタに影響を及ぼさなくなる。
【0014】
図1に示すように、キャラクタが最初に廊下に入ったとき、廊下を歩いていることだけを示す、既存の一般的な動画に基づいて、キャラクタは動画化される。しかしながら、タグがアクティブな状態になる、すなわち、キャラクタが絵画12に近づいた場合、自然にキャラクタが絵画に注意を向けるように、本発明の反応性動画エンジンが動画を改変、または一部修正する。動画は、キーフレームを定義し、タグ情報(タグの位置と種類を含む)を用いることにより、既存の動画から改変されることが望ましい。より特定的には、キャラクタ用の動的な動画シーケンスを、キーフレームを用いながら、タグに基づいて生成(すなわち、計算)するために、中割および逆動力学が使用される。こうして、キャラクタがタグの付近にいる間、(既存の一般的な動画ではなくて)動的な動画シーケンスが表示される。しかしながら、タグがアクティブな状態でなくなると、キャラクタの動画は、格納された既成動画(例えば、キャラクタがまっすぐ前を見ながら通路を歩く状態のみを示す、予め用意してから格納した動画)に戻る。
【0015】
図1〜図5に示した画面上の効果において、オブジェクト12には、そのオブジェクトに対してキャラクタ10が注意を向けるように指示するコマンドはタグ付けされているが、感情的な反応を惹起するようなコマンドは付けられていない。従って、図1〜図5には、感情的な変化を示すことなく、タグ付けされたオブジェクト12に注意を向けるキャラクタ10が示されている。しかしながら、本発明によると、タグ付けされたオブジェクトに対してキャラクタ10が注意を向けることに加えて(または、注意を向ける代わりに)、何か他のことを行うように指示する付加データまたはコマンドを、オブジェクト12にタグ付けすることも可能である。例を一つ挙げて説明すると、タグ付けされたオブジェクト12は、ある感情または他の反応(例えば、恐怖、幸福感、好戦性、服従など)を惹起することがある。また別の例では、タグ付けされたオブジェクトが、キャラクタ10にとって魅力的であるどころか、むしろ嫌悪感を引き起こすために、例えば、キャラクタが逃げ出すようなものである場合もある。タグを使うことで、キャラクタの体のあらゆる部分(例えば、頭部、肩、足、腕などの位置)に生じる変化とともに、表情または姿勢の変化といった、あらゆる身体的、感情的、またはその二つが組み合わさった反応を定義することができる。
【0016】
図6は、好ましい実施の形態の動作理論を示す概念図の例である。図6において、3D世界のあるアイテムと関連付けられた「タグ」Tは、それが3D空間で有する座標に基づいて指定される。従って、ある特定のオブジェクト12をタグ付けするためには、3D空間内に存在する所望のオブジェクトの位置と対応するように、3D空間内に「タグポイント」または「タグ面」の場所を特定する。図6は、3D仮想世界の絵画上に定義された「タグ」T(説明の便宜上、キャラクタからタグに向かって目に見える線が引いてある)を示す。本発明によると、動画キャラクタ10は、「タグ」に向かって振り向くという反応を自動的に起こすことで、そのタグ付けされたオブジェクトに注意を向けているかのように見える。図6中の点線は、キャラクタ10の中心からタグTに向かうベクトルを示す。動画エンジンは、3D空間内のキャラクタ10およびタグTの相対的なポジションに基づいて、このベクトルを計算し、キャラクタを動的に動画化するときにこのベクトルを用いることができる。
【0017】
本発明の好ましい実施の形態によると、3D空間内において、タグTの数は何個でもよく、またタグTを置く場所は何箇所でもかまわない。動画キャラクタ10(または、別々のタグTに対して反応する可能性がある別々のキャラクタで構成された、あらゆるサブセット)の数は何個でもよく、そのすべてが3D世界を移動しながらタグに反応することができる。
【0018】
図7〜図11は、本発明における別の実施の形態を示す。本実施の形態では、キャラクタが歩いている廊下に2つのタグが定義されている。第1のタグT1は、上述の図1〜図5の表示シーケンス例で説明した絵画に設けられている。しかしながら、本実施の形態では、ろうそくが取り付けられた壁上に第2のタグT2が設けられている。この第2のタグは、第1のタグとは異なり、ろうそくが動画化されて、強い光を放つたいまつのように燃え上がったときにのみキャラクタが反応するように定義されている(図8参照)。第2のタグT2は、第1のタグT1よりも高い優先度が付与されている。反応性動画エンジンに組み込まれたプログラムにより、プレイヤは一度に一つのタグにしか反応できないが、そのタグは、あらゆるアクティブな状態のタグの中で最も高い優先度を有するものである。その結果、キャラクタ10が廊下を歩いている途中で2つのタグの付近に入った場合でも、ろうそくが燃え上がっていないことから、第2のタグはまだアクティブな状態ではない。従って、キャラクタは、唯一アクティブな状態であるタグT1(すなわち、絵画)に視線を向ける(図7参照)。しかしながら、ろうそくが燃え上がった場合、T1よりも高い優先度を有する第2のタグT2もアクティブな状態に変化するため、キャラクタは絵画の鑑賞を中断し、燃え上がるたいまつ(すなわち、最も高い優先度を有するアクティブなタグ)のほうに注意を向けることになる(図8参照)。たいまつの炎が小さくなり、通常のろうそくに戻ると、第2のタグT2はアクティブな状態ではなくなるため、反応性動画エンジンが働いて、キャラクタは再び絵画(すなわち、唯一アクティブなタグ)のほうに注意を向ける(図9参照)。キャラクタが絵画から遠ざかり始めると、キャラクタの頭部は自然に向きを変えて(図10参照)、格納された動画に対応する前方位置、すなわち、周囲に関心を払っていない状態の位置へと戻る(図11参照)。従って、本発明によると、キャラクタは、アクティブな状態にあるタグに対して、それらに付与された優先度に基づいて反応を示す。こうして、キャラクタには非常にリアルな様相が備わるため、環境内において生命を吹き込まれたかのように見える。上述したように、反応性動画エンジンEは、キャラクタの動画を動的に作成することで、環境内に定義されている各種のタグに対して、キャラクタが優先度に基づいて反応を示すようにする。
【0019】
(具体的な実施例)
図12は、インタラクティブな3Dコンピュータグラフィックシステム50の例を示す図である。システム50は、本発明の好ましい実施の形態により提供される興味深い動画を用いて、インタラクティブな3Dビデオゲームを行うために使用してもよい。また、システム50は、他の多様なアプリケーションに使用してもよい。
【0020】
本実施の形態において、システム50は、3次元世界のデジタルな表現やモデルを、リアルタイムでインタラクティブに処理することができる。システム50は、あらゆる任意の視点から、3次元世界の一部またはすべてを表示することができる。例えば、システム50は、ハンドヘルドコントローラ52a、52b、または他の入力装置からリアルタイムで行われる入力に応じて、インタラクティブに視点を変えることができる。このため、ゲームのプレイヤは、3次元世界の内部または外部にいる人物の目を通して、3次元世界を見ることができる。システム50は、リアルタイム3Dインタラクティブ表示を必要としない(例えば、2D表示生成および/または非インタラクティブ表示)アプリケーションに用いてもよいが、高品質な3D画像を瞬時に表示できる能力を生かして、非常にリアルでエキサイティングなゲームプレイや他のグラフィカルな対話の作成に使用してもよい。
【0021】
システム50を用いたビデオゲームや他のアプリケーションを行うために、ユーザは、まず、ケーブル58を用いて、メインユニット54を自分のカラーテレビ56や他の表示装置に接続する。メインユニット54は、カラーテレビ56を制御するために、ビデオ信号とオーディオ信号の両方を生成する。ビデオ信号は、テレビスクリーン59上に表示される画像を制御し、オーディオ信号は、テレビのステレオスピーカ61L、61Rを通じて、音声として再生される。
【0022】
ユーザは、メインユニット54を電源にも接続する必要がある。この電源は、標準的な家庭用電気コンセントに差し込んで、家庭用電流を、メインユニット54の動力として適切な低直流電圧に変換する、従来のACアダプタ(図示せず)でもよい。他の実施の形態では、バッテリを用いてもよい。
【0023】
ユーザは、ハンドコントローラ52a、52bを用いて、メインユニット54を制御してもよい。例えば、テレビ56に表示されるキャラクタが3D世界の中で動く方向(上下、左右、接近または後退)を指定するために、コントロールボタン60を用いてもよい。また、コントロールボタン60は、他のアプリケーション用の入力(例えば、メニュー選択、ポインタ/カーソル制御など)も行う。コントローラ52は、さまざまな形態のものであってよい。本実施の形態において、図示された各コントローラ52は、ジョイスティック、押しボタン、および/または方向指示スイッチなどのコントロールボタン60を含む。コントローラ52は、メインユニット54にケーブルで接続されてもよいし、電磁波(電波や赤外線など)を介してワイヤレスで接続されてもよい。
【0024】
ゲームなどのアプリケーションを行うために、ユーザは、プレイしたいビデオゲームや他のアプリケーションを格納した適切な記憶媒体62を選択し、その記憶媒体をメインユニット54のスロット64に挿入する。記憶媒体62は、例えば、特別にコード化および/または暗号化された、光学式および/または磁気ディスクであってもよい。ユーザは、電源スイッチ66を操作して、メインユニット54の電源を入れ、記憶媒体62に格納されているソフトウェアに基づいて、メインユニットにビデオゲームや他のアプリケーションを起動させてもよい。ユーザは、コントローラ52を操作して、メインユニット54に入力を行ってもよい。例えば、あるコントロールボタン60を操作することで、ゲームや他のアプリケーションを開始するようにしてもよい。他のコントロールボタン60を動かすことで、動画化された複数のキャラクタを別々の方向に動かしたり、3D世界におけるユーザの視点を変更したりしてもよい。記憶媒体62に格納されている特定のソフトウェアにしたがって、コントローラ52に搭載された各種のコントロールボタン60は、場合に応じてさまざまな機能を果たしてもよい。
【0025】
また、図12に示すように、大容量記憶装置62は、キャラクタが存在するビデオゲーム環境内に記憶されているタグに基づいて、キャラクタを動画化するために用いられる、タグベース動画エンジンEを特に格納している。次に、タグベース動画エンジンEの好ましい実施の形態を詳述する。好ましい実施の形態におけるそのようなタグベース動画エンジンEは、図13に示すシステム50のさまざまな構成要素を利用するが、その構成要素には、
メインプロセッサ(CPU)110、
メインメモリ112、および
グラフィックス/オーディオプロセッサ114が含まれる。
【0026】
本実施の形態において、メインプロセッサ110(例えば、エンハンストIBM Power PC 750など)は、グラフィックス/オーディオプロセッサ114を介して、ハンドヘルドコントローラ52(および/または他の入力装置)から行われる入力を受信する。メインプロセッサ110は、ユーザからの入力にインタラクティブに反応して、例えば、光学式ディスクドライブのような大容量記憶アクセス装置106を介して、外部記憶媒体62により提供されるビデオゲームや他のプログラムを実行する。一例を挙げると、ビデオゲームプレイと関連して、メインプロセッサ110は、さまざまな対話および制御機能に加え、衝突検出および動画処理を行うことができる。
【0027】
本実施の形態では、メインプロセッサ110は、3Dグラフィックスおよびオーディオコマンドを生成し、それらをグラフィックス/オーディオプロセッサ114に送る。グラフィックス/オーディオプロセッサ114は、これらのコマンドを処理することで、ディスプレイ59上に興味深いビジュアル画像を生成し、ステレオスピーカ61L、61R、または他の適切な音響発生装置から興味深いステレオ音響を発生させる。また、メインプロセッサ110およびグラフィックス/オーディオプロセッサ114は、DRAMメインメモリ112および大容量記憶装置62に格納された動画エンジンに関する指示およびデータE’に基づいて、好ましい実施の形態におけるタグベース動画エンジンEをサポートおよび実施する機能を行う。
【0028】
さらに図13に示すように、実施の形態中のシステム50は、ビデオエンコーダ120を含む。これは、グラフィックス/オーディオプロセッサ114から画像信号を受信し、その画像信号を、コンピュータのモニタや家庭用のカラーテレビ56などの標準的な表示装置に表示するのに適した、アナログおよび/またはデジタルビデオ信号に変換するものである。また、システム50には、オーディオコーデック(コンプレッサ/デコンプレッサ)122も含まれている。これは、デジタル化されたオーディオ信号を圧縮および復元するものであるが、必要に応じて、デジタルオーディオ信号フォーマットとアナログオーディオ信号フォーマットとを互いに変換してもよい。オーディオコーデック122は、バッファ124を介してオーディオ入力を受信し、それらをグラフィックス/オーディオプロセッサ114に渡して、処理(例えば、プロセッサが、大容量記憶アクセス装置106のストリーミングオーディオアウトプットを介して生成および/受信する、他のオーディオ信号とのミキシング処理など)を行わせることができる。本実施の形態におけるグラフィックス/オーディオプロセッサ114は、オーディオタスクに利用できるオーディオメモリ126に、オーディオ関連の情報を格納できる。結果として得られたオーディオアウトプット信号は、グラフィックス/オーディオプロセッサ114によりオーディオコーデック122に渡され、そこで復元された後、アナログ信号に(例えば、バッファ増幅器128L、128Rを介して)変換されるため、スピーカ61L、61Rにより再生することができる。
【0029】
グラフィックス/オーディオプロセッサ114は、システム50に組み込まれていてもよい多様な周辺装置と通信を行う能力を備える。例えば、大容量記憶アクセス装置106および/または他の構成要素と通信するために、パラレルデジタルバス130を用いてもよい。シリアル周辺バス132は、例えば、
プログラム化可能な読み取り専用メモリおよび/またはリアルタイムクロック134と、
モデム136、または他のネットワークインターフェース(これらを介して、プログラム指示および/またはプログラムデータを、相互にダウンロードまたはアップロードすることが可能な、インターネットや他のネットワークなどの通信ネットワーク138にシステム50を接続してもよい)と、
フラッシュメモリ140とを含む、さまざまな周辺機器および他の機器と通信を行ってもよい。
【0030】
さらに外部シリアルバス142を用いることで、周辺拡張メモリ144(例えば、メモリカードなど)や他の装置と通信してもよい。コネクタを用いて、さまざまな装置と、バス130、132、および142とを接続してもよい。システム50に関するさらなる詳細は、例えば、2000年11月28日に出願された、米国特許出願番号No.09/723,335、「3Dグラフィックシステム用の外部インターフェース」を参照せよ。
【0031】
図14は、本発明のタグベース動画エンジンEのフローチャートを簡略化して示したものである。動画エンジンEは、例えば、メインプロセッサ110上で実行するソフトウェアによって実現されてもよい。タグベース動画エンジンEは、まず、3D世界および動画ゲームプレイを初期化し(ステップ1002)、その後、例えば、ハンドヘルドコントローラ52を介して入力されるユーザ入力を受け取ってもよい(ステップ1004)。そのようなユーザ入力に応じて、エンジンEは、一つ以上の動画キャラクタ10を従来の方法で動画化し、そのキャラクタが、受け取ったユーザ入力に基づいて3D世界を動き回るようにしてもよい(ステップ1006)。また、タグベース動画エンジンEは、3D世界内に定義されたタグTの近くに、動くキャラクタがいるかどうか検出する(判断ステップ1008)。あるキャラクタ10がタグTの付近にいる場合、動画エンジンEはタグを読み取り、計算を(例えば、中割や逆動力学を利用して行うような数理的計算または関連モデリングを用いて)行い、キャラクタがリアルな様子でそのタグのほうを向いたり、他の方法でタグに反応したりするように、キャラクタ10用の動的な動画シーケンスを算出する(ステップ1010)。ゲームが終了するまで、または何か他のイベントによる中断が生じるまで、処理は継続して行われる(ステップ1004〜1010)。
【0032】
図15は、タグTのデータ構造例1100を示している。この構造例で示すように、データ構造1100には、他のタグとの判別用のタグIDフィールド1102、3D世界におけるタグの位置を特定する3次元(すなわち、X,Y,Z)位置座標フィールド1104、1106、1108(必要ならば、さらに任意の追加情報を付け加える)、キャラクタ10がタグに反応するために必要なタグへの近接度を指定する近接フィールド1110(必要がある場合)、引き出したい反応(例えば、タグに注意を向ける、タグから逃げ出す、特定の感情を示して反応する、など)の種類を特定するタグタイプまたは反応コード1112、および、同時にアクティブな状態でありうる他のタグに対する優先度を定義する優先度フィールド1114が含まれる。
【0033】
図16は、本発明の反応性動画エンジンEによる処理手順を示す、より詳細なフローチャート例である。3D世界およびゲームプレイが初期化されると(ステップ1302)、本システムは、環境内のキャラクタを従来の方法で操作するために、ユーザによる入力を受け取る(ステップ1304)。本システムは、まず、ゲームがキャラクタ用に提供する予め用意された既成動画を用いる(ステップ1306)。動画エンジンは、ゲームデザイナが3D世界内に定義したタグに対するキャラクタの位置を確認する(ステップ1308)。キャラクタがタグに近接していない場合、キャラクタは通常の動画のままである(ステップ1310)。しかし、タグが検出された場合(ステップ1308)、そのタグを読み取り、タグがキャラクタに引き起こすことになっている反応の種類、および3D世界におけるタグの正確な場所を判断する(ステップ1312)。その後、動画エンジンEは、キーフレーム(その一部、またはすべてが予め用意された動画のものであってもよい)およびタグ情報を用いて、遭遇した特定のタグに合わせて、動的にキャラクタの動画を改変、または一部変更する(ステップ1314)。動的な動画を生成するときには、スムーズに、かつリアルな様子でタグに反応する動画を提供するために、中割と逆動力学とを組み合わせて用いることが望ましい。特定の表情用動画を用いて、タグに対する感情や反応を、キャラクタが表情に示すようにしてもよい。これらの表情用動画は、定義された表情用動画プールから選択してもよい。また、中割やその他の適切な動画技術を用いて、タグに対するキャラクタの表情にさらなる修正や動的な変更を加えてもよい。その後、例えば、キャラクタがタグの領域から離れるなどして、タグがアクティブな状態でなくなるまで、動的な動画化は継続して行われる(ステップ1316)。動的な動画化が終了した後は、他のタグがアクティブな状態になるまで、標準動画、すなわち予め用意された動画が用いられる(ステップ1318)。
【0034】
図17は、アクティブな状態のタグに応じて動的な動画シーケンスを生成するために、本発明のタグベース動画エンジンEが行う処理手順を示すフローチャートの略図である。図17に見られるように、タグがアクティブな状態になると(ステップ1402)、動画エンジンはタグを読み取り、タグの種類、その正確な場所、およびタグに関連する他の情報を判断(ステップ1404)した後、動的な動画の作成時に用いるキーフレームを定義する(ステップ1406)。その後、中割および逆動力学とともに、キーフレームおよびタグ情報を用いて、早急にキャラクタ用の動画シーケンスを作成する(ステップ1408)。望ましくは、動的な動画シーケンスが標準動画を改変したものであると、動画の一部を修正するだけでよいので、動的な動画の提供に必要となる全体的な仕事量を削減することができる。言い換えると、動的な動画は、格納された動画、すなわち標準動画を、改変または一部変更した形で生成されることが望ましい。こうして、動的な動画化は、タグがアクティブな状態である間は継続して行われるが(ステップ1410)、タグがアクティブな状態でなくなると、キャラクタの動画は標準動画に戻る。
【0035】
図18は、本発明における、優先度ベースのタグ付けの特徴を示すフローチャートの例である。この特徴を用いることで、数個または多くのタグを同時にアクティブな状態にしながらも、優先度に基づくリアルな反応をキャラクタから引き出すことが可能となる。図18に見られるように、あるタグがアクティブな状態にあるとき、動画エンジンは、上述した他の処理も行いながら、そのタグの優先度を判断する(ステップ1504)。その後、動画エンジンは、この時点で他にアクティブな状態のタグがあるかどうか判断する(ステップ1506)。他にアクティブな状態のタグがない場合、動画エンジンは、上述の方法に従い、そのアクティブなタグに対応するように、動画を動的に改変したり、一部変更したりする(ステップ1508)。それとは逆に、この時点で一つ以上の他のタグがアクティブな状態である場合、反応性動画エンジンは、他のタグそれぞれについて優先度を確認し(ステップ1510)、現在アクティブな状態にある各タグに対して、当該タグがより高い優先度を有するかどうか判断する(ステップ1512)。当該タグが最も高い優先度を有する場合、動画エンジンは、当該タグに基づいて、動的にキャラクタの動画を生成する(ステップ1514)。逆に、他のアクティブなタグのほうが、アクティブな状態にある当該タグよりも高い優先度を有する場合、動画エンジンEは、最も高い優先度を有する他のタグに従って、動画を改変する(ステップ1516)。より高い優先度を有する他のタグがアクティブな状態でなくなっても、元の(すなわち、ステップ1502からの)タグがまだアクティブである場合、動画エンジンは、より高い優先度のタグが非アクティブになるとすぐに、元のタグに基づいて、キャラクタの動画を動的に生成する。こうして、タグ付けされていないオブジェクトからタグ付けされたオブジェクトへ、さらには、タグ付けされたオブジェクトから他のタグ付けされたオブジェクトへと、キャラクタの関心を、スムーズに、かつリアルな様子で移行させることができる。図7〜図11は、ここで説明したような優先度に基づく表示シーケンスの例を示している。
【0036】
上述の説明からわかるように、本発明の反応性動画エンジンEは、さまざまなビデオゲームおよび/または他のグラフィカルなアプリケーションにおいて用いることで、臨場感を高め、ゲームプレイを向上させることができる。本発明により、ゲーム環境内で「生命を吹きこまれ」たかのようにキャラクタを見せることが可能となる。本発明は、3D世界とキャラクタとの接触があり、そのキャラクタが、自身に何らかの種の影響を及ぼしうる多様なオブジェクトおよび/または他のキャラクタと遭遇する、ロールプレイングゲームに組み込まれた場合、特に利点がある。また、本発明の動画エンジンは、タグ付けされたオブジェクトに遭遇した時点でキャラクタが示す変数に応じて、同じタグが異なる影響を及ぼすように実施されてもよい。そのような変数としては、正気度に基づいたゲームにおけるプレイヤの「正気度」レベルが考えられるが、これに関しては、2000年2月24日に出願された、米国特許仮出願第60/184,656号明細書、「ビデオゲーム用の正気度システム」で説明されている。言い換えると、キャラクタが高い正気度レベルを有している場合、キャラクタがほとんど反応しないように、あるタグを定義してもよい。逆に、キャラクタが正気を失いかけている、すなわち低い正気度レベルを有している場合、その同じタグが、キャラクタに激しい反応(目が飛び出すなど)を引き起こすようにしてもよい。また、健康や体力のような、他の変数またはロールプレイング的要素を用いて、ゲーム中に任意のタイミングで、特定のタグが特定のキャラクタに対して引き起こす反応の種類を制御してもよい。また、上述のような優先度を付与したタグを怪物などの他のキャラクタに付けて、そのキャラクタが、他のオブジェクトのみならず、他のキャラクタに対しても反応するようにしてもよい。また、タグをアクティブな状態に変えるために、近接度以外の要素(上述のろうそく/たいまつの例におけるタイミングなど)を単独で、または近接度と併せて用いるようにタグを定義してもよい。
【0037】
現時点で最も実用的で好ましい実施の形態と考えられるものと関連付けて、本発明を説明してきたが、本発明は、開示された実施の形態に限定されるものではなく、逆に、添付した請求項の趣旨と範囲内に含まれる、さまざまな修正および同等の装置を網羅することを意図したものであると理解されたい。
【図面の簡単な説明】
【図1】本発明の好ましい実施の形態による、第1の動画シーケンス例に関する画面上の効果の例を示す図である。
【図2】本発明の好ましい実施の形態による、第1の動画シーケンス例に関する画面上の効果の例を示す図である。
【図3】本発明の好ましい実施の形態による、第1の動画シーケンス例に関する画面上の効果の例を示す図である。
【図4】本発明の好ましい実施の形態による、第1の動画シーケンス例に関する画面上の効果の例を示す図である。
【図5】本発明の好ましい実施の形態による、第1の動画シーケンス例に関する画面上の効果の例を示す図である。
【図6】タグの場所、およびキャラクタの目からタグへのベクトルを示す概念的な表示例を示す図である。
【図7】本発明の好ましい実施の形態による、第2の動画シーケンス例に関する画面上の効果例を示す図である。
【図8】本発明の好ましい実施の形態による、第2の動画シーケンス例に関する画面上の効果例を示す図である。
【図9】本発明の好ましい実施の形態による、第2の動画シーケンス例に関する画面上の効果例を示す図である。
【図10】本発明の好ましい実施の形態による、第2の動画シーケンス例に関する画面上の効果例を示す図である。
【図11】本発明の好ましい実施の形態による、第2の動画シーケンス例に関する画面上の効果例を示す図である。
【図12】図1〜図11の表示を作成するために用いられてもよいシステム例を示す図である。
【図13】図1〜図11の表示を作成するために用いられてもよいシステム例を示す図である。
【図14】本発明のタグベース動画エンジンによる処理手順を示すフローチャート例を示す図である。
【図15】本発明に関して用いられるタグのデータ構成例を示す図である。
【図16】本発明のタグベース動画エンジンによる処理手順を示す、より詳細なフローチャート例を示す図である。
【図17】本発明のタグベース動画エンジンによる、動的な動画シーケンスを生成するための処理手順を示すフローチャート例を示す図である。
【図18】タグベース動画エンジンによる、タグの優先度を管理するための処理手順を示すフローチャート例を示す図である。

Claims (4)

  1. ユーザにより制御されるキャラクタを仮想環境内で動画表示する方法であって、
    前記仮想環境内の複数の場所またはオブジェクトにタグを定義し、当該各タグは前記キャラクタが当該タグが定義された場所またはオブジェクトに反応することを指定し、当該各タグに優先度の情報が付与され、当該各タグはアクティブ状態と非アクティブ状態の間で変化可能であり
    ユーザの入力に応じ、予め用意された動画シーケンスを用いて前記キャラクタを動画表示する動画表示ステップ、
    アクティブ状態である前記タグのうち、最も高い前記優先度を有するタグに基づいて、前記キャラクタの動画をリアルタイムで動的に修正する第1修正ステップ、
    ある前記タグが非アクティブ状態からアクティブ状態に変化したときに、当該アクティブ状態に変化したタグの前記優先度と、アクティブ状態の他の前記タグそれぞれの前記優先度とを比較する比較ステップ、
    前記比較ステップによる比較に基づいて、アクティブ状態の他の前記タグのどれよりも、前記アクティブ状態に変化したタグの前記優先度が高い場合に、当該アクティブ状態に変化したタグに基づいて、前記キャラクタの動画をリアルタイムで動的に修正する第2修正ステップ、を処理する、キャラクタを仮想環境内で動画表示する方法
  2. 前記タグには反応の種類を指定する情報がさらに付与されており、
    前記第1修正ステップおよび前記第2修正ステップは、前記最も高い優先度を有するタグに付与された前記反応の種類を指定する情報に基づいて、前記キャラクタがおこなうべき反応の種類を決定することを特徴とする、請求項1に記載の方法。
  3. 前記第1修正ステップ、前記評価ステップ、前記第2修正ステップは、前記キャラクタが所定の近さにまで近接している前記タグを対象に処理をおこなうことを特徴とする、請求項1に記載の方法。
  4. 前記第1修正ステップおよび前記第2修正ステップでおこなわれる、リアルタイムで動的に行われる前記キャラクタ動画の修正には、前記タグが定義された前記仮想環境内の前記場所またはオブジェクトに対して、前記キャラクタの視線を向けさせることを含む、請求項1に記載の方法。
JP2002309684A 2002-10-24 2002-10-24 ゲーム環境内にオブジェクトをタグ付けすることによって動画制御を行うシステムおよび方法 Expired - Lifetime JP3558288B1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002309684A JP3558288B1 (ja) 2002-10-24 2002-10-24 ゲーム環境内にオブジェクトをタグ付けすることによって動画制御を行うシステムおよび方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002309684A JP3558288B1 (ja) 2002-10-24 2002-10-24 ゲーム環境内にオブジェクトをタグ付けすることによって動画制御を行うシステムおよび方法

Publications (2)

Publication Number Publication Date
JP3558288B1 true JP3558288B1 (ja) 2004-08-25
JP2004252496A JP2004252496A (ja) 2004-09-09

Family

ID=32948301

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002309684A Expired - Lifetime JP3558288B1 (ja) 2002-10-24 2002-10-24 ゲーム環境内にオブジェクトをタグ付けすることによって動画制御を行うシステムおよび方法

Country Status (1)

Country Link
JP (1) JP3558288B1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020018791A (ja) * 2018-08-03 2020-02-06 株式会社コーエーテクモゲームス 情報処理装置、配置方法及び配置プログラム
CN115185412A (zh) * 2022-07-15 2022-10-14 网易(杭州)网络有限公司 一种信息处理方法、装置、电子设备及可读存储介质

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5654216B2 (ja) * 2009-06-03 2015-01-14 株式会社バンダイナムコゲームス プログラム及びゲーム装置
JP6448478B2 (ja) * 2015-06-22 2019-01-09 株式会社コロプラ ヘッドマウントディスプレイを制御するプログラム。
EP3980880A4 (en) * 2019-06-06 2022-11-23 Magic Leap, Inc. PHOTOREAL CHARACTER CONFIGURATIONS FOR SPACE COMPUTING

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020018791A (ja) * 2018-08-03 2020-02-06 株式会社コーエーテクモゲームス 情報処理装置、配置方法及び配置プログラム
US10994205B2 (en) 2018-08-03 2021-05-04 Koei Tecmo Games Co., Ltd. Information processing apparatus, arrangement method, and arrangement program
CN115185412A (zh) * 2022-07-15 2022-10-14 网易(杭州)网络有限公司 一种信息处理方法、装置、电子设备及可读存储介质
CN115185412B (zh) * 2022-07-15 2023-08-11 网易(杭州)网络有限公司 一种信息处理方法、装置、电子设备及可读存储介质

Also Published As

Publication number Publication date
JP2004252496A (ja) 2004-09-09

Similar Documents

Publication Publication Date Title
US8976184B2 (en) System and method for controlling animation by tagging objects within a game environment
US7497779B2 (en) Video game including time dilation effect and a storage medium storing software for the video game
US10551993B1 (en) Virtual reality content development environment
US7905779B2 (en) Video game including effects for providing different first person experiences of the same video game world and a storage medium storing software for the video game
US8601379B2 (en) Methods for interactive communications with real time effects and avatar environment interaction
JP5785254B2 (ja) 顔の表情のリアルタイムアニメーション
CN102129343B (zh) 运动捕捉系统中的受指导的表演
TWI531396B (zh) 用於推動互動故事的自然使用者輸入
US6778948B1 (en) Method of creating a dynamic image, storage medium and program executing apparatus
US11957995B2 (en) Toy system for augmented reality
WO2022105552A1 (zh) 虚拟场景中的信息处理方法、装置、设备、介质及程序产品
US6646642B1 (en) Method of creating image frames, storage medium and apparatus for executing program
Zeng et al. Implementation of escape room system based on augmented reality involving deep convolutional neural network
Thorn Learn unity for 2d game development
JP3558288B1 (ja) ゲーム環境内にオブジェクトをタグ付けすることによって動画制御を行うシステムおよび方法
JP7449508B2 (ja) 情報処理システム、情報処理方法、及びプログラム
Freiknecht et al. Game Engines
JP4159060B2 (ja) 画像生成装置及び情報記憶媒体
EP4421592A1 (en) Content generation system and method
Trivedi et al. Virtual and Augmented Reality
WO2024179178A1 (zh) 虚拟对象的控制方法、装置、电子设备及存储介质
WO2022229639A2 (en) Computer-implemented method for controlling a virtual avatar
Effelsberg et al. Jonas Freiknecht, Christian Geiger, Daniel Drochtert
Madsen Supporting Interactive Dramaturgy in a Virtual Environment for Small Children
Madsen Supporting Interactive

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040514

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 3558288

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090528

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090528

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100528

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100528

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110528

Year of fee payment: 7

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110528

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120528

Year of fee payment: 8

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120528

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130528

Year of fee payment: 9

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130528

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130528

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140528

Year of fee payment: 10

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term